Bosgame продемонстрировала запуск модели искусственного интеллекта DeepSeek-V3.1 (671 миллиард параметров) на кластере из семи мини-компьютеров.

Bosgame продемонстрировала принципы работы с использованием своих высокопроизводительных мини-компьютеров, M5 AIДля локального функционирования языковой модели DeepSeek-V3.1, обладающей внушительным объемом в 671 миллиард параметров, достаточно использовать всего лишь семь компактных персональных компьютеров.

Модель M5 AI, выпущенная в предыдущем году, по сути является стандартным компактным ПК на базе Ryzen AI Max+ 395 с объемом оперативной памяти 128 ГБ в максимальной комплектации. Естественно, несмотря на все потенциальные возможности этой платформы, она не рассчитана для обработки очень больших моделей искусственного интеллекта, однако производитель продемонстрировал возможность расширения её функциональности.

Этот процесс реализуется через USB4 Direct Connection, что позволяет объединить несколько мини-ПК в единую более мощную систему. При этом стоимость подобного подхода значительно ниже по сравнению с приобретением серверной фермы сопоставимой вычислительной мощности, а совокупное энергопотребление остаётся умеренным.

Кластер из семи узлов обеспечивает 896 ГБ объединенной памяти, причём до 672 Гб выделяется для графического процессора. Прямое соединение через USB4 даёт возможность устройствам функционировать совместно без необходимости применения традиционной централизованной серверной инфраструктуры.

Читать также:  Apple проявляет интерес к китайской компании CXMT: разработана технология производства передовой оперативной памяти DRAM независимо от импортных комплексов

Компания Bosgame подчеркивает возможность приобретения мини-ПК постепенно: сначала одного для ознакомления и тестирования, а затем при необходимости добавлять другие устройства с целью увеличения общей вычислительной мощности.

В прошлом году начальная стоимость наиболее производительного варианта подобной системы составляла приблизительно 1700 долларов США; в настоящее время же компания запрашивает за такой компьютер уже 2800 долларов.