Мини-компьютер, не больше смартфона, установил рекорд Гиннесса: запускает ИИ на 120 миллиардов параметров.

Компания Tiiny AI выпустила мини-компьютер AI Pocket Lab. Это чрезвычайно компактное устройство, сопоставимое по размеру со смартфоном (хотя и более толстое, оно уже занесено в Книгу рекордов Гиннесса в номинации «Мини-ПК с локальной LLM (100B).

Речь идет о самом компактном компьютере, который может локально запускать большие языковые модели, обладающие 100 миллиардами параметров. Более конкретно, представители компании заявляют о 120 миллиардах параметров.

Источник изображения: img.freepik.com

Пока что не все детали известны, однако уже стало известно, что в основу нового устройства положен 12-ядерный процессор, построенный на базе архитектуры Arm v9.2. По предварительным данным, в дополнение к процессору предусмотрена гетерогенная однокристальная система и дискретный NPU, которые вместе обеспечивают вычислительную мощность в 190 TOPS.

Объём памяти LPDDR5X в 80 ГБ производит заметное впечатление, особенно с учётом размеров устройства. Кроме того, предусмотрен SSD ёмкостью 1 ТБ.

Развитие облачного искусственного интеллекта ознаменовало значительный прогресс, однако оно же породило зависимость, уязвимость и вопросы устойчивости. Мы в Tiiny AI Pocket Lab убеждены, что интеллект должен принадлежать не дата-центрам, а людям. Это первый шаг к тому, чтобы сделать передовой ИИ действительно доступным, конфиденциальным и персонализированным, переместив возможности больших моделей из облака на каждое устройство

Энергопотребление устройства составляет приблизительно 65 Вт, что обусловило наличие активной системы охлаждения. Его размеры равны 142 х 80 х 25,3 мм, а вес – 300 г. Информация о стоимости пока недоступна.

Не пропустите: Илон Маск назвал Starship в три раза мощнее ракете NASA, полетевшей на Луну

DigitalArtSpace

Мини-компьютер, не больше смартфона, установил рекорд Гиннесса: запускает ИИ на 120 миллиардов параметров.

Свежие записи

Пишем о железе, софте и всём, что между ними.