Новая плата AI HAT+ 2 от Raspberry Pi позволит запускать генеративные ИИ-модели на локальном устройстве за 130 долларов

Новая плата AI HAT+ 2 от компании Raspberry Pi позволяет запускать ИИ-модели локально. Это усовершенствованная и более дорогая версия модуля, представленного ранее. В AI HAT+ 2 установлено 8 ГБ оперативной памяти и чип Hailo 10H, который обеспечивает производительность ИИ на уровне 40 TOPS. Стоимость платы составляет 130 долларов.

Благодаря AI HAT+ 2, Raspberry Pi 5 сможет передавать на неё задачи, требующие использования искусственного интеллекта, что позволит основному процессору Arm заниматься другими операциями. Если предыдущая версия AI HAT+ была разработана для обработки изображений, то AI HAT+ 2 имеет собственную оперативную память и позволяет запускать небольшие генеративные ИИ-модели, например, Llama 3.2, DeepSeek-R1-Distill и ряд моделей Qwen. Кроме того, устройство предоставляет возможность обучения и тонкой настройки ИИ-моделей.

На демонстрации, организованной с использованием Raspberry Pi, показано, как плата может быть применена для запуска модели, генерирующей текстовое описание происходящего в поле зрения камеры, и отвечающей на вопросы о наличии людей в кадре. Другой пример иллюстрирует возможность перевода текста с французского на английский язык при помощи Qwen2.

Не пропустите:  Новое поколение Mercedes-Benz S-класса: физические кнопки возвращаются

Блогер Jeff Geerling выяснил, что Raspberry Pi 5, оснащенный 8 ГБ оперативной памяти, в большинстве случаев демонстрирует более высокую производительность по сравнению с AI HAT+ 2 при использовании поддерживаемых моделей. Geerling объясняет это разницей в энергопотреблении: Raspberry Pi 5 способен работать от источника питания мощностью до 10 Вт, в то время как AI HAT+ 2 имеет ограничение в 3 Вт.

Несмотря на то, что AI HAT+ 2 может оказаться оптимальным выбором для определенных задач, Geerling подчеркивает, что увеличение объема оперативной памяти всего на 8 ГБ не позволяет этой плате обогнать по производительности модуль Pi с 16 ГБ оперативной памяти, который предоставит большую гибкость и позволит запускать модели быстрее. Оригинальная плата AI HAT+, представленная в прошлом году, также способна обрабатывать изображения с использованием искусственного интеллекта по более доступной цене — от 70 долларов.

Похожие статьи