Вышел Raspberry Pi AI HAT+ 2: ИИ-ускоритель с 40 TOPS и 8 ГБ памяти для запуска генеративных моделей

Компания Raspberry Pi представила новый ИИ-ускоритель Raspberry Pi AI HAT+ 2, предназначенный для одноплатных компьютеров Raspberry Pi и ориентированный на запуск генеративных моделей искусственного интеллекта. Новинка стала развитием выпущенного в конце 2024 года AI HAT+ и предлагает заметно более высокую производительность и расширенные возможности для работы с LLM.

В основе Raspberry Pi AI HAT+ 2 используется нейросетевой ускоритель Hailo-10H, обеспечивающий производительность до 40 TOPS при вычислениях INT4. Это заметный шаг вперёд по сравнению с предыдущей моделью AI HAT+, рассчитанной на 26 TOPS.

Одним из ключевых улучшений стало появление 8 ГБ собственной встроенной оперативной памяти. Благодаря этому плата способна работать с более крупными моделями, включая генеративные ИИ-решения, которые не могли быть запущены на оригинальном AI HAT+. По заявлению разработчиков, ускоритель поддерживает запуск таких моделей, как LLaMA 3.2 1B, DeepSeek R1-Distill 1.5B, Qwen2 1.5B и других LLM с размером до примерно 1,5 млрд параметров.

Примеры поддерживаемых моделей

На старте для Raspberry Pi AI HAT+ 2 будут доступны для установки следующие языковые модели (LLM), рассчитанные на локальный запуск:

Raspberry Pi AI HAT+ 2 рассчитан на использование с Raspberry Pi 5 и может применяться в проектах локального ИИ-анализа, компьютерного зрения, офлайн-чат-ботов, умных ассистентов и других сценариях, где требуется выполнение ИИ-моделей без обращения к облачным сервисам.

Новый Raspberry Pi AI HAT+ 2 уже доступен для заказа по цене 130 долларов США. Дополнительные сведения о характеристиках, совместимости и примерах использования опубликованы в официальном анонсе на сайте Raspberry Pi.