Raspberry Pi AI HAT+ 2

Raspberry Pi AI HAT+ 2 — офіційна плата апаратного прискорення штучного інтелекту для Raspberry Pi 5. Вона побудована на нейронному процесорі Hailo-10H, забезпечує продуктивність до 40 TOPS (INT4) та оснащена 8 ГБ власної оперативної пам'яті LPDDR4X.

AI HAT+ 2 призначена для локального запуску моделей штучного інтелекту без необхідності передавати дані у хмарні сервіси. Плата підходить для генеративного AI, великих мовних моделей (LLM), vision-language моделей (VLM), комп'ютерного зору, робототехніки та інших Edge AI-застосувань.

Hailo-10H та продуктивність до 40 TOPS

Основою Raspberry Pi AI HAT+ 2 є нейронний процесор Hailo-10H, оптимізований для виконання сучасних AI-моделей. Прискорювач забезпечує продуктивність до 40 TOPS при INT4-обчисленнях та бере на себе ресурсоємні операції нейронних мереж, залишаючи центральний процесор Raspberry Pi 5 доступним для інших задач.

У задачах комп'ютерного зору AI HAT+ 2 забезпечує високу продуктивність для розпізнавання об'єктів, сегментації, оцінки пози, аналізу відеопотоку та одночасного виконання декількох моделей.

8 ГБ власної пам'яті LPDDR4X

Однією з головних особливостей AI HAT+ 2 є 8 ГБ виділеної оперативної пам'яті LPDDR4X. Вона використовується безпосередньо AI-прискорювачем та не займає оперативну пам'ять Raspberry Pi 5.

Наявність власної пам'яті дозволяє працювати з більшими AI-моделями та відкриває можливість локального запуску LLM і VLM приблизно до 6 мільярдів параметрів залежно від конкретної моделі, квантизації та програмної оптимізації.

Локальні LLM, VLM та Generative AI

Raspberry Pi AI HAT+ 2 суттєво розширює можливості Raspberry Pi 5 у сфері генеративного штучного інтелекту. На її основі можна створювати локальні AI-системи, які працюють без постійного доступу до зовнішніх серверів.

Серед можливих сценаріїв використання:

• локальні чат-боти та AI-асистенти;
• робота з великими мовними моделями (LLM);
• vision-language моделі (VLM);
• аналіз та опис зображень;
• розпізнавання мовлення;
• локальна обробка документів і текстів;
• генеративні AI-застосунки;
• автономні Edge AI-пристрої.

Комп'ютерний зір та робота з камерами

Крім генеративного AI, Raspberry Pi AI HAT+ 2 підтримує класичні задачі машинного та комп'ютерного зору. Нейропроцесор може прискорювати аналіз відео та зображень у реальному часі, не перевантажуючи процесор Raspberry Pi 5.

• детекція та класифікація об'єктів;
• семантична та instance-сегментація;
• оцінка пози людини;
• аналіз декількох відеопотоків;
• робототехніка;
• системи відеоспостереження;
• машинний зір;
• промислова автоматизація.

Плата інтегрується з програмним стеком камер Raspberry Pi. Сумісні застосунки на базі rpicam-apps та Picamera2 можуть використовувати прискорювач Hailo для виконання підтримуваних AI-задач.

Підключення до Raspberry Pi 5

AI HAT+ 2 підключається до Raspberry Pi 5 через інтерфейс PCI Express. Актуальні версії Raspberry Pi OS підтримують обладнання Hailo та дозволяють використовувати нейронний процесор у сумісному програмному забезпеченні.

Конструкція плати відповідає форм-фактору HAT+ та дозволяє встановлювати її над Raspberry Pi 5 разом з офіційним активним охолодженням.

AI HAT+ 2 або AI HAT+ 13/26 TOPS

На відміну від першого покоління Raspberry Pi AI HAT+ із прискорювачами Hailo-8L та Hailo-8, новий AI HAT+ 2 використовує Hailo-10H та має 8 ГБ власної пам'яті.

Raspberry Pi AI HAT+ 13/26 TOPS насамперед орієнтований на комп'ютерний зір та inference нейронних мереж. AI HAT+ 2 додатково розрахований на роботу з генеративними моделями, LLM та VLM. Тому вибір залежить від задач проєкту: для розпізнавання об'єктів і відеоаналітики може бути достатньо першого AI HAT+, а для локального Generative AI доцільніше використовувати AI HAT+ 2.

Основні характеристики Raspberry Pi AI HAT+ 2

• AI-прискорювач: Hailo-10H;
• продуктивність: до 40 TOPS (INT4);
• власна пам'ять: 8 ГБ LPDDR4X;
• підтримка LLM та VLM;
• підтримка задач комп'ютерного зору;
• сумісність: Raspberry Pi 5;
• інтерфейс підключення: PCI Express;
• форм-фактор: HAT+;
• інтеграція з програмним стеком Raspberry Pi;
• робоча температура: 0…50 °C.

Комплектація

У комплект входять Raspberry Pi AI HAT+ 2, радіатор для плати, 16-мм GPIO stacking header, стійки та кріплення для встановлення на Raspberry Pi 5.

Зверніть увагу: Raspberry Pi 5 та Raspberry Pi Active Cooler до комплекту не входять.