Начало работы с Raspberry Pi AI HAT+ (26 TOPS) и Raspberry Pi AI камерой

Raspberry Pi недавно представила несколько продуктов для ИИ, включая Raspberry Pi AI HAT+ для Pi 5 с производительностью 13 или 26 TOPS, а также менее мощную Raspberry Pi AI камеру , совместимую со всеми одноплатными компьютерами Raspberry Pi, имеющими разъем MIPI CSI. Компания предоставила образцы AI HAT+ (26 TOPS) и AI камеры для обзора, а также дополнительные аксессуары, такие как Raspberry Pi Touch Display 2 и защитный бампер Raspberry Pi. В этом материале представлен опыт начальной настройки, в основном следуя документации для AI HAT+ и AI камеры .

Raspberry Pi AI HAT+ and AI camera review

Используемое оборудование для тестирования

В этом руководстве/обзоре используется Raspberry Pi 5 с AI HAT+ и Raspberry Pi Camera Module 3 , тогда как AI камера подключена к Raspberry Pi 4. Также планируется использование одной из плат с новым Touch Display 2.

Raspberry Pi AI hardware

Краткий обзор новой аппаратуры для ИИ начнем с AI HAT+ на 26 TOPS.

Raspberry Pi AI HAT+ package content

В комплект входит сама плата AI HAT+ с установленным Hailo-8 26 TOPS AI акселератором , в отличие от модуля M.2, как в Raspberry Pi AI Kit — первом подобном решении от компании. Также включены 40-контактный stacking-разъем, пластиковые стойки и винты.

Raspberry Pi AI HAT+ bottom side

К плате HAT+ подключен шлейф, а на нижней стороне нет крупных компонентов — только пассивные элементы и множество тестовых точек.

В комплекте Raspberry Pi AI камеры присутствует модуль камеры с Sony IMX500 Intelligent Vision сенсором , 22-контактный и 15-контактный кабели для подключения к разъему MIPI CSI на различных платах Raspberry Pi, а также белое кольцо для ручной регулировки фокуса.

Raspberry Pi AI camera package content

Например, 22-контактный кабель подойдет для Raspberry Pi 5, а 15-контактный — для Raspberry Pi 4, поэтому в этом обзоре используется последний.

Крупный план модуля Raspberry Pi AI камеры.

Raspberry Pi AI camera board closeup

Установка Raspberry Pi AI HAT+ на Raspberry Pi 5

Обычно Raspberry Pi 5 используется с NVMe SSD, но это невозможно при установке AI HAT+ со стандартными аксессуарами от Raspberry Pi. Поэтому SSD и HAT были удалены, а Raspberry Pi OS загружается с официальной microSD карты Raspberry Pi .

Активный кулер остается на месте. Первый шаг установки — подключение stacking-разъема к 40-контактному GPIO-разъему Pi 5, монтаж стоек и подключение шлейфа PCIe, как показано на фото ниже.

Raspberry Pi AI HAT+ assembly

После этого можно установить HAT+ на разъем и закрепить четырьмя винтами.

Raspberry Pi 5 26 TOPS AI HAT+

Raspberry Pi Camera Module 3 подключена к Pi 5, но установка платы на Touch Display 2 невозможна из-за помех от HAT и проблем с подключением кабеля питания при использовании stacking-разъема.

Raspberry Pi 5 Camera Module 3 AI HAT+

Завершающий этап — снятие четырех винтов, фиксирующих стойки, установка защитного бампера на нижнюю сторону и его крепление теми же винтами.

Raspberry Pi 5 Bumper

Установка Raspberry Pi AI камеры и Touch Display 2 на Raspberry Pi 4

Подключим AI камеру к Raspberry Pi 4, сначала подсоединив 15-контактный кабель, как показано ниже, золотыми контактами к micro HDMI разъемам.

Raspberry Pi 4 AI camera cable assembly

Этого достаточно при использовании HDMI-монитора. Но для работы с Raspberry Pi Touch Display 2 необходимо подключить шлейф MIPI DSI и кабель питания, как показано ниже.

Raspberry Pi Touch Display 2 cables installation

Кабель питания можно подключить любой стороной, но при первой попытке была допущена ошибка — красный провод оказался слева, что привело к неработоспособности. Правильное подключение — черным проводом слева, как на фото выше.

Затем шлейф MIPI DSI подключается к Raspberry Pi 4 синей стороной к черной части разъема, после чего плата фиксируется четырьмя винтами. AI камера крепится к задней части дисплея на двусторонний скотч. Жаль, что Raspberry Pi не предусмотрела механизм крепления для своих камер.

Raspberry Pi AI camera Touch Display 2

Тем не менее, такая конфигурация работоспособна при размещении дисплея на держателе для смартфона.

Raspberry Pi Touch Display 2 AI camera Phone Stand

Начало работы с Raspberry Pi AI камерой: RPICam-apps и демо Libcamera2

Первым шагом была настройка дисплея в альбомной ориентации, так как Raspberry Pi OS по умолчанию запускается в портретном режиме. Для этого в Screen Layout Editor выбрано Layout->Screens->XWAYLAND0->Orientation->Right.

Raspberry Pi Touch DIsplay 2 landscape mode

Теперь можно установить прошивку, ПО и ресурсы для Raspberry Pi AI камеры одной командой, после чего потребуется перезагрузка.

Попробуем несколько демо из “rpicam-apps”, начиная с детекции объектов:

или запуск через SSH (удаленный доступ):

Вывод команды:

Первоначальная загрузка сетевой прошивки заняла несколько секунд, но последующие попытки выполняются быстро. Из-за нечеткого изображения пришлось вручную отрегулировать фокус с помощью белого кольца из комплекта камеры.

Raspberry Pi AI camera focus adjustment

Демо легко распознало человека и плюшевого медведя, но не смогло обнаружить бутылку, несмотря на изменение угла. Видео плавное, а вывод результатов выполняется быстро.

Raspberry Pi AI Camera MobileNet object detection

Все работает хорошо, за исключением расхождений между документацией и фактическими командами, но решение было найдено на форумах. Также выяснилось, что Scrot не делает скриншоты в Wayland (изображения получаются черными), поэтому пришлось перейти на утилиту Grim.

Попробуем другой пример: оценку позы.

Raspberry Pi AI Camera body segmentation

При первом запуске модель нужно передать на камеру, что заняло около 2 минут, но последующие запуски выполняются быстро. Трекинг работает в реальном времени без заметных задержек. Видео с демонстрацией сегментации тела и сравнением AI камеры с AI HAT+ будет представлено позже в этом обзоре.

Дополнительные модели доступны в директории imx500-models.

Raspberry Pi AI камера также поддерживает фреймворк Picamera2. Установим зависимости и демо-программы:

Попробуем запустить Yolov8:

Но результат оказался неожиданным:

Эта проблема известна не только мне , и выполнение следующей команды перед запуском:

позволяет продвинуться дальше, но все равно приводит к ошибке:

Еще один пользователь столкнулся с проблемой несоответствия размеров , но в данном случае очевидного решения нет. На 24 ноября 2024 года фреймворк Picamera2 несовместим с Raspberry Pi AI камерой. Надеемся, что это будет исправлено в ближайшие недели. Документация содержит подробности архитектуры и инструкции по развертыванию собственных моделей TensorFlow или Pytorch, но это выходит за рамки данного руководства.

Начало работы с Raspberry Pi AI HAT+

Raspberry Pi рекомендует включить PCIe Gen3 для оптимальной производительности, но в этом нет необходимости, так как PCIe Gen3 уже был активирован при тестировании официального SSD Raspberry Pi . Установим ресурсы Hailo и перезагрузим систему.

Заметим, что установка занимает около 900 МБ и включает драйвер ядра Hailo, прошивку, промежуточное ПО HailoRT, библиотеки постобработки Hailo Tappas и демо rpicam-apps с постобработкой Hailo.

Проверим, обнаружен ли акселератор Hailo-8 AI:

Вывод:

Серийные номера, номера деталей и название продукта отсутствуют — возможно, они отображаются только при использовании модулей Hailo формата M.2 или mPCIe.

Дополнительная информация о Hailo доступна в логах ядра:

Теперь можно скачать демо rpicam-apps с GitHub:

И протестировать один из примеров, как указано в документации:

Упс… не работает. На форуме Raspberry Pi рекомендуют использовать модели из /usr/share/rpi-camera-assets/ :

Теперь все работает, и результат похож на демо MobileNet для Raspberry Pi AI камеры, но YOLOv8 на AI HAT+ также распознает бутылку… Заметим, что добавлен параметр ориентации, так как крепление камеры требует поворота изображения на 180 градусов.

Raspberry Pi AI HAT+ Yolov8 object detection

Доступно также демо оценки позы:

Оно очень похоже на демо для AI камеры, но добавляет отслеживание носа и глаз, а также запускается мгновенно, даже при первом запуске.

Raspberry Pi AI HAT+ body segmentation

Все примеры скомпилированы для 13 TOPS акселератора Hailo-8L, а не для 26 TOPS чипа Hailo-8, но это не влияет на производительность с точки зрения пользователя. Запрошена информация у Raspberry Pi о наличии демо, специфичных для 26 TOPS Hailo-8, и материал будет обновлен после тестирования.

Документация для Raspberry Pi AI HAT+ менее подробная, чем для AI камеры, и пользователи перенаправляются в репозиторий hailo-rpi5-examples на GitHub за дополнительной информацией и в сообщество Hailo за поддержкой.

Сравнение демо оценки позы: Raspberry Pi AI камера vs AI HAT+

Первое впечатление: детекция объектов и оценка позы работают схожим образом на Raspberry Pi AI камере и AI HAT+ после настройки.

Raspberry Pi AI camera vs AI HAT+ segmentation demo

Основное различие для оценки позы — медленный первый запуск на AI камере из-за передачи модели (почти две минуты). Последующие запуски выполняются быстро, так как модель уже сохранена в памяти камеры. Yolov8 на AI HAT+ также добавляет отслеживание глаз и носа, но, вероятно, это связано с использованием другой модели, а не с ограничениями аппаратуры.

Хотя плата расширения мощнее на бумаге, и Raspberry Pi AI камера, и AI HAT+ могут запускать похожие демо. AI HAT+ использует PCIe и работает только с Raspberry Pi 5 и будущим модулем CM5, тогда как AI камера совместима с любым Raspberry Pi, имеющим разъем MIPI CSI. Демо загружаются медленнее при первом запуске на AI камере, но в остальном различий мало. Документация не всегда синхронизирована с фактическими командами для обоих устройств, и для успешного запуска демо пришлось обращаться к форумам. Оба устройства стоят одинаково ($70) для комплекта AI HAT+ на 13 TOPS, но большинству приложений с AI HAT+ потребуется модуль камеры Raspberry Pi. Комплект AI HAT+ на 26 TOPS, рассмотренный здесь, стоит $110.

Выражаем свою благодарность источнику, с которого взята и переведена статья, сайту cnx-software.com.

Оригинал статьи вы можете прочитать здесь.

0 0 votes
Article Rating
Подписаться
Уведомление о
guest

Этот сайт использует Akismet для борьбы со спамом. Узнайте, как обрабатываются ваши данные комментариев.

0 Комментарий
Inline Feedbacks
View all comments