CNXSoft- новости Android-приставок и встраиваемых систем
Новости, инструкции, обзоры
Конференция разработчиков Orange Pi состоялась 24 марта 2024 года в Шэньчжэне, Китай. Компания предоставила фотографии мероприятия, на котором обсуждались предстоящие платы и продукты, а также программная поддержка одноплатных компьютеров Orange Pi. Ниже представлен обзор ключевых анонсов по материалам мероприятия.
Было интересно протестировать искусственный интеллект (ИИ) и, в частности, большие языковые модели (LLM) на Rockchip RK3588, чтобы понять, как можно использовать GPU и NPU для их ускорения и каких показателей производительности ожидать. Мы читали, что LLM могут быть требовательны к вычислительным ресурсам и памяти, поэтому искали одноплатный компьютер (SBC) на Rockchip RK3588 с 32 ГБ ОЗУ, и Mixtile – компания, разрабатывающая аппаратные решения для различных применений, включая IoT, ИИ и промышленные шлюзы, любезно предоставила образец своего Mixtile Blade 3 pico-ITX SBC с 32 ГБ RAM для этих целей.
Хотя обзор фокусируется на использовании RKNPU2 SDK с примерами компьютерного зрения, работающими на 6 TOPS NPU, и тестировании GPU-ускоренной LLM (поскольку реализация NPU еще не готова), мы также провели распаковку для осмотра аппаратной части и краткое руководство по запуску Ubuntu 22.04 на Mixtile Blade 3.
Выставка Mobile World Congress 2024 (MWC 2024) только началась, и Qualcomm сделала три важных анонса: представление Snapdragon X80 5G модема с NB-NTN спутниковой связью, Qualcomm AI Hub с более чем 75 моделями ИИ, оптимизированными для процессоров Snapdragon, и чипа FastConnect 7900 WiFi 7 , Bluetooth и Ultra Wideband (UWB) .
Некоторые новые процессоры AMD Ryzen оснащены ИИ-движком (также называемым NPU или IPU), работающим в Windows 11, включая модели Ryzen 9 7940HS, Ryzen 7 7840HS, Ryzen 5 7640HS, Ryzen 7 7840U и Ryzen 5 7640U. Недавно завершено тестирование мини-ПК GEEKOM A7 на базе процессора AMD Ryzen 9 7940HS под управлением Windows 11 — публикация обзора пока отложена — поэтому было решено испытать ИИ-движок процессора Ryzen 9 7940HS.
Движок построен на архитектуре AMD XDNA , а AMD предоставляет инструкции для начала работы, включая примеры, демонстрации и ресурсы для разработчиков. Была предпринята попытка запуска примеров, но по причинам, указанным ниже, в итоге пришлось ограничиться демоверсиями.
Читать далее «Тестирование ИИ-движка AMD Ryzen 9 7940HS в Windows 11»
SunFounder PiCar-X 2.0 – это роботизированный автомобиль с искусственным интеллектом и автономным управлением, использующий Raspberry Pi 3/4 в качестве основной платы обработки. Он оснащен модулем камеры, перемещаемым сервоприводом с 2 осями для поворота или наклона камеры, ультразвуковым модулем для обнаружения удаленных объектов и модулем детектирования линии. Робот PiCar-X также способен выполнять задачи компьютерного зрения: распознавание цветов, обнаружение лиц, детектирование дорожных знаков, автоматическое избегание препятствий и автоматическое следование по линии.
Программирование PiCar-X возможно на двух языках: с помощью визуальной среды Ezblock Studio на основе Blockly (методом перетаскивания блоков) и на Python. Робот работает с библиотекой компьютерного зрения OpenCV и TensorFlow для задач ИИ. Дополнительно управление осуществляется через мобильное приложение SunFounder Controller. Компания предоставила нам образец Picar-X 2.0 для обзора, поэтому приступим.
Первая часть обзора включала распаковку и первичную загрузку Mixtile Core 3588E – совместимого с NVIDIA Jetson Nano/TX2 NX/Xavier NX/Orin Nano системного модуля Rockchip RK3588 в формате SO-DIMM с предустановленной Ubuntu 22.04 OEM.
Дополнительное время работы с комплектом разработчика (модуль Core 3588 16GB/128GB + базовая плата Leetop A206) позволило провести тесты низкоуровневых функций, бенчмарки, мультимедийные проверки с ускорением 3D-графики и воспроизведением видео, ИИ-тесты с использованием встроенного 6 TOPS NPU и инструментария RKNPU2, а также испытание системного модуля с базовой платой от комплекта разработчика NVIDIA Jetson Nano .
NVIDIA представила ряд анонсов на ROSCon 2023, посвящённых робототехнике и embedded-системам. Ключевыми новостями стали генеративный ИИ на модуле NVIDIA Jetson Orin и выход Jetpack 6 SDK в следующем месяце (ноябрь 2023 г.). Этот SDK, как обычно, поддерживает Ubuntu, но также совместим с другими ОС и платформами: Debian, Yocto, Wind River, Redhawk RTOS и Balena .
Последний год сопровождался ажиотажем вокруг генеративного ИИ благодаря сервисам вроде ChatGPT, Google Bard или Microsoft Bing Chat. Однако они используют проприетарное ПО на мощных облачных серверах. Как отмечалось в статье про автономное LLM-решение «ИИ в коробке» , существуют открытые проекты (например, модель преобразования речи в текст Whisper и языковые модели Llama2), способные работать на периферийных embedded-устройствах. Но платформы на базе Rockchip RK3588S или Raspberry Pi 4, по замечаниям читателей, часто не обладают достаточной производительностью и объёмом памяти для практического применения генеративного ИИ, хотя некоторые платы RK3588 теперь оснащаются 32 ГБ ОЗУ .
Читать далее «Генеративный ИИ на NVIDIA Jetson Orin, Jetpack 6 SDK с поддержкой нескольких ОС»
Ранее уже был проведен обзор одноплатного компьютера Youyeetoo YY3568 на базе Rockchip RK3568 с Android 11 — в первой части обзора были перечислены характеристики и рассмотрен комплект оборудования. Теперь появилась возможность переключиться на Lubuntu 20.04, провести базовые тесты и подробнее изучить RKNPU2 AI SDK для встроенного AI-ускорителя производительностью 0.8 TOPS, который присутствует в SoC Rockchip RK3568 .
Компания предоставляет образы как Debian , так и Ubuntu для YY3568, с разными вариантами в зависимости от загрузочного устройства (SD-карта или eMMC) и используемого видеоинтерфейса (DSI, eDP, HDMI).