CNXSoft- новости Android-приставок и встраиваемых систем
Новости, инструкции, обзоры
Конференция разработчиков Rockchip 2025 (RKDC!2025) проходит в Фучжоу, Китай. Среди анонсов — процессор Rockchip RK3668 с 10 ядрами Arm Cortex-A730/A530, NPU 16 TOPS и сопроцессор RK182X на RISC-V, поддерживающий LLM (Large Language Model) или VLM (Vision Language Model) до 7B параметров.
Тайваньская компания AMobile Solutions представила модули SoM-SD520 и SoM-SD720, построенные на MediaTek Genio 520 и Genio 720 соответственно и предназначенные для периферийного и генеративного ИИ с производительностью ИИ-вычислений до 10 TOPS.
Модули оснащаются до 16 ГБ LPDDR5, 128 ГБ UFS 3.1 и опциональным беспроводным модулем Wi-Fi 6/Bluetooth 5.2. Решения подходят для интеллектуального видеонаблюдения, промышленной автоматизации, терминалов умной розничной торговли/киосков самообслуживания, умного здравоохранения и других приложений, использующих периферийный или генеративный ИИ на устройстве.
NVIDIA DGX Spark может выглядеть как мини-ПК, но внутри скрывается мощный суперкомпьютер ИИ на базе 20-ядерной однокристальной системы NVIDIA GB10 Armv9 с архитектурой Blackwell, обеспечивающей производительность искусственного интеллекта до 1000 TOPS (FP4) и высокую пропускную способность памяти (273 ГБ/с) с 128 ГБ 256-битной памяти LPDDR5x.
Читать далее «NVIDIA DGX Spark – настольный суперкомпьютер ИИ на базе 20-ядерного процессора NVIDIA GB10 Armv9 SoC с производительностью искусственного интеллекта 1000 TOPS»
Существует множество модулей M.2 AI на основе таких ускорителей, как Hailo-8 , MemryX MX3 или Axelera AI, но модуль Geniatech AIM M2 основан на ускорителе ИИ Kinara Ara-2 40 TOPS, о котором мы еще не рассказывали здесь, на CNX Software.
Читать далее «Модуль Geniatech AIM M2 оснащен ускорителем искусственного интеллекта Kinara Ara-2 40 TOPS»
В поисках новых и интересных продуктов мы нашли серию DLAP Supreme от ADLINK, серию устройств Edge AI, на базе платформы NVIDIA Jetson AGX Orin. Но это не самое интересное, наше внимание привлекла поддержка технологии aiDAPTIV+ . Мы обнаружили, что aiDAPTIV+ AI представляет собой гибридное (программное и аппаратное) решение, которое использует легкодоступную недорогую флэш-память NAND для расширения возможностей графических процессоров для оптимизации и масштабирования работы с большими языковыми моделями (LLM) для малого и среднего бизнеса. Такая конструкция предлагает более рациональный подход, в отличие от традиционных методов, которые требуют значительных ресурсов и сложных вычислений, таких как Llama-2 7B.
Читать далее «Решение Phison aiDAPTIV+ AI использует SSD-накопители для расширения памяти графического процессора для обучения LLM»
Комплект разработчика ESP32 Agent — это голосовой помощник на базе ESP32-S3, который обеспечивает интеграцию с популярными моделями LLM, такими как ChatGPT, Gemini и Claude.
Wireless-Tag утверждает, что комплект разработчика подходит для «95% приложений AIoT: от устройств для умного дома до настольных игрушек, робототехники и инструментов».
Читать далее «ESP32 Agent Dev Kit — голосовой помощник на базе LLM, созданный на платформе ESP32-S3 (краудфандинг)»
Seeed Studio запустила кампанию Kickstarter для SenseCAP Watcher, физического агента ИИ, способного контролировать пространство и предпринимать действия на основе событий в этой области. Описанный как «первый в мире агент LLM в физической среде для создания более умных пространств», SenseCAP Watcher использует бортовые и облачные технологии для «преодоления разрыва между цифровым интеллектом и физическими приложениями».
Читать далее «SenseCAP Watcher — это управляемый голосом агент искусственного интеллекта в физической среде для мониторинга пространства на основе LLM (краудфандинг)»
Инструментарий Rockchip RKLLM (также известный как rknn-llm) — программный стек для развертывания генеративных моделей ИИ на Rockchip RK3588 , RK3588S или RK3576 SoC с использованием встроенного NPU производительностью 6 TOPS для ИИ.
Ранее тестировались LLM на одноплатных компьютерах Rockchip RK3588 с GPU Mali G610 , ожидалось скорое появление поддержки NPU. Публикация в X от Orange Pi сообщила о выпуске программного стека RKLLM, работающего с Orange Pi 5 семейством одноплатных компьютеров и Orange Pi CM5 системными модулями.