CNXSoft- новости Android-приставок и встраиваемых систем
Новости, инструкции, обзоры
Популярная платформа Home Assistant получила обновление версии 2025.3, включающее заголовки представлений панели управления, несколько улучшений плиток, оптимизацию кластеризации карт, потоковые ответы от LLM-моделей и расширенную интеграцию SmartThings.
Вы могли видеть мем «Продай мне эту ручку. С ИИ», если пользуетесь соцсетями. Возможно, это начиналось как шутка, но Закван Ахмад воплотил мем в реальность с «The One Smart AI Pen» — по сути, стандартной шариковой ручкой с аккумулятором, Bluetooth, картой microSD и микрофоном.
Arm Cortex-A320 — это энергоэффективное процессорное ядро Armv9, оптимизированное для приложений Edge AI и IoT, с повышением эффективности до 50% по сравнению с ядром Cortex-A520. Это самое компактное ядро Armv9 из представленных на сегодня.
Архитектура Armv9 была впервые представлена в 2021 году с акцентом на ИИ и специализированные ядра, за ней последовали первые ядра Armv9 — Cortex-A510, Cortex-A710, Cortex-X2 — анонсированные в том же году для флагманских мобильных устройств. С тех пор ядра Armv9 появились в большем спектре смартфонов , высокопроизводительных материнских платах на Armv9 и ТВ-приставках . Грядущий Rockchip RK3688 AIoT SoC также использует Armv9, но ориентирован на высокопроизводительные приложения. Новое ядро Arm Cortex-A320 расширит применение Armv9 для более широкого спектра IoT-устройств, включая энергоограниченные Edge AI устройства.
В поисках новых и интересных продуктов мы нашли серию DLAP Supreme от ADLINK, серию устройств Edge AI, на базе платформы NVIDIA Jetson AGX Orin. Но это не самое интересное, наше внимание привлекла поддержка технологии aiDAPTIV+ . Мы обнаружили, что aiDAPTIV+ AI представляет собой гибридное (программное и аппаратное) решение, которое использует легкодоступную недорогую флэш-память NAND для расширения возможностей графических процессоров для оптимизации и масштабирования работы с большими языковыми моделями (LLM) для малого и среднего бизнеса. Такая конструкция предлагает более рациональный подход, в отличие от традиционных методов, которые требуют значительных ресурсов и сложных вычислений, таких как Llama-2 7B.
Читать далее «Решение Phison aiDAPTIV+ AI использует SSD-накопители для расширения памяти графического процессора для обучения LLM»
Комплект разработчика ESP32 Agent — это голосовой помощник на базе ESP32-S3, который обеспечивает интеграцию с популярными моделями LLM, такими как ChatGPT, Gemini и Claude.
Wireless-Tag утверждает, что комплект разработчика подходит для «95% приложений AIoT: от устройств для умного дома до настольных игрушек, робототехники и инструментов».
Читать далее «ESP32 Agent Dev Kit — голосовой помощник на базе LLM, созданный на платформе ESP32-S3 (краудфандинг)»
Seeed Studio запустила кампанию Kickstarter для SenseCAP Watcher, физического агента ИИ, способного контролировать пространство и предпринимать действия на основе событий в этой области. Описанный как «первый в мире агент LLM в физической среде для создания более умных пространств», SenseCAP Watcher использует бортовые и облачные технологии для «преодоления разрыва между цифровым интеллектом и физическими приложениями».
Читать далее «SenseCAP Watcher — это управляемый голосом агент искусственного интеллекта в физической среде для мониторинга пространства на основе LLM (краудфандинг)»
Инструментарий Rockchip RKLLM (также известный как rknn-llm) — программный стек для развертывания генеративных моделей ИИ на Rockchip RK3588 , RK3588S или RK3576 SoC с использованием встроенного NPU производительностью 6 TOPS для ИИ.
Ранее тестировались LLM на одноплатных компьютерах Rockchip RK3588 с GPU Mali G610 , ожидалось скорое появление поддержки NPU. Публикация в X от Orange Pi сообщила о выпуске программного стека RKLLM, работающего с Orange Pi 5 семейством одноплатных компьютеров и Orange Pi CM5 системными модулями.
После изучения оборудования Radxa Fogwise Airbox в первой части обзора в прошлом месяце, теперь представилась возможность протестировать AI-бокс на базе SOPHGO SG2300x с предустановленным образом Ubuntu 20.04 Server, содержащим CasaOS, а также контейнеры Stable Diffusion и Llama3.
Вторую часть обзора начнём с проверки предустановленного генератора изображений Stable Diffusion и ИИ-чата Llama3, затем вручную установим в веб-интерфейсе CasaOS поисковую систему imgSearch на базе ИИ, протестируем Python SDK через командную строку и запустим модели компьютерного зрения Resnet50 и YOLOv8.