Модули, наборы для разработки и тесты ускорителей ИИ Rockchip RK1820/RK1828 SO-DIMM и M.2 LLM/VLM

Rockchip представила два ускорителя LLM/VLM RK182X на своей конференции для разработчиков в июле прошлого года: RK1820 с 2.5 ГБ ОЗУ для моделей с 3B параметров и RK1828 с 5 ГБ ОЗУ для моделей с 7B параметров.

Прошло несколько месяцев, и появилось больше деталей, так как теперь доступен набор для разработки на основе модуля SO-DIMM Rockchip RK1820/RK1828, выпущена базовая документация, а RK1828 был протестирован против NPU Rockchip RK3588. Также стало известно, что модули форм-фактора M.2 скоро появятся.

Читать далее «Модули, наборы для разработки и тесты ускорителей ИИ Rockchip RK1820/RK1828 SO-DIMM и M.2 LLM/VLM»

Платформа ESP Private Agents ставит целью облегчить разработку голосовых помощников с ИИ на базе ESP32 со встроенной обработкой данных.

Espressif представила платформу ESP Private Agents, чтобы помочь разработчикам создавать локальных, приватных и настраиваемых ИИ-ассистентов для устройств на базе ESP32 с обработкой на устройстве, хотя они также могут поддерживать гибридные ИИ-задачи, сочетающие обработку на устройстве и в облаке.

Платформа ESP Private Agents предлагает унифицированную структуру, которая позволяет разработчикам создавать приложения, сочетающие скорость, компьютерное зрение, автоматизацию и взаимодействие на основе агентов, например, многозадачного голосового агента с обработкой на устройстве (также известного как умная колонка) или агентов, ориентированных на задачи, которые автоматизируют рабочие процессы.

Читать далее «Платформа ESP Private Agents ставит целью облегчить разработку голосовых помощников с ИИ на базе ESP32 со встроенной обработкой данных.»

7.3-дюймовая полноцветная электронная бумага в деревянной рамке для фотографий, предназначенная для Raspberry Pi Zero.

Waveshare RPi-Zero-PhotoPainter-ACCE — это 7.3-дюймовая полноцветная электронная рамка для фотографий, разработанная для семейства Raspberry Pi Zero. Это дисплей с разрешением 800×480 на базе E-Ink Spectra 6 (E6), помещенный в деревянную рамку.

Дисплей также оснащен часами реального времени (RTC) с поддержкой резервной батареи, разъемом для LiPo-аккумулятора со «схемой ИБП», портом USB-C для питания, 3-контактным отладочным/последовательным заголовком, кнопкой питания и светодиодом индикации зарядки. Он поддерживает портретную и альбомную ориентацию на столе благодаря поворотной подставке и настенное крепление с помощью крюка.

Читать далее «7.3-дюймовая полноцветная электронная бумага в деревянной рамке для фотографий, предназначенная для Raspberry Pi Zero.»

$3499 Комплект для разработчиков NVIDIA Jetson AGX Thor оснащен модулем Jetson T5000 SoM с производительностью 2070 TOPS для робототехники и периферийного ИИ

NVIDIA представила настольное решение DGX Spark для разработки и прототипирования ИИ с производительностью до 1000 TOPS (FP4) несколько месяцев назад. Компания теперь анонсировала Jetson AGX Thor Developer Kit, который внешне похож, но предназначен для edge AI и робототехники с интерфейсами для камер и сенсоров.

Читать далее «$3499 Комплект для разработчиков NVIDIA Jetson AGX Thor оснащен модулем Jetson T5000 SoM с производительностью 2070 TOPS для робототехники и периферийного ИИ»

Модуль Geniatech AIM M2 оснащен ускорителем искусственного интеллекта Kinara Ara-2 40 TOPS

Существует множество модулей M.2 AI на основе таких ускорителей, как Hailo-8 , MemryX MX3 или Axelera AI, но модуль Geniatech AIM M2 основан на ускорителе ИИ Kinara Ara-2 40 TOPS, о котором мы еще не рассказывали здесь, на CNX Software.

Читать далее «Модуль Geniatech AIM M2 оснащен ускорителем искусственного интеллекта Kinara Ara-2 40 TOPS»

DeepSeek работает на Rockchip RK3588 с ИИ-ускорением на скорости около 15 токенов/с

Модель DeepSeek R1 вышла несколько недель назад, и Брайан Реммеле заявил о её локальном запуске на Raspberry Pi со скоростью 200 токенов в секунду, пообещав выпустить образ для Raspberry Pi «как только все тесты завершатся». Он уточнил, что Raspberry Pi 5 использовал несколько HAT, включая акселератор Hailo AI, но это вся доступная на данный момент информация; предполагается, что применялась дистиллированная модель с 1,5 миллиардами параметров.

Джефф Герлинг провёл собственные тесты с DeepSeek-R1 (Qwen 14B), но только на ЦПУ со скоростью 1,4 токена/с; позже для повышения производительности он установил видеокарту AMD W7700. Другие разработали модели TinyZero на основе DeepSeekR1, оптимизированные для Raspberry Pi, но они специализированы для задач обратного отсчёта и умножения и также работают только на ЦПУ. Поэтому было приятно увидеть инструкции от Radxa по запуску DeepSeek R1 (Qwen2 1.5B) на НПУ — точнее, 6 TOPS NPU-акселераторе SoC Rockchip RK3588 — с использованием инструментария RKLLM .

Читать далее «DeepSeek работает на Rockchip RK3588 с ИИ-ускорением на скорости около 15 токенов/с»

EQSP32 — это промышленный контроллер Интернета вещей без кода и припоя, работающий на базе помощника по программированию с генеративным искусственным интеллектом. (Краудфандинг).

Контроллер EQSP32 — это комплексное решение для приложений Интернета вещей, которое недавно было запущено на Kickstarter. Это компактный беспроводной промышленный IoT-контроллер на базе беспроводной ESP32-S3 SoC с двухъядерным процессором 250 МГц, 512 КБ оперативной памяти и 8 МБ флэш-памяти. В продукте используется искусственный интеллект, а код для проектов автоматизации может генерироваться автоматически с помощью встроенного помощника по программированию с генеративным искусственным интеллектом.

Читать далее «EQSP32 — это промышленный контроллер Интернета вещей без кода и припоя, работающий на базе помощника по программированию с генеративным искусственным интеллектом. (Краудфандинг).»

MediaTek снизила показатели эффективности мобильного процессора Dimensity 9300 Cortex-X4/A720

MediaTek Dimensity 9300 — то восьмиядерный мобильный SoC премиум-класса 5G с двумя кластерами из четырех ядер Cortex-X4 и четырьмя ядрами Cortex-A720, но без ядра эффективности Cortex-A520, плюс новейший графический процессор Arm Mali-G720 и процессор MediaTek. Нейронный процессор APU 790 (NPU), способный поддерживать генеративный искусственный интеллект и больших языковых моделей (LLM) с числом до 33 миллиардов параметров.

Читать далее «MediaTek снизила показатели эффективности мобильного процессора Dimensity 9300 Cortex-X4/A720»