CNXSoft- новости Android-приставок и встраиваемых систем
Новости, инструкции, обзоры
Ютуб-блогер и энтузиаст технологий Бинх Фам (Binh Pham) недавно создал портативное устройство с искусственным интеллектом и LLM, работающее по принципу plug-and-play, размещенное на USB-накопителе под названием LLMStick и построенное на базе Raspberry Pi Zero W. Это устройство воплощает концепцию локального LLM с принципом plug-and-play, которое можно использовать без подключения к Интернету.
Vaaman — это реконфигурируемый одноплатный периферийный компьютер, который объединяет шестиядерный процессор Rockchip RK3399 ARM с Efinix Trion T120 FPGA, предлагая реконфигурируемую платформу для периферийных вычислительных приложений. Плата сочетает гибкость FPGA с необработанной мощностью жесткого процессора для создания системы, способной адаптироваться к изменяющимся вычислительным требованиям в реальном времени.
Читать далее «Реконфигурируемый периферийный компьютер Vaaman оснащен Rockchip RK3399 SoC и Efinix Trion T120 FPGA (краудфандинг)»
Boardcon SBC3576 — это многофункциональный одноплатный компьютер (SBC) на базе системы-на-модуле MINI3576, работающий на базе AI SoC Rockchip RK3576 и оснащенный двумя 100-контактными и одним 44-контактным межплатными разъемами для взаимодействия с несущей платой.
DAB Embedded AquaEdge — это компактный компьютер на базе SoC NXP i.MX 8M Plus, i.MX 93 или i.MX 95, работающий как платформа обработки видеоданных и поддерживающий 23 типа камер видеонаблюдения с разрешением от VGA до 12 МП и глобальным/скользящим затвором.
Читать далее «Платформа обработки видео на периферии оснащена NXP i.MX 8M Plus, i.MX 93 или i.MX 95 SoC, поддерживает до 23 типов камер»
Модель DeepSeek R1 вышла несколько недель назад, и Брайан Реммеле заявил о её локальном запуске на Raspberry Pi со скоростью 200 токенов в секунду, пообещав выпустить образ для Raspberry Pi «как только все тесты завершатся». Он уточнил, что Raspberry Pi 5 использовал несколько HAT, включая акселератор Hailo AI, но это вся доступная на данный момент информация; предполагается, что применялась дистиллированная модель с 1,5 миллиардами параметров.
Джефф Герлинг провёл собственные тесты с DeepSeek-R1 (Qwen 14B), но только на ЦПУ со скоростью 1,4 токена/с; позже для повышения производительности он установил видеокарту AMD W7700. Другие разработали модели TinyZero на основе DeepSeekR1, оптимизированные для Raspberry Pi, но они специализированы для задач обратного отсчёта и умножения и также работают только на ЦПУ. Поэтому было приятно увидеть инструкции от Radxa по запуску DeepSeek R1 (Qwen2 1.5B) на НПУ — точнее, 6 TOPS NPU-акселераторе SoC Rockchip RK3588 — с использованием инструментария RKLLM .
Читать далее «DeepSeek работает на Rockchip RK3588 с ИИ-ускорением на скорости около 15 токенов/с»
В поисках новых и интересных продуктов мы нашли серию DLAP Supreme от ADLINK, серию устройств Edge AI, на базе платформы NVIDIA Jetson AGX Orin. Но это не самое интересное, наше внимание привлекла поддержка технологии aiDAPTIV+ . Мы обнаружили, что aiDAPTIV+ AI представляет собой гибридное (программное и аппаратное) решение, которое использует легкодоступную недорогую флэш-память NAND для расширения возможностей графических процессоров для оптимизации и масштабирования работы с большими языковыми моделями (LLM) для малого и среднего бизнеса. Такая конструкция предлагает более рациональный подход, в отличие от традиционных методов, которые требуют значительных ресурсов и сложных вычислений, таких как Llama-2 7B.
Читать далее «Решение Phison aiDAPTIV+ AI использует SSD-накопители для расширения памяти графического процессора для обучения LLM»
Тайваньская компания Vecow недавно выпустила серию ECX-4000 — безвентиляторную встраиваемую систему Edge AI на базе процессора Intel Core Ultra 200S с девятью портами Ethernet, включая два слота 10G SFP+, пятью портами 2,5GbE (из которых 4х поддерживают PoE+) и разъемом Gigabit Ethernet, расширением SUMIT (технология стекируемых унифицированных модулей) и резервным входом питания постоянного тока от 9 В до 50 В.
SECO анонсировала ранние инженерные образцы своей системы-на-модуле (SoM) SOM-SMARC-QCS5430 и комплект разработчика, предназначенных для поддержки IoT-приложений и периферийных вычислений. Созданный на основе процессора Qualcomm QCS5430, этот SMARC-совместимый SoM нацелен на промышленную автоматизацию, робототехнику, умные города и наблюдение.
Читать далее «SMARC-QCS5430 SMARC SoM и комплект разработчика от SECO включают Qualcomm QCS5430 SoC для приложений Edge AI и 5G»