Опубликовано

Imagination DXTP GPU обещает на 20% более высокую энергоэффективность по сравнению с DXT GPU для мобильных устройств и ноутбуков.

Imagination представила графический процессор DXTP для мобильных и энергоограниченных устройств с энергоэффективностью до 20% выше, чем у предшественника — D-Series DXT GPU, что обеспечивает увеличение времени работы от батареи для приложений ИИ или сложных игр.

Компания заявляет, что GPU подходит для игр, пользовательских интерфейсов, приложений с насыщенной графикой, компьютерного зрения, генеративного ИИ и других приложений ИИ, предназначенных для работы на смартфонах, планшетах, ноутбуках, настольных компьютерах или автомобильных продуктах, не связанных с безопасностью.

Читать далее «Imagination DXTP GPU обещает на 20% более высокую энергоэффективность по сравнению с DXT GPU для мобильных устройств и ноутбуков.»

Опубликовано

LLMStick – USB-устройство AI и LLM на базе Raspberry Pi Zero W и оптимизированного llama.cpp

Ютуб-блогер и энтузиаст технологий Бинх Фам (Binh Pham) недавно создал портативное устройство с искусственным интеллектом и LLM, работающее по принципу plug-and-play, размещенное на USB-накопителе под названием LLMStick и построенное на базе Raspberry Pi Zero W. Это устройство воплощает концепцию локального LLM с принципом plug-and-play, которое можно использовать без подключения к Интернету.

Читать далее «LLMStick – USB-устройство AI и LLM на базе Raspberry Pi Zero W и оптимизированного llama.cpp»

Опубликовано

Реконфигурируемый периферийный компьютер Vaaman оснащен Rockchip RK3399 SoC и Efinix Trion T120 FPGA (краудфандинг)

Vaaman — это реконфигурируемый одноплатный периферийный компьютер, который объединяет шестиядерный процессор Rockchip RK3399 ARM с Efinix Trion T120 FPGA, предлагая реконфигурируемую платформу для периферийных вычислительных приложений. Плата сочетает гибкость FPGA с необработанной мощностью жесткого процессора для создания системы, способной адаптироваться к изменяющимся вычислительным требованиям в реальном времени.

Читать далее «Реконфигурируемый периферийный компьютер Vaaman оснащен Rockchip RK3399 SoC и Efinix Trion T120 FPGA (краудфандинг)»
Опубликовано

Boardcon SBC3576 – многофункциональный одноплатный компьютер Rockchip RK3576 с HDMI, mini DP, двумя портами GbE, WiFi 6, дополнительным модулем 5G/4G LTE и многим другим

Boardcon SBC3576 — это многофункциональный одноплатный компьютер (SBC) на базе системы-на-модуле MINI3576, работающий на базе AI SoC Rockchip RK3576 и оснащенный двумя 100-контактными и одним 44-контактным межплатными разъемами для взаимодействия с несущей платой.

Читать далее «Boardcon SBC3576 – многофункциональный одноплатный компьютер Rockchip RK3576 с HDMI, mini DP, двумя портами GbE, WiFi 6, дополнительным модулем 5G/4G LTE и многим другим»

Опубликовано

Платформа обработки видео на периферии оснащена NXP i.MX 8M Plus, i.MX 93 или i.MX 95 SoC, поддерживает до 23 типов камер

DAB Embedded AquaEdge — это компактный компьютер на базе SoC NXP i.MX 8M Plus, i.MX 93 или i.MX 95, работающий как платформа обработки видеоданных и поддерживающий 23 типа камер видеонаблюдения с разрешением от VGA до 12 МП и глобальным/скользящим затвором.

Читать далее «Платформа обработки видео на периферии оснащена NXP i.MX 8M Plus, i.MX 93 или i.MX 95 SoC, поддерживает до 23 типов камер»
Опубликовано

DeepSeek работает на Rockchip RK3588 с ИИ-ускорением на скорости около 15 токенов/с

Модель DeepSeek R1 вышла несколько недель назад, и Брайан Реммеле заявил о её локальном запуске на Raspberry Pi со скоростью 200 токенов в секунду, пообещав выпустить образ для Raspberry Pi «как только все тесты завершатся». Он уточнил, что Raspberry Pi 5 использовал несколько HAT, включая акселератор Hailo AI, но это вся доступная на данный момент информация; предполагается, что применялась дистиллированная модель с 1,5 миллиардами параметров.

Джефф Герлинг провёл собственные тесты с DeepSeek-R1 (Qwen 14B), но только на ЦПУ со скоростью 1,4 токена/с; позже для повышения производительности он установил видеокарту AMD W7700. Другие разработали модели TinyZero на основе DeepSeekR1, оптимизированные для Raspberry Pi, но они специализированы для задач обратного отсчёта и умножения и также работают только на ЦПУ. Поэтому было приятно увидеть инструкции от Radxa по запуску DeepSeek R1 (Qwen2 1.5B) на НПУ — точнее, 6 TOPS NPU-акселераторе SoC Rockchip RK3588 — с использованием инструментария RKLLM .

Читать далее «DeepSeek работает на Rockchip RK3588 с ИИ-ускорением на скорости около 15 токенов/с»

Опубликовано

Решение Phison aiDAPTIV+ AI использует SSD-накопители для расширения памяти графического процессора для обучения LLM

В поисках новых и интересных продуктов мы нашли серию DLAP Supreme от ADLINK, серию устройств Edge AI, на базе платформы NVIDIA Jetson AGX Orin. Но это не самое интересное, наше внимание привлекла поддержка технологии aiDAPTIV+ . Мы обнаружили, что aiDAPTIV+ AI представляет собой гибридное (программное и аппаратное) решение, которое использует легкодоступную недорогую флэш-память NAND для расширения возможностей графических процессоров для оптимизации и масштабирования работы с большими языковыми моделями (LLM) для малого и среднего бизнеса. Такая конструкция предлагает более рациональный подход, в отличие от традиционных методов, которые требуют значительных ресурсов и сложных вычислений, таких как Llama-2 7B.

Читать далее «Решение Phison aiDAPTIV+ AI использует SSD-накопители для расширения памяти графического процессора для обучения LLM»
Опубликовано

Vecow ECX-4000 — встраиваемая система Edge AI на базе процессора Intel Core Ultra 200S без вентилятора, оснащенная до 9 портами Ethernet

Тайваньская компания Vecow недавно выпустила серию ECX-4000 — безвентиляторную встраиваемую систему Edge AI на базе процессора Intel Core Ultra 200S с девятью портами Ethernet, включая два слота 10G SFP+, пятью портами 2,5GbE (из которых 4х поддерживают PoE+) и разъемом Gigabit Ethernet, расширением SUMIT (технология стекируемых унифицированных модулей) и резервным входом питания постоянного тока от 9 В до 50 В.

Читать далее «Vecow ECX-4000 — встраиваемая система Edge AI на базе процессора Intel Core Ultra 200S без вентилятора, оснащенная до 9 портами Ethernet»