Опубликовано

LLM с 28,9 млн параметров работает локально на ESP32-S3 со скоростью 9 токенов/с

Slava S. (slvDev) оптимизировал LLM с 28,9 млн параметров, работающую локально на отладочной плате ESP32-S3, со скоростью около 9 токенов/с при генерации текста, а точнее, при написании коротких рассказов.

Ранее уже публиковались материалы о LLM и ESP32, но обычно эти платы используются как энергоэффективные шлюзы для взаимодействия с онлайн-LLM, размещенными на мощных серверах в дата-центрах. К таким продуктам или проектам относятся HiWonderLLM «умный чат-модуль» , а также Фреймворк ESP-Claw , или ESP32 Agent Dev Kit . Проект Славы «esp32-ai» совсем другой, поскольку всё работает на микроконтроллере ESP32-S3.

Читать далее «LLM с 28,9 млн параметров работает локально на ESP32-S3 со скоростью 9 токенов/с»

Опубликовано

USB AI-ускоритель ASUS UGen300 за 299,99 долларов объединяет чип Hailo-10H с производительностью 40 TOPS и 8 ГБ LPDDR4

USB AI-ускоритель ASUS UGen300 оснащен AI-процессором Hailo-10H с производительностью 40 TOPS и 8 ГБ памяти LPDDR4 для поддержки больших языковых моделей (LLM), визуально-языковых моделей (VLM) и задач ИИ-зрения при энергопотреблении менее 2,5 Вт.

В некотором смысле аппаратное обеспечение похоже на Raspberry Pi AI HAT+ 2 , но в тонком форм-факторе донгла (105 x 50 x 18 мм) и с портом USB-C Type-C USB 3.2 Gen1 на 10 Гбит/с вместо интерфейса PCIe на 5 или 8 GT/s.

Читать далее «USB AI-ускоритель ASUS UGen300 за 299,99 долларов объединяет чип Hailo-10H с производительностью 40 TOPS и 8 ГБ LPDDR4»

Опубликовано

Luxonis M8 Controller Box добавляет промышленные входы/выходы, CAN-шину и управление реле к AI-камерам машинного зрения OAK4

Luxonis представила прототип M8 Controller Box, промышленного модуля расширения ввода/вывода для edge AI-камер машинного зрения OAK4 на базе Qualcomm DragonWing QCS8550. Подключаясь через интерфейс M8 камеры, он добавляет GPIO, реле, CAN, последовательный и USB-интерфейсы, позволяя системам на базе OAK4 напрямую взаимодействовать с сенсорами, исполнительными механизмами, ПЛК, двигателями и другим промышленным оборудованием для приложений машинного зрения и автоматизации.

Прототип модуля имеет 16 GPIO, четыре реле на 16 А, CAN 2.0, RS232, два порта USB 2.0 Type-A, изолированный строб-выход, встроенное аудио, три кнопки и три светодиодных индикатора состояния. Он питается напрямую от разъема M8 OAK4 и поддерживает монтаж на DIN-рейку и VESA.

Читать далее «Luxonis M8 Controller Box добавляет промышленные входы/выходы, CAN-шину и управление реле к AI-камерам машинного зрения OAK4»

Опубликовано

Одноплатные компьютеры Edge AI размером с кредитную карту оснащены SoC TI AM62A (2 TOPS) или AM68A (8 TOPS)

InHand Mo 62A и Mo 68A — это два одноплатных компьютера (SBC) Edge AI размером с кредитную карту, работающие на базе процессоров Texas Instruments AM62A и AM68A , обеспечивающих соответственно 2 TOPS и 8 TOPS производительности ИИ.

Разработанные для приложений AI Vision, SBC Mo 62A и Mo 68A поддерживают ввод камер MIPI CSI, платы расширения Raspberry Pi HAT, интегрируют возможности обработки изображений ISP седьмого поколения и осуществляют кодирование и декодирование видео H.264/H.265. Однако они предлагают различный набор портов, как показано в спецификациях ниже. Целевые приложения включают промышленное оборудование, системы контроля доступа, роботов, интеллектуальные камеры и терминалы визуального контроля.

Читать далее «Одноплатные компьютеры Edge AI размером с кредитную карту оснащены SoC TI AM62A (2 TOPS) или AM68A (8 TOPS)»

Опубликовано

Jetway SMC-ARK1 – Система-на-модуле на базе Rockchip RK3588, совместимая со стандартом SMARC 2.1

Компания Jetway представила SMC-ARK1, новый SMARC-модуль «система-на-модуле», построенный на базе восьмиядерного процессора Rockchip RK3588. Плата, предназначенная для встраиваемых вычислений и приложений периферийного ИИ, включает до 16 ГБ LPDDR4x и до 128 ГБ eMMC-флеш-памяти, два порта Gigabit Ethernet, а также модуль Ampak AP6398SV с поддержкой Wi-Fi 5 и Bluetooth 5.0 и выделенный вход HDMI через разъем I-PEX FPC.

Ранее мы уже писали о модуле Geniatech SOM-3568-SMARC на базе Rockchip RK3568, однако SMC-ARK1 от Jetway, по-видимому, является первым SMARC-модулем на базе Rockchip RK3588, который нам встретился. Модуль соответствует спецификации малого форм-фактора SMARC 2.1 (82 × 50 мм) и может использоваться с совместимыми SMARC-платами-носителями.

Читать далее «Jetway SMC-ARK1 – Система-на-модуле на базе Rockchip RK3588, совместимая со стандартом SMARC 2.1»

Опубликовано

Beelink ME Pro — гибридный NAS с двумя отсеками — получает процессор Wildcat Lake, приобретает 10GbE и Thunderbolt 4, теряет несколько слотов M.2

Beelink «ME Pro 2-Bay AI NAS Mini PC Intel Wildcat Lake 304» предлагает два отсека SATA и один слот M.2 PCIe Gen4, а также оснащается памятью 16 ГБ DDR5-5600 SO-DIMM и накопителем 512 ГБ UFS 3.1.

Это обновление модели Beelink ME Pro Intel N95/N150 NAS и мини-ПК , представленной в феврале прошлого года. Помимо более быстрого процессора, NAS меняет свой 5GbE-порт на более быстрый 10GbE-порт и приобретает два порта Thunderbolt 4. Один из недостатков, обусловленный меньшим количеством линий PCIe в процессорах Wildcat Lake, заключается в том, что теперь он имеет один слот M.2 PCIe Gen4 вместо трех слотов M.2 PCIe Gen3, что несколько компенсируется встроенным накопителем UFS.

Читать далее «Beelink ME Pro — гибридный NAS с двумя отсеками — получает процессор Wildcat Lake, приобретает 10GbE и Thunderbolt 4, теряет несколько слотов M.2»

Опубликовано

AIS-1000 AI Surveillance Station – AI-бокс за 3 640 долларов США, соответствующий стандартам NDAA и TAA, на базе Raspberry Pi 5 и Hailo-8L

Если вы чувствуете себя скрягой, покупая Raspberry Pi 5 16 ГБ всего за 305 долларов, теперь есть решение, чтобы избежать неловкости. Встречайте AIS-1000 AI Surveillance Station за 3 640 долларов, объединяющую Raspberry Pi 5 с AI-ускорителем Hailo-8L и NVMe SSD на 1 ТБ, размещённые в металлическом корпусе.

Шутки в сторону: устройство от Planet Technology реально, и пользователи в основном платят за соответствие стандартам NDAA (Закон о национальной обороне) и TAA (Соглашение о торговых соглашениях для использования в AI-приложениях видеонаблюдения в государственных, критически важных инфраструктурах или других объектах повышенной безопасности.

Читать далее «AIS-1000 AI Surveillance Station – AI-бокс за 3 640 долларов США, соответствующий стандартам NDAA и TAA, на базе Raspberry Pi 5 и Hailo-8L»

Опубликовано

Avalue RIVAR-1539 — это 15,6-дюймовая безвентиляторная промышленная панель, работающая на процессоре Intel N150 Twin Lake

Компания Avalue Technology представила RIVAR-1539 — 15,6-дюймовую промышленную безвентиляторную панель на базе четырёхъядерного процессора Intel N150 Twin Lake. Система оснащена Full HD проекционно-ёмкостным сенсорным дисплеем, двумя портами Gigabit Ethernet, четырьмя портами USB 3.0 и лицевой панелью со степенью защиты IP65.

Многофункциональный POS-терминал предназначен для периферийных вычислений и HMI-приложений, таких как киоски самостоятельного заказа, умные прилавки, цифровые вывески и системы управления очередями в сфере розничной торговли, здравоохранения и государственных услуг.

Читать далее «Avalue RIVAR-1539 — это 15,6-дюймовая безвентиляторная промышленная панель, работающая на процессоре Intel N150 Twin Lake»