Опубликовано

Модуль Axelera Metis M.2 Max Edge AI удваивает скорость обработки LLM и VLM

Axelera AI Metis M.2 Max представляет собой модуль формата M.2 на базе усовершенствованного блока обработки ИИ Metis (AIPU), обеспечивающий вдвое большую пропускную способность памяти по сравнению с текущим модулем Metis M.2 для вычислительно интенсивных приложений Edge AI, таких как большие языковые модели (LLM) и визуальные языковые модели (VLM).

Новый Metis M.2 Max также предлагает более тонкий профиль, усовершенствованные функции терморегулирования и дополнительные возможности безопасности. Он оснащен до 16 ГБ памяти, и будут предлагаться версии как для стандартного диапазона рабочих температур (-20°C до +70°C), так и для расширенного диапазона рабочих температур (-40°C до +85°C). Эти улучшения делают Metis M.2 Max идеальным для применений в промышленном производстве, розничной торговле, безопасности, здравоохранении и общественной безопасности.

Читать далее «Модуль Axelera Metis M.2 Max Edge AI удваивает скорость обработки LLM и VLM»

Опубликовано

Xerxes Pi — плата-носитель для Raspberry Pi CM4/CM5 со стоечным исполнением (краудфандинг)

Разработанная австралийской компанией Rapid Analysis, Xerxes Pi представляет собой кроссплатформенную плату расширения для вычислительных модулей, которая помещается в стойку 1U и поддерживает вычислительные модули Raspberry Pi CM4/CM5, Radxa CM5, Banana Pi CM4/CM5 и Orange Pi CM4/CM5. При размерах всего в одну треть от платы Nano-ITX (120 × 40 мм) она идеально подходит для домашних лабораторий и серверов малого бизнеса, ищущих экономичный способ запуска Docker-контейнеров и другого ПО с открытым исходным кодом.

Для хранения данных плата расширения включает слот для карты microSD, а слот M.2 E-Key позволяет подключать акселераторы или периферийные устройства. Кроме того, она оснащена разъемами для I²C/SPI и опциональной поддержкой PoE через дополнительные платы или сплиттеры. Конструкция хорошо продумана и имеет энергоэффективную схему теплоотвода с вентилируемыми корпусами, опциональными радиаторами из PLA или металла, а также открытыми для 3D-печати корпусами для стоечного монтажа (для одной или нескольких плат). Благодаря открытым схемам и 3D-файлам, Xerxes Pi ориентирована на DIY-электронику, кластерные вычисления, edge-серверы и учебные setups.

Читать далее «Xerxes Pi — плата-носитель для Raspberry Pi CM4/CM5 со стоечным исполнением (краудфандинг)»

Опубликовано

Compulab MCM-iMX95 – припаянная микросхема NXP i.MX 95 SoM

Compulab MCM-iMX95 — это еще одна система-на-модуле (SoM) на базе NXP i.MX 95, основным преимуществом которой является возможность поставки в виде запаянного корпуса QFN с контактными площадками SMD.

Шестиядерный модуль Cortex-A55 Edge AI поставляется с памятью LPDDR5 объемом от 4 ГБ до 16 ГБ, флэш-памятью eMMC объемом от 16 ГБ до 128 ГБ, микросхемой PMIC NXP PF0900 и часами реального времени. Все входы/выходы выведены на 180 контактных площадок QFN SMD, включая интерфейсы отображения LVDS и MIPI DSI, два интерфейса камеры MIPI CSI, два гигабитных и один 10-гигабитный Ethernet MAC, два интерфейса PCIe Gen3 x1 и многое другое.

Читать далее «Compulab MCM-iMX95 – припаянная микросхема NXP i.MX 95 SoM»

Опубликовано

Huginn — это самостоятельно размещаемая платформа с открытым исходным кодом, альтернативная IFTTT и Zapier.

Инструменты автоматизации IFTTT и Zapier позволяют создавать автоматизированные рабочие процессы, связывающие различные приложения, сервисы и устройства. Они относительно просты в использовании, но их бесплатные тарифы теперь довольно ограничены, и приходится полагаться на облачные технологии. Huginn — это самостоятельно размещаемая открытая альтернатива IFTTT или Zapier, которая может работать в вашей локальной сети без облачного подключения.

Читать далее «Huginn — это самостоятельно размещаемая платформа с открытым исходным кодом, альтернативная IFTTT и Zapier.»

Опубликовано

Кластерные серверы искусственного интеллекта серии CSB1-N10 от Firefly могут обеспечивать до 1000 TOPS мощности искусственного интеллекта с модулями Rockchip или NVIDIA Jetson

Firefly недавно представила кластерные серверы искусственного интеллекта серии CSB1-N10, предназначенные для таких приложений, как обработка естественного языка, робототехника и генерация изображений. Эти серверы 1U для монтажа в стойку идеально подходят для центров обработки данных, частных серверов и периферийных развертываний.

Читать далее «Кластерные серверы искусственного интеллекта серии CSB1-N10 от Firefly могут обеспечивать до 1000 TOPS мощности искусственного интеллекта с модулями Rockchip или NVIDIA Jetson»
Опубликовано

Firefly ROC-RK3576-PC низкопрофильный одноплатный компьютер Rockchip RK3576 поддерживает такие модели ИИ, как Gemma-2B, LlaMa2-7B, ChatGLM3-6B

Firefly ROC-RK3576-PC — это маломощный, низкопрофильный одноплатный компьютер, построенный на базе восьмиядерного процессора Rockchip RK3576 Cortex-A72/A53 SoC, который мы также находим в Forlinx FET3576-C, Banana Pi BPI-M5 и мини-ПК Mekotronics R57. С точки зрения мощности и производительности этот SoC находится между Rockchip RK3588  и  RK3399 SoC и может использоваться для приложений AIoT благодаря своему 6 TOPS NPU.

Названный Firefly «мини-компьютером», этот SBC поддерживает до 8 ГБ памяти LPDDR4/LPDDR4X и 256 ГБ памяти eMMC. Кроме того, он предлагает Gigabit Ethernet, WiFi 5 и Bluetooth 5.0 для подключения. Для хранения данных можно использовать разъем M.2 2242 PCIe/SATA и карту microSD, а также на плате имеются интерфейсы дисплея HDMI и MIPI DSI, два интерфейса камеры MIPI CSI, несколько портов USB и 40-контактный разъем GPIO.

Читать далее «Firefly ROC-RK3576-PC низкопрофильный одноплатный компьютер Rockchip RK3576 поддерживает такие модели ИИ, как Gemma-2B, LlaMa2-7B, ChatGLM3-6B»

Опубликовано

Тестирование ИИ и LLM на Rockchip RK3588 с использованием одноплатного компьютера Mixtile Blade 3 с 32 ГБ ОЗУ

Было интересно протестировать искусственный интеллект (ИИ) и, в частности, большие языковые модели (LLM) на Rockchip RK3588, чтобы понять, как можно использовать GPU и NPU для их ускорения и каких показателей производительности ожидать. Мы читали, что LLM могут быть требовательны к вычислительным ресурсам и памяти, поэтому искали одноплатный компьютер (SBC) на Rockchip RK3588 с 32 ГБ ОЗУ, и Mixtile – компания, разрабатывающая аппаратные решения для различных применений, включая IoT, ИИ и промышленные шлюзы, любезно предоставила образец своего Mixtile Blade 3 pico-ITX SBC с 32 ГБ RAM для этих целей.

Хотя обзор фокусируется на использовании RKNPU2 SDK с примерами компьютерного зрения, работающими на 6 TOPS NPU, и тестировании GPU-ускоренной LLM (поскольку реализация NPU еще не готова), мы также провели распаковку для осмотра аппаратной части и краткое руководство по запуску Ubuntu 22.04 на Mixtile Blade 3.

Читать далее «Тестирование ИИ и LLM на Rockchip RK3588 с использованием одноплатного компьютера Mixtile Blade 3 с 32 ГБ ОЗУ»

Опубликовано

ZimaBlade — низкопрофильная плата Intel Celeron стоимостью более 64 долларов для серверных приложений и многого другого (краудфандинг)

ZimaBlade — недорогая низкопрофильная плата на базе двухъядерного или четырехъядерного процессора Intel Celeron, предназначенная для серверных приложений с низкопрофильным портом RJ45 Gigabit Ethernet, двумя разъемами SATA и слотом PCIe, но не только, поскольку плата также поставляется с интерфейсами, такими как mini DP а также USB-C DisplayPort Alt. mode и несколько USB-портов.

Это не первое решение IceWhale Technology по выпуску портативных серверных плат, поскольку еще в 2021 году компания представила Zimaboard на базе процессоров Intel Celeron Apollo Lake со многими из тех же функций. Новый ZimaBlade предлагает больше интерфейсов, а также полный корпус вместо простого большой радиатор.

Читать далее «ZimaBlade — низкопрофильная плата Intel Celeron стоимостью более 64 долларов для серверных приложений и многого другого (краудфандинг)»