Axelera Metis Computer Board — это материнская плата Rockchip RK3588 mini-ITX, оснащенная процессором Metis AIPU (AI Processing Unit), способным обеспечивать до 214 TOPS, 16 ГБ памяти LPDDR4 для ЦП и 4 ГБ оперативной памяти LPDDR4x для ускорителя ИИ.
Впервые мы столкнулись с Axelera Metis AIPU в M.2 и PCIe-карте в 2023 году и были весьма впечатлены рекламируемой производительностью ИИ в 214 TOPS, обещанной в этом форм-факторе, и относительно доступной ценой в 149 долларов, учитывая соотношение цены и производительности. В то время было все еще сложно найти чип и модуль из-за их ограниченного количества, а в 2024 году стало проще оценить решение благодаря оценочному комплекту Axelera Metis PCIe Arm AI на базе материнской платы Firey ITX-3588J mini-ITX, оснащенной картой Metis AIPU PCIe 214 TOPS. Новая вычислительная плата Metis Compute похожа, но в более компактном форм-факторе, поскольку карта PCIe исчезла, а Metis AIPU припаян непосредственно к материнской плате mini-ITX.
Технические характеристики платы Metis:
- SoC – Rockchip RK3588
- CPU – восьмиядерный процессор с четырьмя ядрами Arm Cortex-A76 @ до 2,4 ГГц, четыре ядра Arm Cortex-A55
- GPU – четырехъядерный графический процессор Arm Mali-G610 MP4 с поддержкой OpenGL ES3.2, OpenCL 2.2, Vulkan 1.1
- Ускоритель ИИ – 6 TOPS NPU
- ISP– 48MP Интернет-провайдер
- VPU
- Декодирование видео 8Kp60, декодирование до 32 каналов 1080p30 H.265/HEVC
- Кодирование видео 8Kp30
- AI Processing Unit (AIPU) – четырехъядерный ускоритель ИИ Metis Axelera с цифровыми вычислениями в памяти (D-IMC), обеспечивающий до 214 TOPS, до 3200 FPS для ResNet-50; подключен через PCIe Gen3 x4 с SoC RK3588
- Системная память
- 16 ГБ LPDDR4 для SoC
- До 16 LPDDR4x для AIPU (4 ГБ в версии, продаваемой в настоящее время)
- Хранилище
- 64 ГБ флэш-памяти eMMC
- 2x порта SATA 3.0
- Слот для карты MicroSD
- Видеовыход
- Порт HDMI 2.0
- DisplayPort через USB-C до 4096 x 2160 при 24 Гц
- Подключение к сети
- 2х порта Gigabit Ethernet RJ45
- Опционально WiFi/Bluetooth и 4G LTE через разъемы M.2
- USB
- 4х порта USB 3.1 Gen1 Type-A
- 1х порт USB 3.2 Type-C с альтернативным режимом DisplayPort
- 3x разъема для 6x USB 2.0
- Расширение
- 1x разъем M.2 E-Key
- 1x разъем M.2 B-Key
- 40-контактный разъем GPIO с ADC, I2C, UART, SPI
- Источник питания – вход 12 В постоянного тока
- Размеры – 17 x 17 см (форм-фактор mini-ITX)
- Вес – подлежит уточнению
- Диапазон температур – от -20 до +70°С
Блок-схема
Axelera предоставляет Board Support Package (BSP) на основе Yocto Linux и Axelera Voyager SDK для упрощения развертывания и оптимизации модели ИИ с использованием моделей TensorFlow, PyTorch или ONNX. SDK предлагает следующее:
- Model Zoo с (среди прочего)
- Классификация изображений – ResNet-50, MobileNetv2
- Обнаружение объектов – MobileNetv2-SSD, Yolov5/v5/v6/v7/v8/v9
- Сегментация – DeepLabv3, Yolov8-seg, U-net
- Оценка позы – Yolov8-pose
- Поддержка компилятором моделей из Pytorch и ONNX.
- Библиотеки, включающие все необходимые предварительные и последующие обработки для работы сквозных конвейеров: масштабирование; обрезка; нормализация; преобразование формата; немаксимальное подавление (NMS) и многое другое.
- Файл описания YAML используется для автоматической генерации конвейеров ИИ, которые затем можно запустить как плагин для GStreamer или на сервере вывода.
- Встроенные инструменты для проверки точности и производительности моделей, работающих на Metis AIPU.
Если вам нужны более подробные сведения о производительности, на сайте Axelera есть страница с бенчмарками, на которой представлены EfficientNet, MobileNet и различные модели Yolo. Там также приведено сравнение производительности Metis и 26 TOPS Hailo-8 AI accelerator. Однако нам не удалось найти сравнение производительности/ватт.
Сравнение Metis с Hailo-8
Axelera начала принимать предварительные заказы на Metis Compute Board за 509 евро. Это скидка 15% от обычной цены в 599 евро, и действует только в период предзаказа. Начало поставок запланировано на июнь 2025 года.
Выражаем свою благодарность источнику из которого взята и переведена статья, сайту cnx-software.com.
Оригинал статьи вы можете прочитать здесь.