На днях мы наткнулись на Edge AI-сервер на базе Atom, предлагаемый с рядом модулей ускорителя AI, а именно Hailo-8, Blaize P1600, Degirum ORCA и MemryX MX3. Мы никогда не слышали о последних двух, о модуле MemryX мы, возможно, поговорим чуть позже, а сегодня подробнее рассмотрим чип Degirum ORCA и модуль M.2 PCIe.
DeGirum ORCA предлагается в виде ASIC, модуля M.2 2242 или 2280 PCIe или (в ближайшее время) модуля USB и поддерживает форматы моделей TensorFlow Lite и ONNX, а также точность INT8 и Float32 ML. Они были анонсированы в сентябре 2023 года и уже протестированы на ряде мини-ПК и встраиваемых блочных ПК от Intel (NUC), AAEON, GIGABYTE, BESSTAR и Seeed Studio (reComputer).
Читать далее «Ускорители DeGirum ORCA M.2 и USB Edge AI поддерживают форматы моделей Tensorflow Lite и ONNX.»