Если бы вам пришлось добавить к компьютеру или плате карту ускорителя искусственного интеллекта в форм-факторе M.2 или mPCIe, у вас, в основном, был бы выбор между Google Coral M.2 или картой mini PCIe на базе 4 TOPS Google Edge TPU или одной из карт AAEON AI Core на базе Intel Movidius Myriad 2 (100 GOPS) или Myriad X (1 TOPS на чип). Есть также некоторые другие карты, такие как карты M.2 с питанием от Kneron 520 или карты mPCIe, но мы считаем, что чаще всего используются карты Intel и Google.
Если вам когда-либо понадобится более высокая производительность, вам придется подключить карты с несколькими ускорителями Edge или Movidius или использовать одну карту M.2 или mini PCIe, оснащенную Halio-8 NPU, обеспечивающую 26 TOPS на одном чипе.
Основные характеристики и спецификации карты ускорителя Hailo-8 в форм-факторе M.2:
- AI процессор – 26 TOPS Hailo-8 с эффективностью 3 TOPS/Вт, использующий запатентованную новую архитектуру потока данных, управляемую структуру, вместо обычной архитектуры фон Неймана
- Хост-интерфейс – PCIe Gen-3.0, 4 полосы
- Размеры – 22 x 42 с возможностью увеличения до 22 x 60 и 22 x 80 мм (форм-фактор M.2 M-key)
У нас нет спецификаций для карты mini PCIe, потому что она будет выпущена немного позже, но она должна предлагать те же функции. Карта поддерживает Linux, и компания работает над совместимостью с Windows. Несмотря на разную архитектуру, карта поддерживает популярные фреймворки, такие как TensorFlow и ONNX.
Глядя на диаграмму производительности, в которой Hailo-8 сравнивается с Google Edge TPU и Intel Myriad X с использованием популярных моделей ResNet и MobileNet, мы могли бы с таким же успехом назвать эту статью «Карта Hailo-8 M.2 утирает нос ускорителям искусственного интеллекта Google Edge TPU и Intel Movidius Myriad X».
Объем вычислительной мощности ИИ, заключенной в такую крошечную карту M.2, впечатляет, и это стало возможным благодаря более высокой эффективности 3 TOPS на ватт по сравнению с типичными 0,5 TOPS на ватт 0,5 Вт на TOPS (или 2 TOPS на ватт), предлагаемые конкурентами. Таким образом, карта Hailo-8 с 26 TOPS будет потреблять около 8,6 Вт, а карта Google Coral M.2 с 4 TOPS – около 2 Вт.
Как отмечает LinuxGizmos, из обзора которого мы узнали о новых картах, ранее Hailo-8 был интегрирован в безвентиляторный сервер AI «BOXiedge» Foxconn, работающий на базе SynQuacer SC2A11 SoC с 24x ядрами Cortex-A53 и способный анализировать до 20 потоковых каналов с камеры в реальном времени.
Более подробную информацию о карте Hailo-8 M.2 можно найти на странице продукта, а также в объявлении, в котором упоминается о готовящейся к выпуску карте mini PCIe.
Выражаем свою благодарность источнику из которого взята и переведена статья, сайту cnx-software.com.
Оригинал статьи вы можете прочитать здесь.