Movidius Myriad X – это новейший процессор машинного зрения (VPU) от компании Intel, впервые представленный в 2017 году, и доступный в Intel Neural Compute Stick 2 с конца 2018 года. Позже, AAEON также выпустила собственную AI Core XM2280 M.2 карту, оснащенную двумя Myriad X 2485 VPU с возможностью вывода до 200 кадров в секунду (типично 160 кадров в секунду) благодаря более чем 2 TOPS производительности глубоких нейронных сетей (DNN).
Но что, если вам нужно еще больше производительности? В настоящее время компания выпустила карту AI Core XP4/XP8 с двумя или четырьмя AI Core XM2280 M.2 картами, которые можно подключить к любому компьютеру или рабочей станции со слотом PCIe x4.
Технические характеристики AAEON AI Core XP4/XP8:
- 4х разъема M.2 для 2 или 4 M.2 2280 M-key карт с 2x Myriad X VPU и 2x 4Gbit LPDDR4x памяти каждая
- Asmedia PCIe коммутатор
- Охлаждение – вентилятор радиатора
- Стандартный полноразмерный низкопрофильный слот PCIe x4
- Размеры – 167 х 111 мм
- Диапазон температур – от 0 до 50 ° C
- Сертификаты – CE / FCC
Карта совместима с Intel Vision Accelerator Design SW SDK, поддерживает платформы TensorFlow, Caffe и MXNET и работает с Ubuntu 16.04 и Windows 10.
Мы написали этот пост не только чтобы представить новый продукт для приложения AI, но также потому, что у нас есть вопрос, на который мы не смогли ответить самостоятельно, и мы надеемся, что некоторые читатели, имеющие опыт работы с этим типом решения, могут пролить свет на эту тему. Это, главным образом, от того, что маркетинговые материалы часто содержат явно бесполезную информацию о производительности.
Согласно пресс-релизу, объединение восьми Myriad X VPU означает, что на AI Core XP8 возможна производительность до 840 кадров в секунду (560 кадров в секунду). Это может быть правдой, но почему нет упоминания о разрешении?
Вместо этого давайте посмотрим на числа TOPS (триллион операций за секунды). Каждый Myriad X VPU может достигать 1 TOPS производительности глубоких нейронных сетей (DNN) и 4 TOPS общей производительности на чип.Таким образом, если мы объединим восемь чипов Myriad X, общая производительность DNN должна составить 8 TOPS.
Вполне справедливо, но как же эта явно мощная карта PCIe сравнивается с 70-долларовым Gyrfalcon 2803 Plai Plug, который мы рассмотрели немногим ранее, и имеющим 16,8 TOPS при мощности 700 мВт? Означает ли это, что Gyrfalcon намного лучше с удвоенной производительностью, в гораздо меньшем форм-факторе, с гораздо меньшим энергопотреблением, и при этом его цена значительно ниже? Вероятно нет, так как числа TOPS зависят от разрядности, и вы получите много разных значений с 4-битным, 8-битным или 16-битным, и о них почти всегда умалчивают на любом пресс-релизе или на странице продукта. Демонстрация Gyrfalcon USB neural compute stick на MobileNet представила вывод со скоростью чуть более 100 кадров в секунду с изображениями 488 x 488, мы знаем, что AI Core XP8 может обрабатывать 800 кадров в секунду (обычно 560 кадров в секунду) но опять же, мы не можем сравнивать напрямую, так как AAEON не упомянул разрешение и модель, использованную для их заявления. Мы попросили больше деталей для AAEON и обновим этот пост как только получим ответ,
[ Обновление от 13 июня 2019 года. AAEON предоставило более подробную информацию о разрешении:
Мы тестировали входное изображение с разрешением 640 x 480 пикселей, работающее по топологии MobileNetSSD, с 8x Myriad X, FPS до 720 (92 x 8)]
Поэтому наш вопрос: есть ли способ оценить производительность по общедоступной информации перед покупкой, или единственный способ – это получить оборудование и сравнить его с идентичными моделями?
AAEON AI Core XP4 и XP8 можно предварительно заказать в магазине AAEON по цене соответственно 379 и 649 долларов, поставки запланированы на июль. А также вы можете получить немного больше деталей на странице продукта.
Выражаем свою благодарность источнику из которого взята и переведена статья, сайту cnx-software.com.
Оригинал статьи вы можете прочитать здесь.