Arm Ethos-U65 microNPU обеспечивает вывод ИИ с низким энергопотреблением на процессорах Cortex-A и Neoverse.

В начале года компания Arm представила свой самый первый microNPU (Micro Neural Processing Unit) для микроконтроллеров – Arm Ethos-U55, разработанным для микроконтроллеров на базе ядра семейства Cortex-M, таких как Cortex-M55, и обеспечивающим от 64 до 512 GOPS производительности вывода искусственного интеллекта или увеличение производительности машинного обучения до 480 раз по сравнению с выводом процессора Cortex-M.

Теперь компания представила обновление – Arm Ethos-U65 microNPU, которое поддерживает эффективность Ethos-U55, но обеспечивает ускорение нейронной сети в более производительных встраиваемых устройствах на базе процессоров с ядром Arm Cortex-A и Arm Neoverse.

Arm Ethos-U65 обеспечивает до 1 TOPS и, как видно на диаграмме, обеспечивает функции, которые не могут быть реализованы с помощью Ethos-U55, включая классификацию объектов и классификацию в реальном времени. По сравнению с Ethos-N78 NPU, новый microNPU предлагает меньшую производительность искусственного интеллекта, но значительно более высокую эффективность, хотя, насколько нам известно, нет количественной оценки Arm.

Компания заявляет, что рабочий процесс разработки остается прежним с использованием среды выполнения TensorFlow Lite Micro (TFLmicro), которая работает на ядре Cortex-M и обрабатывает операции, которые напрямую не поддерживаются Ethos-U65. Это верно даже в системах на основе Cortex-A/Neoverse, где microNPU также сопряжен с микроконтроллером на основе ядра Cortex-M.

Два типа систем Ethos-U65 – Cortex-A / Neoverse SoC в сравнении с Cortex-M SoC

Ethos-U65 поддерживает многие популярные модели, включая Mobilenet v1/v2, Resnet-50, Inception v2/v3 и т. д., а модели, которые не поддерживаются, могут работать на ядрах Cortex-M с использованием библиотеки Arm Compute Library или CMSIS-NN.

Системы на кристалле, основанные на Ethos-U65, вероятно, начнут появляться только во втором полугодии 2021 года, поскольку Cortex-M55 и Ethos-U55 были анонсированы в феврале прошлого года, и, как ни странно, ни один производитель микросхем пока не анонсировал микроконтроллер Cortex-M55. Более подробную информацию можно найти на странице продукта и в блоге сообщества Arm.

Выражаем свою благодарность источнику из которого взята и переведена статья, сайту cnx-software.com.

Оригинал статьи вы можете прочитать здесь.