На днях компания Andes Technology анонсировала линейку продуктов AndesAIRE, где AndesAIRE расшифровывается как Andes AI Runs Everywhere, состоящую из AndesAIRE AndLA I350 (Andes Deep Learning Accelerator), интеллектуальной собственности (IP) аппаратного ускорителя AI/ML и AndesAIRE NN SDK с программными средствами для нейронных сетей и средами выполнения.
AndesAIRE AnDLA I350
Спецификации AndLA I350:
- Настраиваемые MAC-адреса от 32 до 4096 (INT8)
- Максимальная производительность — 8 TOPS на частоте 1 ГГц
- Конфигурируемая локальная память — от 16 КБ до 4 МБ
- Многомерный прямой доступ к памяти
- Четыре 64-битных интерфейса шины AXI
- Тип NN — вывод CNN
- Модели NN
- Изображение и видео: AlexNet, VGG-16/19, MobileNet-v1/v2/v3, ResNet-8/50, Tiny YOLO v1/v2, YOLO v1/v2/v3/v4/v5, SSD MobileNet v1/v2, Inception v2, EfficientNet-lite, MobileFaceNet, BlazeNet
- Речь/Голос и аудио: LSTM, RNN, GRU
- Операторы: Conv2d, глубокая свертка, точечная свертка, транспонированная свертка, расширенная свертка, поэлементная (добавить, подмножество, mul), полносвязная, активация (ReLU, дырявая ReLU, сигмовидная, Tanh, ReLU6, SiLU), объединение (макс. , пр.), повышающая дискретизация, конкатенация, пакетная нормализация, заполнение канала
- Слияние операторов
- Формат данных NHWC
Блок IP, по-видимому, предлагает альтернативу микроNPU Arm Ethos-U55 и Ethos-U65, но для более широкого спектра приложений, поскольку ускорители Arm можно настроить только для обеспечения вывода ИИ от 64 GOPS до 1 TOPS. Он нацелен на маломощные SoC с малой площадью, предназначенные для периферийных приложений логического вывода, таких как интеллектуальные IoT-устройства, интеллектуальные камеры, умная бытовая техника и робототехника, и в основном должен использоваться вместе с процессорами AndesCore RISC-V с пользовательским расширением Andes (ACE)), где более требовательные рабочие нагрузки ИИ вычисляются на AnDLA, а простые вычисления могут быть более эффективно перенесены на ЦП RISC-V с расширениями DSP/SIMD или Vector.
AndesAIRE NN SDK
AndesAIRE NN SDK поддерживает AnDLA I350 со следующими компонентами:
- AndesAIRE NNPilot: набор инструментов для оптимизации нейронных сетей
- AndesAIRE TFLM для AnDLA: оптимизированная для AnDLA среда вывода, работающая на хосте на основе TensorFlow Lite для микроконтроллеров.
- Драйвер AndLA и среда выполнения
NNPilot автоматически анализирует входные модели NN, применяет обрезку и квантование модели и генерирует исполняемые файлы AnDLA на основе своей конфигурации для выполнения вывода вместе с инфраструктурой TFLM, а также образец кода хоста C для вызова драйвера AnDLA в среде «голого железа». Помимо TensorFlow Lite, также поддерживаются фреймворки PyTorch и ONNX.
Вся разработка выполняется в среде AndeSight IDE, и компания также предлагает библиотеку AndesAIRE NN для RISC-V с более чем 170 оптимизированными вычислительными функциями NN для RISC-V DSP/SIMD P-Extension (все еще на стадии проекта) и RISC-V Vector V-Extension v1.0.
Andes Technology заявляет, что AndesAIRE AndLA I350 и AndesAIRE NN SDK уже доступны для лицензирования в рамках программы раннего внедрения, что, вероятно, означает, что мы можем ожидать появления первых микроконтроллеров RISC-V или процессоров приложений с ускорителем искусственного интеллекта AnDLA I350 где-то в 2024 году. Дополнительную информацию можно найти странице продукта и в пресс-релизе .
Выражаем свою благодарность источнику из которого взята и переведена статья, сайту cnx-software.com.
Оригинал статьи опубликован здесь.