reServer Jetson-50-1-H4 — это пограничный сервер вывода ИИ на базе Jetson AGX Orin 64 ГБ с производительностью ИИ до 275 TOPS. Одноплатный компьютер Intel Core Tiger Lake.
12-ядерный сервер Arm поставляется с 32 ГБ LPDDR5, твердотельным накопителем NVMe емкостью 256 ГБ с предустановленным Jetpack SDK и сервером Triton Inference с открытым исходным кодом, двумя отсеками SATA для 2,5-дюймовых и 3,5-дюймовых дисков, Ethernet до 10 Гбит/с, двойной видеовыход 8K через HDMI и DisplayPort, порты USB 3.2 и многое другое.
(предварительные) Технические характеристики reServer Jetson-50-1-H4:
- SoM — модуль Jetson AGX Orin с
- ЦП — 12-ядерный 64-разрядный процессор Arm Cortex-A78AE v8.2 с 3 МБ кэш-памяти L2 + 6 МБ L3
- Ускорители GPU/ИИ
- Архитектура NVIDIA Ampere с 2048 ядрами NVIDIA CUDA и 64 тензорными ядрами с тактовой частотой 1,3 ГГц
- Ускоритель DL — 2x NVDLA v2.0
- Ускоритель зрения — PVA v2.0 (программируемый ускоритель зрения)
- Производительность искусственного интеллект — до 275 TOPS (INT8) при 60 Вт
- Кодирование видео — 2x 4K60 | 4x 4K30 | 8x 1080p60 | 16x 1080p30 (H.265)
- Декодирование видео — 1x 8K30 | 3x 4K60 | 7x 4K30 | 11x 1080p60| 22x 1080p30 (H.265)
- Системная память — 32 ГБ 256-бит LPDDR5 при 204,8 ГБ/с
- Хранилище — 64 ГБ флэш-памяти eMMC 5.1
- Хранилище — 256 ГБ M.2 NVMe SSD, 2х порта SATA и отсеки для 2,5-дюймовых и 3,5-дюймовых дисков
- Видеовыход — HDMI 2.1 и DisplayPort 1.4a с разрешением до 8Kp60
- Сеть
- Порт Ethernet 10 Гбит/с RJ45
- Порт Gigabit Ethernet RJ45
- Wi-Fi и Bluetooth
- M.2 B-Key для Lora, 4G LTE, 5G
- USB — 3x порта USB 3.2 Type-A, 1x порт USB 3.2 Type-C
- Отладка — разъем UART для последовательной консоли
- Разное — пассивное рассеивание тепла с большим радиатором с испарительной камерой, разъем для вентилятора (вентилятор, кажется, включен внизу), зуммер, RTC, перемычка AutoPwrOn
- Источник питания — 24 В через разъем питания постоянного тока
- Размеры — 233 х 132 х 124 мм
Сервер логического вывода reServer Jetson-50-1-H4 будет поставляться с модулем Jetson AGX Orin 64 ГБ, а также адаптером питания 24 В.
Мы никогда ранее не слышали о сервере вывода Triton, и вот как его описывает NVIDIA:
Triton Inference Server оптимизирует вывод искусственного интеллекта, позволяя командам развертывать, запускать и масштабировать обученные модели искусственного интеллекта из любой среды на любой инфраструктуре на основе графического процессора или процессора. Это дает исследователям искусственного интеллекта и специалистам по данным свободу выбора правильной платформы для своих проектов, не влияя на производственное развертывание. Это также помогает разработчикам предоставлять высокопроизводительные логические выводы в облаке, локальных, периферийных и встроенных устройствах.
(Он) поддерживает все основные фреймворки, такие как TensorFlow, NVIDIA TensorRT, PyTorch, MXNet, Python, ONNX, RAPIDS™ FIL (для XGBoost, scikit-learn и т. д.), OpenVINO, пользовательский C++ и другие.
Seeed Studio перечисляет несколько приложений с серверами SOHO, промышленной автоматизацией, робототехникой, здравоохранением, интеллектуальным сельским хозяйством и NAS. Нам сложно представить, чтобы кто-нибудь использовал его в качестве офисного сервера или NAS, так как это будет дорого. Компания еще не предоставила цены и говорит, что в настоящее время это бета-версия оборудования, но, учитывая, что NVIDIA Jetson AGX Orin Developer Kit продается примерно за 2000 долларов, а сам модуль — за 1599 долларов (в количестве 1 тысячи единиц), reServer Jetson-50-1-H4 должен стоить около 2500 долларов или больше при запуске. Более подробная информация может вскоре появиться в магазине Seeed Studio.
Выражаем свою благодарность источнику из которого взята и переведена статья, сайту cnx-software.com.
Оригинал статьи вы можете прочитать здесь.