NVIDIA только что выпустила модули Jetson T2000 и T3000 «основной» серии как более компактные и недорогие альтернативы Jetson T4000/T5000 modules представленным в прошлом году для периферийного ИИ и робототехники.
Модуль Jetson Thor T3000 и его промышленная версия IGX Thor T3000 с функциональной безопасностью обеспечивают до 865 FP4 TFLOPS вычислительной мощности ИИ. Они оснащены графическим процессором NVIDIA Blackwell на 1536 ядер, восьмиядерным процессором Neoverse Arm, 32 ГБ памяти LPDDR5X с пропускной способностью 273 ГБ/с и интерфейсом 25 GbE. Jetson Thor T2000 обеспечивает до 400 TFLOPS производительности ИИ, имеет графический процессор Blackwell на 1024 ядра, 16 ГБ LPDDR5 с пропускной способностью 137 ГБ/с и сеть 10 GbE. Оба модуля примерно вдвое меньше модулей Jetson T4000/T5000.
Вот предварительное сравнение модулей Jetson Thor T2000, T3000, T4000 и T5000.
|
Jetson T2000
|
Jetson T3000
|
Jetson T4000
|
Jetson T5000
|
|
|---|---|---|---|---|
| AI Performance |
400 TFLOPS (FP4—Sparse)
|
865 TFLOPS (FP4—Sparse)
|
1200 TFLOPS (FP4—Sparse)
|
2070 TFLOPS (FP4—Sparse)
|
| GPU |
1024-core NVIDIA Blackwell architecture GPU
|
1536-core NVIDIA Blackwell architecture GPU
|
1536-core NVIDIA Blackwell architecture GPU with 64 fifth-gen Tensor Cores Multi-Instance GPU (MIG) with 6 TPCs
|
2560-core NVIDIA Blackwell architecture GPU with 96 fifth-gen Tensor Cores Multi-Instance GPU (MIG) with 10 TPCs
|
| CPU |
6-core Arm Neoverse-V3AE 64-bit CPU
|
8-core Arm Neoverse-V3AE 64-bit CPU 1 MB L2 cache per core
|
12-core Arm Neoverse-V3AE 64-bit CPU 64 KB I-Cache, 64 KB D-Cache 1 MB L2 cache per core 16 MB Shared System L3 Cache
|
14-core Arm Neoverse-V3AE 64-bit CPU 1 MB L2 cache per core 16 MB Shared System L3 Cache
|
| Memory |
16 GB LPDDR5X 137 GB/s
|
32 GB 256-bit LPDDR5X 273 GB/s
|
64 GB 256-bit LPDDR5X 273 GB/s
|
128 GB 256-bit LPDDR5X 273 GB/s
|
| Networking |
2x 10GbE
|
«25GbE connectivity»
|
3x 25GbE
|
4x 25GbE
|
| Mechanical |
About 50 x 87 mm (half the size of the T4000/T5000 module
|
100 x 87 mm; 699 pins
|
||
| Power |
Not specified
|
About half the power of T5000 (20 W–65 W?)
|
40 W–75 W
|
40 W–130 W
|
Это предварительное сравнение, так как на момент написания этой статьи NVIDIA еще не предоставила полные спецификации новых модулей T2000 и T3000. Вместо этого были использованы данные из анонса и спецификации для upcoming AAEON BOXER-8752AI and BOXER-8723AI безвентиляторных встраиваемых BOX-ПК на базе T2000 и T3000 соответственно.
Числа FLOPS — это одно, но NVIDIA утверждает, что T3000 достигает аналогичной производительности вывода по сравнению с T5000 для мультимодальных нагрузок, включая LLM, VLM, модели визуально-языковых действий и мировые фундаментальные модели. Таким образом, в зависимости от приложения, переход на T3000 может помочь снизить затраты в условиях высоких цен на память без существенного влияния на производительность.
В любом случае, это означает, что теперь у NVIDIA есть масштабируемый портфель для приложений периферийного ИИ и робототехники — от 70 TOPS Jetson Orin Nano до 2070 TOPS Jetson T5000.
Специального набора разработчика Jetson Thor T2000/T3000 не будет, и разработчики могут использовать Jetson AGX Thor developer kit для эмуляции производительности модулей T3000 и T2000. T3000 будет поддерживаться в SDK Jetpack 7.2.1, который будет выпущен позднее в этом месяце, а режим эмуляции T2000 ожидается в одном из будущих релизов. Оба модуля поступят в продажу в первом квартале 2027 года.
Помимо анонса аппаратного обеспечения, NVIDIA также выпустила Jetson agent skills , которые разработчики могут использовать для оптимизации всего программного стека и снижения использования памяти за считанные дни. Это немалое сокращение: компании UBTech, Agile Robots и Connect Tech, как сообщается, сократили использование памяти до 15 ГБ, что позволило им перейти на модуль Jetson AGX Orin 32 ГБ, заменив более дорогой вариант объемом 32 ГБ.
Еще один программный релиз — модель Cosmos 3 Edge с 4 миллиардами параметров, предназначенная для того, чтобы воплощенные системы могли «видеть мир, рассуждать о нем в реальном времени, а также предсказывать и генерировать действия с помощью вывода на устройстве». Она доступна через NVIDIA Cosmos 3 семейство открытых фундаментальных мировых моделей.
Выражаем свою благодарность источнику, с которого взята и переведена статья, сайту cnx-software.com.
Оригинал статьи вы можете прочитать здесь.