После того как SpacemiT официально запустила одноплатный компьютер K3 Pico‑ITX SBC , а чип K3 поступил в серийное производство, были выпущены Edge AI мини‑ПК и материнская плата для ноутбука (для Framework 13) . В дополнение к этому списку компания Firefly недавно представила CSC2‑N48SPK3 — массивный 2U стоечный сервер на базе нескольких SoC SpacemiT K3, предназначенный для внедрения вычислительной мощности RISC‑V в корпоративные стойки.
Хотя потребительские устройства и модульные ноутбуки отлично подходят для разработчиков, крупномасштабные серверные нагрузки ИИ требуют более мощного оборудования. CSC2‑N48SPK3 решает эту задачу, имея до 48 вычислительных узлов SpacemiT K3 RISC‑V, каждый из которых оснащён восьмиядерным SoC X100 с производительностью ИИ до 60 TOPS (разреженные), до 32 ГБ LPDDR5, 128 ГБ встроенной памяти UFS и опциональным NVMe SSD. Для управления всеми этими узлами Firefly использует восьмиядерный процессор Rockchip RK3588 на архитектуре Arm в качестве центрального управляющего узла.
Характеристики Firefly CSC2‑N48SPK3:
- Форм‑фактор сервера – 2U стоечный сервер высокой плотности на 48 узлов
- Архитектура
- 48 распределённых вычислительных узлов + 1 управляющий узел
- Общая производительность ИИ – 2880 TOPS (60 TOPS x 48, INT4)
- Вычислительные узлы (x48)
- SoC – SpacemiT Key Stone K3 8-ядерный X100M 64-битный RISC-V AI процессор; до 2,4 ГГц
- Производительность – 130K DMIPS вычислительной мощности общего назначения на узел; одноядерный SpecInt2006 превышает 9,0/ГГц
- Соответствие – Полностью соответствует профилю RVA23
- Память – До 32 ГБ LPDDR5 на узел (доступно в вариантах 8 ГБ, 16 ГБ или 32 ГБ)
- Накопитель – 128 ГБ UFS 2.2 на узел
- Узел управления / BMC (x1)
- На базе процессора Rockchip RK3588 с восемью ядрами Cortex-A76/A53 с частотой до 2,4 ГГц
- Консольный порт RJ45 (отладочный последовательный порт BMC, скорость 115200 бод)
- Накопители – 48 слотов M.2 2280 PCIe NVMe SSD (опционально)
- Дисплей
- Выход HDMI с разрешением до 1080p60 для управления BMC
- Сенсорный дисплей на передней панели для информации об устройстве в реальном времени (температура, скорость вентиляторов, IP-адрес сети и т.д.)
- Сеть
- 4 слота 10GbE SFP+
- Порт Gigabit Ethernet RJ45 (MGMT, используется для сети управления BMC)
- USB – 2 порта USB 3.0 (нижний порт поддерживает OTG для обновления BMC через USB-флешку)
- Разное –
- Кнопки сброса, питания и перезапуска BMC
- 12 высокоскоростных вентиляторов охлаждения
- Питание – 2 резервных блока питания переменного тока (горячая замена)
- Размеры – 724,0 x 430,0 x 88,8 мм
- Вес – 23,1 кг (нетто), 25,3 кг (с упаковкой)
Сервер поддерживает векторное расширение RVV, нативный вывод FP8 и мультимодальное ускорение, обеспечивая более 10 токенов/с на локальных моделях с 30 миллиардами параметров. Он поставляется с предустановленным дистрибутивом Linux и поддерживает системы сборки, такие как Open Build Service и Koji. Firefly утверждает, что он намного быстрее эмуляции, с производительностью одного узла до 7 раз выше, чем x86 QEMU. В одном примере узел RISC-V K3 скомпилировал ядро Linux 6.18 за 22 минуты 28 секунд, тогда как на Intel Xeon Gold 6548Y+ под QEMU это заняло 2 часа 50 минут.
Что касается аппаратной части, возможности хранения данных очень обширны. Плата включает 48 слотов M.2 PCIe, поэтому каждый вычислительный узел может иметь собственный выделенный NVMe SSD. Если использовать SSD на 8 ТБ или 16 ТБ, это дает до 48 × 16 ТБ, или 768 ТБ хранилища. Он также поддерживает безопасность и виртуализацию, включая три уровня привилегий (M/S/U), встроенную защиту от атак Spectre и Meltdown, а также полную аппаратную виртуализацию с использованием расширений RVH1.0, RV AIA и RV IOMMU. Ранее мы писали о нескольких интересных стоечных серверах на Arm, включая собственный Cluster Server R2 и Huawei Taishan X6000 V2 Server , оба из которых являются серверами 2U.
Сервер Firefly CSC2-N48SPK3 RISC-V теперь доступен, но, как и ожидается для корпоративного стоечного оборудования, он довольно дорогой. Цены в официальном магазине Firefly начинаются от $38 829 за конфигурацию с 48 вычислительными узлами, каждый с 16 ГБ ОЗУ и 128 ГБ хранилища, а также управляющим узлом на RK3588 с 8 ГБ ОЗУ. Также доступна версия с 32 ГБ ОЗУ на узел. Более подробная информация доступна на странице продукта .
Выражаем свою благодарность источнику, с которого взята и переведена статья, сайту cnx-software.com.
Оригинал статьи вы можете прочитать здесь.