Fogwise AIRbox Q900 – $599 Блок ИИ Qualcomm IQ-9075 обеспечивает до 200 TOPS производительности ИИ

Fogwise AIRBox Q900 — это обновление Fogwise Airbox на базе Qualcomm IQ-9075 SoC с производительностью ИИ до 200 TOPS (разреженных), 36 ГБ оперативной памяти и 128 ГБ флеш-памяти UFS.

Radxa заявляет, что её новый микросервер ИИ напрямую конкурирует с NVIDIA Jetson Orin NX 16GB , предлагая более низкую общую стоимость системы, схожую производительность и повышенную эффективность. Другие преимущества включают реальные ядра Cortex-R52, сеть 2.5GbE, а также раздельные GPU, NPU и DSP.

Читать далее «Fogwise AIRbox Q900 – $599 Блок ИИ Qualcomm IQ-9075 обеспечивает до 200 TOPS производительности ИИ»

Решение Phison aiDAPTIV+ AI использует SSD-накопители для расширения памяти графического процессора для обучения LLM

В поисках новых и интересных продуктов мы нашли серию DLAP Supreme от ADLINK, серию устройств Edge AI, на базе платформы NVIDIA Jetson AGX Orin. Но это не самое интересное, наше внимание привлекла поддержка технологии aiDAPTIV+ . Мы обнаружили, что aiDAPTIV+ AI представляет собой гибридное (программное и аппаратное) решение, которое использует легкодоступную недорогую флэш-память NAND для расширения возможностей графических процессоров для оптимизации и масштабирования работы с большими языковыми моделями (LLM) для малого и среднего бизнеса. Такая конструкция предлагает более рациональный подход, в отличие от традиционных методов, которые требуют значительных ресурсов и сложных вычислений, таких как Llama-2 7B.

Читать далее «Решение Phison aiDAPTIV+ AI использует SSD-накопители для расширения памяти графического процессора для обучения LLM»

Драйвер Panthor с открытым исходным кодом для графических процессоров Arm Mali-G310, Mali-G510, Mali-G610 и Mali-G710 станет частью Linux 6.10.

Collabora работала над драйвером ядра графического процессора Panthor с открытым исходным кодом для графического процессора Valhall третьего поколения (Arm Mali-G310, Mali-G510, Mali-G610 и Mali-G710) около двух лет, и на днях  был опубликован код был объединен в drm-misc, что означает, что он должен стать частью предстоящего выпуска Linux 6.10 где-то в июле 2024 года.

Читать далее «Драйвер Panthor с открытым исходным кодом для графических процессоров Arm Mali-G310, Mali-G510, Mali-G610 и Mali-G710 станет частью Linux 6.10.»