Опубликовано

Решение Phison aiDAPTIV+ AI использует SSD-накопители для расширения памяти графического процессора для обучения LLM

В поисках новых и интересных продуктов мы нашли серию DLAP Supreme от ADLINK, серию устройств Edge AI, на базе платформы NVIDIA Jetson AGX Orin. Но это не самое интересное, наше внимание привлекла поддержка технологии aiDAPTIV+ . Мы обнаружили, что aiDAPTIV+ AI представляет собой гибридное (программное и аппаратное) решение, которое использует легкодоступную недорогую флэш-память NAND для расширения возможностей графических процессоров для оптимизации и масштабирования работы с большими языковыми моделями (LLM) для малого и среднего бизнеса. Такая конструкция предлагает более рациональный подход, в отличие от традиционных методов, которые требуют значительных ресурсов и сложных вычислений, таких как Llama-2 7B.

Читать далее «Решение Phison aiDAPTIV+ AI использует SSD-накопители для расширения памяти графического процессора для обучения LLM»
Опубликовано

Драйвер Panthor с открытым исходным кодом для графических процессоров Arm Mali-G310, Mali-G510, Mali-G610 и Mali-G710 станет частью Linux 6.10.

Collabora работала над драйвером ядра графического процессора Panthor с открытым исходным кодом для графического процессора Valhall третьего поколения (Arm Mali-G310, Mali-G510, Mali-G610 и Mali-G710) около двух лет, и на днях  был опубликован код был объединен в drm-misc, что означает, что он должен стать частью предстоящего выпуска Linux 6.10 где-то в июле 2024 года.

Читать далее «Драйвер Panthor с открытым исходным кодом для графических процессоров Arm Mali-G310, Mali-G510, Mali-G610 и Mali-G710 станет частью Linux 6.10.»