Инструментарий Rockchip RKLLM выпущен для ускоренных NPU больших языковых моделей на SoC RK3588, RK3588S, RK3576

Инструментарий Rockchip RKLLM (также известный как rknn-llm) — программный стек для развертывания генеративных моделей ИИ на Rockchip RK3588 , RK3588S или RK3576 SoC с использованием встроенного NPU производительностью 6 TOPS для ИИ.

Ранее тестировались LLM на одноплатных компьютерах Rockchip RK3588 с GPU Mali G610 , ожидалось скорое появление поддержки NPU. Публикация в X от Orange Pi сообщила о выпуске программного стека RKLLM, работающего с Orange Pi 5 семейством одноплатных компьютеров и Orange Pi CM5 системными модулями.

Читать далее «Инструментарий Rockchip RKLLM выпущен для ускоренных NPU больших языковых моделей на SoC RK3588, RK3588S, RK3576»

Сборка рабочей станции на базе материнской платы Radxa ROCK 5 ITX (Arm) или Milk-V Jupiter (RISC-V) формата mini-ITX – Часть 1: Аппаратное обеспечение

Radxa ROCK 5 ITX – материнская плата формата mini-ITX на базе восьмиядерного процессора Rockchip RK3588 Cortex-A76/A55, а Shenzhen Milk-V Jupiter – альтернативная плата формата mini-ITX, но с восьмиядерным 64-битным процессором SpacemIT K1 RISC-V.

При получении предложения от Radxa протестировать эти решения, возникла идея рассмотреть полный комплект с корпусом формата mini-ITX, поскольку подобные системы ранее не собирались. Неожиданно прибыли две крупные посылки: в одной находились материнские платы mini-ITX на Arm и RISC-V, в другой – корпус NAS формата mini-ITX с шестью отсеками для SATA-накопителей.

Читать далее «Сборка рабочей станции на базе материнской платы Radxa ROCK 5 ITX (Arm) или Milk-V Jupiter (RISC-V) формата mini-ITX – Часть 1: Аппаратное обеспечение»

Обзор AI-бокса Radxa Fogwise Airbox – Часть 2: Llama3, Stable Diffusion, imgSearch, Python SDK, YOLOv8

После изучения оборудования Radxa Fogwise Airbox в первой части обзора в прошлом месяце, теперь представилась возможность протестировать AI-бокс на базе SOPHGO SG2300x с предустановленным образом Ubuntu 20.04 Server, содержащим CasaOS, а также контейнеры Stable Diffusion и Llama3.

Вторую часть обзора начнём с проверки предустановленного генератора изображений Stable Diffusion и ИИ-чата Llama3, затем вручную установим в веб-интерфейсе CasaOS поисковую систему imgSearch на базе ИИ, протестируем Python SDK через командную строку и запустим модели компьютерного зрения Resnet50 и YOLOv8.

Читать далее «Обзор AI-бокса Radxa Fogwise Airbox – Часть 2: Llama3, Stable Diffusion, imgSearch, Python SDK, YOLOv8»

Новости ПО для SBC – Armbian 24.5.1, DietPi 9.4 и сервер Otii для Raspberry Pi 4/5

За последние недели вышли значительные обновления ПО для одноплатных компьютеров (SBC): релиз Armbian 24.5.1 Havier с фокусом на стабильность и улучшение пользовательского опыта, выпуск облегченного дистрибутива DietPi 9.4 на базе Debian для SBC, а также финальный релиз Otii server – ПО для блока питания, измерителя и системы сбора данных Qoitech Arc – для Raspberry Pi 4/5.

Читать далее «Новости ПО для SBC – Armbian 24.5.1, DietPi 9.4 и сервер Otii для Raspberry Pi 4/5»

Radxa ROCK 5C (Lite) SBC оснащена SoC Rockchip RK3588S2 или RK3582, WiFi 6 и разъемом Raspberry Pi PCIe FFC

Сначала появилась плата ROCK 5B формата pico-ITX , затем плата ROCK 5A размером с Raspberry Pi 4 , а теперь Radxa выпустила одноплатные компьютеры Radxa ROCK 5C и 5C Lite на базе процессоров Rockchip RK3588S2 (восьмиядерный) и RK3582 (шести-/восьмиядерный «лотерейный») соответственно.

Дизайн ROCK 5C (Lite) очень похож на ROCK 5A, но есть несколько заметных отличий. Во-первых, два micro HDMI порта заменены на один HDMI, во-вторых, разъем Key M для беспроводных модулей M.2 убран, чтобы освободить место для встроенного модуля WiFi 6 и Bluetooth 5.4, а также разъема Raspberry Pi PCIe FFC . Наконец, ROCK 5C больше не поддерживает модуль SPI flash.

Читать далее «Radxa ROCK 5C (Lite) SBC оснащена SoC Rockchip RK3588S2 или RK3582, WiFi 6 и разъемом Raspberry Pi PCIe FFC»

Radxa Zero 3E SBC предлагает Gigabit Ethernet и PoE в форм-факторе Raspberry Pi Zero 2 Вт.

В декабре прошлого года мы писали о Radxa Zero 3W WiFi 6 SBC на базе Rockchip RK3566 и отмечали, что скоро появится Radxa Zero 3E с Gigabit Ethernet и дополнительной поддержкой PoE и будет иметь примерно те же размеры, что и Raspberry Pi Zero 2 W. Теперь Radxa Zero 3E доступен на Aliexpress или Amazon с объемом оперативной памяти от 1 ГБ до 8 ГБ LPDDR4.

Читать далее «Radxa Zero 3E SBC предлагает Gigabit Ethernet и PoE в форм-факторе Raspberry Pi Zero 2 Вт.»

Radxa NIO 12L – компактная одноплатная система на базе MediaTek Genio 1200 с сертификацией Ubuntu и гарантией обновлений не менее 5 лет

Radxa NIO 12L представляет собой компактную одноплатную систему (SBC) на базе восьмиядерного процессора MediaTek Genio 1200 (Cortex-A78/A55) с нейропроцессором NPU производительностью 4 TOPS, сертифицированную для работы с Ubuntu с гарантией обновлений ПО не менее 5 лет и возможностью расширения до 10 лет за дополнительную плату.

Плата оснащена оперативной памятью до 16 ГБ, накопителем UFS до 512 ГБ, видеовыходами HDMI, USB-C (DisplayPort) и MIPI DSI, входным портом HDMI с поддержкой 4K, двумя интерфейсами MIPI CSI для камер, гигабитным Ethernet и WiFi 6, пятью портами USB и 40-контактным GPIO-разъемом для расширения.

Читать далее «Radxa NIO 12L – компактная одноплатная система на базе MediaTek Genio 1200 с сертификацией Ubuntu и гарантией обновлений не менее 5 лет»

Тестирование NVMe SSD Cytron MAKERDISK M.2 на Raspberry Pi 5 с платами GEEKWORM X1001 и Waveshare M.2 PCIe HAT+

Cytron предоставил несколько NVMe SSD MAKERDISK с предустановленной Raspberry Pi OS для тестирования на одноплатном компьютере Raspberry Pi 5 с использованием плат расширения GEEKWORM X1001 или Waveshare M.2 PCIe HAT+ , которые также были предоставлены компанией.

С момента выхода первых M.2 PCIe HAT для Raspberry Pi 5 было известно, что Raspberry Pi Limited работает над собственной моделью, и, судя по слухам в Twitter/X (с фотографиями), запуск официального M.2 HAT+ должен состояться в ближайшее время. Поэтому сейчас идеальное время для тестирования SSD на Raspberry Pi 5, хотя официальный HAT+ еще не получен.

Читать далее «Тестирование NVMe SSD Cytron MAKERDISK M.2 на Raspberry Pi 5 с платами GEEKWORM X1001 и Waveshare M.2 PCIe HAT+»