AI вывод раньше происходил исключительно на мощных серверах, размещенных в облаке, но в последние годы были предприняты большие усилия, чтобы продвинуть вывод на край, обычно это означает на устройстве, из-за гораздо меньшей задержки и улучшенной конфиденциальности.
Вывод на устройство работает, но, очевидно, производительность ограничена, и на устройствах с батарейным питанием также необходимо учитывать энергопотребление. Поэтому для некоторых приложений имеет смысл иметь локальный сервер с гораздо большей вычислительной мощностью, чем устройства, и с меньшей задержкой, чем в облаке. Это именно тот случай, когда сервер SolidRun Janux GS31 Edge AI вывода пытается использовать несколько процессоров NXP в сочетании с 128 ускорителями Gyrfalcon Lightspeeur SPR2803 AI
