Компания Edge AI Foundation совместно с Wevolver опубликовала обзор развития Edge AI — искусственного интеллекта, работающего на периферийных устройствах.

Авторы рассматривают развитие компактных и мультимодальных моделей, переход к агентному и физическому ИИ, новые вычислительные архитектуры, вопросы управления распределенными системами, персонализации и обеспечения безопасности. Среди прочего изучается переход от инференса на периферии к агентному ИИ на периферии: устройства начинают принимать решения, действовать, планировать задачи и адаптироваться к изменениям.

Ключевые выводы:

• как отмечают авторы обзора, развитие малых языковых моделей и компактных генеративных трансформеров позволяет выполнять сложные рассуждения непосредственно на периферийных устройствах. Это открывает возможности для автономных, конфиденциальных и чувствительных к задержкам приложений;
• периферийный интеллект (Edge Intelligence) расширился от обработки отдельных потоков информации до согласованного синтеза множества сенсорных входных данных. Мультимодальный Edge AI — это система, которая объединяет визуальные и звуковые данные, а также данные радаров, лидаров и инерционных датчиков. Благодаря этому устройства могут формировать целостное представление о физической среде и учитывать взаимосвязь между событиями;
• одним из главных источников энергопотребления встроенных процессоров становится перемещение данных. Поэтому новые архитектуры Edge AI переносят вычисления ближе к месту их возникновения — непосредственно в сенсоры, энергонезависимую память и событийные вычислительные системы;
• периферийные ИИ-агенты выполняют циклы восприятия, рассуждения и действия локально, без постоянного взаимодействия с удаленной инфраструктурой. Это позволяет принимать решения в реальном времени без задержек, связанных с передачей данных по сети;
• задачи физического ИИ, для которых прежде требовались стойки графических процессоров, все чаще выполняются встроенными системами с энергопотреблением в несколько ватт. Это позволяет таким системам долго работать автономно, без постоянного подключения и чрезмерных затрат энергии;
• в промышленности внедрение Edge AI требует управления жизненным циклом тысяч моделей, работающих в умных камерах, промышленных шлюзах, торговых датчиках и сетевых маршрутизаторах. При этом, как пишут авторы материала, необходимо учитывать автономность, соответствие требованиям, энергопотребление и доступность систем;
• сочетание 5G, Wi-Fi и Bluetooth с периферийными вычислениями, федеративным обучением и роевым интеллектом позволяет распределенным устройствам совместно обучаться, координировать работу и действовать на периферии сети;
• контекстные периферийные устройства могут поддерживать локальную динамическую модель предпочтений, привычек и окружающей обстановки пользователя. Это позволяет оказывать проактивную помощь без передачи чувствительных данных в облако;
• авторы отмечают, что периферийные устройства перестают быть простыми исполнителями и превращаются в системы, способные воспринимать окружающую среду, обрабатывать данные и действовать. ИИ при этом работает локально и становится все более автономным.

The 2025 Edge AI Technology Report

Расскажите знакомым: