Фонд «Росконгресс» представил обзор, посвященный развитию агентного искусственного интеллекта. Документ основан на анализе открытых данных и материалах исследовательских и консалтинговых компаний, таких как IBM, Gartner, Goldman Sachs и McKinsey. В обзоре дается определение ИИ-агентов, раскрываются их ключевые характеристики и проводится сравнение с другими системами искусственного интеллекта.

Кроме того, в материале уделено внимание практике применения агентных решений в бизнесе, их потенциалу масштабирования, а также вызовам, с которыми сталкиваются компании при интеграции подобных технологий. В документе рассматриваются вопросы влияния агентного ИИ на рынок труда, отдельные разделы посвящены рискам кибербезопасности, ограничениям современных моделей и прогнозам возможных сценариев развития агентного ИИ до 2030 года.

Ключевые выводы:

• авторы документа отмечают, что ИИ-агенты отличаются от существующих ИИ‑систем способностью действовать автономно, без постоянного взаимодействия с человеком. Они могут самостоятельно искать пути решения поставленных проблем, собирать необходимые данные, делегировать задачи и предоставлять пользователю готовый результат без лишних деталей. Технологическая архитектура агентного ИИ строится на интеграции больших языковых моделей с системами планирования, памяти и инструментами взаимодействия с внешней средой; 
• со ссылкой на данные IBM авторы пишут, что компании планируют использовать агентный ИИ для обслуживания клиентов, управления проектами и создания контента. А наибольшие беспокойства предприятий в вопросе масштабирования ИИ-агентов связаны с обеспечением их надежности, появлением новых векторов атак, соблюдением требований и регулирования, а также чрезмерной автономностью таких систем. Тем не менее, как указывают исследователи, на середину 2025 года большинство таких проектов не вышли из стадии эксперимента и не способны самостоятельно достигать сложных бизнес‑целей или выполнять многоэтапные задачи;
• несмотря на активное внедрение ИИ-агентов, опасности вытеснения человеческого труда нет, отмечают авторы обзора. Реальное влияние автоматизации затрагивает лишь ограниченную часть сотрудников, а страхи масштабных сокращений зачастую оказываются преувеличенными по сравнению с фактическими изменениями;
• согласно документу ИИ-агенты приносят ощутимую пользу, выполняя главным образом узкие и четко очерченные задачи. Их эффективность сохраняется только при обязательном участии человека в принятии ключевых решений. Таким образом, человеческий контроль и правильное распределение ролей становятся главными условиями успешного внедрения агентного ИИ;
• использование агентных систем открывает новые уязвимости, включая отравление памяти и захват агентов через манипулирование контекстом, подчеркивают авторы документа. Это требует пересмотра существующих подходов к защите;
• в «Росконгрессе» считают, что потенциал агентного ИИ напрямую связан с преодолением текущих технологических барьеров и удешевлением использования больших языковых моделей. Проблемы надежности многошаговых процессов и сложности интеграции с корпоративными системами остаются ключевыми препятствиями в распространении таких решений;
• возможные траектории развития агентного ИИ к 2030 году варьируются от сворачивания исследований при низкой отдаче и усилении регулирования до постепенной эволюции с сохранением человеческого контроля или, в оптимистичном варианте, превращения агентов в стандартный элемент корпоративного программного обеспечения с интеграцией в существующие рабочие процессы.

Расскажите знакомым: