Согласно исследованию «Информзащиты» применение хакерами техники маскировки под трафик больших языковых моделей (LLM) повысило скрытность кибератак против корпоративных сетей на 42%. Использование поддельных запросов к LLM-API позволяет замаскировать вредоносную деятельность среди легитимного трафика ИИ, используемого компаниями в своей внутренней инфраструктуре. Системы защиты принимают подобные атаки за обычные взаимодействия с ИИ-моделями, тогда как фактически речь идет о полноценном канале управления зараженными устройствами.

Эксперты выяснили, что вредоносное ПО генерирует запросы, визуально неотличимые от обычных обращений к чат-ботам, внедрив в них скрытые инструкции для управляющих серверов. Исследователи предупреждают, что фальсификация запросов к языковой модели стала наиболее динамично развивающимся методом взлома.

Особенность подобного типа атак состоит в том, что они редко выявляются на начальных стадиях, оставляя минимальное количество признаков компрометации системы. Для компаний существует риск потери данных, внешнего контроля инфраструктуры или длительного присутствия хакеров в ИТ-системах. Эти угрозы усугубляются доверием предприятий к трафику искусственного интеллекта, который стал привычным элементом автоматизации бизнес-процессов, обработки заявок клиентов, внутреннего сервиса поддержки и аналитики.

Больше всего подвержены риску атаки представители финансовой сферы (34% случаев), промышленного и высокотехнологичного производства (27%), а также ритейла и E-commerce (21%). Оставшиеся 18% составляют государственные, образовательные и медицинские учреждения, где высокий трафик и сложная инфраструктура усиливают риск появления скрытых угроз.