По данным «Информзащиты», около 70% российских предприятий подверглись кибератакам, осуществленным посредством больших языковых моделей (LLM), которыми пользуются более 90% отечественных компаний.

Почти половина всех зафиксированных нападений (около 40%) представляет собой атаки типа Prompt Injection, когда злоумышленник внедряет вредоносную инструкцию внутрь своего запроса. Модели часто не различают собственные инструкции и вводимые пользователем команды, воспринимая их одинаково значимыми. Это увеличивает количество потенциальных злоумышленников, которые могут использовать уязвимости ИИ.

Инъекция запросов опасна из-за низкого уровня проверки на безопасность, предупреждают эксперты. 67% компаний не проверяют ее до внедрения и подготовки корпоративных LLM к использованию.

Еще одна угроза состоит в простоте осуществления такого рода нападения: злоумышленник способен отправить потенциально опасный запрос обычными словами, без глубоких технических познаний. Это увеличивает количество потенциальных злоумышленников, которые могут использовать уязвимости ИИ.

Чаще всего злоумышленники используют инъекции запросов для организации фишинговых рассылок (48% инцидентов) и для эксфильтрации данных (40%). Среди целей для таких атак лидируют компании, активно использующие LLM для взаимодействия с пользователями, — ритейл (37%), финансовые организации (25%), телеком-компании (17%).

Большинство компаний разворачивают подобные решения без предварительной оценки рисков и дополнительной защиты, оставляя их открытыми для внутренних ресурсов и важных источников данных. Только треть организаций предварительно тестирует такие инструменты на предмет устойчивости к подобного рода киберугрозам.