Федеральная служба по техническому и экспортному контролю России (ФСТЭК) обновила банк данных угроз информационной безопасности. В него добавили риски, связанные с искусственным интеллектом.

В перечень вошли типы решений, уязвимости в которых могут использоваться в кибератаках. Среди них — модели машинного обучения и датасеты. В список также добавили подход RAG (Retrieval Augmented Generation), предназначенный для генерации ответа на основе данных внешних источников, и LoRA-адаптеры (Low-Rank Adaptation), которые применяют для адаптации моделей к конкретным задачам.

ФСТЭК описала и векторы возможных атак. В их числе — эксплуатация уязвимостей во фреймворках для ИИ, модификация системных промптов или конфигураций агентов, DoS-атаки.

База данных угроз создавалась как инструмент для повышения информированности ИБ-специалистов о существующих рисках. Однако сейчас организации, которые по закону должны защищать свою информационную систему, обязаны использовать банк для разработки модели угроз.

Бизнес-партнер по кибербезопасности Cloud.ru Юлия Липатникова считает, что перечень не обязывает бизнес к каким-либо действиям сейчас. Но, по ее мнению, разработчикам ИИ-решений необходимо предусмотреть возможность внедрения новых процессов создания, тестирования и эксплуатации моделей, чтобы обезопасить данные и архитектуры. Как отметил руководитель отдела продвижения продуктов компании «Код безопасности» Павел Коростелев, перечень угроз адресован субъектам критической информационной инфраструктуры и органам государственной власти. Эксперт отметил, что для них это основополагающий документ для моделирования рисков и формирования систем защиты.

ФСТЭК в сентябре сообщал, что до конца 2025 года представит для общественного обсуждения проект стандарта безопасной разработки систем искусственного интеллекта. Он станет дополнением к стандарту по безопасной разработке ПО.