«Сбер» опубликовал модель угроз для систем искусственного интеллекта. Документ описывает 70 угроз моделей ГенИИ и предиктивного искусственного интеллекта и охватывает ключевые этапы жизненного цикла ИИ-систем — от подготовки данных и разработки модели до интеграции в приложение.

Для каждой из них, помимо возможных последствий, определены свойства информации, которые нарушаются (конфиденциальность, целостность и доступность), и объект, который может быть подвергнут воздействию нарушителя, к примеру датасеты для обучения или Open Source — модели.

В компании отмечают, что документ учитывает опыт команд «Сбера» при работе над повышением защищенности собственных ИИ-моделей, а также документы OWASP, MITRE, NIST. Его создание особенно актуально из-за растущего использования генеративных ИИ-моделей в критически важных бизнес-процессах, говорят там.

Модель угроз и схема объекта защиты