«Сбер» предоставил сторонним разработчикам доступ к собственной обновленной модели угроз для систем на основе искусственного интеллекта. Ожидается, что это позволит российским государственным структурам и компаниям учитывать опыт «Сбера» для повышения киберустойчивости ИИ-решений.

Обновленная модель учитывает изменения ландшафта киберугроз в связи с массовым внедрением генеративных моделей, мультиагентных систем, RAG и LLM-адаптеров. Кроме этого, расширен перечень объектов защиты: он включает компоненты, которые ранее не рассматривались, но на данный момент стали критическими точками атак.

Модель описывает 37 угроз и 51 способ их реализации. Для каждой из них определены возможные последствия, нарушаемые свойства информации, связанные объекты и этапы жизненного цикла. Модель предназначена для разработчиков ИИ-решений, MLOps-инженеров, архитекторов и специалистов по кибербезопасности, руководителей, отвечающих за управление рисками.

Документ базируется на анализе актуальных угроз, мировых практиках и опыте «Сбера» по обеспечению кибербезопасности инфраструктуры разработки, обучения и эксплуатации ИИ-решений.

В июле «Сбер» выложил в открытый доступ экспериментальную диффузионную языковую модель GFusion и метод ее обучения.