Управление кибербезопасности ИИ службы кибербезопасности «Сбера» подготовило отчет о киберугрозах для систем искусственного интеллекта. Он основан на анализе актуального ландшафта угроз, мировых практик и собственного опыта расследования инцидентов.

В материале представлены 37 угроз кибербезопасности ИИ и 51 способ их реализации. Для каждого элемента приводятся описание, нарушаемые свойства информации и последствия, связанные объекты, этапы жизненного цикла, виды моделей и роли сотрудников. Отдельно авторы опубликовали альбом схем к Модели угроз кибербезопасности ИИ 2.0.

Ключевые выводы:

• с момента выхода предыдущей версии Модели угроз кибербезопасности ИИ ландшафт претерпел значительные изменения, пишут авторы. Массовое внедрение ГенИИ, усложнение архитектур ИИ-решений (мультиагентные системы, RAG, LLM-адаптеры) и накопленная практика эксплуатации выявили новые векторы атак;
• за меры защиты ИИ на различных этапах жизненного цикла отвечают владельцы данных и ИТ-инфраструктуры хранения данных, владельцы и разработчики моделей и ИТ-инфраструктуры их обучения, инференса и подключения, а также разработчики и владельцы ИИ-решений, инфраструктуры для них и для исполнения ИИ-агентов;
• угрозы кибербезопасности разделены на несколько групп: несанкционированный сбор информации; утечка конфиденциальной информации; несанкционированное воздействие на информационные ресурсы и среду исполнения; отказ в обслуживании; нарушение мультиагентного взаимодействия; нарушение функционирования; нарушение процессов отслеживания и расследования;
• авторы предлагают определять потенциал нарушителя кибербезопасности ИИ совокупностью двух факторов: уровнем технических возможностей и уровнем осведомленности и доступа;
• нарушители кибербезопасности разделяются на внешних и внутренних. К первым среди прочих относятся преступные группы и конкурирующие организации, ко вторым — пользователи и администраторы информационных ресурсов;
• способы реализации угроз сгруппированы по элементам цепочки атак. Так, к группе Reconnaissance (разведка) относятся получение данных о модели через анализ документации и файлов в открытых источниках, к Initial Access (первоначальный доступ) — отравление данных во внешних источниках и эксплуатация недостатков контроля процесса их загрузки.

Расскажите знакомым: