Команды ГК «Солар», Б1, Ассоциации ФинТех и HiveTrace провели опрос о состоянии защиты систем искусственного интеллекта 60 представителей крупных компаний разных отраслей. Основу составляют профильные ИБ-роли: 39% — CISO, 16% — руководители направлений ИБ, 12% — архитекторы и инженеры. 14% — руководители направлений ИИ/данных.

Респонденты ответили на вопросы о применении искусственного интеллекта, наиболее распространенных типах используемого ИИ, главных рисках безопасности ИИ-систем.

Ключевые выводы:

• результаты опроса показали, что крупные отечественные компании активно инвестируют в ИИ: 97% респондентов используют, пилотируют ИИ или считают его значимым для бизнеса;
• 23% организаций отмечают ИИ среди топ-3 стратегических приоритетов, 12% называют критически важным для ключевых процессов. Еще 46% считают ИИ значимым для отдельных процессов;
• наиболее распространенные типы используемого ИИ – большие языковые модели / ГенИИ, ИИ-системы, дополненные поиском, и ИИ-агенты. 79% используют ИИ на базе больших языковых моделей, 67% — ИИ-системы, дополненные поиском (RAG), 46% — ИИ-агентов с доступом к системам;
• 80% респондентов для развертывания ИИ задействуют закрытый (40%) или гибридный контур (40%), что указывает на стремление ограничивать передачу данных во внешние ИИ-сервисы и системы, пишут авторы;
• 41% компаний полностью или скорее удовлетворены текущим уровнем защиты ИИ, в то время как 40% скорее не удовлетворены или полностью не удовлетворены. Еще 19% считают, что оценивать зрелость защиты пока рано;
• 19% респондентов уже столкнулись с инцидентами, связанными с использованием ИИ;
• 42% компаний находятся в слабой зоне контроля использования ИИ сотрудниками: политики отсутствуют, не доведены до сотрудников, или применение ИИ разрешено без технического контроля;
• 81% называют наиболее критичными киберрисками для ИИ-систем утечки данных, 60% — галлюцинации, недетерминированность и некорректную генерацию контента, 54% — компрометацию данных и источников знаний;
• 49% компаний выделяют бюджет для защиты ИИ. При этом 53% ожидают роста (в большей части умеренного) инвестиций в сферу защиты ИИ в ближайшие два года.

Расскажите знакомым: