Американский разработчик ИБ-решений Exabeam и британское аналитическое агентство Sapio Research представили результаты опроса компаний о рисках, исходящих от ИИ-агентов. В нем приняли участие по 300 специалистов, принимающих решения в сфере информационной безопасности и в сфере финансов. Респонденты представляли США, Канаду, Великобританию, Францию, Германию, Нидерланды и Австралию.

У участников опроса узнали об уровне угрозы от ИИ-агентов и о способах ее предотвращения. Авторы также выявили разные взгляды ИБ- и финансовых руководителей на вопрос о главных рисках применения автономных систем.

Ключевые выводы:

• ИИ-агенты становятся новым классом внутренних рисков. ИБ-руководители все чаще рассматривают автономные системы как более значимый источник риска, чем внешние атакующие и внутренние пользователи. Отмечается, что проблема не в том, что ИИ-агенты сами по себе являются вредоносными. Они выполняют действия с машинной скоростью, взаимодействуют с несколькими системами и могут усиливать последствия избыточного доступа, скомпрометированных учетных данных или непреднамеренных действий;
• 48% ИБ-руководителей считают главной угрозой для своих компаний ИИ-агентов или автономные системы, работающие с избыточным, скомпрометированным или непреднамеренно предоставленным доступом. На втором месте внешние акторы (28%);
• ИБ- и финансовые руководители акцентируют внимание на разных аспектах проблем, связанных с ИИ-агентами. Обе группы называют доступ к конфиденциальным данным или данным с ограниченным доступом главной проблемой (50% и 46% соответственно). На втором месте у ИБ-лидеров растущая сложность расследований (43%), у финансовых руководителей — действия за пределами предусмотренных разрешений (46%);
• наиболее распространенными инструментами для отслеживания действий ИИ-агентов называются специализированные решения для безопасности ИИ-систем и управления ими (60%), расширенное использование существующих систем SIEM и средств для обнаружения и отслеживания угроз (56%). Также специалисты отслеживают поведение ИИ-агентов и формируют их базовую модель активности (56%);
• к главным ограничениям подходов к отслеживанию действий ИИ-агентов специалисты относят ограниченный поведенческий контекст (27%), недостаточную видимость активности в средах (20%) и сложность в определении бизнес-рисков (20%);
• 93% опрошенных лидеров в сфере ИБ и финансов говорят, что сходятся во мнении по поводу допустимого уровня киберрисков;
• 55% ИБ-лидеров откладывали или снижали масштаб инициативы в области безопасности, потому что не могли представить риск в финансовом выражении для финансовых директоров.

Расскажите знакомым: