Исследование, проведенное ИБ-компанией «Информзащита», выявило, что среди организаций, интегрирующих ИИ-инструменты в рабочие процессы, 67% не проводят предварительную оценку их защищенности и влияния на безопасность информационной инфраструктуры. Эксперты считают, что основной причиной подобного подхода становится стремление быстрее развернуть решения, планируя меры защиты на более поздние этапы.

Самым частым нарушением безопасности информационных систем, вызванным использованием ИИ-инструментов, стала утечка данных. С этим сталкивались 80% компаний.

Отмечено, что недостаточное внимание к оценке риск-факторов приводит к ситуации, когда ИИ-системы получают доступ к информации, не нужной для их функционирования, передают данные через API или сохраняют их в недостаточно защищенных базах данных.

Аналитики уточняют, что еще одним серьезным риском является атака методом Prompt Injection, когда специально составленный ввод изменяет работу ИИ-алгоритма, позволяя злоумышленнику извлекать конфиденциальные сведения, устанавливать вредоносное ПО или менять настройки безопасности. От такой угрозы пострадали свыше 40% компаний, внедряющих ИИ-инструменты без предварительной проверки.

По мнению авторов исследования, наибольшему риску при таком подходе подвергаются субъекты малого и среднего бизнеса (МСБ), поскольку около 90% нарушений происходят именно в секторе МСБ. Как уточняется, компании активно внедряют новые технологии для повышения эффективности управления и сокращения персонала, ускоряя процесс интеграции в ущерб защите данных.