25% крупнейших финансовых компаний России столкнулись с инцидентами с участием ИИ. Такие данные приводят в Ассоциации ФинТех и компании Swordfish Security, опросив участников финансового рынка.

По информации аналитиков, респонденты также нуждаются в специальных инструментах для безопасного использования ИИ, так как существующие решения не покрывают полностью их потребности.

При этом 62,5% FinTech-компаний имеют команды ИИ-специалистов с более чем 20 сотрудниками. У 63% респондентов за вопросы безопасности ИИ отвечают несколько команд внутри организации.

Также, согласно исследованию, 75% опрошенных главной угрозой считают утечки конфиденциальных данных. Компании по-разному планируют подходить к решению проблемы: 88% хотят повысить осведомленность сотрудников в этой области, 75% — заняться разработкой внутренней политики по ИИ-безопасности, 63% — интегрировать инструменты защиты, 62% — проводить аудиты и тестирования ИИ-систем.

Среди самых значимых угроз кибербезопасности при использовании искусственного интеллекта участники отмечают небезопасное указание ИИ-помощнику, раскрытие чувствительной информации, отравление данных.