По данным компании AppSec Solutions, 43% российских компаний используют искусственный интеллект в своих процессах, но только у 36% из них есть минимальные политики безопасности. Это потенциально делает их мишенями для кибератак.

В компании отмечают, что особенно уязвимыми становятся ИИ-ассистенты, встроенные в корпоративную инфраструктуру. Они получают доступ к клиентским базам, внутренним документам и системам управления и могут стать источником утечек.

Также в некоторых случаях ИИ-системы обучаются на зараженных датасетах, содержащих бэкдоры. Кроме того, злонамеренные запросы могут перегружать ИИ-агентов, что может вызвать остановку процессов и привести к вынужденным инвестициям в инфраструктуру.

Эксперты подчеркивают, что современные ИИ-модели могут не только обрабатывать данные, но и самостоятельно собирать, хранить и передавать информацию о пользователях, зачастую без должных ограничений.