Авторы Telegram-каналов PWN AI и OK ML изучили рынок безопасности ИИ в России, проанализировав ключевых игроков и технологические тренды. По замечаниям аналитиков, сейчас рынок безопасности искусственного интеллекта находится на стадии формирования и значительно меньше, чем рынок ИИ в целом. Основным драйвером роста является активное внедрение ИИ в бизнес-процессы, особенно в финансовой сфере и телекоме. К сдерживающим факторам относится высокая стоимость решений, особенно для малого и среднего бизнеса, незрелость рынка и сложности в интеграции решений для безопасности ИИ с существующей ИТ-инфраструктурой.

Сейчас, как замечают авторы, на рынке представлены различные архитектурные подходы к обеспечению безопасности ИИ. В том числе прокси-архитектуры, встроенные средства защиты и мультиагентные системы. В целом же рынок делится на несколько сегментов: инструменты для анализа защищенности ИИ-систем, инструменты для защиты данных в ML-системах, фреймворки MLSecOps/LLMSecOps, интегрирующие безопасность во все этапы жизненного цикла машинного обучения.

К перспективным направлениям авторы также относят решения для статистического и динамического анализа безопасности ИИ-моделей, системы адаптивной защиты на основе поведенческого анализа.

Доминирующими игроками рынка являются ИБ-компании Positive Technologies и «Лаборатория Касперского», а также ИТ-холдинги «Сбер», VK и «Яндекс», которые развивают собственные решения для безопасности ИИ и фреймворки. Однако есть и стартапы (HiveTrace, «Безвайрос»), которые предлагают продукты для защиты моделей ГенИИ.

В ближайшие 2–3 года рынок безопасности ИИ, по замечаниям авторов документа, ожидает консолидация, при которой лидеры рынка будут поглощать перспективные стартапы, и рост спроса на защиту LLM. В более отдаленной перспективе прогнозируется развитие автономных систем безопасности на базе ИИ. Большинство решений по безопасности ИИ перейдут на модель AI Security as a Service, прогнозируют аналитики.