Компания Innostage представила решение Innostage AIDR (Artificial Intelligence Detection & Response) для защиты ИИ-сервисов.
Продукт представляет собой прокси-сервер между LLM и приложением, в котором она используется. Innostage AIDR фильтрует входящие запросы к модели, блокирует попытки внедрения вредоносных инструкций в запрос к модели, а также обхода ограничений модели.
Сервис проверяет генерируемые LLM ответы на наличие персональных данных и другой критичной информации. Также отслеживается тематика и тональность ответов.
В сценариях, когда LLM используется для разработки, сервис маскирует данные (логины, пароли и токены) и передает информацию SIEM-системам.
В апреле 2026 года облачный провайдер M1Cloud предложил своим пользователям решение cqrt(ai) для защиты ИИ-систем от киберугроз.
#информационная_безопасность#кибербезопасность
Технологии:#искусственный_интеллект#генеративный_ИИ#нейросети
Компании:по теме:
Нажимая на кнопку, вы соглашаетесь с политикой конфиденциальности
ICT.Moscow — открытая площадка о цифровых технологиях в Москве. Мы создаем наиболее полную картину развития рынка технологий в городе и за его пределами, помогаем бизнесу следить за главными трендами, не упускать возможности и находить новых партнеров.