Инженерно-математическая школа НИУ ВШЭ и VK в рамках расширения подготовки специалистов в области информационной безопасности открывают новое подразделение, специализирующееся на безопасности машинного обучения (ML Security).

Основная задача подразделения — защита моделей искусственного интеллекта и их датасетов от различных видов атак, таких как кража данных, внедрение вредоносных данных и подмена результатов. Студенты, обучающиеся в этом направлении, получат опыт в автоматизации процессов машинного обучения (MLOps) и обеспечении их безопасности (MLSecOps).

Среди практических задач — разработка R&D-инструментов для MLSecOps, создание утилит для анализа устойчивости моделей к угрозам и автоматизация проверки их безопасности.