Федеральное управление по информационной безопасности Германии представило документ для разработчиков о наиболее актуальных атаках на системы машинного обучения и потенциальных дополнительных средствах защиты.

Выделены такие типы инцидентов, как атаки уклонения (манипуляции с входными данными), атаки с извлечением информации и Backdoor-атаки (внедрение в обучающую выборку примеров с определенными метками для принятия моделью неверного решения).

К основным мерам защиты систем искусственного интеллекта отнесены документирование всех фактов и решений разработчиков, касающихся создания системы и ее работы, использование технических средств (межсетевые экраны, контроль доступа и др.), криптографическая защита важной информации на протяжении всего жизненного цикла искусственного интеллекта и др.

Расскажите знакомым: