Исследователи МГУ им М.В. Ломоносова предложили индекс устойчивости изображений к атакам на метрики качества (IRI). Они также разработали нейросеть Image Robustness to Adversarial Attacks (IRAA), которая может предсказывать восприимчивость визуального контента к искусственным манипуляциям.

Метрики качества используются при разработке методов обработки изображений, видео и компьютерного зрения. Атаки на метрики позволяют искусственно завышать их показатели. Поэтому алгоритм может считать изображение качественным, хотя на самом деле оно выглядит плохо. Атаки могут привести к искажению контента и к уязвимостям в системах безопасности.

Для создания IRI ученые провели эксперименты с популярными методами атак — FGSM, IFGSM, UAP и FACPA. Оказалось, что часть метрик качества изображений устойчивы к атакам, а другими легко манипулировать.

Нейросеть IRAA протестировали на популярных наборах данных: MS COCO, LIVE in the Wild, TID2013, PIPAL и других. Оказалось, что больше всего состязательным атакам подвержены изображения с сильными искажениями. Например, если они размытые или если на них есть шум. Высококачественные изображения демонстрируют устойчивость к атакам. IRAA выявила, что некоторые метрики качества, например MDTVSFA, более восприимчивы к атакам, чем другие. Точность предсказаний нейросети оценивается в 90,6%.