По словам ученых, современные модели часто демонстрируют высокую точность, но в ряде случаев проявляют избыточную уверенность в своих выводах, даже в ситуациях, когда данные неоднозначные или содержат шум.

Представленный метод использует набор тренировочных данных (Confidence-Aware Training Data) и позволяет нейросетям более точно оценивать собственную «уверенность» в прогнозах. В отличие от классических подходов, где в обучающих выборках используются только бинарные метки (0 или 1), в новой методике дополнительно вводятся «мягкие» метки — значения в диапазоне от 0 до 1, отражающие степень уверенности экспертов в правильности разметки данных.

«Наш метод помогает нейросети понять, где стоит проявить осторожность. На практике это позволяет снизить риск излишней уверенности модели при обработке сложных или пограничных случаев», — рассказали в «Сколтехе».

Исследователи считают, что их метод может быть использован в медицинских диагностических системах, промышленной автоматизации, системах технического контроля и других автономных решениях.