📖 Почитать на выходных: о галлюцинациях LLM и методах борьбы с ними

В заметке на «Хабре» представитель MTS Web Services раскрывает, как характер обучающей выборки влияет на появление галлюцинаций у больших языковых моделей, а также рассказывает о способах обнаружения негативных сценариев и особенностях таких проверок.

Отдельно автор останавливается на семантических галлюцинациях, ложных воспоминаниях, в которых факты сочетаются с вымышленными событиями, «слепых пятнах» и ситуациях, в которых модели не способны сгенерировать корректный ответ.

👉🏻 Читать материал