Ученые Московского государственного психолого-педагогического университета (МГППУ) разработали софт для распознавания галлюцинаций у ИИ-ассистентов. Он оценивает корректность ответов и генерирует запросы по аннотации — краткому описанию ответа на запрос.

В основе решения — разработанный квазигенетический алгоритм. В поиске приемлемого результата задействован сам ИИ-помощник. ПО создано на базе OpenAI API, его протестировали на текстах психологического содержания.

Программное решение предназначено для автоматизации работы промпт-инженера. По мнению исследователей, разработка может найти практическое применение в психологии, социологии, искусствоведении и других гуманитарных областях.

В МГУ им. М.В. Ломоносова планируют к концу 2026 года разработать набор инструментов для снижения галлюцинаций ИИ за счет совершенствования методов обучения и архитектуры моделей.