Исследователи МФТИ, MWS AI, Института искусственного интеллекта AIRI и Университета ИТМО представили обновленную версию библиотеки DeepPavlov. В нее добавили классификатор токсичности, детектор контекстных галлюцинаций и классификатор Evergreen-вопросов, ответы на которые не устаревают со временем. По задумке разработчиков, DeepPavlov можно будет встраивать в существующие решения как отдельный микросервис.

Классификатор токсичности используется в качестве дополнительного инструмента контроля безопасности. Детектор галлюцинаций находит в ответе ИИ фрагменты, не подтвержденные переданным контекстом. Классификатор Evergreen-вопросов позволяет не подключать RAG там, где он не требуется, что снижает задержку и риск ухудшения ответа из-за нерелевантного контекста.

Карточки решений:
DeepPavlov