В «Госуслуги» хотят внедрить метод LLM Streaming для голосовых ответов на вопросы по телефону. Этот метод предполагает генерацию текста в реальном времени по частям. Цифровой ассистент «Макс» может получить такую функцию не раньше начала 2026 года, сообщил директор по продукту цифрового ассистента Никита Устриков.

В телефонной линии на «Госуслугах» сейчас около 30% запросов обрабатывает робот без LLM. Использование LLM на самом портале снизило долю некачественной обработки первичных вопросов пользователей с 22% до 10%.

В будущем команда цифрового ассистента планирует внедрять на «Госуслугах» модели для генерации контента: они будут делать ответы госслужащих более понятными. На этапе пилотного проекта находится внедрение режима рассуждения. Не исключается появления ИИ-агентов.

Большие языковые модели внедряются на «Госуслугах» с 2024 года. LLM не применяется для ответов на простые вопросы. Ассистентом «Максом» ежедневно пользуются 2,5 млн авторизованных пользователей.