Исследователи из Института искусственного интеллекта AIRI представили Open Source — модель OCC-RAG. Она стала первой в линейке разрабатываемых при поддержке «Сбера» моделей ОСС (Optimal Cognitive Core).
Нейросеть использует в своей работе метод RAG (Retrieval-Augmented Generation, генерация с дополненной выборкой). Она обучена связывать факты из разных частей текста и задействовать внешние источники.
OCC-RAG опирается на предоставленный пользователем контекст и отказывается отвечать в случае недостатка данных, что позволяет применять нейросеть в сферах, где необходим безошибочный ответ, например в финансовых сервисах, медицинских системах.
За счет компактного размера модель обрабатывает запросы быстрее LLM. Также OCC-RAG тратит в 1,5 раза меньше токенов на генерацию ответа. Разработчики объясняют это тем, что нейросети линейки ОСС концентрируются на способности анализировать информацию, строить логические связи между фактами и корректно работать с внешними источниками данных.
В дальнейшем модели обучат самостоятельно искать недостающий контекст в поисковых системах, базах данных, корпоративных сервисах и кодовых репозиториях, а также вызывать другие ИИ-модели.
В июне 2025 года исследователи из AIRI, МФТИ и London Institute for Mathematical Sciences определили предел сжатия информации для ИИ-моделей.
Нажимая на кнопку, вы соглашаетесь с политикой конфиденциальности
ICT.Moscow — открытая площадка о цифровых технологиях в Москве. Мы создаем наиболее полную картину развития рынка технологий в городе и за его пределами, помогаем бизнесу следить за главными трендами, не упускать возможности и находить новых партнеров.