Компания Yandex B2B Tech представила новую версию системы управления базами данных YDB 25.1. В нее внедрили поиск по числовым векторам, или эмбеддингам. Решение можно использовать для повышения качества ответов ИИ-ассистентов.
Доступны две версии векторного поиска: точный и приближенный. Первый вариант показывает лучший результат, но требует сложных вычислений, если данных много. Второй вариант ищет информацию по миллиардам векторов за десятки или сотни миллисекунд даже если корпус векторов не помещается в оперативную память.
СУБД YDB позволяет создавать ИИ-ассистентов на архитектуре RAG (Retrieval-Augmented Generation) — когда ответ большой языковой модели дополняется данными из базы знаний, рассказал технический директор проекта Андрей Фомичев. Благодаря векторному поиску ИИ-помощник будет давать «более полные, релевантные и актуальные ответы без какого-либо дообучения большой языковой модели», объяснил разработчик. Среди преимуществ называются возможность устанавливать неочевидные связи между объектами, поиск по разнородным данным, а также устойчивость к ошибкам и опечаткам.
Технология векторного поиска используется в ИИ-ассистенте «Алиса». Она подстраивается под пользователя и ведет диалог в персонализированной манере.
Разработчики YDB опубликовали статью о внедрении векторного поиска на «Хабре».
Карточки решений:
В Москве будут готовить специалистов по разработке VR/AR-решений в медицине
Сеченовский университет
Нажимая на кнопку, вы соглашаетесь с политикой конфиденциальности
ICT.Moscow — открытая площадка о цифровых технологиях в Москве. Мы создаем наиболее полную картину развития рынка технологий в городе и за его пределами, помогаем бизнесу следить за главными трендами, не упускать возможности и находить новых партнеров.