ruBERT
Языковая модель
Описание:
Модель-энкодер (кодировщик) размером в 127 млн параметров была создана на базе созданной в Google архитектуры BERT. Она обучалась на 16 процессорах NVIDIA V100 в течение 7—8 дней с использованием SberSQUAD и ряда других датасетов.
ruBERT была представлена SberDevices и DeepPavlov в июле 2021 года. Доступна как открытое ПО.
Участвует в спецпроектах ICT.Moscow:
Проект запущен:
2021
Последнее обновление:13.11.2025
Материалы о разработчике
Другие проекты разработчика:
Похожие проекты:
Главное про цифровые технологии в Москве
Нажимая на кнопку, вы соглашаетесь с политикой конфиденциальности
Что такое ICT.Moscow?
ICT.Moscow — открытая площадка о цифровых технологиях в Москве. Мы создаем наиболее полную картину развития рынка технологий в городе и за его пределами, помогаем бизнесу следить за главными трендами, не упускать возможности и находить новых партнеров.