Разработчики MWS AI (входит в МТС Web Services) и Rubytech совместно испытали программно-аппаратный комплекс (ПАК) с восемью китайскими GPU.
Для тестов рассматривались пять вариантов чипов. Какой из GPU был в итоге выбран, не сообщается. На ПАК запустили две нейросети MWS AI: Cotype Pro 3 размером (27 млрд параметров) и Cotype Light 3 (9 млрд параметров).
В отдельных сценариях инференса ПАК показал результаты, сопоставимые с системами на базе ИИ-чипа NVIDIA H100. При контексте в 27 тыс. токенов модель начинала генерировать ответ через 8 с. Интервал между последующими токенами не превышал 111 мс. Настроив драйверы и программное окружение, разработчики добились повышения производительности ПАК на отдельных задачах до 2,2 раз.
Представители MWS AI отметили, что испытания нового ПАК проводятся в рамках работы по снижению инфраструктурных рисков и поиска альтернативы ИИ-чипам компании NVIDIA.
Rubytech дорабатывает ПАК. Коммерческий запуск запланирован на 2027 год. Первая версия будет специализироваться на задачах инференса, возможность дообучения ИИ-моделей добавят позже.
В сентябре 2025 года стало известно о том, что «Сбер» и Т-Банк тестируют китайские ускорители для ИИ.
Нажимая на кнопку, вы соглашаетесь с политикой конфиденциальности
ICT.Moscow — открытая площадка о цифровых технологиях в Москве. Мы создаем наиболее полную картину развития рынка технологий в городе и за его пределами, помогаем бизнесу следить за главными трендами, не упускать возможности и находить новых партнеров.