ГлавнаяЛента

Ведомости

MWS AI и Rubytech испытали ПАК с китайскими GPU

20 августа, 15:19|
171

Разработчики MWS AI (входит в МТС Web Services) и Rubytech совместно испытали программно-аппаратный комплекс (ПАК) с восемью китайскими GPU.

Для тестов рассматривались пять вариантов чипов. Какой из GPU был в итоге выбран, не сообщается. На ПАК запустили две нейросети MWS AI: Cotype Pro 3 размером (27 млрд параметров) и Cotype Light 3 (9 млрд параметров).

В отдельных сценариях инференса ПАК показал результаты, сопоставимые с системами на базе ИИ-чипа NVIDIA H100. При контексте в 27 тыс. токенов модель начинала генерировать ответ через 8 с. Интервал между последующими токенами не превышал 111 мс. Настроив драйверы и программное окружение, разработчики добились повышения производительности ПАК на отдельных задачах до 2,2 раз.

Представители MWS AI отметили, что испытания нового ПАК проводятся в рамках работы по снижению инфраструктурных рисков и поиска альтернативы ИИ-чипам компании NVIDIA.

Rubytech дорабатывает ПАК. Коммерческий запуск запланирован на 2027 год. Первая версия будет специализироваться на задачах инференса, возможность дообучения ИИ-моделей добавят позже.


В сентябре 2025 года стало известно о том, что «Сбер» и Т-Банк тестируют китайские ускорители для ИИ.


Подробнее

Расскажите знакомым:

Главное про цифровые технологии в Москве

Нажимая на кнопку, вы соглашаетесь с политикой конфиденциальности

Что такое ICT.Moscow?

ICT.Moscow — открытая площадка о цифровых технологиях в Москве. Мы создаем наиболее полную картину развития рынка технологий в городе и за его пределами, помогаем бизнесу следить за главными трендами, не упускать возможности и находить новых партнеров.