В МТС Web Services (MWS) сообщили, что MTS AI весь цикл обработки и обучения ИИ-моделей, включая LLM, теперь осуществляется в облачной среде MWS. Такой переход позволил повысить скорость вывода новых продуктов на рынок и оптимизировать расходы на инфраструктуру, сэкономив свыше 1 млрд руб.

Как пояснил представитель компании, все сервисы МТС базируются на машинном обучении. Ранее процесс обучения выполнялся локально, что подразумевало значительные капиталовложения в оборудование и серверные мощности. Чтобы снизить издержки, было принято решение перейти на удаленное обучение моделей в облаке.

На данный момент в виртуализированной инфраструктуре MWS развернута платформа для машинного обучения, включающая подготовку и обучение моделей. После завершения обучения модели продолжают инференс в облаке.

В компании рассказали, что процесс работы с моделями включает три основных этапа. Сначала проводится предварительное развертывание и подготовка моделей перед началом основного обучения, что снижает дальнейшие затраты на ресурсы. Затем наступает этап глубокой настройки и оптимизации моделей на суперкомпьютере. Завершающий этап предполагает эксплуатацию моделей в реальных продуктах и услугах компании непосредственно в облаке MWS.