LLMOps: оптимизация инференса и ML-serving в реальном Production-кластере

Лемана Про

Директор платформы данных в «Лемана Про» Дмитрий Ибрагимов выступил на конференции Smart Data 2026 c докладом об оптимизации инференса в рабочей среде корпоративной ИИ-платформы.

В презентации описаны архитектура платформы, принципы использования инфраструктуры, версионирования используемых LLM, оптимизации потребления токенов и мониторинга работы системы. Также приведен список используемых Open Souce — компонентов.

Расскажите знакомым:

30Дата добавления:13.10.2026
30Дата добавления:13.10.2026
Добавить мою презентацию
на ICT.Moscow
Что такое ICT.Moscow?

ICT.Moscow — открытая площадка о цифровых технологиях в Москве. Мы создаем наиболее полную картину развития рынка технологий в городе и за его пределами, помогаем бизнесу следить за главными трендами, не упускать возможности и находить новых партнеров.