Директор продуктового направления ML/AI/GPU в компании «Флант» Александр Подмосковный выступил на конференции Smart Data 2026 с докладом об инфраструктуре для ИИ-сервисов.

В презентации спикер описал механизм работы сервиса-планировщика инференса моделей для Deckhouse Kubernetes Platform. На прнимере кейса ИИ-ассистента Подмосковный рассказал, как решения оценивает модель и формулирует план запуска и исполняет его на имеющихся GPU c учетом их профиля и текущего состояния кластера.