Руководитель направления «Модели и сервисы для ИИ-Ассистентов» в Wildberries & Russ Юрий Софронов выступил с презентацией на Inside AI Meetup.

В докладе спикер на базе собственных кейсов представил чек-лист для запуска продуктов на базе LLM:

• данные с достаточно детализированным контекстом;
• программная инфраструктура, использующая собственную архитектуру;
• Hardware-инфраструктура: наличие планировщика вычислений поверх GPU.