Как обойти грабли при внедрении ИИ
Представители «К2Тех» — заместитель директора по ИТ Ярослав Сальников, директор направления ИИ-решений Никита Костенчук и менеджер продукта GPUaaS K2 Cloud Михаил Воронин — выступили с презентацией на вебинаре «Как обойти грабли при внедрении ИИ».
Спикеры рассказали об истории интеграции LLM и агентов в компании и привели данные об использовании ИИ в компании. Они обратили внимание на сложности в масштабировании ИИ-решений, выделив среди них аспект отсутствия единой инфраструктуры.
Сальников, Костенчук и Воронин описали четыре варианта инфраструктуры:
- внешние модели/SaaS;
- локальные модели в облаке;
- GPU в облаке (GPUaaS);
- собственная инфраструктура.