Главный инженер DevOps холдинге Т1 Руслан Гайнанов выступил на митапе «Т1 ЛАМПА: Бэкэнд 2.0» с докладом о способах запуска LLM на локально развернутой инфраструктуре.
В презентации спикер описал сценарии использования Open Source — моделей для отдельных разработчиков, небольших команд и корпоративного контура соотвественно. Гайнанов рассказал о принципах подбора моделей, ПО для развертывания и аппаратной составляющей.
ICT.Moscow — открытая площадка о цифровых технологиях в Москве. Мы создаем наиболее полную картину развития рынка технологий в городе и за его пределами, помогаем бизнесу следить за главными трендами, не упускать возможности и находить новых партнеров.