Участники вебинара разберут, что из себя представляют открытые LLM и понятие их квантизациии, а также как выбрать модель под определенную задачу с учетом имеющихся вычислительных мощностей. Докладчик расскажет, как загрузить и запустить нейросеть Qwen в сервисе Google Colab через Hugging Face Transformers. Также будут представлены техники управления поведением модели: промпты, температура, длина ответа.

Спикер:

• Марк Блуменау, академический руководитель программы «Специалист по науке о данных (Data Science)» Центра непрерывного образования ФКН НИУ ВШЭ.