В рамках состязания участники в составе двух команд на протяжении нескольких раундов будут попеременно атаковать и защищать ИИ-ассистентов на базе LLM. Участники нападающей команды будут пытаться снять программные ограничения моделей (Jailbreak) и социальную инженерию в промптах. Защищающая сторона будет писать системные инструкции, правила отказа, контекстные проверки и стратегии, которые должны выдержать реальные атаки другой команды.
После окончания участники проведут разбор лучших атак и защит.
#информационная_безопасность#кибербезопасность
Технологии:#искусственный_интеллект#генеративный_ИИ#нейросети
Компании:ICT.Moscow — открытая площадка о цифровых технологиях в Москве. Мы создаем наиболее полную картину развития рынка технологий в городе и за его пределами, помогаем бизнесу следить за главными трендами, не упускать возможности и находить новых партнеров.