Мероприятие входит в серию встреч выходного дня, организованных «Слономойкой» — сообществом людей, которые развивают передовые технологии.

Встреча ориентирована на специалистов научно-технических и инженерных профессий, предпринимателей в сфере технологий и технологических энтузиастов.

Темы для обсуждения:

• Какие новые риски и векторы атак возникают с распространением автономных ИИ-агентов?
• Как злоумышленники используют этапы сбора и обработки данных для внедрения бэкдоров (уязвимостей)?
• Угрозы на стадии разработки моделей и инфраструктуры: закладки в коде и манипуляции с весами.
• Промпт-атаки на стадии эксплуатации: джейлбрейки (обход защитных механизмов) и промпт-инъекции (воздействие на саму систему с помощью запросов).
• Чем ИИ-агенты усиливают уязвимость к промпт-инъекциям и как эти атаки могут распространиться на других агентов и среду исполнения?
• Тренды в области кибербезопасности ИИ, модели угроз и ключевые требования к защите систем, основанных на автономных агентах.

Спикеры:

• Артем Семенов, эксперт по безопасной разработке приложений;
• Александр Товстолип, эксперт по информационной безопасности;
• Борис Захир, эксперт по безопасности моделей машинного обучения и их применению в сфере информационной безопасности, аспирант МГТУ им. Н.Э. Баумана.