38
В рамках круглого стола «Черное Зеркало: право vs этика ИИ» на AI Journey эксперты обсудили основные принципы регулирования ИИ, и перспективы развития этого направления в России
В рамках дискуссии 👤Оксана Тарасенко, замминистра экономического развития, назвала несколько базовых принципов, на которые предлагается ориентироваться при определении регуляторных и этических норм в сфере ИИ. Среди них:
● принцип добровольности (человек должен самостоятельно выбирать, пользоваться ИИ или нет);
● прозрачность и объяснимость алгоритмов ИИ;
● суверенность государства при внедрении ИИ;
● поэтапное и взвешенное внедрение технологии.
Однако ближе к концу дискуссии эксперты пришли к выводу, что говорить о прозрачности и объяснимости применения ИИ сегодня не приходится.
💬 Александр Крайнов, руководитель лаборатории машинного интеллекта Яндекса:
«Объяснимым можно сделать только очень простое решение. Но, уменьшая количество параметров, мы уменьшаем точность работы алгоритма. Представим, что есть две медицинские системы: одна объяснимая, но ошибается в 10% случаев, а другая необъяснимая, но ошибается в 0,01% случаев. Вы к какой пойдете? Мне кажется, к той, которая необъяснима, но более точно работает. Основной метрикой должна быть не объяснимость, а правильно составленная выборка данных для обучения и тестирования».
Все эксперты сошлись во мнении, что перекладывать на ИИ решения и ответственность за решения, в которых применяются алгоритмы машинного обучения, недопустимо, и необходимо определить четкие точки, в которых ключевую роль должен играть человек. По мнению 👤Олега Качанова, замминистра цифрового развития, эти точки могут различаться для сфер, связанных с явными последствиями для человека (здравоохранение, юридическая практика), и для сфер, где прямого влияния на человека нет.
💬Олег Качанов:
«Нужны регламенты ручного оперативного исправления ошибок. ИИ несовершенен, как и человек, поэтому нужна возможность исправления ошибок с привлечением человека».
Обсудили также позиции России в сфере развития ИИ на мировом ландшафте. Эксперты отметили несколько важных тезисов:
● Проблемы регулирования ИИ, а также практика и подходы разных стран к их решению, по мнению 👤Андрея Незнамова, исполнительного директора Центра исследования данных для государственных органов Сбербанка, в целом схожи и различаются не так сильно, как политические и культурные особенности.
● В мировом ученом ИИ-сообществе много российских фамилий, однако ученых, представляющих Россию, очень мало. Следовательно, необходимо формировать комфортную среду для работы именно внутри страны, а не только обучать новое поколение.
● Современное поколение излишне мистифицирует технологии ИИ, но следующее будет относиться к нему с должным прагматизмом.
📌 Трансляция и записи выступлений доступны здесь
ОригиналВ рамках дискуссии 👤Оксана Тарасенко, замминистра экономического развития, назвала несколько базовых принципов, на которые предлагается ориентироваться при определении регуляторных и этических норм в сфере ИИ. Среди них:
● принцип добровольности (человек должен самостоятельно выбирать, пользоваться ИИ или нет);
● прозрачность и объяснимость алгоритмов ИИ;
● суверенность государства при внедрении ИИ;
● поэтапное и взвешенное внедрение технологии.
Однако ближе к концу дискуссии эксперты пришли к выводу, что говорить о прозрачности и объяснимости применения ИИ сегодня не приходится.
💬 Александр Крайнов, руководитель лаборатории машинного интеллекта Яндекса:
«Объяснимым можно сделать только очень простое решение. Но, уменьшая количество параметров, мы уменьшаем точность работы алгоритма. Представим, что есть две медицинские системы: одна объяснимая, но ошибается в 10% случаев, а другая необъяснимая, но ошибается в 0,01% случаев. Вы к какой пойдете? Мне кажется, к той, которая необъяснима, но более точно работает. Основной метрикой должна быть не объяснимость, а правильно составленная выборка данных для обучения и тестирования».
Все эксперты сошлись во мнении, что перекладывать на ИИ решения и ответственность за решения, в которых применяются алгоритмы машинного обучения, недопустимо, и необходимо определить четкие точки, в которых ключевую роль должен играть человек. По мнению 👤Олега Качанова, замминистра цифрового развития, эти точки могут различаться для сфер, связанных с явными последствиями для человека (здравоохранение, юридическая практика), и для сфер, где прямого влияния на человека нет.
💬Олег Качанов:
«Нужны регламенты ручного оперативного исправления ошибок. ИИ несовершенен, как и человек, поэтому нужна возможность исправления ошибок с привлечением человека».
Обсудили также позиции России в сфере развития ИИ на мировом ландшафте. Эксперты отметили несколько важных тезисов:
● Проблемы регулирования ИИ, а также практика и подходы разных стран к их решению, по мнению 👤Андрея Незнамова, исполнительного директора Центра исследования данных для государственных органов Сбербанка, в целом схожи и различаются не так сильно, как политические и культурные особенности.
● В мировом ученом ИИ-сообществе много российских фамилий, однако ученых, представляющих Россию, очень мало. Следовательно, необходимо формировать комфортную среду для работы именно внутри страны, а не только обучать новое поколение.
● Современное поколение излишне мистифицирует технологии ИИ, но следующее будет относиться к нему с должным прагматизмом.
📌 Трансляция и записи выступлений доступны здесь
