Команда Центра регулирования AI «Сбера» под руководством управляющего директора Андрея Незнамова составила обзор ключевых событий 2022 года в области регулирования искусственного интеллекта (ИИ), которые произошли в мире и отдельно — в России.

Топ-6 событий в мире

1. Международные индексы признают регулирование одним из ключевых факторов развития ИИ

В обновленном Индексе искусственного интеллекта 2022 Стэнфордского университета повсеместное распространение этики ИИ признано одним из главных трендов его современного развития. Количество публикаций по этой теме увеличилось на 80% за последние несколько лет. Одновременно по сути впервые самостоятельным разделом в этом индексе стало нормативно-правовое регулирование. В этом году авторы не стали ограничиваться анализом только нескольких стран и создали отдельные метрики. Состояние законодательного и этического регулирования ИИ традиционно является критерием оценивания в Индексе готовности государств к применению ИИ 2022, подготовленном Oxford Insights.

Отметим, что в России регулирование ИИ изначально выделено в качестве одного из ключевых факторов развития искусственного интеллекта в Национальной стратегии развития ИИ 2019 года. В рейтинге Стэнфордского университета Россия занимает второе место по количеству принятых нормативных правовых актов в сфере ИИ.

2. В ключевых юрисдикциях появляются концепции регулирования ИИ, но страны все больше расходятся в подходах

• ЕС. В декабре 2022 года Совет Европейского Союза принял общую позицию (A Common Position on Artificial Intelligence Rulebook) по проекту закона об искусственном интеллекте (AI Act). Следующим шагом станут переговоры Совета ЕС с Европарламентом по этому документу. Законопроект демонстрирует консервативный подход, который предусматривает полный запрет отдельных систем ИИ, а для ряда других их категорий предполагает сложный механизм регулирующего воздействия. 
• США. В США в октябре 2022 года опубликован своеобразный проект Билля о правах в области ИИ (Blueprint for an AI Bill of Rights). Он включает в себя предисловие, пять принципов и примечания по их применению. При этом проект является скорее концептуальным документом, близким к концепции регулирования ИИ. По мнению экспертов, подход американских законодателей свидетельствует об отказе от жесткого регулирования ИИ. 
• Китай. В Китае активно идет реализация 14-го пятилетнего Плана (14th Five-Year Plan (2021-2025). Он направлен на расширение инноваций в ключевых технологиях в стратегических и перспективных областях, таких как квантовая информация, сетевые коммуникации, интегральные схемы, ключевое программное обеспечение, блокчейн и т.д. Особое место в Плане занимают искусственный интеллект и большие данные. Все разработчики ИИ должны иметь доступ к высококачественным данным, а любые препятствующие развитию технологий ИИ барьеры должны быть сняты или минимизированы. Таким образом, в целом подход Китая направлен на развитие новых технологий с особым вниманием к технологическому суверенитету и инфраструктуре. При этом параллельно принимаются отдельные законопроекты по конкретными системам ИИ (см. далее).
• Великобритания. В июле 2022 года правительство Великобритании опубликовало Документ о политике регулирования искусственного интеллекта (AI Regulation Policy Paper). Он закрепляет «про-инновационный» и «контекстно-ориентированный» режим регулирования ИИ в стране. В нем приводятся шесть межсекторальных принципов управления ИИ и подтверждается, что правительство Великобритании в настоящее время не планирует вводить новое законодательство для регулирования этой сферы. Документ является частью национальной стратегии правительства Великобритании в области ИИ и его плана действий. Таким образом, регулирование искусственного интеллекта в Великобритании рассматривается как способ поддержать инновации.
• Канада. Это единственная страна, которая попыталась принять прошлым летом в первом чтении универсальный закон, посвященный ИИ — Закон об искусственном интеллекте и данных (Artificial Intelligence and Data Act, AIDA). Данный закон является частью сборника законопроектов о реализации Цифровой хартии 2022 (Digital Charter Implementation Act 2022 (Bill C-27). Помимо AIDA в сборник законопроектов вошли Закон о защите конфиденциальности потребителей (Consumer Privacy Protection Act), который вносит реформу в сферу защиты персональных данных, а также Закон о трибунале по защите личной информации и данных (Personal Information and Data Protection Tribunal). AIDA устанавливает общеканадские требования к проектированию, разработке, использованию и интеграции систем ИИ и может иметь экстерриториальное распространение. Однако дальше второго чтения законопроект пока не продвинулся. Риск-ориентированный подход Канады отчасти схож с подходом Европейского Союза, однако вместе с тем он больше направлен на поддержание инноваций в сфере технологий.
• Израиль. В ноябре 2022 года Министерство инноваций, науки и технологий опубликовало проект документа, направленный на регулирование и развитие этики в области искусственного интеллекта в Израиле (The Principles of the Policy for the Responsible Development of the Field of Artificial Intelligence). Главная цель его создания — избежание горизонтального законодательства, регулирующего искусственный интеллект; принятие этических принципов его использования; содействие надлежащему регулированию и формирование инструментов и центров знаний по использованию и регулированию ИИ. Документ призывает поощрять регулирование, основанное на управлении рисками, и предпочтительно применять мягкие и передовые инструменты регулирования. Он также устанавливает этические принципы, которые должны быть приняты при использовании и разработке искусственного интеллекта. В настоящее время Министерство инноваций, науки и технологий Израиля собирает комментарии и рекомендации со всех заинтересованных сторон. Стратегический подход Израиля к регулированию ИИ направлен на поддержание развитие инновации и создание «мягкого регулирования» этической базы разработки и применения систем ИИ.

3. Мир начинает искать подход к регулированию дипфейков и генеративных моделей 

• В январе 2023 года в Китае вступили в силу Правила регулирования дипфейков (Provisions on the Administration of Deep Synthesis of Internet Information Services). Они обсуждались с января прошлого года и утверждены совместным постановлением Управления киберпространства (CAC), Министерства промышленности и информационных технологий (MIIT) и Министерства общественной безопасности (MPS) Китая в декабре. Документ запрещает публикацию контента, созданного ИИ, без специальной маркировки. Правила касаются не только дипфейков, но и других продуктов «глубокого синтеза» или генеративного ИИ (сгенерированный текст, улучшение изображений и виртуальные сцены). Для поставщиков услуг с технологиями «глубокого синтеза» также установлены требования взять на себя ответственность за аутентификацию личности пользователей, управление и мониторинг синтетического контента, создание механизма подачи жалоб на недостоверный контент.
• ЕС также предпринял шаги, чтобы потребовать от онлайн-платформ маркировки дипфейков. Были инициированы поправки к Закону о цифровых услугах (Digital Services Act), которые вступят в силу в 2023 году. В отличие от китайских, эти правила направлены скорее на платформы, а не самих поставщиков услуг с «технологиями глубокого синтеза», и ограничиваются дипфейками, не включая другие продукты генеративного ИИ.
• Минюст Великобритании анонсировал введение уголовной ответственности за распространение порнографических дипфейков без согласия людей (New Laws to Better Protect Victims from Abuse Of Intimate Images). В планах правительства — возложить юридическую обязанность на платформы и сервисы, которые подпадают под действие нового законодательства о безопасности в интернете, и обязать их удалять спорные материалы.
• В США еще с 2019 года на рассмотрении в Конгрессе находится законопроект о борьбе с распространением дезинформации путем ограничения технологии видео-дипфейков (Deep Fakes Accountability Act). Он налагает требования к маркировке и устанавливает механизмы возмещения ущерба. Документ направлен главным образом на предотвращение «несанкционированного цифрового воссоздания людей». Проект документа подвергался критике из-за сложности отслеживания и установления авторства дипфейка.

4. ИИ по-прежнему не может считаться автором произведения

Статус признания авторства ИИ на результаты интеллектуальной деятельности, созданные при его использовании, по-прежнему остается неизменным: почти все страны мира, за исключением, пожалуй, ЮАР, отказываются признавать ИИ в качестве изобретателя.

Так, в 2022 году в Австралии суд апелляционной инстанции отменил решение 2021 года, допустившее возможность указать систему ИИ изобретателем в патентной заявке. Таким образом, несмотря на серьезный уровень развития ИИ и его широкие генеративные возможности, позиция патентных ведомств и судов различных стран заключается в том, что права на результаты интеллектуальной деятельности, созданные с использованием систем ИИ, по-прежнему может получить только человек.

5. Продолжается бурное развитие этики ИИ по всему миру

Тренд развития инструментов этики искусственного интеллекта как своеобразной регуляторной песочницы развивается и не ослабевает уже несколько лет. Только за последние месяцы 2022 года в разных странах был принят ряд регуляторных инициатив в этой сфере.

• В августе Международная электротехническая комиссия и Международная организация по стандартизации опубликовали Технический отчет, в котором содержатся рекомендации по решению этических и социальных проблем, связанных с ИИ. Документ включает общее введение в широкие этические категории (этику добродетели, утилитаризм и деонтологию) и международную практику в области прав человека. Отчет содержит перечень принципов ИИ, разработанных международным сообществом, и предлагает практические варианты использования ИИ.
• В сентябре Саудовская Аравия объявила о начале публичных консультаций по проекту этических принципов ИИ. Проект документа разработан Управлением данных и искусственного интеллекта Саудовской Аравии (SDAIA) как практическое руководство по внедрению этики искусственного интеллекта на протяжении всего жизненного цикла разработки системы ИИ.
• В октябре опубликованы Принципы этичного использования ИИ в системе ООН. Сформулировано 10 принципов, которые выступают ориентиром для подразделений ООН при использовании технологий ИИ в своей работе. Документ основан на Рекомендации ЮНЕСКО по этике ИИ и нацелен на продвижение зафиксированных в нем принципов.
• В ноябре Китай представил документ с позицией по укреплению этического управления в сфере ИИ (Position Paper of the People's Republic of China on Strengthening Ethical Governance of Artificial Intelligence). В нем содержится призыв к международному сообществу прийти к соглашению по вопросу этики искусственного интеллекта на основе широкого участия сторон и работать над формулированием общепринятых международных рамок, стандартов и норм управления ИИ. Акцент сделан на том, что правительства должны учитывать наихудшие практики в сфере ИИ и повышать осведомленность общества о рисках, которые может повлечь за собой применение технологий ИИ, а также создать эффективный механизм раннего предупреждения таких рисков. Документ призывает к международному сотрудничеству в сфере ИИ и является продолжением серии шагов Китая по развитию этики ИИ. Ранее были приняты ориентированные на национальный уровень принципы управления ИИ нового поколения (2019) и этические нормы для ИИ нового поколения (2021).

6. Законодатели стали интересоваться темой регулирования метавселенных

По мнению многих экспертов, развитие метавселенных неизбежно связано с развитием технологии ИИ. Вслед за всплеском интереса к этой теме в 2021 году, в 2022-м в различных юрисдикциях стали появляться инициативы по их регулированию.

• Национальный комитет Южной Кореи по политике в области данных заявил о разработке нормативных положений, регулирующих метавселенные. 
• Япония объявила о создании Управления по политике в области Web 3.0 при Министерстве экономики, торговли и промышленности. 
• Комиссар по вопросам внутреннего рынка Европейского Союза Тьерри Бретон опубликовал на LinkedIn (соцсеть заблокирована в РФ с 2016 года — прим. ред.) статью «Люди, технологии и инфраструктура — план Европы по процветанию в метавселенной». 
• В Китае создали государственный комитет по метавселенной в рамках Китайской ассоциации мобильной связи при Министерстве иностранных дел страны. 

Топ-6 событий в России

1. Россия становится одним из мировых лидеров в области этики ИИ

Россия одной из первых стран в мире закрепила ориентир на развитие «мягких» принципов регулирования. В 2019 году такой подход к этике искусственного интеллекта был зафиксирован в Национальной стратегии ИИ. В 2020 году — в утвержденной Правительством РФ Концепции регулирования ИИ. В 2021 году тренд воплотился в принятом на национальном уровне Кодексе этики в этой сфере.

В 2022 году в стране была создана развернутая система управления этикой в сфере ИИ.

• Количество подписантов Кодекса этики в сфере ИИ увеличилось более чем в семь раз с момента его принятия. В настоящее время участниками Кодекса являются более 160 организаций из различных регионов страны. 
• По всей стране состоялись торжественные раунды подписания Кодекса на площадках различных мероприятий.
• Создано первое в мире и самое масштабное сообщество уполномоченных по этике ИИ — представителей присоединившихся организаций.
• Создана Комиссия по реализации Кодекса этики в сфере ИИ. 
• В рамках Комиссии функционируют четыре тематические рабочие группы, занимающиеся вопросами оценки гуманитарного воздействия систем ИИ, формированием свода наилучших практик, оценкой эффективности реализации Кодекса, а также вопросами регулирования рекомендательных сервисов. 

2. Приняты важные для стимулирования развития ИИ законопроекты

Использование облачной инфраструктуры для построения моделей ИИ

В июле 2022 года был принят Федеральный закон № 266-ФЗ «О внесении изменений в Федеральный закон «О персональных данных», отдельные законодательные акты Российской Федерации и признании утратившей силу части четырнадцатой статьи 30 Федерального закона «О банках и банковской деятельности». Изменения коснулись условий передачи данных третьим лицам для их обработки по поручению оператора. Ранее для этого требовалось исключительно отдельное письменное согласие. И даже, например, наличия договора было недостаточно. Это делало практически невозможным полноценное использование облачной обработки данных, в том числе для построения моделей ИИ, например, на внешних суперкомпьютерах.

В сентябре законодатель внес в этот вопрос ясность: передавать персональные данные третьим лицам для такой обработки стало возможно как с согласия субъекта, так и на других предусмотренных законом основаниях, например, при наличии договора с субъектом персональных данных. Одновременно был ужесточен контроль за такой обработкой: оператору персональных данных предоставили дополнительные права контроля соблюдения требований такой обработки третьими лицами.

Развитие инструментов государственно-частного партнерства в сфере ИИ

В декабре в России был принят законопроект № 173246-8 «О внесении изменений в отдельные законодательные акты Российской Федерации», устраняющий барьеры внедрения искусственного интеллекта в рамках государственно-частного или муниципально-частного партнерства и концессий. Законопроект разрешает муниципалитетам заключать концессионные соглашения в отношении объектов ИИ и вообще ИТ. Он также облегчает отдельные процедуры заключения соглашений в сфере государственно-частного партнерства и снимает некоторые административные барьеры. Предлагаемые поправки важны для создания в России умных городов с помощью технологии ИИ. Соответствующие законодательные предложения были разработаны при участии Альянса в сфере ИИ.

3.  Развивается регулирование в сфере беспилотного транспорта

Беспилотные автомобили. В 2022 году прекратило свое действие Постановление Правительства № 1415 «О проведении эксперимента по опытной эксплуатации на автомобильных дорогах общего пользования высокоавтоматизированных транспортных средств». Долгое время этот акт определял условия тестирования высокоавтоматизированных транспортных средств (ВАТС) в стране, но с 2022 года тестирование таких автомобилей можно осуществлять только в рамках установленных экспериментальных правовых режимов (ЭПР).

• Один ЭПР в области тестирования ВАТС на дорогах общего пользования открыт для ООО «Яндекс.Испытания». Автомобили с водителем-испытателем на месте водителя или переднем пассажирском сиденье могут тестироваться на отдельных территориях Москвы, в Иннополисе и на федеральной территории «Сириус», а беспилотные авто без водителя в салоне разрешено тестировать на территории инновационного центра «Сколково» и в Иннополисе (при удаленных маршрутизации и диспетчеризации со стороны оператора).
• Второй ЭПР посвящен эксплуатации высокоавтоматизированных транспортных средств в рамках инициативы «Беспилотные логистические коридоры» на автомобильной дороге общего пользования федерального значения М-11 «Нева» между Москвой и Санкт-Петербургом. Он позволяет в течение трех лет тестировать цифровые инновации на грузовом транспорте, в первую очередь — эксплуатацию беспилотных грузовых автомобилей и инфраструктуры для них. В данном ЭПР участвуют шесть компаний: ПАО «КАМАЗ», НПО «СтарЛайн», ООО «Глобалтрак Лоджистик», ПАО «Магнит», Х5 Logistics и ГК «Автодор» в роли оператора инфраструктуры. 
• Еще одно Постановление об установлении ЭПР в области тестирования беспилотных автомобилей было утверждено Правительством РФ в прошлом году. Этот экспериментальный правовой режим имеет более широкий круг действия, чем два предыдущих ЭПР: он распространяется на предоставление транспортных услуг по перевозке грузов, пассажиров и багажа с использованием высокоавтоматизированных транспортных средств и распространяется на 38 субъектов РФ.

Беспилотные авиационные системы. Правительство утвердило первые экспериментальные правовые режимы, позволяющие в упрощенном порядке использовать беспилотные авиационные системы (БАС) массой более 30 кг в пяти регионах России. Вводятся особые правила для допуска к эксплуатации БАС, упрощаются требования к компаниям–эксплуатантам, а также вводятся послабления в части использования воздушного пространства. Экспериментальные правовые режимы введены следующими Постановлениями Правительства РФ:

• от 24 марта 2022 года № 462 «Об установлении экспериментального правового режима в сфере цифровых инноваций и утверждении Программы экспериментального правового режима в сфере цифровых инноваций по эксплуатации беспилотных авиационных систем в Камчатском крае, Ханты-Мансийском автономном округе — Югре, Чукотском автономном округе и Ямало-Ненецком автономном округе»; 
• от 24 марта 2022 года № 458 «Об установлении экспериментального правового режима в сфере цифровых инноваций и утверждении Программы экспериментального правового режима в сфере цифровых инноваций по эксплуатации беспилотных авиационных систем в Томской области».

Также рассматриваются еще несколько ЭПР, упрощающих внедрение БАС:

• проект Постановления Правительства № 01/01/11-22/00133477 об установлении экспериментального правового режима «Аэрологистика». Планируемый ЭПР позволит в тестовом режиме испытать технологии наблюдения и идентификации беспилотников, их автономной посадки и автоматического избегания столкновений, а также стандартизировать правила и алгоритмы расхождения воздушных судов. В рамках эксперимента также планируется упростить сертификацию беспилотных воздушных судов. Предполагается, что в случае успешной реализации этот эксперимент позволит перейти к уведомительному порядку использования воздушного пространства беспилотниками. Это «откроет небо» для российских беспилотников и, как ожидается, даст пятикратный рост индустрии.
• проект Постановления Правительства № 01/01/10-22/00132275 об установлении экспериментального правового режима в Республике Башкортостан. Рассматриваемый ЭПР основывается на создании упрощенных условий для эксплуатации беспилотников массой от 30 кг, используемых, в частности, в лесном хозяйстве и для сельскохозяйственных работ. Предполагается, что эксперимент устранит барьеры, препятствующие внедрению «точного земледелия» с помощью беспилотников.
• проект экспериментального правового режима для беспилотных летательных аппаратов в Иннополисе. Предполагается создать «регуляторную песочницу», в которой были бы отработаны технологии удаленной идентификации беспилотника, а также решения для безопасных совместных полетов в общем воздушном пространстве. Сейчас проект экспериментального режима рассматривается Министерством экономического развития. Если этот ЭПР будет утвержден, появится уникальная возможность создать и протестировать механизм городской аэромобильности, который потом можно будет масштабировать на другие города России.

Автономное судовождение водного транспорта. В апреле 2022 года Государственная Дума РФ приняла в первом чтении законопроект № 48133-8 «О внесении изменений в Кодекс торгового мореплавания Российской Федерации и отдельные законодательные акты Российской Федерации», устраняющий правовые барьеры в сфере автономного судовождения. Документ определяет, что можно считать автономным судном, и устанавливает особые правила для таких судов. Действующее законодательство основывается на том, что на судне обязательно находится экипаж, и предлагаемые поправки корректируют законы под специфику автономного судовождения.

4. Обсуждается регулирование рекомендательных сервисов

Весь 2022 год в России продолжались обсуждения инициативы регулирования рекомендательных сервисов. Представители Комитета Государственной Думы РФ по информационной политике, технологиям и связи прорабатывали возможность внесения поправок в 149-ФЗ «Об информации, информационных технологиях и о защите информации», направленные на регулирование рекомендательных систем.

Однако законопроект вызвал серьезную озабоченность российского бизнеса. В течение года прошла серия обсуждений инициативы на разных площадках. По их итогам в порядке реализации Кодекса этики в сфере ИИ была создана Рабочая группа «Рекомендательные сервисы». Продолжается поиск баланса между саморегулированием и законодательными регулированием.

5. Продолжается построение системы стандартизации

В 2022 году продолжилось построение национальной системы стандартизации в сфере ИИ — принято более 40 ГОСТов.

Среди них необходимо отметить стандарты для систем ИИ в клинической медицине, в частности, первый ГОСТ по тестированию ИИ в медицине. Документ определяет методологию и порядок проведения клинических испытаний систем искусственного интеллекта, включает показатели эффективности таких систем в рамках клинической валидации, описывает контроль качества процедуры проведения клинических испытаний.

Появилось восемь ГОСТов для беспилотных автомобилей, которые устанавливают в том числе определения для систем ИИ в беспилотниках, требования к алгоритмам выявления препятствий на дорогах, распознаванию дорожных знаков.

Утверждены семь ГОСТов для технологии ИИ для обработки дистанционного зондирования Земли, направленные на стандартизацию распознавания ряда объектов и определения их типов на космических снимках (объекты дорожно-транспортной сети, строящиеся здания, жилые здания, древесно-кустарниковая растительность).

12 документов для ИИ для навигационных систем воздушных судов гражданской авиации приняты в качестве предварительных национальных стандартов. Это означает, что они будут действовать ограниченное время, за которое будет накоплен опыт их применения, который впоследствии может быть использован в разработке на их основе национальных стандартов.

Всего в соответствии с Перспективной программой стандартизации по приоритетному направлению «Искусственный интеллект» до 2024 года планируется утверждение еще более 130 стандартов в сфере ИИ.

6. Появляются первые инициативы регионального регулирования ИИ

В апреле 2022 было принято Постановление Кабинета Министров Республики Татарстан № 369 «Об использовании технологий искусственного интеллекта в Республике Татарстан». Это один из первых (если не первый) документов, регулирующих комплексное использование технологии ИИ на региональном уровне. Документ определяет основные принципы реализации проектов в сфере ИИ в Татарстане, устанавливает базовые правила электронного взаимодействия граждан, органов государственной власти и муниципалитетов в сфере технологии искусственного интеллекта, а также вводит требования к публичному размещению информации о технологии ИИ, внедренных в деятельность исполнительных органов государственной власти Республики Татарстан.

Продолжает развиваться регулирование ИИ в Москве. С 2020 года в столице на основании отдельного федерального закона открыт пятилетний ЭПР для искусственного интеллекта. В 2022 году на специальном портале Правительство Москвы открыло доступ к 40 датасетам обезличенных медицинских данных. В конце года был открыт тестовый доступ к другим видам данных, среди которых — библиотеки обезличенных данных об изменении плотности населения в разных районах Москвы и Московской области, обезличенные показатели с приборов учета воды.

Ряд региональных органов власти и госструктур присоединились к Кодексу этики в сфере ИИ. В их числе — Минцифры Кузбасса, администрация Нижнего Новгорода, Минцифры Новосибирской области, МФЦ Якутии и другие.

Во Владивостоке был открыт Дальневосточный центр искусственного интеллекта. Центр занимается широким спектром задач — от анализа регулирования ИИ в странах Азиатско-Тихоокеанского региона до разработки решений, направленных на разрешение ключевых экологических проблем. Первым значимым результатом работы учреждения стала публикация книги «Глобальный атлас регулирования искусственного интеллекта. Восточный вектор», которая содержит детальный анализ регулирования ИИ более 30 юрисдикций и 16 международных организаций. В 2023 году планируется создание центров ИИ и в других регионах.

За новостями развития и применения искусственного интеллекта следите в Telegram-фиде и на ICT.Moscow