ГлавнаяЛента

эксклюзив

Итоги 2020: время детального регулирования искусственного интеллекта

28 декабря 2020|
14216

Российская и зарубежная регуляторика в 2020 году получила значительный толчок к развитию: американские, европейские и российские регуляторы публиковали и утверждали новые документы, стандарты в области искусственного интеллекта (ИИ) и данных, у стран появлялись новые глобальные цели и задачи развития технологии. 

ICT.Moscow побеседовал с некоторыми экспертами в сфере российского регулирования ИИ, подвел итоги 2020 и узнал о возможных векторах развития в следующем году. В числе собеседников: исполнительный директор Центра исследования данных для государственных органов Сбербанка Андрей Незнамов, директор Департамента стратегического развития и инноваций Минэкономразвития России Рустам Тихонов, председатель Технического комитета (ТК) по стандартизации 164 «Искусственный интеллект» Сергей Гарбук, руководитель направления «Искусственный интеллект» ДИТ Москвы Иван Бутурлин, директор департамента по регулированию киберфизических систем Фонда «Сколково» Александр Тюльканов, пресс-секретарь рабочей группы НТИ Автонет Ярослав Федосеев.

 


Переход от стратегизации к детальному регулированию

В конце 2019 года по крайней мере 37 стран мира уже имели собственные стратегии или планы развития ИИ и еще 13 находились в стадии разработки — об этом говорится в материале ОЭСР.

Последняя дата обновления карты: 22 ноября 2019 года

В 2020 году к государствам, разработавшим собственные национальные ИИ-стратегии, присоединилась в числе прочих Саудовская Аравия. В октябре она запустила стратегию до 2030 года, заявив о планах войти к этому времени в топ-15 мировых лидеров в сфере ИИ. А США в том же месяце утвердили стратегию мирового лидерства в сфере развивающихся технологий, среди которых назван ИИ и нейроинтерфейсы.

Исполнительный директор Центра исследования данных для государственных органов Сбербанка Андрей Незнамов отмечает, что принцип стратегизации искусственного интеллекта в мире по большей части — пройденный этап, и 2020 год стал годом, когда мировые регуляторы сделали следующий шаг. Теперь они прорабатывают детальные подходы к регулированию: в частности, разрабатывают документы, определяющие регуляторные векторы на ближайшие годы. Это стало одним из ключевых трендов в сфере мировой регуляторики технологии.

Мы наблюдаем изменение в общей тенденции регулирования. До 2020 года в основном имела место стратегизация подходов к ИИ и его регулированию, и в каждой национальной стратегии обязательно есть часть, посвященная регулированию и этике. Где-то это упоминание (абзац или строчка), где-то — целый раздел, а где-то это движущий фактор, как в России.

В 2020 году мы стали наблюдать следующий этап, когда стало выстраиваться детальное регулирование — не сами акты принимаются, а глубоко разрабатываются подходы к регулированию ИИ. Мы видим, что в разных странах мира разработаны документы, определяющие регуляторные векторы на ближайшие пять лет.

Андрей Незнамов

исполнительный директор Центра исследования данных для государственных органов Сбербанка

Эту тенденцию также отмечает руководитель направления «Искусственный интеллект» ДИТ Москвы Иван Бутурлин.

Многие страны продолжают создавать национальные концепции искусственного интеллекта, мегаполисы создают стратегии развития ИИ в рамках системы умных городов. Вырабатываются и более глубокие документы, содержащие конкретные подходы к правовому регулированию ИИ. В целом законодатели обращают все более пристальное внимание на цифровые технологии и интернет. 

Иван Бутурлин

руководитель направления «Искусственный интеллект» ДИТ Москвы

Рассказывая о наиболее значимых документах, определяющих регуляторные векторы на ближайшие годы, Андрей Незнамов называет три региона, где в 2020 году были разработаны наиболее значимые документы в мировой регуляторике ИИ и смежных с ним сфер:

  • В США — Указ президента по содействию и использованию надежного ИИ федеральными органами власти (UPD 22.01.2021: позже документ был удален с сайта Белого Дома США), принятый 5 декабря (его проект был опубликован еще в начале года). 
  • В Евросоюзе — «Белая книга по регулированию искусственного интеллекта» — опубликованный в феврале документ (на стадии проекта), определяющий большое количество подходов к отдельным проблемам ИИ: какие требования к нему установить, как его контролировать и др.
  • В России — Концепция регулирования технологий ИИ и робототехники до 2024 года, принятая и утвержденная правительством в августе 2020 года, в которой определяются и общие принципы регулирования, и отраслевые подходы. 

Какие еще заметные регуляторные инициативы состоялись в 2020 году:

В октябре в США утвердили стратегию мирового лидерства в сфере новых технологий (UPD 22.01.2021: позже документ был удален с сайта Белого Дома США). Среди топ-20 технологий названы ИИ и нейроинтерфейсы.

Также осенью Европейский парламент предложил сформировать новую правовую основу с изложением этических принципов и правовых обязательств при разработке, развертывании и использовании ИИ и робототехники.

 


Активизация международного сотрудничества

Вторая заметная тенденция в сфере мировой регуляторики, о которой рассказали собеседники ICT.Moscow, — активная работа международных органов. Ее отмечает в том числе директор Департамента стратегического развития и инноваций Минэкономразвития России — ведомства, которое отвечает в России за координацию мероприятий по развитию экосистемы искусственного интеллекта.

В этом году в мировой регуляторике произошло много событий. В ЮНЕСКО разрабатывается первый документ по этике ИИ — Рекомендации об этических аспектах. В Совете Европы идет разработка документа в сфере прав человека по ИИ. Российская Федерация активно участвует в их разработке. Основные глобальные тенденции связаны с тем, что все больше и больше площадок начинают формировать международную позицию по ИИ.

Рустам Тихонов

директор Департамента стратегического развития и инноваций Минэкономразвития России

Андрей Незнамов выделяет три глобальных сообщества, чья работа была наиболее заметна в 2020 году, и делится некоторыми деталями их работы:

  1. Совет Европы, прежде всего Спецкомитета по ИИ CAHAI, активно разрабатывает подходы к европейскому регулированию, а в 2021 году начнет консультироваться по этим подходам со странами, входящими в Совет Европы.
  2. ЮНЕСКО, разработавшее проект рекомендаций по этике искусственного интеллекта. Этот документ будет обсуждаться со странами-участницами ЮНЕСКО в течение 2021 года.
  3. Организация экономического сотрудничества и развития (ОЭСР), которая в марте запустила платформу AI Policy Observatory. Там собирается информация о регулировании ИИ в разных странах мира.

Ранее заместитель директора по регулированию киберфизических систем и больших данных Департамента развития и планирования Фонда «Сколково» Александр Тюльканов также рассказывал ICT.Moscow, что «некоторые проблемы, в том числе по стандартизации в области технологий искусственного интеллекта, а также по гармонизации подходов к гуманитарно-ориентированному регулированию применения данных технологий, можно решить только сообща, в контексте таких международных организаций, как ИСО, ЮНЕСКО, Совет Европы». По его мнению, в ходе разработки подобными организациями нормативных документов сегодня есть возможность учесть интересы и российских разработчиков.

Однако случается и так, что стремление подобных коалиций может не соотноситься с интересами отдельных государств.

Судя по тому, что мы видим, это регулирование может не соотноситься с национальными интересами. Так часто бывает с международными конвенциями, но в случае с ИИ эта тема особенно болезненна.

Искусственный интеллект — это обобщающее понятие, надо говорить о конкретных преломлениях ИИ в каждой сфере. В каждой сфере будет свое регулирование. А сейчас делаются попытки сформировать некий общий шаблон, и все делать по нему. Это путь в никуда, и если мы по нему пойдем, то мы скорее уничтожим индустрию вместо того, чтобы сформировать некие правила игры. 

Также нужно понимать, что у государств разный уровень зрелости применения технологий, проблемы, разная культурная парадигма, в конце концов, разные правовые системы. Мне кажется, выработать общие правила для ИИ на мировом уровне — очень сложная, хотя и нужная задача.

Андрей Незнамов

исполнительный директор Центра исследования данных для государственных органов Сбербанка

Эксперт напоминает, что часто звучат заявления о мировой гонке в сфере искусственного интеллекта, в которой лидируют Китай и США. Однако с его точки зрения, регулирование — лишь часть этой гонки, которая заключается в формировании комфортной правовой системы для развития технологии и для разработчиков.

Например, в Китае, по словам Андрея Незнамова, «очень своеобразная система правового регулирования в целом, но при этом там сформирована достаточно комфортная для технологий искусственного интеллекта среда. Однако информация о том, что они там делают, достаточно закрыта. Я предполагаю, что Китай будет идти своим особым путем и не будет устанавливать строгие рамки для технологий ИИ с помощью нормативных мер».

Также одним из ключевых итогов года эксперт называет анонсированное в мае глобальное партнерство по искусственному интеллекту Global Partnership on AI, участниками которого стали страны, входящие в ОЭСР. Однако ни Китай, ни Россия, парламенты которых в ноябре договорились активизировать обмен опытом правового регулирования в различных сферах (в том числе регулирование цифровой экономики и технологий ИИ), в этот альянс пока не входят. Тем не менее, нельзя утверждать, что Россия не была заметна на глобальном ландшафте ИИ-регуляторики.

 


Россия выделяется на мировой арене

Говоря о наиболее значимых событиях в российской регуляторике, Андрей Незнамов в первую очередь называет утверждение правительством Концепции регулирования технологий ИИ и робототехники. По его словам, «Россия смогла опередить с точки зрения глубины разработки и скорости принятия большинство стран мира. Почти нигде в мире нет настолько развернутых концепций регулирования, которые обсуждались бы государством с бизнес-сообществом и наукой и в итоге вылились бы в какой-то большой результирующий документ».  

Важно и появление первых законодательных инициатив, касающихся искусственного интеллекта напрямую. В частности, речь идет о законе об экспериментальном правовом режиме в области ИИ в Москве. Есть и другая федеральная инициатива, напоминает Андрей Незнамов: закон об экспериментальных правовых режимах в сфере цифровых инноваций, в котором ИИ заявляется как одна из ключевых сквозных технологиях. С ИИ ассоциируют этот закон и многие из опрошенных ранее ICT.Moscow экспертов, в том числе — из других ИТ-отраслей.

В случае с регуляторными песочницами, рассказывает Андрей Незнамов, эти два подхода (территориальный и отраслевой) являются распространенной мировой практикой. Он поясняет, что «здесь заложены две базовые модели: в законе с экспериментом в Москве представлена территориальная модель (назовем ее горизонтальной), а в законе об экспериментальных правовых режимах — вертикальная, которая задумана насквозь пронизывать отдельные сферы. Главное — чтобы песочниц было как можно больше, потому что любая инновация, особенно ИИ, обязательно требует специального регулирования. Таким образом, еще один ключевой регуляторный тренд ИИ и смежных сфер — создание таких песочниц».

Еще одно значимое событие в российской ИИ-регуляторике за 2020 год — утверждение федерального проекта «Искусственный интеллект» в августе. Федпроект еще раз подчеркнул высокую значимость ИИ для российской регуляторики и определил финансирование отдельных отраслей для реализации различных интеллектуальных решений.

 


Московские эксперименты в сфере ИИ

Первые эффекты от внедрения ИИ-песочниц в России можно будет оценить уже скоро. Одна из них — московский эксперимент в области ИИ — начал действовать в середине года — 1 июля. Представитель ДИТ Москвы Иван Бутурлин говорит, что сам по себе запуск имеет большое значение для всей отрасли — не только городской, но и российской.

Сам старт эксперимента (принятие 123-ФЗ) – огромный шаг в сфере создания гибкого механизма для внедрения технологий искусственного интеллекта в различных сферах городской экономики. Мы смогли определить, какие городские данные могут быть полезны для дообучения ИИ-моделей, предварительно идентифицировать правовые барьеры, препятствующие внедрению ИИ-решений, начать сбор запросов от отраслей городского хозяйства на решения в сфере искусственного интеллекта.

Ожидаем, что уже в следующем году увидим примеры использования таких экспериментов, сможем оценить первые результаты внедрения и создания нового регулирования.

Иван Бутурлин

руководитель направления «Искусственный интеллект» ДИТ Москвы

Начиная с февраля, в Москве действует другой эксперимент — в области здравоохранения. Это яркий пример городского регулирования узкого отраслевого сегмента (ИИ в медицине), который на фоне пандемии показал свою эффективность.

Например, еще в июле Анна Мещерякова, CEO компании «Третье мнение», участвующей в эксперименте, рассказывала ICT.Moscow о возможностях, которые появились у участников отрасли благодаря этой инициативе:

Экспериментальный правовой режим позволяет применять инновационные сервисы без их присутствия в порядке оказания медицинской помощи, клинических рекомендациях и стандартах оказания медицинской помощи. В режиме правового эксперимента отсутствует обязательное требование наличия у цифровых медицинских сервисов [...] регистрационного удостоверения медицинского изделия Росздравнадзора.

Анна Мещерякова

CEO «Третье мнение»

Сергей Морозов, подводя для ICT.Moscow итоги года в области здравоохранения, тоже назвал московский эксперимент в здравоохранении главным технособытием года.

Впрочем, пример здравоохранения демонстрирует, насколько более показательно регулирование искусственного интеллекта в отдельных отраслях. Медицинская сфера была заметной не только на уровне Москвы, но и федеральной регуляторики, а противопоставляется ей по итогам 2020 года в ИИ-регуляторики отрасль беспилотного транспорта.

 


Две крайности российской ИИ-регуляторики

Развитие правового регулирования применительно к ИИ в медицине Андрей Незнамов оценивает крайне положительно. Эта сфера развивается прорывными темпами, и она «не просто синхронизирована с международным регулированием, но где-то даже опережает его».

Здравоохранение — крайне чувствительная сфера, внедрение в ней новых технологий должно быть максимально безопасным, поэтому регулирование традиционно консервативное, запретительное — для нашего же с вами блага. Но именно здесь регулятору и бизнесу удалось продвинуться дальше всего и нащупать баланс.

Андрей Незнамов

исполнительный директор Центра исследования данных для государственных органов Сбербанка

К наиболее заметным событиям в этой области он относит следующие:

  • Под конец года было выпущено изменение в Постановление правительства об утверждении правил госрегистрации медицинских изделий. Процедура регистрации систем ИИ, как и вообще медицинского ПО, была упрощена. Также в феврале этого года были разработаны критерии отнесения ПО к медизделиям.
  • В середине года удалось определиться с отнесением ИИ-систем к классам опасности. Пока они были отнесены к третьему классу («программное обеспечение с высокой степенью риска») — ИИ-системы воспринимаются как самый опасный класс для медизделий, пока не будут разработаны специальные правила регистрации систем ИИ. «Чтобы такие правила создать, — поясняет эксперт, — нужны, например, специальные правила проведения клинических испытаний, проверки датасетов и т.д. Проекты таких правил разработаны в виде нескольких технических стандартов для медицинских систем (сейчас они находятся на публичном обсуждении).»
  • Также в середине года были разработаны правила проведения рентгенологических исследований, которые косвенно затрагивают вопросы ИИ: там упоминаются системы поддержки принятия врачебных решений. 

В апреле CEO ИИ-компании в сфере здравоохранения «Третье мнение» Анна Мещерякова рассказывала ICT.Moscow, что регуляторные механизмы в целом позволяют «ускорить развитие отрасли и повысить число внедренных решений». Это подтверждается и на практике: например, в 2020 году действительно ускорилась регистрация медицинского ПО с применением ИИ. Уже было зарегистрировано три таких решения: прецедентом стал Webiomed в апреле, а к концу года к нему присоединились Botkin.AI (в ноябре) и Care Mentor AI (в декабре).

Другая сфера — беспилотных автомобилей — оценивается, напротив,  скорее негативно. По словам Андрея Незнамова, за весь год в этом сегменте продвинуться не удалось, что усилило отставание от глобальных тенденций в регуляторике.

Первого апреля президент дал поручение — к маю утвердить комплекс мероприятий по тестированию и вводу в эксплуатацию беспилотников, в том числе без присутствия инженера в салоне. Для написания этого комплекса удалось создать неформальный консорциум всех производителей беспилотников в России (КАМАЗ, Яндекс, «Сбер», «Газпром Нефть» как один из ключевых заказчиков, небольшие стартапы и лаборатории). Предложения от бизнеса были сформированы и направлены в Правительство.

К сожалению, пока не внесены изменения в постановление, которое регламентирует тестирование беспилотников. Бизнес также подготовил свои предложения по изменению регулирования, синхронизированные с проектом общего комплекса мероприятий по беспилотникам.

Наконец, в начале года в Госдуму вносился законопроект по инновационным транспортным средствам — уже второй. Но его, как и первый, вернули на доработку.

Андрей Незнамов

исполнительный директор Центра исследования данных для государственных органов Сбербанка

По информации The Bell, задержка связана с тем, что два ключевых исполнителя законопроекта, Минтранс и Минпромторг, не могут решить, кто должен регулировать формирующийся рынок беспилотников: подведомственный Минпромторгу НТИ Автонет или же само министерство транспорта. Вопрос должен быть решен в правительстве «в ближайшем будущем», однако его перспективы пока неясны.

Представитель компании «Яндекс Беспилотные Технологии» также отмечает: несмотря на то, что технология уже готова к запуску, останавливает регуляторный барьер, который ведет к отставанию России от стран-конкурентов. По его словам, самые значимые запуски автономных автомобилей в 2020 году произошли в США и Китае, где на данный момент для этого уже существует законодательная база: в американском Фениксе (сервис роботакси, работающий без сопровождения страхующего водителя) и в ряде китайских городов.

С точки зрения развития технологий уровень России, США и Китая сопоставим. Яндекс готов приступить к запуску беспилотных автомобилей без страхующего водителя в условиях небольшого города. Однако на текущий момент, в отличие от Китая и США, в России для этого нет регуляторных механизмов. Сейчас идет разработка законодательства в области автономного транспорта, и мы рассчитываем, что в наступающем году будут приняты прогрессивные меры, создающие благоприятную среду для дальнейшего развития технологии.

Яндекс Беспилотные Технологии

пресс-служба

Однако представитель НТИ Автонет Ярослав Федосеев все же видит некоторые позитивные сдвиги, которые произошли в 2020 году.

В этом году произошло обсуждение проекта «Автодата», который описывает алгоритм сбора данных с ТС. Для беспилотной отрасли это очень важно, потому что эти данные сегодня могут подвергнуться серьезным кибератакам, могут быть похищены. Законопроект поможет сохранить эти данные, обезопасить, преумножить и на их основании создавать новые сервисы и технологические разработки.

Ярослав Федосеев

пресс-секретарь рабочей группы НТИ Автонет

Таким образом, нельзя говорить, что в 2020 году в регулировании беспилотников не произошло совершенно ничего. Однако нынешних мер явно недостаточно для того, чтобы Россия оставалась на уровне других стран мира, активно развивающих регуляторику автономных машин. Впрочем, беспилотные авто — не единственная болевая точка в отечественной регуляторике.

 


Работа с данными

По словам Андрея Незнамова, в области регулирования данных в Россия сохрануется неопределенность, которая не идет на пользу для развития технологий искусственного интеллекта.

Для развития технологий в сфере ИИ крайне важно регулирование в сфере данных. Чем более понятные и последовательные правила доступа разработчиков к данным, тем лучше.

С этим, однако, не все хорошо. Так, бизнес считает важным ввести в российское право институт анонимизации данных, при котором данные обезличиваются необратимо, чтобы нельзя было установить связь с конкретным субъектом. В июле в Госдуму был внесен законопроект о внесении изменений в закон о персональных данных, который изначально разрабатывался несколько лет как раз с целью внесения ясности в этом вопросе. Но в результате обсуждений положения об анонимизации из внесенного в Думу законопроекта были исключены.

Это проблема, потому что Национальная стратегия по искусственному интеллекту прямо говорит, что для технологий ИИ очень важны данные, что нужно создать особый режим доступа к данным для нужд разработчиков. Здесь пока подвижек немного. Сейчас обсуждается законопроект по предоставлению таких условий для разработчиков ИИ, позволяющий снять лишние барьеры. Плюс, в этом году мы написали проект методики анонимизации персональных данных (это считается одной из ключевых проблем) и предложили пропилотировать его в Москве.

Андрей Незнамов

исполнительный директор Центра исследования данных для государственных органов Сбербанка

При этом на рынке в 2020 году наблюдалась явная востребованность в регуляторных мерах — об этом говорили представители отрасли, с которыми ICT.Moscow общался в апреле. Так, директор Ассоциации участников рынка данных Иван Бегтин называл необходимым регулирование по раскрытию данных государством, поскольку это будет способствовать развитию рынка ИИ. А руководитель лаборатории машинного интеллекта Яндекса Александр Крайнов отметил, что в вопросе регулирования данных нужно искать баланс между защитой пользовательской информации и сбором данных для развития технологий и сервисов, и этот процесс должен быть гибким.

В любом случае, нельзя утверждать, что в сфере данных все однозначно плохо. Об одном из наиболее заметных достижений в этой области в 2020 году рассказал Рустам Тихонов из Минэкономразвития.

В этом году мы утвердили программу стандартизации, которая включает разработку свыше 200 стандартов в сфере искусственного интеллекта. Отмечу, что они нужны не для того, чтобы создавать проблемы бизнесу, а для этого, чтобы унифицировать бизнес-подходы к разработке ИИ, снизить затраты на них, обеспечить безопасность и права граждан при использовании данных технологий.

Рустам Тихонов

директор Департамента стратегического развития и инноваций Минэкономразвития России

Председатель ТК по стандартизации 164 «Искусственный интеллект» Сергей Гарбук тоже отмечает положительные инициативы в сфере данных, которые реализовывались в России на протяжении 2020 года, а также делится некоторыми подробностями о программе стандартизации.

В области национальной стандартизации основными событиями можно назвать два. Это принятие ряда стандартов в области ИИ и больших данных (стандарты «Платформа «Автодата», ряд национальных стандартов в завершающей стадии разработки), а также утверждение Перспективной программы стандартизации по приоритетному направлению «Искусственный интеллект» на период 2021-2024 годы. Всего Программа содержит 217 стандартов общего назначения и отраслевых метрологических стандартов и рассчитана на поддержку разработки и применения технологий ИИ в таких отраслях, как государственное управление, здравоохранение, транспорт, управление природными ресурсами, промышленность, образование, строительство, телекоммуникации, торговля, предупреждение и ликвидация последствий.

Сергей Гарбук

председатель ТК 164 «Искусственный интеллект»

Какие национальные стандарты, связанные с ИИ и данными, были представлены в течение 2020 года

В мае — по большим данным (ч.1);

В июле — по ситуационной видеоаналитике;

В августе — по ИИ в клинической медицине;

В ноябре — по большим данным (ч.2).

С коллегами соглашается Александр Тюльканов, заместитель директора по регулированию киберфизических систем и больших данных Департамента развития и планирования Фонда «Сколково». Назвав одним из ключевых событий утверждение правительством Концепции регулирования ИИ и робототехники, благодаря которому рынок получил ориентиры развития регулирования этой сферы в России, он также выделил вопрос доступа к данным.

Правительство согласилось с тем, что нашим разработчикам нужны особые условия для доступа к данным, включая обезличенные персональные данные, при условии, что будут приняты все меры для защиты интересов граждан. Никакого искусственного интеллекта без наборов данных для его обучения не бывает.

При этом подчеркну, что речь ни в коем случае не может идти о легализации какой-то продажи персональных данных, их произвольном использовании. Создается возможность их применения в исследовательских целях, для обеспечения машинного обучения в так называемых песочницах данных.

Александр Тюльканов

заместитель директора по регулированию киберфизических систем и больших данных Департамента развития и планирования Фонда «Сколково»

Стоит добавить, что в 2020 году одним из заметных событий стало формирование открытых городских регистров применения ИИ в Амстердаме и Хельсинки. ICT.Moscow узнал у Ивана Бутурлина из столичного Департамента информационных технологий, как он оценивает такую практику и планируется ли создание открытых городских ИИ-датасетов в Москве.

Такие платформы помогают повысить доверие горожан к ИИ-системам, улучшить их качество за счет обратной связи от профессионального сообщества, снизить риски при разработке, обучении и внедрении ИИ-проектов. Мы регулярно изучаем передовой международный опыт и ищем удачные для внедрения в Москве практики, в том числе такие, как в Амстердаме и Хельсинки.

Мы понимаем, что важным драйвером развития отрасли станет возможность использовать городские транзакционные наборы данных. Уже сейчас мы формируем городские датасеты, которые можно будет предлагать участникам московского экспериментального правового режима.

Иван Бутурлин

руководитель направления «Искусственный интеллект» ДИТ Москвы

Таким образом, несмотря на все трудности, в целом эксперты позитивно смотрят на перспективу российского законодательства: ожидают принятия закона об экспериментальных правовых режимах в сфере цифровых инноваций, а также в целом решения проблемных вопросов, в том числе с данными и беспилотниками.

Влияние COVID-19

Пандемия коронавируса, по словам собеседников ICT.Moscow, ускорила регуляторные процессы в области ИИ.

Рустам Тихонов из Минэкономразвития говорит, что темпы принятия и реализации государственных инициатив в сфере ИИ ускорились, поскольку эти технологии помогают и в создании вакцины, и в реализации мер по диагностике болезни и контролю распространения заболеваемости.

Иван Бутурлин из ДИТ Москвы осторожен в оценке. Он говорит, что, «возможно, что пандемия коронавирусной инфекции стала одним из факторов, ускоривших мировое регулирования цифровых технологий», а также сместила законодательный фокус «на защиту граждан и бизнеса в условиях пандемии».  

Андрей Незнамов утверждает, что, с одной стороны, COVID-19 действительно позитивно сказался на отдельных сферах с точки зрения ускорения регулирования (например, позволил быстрее принять ряд инициатив в здравоохранении), но где-то и замедлил темпы принятия решений тех или иных вопросов.

 


Ожидания от 2021 года

Сергей Гарбук рассчитывает, что «в 2021 году и последующие годы будет усиливаться роль ведущих отечественных разработчиков технологий ИИ как драйверов стандартизации в этой области».

Основными мотивами компаний будет являться, во-первых, стремление к преодолению нормативных барьеров, связанных с необходимостью предоставления обществу гарантий безопасности систем ИИ (например, в транспорте, здравоохранении и других отраслях), разрешению нормативного конфликта между требованиями информационной безопасности и необходимостью облегчения доступа разработчиков к тематическим наборам данных. Во-вторых, заинтересованность в установлении единых принципов измерения функциональных характеристик систем ИИ, обеспечивающих объективное сравнение систем схожего назначения, предлагаемых разными разработчиками.

Сергей Гарбук

председатель ТК 164 «Искусственный интеллект»

Андрей Незнамов, в свою очередь, полагает, что стандартизация данных и вовсе станет одной из ключевых тенденций в России, о которой можно будет с уверенностью говорить через год.

Техническое регулирование призвано определять специфические, технические требования к системам ИИ, и оно одновременно оно является своеобразной альтернативой (или дополнением) нормативно-правового регулирования. Те нюансы, которые просто невозможно и нецелесообразно устанавливать на уровне законодательных актов, можно и нужно определять на уровне ГОСТов или даже Технических регламентов. 

Создание мировой системы стандартизации ИИ происходит прямо сейчас, и России не осталась в стороне. Пока опубликованы несколько стандартов, но это очень мало по сравнению с тем количеством стандартов, которое планируется утвердить в следующем году. Сейчас эта работа только началась. Вынесено на обсуждение несколько десятков стандартов для отдельных сфер. Ключевые результаты в этой сфере я бы ожидал в 2021-2022 годах, когда можно будет показать, какие стандарты разработаны, утверждены и для чего они нужны.

Андрей Незнамов

исполнительный директор Центра исследования данных для государственных органов Сбербанка

Эксперт уверен, что Россия определилась с концептуальными проблемами, и теперь необходимо прорабатывать отдельные отрасли, в первую очередь — беспилотных автомобилей и данных, однако строить какие-либо конкретные прогнозы пока преждевременно.

Иван Бутурлин из ДИТ Москвы помимо ожидания первых результатов от экспериментальных правовых режимов рассчитывает на развитие регулирования в рамках реализации утвержденного в августе федпроекта «Искусственный интеллект».

Можно ожидать новое регулирование в сфере поддержки компаний-разработчиков ИИ решений, стандартизации, стимулирующих мер для развития ИИ, развития дополнительного профессионального образования.

Иван Бутурлин

руководитель направления «Искусственный интеллект» ДИТ Москвы

Рустам Тихонов из Минэкономразвития прогнозирует, что основной тенденцией в сфере ИИ на 2021 год, как минимум в России, станет запуск масштабного регулирования и стандартизации . Некоторыми планами по регулированию искусственного интеллекта он поделился с ICT.Moscow.

Планируется разработка дорожной карты в рамках механизма трансформации делового климата «Искусственный интеллект». Документ изменит регулирование в сфере данных, определит регулирование ИИ в транспорте и здравоохранении, уточнит вопросы ответственности и многое другое. Формат разработки этих нормативно-правовых актов включает привлечение большого числа представителей бизнеса. Мы надеемся, что это позволит сформировать регуляторику, минимально мешающую бизнесу, максимально защищающую права граждан и при этом дающую большие возможности для развития ИИ в стране. Ежегодно дорожную карту планируется дополнять новыми мероприятиями, в том числе по другим отраслям.

Рустам Тихонов

директор Департамента стратегического развития и инноваций Минэкономразвития России

Также представитель ведомства сообщил, что в Минэкономразвития разработан «паспорт проекта в рамках Национальной стратегии развития ИИ, которую утвердил президент РФ в октябре 2019 года. Согласно проекту, основные мероприятия запланированы на 2021 год, от плана мы не отстаем».

Таким образом, все указывает на то, что правовое регулирование искусственного интеллекта в 2021 году будет активно развиваться и далее: в России, как и во всем мире, эта технология будет одним из приоритетных направлений.

Расскажите знакомым:

Главное про цифровые технологии в Москве

Нажимая на кнопку, вы соглашаетесь с политикой конфиденциальности

Что такое ICT.Moscow?

ICT.Moscow — открытая платформа о цифровых технологиях в Москве. Мы создаем наиболее полную картину развития рынка технологий в городе и за его пределами, помогаем бизнесу следить за главными трендами, не упускать возможности и находить новых партнеров.

Если не указано иное, материалы доступны по лицензии Creative Commons BY 4.0

При поддержке Правительства Москвы