Российская и зарубежная регуляторика в 2020 году получила значительный толчок к развитию: американские, европейские и российские регуляторы публиковали и утверждали новые документы, стандарты в области искусственного интеллекта (ИИ) и данных, у стран появлялись новые глобальные цели и задачи развития технологии.
ICT.Moscow побеседовал с некоторыми экспертами в сфере российского регулирования ИИ, подвел итоги 2020 и узнал о возможных векторах развития в следующем году. В числе собеседников: исполнительный директор Центра исследования данных для государственных органов Сбербанка Андрей Незнамов, директор Департамента стратегического развития и инноваций Минэкономразвития России Рустам Тихонов, председатель Технического комитета (ТК) по стандартизации 164 «Искусственный интеллект» Сергей Гарбук, руководитель направления «Искусственный интеллект» ДИТ Москвы Иван Бутурлин, директор департамента по регулированию киберфизических систем Фонда «Сколково» Александр Тюльканов, пресс-секретарь рабочей группы НТИ Автонет Ярослав Федосеев.
В конце 2019 года по крайней мере 37 стран мира уже имели собственные стратегии или планы развития ИИ и еще 13 находились в стадии разработки — об этом говорится в материале ОЭСР.
Последняя дата обновления карты: 22 ноября 2019 года
В 2020 году к государствам, разработавшим собственные национальные ИИ-стратегии, присоединилась в числе прочих Саудовская Аравия. В октябре она запустила стратегию до 2030 года, заявив о планах войти к этому времени в топ-15 мировых лидеров в сфере ИИ. А США в том же месяце утвердили стратегию мирового лидерства в сфере развивающихся технологий, среди которых назван ИИ и нейроинтерфейсы.
Исполнительный директор Центра исследования данных для государственных органов Сбербанка Андрей Незнамов отмечает, что принцип стратегизации искусственного интеллекта в мире по большей части — пройденный этап, и 2020 год стал годом, когда мировые регуляторы сделали следующий шаг. Теперь они прорабатывают детальные подходы к регулированию: в частности, разрабатывают документы, определяющие регуляторные векторы на ближайшие годы. Это стало одним из ключевых трендов в сфере мировой регуляторики технологии.
В 2020 году мы стали наблюдать следующий этап, когда стало выстраиваться детальное регулирование — не сами акты принимаются, а глубоко разрабатываются подходы к регулированию ИИ. Мы видим, что в разных странах мира разработаны документы, определяющие регуляторные векторы на ближайшие пять лет.
исполнительный директор Центра исследования данных для государственных органов Сбербанка
Эту тенденцию также отмечает руководитель направления «Искусственный интеллект» ДИТ Москвы Иван Бутурлин.
руководитель направления «Искусственный интеллект» ДИТ Москвы
Рассказывая о наиболее значимых документах, определяющих регуляторные векторы на ближайшие годы, Андрей Незнамов называет три региона, где в 2020 году были разработаны наиболее значимые документы в мировой регуляторике ИИ и смежных с ним сфер:
Какие еще заметные регуляторные инициативы состоялись в 2020 году:
В октябре в США утвердили стратегию мирового лидерства в сфере новых технологий (UPD 22.01.2021: позже документ был удален с сайта Белого Дома США). Среди топ-20 технологий названы ИИ и нейроинтерфейсы.
Также осенью Европейский парламент предложил сформировать новую правовую основу с изложением этических принципов и правовых обязательств при разработке, развертывании и использовании ИИ и робототехники.
Вторая заметная тенденция в сфере мировой регуляторики, о которой рассказали собеседники ICT.Moscow, — активная работа международных органов. Ее отмечает в том числе директор Департамента стратегического развития и инноваций Минэкономразвития России — ведомства, которое отвечает в России за координацию мероприятий по развитию экосистемы искусственного интеллекта.
директор Департамента стратегического развития и инноваций Минэкономразвития России
Андрей Незнамов выделяет три глобальных сообщества, чья работа была наиболее заметна в 2020 году, и делится некоторыми деталями их работы:
Ранее заместитель директора по регулированию киберфизических систем и больших данных Департамента развития и планирования Фонда «Сколково» Александр Тюльканов также рассказывал ICT.Moscow, что «некоторые проблемы, в том числе по стандартизации в области технологий искусственного интеллекта, а также по гармонизации подходов к гуманитарно-ориентированному регулированию применения данных технологий, можно решить только сообща, в контексте таких международных организаций, как ИСО, ЮНЕСКО, Совет Европы». По его мнению, в ходе разработки подобными организациями нормативных документов сегодня есть возможность учесть интересы и российских разработчиков.
Однако случается и так, что стремление подобных коалиций может не соотноситься с интересами отдельных государств.
Искусственный интеллект — это обобщающее понятие, надо говорить о конкретных преломлениях ИИ в каждой сфере. В каждой сфере будет свое регулирование. А сейчас делаются попытки сформировать некий общий шаблон, и все делать по нему. Это путь в никуда, и если мы по нему пойдем, то мы скорее уничтожим индустрию вместо того, чтобы сформировать некие правила игры.
Также нужно понимать, что у государств разный уровень зрелости применения технологий, проблемы, разная культурная парадигма, в конце концов, разные правовые системы. Мне кажется, выработать общие правила для ИИ на мировом уровне — очень сложная, хотя и нужная задача.
исполнительный директор Центра исследования данных для государственных органов Сбербанка
Эксперт напоминает, что часто звучат заявления о мировой гонке в сфере искусственного интеллекта, в которой лидируют Китай и США. Однако с его точки зрения, регулирование — лишь часть этой гонки, которая заключается в формировании комфортной правовой системы для развития технологии и для разработчиков.
Например, в Китае, по словам Андрея Незнамова, «очень своеобразная система правового регулирования в целом, но при этом там сформирована достаточно комфортная для технологий искусственного интеллекта среда. Однако информация о том, что они там делают, достаточно закрыта. Я предполагаю, что Китай будет идти своим особым путем и не будет устанавливать строгие рамки для технологий ИИ с помощью нормативных мер».
Также одним из ключевых итогов года эксперт называет анонсированное в мае глобальное партнерство по искусственному интеллекту Global Partnership on AI, участниками которого стали страны, входящие в ОЭСР. Однако ни Китай, ни Россия, парламенты которых в ноябре договорились активизировать обмен опытом правового регулирования в различных сферах (в том числе регулирование цифровой экономики и технологий ИИ), в этот альянс пока не входят. Тем не менее, нельзя утверждать, что Россия не была заметна на глобальном ландшафте ИИ-регуляторики.
Говоря о наиболее значимых событиях в российской регуляторике, Андрей Незнамов в первую очередь называет утверждение правительством Концепции регулирования технологий ИИ и робототехники. По его словам, «Россия смогла опередить с точки зрения глубины разработки и скорости принятия большинство стран мира. Почти нигде в мире нет настолько развернутых концепций регулирования, которые обсуждались бы государством с бизнес-сообществом и наукой и в итоге вылились бы в какой-то большой результирующий документ».
Важно и появление первых законодательных инициатив, касающихся искусственного интеллекта напрямую. В частности, речь идет о законе об экспериментальном правовом режиме в области ИИ в Москве. Есть и другая федеральная инициатива, напоминает Андрей Незнамов: закон об экспериментальных правовых режимах в сфере цифровых инноваций, в котором ИИ заявляется как одна из ключевых сквозных технологиях. С ИИ ассоциируют этот закон и многие из опрошенных ранее ICT.Moscow экспертов, в том числе — из других ИТ-отраслей.
В случае с регуляторными песочницами, рассказывает Андрей Незнамов, эти два подхода (территориальный и отраслевой) являются распространенной мировой практикой. Он поясняет, что «здесь заложены две базовые модели: в законе с экспериментом в Москве представлена территориальная модель (назовем ее горизонтальной), а в законе об экспериментальных правовых режимах — вертикальная, которая задумана насквозь пронизывать отдельные сферы. Главное — чтобы песочниц было как можно больше, потому что любая инновация, особенно ИИ, обязательно требует специального регулирования. Таким образом, еще один ключевой регуляторный тренд ИИ и смежных сфер — создание таких песочниц».
Еще одно значимое событие в российской ИИ-регуляторике за 2020 год — утверждение федерального проекта «Искусственный интеллект» в августе. Федпроект еще раз подчеркнул высокую значимость ИИ для российской регуляторики и определил финансирование отдельных отраслей для реализации различных интеллектуальных решений.
Первые эффекты от внедрения ИИ-песочниц в России можно будет оценить уже скоро. Одна из них — московский эксперимент в области ИИ — начал действовать в середине года — 1 июля. Представитель ДИТ Москвы Иван Бутурлин говорит, что сам по себе запуск имеет большое значение для всей отрасли — не только городской, но и российской.
Ожидаем, что уже в следующем году увидим примеры использования таких экспериментов, сможем оценить первые результаты внедрения и создания нового регулирования.
руководитель направления «Искусственный интеллект» ДИТ Москвы
Начиная с февраля, в Москве действует другой эксперимент — в области здравоохранения. Это яркий пример городского регулирования узкого отраслевого сегмента (ИИ в медицине), который на фоне пандемии показал свою эффективность.
Например, еще в июле Анна Мещерякова, CEO компании «Третье мнение», участвующей в эксперименте, рассказывала ICT.Moscow о возможностях, которые появились у участников отрасли благодаря этой инициативе:
CEO «Третье мнение»
Сергей Морозов, подводя для ICT.Moscow итоги года в области здравоохранения, тоже назвал московский эксперимент в здравоохранении главным технособытием года.
Впрочем, пример здравоохранения демонстрирует, насколько более показательно регулирование искусственного интеллекта в отдельных отраслях. Медицинская сфера была заметной не только на уровне Москвы, но и федеральной регуляторики, а противопоставляется ей по итогам 2020 года в ИИ-регуляторики отрасль беспилотного транспорта.
Развитие правового регулирования применительно к ИИ в медицине Андрей Незнамов оценивает крайне положительно. Эта сфера развивается прорывными темпами, и она «не просто синхронизирована с международным регулированием, но где-то даже опережает его».
исполнительный директор Центра исследования данных для государственных органов Сбербанка
К наиболее заметным событиям в этой области он относит следующие:
В апреле CEO ИИ-компании в сфере здравоохранения «Третье мнение» Анна Мещерякова рассказывала ICT.Moscow, что регуляторные механизмы в целом позволяют «ускорить развитие отрасли и повысить число внедренных решений». Это подтверждается и на практике: например, в 2020 году действительно ускорилась регистрация медицинского ПО с применением ИИ. Уже было зарегистрировано три таких решения: прецедентом стал Webiomed в апреле, а к концу года к нему присоединились Botkin.AI (в ноябре) и Care Mentor AI (в декабре).
Другая сфера — беспилотных автомобилей — оценивается, напротив, скорее негативно. По словам Андрея Незнамова, за весь год в этом сегменте продвинуться не удалось, что усилило отставание от глобальных тенденций в регуляторике.
К сожалению, пока не внесены изменения в постановление, которое регламентирует тестирование беспилотников. Бизнес также подготовил свои предложения по изменению регулирования, синхронизированные с проектом общего комплекса мероприятий по беспилотникам.
Наконец, в начале года в Госдуму вносился законопроект по инновационным транспортным средствам — уже второй. Но его, как и первый, вернули на доработку.
исполнительный директор Центра исследования данных для государственных органов Сбербанка
По информации The Bell, задержка связана с тем, что два ключевых исполнителя законопроекта, Минтранс и Минпромторг, не могут решить, кто должен регулировать формирующийся рынок беспилотников: подведомственный Минпромторгу НТИ Автонет или же само министерство транспорта. Вопрос должен быть решен в правительстве «в ближайшем будущем», однако его перспективы пока неясны.
Представитель компании «Яндекс Беспилотные Технологии» также отмечает: несмотря на то, что технология уже готова к запуску, останавливает регуляторный барьер, который ведет к отставанию России от стран-конкурентов. По его словам, самые значимые запуски автономных автомобилей в 2020 году произошли в США и Китае, где на данный момент для этого уже существует законодательная база: в американском Фениксе (сервис роботакси, работающий без сопровождения страхующего водителя) и в ряде китайских городов.
Яндекс Беспилотные Технологии
пресс-служба
Однако представитель НТИ Автонет Ярослав Федосеев все же видит некоторые позитивные сдвиги, которые произошли в 2020 году.
пресс-секретарь рабочей группы НТИ Автонет
Таким образом, нельзя говорить, что в 2020 году в регулировании беспилотников не произошло совершенно ничего. Однако нынешних мер явно недостаточно для того, чтобы Россия оставалась на уровне других стран мира, активно развивающих регуляторику автономных машин. Впрочем, беспилотные авто — не единственная болевая точка в отечественной регуляторике.
По словам Андрея Незнамова, в области регулирования данных в Россия сохрануется неопределенность, которая не идет на пользу для развития технологий искусственного интеллекта.
С этим, однако, не все хорошо. Так, бизнес считает важным ввести в российское право институт анонимизации данных, при котором данные обезличиваются необратимо, чтобы нельзя было установить связь с конкретным субъектом. В июле в Госдуму был внесен законопроект о внесении изменений в закон о персональных данных, который изначально разрабатывался несколько лет как раз с целью внесения ясности в этом вопросе. Но в результате обсуждений положения об анонимизации из внесенного в Думу законопроекта были исключены.
Это проблема, потому что Национальная стратегия по искусственному интеллекту прямо говорит, что для технологий ИИ очень важны данные, что нужно создать особый режим доступа к данным для нужд разработчиков. Здесь пока подвижек немного. Сейчас обсуждается законопроект по предоставлению таких условий для разработчиков ИИ, позволяющий снять лишние барьеры. Плюс, в этом году мы написали проект методики анонимизации персональных данных (это считается одной из ключевых проблем) и предложили пропилотировать его в Москве.
исполнительный директор Центра исследования данных для государственных органов Сбербанка
При этом на рынке в 2020 году наблюдалась явная востребованность в регуляторных мерах — об этом говорили представители отрасли, с которыми ICT.Moscow общался в апреле. Так, директор Ассоциации участников рынка данных Иван Бегтин называл необходимым регулирование по раскрытию данных государством, поскольку это будет способствовать развитию рынка ИИ. А руководитель лаборатории машинного интеллекта Яндекса Александр Крайнов отметил, что в вопросе регулирования данных нужно искать баланс между защитой пользовательской информации и сбором данных для развития технологий и сервисов, и этот процесс должен быть гибким.
В любом случае, нельзя утверждать, что в сфере данных все однозначно плохо. Об одном из наиболее заметных достижений в этой области в 2020 году рассказал Рустам Тихонов из Минэкономразвития.
директор Департамента стратегического развития и инноваций Минэкономразвития России
Председатель ТК по стандартизации 164 «Искусственный интеллект» Сергей Гарбук тоже отмечает положительные инициативы в сфере данных, которые реализовывались в России на протяжении 2020 года, а также делится некоторыми подробностями о программе стандартизации.
председатель ТК 164 «Искусственный интеллект»
Какие национальные стандарты, связанные с ИИ и данными, были представлены в течение 2020 года
В мае — по большим данным (ч.1);
В июле — по ситуационной видеоаналитике;
В августе — по ИИ в клинической медицине;
В ноябре — по большим данным (ч.2).
С коллегами соглашается Александр Тюльканов, заместитель директора по регулированию киберфизических систем и больших данных Департамента развития и планирования Фонда «Сколково». Назвав одним из ключевых событий утверждение правительством Концепции регулирования ИИ и робототехники, благодаря которому рынок получил ориентиры развития регулирования этой сферы в России, он также выделил вопрос доступа к данным.
При этом подчеркну, что речь ни в коем случае не может идти о легализации какой-то продажи персональных данных, их произвольном использовании. Создается возможность их применения в исследовательских целях, для обеспечения машинного обучения в так называемых песочницах данных.
заместитель директора по регулированию киберфизических систем и больших данных Департамента развития и планирования Фонда «Сколково»
Стоит добавить, что в 2020 году одним из заметных событий стало формирование открытых городских регистров применения ИИ в Амстердаме и Хельсинки. ICT.Moscow узнал у Ивана Бутурлина из столичного Департамента информационных технологий, как он оценивает такую практику и планируется ли создание открытых городских ИИ-датасетов в Москве.
Мы понимаем, что важным драйвером развития отрасли станет возможность использовать городские транзакционные наборы данных. Уже сейчас мы формируем городские датасеты, которые можно будет предлагать участникам московского экспериментального правового режима.
руководитель направления «Искусственный интеллект» ДИТ Москвы
Таким образом, несмотря на все трудности, в целом эксперты позитивно смотрят на перспективу российского законодательства: ожидают принятия закона об экспериментальных правовых режимах в сфере цифровых инноваций, а также в целом решения проблемных вопросов, в том числе с данными и беспилотниками.
Влияние COVID-19
Пандемия коронавируса, по словам собеседников ICT.Moscow, ускорила регуляторные процессы в области ИИ.
Рустам Тихонов из Минэкономразвития говорит, что темпы принятия и реализации государственных инициатив в сфере ИИ ускорились, поскольку эти технологии помогают и в создании вакцины, и в реализации мер по диагностике болезни и контролю распространения заболеваемости.
Иван Бутурлин из ДИТ Москвы осторожен в оценке. Он говорит, что, «возможно, что пандемия коронавирусной инфекции стала одним из факторов, ускоривших мировое регулирования цифровых технологий», а также сместила законодательный фокус «на защиту граждан и бизнеса в условиях пандемии».
Андрей Незнамов утверждает, что, с одной стороны, COVID-19 действительно позитивно сказался на отдельных сферах с точки зрения ускорения регулирования (например, позволил быстрее принять ряд инициатив в здравоохранении), но где-то и замедлил темпы принятия решений тех или иных вопросов.
Сергей Гарбук рассчитывает, что «в 2021 году и последующие годы будет усиливаться роль ведущих отечественных разработчиков технологий ИИ как драйверов стандартизации в этой области».
председатель ТК 164 «Искусственный интеллект»
Андрей Незнамов, в свою очередь, полагает, что стандартизация данных и вовсе станет одной из ключевых тенденций в России, о которой можно будет с уверенностью говорить через год.
Создание мировой системы стандартизации ИИ происходит прямо сейчас, и России не осталась в стороне. Пока опубликованы несколько стандартов, но это очень мало по сравнению с тем количеством стандартов, которое планируется утвердить в следующем году. Сейчас эта работа только началась. Вынесено на обсуждение несколько десятков стандартов для отдельных сфер. Ключевые результаты в этой сфере я бы ожидал в 2021-2022 годах, когда можно будет показать, какие стандарты разработаны, утверждены и для чего они нужны.
исполнительный директор Центра исследования данных для государственных органов Сбербанка
Эксперт уверен, что Россия определилась с концептуальными проблемами, и теперь необходимо прорабатывать отдельные отрасли, в первую очередь — беспилотных автомобилей и данных, однако строить какие-либо конкретные прогнозы пока преждевременно.
Иван Бутурлин из ДИТ Москвы помимо ожидания первых результатов от экспериментальных правовых режимов рассчитывает на развитие регулирования в рамках реализации утвержденного в августе федпроекта «Искусственный интеллект».
руководитель направления «Искусственный интеллект» ДИТ Москвы
Рустам Тихонов из Минэкономразвития прогнозирует, что основной тенденцией в сфере ИИ на 2021 год, как минимум в России, станет запуск масштабного регулирования и стандартизации . Некоторыми планами по регулированию искусственного интеллекта он поделился с ICT.Moscow.
директор Департамента стратегического развития и инноваций Минэкономразвития России
Также представитель ведомства сообщил, что в Минэкономразвития разработан «паспорт проекта в рамках Национальной стратегии развития ИИ, которую утвердил президент РФ в октябре 2019 года. Согласно проекту, основные мероприятия запланированы на 2021 год, от плана мы не отстаем».
Таким образом, все указывает на то, что правовое регулирование искусственного интеллекта в 2021 году будет активно развиваться и далее: в России, как и во всем мире, эта технология будет одним из приоритетных направлений.
Топ тенденций российского рынка ЦОД 2024 года
Ассоциация участников отрасли ЦОД
Нажимая на кнопку, вы соглашаетесь с политикой конфиденциальности
ICT.Moscow — открытая площадка о цифровых технологиях в Москве. Мы создаем наиболее полную картину развития рынка технологий в городе и за его пределами, помогаем бизнесу следить за главными трендами, не упускать возможности и находить новых партнеров.