ICT.Moscow подводит итоги 2021 года в сфере технологий искусственного интеллекта (ИИ). Выделить главные события в этой сфере мы попросили Игоря Пивоварова — главного аналитика Центра искусственного интеллекта МФТИ, создателя регулярного отчета «Альманах Искусственный интеллект», организатора конференции OpenTalks.AI, Андрея Незнамова — управляющего директора центра регулирования AI Сбербанка, председателя межгосударственной группы по проведению глобальных консультаций Специального комитета Совета Европы по технологиям ИИ, а также Дмитрия Онтоева — начальника аналитического управления Департамента информационных технологий города Москвы (ДИТ Москвы).

Что произошло в российской ИИ-индустрии и регуляторике

Главным событием года в сфере искусственного интеллекта для России оба эксперта называют принятие национального кодекса этики в сфере искусственного интеллекта. Игорь Пивоваров видит некоторое противоречие в названии этого документа, но считает его принятие важным и полезным для отрасли.

Надо понимать, что этика — это философская дисциплина, изучающая мораль и нравственность. А мораль и нравственность — это то, чем руководствуется человек при принятии решений. Так как искусственный интеллект сейчас не принимает никаких решений, у него нет морали и нравственности, соответственно, к нему и этика неприменима. В этом плане «этика искусственного интеллекта» — это оксюморон. Но в данном случае идет речь об этике разработчика и пользователя, то есть принятый документ — это кодекс этики для разработчиков и пользователей. 

Игорь Пивоваров

главный аналитик Центра искусственного интеллекта МФТИ

Андрей Незнамов называет этот кодекс элементом «мягкого права» и подчеркивает, что в мире не так много стран имеют подобные этические рамки.

Этика искусственного интеллекта — это по существу мягкое регулирование, такой квази-закон. Это, конечно, добровольные рекомендации, но по сути они определяют правила, из которых потом возможно вырастут какие-то отдельные нормативные акты. 

Андрей Незнамов

управляющий директор центра регулирования AI Сбербанка

Подтверждением этого может служить то, что в конце декабря журналисты узнали о намерении Совета Федерации предложить внести в законодательство положения кодекса этики в сфере ИИ. Андрей Незнамов называет кодекс «сбалансированным» и практическим, что объясняется участием в его создании разных акторов — разработчиков, представителей научной среды, экспертов и НКО при поддержке государства.

Этические принципы работы с ИИ начинают появляться и на корпоративном уровне: в 2021 году «Сбер» опубликовал собственные корпоративные принципы этики ИИ и создал первый в стране внутренний профильный комитет. Андрей Незнамов называет это мировым трендом, говоря, что пока единичные компании имеют такие комитеты, например Microsoft или Google. По его прогнозам, в 2022 году еще несколько компаний создадут такие комитеты.

В России развивается регулирование искусственного интеллекта, продолжает Андрей Незнамов. В частности, он обращает внимание на вступление в силу закона об экспериментальных правовых режимах в сфере цифровых инноваций (ЭПР).

Летом был принят законопроект-спутник, который разрешил создавать регуляторные песочницы в разных сферах, которые влияют на ИИ. Это, например, здравоохранение, транспорт и данные. Сейчас программы этих экспериментальных правовых режимов готовятся, в первом квартале следующего года они скорее всего будут утверждены. 

Андрей Незнамов

управляющий директор центра регулирования AI Сбербанка

В разговоре с ICT.Moscow эксперт также напомнил, что в 2021 году в России был утвержден ряд национальных стандартов в сфере искусственного интеллекта. Он называет это очень важным событием и из числа принятых технических стандартов выделяет те, что касаются применения ИИ в клинической медицине. Соответственно, тенденция к активной стандартизации данных, которую Андрей Незнамов называл одной из ключевых в конце 2020 года, действительно развивалась в 2021-м.

Андрей Незнамов также отмечает принятие второго пакета мер поддержки ИТ-отрасли. «Он направлен на стимулирование ИТ-индустрии, в том числе ИИ — там есть несколько пунктов, напрямую посвященных этой технологии», — подчеркивает эксперт.

В свою очередь Игорь Пивоваров из МФТИ обращает внимание на то, что по федеральному проекту «Искусственный интеллект» «началось движение»:

Профинансировали шесть исследовательских центров, через Фонд содействия инновациям раздали около ста грантов. Это можно назвать позитивными подвижками. Хотя их масштаб, на мой взгляд, несоразмерно маленький важности этой темы.

Игорь Пивоваров

главный аналитик Центра искусственного интеллекта МФТИ

Тем не менее, движение, о котором говорит эксперт, все же достаточно заметно. Какие государственные инициативы в сфере ИИ в 2021 году были наиболее заметны, по просьбе ICT.Moscow рассказал начальник аналитического направления ДИТ Москвы Дмитрий Онтоев.

По поручению президента были разработаны отраслевые и региональные стратегии цифровой трансформации, отличительная черта которых — активное использование решений на основе ИИ. Существенно увеличилось количество образовательных программ и курсов, позволяющих освоить навыки в сфере искусственного интеллекта, проведены крупные конкурсы и хакатоны для российских разработчиков. Кроме того, реализуются меры господдержки практически для всех игроков отрасли – от абитуриентов и студентов вузов, до разработчиков решений и тех, кто эти решения будет внедрять. 

Дмитрий Онтоев

начальник аналитического направления ДИТ Москвы

В самой отрасли одной из наиболее заметных тенденций стало то, что российские решения активно внедрялись в других странах. В 2021 году ряд российских компаний успешно экспортировали собственные разработки, в которых применяются технологии искусственного интеллекта. Например, роверы Яндекса начали доставлять еду в университетских кампусах в США, компания Cognitive Pilot — производитель систем для беспилотной сельхозтехники — вышла на рынки семи стран Евросоюза, а также Боливии и Канады в 2021 году, в Индии на железных дорогах стали использовать российскую систему распознавания лиц компании NtechLab — список можно продолжать.

Игорь Пивоваров соглашается, что это «приятные факты», но подчеркивает, что они значимы только для России. Например, он обращает внимание на то, что в Калифорнии функционирует очень много роботов-доставщиков, что они есть в каждом университете и в этом уже не видят ничего удивительного.

Ровер Яндекса не является, безусловно, мировым событием. Но если мы хотим сказать, что за 2021 год было важного именно для России, то я могу с вами согласиться: мы увидели начало экспорта российских технологий, связанных с искусственным интеллектом. Хорошего экспорта, но пока еще, на мой взгляд, малоденежного. 

Игорь Пивоваров

главный аналитик Центра искусственного интеллекта МФТИ

Также эксперт напомнил, что в этом году несколько суперкомпьютеров компании (которые используются в том числе для ИИ-вычислений), вошли в мировой топ, что тоже можно считать достаточно заметным событием.

Глобальная этика и значение Foundation Models

Говоря об отрасли искусственного интеллекта в мировом масштабе, Андрей Незнамов называет главным событием года принятие в ноябре глобальной рекомендации по этике искусственного интеллекта на уровне ЮНЕСКО.

Это первый глобальный мировой документ, де-факто посвященный регулированию искусственного интеллекта: большой, с инструментами контроля и мониторинга. Это прямо проект международной конвенции по искусственному интеллекту. 

Андрей Незнамов

управляющий директор центра регулирования AI Сбербанка

Схожую работу сделал спецкомитет по искусственному интеллекту Совета Европы, продолжает эксперт. «Они подготовили проект исследования и докладывают кабинету министров о том, каким будет будущее европейское регулирование», — добавляет Незнамов. По его словам, уже сейчас понятно, что все идет на европейскую конвенцию об ИИ.

Эксперт также отмечает запуск платформы GlobalPolicy.AI, которая объединяет разные международные органы, занимающиеся регулированием ИИ. «В какой-то момент пошел разнобой, и вот теперь Совет Европы, Еврокомиссия, ЮНЕСКО создали вместе эту платформу, чтобы был информационный ресурс по разным политикам в сфере ИИ».

С точки зрения развития технологии, по мнению Игоря Пивоварова, главное событие 2021 года — формирование концепции Foundation Models или «базисных моделей». Как рассказал эксперт, в 2019 году появился механизм внимания, attention, когда нейронная сеть обрабатывает не последовательно весь текст, а отдельные слова и окружающие контексты, подобно тому как внимание человека скачет с предмета на предмет. В 2020-м на этом механизме сделали большую модель GPT-3. А в 2021 году, как и прогнозировалось, этот принцип был применен в компьютерном зрении, появились визуальные трансформеры и, например, такая модель как DALL-E, которая генерирует изображения по описанию.

В середине 2021 года в Стэнфорде группа ученых опубликовала статью, которая стала бурно обсуждаемым событием, о том, что настала новая парадигма в Machine Learning. Она состоит в том, что будет несколько таких гигантских моделей — Foundation Models — которые по зубам только огромным корпорациям, потому что обучение такой модели требует больших вычислительных мощностей и для ее хранения нужно огромное количество серверов. По аналогии с OpenAI — разработчики ее обучают и выкладывают, а все остальные берут готовую модель и немного настраивают под свои цели. 

Если раньше вы писали код, используя открытые библиотеки, то теперь тезис такой, что и код как бы писать не надо. Берешь готовую гигантскую Foundation Model, донастраиваешь ее для своих задач и получаешь работающую вещь.

Игорь Пивоваров

главный аналитик Центра искусственного интеллекта МФТИ

В том, что архитектура трансформеров перешла из обработки языка в компьютерное зрение и работает, ИИ-специалисты видят предпосылки к созданию «суперархитектуры», на которой дальше должно работать все остальное. По словам Игоря Пивоварова, Foundation Models — это парадигма 2021 года, которая бурно обсуждается, но приживется она или нет — открытый вопрос. При этом эксперт отмечает, что к данной точке зрения есть масса критики и сам он эту позицию не до конца разделяет. Он считает, что нынешние модели точно не тянут на что-то фундаментальное, потому что в ответ на запросы «иногда генерируют полный бред».

Была прекрасная статья, которая говорила, что модель GPT-3 — это такой «стохастический попугай». То есть она научилась на миллионах текстов и просто повторяет какие-то статистически вероятные фразы — как гигантский, немыслимых размеров, попугай. Поэтому он не совсем тянет на то, чтобы быть фундаментом. В этом смысле я не считаю эту концепцию фундаментальной. Но многие люди считают.

Игорь Пивоваров

главный аналитик Центра искусственного интеллекта МФТИ

Иллюстрация мультимодальности «базисной модели» из статьи группы авторов Стэнфордского университета

С энтузиазмом Игорь Пивоваров говорит об AlphaFold2, разработанной компанией DeepMind. Это модель, которая научилась прогнозировать правильную трехмерную структуру белка по аминокислотной последовательности.

Это скорее прикладная работа, но совершенно фантастического уровня, потому что она открывает большое пространство и новое поле для фармкомпаний по удешевлению их бизнеса. Я думаю, что это будет действительно большая история.

Игорь Пивоваров

главный аналитик Центра искусственного интеллекта МФТИ

ИИ в России: что дальше?

Говоря о прогнозах, Игорь Пивоваров соглашается, что в России свои элементы «базисных моделей» могут делать крупные ИТ-компании, такие как Яндекс или «Сбер». Чем-то вроде Foundation Model для русского языка является библиотека DeepPavlov, созданная в МФТИ под руководством Михаила Бурцева, которой сегодня широко пользуются.

В 2022 году может начаться производство российского процессора для инференса (работы нейронной сети на конечном устройстве) от компании IVA Technologies, надеется эксперт.

Это процессор мирового уровня, если компания сможет наладить его производство, это будет суперсобытие для России. У нас такого «железа» нет, да и в мире подобных процессоров сейчас мало.

Игорь Пивоваров

главный аналитик Центра искусственного интеллекта МФТИ

Игорь Пивоваров констатирует, что в России есть высококлассные эксперты в сфере ИИ, но, к сожалению, в отрасли сохраняются значительные препятствия, не выстроена система, способствующая бурному росту технологических инноваций и мотивации людей.

Андрей Незнамов смотрит в 2022 году с оптимизмом. В следующем году, по его прогнозам, будет развиваться история с этикой и реализация соответствующего кодекса станет одним из трендов развития регулирования в стране. Эксперт надеется, что в России будет создана развернутая сеть уполномоченных по этике искусственного интеллекта, а также национальная комиссия по этике ИИ.

Помимо этого продолжится построение системы технической стандартизации, уверен Андрей Незнамов. Могут также появиться отдельные точечные нормативно-правовые акты в конкретных сферах, например для регулирования рекомендательных сервисов. В разговоре с ICT.Moscow эксперт подчеркнул, что любое регулирование необходимо обсуждать с индустрией и что для такого диалога в России сегодня существует достаточно площадок и инструментов.

Дмитрий Онтоев из ДИТ Москвы, в свою очередь, рассчитывает, что спрос на ИИ-решения для органов государственной власти и городских служб в 2022 году будет расти — «как для автоматизации, упрощения внутренних бизнес-процессов и облегчения работы, так и в виде сервисов для конечных пользователей». По мнению эксперта, это «создаст новые возможности как для крупных игроков, так и для стартапов в создании B2G-решений на основе искусственного интеллекта». Также Дмитрий Онтоев рассчитывает и на развитие ситуации с беспилотным транспортом.

Еще одним трендом 2022 года можно назвать развитие технологий беспилотного транспорта. Сегодня практически все крупные страны мира активно работают над созданием беспилотных автомобилей как для личного пользования, так и для сферы такси. Для развития данной отрасли необходимо развивать регулирование, разрабатывать стандарты, создавать условия для расширения возможностей тестирования и внедрения решений на дорогах страны. Соответствующие шаги уже предпринимаются в России, организуется введение экспериментального правового режима для движения высокоавтоматизированных транспортных средств. 

Дмитрий Онтоев

начальник аналитического направления ДИТ Москвы

Кроме того, эксперт отмечает, что в 2022 году будут развиваться уже действующие государственные сервисы и системы с элементами ИИ, в том числе голосовые помощники или распознавание изображений — «прошедшие два года показали, что ИИ может повысить эффективность борьбы с COVID-19 – например, в Москве ИИ помогает врачам в анализе степени поражения легких на снимках или ускоряет работу городского контакт-центра».

Еще одна тенденция, на которую нельзя не обратить внимание, — начало реализации концепции метавселенных (Metaverse), где в числе прочих технологий активно будет применяться и искусственный интеллект. На вопрос о том, станет ли регулирование метавселенных заметным трендом в будущем, Андрей Незнамов сказал, что, безусловно, станет, но в более отдаленной перспективе. Сейчас юристам сложно что-то осмыслять, потому что право рассматривает сложившиеся общественные отношения.

Метавселенные в том концепте, как были заявлены в этом году, скорее только формируются. Поэтому юристом здесь будет над чем подумать. И это несомненно будет связано и с персональными данными, и с искусственным интеллектом. Мы будем осторожно искать какие-то первые подходы, выявлять проблемы и решать их.

Андрей Незнамов

управляющий директор центра регулирования AI Сбербанка