NtechLab и Центр развития гуманитарных технологий «Новая эра» подготовили экспертный доклад «Технологии России: человек будущего». В материале приводится мнение 18 экспертов в сфере ИТ, ИИ и цифровизации. Центральной темой доклада стало осмысление границ допустимого в применении ИИ с точки зрения этики, юриспруденции и философии.

Ключевые выводы:

• необходимо делать алгоритмы ИИ и процесс его внедрения прозрачными. Процесс передачи управления ИИ должен быть поэтапным и одобрен обществом;
• компании обязаны проводить аудиты своих ИИ-решений на дискриминацию и давать людям возможность оспорить решение, принятое ИИ. В ряде сфер ИИ должен использоваться только для рекомендаций, а не для окончательного принятия решения;
• до 2030 года ожидается появление новой профессии — этического продакт-менеджера. Это специалист на стыке права, социогуманитарных наук и машинного обучения; 
• этические ограничения приведут к отставанию от тех, кто эти ограничения не соблюдает. Но этические ограничения нужны для предотвращения рисков;
• в России необходимо разработать рамочный документ, в котором будут сформулированы государственные и общественные интересы в сфере ИИ;
• тотальная угроза потери занятости человечества отсутствует. Риск еще менее значителен с учетом дефицита кадров в России. Но ожидается трансформация рынка труда с появлением новых и видоизменением привычных профессий;
• субъекты России при внедрении ИИ сталкиваются с рядом проблем: нехваткой вычислительных мощностей и больших объемов данных, дефицитом оборудования из-за санкций, фрагментацией данных между ведомствами и регионами, дефицитом кадров, нормативными и бюрократическими сложностями;
• большинство экспертов выступают за разработку закона, который охватит развитие ИИ в полной мере. Но они предостерегают от «реактивной деятельности», потому что ИИ быстро развивается;
• в России должны появиться трансфер-центры, которые возьмут на себя функцию коммуникации между наукой, бизнесом и государством;
• через 10–15 лет ключевыми функциями ИИ в государственной безопасности станут распознавание лиц и объектов, анализ поведенческих моделей, выявление аномалий, прогнозирование угроз и управление мерами безопасности в реальном времени;
• в промышленности ИИ станет основой для автоматизации производственных и логистических процессов, цифрового управления технологическими линиями. ИИ будет основным инструментом для предиктивного анализа угроз, выявления кибератак и мониторинга социальной стабильности;
• переход от «большого ИИ» к реальному супер-ИИ может произойти в ближайшие 5–7 лет;
• в числе рисков для человечества от ИИ — сбой работы алгоритма в критических сферах, манипуляция сознанием, тотальный контроль со стороны корпораций, потеря контроля над ИИ в военной сфере, потеря контроля над сложными системами ИИ, утрата человеком когнитивных функций.

Расскажите знакомым: