ПРАВОВОЕ РЕГУЛИРОВАНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В КИТАЙСКОЙ НАРОДНОЙ РЕСПУБЛИКЕ: СОСТОЯНИЕ, ПЕРСПЕКТИВЫ, СРАВНИТЕЛЬНЫЙ АНАЛИЗ ЗАКОНОПРОЕКТНЫХ ПРЕДЛОЖЕНИЙ (ЧАСТЬ 1)

Введение

В настоящее время мы является свидетелями научно-технологической гонки за лидерство в сфере разработки и внедрения систем искусственного интеллекта[1]. «Однако есть и более тихая – и, возможно, более сложная – гонка, чем технологическая: гонка за влияние и контроль над регулированием ИИ. Соединённые Штаты, Европейский союз и Китай участвуют в глобальной игре, в которой стимулы, стандарты и жёсткое регулирование переплетаются с геополитическими, технологическими и ценностными интересами», – отмечают авторы доклада «Стандартизация, доверие и демократические принципы: глобальная гонка за регулированием искусственного интеллекта»[2].

И. А. Филипова обращает внимание на три важных показателя, по которым соперничают разные государства и их объединения в сфере искусственного интеллекта: уровень развития ИИ, темпы его развития и уровень развития правового регулирования ИИ. Обоснованно указывая, что Китай устойчиво занимает вторую позицию по уровню развития ИИ, уступая лишь США, по темпам развития Китай, напротив, опережает США за счет преимущества в объемах данных, доступных для алгоритмического анализа, она заключает: «По третьему показателю – уровню развития правового регулирования – Китай претендует на лидерство, конкурируя в этом с Европейским союзом…» [9, с. 48].

В этой публикации будут проанализированы как уже принятые нормативные правовые акты, регулирующие сферу искусственного интеллекта в КНР, так и два законопроекта, разработанные ведущими учеными-правоведами этой страны.

Литературный обзор

В российской научной печати к настоящему моменту имеется не так много работ, посвященных вопросам правового регулирования искусственного интеллекта в КНР. Среди них, безусловно, стоит отметить процитированную выше публикацию доцента Национального исследовательского Нижегородского государственного университета имени Н. И. Лобачевского, руководителя Центрально-Азиатского исследовательского центра регулирования искусственного интеллекта при Самаркандском государственном университете кандидата юридических наук И. А. Филиповой, а также работу заместителя начальника отдела международного сотрудничества Научно-исследовательского института радио, эксперта Национального комитета по исследованию  БРИКС кандидата технических наук Е. В. Тонких [8]. Всесторонний сравнительный анализ регуляторного опыта различных юрисдикций в сфере искусственного интеллекта (включая КНР) на протяжении трех лет проводит авторский коллектив под руководством управляющего директора Центра человекоцентричного AI Сбербанка, председателя Комиссии по этике в сфере ИИ, научного руководителя и куратора Дальневосточного центра ИИ Сбербанка и Дальневосточного федерального университета кандидата юридических наук А. В. Незнамова [1, с. 197–207; 2, с. 287–310; 3, с. 43–60].

Кроме того, на русском языке опубликована статья аспирантки Института сравнительного правоведения при Китайском политико-правовом университете, посвященная нормативному правовому регулированию генеративного ИИ в Великобритании, США, Европейском союзе и Китае Ли Яо [5].

Гораздо больше внимания процессу формирования нормативно-правовой базы для регулирования ИИ в Китае уделяется в зарубежной литературе. Отметим здесь как работы, непосредственно посвященные КНР: коллективную монографию «Китайский подход к искусственному интеллекту: анализ политики, этики и регулирования» [14], статьи «Правила искусственного интеллекта в Китае и как они создаются» [12], «Перспективы и опасности регулирования искусственного интеллекта в Китае» [16], так и публикации, где опыт КНР изучается в сравнении с другими странами: «Искусственный интеллект: от этики к праву» [11], «Регулирование искусственного интеллекта» [15], «От “гонки за ИИ”» к “гонке за регулированием ИИ”: регуляторная конкуренция за искусственный интеллект» [13].

Не умаляя ценность этих и других работ, посвященных анализу правотворческих процессов в сфере ИИ в Китайской Народной Республике, вместе с тем отметим, что ученые-правоведы этой страны разработали два серьезных законопроекта, представляющих собой прообразы примеров комплексного регулирования этой технологически сложной отрасли. Об этих законопроектах лишь упоминается в специальной литературе, но целостный анализ данных документов отсутствует, хотя представляет большую ценность для государственных деятелей, политиков и ученых, ищущих лучшие решения для внедрения. Задача данной статьи – помочь восполнить этот пробел.

Материалы и методы

Помимо уже действующих в КНР нормативных правовых актов, регулирующих отдельные сферы использования ИИ, в работе используются тексты двух законопроектов, последовательно представленных в КНР в 2023 и 2024 годах, озаглавленных соответственно «Закон об искусственном интеллекте (Типовой закон) 1.0 (проект, рекомендованный экспертами)» (далее – Проект-2023) и «Закон Китайской Народной Республики об искусственном интеллекте» (проект, предложенный учеными)» (далее – Проект-2024).

Проект-2023 разработан под руководством профессора Китайской академии общественных наук и заместителя директора исследовательского отдела сетевого и информационного права Института права Китайской Академии общественных наук Чжоу Хуэя. Этот выдающийся ученый-правовед также возглавлял экспертную группу крупного национального проекта «Исследования по созданию системы этического контроля и надзора за искусственным интеллектом в Китае»[3].

Проект-2024 был представлен на Форуме по управлению искусственным интеллектом в Пекине в марте 2024 г. группой ведущих китайских ученых, которую возглавил эксперт Консультативной группы ООН по искусственному интеллекту высокого уровня профессором Института данных и верховенства права Китайского университета политических наук и права Чжан Линхань[4].

Основу исследования составили общенаучные и частнонаучные методы научного познания, включая формально-логический метод, сравнительно-правовой анализ и синтез.

Развитие правового регулирования искусственного интеллекта в Китае:

от стратегического планирования до введенных в действие нормативных правовых актов

Е. В. Тонких выделяет следующие этапы развития регулирования ИИ в Китае: 1) стратегическое планирование и самодисциплина отрасли (2017–2020 гг.); 2) добровольные стандарты и начало нормативного надзора (2020–2022 гг.); 3) прямой надзор за технологиями ИИ (с 2022 г. по настоящее время) [8].

Действительно, в 2017 г. в Китае был принят «План развития технологий искусственного интеллекта нового поколения», содержащий промежуточные нормативы, ограниченные временным интервалом. Если к 2020 г. Планом ставилась задача вывести технологии и применение ИИ на передовой мировой уровень, а к 2025 году искусственный интеллект должен был стать основой достижения КНР уровня ведущего мирового производителя с использованием данной технологии в модернизации промышленности и экономических трансформациях, то к 2023 году КНР должна занять ведущие позиции на мировом рынке как крупнейший в мире инновационный центр ИИ. Создание политики и законодательства в этой сфере обозначено как одна из ключевых перемен, наряду с появлением ведущих центов разработки ИИ, повсеместным внедрением ИИ, созданием ИИ нового поколения и объемом рынка, превышающим 1 трлн юаней[5].

А. В. Незнамов выявил три динамических правовых регуляторных модели:

1) модель стратегического планирования, в которой документы стратегического планирования играют основную роль, а нормы непосредственного действия имеют минимальный вес;

2) модель создания норм непосредственного действия, регулирующих общественные отношения, связанные с использованием ИИ, в которой акты непосредственного действия играют более значимую роль по сравнению с первой моделью;

3) смешанная модель – своеобразная комбинация векторов стратегического планирования и непосредственного регулирования [см.: 6, c. 86–163].

Разрабатывая эти модели в рамках монографии 2019 г., А. В. Незнамов рассматривал Китай (наряду с Францией) в качестве иллюстрации модели стратегического планирования, что соответствовало реалиям того времени, однако сегодня можно с уверенность сказать, что КНР представляет собой смешанный тип регулирования.

Заложив стратегические основы развития технологии искусственного интеллекта, руководство КНР в лице Управления по стандартам перешло к решению вопросов стандартизации технологии. В 2018 г. была опубликована «Белая книга по стандартизации искусственного интеллекта», представляющая собой результат совместной работы более 30 академических и отраслевых организаций, работающих под надзором Китайского института стандартов электроники (подразделение Министерства промышленности и информационных технологий)[6].

Исследователи Стэндфордского университета, публикующиеся на специализированном ресурсе, посвященном анализу развития технологической политики Китая, приходят к выводу, что КНР подходит к стандартизации технологий ИИ как к инструменту национальной политики, так и с позиции влияния на международные отношения. Ориентируясь на внутреннюю политику, КНР использует стандарты как форму регулирования технологии в секторах, управляемых ИИ: это касается не только функциональной совместимости, но и вопросов этики и безопасности. Фокусируясь в продвижении стандартов за пределами страны, Китай, во-первых, преследует экономические интересы, повышая коммерческую конкурентоспособность китайских компаний, продукция которых активно выходит на мировые рынки; во-вторых, политические интересы, так как КНР, являясь мощной технологической державой, демонстрирует амбиции в определении «правил игры» по глобальным вопросам развития технологии ИИ. КНР активно включился в эту работу в рамках Подкомитета 42, «входящего в состав Объединенного технического комитета 1 (JTC 1), в свою очередь состоящего из двух широко уважаемых органов по стандартизации: Международной организации по стандартизации (ISO) и Международной электротехнической комиссии (IEC)». Если формирующиеся международные стандарты будут воспроизводить действующие китайские стандарты, то Китай одержит своего рода реванш за то, что не смог участвовать в установлении правил игры для глобального интернета[7].

Разработка стандартов технологии искусственного интеллекта стала стимулом для обсуждения этических основ ИИ, что, в свою очередь, является предпосылкой для формирования правового регулирования. Примечательно, что именно правительство КНР выступило инициатором создания этических принципов в сфере ИИ, поручив эту работу Китайской ассоциации искусственного интеллекта. В результате при участии крупных научных организаций (в том числе Китайской академии наук, Пекинской академии искусственного интеллекта и др.), а также национальных лидеров IT-индустрии были сформулированы «Пекинские принципы искусственного интеллекта» (май, 2019 г.)[8].

В развитие данных принципов в 2021 году Министерство науки и технологий КНР выпустило «Кодекс этики искусственного интеллекта нового поколения», который выдвигает шесть этических требований (повышение благосостояния людей, содействие честности и справедливости; защита частной жизни и безопасности; обеспечение контролируемости и надежности; усиление ответственности и повышение этической грамотности), а также предлагает 18 конкретных правил для управления ИИ, исследований и разработок, поставок и использования данной технологии. Целями данного Кодекса заявлены «интеграция этики и морали в весь жизненный цикл ИИ, содействие честности, справедливости, гармонии и безопасности, а также предотвращение таких проблем как предрассудки, дискриминация, неприкосновенность частной жизни и утечка информации»[9].

В следующем –2022 году – после того, как 20 сентября Координационный совет руководителей системы Организации Объединенных Наций одобрил Принципы этичного использования искусственного интеллекта[10], Китай выступил с политическим заявлением, выпустив 17 ноября того же года «Позиционный документ Китайской Народной Республики об укреплении этического управления искусственным интеллектом», в котором обозначил ряд призывов к национальным правительствам относительно регулирования, исследований и разработок, использования искусственного интеллекта и международного сотрудничества в этой сфере[11].

Сформулировав основные этические требования к ИИ и правила, которым рекомендуется следовать, чтобы добиться их выполнения, КНР логично перешла к следующему этапу – формированию правовых норм[12].

При этом, как верно пишет И. А. Филипова, в китайском подходе присутствует «вертикальность» регулирования: «отдельными законодательными актами решаются достаточно узкие проблемы, что свидетельствует не просто о секторальности регулирования, а о его фрагментарности» [9, с. 56].

Речь, прежде всего, идет о следующих документах[13]:

Административные положения о рекомендательных алгоритмах для информационных интернет-услуг, вступившие в силу 1 марта 2022 г.

Положение об управлении глубоким синтезом в информационной службе Интернет, вступившее в силу 10 января 2023 года;

Временное положение об управлении услугами генеративного искусственного интеллекта, вступившее в силу 15 августа 2023 года;

Пробные меры по этическому обзору научно-технической деятельности, опубликованные 14 апреля 2023 г. для консультаций с общественностью, которые завершились 3 мая 2023 г.

Изложенные в этих документах правила налагают обязательства на поставщиков услуг и службы технической поддержки пользователей, а также на некоторые другие организации, включая онлайн-платформы. Они преследуют цель устранения рисков, связанных с контентом, генерируемым искусственным интеллектом, и – в конечном итоге – защиту государственной и общественной безопасности.

Предметом регулирования являются технологии рекомендательных алгоритмов: генерация и синтез (в том числе продукты и услуги, связанные с AIGC[14]); технологии синтеза, использующие генеративные и синтетические алгоритмы; технологии генеративного ИИ[15] и научно-техническая деятельность, связанная с высокими этическими рисками в данной сфере.

Регуляции подлежит деятельность поставщиков соответствующих услуг, технической поддержки, пользователей, онлайн-платформ, а проект мер по этической экспертизе возлагает обязанность ее проведения на любые университеты, научно-исследовательские учреждения, медицинские учреждения и учреждения здравоохранения, а также предприятия, занимающиеся научно-технической деятельностью в сфере ИИ.

С точки зрения юрисдикции, исследуемые документы не ограничивают их применение физическими и юридическими лицами КНР и распространяются на иностранных физических или юридических лиц, если они участвуют в использовании технологий ИИ для предоставления услуг или научных исследованиях этих технологий в КНР.

Все рассматриваемые нормативные правовые акты содержат подробные протоколы и правила, которые можно условно разделить на несколько блоков.

Первый блок норм касается запуска новых продуктов, услуг или приложений на основе искусственного интеллекта (порядок регистрации соответствующих алгоритмов); оценки защищенности продуктов, услуг и приложений как генеративного, так и негенеративного ИИ; процедуры проверки платформами распространения приложений (в основном это касается генеративного ИИ); этической экспертизы НИОКР, связанных с ИИ.

Второй блок регуляторных норм определяет общие обязательства, регламентирующие ежедневную работу с продуктами, услугами или приложениями на основе ИИ: соблюдение законов, общественной морали и этики; запрет на манипуляции и недобросовестную конкуренцию с использованием рекомендательных алгоритмов; правила получения информации для обучающих данных и собственно их обучения, а также сотрудничества с регулирующими органами для разъяснения относительно используемых данных.

Третий блок норм регулирует отношения поставщиков услуг с пользователями: проверка личности; получение согласий на изменение биометрической информации; защита конфиденциальности вводимых пользователями данных; соблюдение прав пользователей (право не подвергаться нападкам на основании их личных характеристик; право на отключение услуг алгоритмических рекомендаций; право на удаление пользовательских тегов для сервисов рекомендаций алгоритмов; право не подвергаться «дифференцированному обращению»). Здесь же содержатся требования о том, что предоставляемые услуги не должны вызывать зависимость или чрезмерное потребление, а также обеспечивать защиту интересов несовершеннолетних, пожилых лиц и трудовых прав работников.

Четвертый блок обязывает поставщиков услуг модерировать контент, произведенный ИИ: предоставление информации в соответствии с «основными ценностными ориентациями», запрет на фейковые новости; создание «библиотеки признаков» для проверки на незаконность или вредоносность контента.

Пятый блок предусматривает обязательность маркировки контента, произведенного ИИ или при участии этой технологии, причем физические лица и организации не могут использовать технические средства для удаления, редактирования или сокрытия таких меток.

Шестой блок включает требования относительно периодического пересмотра алгоритмов как генеративного, так и негенеративного ИИ, этической экспертизы, предоставление возможностей для надзора и инспекции со стороны регулирующих органов, создания «механизма развеивания слухов» и обработки жалоб.

Ли Яо считает, что Китай ясно дал понять: в регулировании и управлении ИИ, «развитию и безопасности» и также «инновациям и управлению» должны придаваться одинаковые значения, вследствие чего она называет такой подход «нейтральным регулированием» [5, с. 255]. Вместе с тем представляется интересным вывод Анжелы Чжан (Angela H. Zhang), которая полагает, что вопреки распространенному мнению о том, что китайское регулирование ограничивает развитие ИИ, важно обратить внимание «на влиятельную силу законов, способствующих росту отрасли». «Китайское правительство применило двунаправленный подход к регулированию технологий искусственного интеллекта. С одной стороны, оно активно внедряет контроль над контентом, созданным искусственным интеллектом. С другой стороны, это сигнализирует рынку и регулирующим органам о мягком и осторожном подходе к регулированию искусственного интеллекта, одновременно координируя различные заинтересованные стороны для продвижения вперед в разработке искусственного интеллекта. На практике китайские регулирующие органы отдают приоритет развитию, а не строгому информационному контролю, занимая благоприятную для отрасли позицию, которая дает китайским фирмам конкурентное преимущество перед их американскими и европейскими коллегами. Однако такой разрешительный регулятивный подход сопряжен с рисками. Учитывая слабые рыночные условия Китая, слабые правовые институты и хронический дефицит информации в иерархической системе регулирования, слабая регулятивная среда способствует авариям и даже катастрофам с использованием искусственного интеллекта» [16, p. 157]. Риторика статьи А. Чжан ведет к тому, что ИИ в руках Китая может быть опасен не только внутри страны, но и за ее пределами (что отвечает общему духу проамериканских настроений), однако в самой КНР задолго до ее статьи обозначили возможные риски ИИ (прежде всего – для национальной безопасности) и сформулировали их в Белой книге по безопасности ИИ[16].

Безусловно, эти риски учитывают и политические круги Китайской Народной Республики, влияние которых, как представляется, запустило процесс работы над созданием соответствующих законопроектов, предметом которых является комплексное правовое регулирование искусственного интеллекта. По мнению И. А. Филиповой, это свидетельствует о том, что КНР движется в направлении так называемого «горизонтального регулирования», отражающего юридический подход к созданию правовых норм, когда положения одного закона распространяются на широкий круг вопросов в регулируемой им области [9, с. 56].

Изучение Проекта-2023 и Проекта-2024 позволяет получить представление о том, как влиятельные представители юридической науки КНР подходят к вопросам комплексного правового регулирования искусственного интеллекта.

Общие положения. Цели и принципы

регулирования искусственного интеллекта

Оба проекта логично открываются главой «Общие положения» и статьями о целях соответствующего регулирования. При этом цели Проекта-2024 сформулированы более широко: так, в нем сделан акцент на содействие технологическим инновациям в области искусственного интеллекта, говорится о защите национальной безопасности и общественных интересов (в Проекте-2023 – только о национальном суверенитете), а также об управлении продуктами ИИ и надзоре за ними (табл.).

Таблица

Сравнительный анализ проектируемых целей

В каждом законопроекте содержится практически идентичная статья о сфере применения проектируемого акта: он будет регулировать деятельность, связанную с разработкой, предоставлением, использованием ИИ и контролем над ним не только на территории КНР, но также и за пределами территории КНР, если это может затрагивать национальную безопасность КНР, общественные интересы или законные права и интересы отдельных лиц и организаций.

При этом имеются различия в терминологии. Проект-2023 определяет искусственный интеллект как «автоматизированную систему, которая работает с определенной степенью автономии, служит определенным целям и может влиять на физическую или виртуальную среду посредством прогнозирования, рекомендаций или принятия решений, включая данные, функции, модели, интерфейсы предоставления услуг и встроенное терминальное оборудование»^[17] (ст. 71). Проект-2024 трактует искусственный интеллект менее детализировано: как «технологию, которая использует компьютеры для моделирования интеллектуального поведения человека в таких целях, как прогнозирование, консультирование, принятие решений или создание контента для специальных или общих целей» (ст. 94), в то же время, как мы видим, учитывая и возможности генеративного ИИ.

Существенное внимание проекты уделяют принципам ИИ. При этом Проект-2023 начинает с «принципов управления», подчеркивая ведущую роль государства: «Государство осуществляет общую координацию развития и безопасности [искусственного интеллекта], настаивает на содействии сочетанию инноваций и государственного управления в соответствии с законом и осуществляет всеобъемлющий и разумный надзор» (ст. 3). Разработчики Проекта-2024 не включили подобную норму, зато в ст. 13 содержится более гибкое положение о плюралистическом совместном управлении: «Государство создает и совершенствует систему управления искусственным интеллектом с участием правительства, социального партнерства и общественности, а также формирует модель управления искусственным интеллектом с множественным совместным управлением».

Роль государства раскрывается также в ст. 10 Проекта-2024 («Развитие инфраструктуры»): «Государство усиливает создание инфраструктуры искусственного интеллекта, рационально управляет распределением и поставкой вычислительных ресурсов по всей стране, а также способствует взаимосвязи и совместимости различных вычислительных ресурсов. Государство поддерживает создание открытых платформ общедоступных данных, необходимых для развития индустрии искусственного интеллекта, и поощряет регионы и ведомства активно исследовать возможности открытия и использования общедоступных данных». Это же положение о доступе к вычислительным мощностям и открытым данным было сформулировано в статье 10 Проекта-2023 как принцип содействия развитию и инновациям. Проект-2024 также содержит определение «принципы инновационного развития», но раскрывает их несколько иным образом: «Государство осуществляет инклюзивный и взвешенный надзор, поощряет и поддерживает инновационное развитие индустрии искусственного интеллекта, а также обеспечивает безопасность искусственного интеллекта» (статья 4). Таким образом, обеспечение безопасности ИИ со стороны государства авторы законопроекта рассматривают как корреспондирующую инновациям основополагающую идею.

Разделы «Общие положения» не обходят своим вниманием и вопросы интеллектуальной собственности относительно ИИ. Так, согласно ч. 2 ст. 10 Проекта-2023 государство поощряет исследования, разработки и применение ИИ, защищает права интеллектуальной собственности в области ИИ в соответствии с законом и инновационно исследует систему интеллектуальной собственности, адаптированную к развитию искусственного интеллекта. В статье 11 Проекта-2024 также поднимаются вопросы «защиты интеллектуальной собственности и стандартизации в сфере искусственного интеллекта» со стороны государства.

В статье 3 Проекта-2024 в сферу законодательства планируется ввести обязанность соблюдения этических принципов: «Развитие искусственного интеллекта должно соответствовать подходу, ориентированному на людей, уважать личную свободу и человеческое достоинство, повышать благосостояние людей, защищать общественные интересы, а также направлять и регулировать здоровое и упорядоченное развитие индустрии искусственного интеллекта. Разработчики, поставщики и пользователи искусственного интеллекта должны предотвращать и контролировать возможные этические риски искусственного интеллекта в соответствии с законодательством». В Проекте-2023 присутствует часть этого более широкого правила, сформулированная в виде принципа ориентирования на людей: «Деятельность, связанная с исследованиями и разработками, предоставлением и использованием искусственного интеллекта, должна быть ориентированной на людей, разумной и полезной, чтобы гарантировать, что люди всегда могут контролировать искусственный интеллект и всегда способствовать благополучию людей как конечной цели».

Отдельно сформулирован также принцип подотчетности в сфере безопасности, согласно которому разработчики, поставщики и пользователи ИИ должны принять необходимые технические средства и меры управления в соответствии с законом для обеспечения безопасности и надежности продуктов и услуг искусственного интеллекта, а также несут соответствующую юридическую ответственность за деятельность по разработке, предоставлению и использованию ИИ в соответствии с законом (ст. 7 Проекта-2024, ст. 5 и 7 Проекта-2023).

Статья 5 Проекта-2024 раскрывает принципы честности и справедливости: «Разработчики, поставщики и пользователи искусственного интеллекта должны обеспечивать честность и справедливость, а также законные права и интересы отдельных лиц и организаций и не должны применять необоснованное дифференцированное обращение». Этот же принцип заложен в Проекте-2023, но дополнен требованием о том, что «деятельность, связанная с исследованиями и разработками, предоставлением и использованием искусственного интеллекта, должна в полной мере учитывать потребности особых групп, таких как несовершеннолетние, пожилые люди и инвалиды» (статья 8 Проекта-2023).

Статья 6 Проекта-2024 вводит принцип прозрачности и объяснимости: «Разработчики, поставщики и пользователи искусственного интеллекта должны придерживаться принципа прозрачности и объяснимости, а также предоставлять и объяснять основную информацию, цели и основные механизмы работы продуктов и услуг искусственного интеллекта надлежащим образом в соответствии с законом» (в аналогичной статье Проекта-2023 этот принцип сконструирован схожим образом).

Принцип добросовестного использования обязывает разработчиков, поставщиков и пользователей ИИ соблюдать законы и правила, уважать общественную мораль и этику, соблюдать деловую и профессиональную этику, быть честными и заслуживающими доверия, выполнять свои обязательства по защите искусственного интеллекта, брать на себя социальную ответственность и не подвергать опасности национальную безопасность или общественные интересы, не допускать причинения вреда законным правам и интересам отдельных лиц и организаций. В соответствии с этим принципом разработчикам ИИ также рекомендуется встраивать ограничения на использование в дизайн продуктов, чтобы пользователи не могли использовать ИИ для участия в незаконной деятельности (ст. 8 Проекта-2024).

Статья 9 Проекта-2024 предполагает зафиксировать принцип «ручного вмешательства» (иными словами – контроля со стороны человека): «Разработчики и поставщики искусственного интеллекта должны оценивать и объяснять риски безопасности продуктов искусственного интеллекта, а также создавать механизмы ручного контроля и проверки в соответствии с законом».

Проект-2023 в качестве отдельного принципа вводит принцип экологичности: «Государство поощряет научные исследования и разработки, направленные на создание и использование искусственного интеллекта с применением энергосберегающих технологий, эффективным использованием ресурсов и защиту окружающей среды». Это же положение воспринято и Проектом-2024 (ст. 12 «Зеленое развитие»).

Поддержка, развитие и продвижение искусственного интеллекта

Вторые главы и Проекта-2023, и Проекта-2024 посвящены вопросам поддержки, развития и продвижения искусственного интеллекта. Предлагается закрепить следующие меры:

1. Планирование развития искусственного интеллекта на государственном уровне и наличие соответствующих планов на всех уровнях исполнительной власти (ст. 15 Проекта-2023, ст. 14 Проекта-2024).
2. Развертывание инфраструктуры вычислительных мощностей (ст. 16 Проекта-2023, ст. 15 Проекта-2024) и информационной сети (ст. 22 Проекта-2024). Причем, Проект-2024 включает также статью об использовании вычислительных ресурсов, в которой говорится не только о гарантированной поддержке государства, но также и о том, что в случае возникновения серьезных рисков в работе вычислительной инфраструктуры или потере операционной организацией своих эксплуатационных возможностей, «органы управления искусственным интеллектом на уровне провинций и выше имеют право назначить другие операционные организации для размещения или принятия на себя операций по обеспечению стабильной работы вычислительной мощности инфраструктуры» (ст. 16).
3. Государственная поддержка разработки алгоритмов ИИ и базовых моделей, ориентированных на ИИ, а также ключевых технологических инноваций (ст. 17, 19 Проекта-2023, ст. 17, 18 Проекта 2024).
4. Предоставление наборов и баз данных, поощрение совместной с государством разработки больших данных, профессиональных инструментов и стандартов для аннотирования данных[18] (ст. 18 Проекта-2023, ст. 20, 21 Проекта-2024).
5. Подготовка кадров (ст. 20 Проекта-2023, ст. 30 Проекта-2024), интеграция промышленности, университетов и научно-исследовательских организаций (ст. 27 Проекта-2024), содействие цифровой грамотности населения (ст. 31 Проекта-2024).
6. Создание экосистемы с открытым исходным кодом (ст. 19 Проекта-2024).
7. Обязательство по формированию и совершенствованию правил защиты прав интеллектуальной собственности на продукты и услуги ИИ (ст. 23 Проекта-2024); определение критериев добросовестного использования данных, защищенных авторским правом и обеспечение справедливого использования таких данных (ст. 24 Проекта-2024).
8. Государственная поддержка разработки и применения технологий безопасности в сфере ИИ (ст. 22 Проекта-2023, ст. 25 Проекта-2024), а также предоставление льготных условий страхования продуктов и услуг ИИ (ст. 26 Проекта-2024).
9. Активная роль государства во внедрении и использовании ключевых технологий ИИ (ст. 19 Проекта-2023, ст. 28 Проекта-2024).
10. Финансовая государственная поддержка фундаментальных и прикладных исследований в области ИИ, развитие инновационных предприятий в области технологий искусственного интеллекта и их достижений, предоставление налоговых льгот предприятиям, развивающим ключевые проекты в сфере ИИ (ст. 29 Проекта-2024), а также поощрение инвестиций в развитие ИИ (ст. 21 Проекта-2023).

Управление сферой искусственного интеллекта

Проект-2024 раскрывает содержание «координационного механизма» планирования, развития и управления искусственным интеллектом. Органы управления искусственным интеллектом координируются для того, чтобы: (1) исследовать, формулировать и направлять реализацию национальных стратегий и планов в области искусственного интеллекта; (2) создать и внедрить механизм надзора и управления рисками искусственного интеллекта; (3) сформулировать конкретные правила и стандарты этической экспертизы технологий искусственного интеллекта, аннотации данных, ключевые аннотации искусственных данных, ключевой безопасности искусственного интеллекта, классификации и лицензирования; (4) содействовать созданию системы социальных услуг для оценки искусственного интеллекта и оказывать поддержку соответствующим учреждениям в проведении обучения искусственному интеллекту и смежной работе; (5) исполнять другие обязанности, предусмотренные законами и административными правилами (ст. 58).

Определены компетентные органы управления искусственным интеллектом, называемые также «департаменты, отвечающие за искусственный интеллект»: это (1) департаменты Государственного совета в соответствующих отраслях и областях и (2) департаменты местных органов власти на уровне уезда и выше (ст. 59), очерчен круг их обязанностей в сфере надзора (ст. 60).

Этот подход Проекта-2024 является аналогией отраслевого подхода Великобритании, где регулирование ИИ исходит из необходимости разработки специфических правил и норм для различных отраслей, учитывая их особенности и потребности[19]. Так, финансовая служба осуществляет надзор в финансовом секторе, включая использование ИИ при оказании финансовых услуг. Офис комиссаров по информации занимается защитой данных и приватности, разрабатывает правила о прозрачности и ответственности при использовании ИИ. Офис по защите конкуренции и рыночной власти следит за соблюдением законодательства о конкуренции и уполномочен принимать меры против компании, использующих ИИ для монополизации рынка[20].

Подход Проекта-2023 принципиально иной. Статья 12 предполагает создание Национального управления по искусственному интеллекту как компетентного органа в области разработки и управления искусственным интеллектом. Другие соответствующие правительственные ведомства и соответствующие военные ведомства должны, в соответствии с разделением обязанностей, тесно сотрудничать, укреплять координацию и выполнять соответствующую работу в соответствии с законом.

Провинции, автономные районы, муниципалитеты, непосредственно подчиняющиеся Центральному правительству, города, в которых расположены народные правительства провинций и автономных районов, города, в которых расположены особые экономические зоны, а также более крупные муниципальные органы ИИ и другие соответствующие ведомства, утвержденные Государственным советом в соответствии с соответствующими национальными нормативными актами, несут ответственность за разработку и управление ИИ в пределах своей юрисдикции.

«Цель введения такого органа состоит в том, – считает М. Ши, – чтобы предотвратить потенциальный хаос в регулировании, который часто сравнивают с мифическим понятием «九龙治水» (цзюлунчжишуй, “девять драконов, управляющих водой”), когда несколько регулирующих органов претендуют на административную власть в одной и той же сфере»^[21]. Это подтверждается комментарием разработчиков Проекта-2023, которые, объясняя свой выбор между отраслевым подходом в пользу централизованного органа, пояснили, что «вопрос управления искусственным интеллектом следует рассматривать в более широком аспекте, чтобы избежать дилеммы “контроля за водой в Коулуне”[22] в таких вопросах, как управление интернет-платформой».

В общем виде Проект-2024 предлагает зафиксировать иерархическую систему классификации ИИ, исходя из важности искусственного интеллекта в экономическом и социальном развитии и степени вреда, который он может нанести национальной безопасности, общественным интересам или законным правам и интересам отдельных лиц и организаций. Обозначено, что «государство осуществляет иерархический и классифицированный надзор и управление, а также регулирует ключевые функции искусственного интеллекта в соответствии с законом», а «компетентный отдел искусственного интеллекта должен создать механизм классификации, сформулировать и динамически корректировать стандарты и содержание классификации искусственного интеллекта на основе таких факторов, как технологическое развитие, области промышленности и сценарии применения, а также своевременно обновлять руководящие принципы классификации искусственного интеллекта» (ст. 61). Здесь необходимо подчеркнуть, что авторы законопроекта предлагают воспроизвести европейскую концепцию иерархии рисков систем ИИ, но ее содержательное наполнение делегировать органам исполнительной, а не законодательной власти. Однако при этом законопроект включает и чувствительные «специальные сценарии применения искусственного интеллекта» (гл. 6 Проекта-2024).

Контрольно-надзорная деятельность

Оба законопроекта предпринимают попытки сформулировать правила надзора за сферой искусственного интеллекта. Проект-2023 г. предлагает усеченное управление со стороны государства посредством формирования так называемого негативного списка (负面清单)[23] и обязательного лицензирования включенных в него продуктов и услуг ИИ (ст. 23, 24)[24]. Исходя из текста проектируемой нормы, как и в случае с предложением классификации Проектом-2024, негативный список строится исходя из важности ИИ для развития экономики и общества, степени ущерба, причиняемого национальной безопасности, общественным интересам, законным правам и интересам отдельных лиц и организаций, а также экономическому порядку в случае его атаки, реорганизации, уничтожения или незаконного приобретения либо использования. Проект-2023 определяет порядок получения лицензии на исследования и разработки в области ИИ, включенного в негативный список (ст. 25, 26), процедуру лицензирования (ст. 27), отзыва лицензии (ст. 28), повторного получения лицензии (ст. 29).

Разработчики Проекта-2023 также рассматривали возможность использования идей Регламента Европейского союза, в котором регулирование ИИ построено на классификации рисков, но ввиду того, что европейская модель представляется чрезмерно бюрократизированной, было принято решение «сосредоточиться на ключевых моментах». Преимущества такого подхода видятся авторам законопроекта в том, что в дополнение к введению механизма предварительного контроля за деятельностью, включенной в негативный список, он предоставляет большую автономию деятельности, не включенной в него, а также использует методы предварительной регистрации и последующего приведения в соответствие с правилами в целях снижения административной нагрузки. Эта система также подразумевает своевременное составление и обновление негативных списков и освобождения от ответственности. К примеру, компаниям, занимающимся исследованиями и разработками в области ИИ, будет предоставлено достаточное пространство для разработок и максимальные возможности для проб и ошибок. Проект-2023 также уполномочивает компетентные национальные органы по ИИ составлять перечень административных наказаний, которые не должны налагаться в соответствии с законом, и использовать встречи, собеседования и другие средства для устранения незначительных нарушений, которые не соответствуют стандартам, чтобы избежать чрезмерного влияния на технологические инновации.

Проект-2024 не оперирует категорией «негативный список», предлагая использовать более удачное, на наш взгляд, понятие «критически важный искусственный интеллект», а также закрепляя в отдельной главе 6 «специальные сценарии применения искусственного интеллекта»[25]. По ст. 51 Проекта-2024 критический искусственный интеллект включает в себя следующие типы: (1) искусственный интеллект, применяемый в критической информационной инфраструктуре; (2) искусственный интеллект, оказывающий существенное влияние на права и интересы личности, такие как личная жизнь, свобода, личное достоинство и т. д.; (3) базовая модель, достигающая определенного уровня с точки зрения вычислительной мощности, параметров, масштаба использования и т. д.; (4) другие обстоятельства, предусмотренные законами и административными правилами (таким образом, перечень является открытым).

В ст. 51 Проекта-2024 перечислены основные меры по защите безопасности критически важного искусственного интеллекта, обращенные к различным субъектам. Так, разработчики и поставщики критически важного ИИ должны установить меры защиты безопасности и планировать, создавать и использовать их одновременно с такого рода ИИ. Разработчики, поставщики и пользователи критически важного ИИ должны уделять приоритетное внимание приобретению безопасного и заслуживающего доверия оборудования и информационных услуг. Разработчики ИИ, которые проводят деятельность по аннотированию данных, должны сформулировать соответствующие законам и правилам нормы, в соответствии с правилами аннотаций данных. Регулирующими органами, в свою очередь создается механизм проверки аннотаций данных.

Предусматривается, что разработчики и поставщики критически важного ИИ должны будут создавать специальные агентства по управлению безопасностью, а также назначать лицо, ответственное за защиту, надзор и управление деятельностью по разработке и предоставлению ИИ (ст. 52).

Ключевые поставщики критически важного ИИ должны зарегистрироваться через национальную платформу надзора за искусственным интеллектом и завершить процедуру подачи заявок в течение 7 рабочих дней с даты получения уведомления о сертификации (ст. 53) и проводить оценку риска безопасности критически важного ИИ не реже одного раза в год или поручить стороннему агентству проводить своевременное устранение обнаруженных проблем безопасности и сообщать об этом в орган управления искусственным интеллектом (ст. 54).

Ключевые разработчики и поставщики ИИ должны создать механизм раскрытия рисков безопасности ИИ и усилить мониторинг рисков безопасности во всех аспектах ИИ. При обнаружении угроз безопасности они должны незамедлительно выполнять обязательства по уведомлению в соответствии с законом и раскрывать риски безопасности пользователям, а также – что немаловажно – предоставить соответствующие методы взаимодействия человека с компьютером, чтобы пользователи могли осуществлять эффективный ручной контроль во время использования продуктов и услуг (ст. 55).

У ключевых разработчиков и поставщиков должен быть план реагирования на чрезвычайные ситуации в области безопасности, и они обязаны немедленно инициировать его, обобщить информацию о рисках, принять соответствующие меры по исправлению положения и своевременно сообщить об этом органу управления ИИ. Им также предоставлено право принимать экстренные меры для прерывания операций, когда это необходимо, своевременно возобновляя их после устранения угроз безопасности (ст. 56).

Ст. 57 Проекта-2024 содержит обязательство разработчиков и поставщиков критически важного ИИ незамедлительно сообщать о любом слиянии, разделении или роспуске компетентному отделу искусственного интеллекта и распоряжаться критически важным ИИ в соответствии с требованиями этого отдела. Ст. 62 раскрывает задачи государства по специальному надзору и управлению разработкой, обеспечением и использованием критически важного искусственного интеллекта.

Предусмотрен механизм мониторинга рисков и чрезвычайных ситуаций: разработка системы раннего предупреждения и информационного оповещения; совершенствование механизма работы ИИ в чрезвычайных ситуациях, организация регулярных учений. План действий в чрезвычайных ситуациях должен классифицировать инциденты, связанные с безопасностью ИИ, в соответствии с такими факторами, как степень опасности и масштаб влияния, и предусматривать соответствующие меры реагирования на чрезвычайные ситуации (ст. 63).

Обеспечение безопасности систем искусственного интеллекта

В целом и Проект-2023, и Проект-2024 серьезным образом подходят к обязательствам по обеспечению безопасности. Разработчики и поставщики должны проводить оценку рисков безопасности прежде, чем предоставлять продукты и услуги (ст. 33 Проекта-2023, ст. 42 Проекта-2024). Проект-2024 дополнительно указывает на содержание данной оценки: (1) существует ли потенциальная предвзятость или дискриминация; (2) влияние на общественные интересы, личные права и интересы, а также риски безопасности; (3) проводится ли проверка на соответствие этическим нормам в соответствии с законом; (4) являются ли защитные меры законными, эффективными и соразмерными уровню риска.

Ст. 64 Проекта-2024 посвящена развитию оценки безопасности ИИ, сертификации и т. п. Заявлена поддержка соответствующих профессиональных учреждений для осуществления сервисной деятельности в соответствии с законом; содействие взаимному признанию результатов оценки безопасности ИИ; координация создания платформы оценки ИИ, а также создание единой, авторитетной и динамически обновляемой  структуры оценки ИИ, наборов данных и стандартов оценки в целях обеспечения функционирования такой открытой платформы для оценки предприятий.

Регламентируются процедурные вопросы контрольно-надзорной деятельности и сотрудничества с заинтересованными сторонами (ст. 65).

Статья 43 Проекта-2024 вводит правило сообщать компетентному органу управления искусственным интеллектом об инцидентах, связанных с безопасностью, ст. 44 регулирует вопросы взаимодействия разработчиков и поставщиков ИИ со страховщиками.

Предусмотрена работа в режиме «регуляторной песочницы», обозначенная как «пилотный проект по надзору и управлению» (ст. 66). Соответствующая норма устанавливает, что «для разработчиков и поставщиков искусственного интеллекта, вступающих в пилотный проект по надзору и управлению, органы управления искусственным интеллектом должны предоставить соответствующие удобства, стимулы или снижение ответственности с точки зрения условий доступа, оценки рисков, аудита, юридической ответственности и т. д. в соответствии с законом».

Ст. 56 Проекта-2023 говорит о «надзорной песочнице», подразумевая, что Национальное управление по искусственному интеллекту устанавливает надзор за искусственным интеллектом для реализации экспериментального режима и должно издать конкретные правила и руководящие принципы по следующим вопросам: (1) условия участия в нормативных испытаниях; (2) рабочий механизм контрольного испытания; (3) обязательства и механизмы смягчения ответственности разработчиков и поставщиков искусственного интеллекта.

Предлагается закрепить положение о поощрении создания отраслевых организаций ИИ и других форм многостороннего сотрудничества (ст. 67) и учреждении экспертного комитета по искусственному интеллекту «для предоставления консультаций, оценки, презентаций и прочей профессиональной поддержки в области безопасности работы с искусственным интеллектом» (ст. 68).

Промежуточные выводы

1. Процесс развития искусственного интеллекта достиг такого уровня, когда параллельно конкурированию в сфере технологий возникает и конкуренция в сфере нормативного правового регулирования, и государства ищут баланс между необходимостью поддерживать отрасль, с одной стороны, и обеспечивать безопасность и соблюдение прав человека, с другой стороны. Поскольку недоверие к технологии со стороны общества может негативно сказываться и на технологическом секторе, вплоть до социальных протестов, в сбалансированном регулировании заинтересованы все участники общественных отношений.
2. Китайская Народная Республика миновала этапы стратегического планирования и самодисциплины отрасли, добровольной стандартизации и первоначального периода внедрения нормативного надзора и в настоящий момент находится на пороге формирования комплексного законодательства, регулирующего ИИ.
3. Китайская типовая регуляторная модель может быть охарактеризована как «смешанная», то есть комбинирующая векторы стратегического планирования и непосредственного регулирования.
4. Разработка стандартов технологии искусственного интеллекта изначально стала стимулом для обсуждения этических основ ИИ, что позволило КНР заложить фундамент для формирования правового регулирования. Стандарты, в свою очередь, должны базироваться на ценностях, отраженных в системе комплексного законодательного регулирования ИИ, примеры которого уже имеются в Европейском союзе (как принятый Закон) и предлагаются в Китае (как законопроекты).
5. Введенные в действие нормы, направленные на регулирование рекомендательных алгоритмов, технологии глубокого синтеза и генеративного искусственного интеллекта являются примером оперативного реагирования в ответ на появление новых технологических решений, демонстрирующим готовность учитывать не только интересы отрасли, но и личности, общества и государства.
6. В 2023 и 2024 г. в КНР были последовательно представлены два законопроекта, являющиеся примерами комплексного регулирования сферы искусственного интеллекта и в качестве таковых представляющие ценность для законотворческой деятельности и научных исследований в нашей стране. Группы ученых, работавших над проектами, включают разный состав участников, вследствие чего нельзя утверждать, что Проект-2024 – это обновленный Проект-2023. Вместе с тем, нельзя не отметить, что Проект-2024 логично учитывает и развивает многие положения Проекта-2023 и является более проработанным документом.
7. Проекты по-разному расставляют акценты относительно роли государства в управлении искусственным интеллектом: Проект-2024 предлагает более гибкую совместную плюралистическую модель управления, тогда как Проект-2023 сосредоточен на приоритетном участии государства в управлении и надзоре.
8. Предполагается перевод принципов деятельности, связанной с ИИ, из сферы этики в сферу права.
9. По-разному проектируется управление сферой искусственного интеллекта: создание Национального управления по искусственному интеллекту по Проекту-2023 (идея соответствует реально сложившейся в Китае с 2017 г. политике) либо формирование департаментов, отвечающих за ИИ в своей отрасли по Проекту-2024 (по аналогии с подходом Великобритании, приоритетным в этой стране до февраля 2024 г.).
10. Отталкиваясь от ключевой составляющей Закона ЕС об ИИ – классификации рисков, разработчики законопроектов также сосредоточены на необходимости формирования классификаций и перечней: («негативный список», «критически важный ИИ»). Однако проектируемые нормы относительно того, какие органы власти будут выпускать эти списки либо сформулированы неопределенно (Проект-2023), либо передают эту функцию отраслевым департаментам соответствующих ведомств (Проект-2024), что представляется спорным, но в некоторой степени компенсируется нормами относительно «специальных сценариев применения искусственного интеллекта».
11. Заслуживают внимания проектируемые нормы проектов, направленные на обеспечение безопасности ИИ, сконструированные таким образом, чтобы максимально учесть интересы всех участников процесса: пользователей, разработчиков и поставщиков систем ИИ.