Регулирование ИИ: что предпринимают США, ЕС и Китай

Правительствам редко удается идти в ногу с развивающимися технологиями. Но комплексная, быстро развивающаяся технология искусственного интеллекта создает проблемы в области закона, национальной безопасности и гражданских прав, которые нельзя игнорировать. В Европейском союзе принят масштабный закон, ограничивающий развитие ИИ; в Китае компании не могут производить ИИ-услуги без соответствующих разрешений. США все еще работают над своим подходом к регулированию. Пока Конгресс рассматривает законопроект, некоторые американские города и штаты уже приняли законы, ограничивающие использование ИИ в таких областях, как полицейские расследования и трудоустройство, а президент Джо Байден поручил правительственным агентствам проверить будущие продукты ИИ на предмет потенциальных рисков для национальной или экономической безопасности.

Системы, основанные на искусственном интеллекте, уже используются в таких разнообразных продуктах, как зубные щетки и беспилотники, и способны произвести революцию в различных отраслях – от здравоохранения до логистики. Но замена человеческих суждений машинным обучением несет в себе риски. Даже если конечная причина беспокойства - быстро обучающиеся системы ИИ, выходящие из себя и пытающиеся уничтожить человечество, – остается в области фантастики, уже есть опасения, что роботы, выполняющие работу людей, могут распространять дезинформацию, усугублять предубеждения, нарушать честность испытаний и неприкосновенность частной жизни людей. Использование технологии распознавания лиц с помощью искусственного интеллекта уже привело к тому, что люди были ложно обвинены в преступлениях. Поддельная фотография взрыва возле Пентагона, сделанная искусственным интеллектом, распространилась в социальных сетях, что на короткое время привело к падению американских акций. Компании Alphabet, Google, Microsoft, IBM и OpenAI призвали законодателей ввести федеральный надзор за ИИ, который, по их мнению, необходим для обеспечения безопасности.

Указ Байдена об ИИ устанавливает стандарты безопасности и защиты конфиденциальности и основывается на добровольных обязательствах, принятых более чем десятком компаний. Члены Конгресса проявили большой интерес к принятию законов в отношении ИИ, которые были бы более осуществимы, чем усилия Белого дома, однако до сих пор не разработана основная стратегия. Два ключевых сенатора заявили, что поддержат закон, устанавливающий процедуру лицензирования сложных моделей ИИ, независимое федеральное управление по надзору за ИИ и ответственность компаний за нарушение неприкосновенности частной жизни и гражданских прав. Среди более узконаправленных законопроектов, предложенных на данный момент, есть один, запрещающий правительству США использовать автоматизированную систему для запуска ядерного оружия без участия человека; другой требует, чтобы изображения, созданные ИИ в политических объявлениях, сопровождались четкой маркировкой. По данным Национальной конференции законодательных органов штатов, в 2023 году по меньшей мере 25 штатов США рассматривали законопроекты, связанные с ИИ, а 15 приняли законы или резолюции. Предлагаемые законы направлены на ограничение использования ИИ при принятии решений о трудоустройстве и страховании, в здравоохранении, при подсчете голосов и распознавании лиц в общественных местах, а также на другие цели.

В марте Европейский парламент принял законопроект, устанавливающий наиболее полное регулирование ИИ в западном мире. Законодательство запрещает использование ИИ для распознавания эмоций на рабочих местах и в школах, а также ограничивает его применение в ситуациях с высокими рисками, например при сортировке заявлений о приеме на работу. Кроме того, ЕС введет первые ограничения на инструменты генеративного ИИ, которые привлекли внимание мировой общественности в прошлом году благодаря популярности ChatGPT. На высокопроизводительные модели, такие как GPT-4 от OpenAI, будут распространяться дополнительные правила, включая отчетность о потреблении энергии и защиту от хакеров. Законодательство еще должно быть официально одобрено странами-членами ЕС. Компаниям, нарушившим правила, грозят штрафы в размере до 35 миллионов евро (37,7 миллиона долларов) или 7% от мирового дохода, в зависимости от нарушения и размера компании. Но когда переговоры вышли на финишную прямую в прошлом году, правительства Франции и Германии выступили против некоторых из самых строгих идей по регулированию генеративного ИИ, утверждая, что правила навредят европейским стартапам, таким как Mistral AI из Франции и Aleph Alpha GmbH из Германии.

15 августа вступил в силу набор из 24 правительственных рекомендаций, направленных против генеративных сервисов ИИ, таких как ChatGPT, которые создают изображения, видео, текст и другой контент. Согласно этим правилам, контент, создаваемый ИИ, должен быть надлежащим образом маркирован и соответствовать правилам конфиденциальности данных и интеллектуальной собственности. Отдельный свод правил, регулирующих алгоритмы ИИ, используемые технологическими компаниями для рекомендации видео и другого контента, вступил в силу в 2022 году.

Ведущие технологические компании, включая Amazon.com, Alphabet, IBM и Salesforce, обязались следовать добровольным стандартам прозрачности и безопасности, разработанным администрацией Байдена, в том числе тестировать новые продукты ИИ на внутренних и внешних испытаниях перед их выпуском. В сентябре Конгресс созвал технологических магнатов, включая Илона Маска и Билла Гейтса, чтобы проконсультировать их по вопросам создания режима регулирования. Компании беспокоит то, в какой степени правила США могут распространяться на разработчиков продуктов ИИ, а не только на их пользователей. Это отражает дискуссию в Европе, где Microsoft в своем позиционном документе утверждает, что крайне важно сосредоточиться на реальных сценариях использования ИИ, поскольку компании не могут "предвидеть весь спектр сценариев внедрения и связанных с ними рисков".

Поскольку американские технологические компании и специализированные микрочипы американского производства находятся в авангарде инноваций в области ИИ, лидеры США обладают особым влиянием на регулирование этой сферы. Многие участники заседаний Сената подчеркивали, что США должны играть ведущую роль в формировании глобального управления ИИ, а некоторые ссылались на успехи Китая в этой области как на предмет особой озабоченности. Критики выражали обеспокоенность тем, что руководители технологических компаний могут получить слишком большое влияние на законодательство, создавая форму захвата власти, которая может усилить власть нескольких крупных компаний и помешать усилиям так называемых организаций с открытым исходным кодом по созданию конкурирующих платформ ИИ.

Источник: Bloomberg