Предвыборные выступления (с синтетическим контентом): политическая реклама и разработка норм раскрытия информации для генеративного искусственного интеллекта

Введение

Фейковые новости – это давняя традиция американской политики, хотя гордиться тут нечем. В «подложных письмах», приписываемых Джорджу Вашингтону, утверждается, что он считал войну за независимость ошибкой; хотя он неоднократно заявлял, что письма являются подделкой, это преследовало его весь президентский срок¹. Президент Линдон Б. Джонсон выпустил рекламный ролик «Дейзи», изображавший кандидата Барри Голдуотера поджигателем войны на фоне страхов по поводу ядерной угрозы². Президентство Барака Обамы было омрачено фейковыми заявлениями о том, что он родился не в Соединенных Штатах³.

Но что произойдет, когда с помощью генеративного искусственного интеллекта (далее – ГИИ) поддельный исходный материал станет настолько реалистичным, что у избирателей не будет причин сомневаться в его подлинности? В апреле 2023 г. национальный комитет Республиканской партии опубликовал видеоролик, созданный с помощью искусственного интеллекта (далее – ИИ), изображающий мрачный мир после победы президента Байдена на выборах 2024 г., дополненный сфабрикованными новостными роликами о китайском вторжении на Тайвань, финансовом крахе и других ужасных событиях⁴. В июне 2023 г. предвыборный штаб тогдашнего кандидата в президенты Рона Десантиса распространил фейковое изображение президента Дональда Трампа, который обнимает доктора Энтони Фаучи⁵. Сообщалось, что выборы в Индии в 2024 г. «изобиловали дипфейками»⁶.

Приведенные примеры не нанесли серьезного ущерба предвыборным кампаниям. Но представьте себе видео, якобы секретное, созданное с помощью искусственного интеллекта, на котором кандидат ругает своих сторонников и отрекается от самых популярных политических взглядов. Такое видео, опубликованное накануне или утром в день выборов и носящее вирусный или узконаправленный характер, может повлиять на результат выборов, при этом у кандидата не будет достаточно времени для его опровержения⁷.

Понимая, что такое вполне возможно, регулирующие органы начали вводить ограничения и меры предосторожности в отношении использования синтетических медиа в политической рекламе⁸. Федеральное правительство не спешило вмешиваться, предоставляя онлайн-платформам и общественности возможность принимать такие меры, как маркировка контента и размещение текста об ограниченной ответственности⁹. Однако на уровне штатов все чаще принимаются законы, непосредственно направленные на решение этой проблемы¹⁰, а крупные онлайн-платформы быстро маркируют или запрещают подобный контент¹¹. Эти смешанные подходы к регулированию и вероятность все более широкого распространения синтетических пространств требуют пристального внимания к возможностям регулирования синтетических медиа с учетом необходимости соблюдения прав, предусмотренных Первой поправкой.

В данной статье рассматриваются подходы к регулированию использования синтетических медиа в политической рекламе. Учитывая существующее многообразие нормативных актов, автор изучает вопрос о том, насколько предлагаемые и принятые законодательные акты, а также их корреляция с положениями Первой поправки соответствуют вероятным будущим изменениям в области синтетических медиа. Чтобы ответить на этот вопрос, в работе дается описание текущего технологического, правового и нормативного ландшафта для сравнения существующих подходов к регулированию. Затем обсуждаются возможные подходы к разработке регулирования, позволяющего продвигать преимущества синтетического контента при одновременном снижении вреда от его использования.

В разделе I представлена актуальная информация об искусственном интеллекте, положениях Первой поправки и текущих мерах регулирования. В разделе II обсуждаются попытки регулирования с учетом Первой поправки и баланса между преимуществами и вредом синтетического контента. В разделе III автор показывает, что современные подходы к регулированию неадекватны, поэтому в будущем необходимо создать базы данных политической рекламы и использовать возможности частных субъектов для устранения существующих недостатков.

Результаты исследования

I. СОВРЕМЕННЫЙ ТЕХНОЛОГИЧЕСКИЙ И ПРАВОВОЙ СТАТУС СИНТЕТИЧЕСКИХ МЕДИА

В этом разделе дается обзор существующего правового поля, связанного с генеративным ИИ и синтетическими медиа. В части I.A рассматриваются технические основы различных форм ИИ и синтетических медиа. В части I.B проанализированы вопросы, связанные с Первой поправкой, которые усложняют принятие мер регулирования. В части I.C представлен обзор действующих мер регулирования на федеральном уровне, уровне штатов и частных субъектов.

А. Фальсифицированные медиаматериалы: до и после появления ИИ

Информационная эпоха породила новые возможности для изменения мультимедийных материалов. Изначально новые технологии давали возможность вручную редактировать исходный материал с помощью обычных программ, таких как Photoshop¹². Это привело к увеличению количества «неглубоких подделок», когда фальсификация осуществляется, например, путем изменения скорости видео или создания ложного контекста, но не изменяя содержание материала¹³. Так была создана видеозапись, на которой тогдашний спикер Палаты представителей Нэнси Пелоси выглядела пьяной во время выступления: реальное видео было замедлено, чтобы казалось, что она невнятно произносит слова¹⁴.

Создатели фальсифицированных материалов, как правило, предпочитают использовать «неглубокие подделки», учитывая более низкие технические требования и общую простоту их создания по сравнению с более продвинутыми методами манипулирования¹⁵. И хотя «неглубокие подделки» легче распознать как недостоверные, они по-прежнему широко используются¹⁶. Однако недавнее появление генеративного искусственного интеллекта может привести к отказу от таких материалов.

1. ИИ: история развития и типы

Область искусственного интеллекта, которая начала развиваться после Второй мировой войны, занимается разработкой систем, способных мыслить и/или действовать рационально или подобно человеку¹⁷. Существует «слабая» форма ИИ, когда машина выполняет определенные задачи, действуя так, как если бы она была разумной¹⁸, и «сильная», когда машина на самом деле думает¹⁹. Современные технологии используют «слабый» ИИ, т. е. обученный выполнять конкретные задачи, как если бы модель была разумной²⁰. Однако в последние годы возможности «слабой» формы ИИ расширились благодаря достижениям в области машинного обучения²¹.

Машинное обучение – это вспомогательное приложение искусственного интеллекта, которое опирается на математические модели, позволяющие системе обучаться самостоятельно²². Известно, что «традиционные модели машинного обучения требуют вмешательства человека», чтобы выйти за рамки своих первоначальных ограничений на обучение, однако новые искусственные нейронные сети теперь позволяют машинам «имитировать то, как человеческий мозг обрабатывает информацию»²³. Генеративный ИИ, который является одной из таких моделей глубокого обучения, выдает «статистически вероятные результаты» на основе набора исходных данных²⁴. Например, с помощью генеративного ИИ ChatGPT может создавать такие тексты, как эссе, краткий пересказ статьи или список мероприятий на выходные²⁵.

Генеративный ИИ также может использоваться для создания изображений, видео- и звукозаписей²⁶, которые подпадают под широкое определение «синтетических медиа»²⁷. В политических кампаниях искусственный интеллект и синтетические медиа могут использоваться для быстрого создания электронных писем по сбору средств, для расширения охвата избирателей, повышения эффективности обмена сообщениями и снижения затрат²⁸.

Однако это позитивное использование несколько отошло на второй план из-за опасений по поводу возможного обмана и манипуляций. Ученые выступают за создание регулирования в этой области, которое фокусировалось бы на результатах воздействия указанных медиа, а не на самой технологии²⁹.

2. Дипфейки

Дипфейки – это разновидность синтетических медиа, которые создаются с использованием глубокого обучения и изображают несуществовавшие события³⁰. Загрузив фотографии и записи голоса другого человека, можно создавать видео- или аудиоотрывки, которые кажутся реальными, но на самом деле полностью сфабрикованы³¹. Одним из первых примеров стало видео 2017 г., в котором президент Обама говорит об опасностях дипфейков, – это видео само по себе было дипфейком³².

Поддельные изображения и видео создаются с помощью генеративных состязательных сетей (GAN), в которых один генератор генерирует случайные изображения, в то время как другой оценивает подлинность изображения. По сути, генераторы «играют две противоборствующие роли, как правонарушитель и детектив», пока изображение не станет максимально реалистичным³³. Вводя в модель образ определенного политического кандидата и другой контекст, модель можно обучить создавать изображения, которые кажутся реалистичными, но являются полностью сфабрикованными³⁴.

Для создания видеороликов используют модель глубокого обучения с контекстом. Например, в новостях по кабельному телевидению реалистично прозвучала речь президента Гарри С. Трумэна, основанная на готовом сценарии³⁵. Аналогичным образом работает и клонирование голоса: в модель глубокого обучения вводится большое количество подлинных аудиозаписей или текста, и в результате создается реалистично звучащий аудиоклип, имитирующий голос конкретного человека³⁶. Имея большой объем данных и более совершенные технологии, можно создавать чрезвычайно реалистичный контент³⁷.

Кроме того, происходит ослабление факторов, которые ранее препятствовали широкому использованию дипфейков³⁸. В настоящее время благодаря популярным и дешевым платформам, «доступным обычным потребителям», преодолеваются такие барьеры на пути создания фальсифицированного контента, как стоимость оборудования, доступ к достаточному набору исходных данных и технические ноу-хау³⁹. Работа занимает не месяцы, а дни или часы⁴⁰. В политическом контексте доступ к достаточным массивам данных не является серьезным препятствием, поскольку кандидаты генерируют обширный общедоступный контент⁴¹. Этот рост возможностей, по-видимому, также приведет к отказу от неглубоких подделок, которые ранее были наиболее многочисленными⁴².

Итак, в будущих избирательных кампаниях для привлечения внимания общественности к политической рекламе будут широко использоваться неглубокие подделки, синтетические медиа и дипфейки. В свете этих тенденций регулирующие органы должны оценить как преимущества, так и вред таких технологий с учетом правовых ограничений⁴³.

B. Ограничения Первой поправки и рынок идей

Первая поправка представляет собой самое серьезное препятствие для регулирования использования синтетических медиа в политической рекламе. Верховный суд США неоднократно подчеркивал, что политические высказывания особо защищены конституцией⁴⁴, и в своих решениях часто отдает приоритет свободе идей в сравнении с государственным регулированием⁴⁵. Согласно теории «рынка идей», свободный, неограниченный обмен идеями является наилучшей основой для достижения истины, поэтому правительству следует поддерживать свободу слова в частной жизни⁴⁶. По словам судьи Оливера Уэнделла Холмса – младшего, «конечное желаемое благо лучше достигается при свободном обмене идеями, т. е. лучшим критерием истинности является способность идеи добиться признания в условиях рыночной конкуренции»⁴⁷.

В Верховном суде еще не рассматривались законопроекты, регулирующие использование синтетических медиа в политике; однако его позиция о приоритетности свободы политических высказываний послужила поводом для обсуждения границ регулирования, установленных Первой поправкой⁴⁸. Это касается таких аспектов, как ограничения по содержанию, допустимые искажения, вынужденные высказывания и судебная практика по маркировке рекламы⁴⁹.

Прежде всего, если закон относится только к политической рекламе, то регулирование использования синтетических медиа может быть затруднено из-за предполагаемой неконституционности⁵⁰. Это касается ограничений высказываний «на основе их коммуникативного содержания», т. е. темы, основной идеи или смыслового посыла⁵¹. Напротив, ограничения, связанные с нейтральным содержанием, «применяются независимо от содержания высказывания»⁵². Ограничения содержания, касающиеся нейтральных третьих лиц, подвергаются строгой проверке и по ее результатам часто отменяются, в то время как ограничения, направленные против политических деятелей, подвергаются пристальным проверкам⁵³.

Верховный суд обозначил критерии нейтральности контента в деле City of Austin v. Reagan National Advertising of Austin, LLC⁵⁴. Постановление суда гласит, что нейтральным по содержанию является такое регулирование, которое проводит различие в зависимости от того, размещается ли реклама на специальной площадке или за ее пределами⁵⁵. Верховный суд отменил решение Апелляционного суда США Пятого округа по делу Reed v. Town of Gilbert⁵⁶, согласно которому любое регулирование автоматически считалось основанным на содержании, если от адресата требуется лишь идентифицировать говорящего и содержание его речи⁵⁷.

Кроме того, недавно Верховный суд вынес решение по двум взаимосвязанным делам: NetChoice, LLC v. Paxton⁵⁸ и Moody v. NetChoice, LLC⁵⁹. В них рассматриваются законопроекты на уровне штата, направленные на деятельность крупных платформ социальных сетей и содержащие два общих положения: (1) запрет дискриминации на основе взглядов пользователя и (2) требование к платформе публиковать информацию о политике модерации контента⁶⁰. Оба законопроекта были приняты с целью защиты от возможной предвзятости по политическим мотивам⁶¹. Однако суд отменил рассмотрение указанных дел и вернул их на доработку на основании недостаточного учета вопросов, связанных с Первой поправкой⁶².

Во-вторых, Первая поправка, как правило, защищает право человека на ложные высказывания⁶³, поэтому законы, запрещающие использование ложных сведений в синтетических медиа, будут подвергаться более тщательному изучению⁶⁴. В деле United States v. Alvarez⁶⁵ ответчик оспорил Закон об украденной доблести⁶⁶ [Закон США, вводящий уголовную ответственность для лиц, использующих ложные или вводящие в заблуждение сведения о якобы имеющихся у них военных наградах с целью получения материальных выгод. – Прим. переводчика]. Ответчика обвинили, что на заседании местного совета он сделал ложное утверждение о получении им Почетной медали Конгресса⁶⁷. Судья Энтони М. Кеннеди постановил, что данный закон накладывает ограничение на основе содержания и что это не является необходимым для достижения цели федерального правительства по защите интересов вооруженных сил⁶⁸. Эта цель могла быть достигнута менее жесткими средствами, такими как обращение к правительственной базе данных⁶⁹. В заключение судья Кеннеди отметил, что «единственным средством борьбы с ложными высказываниями являются правдивые высказывания»⁷⁰.

Судья Алито, придерживаясь теории свободного рынка идей, указал на разницу между узким запретом ложных высказываний по некоторым общественным вопросам, таким как диффамация государственного должностного лица⁷¹, и более широкими ситуациями, такими как «ложные заявления о философии, религии, истории, социальных науках, искусстве и других вопросах»⁷². Во втором случае попытки ввести санкции в отношении таких высказываний «представляли бы серьезную и неприемлемую опасность»⁷³.

Основываясь на этом различии, другие члены суда отстаивали особое мнение о том, что указанный Закон является конституционным, поскольку он защищает «только от заведомо ложных утверждений о твердо установленных фактах, известных говорящему», и относится к узкой области государственных интересов⁷⁴. В любом случае мнения по данному делу отражают высокий уровень регулирования политических высказываний⁷⁵.

В-третьих, требования к раскрытию информации и маркировке рекламы также подвергаются повышенному контролю, хотя и интерпретируются как менее строгие, чем запреты⁷⁶. В деле Brown v. Entertainment Merchants Ass'n⁷⁷ Верховный суд постановил, что недопустимым ограничением по основанию содержания является закон штата Калифорния, запрещающий продажу видеоигр с элементами насилия несовершеннолетним и требующий, чтобы такие игры имели пометку «18+»⁷⁸. Проведя тщательную проверку, суд пришел к выводу, что цель данного закона – предотвратить агрессию у несовершеннолетних – не подкреплена достаточными доказательствами для обоснования этого ограничения⁷⁹.

Кроме того, этот закон был как чрезмерно, так и недостаточно всеобъемлющим. Первое проявлялось в том, что закон запрещал продажу игр несовершеннолетним, даже если их родители не возражали против этого⁸⁰. Второе – в том, что он не ограничивал воздействие на несовершеннолетних сцен насилия через другие средства массовой информации, такие как телевидение, а также не запрещал родителям покупать такие игры для своих детей⁸¹. Отменяя данный закон, суд дал понять, что предпочтительными являются активные действия частной игровой индустрии по маркировке продукции, а не подход, предписанный правительством⁸².

В политическом контексте судебная практика Верховного суда по обеспечению прозрачности сосредоточилась главным образом на требованиях к раскрытию источников финансирования рекламы. Своим основополагающим решением по делу Citizens United v. Federal Election Commission⁸³ суд поддержал требование помещать в политическое рекламное объявление четкий и ясно видимый текст, указывающий источник его финансирования и наличие согласия на это со стороны кандидата⁸⁴. Суд постановил, что достаточным основанием для этого служит «заинтересованность государства в предоставлении электорату информации об источниках расходов, связанных с выборами»⁸⁵, а также о «лице или группе лиц, которые выступают с заявлениями». Кроме того, эта норма оказалась менее ограничительной, чем иные, более всеобъемлющие варианты⁸⁶.

В-четвертых, трудность, связанная с Первой поправкой, заключается в том, что свобода слова интерпретируется как право высказывать или не высказывать свое мнение⁸⁷. Учитывая второе, государство не может «принуждать [...] отдельных лиц делать какие-либо высказывания»⁸⁸. В деле Zauderer v. Office of Disciplinary Counsel of Supreme Court of Ohio⁸⁹ Верховный суд оставил в силе положение штата Огайо, требующее, чтобы реклама юридических услуг с указанием ставок непредвиденных расходов раскрывала ответственность клиента по оплате расходов в случае проигрыша⁹⁰. Суд отметил, что «штаты и федеральное правительство могут предотвращать распространение коммерческой информации, которая является ложной или вводит в заблуждение… [но не вводящая в заблуждение или правдивая коммерческая информация] может быть ограничена только для обеспечения существенных государственных интересов»⁹¹.

В еще более недавнем деле National Institute of Family & Life Advocates v. Becerra⁹² Верховный суд рассматривал два закона штата Калифорния, касающихся требований об уведомлении медицинских учреждений, специализирующихся на ведении беременности. Суд пришел к выводу, что оба закона в нарушение Конституции принуждают к высказываниям⁹³. В первом случае от лицензированных медицинских учреждений требовалось информировать пациентов о бесплатных или недорогих комплексных услугах по планированию семьи⁹⁴. Суд постановил, что это требование вынужденного высказывания, поскольку истцы ставили своей целью отговорить пациенток от абортов, но были вынуждены выступать с заявлениями, предписанными государством⁹⁵. Согласно второму закону, нелицензированные учреждения, которые в основном предоставляют услуги, связанные с беременностью, должны были на своих стендах и во всех рекламных материалах размещать «разработанное правительством заявление» с указанием, что данное учреждение является нелицензированным⁹⁶. Суд постановил, что требование об уведомлении «неоправданно и чрезмерно обременительно в соответствии с решением по делу Zauderer». Поясняется, что это требование «направлено не на само заявление, а на лиц, выступающих с ним, и налагает неоправданно обременительную обязанность по раскрытию информации, что нарушает принцип свободы высказываний [нелицензированных учреждений]»⁹⁷.

Таким образом, регулирование использования синтетических медиа в политической рекламе требует тщательного рассмотрения положений Первой поправки о защите свободы слова. В зависимости от того, основано ли регулирование на запретах или направлено на принципе прозрачности, сложность соблюдения положений Первой поправки будет различной.

C. Текущий правовой ландшафт в США

В данном разделе мы рассмотрим меры по регулированию использования синтетических медиа в политической рекламе. Несмотря на многочисленные законопроекты, предложенные за эти годы, на федеральном уровне успех не был достигнут. Однако на уровне штатов и в частном секторе имеется прогресс⁹⁸. В части I.C.1 мы обсудим текущие усилия правительства по регулированию в этой сфере. В части I.C.2 представлен обзор юрисдикции федеральных агентств по регулированию синтетических медиа. В части I.C.3 мы расскажем о деятельности некоторых крупных интернет-платформ по регулированию синтетических медиа.

1. Меры регулирования на уровне штатов и на федеральном уровне

Законодательство о синтетических медиа федерального уровня и уровня штатов различается в отношении нескольких ключевых понятий: правовых определений, области действия законов, намерений законодателя, требований к раскрытию информации или маркировке рекламы, сроков, средств правовой защиты и статуса. Далее мы более подробно рассмотрим эти понятия, сравнивая предлагаемые и вступившие в силу законы и отмечая как практически всеобщие аспекты, так и существенные различия в работе регулирующих органов.

a. Определение синтетических медиа

Законодательные акты определяют синтетические медиа с учетом технологических средств их создания, а также видов воздействия, которое они оказывают на аудиторию. Как правило, синтетические медиа определяются как изображение, аудио- или видеозапись внешности, речи или поведения человека, целенаправленно созданные или обработанные с использованием искусственного интеллекта⁹⁹. В законодательных актах существуют заметные различия в отношении термина, используемого для обозначения синтетических медиа: некоторые трактуют их как «медиа, вводящие в заблуждение по существу»¹⁰⁰ или «дипфейк»¹⁰¹, другие же применяют термин «синтетические медиа» в сочетании с конкретной технологией, используемой для их создания¹⁰². Закон штата Флорида определяет такие материалы как контент, созданный с использованием генеративного искусственного интеллекта¹⁰³; для сравнения, в штате Миссисипи используется термин «оцифровка»¹⁰⁴.

Несмотря на различия в терминологии, в большинстве штатов определение синтетических медиа включает следующие аспекты: (1) разумный человек воспринимает как достоверный образ, который не является истинным, и (2) у разумного человека создается принципиально иное понимание или впечатление, чем если бы он видел или слышал оригинал¹⁰⁵.

b. Масштаб регулирования

Большинство принятых законодательных актов направлены на введение широких ограничений в области создания или распространения синтетических медиа, вводящих в заблуждение; в то же время они обеспечивают послабления для крупных платформ социальных сетей и других субъектов права¹⁰⁶. Сосредоточившись на аспектах создания и распространения этих материалов, законодатели пытаются регулировать их источник, но при этом не уделяют внимания многочисленным рискам, связанным с платформами, распространяющими синтетические медиа¹⁰⁷.

Однако ряд законов предусматривает особые случаи, когда распространяющая платформа удаляет маркировку или изменяет содержание медиа так, что становится возможным квалифицировать эти материалы как синтетические¹⁰⁸. Это означает, что онлайн-платформа становится активным рекламодателем, поскольку она участвует в изменении синтетических медиа для аудитории, а не просто распространяет оригинал¹⁰⁹.

Помимо ответственности платформ, некоторые регулирующие органы установили ответственность лиц, оплачивающих или спонсирующих распространение медиа¹¹⁰. Учитывая судебное решение по делу Citizens United и соответствующие положения федерального законодательства, эти меры еще сильнее ограничивают использование синтетических медиа в рамках прецедента, позволяющего раскрывать информацию об источниках финансирования рекламы¹¹¹.

Кроме того, законодатели предусмотрели ряд важных исключений. Во-первых, в большинстве штатов предусмотрено исключение для пародии и сатиры¹¹². Существующее законодательство четко устанавливает это исключение, и законопроекты, которые попытаются ограничить пародию и сатиру, наверняка будут отклонены. Во-вторых, некоторые штаты не устанавливают ответственность за медиа, которые традиционно считаются неглубокими подделками; вероятно, в этом отражается желание реагировать на насущные проблемы с ИИ и в то же время адаптировать законодательство к актуальной ситуации¹¹³. В-третьих, некоторые юрисдикции прямо указывают, что незаконно использовать медиа без согласия изображенного¹¹⁴, в то время как другие, по-видимому, подразумевают это, учитывая, что закон защищает «пострадавшего» кандидата¹¹⁵. Это означает, что использовать синтетические медиа по обоюдному согласию допустимо.

c. Намеренность действий

В большинстве законодательных актов для привлечения к ответственности создателя или распространителя синтетических медиа требуется наличие определенного умысла. Установление ответственности на основании намерений создателя или распространителя, как правило, включает в себя намерение нанести ущерб кандидату¹¹⁶, обмануть избирателей¹¹⁷ или повлиять на исход выборов¹¹⁸.

Это требование также было распространено на рекламу, направленную на то, чтобы удержать человека от голосования¹¹⁹, а в ряде штатов (например, в Индиане) такие ограничения широко применяются к сбору пожертвований на избирательную кампанию¹²⁰. Более того, в некоторых юрисдикциях требуется, чтобы было доказано, что создатель или распространитель знал о сфабрикованности материалов, или чтобы злой умысел был установлен по фактическим обстоятельствам дела¹²¹. Иногда ответственность устанавливается в зависимости от намеренности действий, в то время как другие юрисдикции отказались от этого подхода, но установили общую обязанность либо не распространять рекламу, содержащую синтетические медиа, либо раскрывать информацию об этом¹²².

d. Требования к раскрытию информации и маркировке

Некоторые штаты полностью запрещают использовать в рекламе синтетические материалы, вводящие в заблуждение¹²³. Однако в большинстве штатов либо достаточно маркировать такие материалы¹²⁴, либо наличие такой маркировки гарантирует убедительную защиту в суде¹²⁵.

Штаты несколько расходятся во мнениях относительно текста маркировки. В некоторых юрисдикциях требуется указать, что реклама «содержит контент, созданный с помощью искусственного интеллекта»¹²⁶; в других – что «данное изображение/аудио-/видеозапись подверглось обработке», а в некоторых случаях в конце добавляется «искусственным интеллектом»¹²⁷. В большинстве штатов требуется, чтобы заявление об отказе от ответственности было напечатано читаемым шрифтом или четко произнесено как в отношении всей рекламы, так и ее части¹²⁸. Некоторые требуют, чтобы заявление об отказе от ответственности было на каждом языке, используемом в рекламе¹²⁹. Примечательно, что в штате Флорида оговаривается, что заявления об отказе от ответственности в отношении интернет-рекламы должны быть доступны для просмотра без каких-либо дальнейших действий пользователя¹³⁰.

На федеральном уровне Закон о честной рекламе¹³¹, повторно введенный в действие в 2023 г., требует при «любой официальной интернет- или цифровой коммуникации» указывать имя того, кто оплатил сообщение, если оно распространяется с помощью средств, которые не позволяют включить всю требуемую информацию¹³². Кроме того, онлайн-платформы должны вести учетный журнал, содержащий: (1) цифровую копию политического рекламного сообщения; (2) описание аудитории, получившей рекламное сообщение, количество просмотров, а также первую и последнюю дату его показа; (3) информацию о стоимости рекламного сообщения; и (4) имя и должность политика или законодательный вопрос, которому посвящено рекламное сообщение¹³³.

e. Сроки, средства правовой защиты и правовая позиция

Прежде всего, некоторые штаты требуют, чтобы реклама распространялась не ранее чем за тридцать¹³⁴, шестьдесят¹³⁵ или девяносто¹³⁶ дней до выборов. Во-вторых, в аспекте средств правовой защиты законодательство штатов, как правило, расценивает первое нарушение как мелкое правонарушение, а последующие – как преступления разной степени тяжести. В большинстве штатов предусмотрен судебный запрет или другая мера пресечения¹³⁷. В-третьих, требования к процессуальной правоспособности различаются в разных штатах. В некоторых подать иск может любое лицо¹³⁸, в других – только пострадавший кандидат или изображенное в рекламе лицо¹³⁹. В иных штатах это может сделать генеральный прокурор или организация, представляющая интересы избирателей, которые, как предполагается, были введены в заблуждение¹⁴⁰. В большинстве юрисдикций законодательство рекомендует рассматривать такие иски в срочном порядке¹⁴¹.

2. Юрисдикция федеральных агентств

Любое федеральное законодательство должно применяться в рамках соответствующей юрисдикции. В настоящее время наиболее вероятными источниками норм, регулирующих использование синтетических медиа, являются Федеральная торговая комиссия (Federal Trade Commission, FTC), Федеральная комиссия по коммуникациям (Federal Communications Commission, FCC) и Федеральная избирательная комиссия (Federal Election Commission, FEC).

Федеральная торговая комиссия обязана предотвращать использование «недобросовестных методов конкуренции… и недобросовестных или вводящих в заблуждение действий или практик» в области коммерции¹⁴². Комиссия запрещает широковещательным телевизионным сетям дискриминационно транслировать рекламу кандидата на основании ее содержания¹⁴³, но не уполномочена регулировать политическую рекламу¹⁴⁴.

Федеральная комиссия по коммуникациям (FCC) регулирует «внешние коммерческие отношения и таковые между штатами в сфере коммуникаций»¹⁴⁵. Ее юрисдикция распространяется на политическую рекламу, но только в узком смысле – на структурный доступ для заказчиков политической рекламы у вещательных СМИ¹⁴⁶. По регламенту этой комиссии, вещательные компании обязаны вести общедоступную базу данных политической рекламы¹⁴⁷ со следующей информацией: запросы на покупку эфирного времени от имени кандидатов; запросы на покупку эфирного времени от рекламодателей выпусков, «относящихся к политическим вопросам государственной важности»; выделенное кандидатам бесплатное эфирное время¹⁴⁸. Однако данная комиссия не уполномочена проверять содержание политической рекламы перед ее выпуском, гарантировать верность публикуемых заявлений и требовать от вещателей представлять все аспекты спорных вопросов¹⁴⁹. Таким образом, акцент на структурном доступе ограничивает возможности FCC для решения проблем, связанных с синтетическим содержанием политической рекламы¹⁵⁰.

Федеральная избирательная комиссия «отвечает за администрирование и обеспечение соблюдения Федерального закона о финансировании избирательных кампаний»¹⁵¹. Ее деятельность сосредоточена на повышении прозрачности в отношении спонсоров и финансирования политической рекламы¹⁵², причем недавно эта деятельность была распространена на интернет-коммуникации¹⁵³. При выполнении своих функций комиссия не проверяет истинность каких-либо заявлений, связанных с предвыборной кампанией¹⁵⁴.

Недавно сторонники регулирования синтетических медиа попытались распространить запретительные меры FEC, касающиеся мошеннического искажения информации, на дипфейки¹⁵⁵. Согласно действующему законодательству, кандидатам на должности федерального уровня и их доверенным лицам запрещается обманным путем представлять себя в ложном свете как действующих в любом качестве от имени другого кандидата или партии, нанося ущерб репутации последних¹⁵⁶. Пока неясно, будет ли это регулирование распространяться на изображения или видео, созданные с помощью искусственного интеллекта, наряду с искажением информации самими кандидатами¹⁵⁷. Кроме того, эта норма «не распространяется на действия третьих лиц», т. е. независимые политические группы или другие организации могут распространять подобный контент, не нарушая закон¹⁵⁸.

Однако некоммерческая организация Public Citizen, занимающаяся защитой прав потребителей, обратилась в FEC с просьбой разъяснить Закон о борьбе с мошенническим введением в заблуждение и его применимость к использованию искусственного интеллекта в политической рекламе¹⁵⁹. Это обращение более узкое, чем требование Закона о маркировке политической рекламы, основанной на ИИ (Require the Exposure of AI-Led Political Advertisements Act, REAL)¹⁶⁰, поскольку последний применим к любому контенту в политической рекламе, созданному искусственным интеллектом¹⁶¹, в то время как обращение относится лишь к потенциальной ответственности за отсутствие в рекламе маркировки об использовании ИИ¹⁶². Общественность в целом поддержала расширенное толкование¹⁶³, но даже если FEC примет его, данная норма будет касаться только тех сообщений в пределах юрисдикции комиссии, которые приравниваются к мошенничеству¹⁶⁴.

3. Частные интернет-платформы

Частные субъекты также стремятся заполнить пробелы в законодательстве; этот процесс формирует направления развития регулирования и сдерживает влияние государства. В 2023 г. администрации Байдена удалось добиться того, что ведущие компании, занимающиеся разработкой ИИ, приняли на себя добровольные обязательства по управлению рисками в области новых технологий. В их числе было обязательство «разработать надежные технические механизмы, показывающие пользователям, что контент был создан с помощью ИИ»¹⁶⁵.

В сентябре 2023 г. компания Google заявила, что обновляет свою «политику в отношении политического контента и требует, чтобы все зарегистрированные заказчики предвыборной рекламы… открыто сообщали, что их реклама содержит синтетический контент, который недостоверно изображает реальных или реалистично выглядящих людей или события»¹⁶⁶. Исключение делается для рекламы, в которой синтетический контент изменен незначительно¹⁶⁷.

В апреле 2023 г. платформа X, ранее известная как Twitter*, объявила, что отменяет запрет Google на размещение политической рекламы¹⁶⁸. При этом платформа запрещает размещать «синтетические, искаженные или вырванные из контекста материалы, которые могут вводить в заблуждение и приводить к причинению вреда»¹⁶⁹. Вводящие в заблуждение материалы определяются как контент, который «был значительно изменен с целью обмана, подвергнут искажениям, или сфабрикован», или распространяется с целью обмана и который «может привести к широкой дезориентации в общественных вопросах, влияет на общественную безопасность или причиняет серьезный вред»¹⁷⁰. Нарушения влекут за собой следующие меры: удаление публикации; надписи, содержащие предупреждение, дополнительный контекст или уведомление об ограничении взаимодействия в связи с публикацией; блокировка аккаунта¹⁷¹.

Итак, различные подходы к регулированию на федеральном уровне, уровне штатов и частных субъектов свидетельствуют о попытках сбалансировать преимущества и недостатки синтетических медиа в свете быстро меняющегося рынка идей. Результатом этих усилий стала дискуссия о том, какой подход лучше всего позволяет сбалансировать выгоды и вред с учетом юридических и практических ограничений.

II. ПРОБЛЕМЫ БАЛАНСА МЕЖДУ ПРЕИМУЩЕСТВАМИ И ВРЕДОМ СИНТЕТИЧЕСКИХ МЕДИА С ТОЧКИ ЗРЕНИЯ ПЕРВОЙ ПОПРАВКИ

В последнее время большая доступность синтетических медиа в сочетании с современными дискуссиями о «фейковых новостях» привела к тому, что внимание регулирующих органов перешло на политическую арену. В нашем исследовании мы попытались рассмотреть баланс между преимуществами технологий и вредом, наносимым ими¹⁷². В части II.A описаны некоторые преимущества синтетических медиа. В части II.В рассматриваются некоторые из их негативных последствий. В части II.C представлен обзор текущих предложений ученых в области регулирования.

A. Преимущества синтетических медиа

Синтетические медиа дают ряд преимуществ кампаниям и кандидатам. Во-первых, они сокращают расходы на политические кампании за счет использования синтетических медиа на всех этапах – от предвыборных плакатов до рекламных видеороликов¹⁷³. В ходе крупных кампаний политики пользуются услугами рекламных агентств; синтетические медиа снижают затраты за счет сокращения человеческого труда¹⁷⁴. Кроме того, значительная часть расходов в рамках кампаний приходится на оплату за размещение рекламы на телевидении или в социальных сетях; снижение затрат на создание контента позволяет перенаправлять средства на привлечение избирателей¹⁷⁵.

Во-вторых, можно более эффективно реагировать на мнения и проблемы избирателей в режиме реального времени¹⁷⁶. Можно быстро создавать выступления, отражающие позицию кандидата по конкретному вопросу¹⁷⁷. Например, в выпуске новостей кандидат реагирует на вирусное видео о жестокости полиции или другое актуальное событие. С помощью синтетических медиа видеоролик может быть создан в течение нескольких часов и дойти до избирателей, пока проблема еще находится в центре внимания¹⁷⁸. Спичрайтер может быстро сгенерировать речь, отредактировать ее, а затем загрузить в систему для имитации голоса кандидата¹⁷⁹.

В-третьих, синтетические медиа позволяют точнее адаптировать рекламные кампании к определенной демографической ситуации, что приводит к повышению осведомленности избирателей и улучшению явки¹⁸⁰. Эти преимущества также снижают разницу в ресурсах, что приносит пользу более мелким кандидатам и может помочь решению проблем, которые часто отодвигаются на второй план из-за недостатка бюджета кампании¹⁸¹. Если перейти на более высокий уровень обобщения, с помощью синтетических медиа можно устанавливать непосредственный контакт с избирателями и получать информацию о взглядах отдельного избирателя на кандидата или обсуждаемую проблему¹⁸².

B. Недостатки синтетических медиа

Хотя синтетические медиа имеют полезные применения, эта технология сопряжена с множеством рисков¹⁸³. Во-первых, распространение реалистичных фальшивок наносит ущерб демократическому дискурсу в целом, «позволяя людям жить в их собственной субъективной реальности», стирая грань между истиной и ложью¹⁸⁴. Когда избиратели больше не способны прийти к согласию по основным фактам, страдает демократический дискурс, так что неспособность договориться об основных параметрах спора исключает возможность политической дискуссии по существу¹⁸⁵.

Во-вторых, распространение дипфейков повышает восприимчивость определенных групп избирателей к манипуляциям¹⁸⁶. Хотя политический дискурс и ранее сталкивался с ложью, дипфейки представляют собой уникальную проблему, поскольку они кажутся реалистичными и их труднее разоблачить¹⁸⁷. В отношении выборов такая манипуляция вызывает опасения как в аспекте сроков, так и масштабов. Своевременно появившаяся фальшивка оказывает значительное влияние на избирателей в условиях «узкого временного окна, когда принимаются необратимые решения», например, накануне выборов¹⁸⁸.

Что касается масштабов, то успешная фокусировка по группам избирателей оказывается важнее широты распространения дипфейка. Например, с помощью микротаргетинга хорошо профинансированная и стратегически продуманная кампания может донести информацию до отдельных слоев населения, тогда как конкуренту трудно идентифицировать эти действия и противостоять им¹⁸⁹. Кроме того, доступ к большим объемам данных позволяет некоторым субъектам создавать точные профили избирателей для проведения политических кампаний и создания рекламы¹⁹⁰. Это с очевидностью показал скандал с компанией Cambridge Analytica, которая использовала данные из пятидесяти миллионов профилей в Facebook**, чтобы «предсказать выбор избирателей и повлиять на него»¹⁹¹.

Искажение принципов демократии и манипулирование избирателями приводят к более серьезному ущербу, который наносят синтетические медиа в отсутствие контроля. Например, дипфейки подрывают доверие к государственным и частным институтам¹⁹². Американская общественность уже на собственном опыте убедилась в том, что реальные новости называют «фейковыми новостями», заставляя избирателей менять свое привычное отношение к СМИ¹⁹³. Поддельная запись, на которой юристы планируют организовать судебное преследование по политическим мотивам, вызовет недоверие к Министерству юстиции, что, в свою очередь, подорвет доверие к судебной системе¹⁹⁴.

Все это усиливает раскол в обществе. Повышенное внимание к политике идентичности делает общественность более восприимчивой к фальсификациям и более склонной заклеймить мнение другой стороны. Такое положение может перерасти в реальную конфронтацию¹⁹⁵. Социальные разногласия, а также гнев или недоверие к другой стороне – не новые явления, однако дипфейки усугубляют эти разногласия¹⁹⁶. Вероятно, вред от фальшивок будет только усиливаться, например, в области общественной безопасности, дипломатии, национальной безопасности и новостной журналистики¹⁹⁷.

Представляется разумным обратить особое внимание на вред синтетических медиа в политической рекламе, учитывая огромный потенциал для злоупотреблений в этой области. Однако при выработке регулирования технологий лучше проявить тщательность, чем излишнюю поспешность.

C. Проблема регулирования синтетических медиа в сфере политики

Понимание преимуществ и вреда синтетических медиа привело к появлению нормативных актов, которые в разной степени учитывают эти аспекты. С одной стороны, синтетические медиа могут быть чрезвычайно вредны для демократии, так как искажают проблемы и манипулируют избирателями, заставляя их верить в сфабрикованную реальность¹⁹⁸. С другой – они могут дать уникальные преимущества, обогащая демократический дискурс, передавая абстрактные идеи в доступной форме и повышая осведомленность граждан¹⁹⁹. Таким образом, регулирование в целом направлено либо на запрет только вредных материалов²⁰⁰, либо на маркировку всех синтетических медиа²⁰¹. В части II.C.1 мы рассмотрим три различные концепции, которые иллюстрируют современные подходы к регулированию синтетических медиа. В части II.C.2 приведены аргументы в пользу узких запретительных мер, а в части II.C.3 – аргументы в пользу прозрачности в регулировании.

1. Подходы к регулированию на основе характеристик синтетических медиа

Польза и вред от применения синтетических материалов демонстрируют, что эту технологию можно использовать как для создания художественных произведений, так и с целью мошенничества²⁰². Во-первых, синтетические медиа можно рассматривать как создание сфабрикованных реальностей, внутри которых они имитируют «средства нашего восприятия, но затем передают им ложную информацию о мире, заставляя нас видеть то, что не существует»²⁰³. Во-вторых, синтетические медиа можно рассматривать как продукты творчества, открывающие доступ к «ярким вымышленным мирам» – во многом таким же образом, как в прошлом использовались изустные рассказы, книги и фильмы²⁰⁴. В-третьих, сочетая два предыдущих аспекта, синтетические медиа могут рассматриваться как ложные показания, которые «представляют собой вымысел», но преподносятся «как точные факты»²⁰⁵.

Эти три подхода отражают важную проблему современности, а именно ограниченную возможность проверить факты с помощью внешних источников²⁰⁶. Политический процесс происходит в среде, где избиратель оценивает различные аргументы, основываясь, в частности, на связи этих аргументов с реальностью, которую он ощущает²⁰⁷. Там, где избиратели не имеют непосредственной связи с первичными источниками, они вынуждены полагаться на вторичные источники для оценки обоснованности предъявляемых им утверждений²⁰⁸. В контексте синтетических медиа вторичные источники необходимо дополнительно оценить с точки зрения достоверности, что может быть затруднено в синтетической среде, подверженной влиянию ботов²⁰⁹. Если «более точная информация… [должна] противодействовать ложной», то эта информация должна быть доступна²¹⁰. Таким образом, внутри сфабрикованной экосистемы приходится обеспечивать доступ к точной информации либо путем запрета наиболее вредоносных форм фальсификации, либо с помощью информирования о том, что определенный контент является сфабрикованным²¹¹.

Действующие законы и предлагаемые законодательные акты отражают решения, в которых каждому из трех определений придается различный вес. Например, закон штата Техас полностью фокусируется на концепции ложной информации, определяя синтетические медиа исключительно как поддельные видеоматериалы, «созданные с намерением ввести в заблуждение […]»²¹². В штате Вашингтон придерживаются несколько иного подхода. Хотя в первом пункте определения используются формулировки, аналогичные техасским, закон этого штата также предусматривает, что синтетические медиа должны «вызывать у разумного человека принципиально иное понимание или впечатление о выразительном содержании», чем если бы он видел оригинальные, неизмененные материалы²¹³.

Законодательство некоторых штатов делает оговорку в отношении синтетических медиа, которые непосредственно раскрывают свое содержание. Тем самым пользователи получают более широкий доступ к вымышленному миру при минимизации ущерба²¹⁴. Наконец, в таких документах, как проект Закона о политической рекламе (REAL) и законодательство штата Висконсин, на первый план выдвигается идея вымышленной реальности. Они требуют, чтобы вся политическая реклама включала раскрытие информации о ее создании²¹⁵.

Кроме того, в некоторых юрисдикциях данное деяние квалифицируется как манипулирование синтетическими медиа с намерением нанести вред кандидату или повлиять на выборы, т. е. делается акцент на идее ложных показаний²¹⁶. В других юрисдикциях, напротив, для наступления ответственности не требуется, чтобы медиа были созданы с каким-либо конкретным намерением²¹⁷. Эти подходы нашли отражение в текущей научной дискуссии в отношении регулирования.

2. Запретительные меры

Один из подходов к регулированию заключается в том, чтобы ввести строгий запрет на особо вредные дипфейки, которые представляют наибольший риск срыва выборов и политического процесса²¹⁸. Наиболее отчетливо этот подход выражают законы о дипфейках, действующие в штатах Миннесота и Техас.

В рамках такого подхода запрет является, прежде всего, практичным и узконаправленным. Он распространяется только на синтетические медиа, созданные злонамеренно или опубликованные с намерением нанести вред кандидату или повлиять на выборы²¹⁹. Запреты в основном касаются кандидатов, поскольку это лучше согласуется с традиционными ограничениями таких действий, как диффамация или мошенничество²²⁰. Преимущество такой узкой направленности заключается в устранении явного ущерба, наносимого кандидату или выборам, и в то же время оставляет место для развития новых технологий²²¹.

Во-вторых, узконаправленный запрет работает в рамках защиты, предусмотренной Первой поправкой. Например, профессор Ребекка Грин предлагает полностью запретить использование контрафактных материалов с участием кандидата на политический пост²²². Это предложение предусматривает уголовную ответственность за создание и распространение синтетических медиа, предназначенных для «обмана избирателей и искажения избирательного процесса», в течение определенного количества дней до выборов, за исключением материалов, «четко обозначенных как поддельные»²²³. Профессор утверждает, что такой запрет выдержит проверку на конституционность²²⁴, если понимать дипфейки как «заведомое мошенничество», а не как «заурядную ложь политиков»²²⁵. По ее мнению, криминализация подделок как мошенничества дает возможность преодолеть барьеры, установленные Первой поправкой²²⁶. Законы штатов уже отражают эти запретительные подходы, и федеральное правительство также может принять соответствующее требование через FEC²²⁷. Это более узкий подход, который защищает от самых серьезных опасностей, в то же время разрешая использование синтетических медиаматериалов²²⁸.

Однако недостаточно узконаправленный закон вновь приведет к ограничениям в рамках Первой поправки²²⁹. Несомненно, закон, регулирующий использование ложных материалов, отвечает таким значимым интересам общества, как обеспечение доступа к достоверной информации и определение ее ценности²³⁰. Однако при непосредственном применении нормативных актов возникают серьезные проблемы²³¹. Среди них трудности определения правдивой информации, риски дискриминации по идеологическим мотивам и манипулирования со стороны государства²³².

Профессор Ричард Л. Хейзен приводит в качестве примера запрет на дипфейки в законе штата Калифорния. Он утверждает, что положения закона настолько расплывчаты и чрезмерно широки, что входят в противоречие с Первой поправкой²³³. Таким образом, запретительный подход имеет право на существование, но он очень узок. В условиях его применения научная мысль и судебная практика используют также принцип прозрачности. Тем самым возможно ограничить запретительные меры или полностью избежать их.

3. Прозрачность

Альтернативный подход к регулированию основан на прозрачности, которая реализуется путем раскрытия информации либо в соответствии с требованиями государства, либо частным образом²³⁴. Законы и нормативные предложения, способствующие прозрачности, бывают двух форм. Ряд законов, направленных против вредоносных дипфейков, требует, чтобы в рекламе содержалась информация об использовании синтетических медиаматериалов²³⁵. Другие (например, предлагаемый Закон о политической рекламе) требуют наличия такой информации, но не запрещают синтетические медиа²³⁶.

Требования к прозрачности дают три основных преимущества. Во-первых, законы, содержащие требование прозрачности, «не устанавливают, какие высказывания следует считать допустимыми». Таким образом, они позволяют избежать многих проблем, связанных с Первой поправкой, которая устанавливает недопустимость ограничений на основе содержания²³⁷. Во-вторых, принцип прозрачности способствует повышению ответственности создателей и распространителей рекламы в отношении содержания ложной и вводящей в заблуждение информации²³⁸. В-третьих, если закон требует собирать и раскрывать информацию о спонсорах и распространителях политической рекламы, то это побуждает сторонние платформы (например, операторов социальных сетей) предотвращать их злонамеренное использование через средства самоанализа и подотчетности²³⁹. Однако жесткие требования к ведению документации и раскрытию информации частными субъектами, устанавливаемые законами о прозрачности, можно оспорить, если они не являются достаточно узконаправленными²⁴⁰.

Один из подходов к законам о прозрачности требует, чтобы платформы социальных сетей и другие крупные веб-сайты помечали синтетический медиаконтент в рекламе или видеоролики как «измененные»²⁴¹. Это относится к любым синтетическим медиа, а не только к политическим материалам, но, по-видимому, основной целью является защита выборного процесса²⁴². Сторонник этого подхода профессор Хасен считает, что проблема синтетических медиа неизбежна в современную «эпоху постправды» и что это создает угрозу демократии, поскольку избиратели не имеют «достаточного доступа к истинной информации через надежные источники и посредников», а значит, не могут принимать обоснованные решения²⁴³.

В контексте выборов дезинформация и искусственные медиа представляют угрозу, когда поток правдоподобной фальшивой информации подрывает законный информационный рынок, или, проще говоря, когда «плохая информация вытесняет хорошую»²⁴⁴. Более того, поток вводящих в заблуждение или откровенно ложных синтетических медиаматериалов снижает вероятность того, что какие-либо медиа будут считаться подлинными, а это облегчает отрицание истины²⁴⁵.

Чтобы пройти проверку на конституционность, требование о широкой маркировке должно отвечать «заинтересованности правительства в предотвращении… обмана избирателей», а также решить проблемы рынка по выявлению подлинного контента²⁴⁶. Профессор Хасен утверждает, что нейтральность требования о маркировке позволит избежать проблемы выявления правдивой информации, поскольку маркироваться будут все измененные медиа²⁴⁷. Кроме того, это позволит решить проблему с вынужденной речью, поскольку синтетический контент является чисто фактическим определением, которое Верховный суд подтвердил в деле Becerra в отношении коммерческого использования²⁴⁸. Профессор Хасен предлагает обязать веб-сайты указывать «объективно проверяемые» изменения, что позволит избежать дискриминации при применении этого закона²⁴⁹.

Другие ученые, однако, выражают сомнение в том, что коммерческий подход профессора Хасена, основанный на решении по делу Alvarez, возобладает²⁵⁰. Альтернативный вариант дает возможность широкого регулирования дипфейков при условии проведения промежуточной проверки и соблюдения нейтральности²⁵¹. Этот подход основан на понимании дипфейков как бездоказательной лжи или материалов, отражающих сфабрикованную реальность, а также как фальсификации источника информации, чтобы выдать ее за истинную²⁵². Такое определение дипфейков предлагает профессор Марк Джонатан Блитц. Он также утверждает, что сфабрикованная реальность может быть защищена законом, как и ложные высказывания в деле Alvarez, но концепция фальсифицированных источников информации предоставляет государству больше возможностей для введения регулирования, не затрагивающего публикуемые взгляды и содержание²⁵³.

Согласно другому предложенному подходу, политическая реклама должна проходить оценку уполномоченным специалистом²⁵⁴. Предполагается, что такие частные оценщики, утверждаемые двухпартийным комитетом Конгресса, «разработают различные градации рекламы»²⁵⁵. Эти рейтинги политической рекламы, а также новостных и публицистических передач будут отображаться на экране, как цветовая маркировка уровней здоровья, размещаемая на витринах ресторанов²⁵⁶. Такой подход открывает новые возможности для регулирования, хотя, вероятно, и связан с проблемами определения достоверности информации, а также с проблемой ограничения по содержанию, как в деле Brown²⁵⁷.

Наконец, предметом широкого обсуждения становится прозрачность в отношении источников политической рекламы, особенно в связи с делом Citizens United²⁵⁸. При обсуждении дела NetChoice и проекта Закона о честной рекламе²⁵⁹ затрагивался вопрос о хранении политических текстов, размещаемых в Интернете²⁶⁰. Предлагается создать репозиторий, который будет содержать сами тексты, а также информацию о стоимости рекламы, кандидате или политической проблеме, к которым она относится, и охвате аудитории²⁶¹. Регулирование через положения о раскрытии информации о финансировании рекламных кампаний и отказе от ответственности проходит проверку на конституционность, поскольку «не является запретом или ограничением»²⁶². Однако размещать в таких репозиториях синтетические медиа не предполагается.

III. НЕОБХОДИМОСТЬ ПРОЗРАЧНОСТИ В РЕГУЛИРОВАНИИ

Политическая реклама со всеми сопутствующими манипулятивными и вводящими в заблуждение практиками не является чем-то новым²⁶³. Политики делают ложные или вводящие в заблуждение заявления в рамках Первой поправки²⁶⁴. В свою очередь, избиратели должны оценивать достоверность такой рекламы и источника, сравнивая их со своим восприятием реальности и политической позицией²⁶⁵.

Этот хрупкий баланс между влиятельными лицами и теми, кто находится под их влиянием, исторически оставался неизменным: журналисты и оппозиционные группы выступали посредниками в обсуждении и вмешивались, когда что-то не складывалось. Баланс был неидеальным, но он был прочно укоренен в системе, где противоречивые заявления конкурирующих кандидатов должны были соответствовать реальному опыту избирателя, чтобы достичь своей цели²⁶⁶.

Однако теперь избирателям приходится сталкиваться со сфабрикованными видео- или аудиовыступлениями политиков, которые кажутся абсолютно реальными. Проверка подлинности вторичного источника требует дополнительного анализа. Если раньше гражданин мог доверять (со здоровым уровнем скептицизма) вторичным материалам, основанным на неких источниках, то распространение и потребление сфабрикованного, гиперреалистичного контента подталкивает избирателей к нездоровому уровню скептицизма по поводу политических заявлений. Если добавить к этому современную медийную среду, иностранные влияния, Интернет под управлением ботов и глубоко партийную ориентацию СМИ, то сфабрикованный контент становится новой серьезной проблемой в политике.

Это новая проблема, поскольку технология является новой, но разработка регулирования для этой проблемы не обязательно должна начинаться с нуля²⁶⁷. Хотя частный сектор может оказать поддержку в идентификации синтетических медиа, эту сферу должно регулировать государство. Лишь таким образом можно обеспечить достаточное руководство предвыборными кампаниями и электоратом в условиях существующего разнообразия в законодательстве. Запретительные меры полезны в краткосрочной перспективе, но установление требований к прозрачности – это более верный способ решения проблем в свете будущего развития технологий. Следующий шаг в обеспечении прозрачности должен заключаться в создании хранилища политической рекламы с информацией о синтетическом контенте. Такой подход подтвердил бы важность аутентичности вторичных источников при использовании правовых средств, предложенных в решениях по делам Citizens United и Alvarez.

Далее в части III.A мы рассмотрим проблемы, которые делают запретительный подход нежелательным. В части III.B обоснован подход с точки зрения прозрачности и описаны проблемы, связанные с требованием маркировки. В части III.C предлагается смешанный подход, т. е. использование государственного хранилища рекламы в сочетании с регулированием частного сектора и обучающими программами.

A. Проблемы запретительных мер

Запретительные меры направлены на устранение непосредственного вреда от дипфейков, но не являются долгосрочным решением. В настоящее время избиратели могут не знать о том, что изображение кандидата подверглось изменениям, а кандидаты могут быть не в состоянии распознать фейковый контент и отреагировать на него за несколько дней до выборов²⁶⁸. Таким образом, запреты обеспечивают достаточно жесткую защиту против манипулирования избирателями. Тем самым избиратели получают доступ к политической рекламе, но мошенничество в этой сфере остается незаконным²⁶⁹. Однако запретов недостаточно для предотвращения ущерба в будущем. Кроме того, такой подход менее предпочтителен, чем система, сочетающая прозрачность со средствами сдерживания, поскольку она способствует автономии избирателей²⁷⁰.

Проблема с запретительными мерами в том, что они слишком завязаны на масштабировании. Что касается потребителей, то запрет отдельных рекламных роликов не решает более важную проблему избирателей, которые уже настроены скептически. Тем самым возникает риск усилить поляризацию вместо расширения доступа к информации²⁷¹. Запрет может защитить от конкретных манипуляций, но он не дает избирателю инструментов для выявления фейков в тех случаях, когда запреты неприменимы²⁷². Что же касается создателей и распространителей рекламы, то запреты по основанию намерения трудно реализовать, особенно в тех случаях, когда меры нужно принимать оперативно²⁷³. Кроме того, запреты станут ненужными, а привлекать рекламодателей к ответственности не понадобится, если избиратели смогут с легкостью идентифицировать материалы как поддельные²⁷⁴.

Вероятно, действующие законы штатов используют достаточное юридическое обоснование, адаптируя понятия клеветы и мошенничества к новым технологиям²⁷⁵. Однако эти традиционные нормы налагают слишком большие ограничения, и существующие запреты не соответствуют реалиям растущей экосистемы синтетических медиа²⁷⁶. Более того, такие средства правовой защиты, как судебный запрет, могут оказаться неконституционными независимо от степени ограничений²⁷⁷.

B. Прозрачность как предпочтительный подход

Законы о прозрачности обеспечивают более эффективный подход к регулированию, чем запретительные меры²⁷⁸. Использование новых технологий требует признать реальность синтетического контента и выработать инструменты для навигации по новой экосистеме²⁷⁹. В долгосрочной перспективе проблема, скорее всего, будет заключаться не в одном дипфейке, влияющем на выборы, а в целых экосистемах фальсифицированного контента²⁸⁰. Требования к маркировке – это шаг в правильном направлении²⁸¹, но его недостаточно, чтобы соответствовать текущему моменту.

1. Проблемы требований к маркировке

На практике маркировка измененной политической рекламы вряд ли будет достаточным долгосрочным решением по трем причинам. Во-первых, в ней невозможно подробно указать, что и в какой степени изменено²⁸². Например, синтетическое изображение президента Байдена, произносящего речь в течение пяти секунд в двухминутном видеоролике с реальными событиями, будет помечено как «измененное», как и двухминутный полностью синтетический видеоролик²⁸³. Это лишь усугубит «кризис правды и доверия», когда пометка об изменениях теряется на фоне массового использования синтетических медиаматериалов²⁸⁴.

Во-вторых, маркировка не коснется появления рекламы в новых медиа²⁸⁵. Появятся более тонкие формы политической рекламы; например, заказчик заплатит компании, занимающейся созданием видеоигр или виртуальной реальности, за включение положительного неигрового персонажа, похожего на политического кандидата и вызывающего большое доверие²⁸⁶.

Третьей серьезной проблемой, которую государственное регулирование вряд ли решит в полной мере, является частная политическая реклама. Хотя FEC обладает юрисдикцией в отношении некоторых форм онлайн-рекламы²⁸⁷, общественность вынуждена полагаться на частные компании, чтобы заполнить пробелы в юрисдикции²⁸⁸. При этом маркировка может появиться на одной частной платформе, но не появиться на другой; содержание маркировки может отличаться; у компании может не быть адекватных технологий для реализации своей политики²⁸⁹. Эти проблемы свидетельствуют о том, что достижение большей прозрачности ограничено, поскольку маркировка не предоставляет достаточной информации и не охватывает более широкий спектр технологий для эффективного информирования избирателей.

Помимо этих практических трудностей, требования к маркировке сталкиваются с юридическими препятствиями. Хотя широкое использование маркировки, скорее всего, не будет противоречить требованию нейтральности мнений²⁹⁰, регулирование конкретно политической рекламы будет иметь ограничения по содержанию²⁹¹. Что касается политических высказываний, то общее требование о маркировке всей рекламы, содержащей синтетические медиаматериалы, будет зависеть от содержания, поскольку оно дискриминирует политическую речь, в то время как коммерческая и иная реклама остается в стороне²⁹². Таким образом, жизнеспособное законодательство должно удовлетворять требованиям либо строгой проверки на конституционность, если оно узко направлено на политическую рекламу, либо обычной проверки, если оно распространяется на более широкий круг лиц²⁹³.

Государство должно отстаивать свои интересы в регулировании этой сферы. Во-первых, существует настоятельная заинтересованность в том, чтобы избиратели имели достаточный доступ к информации, позволяющей определить, от кого исходит сообщение²⁹⁴. Во-вторых, существует ощутимая угроза демократии, поскольку синтетические медиа, особенно вредные их разновидности, доминируют в эфире во время выборов и перед ними²⁹⁵. Это оправдывает действия по защите электората от манипуляций или искажения информации о кандидатах, но затрудняет распространение рекламы общего характера из-за большей сложности последней²⁹⁶. В-третьих, государство заинтересовано в «поддержке честных выборов»²⁹⁷.

Однако для адекватного решения проблемы требования к маркировке могут оказаться недостаточно узконаправленными. Регулирование всех политических синтетических медиа является чрезмерно жесткой мерой, тогда как более узкий подход позволил бы уменьшить вред, не накладывая на всю рекламу обременительных ограничений²⁹⁸. И все же одна только маркировка вредных синтетических медиаматериалов может быть недостаточной, если конкретный вред, такой как мошенничество или диффамация, происходит от форм рекламы, не предусматривающих необходимого уровня ответственности или использующих другие медиа²⁹⁹. Более того, регулирование только злонамеренных изображений кандидата не коснулось бы, например, референдумов избирателей³⁰⁰ или фальсификации результатов голосования. С такими ситуациями можно было бы справиться с помощью расширенного регулирования, включающего также тематическую рекламу³⁰¹.

Другая проблема заключается в запрете на вынужденные высказывания: рекламодатели должны будут включить в рекламу текст уведомления, которого в противном случае они не включили бы³⁰². В решении суда по делу Becerra отмечается, что государство может требовать раскрытия «исключительно фактической и не вызывающей споров информации», но также подчеркивается, что это требование относится лишь к коммерческой рекламе³⁰³. Таким образом, хотя маркировка указывает только на не вызывающий споров факт (подвергались ли изменениям рекламные материалы), однако обязательное использование маркировки о присутствии синтетических медиа в политической рекламе является спорным в отношении запрета на вынужденные высказывания³⁰⁴.

Наконец, обязательное использование маркировки может быть истолковано как нарушение права на анонимность в политических выступлениях³⁰⁵. При достаточно быстром развитии технологий³⁰⁶ искусственный интеллект может быть включен в сферу защиты свободы слова³⁰⁷. Уже сейчас гражданин может отстаивать свою политическую позицию в Интернете, обучая модель выявлять конкретные проблемы и реагировать на них, продвигать благоприятный контент, создавать и распространять контрматериалы³⁰⁸. Будут ли такие политические выступления подпадать под законы о защите свободы слова? Обязан ли человек, стоящий за такой моделью, раскрывать свою личность? Будет ли позволено сильному ИИ, отстаивающему ту или иную политическую позицию, сохранять анонимность?³⁰⁹

Подводя итог, можно утверждать, что требования маркировки более целесообразны, чем запретительный подход, но обязательное раскрытие информации не обеспечивает такой же защиты в сфере политической рекламы, как в сфере коммерческой³¹⁰.

2. Обеспечение прозрачности через Федеральную избирательную комиссию и частных субъектов

Чтобы запретительные меры были эффективными, требуется власть государства, однако требования прозрачности лежат на границе между государственным и частным регулированием³¹¹. Любое требование о прозрачности, установленное правительством, касается различных платформ, размещающих политическую рекламу, поэтому сотрудничество с частным сектором необходимо³¹². Как отражено в ряде законопроектов федерального уровня³¹³, если Конгрессу удастся увязать требования к раскрытию информации о синтетических медиа с соображениями финансирования, то FEC сможет решить эту проблему³¹⁴. Законодательство должно сосредоточиться на проблеме обоснования достоверности источника информации, не касаясь содержания высказываний³¹⁵. Кроме того, веским аргументом в пользу регулирования FEC является расширение понятия «публичная коммуникация»³¹⁶.

Тем не менее общепризнано, что юрисдикция FEC узка и распространяется только на рекламу с участием кандидатов, распространяемую в течение шестидесяти дней перед выборами³¹⁷. Звучали предложения расширить требования к онлайн-платформам, однако решение Верховного суда о повторном рассмотрении дела NetChoice оставляет открытым вопрос о том, являются ли эти предложения жизнеспособными³¹⁸. Если основой регулирования станет добровольное сотрудничество, то усилия частных субъектов позволят избежать ограничений, связанных с Первой поправкой³¹⁹.

Кроме того, рыночное регулирование имеет два преимущества. Во-первых, зарождающийся сектор синтетических медиа быстро развивается и неизбежно будет продолжать развиваться в дальнейшем³²⁰. Во-вторых, рынок уже продемонстрировал, что он готов и способен маркировать использование синтетических материалов³²¹. Хотя технологический сектор в некоторой степени уже требовал обеспечить регулирование потенциальной ответственности³²², было бы разумно отложить его создание, пока отрасль не разовьется в достаточной степени.

Тем не менее частному регулированию потребуется руководство, о чем свидетельствует существующая разрозненность политических мер³²³. В идеале частные платформы могли бы работать сообща; примером может служить требование к маркировке в индустрии видеоигр, рассмотренное в деле Brown³²⁴. В конечном счете «ни федеральное правительство, ни правительства штатов не могут просто законодательно запретить дезинформацию во время выборов»; скорее законодательство должно быть частью «всеобъемлющей стратегии», включая ту важную роль, которую играют онлайн-платформы³²⁵.

C. База данных рекламных материалов: дополнительное средство обеспечения прозрачности

Разнообразие синтетических медиа на политической арене ясно показывает, что любое регулирование может быть чрезмерно широким, если оно осуществляется без учета различных вариантов использования, и слишком узким при неадекватной оценке вреда³²⁶. С учетом ограничения Первой поправки альтернативный подход заключается в том, чтобы регулировать деятельность создателей политической рекламы в пределах юрисдикции FEC, увязав между собой аспекты маркировки синтетического контента в политической рекламе и расходов на рекламу³²⁷. Это требование коснется не многих выступлений в Сети, а Верховный суд вряд ли поддержит закон, требующий от крупных онлайн-медиаплатформ маркировать синтетические медиа. Поэтому в настоящее время лучшим способом восполнить этот пробел является создание частного надзорного органа под контролем государства³²⁸.

Со своей стороны FEC должен создать репозиторий политической рекламы, где хранилась бы информация о том, содержит ли реклама синтетические материалы³²⁹. Такой подход позволит избежать проблем, связанных с запретительными мерами, и в то же время решит проблемы, связанные с требованиями к маркировке. В последние годы были предложены различные варианты организации хранилища или базы данных; например, такие предложения можно найти в деле Alvarez³³⁰, в Законе о честной рекламе³³¹ и в научной литературе³³².

Несомненно, создание такого репозитория столкнется с проблемами. Во-первых, как отмечалось выше, база данных при FEC охватит лишь меньшую часть политической рекламы³³³. Во-вторых, существуют практические трудности, например, связанные со сроками, с включением в базу данных контента, распространяемого накануне выборов, и др. Все это может повлиять на информационную и рыночную ценность хранилища³³⁴. Кроме того, в зависимости от степени раскрытия информации проблемой могут стать технические возможности для определения того, какие части рекламы изменены³³⁵. И наоборот, простая пометка о синтетических медиаматериалах в рекламе вызывает ту же проблему специфичности, что и всеобщая обязательная маркировка³³⁶.

В-третьих, следует учесть вопросы конституционности, например, не будет ли требование раскрытия информации недопустимой формой принуждения к высказыванию³³⁷. Однако решение по делу Alvarez не ограничивает создание политической рекламы; оно лишь обеспечивает государство источником информации, которую невозможно получить иным способом³³⁸.

Более того, если применить логику Верховного суда в деле Citizens United, раскрытие информации обеспечивает доступ избирателей к информации об источнике и авторе сообщения³³⁹. В отличие от авторов памфлетов, кандидаты и создатели политической рекламы не имеют права на анонимность³⁴⁰. Кроме того, точно так же, как избиратели могут следить за расходами, чтобы знать, кто финансирует конкретное выступление, они должны видеть исходные данные, чтобы эффективно оценивать аргументацию кандидатов³⁴¹. Таким образом, создание репозитория или другие меры могут быть увязаны с расходами на создание синтетического контента, на размещение рекламы, содержащей синтетические медиа, или непосредственно с идентификацией источника синтетических выступлений. Это послужит подтверждением юрисдикции FEC³⁴².

Итак, с учетом практических ограничений репозиторий при FEC должен включать узкую категорию политической рекламы. Такой подход является наилучшим в современных условиях³⁴³ и одновременно служит полем для апробации более широкого регулирования. Полномочия FEC должны допускать создание такого хранилища, если при этом должным образом учитываются расходы на создание политической рекламы, содержащей синтетические медиаматериалы, и на покупку эфирного времени для такой рекламы.

Однако для решения проблем, связанных с синтетическими медиа, одного хранилища будет недостаточно. Чтобы восполнить этот пробел, необходимо предпринять другие меры для расширения доступа к информации и повышения осведомленности граждан. Во-первых, правительство или частные субъекты должны способствовать повышению осведомленности о синтетических медиа путем проведения образовательной кампании³⁴⁴. Операторы социальных сетей уже добавляют пользовательские теги, дающие дополнительный контекст к публикации³⁴⁵. Рекламная кампания может повысить осведомленность избирателей, подчеркивая важность критического отношения и предоставляя практические инструменты для идентификации контента³⁴⁶. Во-вторых, компании должны продолжать сотрудничать с правительством в разработке нормативных актов и технологий, которые позволят маркировать измененные видеоматериалы, а также добровольно создавать хранилища данных³⁴⁷. Объединив усилия частного и государственного секторов, мы сможем улучшить доступ избирателей к информации и их способность принимать осознанные решения при голосовании с учетом преимуществ и вреда синтетических медиа.

Заключение

Синтетические медиа в политической рекламе представляют огромный риск для демократии, но запрет на их использование – это краткосрочное решение, которое не поможет справиться с растущей экосистемой синтетического контента. Требования маркировки – лучший способ решения проблемы, но практические и юридические барьеры могут сделать маркировку неэффективной. Чтобы повысить прозрачность и безопасность политического процесса, необходимо обязать рекламодателей предоставлять FEC информацию о наличии синтетического контента; при этом требование раскрытия информации должно касаться расходов на создание синтетического медиа. Хотя практическое внедрение этих мер требует дальнейшего анализа, уже сейчас следует уделить внимание обсуждению потенциала хранилища, которое помогло бы, в частности, идентифицировать синтетический медиаконтент в политической рекламе.

* Twitter (Х) – социальная сеть, заблокированная на территории Российской Федерации за распространение незаконной информации.

** Facebook – cоциальная сеть принадлежит Meta, признанной экстремистской организацией, ее деятельность запрещена на территории Российской Федерации.