Дипфейки и манипуляции с помощью ИИ становятся все более распространенными, создавая новые теории заговоров и влияя на избирателей.
Спустя почти три года после того, как бунтовщики штурмовали Капитолий США, фальшивые теории заговора о выборах, которые стали причиной насильственного мятежа, остаются распространенными в социальных сетях и кабельных новостях: чемоданы, наполненные бюллетенями, ночные выбросы бюллетеней, голосование мертвых людей.
Эксперты предупреждают, что на предстоящих президентских выборах будет еще хуже. Меры предосторожности, которые в прошлый раз пытались противостоять фиктивным претензиям, разрушаются, тогда как инструменты и системы, которые их создают и распространяют, только укрепляются, передает Associated Press.
Многие американцы, подстрекаемые бывшим президентом Дональдом Трампом, продолжают проталкивать идею о том, что выборам по всей территории США нельзя доверять. Большинство республиканцев (57%) считают, что демократ Джо Байден не был законно избран президентом.
Между тем, инструменты генеративного искусственного интеллекта значительно удешевили и облегчили распространение дезинформации, которая может ввести избирателей в заблуждение и потенциально повлиять на выборы.
«Я ожидаю цунами дезинформации», - сказал Орен Этциони, эксперт по искусственному интеллекту и почетный профессор Университета Вашингтона. «Я не могу предоставить этому доказательств. Я только надеюсь, что окажусь неправым. Но все ингредиенты для этого есть, и я напуган».
Манипуляция изображениями и видео, связанными с выборами, не является чем-то новым, но выборы 2024 года станут первыми президентскими выборами в США, на которых сложные инструменты искусственного интеллекта, которые могут создавать убедительные фейки за считанные секунды, доступны всего за несколько кликов.
Сфабрикованные изображения, видео и аудиозаписи, известные как дипфейки, стали проникать в экспериментальную рекламу президентской кампании. Более зловещие версии могут легко распространяться без ярлыков в социальных сетях и обманывать людей за несколько дней до выборов, отметил Этциони.
«Вы сможете увидеть, как такого политического кандидата, как президент Байден, срочно доставили в больницу», - сказал он. «Вы сможете видеть, как кандидат говорит то, чего действительно никогда не говорил. Вы можете видеть взрывы и насилие, которых никогда не было».
Высокотехнологичные дипфейки уже повлияли на выборы по всему миру, сказал Ларри Норден, старший директор избирательной и правительственной программы Центра правосудия Бреннана. Только за несколько дней до недавних выборов в Словакии созданные искусственным интеллектом аудиозаписи имитировали либерального кандидата, обсуждавшего планы повышения цен на пиво и фальсификации выборов. Фактчекеры пытались идентифицировать их как фальшивые, но они, несмотря на это, распространялись в социальных сетях как настоящие.
Эти инструменты также могут использоваться для таргетинга на конкретные сообщества и оттачивания обманчивых сообщений о голосовании. Эксперты говорят, что это может выглядеть как убедительные текстовые сообщения, ложные объявления о процессе голосования на разных языках в WhatsApp или фиктивные веб-сайты, которые выглядят как официальные правительственные в вашем регионе.
Столкнувшись с содержимым, созданным так, чтобы выглядеть и звучать настоящим, «все, к чему мы были настроены эволюцией, вступит в действие, чтобы заставить нас поверить в выдумки, а не в настоящую реальность», - сказала исследовательница дезинформации Кэтлин Холл Джеймисон, директор Центра публичной политики Анненберга при Университете Пенсильвании.
Республиканцы и демократы в Конгрессе и Федеральной избирательной комиссии изучают шаги по регулированию технологии, но они до сих пор не приняли никаких правил или законодательства.
Несколько штатов приняли законы, требующие маркировки дипфейков или запрещающие персонификацию кандидатов. Некоторые компании социальных сетей, в частности YouTube и Meta, которым принадлежат Facebook и Instagram, ввели политику маркировки ИИ. Удастся ли им стабильно ловить нарушителей – пока неизвестно.
Чуть больше года назад Илон Маск купил Twitter и начал увольнять его руководителей, демонтировав некоторые из его основных функций и сменив платформу социальных медиа на то, что теперь известно как X.
С тех пор он перевернул ее систему проверки, оставив государственных служащих уязвимыми для имитаторов. Он уничтожил команды, когда-то боровшиеся с дезинформацией на платформе, оставив сообщество пользователей модерировать самое себя. Он восстановил аккаунты ранее запрещенных теоретиков заговора и экстремистов.
Изменения одобряли многие консерваторы, утверждавшие, что предыдущие попытки модерации Twitter были равнозначны цензуре их взглядов. Но сторонники демократии утверждают, что поглощение превратило то, что когда-то было полезным ресурсом для новостей и информации о выборах, в большинстве своем нерегулируемую эхо-камеру, которая усиливает язык ненависти и дезинформацию.
Ранее Twitter был одной из самых «ответственных» платформ, проявляя готовность тестировать функции, которые могли бы уменьшить дезинформацию даже за счет привлечения, сказал Джесси Лерич, соучредитель Accountable Tech, некоммерческой надзорной организации.
«Очевидно, что сейчас они совсем на другом конце спектра», - сказал он, добавив, что, по его мнению, изменения в компании дали другим платформам прикрытие для смягчения собственной политики.
Согласно отчету Free Press, некоммерческой организации, выступающей за гражданские права в технике и медиа, в преддверии 2024 года X, Meta и YouTube вместе удалили семнадцать политик, защищавших от ненависти и дезинформации.
В июне YouTube объявил, что хотя в дальнейшем будет регулировать содержимое, которое вводит в заблуждение относительно текущих или предстоящих выборов, он прекратит удалять содержимое, ложно утверждающее, что выборы 2020 года или другие предыдущие выборы в США были омрачены «широко распространенным мошенничеством, ошибками или сбоями». Платформа заявила, что эта политика является попыткой защитить возможность «открыто обсуждать политические идеи, даже те, которые противоречивы или основаны на опровергнутых предположениях».
Лерич сказал, что даже если технологические компании хотят избегать удаления обманчивого контента, «есть много нейтральных по отношению к контенту способов», с помощью которых платформы могут уменьшить распространение дезинформации, от маркировки статей до усложнения обмена контентом без его просмотра.
С 2020 года X, Meta и YouTube также уволили тысячи сотрудников и подрядчиков, среди которых были модераторы контента.
Сокращение таких команд, которое многие называют следствием политического давления, «создает условия для того, чтобы в 2024 году все было хуже, чем в 2020», — сказала Кейт Старберд, эксперт по дезинформации из Университета Вашингтона.
Meta на своем веб-сайте объясняет, что около 40 тысяч человек занимаются безопасностью и поддерживают «самую независимую сеть проверки фактов среди всех платформ». Они также часто ликвидируют сети поддельных аккаунтов в социальных сетях, которые имеют целью посеять раздор и недоверие.
«Ни одна технологическая компания не делает больше и не инвестирует больше для защиты выборов в Интернете, чем Meta, – не только во время выборов, но и в любое время», – говорится в публикации.
Айви Чой, представитель YouTube, считает, что платформа «значительно инвестирует» в привлечение людей к высококачественному контенту на YouTube, в частности с точки зрения выборов. Она указала на рекомендательные и информационные панели платформы, которые предоставляют пользователям надежные новости о выборах, и сказала, что платформа удаляет контент, вводящий избирателей в заблуждение о том, как голосовать или поощряет вмешательство в демократический процесс.
Рост TikTok и других менее регулируемых платформ, таких как Telegram, Truth Social и Gab, также создал больше информационных источников онлайн, где могут распространяться безосновательные новости и заявления. Некоторые приложения, особенно популярные среди иммигрантов, таких как WhatsApp и WeChat, полагаются на частные чаты, из-за чего посторонним группам трудно увидеть дезинформацию, которая может распространяться.
«Я волнуюсь, что в 2024 году мы увидим подобные переработанные, укоренившиеся фальшивые нарративы, но более утонченную тактику», - сказала Роберта Брага, основательница и исполнительный директор Института цифровой демократии Америки. «Но с положительной стороны, я надеюсь, что появилось больше социальной устойчивости к этим вещам».
Исследователей дезинформации волнует то, что Трамп является фаворитом праймериз президентских выборов от Республиканской партии, и они опасаются, что это усилит дезинформацию о выборах и потенциально приведет к насилию.
Бывший президент до сих пор неправдиво утверждает, что выиграл выборы 2020 года.
«Дональд Трамп явно воспринимал и раздувал пламя ложных заявлений о фальсификации выборов в прошлом», - отметила Кэти Старберд. «Мы можем ожидать, что он продолжит использовать эту тактику, чтобы мотивировать свою электоральную базу».
Даже без доказательств Трамп уже убедил своих сторонников ожидать фальсификаций на выборах 2024 года, призывая их вмешаться, чтобы «защищать волеизъявление», чтобы предотвратить фальсификации голосования в городах демократов. Трамп давно утверждал, что выборы сфальсифицированы, если он не выиграет, и делал это перед голосованием в 2016 и 2020 годах.
Продолжение потери доверия избирателей к демократии может привести к насилию, сказал Брет Шафер, старший научный сотрудник непартийного Альянса за обеспечение демократии, отслеживающий дезинформацию.
«Если люди вообще не доверяют информации, связанной с выборами, демократия просто перестает работать», - сказал он. «Если кампания по дезинформации эффективна настолько, чтобы достаточно большой процент американского населения не верил в то, что результаты отражают произошедшее на самом деле, тогда 6 января, вероятно, будет выглядеть как разминка».
Начиная с 2020 года, представители избирательных органов готовятся к ожидаемому возрождению нарративов фальсификации и отрицания в выборах. Они направили команды, чтобы объяснить процесс голосования, наняли посторонние группы для мониторинга дезинформации и усилили физическую защиту в центрах подсчета голосов.
В Колорадо государственный секретарь Джена Грисволд сказала, что информационные платные социальные медиа и телевизионные кампании, гуманизирующие работников выборов, помогли привить избирателей от дезинформации.
«Это тяжелая борьба, но мы должны быть проактивными», - сказала она. «Дезинформация является одной из самых больших угроз американской демократии, которую мы видим сегодня».
Офис госсекретаря Миннесоты Стива Саймона возглавляет #TrustedInfo2024, новую онлайн-просветительскую работу Национальной ассоциации государственных секретарей, направленную на популяризацию избирательных должностных лиц как надежного источника информации о выборах в 2024 году.
Его офис также планирует встречи с окружными и городскими избирательными чиновниками и будет обновлять информационную страницу «Факты и вымысел» на своем веб-сайте, когда появятся ложные заявления. Новый закон в Миннесоте защитит избирательных работников от угроз и преследований, запретит людям сознательно распространять дезинформацию накануне выборов и криминализирует людей, которые без согласия делятся дипфейками, чтобы нанести ущерб политическому кандидату или повлиять на выборы.
«Мы надеемся на лучшее, но готовимся к худшему благодаря этим уровням защиты», – отметил Саймон.
В сельской местности округа Висконсин клерк округа Оконто Ким Питлески путешествовала по региону, проводя беседы и презентации для небольших групп о голосованиях и выборах, чтобы повысить доверие избирателей. Округ также предлагает публичные испытания оборудования, чтобы жители могли наблюдать процесс.
«Возможность говорить непосредственно с избирательными должностными лицами имеет большое значение», - сказала она. «Возможность увидеть, что за этими процессами стоят настоящие люди, преданные своей работе, помогает людям понять, что мы здесь, чтобы служить им».