Как пройдут следующие президентские выборы с беспрецедентным количеством дипфейков и прочих поддельных материалов?
В преддверии выборов в президенты США, которые пройдут в 2024 году, в социальных сетях появляется всё больше видео с поддельными фотографиями и якобы записанными аудиофайлами известных политиков, созданными с помощью искусственного интеллекта.
Такие видео называются дипфейками (от англ. deepfake — глубокая подделка) и могут быть использованы для манипуляции общественным мнением и дискредитации соперников.
Так, в одном из дипфейков, гуляющих по зарубежному Интернету, Хиллари Клинтон неожиданно поддерживает республиканца Рона Де Сантиса. А в другом подобном ролике — президент Джо Байден оскорбляет трансгендера.
Создание дипфейков стало куда проще и дешевле благодаря новым инструментам «генеративного ИИ», таким как Midjourney, которые позволяют синтезировать реалистичные изображения и голоса на основе большого количества онлайн-материалов.
По данным компании DeepMedia, которая разрабатывает средства для обнаружения синтетических медиа, в 2023 году количество дипфейков в интернете выросло в три раза по сравнению с прошлым годом. По примерным прогнозам специалистов, к концу года в Интернете будет опубликовано суммарно около 500 тысяч видео- и аудиодипфейков по всему миру.
«Будет очень сложно для избирателей отличить реальное от поддельного. И можно представить, как сторонники Трампа или Байдена могут использовать эту технологию, чтобы заставить противника предстать в худшем свете»
Заявил Даррел Уэст, старший научный сотрудник Центра технологических инноваций при Институте Брукингса
Основные социальные платформы, такие как Facebook*, Twitter** и YouTube, пытаются оперативно удалять дипфейки, но их эффективность в борьбе с такого рода контентом пока что остаётся на низком уровне.
В то же время некоторые политические игроки стремятся целенаправленно использовать мощь генеративного ИИ для усиления своих кампаний. Пока единственным известным примером политической рекламы, созданной полностью на основе ИИ, был ролик Республиканского национального комитета, опубликованный в конце апреля. В 30-секундном видео комитет показал серию динамически сменяемых сгенерированных изображений, демонстрирующих катастрофический сценарий развития США в случае переизбрания Байдена: Китай вторгается на Тайвань, а Сан-Франциско охвачен преступностью.
Потенциал генеративного ИИ для создания фейкового контента, манипулирующего общественным сознанием, просто огромен. А при грамотной реализации эти технологии могут запросто перевернуть результаты выборов в сторону того, кто больше заплатит за создание и распространение подобных подделок.
* Компания Meta и её продукты (Instagram и Facebook) признаны экстремистскими, их деятельность запрещена на территории РФ.
** Социальная сеть запрещена на территории Российской Федерации.
По материалам PT Research Lab
