Мы верим в то, что видим – просто так устроены люди. Отсюда огромный успех желтых изданий, предлагающих фотографию Анджелины Джоли, зажигающей сигарету своей четырнадцатилетней дочери Шайло. Тем не менее, прогресс фотошопа – ничто по сравнению с развитием искусственного интеллекта (ИИ), который уже силен в другом – обработке видео. Благодаря этой технологии голова любого человека может быть перенесена на другое тело в видео, и это будет выглядеть вполне реалистично. ИИ постоянно используется для этой цели в порноиндустрии, но не только. Например, в 2018 году BuzzFeed использовал старое видео президента Обамы, в которое поместили только «отрезанный» рот из видео с актером Джорданом Пилом, подражающим Обаме. Результат поражает, а посыл автора фейка предельно ясен: люди должны быть очень осторожны к тому, что видят в интернете.
Реалистично, не правда ли?
Джордан Пил использует дипфейк (deepfake) – метод синтеза изображений с людьми с помощью ИИ и глубокого обучения (Deep learning). Этот инструмент часто используется для обработки видео в порнобизнесе. Пил предупреждает пользователей интернета: не верьте всему, что вы видите, потому что в век информации это может быть важно для нашего выживания. Убедительность видео с «Обамой» доказывает то, о чем он в нем говорит – будущее фейковых новостей за видео, и именно с его помощью будут манипулировать широкой публикой. Правда в том, что многие люди не проверяют то, что они читают или смотрят на видео. Даже если у них есть сомнения по поводу написанных новостей, они вряд ли найдут причины не доверять видео, которое выглядит так реалистично. Ведь это видео!
Не только ради развлечений
Хотя индустрия развлечений была первой, кто использовал алгоритмы ИИ для создания фальшивых видеороликов, сегодня возможности этой технологии применяются к гораздо более серьезным вещам, о чем мы уже упоминали: манипуляция массами. Основное внимание уделяется редактированию политических видео и наложению реплик и речей, которых на самом деле не существует, особенно таких политиков, как Дональд Трамп и Владимир Путин. Ученые, проводившие экспериментальное исследование в 2016 году (до широкого распространения дипфейка в Интернете), говорят, что это действительно опасно и людям следует сознательно отказаться от подобных экспериментов.
Что касается фейковых видео, то этот ящик Пандоры уже открыт. Можно утверждать, что видео, созданное Пилом, послужило предупреждением или, скорее, дало целому поколению представление о возможностях этого типа технологий и о том, насколько это весело.
Сочетание поддельного аудио с поддельным видео ведет к будущему, в котором будет невероятно сложно отличить правду от лжи. Фейковые видео могут манипулировать не только будущим, но и прошлым – реалистично представляя видео прошлого с новым аудио, они могут манипулировать реальными воспоминаниями населения и заменять их фальшивыми. И это мы знаем из очень популярной книги («Кто контролирует прошлое — контролирует будущее, кто контролирует настоящее — контролирует прошлое»).
Элизабет Лофтус из Калифорнийского университета говорит, что вероятность злоупотреблений огромна. Лофтус была одним из пионеров в изучении ложной памяти у людей, начав свои исследования в 90-х годах. Она говорит, что знакомство людей с такими реалистичными визуальными презентациями приведет к их глубокому убеждению, что они действительно помнят это и слышат об этом не в первый раз. Пока нет исследований влияния дипфейк-видео на психику человека и имплантацию через них ложных воспоминаний, но такие, безусловно, будут проводиться в будущем.
Податливость человеческого разума
В 2010 году была опубликована фотография президента Обамы, пожимающего руку бывшему президенту Ирана Махмуду Ахмадинежаду. Фотография фейковая – она создана в фотошопе, и такого рукопожатия никогда не было. Однако когда журнал Slate, который изначально опубликовал ее, спросил своих читателей, сколько из них помнят фотографию, оказалось, что 21% помнят ее очень хорошо, а 25% сказали, что помнят, что такая встреча и рукопожатие между Обамой и Ахмадинежадом были, но точно не запомнили сам снимок. У опрошенных даже было свое мнение о встрече двух президентов и достаточно грамотные комментарии о «произошедшем».
Затем один из редакторов Slate пошел еще дальше: он предложил читателям тест, в котором приводилось сочетание фотографий реально произошедших событий и нескольких произвольно выбранных фальшивых фото. На одной из поддельных снимков сенатор Джозеф Либерман голосует «виновен» во время импичмента Билла Клинтона (на самом деле он голосовал «не виновен»). На другом изображен президент Буш в отпуске с бейсболистом Роджером Клеменсом во время разрушительного урагана «Катрина» (и это неправда).
Каждая из фейковых фотографий вызывала ложные воспоминания как минимум у половины читателей – они говорили, что хорошо помнят эти события. Вывод эксперимента в том, что большинство людей склонны верить фотографиям и новостям, которые соответствуют их собственным политическим или неполитическим убеждениям и их восприятию мира. С тех пор фальшивые идеи распространяются по интернету как вирус, а появление фейковых видеороликов сделало это явление еще более серьезным.
При поддержке социальных сетей
Люди верят тому, что видят и смотрят, когда выполняются следующие условия: это им знакомо и часто повторяется, это соответствует их политическим взглядам, они доверяют источнику информации и знают, что эта информация распространяется и обсуждается другими единомышленниками. Место, где существуют все эти условия, – это социальные сети, и именно они делают наплыв совершенного качества фейковых видео по-настоящему опасным.
По словам Лофтус, существует опасность того, что мы войдем в так называемый коллапс реальности. Мы до сих пор не знаем точно, как формируются ложные воспоминания, мы знаем только, что это происходит с большим процентом населения с пугающей частотой. Человеческая память не работает как цифровая запись: в большинстве случаев мы не можем перемотать наши воспоминания до точного момента, пока не узнаем что-то. Мы просто знаем это. Память конструктивна, но избирательна, и ее трудно осознать: когда мы вспоминаем события из прошлого, мы чаще всего собираем их из различных фрагментов информации, которые существуют в нашем сознании. Иногда мы добираемся до истины, а иногда наш мозг просто хватает то, что легко запомнить, и добавляет это, чтобы заполнить существующие пробелы.
Пугает то, что нами можно манипулировать, строя в нашем разуме воспоминания об инцидентах и событиях, которых вообще не было, как показывает исследование Slate. «Мы создаем иллюзию, что запомнили некоторые события в тот момент, когда они произошли», говорит Линда Левайн из Калифорнийского университета. Социальные сети – действительно хорошая почва для создания таких воспоминаний, а распространяемые в них видео – это бактерии, которые заставят их расти в нашем сознании. Еще неизвестно, будет ли через 50 лет общество помнить исторические события, которые действительно произошли, или же оно будет безвозвратно разделено во мнениях о том, что истинно, а что нет.
По материалам Altarena. Автор Andrey Zhukov
