Кто, зачем и каким образом использует дипфейки

Кто, как и зачем использует дипфейки
Дипфей­к – это младший брат фотошопа, технология, позволяющая менять лица людей на видео. Прежде она применялась для создания эротических фильмов. Но теперь все изменилось.

Что, если вы узнаете, будто королева Великобритании променяла престол на кресло наставника в шоу «Голос», а Владимир Путин снялся в роли доктора Зло в продолжении «Остина Пауэрса»? Думаете, это невозможно? Тогда познакомьтесь с дипфейками – вирусными роликами, которые стирают границу между правдой и вымыслом и вскоре изменят наш мир.

Итальянские политики мало чем отличаются от героев плохого ­реалити-шоу. Поэтому, когда 45-летний основатель партии «Италия Вива» Маттео Ренци (которого часто называют неудачной ко­пией Сильвио Берлускони) вляпался в очеред­ной скандал, казалось, это совершенно обыденное явление. Вот наш герой сидит за столом в студии и ждет прямого включения. Как будто забыв о камерах, Ренц­и неожиданно начинает поливат­ь грязью­ действующую итальянскую власть, а в кульминации своего спича использует жест «полруки», что означает «хрен вам всем». Само собой, активисты всех мастей, увидев ролик, бросились делиться негодованием в твиттере. Прошло много времени, прежде чем внимательные зрители положили этому конец.

Хоть ролик и выглядел очень реалис­тично, на самом деле Ренци никогда­ не оскорблял коллег (как минимум ­при­людно). Видео с его участием ока­залось дипфейком (deep подразумевает глубокое обу­чение нейросети, а fake означает «подделка». – Прим. GQ) – роликом, в котором вместо лица одного человека, в данном случае комика, подставлено другое, то есть лицо Ренци. Создать такой контент помог алгоритм нейро­сети, который наложил несколько изображений Ренци на персонажа стороннего видео, после чего тот стал точной копией итальянца.

Но до того, как обман вскрылся, политику пришлось клятвенно уверять своих­ сторонников в том, что ролик не имеет­ к нему никакого отношения. Ренцо­ выглядел сумасшедшим. Как алкоголик, который утверждает, что не притрагивался к стопке. Его адекватность и честность стали вызы­ват­ь вопросы у однопартийцев. И все это – благодаря шуточной, на первый взгляд, технологии.

Сегодня создать дипфейк под силу любому, у кого есть компьютер, интернет и вагон терпения – качественный ролик требует поистине ювелирной подгонки (но мы-то прекрасно знаем, что у тех, кто сидит в интернете, чего-чего, а проблем с нехваткой времени нет).

Дипфейк, этот развевающийся­ символ конца правды, беспокоит­ многих исследователей. Ведь шуточные ролики зачастую преследуют по-настоящему опасные це­ли. Представьте себе, что случится, если ­накануне выборов в сети появится ролик с одним из кандидатов, в котором тот совокупляется с ламами или призна­ется, будто­ поддерживает идеологию Третьего рейха­. Последст­вия, которые сулят обществу фальшивые видео, бес­покоят даже Facebook: компания провела конкурс для разработки методов распознавания дипфейков. Но так ли страшны эти наглые отпрыски фотошопа?

Апокалипсис завтра

Сэм Грегори в душе всегда был активистом и страстно любил все, что связано с видео. Именно эти качества впоследствии сделали его главой общественной организации Witness, снабжающей жителей городов – от Дамаска до Рио – камерами для выявления нарушений прав человека. Помимо этого, сотрудники Witness занимаются разоблачением фейковых и недостоверных новостей. Грегори был одним из первых, кто разглядел опасность в дипфейках. «Уже много лет ходят разговоры о расцвете эпохи постправды, – говорит он. – Да, можно считать, что под прямой угрозой сегодня находится сама демократия».

Дипфейки страшны тем, что с каждым днем они становятся все более реалистичными и подрывают священный принцип апостола Фомы: теперь недостаточно увидеть, чтобы уверовать. «Шквал разговоров о дипфейках в медиа напоминает 1990-е годы, когда появились первые цифровые изображения, а затем, чуть позже, фотошоп, – говорит Андре Гюнтер, преподаватель парижской Высшей школы социальных наук. – Гуру того времени писали, что мы больше не можем верить всему, что изображено на фотографиях, что цифровое изображение уничтожит правду. Но редактировать фотографии мы, как видите, не перестали, и обещанный апокалипсис не наступил».

Кто, как и зачем использует дипфейки
© Pierre La Police

Действительно, сколько бы правдоподобных дипфейков мы ни находили (вроде видео с Трампом, призывающим сотрудников американского офиса неконтролируемо сношаться прямо на рабочих местах, или ролика с Марком Цукербергом, в котором глава Facebook признается, что террористическая организация «Спектр» управляет США), на сегодняшний день еще ни один из них существенно не изменил ход истории. В основном фальшивые видео сулят проблемы конкретным людям. А если быть точнее – женщинам.

Первая мишень

Белле Торн 22 года, она актриса, певица и автор романа The Life of a Wannabe Mogul: Mental Disarray, отмеченного вниманием прессы в прошлом году. Еще подростком Торн, как до нее Бритни Спирс, Майли Сайрус и Селена Гомес, была одной из муз Disney Channel. Не-удивительно, что с таким послужным списком она стала суперзвездой в США с десятками миллионов подписчиков в социальных сетях. И именно это, наряду с американским фетишизмом по отношению к подросткам с диснеевским клеймом, привело к тому, что вместе со Скарлетт Йоханссон, Эмилией Кларк, Мэйси Уильямс, Галь Гадот и Эммой Уотсон она попала в грустный список знаменитостей, чьи лица чаще всего используются в дипфейках эротического толка. Глядя на список грядущих кинопремьер с Беллой Торн, можно подумать, будто у нее нет времени, чтобы разбираться с подобной низостью интернета. Но неистовый гнев, с которым она комментирует дипфейки, говорит об обратном.

«Долгие годы я становилась жертвой таких вот фальшивок, – сетует Торн. – Сначала были фотографии. Такие, что люди уже начали сомневаться, что это фотошоп. Но теперь с дипфейками все стало в десятки раз правдоподобнее, твою мать! От некоторых я просто взбесилась. Кто-то взял мое лицо с видео, где я записываю обращение к отцу, и склеил с роликом, в котором девушка мастурбирует в машине. И люди поверили! Наверное, тогда мне стоило выступить с опровержением. Рассказать все детали своей сексуальной жизни – чтобы никто больше не верил гребаным дипфейкам. Если что, я не брею лобок, прошу учесть это на будущее».

Беда не приходит одна: в прошлом году кто-то взломал телефон Беллы Торн. Но актриса решила перехватить инициативу у хакера и сама выложила в сеть свои интимные фотографии. «У меня не было выбора», – с сожалением говорит она. «Он бы так или иначе все равно выложил их. Для меня это был способ вернуть частичку свободы. Но я так настрадалась из-за этого… Когда знакомлюсь с новыми людьми, то сразу думаю, что они уже видели меня голой».

Вот уже несколько месяцев Белла Торн одна из немногих, кто открыто говорит о веб-запугивании, так часто выпадающем на долю известных девушек. Чтобы противостоять этому, она хочет снять документальный фильм о дипфейках и отмщении.

«Месть и дипфейки всегда идут рука об руку, – уверена актриса. – Они ответственны за многие самоубийства среди подростков. Нельзя молчать, нужно объяснять, что это может случиться со всеми нами, с нашими дочерьми, друзьями. Не стоит рассчитывать, что дипфейки будут использоваться только в политических играх. Оглядитесь вокруг, что происходит прямо сейчас? Женщин унижают, нас шантажируют и заставляют умолкнуть».

Рана Айюб, журналист The Washington Post, расследовавшая убийство восьмилетнего ребенка в индийской деревне Разана, весь последний год подвергалась нападкам со стороны интернет-агрессоров. Как-то она получила письмо со ссылкой и перешла по ней. «На видео было мое лицо, – вспоминает Айюб. – Я была шокирована, но понимала, что это не я, у меня кудрявые волосы, а не прямые». Это был дипфейк, созданный на основе жуткого фильма для взрослых. «А затем меня стошнило», – признается Рана.

Но если Торн и Айюб додумались использовать свой авторитет и информационное поле, чтобы не замалчивать проблему, что делать тем, кто не может похвастаться известностью? Зачастую интернет-травля парализует.

Ноэлль Мартин, 25-летняя жительница Австралии, тоже пережила дипфейк-запугивание. Семь лет назад она, молодая студентка-юрист, не могла заснуть и без всякой задней мысли решила поискать свои фотографии в Google. Результат ее шокировал. «Там были сотни отфотошопленных, на которых мое лицо приделали к чужому обнаженному телу. Я даже не думала, что такое возможно, и понятия не имела, кто хотел мне навредить. Моя карьера не началась, а репутация уже уничтожена, да еще и самым грубым способом».

Разбитая, Мартин пыталась сделать все, чтобы удалить фотографии из сети. Но на дворе стоял 2013 год, и в арсенале австралийского права не было закона для подобных преступлений. Тогда Ноэлль стала писать каждому сайту, где были размещены ее фотографии, с просьбой удалить их. Но многие так ей и не ответили.

Через несколько лет девушка приняла самое сложное и смелое решение в своей жизни. «Мысль, что люди могут сотворить подобное с другими, казалась мне несправедливой, – говорит Мартин. – Я знала, что не единственная, кого травят. Но остальные не решались об этом говорить. Рассказывать о запугивании людям – это единственный способ преодолеть проблему, вернуть себе имя и жизнь. Кроме того, это отличный шанс привлечь внимание чиновников, утверждающих новые законодательные акты».

Ноэлль Мартин объездила с выступлениями всю Австралию и в 2018 году стала лицом нового закона против эротического запугивания. Тут-то и случилось немыслимое. «Как-то я снова получила письмо от фейкового аккаунта, на сей раз со ссылкой на видео, а не на фото, – вспоминает она. – И это был дипфейк. Но мне не было страшно, я была в ярости. Эти придурки хотели унизить и заткнуть меня, потому что я боролась за свои права. Жаль, что политики и предприниматели все еще не осознают масштабы бедствий, которые могут вызвать дипфейки».

Ответный удар

Калифорнийский адвокат Адам Додж разделяет точку зрения­ Ноэлль Мартин. Уже десятки лет он защищает права жертв гендерного насилия в организации EndTAB, которую сам и основал. Слоган EndTAB отлично отражает текущее положение дел в обществе: «Абьюз стал цифровым». Адам не понаслышке знает­, что использование дипфейков для мести и травли простых людей становится обычным делом. «Дипфейки позволяют воплотить свои фантазии на экране, поэтому они так популярны, – объясняет адвокат. – Впервые столкнувшись с ними, я понял, что это может быть использовано в первую очередь против женщин. Теперь же ясно, что будущие жертвы дипфейков – это все мы».

И правда, чтобы отом­стить кому-либо дипфейком, хватит небольшого видео вашей жертвы, сохраненного из ее инстаграма. А для тех, кто не хочет марать руки, сущест­вуют форумы, на которых можно заказать любой дипфейк на выбор. В публичном доступе там представлены многочисленные видео со знаменитостями, а в приватной переписке с автором за $30 можно­ оформить эксклюзив. Например, с вашей подружкой, которую окружили темнокожие парни. Или с президентом, который внезапно встре­чает в сауне канцлера другой страны.

Чтобы помочь пострадавшим от дипфейков, Адам Додж разработал целое руководство. «Чаще всего почти любой зритель понимает, что представленное видео – это фальшивка, – говорит он. – Но сей факт не смягчает тяжесть преступления. Пока видео доступно в сети, жертва страдает».

Первым делом Додж советует зафиксировать наличие дипфейка – с помощью скриншота или записи экрана. Затем составить обращение в Google, в котором, не поддаваясь эмоциям, придется объяснить, что на видео ваше лицо, но не ваше тело и данный ролик оскорбляет вас. Вместе с обращением можно­ отправить в компанию справку о подаче заявления в полицию (но прежде вам придется изрядно попотеть, объясняя полицейским, что такое дипфейк). Наконец, не дожидаясь ответа от Google, программисты которого лишь скроют страницу с вашим роликом из поиска, а не удалят ее, попытайтесь связаться с сайтом, на котором размещено видео. Додж даже придумал, как заработать на этом деньги. «Я призываю пострадавших пытаться узнать, кому принадлежит оригинальное видео, – ­говорит адвокат.  – Так вы сможете привлечь к проблеме правообладателей и людей в кадре, поскольку дипфейки – это в том числе нарушение их авторских прав».

Как и каждая новая технология, дипфейки вызывают множество страхов. Ведь мы не можем спрогнозировать, как и для каких целей будут использовать их в будущем. Но было бы глупо не заметить и положительные стороны этого явления. Использование дипфейко­в должн­о снизить затраты при производст­ве кино и телевизионной рекламы. При просмотре дублированных фильмов отныне вы не будете раздражаться, если голос дублера не поспевает за мимикой героя: искусственный интеллект выровняет даже это. Звездам не нужно записывать поклонникам сотни видео на разных языках, а вместо того чтобы искать контакты Мадонны и просить ее поздравить с днем рождения вашу подругу, вы сможете состряпать реалистичное поздравление своими руками. Да, в обществе, для которого дипфейки станут нормой, будет сложнее отличать правду от лжи. Но что есть правда? И уверены ли вы, что она существует?

По материалам Vogue. Автор Loïc Hecht

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *