С 5 марта Twitter начинает удалять фейковые видео и фото или помечать их соответствующим образом. Ранее Facebook объявил, что начнет разработку алгоритма, который будет отличать deepfake-изображения.
При этом в соцсетях хватает фейков, созданных без нейронных сетей, которые меняют лица знаменитостям и подделывают голоса. Никуда не исчезают призывы репостить информацию о том, что “Facebook/Instagram/ВКонтакте заберет наши фотографии”, “в этом торговом центре похищают детей”, а “в Подмосковье собираются усыпить 20 служебных овчарок”. Пока у площадок не вышло победить ни старые фейки, ни новые — созданные алгоритмами.
Зачем бороться с дипфейками
Дипфейки — технология, которую можно использовать для мошенничества, кражи денег с банковских счетов и дискредитации публичных лиц. В прошлом году в Великобритании группа мошенников использовала подделанные с помощью ИИ аудиозаписи с целью заполучить около $243 тыс. якобы по требованию главы немецкой компании у своих партнеров в Великобритании. Гендиректор компании думал, что говорил по телефону с боссом, который просил его в течение часа отправить деньги венгерскому поставщику.
В другом ролике авторы замедлили запись выступления оппонента президента-республиканца Дональда Трампа — спикера Палаты представителей Конгресса США Нэнси Пелоси. В результате создавалось впечатление, что она пьяна или находится под воздействием наркотиков. Этот дипфейк повлек за собой громкий скандал, только спустя некоторое время было доказано, что речь Пелоси сгенерирована компьютером.
В прошлом году в русскоязычном сегменте Facebook пользователям показали видео, в котором журналист Юрий Дудь предлагает переходить по ссылке и участвовать в розыгрыше призов. Фейковый Дудь выглядел реалистично, если не считать контекста. Этот фейк со своим участием телеведущий не сразу заметил и опроверг в своих соцсетях, наверняка хватило пользователей, которые отправились по ссылке и оставили о себе кучу информации, чтобы поучаствовать в раздаче призов.
Что делают соцсети
Twitter будет маркировать фото и видео, если его алгоритмы заметят, что медиафайлы были созданы или отредактированы, чтобы ввести людей в заблуждение. Такие посты будут сопровождаться пояснением, что они подвергались существенным изменениям. Кроме использования маркировки соцсеть станет реже показывать эти фейки. А если посчитает, что фейк создает угрозу безопасности людей, нарушает право на частную жизнь или может вызвать массовое насилие и беспорядки, будет удален.
У соцсетей для отслеживания плохого контента есть алгоритмы и команды модераторов. Но, например, алгоритмы хорошо справляются с поиском текстовых постов, потому что ищут по стоп-словам и словосочетаниям. Искать фейковые видео и фото — труднее. Осенью 2019 года Facebook анонсировал Deepfake Detection Challenge. Вместе с Microsoft, MIT, Калифорнийским университетом в Беркли, Оксфордским университетом соцсеть проведет соревнование разработчиков алгоритмов, которые смогут отличать deepfake видео и фото от подлинных.
А что насчет старых фейков?
Наряду с дипфейками в соцсетях хватает и “бородатых” тестовых фейков. С начала 2010-х время от времени вы видите вирусные посты о “новом правиле, согласно которому Instagram/Facebook/Twitter с завтрашнего дня сможет использовать ваши фотографии”. Начинается пост с предупреждения вроде: “Не забывайте, завтра вступает в силу новое правило соцсети, которое разрешит использовать ваши фото”. Пользователей призывают копировать текст и размещать на своих страницах.
Впервые этот фейк появился в англоязычном пространстве, его опровергала соцсеть и разоблачал проект Snopes, который был создан для развенчания глобальных слухов и городских легенд. Но история продолжает жить. Летом 2019 года она прошлась по русскоязычному сегменту Facebook и с меньшим успехом — по “ВКонтакте”. А потом добралась до англоязычного Instagram. К ужасу пользователей, знающих что это фейк, аларм распространяли селебрити с многомиллионной аудиторией — актриса Джулия Робертс, певица Джесси Джей, актриса Эван Рэйчел Вуд (“Холодное сердце — 2”), режиссер Ненси Мейерс.
По материалам ТАСС. Автор Анастасия Степанова
