Соцсети начнут больше бороться с фейками. Каковы их шансы на успех?

С 5 марта Twitter начинает удалять фейковые видео и фото или помечать их соответствующим образом. Ранее Facebook объявил, что начнет разработку алгоритма, который будет отличать deepfake-изображения.

При этом в соцсетях хватает фейков, созданных без нейронных сетей, которые меняют лица знаменитостям и подделывают голоса. Никуда не исчезают призывы репостить информацию о том, что «Facebook/Instagram/ВКонтакте заберет наши фотографии», «в этом торговом центре похищают детей», а «в Подмосковье собираются усыпить 20 служебных овчарок». Пока у площадок не вышло победить ни старые фейки, ни новые — созданные алгоритмами. 

Зачем бороться с дипфейками

Дипфейки — технология, которую можно использовать для мошенничества, кражи денег с банковских счетов и дискредитации публичных лиц. В прошлом году в Великобритании группа мошенников использовала подделанные с помощью ИИ аудиозаписи с целью заполучить около $243 тыс. якобы по требованию главы немецкой компании у своих партнеров в Великобритании. Гендиректор компании думал, что говорил по телефону с боссом, который просил его в течение часа отправить деньги венгерскому поставщику.

© Алексей Дурасов/ТАСС

В другом ролике авторы замедлили запись выступления оппонента президента-республиканца Дональда Трампа — спикера Палаты представителей Конгресса США Нэнси Пелоси. В результате создавалось впечатление, что она пьяна или находится под воздействием наркотиков. Этот дипфейк повлек за собой громкий скандал, только спустя некоторое время было доказано, что речь Пелоси сгенерирована компьютером. 

В прошлом году в русскоязычном сегменте Facebook пользователям показали видео, в котором журналист Юрий Дудь предлагает переходить по ссылке и участвовать в розыгрыше призов. Фейковый Дудь выглядел реалистично, если не считать контекста. Этот фейк со своим участием телеведущий не сразу заметил и опроверг в своих соцсетях, наверняка хватило пользователей, которые отправились по ссылке и оставили о себе кучу информации, чтобы поучаствовать в раздаче призов.

Что делают соцсети

Twitter будет маркировать фото и видео, если его алгоритмы заметят, что медиафайлы были созданы или отредактированы, чтобы ввести людей в заблуждение. Такие посты будут сопровождаться пояснением, что они подвергались существенным изменениям. Кроме использования маркировки соцсеть станет реже показывать эти фейки. А если посчитает, что фейк создает угрозу безопасности людей, нарушает право на частную жизнь или может вызвать массовое насилие и беспорядки, будет удален.

© Алексей Дурасов/ТАСС

У соцсетей для отслеживания плохого контента есть алгоритмы и команды модераторов. Но, например, алгоритмы хорошо справляются с поиском текстовых постов, потому что ищут по стоп-словам и словосочетаниям. Искать фейковые видео и фото — труднее. Осенью 2019 года Facebook анонсировал Deepfake Detection Challenge. Вместе с Microsoft, MIT, Калифорнийским университетом в Беркли, Оксфордским университетом соцсеть проведет соревнование разработчиков алгоритмов, которые смогут отличать deepfake видео и фото от подлинных.

А что насчет старых фейков?

Наряду с дипфейками в соцсетях хватает и «бородатых» тестовых фейков. С начала 2010-х время от времени вы видите вирусные посты о «новом правиле, согласно которому Instagram/Facebook/Twitter с завтрашнего дня сможет использовать ваши фотографии». Начинается пост с предупреждения вроде: «Не забывайте, завтра вступает в силу новое правило соцсети, которое разрешит использовать ваши фото». Пользователей призывают копировать текст и размещать на своих страницах. 

Впервые этот фейк появился в англоязычном пространстве, его опровергала соцсеть и разоблачал проект Snopes, который был создан для развенчания глобальных слухов и городских легенд. Но история продолжает жить. Летом 2019 года она прошлась по русскоязычному сегменту Facebook и с меньшим успехом — по «ВКонтакте». А потом добралась до англоязычного Instagram. К ужасу пользователей, знающих что это фейк, аларм распространяли селебрити с многомиллионной аудиторией — актриса Джулия Робертс, певица Джесси Джей, актриса Эван Рэйчел Вуд («Холодное сердце — 2»), режиссер Ненси Мейерс. 

Далее

По материалам ТАСС. Автор Анастасия Степанова

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *