Дипфейки – наш новый враг

Дипфейки – наш новый враг
Дипфейки. Фото: sostav.ru

Советник генерального директора телеканала RT Тина Бережная в прямом эфире «Дальневосточного МедиаСаммита-2020» рассказала о том, как журналист может самостоятельно определить дипфейк. Эксперт поделилась целым списком рабочих способов, которые уже взяли на вооружение федеральные журналисты.

Дипфейк – это реалистичная манипуляция аудио— и видеоматериалами с помощью искусственного интеллекта. Технология заставляет человека говорить то, что он не произносил, и делать то, что он никогда не делал.

Создать дипфейк на обывательском уровне можно буквально за полторы минуты. Однако для того, чтобы ролик получился хорош, над ним нужно поработать специалистам и потратить на это больше времени и сил. И все же несколько способов того, как определить дипфейк, существуют. 

— В этом году мы с одной из моих студенток разрабатывали систему, определяющую дипфейк. И я бы хотела сказать, что вы первые, кто о ней узнает в мире, но на самом деле — вторые. Первыми стали наши коллеги, у которых теперь эти знания фактически используются, как методичка, – рассказала Тина Бережная.  

По словам эксперта, если журналист начинает сомневаться в том, что какой-то человек в публичном пространстве действительно бы сделал или сказал нечто подобное, то это уже повод проверить видео на дипфейк. 

— Самое простое, что мы можем сделать для начала — это проверить через поисковик. Узнать, говорил ли человек подобное на самом деле или нет. Насколько цитируема была эта фраза? Можно сделать также скрины из видео и пробить их через «поиск по картинке». Если окажется, что на скринах тот же самый интерьер, тот же самый свет, такие же детали или даже пиджак или рубашка, что и в найденных фото — вероятно, одно лицо все же заменили другим. 

Еще один важный момент — дипфейк обладает каким-то количеством цифровых артефактов. Например, кадр немного размыт, есть какие-то неоднородные участки кожи, которые выделяются. Конечно, бывает пигментация, но у дипфейков кожа выглядит неестественно. 

Одна из самых сложных историй при создании дипфейка — волосы. Не всегда получается красиво уложить прядки. Поэтому и дипфейки на Трампа так плохо делаются. Из-за прически его очень тяжело вписать в какое-то видео. 

У подделки также могут быть неправильные тени с одной стороны — слева направо, с другой – сверху вниз. На вот эти вещи надо обязательно обращать внимание. 

Хочу сказать, что эволюция очень долго нас готовила к тому, что мы будем жить в мире себе подобных, поэтому и у нас выработалось такое предчувствие — «что-то не так». Когда мы подсознательно на каком-то животном уровне это ощущаем. Как же разобраться? Посмотрите на человека. Как он моргает? Он вообще моргает? Как двигается? Движения естественные? Обратите внимание, что когда, например, актер в кадре поет, то даже если делать он этого не умеет, он все равно будет издавать какие-то звуки. Потому что если он будет просто открывать рот, то шея останется гладкой, мышцы не будут напрягаться. Так и с человеком на видео. Нужно отмечать — есть ли у него движения мышц? Какая у него мимика? Могут вызвать подозрение глаза – обычно у дипфейков они «стеклянные». Потому что образ часто берется с фотографии или из видео, где у человека нет живого движения глаз.

Еще важно помнить, что дипфейки — это не только про видео, но и про аудио. Можно взять готовое видео и просто подложить другой текст. И здесь надо будет смотреть внимательно: артикуляционные движения на видео совпадают с текстом? Если это какое-то видео с переводом, нужно найти исходник и даже какое-то базовое знание иностранного языка может подсказать: оригинал это или нет. Дипфейк не делается из ничего, иначе это будет уже 3D-графика, – поделилась советник генерального директора телеканала RT Тина Бережная

Как отмечает эксперт, обнаружить подделку аудио сложнее всего. Особенно, когда идет якобы разговор разных людей. 

— Чтобы доказать, что это фейк, надо иметь отличные уши и внимательно слушать, причем желательно на больших колонках. В процессе надо будет отмечать все неестественные моменты, стыки. Последние обычно маскируются шумом. Заметили, что в течение трех минут на аудио разный уличный шум? Ведь вряд ли человек умеет во время разговора телепортироваться. Обратите внимание, насколько естественный шум, насколько равномерные паузы. Если паузы очень аккуратны и одинаковы по объему, значит, их туда вставили. Потому что обычно в жизни мы как разговариваем? Подбираем слова в зависимости от разной ситуации.

Аудиофейки обычно делают на какие-нибудь бандитские переговоры или на болезненные темы. Поэтому человек, произноси он это на самом деле, будет подбирать слова. Соответственно, темп речи будет неровный. Будут разного размера паузы, интонации. На этом надо обязательно заострять внимание. Монотонная и безэмоциональная речь тоже должна настораживать, особенно если обычно человек полон эмоцией. Если мы слышим монотонное чтение текста — здравствуй, дорогой генератор голоса, — подчеркнула Тина Бережная

Для удобства эксперт поделилась памяткой того, как распознать, что видео— или аудиодипфейк. 

  • Поисковая система. Прогоняем скриншот в поисковике. Если картинки находятся похожие, но с другим лицом – фейк. 
  • Артефакты. Размытие, замыливание, чрезмерная резкость, «странные» волосы, выбивающиеся пряди, неправильные тени. 
  • Что-то не так. Мы подсознательно чувствуем! Как человек моргает? Двигается? Какая мимика? Глаза «живые»? 
  • Аудио и видео. Совпадают ли движения губ с текстом? Можно ли найти это видео с тем же текстом? 
  • Аудиофейк. Верна ли интонация? Равномерный ли шум? Естественные ли паузы?
  • Это точно Петров? Если должностное лицо, не забываем спросить пресс-службу, говорил ли «начальник» вот это. 
  • Откуда дровишки? Каков источник? Отвечает ли он на запросы? Другие СМИ проверяли видео/аудио на подлинность?
  • Анонимный источник. Есть другие свидетели? Фото с места съемок? Другие подтверждения? 
  • Помощь друга. Не можем сами — просим эксперта по машинному обучению и нейросетям. 
  • Учим матчасть. Знания в области технологии дипфейка, новых программ, особенностей их работы и т.д. — хороший способ отличить подделку.
  • Крайний случай. Если сомнения есть, а доказательств нет, обязательно предваряем публикацию словами о возможной подделке и объяснением.
По материалам ИА PrimaMedia.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *