Компания Apple представила нейросеть под названием NeuMan, способную генерировать дипфейк-видео на основе уже существующих роликов. Новой нейросети достаточно 10-секундного видео с вашим участием, чтобы сделать фейк.
Как создать подделку?
На сегодняшний день существует множество проектов и приложений, находящихся в свободном и бесплатном доступе, с помощью которых можно создать дипфейки. Для этого не нужно уметь программировать.
ZAO – приложение для Android и iOS. Суть заключается в модулировании голоса знаменитостей и наложении своего лица на тело актера. Приложение основано на работе обучаемых нейросетей. Они не просто заменяют одно изображение на другое, но и копируют мимику и движения героя. Однако есть недостатки – программа заточена под Китай, поэтому обработка лиц европейского типа пока не проработана.
DeepFace Lab – одна из самых популярных программ для создания дипфейков. Репозиторий проекта имеет почти 8 тысяч форков и 34 тысячи звёзд на GitHub. Система рассчитана одновременно на пользователей без знаний о фреймворках глубокого обучения и на разработчиков.
Reface – это стартап, который переходит от приложения для смены лица к социальной платформе. Проект нацелен на создание дипфейков для индустрий моды и рекламы. Достаточно одной фотографии в анфас, чтобы увидеть своё лицо в популярных гифках, отрывках фильмов, рекламе или игре. Разработчики одновременно со своими сервисами создают антидоты, помогающие распознать сгенерированные изображения и видео.
Как выявить подделку и не стать жертвой обмана?
Вы можете попытаться определить дипфейк как самостоятельно, так и с помощью специальных программ.
Самостоятельный поиск
У дипфейков есть отличительные от оригинала особенности — они могут иметь уловимые человеческим глазом артефакты, или небольшие отклонения. Они же и будут являться предупреждающими сигналами тому, что перед вами подделка.
В таблице ниже собраны некоторые характерные черты для дипфейков.
Примеры:
Когда не удаётся найти дипфейк своими силами, поможет профессиональная экспертиза. Так случилось с предполагаемым дипфейком президента Габона.
Осенью 2018 в Габоне сформировалась напряженная политическая ситуация, связанная с долгим отсутствием в стране президента Али Бонго и слухами о его смерти. На фоне спекуляций советники президента пообещали, что он выступит со своим обычным новогодним обращением. В итоге правительство опубликовало видео, которое вызвало у народа больше вопросов, чем ответов. Некоторые габонцы пришли к выводу, что видео является подделкой. Главный технолог компании McAfee со своей командой, занимающейся киберзащитой, провели две экспертизы и дали почти 92-процентную вероятность подлинности видеообращения.
Алгоритмы и программы, которые находят дипфейки
По иронии судьбы, искусственный интеллект помогает не только создавать, но и выявлять дипфейки. Однако многие существующие системы обнаружения качественно работают лишь на фотографиях знаменитостей из-за того, что нейросети тренируются часами на свободно доступных кадрах.
Уже существуют алгоритмы, помогающие создателям проверять подлинность своих видеозаписей. Например, криптографический метод используется для вставки хэшей через определенные промежутки времени по всему фильму. Хэши изменятся, если видео будет модифицировано.
Программы, с помощью которых можно обнаружить дипфейки:
- Deepware – бесплатный сканер видео с открытым исходным кодом и приложение для Android.
- Image Edited – программа бесплатно определяет, были ли внесены изменения в снимок. Если были, сообщает, в каком графическим редакторе их сделали. Сервис анализирует фото на уровне пикселей и их цветов.
Вышеперечисленные программы работают только для видео- и фото-подделок. Аудио-дипфейки вычислить сложнее, а их создание менее трудозатратно и не требует больших мощностей.
Дипфейк-технология будет развиваться, как и методы её обнаружения. На сегодняшний день обнаружить дипфейк-видео не составит труда. Многие примеры дипфейков в настоящее время являются просто забавными пародиями или экспериментами, предназначенными для изучения пределов технологии глубокого обучения. Однако дело обстоит иначе с аудио-дипфеками, они уже сегодня довольно реалистичны. Опытным злоумышленникам не составит труда прописать скрипт диалога. К тому же, существуют программы, которые создают аудио-дипфейки онлайн.
На уровне организаций должен быть чёткий регламент для подтверждения финансовых транзакций или других важных действий. Необходимо прописать инструкцию, в соответствии с которой, исполняющий персонал будет получать подтверждение своих действий либо через другой канал связи, либо через второе доверенное лицо.
Ведущий специалист департамента анализа защищенности Вадим Шелест
По материалам VC
