Microsoft помогает выявлять deepfake

BBC рассказала, что компания Microsoft разработала программу для борьбы с дипфейками. Программное обеспечение анализирует фото или видео и дает оценку вероятности, что представленный материал создан искусственно.

Современные технологии позволяют создавать дипфейки, практически неотличимые от реальных видео. Они могут использоваться злоумышленниками для распространения дезинформации, введения людей в заблуждение для манипуляции их мнением и целенаправленным поведением. Компания надеется, что её технология поможет «бороться с дезинформацией».

Microsoft Video Authenticator анализирует фотографии или видео наличие особенностей, которые не видны невооруженным глазом. Алгоритмы выявляют пограничные аномалии, которые появляются между оригинальным изображением и добавленными элементами в виде выцветания или серого цвета. Если эти признаки будут найдены, то программное обеспечение определит вероятность того, что эти изображения были отредактированы. «Во время воспроизведения видео – этот процент может быть определён для каждого кадра в режиме реального времени», – говорится в блоге.

Подмена видео в режиме реального времени

Технология была разработана командой Microsoft Research в сотрудничестве с Microsoft Responsible AI и Комитетом Microsoft по ИИ, этике и последствиям в разработке и исследованиях (Microsoft AI, Ethics and Effects in Engineering and Research, AETHER). Для машинного обучения использовался общедоступный набор данных Face Forensic и потом проведено тестирование на наборе данных DeepFake Detection Challenge. На текущий момент, Video Authenticator доступен только для политических организаций через Reality Defender 2020 AI Foundation, некоммерческую организацию, призванную помочь «защититься от синтетического контента».

Данная инициатива по борьбе с дезинформацией является частью программы Microsoft Defending Democracy Program, которая также включает такие технологии, как ElectionGuard  для борьбы с дезинформацией, а AccountGuard должна защитить от фейков и провокаций кампании кандидатов.

Еще одна технология, которая может как обнаруживать манипулятивный контент, так и убеждать людей в подлинности просматриваемых медиафайлов, состоит из двух компонентов. Первый — это инструмент, встроенный в Microsoft Azure, который позволяет производителю контента добавлять цифровые хэши и сертификаты в часть контента. Затем хэши и сертификаты сохраняются вместе с контентом как метаданные, где бы он ни находился в сети.

Второй — это считыватель, который может существовать как расширение браузера или в других формах, проверять сертификаты и сопоставлять хэши, позволяя людям быть уверенными, что они потребляют подлинный контент, а также предоставляя им подробную информацию о том, кто его создал. Microsoft надеется, что эта система аутентичности цифровых водяных знаков станет основой  инициативы Trusted News Initiative, объявленной в прошлом году британской государственной вещательной компанией BBC – специально для компонента проверки под названием Project Origin, который возглавляет коалиция BBC, CBC / Радио-Канада, Microsoft и The New York Times. Технология цифровых водяных знаков будет протестирована Project Origin с целью превращения ее в стандарт, который может быть широко принят.

Мы ожидаем, что методы создания синтетических медиа будут продолжать совершенствоваться. Поскольку все методы обнаружения ИИ имеют частоту отказов, мы должны понимать и быть готовыми реагировать на дипфейки, которые смогут обойти методы их обнаружения. Таким образом, в долгосрочной перспективе мы должны искать более надежные алгоритмы для поддержания и подтверждения подлинности новостных статей и других средств массовой информации. 

Помимо этого, Microsoft развернула программу NewsGuard , которая позволяет пользователям подробнее узнать об онлайн-источнике новостей, прежде чем использовать его контент. NewsGuard управляет командой опытных журналистов, которые оценивают новостные сайты на основе девяти критериев журналистской этики и присваивают каждому оценку. NewsGuard доступен после установки расширения, доступного для стандартных браузеров. Microsoft отмечает, что не имеет никакого редакционного контроля над рейтингами NewsGuard, а расширение браузера NewsGuard никоим образом не ограничивает доступ к информации.

В рамках борьбы с дипфейками Microsoft поддержала исследование профессора Джейкоба Шапиро из Принстона, в ходе которого было проанализировано 96 отдельных кампаний в 30 странах в период с 2013 по 2019 год. Эти кампании в социальных сетях были направлены на нанесение ущерба репутации известных людей, агитацию общественности или поляризацию дебатов. Более четверти таких кампаний таргетировались на США. Примерно 93% из них базировались на оригинальном контенте, 86% усиливали уже существующий контент и 74% искажали факты.

Microsoft в партнерстве с Вашингтонским университетом, Sensity и USA Today  запустили для избирателей в США викторину «Найди дипфейк». Интерактивная викторина будет распространяться на веб-сайтах и ​​в социальных сетях, принадлежащих USA Today, Microsoft и Вашингтонского университета, а также через рекламу в социальных сетях, согласно сообщению в блоге.


Нина Шик, автор книги о дипфейках, говорит: «Пока что в интернете получили распространение лишь порнографические видео женщин, выложенные там без их согласия. Но, судя по всему, фейковые видео и фото быстро распространятся в интернете в течение ближайших трех или пяти лет, и необходимо уже сейчас разработать методы борьбы с этим». По её мнению, технологии совершенствуются, поэтому не будет такого, что Microsoft выпустит какую-нибудь одну программу, которая сможет выявлять все виды манипуляций.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *