Европейский союз, Reddit и Google предпринимают шаги, чтобы что-то сделать с deepfakes. Чего именно они добьются, неясно.
Согласно эксклюзивному сообщению Reuters, ЕС хочет, чтобы компании-платформы, включая Facebook и Twitter, «приняли меры по противодействию глубоким подделкам» на своей территории.
Фактически, официальные лица, как сообщается, меняют кодекс добровольной практики 2018 года по борьбе с дезинформацией на схему совместного регулирования, которая предусматривает ответственность всех подписантов. Теперь в нём также говорится о глубоких подделках как части дезинформации.
Среди подписантов кодекса – ЕС, Google, Twitter, Facebook, Mozilla и рекламные фирмы.
Они будут «принимать, укреплять и внедрять чёткую политику в отношении недопустимого манипулятивного поведения и практики в своих сервисах, основанную на последних данных о поведении и тактике, методах и процедурах», стоящих за злонамеренными действиями deepfake, сообщает Reuters.
ЕС будет использовать свой Закон о цифровых услугах, чтобы штрафовать компании на сумму до шести процентов от глобальной прибыли, если они не выполняют свои обязательства. У них будет шесть месяцев, чтобы привести себя в порядок.
Так получилось, что Google сообщила пользователям DeepFaceLab, что они больше не могут использовать сервисы кодирования Colab для обучения deepfakes, согласно торговому издателю Unite AI. Издание описывает DeepFaceLab как «печально известную».
Colab разработан скорее как образовательный инструмент для студентов, позволяющий им бесплатно запускать очень большие проекты с кодом на быстром оборудовании с высокой пропускной способностью. Подразумевается, что люди использовали сверхмощные системы для создания глубоких подделок с высоким разрешением.
Reddit, некогда запрещенный сервис постинга, запретил сообщество r/deepfakesfw. Суффикс означает «безопасный для работы».
Четыре года назад Reddit закрыл ещё один форум deepfake, но этот форум был посвящён созданию и просмотру поддельного видео-порно, сообщает Unite AI в другой статье.
Издание отмечает, что Reddit не запретил r/DeepFakesSFW (двойное «s») или r/SFWdeepfakes, у которых во много раз больше читателей, чем у двух других упомянутых здесь.
По-видимому, в Reddit сработало то, что люди в r/deepfakesfw использовали форум для запроса пользовательского запрещённого порно.
Есть ещё компания компьютерного зрения Paravision, которая специализируется на распознавании лиц и действий. В этом месяце она опубликовала маркетинговое эссе о том, почему компания работает над устранением глубоких подделок.
В сообщении говорится, что Paravision сотрудничает с «правительственным агентством Five Eyes» для написания алгоритмов глубокого обнаружения подделок. «Пять глаз», разведывательный альянс, существующий уже несколько десятилетий, состоит из Австралии, Канады, Новой Зеландии, Соединенного Королевства и Соединенных Штатов.
Члены Five eyes уже обмениваются биометрическими данными для повышения национальной безопасности.
На прошлой неделе компания заявила, что получила финансирование от неназванного партнера the Five Eyes для разработки программного обеспечения для обнаружения deepfake видео. Ни размер сделки, ни название организации не разглашались.
Все эти события являются хорошей новостью для всех, кто беспокоится о том, какой хаос может быть вызван глубокими подделками. Но, по большей части, цели и методы расплывчаты.
Даже вероятные наказания, которые ЕС, по сообщениям, готов наложить на своих партнёров по дезинформации, размыты. Может ли Google быть застигнут врасплох программистом deepfake? Конечно. Он не застрахован от любых других видов кибератак.
Означает ли это, что Google или её партнеры будут оштрафованы за то, что кто-то оказался умнее их сотрудников? Должен ли весь код, разработанный для этой миссии, быть с открытым исходным кодом?
Google закрыл ещё одно сообщество deepfake, но, по–видимому, по очень специфическим причинам – потому что сообщество стало рынком для порнографии.
И Paravision почти наверняка в конечном итоге будет работать над китайскими (хорошо, и северокорейскими) подделками и контрподлогами так много, что большая часть её сотрудников скоро будет свободно говорить на кантонском диалекте.
В совокупности эти события напоминают сеть, через которую будет проплывать очень опасный контент.
По материалам Biometrics Research Group. Автор Jim Nash
