Google заключил партнерские отношения с Jigsaw для производства и доставки огромной базы данных визуальных фальшивых подделок, которая в настоящее время является частью эталона FaceForensics, созданного Техническим университетом Мюнхена и Университетом Федерико II в Неаполе, о чем сообщил технический гигант в своем блоге.
Впервые обнаруженные в 2017 году, подделки генерируются глубокими генеративными моделями, которые изменяют видео и аудио. Существует множество методов генерации подделок, в том числе с открытым исходным кодом, которые могут стать угрозой в любой момент, если попадут в чужие руки. Атаки Deepfake заявили о своей первой жертве после того, как поддельная запись голоса использовалась для подражания руководителю британской энергетической компании и манипулирования сотрудником, чтобы сделать банковский перевод на сумму почти четверть миллиона долларов.
База данных состоит из сотен записанных видео, которые были обработаны широкодоступными методами генерации deepfake, чтобы создать тысячи фальшивых подделок.
«Обнаружение глубоких подделок – одна из самых важных задач, стоящих перед нами», – написал генеральный директор Google Сундар Пичаи. «После того, как в январе мы выпустили синтетический набор аудиоданных, мы выпускаем большой набор данных визуальных глубоких подделок для поддержки исследователей, работающих над синтетическим обнаружением видео».
Данные можно скачать бесплатно со страницы GitHub FaceForensics.
В недавнем интервью Financial Times Пичай предостерег от реакционного или слишком широкого регулирования искусственного интеллекта, заявив, что существующих правил может быть достаточно. Он предположил, что «разумное регулирование», обеспечивающее баланс между защитой граждан и инновациями, является правильным подходом для ИИ. Цель Pichai – избежать повторения ошибок индустрии технологий прошлого, работая в партнерстве с правительствами.
С приближением президентских выборов в США в 2020 году растет озабоченность по поводу фальсификации политических манипуляций и их влияния на общественность.
Угроза глубоких подделок для социального дискурса побудила группу заинтересованных сторон, включая Facebook, Партнерство по искусственному интеллекту, Microsoft и ученых из США и Великобритании, организовать Deepfake Detection Challenge (DFDC), чтобы представить новый набор данных для разработки технологий, которые идентифицирует видео с измененным искусственным интеллектом.
По материалам Biometrics Research Group. Автор Luana Pascu.
