Компания Facebook, Inc. ищет способ определить происхождение изображений – дипфейков. Это должно помочь бороться с дезинформацией. Дипфейк – методика создания поддельных изображений людей и объектов при помощи искусственного интеллекта. Обычно это делается путем соединения и наложения существующих изображений на другие изображения или видеоролики. Технология может использоваться для создания видеороликов, имитирующих знаменитостей или политиков, в которых они делают или говорят что-то, чего они не делали.
В чем суть исследования?
При сотрудничестве с университетом штата Мичиган компания Facebook, Inc. разрабатывает метод, который позволит выяснить происхождение дипфейков (методику, которая была использована для их создания). Это поможет определить источник происхождения контента, даже если он опубликован на разных онлайн-платформах. Техника называется реверс-инжиниринг.
Facebook утверждает, что она будет полезна для обнаружения скоординированной дезинформации или других вредоносных атак. Также сообщается, что исследователи изучают уникальный след, оставляемый используемой методикой для создания дипфейков. Это поможет понять, кто автор изображения и как оно сделано.
Как проводились опыты?
В процессе исследования были внимательно проанализированы компоненты различных моделей искусственного интеллекта. Для того чтобы протестировать этот метод, исследователи создали набор данных из 100 тысяч поддельных изображений, сгенерированных путем использования 100 моделей дипфейка, которые находятся в общем доступе в интернете.
Университет предоставляет всем желающим код и модели с набором данных, чтобы другие исследователи могли также изучать технологию. Они надеются, что в будущем можно будет объеденить работу разных специалистов и сделать более эффективную платформу для поиска дипфейков, а также наладить коммуникацию между различными социальными сетями.
Годом ранее Facebook проводила конкурс по выявлению дипфейков с призовым фондом в 10 миллионов долларов.
По материалам FB.ru. Автор Юлия Толок
