Масштабы мошенничества с глубокими подделками продолжают расти, и последний пример был раскрыт в Гонконге. Между тем, инсайдеры предупреждают, что инструменты обнаружения должны совершенствоваться при исследовании более тёмной кожи.
Полиция Гонконга раскрыла первое дело в этом финансовом центре, связанное с глубокими подделками с целью обмана банков и других кредиторов.
Полиция арестовала шесть человек, которые подделали восемь украденных изображений, а также украденные гонконгские удостоверения личности и документы, подтверждающие адрес и доход. Подозреваемые предположительно использовали поддельные документы, чтобы подать заявку по меньшей мере на 20 займов онлайн. Одна из заявок была одобрена на получение кредита в размере 70 000 гонконгских долларов (8 937 долларов США), сообщает South China Morning Post. The Morning Post принадлежит Alibaba, акциями которой владеет китайское правительство.
Сгенерированные изображения использовались для имитации людей с удостоверений личности во время процесса онлайн-подачи заявок, когда финансовые учреждения требуют от заявителей загружать сканы своих документов, удостоверяющих личность, и селфи в режиме реального времени.
Другая афера deepfake, совершенная в мае прошлого года, уговорили гражданина Японии купить в кредит компьютерные игры на сумму 1700 гонконгских долларов (216 долларов США). Жертва была одурачена мошенническим видеозвонком, в ходе которого мошенник поменялся лицом с генеральным директором гонконгского банка.
Предвзятость при обнаружении глубокой подделки может чаще причинять вред некоторым людям
ID insiders предупреждает, что методы обнаружения глубокой подделки не всегда работают на людях с более тёмными тонами кожи. Тренировочные наборы должны содержать информацию обо всех этнических группах, акцентах, полах, возрастах и оттенках кожи, чтобы быть более эффективными.
Риджул Гупта, соучредитель и генеральный директор DeepMedia, поставщика приложений для социальных сетей deepfake, рассказал The Guardian, что наборы данных были сильно искажены в пользу белых мужчин среднего возраста. «Врождённая предвзятость» этих инструментов означает, что они будут работать хуже при анализе изображений всех остальных пользователей.
По словам Гупты, произойдёт «увеличение числа мошенничеств с глубокими подделками, мошенничества и дезинформации, вызванных искусственным интеллектом, которые будут в высшей степени целенаправленными и ориентированными на маргинализованные сообщества».
Мутале Нконде, советник по политике в области искусственного интеллекта и генеральный директор AI for the People, некоммерческой организации, пытающейся подтолкнуть искусственный интеллект к социально ответственным, демократическим ролям, отмечает, что разработчики хорошо осведомлены о проблеме распознавания лиц при тёмных тонах кожи. Но, учитывая, что существует мало правил продажи услуг по распознаванию лиц, он утверждает, что лежащая в основе предвзятость продолжает воспроизводиться.
Эллис Монк, профессор социологии Гарвардского университета и приглашённый исследователь факультета в Google, говорит, что он пытался решить проблему, предоставив новые наборы данных для моделей машинного обучения. Его шкала тонуса кожи Monk обеспечивает более широкий спектр тонов, чем шкала Фитцпатрика.
По материалам Biometrics Research Group. Автор Masha Borak
