Отслеживание сгенерированных голосов: они очень реальны

Auraya Systems модернизирует голосовой биометрический детектор мошенничества

В Соединенных Штатах не происходит ничего интересного, пока это не случается со знаменитостью. Ничего важного не происходит, пока о знаменитости не будет опубликовано. Именно так обстоит с биометрией deepfake.

Когда лицо актера настолько реалистично сочетается с лицом другого человека, это внушает благоговейный трепет. Очень хороший пример – поставить лицо Тома Круза над комиком Биллом Хейдером, когда Хейдер подражает кинозвезде.

Следующий логический шаг – это подделка голосов. Показательным примером этого является создание диалога для Энтони Бурдейна (Bourdain) в Roadrunner, новом документальном фильме об умершей культурной звезде. The New Yorker впервые рассмотрел это в статье о Бурдейне, а The Verge сделала небольшую статью, в которой выделила эрзац-цитаты.

Интересное развитие событий.

Конечно, это не был дебют поддельного голоса. До Бурдейна мало кто-то использовал искусственный интеллект, чтобы воспроизвести голос генерального директора для незаконного перевода 220 000 € в 2019 году (Если этот голос был грубее, чем у Бурдена, то руководитель был легковерен).

Возможно, чтобы обычному человеку на работе позвонил отчаявшийся супруг или супруга по поводу чрезвычайной ситуации, требующей немедленного перевода крупной суммы денег на незнакомый банковский счет?

Статья в Boston Globe, посвященная исследованию местных компаний, занимающихся искусственным интеллектом, говорит о том, что это вряд ли произойдёт сегодня, поэтому эта тема не так важна для большинства.

Майк Паппас (Mike Pappas), генеральный директор Modulate отвечает на этот вопрос «категорически нет». Возможно, но компания VoiceWear позиционируется как программное обеспечение, которое может «мгновенно преобразовать голос, чтобы лучше выразить виртуальную идентичность».

Сообщается, что для тренировки алгоритма подделки Бурдейна потребовалось более 12 часов аудио.

Однако руководитель с установленным Nuance в той же статье говорит, что это неизбежно произойдёт. Алгоритмы будут отключены и запущены после тренировки на обрывках речи.

Nuance в прошлом году запустила биометрические данные Gatekeeper в App Marketplace Five9 для борьбы с мошенничеством.

Издатель Help Net Security недавно опубликовал статью, написанную Андерсеном Ченгом (Andersen Cheng), генеральным директором Nomidio, который сказал, что поставщикам нужно будет добавить время как фактор для аутентификации чьей-либо личности.

Мошенник может украсть код доступа и запустить дипфейк, похожий на конкретного человека. В конце концов, это будет похоже на этого человека. По словам Ченга, в будущем всё равно станет возможно, что получится пройти тест на живучесть, требуя неожиданного ответа.

Задержки, вызванные алгоритмом, поскольку он выполняет математические вычисления, будут выдавать.

По материалам Biometrics Research Group. Автор Джим Наш

Добавить комментарий

Ваш адрес email не будет опубликован.