В исследовательском отчёте от поставщика аналитических систем безопасности Recorded Future говорится, что голосовое клонирование способно обойти многофакторную аутентификацию по голосу в дикой природе. Авторы отчёта говорят, что необходим межотраслевой подход, чтобы держать под контролем deepfake voice.
Отчёт «У меня нет рта, и я должен совершать преступления» является отсылкой к мрачным видениям автора научной фантастики Харлана Эллисона (Harlan Ellison), но содержащиеся в нём выводы заслуживают поэтического расцвета.
«Технология клонирования голоса в настоящее время используется злоумышленниками в дикой природе», – говорится в отчёте. Это «способствует распространению дезинформации и неразборчивости в информации и повышает эффективность социальной инженерии». Барьер для входа продолжает снижаться, благодаря таким платформам, как популярный Prime Voice AI от ElevenLabs, предлагающий недорогие браузерные опции преобразования текста в речь (TTS).
«Образцы клонирования голоса – например, голоса знаменитостей, политиков и интернет–персон («влиятельных лиц») – предназначены для создания либо комедийного, либо вредоносного контента, который часто носит расистский, дискриминационный или насильственный характер», – говорится в отчёте. Субъекты угроз демонстрируют эффективные голосовые мошеннические атаки, включая голосовой фишинг, или вишинг.
Для таких платформ, как модель искусственного интеллекта TTS от Microsoft, VALL-E, требуется всего три секунды аудиозаписи, чтобы можно было сгенерировать клонированный голос, например, любимого человека, просящего внести залог.
На данный момент технические ограничения означают, что клонирование голоса в основном используется для мелкомасштабного мошенничества, используя одноразовые образцы для вымогательства или дезинформации. Тем не менее, результаты могут быть катастрофическими для отдельных людей. В этом месяце канадская телекомпания CBC сообщила о клонировании голоса, использованном для обмана восьми пожилых людей в Ньюфаундленде на сумму 200 000 канадских долларов (148 000 долларов США). Жертвам поступали звонки, во время которых клонированные голоса их внуков просили у них денег на покрытие неотложных расходов.
В других случаях клонированные голоса использовались при похищении людей и аферах с заложниками.
В отчете был проведён обзор dark web chatter и установлено, что некоторые участники угроз не убеждены, что современная технология клонирования голоса способна справиться с определёнными препятствиями безопасности, особенно когда речь идёт о клонировании голосов, не говорящих по-английски. Но они уже находят способы изменить его. Одним из таких обходных путей является клонирование голоса как службы, или VCaaS. Согласно отчёту, это «новая форма коммерциализированной киберпреступности, при которой «специалисты» по клонированию голоса предоставляют индивидуальные образцы клонирования голоса, часто рекламируя свои услуги через Telegram».
Более того, общий рост осведомлённости общественности об искусственном интеллекте привёл к резкому увеличению числа бесплатных анонимных сторонних сервисов клонирования голоса. Программное обеспечение для клонирования голоса с открытым исходным кодом появляется в социальных сетях и в хранилищах кода. А киберпреступники пытаются найти способы обойти ограничения на контент, введенные такими платформами, как ElevenLabs, которые вызвали гнев постеров на Reddit, когда обновили стандарты своего сообщества, чтобы предотвратить клонирование голоса в неблаговидных целях.
В докладе организациям рекомендуется принимать меры на раннем этапе для устранения рисков, связанных с клонированием голоса, которые растут. «Немедленно требуется общеотраслевой подход, чтобы предотвратить дальнейшие угрозы, связанные с будущими достижениями в технологии клонирования голоса».
По материалам Biometrics Research Group. Автор Joel R. McConvey
