В недавнем эксперименте, Vice.com писатель Джозеф Кокс использовал голос, сгенерированный искусственным интеллектом, чтобы обойти систему безопасности Lloyds Bank и получить доступ к своей учётной записи.
Для достижения этой цели Кокс воспользовался бесплатным сервисом генерации голоса с использованием искусственного интеллекта компании ElevenLabs, которая предоставляет голоса для информационных бюллетеней, книг и видео.
Кокс записал пятиминутную речь и загрузил её в ElevenLabs. После внесения некоторых корректировок, искусственный интеллект прочитал более длинный текст для более естественной интонации, сгенерированный звук обошёл защиту Lloyds security.
«Я не мог поверить, что это сработало. Я использовал копию голоса на базе искусственного интеллекта, чтобы взломать банковский счёт. После этого я получил доступ к информации о счёте, включая балансы и список недавних транзакций и переводов»
Написал Кокс в своей статье Vice
Многие банки Соединенных Штатов и Европы используют голосовую аутентификацию для ускорения входа в систему по телефону. В то время как некоторые банки утверждают, что идентификация по голосу сравнима с отпечатком пальца, этот эксперимент демонстрирует, что биометрическая безопасность на основе голоса не обеспечивает идеальной защиты.
По словам Кокса, ElevenLabs не прокомментировала взлом, несмотря на многочисленные запросы. Однако в предыдущем заявлении соучредитель фирмы Мати Станишевски заявила, что новые гарантии сокращают количество злоупотреблений и помогают властям выявлять тех, кто нарушает закон.
Предотвращение неправильного использования ИИ голоса
Технология противодействия такого рода атакам, по крайней мере теоретически, уже есть на рынке.
ID R&D разработала мультимодальную систему биометрической аутентификации, которая пассивно проверяет несколько биометрических данных во время сеанса. Эта технология предназначена для того, чтобы гарантировать подлинность разговоров, гарантируя, что говорят только настоящие люди, а не боты.
Nuance Communications также работает над борьбой со злоупотреблением голосом искусственного интеллекта.
Бретт Беранек, вице-президент и генеральный менеджер по безопасности и биометрии в Nuance, сказал, что продукты искусственного интеллекта могут обнаруживать мошенничество из разговоров людей во время сеансов в реальном времени.
В нём рассматриваются выбор слов, грамматическая точность, синтаксические соглашения, а также используемые эмодзи и акронимы. После этого искусственный интеллект сравнивает эти элементы с шаблонами законных клиентов, а также с шаблонами известных мошенников.
«Объединение этих методов биометрии с небиометрическими факторами, такими как обнаружение окружающей среды и экспертиза звонков, и передача результатов в механизм управления рисками на базе искусственного интеллекта позволяет организациям оценивать риск каждого взаимодействия в режиме реального времени»
Сказал Беранек
По материалам Biometrics Research Group. Автор Larisa Redins
