Люди, никогда не теряющие самообладания, склонны переоценивать свою способность обнаруживать глубокие подделки, говорится в новом исследовании Jumio. Для онлайн-исследования идентификации личности, проведённого фирмой по проверке личности в 2023 году, они изучили данные 8055 потребителей в США, Великобритании, Сингапуре и Мексике.
Более двух третей респондентов знали о возможностях инструментов генеративного искусственного интеллекта, и более половины были уверены, что смогут распознать видео с дипфейк подделкой, созданное с помощью большой языковой модели, или искусственного интеллекта. Однако достижения в области инструментов генерирующего искусственного интеллекта (из которых ChatGPT в настоящее время является наиболее разрекламированным и хорошо известным) усложнили картину, и мошенничество остаётся дорогостоящей проблемой.
По данным Jumio, в 2022 году мошенничество с выдачей себя за другого обошлось Великобритании в 177 миллионов долларов, а потребителям в США – в 2,6 миллиарда долларов. Очевидно, что мы не так умны, как нам кажется, когда речь заходит об искусственном интеллекте, и не так осторожны, как следовало бы.
«Многие люди, похоже, думают, что могут распознать глубокую подделку. Хотя, безусловно, есть явные признаки, на которые следует обратить внимание, глубокие подделки с каждым разом становятся всё лучше в геометрической прогрессии, и их становится всё труднее обнаружить без помощи искусственного интеллекта»
Сказал Стюарт Уэллс (Stuart Wells), технический директор Jumio, в пресс-релизе
«В то время как компаниям всё чаще будут требоваться технологии на базе искусственного интеллекта для выявления и защиты своих сетей и клиентов от дипфейк подделок, потребители могут защитить себя, скептически относясь к провокационным изображениям, видео и аудио»
Сказал Уэллс
Похоже, мы начинаем осознавать риск, по крайней мере, в некоторых местах. Респонденты в Сингапуре и Мексике продемонстрировали высокую осведомлённость о потенциальной угрозе кражи личных данных и других вредоносных целях – 73 и 62 процента соответственно. И в США, и в Великобритании доля респондентов, ответивших на этот вопрос, составила менее 50 процентов.
«Организации обязаны обучать своих клиентов нюансам технологий генеративного искусственного интеллекта, чтобы помочь им сформировать более реалистичные ожидания относительно своей способности обнаруживать глубокие подделки»
Сказал Филипп Пойнтнер (Philipp Pointner), руководитель отдела цифровой идентификации Jumio
Однако он подчеркнул столь же настоятельную необходимость в адекватных средствах безопасности и защите данных.
«Онлайн-организации должны стремиться внедрить мультимодальные системы проверки на основе биометрических данных, которые могут обнаруживать глубокие подделки и предотвращать использование украденной личной информации»
Сказал он
Согласно результатам, отражённым в аналогичных отчётах, 68 процентов потребителей заявили, что им удобно пользоваться цифровым удостоверением личности, при этом финансовые услуги, государственное управление и здравоохранение входят в число услуг, для которых предпочтение отдаётся цифровому удостоверению личности.
В начале 2023 года Jumio объявила, что объём заказов на биометрию для селфи, проверку личности и инструменты оценки рисков превысил 200 миллионов долларов.
По материалам Biometrics Research Group. Автор Joel R. McConvey
