Исследователи из компании Kneron, производящей чипы искусственного интеллекта, рассказали, как им удалось обмануть систему распознавания лиц. Эксперимент проходил на трёх континентах, и везде им удалось обойти систему. Об этом сообщает издание businessinsider.com.
Чтобы протестировать системы безопасности, участники напечатали маски, изображающие лицо другого человека.
Человек в напечатанной на 3D-принтере реалистичной маске подходит к терминалам AliPay и WeChat, расположенным в одном из торговых центров Китая. Система распознавания лиц идентифицировала маску как настоящее лицо, после чего позволяла совершать покупки. Таким же образом участвующий в экспериментах человек обманул турникеты железнодорожного вокзала.
Однако есть некоторая неопределенность: покупки совершал только один человек в одной и той же маске. Кроме того в исследовании не говорится, сколько попыток идентификации закончились удачно.
Стоит также отметить, что ни одна из проверенных систем не использует для идентификации лишь систему распознавания лиц. Например, терминалы AliPay и WeChat требуют ввести цифры телефонного номера, зарегистрированного на проходящего идентификацию человека, а на вокзале необходимо предъявить специальную проездную карту, прежде чем система распознавания лиц начнет сканирование.
В итоге им удалось обмануть несколько терминалов платёжных систем, пройти контрольно-пропускной пункт на границе с Китаем и в амстердамском аэропорту. Авторы опыта отмечают, что им не удалось обойти Apple Face ID, Huawei, а также собственную систему, так как они используют технологию структурированной световой визуализации. Это достаточно сложная технология, отметили в Kneron.
Кстати, Apple при разработке собственной системы идентификации Face ID консультировалась у производителей масок, чтобы обучить нейронные сети распознавать вероятный подлог. Возможно, устройства Apple используют иные алгоритмы для распознавания лиц, нежели китайские терминалы, которые тестировала компания Kneron.
Исследователи пришли к выводу, что любой человек может обмануть многие системы в аэропортах и платёжных терминалах. Однако обман состоится, если рядом нет службы безопасности, сотрудник которой может заметить манипуляции с маской.
Поставщики технологий должны нести ответственность, если они не защищают пользователей по самым высоким стандартам
Пояснил суть опыта генеральный директор Kneron Альберт Лю.
Эксперимент проводился с разрешения охранных служб тестируемых объектов, отмечает издание.
По материалам news.ru
