Исследователи нашли простой способ обмануть систему распознавания лиц

Исследователи нашли простой способ обмануть систему распознавания лиц
Исследователи из компании Kneron, производящей чипы искусственного интеллекта, рассказали, как им удалось обмануть систему распознавания лиц. Эксперимент проходил на трёх континентах, и везде им удалось обойти систему. Об этом сообщает издание businessinsider.com.

Чтобы протестировать системы безопасности, участники напечатали маски, изображающие лицо другого человека.
Человек в напечатанной на 3D-принтере реалистичной маске подходит к терминалам AliPay и WeChat, расположенным в одном из торговых центров Китая. Система распознавания лиц идентифицировала маску как настоящее лицо, после чего позволяла совершать покупки. Таким же образом участвующий в экспериментах человек обманул турникеты железнодорожного вокзала.

Однако есть некоторая неопределенность: покупки совершал только один человек в одной и той же маске. Кроме того в исследовании не говорится, сколько попыток идентификации закончились удачно.

Стоит также отметить, что ни одна из проверенных систем не использует для идентификации лишь систему распознавания лиц. Например, терминалы AliPay и WeChat требуют ввести цифры телефонного номера, зарегистрированного на проходящего идентификацию человека, а на вокзале необходимо предъявить специальную проездную карту, прежде чем система распознавания лиц начнет сканирование.

В итоге им удалось обмануть несколько терминалов платёжных систем, пройти контрольно-пропускной пункт на границе с Китаем и в амстердамском аэропорту. Авторы опыта отмечают, что им не удалось обойти Apple Face ID, Huawei, а также собственную систему, так как они используют технологию структурированной световой визуализации. Это достаточно сложная технология, отметили в Kneron.

Кстати, Apple при разработке собственной системы идентификации Face ID консультировалась у производителей масок, чтобы обучить нейронные сети распознавать вероятный подлог. Возможно, устройства Apple используют иные алгоритмы для распознавания лиц, нежели китайские терминалы, которые тестировала компания Kneron.

Исследователи пришли к выводу, что любой человек может обмануть многие системы в аэропортах и платёжных терминалах. Однако обман состоится, если рядом нет службы безопасности, сотрудник которой может заметить манипуляции с маской.

Поставщики технологий должны нести ответственность, если они не защищают пользователей по самым высоким стандартам

Пояснил суть опыта генеральный директор Kneron Альберт Лю.

Эксперимент проводился с разрешения охранных служб тестируемых объектов, отмечает издание.

По материалам news.ru

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *