Глава исследовательской группы передовых угроз McAfee говорит, что его команда использовала программное обеспечение для биометрического распознавания лиц и обычную человеческую коррупцию, чтобы оценить теоретическую возможность прохода на борт авиалайнера лица, внесенного в список запрета на авиаперелёты.
Этот процесс зависит от многих случайных предположений, как в фильме «Миссия невыполнима», но для Стива Повольни (Steve Povolny) из McAfee он достаточно реален, чтобы призвать индустрию к новым защитным мерам.
В блоге компании говорится, что сообщество кибербезопасности должно разработан стандарт, который позволит создать системы машинного обучения, готовые к биометрическим атакам.
Повольни считает, что разработчики неадекватно «рассматривают врожденные недостатки безопасности, присутствующие в загадочной внутренней механике моделей распознавания лиц». Это «может предоставить киберпреступникам уникальные возможности для обхода критически важных систем, таких как автоматизированное исполнение паспортов».
Целью группы является создание изображений в паспортном формате, которые убедят систему распознавания лиц в том, что на фотографии человек А, которого нет в искусственно созданном списке лиц не допускаемых к авиаперелётам, а на самом деле это был человеком Б. Сообщается, что миссия была выполнена.
Повольный пишет, что, насколько ему известно, его работа является уникальным использованием взлома модели и распознавания лиц. Предполагается, что у человека A нет цифрового изображения в соответствующей правительственной системе, а у человека B есть.
В эксперименте для человека B используется структура CycleGAN, чтобы преобразовать изображение человека Aв изображение человека B.
Полученное изображение выглядит достаточно похоже на каждого из них и в то же время достаточно отличается, чтобы живое изображение человека А, записанное автоматизированной системой паспортного контроля, не привлекало агентов федеральных правоохранительных органов.
По словам Повольного, агент службы безопасности, скорее всего, обнаружит обман. И передова система видеонаблюдения, подобная той, что используется в крупных аэропортах, может обнаружить человека А в зале ожидания. Но если предположить, что человек А не будет автоматически помечен позже, и камеры распознавания лиц пропустят подозреваемого, то человек А вылетит в этот день.
Повольный пишет, что в других сферах деятельности, таких как криптография, обычной практикой является создание стандарта надежности машинного обучения во всё более враждебной среде. Он предлагает сделать то же самое для биометрии.
По материалам Biometrics Research Group. Автор Jim Nash
