Microsoft хочет быть лидером в обнаружении дипфейков

ИИ и кибербезопасность сближаются, по мнению главного научного сотрудника Microsoft, и Министерство обороны США должно сделать шаг вперёд.

Эрик Хорвиц (Eric Horvitz) выступил перед подкомитетом по кибербезопасности сенатского комитета по вооруженным силам, заявив, что ИИ становится всё лучше в обнаружении манипулируемых и синтетических личностей, включая глубокие подделки.

Но алгоритмы ИИ повышают эффективность кибератак, и алгоритмы, в свою очередь, становятся более уязвимыми для атак, говорит Хорвиц. Это начинает пугать многих людей. Опасения Европола, например, растут.

Появляются первые коммерческие продукты, предназначенные для выявления синтетических личностей. Конечно, он рассказал сенаторам о продуктах Microsoft для защиты от кибератак.

Но также появились новости о новом исследовании по выявлению фальшивых выражений как способе выявления глубоко поддельных видео и о новом коммерческом программном обеспечении, способном выявлять мошенничество с синтетическими идентификаторами. Ранее Unite.AI сообщил о менее сложном способе обнаружения подделок с помощью биометрии.

Исследователи из Калифорнийского университета в Риверсайде утверждают, что их система обнаружения манипуляций с выражением лица может обнаруживать и затем выделять измененные участки лица. Их статья находится здесь.

Между тем, компания под названием Early Warning Services рассказала о своем новейшем программном обеспечении на основе искусственного интеллекта Verify Identity, которое позволяет предприятию в режиме реального времени определить, является ли предъявленная личность действительной или синтетической.

Немногие из рекомендаций Хорвица для оборонного ведомства удивительны: Инвестировать в исследования и разработки, следовать лучшим практикам гигиены безопасности, обучать сотрудников, создавать сети для обмена информацией и опытом, готовиться к худшему.

Более интересно то, что он предлагает Министерству обороны «продвигать использование цифрового происхождения медиа для новостей и коммуникаций в … гражданской среде».

Этому вопросу посвящен законодательный акт – Закон о целевой группе по борьбе с фейками – представленный в сенате прошлым летом, который должен рекомендовать механизмы для определения того, кто создал и впоследствии манипулировал фейковым контентом.

Это будет непростой задачей, если правительство будет указывать на фальшивую информацию. Хотя никто не должен принимать фейки за чистую монету, многие люди не доверяют самому правительству.

По материалам Biometrics Research Group. Автор Jim Nash

Добавить комментарий

Ваш адрес email не будет опубликован.