Onfido сообщает об огромном всплеске глубоких фейковых атак, поскольку правительства борются с новыми потенциальными угрозами
Робозвонки Джо Байдена deepfake, deepfake порно Тейлор Свифт, запуск Sora: за последние несколько недель наблюдались всё более разрушительные всплески распространенности генеративных алгоритмических инструментов, известных под общим названием AI. С быстрым ускорением приходит ажиотаж, и обеспокоенные регуляторы разрабатывают политику так быстро, как только могут. В ЕС и Великобритании некоторые законы уже действуют или принимаются. А законодатели Северной Америки стремительно переходят к регулированию. Тем не менее, учитывая скорость, с которой развиваются события, это может быть недостаточно быстро.
Дискуссии о влиянии глубоких подделок искусственного интеллекта на общество всегда были пронизаны тревогой, но в последние недели дискурс прочно вошел на территорию «не говорите, что мы вас не предупреждали». Поставщики биометрии и цифровых идентификаторов, законодатели и сотни экспертов из разных областей размахивают большим флагом, который говорит о том, что технология deepfake опережает усилия по её регулированию и контролю за её использованием в злонамеренных целях, и время для решения проблемы было вчера.
Onfido видит 3000%-ный рост числа глубоких подделок для мошеннической регистрации
В блоге для Onfido Алед Оуэн, директор по глобальной политике компании digital identity, говорит, что, хотя порнографические изображения знаменитостей с глубокой подделкой вызвали тревогу, существующее и развивающееся законодательство должно охватывать более широкую сеть.
«В то время как многие политики и регулирующие органы обдумывают свои следующие шаги по борьбе с глубокими подделками, законодательство должно пойти на шаг дальше, чем просто обращение к откровенным изображениям», – пишет Оуэн. Его список угроз, требующих рассмотрения на законодательном уровне, включает распространение дезинформации, особенно в контексте выборов, и более масштабную эрозию доверия к реальности.
«Некоторые эксперты предсказывают, что до 90 процентов онлайн-контента может быть создано синтетическим путем в течение нескольких лет», – говорит он, предостерегая от многоуровневой реальности, в которой несертифицированная информация становится пожаром, который сам себя подпитывает. Даже сертификация, утверждает он, не поможет понять разницу между реальным видео политика, делающего оскорбительный комментарий, который они хотят сохранить в тайне, и глубокой подделкой, делающей то же самое. Или, если звонит бабушка и просит 500 долларов, как вы сочетаете недоверие, посеянное аудио-фейками, с вероятностью того, что ей действительно нужна помощь?
Мошенничество с цифровыми идентификационными данными – третья серьёзная проблема, на которую Оуэн призывает законодателей обратить внимание. Поддельные биометрические данные используются для открытия незаконных банковских счетов, обмана сотрудников и позволяют мошенникам выдавать себя за членов семьи, друзей или коллег, нуждающихся в помощи. «В Onfido мы наблюдаем 3000-процентный рост числа глубоких подделок в рамках попыток мошеннического доступа к аккаунтам», – говорит Оуэн.
Это проблема, которая затронет всех.
Штаты продвигают законы, направленные на борьбу с порнографией
Правительства знают это, даже если механизмы политики недостаточно гибки, чтобы адаптироваться к такому быстрому развитию технологий. Законодатели в Миннесоте, Кентукки и Джорджии продвигают законы, направленные против глубоких подделок и генеративного ИИ. Ожидаются возражения со стороны групп по защите частной жизни. Но, учитывая отставание в действиях по борьбе с угрозой, которая растёт с каждым днём, законодатели в основном согласны с представителем штата Миннестоа Заком Стивенсоном, который заявил законодательному собранию штата, что «глубокие подделки здесь, люди их делают, и нам нужно быть очень реалистичными в отношении того, как мы с ними справляемся».
Согласно законопроекту HF3625 штата Миннесота, кандидаты, признанные виновными в фальсификациях, должны будут лишиться своей кандидатуры или должности. Законопроект Сената штата Кентукки № 131 направлен против фальсификаций, но применяется только к политическим партиям, кампаниям и кандидатам. В отчёте филиала NPR WUKY сенатор-диссидент Джекс Уильямс говорит: «это абсолютно точно не помешает никому из нас в любое время подвергнуться глубоким фальсификациям в наших кампаниях». Принятый Сенатом Грузии законопроект № 392 квалифицирует создание поддельного аудиовизуального контента, предназначенного для влияния на исход выборов, как уголовное преступление, классифицируемое как вмешательство в выборы. Наказание включает большие штрафы и тюремное заключение. Охваченный паникой автор законопроекта, сенатор Джон Альберс, предупреждает, что «это происходит в режиме реального времени. В этом избирательном цикле произойдёт такое, чего мы никогда раньше не видели».
Согласно статье в Atlanta Civic Circle, в которой цитируется Axios, «по состоянию на 7 февраля в более чем 40 законодательных собраниях штатов было рассмотрено в общей сложности 407 законопроектов, связанных с искусственным интеллектом, по сравнению с 67 законопроектами год назад».
В открытом письме дипфейки названы «огромной угрозой человеческому обществу»
В каждом из перечисленных выше штатов инцидент с робозвонком deepfake Biden в Нью-Гэмпшире заставил задуматься о том, что именно поставлено на карту при контроле над этой технологией. Это вызвало резонанс далеко за пределами правительственных зданий. Verdict сообщает об открытом письме, подписанном более чем 300 экспертами в области технологий, искусственного интеллекта, цифровой этики, безопасности детей, развлечений и научных кругов, среди прочих областей, в котором выражается поддержка продолжающимся законодательным усилиям и «содержатся ключевые рекомендации по привлечению к ответственности всей цепочки поставок deepfake».
«Необходимость в биометрических правах становится всё более очевидной, поскольку мы видим, как легко ваше изображение может быть взято и преобразовано для гнусных целей», – говорит доктор Джой Буоламвини, основатель Алгоритмической Лиги справедливости и подписавший письмо. Эндрю Критч, исследователь Калифорнийского университета в Беркли и ведущий автор письма, ещё более настойчив: «Глубокие подделки представляют огромную угрозу человеческому обществу и уже причиняют растущий вред отдельным людям, сообществам и функционированию демократии. Нам нужны немедленные действия по борьбе с распространением глубоких подделок».
«Мы находимся в эпицентре гонки технологических вооружений между создателями deepfake и детекторами deepfake», – говорит Алед Оуэн из Onfido. «Надёжная технология обнаружения deepfake будет иметь решающее значение для внедрения эффективного законодательства. С этой целью регулирование должно не только защищать жертв, но и допускать инновации и правильные потоки данных в соответствии с законодательством о защите данных, чтобы обеспечить разработку передовых решений для обнаружения глубоких подделок с помощью искусственного интеллекта».
По материалам Biometrics Research Group. Автор Joel R. McConvey
