Если и есть что-то, в чём современный авторитарный Китай очень хорош, так это то, что он реагирует на предполагаемую угрозу всеми доступными ему ресурсами. Никаких полумер.
Просто спросите об уйгурах, социально и технологически преследуемом мусульманском меньшинстве Китая.
Теперь нация хочет делать то, что хочет делать практически любая другая страна. Правительство хочет сделать как можно более невозможным распространение несанкционированных дипфейков и другого мошеннического биометрического контента.
Одно аутентичное видео, на котором главнокомандующий Си Цзиньпин резвится обнажённым на лугу, возможно, представляет большую угрозу для правящей коммунистической партии Китая, чем уйгуры.
Поэтому неудивительно, что Пекин начал мощную регулятивную (а затем и социальную) кампанию по нейтрализации дипфейков, прежде чем они смогут омрачить общественное мнение по отношению к правительственным лидерам.
Новые правила, как сообщается, уникальные в мире, вступают в силу уже 1 марта.
Эти усилия в конечном итоге могут даже привести к тому, что бюрократы будут читать код, чтобы идентифицировать дипфейк видео, неподвижных изображений и аудио. (Синтаксический анализ человека продолжает изучаться и за пределами Китая.)
И это только в Китае.
Если Пекину удастся дать отпор дипфейкам, то правительства всех мастей по всему миру начнут проводить аналогичные кампании по борьбе с мошенническими разработками биометрических данных. По крайней мере, некоторые менее щепетильные правительства, скорее всего, повернут этот контроль против диссидентов, оппозиционных политиков и соперничающих наций.
Перед Китаем стоит титаническая задача, но мало кто в 1990-х годах думал, что Китай может эффективно отгородиться от глобального Интернета, чтобы сохранить коллективный разум страны.
Первый шаг в программе борьбы с дипфейками уже здесь: длинный набор новых правил, регулирующих механизмы рекомендаций на контентных сайтах. Это персонализированные подсказки, которые создают алгоритмы, чтобы люди оставались на сайте и потребляли информацию.
Разумеется, дипфейки могут появляться где угодно, в том числе в основном контенте, что приводит к персонализированным подсказкам.
Ориентация только на рекомендательные системы может быть признанием со стороны Пекина, что борьба с несанкционированными дипфейками в пределах его границ будет сложной и, возможно, дорогостоящей. С этим нужно будет бороться по частям.
Одним из регулирующих органов, занятых на данном этапе кампании, является Администрация киберпространства Китая. Его переведенный документ из 35 статей можно найти здесь.
Усилия в странах с развитой экономикой остаются политизированными, особенно в Соединенных Штатах, что делает согласованную защиту от дипфейков более желанной. Добавьте громкую озабоченность по поводу сохранения законных прав человека, и решение будет казаться ещё более отдалённым.
Так совпало, что профессор права Университета Суонси получил грант в размере 1,5 млн евро (1,7 млн долларов США), чтобы посмотреть, как общественное мнение о дипфейках влияет на доверие к краудсорсинговым доказательствам нарушений прав человека.
Согласно новому режиму регулирования в Китае, именно платформы, а не создатели, несут ответственность за мошенничество с биометрическими данными.
Эта стратегия противоречит законам США, направленным на предотвращение распространения фальсифицированного, клеветнического, криминального и другого официально нежелательного контента от граждан.
Это возлагает ответственность, например, на ByteDance и его службу микроблогов Weibo и агрегатор новостей Tautiao, а также на Douyin, сервис, похожий на TikTok, согласно Rest of World.
По материалам Biometrics Research Group. Автор Jim Nash