Новое оружие в информационной войне — как скоро интернет-пространство заполонят поддельные видеоролики?
В то время как правительство США регулярно предупреждает о риске технологии Deepfake и открыто работает над созданием инструментов для противодействия им, один из документов от Командования специальных операций США (SOCOM), представляет собой почти беспрецедентный случай, когда американское правительство открыто сигнализирует о своём желании использовать крайне противоречивую технологию в наступательных целях.
Deepfake — это технология генерации поддельных видео, в которых лица людей могут очень правдоподобно заменяться на чужие при помощи искусственного интеллекта. При грамотном подходе к процессу Deepfake-специалисты могут создать крайне реалистичные и вводящие в заблуждение материалы, на которых, например условный политический лидер говорит или делает то, чего никогда не позволил бы сделать реальный человек, занимающий эту должность. Вот небольшой пример, как реалистично может выглядеть грамотно созданный Deepfake-ролик. Технология имеет огромный потенциал в создании фальшивых новостей, которые можно использовать для политических манипуляций.
В отчёте The Intercept подробно описывается недавнее открытие, которое было обнаружено экспертами в одном из файлов правительственных контрактов SOCOM, содержащем различные гаджеты и методы, которые спецназ планирует использовать в своих военных наступательных кампаниях. Основное внимание в этом документе уделяется созданию поддельных видеороликов и их распространению в иностранных средствах массовой информации. Согласно планам американского правительства, это будет новая эра информационного противостояния с использованием всех возможностей современного Интернета.
В документе также упоминается возможность предварительного взлома правительственных и прочих иностранных учреждений, а также продолжительного отслеживания новостного потока для генерации таких материалов, в которое местное население безоговорочно поверит, приняв за чистую правду.
Эксперты и прочие люди, тесно знакомые с Deepfake, уже активно выступают против планов правительства США использовать эту технологию в своих кампаниях. С бурным развитием искусственного интеллекта и нейросетей людям и так нелегко отделять правдивую информацию от ложной, а когда производство Deepfake-видеороликов поставят на поток, даже подумать сложно, к чему это может привести.
«В то время, когда цифровая пропаганда набирает обороты во всём мире, США должны делать всё возможное для укрепления демократии, добиваясь поддержки общих представлений об истине и реальности. Deepfake-подделки для этого явно не предназначены. Ставя под сомнение достоверность всего контента и информации, будь то реальной или синтетической, они в конечном итоге подрывают основы самой демократии»
Заявила Крис Мезерол, глава Инициативы Брукингского института по искусственному интеллекту и новым технологиям
Одно можно сказать точно, массовое распространение Deepfake-видеороликов в сети точно не поспособствует большему доверию со стороны простых американских граждан, особенно если и политические соперники США тоже начнут применять подобные методы дезинформации. Тогда лишь вопросом времени станет то, когда Интернет и СМИ превратятся в одно большое кладбище ложной информации и рассадник онлайн-пропаганды.
По материалам PT Research Lab
