Скользкий путь оживления истории с помощью ИИ и дипфейков

Чтобы отметить День памяти Израиля в 2021 году, музыкальные ансамбли Сил обороны Израиля вступили в партнерские отношения с компанией, специализирующейся на синтетическом видео, также известном как технология «дипфейк», чтобы оживить фотографии с израильско-арабской войны 1948 года.

Они выпустили видео, в котором молодые певцы в старинной униформе и с старинным оружием исполнили «Hareut», культовую песню, посвященную солдатам, погибшим в бою. Когда они поют, музыканты смотрят на увядшие черное и белое фотографии, которые они держат. Молодые солдаты на старых фотографиях моргают и улыбаются в ответ благодаря искусственному интеллекту.

Результат пугающий. Прошлое оживает в стиле Гарри Поттера.

За последние несколько лет я и мои коллеги из Центра прикладной этики UMass Boston изучали, как повседневное использование ИИ бросает вызов тому, как люди думают о себе и политике. Мы обнаружили, что ИИ может ослабить способность людей делать нормальные суждения. Мы также обнаружили, что это подрывает роль случая в их жизни и может заставить их усомниться в своих знаниях или мнении о правах человека.

Теперь с помощью ИИ возродить прошлое стало проще, чем когда-либо. Изменит ли это наше понимание истории, а значит, и самих себя?

Низкий финансовый риск, высокая моральная стоимость

Желание вернуть прошлое к жизни не ново. Реконструкция гражданской войны или войны за независимость – в порядке вещей. В 2018 году Питер Джексон тщательно отреставрировал и раскрасил кадры Первой мировой войны, чтобы создать фильм «Они не стареют», который позволил зрителям 21 века испытать Первую мировую войну более непосредственно, чем когда-либо прежде.

Живые реконструкции и тщательно отредактированные исторические кадры – дело дорогое и трудоемкое. Технология Deepfake демократизирует такие усилия и предоставляет недорогой и широко используемый инструмент для анимации старых фотографий или создания привлекательных фальшивых видеороликов с нуля.

Но, как и в случае со всеми новыми технологиями, наряду с захватывающими возможностями, возникают серьезные моральные вопросы. И вопросы становятся еще сложнее, когда эти новые инструменты используются для улучшения понимания прошлого и возрождения исторических эпизодов.

Писатель и государственный деятель восемнадцатого века Эдмунд Берк считал, что политическая идентичность – это не только то, что люди думают о ней. Это не просто продукт собственного производства. Скорее, быть частью сообщества означает быть частью договора поколений – частью общей компании, которая связывает живых, мертвых и будущих живых.

Если Берк правильно понимает политическую принадлежность таким образом, технология deepfake предлагает эффективный способ связать людей с прошлым и заключить договор между поколениями. Оживляя прошлое ярким и убедительным образом, технологии оживляют «мертвое» прошлое, делая его более живым и здоровым. Когда эти изображения вызывают сочувствие и заботу о предках, дипфейки могут сделать прошлое гораздо более важным.

Но эта способность сопряжена с риском. Очевидная опасность – создание фальшивых исторических эпизодов. Выдуманные, мифологизированные и фальшивые события могут спровоцировать войны: историческое поражение в битве за Косово от 14-го числа.

Точно так же вторая атака американских военных кораблей в Тонкинском заливе 4 августа 1964 года была использована для эскалации американского взаимодействия во Вьетнаме. Позже выяснилось, что нападения не было.

Чахлое воображение

Раньше устраивать фейковые мероприятия было сложно и дорого. Больше никогда.

Например, представьте, что собой представляют собой стратегически обработанные дипфейк-кадры с событий 6-й кампании по охране здоровья.

В результате, конечно же, дипфейки могут постепенно дестабилизировать представление об историческом «событии». Возможно, со временем, по мере того, как эта технология развивается и становится повсеместной, люди автоматически задаются вопросом, реально ли то, что они видят.

Сомнительно, приведет ли это к усилению политической нестабильности или, как это ни парадоксально, к большей стабильности из-за нежелания действовать на основе, возможно, сфабрикованных событий.

Но помимо опасений по поводу массового производства истории, меня беспокоят более тонкие последствия.

Да, дипфейки позволяют нам более живо пережить прошлое и тем самым укрепляют нашу приверженность истории. Но рискует ли такое использование технологий остановить наше воображение, давая нам заранее подготовленные, ограниченные образы прошлого, которые служат стандартными ассоциациями для исторических событий? Усилием воображения можно воспроизвести ужасы Второй мировой войны, землетрясения в Сан-Франциско 1906 года или Парижской мирной конференции 1919 года в бесконечных вариациях.

Но будут ли люди продолжать использовать свое воображение таким образом? Или дипфейки с их реалистичными и трогательными изображениями становятся практическими представителями истории? Я опасаюсь, что анимированные версии прошлого могут создать впечатление, будто зритель точно знает, что произошло, – что прошлое полностью присутствует для него, – что, в свою очередь, устраняет необходимость узнавать больше об историческом событии.

Люди склонны думать, что технологии облегчают жизнь. При этом они не осознают, что их технологические инструменты постоянно модернизируются производителями инструментов, что ухудшает существующие навыки и в то же время открывает невообразимые и захватывающие возможности.

С появлением смартфонов фотографии можно было легко размещать в Интернете. Но это также означает, что некоторые люди больше не видят захватывающие дух виды, как раньше, потому что они так зациклены на съемке «инстаграммного» момента. Благодаря вездесущности GPS заблудиться подобным образом больше не приходится. Точно так же дипфейки, созданные искусственным интеллектом, – это не просто инструменты, которые автоматически улучшают наше понимание прошлого.

Тем не менее, эта технология скоро произведет революцию в отношении общества к истории, к лучшему или к худшему.

Люди всегда лучше изобретали вещи, чем думали о том, что они изобретают, делают с ними – «всегда более искусны в обращении с предметами, чем с жизнью», как выразился поэт У.Х. Оден. Эта неспособность предвидеть обратную сторону технического прогресса – не судьба. Еще можно сбавить обороты и подумать о том, как лучше всего пережить прошлое.

Об «оживлении» убитых, дипфейк и войне с мексиканской наркомафией рассказал журналист Андрей Тюкавкин.

Эта статья была переиздана изданием The Conversation по лицензии Creative Commons. Автор Нира Эйсиковица

Добавить комментарий

Ваш адрес email не будет опубликован.