Когда люди находят свои обнаженные фотки в сети, это всегда про кого-то другого, но не про нас. Кажется, с нами такое никогда не случится. Но есть нюанс. Технологии deepfake становятся доступными для широкой массы пользователей.
Недавно сообщалось о том, как программист создал приложение DeepNude, которое использует нейронные сети и убирает одежду с фотографий женщин за 30 секунд. На приложение поступили жалобы, его раскритиковали в разных медиа. Пользователи бота «снимали» одежду с популярных блогеров-подростков.
Спустя сутки после того, как о приложении написали медиа, создатель объявил о его закрытии. «Мир ещё не готов к DeepNude», — написал он в Twitter. Но приложение успели скачать 95 000 пользователей.
На его основании и был создан Telegram-бот, «раздевающий» фотографии женщин. О нем написали многие западные СМИ. Мы связались с автором бота и задали ему вопросы о технологии, этике и использовании бота. Он поговорил с нами на условиях анонимности. В тексте мы приводим его прямую речь.
Исследование Sensity
Компания по обнаружению дипфейков и вредоносного визуального контента Sensity опубликовала расследование «Deepfake-боты в Telegram». В нем она анализирует «экосистему дипфейков», центром которой является Telegram-бот, функционирующий на основе ИИ. Он позволяет пользователям с разной долей реалистичности «раздевать» фотографии одетых женщин.
Коротко перечислим основные выводы расследования.
- На конец июля изображения примерно 104 852 «раздетых» женщин были размещены в публичном доступе.
- Согласно опросу бота, 70% этих женщин — непубличные люди, 16% — селебрити, 8% — модели и инфлюенсеры из Instagram. Большинство женских фотографий были взяты из соцсетей или личных материалов.
- Определенное количество «раздетых» изображений женщин, в том числе несовершеннолетних, были опубликованы на аффилированных с ботом каналах.
- Бот и связанные с ним каналы привлекли около 101 080 человек со всего мира, 70% из которых — из России, Украины и стран бывшего СССР. Впрочем, данные о количестве пользователей уже неактуальны — на данный момент их около 97 000.
- Бот получил значительную рекламу во «ВКонтакте». Всего в этой соцсети около 380 страниц с подобной активностью.
Обнародование расследования вызвало волну публикаций среди западных и русскоязычных медиа. Так, например, исследование в той или иной мере пересказывают The Verge, The Wired, MIT Technology Review, Engadget и прочие.
Как работает бот
Версия программного обеспечения DeepNude, о котором мы писали выше, легла в основу Telegram-бота, «раздевающего» фотографии женщин. Исследование Sensity утверждает, что 19 июля 2019 года создатели продали лицензию DeepNude на онлайн-рынке анонимному покупателю за $30 000. С тех пор была произведена обратная разработка этого программного обеспечения. В расширенных формах его можно найти в публичных репозиториях и на торрентах.
В Sensity считают, что главное зло бота в том, что по сравнению с аналогичными не очень популярными инструментами он делает создание дипфейк-фотографий очень простым. В том числе предоставляет частично бесплатный и простой пользовательский интерфейс как на смартфонах, так и на десктопе. Чтобы «раздеть» изображение, пользователю нужно просто загрузить фотографию и получить результат через несколько секунд. Полученной фотографией человек может поделиться в чате. Если дипфейк набирает лайки, фото отправляется в галерею. Сейчас все изображения из галереи уже удалены.
На момент написания статьи бот дал нам возможность бесплатно «раздеть» только одну фотографию. Для большего количества придется заплатить.
Также монеты можно зарабатывать, приглашая по реферальной ссылке других пользователей. Кроме того, бот предлагает присылать в чат «красивые и смешные обработки», чтобы зарабатывать монеты. MIT Technology Review назвало это «геймификацией харасмента».
Вокруг бота существует определенная экосистема каналов. Среди них — канал с новостями ресурса (66 529 подписчиков), галерея (26 338), два чата (один неактивен, в другом около 938 подписчиков), канал «Красотки» (3214 подписчиков) и сам бот. В нем доступны такие опции, как «Мой баланс», «Советы по обработке», «Заработок с ботом» (через реферальную ссылку).
Чтобы поэкспериментировать с ботом, мы попытались «раздеть» одного известного политика. Получилось, честно говоря, не очень.
Нас не устроила пара фраз от владельца бота, которые процитировало издание The Wired. Мы решили написать ему напрямую и самостоятельно выяснить, что он думает об этичности своего бота. Далее прямая речь создателя DeepNude.
О создании проекта и технологии
История проста: я прочитал новость, посмотрел юзернейм (он был свободен), создал канал @deepnude. Увидел, что пошли просмотры, создал чат, и там началось обсуждение алгоритма. Люди из разных стран делали ботов, многие хотели попробовать, но у них не было мощных компьютеров. Решил, что раз есть интерес, то надо попробовать сделать своего бота. Так появился бот, а трафик — из канала.
Мне не нравится акцент [в СМИ] на «Россия + Telegram + Педофилия + Угнетение девушек», это адская смесь. По факту этих ботов море, но почему мы? Ну и главное — это же как Photoshop. Разве создатель несет ответственность, если кто-то там будет делать фото со злым умыслом?
Да, тут акцент на 18+, но потому бот и закрыт приватной ссылкой (следуя правилам мессенджера), А не потому, что «русские создали сеть приватных ботов». Суть в том, что в поиске браузеров мы далеко не на первых местах, надо ещё найти именно нас. Отсюда я делаю вывод, что это акцентированная атака в сторону России и Telegram.
Допускаю, что у нас какой-то приятный интерфейс, но есть и другие сайты. Есть даже сайт, который свободно собирает донаты и размещен на GitHub. Они занимаются улучшением данного алгоритма.
Есть технология deepfake, есть приложения в два клика, делающие это в не лучшем качестве. Можно прикрепить любое лицо на любой фрагмент видео и залить в любую соцсеть. Это можно использовать так же в разных целях. Я не вижу ощутимой разницы с deepnude, кроме уклона в 18+.
И если вы будете делать акцент в статье «в России и т. д.», то хотелось бы добавить, что мы не относимся к этой стране.
О удалении фотографий
Мы открыты к разговору, в том числе если напишет девушка с обоснованной претензией, то мы, естественно, будем ей содействовать. Далее они [СМИ] увидели фото 16-летней тиктокерши. После того, как мы узнали, что ей 16 лет, информация была удалена. Так поступает каждый ресурс.
Из всего, что помню, писала девушка-косплейщица. Её фото использовали для рекламы бота в Instagram, по-моему, не оголенное. И я помогал ей с поиском контакта владельца бота, которого рекламировали с помощью ее фото.
Чаще пишут люди из «ВКонтакте», там есть сервис, где в два клика можно поставить такого бота себе в сообщество, но цены неадекватные — по 50-100 рублей за фото. Так вот, они там платят, им вешают подписку, каждый месяц с них снимают деньги. Там контактов нет, они в итоге находят хоть кого-то — меня.
Отключить такую подписку сложно, банки говорят, что проще карточку перевыпустить. Бывало, люди жали кнопку «Поделиться фото», потом просили удалить, это всё, наверное.
О галерее
Мы ничего лично не делали. [Все] было автоматизировано. Человек делает фото, если хочется делиться в чате работой, то делится через кнопку в боте. Это необязательно должна быть девушка, бывают просто «забавные результаты». Далее люди голосуют, нравится им или нет. Если работа набирает лайки, автоматически формируется галерея. Все, что делает бот, — это следует заданному алгоритму. Желание делиться/оценивать исходит от юзеров. (администратор не упомянул, что бот предлагал делиться обработками за монеты, — прим.ред.)
Если пользователь был замечен в создании работы, не отвечающей пользовательскому соглашению бота, он навсегда отключался от него.
Галерею решено удалить в виду поступивших жалоб, в данной ситуации — от зарубежных СМИ. За всё время работы жалоб на галерею от девушек не было, хотя мы максимально открыты к диалогу. Возобновление такого формата не планируется, он и до этого не пользовался спросом. Хочу заметить: все ресурсы — чат, галерея — были оформлены приватно и помечены категорией 18+ самим мессенджером, как и полагается.
Об этике
Код алгоритма находится в свободном доступе на ресурсе, который принадлежит США. Если они считают данный алгоритм недопустимым, то, наверное, стоит это обозначить. Любой человек может запустить это без каких-либо навыков и использовать как ему угодно.
По поводу этичности. Мы ничего не пропагандируем, а наоборот — предупреждаем, что использование в корыстных (злонамеренных) целях недопустимо, суть алгоритма — вешать маску женской пиксельной груди, создавая эффект «обнажения» на любых фото! На любой пол! Даже на неодушевленные предметы!
Ввиду того, что на фото присутствует подобие женской груди, на боте висит метка 18+, что соответствует правилам мессенджера. Между делом, подобные боты в других соцсетях даже не обозначены как ресурсы 18+.
— Человек может не выкладывать свои нюдсы, но кто-то их все равно сделает.
Ну это паранойя уже. Кто-то может скачать фото и как ему хочется надругаться над ним, может бить ножами, бросать, ноги вытирать. Добро пожаловать в современный мир, давайте вовсе отключим интернет.
В каждой соцсети можно закрыть свой профиль и — о чудо! — можно даже не выставлять свои фото. Вас за это не забанят, но вы сможете общаться и читать новости. Девушка может идти по улице, на неё будут смотреть мужчины и представлять сексуальные образы, не нравится? Есть закрытая одежда.
О публикациях в СМИ
Возможности данного алгоритма сильно приукрашены. Данной «шумихой» СМИ сделали только хуже, так как энтузиастов по улучшению станет больше. По факту они «воссоздали» эффект Стрейзанд.
— С вами пытались связаться какие-то западные СМИ? Российские? Украинские? Прочие?
Washington Post, BBC, но их вопросы слишком топорные. Если они хотят увидеть чёрное, то они это и делают.
Год назад это было в СМИ и освещалось, смысл вспоминать это [сейчас] мне не ясен, они сами дали второе дыхание всем ресурсам с содержанием слова deepnude.
— Sensity пишет, что очень возросла активность.
— Вот и вся история наглядно.
О сексуальности
В Instagram девушка голая, но в прозрачной майке или же c закрытыми сосками. Это считается нормальным, а доступ в Instagram, вроде бы, разрешён с 14 лет.
Я к чему — все используется в меру фантазии. Что делает deepnude? Да простой формат визуализации фейкового изображения обнаженной девушки: нашел, куда надо наложить маску «грудь», определил пропорции, наложил, подвел под цвет кожи.
Можно взять любое фото девушки в купальнике, из другого фото вырезать участок груди и совместить два фото. Будет то же самое.
В мире идет пропаганда «девушка-тело-продажа». Это выгодно, на этом зарабатывают миллионы, сами девушки массово торгуют телом в соцсетях. Если обществу это не нравится, то, наверное, надо с этого начинать, а не с маленького кривого алгоритма, который вообще не представляет угрозы.
Еще раз: такой алгоритм — это лишь следствие того, что происходит в мире. Я могу через бесплатное приложение по замене лица, которое есть во всех магазинах приложений, взять гиф с эротическим танцем и наклеить любое чужое лицо. Это угроза?
— В Photoshop можно сделать что угодно. Но все же для этого нужно уметь им пользоваться. С ботом это сделать намного проще.
Согласен, но [можно] ввести в ВК/Яндекс/Google/Reddit/Twitter и так далее «sex porno», нажать одну галочку «мне есть 18» и смотреть реальное порно всех жанров, а не фото с грудью (что не порно, а эротика максимум). Это ли не легкость и доступность, это ли не нерегулируемый контент? Делайте, как в Китае, в странах, где это вам неприемлемо, и все. Следствие (deepnude) отпадет само собой, так как причина будет уничтожена. Я так это вижу.
Есть сайт, генерирующий голых девушек за 1$. Девушки ненастоящие, а созданные нейросетью, но нейросети обучены на реальных фотографиях. Понимаю, это ещё более отдаленное сравнение с deepnude, но это так же можно притянуть за уши.
О заработке на боте
Мы изначально ставили минимальную цену, дабы окупать требуемые мощности. Вы можете до сих пор найти похожих ботов с ценами 50-100 рублей за фото или вообще обман. Мы держим политику адекватной цены за возможность использовать мощности с установленным алгоритмом, за который мы также платим. По меркам Telegram наш доход не сильно больше [дохода] среднего канала в плюс-минус 20 тысяч подписчиков.
Конечно, мы не ангелы и поняли, что на этом можно заработать, но в целом держим, на мой взгляд, адекватный ценник, не рекламируем различных каперов/казино и не проводим псевдорозыгрышей.
Главное, что мы поняли, — это привлекает людей и дает нам дальнейшую базу для старта новых проектов, не 18+.
50 человек из 100 получат хороший результат после первой обработки. Из этих 50-ти около 10 человек задержатся больше чем на неделю. Не думаю, что с таким качеством обработки что-то может работать долго, — хайп, кликбейт, подогреваемый интересом. Да, это можно раскрутить до больших масштабов на хайпе, если захотеть. Да, это алгоритм, который находится в свободном доступе. Он был доступен в тот же день, как о нем стали писать СМИ.
О дальнейших целях
За счет данного ресурса мы придаем огласке проекты людей (в меру возможностей), которые хотят поделиться своим продуктом, но не обладают денежными средствами. Цель проста — [принести] технологии (нейросети) в массы, пусть через нейросиськабота. Если хоть 10 человек заинтересуются, это будет отличным результатом.
О доступности
О «ВКонтакте» и дипфейк-сети
Во «ВКонтакте» есть сервис (сайт в интернете), который позволяет в два клика прикрепить в любое сообщество бота такого же плана. Но мне писали люди, что там могут оформляться подписки, и их не отменить, плюс цены там по 50-100 рублей за фото. Этот алгоритм не стоит таких денег, на него не затрачивается столько ресурсов.
У нас было одно сообщество, которое даже не вошло в топ-10 по запросу, оно никак не продвигалось и существовало для того, чтобы было. Нам не интересен «ВКонтакте» как платформа, это неудобная громоздкая соцсеть. По поводу контента/ботов, он есть не только во «ВКонтакте», боты есть и в Discord. Сайты с реальным фейк-порно спокойно гуглятся. Я допускаю, что мы стали целью СМИ из-за открытости нашего сообщества.
О буллинге, для которого могут использовать бота
Ну и раньше смеялись, всегда это было, зависит от общества, круга общения. Как один из инструментов для этого — да, допускаю, это возможно. Бот работает больше года — тихо и спокойно. И тут они, борясь с этим, делают рекламу на весь мир.
Я просто не вижу тут огромной проблемы. В мире столько всего происходит, а тут нашли иголку в стоге похоти/разврата/обмана/криминала и ещё бог знает чего и пытаются сделать это чуть ли не ядром всех бед в мире. Итог простой: если это запрещено, скажите об этом. Если Telegram считает это недопустимым, пусть отключит бота. Остальное это уже так — побухтеть, порассуждать.
Послесловие
Проблема deepfake — это проблема на стыке этики, права и технологий. Перед использованием Telegram-бота нужно ознакомиться с объемным пользовательским соглашением. Оно действительно выступает «за все хорошее, против всего плохого»: «Вы несете ответственность за получение предварительного согласия всех лиц, изображенных на фотографии, и за то, что все такие лица на фотографии должны быть уведомлены об использовании их фотографии на веб-сайтах до использования их фотографии.
Вы также должны убедиться, что ни один человек, появляющийся на изображении, которое используется для редактирования на этом программном обеспечении, не имеет возраста менее 18 лет (или 21 год, где этого требуют законы о меньшинствах)… Вы не должны публично распространять любое изображение, преобразованное веб-сайтами, для любых незаконных или аморальных целей».
Однако будем честны: кто изучит и будет следовать такому соглашению? Несмотря на софистические рассуждения анонимного автора аккаунта о тотальной сексуализации и свободе выбирать себе досуг, подобные боты действительно радикально понижают порог входа в deepfake-контент.
Развитие технологий приводит к тому, что дипфейки становятся нашей реальностью. У этого есть как забавная сторона с Илоном Маском, поющим песню «Трава у дома» в образе участника группы «Земляне», так и не очень. Нужно ли что-то предпринимать в связи с этим? Безусловно. Виноват ли в ситуации конкретный Telegram-бот, если код технологии находится в открытом доступе? Спорный вопрос. Однако новая реальность, где не обязательно сбрасывать кому-то свои нюдсы, чтобы потом увидеть их в сети, мягко говоря, настораживает.
По материалам VECTOR. Автор Катерина Богуславская.
