Расследуем тёмные уголки Интернета, где личные данные становятся товаром.
В киберпространстве разгорается новый скандал, связанный с использованием инструментов генеративного ИИ для создания порнографических картинок без согласия изображённых на них лиц.
Один из пользователей Telegram, рекламирующий свои услуги в социальной сети X *, предлагает создать порнографические изображения любого человека всего за 10 долларов, используя для этого всего несколько фотографий. Всё взаимодействие между клиентами и исполнителем услуги ведётся в специально созданном Telegram-канале.
В одном из чатов этого канала пользователи размещают реальные фотографии людей, похоже, взятые из их социальных сетей, и там же находятся уже созданные с помощью ИИ порнографические изображения. Всё это делается как для демонстрации возможностей сервиса потенциальным клиентам, так и, возможно, для уничижения чести и достоинства женщин-жертв, которые попали под горячую руку киберзлодеев.
Вышеописанный Telegram-канал на момент его изучения исследователями безопасности имел 35 комнат, в каждой из которых собраны сгенерированные порнографические материалы известных женщин, в том числе ютуберов, Twitch-стримеров и Instagram-инфлюенсеров. Среди целей также оказались несовершеннолетние, однако в этих случаях распространялись не полностью обнажённые изображения, а лишь фотографии в купальниках.
Как было отмечено выше, данный Telegram-канал открыто рекламирует свои услуги в социальной сети X (бывший Twitter*), что поднимает вопросы о способности и готовности платформы Илона Маска модерировать вредоносный контент. Несколько месяцев назад вирусные порнографические изображения Тейлор Свифт, созданные с помощью ИИ, также с бешеной скоростью распространились по популярной социальной сети, собрав миллионы просмотров до того, как X удалил их и заблокировал аккаунты всех причастных.
Исследователи также обнаружили аналогичное Discord-сообщество, предположительно созданное этим же автором. Поэтому с некой долей вероятности можно предположить, что даже если канал в «синем мессенджере» будет заблокирован, вся его вредоносная деятельность просто «переедет» в Discord.
Telegram и Discord регулярно заявляют о приверженности жёсткой модерации вредоносного контента на своих платформах, однако проблема непристойных изображений, созданных с помощью ИИ, остаётся актуальной и вызывает озабоченность людей по всему миру.
Технологии генеративного ИИ, такие как Stable Diffusion, позволяют легко создавать реалистичные изображения, используя лишь текстовые подсказки и фотографию-референс. Это открывает широкие возможности для злоупотребления, включая создание порнографического контента без согласия изображённых лиц.
Использование мобильных приложений со схожим принципом работы, таких как «Undress», «nudify» и «ClothOff», ранее уже привело к громкому скандалу, вызванному активной школьной травлей пострадавших от порноподделок девушек в испанском городке Альмендралехо.
* Социальная сеть запрещена на территории Российской Федерации.
По материалам PT Research Lab
