Соцсеть «ВКонтакте» разрабатывает сервис для распознавания дипфейков, сообщили в пресс-службе компании VK. Ранее стало известно, что правительство РФ поддержит создание технологических решений для борьбы с фейковым фото– и видеоконтентом.
Кто заинтересован в новой технологии
Борьба с фейками – приоритетное направление работы правительства РФ. В декабре 2022 года была утверждена «дорожная карта» «Новое общесистемное программное обеспечение», в которой говорится о том, что правительство России до 2030 года профинансирует разработку пяти программ по распознаванию сгенерированного контента (deepfake).
«ВКонтакте» уже ведёт работу над технологией распознавания дипфейков. Появится возможность проверить загруженные на платформу фотографии или ролики на наличие манипуляций, связанных с лицом, например изменения в редакторах или замены одного человека на другого»
Говорится в сообщении пресс-службы соцсети
Пользователи сами смогут проверять фотографии и видеоролики на достоверность. Ожидается, что новая функция будет запущена на платформе социальной сети в течение полугода.
«Сделать сегодня поддельное видео, фото или даже аудио не составляет никакого труда. Сегодняшние технологии настолько далеко шагнули, что подобные задачи решаются очень просто»
Отметил директор «Ассоциации профессиональных пользователей социальных сетей и мессенджеров» (АППСИМ) Владимир Зыков
Чем опасны дипфейки
Несмотря на то, что технология deepfake изначально была разработана в развлекательных целях, она может представлять серьёзную угрозу для компаний, пользователей и политиков. Изначально алгоритмы для подмены изображений создавалась для применения в сфере фото- и видеомонтажа. Для креативной индустрии новые инструменты оказались более дешёвым аналогом традиционного съёмочного процесса.
Сама по себе технология не опасна – это всего лишь инструмент. Гораздо опаснее то, что дипфейки используются не только с благими намерениями, но и становятся мощным орудием в руках злоумышленников, с помощью которого можно заниматься созданием фейков, дезинформацией, шантажом и вымогательством. Учитывая крайне высокую скорость распространения информации в интернете, поддельные фото и видео могут распространяться в Сети буквально за считанные минуты.
«Благодаря таким системам можно выпускать поддельные видео и фото. Пользователи начинают предполагать, что это реальные фотографии и видео людей, и начинают верить в те новости, которые сопровождаются подобным поддельным контентом»
Добавил директор АППСИМ
Как будет работать новый сервис по распознаванию фейков
Эксперт напомнил, что контролирующие механизмы уже внедрены в платформу соцсети «ВКонтакте», и проверка фотографий происходит в режиме «онлайн».
«Сегодня, насколько мне известно, изображения в социальной сети анализируются специальными системами «ВКонтакте», чтобы определять, например, что на фотографии изображено обнажённое тело. Изображение анализируется «на ходу» в процессе загрузки. Это делается для того, чтобы подобный контент «закрывался»
Подчеркнул Зыков
Директор Ассоциации профессиональных пользователей соцсетей и мессенджеров предположил, что новый сервис по распознаванию дипфейков будет работать аналогичным образом.
«Скорее всего, в процессе загрузки эта система будет анализировать «на лету», что изображено на фотографии, и дальше предпринимать какие-то действия. Полагаю, на фотографиях будет появляться [предупреждение]. Вряд ли «ВКонтакте» будет удалять этот материал, ведь всегда существует вероятность ошибки. Поэтому я думаю, что в тех постах, где размещена видоизменённая фотография, будут появляться предупреждающие плашки»
Заключил IT-эксперт
По материалам «ФедералПресс». Автор Святослав Фирсов