Группа из 20 ведущих технологических компаний объявила о совместном обязательстве бороться с дезинформацией, полученной с помощью искусственного интеллекта, в течение года выборов – 2024.
Microsoft, Meta*, Google, Amazon, IBM, Adobe и разработчик чипов Arm подписали соглашение о борьбе с Deep Fake. Также к группе присоединились стартапы в области искусственного интеллекта OpenAI, Anthropic и Stability AI, и социальные сети Snap, TikTok и X.
Технологические платформы готовятся к масштабному году выборов по всему миру. Рост количества контента, генерируемого искусственным интеллектом, привёл к серьёзным опасениям по поводу дезинформации, связанной с выборами. По данным Clarity, в годовом исчислении количество созданных фейков увеличилось на 900%.
Между тем, технологии обнаружения и водяных знаков, используемые для выявления фейков, развиваются недостаточно быстро. На данный момент компании просто договариваются о том, что именно представляет собой набор технических стандартов и механизмов обнаружения.
Им предстоит пройти долгий путь, чтобы эффективно бороться с многоуровневой проблемой. Например, большинство сервисов, утверждающих, что идентифицируют тексты, созданные ИИ, проявляют предвзятое отношение к лицам, не являющимся носителями английского языка.
С изображениями и видео ненамного проще. Даже если платформы, стоящие за изображениями и видео, созданными ИИ, соглашаются использовать невидимые водяные знаки и определённые типы метаданных, есть способы обойти эти защитные меры. Скриншоты могут обмануть даже детектор. Кроме того, невидимые сигналы, которые компании включают в изображения ещё не дошли до многих аудио- и видеогенераторов.
Новости о соглашении появились на следующий день после того, как OpenAI анонсировал Sora, свою новую модель для видео, генерируемого искусственным интеллектом.
Компании-участницы согласились на восемь обязательств высокого уровня, включая оценку рисков модели, «стремление выявлять» распространение такого контента на своих платформах и пресекать его, а также обеспечивать прозрачность этих процессов для общественности. Как и в случае с большинством добровольных обязательств в технологической отрасли и за её пределами, в пресс-релизе уточняется, что обязательства применяются только «там, где они имеют отношение к услугам, предоставляемым каждой компанией».
*Meta признана в России экстремистской организацией и запрещена.
По материалам Компьютерра
