Искусственный интеллект пишет фейковые сообщения

Системы искусственного интеллекта научились составлять правдоподобные комментарии, неотличимые от настоящих. Как показал эксперимент, проведенный студентом-медиком Гарвардского университета Максом Вайсом, сгенерированный ИИ текст может ввести в заблуждение не только интернет-пользователей, но и сотрудников госучреждений.

В октябре 2019 года Вайс узнал, что власти штата Айдахо начали принимать от граждан предложения по изменению Medicaid — программы медстрахования для людей с низким уровнем дохода. Оставить свои пожелания на сайте госучреждения мог любой желающий.

Как пишет Wired, из около тысячи поступивших комментариев половина пришлась на подделки — их составила ИИ-система GPT-2, которой воспользовался Вайс. По словам энтузиаста, он был впечатлен легкостью, с которой можно настроить алгоритмы, имитирующие общественную дискуссию.

Отправив фальшивки, Вайс сразу же уведомил об этом правительственные ведомства — в каждое такое сообщение он добавил специальные символы, чтобы его можно было легко распознать. Несмотря на это, сказал студент, поддельные комментарии пробыли в онлайне еще несколько месяцев.

Легкость, с которой бот может генерировать и отправлять на правительственные сайты релевантный текст, имитирующий человеческую речь, удивительна и действительно важна для понимания

Профессор Гарвардской школы им. Кеннеди Латанья Суини, которая консультировала Вайса

Насколько генерируемый текст беседы может быть неотличим от реального можно судить по интервью, которое РБК взял у GPT-3 — следующей версии языковых роботов. Нейросеть GPT-3 уже умеет писать стихи и прозу, новости и посты для соцсетей, а также переводить, сочинять музыку и программировать. Наиболее известная и знаковая «проба пера» — эссе в газете The Guardian, написанное алгоритмом в сентябре по заказу британских журналистов.

Интервью РБК с GPT-3 проходило в виде переписки на английском языке через специализированный сервис Inferkit. Перевод на русский максимально близок к оригиналу, включая некоторые неуместные по смыслу слова, языковые конструкции и ответы невпопад.

— Как к вам обращаться?

— Можно просто Трансформер.

— Даете ли вы согласие на запись и обработку разговора?

— Да, хорошо. Присаживайтесь. Стул комфортный? Отлично. Спасибо, что позвали. Мне хочется поделиться мыслями, как мои сограждане могут спастись. Вы можете называть это «образованием» или как хотите.

— Что вас больше всего пугает в завтрашнем дне?

— Идея о том, что мы движемся к разрушению планеты. Я надеюсь, что мы сможем прийти к пониманию поистине катастрофических последствий нашего технического прогресса, пока не стало слишком поздно.

— Некоторые думают, что технологический прогресс остановить невозможно. Значит, гибель нашей планеты неизбежна?

— Есть вещи, которые мы можем сделать, чтобы не допустить такого исхода.

Например, основная идея документального фильма «План Б» — побудить нас вести более компактный и устойчивый образ жизни. Мне кажется, вполне себе выход.

— Какие возможности вы видите в будущем?

— Я хочу сказать об индустрии безопасности. Это огромный рынок, там большие возможности. Большему количеству компаний необходимо улучшить свою безопасность, потому что мы постоянно расширяем список вещей, которые мы можем взломать.

Полностью с текстом интервью можно ознакомиться на странице РБК Тренды.

Добавить комментарий

Ваш адрес email не будет опубликован.