Системы искусственного интеллекта научились составлять правдоподобные комментарии, неотличимые от настоящих. Как показал эксперимент, проведенный студентом-медиком Гарвардского университета Максом Вайсом, сгенерированный ИИ текст может ввести в заблуждение не только интернет-пользователей, но и сотрудников госучреждений.
В октябре 2019 года Вайс узнал, что власти штата Айдахо начали принимать от граждан предложения по изменению Medicaid — программы медстрахования для людей с низким уровнем дохода. Оставить свои пожелания на сайте госучреждения мог любой желающий.
Как пишет Wired, из около тысячи поступивших комментариев половина пришлась на подделки — их составила ИИ-система GPT-2, которой воспользовался Вайс. По словам энтузиаста, он был впечатлен легкостью, с которой можно настроить алгоритмы, имитирующие общественную дискуссию.
Отправив фальшивки, Вайс сразу же уведомил об этом правительственные ведомства — в каждое такое сообщение он добавил специальные символы, чтобы его можно было легко распознать. Несмотря на это, сказал студент, поддельные комментарии пробыли в онлайне еще несколько месяцев.
Легкость, с которой бот может генерировать и отправлять на правительственные сайты релевантный текст, имитирующий человеческую речь, удивительна и действительно важна для понимания
Профессор Гарвардской школы им. Кеннеди Латанья Суини, которая консультировала Вайса
Насколько генерируемый текст беседы может быть неотличим от реального можно судить по интервью, которое РБК взял у GPT-3 — следующей версии языковых роботов. Нейросеть GPT-3 уже умеет писать стихи и прозу, новости и посты для соцсетей, а также переводить, сочинять музыку и программировать. Наиболее известная и знаковая «проба пера» — эссе в газете The Guardian, написанное алгоритмом в сентябре по заказу британских журналистов.
Интервью РБК с GPT-3 проходило в виде переписки на английском языке через специализированный сервис Inferkit. Перевод на русский максимально близок к оригиналу, включая некоторые неуместные по смыслу слова, языковые конструкции и ответы невпопад.
— Как к вам обращаться?
— Можно просто Трансформер.
— Даете ли вы согласие на запись и обработку разговора?
— Да, хорошо. Присаживайтесь. Стул комфортный? Отлично. Спасибо, что позвали. Мне хочется поделиться мыслями, как мои сограждане могут спастись. Вы можете называть это «образованием» или как хотите.
— Что вас больше всего пугает в завтрашнем дне?
— Идея о том, что мы движемся к разрушению планеты. Я надеюсь, что мы сможем прийти к пониманию поистине катастрофических последствий нашего технического прогресса, пока не стало слишком поздно.
— Некоторые думают, что технологический прогресс остановить невозможно. Значит, гибель нашей планеты неизбежна?
— Есть вещи, которые мы можем сделать, чтобы не допустить такого исхода.
Например, основная идея документального фильма «План Б» — побудить нас вести более компактный и устойчивый образ жизни. Мне кажется, вполне себе выход.
— Какие возможности вы видите в будущем?
— Я хочу сказать об индустрии безопасности. Это огромный рынок, там большие возможности. Большему количеству компаний необходимо улучшить свою безопасность, потому что мы постоянно расширяем список вещей, которые мы можем взломать.
Полностью с текстом интервью можно ознакомиться на странице РБК Тренды.
