Как научить искусственный интеллект распознавать ложь и чем нейросети, понимающие обман, отличаются от детектора лжи?
Знает ли нейросеть, что такое обман?
Для начала нужно оговориться, что «обман» — понятие очень широкое. Если под обманом подразумевается, например, мошенническая схема с использованием каких-то данных, то можно создать алгоритм, который будет искать определенные последовательности действий и выявлять мошенников.
Если же речь идёт о том, может ли нейросеть распознавать ложь в поведении человека, то здесь всё обстоит совсем иначе.
Сама по себе нейросеть не знает, что такое ложь. Нейросетевые алгоритмы могут находить неочевидные для человека закономерности в данных, которые используются при их обучении, и дальше использовать эти закономерности во время анализа новых данных. Поэтому точность анализа данных нейросетью зависит от её архитектуры, и от качества данных, на которых она обучалась. Это применимо и к определению лжи: то, насколько хорошо нейросеть будет определять обман, зависит от того, как именно подбирались для её обучения данные, содержащие ложь. Однако из-за природы самой лжи собрать данные, которые в любой ситуации однозначно указывали бы на ложь, не так-то просто.
Что указывает на ложь?
Сейчас наука не располагает методами, с помощью которых можно было бы определить ложь как таковую. Но мы можем распознать ложь опосредованно через физиологические признаки, поскольку в ряде случаев обман влияет на наш организм.
Существует множество вариаций лжи — от небезызвестной лжи во спасение до профессионального блефа игроков в покер. Каждый человек, даже обладающий твердыми принципами и убеждениями, использовал ложь хотя бы раз в своей жизни — намеренно или неосознанно. По этой причине разная ложь имеет для людей разное значение: в каких-то ситуациях мы обманываем, даже не осознавая этого, а в каких-то прикладываем огромные усилия, чтобы обман прошёл незамеченным.
Соответственно, объём когнитивных и физиологических усилий, направленных на сокрытие лжи, зависит как от уровня когнитивной нагрузки (т.е. насколько человеку важно в данный момент скрывать информацию и обманывать собеседника), так и от индивидуальной реакции организма. В зависимости от того, насколько значима ложь для человека в данной ситуации, ему приходится прикладывать соответствующие усилия для сокрытия правды и подготовки ложного ответа, поэтому физиологические параметры меняются в разной степени.
К слову, когда хорошо знающие нас люди говорят, что мы лжём, обычно они опираются именно на такие физиологические параметры. Но даже они могут ошибаться: согласно исследованиям в области лжи, люди распознают ложь с 50%-й вероятностью. С таким же успехом можно просто подкинуть монетку.
А как же детектор лжи? Он ведь точнее человеческого глаза?
Мы часто слышим о проверках на детекторе лжи (полиграфе), которые применяются в криминалистике и некоторых компаниях во время интервью при приёме на работу и периодических беседах с сотрудниками на некоторых должностях. Однако полиграф — всего лишь инструмент, с помощью которого считываются физиологические показатели. Главным в этой процедуре является специалист-полиграфолог, который анализирует показания прибора и соотносит их со своими знаниями и опытом. Однако несмотря на то, что специалисты-полиграфологи имеют годы опыта за плечами, сами они оценивают точность своей работы в среднем на 70% (от 60% до 80%). Это значит, что регистрируемые полиграфом внешние признаки и физиологические параметры, наблюдаемые во время обмана, носят разный характер и проявляются не всегда.
На когнитивную нагрузку и физическое напряжение могут указывать изменения разных параметров:
- дыхание, как правило, грудное и брюшное;
- сердечно-сосудистая активность — пульс и давление;
- кожно-гальваническая реакция, или сопротивление кожи;
- мышечная, или двигательная активность;
- иногда — голосовая активность.
В исследованиях реакций во время эпизодов лжи учёные также часто регистрируют движения глаз (саккады), моргания, активность мозга и другие показатели.
Но почему все эти параметры меняются во время обмана? Дело в том, что наш организм реагирует похожим образом на любой стресс. В данном случае нервная система считает стрессом значимость ситуации и сокрытие информации, которая может повлечь нежелательные последствия. Но важно понимать, что реакция организма во время лжи похожа на другие виды когнитивных нагрузок или на проявления сильных эмоций.
Как на основе этих параметров нейросеть может научиться определять обман? Она будет точнее полиграфа?
Если человек хочет скрыть, что лжёт, то он может попытаться сознательно контролировать свои физиологические реакции. Однако согласно исследованиям в области лжи, контролировать все физиологические параметры одновременно и согласованно довольно трудно. Поэтому современные научные методы создания детектора лжи основаны на анализе всей совокупности неосознаваемых физиологических реакций, включая мимические выражения лица. Этот подход даёт более полноценное понимание, и именно его используют разработчики нейросетевых детекторов лжи.
Если же говорить о том, как именно научить нейросеть определять ложь, то тут есть два подхода:
- дать ей видео, где люди лгут или говорят правду, и разметку для этих данных;
- заранее выделить признаки, такие как, например, физиологические параметры и мимические выражения лица. На основе этих признаков и разметки видео (т.е. в какой момент человек говорит правду, а когда обманывает), нейросеть может обучиться распознавать те случаи, когда человек преднамеренно лжёт.
Но здесь важно осознавать, что, как и полиграф, нейросеть сама по себе не понимает, что такое правда или ложь, и не может самостоятельно определить, что в какой-то момент человек солгал. Нейросеть только показывает, что физиологические параметры человека изменяются в сравнении с его личной «нормой». Уже на основе этих данных человек-оператор, использующий нейросеть, понимает, что в какие-то моменты когнитивная нагрузка человека отличается от его «нормы», и дальнейшая интерпретация этих данных зависит уже от него. Поэтому важно учитывать, что когнитивная нагрузка и физиологические показатели могут отличаться как потому, что человек действительно лжёт, так и оттого, что разговор вызывает у него сильный отклик по каким-то другим причинам (например, в его жизни был травмирующий эпизод, связанный с темой беседы).
Спец службы и научные институты многих стран работают не только над генерацией поддельного аудио и видео контента, но и разрабатывают различные решения для выявления обмана.
По материалам РБК Тренды. Автор Марина Чурикова, Lead Research Scientist в Neurodata Lab.
