Лингвисты РГГУ учат искусственный интеллект "ловить" манипуляции СМИ

Рассеянный свет газовых фонарей может перевернуть представление человека о происходящем вокруг настолько, что он начнет сомневаться в своей адекватности и поверит любому фейку. О "газлайтинге" и других способах языковой манипуляции, которые используют современные СМИ, а также как их "ловит" искусственный интеллект, "РГ" рассказала руководитель Центра когнитивных программ и технологий РГГУ Вера Заботкина.

Вера Ивановна, ваш центр только что завершил мощное фундаментальное исследование о противодействии манипуляциям в медийном пространстве. Если говорить о его практическом приложении, на что бы вы прежде всего обратили внимание?

Вера Заботкина: Мы проанализировали английские и российские источники общим объемом более 47 млн слов. Если говорить о практической пользе, к примеру, получилось разработать рекомендации для курсов по медиаграмотности в учебных заведениях, которые позволяют "видеть" манипулятивное воздействие и противостоять ему.

Лингвисты центра выявили те структуры и модели, которые вызывают у человека изменения в концептуальной картине мира и внушают ему, что ложь - это правда.

Вообще слово "манипуляция" происходит от латинского "манус" - рука. То есть вас берут за руку, и ведут туда, куда выгодно манипулятору. Он держит вас под контролем и пытается внушить вам ложную информацию, может быть, даже вызвать неадекватное поведение.

Вы изучали только печатные тексты?

Вера Заботкина: Любую информацию можно донести до читателя не только словом, но и через иллюстрации и карикатуры, звукоряд, музыку, язык тела. На этом построены дипфейки. Такие тексты лингвисты называют мультимодальными. Мы собрали их в банк данных. Занимаемся автоматической обработкой Big Datа, что позволяет выявить основные сценарии манипулятивного воздействия в российских и зарубежных СМИ, а также в социальных сетях. Это совместная работа с коллегами из Курчатовского института при поддержке гранта Российского научного фонда.

Мир усложнился, явно выраженной пропаганде никто не верит. Нужно действовать тоньше. То есть воздействовать скрыто, так, чтобы человек не понял, что им манипулируют?

Вера Заботкина: Лгать и добиваться своих целей - об этом писал еще Никколо Макиавелли. Несколько веков спустя появился термин "макиавеллизм" как характеристика особенностей мышления. Мы попытались посмотреть, что же лежит в его основе. Удалось построить динамическую мегамодель манипуляции, которая состоит из различных структур хранения информации в мозгу - так называемых фреймов. Так вот фрейм "Манипулятивное воздействие" обязательно сопровождается фреймами "Контроль" и "Доверие". Известный американский прозаик Чарльз Буковски писал об этом так: "Если ты обманул своего друга, это не значит, что он дурак. Это означает, что ты злоупотребил его доверием". Часто СМИ пытаются сначала убедить читателей, что написанному можно доверять, а уж потом начинается манипуляция. Так возникает момент так называемой "когнитивной легкости", когда отключается критическое мышление.

Как вам кажется, почему тема "манипуляции" стала такой модной? Все с ума сошли от одноименного французского сериала, где раскрываются приемы и хитрости манипуляторов. Не отстают психологи. Девушки за чашкой кофе рассуждают о "газлайтинге". Дома чуть что, сразу: "Ты мной манипулируешь"…

Вера Заботкина: Во время Второй мировой войны в США вышел чудесный фильм "Газовый свет" (англ. Gaslight) с Ингрид Бергман в главной роли, за которую актриса получила Оскара. Фильм о том, как муж пытался внушить своей жене, что она не совсем адекватна. Девушке казалось, что-то не так со светом, что газовое освещение в доме становится все слабее. На самом деле супруг сам регулировал горелку и манипулировал состоянием жены. Отсюда и возник термин "газлайтинг".

И сегодня сложное время, когда человек в состоянии психологического дискомфорта, загнанности. Но видеть во всем подвох и манипуляцию - это, конечно, не норма.

Психологи-когнитивисты в свое время разработали посвященный Макиавелли тест, с помощью которого можно было определить, насколько человек склонен использовать других людей себе во благо. А как лингвисты "ловят" манипуляцию?

Вера Заботкина: Да, есть языковые маркеры, которые заставляют насторожиться: здесь манипуляция. К таким показателям относятся, прежде всего, повторы. Навязчивое повторение создает ту самую "когнитивную легкость", которая отключает критику. Стоит присмотреться и к эмоционально окрашенной лексике.

Как говорят англичане, "love bombing" - преувеличенное количество любви и восхищения, которое не является искренним, льстивые комплементы, которые тоже служат инструментом установления доверия, успокаивают человека, заставляют чувствовать себя в комфортной обстановке: мол, "все хорошо, никто не пытается на тебя воздействовать". Но ничем не лучше и отрицательная эмоция: слова типа шок, хоррор, ужас… Они тоже готовят человека к манипуляции.

Третий признак - эвфемизмы. Как только слышите, что неприятное явление не называют его прямым именем, думайте о манипуляции.

Когда это связано с "политкорректностью"?

Вера Заботкина: Именно. Это тоже сглаживание и сокрытие истинных негативных аспектов. Ну, например, во время Вьетнамской войны употреблялось слово "pacification" - пацификация (умиротворение), что на самом деле значило "бомбежка".

Еще приведу чисто практические примеры. Манипуляцию можно заподозрить, если автор заметки или статьи пишет о "подлинных мотивах" поступков человека. Это называется "чтением в сердцах". И вот пример: "Она как раз должна была заниматься вопросами мигрантов, но делала это, видимо, с личной выгодой". Обратите внимание на слово "видимо". Это любимое слово манипуляторов.

И еще. Слишком часто употребление слов, которые относятся к семантическому полю "нечистая сила", не буду их перечислять, тоже наводит на размышления.

Вера Ивановна, вы анализировали и российские, и англоязычные СМИ. В каждой культуре есть набор метафор, которые основаны на национальных мифах, крылатых выражениях и представлениях о человеке. Это ведь мощное оружие?

Вера Заботкина: Эти метафоры тоже могут быть использованы для того, чтобы влиять на концептуальную картину мира, нарушая сложившиеся у читателя представления. Ну, например, выражение "Iron Curtain" - "железный занавес", у англичан ранее вызывал ассоциацию с тем железным занавесом, который опускался в одном из театров Лондона на случай пожара, то есть защищал публику и сцену, поэтому это словосочетание у представителей западной культуры вызывало положительные эмоции. Позже выражение получило противоположный смысл, и стало вызывать чувство страха, отторжения, неизвестности. То есть в результате манипуляции происходит сбой устоявшихся связей в сознании, нарушение восприятия и соответственно поведения.

Приведите, пожалуйста, такой же пример для русского языка.

Вера Заботкина: Среди культурно-специфических метафор, конечно, цитаты из русских писателей, бардов, фильмов. Я приведу такой пример. В древнерусском языке есть слово "позороватеся", что значит "выставлять себя напоказ". Произошла смена ценностных ориентиров, и сейчас никому не кажется позорным как-то себя презентовать. Как бы нашим сознанием проманипулировали со стороны другой культуры, и что для русского человека было плохо, сейчас уже норма. Это сбой системы ценностей.

Вы намерены использовать в своей работе GPT. Но существуют ли сегодня нейросети, которые способны заметить, например, более 90 процентов манипуляций?

Вера Заботкина: Нейросеть GPT использует в своей работе Large Language Models, то есть Большие языковые модели. Однако на данный момент нейросети еще не улавливают явления, которые лежат вне языка. Например, с какой целью человек говорит, какие использует речевые тактики, какие налажены отношения между участниками коммуникации. Да, нейросети научились разгадывать смыслы слов, они определяют связь между ними, но контекст и эмоции им пока не подвластны.