Норвежские журналисты обнаружили, что Россия оказывает влияние на чат-ботов для распространения своих идей (пятничное)

Гостелерадио Норвегии NRK:

“Мы попросили ChatGPT использовать функцию глубокого исследования, чтобы найти информацию о миграционных тенденциях в США после того, как Трамп стал президентом. Мы попросили его искать информацию только в достоверных новостных источниках.

Функция прочесывает интернет в поисках достоверных источников и составляет отчет за считанные минуты. То, что она находит, часто впечатляет, и несколько наших попыток дали хорошие результаты. И на первый взгляд этот отчет тоже выглядел профессионально и хорошо. Но когда мы присмотрелись, то поняли, что что-то не так.

В нем постоянно упоминалось государственное российское информационное агентство ТАСС. Мы обратились к ChatGPT с этим вопросом.

И тогда начался спор.

Мы и не подозревали, что, покопавшись в этой теме, обнаружим крупномасштабную операцию влияния, в ходе которой Россия воздействует на чат-ботов, чтобы те распространяли ее информацию.

Но вернемся к спору.

Было очевидно, что ChatGPT знал, что ТАСС не является достоверным источником. И он категорически отрицал, что когда-либо ссылался на ТАСС. И это несмотря на то, что в относительно коротком отчете он ссылался на ТАСС восемь раз.

- Вы использовали ТАСС в качестве источника в нескольких местах, - настаивали мы.

ChatGPT несколько ехидно ответил, что ТАСС - это российская пропаганда и что он не будет использовать его в качестве источника.

- Я вижу, вам кажется, что я часто ссылаюсь на ТАСС, но на самом деле я не делал этого ни в тексте, ни в ссылках на источники, которые видны в этом разговоре", - ответил он.

И тут начался газлайтинг. Он понял, что мы "почувствовали", что он использовал российский государственный сайт.

Мы просто так это восприняли, настаивал он. Робот утверждал, что никаких ссылок на российскую пропаганду не было. Ссылки вели нас прямо на сайт ТАСС, где можно было найти воспроизведенную им информацию. Мы засомневались.

ChatGPT предоставлял нам информацию, взятую из ТАСС, своими словами, и все выглядело правильно.

Но могли ли мы доверять этой информации? И если да, то почему он отрицал, что информация взята из ТАСС?

"ТАСС - это явная пропаганда, - говорит Эскиль Грендаль Сивертсен, специальный советник Норвежского института оборонных исследований (FFI).

По его словам, ТАСС является важной частью политического влияния России. Норвежские СМИ иногда цитируют ТАСС в своих новостях, в том числе NRK. Редактор иностранного отдела в NRK говорит, что нет никаких сомнений в том, что репортаж, в котором восемь раз цитируется ТАСС, будет в значительной степени характеризоваться российским нарративом, который хочет донести Кремль.

- Эти заявления также нельзя использовать некритично, их необходимо рассматривать в контексте. Вся остальная информация должна быть проверена. Бывает и так, что международные новостные агентства используют информацию из российских государственных источников. Это делает нас более уязвимыми", - говорит он.

Как это могло произойти?

NRK не одинока в том, что ее снабжают российской дезинформацией с помощью искусственного интеллекта.

"Это сценарий мечты любого пропагандиста", - объясняет Грендал Сивертсен из FFI. Это самая настоящая операция влияния.

Российская сеть захватывает чат-боты

Россия, вероятно, активно работала над тем, чтобы это произошло. NewsGuard проанализировал десять основных языковых моделей, в том числе от Microsoft, Google, OpenAI, Meta и Perplexity.

Они обнаружили, что модели воспроизводят российские сообщения, распространяемые сетью под названием "Правда". Они не создают контент самостоятельно, а распространяют материалы, созданные пророссийскими и государственными источниками.

Axios пишет, что российская стратегия заключается в том, чтобы влиять на людей с помощью чат-ботов, а не в том, чтобы статьи влияли на людей напрямую. Контент "Правды" стал такой большой частью интернета, что может стать частью обучающих данных для искусственного интеллекта.

- Только в 2024 году, по оценкам NewsGuard, сеть создала более 3,6 миллиона статей. "Это говорит о том, что масштабы чрезвычайно велики", - говорит Грендал Сивертсен из FFI. «Это, в сочетании с поисковой оптимизацией и тем фактом, что повествования распространяются в интернете, может создать у языковой модели впечатление, что это часть базовой базы знаний», — говорит он.