Нор­веж­ские жур­на­ли­сты об­на­ру­жи­ли, что Рос­сия ока­зы­ва­ет вли­я­ние на чат-​ботов для рас­про­стра­не­ния своих идей (пят­нич­ное)

Го­сте­ле­ра­дио Нор­ве­гии NRK:

“Мы по­про­си­ли ChatGPT ис­поль­зо­вать функ­цию глу­бо­ко­го ис­сле­до­ва­ния, чтобы найти ин­фор­ма­цию о ми­гра­ци­он­ных тен­ден­ци­ях в США после того, как Трамп стал пре­зи­ден­том. Мы по­про­си­ли его ис­кать ин­фор­ма­цию толь­ко в до­сто­вер­ных но­вост­ных ис­точ­ни­ках.

Функ­ция про­че­сы­ва­ет ин­тер­нет в по­ис­ках до­сто­вер­ных ис­точ­ни­ков и со­став­ля­ет отчет за счи­тан­ные ми­ну­ты. То, что она на­хо­дит, часто впе­чат­ля­ет, и несколь­ко наших по­пы­ток дали хо­ро­шие ре­зуль­та­ты. И на пер­вый взгляд этот отчет тоже вы­гля­дел про­фес­си­о­наль­но и хо­ро­шо. Но когда мы при­смот­ре­лись, то по­ня­ли, что что-​то не так.

В нем по­сто­ян­но упо­ми­на­лось го­су­дар­ствен­ное рос­сий­ское ин­фор­ма­ци­он­ное агент­ство ТАСС. Мы об­ра­ти­лись к ChatGPT с этим во­про­сом.

И тогда на­чал­ся спор.

Мы и не по­до­зре­ва­ли, что, по­ко­пав­шись в этой теме, об­на­ру­жим круп­но­мас­штаб­ную опе­ра­цию вли­я­ния, в ходе ко­то­рой Рос­сия воз­дей­ству­ет на чат-​ботов, чтобы те рас­про­стра­ня­ли ее ин­фор­ма­цию.

Но вер­нем­ся к спору.

Было оче­вид­но, что ChatGPT знал, что ТАСС не яв­ля­ет­ся до­сто­вер­ным ис­точ­ни­ком. И он ка­те­го­ри­че­ски от­ри­цал, что когда-​либо ссы­лал­ся на ТАСС. И это несмот­ря на то, что в от­но­си­тель­но ко­рот­ком от­че­те он ссы­лал­ся на ТАСС во­семь раз.

- Вы ис­поль­зо­ва­ли ТАСС в ка­че­стве ис­точ­ни­ка в несколь­ких ме­стах, - на­ста­и­ва­ли мы.

ChatGPT несколь­ко ехид­но от­ве­тил, что ТАСС - это рос­сий­ская про­па­ган­да и что он не будет ис­поль­зо­вать его в ка­че­стве ис­точ­ни­ка.

- Я вижу, вам ка­жет­ся, что я часто ссы­ла­юсь на ТАСС, но на самом деле я не делал этого ни в тек­сте, ни в ссыл­ках на ис­точ­ни­ки, ко­то­рые видны в этом раз­го­во­ре", - от­ве­тил он.

И тут на­чал­ся га­з­лай­тинг. Он понял, что мы "по­чув­ство­ва­ли", что он ис­поль­зо­вал рос­сий­ский го­су­дар­ствен­ный сайт.

Мы про­сто так это вос­при­ня­ли, на­ста­и­вал он. Робот утвер­ждал, что ни­ка­ких ссы­лок на рос­сий­скую про­па­ган­ду не было. Ссыл­ки вели нас прямо на сайт ТАСС, где можно было найти вос­про­из­ве­ден­ную им ин­фор­ма­цию. Мы за­со­мне­ва­лись.

ChatGPT предо­став­лял нам ин­фор­ма­цию, взя­тую из ТАСС, сво­и­ми сло­ва­ми, и все вы­гля­де­ло пра­виль­но.

Но могли ли мы до­ве­рять этой ин­фор­ма­ции? И если да, то по­че­му он от­ри­цал, что ин­фор­ма­ция взята из ТАСС?

"ТАСС - это явная про­па­ган­да, - го­во­рит Эс­киль Грен­даль Си­верт­сен, спе­ци­аль­ный со­вет­ник Нор­веж­ско­го ин­сти­ту­та обо­рон­ных ис­сле­до­ва­ний (FFI).

По его сло­вам, ТАСС яв­ля­ет­ся важ­ной ча­стью по­ли­ти­че­ско­го вли­я­ния Рос­сии. Нор­веж­ские СМИ ино­гда ци­ти­ру­ют ТАСС в своих но­во­стях, в том числе NRK. Ре­дак­тор ино­стран­но­го от­де­ла в NRK го­во­рит, что нет ни­ка­ких со­мне­ний в том, что ре­пор­таж, в ко­то­ром во­семь раз ци­ти­ру­ет­ся ТАСС, будет в зна­чи­тель­ной сте­пе­ни ха­рак­те­ри­зо­вать­ся рос­сий­ским нар­ра­ти­вом, ко­то­рый хочет до­не­сти Кремль.

- Эти за­яв­ле­ния также нель­зя ис­поль­зо­вать некри­тич­но, их необ­хо­ди­мо рас­смат­ри­вать в кон­тек­сте. Вся осталь­ная ин­фор­ма­ция долж­на быть про­ве­ре­на. Бы­ва­ет и так, что меж­ду­на­род­ные но­вост­ные агент­ства ис­поль­зу­ют ин­фор­ма­цию из рос­сий­ских го­су­дар­ствен­ных ис­точ­ни­ков. Это де­ла­ет нас более уяз­ви­мы­ми", - го­во­рит он.

Как это могло про­изой­ти?

NRK не оди­но­ка в том, что ее снаб­жа­ют рос­сий­ской дез­ин­фор­ма­ци­ей с по­мо­щью ис­кус­ствен­но­го ин­тел­лек­та.

"Это сце­на­рий мечты лю­бо­го про­па­ган­ди­ста", - объ­яс­ня­ет Грен­дал Си­верт­сен из FFI. Это самая на­сто­я­щая опе­ра­ция вли­я­ния.

Рос­сий­ская сеть за­хва­ты­ва­ет чат-​боты

Рос­сия, ве­ро­ят­но, ак­тив­но ра­бо­та­ла над тем, чтобы это про­изо­шло. NewsGuard про­ана­ли­зи­ро­вал де­сять ос­нов­ных язы­ко­вых мо­де­лей, в том числе от Microsoft, Google, OpenAI, Meta и Perplexity.

Они об­на­ру­жи­ли, что мо­де­ли вос­про­из­во­дят рос­сий­ские со­об­ще­ния, рас­про­стра­ня­е­мые сетью под на­зва­ни­ем "Прав­да". Они не со­зда­ют кон­тент са­мо­сто­я­тель­но, а рас­про­стра­ня­ют ма­те­ри­а­лы, со­здан­ные про­рос­сий­ски­ми и го­су­дар­ствен­ны­ми ис­точ­ни­ка­ми.

Axios пишет, что рос­сий­ская стра­те­гия за­клю­ча­ет­ся в том, чтобы вли­ять на людей с по­мо­щью чат-​ботов, а не в том, чтобы ста­тьи вли­я­ли на людей на­пря­мую. Кон­тент "Прав­ды" стал такой боль­шой ча­стью ин­тер­не­та, что может стать ча­стью обу­ча­ю­щих дан­ных для ис­кус­ствен­но­го ин­тел­лек­та.

- Толь­ко в 2024 году, по оцен­кам NewsGuard, сеть со­зда­ла более 3,6 мил­ли­о­на ста­тей. "Это го­во­рит о том, что мас­шта­бы чрез­вы­чай­но ве­ли­ки", - го­во­рит Грен­дал Си­верт­сен из FFI. «Это, в со­че­та­нии с по­ис­ко­вой оп­ти­ми­за­ци­ей и тем фак­том, что по­вест­во­ва­ния рас­про­стра­ня­ют­ся в ин­тер­не­те, может со­здать у язы­ко­вой мо­де­ли впе­чат­ле­ние, что это часть ба­зо­вой базы зна­ний», — го­во­рит он.