Ин­фор­ма­ци­он­ный апо­ка­лип­сис неиз­бе­жен

Спе­ци­а­лист по соц­се­тям Авив Ова­дья еще в 2016 году пре­ду­пре­ждал ИТ-​компании о про­бле­ме фаль­ши­вых но­во­стей и на­ступ­ле­нии эпохи пост­прав­ды. Про­гно­зы экс­пер­та сбы­лись, и те­перь он пред­ре­ка­ет еще боль­шую угро­зу — то­таль­ный ин­фор­ма­ци­он­ный апо­ка­лип­сис. Тех­но­ло­гии ма­шин­но­го обу­че­ния поз­во­лят окон­ча­тель­но раз­мыть гра­ни­цы между фак­та­ми и вы­мыс­лом. Со вре­ме­нем у людей вы­ра­бо­та­ет­ся апа­тия к ре­аль­но­сти и пол­ная неспо­соб­ность от­ли­чить прав­ду от вы­мыс­ла.

В се­ре­дине 2016 года вы­пуск­ник МТИ, спе­ци­а­лист по ком­пью­тер­ным тех­но­ло­ги­ям и по сов­ме­сти­тель­ству раз­ра­бот­чик эмод­зи, изоб­ра­жа­ю­ще­го брок­ко­ли, Авив Ова­дья вы­сту­пал на тех­но­ло­ги­че­ской кон­фе­рен­ции в Сан-​Франциско. США го­то­ви­лись к пре­зи­дент­ским вы­бо­рам, и уже тогда экс­перт об­ра­тил вни­ма­ние на рас­про­стра­не­ние лож­ной ин­фор­ма­ции. Ова­дья от­ме­тил, что Facebook, Twitter и Google ста­вят в при­о­ри­тет клики, лайки, ре­по­сты, ре­клам­ные пе­ре­хо­ды и, ко­неч­но, день­ги. Ка­че­ство ин­фор­ма­ции при этом стоит на по­след­нем месте. За­яв­ле­ния о на­дви­га­ю­щем­ся ин­фор­ма­ци­он­ном апо­ка­лип­си­се оста­лись неза­ме­чен­ны­ми.

Те­перь Ова­дья про­гно­зи­ру­ет то­таль­ный кол­лапс ин­сти­ту­та прав­ды и раз­ру­ше­ние са­мо­го по­ня­тия «факта». Глав­ной при­чи­ной ин­фо­ка­лип­си­са ста­нет рас­про­стра­не­ние де­ше­вых и до­ступ­ных ин­стру­мен­тов ис­ка­же­ния ре­аль­но­сти. «В этих усло­ви­ях любой че­ло­век может сыми­ти­ро­вать какое-​либо со­бы­тие, неза­ви­си­мо от того, про­ис­хо­ди­ло ли оно на самом деле», — по­яс­нил суть про­бле­мы Ова­дья в ин­тер­вью BuzzFeed News.

Пер­вые при­ме­ры тех­но­ло­гий, спо­соб­ных прав­до­по­доб­но ис­ка­жать ре­аль­ность, уже из­вест­ны. Ге­не­ра­тив­ные ней­ро­се­ти уже фор­ми­ру­ют новый муль­ти­ме­дий­ный мир, в ко­то­ром ни­че­му нель­зя до­ве­рять. С их по­мо­щью можно со­зда­вать ви­део­ро­ли­ки, на ко­то­рых люди де­ла­ют то, чего не де­ла­ли, и го­во­рят то, что ни­ко­гда не го­во­ри­ли. Сам со­зда­тель тех­но­ло­гии Ян Гуд­фел­лоу при­зна­ет свя­зан­ные с ней риски и про­гно­зи­ру­ет, что через 10 лет YouTube за­пол­нят фей­ко­вые ви­део­ро­ли­ки, ко­то­рые труд­но будет от­ли­чить от ре­аль­ных.

Такие раз­ра­бот­ки могут при­ве­сти к ди­пло­ма­ти­че­ским ма­ни­пу­ля­ци­ям. До­ста­точ­но сде­лать ролик, на ко­то­ром До­нальд Трамп или Ким Чен Ын объ­яв­ля­ют ядер­ную войну — и по­след­ствия будут непред­ска­зу­е­мы­ми.

Дру­гая форма ма­ни­пу­ля­ции поз­во­ля­ет ими­ти­ро­вать де­мо­кра­тию, а точ­нее на­род­ное во­ле­изъ­яв­ле­ние. Вот толь­ко роль на­ро­да будут вы­пол­нять боты. Они будут го­ло­со­вать на онлайн-​референдумах, при­сы­лать пись­ма в ад­ми­ни­стра­цию и участ­во­вать в мас­штаб­ных го­су­дар­ствен­ных опро­сах. Этим летом боты ата­ко­ва­ли сайт Фе­де­раль­ной ко­мис­сии по связи США — более мил­ли­о­на вир­ту­аль­ных «граж­дан» оста­ви­ли ком­мен­та­рии с прось­бой от­ме­нить се­те­вой ней­тра­ли­тет.

Ова­дья до­пус­ка­ет, что со вре­ме­нем на смену бо­та­ми при­дут и ре­аль­ные люди. Их ак­ка­ун­ты в соц­се­тях, а с ними и ак­тив­ность вла­дель­цев ак­ка­ун­тов можно будет ку­пить на чер­ном рынке. «Фаб­ри­ки трол­лей» су­ще­ству­ют и сей­час, но в бу­ду­щем они по­лу­чат более ши­ро­кое рас­про­стра­не­ние и вы­рас­тут в мас­шта­бах.

Дру­гой сце­на­рий, о ко­то­ром пре­ду­пре­жда­ет экс­перт, свя­зан с «то­чеч­ным фи­шин­гом». Если рань­ше спа­ме­ры и ки­бер­мо­шен­ни­ки рас­сы­ла­ли всем оди­на­ко­вые пись­ма и со­об­ще­ния в на­деж­де вы­звать от­клик, то те­перь ха­ке­ры смо­гут по­до­брать ключ к каж­до­му поль­зо­ва­те­лю. На­при­мер, сыми­ти­ро­вать речь друга и по­про­сить о день­гах с мак­си­маль­ной убе­ди­тель­но­стью, ис­поль­зуя ха­рак­тер­ный сленг.

«Людям проще будет в прин­ци­пе пре­кра­тить про­ве­рять почту», — счи­та­ет Ова­дья. В ре­зуль­та­те у поль­зо­ва­те­лей ин­тер­не­та вы­ра­бо­та­ет­ся «апа­тия к ре­аль­но­сти» — при­зна­ние соб­ствен­ной неспо­соб­но­сти от­ли­чить факт от вы­мыс­ла. «Люди пе­ре­ста­нут об­ра­щать вни­ма­ние на но­во­сти, а опре­де­лен­ный уро­вень ин­фор­ми­ро­ван­но­сти, необ­хо­ди­мый для де­мо­кра­тии, ока­жет­ся под во­про­сом».

Ре­ше­ния для про­бле­мы Ова­дья пока не видит. «Угро­за ре­аль­на, но самое пло­хое, что я пока не вижу спо­со­ба с ней бо­роть­ся. Чтобы оста­но­вить [ин­фо­ка­лип­сис], по­на­до­бит­ся спе­ци­аль­ная над­строй­ка, со­по­ста­ви­мая по мас­шта­бам с ин­тер­не­том».