И вос­ста­нут не ма­ши­ны: как люди ста­но­вят­ся объ­ек­том кон­тро­ля ИИ и к чему это при­ве­дет

Фан­таст Айзек Ази­мов ока­зал­ся не прав: если уж мы и уви­дим войну людей и тех­но­ло­гий, то ини­ци­и­ру­ет ее че­ло­век. Как и по­че­му это воз­мож­но, раз­мыш­ля­ет ос­но­ва­тель фонда под­держ­ки IT-​стартапов «Спут­ник» Мак­сим Пу­да­лов. 

Тема ис­поль­зо­ва­ния ро­бо­тов с ис­кус­ствен­ным ин­тел­лек­том су­ще­ству­ет в на­уч­ной фан­та­сти­ке с се­ре­ди­ны XX века. Как из­вест­но, в своих про­из­ве­де­ни­ях ее ак­тив­но раз­ви­вал фан­таст Айзек Ази­мов, пред­ска­зав­ший мно­гие трен­ды со­вре­мен­но­сти и сфор­му­ли­ро­вав­ший зна­ме­ни­тые три за­ко­на ро­бо­то­тех­ни­ки. Сюжет быст­ро нашел от­клик у последователей-​фантастов и от­ра­же­ние в ге­ро­ях про­из­ве­де­ний раз­ных фор­ма­тов и вре­мен — от Элек­тро­ни­ка до Тер­ми­на­то­ра. Осо­бен­но впе­чат­ля­ю­щим ока­зал­ся нар­ра­тив о том, что че­ло­век будет экс­плу­а­ти­ро­вать ро­бо­тов, и это при­ве­дет к вос­ста­нию машин.

Од­на­ко ре­аль­ность по­ка­зы­ва­ет, что ис­то­рия пошла по дру­го­му, воз­мож­но, более дра­ма­тич­но­му пути. Пусть пока мы ис­поль­зу­ем сла­бый ис­кус­ствен­ный ин­тел­лект, но тренд уже оче­ви­ден: люди про­дол­жат ра­бо­тать, но кон­тро­ли­ро­вать их будут ма­ши­ны. Это ста­нет фак­то­ром еще боль­шей се­гре­га­ции об­ще­ства, и если уж нас и ждут бунты ми­ро­во­го мас­шта­ба, то ско­рее людей про­тив людей. Или про­тив ро­бо­тов, людь­ми управ­ля­е­мых.

Все­про­ни­ка­ю­щий кон­троль тех­но­ло­гий

Почти ни одна сфера жизни уже не об­хо­дит­ся без по­мо­щи тех­но­ло­гий. Бес­пи­лот­ные до­став­щи­ки при­во­зят про­дук­ты. На­ви­га­то­ры и ав­то­пи­ло­ты по­мо­га­ют пе­ре­дви­гать­ся по го­ро­ду, умные ал­го­рит­мы — вы­би­рать кон­тент и парт­не­ров. Но по­мощь во мно­гих сфе­рах по­сте­пен­но ста­но­вит­ся кон­тро­лем. По всему миру рас­тет при­ме­не­ние тех­но­ло­гий, ко­то­рые сле­дят за тем, где мы на­хо­дим­ся, какую ин­фор­ма­цию по­треб­ля­ем, кому пе­ре­во­дим день­ги, как мы ра­бо­та­ем, до­ста­точ­но ли хо­ро­шо себя чув­ству­ем и не на­ру­ша­ем ли закон.

Так, по со­об­ще­нию WSJ, после пан­де­мии ко­ли­че­ство аме­ри­кан­ских ра­бо­то­да­те­лей, ис­поль­зу­ю­щих тех­но­ло­гии для от­сле­жи­ва­ния дей­ствий со­труд­ни­ков и их про­дук­тив­но­сти, вы­рос­ло с 30% до 60%. Среди них — Amazon, ко­то­рый с по­мо­щью ИИ за­ме­ря­ет время между за­да­ни­я­ми склад­ских со­труд­ни­ков и даже уве­дом­ля­ет о пре­кра­ще­нии кон­трак­та. Из­вест­но, что круп­ные рос­сий­ские ре­тей­ле­ры тоже ак­тив­но ро­бо­ти­зи­ру­ют скла­ды — в том числе с по­мо­щью го­ло­со­вых тех­но­ло­гий, ко­то­рые по­сто­ян­но со­про­вож­да­ют склад­ской пер­со­нал. Тренд на HR-​роботизацию будет рас­про­стра­нять­ся на все сферы, где нехват­ка кад­ров ощу­ща­ет­ся осо­бен­но остро.

До 2033 года, по оцен­кам FMI, на 16,1%  вы­рас­тет и ми­ро­вой рынок тех­но­ло­гий рас­по­зна­ва­ния лиц. Их воз­мож­но­сти по­сте­пен­но при­бли­жа­ют­ся к без­гра­нич­ным: от оцен­ки эмо­ци­о­наль­но­го со­сто­я­ния че­ло­ве­ка до опре­де­ле­ния людей опре­де­лен­ной на­ци­о­наль­но­сти (такую тех­но­ло­гию за­па­тен­то­вал Huawei для при­ме­не­ния в Китае), не го­во­ря уж о ба­наль­ной иден­ти­фи­ка­ции и ло­ка­ли­за­ции граж­дан. При­ме­ча­тель­но, кста­ти, что ос­нов­ны­ми по­став­щи­ка­ми си­стем ИИ-​наблюдения яв­ля­ют­ся Китай и США, а 51% их при­ме­не­ния при­хо­дит­ся на де­мо­кра­ти­че­ские, а не ав­то­ри­тар­ные стра­ны.

Тех­но­ло­гии са­мо­го ви­део­на­блю­де­ния тоже предо­став­ля­ют мно­же­ство воз­мож­но­стей. В аэро­пор­тах с их по­мо­щью не толь­ко уда­ет­ся на­хо­дить остав­лен­ный без при­смот­ра багаж и из­ме­рять рас­сто­я­ние между пас­са­жи­ра­ми в оче­ре­дях, что было ак­ту­аль­но во время ка­ран­ти­на, но и вы­яв­лять ку­ре­ние в непо­ло­жен­ных ме­стах, рас­по­зна­вать по­до­зри­тель­ное по­ве­де­ние и даже ору­жие в толпе. Борь­ба с на­ру­ше­ни­я­ми во всех видах — во­об­ще самый за­мет­ный сег­мент ис­поль­зо­ва­ния ИИ, что ло­гич­но. Банки и дру­гие фи­нан­со­вые учре­жде­ния ис­поль­зу­ют ИИ для ана­ли­за тран­сак­ций и предот­вра­ще­ния мо­шен­ни­че­ства. По­ли­ция США обу­чи­ла мо­дель, ко­то­рая пред­ска­зы­ва­ет воз­мож­ные места и время пре­ступ­ле­ний. В Рос­сии до­рож­ные служ­бы ав­то­ма­ти­че­ски фик­си­ру­ют на­ру­ше­ния ПДД, в Син­га­пу­ре по­мо­га­ют предот­вра­щать их, ана­ли­зи­руя тра­фик, а ав­то­мо­биль­ные си­сте­мы вроде Tesla или от­дель­ных при­ло­же­ний от­сле­жи­ва­ют при­зна­ки уста­ло­сти во­ди­те­ля.

Но, по­жа­луй, наи­бо­лее лю­бо­пыт­ный тренд за­клю­ча­ет­ся в том, что тех­но­ло­гии кон­тро­ли­ру­ют не толь­ко об­ще­ствен­ное, но и част­ное по­ве­де­ние людей. Пока су­ще­ству­ет в виде пред­ска­за­тель­ных мо­де­лей, но на­вер­ня­ка най­дет прак­ти­че­ское при­ме­не­ние рас­по­зна­ва­ние при­зна­ков де­прес­сии и су­и­ци­даль­ных мыс­лей среди поль­зо­ва­те­лей соц­се­тей. Идет ра­бо­та над мо­де­ля­ми, ко­то­рые вы­яв­ля­ют неуспе­ва­е­мость сту­ден­тов. А у каж­до­го из нас на­вер­ня­ка есть ис­то­рия, когда га­д­же­ты «под­слу­ша­ли» же­ла­ние и неза­мет­но при­ве­ли на сайт с нуж­ным то­ва­ром или услу­гой. Это при­ме­ры мяг­кой силы — самой эф­фек­тив­ной и ко­вар­ной, по­то­му что она нами даже не осо­зна­ет­ся.

Неза­ме­ни­мый по­тре­би­тель

Да, тех­но­ло­ги­за­ция при­во­дит не толь­ко к кон­тро­лю, но и к ча­стич­ной за­мене че­ло­ве­ка ро­бо­та­ми в эко­но­ми­че­ских про­цес­сах. Но за­яв­ле­ния о том, что люди будут осво­бож­де­ны от труда, все же преж­де­вре­мен­ны. 

Во-​первых, как бы ни раз­ви­ва­лась на­уч­ная мысль, очень мно­гие за­да­чи с точки зре­ния той же эко­но­ми­ки це­ле­со­об­раз­ней вы­пол­нять че­ло­ве­ку. По­лез­ные ис­ко­па­е­мые, из ко­то­рых де­ла­ют­ся ком­пью­те­ры, — ре­сурс невоз­об­нов­ля­е­мый. А че­ло­век — ре­сурс воз­об­нов­ля­е­мый, да еще и вос­про­из­во­ди­мый са­мо­сто­я­тель­но. Так что в одних слу­ча­ях че­ло­ве­че­ское уча­стие будет обу­слов­ле­но до­ро­го­виз­ной тех­но­ло­гий, как про­ис­хо­дит сей­час с ком­пью­тер­ным зре­ни­ем, в дру­гих — со­зда­ни­ем новых ра­бо­чих мест во­круг ав­то­ма­ти­зи­ро­ван­ных функ­ций. 

Во-​вторых, даже самый раз­ви­тый ИИ ни­ко­гда не ста­нет по­тре­би­те­лем эко­но­ми­че­ских благ. По­треб­лять может толь­ко че­ло­век, а чтобы ему было на что по­ку­пать то­ва­ры и услу­ги, он дол­жен как-​то за­ра­ба­ты­вать.

На­ко­нец, мы пока не видим пред­по­сы­лок к тому, чтобы даже силь­ный ИИ смог под­чи­нить себе твор­че­ский акт. И речь не о со­зда­нии кар­ти­нок, видео или му­зы­ки, с ко­то­ры­ми ИИ уже пре­крас­но справ­ля­ет­ся, а о со­зи­да­нии. То есть о за­рож­де­нии идеи, вы­бо­ре оп­ти­маль­но­го пути для ее во­пло­ще­ния в непред­ска­зу­е­мых усло­ви­ях, об убеж­де­нии дру­гих в вер­но­сти та­ко­го вы­бо­ра и об управ­ле­нии ре­сур­са­ми для ее ре­а­ли­за­ции. Даже про­грам­ми­ро­ва­ние са­мо­го ИИ про­ис­хо­дит толь­ко бла­го­да­ря твор­че­ско­му акту раз­ра­бот­чи­ков. Это то, что мы пока не можем ав­то­ма­ти­зи­ро­вать и, ско­рее всего, пе­ре­ста­нем пы­тать­ся. Ведь зачем от­ка­зы­вать­ся от вла­сти не толь­ко над ро­бо­та­ми, но и над дру­ги­ми людь­ми? 

Выс­ший кон­троль над ма­ши­на­ми оста­нет­ся за че­ло­ве­ком, но до­сту­пен он будет немно­гим. Имен­но спо­соб­ность к твор­че­ству может рас­ко­лоть че­ло­ве­че­ство, а тех­но­ло­ги­за­ция ста­нет лишь триг­ге­ром.

Божья искра ми­ро­во­го по­жа­ра

Об­ще­ство и так уже раз­де­ле­но на тех, кто вос­про­из­во­дит что-​то по за­дан­но­му об­раз­цу, и на тех, кто ини­ци­и­ру­ет и со­зи­да­ет. Од­на­ко даль­ней­шее раз­ви­тие ин­фор­ма­ци­он­ных си­стем силь­но сни­жа­ет тре­бо­ва­ния к пер­вым и крат­но уве­ли­чи­ва­ет воз­мож­но­сти вто­рых. Рань­ше для ра­бо­ты так­си­стом нужно было знать город, а сей­час до­ста­точ­но на­ви­га­то­ра. Рань­ше хо­ро­ший ди­зай­нер за час мог на­ри­со­вать столь­ко, сколь­ко успе­ет сам, а те­перь вышел на новый уро­вень, по­то­му что ис­поль­зу­ет ней­ро­се­ти, как та­лант­ли­вый ху­дож­ник — под­ма­сте­рье. Од­но­вре­мен­но с этим ра­бо­чий на за­во­де де­ла­ет все более про­стую ра­бо­ту, тогда как его ме­не­джер кон­тро­ли­ру­ет еще боль­ше дан­ных по вы­ра­бот­ке, ко­то­рых рань­ше не знал. 

Ли­дер­ство, кре­а­тив­ное мыш­ле­ние и ана­ли­ти­че­ский склад ума уже сей­час вхо­дят в топ самых вос­тре­бо­ван­ных на­вы­ков в мире, а в бу­ду­щем и вовсе ста­нут про­пус­ком в жизнь. Но об­хо­дит­ся их раз­ви­тие неде­ше­во. Дет­ские сады и школы, ко­то­рые учат детей ду­мать нестан­дарт­но, могут поз­во­лить себе немно­гие семьи. Раз­рыв по воз­мож­но­стям в об­ра­зо­ва­нии между бед­ны­ми и бо­га­ты­ми уже велик и про­дол­жит расти. Воз­мож­но, си­ту­а­цию смяг­чит уве­ли­че­ние сред­не­го уров­ня жизни бла­го­да­ря тем же тех­но­ло­ги­ям, а также по­мощь об­ще­ствен­ных ин­сти­ту­тов, со­зда­ю­щих со­ци­аль­ные лифты для ода­рен­ных юно­шей и де­ву­шек. Но гло­баль­но про­цесс ци­ви­ли­за­ци­он­но­го рас­сло­е­ния на тех, кто кон­тро­ли­ру­ет ИИ, и на тех, кого кон­тро­ли­ру­ет ИИ, уже за­пу­щен. 

Вы­брать сто­ро­ну нужно уже сей­час, пока вли­я­ние тех­но­ло­гий еще не так ве­ли­ко.

Автор: Мак­сим Пу­да­лов