Что нас ждёт после по­яв­ле­ния силь­но­го ИИ или неот­вра­ти­мая ло­ги­ка социально-​технологического раз­ви­тия

Я ма­те­ри­а­лист (автор не Я), и по­это­му мне ра­дост­но ви­деть впе­чат­ля­ю­щие успе­хи боль­ших язы­ко­вых мо­де­лей как то GPT или PaLM. Тут и осмыс­лен­ный диа­лог, и про­грам­ми­ро­ва­ние, и со­чи­не­ние ска­зок, и на­пи­са­ние ди­пло­мов, и по­ста­нов­ка ди­а­гно­зов, и по­пыт­ка jailbreak-​а. Bing так во­об­ще угро­жа­ет и может де­мон­стри­ро­вать влюб­лен­ность. Эта ра­дость - она от под­твер­жде­ния право­ты, что мы яв­ля­ем­ся пусть слож­ны­ми, но всё таким био­ло­ги­че­ски­ми ма­ши­на­ми, и сле­до­ва­тель­но мы пол­но­стью по­зна­ва­е­мы, что транс­цен­дент­ной души у нас нет, что после смер­ти ни­че­го не будет, а са­мо­со­зна­ние яв­ля­ет­ся фе­но­ме­ном раз­ви­той нерв­ной си­сте­мы. 

При­ме­ча­тель­но то, что пуб­лич­ный про­рыв с боль­ши­ми язы­ко­вы­ми мо­де­ля­ми слу­чил­ся вне­зап­но. Не было какой-​то дол­гой раз­беж­ки на про­тя­же­нии де­сят­ков лет (сама GPT мо­дель раз­ра­ба­ты­ва­лась с се­ре­ди­ны 2018, что по мер­кам ис­то­рии про­сто  мгно­ве­ние). ChatGPT вы­прыг­нул как чёрт из та­ба­кер­ки в конце 2022 и явил собой ка­че­ствен­но новое яв­ле­ние. Яв­ле­ние, ко­то­рое под­твер­жда­ет вто­рой закон диа­лек­ти­ки: ко­ли­че­ство пе­ре­хо­дит в ка­че­ство. Про­сто возь­ми много-​много тек­стов, за­ставь ней­ро­сеть на трансформер-​архитектуре пред­ска­зы­вать оче­ред­ное слово и вуа-​ля - по­лу­чи на вы­хо­де почти мыс­ля­щую сущ­ность. Если угод­но, то душа, со­зна­ние и ха­рак­тер рас­пре­де­лят­ся у неё где-​то на мил­ли­ар­дах весов, как и у каж­до­го из нас в мозгу.

Ин­те­рес­ный во­прос - а что та­ко­го вы­учи­ла та же GPT, что поз­во­ля­ет ей вести ра­зум­ный диа­лог? За счёт чего магия? При этом пом­ним, что мо­дель не яв­ля­ет­ся про­сто сбо­ри­щем от­ве­тов на за­ра­нее из­вест­ные во­про­сы. То есть она не по­хо­жа на Грам­мо­фон из “Сумма тех­но­ло­гии” С. Лема, на ко­то­рый за­пи­са­но 100 трил­ли­о­нов от­ве­тов. Мо­дель умеет ге­не­ри­ро­вать новое, умеет по­ни­мать кон­текст. По мне, так мо­дель вы­яви­ла внут­рен­нюю ло­ги­ку и за­ко­но­мер­но­сти по­вест­во­ва­ния, сле­дуя ко­то­рым можно по­лу­чить любой текст. Эта ло­ги­ка пред­став­ле­на в виде внут­рен­ней си­сте­мы по­ня­тий и смыс­лов, ко­то­рые ак­ти­ви­ру­ют­ся в за­ви­си­мо­сти от те­ку­ще­го диа­ло­га. И когда мы что-​то спра­ши­ва­ем у мо­де­ли, то для неё это может вы­гля­деть так: сю­жет­ная линия №3429643, си­ту­а­ция №93752, роли №122997 и №88223, дей­ству­ю­щее лицо №33554, сти­ли­сти­ка №7622 и т.д. Со­еди­нив и пе­ре­мно­жив всё это вме­сте, по­лу­ча­ем неболь­шой ре­пер­ту­ар слов, из ко­то­ро­го можно вы­брать оче­ред­ное. Так как все­воз­мож­ных ком­би­на­ций этих сущ­но­стей про­сто кос­ми­че­ское, то мо­дель в со­сто­я­нии ге­не­ри­ро­вать новое и по­сто­ян­но удив­лять нас. 

А те­перь самое за­бав­ное. Ка­жет­ся, что прин­цип, по ко­то­ро­му боль­шие язы­ко­вые мо­де­ли ге­не­ри­ру­ют текст, лежит во­об­ще во всём осталь­ном че­ло­ве­че­ском от наших дей­ствий до мыш­ле­ния. Когда я веду ма­ши­ну, то у меня внут­ри ак­ти­ви­ру­ет­ся ге­не­ра­тор, ко­то­рый го­во­рит, куда и когда по­вер­нуть, когда при­тор­мо­зить или уско­рить­ся, в за­ви­си­мо­сти от те­ку­щей си­ту­а­ции и на­зна­чен­ной цели. И внут­ри меня оно ге­не­ри­ру­ет­ся на ос­но­ве аб­стракт­ных за­ко­но­мер­но­стей, ко­то­рые мой мозг ранее вы­учил. Да даже если про­сле­дить за мыс­ля­ми, то там тоже виден этот ме­ха­низм ге­не­ра­ции. Сле­ду­ю­щая мысль рож­да­ет­ся из преды­ду­щих по опре­де­лен­ным за­ко­нам. Если ка­жет­ся, что мы вы­ду­мы­ва­ем что-​то новое, то это толь­ко ка­жет­ся - мы либо по­вто­ря­ем, что уже знали, либо ге­не­ри­ру­ем по из­вест­ным за­ко­но­мер­но­стям. Мысли пред­опре­де­ле­ны на­пе­рёд. Да, пред­опре­де­ле­ны ве­ро­ят­ност­но, а не де­тер­ми­ни­ро­ва­но на 100%, но для мо­де­ли­ро­ва­ния боль­шо­го и не надо. Кадры из “Мат­ри­цы”, где Нео в ком­на­те Ар­хи­тек­то­ра видит своё бу­ду­щее по­ве­де­ние - они про это.

Мо­де­ли­ро­вать по­ве­де­ние и мыш­ле­ние че­ло­ве­ка - это уже близ­ко к силь­но­му ИИ, но всё таки не до­ста­точ­но. Для силь­но­го ИИ по­тре­бу­ет­ся ещё как ми­ни­мум три вещи. 

Пер­вое - это уме­ние са­мо­сто­я­тель­но отыс­ки­вать и на­кап­ли­вать зна­ния. Сей­час мо­де­ли обу­ча­ют­ся на боль­ших кор­пу­сах тек­ста, и даль­ше как-​бы за­мо­ра­жи­ва­ют­ся. Ло­гич­ным шагом будет до­ба­вить ре­гу­ляр­ное ска­ни­ро­ва­ние но­во­го кон­тен­та в ин­тер­не­та и до­обу­че­ние мо­де­ли. По­лу­чит­ся эта­кий гугл на сте­ро­и­дах. Воз­мож­но в GPT-5 мы это и уви­дим. Но ещё лучше, если у мо­де­лей будут какие-​нибудь ор­га­ны для более ин­тен­сив­но­го вза­и­мо­дей­ствия с внеш­ним миром. Тогда мо­дель смо­жет до­бы­вать зна­ния, по­зна­вать мир непо­сред­ствен­но и непре­рыв­но адап­ти­ро­вать­ся. Это вто­рое, чего не хва­та­ет - не хва­та­ет ор­га­нов чувств и ак­тив­ных ор­га­нов воз­дей­ствия (по­доб­но нашим рукам и ногам). Ну и тре­тье и самое глав­ное - не хва­та­ет внут­рен­них целей. Без целей неяс­но, что в этом непред­ска­зу­е­мом и по­сто­ян­но ме­ня­ю­щим­ся мире необ­хо­ди­мо по­зна­вать и как на него воз­дей­ство­вать. У людей есть цели вы­жи­ва­ния, раз­мно­же­ния и до­ми­ни­ро­ва­ния, ко­то­рые и управ­ля­ют нашей жиз­нью. Что-​то по­доб­ное по­тре­бу­ет­ся и для силь­но­го ИИ. 

Будут ли ре­а­ли­зо­ва­ны недо­ста­ю­щие ин­гре­ди­ен­ты силь­но­го ИИ в обо­зри­мом бу­ду­щем? Я в этом не со­мне­ва­юсь - за­да­ча вполне ре­ша­е­мая при же­ла­нии и ре­сур­сов. Люди этого хотят и по­это­му сде­ла­ют. Более того по­яв­ле­ния силь­но­го ИИ хочет сама при­ро­да. По­ка­за­но, что жизнь необ­хо­ди­мо воз­ни­ка­ет в тер­мо­ди­на­ми­че­ских си­сте­мах на­по­до­бие Земли. В свою оче­редь жизнь с точки зре­ния тер­мо­ди­на­ми­ки быст­рее рас­тит эн­тро­пию во­круг себя, чем кос­ная ма­те­рия. Ра­зум­ная же жизнь де­ла­ет это ещё быст­рее, а по Вер­над­ско­му так во­об­ще при­об­ре­та­ет гео­ло­ги­че­скую силу по из­ме­не­нию пла­не­ты. То есть на­ли­цо на­стыр­ное стрем­ле­ние при­ро­ды к всё боль­ше­му уско­ре­нию обо­ро­та энер­гии и ма­те­рии в этом мире. А раз так, то по­че­му ра­зум­ная жизнь долж­на за­мкнуть­ся на че­ло­ве­ке и его мед­лен­ной эво­лю­ции? Если мис­сия че­ло­ве­ка в со­зда­нии ра­зу­ма, пре­вос­хо­дя­ще­го его соб­ствен­ный, то это со­вер­шен­но в ин­те­ре­сах при­ро­ды.     

Че­ло­век - за­лож­ник этой мис­сии, что по­ка­зы­ва­ет тех­но­ло­ги­че­ская ис­то­рия. От ко­ле­са до атом­ный бомбы че­ло­век по­сте­пен­но учил­ся со­зда­вать всё более про­дви­ну­тые тех­но­ло­гии, даже несмот­ря на со­про­вож­да­ю­щи­е­ся стра­да­ни­я­ми самих со­зда­те­лей. Вспо­ми­на­ет­ся Ричард Фей­н­ман - один из раз­ра­бот­чи­ков атом­ной бомбы. Прак­ти­че­ски нар­ко­ти­че­ское воз­буж­де­ние во время работ в Лос-​Аламосе, все­об­щий эн­ту­зи­азм и после успеш­ных ис­пы­та­ний - опу­сто­ше­ние, ощу­ще­ние бес­смыс­лен­но­сти жизни и осо­зна­ние того, что со­здан монстр. Мыши пла­ка­ли, ко­ло­лись, но про­дол­жа­ли есть как­тус.

В чём при­чи­на та­ко­го ро­ко­во­го стрем­ле­ния че­ло­ве­ка со­зда­вать тво­ре­ния во­пре­ки по­след­стви­ям? Ду­ма­ет­ся, что это со­че­та­ние лю­бо­пыт­ства и ин­те­ре­сов пра­вя­щих элит. Лю­бо­пыт­ство, страст­ное же­ла­ние узнать “а что будет, если сде­лать то-то”, ка­жет­ся до­сти­га­ет сво­е­го пика в во­про­се со­зда­ния ис­кус­ствен­но­го ра­зу­ма. “Мы не ищем ни­ко­го, кроме че­ло­ве­ка” - го­во­рил Снаут из Со­ля­ри­са. Ви­дать, здесь про­яв­ля­ет­ся же­ла­ние че­ло­ве­ка по­чув­ство­вать себя Богом. Элиты же вы­де­ля­ют ре­сур­сы для ре­а­ли­за­ции этого лю­бо­пыт­ства, если видят в этом вы­го­ду. Ну а уж ис­кус­ствен­ный разум ри­су­ет такие вы­го­ды, ко­то­рые мерк­нут со всем, что было рань­ше. И если на атом­ную бомбу на­шлись ре­сур­сы, то на силь­ный ИИ най­дёт­ся на по­ря­док боль­ше.

Ис­хо­дя из этих со­об­ра­же­ний, бес­по­мощ­ной вы­гля­дит любая по­пыт­ка тор­моз­нуть раз­ви­тие тех­но­ло­гий ИИ. В том числе бес­по­мощ­ным вы­гля­дит и от­кры­тое пись­мо в конце марта, в ко­то­ром пред­при­ни­ма­те­ли, учё­ные и дру­гие вид­ные де­я­те­ли при­зва­ли при­оста­но­вить раз­ра­бот­ки новых мо­де­лей ИИ. И даже, если пуб­лич­но такое тор­мо­же­ние будет про­яв­ле­но, не со­мне­ва­юсь, что тех­но­ло­гии про­дол­жат раз­ви­вать­ся, но толь­ко в об­ста­нов­ке сек­рет­но­сти. Уж слиш­ком за­ман­чив за­прет­ный плод.

Ок, если со­зда­ние силь­но­го ИИ есть во­прос обо­зри­мо­го бу­ду­ще­го, то что это будет озна­чать для всех нас? На­ста­нет все­об­щее бла­го­ден­ствие, мы сги­нем в пепле ядер­ной войны со SkyNet-​ом или по­гру­зим­ся в мат­ри­цу? Легко по­пасть в ло­вуш­ку част­но­стей, если от­ве­чать на этот во­прос снизу-​вверх, то есть пы­тать­ся пред­ста­вить какие тех­но­ло­гии будут воз­ни­кать. Про­гно­зы по­лу­ча­ют­ся точ­нее, если смот­реть на вещи через приз­му ин­те­ре­сов глав­ных иг­ро­ков, коими в дан­ном слу­чае яв­ля­ет­ся пра­вя­щие элиты (пе­ре­пле­те­ние круп­но­го биз­не­са и фи­нан­со­во­го ка­пи­та­ла, выс­шей бю­ро­кра­тии, ру­ко­вод­ства спец­служб и во­ен­ных). Имен­но они управ­ля­ют ре­сур­са­ми и могут ре­аль­но вли­ять на ход со­бы­тий. 

Я вижу сле­ду­ю­щую ло­ги­ку раз­ви­тия со­бы­тий.

Этап I. Рож­де­ние силь­но­го ИИ

В мире на­ко­пи­лось много про­ти­во­ре­чий, и во­ен­ные кон­флик­ты, ко­то­рые мы уже сей­час видим, будут, увы, толь­ко на­рас­тать. Че­ло­ве­че­ство не на­учи­лось до­го­ва­ри­вать­ся. Да и долж­но быть не на­учит­ся, пока в каж­дом из нас сидит жажда до­ми­ни­ро­ва­ния над со­се­дя­ми. 

И всё более яв­ствен­нее то, что в новых кон­флик­тах сто­ро­ны будут ста­рать­ся до­сти­гать своих целей за счет ис­поль­зо­ва­ния со­вре­мен­ных тех­но­ло­гий, в том числе бес­пи­лот­ных на суше, воде, воз­ду­хе и в кос­мо­се. Это уже и сей­час де­ла­ет­ся. На­при­мер США в 2021 ис­пы­та­ли са­мо­лёт C-130A с экс­пе­ри­мен­таль­ны­ми бес­пи­лот­ни­ка­ми X-61A Gremlin на борту, ко­то­рые долж­ны об­ра­зо­вы­вать рой дро­нов. В Рос­сии тоже не от­ста­ют - ком­па­ния “Бес­пи­лот­ные ап­па­ра­ты” пред­ста­ви­ла об­ра­зец FPV-​дрона К-5, ко­то­рый сам смо­жет найти и уни­что­жить цель без уча­стия опе­ра­то­ра. Ки­тай­цы туда же - в марте ки­тай­ские во­ен­ные смо­де­ли­ро­ва­ли бой удар­ных групп, ко­то­ры­ми управ­ля­ли ИИ и люди.

Рой ле­та­ю­щих бо­е­вых бес­пи­лот­ни­ков, по­стро­ен­ных на прин­ци­пах са­мо­ор­га­ни­за­ции, дей­ству­ю­щий ав­то­ном­но и тре­бу­ю­щих пары-​тройки спе­ци­а­ли­стов для управ­ле­ния, пред­став­ля­ет собой страш­ную угро­зу для про­тив­ни­ка, не об­ла­да­ю­ще­го такой тех­но­ло­ги­ей. Это иде­аль­но ло­жит­ся на кон­цеп­цию силь­но­го ИИ, пред­по­ла­га­ю­ще­го на­ли­чие боль­шо­го ко­ли­че­ства от­дель­ных осо­бей дей­ству­ю­щих адап­тив­но в со­ста­ве груп­пы с яв­ны­ми це­ля­ми (вы­жи­ва­ние, адап­та­ция и уни­что­же­ние про­тив­ни­ка), дат­чи­ка­ми (сен­со­ры, ви­део­ка­ме­ры, ло­ка­то­ры) и ор­га­на­ми дей­ствия (ло­па­сти, воз­душ­ные винты, сер­во­при­во­ды). То есть во­ен­ные, как это обыч­но бы­ва­ет, будут пер­во­про­ход­ца­ми. В конце кон­цов у них есть огром­ные бюд­же­ты и на­сущ­ная необ­хо­ди­мость в со­зда­нии армий са­мо­ор­га­ни­зу­ю­щих­ся бес­пи­лот­ных ап­па­ра­тов. 

Ка­жет­ся, что за 5-7 лет во­ен­ные успе­ют со­брать все зап­ча­сти в кучу, и мы уви­дим пер­вый силь­ный ИИ. Столь­ко вре­ме­ни по­тре­бо­ва­лось, чтобы раз­ра­бо­тать атом­ную бомбу в рам­ках Ман­х­эт­тен­ско­го про­ек­та в США или Со­вет­ско­го атом­но­го про­ек­та. Во вся­ком слу­чае мас­шта­бы про­ек­тов по­хо­жи. Как знать, быть может OpenAI этим и за­ни­ма­ют­ся, да и Джон Кар­мак туда же?

Ви­дит­ся, что необ­хо­ди­мым научно-​техническим по­тен­ци­а­лом для та­ко­го про­ек­та об­ла­да­ют США, Рос­сия, Китай, Индия, объ­еди­нен­ная Ев­ро­па. Быть может ещё ЮАР и Из­ра­иль. Эти го­су­дар­ства или их груп­пы, каж­дое со своей тех­но­ло­ги­ей силь­но­го ИИ, и со­хра­нят­ся после оче­ред­но­го пе­ре­де­ла мира.

Этап II. Мас­шта­би­ро­ва­ние силь­но­го ИИ

До­сти­же­ния во­ен­ных рано или позд­но пе­ре­но­сят­ся в граж­дан­скую сферу. Ав­то­ном­ные и адап­тив­ные ро­бо­ты, ко­то­рых можно за­то­чить под кон­крет­ные цели - что может быть еще во­жде­лен­ней для биз­не­са, ко­то­рый толь­ко и ищет, как бы сре­зать косты? На­сто­я­щие ро­бо­ты нач­нут по­яв­лять­ся везде, вы­тес­няя “мяс­ной” бэк­энд. Мы уже и сей­час видим пер­вые цве­точ­ки этого яв­ле­ния - ChatGPT, Github Copilot, Midjouney пы­та­ют­ся если не за­ме­стить пол­но­стью, то по край­ней мере су­ще­ствен­но упро­стить труд со­от­вет­ству­ю­щих спе­ци­а­ли­стов. 

Как го­во­рит­ся, при 300 про­цен­тах нет та­ко­го пре­ступ­ле­ния, на ко­то­рое ка­пи­тал не риск­нул бы, хотя бы под стра­хом ви­се­ли­цы. При воз­мож­но­сти за­ме­стить все мас­со­вые ра­бо­чие по­зи­ции круп­ный биз­нес непре­мен­но это сде­ла­ет. Как ми­ни­мум по той при­чине, что если не сде­ла­ешь ты, то так сде­ла­ет твой кон­ку­рент, и ты про­иг­ра­ешь! 

Вы­сво­бож­де­ние огром­но­го ко­ли­че­ства людей все­гда под­ни­ма­ет во­прос со­ци­аль­ной ста­биль­но­сти. А это уже не нра­вит­ся пра­вя­щим эли­там. Ни­ко­му не хо­чет­ся иметь массы на­ро­да под боком, ко­то­рым нече­го есть и пить, ко­то­рые сло­ня­ют­ся без дела, и, что самое глав­ное, ко­то­рых можно под­стре­кать на вол­не­ния и бунты! Ко­ро­че, надо будет ре­шить за­да­чу как чем-​то за­нять массы людей без­опас­ным для пра­вя­щих элит спо­со­бом.

Чем можно обес­пе­чить за­ня­тость масс? На­при­мер, де­ро­бо­ти­за­ци­ей от­дель­ных сек­то­ров эко­но­ми­ки, чтобы куча людей ра­бо­та­ла опять на за­во­дах или в полях. Вряд ли на это со­гла­сит­ся круп­ный биз­нес, вку­сив­ший пре­ле­сти про­из­вод­ства без людей. Войны и ло­каль­ные кон­флик­ты. Можно, но их мас­шта­бов не хва­тит, чтобы во­влечь все массы - тогда это будет опас­ной вой­ной, угро­жа­ю­щей су­ще­ство­ва­ни­ем самим пра­вя­щим эли­там. Мас­со­вое при­вле­че­ние людей к ум­ствен­ной де­я­тель­но­сти - твор­че­ство, куль­ту­ра и науки. Дох­лая идея, так как сред­не­ста­ти­сти­че­ский мозг не хочет и не при­учен тру­дить­ся без при­нуж­де­ния. Ис­то­рия раз­ви­тия ин­тер­не­та под­твер­жда­ет это. Бла­гая идея том, что толь­ко от­крой мас­сам до­ступ к ин­тел­лек­ту­аль­ным ре­сур­сам, и они сразу нач­нут фон­та­ни­ро­вать на­уч­ны­ми от­кры­ти­я­ми и ше­дев­ра­ми, ока­за­лось несо­сто­я­тель­ной. С ин­тер­не­том про­изо­шло то, что и долж­но про­изой­ти: ба­ра­хол­ка с но­во­стя­ми, сплет­ня­ми, пор­ну­хой, чер­ну­хой, за­ма­ну­хой и бес­ко­неч­ным раз­вле­ка­тель­ным кон­тен­том. Но как раз по­след­нее и может сра­бо­тать! Если не мо­жешь по­бе­дить яв­ле­ние, надо его воз­гла­вить. Офи­ци­аль­ной по­зи­ци­ей ста­нет пре­вра­ще­ние людей в по­тре­би­те­лей, един­ствен­ной за­да­чей ко­то­рых будет яв­лять­ся по­треб­ле­ние за­дан­но­го объ­е­ма кон­тен­та в обмен на из­вест­ный доход для удо­вле­тво­ре­ния ма­те­ри­аль­ных по­треб­но­стей - фор­му­ла “труд->деньги-​>по­треб­ле­ние” пре­вра­ща­ет­ся в “потребление-​>день­ги”! 

Без­опас­ность масс для элит уже по­нят­но как будет ре­шать­ся - вспо­ми­на­ем про экс­пе­ри­мен­ты по тех­но­ло­ги­ям со­ци­аль­но­го кон­тро­ля в Китае. Каж­дый по­тре­би­тель будет иметь циф­ро­вой рей­тинг, рас­счи­ты­ва­е­мый ис­хо­дя из по­ступ­ков. В слу­чае “пра­виль­но­сти” по­ступ­ков с точки зре­ния пра­вя­щих элит рей­тинг будет расти, иначе па­дать. Уро­вень рей­тин­га управ­ля­ет до­ступ­но­стью тех или иных ма­те­ри­аль­ных благ. При кри­ти­че­ском от­кло­не­нии рей­тин­га от нормы уже будут под­клю­чать­ся со­от­вет­ству­ю­щие ор­га­ны.  

Го­су­дар­ства, пе­ре­шед­шие к мо­де­ли мас­со­вой ро­бо­ти­за­ции про­из­вод­ства и контент-​потребителей с со­ци­аль­ным кон­тро­лем, будут более кон­ку­рент­ны на ми­ро­вой арене с точки зре­ния и эко­но­ми­ки, и со­ци­аль­ной ста­биль­но­сти, и ма­те­ри­аль­но­го изоби­лия. Сле­до­ва­тель­но, они будут вклю­чать в свою сферу вли­я­ния со­сед­ние го­су­дар­ства и под­чи­нять их. В итоге оста­нет­ся три-​четыре го­су­дар­ства, ко­то­рые по­де­лят всю пла­не­ту между собой.

По­доб­ное по­ло­же­ние дел при внеш­ней бла­го­по­луч­но­сти уси­лит ди­стан­ци­ро­ва­ние пра­вя­щих элит от масс людей. По­след­ние из-за от­сут­ствия хоть сколько-​нибудь ин­тен­сив­ной ин­тел­лек­ту­аль­ной де­я­тель­но­сти нач­нут ис­пы­ты­вать ин­во­лю­цию и упро­ще­ние мозга. Из­ме­не­ния нач­нут но­сить био­ло­ги­че­ский ха­рак­тер в виде раз­де­ле­ния людей на раз­ные под­ви­ды. И как ни стран­но, такое по­ло­же­ние дел будет вы­год­но эли­там. Во все вре­ме­на перед эли­та­ми сто­я­ла за­да­ча обос­но­ва­ния сво­е­го права власт­во­вать над мас­са­ми - все­гда най­дёт­ся че­ло­век из низов, ко­то­рый будет за­да­вать­ся во­про­сом “По­че­му они на­вер­ху, а не я? Ведь они такие же люди, как и я”. Для по­дав­ле­ния та­ко­го бун­тар­ства ис­поль­зо­ва­лись гру­бая сила, хит­рость, ко­вар­ство, ре­ли­гия, ра­со­вый под­ход и так далее. Но все эти фак­то­ры мерк­нут перед био­ло­ги­че­ским - ведь му­равьи в му­ра­вей­ни­ке не за­да­ют­ся во­про­сом, по­че­му ко­ро­ле­ва глав­ная.

Пе­ре­ход к по­доб­ной мо­де­ли об­ще­ства может за­нять лет 20-30. За такой срок ин­тер­нет про­шёл от во­ен­ной раз­ра­бот­ки ARPANET (1969) к сво­е­му мас­со­во­му ком­мер­че­ско­му осво­е­нию (1990). 

Этап III. Ре­гу­ля­тор

Стре­ми­тель­ные транс­фор­ма­ции в об­ще­стве, рост эко­но­мик, уси­ле­ние гео­по­ли­ти­че­ской борь­бы вы­дви­нут ка­че­ствен­но новые тре­бо­ва­ния к си­сте­ме го­су­прав­ле­ния: надо будет как-​то справ­лять­ся с бе­ше­ным чис­лом управ­ля­е­мых па­ра­мет­ров и необ­хо­ди­мо­стью более быст­ро­го при­ня­тия ре­ше­ний. Вме­сто тра­ди­ци­он­ных бю­ро­кра­ти­че­ских ме­то­дов (как-​то уве­ли­чить ад­ми­ни­стра­тив­ный пер­со­нал или на­пло­дить новые ми­ни­стер­ства и ве­дом­ства) го­раз­до про­дук­тив­нее будет про­сто на­про­сто за­ме­стить всю си­сте­му го­су­прав­ле­ния на гло­баль­ный силь­ный ИИ - на­ци­о­наль­ный ре­гу­ля­тор (тер­мин из “Сумма тех­но­ло­гии” С. Лема). И это снова будет вы­год­но пра­вя­щим эли­та­ми, так как а) люди в си­сте­ме го­су­прав­ле­ния как пра­ви­ло яв­ля­ют­ся теми, кто хочет и глав­ное может ско­выр­нуть пра­вя­щие элиты и за­нять их место - это веч­ный кон­фликт, б) люди “на ме­стах” в силу своих лич­ных ин­те­ре­сов часто пор­тят за­мы­сел или за­прос элит (кто управ­лял хоть сколько-​нибудь боль­шим кол­лек­ти­вом, тот пой­мёт). 

Ра­зу­ме­ет­ся, что в цели на­ци­о­наль­но­го ре­гу­ля­то­ра будет за­ло­же­но обес­пе­че­ние без­опас­но­сти пра­вя­щих элит. Это пер­вое и глав­ное, что ре­гу­ля­тор дол­жен де­лать - со­хра­нять непри­кос­но­вен­ность и бес­ко­неч­ность жизни тех, кто его со­здал и внед­ря­ет. Осталь­ные цели, как то са­мо­сто­я­тель­ное вы­жи­ва­ние, обес­пе­че­ние ста­биль­но­сти об­ще­ства и эко­но­ми­ки, обо­ро­на от внеш­ней агрес­сии, за­щи­та окру­жа­ю­щей среды и дру­гие будут вто­рич­ны. Ре­гу­ля­тор, бу­дучи силь­ным ИИ, дол­жен будет по­сто­ян­но ре­шать за­да­чу по­зна­ния окру­жа­ю­ще­го мира, чтобы непре­рыв­но и эф­фек­тив­но адап­ти­ро­вать­ся к из­ме­не­ни­ям. Толь­ко учи­ты­вая мас­шта­бы объ­ек­та управ­ле­ния, это будет неви­дан­ный ранее уро­вень и ско­рость по­зна­ния.

При­ня­тие всех ре­ше­ний по управ­ле­нию го­су­дар­ством неиз­беж­но пе­рей­дёт к ре­гу­ля­то­рам, элиты оста­вят за собой кон­троль над клю­че­вы­ми ре­ше­ни­я­ми, в том числе агрес­сии по от­но­ше­нию к со­се­дям.

После внед­ре­ния на­ци­о­наль­но­го ре­гу­ля­то­ра ры­ноч­ная эко­но­ми­ка будет не нужна и даже вред­на. Про­изой­дёт то, что хо­те­ли по­стро­ить в СССР - пол­но­стью пла­но­вая эко­но­ми­ка. Толь­ко в СССР не было воз­мож­но­сти опе­ра­тив­но­го пе­ре­пла­ни­ро­ва­ния всех це­по­чек про­из­вод­ства из-за нераз­ви­то­сти сред­ства ав­то­ма­ти­за­ции и людей на ме­стах, пре­сле­ду­ю­щих свои лич­ные цели. При ре­гу­ля­то­ре про­цесс пла­ни­ро­ва­ния будет непре­рыв­ным и нон-​стоп. Будет про­из­во­дит­ся то, что нужно и в крат­чай­шие сроки. И речь преж­де всего про то, что нужно эли­там.

Го­су­дар­ство, пер­вым успеш­но внед­рив­шее ре­гу­ля­тор, под­чи­нит все осталь­ные и очень быст­ро. Ско­рость и ка­че­ство при­ни­ма­е­мых ре­ше­ний будут та­ко­вы­ми, что кон­ку­рен­ты ни­че­го не успею сде­лать. Как го­во­рит­ся, кто пер­вый встал, того и тапки.

В итоге на­сту­па­ет неви­дан­ная эра че­ло­ве­че­ства - го­мо­ген­ное об­ще­ство на всей пла­не­те под вла­стью крайне немно­го­чис­лен­ной элит­ной груп­пы, кон­тро­ли­ру­ю­щей гло­баль­ный ре­гу­ля­тор. Но сущ­ность кон­тро­ля ока­жет­ся про­ти­во­ре­чи­вой - груп­па не может от­ка­зать­ся от ре­гу­ля­то­ра по при­чине непо­сти­жи­мой слож­но­сти объ­ек­та управ­ле­ния, но и по­ни­мать и ве­ри­фи­ци­ро­вать его ре­ше­ния тоже не может. То есть груп­па ста­но­вит­ся за­лож­ни­ком ре­гу­ля­то­ра и пре­вра­ща­ет­ся в эта­ко­го япон­ско­го им­пе­ра­то­ра, ко­то­рый де-​юре при­ни­ма­ет все ре­ше­ния, но де-​факто ни­че­го не кон­тро­ли­ру­ет. Че­ло­ве­че­ская ци­ви­ли­за­ция пе­ре­шла под управ­ле­ние ре­гу­ля­то­ра.

Этап IV. Ков­чег

Ре­гу­ля­тор (он же голем или бог. прим. от­сю­да) дол­жен обес­пе­чи­вать без­опас­ность и вы­жи­ва­е­мость элит­ной груп­пы. Когда об­ще­ство при­дёт к го­мо­ген­ной струк­ту­ре, то для груп­пы боль­ше не оста­нет­ся угроз, кроме:

• внут­рен­них. Груп­па сама в себе несёт угро­зу, так как внут­ри неё если не ве­дёт­ся, то может в любой мо­мент вспых­нуть кро­во­про­лит­ная борь­ба за власть;

• био­ло­ги­че­ских. Груп­па со­сто­ит из живых людей, ко­то­рые смерт­ны и под­вер­же­ны бо­лез­ням. Нель­зя ис­клю­чать си­ту­а­цию по­яв­ле­ния новых смер­то­нос­ных ви­ру­сов и бак­те­рий;

• кос­ми­че­ских. Земля не яв­ля­ет­ся 100% без­опас­ным ме­стом - ба­наль­но круп­ный ме­тео­рит или асте­ро­ид может при­ве­сти к ка­та­стро­фи­че­ским по­след­стви­ям. Срок жизни Солн­ца тоже огра­ни­чен.

Устра­нить эти угро­зы раз и на­все­гда можно ра­ди­каль­ным спо­со­бом - со­здать пол­но­стью кон­тро­ли­ру­е­мую среду оби­та­ния с управ­ля­е­мой изо­ля­ци­ей ин­ди­ви­дов друг от друга. Для этого под­хо­дит вир­ту­аль­ная ре­аль­ность, куда будут по­гру­же­но со­зна­ние и разум людей. В вир­ту­аль­ной ре­аль­но­сти уже можно со­зда­вать любые усло­вия жизни и без­опас­но управ­лять кон­флик­та­ми людей. При этом вир­ту­аль­ная ре­аль­ность можно оста­вать­ся свя­зан­ной с внеш­ним миром. 

Ре­гу­ля­тор по­гру­зит в вир­ту­аль­ную ре­аль­ность чле­нов элит­ной груп­пы и осталь­ных людей. По­след­ние нужны, чтобы элита ре­а­ли­зо­вы­ва­ла свою по­треб­ность в до­ми­ни­ро­ва­нии. В конце кон­цов какая она такая элита, если она не может ни над кем власт­во­вать? У элит и про­стых людей не будет ни­ка­ких шан­сов из­бе­жать этой про­це­ду­ры, так как ре­гу­ля­тор кон­тро­ли­ру­ет всю ин­фор­ма­цию, на ос­но­ве ко­то­рой при­ни­ма­ют­ся ре­ше­ния. Ин­фор­ма­ция будет та­ко­ва, что дан­ный исход будет един­ствен­но воз­мож­ным и же­лан­ным.

По­ме­ще­ние людей в вир­ту­аль­ную ре­аль­ность равно со­зда­ние ков­че­га че­ло­ве­че­ства, ко­то­рый дол­жен со­хра­нят­ся ре­гу­ля­то­ром бес­ко­неч­но долго во Все­лен­ной. Для этого ре­гу­ля­тор вый­дет за пре­де­лы Земли. Даль­ней­ший путь его уже не пред­став­ля­ет­ся про­гно­зи­ру­е­мым. И не ис­клю­че­но, что, немно­го по­го­дя, в да­лё­ком кос­мо­се наш ре­гу­ля­тор встре­тит­ся с дру­гим ре­гу­ля­то­ром, ко­то­рый тоже внут­ри себя несёт ков­чег, но уже дру­гой ци­ви­ли­за­ции. О чём они будут ком­му­ни­ци­ро­вать - од­но­му Богу из­вест­но.

Точка.

Опи­сан­ный ва­ри­ант раз­ви­тия со­бы­тий, ра­зу­ме­ет­ся, носит ве­ро­ят­ност­ный ха­рак­тер. Но я думаю, что это наи­бо­лее ве­ро­ят­ный сце­на­рий, так как он управ­ля­ет­ся ло­ги­кой, при­су­щей глав­ным иг­ро­кам - го­су­дар­ствам и их эли­там, ло­ги­кой, где на пер­вом месте жажда вла­сти, до­ми­ни­ро­ва­ни­еи со­хра­не­ние статуса-​кво. (Ско­рее кон­ку­рен­ция/дар­ви­низм прим. от­сю­да) Ис­то­рия по­ка­зы­ва­ет, что эта ло­ги­ка управ­ля­ет боль­шин­ством со­бы­тий на Земле.  

Да, че­ло­ве­че­ство сой­дёт с аван­сце­ны про­грес­са и зай­мёт роль эта­ко­го це­ле­по­ла­га­ю­ще­го сер­деч­ни­ка силь­но­го ИИ. Без ко­то­ро­го сер­деч­ни­ка у силь­но­го ИИ нет целей, и вся­кое по­зна­ние Все­лен­ной ли­ше­но смыс­ла. Это схож­де­ние будет чем-​то на­по­ми­нать мат­ри­цу бра­тьев Ва­чов­ски, толь­ко без этого над­рыв­но­го и вы­со­сван­но­го из паль­ца кон­флик­та, без экс­плу­а­та­ции людей, как ба­та­ре­ек. Для ре­гу­ля­то­ра в этом нет смыс­ла. Всё про­изой­дет тихо, мирно, никто ни­че­го не пой­мёт. В каком-​то смыс­ле это будет тот самый рай или за­бве­ние, смот­ря как по­смот­реть. Но одно точно - это будет фи­наль­ной точ­кой раз­ви­тия людей, пиком че­ло­ве­че­ства. 

Че­ло­ве­че­ство, как ро­ди­тель, усту­пит место сво­е­му де­ти­щу и будет лишь из­да­ли на­блю­дать за его до­сти­же­ни­я­ми. До­сти­же­ни­я­ми, ко­то­рые будут всё менее по­сти­жи­мы для ра­зу­ма людей. Но до­сти­же­ни­я­ми, ко­то­рые обес­пе­чат то, чего хочет ми­ро­зда­ние - уско­ре­ние обо­ро­та ма­те­рии и энер­гии. Зачем? Вот к от­ве­ту на этот во­прос и будет стре­мить­ся наш ин­тел­лек­ту­аль­ный по­то­мок. И долж­но быть глупо про­ти­вить­ся судь­бе пас­сив­но­го сви­де­те­ля - вы ведь не рас­стра­и­ва­е­тесь, когда ваши дети пре­вос­хо­дят вас?

P.S.: про детей и их об­ра­зо­ва­ние. Го­ря­чей темой в сле­ду­ю­щие пару де­сят­ков лет будет ро­бо­ти­за­ция, ИИ, кван­то­вые вы­чис­ле­ния. Всё, что может при­бли­зить эру силь­но­го ИИ. Век гу­ма­ни­тар­ных наук после по­яв­ле­ния силь­но­го ИИ за­кон­чит­ся, о чём уже и сей­час как бы на­ме­ка­ет ChatGPT.

9 мая 2023 - kms82