Глава Google DeepMind рас­ска­зал, когда ИИ пре­взой­дет че­ло­ве­ка

Ге­не­раль­ный ди­рек­тор Google DeepMind Демис Хас­са­бис (Demis Hassabis) за­явил, что силь­ный ИИ (Artificial General Intelligence, AGI), ко­то­рый ни в чём не усту­па­ет че­ло­ве­ку или даже пре­вос­хо­дит его, будет раз­ра­бо­тан в бли­жай­шие пять–де­сять лет. Он аб­со­лют­но уве­рен в ре­а­ли­стич­но­сти со­зда­ния AGI и по­ла­га­ет, что ре­ше­ние этой за­да­чи — всего лишь во­прос вре­ме­ни. Хас­са­бис опре­де­ля­ет AGI как «си­сте­му, ко­то­рая спо­соб­на де­мон­стри­ро­вать все слож­ные воз­мож­но­сти, при­су­щие че­ло­ве­ку»

«Я думаю, что се­го­дняш­ние си­сте­мы очень пас­сив­ны, есть ещё много вещей, ко­то­рые они не могут де­лать. Но я думаю, что в те­че­ние сле­ду­ю­щих пяти–де­ся­ти лет мно­гие из этих воз­мож­но­стей нач­нут вы­хо­дить на пер­вый план, и мы нач­нём дви­гать­ся к тому, что мы на­зы­ва­ем ис­кус­ствен­ным ин­тел­лек­том об­ще­го на­зна­че­ния», — счи­та­ет Хас­са­бис. Он не оди­нок в своём мне­нии — в про­шлом году ге­не­раль­ный ди­рек­тор ки­тай­ско­го тех­но­ло­ги­че­ско­го ги­ган­та Baidu Робин Ли (Robin Li) за­явил, что AGI по­явит­ся «более чем через 10 лет».

Дру­гие кол­ле­ги Хас­са­би­са более оп­ти­ми­стич­ны. Ге­не­раль­ный ди­рек­тор Anthropic Дарио Амо­деи (Dario Amodei) уве­рен, что мо­дель ИИ, ко­то­рая «лучше, чем почти все люди, почти во всех за­да­чах», по­явит­ся в «бли­жай­шие два–три года». Ди­рек­тор по про­дук­там Cisco Джиту Па­тель (Jeetu Patel) по­ла­га­ет, что AGI может быть со­здан уже в этом году. Ге­не­раль­ный ди­рек­тор Tesla Илон Маск (Elon Musk) пред­ска­зал, что AGI, ско­рее всего, ста­нет ре­аль­но­стью к 2026 году, ге­не­раль­ный ди­рек­тор OpenAI Сэм Альт­ман (Sam Altman) счи­та­ет, что такая си­сте­ма может быть раз­ра­бо­та­на в «до­ста­точ­но близ­ком бу­ду­щем».

Хас­са­бис в своих про­гно­зах пошёл даль­ше и пред­по­ло­жил, что вслед за по­яв­ле­ни­ем AGI на сцену вый­дет ис­кус­ствен­ный су­перин­тел­лект (Artificial Super Intelligence, ASI), ко­то­рый пре­взой­дёт че­ло­ве­ка во всех сфе­рах де­я­тель­но­сти. Од­на­ко «никто на самом деле не знает», когда про­изой­дёт такой про­рыв, при­знал­ся он.

По мне­нию Хас­са­би­са, глав­ная про­бле­ма в со­зда­нии AGI — это до­ве­де­ние со­вре­мен­ных си­стем ИИ до уров­ня по­ни­ма­ния кон­тек­ста ре­аль­но­го мира. «Во­прос в том, как быст­ро мы смо­жем обоб­щить идеи пла­ни­ро­ва­ния и агент­но­го по­ве­де­ния, пла­ни­ро­ва­ния и рас­суж­де­ний, а затем при­ме­нить их к ре­аль­но­му миру, до­пол­нив та­ки­ми ве­ща­ми, как мо­де­ли мира, ко­то­рые спо­соб­ны по­ни­мать окру­жа­ю­щую нас ре­аль­ность», — по­яс­нил он.

По сло­вам Хас­са­би­са, в по­след­нее время вни­ма­ние раз­ра­бот­чи­ков всё боль­ше при­вле­ка­ют так на­зы­ва­е­мые муль­ти­а­гент­ные си­сте­мы ис­кус­ствен­но­го ин­тел­лек­та. В ка­че­стве при­ме­ра он при­вёл ис­сле­до­ва­ния DeepMind по обу­че­нию аген­тов ИИ игре в Starcraft: «Мы про­де­ла­ли боль­шую ра­бо­ту над этим, на­при­мер, в про­ек­те Starcraft, где у нас было со­об­ще­ство аген­тов или лига аген­тов, спо­соб­ных как кон­ку­ри­ро­вать, так и со­труд­ни­чать».

Вы­со­ко­по­став­лен­ные ме­не­дже­ры и ве­ду­щие раз­ра­бот­чи­ки ИИ схо­дят­ся в одном — они не видят бли­жай­шее бу­ду­щее че­ло­ве­че­ства без все­ве­ду­щих, все­мо­гу­щих и все­зна­ю­щих си­стем ИИ, ко­то­рые, как они уве­ре­ны, пре­взой­дут че­ло­ве­ка в любой сфере де­я­тель­но­сти. По всей ви­ди­мо­сти, они ду­ма­ют, что их самих и их близ­ких такое на­ше­ствие ИИ-​саранчи, «за­тмив­шей небо», не кос­нёт­ся.

 Сер­гей Су­ра­бекянц - 18 марта 2025

Да­вай­те све­рим часы*

^{фото отсюда}

Мое зна­ком­ство с пер­спек­ти­ва­ми раз­ви­тия ис­кус­ствен­но­го ин­тел­лек­та со­сто­я­лось в да­ле­ком 2019 году. Тема на­столь­ко силь­но тогда сре­зо­ни­ро­ва­ла в моëм со­зна­нии, что это при­ве­ло к тому, что из чи­та­те­ля АШ я транс­фор­ми­ро­вал­ся в пи­са­те­ля, а точ­нее в ко­пи­па­сте­ра. )) Пи­са­те­лем я стал чуть позже. 

Пер­вой ко­пи­пас­той моего блога стала тогда ста­тья Тима Ур­ба­на «Ре­во­лю­ция ис­кус­ствен­но­го ин­тел­лек­та: на пути к сверх­ра­зу­му». О том, как она по­яви­лась на АШ, тоже в свое время в по­дроб­но­стях рас­ска­зы­вал..  К слову ска­зать, ста­тей у Тима Ур­ба­на на эту тему было две. В одной из них он по­де­лил­ся ста­ти­сти­че­ским про­гно­зом о том, когда же мы смо­жем ли­це­зреть AGI по мне­нию экс­пер­тов. Этим и пред­ла­гаю про­дол­жить:

Когда ждать пе­ре­лом­но­го мо­мен­та? Сколь­ко оста­лось вре­ме­ни до того, как пер­вая си­сте­ма до­стиг­нет уров­ня сверх­ра­зу­ма?

Вполне ожи­да­е­мо, мне­ния раз­нят­ся до­воль­но силь­но, среди уче­ных и тео­ре­ти­ков идет бур­ная дис­кус­сия. Мно­гие, в том числе про­фес­сор Вер­нон Виндж, уче­ный Бен Гер­цель, со­учре­ди­тель Sun Microsystems Билл Джой, изоб­ре­та­тель и фу­ту­ро­лог Рэй Курцвейл, со­гла­си­лись с экс­пер­том в об­ла­сти ма­шин­но­го обу­че­ния Дже­ре­ми Хо­вар­дом, ко­то­рый во время вы­ступ­ле­ния на кон­фе­рен­ции TED пред­ста­вил сле­ду­ю­щий гра­фик:

Эти люди раз­де­ля­ют мне­ние, что сверх­ра­зум по­явит­ся скоро: воз­мож­но­сти ИИ рас­тут экс­по­нен­ци­аль­но. Сей­час ал­го­рит­мы ма­шин­но­го обу­че­ния толь­ко под­би­ра­ют­ся к на­ше­му уров­ню, но уже лет через 30 оста­вят нас да­ле­ко по­за­ди.

А вот со­учре­ди­тель Microsoft Пол Аллен, психолог-​​ис­сле­до­ва­тель Гэри Мар­кус, спе­ци­а­лист по ин­фор­ма­ти­ке из Нью-​Йорк­ско­го уни­вер­си­те­та Эр­нест Дэвис и тех­но­пред­при­ни­ма­тель Митч Капор счи­та­ют, что тео­ре­ти­ки вроде Курцвей­ла се­рьез­но нк­до­оце­ни­ва­ют слож­ность за­да­чи, и что пе­ре­лом­ный мо­мент не так уж и близ­ко.

Ла­герь Курцвей­ла воз­ра­жа­ет, что если что-​то и недо­оце­ни­ва­ет­ся, так это экс­по­нен­ци­аль­ный ха­рак­тер роста. Со­мне­ва­ю­щих­ся срав­ни­ва­ют с теми, кто в 1985 году утвер­ждал, что неспеш­но рас­цве­та­ю­щий ин­тер­нет в бли­жай­шем бу­ду­щем никак не по­вли­я­ет на нашу жизнь.

«Со­мне­ва­ю­щи­е­ся» па­ри­ру­ют: экс­по­нен­ци­аль­ный ха­рак­тер раз­ви­тия ин­тел­лек­та ни­ве­ли­ру­ет­ся за счет того, что слож­ность обо­ру­до­ва­ния для его под­дер­жа­ния на каж­дом по­сле­ду­ю­щем шаге также будет расти экс­по­нен­ци­аль­но. И так далее в том же духе.

Тре­тий ла­герь, куда вхо­дит Ник Бо­стром, не со­гла­сен ни с пер­вы­ми, ни со вто­ры­ми, и счи­та­ет, что: а) это аб­со­лют­но точно может про­изой­ти в бли­жай­шем бу­ду­щем; и б) ни­ка­ких га­ран­тий этому нет: воз­мож­но, по­тре­бу­ет­ся боль­ше вре­ме­ни.

Дру­гие же, на­при­мер, фи­ло­соф Хью­бер Дрей­фус счи­та­ют на­ив­ным по­ла­гать, что пе­ре­лом­ный мо­мент во­об­ще слу­чит­ся: ско­рее всего, до сверх­ра­зу­ма мы ни­ко­гда не до­бе­рем­ся.

Что по­лу­чит­ся, если сло­жить все эти мне­ния вме­сте?

В 2013 году в ходе ряда кон­фе­рен­ций Ник Бо­стром и Вин­сент С. Мюл­лер за­да­ли несколь­ким сот­ням экс­пер­тов в сфере ис­кус­ствен­но­го ин­тел­лек­та сле­ду­ю­щий во­прос: «При усло­вии, что на­уч­ную де­я­тель­ность че­ло­ве­че­ства ничто се­рьез­ным об­ра­зом не пре­рвет, на­зо­ви­те год, когда с ве­ро­ят­но­стью P будет раз­ра­бо­тан ИИ че­ло­ве­че­ско­го уров­ня». Нужно было сде­лать три пред­по­ло­же­ния: оп­ти­ми­стич­ное (силь­ный ИИ раз­ра­бо­та­ют с ве­ро­ят­но­стью 10%), ре­а­ли­стич­ное (с ве­ро­ят­но­стью 50%) и уве­рен­ное (с ве­ро­ят­но­стью 90%). Вот ре­зуль­та­ты:

Ме­ди­а­на оп­ти­ми­сти­че­ско­го про­гно­за (P=10%): 2022 год

Ме­ди­а­на ре­а­ли­стич­но­го про­гно­за (P=50%): 2040 год

Ме­ди­а­на пес­си­ми­стич­но­го про­гно­за (P=90%): 2075 год

Таким об­ра­зом, уче­ные скло­ня­ют­ся к тому, что силь­ный ИИ, ско­рее всего, по­явит­ся уже через 25 лет. По­ло­ви­на экс­пер­тов в об­ла­сти ИИ прак­ти­че­ски уве­ре­на, что силь­ный ИИ раз­ра­бо­та­ют в 2075 году. Это зна­чит, что со­вре­мен­ные под­рост­ки его точно за­ста­нут.

На еже­год­ной кон­фе­рен­ции Бена Гер­це­ля, по­свя­щен­ной силь­но­му ИИ, Джеймс Бар­рат про­вел от­дель­ное ис­сле­до­ва­ние. Он обо­шел­ся без оцен­ки ве­ро­ят­но­сти и про­сто про­сил ре­спон­ден­тов от­ве­тить, когда раз­ра­бо­та­ют силь­ный ИИ. На выбор пред­ла­га­лись пять ва­ри­ан­тов: к 2030 году, к 2050?му, к 2100-му, еще позже или ни­ко­гда. Вот ре­зуль­та­ты:

К 2030 году: 42% ре­спон­ден­тов

К 2050 году: 25%

К 2100 году: 20%

Еще позже: 10%

Ни­ко­гда: 2%

По­хо­же на ре­зуль­та­ты Бо­стро­ма и Мюл­ле­ра. В опро­се Бар­ра­та более двух тре­тей опро­шен­ных счи­та­ют, что силь­ный ИИ по­явит­ся к 2050 году, и менее по­ло­ви­ны счи­та­ют, что это про­изой­дет в бли­жай­шие 15 лет. Также бро­са­ет­ся в глаза то, что толь­ко 2% опро­шен­ных в прин­ци­пе не счи­та­ют силь­ный ИИ ча­стью на­ше­го бу­ду­ще­го.

Од­на­ко пе­ре­лом­ный мо­мент слу­чит­ся не с раз­ра­бот­кой силь­но­го ИИ, а с раз­ра­бот­кой ис­кус­ствен­но­го сверх­ра­зу­ма. Когда, по мне­нию спе­ци­а­ли­стов, раз­ра­бо­та­ют его?

Мюл­лер и Бо­стром опро­си­ли экс­пер­тов, с какой ве­ро­ят­но­стью ис­кус­ствен­ный сверх­ра­зум раз­ра­бо­та­ют: а) через два года после раз­ра­бот­ки силь­но­го ИИ (то есть взрыв­ное раз­ви­тие ин­тел­лек­та про­изой­дет почти мгно­вен­но) или б) через 30 лет.

Для быст­ро­го пе­ре­хо­да от силь­но­го ИИ к сверх­ра­зу­му ме­ди­а­на ока­за­лась в рай­оне 10-​про­цент­ной ве­ро­ят­но­сти, для пе­ре­хо­да через 30 лет или мень­ше — 75-​про­цент­ной.

Из этих дан­ных непо­нят­но, о какой дли­тель­но­сти пе­ре­хо­да можно го­во­рить с ве­ро­ят­но­стью 50%. На ос­но­ве двух от­ве­тов выше да­вай­те до­пу­стим, что на это уйдет 20 лет. Таким об­ра­зом, на­уч­ное со­об­ще­ство в сред­нем счи­та­ет, что пе­ре­лом­ный мо­мент слу­чит­ся в 2060 году (cильный ИИ по­явит­ся в 2040 году + по­на­до­бит­ся еще 20 лет на пе­ре­ход к сверх­ра­зу­му).

Ко­неч­но, все вы­ше­пе­ре­чис­лен­ные оцен­ки носят спе­ку­ля­тив­ный ха­рак­тер и про­сто от­ра­жа­ют мне­ние экс­пер­тов в сфере ис­кус­ствен­но­го ин­тел­лек­та. Од­на­ко это сви­де­тель­ству­ет о том, что боль­шин­ство све­ду­щих людей схо­дят­ся во мне­нии: сверх­ра­зум, спо­соб­ный из­ме­нить жизнь на Земле, ско­рее всего, будет раз­ра­бо­тан к 2060 году. Всего через 45 лет.

От­сю­да - 27 ян­ва­ря 2015

С того вре­ме­ни ин­те­рес к осмыс­ле­нию той ин­фор­ма­ции не угас. За раз­ви­ти­ем темы сле­дил одним по­лу­ша­ри­ем, вто­рым пы­тал­ся найти ре­ше­ние и разо­брать­ся в пер­во­при­чи­нах по­яв­ле­ния и раз­ви­тия этой тех­но­ло­гии.

22.06.22 на стра­ни­цах АШ в ав­тор­ском ком­мен­та­рии к ста­тье «Об ис­кус­ствен­ном со­зна­нии и не толь­ко» я опуб­ли­ко­вал свою первую ме­ди­ак­ни­гу, по­свя­щен­ную про­бле­ма­ти­ке ИИ, где мак­си­маль­но сжато ак­ку­му­ли­ро­вал все свои зна­ния до­ступ­ные мне на тот мо­мент. Она не пре­тен­ду­ет на ис­тин­ность, но, как мне ка­жет­ся, мне уда­лось под­све­тить очень важ­ные для осмыс­ле­ния мо­мен­ты, ко­то­рые в даль­ней­шем  вполне могут ока­зать вли­я­ние на раз­ви­тие этой тех­но­ло­гии и че­ло­ве­че­ства в целом, воз­мож­но даже при­ве­дут нас к са­мо­иден­ти­фи­ка­ции.. но это не точно :) 

Осо­зна­ние про­бле­мы - это уже пол пути к еë ре­ше­нию. 

Ещё немно­го о син­хро­нич­но­сти (От­сю­да)

В преды­ду­щей ста­тье «Бог по­всю­ду. Часть II» за­тро­ну­ли тему  син­хро­нич­но­сти. Когда оформ­лял еë вспом­нил, что в ав­тор­ском ком­мен­та­рии к ста­тье «сек­ре­ты син­хро­нич­но­сти» по­обе­щал, когда при­дет время, рас­ска­зать и о лич­ном опыте...   На ин­ту­и­тив­ном уровне есть ощу­ще­ние, что время при­шло. :)