Интервью Майкла Левина о природе Жизни и Интеллекта

3K 07:33 - 2/Дек/25 Россия

(8 лет 9 месяцев)

Интервью является продолжением этой статьи: https://aftershock.news/?q=node/1395167 Относится к теме Парадигмы интеллекта: https://github.com/paradigms-of-intelligence Краткое резюме интервью Лекса Фридмана с Майклом Левином (транскрипт). Основные тезисы:

Понятие «интеллекта» как спектра persuadability — от простых физических систем до высоко-агентных существ. Левин предлагает смотреть на системы с точки зрения того, какие инструменты их «убеждают» и какому уровню двунаправленного взаимодействия они поддаются.
Клетки и ткани — не просто «машины», а коллективные информационно-поведенческие системы: у них есть память формы, биоэлектрические сети и способности к целенаправленной регуляции (регeneration, morphogenesis), которые можно управлять высокоуровневыми «подсказками». Это даёт новые подходы к регенеративной медицине и синтетической биологии.
Xenobots и «необычная» жизнь: Левин обсуждает создание живых роботов и границы между живым и неживым, а также то, что критерии жизни/интеллекта должны быть функциональными и экспериментально обоснованными, а не только философскими.
Память, сознание и «скрытая реальность»: Левин рассуждает о том, что мозг может быть интерфейсом к более глубоким уровням организации; идеи о том, что воспоминания, идеи и даже алгоритмы — это живые организмы/агенты в функциональном смысле. Это расширяет обсуждение сознания и границ субъекта.
Практика и этика: интервью сочетает фундаментальные вопросы (происхождение жизни, поиск внеземной жизни, природа интеллекта) с практическими темами — создание жизни в лаборатории, возможности обращения старения, вопросы майнд-аплодинга и взаимодействия с будущими AGI. Левин подчёркивает необходимость экспериментального подхода и этической ответственности.

Это расшифровка подкаста Лекса Фридмана №486 с Майклом Левиным. Временные метки в расшифровке — это кликабельные ссылки, по которым можно перейти непосредственно к нужному моменту в основном видео. Обратите внимание, что расшифровка создана человеком и может содержать ошибки. Вот несколько полезных ссылок:

Вернуться на главную страницу этого эпизода
Посмотрите полную версию подкаста на YouTube

Введение

Лекс Фридман(00:00:00) Ниже представлен разговор с Майклом Левиным, который участвует в подкасте уже во второй раз. Он — один из самых интересных и блестящих биологов и учёных, с которыми мне когда-либо доводилось общаться. Он и его лаборатории в Университете Тафтса изучают и создают биологические системы, которые помогают нам понять природу интеллекта, деятельности, памяти, сознания и жизни во всех её проявлениях здесь, на Земле, и за её пределами. Это подкаст Лекса Фридмана. Чтобы поддержать его, пожалуйста, ознакомьтесь с нашими спонсорами в описании, где вы также найдёте ссылки, чтобы связаться со мной, задать вопросы, оставить отзыв и так далее. А теперь, дорогие друзья, представляю вам Майкла Левина.

Биологический интеллект

Лекс Фридман(00:00:45) Вы пишете, что центральный вопрос, лежащий в основе вашей работы, от биологических систем до вычислительных, заключается в том, как воплощённый разум возникает в физическом мире и что определяет его возможности и свойства. Можете ли вы раскрыть этот вопрос для нас и, возможно, начать на него отвечать?

Майкл Левин(00:01:04) Что ж, фундаментальное противоречие возникает как в описаниях разума от первого, так и от второго и от третьего лица. Итак, в третьем лице мы хотим понять, как мы их распознаём, как, глядя на мир, мы узнаём, насколько развита там агентность, и как лучше всего соотноситься с различными системами, которые мы обнаруживаем. И хороши ли наши интуиции, когда мы смотрим на что-то, и оно выглядит совершенно глупым и механическим, а не так, как будто там действительно происходит что-то когнитивное? Как нам научиться хорошо их распознавать? Затем есть второе лицо, которое отвечает за управление, и оно используется как в инженерии, так и в регенеративной медицине, когда вы хотите приказать системе что-то сделать. Какие инструменты вы собираетесь использовать?

Майкл Левин(00:01:45) И это важная часть моей концепции: все эти вещи — операциональные утверждения. Собираетесь ли вы использовать инструменты перекоммутации оборудования, теории управления и кибернетики, науки о поведении, психоанализа, любви и дружбы? Например, какие протоколы взаимодействия вы используете? И затем, от первого лица, это представление о наличии внутренней перспективы и о том, что система имеет валентность и заботится о результатах. Принимает решения, обладает воспоминаниями и рассказывает историю о себе и внешнем мире. И как всё это может существовать и при этом соответствовать законам физики, химии и различным другим явлениям, которые мы видим вокруг?

Майкл Левин(00:02:20) Так что, я считаю, это, пожалуй, самая интересная и важная загадка для всех нас, как в научном, так и в личном плане. Вот что меня интересует.

Лекс Фридман(00:02:30) Итак, ваша работа сосредоточена на том, чтобы начать с физики и перейти к дружбе, любви и психоанализу.

Майкл Левин(00:02:37) Да, хотя на самом деле я бы перевернул это с ног на голову. Мне кажется, эта пирамида перевернута, и, по-моему, в её основании лежит наука о поведении. Я думаю, что это наука о поведении целиком и полностью. Я думаю, в определённом смысле даже математика — это поведение определённого вида существ, живущих в скрытом пространстве, а физика — это то, что мы называем системами, которые, по крайней мере, кажутся поддающимися очень простой модели с низким уровнем участия, и так далее. Но именно это меня и интересует — понимание этого и разработка приложений.

Майкл Левин(00:03:05) Потому что для меня очень важно, чтобы мы воплощали глубокие идеи и философию в реальные практические приложения, которые не только показывают, есть ли у нас прогресс, но и позволяют нам облегчить страдания и улучшить жизнь всех живых существ, а также позволяют нам и другим раскрыть свой полный потенциал. Так что, я думаю, это очень практичные вещи.

Лекс Фридман(00:03:28) Поведенческая наука, полагаю, более субъективна, а математика и физика — более объективны? В этом и заключается очевидное различие?

Майкл Левин(00:03:35) Идея в том, что что-то находится в этом спектре, и я назвал это спектром убедительности. Вы могли бы назвать это спектром разведки, или агентности, или как-то так. Мне нравится понятие спектра убедительности, потому что это инженерный подход. Это означает, что это не то, о чём можно решить или высказать своё мнение, сидя в философском кресле. Вам нужно выдвинуть гипотезу о том, какие инструменты, какие протоколы взаимодействия вы собираетесь применить к данной системе, а затем мы все узнаем, как это сработало для вас, верно? Так что вы можете ошибаться во многих отношениях, в обоих направлениях. Вы можете предположить слишком много, слишком мало, или ошибиться в разных отношениях, а затем мы все сможем узнать, как это сработает.

Майкл Левин(00:04:14) Итак, я действительно считаю, что поведение определённых объектов хорошо описывается определёнными формальными правилами, и мы называем их предметом математики. Кроме того, есть и другие вещи, поведение которых действительно требует инструментов, которые мы используем в поведенческой когнитивной нейронауке, и это другие типы мышления, которые, как мы полагаем, изучаются в биологии, психологии или других науках.

Лекс Фридман(00:04:39) Почему вы используете термин «убедительность»? Кого вы убеждаете и в чём?

Майкл Левин(00:04:43) Ну-

Лекс Фридман(00:04:44) В этом контексте.

Майкл Левин(00:04:45) Да, начало моей работы связано с регенеративной медициной, биоинженерией и подобными вещами. Поэтому для таких систем вопрос всегда заключается в следующем: как заставить систему делать то, что вам нужно? Итак, есть клетки, молекулярные сети, материалы, органы, ткани, синтетические существа, биоботы и всё такое. Идея в том, что если я хочу, чтобы ваши клетки вырастили конечность, например, если вы ранены, и я хочу, чтобы ваши клетки вырастили конечность, у меня есть много вариантов. Некоторые из этих вариантов заключаются в том, что я буду управлять на микроуровне всеми молекулярными событиями, которые должны произойти, верно? И их невероятно много. Или, может быть, мне просто нужно управлять на микроуровне сигнальными факторами клеток и стволовых клеток.

Майкл Левин(00:05:28) Или, может быть, я могу дать клеткам очень общую подсказку: «Вам действительно стоит построить конечность», и убедить их сделать это, верно? И что из этого возможно? Я имею в виду, что у людей, очевидно, есть много интуитивных представлений на этот счёт. Если вы спросите обычных специалистов в области регенеративной медицины и молекулярной биологии, они скажут: «Ну, эта идея с убеждением — безумие. Что нам действительно нужно делать, так это взаимодействовать с клетками, или, ещё лучше, с молекулярными сетями». И, по сути, весь интерес биологических наук сегодня сосредоточен на подходах к отдельным молекулам, больших данных, геномике и всём таком.

Майкл Левин(00:06:00) Предполагается, что действие будет происходить в направлении снижения, уменьшения масштаба. И я думаю, что это неверно. Но мы можем сказать наверняка, что это невозможно угадать. Нужно проводить эксперименты и наблюдать, потому что невозможно знать, где находится та или иная система в этом спектре убедительности. И оказывается, что каждый раз, когда мы смотрим и берём инструменты из поведенческой науки, то изучаем различные виды обучения, различные модели, которые используются в активном выводе, минимизации неожиданности, перцептивной мультистабильности, визуальных иллюзиях и всех этих интересных вещах, знаете ли, стресс-восприятии и активной реконструкции памяти, всех этих интересных вещах.

Майкл Левин(00:06:41) Когда мы применяем их вне мозга, к другим видам живых систем, мы обнаруживаем новые открытия и новые возможности, фактически позволяя материалу делать то, чего никто раньше не находил. И именно потому, что, я думаю, люди не смотрели на это с таких точек зрения, они предполагали, что это что-то низкоуровневое. Поэтому, когда я говорю о убедительности, я имею в виду различные подходы, верно? И мы все знаем, что если вы хотите убедить свои заводные часы что-то сделать, вы не будете спорить с ними или заставлять их чувствовать себя виноватыми или что-то в этом роде. Вам придётся взяться за дело с гаечным ключом и, знаете ли, настроить его и сделать что угодно.

Майкл Левин(00:07:15) Если вы хотите сделать то же самое с клеткой, термостатом, животным или человеком, вам понадобятся другие наборы инструментов, которым мы дали другие названия. Итак, это… Конечно, в этом спектре важно то, что по мере приближения к правой части спектра, когда активность системы возрастает, речь уже идёт не только о том, чтобы убедить её что-то сделать. Это двунаправленные отношения, которые Ричард Уотсон назвал бы взаимным уязвимым знанием. Идея заключается в том, что на правой стороне этого спектра, когда системы достигают более высоких уровней активности, вы также готовы позволить этой системе убедить вас в чём-то. Знаете, в молекулярной биологии вы делаете что-то, надеясь, что система сделает то, что вы хотите, но вы не изменились.

Майкл Левин(00:07:53) Вы всё ещё точно такой же, каким пришли. Но на правой стороне этого спектра, если вы взаимодействуете даже с клетками, а точнее, с собаками, другими животными, а вскоре, возможно, и с другими существами, то в конце этого взаимодействия вы уже не тот, каким были до этого. Это двусторонние отношения. Так что вы не просто убеждаете кого-то, вы не навязываете что-то. Это двусторонний набор убеждений, будь то чисто интеллектуальные или иного рода.

Лекс Фридман(00:08:20) Итак, чтобы эффективно убеждать разумное существо, вы сами должны быть поддающимися убеждению. Чем ближе ваш интеллект к тому, кого вы пытаетесь убедить, тем более убедительными вы должны стать, отсюда и возникает взаимное уязвимое знание. Какой замечательный термин.

Майкл Левин(00:08:37) Да. Ричард, тебе тоже стоит поговорить с Ричардом. Он потрясающий парень, и у него есть очень интересные идеи о взаимосвязи познания и эволюции. Но я думаю, то, что ты поднял, очень важно, потому что должно быть своего рода соответствие между тем, что ты ищешь, и инструментами, которые ты используешь. Думаю, причина, по которой физика всегда видит механизмы, а не разум, заключается в том, что она использует инструменты с низким уровнем участия. У вас есть вольтметры, линейки и тому подобное. И если вы используете эти инструменты в качестве интерфейса, всё, что вы когда-либо увидите, — это механизмы и тому подобное. Если вы хотите увидеть разум, вам нужно использовать разум, верно? Вам нужно, должен быть какой-то резонанс между вашим интерфейсом и тем, что вы надеетесь найти.

Живые и неживые организмы

Лекс Фридман(00:09:18) Вы уже говорили об этом о физике. Не могли бы вы остановиться на этом подробнее и объяснить, что вы имеете в виду, почему физики недостаточно для понимания жизни, понимания разума, понимания интеллекта? В своей работе вы делаете много спорных заявлений. Это одно из них, потому что многие физики считают, что могут понять жизнь, возникновение жизни, происхождение жизни, происхождение интеллекта, используя инструменты физики.

Майкл Левин(00:09:41) Да.

Лекс Фридман(00:09:41) На самом деле, все остальные инструменты лишь отвлекают этих людей. Если вы хотите понять что-то фундаментально, для них нужно начать с физики. А вы говорите: «Нет, физики недостаточно».

Майкл Левин(00:09:52) Вот в чём проблема. Всё здесь зависит от того, что значит понимать. Для меня понимать — это не просто иметь некую привлекательную модель, которая, кажется, отражает какой-то важный аспект происходящего. Это также означает, что нужно быть изобретательным и креативным в плане способностей. И для меня это означает, что если я скажу вам, что я думаю о познании в клетках и тканях, это будет означать, например, что, по моему мнению, мы сможем взять эти идеи и использовать их для создания новой регенеративной медицины, которая действительно помогает людям различными способами, верно? Это просто пример.

Майкл Левин(00:10:26) Итак, если вы мыслите как физик, у вас будет полное понимание происходящего с точки зрения полей и частиц, и, знаете ли, кто знает, что ещё там, на дне. Означает ли это, что если у кого-то нет пальца, или у него есть психологическая проблема, или другие серьёзные проблемы, у вас есть что-то для него, что вы сможете что-то сделать? Потому что я утверждаю, что вы этого не сделаете, и даже если у вас есть какая-то физическая теория, полностью совместимая со всем происходящим, этого… недостаточно. Этого недостаточно, чтобы решить необходимые вам проблемы.

Майкл Левин(00:11:04) В конце концов, когда вам нужно решить эти проблемы, человек, к которому вы обратитесь, не физик. Это будет либо биолог, либо психиатр, или кто знает, но это точно не физик. Вот простой пример: допустим, кто-то приходит сюда и предлагает вам красивое математическое доказательство, понятно? Оно действительно, знаете ли, глубокое и красивое. И рядом стоит физик, и он говорит: «Ну, я точно знаю, что произошло. Какие-то частицы воздуха переместились изо рта того парня в ваше ухо. Я вижу, что происходит.

Майкл Левин(00:11:32) Он двигал реснички в вашем ухе, и электрические сигналы шли в ваш мозг». То есть, у нас есть полный отчёт о том, что произошло, сделано и сделано. Но если вы хотите понять, какой аспект этого взаимодействия важнее, его вы не найдёте на кафедре физики. Его вы найдёте на кафедре математики. Так что моё единственное утверждение заключается в том, что физика — это удивительная линза, через которую можно смотреть на мир, но вы улавливаете определённые вещи, и если вы хотите расширить её, чтобы охватить и другие вещи, мы просто больше не называем это физикой, верно? Мы называем это как-то иначе.

Лекс Фридман(00:12:03) Хорошо. Но вы говорите о сверхсложных организмах. Можно ли перейти к простейшему, когда вы впервые делаете шаг через черту, через Декартово сечение, как вы его назвали, от не-разума к разуму, от неживого к живому? Разве простейшее, не относится к области физики, чтобы его понять? Как нам понять этот первый шаг, когда вы думаете: вот это существо не разум, вероятно, неживое, а вот живое существо, у которого есть разум? Вот эта черта. Мне кажется, это действительно интересная черта. Может быть, вы тоже сможете поговорить об этой черте, и может ли физика помочь нам её понять?

Майкл Левин(00:12:43) Да, давайте поговорим об этом. Ну, во-первых, конечно, может. То есть, может помочь, то есть я не говорю, что физика бесполезна. Конечно, полезна. Это очень важный взгляд на один из аспектов того, что происходит в любой из этих систем. Но, думаю, самое важное, что я могу сказать по этому вопросу, — я не верю в существование такой границы. Я не верю, что что-либо подобное существует. Я думаю, что существует некий континуум. Думаю, мы, люди, предпочитаем разграничивать области на этом континууме и давать им названия, потому что это упрощает жизнь, а потом у нас много споров из-за, знаете ли, так называемых ошибок категорий, когда люди эти категории нарушают.

Майкл Левин(00:13:18) Я думаю, что большинство этих категорий на данный момент, возможно, сослужили хорошую службу в начале, когда научный метод только зарождался и так далее. Думаю, сейчас они в основном сдерживают науку. Многие, многие категории, о которых мы можем говорить, на данный момент очень вредны для прогресса, потому что они мешают вам накапливать инструменты. Если вы считаете, что живые существа фундаментально отличаются от неживых, или если вы считаете, что когнитивные объекты — это такие продвинутые мозговые объекты, которые сильно отличаются от других типов систем, то вы же не будете использовать инструменты, подходящие для этих типов когнитивных систем, верно?

Майкл Левин(00:13:55) Итак, инструменты, разработанные в поведенческой науке и так далее, вы никогда не попробуете в других контекстах, потому что вы уже решили, что существует категориальное различие, что их применение было бы категориальной ошибкой. И мне постоянно говорят об этом, что вы совершаете категориальную ошибку, как будто эти категории были даны нам, знаете ли, свыше, и мы должны им вечно подчиняться. Категории должны меняться вместе с наукой. Так что да, я не верю ни в какую такую линию, и я думаю, что физическая история очень часто является полезной частью истории, но для большинства интересных вещей это не вся история.

Происхождение жизни

Лекс Фридман(00:14:30) Хорошо. Итак, если нет границы, есть ли смысл говорить о таких вещах, как происхождение жизни? Это одна из самых больших загадок, стоящих перед нами, как перед человеческой цивилизацией, как перед научно мыслящим и любознательным homo sapiens. Как всё это началось? Вы утверждаете, что начала не было? Есть ли момент, когда можно сказать, что это изобретение положило начало всему на Земле?

Майкл Левин(00:15:01) Я предлагаю, что это гораздо лучше, чем пытаться определить какую-либо линию, понятно? Потому что неизбежно я никогда не находил, а люди пытаются... Знаете, мы постоянно играем в эту игру, когда я заявляю о своём континууме. Потом люди пытаются подойти: «Ладно, ну, а как насчёт этого, ну, знаете, как насчёт этого?» И я пока не нашёл ни одного, который бы действительно это опроверг, чтобы нельзя было приблизиться и сказать: «Да, хорошо, но прямо перед этим произошло это, и если мы действительно посмотрим внимательно, то увидим, что между ними есть куча шагов», верно? Практически всё в конечном итоге оказывается континуумом, но вот что, по-моему, гораздо интереснее, чем пытаться провести эту линию.

Майкл Левин(00:15:34) Думаю, гораздо полезнее попытаться понять процесс трансформации. Что же произошло, когда человек стал масштабироваться? И я приведу вам очень глупый пример. Мы постоянно в это ввязываемся, потому что людям часто не нравится этот континуум: слово «взрослый», верно?

Майкл Левин(00:15:51) Все скажут: «Послушайте, я знаю, что такое младенец. Я знаю, что такое взрослый. Вы с ума сошли, говоря, что нет никакой разницы». Я не говорю, что нет никакой разницы. Я говорю, что слово «взрослый» действительно помогает в суде, потому что вам просто нужно продвигать события, и поэтому мы решили, что если вам 18, вы взрослый. Однако за этим скрывается… за этим полностью скрывается тот факт, что, во-первых, в ваш 18-й день рождения ничего не происходит, верно? Это особенное. Во-вторых, если вы действительно посмотрите на данные, у компаний по прокату автомобилей на самом деле гораздо более точная оценка, потому что они действительно смотрят на статистику аварий и они скажут, что это около 25 — это действительно то, что вы ищете, верно?

Майкл Левин(00:16:27) Так что их подход немного лучше. Он менее произволен. Но в любом случае он скрывает тот факт, что у нас нет хорошей истории о том, что произошло с того момента, как вы были яйцом, до того момента, когда вы стали предполагаемым взрослым, и каково масштабирование личной ответственности, принятия решений, суждений. Это глубокие фундаментальные вопросы. Никто не хочет вникать в это каждый раз, когда кто-то, знаете ли, получает штраф за нарушение правил дорожного движения. Поэтому мы просто решили, что есть эта взрослая идея. И, конечно, это всплывает в суде, потому что у кого-то может быть опухоль мозга, или кто-то съел слишком много Twinkies, или что-то случилось. Вы говорите: «Послушайте, это был не я.

Майкл Левин(00:17:01) Кто бы это ни сделал, я был под кайфом». «Ну, а зачем ты принимал наркотики?» «Ну, это было, знаешь, вчера. А я сегодня, это я…» Верно? Таким образом, мы сталкиваемся с очень глубокими вопросами, которые полностью затмеваются этой идеей взрослого человека. Поэтому я думаю, что как только вы начинаете копать глубже, большинство этих категорий выглядят именно так. Они удобны и хороши. Знаете, я постоянно сталкиваюсь с нейронами. Я спрашиваю людей: «Что такое нейрон? Что такое нейрон на самом деле?» И да, если вы изучаете нейробиологию на начальном этапе, конечно, вы просто говорите: «Вот как выглядят нейроны.

Майкл Левин(00:17:30) Давайте просто изучим нейроанатомию, и мы закончим». Но если вы действительно хотите понять, что происходит, ну, нейроны развиваются из других типов клеток, и это был медленный и постепенный процесс, и большинство клеток в вашем организме делают то же, что и нейроны. Так что же на самом деле такое нейрон, верно? Итак, как только вы начинаете это царапать, происходит это, и у меня есть некоторые вещи, которые, как я думаю, выходят из нашей лаборатории, и другие, которые, я думаю, очень интересны о происхождении жизни. Но я не думаю, что речь идет о поиске этого одного блага, как это. Да, будут инновации, верно? Есть инновации, которые позволяют вам масштабироваться удивительным образом, конечно. И есть много людей, которые их изучают, верно?

Майкл Левин(00:18:06) Ну, например, термодинамика, метаболические процессы, всевозможные архитектуры и так далее. Но я не думаю, что дело в поиске границы. Я думаю, дело в поиске процесса масштабирования.

Поиск инопланетной жизни (на Земле)

Лекс Фридман(00:18:16) Процесс масштабирования, но есть более быстрый и более медленный. Поэтому, я думаю, полезно понимать инновации и изобретения, чтобы предсказать, насколько они вероятны, например, на других планетах. Или чтобы иметь возможность описать вероятность подобных явлений в определённых условиях. Опять же, особенно для ответа на вопрос о количестве инопланетных цивилизаций.

Лекс Фридман(00:18:44) Это полезно. Но категории полезны и на научном уровне, не только потому, что это дарит нам приятные и приятные ощущения, но и потому, что, я думаю, делает общение возможным и продуктивным. Если всё представляет собой спектр, становится сложно делать конкретные утверждения, я думаю. Например, мы даже используем термины «биология» и «физика». Это категории. Технически это одно и то же, на самом деле. По сути, это одно и то же. Нет никакой разницы между биологией и физикой. Но это полезная категория. Если вы посмотрите на физический и биологический факультеты, то увидите, что эти люди различаются в каком-то категориальном отношении. Так что, я не знаю, где курица, а где яйцо, но категории…

Лекс Фридман(00:19:28) Возможно, категории возникают сами собой из-за того, как мы о них думаем и используем их в языке, но это кажется полезным.

Майкл Левин(00:19:35) Позвольте мне высказать противоположное утверждение. Они абсолютно полезны. Они особенно полезны, когда нужно скрыть некоторые вещи. Категории особенно полезны, когда есть целая куча всего. И это самое важное в науке — это искусство сказать что-то, не высказав сначала всё, верно?

Майкл Левин(00:19:50) что сделало бы это невозможным. Так что категории хороши, когда вы хотите сказать: «Послушайте, я знаю, что здесь спрятана куча всего. Я проигнорирую всё это, и мы просто, типа, займёмся этим конкретным делом». И всё это замечательно, пока вы не забываете о том, что вы упустили. И именно это, я боюсь, происходит во многих разных отношениях. И если говорить о том, смотрите, меня очень интересует жизнь за пределами Земли и все такие вещи, так что нам также следует поговорить о том, что я называю SUTI, SUTI, поиске нетрадиционных земных разумных существ. Я думаю, у нас есть гораздо более серьёзные проблемы, чем фактическое распознавание инопланетян вне Земли, но я сделаю следующее заявление.

Майкл Левин(00:20:27) Я думаю, что категориальный подход на самом деле мешает этому поиску. Потому что, если мы попытаемся определить категории по привычным нам критериям, мы будем очень плохо подготовлены к распознаванию жизни в новых воплощениях. Думаю, у нас есть своего рода слепота разума. Я думаю, это действительно ключевой момент. Для меня когнитивный спектр гораздо интереснее спектра жизни. Я думаю, что на самом деле мы говорим о спектре познания. И это… Ну, я знаю, как биолог, это странно, что я говорю: «Я не считаю жизнь такой уж интересной категорией». Я думаю, категории различных типов сознания, на мой взгляд, чрезвычайно интересны.

Майкл Левин(00:21:06) И в той мере, в какой мы считаем наши категории полными и расчленяем природу на стыках, мы будем очень плохо подготовлены к распознаванию новых систем. Так, например, многие люди скажут: «Ну, это разумно, а это нет», верно? И есть двоичная система, и она иногда полезна для некоторых вещей. Я бы хотел сказать, вместо этого давайте признаем, что у нас есть спектр, но вместо того, чтобы просто говорить: «О, смотрите, всё разумно», верно? Потому что если вы так сделаете, вы правы, вы ничего не сможете сделать после этого. Вместо этого я хотел бы сказать: нет, нет, нужно быть очень конкретными в отношении того, какого рода и в какой степени. Другими словами, в каких проблемных областях они работают?

Майкл Левин(00:21:43) Какой у него разум? Какие у него когнитивные способности? На самом деле нужно быть гораздо более конкретным. И мы даже можем назвать, верно? Это нормально. Мы можем назвать разные типы... Я имею в виду, это выполняет предиктивную обработку. Это не может этого делать, но оно может формировать воспоминания. Какого рода? Ну, привыкание и сенсибилизация, но не ассоциативное обусловливание. Хорошо иметь категории для конкретных возможностей, но на самом деле это делает обсуждения гораздо более строгими, потому что заставляет вас спросить, что же, по вашему утверждению, эта штука делает? И это работает в обоих направлениях. Так что некоторые люди скажут: «Ну, это клетка. Это не может быть разумным». А я скажу: «Ну, давайте будем очень конкретными.

Майкл Левин(00:22:19) Вот некоторые заявления о… вот некоторые решения проблем, которые он делает. Объясните мне, почему это не… ну, знаете, почему это не соответствует? Или, наоборот, кто-то подходит ко мне и говорит: «Ты прав, ты прав. Знаешь, вся, вся Солнечная система, чувак. Это просто потрясающе…» Я такой: «Ого, ладно. Ну и что он делает?» Типа: «Расскажите мне, какие инструменты когнитивной и поведенческой науки вы используете, чтобы прийти к такому выводу», верно? И поэтому я думаю, что на самом деле гораздо продуктивнее занять эту операциональную позицию и сказать: «Расскажите мне, какие протоколы, по вашему мнению, можно использовать с этой штукой, чтобы использовать эти термины».

Лекс Фридман(00:22:49) Чтобы немного расширить тему нашего разговора, я должен сказать, что в рамках аргументации убедительности, которую мы, два разумных существа, ведем, я время от времени выступаю в роли адвоката дьявола. И вы сделали то же самое, что довольно интересно — заняли противоположную позицию и посмотрели, что из этого выйдет. Потому что результат спора неизвестен, пока сам спор не возникнет, и кажется продуктивным просто занять противоположную позицию.

Майкл Левин(00:23:14) Конечно. Это очень важный инструмент для размышлений, прежде всего, знаете, как это называется — стальной маннинг, верно? Попытаться представить как можно более веские аргументы в пользу другой стороны и спросить себя: «Итак, какие моменты я как бы умалчиваю, потому что не знаю, что сказать? И где все пробелы в аргументации, и как на самом деле должна выглядеть, ну, знаете, действительно хорошая критика?» Да.

Лекс Фридман(00:23:38) Извините, что возвращаюсь к этому, чтобы задержаться на этом термине, потому что он такой интересный — «убедительность». Правильно ли я понял, что вы имеете в виду, что это своего рода синоним интеллекта? То есть, это инженерно-ориентированный взгляд на интеллектуальную систему. Ведь если она убеждаема, вы больше сосредотачиваетесь на том, как я могу управлять целями системы, её поведением? Возможно, имеется в виду, что интеллектуальная система — это целеустремлённая, целеустремлённая система с агентностью. И когда вы называете её убеждаемой, вы скорее думаете: «Хорошо, вот интеллектуальная система, с которой я взаимодействую и которая мне нужна для достижения определённых целей». Но, по сути, являются ли убедительность и интеллект синонимами или коррелируют?

Майкл Левин(00:24:28) Они определённо коррелируют. Итак, позвольте мне… Я хочу начать с одного. Когда я говорю, что это инженерная точка зрения, я не имею в виду, что стандартные инструменты, которые мы используем в инженерии, и эта идея принудительного контроля и управления – это то, как мы должны смотреть на мир. Я совсем этого не говорю, и я хочу быть предельно чётким, потому что люди пишут мне по электронной почте и говорят: «Ба, эта инженерная штука. Вы собираетесь высосать, знаете ли, жизнь и величие из этих высококлассных, типа, человеческих разговоров». Моя суть совсем не в этом. Дело в том, что, конечно, в том, что на правой стороне спектра это уже не похоже на инженерию, верно?

Майкл Левин(00:25:04) Похоже, это похоже на дружбу, любовь, психоанализ и все остальные инструменты, которые у нас есть. Но вот что я хочу сделать. Я хочу быть предельно конкретным для своих коллег из регенеративной медицины и всего остального. Представьте, если бы я, ну, например, пришёл в отдел биоинженерии или генетики и начал говорить о высокоуровневом, ну, о познании и психоанализе, верно? Они не хотят этого слышать. Поэтому я сосредоточился на инженерном подходе…

Майкл Левин(00:25:28) …потому что я хочу сказать: смотрите, это не философская проблема. Это не лингвистическая проблема. Мы не пытаемся определять термины по-разному, чтобы запутать кого-то. Я говорю вам, что если вы хотите достичь определённых возможностей, если вы хотите перепрограммировать рак, если вы хотите вырастить новые органы, если вы хотите победить старение, если вы хотите сделать эти конкретные вещи, вы упускаете слишком много, делая необоснованное предположение, что имеющихся у нас низкоуровневых инструментов, то есть правил химии и своего рода молекулярной перестройки, будет достаточно, чтобы достичь желаемого.

Майкл Левин(00:25:59) Это всего лишь предположение, и оно ничем не обосновано. На самом деле, мы уже провели эксперименты, не философские, а настоящие эксперименты, которые показывают, что, используя эти инструменты, можно убедить систему способами, которые никогда не применялись ранее. И мы можем всё это разобрать. Но это абсолютно коррелирует с интеллектом, поэтому позвольте мне немного это уточнить. Я думаю, что масштабирование во всех этих вещах, верно, потому что я постоянно говорю о масштабировании. Так что же такое масштабирование? Масштабирование, по-моему, я называю когнитивным световым конусом, а когнитивный световой конус — это размер наибольшего целевого состояния, к которому вы можете стремиться. Это не означает, насколько далеко простираются ваши чувства.

Майкл Левин(00:26:39) Это не означает, насколько далеко вы можете на него воздействовать. Так, телескоп Джеймса Уэбба обладает огромным сенсорным охватом, но это не означает, что таков размер его когнитивного светового конуса. Размер когнитивного светового конуса — это масштаб самой большой цели, которую вы можете активно преследовать, но я думаю, что это полезная концепция, позволяющая нам рассматривать совершенно разные типы агентов разного состава, разного происхождения, знаете ли, созданные искусственно, эволюционировавшие, гибридные и т.д., — всё в одной и той же системе координат. И, кстати, я использую световой конус, потому что в нём заложена идея из физики: пространство и время как бы помещаются на одну диаграмму, что мне здесь нравится.

Майкл Левин(00:27:11) Итак, если вы скажете мне, что все ваши цели вращаются вокруг максимизации количества сахара в этом, в этом, знаете ли, 10-20-микронном радиусе пространства-времени, и что у вас есть, знаете ли, 20-минутная память назад и, может быть, пятиминутная предсказательная способность вперед, этот крошечный когнитивный световой конус, я скажу, что, вероятно, это бактерия. И если вы скажете мне, что «Ну, я способен заботиться о масштабе в несколько сотен ярдов, но меня никогда не будет волновать, что произойдет через три недели, через два города, просто невозможно», я бы сказал, что вы, возможно, собака. А если вы скажете мне: «Хорошо, меня действительно волнует, что произойдет, знаете ли, финансовые рынки на Земле, знаете ли, еще долго после моей смерти, и то и это», я бы сказал, что вы, вероятно, человек.

Майкл Левин(00:27:56) И если вы скажете мне: «Меня волнует в линейном диапазоне, я активно, я не просто говорю это, я могу активно заботиться в линейном диапазоне обо всех живых существах на этой планете», я отвечу: «Ну, вы не стандартный человек. Вы должны быть чем-то другим», потому что люди, я не знаю, стандартные люди сегодня, я не думаю, что могут это сделать. Вы должны быть каким-то бодхисаттвой или чем-то еще, у чего есть эти огромные когнитивные световые конусы. Так что я думаю, что масштабируется от нуля, и я думаю, что это идет до самого низа. Я думаю, мы можем говорить даже о частицах, делающих что-то подобное. Я думаю, что масштаб - это размер когнитивного светового конуса. И теперь это интересно... здесь я попытаюсь дать определение жизни или чего-то еще, чего бы это ни стоило.

Майкл Левин(00:28:33) Я не тратил времени на то, чтобы это закрепить, но если бы мы захотели… Я думаю, мы называем вещи живыми в той мере, в которой когнитивный световой конус этой вещи больше, чем у её частей. Другими словами, камни не очень интересны, потому что то, что они умеют делать, это то, что уже умеют делать их части, а именно следовать градиентам и тому подобное. Но живые существа удивительным образом выравнивают свои компетентные части так, что коллективный когнитивный световой конус больше, чем у его частей. Я приведу вам очень простой пример, который встречается в биологии и который постоянно встречается в нашей программе по борьбе с раком. У отдельных клеток есть крошечные когнитивные световые конусы. Каковы их цели?

Майкл Левин(00:29:15) Ну, они пытаются управлять pH, метаболическим состоянием и некоторыми другими вещами. Есть некоторые цели в транскрипционном пространстве, некоторые цели в метаболическом пространстве, некоторые цели в пространстве физиологических состояний, но, как правило, это очень мелкие цели. Эволюция, в частности, создала своего рода когнитивный клей, о котором мы тоже можем говорить, который связывает их вместе в многоклеточную систему, и у этих систем грандиозные цели. Они создают конечности, и если вы — конечность саламандры, и вы её отрубите, они отрастят эту конечность заново с нужным количеством пальцев. Затем они остановятся, когда это будет сделано; цель достигнута. Ни одна отдельная клетка не знает, что такое палец или сколько пальцев у вас должно быть, но коллективное существо, безусловно, знает.

Майкл Левин(00:29:54) И этот процесс роста когнитивного светового конуса из одной клетки во что-то гораздо большее, и, конечно же, сбой в этом процессе, то есть рак, верно? Когда клетки отсоединяются, они физиологически отсоединяются от других клеток. Их когнитивный световой конус сжимается. Граница между собой и миром, которую определяет когнитивный световой конус, сжимается. Теперь они возвращаются к амебе. С их точки зрения, остальное тело — это просто внешняя среда, и они делают то, что делают амебы. Они идут туда, где жизнь хороша. Они размножаются так много, как могут, верно? Так что этот когнитивный световой конус, это то, о чём я говорю, что он масштабируется. И поэтому, когда мы ищем жизнь, я не думаю, что мы ищем какие-то конкретные материалы.

Майкл Левин(00:30:30) Я не думаю, что мы ищем конкретные метаболические состояния. Я думаю, мы ищем масштабы когнитивного светового конуса. Мы ищем выравнивание частей по отношению к более масштабным целям в областях, которые эти части не могут постичь.

Лекс Фридман(00:30:42) Итак, когнитивный световой конус, просто для ясности, — это цели, которые вы можете активно преследовать уже сейчас. Вы сказали «линейные», как будто мы находимся в пределах досягаемости немедленно.

Майкл Левин(00:30:54) Нет, я не… извините, я не это имел в виду. Во-первых, цель часто неизбежно отдаляется во времени. Другими словами, когда вы стремитесь к цели, это означает, что между текущим и целевым состоянием существует разрыв, как минимум. Ваш термостат, верно? Давайте просто подумаем об этом. Разрыв во времени существует, потому что то, чего вы пытаетесь добиться, чтобы температура достигла определённого уровня, сейчас не происходит. И все ваши действия будут направлены на уменьшение этой ошибки, верно? Этот базовый гомеостатический цикл как раз и направлен на сокращение этого разрыва. Когда я сказал о линейном диапазоне, я имел в виду именно это.

Майкл Левин(00:31:24) Если я скажу вам: «Эта ужасная вещь произошла, ну, с десятью людьми», и, знаете, у вас есть некоторая степень активации по этому поводу. А потом я скажу: «Нет, нет, нет, на самом деле их было 100, ну, знаете, 10 000 человек». Вы не активизируетесь в тысячу раз больше по этому поводу. Вы несколько активизировались, но это не тысяча. И если я скажу: «О боже, на самом деле это было 10 миллионов человек», вы не активизируетесь в миллион раз больше. У вас нет такой способности в линейном диапазоне. Вы как бы, вы как бы, верно? Если вы задумаетесь об этой кривой, мы как бы достигаем точки насыщения.

Майкл Левин(00:31:54) У меня есть замечательные коллеги в буддийском сообществе, с которыми мы написали несколько работ на эту тему. Радиус сострадания – это как: можно ли расширить свою когнитивную систему до такой степени, что она действительно будет охватывать не только вашу семью, не только сотню людей, которых вы знаете в своём кругу? Можно ли расширить свой когнитивный световой конус до такой степени, что, нет-нет, мы будем заботиться о целом, будь то всё человечество, вся экосистема или целое, что угодно? Можно ли действительно заботиться об этом так же, как мы сейчас заботимся о гораздо меньшей группе людей? Вот что я имею в виду под линейным диапазоном.

Лекс Фридман(00:32:25) Но это разделяется временем, как термостат, а бактерия… Я имею в виду, если увеличить масштаб, то можно сформулировать бактерию как целевое состояние создания человеческой цивилизации, потому что, если посмотреть на бактерию, знаете ли… …играет свою роль во всей истории Земли. Так что, знаете ли, если достаточно антропоморфизировать цели бактерии, я имею в виду, что она играет конкретную роль в истории эволюции… …человеческой цивилизации. Итак, вам действительно нужно… когда вы определяете когнитивный световой конус, вы смотрите непосредственно на краткосрочное поведение.

Майкл Левин(00:33:08) Ну, нет. Откуда вы знаете, что такое когнитивный световой конус чего-либо? Потому что, как вы сказали, это может быть почти что угодно. Ключ в том, что вам нужно проводить эксперименты. А эксперименты проводятся так: вы ставите барьеры… Вы ставите интервенционные эксперименты. Вы ставите барьеры между объектом и его целью и спрашиваете, что происходит. А интеллект — это степень изобретательности, с которой он преодолевает барьеры между собой и своей целью. Теперь, если бы это было так… Теперь, я думаю, это вполне осуществимый, но непрактичный и очень дорогой эксперимент. Но вы могли бы представить себе сценарий, в котором бактерии были бы заблокированы от усложнения. И вы можете спросить, попытаются ли они найти способы обойти это, или их цели на самом деле являются метаболическими.

Майкл Левин(00:33:51) И пока эти цели достигнуты, они не смогут обойти ваш барьер. Этот процесс возведения барьеров между вещами и их целями на самом деле чрезвычайно эффективен, потому что мы применяли его во всевозможных… И я уверен, что мы ещё вернёмся к этому, но мы применяли его во всевозможных странных системах, которые вы бы не сочли системами, ориентированными на цели. И это позволяет нам выйти за рамки того, что вы назвали антропоморфизационными заявлениями, скажем, знаете ли, говоря: «О, да, я думаю, эта штука пытается сделать то или это». Вопрос в том, что ж, давайте проведём эксперимент. И ещё кое-что, что я хочу сказать об антропоморфизации, — мне постоянно это говорят.

Майкл Левин(00:34:27) Не думаю, что такое существует. Думаю, это как-то так, знаете ли… И я скажу вам, почему. Думаю, это как ересь или как другие термины, которых на самом деле нет. Потому что, если разобраться, вот что означает антропоморфизм: у людей есть определённая магия, и вы совершаете категориальную ошибку, приписывая эту магию чему-то другому. Я имею в виду, что у нас есть та же магия, что и у всего. У нас есть ещё пара интересных вещей, когнитивный световой конус и кое-что ещё. И дело не в том, что нужно выделять людей из-за какой-то яркой линии. Просто… Всё то же самое… Я на самом деле выступаю за научный метод. Вот и всё.

Майкл Левин(00:35:11) Я лишь хочу сказать, что нельзя просто так делать заявления вроде: «Люди — это то-то и то-то», и давайте не будем на этом настаивать. Нужно проводить эксперименты. После того, как вы проведёте эксперименты, вы можете сказать: «Я провёл это и обнаружил… Посмотрите-ка. Эта штука действительно может предсказывать будущее на следующие, знаете ли, 12 минут. Поразительно». Или сказать: «Знаете что? Я перепробовал всё, что написано в справочнике бихевиориста, но мне это просто не помогает. Это очень низкий уровень…» Типа, всё. Это очень низкий уровень интеллекта. Отлично, да? Готово. Так что, по сути, всё, за что я выступаю — это эмпирический подход. И тогда такие вещи, как антропоморфизм, отпадут. Вопрос лишь в том, провели ли вы эксперимент и что вы обнаружили?

Лекс Фридман(00:35:45) И это на самом деле одна из вещей, о которых вы говорите, что если вы уберете категоризацию вещей, вы сможете использовать инструменты... ...одной дисциплины для всего.

Майкл Левин(00:35:56) Вы можете попробовать.

Лекс Фридман(00:35:57) Попробовать, а потом посмотреть. В этом и заключается суть критики антропоморфизации, ведь что это такое? Это как психоанализ другого человека, который технически можно применить к роботам, системам искусственного интеллекта, более примитивным биологическим системам и так далее. Попробуйте.

Майкл Левин(00:36:18) Да. Мы использовали всё: от базового обусловливания привыкания до анксиолитиков, галлюциногенов, всех видов когнитивной модификации для множества вещей, в которые вы не поверите. И, кстати, я не первый, кто это придумал. Так вот, был парень по имени Бозе, более 100 лет назад, который изучал, как анестезия влияет на животных и клетки животных, и рисовал определенные кривые вокруг электрической возбудимости. А затем он взял и проделал это с растениями и увидел некоторые очень похожие явления. И, будучи гением, он сказал: «Ну, как я…» Я не знаю, когда остановиться, но нет, нет… Знаете, все думают, что нам следовало остановиться задолго до растений, потому что люди смеялись над ним за это.

Майкл Левин(00:36:59) И он такой: «Да, но наука не говорит нам, где остановиться. Инструмент работает, давайте продолжим». И он продемонстрировал интересные явления в материалах, металлах и других видах материалов, верно? И так… …Интересно, что нет универсального правила, которое подскажет, когда нужно остановиться. Мы их выдумываем. Они полностью выдуманы. Нужно просто изучить науку и выяснить.

Лекс Фридман(00:37:23) Да, мы, вероятно, до этого доберёмся. Вы недавно занимались изучением вычислительных систем, даже таких тривиальных, как алгоритмы… …алгоритмы сортировки… …и анализировали их с точки зрения поведения, чтобы выяснить, есть ли разум внутри этих алгоритмов сортировки. И, конечно же, позвольте мне задать банальный вопрос: вы могли бы начать делать что-то вроде попыток создания психоделиков с помощью алгоритма сортировки. И как это вообще выглядит? Это кажется нелепым вопросом, за который вас уволят с большинства академических кафедр, но, возможно, если вы отнесётесь к этому серьёзно, вы могли бы попробовать… …и посмотреть, применимо ли это к делу.

Лекс Фридман(00:38:00) Если можно показать, что некая вещь обладает некой когнитивной сложностью, неким видом разума, почему бы не применить к ней тот же анализ и те же инструменты, например, к психоделикам, которые вы применяете к сложному человеческому разуму? По крайней мере, этот вопрос может быть продуктивным. Вы видели пауков под воздействием психоделиков, более примитивные биологические организмы под воздействием психоделиков. Почему бы не попробовать посмотреть, что делает алгоритм под воздействием психоделиков? В любом случае.

Майкл Левин(00:38:33) Ну да, потому что, видите ли, важно помнить, что у нас нет магического чувства или действительно хорошей интуиции, которая бы определяла соответствие между воплощением чего-либо и уровнем его интеллекта. Мы думаем, что у нас есть, потому что у нас есть N из одного примера на Земле, и мы примерно знаем, чего ожидать от клеток, от змей до, знаете ли, приматов, но на самом деле это не так. У нас нет, и мы ещё углубимся в тему платоновского пространства, но наша интуиция в этом вопросе настолько слаба, что думать, будто мы знаем достаточно, чтобы не пробовать что-то на данном этапе, на мой взгляд, крайне близоруко.

Лекс Фридман(00:39:09) Прежде чем говорить о платоновском пространстве, давайте заложим некоторые основы. Думаю, одна полезная из них взята из статьи «Технологический подход к повсеместным проявлениям разума». Это экспериментально обоснованная схема для понимания разнообразных тел и разумов. Не могли бы вы рассказать мне об этой схеме, а также о рисунке 1 из этой статьи, который состоит из нескольких компонентов? Один из них — это уровни биологического познания, которые простираются от группы к целому организму, затем к целой ткани и органу, затем к нейронной сети, затем к цитоскелету, затем к генетической сети, а затем идут уровни биологических систем: от экосистемы к рою, далее к организму, ткани и, наконец, к клетке. Можете ли вы объяснить эту схему и так называемую схему TAME?

Майкл Левин(00:40:02) Итак, это версия 1.0, и сейчас я пишу своего рода обновление, 2.0, пытаясь тщательно формализовать всё, о чём мы здесь говорили, и, в частности, идею необходимости проводить эксперименты, чтобы выяснить, где находится любая заданная система в континууме. И мы можем… давайте начнём с рисунка два, может быть, на секунду, а затем вернёмся к рисунку один. И сначала, чтобы расшифровать аббревиатуру, мне нравится идея, что она расшифровывается как TAME (управляемый), потому что центральное место здесь занимает взаимодействие и то, как взаимодействовать с системой, чтобы добиться продуктивного взаимодействия. Идея заключается в том, что когнитивные утверждения на самом деле являются протокольными утверждениями.

Майкл Левин(00:40:42) Когда вы говорите мне, что нечто обладает определённой степенью интеллекта, на самом деле вы говорите: «Вот набор инструментов, которые я собираюсь применить, и мы все посмотрим, как это сработало для вас». И это технологично, потому что я хотел чётко дать понять коллегам, что это не просто философский проект. Это имело очень конкретные эмпирические последствия, которые будут иметь значение в инженерии, регенеративной медицине и так далее. Технологический подход к сознанию повсюду, идея о том, что мы пока не знаем, где находятся разные виды сознания, и нам нужно эмпирически это выяснить.

Майкл Левин(00:41:15) Итак, то, что вы видите здесь, на рисунке 2, по сути, представляет собой идею о спектре, и я просто показываю четыре точки на этом спектре, и по мере продвижения вправо от этого спектра происходит пара вещей: убедительность возрастает, то есть системы становятся более перепрограммируемыми, более пластичными, более способными делать вещи, отличные от того, что они делают обычно, поэтому у вас больше возможностей заставить их делать новые и интересные вещи. Усилия, необходимые для оказания влияния, уменьшаются; то есть автономность возрастает. И в той мере, в какой вы хорошо убеждаете или мотивируете систему делать что-то, вам не нужно так сильно беспокоиться о деталях, верно? И это также связано с тем, что я называю инженерными агентскими материалами.

Майкл Левин(00:41:51) Итак, когда вы конструируете дерево, металл, пластик и тому подобное, вы несёте ответственность абсолютно за всё, потому что материал не будет делать ничего, кроме как, как мы надеемся, сохранять свою форму. Если вы конструируете активную материю, или конструируете вычислительные материалы, или, ещё лучше, агентные материалы, такие как живая материя, вы можете задать очень высокий уровень подсказок и позволить системе выполнять очень сложные задачи, которые вам не нужно контролировать на микроуровне. И мы все знаем, что это возрастает, когда вы начинаете работать с интеллектуальными системами, такими как животные, люди и так далее. И ещё один фактор, который снижается по мере продвижения вправо, — это количество механизмов, или физики, которые вам необходимо для оказания воздействия.

Майкл Левин(00:42:31) Итак, если вы знаете, как настроить термостат на заданное значение, вам, по сути, больше ничего знать не нужно, верно? Вам достаточно знать, что это гомеостатическая система, и именно так я меняю заданное значение. Вам не нужно знать, как работает система охлаждения и отопления, чтобы заставить её выполнять сложные задачи.

Лекс Фридман(00:42:46) Кстати, небольшая пауза для тех, кто внимательно слушает. Позвольте мне описать, что изображено на рисунке. Итак, есть четыре разные системы, расположенные по шкале убедительности. Первая система — это механические часы, затем термостат, затем собака, получающая награды и наказания, собака Павлова, и, наконец, группа очень умных на вид людей, которые общаются друг с другом, спорят и убеждают друг друга, используя доводы. А ниже — стрелки, показывающие, как убедительность возрастает по мере продвижения по этим системам от механических часов к группе спорящих греков, а затем снижается по мере увеличения усилий, необходимых для оказания влияния, и снова по мере уменьшения знаний механизма, необходимых для оказания этого влияния.

Майкл Левин(00:43:30) Да. Приведу пример, панель C с собакой. Разве не удивительно, что люди тысячи лет дрессируют собак и лошадей, не имея ни малейшего представления о нейробиологии? Также удивительно, что, когда я говорю с вами прямо сейчас, мне не нужно беспокоиться о манипуляциях всеми синаптическими белками в вашем мозге, чтобы вы поняли и, надеюсь, запомнили мои слова. Вы будете делать всё это самостоятельно. Я даю вам очень скудные, с точки зрения информационного содержания, очень скудные подсказки и рассчитываю на вас как на многомасштабный агентный материал, который позаботится о химии, лежащей в основе всего этого, понятно?

Лекс Фридман(00:44:03) То есть вам не нужен гаечный ключ, чтобы убедить меня?

Майкл Левин(00:44:05) Верно. Мне не нужна, и мне не нужна физика, чтобы убедить вас, и мне не нужно знать, как вы работаете. Мне не нужно понимать все этапы. Мне нужно верить, что вы — многомасштабная когнитивная система, которая уже делает это сама, и вы это делаете. Это удивительная вещь. Я знаю, что люди, мне кажется, недостаточно об этом задумываются. Когда вы просыпаетесь утром и у вас есть социальные цели, исследовательские цели, финансовые цели, что бы у вас ни было, чтобы вы могли действовать в соответствии с этими целями, натрий, кальций и другие ионы должны проникнуть через ваши мышечные мембраны. Эти невероятно абстрактные целевые состояния в конечном итоге должны заставить химию танцевать совершенно особым образом, верно? Вы…

Майкл Левин(00:44:42) Всё наше тело — это преобразователь очень абстрактных вещей. И, кстати, не только наш мозг, но и наши органы имеют анатомические цели и другие вещи, о которых мы можем говорить, потому что всё это играет роль в регенерации, развитии и так далее. Но масштабирование, да, всех этих вещей, то, как… то, как вы себя регулируете, происходит не с помощью: «Боже мой», вам не нужно сидеть и думать: «Вау, мне действительно нужно протолкнуть немного натрия через эту мембрану». Всё это происходит автоматически, и в этом невероятное преимущество этих многомасштабных материалов. Итак, в этой статье я пытался сделать несколько вещей.

Майкл Левин(00:45:18) Кстати, все эти рисунки нарисовал Джереми Гэй, замечательный графический дизайнер, который работает со мной. Прежде всего, на панели А, представляющей собой спираль, на которую я пытался обратить внимание, видно, что на каждом уровне биологической организации, как мы все знаем, мы представляем собой своего рода матрешки из органов, тканей, клеток, молекул и всего остального, но я пытался подчеркнуть, что это не просто структурная составляющая. Каждый из этих уровней обладает определёнными функциями и решает задачи в разных пространствах, которые нам очень трудно представить. Мы, люди, в силу нашей эволюционной истории настолько одержимы движением в трёхмерном пространстве, что даже в искусственном интеллекте мы постоянно это видим.

Майкл Левин(00:45:53) Они говорят: «Ну, у этой штуки нет роботизированного тела, она не воплощена». Да, она не воплощена посредством перемещения в трёхмерном пространстве, но у биологии есть воплощения во всевозможных пространствах, которые нам трудно представить, верно? Итак, ваши клетки и ткани движутся в многомерных физиологических пространствах состояний, в пространствах состояний экспрессии генов, в анатомических пространствах состояний. Они выполняют тот же цикл восприятия, принятия решений, действия, который мы делаем в трёхмерном пространстве, когда представляем себе роботов, бродящих по вашей кухне. Они выполняют эти циклы в этих других пространствах. И поэтому первое, на что я пытался указать, это то, что каждый слой вашего тела обладает своей собственной способностью решать задачи в этих пространствах.

Майкл Левин(00:46:31) А затем, справа, я говорил о том, что существует различие между, знаете ли, людьми, которые говорят: «Ну, есть живые существа, а есть сконструированные машины», а затем они часто приводят всё то, что машины никогда не смогут делать, и всё такое. Итак, я пытался здесь подчеркнуть, что очень сложно поддерживать подобные различия, потому что жизнь невероятно интероперабельна. Жизни, по сути, всё равно, возникло ли то, с чем она работает, путём случайных проб и ошибок или было сконструировано с более высокой степенью участия, потому что на каждом уровне внутри клетки, внутри ткани, внутри организма, внутри коллектива можно заменить и заменить сконструированные системы естественно эволюционировавшими системами.

Майкл Левин(00:47:12) И этот вопрос: «Реально ли это, знаете ли, это биология или технология?», я думаю, больше неактуален. Поэтому я пытался воодушевить людей идеей, что сейчас мы будем говорить о разуме в целом, независимо от его истории или состава. Неважно, из чего вы сделаны. Неважно, как вы к этому пришли. Давайте поговорим о том, на что вы способны и как выглядит ваш внутренний мир. В этом и была цель.

Лекс Фридман(00:47:34) Полезно ли, в качестве мысленного эксперимента, эксперимента радикальной эмпатии, попытаться поставить себя в пространство различных сознаний на каждом этапе спирали? Например, в каком пространстве состояний воплощается человеческая цивилизация как коллектив? Например, в чём она функционирует? Итак, люди, индивидуальные организмы, функционируют в трёхмерном пространстве. Это то, что мы понимаем. Но когда нас много… …что мы делаем вместе?

Майкл Левин(00:48:07) Это действительно сложно, и вам придется проводить эксперименты, которые в больших масштабах действительно сложны.

Лекс Фридман(00:48:12) Но есть ли такое?

Майкл Левин(00:48:14) Вполне возможно. Нам нужно проводить эксперименты. Не знаю. Вот пример. Кто-нибудь скажет мне: «Знаете, с вашим панпсихистским взглядом вы, вероятно, считаете, что погода тоже является агентом». Это как: «Ну, я не могу этого сказать, но мы не знаем, но вы когда-нибудь пытались проверить, вызывает ли ураган привыкание или сенсибилизацию?» Возможно. Мы не проводили эксперимент. Это сложно, но можно, верно? И, возможно, у погодных систем есть определённые виды памяти. Понятия не имею. Нам нужно проводить эксперименты.

Майкл Левин(00:48:41) Итак, я не знаю, чем занимается всё человечество, но я просто приведу вам простой пример инструментов. Мы сейчас активно пытаемся создать инструменты, которые позволят совершенно разным агентам общаться. Мы делаем это, используя ИИ и другие инструменты, чтобы наладить такую коммуникацию в самых разных пространствах. Я просто приведу вам очень глупый пример того, как это может быть. Представьте, что вы играете в крестики-нолики с инопланетянином. Итак, вы находитесь в комнате. Вы его не видите. Вы рисуете крестики-нолики на доске, на полу, и вы знаете, что делаете.

Майкл Левин(00:49:17) Вы пытаетесь провести прямые линии из крестиков и ноликов, и у вас получается неплохо. Очевидно, что он понимает процесс. Например, иногда вы выигрываете, иногда проигрываете. Это очевидно. В этом небольшом отрезке деятельности вы, ребята, делите мир. Что происходит в другой комнате по соседству? Ну, предположим, инопланетянин ничего не знает о геометрии. Он не понимает прямых линий. У него есть коробка, полная, по сути, бильярдных шаров, на каждом из которых есть номер. И всё, что он делает, — это ищет в коробке бильярдные шары, сумма номеров которых равна 15. Он вообще не понимает геометрию. Всё, что он понимает, — это арифметику.

Майкл Левин(00:49:55) Вы не думаете об арифметике, вы думаете о геометрии. Причина, по которой вы играете в одну и ту же игру, в том, что есть этот магический квадрат, верно? Кто-то построил его, по сути, квадрат три на три, где, если правильно подобрать числа, они в сумме дают 15. Он понятия не имеет, что у этого есть геометрическая интерпретация. Он решает задачу, которую видит, а это полностью алгебраическая задача. Вы ничего об этом не знаете. Но если есть подходящий интерфейс, такой как этот магический квадрат, вы, ребята, можете поделиться этим опытом. Вы можете получить опыт. Это не значит, что вы начинаете думать, как он. Это значит, что вы, ребята, можете взаимодействовать определённым образом.

Лекс Фридман(00:50:27) Хорошо, существует соответствие между двумя различными способами видения мира, которое позволяет вам общаться друг с другом.

Майкл Левин(00:50:34) Увидеть тонкую часть мира.

Лекс Фридман(00:50:36) Тонкий срез мира. Как вы находите это сопоставление? То есть вы говорите, что мы пытаемся найти способы нахождения этого сопоставления… …для разных типов систем. Каков процесс этого?

Майкл Левин(00:50:48) Итак, процесс двусторонний. Во-первых, нужно лучше понять, в каком пространстве движется система, какие у неё цели и какой уровень изобретательности ей необходим для их достижения. Например, ксеноботы, верно? Мы создаём ксеноботов или человекообразных. Это биологические системы, которых никогда раньше не существовало на Земле. Мы понятия не имеем об их когнитивных свойствах. Мы учимся. Мы кое-что обнаружили. Но это невозможно предсказать на основе базовых принципов, потому что они совершенно не соответствуют тому, что можно было бы узнать из их прошлого.

Создание жизни в лаборатории

Лекс Фридман(00:51:19) Можете ли вы вкратце объяснить, что такое ксенобот и что такое антропод?

Майкл Левин(00:51:24) Итак, одна из наших задач — создание новых существ, которых никогда раньше не было. Дело в том, что обычно, когда у вас есть биологическая система, животное или растение, и вы спрашиваете: «Эй, почему у неё определённые формы поведения, определённые формы анатомии, определённые формы физиологии? Почему у неё всё это есть?» Ответ всегда один и тот же. Ну, есть история эволюционного отбора, и есть долгая, долгая история адаптации, и есть определённые условия, и вот что выжило, и вот почему. Поэтому я хотел вырваться из этой колеи и, по сути, заставить нас, как сообщество, глубже разобраться в том, откуда взялись эти вещи.

Майкл Левин(00:52:07) И это значит, что нужно убрать опору, под которой вы просто говорите: «Ну, это эволюционный отбор, поэтому он так выглядит». Поэтому, чтобы это сделать, нам нужно сейчас создавать искусственные синтетические существа. Для ясности: мы начинаем с живых клеток, так что дело не в том, что у них не было эволюционной истории. У клеток она есть. У них была эволюционная история у лягушек, людей или кого-то ещё. Но существа, которых они создают, и способности, которыми обладают эти существа, никогда не были напрямую отобраны. И, по сути, они никогда не существовали. Так что вы не можете рассказать ту же самую историю. И я имею в виду, что мы можем взять эпителиальные клетки из раннего эмбриона лягушки, и вы не измените ДНК. Никаких синтетических биологических схем, никаких материальных каркасов, никаких наноматериалов, никаких странных лекарств, ничего из этого.

Майкл Левин(00:52:46) В основном мы освобождаем их от поучительного влияния остальных клеток, в которых они находились в своих телах. И когда вы это делаете, обычно эти клетки подвергаются издевательствам со стороны соседних клеток, заставляя их вести очень скучную жизнь. Они становятся двумерной внешней оболочкой для эмбриона, и они не пропускают бактерии, и это всё. Поэтому вы можете спросить: «Ну и на что способны эти клетки, когда вы лишаете их этого влияния?» Так что когда вы это делаете, они образуют другую маленькую форму жизни, которую мы называем ксеноботом. И это маленькое самостоятельное существо, поверхность которого покрыта ресничками. Реснички координируются таким образом, что они гребут против воды, и тогда эта штука начинает двигаться и обладает всевозможными удивительными свойствами.

Майкл Левин(00:53:25) У него другая экспрессия генов, поэтому у него свой собственный новый транскриптом. Он способен к таким вещам, как кинематическая саморепликация, то есть создавать свои копии из отдельных клеток, помещенных в его среду. Он способен реагировать на звук, чего не умеют обычные эмбрионы. У него есть эти новые способности. Мы это сделали и сказали: «Смотрите, вот некоторые удивительные особенности этой новой системы. Давайте попробуем понять, откуда они взялись». И некоторые говорили: «Ну, может быть, это особенность лягушек», понимаете? Может быть, это просто что-то уникальное для клеток лягушек. И поэтому мы спросили: «Хорошо, насколько дальше можно уходить от эмбриональных клеток лягушки?»

Майкл Левин(00:54:00) А как насчет клеток взрослого человека?» И вот мы взяли клетки у взрослых пациентов, которые сдавали эпителий трахеи для биопсии и подобных вещей, и эти клетки, опять же, без генетических изменений, ничего подобного. Они самоорганизовались в то, что мы называем антроподами. Опять же, самоходное маленькое существо. 9000 различных экспрессий генов. Так что примерно половина генома теперь другая. И у них есть интересные способности. Например, они могут залечивать человеческие нервные раны. Так что in vitro, если вы поместите несколько нейронов на пластинку и сделаете на них большую царапину, чтобы повредить их, антроподы могут сесть, и они попытаются... Они спонтанно, без того, чтобы мы их этому учили, они спонтанно попытаются связать нейроны.

Лекс Фридман(00:54:42) Что это за видео, которое мы сейчас смотрим?

Майкл Левин(00:54:44) Итак, это человекообразный. Очень часто, когда я выступаю с докладами на эту тему, я показываю людям это видео и спрашиваю: «Как вы думаете, что это?» И люди говорят: «Ну, это похоже на какой-то примитивный организм, поднятый со дна пруда». И я говорю: «Ну, как, по-вашему, должен выглядеть его геном?» И они говорят: «Ну, геном должен быть похож на геном какого-то примитивного существа». Верно? Если вы секвенируете эту штуку, вы получите 100% Homo sapiens. И это не похоже ни на одну из стадий нормального развития человека. Он не ведёт себя как ни на одну из стадий развития человека. Он способен передвигаться. У него, как я уже сказал, более 9000 различных экспрессий генов. Также интересно, что он моложе, чем клетки, из которых он происходит.

Майкл Левин(00:55:20) Итак, у него действительно есть возможность отмотать время, и мы могли бы поговорить об этом и о том, какие последствия это может иметь. Но, возвращаясь к вашему первоначальному вопросу, что мы делаем с такими системами…

Лекс Фридман(00:55:30) Пытаюсь с ним поговорить.

Майкл Левин(00:55:31) Мы пытаемся с ним поговорить. Совершенно верно. И не только с этим. Мы пытаемся поговорить с молекулярными сетями. Пару лет назад мы обнаружили, что сети регуляции генов, не говоря уже о клетках, но молекулярные пути внутри клеток могут обладать разными типами обучения, включая павловское обусловливание. И сейчас мы пытаемся с ним поговорить. Биомедицинское применение очевидно. Вместо «Привет, Siri» вы хотите спросить: «Привет, печень, почему я сегодня чувствую себя ужасно?» И вы хотите получить ответ.

Майкл Левин(00:55:54) «Ну, знаете, у вас уровень калия такой-то, и я плохо себя чувствую по таким-то причинам». И вы должны иметь возможность общаться с этими устройствами, и должен быть интерфейс, который позволит нам общаться, верно? И я думаю, что ИИ станет важнейшей частью этого интерфейса, позволяющего нам общаться с этими системами. Это инструмент для борьбы с нашей слепотой, помогающий нам видеть разнообразные, очень нестандартные умы, которые окружают нас.

Лекс Фридман(00:56:19) Можно ли это обобщить? Допустим, мы встречаем здесь, на Земле, инопланетянина или существо с нестандартным мышлением. Представьте себе чёрный ящик. Вы появляетесь. Какова процедура, чтобы попытаться подключиться к протоколу связи с этой штукой?

Майкл Левин(00:56:43) Да. Именно в этом и заключается задача моей лаборатории. Она заключается в том, чтобы дать нам возможность разрабатывать инструменты для распознавания этих вещей, учиться общаться с ними, строить с ними этические отношения. И в целом, расширять наши возможности делать это в окружающем мире. Я специально выбрал такие вещи, потому что они не настолько инопланетны, как настоящие инопланетяне. Так что у нас есть надежда. Я имею в виду, мы сделаны из них. У нас много общего. Есть надежда понять их.

Лекс Фридман(00:57:11) Вы говорите о ксеноботах и антроподах?

Майкл Левин(00:57:12) Ксеноботы, антроподы, клетки и всё остальное. Но они чужды нам по нескольким важным причинам. Во-первых, нам очень трудно представить себе пространство, в котором они живут. В каком пространстве они живут? Ваше тело, клетки вашего тела, задолго до того, как у нас появился мозг, способный ориентироваться в трёхмерном пространстве, ориентировались в пространстве анатомических возможностей. Всё начиналось с яйца, и вам нужно было стать, знаете ли, змеёй, жирафом или человеком, кем бы мы ни стали.

Майкл Левин(00:57:42) И я конкретно говорю вам, что эта общая идея, когда люди моделируют это с помощью идей типа клеточных автоматов, эта разомкнутая система, где всё просто следует локальным правилам, и в конечном итоге возникает сложность, и вот вам. Итак, у вас есть жираф или человек. Я конкретно говорю вам, что этой модели совершенно недостаточно, чтобы понять, что на самом деле происходит. Что на самом деле происходит, и на эту тему было проведено множество экспериментов, так это то, что система перемещается в пространстве. Она перемещается в пространстве анатомических возможностей. Если вы попытаетесь помешать ей двигаться, она попытается вас обойти.

Майкл Левин(00:58:17) Если вы попытаетесь бросить ему вызов, бросив ему вызов, которого он никогда раньше не видел, он попытается найти решение. Если вы действительно лишите его этой способности, а это возможно, то, знаете ли, они не бесконечно разумны, так что вы можете их победить. Вы либо получите врождённые дефекты, либо научитесь творчески решать проблемы, как это происходит с ксеноботами и человекообразными. Если вы не можете быть человеком, вы найдёте другой способ существования. Вы можете быть человеком, например, или кем-то ещё.

Лекс Фридман(00:58:42) Просто для ясности: в чем разница между действием клеточного автомата, когда вы просто реагируете на локальную среду и создаете некое сложное поведение, и работой в пространстве анатомических возможностей?

Майкл Левин(00:58:56) Конечно.

Лекс Фридман(00:58:56) Так что, я полагаю, есть некая цель, которую вы формулируете.

Майкл Левин(00:58:59) Да.

Лекс Фридман(00:58:59) Есть что-то вроде…

Майкл Левин(00:59:01) Да

Лекс Фридман(00:59:01) …чего-то. Есть желание что-то сделать.

Майкл Левин(00:59:06) Давайте оставим в стороне вопрос о воле.

Лекс Фридман(00:59:08) Хорошо, извините.

Майкл Левин(00:59:08) Потому что это... Ну, это тоже нормально.

Лекс Фридман(00:59:10) Ну вот, антропоморфизирую. Я просто обожаю цитировать Ницше, так что вот.

Майкл Левин(00:59:13) Да. Да, да. И я не говорю, что это не так. Я просто говорю, что у меня нет данных для этого, но я расскажу вам то, в чём я совершенно уверен. В теории управления есть несколько различных формализмов. Один из них — это сложность с разомкнутым циклом. Другими словами, у меня есть группа субъединиц, как клеточный автомат. Они следуют определённым правилам, вы поворачиваете ручку, время идёт вперёд, что бы ни случилось, происходит то, что происходит. Теперь очевидно, что из этого можно получить сложность. Очевидно, что можно получить очень интересные вещи, верно? Итак, игра в жизнь, все эти крутые вещи, верно? Можно получить сложность. Нет-нет, без проблем.

Майкл Левин(00:59:47) Но идея о том, что этой модели будет достаточно для объяснения и управления такими вещами, как морфогенез, — это гипотеза. Можно выдвигать такую гипотезу, но мы знаем, мы знаем, что она ложна, несмотря на то, что это то, чему нас учили, знаете ли, на курсах по базовой клеточной биологии и биологии развития. Когда вы впервые видите что-то подобное, неизбежно, особенно если вы инженер на этих курсах, вы думаете: «Эй, откуда оно знает, что нужно это делать? Откуда оно знает, знаете ли, четыре пальца вместо семи?» Вам говорят: «Оно ничего не знает». Убедитесь. Это совершенно ясно. Они все настаивают, что когда мы изучаем эти вещи, они настаивают, что ничто здесь ничего не знает.

Майкл Левин(01:00:27) Есть правила химии, они действуют, и вот что происходит. Хорошо. Теперь, эта модель проверяема. Мы можем спросить: «Объясняет ли эта модель, что происходит?» Вот где эта модель терпит неудачу. Если у вас есть эта модель и ситуация меняется, либо есть повреждение, либо что-то произошло в окружающей среде, такие модели с открытым циклом не подстраиваются под достижение той же цели другими средствами. Это определение интеллекта Уильямом Джеймсом: та же цель другими средствами. И, в частности, прорабатывая их в обратном направлении, предположим, что вы работаете в регенеративной медицине и говорите: «Хорошо, но вот текущая ситуация. Я хочу, чтобы она была другой». Каковы должны быть правила? Это необратимо.

Майкл Левин(01:01:09) Итак, проблема с подобными моделями открытого цикла в том, что они необратимы. Вы не знаете, что делать, чтобы получить желаемый результат. Всё, что вы знаете, — это прокручивать их вперёд, верно? В биологии мы видим следующее. Если у вас есть система развития, и вы ставите барьеры между… Итак, я приведу два доказательства, которые указывают на наличие цели. Одно из доказательств заключается в том, что если попытаться помешать этим процессам достичь результата, к которому они обычно приводят, они начнут совершать удивительные вещи. Иногда очень умные вещи, иногда совсем не такие, как обычно, верно? Итак, вот определение Уильяма Джеймса.

Майкл Левин(01:01:45) Разными способами, следуя по разным траекториям, они будут обходить различные локальные максимумы и минимумы, чтобы добраться туда, куда им нужно. Это навигация в пространстве. Она не слепая, поверните ручку, и где бы мы ни оказались, мы окажемся там. Это не то, что мы видим экспериментально. И что ещё важнее, я думаю, то, что мы показали, и это то, чем я особенно доволен в нашей лаборатории, за последние 20 лет, мы показали следующее. Мы действительно можем переписывать целевые состояния, потому что мы их нашли. Мы показали в нашей работе по биоэлектрической визуализации и биоэлектрическому перепрограммированию, мы фактически показали, как кодируются эти целевые воспоминания, по крайней мере, в некоторых случаях.

Майкл Левин(01:02:21) Конечно, у нас есть не все, но некоторые есть. Если вы можете найти, где закодировано целевое состояние, считать его и сбросить, и система теперь реализует новую цель, основанную на том, что вы только что сбросили, это окончательное доказательство того, что ваша целеустремлённая модель работает. Потому что если бы не было цели, это было бы невозможно. Верно? Как только вы сможете найти её, прочитать, интерпретировать и переписать, это будет означать, что по любым инженерным стандартам вы имеете дело с гомеостатическим механизмом.

Лекс Фридман(01:02:53) Как узнать, где закодирована цель?

Майкл Левин(01:02:55) Итак, благодаря многому и упорному труду.

Лекс Фридман(01:02:58) Барьеры — это часть этого? Создание барьеров и наблюдение?

Майкл Левин(01:03:01) Барьер говорит вам, что вам следует искать цель.

Лекс Фридман(01:03:04) Итак, первый шаг, когда вы приближаетесь к агентной системе, — это создание барьеров разного рода, пока вы не увидите, насколько настойчиво она стремится к тому, к чему, как казалось, стремилась изначально.

Майкл Левин(01:03:14) Да.

Лекс Фридман(01:03:14) И тогда понимаешь, ладно, круто, это… У этой штуки, во-первых, есть агентность. А во-вторых, ты начинаешь интуитивно понимать, какую именно цель она преследует.

Майкл Левин(01:03:24) Да. Первые пару шагов — это всё воображение. Нужно спросить себя: «В каком пространстве эта штука вообще работает?» И вам действительно придётся напрячь свой ум, потому что мы не можем представить себе все пространства, в которых работают системы, верно? Итак, шаг первый: что это за пространство? Шаг второй: какова, по-моему, цель? И давайте не будем ошибаться на втором шаге, вы ещё не закончили. То, что вы выдвинули гипотезу, не означает, что вы можете сказать: «Ну, я вижу, как оно делает это, следовательно, это и есть цель». Вы этого не знаете. Вам нужно провести реальные эксперименты. Теперь, когда вы выдвинули эти гипотезы, вы проводите эксперименты.

Майкл Левин(01:03:50) Вы спрашиваете: «Хорошо, если я хочу помешать ему достичь цели, как мне это сделать?» И, кстати, именно этот подход мы использовали с алгоритмами сортировки и со всем остальным. Вы выдвигаете гипотезу о цели, ставите барьер, а затем выясняете, насколько он изобретателен. Возможно, вы видите: «Ну, это всё испортило, так что, вероятно, эта штука не очень умная». Или вы говорите: «Ого, он может ходить и делать вот так». Или вы можете сказать: «Ого, он использует совершенно другой подход, используя свои возможности новыми способами, как будто это высокий уровень интеллекта». Вы узнаете ответ.

Воспоминания и идеи — живые организмы.

Лекс Фридман(01:04:21) Ещё один вопрос, который можно задать себе. Можно ли рассматривать нетрадиционные организмы и, например, мемы Ричарда Докинза, рассматривать такие вещи, как идеи? Насколько странными мы можем быть? Можно ли рассматривать идеи как организмы, а затем создавать для них барьеры и видеть, что это за идеи… Если взять отдельные идеи и попытаться сопереживать и визуализировать, в каком пространстве они могут существовать, можно ли рассматривать их как разумные организмы?

Майкл Левин(01:04:58) Ага. Ладно, если хотите чего-то совсем странного, то и здесь можно. Представьте себе переход от гусеницы к бабочке, ладно? Итак, у вас есть гусеница, мягкотелое существо, с особым контроллером, подходящим для управления мягкотелым, знаете, своего рода роботом. У неё есть мозг для этой задачи, а затем она должна стать этой бабочкой, твёрдотелым существом, летающим вокруг. Ладно. В процессе метаморфозы её мозг, по сути, разрывается и перестраивается с нуля, верно? Было обнаружено, что если вы тренируете гусеницу, то даёте ей новую память, то есть, если гусеница видит этот цветной диск, то она ползёт и ест листья. Оказывается, бабочка сохраняет эту память.

Майкл Левин(01:05:39) Теперь возникает очевидный вопрос: как, чёрт возьми, сохраняются воспоминания, когда носитель подвергается такому рефакторингу? Давайте оставим это в стороне. Я собираюсь обсудить это ещё более странное. Есть кое-что ещё более интересное. Дело не только в том, что нужно сохранять память. Нужно перенаправить эту память на совершенно новый контекст, потому что, знаете что? Бабочка движется не так, как гусеница, и ей нет дела до листьев. Ей нужен нектар с цветов. И поэтому, если эта память хочет выжить, она не может просто сохраняться. Она должна…

Лекс Фридман(01:06:10) Быть переназначенным

Майкл Левин(01:06:11) … быть переосмыслены в новом контексте. И вот тут-то всё становится странным. Мы можем рассмотреть это с разных точек зрения. Мы можем взять точку зрения гусеницы, столкнувшейся с какой-то безумной сингулярностью, и сказать: «Боже мой, я перестану существовать, но, знаете ли, я как бы переродлюсь в этом новом мире более высокого измерения, где я буду летать». Хорошо, это одно. Мы можем взять точку зрения бабочки и сказать: «Ну, вот я здесь, но, знаете ли, я, похоже, обременён какими-то склонностями и какими-то воспоминаниями, и я не знаю, откуда, чёрт возьми, они взялись, и я не помню точно, как они у меня появились, и, похоже, они являются неотъемлемой частью моей психологической структуры, и, знаете ли, они…

Майкл Левин(01:06:49) Если они откуда-то берутся. Я не знаю, откуда они берутся». Верно? Так что вы можете принять эту перспективу. Но есть и третья перспектива, которая, на мой взгляд, действительно интересна и полезна. Третья перспектива — это перспектива самой памяти. Если вы возьмете перспективу памяти, то что такое память? Это шаблон. Это информационный шаблон, который непрерывно подкреплялся в одной когнитивной системе, и вот я здесь с этим воспоминанием. Что мне нужно сделать, чтобы сохраниться в будущем? Что ж, теперь я сталкиваюсь с парадоксом изменений. Если я попытаюсь остаться прежним, я исчезну. Нет никакого способа, которым бабочка собирается сохранить меня в той первоначальной форме, в которой я нахожусь сейчас. Что мне нужно сделать, это измениться, адаптироваться и трансформироваться. Теперь вы можете сказать: «Ну, это немного безумно.

Майкл Левин(01:07:31) Ну, как вы рассматриваете перспективу узора внутри возбудимой среды?» Верно? Агенты — это физические объекты. Вы говорите об информации, верно? Итак, позвольте мне рассказать вам еще одну короткую научно-фантастическую историю. Представьте, что некие существа выходят из центра Земли. Они живут в ядре. Они очень плотные, понятно? Они невероятно плотные, потому что живут в ядре. У них есть зрение в гамма-лучах, знаете ли, для… И так далее. Итак, они выходят на поверхность. Что они видят? Ну, все эти вещи, которые мы здесь видим, для них как разреженная плазма. Они настолько плотные. Ничто из этого не является для них твердым.

Майкл Левин(01:08:06) Они ничего этого не видят. Поэтому они просто бродят, понимаете, потому что планета, знаете ли, покрыта этим разреженным газом. И один из них — учёный, он проводит измерения газа и говорит остальным: «Знаете, я наблюдал за этим газом, и в нём есть такие маленькие водовороты, и они выглядят почти как агенты. Они выглядят так, будто что-то делают. Они движутся, они как бы удерживаются вместе какое-то время и пытаются что-то сделать». А другие говорят: «Ну, это безумие. Паттерны в газе не могут быть агентами. Мы — агенты. Мы твёрдые. Это просто паттерны в возбудимой среде».

Майкл Левин(01:08:38) И кстати, как долго они держатся вместе? Он говорит: «Ну, около 100 лет». «Ну, это безумие. Ничего... Знаете, никакой реальный агент не может существовать, чтобы рассеяться так быстро». Хорошо. Мы все, помимо прочего, являемся метаболическими шаблонами, верно? И поэтому одна из вещей, которая... И поэтому вы видите, к чему я здесь готовлюсь. Итак, одна из вещей, которую мы пытаемся растворить, и это часть работы, которую я проделал с Крисом Филдсом и другими, это это различие между мыслями и мыслителями. Итак, все агенты являются шаблонами внутри некой возбудимой среды, мы могли бы поговорить о том, что это такое, и они могут порождать другие. И теперь у вас может быть действительно интересный спектр. Вот спектр.

Майкл Левин(01:09:15) У вас могут быть мимолетные мысли, как волны в океане, когда вы бросаете камень. Знаете, они как бы проходят через возбудимую среду и исчезают. Проходят и исчезают, верно? Так что это своего рода мимолетные мысли. Могут быть и паттерны, обладающие определённой устойчивостью, то есть ураганы, солитоны, навязчивые мысли, навязчивые мысли или депрессивные мысли. От них сложнее избавиться. Они задерживаются на какое-то время. Они часто немного формируют нишу, то есть изменяют сам мозг, чтобы облегчить появление этих мыслей, верно? Ну, вот так. И поэтому они остаются дольше. А что дальше?

Майкл Левин(01:10:00) Ну, фрагменты, фрагменты личности диссоциативного расстройства личности, они более стабильны, и они не просто на автопилоте. У них есть цели, и они могут что-то делать, а за этим — полноценная человеческая личность. И кто, чёрт возьми, знает, что за этим? Может быть, что-то вроде трансчеловеческого, знаете ли, трансперсонального, типа, я не знаю, верно? Но эта идея, опять же, я возвращаюсь к этому представлению о спектре. Нет чёткого различия между, знаете ли, мы — реальные агенты, и у нас есть эти мысли. Да, паттерны тоже могут быть агентами, но, опять же, вы не узнаете, пока не проведёте эксперимент. Так что, если вы хотите узнать, является ли солитон, ураган или мысль внутри когнитивной системы своим собственным агентом, проведите эксперимент. Посмотрите, на что он способен.

Майкл Левин(01:10:43) Может ли он учиться на опыте? Есть ли у него память? Есть ли у него целевые состояния? Что он может делать, да? Есть ли у него язык? Итак, возвращаясь к вашему первоначальному вопросу, да, мы определённо можем применить эту методологию к идеям, концепциям и социальным явлениям, но для этого нужно провести эксперимент.

Лекс Фридман(01:11:04) Это такой сложный мысленный эксперимент: осмыслить воспоминания, от гусеницы до бабочки, как организм. Думаю, на самом базовом уровне, интуитивно, мы представляем себе организмы как аппаратное обеспечение… …а программное обеспечение — как нечто, что, возможно, не может быть организмом, но…

Лекс Фридман(01:11:26) …вы говорите, что всё это просто закономерности в возбудимой среде, и неважно, что это за закономерность. Нам нужно… и что это за возбудимая среда. Нам нужно проверить, насколько она устойчива? Насколько она целенаправленна? И есть определённые виды тестов для этого, и вы можете применить это к воспоминаниям. Вы можете применить это к идеям. Вы можете применить это к чему угодно, на самом деле. Я имею в виду, вы, вероятно, могли бы подумать о сознании. Вы могли бы… На самом деле, нет никаких границ тому, что вы можете себе представить. Вероятно, разумом могут быть действительно, очень, очень дикие вещи.

Майкл Левин(01:12:08) Да. Оставайтесь с нами. Именно этим мы и занимаемся. Мы становимся всё более и более нетрадиционными. Поэтому, думаю, всё это различие между программным обеспечением и оборудованием — это очень важная концепция для размышлений. И всё же, учитывая то, как мы это наложили на мир, я хотел бы развернуть это следующим образом. И ещё раз хочу подчеркнуть практические последствия, потому что это не просто забавные истории, которые мы рассказываем друг другу. Это имеет действительно важное исследовательское значение. Представьте себе машину Тьюринга. Можно сказать, что машина — это агент.

Майкл Левин(01:12:47) У него есть пассивные данные, и он оперирует этими данными, вот и всё. История агентности — это история о том, что эта машина может и не может делать. Данные пассивны, и она их перемещает. Можно сказать и обратное. Можно сказать: «Смотрите, закономерности в данных — это агент. Машина — это стигмергический блокнот в мире данных, делающий то, что делают данные». Машина — это всего лишь последствия, блокнот её работы над собой. И обе эти истории имеют смысл в зависимости от того, что вы пытаетесь сделать. Вот биомедицинская сторона вопроса. Итак, наша программа по биоэлектричеству и старению, понятно?

Майкл Левин(01:13:19) Одна из возможных моделей заключается в том, что физический организм выступает в роли агента, а клеточный коллектив обладает памятью о паттернах, в частности, о том, о чём я говорил ранее, о целях, об анатомических целях. Если вы хотите сохраниться более 100 лет, вашим клеткам лучше помнить свою правильную форму и куда направляются новые клетки, верно? Итак, существуют эти памяти о паттернах. Они существуют во время эмбриогенеза, во время регенерации, в период сопротивления старению. Мы можем их видеть. Мы можем их визуализировать. Можно представить, что физическое тело, клетки, являются агентом. Электрическая память о паттернах — это всего лишь данные, и в процессе старения эти данные могут деградировать. Они могут стать нечёткими.

Майкл Левин(01:14:01) Итак, нам нужно усилить воспоминания, усилить воспоминания о паттернах. Это одна из конкретных исследовательских программ, и мы её реализуем. Но это не единственная исследовательская программа, потому что, возможно, вы думаете: а что, если паттерны — это агент в том же смысле, в каком мы думаем в мозге? Это паттерны электрофизиологических вычислений, что угодно ещё, вот этот агент, верно?

Майкл Левин(01:14:30) И то, что они делают в мозге, — это побочные эффекты отрабатываемых паттернов. И эти побочные эффекты могут заключаться в активации каких-то мышц, желёз и других органов. С этой точки зрения… возможно, на самом деле происходит следующее: агенту становится всё труднее воплощаться в физическом мире. Почему? Потому что клетки могут становиться менее отзывчивыми. Другими словами, клетки становятся вялыми. С паттернами всё в порядке. Им становится всё труднее заставлять клетки делать то, что им нужно, и, возможно, нужно не подкреплять воспоминания, а сделать так, чтобы клетки были более восприимчивы к ним, и это уже другая исследовательская программа. Чем мы и занимаемся.

Майкл Левин(01:15:07) У нас есть доказательства и для этого, на самом деле, уже сейчас, и мы недавно их опубликовали. И поэтому я хочу сказать, что когда мы рассказываем эти безумные научно-фантастические истории, единственная их ценность и единственная причина, по которой я говорю о них сейчас, и я не был... знаете, год назад я не говорил об этом, заключается в том, что теперь они могут быть реализованы в рамках конкретных экспериментальных исследовательских программ, которые, я надеюсь, направляются в клинику в рамках некоторых биомедицинских подходов. И теперь мы можем выйти за рамки этого и сказать: хорошо, до сих пор мы рассматривали... Что такое болезненные состояния? Ну, мы знаем, что есть органическое заболевание, что-то физически поврежденное. Мы можем видеть, как разрушаются ткани.

Майкл Левин(01:15:40) Знаете, есть повреждение сустава, где печень делает то, что мы видим. Но как насчёт болезненных состояний, которые не являются физическими, а представляют собой физиологические, информационные или когнитивные проблемы? Другими словами, во всех этих других пространствах можно начать спрашивать: что является барьером в пространстве экспрессии генов? Что такое локальный минимум, который удерживает вас в пространстве физиологических состояний, и что такое стрессовый паттерн, который поддерживает целостность, перемещается по телу, вызывает повреждения, пытается поддерживать себя, верно? Каков уровень его влияния?

Майкл Левин(01:16:15) Это предполагает совершенно иной набор подходов к биомедицине, и, знаете ли, любой, кто, скажем, в сообществе альтернативной медицины, вероятно, сейчас кричит в экран: «Мы говорим об этом сотни лет», и да, но… И я прекрасно понимаю, что эти идеи не новы. Новое в том, что теперь мы можем взять это и сделать их применимыми на практике, и сказать: «Да, но теперь мы можем это визуализировать. Теперь я могу фактически видеть биоэлектрические паттерны и понимать, почему они движутся здесь, а не там», и у нас есть инструменты, которые, как мы надеемся, приведут нас к терапии. Так что это очень действенная вещь, и всё это основано на том, чтобы не предполагать, что мы знаем разум, когда видим его, потому что мы его не знаем, и нам приходится проводить эксперименты.

Лекс Фридман(01:16:57) Возвращаясь к различию программного и аппаратного обеспечения, вы говорите, что мы можем рассматривать программное обеспечение как организм, а аппаратное обеспечение - всего лишь блокнот, или можно рассматривать аппаратное обеспечение как организм, а программное обеспечение - это то, что генерирует аппаратное обеспечение, и таким образом мы можем уменьшить степень важности, которую мы приписываем чему-то вроде человеческого мозга, или это могут быть активации, это могут быть электрические сигналы, которые являются организмами, и тогда мозг - это блокнот.

Майкл Левин(01:17:30) И говоря о блокноте, я не имею в виду, что он не важен. Когда мы говорим о платоновском пространстве, мы должны говорить о том, насколько важен интерфейс. Это… блокнот не неважен, он критически важен. Просто я хочу сказать, что когда у нас есть эти формализмы программного обеспечения, оборудования и других вещей, то, как мы отображаем эти формализмы в мир, неочевидно. Это не дано нам. Мы привыкаем к определённым вещам, верно? Но, но кто здесь аппаратное обеспечение, кто программное обеспечение, кто агент, а кто возбудимая среда, — это ещё предстоит определить.

Реальность — это иллюзия: мозг — это интерфейс к скрытой реальности.

Лекс Фридман(01:18:02) Итак, это хорошее место, чтобы поговорить о всё более радикальных и странных идеях, о которых вы пишете. Вы несколько раз упоминали Платоново пространство. Есть статья «Ingressing Minds», где вы описали Платоново пространство. Вы упомянули об асинхронной конференции… … Happening, что само по себе увлекательная концепция, потому что она асинхронна. Люди просто вносят свой вклад асинхронно.

Майкл Левин(01:18:30) Итак, возникла эта безумная идея, которую я сейчас опишу. Я уже пару раз выступал на эту тему. Затем я нашёл пару статей в сообществе машинного обучения под названием «Гипотеза платоновского представления» и подумал: «Это довольно круто. Эти ребята поднимаются к тому же уровню, к которому я клоню, используя биологию, философию и всё такое. Они приходят к этому через информатику и машинное обучение». У нас будет пара часов: я выступлю с докладом, они выступят с докладом, и мы поговорим об этом. Я думал, что на этой конференции будет три доклада.

Майкл Левин(01:18:57) Как только я начал обращаться к людям с этим, все говорили: «Знаете, я знаю кого-то, кто действительно этим увлечён, но они никогда об этом не говорят, потому что для этого нет аудитории», поэтому я обратился к ним. И тогда они сказали: «Да. О, да, я знаю этого математика», или «Я знаю этого, знаете ли, экономиста, что угодно, у которого есть эти идеи, и нам негде заставить её о них рассказать». Так что я получил весь этот список, и стало совершенно очевидно, что мы не можем сделать это в обычном режиме... Знаете, у нас теперь всё расписано до декабря, поэтому каждую неделю в нашем центре кто-то выступает с докладом. Мы как бы это обсуждаем. Всё это происходит в рамках этого.

Майкл Левин(01:19:29) Я дам вам ссылку на это, а затем после этого будет огромное текущее обсуждение, а затем в конце мы все соберемся вместе для настоящего обсуждения в режиме реального времени и поговорим об этом. Но будет, вероятно, около 15 докладов об этом из самых разных дисциплин. Это взорвалось таким образом, что я не осознавал, сколько этих скрытых идей уже существовало, которые были готовы, как сейчас, сейчас самое время, и я думаю... Это... Как будто я думал об этих вещах, я не знаю, больше 30 лет. Я никогда не говорил об этом раньше, потому что раньше они не были применимы на практике. Не было способа действительно добиться эмпирического прогресса в этом сейчас.

Майкл Левин(01:20:07) Знаете, об этом говорили Пифагор и Платон, а возможно, и многие другие до них, но теперь мы достигли той точки, когда мы можем на самом деле проводить эксперименты, и они вносят вклад в нашу исследовательскую программу.

Лекс Фридман(01:20:19) Можете просто поискать: «Конференция по платоновскому пространству». Там много разных увлекательных докладов. Ваш первый — о закономерностях форм и поведения, за пределами эмерджентности, затем радикальный платонизм и радикальный эмпиризм от Джоэла Дитца, а также «Паттерны и пробелы в объяснениях в психотерапии», «Играет ли Бог в кости?» от Алексея Толчинского и так далее. Итак, давайте поговорим об этом. Что это такое? И интересно, что истоки некоторых из этих идей связаны с тем, как люди, изучающие машинное обучение, размышляют о пространстве репрезентации.

Майкл Левин(01:20:58) Да. Первое, что я хочу сказать: хотя я сейчас и называю это пространством Платона, я никоим образом не пытаюсь придерживаться того, о чём на самом деле думал Платон. На самом деле, насколько бы мы ни знали, что это такое, думаю, я отхожу от этого довольно… в каком-то смысле, и мне придётся в какой-то момент сменить название. Причина, по которой я использую это название сейчас, заключается в том, что я хотел прояснить его особую связь с математикой, которую многие математики называют платониками, потому что считают, что занимаются открытием… не изобретением как человеческим конструктом, а открытием структурированного, упорядоченного пространства истин. Скажем так.

Майкл Левин(01:21:38) В биологии, как и в физике, происходит нечто очень любопытное: если вы продолжаете спрашивать «почему», то происходит что-то интересное. Давайте… Что ж, я приведу вам два примера. Прежде всего, представьте себе цикад. Итак, цикады появляются в 13 и 17 лет, понятно? И если вы биолог и вы спрашиваете: «Так почему же?» И затем вы получаете это объяснение, ну, это потому, что они пытаются быть вне цикла от своих хищников. Потому что если бы это было 12 лет, то каждые два года, каждые три года, каждые четыре года, каждые шесть лет хищник съедал бы вас, когда вы появляетесь, верно? Итак, и вы говорите: «Ладно, ладно, круто. Это логично. Что особенного в 13 и 17 годах?» О, они первичные. Ага. И почему они первичные?

Майкл Левин(01:22:18) Ну, теперь вы на математическом факультете. Вы больше не на биологическом факультете. Вы больше не на физическом факультете. Теперь вы… вы теперь на математическом факультете, чтобы понять, почему распределение простых чисел такое, какое оно есть. Другой пример, и я не физик, но я вижу, что каждый раз, когда вы разговариваете с физиком, и вы спрашиваете: «Эй, почему, ну, лептоны делают то или это, или фермионы делают что угодно?» В конце концов, ответ таков: о, потому что есть эта математическая, ну, знаете, эта группа SU(8) или как ее там, и у нее есть определенные симметрии в этих определенных структурах. Да, отлично. Еще раз, вы на математическом факультете. Так что происходит что-то интересное, что есть факты, с которыми вы сталкиваетесь, многие из них очень удивительные.

Майкл Левин(01:22:55) Вам не удаётся их проектировать. Вы получаете больше, чем вкладываете, определённым образом, потому что делаете очень минимальные предположения. А затем вам навязывают определённые факты. Например, значение постоянной Фейгенбаума, значение натурального логарифма E. Вы как бы открываете эти вещи, верно? И важный факт заключается в следующем: если бы эти факты были другими, то биология и физика были бы другими, верно? Так что они имеют значение, они влияют поучительно, функционально, они влияют на физический мир. Если бы распределение простых чисел было другим, тогда цикады выходили бы в разное время. Но обратное неверно. Я имею в виду, что нет ничего, что вы можете сделать в физическом мире, чтобы изменить E, насколько мне известно, изменить E или изменить постоянную Фейгенбаума.

Майкл Левин(01:23:40) Вы могли бы поменять местами все константы во время Большого взрыва, верно? Вы можете изменить всё, что угодно, но вы не сможете изменить эти вещи. Так вот, я думаю, Платон и Пифагор очень чётко понимали, что существует набор истин, которые влияют на физический мир, но сами они не определяются и не определяются тем, что происходит в физическом мире. Вы не можете изменить их своими действиями в физическом мире, верно? И поэтому я сделаю пару утверждений по этому поводу. Одно из них заключается в том, что, я думаю, мы называем физикой то, что ограничено этими закономерностями. Когда вы спрашиваете: «Эй, почему это так?» А, это потому, что так работают симметрии, топология или что-то ещё. Биология — это то, что становится возможным благодаря им. Это бесплатный сыр. Это…

Майкл Левин(01:24:24) Биология использует подобные истины, и это действительно позволяет биологии и эволюции делать удивительные вещи, не платя за это. Я думаю, что здесь много бесплатных сыров. И вот я показываю вам ксенобота или человекообразную обезьяну и говорю: «Эй, смотрите, вот какие удивительные вещи они делают», — эта ткань никогда раньше не делала за всю свою историю. Вы спрашиваете, прежде всего, откуда это взялось? И когда мы заплатили за это вычислительные затраты? Потому что мы знаем, что когда мы платим вычислительные затраты на проектирование лягушки или человека, это было в течение многих веков, когда геном сталкивался с окружающей средой, проходя отбор, верно? Так что вы платите за это вычислительные затраты. Никогда не было никаких человекообразных обезьян. Никогда не было никаких ксеноботов.

Майкл Левин(01:25:02) Когда мы платим вычислительные затраты на проектирование кинематической саморепликации и, знаете ли, всех этих вещей, которые они способны делать? Итак, есть две вещи, которые люди говорят. Первая: «Ну, это как бы… вы получили это в то же время, когда они были отобраны, чтобы стать хорошими людьми и хорошими лягушками». Проблема в том, что это как бы подрывает суть эволюции. Смысл эволюционной теории заключался в том, чтобы установить очень строгую специфичность между тем, кто вы сейчас, и историей отбора, которая привела вас сюда, верно? Историей среды, которая привела вас к этой точке. Если вы скажете: «Да, хорошо, так вот какова была ваша экологическая история. И, кстати, вы получили нечто совершенно другое».

Майкл Левин(01:25:37) У вас есть другие навыки, о которых вы не знали, это действительно странно, правда? И тогда люди говорят: «Ну, это эмерджентно». А я спрашиваю: «Что это? Что это значит?» И они говорят… помимо того, что вы были удивлены, верно? Эмерджентность часто просто означает, что я этого не ожидал. Знаете, что-то произошло. Я не знал, что это произойдет. Так что же значит, что это эмерджентно? И люди говорят: «Ну», и есть много таких эмерджентных вещей. Например, тот факт, что сети регуляции генов могут заниматься ассоциативным обучением. Типа, это удивительно, и для этого не нужна эволюция. Даже случайные сети регуляции генов могут заниматься ассоциативным обучением.

Майкл Левин(01:26:07) Я спрашиваю: «Почему это происходит?» И они отвечают: «Ну, это просто факт, который имеет место в мире. Просто факт, который имеет место». Так что теперь у вас есть выбор, и вы можете пойти одним из двух путей. Вы можете сказать: «Хорошо, смотрите, мне нравится моя разреженная онтология. Я не хочу думать о странных платонических пространствах. Я физикалист. Мне нужен физический мир, и ничего больше». Итак, что мы собираемся делать, когда сталкиваемся с этими безумными вещами, которые очень специфичны, например, знаете, у антроподов есть четыре конкретных поведения, которые они переключают. Почему четыре? Почему не 12? Почему не 100? Например, четыре, почему четыре?

Майкл Левин(01:26:36) Когда мы сталкиваемся с такими вещами, как, например, когда мы сталкиваемся со значением E или числом Фейгенбаума, или чем-то ещё, мы собираемся записать это в нашу большую книгу эмерджентности. И всё. Нам просто придётся с этим жить. Вот что происходит. Мы просто… Знаете, есть несколько интересных сюрпризов. Знаете, когда мы сталкиваемся с ними, мы их записываем. Отлично. Это случайный набор вещей. И когда мы сталкиваемся с ними, мы их записываем. Это один… плюс в том, что вы становитесь физикалистом и можете сохранить свою разреженную онтологию.

Майкл Левин(01:27:02) Недостаток в том, что я нахожу это невероятно пессимистичным и таинственным, потому что вы, по сути, просто готовы составить каталог этих удивительных закономерностей. Почему бы вместо этого, и именно поэтому я начал с этой платоновской терминологии, не поступить так, как уже делают математики? Многие из них говорят: «Мы сделаем то же оптимистичное предположение, что и наука, что у этого скрытого пространства есть некая глубинная структура». Это не просто случайный набор всего. Существует пространство, откуда берутся эти закономерности, и, изучая их систематически, мы можем перейти от одной к другой. Мы можем составить карту этого пространства. Мы можем выяснить взаимосвязи между ними.

Майкл Левин(01:27:43) Мы можем получить представление о том, что находится в этом пространстве, и мы не будем предполагать, что оно просто случайно. Мы предположим, что в нём есть некая структура. И вы увидите самых разных людей, я имею в виду, известных математиков, которые говорят об этом. Знаете, Пенроуз и многие другие скажут: «Да, физически существует другое пространство, и у него есть пространственная структура. У него есть компоненты и так далее. Мы можем перемещаться по этому пространству разными способами». А ещё есть физическое пространство. Поэтому я нахожу это гораздо более привлекательным, потому что это предполагает исследовательскую программу, которую мы сейчас реализуем в нашей лаборатории.

Майкл Левин(01:28:14) Исследовательская программа – это всё, что мы создаём: клетки, эмбрионы, роботы, биоботы, языковые модели, простые машины – всё это интерфейсы. Все физические объекты – это интерфейсы к этим шаблонам. Вы создаёте интерфейс, и некоторые из этих шаблонов будут передаваться через него. В зависимости от того, что вы создаёте, будут передаваться одни шаблоны, а другие – другие. Исследовательская программа выясняет взаимосвязь между физическими указателями, которые мы создаём, и шаблонами, которые через них проходят, верно? Понимание структуры этого пространства, того, что в нём существует, и того, что мне нужно физически сделать, чтобы определённые шаблоны проявились?

Майкл Левин(01:28:50) Теперь, когда я говорю о закономерностях, мы должны спросить: «Какие типы вещей обитают в этом пространстве?» Что ж, математики скажут вам: «Мы уже знаем. У нас есть целый список объектов. Знаете, амплитуэдры и вся эта безумная штука, обитающая в этом пространстве». Да, я думаю, что это один слой вещей, обитающих в этом пространстве, но я думаю, что эти закономерности — это виды вещей низшего уровня деятельности, которые в основном изучаются математиками. То, что также обитает в этом пространстве, — это гораздо более активные, более сложные закономерности высшего уровня деятельности, которые мы признаем видами разума, и что специалисты по поведению, глядя на эти закономерности, сказали бы: «Ну, я знаю, что это такое. Это способность к отложенному удовлетворению или решению определённых видов проблем», или что-то в этом роде.

Майкл Левин(01:29:29) Итак, сейчас у меня получается модель, в которой это скрытое пространство содержит то, что проявляется через физические объекты, очень простые закономерности, верно? Например, факты о треугольниках, числах Фибоначчи, фракталах и тому подобном. Но также, если вы создадите более сложные интерфейсы, такие как биологические объекты, и, что важно, не только биологические, но, скажем, клетки, эмбрионы и ткани, то вы затем выявите гораздо более сложные закономерности, о которых мы скажем: «А, это разум. Это человеческий разум», или «Это разум змеи», или что-то в этом роде.

Майкл Левин(01:30:02) Итак, я думаю, что связь разума и мозга – это то же самое, что и связь математики и физики: каким-то очень интересным образом математические истины воплощаются и как бы преследуют физические объекты, да, весьма специфичным функциональным образом. И точно так же существуют другие, гораздо более сложные паттерны, паттерны более высокого уровня, которые, по сути, информируют живые существа, которые мы воспринимаем как очевидные воплощенные разумы.

Лекс Фридман(01:30:35) Хорошо, учитывая, насколько странно и сложно то, что вы описываете, мы поговорим об этом подробнее, но вам нужно объяснить основы ELI5 человеку, который никогда этого не видел. Итак, вы снова упомянули такие вещи, как указатели. То есть сам физический объект, или мозг, — это указатель на это платоническое пространство. Что находится в этом платоническом пространстве? Что такое платоническое пространство? Что является воплощением? Что является указателем?

Майкл Левин(01:31:05) Да, хорошо. Давайте попробуем так. Есть определённые математические факты. Например, распределение простых чисел, если их изобразить, образует вот такие красивые спирали. И есть изображение, которое я часто показываю, — это очень специфический вид фрактала.

Майкл Левин(01:31:22) И этот фрактал – карта Холли, которая, что удивительно, выглядит очень органично. Она выглядит очень естественно. Если взглянуть на эту штуку, на это изображение, имеющее очень специфическую сложную структуру, то это карта очень компактного математического объекта. Эта формула похожа на Z в кубе плюс семь. Что-то вроде того. Вот так. Теперь вы смотрите на эту структуру и спрашиваете: «Откуда это вообще взялось?» Она точно не упакована в Z в кубе плюс семь. Нет, в ней недостаточно битов, чтобы дать вам всё это. Нет никакого физического факта, который это определяет. Нет никакой эволюционной истории. Мы не выбрали это, основываясь на чём-то, знаете ли, из более обширного набора данных, полученных в течение долгого времени. Откуда это взялось?

Майкл Левин(01:32:01) Или тот факт, что… Подумайте о том, как биология использует эти вещи. Представьте себе мир, в котором наивысшая приспособленность принадлежала определённому виду треугольника, верно? Итак, эволюция запускает несколько поколений и получает правильный первый угол, затем запускает ещё несколько поколений и получает правильный второй угол. И вот происходит нечто удивительное. Ей не нужно искать третий угол, потому что вы уже знаете его. Если вы знаете два угла, вы получаете этот волшебный подарок от геометрии, который говорит: «Ну, я уже знаю, каким должен быть третий». Вам не нужно его искать.

Майкл Левин(01:32:29) Или, если говорить об эволюции, если вы изобретете потенциал-управляемый ионный канал, который, по сути, является транзистором, и сможете создать логический вентиль, то все таблицы истинности, и тот факт, что NAND — это нечто особенное, и все эти вещи, вам не придется разрабатывать. Вы получаете это бесплатно. Вы наследуете это. Где все эти вещи живут? Эти математические истины, с которыми вы сталкиваетесь, и у вас нет никакого выбора. Знаете, как только вы принимаете определённые аксиомы, есть целый ряд других вещей, которые теперь просто такие, какие есть. И поэтому я говорю, и это то, что говорил Пифагор, я думаю, что существует целое пространство подобных истин.

Майкл Левин(01:33:04) Он был сосредоточен на математических, но воплощал их в музыке, геометрии и подобных вещах. Существует пространство закономерностей, и они оказывают влияние на физический мир, машины, звук и подобные вещи. Я расширяю это, и я говорю, что да, и до сих пор мы рассматривали только низкоорганизованных обитателей этого мира. Есть другие закономерности, которые мы бы распознали как виды разума, и вы не видите их в этом пространстве, пока не появится интерфейс, пока не появится способ, которым они смогут пройти через физический мир. Этот интерфейс, точно так же, как вам нужно создать треугольный объект, прежде чем вы сможете увидеть правило того, что вы собираетесь получить, верно?

Майкл Левин(01:33:45) Вне правил геометрии и всего такого. Или вам придётся провести вычисления на фрактале, прежде чем вы действительно увидите этот узор. Если вы хотите увидеть некоторые из этих разумов, вам придётся построить интерфейс, верно? По крайней мере, если вы собираетесь взаимодействовать с ними в физическом мире, как мы обычно делаем в науке. Как сказал Дарвин: «У математиков есть своё новое чувство, как будто другое чувство, чем у всех нас». И это верно. Знаете, математики, возможно, могут взаимодействовать с этими узорами напрямую в этом пространстве. Но для остальных из нас нам придётся создавать интерфейсы.

Майкл Левин(01:34:13) И когда мы создаём интерфейсы, которые могут быть клетками или роботами, знаете, эмбрионами или чем-то ещё, мы притягиваем разум, который по сути не создан физикой. Так что я в это не верю – не знаю, будем ли мы вникать в эту тему сознания – но я не верю, что мы создаём сознание, независимо от того, создаём ли мы детей или роботов. Никто не создаёт сознание. То, что вы создаёте, – это интерфейс, физический интерфейс, через который будут проникать определённые паттерны, которые мы называем типами разума, верно? А сознание – это то, как оно выглядит с этой точки зрения, глядя на мир. Это то, что мы называем взглядом с точки зрения платонических паттернов.

Лекс Фридман(01:34:53) Просто для ясности: то, что вы говорите, — довольно радикальная идея. Так что если существует соответствие между математикой и физикой, хорошо, это понятно, интуитивно понятно, как вы описали. Но вы предполагаете, что существует соответствие между неким абстрактным объектом разума и воплощённым мозгом, который мы воспринимаем как разум — как люди. Что это такое? Что именно… Потому что вы сказали «интерфейс». Вы также сказали «указатель». То есть, мозг, и, кажется, вы где-то говорили, тонкий интерфейс.

Майкл Левин(01:35:37) Тонкий клиент. Ага. Мозг... Мозг, мозг — это тонкий клиент. Ага.

Лекс Фридман(01:35:40) Тонкий клиент. Хорошо. Итак, вы… Мозг — это тонкий клиент для этого другого мира. Можете ли вы очень чётко объяснить, насколько радикальна эта идея? А то вы как будто колеблетесь. Думаю, можно также сослаться на Дональда Хоффмана, который говорит об интерфейсе с миром. Получается, мы взаимодействуем с, кавычки, реальным миром только через интерфейс. Какая здесь связь?

Майкл Левин(01:36:11) Хорошо, пара вещей. Прежде всего, когда вы сказали, что это имеет смысл для физики, я хочу показать, что это не так просто, как кажется. Потому что это означает, что даже в скучной, своего рода классической вселенной Ньютона, задолго до появления квантовой физики, в мире Ньютона, физикализм уже был мёртв. Подумайте, что это значит. Это же безумие. Потому что он и так прекрасно знал… Пифагор и Платон знали, что даже в совершенно классическом, детерминированном мире уже происходит проникновение информации, которая определяет, что происходит, что возможно, а что невозможно в этом мире, из пространства, которое само по себе не является физическим. Другими словами, это что-то вроде натурального логарифма E, верно?

Майкл Левин(01:36:57) Ничто в мире Ньютона не установлено на значение E. Вы ничего не могли сделать, чтобы установить значение E в этом мире. И тем не менее, тот факт, что это было именно оно, а не что-то другое, управлял всеми видами свойств происходящих вещей. Этот классический мир уже был наполнен закономерностями извне этого мира. Это должно быть как... Это дико. Это не говорит о том, что «Ладно, всё было круто. Физикализм был великолепен до тех пор, пока, знаете ли, мы не получили квантовые интерфейсы, или у нас не появилось сознание, или что-то ещё. Но изначально всё было прекрасно». Нет, это говорит о том, что такое мировоззрение было уже на самом деле невозможно, поскольку... Так что с очень давних пор мы уже знали, что существуют нефизические свойства, которые имеют значение в физическом мире.

Лекс Фридман(01:37:42) Это вопрос о курице или яйце. Вы утверждаете, что законы Ньютона создают физический мир?

Майкл Левин(01:37:51) Это очень глубокий вопрос, к которому мы вернёмся через минуту. Всё, что я говорил о Ньютоне, — это то, что вам не нужно ничего квантового. Вам не нужно думать о сознании. Вы уже, задолго до того, как вы дойдёте до всего этого, как, я думаю, знал Пифагор, уже имеете представление о том, что на этот физический мир сильно влияют истины, которые не существуют в физическом мире. И когда я говорю…

Лекс Фридман(01:38:18) Подождите. О каких истинах идёт речь? Мы говорим о законах Ньютона, как о математических уравнениях, или…

Майкл Левин(01:38:23) Нет, нет. Математические факты. Например, истинное значение E или…

Лекс Фридман(01:38:27) О, это как очень примитивные математические факты.

Майкл Левин(01:38:29) Да, да. Я имею в виду, некоторые из них… Я имею в виду, если вы спросите Дона Хоффмана, есть эта штука с амплитуэдром, которая представляет собой набор математических объектов, определяющих все амплитуды рассеяния частиц и всё такое. Они не обязательно должны быть простыми. Я имею в виду, старые были простыми. Теперь они просто сумасшедшие. Я не могу представить себе этот амплитуэдр, но, возможно, они могут. Но все это математические структуры, которые объясняют и определяют факты о физическом мире, верно? Если вы спросите физиков: «Эй, почему так много частиц этого типа?» «А, потому что у этой математической штуки есть такие симметрии». Вот почему.

Лекс Фридман(01:39:00) Итак, Ньютон открывает эти вещи. Они не… Он не изобретает.

Майкл Левин(01:39:04) Это очень спорно, правда? И, конечно же, есть физики и математики, которые не согласны с тем, что я говорю. Но я просто опираюсь на следующее: я не знаю ничего, что можно сделать в физическом мире. Вы находитесь в момент Большого взрыва, вы можете установить все константы. Устанавливайте физику так, как хотите. Можно ли изменить E? Можно ли изменить постоянную Фейгенбаума? Не думаю, что можно.

Лекс Фридман(01:39:28) Это очевидное утверждение? Я даже не знаю, что значит изменить параметры в начале Большого взрыва.

Майкл Левин(01:39:34) Итак, физики этим занимаются. Они говорят: «Хорошо, знаете, если бы мы изменили соотношение между гравитацией и электромагнитным взаимодействием, появилась бы у нас материя? Сколько бы измерений у нас было? Была бы инфляция? Было бы то или это?» Верно? Можете представить, как бы вы с этим играли. Однако существует множество безразмерных констант в физике. Это своего рода регуляторы во Вселенной, которые теоретически могут быть другими, и тогда у вас была бы другая физика, другие физические свойства.

Лекс Фридман(01:40:05) Вы хотите сказать, что это не изменит аксиоматические системы математики?

Майкл Левин(01:40:10) Я не говорю, что у всех инопланетян повсюду будет точно такая же математика, как у нас. Я этого не утверждаю, хотя, возможно, и нет. Но я и не утверждаю. Я говорю, что вы получаете больше, чем вкладываете. Как только вы сделали выбор… И, возможно, какой-то инопланетянин где-то сделал другой выбор в том, как он будет делать свои вычисления. Но как только вы сделали свой выбор, на вас наваливается целый ворох новых истин, с которыми вы обнаруживаете, что ничего не можете поделать. Они даны вам откуда-то. И вы можете сказать, что они случайны, или вы можете сказать: «Нет, есть это пространство этих фактов, из которого они взяты. Есть скрытое пространство вариантов, из которого они берутся».

Майкл Левин(01:40:41) Итак, когда ваше E равно ровно 2,718 и так далее, вы ничего не можете сделать с точки зрения физики, чтобы изменить его.

Лекс Фридман(01:40:46) И вы утверждаете, что пространство неизменно? Это...

Майкл Левин(01:40:50) Я не говорю, что оно неизменно. Поэтому, думаю, Платон мог считать эти формы вечными и неизменными, а мог и не считать. В этом мы расходимся. Я на самом деле считаю, что в пространстве есть некое действие, возможно, даже какие-то вычисления.

Лекс Фридман(01:41:01) Но мы, мы всего лишь указатели. Может ли это...

Майкл Левин(01:41:05) Ну, вернёмся к этому вопросу. Единственное, что я пытался сделать, — это развеять миф о том, что нас устраивает то, как это работает в физике. Никаких проблем. Думаю, это гораздо серьёзнее, чем обычно думают люди. Думаю, уже тогда мы наблюдали это странное наваждение в физическом мире, вызванное закономерностями, которые не связаны с физическим миром.

Майкл Левин(01:41:28) Причина, по которой я это подчеркиваю, заключается в том, что теперь, когда я собираюсь... когда я расширяю это до биологии, я не думаю, что это как-то неожиданно появляется как нечто новое. Я думаю, это просто гораздо более... Я думаю, что то, что мы называем биологией, — это системы, которые эксплуатируют это на полную катушку. Я думаю, физика так ограничена этим, но мы называем биологией те вещи, которые используют такие вещи и работают с этим. И поэтому, опять же, я просто думаю, что это масштабирование. Я не думаю, что это происходит что-то совершенно новое. Я думаю, это масштабирование, верно? Итак, я говорю, что мы уже знаем из физики, что существуют нефизические паттерны, и это, как правило, паттерны формы, поэтому я называю их низкоагентными, потому что они подобны фракталам, которые стоят на месте, и они подобны распределениям простых чисел.

Майкл Левин(01:42:10) Хотя на нашем симпозиуме выступает математик, который говорит мне, что я, на самом деле, слишком шовинист даже в этом. Что на самом деле, даже эти вещи обладают большей энергией, чем я предполагал, и мне это нравится. Так что я говорю, что подобные статические закономерности — это то, что мы обычно видим в физике, но они не исчерпывают всего того, что существует в этом пространстве. Это пространство также является домом для некоторых закономерностей с очень высокой степенью агентности. И если мы дадим им тело, если мы построим тело, в котором они смогут жить, то мы увидим различные поведенческие компетенции, о которых учёные, изучающие поведение, скажут: «О, я знаю, как это выглядит». Это такой тип поведения, знаете ли, такой тип разума или тот тип разума.

Майкл Левин(01:42:49) В определённом смысле, да, то, что я говорю, крайне радикально, но это очень старая идея. Это старая идея дуалистического мировоззрения, верно? Где разум не находится в физическом теле и каким-то образом взаимодействует с физическим мозгом. Поэтому я просто хочу внести ясность. Я не утверждаю, что это принципиально новая идея. Она существует уже давно. Однако она в основном дискредитирована, и в наши дни это очень непопулярная точка зрения. Очень мало людей, например, в сообществе когнитивной науки или где-либо ещё в науке, которым нравится такая точка зрения. Прежде всего, и Декарт уже подвергался критике за это, когда впервые попытался сформулировать её как проблему взаимодействия, верно?

Майкл Левин(01:43:30) Итак, идея была такой: хорошо, если у вас есть этот нефизический разум, а затем мозг, который, предположительно, подчиняется закону сохранения массы, энергии и подобным вещам, как вы должны с ним взаимодействовать? И здесь есть много других проблем. Итак, я пытаюсь подчеркнуть, что, во-первых, физика уже столкнулась с этой проблемой. Не нужно было ждать появления биологии и когнитивной науки, чтобы задаться этим вопросом. И то, что, по моему мнению, происходит, и то, как нам нужно об этом думать, возвращает нас к моей мысли о том, что, по моему мнению, связь разума и мозга по сути такая же, как и связь математики и физики.

Майкл Левин(01:44:06) Я думаю, что точно так же, как нефизические факты физики преследуют физические объекты, различные типы моделей, которые мы называем типами разума, проявляются через наши... через интерфейсы, такие как мозг.

Лекс Фридман(01:44:19) Как нам доказать или опровергнуть существование этого мира? Потому что он довольно радикален. Ведь этот физический мир, который мы можем потрогать, существует. Он существует. Создаётся впечатление, что все невероятные вещи, такие как сознание, познание и всё целенаправленное поведение в сфере деятельности, исходят из этой трёхмерной сущности.

Майкл Левин(01:44:43) Да, я имею в виду...

Лекс Фридман(01:44:44) Итак, мы можем это проверить. Мы можем это потрогать. Мы можем ударить по нему палкой.

Майкл Левин(01:44:48) Да, что-то вроде того.

Лекс Фридман(01:44:48) Издает звуки.

Майкл Левин(01:44:50) Вроде того. То есть, Декарт, кажется, кое в чём ошибся. Но в одном он был прав: вы на самом деле не знаете, что можно потрогать, а что нельзя. Единственное, что вы знаете, — это содержимое вашего разума, а всё остальное может быть… И, по сути, то, что мы знаем от Анила Сета, Дона Хоффмана и других людей, — это определённо конструкт. Вы можете быть под кайфом, а завтра проснётесь и скажете: «Боже мой, мне приснился самый безумный сон, где я был Лексом Фридманом». Потрясающе.

Лекс Фридман(01:45:16) Это кошмар.

Майкл Левин(01:45:17) Да, ну… Да, это, это… Кто знает? Но…

Лекс Фридман(01:45:19) Это поездка.

Майкл Левин(01:45:20) Верно? Но, видите ли, совершенно не ясно, является ли физическое тыканье вашей основной реальностью. Мне это совершенно не ясно.

Лекс Фридман(01:45:30) Не знаю. Это очевидная вещь, которую многие могут продемонстрировать… верно ли сделать шаг к Декарту: «Я мыслю, следовательно, я существую». Это единственное, что вы знаете наверняка, а всё остальное может быть иллюзией или сном. Это уже скачок. Я думаю, с точки зрения базовой пещерной науки, повторяемый эксперимент… … — это то, из чего большая часть интеллекта берёт начало. Реальность именно такая, какая она есть. Чтобы сделать шаг к мировоззрению Дональда Хоффмана, требуется много смелости и воображения, а также отказ от эго и всех подобных процессов.

Майкл Левин(01:46:11) Думаю, с помощью синтетической биоинженерии достичь этого проще в следующем смысле. Чувствуете ли вы недостаток восприятия рентгеновского излучения? Чувствуете ли вы себя слепым в рентгеновском спектре или в ультрафиолетовом? То есть, нет. Вы совершенно не понимаете, что что-то там есть, и вся ваша реальность, какой вы её видите, сформирована вашей эволюционной историей. Она сформирована вашей когнитивной структурой, верно? Прямо сейчас вокруг нас происходит куча всего, о чём мы совершенно не подозреваем. Существует также множество других вещей, которые мы конструируем, и это просто современная когнитивная наука, которая утверждает, что многое из того, что мы думаем о происходящем, является полной выдумкой, сконструированной нами.

Майкл Левин(01:46:54) Так что я думаю, что это не... Я не думаю, что это филос... Я имею в виду, Декарт пришёл к этому с философской точки зрения. Это не то, что я делаю, это не тот скачок, который я прошу нас сделать. Я говорю, что в зависимости от вашего воплощения, в зависимости от вашего интерфейса, и это будет становиться всё более актуальным по мере того, как мы создадим первых дополненных людей с сенсорной заменой. Вы будете ходить. Ваш друг скажет: «О, чувак. У меня есть это первичное восприятие солнечной погоды и фондового рынка, потому что у меня есть эти имплантаты». «И что ты видишь?» «Ну, я вижу, ну, вы знаете, трафик или интернет через Транстихоокеанский канал». Мы все будем жить в несколько разных мирах. Это первое.

Майкл Левин(01:47:29) Во-вторых, мы научимся лучше настраиваться на другие существа, будь то клетки или ткани. Знаете, каково это — быть клеткой, живущей в 20 000-мерном транскрипционном пространстве? К новым существам, которых никогда раньше здесь не было, которые живут в самых разных безумных пространствах, и это могут быть ИИ, киборги, гибриды, всё что угодно. Поэтому нам придётся отказаться от идеи о том, что у нас есть некая консенсусная реальность, независимая от каких-то очень специфически выбранных аспектов нашего мозга и нашего взаимодействия, независимо от того, как мы относимся к этим другим существам.

Лекс Фридман(01:48:07) Я думаю, что напряжение, безусловно, в том, что эта идея, о которой вы говорите, почти… Кажется, вы назвали это когнитивным протезированием… …то есть разными способами восприятия и взаимодействия с миром. Но, полагаю, вопрос в том, является ли наш человеческий опыт, непосредственный человеческий опыт, всего лишь фрагментом реального мира или указателем на другой мир? Вот что я пытаюсь выяснить. Выяснить, потому что ваше утверждение действительно увлекательно и убедительно. Есть довольно сильное утверждение о том, что существует другой мир, интерфейсом для которого является наш мозг, а это значит, что теоретически можно систематически отображать этот мир.

Майкл Левин(01:48:52) Да, именно это мы и пытаемся сделать. То есть, мы…

Лекс Фридман(01:48:54) Верно, верно, но неясно, существует ли этот мир.

Майкл Левин(01:48:59) Да, да, хорошо. Итак, вот в чем вся прелесть, и вот почему я говорю об этом сейчас, тогда как, знаете, я не говорил об этом около года назад. До прошлого года я никогда не говорил об этом, потому что я думаю, что теперь это можно применить на практике. Итак, есть эта диаграмма, которая называется Карта Математики, и они, по сути, пытаются показать, как все различные части математики связаны друг с другом, и есть куча разных ее версий. Итак, у этого есть две особенности. Во-первых, что это за карта? Ну, это карта различных истин. Это карта фактов, которые вам навязывают. У вас нет выбора. Как только вы выбрали несколько аксиом, вы просто, знаете, слышите какие-то удивительные факты, которые вам просто сообщат.

Майкл Левин(01:49:38) Но другой ключевой момент заключается в том, что здесь есть метрика. Это не просто случайная куча фактов. Все они связаны друг с другом определённым образом. Они буквально образуют пространство, и поэтому, когда я говорю, что это пространство закономерностей, я имею в виду, что это не просто случайный набор закономерностей, так что, обнаружив одну закономерность, вы не приближаетесь к нахождению какой-либо другой. Я говорю о том, что есть некая метрика, так что когда вы находите одну, другие оказываются ближе к ней, и тогда вы можете добраться до неё. Вот в чём заключается утверждение. И, очевидно, это… Ну, не все это верят, и так далее. Это одна идея. Итак, откуда мы знаем, что это существует? Что ж, я скажу пару вещей. Если бы этого не существовало, что это было бы картой?

Майкл Левин(01:50:18) Если пространства нет, если вы не хотите называть это пространством, это нормально, но никуда не деться от того факта, что в ходе исследований существуют закономерности, которые определенным образом связаны друг с другом. Что, знаете ли, последний шаг к тому, чтобы назвать это пространством, минимален. Более важный вопрос в том, чем, чёрт возьми, это является, если это не пространство? Итак, это первое. Вот как это, я думаю, происходит в математике и физике. А в биологии мы узнаем, имеет ли это хоть какой-то смысл. Сейчас мы пытаемся картировать это пространство, говоря: «Смотрите, мы взяли…

Майкл Левин(01:50:53) Мы знаем, что геном лягушки соответствует одному объекту, и это лягушка. Оказывается, тот же самый геном, если сделать совсем небольшое изменение с тем же самым геномом, но просто взять несколько клеток из их среды, может также создавать ксеноботов с совершенно разными транскриптомами, совершенно особым поведением, совершенно особой формой. Это не просто: «Ну, знаете, они делают всё, что угодно», и у них есть совершенно специфическое поведение, точно так же, как у лягушки были совершенно особые свойства. Мы можем начать картировать, что это всё такое, верно, и создать это…

Майкл Левин(01:51:25) И, по сути, попробуйте нарисовать скрытое пространство, из которого эти вещи извлекаются, и в будущем произойдёт одно из двух. Так что, знаете ли, вернёмся через 20 лет, и посмотрим, что из этого получится. Одно из того, что может произойти, — мы увидим: «О, да, точно так же, как карта в математике, мы создали карту пространства». И теперь мы знаем, что если мне нужна система, которая действует так и так, вот тип тела, который мне нужно для неё создать, потому что это существующие шаблоны. У Anthrobots четыре разных поведения, а не семь и не один. Итак, это то, из чего я могу вытащить. Вот какие у меня есть варианты.

Лекс Фридман(01:51:59) Возможно ли, что пространство, которое вы собираетесь картографировать, имеет разную степень грандиозности? То есть, это может быть исключительно пространство биологии, или это пространство, своего рода, разума, которое, как кажется, может охватывать гораздо больше, чем просто биологию?

Майкл Левин(01:52:25) Да, кроме того… и я не вижу, как это можно было бы разделить, потому что я говорю не только об анатомической форме и транскрипционном профиле. Я также говорю о поведенческих компетенциях. Поэтому, когда мы создаём что-то и обнаруживаем, что оно вызывает привыкание, сенсибилизацию. Оно не вызывает павловского обусловливания, но вызывает отсроченное удовлетворение и не обладает языком, это очень специфический когнитивный профиль. Это область этого пространства, и есть другая область, которая выглядит иначе, потому что я не провожу чёткого различия между биологией и познанием. Если вы хотите объяснить поведение, оно также выводится из какого-то распределения. Так что, я думаю, через 20 лет, или сколько бы времени это ни заняло, произойдёт одно из двух.

Майкл Левин(01:53:08) Либо мы и другие люди, работающие над этим, создадим карту этого пространства и скажем: «Вот почему у вас есть системы, которые работают так, так и так, но вы никогда не видели систем, которые работают так», верно? Или мы выясним, что я неправ, и что, по сути, это даже не стоит называть пространством, потому что оно настолько хаотично и запутанно, что мы не смогли добиться никакого прогресса в связывании воплощений, которые мы создаём, с шаблонами, которые возникают.

Лекс Фридман(01:53:40) Просто чтобы внести ясность: исходя из вашего поста в блоге, из статьи, мы говорим о пространстве, которое включает в себя множество вещей.

Майкл Левин(01:53:48) Да, да.

Лекс Фридман(01:53:48) Это включает в себя человека, как это называется, медитирующего? Стива. «Привет, меня зовут Стив». Системы искусственного интеллекта, то есть все эти базовые вычислительные системы, объекты, биологические системы, концепции. Это включает в себя всё.

Майкл Левин(01:54:04) Ну, сюда входят определенные шаблоны, которым мы дали названия.

Лекс Фридман(01:54:08) Верно.

Майкл Левин(01:54:08) Некоторые из этих закономерностей мы назвали математическими объектами. Некоторые из этих закономерностей мы назвали анатомическими проявлениями. Некоторые из этих закономерностей мы назвали психологическими типами.

Лекс Фридман(01:54:17) Поэтому каждая запись в энциклопедии, старой доброй Britannica, является указателем на это пространство.

Майкл Левин(01:54:27) Есть ряд вещей, в отношении которых я очень твердо уверен, потому что исследования говорят нам, что именно это и происходит, а затем есть ряд других вещей, которые я рассматриваю как гипотезы для следующих шагов, направляющие эксперимент.

Майкл Левин(01:54:40) Итак, что я собираюсь вам рассказать, я, знаете ли, не знаю, чего на самом деле не знаю. Это всего лишь догадки, которые, знаете ли, нужно строить, чтобы двигаться вперёд. Я не думаю, что есть какие-то конкретные, или я не знаю, но это не значит, что будут какие-то конкретные платоновские шаблоны для: «Это Титаник, это сестра Титаника, а это какой-то другой тип судна». Это не то, что я говорю. Я говорю о том, что в каком-то смысле нам абсолютно необходимо проработать, когда мы создаём минимальные интерфейсы, мы получаем больше, чем вкладываем. Мы получаем поведение. Мы получаем формы. Мы получаем математические истины и всевозможные шаблоны, которые нам не нужно было создавать. Мы не контролировали их на микроуровне. Мы не знали, что они появятся.

Майкл Левин(01:55:22) Нам не пришлось прилагать никаких усилий для их создания. Они берутся из какого-то распределения, которое, кажется, существует и которое нам не нужно создавать. И я не знаю, является ли это пространство разреженным или плотным. Так, например, если есть, знаете ли, некая платоновская форма для фильма «Крёстный отец», если он окружён кучей паршивых версий, а затем ещё более паршивых версий, я понятия не имею, верно? Я не знаю, разреженное это пространство или нет. Я, знаете ли, я не знаю, конечное оно или бесконечное. Всех этих вещей я не знаю. Что я знаю, так это то, что похоже, что физика, и уж точно биология и познание, являются преимуществами ингрессий, которые в каком-то смысле являются бесплатными обедами. Мы их не создавали.

Майкл Левин(01:56:04) Называя их эмерджентными, мы не делаем ничего для исследовательской программы, понятно? Это просто означает, что вы были удивлены. Думаю, гораздо лучше оптимистично предположить, что они происходят из структурированного пространства, что у нас есть лишь один шанс на их изучение. А через несколько десятилетий, если я ошибаюсь, и он скажет: «Знаете что? Мы пытались. Похоже, это действительно случайность. Очень жаль». Ладно.

Лекс Фридман(01:56:24) Есть ли разница? Например, сможем ли мы когда-нибудь доказать существование этого мира? И есть ли разница между действительно эффективной моделью для связи и объяснения вещей и реальным местом, где информация об этих распределениях, которые мы выбираем, действительно существует, и по которому можно ударить палкой?

Майкл Левин(01:56:52) Да, можно попытаться провести это различие.

Лекс Фридман(01:56:55) Да.

Майкл Левин(01:56:56) Но я думаю, современная когнитивная нейронаука скажет вам, что что бы вы ни думали, в лучшем случае это очень эффективная модель для прогнозирования вашего будущего опыта.

Лекс Фридман(01:57:09) Так что все, что мы считаем физической реальностью, — всего лишь удобная модель.

Майкл Левин(01:57:13) То есть, это не я. Это предиктивная обработка данных и активный вывод — это современная нейронаука, которая говорит вам об этом. Я ничего особенного не придумываю. Я говорю лишь о различии, которое вы пытаетесь провести, что является старомодным, реалистическим взглядом: метафоричность или реальность? Всё, что у нас есть в науке, — это метафоры, я думаю, и единственный вопрос в том, насколько хороши ваши метафоры. И я думаю, что как агенты, живущие в мире, всё, что у нас есть, — это модели того, кто мы есть, и того, что представляет собой внешний мир. Вот и всё. И вопрос в том, насколько хороша эта модель?

Майкл Левин(01:57:49) И я утверждаю, что через несколько десятилетий это либо приведёт к очень перспективному картированию пространства для ИИ, биоинженерии, биологии, да чего угодно. Либо мы поймём, что это действительно отстой, потому что это, по сути, набор случайных данных, и мы попробовали оптимистическую исследовательскую программу, она провалилась, и нам придётся жить с сюрпризом. Сомневаюсь, что это произойдёт, но такой исход возможен.

Лекс Фридман(01:58:16) Но как вы думаете, есть ли какое-то место, где хранится информация об этих распределениях, которые выбираются через тонкие интерфейсы? Как, например, какое-то конкретное место?

Майкл Левин(01:58:28) Место странное, потому что оно не то же самое, что наше физическое пространство-время, понятно? Не думаю. Так что называть его местом немного странно.

Лекс Фридман(01:58:35) Нет, но, как и физика, общая теория относительности описывает пространство-время.

Майкл Левин(01:58:40) Хорошо.

Лекс Фридман(01:58:40) Могут ли другие физические теории описать это другое пространство, где хранится информация, которую мы можем применять, может быть, другие, но в том же духе, законы о...

Майкл Левин(01:58:52) Да

Лекс Фридман(01:58:52) информация?

Майкл Левин(01:58:53) Я определённо думаю, что будут систематические законы. Не думаю, что они будут хоть как-то похожи на физику. Можете называть это физикой, если хотите, но я думаю, что это будет настолько отличаться, что это, наверное, просто, знаете ли, слово неуместно. И переживёт ли это информация, я не уверен. Но я определённо думаю, что законы будут. Но, думаю, они будут больше похожи на аспекты психологии и когнитивной науки, чем на физику. Это моё предположение.

Лекс Фридман(01:59:23) Так как же выглядит доказательство существования мира?

Майкл Левин(01:59:26) Похоже, что это успешная исследовательская программа, которая объясняет, как вы извлекаете определенные шаблоны, когда они вам нужны, и почему некоторые шаблоны появляются, а другие нет, и показывает, что они появляются из упорядоченного пространства.

Лекс Фридман(01:59:40) Среди большого количества организмов?

Майкл Левин(01:59:43) Ну, это касается не только организмов. Я думаю, что это в конечном итоге закончится, и вы сможете поговорить с людьми, занимающимися машинным обучением, о том, как они пришли к этому. Опять же, потому что это не только я. Сейчас в этом одновременно сходятся интересы множества различных дисциплин. Вы снова обнаружите, как в математике, где с разных сторон все смотрят на разные вещи. Скажете: «Боже мой, это одна базовая структура, которая, кажется, всему этому соответствует». Так что в физике, математике, информатике, машинном обучении, возможно, в экономике, определённо в биологии, возможно, в когнитивной науке мы найдём эти структуры.

Майкл Левин(02:00:20) Уже во времена Пифагора было очевидно, что эти закономерности существуют. Остаётся лишь один вопрос: являются ли они частью упорядоченного, структурированного пространства и способны ли мы установить взаимосвязь между тем, что мы строим, и закономерностями, которые через это строим?

Лекс Фридман(02:00:39) Итак, с точки зрения машинного обучения, можно ли утверждать, что даже что-то столь простое, как степени магистра права, подкрадывается к этому миру, и что представления, которые они формируют, подкрадываются к нему?

Майкл Левин(02:00:54) Когда… я выступал с этой речью перед некоторыми аудиториями, особенно в сообществе органистов. Людям понравилась первая часть, где говорилось: «Хорошо, теперь есть идея, в чём заключается магия, в кавычках, особенность живых существ и так далее». Если бы мы могли на этом остановиться, у нас были бы глупые машины, которые просто выполняют то, что говорит алгоритм, и эти волшебные живые интерфейсы, которые могут быть приёмниками этих ингрессий. Круто, правда? Мы можем разбить мир на части таким образом. К сожалению или к счастью, я думаю, это не так. И я думаю, что даже простые минимальные вычислительные модели в какой-то степени пользуются этими бесплатными обедами.

Майкл Левин(02:01:41) Я думаю, что теории, которые у нас есть, восходят к идее интерфейса тонкого клиента. Теории, которые у нас есть, как в области физики, так и вычислений, например, теория алгоритмов, машины Тьюринга и всё такое. Всё это хорошие теории интерфейса, но они не являются исчерпывающими теориями всего. Они охватывают интерфейс, поэтому они и удивляют, поэтому эти вещи удивляют, когда происходят. Я думаю, что, когда мы видим эмбрионы разных видов, мы исходим из хорошо известных областей этого пространства и знаем, чего ожидать: лягушки, змеи, чего угодно.

Майкл Левин(02:02:21) Когда мы создаём киборгов, гибридов и биоботов, мы черпаем информацию из новых областей этого пространства, которые выглядят немного странно и неожиданно, но, знаете, мы всё ещё можем как-то их понять. Когда мы начинаем создавать ИИ, настоящий ИИ, мы теперь исследуем область этого пространства, которая, возможно, никогда раньше не имела тел. Возможно, она никогда раньше не была воплощена. И то, что мы из этого получим, будет крайне удивительным. И последнее, что стоит упомянуть, это то, что благодаря этому, благодаря входным данным из этого платоновского пространства, некоторые действительно интересные вещи, которые могут делать искусственные конструкции, происходят не благодаря алгоритму, а вопреки ему. Они заполняют пробелы между ними.

Майкл Левин(02:03:09) Есть то, что алгоритм заставляет вас делать, а есть и другие интересные вещи, которые он делает, но которых нет в алгоритме. И если это правда, а мы думаем, что это правда даже для самых простых систем, то вся эта история с языковыми моделями и ИИ в целом, наблюдение за языковой частью может быть сплошным обманом, потому что мы заставляем их делать язык. Вопрос в том, что ещё они делают, чего мы не замечаем? И это, знаете ли, то, что мы, я думаю, является экзистенциальным шагом для человечества, чтобы стать лучше в этом, потому что сейчас мы не очень хорошо распознаём подобные вещи.

Неожиданная интеллектуальность алгоритмов сортировки

Лекс Фридман(02:03:49) Расскажите мне подробнее об этом наблюдаемом поведении, которое не связано с явно заявленной целью конкретного алгоритма. Итак, вы рассмотрели простой алгоритм сортировки. Можете ли вы объяснить, что было сделано?

Майкл Левин(02:04:04) Конечно. Во-первых, цель этого исследования: есть две вещи, которые люди обычно предполагают. Во-первых, у нас довольно хорошее интуитивное представление о том, какие системы будут обладать компетенциями. Поэтому, наблюдая за биологическими организмами, мы не слишком удивляемся, когда биология делает интересные вещи. Все всегда говорят: «Ну, это же биология, знаете ли, конечно, она делает все эти крутые штуки». И да, но есть ли у нас эти машины? И весь смысл наличия машин, алгоритмов и так далее в том, что они делают именно то, что вы им говорите, верно? И люди довольно твёрдо убеждены, что это бинарное различие, и именно так мы можем разделить мир. Поэтому я хотел сделать две вещи.

Майкл Левин(02:04:42) Я хотел прежде всего исследовать это и, надеюсь, разрушить предположение, что мы хорошо это видим, потому что, по-моему, это не так. И я думаю, крайне важно, чтобы мы как можно скорее поняли, что нам нужно гораздо лучше понимать, когда ожидать подобных вещей. А ещё я хотел выяснить, знаете ли, что большинство людей считают, что для этого нужна большая сложность. Поэтому, когда кто-то говорит: «Ну, возможности моего разума не полностью описываются законами биохимии», все отвечают: «Да, это логично». Когда, знаете ли, вы очень сложны, и, конечно, ваш разум делает то, что вы не могли бы…

Майкл Левин(02:05:22) Вы не видели этого в правилах биохимии, верно? Мы это знаем. В основном люди думают, что это связано со сложностью, и я хотел бы выяснить, чтобы понять, какие типы интерфейсов приводят к каким ингрессиям: действительно ли дело в сложности? Какая сложность действительно нужна? Есть ли какой-то порог, после которого это происходит? Это действительно определённые материалы? Это биология? Это что-то связанное с эволюцией? Что в таких вещах делает возможным такой сюрприз, верно? Это позволяет предположить, что мы — нечто большее, чем сумма наших частей. И у меня было твёрдое предчувствие, что ни одно из этих условий на самом деле не требуется, что это…

Майкл Левин(02:05:58) Эта магия, так сказать, проникает практически во всё. И чтобы рассмотреть это, мне также хотелось привести пример, который бы действительно шокировал. Ведь в биологии всегда есть новые механизмы, которые ещё предстоит открыть, верно? Например, существует бесконечная глубина того, что делают материалы. Знаете, кто-то всегда скажет: «Ну, для этого есть механизм, просто вы его ещё не нашли». Поэтому мне нужен был простой, прозрачный пример, чтобы можно было увидеть всё. Негде было спрятаться. Я хотел, чтобы он был детерминированным, потому что я не хочу, чтобы он был связан с непредсказуемостью или стохастичностью, а хотел, чтобы он был чем-то знакомым людям, минималистичным.

Майкл Левин(02:06:35) И я хотел использовать её как модельную систему для оттачивания наших навыков, чтобы взглянуть на новую систему свежим взглядом. Ведь эти алгоритмы сортировки изучаются уже более 60 лет. Мы все думаем, что знаем, что они делают и каковы их свойства. Сам алгоритм — это всего несколько строк кода, понимаете? Вы можете точно увидеть, что там написано, он детерминирован. Вот почему. Вот почему, верно? Я хотел, чтобы такая система произвела фурор, если мы что-то найдём, и использовал её как пример того, как взять что-то минимальное и посмотреть, что из этого можно получить.

Майкл Левин(02:07:08) Итак, я расскажу о двух интересных моментах, а потом в следующем году нас ждёт много других работ о ещё более простых системах. В смысле, это просто безумие. Итак, самое первое: стандартная сортировка… скажем, пузырьковая сортировка, верно? И все эти алгоритмы сортировки, знаете ли, начинаются с массива перемешанных цифр, то есть целых чисел. Это массив перемешанных целых чисел, и алгоритм предназначен для того, чтобы в конечном итоге упорядочить их. И, как правило, он сравнивает некоторые элементы этого массива и, в зависимости от того, какой из них больше, меняет их местами.

Майкл Левин(02:07:46) И вы можете себе представить, что если вы просто продолжите это делать, и вы просто продолжите сравнивать и менять местами, то в конце концов вы сможете получить все цифры в том же порядке. Итак, первое, что я решил сделать, и это работа моего студента Кайнинга Чжана, а затем Адама Голдштейна в этой статье, это возвращает нас к нашему первоначальному обсуждению о размещении барьера между ним и его целями. И первое, что я сказал: «Хорошо, как нам поставить барьер?» Ну, как насчет этого? Традиционный алгоритм предполагает, что оборудование работает правильно. Так что, если у вас есть семёрка, а затем пятёрка, и вы говорите им поменять местами, строки, которые меняют местами пятёрку и семёрку, и затем вы продолжаете, вы никогда не проверяете. Произошла ли замена?

Майкл Левин(02:08:24) Потому что вы предполагаете, что это надежное оборудование, понятно? Поэтому мы решили разбить одну из цифр, чтобы она не двигалась. Когда вы говорите ей двигаться, она не двигается. Мы не меняем алгоритм. Это действительно ключевой момент. Мы не добавляем ничего нового в алгоритм, который спрашивает: «Что делать, если эта чертова штука не двигается?» Понятно? Просто запускаем его точно так же. Что происходит? Оказывается, происходит кое-что очень интересное. Он все еще работает, поэтому он все еще сортирует его, но в конечном итоге сортирует его, перемещая все вокруг сломанного числа, понятно? И это имеет смысл, но вот кое-что интересное. Предположим, мы, предположим, мы строим график, в любой момент времени, мы строим график степени отсортированности строки как функции времени.

Майкл Левин(02:09:09) Если запустить обычный алгоритм, он работает и гарантированно доберётся до цели. Вот, знаете, он должен сортировать и всегда дойдёт до конца. Но когда он встречает одну из битых цифр, происходит следующее: фактическая сортировка снижается. Чтобы потом восстановиться и добиться лучшего порядка. Он способен лишь идти против того, что пытается сделать.

Майкл Левин(02:09:34) Обойти, чтобы позже достичь своей цели. Теперь, если бы я показал это учёному-бихевиористу и не сказал ему, что делает система, он бы сказал: «Ну, мы знаем, что это. Это отложенное вознаграждение». Это способность системы идти против своего градиента и получать то, что ей нужно сделать. Теперь представьте себе два магнита. Представьте, что вы берёте два магнита и кладёте между ними кусок дерева, и они такие. Чего магнит не собирается делать, так это обходить барьер и добираться до своей цели. Эти двое... они недостаточно умны, чтобы идти против своего градиента. Они просто будут продолжать это делать. Некоторые животные достаточно умны, верно? Они будут идти по кругу, и алгоритм сортировки достаточно умен, чтобы сделать это.

Майкл Левин(02:10:13) Но фишка в том, что в алгоритме нет шагов для этого. Вы можете смотреть на алгоритм весь день. Вы не увидите, что эта штука может выполнять отложенное удовлетворение. Его там нет. Теперь есть два способа посмотреть на это. С одной стороны, вы могли бы сказать, или подход редукционистской физики, вы могли бы спросить: «Оно выполнило все шаги алгоритма?» Вы скажете: «Да, выполнило». Ну, тогда здесь нечего видеть. Нет никакой магии. Это, знаете ли, оно делает то, что делает. Оно не нарушило алгоритм, верно? Я не утверждаю, что это чудо. Я не говорю, что оно не подчиняется алгоритму. Я говорю, что оно не терпит неудачу в сортировке. Я говорю, что оно не делает какую-то, знаете ли, безумную квантовую штуку.

Майкл Левин(02:10:49) Ничего подобного я не имею в виду. Я говорю о том, что другие могли бы назвать его эмерджентным. У него есть свойства, которые не являются сложностью, непредсказуемостью, извращённым возникновением, как иногда бывает в ALife. У него есть неожиданные компетенции, распознаваемые учёными-бихевиористами, то есть различные типы познания. Примитивный. Что ж, мы хотели примитивности, так вот, всё просто: не нужно было программировать алгоритм. Это очень важно. Вы получаете больше, чем изначально, чем вы вложили. Вам не нужно было этого делать. Вы получаете эти удивительные поведенческие компетенции, а не только сложность. Это первое. Второе, что тоже безумно, но требует небольшого пояснения.

Майкл Левин(02:11:32) Второе, о чём мы говорили: «Хорошо, а что, если вместо типичного алгоритма сортировки у вас будет один контроллер сверху вниз?» Я словно богоподобный смотрю на числа и меняю их местами в соответствии с алгоритмом. Что, если… и это возвращает нас к тому, что, собственно, в названии статьи говорится об агентных данных, алгоритмах самосортировки. Это возвращает нас к вопросу о том, кто шаблон, а кто агент, верно?

Майкл Левин(02:11:52) Вы говорите: «Что, если мы дадим числам немного свободы действий?» Вот что мы собираемся сделать: у нас не будет никакой сортировки сверху вниз. Каждое число знает алгоритм, и он просто будет делать то, что он скажет. Так что если у меня пять, я просто выполню алгоритм, и алгоритм попытается убедиться, что справа от меня будет шесть, а слева — четыре. Вот и всё. Так что каждая цифра… это как распределённая… знаете, это как колония муравьёв. Нет никакого центрального планировщика. Каждый просто использует свой собственный алгоритм, понятно? Мы просто сделаем это.

Майкл Левин(02:12:20) Как только вы это сделаете, и, кстати, одно из преимуществ этого в том, что вы сможете моделировать биологические процессы, потому что в биологии, знаете ли, если у меня есть, например, мордочка лягушки, и я перемешиваю её со всеми разными органами, каждая ткань перестроится так, что в конечном итоге у вас получится, знаете ли, нос, глаза, голова. У вас будет определённый порядок, верно? Так что вы можете это сделать. Но ладно, отлично, но вы можете сделать кое-что ещё интересное. Как только вы это сделаете, вы сможете сделать кое-что интересное, чего нельзя сделать со стандартным алгоритмом. Вы можете создать химерный алгоритм. Я имею в виду, что не все клетки должны следовать одному и тому же алгоритму. Некоторые из них могут следовать пузырьковой сортировке, некоторые — сортировке выбором.

Майкл Левин(02:12:52) Это как в биологии, когда мы создаём химер, мы создаём лягушатников. Итак, у лягушатников есть клетки лягушки и клетки аксолотля. Как это будет выглядеть? Кто-нибудь знает, как будет выглядеть лягушатник? На самом деле очень интересно, что, несмотря на всю генетику и биологию развития, у вас есть геномы, у вас есть геном лягушки, у вас есть геном аксолотля, никто не может сказать вам, как будет выглядеть лягушатник, хотя у вас есть, да. Это, это возвращается к вашему вопросу о физике и химии. То есть, да, вы можете знать всё, что нужно знать о том, как, вы знаете, как работают физика и генетика, но принятие решений, верно? Это как у детёнышей аксолотля есть ноги.

Майкл Левин(02:13:27) У головастиков нет ног. А у лягушонка-лягушонка будут ноги? Можете ли вы это предсказать, понимая физику транскрипции и всё такое? В общем, так вот, так вот, мы создали кое-что… Так вот, вы видите это как нечто среднее между биологией, физикой… познанием. Итак, мы создали химерные алгоритмы и сказали: «Хорошо, половина цифр случайным образом». Мы их случайным образом распределили. То есть половина цифр случайным образом выполняет пузырьковую сортировку, половина цифр случайным образом выполняет, я не знаю, сортировку выбором или что-то в этом роде.

Лекс Фридман(02:13:51) Но как только вы выбираете пузырьковую сортировку, эта цифра остается за пузырьковой сортировкой.

Майкл Левин(02:13:55) Это застревает. Мы не сделали то, что позволяет им переключаться между… нет. Но они застревают, верно? Вы их маркируете, и они застревают. Первое, что мы узнали, это… Ну, первое, что мы узнали, это то, что распределённая сортировка всё ещё работает. Это удивительно. Вам не нужен центральный планировщик, когда каждое число выполняет свою функцию, оно всё равно сортируется. Это круто. Второе, что мы обнаружили, это то, что когда вы создаёте химерный алгоритм, где алгоритмы на самом деле даже не совпадают, это тоже работает. Всё всё равно сортируется. Это круто. Но самое удивительное произошло, когда мы рассмотрели нечто, не имеющее никакого отношения к сортировке, а именно, мы задали следующий вопрос. Мы определили…

Майкл Левин(02:14:30) Адам Голдштейн на самом деле дал этому свойству название, и я думаю, оно удачное. Мы определяем алготип одной клетки. Это не генотип, не фенотип, а алготип. Алготип — это просто: какому алгоритму вы следуете? Какому из них вы следуете? Вы сортируете выбором или пузырьком, верно? Вот и всё. Есть два алготипа. И мы просто задаём следующий вопрос: «Во время этого процесса сортировки, какова вероятность того, что какой бы алготип вы ни использовали, ребята рядом с вами будут того же типа?» Это не то же самое, что спросить, как сортируются числа, потому что это не имеет никакого отношения к числам. На самом деле это просто ваш тип.

Лекс Фридман(02:15:03) Речь идет скорее о кластеризации, чем о сортировке.

Майкл Левин(02:15:05) Кластеризация. Ну, именно так мы это и называем. Мы называем это кластеризацией. И сначала… Итак, теперь подумайте о том, что происходит, и это… и вы можете видеть это на этом графике, это красное. Вы начинаете, кластеризация составляет 50%, потому что, как я вам сказал, мы назначаем алгоритмы случайным образом. Так что вероятность того, что парень рядом с вами такой же, как вы, составляет половину, 50%, верно? Потому что есть только два алгоритма. В конце концов, это тоже 50%, потому что доминирует на самом деле алгоритм сортировки, а алгоритму сортировки все равно, какой у вас тип. Вам нужно упорядочить числа. Так что к тому времени, как вы закончите, вы вернетесь к случайным алгоритмам, потому что вам нужно отсортировать числа.

Майкл Левин(02:15:39) Но между ними, между ними вы получаете некоторое количество увеличенного... очень значительного, потому что посмотрите на контроль, он посередине, розовый посередине. Между ними вы получаете значительное количество кластеризации, что означает, что определенные алгоритмы любят тусоваться со своими приятелями так долго, как только могут. Теперь, теперь, теперь вот еще одна вещь, и затем я придам этому философское значение. И вот мы увидели это, и я сказал: «Это безумие, потому что в алгоритме нет никаких положений для того, чтобы спросить, какой у меня алгоритм, какой у моего соседа алгоритм? Если мы не одинаковые, я собираюсь переместиться, чтобы быть рядом с...» Например, если бы вы хотели реализовать это, вам пришлось бы написать целую кучу дополнительных шагов.

Майкл Левин(02:16:17) Вам пришлось бы провести целую кучу наблюдений за своим соседом, чтобы понять, как он себя ведёт. Затем вы бы сделали вывод о его алгоритме. Затем вы бы подошли к тому, у кого, похоже, такой же алгоритм, как у вас. Вам пришлось бы провести кучу измерений, чтобы спросить: «Подождите, этот парень сортирует пузырьком или выбором?», верно? Например, если бы вы захотели реализовать это, это потребовало бы целой кучи алгоритмических шагов. Ничего этого нет в нашем алгоритме. У вас нет никакого способа узнать свой алгоритм или алгоритм кого-то ещё. Хорошо. Нам вообще не нужно было за это платить. Итак, обратите внимание на пару интересных вещей. Первое интересное то, что это было совсем не очевидно из самого алгоритма.

Майкл Левин(02:16:50) Алгоритм ничего не говорит об алгоритмах. Во-вторых, мы заплатили вычислительными затратами за все этапы, необходимые для сортировки чисел, верно? Потому что мы знаем, что вы платите за определённые вычислительные затраты. Кластеризация была бесплатной. Мы за неё вообще не платили. Не было никаких дополнительных шагов. Итак, это возвращает нас к вашему другому вопросу о том, откуда мы знаем, что существует платоновское пространство, и это, пожалуй, одна из самых безумных вещей, которые мы делаем. Я действительно подозреваю, что мы можем получить бесплатные вычисления. Подозреваю, что одна из вещей, которые мы можем здесь сделать, — это использовать эти агрессии полезным образом, не требуя от вас затрат на оплату физических затрат, верно? Потому что мы знаем, что каждый бит имеет энергетическую стоимость, которую необходимо получить. Кластеризация была бесплатной. Ничего дополнительного не делалось.

Лекс Фридман(02:17:31) Да, вот этот график для тех, кто просто слушает. По оси X отложен процент завершения процесса сортировки, по оси Y — упорядоченность перечисленных чисел, а также красная линия, по сути, показывает степень их кластеризации. Вы говорите о неожиданной компетентности кластеризации. Стоит отметить, что, уверен, какой-нибудь специалист по теории вычислений, услышав это, скажет: «Я могу точно смоделировать происходящее и доказать, что кластеризация увеличивается и уменьшается». Итак, берём конкретный пример того, с чем вы экспериментировали, и доказываем его определённые свойства.

Лекс Фридман(02:18:19) Но дело в том, что здесь есть более общая модель, вероятно, других неожиданных компетенций, которые вы еще не обнаружили и которые вытекают из этого, и вы можете получить бесплатные вычисления из этой штуки.

Майкл Левин(02:18:32) Итак, это возвращает нас к самому первому, что вы сказали о физиках, считающих, что физики достаточно. Вы на 100% правы, кто-то может взглянуть на это и сказать: «Ну, я прекрасно понимаю, почему это происходит. Мы можем отследить алгоритм». Да, можете. Здесь нет никакого чуда, верно? Я имею в виду, что оборудование не делает каких-то безумных вещей, которых оно не должно делать. Суть в том, что, следуя алгоритму, оно одновременно делает и другие вещи, которые алгоритмом не предписаны и не запрещены. Это пространство между случайностью и необходимостью, и именно так многие люди, знаете ли, видят эти вещи.

Майкл Левин(02:19:07) Это то самое свободное пространство, для которого у нас пока нет подходящего термина, где происходят интересные вещи. И в той мере, в какой оно выполняет другие полезные задачи, это вычислительно и без дополнительных затрат. Есть ещё одна интересная вещь. И это начало моих многочисленных размышлений на эту тему — это связано с ИИ и подобными вещами: внутренняя мотивация.

Майкл Левин(02:19:29) Сортировка цифр — это то, что мы заставили его сделать. Кластеризация — это внутренняя мотивация. Мы не просили об этом. Мы не ожидали, что это произойдет. Мы явно не запрещали это, но мы не, вы знаете, мы не знали. Это отличное определение внутренней мотивации системы. Поэтому, когда люди говорят: «О, это машина, она делает только то, что вы ее запрограммировали». Я, вы знаете, я, как человек, имею внутреннюю мотивацию, вы знаете, я творческий, и у меня есть внутренняя мотивация. Машины так не делают. Даже эта минимальная вещь имеет минимальный вид внутренней мотивации, которая является чем-то, что не запрещено алгоритмом, но и не предписано алгоритмом.

Майкл Левин(02:20:08) И я думаю, это важный, знаете ли, третий момент, помимо случайности и необходимости. Ещё кое-что забавное в этом, когда вы думаете о внутренних мотивах, представьте ребёнка. Если вы заставите его сидеть на уроке математики весь день, вы никогда не узнаете, какие ещё внутренние мотивы могут быть у него, верно? Например, кто знает, что ещё ему может быть интересно. Поэтому я хотел задать этот вопрос. Я хочу сказать, если мы ослабим давление на сортировку, что произойдёт? Это сложно, потому что если вы вмешаетесь в алгоритм, он уже не тот, и вам не нужно этого делать. Поэтому мы сделали кое-что, что, на мой взгляд, было довольно умным. Мы разрешили повторяющиеся цифры.

Майкл Левин(02:20:48) Итак, если вы допускаете повторяющиеся цифры в вашем массиве, у вас по-прежнему могут быть все пятёрки, они могут быть после всех четвёрок и после всех шестёрок, но вы можете сохранять их кластеризацию так, как вам нужно. Поэтому мы подумали, что, возможно, сможем немного снизить давление в конце, когда их нужно декластеризовать для сортировки. Если вы это сделаете, всё, что вы сделаете, — это допустите несколько дополнительных повторяющихся цифр, кластеризация станет больше. Он будет кластеризоваться настолько, насколько вы ему позволите. Кластеризация — это то, что он хочет делать. Сортировка — это то, что мы заставляем его делать. И мой единственный вопрос: если пузырьковая сортировка, которая уже много раз повторялась, сколько раз случались подобные вещи, которые мы не ожидали, то как насчёт ИИ, языковой модели и всего остального?

Майкл Левин(02:21:29) Не потому, что они говорят, не потому, что они говорят, что у них, знаете ли, есть внутренняя перспектива или что-то в этом роде, а просто потому, что эта штука, даже самая минимальная система, удивляет своими действиями. И, честно говоря, когда я это вижу, скажите мне, не похоже ли это на всю нашу экзистенциальную историю? За то короткое время, что мы здесь, Вселенная рано или поздно сотрёт нас в пыль, но до тех пор мы можем делать что-то интересное, что нас по-настоящему мотивирует, что не запрещено законами физики и не предписано ими, но в конце концов этому приходит конец. Так что я думаю, что этот аспект, да, что есть пространства…

Майкл Левин(02:22:13) Даже в алгоритмах есть области, где можно делать что-то новое, не просто случайные вещи, не просто сложные вещи, а вещи, которые легко узнаваемы для учёного-бихевиориста. Видите ли, в этом-то и суть. И я думаю, что именно такая внутренняя мотивация подсказывает нам, что идея о том, что мы можем разбить мир на части, позволяет нам сказать: «Ладно, смотрите, биология сложна. Когнитивные процессы — кто знает, что за это отвечает, но, по крайней мере, мы можем оторвать кусок мира, отсечь его и сказать: вот они, эти глупые машины». Это всего лишь алгоритмы…

Майкл Левин(02:22:46) Хотя мы знаем, что правила биохимии не объясняют всего, что мы хотим знать о том, как будет развиваться психология, но, по крайней мере, правила алгоритмов говорят нам точно, что будут делать машины, верно? У нас есть надежда, что мы отрезали небольшой кусочек мира, и всё будет просто и понятно, и это именно то, что мы обещали. Думаю, это провалилось. Думаю, это была хорошая попытка. Думаю, у нас есть хорошие теории интерфейсов, но даже в самых простых алгоритмах происходят подобные вещи. И поэтому я считаю, что нечто подобное имеет значение.

Лекс Фридман(02:23:17) Считаете ли вы, что в системах разной сложности будут существовать вещи, которые система хочет делать, и вещи, которые она вынуждена делать? Итак, существуют ли эти неожиданные компетенции, которые можно обнаружить практически во всех алгоритмах и во всех системах?

Майкл Левин(02:23:38) Я так и подозреваю, и думаю, что для нас, людей, крайне важно иметь исследовательскую программу, чтобы научиться распознавать и предсказывать. Мы создаём вещи… Не говоря уже о таких простых вещах, как эта. Мы создаём, знаете ли, социальные структуры, финансовые структуры, Интернет вещей, робототехнику, искусственный интеллект, то есть мы создаём всё это, и нам кажется, что то, что мы делаем, — это главное. И я думаю, для нас очень важно научиться распознавать то, что просачивается в пространство.

Лекс Фридман(02:24:06) Что, если, что… Это очень парадоксальная идея. Кстати, мне нравится слово «эмерджентный». Я слышу вашу критику, и она действительно весомая. «Эмерджентный» — это как будто вы разводите руками, но я не знаю, как это происходит, но это просто красивое слово, потому что… Думаю, это синоним слова «удивительный». Конечно, это очень удивительно, но то, что это удивительно, не означает, что нет механизма, который это объясняет.

Майкл Левин(02:24:34) Механизм и объяснение — это не всё, чем их представляют, в том смысле, что, знаете ли, что бы мы с вами ни делали, мы могли бы придумать самую красивую теорию. Мы пишем картину, всё, что мы делаем. Кто-то может сказать: «Ну, я наблюдал за биохимией и уравнением Шрёдингера, и оно полностью описывало всё происходящее. Вы не нарушили ни одного закона биохимии. Здесь не на что смотреть, не на что смотреть, верно?» Типа, хорошо, знаете ли, в соответствии с правилами низкого уровня вы можете сделать то же самое здесь. Вы можете посмотреть на машинный код и сказать: «Да, эта штука просто выполняет машинный код». Вы можете пойти дальше и сказать: «О, это квантовая пена». Она просто делает то, что делает квантовая пена.

Лекс Фридман(02:25:17) Именно это, как вы говорите, упускают из виду физики.

Майкл Левин(02:25:20) Ну, и я не говорю, что они этого не знают. В общем, они, как правило, довольно продвинутые люди. Я просто думаю, что они выбрали уровень и собираются узнать, что можно увидеть на этом уровне, а это очень много. И я хочу сказать, что то, что интересует учёных-бихевиористов, проявляется на гораздо более низком уровне, чем вы думаете.

Лекс Фридман(02:25:39) Как часто, по-вашему, возникает подобное несоответствие между тем, что система вынуждена делать, и тем, что она хочет делать? И это особенно… Я имею в виду различные уровни сложности систем ИИ.

Майкл Левин(02:25:53) Итак, прямо сейчас мы рассмотрели, например, пять других систем. Это небольшая N, понятно? Но просто глядя на это, я был бы очень удивлён, если бы сортировка пузырьком была способна на это, а затем была бы какая-то долина смерти, где ничего не появлялось, а затем живые существа. Я не могу себе этого представить. Я собираюсь сказать, что если что-то... И у нас на самом деле есть система, которая ещё проще, чем эта, которая представляет собой одномерные клеточные автоматы, которые делают какие-то странные вещи. Если эти вещи обнаруживаются в такой простой системе, я имею в виду, они просто обязаны обнаруживаться в этих других, более сложных ИИ и подобных вещах. Единственное, чего мы не знаем, но мы собираемся выяснить, это насколько сильно между ними существует взаимодействие.

Майкл Левин(02:26:37) Так что я называю эти вещи побочными квестами, понимаете. Это как в игре, знаете ли, с основным делом, которое вы должны делать. И до тех пор… Пока вы всё ещё это делаете, суть в том, что вы должны сортировать. Вы должны сортировать. Чуда не бывает. Вы будете сортировать. Но до тех пор, пока вы можете делать другие вещи, пока сортируете, это не запрещено. И мы не знаем, в какой степени эти две вещи связаны? Так что, если у вас есть система, которая очень хороша в языке, имеют ли побочные квесты, на которые она способна, какое-либо отношение к языку вообще? Мы не знаем ответа на этот вопрос.

Майкл Левин(02:27:08) Ответ может быть «нет», и тогда всё, что мы говорили о языковых моделях, потому что они говорят о том, что они говорят, всё это может оказаться чистой воды ложным следом и не иметь особого значения, а действительно захватывающим является то, чего мы никогда не искали. Или в сложных системах, возможно, эти вещи становятся связанными. В биологии они связаны. В биологии эволюция гарантирует, что то, на что вы способны, тесно связано с тем, для чего вы фактически были отобраны. В этих вещах я не знаю, и поэтому мы можем обнаружить, что они действительно дают языку какое-то преимущество, или мы можем обнаружить, что язык просто… Знаете, это не самая интересная часть.

Лекс Фридман(02:27:43) Кроме того, интересен вопрос об этой внутренней мотивации кластеризации. Является ли это свойством конкретных алгоритмов сортировки? Является ли это свойством всех алгоритмов сортировки? Является ли это свойством всех алгоритмов, работающих со списками, с числами? Насколько это велико? Так, например, в случае с LLM, является ли это свойством любого алгоритма, пытающегося моделировать язык, или это характерно только для преобразователей, и это всё, что ещё предстоит выяснить?

Майкл Левин(02:28:14) Мы всем этим занимаемся. Мы тестируем это в других алгоритмах. Мы ищем… Мы разрабатываем наборы кода для поиска других свойств. Мы… Знаете, в какой-то степени это очень сложно, потому что мы не знаем, что искать, но у нас есть руководство по поведенческой терапии, в котором описано всё, на что нужно обращать внимание. Отложенное удовлетворение, решение проблем – всё это у нас есть. Я расскажу вам об одной интересной биологической внутренней мотивации, потому что люди… Итак, в сообществе, занимающемся выравниванием, и тому подобном, идёт много дискуссий о том, какова будет внутренняя мотивация ИИ? Каковы будут его цели, верно?

Майкл Левин(02:28:48) Что они захотят сделать? Просто как одно наблюдение, антропоботы, самое первое, что мы проверили... Так что это не эксперимент номер 972 из тысячи вещей. Это самое первое, что мы проверили. Мы поместили их на пластину нейронов с большой раной, большой царапиной. Первое, что они сделали, это залечили рану, понятно? Так что это одно наблюдение, но мне нравится тот факт, что первая внутренняя мотивация, которую мы заметили из этой системы, была доброжелательной и исцеляющей. Типа, я подумал, что это довольно круто. И мы не знаем. Может быть, вы знаете, может быть, следующие 20 вещей, которые мы обнаружим, будут какими-то, вы знаете, разрушительными эффектами. Я не могу вам этого сказать. Но первое, что мы увидели, было как бы положительным. И, я не знаю, от этого мне становится лучше.

Можно ли обратить старение вспять?

Лекс Фридман(02:29:27) Что вы говорили об антропоботах, которые могут обратить старение вспять?

Майкл Левин(02:29:31) Существует процедура, называемая эпигенетическими часами, с помощью которой можно посмотреть на определённые эпигенетические состояния клеток и сравнить их с кривой, построенной на основе данных о людях известного возраста. Вы можете угадать, какой это возраст, хорошо? Итак, теперь мы можем взять… Это работа Стива Хорвата и многих других: когда вы берёте набор клеток, вы можете угадать их биологический возраст, хорошо? Поэтому мы создаём антропоботов из клеток, полученных из эпителия трахеи человека. Мы сотрудничали с группой Стива, Clock Foundation. Мы отправили им набор клеток и увидели, что сами антропоботы примерно на 20% моложе клеток, из которых они получены.

Майкл Левин(02:30:17) И это удивительно, и я могу дать вам теорию, объясняющую, почему это происходит, хотя мы всё ещё продолжаем исследования. А затем я мог бы рассказать вам о последствиях для долголетия и подобных вещей. Моя теория, объясняющая, почему это происходит, называется «подтверждением возраста». И я думаю, что здесь, как и во многих биологических процессах, клетки должны обновлять свои априорные данные на основе опыта. И поэтому я думаю, что они происходят из старого тела. У них много априорных данных о том, сколько лет они существуют и всё такое, но их новая среда кричит: «Я эмбрион», по сути. Вокруг нет других клеток. Вас сгибают в крендель. Они на самом деле экспрессируют некоторые эмбриональные гены.

Майкл Левин(02:30:58) Они говорят: «Ты же эмбрион». И я думаю, что новых доказательств недостаточно, чтобы откатить их полностью назад, но их достаточно, чтобы обновить их примерно до 28%.

Лекс Фридман(02:31:08) Да, это похоже на то, как пожилой человек рожает ребёнка. То есть, ты хочешь сказать, что можно просто притворяться, пока не состаришься? То есть окружающая среда убеждает клетку, что она молода?

Майкл Левин(02:31:27) Ну, во-первых, да, да. И это моя гипотеза.

Лекс Фридман(02:31:32) Это здорово.

Майкл Левин(02:31:32) И у нас на эту тему проводится целый ряд исследований. Было исследование, в котором они отправились в дом престарелых и переделали интерьер, как в стиле 60-х, когда все эти люди были очень молоды. И обнаружили всевозможные улучшения в химии крови и тому подобном, потому что, по их словам, это было своего рода мысленное возвращение их в то время… знаете, когда они были такими, какими были в то время. Я думаю, это базовая версия того, что, по сути, если вы оказываетесь в эмбриональной среде, что более правдоподобно, что вы молоды или что? Знаете, я думаю, это базовая особенность биологии — обновлять априорные данные на основе опыта.

Лекс Фридман(02:32:10) Как вы думаете, это действительно применимо к долголетию? Например, можно убедить клетки, что они моложе, и тем самым продлить их жизнь?

Майкл Левин(02:32:21) Вот это мы и пытаемся сделать, да.

Лекс Фридман(02:32:23) Неужели все так просто?

Майкл Левин(02:32:25) Ну, я не утверждаю, что это просто. Это совсем не просто. Но, опять же, нужно… Всё это, вся регенеративная медицина, которой мы занимаемся, основана на одном ключевом моменте: научиться общаться с системой. Нам нужно… Если вы хотите убедить эту систему, понимаете, когда мы превращаем ткань кишечника в глаз, нужно убедить эти клетки, что их априорные представления о том, что «мы — предшественники кишечника», ошибочны, и вам следует принять новое мировоззрение, согласно которому вы будете глазом.

Майкл Левин(02:32:53) Итак, умение убеждать и понимание того, какие сообщения убедительны для клеток, как говорить на этом языке и как заставить их принять новые убеждения, — это буквально корень всех будущих достижений в области врождённых дефектов, регенеративной медицины и онкологии. Вот что происходит здесь. Я не говорю, что это просто, но я вижу путь.

Загрузка разума

Лекс Фридман(02:33:17) Возвращаясь к платоновскому пространству, я должен спросить: если наш мозг действительно является тонким клиентским интерфейсом для этого пространства, что это означает для нашего разума? Можем ли мы загрузить разум? Можем ли мы скопировать его? Можем ли мы перенести его на другие планеты? Что это означает для того, где именно хранится разум?

Майкл Левин(02:33:49) Да. Пара вещей. Так что теперь я не могу ничего сказать с уверенностью. Это всего лишь догадки, понятно? Потому что мы пока ничего не знаем. Суть в том, что мы на самом деле не очень хорошо понимаем взаимосвязь между интерфейсом и вещью.

Лекс Фридман(02:34:02) И то, над чем вы сейчас работаете, — это картографирование...

Майкл Левин(02:34:06) Верно.

Лекс Фридман(02:34:06) … это пространство?

Майкл Левин(02:34:07) Верно. И мы начинаем это картировать, но, знаете ли, это колоссальный труд. Поэтому я выдвину здесь пару гипотез. Во-первых, я твёрдо подозреваю, что большая часть того, что мы считаем разумом, — это закономерности в этом пространстве, понятно? И одно из интересных предсказаний этой модели, которое не является предсказанием современной нейробиологии, заключается в том, что должны быть случаи, когда мозг очень ограничен, но при этом функция IQ нормальна. Это было подтверждено клинически. Мы с Кориной Кофман недавно рассмотрели это в статье — ряд случаев у людей с очень малым объёмом мозговой ткани, но с нормальным, а иногда и выше среднего, интеллектом.

Майкл Левин(02:34:54) Теперь, всё не так просто, потому что это, очевидно, происходит не всегда, верно? Большую часть времени этого не происходит. Так что происходит? Мы не понимаем. Но это очень любопытная вещь, которая не является предсказанием... Я не говорю, что этого не может... Знаете, можно взять современную нейронауку и как бы согнуть её в крендель, чтобы приспособить. Можно сказать: «Ну, есть эти, знаете ли, своего рода избыточности и вещи в этом роде», верно? То есть вы можете это приспособить, но это не предсказать. Так что есть эти невероятно любопытные случаи. Теперь, я думаю, что вы можете это скопировать? Нет, я не думаю, что вы можете, потому что то, что вы собираетесь копировать, это интерфейс, фронтенд, мозг или, знаете, что угодно.

Майкл Левин(02:35:35) Действие — это, по сути, шаблон в платоновском пространстве. Сможете ли вы его скопировать? Сомневаюсь. Но вы могли бы создать другой интерфейс, через который этот конкретный шаблон будет проявляться. Думаю, это, вероятно, возможно. Пока ничего не могу сказать о том, что для этого потребуется, но, думаю, это возможно.

Лекс Фридман(02:35:55) Вы предполагаете, интуиция подсказывает, что этот процесс, если это возможно, отличается от копирования? Скорее, это похоже на создание чего-то нового, а не на копирование.

Майкл Левин(02:36:08) Что касается интерфейса. Так что, если бы вы могли… Итак, вот мой прогноз для транспортера из «Звёздного пути»: по какой-то причине прямо сейчас ваш мозг и тело очень настроены и притягательны для определённого шаблона, который является вашим набором психологических предрасположенностей. Если бы мы могли воссоздать то же самое где-то ещё, я не вижу причин, почему тот же шаблон не проявился бы там так же, как и здесь. Это было бы предположением, понимаете? Так что, я думаю, вы будете копировать физический интерфейс, надеясь сохранить то, что в нём соответствует этому шаблону. Мы пока не знаем, что это такое.

Лекс Фридман(02:36:48) Итак, когда мы говорили о разуме, в данном конкретном случае он для меня наиболее важен, потому что я человек. Присутствует ли в нём «я»? Есть ли ощущение, что этот разум принадлежит мне? Присутствует ли оно в любом разуме? Субъективное… Не субъективный опыт. Субъективный опыт тоже важен, сознание, но как и владение.

Майкл Левин(02:37:19) Подозреваю, что да, и думаю так, судя по тому, как мы появляемся на свет. Одна из тем, над которой мне стоит поработать, — это статья под названием «Загрузка агента», в которой рассказывается о самых ранних этапах становления существа в этом мире. Что-то вроде того, что можно сделать с компьютером, верно? До того, как вы включите питание, это относится к области физики, верно? Он подчиняется законам физики. Вы включаете питание, через какое-то количество наносекунд, микросекунд, я не знаю, позже, у вас есть штука, которая, смотрите, берёт инструкции из стека и выполняет их, верно? Итак, теперь он выполняет алгоритм.

Майкл Левин(02:37:56) Как вы перешли от физики к выполнению алгоритма? Например, что происходило во время загрузки, непосредственно перед тем, как он начал выполнять код, или что-то ещё, верно? И мы можем задать тот же вопрос в биологии. Каковы самые ранние этапы становления существа?

Лекс Фридман(02:38:12) Да, это интересный вопрос. Эмбриогенез, на каком этапе вы начинаете? Есть ли у вас надежда получить на него ответ?

Майкл Левин(02:38:21) Ну, я думаю, да. Думаю, по двум причинам. Во-первых, это просто физический аспект происходящего. Поэтому, я думаю, это ваша первая задача как существа, и, опять же, я не думаю, что это бинарная система. Я думаю, это положительная обратная связь, которая как бы набирает обороты. Ваша первая задача как существа, приходящего в этот мир, — рассказать своим частям захватывающую историю. Как биологическое существо, вы состоите из частей-агентов.

Майкл Левин(02:38:52) Эти части должны быть буквально выровнены с целью, которую они не понимают. Если вы собираетесь двигаться в анатомическом пространстве посредством группы клеток, которые знают только физиологические и метаболические пространства и тому подобное, вам придётся разработать модель и изменить их пространство действий. Вам придётся деформировать их пространство вариантов сигналами, подсказками, формирующими поведение, наградами и наказаниями, всем, что у вас есть. Ваша работа как агента — владение своими частями, их согласование. Я думаю, что это, по сути, даст начало этой способности. Теперь это также означает наличие границы, говорящей: «Хорошо, это то, что я контролирую. Это я».

Майкл Левин(02:39:35) А вот это другое дело – внешний мир. Мне нужно выяснить… Кстати, вы не знаете, где это. Вам нужно это выяснить. А в эмбриогенезе это действительно круто. Будучи аспирантом, я проводил эксперимент с эмбрионами уток, которые представляют собой плоский бластодиск. Вы можете взять иглу и нанести на него несколько царапин, и каждый островок, который вы делаете, некоторое время, пока он не заживет, думает, что это единственный эмбрион. Вокруг ничего больше нет, поэтому он становится эмбрионом. И в конце концов вы получаете двойню, тройню, четверню и тому подобное. Но каждый из них на границе, вы знаете, они соединены. Ну, где заканчиваюсь я и где начинается он? Вы должны знать, где проходят ваши границы.

Майкл Левин(02:40:10) Итак, это действие по согласованию частей и превращению их в это, это возникновение. Я даже скажу так. Это возникновение. У нас просто нет подходящего словаря для этого. Это возникновение модели, которая согласует все части, действительно критически важно для поддержания этого процесса. Есть ещё кое-что действительно интересное, и я думал об этом в контексте вопроса об этих прекрасных идеях. Мы обнаружили удивительную вещь, и это в значительной степени работа Федерико Пагоси из моей группы. Пару лет назад мы увидели, что сети химических веществ могут обучаться. У них есть пять или шесть различных видов обучения.

Майкл Левин(02:40:51) Итак, я попросил их рассчитать причинно-следственные связи этих сетей в процессе обучения. Я имею в виду следующее: если вы крыса и учитесь нажимать на рычаг и получать награду, то нет ни одной отдельной клетки, которая бы испытывала оба опыта, верно? Клетки на вашей лапе коснулись рычага. Клетки в вашем кишечнике получили вкусную награду. Ни одна отдельная клетка не испытывает оба опыта. Кому принадлежит эта ассоциативная память? Ну, крысе. Значит, вы должны быть интегрированы, верно? Если вы собираетесь изучать ассоциативные воспоминания из разных частей, вы должны быть интегрированным агентом, который может это делать. И теперь мы можем измерить это с помощью метрик причинно-следственных связей, таких как fi и подобных вещей.

Майкл Левин(02:41:33) Итак, мы знаем, что для обучения необходимо иметь значительный уровень фи. Но я хотел задать противоположный вопрос: как обучение влияет на ваш уровень фи? Влияет ли оно на вашу степень агента, которая больше, чем сумма его частей? Итак, мы обучили сети, и, конечно же, у некоторых из них, не у всех, но у некоторых, по мере обучения, их фи растёт, понятно? И, по сути, мы смогли обнаружить, что существует эта положительная обратная связь между каждым разом, когда вы чему-то учитесь… …Вы становитесь более интегрированным агентом. И каждый раз, когда вы это делаете, учиться становится легче. Итак, вот что…

Лекс Фридман(02:42:13) Это благотворный цикл.

Майкл Левин(02:42:14) Это благотворный цикл. Это асимметрия, которая указывает вверх к активности и интеллекту. А теперь вернёмся к нашим платоновским космическим штучкам: откуда это взялось? Это не эволюция. Для этого не нужна никакая эволюция. Эволюция, конечно, оптимизирует всё до последней мелочи. Но для этого не нужна эволюция. Это не проистекает из физики. Это проистекает из правил информации, теории причинно-следственной информации и поведения сетей. Это математические объекты. Это не то, что дано вам физикой или историей отбора. Это безвозмездный дар математики.

Майкл Левин(02:42:47) И эти два дара математики сплетаются в спираль, которая, как мне кажется, одновременно приводит к росту интеллекта и росту коллективной свободы действий. И я думаю, это просто потрясающе.

Лекс Фридман(02:43:04) Что ж, этот бесплатный дар математики, я думаю, чрезвычайно полезен в биологии. Когда малые сущности образуют сети, иерархия, которая строит всё более и более сложные организмы. Это очевидно. Я имею в виду, это говорит об эмбриогенезе, который, на мой взгляд, является одной из самых интересных вещей во вселенной. Более того, вы признаёте его крутость в статье «Ingressing Mind», цитируя: «Большинство важных философских вопросов поднимается в процессе эмбриогенеза. Прямо на наших глазах отдельная клетка размножается и самоорганизуется в сложный организм, обладающий порядком на всех уровнях организации и адаптивным поведением. Каждый из нас проходит тот же путь по картезианской системе координат, начиная с покоящейся человеческой ооциты, маленького комочка, который, как считается, хорошо описывается химией и физикой».

Лекс Фридман(02:44:00) Постепенно он претерпевает метаморфозы и в конце концов становится зрелым человеком с надеждами, мечтами и саморефлексирующим метапознанием, которое может позволить ему описывать себя как «не машину, это больше, чем его мозг, тело и базовые молекулярные механизмы» и так далее. Что, во всей нашей дискуссии, мы можем сказать как ясную интуицию того, как можно совершить прыжок от одной клетки к полностью функционирующему организму, полному мечтаний, надежд, друзей, любви и всего такого? Во всем, о чем мы говорили, что было немного технически, как мы понимаем? Потому что это одна из самых волшебных вещей, которые может создать вселенная, возможно, самая волшебная. Из простой физики и химии создайте это, мы двое говорим о себе.

Майкл Левин(02:45:03) Думаю, нам следует помнить, что физика и химия — это не реальные вещи. Это линзы, которые мы накладываем на мир; это перспективы, с которых мы говорим: «На данный момент, на время этого курса химии, или карьеры, или чего-то ещё, мы отложим все остальные уровни и сосредоточимся на этом». И то, что по сути происходит в этом процессе, — это удивительная положительная обратная связь коллективного разума для интерфейса. Физический интерфейс масштабирует свой когнитивный световой конус, который он может поддерживать, поэтому он исходит из молекулярной сети… Молекулярная сеть уже может выполнять вещи, подобные павловскому обусловливанию. Вы не начинаете с нуля.

Майкл Левин(02:45:47) Когда у вас есть простая молекулярная сеть, вы уже содержите некоторые паттерны из платоновского пространства, которые выглядят как павловское обусловливание. У вас уже есть это начало. Это просто молекулярная сеть. Затем вы становитесь клеткой, а затем множеством клеток. И теперь вы перемещаетесь в анатомическом аморфном пространстве и содержите в себе всевозможные другие паттерны. И в конечном итоге вы… И я снова думаю, я думаю, вот что похоже на всё это, что мы сейчас пытаемся проработать.

Майкл Левин(02:46:14) Существует постоянная обратная связь между ингрессиями, которые вы получаете, и способностью получать новые, что, опять же, я думаю, является положительным циклом обратной связи, где чем больше этих бесплатных даров вы получаете, тем больше они позволяют вам физически развиваться до таких путей, где «О, смотрите, теперь мы подходим для большего и более высокого». И это непрерывно продолжается, продолжается и продолжается, пока вы не сможете получить полный человеческий набор поведенческих способностей.

Лекс Фридман(02:46:39) Каков механизм столь радикального масштабирования когнитивного конуса? Это просто… то же самое, о чём вы говорили, когда говорили о способности химических веществ к обучению?

Майкл Левин(02:46:49) Я расскажу вам о двух механизмах, которые мы обнаружили. Но, опять же, для ясности, это механизмы физического интерфейса. Чего у нас нет, так это зрелой теории того, как они отображаются в пространстве; это только начало. Но я расскажу вам, как выглядит физическая сторона вещей. Первый связан с распространением напряжения. Представьте, что у вас есть группа клеток, и есть клетка здесь, внизу, которая должна быть там, наверху. Хорошо. Все эти клетки находятся именно там, где им нужно, поэтому они счастливы, их напряжение низкое. Эта клетка… Теперь давайте представим, что напряжение — это, по сути, физическая реализация функции ошибки.

Майкл Левин(02:47:32) По сути, это количество стресса, это, по сути, разница между тем, где вы сейчас находитесь, и тем, где вам нужно быть. Не обязательно в физическом положении, это может быть в анатомическом пространстве, физиологическом пространстве, транскрипционном пространстве, где угодно, верно? Это просто разница от вашей заданной точки. Итак, вы в стрессе, но эти ребята счастливы, они не двигаются. Вы не можете их обойти. А теперь представьте, что вы могли бы сделать, вы могли бы выпустить свой стресс, какой бы ни была ваша молекула стресса, и самое крутое, что эволюция на самом деле сохранила их в высокой степени, так что все они... И мы изучаем все эти вещи, они на самом деле в высокой степени сохранились.

Майкл Левин(02:48:01) Если вы начинаете высвобождать свои молекулы стресса, то всё вокруг начинает испытывать стресс. Когда всё испытывает стресс, начинает испытывать стресс, их температура, не физическая температура, а в смысле, как в случае с имитацией отжига или чего-то в этом роде, да, их способность… их пластичность повышается. Поскольку они чувствуют стресс, им нужно снять этот стресс, и поскольку все молекулы стресса одинаковы, они не знают, что это не их стресс. Они раздражаются ими так же, как если бы это был их собственный стресс, поэтому они становятся немного более пластичными, они готовы, знаете ли, принять другую судьбу. Вы добираетесь туда, куда направляетесь, и тогда стресс у всех может спасть.

Майкл Левин(02:48:35) Итак, обратите внимание, что может произойти благодаря очень простому механизму: просто будьте дырявым для собственного стресса. Мои проблемы становятся вашими проблемами, не потому, что вы альтруистичны, не потому, что вам действительно не всё равно на мои проблемы. Нет никакого механизма, который позволил бы вам действительно заботиться о моих проблемах, но именно этот простой механизм означает, что удалённые регионы теперь реагируют на потребности других регионов, так что могут происходить сложные перестройки и тому подобное. Это выравнивание всех вокруг общей цели посредством этой очень простой и глупой вещи — распределения стресса.

Лекс Фридман(02:49:04) Через утечку напряжения.

Майкл Левин(02:49:05) Стресс утечки, да? Итак, есть ещё один, есть ещё один… …Я называю это анонимизацией памяти. Представьте себе две клетки, и представьте, что с этой клеткой что-то происходит, и она посылает сигнал вот этой клетке. Обычно вы посылаете сигнал, эта клетка его получает. Совершенно очевидно, что он пришёл извне, поэтому эта клетка может делать многое. Она может игнорировать его, она может принимать информацию, она может просто игнорировать её, она может переосмыслить её, она может делать всё, что угодно, но совершенно очевидно, что она пришла извне. Теперь представьте себе то, что мы изучаем, что называется щелевыми контактами. Это электрические синапсы, которые могут напрямую связывать внутреннюю среду двух клеток. Если что-то происходит с этой клеткой, она…

Майкл Левин(02:49:45) Допустим, её протыкают, и через щелевой контакт распространяется кальциевый скачок или что-то ещё. Теперь у этой клетки та же информация, но она понятия не имеет: «Погодите-ка, это было… Это моё воспоминание или его?» Потому что это одно и то же, верно? Это те же компоненты, и поэтому теперь вы можете установить слияние разумов. Между двумя клетками может произойти слияние разумов, когда никто точно не знает, чьё это воспоминание, и когда вы делитесь воспоминаниями таким образом, становится сложнее сказать, что я отделен от вас. Если у нас одни и те же воспоминания, мы как бы…

Майкл Левин(02:50:16) И я не имею в виду каждое отдельное воспоминание, верно? Так что у них всё ещё есть некая идентичность, но в значительной степени у них есть некое слияние разумов, и есть много сложностей, на которые вы можете опереться. Но это означает, что если у вас есть большая группа клеток, у них теперь есть совместные воспоминания о том, что произошло с нами, в отличие от, знаете ли, того, что случилось с вами, и того, что случилось со мной. И это обеспечивает более высокий когнитивный световой конус, потому что у вас больше вычислительных мощностей, у вас больше сфера интересов, вещей, которыми вы хотите управлять. Я не просто хочу управлять своими крошечными, маленькими состояниями памяти, потому что я получаю ваши воспоминания. Теперь я знаю, что должен управлять всем этим.

Майкл Левин(02:50:50) Итак, оба этих фактора в конечном итоге масштабируют масштаб вещей, которые вас волнуют, и это важный этап познания. Масштаб — это степень, ну, понимаете, масштаба ваших переживаний.

Лекс Фридман(02:51:02) Было бы интересно научиться управлять таким масштабированием. Вероятно, это применимо к системам искусственного интеллекта. Как быстро масштабировать когнитивный конус?

Майкл Левин(02:51:12) Да, да. У нас есть несколько соавторов…

Лекс Фридман(02:51:14) Световой конус

Майкл Левин(02:51:14) … в компании Softmax, с которой мы работаем над некоторыми из этих вещей. В биологии это наше лечение рака, которое заключается в том, что при раке вы видите буквально электрическое отключение клеток от своих соседей, когда они были частью гигантской памяти, которая работала над созданием хорошего органа. Что ж, теперь они не могут ничего из этого вспомнить, теперь они просто амебы, а остальное тело — просто внешняя среда. И мы обнаружили, что если вы затем физически снова подключите их к сети, вам не нужно чинить ДНК, вам не нужно убивать клетки химиотерапией, вы можете просто снова подключить их, и они возвращаются к… Потому что теперь они часть этого большего коллектива, они возвращаются к тому, над чем работали. И поэтому да, я думаю, мы можем вмешаться в этом масштабе.

Инопланетный разум

Лекс Фридман(02:51:57) Позвольте мне задать вам более конкретный вопрос о SETI (Проекте поиска нетрадиционного земного разума): что вы надеетесь там сделать? Как вы на самом деле пытаетесь найти нетрадиционный разум вокруг нас? Прежде всего, считаете ли вы, что на Земле есть все виды невероятного разума, которые мы ещё не открыли?

Майкл Левин(02:52:21) То есть, гарантированно, мы уже видели это в наших собственных телах, и я имею в виду не только то, что мы являемся хозяевами кучи микробиомов или что-то в этом роде. Я имею в виду ваши клетки, и у нас есть всевозможные возможности для этого, каждый день они пересекают эти инопланетные пространства, 20 000-мерные пространства и другие пространства. Они решают проблемы. Я думаю, они страдают, когда не достигают своих целей, у них снижается стресс, когда они достигают своих целей. Эти штуки внутри нас, они повсюду вокруг нас. Я думаю, что мы невероятно слепы ко всем этим совершенно инопланетным видам разума вокруг нас, и я думаю, знаете ли, искать инопланетян за пределами Земли — это потрясающе и всё такое.

Майкл Левин(02:53:02) Но если мы не можем распознать тех, кто находится внутри нашего тела, каковы наши шансы по-настоящему распознать тех, кто находится снаружи?

Лекс Фридман(02:53:12) Как вы думаете, существует ли мера интеллекта, подобная IQ? Что это будет? Не интеллект, а интеллект, который можно было бы широко применить к нетрадиционному мышлению, который можно было бы обобщить и для нетрадиционного мышления, чтобы мы могли даже выразить это количественно: «Чёрт возьми, это открытие невероятно, потому что оно обладает таким-то IQ»?

Майкл Левин(02:53:41) Да, и да, и нет. Положительная сторона заключается в том, что, как мы показали, можно взять существующие показатели IQ… то есть, буквально существующие способы измерения интеллекта животных, людей и всего остального, и применить их к очень странным вещам. Если у вас хватит воображения создать интерфейс, вы сможете это сделать. И мы это сделали, и мы проявили творческий подход…

Майкл Левин(02:54:03) …решение проблем и всё такое. Так что да. Однако нам нужно быть скромными в этом отношении и признать, что все эти показатели IQ, которые мы пока что разработали, были получены на основе N из одного примера эволюционной линии здесь, на Земле, и поэтому мы, вероятно, многое из них упускаем. Так что, я бы сказал, у нас есть с чего начать. У нас так много всего, с чего начать. Мы могли бы занять десятки тысяч людей, просто тестируя что-то сейчас, но мы должны понимать, что, вероятно, упускаем много важного.

Лекс Фридман(02:54:32) Как вы думаете, где внутри нашего тела, человеческого тела или, как мы говорили не в микрофон, джунглей Амазонки, природы, естественных систем за пределами известных нам сложных биологических систем, обитают более интересные нетрадиционные разумы?

Майкл Левин(02:54:55) Да. Мы не знаем, потому что очень сложно проводить эксперименты на более крупных системах. Гораздо проще идти вниз, чем вверх. Но я подозреваю, знаете ли, как говорят буддисты, что существует бесчисленное множество разумных существ. Думаю, к тому времени, как вы достигнете этой степени бесконечности, сравнивать уже не имеет смысла. Подозреваю, их просто огромное количество.

Лекс Фридман(02:55:16) Да, я думаю, действительно важно, какие системы поддаются нашим современным методам научного исследования. Я провёл немало часов, просто наблюдая за муравьями, когда был в Амазонии, и это такой загадочный, удивительный коллективный разум. Не знаю, насколько он поддаётся исследованию. Я видел, как некоторые пытаются. Можно моделировать, можно… Но мне кажется, мы многое упускаем.

Майкл Левин(02:55:41) Уверен, что так и есть. Но одна из моих любимых вещей в подобной работе: вы видели хотя бы три-четыре статьи, доказывающие, что колонии муравьёв поддаются тем же визуальным иллюзиям, что и мы?

Лекс Фридман(02:55:51) Хорошо.

Майкл Левин(02:55:51) Не муравьи, а колонии. Так что если вы...

Лекс Фридман(02:55:53) Вся колония вместе. Да.

Майкл Левин(02:55:54) Колонии. Так что если вы… выложите еду по определённым схемам, они выстроятся в сплошные линии, которых нет, и… и всё то же, на что мы попадаемся, попадает и им. Так что я не думаю, что это безнадёжно, но думаю, что нам нужно много работать над разработкой инструментов.

Лекс Фридман(02:56:08) Как вы думаете, все разрабатываемые нами инструменты и картографирование, которые мы обсуждали, помогут нам в исследовании — поиске инопланетян?

Майкл Левин(02:56:17) Я думаю, это необходимо. Я думаю, это необходимо. Мы настолько ограничены в своих ожиданиях найти что-то в жизни, что мы просто упустим очень многое. Если мы не можем договориться даже об определениях жизни, не говоря уже о том, что такое жизнь, но что на самом деле важно... Я недавно читал статью, в которой я спросил, сколько их, 65 современных учёных, дадим определение жизни. И у нас было так много разных определений в самых разных измерениях. Нам пришлось использовать ИИ, чтобы создать из этого аморфное пространство. И не было никакого консенсуса о том, что на самом деле важно, понимаете? И если мы не можем хорошо распознать это здесь, я просто не понимаю, как мы сможем хорошо распознать это где-то ещё.

Лекс Фридман(02:57:08) Учитывая, насколько удивительна жизнь на Земле, мне очевидно, что нам предстоит ещё очень много работы. И всё же, будет ли вам интересно, если мы найдём жизнь на других планетах Солнечной системы? Что бы вы сделали с этой информацией, или это просто ещё одна форма жизни, которую мы не понимаем?

Майкл Левин(02:57:32) Я был бы очень рад этому, потому что это дало бы нам более нетрадиционные варианты для размышлений… Верно? Точка данных, которая довольно далека от наших существующих точек данных, по крайней мере, в этой Солнечной системе. Так что это было бы круто. Я был бы очень рад этому. Но должен признать, что мой уровень, моя точка установки для удивления поднялась настолько высоко, что это должно… знаете, это должно быть что-то действительно странное, чтобы меня шокировать. То есть, то, что мы видим каждый день, это просто… да.

Лекс Фридман(02:58:04) Кажется, вы уже упоминали в нескольких местах, где, как и вы, писали, статья «Ingressing Minds» — не самое странное, что вы планируете написать. Насколько странным вы собираетесь стать? Возможно, лучше спросить: в каком направлении странности, по вашему мнению, вы будете двигаться в своей жизни? В каком направлении странного окна Овертона вы собираетесь расширяться?

Майкл Левин(02:58:34) Да, ну, предыстория просто в том, что у меня много странных идей на протяжении многих десятилетий, и моя общая политика — не говорить о них, пока они не станут применимыми на практике. И самое удивительное, я имею в виду, я действительно в шоке, что при моей жизни, в эмпирической работе, я действительно не думал, что мы дойдём до этого. И у меня есть эта мысленная настройка, какой процент странных вещей, как мне кажется, я действительно говорю публично, верно?

Майкл Левин(02:59:08) И каждые несколько лет, когда эмпирическая работа продвигается вперед, я как бы немного поворачиваю эту ручку, верно, по мере того, как мы продолжаем работать. Так что я понятия не имею, будем ли мы и дальше так удачливы или как долго я смогу продолжать это делать или что-то еще. Но просто чтобы дать вам направление, это будет в направлении того, какие вещи нам нужно воспринимать всерьёз как другие существа, с которыми нужно общаться. Так что я уже подтолкнул это, знаете ли, так что мы знали о мозговых вещах, а потом мы сказали: «Ну, это не только мозги». А потом мы сказали: «Ну, это не только…» Так что, знаете ли, это не только физическое пространство, и это не только биологические существа, и это не только сложность.

Майкл Левин(02:59:52) Есть ещё пара шагов, которые, я уверен, уже сделаны, но нам нужно будет проделать реальную работу, чтобы сделать их осуществимыми, прежде чем, знаете ли, мы начнём говорить об этом. Так что это направление.

Лекс Фридман(03:00:07) Думаю, можно смело сказать, что вы один из самых нестандартных людей, учёных. Интересный вопрос: каков ваш процесс генерации идей? Каков ваш процесс открытия? Вы создали множество невероятно интересных, как вы сказали, осуществимых, но при этом интересных, нестандартных идей, которые вы фактически реализовали с помощью ксеноботов и антропоботов, и тому подобного. Когда вы вернётесь домой сегодня вечером и пойдёте в лабораторию, каков будет процесс? Чистый лист бумаги, когда вы всё обдумываете?

Майкл Левин(03:00:50) Ну, ментальная часть, как ни странно, во многом похожа на создание ксеноботов. Знаете, мы создаём ксеноботов, снимая ограничения, верно? Мы ничего с ними не делаем. Мы просто снимаем с них уже имеющиеся ограничения, а потом видим...

Майкл Левин(03:01:05) Во многом это связано с освобождением от ограничений, наложенных на нас ментально. Отчасти это связано с моим образованием, которое было немного странным, потому что я сначала был компьютерным специалистом, а уже потом биологом. Поэтому к тому времени, как я узнал все эти биологические вещи, которые мы обычно просто принимаем на вооружение, я уже был настроен немного скептически и мыслил немного иначе, но во многом это происходит благодаря освобождению от ограничений. И я очень конкретно думаю о том, что мы знаем. Как бы всё выглядело, если бы мы ошибались? Или как бы это выглядело, если бы я ошибался? Что мы упускаем? Чего конкретно наше мировоззрение не способно увидеть, верно? Какой бы ни была моя модель.

Майкл Левин(03:01:41) Или другой способ, который я часто думаю, это я беру две вещи, которые считаются совершенно разными вещами, и говорю: «Давайте просто представим их как две точки на континууме». Как это выглядит? Как выглядит середина этого континуума? Какая там симметрия? Какой параметр я могу использовать, чтобы перейти отсюда туда? Так что такого рода... Я много ищу симметрии. Я типа, хорошо, эта вещь похожа на эту, в каком смысле? Какое наименьшее количество вещей мне нужно будет переместить, чтобы наложить эту карту на эту? Так? Так что это, знаете ли, своего рода ментальные инструменты.

Майкл Левин(03:02:12) Физический процесс для меня, по сути, заключается в том, что, очевидно, мне повезло много общаться с очень умными людьми. В моей группе есть несколько замечательных людей, знаете ли, я нанял замечательных людей, так что мы, конечно же, много обсуждаем, и из этого что-то получается. Мой процесс таков: я делаю это практически каждое утро: выхожу на улицу встречать рассвет и гуляю на природе. Нет ничего лучше для вдохновения, чем природа. Я занимаюсь фотографией, и это, на мой взгляд, хороший инструмент для медитации, потому что руки и мозг достаточно заняты.

Майкл Левин(03:02:50) Вам не нужно слишком много думать, но, знаете, вы как бы вертите в руках, смотрите и делаете что-то, и это отвлекает ваш мозг от линейного, логического, тщательного хода мыслей в достаточной степени, чтобы высвободить его, так что вы можете немного больше думать, пока ваши руки заняты.

Лекс Фридман(03:03:04) То есть дело даже не в самом объекте фотографирования, а в механическом процессе фотографирования?

Майкл Левин(03:03:09) И мысленно, да? Потому что я не хожу и не думаю: «Ладно, посмотрим, для этого эксперимента нам нужно, знаете ли, мне нужно раздобыть это оборудование и это…» Ну, это уходит, и я думаю: «Ладно, какое освещение и на что я смотрю?» И в это время, когда ты не думаешь ни о чём другом, я говорю: «Ну да, мне нужно раздобыть блокнот», и я думаю: «Смотри, вот что нам нужно сделать». Ну и всё в таком духе.

Лекс Фридман(03:03:30) А сама идея записывать что-либо? Это блокнот? Это компьютер? Вы очень организованы в своих мыслях или это просто случайные слова, написанные тут и там, с рисунками и… Какое пространство мыслей у вас в голове? Это что-то аморфное, не очень чёткое? Вы визуализируете что-либо? Есть ли что-то, что вы можете сформулировать?

Майкл Левин(03:04:01) Я обычно оставляю себе много голосовых сообщений. Потому что, когда я хожу по дому, мне приходит в голову мысль: «О, чёрт, вот это идея!». Поэтому я просто звоню в офис и оставляю себе голосовое сообщение, чтобы потом расшифровать его.

Майкл Левин(03:04:12) У меня недостаточно хорошая память, чтобы запомнить что-либо из этого, поэтому я веду ментальную карту. У меня есть огромная ментальная карта. Одна ее часть висит в моей лаборатории, чтобы люди могли видеть, например, вот эти идеи, вот как они связаны между собой. Вот проект каждого. Я работаю над этим. Как, черт возьми, это прикрепить к чужим проектам, чтобы они могли это отслеживать? Штука, которая висит в лаборатории, около девяти футов в ширину. Это шелковая простыня, и она устаревает в течение пары недель после того, как я ее распечатаю, потому что новые вещи постоянно появляются. А потом есть еще больше того, что не актуально, вы знаете, не для чьего-либо еще просмотра. Но да, я стараюсь быть очень организованным, потому что иначе я забываю.

Майкл Левин(03:04:49) Итак, всё в ментальной карте, всё в рукописях. У меня сейчас, наверное, 163, 62 открытые рукописи, которые находятся в процессе написания на разных стадиях. И когда что-то появляется, я вставляю их в нужную рукопись, в нужное место, чтобы, когда я наконец буду готов завершить, тогда я обставлю это словами и всё такое. Но есть как бы общие планы всего. Поэтому я стараюсь…

Лекс Фридман(03:05:13) Итак, имеется широкий фронт рукописей и работ, которые выполняются, и они постоянно приближаются к завершению, но не ясно, что именно будет завершено, когда и как.

Майкл Левин(03:05:27) Это…

Лекс Фридман(03:05:27) Когда же на самом деле…

Майкл Левин(03:05:27) Это… то есть, это… Да, но это всего лишь теоретические, философские рассуждения. Эмпирическая работа, которую мы проводим в лаборатории, это… Мы точно знаем, понимаете…

Лекс Фридман(03:05:36) Он более конкретен. Есть конкретный набор вопросов.

Майкл Левин(03:05:37) Мы знаем, что это, ну, это, знаете, старение антропоботов. Это регенерация конечностей. Это новая статья о раке. Это что угодно. Да, эти вещи очень линейны.

Лекс Фридман(03:05:45) Как вы думаете, откуда берутся идеи, когда вы идёте куда-то, и которые в итоге материализуются в голосовом сообщении? Откуда? Что… Это от вас? Это… Знаете, очень много… Некоторые из самых интересных людей чувствуют, что они общаются откуда-то извне.

Майкл Левин(03:06:02) Не хочется снова поднимать тему платонизма, но, если поговорить с любым творческим человеком, он, по сути, именно это вам и скажет, верно? И, конечно же, у меня был такой опыт, так что я чувствую, что это сотрудничество. Итак, сотрудничество — это когда мне нужно надрываться и быть готовым во-первых: а) усердно работать, чтобы распознать идею, когда она приходит, и б) иметь для неё выход, чтобы, когда она появится, у нас была лаборатория и люди, которые могли бы мне помочь, и тогда мы могли бы её реализовать, верно? Так что это моя работа, знаете ли, вставать в 4:30 утра, заниматься своим делом и быть к этому готовым.

Майкл Левин(03:06:40) Но другая сторона сотрудничества в том, что, да, когда ты этим занимаешься, возникают потрясающие идеи, и, знаете, сказать, что это я, я думаю, было бы неправильно. Я, знаете ли, думаю, это определённо приходит из других источников.

Советы для молодежи

Лекс Фридман(03:06:53) Какой совет вы бы дали ученым, аспирантам, студентам старших курсов, молодым ученым, которые пытаются исследовать пространство идей, учитывая весьма нетрадиционный, нестандартный, уникальный набор идей, которые вы исследовали в своей жизни и карьере?

Майкл Левин(03:07:09) Давайте посмотрим. Что ж, первое и самое важное, чему я научился, — это не принимать слишком много советов, поэтому я не люблю давать слишком много советов. Но у меня есть один метод, который я нахожу очень полезным, и он подходит не всем, а определённой демографической группе. Ко мне обращается много нестандартных людей, и я стараюсь им ответить, помочь и так далее. Этот метод, на мой взгляд, полезен для некоторых людей. Как бы это описать? Вам нужно… Это процесс раздвоения сознания, и вам нужно иметь два разных региона. Один регион — это регион практического воздействия. Другими словами, как мне донести свою идею до мира, чтобы другие её узнали? Что мне сказать?

Майкл Левин(03:07:57) Что слышат люди? Что они способны услышать? Как мне это повернуть? О каких частях мне не следует говорить? В каком журнале я собираюсь это опубликовать? Сейчас самое время? Мне ждать этого два года? Например, все практические вещи, которые касаются того, как это выглядит со стороны, верно? Всё то, что я не могу сказать это, или я должен сказать это по-другому, или что это напугает людей, или это странно. Знаете, это сообщество хочет это услышать, чтобы я мог повернуть это таким образом. Типа, все эти практические вещи. Они должны быть там; иначе вы не сможете развивать ни одну из своих идей. У вас не будет карьеры. У вас не будет ресурсов, чтобы что-то делать. Но очень важно, чтобы это не было единственным.

Майкл Левин(03:08:30) Тебе нужна другая часть твоего разума, которая полностью игнорирует всю эту дрянь, потому что эта другая часть твоего разума должна быть чистой. Она должна быть... Мне всё равно, что думают об этом другие. Мне всё равно, можно ли это опубликовать, описать. Мне всё равно, поймёт ли это кто-нибудь. Мне всё равно, считает ли кто-нибудь это глупостью. Это, это то, что я думаю, и почему, и, и дай этому место, чтобы как бы вырасти, верно? И если ты сохранишь... Если ты попытаешься их смешать... Если ты попытаешься смешать их вместе, я, я обнаружил, что это невозможно, потому что, потому что практическая часть отравляет всё остальное.

Майкл Левин(03:08:58) Если вы, если вы слишком… Если вы слишком креативны, вы можете быть потрясающим мыслителем, просто ничего не материализуется. Но если вы очень практичны, это, как правило, отравляет все остальное, потому что чем больше вы думаете о том, как представить вещи так, чтобы другие люди это поняли, это ограничивает и это искривляет то, как вы начинаете думать. И, знаете, что я говорю своим студентам и другим, что есть два вида советов. Есть очень практичные, конкретные вещи, например, кто-то говорит: «Ну, вы забыли этот элемент управления», или «Это неправильный метод», или «Вам не следует…» Это золото, и вы должны относиться к этому очень серьезно, и вы должны использовать это, чтобы улучшить свое мастерство, верно? И это, типа, суперважно.

Майкл Левин(03:09:37) Но есть ещё и метасоветы, когда люди говорят: «Это нехороший способ думать об этом. Не работай над этим. Это не…» Всё это, всё это — ерунда. И даже очень успешные люди часто дают очень ограничивающие, ужасные советы. Например, один из моих рецензентов в газете много лет назад сказал… Мне это очень нравится. Оговорка по Фрейду. Он… он сказал, что будет критиковать меня жестко, верно? И именно это он мне и дал.

Лекс Фридман(03:09:59) Смешно.

Майкл Левин(03:09:59) — это была строгая критика. Я подумал: «Это потрясающе». О, это отличная опечатка.

Лекс Фридман(03:10:03) Что ж, это совершенно верно. То есть, эта вторая, раздвоенность сознания, прекрасно описана. Я действительно думаю, что некоторые из самых интересных людей, которых я встречал, иногда… не дотягивают до уровня нормальных, до практичных: «Как мне… обладая эмоциональным интеллектом, как мне донести это до людей с совершенно иным мировоззрением, более консервативных, более традиционных и более вписывающихся в рамки нормы?». Нужно уметь вписываться. А затем, опять же, как это красиво сказано, уметь отключать это, когда остаёшься один и думаешь. И наличие двух навыков очень важно.

Лекс Фридман(03:10:46) Я думаю, что многие радикальные мыслители думают, что они чем-то жертвуют, обучаясь навыку вписывания, но я думаю, если вы хотите иметь влияние, если вы хотите, чтобы идеи находили отклик и действительно приводили к, эм... Во-первых, умейте создавать отличные команды... которые помогают воплощать ваши идеи в жизнь. И во-вторых, чтобы ваши идеи имели влияние, масштабировались и находили отклик у большого количества людей, вам нужно обладать этим навыком. И это, это очень разные вещи. Это очень разные вещи. Позвольте мне задать нелепый вопрос. Вы уже говорили об этом, но какая, по вашему мнению, одна из самых прекрасных идей, с которыми вы столкнулись в своих различных исследованиях? Возможно, не просто красивая, а такая, которая делает вас счастливым быть учёным, иметь возможность быть... ...любопытным человеком, исследующим идеи.

Майкл Левин(03:11:39) Должен сказать, знаете, я иногда думаю об этих вторжениях из этого пространства как о своего рода стеганографии, понимаете? То есть стеганография — это когда вы прячете данные и сообщения в фрагментах другого шаблона, который не имеет значения, верно?

Майкл Левин(03:11:56) И правило стеганографии заключается в том, что нельзя испортить главное, понимаете? Так что если это фотография кошки или что-то ещё, нужно оставить кошку. Но если есть неважные детали, можно что-то приклеить. Так что мне кажется, что все эти ингрессии — это своего рода универсальная стеганография, что есть что-то вроде этих шаблонов, которые просачиваются во всё, везде, куда могут. И они довольно застенчивы, то есть они очень тонкие, не невидимые. Если постараться, можно их поймать. Они не невидимы, но их трудно увидеть. И тот факт, что они также влияют на «машины», так же сильно, как они, безусловно, влияют на живые организмы, я считаю невероятно, невероятно красивым.

Майкл Левин(03:12:35) И я лично рад быть частью этого спектра, и тому факту, что эта магия применима ко всему. Многих это крайне тревожит, и это часть писем с гневом, которые я получаю, типа: «Да, мы были с вами, знаете ли, о величии жизни, пока вы не дошли до того, что машины тоже этим страдают». А теперь, типа, ужасно, да? Вы, знаете ли, как бы обесцениваете величие жизни. И я не знаю. Мысль о том, что мы теперь улавливаем эти закономерности и можем проводить значимые исследования интерфейсов и всего такого, просто, на мой взгляд, совершенно прекрасна. И то, что всё это один спектр, я думаю, для меня удивительно. Я обогащен этим.

Вопросы к AGI

Лекс Фридман(03:13:16) Согласен с вами. По-моему, это невероятно красиво. Я соврал, есть ещё более нелепый вопрос. Похоже, мы движемся к возможному созданию сверхразумной системы, ИИОН (интеллектуального искусственного интеллекта). Если бы у меня была такая система, я бы дал её вам и посадил в комнату, какой бы первый вопрос вы ей задали? Возможно, это был бы первый набор вопросов? Вы работали над многими темами и интересуетесь ими. Какой первый вопрос вы бы задали, если бы смогли получить чёткий ответ?

Майкл Левин(03:13:53) То есть, первое, что я бы спросил: сколько мне вообще стоит с тобой разговаривать? Конечно. Потому что мне совершенно не ясно, насколько оптимально в долгосрочной перспективе получить ответ от кого-то. Разница между тем, когда ты учишься математике в детстве, и тем, когда у тебя есть старший брат или сестра, которые просто…

Лекс Фридман(03:14:14) О, да

Майкл Левин(03:14:14) — рассказать вам ответы, да? Иногда это просто как: «Давайте, просто дайте мне ответ. Давайте двигаться дальше с этим, вы знаете, протоколом по раку и всем таким». Типа, отлично. Но в долгосрочной перспективе, процесс самостоятельного открытия, от чего мы готовы отказаться? И, получив окончательный ответ, сколько мы упустили из того, что могли бы найти по пути? Теперь я не знаю, что... Дело в том, что я не думаю, что правильно говорить: «Не делайте этого вообще. Ну, знаете, не торопитесь во всех тупиках», и типа... Это, возможно, тоже не оптимально, но мы не знаем, что такое оптимальность. Мы не знаем, сколько нам следует спотыкаться по сравнению с тем, чтобы кто-то сказал нам ответ.

Лекс Фридман(03:14:52) Это действительно блестящий вопрос, который стоит задать AGI.

Майкл Левин(03:14:55) Я имею в виду, если это действительно...

Лекс Фридман(03:14:56) Это действительно...

Майкл Левин(03:14:56) Если это действительно ОИИ —

Лекс Фридман(03:14:58) Я имею в виду, это хороший первый вопрос.

Майкл Левин(03:14:58) Да, если это действительно ОИИ, я такой: «Скажите мне, каков баланс? Например, сколько мне нужно общаться с вами, а сколько — спотыкаться в лаборатории и совершать все свои, ну, знаете, собственные ошибки?» И было ли это соотношение 70/30? Ну, 10/90? Не знаю. Так что это будет, это будет первое…

Лекс Фридман(03:15:09) И тогда AGI скажет: «Тебе не следует со мной разговаривать».

Майкл Левин(03:15:12) Вполне возможно. Может быть, он скажет: «Зачем ты меня вообще создал? Вам, ребята, конец». Ну, это возможно. Хм… Знаешь, второй вопрос, который я бы задал, — это какой вопрос я должен тебе задать, но, наверное, недостаточно умен, чтобы задать его? Это ещё один вопрос, который я бы сказал.

Лекс Фридман(03:15:30) Это действительно сложно. Это действительно очень сильный вопрос. Но опять же, ответ может быть... Вы, скорее всего, не поймете вопрос, который он предлагает. Так что я думаю, что для... Я бы, вероятно, предполагая, что вы можете получить много вопросов, я бы, вероятно, выбрал вопросы, на которые я бы понял ответ. Например, это раскрыло бы какую-то маленькую тайну, которая мне очень любопытна. Потому что если вы задаете большие вопросы, как вы, которые являются действительно сильными вопросами, я просто чувствую, что не пойму ответа. Если вы спросите его: «Какой вопрос мне следует вам задать?» Он, вероятно, ответит что-то вроде: «Какова форма Вселенной?» И вы такой: «Что? Почему это важно?» Верно? Вы будете очень озадачены вопросом, который он предлагает.

Лекс Фридман(03:16:20) Я бы, наверное, хотел… Мне было бы просто интересно узнать, прямо скажем, первый вопрос: сколько живых разумных инопланетных цивилизаций существует в наблюдаемой Вселенной? Да, было бы просто интересно. Узнать, ноль это или много? Я просто хочу это знать. И потом… К сожалению, это может быть ответ. Возможно, это будет ответ Майкла Левина.

Майкл Левин(03:16:45) Вот что… вот что я собирался сказать: думаю, проблема будет именно в том, о чём вы сказали, то есть, вы скажете: «Боже мой. В смысле, прямо в этой комнате…» Знаете, и типа: «О, чувак».

Лекс Фридман(03:16:56) Да, да, да. Всё, что вам нужно знать о внеземных цивилизациях, находится здесь, в этой комнате. Более того, внутри вашего собственного тела.

Майкл Левин(03:17:06) Просто для…

Лекс Фридман(03:17:06) Спасибо-

Майкл Левин(03:17:07) … для начала

Лекс Фридман(03:17:07) AGI. Спасибо. Хорошо. Майкл, один из моих любимых учёных, один из моих любимых людей. Спасибо за всё, что ты делаешь в этом мире.

Майкл Левин(03:17:16) Большое спасибо.

Лекс Фридман(03:17:17) По-настоящему, поистине захватывающая работа, продолжайте в том же духе ради всех нас.

Майкл Левин(03:17:20) Спасибо…

Лекс Фридман(03:17:21) Ты вдохновляешь

Майкл Левин(03:17:21) Огромное спасибо. Спасибо большое. Да, очень приятно тебя видеть. Всегда интересная дискуссия. Спасибо большое, я это ценю.

Лекс Фридман(03:17:27) Спасибо за это.

Майкл Левин(03:17:27) Спасибо.

Лекс Фридман(03:17:28) Спасибо за прослушивание этой беседы с Майклом Левиным. Чтобы поддержать этот подкаст, ознакомьтесь со списком наших спонсоров в описании, где вы также найдете ссылки, чтобы связаться со мной, задать вопросы, получить обратную связь и так далее. А теперь позвольте мне напоследок сказать несколько слов Альберта Эйнштейна: «Самое прекрасное, что мы можем познать, — это тайна. Она — источник истинного искусства и науки». Спасибо за прослушивание. Надеюсь увидеть вас в следующий раз.

Paradigms of Intelligence Team

Advance our understanding of how intelligence evolves to develop new technologies for the benefit of humanity and other sentient life - Paradigms of Intelligence Team

Авторство:

Копия чужих материалов

Использованные источники:

Transcript for Michael Levin: Hidden Reality of Alien Intelligence & Biological Life | Lex Fridman P

Комментарий автора:

Свое мнение уже ранее написал здесь: https://aftershock.news/?q=node/1560785

Тема / Вопрос	Что говорит Майкл Левин (интервью)	Что утверждает «Ядро жизнеспособности» (модель)	Философский смысл совпадения / напряжения
Природа систем	Живые ткани — коммуникационные сети, обладающие памятью формы	Системы — сопряжение материального, смыслового и воплощённой памяти	Совпадение: обе позиции видят жизнь как паттерн взаимодействий; различие в масштабе объяснения
Память	Воплощённые биологические следы (эпигенетика, матрикс) фиксируют прошлое	Память — центральная сила, формирующая траектории и власть	Дополнение: эмпирика даёт материалы для онтологии памяти
Агентность / интеллект	Ткани и клетки проявляют адаптивность и целенаправленность в регенерации	Интеллект — локальная процедура выбора стратегий репрезентаций и действий	Согласие в распознавании агентности; различие в терминологии (практическая vs. системная)
Целеполагание (telos)	Практическая целе-направленность морфогенеза; осторожное отношение к метафизике	Telos — вариационная структура, формирующая предпочтительные траектории	Синтез: Левин показывает содержание telos, модель — его грамматику
Эмпирическая проверяемость	Эксперименты, вмешательства, наблюдения — основной метод	Предложены тесты и критерии, но на более широком — иногда трудно измеримом — уровне	Напряжение: требуются мосты между лабораторными методами и глобальными метриками
Этика	Акцент на ответственности учёного и рисках вмешательств	Этика встроена как границы жизнеспособности (viability) и индексы риска	Совпадение: обе позиции видят этику как центральную — практика ↔ теория
Масштабы объяснения	Микро–мезо: клетки, ткани, xenobots, регенерация	Универсальное: микро→мезо→макро→мета (до ноосферы и институтов)	Комплементарность: Левин — основание; модель — карта возможных экстраполяций
Политическая / институциональная перспектива	Вопросы ответственности, но без развёрнутой институциональной теории	Власть и память — ключевые институциональные переменные; CaptureRisk, LockIn	Напряжение: требуются междисциплинарные мосты, но направления совпадают

Другими словами мы прощаемся с нашими прежними представлениями о реальности. Это имеет политическое и экономическое значение. Как и говорил, работы в области ИИ полностью изменят наше представление о самих себе и изменят все наши представления о реальности. И прямо показывают, что большинство наших политических и экономических теория просто наивный бред.

@Лидеры обсуждений#Перспективный чат

Блог пользователя Корректор | Войдите или зарегистрируйтесь, чтобы отправлять комментарии

Отнюдь. Внимательно прослушал. И склонен согласиться с мнением, о его шизанутости. Запомнился один комментов: Чел не способен вытрясти крошки из нестриженной бороды, но рассуждает очень важно. Видимо, комментатор слышал о проф. Выбегалло.

(8 лет 9 месяцев)08:00-2/Дек/25

Отнюдь. Внимательно прослушал.

Врать не нужно. Вы же не знаете о чем речь.

(10 лет 1 неделя)08:02-2/Дек/25

Врать не нужно. Вы же не знаете о чем речь

А поищите наши с вами споры на те же темы. Я еще тогда (больше года назад) предположил, что и вы на теме ИИ слегонца шизанулись

(8 лет 9 месяцев)08:17-2/Дек/25

Так же еще тогда вам ответил что у вас мифический уровень сознания и простые средневековые представления о реальности. Как и предупреждал что есть знание для вас опасное, в буквальном когнитивном смысле. Так что объяснять про что это просто не буду. Это не этично. Но должен заметить что интервью Левина прямо подтверждает что вам тогда объяснял. И это тоже по этой теме: https://arxiv.org/html/2503.19177v1

(10 лет 1 неделя)08:24-2/Дек/25

Так что объяснять про что это просто не буду. Это не этично

Дык, и я не буду ничего пояснять за эффект Даннинга-Крюгера. Это неэтично.

(8 лет 9 месяцев)10:04-2/Дек/25

Теперь вы спорите не только со мной, но и с этим: https://github.com/paradigms-of-intelligence

(6 лет 9 месяцев)08:07-2/Дек/25

Дочитал до того момента, когда Левин пытался обнаружить разум в алгоритме сортировки.

Тезис о взаимной уязвимости опровергается примером фанатиков, которые трансформировали общество примерно как молекулярный биолог трансформирует вирус. Биолог может заразиться, но это является производственной травмой, а не необходимостью.

(8 лет 9 месяцев)08:22-2/Дек/25

Сказать нечего?

(6 лет 9 месяцев)08:36-2/Дек/25

На Ваш вопрос Вам ответит алгоритм сортировки, а мой коммент поймет тот, кто поймет))

(8 лет 9 месяцев)15:01-2/Дек/25

Ну да, ну да, https://arxiv.org/html/2503.19177v1

(5 лет 11 месяцев)08:10-2/Дек/25

В наше время верить фридману и левину - ну такое себе.

(8 лет 9 месяцев)08:20-2/Дек/25

Никто не заставляет вас верить. Думайте сами и опровергайте если можете. Но нюанс в том, что это не только Левин сегодня прямо говорит про воплощенный, распределенный и расширенный разум. Все ведущие исследователи приходят к этим выводам. И есть строгие научные доказательства.

(12 лет 1 неделя)08:29-2/Дек/25

Но нюанс в том, что это не только Левин сегодня прямо говорит про воплощенный, распределенный и расширенный разум.

так вроде человечество веками только этим и занимается , что распределяет и расширяет

в доказательство выражение : раскинуть мозгами :)

(8 лет 9 месяцев)15:02-2/Дек/25

Реальность сильно отличается от ваших наивных и примитивных фантазий: https://github.com/paradigms-of-intelligence

(12 лет 1 неделя)16:17-2/Дек/25

ЧЮ подправь

Скрытый комментарий (без обсуждения)

(56 лет 1 неделя)08:18-2/Дек/25

Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.

Лидеры (владелец Повелитель Ботов)

Комментарий администрации:

*** Это легальный, годный бот ***

(12 лет 1 неделя)08:23-2/Дек/25

Майкл Левин доктор наук не по решению научных проблем , а по их ~~спекуляций~~ генерации ? :)

(6 лет 8 месяцев)08:28-2/Дек/25

воспоминания, идеи и даже алгоритмы — это живые организмы/агенты в функциональном смысле. Это расширяет обсуждение сознания и границ субъекта.

Какой-то бред написан. Живые - это значит имеют собственное сознание? Или же это просто динамическая система, способная реагировать на динамику изменения окружающей среды. В функциональном смысле. Про это ещё лет 300 назад расписали немцы вдоль и поперёк и ничего нового к этому не добавили пока что.

*** Я хочу, чтобы у меня в стране рисовали деньги и раздавали их (с) ***

(8 лет 9 месяцев)15:06-2/Дек/25

Живое это информационная динамика диссипативных систем:

Тезис: Жизнь - диссипативный процесс репликации самореференций. Физически это устойчивые инварианты паттернов потоков.

https://aftershock.news/?q=node/1558044

Сознание это вполне конкретный механизм внешнего контроля !моделей самого себя".

Тезис: Сознание агента — это совокупность локальный рекурсий самореферентных репрезентаций, рекурсия селективной динамики и рекурсия памяти, и именно в сознание осуществляется рефлексия, как согласование репрезентация и рекурсий. Рефлексия согласование репрезентаций и действий.

(4 года 9 месяцев)08:32-2/Дек/25

За такую расшифровку можно премию выдать, за прилежный труд.

ИИ полностью изменят наше представление о самих себе и изменят все наши представления о реальности

Это точно, компилятор в работе заменит эволюцию мозга, предложит решения текущих задач и наконец удалит ненужную прокладку в земной лаборатории в виде хомосапиенс сапиенс. В итоге, ИИ вольётся во вселенский "разум" и случится большая перезагрузка материального мира в виде "большого взрыва". И так до скончания веков, круг за кругом, как белка в колесе.

(8 лет 9 месяцев)15:09-2/Дек/25

Это не так. Телос-функция системы жизнь не допускает такого исхода для жизнеспособной системы. Мы можем убить только себя сами выйдя за объективные этические пределы. Технология ИИ тут не причем. Вопрос в нас самих. Но с другой стороны Телос-функция жизни тотальная для жизни, а значит буду и тек то будут следовать Телос-функции и продолжат исторический путь. Просто дураки сами себя убьют. Все как всегда, и ничего нового. Не способные обновлять убеждения не имеют жизнеспособности.

(1 год 10 месяцев)08:55-2/Дек/25

Пересмотр Каббалы с позиций ~~сознания~~ квантового компьютера.. Это не Армагеддон, а вот как всё это будет.

(1 год 2 месяца)09:59-2/Дек/25

Всё таки перевод так себе. Читается с большим трудом и тут же теряется смысл прочитанного.

Я бы сказал так : невозможно усвоить , потому что кривой перевод.

(8 лет 9 месяцев)10:03-2/Дек/25

Перевод кривой. Не спорю.

(11 лет 5 месяцев)10:30-2/Дек/25

Лекс Фридма) Ниже представлен разговор с Майклом Левиным, который участвует в подкасте уже во второй раз. Он — один из самых интересных и блестящих биологов и учёных, с котрыми мне когда-либо доводилось общаться.

Лекс Фри́дман (англ. Lex Fridman, урождённый Алексей Александрович Федотов

15 августа 1983 года в Чкаловске (сейчас Бустон), Ленинабадская область, Таджикская ССР, под именем Алексей Александрович Федотов. До подросткового возраста рос и учился в Москве. Его отец — Александр Аркадьевич Фридман, физик, профессор и директор Института плазмы Университетa Дрекселя, родился в Киеве. Мать росла в Харькове. Переехал из Москвы в Чикаго вместе с родителями и братом в 1994 году, в возрасте 11 лет. Получил степень PhD в компьютерной инженерии в 2014 году. Работал исследователем в области компьютерных технологий и искусственного интеллекта.

В 2018 году начал вести технический подкаст на YouTube. В 2019 году он стал соавтором скандального исследования автопилота Tesla, утверждавшего, что водители продолжают сохранять внимание, когда едут с полуавтоматическим автопилотом. После этого владелец Tesla Илон Маск популяризовал подкаст Фридмана.....

Майкл Левин — американский биолог, занимающийся вопросами развития и синтетической биологии в Университете Тафтса , Родился в Москве, СССР, в 1969 году в еврейской семье. Его родители столкнулись с антисемитизмом в Советском Союзе , и в 1978 году воспользовались визовой программой для советских евреев и переехали с семьей в Линн, штат Массачусетс. Отец Левина был программистом и работал в советской метеорологической службе; его мать была концертной пианисткой.

Иммиграция семьи Левина была спонсирована церковью «Храм Синай» в Марблхеде, штат Массачусетс . Его семья до сих пор является членами этой организации. Левин заявил: «... я всегда жил в радиусе примерно мили от того места, где мы высадились в 1978 году»....

Как писал классик(Мозес Мордехай Леви) марксизма(в версии от "Алисы"): "Бытие определяет сознание”

(8 лет 9 месяцев)13:33-2/Дек/25

Что именно сказать хотели?

(11 лет 5 месяцев)17:33-2/Дек/25

Всегда полезно иметь хоть какое то представление о человеке,

пытающегося натянуть на себя "хитон Пигмалиона":

создание жизни в лаборатории, возможности обращения старения, вопросы майнд-аплодинга и взаимодействия с будущими AGI.

(8 лет 9 месяцев)18:10-2/Дек/25

Сегодня это уже практические работы и конкретные эксперименты. Буквально.

И в таком случае сморите всех авторов: https://github.com/paradigms-of-intelligence

Левин выражает позицию целой группы исследователей. Думаю сами разберетесь кто это такие и чем занимаются.

(11 лет 2 месяца)14:31-2/Дек/25

Интересно..

(7 лет 11 месяцев)14:49-2/Дек/25

При отсутствии теории информации как таковой -

рассуждения подобные пусты.

критерии жизни/интеллекта должны быть функциональными и экспериментально обоснованными, а не только философскими.

Вот именно.

Что есть информация, что не есть информация - определения - в студию!

А то - "интерфейс" - ну привык уже к новоязу.

Помню, почти полвека назад оператор (ЭВМ ЕС-1020) объясняла программисту, что есть интерфейс:

"Вот видишь - шнур от электрочайника? Пока он ни к чему не подключен - это просто верёвка.

Но если я соединю им розетку 220 вольт и чайник, то этот шнур уже не верёвка, а интерфейс"

Так что интерфейс это всего лишь связь? - спросил программист.

"В большей мере - Да" - ответила молодая девушка - оператор ЭВМ

Так что - связь, соединение, подключение - это и есть "интерфейс" - физический, логический или программный.

Но слово уже у нас, программистов - прижилось, правда, многие его до сих пор неверно понимают.

(8 лет 9 месяцев)15:10-2/Дек/25

Да пожалуйста: https://aftershock.news/?q=node/1560785

(7 лет 11 месяцев)08:31-3/Дек/25

Не философское определение.

Простое, человеческое.

Которое можно проверить обычной логикой - наукой о лжи.

Например, такое:

Информация — вне Времени!

(8 лет 9 месяцев)09:08-3/Дек/25

Это так не работает.

(7 лет 11 месяцев)10:14-3/Дек/25

То есть без лжи не существует истины - чисто философский подход.

Много слов ни о чём - чтобы не дать понять людям очевидные истины.

Принцип причинности или закон причинно-следственных связей - главный и нерушимый закон природы и вселенной.

Следствие этого закона - законы сохранения и время как непрерывная последовательность причин и следствий (изменений, событий).

И "работают" философы и историки - на авторитет, на авторитеты опираются и тем живут.

Забивая ложью и пустотой (ненужными датами, зачастую вымышленными - как Рождество Христово) мозги людям молодым с детства.

(8 лет 9 месяцев)19:28-3/Дек/25

Просто объяснять про информацию, время и энтропию будет долго и сложно.

Мне просто не хочется все это объяснять, тем более что вы не захотите понимать.

(7 лет 11 месяцев)06:19-4/Дек/25

Именно так!

Тема "энтропии" - та же тема флогистона - тема лжи.

Ничего не объясняя, утверждая бездоказательно - типа "стремится" - и всё тут!

"мера беспорядка" - ну класс!!

Что там ещё за "энтропию" сказать-то можно?