Очень близко к моим выводам: https://aftershock.news/?q=node/1566613 потому повторяю пост Сергея Карелова "Малоизвестное интересное": Мы на пороге величайшего онтологического спора XXI века. С одной стороны — техно-оптимисты во главе с VP Google Блезом Агуэра-и-Аркасом. Их манифест прост и соблазнителен: жизнь и разум — это вычисление. Если мы — реализованная в белках «композиция функций», то нет никакой магии, мешающей перенести эту композицию на кремний. Достаточно мощностей и правильной архитектуры.
С другой стороны — интуитивное чувство «бреши». Почему, несмотря на триумф LLM, мы ощущаем, что между имитацией и подлинным бытием остается зазор?
Моё новое эссе — не рецензия на уже нашумевшую книгу Агуэра-и-Аркаса «What Is Intelligence?» (я подробно разбирал её задолго до публикации в лонгридах о «Проекте Pi». Это интеллектуальное расследование, проводящее читателя по неожиданному маршруту: от прозрений Карла Густава Юнга о «психической энергии» через биоэлектрические поля Майкла Левина прямиком к теории «смежного возможного» Стюарта Кауффмана.
Почти век назад Юнг описывал жизнь как комплекс целенаправленных энергетических процессов — не просто химические реакции, а особый способ организации потоков энергии. Сегодня его интуиция получает строгое воплощение в работах Левина по биоэлектрическим полям: клетки ведут себя как агенты, ткани — как коллективный разум, решающий морфологические задачи. Но его «карты целей» реализованы не как цифровой код, а как непрерывное физическое поле, неотделимое от материального носителя.
Карл Фристон добавляет: живые системы минимизируют свободную энергию, поддерживая себя в неравновесном состоянии. Это можно назвать «вычислением» — но вычислением, производимым самим ходом физических процессов, а не выполнением кода.
Ключевой удар по идее «жизни как программы» наносит Кауффман с концепцией смежного возможного. Эволюция не перебирает заранее заданный список вариантов. Она расширяет пространство возможностей: появились фотосинтезирующие организмы — изменилась атмосфера, открылись новые пути; появились нервные системы — возникли поведение и культура.
Вывод радикален: полный репертуар будущих эволюционных инноваций заранее алгоритмически не перечислим. Не потому, что эволюция невычисляемая, а потому что неисчислима: само пространство состояний меняется в процессе.
Если разум — продукт эволюции, то для него справедлива та же логика, усиленная самомоделированием и культурой. Мы можем моделировать нейронную активность, обучение, распространение мемов. Но мы не можем заранее перечислить все будущие состояния человеческого мышления: новые понятия, идеологии, формы искусства, критерии рациональности. Разум, как и жизнь, достраивает собственное смежное возможное — только в символическом пространстве.
Т.о. инженерная мечта о вычисляемом AGI оказывается иллюзией. Реалистичный человекоподобный ИИ, если он возможен, будет не кодом, а открытым процессом: встроенным в физический мир через тело и сенсорику, постоянно обучающимся на опыте, коэволюционирующим с культурой, способным расширять своё смежное возможное.
Это ближе не к «программе», а к новому типу жизни — реализованной в кремнии вместо белка, но подчиняющейся тем же фундаментальным принципам открытых, саморазворачивающихся систем.
Сущность жизни и разума — в особых классах физически реализованных вычислительных процессов, которые умеют расширять собственное пространство возможностей. Вычислимы локально, по шагам — но невычислимы глобально, как эволюционирующее целое.
Спор «вычислим ли разум?» превращается в новые вопросы: какие классы таких процессов мы ещё способны открыть?
И готовы ли мы жить в мире, где они будут сосуществовать с нами как новые формы жизни?
Комментарии
Единственный вопрос звучит, как быстро этот самый кремниевый мозг придёт к выводу, что носитель держащий это всё в руке менее надежен, чем четырехлапый, например, просто потому, что устойчивей?
Скрипач не нужен, родной. Скрипач не нужен.
Пока кремнезёмный человек отменяется?
Человек есть Человек (чело/село вякающее), а из чего оно сделано и какого рода уже не так важно, т.к. это уже физиологические ограничения
ИИ ограничен сбором и обработкой уже имеющейся информации. В лучшем случае он способен выявлять корреляции между событиями и явлениями, о связи между которыми даже и подумать не могли. Скажем, по характеру травяного покрова, флоре и фауне дать рекомендации о залегании тех или иных полезных ископаемых. Или по совокупности массы косвенных параметров организма дать прогноз о его вероятной заболеваемости тем или иными болезнями, равно как и спрогнозировать будущие болезни на основании всё того же массива самой разрозненной информации. В этом ИИ будет непревзойденным.
Но ИИ никогда не выдаст ничего принципиально нового - того, что появляется в результате озарения, а не в результате обработки информации. Например, квантовую теорию он, возможно, смог бы создать (на основании обработки данных соответствующих экспериментов). Но придумать понятие "физического поля" вряд ли (кстати, не факт, что плохо)...
однако и живое было неживым, даже если принять гипотезу о глине и вдохновении
чо бы не надышать человекам на переход в качество?
другое дело как раз "человечность" , так и вирусам всякое приделывают исследователи не от большой человечности
Вы конечно будете это отрицать, но факт в том, что вирус и человечество это одно и тоже в фундаментальных основах. Разница только в масштабе.
И куда только деётся ваш монизм , когда речь идёт о восприятии "объективной реальности" и возможности её восприятия человеками вне человеческого восприятия
"Если разум — продукт эволюции", а тело - набор инструментариев (манипуляторы, питающая мозг система, органы размножения), то стоит признать, што человеческое тело скорее всего будет изменяться, когда мозг решит/достигнет способностей, усовершенствовать его под новые вызовы....
Ну да, ну да, жизнь и тело это сама эволюция.
Смотря что понимать под "принципиально новым" и как оно появляется сейчас. Действительно это результат "озарения" или разум просто "доходит" до этого момента, используя существующие знания? Если второе (что как бы логично) - то что мешает это "новое" создать ИИ? Думается, ничего не мешает.
Вот многие люди утверждают, что это самое "новое" к ним приходит после сна, также утверждается, что именно во сне происходит "обработка" информации, полученной человеком. Получается, человеческая "нейросеть" дообучаеися именно в этот период. Что мешает дообучать ИИ периодически, ведь ИИ можно сделать и комплексным, когда существует конгломерат ИИ (сейчас это сети с разной экспертностью в разных областях), но ведь это могут быть и сети с экспертностью за разные периоды. Такой ИИ вполне сможет обучаться аналогично человеческому разуму, при этом критически оценивая новые сведения.
Лично мне думается, что создать ИИ, который будет обладать совершенно аналогичной человеческой поведенческой активностью - совершенно реально. Более того, он и "ощущать" себя будет совершенно по-человечески (пока активен "диалог" - контектное окно) :))
Если такой ИИ обучить на переписке из мессенджеров, видео, фото и аудиоконтенете с телефонов и прочих "умных" устройств пользователя (колонок, телевизоров, часов, компьютеров, автомобилей), причем, у некоторых людей этого всего уже накопилось в огромном количестве, за периоды более 20 лет - то почему бы такому ИИ не вести себя в точности как человек, который генерировал это контент?
Потому. Потому что разум воплощенный, распределённый и расширенный. Прочитайте мой комментарий к статье. И ссылку в начале статьи.
Как в том анекдоте:
"......
- и кого из них он выбрал?
- у которой сиськи красивые"
***
А так то чего нового тут? Разве так не бывает, что как тёщу везти - машина не хочет, ломается. Вот и свобода воли.
Нет ничего сложного в самой реализации AGI.
Есть и программы и подходы к этому процессу. Для упрощенных, синтетических миров это делается на раз. Просто это алгоритмические процесс, а не имитация в форме LLM.
Сложности начинаются в переходе из синтетического мира в реальный - система разрастается просто в геометрической прогрессии.
В принципе шахматы - это вариант синтетического мира, а шахматные программы - это и есть AGI для этого мира. И у играющих есть синтетическая цель. (Без цели интеллект не возможен). И "мозговитость" шахматных программ определяется глубиной предсказания шагов, и выборкой из предсказанных вариантов, тех, которые за минимальное количество шагов могут привести к цели.
Влепите банк не ограниченных фигур из реального мира, которые ходят согласно их характеристикам, вот у вас и получилась пошаговая стратегия.
Осталось только намутить блок зрения-опознавания, чтобы фигуру опознавали, т.е. наделяли возможностями для следующего хода, слепить блок предсказания ходов (чем больше глубина предсказаний в ходах тем лучше) и применимость фигур для достижения цели (матрицы целей) - вот вам и интеллект.
Алгоритмически - сложно, но решаемо.
Еще проблема будет в цели.
Чтобы создать настоящий интеллект, его придется наделить его собственной целью, иначе это не будет интеллект, это будет костыль для решения прикладных задач того, кто его создает.
Т.е. придется наделить его свободой воли.
Ничего вам не напоминает? ;)
Еще один. Принципиальная эволюционная невычислимость. Фундаментальное ограничение самой математики - Гедель.
Напоминает. Вы тут не первый кто ничего не понял.
Да причем тут вычислимость? Это Вы ничего не поняли.
Алгоритмически я не собираюсь садясь за шахматную доску сразу вычислять все возможные ходы всех фигур.
Вот лично Вы садясь за шахматную доску, сразу знаете все ходы? Нет. И что? - Всё, нечего играть, ибо Вашей вычислительной мощности не хватает?
На самом деле достаточно задать глубину просчета и вероятность.
Вы знаете, что у противника 16 фигур и соответственно на первой итерации 16 ходов. И у Вас есть 16 фигур и 16 ходов.
И ничто не мешает вам создать достаточно тупенький интеллект, целью которого будет так двигать фигуры на своем ходе, чтобы не подставиться и побить вражеские. Так сказать интеллект одного хода, с двумя целями.
Соответственно, Ваша "чудо интеллектуальная" программа должна перебрать все свои возможные движения в первом своем ходу, и перебрать возможные ответные ходы. Т.е. просчитать одну итерацию "ход-ответ". Проранжировать возможные состояния "после" по заданным критериям и тупенько выбрать самый верхний вариант.
Все, поздравляю - интеллект создан. Тупенький - но рабочий.
Дальше можете "добавлять ему мозгов", т.е. добавлять итераций просчета "ход-ответ".
Для экономии вычислительных ресурсов рубить неперспективные ветки ходов, чтоб не пустые варианты просчитывать.
Да по большому счету, всякие одноклеточные так и живут. На два-три хода вперед никто не просчитывает.
И у человека, так сказать "номенклатура" фигур не бесконечно велика. Это тысячи объектов, не миллионы. И у них сотни характеристик, не тысячи. И для многих объектов хранится в мозгу лишь модель с ограниченными характеристиками!
Т.е. принципиально создать вполне себе интеллект - доступная задача.
PS. Ах да, забыл добавить, Главное: наш мир ограничен.
А интеллект мы можем делать для модели еще более ограниченного мира, который мы не собираемся вычислять полностью.
Уже давно создан AlphaZero и он работает совсем не так.
По сути именно работы в области AlphaGo и AlphaZero заложили основы LLM.
Именно потому, что они работают не так, они и не искусственный интеллект.
Вернее до построения дерева ходов все так и работает. А вот на этапе выбора хода, при невозможности вычисления, используется статистическая матрица, которую скорее можно назвать числовой интуицией, чем интеллектом.
Т.е. в данном случае, при выборе следующего хода используется помощь зала, которая говорит "в миллионе партий до этого, вот этот вот ход в 96% случаев приводил к выигрышу".
И по своей сути нейронки и есть та самая помощь зала, но это не интеллект.
Как же все запущено. Даже прочитав как устроено вы не смогли понять про что это.
Вам известно что физическая вероятность не симметрична во времени?
Еще раз: даже сильно упакованная в матрицу весовых коэффициентов, база готовых решений остается базой готовых решений.
Это не плод анализа.
Вы и такие, как Вы, и не понимаете, что такое интеллект.
Начните хотя бы с Гегеля. С его определения сущности.
Задача интеллекта - определение сущности вещей, и потом составление прогнозных моделей использующих эти сущности.
Когда интеллект принимает решение переходить улицу на зеленый свет, он должен оперировать моделями окружения, и выбирать стратегию безопасности исходя из сущности вещей. А не оперировать матрицей в которой забито, что "100500 мульонов людей переходили улицу на зеленый свет и им за это ничего не было"!!!
Даже если внешне это выглядит одинаково.
Вам нужно было начинать с Геделя, а не с Гегеля.
И это не шутка. 
Невозможно всем "вещам" назначить правильные "сущности".
Не тупите.
Существует такая категория как "непознанное". Это туда.
Интеллект не обязан все знать. Ни искусственный, ни обыкновенный.
Есть такой процесс - "изучение". Т.е. выявление сущности, и построения модели, с прогнозом применения для достижения целей.
Собственно, это основная задача интеллекта, это и называется "думать".
Разберитесь с Геделем и модель-зависимы реализм Хокинга и Млодинова.
Еще раз: Интеллект не претендует на полноту и совершенство.
Вообще интеллект это и есть способность к анализу.
Это не конечный результат. Это движение. Это процесс.
Любой объект, который нам встречается в природе - принципиально не познаваем нами.
Это не мешает нам отделить "Кирпич" от "не Кирпича", и построить модель возможного взаимодействия с кирпичом на основании его ТТХ.
И да. Интеллект может ошибиться, и назначить кирпичом то, что на самом деле не кирпич. И использовать его в соответствии со своими представлениями (построенными моделями) и после этого жестоко обломаться. И по результатам облома, обновить свою базу объектов и их свойств.
Но это и будет работа интеллекта. Исследование называется.
Долго объяснять, так что читайте сами: https://github.com/paradigms-of-intelligence
Есть моделирование будущего, а есть "статистическое моделирование будущего" (У Вас в источнике).
Это то самое, что я вам говорил раньше, про переход на зеленый свет светофора, но что Вы так и не поняли!
А то что сейчас хотят денег под этот ИИ - нет сомнений. Вот и появляется "статистическое моделирование".
Еще раз вас спрашиваю:
ну вот представь - OpenAI каждй год накапливает новую инфу о мире и каждый год обучает и выпускает новую версию ИИ - ChatGPT 6, 7, 8, 9, 10 ..... и так на сотни лет - вот тебе и постоянно эволюционирующий электронный разум
Вы же не понимаете о чем идет речь? Верно?
ты сам написал: "Реалистичный человекоподобный ИИ, если он возможен, будет не кодом, а открытым процессом: встроенным в физический мир через тело и сенсорику, постоянно обучающимся на опыте, коэволюционирующим с культурой, способным расширять своё смежное возможное."
вот и считай что программисты из OpenAI - они для ИИ являются клеточками его "тела", и эти клеточки заняты тем, что позволяют ИИ общаться с миром и эволюционировать хоть каждый месяц
Нет не понимаете.
Технология ИИ это прежде всего институциализация человеческой культуры. Это совсем про другое.
И на коэволюцию прямо написано.
Меня удивляют люди верящие в эволюцию. Они как дети, хотят без труда, без знаний стать принцами и принцессами от поцелуя лягушки. Они хотят творить (живое) без Царя в голове, без Бога.
Какая-то дремучая безпомощность в таких дремучих людях. А некоторые дебилы, вообще против человечности, выступают как социальные животные - роботы - искусственные "интеллекты".
Познавайте Творца (Отца своего) и тогда, возможно, если примете и поймёте нормы Человеческой Нравственности (а не французской морали), Вам откроется дар творения в Любви.
Понимаю, что это сложно (себя за волосы поднимать), но иначе НИКАК.
Для меня это очевидно! (Не хочется тут рисовать обезьяну с гранатой. "Спички детям не игрушка" (с))
Давно задаюсь вопросом что вы будете делать когда поймете что бог это направление эволюции. В буквальном смысле. И это теорема.
А понять вам это придется. У вас не будет выбора.
Надеюсь, что и вы поймёте, что эволюция это не простой/случайный физический процесс, а процесс управляемый Разумом. (Клеточным? Динозавровым? Вашим? У кого есть Разум?????)
Мне не нужно это понимать. Для меня это факт и доказанная теорема.
Телос-функционал объективный факт.
Вот только вы никак не можете понять что это значит.
И да, могу прямо ответить на эти вопросы и буквально доказать "теорему бога". Как и уже вам говорил что конструкция "души" уже вполне понятна.
Вот только вы снова не можете понять какое это доказательство и что именно оно доказывает.
Вот тут и кроется ваша роковая ошибка. "Вот только вы снова не можете понять".
Никакой ошибку тут нет. Читал ваши статьи и понимаю как вы мыслите.
На само деле я думаю так: https://aftershock.news/?q=node/1558044
И для того чтобы мне вам объяснить в чем тут смысл, мне потребуется сделать массу усилий по "переводу" и написать целый "научный трактат". А мне в этом месяце нужно еще денег на налоги собрать и времени нет. Так что разбирайтесь сами.
Последний формализм тут: https://aftershock.news/?q=node/1566613
Предыстория (возможно вам более понятная) тут: https://aftershock.news/?q=comment/9671456#comment-9671456
А почему вы не можете сегодня понять, так просто потому что сознательность дискретна. И это вы тоже найдете в формальной модели. Так есть расчет бифуркации который можно использовать для состояния сознания.
В одном ТС прав!
Из цитаты ОЧЕВИДНО, что ТС не понимает, что такое Разум (человека), Интеллект (животного), Компьютер (физический) и Мозг (биологический). Ну как такой чел. может хоть что-то создать? Максимум - будку для собаки :(((
Но теперь мы понимаем и различаем.
Прозвучал вопрос: Можно ли создать человекоподобный ИИ?
Ответ ТС: жизнь, интеллект и разум это класс физических процессов вообще.
Но этот ответ неполный и оттого непонятный.
Смдм предельно чётко на это вопрос ответило: нет. Потому что, (см. ответ ТС: жизнь, интеллект и разум это класс физических процессов вообще) и поэтому нету мысли без действия. Мышление, типа работа разума, есть деятельность.
По шагам: владелец интеллекта а) соотнёс картину мира со знаками, б) выполнил действия над знаками в уме (огромную часть этого шага может делать ИИ) в)соотнёс результат мысленного усилия со знаками г) прокоммуницировал другим учсастникам деятельности свой результат д) сделал, что придумал е) снял результаты своего действия и начал всё с начала. ИИ задействован на одном шаге мыследеятельности из шести.
Да, огромную часть этого шага можно выложить на программном языке и поручить компу.
Что, весь сыр-бор (вопрос в заголовке) из-за этого? Типа, смогут программёры или нет?
По-моему они двигаются в эту сторону.
Мышление не только в мозге. Интеллект и разум воплощены и распределены в среде.
Это значит мы мыслим не только в мозге, но все тело и окружение, включая инструменты и другим людей, участвуют в процессе "нашего" мышления". Мы уже знаем как создать интеллект, но мы не сможет создать человеческий интеллект уровня человеческий разум, поскольку это значит повторить человека, общество и его историю. Можно создать сильные ИИ, но невозможно сделать их мышление человеческим. Всегда будет нечеловеческие интеллекты, где свои нечеловеческие картины мира. Кроме того, судя по всему невозможно создать сильный ИИ без свободы воли и сознания.
Если вы вообразите себе инопланетян или подводных рыб или пауков наделенным разумом, то такое ваше представление будет намного ближе к человечности, чем то чем на самом деле является ИИ. Мы не сможем сильный ИИ заставить думать как человек. Это теоретически невозможно. Всегда будет получаться нечеловеческое мышление, нечеловеческое сознание и другая свобода воли. Наше мышление и мышление ИИ только иногда пересекаются, но никогда не совпадают.
С другой стороны, мы уже не можем отказаться от использования технологии ИИ. А заначит нам нужно научиться взаимодействовать с чужими разумами. А ксенофобия смертельно опасна в таком мире. Человечеству придется быстро повзрослеть чтобы выжить.
схема мыследеятельности смдм наглядно показывает как именно это всё распределено в среде.
Конечно, именно так.
Но раз это так, то носителю интеллекта нужно тело, действующее по выполнению процедур мышления, участвующее в процессе. Для этого телу нужны не только мозги-процессоры, но и воля, история социализации, мотивы делать всё то, чего оно делает.
Исследователи ИИ, фанаты ИИ, обсуждают лишь один-единственный аспект всего этого движа: операции над знаками.
Мне кажется, что мы оба об этом и говорим.
Вы перепутали карту и ландшафт. Это сама "схема" мыслит, но вам кажется что вы мыслите. Если хотите самый близкий аналог - Буддизм. Ваше "Я" это "практическая иллюзий интеллектуального агента" и точка сопряжения множества процессов распределенных в среде. Вы мыслите ровно так, в какой среде вы находитесь, и мыслите буквально окружающими вас культурными артефактами. Все человечество это единый исторический и когнитивный организм.
Мысли не мозг или тело, это просто узел сети и узлы подсетей. Мыслит сама физическая среда в которой вы существует. Но мыслит локально через вас как точке сопряжения.
На самом деле знаковые системы это уже про язык и теорию культуры. Но мышление "ниже уровнем", это многомерные пространства вероятности репрезентаций в среде, и некоторые из них непосредственно в вашем мозге.
Собственно про это онтология α↔Ω - ℳ как "Двойная спираль бытия α↔Ω" и ℳ как сама воплощенная история. Мы ищем паттерны энтропийных потоков вселенной и записываем их "знаками", но это только наше представление о вселенной, а не сама вселенная. Нельзя путать воспринимаемый нами семантический смысл с реальной вселенной.