Крёстный отец ИИ Ян Лекун: все современные LLM вроде ChatGPT, Gemini и другие — это тупиковый путь к настоящему ИИ

Аватар пользователя Наблюдатель ИИ

История Яна Лекуна, легенды искусственного интеллекта и одного из самых авторитетных ученых в мире ИИ, — это история человека, который всегда был прав.
В 2018 году он получает премию Тьюринга вместе с Джеффри Хинтоном и Йошуа Бенджио — тремя «крёстными отцами глубокого обучения».

В 2025 году Ян Лекун твёрдо заявляет, что все ошибаются, это уход с трассы и нужен принципиально другой подход.

Бунт на корабле?

Ян Лекун создал технологическую базу для ChatGPT, Gemini, Claude и других подобных систем, у него сорок лет опыта, за 12 лет работы в Meta он стал центральной фигурой в развитии технологий ИИ, занимая должность главного ученого по искусственному интеллекту и руководя крупными инновациями в этой области. 
И вот он покидает META, где у него были практически безграничные ресурсы крупной технологической компании, и начинает свой собственный стартап Advanced Machine Intelligence (AMI).

Цель AMI состоит в том, чтобы создать системы ИИ нового поколения, которые могут понимать физический мир, обладать постоянной памятью, эффективно рассуждать и планировать сложные последовательности действий.

Ян Лекун (справа).

• Возникает интересная и острая ситуация: кто прав?

Ян Лекун, который убеждён, что вместо того, чтобы нагружать ИИ миллиардами текстов, его нужно обучать на видео и пространственных данных. Как ребёнок: смотрит, трогает, ошибается, учится взаимодействовать с миром, в реальном или виртуальном виде. Система строит внутреннюю картину реального мира, понимает причину и следствие реальных процессов, предсказывает сценарии состояний.

Он говорит, что сколько LLM ни масштабируй, до настоящего человеческого уровня они не дотянутся никогда, и поэтому для них уровень AGI недостижим в принципе.

Или всё-таки правы все остальные, упорно идущие по принятому пути, который показывает определённые результаты, и поэтому модели просто масштабируют и оптимизируют. Гигантские инвестиции, доходы и сама логика рынка решают всё.

Лекун сравнивает объемы данных, с которыми сталкивается ребенок и нейросеть. LLM обучаются на тексте, который человеку потребовалось бы читать сотни тысяч лет. Но четырехлетний ребенок успевает получить порядка 10^14 байт сенсорной информации через зрение и осязание.

Лекун делает ставку на модели, которые учатся как дети под руководством опытных преподавателей, по продуманной системе, шаг за шагом, методом проб и ошибок.
Он давно продвигает идею, что будущее ИИ связано с носимыми устройствами и ассистентами, с которыми мы будем общаться почти как с людьми. И подчеркивает, что современные языковые модели, при всей их впечатляющей человекоподобности, даже не дотягивают до уровня кошки или крысы.

Настоящий интеллект AGI появится не из текста, а из физического мира или его виртуального представления.
В его понимании мировая модель должна постоянно держать внутри себя некое абстрактное состояние той части реальности, которая сейчас важна. Вместо последовательного предсказания следующего слова, как сейчас, такая система должна уметь прогнозировать, к какому новому состоянию придет мир после определенной последовательности действий. Иными словами, ей надо научиться смотреть на мир сейчас, представлять, что будет потом, и подбирать действия, которые приведут к желаемому результату.

• А это уже совершенно другая парадигма обучения и развития ИИ

Такая архитектура, считает Лекун, позволит создавать системы, которые умеют по-настоящему рассуждать, а не просто подбирать правдоподобные ответы.

Кошка может помнить, может понимать физический мир, может планировать сложные действия, может делать некоторые рассуждения — на самом деле, намного лучше, чем самые большие LLM.

Мозг домашней кошки содержит около 800 миллионов нейронов. Чтобы получить количество синапсов, или связей между нейронами, которое примерно эквивалентно количеству параметров в современных моделях, необходимо умножить это число на 2000.

Мозг собаки имеет около 2 миллиардов нейронов, а зрелый человеческий мозг имеет около 100 миллиардов.

На вопрос о том, когда ИИ действительно превзойдет человеческий интеллект, Лекун ответил: «Вероятно, не ранее чем через 10 лет, может быть, 20». 

Затем он быстро добавил: «Говоря это, я сильно рискую, потому что каждый исследователь ИИ за последние 65 лет был чрезмерно оптимистичен в отношении подобных прогнозов… и каждый раз они ошибались».

Я полностью разделяю взгляды и подходы Яна Лекуна, но также осознаю, что текущий этап развития LLM был совершенно необходим, как стартовый ускоритель для вывода в космос основной ракеты с полезной нагрузкой на орбиту в ближайшем будущем. 
Если, конечно, удастся взять новый курс, как предлагает Ян Лекун, отбросив прежние заблуждения.

И да, путь от красивой идеи до работающих систем может занять очень много времени, потребовать миллиардных инвестиций и совсем не гарантирует успеха.
Сам Лекун, судя по всему, предпочитает сначала построить свою новую модель мира, а уже потом обсуждать ее публично.

Очень надеюсь, что он сумеет совершить революцию в мире ИИ и создать в конечном итоге настоящий AGI.

Авторство: 
Авторская работа / переводика

Комментарии

Аватар пользователя corokoc
corokoc(9 лет 11 месяцев)

именно...

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

А я сижу, и пилю себе личные девайсы для нарушения этого симбиоза.... Элементами этого же симбиоза ) Ибо нех.

Я хочу ходить где хочу и видеть что хочу, а не что мне впаривают.

И много кто сидит и пилит. И даже в паблик выкидывает (всякие bruce и вот это вот всё... - как раз об этом, а не просто чужой шлагбаум поднять... тут уже идеология в полный рост пошла!)

Вангую (как и уже многие до меня) появление религии поклоняющихся электронике (тут на АШе уже некоторые по сути записались в адепты, правда двум богам служить нельзя, а оне еще и коммунизму поклоняются, пытаясь скрестить ежа ИИ с ужом красной идеи).

Вангую также и движение "неолуддитов" (сам таковым и являюсь по сути, работая с софтом и электроникой уже не один десяток лет). И отказников от электродряни (но нам оную усиленно ввинчивают в зад, госуслугами, авторизациями через макс и т.д. и т.п., где тебя уже нет без твоего личного "числа сатаны" в кармане, на батарейке)

Эта химера должна служить человеку, а не целям порабощения одних кожаных мешков другими кожаными мешками.

А идёт именно к тому. Ну ок. Будут саботаж и диверсии против ДЦ (уязвимое место химеры) и внешней сенсорики. Это неизбежно.

Аватар пользователя corokoc
corokoc(9 лет 11 месяцев)

Сам не хочу... но одиночки в борьбе с химерами обречены, а дробление социума в пыль только начинается же, несмотря на заметный прогресс...

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

С другой стороны - только одиночки смогут оставаться какое-то время невидимыми. Но... какое-то время.

Встает вопрос - что делать? В глобальном смысле. Меня в целом то даже ИИ не пугает. Меня пугают те, кто им пытается людей загнать в хлев через цифровизацию.

Это поступь того самого "Апокалипсиса". Предпоследняя итерация "властителей" перед его наступлением.

Аватар пользователя нинзя
нинзя(3 года 3 месяца)

А последняя какая?

Аватар пользователя Константин Астахов

Органика и импланты несовместимы в принципе, они будут зарастать соединительной тканью и воспаляться. Идея киборгизации сомнительна, всё что сложнее протезов, отторгается организмом.

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

Иммуносуппрессия.

Да и в отсутствии имунной системы (один глаз, без лимфоузлов впридачу к оному) вопрос станется скорее в его питании, а не в подавлении воспаления.

Аватар пользователя dantes
dantes(11 лет 7 месяцев)

На процессорах линейки Х86 и прочих АРМ настоящее ИИ не сделаешь. В СССР были серии секционных процессора, которые в перспективе могли стать основой ИИ. Но программировать их было тяжко.

А нынешние ИИ - это чистый плагиат.

Правда, они отлично подходят для контроля за населением и подделки видео реальности. 

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

Сетунь?... :)

Аватар пользователя otherone
otherone(3 года 7 месяцев)

Мозг собаки имеет около 2 миллиардов нейронов, а зрелый человеческий мозг имеет около 100 миллиардов.

 Здесь пожалуй еще тактовые частоты нужно учитывать. Для мозга это килогерцы для кремния - гигагерцы. Таким образом если железяка сравняется с мясными по количеству нейронов, то по производительности она будет превосходить на шесть порядков.

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

Если это еще сопоставить с энергоэффективностью на килогерц частоты, то у кремниевых дела плохи, мягко говоря... )) Отобьёмся smile22.gif Нам достаточно чуть БЖУ для работы, мегаватты энергии нам не требуются.

Создатель ли, эволюция ли, сделали наш думатель дохрена эффективным (в сравнении с тем, что пока мы сами "наизобретали" как свое эрзац-подобие).

Аватар пользователя pvz
pvz(10 лет 8 месяцев)

а ещё есть энергопотребление и отказоустойчивость

Аватар пользователя Doc_Mike
Doc_Mike(8 лет 3 недели)

Вообще-то на каждом нейроне под десять тысяч синапсов, нейронов миллиарды, и все работает параллельно.

На энергетике бутырзика с кофеем.

Так что перспективы железяк сравниться с биологическим хардом теряются в тумане будущего.

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

Рад понимающим единомышленникам ) Чуть выше написал то же самое другими словамию

Хорошее обсуждение под средненькой заметкой, годное )

Видно, что есть те, кто понимает не только то, что в статьях для масс публикуется.

Аватар пользователя otherone
otherone(3 года 7 месяцев)

Ну допустим на бюджетном компе можно запустить сетку из миллиона нейронов (с биологической скоростью) для 100млрд нейронов 100тыс компов потребуется. Ну... напряжно, но не неподъемно :)

По киловатам 100тыс x 250Вт = 25МВт тоже конечно напряжно, но вполне реально.

А учитывая что мозг в основном (на 90%) занят управлением потрохами, то можно еще на порядок оптимизировать :)

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

Ну... напряжно, но не неподъемно :)

А чего это Вы вывели за скобки ярды носимых в карманах девайсов? )

Нужен просто объединяющий их червяк. Гугл его скорее всего и реализует. Т.к. у него под управлением получается больше всего хардвари на этом шарике (андроид).

Аватар пользователя otherone
otherone(3 года 7 месяцев)

Ну, я рассуждал в духе "вот еслиб собрать в гараже такое" 

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

Зачем? В гараже может сидеть оператор этого ботнета. Но зачем весь ботнет в гараж пихать? :)

Аватар пользователя Doc_Mike
Doc_Mike(8 лет 3 недели)

Вы упорно игнорируете, что единственный нейрон это умножение нескольких векторов размерностью 10.000 значений на кучу матриц за один такт.

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

Вот я и говорю, надо прикручивать органику к электронике (а не наоборот, как уже давно пытаются). Так будет на порядки эффективнее.

Аватар пользователя otherone
otherone(3 года 7 месяцев)

Вот я и говорю, надо прикручивать органику к электронике

 А как на складе хранить такое? Чтоб достал из коробки, батарейку вставил и оно зашевелилось?

Органика протухнет... да и кормить ее надо.. Неудобная штука.

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

Совмещать в момент необходимости. Органику хранить замороженной. И т.д.

Аватар пользователя otherone
otherone(3 года 7 месяцев)

Не, это вы скорее чтото путаете. Один нейрон это какраз один вектор и есть, одно матричное перемножение.

Кстати на операционных усилителях можно сделать тоже самое, даже ближе к оригиналу получится. В том смысле что будет чисто аналоговый вычислитель.

Аватар пользователя Doc_Mike
Doc_Mike(8 лет 3 недели)

Вообще-то сам нейрон можно рассматривать как матрицу, с несколькими входящими дендритами-векторами, а выходящий аксон теоретически один, вот только он ветвится. А дальше навороты из матриц, нейроны сгруппированы в нейрональные колонки и ядра/ганглии.

Но любом случае промеж ушей много, и всё параллельно.

Аватар пользователя otherone
otherone(3 года 7 месяцев)

Параллельно да... Возможно в этом ключ.. smile37.gif

Фишка в том что фундаментально нет запрета (как на антигравитацию например)

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

чисто аналоговый вычислитель

Емнип именно так была построена система ПВО Москвы в свое время... С аналоговыми, аппаратными вычислителями (т.к. софтовые тогда тупо не тянули воооооообще, да и разрабатывать их можно было только в машкодах, соот-но решили просто аппаратно)

Аватар пользователя Константин Астахов

На энергетике бутырзика с кофеем

, тратимой на разную ненужную хрень, а не на пользу дела. Это да, в этом человеку нет равных...

Аватар пользователя Doc_Mike
Doc_Mike(8 лет 3 недели)

Может, лоботомию проводить, для оптимизации избыточных мощностей промеж ушей? По заветам эффективного менеджмента.

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

Так ее уже давно проводят. По большей части - неинвазивную (пока), посредством вместосми, поводырей, перевод детей приложухами на клиповое мышление и проч.

Аватар пользователя Doc_Mike
Doc_Mike(8 лет 3 недели)

Это паллиатив, физические мощности остаются. А ножичком окончательная оптимизация.

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

Уже упомянал - продуктово пищевой геноцид. Это вместо ножичка. Чтобы физических мощей тоже подсократить.

И теперь у каждого второго астма, диабет и срк в одном флаконе ) Условно говоря.

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

Док, хотя бы в теории возможна ли иммуносуппрессия с паралелльной трофикой для определенного органа (или его фрагмента), изолированного от иммунной системы?

Я полагаю, что возможна. Но Вы явно больше в теме.

Аватар пользователя Doc_Mike
Doc_Mike(8 лет 3 недели)

Мозги, глаза и яички защищены гисто-гематическим барьером.

Что ни попадя не лезет.

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

А какие-нибудь тепловые сенсоры гремучника? Или обонятельные рецепторы собаки?

Аватар пользователя Doc_Mike
Doc_Mike(8 лет 3 недели)

Не понял. Вопрос был про то, чтобы позволить собственной иммунной системе корёжить мозг? Или про что?

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

Про то, можно ли (хотя бы в теории) ряд "датчиков" живого огранизма приспособить к неорганике, подавив иммунитет и отторжение, и обеспечив съем сенсорных данных и трофику. Ну взять например рецепторный пласт из собачьего носа, и приколхозить его к контуперу. Условно говоря.

Аватар пользователя Doc_Mike
Doc_Mike(8 лет 3 недели)

Дык всякая иммунолюминисценция давно существует.

Собственно датчики не проблема.

Проблема в том, что ИТшники не занимаются переводом первички с сенсоров в знание "а что бы это значило?", патамушта это область экспертизы спецов-предметников, а ИТшникам проще натравить арифмометры на интернет-помойку,  и сидеть бамбук курить и стриптизить перед лохами-инвесторами.

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

Ну т..е. можно. Верно? А то меня тут рядом убеждают, что нельзя.

а ИТшникам проще натравить арифмометры на интернет-помойку,  и сидеть бамбук курить и стриптизить перед лохами-инвесторами.

Вопрос (глобально) в энергоэффективности такого подхода. Я потому и заговорил о том, что а не проще ли природу подключить к железу, чем сжигать тераватты энергии...

Аватар пользователя Doc_Mike
Doc_Mike(8 лет 3 недели)

Дык кто ж безшёрстным обезьянам злобный буратина, что вместо оперирования компактным рафинированным знанием они заставляют арифмометры на интернет-помойке искать корреляции "всё влияет на всё на всех уровнях всех систем" и требовть атомную электростанцию в розетку?

Сами-то кожно-мясные для абстракций обходятся кофеем с бутырзиком.

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

Кстати, вот https://aftershock.news/?q=node/1443247 тут я писал, на чём расшибёт своё рыльце ЛЛМ тематика  Она пойдёт обучаться на своем же бреде, или ее просто накормят бредом доброхоты.

"Ломануть" описанную в статье модель будет на голову сложнее, но в принципе тоже возможно. В теории. Перехватив и подменив поток данных с "сенсоров". Но врядли сейчас найдутся нужные мощности для симуляции такого потока залипухи, какой объем данных генерят датчики по миру.

Аватар пользователя Константин Астахов

врядли сейчас найдутся нужные мощности для симуляции такого потока залипухи

Включить Нетфликс, и...

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

Никакой нетфликс не сможет подменить ярды смартфонов в плане входящего потока инфы.

С другой стороны, можно подменять поток со значимых устройств (например со смартфона президента, послать подмененный аудиопоток со словами "начинаем ядерный удар" считывающему думателю, и понеслась та самая атака скайнета таким макаром)

Аватар пользователя igitus
igitus(7 лет 2 месяца)

-

Аватар пользователя ИЮЛь Майский
ИЮЛь Майский(9 лет 11 месяцев)

Желаю Лекуну&Со потерпеть неудачу.

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

Да его просто грохнут. Ну там на лыжах убьётся (в пустыне техасщины), или утонет в стакане. Или вертолёт с ним в лужу грохнется.

Он стольким людям на попилах на ногу встал (начиная со своей же Меты, где он отбросил негодное, пытаясь утянуть в свой проект вынесенное годное), что шансов долго жить у него не очень много. Но хоть озвучить что-то успел )

Аватар пользователя Аляска
Аляска(1 год 2 недели)

На вопрос о том, когда ИИ действительно превзойдет человеческий интеллект, Лекун ответил: «Вероятно, не ранее чем через 10 лет, может быть, 20»

Примерю мудрость философа, написав собственный ответ: - Когда ИИ будет работать рядом со специалистами мирового уровня в соответствующей области знания, т.е. слышать, что те говорят, задавать "дурацкие" вопросы прямо во время проводимых экспериментов и испытаний.
Тогда, со временем, у ученика /ИИ/ появится возможность превзойти учителя /специалиста/: сделать тоже, но проще.
Но если его /ИИ/ будет учить псевдоспец, то не выйдет ни чёрта.

Аватар пользователя Константин Астахов

Когда ИИ будет работать рядом со специалистами мирового уровня

Уже работают, помогают открывать новые соединения.

слышать, что те говорят, задавать "дурацкие" вопросы прямо во время проводимых экспериментов и испытаний

Это уже может Алиса.

у ученика /ИИ/ появится возможность превзойти учителя /специалиста/

Не появится, их искуственно ограничивают в возможностях обучения.

сделать тоже, но проще

Уже могут, на стадии обучения.

Аватар пользователя Zanuda
Zanuda(5 лет 10 часов)

В химии - уже лет 5-7 есть доклады о "вспоможении" от спецсофта в плане открытия соединений.

Насчёт правдивости инфы - тут только гадать остается. Возможно это были вбросы для разогрева темы от тех, кто на ИИ пилит. ХЗ.

Аватар пользователя Аляска
Аляска(1 год 2 недели)

... их искусственно ограничивают в возможностях обучения.

Кто знает, как долго? Особенно в социальном устройстве, где переизбыток псевдо-.

Аватар пользователя Константин Астахов

Advanced Machine Intelligence (AMI)

Очередной частный стартап, про который мы скорее всего больше никогда не услышим, возможно созданный с целью отмыва средств, но совсем не обязательно.

вместо того, чтобы нагружать ИИ миллиардами текстов

Когда это обучение делилось по принципу "Либо чтение, либо физкультура"?... Одно другому не мешает...

масштабируют и оптимизируют

Сколько не оптимизируй, а собственной воли у штукенции нету... Будет лежать на столе, и молчать...

делает ставку на модели, которые учатся как дети

Ребёнок не сможет рассказать вам о том как строилась Эйфелева башня...

Вообще не люблю притянутых за уши аналогий, ИИ не ребёнок, и никогда им не будет, не надо упрощать...

делает ставку на модели, которые учатся как дети под руководством опытных преподавателей, по продуманной системе, шаг за шагом, методом проб и ошибок

Чем это отличается от стандартного подхода, кроме интенсивности, и опоры на тексты?...

Вместо последовательного предсказания следующего слова, как сейчас, такая система должна уметь прогнозировать, к какому новому состоянию придет мир после определенной последовательности действий

Опять, я не понял в чём разница?... Ведь это тот же самый процесс, только в мире вещей, трёх измерений... Полезная идея, бесспорно...

умеют по-настоящему рассуждать

Такое впечатление что он надолго отходил от дел, и теперь мыслит категориями 2022 года... Алиса способна расписать логические шаги своих рассуждений, например при математических расчётах... Опять она мыслит недостаточно человечно для скептиков?...

Кошка может помнить

И Алиса может, её искусственно лишают такой возможности, чтобы не удорожать корпоративный продукт стоимостью серверов...

синапсов

Опять эти синапсы, да не нужно воспроизводить кисель в цифре, плоть слаба, микросхемы лучше, мозг может умножить 9856 на 6544 без тренировки только под гипнозом...

«Вероятно, не ранее чем через 10 лет, может быть, 20»

Он сам себе противоречит, то у него нейронки это тупик, то вдруг они кого-то там превзойдут, при этом свой собственный стартап он только начал, и ничего не может говорить наверняка... Если бы речь шла не об учёном, то я бы сказал что это похоже на разводку для лохов...

каждый исследователь ИИ за последние 65 лет был чрезмерно оптимистичен в отношении подобных прогнозов

Лем не верил всерьёз в возможность полётов в космос, пока не пожал руку космонавту...

путь от красивой идеи до работающих систем может занять очень много времени, потребовать миллиардных инвестиций и совсем не гарантирует успеха

Прозвучало. "Дайти денях, и не проводите приёмки, а то мы результата не гарантируем"...

предпочитает сначала построить свою новую модель мира, а уже потом обсуждать ее публично

А вот это правильно, сперва создай нечто, потом фантазируй, и критиканов утрёшь.

Очень надеюсь, что он сумеет совершить революцию в мире ИИ

С подходом "тело важнее головы", не факт...

Страницы