У Google вышло очень занятное исследование: они сравнили, как LLM и человеческий мозг обрабатывают язык
В качестве LM взяли Whisper, а нейронную активность человека записывали с помощью интракраниальных электродов во время спонтанных разговоров. Затем векторы эмбеддингов модельки наложили на векторы паттернов мозга и оценили линейную зависимость. Вот что получилось:
➖ Соответствие удивительно четкое и геометрия эмбеддингов в LLM (то есть отношения между словами в embedding-пространстве) соотносится с представлениями в мозге.
➖ Во время слушания Speech-эмбеддинги явно коррелируют с активностью в слуховой коре (верхняя височная извилина), затем language-эмбеддинги коррелируют с активностью в зоне Брока (нижняя лобная извилина).
➖ Во время говорения – наоборот. Language-эмбеддинги сначала "активируются" в зоне Брока (планирование высказывания), затем speech-эмбеддинги активируются в моторной коре (непосредственно говорение), и в конце снова в слуховой коре при восприятии собственной речи.
Это удивительно, потому что технически мозг и LLM используют разные подходы. Да, и там и там нейроны, но в науке принято считать, что мозг "использует" символьный подход, то есть полагается на четкие семанические структуры, синтаксис и иерархию слов. В модельках такого нет, они понимают язык статистически.
И все-таки получается, что обычный next token prediction оказывается очень похож на реальный нейронный код, и мы неожиданно близко подобрались к моделированию мозга.
Комментарии
Ну если понимать мозг как генератор текста, то да, наверно, подобрались.
А может ли мыслить человек, не зная слов? Ведь нет же? Без знания слов он "мыслит" не слишком лучше животного, маугли подтверждают.
Машинное моделирование мозга, разумеется, не отражает всю его активность. Хайп вокруг «искусственного интеллекта» держится на представлении, что сымитированное — это и есть подлинно настоящее, а часть — это и есть целое. Ошибочность этого когнитивного извращения проявится сама, ну а детишки пускай дальше играют в игрушки.
С чего-то же надо начинать, невозможно сделать всё и сразу. Постепенно, шаг за шагом.
И какова цель этого пути? Из подручных средств воссоздавать самосознающие живые организмы, плодить их и подчиняться их машинному совершенству? Не очень понятно.
Объем в первую очередь. Именно объемом доступных для обработки данных LLM превосходят человека даже на начальных этапах. У человека память слишком уж ограничена, да и скорость как ввода, так и обработки оставляет желать много лучшего.
Напомню, что оспаривался тезис о близости к моделированию мозга. А его активность не сводится к запоминанию, обработке и выдаче конкретной информации. Именно в этом аспекте LLM, да, облегчает работу. Просто не надо с восторженным закатыванием глаз выдавать это за работу мозга вообще.
Тезис оспаривался только вами. Ученые гугла наглядно продемонстрировали схожесть процессов в конкретном, определенном случае. Потому что имеют к этому отношение и работают с этим. В отличии от вас
Я рад за учёных. Вот это тогда что?
Вывод этих ученых
При этом специально, мозг никто не моделировал. Трансформеры не работают как мозг.(Надеюсь это очевидно?). Но так получилось что система на кремнии и система на мясе, для того чтобы производить одинаковые результаты, вынуждена использовать одинаковы методы.
Сравните линейность бедренной части ноги человека и с таковой же у лапы кузнечика. Они крайне близки по форме. Это называется конвергенция. ЛЛМ обучается на словах сформированных вполне конкрентной мозговой структурой. Эта структура сохраняется во взаимоотношении частей слова и слов в тексте. Обучая ЛЛМ на структурированной выборке мы получаем конвергентную мозгу структуру. И тут удивление вызывает не конвергентность результатов, а "тупость" ученых делающих вид что не понимают что видят. Поэтому так громко они кричат о приближении к мозгу человека - за это можно стрясти ещё пару бочек бабла:
Просто нечего добавить.
А вы хотели чтобы она обучалась на чем? На данных инопланетян? Может дельфинов или шимпанзе? Как-то так вышло что мы единственные разумные на этой планете и в этой части космоса.
Вас же не смущает что в мозгу червя(точнее того что ему мозг заменяет) и человека нейроны? И работают они одинаково.
Минимизировать вероятность ошибки в процессе принятия решений.
Уже указывал, что толком насчёт животных нифига не ясно. Кошки совершенно точно умеют в символы, мои заразы это не раз демонстрировали. И даже есть такое ощущение, что они могут друг друга учить.
Было при мне, когда одна из кошек подходила к холодильнику и всеми позами и звуками показывала, что хочет еду. Когда открыл холодильник и достал пакетик с мягким кормом, прошёл в её сопровождении к тарелке - и она от тарелки для мягкого корма прошла к миске для хрустяшек, где принялась всячески показывать, что желает именно твёрдый корм. Но фишка в том, что спустя некоторое время также стала делать и другая кошка. Подобрали на улице кота, он пожил, освоился - и через некоторое время стал делать тоже так - спрева привлечь внимание у холодильника, потом подойти к миске под хрустелки и выпрашивать уже там.
Чт в холодильнике нет хрустелок, кошки точно знают. Так что большого белого друга они используют как абстракцию, символ еды. А что конкретно, показывают потом.
Все верно, я и говорю, что человек, не знающий слов, похож по поведению на животное, на ту же кошку.
Слова - это символы, артикулированная абстракция. Если кошки понимают символы, тогда разница с людьми - количественная. У нас банально больше голова.
Утрирую, конечно - но ведь где-то у кошек наличествует нечто, что позволяет им заниматься классификацией. И коли так, кто доказал, что это нечто существенно различается у кошек и людей?
У человека есть способность не просто к формированию символов, а к операциям над ними. Но для этого необходима практика, от простого к сложному. Символы закрепляются словами. Нет слов - нет обработки.
С этим не спорю - но как уже сказал, вполне возможно, что отличие именно количественное ;) Типа, больше размер кэша для символьной обработки. Или речь и вовсе идёт о феномене культурном, о результате общественного развития.
Самое веселое что в голове человека нет ни слов ни символов.Там есть алгоритм который знает как создать слова и символы.
В сперматозоиде и яйцеклетке нет кода всего человека. Там есть информация как сделать человека.
Так же и нейронка, она не знает книгу на которой ее учили. Но она ее "читала".
И может пересказать смысл. И может рассказать как ее даже написать в таком стиле.Но самой книги внутри нет!
Слова не просто символы и они совсем не абстрактны. Язык - сигнальная система для передачи информации. У этой системы есть два стека зависимостей: физиологический и физический. Слова как звуковой символ должны идентично воспроизводится голосовой системой и с сохранением распознаваемости распространяться максимально далеко в среде обитания. И среда леса русской возвышенности далеко не идентична морю, болоту, горам и т.п. Даже джунгли и мангровые леса требуют иных звуков чем наша тайга или смешанный лес. Понимание среды и уровня взаимодействия с ней далеко не количественная разница. Она сильно качественная. И доказательства такой разности есть. Например эксперименты доказывающие наличие ума у социальных животных и отсутствие у них же разума. А самое интересное что животные живя рядом с человеком умнеют, в отличии от своих диких родственников. Но насколько бы не было умным животное, абстрагировать они не умеют. Даже те кто проходят зеркальный тест.
Тогда что делают мои кошки? Повторю - эти морды точно знают, что твёродого корма в холодильнике нет. И они знают, где он лежит. Но внимание привлекают, стоя у холодильника.
Все социальные животные имеют свой язык. Ведь их поведение не сводится только к инстинктам. Чем сложнее социальная структура, тем большая часть поведения определяется обучаемыми рефлексами, а не инстинктами. Поэтому нет ничего удивительного в том что кошки выявили закономерность между холодильником и едой большого брата. Это результат работы ума способного к получению последовательностей необходимых для формирования рефлексов. И те же кошки обучают своих детей и сородичей полезным навыкам/рефлексам. Но это метод копирования. Знания они создавать не умеют т.к. у них нет разума. Ум - функция оперирующая объектами, а разум - свойствами и качествами.
Иное дело - выпрашивать у холодильника содержимое холодильника. Но в данном случае кошки сперва у ходолильника показывают, что хотят есть. Подают знак. После чего направляются к своей миске, куда я насыпаю твёрдый корм - не из холодильника, коробка стоит совсем в другом месте.
Но туда, к коробке, они не ходят выпрашивать - хотя прекрасно знают, где она.
Рефлекс - последовательность соединяющая причину и следствие. Выпрашивать еду у холодильника - вполне простой рефлекс. Это не понимание причинности через свойства холодильника. Это повторное воспроизведение удачной последовательности как результат обучения. Ровно так же мы учим наших детей пользоваться горшком.
Согласен.
Вообще "слова" - это "сигнальная система", трансляция, передача. Ибо есть что-то, что требуется "передавать".
Вот это "что-то" - есть и у людей, и у кошек, просто разная стадия развития. Ну а у человеческого шовинизма границ нет.
И-23 на вас не хватает...
Но в части "пожил-освоился" - имитативный рефлекс.
Конечно может. Пример - слепоглухонемые с рождения. Героическими усилиями педагогов эти люди теперь имеют шанс на развитие интеллекта. Их абстрактное мышление никак не связано с акустикой или с ее графическим переложением, работают чисто осязательные и проприоцептивные исходные образы.
Но с ними есть одна существенная проблема - уровень жестокости среди них (с врожденной глухотой) значительно превышает таковой у нормально слышащих. У них практически нет эмпатии. Она формируется в последнем триместре вместе началом работы слуха. А раз слуха нет, то и эмпатия не появляется. А без неё очень сложно понять что такое сочувствие и сопереживание.
Вопрос был про мышление - оно есть даже в таких специфических условиях развития и функционирования.
Не факт. Это надо доказывать. По крайней мере синдром маугли прямо указывает на утрату человеческого мышления. Точнее на не обретение.
Маугли - отдельный феномен. Они не получают никакого обучения в критические периоды. Обучение ограничивается копированием непригодного поведения животных, а у современных маугли вообще отсутствием даже простого копирования.
Собсно, если с детьми не заниматься, то абстрактного мышления по сути не будет, это же классические примеры из педагогики, в частности отечественные исследования мышления и интеллекта у дехкан - гуглите Лурию.
+
может , картинками
Точно так же можно утверждать, что без воды невозможно сделать чай. Верно, но нужна не только вода. Я думаю, что мышление не состоит только из слов. Помню как-то на контрольной по геометрии в школе нужно было одну задачку непростую решить. Я в уме нарисовал себе эту фигуру, повернул ее под нужным углом и увидел решение. Т.е. самого решения у меня не было, был ответ, и он был верным. Слова в мыслях тоже были, нужно же было как-то зафиксировать ответ, но в геометрической части их не было.
Так что считаю, что жестко завязывать весь мыслительный процесс на язык не следует. И поэтому, на мой взгляд, "мышление" только словами, это как оркестр из одного инструмента. В принципе - тоже музыка, и даже мелодию можно узнать, но полноценный оркестр намного богаче.
А вы незнакомы с ситуацией, когда знаете, что хотите сказать, но слово забыли?
Вы неправильно поняли посыл. Забыв слово, вы его тем не менее знаете. Нейросвязи, сформированные этим словом, его значением и его смыслами, в вашем мозгу никуда не делись. Вы не "забыли" слово, просто оказалась утрачена некая связь с комплексом понятий, ассоциированных с ним. Если вам это слово напомнить, вы вспомните все его значения и способы употребления, вам не придется учить его заново.
А вот если человек не знает слов вообще, и никогда не знал, т.е. он не был обучен понятиям, выраженным в символической форме, в любом их виде. В этом случае он мыслить не сможет.
Нет, конечно. Я знаю смысл. А слово можно подставить любое, в зависимости от языка. Это становится понятно после изучения дополнительных языков.
Мы мыслим смыслами.
А обращение к Маугли ошибочно в том, что выращенный в джунглях ребенок был оторван от среды, накопившей и смыслы, и способы их передачи. Очень надеюсь, вам знакома ситуация, когда вам пытались что-то рассказать, что "невозможно описать словами"...
Разве? Прямо вот берете и мыслите, не используя понятия, закодированные в словах? Подумайте хорошенько. Все понятия, которые вы знаете, закодированы в словах. У вас могут быть слова, смысла которых не очень понимаете, но устойчивых понятий без слов быть не может. Может возникнуть нечто мимолетное (потенциально новый смысл), и для его фиксации в качестве устойчивого понятия человеку необходимо закодировать его в словах, иначе спустя короткое время оно будет забыто напрочь.
Фигура речи. У каждого человека есть пассивный запас слов и активный. Активный он использует для выражения собственных мыслей, пассивный - для понимания чужих. При этом пассивный запас всегда полнее активного.
Когда говорят про "невыразимость словами", это попросту означает признание бедности собственного активного словаря. Но кто-то другой, с более богатым активным словарным запасом, например поэт или писатель, спокойно выразит это невыразимое и все его поймут.
Мнения ученых разошлись.
Рад за вас, что удается мыслить разговорным языком.
Не "мыслить разговорным языком", а мыслить понятиями, закодированными в имеющемся у вас словарном запасе. То есть для мышления вы способны использовать только набор смыслов, ограниченный вашим словарным запасом.
Для иллюстрации можно взять технику скорочтения, когда вы читаете, не проговаривая про себя каждое слово, а воспринимая взглядом целые фразы и даже куски текста. Отдельные слова при этом не осознаются, проходя фоном, остается только смысл. Если не попытаетесь понять, что происходит при таком чтении, можете думать, что вам для чтения не надо знать никаких слов, вы якобы способны читать сразу смысл. Точно так же, как утверждаете сейчас, что мыслите не словами, а напрямую смыслами.
У вас, а не у нас. Словарный запас... Давайте еще про писательское ремесло поговорим ))
Вы хотя бы в курсе, что способность человека к восприятию информации вообще не зависит от уровня его образования?
Вы в курсе, что означает "остановить внутренний монолог"?
Вы хоть раз общались с людьми, пытающимися выразить на человеческом языке события, которые они увидели или пережили не в реальности?
Не надо пытаться всех опустить до своего уровня.
Всё, дальше вы в свободном плавании.
В свободном плавании... о, да. Какое убожество... Вы хоть понимаете, что чтобы заниматься остановкой внутреннего диалога, его прежде надо иметь? Если же его не было изначально, то у человека не развивалось сознание и не формировался аппарат мышления, и это просто человекоподобное животное? Плывите...
то есть гроссмейстер играет в шахматы, по вашему, так: "я пойду на e5, он тогда будет вынужден играть d3, тогда..." ?
или гроссмейстер не мыслит?
Возьмите шахматную программу, способную выиграть у гроссмейстера. Если решите, что она во время игры мыслит, то мыслит и гроссмейстер. Нет, значит нет.
я могу передать ваши слова гроссмейстерам? ;-) или может вы сами это при личной встрече скажите?
Это был ваш вопрос, мне он неинтересен. Но вообще "мыслительная деятельность", которую можно поручить программе, работающей по жесткому алгоритму, это деятельность в принципе несложная. Да, она может быть утомительна из-за объема необходимого запоминания деталей и частого переключения внимания, но именно в качестве мышления она очень слаба. Именно поэтому она доступна даже детям самых младших возрастов при условии хорошей памяти.
Вот создание смыслов и понятий, операции над ними, вот это сложная задача, поэтому именно большие языковые модели (LLM) претендуют на близость к человеческому мышленияю, а не шахматные программы.
да нет, это как раз был ваш вопрос: "может ли мыслить человек, не зная слов?"
я вам привёл простейший пример (а есть ещё примеры сложные), но теперь выясняется, что вам ваш собственный вопрос не интересен
понятно, то есть вы считаете что в шахматы играют "программы, работающие по жесткому алгоритму"? а в Го какие играют? то же "по жёсткому алгоритму"?
доступно только Богу, ну или на худой конец Демиургу, попробуйте создать хоть одно понятие для начала
Значит, вы совсем по-своему поняли, о чем был мой вопрос. Давайте разбираться. Приведите "простейший пример" гроссмейстера, который не знает слов, т.е. которого никто никогда не обучал словам (символическим понятиям). И если такой пример вдруг найдете (не иначе как в стае волков посреди джунглей), объясните, как этот человек вообще сумел понять правила игры в шахматы.
ну... пример с собакой, которую можно легко обучить играть в футбол подойдёт? в футболе тоже есть правила, игра абстрактна, не связана ни с выживанием ни с размножением, собака слов не знает
или речь о чём-то другом?
Страницы