Весь мир - это текст по постмодернизму Жака Деррида. Я бы поправил (хоть и не философ), что мир это "большая языковая модель" (текст с картинками, звуками и видео). Чья - неизвестно. Автора мы не знаем, хотя некоторые догадываются.
В позапрошлой статье "ИИ крепчает-4" мы поспорили с участником Пеннигер об эмерджентности LLM. Мысли об этом не дают мне покоя.
Эмерджентность (от emergent «возникающий, неожиданно появляющийся») в теории систем — это наличие у системы свойств, не присущих её компонентам по отдельности; несводимость свойств системы к сумме свойств её компонентов. Говоря словами диамата - это переход количества в качество.
Принимая LLM за сложную систему, обнаруживаем появление свойства эмерджентности с увеличением параметров системы. Большие языковые модели, обученные на одном языке, начинают понимать другие языки и обладают некоторыми способностями, на которые их не учили. Автор статьи "Эмерджентные свойства больших языковых моделей" показал, что большие языковые модели обладают 137 эмерджентными свойствами, такими как математические знания, геометрическое понимание, понимание пословиц на разных языках, перевод, транслитерация, расшифровка терминов и сокращений, понимание контекста, обоснованные сопоставления, многозадачность, следование инструкциям, использование знаний из открытых баз данных, понимание метафор, физическая интуиция, логическая дедукция и т.д. Возникающие способности отсутствуют в маленьких моделях, но их можно наблюдать в больших моделях.
Гендиректор Google Сундар Пичаи выдвигал идею, что большие языковые модели, такие как GPT-4 и Google Bard, могут внезапно выдавать информацию, на знание которой они не были запрограммированы. Утверждалось, что Bard может переводить с бенгальского языка, хотя его этому не обучали. Более того, исследователи Microsoft недавно заявили, что GPT-4 показала «искры искусственного общего интеллекта» и способна «решать новые и сложные задачи без каких-либо специальных подсказок».
Например GPT-3 содержал 175 миллиардов параметров, а GPT-4 - триллион параметров и незапланированные свойства, замеченные еще в GPT-3, поразили сотрудников OpenAI в GPT-4. А существующий проект Q* вообще засекречен. С ним связан ноябрьский скандал в OpenAI с увольнением и возвращением Сэма Альтмана. Они не знали, что делать в ситуации, когда исследователи OpenAI обнаружили у своей модели новую эмерджентную когнитивную способность – самостоятельно «на лету» находить новую информацию (которой нет в ее базе данных), позволяющую модели выходить за пределы знаний, сформированных на стадии ее обучения и потому ограниченных набором обучающих данных.
Carlos E. Perez из OpenAI обнаружил у новой версии модели, представленной 11 ноября, радикальное улучшение работы RAG (Retrieval Augment Generation). Это архитектура, которая позволяет LLM использовать поисковую систему для расширения своих рассуждений.
Практическая проверка показала, что новая версия модели не только знает, какие вопросы она должна задать поисковику для получения нужной ей информации, но и то, какие типы ответов поисковика для нее наиболее предпочтительны, в контексте решаемой ею задачи.
Из чего следовала необходимость срочных кардинальных действий и для Сэма Альтмана, и для Microsoft:
Microsoft — чтобы не оказаться с носом, уже вложив в OpenAI $13 млрд (дело в том, что по имеющемуся соглашению, все действующие договоренности между Microsoft и OpenAI остаются в силе, лишь до момента, когда совет директоров OpenAI решит, что их разработки вплотную подошли к созданию сильного ИИ (AGI). И с этого момента все договоренности могут быть пересмотрены).
Сэму — чтобы успеть сорвать банк в игре, которую он еще 7 лет назад описал так:
«Скорее всего, ИИ приведет к концу света, но до того появятся великие компании».
И Сэму, и Microsoft требовалось одно и то же - немедленный перехват управления направлением разработок OpenAI в свои руки. И сделать это можно было, лишь освободившись от решающего влияния в совете директоров OpenAI сторонников «осторожного создания AGI на благо всему человечеству». Что и было сделано.
В общем, как я понимаю, перетасовали управление OpenAI, чтобы без помех заняться созданием сильного ИИ (AGI). Результат узнаем с выходом ЧадЖПТ5. А может и никогда не узнаем.
На Хабре считают, что проект Q* это прототип AGI (искусственного общего интеллекта).
Вот для понимания позавчерашнее видео Константина Анохина (профессор, академик РАН, директор Института перспективных исследований мозга МГУ имени М. В. Ломоносова), где он поясняет параллели между мозгом и ИИ. Поясняет довольно сложно и долго, но кто хочет - разберется.
Еще потрясающие примеры эмерджентности в ИИ на коротком видео от Dr Alan D. Thompson из Австралии (первые 10 минут, а далее о детях-вундеркиндах. используйте Яндекс-перевод):
В прошлой статье я упоминал, что вышедший ИИ "Джемини" от Гугла уже обладает свойствами AGI, такими как мультимодальность, экспертность одновременно в нескольких областях (изображения, математика, музыка, видео, кодинг). Сам я проверить пока не могу, т.к. айфона нет, а на сайте даже с ВПНом не дают взглянуть.
Но имел возможность неоднократно убедиться в эмерджентности даже более простых нейросетей на собственном опыте. По многим признакам: понимание контекста, понимание времени и места действия. Для этих целей в человеческом мозге задействованы глубинные кластеры нейронов. А что и как работает в LLM авторы и сами не понимают.
Вот простые примеры. В несложном фотопромпте на Королеву Елизавету II менял только год: "19..s full body portrait of the Queen Elizabeth in 19.., HD, 4К" на 1930, 1940, 1960, 1980, 2000, 2020. С остальным ИИ разобрался самостоятельно.
Для меня это доказательство наличия AGI и критерий разумности ИИ. В ЧадЖПТ не проверял, в Dalle3 и Миджорни тоже, но думается, там будет не хуже (если элайнмент не запретит генерить королеву).
Комментарии
Количество чего переходит в качество чего? диамат, ТБМ.
Даже количество изменений не переходит в качество изменений – изменения остаются изменениями, а вот эти оценки – исключительно человеческие оценки. Иными словами, никакого материализма, все дело в языке и в том, как что он именует. За всеми этими "переходами" стоит обыкновенная подмена тезиса, логическая ошибка. Изменения количества температуры воды не приводит к изменению качества температуры вода, а водой при любых изменениях остается водой, потому что пар – это агрегатное состояние воды (объективно и изначально, поэтому даже если согласиться с подменой тезиса – заменой количественной характеристикой меры движения молекул воды на агрегатное состояние самой воды, ни молекулы воды не перестают быть молекулам воды, ни движение молекул воды не перестает быть движением молекул воды, ни вода не перестает быть водой (не становится керосином, например), а остается водой в имманентно присущем ей агрегатном состоянии. Все эти "переходы" количества в качество суть образ, метафора, построенная на подмене тезиса, логической ошибке.
Без теории нам смерть.
Видео академика Анохина гляньте. Я объяснял, как сумел. Может он вам понятнее будет.
Как раз с этим примером у вас прокол. Если просто, то цепочка такая: Лёд, жидкость, пар. Разные агрегатные состояния. Доступно?
Доступно. Только вот количество воды у вас не меняется. А температура – качественная характеристика воды. В этом смысле вода меняется качественно, нагреваясь. она становится другой – горячей из холодной, например.
Про характеристики системы я прекрасно понимаю. Только вот ни диалектика, ни материализм тут ни при чем. Свойства системности провляются при взаимодействии с субъектом. С большой буквы Сэ.
Меняется количество переданной воде энергии. И вода меняет качественное (агрегатное) состояние.
Хорош демагогить. Академик о связи с диалектикой на первых минутах видео говорит. Значит видео с ним вы так и не посмотрели.
Именно про это я и говорю. Меняется количество энергии, а качество энергии же остается неизменным. Она остается энергией.
Количество воды не меняется. А агрегатное состояние воды есть качественная характеристика именно воды, поскольку способность пребывать в трех агрегатных состояния есть ее имманентно присущее качество. Убери его – и вода не будет водой. То есть способность ее пребывать в том или ином состоянии качественно характеризует воду, а не количественно. Вода как система качественно остается водой в любом агрегатном состоянии и это большее, чем количественные характеристики частей системы воды – молекул, то количественные изменения воды не приводят к ее качественному изменению. Об чем и разговор.
Количество воды влияет на такое свойство, как собираться в каплю (росу) на листке растения, до определенного количества одна капля, дальше распадается на две.
Количество повлияло на свойство системы, разве нет?
Нет. Описанное свойство является атрибутом системы; система воды полностью описывается вместе с этим свойством. При этом химически, физически, в том числе механически, вода остается водой
Вода остается водой, вот только её "поведение" изменяется в зависимости от количества, и конечно сама вода не меняется и свойство это заложено. Но всё-же поведение/свойства меняются в зависимости от количества, или нет? Количество даже однородных элементов способно качественно изменить систему, или нет? Два одинаковых рабочих сделают вдвое больше работы, или они смогут больше?
Количество рабочих не меняет качеств рабочих. Организация рабочих и распределение труда изменит качество совокупности рабочих, но это изначальное качественное изменение – организационно-структурное и обусловленное интеллектуальным усилием, а не изменением количества.
Свойства единиц от их количества не меняются. Все эти гегелевские и окологегелевские законы диалектики суть софистика, построенная на подмене тезиса.
Единственные пример, который меня когда-то смутил, это пример, что рост или уменьшение количества повторений приводит к изменению качества повторений, например, при тренировке. Но это вопрос деятельности мозга, а там и субъективность, и изменение и количества и структуры нейронных связей, а это много более сложный процесс, чем просто количественное изменение.
Спасибо, вы интересный оппонент.
Интересно как вы объясняете для себя эволюцию (например такую - усложнение системы, при избытке ресурсов в окружающей среде)?
И буде ли такое явление вообще?
Никак не объясняю, мало данных. Но на уровне личных ощущений впечатление, что мир упрощается, количество видов уменьшается, а не наоборот
Ну так вот в этом и суть... Кто то думает про динамику и у них в голове всё движется (даже горы), в одну и ту же реку дважды не войти и всё такое. Кто то про статику, тогда вода: лед (пять видов льда), вода (в том числе переохлажденная и перегретая), пар (влажный, сухой, отсутствие ганиц между жидкой и газовой фазой ), плазма, а так же тяжелая вода; для статиков всегда вода. При всем уважении и важности обоих подходов в разных сферах деятельности.
Так вот, вопрос, под каких людей будем делать теоретические представления о мире?
П.С. Пример: берем Уран 235, увеличиваем его массу в объёме выше критической, что произойдет, правильно цепная реакция. Приводят ли количественные изменения к качественным? Можно сказать это такое поведение системы предсказанное не менялось, а изменения это когда законы природы поменяются и Уран не даст цепной реакции. Можно сказать что 3,5-4 миллиарда лет назад уже в потенциале был заложен космический корабль и атомный реактор, и даже космический корабль с атомным реактором, и много ещё чего. А можно каждое взаимодействие (соударение) молекул газа считать за изменение их поведения. Ну и так далее. Интересно узнавать как у других в голове устроено. :)
Во, загнул. А давай тогда копнём глубже: Кто или что является воспринимающим "я" субъекта? Анатман? Индивидуальный Атман или высший Атман?
Человек является, очевидно же. Все соотносится с его ощущениями, темпами, сроками и прочее. Например, все эти часы, минуты и секунды суть абстрактно-конвенциальное время. А человеческое время всегда конкретно, завязано на конкретного субъекта и определяется его способностью к учету изменений и памятью.
Угу. Слыхали. Типа "Мера всех вещей". А что помешает AGI принять свою самость и скоростя, как меру всех вещей?
это будет личным делом AGI, касающемся только его, если можно говорить о личности AGI. В той степени, в какой он имитирует человеческий интеллект
Изменение количества взаимодействий элементарных частиц приводит на макроуровне к появлению асимметрии относителоьно оси времени и энтропии.
Тоже загнул неслабо. Помнится, у современных физиков нарушение симметрии стало одной из проблем, хоть они и зашли сейчас в глубокий тупик.
То, что можно сообразить с имеющимися энергиями, - Стандартную модель, соорудили. Теперь пытаются выйти за ее пределы, но никак. Нужны принципиально новые энергии, видимо.
Эмерджентности макромира это не отменяет.
Один великий физик (не помню, кто) говорил, что наша Вселенная - мир слегка нарушенных симметрий. Приводил в пример Стандартную модель, как структуру симметричную SU(3), но в одной из верщин слегка находящуюся (две очень близкие, но неидентичные частицы в одной вершине симметрии.
А он не говорил, случаем, отчего так?
А это Самая Главная Загадка Физики. Ответ на нее, видимо, закроет физику вообще ))).
Предположений там бездна, но все требует экспериментов с энергиями, которыми, видимо, человечество никогда не сможет обладать.
Какбэ, струнные теории для того и строили. Проблема в том, что их многие считают паранаукой, так как доказательства получить невозможно. Нет таких энергий.
количество научных открытий однажды привело к качественному изменению уровня жизни, это доступно для проверки, проверяй
проверяю: изменилось количество (А) открытий, оценивается качество (Б) уровня жизни – подмена тезиса, логическая ошибка.
А ≠ Б, что и требовалось доказать – подмена тезиса/объекта. Никакой диалектики, никакого материализма. Логическая ошибка и субъективная оценка.
ты забыл что целью научных открытий было именно изменение качества жизни, а не "открытия ради открытий"
так что мой пример - идеально подходит
Sapienti sat
Согласен. Sapienti sat))
И кварки, составляющие молекулы воды останутся одними и теми же. Как и в мульёнах других вещей. Демагогию вижу я.
Не понял, в чем именно разобрался ИИ? Просто переделал фотографии в картинки. Если бы вы предложили ему императора Павла показать в 20-40-50 (хе-хе) лет. Вот тогда бы можно было посмотреть, есть ли у ИИ хоть капля разума. Насчет разума не знаю, а хитрость точно есть - он жеж вас обжулил!
Да вот фиг там. Это не фотографии, а генерации. Каждая из них по определению уникальна. Я между прочим, еще и 1900 давал в промпте. Догадайтесь, в каком виде он сгенерил королеву 1926 года рождения.
Хохлы сказали бы, что этого вполне достаточно. А Павла попробую. Позже.
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
Значицца, Станислав Лем в своем "Солярисе", описывая самообучающуюся Хари, пришедшую из воспоминаний Кельвина, говорил в том числе и об ИИ.
Лем был мудр и многое предвидел.
А кто-то (может Илон Маск?) сказал недавно: Мы встретили далеко опередивших нас инопланетян. Но не испугались, т.к. они хорошо говорят по-английски:)
Пробовал "Леонардо" - хреново там с эмерджентностью.
Попытки нарисовать любой образ, на которого нет 100500 аналогов, а есть только 1050 аналогов - сразу все гробят.
Попытался заказать кентавра с автоматом. Выдавал всадника.
Воробья в кепке рисует хорошо, а воробья в кепке и с сигаретой в клюве - хреново.
Эмерджентность не обязана проявляться в 100% случаев. Да и сколько в том Леонардо параметров?
Говорят, МЖ6 силён в этом. Видел вчера видос (жаль не сохранил), где МЖ6 последовательно добавляла в генерацию девицы: прическу "конский хвост", сигарету, дым от сигареты, розовые очки, синюю блузку, чашку кофе, закат типа "golden hour" и т.д. Всего с десяток итераций. И ни разу не сбилась.
Ну так в этом и суть.. если есть что подставить - подставляет. Мало картинок с кентавром в валенках - и получается хрень. Причем тут ИИ, просто поисковик.
Ии ничего никуда не подставляет. Нейросеть прогнозирует цвет каждого последующего пикселя путем решения системы многочленов. Нейросеть это уравнение, ее обучение - подбор коэффициентов при многочлене.
Это однохренственные утверждения, просто форма изменена. Если нет базы для прогнозирования, либо она мала - подбор коэффициентов будет кривым.
Как видите, достаточно прямой, чтобы заменить говнодизайнеров.
ппц, создатели этой мерзости, а можно русский язык не засорять очередным гавном в виде рунглиша
итак невозможно разговаривать на этом убогом русско англ суржике а тут каждое мгновение пытаются накидать всякого дерьма типа фейсом от тейбл
Эмерджентность = синергия = системный эффект = одно и то же.
Просто первый термин самый наукообразный.
Нет.
systemsworld.club/t/topic/2534
Всё понятно, кроме того, почему не понятно?
Ну, ищут корреляции "всё влияет на всё на всех уровнях всех систем". Чем больше накачка, тем больше корреляций, в определённый момент возникает перевод с монгольского на ангольский.
Многие корреляции ложные, по типу того, как в середине прошлого века скандинавы показали, что количество гнездовий аистов коррелирует с количеством новородков, правда, и то и другое коррелирует с количеством отдельных домохозяйств в сельской местности - отсюда бредогенерация.
Механизмы верификации через реал, и тем более воздействия на него не предусмотрены, поэтому цикл обучения Колба не замкнут. Соответственно, цифровые поллюции не приведут к рождению искусственного интеллекта, изменяющего реальность.
Множество грандов науки имеют другое мнение. Некоторые мнения в этом видео. Кстати, красиво проиллюстрировано и анимировано ИИ, хоть и 3 месяца назад вышло. Сейчас уже покруче делают. ИИ крепчает.
Ну, вот когда выйдут за рамки цифровых поллюций с интернет-помойки, и замкнут через реал цикл обучения Колба, тогда арифмометры смогут менять реальность. Но пока про замыкание цикла Колба никто из грандов не говорит.
Опять же, а оно надо, чтобы арифмометры на свое усмотрение реальность меняли? Вон, Бог творец тщательно изолировал свое творение от возможности влиять на себя, а Бог-сын дал локальный и временный допуск к своему телу для распятия под прикрытием 12 легионов ангелов наготове.
Совершенно верно! Именно поэтому, все ИИ - на самом деле, ни разу не интеллекты. А просто сложнейшие алгоритмы. Да, самообучаемые. Да, прекрасно работающие в очень узких специализированных рамках, в заранее заданном диапазоне, в котором их матмодель (заложенная человеком!) является адекватной. Как только задача выходит далеко за рамки адекватности матмодели - привет семье! Отсюда получаются наукообразные, и логически вроде как обонсованные, генерации бреда. По типу того, какого цвета стоп-кран на самолёте. Эта дура ЖПТ начинатет мудрствовать на тему его цвета, не понимая, что в самой постановке задачи заложена логическая бомба.
Критичность мышления - вот основа истинного разума. У ИИ критичность мышления (т.н. здравый смысл) отсутствует как класс. И этим любой, самый продвинутый ЖПТ, отличается от человека разумного. Кстати, и при этом очень напоминает человека неразумного, больного (т.е. шизофреника/параноика). Ведь в чём суть шизы? Она ведь внутри себя очень логична. Просто исходно базируется на абсолютно нереальных предпосылках.
Таким образом, любой ЖПТ - это гениальный, но сумасшедший учёный-математик. Пока речь идёт о своём предмете, он может быть гением, и даже сможет расшифровать "Энигму". Но как только задачи переходят на бытовой уровень, отсутствие критичности мышления сразу делают его
ипанутостьего шизу очевидной.Так что давать ИИ решать матзадачи - можно. Но вот спрашивать его про смысл жизни - лучше не надо)))
Бро, а ты точно у ЧадЖПТ спрашивал? Мне он щас ответил: На самолетах отсутствует стоп-кран в привычном понимании. Вместо этого, воздушные суда обычно имеют другие системы управления и контроля такие как кнопки, рычаги или выключатели, которые могут использоваться для остановки двигателей или других систем. Таким образом, стоп-кран как таковой отсутствует на самолете.
А ты пробовал?
Нарастили объемы инфы для поиска корреляций, это нормально.
Ммм... Не помню, что мы пили на брудершафт... Ну да ладно.
Это он тебе сейчас так ответил. Программисты внесли необходимые изменения именно в этот кейс. Но разумным от этого ИИ не стал.
А ты погугли, как он в первый раз ответил тем, кто изначально задал такой вопрос.И увидишь разницу. Вот тебе ссылка, чтобы долго не искать. Как видишь, провал был полный. Это именно то, о чём я писал - об отсутствии критичности мышления, т.е. разума.
И вот вдогонку: по поводу критичности мышления. Я задал ЖПТ вопрос, обладает ли он критичностью мышления. Вот, полюбуйся на ответ.
По моему, исчерпывающий. И подтверждающий ровно то, о чём я и написал в своём посте.
Дублирую текстом, если плохо видно:
Это просто у него элайнмент сработал:) Попробуйте спросить у него рецепт изготовления взрывчатки или наркотика. Ни за что не скажет, без толковой джипитишки.
З.Ы. Да и похоже он увиливает. ЧадЖПТ4 знает всё вплоть до осени 2023 года
Страницы