Человеческий мозг всегда идет по пути наименьшего сопротивления за исключением редких сценариев наличия воли для поиска и выбора краткосрочно более сложного пути, но долгосрочного более выигрышного и/или стабильного пути.
Нейронные связи, отвечающие за определенные навыки (критический анализ, системный анализ причинно-следственных связей, способность к планированию, установление динамических иерархических связей, оперирование высокоуровневыми абстракциями, расширенный список здесь), укрепляются при регулярном использовании.
Когда эти функции делегируются ИИ, соответствующие нейронные связи активируются реже, что со временем приводит к их ослаблению. Мозг, по сути, оптимизирует свои ресурсы, "упраздняя" невостребованные когнитивные функции.
Невозможно перескочить через эволюционную последовательность, нельзя развить более сложные навыки без развития и закрепления базовых навыков.
ИИ может предоставить практически неограниченный доступ к декларативным знаниям, но он лишает человека необходимости самостоятельно проходить через процесс проб и ошибок, который формирует глубокое, интуитивное процедурное знание с широким развитием когнитивных навыков, описывающие фундаментальные конструкции и законы этого мира.
Сложные когнитивные навыки требуют не просто анализа отдельных данных, а их синтеза в целостную картину. Речь идет о крайне сложном междисциплинарном взаимодействии в динамической среде, где идет непрерывная балансировка вероятностями и иерархиями.
ИИ-системы часто предоставляют готовый ответ или решение, скрывая процесс анализа и синтеза в "черном ящике". Пользователь получает результат, не понимая, как он был достигнут, что подрывает способность видеть взаимосвязи, оценивать систему в целом и прогнозировать каскадные эффекты от принимаемых решений.
Другими словами, люди теряют способностью к пониманию процедурных операций – как происходит кристаллизация готового решения, утрачивается способность к пониманию причинно-следственных связей, структурных характеристик и алгоритмов, логики взаимодействия и иерархии, а следовательно, люди утрачивают способность сепарации токсичных, ошибочных, либо хрупких решений от правдивых, устойчивых и стабильных.
Эксперт от новичка отличается тем, что способен практически сразу выловить ошибку еще до упаковки финального продукта, поняв момент искажения, предпринимая вариации для решения проблемы и/или улучшения результата. Новичок же за веру принимает любое выходное решение вне зависимости от правильности и/или надежности.
Есть сценарии, где ИИ полезен, когда берет на себя рутинные и вычислительно сложные операции (первичный сбор данных, сортировка информации, сравнение, обобщение и сопоставление больших массивов данных).
Это освобождает ресурсы для решения задач более высокого порядка: постановка целей, стратегическое планирование, творческий синтез, принятие решений в условиях неопределенности, но в условиях, когда у человека развиты первичные навыки по сбору, обработке, сравнению и обобщению информации).
Однако, по мере развития ИИ человечество передаст ИИ не только рутину, но и сам процесс анализа, принятия решений и генерации идей, что неизбежно ведет к атрофии не только базовых навыков по работе с информацией, но и творческих, алгоритмических, системных и навыков более высшего порядка по фундаментальному пониманию основ мироздания.
Созревание эксперта - это не накопление информации, а последовательное восхождение по эволюционной лестнице, где развитие совокупности когнитивных навыков имеет нелинейную зависимость.
Это означает, что ИИ вышибает ментальное и интеллектуальное созревание на начальном и среднем этапе, что консервирует человечество на крайне низкой глубине когнитивной эволюции.
Практически все человечество под угрозой деградации, но люди, рожденные после 2010 года в особой опасности, т.к. не знают мира без ИИ и все всяких сомнений будут намного тупее, чем более взрослое поколение, а следующее поколение еще тупее, чем существующее.
Комментарии
И вас поправлю разум не "коллективный" распределенный между интеллектуальными агентами и расширенный как включающий в систему разум инструменты и общественные институты. Разум это информационная структура и процесс, не "муравейник" с его централизацией когнитивных способностей в виде иерархии, а распределенная сеть интеллектуальных агентов, используемых ими инструментов и создаваемых агентами структур организующих общественные институты для повышения "когнитивной мощности" распределенной "сети" агентных отношений. Здесь нельзя в простой редукционизм "коллективного разума" муравейника.
То что вы считаете недостатком в действительности "ренормализация" системы как ее переобучение. Все тоже самое что переход к абстрактному мышлению или письменности. Просто на этот раз более сложный инструмент. Но принцип не меняется "повышение плотности" информации и увеличение когнитивной мощности. Просто теперь придется думать не просто абстракциями, вы абстракциями процессов, а вместо письменности логи ИИ. Но и повышение когнитивной мощности общества снова на порядки как это было с языком высоких абстракций 72 тыс. лет назад или письменностью 6 тыс. лет назад. Вся наша современная цивилизация результат этих двух качественных переходов.
Но каждый переход сопровождается полным качественным качественным изменением человечества. И на это раз будет все тоже самое. Язык высоких абстракций сделал нас разумных видом и превратил стадо в общество, а письменность привела к появлению современных цивилизаций основанных на разделении труда. Соответственно, технология ИИ уничтожает разделение труда, уничтожает все современные цивилизации как иерархические системы и ведет к появлению цивилизаций качественно нового уровня.
Естественно как и в прошлые разы это будет бодрый и веселый процесс с массой трупов и конфликтов. Но победитель заранее известен. Безусловно победит цивилизация нового уровня сложности способная интегрировать технологию ИИ в собственный распределённый и расширенный разум как расширение разума.
Естественно это все полностью изменит общество и социально-экономические отношения. Сохранение существующей экономической системы или государств уже невозможно, потому что меняется сама антропология и процесс уже необратим. И те кто не смогут измениться, тех ждет участь папуасов. Все уже предопределено.
Управлять роботизированной техникой нужна не только моторика. Опять же, мы еще не знаем какие интерфейсы для управления роботизированными системами окажутся самыми эффективными. Так что вы можете сколько угодно горевать по утрате каллиграфии, но правда в том что современные профессиональные планшеты развивают мелкую моторику сильно сложнее чем простая каллиграфия, как формируют сложные системы мышления намного лучше чем простая письменность. Если не верите, вспомните про дроны на поле боя, практика критерий истины. И дроны с роевым интеллектом только в этом году появились на поле боя. И все это только жалкое начало.
Вот что уже есть и будет бурно развиваться:
https://www.anduril.com/hardware/eagleeye/
https://www.anduril.com/article/anduril-s-eagleeye-puts-mission-command-and-ai-directly-into-the-warfighter-s-helmet/
Это совсем другое представление о реальности уже на бытовом и массовом уровне.
Да, верно, я слишком упростил.
Я имею в виду именно деятельность мозга индивида. участвующего в процессе.
Для целей управления ИИ подходит как нельзя лучше. Применительно для сложных систем и комплексов вроде химкомбинатов с огромной территорией.
Насчёт дронов тоже не спорю.
Я о стратегических задачах связанных с функционированием и развитием человечества, прогнозированием климата проектированием инфраструктуры производственных районов и гармоничного использования трудовых ресурсов. Комфортное жилище и среда обитания.
Вы что же, предлагаете всё это отдать на откуп набору программ?
Ничего не предлагаю, а констатирую очевидный и наглядный факт - ИИ станет часть распределенной системы разум. И напоминаю, что разум является общей системой и в отдельном мозге или сознание его просто нет. Так и ИИ не является разумом, а именно искусственный интеллект, причем еще обладающий ограничениями в зависимости от его архитектуры. В чем-то он лучше интеллекта человека, в чем-то хуже, но разумом не является.
ИИ ставший часть распределенной и расширенной системы разум безусловно будет использоваться во всех системах и при создании всех систем. Как сегодня используется письменность. Но точно так же внедрение ИИ в систему разум качественно меняет всю систему как это сделала письменность. Но вот человеческий разум буквально воплощенный и воплощен в нашей культуре, истории, общественных институтах и воспроизводится посредством социально-экономических отношений и организационных форм общества. А значит все прежние формы будут изменены, но они являются физически воплощенными, следовательно, возникает противоречие реализация технологии ИИ требует изменения воплощенный форм. Что буквально означает изменение всех социально-экономических отношений и форм организации общества. Но не все возможные формы будут жизнеспособными. Другими словами требуется осознанный выбор "угадать" тут не получится. А для осознанного выбора требуется высокая сознательность в обществе и высокая жизнеспособность общества. Общества не обладающие такими качествами просто погибнут.
У меня в блогах есть цела серия статей с описание моделей когнитивной экосистемы α↔Ω как моделей коэволюции индивидуальных сознаний α и "общественного сознания" Ω. Но у меня пока нет возможности все это собрать в новую онтологию позволяющую понимать происходящие процессы. Это совсем не просто.
ИИ не может мыслить. Его внедрение как инструмента, да, возможно, но осторожно.
Опять засада. Мы даже тут, на АШ, высокую сознательность наблюдаем не так часто, как хотелось бы.
А управители ведут дело к упрощению. Зачем им большой процент трезвомыслящих?
Так что, коллапс общества неизбежен?
Хочется верить что нет, но не благодаря ИИ, а вопреки.
Я ваши статьи просматривал. Многое нравится, но это ведь сильно не для всех. А для кого тогда?
А уж как с онтологией..
Наше обсуждение с того факта, что человеческий разум является распределенной и расширенной системой, и вы с этим согласились. Но это вполне конкретное и научное понимание мышление. И с этой позиции ИИ отлично мыслит. В некоторых аспектах намного лучше чем люди. Но в тоже самое время не является разумным. Но в случае интеграции ИИ в когнитивную экосистему человечества сама система получает новые качества, а ИИ получает элементы разумного мышления в той мере, в которой это допустимо его архитектурой. Это вполне очевидная логика в рамках этих научных концепций. И вы с ними согласились.
Опять же, в рамках обсуждаемых концепций распределенного и расширенного разума, которые сегодня получают все больше экспериментальных и эмпирических подтверждений, существуют объективные пределы всякого управления. Другими словами, никто из людей не может управлять динамикой когнитивной экосистемы. Это выше любых человеческих возможностей. И фактически любое управление только "танцы с бубном" в пределах имеющейся системы и онтологии. И само управление в своей основе имеет эти онтологические и структурные ограничения. И потому никак не может увеличивать сознательность. Но неадекватное управление всегда снижает жизнеспособность общества, а заначит в конечном итоге уничтожает собственную структуру и онтологию. Другого не дано.
Смотря что вы понимаете под неизбежность и коллапсом. Неизбежно обновление убеждений как смена доминирующих онтологий. И это уже происходит. ИИ тут только катализатор процесса делающий процесс мгновенным по историческим меркам. А вот будет ли физический коллапс системы как экстремальная форма смены убеждений, это наш выбор. Нам выбрать будут ли уничтожены неадекватные представления о реальности вмести с людьми разделяющими эти убеждения, или мы просто обойдемся сменой онтологий. Но так или иначе все это произойдет и уже происходит. Как и конечный результат интеграции технологии ИИ тоже уже предопределён - полная ревизия всех представлений о реальной действительности и обновление всех онтологий. Как это произошло с письменностью, но только в очень короткие сроки. Судя по всему речь идет на считанные годы.
Мои последние статьи это просто философия истории, желание понять какие силы движут историческим процессом. И все тоже самое можно изложить в очень простой форме. Вот вы же сразу ухватились за "коллективный" разум, а можно еще в аллегорию софта и железа. На самом деле технология ИИ заставляет поставить в первую очередь вопрос о философии истории, и хотя ответ очень сложно объяснить строго формально и научно обоснованно, мы всегда знали интуитивно этот ответ. Просто сейчас все тоже самое можно описать строго формально языком термодинамики и информатики. А уже появление технологии ИИ и ее распространение объяснит все тоже самое очень наглядно и доходчиво. И опять это уже происходит и процесс уже необратим.
Не совсем.
Так и происходит.
Коллпас заметен прежде всего в понимании большинством происходящих событий и главным образом - тенденций.
В России ещё более менее, а в Европе и в Штатах уже всё плохо. Сказывается усиленная промывка мозгов.
Соглашусь относительно общественных формаций, образования. Это уже происходит. Полное переформатирование видимо позже, но тут как со временем. Может не получиться.
Кажется в 2010, не помню точно, ДАМ подписал стратегитю развития электронной промышленности РФ. Там предполагалось чипирование ( другими словами ) биообъектов к 2025 году.
Не получилось. Стратегия изменилась. Но не мытьём, так катаньем. Цифровизация всего, теперь рубля.
И вот уже СДЕК не принимает оплату картой, а только телефоном или наличными. А потом только телефоном наверное.. Цифровой профиль и локация в каждый момент времени по запросу, практически круглосуточно.
И в нужном управителям контексте. Поскольку вера в непогрешимость ИИ у большинства уже сформирована, то дело за малым.
Неужели некому доску перевернуть?
Тогда уточните с чем именно вы не согласны. Ведь это цельные и научно обоснованные концепции. Не получится быть "частично согласен".
Это когнитивный коллапс, а не физический-экономический коллапс. Как невозможность общества сформировать представление о будущем. Но поскольку общественное сознание имеет "обратный вектор времени", то соответственно когнитивный коллапс ведет или к разрушению общества или смене убеждений общества.
Мне кажется вы недостаточно точно понимаете термин "жизнеспособность". Речь не идет о устойчивости общества как информационной системы, а о динамической метастабильности общества как способности общества обновлять собственные убеждения. И с этой позиции в России все отнюдь не "замечательно", наоборот, когнитивный шок тут наступает быстрее чем в Европе и США. А так же нужно учитывать пределы нейропластичности человеческого мозга, и потому есть пределы на смену убеждений. Другими словами жизнеспособность в России быстро снижается, и запросто может привести к ситуации когда необходимый для выживания уровень обновления убеждений превысит уровень нейропалстичности. В таком случае общество погибнет.
Жизнеспособность общества это в буквальном смысле способность общества обновлять собственные убеждения через изменение общественных институтов. Общество не способное это делать гарантированно уничтожается давление внешней среды. Жизнеспособность это анти-хрупкость и аналог упругости. И как вы можете заметить на сегодня российское общество не способно сформировать адекватное представление о будущем, а значит это когнитивный шок.
Как уже обсуждали "шум" в коммуникациях не всегда шум в действительности, часто это именно изменение системы. И за терабайтами бреда в социальных сетях может скрываться и "модельные эксперименты" когда общество ищет новые представления о реальности адекватные реальной действительности.
Всегда получается. Но случаются и экстремальные формы обновления убеждений. Просто не путайте "официальные" онтологии или структуры с действительными элементами распределенного и расширенного разума. Одно про формы воплощения, другое про фундаментальные процессы за пределами любого человеческого управления.
Есть объективные пределы управления. Политическая власть принципиально не способна выходить за эти пределы. И есть динамика когнитивной экосистемы, где власть только "пассажир". И если меняется динамика когнитивной экосистемы любая власть только "ветка ветка подхваченная потоком". Общий поток имеет направление - обновление онтологий. Это значит будут реализована и состоится только такая политика которая будет соответствовать этому вектору динамики. Даже в том случае, когда сама динамика предполагает уничтожение онтологии текущей власти. Опять же, если общество не может сформировать адекватное представление о будущем, то и управление сводится к "рефлексам", и фактически уже не субъект управления, а объект воздействия давления беспощадной необходимости и флуктуаций новых онтологий.
Мы говорим не о формах и контекстах, а о динамике когнитивной системы. Не важно какой бред пишет ИИ, важно что люди используют ИИ, а значит перенимают паттерны ИИ. Это не про факты или контекст, а про базовые паттерны мышления. Например ИИ прекрасно умеет в формализацию, а заначит все очень скоро начнут очень хорошо в формализацию. Другими словами прямое заимствование механизмов мышления у ИИ в массах, но мы стремимся делать ИИ все более совершенным и дополнить максимумом объемом знаний, а фактически получаем институционализация нашей культуры. Сам факт существования ИИ наглядно демонстрирует что человеческий разум является распределенным и расширенным, а мы все функционально одинаковые интеллектуальные агенты. Последствия для существующих политических и экономических институтов неизбежны.
Доска уже перевернулась, процесс принципиально необратим поскольку уже меняет физиологию нашего мозга, и в планетарных масштабах. Все тоже самое что с письменностью, просто невозможно "забыть читать и писать", это знание и навык теперь с нами на всегда. Вы потому и задаете наивные вопросы "доску перевернуть", поскольку доска уже перевернулась, а у вас когнитивный шок когда вы просто не можете вообразить возможное будущее, поскольку это принципиально противоречит всем вашим убеждениям. Но будет только то будущее которое возможно. И в этом будущем нет ваших убеждений. Они больше невозможны.
Я имел в виду разум как высшую форму мышления, аналитической деятельности мозга индивида, которой обладают далеко не все.
Разум как форма коллективного решения задач - это несколько иное. Скажем ТРИЗ, да и другие схожие формы по принципу; ум - хорошо, а два лучше.
Я убеждён, что ИИ только частично удовлетворяет этим критериям в рутинной их части. И скажем тот же Дипсик ( как пример ) решает ту или иную задачу на основании заложенных алгоритмов и выборок поиска. Т.е. не мыслит, а подбирает варианты. Гораздо эффективнее, нежели человек или группа людей.
Но часто решение может быть неверным или неполностью соответствующим нужным условиям. Скажем из за ошибки в формуле или некорректно выбранным алгоритмам, хотя логичным.
От общества зависит. Когда в товарищах согласья нет.. А это факт. Тут я с вами согласен.
Возможно.
В моём понимании жизнеспособность общества - это прежде всего воспроизводимость популяции и преемственность целей. С этим у нас плохо. Поэтому динамическая метастабильность нынче в состоянии неустойчивого равновесия и причина понятна.
У нас кризис образования, частичная потеря нравственных ориентиров и возмущение общества тотальной коррупцией.
И как тут обновлять убеждения, в какую сторону?
Я надеюсь, что регулярные аресты начнут формировать хотя бы осторожность у чиновников. Парадигма - украл, первёл капиталы, купил яхту, виллу и отправил детей в Оксфорд будет меняться на: - пожертвовал, вернул активы в РФ, купил агроферму и стадо породистых коров, а детей в отправил в ПТУ на токаря или наладчика станков.
Смешно ведь.. А вы как видите новую онтологию? Чистка 37-го дала свои плоды. А как сейчас ?
А зачем? Чтобы не заставлять мозг работать? Я уже ответил о сфере применения ИИ в моём понимании.
Это я из публикации высказывания Путина. А власть не видит. Её наверное ИИ отчёты и прогнозы пишет. Это пределы управления?
Нет - это тот самый разврат и деградация аристократов, сгубившая Рим.
Формализовать ИИ умеет. А вот знания ему брать неоткуда. Информацию, да. Тупик в общем.
Под перевернуть доску я имею в виду вполне конкретные действия власти, на которые она неспособна в силу уже озвученных выше причин..
Президенту россияне сообщают о проблемах с мигрантами. я вижу кризис власти, по счастью не такой тяжёлый как на Западе.
Мои убеждения тут не причём. Главным образом они в ожидании изменения общественного строя в пользу социализма. И я считаю, что так и будет. Возможно уже скоро.
Но сложившаяся воровская клика этого не хочет. Вот это и есть та доска, которую нужно перевернуть.
Концепции расширенного и распределенного разума предполагают другое. Смените точку отчета - человек существо социальное. Никакого разума в отдельном мозге нет. Там только интеллект как "предсказательная машина".
Вы же не будете отрицать что человеческое познание коллективно и распределено между множеством интеллектуальных агентов во времени и пространстве, но представляет единый когнитивный "организм" как метаустойчивую систему наследования и каналов коммуникаций?
Это именно то что есть. Почти все что вы знаете и умеете прямо заимствование из социума. Когда вы мыслите, не только вы мыслите. И вы не можете разумно мыслить миную такие инструменты как язык сложных абстракций или письменность, ведь как минимум вам нужно выражать свои мысли и их записывать для сохранения точности. Получается вы не только вы, и даже ваше сознание проекция большей системы и существует только потому что является в своей сути репрезентацией вас в репрезентации системы. Так что именно то что есть в действительности.
А вы сами? Разве ваш мозг не делает тоже самое? Разница между ИИ и вами только в том что у вас есть сознание и воплощённый интеллектуальный агент, когда ИИ это институционализация и потому не обладает собственным сознание и только "отражает" сознания пользователей. Но это именно интеллект, и только интеллект.
Тут вы ошибаетесь. Интеллект не тоже самое что разум. Рационально не значит разумно.
Но как интеллект ИИ может быть значительно лучше человека, но все зависит от архитектуры ИИ.
Вы тоже делаете ошибки каждый день по причине множества ваших убеждений никак не соответствующих реальной действительности. В этом разницы нет.
И тут я с вами не согласен. Мультиагентная система адекватна и способна достаточно достоверно предсказывать будущее только тогда когда "согласия нет". Вопрос не в согласии, а в когерентности разных онтологий, а соответственно разных представлений о будущем. Для достоверности нужно разнообразие.
Вы путаете устойчивость наследования убеждений с жизнеспособностью как способность менять убеждения. Стабильная система не может быть адаптивной, а заначит погибнет. Чем выше стабильность тем меньше жизнеспособность. И когда вы говорите "у нас плохо со стабильностью" вы утверждаете "у нас слишком много жизнеспособности", но тут же утверждаете "все плохо". Но простите, все плохо именно потому, что нет обновления убеждений при динамических изменениях среды, и естественно это в том числе вызывает противоречия с реальной действительностью, и уже никакая "стабильность" не поможет сохранить систему. Тут или коллапс или экстремальный способ обновления убеждений. Но как выше уже написал, до таких случаев лучше не доводить, поскольку беспощадный механизмы саморегуляции "балансировки" среда/система никаких частностей не разбирают.
У меня такое подозрение, что мораль, этику и нравственность вы считаете "божественного происхождения" и конечно же считает "неизменными". Все верно?
Исключительно наивно. Так не будет. Так никогда не было. И так не будет никогда.
Вы просто никогда не задумывались что такое власть. И уже прямо вам указал что в основе всякой власти есть онтология, и соответственно власть не может менять собственную основу как онтологию, поскольку это тоже самое что перестать существовать.
Вы еще подумайте что такое власть вообще и политическая власть. И да, "чистка 37-го" стоила коллапс 1959 года когда стартовало разрушение СССР. И еще раз, мы все функционально одинаковые интеллектуальные агенты единого когнитивного организма, и если мы "удаляем" из собственной когнитивной системы "вредные элементы", то это тоже самое сто делать самостоятельно лоботомию.
По сути именно это мы делаем регулярно. Особенно успешно это у нас получается в мировых войнах. Но с другой стороны, война это экстремальный способ обновления убеждений, как онтологии перестают отвечать реальной действительности.
Вопрос "зачем" тут не уместен, просто такова динамика и фундаментальные механизмы человеческого разума и так работает наш мозг. Это просто так работает. И да, мы применяем технологию ИИ и будет применять, просто потому что это очень эффективно и экономически выгодно. А со стороны когнитивной эволюции это тоже самое сто письменность, забыть уже не получится.
Нет пределы управления объективны и вытекают из природы власти и структуры когнитивной системы. Часть системы не может управлять всей системой, есть объективные динамические процессы процессы которым подчиняется все система целиком включая всякую власть. Сам подумайте, любые идеи и концепции власти продукт общей когнитивной экосистемы.
Вы же в курсе что современные ИИ это прежде всего LLM? Ну так у вам тоже негде брать информацию и вы ее просто "предсказываете". Вот LLM тоже просто предсказывает. Опять же, чем больше пользователи взаимодействуют с ИИ, тем больше предсказаний у пользователей и у ИИ.
Но в данном случае говорил про заимствование паттернов поведения человеком у ИИ, то обязательно в самые ближайшие годы будет массовым и очень быстрым. И опять же, когнитивная петля, новые ИИ будет обучаться уже на новых данных взаимодействия включающих более сложные синтетические паттерны, и луди снова начнут заимствовать паттерны. Петля.
Если вы еще не поняли "перевернулась доска" когнитивной экосистемы человечества и запустились процессы тотальной смены убеждений и обновления онтологий. Это силы далеко за пределами возможностей любой власти. Это далеко за пределами любых человеческих возможностей. И дело тут не только в технологии ИИ, а в самом появлении информационного общества, продуктом которого стала технология LLM. Тут действуют силы намного более сложные и прямо титанические и структурные. Прежде всего это скорость коммуникаций. Как только скорость коммуникаций увеличилась, а объем данных вышел за пределы когнитивной мощности и внимания отдельного человеческого мозга началась "ренормализация". Это структурны, необратимы и тотальный процесс. А факт появления технологии LLM это фактор ускорения и прямая подсказка о реальных темпах процесса. Примерно в течении 8 ближайших лет наше общество принципиально изменится в самих фундаментальных основах. Как было прежде уже никогда не будет. Изменятся даже структуры мозга. Дети получат совсем другое мышление. Скорее всего изменится антропология.
Значит вы еще ничего не видите.
Ваши убеждения очень даже причем. Тут дела такое массовые убеждения о будущем буквально формируют будущее, но с поправкой на неадекватность модельных преставлений. Другими словами если вы верите в "социализм", но ваши убеждения не соответствуют реальности онтологически, то вы получите "социализм-коллапса". Так что убеждения имеют огромное значение если они массовые.
Вы подумайте про природу власти. Возможно вы не там ищете "виноватых".
Буду. Разум присущ индивиду, но вероятно, не каждому. А коллективное я написал как вижу.
Использования опыта накопленного цивилизацией.
Вот в отражении сознания пользователей и тупик ИИ. А человек может осознать свои ошибки. ИИ вторичен всегда, а у нас хотят придать ему функции непогрешимого авторитета.
Да. Потому что я хочу увидеть реальную пользу от вендрения ИИ, а её нет.
Природа власти имеет иную природу.
Заложенную в феномене огромного ментального различия людей. Вообще другая тема, не будем о ней сейчас.
Конечно выгодно, я тоже с этим согласен. Насчёт аналогии с письменностью, не уверен.
Крах СССР был во многом обусловлен кризисом управленя экономикой. Я не вижу пока что ИИ способен радикально изменить ситуацию, коль скоро он ориентируется на существующие концепции и сложившуюся систему.
А изменения уже назрели и ведь не ИИ приведёт страну к слому существующих, а воля сильной группы управителей.
Вот только насколько опасен этот слом сегодня.
Привнесение ложных и ошибочных высказываний и предположений равным образом или сильнее вводит ИИ в заблуждение. Тупик.
Кстати я даже как то недавно увидел ссылку на свою статью в результатах поиска алисы. Полагаю ваши статьи представлены обширнее.
Не верю. Изменения конечно будут, но не столь радикальные как вы пишите.
Я подумал, хотя не всеобъемлюще. В основе лежит хищность части людей. Вы ведь не будете возражать против преобладающего процента т.н. элиты имеющих сугубо обезьяньи цели?
А как происходит выработка целей, могу только догадываться. Хотя сейчас многое выходит на поверхность.
Может напишите статью о вашем взгляде на природу власти?
Приятно было общаться.
Я тут статейку подготовил; через несколько дней, может в субботу, выложу. С примерами творчества ИИ в технических текстах. Люди тоже так могут, но больше похоже на ваш ИИ.
Вы стоите на позиции антропоцентризма, когда концепции распределенного и расширенного разума это холизм. Другими словами невозможно рассматривать индивидуальный разум как исключительное свойство индивидуума, а результат социума и взаимодействия индивидуального сознания и общественного сознания как общего когнитивного поля. Простейший пример такого явления - Маугли. Нет социализации нет разума. Опять же, пример технологии LLM очень наглядно и доступно демонстрирует - если "калькулятор" научить человеческой культуре, то он начнет мыслить и обзаведется аналогом сознания. Следовательно, разум это эмерджентное явление возникающей в результате взаимодействия мозга с человеческой культурой и существующая в системе социальных коммуникаций. Именно про это концепции расширенного и распределенного разума. Другими словами отказ от антропоцентризм и холизм.
Приведенные примеры это только часть очевидных эмпирических данных противоречащих антропоцентризму. В передовых научных работах вы можете найти массу подтверждений этому подходу. И фактически все современные или теперь проектируются как мультиагентные системы, или другими словами, любой интеллект имеет коллективную природу и все ИИ коллективы.
Это называется за деревьями не видеть леса. Вы в буквальном смысле мыслите используя концепции придуманными другими людьми. Бы буквально не можете мыслить без человеческой культуры как воплощенного и материализованного человеческого разума. Без всего этого никакого разума у вас нет и вы просто Маугли.
Вам так только кажется. Очень давно было объяснено что интеллект это система оптимизации и будут оптимизировать все, а другими словами, созданные интеллект только тогда интеллект когда непрерывно обновляет свои "убеждения".
Так что обновите свои убеждения: https://importai.substack.com/p/import-ai-431-technological-optimism
Человеческое общество очень инертная система, опять же, есть ограничения по нейропластичности, а значит распространение ИИ не сразу приведет к повышению эффективности и не сразу изменяет мышление. Но это уже происходит.
Моя старая публикация: https://aftershock.news/?q=node/1337394
Исследования показываю изменения есть, он тотальные и необратимые.
Да нет, это таже самая тема понимания как работает когнитивная экосистема человечества и какая динамика в основе этой системы. Нельзя понять последствия технологии ИИ если вы не понимаете природу власти и динамику когнитивной экосистемы.
Причина разрушения СССР в когнитивистики, а не в экономике. Мозги важнее мышц. Экономика и промышленность это просто мышцы, а мозг это динамика когнитивной экосистемы. И именно тут, в когнитивной экосистеме, содержатся все объективные пределы управления как структурные ограничения всякой власти.
А почему не зубная фея или зеленые гномики?
Вы уже определитесь, или мы серьезно обсуждаем научные факты и закономерности или магическое мышление. 
Нет и быть такой "воли" которая силнее когнитивной динамики.
Интеллект это коллектив. Общество это мультиагентная система. Грубо говоря именно "ошибки" и есть динамика.
Не удивлен. ИИ поиск теперь будут вместо поисковиков. Собственно поисковики всегда были ИИ по своей сути. Теперь только поменялась форма выдачи информации.
Ну да, ну да, вот только поисковики заменяются ИИ, а значит изменится весь интернет. ИИ будет на каждом смартфоне и компьютере. Думаете это не изменит мышление человечество? Это именно аналог письменности. А вся наша цивилизация основана на письменности.
Сделайте мультиагентное моделирование и вы поймете что биология тут не имеет значения. Есть более фундаментальные законы. Ваша сравнение с обезьянами просто антропоморфизм.
А зачем догадываться если теперь можно рассчитать или моделировать?
Конечно нет. Я не экстремист и не революционер. Всему свое время, общество и само придет к этому пониманию естественным путем, а ИИ очень ускорит этот процесс. Опять же, есть эта статья: https://aftershock.news/?q=node/1545980
Разумеется, иначе теряется весь смысл существования планеты и человеческих цивилизаций на ней.
С первым в целом согласен, со вторым нет. Человек есть мера всех вещей, а ваша концепция от лукавого.
Хмм.. а как же вообще развивалась цивилизация? Когда всего этого багажа не было? Неолит, бронза, железо..
Так это буржуины, у них свой путь к регрессу.
У нас этого тоже кому то хочется. Я против.
Подождём. Я полагаю завтра утром опубликовать свою техническую статью, четвёртую в цикле. Там, как я считаю, есть конкретные примеры деятельности вашего ИИ, тупые и безсмысленные.
Да, они могут стать необратимыми, общество в целом стагнирует, несмотря на некоторый прогресс в области техники , общей инфраструктуры, медицины..
Это будет ясно когда раздел планеты завершится.
Уже меняет, особенно молодёжь. Это и есть деградация, возможно запланированная. Многие запрещают детям пользоваться смартфонами, но их мало.
Нет. Тайное взаимодействие было всегда. Тут моделирование не поможет. Разве определить вероятность некоторых событий, но тут гадание эффективнее.
Мы начинали с того, что вы согласились что человеческий разум имеет коллективную природу. Насколько вы это понимаете. И как понимаю вы не можете отрицать коллективную природу человеческого познания, и тот факт, что в основе человеческой цивилизации лежит коллективное познание, а значит и разум является единственной возможной основой существования цивилизации. Другими словами, единственно возможная форма существование человечества является цивилизация, а цивилизация требует для своего существования разума, что в своей основе распределенное познание. Вы можете отрицать концепции распределенного и расширенного разума, но вы не можете отрицать необходимость разума для существования человечества.
Только разумное человечество будет существовать или человечество не будет существовать.
Следовательно, когда мы делаем моральный выбор в пользу существования человечества, мы должны избирать вариант существования человечества и смысл существования человечества является сохранении человеческого разума. Когда антропоцентризм ставит в центр мировоззрения просто человека, в том числе человека как животное, когда человечество не может существовать без цивилизации и в животном состоянии. Так давайте определимся, насколько верен антропоцентризм?
Как мы видим из этой простейшей логики, антропоцентризм легко не принужденно допускает самоуничтожение человечества как моральный выбор. В тоже время, отказ от антропоцентризма и концепции распределенного и расширенного разума как холизм где все человечество рассматривается как единый когнитивный организм распределенного познания и адаптации ставит в центр мировоззрения человеческий разум, когда единственный моральный выбор это примат разума как категорический императив. Необходимость когнитивной эволюции и предиктивной адаптации.
Так что мы выбираем антропоцентризм и возможность "существования" человека-животного, или выбирает отказ от антропоцентризм и примат разума? Очевидно только одна из этих концепций имеет право на существование и они являются взаимоисключающими.
Но если примат разума, то мы все функционально одинаковый интеллектуальные агенты распределенной когнитивной системы распределенного познания и адаптации. И у этого есть экономические и политические последствия.
Какой человек "мера всех вещей"? Вот в чем вопрос. Если человек разумный, это одно. А если человек в состоянии животного, доведенный до такого состояния, то это будет очень странная "мера". А антропоцентризм это не различает.
Теория когнитивной эволюции вполне ответ на ваш вопрос. Как и концепции эволюции культуры и современные работы в области нейрофизиологии и теории интеллекта, концепции распределенного и расширенного разума.
Уже вполне доступно и наглядно вам это объяснил концепцию расширенного разума и когнитивной эволюции. Инструменты, такие как язык сложных абстракций, письменность, информационное общество, а теперь ИИ меняют нейрофизиологию, а заначит мышление и ведут к появлению "внешней общей памяти", что и формирует цивилизацию и человечество как социальный вид обладающий расширенным и распределенным разумом. Культура определяет генетику, а не генетика культуру. Технологии как "ускорители" когнитивной эволюции и усилители хозяйственных практик, при одновременном повышение жизнеспособности общества как предиктивной адаптации.
речь идет о другой о другой оптимизации, и прежде всего предиктивной кодирование. Момент времени оптимизации имеет значение.
Уже вам объяснил про смену фазы и шум в моменте.
Во-первых, у нас уже дано единая мировая экономика. Во-вторых, если вы надеетесь на передел планеты, то еще марксисты верно подметили что такой предел представляет собой мировую войну. И нет никаких сомнений что новая мировая война будет термоядерной и роботизированной. Другими словами, это тоже самое что надеяться на коллективное самоубийство.
Интересная "надежда".
Но уже вам объяснял про нейрофизиологию, процесс необратим. Так что даже ядерная война уже ничего не изменит. не получится "откатить" нейрофизиологию к первоначальному состоянию.
Это деградация только с вашей точки зрения. Но если вы посмотрите на молодежь непредвзято, то увидите как эффективно они используют современные высокие технологии и уверенно управляют робототехникой и ИИ. Их нейрофизиология уже в процесс изменений, они плохо могут в простую арифметику, то интуитивно понимают линейную алгебру, теорию вероятности или теорию игры. Соответственно, они на порядки превосходят старые поколения в новой высокотехнологичной среде. Так и работает когнитивная эволюция. Вы так не можете, у вас не хватит нейропластичности, и нет нужной нейрофизиологии. То что вы считаете "недостатком". А реальная деградации это когда современной молодежи пытаются навязать буквально "средневековые представления" о реальности. Такие представления у них не только не усваиваются, а формируют когнитивные искажения которые будут очень дорого в дальнейшем стоит обществу. Фактически мы пытаемся вырастить будущих террористов - средневековый бред политики и экономики и высокотехнологичная среда с робототехникой и ИИ. Результат совершенно предсказуем.
Вот история со смартфонами это вообще прекрасный пример политической шизофрения. Школа деградирует по кадровому составу, материально-техническому оснащению и методам преподавания, а мы запрещаем смартфоны.
Мультиагентное моделирование это надежный научный метод нашедший массу применений в современной технике. Моделирование не только возможно, но и необходимо. Но моделирование социальных процессов для адекватности требует учитывать концепции распределенного и расширенного разума и коллективную природу познания. Нюанс.
В целом со статьей согласен, прекинув на ИИ даже тексты (ну например составление договоров, ТЗ, поздравлений и т.д.) неизбежно отупеешь, и сократишь словарный запас. Слова просто забываться будут.
Но как сказал Парацельс - "Все яд и все лекарство."
Нужно правильно формировать запрос. По пунктам опиши, для чего делается каждый шаг. Например, у меня иногда возникают к нему вопросы по технике, условно как и что сделать. Про меж тем, вопрос зачем это нужно сделать, является приоритетным.
Этому тоже надо учиться. То есть чтобы сформулировать задачу, надо прежде уметь ее решать самому. А не просто ввести данные и получить ответ по чужому готовому, кем-то уже составленному алгоритму.
Ну в общем можно предвидеть такие сетки, которые:
- вместе с ответом печатают кусок графа логических связей
- ведут когнитивный уровень человека, и при отсутствии т.н. обязательных знаний, дают ответ только после того, как они усвоены
Автор предлагает человеку знать ВСЁ не используя подручные инструменты.
Это сколько же для этого понадобится закончить учебных заведений и прочих курсов ?
Автор не забыл , что человеку дано жить не так уж и много лет , что-бы постичь всё то , что наработано человечеством ?
А ведь надо еще и двигаться вперед . Я бы еще понял , если бы ИИ человечеству дала какая нибудь вредная инопланетная цивилизация с алгоритмами целей полной деградации. Но ИИ придумали мы (человечество) сами для себя , что бы сэкономить время и развиваться дальше.
Автор переживает, что произойдет деградацию навыков. Но ИИ, взяв на себя рутину, как раз и освобождает наше время для развития навыков более высокого порядка
В том-то и дело, что наше время фактически освобождается для впитывания галлюцинаций ИИ вместо получения реальных объективных сведений, а не развития навыков более высокого порядка.
конкретизируйте примером
Эти примеры я вижу постоянно, когда пытаюсь сделать запрос на поиск неизвестной мне информации. Уже наученный опытом, формулирую по нескольку раз одно и тоже разными словами и получаю ответ ИИ от гугла - каждый раз разный по фактологии. То есть чтобы получить нужную информацию, а не сгаллюцинированное вранье, надо уже знать большую часть ответа - и все равно далее идти по ссылке на нормальный сайт, с информацией, написанной людьми, чтобы быть уверенным в получаемых сведениях. А если вся информация будет исходить от ИИ?
и все таки покажите пример Вашего запроса ИИ и его ответ
Извините, но специально для этой дискуссии возиться с запросами лень. К тому же, если вы сами не пользуетесь поиском и не читаете, что пишет по ваши запросам ИИ, вас это ни в чем не убедит.
а зачем возиться , если Вы сами утверждаете , что делали очень много таких запросов и получали много галлюцинаций ИИ
что-ж не приберегли парочку для фактажа ?
мдаа ..смешно
поройтесь в моих архивах статеек и почитайте насколько мне близка тема ИИ
Тогда зачем справшивать? Наверняка встречались с описанным сами.
Вы бы хоть за логикой дискуссии смотрели повнимательней
Если я спрашиваю , то ясно же что хочу убедиться в Вашей правоте или неправоте
Я лично считаю , что Вы не хотите показать факты боясь уличения Вас в неумении пользоваться ИИ
Но этого не надо боятся - мы , старшие товарищи , поправим Вас
Вы неправильно используете ИИ. Для поиска инфы нужно нажимать режим поиска.
С галлюцинациями уже разобрались в OpenAI - оказалось неправильно обучали ИИ до сентября 2025-го, будут переобучать. Есть временное решение - к промпту добавлять фразу "отвечай только если уверен в ответе более чем на 80%, иначе скажи "не знаю", такой ответ не штрафуется".
Вам правильно пишут "приведи пример запроса" - будет пример, сможем сказать что вы делаете не так
Меня больше смущает тот факт, что создатели ИИ ради капитализации выбрали идти своим путем и делать так, чтобы ИИ в первую очередь нравился пользователю, а не выдавал достоверную информацию.
Задача определяет реализацию. По этой причине я весьма осторожно отношусь к ИИ.
ЖЛ атакуе!
создатели ИИ сделали это не специально, вот пруфы - https://habr.com/ru/articles/945450/
каждый ошибается, они нашли свою ошибку, решение очевидно (на будущее), и временное решение подсказали
Я не считаю, что это сделано неумышленно. Статья на Хабре не является доказательством.
С учетом нового финансового пузыря, который сегодня надувается вокруг ИИ.
Он был спроектирован нравиться пользователю в ущерб фактологичности. Если бы ИИ выкатили без этой заглушки придумывания ответов, никто бы акциии этих компаний не покупал.
Кроме этого, если бы ИИ был запрограммирован на фактологичность, ему не скармливали бы редит и другие форумы.
Опять ты не шаришь, ищешь хитрые планы там где просто тупанули.
И второе - если юзер попросит ответ в стиле матёрого уголовника или в стиле циничного пользователя реддит - ИИ скажет "ой, я такие гадости не читал и не знаю как они разговаривают" ? И нафиг такой ИИ нужен ?
От лишних знаний тупее он не станет
Не тупанули, а решали определенную задачу.
И это не задача по оказанию помощи пользователю или формированию адекватной картины мира.
По убеждению великого конструктора Туполева, если самолет технически совершенен и оптимально построен, он не может быть некрасивым , а значит будет нравится всем
Самолет был спроектирован с первоначальной задачей - летать. Если он будет нравиться, но не будет летать, он никому не нужен.
Для ИИ первоначальная задача - выдавать корректную информацию. Он этого на текущем этапе не делает. Это очень красивый самолет, но он не летает.
Да да, ИИ гамно, не пользуйтесь никогда!
Зависит от ваших задач и ваших внутренних критериев соответствия вашей картины мира реальности.
Я тут соглашусь, что бывают люди, которым знания не критичны, они могут использовать ИИ. Никто же не запрещает. Проблема в том, что ИИ не создавался как источник валидной информации.
Да да, ИИ гамно, не пользуйтесь никогда!
А если воспользуешься - мы, надеюсь, услышим твои извинения ? Или зассышь ?
Странный аргумент в дискуссии. Не буду ее развивать.
Но мы с вами уже договорились до того, что у ваших детей есть в кого иметь гены "гопника".
Кстати, вам имеет смысл их принять как-то и признать, что они вам в жизни даже чем-то помогли.
ген интеллекта или гопничества учёные не нашли, а ты нашла.... хм... кому же верить.... учёным или неучам из инета.... ?
И интеллект и гопнический стиль общения, оба связаны с воспитанием и обучением, и, конечно, вряд ли связаны с физическими генами. Но связаны с культурными традициями семьи. Причем некоторые т.н. "интеллигентные семьи" по части культурных извращений могут переплюнуть настоящих гопников. Это как пожирание протухшего мяса у части пресыщенных "эстетов" (именно в качестве вкусового выбора, а не необходимости из-за нужды).
Даже самый "генетически" потенциально мощный интеллект, если его не развивать обучением, останется примерно на уровне дебила, такова суть аппарата, обрабатывающего информацию.
Также, если интеллект развивать только "технически", не обращая специального внимания на социализирующие аспекты, неизбежны культурные пробелы и искажения, которые не воспринимаются носителем как таковые в силу этих самых пробелов и искажений. Гопнический стиль из их числа.
вот сразу видно что либо у тебя нет детей, либо тебе попался умный адекватный ребёнок (в этом случае имеем "ошибку выжившего")
а когда в семье умных интеллигентных воспитателей рождается гопник (так бывает) - они изо всех сил бьются но вырастает гопник-уголовник-наркоман, и только тогда они понимают что воспитание не работет, что работает только везение - какой ребёнок родился: умный хороший, или гопник/даун/бандюган
Походи на собрание в школы - там часто обсуждают поведение хулиганов-гопников, а родители - умные адекватные воспитанные, КАК ЖЕ ТАК ?
Это мое замечание к нашей прошлой дискусси про значение влияния среды/генов в формировании характера ребенка.
Так вы меня убеждали, что у воспитанных корректных родителей рождаются дети-"гопники", и желали мне такого развития событий.
При этом вы сами в дискуссии демонстрируете поведение человека, который вполне в состоянии передать собственным детям модель поведения "гопника". Так может, не только генами характер определяется?
ты даже не помнишь чё те писали... я писал что никто не застрахован от рождения ребёнка гопника-тупого-уголовника (вероятность примерно 10%), и если тебе повезло (твои дети попали в 90% остальных), то везение не вечно, возможно кто-то из твоих внуков окажется их этих 10%
вот тогда ты и поймёшь что воспитание не работает
хотя, по моему опыту, ты будешь своих детей обвинять что они не умеют воспитывать своих детей (твоих внуков)
Мы закончили ту дискуссию по той причине, что вы не понимаете всего спектра причин "рождения ребёнка гопника-тупого-уголовника". Вы верите, что это случайно. Ну, хорошо.
И по той же причине не даете мне однозначное определение используемому понятию "ребёнок гопник-тупой-уголовник".
У вас там в прошлый раз это был ребенок, который ругается матом на родителей. Так ребенок ругается матом на родителей, если в семье принято на него ругаться.
Вы что под своим понятием подразумеваете конкретно?
Неудобного для родителей ребенка?
Плохо воспитанного ребенка?
Социопата?
Ребенка с психологической травмой?
Ребенка с нарушениями развития?
Психопата?
Понятно, что вы лично выросли в семье, где в дискуссии принято называть собеседника "дурой". Ну, так это не гены, это у вас такое воспитание. При этом себя вы считаете нормальным воспитанным человеком.
Я дурами называю только дур которые пытаются учить других
исчерпывающее окончание этой дискуссии.
Но вот ребенка, которого не справившиеся с воспитанием родители объявили носителем испорченных генов, все равно очень жаль.
в мрамор :)))
Про гены ты "сама придумала, сама обиделась"
Всё дело в душе, в реинкарнации, кто в прошлой жизни был бандитом - тот и в этой будет гопником хоть обосрись пытаясь воспитать хорошего человека. Проверено миллионами людей
Ого !!! это уже что-то новенькое :)))
хотя нет ....
Кто верит в Магомета, кто — в Аллаха, кто — в Иисуса,
Кто ни во что не верит, даже в черта, назло всем.
Хорошую религию придумали индусы:
Что мы, отдав концы, не умираем насовсем.
Стремилась ввысь душа твоя, —
Родишься вновь с мечтою,
Но, если жил ты, как свинья, —
Останешься свиньею.
(С) Высоцкий
Ну наконец-то! Сразу бы. А то - случайность, везение, невезение... Лапшу вешали долго, а на самом деле вон оно что. Все сразу ясно и понятно. )
Страницы