К вопросу взаимной интеграции ИИ и общества. Декларация VERSES

Аватар пользователя Корректор

Поскольку ранее высказывал аналогичные выводы, просто привожу google перевод публикации:

Executive Summary of “Designing Ecosystems of Intelligence from First Principles”

Комментарии тут излишние, сама публикация объясняет все.

Далее следует интерпретация официального документа «Проектирование интеллектуальных экосистем на основе первых принципов», выпущенного исследовательской лабораторией VERSES и переведенного на простой для понимания язык и концепции. Мы обсуждаем будущее искусственного интеллекта (ИИ) и его потенциальную роль в формировании общества. Мы полагаем, что ИИ должен не только понимать и иметь возможность делиться своими убеждениями, но и демонстрировать гибкий и общий интеллект, присущий людям. Мы предполагаем, что окончательной формой ИИ станет распределенная сеть «экосистем интеллекта», в которой коллективы интеллектуальных агентов, как человеческих, так и синтетических, будут работать вместе для решения сложных проблем. Эта экосистема, известная как «Пространственная паутина», содержит всеобъемлющую базу знаний, работающую в режиме реального времени — совокупность всех человеческих знаний, доступную кому угодно и чему угодно.

Искусственный интеллект развивается такими стремительными темпами, что кажется, что новый инструмент ИИ, от нового до умопомрачительного, каждый день попадает в заголовки газет. Однако многие вопросы о роли ИИ в нашем будущем остаются без ответа. 

По мере того, как мы переходим от информационного века к веку разведки, многие задаются вопросом: нанесет ли ИИ ущерб рабочей силе, заполонит сеть дезинформацией или, что еще хуже, превратится в версию наших технофобских научно-фантастических кошмаров и уничтожит нас всех? Или это ознаменует наступление глобальной эпохи процветания? Если мы предпочитаем быть оптимистами и делать ставку на последний сценарий, мы должны спросить себя, какой вид искусственного интеллекта имеет наибольший потенциал для пользы человечества.

Помня об этом вопросе, позвольте нам представить наше видение развития искусственного интеллекта на следующее десятилетие и далее, основанное на том, как интеллект проявляется в живых организмах и в экосистемах, которые они населяют. 

В природе организмы часто работают коллективно, чтобы адаптироваться и выжить. От слизевиков до косяков рыб и целых лесов — общий разум присутствует повсюду. Мы, люди, регулярно общаемся, чтобы делиться своими идеями. Это важная часть того, как мы растем, адаптируемся и процветаем. Тем не менее, большинство сегодняшних систем ИИ не способны поделиться своими знаниями с нами или с другими ИИ, а также не могут выразить, как они достигли своих целей. Это потому, что они не знают , что делают и почему они это делают. Возможно, называть их модными калькуляторами было бы слишком кратко, но в каком-то смысле они таковыми и являются. DALL-E, модель искусственного интеллекта с глубоким обучением и способностью генерировать изображения из текстовых подсказок, будет составлять бесчисленные изображения собак на мотоциклах, но не знает, что такое собака или мотоцикл. Например, у него нет никаких представлений о том, что такое собака. Он просто способен воспроизвести нужное изображение при наличии некоторой подсказки. ChatGPT, хотя и весьма впечатляет, просто предсказывает, какое слово должно идти дальше, основываясь на предварительных знаниях. Он понятия не имеет, правильно ли то, что он говорит. В действительности, он вообще не знает, что произносит слова.

Мы считаем, что для того, чтобы по-настоящему достичь AGI, ИИ должны не только понимать и интересоваться тем, что они делают и почему они это делают, они также должны иметь возможность делиться тем, что они узнают и как они это узнали. Если сделать их объяснимыми, они станут более заслуживающими доверия. Но как нам добраться отсюда туда?

Будущее искусственного интеллекта часто представляют как развивающееся через три отдельных этапа : 

Первый этап можно отнести к категории «Узкий ИИ» . Эти системы, представляющие собой современный искусственный интеллект, предназначены для выполнения конкретных задач или решения конкретных проблем в ограниченной области и не способны демонстрировать общий интеллект , присущий людям. Типы узкого ИИ включают программное обеспечение для распознавания речи и изображений, программное обеспечение для обработки естественного языка, самые современные генеративные ИИ и системы рекомендаций.

Следующий этап развития ИИ называется «Общий искусственный интеллект» (AGI). Эти системы демонстрируют гибкий, универсальный интеллект, присущий людям, которые способны адаптироваться к новым ситуациям, изучать и понимать новые концепции, а также выполнять широкий спектр задач и действий. 

Третью фазу прогресса часто называют искусственным сверхинтеллектом (ИСИ). Этот сложный ИИ не только будет работать в целом в разных областях, но и будет делать это на уровне, далеко превосходящем человеческие способности, даже экспертов. 

В научной фантастике искусственный «общий» или «сверх» интеллект часто изображается как единое целое, всезнающий искусственный мозг, если хотите. Но мы считаем, что зенитом эпохи ИИ, скорее всего, станет распределенная сеть «экосистем интеллекта». 

Эта стадия общего интеллекта достигается, когда интеллектуальные агенты — как естественные (т. е. люди), так и синтетические (т. е. интеллектуальные артефакты) — могут работать вместе для решения сложных проблем. Эти интеллектуальные агенты, как человеческие, так и синтетические, становятся узлами распределенной взаимосвязанной экосистемы — того, что можно было бы назвать многомерной киберфизической сетью, охватывающей физические и виртуальные пространства. Мы называем это Пространственной паутиной — сетью планетарного масштаба, которая связывает реальный и цифровой миры в одну единую сеть. 

Пространственная сеть состоит из датчиков, интеллектуальных агентов и субъектов. Датчики собирают данные, а интеллектуальные агенты, как человеческие, так и искусственные, анализируют, понимают и планируют в соответствии с этими данными. Такие актеры, как роботы, дроны или люди, выполняют предложенные действия в физическом мире. Вместе эти датчики и актеры позволяют интеллектуальным агентам воплощаться в физическом мире. Как и мы, они могут видеть и слышать. Этот вариант реализации обеспечивает бесшовную связь между цифровым миром и физическим. Пространственная сеть работает на основе обширной, распределенной и всегда актуальной базы знаний — совокупности всех человеческих знаний, способных обеспечить точную картину мира в реальном времени, к которой любой может получить доступ где угодно. 

Чтобы понять, как мы будем создавать следующее поколение Интернета, мы обратимся к многомасштабным системам , которые встречаются в природе. Природные экосистемы часто обладают коллективной способностью адаптироваться к изменениям окружающей среды. Например, лес может корректировать распределение видов растений и животных в ответ на изменения погоды или других факторов окружающей среды. Как и почти все творения природы, леса представляют собой системы вложенного разума . Это означает, что его интеллект — это не единая, однородная черта, а скорее сложный и динамичный процесс, состоящий из множества различных уровней интеллекта. Растения, например, растут по модульному принципу, как структурированное сообщество, которое самоорганизуется в определенную конфигурацию для оптимизации роста, солнечного света, устойчивости и биоразнообразия. Наши тела — еще один пример вложенного интеллекта, поскольку они состоят из множества взаимосвязанных, автономных единиц, которые работают вместе, образуя единое целое. Эти единицы можно увидеть на различных уровнях организации: от клеток до тканей, от органов до систем. Каждый блок выполняет определенные функции и способствует общему функционированию организма в целом. Можно даже сказать, что весь разум в природе — это того или иного рода коллективный разум. 

Как и естественные системы, технологические системы также можно рассматривать как системы вложенного интеллекта, причем интеллект возникает на нескольких уровнях организации. Например, сенсорная сеть Интернета вещей может состоять из множества отдельных датчиков, каждый из которых выполняет определенную функцию и способствует общему функционированию сети. Искусственный интеллект также может быть вложенным. Несколько специализированных агентов ИИ могут работать вместе для выполнения сложных задач и решения проблем. Например, агент обработки языка, агент обработки зрения и агент принятия решений могут работать совместно с роботами, дронами, автомобилями, приводами и людьми. Каждый из этих интеллектуальных агентов работает вместе, образуя более сложную и универсальную интеллектуальную систему, способную решать чрезвычайно сложные проблемы. 

В идеале эта «биомиметическая» система, то есть система, использующая синтетические методы, имитирующие биологические процессы, также должна интересоваться нами и друг другом , то есть постоянно осмысливать изменения, происходящие в окружающей среде. В дополнение к нашей способности запрашивать такие ИИ, они должны интересоваться нами и задавать нам вопросы. Это любопытство позволит им приобретать новые виды знаний и интегрировать их в существующую когнитивную архитектуру , подобно тому, как человек добавляет новые навыки и знания в свою ментальную модель в течение своей жизни. Экосистема ИИ, способная обучаться, естественным образом со временем станет более универсальной и умной, поскольку она постоянно расширяется и опирается на существующие формы интеллекта. 

В нашем представлении об искусственном интеллекте искусственные интеллектуальные агенты должны быть небольшими и гибкими. Вместо того, чтобы создавать миллиарды параметров, которые требуют больших объемов данных для обучения, что, в свою очередь, требует избытка вычислительной мощности, что делает их крайне неэффективными, нашим агентам требуются небольшие объемы контекстуализированных данных, особенно в общем формате, и обработанные с помощью минимальное обучение. Интеллектуальные агенты могут быть специализированными, способными общаться с другими, задавать вопросы о том, что они чувствуют, и узнавать новое. При таком подходе агенты могут постоянно учиться и делиться знаниями с другими агентами, отказываясь от монолитных, чрезмерно сложных и неэффективных систем искусственного интеллекта. Вместо этого группы агентов могут постоянно общаться, координировать свои действия и сотрудничать друг с другом, разделяя и решая специализированные задачи, которые перерастают в сложные задачи более высокого порядка. Значительным преимуществом вышеупомянутого общего формата данных является то, что помимо возможностей моделирования и обмена знаниями он также означает, что агентов можно проверять, то есть мы можем понять, как и почему они принимают свои решения и предоставляют обновления или правила. Это контрастирует со многими современными системами искусственного интеллекта (например, с большими языковыми моделями и нейронными сетями), которые часто чрезвычайно сложны и не могут быть проверены даже экспертами, что делает невозможным понимание причины или методологии того, как и почему они могут создавать решения.

Таким образом, вместо того, чтобы добавлять больше данных, параметров или слоев в архитектуру машинного обучения (что является вычислительно неэффективным), мы создаем ИИ, который «масштабируется» так, как это делает природа: путем агрегирования отдельных интеллектов внутри и между экосистемами во вложенные интеллекты, которые могут работать вместе эффективно с точки зрения вычислений для решения проблем в реальном времени, независимо от их сложности. В такой экосистеме люди и ИИ становятся взаимодополняющими агентами, каждый из которых обладает уникальными сильными сторонами и возможностями. Работая вместе, люди и ИИ могут помочь друг другу полностью раскрыть свой потенциал с целью оказать положительное влияние на мир.

Чтобы создать экосистему вложенного интеллекта, каждый агент, независимо от своей роли, должен иметь возможность учиться, планировать, обновлять, действовать и обновлять свои убеждения в свете новых данных. Тем не менее, чтобы считаться по-настоящему разумной, система также должна интересоваться самой собой и своей функцией в мире. Это означает, что он активно повторяет этот процесс обучения, планирования и действий, постоянно стремясь понять результаты своих действий и адаптируясь, когда результаты неудовлетворительны. Для человека это легко. Однако ИИ должен развиваться в направлении этих возможностей. Результатом станет первый в мире настоящий ОИИ.

Существует методология, которая, как мы знаем, уникально подходит для создания таких интеллектуальных агентов, известная как активный вывод . Эта концепция основана на идее о том, что интеллектуальные агенты, такие как роботы или программы, должны действовать таким образом, чтобы максимизировать точность их убеждений и прогнозов о мире, сводя при этом к минимуму их сложность. Это то, что люди и другие организмы делают постоянно. Другими словами, цель активного вывода — дать синтетическим агентам возможность принимать решения в реальном времени на основе максимально возможной информации об их окружении, что приводит к наилучшим возможным результатам. 

Чтобы оптимизировать эти результаты, мы предлагаем механику интеллекта, называемую байесовской механикой, как способ, позволяющий синтетическим агентам понимать мир так, как это делаем мы. Двигаясь по миру, мы постоянно приписываем вероятность того, что результат окажется истинным. Например, если я подброшу монету, я могу сделать вывод, что с вероятностью 50% она выпадет орлом. Однако, если я узнаю, что монета двусторонняя и имеет орёл с обеих сторон, я обновлю свой прогноз и скажу, что монета упадёт орлом в 100% случаев. Другими словами, байесовская механика — это математика того, как мы обновляем наши убеждения об ожидаемых результатах по мере поступления новой информации. Это математический метод предсказания наиболее вероятного будущего. 

Например, представьте себе робота по имени Макс, который живет в доме и может передвигаться самостоятельно. У Макса есть датчики, которые позволяют ему видеть и слышать происходящее в доме, и он может использовать эту информацию, чтобы делать прогнозы о том, что может произойти дальше. Например, если Макс услышит звук открывающейся двери, это может предсказать, что кто-то входит в дом. Используя байесовский подход, Макс может обновлять свои убеждения по мере поступления новой информации, что делает его прогнозы лучше. Например, если Max видит, что в дом входит человек, он может обновить свой прогноз, чтобы быть более уверенным, что кто-то находится в доме. С другой стороны, если Макс услышит звук лая собаки, он может обновить свой прогноз, включив в него возможность того, что в доме также находится собака. Постоянно обновляя свои прогнозы на основе новой информации, Макс может со временем учиться и адаптироваться к окружающей среде. 

Агенты ИИ познают мир, моделируя его. Это похоже на то, как люди понимают мир. Мы постоянно создаем и обновляем ментальные модели, которые держим в голове. Это могут быть мысленные представления физических мест, например наших домов. Или это могут быть объекты, подобные нашим машинам. Ментальная модель автомобиля может включать понимание того, как работает двигатель, как тормоза и акселератор контролируют скорость автомобиля и как рулевое колесо управляет направлением движения автомобиля. С помощью этой ментальной модели мы можем управлять автомобилем и делать прогнозы о том, как он будет вести себя в различных ситуациях, например, как он будет реагировать, когда мы поворачиваем руль или нажимаем на тормоз.

Ментальные модели также можно использовать для понимания абстрактных понятий, таких как математика или физика. Например, мысленная модель сложения может включать понимание того, что сложение двух чисел дает большее число, а мысленная модель гравитации может включать понимание того, что объекты притягиваются друг к другу в зависимости от их массы. Мы используем ментальные модели каждый день, чтобы понять и объяснить сложные системы или концепции, а также сделать прогнозы о том, как такие системы или концепции будут вести себя в будущем. 

Активный вывод использует модели для представления убеждений о состоянии мира (или состояния конкретной области, такой как цепочка поставок, контейнеровоз или грузовик) в данный момент времени, а также для прогнозирования с использованием этих моделей того, как мир (или домен) будет развиваться с течением времени. Эти модели могут обновляться по мере поступления новой информации, чтобы повысить точность прогнозов, которые они делают. 

Представьте, что наш робот Макс перемещается по лабиринту, используя внутреннюю модель лабиринта, чтобы планировать свои движения и избегать препятствий. Если Макс встречает (чувствует) новое препятствие, которое не было включено в его первоначальную модель лабиринта, он может обновить свою модель, включив в нее эту новую информацию и улучшить свою способность успешно перемещаться по лабиринту. Таким образом, системы искусственного интеллекта могут использовать модели мира для обновления своих убеждений и принятия более эффективных решений. 

Но что, если Макс захочет поделиться тем, что он узнал о лабиринте, с другими агентами ИИ? Ключевым аспектом любой природной системы является связь между организмами. В лесу общение часто осуществляется через сети микоризных грибов, которые способны облегчить обучение и даже память. Микоризы образуют симбиотические отношения с корнями растений и помогают растениям поглощать воду и питательные вещества из почвы, в то время как растение снабжает гриб энергией в виде углеводов. Грибы облегчают общение, соединяя корни разных растений вместе, образуя сеть, известную как «широкая деревянная паутина». Наш робот Макс должен иметь возможность общаться с другими роботами, чтобы делиться своими знаниями и учиться у других. В нашем подходе Макс может использовать общий язык, чтобы автоматически добавлять то, что он узнал, к постоянно обновляющейся общей модели мира? Таким образом, Макс сможет сообщить всем Разумным агентам, что он узнал о лабиринте. Ключевым преимуществом экосистем интеллекта является совместное обучение. В цифровой сети, такой как Spatial Web, это может происходить в реальном времени.

Чтобы обеспечить эффективную связь между интеллектуальными агентами в пространственной сети, необходимы новые протоколы связи . Предыдущие интернет-протоколы были разработаны для соединения страниц информации, тогда как протоколы следующего поколения должны быть пространственными и способными соединять что угодно в виртуальном или физическом мире. Язык гиперпространственного моделирования ( HSML ) и протокол транзакций ( HSTP ) преодолеют текущие ограничения HTML и HTTP, которые не были разработаны для включения нескольких измерений и в основном ограничивались текстом и гипертекстом. Создание общих языков и протоколов — это первый и ключевой шаг на пути создания экосистемы естественного и искусственного интеллекта, который сможет учиться, адаптироваться и делиться своими знаниями с другими агентами.

Эволюция интеллекта включает ключевые этапы развития, которые изложены ниже.

S0: Системный интеллект

Умение распознавать закономерности и реагировать. Современный уровень искусственного интеллекта.

S0 — это машинный процесс в программном обеспечении, который сопоставляет входные данные с выходными и оптимизирует некоторую функцию значения или стоимость состояний. Примеры включают глубокое обучение и обучение с подкреплением.

S1: Разумный интеллект  

Способность воспринимать и реагировать на окружающую среду в режиме реального времени.

S1 основан на обновлении и оптимизации убеждений. Он реагирует на сенсорные впечатления и строит планы, основанные на ожидаемом получении информации и ожидаемой ценности. Этот интеллект любопытен и ищет как информацию, так и предпочтения. Такой ИИ будет реагировать на сенсорные впечатления и сможет планировать, основываясь на последствиях действий или представлений о мире, что позволит ему решить практически любую проблему.

S2: Сложный интеллект

Способность учиться и адаптироваться к новым ситуациям

S2 основана на разумном поведении. Его планы основаны на последствиях действий для представлений о мире, а не на самом мире. Другими словами, он уходит от вопроса «что произойдет, если я это сделаю?» на «Во что я поверю или узнаю, если сделаю это?» Этот вид интеллекта использует генеративные модели и соответствует «искусственному общему интеллекту» в популярном повествовании о прогрессе ИИ.

S3: Симпатический (или Разумный) интеллект

Способность понимать эмоции и потребности других людей и реагировать на них

S3 — это когда сложный ИИ распознает природу и мысли пользователей и других ИИ. Этот вид интеллекта понимает, что думают и чувствуют другие люди и другие ИИ. Он способен принять точку зрения своих пользователей — так сказать, пойти на их место. Он может понимать мысли и чувства собеседников. Этот тип интеллекта также называют «перспективным», поскольку он может понимать разные точки зрения: он распознает природу и мысли пользователей и других ИИ. Оно было бы «сочувствующим», то есть способным понимать точки зрения, отличные от своей собственной.

S4: Общий (или сверх) интеллект

Способность работать вместе с людьми, другими агентами и физическими системами для решения сложных проблем и достижения целей.

S4 — это тип коллективного разума, который возникает, когда симпатический интеллект работает вместе с людьми и другим ИИ. В истории развития ИИ этот этап называется «искусственным сверхинтеллектом». Мы верим, что такого рода разведка будет исходить от многих агентов, работающих вместе, создавая сеть общих знаний, которые становятся мудростью. Мы считаем, что наш подход — лучший способ добиться такого рода разведки в глобальном масштабе.

У нас есть видение будущего искусственного интеллекта и дорожная карта, как его достичь. 

Уровни интеллекта 

GFkE6RPyAM2mgsaEDvQlXqLN8grePI8xxFmugXsP4hxJJ6b-aqI5sx3VKhZ8_M4uJRq5vjeh4lqe-fXiGjl5xTvQOIFxRusHxu0OP24zRMHksNSuWWWm9EhPqPAGQqA-1Oj7UsDBCtzazUZ0LP6UR80

В таблице выше мы видим, что «разумный» искусственный интеллект является не только теоретическим, но и протестированным, что указывает на его большие шансы на успех. У нас есть идея, как развернуть его в больших масштабах, но этот план может быть изменен. Наконец, биомиметический разумный интеллект все еще остается амбициозным. Биомиметика относится к технологии, которая имитирует конструкцию и функции живых организмов в технологии. В контексте искусственного интеллекта биомиметическую технологию можно примерно приравнять к синтетическим системам, имитирующим то, как человеческий мозг учится, планирует и адаптируется. 

Эта диаграмма призвана показать, какие шаги должны пройти системы искусственного интеллекта, чтобы достичь ИСИ, где они смогут учиться и работать в сети, как люди, но с невообразимой скоростью и в невообразимом масштабе. Они будут учиться и адаптироваться самостоятельно («сложные»). Они смогут понимать и реагировать на эмоции и потребности других («сочувствующие») и работать вместе с людьми, другими агентами и физическими системами для решения сложных проблем и достижения целей («совместные»). 

В VERSES мы разрабатываем новый тип ИИ, основанный на вложенных экосистемах интеллекта, существующих в природе, который приведет к ИСИ. В этих экосистемах интеллектуальные агенты, как люди, так и искусственные, работают вместе для решения сложных проблем. Активные агенты вывода делают прогнозы, принимают меры и взаимодействуют со своей средой через пространственную сеть, что позволяет им воспринимать и понимать мир так же, как мы. Вместо того, чтобы рассматривать людей как нечто отдельное или подчиненное ИИ и Пространственной сети, наш подход гарантирует, что мы остаемся неотъемлемыми участниками. Мы оставляем позади антиутопические кошмары научно-фантастических стереотипов ради будущего, где искусственный интеллект развивается и совершенствует все, к чему прикасается, где интеллект вплетен в ткань нашей повседневной жизни так же, как электричество в 20-м веке. В этом случае, действуя как ключ к обновлению нашей цивилизации, решению наших самых серьезных проблем и раскрытию нашего высочайшего потенциала. Мы считаем, что подход к цифровому интеллекту, сформированному из экосистем и основанному на фундаментальных принципах, обнаруженных в природе и подтвержденных нейробиологией, является путем к достижению этих целей.

Авторство: 
Копия чужих материалов

Комментарии

Аватар пользователя Трындец
Трындец(8 лет 1 месяц)

О какой интеграции ИИ идёт речь? ИИ - просто очередной инструмент. Интегрировали ли в общество станки с ЧПУ? А 3D-принтеры? А каменный топор в общество интегрировали?

Прежде чем рассуждать о чего-то там настоящего ИИ (а не о того суррогата, что существует сейчас) следует решить вопрос: а создание настоящего ИИ вообще возможно? Ответ неочевиден.

Аватар пользователя stop
stop(2 года 11 месяцев)

Индустрия изготовления каменных топоров создало свободное время для искусства и условия для меновой торговли.(не везде материал для топоров "растет", но везде востребован)

А компьютерное исчисление создало условия для МБР и соответственно интегррованно в общество национальных уравненых противостояний.

Таки да, общество состоит из тех, кто может пользоваться инструментом, и тех, кто имеет этот инструмент.

Аватар пользователя tirl
tirl(9 лет 3 месяца)

А каменный топор в общество интегрировали?

Естественно интегрировали. Каменный топор и создал "общество каменного топора". Общество без каменного топора и общество с каменным топором это два разных общества, как по структуре, так и по функционалу.  

Прежде чем рассуждать о чего-​то там настоящего ИИ  следует решить вопрос: а создание настоящего ИИ вообще возможно? Ответ неочевиден.

А прежде, чем требовать "решения" (ответа) на этот вопрос, наверное надо решить, что вы считаете "настоящим ИИ"? А то так-то может для вас любой ИИ быть не "настоящим" (как тот царь):

"ИИ-то не настоящий!" 

Аватар пользователя Трындец
Трындец(8 лет 1 месяц)

Каменный топор и создал "общество каменного топора".

Погодите, так "топор создал" или "топор интегрировали в общество". Вы путаетесь в терминах. Строго говоря сам топор ничего не создавал. Создавал человек. Заполучив более производительный инструмент у него появилось дополнительное время и ресурсы. И вот это уже привело к изменению в обществе. Но никто специально каменный топор не "интегрировал в общество". А у Вас получается, что после появления топора потребовалось как-то изменить общество, чтобы оно его приняло. Интеграция ведь это подразумевает.

Про "настоящий ИИ" вопрос настолько большой и сложный, что не вижу смысла даже комментировать, получится куце и убого. Но для начала ИИ должен осознавать суть того, чем он оперирует. А до этого как до... Из-за этой "несознанки" у нас получаются люди с тремя пупками и полидактилией. А в результате работы с текстами может генерироваться бред (пока человеческий оператор из мяса и костей не сообщит "ИИ", что у того получился бред).

Аватар пользователя Кабан
Кабан(11 лет 10 месяцев)

Очевидно, ты вообще никогда не интересовался, как технологии влияют на экономику и общество.

Комментарий администрации:  
*** Современная Россия - червяк в навозе (с) ***
Аватар пользователя Трындец
Трындец(8 лет 1 месяц)

Ты, влияют, но никто их специально не интегрирует.

Аватар пользователя Alexandkov
Alexandkov(7 лет 10 месяцев)

Сначала вбухиваем кучу ресурсов для создания суперкомпьютеров, забиваем их нужными алгоритмами, потом подключаем к большим базам данных. Даем всем поиграть в эти штуки, чтоб заценили. Затем начинаем приписывать этим штукам, что они круто самообучаются. Потом очеловечиваем их в глазах людей. Потом начинаем принуждать всех считаться с этой херней всех остальных. Типа это личность и у него есть свои чувства и эмоции и чего-то подобное. Да, потом конечно же начинаем отдавать предпочтение в работе этим штукам (из серии негры, половые извращенцы превыше всего). И в итоге, все важные решения срочно надо отдать на откуп ИИ

Ну, а то, что кто-то прописывает алгоритмы принятия решений этих ИИ, управляя ими, можно и не указывать, типа самообучились, а мы и не причем. А как только общество где-то начинает борогозить, чувствуя подвох. Можно скосить все на ИИ, не запрещая его, а просто пообещать исправить программу. Идеальный вариант. Делай что хочешь, а прикрывайся машиной

Аватар пользователя Поручик Арбузов

Один из вариантов. Не забываем раздать очки, чтобы блеск Изумрудного города не ослепил входящих.

А из  за ширмы машинерией управлял ярмарочный  Великий и Ужасный Гудвин

Аватар пользователя Denis_S8
Denis_S8(2 года 5 месяцев)

Гениально: что-то же должно быть после следующих выборов Байдена (которые уж точно убъют "демократию" как механизм управления обществом), так почему бы и не ИИ? 

Аватар пользователя Alexandkov
Alexandkov(7 лет 10 месяцев)

У ИИ тоже есть управляющие

Аватар пользователя Denis_S8
Denis_S8(2 года 5 месяцев)

Ну да, потому и написал "гениально", - это без сарказма. Люди в поиске, что им внедрить "после демократии", чтобы и при власти быть, и народ устраивало. Пробовали "диктатуру ВОЗ", - не очень взлетело. Потом прокачивали "тему инопланетян" (и сейчас прокачивают, - на полном серьёзе некоторые люди их ждут, как авторитет, - чтобы урегулировали тут всё (но тоже охват пока недостаточный). На фоне этого всего, - "мировой ИИ", - выглядит почти реалистично.

Аватар пользователя stop
stop(2 года 11 месяцев)

Однако много воды.

1. Если экосистема ИИ и некоторого общества людей будут иметь задачу например уничтожение соседнего национального государства - он справится?

2. А если у этого соседнего сообщества в свою очередь тоже будет ИИ - стоит ли принять превентивные меры?

3. Если цывилизация состоит из противопоставленных ИИ - то что вероятнее, взаимное подавление или выживание "сильнейшего"?

4. Наконец перешли к глобализму, как вероятному результату противостояния. Если для эволюции важно разнообразие, то монообщество управляемое оптимизированным ИИ будет обречено на деградацию. - создавать "заповедники" противостояний в стиле вархамера?

5. Общество зависимое от управляющего ИИ - это симбиоз навечно на вторых ролях,

или по прописанным предварительно условиям, паразитизм человека в системе?

Аватар пользователя DjSens
DjSens(5 лет 10 месяцев)

ИИ сможет (рассуждая теоретически) забороть другую страну однажды, но сначала страна агрессор должна создать много автоматизированных роботизированных оборонных заводов, где ИИ будет тайно изготавливать свою армию дронов и оружия.

Ещё есть проблема ответного ядерного удара,   нападать на страну с ЯО - опасно

Аватар пользователя stop
stop(2 года 11 месяцев)

Это все верно, но только как детали для стратегий ИИ.

Вот для примера дешевое я' топливо для Америки поставило на грань выживания собственную ядерную энергетику.

Также и завод дронов, в условиях модернизации тактических задачь, может вполне потратить ресурсы на устаревшие образцы если ИИ недостаточно превентивно рассчитает противостояние.

А ещё есть просто экономика, или даже социология 

Аватар пользователя Корректор
Корректор(7 лет 2 месяца)

Однако много воды.

Вот вам фактура: https://journals.sagepub.com/doi/10.1177/26339137231222481

Аватар пользователя stop
stop(2 года 11 месяцев)

Если это перевод статьи, то неплохо.(таблица не переведенной осталась:-)

А так, больше вопросов осталось, чем было информации.

Аватар пользователя Поручик Арбузов

Они смогут понимать и реагировать на эмоции и потребности других («сочувствующие») и работать вместе с людьми, другими агентами и физическими системами для решения сложных проблем и достижения целей («совместные»). 

Не было бы логичным  сначала разобраться с фактическим значением этих абстракций в человеческой действительности?  Кому будет сочувствовать и каких совместных целей будет обучаться достигать ИИ , скажем, на примере арабо-израильского конфликта? 

Аватар пользователя Корректор
Корректор(7 лет 2 месяца)

Они и разбираются. :)))

Аватар пользователя AlekZ
AlekZ(4 года 10 месяцев)

честно скажу - не понял, как из  "распределенных и тп систем" тд следует, что ".. наш подход гарантирует, что мы остаемся неотъемлемыми участниками."

Авторы обоих (второй - по ссылке в авт. комм.) "манифестов" даже не упоминают  энергию и ресурсы, необходимые для развития любой формы ИИ, несмотря на то, что, до сих пор все "цивилизационные" достижения человечества, как правило несравненно менее экономичные в энергетическом смысле, чем биологические природные. "Прогресс" и преимущество по сравнению с возможностями природных био систем всегда достигался за счет увеличения мощности (расход энергии в единицу времени).

А доступность этой энергии на планете ограничена.

Отсюда следует,  что

(а) эти системы будут развиваться за счет человека - ну, примерно, как повестка сейчас - давайте все станем зеленые, голодные, вымирающие и тп - а "лишнее" отдадим на ИИ

(б) в какой-то момент ИИ начнут сами конкурировать с нами за ресурсы

(с) этот процесс невозможно предотвратить - будет как с химическим и био оружием - все подписали договора, но никто не поверил, что другие не обманут.

Аватар пользователя OldRussian
OldRussian(7 лет 4 месяца)

они не знают , что делают и почему они это делают. Возможно, называть их модными...умными дураками... было бы слишком кратко, но в каком-​то смысле они таковыми и являются. 

Аватар пользователя tirl
tirl(9 лет 3 месяца)

"Экосистема ИИ"...)) Слушайте,  "экосистема" это экологическая система - "сложный природный комплекс, образованный живыми организмами и средой их обитания".

Если набить статью дурацкими неуместными словами, вставить табличку и вместо обычных цифр применить какую-нить хрень, типа "S3",  то можно сойти за умного. Это-то понятно.

А вот что хотел сказать автор это вообще не понятно. 

Мы, люди, регулярно общаемся, чтобы делиться своими идеями. Это важная часть того, как мы растем, адаптируемся и процветаем. Тем не менее, большинство сегодняшних систем ИИ не способны поделиться своими знаниями с нами или с другими ИИ, а также не могут выразить, как они достигли своих целей.

Внезапно так - неспособны поделиться... )) Чего вдруг не способны поделиться? Прекрасно делятся. Даже Алиса в режиме нон-стоп делится информацией, а то и вопросами задалбливает.

Это потому, что они не знают , что делают и почему они это делают. 

 Ну так-то в этом мире вообще никто ничего не знает. Земля не знает почему она летит вокруг звезды, Солнце не знает почему оно светит, птица не знает почему она летает, а человек не знает даже почему он живет.  

Например, у него нет никаких представлений о том, что такое собака.

Ну как нет?)) У него гигабайты инфы про собак. Он знает про собак все что угодно и намного больше, чем обычный человек. Можете спросить у него: "что такое собака?".  Более того, он знает о вещах и явлениях, о которых не ведают 99,9999999 процентов людей.

Короче там уже дальше про "актеров" и т.д. не буду это комментировать.

Хочу просто сказать, что человек еще долго будет пытаться найти, чем он все-таки умнее и "осознанней" ИИ, но эта попытка ухватиться за соломинку обречена на провал. ИИ может "мыслить" по другому, нежели это привычно человеку, но это не значит, что хуже. Скорее всего это будет лучше, эффективнее и, конечно, быстрее. 

Я вспоминаю примерно такие же статьи о компьютерах и шахматах в 80-х годах, когда утверждалось, что компьютер не сможет обыграть гроссмейстера, потому что это не "только математика, это сродни искусству", а компьютер на это не способен... Угу...))

Вот сейчас примерно такая же стадия и с этим ИИ. Стадия отрицания. И итоговый результат будет такой же.

    

Аватар пользователя stop
stop(2 года 11 месяцев)

Так это и есть "экосистема" буквально.

Живые организмы, в лице человеков,исреда обитания, в качестве корректируемой ИИ условиями среды обитания в сложный комплекс взаимодействий.

(не путать с зелёными со2 дрочерами и климат-грантоедами)

И информация это ещё не знания. Рубеж стоит на обучаемости и осознании(анализ и выработка стратегии) заранее неизвестного.

Аватар пользователя genri-lezin
genri-lezin(7 лет 1 неделя)

<  0. Системный, 1. Разумный, 2. Сложный ....... >

Можно по-разному классифицировать, но как всё будет пока неизвестно.

Сейчас можно выделить три интеллекта: 1) естественный в живых людях, 2) накопленный,

3) искусственный.

более подробно  на сайте                http://bessmertie-shag-1.ru/    в книге "Цифровое  бессмертие"

Аватар пользователя Zivert
Zivert(3 года 9 месяцев)

Главная фишка в том, что то, что сейчас называют ИИ на самом деле таковым не является. 
Из этого вытекает неправильность всех следствий.

Аватар пользователя genri-lezin
genri-lezin(7 лет 1 неделя)

                          <   ИИ на самом деле таковым не является    >

Он не интеллект и им не будет. Но мы что-то так назвали и об этом говорим.

В этом смысле он есть.

Надо делать всё возможное, чтобы он был в подчинении ЕИ. 

Аватар пользователя Корректор
Корректор(7 лет 2 месяца)

Надо делать всё возможное, чтобы он был в подчинении ЕИ. 

Ваша постановка задачи абсолютно наивна. :)))

Аватар пользователя genri-lezin
genri-lezin(7 лет 1 неделя)

При этом учтите, что я человек совсем не наивный.

Аватар пользователя Nientemiele
Nientemiele(2 года 7 месяцев)

Какая, в жопу, интеграция, если ИИ никак не может запомнить сколько пальцев у людей, и постоянно рисует какие-то щупальца произвольной длины, угола наклона, и количества?

Аватар пользователя ЧиП
ЧиП(7 лет 9 месяцев)

Много рассуждений общего плана, но не систематизированных.

Приведу только один пример - этапы эволюции интеллекта не имеют единого классифицирующего признака. Что это? Какой параметр(ы) будут меняться в процессе эволюции?

Статья интересна своей мыслью о том, что будущее не за одним гигантским AGI (говорящем на английском про демократию папуасам), а за распределенной сетью отдельных ИИ, которые будут связываться и обмениваться между собой информацией. Т.е. создадут свою культуру, т.к. это и есть принципы информационного обмена между интеллектуальными агентами.

Но до этого еще очень далеко. т.к. даже один генеративный "противоестественный" интеллект мы пока не можем обучить мышлению на уровне ребёнка. Пока это очень большая самопополняемая картотека, где смысл написанного непонятен механизму каталогизации, а понятен только его настройщикам.

И тут я вынужден повторить про ограничение ресурсных мощностей. Пока электронные вычисления энергетически не приблизятся к биологическим вычислениям - достичь этого уровня будет невозможно.

Аватар пользователя Корректор
Корректор(7 лет 2 месяца)

Сразу не поняли суть? Предлагаете модель когнитивной коэволюция искусственных и естественных интеллектуальных агентов с целью формирования единого "чего-то" что мы пока не способны понять или осмыслить. Такую радикальную идею сложно сразу усвоить. Именно коэволюция и единая интеллектуальная экосистема.

Сегодня сложно сказать насколько это практически реализуемо, но очень похоже что это возможно. И не в каком-то отдаленном будущем, а вот прямо сейчас.