Сегодня на АШ появилась коротенькая статья на тему искусственного интеллекта, в которой автор немного осветил проблематику копирования человеческого эмоционального интеллекта. Тема, на мой взгляд, интересная, заслуживает внимания, потому как решение проблем, которые затрагивает та статья, под силу квантовой логике. Под статьей оставил комментарий следующего содержания..
Задачи разумного ИИ должны сводится к уменьшению неопределенности (энтропии), а для этого он должен уметь правильно задавать вопросы.
Комментарий развития не получил, попробую здесь.
Разум - это расширяющаяся логика, поэтому если мы хотим смоделировать его, то следует пересмотреть наши взгляды на процесс обучения интеллектуальных систем.
В своё время Тим Урбан в своих 2-х статьях
сделал качественный философский анализ развития технологии ИИ. Достаточно хорошо описал эволюционную составляющую процесса развития, разобрал этапы становления и основные угрозы для человечества. Считаю, что его тексты не потеряли актуальности и сейчас.
Основные тезисы в его работах, на которые следует обратить внимание:
Искуственные Интеллектуальные системы делится на 3 категории:
- Слабые (сегодня они уже полноценно вошли в нашу жизнь)
- Сопоставимые человеческому интеллекту
- Сильные (сверхразумные интеллектуальные системы)
Контроль Сильного ИИ невозможен в виду эволюционных причин.
Момент перехода среднего ИИ к сильному, как следствие самообучения, произойдёт за рамками человеческого осознания (мы элементарно пропустим вспышку), что является потенциальной угрозой для человечества.
Большинство скептиков отрасли считают, что на базе тех технологий, которые сегодня используются для программирования слабых элементов ИИ, невозможно создать что-то разумно мыслящее, и скорее всего они правы в своих выводах. Это связано с тем, что классические схемы самообучения нейронных сетей сегодня выстраиваются на базе чёрных ящиков и сужающейся логики. Это значит, что система лишь учится анализировать предоставленную пользователем базу данных, в соответствии со своими алгоритмами, сравнительными критериями, подкреплением. Самообучение нейронных сетей сегодня зачастую сводится к оттачиванию точности выбора из множества представленных вариантов. Может ли на таких подходах к интеллектуальной деятельности зародиться самосознание - вопрос.
В моём понимание самоОсознание - это переходной энергетический процесс. Я бы назвал его квантовым.. Потому как по своей динамике он далеко не линеен и имеет скачкообразный характер.
Т.е. информационный потенциал в образовательном процессе нужно не понижать, как в случае с сужающейся логикой, а повышать. При определённом уровне информационной насыщенности происходит качественная трансформация мышления, которая и приводит к самоосознанию.
У квантовых технологий, которые идут на смену бинарной логике, есть все шансы создать разумные интеллектуальные системы, т. к. человеческое сознание, со всем его чувственным опытом, основано именно на квантовой логике.. А квантовая логика - это в первую очередь логика объединяющая, которая имеет весьма неплохую познавательную перспективу применения. Например, когнитивные вычисления и/или когнитивная психология.
Вывод субъективный. Делаю его исходя из собственного опыта и понимания.
В основе развития нашего сознания лежит накопление информации и расширяющаяся логика. Отличия сужающейся и расширяющейся логики хорошо описал Андрей Никитин в своей работе «На пути к машинному разуму» ещё в 2006 году. Кстати, Никитин в своих работах тоже приходит к мысли, что человечество пошло по ложному пути, когда вместо развития харда стало развивать софт. Очень вероятно, что с развитием квантовых компьютеров этот подход будет переосмыслен.
Резюмируя вышесказанное хочу сказать, что если перед нами стоит задача создать разумный и понятный ИИ, то нужно в корне менять наши взгляды на процесс обучения интеллектуальных систем. Такие процессы следует переводить на ручное управление, учить нейронную сеть снижать информационную энтропию через самостоятельную формализацию поставленной задачи. Учить ИИ работать с информационными образами. Учить ИИ задавать правильные вопросы.
Технология создания разумного искусственного интеллекта ничем по сути не отличается от технологии становления человеческого интеллекта с раннего возраста, которая происходит через образное мышление.
Образ - это совокупность информационных характеристик.
Расширяющаяся логика основана на квантовых принципах: Бинар да-нет и суперпозиция этих состояний - "не знаю". Где состояние "не знаю" является ключевым элементом интеллектуального развития.
В глобальных масштабах такие интеллектуальные системы можно развить до человеческого уровня (совокупности общечеловеческих знаний). Обучить их эмоциональному интеллекту, при необходимости. Они будут прозрачны и понятны для анализа и управления, т. е. полностью подконтрольны человеку.
Более того, интеллектуальные информационные системы на базе расширяющейся логики уже существуют в своём зачаточном состоянии и успешно функционируют.
Таким примером для меня является игра для мобильных устройств Akinator.
Описание гласит, что «Акинатор может читать ваши мысли» ...это ли не зачатки эмпатии?
Архитектура программы выстроена на принципах расширяющейся логики. В основе лежит образное мышление. Алгоритм включает в себя подвижную нейронную сеть способную к самообучению при помощи внешнего источника знаний. Умеет формировать последовательный логический запрос, имеет потенцию к самообучению.
Программа на сегодня являет собой энциклопедию известных человечеству персонажей. Сам проект безусловно имеет неплохой потенциал роста в области формирования технологий разумного ИИ. Как вариант развития темы, еë можно легко интегрировать в голосовые помощники типа Алисы, Сири и т.п. уже сегодня.
Эта статья лежала у меня в закладках с 17 мая. Всё не находил для себя причин и должного подкрепления чтобы еë опубликовать.. А сегодня на habr'е столкнулся с аналогичной статьей за авторством Zubrr373 под названием:
Возможное будущее ИИ, Python как модель мышления или незаслуженно забытый Акинатор.
Часть наших его мыслей перенесу сюда
Коротко о себе
Меня зовут Николай, и я занимаюсь программированием на Python в свободное от работы/учёбы время. Поскольку я только начинаю и мне довольно сложно сориентироваться в том, какое направление разработки выбрать, есть несколько областей которые меня интересуют. Одна из этих областей - это как раз нейронные сети и ИИ, в ходе изучения которой мне в голову пришли некоторые мысли по поводу их развития. Я рассказываю это всё для того, чтобы вам, уважаемые читатели, было легче выполнить второй пункт введения, а также, чтобы вы обратили внимание на то, что данная статья - это скорее вопрос, нежели ответ. Если вам подобный подход претит, вы смело можете уйти, однако если вам есть что сказать и есть куда направить неофита в этой области, то добро пожаловать.
Коротко о проблеме
В процессе познания нейронных сетей я практически не увидел информации о том, чтобы кто-то приближался или хотя бы шёл к созданию сущности, похожей на настоящий ИИ. Большая часть задач, которые решаются нейросетями, это довольно тривиальные вещи, вроде распознавания объектов, имитации чего-либо, автоматизации какой-то задачи с условиями или предсказания поведения объектов, чьи математические модели слишком сложны для моделирования и/или вообще неизвестны.
Однако что же с исследовательской частью проблемы? Где и как люди отвечают на вопрос "Как улучшить сам ИИ, чтобы было легче выполнять задачи?" или "Есть ли что-то, что можно добавить в основу ИИ, кроме структуры нейронов и принципов их взаимодействия?"? Ответов на эти вопросы у меня нет, но есть предположения, а если они есть у меня, возможно они есть не только у меня. И возможно именно тот факт, что я их сейчас озвучу, приведёт меня к знанию, имеют ли они место быть в реальном мире. Собственно, далее речь в статье пойдёт об этих предположениях.
Модель мышления и Python
Начну с того, что мне понятна структура работы нейронов как в нейросети, так и в мозгу человека и они действительно во многом идентичны. Однако первая мысль которая у меня возникла по поводу настоящего ИИ - ок, а что дальше? Ведь нет смысла пытаться имитировать 1011 нейронов человеческого мозга и их взаимодействие, вычислительные мощности нужны будут колоссальные, а эффект сопоставимый с работой головы одного человека - ничтожно мал. Тогда возникает идея подойти к этому с другого конца, а именно - со стороны понятийного мышления.
Понятийное мышление
Понятийное мышления - это оперирование понятиями, как несложно догадаться. И изначально оно отсутствует у маленьких детей, которые мыслят ассоциациями и на основе личного опыта(чувствуете уже связь с текущим положением дел касательно ИИ?😁). При этом у взрослого человека понятийное мышление присутствует всегда, и он выполняет операции именно с его помощью. Википедия сообщает нам(на самом деле далеко не только Википедия), что существуют следующие операции над понятиями:
Анализ — расчленение общего на составные части и отдельные признаки.
Синтез — обобщение отдельных частей в общее целое.
Сравнение — сопоставление нескольких предметов или событий между собой.
Абстрагирование — выделение одних признаков и отвлечение от несущественных понятий.
Обобщение — это объединение разных понятий в одну категорию.
Систематизация — объединение категорий в одну систему.
С моей точки зрения обобщение, синтез и систематизация по сути есть одно и то же, особенно если касаться программной реализации, однако это ИМХО и не существенно в данном случае. Абстрагирование можно пока тоже оставить в стороне, эту задачу отчасти выполняет нейросеть. А теперь ответьте, если вы представите себе хоть одно понятие, и формализуете в голове все оставшиеся операции, оно ничего вам не напомнит? Например дерево(не конкретное, а как понятие), которое можно разделить на корни, ствол, листья и ветви, у которого есть набор свойств таких, например, как высота и срок жизни, и которое по одному или нескольким параметрам можно сравнить с другим деревом, увидев всего 2 конкретных дерева и один куст в своей жизни уже можно сделать вывод о существовании целого понятия дерева(да и куста, к слову). Вот мне лично это напомнило сразу одно - класс object в python и систему наследования.
Python
В python используется глобальная система наследования. Наследуется абсолютно всё, и абсолютно всё наследуется от одного единственного класса object. Так чем он по сути отличается от машинного понятийного языка? Да ничем!!! Он именно поэтому так лёгок в освоении, и именно поэтому с него так просто начинать, и именно поэтому придумавший его Гвидо ван Россум - Гений с большой буквы
и именно поэтому свечка и совершает свои колебания. Он скопировал модель понятийного человеческого мышления и внес её как основу языка. И если просто научить машину создавать нужные классы, прописывать их, научить операциям, представленным выше(что по сути просто означает разработку методов и функций для экземпляров классов), то мы получим пусть зачаточную, пусть, возможно, не сильно применимую, но всё-таки модель понятийного мышления. А маленькие отдельные нейросети, встроенные в такую модель, могут вдохнуть в неё жизнь, научить выполнять некоторые операции самой. Не нужно хранить и запускать огромную нейросеть, а потом смотреть как она съедает ресурсы, достаточно чтобы маленькая нейросеть просто определила формальные признаки одного объекта, провела анализ, абстрагирование или синтез, а дальше объект будет опознаваться без неё, или с использованием меньшей по мощности нейросети, которая уже будет искать признаки объекта, а не целиком объект. Сравнение же будет происходить вообще без нейросети, по формализованным признакам. Возможно идея не нова и слабо реализуема, я не знаю, но что если попробовать? Это не обязательно должен быть именно python, можно использовать и БД и другие языки, просто сам принцип реализации классов в python удивительно гармонирует с идеей понятийного мышления. Дальше следует ещё одна удивительная гармония.Незаслуженно забытый Акинатор
Давным-давно, в далёком-далёком 2007 году(не путать с далёкой-далёкой галактикой) Арно Мегре и Джефф Дел создали игру под названием Акинатор. Если коротко, то её идея в следующем - вы загадываете персонажа, хоть реального, хоть книжного и джинн Акинатор задавая вам вопросы его угадывает. Если он его не угадал и/или его нет в базе, вы можете его добавить, чтобы Акинатор запомнил список вопросов. Смысл в том, что игра подбирает определённые вопросы исходя из того, насколько уменьшится множество возможных вариантов в зависимости от ответа на этот вопрос. И поиграв в неё всего пару раз становится понятно, что программа удивительно умна. Она спрашивает об огромном количестве различных признаков, таких как пол, раса, бессмертность, определённая игровая/книжная/кино/реальная вселенная, жанр произведения и многом другом. И угадывает она с каждым годом в разы лучше(возможно это причина, по которой она перестала быть популярной, кому хочется всё время проигрывать?). Я заходил в неё раз в несколько лет и видел этот прогресс, хоть тогда в силу возраста не догадался его задокументировать.
И вот собственно вопрос, а чем это не "учитель" для ИИ описанного выше? Насколько я успел прочитать, Акинатор реализован именно на многомерной картине распределения ответов и разграничении кластеров многомерных точек, а не на системе понятийного классификатора, но ведь это распределение и список вопросов уже можно использовать как данные для создания такого классификатора, разве нет?
Простой пример, разве сложно автоматически создать признак вымышленности персонажа, или, например, что соответсвует понятийной модели, два подкласса класса "персонаж": подкласс "реальный" и подкласс "вымышленный", если у Акинатора существует вопрос "Ваш персонаж существует в реальной жизни?"?. И ведь у подклассов "реальный" и "вымышленный" будут разные признаки, у одних срок жизни и место рождения, у других произведение в котором они фигурируют, которые Акинатор тоже способен определить. А нейросети по этим признакам скажем смогут искать упоминание/появление персонажа в том или ином произведении, выуживать информацию о нём скажем из книги и ещё больше расширять эту базу знаний таким образом. Сейчас всё это делается вручную.
К слову, такие классификаторы и Акинаторы могут быть созданы не только для персонажей. Ими можно описать любую науку, любые объекты, словом любое ПОНЯТИЕ. Просто Акинатор взял одно единственное ПОНЯТИЕ персонажа, и смог тем самым описать с десяток других ПОНЯТИЙ. Например он автоматически частично способен описать понятие "художественное произведение" практически ничего не упуская, потому что большая часть персонажей именно из художественных произведений, и практически всё что характеризует художественные произведения присутствует в вопросах Акинатора.
Если расплодить такие системы, если поощрять людей за игру в них, то чего можно достичь, если за всем этим будет стоять система ИИ и нейросетей, способная всё это переработать и увеличить знания хотя бы на 10% от исходных данных!?
Как я понял, это его первая статья на хабре и это в какой-то степени напомнило мне себя на этом ресурсе.. :) Всё то, о чем я пишу сегодня выросло из той первой статьи. Ключевым мотивом создания которой была мысль о конкуренции человека и технологий на древе бытия.
Была тогда и ещё одна статья в контексте этих же мыслей. «Эстетика в искусстве и её взаимосвязь с религией и наукой» ...но уже с позиции творческого созидания и момента. Обе статьи по сути - есть дополнение друг к другу, обе параллельно повествуют о природе цикличности социальных процессов, о взаимосвязи творческой и научной мысли. В одной из них размышления о перспективах развития человека, в другой о перспективах развития технологии ИИ.
Буду верить, что Николай, если не забросит программирование, сможет продвинуть свои мысли и идеи на более высокий уровень. Возможно даже в будущем что-то сделает по технической части, ведь, как понимаю, он имеет к этому прямое отношение.
Быть может даже тут - у нас на ресурсе, найдутся люди, которым эта тема была бы интересна в силу своей профессиональный деятельности, и они готовы подтянуть к себе молодого специалиста :)
Свежие новаторские идеи, частенько зарождаются в новых умах, так почему бы этим не воспользоваться?
ии + квантовые вычисления
Комментарии
На ней только и возможен настоящий. Вопрос какой именно. Что подразумевается. Опять сплошной антропоморфизм и электроника - так не пойдёт.
Я бегу сегодня в никуда,
И трусы с меня спадают.
Это просто Джигурда.
Крепко же оно вставляет.
Мда. Печально.
Привет! Давненько я не видывал твоих коанов под своими темами. Совсем про меня забыл.. :) скажи мне, что тебя опечалило, друг мой?
Работать с загруженными образами - это уже почти решено. Полноценный ИИ должен уметь создавать образы. Сам, спонтанно. Как спонтанно приходит мысль по дороге на работу: а выключил ли я утюг?.
Об этом и речь. Нужно всего лишь научить нейронку задавать осознанные вопросы.
Отсутствие философского восточного базиса для осознания генерального пути развития, ни много ни мало человечества, в правильном направлении. )) Но это не только беда твоя. Поэтому и имеем то, что имеем.))
Если выразить коротко, то ты пытаешься загнать проблему наружу, хотя она внутри. Ну, как- то так. А с внутри тебе надо разбираться.
Конечно это в общем.
Так в основе квантового мышления и лежат те самые базисы... да и к тексту приглядись, напихал в него ☯️ по самое нехочу :)) из каждого абзаца уши торчат...
И эту мысль выразил, но тут надо бы по ссылкам пройтись и немного углубиться в материал. Сама по себе тема очень обширная. Тут в основном упор на развитие технологий ИИ в правильном ключе, которые или станут следствием трансформации общечеловеческого сознания, или же причиной, триггером этих трансформаций. Чтобы моделировать сознание, нужно иметь представление о том как оно работает. А это уже путь к самопознанию 🙏 :)
В этом опусе про питон вспомнились ранние рассказы зеленых прогерров на бейсике - такое же незамутненное сознание
единственное чему учится человечество, тому что ничему не учится. :)
Пенроуз считает что мозг, это квантовая машина на нейросети... и он довольно убедителен...
На счет квантовой машины не знаю, но квантовую логику человек юзает на полную.. Правда делает он это, как правило, не осознанно.
Николай правильно пишет, но с некоторыми оговорками. Я тоже как-то задумывался над проблемой построения ИИ, и пришел к выводу что это должна быть довольно простая универсальная машина построенная на ассоциациях. Не думаю что тут нужна какая-то квантовая физика.
В своих измышлизмах я дошел до того, что машина должна уметь придумывать новые "понятия" по мере поступления разного рода сигналов. "Понятия" - это просто произвольные идентификаторы на машинном языке. Например: "черный"=1, "идти"=2, "сегодня"=3 и т.д
В зависимости от поступающих сигналов, система может либо классифицировать данные подходящими под определенное понятие, либо создать новое и поставить в соответствие тот стимул который его породил. По мере накопления "понятий" в текущем контексте ввода, система уже имеет представление о смежных понятиях которые имели место ранее. Например, в текущем контексте есть понятия "черный" и "летает". Черными могут быть уголь, птица,
человек. Летать могут насекомые, птицы, самолеты. Если в базе есть комбинация "черный-самолет" - система может выбрать эту комбинацию (по сути это не важно), но по мере накопления контекста - система может накопить больше информации и без подсказок понять о чем речь. Либо, если нет возможности - во время вытеснения из контекста, создать новую категорию и поставить ей ассоциацию на известные данные. И тдПо мере накопления базы "понятий" и "ассоциаций" - система сможет предсказывать последующие события ввода, потому что ассоциации как правило держатся долго (если вас ударили - это всегда причиняет боль).
По сути в этом и есть цель системы - предсказывать то, что должно произойти. Если пойти дальше - система уже должна пытаться что-то делать и по тому же механизму обратной связи продолжать обучение.
Что прикольно, я заметил что в повседневной жизни это работает именно так. Взять например моего сына - как он учится говорить: он сначала придумывает собственные слова, и лишь потом учится их "переводить" на понятный нам язык.
Поюзайте Акинатор, очень интересный алгоритм.
Речь скорее о квантовой логике. Вероятностном распределении элементов "понятия" в общей структуре. Своего рода волновая функция.
Может быть- на элементах квантовой логики.
Что есть эмоциональный интеллект и чем он отличается от простого интеллекта?
Разное. см. учебник логики.
Гибкий навык мышления. В основе наших поступков и мыслей лежит ЭИ, мы не машины, поэтому все наши поступки и мысли - могут меняться в зависимости от входных данных. С другой стороны, знакомство с ЭИ - это инструмент самоанализа, оно же самопознание.
Если не кратко, то тут.
https://changellenge.com/article/eq-vs-iq-chto-takoe-emotsionalnyy-intel...
Не понял автора. Он хочет чтобы этот ИИ обнулил человеков, как помеху, ну или в рабов превратил?
Бендер из Футурамы.jpg
Если вы меня имеете ввиду, то я как раз топлю за управляемый процесс развития искусственных интеллектуальных систем на паритетных с человеческим интеллектом началах.
С другой стороны мы имеем по этой теме технологическую гонку, которая подстегивает разработчиков ИИ использовать технологии самообучения нейросетей. Такой процесс нельзя назвать контролируемым и последствия этих действий хорошо подсвечивает Тим Урбан в цикле своих статей. Где как раз и говорится о том, что процесс развития ИИ имеет шансы выйти из под контроля, что и может привести к обнулению человеков.
Давайте представим себе вышедших из под контроля создателя человеков уничтоживших Бога.
У меня как-то не очень получается.
С точки зрения атеистов: человеки создались сами в результате эволюции. Т.е. некого уничтожать, разве что эволюцию. Это абсурд, не так ли?
С точки зрения креационистов: Бог недосегаем для человеков. Опять пичалька.
Какие ещё будут варианты?
-Человеки создали Бога и он их уничтожил?
-Эволюция создала ИИ и уничтожила человеков?
-Человеки создали ИИ и он уничтожил создателей (my favorite):)
Давайте пофантазируем дальше!