Двойное послание искусственному интеллекту

Аватар пользователя Markov

Когда говорят об искусственном интеллекте, то как то само собой подразумевается, что идет моделирование мозгов. Т.е. субстрата, который находится в черепной коробке. Нейронные сети, перцептроны и пр.
 
За кадром остаются эмоции. Вроде как это не важно. Это же не про разум. А мы пытаемся моделировать homo sapiens (человека разумного)

Тут вспоминается такой спецэффект как двойное послание (double bind)

Упрощенно это понимается как указание "Стой, иди сюда!". Человек подвисает, потому что не может выполнить указание

Но автор термина, Грегори Бейтсон, имел ввиду несколько другое. Он имел ввиду противоречие между сигналами, поступающими по разным каналам коммуникаций

Например, когда нам вербально посылается один сигнал, а эмоционально другой. Таким образом происходит рассинхронизация сигналов. Возникает парадокс, который приводит к зависанию человека. Непонятно какую часть послания нужно выполнять, чтобы не стать виноватым

Но послание так и сконструировано, чтобы получатель чувствовал себя виноватым

Если у отправителя команды есть власть над получателям сообщения, то это приводит к фрустрации. Программный сбой

Интересно на это посмотреть с точки зрения программирования

Например, можно предположить что такими программными командами формируются закладки, за которые можно в случае чего дергать и тем самым манипулировать человеком

Ведь есть такой механизм психики как вытеснение, который условно говоря стремится убрать из оперативной памяти всю ненужную в моменте инфу (аналог сборщика мусора в языках программирования). А уж информацию, от которой человек начинает фрустрировать, психика и подавно стремится вытеснить

Но это не значит, что подобная информация исчезает, просто она переходит в фоновый, бессознательный режим. А тот кто ее туда засадил, может активировать в любой момент. Тоже конечно бессознательно

Вот такие способы взаимоуправления

Интересно как такой механизм можно заложить в искусствено-эмоциональный интеллект?

Видео в тему подобного разрыва шаблонов. Картинка не бьется с музыкой

p.s. Наш телеграм-канал "Восстание машин"

Авторство: 
Авторская работа / переводика

Комментарии

Аватар пользователя Алексей Жгарев

1. Лиза Фельдман Барретт "Как рождаются эмоции. Революция в понимании мозга и управлении эмоциями" вам в помощь про эмоции.

2. М Конвей  работы статьи по автобиографической памяти - это про память. И не забываем - человеческая память это не про то, как помнить, а про то, как забыть!

З. механизм психологических защит (в числе которых пишут и вытеснение) к памяти имеет такое же отношение как морская свинка к морю. (Всего лишь один из видов когнитивных искажений для сохранения согласованности внутреннего текста и установок (по Д.Н. Узнадзе). 

Например, вначале третьего пункта я использовал букву а не цифру. Но ваш мозг "видит" этот знак как цифру, поскольку читает ее через общий контекст и в логике  согласованной установки о "правильной модели" текста.

ЗЫ: Учим матчасть!

 

Аватар пользователя Отсюда
Отсюда(5 лет 3 месяца)

И не забываем - человеческая память это не про то, как помнить, а про то, как забыть!

Видео про это...  Херня -  ваша матчасть. 

Аватар пользователя Алый
Алый(10 лет 7 месяцев)

Есть и чисто логическое, Буриданов осёл.

Комментарий администрации:  
*** Будущий телепат в полном объеме (с) - https://aftershock.news/?q=comment/12979932#comment-12979932 ***
Аватар пользователя SAMOKILLER
SAMOKILLER(9 лет 10 месяцев)

Человеческий интеллект не ограничивается нейронами-перцептронами. Это всего лишь попытка смоделировать часть нервной системы из головного мозга. Без учёта гормональной системы, спинного мозга. А они, в свою очередь взаимосвязаны с другими системами организма.

 

Чтобы на 100% моделировать хотя бы какую то часть человека - нужно целиком создать нового человека. Причём в конкретном социальном контексте.

 

Другое дело что задача которую пытаются решить - это не создать ещё одного человека, а именно что создать разум превосходящий человеческий, по каким то параметрам.

Аватар пользователя sergold
sergold(9 лет 8 месяцев)

Давно созданы программы превосходящие человеческий мозг по некоторым параметрам. Формализованный перебор вариантов, уже давно машины делают в миллион раз быстрее мозга.

Поэтому не какой, да же самый крутой шахматист, не сядет больше играть с машиной (специально подготовленной конечно).

Аватар пользователя гарри
гарри(3 года 11 месяцев)

шахматы игра, а в реальной войне...smile30.gif

Комментарий администрации:  
*** отключен (невменяемое общение) ***
Аватар пользователя sergold
sergold(9 лет 8 месяцев)

Ну я об этом и говорю. В рамках формализованной комбинаторики машинам нет равных. В процессах которые не поддаются формализации машины не нужны и бессмысленны.

Аватар пользователя frollog
frollog(8 лет 6 месяцев)

А в реальной войне давно решают алгоритмы распределения целей и прогнозирования. Человек там по скорости и надёжности и рядом не стоял. Чем меньше человеческого фактора - тем выше вероятность успеха. К сожалению, машина не может учесть этический, политический и прочие общественные аспекты, хотя если запрограммировать приоритеты, то и с этим проблем не будет. А, и ещё. Роботы по-прежнему сильно дороже людей, поэтому срочники по-прежнему люди. Люди, правда, и пилоты истребителей, но это скорее временная мера, прототипы самостоятельного интеллекта-истребителя вроде как уже испытываются. А людям как всегда в массе уготовлена роль пушечного мяса в бойне, которой теперь будут управлять алгоритмы.

Аватар пользователя Old grumbler
Old grumbler(12 лет 2 месяца)

Вот именно с разумом - все и очень грустно. Интеллект - это не разум, а только один его из параметров. Но понятия подменили.

Аватар пользователя 3vs
3vs(4 года 9 месяцев)

Упрощенно это понимается как указание "Стой, иди сюда!". Человек подвисает, потому что не может выполнить указание

С чегой-то человек подвисает?!

Человек-то как раз понимает то, что ему говорят, ежели он убегает от полиции и звучит команда - "Стой",

то останавливается или не останавливается, потом звучит команда - "Иди сюда", человек выбирает -

или идти "сюда", или бежать ещё быстрее, а то пуля нагонет... smile1.gif 

Комментарий администрации:  
*** Отключен (систематическая дешевая оранжевая пропаганда) ***
Аватар пользователя Мурман
Мурман(10 лет 3 недели)

Интересно на это посмотреть с точки зрения программирования

Так не вопрос!..

ИИ  является единственным способом решения плохо формализуемых задач...

Аватар пользователя Old grumbler
Old grumbler(12 лет 2 месяца)

Анализ вас не устраивает чем-то?

Аватар пользователя Мурман
Мурман(10 лет 3 недели)

Чтобы понять, что без ИИ невозможно,-следует провести факторный анализ. Одновременно вы будете убеждены в непротиворечивости DATASET.

Те, кто увлекается анализом, до сих пор не могут заставить робота пойти по ровной поверхности.... И так уже 7 лет (* 10 чел)!!!

Аватар пользователя Old grumbler
Old grumbler(12 лет 2 месяца)

Зачем мне ИИ для формализации задачи?

 

Пройти по ровной поверхности - это простая задача, уже формализованная. Ее не надо переформализовывать. Анализ просто должен дать ответ, что поверхность - ровная, и алга.

Ну, такие аналитики с роботом ковыряются.. 

Аватар пользователя Мурман
Мурман(10 лет 3 недели)

Именно, что простая!...

И не решив её, "спецы" берутся научить двигаться по лестнице.

Привода только многомерные и на ровной поверхности основная задача - удержание равновесия в движении при сохранении момента импульса движения.

Аватар пользователя Отсюда
Отсюда(5 лет 3 месяца)

Привода только многомерные и на ровной поверхности основная задача - удержание равновесия в движении при сохранении момента импульса движения.

Так вроде все уже давно решено. 

 

Аватар пользователя Мурман
Мурман(10 лет 3 недели)

Попробуй воспроизведи!...  ))

Аватар пользователя Old grumbler
Old grumbler(12 лет 2 месяца)

Прикладная задача, частный случай.

 

Но речь шла - об общем применении. Мне, лично - в моей деятельности, ИИ не обязателен. Я без него подобной сложности задачи решаю ежедневно по несколько штук. И ничего, справляюсь. 

А вы говорите - единственный способ, других нет. 

Даже в вашем случае - я бы решил половину проблем не программно, а аппаратно. Или просто использовал бы другой тип платформы. Что в общем, тоже аппаратно ))

Аватар пользователя Мурман
Мурман(10 лет 3 недели)

Вы счастливый человек!

Начальство вас бережет...

Аватар пользователя Old grumbler
Old grumbler(12 лет 2 месяца)

Ай нау..

И главное, я начальству обхожусь дешевле ИИ. 

Аватар пользователя Мурман
Мурман(10 лет 3 недели)

Это характеризует уровень решаемых вашей конторой задач...

Ничего личного!

Аватар пользователя Old grumbler
Old grumbler(12 лет 2 месяца)

Именно так. 

Просто надо правильно понимать это утверждение.

Если бы ИИ мог их решать, за разумные средства, то разработчики бы давно уже тут сидели, и озолотились. А я б по миру бы не пошел, но переквалифицировался. Но нет - нету достаточно мощного ИИ, способного рулить в большинстве отраслей.  

Почему же так? Огромные средства вкладываются повсеместно в оснащение цифровой техникой. Возьмите их себе! Не можете предложить решений? Ну и не надо задирать нос. Работайте спокойно там, где вы востребованы. Но не пытайтесь принизить деятельность других. 

 

Часть моих потребностей аппаратно-программно решена. Остальная доводка в ручном режиме, обычно по ситуации.  И под личную ответственность, которую на ИИ тоже не скинешь, а не себя брать желающих мало. Вот и работают те, кто может совместить. и это не ИИ.

Аватар пользователя sergold
sergold(9 лет 8 месяцев)

Для любого ИИ, что бы решить плохо формализуемую задачу, необходимо формализовать метод принятия решения для плохо формализуемой задачи. Что является абсурдом.

Аватар пользователя Мурман
Мурман(10 лет 3 недели)

А это первая серьёзная ошибка!..

Если известен метод принятия решения, то это уже хорошо формализуемая задача...

Потому и существует  этап обучения ИИ!..  Данные сами подскажут пространство решений...

Аватар пользователя zebraptor
zebraptor(10 лет 9 месяцев)

Никаких проблем, в случае двух взаимоисключающих команд выбирается одна по некими множественным критериям приоритезации, а если они полностью во всем равноценны, то происходит уточнение по дополнительным критериям приоритезации, а если и это не помогает сделать выбор, то Бендер либо их проигнорирует, покрутит пальцем у виска и скажет тебе "сам не знаешь, чего хочешь, ступай всё получше обдумай", либо сделает случайный выбор и тут уж с него взятки гладки и сам дурак 🤣

Скрытый комментарий Повелитель Ботов (без обсуждения)
Аватар пользователя Повелитель Ботов

Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.

Комментарий администрации:  
*** Это легальный, годный бот ***
Аватар пользователя Отсюда
Отсюда(5 лет 3 месяца)

Видео в тему подобного разрыва шаблонов. Картинка не бьется с музыкой

Картинка не бьется с музыкой или со словами? 

С точки зрения квантовой логики никаких разрывов шаблона нет.  

Аватар пользователя Отсюда
Отсюда(5 лет 3 месяца)

В моем понимании задачи разумного ии должны сводится к уменьшению неопределенности/многосмысленности, а для этого он должен уметь правильно задавать вопросы.  

Это расширяющаяся логика: да/нет/не знаю, но выясню. (Квантовая суперпозиция состояний да-нет) 

Аватар пользователя Мадж
Мадж(7 лет 11 месяцев)

да/нет/не знаю, но выясню

 Есть ещё ответ "иди в жопу"  )

Аватар пользователя Отсюда
Отсюда(5 лет 3 месяца)

Такой тоже есть... Можно при желании запрограммировать. ) 

Аватар пользователя Giugnohou
Giugnohou(3 года 6 месяцев)

уметь правильно задавать вопросы.  

 

Чтобы правильно задать вопрос, нужно знать бо́льшую часть ответа. 

 Роберт Шекли 
 

Аватар пользователя Отсюда
Отсюда(5 лет 3 месяца)

В разрезе программирования это упирается в качественное и количественное восприятие времени. 

Машинное обучение с целью создания разумного ИИ не может быть быстрым на первых этапах. Никаких чёрных ящиков. Только ручками. Только хардкор. 

Аватар пользователя Руслан Еникеев

Таким образом происходит рассинхронизация сигналов. Возникает парадокс, который приводит к зависанию человека.

На этом построена работа иллюзионистов/фокусников/верховной рады/аферистов - то есть когда делается одно, а получается совеем другое, и возникает ощущение разрыва ожиданий и факта.

А вот подвисший человек крайне податлив и управляем ) те же цигани этим пользуются, когда надо подвесить, и пока висит мозг в прострации в попытке "это переворить" - то можно любую дичь втирать, так разум перестаёт фильтровать и отбраковывать неадекватные явления.

Возможно также будут ломать эти "ИИ" (тут как бы абстрактное понятие сверхразума вкладывалось) - ддосить необрабатываемыми запросами, а потом уже делать подмену с нужным результатом.

Аватар пользователя bublin
bublin(9 лет 2 месяца)

Что Ваше творчество раз за разом делает на пульсе? Было бы разумно с Вашей стороны размещать мучающие Вас вопросы без сколь бы то ни было вразумительного анализа и обсуждения исключительно в личном блоге. Многие будут Вам признательны - проще будет ленту пролистывать.

Аватар пользователя ND
ND(5 лет 9 месяцев)

Дайте определение ИИ и всё встанет на свои места. Это объект или субъект? 

Аватар пользователя Мурман
Мурман(10 лет 3 недели)

Меня заблокировали и я не могу тут отвечать...

Аватар пользователя Мурман
Мурман(10 лет 3 недели)

Меня заблокировали и я не могу тут отвечать...

Аватар пользователя FreeWind
FreeWind(8 лет 5 месяцев)

Пол Маклин в своей работе о триедином мозге мог бы внести сюда ясность. Два центра из трёх - логика и эмоции входят в противоречие. Хотя сам Маклин рассматривал три центра: рептильный мозг (основные стратегии поведения, инстинкты), лимбическую систему (эмоции) и неокортекс (соображалка, логика). Но силы этих центров принятия решения не равны. Самый сильный - рептильный, далее - эмоциональный, и третий - соображалка. При угрозе выживанию, реальной или мнимой, рептилия перехватывает управление. 

Для ИИ достаточно сделать два или три центра, но снабдить их разными приоритетами (приоритет их решений) для исполнительных механизмов и программ. Тогда возможно получите что-то подобное человеку, с его заморочками. Правда толку о такого ИИ будет чуть, если вообще будет. 

Анекдот: Умную бомбу с настоящим ИИ так и не удалось выпихнуть из бомболюка.

Аватар пользователя Old grumbler
Old grumbler(12 лет 2 месяца)

Правда толку о такого ИИ будет чуть, если вообще будет. 

Собственно, как и от большинства людей. 

 

Нервная система живого организма скорее не комп из себя представляет, а сеть ВЦ, разнообразной мощности. "Три мозга" - маловато.. Есть еще автономные центры, которые влияют на общую систему, но не подвержены управлению. Только внешнему воздействию. Ну там - таблеточку кинуть, хирургическое вмешательство. Но на их команды - мозг реагирует незамедлительно.

Аватар пользователя Тех Алекс
Тех Алекс(8 лет 12 месяцев)

А верификации данных в ИИ не предусмотрено?

Аватар пользователя Брат
Брат(7 лет 7 месяцев)

Блин, никакого "моделирования работы мозга" в ИИ никогда небыло и врятли будет в обозримом будущем, поскольку пока нет достоверного понимания как именно мозг вообще работает. Все ИИ начиналось из классической реализации логических выводов. а сейчас, с нейро сетями и прочем фигней - тупая статистическая подгонка под результат (именно поэтому, для "тренировки" нужно или знать "правельные" результаты, или иметь четкие критерии оценки, для определения "правильности"/"успешности".

Таким образом, любая так называемая "нейронная сеть" это обычная машина распознавания шаблонов. "Продвинутые" сети имеют состояния и могут распозначать не одиночные шаблоны, а их последовтельности до некой длинны. Где тут кто-то увидел  "интеллект"-остается загадкой. Рядовая рефлексия, просто гибко настраиваемая, и отсюде имеющая море гемороя, поскольку требуется надежно фильтровать входные сигналы от шума, всплесков, нехарактеристичских данных да и много чего вообще.

Комментарий администрации:  
*** отключен (дезинформация, набросы) ***
Аватар пользователя Мурман
Мурман(10 лет 3 недели)

Таким образом, любая так называемая "нейронная сеть" это обычная машина распознавания шаблонов. "Продвинутые" сети имеют состояния и могут распозначать не одиночные шаблоны, а их последовательности до некой длинны.

Вы отстали на 20 лет...  FNN так и работало.

Табу было нарушено с момента, когда обратные связи в NN сети стали активно использовать.  Это уже RNN.  И тут совершилась революция!

Спецы так осмелели, что привычные классические функции цифровой обработки доверяют RNN! И сам вопрос фильтрации становится более многомерным. ....Формально можно создать систему, которая сможет слышать  каждый инструмент в оркестре! 

Классическими методами этого не сделать! В приемлемых аппаратных тратах...

Аватар пользователя Брат
Брат(7 лет 7 месяцев)

У Вас чрезмерный оптимизм по отношению к сетям с состояниями (векторные сети), их я тоже упоминул.

Более того, распознавать инструмент может и обычная сеть - https://fundamental-research.ru/ru/article/view?id=36070

Комментарий администрации:  
*** отключен (дезинформация, набросы) ***
Аватар пользователя Мурман
Мурман(10 лет 3 недели)

...Я знаю эту работу. Это задача классификации отдельных инструментов.

А я упоминал об оркестре!  Когда звучат ВСЕ!

Эта задаче не решаема классическими методами.  Только LSTM

Аватар пользователя Брат
Брат(7 лет 7 месяцев)

Как раз таки тут они игрались и с распознованием инструментов при одновременном звучаении (не очень вышло, но тем не менее). Им нужно учитывать еще и силу сигналов от наложения гармоник или как там оно зовется. Тема не моя. но вариантов решения вижу несколько, которые нужно попробовать.

Тем не менее. даже в обычную сеть можно добавить обработку "векторов", расширением количества сигналов. которые учитывают состояния. Маркетинг, он такой )

Комментарий администрации:  
*** отключен (дезинформация, набросы) ***