Каркас сильного ИИ (общий алгоритм)

Аватар пользователя Shnyukas

Смогут ли роботы улыбаться?

Я бы хотел поговорить о мотивации и причинно-следственных связях в живых и компьютерных системах, а также об их сходствах и различиях. Заметка не претендует на научность, прошу воспринимать это как размышления обывателя.

 

Каким интеллектом обладает новорожденный ребенок? Очевидно, что весьма низким. Потенциально из этого маленького человечка может получиться новый Эйнштейн или Сенека, но пока что он ничего не знает и может действовать только инстинктивно.

Каждый человек обладает с рождения базовым набором реакций на окружающий мир — инстинктами. Это, на мой взгляд, очень похоже на операционную систему. У человечка есть «интерфейс» взаимодействия с внешним миром. Он реализован через органы чувств — зрение, слух, обоняние, осязание, вкус, болевые рецепторы и прочее. У компьютера же это мышь, клавиатура, камера, микрофон, графический планшет, а если вспомнить АСУТП и концепцию умных домов, то прибавим сюда датчики освещенности, движения, датчики, реагирующие на шум, давление и прочее, прочее. Компьютер реагирует на двойной щелчок по иконке браузера, новорожденный реагирует на громкий звук, или на то, что его взяли на руки.

Далее есть система обработки внешних сигналов. Компьютер получил сигнал о срабатывании датчика на входной двери и включил сигнализацию. Маленькому человеку мокро и он кричит.

Также есть система самодиагностики. Ноутбук отобразит предупреждение, если села батарейка или ресурс SSD исчерпан. Если неполадка серьезная, компьютер на этапе включения выдаст ошибку. У ребенка тоже все понятно — голоден, кричу.

Отсюда можно делать вывод, что поведение новорожденного ребенка и компьютера идентично, если отбросить «детали» типа «конструкции», внешнего вида и того, что обычный компьютер (не робот) не имеет рук и ног для передвижения и манипулирования предметами.

 

А вот дальше начинаются нюансы. Компьютер будет делать ровно то, что записано в его программах и введено через интерфейс. Человек с самого рождения начинает сам создавать навыки для своей жизни («писать» некие инструкции). То есть в его «операционной системе» есть модуль, который пишет новые программы (микросервисы, причастные поймут) и эти микросервисы потом безусловно исполняются системой. Этакий «внутренний программист» (дальше так и буду его называть).

Как же человек это делает. Начнем с существующих в социуме схем обучения.

Первая схема - «делай как я». Школа, любые ВУЗы, колледжи, практика на работе. Один человек показывает, другой повторяет. Вторая схема — «отфильтруй информацию, сформируй полезный навык». Здесь навык формируется без стороннего обучения. Древний человек увидел огонь и погибших обугленных животных, попробовал мясо (ему скорее всего понравилось :)). Понял, что огонь можно приспособить и сам создал навык по переносу огня в пещеру и организации костра. Все новые навыки попадают под эту категорию. Есть также переходная ступень между ними — самообучение (пусть это будет третья схема). Пацан, наблюдающий, как играют в футбол старшие ребята, через пару дней сможет выйти на поле и играть вместе с ними. Ребенок, не умеющий говорить, находится в среде общающихся людей и со временем сам начинает разговаривать. Здесь человек также фильтрует информацию (его никто специально не учит) и овладевает навыком.

Так вот, первая схема очень похожа на классическое программирование. Инструкции записываются куда-то и затем выполняются.

Вторая и третья схемы похожи на то, что в ИТ-тусовке называют нейронными сетями. Дай компьютеру много данных, скажи явно, что на выходе ждешь новую картинку, новый текст или двигательную активность (если это робот), запусти сложный скрипт с математическими функциями, в котором при каждой итерации меняются некие коэффициенты. Также скажи, чтобы он сохранял все эти коэффициенты в базу данных. Компьютер прогонит миллионы итераций, из которых лишь десятки и сотни будут соответствовать тому, что ждет программист. Вот эти десятки удачных итераций можно использовать и на их основе модифицировать сложный скрипт. И потом опять миллионы итераций. И так деалютдо тех пор, пока либо качество работы нейросети не достигнет желаемого, либо пока оно не достигнет возможного предела (который может оказаться ниже ожиданий).

Похоже на эффект, когда бесконечное количество обезьян написало «Войну и мир». Перебор вариантов, теория вероятности в чистом виде.

 

Отсюда первый тезис. Чтобы получить сильный человекоподобный ИИ, нужно создать для робота (или компьютера) программу, умеющую запускать процесс обучения конкретному навыку. В идеале эта программа должна уметь как получать готовые навыки (скачивать их из репозитория или обмениваться с другими компьютерными системами напрямую), так и запускать обучение собственной нейросетки.

 

Теоретически написать такую программу возможно. Робот видит, что ребята играют в футбол и его «внутренний программист» запускает навык обучения футболу (скачивает его с гитхаба, ага). Звучит неплохо, но маловато для сильного ИИ. И я дальше покажу, почему маловато.

 

Вернемся к нашему гипотетическому ребенку. Мы примерно поняли, как он мыслит сразу после рождения и как он учится (без деталей работы мозга).

Но остался вопрос: почему он учится и почему он учится именно эти навыкам. Можно предположить что «внутренний программист» заточен на то, чтобы учиться всему, что повторяют взрослые люди вокруг. Но эта версия не выдерживает критики — в этом случае человек бы учился всю жизнь — выучил бы все языки мира, стал бы столяром, плотником, юристом, врачом, автомехаником и т.д. Но ведь люди так не делают. Значит во «внутреннем программисте» есть модуль выбора навыков. Люди умеют различать - что полезно, а что бесполезно.

Как же работает этот «модуль»? Он выбирает навыки исходя из описанных в системе целей и задач. У каждого человека есть комплекс целей, к которым он стремится. Начиная, от инстинктивных низкоуровневых (обеспечение возможности дышать, утоление жажды, питание, размножение, материнский инстинкт и пр.), до сложных целей, которые человек себе ставит сам (победить в игре, закончить институт по определенной специальности, пригласить симпатичную коллегу в кино, съездить отдохнуть, купить квартиру). Также нужно отметить, что все цели декомпозируются на более мелкие (сходить на пару, записать предложение в тетрадь, купить билет, позвонить коллеге и далее). Практически очевидно, что без постановки целей невозможно корректно получать навыки.

 

Второй тезис. При создании сильного человекоподобного ИИ нужно заложить в него некие глобальные цели, научить эти цели декомпозировать и на их основе выбирать перечень нужных навыков. Цепочка декомпозирования должна выглядеть примерно так «Помогать окружающим людям → Жителям этого района часто нужна помощь электрика → Но я этого не умею → Мне нужен навык электрика».

В простейшем случае можно заложить готовые цепочки в его программу (и обновлять прошивку периодически). Уровень выше — научить декомпозировать цели самостоятельно.

 

Вернемся к ребенку. Он ничего не умеет. Система чистая. И вот он начинает развивать навыки. С абсолютного нуля он учится говорить и понимать сказанное (я думаю, если у новорожденного есть какие-то мысли, то это что-то не имеющее словесной формы, в лучшем случае это зрительные образы, а возможно что-то более абстрактное, некий набор сигналов). Сначала он может на простейшем уровне сказать «мама», «баба», не вкладывая в эти слова ничего, кроме утверждения. Потом он учится просить — игрушку, воды. Он очень часто не понимает, когда его о чем-то просишь. Со временем он начинает откликаться очень по-простому на фразы взрослого, часто невпопад. Стоп, сделаем паузу! Понимаете, к чему я клоню? Современные нейросетки-говоруны и чат-боты — это именно тот самый уровень развития навыка говорения и понимания. Очень простая реакция на слова и минимум анализа. Я бы хотел сделать тут вывод, что через несколько лет мы получим условно разумную Алису, которая закажет тебе продукты по твоему вкусу, а с Сири можно будет обсудить творчество Достоевского. Но это будет лукавством. То, что человечество движется в этом направлении совершенно не означает, что мы достигнем когда-нибудь успеха. Но шаги определенно правильные и надо активно развивать «говорунов» дальше. Тьюринг с его критерием не даст соврать. И безусловно, нельзя говорить об ИИ, если мы не сможем научить его общаться.

 

Третий тезис. Сильный человекоподобный ИИ должен обладать развитым навыком говорения и анализа сказанного собеседником (должен уметь вести долгую и содержательную беседу, вычленять факты из речи, делать выводы).

 

Размышляем дальше. Вот есть у тебя 3000 декомпозированных целей на сегодня. В какой последовательности ими заняться? Нам срочно нужны приоритеты!

 

Четвертый тезис. Сильный человекоподобный ИИ должен адекватно ставить приоритеты для своих декомпозированных целей. Хотя, честно признаться, сами люди с этим не всегда справляются. Проблема выбора сложна даже для нас.

 

А теперь представьте себе человекоподобного робота, в который по умолчанию зашит модуль, позволяющий учиться навыкам, зашиты цели и скрипты по их декомпозированию, модуль расстановки целей по приоритетам, 4 сотни обученных нейросеток на все случаи жизни, которые он включает ситуативно (общение-говорение, ходьба, все языки мира, футбол, хоккей и прочее).

Этот робот реально может быть использован в качестве помощника по хозяйству, он даже может читать лекции в институте, водить машину. Он может переучивать свои нейросетки, адаптироваться к окружающему миру. Возможно такие роботы появятся в ближайшие десятилетия.

 

Но равнозначен ли он человеку (если отбросить «конструктив»)? Пока нет. Чтобы сравняться человеком, он должен:

- осознавать себя;

- осознавать окружающий мир;

- иметь эмоции;

- иметь возможность отклоняться от базовой цели, заложенной изначально.

 

И тут нас накрывает густой экзистенциальный туман. Для начала мы должны в четких научных терминах описать понятия «сознание», «самосознание» и лишь потом их возможно будет перенести в мир компьютерных программ. Нужен список критериев, и далеко не факт, что эти критерии можно перенести в железо. А еще (чтобы 2 раза не вставать) нужно строго доказать, что человек действительно осознает себя, а не просто выполняет программу, осознает окружающий мир, а не просто видит и слышит его.

 

Пятый тезис. Если мы хотим создать некое равное нам (или даже превосходящее нас) осознанное существо, нужно решить философские вопросы: «Что такое сознание», «Как отличить самосознание от «простого» выполнения зашитых программ», «Как отличить сознание от простого получения информации об окружающем мире». При этом большой вопрос, нужно ли все это для сильного ИИ.

 

И напоследок поговорим об эмоциях и отклонениях от базовых целей.

Эмоции неотрывно связаны с системой поощрения и наказания, существующей в организме. Один ребенок стукнул другого в песочнице. Объект агрессии закричал, возможно заплакал. У него проявился гнев, страх, обида. Он либо попробует что-то сделать в ответ, либо побежит жаловаться маме, возможно просто убежит от обидчика. «Под капотом» происходит сложный процесс, выделяются гормоны (кортизол и прочие), организму становится некомфортно (больно, обидно, страшно). По сути, отрицательные эмоции нужны чтобы подталкивать человека к каким-то активным действиям, выводить его из равновесия. Увидел льва, побежал, выжил. Подошел к краю крыши, стало страшно, отошел от края крыши, выжил. Начальник достал, плюнул ему в лицо, уволился (не делайте так, это шутка).

Человек смотрит комедию, смеется. У него выделились эндорфины. Человек счастлив, ему хорошо. Положительные эмоции закрепляют то поведение, при котором человеку хорошо — общение с интересными людьми и/или родственниками, вкусная еда, новый смартфон и др.

Гормональная система делает нам плохо при опасности, боли, потере кого-то или чего-то. Она же делает нам хорошо, когда, по ее мнению, мы сделали что-то полезное и правильное (сходил с девушкой в кино — молодец, глядишь потомство дашь, двуногий).

Этого избегай, это делай как можно чаще.

Но при этом гормональная система похожа на глухую полуслепую бабку, которая часто раздает конфеты откровенным хулиганам и бьет клюкой образцовых детей. Почему? А как тогда назвать тот факт, что учиться всегда тяжело (хотя в перспективе ты получишь новый навык, новую должность). Как объяснить тот факт, что матери убийц считают сыночков невиновными? Как объяснить прокрастинацию, алкоголизм, курение, наркоманию? Наркоман вводит в организм вещество, которое через пару лет приведет его к смерти, а гормональная система в этот момент сигнализирует мозгу, что все прекрасно.

Также гормональная система тесно связана с целеполаганием. Ребенок помыл полы, мама его похвалила, дала 50 рублей на карманные расходы. У ребенка выделился эндорфин, мытье полов «помечается» как положительное действие, вносим его в цели. Мама твердит, что ты должен стать юристом. Тебе 17 лет и тебе нафиг не нужна профессию юриста. Но ты не хочешь расстроить маму (конечно, попробуй только, ага). Это поведение закреплено твоим многолетним с ней проживанием. Ты отказывался что-то делать, мама кричала, у тебя выделялся кортизол, тебе было некомфортно. Вот и сейчас ты покорно вносишь в свой виртуальный список цель «Поступить на юридический факультет», чтобы у тебя в очередной раз не выделился кортизол.

 

Шестой тезис (пока крайний). Для создания человекоподобного сильного ИИ нужна внутренняя система поощрения и наказания для отбраковки неправильных действий (в том числе она нужна для обучения нейросеток), и закрепления правильных действий. А как эту систему реализовать на компьютерной логике? Представляется, что задача решаема, нужна дополнительная программная надстройка, выдающая баллы (10 при абсолютно полезных действиях и 0 при абсолютно вредных действиях). Самая мякотка в том, чтобы это все корректно настроить. Без этого роботы не смогут улыбаться и не завоюют мир.

Авторство: 
Авторская работа / переводика
Комментарий редакции раздела Аналитика

Тезисы очень спорные, но вопрос для обсуждения интересный.

Комментарий редакции раздела Ресурсы колонии мнимые

Заблуждения людей по поводу сильного ИИ.

Комментарии

Аватар пользователя alexsword
alexsword(9 лет 6 месяцев)

Все компы остаются в рамках машины Тьюринга, со всем матаппаратом, который накладывает принципиальные ограничения на так называемый "ИИ".

Вся эта шняга про ИИ придумана журналистами и маркетологами, кто под этим соусом сосет деньги с инвесторов.

В топку.  

Пока не придумаете принципиально новый матаппарат для компов, который выйдет за рамки машины Тьюринга.

Аватар пользователя Shnyukas
Shnyukas(5 лет 3 месяца)

А как доказать, что человек выходит за рамки машины Тьюринга?

Аватар пользователя alexsword
alexsword(9 лет 6 месяцев)

Очень просто.  У вас отсутствует матмодель сознания человека, поэтому, в отличие от компов, нет возможности доказать, что именно в пределах, а что за пределами.

В качестве легкого домашнего упражнения постройте комп, который не зная ничего о таблице Менделеева, сможет ее изобрести.

 

Аватар пользователя Bzz
Bzz(4 года 6 месяцев)

Пока не придумаете принципиально новый матаппарат для компов, который выйдет за рамки машины Тьюринга.

Конечно, интересна смена парадигмы. Скорее даже, "комп" не очень-то подходит для того, что уже накоплено по нейросетям.

Аватар пользователя megodan
megodan(2 года 3 месяца)

"машины Тьюринга" -- тупиковое направление, она не имеет мотивации и пародирует процесс как алгоритм с ограниченным количеством данных.

Комментарий администрации:  
*** Свиная харя - aftershock.news/?q=comment/10272571#comment-10272571 ***
Аватар пользователя Shnyukas
Shnyukas(5 лет 3 месяца)

А какая у человека мотивация? Да крайне простая! Мы дофамино-эндорфино-серотониновые наркоманы. Какая-то часть мозга решает, что при "полезных" действиях нужно выделить дофамин и пр. А вся наша супер-умная ЦНС только и занята тем, чтобы добыть побольше гормончиков удовольствия.

Вот и вся система мотивации! Это можно реализовать на существующем матаппарате для компьютеров. Надо только внести в систему условно "полезные" действия и выдавать балльные оценки при поведении системы. Чем больше высоких баллов за день набрал, тем лучше. Вот и вся мотивация.

Меня сейчас проклянут религиозные люди, но годовалый ребенок - это набор плохо обученных нейросеток ходьбы, говорения, игр + набор инстинктов. Дальше с взрослением уже происходят количественные и качественные сдвиги, которые еще предстоит понять.

Аватар пользователя маргинал
маргинал(6 месяцев 1 неделя)

"Чем больше высоких баллов за день набрал, тем лучше."

А лучше это как? Ну набрал комп +100500 баллов и...? 

Аватар пользователя Shnyukas
Shnyukas(5 лет 3 месяца)

Поскольку в этой системе будет несколько работающих нейросеток, каждая из них будет получать баллы. Нейросети, набравшие высокий балл работают корректно, средний балл - можно дальше совершенствовать (обучать), низкий балл - приостановить работу (требуется вмешательство людей). Так вижу.

Аватар пользователя alexsword
alexsword(9 лет 6 месяцев)

Это просто матмодель любого конечного автомата, частным (и ограниченным) случаем которого является комп.

Аватар пользователя atolic
atolic(5 лет 2 недели)

 

частным (и ограниченным) случаем которого является комп.   

или человек: без шуток. Овечку Долии помните..сопостовляйте факты: в начале массовой миграции в страны Западной Европы несколько лет назад было много беженцев - мужчин, средних лет, имеющих паспорт и тлф. Подделать паспорт  сейчас не проблема. кстати как и подделать воспоминания. Еще , после банкротства банков писали, что некоторые банкиры покончили с собой..типа не смогли выдержать морально..но как то странно покончили, типа самоубийство.прыг в окошко с высотки. Вывод - клонирование человека уже примняется много лет, но об этом не будут сообщать. Да, в Японии уже фирмы есть, которые предлагают вам клонировать точную копию вашей собачки или кошечки ( за ваши деньги).

P.S.  вывод я написал основываясь на материале, которого у меня набралось на толсту книгу по данной теме.

Аватар пользователя Bzz
Bzz(4 года 6 месяцев)

"Москва не сразу строилась."

Сначала стараются хоть как-то снять ограничения, затем более оптимально. Эволюция... :о)

Аватар пользователя Shnyukas
Shnyukas(5 лет 3 месяца)

Матмодель сознания я действительно не могу описать. Потому что не понимаю принципиальных отличий между наблюдением за окружающим миром и реакцией на него и "осознанным" наблюдением за окружающим миром и реакцией на него. Чем больше размышляю на эту тему, тем больше думаю, что отличий нет. Просто наши реакции настолько сложны, что мы стали на них вешать ярлычок с надписью "Сознание".

Люди шли долгие столетия к периодической таблице элементов. Накапливали знания, формировали навыки, создавали и декомпозировали цели в химической науке. Менделеев оказался в нужное время и в нужном месте, чтобы сформировать правильную цель - найти какие-то правила и закономерности, которым подчиняются свойства известных на тот момент элементов. А дальше он "просто" систематизировал всю информацию об элементах и такие правила нашел.

Не вижу тут ничего невозможного для ИИ. Постановка цели, перебор информации, нахождение закономерностей. Нейросети это умеют.

Постановка цели - вот сложный вопрос, да. Но и Менделеев эту цель поставил и достиг не на пустом месте - он стоял на базисе передовой науки того времени и открытиях великих учёных до него.

Аватар пользователя Moor_Zeek
Moor_Zeek(2 года 2 месяца)

> Потому что не понимаю принципиальных отличий между наблюдением за окружающим миром и реакцией на него и "осознанным" наблюдением....

 

А они есть.

1. Интеллект - способность создавать сенсорные модели мира.

2. Сознание - надстройка над интеллектом. Способность создавать символьные модели сенсорных моделей мира.

Ибо модель - это всегда упрощение. Интеллект упрощает мир первый раз, сознание - второй. Отсюда - возможности 1 и 2.

Сознание возникло как побочный эффект появления языка. Без языка не существует сознания.

 

"Осознанное наблюдение" - выражение, придуманное гуманитариями и не несущее никакого особого смысла.

Давал понятия телеграфным стилем, кратко и без лишних эмоций smile10.gif

Аватар пользователя Shnyukas
Shnyukas(5 лет 3 месяца)

То есть символьное описание всего окружающего равно сознанию? Годная мысль.

Но тогда получение сильного ИИ сводится к обучению компьютера говорению, распознаванию предметов и сопоставлению предметов с их символьными характеристикми (названиями).

Аватар пользователя STRANGELOVER
STRANGELOVER(1 год 2 недели)

Бинго!!!

Аватар пользователя Herz
Herz(8 лет 6 месяцев)

То есть символьное описание всего окружающего равно сознанию? Годная мысль

А чего в ней годного-то?

Ощущение "Я Есмь" не имеет никакого символьного описания. И вообще с какой стати вы решили, что у животных нет сознания? Потому что они рассказать об этом не могут? Гы. Сперва дайте точное определение сознания, самосознания и осознанности, а потом говорите, что их нет.  

Полагаю, что физическая основа сознания существует, как особая форма материи, о которой у человека (физиков) пока нет ни малейшего представления. Это не электромагнитные или гравитационные поля, это нечто другое, что мы вообще не фиксим и не наблюдаем датчиками. Информационное поле, если хотите, основа ноосферы. А потому все математические игрушки в нейросети даже на миллиметр не приближают к появлению феномена сознания у искусственных систем, они не в том водоеме купаются ;)

Комментарий администрации:  
*** Знакомьтесь - зеленый пиарщик, коронавирусный хайпожор и систематический дезинформатор ***
Аватар пользователя Luddit
Luddit(2 года 8 месяцев)

Некоторые животные способны понять, что в зеркале - это они.

Аватар пользователя Herz
Herz(8 лет 6 месяцев)

Некоторые животные способны понять, что в зеркале - это они

И что? Как это доказывает, что они ОСОЗНАЮТ себя? Их нейросеть различает, что в отражении их тушка и реагировать на неё нужно соответствующим образом. На этом всё. 

Феномен сознания крайне загадочное явление

Комментарий администрации:  
*** Знакомьтесь - зеленый пиарщик, коронавирусный хайпожор и систематический дезинформатор ***
Аватар пользователя Shnyukas
Shnyukas(5 лет 3 месяца)

Я в своих размышлениях тоже уткнулся в стену сознания, самосознания. Не понимаю я его. Его то ли вовсе нет, то ли это что-то нематематическое, как вы говорите.

Аватар пользователя Herz
Herz(8 лет 6 месяцев)

это что-​то нематематическое

Проблема в том, что математически описывать нечего, мы не имеем доступа к объекту, который пытаемся моделировать и его носителю. Про него не известно буквально ничего, ни его свойства, ни поведение.

Есть хороший пример.

То что мы наблюдаем, человек, его тело, мозг, реакции это изменяющееся изображение на экране монитора компьютера. И вот по этому всему хозяйству мы пытаемся понять, как устроен компьютер, его железо, ПО. Задача так себе. Ну вы понели ;)

Комментарий администрации:  
*** Знакомьтесь - зеленый пиарщик, коронавирусный хайпожор и систематический дезинформатор ***
Аватар пользователя Shnyukas
Shnyukas(5 лет 3 месяца)

Вероятно вы правы.

Аватар пользователя STRANGELOVER
STRANGELOVER(1 год 2 недели)

Фантом сознания

Аватар пользователя Herz
Herz(8 лет 6 месяцев)

Да, сознание - феномен пока не имеющий рационального описания, даже подступиться не понятно как. Поэтому не глупые люди придумали вторую описательную систему реальности, идеальной, не объективизированной, не воплощенной в материи (инфополе), а из неё уже выросли религии с Душой и потусторонним миром

Комментарий администрации:  
*** Знакомьтесь - зеленый пиарщик, коронавирусный хайпожор и систематический дезинформатор ***
Аватар пользователя VladimirKox
VladimirKox(3 года 8 месяцев)

Сознание возникло как противоположность бессознательному состоянию.

У спорообразующих бактерий при переходе в вегетативную форму, ага, там где опероны начинают работать. Реплика для Мур зека.

Аватар пользователя Bzz
Bzz(4 года 6 месяцев)

Кажется, не хватает ошибки :о)

А, вообще, smile9.gif

Аватар пользователя Another_jim
Another_jim(6 лет 2 недели)

Эксперимент) открываете любой учебник книгу по знакомым дисциплинам - букварь, например, и осознанно наблюдаете.

теперь открываете книгу, оторвут вы не понимаете, например, квантовую физику, справочник по медицине и атлас, философию и тд и тп. и наблюдаете, но уже неосознанно. Те буквы знакомые, даже текст знакомый, а осознанности 0.

Осталось научиться ставить цели ИИ, или научить их ставить цели самостоятельно. с целями и сама наука вам не поможет, это не входит в область естественных наук. Оно за пределами науки. Наука не может сказать как и почему она изучает именно это, а не другое, и как мы выбрали предмет исследования)

Аватар пользователя Shnyukas
Shnyukas(5 лет 3 месяца)

Спасибо за комментарий по осознанности. Он очень правильный.

Тогда получается, что осознанность - это понимание символьной информации. Не просто чтение или слушание, а выделение из речи фактов, событий, имен, атомарных взаимодейтсвий между людьми и предметами. Другими словами, понимание текстов.

 

По целям тема интересная. Я еще раз повторюсь - у новорожденного цели весьма просты - следовать инстинктам (безусловным базовым программам), получать гормоны удовольствия и избегать стрессовых гормонов. С взрослением целей становиться больше, но каждая цель имеет базис в виде следования инстинкту или получения одобрения/избегания наказания от внутреннего "арбитра" - гормональной системы. Даже такое человечное поведение, как самопожертвование укладывается в эти правила. Солдат перед тем, как прыгнуть на гранату, за короткое время анализирует 2 исхода события. Он убежал - спасся, избежал выплеска кортизола и смерти. Закрыл гранату своим телом - выполнил полезное действие, чему его всю жизнь учило общество, а гормональная система это закрепляла. Он в детстве перевел через дорогу бабушку, она его похвалила, выделился дофамин. И вот он прыгает на гранату, потому то правильно, потому что гормональная система так обучила его мозг за его короткую жизнь. Он не успеет получить дофамина или эндорфина, но неосознанно, на глубинном уровне мозга, он хочет именно этого.

Аватар пользователя clinch63
clinch63(4 года 9 месяцев)

за короткое время анализирует 2 исхода события

Вот это и есть цель создания ИИ. Для построения моделей возможного развития событий. Возможности человека остаются прежними, а возможности программ/нейоосетей и "железа" возрастают, накапливаются и становятся доступными для использования каждым человеком. Кто эффективнее сможет просчитывать модели развития, тот и ... победит. А кстати, как будет использовано такое превосходство? 

Аватар пользователя Shnyukas
Shnyukas(5 лет 3 месяца)

Превосходство будет использовано для экономического доминирования или для войны. К этому и придем. Это как с ядерным оружием. Раз нельзя бороться, надо возглавить.

Аватар пользователя clinch63
clinch63(4 года 9 месяцев)

использовано для экономического доминирования или для войны.

  Это вполне типичная модель поведения человека. ИИ не сможет это просчитать и найти другой путь? Вы считаете невозможной модель сотрудничества без доминирования? ИИ может с Вами не согласиться. 

Аватар пользователя Another_jim
Another_jim(6 лет 2 недели)

А может решить, что доминирование - единственная из стратегий)

 

Аватар пользователя clinch63
clinch63(4 года 9 месяцев)

  Если целью будет развитие всего человечества, то зачем нужно доминирование только одной его части над всем остальным? ИИ может быть координатором такого развития без желания доминировать самому, так как человеческие страсти для него будут не рациональным поведением.

Аватар пользователя Another_jim
Another_jim(6 лет 2 недели)

Вы мыслите, как человек))

ИИ будет решать, не вы) решит, что нужно доминировать- будет доминировать. Нужно убить человеков - значит убить человеков.

Аватар пользователя clinch63
clinch63(4 года 9 месяцев)

Это Вы мыслите как человек: хочу так - значит будет так. Это, как я уже написал, иррациональное поведение. 

Аватар пользователя Shnyukas
Shnyukas(5 лет 3 месяца)

с целями и сама наука вам не поможет, это не входит в область естественных наук. Оно за пределами науки. Наука не может сказать как и почему она изучает именно это, а не другое, и как мы выбрали предмет исследования)

Позвольте не согласиться. Наука только и занимается тем, что достигает цели и ставит перед людьми новые. 

Почему была создана алхимия, предшественник химии? Потому что люди хотели получать золото из свинца и других веществ. Цель в итоге была признана некорректной, но алхимики открыли кучу химических элементов, веществ и реакций, изучение которых и применение во благо и стало новой целью.

Аватар пользователя Another_jim
Another_jim(6 лет 2 недели)

Это как?

Мне очень нужен физический закон постановки целей для экспериментов. А то вс мучаются, а так будет целый физический закон)

начнем с того, что изучение наук было нужно для понимания Божественного замысла и прославления Бога. 

Аватар пользователя Shnyukas
Shnyukas(5 лет 3 месяца)

Ну вот пример. Ученые 18 века исследуют новый природный минерал, привезенный из Южной Америки.

Цель экспериментов - описать свойства минерала и по возможности описать его полезные свойства.

Что сложного?

Аватар пользователя Another_jim
Another_jim(6 лет 2 недели)

И этот минерал - урановая руда. И какие полезные свойства в 18 веке они смогут описать?

 

Аватар пользователя Shnyukas
Shnyukas(5 лет 3 месяца)

Никакие :) А в 20 веке смогут. Параллельно с достижением прямых целей эти учёные будут делать косвенные открытия - новые методы исследования например.

Аватар пользователя Luddit
Luddit(2 года 8 месяцев)

Нет ничего некорректного в цели. Просто после того, как стали понятны затраты на процесс, стало ясно, что уж лучше по старинке.

Аватар пользователя Shnyukas
Shnyukas(5 лет 3 месяца)

Глобальная цель науки - понять устройство окружающего мира и применить его законы в о благо людям. Это к вопросу "наука ен может сказать, почему она изучает именно это". А уже декомпозиция целей - это вопрос перебора имеющихся направлений. Ученые договариваются. что Василий Леонидович сегодня изучает вон тот синий порошок, а Петр Петрович - вот эту красную жидкость. Очень простые цели. Через год по итогам изучения этих порошков и жидкостей направлений для изучения станут десятки и целей тоже будут десятки.

Аватар пользователя Another_jim
Another_jim(6 лет 2 недели)

Стремление к истине да, а про благо - это вы придумали)

в науке те морали, тем более размышлений о благе)

Ученые могут вообще не договариваться и Василий Леонидович будет изучать синий порошок до самой смерти, и сегодня и завтра и пока сможет ходить. И изучать другое он не будет, пока не поймёт, что это тщетно.

Аватар пользователя Herz
Herz(8 лет 6 месяцев)

Глобальная цель науки - понять устройство окружающего мира и применить его законы в о благо людям

Осталось выяснить маленькую деталь, что есть БЛАГО для людей? Дать им много еды? Здоровье? Новый крутой телефон? Бабу (мужика)? Телек пазырить? Всё это животный уровень

С точки зрения Системы Управления Мирозданием (Творец, Бог, Природа) все эти цели - пустышки, ибо не соответствуют Замыслу Творения, создать Человека, подобного высшей силе. В чем подобного? Вопрос.

Хотя всё вышесказанное граничит с религией и никогда не будет принято ортодоксальной наукой. Поэтому она принципиально ограничена и находится в тупике много лет

Комментарий администрации:  
*** Знакомьтесь - зеленый пиарщик, коронавирусный хайпожор и систематический дезинформатор ***
Аватар пользователя ВладиславЛ
ВладиславЛ(2 года 6 месяцев)

Ваша принципиальная ошибка: "Чтобы получить сильный человекоподобный ИИ" Сильный по-настоящему ИИ  НЕ МОЖЕТ являться антропо и вообще гуманоидоподобным. Это совсем другая система. Он может иметь в некотором смысле гуманоидный информационный интерфейс, даже куклу биологическую или фантомнуюю - неважно но он НИКОГДА не будет человеком, сиречь функции разные как вода и огонь в древнем смысле пяти стихий.

Также алгоритмом нельзя создать никогда никакой сильный ИИ. Вы привязываете к антропомофности сознания, камнем во вселенной.

 

И да сильный ИИ по-настоящему не локализован во времени, в мирах. Он сам в состоянии их создавать. Это вообще второй продвинутый уровень, доступный даже людям, не Бог весть что. 

Аватар пользователя быкап
быкап(6 лет 4 дня)

Это очень сильное колдунство

Аватар пользователя Мегатонна
Мегатонна(3 года 9 месяцев)

Да нет в этом никакого колдунства: вот собираетесь вы встать и пойти в туалет, и за мгновенье ваш разум формирует модель квартиры (мир) и представляет все действия, которые предстоит произвести (время), внося микрокоррекции по ходу выполнения телом этой программы (ну там кот разлёгся на пороге -> переступить) Чем более "бытовое" действо вы замышляете, тем менее заметен этот шаг моделирования "мира во времени".

Аватар пользователя Shnyukas
Shnyukas(5 лет 3 месяца)

Владислав, я говорю про человекоподобного ИИ, потому что другой схемы мышления мы не знаем.

Возможно когда-то появится ИИ, мыслящий принципиально по-другому. Он возможно не будет иметь целей и мотиваций, может быть даже понятие обучения ему будет совершенно не нужно.

Но мы не можем описать матаппарат такого ИИ. Единственная возможность тут - самозарождение ИИ в действительно мощном компьютере с заложенными базовыми возможностями для анализа окружающего мира. Аналог с тем, как самозародилась жизнь. Но возможно ли такое? Я не знаю.

Аватар пользователя alexsword
alexsword(9 лет 6 месяцев)

> Потому что не понимаю

Если вы сводите сознание к машине Тьюринга, значит можете построить матмодель процесса изобретения той же таблицы Менделеева или любого другого, когда изобретение никак не следует из аксиоматики, известной перед ним.

Аватар пользователя Shnyukas
Shnyukas(5 лет 3 месяца)

Вот Вам модель. Получить все данные по проблеме -> Найти все возможные закономерности.

Аватар пользователя Velantir
Velantir(8 лет 3 дня)

Если матмодель сознания человека не озвучена (не построена), это не значит, что она отсутствует (невозможно построить). Ваши утверждения против ИИ слишком громкие и голословные, чтобы быть воспринятыми серьёзно любым мыслящим человеком.

Страницы