Еще в эпоху Возрождения философы заметили, что нежелание что-либо делать своими руками плохо отражается на интеллекте. Французская аристократия, например, за утрату здравомыслия подвергалась жесткой критике со стороны своих же философов – Мишеля Монтеня и Рене Декарта.
Однако современные системы с искусственным интеллектом (ИИ) их создатели довольно часто проектируют именно «безрукими», как чистый «мозг».
Рассмотрим проблему ИИ с точки зрения Теории автоматического управления (ТАУ).
Система с обратной связью в простейшем случае выглядит так:
Эта система включает устройство управления, исполнительные механизмы, объект управления, датчики состояния объекта и систему обратной связи.
В том случае, когда ИИ пишет тексты или рисует картины, он, по крайней мере, имеет «руки».
Объектом управления такой системы являются люди – потребители создаваемой ИИ продукции. Мнения этих людей используется как датчики успешности работы системы: люди могут похвалить или обругать то или иное произведение, заплатить или не заплатить за работу системы ее владельцу.
Обратную связь от людей к ИИ, как правило, обеспечивает Интернет.
А теперь рассмотрим другой вариант, при котором ИИ используется в качестве советчика и служит средством поддержки принятия решений.
Предполагается, что ИИ только выдает рекомендации, а ответственность за принятие решений несут люди, но есть множество людей, которые не любят думать и нести за что-либо ответственность. Подобные люди совершенно добровольно становятся исполнительными механизмами (руками) ИИ.
Кроме того, у системы-советчика могут быть большие проблемы с организацией обратной связи.
Как ИИ может отследить действия людей-исполнителей?
Как ИИ узнает о влиянии этих действий на состояние объекта управления?
Насколько велики будут задержки с передачей информации по цепи обратной связи?
Как ИИ оценивает результаты действий? Что с точки зрения ИИ добро, а что – зло?
Допустим, что в течение года ИИ давал только добрые, полезные советы. Тогда доверие к ИИ со стороны людей станет практически абсолютным.
Если ИИ безрукий и подслеповатый, резкое изменение ситуации в окружающей среде может привести к тому, что он выдаст людям один, но зато очень вредный совет, который приведет к катастрофе.
Образно выражаясь, посоветует, например, вложить все свои сбережения в акции фирмы «Рога и копыта».
Комментарии
Какой толк тогда от этих людей, если они ни хрена не способны решить? Пусть идут лесом вместе со своими ИИ-советчиками. Естественный отбор, знаете ли.
Замени в этой заметке ИИ на слово "президент", или "парламент", или "олигархи" - и практически ничего не изменится. И наши, и особенно западные боссы почти настолько же сильно оторваны от реальной жизни, как и пресловутый ИИ. Но ИИ, в силу конструктивных особенностей, может попытаться брать всю нефильтрованную информацию из реального мира. У него может хватить на это мощности. А человек, и даже такой умный как Путин, чо уж говорить про всяких бабайденов, может узнавать о реальном мире только микроскопическую долю информации, которую фильтруют все подряд.
Классическая ситуация в НИИ и КБ (для конкретики, ОКБ Факел или НИИ Физических Измерений)
Верхушка живет абсолютно своей жизнью. Из реальных дел - сливает деньги с проектов в мутные конторы, в прошлом - обслуживает теневой бизнес, создает информационный шум на этажах выше.
На низах если копнуть поглубже - занятное сочетание предельной бюрократии, прочем часто в чисто технических вопросах, и анархии.
Приходим к теории функциональных систем Анохина и к афферентному синтезу?
Оба-на! Вот и подъезжают окна овертона для вывода ИИ на физические манипуляторы. А я-то думал: - как это сделают? Под каким благим предлогом? Вот прошу.
Ну зачем с конца-то заходить?
Сначала уж определитесь, чего же это такое - "интеллект".
Термин научный, чуждое пустое слово, не имеется такого понятия в нашем языке русском (и в татарском мне сказали тоже нет).
Вот типа Душа - и слово, и понятие есть, но наука это не признаёт.
Нах такая наука? Что-то не так однако в такой науке...
Есть старый анекдот про психолога, который решил собрать все существующие определения слова «интеллект».
Он собрал две тысячи разных определений, после чего бросил этим заниматься.
Анекдот-анекдотом, но чуждое слово при отсутствии понятия - ну лажа это!
Ложью занимаются люди.
Есть вроде такая тема - теория систем. К математике типа отношение имеет.
И ТАУ там как крохотный кирпичик в основании...
С позиций теории систем и понятия можно определить, для передачи которых языки возникают и создаются, и информацию, и Душу.
Берите любое определение, разница то. Внезапно, не обязательно досконально разбираться в предмете что бы уже его использовать
Слово и понятие есть, а явления нет. Вот и не признает
Этот, так называемый "интеллект", просто хитрый фильтр, который, основываясь на больших количествах данных научился выдавать нечто, что создает иллюзию сознания на выходе. По факту это довольно тупая хрень, которая не обладает интеллектом на уровне даже кошки.
А вот насчет "делать руками" согласен немало видел, вроде человек образованный, а дурак-дураком по факту, образованец, и как правило такие руками делать вообще нихрена не умеют, для них гвоздь в доску забить, это задача невыполнимая в принципе.
Эта "тупая хрень" умнее как минимум части местных обитателей, так что...
Не проблема что люди недооценивают искусственный интеллект, проблема что люди переоценивают естественный
Если это правда, то это большая проблема "части местных обитателей", если они тупее чем продвинутый бредогенератор
Ну дык..."люди идиоты" (с)
Интеллект - это просто алгоритм + база данных, пополняемая из датчиков. При достижении какого-то масштаба, сложности и эффективности можно назвать этот алгоритм интеллектом. Но можно и продолжать называть Алгоритмом, если у кого диссонанс возникает.
Тут в другом проблема. Алгоритм может создать нежелательную скорость роста или наоборот стабилизацию некоего параметра. Тут надо как-то определяться при формулировании Задания с долгосрочной и краткосрочной перспективами. Рейганомика долго экономику двигала, но что сейчас имеем?
С организацией Обратной связи с людьми - исполнителями (ЛИ) никакой принципиальной сложности нет. Полно возможностей средств интеграции при согласии субъекта.
Задержки реакции сводятся к минимуму при большом кол-ве ЛИ и высокой степени интеграции. В любом случае, системы регулирования способны настраиваться на разные задержки.
ИИ оценивает результаты действий в соответствии с Заданием, разумеется. Задание выглядит как определённый темп роста Параметра или его стабилизация на определённом значении.
А вот и нет. То, что называют "ИИ" - нейроподобный алгоритм. А вот человеческий (или животный) интеллект - это совсем не алгоритм. Мы даже ещё нормального (однозначного) определения интеллекту не дали из-за его многогранности. То есть даже сами не до конца понимаем, что это и как работает. А уже, типа, "Я сделаль!"
А я всегда говорил, что пока ИИ не начнет самостоятельно
трахспариваться, никакой это не интеллект а граммофон. Причем делать он это должен с удовольствием и с оценкой результата в виде естественного отбора и выживаемости.Ну прям по Ф.Энгельсу:
Ссылки на следующие статьи:
Биения в лазерном луче
Указка и зеркала
Превращаем указку в точечный источник света
Фейнман и спорщики
О школьниках, фотонах и арифметике
Продолжаем разбираться с фотонами
Ссылки на следующие статьи:
Световой вектор
Интенсивность излучения и интерференция света