Элон Маск, известный предприниматель и основатель компаний Paypal, Tesla Motors и Space X отметил, что исследования по созданию искусственного интеллекта представляют угрозу для человечества.
Элон Маск, исполнительный директор Tesla Motors, Space X
"На мой взгляд, мы должны очень осторожно подходить к теме искусственного интеллекта. Если бы меня спросили, что является самой серьезной угрозой для нашего существования, то, скорее всего, я бы указал на искусственный интеллект. Все больше ученых считают, что необходимо создание регулятивного контроля по данной тематике – возможно, как на национальном, так и на международном уровне – для того, чтобы мы не совершили серьезных ошибок. Создавая искусственный интеллект, мы призываем демона. Есть много историй, где кто-то призывает демона, надеясь, что сможет управлять им пентаграммами и защититься с помощью святой воды. Мы не можем позволить себе подобную самоуверенность".
В августе этого года Маск уже отмечал опасность того, что технологии могут стать "слишком умными" и выйти из-под контроля человека. Он, в частности, заявил: "Мы должны быть крайне осторожны с искусственным разумом. Теоретически он может быть опаснее ядерного оружия".
Комментарии
Там возникала проблема - система не могла объяснить своё решение. Типа - "так получается по таблице". Вот пример с управлением руки, бросающей бумагу в корзину. Система не может предоставить формулы. Она просто выдаёт усилие и угол наклона к горизонту - "по предыдущему опыту собранному в таблице, должна попасть" ;-)
Теперь представьте - система, обслуживающая АЭС выдаёт сигнал - "все стержни срочно вниз !". И что, её слушаться ? ;-)
Т.е. система работает не "как компьютер" (в смысле, не как вычислитель по формулам). Она работает по своему опыту. Теперь заводим много систем. С огромными винчестерами - и соединяем их через интернет... Дофига опыта будет. Осталось дать возможность самостоятельно заводить таблицы для любой проблемы - и собирать данные из других таблиц (анализ по другим разрезам).
В конце концов - а что стоит человеческий интеллект без опыта ? Чего стоит интеллект новорожденного ? ;-)
Оценка результатов это нечто другое. Порядок такой, задача, рсчет, действие, результат. Линейная задача. В примере с АЭС, задача будет стоять в поддержании заданных параметров. Оценка текущего состояния, сравнение с заданными, расчет, нет просто плавное изменение управляющего сигнала, сравнение, без дискретизации. Как аналоговые АСУ работают, с обратными связями.
Причем тут "таблицы". Принцип действия совершенно другой. Для решения задачи создется модель, в рамках которой производятся расчеты. Можно сказать аналоговый принцип. Например, если бы человек был в состоянии видеть потоки воздуха и силы, то для конструирования планера самолета, разум смог бы создать модель, со всеми потоками и силами, и "визуально" меняя форму, найти оптимальное решение. Для этого и проудвают модели, используя ворсинки, специальную краску.
"Для решения задачи создется модель, в рамках которой производятся расчеты." - а можно не создавать модель, и не производить расчёт ;-)
Пример - читал, как робота научили управлять одноколёсным велосипедом. Вообще без расчётов. Робота подцепляли к реальному велосипеду. Он падал - и запоминал. Запоминал, какие действия при каких условия приводят к каким результатам. Создаётся база данных ("многомерная таблица"). Робот ездит вообще ничего не считая.
Надо разделить типы задач. Бросок это отдельное действие. Вождение велосипеда процесс, для управления используются обратные связи. В случе с роботом, а если дорога постоянно меняется, направление, уклоны, ямы, сцепление.
Да и для человека также. Вот ребёнок научился водить велосипед. А выехал, где "ямы и уклоны" - упал. В таблице появилось новое измерение - "качество дороги". Или "Наклоны". На льду - "Сцепление". Для компьютера - размер таблиц. А какая "память" сейчас у "гугля" ? ;-)
По этой схеме нет состояния "обучение окончено, можно ездить". Есть состояние "уже еду, но буду увеличивать свои таблицы вечно". ;-)
>По этой схеме нет состояния "обучение окончено, можно ездить". Есть состояние "уже еду, но буду увеличивать >свои таблицы вечно". ;-)
Не совсем так. Дело в качестве органов восприятия. Например, сцепление с дорогой, если бы человек был в состоянии точно оценивать момент срыва сцепления(в этом кстати разница между гонщиками и обычными водителями), то он бы успел внести коррективы. В данном примере скорость и чувствительность обратной связи недостаточны, и вот тут и нужен опыт и обучение, чтобы компенсировать данный недостаток. При мгновенной обратной связи и достаточной чувствительности, опыт не нужен.
"При мгновенной обратной связи и достаточной чувствительности, опыт не нужен." - да, вот это - чисто аналоговая схема управления. Но у неё есть и свои недостатки ;-) Например, как только её возможностей не хватило - то и всегда будет не хватать. А вот если ей дать возможность запоминать опыт - чтобы она реагировала не только на показания обратной связи, но и на опыт...
В том примере, который я приводил - компьютер очень быстро научился прекрасно водить одноколёсный велосипед - цирковой артист учится гораздо дольше. При это компьютер имел и посредственную обратную связь (типа куда крутанул - и где оказался). Он получал информацию с большой задержкой. Но - решил задачу ;-)
Более того - ом мог бы совершенствовать своё умение и дальше (на льду, на ветру, на разных скоростях) - и всё это без совершенствования железа. Т.е. при тех же посредственных датчиках. А возможности чисто аналоговой схемы неизменны... Какой датчик поставили - то и может...
В примере с цирковым артистом, это больше похоже на настройку системы разум-тело, уточнение парметров чувствительности и скорости обратной связи, корретировка модели. Мне кажется это более верным. Опыт это опасная штука, ситуации могут быть похожими, но всегда будут различатся в деталях. На основании опыта можно сделать оценочное суждение и предсказание, но расчет и управление должно соответсвовать текущей ситуации. Опыт не равно "решение текущей задачи". В этом и есть мощь разума, быстро подстраивать модель и производить настройку системы разум-тело. Эх, тело бы еще посовершеннее
Ну, я совершенно согласен с тем, что то, о чём я говорю - ни разу не панацея. И в очень большом количестве случаев и нафиг не нужна ;-) Где-то лучше аналоговое управление, где-то - прямой расчёт и т.д.
Наша дискуссия начиналась, с того, что привел пример как работает разум человека. Его очень сложно повторить современными средствами. Трудно смоделировать работу разума цифровой схемотехникой и логикой. И "табличный" метод, это просто метод, который позволяет с реализовать некий алгоритми и имеет место быть. А мы ушли несколько в сторону
Этот "табличный" метод позволяет компу "учиться" и находить заранее не запрограмированные решения... "Решения без алгоритма". В определённом смысле - это интеллект. Более того, я думаю, что "человеческий интеллект" - в значительной части именно это и есть. Именно поэтому старый мудрец умнее ребёнка ;-) У него опыта больше. "Таблицы" большие отрастил ;-)
Не могу согласиться. Алгоритмы действия есть. Целый набор.
И есть алгоритм вычисления, по какому алгоритму оптимальнее действовать в таких-то обстоятельствах для достижения такой-то цели.
Это не интеллект.
Потому что весьма быстро возможности, заложенные человеком, исчерпаются, и система либо исчерпает все возможные алгоритмы действия, либо просто не сможет вычислить оптимальный алгоритм и тупо зависнет в бесконечном цикле перебора алгоритмов действия.
И придется создателю железки, тому, кто действительно обладает интеллектом, вытаскивать эту железку за волосы, выключать, писать новый алгоритм...
Кста, я не отрицаю важность "уточнение парметров чувствительности и скорости обратной связи, корретировка модели". Если ребёнок занимался, например, гимнастикой - он научится кататься на велосипеде быстрее, чем "жирдяй". Ибо у него именно это в хорошем состоянии - "параметры чувствительности и хорошая обратная связь". Но "жирдяй" тоже научится ! Только попу больше отобьёт... ;-)
И бросок тоже имеет обратные связи. Нужно только чтобы поступала информация "куда упала бумажка"
Не совсем верно, когда комок находится в полете, то им уже никто не управляет.
Событие - управляемый бросок. Комп им управляет. Результат - координаты комка после падения. Управлять в полёте - нафиг не надо. Делаем миллион бросков под разными углами и разными усилиями. Запоминаем координаты реального падения. С этого момента наш компьютер может отправить комок в любую точку комнаты. И без расчетов траектории. И без аналоговых датчиков, установленных на комок.
Такое решение имеет место быть, но оно уж слишком расточительно, и если исходные параметры изменятся то все заново?
Не. Не заново - а построение нового измерения. Типа - появился ветер. Теперь запоминаем, как он влияет.
В сущности, просто вспомните детство - как Вы учились водить велосипед. Ведь у Вас не было идеального датчика обратной связи. Не было "бесконечнобыстрой" реакции. Но ведь научились же. Это чисто человеческий способ. В смысле - способ нормального живого существа, если данное действие не закодировано жёстко в генах... ;-)
Медведя вон в цирке обучают ездить на велосипеде, а много он понимает в углах наклона и законах Ньютона ? Или его тело создавалось в расчёте на велосипед ? ;-)
Я не так учился ездить. Есть идеальная картина, я еду на велосипеде. Есть текущее состояние. Я пытаюсть с помощью изменения положения тела и руля, крутя педали, создать и поддерживать состояние "езды". Да, это не сразу получается. В итоге я могу управлять процессом и ехать не велосипеде. Поддерживать равновесие, направление движения, скорость, объезжать ямы. И категории тут другие, правее, левее, сильнее, резче, плвнее и.т. Кстати подобная логика используется при наведении ракеты на цель, например на самолет, ракетой с самонаведением.
"Да, это не сразу получается" - вот это ключевое различие между Вами и ракетой с самонаведением ;-) Ракета вылетает единственный раз в своей жизни, и управляется, например, датчиком "на тепло" - "стало больше, стало меньше". В ракете уже заложено "железо", выполняющее нужную обратную связь.
А сколько раз Вы в детстве упали, чтобы наработать нужные обратные связи ? И что означает слово "наработать" ? Вопрос, на самом деле, очень интересный... В какой мере человек выстраивает обратные связи - соединения в мозгу, а в какой - просто запоминает по принципу "был такой стимул - вот такая реакция" ?
Это очень интересные вопросы. Но тот способ, о котором я рассказываю - он рабочий. Его можно применять (не обязательно сувать во все дырки). Он абсолютно не заменит ни аналогового управления, ни примых вычислительных методов... Но он может дать решение, когда мы не знаем модели - и поэтому вычисления не возможны. Более того, он сам (в принципе) может найти нужные зависимости - мы можем и не знать, какой датчик надо ставить - и поэтому не можем и аналоговые методы применить...
Я отличаюсь от ракеты тем, что я могу выполнять разные задачи, создавать новые модели и ситемы, если мне недостаточно тела, я могу использовать созданные исполнительные механизмы. И саму ракету и логику работы создавали люди, и производили настройку.
Если вернуться к началу дискуссии, то я описал, как по моему представлению работает разум. Метод которы вы описали рабочий, я с этим не спорю. И по сути, табличный метод, это некая модель для решения задач, которую можно реализовать на текущем уровне развития техники.
Математическая модель это тоже некий аналог. В модели четко прослеживаются связи, влияния, выраженные символами. Когда мы вычисляем, мы подставляем исходные данные и зная зависимости, можем вычислить выходные данные.
Когда не хватает знаний построить математическую модель, то эмпирическим методом нарабатывают статистику, таблицы. По сути, тоже аналоговое действие. Подаем входной сигнал, измеряем что на выходе.
Ну, в общем - да.
Но представьте себе. Вот живёт средневековый крестьнин. Много в его жизни творчества ? Есть ли там вообще хоть что-нибудь, кроме опыта ? И если так, то обладает ли он интеллектом ? И какая доля такого интеллекта в обычной жизни рядового гражданина ? ;-)
Но мы вели дискуссию о создании ИИ. Который может развиваться, исследовать, создавать новые знания, что в общем то и определяет разумность человека. Если поставить задачу создать ИИ который будет просто жить в готовой ситстеме... задача стоновится намного проще. Создать крестьянина. Есть автоматичесике теплицы, коровники
;-)
> И какая доля такого интеллекта в обычной жизни рядового гражданина ? ;-)
Хороший вопрос.
У Лукьяненко в романе Спектр, есть расса, в которой только дети обладали разумом, а по окончанию обучения становились неразумными и жили как роботы, тупо хадя на работу, выполняя функции.
Тут есть доля смысла. Взрослые могут жить "на опыте", а дети - нет. Но ведь "по народным понятиям" надо выслушать "старца" а не "младенца". Т.е. опыт играет огромную роль в том процессе, что называется "жизнь" ;-)
Если посмотреть на всех людей, когда либо живших на земле - а много ли там людей, вообще живших иначе ? И значит ли это что почти всё население лишено интеллекта ?
Опыт имеет значение, когда нет знаний. Это тоже саммое, когда есть знания, можно создать модель, можно моделировать и предсказывать ситуации, вносить усовершенствования. Когда нет знаний, создаем "таблицы" и живем как роботы.
Ну, может лучше сказать - "опыт это другая форма знаний" ?
Скорее база случаев, результатов действий, статистический материал. Можно сказать, что часть знания.
В качестве шутки:
Я представил, что компьютеру дали тело ребёнка. Он начал бегать, прыгать - опыт собирать... запоминает реакцию родителей...
А через какое-то время в него вселяется душа ;-) Ну, т.к. "душа" - штука нематериальная, то почему она обязана работать только с биологическим разумом ? ;-)
Вот представьте - спорят о каком-то "жизненном вопросе" пятнадцатилетний подросток, и его сороколетний папа ;-) Я думаю, больше шансов, что "папа будет прав" ;-) Но вот вопрос - а почему ? ;-) Ведь:
1. Подросток общается с большим количеством людей, он сидит в интернете - у него большой поток современной информации. Папа давно не интересовался данным вопросом и ходит "дом - работа - дом" ;-)
2. У подростка свежий, не уставший ум, который очень быстро устанавливает новые связи. Папа - давно уставшая лошадь... ;-)
3. Подросток мог долго обдумывать своё дело (много времени на вычислительные операции), папа когда услышал, сразу сказал, что это х..ня ;-) Вообще не задумываясь.
Разница общеизвестная - "у взрослых больше опыта". Ни ума, ни быстроты реакции, ни свежести мышления - тупого опыта. Иными словами, "они нарастили большие таблицы" ;-)
Думаю, "человеческое мышление" состоит из этих таблиц на 99,99% ;-)
Попробуйте тогда объяснить, почему папа будет прав в большинстве случаев, даже если никогда не имел опыта по теме.
Интеллект не находится в мозжечке! В мозжечке находится лишь часть результатов деятельности интеллекта.
"Попробуйте тогда объяснить, почему папа будет прав в большинстве случаев, даже если никогда не имел опыта по теме." - он имел опыт по похожим темам. Следовательно, его "таблицы имеют нужные разрезы для анализа" даже если он никогда не имел дело с данной конкретной темой.
Ну и в каких таблицах записано, что какие-то темы похожи, а какие-то нет?
Кто эти таблицы будет составлять и на каких основаниях, если по одной из тем нет опыта?
Железка, не имеющая абсолютно никакого сознания?!
И как вообще таблицы из одной темы применять к другой, незнакомой, да не методом проб и ошибок, а так чтобы безошибочно с первого раза?
Вообще, я не уверждаю, что всё так и есть. Что разум - это только таблицы... Нет. Но мне кажется, что нужно выбрать одну из позиций :
1. Бог существует. Интеллект - дар Божий. Всё, можно не обсуждать.
2. Мир только материален, и "бога нет". Тогда интеллект - свойство материи, и ИИ - возможен...
"Батюшка, Вы уж либо крест снимите, либо трусы оденьте..." ;-)
Нельзя отбрасывать наличие бога (сверхразума, духа человека), пока не доказано его отсутствие. Постулат о том, что мир сугубо материален, автоматом отсекает кучу версий и направлений в изучении окружающего мира. Это некая ловушка.
Ну, отсутствие Бога доказать будет очень сложно. По определению - он всемогущ, а христианство строится на догмате спасения через веру, а не через знание. Так что он не позволит ничего доказать вплоть до "страшного суда", где всем всё и докажет... ;-)
Но я не об этом. Я о том, что если Вы верите, что ИИ невозможен - то Вам в церковь... Это следующий и абсолютно логичный шаг. А вот если Вы верите, что "бога нет", то на чём, собственно, может вообще базироваться отрицание возможности создания ИИ ? Что, невозможно создать, что уже не Богом создано ? Скажем, за миллион лет развития кибернетики ? А если можно "за миллион" - то может быть можно и "за полмиллиона" ? И т.д. ;-)
Зачем доказывать наличие и отсутвие бога?
Зачем вообще нужен ИИ? По мне так нужен мощный инструмент для моделирования и управлени процессами. А задачи и цели ... мы сами хорошо умеем формулировать.
"Зачем вообще нужен ИИ?" - есть люди, которые упорно его создают. И применяют очень много хитрых "приёмчиков". И "накопление опыта" - только один из них.
Есть, например, весьма практичные цели. Например, создание компьютером компьютерных программ - например, офисных. Которые просто отправят "офисный планктон" на биржу труда... А это - конкурентоспособность. Или, например, юридические экспертные системы... Или - водители авто. "Кибертаксисты". Им нужно будет решать задачи, которые будет невозможно полностью строго сформулировать заранее... Но - один "кибертаксист" обучился на опыте - обменялись таблицами через интернет...
Это - близкие цели.
Для задач которые вы перечислили не нужен ИИ.
Офисные задачи, очень простые задачи. Сложность только в том, что например бухи не просто ведут учет, а еще и решают задачи оптимизации налогов, уход от уплаты.
Юридические экспертные системы. Может просто упростить саму систему, сделать ее простой и понятной и кучу дармоедов юристов отправить в поля.
Кибертаксисты. Так просто создать создать сеть дорого для них и все. Не надо никакого ИИ.
В данных примерах, по мне, решается не та задача. Нужно решать задачу приведения в порядок и упрощения в офисной работе, юриспруденции, а не не создавать сложности, а затем ИИ для решения этих сложностей
Те же экспертные системы в медицине, являются костылем недостаточного развития предмета, знаний о болезнях, человеческой невнимательности и слабой диагностики.
Знаете, я думаю во многом схоже. Но не моё мнение тут что-то определяет ;-) С точки зрения тех людей ИИ - это когда экспертная система решает, как оптимизировать налогообложение и юридическая - как "разворачивать это дышло" ;-)
А "кибертаксисты" должны ездить по обычным дорогам. Логика тут такова - хорошая сеть дорога, а компьютеры дешевы. Раз создашь ИИ - и он "вокруг луж ездить будет" ;-) Утрирую, конечно. Но смысл - такой ;-)
Страницы