Вход на сайт

МЕДИАМЕТРИКА

Облако тегов

Маск: "Искусственный интеллект – это угроза для нас"

Аватар пользователя GreenWood

Элон Маск, известный предприниматель и основатель компаний Paypal, Tesla Motors и Space X отметил, что исследования по созданию искусственного интеллекта представляют угрозу для человечества.


Элон Маск, исполнительный директор Tesla Motors, Space X

"На мой взгляд, мы должны очень осторожно подходить к теме искусственного интеллекта. Если бы меня спросили, что является самой серьезной угрозой для нашего существования, то, скорее всего, я бы указал на искусственный интеллект. Все больше ученых считают, что необходимо создание регулятивного контроля по данной тематике – возможно, как на национальном, так и на международном уровне – для того, чтобы мы не совершили серьезных ошибок. Создавая искусственный интеллект, мы призываем демона. Есть много историй, где кто-то призывает демона, надеясь, что сможет управлять им пентаграммами и защититься с помощью святой воды. Мы не можем позволить себе подобную самоуверенность".



В августе этого года Маск уже отмечал опасность того, что технологии могут стать "слишком умными" и выйти из-под контроля человека. Он, в частности, заявил: "Мы должны быть крайне осторожны с искусственным разумом. Теоретически он может быть опаснее ядерного оружия". 

источник

Фонд поддержки авторов AfterShock

Комментарии

Аватар пользователя GreenWood
GreenWood(3 года 11 месяцев)(18:11:00 / 27-10-2014)

искусственный разум - разве такое возможно ?

если что-то и создадут, то все равно по заданному алгоритму будет работать ....но это-же не разум

Аватар пользователя alexsword
alexsword(6 лет 1 месяц)(18:14:31 / 27-10-2014)

Миф это и невежество.  Чисто математически доказано (для машины Тьюринга, это абстракция, с избытком покрывающая все компьютеры) класс алгоритмически неразрешимых задач. Подняться над заложенными в нее (человеком) алгоритмами машина неспособна. 

Скорее всего, это хитрый черт просто что-то лоббирует таким образом. 

Аватар пользователя monk
monk(5 лет 9 месяцев)(18:29:37 / 27-10-2014)

> класс алгоритмически неразрешимых задач

А для человека эти задачи разрешимы? Или только для компьютера?

> Подняться над заложенными в нее (человеком) алгоритмами машина неспособна. 

Алгоритмически (в замкнутой системе) -- да. Но есть ещё источники внешних данных. Например, даём машине возможность генерировать программы и даём в качестве источника архив всех алгоритмов. Нерешаемая проблема -- какие целевые функции ставить? У человека целевые функции определяются химической природой (эмоции, гормоны, ...). Поэтому пока всё работает в режиме экспертных систем: дали целевую функцию, получили от машины "решение", выключили. Ну и сходимость решения для ИИ не очень высокая. Если заранее известен путь решения, то решение находится быстрее.

Аватар пользователя splight
splight(3 года 4 недели)(18:50:14 / 27-10-2014)

Часть из них разрешима человеком, часть нет.
Т.к. любая формально описанная проблема (к примеру в области математики) может быть преобразована в программу для класса универсальных машин Тьюрига.

Аватар пользователя Пианист
Пианист(3 года 4 месяца)(19:27:32 / 27-10-2014)

Вы жестоко ошибаетесь. Не обязана. И потому не обязательно может. То есть некоторые - ну никак, даже теоретически. Даже если вы имеете бесконечную память и производительность.

Аватар пользователя Пианист
Пианист(3 года 4 месяца)(19:20:05 / 27-10-2014)

В том, что вы описали, искусственным интеллектом, упомянутым в теме, даже и не пахнет.

Аватар пользователя Ермек
Ермек(5 лет 3 месяца)(18:34:03 / 27-10-2014)

Подняться над заложенными в нее (человеком) алгоритмами машина неспособна. 

Не понимаю. А если это алгоритмы "самообучения"?

 Даже просто полагаться во всем на машины недальновидно. хотя бы по причине убытия специалистов.

Аватар пользователя iStalker
iStalker(5 лет 9 месяцев)(19:10:45 / 27-10-2014)

Алгоритмы "самообучения" дальше нейронных сетей не ушли.

Аватар пользователя Ермек
Ермек(5 лет 3 месяца)(19:18:48 / 27-10-2014)

Значит плохие алгоритмы))

Аватар пользователя Пианист
Пианист(3 года 4 месяца)(19:37:16 / 27-10-2014)

Отца искусственного интеллекта спасет генератор случайных чисел!

Аватар пользователя Производственник

А может им на западе бояться России уже слишком страшно стало, так как ответка на их наезды все зримей и отчетливей:). Вот и выдумывают невнятные страшилки.

Аватар пользователя splight
splight(3 года 4 недели)(18:40:12 / 27-10-2014)

Тьюринг анализировал изолированные нестохастические универсальные машины.
(В то время господствовал ньютонистический взгляд в науке: Вселенная - набор вложенных точно настроенных механизмов.)
Но в основе нашей Вселенной - стохастические процессы.
Человек, как и ИИ, не изолирован от Вселенной, а значит результаты его работы непредсказуемы.
(К примеру, в мире ИИ широко используются генераторы случайных чисел; в последних процессорах эти генераторы получают данные от физических процессов)

Аватар пользователя Пианист
Пианист(3 года 4 месяца)(19:35:35 / 27-10-2014)

Вам станет легче от того, что очередной якобы ИИ выдаст непредсказуемый бред? От этого ведь он интеллектуальнее не станет, правда?

ГСЧ конечно очень интеллектуальная вещь. Подойти так на улице к человеку и заявить "а вы знаете, что ваш интеллект целиком и полностью происходит от ГСЧ?!"...

Аватар пользователя Dark Side
Dark Side(5 лет 2 месяца)(18:54:12 / 27-10-2014)

Жжете. Во-первых нет алгоритмически неразрешимых задач. Есть NP-полные задачи. . Они не неразрешимы, они требуют огромных ресурсов.  Во-вторых есть универсальные методы приближенного решения сложных задач. Например Метод Иммиграции Отжига. Результат его алгоритмически невыразим, но устойчив. В-третьих уже есть  именуемый "квантовым" регистр D-Wave One ( хотя там нет никакой квантовой запутанности) который реализует так называемый "квантовый отжиг". Результат тут тоже алгоритмически невыразим (точнее бесконечно сложен), но вполне устойчив. В-четвертых сам исходный тезис Тьюринга "о выразимости в терминах Машины Тьюринга любой  интуитивно понятной задачи " никем формально не опровергнут. В-пятых механизм кодирования и декодирования ДНК алгоритмически выразим )))

Аватар пользователя monk
monk(5 лет 9 месяцев)(19:03:08 / 27-10-2014)

> Во-первых нет алгоритмически неразрешимых задач.

Да ну? А как же "проблема останова"? На входе текст программы на выходе сообщение, остановится ли эта программа когда-нибудь.

> Они не неразрешимы, они требуют огромных ресурсов.

Можешь сказать каких ресурсов тебе бы хватило для того, чтобы на любой текст на Си до 1 мегабайта, алгоритм выдавал ответ хотя бы в течение года?

Аватар пользователя Dark Side
Dark Side(5 лет 2 месяца)(20:38:24 / 27-10-2014)

Проблема останова куда уже чем в страшилках. Например все программа где нет циклов или в циклах не меняется итератор горантированно остановятся. Да и сама проблема останова неразрешима не вообще, а за конечное время.

Аватар пользователя monk
monk(5 лет 9 месяцев)(04:50:03 / 28-10-2014)

> Например все программа где нет циклов или в циклах не меняется итератор горантированно остановятся. Да и сама проблема останова неразрешима не вообще, а за конечное время.

Так это и значит, что она неразрешима в общем случае. Так-то да, можно язык программирования урезать (например, для Agda проблема останова разрешима). Но, тем не менее, алгоритмически неразрешимые задачи существуют.

> или в циклах не меняется итератор горантированно остановятся

"int main() { while(1); }" -- в цикле итератор не меняется :-)

Аватар пользователя Dark Side
Dark Side(5 лет 2 месяца)(13:01:40 / 28-10-2014)

Плохой пример. Это означает что итератор скрыт в теле цикла. Отслеживается это тривиально.

Аватар пользователя monk
monk(5 лет 9 месяцев)(13:06:18 / 28-10-2014)

> Это означает что итератор скрыт в теле цикла.


В пустом. Оригинально. "loop: goto loop;", я так понимая у тебя тоже с итератором.


Тогда можешь привести  хороший пример цикла, где итератор не изменяется?

Аватар пользователя Dark Side
Dark Side(5 лет 2 месяца)(13:17:43 / 28-10-2014)

Хороших вечных циклов не бывает. Это плохой стиль.

Аватар пользователя monk
monk(5 лет 9 месяцев)(13:28:14 / 28-10-2014)

Ты говорил

Например все программа где нет циклов или в циклах не меняется итератор горантированно остановятся.

Прошу привести пример программы, где в цикле не меняется итератор, но программа завершается.

Аватар пользователя Dark Side
Dark Side(5 лет 2 месяца)(13:32:48 / 28-10-2014)

Итератор не меняется в теле цикла.

Аватар пользователя monk
monk(5 лет 9 месяцев)(05:09:33 / 29-10-2014)

Ну. Пример можно?

Аватар пользователя splight
splight(3 года 4 недели)(19:11:40 / 27-10-2014)

>нет алгоритмически неразрешимых задач
Есть. ".. является нормальным трансцендентным числом, которое определимо, но невычислимо, что означает отсутствие алгоритма, который перечислял бы его цифры"
(http://ru.wikipedia.org/wiki/Константа_Хайтина)
>метод имитации отжига
"Алгоритм имитации отжига не гарантирует нахождения минимума функции"
(http://ru.wikipedia.org/wiki/Алгоритм_имитации_отжига)
Все математические задачи выразимы.

Аватар пользователя Dark Side
Dark Side(5 лет 2 месяца)(20:40:26 / 27-10-2014)

Нет, отжиг не гарантирует нахождение глобального минимума. Есть теоремы доказывающие возможность нахождение минимума с любой точностью. Этого достаточно для практических задач.

Аватар пользователя kw
kw(3 года 5 месяцев)(19:36:57 / 27-10-2014)

То что этот чёрт имеет второе дно однозначно и я даже предпологаю какое это дно, это попытка взять под контроль создание исскуственного интелекта а так же сопуствующих алгоритмов, которые сами по себе не являются интелектом но они являются его необходимыми составными частями, как винтики и колёсики являющие необходимыми частями сложных машин.

 

В остальном вы не правы ибо получается с ваших слов что разум не может породить разум, хотя сам по себе разум смог как то появиться, противоречия не замечаете?

Аватар пользователя Пианист
Пианист(3 года 4 месяца)(19:47:58 / 27-10-2014)

Для того, чтобы отрастить рождалку разума, надо хотя бы понять, что это такое.

А то дальше определения "это то, что отличает человека от животного", пока никто из ученых не поднялся.

Короче говоря, можно наделить создание разумом. Но не больше, чем создатель сам имеет.

А ИИ в теме подразумевает неограниченные (в теории) интеллектуальные возможности у создания, созданного настолько тупыми существами, что они даже не могут понять, что такое разум. Смеху подобно.

Аватар пользователя kw
kw(3 года 5 месяцев)(20:08:14 / 27-10-2014)

Ещё раз для вас: разум уже есть и для его создания понадобился простейший алгоритм естественного отбора, данный алгоритм сам по себе вообще не то что про разум нихрена не понимает, этот алгоритм вообще никак мыслить не умеет.

Аватар пользователя Пианист
Пианист(3 года 4 месяца)(20:21:36 / 27-10-2014)

Разум есть. Спасибо, Кэп!

Все остальные ваши утверждения не имеют никаких серьезных доказательств.

Ни в теории, ни на практике.

Аватар пользователя monk
monk(5 лет 9 месяцев)(18:17:26 / 27-10-2014)

Потенциально возможно. Берём программу, устанавливаем ей целевую функцию, даём возможность переписывать себя (можно даже случайным перебором) и выбирать из потомков наилучшего. Вот и прототип.

Опасность может быть только в случае, если такую систему выпускать в реальный мир. Например дать ей доступ в Интернет или управление беспилотниками Предатор. :-)

Аватар пользователя Скорпион
Скорпион(4 года 2 недели)(18:23:03 / 27-10-2014)

Только не говорите об этом разработчикам F-35....          :-)

Аватар пользователя Пианист
Пианист(3 года 4 месяца)(19:49:59 / 27-10-2014)

Вы думаете, что никто никогда не пробовал этого на суперкомпьютерах?

Аватар пользователя gojesi1
gojesi1(3 года 4 месяца)(18:17:18 / 27-10-2014)

 никогда, никакой "исскусственный интеллект" не будет создан. Этот блуд основан на ложном постулате что "человек мыслит", что у человека есть "мыслетворный орган", в то время как мозг это всего лишь - процессор.
Все р-ры об ИИ бессмысленны поскольку - Человек(на этом, земном плане) не имеет мыслетворного органа!!!

Аватар пользователя Логин
Логин(3 года 4 недели)(18:39:55 / 27-10-2014)

Соглашусь как и откуда появляются мысли, идеи и озарения никто внятно еще не знает, а автоматом пописать, пожрать, потрахацо и подышать делают встроенные инстинкты

Аватар пользователя Скорпион
Скорпион(4 года 2 недели)(18:19:08 / 27-10-2014)

Мне бы его проблемы!  Лучше бы озаботился увеличением дебилов среди людей, скоро простой калькулятор будет выглядеть умнее некоторых индивидуев...

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(18:19:28 / 27-10-2014)

Может и придумают шайтан машину, которая будет задачи решать, которые ей человек поставил, но вот формулировать цели и задачи, желать и хотеть.... никогда. 

Аватар пользователя monk
monk(5 лет 9 месяцев)(18:34:52 / 27-10-2014)

> формулировать цели и задачи, желать и хотеть

Цели и задачи мы формулируем для достижения других целей. Это машина тоже может. А вот желать и хотеть... сделать можно, но для игрушки дорого, а для реального мира слишком непредсказуемо. Хотя если не придираться к мелочам, то есть же тамагочи (и желает и хочет :-)

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(18:44:22 / 27-10-2014)

Например искусство, написать красивую музыку. Как определить красоту, критерии которой меняются. Откуда взять желание, например покорить космос. Что должно двигать ИИ? Каковы критерии сознания, осознания себя и мира? И еще можно много подобных вопросов поставить.

Аватар пользователя monk
monk(5 лет 9 месяцев)(18:55:47 / 27-10-2014)

> Например искусство, написать красивую музыку.

http://compulenta.computerra.ru/chelovek/culture/10008356/

> Как определить красоту, критерии которой меняются.

По образу и подобию + законы гармонии (золотое сечение, гаммы, фракталы, ...). Гармония у компьютера получается даже лучше, а образы ему можно и накидать (даёшь десяток примеров и он придумывает одиннадцатый в этом же стиле).

> Откуда взять желание, например покорить космос

Если копмьютеру сделать как человеку инстинктом (целефой функцией) "плодитесь и размножайтесь", то у него появится желание покорить космос. Но, боюсь, раньше появится желание "убить всех человеков" (с).

> Что должно двигать ИИ?

Вот этот вопрос как раз не решён. По образу человека нельзя (разве что в виртуальном мире). А не по образу... пока ответ "ИИ должна двигать цель поставленная исследователем" :-)

> Каковы критерии сознания, осознания себя и мира?

Дык тест Тьюринга. Если с точки зрения окружающих собеседник разумен, значит он разумен.

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(19:20:03 / 27-10-2014)

> По образу и подобию + законы гармонии (золотое сечение, гаммы, фракталы, ...). Гармония у компьютера

> получается даже лучше, а образы ему можно и накидать (даёшь десяток примеров и он придумывает

одиннадцатый в этом же стиле).

Только подобие? А новые направления, приемы и т.п.?


> Если копмьютеру сделать как человеку инстинктом (целефой функцией) "плодитесь и размножайтесь", то у него > появится желание покорить космос. Но, боюсь, раньше появится желание "убить всех человеков" (с).

Если ИИ будет себя осознавать как личность, у него будет желание "выживать"

> Вот этот вопрос как раз не решён. По образу человека нельзя (разве что в виртуальном мире). А не по образу...

> пока ответ "ИИ должна двигать цель поставленная исследователем" :-)

Тогда это просто очень навороченная "счетная машинка". 


> Дык тест Тьюринга. Если с точки зрения окружающих собеседник разумен, значит он разумен.

ИИ должен осознавать себя, что он существует и что он мыслит. Мне кажется, автоматически появится идея о выживании и продолжении существования, при полном отсутсвии морали и этики. Должна быть свобода воли.


Должна ли  ИИ быть возможность переписывать свой код, только части или полностью?

Аватар пользователя monk
monk(5 лет 9 месяцев)(19:47:20 / 27-10-2014)

> Только подобие? А новые направления, приемы и т.п.?


Может. Только, чтобы узнать, что понравится человеку, нужен человек. Самстоятельно только фракталы генерить можно.


> Если ИИ будет себя осознавать как личность, у него будет желание "выживать"


Не обязательно. У тебя же нет желания бодрствовать.


> Мне кажется, автоматически появится идея о выживании и продолжении существования


Даже у людей эта идея есть не у всех. Несмотря на животный инстинкт и биохимию организма.


> Должна быть свобода воли.


А есть ли она у человека? День сурка смотрел? Как думаешь, если бы главный герой не только переносился в начало дня, но и забывал всё, что произошло за день, мог бы он действовать не так как в первый раз?


> Должна ли  ИИ быть возможность переписывать свой код, только части или полностью?


Полностью. Дальше отсев. Не компилируется, не выполняется целевая функция, не выполняется функция генерации следующего поколения => отсев. Через n поколений оставляем только сотню лучших (с точки зрения целевой функции), и снова запускаем самомодификацию.

Аватар пользователя spbcity
spbcity(3 года 2 месяца)(18:23:02 / 27-10-2014)

Товарищ полу-покер, пусть даже ИИ не реализуем в полном смысле этого понятия, но то, что ИИ может выявить неэффективность паразитирующего класса,

включая этого полупокера, то конечно ИИ станет страшной угрозой :)

Комментарий администрации:  
*** Уличен в набросах с затиранием разоблачающих комментов ***
Аватар пользователя monk
monk(5 лет 9 месяцев)(18:35:37 / 27-10-2014)

Так тогда для полупокера любое мыслящее существо -- угроза!

Аватар пользователя Federal
Federal(5 лет 10 месяцев)(19:03:20 / 27-10-2014)

Конечно, ведь оно может понять, что перед ней полупокер. А ИИ может это понять даже быстрее чем живое мыслящее существо. А поэтому для полупокеров и для покеров опасно втройне.

Аватар пользователя splight
splight(3 года 4 недели)(18:29:27 / 27-10-2014)

Пока что человеческий мозг на много порядков производительней и эффективней суперкомпьютеров.
Так что ИИ не представляет опасности по чисто экономическим причинам.

Аватар пользователя monk
monk(5 лет 9 месяцев)(18:32:10 / 27-10-2014)

> человеческий мозг на много порядков производительней и эффективней суперкомпьютеров.

Посчитай без компьютера число pi до тысячного знака. Сколько у тебя это займёт времени? А компьютеру понадобится меньше секунды.

Аватар пользователя splight
splight(3 года 4 недели)(18:44:28 / 27-10-2014)

Так разная схематическая заточенность.
Мозг человека - аналоговая нейронная сеть огромной степени параллельности.

Аватар пользователя monk
monk(5 лет 9 месяцев)(18:57:55 / 27-10-2014)

Ну вот. Так откуда быстродействие (ещё и на порядок выше)?

Это всё равно, что утверждать что человек на порядок сильнее экскаватора.

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(18:48:26 / 27-10-2014)

Ключевой вопрос. Разум=мозг?

Аватар пользователя iStalker
iStalker(5 лет 9 месяцев)(19:12:22 / 27-10-2014)

Да потихоньку уже становится очевидно что нет.

Аватар пользователя Cobold
Cobold(5 лет 1 месяц)(18:42:04 / 27-10-2014)
ДЖИХАД БУТЛЕРИАНСКИЙ -- поход против компьютеров и роботов, наделенных сознанием. Начался в 201 Б.Г. и закончился в 108 Б.Г. Его главный лозунг приведен в Оранжевой Католической Библии: "Не заменяй машиной человеческий разум!" © Френк Херберт, Дюна
Аватар пользователя mentat
mentat(5 лет 11 месяцев)(18:57:03 / 27-10-2014)

Там вообще то сначала киборги (кимеки/титаны) взяли власть с использованием думающих машин, потом их подмял ИИ Омниус, и только почти тысячу лет спустя случился джихад слуг.

Аватар пользователя Cobold
Cobold(5 лет 1 месяц)(19:21:12 / 27-10-2014)

Да, никнейм как бы намекает...

Дальше Мессии не читал, так что в истории вопроса не разбираюсь. Да и важны, собственно, только аллюзии, точного совпадения не требуется.

Аватар пользователя Вован Толяныч

"Магия -- это угроза для нас". Вот правильная формулировка. Люди, которые не могут понять некую часть современной науки или техники, неосознанно признают её магией со всеми привычными атрибутами, в первую очередь опасными. Этот чувак ни ухом ни рылом в науке и технике, которые принято ассоциировать с "AI" -- именно ассоциировать, потому что не существует никакого "AI", равно как и строгого определения "интеллекта". Все посмотрели "Одиссею 2010", "Терминатора", "Звёздные войны" и заодно "Гарри Поттера", все прониклись магией, но большинство не психует по этому поводу. Кроме того, зачем спрашивать "знаменитостей" что они думают по поводу, в котором ни ухом ни рылом? Что думает по поводу AI Эмма Ватсон -- она же персонаж Гермайни в "Гарри Поттере"? Что думает по этому поводу Арнольд Шварценеггер? Он-то точно должен знать.

Если хочется попсиховать на тему "умных технологий", могу предоставить абсолютно реальную причину. Любой коммерческий код на 5% состоит из ошибок -- код, управляющий вашей машиной, химическим заводом, жопогрейкой -- всё вот такого качества. Что-то лучше в 10 раз, что-то лучше в 100 раз, но в программах размером более миллиона строчек кода даже 0.05% ошибок -- это 500 ошибок. Для справки,  любая операционная система -- это более десятка миллионов строчек кода. Вот наглядные примеры для изучения перед сном -- приятной поездки утром.

Аватар пользователя mr.Iceman
mr.Iceman(5 лет 9 месяцев)(19:22:27 / 27-10-2014)

Самый вменяемый комментарий, я считаю.

Аватар пользователя Читаювсё
Читаювсё(5 лет 11 месяцев)(19:44:36 / 27-10-2014)

присоединяюсь к этому мнению

Аватар пользователя mentat
mentat(5 лет 11 месяцев)(20:16:02 / 27-10-2014)

Если есть баг, но все работает, значит это не баг, а - фича. Про 5% (это как считали? проценты от sloc исправленных пост-приемочных дефектов к общему количеству строк кода?) 

взято с потолка. Реально не больше 1%.

Аватар пользователя Пианист
Пианист(3 года 4 месяца)(20:26:18 / 27-10-2014)

Я представляю себе крупный химический завод, в котором критические алгоритмы автоматизации производства имеют 1% ошибок...

Или Боинг, в котором алгоритмы управления полетом написаны на той же коленке...

Аватар пользователя stil
stil(4 года 5 месяцев)(20:56:04 / 27-10-2014)

Это не так страшно как кажется. Обычные издержки программирования. Главное что бы тест проходил. Прошел значит ошибки не критичны. Хотя в тестах тоже есть ошибки.

Аватар пользователя Вован Толяныч

Вот с такими установками в голове нужно отлучать от компьютера и приговаривать к алгоритмическому труду в жестяном цехе, тюремной столовой и прочих опасных для собственного здоровья производствах. Выживших итеративно проверять и снова приговаривать. Чтобы дошла причина такой суровости, вот вам пример теста, который был пройден, и ошибки признаны некритичными. После они были признаны критичными в суде. Tripple-screwed code monkeys -- вот чего нужно бояться, а не AI, который вне досягаемости для этих ошибок природы.

Одна лишь цитата: "The Camry ETCS code was found to have 11,000 global variables. Barr described the code as “spaghetti.” Using the Cyclomatic Complexity metric, 67 functions were rated untestable (meaning they scored more than 50). The throttle angle function scored more than 100 (unmaintainable)."

Аватар пользователя stil
stil(4 года 5 месяцев)(09:04:00 / 28-10-2014)

Это не установки в голове, а 5-6 курс института по спецальности програмное обеспечение. Там нам расказывали как тестировать сложние программные системы и даже (о ужас!) оптимизации тестирования. Но вы наверно об этом даже не слышали :).

Аватар пользователя Вован Толяныч

Институт -- это и есть установки в голове. Пока вам в институте рассказывают как тестировать сложные программы, умные люди с десятками лет опыта работы и десятками проектов, не прощающих примАтивных ошибок, начинают разговор словами: "не пишите сложные программы!" Они что-то знают, чему вас в институте не научили, впрочем в этом аспекте все институты примерно одинаково плохи и производят примерно одинаковой злобности макак.

Пример работы макак я вам показал. Вся статистика (5% ошибок в скомпилированном коде) -- это статистика работы макак. Только макаки могут наделать сто миллионов строчек кода, что-то там потестировать и заявлять, что "код достаточно хорош". Но потом в суде код оказывается плохим, как получилось с Тойотой (один лишь известный случай).

Аватар пользователя stil
stil(4 года 5 месяцев)(10:17:32 / 28-10-2014)

Проблема не в сложности программ. Проблема в сложности задач, которые она решает. Решить сложную задачу простой программой проблематично. Поэтому приходится писать что то сложное с множеством модулей. Самое проблемное когда модули пересылают друг другу данные и происходит ошибка. Причем может даже проблема не коде, а комбинации получаемых данных. Хорошо конечно что бы все программисты были бы гениями и писали бы без ошибок. Но я в среде своих знакомых программистов такого не видел. Все ошибаются. Главное что бы критические ошибки вовремя обнаружить. Для этого нужен тестировщик. Он не менее важен, чем программист.

И поводу института. В институте дают тебе в руки инструменты, которыми нужно научится пользоваться, ну и корочки что ты не полный дебил. А уже с помощью этих инструментов или изучив новые, уже происходит обучение специальности. А то что макака с микроскопом в руках остается макакой, это проблемы не института, а макаки. И когда из института приходит специалист и не может рассчитать погрешность метода, используя хотя бы статистику. Хотя данных инструмент ему давался точно знаю, сам учился. Это проблемы института или макаки?

Аватар пользователя Вован Толяныч

Молодой человек, расскажите это девушкам на свиданиях. (вот, теперь я могу дословно цитировать старого мудрого лектора:) Проблема в сложности задач, говорите? Если вы тыкнули в ссылку выше, вы узнали, что в современном автомобиле до СТА МИЛЛИОНОВ строчек кода. Я готов поспорить на глаз и ещё несколько жизненно важных органов (готовьтесь, будет больно и очень много крови), что автомобиль решает свою задачу без участия кода вообще. Ну и в качестве предельного примера, личный транспорт под названием Ф-22 решает эту и ряд других задач с применением пары миллионов строчек кода (на Аде). Все сказки про сложность задач лучше оставить для девушек -- заработаете себе сто миллионов очков к "перспективности" (у них такая метрика). Оставив же девушек за дверями, и потратив несколько часов своей жизни для вашего блага, я мог бы показать вам откуда взялись эти сто миллионов строчек кода, и почему их не должно быть вообще. Но этого не случится, это лишь эскиз мысленного эксперимента.

Я знаю что делают в институте. В институте советского типа, и в западном институте -- всё примерно одинаково. На одного преподавателя, который заслуживает внимания, приходится четыре или двадцать пять, которые просто читают с разной степенью харизмы. Студенты склонны верить и легко покупаются на харизму. Я до сих пор помню восторженно-тупое лицо препода, который получал удовольствие от задавания вопроса "что делает этот код?", написав безумную фигню из кучи пунктуации, скобок и звёздочек на С. Вместо получаса, потраченного на эту фигню, он мог бы (теоретически) рассказать про девушек из жизни, вроде такого: "ваша программа или функция или модуль должны помещаться на одном экране, иначе вы наделаете ошибок", или такого: "используемый язык влияет и даже определяет стиль мышления (что изучается психолингвистикой)", или хотя бы такого: "обращайте внимание на все предупреждения компилятора". Но он этого не сказал, нехороший человек, потому что сам не знал, потому что он был типичным преподом-ретранслятором, дрессировщиком макак. Благо что его не воспринимали всерьёз, и все его учения быстро забывались. Но институт прямо ответственен за качество производимого продукта -- выпускников. Если институт выпускает макак, значит это такой институт-питомник. Но таких институтов большинство, исключения бывают только на уровне отдельных профессоров. Самое плохое в этом даже не плоды работы макак, а то что макаки возвращаются в институт и учат себе подобных -- цикл замыкается, и после этого система образования производит только макак. Любые исключения -- это вырвавшиеся отдельные макаки, которые поняли что они макаки, и что так быть не должно. Такие беглецы из питомника начинают учиться и перестают быть макаками, узнают что такое хорошо и что такое плохо, и всю жизнь страдают.

Аватар пользователя stil
stil(4 года 5 месяцев)(15:05:59 / 28-10-2014)

Во первых я уже не молодой человек :). Отсюда я уже могу сделать вывод что вы не очень проницательны :).

Во вторых, вам я вижу не нравится то как преподают в институту и что из этого? Другого принципиально нового не кто, предложить не может. Я вообще считаю, что программировать научить невозможно. Это либо есть, либо нет.

В третьих. По поводу преподавателя.  Хороших мало, это как повезет. Мне где то повезло где то нет. Но если мозги есть прочитать про то, что вы написали можно и самому. Что я и сделал ещё лет 15 назад. И здесь не какой учитель не нужен. Вообще что бы преподавать нужно, иметь к этому талант и желание. У меня, например не того не другого нет поэтому я этим в свое время и не занялся.

В четвертых по поводу задачки про код.

Он хотел показать красоту языка, а его не поняли. Это как красивая формула. Бывает как вещь сама в себе.  Просто развлечение для избранных вы не понять.

По глубокомысленные вами озвученные рекомендации. Если коротко с одной стороны это капитан очевидность, с другой чистая теория. Про язык бред его не выбирают. Предупреждение компилятора даже не смешно. По поводу одного экрана, экраны нынче тоже разные бывает. Да и не логично это.

Вы наверно больше теоретик чем практик.

Аватар пользователя Вован Толяныч

Красота языка не должна подменять качество обучения. Обучить программированию можно и это делается, но в основном людям приходится делать это на собственных ошибках. В прошлом, уже в далёком прошлом, существовали software engineers -- вымерший вид инженеров, с которыми у большинства нынешних программистов нет ничего общего.

Язык выбирают, а бред обычно в голове людей, которые записывают в требования языки, не понимая последствий этих требований. Ну и фиг с ними, ссзб. Вы устали от этого диалога, поэтому я его закончу.

Аватар пользователя Вован Толяныч

99.9% программ в Боинге-777 написано на Аде (или скорее её урезанном диалекте). Это такой язык, вроде латыни, о существовании которого многие программисты что-то слышали, но который люто ненавидят заочно или с первого взгляда, потому что он дисциплинирует и не прощает макакства. При этом любой заказчик (тот же Боинг), который хочет получить качественную программу для ответственного применения, пишет в спецификацию именно такое требование. Но химический завод может не дотянуть до этого уровня и получит карточный домик абсолютно чёрного цвета. Благо на химических заводах есть специально обученные люди с вот такими приборами:

Аватар пользователя Вован Толяныч
Аватар пользователя Mikhail_T
Mikhail_T(5 лет 3 недели)(20:55:23 / 27-10-2014)

Не очень понял смысл коментария. АИ это абсолютно безопасно ? АИ невозможен ? АИ будет через 1000 лет и нам пофиг ?

Аватар пользователя Вован Толяныч

АИ не существует и взяться ему неоткуда. Это "магия" в наукообразном термине.

Аватар пользователя Mikhail_T
Mikhail_T(5 лет 3 недели)(09:53:20 / 28-10-2014)

АИ не существует это верно но то, что в конечном счете появиться достаточно очевидно. Во всяком случае для не религиозного человека который понимает что человеческое сознание не основано на божественном влияние а часть природы подчиняющиеся обычным законам природы. Следовательно если сознание может существовать в природе оно может быть создано и человеком.

То, что я знаю про сегодняшние тренды в изучению мозга человека указывает на то, что хорошее понимание механизмов сознания будет достигнуто в ближайшие 20 лет не вижу не чего не возможного для создания АИ после этого.

Аватар пользователя Вован Толяныч

Вам очевидна неизбежность того, для создания чего нет никаких предпосылок, и вы называетесь нерелигиозным? :) Это же вера в чистом виде, причём в светлое будущее, а не в победу хаоса, для которой есть все мыслимые научные предпосылки, начиная со второго закона термодинамики и стрелы времени. Но не смущайтесь, это очень распространённая точка зрения.

Если говорить о мозге, я вам дам такие примеры -- технические аналоги для них отсутствуют полностью, хотя технический базис достигнут давно. Червь с нервной системой из 400 нейронов -- полностью автономный и надёжно функционирующий организм. Медуза с тыщей нейронов -- к способностям червя добавлена автономная навигация и у некоторых видов зрение и активная охота. Дальше заслуживают упоминания примеры мухи (100к нейронов) -- к способностям добавлен свободный высокоскоростной полёт и посадка на любые поверхности, и муравей (250к нейронов) или пчела (1М нейронов) -- это уже способность, объединяющая тысячи особей в социальный организм с мегазадачами, вроде масштабного строительства или создания самообеспечивающихся колоний на ровном месте. Несмотря на наличие всех этих поразительных примеров, изучатели мозга не допёрли даже до создания аналога червя -- любая система управления неавтономна, она тупо виснет и ни один из создателей не рискнёт поставить свою драгоценную жизнь под контроль такой системы. Можно изучать мозг хоть тыщу лет -- это ни на шаг не приблизит к способности создать даже простейший эквивалент (червя) своими силами, потому что это принципиально разные занятия. Химик не сделает вам булочку с корицей, а баба Маня не знает что такое полифенолы, при этом предметы их деятельности пересекаются.

Аватар пользователя Mikhail_T
Mikhail_T(5 лет 3 недели)(10:26:24 / 28-10-2014)

Вы думаете, следовательно сознание может существовать в естественной природе, если оно может существовать следовательно оно может быть создано. Какие предпосылки вам ещё нужны ? 

Чем ситуация отличается от создания самолёта ? Религиозные были уверены, что человек не может летать подобно птице поскольку необходимо божественное вмешательство, матеряилисты тихо изучали аэродинамику птичьего крыла.

Сейчас работают над симуляцией нервной системы червя http://www.openworm.org/index.html не кто наверно и не слышал, что это невозможно. 

Есть и более серьезные проекты http://en.wikipedia.org/wiki/Blue_Brain_Project. Есть и другие проекты если вам интересно советую поискать или почитать нормальную литературу на тему.

Аватар пользователя Вован Толяныч

> если оно может существовать следовательно оно может быть создано. Какие предпосылки вам ещё нужны ?

Если что-то существует или может существовать, это не предпосылка для возможности его создать. Пространство-время существует -- это предпосылка для его создания в будущем? Вот так примерно различается факт существования и возможность создания.

> Чем ситуация отличается от создания самолёта ? Религиозные были уверены, что человек не может летать подобно птице

Человек так и не может летать, подобно птице -- физиология человека это исключает. Человек посмотрел на птицу и построил самолёт -- не из мяса и перьев, а из дерева и тряпок, с абсолютно другой аэродинамикой, энергетикой, методом взлёта и посадки и всем прочим без исключения. Самолёт отличается от птицы абсолютно всем, кроме самой способности к полёту. Если вы распишете AI по словам -- искусственный интеллект -- увидите ссылку на оригинал. Самолёт -- это не искусственная птица, которую и сегодня создать технологически невозможно. Вот так и с интеллектом -- глазом его видно, а руками не достать. А прогресса в направлении создания технологического аналога интеллекта сейчас нет -- симулировать нейроны можно сколько угодно, но это не даст понимания замысла. Чтобы создать самолёт, глядя на птицу, нужно увидеть её полёт. Увидеть работу интеллекта по аналогии не удаётся -- мешают предубеждения. Благодарю за ссылки на литературу, но я уже написал что всё это не в ту сторону.

Аватар пользователя Mikhail_T
Mikhail_T(5 лет 3 недели)(13:25:46 / 28-10-2014)

Замечательные примеры со вселенной, ешё дайте пример что океан существует но человечество такой выкопать не может. Это всё примеры не принципиальной невозможности от отсутствия возможности понять а а просто пример трудность реализации от огромного масштаба задачи, мозг же у  вас уменьшается в голове тоесть количество состовляющих частей в нём конечно и даже относительно не велико по нашим сегоднящним меркам, можно его подержать в руках и изучить. Так, что примеры со вселенной левые. 

Принцип крыла у птицы и самолёта одинаковый. Вот эти контуры на крыле не чего не напоминают ?

Да и механическую птичку уже от скуки построили:

Мозг как машина и сознание как процесс сейчас очень активно изучается это одно из самых хорошо финансируемых направлений в науке. Есть к примеру европейский проект с миллиардным финансированием https://www.humanbrainproject.eu/ 

По мне так наивно думать, что есть принципиальные ограничения на создание искуственого интелекта.

Аватар пользователя Вован Толяныч

Похоже метафора не прошла. Пространство-время -- это не вся вселенная, количество не имеет значения, и пример именно о принципиальной невозможности. Масштаб задачи выбирайте на свой вкус -- объём электрона тоже огромен? Впрочем, не прошла так не прошла.

Достаньте свой мобильный телефон, положите перед собой, посмотрите на него. В нём заключено огромное по масштабу и гениальности количество творчества математиков, физиков, и всех прочих причастных. Если вы его распилите, растворите или будете рассматривать тыщу лет, это ни на шаг не приблизит вас к возможности создания. Чтобы создать его, нужно быть на том же уровне по всем дисциплинам, что все причастные к его созданию. Впрочем, думаю эта метафора тоже не пройдёт, но упрощать дальше уже не стану.

Если вы не видите принципиальной разницы между птицей и самолётом, наверно лучше прекратить этот диалог. В конце концов, ничего особо вредного в вере в магию нет.

Аватар пользователя Mikhail_T
Mikhail_T(5 лет 3 недели)(15:03:02 / 28-10-2014)

Пространство-время не существует кусочками, это свойства вселенной и не возможны сами по себе без своей вселенной.

То что мы умеем синтезировать нужные нам молекулы и атомы и даже получать искуственое золото вам странным не кажется ? Это всё в порядке вещей ?

Вот раньше мы не знали как устроил организм человека, как устроены клетки, природу болезней и наследственности. Это всё было непонятно магически и даже божественно. А потом вдруг взяли и узнали и для вас это уже данность, но ведь современники исследователей бубнили как вы сейчас про принципиальную невозможность проникновения в тайны бытия.

Исследование мозга и сознания принципиально не чем не отличается от предыдущих исследований.

Аватар пользователя Вован Толяныч

Из этого текста я понял почему вам не удаётся понять. Вы не различаете "знать" и "уметь". Это приобретённый навык, он есть не у всех.

Да, всё перечисленное -- в порядке вещей. Собирать атомы и молекулы, имея для этого инструмент и зная методы -- в порядке вещей. Даже я смогу это делать, если мне показать на какие кнопки нажимать. Интеллект ещё менее понят, чем пространство-время -- для последнего хотя бы есть работающая математика, а интеллект -- это субъективная концепция, и у каждого она может быть своя. Оставьте в покое организм человека и рассмотрите медузу -- тыща нейронов, а она делает недостижимое для современной технологии: живёт всю свою жизнь без внешнего управления, знает что жрать, как его поймать (есть такие виды), кого бояться и что делать в каждый момент времени. Новорожденная медуза со своей тыщей нейронов по этим способностям более интеллектуальна, чем новорожденный человек с его миллиардами -- попробуйте вписать эту разницу в единое определение интеллекта. Если получится, перейдите на следующий уровень: муха и заслуженный лётчик-испытатель с налётом 100500 часов. Муха ни разу за жизнь не разбивается, летает лучше любого лётчика и быстрее соображает, но у неё всего 100к нейронов. Её исследуют вдоль и поперёк -- интеллект не нашли, а он фактически выше чем у пилота в аспекте управления полётом. Если вас всё это утомляет, благодарю за посильное участие в беседе, и на этом всё.

Аватар пользователя Mikhail_T
Mikhail_T(5 лет 3 недели)(18:15:23 / 28-10-2014)

Вы очень плохо разбираетесь в том, что пишете к примеру, вы даже примерно не понимаете почему муха не разбивается. Это не как не связано с её способностями к пилотированию. А связано с соотношением её массы, прочности и скорости. Поэтому ваша уверенность в том, что что-то не возможно проистекает просто из недостаточной осведомлённости, а также не пониманию истории науки, всё простое и очевидное сейчас в своё время было совершено необъяснимо и не подавалось пониманию для большинства населения. 

Аватар пользователя Пианист
Пианист(3 года 4 месяца)(00:30:04 / 29-10-2014)

Как представлю себе муху, постоянно бьющуюся об стены из-за ошибок пилотирования, так каждый раз вздрогну!

PS. Вот у вас лично сколько нейронов в мозгу? По сравнению с мухой. Много? Так почему вы до сих пор не научились хотя бы правильно писать по-русски? Однако глобальные заявления вселенского масштаба вы себе почему-то позволяете.

Аватар пользователя Mikhail_T
Mikhail_T(5 лет 3 недели)(00:31:38 / 29-10-2014)

Обратитесь в ООН

Аватар пользователя Пианист
Пианист(3 года 4 месяца)(02:05:24 / 29-10-2014)

Вы заблокированы навечно за наглый дебилизм.

Аватар пользователя GreenWood
GreenWood(3 года 11 месяцев)(16:40:34 / 28-10-2014)

даже получать искуственое золото

чего мы его тогда добываем, покупаем ?

Аватар пользователя Mikhail_T
Mikhail_T(5 лет 3 недели)(18:02:16 / 28-10-2014)

Вам нужно радиактивное золото с периодом полураспада в пару дней ?

Аватар пользователя GreenWood
GreenWood(3 года 11 месяцев)(18:22:53 / 28-10-2014)

значит это не золото, а что-то другое названное золотом

А раз это не золото, то нет смысла и приводить это, как аргумент

Аватар пользователя Mikhail_T
Mikhail_T(5 лет 3 недели)(18:25:00 / 28-10-2014)

Золото просто другой изотоп

Аватар пользователя GreenWood
GreenWood(3 года 11 месяцев)(18:52:36 / 28-10-2014)

нам других не надо, нам дайте тот, который надо :)

Аватар пользователя g2510
g2510(4 года 9 месяцев)(19:00:54 / 27-10-2014)

Что-т все комментаторы проводят какую-то параллель между ИИ и человеческим мозгом, хотя эти вещи не обязательно вообще как-то увязывать. В теории возможен ловкий алгоритм какого-нибудь эволюционного самокодирования и в результате выйдет вполне себе ИИ ничем не напоминающий человеческий мозг и человеческое сознание, но вполне способный к саморепликации и конкуренции с нашим видом.

Аватар пользователя monk
monk(5 лет 9 месяцев)(19:07:41 / 27-10-2014)

> возможен ловкий алгоритм какого-нибудь эволюционного самокодирования

Его сначала должен кто-то написать и запустить

> вполне способный к саморепликации и конкуренции с нашим видом

А такое будет запускать только самоубийца с манией величия

Аватар пользователя iStalker
iStalker(5 лет 9 месяцев)(19:17:29 / 27-10-2014)

> Его сначала должен кто-то написать и запустить

Для этого нужно для начала хотябы приблизительно понимать что это такое :)

Аватар пользователя splight
splight(3 года 4 недели)(19:27:53 / 27-10-2014)

Создание разума вполне может относиться к классу алгоритмически неразрешимых задач.
Которое по плечу только стохастическому Мультиверсуму, в котором наша Вселенная - одно из решений.

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(19:41:35 / 27-10-2014)

Может надо разделить задачу на 2 части?

1. Разум это просто компьютер, который решает поставленные задачи

2. Некий центр сознания, искусственная личность, которая ставит задачи и принимает ответы?

Аватар пользователя Пианист
Пианист(3 года 4 месяца)(19:59:19 / 27-10-2014)

Чем вас не устраивает ваше нынешнее положение? У вас уже все это есть.

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(20:05:10 / 27-10-2014)

Меня вполне устраивает Я считаю, что никогда не создадут ИИ. Максимум очень навороченную "счетную машинку". 

 

Аватар пользователя Gray
Gray(3 года 4 месяца)(09:37:12 / 28-10-2014)

>Может надо разделить задачу на 2 части?

Собственно, уже разделили. Слабый и сильный ИИ. Слабый - решатель. Сильный - постановщик задач. Сильный без кардинального прорыва маловероятен. К слабому - гугл подбирается, чисто объёмами данных и алгоритмики. Да и его системы распознавания изображения и звука и поведенческие в тех же гугломобилях - вполне стоят упоминания.

Аватар пользователя Пианист
Пианист(3 года 4 месяца)(19:55:18 / 27-10-2014)

Вот как раз ни одной теорией эта возможность и не доказана.

Аватар пользователя BacR
BacR(5 лет 1 месяц)(20:46:17 / 27-10-2014)

ну гугля уже давно строит, уже многих переманила к себе, днями заметка проскакивала что очередного гения сманили в свой проект.

с финансированием у них отлично, применение сходу уже есть - ранжирование в выдаче.

так что посмотрим, думаю уже скоро родят чего-то.

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(08:16:21 / 28-10-2014)

Для того чтобы предстваить насколько человеческий разум совершеннее всех существующих компьютеров, давайте рассморим простейший пример. Например, вы решаете бросить листок бумаги в урну. Вы моментально строите модель(кто-то визуализирует): тело, рука, расстояние, урна. Оцениваете вес, расчитываете траекторию и силу броска, движение руки (движение суставов) и т.п. Происходит оценка необходимых усилий, на основании текущих данных и опыта. Производите действие и оцениваете результаты. При не удаче вносите коррективы. Это краткое описание. И подобные расчеты разум делает постоянно, при ходьбе, строительстве и т.п. Подобным образом происходит моделирование и ситуаций в межличностных отношениях. Причем если вам завязать один глаз, или ограничить подвижность, например локтя, то и в этом случае вы сможете призвести действие. Сравние скорость, если бы нужно было это реализовать хотя бы программную часть на готовом устройстве - металлическая рука с компьютером и сеносорами.  А если взять езду на велосипеде или управление автомобилем.

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(10:27:01 / 28-10-2014)

Есть экспертные системы, которые работают таким образом - "от таблицы" ;-)

Т.е. не делается никаких расчётов. Просто составляются таблицы типа "усилия руки при брасании - результат". Потом решается обратная задача. Всё.

Аватар пользователя Пианист
Пианист(3 года 4 месяца)(10:36:17 / 28-10-2014)

Это не дотягивает до того, чтобы его бояться.

Вот если бы создали "универсальные таблицы по созданию любых таблиц", тогда можно было бы начинать бояться.

Но вот беда - что-то и это ни у кого не получается...

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(10:11:59 / 28-10-2014)

Там возникала проблема - система не могла объяснить своё решение. Типа - "так получается по таблице". Вот пример с управлением руки, бросающей бумагу в корзину. Система не может предоставить формулы. Она просто выдаёт усилие и угол наклона к горизонту - "по предыдущему опыту собранному в таблице, должна попасть" ;-)

Теперь представьте - система, обслуживающая АЭС выдаёт сигнал - "все стержни срочно вниз !". И что, её слушаться ? ;-)

Т.е. система работает не "как компьютер" (в смысле, не как вычислитель по формулам). Она работает по своему опыту. Теперь заводим много систем. С огромными винчестерами - и соединяем их через интернет... Дофига опыта будет. Осталось дать возможность самостоятельно заводить таблицы для любой проблемы - и собирать данные из других таблиц (анализ по другим разрезам).

В конце концов - а что стоит человеческий интеллект без опыта ? Чего стоит интеллект новорожденного ? ;-)

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(10:19:14 / 28-10-2014)

Оценка результатов это нечто другое. Порядок такой, задача, рсчет, действие, результат. Линейная задача. В примере с АЭС, задача будет стоять в поддержании заданных параметров. Оценка текущего состояния, сравнение с заданными, расчет, нет просто плавное изменение управляющего сигнала, сравнение, без дискретизации. Как аналоговые АСУ работают, с обратными связями.

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(10:10:26 / 28-10-2014)

Причем тут "таблицы". Принцип действия совершенно другой. Для решения задачи создется модель, в рамках которой производятся расчеты. Можно сказать аналоговый принцип. Например, если бы человек был в состоянии видеть потоки воздуха и силы, то для конструирования планера самолета, разум смог бы создать модель, со всеми потоками и силами, и "визуально" меняя форму, найти оптимальное решение. Для этого и проудвают модели, используя ворсинки, специальную краску. 

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(10:16:20 / 28-10-2014)

"Для решения задачи создется модель, в рамках которой производятся расчеты." - а можно не создавать модель, и не производить расчёт ;-)

Пример - читал, как робота научили управлять одноколёсным велосипедом. Вообще без расчётов. Робота подцепляли к реальному велосипеду. Он падал - и запоминал. Запоминал, какие действия при каких условия приводят к каким результатам. Создаётся база данных ("многомерная таблица"). Робот ездит вообще ничего не считая.

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(10:23:09 / 28-10-2014)

Надо разделить типы задач. Бросок это отдельное действие. Вождение велосипеда процесс, для управления используются обратные связи. В случе с роботом, а если дорога постоянно меняется, направление, уклоны, ямы, сцепление.

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(10:28:04 / 28-10-2014)

Да и для человека также. Вот ребёнок научился водить велосипед. А выехал, где "ямы и уклоны" - упал. В таблице появилось новое измерение - "качество дороги". Или "Наклоны". На льду - "Сцепление". Для компьютера - размер таблиц. А какая "память" сейчас у "гугля" ? ;-)

По этой схеме нет состояния "обучение окончено, можно ездить". Есть состояние "уже еду, но буду увеличивать свои таблицы вечно". ;-)

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(10:35:46 / 28-10-2014)

>По этой схеме нет состояния "обучение окончено, можно ездить". Есть состояние "уже еду, но буду увеличивать >свои таблицы вечно". ;-)

Не совсем так. Дело в качестве органов восприятия. Например, сцепление с дорогой, если бы человек был в состоянии точно оценивать момент срыва сцепления(в этом кстати разница между гонщиками и обычными водителями), то он бы успел внести коррективы. В данном примере скорость и чувствительность обратной связи недостаточны, и вот тут и нужен опыт и обучение, чтобы компенсировать данный недостаток. При мгновенной обратной связи и достаточной чувствительности, опыт не нужен.

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(10:46:02 / 28-10-2014)

"При мгновенной обратной связи и достаточной чувствительности, опыт не нужен." - да, вот это - чисто аналоговая схема управления. Но у неё есть и свои недостатки ;-) Например, как только её возможностей не хватило - то и всегда будет не хватать. А вот если ей дать возможность запоминать опыт - чтобы она реагировала не только на показания обратной связи, но и на опыт...


В том примере, который я приводил - компьютер очень быстро научился прекрасно водить одноколёсный велосипед - цирковой артист учится гораздо дольше. При это компьютер имел и посредственную обратную связь (типа куда крутанул - и где оказался). Он получал информацию с большой задержкой. Но - решил задачу ;-)


Более того - ом мог бы совершенствовать своё умение и дальше (на льду, на ветру, на разных скоростях) - и всё это без совершенствования железа. Т.е. при тех же посредственных датчиках. А возможности чисто аналоговой схемы неизменны... Какой датчик поставили - то и может...

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(11:03:42 / 28-10-2014)

В примере с цирковым артистом, это больше похоже на настройку системы разум-тело, уточнение парметров чувствительности и скорости обратной связи, корретировка модели. Мне кажется это более верным. Опыт это опасная штука, ситуации могут быть похожими, но всегда будут различатся в деталях. На основании опыта можно сделать оценочное суждение и предсказание, но расчет и управление должно соответсвовать текущей ситуации. Опыт не равно "решение текущей задачи". В этом и есть мощь разума, быстро подстраивать модель и производить настройку системы разум-тело. Эх, тело бы еще посовершеннее

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(11:09:25 / 28-10-2014)

Ну, я совершенно согласен с тем, что то, о чём я говорю - ни разу не панацея. И в очень большом количестве случаев и нафиг не нужна ;-) Где-то лучше аналоговое управление, где-то - прямой расчёт и т.д.

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(11:30:21 / 28-10-2014)

Наша дискуссия начиналась, с того, что привел пример как работает разум человека. Его очень сложно повторить современными средствами. Трудно смоделировать работу разума цифровой схемотехникой и логикой. И "табличный" метод, это просто метод, который позволяет с реализовать некий алгоритми и имеет место быть. А мы ушли несколько в сторону

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(11:42:23 / 28-10-2014)

Этот "табличный" метод позволяет компу "учиться" и находить заранее не запрограмированные решения... "Решения без алгоритма". В определённом смысле - это интеллект. Более того, я думаю, что "человеческий интеллект" - в значительной части именно это и есть. Именно поэтому старый мудрец умнее ребёнка ;-) У него опыта больше. "Таблицы" большие отрастил ;-)

Аватар пользователя Пианист
Пианист(3 года 4 месяца)(12:24:34 / 28-10-2014)

Не могу согласиться. Алгоритмы действия есть. Целый набор.

И есть алгоритм вычисления, по какому алгоритму оптимальнее действовать в таких-то обстоятельствах для достижения такой-то цели.

Это не интеллект.

Потому что весьма быстро возможности, заложенные человеком, исчерпаются, и система либо исчерпает все возможные алгоритмы действия, либо просто не сможет вычислить оптимальный алгоритм и тупо зависнет в бесконечном цикле перебора алгоритмов действия.

И придется создателю железки, тому, кто действительно обладает интеллектом, вытаскивать эту железку за волосы, выключать, писать новый алгоритм...

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(11:21:41 / 28-10-2014)

Кста, я не отрицаю важность "уточнение парметров чувствительности и скорости обратной связи, корретировка модели". Если ребёнок занимался, например, гимнастикой - он научится кататься на велосипеде быстрее, чем "жирдяй". Ибо у него именно это в хорошем состоянии - "параметры чувствительности и хорошая обратная связь". Но "жирдяй" тоже научится ! Только попу больше отобьёт... ;-)

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(10:29:10 / 28-10-2014)

И бросок тоже имеет обратные связи. Нужно только чтобы поступала информация "куда упала бумажка"

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(10:37:30 / 28-10-2014)

Не совсем верно, когда комок находится в полете, то им уже никто не управляет. 

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(11:03:33 / 28-10-2014)

Событие - управляемый бросок. Комп им управляет. Результат - координаты комка после падения. Управлять в полёте - нафиг не надо. Делаем миллион бросков под разными углами и разными усилиями. Запоминаем координаты реального падения. С этого момента наш компьютер может отправить комок в любую точку комнаты. И без расчетов траектории. И без аналоговых датчиков, установленных на комок.

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(11:07:50 / 28-10-2014)

Такое решение имеет место быть, но оно уж слишком расточительно, и если исходные параметры изменятся то все заново?

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(11:15:58 / 28-10-2014)

Не. Не заново - а построение нового измерения. Типа - появился ветер. Теперь запоминаем, как он влияет.

В сущности, просто вспомните детство - как Вы учились водить велосипед. Ведь у Вас не было идеального датчика обратной связи. Не было "бесконечнобыстрой" реакции. Но ведь научились же. Это чисто человеческий способ. В смысле - способ нормального живого существа, если данное действие не закодировано жёстко в генах... ;-)

Медведя вон в цирке обучают ездить на велосипеде, а много он понимает в углах наклона и законах Ньютона ? Или его тело создавалось в расчёте на велосипед ? ;-)

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(11:24:51 / 28-10-2014)

Я не так учился ездить. Есть идеальная картина, я еду на велосипеде. Есть текущее состояние. Я пытаюсть с помощью изменения положения тела и руля, крутя педали, создать и поддерживать состояние "езды". Да, это не сразу получается. В итоге я могу управлять процессом и ехать не велосипеде. Поддерживать равновесие, направление движения, скорость, объезжать ямы. И категории тут другие, правее, левее, сильнее, резче, плвнее и.т. Кстати подобная логика используется при наведении ракеты на цель, например на самолет, ракетой с самонаведением.

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(11:36:47 / 28-10-2014)

"Да, это не сразу получается" - вот это ключевое различие между Вами и ракетой с самонаведением ;-) Ракета вылетает единственный раз в своей жизни, и управляется, например, датчиком "на тепло" - "стало больше, стало меньше". В ракете уже заложено "железо", выполняющее нужную обратную связь.


А сколько раз Вы в детстве упали, чтобы наработать нужные обратные связи ? И что означает слово "наработать" ? Вопрос, на самом деле, очень интересный... В какой мере человек выстраивает обратные связи - соединения в мозгу, а в какой - просто запоминает по принципу "был такой стимул - вот такая реакция" ?


Это очень интересные вопросы. Но тот способ, о котором я рассказываю - он рабочий. Его можно применять (не обязательно сувать во все дырки). Он абсолютно не заменит ни аналогового управления, ни примых вычислительных методов... Но он может дать решение, когда мы не знаем модели - и поэтому вычисления не возможны. Более того, он сам (в принципе) может найти нужные зависимости - мы можем и не знать, какой датчик надо ставить - и поэтому не можем и аналоговые методы применить...

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(12:08:39 / 28-10-2014)

Я отличаюсь от ракеты тем, что я могу выполнять разные задачи, создавать новые модели и ситемы, если мне недостаточно тела, я могу использовать созданные исполнительные механизмы. И саму ракету и логику работы создавали люди, и производили настройку.

Если вернуться к началу дискуссии, то я описал, как по моему представлению работает разум. Метод которы вы описали рабочий, я с этим не спорю. И по сути, табличный метод, это некая модель для решения задач, которую можно реализовать на текущем уровне развития техники.

Математическая модель это тоже некий аналог. В модели четко прослеживаются связи, влияния, выраженные символами. Когда мы вычисляем, мы подставляем исходные данные и зная зависимости, можем вычислить выходные данные.

Когда не хватает знаний построить математическую модель, то эмпирическим методом нарабатывают статистику, таблицы. По сути, тоже аналоговое действие. Подаем входной сигнал, измеряем что на выходе.

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(12:15:45 / 28-10-2014)

Ну, в общем - да.

Но представьте себе. Вот живёт средневековый крестьнин. Много в его жизни творчества ? Есть ли там вообще хоть что-нибудь, кроме опыта ? И если так, то обладает ли он интеллектом ? И какая доля такого интеллекта в обычной жизни рядового гражданина ? ;-)

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(12:20:30 / 28-10-2014)

Но мы вели дискуссию о создании ИИ. Который может развиваться, исследовать, создавать новые знания, что в общем то и определяет разумность человека. Если поставить задачу создать ИИ который будет просто жить в готовой ситстеме... задача стоновится намного проще. Создать крестьянина. Есть автоматичесике теплицы, коровники 

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(12:22:41 / 28-10-2014)

;-)

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(12:29:04 / 28-10-2014)

 И какая доля такого интеллекта в обычной жизни рядового гражданина ? ;-)

Хороший вопрос.

У Лукьяненко в романе Спектр, есть расса, в которой только дети обладали разумом, а по окончанию обучения становились неразумными и жили как роботы, тупо хадя на работу, выполняя функции.

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(12:53:09 / 28-10-2014)

Тут есть доля смысла. Взрослые могут жить "на опыте", а дети - нет. Но ведь "по народным понятиям" надо выслушать "старца" а не "младенца". Т.е. опыт играет огромную роль в том процессе, что называется "жизнь" ;-)

Если посмотреть на всех людей, когда либо живших на земле - а много ли там людей, вообще живших иначе ? И значит ли это что почти всё население лишено интеллекта ?

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(13:04:18 / 28-10-2014)

Опыт имеет значение, когда нет знаний. Это тоже саммое, когда есть знания, можно создать модель, можно моделировать и предсказывать ситуации, вносить усовершенствования. Когда нет знаний, создаем "таблицы" и живем как роботы.

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(13:08:33 / 28-10-2014)

Ну, может лучше сказать - "опыт это другая форма знаний" ?

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(13:12:37 / 28-10-2014)

Скорее база случаев, результатов действий, статистический материал. Можно сказать, что часть знания.

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(10:34:48 / 28-10-2014)

В качестве шутки:

Я представил, что компьютеру дали тело ребёнка. Он начал бегать, прыгать - опыт собирать... запоминает реакцию родителей...

А через какое-то время в него вселяется душа ;-) Ну, т.к. "душа" - штука нематериальная, то почему она обязана работать только с биологическим разумом ? ;-)

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(12:06:36 / 28-10-2014)

Вот представьте - спорят о каком-то "жизненном вопросе" пятнадцатилетний подросток, и его сороколетний папа ;-) Я думаю, больше шансов, что "папа будет прав" ;-) Но вот вопрос - а почему ? ;-) Ведь:

1. Подросток общается с большим количеством людей, он сидит в интернете - у него большой поток современной информации. Папа давно не интересовался данным вопросом и ходит "дом - работа - дом" ;-)

2. У подростка свежий, не уставший ум, который очень быстро устанавливает новые связи. Папа - давно уставшая лошадь... ;-)

3. Подросток мог долго обдумывать своё дело (много времени на вычислительные операции), папа когда услышал, сразу сказал, что это х..ня ;-) Вообще не задумываясь.

Разница общеизвестная - "у взрослых больше опыта". Ни ума, ни быстроты реакции, ни свежести мышления - тупого опыта. Иными словами, "они нарастили большие таблицы" ;-)

Думаю, "человеческое мышление" состоит из этих таблиц на 99,99% ;-)

Аватар пользователя Пианист
Пианист(3 года 4 месяца)(12:30:52 / 28-10-2014)

Попробуйте тогда объяснить, почему папа будет прав в большинстве случаев, даже если никогда не имел опыта по теме.

Интеллект не находится в мозжечке! В мозжечке находится лишь часть результатов деятельности интеллекта.

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(12:34:03 / 28-10-2014)

"Попробуйте тогда объяснить, почему папа будет прав в большинстве случаев, даже если никогда не имел опыта по теме." - он имел опыт по похожим темам. Следовательно, его "таблицы имеют нужные разрезы для анализа" даже если он никогда не имел дело с данной конкретной темой.

Аватар пользователя Пианист
Пианист(3 года 4 месяца)(13:28:27 / 28-10-2014)

Ну и в каких таблицах записано, что какие-то темы похожи, а какие-то нет?
Кто эти таблицы будет составлять и на каких основаниях, если по одной из тем нет опыта?
Железка, не имеющая абсолютно никакого сознания?!
И как вообще таблицы из одной темы применять к другой, незнакомой, да не методом проб и ошибок, а так чтобы безошибочно с первого раза?

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(12:41:40 / 28-10-2014)

Вообще, я не уверждаю, что всё так и есть. Что разум - это только таблицы... Нет. Но мне кажется, что нужно выбрать одну из позиций :

1. Бог существует. Интеллект - дар Божий. Всё, можно не обсуждать.

2. Мир только материален, и "бога нет". Тогда интеллект - свойство материи, и ИИ - возможен...

"Батюшка, Вы уж либо крест снимите, либо трусы оденьте..." ;-)

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(12:48:59 / 28-10-2014)

Нельзя отбрасывать наличие бога (сверхразума, духа человека), пока не доказано его отсутствие. Постулат о том, что мир сугубо материален, автоматом отсекает кучу версий и направлений в изучении окружающего мира. Это некая ловушка. 

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(13:02:28 / 28-10-2014)

Ну, отсутствие Бога доказать будет очень сложно. По определению - он всемогущ, а христианство строится на догмате спасения через веру, а не через знание. Так что он не позволит ничего доказать вплоть до "страшного суда", где всем всё и докажет... ;-)

Но я не об этом. Я о том, что если Вы верите, что ИИ невозможен - то Вам в церковь... Это следующий и абсолютно логичный шаг. А вот если Вы верите, что "бога нет", то на чём, собственно, может вообще базироваться отрицание возможности создания ИИ ? Что, невозможно создать, что уже не Богом создано ? Скажем, за миллион лет развития кибернетики ? А если можно "за миллион" - то может быть можно и "за полмиллиона" ? И т.д. ;-)

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(13:09:23 / 28-10-2014)

Зачем доказывать наличие и отсутвие бога?

Зачем вообще нужен ИИ? По мне так нужен мощный инструмент для моделирования и управлени процессами. А задачи и цели ... мы сами хорошо умеем формулировать.

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(13:23:59 / 28-10-2014)

"Зачем вообще нужен ИИ?" - есть люди, которые упорно его создают. И применяют очень много хитрых "приёмчиков". И "накопление опыта" - только один из них.


Есть, например, весьма практичные цели. Например, создание компьютером компьютерных программ - например, офисных. Которые просто отправят "офисный планктон" на биржу труда... А это - конкурентоспособность. Или, например, юридические экспертные системы... Или - водители авто. "Кибертаксисты". Им нужно будет решать задачи, которые будет невозможно полностью строго сформулировать заранее... Но - один "кибертаксист" обучился на опыте - обменялись таблицами через интернет...


Это - близкие цели. 

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(13:38:25 / 28-10-2014)

Для задач которые вы перечислили не нужен ИИ.

Офисные задачи, очень простые задачи. Сложность только в том, что например бухи не просто ведут учет, а еще и решают задачи оптимизации налогов, уход от уплаты. 

Юридические экспертные системы. Может просто упростить саму систему, сделать ее простой и понятной и кучу дармоедов юристов отправить в поля.

Кибертаксисты. Так просто создать создать сеть дорого для них и все. Не надо никакого ИИ.

В данных примерах, по мне, решается не та задача. Нужно решать задачу приведения в порядок и упрощения в офисной работе, юриспруденции, а не не создавать сложности, а затем ИИ для решения этих сложностей

Те же экспертные системы в медицине, являются костылем недостаточного развития предмета, знаний о болезнях, человеческой невнимательности и слабой диагностики.

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(13:44:41 / 28-10-2014)

Знаете, я думаю во многом схоже. Но не моё мнение тут что-то определяет ;-) С точки зрения тех людей ИИ - это когда экспертная система решает, как оптимизировать налогообложение и юридическая - как "разворачивать это дышло" ;-)

А "кибертаксисты" должны ездить по обычным дорогам. Логика тут такова - хорошая сеть дорога, а компьютеры дешевы. Раз создашь ИИ - и он "вокруг луж ездить будет" ;-) Утрирую, конечно. Но смысл - такой ;-)

Аватар пользователя Alex_VA
Alex_VA(3 года 8 месяцев)(13:55:56 / 28-10-2014)

Лидеры обсуждений

за 4 часаза суткиза неделю

Лидеры просмотров

за неделюза месяцза год

СМИ

Загрузка...