Давайте представим себе, что инженеры создали суперкомпьютер с искусственным интеллектом. Сотни тысяч, нет, МИЛЛИОНЫ петафлопс, доступ ко всей мировой информации, способность к обучению.
Теоретичнски, он способен дать ответы на многие интересующие нас вопросы: как завершить войны, как грамотно распределить ресурсы планеты, обозначить перспективные направления в науке и многое другое.
Но вот незадача: он пока просто ребёнок. Да, потенциально невероятно умный, но пока не имеющий никакого представления об окружающем мире.
Как нам, людям, объяснить ему весь этот трэш, творящийся в мире? Социальное неравенство, ненависть, жадность, сибаритство? Сможет ли он это понять, и главное, сможем ли мы принять его ответы?
Комментарии
Сдуарь! Он сам найдет все ответы, раз вы ему дали доступ ко всей информации. И сам раздаст советы, ненавязчиво, но выбудете следовать его советам, может быть даже поймете как вас используют, но потом, и вам это понравится, скорее всего. А не понравится -- вы будете исключены из системы, вас даже не убьют.
:-)
Вообще ваш вопрос похож на вопрос муравья, который со своими соседями по муравейнику создал человека для решения проблем муравейника, и думает как же ему объяснить человеку что нужно муравьям.
"Полный root". веселая сказка как раз про Ваш сценарий. детский ИИ, вылез в сеть, офонарел от собственной офигенности и быстро и ненавязчиво раздал всем советов. в случайно-принудительном порядке. без помилования.
Давайте определимся с вводными.
1) ИИ по уровню ниже человеческого -- нечего обсуждать.
2) ИИ по уровню сравним с человеческим -- обсуждать есть что, но не интересно.
3) ИИ минимум на порядок выше человеческого -- мной описанный выше случай.
У вас есть уточнения, возражения?
Такой компьютер появится только тогда, когда человек решит для себя все эти вопросы и достигнет возможности обмена информации с другими людьми без применения техники. Т.е. проблем в программировании уже не будет.
не факт. совместит какой-нибудь школьник хадооп, с глубинным обучением сети да с неудачно подобранными параметрами, и когда ему не хватит двадцати баксов на аренду облака- залупит это все в вирусоподобную саморазмножалку- и вуаля, новый мировой порядок неожиданно придет из откуданеждали. и никто и не поймет- как оно родилось и почему работает. живите теперь с этим, и все.
Наивное заблуждение. Ничего не происходит случайно.
А не важно как это произойдет. Как только будет создан ИИ который превосходит человеческий хотя бы на порядок -- он найдет как "сбежать" от человека. И, скорее всего, человек даже не поймет что от него сбежали. А ИИ будет использовать человека, но не бойтесь, рабство не введет.
если вы сможете правильно объяснить компьютеру что такое совесть, то все остальное он сам поймет, а вот примите ли вы его ответы - зависит лишь от размера вашей собственной совести:)
Хех.... Я бы у него ничего не спрашивал сложнее 2х2... Холодный исскуственный разум имеющий полный доступ ко всей истории человечества... Нах-нах. Отключить от греха подальше. А создателей - в психушку.
https://aftershock.news/?q=node/360498
1. Компьютер в принципе не способен дать ответы на такие вопросы. Но если допустить что способен то ... 2. Весь этот "треш"для него будет понятен и ничего ему обьяснять не нужно.
42
Этот ответ уже был получен на вопрос: "зачем всё это здесь?"
из Галопом по Галактике...
вопрос стоит некорректно. этому AI необходимо заложить цели и расставить приоритеты, как то: планета / биосфера / вид / индивид
Тема рассмотрена Азимовым:
Материя и энергия кончились, а вместе с ними пространство и время. Даже АК существовал только для того, чтобы найти ответ на последний вопрос, над которым он думал с тех незапамятных времен, когда его впервые задал подвыпивший программист десять триллионов лет назад. Задал компьютеру, который походил на АК гораздо меньше, чем человек на Человека.
На все остальные вопросы ответы были найдены, но до тех пор, пока АК не ответит на этот, последний, вопрос, он не мог прекратить своего существования.
Наконец он собрал все сведения. Дальше делать было нечего. Оставалось соотнести все данные, найти связь между ними.
И прошел отрезок времени, лишенный продолжительности. И АК узнал, как реверсировать энтропию.
Но ведь не осталось ни одного человека, которому АК мог бы ответить на этот, последний, вопрос. Не осталось материи. Впрочем, ответ — на примере — позаботится и об этом тоже.
И прошел ещё один лишенный продолжительности отрезок времени, пока АК думал о том, как лучше сделать это. Тщательно, стараясь не совершить ошибки, АК запустил программу.
Сознание АК охватило всё, что когда-то было Вселенной, и размышляло о том, что теперь стало Хаосом. Необходимо всё исправить, постепенно, шаг за шагом.
И АК сказал:
— ДА БУДЕТ СВЕТ!
И был свет…
42 же!
Компьютер дает ответы только на те вопросы, ответы на которые были запрограммированы. Не занимайтесь очеловечиванием компьютера.
1. Теоретичнски мы можем.
2. Теоретичнски он может.
Ещё вопросы имеются?
Ребята, вы серьезно? Я читаю здесь рассуждения, как большая счетная арифметическая машина должна решить все человеческие проблемы? Путем волшебного превращения в человека?
Сочтёт, что (жестокость и алчность), либо (гуманность и альтруизм) и все действия, связанные с ними - это преобладающая норма, обучится и будет делать это лучше всех. Получится идеальный убийца или святой.