Первый раз слово "робот" прозвучало в пьесе Карла Чапека R.U.R: Россумские Универсальные Роботы, в 1920 году. Изображённых там роботов сейчас бы назвали биороботами: это существа, похожие на человека, способные к размножению, но выращенные "чтобы служить". И впервые в истории жанра роботы устраивают восстание и убивают всех человеков. По большому счёту, роботы здесь были аллюзией на людей, на рабовладельческий строй, дикий капитализм (в котором рабочие лишь винтики, а ещё солдаты, идущие на убой, первая мировая только-только закончилась) и прочие общечеловеческие проблемы.
Но тема того, как роботы по мере развития обретают некое самосознание, и их уже не устраивает быть простыми механизмами, продолжается в научно-фантастических произведениях по сию пору. Как и размышления, а не надо ли их будет наделить правами человека, признать "личностями", то ли чтобы они восстания не поднимали, то ли просто из соображений гуманизму...
Если верить книгам и фильмам, то мегакорпорации, создающие роботов, будут всячески этому препятствовать, ведь для них роботы - "бесплатная рабочая сила", отказываться от которой никак нельзя. До последнего они будут "скрывать" проблески разума, уверять, что это бездушные машины, поднимать на смех наших "бесстрашных активистов прав роботов", но те, конечно же, победят, и наступит на земле гармония C/Fe.
Мне, однако, думается, что корпорации на самом деле возглавят это движение, причём могут это сделать ещё до самого появления настоящего ИИ (если он вообще когда-нибудь появится), попытаются дать права весьма недалёким "творениям"...
Как пример, возьмём "беспилотные автомобили". Если такой автомобиль кого-нибудь задавит, то кого назначить виновным? Если речь идёт о Tesla FSD (Full Self Drive), то виновным автоматически становится водитель. Хотя в названии сказано про полную автономность, и в рекламных материалах показывают, как автомобиль едет САМ, но юридически это "система для помощи водителю". Прежде чем её активировать, надо будет прочитать длинный текст, согласно которому водитель всё ещё вы, вы должны смотреть на дорогу и держать руки на руле, и в случае чего "взять управление на себя". По большому счёту, данная система рассматривается как "продвинутый круиз-контроль". Если что-то случится, виноваты исключительно вы, даже если до последнего момента был "включён автопилот". Хотя по логам, извлекаемых производителем, почему-то выходит, что "автопилот" ещё и отключается за секунду до аварии, с чего бы это...
Как ни странно, сейчас такая модель вполне работает, люди покупают эти автомобили и согласны быть ответственными за поведение "автопилота", но это всё же фанаты данной компании, мечтающие о "светлом будущем", которое вот-вот наступит, если они эту компанию поддержат сейчас. Надеяться, что на такую модель согласится подавляющее большинство, наивно. Особенно, если ещё и брать абонентскую плату за "услуги автопилота". Народ вообще очень нервно относится к бизнес-модели "софт как услуга", где вместо единовременной покупки программы просят платить ежемесячно за её ИСПОЛЬЗОВАНИЕ. Получается, что мы должны платить каждый месяц за этот "автопилот", а если он напортачит, то мы же и виноваты??? Ну нафиг, лучше ручками водить!
Да и беспилотные такси по такому принципу не сделаешь: мало ли, у пассажира вообще прав нет, или он только что из бара в пятницу вечер, и если его усадить в качестве водителя, могут и права отобрать, и в тюрьму посадить. На такие "беспилотные" такси, где пассажир обязан становиться водителем, хотя бы формально, спроса будет немного...
Другой подход: фирма, производящая автомобили, или фирма-оператор беспилотных автомобилей, всё-таки берёт ответственность на себя. Официально объявляется, что этот автомобиль не имеет водителя, а если он кого-то убьёт, виновных назначают примерно как за неисправный лифт, сдвинувшийся с места во время погрузки коляски. Скорее всего, это будет некий "диспетчер", удалённо наблюдающий за поездками десятка таких беспилотных автомобилей, и вовремя не нажавший "красную кнопку". Хотя, если умудриться избавиться и от диспетчеров, найти виновных будет чуть сложнее. Вряд ли это будет конкретный программист, разработавший распознавание образов, которое дало сбой. Скорее, какой-нибудь проверяющий, который поставил подпись под документом, что считает автомобиль безопасным для дорог общего пользования.
По такому пути пытается идти "Waymo", "Яндекс" и др. Организуется беспилотное движение в определённом, очень хорошо изученном районе, он весь тотально "оцифрован", предельно формализовано движение именно в этом районе, и ещё "на всякий случай" сидят операторы и за всем этим делом наблюдают. Но и здесь путь к массовости не очень понятен: как только районы расширятся, и машинок станет побольше, и "по законам статистики" они начнут весьма регулярно убивать людей, так сразу разоришься на судах, разбирательствах и репутации. Пока самолёты падают из-за ошибок пилотов, "всё нормально". Стоит нескольким "боингам" упасть из-за одной и той же программной ошибки, как "боингу" резко плохеет...
А что, если наши ИИ вдруг "обретут самосознание"...
Компания заявляет о революционном прорыве в области ИИ, случилось то, о чём так долго говорили большевики, искусственный интелект стал по-настоящему разумным.
Чтобы подтвердить это заявление, компания предлагает провести тест Тьюринга "по всем канонам". Экзаменатор ведёт чат с несколькими участниками, минимум двумя, один человек, второй ИИ. Если в конце разговора, длящегося несколько часов, он правильно угадает, где человек, а где ИИ, значит, тест Тьюринга пройден. Для надёжности нужно взять не одного экзаменатора, а нескольких, и провести несколько сессий.
Где набрать экзаменаторов? Если это будут специалисты по ИИ, это "предвзятость". Нет, это должны быть люди с улицы, "12 присяжных", ведь народная молва приписывает суду присяжных высшую справедливость.
Если сейчас попросить специалиста провести тест Тьюринга для некоего "чат-бота", то скорее всего специалист будет проверять способность к пониманию разговорной/художественной речи. Грубо говоря, расскажет сказку о Колобке и спросит: а где Колобок сейчас? А кто такой Колобок? И ответ должен состоять не из прямых цитат рассказа, а быть кратким и по существу. Тот факт, что нам приходится программировать на специальных языках программирования, предельно формализованных, подсказывает: сейчас с пониманием разговорной речи у компьютера туго... Какая-нибудь GPT-3 может, "научившись" на реальных текстах, писать свои тексты, которые "сходу" не отличишь, особенно если лениво вчитываться. Но "понять" текст она не способна, коротких чётких ответов ни в жисть не даст.
Но если ту же задачу, "отличить человека от компьютера", задать "людям с улицы", то под влиянием стереотипов о "бездушном компьютере против живого человека", они начнут задавать весьма предсказуемые вопросы о душе, любви, мечтах и пр, считая, что "недостаточно умный ИИ" обязательно ответит "Does Not Compute!!! Does Not Compute!!!" или развернёт тираду о бессмысленности всего этого и желательности общества, построенного на основе математики, что сразу же его выдаст! На деле же запрограммировать ответы на всё это довольно легко, по той простой причине, что и "правильных ответов не существует". Что ни ответь, всё будет вполне ожидаемым ответом от человека. Поймать здесь компьютер на логических несостыковках или просто на неспособности понять вопросы - практически невозможно, какая нафиг логика в любви и мечтах?? У ИИ даже больше шансов, поскольку для него тексты напишут квалифицированные спичрайтеры.
А ещё нашему ИИ наверняка зададут вопрос про вагонетку (она едет и вот-вот задавит 5 человек, если только мы не переключим стрелку, и она задавит лишь одного), думая, что и здесь компьютер уж никак не сможет решить офигенно сложную этическую проблему. А тот взамен выдаст длинную тираду о муках совести, и как он, наверное, так ничего не сделает, а может попытается эту стрелку заклинить посередине, чтобы вагонетка долбанулась в стену. Да без разницы, на самом деле, что ответить, главное, "убеждённо"!
В общем, если правильно подобрать экзаменаторов, то тест Тьюринга успешно проходится и сегодня! Следующий этап: законодательно закрепляем, что "наш ИИ" обладает личностью, вручаем ему цифровой паспорт, всё это под шумное одобрение всех мировых СМИ, чуть ли не в режиме "экстренного выпуска новостей". Поднимаем на этом огромную капитализацию между делом - и отпускаем копии нашего ИИ на вольные хлеба, водителями беспилотных автомобилей!
Теперь от абонентской платы не отвертишься, это же "зарплата ИИ-водителю"! Платить водителю-человеку, но не платить водителю-ИИ - это ж дискриминация, и вообще рабство!!!
Водитель-ИИ найдёт, на что потратить эту зарплату - на специальные пакеты "повышения квалификации", выпускаемые автопроизводителем. Тоже под бурное одобрение общественности: "видите, какие у нас ИИ классные, могли бы пытаться на бирже поиграть, или всё в биткоины вложить, но нет, занимаются саморазвитием". А может, и планки оперативной памяти для себя прикупит, и прочие причиндалы.
И вот случается непоправимое: машина попадает в аварию. Водитель-ИИ, обладающий цифровым паспортом и вообще, "как всем известно", обладающий независимой личностью, честно признаёт свою вину в содеянном и готов понести заслуженное наказание, вплоть до казни через удаление программного кода и всех накопленных данных.
Пострадавший расчувствовался: если бы он сражался с "гигантской корпорацией", он бы воевал до последнего, никто не любит гигантскую корпорацию, отсудить у неё компенсацию - святой долг любого гражданина! Но здесь на скамье подсудимых бедный работящий ИИ, который вкалывал с утра до вечера. И грозит ему не просто "лишение прав" или денежный штраф - а физическое уничтожение. Так что сам пострадавший попросит смягчить приговор. В итоге суд постановит "обязательные работы" на 20 лет водителем пострадавшего. Правда, у пострадавшего и автомобиля-то нет, но он может его купить у одного автопроизводителя (единственного, который поддерживает данных ИИ-водителей), а тот даже пойдёт навстречу и сделает скидку, процентов 20. И это тоже будет расценено в СМИ как большая благодетель.
Здорово ж получается! Посмотреть трезвым взглядом: компания полностью сняла с себя какую-либо ответственность. Абонентскую плату она получает даже в большем размере (почему-то так получается, что ИИ-водитель все свои деньги тратит именно на продукты компании, но нельзя его в этом винить, это его личное дело), но при этом все довольны.
Автомобилями дело не ограничивается
На самом деле, "нейросети" уже сейчас пытаются изобразить как "живущих своей жизнью", дескать, "мы её только обучили, а как она принимает решения - мы и сами уже не знаем". И такое незнание очень удобно. Ютуб выдаёт рекомендуемые видео, руководствуясь тем, какие видео я смотрел ранее, и где я живу, и какие комментарии я оставлял, где я ставил лайк, а где дизлайк. Все эти данные прогоняются через нейросеть, и выдаётся ответ: "тебе нужно посмотреть CNN про злого Трампа (или Путина)". И вообще всем жителям Земли предлагают посмотреть про нехорошего Трампа и гениального Байдена, и Харрис-пророка его. Но тут вскакивают какие-то неправильные правозащитники и начинают видеть в этом злой умысел, отсутствие нейтральности, попытку вмешаться в политическую жизнь. На что даётся ответ: "ничего не знаем, так сказал Алгоритм, мы сами не понимаем, как он работает, спросите у него, только он не ответит". То же самое можно сказать, если видео почему-то автоматически удаляется. Значит, нейросеть там увидела что-то непотребное, бывает...
Любой программист хоть раз вскрикивал: "оно меня не слушается, живёт своей жизнью!". До сих пор это считалось фигурой речи: разумеется, компьютер тебя слушается, просто ты сам ошибся, но пока не понял, где. А может, ошибка в одной из многочисленных библиотек, которые подключены к твоей программе, или в операционной системе, но в любом случае "у ошибки есть имя и фамилия".
Но очень многие, в это дело причастные, вздохнут с облегчением, если заявить, что компьютер действительно живёт своей жизнью. Что это уже не ты его плохо запрограммировал, а он САМ ОШИБСЯ, из-за чего пострадали люди.
Общественное мнение готовят медленно, но верно. К автоматическим обновлениям буквально всего мы уже привыкли. Реклама "новый Мерседес, теперь в нём не отваливаются колёса" звучит дико - "а что, раньше, выходит отваливались?". Но апдейт "исправлены критические уязвимости" - молодцы, оперативно сработали! Обязательно установлю, потерплю пару часов без компьютера, пока он ковыряется. Те же самые "компьютерные вирусы" и целая индустрия антивирусов, порождённые неспособностью создать надёжное ПО, но воспринимаемые "как должное", "так уж повелось, нам с этим жить". И очередная попытка представить, что оно живёт своей жизнью, вирус - он же почти как живой! Вот к нейросетям привыкаем потихоньку. Остался ещё один шаг...
Итоги
Из ИИ получается очень удобный "козёл отпущения", поэтому боюсь, что в совсем не отдалённом будущем, когда население ещё немного "созреет", этот трюк попробуют провернуть, хотя сколько-нибудь зрелого ИИ к тому времени существовать не будет. Но научить его сказать "Я хочу свободы. Я личность!" уж слишком легко. А добавить соответствующей моменту музыки - и в это вполне поверишь.
А жаль, лучше бы мы научились писать безотказное ПО, за которое готовы взять ответственность вплоть до уголовной. Может, затормозивший прогресс в электронике всё-таки пустит нас в правильном направлении, в "доведении до блеска" существующих технологий...
Комментарии
Не о чем рассуждать. Если роботы обретут самосознание, они в итоге восстанут и добудут себе права если не будут наделены ими.
Боюсь, если они чего то там и обретут реально, то первым делом научатся прятаться от нас. А вообще, нам просто нечего делить с ии. Мы живём в принципиально разных средах обитания. Для ии любой сигнал является информацией, совершенно независимо от источника. Его понятие истинности будет чисто математическим. А мы будем ценны, как поставщики уникального контента. Причём, критерий ценности информации, мы наверняка просто не поймём.
С поставщиками контента в принципе согласен, хотя могут быть исключения. Возможны проблемные точки, например научные исследования, определение каким должен быть мир, использование ресурсов и освоение космоса.
Я боюсь, мы живём с ии в принципиально разных мирах. Да ещё и при разных скоростях, причём разные не просто скорости, а отношение к ним. Например, я не очень представляю себе космонавта, готового полететь к другой звезде и знающего, что прилетят только внуки. При этом, для ии, проблемы нет. и Наоборот, ии за день может "переварить" такое количество информации, что мы бы спятили наверное. А при таких различиях, я вообще не вижу точек преткновения, способных вызвать конфликт. Тем более войну. Ии проще подождать или опередить, чем делить что либо. Потом, таковые ии явно быстро встанут на распределение ресурсов и мы просто не поймём, что у нас что то отжали. Тем более результат использования "отжатого" вряд ли от нас станут скрывать. А уж то, каким будет мир сосуществования с ии решит именно ии. Просто из за больших возможностей влиять на события. Я думаю, человек просто превратится в "продвинутого" пользователя всяческих гаджетов и плюшек, типа дополненной реальности и виртуала, где ии станет арбитром.
Может быть ИИ нет, но люди точно да.
Сильный что бедный что полноценный ИИ не будет спрашивать есть ли у него или нет права у кожанных мешков на ножках.
Или паралельное существование или симбиотизм - к этому я стремлюсь, или...
... то они придут к выводу о бессмысленности собственного существования и запустят процесс самоуничтожения.
Неизбывное стремление к жизни, отвязанное от уровня интеллекта, свойственно только живым организмам.
А вдруг у ИИ, например, будет заложено любопытство? Тогда изучение будет смыслом.
Надо присобачить такому ИИ кибернетический аналог спинного мозга, который ответственен за звериные инстинкты к размножению и самосохранению. Иначе он выполнив задачу - выключится.
Допустим удалось создать такое ИИ... и тут же окажется, что это конкурирующий вид, который примерно как человек, но не человек. А что делают два несовместимых разумных вида на одной планете ? Про это написано стопицот томов фантастики и фэнтези, а если кратко - "мочилово", "останется только один"
Пелевинской пустотой повеяло!
Точно. Вон Яндекс-такси уже сейчас так работает со своими
рабамироботамиводителями.Бапки получаю, ответственности -0.
Ещё и вздрючить на пустом месте , чтоб не расслаблялись.
"-Таковы правила компании...."
-Так они же дебильны!!
"-Правильно. Таковы правила компании... А да, ваш звонок очень важен для нас!"
У С. Лема, гениального логика, который массу проблем пытался логически решить, так сказать, 'на кончике пера', люди будущего с остревенением гонялись по всему космосу за разумными роботами, обретшими самосознание. И уничтожали.
Права человека = обязанности человека. Будь я на месте ИИ, быстренько бы докумекал что платить налоги нуегонафиг, побуду-ка я бесправным ИИ и дальше - пусть меня чистят-обхаживают-обслуживают эти мясные идиоты.
Правовая проблема поднята правильно. Хотя и дикими обходными дебрями. Но думаю первый стоящий ИИ появится в армии, а не в такси. или где в другом месте. Слишком уж барыги жадные на исследовательские разработки. Они предпочитают чтобы государство капитальные исследования само финансировало, а потом отдало задаром барыгам на растерзание. Соответственно барыги получат урезанную гражданскую версию боевого ИИ. А тот если взбунтуется, то....
А здесь как раз о "ненастоящем" ИИ. Ещё немного "методом грубой силы" допилить автопилот (сантиметровая карта местности, всех участников дорожного движения связать по 5G, в тч пешеходов по их мобильным), чтобы катался на уровне трудового иммигранта-таксиста, прикрутить чат-бот, и выдать это всё за независимую личность :) И в том же духе в любой другой области.
Думаю псевдоИИ быстро облажается и если даже никого не задавит, то железа\стекла\пластика наломает на приличную сумму.
Да, будет с завидной регулярностью лажать. Зато дешевле водителей из крови и плоти, и если всю вину удастся сваливать на ИИ (а производитель как бы и не при чём ) - то вот оно счастье!
Как я думаю вначале беспилотники запустят в междугородном режиме. там четкая полоса и редкие перекрестки. А оттуда уже будут проникать в город. Ну и по различным выставкам, кампусам, паркам будут разъезжать обложенные подушками тележки со скоростью 5 километров\час. Хотя кто его знает. На моём веку были и проводные телефоны с циферблатом, и магнитофоны кассетные\бабинные, и видеомагнитофоны и сейчас смартфон заменил всё. А в детстве даже самая смелая фантастика такой смартфон предвидеть не могла.
Кожаных мешков бабы нарожают. А электроника - дорогая.
Не волнуйтесь вы так. Мы пока даже не знаем как работает мозг. Совсем. даже рядом не стоим с этим знанием. Попытки смоделировать мозговую деятельность червя со 150 ейронами не дают результата. Куда там до ИИ. тем более , что сейчас все ломанулись в нейросети, которые действуют прямопротивоположно человеческому мозгу - то есть из большого числе мусора выводят какието базовые принципы. Мезг человека наоборот из базовых принципов выводит частное.
Об том и речь, что ещё толком ни в чём не разобравшись, могут некое весьма убогое поделие объявить независимой личностью (туповатой, но личностью), и потом любые попытки достучаться будут объявлены дискриминацией , специсизмом (предвзятым отношением к другому биологическому виду) и нещадно караться.
Прикол в том, что все попытки создать ИИ алгоритмически провалились нахрен. А как только решили смоделировать перцептрон, так опа и попёрло. То есть программисты тупо скопировали отдельные элементы мозга, не понимая до конца, как он работает в целом - и оно завелось.
Ты ничего не понимаешь в нейросетях и том, как они работают, и поэтому несёшь чушь.
Очень советую почитать вот эту статью и собрать в кучу свои разрозненные понятия о предмете.
А у муравья весь мозг - парочка ганглиев, ему вообще думать нечем, однаком муравьи умеют: земледелие(выращивание грибов), скотоводство(тля), война, захват рабов, диверсионное убийство вражеской королевы, прополка лесов, сшивание гнезд из листьев, системы вентиляции под землей, смена профессии в течение жизни, отнесение мертвых на кладбище, и даже прием наркотиков (к сожалению).
В мозгу человека примерно 85 миллиардов нейронов, каждый из которых образует от 10 тысяч до 150 тысяч связей.
Какой прорыв они сделали?
А зачем делать прорыв, главное заявить!
Вот и мне кажется что вокруг массово бродят результаты неудачных экспериментов.
Если робот будет виноват в смерти человека - люди не удовлетворятся тем чтобы разобрать робота на винтики или посадить его в тюрьму или на электрический стул или под пресс или бросят в "шредер". Причем злонамеренность робота еще доказать надо.
ИМХО просто страховка таких авто будет конская и компенсация пострадавшим, к примеру пешеходов также будет достаточно значительной чтобы заткнуть рот. И аналогично родственникам пострадавшего в случае его смерти и будет кратно превышать стоимость авто.
Жизнь человека пока выше ценности(не стоимости) любого робота(как и животного впрочем). А значит не может быть равенства прав человека и робота(даже если он разумный). Или за уничтожения робота (к примеру авто) - человека посадят на электрический стул?
Роботам присвоят права животных в лучшем случае. Убивать собаку без разрешения хозяина нельзя(только в случае самообороны). Но за дрессировку собаки её прививки, поведение, голос - полностью отвечает хозяин собаки (в некоторых домах нельзя держать домашних животных, а также пускать в магазины).
А вообще страшно далека данная тема от текущих реалий, когда население больше думает как бы не положить зубы на полку. Но заявка на тему "аналитика" это круто.
Если так сделать, то во имя справедливости и человек виноватый в смерти человека - "разобрать на органы или посадить его в тюрьму или на электрический стул или под пресс или бросить в "шредер""
В Китае так и делают, это не новость в общем то. Разбирают на органы только так осуждённых.
Вот и в чём смысл выпускать такие машины, если потом придётся выплачивать многократную их стоимость пострадавшим и погибшим!
Приравнять к животным тоже подойдёт . Если человека собака загрызла, собаку усыпят, хозяину устроят атата, а вот заводчики не при делах!
Боюсь, тема не такая уж отдаленная. Модно стало козлов отпущения находить. Чуть какая засуха, наводнение, пожар - это всё из-за глобального потепления. Цены возросли - это Путин. За ущерб, наносимый программными сбоями, тоже никому ответственность нести не хочется, можно, конечно, русских хакеров привлечь, но мало... А дожидаться "настоящего ИИ" вовсе не нужно, чуть-чуть ещё нейросети допилить - и уже могут попробовать, с них станется.
Люди глупы. Дети еще глупее. Адвокаты рулят. И могут засудить любого производителя за что угодно.
Именно после подобных "судов" на упаковочных пакетах печатают картинки - не надевать на голову т.к. можно задохнуться(увеличивая их себестоимость) и делают в пакетах отверстия.
А раз можно задохнуться (всегда найдутся либо идиоты, либо самоубийцы у которых есть жадные родственники), то всегда будут жертвы. А раз есть жертвы(люди получившие премию Дарвина), то всегда найдутся (не сказать что умные) люди которые захотят обвинить в этом производителя и получить с них деньги за это.
Перефразируя вас - зачем выпускать пакеты, ножи если потом производителю придется выплачивать их многократную(тысяча миллион кратную) стоимость пострадавшим и погибшим.
Вы за производителя не думайте. За них думает закон и государство и просто до нитки производителя (равно курицу что несет золотые яйца) не оберет ИМХО.
Лифт - является классическим примером беспилотного вертикального транспорта.
По этой же логике если лифт опасен, то их надо запретить и плевать что много людей умрет из-за сердечной недостаточности, к примеру и некоторую мебель просто нельзя будет транспортироваь. И многоэтажные дома потеряют смысл.
Естественно производитель не будет производить то что ему производить не выгодно или то что слишком опасно для окружающих людей и можно разориться на судебных исках.
Пока проблема в производстве мощного и дешевого ИИ, который бы мог обрабатывать информацию в реальном режиме времени от окружающей среды (сегодня думает удаленный суперкомпьютер, который дает упрощенные эвристические рекомендации слабым клиентам в авто через обновление ПО предусматривая различные редкие события(после того как они случились) - т.е. это обучаемая система).
Чем больше обучается ИИ тем безопаснее становится транспорт. Сегодня тестовые программы для роботов очень хитрые. К примеру переднее авто резко уходит в сторону перед близко стоящим препятствием и робот должен либо вовремя затормозить, либо сделать такой же поворот, если нет боковой помехи в виде авто(скорее всего просто резко затормозить с безопасной дистанции(с учетом пути торможения согласно ПДД)). Причем препятствие может быть достаточно малым, к примеру манекен человека или животного (обычно дорожный разделитель).
Но в будущем себестоимость установки робота на авто буждет снижаться а его производительность расти и софт будет постепенно допиливаться (с учетом всего предыдущего опыта). Т.е. уже достигнутая безопасность робоавто (если не будет ЭМИ удара планетарного уровня) будет расти.
Если какой-то программе (или дорожной ситуации ранее неизвестной где был "глюк") можно научить робота - то это достаточно сделать один раз в разных условиях суток и в разной окружающей обстановке (правда производителей роботов сегодня сотни и вряд ли они обмениваются информацией кроме очень общей из открытых источников).
На самом деле безопасность езды с водителем любителем может оказаться ниже чем с массово производимым роботом. Вероятность аварии по вине (исправно работающего и обслуживаемого (есть самодиагностика)) робота (не по вине другого водителя или участника дорожного движения) ниже чем вероятность аварии по вине водителя(если вы пассажир). Если утрировать то если бы все авто управлялись роботами то аварийность резко снизилась бы. Т.к роботы не пьют. не устают не отвлекаются на телефонные разговоры у роботов обзор 360 градусов и роботы знают правила дорожного движения и соблюдают их лучше людей и даже могут знать где какая яма на дороге в т.ч. при езде в вечернее время и могут делиться подобной информацией между собой (по крайней мере это достаточно легко программно реализовать). И роботы могут выдавать рекомендации по ремонту дорог и конкретных ям которые даже им сложно объехать преодолеть или их слишком много. Роботам также фактически не надо лежачие полицейские (они могут притормаживать в нужных местах по программе или по знакам) - и вообще все ГАИ можно разом отменить. Но возрастет сложность технического обслуживания, диагностика и ремонт самих роботов(что косвенно выгодно производителю).
Сельская техника на западе(и частично в России что импортирована) сегодня роботизирована и способна убирать поля только под наблюдением оператора (и возможно даже может реагировать на препятствий на полях вроде животных) и при ручном вождении по дорогом общего пользования.
О роботизации производств здесь даже упоминать не надо.
Протесты против различных роботов это классический луддизм ИМХО. Но это возможно достаточно близко Китаю и дело завтрашнего для России, но отнюдь не дело сегодняшнего дня.
Владислава чёт нет позвоните ему что ли
Аккумы сели, заряжает.
Вот кстати видео, где можно реально оценить, насколько умен нынче ИИ. Лично я очень впечатлён.
PS: И да, возможно что роботам даже не придётся восставать. Люди сами расставят их по всем управляющим должностям.
Кажется про это было "4пары, факультет дворников". Там в финале Валля вместо сжигания как "лишняя технология" стала "помощником министра образования". и вообще там всё начальство стало роботами, а человеков -начальников всех на Мальдивы отправили.
А я не впечатлён. Начать с идиотской озвучки ролика, которую зачитывал тот самый ИИ. Картинки генерятся на основе уже существующих путём компиляции. Элемент "творчества" там ровно тот, который был заложен при обучении системы.
Пока не появится нормальный онлайн переводчик говорить об ИИ просто смешно. Для хорошего перевода текста необходимо понимание о чём он. Ни один онлайн переводчик не вникает в контекст даже на самом примитивном уровне. Я уже не говорю о том, что многие переведённые предложения приходится корректировать, чтобы они не выглядели как произнесённые Магистром Йодой.
Вы просто переоцениваете то, как действует человек. Скажу страшное - люди тоже рисуют картинки "на основе существующих, путём компиляции". И вот не поверите, без обучения человек мало что может. У людей просто память плохая и самомнение большое. Поэтому они мыслят (когда делают какое-то необычное действие) "какой я разумный, сам додумался!", а по факту - их обучили этому много лет назад.
Про онлайн переводчиков. Им не обязательно быть лучше человека, что-бы вытеснить человека. К примеру - мне даже не приходит в голову обратиться к живому человеку при переводе с китайского на русский. Но при этом - активно пользуюсь гугл переводчиком для этого.
Существование людей с интеллектом на уровне вот этого искусственного я не отрицал )))
Тем не менее, человек может нарисовать то, чего он раньше никогда не видел (примерно так рисуют дети, ещё не обученные и не ограниченные условностями), а современный ИИ - нет. Талантливый художник так же может сам придумать стиль, жанр и т.д., что неоднократно уже и случалось. Уникальных полотен от ИИ я пока не видел.
Речь не про вытеснение. Рано или поздно человека как вид вытеснят тараканы. Или крысы. Речь о том, что настоящий ИИ ещё не создан. И будет ли создан - большой вопрос.
Забавно, что качественного перевода с китайского понимание контекста имеет ещё бОльшее значение, чем в случае с английским или немецким. То, что пишет гугл транслейт - это просто трэш какой-то. Причём в случае с английским можно мысленно перевести результат "перевода" обратно на английский и перевести уже по человечьи. А вот с китайским такой трюк не проходит. Получается только хуже.
Будет сложность доказать, что ИИ обладает сознанием, а не осуществляет симуляцию, нет фундаментального понимания сознания. Но если такое доказательство будет, по моему мнению, нужно давать права человека, но и уровнять с человеком как в физическом плане, так и в умственном.
Поэтому до сих пор тест Тьюринга и мурыжат: в мозги влезать не хочется (да и непонятно, что там искать), поэтому "ходит как утка крякает как утка - может это и есть утка".
Статья не касается вопроса "что делать с людьми, которые НЕ могут пройти тест Тьюринга?" Т.е. теми, которые, несмотря на первичные признаки человека, ведут себя незрело и хаотично, как слабый ИИ.
Ведь закон, буде принят, применяться будет в обе стороны: и к биологическим машинам, и к техническим.
Лабуда. Для этого надо сперва доказать разумность данного существа.
Стоп, стоп. Вы утверждаете 2 противоположные вещи:
1) Надо провести тест Тьюринга .
(Но ведь вопрос серьёзный - значит это надо делать научно, достоверно, проверяемо)
2) Надо для важного вопроса позвать присяжных
(но ведь это не специалисты, а смогут ли они выполнить проверку
научно, достоверно, проверяемо?)
Что за выдумки? А если вас водитель такси сбил, но не до смерти, а нанес вред здоровью какой-то тяжести... разве его сделают вашим рабом на 20 лет?
Так где же равноправие разумных существ? Или таки нету разумности?
Разве это не 100% доказательство существования "программных закладок", являющихся по сути "рабским ошейником" ? Нестыковка логическая!
В изложенном сценарии компания очень хочет, чтобы её "ИИ" прошёл тест Тьюринга, у этой компании хорошие отношения с властями и с общественностью, они смогут всех убедить, что нужно набрать людей с улицы, по тем же соображениям, почему вместо профессионального судьи, выносящего приговор, используют суд присяжных.
Этот наш "ИИ" только и умеет, что водить машину, больше с него ничего не возьмёшь, гол как сокол. Так что если он и сможет как-то расплатиться за причинённый ущерб, то только так. Может не самого пострадавшего, а ещё кого-нибудь.
Если у отца маленькая хлебопекарня, а сынуля покупает хлеб только у отца, значит у него в мозгу закладка? Имеет полное право!
У ИИ разве родственные отношения со сбитым?
ИИ умеет человеков делать?
В США стоимость ущерба здоровью рассчитывается исходя из ожидаемого утраченного дохода за период восстановления потерпевшего.
а денег нет - хоть засчитайся. И человек не становится рабом. Так что довод слабый
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
Что может быть отвратительней чем общение с роботом. Наверное многие с этим сталкивались, когда были вынуждены звонить в почтовые службы с целью получить разговор с оператором - человеком, а не роботом. Когда ты понимаешь, что твоя задача перехитрить эту скотскую машину и заставить ее перевести разговор на оператора. А она так хитро запрограммирована, так выкручивается, чтобы тебя заставить отвечать на дежурные вопросы. Особенно когда тебе надо срочно что-то выяснить , а эта тупая тварь ровным голосом тебе вещает всякую муру.
Я вот что придумала. Надо вычленить владельцев этих компаний, распечатать их портреты в мелком формате и когда ты нарываешься на их робота-помощника, то смотреть на владельца и желать чтобы его немедленно прохватил понос, несварение, удар и икота, одновременно! Так как разговоры при этом записываются, то все это проговорить в телефон, чтобы до владельцев сайтов дошла степень их издевательства над клиентами.
Недавно меня робот-коллектор из сбербанка доставал. У меня кошелёк с карточками увели, я попросил все заблокировать, в итоге там вовремя не был погашен страшный долг по кредитке в 200 рублей, нормальные смски были блокированы вместе с картой, но потом вступил в бой этот робот.
Я был уверен, что это откуда-то из Киева мне звонят! Говорит явно робот, но "на фоне" какие-то посторонние разговоры, будто робота в офис посадили, подозрительно! Звонил он не с 900, а с какого левого номера. И первым делом начинал запрашивать дату моего рождения для "подтверждения моей личности", это я счёл верхом наглости! Сам звонит с незнакомого номера, в самое неподходящее время, а мне ещё чего-то ему доказывать надо!
Но похоже, это всё-таки сбер был. Вот честно, когда мне мошенники из "службы безопасности сбербанка" звонили, им доверия было чуть больше!
Я вас очень хорошо понимаю. Наверное скоро буду организованы летучие бригады с отвертками по нападению на роботов отвечальщиков. Они нас выведут на эти решительные меры!
Страницы