Машины автопилоты кажутся более надежными чем те, которые управляются человеком. Но в случае аварии или возникновения опасной ситуации на дороге какова должна быть реакция машины : спасти вас или других ? Сложная дилемма встает перед разработчиками искуственного интеллекта, которые занимаются кодированием умных машин. Вопрос этики. Необходимо будет разработать некоторые сценарии, включающие вашу смерть.
Исследователи из Школы экономики г. Тулузы напечатали доклад под названием «Социальная дилемма машин автопилотов»
Машина автопилот должна будет пожертвовать вашей жизнью , чтобы спасти жизни других
Авторы опросили 2000 человек. Был задан вопрос : «Водитель должен пожертвовать собой, включая возможность собственной смерти, чтобы избежать убийства бОльшего количества человек?» . В основном опрошенные ответили « Да , Водитель должен пожертвовать собой чтобы спасти группу пешеходов например из 10 человек." Но, когда исследователи задали вопрос другим образом, говоря о том, что существует риск гибели и всех пассажиров машины, ответы были менее категоричны. Понятно , что самопожертвование и гибель пассажиров не станет аргументом в пользу продажи машин автопилотов.
Умные машины : Кто должен выжить, а кто умереть?
И тем не менее необходимо будет сделать выбор. Машинам автопилотам придется принимать решение, если например на её пути внезапно возникнет группа пешеходов, и выясняется , что тормозить уже поздно, и единственный выход это спровоцировать аварию, направив машину например в стену.
Чтобы найти решение этой моральной дилеммы, исследователи запустили сайт «Moral Machine », на котором посетителям предлагаются рассмотреть различные ситуации на дорогах, с тем чтобы оценить глобальное видение проблемы. При помощи демонстрации различных подключенных объектов, будет возможно знать какие именно пассажиры, находятся в машине(количество, возраст, профессия, состояние здоровья и т.д.). Также машина сможет определять, какая именно машина понесёт наибольшие потери. Короче, разработчики машины должны будут запрограммировать : Кому жить, а кому умереть....
Должен ли водитель погибнуть, чтобы спасти 5 детей? Этот же водитель должен ли выжить, если речь идет о 5 грабителях банка ? Если две машины рискуют столкнуться фронтально, и одна из машин должна съехать с дороги, чтобы врезаться в дерево, то какая из них должна это сделать? Та, в котрой 4 преступника или та, в которой сидят 2 врача? Все эти ситуации должны будут быть вписаны в будующие алгоритмы. И данные, собранные на каждого индивидума в течении нескольких лет, будут предоствлены на откуп машине, которая будет решать насколько мы значимы в её глазах.
Дебаты запущены. Нам будет интересно знать ваше мнение по этому вопросу.
Источник : http://www.presse-citron.net/voiture-autonome-faut-il-programmer-votre-mort/
Перевод с французского Parhonf
Комментарии
Я бы еще добавил, роботизация транспорта, если она начнется, будет начинаться с общественного траспорта. Там приоритет-защита пассажиров, соотвественно и организация движения будет осуществляться исходя из этого принципа. Остальные-персональные жоповозки будут просто встраиваться в построенную инфраструктуру. Проблема поставленная в статье высосана из пальца.
Я, как человек, всю жизнь имеющий дело с алгоритмами управления механизмами и программным кодом, никогда не куплю автомобиль с автопилотом. Лучше я буду ходить пешком, или ездить на каком-нибудь самокате.
ИМХО, все эти постановки вопроса - лукавы. На самом деле, никто не мешает сделать автомобиль-робот продолжением воли некоторого субъекта. Сейчас же ответственность водителя в ДТП не снимается в случае отказавших тормозов, например. Так же и с машинами-роботами: будет некоторый оператор, ответственный за поведение а/м.
Мне кажется, вся эта тема - исключительно око Овертона для идеи управления человеческим обществом со стороны компьютеров. Кому и зачем это нужно на самом деле? А нужно той самой невидимой власти. После продавливания этой идеи власть станет воистину анонимной и совершенно недосягаемой для народных масс. Плюс эффективность власти вырастет, придется меньше кормить чиновников, больше овец можно пасти. В общем, Матрица.
Не могли бы Вы сформулировать, почему?
Потому что чем сложнее алгоритм, чем больше в нём ошибок, в том числе и тех, которые являются продолжением неисправностей оборудования. И если ошибка означает разницу между жизнью и смертью, на такой неоправданный риск я не готов. Сейчас автомобили не обладают такими алгоритмами, и то периодически выявляются проблемы в управлении трансмиссией, от которых машины например уходят с дороги. А если к этому прибавить еще и сложные алгоритмы взаимодействия на дороге, порядочно автолюбителей будет выпилено.
Помнится, в ЖЖ одного оттолераченного гражданина из Прибалтики было описание , как мальчик желающий воспользоваться туалетной кабинкой в школе- должен был взять бусики с ручки двери и повесить себе на шею- а после посещения - вернуть бусики на ручку двери.
В 21 веке есть сотня иных технических способов показать, что кабинка занята.
Точно также и в предложенной дилемме: главное здесь - приучить население к мысли что придёт время , и их жизнь будет решаться автоматически.и дело вовсе не в дорогах.
0_о
А бусы то зачем /?
Очко Овертона раздвигать.
Бусики на ручке= кабинка свободна. Такое обьяснение . а в реальности , это очередной маленький шажок к готовности ребёнка шизофренизироваться, не каждый сходу готов принять 40 видов гендерной принадлежности, и себя куда нибудь вписать...
А задвижку повернуть не судьба??? Давно есть с надписью снаружи занято/свободно...;-)
Может не все читать умеют ?
Или в свободной стране!! все свободно !!!
Ну там даже в цветах: красный-занято, зелёный-можно срать!!! ;-)
Или там дальтоники поголовно? ;-)
Не красный нельзя- не толерантно могут подумать на индейцев !
Поддерживаю!
гарантированно пока никто не сможет просчитать жертвы.
Оперировать придется вероятностями.
Сберечь надо максимум жизней. Т.е. вероятность этого должна быть больше в выбранном сценарии.
Все пассажиры-водители-пешеходы должны быть равны изначально.
Иначе, быстро появятся "исключительные" участники ДД.
Разве что, детей можно выделить в льготную категорию с каким-то весовым коэффициентом.
Нарушение правил - минус для нарушившего, при принятии решения.
Вечного в жизни ничего нет (кроме этой фразы).
Варианты (скорее всего, не один) надо выбрать, и обкатать на практике.
"Суха теория, мой друг, но древо жизни...."
ПС: Еще можно рассмотреть нестандартное поведение машины. Скажем, она не в стену рулит, а разваливается на месте, "меняет форму под удар" (развитие концепта авар. подушки) или еще что.
Может даже, резко прыгает, меняя траекторию. Мало ли, какие машины там будут.
> Еще можно рассмотреть нестандартное поведение машины. Скажем, она не в стену рулит, а разваливается на месте, "меняет форму под удар" (развитие концепта авар. подушки) или еще что.
Якорь бросает!
Предлагаю торможение двигателем: в экстренной ситуации двигатель отстёгивается и волочится по асфальту, помогая остановить машину.
А вообще проще сделать разумное ограничение скорости, чтобы таких проблем не возникало.
быстро появятся "исключительные" участники ДД.
Чинуши и различные силовики и сейчас "исключительные" участники ДД. Ещё их дети, жены, тёщи, любовницы и т.д.
кмк, кроме совсем исключительных вариантов: Президент-премьер, такого, в мирное время, быть не должно.
Что не стоит закладывать и в прогр. алгоритмы.
Не видать тогда автопилота как своих ушей)
они уже есть. Другое дело, что, как выше написал: "Суха теория.."
Придется учитывать, коли мы не роботы, не только механич. алгоритмы, но и алгоритмы социума, в котором плаваем. Есть в этом и минусы и плюсы.
Вот от лобовых ударов неплохо было бы что-то придумать, типа подпрыгивания одной из машин, это да.
Закон 1-ый:
"Машина не может причинить вред человеку, или, путем бездействия, позволить человеку пострадать".
Закон 2-ой:
"Машина должна выполнять приказы человека, если они не противоречат первому закону".
Закон 3-ий:
"Машина должна защищать свою собственную жизнь, если эта защита не противоречит первому или второму законам".
... совершенное исполнение 1-ый. Совершенная готовность 2-ой. Совершенная безопасность 3-ий и, - попрощайтесь с долгими апгрейдами и сервисными звонками, пейсоходы.
Эти "3 закона роботехники" - прекраснодушный бред, всегда так считал.
Машина должна соблюдать ПДД.
Этого достаточно.
>> Все пассажиры-водители-пешеходы должны быть равны изначально.
Это, кажется и так прописано в Конституции: статья 19.
А откуда автопилот знает,что в машинах едут врачи или преступники?И как автопилот определит,.что дорогу переходят дети,а не взрослые?Это надо иметь суперинтеллект в каждом авто.
> будет возможно знать какие именно пассажиры, находятся в машине(количество, возраст, профессия, состояние здоровья и т.д.).
О. Сразу видно - икономизды лезут размышлять про автопилоты. Естественно, ничего кроме бреда измыслить не могут. Белковый водитель про всё это думает при аварийной ситуации? Этические проблемы решает?
Анекдот в тему:
На занятиях в грузинской автошколе инструктор задает вопрос курсанту:
— Ты едешь на машине по горной дороге. Делаешь поворот и вдруг видишь, что перед тобой на дороге слева стоит бабушка, а справа — красивая девушка. Кого давить будешь?
— Бабушку, — после продолжительной паузы ответил курсант.
— Дурак! Тормоз давить надо!
если все соблюдают ПДД, то аварий быть не должно (напомню, что обязательная техническая исправность ТС - тоже часть ПДД)
то есть там, где ДТП - там и нарушение (или в очень редких случаях - недоработака в самих ПДД)
так вот - жертвовать надо теми, кто нарушает ПДД, сколько бы их не было
Вот - ОДИН ВМЕНЯЕМЫЙ комментатор нашелся (кроме меня :-)
Так понял что если выбежали дети на проезжую часть, то даже на тормоза не надо жать - сразу давить? Старушка старая - само собой. Человек больной. Про велосипедистов можно даже не спрашивать.
Это нарушение устройства транспортной артерии. Сплошной Забор вдоль дороги со стороны пешеходов + надземные (подземные) переходы должны исключать появление и детей и старушек. Велосипедист тоже появляется не внезапно - на то радары и лазерные дальномеры и существуют.
зачем передергивать?
в топике обсуждается вопрос выбора КТО будет жертвой, если жертв не избежать
если есть возможность вообще избежать жертв - конечно же их надо избежать, это даже не стоит обсуждения
+100500
Транспорт с автопилотом может быть безопасен только при условии единства программы управления с чипами остальных участников ДД.
Но в дупу такой чудный мир.
Транспорт без автопилота не может быть безопасен в принципе, но это не повод им не пользоваться.
1. Если статистически невозможно добиться меньшей аварийности при управлении автопилотом, чем при управлении живым водителем (а дебилов за рулём хватает), то ни о каком автопилоте не может быть и речи.
2. Автомобильный транспорт очень опасен. При его использовании жертв не избежать.
3. Принцип простой - автомобиль должен экстренно тормозить. А уж кому от этого повезёт или не очень см. п. 2.
например на её пути внезапно возникнет группа пешеходов, и выясняется , что тормозить уже поздно, и единственный выход это спровоцировать аварию, направив машину например в стену.
Тут либо плохая видимость, либо превышение скорости. Соответственно безопасность достигается либо увеличением видимости (запрет парковки, рекламного мусора и т.д.), либо снижением скорости движения (с автопилотом этого элементарно добиться), а не натужным морализаторством.
Если две машины рискуют столкнуться фронтально, и одна из машин должна съехать с дороги
Та, которая нарушает ПДД и едет по встречной полосе.
А так этот кейс напоминает очередное окно Овертона. Ну, или форточку.
у неё карты не правильные. Она не в курсе про встречку.
С одной стороны, пешеходу абсолютно нечего делать на проезжей части. И если он там все же появляется, то этой вина государства в явном виде - сначала обеспечь безопасность через соответсвующую инфраструктуру, а потом запускай личные жоповозки.
Но с другой стороны, это ненаучная фантастика. Поэтому после того, как я убедился, что куча денег, выкинутых на личный автомобиль, приносит в городе сплошное разочарование, стал придерживаться точки зрения о том, что надо максимально затруднять эксплуатацию личных автомобилей. Причем делать это еще и методами, психологически неприятными. Чтобы купивший автомобиль чувствовал себя человеком второго сорта и парией, которого отвергает общество.
В идеале надо стремиться к своду законов и правил, которой бы однозначно мотивировал к тому, чтобы после приобретения автомобиля, обязательно за кредитные деньги, человек ставил его на прикол и только платил налог, но не использовал автомобиль по назначению.
построили ЗАБОР на разделительной полосе высотой 1,7 метра на длину 6км по всей 6ти полосной магистрали в городе. Так КАЖДЫЙ день бухие и школота лезет через него. Минимум 3 человека в день - лезет через забор. Виноваты понятно власти и автомобилисты, да.
потому надо что бы ВСЕ перестали ездить? А если завтра вы разочаруетесь в женщинах - срочно потребуете запретить гетеросексуальный секс?
Вы для начала ОТ приведите в порядок))) Как вы заставите автолюбителя чувствовать себя парией, если он будет из теплого кресла личного авто смотреть на пассажиров скотовозного автобуса, в котором люди как селедки с бомжами в обнимку и с отмороженными ногами едут на работу?)))
Вот когда лично вы купите слона - тогда и поговорим об идеалах)))
> Минимум 3 человека в день - лезет через забор.
> Значит, так. Берег моря. Пляжи. И на каждом – спасательная команда. Чтобы за буйки не заплывали, утопленников – за волосы... ну и прочее. Кроме того, конечно, плакаты висят, объявления, угрозы. А за буйки все равно заплывают. Спасатели орут, на лодках мечутся, штрафуют. Ничего не помогает. Только на одном пляже – благодать. Никто ничего не нарушает, никуда не заплывает. Порядок. Что, спрашивают, такое? Что за секрет у вас? «А очень просто, - отвечают спасатели. – Мы тех, кто за буек заплывает, - топим. Прямо с лодки. Раз... Кхх – и нет. И никаких заплывов... Никаких».
смешно вам... я вот видел как один скубентик перелазил через забор, не удержался и затылком упал на асфальт - на третью левую полосу, а сверху по нему еще крузак проехал. ДПСникам бы по хорошему фоток собрать и вдоль всего забора развесить - когда кого пришибло, может сработал бы ваш метод..
Насчет "Вы для начала ОТ приведите в порядок", позвольте поинтересоваться, вы - это кто? В смысле кто, по-вашему, должен для вас приводить в порядок ОТ? По мне так как раз вы и должны. Ну я конечно тоже. Путем полноценной оплаты этого самого приведения в порядок ОТ.
Хотя мне непонятно, с чем вы спорите? Я выдвинул несколько тезисов. О том, что прежде чем садиться за руль, ширнасмассам надо позаботится о соответствующей инфраструктуре.
И о том, что пока этого не сделано, необходимо всячески затруднять упомянутым ширнармассам пользование личными автомобилями.
И о том, что эффективно будет это делать не только материально-финансовыми, но и психологическими методами. Путем создания соответствующей психологической обстановки, способствующей возникновению у автопользователей чувства несправедливости и досады.
Ну и наконец о том, что упомянутые меры не должны отрицательно влиять на авторынок и, главное, на рынок кредитования.
Так что именно вы оспариваете?
История из жизни, 80-е годы. Дядя решил перейти скоростную магистраль, ограждению забором. Не смог. После похорон семье был выставлен счёт на ремонт автомобиля и лечение шофёра.
// если например на её пути внезапно возникнет группа пешеходов
Если такое ВНЕЗАПНО не будет исключено на уровне алгоритмов, то нужно списывать в утиль весь коллектив разработчиков.
В любых условиях неопределённости автопилот должен снижать скорость до статистически безопасной.
нда - Люди Сами Творцы своего счастья....
И анекдот - про тормоз Давить Надо.
В целом - Вопрос Выеденного яйца не стоит - при адекватных скоростных режимах и 100% исправной машине она успеет МИНИМИЗИРОВАТЬ вред от аварии.
Если машина не исправна - виновата обслуживающая организация - НО сама АВАРИЯ Является несчастным случем и ГЛАВНАЯ задача машины МИНИМИЗАЦИЯ вреда.
Если сторонние участники и/или участник транспортного процесса не соблюдают ПДД и/или скоростной режим Чем провоцируют аварию - виноваты те кто нарушают ПДД - ГЛАВНАЯ задача машины МИНИМИЗАЦИЯ вреда для своего пасажира и постороних - исключая вызвавших аварию.
Если на дорогу выскочил в дупель пьяный и/или ребенок Основная задача машины МИНИМИЗАЦИЯ вреда - по приоритету - Водитель + пассажиры, потом Сбиваемый, стороние участники движения при отсуствии угрозы их жизни - те вобще то робомобили Имеют ОГРОМНОЕ приемущество в Реакции и МОГУТи ДОЛЖНЫ координировать свои действия что РАСКРЫВАЕТ целые новые ветки вероятных маневров.
Зачем это растекание мыслью по древу?
Всё уже давно выяснено и зафиксировано в правилах - как и что делать.
"В случае возникновения аварийной ситуации водитель обязан не меняя полосы движения применить все необходимые действия для немедленной остановки"
ЗА тем что текто обовсем этом спорят ПДД давно не читали
> робомобили Имеют ОГРОМНОЕ приемущество в Реакции и МОГУТи ДОЛЖНЫ координировать свои действия
Мало того - они могут брать информацию о дорожной обстановке и от других источников - уличных камер, воздушных беспилотников, светофоров, носимых людьми гаджетов. То есть будет реализовано то, чего человек не сможет сделать никогда - робомобиль будет реально "заглядывать за угол", а не предугадывать, "что там, за теми кустами".
Бесконечное количество развлечений со спуфингом - "за углом спряталась рота детсадовцев"
Страницы