Машины автопилоты кажутся более надежными чем те, которые управляются человеком. Но в случае аварии или возникновения опасной ситуации на дороге какова должна быть реакция машины : спасти вас или других ? Сложная дилемма встает перед разработчиками искуственного интеллекта, которые занимаются кодированием умных машин. Вопрос этики. Необходимо будет разработать некоторые сценарии, включающие вашу смерть.
Исследователи из Школы экономики г. Тулузы напечатали доклад под названием «Социальная дилемма машин автопилотов»
Машина автопилот должна будет пожертвовать вашей жизнью , чтобы спасти жизни других
Авторы опросили 2000 человек. Был задан вопрос : «Водитель должен пожертвовать собой, включая возможность собственной смерти, чтобы избежать убийства бОльшего количества человек?» . В основном опрошенные ответили « Да , Водитель должен пожертвовать собой чтобы спасти группу пешеходов например из 10 человек." Но, когда исследователи задали вопрос другим образом, говоря о том, что существует риск гибели и всех пассажиров машины, ответы были менее категоричны. Понятно , что самопожертвование и гибель пассажиров не станет аргументом в пользу продажи машин автопилотов.
Умные машины : Кто должен выжить, а кто умереть?
И тем не менее необходимо будет сделать выбор. Машинам автопилотам придется принимать решение, если например на её пути внезапно возникнет группа пешеходов, и выясняется , что тормозить уже поздно, и единственный выход это спровоцировать аварию, направив машину например в стену.
Чтобы найти решение этой моральной дилеммы, исследователи запустили сайт «Moral Machine », на котором посетителям предлагаются рассмотреть различные ситуации на дорогах, с тем чтобы оценить глобальное видение проблемы. При помощи демонстрации различных подключенных объектов, будет возможно знать какие именно пассажиры, находятся в машине(количество, возраст, профессия, состояние здоровья и т.д.). Также машина сможет определять, какая именно машина понесёт наибольшие потери. Короче, разработчики машины должны будут запрограммировать : Кому жить, а кому умереть....
Должен ли водитель погибнуть, чтобы спасти 5 детей? Этот же водитель должен ли выжить, если речь идет о 5 грабителях банка ? Если две машины рискуют столкнуться фронтально, и одна из машин должна съехать с дороги, чтобы врезаться в дерево, то какая из них должна это сделать? Та, в котрой 4 преступника или та, в которой сидят 2 врача? Все эти ситуации должны будут быть вписаны в будующие алгоритмы. И данные, собранные на каждого индивидума в течении нескольких лет, будут предоствлены на откуп машине, которая будет решать насколько мы значимы в её глазах.
Дебаты запущены. Нам будет интересно знать ваше мнение по этому вопросу.
Источник : http://www.presse-citron.net/voiture-autonome-faut-il-programmer-votre-mort/
Перевод с французского Parhonf
Комментарии
Сесть в тюрьму таким сложным способом ничего не заработав - это зачем? Гораздо проще и веселее звонить про минирование школы. И что? Ловят и наказывают. И тут будут ловить.
Да мало ли? Организация коридора для собственного проезда, покушение на жизнь ВИП-лица, ограбление инкассаторов, заказное убийство путём вывода на встречку автомобиля жертвы при помощи введения в заблуждение навигации - да что угодно
То есть речь уже про более серьёзные преступления. Так это и сейчас совсем не проблема Шипы для пробития колёс делаются в гараже любым косоруким пионером. Лазером в глаз посветить может любой дурак. И т.д. Если есть десятки простых способов, и добавится ещё один сложный - ничего существенно не изменится. Кстати, уже сейчас можно дистанционно вмешаться в работу авто. Пока никаких массовых проблем от этого не было.
ЭЙ, частные собственники автомобилей...если кого нибудь из моих подавите - я вас просто убью, легко...и автопилот никому не поможет...
как сказал один мудрый человек. только глупец угрожает. мудрый приводит в действие свой замысел.
Публичные комментарии с угрозами, даже безадресные - лишнее.
Рекомендую удалить сообщение.
Моё мнение: автопилотным автомобилям не место на дорогах общего пользования. Только специальные пути, что-то вроде монорельса, поднятого над землёй.
Очевидный ответ: спасать нужно того, кто не нарушает ПДД.
ИМХО, беспилотный транспорт должен двигаться по СВОИМ дорогам, исключающим появление на них пешеходов и машин управляемых людьми. Ну а дальше простая математика с минимизацией ущерба (любое число раненых лучше одного трупа, несколько легко раненых лучше одного тяжело и.т.п). Зная параметры попадающих в ДТП ТС это вполне просчитывается.
Да, звучит фантастично, но не более чем выглядит нынешняя дорожная ситуация для людей лет двести назад (по дорогам нельзя ходить пешком и ездить на лошади)
Зная алгоритм работы такой машины, очень просто будет избавиться от неугодного человека... Пешехода надолго не посадят.
безполезная болтология.
у мясных водителей тоже есть такая дилема
робот в таком случае должен просто тормозить, почему он что-то должен еще решать?
Все это прекраснодушный бред. Ради прибыли, ради наживы - банкстерский капитализм устраивает ВОЙНЫ, ГОЛОД, ГЕНОЦИД - убивают десятки миллионов людей, без никаких колебаний и сомнений.
А тут - ради возможности избавиться от непредсказуемого - безумного и опасного - фактора - водителя за рулем - можно пойти на любые жертвы.
Но даже если мы будем рассматривать идеальную нео-коммунистическую формацию, то все равно - никаких аргументов НЕ давить пешеходов, которые лезут под колеса - нет. Да, необходимо предпринять меры для торможения или объезда неправомерно находящегося на проезжей части пешехода, но ровно в таких пределах, которые не нанесут никакого ущерба другим участникам движения, либо пассажирам транспортного средства.
Теперь простая аналогия - надеюсь, автор в курсе, что машинист ПОЕЗДА не несет НИКАКОЙ ответственности за попадающих под поезд пешеходов. Поезд имеет абсолютный приоритет.
Точно также нужно программировать транспорт на дороге - если пешеход сбит а) вне пешеходного перехода б) на зеленый сигнал - то ответственности не должно быть НИКАКОЙ.
Проблемы для пешеходов не вижу - мы же переходим железнодорожные пути, ну те - у кого мозгов не хватает понять, что переходит он дорогу не по правилам на свой страх и риск - тех заберет Дарвин.
Сам я, если что, автомобиля не имею, играю роль исключительно пешехода. Сам отвечаю за результаты перехода дороги, рассматриваю авто-транспорт точно так же, как и поезд на железной дороге, и всем того же желаю - ради Вашего же здоровья.
Аргумент как раз есть - пассажир защищён технически (краш-тест на 55 км/ч в бетонную стену), а пешеход нет. Пассажир выживет в любом случае. Спасать надо пешехода. Тут даже нет никакой дилеммы, одно раздувание слона из мухи.
Ну да, ну да. В рекламных проспектах так все и будет. Три закона автороботехники. А потом вдруг вскроется, что реальный алгоритм подсчитывает страховые выплаты и принимает наиболее выгодное для производителя решение. Несколько одиноких водителей размажет об стенку. Выяснится, что не только фольксваген так делал, но и вообще все. Но платить будет только фольксваген.
Нужно маркировать дороги, по которым разрешен проезд беспилотных автомобилей. Это раз.
Идиотов, не просто игнорирующих ПДД, но делающих это без должного расчета, не жалко. Это два.
Статья, чистый наброс зарадисрача. Ибо:
А. Дилемма с тем кто и кем должен пожертвовать надуманна, так как:
1.если обе машины на автопилоте, то оба (в отличие от людей) не могут нарушать правила, и симметричной аварийной ситуации (когда виноваты оба) просто не может возникнуть.
2 если обе машины на автопилоте, и одна нарушает (если примеру из за неисправности), то гибнуть должны нарушители. То же самое и если за рулем нарушителя - человек.
3. Вситуации массовой гибели (к примеру стихийное бедствие) система должна просто минимизировать потери. Чисто статистический подход.
Б. Сам факт что программисты пытаются привязать (в головах граждан!) выбор машины к социальному статусу пассажиров, это создание не автомобиля, а средства слежения и узаконенного убийства. Чисто алгоритмически это означает что программа должна "знать" пассажира и его статус, и что для неё есть круг VIP пассажиров, которые не должны погибнуть ни при таком раскладе, (т.е. ради них будут убивать всех не-випов). И соответственно есть круг пассажиров, которые 100% погибнут при любой поездке. (К примеру преступник, или просто неугодный будет убит или покалечен (это довольно легко и точно просчитать) автопилотом при попытке поездки.)
выбегает лось на дорогу. ВНЕЗАПНО. и два варианта. сбивать лося (рисковать собой) и сбивать пешехода.
проблема не надумана. чтобы не предприняли разработчики - проблема с этичностью выбора встанет в полный рост.
Чушь собачья.
Вопервых при соблюдении скорости (до 90), сбить лося для современного автомобиля неприятно, но несмертельно для пассажиров.
Вовторых там где разрешено бльше 90, лоси не бегают.
Втретьих обрулить лося довольно просто, в отличие от кошки он почти немечется по дороге, прет по прямой траектории, значит его надо обруливать исключительно сзади.
Ну и в-четвертых не по теме, - мое ИМХО: ну и трусливое же ты гавно, раз в твоей душонке в указанном примере ты усматриваешь выбор... Вероятно, тебя самого надо на рыбью муку перерабатывать, а не за руль пускать.,
интересное у вас ИМХО. Вам за такое имхо, по-хорошему, надо бы подпись поставить. Например: "любит рыбью муку больше чем людей".
Почему вы считаете, что нарушитель в курсе, что он нарушает? Механизм будет нарушать в полной уверенности в своей правоте. Карты неправильные, дорожная разметка искажена, компьютер проспуфили
Максимум, чего можно добиться в данном случае - автоматического развода, например, каждый уходит вправо
Проблема высосана из толерантной части тела. Давайте ещё подумаем о социальной проблематике жд транспорта, грузовой авиации и детских велосипедов.
Есть документ написанный кровью пешеходов и водителей - это ПДД.
Всё остальное чушь и бред от лукавого. Этот бред возник потому, что говнопрограммисты не могут обеспечить соблюдение правил говнотеслами. ИМХО будут в штатах и европке менять ПДД в сторону приоритетов производителей жоповозок, ибо "компьютер ошибаться не может".
А как программа поймет, что кто то грабитель банка?
RFID ведь. У каждого в голове
А, ну да!
А сосиальной дилеммы энергообеспечения персональных жоповозок не стоит? И сколько ресурсов улетает в трубу вместо реальных хозяйственных задач. И чего сделает молодняк безработный с этим потом. Пока что гомонастроенные обсуждают кто кого и как сегодня и как это будет поэтично.
Спор как всегда ни о чем. Использование роботов-авто повлечет за собой изменение всей дорожной системы. Они просто не будут соприкасаться с пешеходами и авто, управляемыми людьми. Это разные виды транспорта.
нафиг они не нужны автопилоты, если не могут заменит пилота хотя бы в части стандартных ситуаций. Городить под них отдельную инфраструктуру - это не то зачем они изобретаются. Пример. Автоматические жд поезда метро - давно уже повседневная вещь. Это легко сделать в силу отделенности инфраструктуры. Но это очень специфичная инфраструктура. Высоко организованная. Дорогая.
дадада, только хотел поставить этот ролик
будущее уже наступило, за рулём только роботы :)
Страницы