Машины автопилоты кажутся более надежными чем те, которые управляются человеком. Но в случае аварии или возникновения опасной ситуации на дороге какова должна быть реакция машины : спасти вас или других ? Сложная дилемма встает перед разработчиками искуственного интеллекта, которые занимаются кодированием умных машин. Вопрос этики. Необходимо будет разработать некоторые сценарии, включающие вашу смерть.
Исследователи из Школы экономики г. Тулузы напечатали доклад под названием «Социальная дилемма машин автопилотов»
Машина автопилот должна будет пожертвовать вашей жизнью , чтобы спасти жизни других
Авторы опросили 2000 человек. Был задан вопрос : «Водитель должен пожертвовать собой, включая возможность собственной смерти, чтобы избежать убийства бОльшего количества человек?» . В основном опрошенные ответили « Да , Водитель должен пожертвовать собой чтобы спасти группу пешеходов например из 10 человек." Но, когда исследователи задали вопрос другим образом, говоря о том, что существует риск гибели и всех пассажиров машины, ответы были менее категоричны. Понятно , что самопожертвование и гибель пассажиров не станет аргументом в пользу продажи машин автопилотов.
Умные машины : Кто должен выжить, а кто умереть?
И тем не менее необходимо будет сделать выбор. Машинам автопилотам придется принимать решение, если например на её пути внезапно возникнет группа пешеходов, и выясняется , что тормозить уже поздно, и единственный выход это спровоцировать аварию, направив машину например в стену.
Чтобы найти решение этой моральной дилеммы, исследователи запустили сайт «Moral Machine », на котором посетителям предлагаются рассмотреть различные ситуации на дорогах, с тем чтобы оценить глобальное видение проблемы. При помощи демонстрации различных подключенных объектов, будет возможно знать какие именно пассажиры, находятся в машине(количество, возраст, профессия, состояние здоровья и т.д.). Также машина сможет определять, какая именно машина понесёт наибольшие потери. Короче, разработчики машины должны будут запрограммировать : Кому жить, а кому умереть....
Должен ли водитель погибнуть, чтобы спасти 5 детей? Этот же водитель должен ли выжить, если речь идет о 5 грабителях банка ? Если две машины рискуют столкнуться фронтально, и одна из машин должна съехать с дороги, чтобы врезаться в дерево, то какая из них должна это сделать? Та, в котрой 4 преступника или та, в которой сидят 2 врача? Все эти ситуации должны будут быть вписаны в будующие алгоритмы. И данные, собранные на каждого индивидума в течении нескольких лет, будут предоствлены на откуп машине, которая будет решать насколько мы значимы в её глазах.
Дебаты запущены. Нам будет интересно знать ваше мнение по этому вопросу.
Источник : http://www.presse-citron.net/voiture-autonome-faut-il-programmer-votre-mort/
Перевод с французского Parhonf
Комментарии
Пешеходу насрать, что вы там покупали и где и сколько, это именно машина является опасностью для жизни, а вовсе не пешеход.
Вы в случаем головой не ударялись в жизни ?
А мне насрать на пешехода когда он нарушает правила. А еще я не собираюсь быть козлом отпущения из-за каких то мудаков, которые думаю жопой и не способны предсказать развитие ситуации хоть на 20 секунд вперед.
Нет некому дело до того что вы там себе возомнили о безопасности своей попы, если вы взялись за опасный инструмент, то только вы и только вы уже отвечаете за безопасность окружающих от этого опасного инструмента, ответственность других второстепенна, а если не хотите отвечать ? так не берите опасный инструмент.
А если таким незадачливым пешеходом окажется еврей... – Давить его как собаку?)
Конечно же нет ! а вдруг этот еврей пешеход заплатил этому автоконцерну больше денег чем пара валенок за свой мобиль на автопилоте, и страховку тоже мог заплатить по сумме больше чем нищеброд пара валенок.
Де-факто так и есть. Чем дороже машина тем больше шансов выжить и не получить серьёзных повреждений. Но это почему-то вас не удивляет и не расстраивает. Хотя подрывает так сказать основы социальной справедливости(ТМ)
Хотя, может это у вас и генетическое.
Ильф и Петров: "Золотой телёнок"....
Авто придумали пешеходы, а потом их же стали давить придуманные машины...;-)
Я хоть и не еврей, но в этой мысле вас поддержу. Еще нужно ввести правило, чтобы сбивать всех мопедистов и велосипедистов впридачу. Потомучто НЕФИГ.
Разжигаем? )))
Почему нет обратного предложения? Например сжигать автовладельца вместе с авто, за превышение, за выезд на переход, за гоняние по пворовой, за парковку на тротуаре, за... .. .? )))
меня тоже раздражают "сайгаки" но я понимаю что на бешенно летящей железке нахожусь я а не он. И да, водителей в городе которые едут аккуратно и обдумано - очень мало и они как раз таки и думают о ситуации за 20 секунд вперед и их пешеходы не раздражают. хотя справедливости ради отмечу что процентов 90 правила соблюдают, просто за ситуацией не следят. Из личного опыта. не всегда, но в 99.9% случаев пешеходы более предсказуемы чем другие авто. У меня на одну опасную ситуацию с пешеходом приходиться больше сотни с другими авто.
да да, вот мне на заводе именно станок является опасностью для жизни, а не дурак, который в него руки сует))) И да, дураку наплевать сколько за тот станок заплачено - главное же жизнь и здоровье дурака)))
У вас что общее с интеллектом как у пары валенок - логика хромает на все ноги.
То есть вы обладая изумительной логикой не способны аргументировать ваш бред, кроме как перейти на обсуждение личностей? не вопрос, если вам хочется то я могу сказать что вы мудак с отличной логикой. Вам полегчало?)))
по сути есть что ответить, или у вас с логикой на самом деле напряг, только говном плевать умеете?
Источником опасности является оператор механизм а
Чувствуется тяга к могуществу золотого тельца... )
Нет! Это обычная логика. По вашей логика при столкновении машины и поезда автоматически должен быть виноват машинист, ведь поезд это еще более опасное транспортное средство . Но там законы перевернули с головы на ноги и справедливо решили что машине намного проще остановится. и горизонт планирования у водителя есть а у машиниста нет. Но почему-то в случае авто и пешехода логика сразу отказывает!
Такая обычная логика рано или поздно закончится холокостом, так как законы социума одними лишь ПДД не ограничиваются.
Попрошу развить мысль ? даже интересно стало!
Пожалуйста: есть нации, которые внутри себя (а некоторые и вне себя) пытаются жить по законам равноправия. Все равны: имеют равные начальные шансы и шансы предстать перед богом в произвольный момент времени. Но все это человеческое, так сказать, стадо портит одна паршивая овца, которой некие нормативные документы запрещают быть равной среди равных, и требуют особой исключительности в деле борьбы за собственную, так сказать, шкуру. Положение осложняет тот факт, что пока другие нации изобретали там электроэнергию, паровозы и т.д., эта нация изобретала деньги, в их современном понимании. Эти еврейские деньги, дают иллюзию права некоторым особям утверждать, что раз у меня есть деньги, я могу давить, кого хочу.
Жить в мире, который не замечает данную назревшую проблему, становится невыносимо. И многие начинают мечтать либо о мире без евреев, либо о мире без денег (в последнем случае идеи равенства евреям да и просто безродным жлобам можно будет разъяснить на бытовом уровне).
Мы все живем в быту по определенным правилам. Привила создаются по двум основным причинам- 1. Чтобы всем было удобнее жить 2.Чтобы легче было кого-нибудь обобрать. В мире авто как правило работают первые. Хотя усиленно внедряются вторые
. Я только ратую за за личную ответственность за личные ошибки. Вам же не придет в голову оштрафовать пешехода за то что водитель рядом с ним был пьян. А водителю дать штраф ни за что - рядом . Собственно пешеход как правило вообще ни за что не отвечает! И так не должно быть!
Есть общие параметры системы, а есть частности, но вы как демагог и что закономерно любитель своей попы в тепле, оперируете частностями которые вам выгодны в данный момент.
Это так сильно бросается в глаза, но вы этого не видите, это похоже из за мозаичного мышления.
Не катит "вашей логика".
Поезда ходят по специальным путям, по которым, кроме них, ходить никому нельзя в принципе. Если бы автомобили ходили по специальным эстакадам, на которые пешеходам нельзя было забираться вообще, ... но такая ситуация бывает далеко не везде, в реальности автомобили и пешеходы делят дорогу между собой.
И откуда у вас такая уверенность, что правила дорожного движения столь однозначны? и что робот способен за доли секунды правильно оценить обстановку и принять решение в пользу пассажиров?
а что по проезжей части у нас можно ХОДИТЬ всем кому нипопадя? Вы вообще водительское удостоверение покупали в переходе что ли?
странно, а у нас для ЖД уже везде подвесные дроги и эстакады построены?
дитятко, гугл откройте и вбейте - "гибель детей на ЖД путях", много нового узнаете... Это кстати штрафуется нехило, а за предметы на ЖД путях вообще уголовка может светить. Почему такого нет к автомобильной дороге - я например не понимаю)))
в реальности есть ПДД, которые ОДНОЗНАЧНО трактуют нарушение ПДД как виновность. Почему невиновный водитель должен нести ответственность за нарушителя - загадка. Очевидно потому что так хочется ненавистникам авто)))
Не знаю, как у вас в Израиле, но в России по проезжей части ходят. Например, пешеходы на переходах на разрешающий сигнал. Что говорят ПДД вашей новой родины о случае, когда пешеход, заканчивая переход на свой зелёный, споткнулся, а пока поднимался, загорелся зелёный для автомобилей? Давить будете?
А пассаж про "подземный переход" оставлю без комментариев. Дабы не усугублять мировой антисемитизм.
Начинаем с хамства? Не буду парировать, дабы ... (см. первую реплику).
Если Вы не видите разницу между боковой маневренностью локомотива и автомобиля, если вы не видите разницу между специально выделенными путями и внутригородскими дорогами, то и нечего комментировать.
"Ненавистников авто" не существует в природе. Существует вполне понятное презрение к автобыдлу, считающему, что раз у него больше киловатт, чем у пешехода, то тем хуже для пешехода. Как показывает наша с вами дискуссия, автобыдло, вопреки распространённому мнению, есть не только в РФ.
1
неверная аналогия. Тут ситация скорее с главной и второстепенной дорогой. Вы же не будете отрицать что при столкновении двух авто прав тот кто на главной? Вот и поезд... он всегда на главной
Машина с открытым кодом никогда не будет допущена к эксплуатации, потому что никто не согласится страховать последствия работы криворукого программиста. Ситуация полностью эквивалентна запрету продаж нелицензированных запчастей.
Водитель и машина является источником опасности, ему и отвечать за обеспечение безопасности пешеходов. В иных случаях машина толком не сможет точно знать всех аспектов.
Кстати, да, отвечает именно водитель. Поэтому оптимальный вариант — давать возможность ему самому настраивать приоритеты, в соответствии со своими убеждениями.
И лишать водительских прав тех, чьи убеждения позволяют сесть в машину тому, кто не понимает, что опасность представляет автомобиль для пешехода, а не наоборот.
на машину с автопилотом не нужны права )
Если пешеход сам нарывается на опасность — его проблемы.
учите ПДД. Не водитель, а машина является источником опасности. Ответственность водитель несет только в том случае, если он не убедился в безопасности своих действий по управлению авто. А если бухой мудак или малолетний кретин лезут под колеса в неположенном месте - вины водителя нет, а значит и ответственности - тоже.
Неверно. Не будет уголовной ответственности. А гражданская, в виде денежной компенсации пострадавшему -вполне может быть (и бывает на практике). Иначе бы автотрассы превратились бы в полосы смерти, где такие как вы, "вооружённые" своей эгоистической "правотой", безжалостно давили бы не только "бухих мудаков" и "малолетних кретинов", но и взрослых, которым посреди перехода прихватило сердце и детей малолетних, выбежавших на дорогу за мячиком. Интересно, посчитаете ли вы своих собственных детей "малолетними кретинами", если они окажутся в подобной ситуации?
Вы правил дорожного движения не знаете.
А что, знание ПДД позволяет вам не знать ст. 1079 ГК РФ?
Увы, некоторые из водителей даже не подозревают о существовании такой статьи и очень удивляются, столкнувшись с ней в суде. Как один из таких знакомых, сбивший пьяного пешехода в неположенном для перехода месте и вынужденный по суду выплатить немалые деньги пострадавшему.
Дело не в статьях, а в той ерунде, которую Вы написали.
Всё есть в ПДД, что, когда и как нужно делать. В том числе и в тех ситуациях, которые Вы привели.
вы знаете что вот конкретно эта норма делает выгодным сбивать насмерть? Потому что водителю проще доказать у трупа умысел броситься под колеса, чем у калеки. Калека по уму потом на суде на голубом глазу говорит - "я ниче не знаю, я не выходил на дорогу"...
Во первых тут может быть масса ньюансов. Например превышение скорости на 1 кмч уже делает виновным водителя. Во-вторых - если бухой стоял или лежал на дороге а водитель видел и не предпринял действий - тоже водитель будет виноват. Основная проблема водителей - это когда пешеход совершает непредугадываемые действия, в остальных случаях - опытный водитель объедет от греха подальше....
Ну и основные рекомендации - поставьте регистратор. Подавайте встречный иск.
У Вас тоже сова на глобусе.
Есть требование ПДД к водителю - "в случае возникновения опасности" и далее по тексту. Так вот водителю приходится доказывать - была ли у него возможность, в том числе и техническая, предотвратить ДТП. А также соблюдал ли он пункт правил 10.1 (вроде) - т.е. вёл с учётом дорожной обстановки, видимости и пр.
гражданская ответственность - не уголовная, это раз.
автолюбитель не несет ответственности в следствии неодолимой силы или умысла потерпевшего - это два. Что бы доказать умысел - достаточно использовать видеорегистратор, который покажет, что потерпевший ВИДЕЛ автомобиль и тем не менее полез на дорогу.
Ну и третье - точно так автолюбитель имеет полное право подать встречный гражданский иск на компенсацию ремонта автомобиля (страховки же у пешехода нет?) с полным основанием выиграть этот иск в случае вины пешехода. И такие случаи на практике происходят все чаще.
вы ловко натянули сову перехода проезжей части в неположенном месте на переход по "зебре"))) Может быть пешеход выбежал в неположенном месте и у него прихватило сердце?)))
Во первых для игр детей есть отведенные места - называются детские площадки.
во-вторых - есть папа с мамой, которые ОБЯЗАНЫ объяснить ребенку: 1) не играть возле дороги, что бы как минимум не дышать выхлопными газами 2) не кидать мячики на дорогу что бы не нанести ущерб ЧУЖОМУ имуществу 3) и самое главное - не бежать на дорогу сломя голову.
в третьих - я лично сам если увижу малолеток на обочине играющих в мячик - выйду и уши надеру по старой советской привычке, да и многие водители сделают так же, один-другой проедет - третий остановится.
Понадобилось всего один раз в 5 летнем возрасте надавать ладошкой по заднице прямо на улице, что бы отучить выскакивать НА ЛЮБУЮ дорогу не посмотрев по сторонам - зебра, не зебра, светофор, не светофор - ВСЕГДА сначала убедиться что машин нет или они остановились и только потом идти. Потому я за своих детей спокоен, мне их "малолетними кретинами" называть не придется. А вот ваших - скорее всего уже называли и не раз - такие как вы и по зебре ходите так как будто вам весь мир должен)))
Я не специалист, но как мне кажется, чисто технически легче спасти людей в машине. Они выживут с большей вероятностью чем пешеходы.
А раз так, то людей в машине и будут спасать в первую очередь, предпочтя синицу в руке, а не утку за лесом.
Краш-тест проходит на скорости 55 км/ч с бетонным препятствием, при этом смотрят, что манекен не сломал шею. Максимальная скорость в городе - вроде 60 км/ч? То есть безопасность пассажиров обеспечена технически. Автопилот ОБЯЗАН выруливать хоть в столб, лишь бы спасти пешехода, пассажиры выживут.
Машина + машина = программирование дорожного движения, и тут нечего обсуждать. Машина + пешеход = расстрелять проектировщика\архитектора.. дорожки должны быть разнесены. Чушь все это.
Основная проблема в сборе данных о людях. Сама постановка вопроса подразумевает поголовную чипизацию как свершившийся факт. Имхо, человечество еще не готово к этому.
P.S. еще и подготовка к делению на касты - золотые, серебряные и медные людишки ))
Подразумевается что автопилот не может ошибиться. Исключая плохую программу, поломку и вывод из строя внешними силами( Хакинг и др). Но проблема в том что горизонт планирования никто не отменял. Доле в том что он изменяется непредсказуемо что не дает возможность предсказать дорожную ситуацию со 100% вероятностю. В сущности способов повышения безопасности всего два - снижение скорости и разделение потоков. Говоря просто - это забор между потоками и скорость сопоставимая со скоростью пешехода. Тогда безопасность будет близка к 100%. Но что то мне подсказывает что продать такой авто будет нелегко, ди и пробок на дорогах от этого не будет меньше.
сфига ли? Его боги, что и пишут? две трети кода невидимой рукой рынка будут засунуты из неизвестных либ, с которыми - случайно! - чуть лучше знаком коллектив разработчиков. И, в большинстве случаев, без их анализа. Тесты прошли - тяп, ляп - и в продакшн - время поджимает
С чего вы взяли, что один робот не встретит на встречке другого робота - с устаревшей навигацией, к примеру? Или просто обманутого (спуфинг) на одном из поворотов?
Напротив, залог безопасности будет только в одном случае - когда есть две полосы и автоматы выбирают их произвольно, общаясь между собой и используя сенсоры. Только в этом случае разработчики хоть маленько почешутся и построят надёжную систему развода машин
Парадоксы – это следствие неполной логики. Снижайте полную энергию системы в аварийной ситуации и правильное решение будет находиться искусственным интеллектом само собой.
Да, я давно считаю что в городе надо ограничить скорость до 40км. превышение - жеско штрафовать (не менее 20тр). сразу число смертей упадёт в разы.
А скорость движения всего потока значительно увеличится. Это довольно эффективный способ борьбы с пробками.
В Болгарии в городах 50, и штрафуют жёстко! Никто не гоняет, пешеходов пропускают всё. Вот только эти пешеходы ходят по зебре как беременные пингвины, неторопливо и вперевалочку...:-(
Страницы