Машины автопилоты кажутся более надежными чем те, которые управляются человеком. Но в случае аварии или возникновения опасной ситуации на дороге какова должна быть реакция машины : спасти вас или других ? Сложная дилемма встает перед разработчиками искуственного интеллекта, которые занимаются кодированием умных машин. Вопрос этики. Необходимо будет разработать некоторые сценарии, включающие вашу смерть.
Исследователи из Школы экономики г. Тулузы напечатали доклад под названием «Социальная дилемма машин автопилотов»
Машина автопилот должна будет пожертвовать вашей жизнью , чтобы спасти жизни других
Авторы опросили 2000 человек. Был задан вопрос : «Водитель должен пожертвовать собой, включая возможность собственной смерти, чтобы избежать убийства бОльшего количества человек?» . В основном опрошенные ответили « Да , Водитель должен пожертвовать собой чтобы спасти группу пешеходов например из 10 человек." Но, когда исследователи задали вопрос другим образом, говоря о том, что существует риск гибели и всех пассажиров машины, ответы были менее категоричны. Понятно , что самопожертвование и гибель пассажиров не станет аргументом в пользу продажи машин автопилотов.
Умные машины : Кто должен выжить, а кто умереть?
И тем не менее необходимо будет сделать выбор. Машинам автопилотам придется принимать решение, если например на её пути внезапно возникнет группа пешеходов, и выясняется , что тормозить уже поздно, и единственный выход это спровоцировать аварию, направив машину например в стену.
Чтобы найти решение этой моральной дилеммы, исследователи запустили сайт «Moral Machine », на котором посетителям предлагаются рассмотреть различные ситуации на дорогах, с тем чтобы оценить глобальное видение проблемы. При помощи демонстрации различных подключенных объектов, будет возможно знать какие именно пассажиры, находятся в машине(количество, возраст, профессия, состояние здоровья и т.д.). Также машина сможет определять, какая именно машина понесёт наибольшие потери. Короче, разработчики машины должны будут запрограммировать : Кому жить, а кому умереть....
Должен ли водитель погибнуть, чтобы спасти 5 детей? Этот же водитель должен ли выжить, если речь идет о 5 грабителях банка ? Если две машины рискуют столкнуться фронтально, и одна из машин должна съехать с дороги, чтобы врезаться в дерево, то какая из них должна это сделать? Та, в котрой 4 преступника или та, в которой сидят 2 врача? Все эти ситуации должны будут быть вписаны в будующие алгоритмы. И данные, собранные на каждого индивидума в течении нескольких лет, будут предоствлены на откуп машине, которая будет решать насколько мы значимы в её глазах.
Дебаты запущены. Нам будет интересно знать ваше мнение по этому вопросу.
Источник : http://www.presse-citron.net/voiture-autonome-faut-il-programmer-votre-mort/
Перевод с французского Parhonf
Комментарии
Машина должна заботиться исключительно о жизни своих пассажиров. Во-первых, потому что пешеходы должны сами о себе побеспокоиться и не лезть на дорогу, во-вторых, потому что иной подход позволит слишком легко провоцировать аварии.
Сел в машину (орудие убийства) - будь готов пожертвовать собой - подпиши бумагу "камикадзе" и еще о трансплантации органов. Т. к. машина источник опасности, а не пешеход. Не было бы машин - не было бы опасности и угрозы жизни. Исключение - ВИПы(президент какой), общественный транспорт.
А технику безопасности соблюдать — не вариант?
Опасные зоны должны иметь ограждение(зоны возле перекрестков, школ - особенно), плюс лежачие полицейские. Автобусные остановки (выходы из магазинов...) - должны иметь железобетонное ограждение. Подушки безопасности должны быть предусмотрены не только для пассажиров, но и для пешеходов(вся передняя часть машины).
гражданин вы трассы автомобильные по всей России огородите? Оградите сначала ВСЕ дороги в РБ (включая грунотовые), тогда мы вас запустим сделать тоже самое например в Коми-Пермятском АО))))
что бы вы знали - школы у нас в РФ и так имеют заборы. Что бы школьники не лезли в неположенном месте надо не заборы ставить а своим примером показывать как себя надо чести на улице. И бить больно ремнем по жопе тех пешеходов, кто эти правила не открыто нарушает.
ну да, ну да... а как быть например с УАЗ-469, там вообще подушек безопасности нет. Ему как - пассажирам не обязательно, а снаружи - изволь вешать? Нет понятно - что быдло нищее не должно вообще на машинах ездить, потому внешние подушки будут только подспорьем в данном вопросе - цена тачки увеличится тысяч на 100, как раз дополнительные нищеброды будут ездить на скотовозных 40летних автобусах, да)))
Я всегда садясь за руль, говорю себе только одно - пешеход никогда не знает ПДД.
А такие умники, как вы, всегда устраивают ДТП с жертвами.
Непонято, а отчего до сих пор с пассажиров самолетов не берут такую бумагу о добровольности "камикадзества"?
пришел на завод - подписывай бумагу что ты "камикадзе". Станок ведь - источник опасности, нет? Не было бы станков - не было бы угрозы жизни и здоровья. Все бы работали в офисах, перекладывали бумаги, да?)))
Пассажиры ОТ и предизент ОБЯЗАНЫ писать бумагу о том что они "камикадзе" на добровольной основе - а то вдруг автобусу надо будет объехать бухого утырка который через дорогу в неположенном месте попер. Права дебилов у нас ведь не до конца защищены, надо лучше защищать право долбодятлов выбегать не только на дороги, но и на ДЖ пути и на взлетную полосу. Только защищая права безмозглых ушлепков за счет обычных граждан мы сможем построить светлое будущее - как в пендосии, да-с...
Там есть пилоты. Которые и несут ответственность. В автопилотном автомобиле тоже отвечать кому-то придётся (такова уж земная юридическая цивилизация). Почему бы такими ответственными не стать пассажирам? Глядишь, и эта идиотская идея сама по себе пройдёт.
я вам открою один маленький секрет: пилот на современном авиалайнере - скорее дань традиции. Сидят втыкают в приборы, строят умные лица. Иногда правда приходится брать управление на себя - но последнее время получается не очень)))
то есть производитель автопилота отвечать не обязан за свое изделие?))) Как может человек, лишенный управления, отвечать за действия автопилота?))) Ну чисто с юридической точки зрения?
Потому что как только вы повесите ответственность на пассажира за то на что он не может повлиять - вы просто отмените этот вид транспорта. Поскольку очень "умные" граждане хотят повесить трупы исключительно на владельцев ТС - эти люди хотят уничтожить автомобили. Зачем они это делают - это отдельный вопрос.
Я вам тоже открою секрет: я авиаинженер по образованию и много лет проработал в отрасли. Так что про "дань традиции" конкретно мне -не надо.
Так я к этому и веду -отказаться от этой дурацкой затеи, и дело с концом.
Конкретно вам - может и не надо, а по факту - современный авиалайнер вполне способен выполнить посадку в автоматическом режиме. В Британии недавно как раз был скандал на тему того, что оба пилота вышли на эшелон и задремали, и в результате проснулись уже на земле.
После того, как советский "Буран" совершил АВТОМАТИЧЕСКУЮ посадку из КОСМОСА - что тут удивляться посадке обычного самолёта на автоматике?! ;-) С 1989 года много воды утекло, электроника в разы мощнее...
Пришел на завод, плановый инструктаж, внеплановый, всё через подпись. При начале работы убедись в всеобщей исправности и безопасности.
Решение: убрать для пешеходов возможность находиться на дороге.
Потом родственники пострадавших пешеходов должны «побеспокоиться» о самочувствии владельца автомобиля, возможно даже ногами...
Робот не должен принимать решения которые подвергают жизнь человека большей опасности чем та опасность которая была на момент принятия решения. Такой выбор может делать человек. И не важно кто этот человек пешеход принимающий решения рискнуть своей жизнью или водитель рискующей чужой когда нарушает правила.
Иначе говоря если перед авто выскочил пешеход на автостраде, то множество действий робота ограничено безопасностью пассажиров. А задача минимизировать урон пешеходу.
Вся статья - онанизм вприсядку под форточкой Овертона.
Автопилот может работать только там, где исключены случайные встречные и пьяныет писекоды.
Единственный разрешённый ПДД всех стран маневр при обнаружении опасности это торможение.
В статье речь не только о пешеходах, но и о других машинах
Если есть угроза столкновения — значит кто-то нарушает ПДД. Если предположить, что автопилот правила всегда соблюдает — то значит нарушает вторая машина и её можно не жалеть.
И в любом случае, должен быть принцип "каждый сам за себя". В машину, которая может решить пожертвовать моим здоровьем ради чужого, я никогда в жизни не сяду.
Ага, ага!
Любыми способами пытаются вбить нам в голову этот жизнеутверждающий принцип! Спасибо, порадовали!:)
Вы не водитель, правда?
Я водитель. При 100% соблюдении ПДД вероятность ДТП со столкновением, несущим опасность для жизни и здоровья водителя и пассажиров автомобиля, исключена.
Обсудим ?
Да ничего и никогда на 100% не исключено. Откуда у вас такая уверенность?
Да ну ? Вероятность ДТП с двумя автомобилями в 13 веке была на 100% исключена. Это к общефилософским абстрактным рассуждениям "о 100%" и "никогда", не имеющим отношения к реальности. На практике же внимательное и точное следование ПДД (а не своему представлению о ПДД, согласно которому у нас большинство ездит), которые писали вовсе не дураки, позволяет избежать большинства штатных и нештатных аварийных ситуаций, а с учётом весьма продвинувшимся за последние 100 лет активным и пассивным средствам обеспечения безопасности, гарантировать целостность и сохранность содержимого
коробкиавтомобиля.Поэтому давайте к конкретике: как водитель водителю приведите мне пример ДТП с пострадавшими, к которому не привело предварительное нарушение ПДД. Хоть из головы, хоть из судебной практики, хоть из ютуба.
Из личной практики.
Старый "Москвич". Молодой водитель (я). Протёкший прямо в дороге тормозной цилиндр. Горка (разность высот между высшей и низшей точками - метров 45), неплохой уклон. На горке дорога в 4 ряда, пересекается улицей, движение по улице тоже в 4 ряда, перекрёсток регулируется светофорами. Движусь вниз, нужно повернуть налево. Недалеко от низшей точки давлю на тормоз - тормозов нет. От ДТП спасло только стечение обстоятельств - невысокая скорость (~40-50 км/ч), зелёный сигнал - включился очень вовремя - встречный поток ещё не успел тронуться, а я был практически на перекрёстке. ДТП не случилось, но ПДД не нарушались, и, сложись обстоятельства чуть (ЧУТЬ!) иначе - ДТП случилось бы.
Протекший цилиндр старого космича есть прямое нарушение ПДД, ибо ездить нужно на технически исправном транспортном средстве.
Это случилось прямо на дороге, между двумя перекрёстками. Т.е. садился я в технически исправный автомобиль. Данный случай - форсмажор, нештатная ситуация, которые не исключишь никаким (хоть на 146%) соблюдением ПДД.
Торможение двигателем в автошколе не изучали ? Ладно, многие не изучали.
Но вот ПДД изучать вроде как обязаны были.
Форс-мажор ? Фига с два. Налицо нарушение ПДД, поскольку за техническое состояние автомобиля и, соответственно, за все жертвы и разрушения, причинённые т/с, отвечает водитель. Каков регламентный срок службы тормозного цилиндра "Москвича", когда проходил последний ТО (купленный наверняка), нас в данном случае не волнует, но вот несоблюдение обязанности по содержанию т/с в технически исправном состоянии у нас имеется.
и вот тут очень важный момент, кмк, упущен:
Как видим, если ПДД все будут соблюдать, опасного ДТП и в такой неприятной ситуации не случится. И пешеход, обязанный убедиться в безопасности перехода проезжей части перед началом своего движения, тоже не вылезет под колёса.
Я там ниже отписался по ситуации, но отдельно добавлю тут, поскольку считаю это крайне важным:
Вы отдаёте себе отчёт, что при столкновении на 40 км/ч жертв не будет ? =)
Вот из этого "При 100% соблюдении ПДД вероятность ДТП со столкновением, несущим опасность для жизни и здоровья водителя и пассажиров автомобиля, исключена" следует, что Вы не водитель, поэтому обсуждать с Вами нечего.
Вместо громкого пука в лужу можно было бы предоставить конкретный пример. Обосновать, так сказать, свою позицию. Подкрепить аргументацией и нормативными документами. Но на нет и суда нет.
Давай. Ураганным порывом ветра с мачты освещения срывает кожух, который улетает под колеса автомобиля, у которого лопается покрышка, автомобиль становится плохо управляем, и улетает на встречку, где лоб в лоб влетает в другой автомобиль. Кто виноват?
Тот, кто на встречке.
Сколько народа по той 10.1 сидит... Тоже все считали, что рафик неувиновен. Погода такая. Климат. Дождь. Снег. Дорожники. Много кто, но только не сам.
При этом надо понимать, что тормозной путь с лопнувшей покрышкой со скорости 90 кмч не превышает 100м., Обычно в 60 укладывается. И это... "автомобиль вылетает" - так не бывает. Бывает, когда водитель не справился с управлением ТС.
Следующий.
Два депутата по разделительной полосе объезжают пробку и въезжают во встречную машину тоже с двумя депутатами, так же объезжающей пробку по разделительной полосе.
Нехай тех и тех сопровождает машина ГАИ - спецсигналы, всё такое.
Не нравятся депутаты - пускай будет две пожарных машины
Мне искренне нравится ход Ваших мыслей, но, увы, снова мимо:
В принципе, логично. Такое бывает, когда государству очень нужно. Даже пусть будут депутаты (хотя тут у искуственного интеллекта не должно возникать сомнений - кого мочить ;) ) . Мало ли у них неотложных дел (баня, например, после трудного рабочего дня). Но и тут подкралась зрада:
Таким образом, в случае "равноправного" разъезда, как в примере с разделительной полосой, кто первый - тот и папа. Либо, по договорённости, ПДД такое допускают при условии соблюдения безопасности. При ДТП (и водителям "мигалок" это хорошо известно: можете пообщаться на эту тему со скучающим у подъезда в ожидании бригады медиков водителем "скорой"), требование ПДД об условии обеспечения безопасности движения, очевидно, не соблюдается, таким образом ПДД не менее очевидно нарушены как минимум одним участником ДТП либо обоими. Не даёт спецсигнал и сирена права попадать в аварии. Кроме того, на водителей т/с, оборудованных спецсигналом, распространяется действие раздела 2 ПДД (общие обязанности водителя), в частности 2.7., запрещающий пересекать организованные колонны и занимать место в них.
Тут ещё надо учесть, что водители "мигалок" - люди, как правило (из которого всегда есть исключения), хорошо подготовленные, прошедшие определённый отсев, и понимающие, что за сохранность "тела" (будь то депутат, врач, больной, бригада пожарных, пионерский отряд или сам Темнейший) отвечают лично, поскольку , поэтому "без мозгов" не летают и в ДТП попадают редко. Чтобы депутаты столкнулись или автомобили сопровождения колонн - так вообще не знаю таких случаев. Скорые, менты, военные - бились, видел. Там уровень подготовки водителей в целом пониже, чем у "членовозов", человеческий фактор срабатывает. Гаишные автомобили из числа сопровождения колонн детских автобусов, под поперечный "Камаз" попадали - видел. А вот чтобы 2 депутата...
Внезапная поломка в автомобиле (пробито колесо и т.д.) и вылет навстречу другой машине.
Правило работает для обоих потенциальных участников ДТП. Если летит что-то со встречки - сразу оттормаживайся (от фуры - уворачивайся в кювет: снесёт нафиг, размажет о задние автомобили. Против лома нет приёма.). Стоячий автомобиль - вполне безопасное укрытие для столкновение на скорости 60 км/ч. И даже на 100 в современной тачке вполне можно не пострадать, случаи были. Выскочил бухой пешеход - оттормаживайся в пол, иначе будешь обвинён по той же 10.1.
П.С, Вы колесо никогда не пробивали, водители ? Кина американского насмотрелись ? Оно 10 минут будет спускаться. "Поднятый" гвоздь на управляемость не влияет от слова "совсем". Для особо сложных случаев, посмотрите на ютубе, как работают полицейские "ежи", как после этого движется автомобиль. Он останавливается (что логично, в общем-то: на дисках не уедешь далеко), а не улетает. Даже, если колесо отваливается машина не полностью теряет управляемость и уж тем более не приобретает способность летать.
Бессмысленный спор. В жизни может произоити всякое. В россии тем более. К примеру у нас в уфе был случай когда новый автомобиль выехал с атосалона и через пять минут провалился под землю. в центре города, на одной из основных дорог города. Виноват водитель есно, он же: должен был двигаться "учитывая при этом интенсивность движения, особенности и состояние транспортного средства и груза, дорожные и метеорологические условия, в частности, видимость в направлении движения. Скорость должна обеспечивать водителю возможность постоянного контроля над движением транспортного средства" Ну вот... понимашь... не учел - сам виноват. потерял контроль... улетел. Как я слышал ничего никому он так и не доказал и в итоге остался без машины. У меня самого в похожей ситуации (только ямка была нааамного меньше - весеннии смыв асфальта, ничего особенного...) два передних колеса просто вырвало. К счастью для меня они ушли под днище и остановили машину, да и скорость была небольшой, около 30...
Давайте я напомню тем, кто недостаточно внимательно читает ветку, о чём у нас тут идёт речь:
Пример с провалом под землю ожидаемо провалился. Следующий.
Не провалился ибо не было задачи привести пример пдд. Но если нужен пример то я уже упоминал случай с вырванными колесами. Город. Скорость 30км в час. Машина исправна. Я останавливался плавно тормозя. Яма под мягким снегом. Удар. Тормоз нажат. Изгиб дороги. Колеса ушли под днище и остановили машину. Если бы не остановили то я вылетел бы навстречку и по вашей логике был бы виноват. Красота...
Ваш оппонент имеет в виду, видимо, что: внезапный провал асфальта под колёсами - нарушение ПДД (только со стороны не водителя, а дорожников); это было НЕ столкновение и данное ДТП НЕ ПРИВЕЛО к вреду для водителя и пассажиров.
ЗЫ Ничего Вы ему не докажете. ;)
Дорожники это уже пдд) потому что если следовать этой логике у на во многих городах дороги отсутствуют начисто)
http://www.pdd24.com/ Найдёте в ПДД дорожников - вышлю 5000 рублей на любой кошелёк. Заодно и почитаете, полезная книжица. )
Слова юмор там тоже нету. Поясняю - у нас очень много дорог не соответствующих гостам из чего при желании можно сделать вывод что наши дороги по закону не дороги. А раз дороги не дороги то и пдд на них тоже условное.
Учтитывая вашу пендатичность сразу оговорюсь - я лично так не считаю
Нельзя.
Ни слова нет в ПДД про дорожные службы, качество асфальта госты, снипы и пр. Грунтовка по лесу или укатанный зимник в тундре - тоже вполне себе дорога. ПДД призваны обеспечить безопасность любого участника движения на любой дороге. Точное следование ПДД для автомобиля эту самую безопасность почти всегда гарантирует. Пешеходам, мотоциклистам и водителям гужевых повозок в этом плане повезло меньше, им надо внимательно вертеть головой по сторонам.
И хорошо.
Именно так. Мы же рассматриваем логику действий гипотетического автопилота при угрозе ДТП. Только внезапный провал асфальта - это никаким образом не нарушение ПДД ) А вот выезд на полосу предназначенную для встречного движения, повлекший ДТП - нарушение в 100% случаев, без исключений. Бывает только, что ответственность и за это нарушение можно перекинуть на кого-либо/избежать, но это редко.
Нарушением со стороны дорожников будет, например, ничем не обозначенная яма, оставленная после ремонта. Пойдёт как халатность, ненадлежащее исполнение обязанностей по... или типа того. А вот данный пример, когда машина влетает в свежую колдобину, прикрытую снежком, или невидимый сверху открытый канализационный люк на дне неглубокой лужицы - это как раз ответственность водителя ТС и больше ничья (максимально медленно и аккуратно двигайтесь по лужам. Внизу может быть всякое. Особенно в Уфе.). Не забываем, что автомобиль - источник повышенной опасности, а ответственность за причинение вреда третьим лицам источником повышенной опасности в любом случае лежит на эксплуатирующем субъекте (ст 1079 ГК РФ), несмотря на упорное желание некоторых жителей Башкирии с этим очевидным фактом яростно поспорить ;)
Ктоже отрицает что машина источник повышенной опасности? Я также не буду отрицать что выполнение правил пдд на 99 пооцентов позволит избежать дтп. Но не 100. 100 пооцентов я думаю сам господь бог не даст) а вы даете.
Про дорожников тоже спорить не буду. Вот только они тоже не всемогущи когда весной асфальт тает вместе со чнегом и ямы образуються буквально за минуты. А еще вдобавок привлеч их ответственности практически нереально не говоря уже об компенчюсации. Был пару раз учасником когда машины цепочкой скаты пробивали. Безрезультатно.
Мы по кругу ходим, это контрпродуктивно. Пример мне с ютуба, судебной практики или гипотетический из головы (без околонаучной фантастики типа телепортации) приведите, где при ДТП двух автомобилей с пострадавшими никто не нарушил Правила. Я абсолютно уверен в том, что такого не бывает, некоторые тут пытаются доказать обратное, но пока вся аргументация строится вокруг "100% не может быть, ибо 100% никогда не бывает". Может быть и 100%, при правильной постановке вопроса. Я не говорю об отсутствии ДТП, люди ошибаются, а бывает, что точное соблюдение ПДД как раз приводит к необязательному ДТП. Я не говорю о компенсации материального ущерба и распределении ответственности. Я не говорю о штрафах за "уехал не туда" и неправильную парковку. Я говорю о гарантии отсутствия пострадавших среди пассажиров и водителей автомобилей при обоюдном соблюдении Правил и ни о чём другом.
Видите, Вы прекрасно всё понимаете про движение с учётом локальных дорожных, погодных и метеорогических условий и только нестандартная постановка вопроса мешает адекватному взгляду на проблему. Единственно возможное универсальное решение очевидно и уже написано в ПДД: тает степь - снижай скорость. Нельзя определить состояние покрытия дороги впереди - снижай скорость. Не жалко машину и людей - можешь гнать с любой скоростью, телефоном в руке и даже бухим вдрабадан, НО вся ответственность на тебе. И этот заслуживающий всяческого порицания случай мы сейчас не рассматриваем. Разговор об ином.
1 не всегда можно адекватно оценить дорожное покрытие. Но на это я уже знаю - скажете типа к окулисту) но факт то что это явление есть. Не факт что автопилот справится с этой задачей лучше
2 суд те еще приколисты. если виновных в пдд нет виновного назначают или тупо впаривают обоюдку причем вразрезе с пдд. Я уже приводил пример (не вам) со знаками. Когда на пересечении с одностороннем движением нет знака. Дабы не пошли по пути хомо добавлю - там вообще нет никаких знаков. У нас в городе есть несколько таких мест и у меня знакомый был лишен прав. Доказать что там нет знака в суде ему не удалось но таки заменили лишение на штраф. Знака там если что там так и нет хотя после той истории уже три года прошло.
И последнее. Ссылку не могу найти. С телефона сижу. Но недавно был случай когда верховный суд постановил что в дтп со столкновением двух авто виновных нет и человек протаранивший ввтомопиль действовал полностью по пдд. Но это стало возможным только потому что водила оказался упорным и дошел до верховного. Учитывая что таких упертых максимум 1 на 100...
1. Я понимаю Ваше желание бессмысленно поспорить в интернете, но это не "моя логика", милейший. Это закон. Написанный чьей-то кровью, как и многие другие инструкции и уставы. Не желаете его знать - не надо потом жаловаться на "проклятый тоталитарный режим".
2. Рассказывать офигительные истории, что без колёс Вы "вылетели на встречку при скорости 30 км/ч" тут не надо. Аудитория взрослая, в сказки не верит. Машина, вообще-то без колёс движется довольно неохотно, на это тоже есть свои законы (классической механики). До встречки ещё на брюхе доехать надо, а это метров 20, как минимум (радиус поворота дороги по СНиП 2.05.02-85 должен быть не менее 150 метров для расчётной скорости 60 км/ч). Разбегитесь как следует (это как раз примерно 30 км/ч) и попробуйте по асфальту проскользить такое расстояние. Хоть по сухому, хоть по мокрому, хоть по снегу, хоть по гололёду.
При любом состоянии и дорог и уровне подготовки водителей, никуда никто не вылетает, до тех пор, пока соблюдает скоростной режим (с учётом уже набившей оскомину 10.1.)
3. В этом случае автопилот будет убивать Вас, а не своего пассажира. Пичалька.
Страницы