Сегодня коллега sgerr разместил статью "Михаил Ефремов не считает себя виновным в ДТП" https://aftershock.news/?q=node/883519 . В конце статьи он (не первый раз) задает вопрос: "А теперь повторю вопрос пропагандистам беспилотного транспорта. Представим, что Миша-актер сидел бы за рулем Теслы, включив автономный режим автопилота? Да, так же в говнище бухой и упоротый. Или даже спал бы на пассажирском сидении. И вот, в ДТП "поучаствовала его машина". Как мы поступили бы?" Последовавшее обсуждение шло в основном вокруг персоны Ефремова, с исторической точки зрения ничтожной. А вот очень интересный вопрос про моральную и юридическую сторону проблемы автопилотов как-то упустили из виду.
Я предлагаю вернуться к этой проблеме и уделить некоторое время этому вопросу. В сети есть очень любопытный проект "Машина Морали" https://www.moralmachine.net/hl/ru
Если коротко, вам предлагается рассмотреть ситуацию, когда у управляемой автопилотом машины отказали тормоза и неизбежна авария с жертвами. Однако, у автопилота есть возможность "выбрать жертву". Далее вам предлагается несколько возможных ситуаций, вы должны выбрать самое этичное решение.
Весьма любопытно и познавательно. Я, пройдя это опросник, сформулировал для себя простые правила:
-Человек, который сел в автомобиль с автопилотом, принял на себя все риски перемещения на этом устройстве. Поэтому законопослушный пешеход на переходе всегда имеет преимущество перед пассажирам повозки с автопилотом.
-Человек, идущий на красный свет, нарушает правила. Таких следует давить, невзирая на пол и возраст. Наша цивилизация строится на соблюдении законов. Если человек не в состоянии соблюсти элементарное правило перехода на зеленый - это его проблема
-Котики/собачки в принципе не могут сравниваться с человеком.
-Преступником человека может признать только суд. А вот для автопилота все люди равны.
После прохождения теста рекомендую заглянуть сюда https://elementy.ru/novosti_nauki/433355/Moralnye_problemy_bespilotnykh_... Здесь интересная статистика с обобщениями.
Всем хороших выходных!
Комментарии
этические проблемы нельзя смешивать с техническими.
техническая сторона например - объезд кабана автопилотом ночью, или ошибка системы MCAS
а этическая проблема - проблема общества. если каждая жизнь важна (и не важно чья - черная или старая), но если идтить до конца - то в современности то мы знаем чья - того кто формулирует такой вопрос.
иных в печь.
Тесла может выехать на встречку и протаранить другую машину? Не знаю.
А вот пьяное быдло может.
Ну что вы опять на пьяном быдле зациклились? Мы пытаемся понять, какие правила в автопилот закладывать.
Правила дорожного движения, все просто.
А в ПДД разве есть какие то рекомендации по выбору пострадавших (при наличии выбора)?
В ПДД есть 10.1, подкрепленный обширной судебной практикой.
От 3 до 5 общего. Владелец ипо правом "давить" не обладает. Опять же гоу в судебную практику.
Мы не говорим про "право давить" Вот едет роботакси с клиентом. Соблюдая все правила. Пешеход выскакивает на красный (красный для него, для нас зеленый) нам под колеса. Мигом обсчитали ситуацию (компьютер - он быстрый). Либо давим пешехода, либо врезаемся в стенку и убиваем пассажира. ЧТо выбрать?
А как бы выбрал человек, если бы успел среагировать? Эгоист конечно бы давил пешехода. Более человеколюбимый стал бы уворачиваться - врезаться в стенку. Знаете, что я думаю - лучше пусть решает компьютер. Сдается мне, так больше хороших людей выживет.
А если по существу
1. Компьютер не должен нарушать правила движения.
2. Компьютер должен минимизировать ущерб.
3. При всех равных, для компьютера жизнь владельца в приоритете. Кстати, идиотов, что выскакивают прямо под машину, жалко, но не более того.
А если это роботакси. Т.е. компьютер принадлежит третьей стороне?
Мне кажется примут общемировые правила дорожного движения для автопилота. Примут какой-нибудь конвенцией и все.
Автопилот, в случае аварийной ситуации, принимает решение о дальнейших действиях в соответствии с принятым соотношением последствий.
Сейчас же ходят люди по дорогам не знающие ПДД. Вот и далее будут.
Ну и что? Что изменилось то? Вот вы сами как думаете, если взяли напрокат машину, то должна ли подушка безопасности работать иначе, чем если бы вы его купили? Ведь она принадлежит не вам - а значит это будет порча ценного имущества.
Или вы намекаете на то, что если Сергей Брин выскочит под колеса такси, спасать надо его?
С Сергеем Брином - это красиво!
В данном случае - просто жать на тормоз. Виноват в ДТП пешеход, автопилот со своей стороны сделал всё возможное в рамках ПДД.
Абсолютно с вами согласен! А хитрые ребята, которые предлагают тесты на этом самом сайте, дальше пытаются нас отяготить такой хитростью: на красный свет выскакивает не пешеход, а мамашка с двумя детьми. И спрашивают, так таки ее давить или лучше спасти детские жизни и разбить пассажира такси?
Я в стартовом топике ситуацию оценил однозначно: вылез на красный - сам виноват. Но, как выясняется из статистической обработки результатов, немало людей выбирают спасение безумной матери и жертвуют законопослушным пассажиром такси.
Жизнь пассажира должна иметь максимальный приоритет. Он из машины выпрыгнуть не может. Тем более что если машина движется, то значит ей горит зеленый, а под колеса попал объект, либо нарушающий, либо ничего не знающий о ПДД.
Согласен, однако по условиям задачи (у машины сломались тормоза) автопилот как раз выезжает на переход вынужденно.
Исправность тормозов, руля и прочего можно 100% контролировать. Столь маловероятным неисправностям не следует уделять внимания в правилах.
Ах, если бы...
"
По результатам отечественных научных исследований, с технеисправностями транспорта связано до 13 % происшествий всех видов и до 15 % – с особо тяжкими последствиями.
Самыми распространёнными видами происшествий из-за технической неисправности транспорта в минувшем году были наезды на пешеходов (28,1 % от всех происшествий, связанных с технеисправностями), опрокидывания (27,3 %) и столкновения (25,1 %). Тяжесть последствий ДТП видов составила 19, 16 и 16 соответственно. Основное количество дорожно-транспортных происшествий из-за технических неисправностей транспорта вызвано отказами в рабочей тормозной системе (32,5 %), внешних световых приборов (26,5 %), отсоединением колёса, несоответствием модели ТС или износом шин (19,4 %), рулевого управления (12,6 %)."
Источник http://www.transportpart.ru/pojds-111-2.html
Еще раз - ПДД пункт 10.1. Что в тексте правил не понятно? Где там написано маневрировать в стену?
Зы
Ок, прямым текстом скажу - ПДД минимизируют общественную опасность. Не балбеса-пешехода спасают, и не пассажиров машины, а устанавливают минимальный уровень общественного ущерба, т. к. фривольно маневрируещее ипо создает не определенные и непросчитываемые риски для окружающих.
Ура, с пятой попытки вы наконец то перешли в режим "прямым текстом скажу". И что раньше мешало? :-)
По сути обсуждаемого. Не соглашусь с вашей трактовкой п.10.1, там всего лишь написано "При возникновении опасности для движения, которую водитель в состоянии обнаружить, он должен принять возможные меры к снижению скорости вплоть до остановки транспортного средства." И ничего не сказано про траекторию движения. Т.е., с вашей точки зрения, попытка объехать препятствие запрещена ПДД?
Ну а как еще тебя мотивировать почитать судебную практику?))
Не запрещена, но и не разрешена.
Сумел с маневрировать - молодец.
Не сумел - с вероятностью около 100% станет виновником ДТП за нарушение той самой 10.1.
Суды - они вообще не про справедливость, они про законность. Пострадавшим в ДТП пешеходам и пассажирам платят все водители-участники ДТП. Это ГК РФ 1079, по ней богато судебных решений.
Из нее кстати вытекает отдельный адок, когда есть пострадавшие/погибшие, а водитель-виновник скончался.
Возвращаясь к электронному болвану: ему давить надо на тормоз. Т. К. Врать в суде про "занесло при торможении" привилегия исключительно кожаных ублюдков)))
Зы
10.1 так же устанавливает максимальную скорость движения, и это совсем не та скорость, что на знаке указана.
У нас этот лимит рассматривают только в судах, а например в США патрульные штрафуют в полный рост.
Разлетевшимися обломками кирпичной стены убило двух пешеходов. Ну так что, хочешь продолжить выбирать в недерминированных условиях, не?
Не надо вообще выбирать. Нет у человека прав выбирать, кому жить, а кому умереть. Не его это собачье дело! Не должно быть в программе никаких критериев, кто лучше, кто хуже. Это грубое нарушение этики. Вот как произойдет, так тому и быть.
вы абсолютно заблуждаетесь. Человек именно что всегда такой выбор и делает. Даже наша религия говорит об этом.
Я бы в такой ситуации выбрал свою жизнь и жизни близких мне людей, а жизнями случайных незнакомцев пожертвовал бы.
По этой причине я никогда бы не купил автопилот, который бы мог выбрать иначе.
Вместе с тем, есть и соображения альтруизма. Поэтому в некоторых случаях я мог бы пожертвовать собой ради кого-то там. Но это в обязательном порядке должно быть мое собственное решение. Я всё равно буду выбирать сам.
Мне кажется, ваша позиция на самом деле довольно близка к тому, что говорит Рома Романов. Я бы ее так сформулировал:
-Только человек имеет право на этический выбор. Особенно если выбор касается его жизни
-Поэтому логика автомата должна быть элементарной (сломались тормоза - пытайся остановиться в своем ряду). Остальное - в руце божьей.
Даже религия учит, что за убийство придется отвечать, правда есть некоторые варианты для смягчения наказания. Но это все для лохов, как на самом деле будет - жизнь покажет, возможно окажется, что лучше было самому умереть. Одно точно - что лучше никого не убивать, особенно преднамеренно.
что за чушь ты несешь???
Сначала ты предъявил "моральный" выбор между неизбежной смертью себя или другого. И по-идиотски объявил выбор собственной смерти в такой ситуации моральным.
Чувак, я никого и не собирался убивать. А твой первоначальный вопрос состоял в том, кого убьет робот. Пойми, мы тут обсуждаем не то, кого я намерен убить - я не намерен убивать никого без веских причин, а то, кого бы убил твой сратый робот. А вину за убийство роботом людей ты пытаешься возложить на меня. Не.
Если робот мой, то он должен действовать в моих интересах. Точка.
Надеюсь, что ты не упоротый идиот, считающий, что мой робот должен действовать в чужих интересах.
С кирпичами - это вы самый умный? Другие не понимают этого?
Любая модель (включая модели "Моральной Машины") достаточно абстрактны. Собственно, это одна из главных особенностей изучения объекта путем построения модели (математической, экономической и пр.). Если модель по всем параметрам совпадает с объектом - она превращается в моделируемый объект.
для начала, человек может в состоянии стресса совершать одно-два действия, да и конечностей у него всего четыре.
Автопилот же может:
одновременно посигналить задним, что резко торможу
перекинуть передачу на заднюю и включить сцепление, тормозя двигателем (понятно, что потом ремонт, но зато люди живы)
надуть подушку на радиаторе.
пиропатронами вбить в дорожное покрытие штыри, к которым привязаны тросы с катушек с фрикционами
надуть подушки в салоне до удара
Можно и что-то еще придумать для безопасной экстренной остановки. А главное - скорость реакции человека это 0,3 секунды или дольше, а компьютера - миллисекунды.
Плюс возможность управлять машиной в заносе.
Лучший комментарий. Манипуляторы всегда игнорируют тот факт, что пассажир повозки защищён.
9,81 м/сс ! Таки уже учите физику, вы делаете мне смешно.
> виноват автопилот (точнее, ошибка системы MCAS, но это уже детали). 346 погибших
Стандартный метод пропаганды. Если ещё упомянуть 49 детей, или сколько их там было, то будет совсем кошерно.
А по факту имеем совсем другое. Применение автопилотов и прочей автоматизации в авиации растёт, а количество погибших из расчёта на пассажиро-километр падает.
То же самое будет и в автомобильной сфере. И юридические законы подгонят под эту тенденцию.
Я не понял - вы соглашаетесь или возражаете? Смысл моего примера с Боингом - разговор про автопилоты не абстрактная беседа, а вполне себе реальная проблема. Вы пишите "Применение автопилотов и прочей автоматизации в авиации растёт". Фактически, подтверждая мое утверждение.
Этический компонент - если причиной катастрофы Боинга была ошибка автопилота - кто несет ответственность? Какую? А если говорим об автопилотах в автомобиле, появляется еще одна проблема - в некоторых ситуациях автопилот должен сделать выбор, кому жить, кому погибать. Какие правила выбора будем закладывать?
> Я не понял
Поясняю. Это вообще не вопрос этики. Это вопрос экономики. Как только автопилот на автомобилях станет экономически выгодным, так сразу его легализуют, и все законы примут. А по количеству жертв, автопилот уже лучше живого водителя.
Что касается "выбора", кого давить, то никакого выбора автопилот делать не будет. И программисты автопилотов не будут. Слишком редкая и ресурсоёмкая задача, не уложится в экономику. Будут просто закладывать соблюдение ПДД по максимуму, и этого будет достаточно для юристов, и количество жертв будет минимальным.
Ага! Можно ли ваши слова ужать до такой формулировки: алгоритм должен минимизировать количество погибших, не вдаваясь в пол, возраст, социальное положение и виновность в создании аварийной ситуации?
Все правила и законы, касающиеся безопасности, работают именно так. С одной поправкой - цена безопасности должна быть разумной. Да, если цена не разумная, от повышения уровня безопасности отказываются, зная, что от этого будут трупы. Последний пример - ковидла. Не ввели тотальный карантин, хотя это спасло бы тысячи жизней. Дорого.
ОК, спасибо. Вашу точку зрения уяснили и формализовали (я надеюсь :-) )
Вот по безопасности - не факт, что автопилот уже лучше. Хотя когда-нибудь, конечно, станет.
Автопилот уже лучше, и это давно факт. Но он пока слишком дорог. Это единственная причина, по которой пока живые люди допускаются к управлению автомобилями.
(Речь идёт про настоящий автопилот, а не тот, который в теслы встраивают)
Мне кажется, вы упустили важный дисклеймер. Перед вашим утверждением разумно поставить " В Калифорнии, в отсутствие тумана и дождя, на дороге с качественным покрытием и хорошо читаемой разметкой..." - а далее всё как вы сказали.
А теперь представьте второстепенную дорогу где-нибудь в Псковской области, в январе, после хорошего снегопада...
А мне кажется все забывают с чего началась реальная история автопилотов на наземном транспорте. С конкурса ДАРПА для армии пиндосии. И первые конкурсы проходили на бездорожье, на имитации военных дорог с воронками и прочими военными прелестями. Про разметку там и речи не было. И уже тогда некоторые автопилоты справлялись лучше солдат. 15 лет назад это было. Щас всё намного лучше.
Так поднимите судебные дела. С юридической точки зрения неисправный автопилот или неисправные тормоза — разницы нет.
Да нет у него такого выбора. По ПДД в случае аварийной ситуации автопилот обязан тормозить без смены полосы движения. Ещё скажите, что автомат на электрощитке обязан делать выбор кому жить кому погибать, если кто-то влез руками в проводку, а от проводки система жизнеобеспесения запитана.
Ну, тогда для вас и проблема не существует.
с точки зрения морали это должно быть правильно
но с точки зрения полезности и здравого смысла - нет
потому что если автопилот будет убивать пассажиров (даже теоретически, просто потенциальные пассажиры будут знать, что выбор будет сделан не в их пользу), то гораздо меньше народу захочет пользоваться транспортом с автопилотом, а значит финансирование такого транспорта серьезно уменьшится и внедрение в итоге замедлится, а то и вовсе остановится
что в итоге приведет к гораздо большему числу жертв, потому что люди всё равно будут давить больше народу, чем любой автопилот
то есть принимая как бы "морально правильный" закон, мы реально можем погубить больше людей, чем приняв "аморальный"
это кстати касается не только этой сферы и будущего, а вполне себе настоящего: например отечественная политика не предполагает никакой заместительной терапии для наркоманов, тем самым спонсируя наркомафию и губя жизни наркоманов, которые колются непойми чем без соблюдения гигиены...
надо же смотреть не только то, каким хорошим ты будешь выглядеть, но и к каким реальным последствиям твои действия приведут
Мне кажется, концепция ответственности за свои поступки - одна из самых важных для цивилизации. Отказавшись от нее, потеряем гораздо больше.
Простейший пример. Компания 14-летних подростков. В этом возрасте мозгов практически нет (себя помню подростком), а уж в толпе - просто стадо обезъян. Классный прикол - подкараулить такси с автопилотом и броситься толпой ему под колёса! Так прикольно будет в стенку биться! А ответственности никакой - оне же дети! 14 лет, уголовной ответственности нет, на всё остальное современный молодняк кладет вприсядку.
ну вот как раз концепция "ответственности за свои поступки" к пассажирам автопилотного транспорта не то чтобы очень применима:)
то есть ответственность хороша тогда, когда висит домокловым мечом над человеком когда он стоит перед выбором совершить то или иное действие...
однако исправность или неисправность автопилота никак зависит от пассажиров робомобиля... то есть перед ними не стоит выбор провести ли дополнительное тестирование, проверить ли тормоза, следить ли за уровнем сигнала беспроводной связи и т.д.
перед ними стоит выбор только сесть в машину или не сесть... конечно, если они не сядут, то аварии точно не случится, но сами понимаете, что такой выбор вообще абсурден... чтобы точно ничего не случилось и ты точно не стал опосредованной причиной какого-то несчастья, надо себя прямо с рождения закопать в бетонный бункер и никогда из него не выходить:)
поэтому ответственность за аварию должны нести технические службы, а выбор должен быть всегда в пользу тех, кто приносить обществу больше пользы... в данном случае это будут как раз пассажиры беспилотного транспорта, которые финансируют его развитие, в том числе и совершенствование систем безопасности
А что, обязательно убивать?
Автопилот подразумевает развитую инфраструктуру, управление потоками и взаимодействие автопилотов. При отказе тормозов, как мне кажется, или дорогу освободят до какого-нибудь столбика о который можно затормозить на минимальной скорости или торможение при помощи других машин, а не вылет на встречку на полном ходу ..
Согласен. И двигателем можно тормозить, и аварийный тормоз придумать. Разговор-то про другое. Что делать в ситуации, когда гибель одного из участников инцидента неизбежна?
так вопрос то чисто теоретический:)
то есть тут обсуждается именно когда выбор стоит либо убить одних, либо других...
когда есть вариант никого не убить, конечно надо выбирать его, это и ежу понятно:)
Сложно у вас всё. На практике после нескольких жертв будут в судебном порядке приняты какие-mk решения. Например - ограничить скорость автопилотируемого транспортного средства в 30 км/ч. Или в принудительном порядке за автопилота отвечает его владелец. В зависимости от количества и характера аварий эти правида будут меняться. Будет всё по аналогии с ТБ и ПДД - они будут писАться кровью. Теоретики виновности традиционно будут отправлены в сад.
Страницы