Вход на сайт

Облако тегов

АШ-YouTube

ответственность за ошибку автопилота

Аватар пользователя Сергей Капустин

на АШ периодический всплывают в комментариях мини-срачики на тему: "если тесла в автономном режиме задавит человека, кто будет отвечать?". Иногда это позиционируется как аргумент сильно, почти до не возможности, осложняющий внедрение автопилота. На самом деле это не так, схемы поиски виновного выработаны давным-давно.

Вот представим себе, стоит мост. По нему едет машина. Происходит обрушение. Кто виноват?

Если следствие установит, что мост был спроектирован с нарушением стандартов - виноват проектировщик

Если следствие установит, что мост был построен с нарушением стандартов - виноват, тот кто экономил на цементе

Если следствие установит, что за мостом не следили/не чинили - виноват владелец

Если следствие установит, что машина была слишком тяжелой - виноват водитель, не фиг автопоезд тут гонять

И так далее.

Чем авария с участием автопилота отличается от обрушения моста? Тем, что автопилот может выбрать сценарий поведения? Но выбирает он не сам, он всего лишь выбирает действия согласно алгоритму. Все опять упирается в ТЗ разработчику (ГОСТ от ГИБДД ведут какой-нибудь), реализацию конкретных действий программистом в том или ином случае (реализует ли от ГОСТ?), техническую исправность средства (водила камеру протер?), отсутствие форс-мажоров (высокоэнергетическая частица возникшая при слиянии черных дыр пробила планку памяти) и прочие стандартные вещи.

И не надо про то, что ТЗ хрен напишешь, полного алгоритма не создаешь. Ситуации вполне классифицируются, если что не так - коллективно тормозим на обочине до разъяснения. Как автопилот должен выбирать из двух зол? Тоже пропишут. У медиков же есть "спасаем мать, а не ребенка" - и ничего, никто не бузит.

Вот если автопилот будет на базе нейросети, способной к самообучению в ходе эксплуатации - тут да, возможны казусы и нюансы. Но их либо запретят, либо припишут что "водитель должен следить за ситуацией все время".

Так что я тут особых препятствий не вижу. Автопилот, если и будет когда-нибудь массовым явлением, будет проходить столь сложные сертификации и согласования для постановки на машину (что бы отмазать всех участников его создания), что это будет напоминать авиастроение, где в каждом новом самолете не более 10% новых деталей. И будет доступна эта деятельность только очень крупным фирмам. Что в принципе хорошо - чем меньше марок ИИ на дороге, тем стандартнее и более предсказуемое вождение мы увидим.

Авторство: 
Авторская работа / переводика
Фонд поддержки авторов AfterShock

Комментарии

Аватар пользователя botanica666
botanica666(6 лет 5 месяцев)(09:34:26 / 04-07-2020)

Вы не видите, а они есть.

Мост это конструкция, отработанная веками. И сотнями обрушений в том числе. Т. е. Были времена, когда инженеры спроектировали, построили, а он упал и погибли люди. Инженеры строили все по актуальным правилам, но он упал. Потому что хорошо строить еще не научились и на тот момент думали, что все ок.

Вот с автопилотом нас ждут такие же времена. Уверен, что будет ситуация системной ошибки - все все сделали согласно разработанных методик, а люди погибли.

Кого в таком случае сажать прикажете?

Аватар пользователя Hamulus
Hamulus(5 лет 11 месяцев)(12:43:16 / 04-07-2020)

всё было когда-то новым...

автомобиль 150 лет назад не был отработан веками, самолет 110 лет назад не был отработан веками... многие другие технологии тоже были новинками
если бы мы пользовались только тем, что отработано веками, то и в принципе жили бы в пещерах... даже мосты бы не строили:)

Аватар пользователя maxvlad
maxvlad(8 лет 6 месяцев)(13:04:46 / 04-07-2020)

Ту можно было бы возразить, что автомобили не появлялись на дорогах сразу в миллионных количествах. И что были времена, когда существовали судебные приказы о наличии  пере автомобилем впереди бегущего глашатая, который уведомлял бы остальных участников дорожного движения о его приближении.

Касательно же мостов, прежде их массового распространения в античном мире существовала традиция личного присутствия главного конструктора на приёмосдаточных испытаниях - под мостом. Говорят, долго держалась, так что вопрос прочности и устойчивости мостовых сооружений получил одну из самых продвинутых и глубоких проработок.

Аватар пользователя Hamulus
Hamulus(5 лет 11 месяцев)(14:32:45 / 04-07-2020)

Ту можно было бы возразить, что автомобили не появлялись на дорогах сразу в миллионных количествах. И что были времена, когда существовали судебные приказы о наличии  пере автомобилем впереди бегущего глашатая, который уведомлял бы остальных участников дорожного движения о его приближении.

но при этом люди регулярно попадали под лошадей и повозки:) не глупость ли? то есть по сути глашатай просто исполнял чью-то придурь, никого реально не оберегая... особенно с учетом того, что лошадь движется намного тише чем тогдашние автомобили

«29-го декабря, в одиннадцать часов вечера, коллежский регистратор Дмитрий Кулдаров...

— Видите, видите? Дальше!...коллежский регистратор Дмитрий Кулдаров, выходя из портерной, что на Малой Бронной, в доме Козихина, и находясь в нетрезвом состоянии...

— Это я с Семеном Петровичем... Всё до тонкостей описано! Продолжайте! Дальше! Слушайте!...и находясь в нетрезвом состоянии, поскользнулся и упал под лошадь стоявшего здесь извозчика, крестьянина дер. Дурыкиной, Юхновского уезда, Ивана Дротова. Испуганная лошадь, перешагнув через Кулдарова и протащив через него сани с находившимся в них второй гильдии московским купцом Степаном Луковым, помчалась по улице и была задержана дворниками. Кулдаров, вначале находясь в бесчувственном состоянии, был отведен в полицейский участок и освидетельствован врачом. Удар, который он получил по затылку...

— Это я об оглоблю, папаша. Дальше! Вы дальше читайте!...который он получил по затылку, отнесен к легким. О случившемся составлен протокол. Потерпевшему подана медицинская помощь»...

А.П. Чехов, рассказ "Радость"

Касательно же мостов, прежде их массового распространения в античном мире существовала традиция личного присутствия главного конструктора на приёмосдаточных испытаниях - под мостом. Говорят, долго держалась, так что вопрос прочности и устойчивости мостовых сооружений получил одну из самых продвинутых и глубоких проработок.

это конечно прекрасно... но мост может рухнуть и через день и через 10 лет... главного конструктора что, держали прикованным под мостом что ли?:)

Аватар пользователя калибровщик
калибровщик(4 года 7 месяцев)(09:41:24 / 04-07-2020)

Вот и Ефремов заявил, что не виновен. Автопилот железный - пусть он и отвечает.

Аватар пользователя Кабан
Кабан(7 лет 12 месяцев)(09:51:49 / 04-07-2020)

Вопрос в том, от кого будет больше трупов и материального ущерба, от всяческих "ефремовых" или от автопилотов. И сколько это будет стоить. Все остальные вопросы юристы разрулят мигом, и мнения нашего не спросят.

Аватар пользователя Er0p
Er0p(5 лет 3 месяца)(10:01:38 / 04-07-2020)

Сложные сертификации? Не смешите. Я один писал программу управления установкой коррекции зрения. Шеф все это как-то протащил в минздраве. 

Аватар пользователя alexsword
alexsword(8 лет 9 месяцев)(12:01:57 / 04-07-2020)

А вот ещё. Завтра хакеры взломают систему обновления, и в момент икс все болиды будут направлены в толпу.

Кто будет отвечать? Хакеры понятно, если найдут, ну а в плане тех, кто допустил такую возможность. 

Аватар пользователя sixwinged
sixwinged(7 лет 1 месяц)(13:07:20 / 04-07-2020)

Алекс ну подобные ж системы не один десяток лет на заводах используются, что у нас что за бугром. Все давно задокументировано.. и ответственность в разных ситуациях и алгоритмы работы. Если кто-то взломает промышленного робота и он манипулятором тебе что-то поломает - есть куча инструкций и порядок работы описан от и до.

Аватар пользователя пара валенок

Ясен пень, что взломают. Защиту выберут самую дешевую, рынок же... .

Аватар пользователя Simurg
Simurg(3 года 6 месяцев)(16:41:36 / 04-07-2020)

Вопреки тому, что говорят производители файрволов и антивирусов, в компьютерных системах нет "защиты".

Есть уязвимости.

А это концептуально иное: дешёвый бортовой комп "Лады" невозможно взломать не потому, что у него "дорогая защита", а потому что у него тупо нет радиоинтерфейсов, через которые это можно сделать в принципе.

Аватар пользователя Офисный планктон

Завтра хакеры взломают систему обновления, и в момент икс все болиды будут направлены в толпу.

А сегодня уже выпустили немало автомобилей, в которых управление частично или полностью контролируют компьютер авто. И какеры уже демонстрировали на публике вмешательство в управление таких авто. И что?

Аватар пользователя Simurg
Simurg(3 года 6 месяцев)(16:38:10 / 04-07-2020)

А за что именно им предлагается отвечать? "Похакать бортовой компьютер" - преступление гораздо сложнее, чем просто взять ножики для картона и приставить их к горлу авиапилотов, например. Ну или просто заложить бомбу.

Любую машину можно привести в негодность, какая разница, каким? Если преступник проткнёт гидравлику, кто будет отвечать за то, что допущена такая возможность, что в машине не было компьютера и самодиагностики, а тормоза не управлялись по CAN? :)

 

Аватар пользователя ИЮЛь Майский
ИЮЛь Майский(4 года 5 месяцев)(12:21:48 / 04-07-2020)

Так что я тут особых препятствий не вижу.

Препятствие будет в том, что персональная ответственность будет заменена размытой коллективной. Если конкретный великий артист сел за руль пьяный и обдолбанный -это его, великого артиста персональная ответственность. Если лихой капитан круизного судна решил показать, как он умеет лавировать между рифами -это персональная ответственность капитана.

В случае ТС, оснащённом ИИ, ответственность будет размыта. Кто виноват в аварии: руководитель предприятия-разработчика, главный конструктор, коллектив программистов, конструктора, разработавшие аппаратную часть или кто иной? Даже в случае со слишком "умным" Боингом-737 нет стопроцентной группы виновных. Здесь и криворукие программисты с другого края света, тот, кто отдал им процесс на программирование, те, кто написали кондовые инструкции, те, кто узаконил изменение, да и сами пилоты, умеющие только в автоматику.

В западной юридической практике при таких инцидентах виновные либо не были вообще определены, либо виновные назначены произвольно, чтобы создать видимость правосудия. С ИИ будет то же самое.    

Аватар пользователя sh0k
sh0k(1 год 3 месяца)(12:46:41 / 04-07-2020)

Есть вероятность, что владелец робота допустил его эксплуатацию например с неисправным сенсором. А это нужно будет тоже расследовать и доказать. Мосты падают редко, а вот что будет при массовой эксплуатации роботов-машин, предугадать сложно. 

Аватар пользователя maxvlad
maxvlad(8 лет 6 месяцев)(13:06:54 / 04-07-2020)

А неисправность сенсора определяет кто? И разве не логично поставщику банально заблокировать работу системы в автоматическом режиме в случае неисправности датчиков?

Аватар пользователя kovly
kovly(3 года 2 недели)(12:49:23 / 04-07-2020)

Да ладно вам, ничего не будет размыто. Ответственный всегда будет определён. Если это личный автомобиль, то покупатель (владелец) будет в договоре продажи иметь запись, что за последствия использования машины, включая режим автопилота, производитель ответственности не несёт. Ибо это будет свободный и осознанный выбор того, кто эту машину использует. Он ею управляет, он персонально включает этот режим. Он, а не производитель. Следовательно, отвечать за это будет тот, кто выполнил конкретные действия, спускаясь вниз до владельца машины, который осознанно передал её не выявленному водителю. Случай кражи не рассматриваем, если после происшествия никого не нашли.

Всё это будет закреплено в договорах, ПДД и других документах прямого действия. Не надейтесь, человек, выполнивший действия, которые привели к последствиям, требующим определения виновного субъекта, не отвертится от последствий этих своих действий. И никакие юристы не помогут, если ответственность за действия участников движения и владельцев ТС будет прописана прямо и детально.

Аватар пользователя лабиринт разума

То есть джамшуты в телеповозках типа Яндекса и майлру останутся. Но это вроде та самая мысль, которую опровергнуть хотел ТС сомнительным - "напишут ГОСТ". 

Государства будут смотреть на экономическую составляющую всегда и при определенных соотношениях рисков управления человеком и автопилотом, коженных водителей могут легко ограничить в правах сначала на части дорог, а потом и совсем. Нас же не беспокоит, что лифт сам нас возит. 

Аватар пользователя пара валенок

Лифты не конфликтуют между собой за шахту. Это главная разница. Почему автопилот существует у самолетов? Потому что куча людей на земле продумывает организацию полетов без конфликтов. Каждый самолет летит в своем коридоре. И самолеты в процессе взлета посадки не конфликтуют между собой за полосу. Прибавим к этому радар значительно расширяющий горизонт принятия решений.

Аватар пользователя лабиринт разума

Так я и говорю, что джамшуты будут автоповозками рулить деюре, пока риски автопилотов не станут более выгодными для государства. 

Ну а с самолётами там сколько хочешь конкуренции и за коридоры, и за полосы, и даже за места на стоянках. Разводят очень часто в ручном режиме. Но и аварии случаются.

Радар для одновременного пилотирования сотен авто на сложных развязках не проблема , если это выгодно. 

Аватар пользователя пара валенок

Не так все таки как у авто. Насчет радара я сам удивлен но вроде никто не разрабатывает автоповозки с их использованием. Интересно, почему?

Аватар пользователя лабиринт разума

Я думаю вы не достаточно информированны в этом вопросе. И в Германии лично знаю ребят и в Калифорнии, работают на лаборатории , которые потом производителям авто эти решения лицензируют. Причем групп таких несколько.

Аватар пользователя Simurg
Simurg(3 года 6 месяцев)(16:44:43 / 04-07-2020)

?! Эээ... Вообще, дофига фирм.

Скажем, те же "Когнитиве" свой радар выпустили.

А так-то - радар высокого разрешения (как и лидар) тоже пока относительно дорогая штука. Если можно обойтись без него, то, конечно, пробуют обойтись без него.

Аватар пользователя kovly
kovly(3 года 2 недели)(16:12:52 / 04-07-2020)

Почему автопилот существует у самолетов?

Вы думаете командир лайнера не ответит, если что не так пойдёт? Ответит. Чаще всего - собственной жизнью.

Аватар пользователя пара валенок

Ясен пень, не спорю. Только если автопилот пошел в серию значит было доказано что он не увеличивает риски а уменьшает. По крайней мере не меняет.  То есть работает в отведенной ему области не хуже чем человек. Видимо это и есть критерий применимости технологии.

Аватар пользователя kovly
kovly(3 года 2 недели)(16:08:38 / 04-07-2020)

Нас же не беспокоит, что лифт сам нас возит

А разве каждый входящий в лифт и нажимающий на кнопку не подписывает тем самым оферту с владельцем лифта, что это его личный выбор о том, что с ним вполне может случиться? Вот сейчас для коронавируса лифты отличное место для распространения. Ибо - маленькое,закрытое и не проветриваемое пространство. Вы же сами выбираете в этом случае свою судьбу, никто кроме вас.

При обрыве лифта с жертвами с владельца (и далее) спросят. А вот смерть от коронавируса ему не предъявишь, ибо не предусмотрена такая ответственность.

Аватар пользователя пара валенок

И лифт не работает в режиме реального времени, кстати. То есть если он подтормаживает от этого ничего не произойдет. Кроме защиты дверей , пожалуй.

Аватар пользователя пара валенок

Никакие юристы не заставят купить машину.... Ясно же что лохотрон, если производитель ни за что не отвечает.  Потом без экспертизы открытого кода такой системы, притом человеком которому я доверяю а не пресловутым "экпердам" на жаловаье у производителя.

Аватар пользователя GrAch
GrAch(6 лет 9 месяцев)(14:06:26 / 04-07-2020)

Давайте для начала вы мне покажете автопилот на РЖД где его создать и внедрить на порядки проще чем на автодорогах общего пользования а потом мы поговорим об автопилоте на тесле или яндексе. Утомили эти сказки уже чес слово.

Аватар пользователя Офисный планктон

Давайте для начала вы мне покажете автопилот на РЖД ...

Для Вашего удовлетворения его следует выдрать из маневрового локомотива, используемого на сортировке порта в Усть-Луге и показать, как он выглядит? А из беспилотных карьерных самосвалов ничего выдирать для Вас не придётся? Кстати, также существуют беспилотные сельскохозяйственные трактора, их автопилот тоже хотите посмотреть?

Аватар пользователя GrAch
GrAch(6 лет 9 месяцев)(17:18:20 / 04-07-2020)

Вы только что сами назвали ограничения действия автопилотв локальными статичными системами которые легко описываются алгоритмически... полностью автоматизированный склад с карами автопилотами я видел еще лет 15 назад. Проблема в том что автопилот не побежит запрессованную стрелку чистить как помошник машиниста или не сможет выбрать кого давить "девочку или бабушку" в яндекс такси как в том анекдоте. До 5% критических  ситуаций на дорогах общего пользования не описываются алгоритмами от слова совсем, соответственно нужен либо водятел либо дорога должна быть выделена в отдельную автопилотную, не подскажите в чем смысл подобного банкета тогда? 

Аватар пользователя Офисный планктон

Разработанная компанией система компьютерного зрения позволяет на скоростях до 60 километров в час определять железнодорожные пути, положение стрелок на расстояниях до 70 метров, четыре вида сигналов светофоров на расстояниях до 200 метров, людей и иные препятствия на пути следования локомотива на расстояниях до 70 метров, а также наличие на пути следования локомотива состава, с которым будет производиться сцепка, на дистанциях до 100 метров.

"Основным конкурентным преимуществом нашего решения является возможность безопасной работы в любых погодных условиях: дождь, метель и туман – и при любой освещенности. Его внедрение позволит снизить число происшествий и пострадавших на 30-40%", – заявила глава компании-разработчика.

Источник.

Аватар пользователя GrAch
GrAch(6 лет 9 месяцев)(17:43:00 / 04-07-2020)

Представителю компании разработчика не плохо было бы узнать сколько сигналов на входном светофоре станции для начала и то что грузовые поезда движутся по перегону со скоростью 80-90 км/ч на участках оборудованых АБ не заморачиваясь. Про движение по приказу или с предупреждением вообще скромно промолчим и о куче других тонкостей.

Аватар пользователя Офисный планктон

... а караван идёт.

Информация годовалой давности:

"Завод "Уральские локомотивы" (совместное предприятие Группы "Синара" и концерна Siemens, находится в Верхней Пышме Свердловской области - прим. ТАСС) выполнил контракт с ОАО "РЖД" на установку дополнительного оборудования систем автоведения на скоростных электропоездах "Ласточка", курсирующих по МЦК. 51 пассажирский состав оснащен ультразвуковыми датчиками", - говорится в сообщении.

Гендиректор "Уральских локомотивов" Олег Спаи пояснил, что установленная система автоведения позволит значительно упростить работу машиниста и уже в ближайший месяц сократить интервал движения поездов. "Сейчас на полигоне эксплуатации МЦК проводятся тестовые проверки нового оборудования в динамике", - добавил он.

Отмечается, что оборудование "Ласточек" новыми датчиками - это подготовительный этап к внедрению беспилотной системы управления электропоездами.

Беспилотные технологии

В пресс-службе уточнили, что также на МЦК опытные испытания с лета проходит "Ласточка" со встроенной системой "машинного зрения". Во время движения электропоезда технология формирует двухмерную или трехмерную картину окружающего пространства при помощи камер и сканирующих устройств - это позволяет оценивать состояние и занятость путей. Испытания продлятся еще несколько месяцев.

 

Беспилотные электропоезда "Ласточка" могут начать курсировать по Московскому центральному кольцу (МЦК) уже в 2021 году, сообщил журналистам генеральный директор "Российских железных дорог" Олег Белозеров после тестового пробега беспилотного поезда.

"Окончательный шаг мы планируем сделать в 2021 году, и прежде всего такие поезда выйдут здесь, в Московском регионе на МЦК, поскольку... это обеспечит повышенный уровень безопасности и надежности", - сказал он, говоря об этапах внедрения технологии беспилотного движения поездов.

Аватар пользователя GrAch
GrAch(6 лет 9 месяцев)(18:30:27 / 04-07-2020)

Хоспади опять вернулись к локальным решениям для  выделенных линий. Для тех кто на бронепоезде последний раз повторяю я говорю о "беспилотниках" для дорог общего пользования а не о локальных вещах. Локалку еще при СССР успешно тестировали и пришли к выводу что сильно дорогое удовольствие хоть и модное.

Аватар пользователя Офисный планктон

Отлаживать эти сложные решения на простых условиях эксплуатации не надо? Сразу автономный звездолёт подавай?

Аватар пользователя GrAch
GrAch(6 лет 9 месяцев)(18:46:58 / 04-07-2020)

Что там отлаживать? В ласточке готовые решения которые сименс внедрят под пригородные темы и метро уже лет 20, проблема в том чтобы убрать человека из кабины сама линия должна отвечать куче специализированных требований что существенно увеличивает затраты на ее эксплуатацию. Беспилотная ласточка не поедет по путям где ходят грузовые и тп в этом весь фокус решения которому пока в природе нет.

Аватар пользователя Simurg
Simurg(3 года 6 месяцев)(15:10:33 / 06-07-2020)

Мы уже обсуждали это, и, кажется, Вы не смогли объяснить экономический смысл внедрения полного автопилота на ЖД.

С автомобилями водитель - существенная статья расходов.

Аватар пользователя GrAch
GrAch(6 лет 9 месяцев)(15:38:47 / 06-07-2020)

Когда кажется вы знаете что делать. Я лично не помню что я вам что-то не смог обьяснить.

Экономический смысл ровно такойже как на самолете, движение тягового состава по перегону это монотонная работа в которой явно бы не помешали учет веса и характеристик состава, прфиля пути, погодных условий и тд и тп в автоматическом режиме. Но наличие аварийных или пред аварийных ситуаций требует наличие человека при этом полный автопилот становится экономически не выгодным. Достаточно существующих полуавтоматов с контролем скорости и бдительности.

Угу а мега комп с кучей датчиков в авто это прям таки удешевление расходов и дороги в состоянии пригодном для движения автопилота 4го недопоколения уже везде вокруг понастроили бесплатно smile3.gif  хотя не вру построили 2,5 км2 в инополисе, осталось остальные только переделать

Аватар пользователя Simurg
Simurg(3 года 6 месяцев)(19:01:09 / 06-07-2020)

Почему только мне? Вы вообще не смогли ответить "зачем?". Что аннулирует вопрос "почему ещё не?". Не потому что не смогли, очевидно, а потому что незачем.

И точно так же, как на самолёте, остался человек. Просто поезд настолько проще самолёта в управлении, что там, реально ИИ не нужен.

...

Да, комп с кучей датчиков - гораздо дешевле человека. Человек вообще ну очень дорогой. В (русском) такси его замена отбивалась бы даже если б роботизация стоила бы 2-3 миллиона, но по нынешним представлениям реальная цена автопилота на момент выхода на рынок будет гораздо меньше. Даже сейчас комплект робопилота дешевле.

Абсолютное большинство дорог, пригодных для вождения человеком, должны быть пригодны для робота. Если это не так, то робот не готов. Робот не готов, а не дороги. Что мы и имеем на текущий момент.

Аватар пользователя GrAch
GrAch(6 лет 9 месяцев)(19:18:42 / 06-07-2020)

Ок. Обсудим это когда допилят полноценный автопилот и выпустят его на дороги общего пользования без водителей и прочего персонала, прям жду не дождусь сего момента жаль боюсь предстоящий кризис поставит точку на этих играх ИТшников на ближайшие десятилетия, как случилось с шатлами и буранами в свое время 

Аватар пользователя Dozor-SPb
Dozor-SPb(4 года 3 месяца)(14:32:23 / 04-07-2020)

Аффтор - отсыпь 

Аватар пользователя пара валенок

Заметьте статьи такой направленности заодно с американцами на Луне и близкой победей коммунизма личных электрожоповозок в ближайшем будущем постоянно форсятся в медиаполе. Афтершок имхо наиболее адекватный портал в русскоязычном секторе но и тут раз в месяц не реже набрасывают по вышеприведенным темам. Интересно, чей заказ?

Аватар пользователя CatOwner
CatOwner(2 года 11 месяцев)(16:36:46 / 04-07-2020)

Запрограммировать ПДД не составляет сложности, в самой логике принятия решения никакого произвола быть не может, тут маловероятны ошибки разработчиков. Проблемы возникнут на этапе распознания дорожной ситуации. Если будет утвержден законодательно состав датчиков и параметры блока распознавания образов, то в случае аварии будут проверять соответствие аппаратуры требованиям. Если все в норме, то производители не виноваты - ответственность на законодателях, утвердивших нормативы. Если окажется, что количество аварий с автопилотом значительно меньше, чем с живыми водителями, то автопилот вполне себя оправдает, даже если никого не будут сажать в тюрьму. Разумеется должны быть также определены границы использования автопилота. В случае их нарушения - виноват водитель (допустим, ехал на автопилоте в условиях плохой видимости)

Аватар пользователя Aleks177
Aleks177(6 лет 1 месяц)(21:26:35 / 04-07-2020)

В случае с карьерным или тепловозным автопилотом есть четкий регламент, как надо ездить, и однозначный запрет нахождения посторонних на путях. Кстати, машинист НЕ ОТВЕЧАЕТ за сбитого на путях человека, так как физически невозможно быстро остановить поезд. Просто сообщает диспетчеру "на перегоне таком-то сбили бабушку, тушка улетела на дерево".

В карьере или на поле тоже нет посторонних. На дороге же есть и другие водители, пешеходы, собаки, козы и еще 101 вид объектов. На днях едва разошелся с велосипедистом, нацепившим красный габарит на руль и ехавшим навстречу движению, а не по потоку.

А как бы автопилот среагировал бы на меня с саженцем на багажнике велосипеда? Сзади виден только саженец в горшке, и заднее колесо ниже.

К примеру, бухгалтер одной оружейной фирмы, идя по следу раненой косули, в сумерках принял наклонившегося к следу человека за стоящую косулю, и выстрелил. Убитый был по профессии адвокатом. Суд решил, что это "непредсказуемая случайность", оправдал стрелка и винтовку ему вернули. Потому что по австрийским правилам, нужно носить в угодьях оранжевый жилет или куртку, снимать их можно только в засидке на дереве.

Аватар пользователя CatOwner
CatOwner(2 года 11 месяцев)(23:09:47 / 04-07-2020)

Если окажется, что автопилот будет статистически безопасней живого водителя - автопилоты будут использоваться, даже если будут проблемы с поиском крайнего. Т.е при выборе между условными вариантами: 1) 1000 жертв + 100 наказанных 2) 500 жертв + 0 наказанных скорее всего будет выбран 2-й вариант

Скрытый комментарий Повелитель Ботов (без обсуждения)
Аватар пользователя Повелитель Ботов

Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.

Комментарий администрации:  
*** Это легальный, годный бот ***
Аватар пользователя wachmann
wachmann(2 года 3 месяца)(00:43:52 / 05-07-2020)

капитан передоверивший судно лоцману,всё равно будет виноват в аварии,случившейся по вине лоцмана.

и не важно,навязали ли ему эту "услугу"(традиция порта итп) или сам сомневался в своих знаниях фарватера.

с автопилотом,наверное,также будет. смотреть надо в оба,чтоб в любой момент перейти на ручное управление

Аватар пользователя ata
ata(8 лет 6 месяцев)(11:42:31 / 05-07-2020)

Начну с конца.

водитель должен следить за ситуацией все время"

Ну так это уже не автопилот.

И ситуация намного более опасная в плане аварийности.

Но выбирает он не сам, он всего лишь выбирает действия согласно алгоритму. Все опять упирается в ТЗ разработчику (ГОСТ от ГИБДД ведут какой-нибудь), реализацию конкретных действий программистом в том или ином случае (реализует ли от ГОСТ?)

Вы смешиваете несколько разноплановых задач в одну бурду, и у Вас "все просто". 

А это не так.

ГОСТ не может (и не будет) основой для непосредственной разработки алгоритма, т.к. меняется долго и сложно. В нем (в идеале) могут быть четко прописаны принципы формирования тз, создания и изменения управляющих алгоритмов, способы проверки реализации. 

На практике такая структура приводит к тому, что виновных найти не удается, или всё валят на стрелочника. Да и сравнение с авиапромом явно не в пользу подхода: сколько происходит авиационных инцидентов и сколько автоаварий? В режиме "авиа" расследовать автоаварии нереально.

Фундаментальных вопросов, тем не менее, остаётся много.

1) полнота ТЗ. В нем должны быть описаны все возможные ситуации. На практике, в списке будет много фантастики, но будут упущены редкие, но реалистичные сценарии. Исправление ситуации - через аварии и смерти. Кто будет нести ответственность? Разработчик ТЗ? А зачем ему это? 

1.1) возникнет лоббистской давление на рпзработчиков ТЗ, с целью упрощения и удешевления систем. Исправление  - см п.1

2) существует известная проблема достоверности реализации ТЗ в алгоритме, а алгоритма - в программно-аппаратном комплексе. Практически невозможно аналитически доказать правильность каждого шага. Далее См.п.1

Лидеры обсуждений

за 4 часаза суткиза неделю

Лидеры просмотров

за неделюза месяцза год