на АШ периодический всплывают в комментариях мини-срачики на тему: "если тесла в автономном режиме задавит человека, кто будет отвечать?". Иногда это позиционируется как аргумент сильно, почти до не возможности, осложняющий внедрение автопилота. На самом деле это не так, схемы поиски виновного выработаны давным-давно.
Вот представим себе, стоит мост. По нему едет машина. Происходит обрушение. Кто виноват?
Если следствие установит, что мост был спроектирован с нарушением стандартов - виноват проектировщик
Если следствие установит, что мост был построен с нарушением стандартов - виноват, тот кто экономил на цементе
Если следствие установит, что за мостом не следили/не чинили - виноват владелец
Если следствие установит, что машина была слишком тяжелой - виноват водитель, не фиг автопоезд тут гонять
И так далее.
Чем авария с участием автопилота отличается от обрушения моста? Тем, что автопилот может выбрать сценарий поведения? Но выбирает он не сам, он всего лишь выбирает действия согласно алгоритму. Все опять упирается в ТЗ разработчику (ГОСТ от ГИБДД ведут какой-нибудь), реализацию конкретных действий программистом в том или ином случае (реализует ли от ГОСТ?), техническую исправность средства (водила камеру протер?), отсутствие форс-мажоров (высокоэнергетическая частица возникшая при слиянии черных дыр пробила планку памяти) и прочие стандартные вещи.
И не надо про то, что ТЗ хрен напишешь, полного алгоритма не создаешь. Ситуации вполне классифицируются, если что не так - коллективно тормозим на обочине до разъяснения. Как автопилот должен выбирать из двух зол? Тоже пропишут. У медиков же есть "спасаем мать, а не ребенка" - и ничего, никто не бузит.
Вот если автопилот будет на базе нейросети, способной к самообучению в ходе эксплуатации - тут да, возможны казусы и нюансы. Но их либо запретят, либо припишут что "водитель должен следить за ситуацией все время".
Так что я тут особых препятствий не вижу. Автопилот, если и будет когда-нибудь массовым явлением, будет проходить столь сложные сертификации и согласования для постановки на машину (что бы отмазать всех участников его создания), что это будет напоминать авиастроение, где в каждом новом самолете не более 10% новых деталей. И будет доступна эта деятельность только очень крупным фирмам. Что в принципе хорошо - чем меньше марок ИИ на дороге, тем стандартнее и более предсказуемое вождение мы увидим.
Комментарии
Вы не видите, а они есть.
Мост это конструкция, отработанная веками. И сотнями обрушений в том числе. Т. е. Были времена, когда инженеры спроектировали, построили, а он упал и погибли люди. Инженеры строили все по актуальным правилам, но он упал. Потому что хорошо строить еще не научились и на тот момент думали, что все ок.
Вот с автопилотом нас ждут такие же времена. Уверен, что будет ситуация системной ошибки - все все сделали согласно разработанных методик, а люди погибли.
Кого в таком случае сажать прикажете?
всё было когда-то новым...
автомобиль 150 лет назад не был отработан веками, самолет 110 лет назад не был отработан веками... многие другие технологии тоже были новинками
если бы мы пользовались только тем, что отработано веками, то и в принципе жили бы в пещерах... даже мосты бы не строили:)
Ту можно было бы возразить, что автомобили не появлялись на дорогах сразу в миллионных количествах. И что были времена, когда существовали судебные приказы о наличии пере автомобилем впереди бегущего глашатая, который уведомлял бы остальных участников дорожного движения о его приближении.
Касательно же мостов, прежде их массового распространения в античном мире существовала традиция личного присутствия главного конструктора на приёмосдаточных испытаниях - под мостом. Говорят, долго держалась, так что вопрос прочности и устойчивости мостовых сооружений получил одну из самых продвинутых и глубоких проработок.
но при этом люди регулярно попадали под лошадей и повозки:) не глупость ли? то есть по сути глашатай просто исполнял чью-то придурь, никого реально не оберегая... особенно с учетом того, что лошадь движется намного тише чем тогдашние автомобили
А.П. Чехов, рассказ "Радость"
это конечно прекрасно... но мост может рухнуть и через день и через 10 лет... главного конструктора что, держали прикованным под мостом что ли?:)
Вот и Ефремов заявил, что не виновен. Автопилот железный - пусть он и отвечает.
Вопрос в том, от кого будет больше трупов и материального ущерба, от всяческих "ефремовых" или от автопилотов. И сколько это будет стоить. Все остальные вопросы юристы разрулят мигом, и мнения нашего не спросят.
Сложные сертификации? Не смешите. Я один писал программу управления установкой коррекции зрения. Шеф все это как-то протащил в минздраве.
А вот ещё. Завтра хакеры взломают систему обновления, и в момент икс все болиды будут направлены в толпу.
Кто будет отвечать? Хакеры понятно, если найдут, ну а в плане тех, кто допустил такую возможность.
Алекс ну подобные ж системы не один десяток лет на заводах используются, что у нас что за бугром. Все давно задокументировано.. и ответственность в разных ситуациях и алгоритмы работы. Если кто-то взломает промышленного робота и он манипулятором тебе что-то поломает - есть куча инструкций и порядок работы описан от и до.
Ясен пень, что взломают. Защиту выберут самую дешевую, рынок же... .
Вопреки тому, что говорят производители файрволов и антивирусов, в компьютерных системах нет "защиты".
Есть уязвимости.
А это концептуально иное: дешёвый бортовой комп "Лады" невозможно взломать не потому, что у него "дорогая защита", а потому что у него тупо нет радиоинтерфейсов, через которые это можно сделать в принципе.
А сегодня уже выпустили немало автомобилей, в которых управление частично или полностью контролируют компьютер авто. И какеры уже демонстрировали на публике вмешательство в управление таких авто. И что?
А за что именно им предлагается отвечать? "Похакать бортовой компьютер" - преступление гораздо сложнее, чем просто взять ножики для картона и приставить их к горлу авиапилотов, например. Ну или просто заложить бомбу.
Любую машину можно привести в негодность, какая разница, каким? Если преступник проткнёт гидравлику, кто будет отвечать за то, что допущена такая возможность, что в машине не было компьютера и самодиагностики, а тормоза не управлялись по CAN? :)
Препятствие будет в том, что персональная ответственность будет заменена размытой коллективной. Если конкретный великий артист сел за руль пьяный и обдолбанный -это его, великого артиста персональная ответственность. Если лихой капитан круизного судна решил показать, как он умеет лавировать между рифами -это персональная ответственность капитана.
В случае ТС, оснащённом ИИ, ответственность будет размыта. Кто виноват в аварии: руководитель предприятия-разработчика, главный конструктор, коллектив программистов, конструктора, разработавшие аппаратную часть или кто иной? Даже в случае со слишком "умным" Боингом-737 нет стопроцентной группы виновных. Здесь и криворукие программисты с другого края света, тот, кто отдал им процесс на программирование, те, кто написали кондовые инструкции, те, кто узаконил изменение, да и сами пилоты, умеющие только в автоматику.
В западной юридической практике при таких инцидентах виновные либо не были вообще определены, либо виновные назначены произвольно, чтобы создать видимость правосудия. С ИИ будет то же самое.
Есть вероятность, что владелец робота допустил его эксплуатацию например с неисправным сенсором. А это нужно будет тоже расследовать и доказать. Мосты падают редко, а вот что будет при массовой эксплуатации роботов-машин, предугадать сложно.
А неисправность сенсора определяет кто? И разве не логично поставщику банально заблокировать работу системы в автоматическом режиме в случае неисправности датчиков?
Да ладно вам, ничего не будет размыто. Ответственный всегда будет определён. Если это личный автомобиль, то покупатель (владелец) будет в договоре продажи иметь запись, что за последствия использования машины, включая режим автопилота, производитель ответственности не несёт. Ибо это будет свободный и осознанный выбор того, кто эту машину использует. Он ею управляет, он персонально включает этот режим. Он, а не производитель. Следовательно, отвечать за это будет тот, кто выполнил конкретные действия, спускаясь вниз до владельца машины, который осознанно передал её не выявленному водителю. Случай кражи не рассматриваем, если после происшествия никого не нашли.
Всё это будет закреплено в договорах, ПДД и других документах прямого действия. Не надейтесь, человек, выполнивший действия, которые привели к последствиям, требующим определения виновного субъекта, не отвертится от последствий этих своих действий. И никакие юристы не помогут, если ответственность за действия участников движения и владельцев ТС будет прописана прямо и детально.
То есть джамшуты в телеповозках типа Яндекса и майлру останутся. Но это вроде та самая мысль, которую опровергнуть хотел ТС сомнительным - "напишут ГОСТ".
Государства будут смотреть на экономическую составляющую всегда и при определенных соотношениях рисков управления человеком и автопилотом, коженных водителей могут легко ограничить в правах сначала на части дорог, а потом и совсем. Нас же не беспокоит, что лифт сам нас возит.
Лифты не конфликтуют между собой за шахту. Это главная разница. Почему автопилот существует у самолетов? Потому что куча людей на земле продумывает организацию полетов без конфликтов. Каждый самолет летит в своем коридоре. И самолеты в процессе взлета посадки не конфликтуют между собой за полосу. Прибавим к этому радар значительно расширяющий горизонт принятия решений.
Так я и говорю, что джамшуты будут автоповозками рулить деюре, пока риски автопилотов не станут более выгодными для государства.
Ну а с самолётами там сколько хочешь конкуренции и за коридоры, и за полосы, и даже за места на стоянках. Разводят очень часто в ручном режиме. Но и аварии случаются.
Радар для одновременного пилотирования сотен авто на сложных развязках не проблема , если это выгодно.
Не так все таки как у авто. Насчет радара я сам удивлен но вроде никто не разрабатывает автоповозки с их использованием. Интересно, почему?
Я думаю вы не достаточно информированны в этом вопросе. И в Германии лично знаю ребят и в Калифорнии, работают на лаборатории , которые потом производителям авто эти решения лицензируют. Причем групп таких несколько.
?! Эээ... Вообще, дофига фирм.
Скажем, те же "Когнитиве" свой радар выпустили.
А так-то - радар высокого разрешения (как и лидар) тоже пока относительно дорогая штука. Если можно обойтись без него, то, конечно, пробуют обойтись без него.
Вы думаете командир лайнера не ответит, если что не так пойдёт? Ответит. Чаще всего - собственной жизнью.
Ясен пень, не спорю. Только если автопилот пошел в серию значит было доказано что он не увеличивает риски а уменьшает. По крайней мере не меняет. То есть работает в отведенной ему области не хуже чем человек. Видимо это и есть критерий применимости технологии.
А разве каждый входящий в лифт и нажимающий на кнопку не подписывает тем самым оферту с владельцем лифта, что это его личный выбор о том, что с ним вполне может случиться? Вот сейчас для коронавируса лифты отличное место для распространения. Ибо - маленькое,закрытое и не проветриваемое пространство. Вы же сами выбираете в этом случае свою судьбу, никто кроме вас.
При обрыве лифта с жертвами с владельца (и далее) спросят. А вот смерть от коронавируса ему не предъявишь, ибо не предусмотрена такая ответственность.
И лифт не работает в режиме реального времени, кстати. То есть если он подтормаживает от этого ничего не произойдет. Кроме защиты дверей , пожалуй.
Никакие юристы не заставят купить машину.... Ясно же что лохотрон, если производитель ни за что не отвечает. Потом без экспертизы открытого кода такой системы, притом человеком которому я доверяю а не пресловутым "экпердам" на жаловаье у производителя.
Давайте для начала вы мне покажете автопилот на РЖД где его создать и внедрить на порядки проще чем на автодорогах общего пользования а потом мы поговорим об автопилоте на тесле или яндексе. Утомили эти сказки уже чес слово.
Для Вашего удовлетворения его следует выдрать из маневрового локомотива, используемого на сортировке порта в Усть-Луге и показать, как он выглядит? А из беспилотных карьерных самосвалов ничего выдирать для Вас не придётся? Кстати, также существуют беспилотные сельскохозяйственные трактора, их автопилот тоже хотите посмотреть?
Вы только что сами назвали ограничения действия автопилотв локальными статичными системами которые легко описываются алгоритмически... полностью автоматизированный склад с карами автопилотами я видел еще лет 15 назад. Проблема в том что автопилот не побежит запрессованную стрелку чистить как помошник машиниста или не сможет выбрать кого давить "девочку или бабушку" в яндекс такси как в том анекдоте. До 5% критических ситуаций на дорогах общего пользования не описываются алгоритмами от слова совсем, соответственно нужен либо водятел либо дорога должна быть выделена в отдельную автопилотную, не подскажите в чем смысл подобного банкета тогда?
Разработанная компанией система компьютерного зрения позволяет на скоростях до 60 километров в час определять железнодорожные пути, положение стрелок на расстояниях до 70 метров, четыре вида сигналов светофоров на расстояниях до 200 метров, людей и иные препятствия на пути следования локомотива на расстояниях до 70 метров, а также наличие на пути следования локомотива состава, с которым будет производиться сцепка, на дистанциях до 100 метров.
"Основным конкурентным преимуществом нашего решения является возможность безопасной работы в любых погодных условиях: дождь, метель и туман – и при любой освещенности. Его внедрение позволит снизить число происшествий и пострадавших на 30-40%", – заявила глава компании-разработчика.
Источник.
Представителю компании разработчика не плохо было бы узнать сколько сигналов на входном светофоре станции для начала и то что грузовые поезда движутся по перегону со скоростью 80-90 км/ч на участках оборудованых АБ не заморачиваясь. Про движение по приказу или с предупреждением вообще скромно промолчим и о куче других тонкостей.
... а караван идёт.
Информация годовалой давности:
"Завод "Уральские локомотивы" (совместное предприятие Группы "Синара" и концерна Siemens, находится в Верхней Пышме Свердловской области - прим. ТАСС) выполнил контракт с ОАО "РЖД" на установку дополнительного оборудования систем автоведения на скоростных электропоездах "Ласточка", курсирующих по МЦК. 51 пассажирский состав оснащен ультразвуковыми датчиками", - говорится в сообщении.
Гендиректор "Уральских локомотивов" Олег Спаи пояснил, что установленная система автоведения позволит значительно упростить работу машиниста и уже в ближайший месяц сократить интервал движения поездов. "Сейчас на полигоне эксплуатации МЦК проводятся тестовые проверки нового оборудования в динамике", - добавил он.
Отмечается, что оборудование "Ласточек" новыми датчиками - это подготовительный этап к внедрению беспилотной системы управления электропоездами.
Беспилотные технологии
В пресс-службе уточнили, что также на МЦК опытные испытания с лета проходит "Ласточка" со встроенной системой "машинного зрения". Во время движения электропоезда технология формирует двухмерную или трехмерную картину окружающего пространства при помощи камер и сканирующих устройств - это позволяет оценивать состояние и занятость путей. Испытания продлятся еще несколько месяцев.
Беспилотные электропоезда "Ласточка" могут начать курсировать по Московскому центральному кольцу (МЦК) уже в 2021 году, сообщил журналистам генеральный директор "Российских железных дорог" Олег Белозеров после тестового пробега беспилотного поезда.
"Окончательный шаг мы планируем сделать в 2021 году, и прежде всего такие поезда выйдут здесь, в Московском регионе на МЦК, поскольку... это обеспечит повышенный уровень безопасности и надежности", - сказал он, говоря об этапах внедрения технологии беспилотного движения поездов.
Хоспади опять вернулись к локальным решениям для выделенных линий. Для тех кто на бронепоезде последний раз повторяю я говорю о "беспилотниках" для дорог общего пользования а не о локальных вещах. Локалку еще при СССР успешно тестировали и пришли к выводу что сильно дорогое удовольствие хоть и модное.
Отлаживать эти сложные решения на простых условиях эксплуатации не надо? Сразу автономный звездолёт подавай?
Что там отлаживать? В ласточке готовые решения которые сименс внедрят под пригородные темы и метро уже лет 20, проблема в том чтобы убрать человека из кабины сама линия должна отвечать куче специализированных требований что существенно увеличивает затраты на ее эксплуатацию. Беспилотная ласточка не поедет по путям где ходят грузовые и тп в этом весь фокус решения которому пока в природе нет.
Мы уже обсуждали это, и, кажется, Вы не смогли объяснить экономический смысл внедрения полного автопилота на ЖД.
С автомобилями водитель - существенная статья расходов.
Когда кажется вы знаете что делать. Я лично не помню что я вам что-то не смог обьяснить.
Экономический смысл ровно такойже как на самолете, движение тягового состава по перегону это монотонная работа в которой явно бы не помешали учет веса и характеристик состава, прфиля пути, погодных условий и тд и тп в автоматическом режиме. Но наличие аварийных или пред аварийных ситуаций требует наличие человека при этом полный автопилот становится экономически не выгодным. Достаточно существующих полуавтоматов с контролем скорости и бдительности.
Угу а мега комп с кучей датчиков в авто это прям таки удешевление расходов и дороги в состоянии пригодном для движения автопилота 4го недопоколения уже везде вокруг понастроили бесплатно
хотя не вру построили 2,5 км2 в инополисе, осталось остальные только переделать
Почему только мне? Вы вообще не смогли ответить "зачем?". Что аннулирует вопрос "почему ещё не?". Не потому что не смогли, очевидно, а потому что незачем.
И точно так же, как на самолёте, остался человек. Просто поезд настолько проще самолёта в управлении, что там, реально ИИ не нужен.
...
Да, комп с кучей датчиков - гораздо дешевле человека. Человек вообще ну очень дорогой. В (русском) такси его замена отбивалась бы даже если б роботизация стоила бы 2-3 миллиона, но по нынешним представлениям реальная цена автопилота на момент выхода на рынок будет гораздо меньше. Даже сейчас комплект робопилота дешевле.
Абсолютное большинство дорог, пригодных для вождения человеком, должны быть пригодны для робота. Если это не так, то робот не готов. Робот не готов, а не дороги. Что мы и имеем на текущий момент.
Ок. Обсудим это когда допилят полноценный автопилот и выпустят его на дороги общего пользования без водителей и прочего персонала, прям жду не дождусь сего момента жаль боюсь предстоящий кризис поставит точку на этих играх ИТшников на ближайшие десятилетия, как случилось с шатлами и буранами в свое время
Аффтор - отсыпь
Заметьте статьи такой направленности заодно с американцами на Луне и близкой победей
коммунизмаличных электрожоповозок в ближайшем будущем постоянно форсятся в медиаполе. Афтершок имхо наиболее адекватный портал в русскоязычном секторе но и тут раз в месяц не реже набрасывают по вышеприведенным темам. Интересно, чей заказ?Запрограммировать ПДД не составляет сложности, в самой логике принятия решения никакого произвола быть не может, тут маловероятны ошибки разработчиков. Проблемы возникнут на этапе распознания дорожной ситуации. Если будет утвержден законодательно состав датчиков и параметры блока распознавания образов, то в случае аварии будут проверять соответствие аппаратуры требованиям. Если все в норме, то производители не виноваты - ответственность на законодателях, утвердивших нормативы. Если окажется, что количество аварий с автопилотом значительно меньше, чем с живыми водителями, то автопилот вполне себя оправдает, даже если никого не будут сажать в тюрьму. Разумеется должны быть также определены границы использования автопилота. В случае их нарушения - виноват водитель (допустим, ехал на автопилоте в условиях плохой видимости)
В случае с карьерным или тепловозным автопилотом есть четкий регламент, как надо ездить, и однозначный запрет нахождения посторонних на путях. Кстати, машинист НЕ ОТВЕЧАЕТ за сбитого на путях человека, так как физически невозможно быстро остановить поезд. Просто сообщает диспетчеру "на перегоне таком-то сбили бабушку, тушка улетела на дерево".
В карьере или на поле тоже нет посторонних. На дороге же есть и другие водители, пешеходы, собаки, козы и еще 101 вид объектов. На днях едва разошелся с велосипедистом, нацепившим красный габарит на руль и ехавшим навстречу движению, а не по потоку.
А как бы автопилот среагировал бы на меня с саженцем на багажнике велосипеда? Сзади виден только саженец в горшке, и заднее колесо ниже.
К примеру, бухгалтер одной оружейной фирмы, идя по следу раненой косули, в сумерках принял наклонившегося к следу человека за стоящую косулю, и выстрелил. Убитый был по профессии адвокатом. Суд решил, что это "непредсказуемая случайность", оправдал стрелка и винтовку ему вернули. Потому что по австрийским правилам, нужно носить в угодьях оранжевый жилет или куртку, снимать их можно только в засидке на дереве.
Если окажется, что автопилот будет статистически безопасней живого водителя - автопилоты будут использоваться, даже если будут проблемы с поиском крайнего. Т.е при выборе между условными вариантами: 1) 1000 жертв + 100 наказанных 2) 500 жертв + 0 наказанных скорее всего будет выбран 2-й вариант
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
капитан передоверивший судно лоцману,всё равно будет виноват в аварии,случившейся по вине лоцмана.
и не важно,навязали ли ему эту "услугу"(традиция порта итп) или сам сомневался в своих знаниях фарватера.
с автопилотом,наверное,также будет. смотреть надо в оба,чтоб в любой момент перейти на ручное управление
Начну с конца.
Ну так это уже не автопилот.
И ситуация намного более опасная в плане аварийности.
Вы смешиваете несколько разноплановых задач в одну бурду, и у Вас "все просто".
А это не так.
ГОСТ не может (и не будет) основой для непосредственной разработки алгоритма, т.к. меняется долго и сложно. В нем (в идеале) могут быть четко прописаны принципы формирования тз, создания и изменения управляющих алгоритмов, способы проверки реализации.
На практике такая структура приводит к тому, что виновных найти не удается, или всё валят на стрелочника. Да и сравнение с авиапромом явно не в пользу подхода: сколько происходит авиационных инцидентов и сколько автоаварий? В режиме "авиа" расследовать автоаварии нереально.
Фундаментальных вопросов, тем не менее, остаётся много.
1) полнота ТЗ. В нем должны быть описаны все возможные ситуации. На практике, в списке будет много фантастики, но будут упущены редкие, но реалистичные сценарии. Исправление ситуации - через аварии и смерти. Кто будет нести ответственность? Разработчик ТЗ? А зачем ему это?
1.1) возникнет лоббистской давление на рпзработчиков ТЗ, с целью упрощения и удешевления систем. Исправление - см п.1
2) существует известная проблема достоверности реализации ТЗ в алгоритме, а алгоритма - в программно-аппаратном комплексе. Практически невозможно аналитически доказать правильность каждого шага. Далее См.п.1