Ранее я уже писал о первом смертельном наезде автономного автомобиля на пешехода. Видео наезда вот тут:
Теперь, после публикации предварительного расследования, стало понятно что виноваты программисты, которые создали очень непродуманный алгоритм действий.
Убер оснастил испытательный автомобиль Вольво системой автономного вождения. Система состояла из радиолокатора, LIDAR, навигационных датчики и компьютера. Убер также оснастил автомобиль системой видеокамер которые были установлен в лобовом стекле и заднем стекле.
Система автономного движения была основана на карте, которая устанавливает ограничения скорости и допустимые полосы движения. Система имеет два различных режима управления: компьютерное управление и ручное управление. Оператор может включать управление компьютером с помощью последовательности, аналогичной активации круиз-контроля. Оператор может перейти к компьютерному управлению к ручному управлению посредством влияния на рулевое колесо, педаль тормоза, педаль акселератора, кнопку разъединения или кнопку отключения.
Транспортное средство было оснащено несколькими дополнительными функциями помощи водителю Volvo Cars, от производитель. Системы включали функцию предотвращения столкновений с автоматическим аварийным торможением, известное как City Safety, а также функции для обнаружения внимания водителя и дорожных знаков. Все эти функции Volvo отключены, когда испытательного транспортное средство работает в режиме компьютерного управления, но работают, когда автомобиль эксплуатируется в ручном режиме.
По словам Убер, система полагается на внимательного оператора, чтобы он вмешался, если система не может работать надлежащим образом во время тестирования. Кроме того, оператор несет ответственность за
мониторинг диагностических сообщений, которые появляются на интерфейсе в центре автомобиля, и должен помечать события, представляющие интерес для последующего обзора.В ночь аварии оператор отправился из гаража Убер с машиной в 9:14 вечера для проезда по установленному маршруту испытания. Во время аварии транспортное средство двигалось по своему второму кругу испытания
маршрута и находилось в компьютерном контроле с 9:39 вечера. (т. е. предыдущие 19 минут). Согласно данным, полученным из системы самодвижения, радар и LIDAR зафиксировали пешехода за 6 секунд до удара, когда автомобиль ехал со скоростью 43 миль в час. По мере того, как пути транспортного средства и пешехода сходились, программное обеспечение классифицировало пешехода как неизвестный объект, как транспортное средство, а затем как велосипед с различными ожиданиями будущего пути путешествия.За 1,3 секунды до удара система определила, что маневр экстренного торможения был необходим для смягчения столкновения (см. рисунок 2). Согласно Уберу, маневр экстренного торможения не включен, пока автомобиль находится под управлением компьютера, чтобы уменьшить потенциал для неустойчивого движения транспортного средства. Система полагается на вмешательство оператора транспортного средства. Система не дает предупреждения оператору.
Оператор нажал на тормоз менее чем за секунду до удара. Скорость на момент удара была 39 миль в час.
https://www.ntsb.gov/investigations/AccidentReports/Reports/HWY18MH010-p...
По моему надо что-то, кому-то оторвать:
1. Они создали систему которая, не ТОРМОЗИТ в экстренных случаях. И даже не предупреждает оператора об опасности столкновения.
2. При этом дали оператору задание которое требует его смотреть на экран компьютера вместо дороги.
Я конечно выступаю за технический прогресс, но такое разгильдяйство выходит за рамки разумных ошибок.
Комментарии
Какой же это пешеход? Это велосипедист, их можно...
Какой же это пешеход? Это велосипедист, их можно...
Дальнобойщики их "хрустиками" обзывают.
А я слышал другой вариант. Велосипедист - наклейка, а вот мотоциклист - хрустик.
Каждый велосипедист - личинка "хрустика". А в спешенном виде - вполне безопасен для переезда. Сарказм, если что...
Из личинки хрустика рождаются настоящие хрусты - мотоциклисты.
На парковке стоит толпа бородатых, волосатых, в наколках байкеров... Пьют пиво. Мимо проносятся мотоциклисты на спортивных байках с огромной скоростью... В одну сторону, потом обратно, опять и опять...
Через некоторое время останавливается один из них и обращается к продолжающим пить пиво байкерам:
- Слышь, братва, давай хоть познакомимся - вы байкеры, мы байкеры, а не общаемся...
- А что с вами знакомиться - вы ж каждый год НОВЫЕ!!! !
встретите на дороге их человек 15 иль хотяб пятерых - попробуйте, потом расскажете что можно а чего нет. когда в склифе велонасос из вас достанут.
еслиб жирная баба иль мужик в такси бегало по утрам и ездило на работу на автобусе то никто не пострадал бы.
Конечно программисты. Я бы сильно удивился бы если бы какие нибудь там менеджеры.
В конечном итоге придут к тому, что виновата мясная прокладка между сиденьем и рулем (в перспективе торпедой) - по аналогии с тем, как навигаторы первым делом включают надпись, что в случае чего водила сам дурак.
Ну не транснационалы же будут по судам за трупы отвечать.
А где же хваленный искусственный интелект на базе самообучающихся нейросетей?
Аааа, это просто развод для лохов? Ну ладно, а то мы думали...
Ну искусственный интеллект понял что надо тормозить, но кто-то без интеллекта решил что торможение не надо доверять искусственному интеллекту.
За 1.3 секунды до удара? Вам не кажется что это очень мало в данной ситуации? Человек, который серьёзно отвлечен от управления, не всегда сможет оперативно включится в управление ТС за такое время. Ещё не понятно что там увидела машина. Вероятно порекомендовала штатно (опираясь на заложенные в программу алгоритмы) притормозить перед распознанным знаком пешеходного перехода.
Если бы она экстренно затормозила за 1.3 секунды, то человек бы выжил.
нет 43 Мили/ч - 68,8 км/ч - 19,1 м/сек
тормозной путь со скорости 70км/ч на 100% сухом асфальте 26 метров коэффициент 0,7 в идеальных условиях
тормозной путь со скорости 70км/ч на влажном асфальте асфальте 37 метров коэффициент 0,5 в идеальных условиях
1,3 сек, 0,05-0,1 сек на реакцию механизма, 19,1 м/сек - даже с учетом торможения в пол и не совсем линейного процесса удар на скорости 5-8 м/сек - травмы и это на сухом асфальте.
UPD: можно и расстояние обнаружения расчитать и даже прикинуть скорость в момент удара при торможении ИИ, но ленивого
эелезяка хотябы тупо должна была зажать клаксон и не отпускать его 6 секунд, не думаю что велосипедист кроме того что слепой еще и глухой. а по хорошему еще и секунды за три начать плавное замедление.
там же указано обнаружение за 1,3 сек до удара
это уже когда экстренное торможение нужно стало, а увидела за 6 секунд
Скорость 70км/ч = 19.4 м/с. 1.3с это почти 25 метров (немного меньше, так как скорость все же чуть упала к удару)
В идеальных условиях на сухом асфальте тормозной путь - ~27-30м. Вряд ли бы машина остановилась. Но скорость была бы уже не опасна для пешехода. Возможно так же был шанс уклонится от столкновения...
Другой вопрос в том, что ограничение наверняка тоже не зря поставили, так как с ним машин тормозил каждые пять минут, что очень быстро приводит к укорачиванию автомобиля...
Из всего этого можно сделать выводы:
1. Автоматическая система пока не в силах распознать все дорожные ситуации и правильно на них реагировать
2. Обучать системы до применения нужно еще очень долго - лет 10 по оптимистичным прогнозам.
3. Подход к обучению и тестированию в корне неверный - управлять автомобилем должен человек. Автопилот работает в режиме наблюдателя и виртуально отрабатывает все действия. Затем действия человека и автопилота сравниваются и анализируются. И так много-много раз. Иначе случаев, подобных этому, будет тысячи... Хотя может в этом и цель...
Насамом деле слишком сложные условия для распознования инцидента для существующей системы. Также форма не стандартного (машина не готова распознать человека с велосипедом с такого ракурса и в таких условиях), внезапно возникшего из темноты объекта, не позволила машине вовремя с реагировать и принять решение на торможение.
Такие ситуации будут ещё очень и очень часто возникать. И вряд ли когда-то удастся заалгаритмировать все нестандартные ситуации. Это только дебилы думают что в машине ИИ и она может принимать осознанные решения. Этого не будет никогда.
Она объект разрознала.
Вряд ли она нормально распознает. Здесь ещё очень много работы. Система явно сырая. Даже если и распазнала то было поздно. И потом, в системе столько вариаций и допущений, что при сложных условиях автоматика просто не понимает что делать. Если бы система сама бы принимала решение о торможении в сложной ситуации то ехать в такой жоповозке было бы очень не комфортно :) А теперь представьте если бы все участники движения ехали бы на таких не допиленных автопилотах.
А теперь самый главный вопрос. Вы бы решились переходить дорогу в месте перехода, если бы допускали что в этот момент перед вами впереди по дороге движется машина на автопилоте? Доверили бы свою жизнь хренпоймешь как вышитым и конфликтующим между собой алгоритмам фэйкового ИИ?
Вообще не понятно как идиоты покупаются на рекламу об ИИ, потом садиться за руль и доверяют свою жизнь автопилоту.
Весь этот ИИ форсит ИТ тусовка, пытаясь завернуть на себя большую и большую часть общественного пирога. Для большинства людей эти вещи сложны для понимания и они думают что все эти вещи действительно стоят много денег. Да, они стоят денег, но если посмотреть на ситуацию в целом, то возникает вопрос о сбалансированности затрат на эту херь и получаемой в итоге выгоды. В обществе есть много сфер деятельности где бы эти деньги и прочие ресурсы были более полезны.
Я кстати теперь стал более осторожно переходить дороги, потому что нет уверенности что водитель управляет машиной.
Даже если машина видимо тормозит, я перед ней не перехожу.
Это правильно. Я не перехожу, пока машина не остановится. Человек не программа, но и у него косяки бывают.
Вы не идёте, и она не едет. И все стоят и улыбаются.
Есть такой старенький фильм "Кристина" (1983), по Стивену Кингу. Похоже программисты Убера вдохновлялись этим фильмом или книгой))
Я кстати теперь стал более осторожно переходить дороги
Ты себя береги. Страшно там у вас.
искусственный интеллект это не страшно. можно же на рукав прицепить яркий красный светодиод и включать переходя дорогу где вздумается, шарабаны будут принимать за светофор запрещающий.. иль проекцию разметки на асфальт светить в сторону столба ближайшего, тоже занятно..:) вот блондинка с накачанными в качалке губами которой права подарили в том же салоне где бмв 3-литровый папа купил - это реально страшно:) бо там интеллекта нет никакого, а рефлексы замедлены потому шо она ночное животное:)))
Я кстати теперь стал более осторожно переходить дороги
Ты себя береги. Страшно там у вас.
Да зачем? Там же запасных навалом. Овцы - расходный инструмент пиндопропаганды
Скайнет. Начало.
С одной стороны, развитие систем ИИ, якобы, ушло далеко вперед с тех пор, как появились первые компьютеры, а с другой стороны, любой знает о наличии простых и эффективных способов проверки "человек-робот" - например, капча с кривым текстом или фотография, на которой надо распознать витрины или транспортные средства. И что интересно, никто не видит в этом факте противоречий. А зря.
Не понял, все зашибись у вас шло, а тут прокол такой, бывает.
У нас в деревне дед живет, сядет на траву во дворе, достанет конец, а на конец тридцать три воробья садятся.
Правда у тридцать третьего воробья, нет-нет да лапка соскальзывает. (из анекдота про русского, американца и китайца)
Аксиома: "Каждая последняя ошибка Программиста оказывается предпоследней."
Уважаемый Небесный , Вы на каждого дикого лося будете клеить катофоты? А так же всяких разных диких...?
херак херак и в продакшен ...
Менеджеры должны организовать проверки безопасности, не программисты. Менеджеры не должны выпускать непровереннное по полной ПО на улицу.
test-driven development, разработка через тестирование, вполне себе известная и даже популярная парадигма программирования
Не для встроенных систем, которые управляют опасным железом. Для встроенных систем обычно используется традиционный водопад, где на спеку тратиться больше времени, чем на реализацию. test-driven development может там встретится на этапе реализации. Но интеграционные тесты (включая автомобиль) в любом случае нужно было проводить до выпуска автомобиля на дорогу. В данном случае по любому менеджеры, так как по описанию - косяк в требованиях, а не реализации. Обратите внимание на предложение:
То есть, это скорее всего преднамеренное поведение, скорее всего по требованиям от менеджеров.
Как я понял, все там в ПО хорошо, и объект был опознан и тормозить система была готова.
Но кто-то наверху решил - а вдруг, если системе дать разрешение тормозить когда ей что-то почудится, она начнет тормозить во всяких странных обстоятельствах? Ведь ПО еще обкатывать и обкатывать. Из-зи странного торможения по типу что-то ПО почудилось, могут упасть продажи. А вот доверие покупателю у нас всегда на первом месте.
Чья эта логика сами догадаетесь?
Полностью поддерживаю метод научного тыка и полнофакторный эксперимент, когда дело не касается безопасности.)
а что не так-то ? в рамках парадигмы должен был быть полигон, в частности с чучелами хрустиков в ночи
Но на полигоне с выскакивающими чучелами сэкономили. Значит парадигма была не та.
Не уверен, что успел бы затормозить в таких же условиях.
Но я бы, наверно, чуть скорость снизил перед этим черным пятном.
И рулем бы дернул резко, увидев велосипед.
Скорее всего это у камеры светосилы не хватило нормальную картинку снять, вероятно в реале бабу видно было нормально.
Мстр СкайШип, что там с прошивками Теслы по новым тормозам?
Ждуны АШ ждут обновления до конца недели
пс. За Рулем лучше не отвлекаться на всякие смартфоны, ты или едь как водитель или сиди с телефоном как пассажир....вместо велосипедиста мог быть любой из нас на 2х ногах, когда можно будет спать в машине за рулем, вот тогда и будет автономность, а пока виден только один пиар дешевых датчиков и тупых программистов...
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
Овче, как думаешь, если бы баба бросилась так под Теслу, то что было бы?
Была бы новая статья от г-н Токанавы.
Мне кажется оператор виноват. На видео она смотрит и на дорогу и на экран. У меня сразу ассоциации с МППСС-72 возникли : Опасность столкновения -"предположения не должны делаться на основании неполной информации,и особенно радиолокационной. И еще "Если имеются сомнения в отношении наличия опасности столкновения, то следует считать, что она существует"
Возможно есть какие-то более подробные правила для оператора,как и что он должен делать в подобных ситуациях.
Система за 6 секунд обнаружила,тетке уже надо было напрячься,хотя бы скорость сбросить.
Страницы