Ранее я уже писал о первом смертельном наезде автономного автомобиля на пешехода. Видео наезда вот тут:
Теперь, после публикации предварительного расследования, стало понятно что виноваты программисты, которые создали очень непродуманный алгоритм действий.
Убер оснастил испытательный автомобиль Вольво системой автономного вождения. Система состояла из радиолокатора, LIDAR, навигационных датчики и компьютера. Убер также оснастил автомобиль системой видеокамер которые были установлен в лобовом стекле и заднем стекле.
Система автономного движения была основана на карте, которая устанавливает ограничения скорости и допустимые полосы движения. Система имеет два различных режима управления: компьютерное управление и ручное управление. Оператор может включать управление компьютером с помощью последовательности, аналогичной активации круиз-контроля. Оператор может перейти к компьютерному управлению к ручному управлению посредством влияния на рулевое колесо, педаль тормоза, педаль акселератора, кнопку разъединения или кнопку отключения.
Транспортное средство было оснащено несколькими дополнительными функциями помощи водителю Volvo Cars, от производитель. Системы включали функцию предотвращения столкновений с автоматическим аварийным торможением, известное как City Safety, а также функции для обнаружения внимания водителя и дорожных знаков. Все эти функции Volvo отключены, когда испытательного транспортное средство работает в режиме компьютерного управления, но работают, когда автомобиль эксплуатируется в ручном режиме.
По словам Убер, система полагается на внимательного оператора, чтобы он вмешался, если система не может работать надлежащим образом во время тестирования. Кроме того, оператор несет ответственность за
мониторинг диагностических сообщений, которые появляются на интерфейсе в центре автомобиля, и должен помечать события, представляющие интерес для последующего обзора.В ночь аварии оператор отправился из гаража Убер с машиной в 9:14 вечера для проезда по установленному маршруту испытания. Во время аварии транспортное средство двигалось по своему второму кругу испытания
маршрута и находилось в компьютерном контроле с 9:39 вечера. (т. е. предыдущие 19 минут). Согласно данным, полученным из системы самодвижения, радар и LIDAR зафиксировали пешехода за 6 секунд до удара, когда автомобиль ехал со скоростью 43 миль в час. По мере того, как пути транспортного средства и пешехода сходились, программное обеспечение классифицировало пешехода как неизвестный объект, как транспортное средство, а затем как велосипед с различными ожиданиями будущего пути путешествия.За 1,3 секунды до удара система определила, что маневр экстренного торможения был необходим для смягчения столкновения (см. рисунок 2). Согласно Уберу, маневр экстренного торможения не включен, пока автомобиль находится под управлением компьютера, чтобы уменьшить потенциал для неустойчивого движения транспортного средства. Система полагается на вмешательство оператора транспортного средства. Система не дает предупреждения оператору.
Оператор нажал на тормоз менее чем за секунду до удара. Скорость на момент удара была 39 миль в час.
https://www.ntsb.gov/investigations/AccidentReports/Reports/HWY18MH010-p...
По моему надо что-то, кому-то оторвать:
1. Они создали систему которая, не ТОРМОЗИТ в экстренных случаях. И даже не предупреждает оператора об опасности столкновения.
2. При этом дали оператору задание которое требует его смотреть на экран компьютера вместо дороги.
Я конечно выступаю за технический прогресс, но такое разгильдяйство выходит за рамки разумных ошибок.
Комментарии
Ну ей/ему поставил задачу смотреть на экран.
Ну вот у Вас в статье написано: " По словам Убер, система полагается на внимательного оператора, чтобы он вмешался, если система не может работать надлежащим образом во время тестирования", то есть основная ответственность на операторе, я так понял.
Система не дает предупреждения, маневр экстренного торможения отключен. Оператор же должен это все знать и учитывать. Его ротозейство,имхо
А чье же еще? НАфига он там тогда нужен?
Они там своего земляка не читали что-ли? Гражданина Азимова и 3 закона робототехники?!
Interiour view напомнило.
Там в отчете много поучительных моментов.
49-летняя велосипедистка поздно вечером пешком вела велосипед через неосвещенную часть дороги вне зоны перехода и при ограниченной видимости (там кусты). Для "лучшей" видимости, сама она была была одета в темную одежду, а у велосипеда по бокам не было рефлекторов. Чтобы уж совсем наверняка, по сторонам она не смотрела от слова совсем, а в крови у нее был метамфетамин и марихуана...
В общем, прямо кандидат на премию Дарвина...
"Главные враги геофизики(тут можно подставить свое) - инженеры и программисты"(с)
Какие можно сделать выводы
1) то что программисты у вас в америке плохие было и без расследования понятно
2) дороги в должой степени не освещены
3) пешеходы культуре поведения не обучены (дорогу переходят где попало, про световозвращающие элементы не вкурсе)
А вообще же от момента, когда пешехода стало видно до столкновения чуть больше секунды. Человек бы точно среагировать не успел. Так что ИИ нужно развивать.
Программисты могли быть в Индии или Белорусии.
согласен
4) Экономия на программистах (оутсорсинг) - зло.
Из Индии - Хейли, а из Бел0руссии... кАзёл американский с б0льшым дуплом - Кушнер Давидка, нерусь тмб-я американская))
Я сомневаюсь, что здесь именно программисты виноваты. Возможно бизнес аналитики, а скорее всего менеджеры. Программисты решения такого типа не принимают, это обычно вне их компетенции. Такие детали алгоритма обычно согласовывают на многих уровнях, прежде чем дело дойдет до кодирования. Если в данном случае решение приняли программисты, то это в любом случае косяк менеджера, которые не выстроил производственные процессы правильно.
....
- Сэр, не подскажите, где мы ?
- На воздушном шаре !
- Поднимаемся, Ватсон ! Это системный программист.
Программа работает в соответсвии с требованиями? Тогда кому надо задавать вопросы?
Думаю, что эти требования были согласованы с инвесторами и прочими очень важными и очень умными деятелями, свободно использующими инфу с бирж и поэтому знающими и понимающими всё в этом мире.
Если проводить аналогию с проектированием самолёта, вертолёта, пушки, ракеты, РЛС и тому подобное, то там есть главный конструктор изделия. Этот человек имеет основное образование как раз по теме разработки и, что важно, способен выполнять работу сам. Также именно он принимает решения о сроках. затратах, используемом персонале и тому подобных вопросах. Не сам, но без него эти вопросы не решаются. А у программистов работа организовага иначе: есть набор архитекторов, менеджеров, аналитиков (сокращённо архитектурных маналитегов), которые присвоили себе принятие решений, а код писать, вести отладку или тестирование неспособны. Вот это и есть проблема. Почему так произошло тоже понятно - тут две причины. Совсем недавно код писали только люди до 35 лет - тут недавно была статья на эту тему. А в таком возрасте человек еще не может постоянно держать внимание на второстепенных вопросах при выборе основных технических решений потому, что шишек еще не набил. Вторая причина связана с внутренней мотивацией архитектурных маналитегов. Их неспособность понять как вырабатываюся решения программистами приводит к созданию отвлеченного набора критериев оценки, и этот набор быссмысленных оценок архитектурные маналитеги навязывают всем потому что имеют на это административное право. Архитектурный маналитег мог быть в прошлом нормальным программистом, но это ситуацию только ухудшает. Так что дело не в программистах, ИИ или прогрессе, а в желании некоторых странных личностей самоутвердиться.
Что касается так называемых развитых стран, то там ситуация еще хуже из-за очень большого почтения к частной собственности. Можно сказать, что собственник через архитектурных маналитегов как раз и реализует своё право собственности. Думаю, что в данном случае виноватыми сделают программистов и нижний уровень артектурных маналитегов.
...маналитегов - мамадарагая!
При чем тут погромисты? Водятель сидел там за рулем, как раз на этот случай.
Тетку, прыгнувшую под колеса Убера, он не заметил, пялясь в экран своего телефона.
Вообще-то говоря ночью не всегда можно увидеть переходящего дорогу человека из далека. Так чтобы успеть среагировать, да ещё на большой скорости и в таком месте где не ожидаешь пешехода. И причём тут программисты. Тут пешеход в неположенном месте дорогу переходит плюс фактор ночной темноты.
С другой стороны тут робот управляет, а роботу ночное зрение не создали что ли ?
Допустим заметил пешехода за 20 метров, при скорости в 62 км/ч = 17м/с , пока заметишь(и дорога похоже идёт дугой направо), пока среагируешь, пока машина остановится. В общем пешеход сам тут виноват по моему.
А причём здесь программисты. Они свою часть написали, распознование, позиционирование, увязках данных и вывели все это в настраиваемую часть. В ходе тестов отработают конфигурацию, что работает всегда, что в соответствии с выбранным режимом, что на откуп водителю, увяжут чувствительность датчиков и системы распознавания с критическим уровнем ошибок. В данном авто сотрудник, принявший решение о настройках, неверно расставил приоритеты (хотя что мы знаем о программе тестов?).
А в данной ситуации вина не столько на водителе и системе, сколько на велосипедисте. У меня на даче дорога меж снт длиной с километр, без освещения, её везде поперёк и наискосок пересекают тропинки и дорожки, так я чуть соседа в полночь не сбил точно так же, только ехал 30 км/ч, покрытие «сельское», успел оттормозиться. Велосипедист на дороге без катафот и светоотражающие элементов, реально человек-невидимка пока в свете фар не окажется.
Ну, совершенно же очевидно, что если кто-то бьёт себе или соседу по пальцу молотком, то претензии надо предъявлять конструктору молотка.
Страницы