我們如何信任自動駕駛

時間:2020-10-12

來源:《汽車人》

0

導語:目前距離優步自動駕駛路測撞人致死一案,已經過去31個月。本月晚些時候,該案將進行初審。即便該案自動駕駛系統“參與”之下變得復雜,輿論也未能預料到,審理過程如此曠日持久。

   目前距離優步自動駕駛路測撞人致死一案,已經過去31個月。本月晚些時候,該案將進行初審。即便該案自動駕駛系統“參與”之下變得復雜,輿論也未能預料到,審理過程如此曠日持久。

  讓我們再次回溯一下發生于2018年3月的該案。優步公司在加州路測時被認定為沒有取得“完整資質”,優步被迫移師亞利桑那州,致命交通事故就發生在該州坦帕市。

  后備安全員拉菲拉·瓦斯奎斯(Rafaela Vasquez)乘坐優步自動駕駛汽車(沃爾沃XC90改造而成),撞到一位推著自行車橫穿道路的女性,致其死亡。優步公司規定,安全員必須隨時準備接管車輛,但瓦斯奎斯不時低頭看手機(手機上正播放“美國好聲音”節目),直到事故前半秒才抬頭,為時已晚。

  檢方不起訴優步

  此案復雜就復雜在,初看似法律問題,再看似技術問題,又看似科學倫理問題,也許是社會問題。犧牲者可能成了多重嵌套難題無解的祭品。

  早在2019年3月,美國亞利桑那州馬里科帕縣的檢察官,已經將優步公司排除在刑事調查范圍之外,認為其無須承擔刑責。這并非源于事實判定,而是根據亞利桑那州的法律,企業過失殺人的概念僅僅存在于理論上。既然必須有“過失責任方”為這起傷人致死案負責,那么起訴人,比起訴公司要容易得多。

  無論在哪個法律體系下,檢方都很難證明高等級自動駕駛(哪怕只是路測)事故中,自動系統及背后的公司,應該負多少責任。

  2019年11月,美國國家安全運輸委員會(NTSB)發布一份報告,其中附有涉案自動駕駛系統的“運行日志”。為了讓人們認識到該系統有多么不靠譜,甚至根本不應該上路,有必要將其中的關鍵時刻羅列于此。

  自動駕駛系統都干了些啥

  如果將事故發生時定為零時刻,在此前10秒系統內發生的事情,如果從一個人類駕駛員的角度看上去,簡直匪夷所思。

  -10秒,車輛一直處于自動駕駛狀態;

  -9.9~-5.8秒,車輛從時速56公里加速到時速70公里;

  -5.6秒,毫米波雷達第一次檢測到前方目標(就是受害者),計算機將其識別為汽車,并估算了其速度;

  -5.2秒,激光雷達再次檢測到受害者,計算機將其識別為“未知”,并認為其靜止不動;

  -4.2秒,計算機更改目標類別為“汽車”;

  -3.8~-2.7秒,計算機對目標分類,再次在“汽車”和“未知”之間來回搖擺。而且每次更改時,都莫名其妙地忽略前一時刻的跟蹤記錄,以至于不斷將其行為預測為“繼續靜止”;

  -2.6秒,計算機終于正確地將目標識別為自行車,但預測其行駛狀態仍為靜止;

  -1.5秒:計算機動搖,將人+自行車識別為“未知”,并規劃出躲避目標的路線;

  -1.2秒,計算機再次認定目標為自行車,并算出規避已不可行,準備制動,此刻時速64公里;

  -0.2秒,經過1秒的延時,終于開始全力制動;

  -0.02秒,安全員控制方向盤,汽車脫離自動駕駛狀態;

  0秒,發生致命碰撞;

  0.7秒,安全員瓦斯奎斯剎停車輛。

  顯然,在來得及實施所有措施的時候,自動駕駛系統既無法正確識別,也無法正確預測軌跡和速度。等到終于采取正確措施的時候,距離碰撞只有0.2秒,事故已經無法避免。

  在終于正確識別的時刻(此時已經來不及了),自動駕駛系統又設定了1秒延時。算法編制人員認為,緊急制動會造成車輛不穩定,因此關閉了XC90自帶的預碰撞+自動剎車系統,改為用車機軟件控制剎車。

  技術無罪?

  日志顯示,和成熟的人類駕駛員相比,優步自動駕駛系統表現完全不合格。軟件工程師非常清楚,如果采用保守策略,系統將首鼠兩端、一驚一乍,讓乘坐者非常不舒服;如果采取激進策略,系統將變得遲鈍而自大。系統要么刻意忽略“次要干擾因素”,要么在目標認定上反復橫跳,直至浪費了所有處置機會。

  如果深入一點,優步自動駕駛系統的傳感器協同、模式識別算法、決策系統、預設的介入條件,都出了大問題,是事故發生的真正誘因。而瓦斯奎斯玩忽職守,沒有起到“安全閘”作用,導致事故未能被阻止。這種“自動駕駛”,比人類駕駛要危險得多。

  任何稍具專業知識和良知的“碼農”,都可能被這個算法驚呆了。決策算法和訓練系統(主要是用數據填喂,訓練感知系統的目標能力),尤其粗糙和不專業。

  即便沒有任何專業知識的普通公眾,了解到所謂自動駕駛系統,如此不知所云,絕不會贊成它們在開放道路上行駛。哪怕只是測試,也可能以其他人的生命作為代價。系統成熟度非常低,根本不應該脫離封閉場地。

  而NTSB則輕描淡寫地認為,優步的“安全文化”不足,是導致事故的原因。可這種做法,明明是不專業、不走心和膽大妄為。優步沒有擔責,可能是鉆了法律空子。

  其技術水準也的確如此。在優步“自愿”終止試驗前,根據加州交管局的報告,優步自動駕駛測試車,每隔37公里就需要一次人工干預,而Waymo同期每1000英里的人工干預次數是0.09。從這個角度,優步作為技術背后的企業應該為安全事故擔責(未必是刑責)。

  背鍋俠與軟柿子

  然而實際上發生的是,公司什么都不必做。不但擺脫了法律責任,經濟賠償責任則由保險公司負責。至于安全員瓦斯奎斯,檢方要求判她入獄2.5年,她拒絕認罪,也拒絕做控辯交易。

  技術公司只因為不是自然人,就不用承擔疏忽導致的事故后果。技術團隊和決策人員,不能用“技術無罪”,規避自己失察責任。更何況他們強行加速試驗進程,很可能出于商業動機,而非簡單的技術能力不行。

  公司要求安全員隨時介入,并用合同條款框死了后者的責任。后者因為不在駕駛狀態,事實上很難像普通駕駛員那樣隨時保持警惕和防御駕駛狀態。安全員必須為技術缺陷背鍋。這樣看來,事后被解雇的100多個安全員,焉知非福。

  值得一提的是,受害人家屬選擇起訴坦帕市政府,索賠1000萬美元,因為后者不合理的交通設施“鼓勵”橫穿馬路。這和檢方選擇只起訴涉案安全員瓦斯奎斯的做法很相似,柿子撿軟的捏,豬撿肥的宰。

低速無人駕駛產業綜合服務平臺版權與免責聲明:

凡本網注明[來源:低速無人駕駛產業綜合服務平臺]的所有文字、圖片、音視和視頻文件,版權均為低速無人駕駛產業綜合服務平臺獨家所有。如需轉載請與0755-85260609聯系。任何媒體、網站或個人轉載使用時須注明來源“低速無人駕駛產業綜合服務平臺”,違反者本網將追究其法律責任。

本網轉載并注明其他來源的稿件,均來自互聯網或業內投稿人士,版權屬于原版權人。轉載請保留稿件來源及作者,禁止擅自篡改,違者自負版權法律責任。

如涉及作品內容、版權等問題,請在作品發表之日起一周內與本網聯系,否則視為放棄相關權利。

關注低速無人駕駛產業聯盟公眾號獲取更多資訊

最新新聞