第一定律：機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手旁觀;
第二定律：機器人必須服從人給予它的命令，當該命令與第一定律沖突時例外;
第三定律：機器人在不違反第一、第二定律的情況下要盡可能保護自己的生存。
為無人駕駛汽車設(shè)計安全規(guī)則的專家們試圖沿用這種易懂的方式來闡述他們的意圖，然而很多團隊在設(shè)計無人駕駛汽車與人的交互規(guī)則時發(fā)現(xiàn)，我們所面臨的現(xiàn)實社會話題遠比科幻小說復雜得多。
無人駕駛車禍引熱議，如何保證駕駛安全?
無人駕駛汽車的擁護者們聲稱，全球每年有超過130萬人死于機動車輛事故，如果機器人能夠取代人類掌控駕駛盤就能有效降低這一數(shù)字。但社會也普遍意識到，即便是機器人，同樣也會造成交通事故。
美國國家運輸安全委員會上周公開的文件將2018年3月發(fā)生在亞利桑那州的一起Uber自動駕駛汽車致行人死亡事故的矛頭指向了汽車安全駕駛員、Uber公司和州政府，認為這是他們共同的安全失職。甚至那些并不致命的安全事故也飽受譴責，例如有一輛處于輔助駕駛模式下的特斯拉直接一頭撞上了前方一輛停在路邊但閃著警示燈的消防車。
“自動駕駛汽車的安全守則將是公眾接受這項新科技的必要前提條件。”密歇根大學Mcity自動駕駛汽車測試實驗室的助理總監(jiān)Greg McGuire解釋說，“沒有安全守則，我們?nèi)绾未_認它們是否安全?它們又能如何取得大眾的信任?這種信任的建立需要基于公開的、大眾能夠監(jiān)督的流程設(shè)計的規(guī)則，并且甚至可能要求來自政府部門的監(jiān)管。”
事實上，研究開發(fā)自動駕駛技術(shù)的企業(yè)早已意識到這一點。年初包括安波福、奧迪、百度、寶馬、戴姆勒、英飛凌、英特爾和大眾在內(nèi)的11家行業(yè)領(lǐng)導者共同發(fā)表了一份名為《自動駕駛安全第一》的安全白皮書。這些公司呼吁在開發(fā)自動駕駛功能時要加入安全設(shè)計要素，加強網(wǎng)絡安全性來確保重要數(shù)據(jù)的完整性(這些數(shù)據(jù)包括車輛的位置、移動以及車輛環(huán)境中其他物體的識別等)，以及在各種運行環(huán)境下驗證并確認機器人的駕駛性能。
《自動駕駛安全第一》安全白皮書
無人駕駛“定律”
11月7號，國際電信聯(lián)盟宣布成立一個名為人工智能應用于自動化和輔助駕駛的特別小組(AI4AD)。該小組致力于為應用于管理自動駕駛汽車的人工智能系統(tǒng)提供性能標準。(國際電信聯(lián)盟自1865年發(fā)展至今，以為電信服務的運營確立標準為己任。)
國際電信聯(lián)盟
自動化駕駛聯(lián)盟暨特別小組主席Bryn Balcombe認為，國際電信聯(lián)盟此舉是希望該標準能在開發(fā)人工智能的道路上起到圖靈測試的作用——所謂的圖靈測試就是當一臺電腦成功地讓人誤以為它是人類時即為通過。“人工智能的圖靈測試對于確保人類駕駛員和自動駕駛汽車背后的人工智能系統(tǒng)相互理解并有效預測彼此的行為和所產(chǎn)生的風險至關(guān)重要。”
國際電信聯(lián)盟的一份規(guī)劃文件認為人工智能的發(fā)展應符合公眾的如下期望：1.人工智能絕不發(fā)生粗心、有危害性或魯莽的駕駛行為;2.人工智能對事故保持時刻警惕，有意愿也能夠避免事故;3.人工智能的駕駛能力需超過一個謹慎且有能力的人類駕駛員。
上述適用于自動駕駛?cè)斯ぶ悄芩惴ǖ膹V泛目標近似于阿西莫夫的三定律，因為兩者都同時要求禁止傷害人類、遵守人類命令且能夠保全自己。然而國際電信聯(lián)盟發(fā)布的規(guī)劃文件還包括了15個“可交付成果”，包括制定評估人工智能的規(guī)范，以及起草驗證人工智能路面性能所需的技術(shù)報告。
我們能將駕駛托付給人工智能嗎?
無人駕駛推廣的核心問題，在于說服公眾將駕駛這一可能關(guān)乎生死的活動托付給一項頻遭失敗的技術(shù)。一個很令人尷尬的例子是，因為面部識別技術(shù)經(jīng)常會對少數(shù)族裔錯誤識別，舊金山市禁止了警察和政府機構(gòu)使用面部識別技術(shù)。
McGuire認為測試人工智能的駕駛性能非常復雜，而正是人的適應能力才使我們能夠駕馭汽車。“人類開車也并不完美，但表現(xiàn)已經(jīng)非常好了。兩起致命交通事故往往相隔幾億英里里程。”
但現(xiàn)實世界中用幾億英里來做測試是不切實際的，而這僅僅是在統(tǒng)計顯著性需要的數(shù)十億行車距離中的極小部分。開發(fā)人員因此只能借助于模擬，利用計算機來設(shè)計虛擬行車里程以發(fā)現(xiàn)可能僅在罕見情況下出現(xiàn)的潛在安全漏洞，例如遭受暴風雪或大雨，亦或是駕駛在施工道路上。
“即便如此還無法確保人工智能的安全駕駛，”McGuire還認為，“無人駕駛的運作模式必須得到人類的理解。”例如，目前的自動駕駛汽車有時會在大多數(shù)人類駕駛員都不會想到停車的情況下停車，從而導致被追尾。相反，即便一輛自動行駛下的卡車絕對安全，但如果它距離騎自行車的人太近，人們依舊會非常不安。
除上述組織和公司外，也有其他的利益相關(guān)方在為自動駕駛制定標準：
國際電信聯(lián)盟的研究同時覆蓋完全自動駕駛和自動駕駛輔助兩方面;Underwriters Laboratories在為完全無人駕駛汽車制定標準;由Lyft、Uber和SAE International(前身為美國汽車工程師協(xié)會)組成的團體為SAE四級和五級的自動駕駛汽車起草安全準則;BSI集團(前身為英國標準協(xié)會)制定了英國標準下針對聯(lián)網(wǎng)和自動駕駛車輛的戰(zhàn)略，并正在自行研究標準。
那究竟需要多久才能制定好標準?McGuire回答：“這取決于研發(fā)進程。建立公眾信任和確保社會利益需要多久，這個標準的制定時間就可能有多久。”
在不久的將來，Mcity將與底特律市、美國運輸部和Verizon聯(lián)合測試在城市街道上運送老年人的自動駕駛汽車。然而該領(lǐng)域最終需要具備可持續(xù)發(fā)展的能力，而這在他看來還需要很長的一段時間。
