近日，Nature網(wǎng)站發(fā)布了一篇自動駕駛評論文章，從責(zé)任和安全兩個方面，對現(xiàn)階段自動駕駛面臨的問題展開了分析，作者認(rèn)為："人們必須保留自動駕駛汽車的控制權(quán)。”同時，文章還對立法部門提出了6條建議。

上個月，發(fā)生了第一次行人在自動駕駛汽車中喪生的事故。一輛由自主算法控制的汽車撞向了亞利桑那州坦佩市橫過馬路的女子。車內(nèi)的安全駕駛員沒有能阻止事故的發(fā)生。

雖然這種事故很少發(fā)生，但是隨著越來越多的車輛在沒有人為干預(yù)的情況下駕駛，在公共道路上進(jìn)行測試，其發(fā)生率可能會上升。在過去的一年中，一些國家通過法律為路測鋪平了道路。例如，新加坡修改了“道路交通法”，允許自動駕駛汽車在指定地區(qū)行駛。瑞典運(yùn)輸署允許無人駕駛巴士在斯德哥爾摩北部運(yùn)行。在美國，眾議院通過了自動駕駛法案（SELF DRIVE Act）來協(xié)調(diào)各州的法律。美國參議院正在籌備類似的政策，票選支持AV START法案來進(jìn)一步放寬對無人駕駛車輛的審判。

政策制定者們熱衷于通過借助自動駕駛汽車的潛力，來減少道路擁堵，空氣污染和道路交通事故。便宜的乘車服務(wù)也可以減少私人擁有的汽車數(shù)量。機(jī)器智能可以使駕駛更省油，同時減少排放。自動駕駛汽車可以幫助拯救世界上每年因碰撞事故而喪失的125萬人的生命，這些事故許多是由于人為錯誤造成的。

政府希望通過法律來實現(xiàn)自動駕駛（參見“Road to autonomy”）。他們通過暫時釋放滿足某些符合運(yùn)輸安全規(guī)則的自動駕駛汽車開發(fā)者來進(jìn)行路測。這些規(guī)則包括要求操作人員在車內(nèi)，車輛具有方向盤，制動器和反光鏡等安全特征，并且這些特征始終能夠正常工作。一些開發(fā)者正在維護(hù)這些方面，但他們并沒有義務(wù)這沒做。因為無法確保自動駕駛車輛符合當(dāng)前汽車的安全標(biāo)準(zhǔn)。

同時，更廣泛的政策影響沒有得到解決。由于個人汽車擁有率下降，政府將損失數(shù)十億美元的稅收。數(shù)以百萬計的出租車，卡車和公車司機(jī)將失去工作。自動駕駛汽車所依賴的機(jī)器學(xué)習(xí)算法遠(yuǎn)遠(yuǎn)不夠發(fā)達(dá)，無法做出可能意味著行人或司機(jī)生死的選擇。

政策制定者需要與學(xué)術(shù)界和制造商密切合作，設(shè)計適當(dāng)?shù)姆ㄒ?guī)。這是非常具有挑戰(zhàn)性的，因為這項研究涉及許多學(xué)科。

在這里，我們強(qiáng)調(diào)需要緊急關(guān)注的兩個方面——責(zé)任和安全。

責(zé)任

與其他生產(chǎn)商一樣，自動駕駛汽車的開發(fā)商也承擔(dān)法律責(zé)任，賠償由于其產(chǎn)品缺陷設(shè)計，制造和銷售而造成的損失。潛在的責(zé)任風(fēng)險對于無人駕駛汽車來說很好，因為復(fù)雜的系統(tǒng)總會以意想不到的方式產(chǎn)生相互作用。

制造商如果希望減少對他們提出的責(zé)任索賠金額。一種方法是通過教育消費者如何運(yùn)作并提醒他們注意安全，來減少產(chǎn)品被誤用的可能性。例如，藥物開發(fā)者提供劑量和副作用的信息；電子制造商發(fā)布指示和警告。這種指導(dǎo)塑造了消費者的期望同時也促進(jìn)了滿意度。然而，就像智能手機(jī)一樣，自動駕駛汽車也由復(fù)雜的技術(shù)支撐，這些技術(shù)一般難以解釋或被理解。

相反，開發(fā)人員正在設(shè)計這些產(chǎn)品以便于使用。人們更有可能購買一種看似簡單的產(chǎn)品，并且可以很快做出復(fù)雜的事情，從而提高效用。但是，用戶無法預(yù)測底層系統(tǒng)如何工作，或識別問題并修復(fù)問題。例如，很少有智能車的司機(jī)知道發(fā)動機(jī)是如何校準(zhǔn)的。同樣，自動駕駛汽車中的乘客也不會知道為什么車輛在道路上選擇急轉(zhuǎn)向，或者為什么不趕超慢行車輛。

更糟的是，深度學(xué)習(xí)算法本質(zhì)上是不可預(yù)測的。它們建立在由以往經(jīng)驗所塑造的不透明決策過程之上。每輛車都會受到不同的訓(xùn)練。沒有人（即使算法設(shè)計師）也無法確切知道自動駕駛汽車在各種情況下的表現(xiàn)。

沒有法律規(guī)定汽車可以被視為安全之前需要多少深度學(xué)習(xí)的訓(xùn)練，也沒有規(guī)定訓(xùn)練有何標(biāo)準(zhǔn)。來自不同制造商的汽車在緊急情況下可以采取不同的反應(yīng)方式。有的可能會繞過障礙物轉(zhuǎn)彎，而還有的可能會踩剎車。罕見的交通事件，例如卡車在風(fēng)中翻倒，尤其令人擔(dān)憂，并且讓無人駕駛汽車的訓(xùn)練變得困難。

高級接口需要被用來告知用戶自動駕駛汽車的行為是否與往常相同。今天的儀表盤傳達(dá)了關(guān)于汽車速度和剩余燃料量的信息。明天的展示必須展示車輛的“意圖”和控制它們的邏輯；例如，他們可能會告訴乘客，由于只有10％的成功可能性，因此車輛不會超車。對應(yīng)該傳遞的數(shù)據(jù)類型以及人們將如何解釋它們知之甚少。

用戶經(jīng)常忽視信息，即使它被清晰地表達(dá)出來，其后果可能是生死攸關(guān)的問題。例如，幾乎有70％的航空公司乘客在航班之前不會檢查安全卡，盡管被問到。然而，這些卡片以簡單的方式和單頁，可以傳達(dá)重要信息，包括如何放置氧氣面罩并打開緊急出口。

自動駕駛車輛需要傳遞更復(fù)雜的信息。他們的傳感器和算法必須了解行人的行為，區(qū)分駕駛風(fēng)格和適應(yīng)照明變化。當(dāng)他們不能時，用戶必須知道如何回應(yīng)。

研究如何有效地呈現(xiàn)這些信息是至關(guān)重要的，同樣確保自動駕駛汽車用戶熟練使用該技術(shù)是立法需要努力的事情。

安全

自動駕駛汽車的安全和效率優(yōu)勢依賴于計算機(jī)比人類做出更好，更快的決策。用戶輸入他們想要的目的地，然后將控制權(quán)交給計算機(jī)。完全自動駕駛尚未在交通中采用。人們?nèi)匀徽J(rèn)為人類比機(jī)器更具靈活性，適應(yīng)性和創(chuàng)造性，并能更好地應(yīng)對變化或無法預(yù)料的情況7。因此，飛行員能夠在關(guān)鍵的計算機(jī)發(fā)生故障時通過線控飛行技術(shù)中掌握控制權(quán)。

公眾有權(quán)對全自動化保持謹(jǐn)慎。制造商需要解釋在關(guān)鍵系統(tǒng)失效時汽車如何保護(hù)乘客。無人駕駛汽車必須能夠安全停車，避免其危險，避免算法發(fā)生故障，其攝像機(jī)斷線或其內(nèi)部地圖死機(jī)。但是這很難設(shè)計：例如，沒有攝像頭，這樣的車就看不到它要去的地方。

我們認(rèn)為，總是需要某種形式的人為干預(yù)。無人駕駛汽車應(yīng)該像飛機(jī)一樣對待，盡管這些系統(tǒng)是高度自動化的，但仍需要人員參與。自主車輛的當(dāng)前測試要遵循這一原則。即使開發(fā)人員和監(jiān)管機(jī)構(gòu)協(xié)商通過了全自動駕駛，安全駕駛員仍然應(yīng)該有。

盡管如此，讓人們參與其中還是會帶來安全問題。自動駕駛汽車應(yīng)始終要求用戶具備最低水平的技能，并且對于一些人來說永遠(yuǎn)不會容易操作。例如，認(rèn)知障礙患者可能會發(fā)現(xiàn)很難運(yùn)用這些技術(shù)并忽略控制。然而這個群體包括那些從自動駕駛車輛中獲益很多的人。例如，日益增加的老齡化人口，發(fā)生事故的風(fēng)險升高，因為認(rèn)知能力下降與年齡有關(guān)。例如，為大量老年人提供出行是自動駕駛技術(shù)在日本投資的巨大動力。

遠(yuǎn)程監(jiān)管可以監(jiān)督無人駕駛汽車，就像空中交通管制員可以為飛機(jī)做這些事情一樣。但是需要多少監(jiān)管人員才能保證這些車輛的網(wǎng)絡(luò)安全？監(jiān)管人員太少也可能會造成事故。例如，在1991年，加利福尼亞州洛杉磯的一名不堪重負(fù)的空中交通管制員錯誤地將飛機(jī)降落在另一架飛機(jī)上。去年，醫(yī)生在香港發(fā)生一連串醫(yī)療失誤，導(dǎo)致病人不堪重負(fù)。

政策差距

目前和計劃中的立法都未能解決這些問題。豁免開發(fā)人員由于安全規(guī)則帶來風(fēng)險。開發(fā)者并不總是需要報告系統(tǒng)故障或為車輛操作員建立能力標(biāo)準(zhǔn)。這種豁免也錯誤地認(rèn)為人類的參與最終是不必要的。偏袒行業(yè)的用戶將削弱對已經(jīng)懷疑的公眾的技術(shù)支持。

目前的立法回避了消費者的教育。美國的行為僅僅要求用戶在使用之前被告知該技術(shù)。沒有提到用戶的能力標(biāo)準(zhǔn)和定期的能力測試。沒有標(biāo)準(zhǔn)，很難判斷消費者教育是否足夠。沒有測試，事件的風(fēng)險可能會增加。

向前進(jìn)

我們呼吁決策者重新思考他們對自動駕駛汽車進(jìn)行管理的方法，并在起草立法時考慮以下六點。

無人駕駛并不意味著不需要人類操作員。監(jiān)管機(jī)構(gòu)和制造商必須承認(rèn)，自動化會改變?nèi)藗儚氖碌墓ぷ鞯男再|(zhì)。

用戶需要有關(guān)自動駕駛?cè)绾喂ぷ鞯男畔ⅰＶ圃焐瘫仨氀芯繉Π踩陵P(guān)重要的設(shè)備（包括照相機(jī)，激光器和雷達(dá)）的限制和可靠性。如果可能，他們應(yīng)該以可理解的形式向車輛操作員提供這些設(shè)備的數(shù)據(jù)。

運(yùn)營商必須證明其能力。開發(fā)人員，研究人員和監(jiān)管機(jī)構(gòu)需要為自動駕駛汽車用戶達(dá)成一致的標(biāo)準(zhǔn)。勝任能力應(yīng)由發(fā)證機(jī)構(gòu)進(jìn)行測試，并應(yīng)補(bǔ)充現(xiàn)有駕駛許可證。特殊用戶應(yīng)該對這些車輛有使用限制，就像在夜間禁止色盲駕駛員飛行一樣。

對用戶能力的定期檢查應(yīng)是強(qiáng)制性的。監(jiān)管機(jī)構(gòu)，制造商和研究人員必須確定測試之間合適的時間間隔，以便隨著認(rèn)知能力的變化和技術(shù)的發(fā)展，熟練程度得以保持。

應(yīng)建立遠(yuǎn)程監(jiān)控網(wǎng)絡(luò)。制造商，研究人員和立法者需要為自動駕駛車輛建立監(jiān)督系統(tǒng)。研究人員應(yīng)有主管對一定數(shù)量的車輛進(jìn)行安全監(jiān)控與指導(dǎo)，以及允許這種監(jiān)測的條件。例如，在惡劣的天氣條件下需要更多的主管。

應(yīng)該定義遠(yuǎn)程主管的工作限制。專家必須澄清主管是否應(yīng)該遵守現(xiàn)行的工作時間規(guī)定。例如，空中交通管制員的工作時間有限。

走向自動駕駛的道路遠(yuǎn)非如此。仍然有許多挑戰(zhàn)需要解決。