272、【轉載】將倫理道德寫入無人駕駛汽車的程序，這可能嗎?

08-12

來自專欄前沿科技的道德哲學反思

將倫理道德寫入無人駕駛汽車的程序，這可能嗎?

2016-06-16 來源: 車雲網(北京)

場長導讀：如何讓無人駕駛系統像人類那麼聰明地開車，這恐怕是解決自動駕駛倫理道德問題的關鍵。

車雲網6月16日報道 假設這是2034年的某天夜裡。一個喝得七葷八素的男人在人行道上東倒西歪地走著，突然一個踉蹌，直接倒向了旁邊的機動車道，而一輛疾馳而過的無人駕駛汽車則直接撞向了這位男子，他不幸當場身亡。如果這輛車子是由人類司機來駕駛的，那麼顯然事故責任在醉酒的行人，因為沒有哪個司機能在如此短的時間內做出反應，避開突然衝出來的路人。不過早在21世紀20年代（2020年~2030年），由於無人駕駛汽車的大規模投放市場，交通事故的發生率銳減近九成，而此前相關法律規定「駕駛員因他人過失致他人死亡不承擔刑事責任」中提到的「駕駛員」，現在則變成了「有合理判斷能力的機器人」。

那麼，死者家屬恰恰抓住了這點依據，將製造無人駕駛汽車的主機廠告上法庭，聲稱「即便沒時間剎車，它也應該打轉向避開行人，越過雙黃線，撞向鄰車道並沒有載客的無人駕駛汽車」。而根據車輛感測器提供的數據重建了事故發生時的場景，你會發現死者家屬控訴的的確很有道理。法庭上，原告律師一直在質問這台無人車的軟體總設計師，「為什麼這輛無人車當時不知道應該轉向呢？」。

繞不開的坎兒

讓我們回到2016年的現實中來。交通事故的庭審中，不會有人對司機在事發前某一瞬間的行為提出質疑，因為人會恐慌，可能事故發生前的一瞬間他根本沒法思考了，任何行為只是人自身本能的反應。不過一旦機器代替人開了車，知道「為什麼」就顯得十分有必要了。人類社會的道德標準和規則，並沒有在現代法律中有具體體現，所以工程師似乎並不敢在控制無人駕駛系統的代碼中將所有可能的假設囊括進去。假設是具有良好判斷能力的人在開車的話，他知道哪種情況下可以為了生命而越過法律條框的束縛，因此對開發無人駕駛系統的工程師而言，當務之急是得先教會機器如何作出合理的判斷。

眾所周知，最早在20世紀70年代，電子防死鎖剎車系統的出現，可以看做是自動駕駛技術的雛形。發展到現在，類似自動轉向、自動加速及緊急制動等高級駕駛輔助功能，正逐年出現在各大品牌的量產車型里。而目前在英國、美國、荷蘭、德國、日本等國家地區公共道路上測試的無人駕駛汽車，均有經過培訓的人類駕駛員坐鎮。包括谷歌、日產、福特在內的OEM主機廠和科技互聯網公司，均表示希望能在未來5~10年內推出真正意義上的無人駕駛汽車。

自動駕駛汽車依靠車上安裝的攝像頭、超聲波感測器、雷達以及激光雷達等大量功能各異的感測器獲取外部環境的信息。而目前獲准在加州路測的無人駕駛汽車，必須向加州交管局DMV提供每次碰撞發生前30秒所有感測器採集到的數據。這樣做的目的在於，工程師在拿到這些數據後可以精準地還原事故發生前後的場景，通過感測器記錄的數據，可以了解自動駕駛系統是如何在這種情況下做決策的，它到底想到了哪些備選方案。甚至有可能讓電腦重述下推理論證的過程，這有點類似讓某個玩家對自己在電玩或者模擬駕駛中的每一步決策作出解釋。

這就意味著，為了盡最大可能避免交通事故的發生，監管部門針對自動駕駛制定的安全規程和標準可能是超出常規的嚴格，同時對自動駕駛汽車的監控和督導力度也會非常密集。當然，對主機廠和軟體開發人員而言，為機器的行為辯護可能要比人類駕駛員難得多，甚至可能會採取一些另類的方式。

任何駕駛行為都是有風險的，而決定如何將其中的風險在駕駛員、行人、騎行者甚至公共財產之間分配，「道德因素」發揮著十分關鍵的作用。無論對工程師還是普通大眾而言，無人駕駛汽車的決策系統在每次做決定的時候，是否從人類倫理道德的角度考慮過問題，這很重要。

法律優先還是道德優先？

通常，在遇到道德層面模稜兩可的情況時，我們一般都會以遵守法律為主，同時儘可能減小具體後果造成的損害。這種策略之所以較為流行，是因為開發人員在為自動駕駛汽車的行為作出解釋時幾乎不用費什麼力（它是根據法律規定作出的決策嘛），而且這樣一來，定義道德行為的責任就轉移到了法律制定者的手裡。

舉例來說，在大部分國家，相關的法律規定已經固化為駕駛員的常識了，它幾乎沒有明確規定在發生碰撞事故前，駕駛員應該採取哪些行為。在文章一開始給出的案例中，這輛無人駕駛汽車按照法律規定是不會主動轉向碾壓雙黃線的，即使它冒著撞到闖入機動車道的醉酒行人，相鄰車道還有輛空載的無人車。

當然，法律基本不會給出「緊急情況該如何處理」的特別說明，尤其具體到「有行人誤闖機動車道」的類似情況。即便像弗吉尼亞州法律會給出類似的特例，但法律條文的字面意思似乎暗示「只要車子沒發生碰撞事故就是合法行為」。在這種特例中，只能由軟體工程師決定，何時跨過雙黃線的行為是安全的。

不過話又說回來了，讓無人駕駛汽車100%確定越過雙黃線能夠保證安全，這恐怕也不大可能。如果從機器的角度考慮，它的自信程度可能在98%~99.99%。因此，負責為自動駕駛系統編碼的軟體工程師可能得提前估算好，緊急情況下越線需要系統有多高的自信度才能完成，同時這個臨界閥值是不是應該根據車子要避開的對象有關係，畢竟要躲開塑料袋和躲開闖入的行人，需要的決斷力完全不同。

不過目前來看，很多時候自動駕駛汽車利用「判斷力」得出的結論和現行法律相悖。谷歌已經承認，允許在公共道路上測試的無人駕駛汽車超速趕上車流，因為開得太慢反倒十分危險。而有時候為了將生病的家人或朋友儘快送往醫院，超速行駛是在所難免的事。斯坦福大學的研究人員Chris Gerdes和Sarah Thornton反對將法律作為硬性限制條件編入自動駕駛汽車的控制程序，因為人類司機懂得變通，關鍵時刻他會衡量吃罰單和所得好處的關係。可一旦機器被程序束縛，即使你已經十萬火急，但偏偏前頭被一騎自行車的人擋著，載你的無人車不肯壓線超車，你是干著急也沒脾氣。

其實，自動駕駛汽車完全可以在不違規的情況下，機智地做出很多安全的決策。舉例來說，大多數交通法規並沒有嚴格規定機動車在車道內的位置，而大部分單行道的寬度一般是普通機動車的兩倍，那麼利用多餘的空間，自動駕駛汽車完全能夠避開突然出現的障礙物或者一些左右搖晃的車子。

在一份2014年提交的無人駕駛汽車專利中，谷歌表示旗下的無人駕駛汽車能夠通過改變在車道內的位置來避免交通事故的發生。舉例來看，當一輛無人駕駛汽車行駛在三車道的最中間，左邊是輛小轎車，而右邊是輛大卡車。為了最大程度地保證安全，這輛無人車會選擇靠近左側轎車的位置行駛。

這種處理方式聽起來還蠻有道理的吧？而且這也是大多數人開車時有意無意都會做出的選擇。不過，從道德層面考慮的話，這種做法其實欠妥。如果自動駕駛汽車轉向靠近小轎車的位置行駛，雖降低了事故發生率，但似乎卻將撞車的風險轉移到了小車身上，難道就因為它小，它就得承擔更多的風險嗎？如果這只是某個駕駛員的個人行為，關係不大。可一旦這種轉嫁風險的模式成型了，所有的自動駕駛汽車都這麼做的話，後果可就難以預測了。

機器腦子不會拐彎，這是個問題！

在上面提到的各個案例中，一輛無人駕駛汽車決策的制定，既需要考慮可能被撞的物體，同時也要顧及車中的乘客。和人類不一樣的是，人類做決定往往是下意識的，而機器則會遵循某種預設好的、既定的邏輯規則和風險管理的策略去執行。

同樣在2014年，谷歌還提交了一項有關無人駕駛汽車風險管理應用的專利。在這項專利的陳述中，谷歌以一輛意圖通過變道來更好地觀察紅綠燈的無人駕駛汽車為例。論述中也指出，這輛車子可能擔心因為故障感測器的數據有誤導致碰撞事故發生，而這麼做放棄的就是紅綠燈的準確信息。這裡需要指出的是，每個可能發生的結果都存在一定的可能性，而結果的屬性亦有正有負（即所謂的好處和代價）。當然，任何結果的量級會隨著可能性翻倍，而且最終的結果是各個變數疊加的總和。假設系統根據某個合理的臨界值判斷，最後得到的好處要比付出的代價多，那麼它可能就會做出導向該結果的行為。

不過問題在於，碰撞事故發生的風險和幾率實在是太小了。在美國，每個駕駛員平均行駛25萬7千公里或者每12年才可能發生一次碰撞事故。另外，如何衡量人身損害的程度更為困難。財產損失很好統計，這種事情保險公司最擅長，但如何將人身傷亡量化，就不是那麼簡單的事情了。

而且，一旦考慮到人的生命，通勤浪費的時間等等，面對「我們該如何將他人暴露在風險中」這樣的問題時，將倫理道德作為主要出發點考慮，似乎欠妥。舉例來看，假設有這麼一輛對所有人類一視同仁的自動駕駛汽車，在路上行駛的時候，它一定會給那輛沒戴頭盔的摩托車手讓開更多空間，因為一旦發生車禍，他似乎更容易喪生。但說實話，這並不公平，因為對那些安全意識強、幾乎全副武裝的摩托車手而言，自己反倒被迫承擔了事故風險。

此外，所謂機器人的「倫理道德」和人類自身的倫理認知相比，最大的區別在於前者很容易被扭曲，即便負責程序開發的工程師完全都是好意。想像一下，操控無人駕駛汽車運行的演算法會根據不同區域的情況來調整車子和行人間的緩衝距離，而判斷的標準可能是根據涉及交通事故的民事訴訟案件的判決結果分析得出的。儘管這是一種相對合理、目的性強、高效的控制無人車的方式，但它也可能會導致不好的結果發生。

車雲小結

目前來看，無人駕駛汽車的道德倫理問題並非沒法解決，因為在其他很多領域，安全合理地處理類似風險和利益關係的方式，並不鮮見。例如在選擇捐贈器官受體的問題上，除了其他變數之外，病人術後能否恢復高質量的生活顯然是首要考慮的因素，而至於「終身服用抗排異藥物及可能出現的免疫反應」都是值得付出的代價。再者，部隊徵兵時往往會避開農民和教師等一些重要的職業，屬於同樣的道理。

毫無疑問，自動駕駛汽車的發展面臨著巨大的挑戰。它必須能夠快速決策，利用有限的信息，處在程序猿經常都沒有考慮到的場景里，通過寫入軟體代碼「直白地令人髮指」的道德準則作出判斷。幸運的是，相比超人類般的智慧，普通大眾更希望機器控制下的無人車能夠做出理性同時符合人類倫理道德標準的決定。任何解決方案其實無需完美，但它至少是經過深思熟慮，經得起推敲的。

引自：將倫理道德寫入無人駕駛汽車的程序這可能嗎

（2018.7.27）