無人車事故中應該犧牲誰？4000萬個道德選擇展現地區差異
導語：調查問卷顯示，人們對自動駕駛汽車的倫理標準因文化不同而不同。
當司機面對亂穿馬路的行人踩下剎車時，他實際上做了一個道德決策：將風險從行人身上轉移到了乘車人身上。自動駕駛汽車可能很快就需要做類似的倫理判斷了——但是，根據全球230萬人所做的調查問卷，為汽車制定一套普適的道德標準可能會是一個棘手的問題。
近期《自然》雜誌發布了至今規模最大的一份關於機器倫理的調查問卷結果，結果顯示指導司機的很多道德原則都隨國家不同而不同。例如，如果在事故中行人和乘客都有可能死亡，那麼來自較富裕、政府制度較強的國家的人就更傾向於不保護違反交規穿越馬路的行人。
「當人們想到機器倫理的時候，就覺得可以給機器人造出一套完美的規則，而我們現在用數據證明沒有什麼普適的規則。」麻省理工學院的計算機科學家、該研究的共同作者Iyad Rahwan說。
這份題為「道德機器」的問卷包含了13種無法避免有人死亡的場景。回答者被要求選擇在不同場景中讓誰存活：年輕還是年長，富人還是窮人，多數人還是少數人。
人們很少遇到這種純粹的道德困境。有些批評者質疑問卷中提出的場景和自動駕駛汽車實際會遇到的倫理問題和執行難題到底有多少關係。但是問卷的作者說，這些場景可以代表廣大司機每天都會需要做出的敏感的道德決策。他們認為，調查結果顯示出了在自動駕駛汽車能被大眾接受之前，政府和自動駕駛汽車製造商所必須考慮的文化差異。
至少一家正在研究自動駕駛汽車的企業——德國汽車製造商奧迪——表示調查結果有助於人們就這些問題展開一場重要的討論。（其它涉及自動駕駛汽車的廠商，包括汽車製造商豐田和科技公司Waymo、Uber，都拒絕評論調查結果。）耶魯大學的社會科學家Nicholas Christakis則對問卷結果頗感興趣。
「這是一篇很出色的論文。」Christakis說。倫理觀念是全球普適還是因文化而異，一直具有爭議，而如何為自動駕駛汽車制定倫理規則這個「二十一世紀的問題」則重新點燃了這個討論。
未走之路
世界上幾家最大的科技公司——包括Google的母公司Alphabet、Uber和Tesla——以及汽車製造商現在都已經有了自動駕駛汽車程序。其中好幾家都認為自動駕駛汽車可以提高道路安全性，減少擁堵，提高燃油效率。社會科學家則認為這種汽車會產生倫理問題，並對公共安全和環境產生意外的影響。
2016年，Rahwan的團隊遇到了一個有關自動駕駛汽車的倫理難題：在調查問卷中，人們說他們希望自動駕駛的汽車可以保護行人，即使這樣做會犧牲乘客的安全——同時他們也說自己不會購買設計成這樣的車。
Rahwan很好奇自動駕駛汽車在未來是否會產生其它倫理難題，於是他組織起了一個跨國的心理學家、人類學家和經濟學家團隊，製造了「道德機器」。18個月之內，這個在線問卷記錄下了233個國家和地區的人們所作出的4000萬條選擇。
無論年齡、性別和所在國家為何，大多數人都會選擇拯救人類而非寵物，拯救多數人而非少數人。這些回答和2017年德國自動駕駛倫理委員會的一份報告一致——這可能是至今唯一一份針對自動駕駛的政府指導文件。
但是兩者的一致也僅限於此了。作者對作答者超過100人的130個國家進行了分析。他們發現這些國家可以分為三類。
第一類包含了北美和幾個歷史上主要宗教是基督教的歐洲國家。第二類是包括日本、印度尼西亞和巴基斯坦這種有著強烈的儒家或伊斯蘭傳統的國家。第三類包含了中非、南非，以及法國和前法屬殖民地。第一類國家比第二類國家更傾向於犧牲老人的生命來保護年輕人的生命。
研究者還計算了各國社會經濟變數和居民一般意見之間的關聯。團隊發現，在芬蘭和日本等政府制度更為強大的國家裡，人們更傾向於撞上違法穿越馬路的行人；而在奈及利亞或巴基斯坦這樣政府制度比較弱的國家則反之。
是保護道路這邊的流浪漢還是道路另一邊的總裁的場景同樣顯示出了意見的分歧。人們所做出的決定與本國的經濟不平等性有相關性。在貧富差距較小的芬蘭，人們對於保護誰並沒有什麼偏好。但是在貧富差距非常大的哥倫比亞，作答者選擇殺死地位較低的人。
不列顛哥倫比亞大學的心理學家Azim Shariff認為該結論很有趣，因為這意味著這份問卷確實反映出了人們的道德偏好：「如果我們假設收入不平等性較低的國家有著傾向於平等主義的政策，那麼這份問卷表明這些政策背後的道德規範確實體現在了人們做出的回答上。」
前方有坑？
雖然自動駕駛汽車尚未公開銷售，美國的很多城市裡已經有了測試用車在行駛。至少五家製造商希望到2021年自動駕駛汽車和卡車可以得到廣泛使用。
南卡羅萊納大學的法學教授Bryant Walker Smith對道德機器的問卷結果是否實用抱有疑問。他說這份調查並不現實，因為實際生活中很少有情況是需要汽車在兩種不同的人中間選一種來撞的。「我還不如擔心一下自動駕駛汽車會如何應對隕石呢。」Walker Smith說。
但是問卷的作者說這些場景代表了人類司機經常需要做出的道德判斷——而這些判斷可能帶來致命後果。司機在崎嶇山路上避讓自行車會增加撞到對向來車的風險。如果道路上無人駕駛的汽車增加了，那麼它們遇到這種事故的概率也會增加。
有些汽車公司聽進去了。德國奧迪負責自動駕駛汽車倫理的小組負責人Barbara Wege說，這種研究十分有價值。Wege認為，自動駕駛汽車引發事故的比例會低於人類司機——但是和機器人相關的事故會引發更多關注。
道德機器這樣的問卷有助於讓人們對這種無法避免的事故進行公開討論，並培養人們的信任。「我們需要對願意承受的風險達成社會共識。」她說。?
Nature|doi:10.1038/d41586-018-07135-0
Self-driving car dilemmas reveal that moral choices are not universal
原文發布在2018年10月24日《自然》新聞上，作者：Amy Maxmen
版權聲明：
本文由施普林格·自然上海辦公室負責翻譯。中文內容僅供參考，一切內容以英文原版為準。歡迎轉發至朋友圈，如需轉載，請郵件[email protected]。未經授權的翻譯是侵權行為，版權方將保留追究法律責任的權利。
? 2018 Springer Nature Limited. All Rights Reserved
推薦閱讀：
