本文由騰訊數碼獨家發佈

安全研究人員發現，特斯拉的Autopilot駕駛輔助系統可能會受到道路上流氓標誌的誤導。特斯拉則信誓旦旦地表示，只要用戶正確使用Autopilot，這就不是個問題。雖然是針對特斯拉Autopilot系統進行的，但這項研究提出了與駕駛輔助系統容錯性有關的進一步問題。駕駛輔助系統將構成真正自動駕駛汽車的基礎。

這項研究是騰訊科恩安全實驗室進行的。之前，騰訊科恩安全實驗室就曾展示了一種針對特斯拉Autopilot的攻擊方法——特斯拉已經修正了相關缺陷——可以對Autopilot發動遠程攻擊。在一個新研究項目中，騰訊科恩安全實驗室探索了車載計算機視覺系統被愚弄的方法，其結果顯示，這會給行車安全造成不同程度的危險。

在一次攻擊中，搭載2.5版Autopilot硬件、運行2018年6月1日發佈的軟件版本的一輛特斯拉Model S 75的自動擋風玻璃雨刮器，被研究人員利用一張所謂的“對抗”圖片激活。特斯拉Autopilot使用神經網絡模型，通過識別玻璃上積聚的雨滴觸發雨刮器。通過製作一張特殊的圖片——旨在干擾神經網絡先前的學習，Autopilot系統可能會犯迷糊。

這是對抗攻擊的一個典型例子。對抗攻擊是通過提供特定輸入操控機器學習模型的一種方式。隨着機器學習應用範圍越來越廣泛，特別是在安全領域，對抗攻擊也將變得越來越常見。

說句公道話，正如特斯拉自己指出的那樣，一些攻擊可能只存在於理論中，對自動駕駛汽車在現實世界的行駛幾乎不會帶來任何風險。例如，欺騙自動雨刮器需要將電視機放在汽車前面，在實際行駛中，這種情況出現的可能性微乎其微。

特斯拉表示，另一種攻擊方法——可以控制汽車的轉向系統——已經在一個安全更新包中得到修復。特斯拉稱，2017年和2018年發佈的兩個組件顯然修補了被利用的“主要漏洞。在我們開始發售汽車的許多年裏，我們從未見過一位客戶曾受到本報告中提到的任何安全攻擊的影響”。

隨着汽車越來越智能，駕駛員的工作也在不斷變化

特斯拉還討論了最可能出現在現實世界中的攻擊方法，在這種攻擊中，車道識別功能會被道路上的特定標誌所欺騙。放置在道路上的膠帶通過完全掩蓋道路車道標誌，或者通過引入虛假、不存在的車道，足以欺騙Autopilot的神經網絡。

特斯拉在迴應車道識別研究時表示，“在這次演示中，研究人員改變了車輛周圍的物理環境（例如在路上放置膠帶或改變車道線），目的是使開啓Autopilot的汽車表現異常。考慮到駕駛員可以隨時利用方向盤或制動器輕鬆取代Autopilot，而且應當隨時做好準備取代Autopilot接管汽車控制權，這不是一個在現實世界中會遇到的問題。”

特斯拉對車道識別漏洞的反應，再次使Autopilot在現實中的表現以及部分人對它的錯誤描述受到關注。儘管特斯拉雄心勃勃地承諾，在不久的將來，其汽車將具備完全自動駕駛功能。目前，Autopilot仍然只是二級自動駕駛系統。這意味着它只是一款駕駛輔助系統，無論它使用何種技術，確保汽車安全行駛的仍然是司機。

與完全手動駕駛車輛的司機相比，使用自適應巡航控制和車道保持等駕駛輔助功能的司機的專心程度，仍然是一個懸而未決的問題。然而，有一點似乎是很清楚的，司機必須理解的潛在危險因素在不斷發展中。汽車的駕駛輔助系統所看到的周圍情況——這也是它做出決策的依據，與司機看到的周圍情況可能會存在很大差異，無論是道路上的膠帶還是其他物體。

哪些傳感器對自動駕駛必不可少？

這項研究——特別是其對計算機視覺的評論——凸顯了圍繞自動駕駛技術的另一個揮之不去的問題。特斯拉曾多次公開表示，其汽車上現有的傳感器陣列，對於4級或5級自動駕駛功能來說就足夠了。對於具有4級或5級自動駕駛功能的汽車來說，司機應該能夠將保證車輛安全的任務完全交給自動駕駛系統完成。

值得指出的是，目前的特斯拉汽車沒有配備激光雷達或激光測距儀。相反，特斯拉汽車配備的傳感器包括相機、雷達和超聲波傳感器。自動駕駛汽車領域專家對特斯拉汽車的傳感器是否足以實現真正的自動駕駛功能存在分歧，而這項研究增加了現有擔憂，即單靠計算機視覺技術可能不足以實現完全自動駕駛功能。

騰訊研究人員總結道，“特斯拉使用純計算機視覺解決方案進行車道識別，我們在這次攻擊實驗中發現，汽車僅僅依靠計算機視覺車道識別結果做出行駛決策。我們的實驗證明，這種設計具有安全風險，反向車道識別是在非封閉道路上實現自動駕駛功能的必要技術之一。在我們構想的場景中，如果車輛知道假車道指向反方向車道，它應該忽略這條假車道，然後就可以避免交通事故了。”

當然，由於真正的自動駕駛汽車可能還需要數年的時間才能上市銷售，特斯拉和其他汽車製造商仍然有時間研究、解決這個問題。特斯拉是唯一一家銷售集成付費全自動駕駛技術的汽車廠商，雖然目前這一技術並未激活。這使得特斯拉找出並解決計算機視覺問題變得愈發重要，以避免讓那些已經爲它一直承諾的這項功能掏過腰包的早期用戶感到沮喪。