據(jù)《麻省理工科技評論》網(wǎng)站報道,,在無人駕駛卡車和出租車能真正上路前,,廠商需要解決的問題遠不止防止碰撞和導航這么簡單,。
無人駕駛汽車將必須提前預見到和抵御惡意黑客全方位的傳統(tǒng)網(wǎng)絡攻擊和基于對抗性機器學習的新一代攻擊,。業(yè)內越來越達成共識,,未來數(shù)年無人駕駛汽車將被用作機器人出租車,,或用于卡車,,但大量的媒體報道對這種攻擊威脅基本上視而不見。
這使我想起1990年代大量宣揚電子郵件的文章,,當時還沒有出現(xiàn)令人討厭的垃圾郵件,。當時,機器學習被認為能解決垃圾郵件難題,。事實上,,目前垃圾郵件問題已經(jīng)基本上得到解決——但卻用了數(shù)十年時間。
目前尚沒有惡意黑客攻擊自動駕駛汽車的媒體報道,。具有諷刺意味的是,,這是個問題。當互聯(lián)網(wǎng)創(chuàng)業(yè)公司在1990年代開發(fā)首批電子商務平臺時,,世界上還沒有惡意黑客呢,。在電子商務遭遇第一波大規(guī)模攻擊后,比爾·蓋茨(Bill Gates)發(fā)表備忘錄,,要求微軟認真對待安全問題,。結果是:Windows成為目前最安全的操作系統(tǒng)之一,微軟每年在網(wǎng)絡安全方面的支出超過10億美元(約合人民幣67億元),。雖然如此,,黑客并未放棄在Windows操作系統(tǒng)、瀏覽器和其他軟件中尋找安全缺陷,。
《麻省理工科技評論》表示,,汽車公司可能經(jīng)歷相似的歷程。在因沒有考慮安全問題而遭遇尷尬后——1980年代設計的CAN總線,,就沒有認證的概念——它們似乎現(xiàn)在注意到這一問題,。當黑客證明在路上行駛的汽車可能因數(shù)個安全缺陷遭到攻擊時,汽車廠商做出了回應:召回數(shù)百萬輛汽車,,并對固件進行升級,。去年7月,通用汽車首席執(zhí)行官瑪麗·巴拉(Mary Barra)表示,,保護汽車不會遭到網(wǎng)絡攻擊“是一個公共安全問題,。”
但迄今為止的努力可能錯過了下一個安全趨勢,。正在開發(fā)中,、用于無人駕駛汽車的計算機視覺和防碰撞系統(tǒng),依賴于復雜的機器學習算法——這些算法不容易理解,,即使是對于依賴它們的公司,。
去年卡耐基梅隆大學研究人員通過演示表明,佩戴鏡架上印有時髦圖案的眼鏡,,能使先進的人臉識別算法失效,。這一項目的首席研究人員馬哈茂德·謝里夫(Mahmood Sharif)在一封電子郵件中寫道,,“我們的研究表明,黑客能繞開先進的人臉識別算法,,或使系統(tǒng)不能正確識別目標,。”
去年,,南卡羅來納大學,、浙江大學和奇虎360的研究人員通過演示表明,他們能破壞特斯拉S電動汽車的多個傳感器,,使其導航系統(tǒng)“看不見”其他物體,。
最近許多有關無人駕駛的文章,都對惡意黑客嘗試讓汽車碰撞輕描淡寫,,甚至避而不談,。在接受《麻省理工科技評論》采訪時,美國國家運輸安全委員會主席克里斯托弗·哈特(Christopher Hart)表示,,他對自動駕駛汽車能減少交通事故“非常樂觀”。在討論安全問題時,,哈特強調讓自動駕駛汽車做出符合倫理的決策——例如,,當一輛8萬磅(36噸)的卡車突然擋住一輛汽車的去路時。
《麻省理工科技評論》稱,,知道會造成車毀人亡交通事故的情況下,,為什么還會有人攻擊自動駕駛汽車?一個原因是自動駕駛汽車的廣泛普及,,會讓許多人失業(yè),,部分失業(yè)者可能心生怨氣。
2016年8月,,福特首席執(zhí)行官馬克·菲爾茲(Mark Fields)表示,,他預計到2021年,無人駕駛出租車就會投入運營,。谷歌,、尼桑和其他公司,則計劃最早在2020年推出類似的無人駕駛汽車,。只需一個大功率激光棒,,這些無人駕駛出租車或送貨車就“眼花繚亂”了。
在被問到應對對抗性機器學習威脅的計劃時,,Uber發(fā)言人薩拉·阿布德(Sarah Abboud)表示,,“我們的安全專家團隊在不斷探索未來的自動駕駛汽車安全措施,包括數(shù)據(jù)完整性和濫用探測,。但是,,隨著自動駕駛技術的進步,,威脅模式也會隨之發(fā)展,這意味著目前的一些安全問題,,在未來真正的無人駕駛環(huán)境中已經(jīng)不再是個問題,。”
數(shù)次交通事故就能叫停自動駕駛汽車的部署,。這可能不會影響先進的自動駕駛系統(tǒng),,但對于無人駕駛汽車的部署,卻是一個相當大的障礙,。