<mark id="oztn4"></mark>
0
| 本文作者： 靈火K | 2019-07-04 16:31 |
有一幫人，他們不用接觸你的車(chē)，即可遠(yuǎn)程“黑”入整套車(chē)載系統(tǒng)。
有一幫人，馬斯克親筆寫(xiě)信向其致謝，只因?yàn)樗麄儭巴鎵牧恕币慌_(tái)特斯拉。
有一幫人，善于與時(shí)間賽跑，在自動(dòng)駕駛的賽道上與死神（安全隱患）爭(zhēng)第一。
他們，就是騰訊安全科恩實(shí)驗(yàn)室。
2016年9月21日，科恩實(shí)驗(yàn)室正式宣布以「遠(yuǎn)程無(wú)物理接觸」的方式成功破解了特斯拉汽車(chē)，這在全球尚屬首次。
期間，騰訊科恩實(shí)驗(yàn)室針對(duì)特斯拉漏洞進(jìn)行研究，他們使用了一輛 2014 款 Model S P85 進(jìn)行安全研究，同時(shí)還在一位朋友剛購(gòu)買(mǎi)的新款 Model S 75D 上進(jìn)行復(fù)測(cè)，兩者均安裝了最新版本固件，證明該項(xiàng)研究可以影響特斯拉多款車(chē)型。
對(duì)于科恩實(shí)驗(yàn)室而言，他們要做的不是亡羊補(bǔ)牢，而是提前預(yù)防，通過(guò)一些提前測(cè)試評(píng)估，去發(fā)現(xiàn)可能存在的安全問(wèn)題，及時(shí)尋找解決問(wèn)題的方案和途徑，從而提高安全性能。在安全領(lǐng)域內(nèi)已經(jīng)深耕多年的呂一平，對(duì)安全問(wèn)題尤為敏感，也感觸良多。
時(shí)隔三年，這家最牛安全實(shí)驗(yàn)室又將為我們解鎖哪些破解特斯拉的新姿勢(shì)呢？為了得到答案，宅宅和騰訊安全科恩實(shí)驗(yàn)室總監(jiān)呂一平聊了聊。
回歸特斯拉Autopilot，深入聯(lián)網(wǎng)操控“腹地”
很多人提及汽車(chē)行業(yè)，都會(huì)想到一個(gè)比較熱的詞叫“新四化”，即智能化，從level0到level5，實(shí)現(xiàn)完全的無(wú)人駕駛；網(wǎng)聯(lián)化，就是車(chē)要介入到互聯(lián)網(wǎng)，重新定義汽車(chē)的產(chǎn)品屬性；新能源化，實(shí)現(xiàn)電動(dòng)化；最后就是共享化。科恩實(shí)驗(yàn)室目前的研究重點(diǎn)和前面兩個(gè)領(lǐng)域相關(guān)度比較高。
2016年科恩實(shí)驗(yàn)室完成了特斯拉第一個(gè)HU的OS與整車(chē)車(chē)電架構(gòu)的信息安全研究，2017年完成特斯拉Model S以及新款的Model X上的研究，2018年完成對(duì)寶馬進(jìn)行研究，研究成果覆蓋寶馬全系，并包括勞斯萊斯與MINI品牌。
因?yàn)橹挥刑厮估诹慨a(chǎn)車(chē)上比較廣泛地使用L2的高速輔助駕駛功能，2019年科恩更是投入到特斯拉的Autopilot信息安全相關(guān)研究領(lǐng)域，針對(duì)AI在汽車(chē)數(shù)字化上的新維度安全進(jìn)行前沿研究。
雷鋒網(wǎng)了解到，呂一平的研究早已經(jīng)深入聯(lián)網(wǎng)操控的“腹地”。
“目前特斯拉主要通過(guò)3G、4G的網(wǎng)絡(luò)WIFI信道攻入。由于在特斯拉的車(chē)上有瀏覽器組件，車(chē)原本的中控系統(tǒng)是運(yùn)行在一個(gè)瀏覽器的系統(tǒng)上面。把WIFI信道串接到瀏覽器上，然后我們又攻擊了其內(nèi)核，最后拿到系統(tǒng)的控制權(quán)限。”
一般來(lái)說(shuō)，獲取了控制權(quán)限就等于是得到了該車(chē)的最高權(quán)限，完整控制整個(gè)中控平臺(tái)也就不再是遙不可及的一件事。
特斯拉的中控系統(tǒng)實(shí)際上是特斯拉車(chē)上網(wǎng)絡(luò)的一個(gè)從內(nèi)到外的核心節(jié)點(diǎn)，連著儀表的液晶屏、網(wǎng)關(guān)、APE自動(dòng)駕駛的決策體系，打開(kāi)中控平臺(tái)就實(shí)現(xiàn)了各個(gè)模塊之間的交互，以這個(gè)為基礎(chǔ)，可以進(jìn)一步去攻擊其他模塊。
簡(jiǎn)單來(lái)說(shuō)就是，從3G、4G或者WIFI打入到瀏覽器，再?gòu)臑g覽器打入到中控系統(tǒng)的內(nèi)核，在完全控制它之后逐步延伸，最后去攻擊車(chē)聯(lián)網(wǎng)關(guān)。如此操作下來(lái)，即便不攻擊網(wǎng)關(guān)，直接攻擊APE同樣可實(shí)現(xiàn)對(duì)核心車(chē)聯(lián)網(wǎng)模式的控制，從而控制整輛車(chē)。
迷惑攝像頭，逆向算法構(gòu)造對(duì)抗樣本
“馬斯克說(shuō)過(guò)，他相信特斯拉的全部傳感器件都可以通過(guò)裝載攝像頭來(lái)實(shí)現(xiàn)。或許這行得通，但它并不安全。”
對(duì)于特斯拉本身，其自動(dòng)駕駛系統(tǒng)是通過(guò)攝像頭用視覺(jué)AI的模式來(lái)做一些環(huán)境感知、數(shù)據(jù)融合，最后完成一整套駕駛決策，這其中是有一個(gè)過(guò)程的。當(dāng)攝像頭對(duì)周?chē)沫h(huán)境變化或者對(duì)行駛的變化做出一個(gè)感知之后，再把這些數(shù)據(jù)傳遞給決策系統(tǒng)，最終做出自動(dòng)駕駛決策。
以前在做網(wǎng)聯(lián)攻擊的時(shí)候，主要是通過(guò)3G、4G、WIFI，或者是藍(lán)牙、NFC的通訊信道，或者通過(guò)物理接觸模式，比如說(shuō)通過(guò)USB或者是OBD口，從汽車(chē)另外一個(gè)診斷接口插進(jìn)去能夠入侵到它的系統(tǒng)和通訊模塊，甚至往下攻擊，最后到車(chē)電網(wǎng)關(guān)。
在自動(dòng)駕駛之后，呂一平帶領(lǐng)團(tuán)隊(duì)研究出了一個(gè)新的路徑，研究對(duì)象是特斯拉的視覺(jué)感知系統(tǒng)，該系統(tǒng)的數(shù)據(jù)來(lái)源是特斯拉前擋風(fēng)玻璃上攝像頭采集的圖像，研究團(tuán)隊(duì)通過(guò)軟件逆向分析等手段，理解該系統(tǒng)的工作原理。
視覺(jué)感知系統(tǒng)背后是一套深度神經(jīng)網(wǎng)絡(luò)算法，充分理解并利用神經(jīng)網(wǎng)絡(luò)算法的信息可以構(gòu)造對(duì)抗樣本，這也就是AI算法的對(duì)抗樣本。
該樣本的構(gòu)造并不是通過(guò)對(duì)一萬(wàn)或是更多的圖片進(jìn)行測(cè)試，而是通過(guò)深度理解后去構(gòu)造模型，然后測(cè)試、微調(diào)，再測(cè)試。這一過(guò)程最重要的并不是去生成樣本，而是對(duì)算法和深度神經(jīng)網(wǎng)絡(luò)的理解和研究，從而反向去構(gòu)造樣本，也就是反向逆推算法的過(guò)程。
呂一平稱(chēng)，實(shí)際上，人工智能算法本身在一些高風(fēng)險(xiǎn)的場(chǎng)景里是有一定風(fēng)險(xiǎn)的，比如行車(chē)，對(duì)人身安全和生命安全都有一定的威脅，因而在對(duì)算法測(cè)試的過(guò)程中就需要格外的嚴(yán)謹(jǐn)，需要算法和神經(jīng)網(wǎng)絡(luò)專(zhuān)家不斷調(diào)整模型，然后去適應(yīng)對(duì)抗樣本，這是一個(gè)漫長(zhǎng)而又艱難的過(guò)程。
車(chē)輛改道，縱向干擾識(shí)別道路障礙物
在自動(dòng)駕駛中，單純依靠視覺(jué)也是不夠的，呂一平舉了一個(gè)非常直觀的例子，“如果一個(gè)人向前跑，朝著太陽(yáng)的時(shí)候光線刺眼的話(huà)就看不清前面的路，這種情況下單純依靠視覺(jué)風(fēng)險(xiǎn)就會(huì)比較高。但是如果有像蝙蝠一樣的毫米波雷達(dá)，就會(huì)發(fā)射超聲波形成反射，雖然看不見(jiàn)，但是有毫米波雷達(dá)的反饋得以讓蝙蝠知道障礙物所在之處。”
在這樣的思路下，要想感知和識(shí)別道路障礙物，就需要去干擾人工智能的視覺(jué)部分。對(duì)于傳統(tǒng)車(chē)輛，還需要查車(chē)的技術(shù)架構(gòu)，可能僅僅干擾視覺(jué)還不夠，還需要去干擾其它的感知部分才能夠解決道路障礙物的問(wèn)題。
以前，對(duì)人工智能算法和深度學(xué)習(xí)網(wǎng)絡(luò)的研究都是在實(shí)驗(yàn)室環(huán)境里做得比較多，并非在實(shí)際應(yīng)用場(chǎng)景下操作的。而現(xiàn)在，科恩實(shí)驗(yàn)室用真實(shí)跑在路上的車(chē)做了這一研究。
接管控制權(quán)，遙控手柄操控決策系統(tǒng)
在提到自動(dòng)駕駛的過(guò)程中，呂一平向雷鋒網(wǎng)詳細(xì)解讀了這一過(guò)程。
自動(dòng)駕駛體系主要是通過(guò)反射波等一些感應(yīng)模塊對(duì)周?chē)沫h(huán)境有一個(gè)全面的感知。之后，系統(tǒng)產(chǎn)生數(shù)據(jù)，當(dāng)這些數(shù)據(jù)融合在一起的時(shí)候形成一個(gè)模型，并有標(biāo)準(zhǔn)化的數(shù)據(jù)生成決策模塊，這些決策模塊不僅有數(shù)據(jù)，還有判斷的邏輯，最終執(zhí)行一個(gè)有效的行駛判斷。在這一過(guò)程中，遙控手柄是可以完全控制自動(dòng)駕駛決策系統(tǒng)。
“遙控手柄直接針對(duì)決策模塊去做入侵，Autopilot的自動(dòng)駕駛決策模塊有中控模塊，在攻入中控系統(tǒng)以后，緊接著去攻擊APE模塊，所以這個(gè)路徑就通了，就是把我們?cè)瓉?lái)的攻擊面延伸到了自動(dòng)駕駛決策模塊，最后實(shí)現(xiàn)了完全控制。”呂一平解釋到。
這一過(guò)程跟感知無(wú)關(guān)，在打通了中控、網(wǎng)關(guān)和APE之后，已經(jīng)實(shí)現(xiàn)了完全控制，可以任意操控特斯拉，這是一個(gè)純系統(tǒng)的操控，有沒(méi)有感知都是無(wú)所謂的。
這一技術(shù)實(shí)現(xiàn)了把車(chē)的駕駛權(quán)限從人交給了系統(tǒng)，如果系統(tǒng)本身的安全性有問(wèn)題的話(huà)，尤其是決策部分存在安全問(wèn)題，就會(huì)直接影響駕駛安全，造成重大安全事故。
車(chē)企測(cè)評(píng)：測(cè)試標(biāo)準(zhǔn)+分?jǐn)?shù)圖譜
對(duì)于一輛車(chē)安全性能的測(cè)試，呂一平表示要從多角度進(jìn)行。
目前科恩的檢測(cè)項(xiàng)目已經(jīng)有300多項(xiàng)，形成一套通用的整車(chē)測(cè)試標(biāo)準(zhǔn)，并且每個(gè)面向車(chē)企合作的項(xiàng)目都有一個(gè)詳細(xì)的測(cè)試過(guò)程。針對(duì)一些網(wǎng)聯(lián)模塊有對(duì)應(yīng)的測(cè)試項(xiàng)目，由項(xiàng)目合作人統(tǒng)籌規(guī)劃，分解具體工作給營(yíng)業(yè)員實(shí)際分析測(cè)試。
最近，科恩實(shí)驗(yàn)室又制定出了一套打分機(jī)制，形成一個(gè)圖譜對(duì)標(biāo)其他車(chē)企。
通過(guò)不同的維度，針對(duì)測(cè)試評(píng)分，與其他同行匿名比對(duì)，從而發(fā)現(xiàn)自身存在的缺陷和問(wèn)題。但是安全本身是一個(gè)很難量化衡量的，這些打分和測(cè)評(píng)機(jī)制更多的是幫助這些車(chē)企更好地去改進(jìn)，幫助他們及時(shí)發(fā)掘需要進(jìn)一步投入的方向。
呂一平告訴雷鋒網(wǎng)，在未來(lái)的兩年里，科恩將不斷拓展輸出能力的方向，將會(huì)在更多重要的安全領(lǐng)域得到展現(xiàn)，打造出一款無(wú)形卻可以被感知，隱藏卻可以被召喚，看不見(jiàn)卻廣為人知的產(chǎn)品，成為守護(hù)在更多人的身邊 “防護(hù)盾”。網(wǎng)網(wǎng)雷鋒網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
