<mark id="oztn4"></mark>
0
之前雷鋒網(wǎng)寫過，百度 All in AI 后，百度安全搞出了一個 OASES 智能終端安全生態(tài)聯(lián)盟。
現(xiàn)在，不只是這個聯(lián)盟，從這幾個月百度安全的動向以及雷鋒網(wǎng)與百度安全的人士聊的情況看，百度安全要聚焦整個大百度“AI”的戰(zhàn)略方向已經(jīng)不算“趨勢”了，他們就是要搞“AI 安全”。
這次，雷鋒網(wǎng)宅客頻道與百度安全事業(yè)部總經(jīng)理馬杰對談，以期梳理百度安全打算如何推進“AI 安全”，以及他們現(xiàn)在到底做到了什么程度。
1.雷鋒網(wǎng)：過去幾個月，你在多少重大場合把 IoT 和AI 安全掛在嘴邊？你們之前說的是智能終端安全，什么時候開始統(tǒng)一 AI 安全的說法的？
馬杰：我覺得在大場合都不下10次，就是這種大會上，小的肯定就更多了。未來 AI 安全的落地應(yīng)該是在智能終端上， 所以，我們整體系統(tǒng)化來說“AI 安全”是從 OASES 聯(lián)盟發(fā)布開始。
2.雷鋒網(wǎng)：為什么有這種轉(zhuǎn)變？
馬杰：“AI” 是一個現(xiàn)在被炒熱的名詞，你回過頭看智能，實際上智能又是一個之前被過度消費的名詞，所以本來我覺得 “AI” 不就是一個對應(yīng)的詞嘛，但因為“智能”被過度消費后，“智能”反而變成了一個很狹窄的詞，就是所有帶一點計算能力的、能根據(jù)具體環(huán)境做決策的都叫智能。恨不得里面有一個簡單的 PLA 邏輯過程什么的，都可以叫智能，過程稍微復(fù)雜一點，帶一個Arm，有一點程序，就叫智能了。
我們后來提這個東西的時候，其實在我們心中應(yīng)該是等價的東西，但是可能看在什么場景下用這個詞更合適。
在 OASES 聯(lián)盟時，我們說的是智能終端，因為現(xiàn)在這個階段大部分所謂的 AI 設(shè)備其實還只在智能這個階段，并沒有真正把深度學(xué)習(xí)技術(shù)應(yīng)用到其中。我覺得可以這么劃分一下，以前是帶計算能力的，可以狹義地稱之為智能，帶深度學(xué)習(xí)的，可能才能被叫做“AI”。如果這樣劃分，目前絕大部分設(shè)備還停留在智能階段，但是正在從智能走向未來。
我們當(dāng)時做聯(lián)盟時，是說先解決行業(yè)的現(xiàn)實問題，先解決智能終端問題，肯定是放眼 AI，而且我們相信這些設(shè)備也會 AI 化，雖然它的本地計算能力有限，但是通過聯(lián)網(wǎng)后，很多深度學(xué)習(xí)的東西就可以引入了。
3.雷鋒網(wǎng)：百度安全所說的AI 安全，到底囊括了哪些范圍，怎么規(guī)劃的？
馬杰：百度的戰(zhàn)略是成為一家 AI 公司，既然百度要做 AI，大家就是一個生態(tài)系統(tǒng)的。
如果這里的安全問題不解決，百度在上面再做什么東西，根基就是不安全的，我們希望跟這些伙伴一起，從基礎(chǔ)開始解決安全問題。
這樣就可以看出來里面要解決哪些具體問題，不管是所謂小的 IoT 設(shè)備，還是大一點的智能、AI設(shè)備，它有稍微強一點的計算能力，可聯(lián)網(wǎng)，從底層操作系統(tǒng)開始，就會有問題，只不過小設(shè)備可能是一些RTOS的東西，大一點的可能是安卓系統(tǒng)。
但是，所有平臺都有平臺這一層的安全問題，平臺本身在內(nèi)核這一級，可能就有很多歷史上的安全問題沒有解決。我們看到大量的智能設(shè)備用的可能是低版本的安卓、Linux，都不需要高手破解，照著漏洞列表去看一看，直接就可以黑進去了。這是底層的問題，而且因為這個底層還包括了芯片廠商、方案商、生產(chǎn)廠商，整個產(chǎn)業(yè)鏈條很長，本來這些東西也不太好解決。
我們在推一些方案去做這件事，就像 OASES 里非常重要的一塊是解決漏洞的熱修復(fù)問題。
不說上面有沒有跑百度智能的東西，先把底層一起弄安全了再說。我們得先造一個基石，而且為了讓大家信任——我們做這件事是真正開放的心態(tài)，我們把我們的代碼向這些伙伴直接開放。
這是操作系統(tǒng)的一層，可能再往上，到了操作系統(tǒng)上層的應(yīng)用層，還會出現(xiàn)越來越多的問題，因為操作系統(tǒng)是幾個廠商生產(chǎn)的，還可以去枚舉它有多少問題，但是一旦到應(yīng)用層，就是一個沒有邊界的東西了，它可能有無窮多的可能性的問題，而且應(yīng)用層迭代更快，更容易出問題。
一方面，因為廠商應(yīng)用更多，迭代更頻繁，它會變得更復(fù)雜，但是另一方面，如果你底下基石是穩(wěn)的，你可能就可以有一些方案限制上層的漏洞影響范圍，我們后面會出一些解決方案。
前段時間，我們也發(fā)了一個原型的版本，做了一個安全的 Linux 發(fā)行版，開源給整個社區(qū)。當(dāng)?shù)讓臃€(wěn)固后，如何用一些方案讓上層不容易產(chǎn)生內(nèi)存泄漏、溢出，看看能不能解決，或者至少不會讓安全問題出現(xiàn)時，給整個系統(tǒng)帶來安全沖擊。
這是上層系統(tǒng)層面，然后這個設(shè)備開始聯(lián)網(wǎng)，聯(lián)網(wǎng)時就有安全傳輸問題、證書認證問題，其實像去年我們有安全研究員去過不同的比賽，會上發(fā)過我們對一些鎖的破解，但破解的目的不是為了“破解”，是為了研究有什么樣的安全問題。
實際上，很多次破解背后，本質(zhì)是安全傳輸沒有做好，很多廠商已經(jīng)意識到他們需要做安全傳輸，但是因為不是專業(yè)做安全的人，所以他們對安全傳輸?shù)哪骋恍┘毠?jié)沒控制好，就留下了這個漏洞。其實他們明明已經(jīng)想到這件事情，但沒有做到嚴絲合縫，只要有一個縫，就會被別人鉆了空子。
我們也在看，是不是可以把這個門檻降得更低，讓大家不需要那么多的專業(yè)知識，就能把這個東西做得嚴絲合縫。
證書認證、加密傳輸是管道上的問題，再往前到了云端，又是一大塊問題。大家常見的問題，如云端服務(wù)器被 DDoS ，這是一個我們又要留心的問題。
從操作系統(tǒng)到應(yīng)用，再到管道、云，這是一個漫長的戰(zhàn)線，傳統(tǒng)安全的人對每個環(huán)節(jié)都很熟悉，但是要把它拼在一起，才能形成一個完整的東西，而且得把它組裝得嚴絲合縫，不然整個體系白做了。
4.雷鋒網(wǎng)：要做 AI 安全的話，你們怎么把以前做的事情利用起來？
馬杰：AI 安全是一個很復(fù)雜的體系，在歷史上，我們?yōu)榱吮Ｗo端、管道、云，已經(jīng)逐漸積累了非常多的單點安全能力，到了這個時代，忽然發(fā)現(xiàn)這些曾經(jīng)做過的事情沒白做。當(dāng)年做這個東西，端上很多是為了移動、云做的事，現(xiàn)在到了 AI ，因為整個生態(tài)鏈太長了，所以居然全都串上了，而且?guī)缀鯕v史上的東西沒有太多浪費的，都串到了整個體系里去。
但是，我發(fā)現(xiàn)還有很多不足，剛才我說的模型問題，這些是全新的挑戰(zhàn)，當(dāng)然我們曾經(jīng)有很多成熟東西里的人力，肯定可以撤出一部分來，去做新研究，解決一些 AI 上的特定問題，然后再把我們曾經(jīng)做好的東西串一串，打一個包，形成適用的解決方案，這些能力就都存在了。
我們現(xiàn)在內(nèi)部有很多個team在做單點能力，分散在各個不同的團隊里，然后我們有針對度秘、車的團隊，他們把我們內(nèi)部各種能力重新打包、改造，形成解決方案，跟他們做適配，最后讓我們的各種單點能力能聚合成一個可以替他解決問題的方案。
5.雷鋒網(wǎng)：百度的 AI 安全能力現(xiàn)在只對內(nèi)輸出嗎？
馬杰：對百度來說，安全不是它的核心商業(yè)模式， AI 是未來的商業(yè)研究。
其實我們不太區(qū)分內(nèi)外，而是希望能讓整個社區(qū)，或者生態(tài)系統(tǒng)能更安全，讓大家在一個共同的基石上做上面的事情，這才是現(xiàn)實的，你至少要讓用戶有信心用這樣的東西，讓他不覺得在家里放一堆智能設(shè)備是有被竊取隱私、被人入侵的風(fēng)險，我覺得這是大家共同的利益。
在這個上面，首先從大思路來講，不太會去分內(nèi)外，而是更愿意共同把這個環(huán)境先做好。
當(dāng)然，有一些新的東西在不成熟時，我們也不好意思拿到社區(qū)分享，所以我們會稍微做到像一個beta版才拿出來，我們可能希望做得更成熟一點，再拿出來給大家。包括我剛才說的 OASES 聯(lián)盟提供的系統(tǒng)熱修復(fù)技術(shù)，我們也是做了比較長的一段時間后，才拿出來給大家的，感覺它比較穩(wěn)定，可以商業(yè)化使用時拿出來，拿一個水平太低的東西出來也不符合我們的定位。
但是，有一些東西我們會用開源的形式開放得稍微早一點，讓大家共同建設(shè)，比如，針對內(nèi)存安全的Linux 發(fā)行版，這個東西還是一個比較初級的想法，我們做了一些基礎(chǔ)工作。如果真正做一個好的版本，可能需要大量的工作。我們拿到社區(qū)里，大家看看能不能一起做。
6.雷鋒網(wǎng)：你剛才說的這種不分內(nèi)外的生態(tài)性合作，包括之前百度和小米要在IoT平臺進行的合作嗎？百度安全有給他們做一些這樣的東西嗎？
馬杰：最近百度有兩個大的合作宣布，一個是小米，一個是華為。
其實百度安全這邊一直都是蠻開放的心態(tài)，遠在這次合作之前我們就給小米輸出了很多能力，小米路由器里就有我們集成的安全能力，合作宣布之后，肯定會推動更多的東西。
華為也是，OASES聯(lián)盟宣布成立時，我們跟華為的合作已經(jīng)做了一年多，我覺得只要是正確的生態(tài)應(yīng)該做的事情，自然就可以共同推這些事情。
7.雷鋒網(wǎng)：還和哪些廠商有合作？
馬杰：我覺得這些都不需要說名字，因為基本上各種手機端的廠商，我們肯定也有合作，本身度秘在提供非常多的能力，它的能力到哪兒，我們的安全技術(shù)就得跟到哪兒。
8.雷鋒網(wǎng)：AI 安全還有哪些新挑戰(zhàn)？
馬杰：除此之外，還有很多新的挑戰(zhàn)，在一些安全會上我也提到了，這是在 AI 領(lǐng)域里新出現(xiàn)的挑戰(zhàn)，像模型安全，這是傳統(tǒng)安全里大家曾經(jīng)不太關(guān)注的領(lǐng)域，我在每個會上都跟大家介紹這個問題，大家慢慢會比以前重視，因為不管是自動駕駛、人臉識別，這些東西都可以針對其深度學(xué)習(xí)算法，做定向攻擊，讓它明明把一個人理解成另外一個人，明明是這樣一個路標(biāo)，理解成另外一個路標(biāo)，這些都是傳統(tǒng)安全領(lǐng)域所不涉及的安全性。
像這樣新的在 AI 領(lǐng)域出現(xiàn)的挑戰(zhàn)，不止一個。剛才我說的都是針對機器視覺的，有可能還有針對語音、各種學(xué)習(xí)算法的，挑戰(zhàn)也非常多。
為什么專門提這個事情？它既有傳統(tǒng)領(lǐng)域類似于一個集大成體系的工作，又有全新的挑戰(zhàn)，所以它有整個 AI 領(lǐng)域的特點，不管是所謂的IoT設(shè)備、智能設(shè)備，還是 AI 設(shè)備，不管它叫做什么，都有這些層面的問題。
9.雷鋒網(wǎng)：你之前做的一些研究工作，有沒有還沒想好怎么放進來的技術(shù)，有這樣的例子嗎？
馬杰：有，比如我們原來有一個特別有趣的能力，就是云加速，云加速其實是一個在邊緣網(wǎng)絡(luò)上做計算和加速的能力。這些能力以往服務(wù)于中國幾十萬個網(wǎng)站，包括百度有很多重要的業(yè)務(wù)也都 base 在這上面，這個東西我們現(xiàn)在還沒有讓它進入所謂 AI 的生態(tài)，不管是自己的產(chǎn)品，還是伙伴的產(chǎn)品用上，但是這個東西肯定是有用的。
我們還在探索怎么用，因為 AI 設(shè)備分布如此之廣泛，我覺得在邊緣網(wǎng)絡(luò)上提供一些能力，可能比放在自己設(shè)備上更省電。這是比較容易直接想到的，隨著做得更深度，可能還有很多沒有想到的用處。
10.雷鋒網(wǎng)：你有這么多team，哪些是你最重要的team？
馬杰：大家特別容易去想這樣的問題。
可能在移動時代，我們說 PC重要，還是移動、云重要？到了AI，突然發(fā)現(xiàn)所有的東西全串在一起，戰(zhàn)線史無前例地長，以至于哪個環(huán)節(jié)都不能斷掉。這些東西我們曾經(jīng)做過，所以可能已經(jīng)不需要花那么重的兵力布局，我們只需要做一些適應(yīng)性改造，重要的兵力會放到以前沒有做過的研究里，但是你說它重不重要？它絕對是同樣重要的，安全跟別的產(chǎn)品最大的區(qū)別是，安全是筑長城，做產(chǎn)品是單點突破，做安全的同學(xué)都有這個困擾。
所以，做一個安全解決方案時，你必須構(gòu)建長城，而且還得做得嚴絲合縫，所以真的沒辦法說哪個地方更重要，因為這個環(huán)節(jié)斷了，整個就失效了，但是在人力的投入上會有傾向性。
11.雷鋒網(wǎng)：2018 年你希望能做到哪個程度？
馬杰：我希望的目標(biāo)在 2018 年可能還達不到，因為我希望的是——整個生態(tài)能重視，至少在基本的層面上，安全能達到一個可接受的水平，但是這個事情實際上現(xiàn)在遠遠不是這樣的。即便我們做了這些努力，我們開源，跟大家分享技術(shù)，百度的 AI 構(gòu)建在這個生態(tài)之上，所以我們怎么把底下先弄得安全、扎實一點，就是這個目標(biāo)，但是這個目標(biāo)中間的鏈條挺長的，先要引起大家的重視。
回過頭去看歷史，很早很早以前，大家天天在喊殺毒什么的，但每個人電腦上裝上殺毒軟件是什么時候？大家非得經(jīng)歷幾次慘痛教訓(xùn)后，才真正把殺毒軟件都裝上，裝了后還得不斷跟用戶教育升級的重要性。
就是有這么一個過程，從說到做，實際中間的周期蠻長的，希望大家某一天都不說 AI 安全了，懶得提它了，但是每一臺電腦上都裝上了，像殺毒軟件一樣，每一個 AI 產(chǎn)品里都有這個能力在了，我覺得我們上層所做的任何努力才有一個基礎(chǔ)。
我想“八卦”一下馬杰和與其相關(guān)的人和事。
馬杰在安全領(lǐng)域從業(yè)的時間很長。2000~2010年期間，馬杰在瑞星主持開發(fā)了從個人殺毒軟件到企業(yè)級安全硬件在內(nèi)的大量產(chǎn)品，2011年起，馬杰創(chuàng)立了基于SaaS的云安全服務(wù)品牌“安全寶”，2015年4月，百度收購安全寶，馬杰出任百度云安全總經(jīng)理，全面負責(zé)百度云安全部的研發(fā)和管理工作。2016年3月，馬杰出任百度安全事業(yè)部總經(jīng)理，全面負責(zé)百度安全事業(yè)部的研發(fā)和管理工作。
業(yè)內(nèi)周知的是，安全寶當(dāng)時的一條產(chǎn)品線與“道哥”吳翰清團隊歸了阿里云，現(xiàn)在道哥已經(jīng)是阿里云的首席安全專家。不久前，馬杰的老同事、安全寶曾經(jīng)的COO 沈鵬飛出任百度安全事業(yè)部副總經(jīng)理，馬和沈再聚首。而當(dāng)年安全寶的 CTO Tony Lee 現(xiàn)在也是京東的首席信息安全專家。
為什么要八卦這一點？
你會發(fā)現(xiàn)，身居圈內(nèi)“高位”的這幫“老朋友”的關(guān)注點很集中。
道哥在 2017 年提出了一項重要的“彈性安全網(wǎng)絡(luò)”的概念，這是一種能把 DDoS 防御前置到網(wǎng)絡(luò)邊緣處的技術(shù)，他也因此入選了麻省理工TR35。而過去的一年中，由 IoT 設(shè)備引發(fā)的大規(guī)模 DDoS 攻擊已不是新鮮事。
1月13日，Tony Lee 在 i 春秋主辦的 2018 互聯(lián)網(wǎng)安全責(zé)任峰會上說，“另一件事是京東未來的重要業(yè)務(wù)，其一是智能家居的協(xié)議，其二是 AI 。”“未來的 IoT 與 AI 無處不在，特別是 IoT 設(shè)備很難管理，這種情況下該如何做安全？對于京東來說，我們的責(zé)任就不僅僅是找漏洞或者是代碼安全，而是從整個安全機制，安全協(xié)議出發(fā)……”
當(dāng)然，“IoT安全”也好，“AI 安全”也罷，本來就是現(xiàn)在的熱點，不足為奇。但知道了百度安全的相關(guān)背景，也許你更能理解兩點：第一，這是大勢；第二，對于百度安全為什么重點關(guān)注移動安全、IoT安全，現(xiàn)在又將這些重點“打包”進“AI 安全”，對他們所闡釋的 AI 安全，你將有更深的感觸。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
