專訪NovuMind周斌：AI芯片彎道超車，架構(gòu)和算力沒有任何取巧之道｜CCF-GAIR 2018

雷鋒網(wǎng)按：2018全球人工智能與機(jī)器人峰會(huì)（CCF-GAIR）在深圳召開，峰會(huì)由中國計(jì)算機(jī)學(xué)會(huì)（CCF）主辦，雷鋒網(wǎng)、香港中文大學(xué)（深圳）承辦，得到了寶安區(qū)政府的大力指導(dǎo)，是國內(nèi)人工智能和機(jī)器人學(xué)術(shù)界、工業(yè)界及投資界三大領(lǐng)域的頂級(jí)交流盛會(huì)，旨在打造國內(nèi)人工智能領(lǐng)域最具實(shí)力的跨界交流合作平臺(tái)。

7月1日下午的AI芯片專場(chǎng)大咖云集，圓桌討論環(huán)節(jié)，深圳鯤云信息科技有限公司創(chuàng)始人兼CEO牛昕宇、天數(shù)智芯創(chuàng)始人兼CEO李云鵬、NovuMind中國區(qū)總裁周斌、AVSdsp CEO沈聯(lián)杰四位來自AI芯片領(lǐng)域的重磅嘉賓，在華登國際投資總監(jiān)蘇東的主持下，就“中國芯的新機(jī)會(huì)：AI芯片如何實(shí)現(xiàn)彎道超車”這一話題展開交流。

圓桌討論結(jié)束后，雷鋒網(wǎng)就相關(guān)問題對(duì)NovuMind中國區(qū)總裁周斌進(jìn)行采訪。

算力是一切算法的基礎(chǔ)

在圓桌討論中周斌曾提到，大概3~5年后，在有限場(chǎng)景、受限場(chǎng)景的自動(dòng)駕駛會(huì)成為比較現(xiàn)實(shí)的事情。

然而據(jù)雷鋒網(wǎng)觀察，眼下有一些面向自動(dòng)駕駛領(lǐng)域的AI芯片，其規(guī)格往往集中在功耗15~30瓦、算力30~40Tops這個(gè)區(qū)間內(nèi)，號(hào)稱可實(shí)現(xiàn)L4級(jí)自動(dòng)駕駛能力。并且在雷鋒網(wǎng)的觀察中，某些AI芯片公司在介紹其芯片性能時(shí)，只說每秒能處理多少幀畫面、每幅畫面包括多少對(duì)象，而對(duì)底層算力指標(biāo)避而不談。

對(duì)于這種行為，周斌認(rèn)為“就像某人只說自己能舉重100次一樣無聊，脫離杠鈴重量怎么能看出實(shí)際能力？就算要宣傳圖片和對(duì)象的處理速度，也要講清畫面分辨率、視角大小、識(shí)別距離、對(duì)象尺寸等相關(guān)參數(shù)，要么就老老實(shí)實(shí)亮出實(shí)際的算力有多少?！彼硎?，40Tops只能勝任L2.X級(jí)輔助駕駛（ADAS）系統(tǒng)，想實(shí)現(xiàn)L3.X級(jí)自動(dòng)駕駛都是不夠的。

從雷鋒網(wǎng)了解的信息來看，L4級(jí)自動(dòng)駕駛要求平均每10萬英里才需要一次人工干預(yù)，目前世界上還沒有任何自動(dòng)駕駛系統(tǒng)能達(dá)到這個(gè)指標(biāo)，即便目前表現(xiàn)最好的谷歌Waymo也只做到了平均5000英里一次人工干預(yù)，而特斯拉Autopilot在官方定義中只是L2.X級(jí)。

周斌根據(jù)目前的情況推算，L3.X級(jí)自動(dòng)駕駛大約需要80Tops的算力，而L4級(jí)自動(dòng)駕駛的門檻至少有100~200Tops之高。在NVIDIA的路線圖中，甚至使用了一套包含兩顆GV100 GPU、算力320Tops、功耗高達(dá)500瓦的平臺(tái)進(jìn)行L4級(jí)自動(dòng)駕駛的研發(fā)，高級(jí)別自動(dòng)駕駛所需的算力指標(biāo)之高可見一斑。

他表示，算力是支撐一切算法的硬指標(biāo)，沒有任何捷徑可走。即便算法再怎么神奇，40Tops算力下所能做的事也是有上限的，“用十分之一功耗實(shí)現(xiàn)十倍性能”完全是天方夜譚。

如何與CUDA同臺(tái)

NVIDIA自2006年推出G80架構(gòu)以來，一直在不遺余力的推廣其CUDA通用計(jì)算平臺(tái)。時(shí)至今日CUDA已經(jīng)非常成熟，形成了強(qiáng)大的生態(tài)系統(tǒng)，這也為NVIDIA擴(kuò)展其它基于GPU的事業(yè)提供了先天便利。事實(shí)上，在AI大潮來臨后，NVIDIA確實(shí)在AI算法訓(xùn)練上獲得了很大優(yōu)勢(shì)。

NVIDIA的強(qiáng)大之處，身為中國唯一NVIDIA CUDA Fellow及NVIDIA DLI認(rèn)證講師的周斌再清楚不過了。但他卻做起了反向思考：CUDA生態(tài)過去的強(qiáng)大，在面對(duì)AI運(yùn)算的新任務(wù)時(shí)，是否能為其創(chuàng)造不可逾越的壁壘？

周斌認(rèn)為答案是未必。在前不久的CCF-GAIR峰會(huì)上他曾講到，他親歷了深度學(xué)習(xí)的風(fēng)口過程，在2008年利用CUDA做通用計(jì)算時(shí)就開始用一些不同的處理器架構(gòu)來解決新的問題。那時(shí)他發(fā)現(xiàn)，新的深度學(xué)習(xí)架構(gòu)對(duì)于新的數(shù)據(jù)模式、新的數(shù)據(jù)結(jié)構(gòu)以及數(shù)據(jù)量，對(duì)GPU體系結(jié)構(gòu)產(chǎn)生了非常大的挑戰(zhàn)。

AI芯片是處理AI任務(wù)的，任務(wù)在不斷的變化，其變化本質(zhì)、數(shù)學(xué)模型是什么，哪些是變的、哪些是不變的，這是任何做AI芯片的公司必須首先認(rèn)可領(lǐng)悟和理解的。芯片中哪些可以固定下來。卷積層是否存在？深度網(wǎng)絡(luò)的主流是什么，是CNN還是RNN？下一代Sparking能否用起來？只需要關(guān)注深度學(xué)習(xí)最核心、最本質(zhì)的地方，剩下的都可以不管。

周斌稱，NovuMind并沒有發(fā)明新的芯片模式，而是在GPU的基礎(chǔ)上去掉了所有和深度學(xué)習(xí)無關(guān)的單元。這樣的設(shè)計(jì)既可以讓芯片高效進(jìn)行深度學(xué)習(xí)計(jì)算，又避免了直接將算法固化成ASIC芯片應(yīng)用范圍狹窄的問題。

脫離架構(gòu)研發(fā)的“超車”都是幻想

全美達(dá)（Transmeta）Crusoe、Intel安騰（Itanium）、龍芯。

這些處理器的名字看起來毫不相干，之所以列出來，是因?yàn)樗鼈冎g有一個(gè)共同點(diǎn)：本身不是基于X86指令集，但可以通過Emulation技術(shù)兼容X86代碼。

近來，隨著“彎道超車”的聲浪越來越高，又有人開始鼓吹Emulation技術(shù)，認(rèn)為這樣可以規(guī)避處理器架構(gòu)方面的弱點(diǎn)，只需設(shè)計(jì)一個(gè)精簡(jiǎn)且高效的計(jì)算內(nèi)核，然后套上Emulation層不就計(jì)劃通了？

然而對(duì)于這種言論，周斌的看法非常簡(jiǎn)單：“這一定是行不通的”。他表示，全美達(dá)Crusoe、Intel安騰和龍芯，在商業(yè)上都失敗了。這些使用了Emulation技術(shù)實(shí)現(xiàn)X86兼容的處理器，執(zhí)行X86代碼時(shí)的效率都是極其低效的。

以Intel安騰處理器為例，其內(nèi)核結(jié)構(gòu)為VLIW超長指令字體系，在使用Intel御用Emulation層的情況下，運(yùn)行X86代碼的效率也不過50%。即便是目前基于驍龍835/845平臺(tái)的Win10 PC，也依然沒能改變效率低下的老問題。

“芯片是個(gè)非常講究經(jīng)驗(yàn)積累和傳承的領(lǐng)域，架構(gòu)設(shè)計(jì)不是一天兩天的問題。在大型應(yīng)用領(lǐng)域，必須要在架構(gòu)設(shè)計(jì)上下功夫?！敝鼙髮?duì)雷鋒網(wǎng)說到，“現(xiàn)在鼓吹Emulation技術(shù)的人，都是想在架構(gòu)研發(fā)上偷懶的人，想靠這個(gè)實(shí)現(xiàn)‘超車’純屬幻想?！?/p>

回歸價(jià)值投資的本質(zhì)

很多人都聽過“當(dāng)風(fēng)很強(qiáng)的時(shí)候，連火雞都能飛起來”這句洗腦名言，而在AI這個(gè)風(fēng)口下，也的確有一些公司或團(tuán)體，僅憑一句AI、一個(gè)口號(hào)就能拿到大筆融資。

作為旁觀者，我們不免擔(dān)心，在浮躁的資本市場(chǎng)中，這些濫竽充數(shù)者分流掉的資源會(huì)對(duì)那些務(wù)實(shí)的團(tuán)隊(duì)造成怎樣的影響？

在周斌看來，投資是一個(gè)優(yōu)化資源配置的過程，雖然在風(fēng)口到來時(shí)，市場(chǎng)上不可避免的出現(xiàn)了許多投資泡沫，但所有項(xiàng)目都必須在市場(chǎng)上證明其價(jià)值，才能獲得成功。一些跟風(fēng)的投資人，資金投到垃圾項(xiàng)目上，他們損失的將是真金白銀。

他認(rèn)為，投融資應(yīng)該是一個(gè)雙向選擇的過程，不管是市場(chǎng)成長期還是洗牌期，都是真正的大浪淘沙，把真正有價(jià)值、有核心技術(shù)、有成長性、有未來的公司選出來，資源會(huì)向這樣的公司聚集?！俺纯戾X的創(chuàng)業(yè)公司和投資人一定會(huì)被市場(chǎng)淘汰，只有真正能夠發(fā)覺價(jià)值并與公司互相認(rèn)可的投資人，才能為公司帶來生命力。”

現(xiàn)在隨便弄幾個(gè)人說句AI、喊個(gè)口號(hào)就能拿到投資的事不存在了，在團(tuán)隊(duì)和市場(chǎng)層面上，有扎實(shí)內(nèi)容、能賺錢的公司反而成為市場(chǎng)的香餑餑，這個(gè)洗牌期會(huì)逼著洗牌人看清楚這家公司是否有價(jià)值。投資人們開始認(rèn)認(rèn)真真的看技術(shù)，他們關(guān)注處理器內(nèi)核、做IP競(jìng)調(diào)、做專利競(jìng)調(diào)，這個(gè)趨勢(shì)非常喜人，投資將回歸到價(jià)值投資的本質(zhì)，通過資本市場(chǎng)的力量促成技術(shù)到市場(chǎng)的轉(zhuǎn)化，從而共享收益。

相關(guān)文章：

中國芯的新機(jī)會(huì)：AI芯片如何實(shí)現(xiàn)彎道超車？｜CCF-GAIR 2018

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。