<mark id="oztn4"></mark>
0
| 本文作者： 馭風(fēng) | 2021-12-20 14:47 | 專題：GAIR 2021 |
雷峰網(wǎng)按：始于2016年的“全球人工智能與機(jī)器人大會”（GAIR），歷經(jīng)五年，見證數(shù)次潮水的轉(zhuǎn)向，成為目前為止粵港澳大灣區(qū)人工智能領(lǐng)域規(guī)模最大、規(guī)格最高的學(xué)術(shù)、工業(yè)和投資領(lǐng)域跨界盛會。
在12月10日舉辦的第六屆全球人工智能與機(jī)器人大會（GAIR 2021）“集成電路高峰論壇：國產(chǎn)高端芯片之路”論壇上，多位業(yè)界大咖分享了RISC-V在中國MCU、DSP、AI邊緣芯片等方面的應(yīng)用與發(fā)展。
嘉楠科技副總裁湯煒偉帶來了《基于RISC-V的邊緣AI芯片的技術(shù)革新與商業(yè)化實踐》主題演講，分享了他對于RISC-V AI芯片商業(yè)化前景的思考以及嘉楠科技在相關(guān)領(lǐng)域的最新技術(shù)成果。
在湯煒偉看來，如今是邊緣計算爆發(fā)及芯片架構(gòu)創(chuàng)新的黃金時代，而RISC-V是一個非常有前景的計算架構(gòu)，除了開源、免費、開放等特點外，也代表了經(jīng)典指令集+一個自定義擴(kuò)展的技術(shù)架構(gòu)方向，使得所有人都能在標(biāo)準(zhǔn)化平臺下根據(jù)需求做靈活的裁剪，這些特性使RISC-V有希望成為芯片領(lǐng)域Android。
湯煒偉表示，AI正在從云端智能下沉到邊緣端和設(shè)備端，面對碎片化場景時如何兼顧高性能與低功耗，對于芯片的設(shè)計體系架構(gòu)提出了很高要求，這當(dāng)中除了通過采用先進(jìn)制程降低功耗外，架構(gòu)創(chuàng)新也是一條重要的技術(shù)革新道路，而嘉楠科技一開始便選擇了通過RISC-V架構(gòu)研發(fā)AI芯片。
據(jù)介紹，嘉楠科技已推出第一代芯片K210并正在量產(chǎn)新一代的K510，其芯片在多個領(lǐng)域的產(chǎn)品上得到應(yīng)用并獲得國內(nèi)外客戶認(rèn)可，未來嘉楠科技將會繼續(xù)堅持RISC-V自研及AI處理器核心IP自研的技術(shù)路線。
以下為湯煒偉現(xiàn)場演講的全部內(nèi)容，雷峰網(wǎng)(公眾號：雷峰網(wǎng))作了不改變原意的編輯與整理：
我是來自嘉楠科技的湯煒偉，我們是做高性能芯片的企業(yè)，2016年開始切入人工智能芯片領(lǐng)域，我們對于RISC-V有深刻的感情，一開始就切入RISC-V的體系架構(gòu)。我簡單講講技術(shù)革新和商業(yè)化實踐的動作。主要分為四部分：一是我們是誰；二是怎么看邊緣計算和AI；三是技術(shù)革新；四是商業(yè)化落地。
我們嘉楠科技定位是數(shù)字新基建的芯片廠商，在區(qū)塊鏈和人工智能領(lǐng)域都保持領(lǐng)先，區(qū)塊鏈這塊我們在2013年交付全球首款區(qū)塊鏈的ASIC芯片，ASIC領(lǐng)域首個交付7納米的芯片廠商。我們做過14次的芯片流片，全是量產(chǎn)流片，成功率達(dá)到百分之百，現(xiàn)在在流片生產(chǎn)上保持著多晶圓廠的策略。
人工智能這塊我們的品牌叫勘智（勘探大智慧），英文叫Kendryte，我們于2016年啟動業(yè)務(wù)，2018年底交付全球首個基于RISC-V架構(gòu)的人工智能芯片，到現(xiàn)在將近三年的時間出貨超過百萬顆，并且逐步從55納米一路走到5納米的先進(jìn)制程，公司是2019年在納斯達(dá)克上市。
IDC去年預(yù)測2025年邊緣設(shè)備達(dá)到557億臺，75%將在云端平臺，產(chǎn)生的數(shù)據(jù)相比六年前增長四倍以上，這么多邊緣計算設(shè)備里產(chǎn)生的數(shù)據(jù)也是持續(xù)爆發(fā)式增長。
體系架構(gòu)領(lǐng)域，有著名的科學(xué)家說現(xiàn)在是體系架構(gòu)創(chuàng)新的黃金時代，從以前比較單一的CPU和GPU，走向FPGA、DSA、ASIC等專用架構(gòu)。架構(gòu)百花齊放時代前所未有，誕生如此多做人工智能、做GPU和ASIC的公司。
從CPU來看，X86架構(gòu)統(tǒng)治PC和服務(wù)器情況已經(jīng)有松動的跡象，像ARM一路從物聯(lián)網(wǎng)和手機(jī)端逐漸往上進(jìn)攻，走到PC和服務(wù)器。
而RISC-V也是從相對入門的領(lǐng)域、從物聯(lián)網(wǎng)設(shè)備起步，隨后大量的其它設(shè)備開始采用RISC-V架構(gòu)。
在我們看來RISC-V一定是一個非常有希望、非常有前景的計算架構(gòu)，除了開源、免費、開放等特點之外，我認(rèn)為它代表了將來經(jīng)典指令集+一個自定義擴(kuò)展的非常好的技術(shù)架構(gòu)方向，所有人可以在相對標(biāo)準(zhǔn)化的平臺上靈活自定義和擴(kuò)展，我們寄希望它是芯片領(lǐng)域的Android。
AI+IoT方面，我們看到的趨勢是從場景化到設(shè)備化、多樣化，在吃住行游購物娛樂、元宇宙、教育、產(chǎn)業(yè)領(lǐng)域大量的IoT設(shè)備——包括包括機(jī)器人、無人機(jī)、自動駕駛機(jī)器等都獲得廣泛的應(yīng)用。
AI在這些領(lǐng)域得到廣泛應(yīng)用的前提，我認(rèn)為是場景化的應(yīng)用相對比較簡單，從簡單做起然后再逐步地復(fù)雜化，只要東西夠簡單、夠單一，設(shè)備又能解決一定程度上的產(chǎn)品和場景的問題，就有可能成為爆款——像前幾年的智能音響，這幾年的掃地機(jī)，只要它的功能相對比較單一又能解決問題，一定會成為爆款。
另一個趨勢是，AI從云到邊，即我們所理解的智能下沉，從幾年前所有的AI都在云上——英偉達(dá)、AMD等公司的計算量大部分在云端的訓(xùn)練上。通過很多科學(xué)家不斷探索出相對可以生產(chǎn)產(chǎn)業(yè)化、批量可落地的模型，再逐步滲透到邊緣端和設(shè)備端，在模型下沉的過程中，我們逐步實現(xiàn)AI全面賦能AIoT。
AIoT和云端有區(qū)別，云端的成本低大家都選在云端，很多的設(shè)備邊緣端、終端有非常多云端做不多的事情，比如說低延遲、隱私計算，確保流量帶寬用得比較少，包括邊緣端的功耗可以做得更低，算力更高，成本更低。
AIoT究竟需要什么？需要包括視覺、語音和其他的手段，數(shù)據(jù)進(jìn)來了可能要計算——分為多種類型的CPU、GPU、ASIC異構(gòu)的計算，算完的成果要通信、上傳、回傳，還有控制，需要把這幾個過程聯(lián)動起來，甚至在低功耗的時候不需要啟動，有一個MCU就可以把這些東西控制起來。
這里有大量的技術(shù)點和需求點，我認(rèn)為是雙螺旋的過程，AI的需求端左側(cè)會面臨各種各樣的細(xì)化、分化的需求，包括全場景的AI和多模態(tài)的需求，現(xiàn)在大家看智能家居或智能工業(yè)場景、安防都越來越多使用到視覺、語音、圖像等多種類型的傳感器輸入。
AI的應(yīng)用上又有很多的分化，有的是低頻使用的場景，比如說電池類，可能喚醒一下、啟動一下、工作一下又關(guān)機(jī)了。很多領(lǐng)域我們傾向于將由人工介入的智能變成機(jī)器智能，比如說智能門鎖，只要刷臉或是有指紋就開鎖，不需要人去看圖像，人去介入門鎖；或是判斷工業(yè)上的故障，減少人工的介入。這些對供應(yīng)鏈交付是非常大的挑戰(zhàn)。
AIoT對技術(shù)端也提出很多新的需求，設(shè)備化又非常碎片化的場景，怎么設(shè)計體系架構(gòu)才能讓我們的場景實現(xiàn)高性能和低功耗？這是一個挑戰(zhàn)。
此外，產(chǎn)品體系和創(chuàng)新體系的挑戰(zhàn)，設(shè)備化、場景化的地方，每個設(shè)備、每個場景都有不同的需求，怎么樣實現(xiàn)從能用到好用？從好用到恰好好用，這是在性能和成本之間的平衡，這個平衡可能非常重要。
其實AI芯片的各部分像拼圖一樣，圖像、語音、高速接口、NPU、內(nèi)存、安全、外設(shè)子系統(tǒng)，DSP都是獨立的系統(tǒng)， 芯片有NPU的單元、DMA、存儲、外設(shè)等，這些東西如何有機(jī)的耦合在一起可以工作、可以順利地轉(zhuǎn)起來需要很多的協(xié)同。
針對上面這些需求和挑戰(zhàn)，在AI芯片的研發(fā)上我們做了幾個方面的創(chuàng)新：
一是綜合研發(fā)創(chuàng)新，芯片設(shè)計全流程做到軟件、硬件嵌入、系統(tǒng)軟件的協(xié)同。
這個“全流程”是市場調(diào)研到芯片規(guī)格定義再到中間的全流程，我們有一些自己的心得，在架構(gòu)設(shè)計這端從CPU架構(gòu)、模塊架構(gòu)設(shè)施一起走，多線程往前推，中間的SoC驗證仿真，協(xié)同仿真，我們都要有團(tuán)隊可以上去做。后面到量產(chǎn)、交付也需要軟件協(xié)同的工作。
二是架構(gòu)創(chuàng)新，我們要做到RISC-V的自研、KPU、NPU方面的自研，工具鏈的自研，這是我們認(rèn)為將來長期發(fā)展的核心競爭力。
像是神經(jīng)架構(gòu)網(wǎng)絡(luò)加速器自研，有自己的獨特數(shù)據(jù)流和定點協(xié)同的設(shè)計等。我們自己設(shè)計了比較大的GLP，有很好的指令解析和分發(fā)。
精度這塊，通過很好的量化、壓縮和融合等技術(shù)，可以做到0.5%以內(nèi)的無損壓縮；然后工具鏈部分，基于TDM的前端，支持TF、PyTorch、ONNX、TVM，底部也有很多的優(yōu)化，全系產(chǎn)品線都是協(xié)同一致的。
三是先進(jìn)工藝，從7納米到5納米，再到3D，這方面都需要持續(xù)的迭代演進(jìn)。
我們在區(qū)塊鏈這塊7納米到5納米、包括FINFET3D封裝上有一些競爭力，包括近閾值的電路設(shè)計，0.75伏降到0.3伏，芯片的功耗分為靜態(tài)和動態(tài)，動態(tài)基本上是0.75和0.3的平方關(guān)系，功耗可以得到顯著的降低。標(biāo)準(zhǔn)單元設(shè)計優(yōu)化，包括算法的開發(fā)優(yōu)化、散熱解決方案、高能效、高計算密度。5納米這塊我們積累了很多自研的IP，包括高速的接口，都會用到人工智能和計算的產(chǎn)品線上。
四是產(chǎn)品和市場，發(fā)現(xiàn)賽道的趨勢、需求的趨勢、市場的趨勢，我們?nèi)绾尉珳?zhǔn)地抓到它
講完技術(shù)方面的內(nèi)容，現(xiàn)在我們講講產(chǎn)品和商業(yè)化落地方面。
在第一顆芯片勘智K210之后，我們正在量產(chǎn)的是K510，還在規(guī)劃、要做的是K230，將來在2系、5系和8系的產(chǎn)品線上會逐步地迭代，做到每年1到2顆。大的行業(yè)視角分為三類：一是門鎖、門禁、STEAM教育；二是對AI算力和圖像要求較高的安防、泛安防、智慧城市、準(zhǔn)車載領(lǐng)域；三是Edge Computing（邊緣計算），8系將會覆蓋2倍的算力，它是以機(jī)器視覺為主。
我們的第一代產(chǎn)品K210在2016年啟動研發(fā)，2018年發(fā)布，基本上是全球首款RISC-V商用的邊緣芯片，是真正做到量產(chǎn)出貨的。
K210配備RISC-V雙核64位處理器帶FPU，支持模塊化及定制化設(shè)計，支持自定義指令，架構(gòu)比較簡單，平臺方面支持Linux、RTT、Free-RTOS，嵌入式機(jī)器學(xué)習(xí)我們支持MicroPython。
K210在歐美得到醫(yī)療公司的認(rèn)可，在STEAM教育、通行和新興的場景——比如兩輪車、智能車上也都有不錯的商用前景。STEAM方面我們跟優(yōu)必選、大疆合作做機(jī)器人、編程小車、機(jī)器狗，這些會在大家熟知的一線、二線城市的課堂里展開。
這是我們幾個產(chǎn)品的典型圖（下圖），包括用K210做的智能圖像讀表器，門禁考勤機(jī)、無感門禁攝像頭，歐洲客戶做的血氧儀、膠囊機(jī)器人，美國客戶做的眼球追蹤，以及深圳客戶做的教育編程小車等產(chǎn)品。
這是我們跟合作伙伴做的四足機(jī)器狗（下圖），基于K210，可以進(jìn)行視覺、人臉識別，你甚至可以跟它玩石頭剪刀布。它是四足的，每個足上三軸，等于是12軸的運動機(jī)器狗，它支持圖形化的編程和Python編程，不僅可以玩現(xiàn)有內(nèi)嵌的十幾、二十種算法，同時還可以自定義開發(fā)，這也是非常受國內(nèi)和國外愛好者的歡迎。
我們的第二顆芯片K510是定位中高端的端側(cè)推理芯片，采用全新一代的RISC-V CPU，DSP主頻可以達(dá)到800兆，另外這是新一代DSP，具備2D、3D降噪，WDHL，魚眼校正、硬件3A等功能。
K510所搭載的KPU神經(jīng)網(wǎng)絡(luò)處理器技術(shù)也走到了第二代，功耗進(jìn)一步降低。這個的應(yīng)用場景會比上一代更往高端走一些，比如說類似于無人機(jī)、視頻會議、機(jī)器人、STEAM教育、工業(yè)相機(jī)等等這些場景，這些場景里都積累了一批先期試用的客戶，正在做緊密的合作。
最后，我們的初衷就是做好中國芯片，以中國的創(chuàng)新服務(wù)全球。
從深圳企業(yè)來講很多也是這樣的，包括大疆、華為也都是從中國走向世界。技術(shù)路線上我們將堅持RISC-V自研和人工智能處理器核心IP的自研，包括先進(jìn)工藝的IP自研。我們也是熱忱地希望和深圳、國內(nèi)國外的客戶緊密合作，能把RISC-V的生態(tài)發(fā)揚光大，能把國產(chǎn)AIoT芯片做到非常好的水平。
歡迎大家合作交流，謝謝。
雷峰網(wǎng)雷峰網(wǎng)雷峰網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
專題
本專題其他文章
