端側AI不是云端AI的縮小版，安謀科技要建邊端側AI算力底座｜WAIC 2026

世界人工智能大會（WAIC）2026上，超節點、萬卡集群是算力領域最吸引人的焦點。更大的集群、更高的帶寬、更強的供給能力，構成了大模型時代最直觀的基礎設施敘事。

但安謀科技在WAIC期間的AI前瞻會上把討論拉向了另一端：當AI從云端進入手機、AI PC、智能家居、汽車、機器人、工業設備和邊緣節點，算力問題不再只是“夠不夠大”，而是“合不合適”。

“我們認為，邊端側AI不是云端AI的縮小版，而是由功耗、實時性、軟件、數據、可靠性共同定義的新計算市場。”安謀科技Arm China NPU產品線負責人、首席架構師舒浩博士在安謀科技世界人工智能大會（WAIC）2026 AI前瞻會上的這句話，比具體產品參數更值得被記住。

安謀科技在AI前瞻會上沒有把CPU、NPU、VPU和AIOS拆成四個孤立產品來講，而是給出一套端側AI的系統答案：硬件層面做異構，軟件層面建生態，最終把自己從芯片IP供應商的位置，推向邊端側AI基礎設施的組織者。

如何在資源受限的情況下讓端側穩定運行AI？

端側AI的機會，首先來自模型能力的下沉。

安謀科技CPU產品總監朱曉鳴在演講中提到，2022年、2023年，要達到商用門檻的模型規模往往需要做到數百B；但隨著算法演進，到2025年、2026年，接近1B體量的模型也有機會達到商用最低標準線。

這意味著，過去只能運行在云端服務器上的AI能力，開始有機會進入端側芯片。

但端側AI真正難的，并不是模型能不能變小，而是變小之后能不能在真實設備里穩定跑起來。

手機要考慮續航，機器人要考慮低延遲，工業設備要考慮穩定性和生命周期，智能家居設備還要考慮成本和常開功耗。用戶希望端側設備具備更強推理能力、更長上下文、更實時交互，背后要解決的是電池、溫度、內存墻和帶寬墻。

朱曉鳴把端側AI的約束講得很直接：“端側AI并不是資源無限、無限子彈的AI，它是一個資源受限的AI。”

所以，端側AI不是把云端模型搬到端側芯片上，也不是簡單在MCU旁邊外掛一顆NPU，而是在極其受限的功耗、面積、成本和帶寬里，把AI能力擠出來。

這也是安謀科技推出“星辰300”AIoT原型平臺的背景。

星辰300由STAR CPU、Arm Helium矢量擴展和Arm Ethos NPU組成，首代平臺選擇STAR-MC2和Ethos-U55，目標是支持主流小模型，讓傳統MCU拓展出AI算力。

過去IoT強調的是連接萬物，設備更多承擔采集、連接和被動響應；AIoT強調的是認知萬物，端側設備開始需要一定的感知、判斷和決策能力。

安謀科技要做的，是把CPU的通用控制能力、Helium的向量擴展能力和Ethos NPU的矩陣加速能力組合起來，在功耗、面積都受限的嵌入式設備里，跑出可用的AI能力。

端側AI的競爭，不是比誰能把算力堆得更大，而是比誰能在更小的殼里，把更多AI能力跑得更穩。

Agentic時代NPU最重要的不是峰值算力？

如果星辰300回答的是AIoT設備如何長出AI能力，那么周易X3-Pro回答的是更復雜的邊端側推理問題。

過去談NPU，行業很容易落到參數競爭：算力多少、能效多少、支持多大參數模型。

Agentic AI正在改變NPU的定義。舒浩在演講中提到，過去一年AI行業的變化集中在四個方面：模型能力提升，推理需求從云端向邊端側擴展；推理范式從單輪對話走向Agent多輪協作；工作負載高度分化；邊端側場景不斷擴展。

這些變化最后指向同一個結論：“AI算力底座的關注焦點，已經從峰值算力轉向系統效率、場景適配性以及整體可部署能力。”

原因在于Agentic AI帶來的推理變化，不是一次性請求變多，而是推理本身變成持續感知、上下文記憶、多模態理解和主動行動的循環。NPU也就不能只被定義為推理加速器，而要變成AI智能體的計算底座。

但邊端側場景依然繞不開然碎片化問題。

手機、PC、可穿戴設備關心電池續航、個人隱私和本地響應；攝像頭、門鎖、機器人、自動駕駛關心多模態傳感、低延遲和功能安全；工業網關、工控機、工廠服務器關心任務確定性、可靠性和應用長生命周期；邊緣節點、AI本地盒子又關心多路并發、24小時在線和云邊協同。

這些設備都需要AI，但它們不會需要同一顆AI芯片。

這也是周易X3-Pro強調統一、分層、場景化架構的原因。舒浩把周易X3-Pro的設計哲學概括為：“一次適配，多芯復用；面向場景，靈活配置。”

軟件層面，安謀科技希望用統一架構復用模型適配、調優和部署經驗；硬件層面，則通過不同配置適配不同場景對性能、功耗、靈活性和可編程性的差異化要求。

這才是邊端側AI真正的工程難題。

云端AI可以通過標準化集群和規模效應不斷攤薄成本，但端側AI要面對的是更長的產品周期、更多樣的設備形態和更復雜的應用約束。誰能降低客戶從模型到芯片、從芯片到產品的適配成本，誰才有機會成為端側AI時代的底座。

用新一代VPU解決端側AI怎么看

AI進入真實世界后，視頻的角色同樣在變化，對VPU也有新的需求。

過去視頻主要服務人眼。手機拍攝、社交傳輸、直播壓縮，核心目標是讓人看得清、傳得快、存得下。但在機器人、自動駕駛、工業視覺等場景里，視頻不只是內容，而是AI理解物理世界的數據入口。

換句話說，視頻不再只是給人看，也要給機器看。

安謀科技VPU研發總監黃鑫博士在演講中提到，隨著AI應用和視頻更加緊密結合，越來越多視覺感知模塊需要用視頻數據進行推理和訓練，視頻開始成為AI的“消費者”。

這會改變VPU的設計目標。過去VPU追求的是壓縮效率和主觀畫質，AI時代，VPU還要考慮壓縮后的視頻能否保留對AI推理有效的信息。如果視頻質量受損，影響的可能不只是人眼觀感，而是AI推理精度和訓練效果。

安謀科技此次首次揭秘新一代“玲瓏”VPU“武當”。這款產品繼承上一代CAE技術，在保持編碼質量的同時，PPA較上一代提升超過40%，并支持更完整的編碼規格。

更關鍵的是，安謀科技正在把VPU從局部優化推向端到端全局優化。

黃鑫提到，下一階段AI VPU會從智能CAE這類局部優化，走向面向特定AI應用的端到端視頻編碼技術，在壓縮和精度之間取得更優平衡。

他用一句話概括玲瓏VPU的定位：“讓人類看清世界，讓AI看懂世界。”

如果說CPU和NPU解決的是端側AI“怎么算”，VPU解決的就是端側AI“怎么看”。

當機器人、汽車、工業設備、空間智能系統都需要通過視覺理解世界，視頻壓縮就不再只是多媒體問題，而會變成端側AI基礎設施的一部分。

端側AI大規模部署的關鍵——AIOS聯盟

硬件異構只能解決端側AI的一半問題。另一半，是軟件和生態。

端側AI如果只停留在“芯片能跑模型”，很難真正變成產品能力。Agent、具身智能、AI眼鏡、AI玩具、機器人、邊緣盒子等新型設備，需要的不只是底層算力，還包括模型推理、任務編排、記憶管理、端云協同、感知交互、隱私安全和開發者工具。

這也是安謀科技牽頭發起開源AIOS聯盟的原因。

安謀科技市場及生態副總裁梁泉在演講中提到，每一代新型產品的變化，不僅是計算平臺變化，也包括交互范式變化。PC時代是鼠標和鍵盤，移動時代是多點觸控，AI時代則會出現語音交互、生成式UI、具身互動和持續感知。

這意味著AIOS不是傳統操作系統加一個模型接口。

AIOS需要處理模型引擎、模型推理、端云協同路由、感知交互、Agent任務編排、記憶系統和數據流。尤其是在具身智能和邊緣設備中，視頻、音頻、文本等實時混合輸入，會成為貫穿系統的核心數據流。

梁泉對AIOS的定義里，最關鍵的不是“OS”，而是交互。

他提到，新型AIOS是“基于感知的生成式交互和具身互動系統”。如果只是把AI作為計算基礎設施放在那里，過去Linux、服務器系統已經可以承接很多能力；但新型邊緣設備和具身設備要與人持續互動，交互會變成系統核心。

這一步，把安謀科技的角色從IP繼續向上推了一層。

端側AI產業鏈天然分散：有芯片公司，有模組廠，有設備廠，有模型公司，有開發者，也有終端品牌。單靠某一顆IP，很難讓AI進入海量設備。安謀科技想借助Arm在端側的生態位置，把硬件IP、軟件棧、模型能力、開發者工具和終端產品組織到一個更開放的體系里。

開源AIOS聯盟的意義也在這里，端側AI從“硬件可用”走向“產品可用”必須補上的系統層。

端側AI的競爭也是系統競賽

從星辰300到周易X3-Pro，從玲瓏VPU到開源AIOS聯盟，安謀科技傳遞出的信息，核心不是有新的IP產品，而是為端側AI構建一套不同于云端AI的基礎設施。

云端AI的競爭，更像規模競賽。誰能提供更多GPU、更強集群、更高吞吐、更低Token成本，誰就能在大模型訓練和推理爆發中占據主桌。

端側AI的競爭，則更像系統競賽。它要在功耗、成本、實時性、隱私、設備形態和生命周期之間找平衡；要讓不同尺寸、不同場景、不同產品周期的設備，都能以可控成本獲得AI能力；還要讓開發者和終端廠商不必為每一顆芯片、每一個設備、每一種模型重復適配。

這正是“端側AI不是云端AI的縮小版”背后的產業含義。

當AI還停留在云端，算力基礎設施的核心問題是如何支撐更大模型和更多Token；當AI進入真實世界，問題會變成如何讓每一臺設備都具備可用、可靠、可部署的智能能力。

安謀科技構建的，正是這套邊端側算力底座。

如果說過去Arm生態的最大價值，是讓移動互聯網時代的計算能力進入每一臺終端；那么AI時代，安謀科技要證明的是，Arm生態仍然有機會把AI能力帶進每一個真實設備。

端側AI的下半場，不會只屬于單顆芯片，它屬于能把芯片、模型、OS、開發者和終端場景串起來的公司。雷峰網(公眾號：雷峰網)

雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。