高通徐晧亮相WAIC端側AI論壇：從智能體需求出發，持續推動計算架構創新

7月19日，2026年世界人工智能大會正在進行中，高通公司全球副總裁、中國區研發負責人、IEEE Fellow徐晧博士出席“端側AI創新和行業發展論壇”，并發表《智能體AI時代：計算架構與模型效率的持續創新》主題演講。

 

徐晧博士指出，端側的AI應用擁有非常廣闊的前景，并系統性闡述了智能體浪潮對終端計算架構帶來的范式變革。他指出，隨著手機使用場景從單輪對話邁向多輪交互、再邁向智能體調度，設備所需的Token處理量正以十倍量級遞增——從一萬、十萬到百萬級，因此端云協同處理十分重要。為此，高通針對持續運行始終在線工作負載、持續的傳感器數據處理和系統性協同需求，面向智能體AI打造新一代設備架構，并與面壁智能等合作伙伴持續推動在端側模型領域的合作。

 

 

以下是演講全文；

 

非常高興和大家分享高通在端側AI方面所做的硬件，軟件，算法和系統開發以及生態合作。

 

這支視頻帶我們簡單回顧了我們使用手機這一終端的方式，從最開始簡單的交互，到今天支持智能體的手機。同樣，能夠運行智能體的終端品類多種多樣，從最小的智能耳機到千瓦級的數據中心，高通不同的硬件平臺可以為這一系列的智能終端提供支持。很早之前，我們就注意到面壁在端側的布局，我們雙方有很多的契合點。

接下來，我們看一下為什么端側這么重要。這里呈現的是一個簡單的統計，可以看到不同終端的市場規模在幾十億量級。大多數人現在都很注重數據中心這類大規模訓練，但實際上端側的AI應用也擁有非常廣闊的前景。

 

可以看到，手機從簡單的單輪對話、到多輪對話，再到運用智能體，其所需的token量是以十倍量級往上增加的，從一萬、十萬到百萬級。比如，在手機端使用龍蝦或者智能體要用到的token數量非常之大，現階段是端云結合的解決方案，端側小模型處理隱私性強需要實時處理的任務，云端處理深度推理和規劃。將來越來越多的模型處理會在端側來減少對數據傳輸和云端token運算的需求。

 

剛剛面壁的同事也介紹了，端側模型在未來一至兩年內，可以達到與幾十倍算力的云端模型同樣的功能，并且這個趨勢還在不斷發展，越來越多的大模型將遷移到端側，以小模型的形式出現。隨著硬件算力的不斷提高，這些模型在端側也將能夠輕松運行。

 

我們看一下，從端側硬件設計的角度來看，有哪些最重要的設計難點。

 

第一，在打造智能體手機時，我們需要出色的任務規劃，我們通過全新的CPU來做任務規劃和控制。

 

第二，需要隨時隨地處理傳感器信息。以前的手機只是用戶給它指令讓它執行任務，它不需要24小時判斷你在干什么或者你需要什么。但是智能體手機需要主動幫助你、告訴你需要做什么，需要隨時感知你在什么地方，比如它感知你現在在大會現場，它可以幫你自動靜音；比如它感知你進入座艙，它會自動調節成你喜歡的溫度和座椅位置。這都需要有出色的低功耗傳感器處理。傳感器中樞會對大量的傳感器做有效地處理和融合，來精確地感知環境，給智能體提供決策信息。

第三是NPU，來提供強大的模型運算功能。我們會做一系列的模型適配和優化，有效地利用NPU高效張量計算能力來處理2B到3B量級的模型在手機端側地運行。

 

此外，還需要有出色的5G或6G連接。現在大部分智能體的功能是在云端運行的，因為需要大量算力，但隨著越來越多的模型在端側運行，需要端側、云端和邊緣云的協同處理，出色的無線連接功能可以把端側的算力和云端的算力無縫連接。

接下來讓我們看看，高通如何帶來最有效的硬件支持。首先是高通傳感器中樞，它能夠為智能體提供更多數據，24小時在線了解關于你的所有信息，為大語言模型或端側模型的輸入提供情境感知，打造個人知識圖譜。另一方面，我們的NPU可為端側提供強勁算力，例如剛才提到的20 億、30 億參數mini CPM大模型，都能在端側流暢運行。

這是高通最新的旗艦移動平臺第五代驍龍8至尊版，今年我們還將推出更強大的移動平臺，來支持所有的端側運算；我們的座艙芯片也具備強大算力，可支持更大規模的模型，在車上穩定運行百億以上的參數大模型。

 

從應用以及模型的角度來說，我們已經完成從最初的感知AI，到現在的生成式AI和智能體AI的迭代，下一階段我們將重點推進物理AI，實現從小模型向多功能大模型的轉變。我們在算法方面也做了一系列的模型在端側的適配，比如模型壓縮和量化，長上下文的處理和增強，以及端側模型的不斷學習(on device learning)。

最后是從車到機器人的演進過渡，一方面我們要將二維的規劃，升級為對三維真實世界的理解；另一方面是針對更多、更復雜的應用場景進行優化與設計。這是我們從汽車芯片到機器人芯片領域需要開展的一系列開發工作。

 

高通與面壁在手機和車等方面已經有很多深度合作。我們也非常期待未來聯合面壁及在座的各位合作伙伴，共同推進智能手機和多種智能終端在端側的應用和發展。謝謝大家。