<mark id="oztn4"></mark>
0
| 本文作者： 趙之齊 | 2026-01-20 09:52 |
作者 | 趙之齊
編輯 | 包永剛
在預(yù)訓(xùn)練賽道憑借硬件性能與生態(tài)優(yōu)勢(shì)稱霸的英偉達(dá)，進(jìn)入AI推理時(shí)代后，面臨新的挑戰(zhàn)。
在CES 2026上，英偉達(dá)創(chuàng)始人兼CEO黃仁勛強(qiáng)調(diào)了“物理AI”是AI的下一波浪潮。他將推理性AI置于核心位置，發(fā)布了具備自主思考能力的自動(dòng)駕駛AI Alpamayo，提出了與西門子聯(lián)手打造工業(yè)AI的未來(lái)藍(lán)圖，并且，也披露了下一代AI計(jì)算平臺(tái)Vera Rubin的細(xì)節(jié)。
顯然，黃仁勛不愿讓Rubin停留在“概念革命”的想象層。他花了大量篇幅闡述AI推理帶來(lái)的挑戰(zhàn)：模型規(guī)模每年增長(zhǎng)十倍，推理從單次生成走向多步思考，所需算力呈指數(shù)級(jí)膨脹，更長(zhǎng)的上下文也導(dǎo)致存儲(chǔ)與帶寬壓力飆升。
對(duì)此，英偉達(dá)給出的解決方案是，集成Vera CPU、Rubin GPU、NVLink 6交換機(jī)、ConnectX-9 SuperNIC、BlueField-4 DPU和Spectrum-X以太網(wǎng)交換機(jī)的組合平臺(tái)。
在部分業(yè)內(nèi)人士眼中，這是一場(chǎng)“營(yíng)銷意味更重”的發(fā)布：面對(duì)TPU、超節(jié)點(diǎn)等在推理領(lǐng)域相繼崛起，以及單芯片制程逼近物理極限的現(xiàn)實(shí)，英偉達(dá)推出六芯協(xié)同組合Rubin平臺(tái)，是其保持在推理市場(chǎng)領(lǐng)先地位的關(guān)鍵一步。
但這背后也隱藏著現(xiàn)實(shí)問(wèn)題：
Rubin的推理性能突破，建立在NVFP4自適應(yīng)調(diào)整精度前提下，“但提高FP4精度的推理，難免會(huì)擠壓FP16、FP32等更高精度的計(jì)算資源，且精度下降后，對(duì)于文生視頻等對(duì)精度敏感的場(chǎng)景而言，推理質(zhì)量也會(huì)肉眼可見地變差”。
而對(duì)于黃仁勛提出Rubin平臺(tái)用45℃溫水冷卻、有望為全球數(shù)據(jù)中心總電力消耗節(jié)省約6%的論斷，AI系統(tǒng)架構(gòu)師徐先生解讀：“這種方式的出液與進(jìn)液溫差很小，核心元器件的實(shí)際工作溫度可能維持在八九十?dāng)z氏度，機(jī)柜的故障率很難實(shí)質(zhì)下降。”
面對(duì)這一系列嚴(yán)苛的前置條件，Rubin能否切入推理市場(chǎng)并實(shí)現(xiàn)大規(guī)模落地，尚不明朗。（更多關(guān)于Rubin落地的細(xì)節(jié)判斷，歡迎添加作者微信 Ericazhao23 交流。）
不過(guò)，黃仁勛形容這套六芯組合系統(tǒng)的出現(xiàn)“恰逢其時(shí)”——它告別了單一芯片的能力競(jìng)賽，邁向算力基礎(chǔ)設(shè)施的全棧升級(jí)，這與他在GTC 2025上強(qiáng)調(diào)的打造“AI工廠”概念，一脈相承。
對(duì)于此次戰(zhàn)略轉(zhuǎn)向，多位業(yè)內(nèi)人士給出了相似判斷：“Rubin的發(fā)布對(duì)于國(guó)產(chǎn)芯片來(lái)說(shuō)短期會(huì)利空，但長(zhǎng)期會(huì)利好。從英偉達(dá)這個(gè)動(dòng)作可以看出，單芯片性能紅利已經(jīng)觸頂，多芯片協(xié)同與系統(tǒng)設(shè)計(jì)能力會(huì)成為新的破局關(guān)鍵。”
這種系統(tǒng)性的能力，也是許多國(guó)產(chǎn)芯片公司已在探索的技術(shù)路徑。
Rubin的發(fā)布，是英偉達(dá)在推理時(shí)代進(jìn)一步加固自身的生態(tài)護(hù)城河。然而，行業(yè)也已形成共識(shí)：“訓(xùn)練業(yè)務(wù)的價(jià)值核心是效率，但推理業(yè)務(wù)的核心是成本”。在新的價(jià)值邏輯下，Rubin要實(shí)現(xiàn)它的藍(lán)圖，需要跨過(guò)哪些關(guān)卡？在競(jìng)爭(zhēng)日趨激烈的推理賽道中，英偉達(dá)還能延續(xù)其在預(yù)訓(xùn)練領(lǐng)域的霸主地位嗎？
在CES現(xiàn)場(chǎng)聆聽分享的胡晨輝，已有十多年芯片從業(yè)經(jīng)驗(yàn)。已經(jīng)耳聞Rubin存在的他，這次比起驚喜，更多是平靜地感慨：“它終于來(lái)了”。
在他看來(lái)，黃仁勛的整場(chǎng)演講，都在傳遞一種“強(qiáng)者恒強(qiáng)”的氣質(zhì)。
介紹完架構(gòu)細(xì)節(jié)后，黃仁勛強(qiáng)調(diào)了Vera Rubin在商業(yè)上的亮眼表現(xiàn)：
訓(xùn)練一個(gè)十萬(wàn)億參數(shù)規(guī)模的大模型時(shí)，其所需的集群規(guī)模僅為Blackwell系統(tǒng)的四分之一；在同等功耗和空間條件下，一座Vera Rubin數(shù)據(jù)中心的AI計(jì)算吞吐量，預(yù)計(jì)可達(dá)到基于Hopper架構(gòu)數(shù)據(jù)中心的約100倍。
不僅如此，未來(lái)大規(guī)模AI服務(wù)的token生成成本，預(yù)計(jì)能降到當(dāng)前水平的十分之一左右。
這樣的性能與成本優(yōu)勢(shì)，切中了推理時(shí)代的核心需求——過(guò)去數(shù)據(jù)中心“更大模型+更強(qiáng)算力”的發(fā)展路徑，如今已難以被復(fù)制，各類交互、駕駛、控制等場(chǎng)景對(duì)時(shí)延高度敏感，且更多落地在端邊側(cè)，對(duì)成本有著苛刻追求。面對(duì)群雄逐鹿的格局，英偉達(dá)也開始以“性價(jià)比”為抓手，堅(jiān)守推理市場(chǎng)的份額。
黃仁勛還指出，此次Rubin的發(fā)布，也打破了英偉達(dá)過(guò)往“每一代新平臺(tái)不應(yīng)有超過(guò)一兩個(gè)芯片發(fā)生變動(dòng)”的原則，可以說(shuō)是其從“AI芯片廠商”，向打造“AI工廠”轉(zhuǎn)型的重要一步。
對(duì)于這一策略的轉(zhuǎn)變，煒燁智算副總裁孟健雄認(rèn)為，短期內(nèi)對(duì)國(guó)產(chǎn)芯片可能利空，但最終一定是具備制造業(yè)優(yōu)勢(shì)的中國(guó)更占贏面——只是這個(gè)周期可能非常漫長(zhǎng)。
徐先生也直言，這次英偉達(dá)的動(dòng)作，釋放出一個(gè)關(guān)鍵信號(hào)：如今他們講的不再是單芯片的故事，而是多芯片系統(tǒng)的協(xié)同價(jià)值，這意味著其芯片設(shè)計(jì)、代工封裝等環(huán)節(jié)已經(jīng)接近物理極限，對(duì)國(guó)產(chǎn)芯片來(lái)說(shuō)，反而是一種利好。
芯片領(lǐng)域資深投資人IO資本創(chuàng)始合伙人趙占祥，也持相似立場(chǎng)。他指出，通過(guò)全局設(shè)計(jì)來(lái)提升綜合算力、推出整機(jī)乃至集群級(jí)的解決方案，是Google TPU很早就開始走的路線，而這條技術(shù)路徑，國(guó)內(nèi)已有不少芯片創(chuàng)業(yè)公司在積極布局。（各類芯片架構(gòu)的進(jìn)一步探討，歡迎添加作者微信 Ericazhao23 交流。）
此外，這一趨勢(shì)對(duì)國(guó)內(nèi)存儲(chǔ)廠商也十分有利。
他進(jìn)一步分析說(shuō)：大模型推理對(duì)KVCache的調(diào)用頻率更高，當(dāng)前的性能瓶頸是GPU直連的HBM容量有限，而存儲(chǔ)服務(wù)器又與計(jì)算單元的物理距離過(guò)遠(yuǎn)。由此來(lái)看，未來(lái)CXL存儲(chǔ)、LPDDR等新型高速存儲(chǔ)技術(shù)，都有望被部署到GPU周邊，通過(guò)縮短數(shù)據(jù)傳輸鏈路來(lái)提升推理性能，進(jìn)而帶動(dòng)相關(guān)技術(shù)的商業(yè)化落地與規(guī)模化應(yīng)用。
毋庸置疑的是，英偉達(dá)發(fā)布的Rubin平臺(tái)，在硬件性能和性價(jià)比上的進(jìn)一步突破，也加強(qiáng)了其生態(tài)護(hù)城河。
但趙占祥也指出一個(gè)核心矛盾：英偉達(dá)試圖通過(guò)強(qiáng)化軟硬耦合，綁定客戶采購(gòu)其全套產(chǎn)品；但客戶其實(shí)更傾向于選擇軟硬解耦的方案，不愿被英偉達(dá)的生態(tài)完全綁定，因此，采購(gòu)決策負(fù)擔(dān)與顧慮也可能隨之加重。
不過(guò)，在生態(tài)綁定的爭(zhēng)議之外，Rubin所標(biāo)榜的五倍性能突破，要真正落地應(yīng)用，還需跨過(guò)多重技術(shù)與實(shí)踐關(guān)卡。
在CES 2026上，黃仁勛把NVFP4 Tensor Core稱作是一項(xiàng)“偉大的發(fā)明”。
這是一個(gè)完整的處理器單元，能自適應(yīng)地調(diào)整精度和結(jié)構(gòu)，從而在允許精度損失的場(chǎng)景下實(shí)現(xiàn)更高吞吐量，并在需要時(shí)恢復(fù)到可能的精度。這種動(dòng)態(tài)調(diào)整能力，完全在處理器內(nèi)部自主完成。Rubin GPU的AI推理浮點(diǎn)性能相較上一代Blackwell提升五倍，核心驅(qū)動(dòng)力正是NVFP4 Tensor Core對(duì)精度與吞吐率的自適應(yīng)調(diào)度能力。
然而，這種技術(shù)模式能否獲得市場(chǎng)青睞？
“晶體管就那么大，提高FP4精度的推理，難免會(huì)擠壓FP16、FP32等更高精度的計(jì)算資源”，AI系統(tǒng)架構(gòu)師徐先生說(shuō)道。
顯然，高精度是預(yù)訓(xùn)練的剛需，一定程度上犧牲了精度的Rubin，瞄準(zhǔn)的最大場(chǎng)景或是未來(lái)行業(yè)模型的后訓(xùn)練和推理應(yīng)用、訓(xùn)推一體化領(lǐng)域。
但這就陷入一個(gè)尷尬境地：即便英偉達(dá)仍維持著技術(shù)領(lǐng)先的地位，國(guó)內(nèi)廠商卻已開始憑借超節(jié)點(diǎn)等形態(tài)進(jìn)行追趕，“這條賽道跟國(guó)產(chǎn)芯片廠商布局高度重疊，英偉達(dá)當(dāng)下力推的技術(shù)方向，國(guó)產(chǎn)廠商也在做”，徐先生補(bǔ)充道。
同時(shí)，不可忽略的是，在推理領(lǐng)域，精度下調(diào)雖能減少顯存占用、提升運(yùn)算速度，但也會(huì)對(duì)模型的最終準(zhǔn)確率產(chǎn)生影響。
有國(guó)內(nèi)大模型廠商的從業(yè)人士告訴雷峰網(wǎng)，公司內(nèi)部曾開展多輪不同精度的對(duì)比測(cè)試，結(jié)果顯示，尤其是在文生視頻領(lǐng)域，當(dāng)精度從FP16降到FP8，視頻的生成效果已經(jīng)肉眼可見地變差——這還建立在當(dāng)前多數(shù)文生視頻產(chǎn)品時(shí)長(zhǎng)僅為五秒的前提下。
不過(guò)，業(yè)內(nèi)也有不同看法。趙占祥認(rèn)為，在推理需求高速增長(zhǎng)的情況下，精度壓縮是行業(yè)必經(jīng)之路，由于NVFP4張量核心能實(shí)時(shí)分析Transformer模型各層的計(jì)算特性、動(dòng)態(tài)調(diào)整數(shù)據(jù)精度與計(jì)算路徑，本質(zhì)上還是推理的自適應(yīng)數(shù)據(jù)壓縮技術(shù)，會(huì)在精度損失和推理性能之間做平衡。
即便如此，市場(chǎng)對(duì)于向FP4精度跨越仍存疑慮：當(dāng)前業(yè)內(nèi)主流的推理精度普遍停留在FP8級(jí)別，當(dāng)精度進(jìn)一步壓縮，雖然英偉達(dá)宣稱可通過(guò)特定技術(shù)實(shí)現(xiàn)微乎其微的精度損失，但在文生視頻等對(duì)精度敏感的場(chǎng)景中，是否會(huì)引發(fā)更顯著的效果衰減？
種種未知下，Rubin技術(shù)落地的真實(shí)效果，行業(yè)還在等待驗(yàn)證。
“Vera Rubin的功耗是Grace Blackwell的兩倍，但我們?nèi)匀荒軐era Rubin塞進(jìn)這個(gè)框架里，這本身就是一個(gè)奇跡”，黃仁勛在大會(huì)上說(shuō)道。但這份樂(lè)觀，能否真正實(shí)現(xiàn)？
“散熱是未來(lái)超節(jié)點(diǎn)和萬(wàn)卡集群最重要的競(jìng)爭(zhēng)點(diǎn)”，AI系統(tǒng)架構(gòu)師徐先生說(shuō)道。
Rubin的液冷計(jì)算托盤，摒棄了傳統(tǒng)的電纜和軟管設(shè)計(jì)。在徐先生看來(lái)，這樣設(shè)計(jì)的優(yōu)勢(shì)在于無(wú)線纜架構(gòu)，能對(duì)GPU、CPU、網(wǎng)卡及存儲(chǔ)等核心模塊都進(jìn)行制冷處理。
不過(guò)，他指出，這種方案下，如果進(jìn)液溫度為45度，出液溫度可能就在50度左右，如此小的溫差，預(yù)估核心元器件的實(shí)際工作溫度仍會(huì)維持在八九十?dāng)z氏度。這就意味著，機(jī)柜的故障率很難實(shí)質(zhì)下降，整個(gè)集群的模型浮點(diǎn)運(yùn)算利用率（MFU）大概率可能停留在30%-50%的區(qū)間，硬件算力依然存在嚴(yán)重浪費(fèi)。
盡管已有業(yè)內(nèi)消息稱，面對(duì)Rubin與下一代Feynman平臺(tái)的功耗激增，現(xiàn)有散熱方案已經(jīng)難以應(yīng)對(duì)，英偉達(dá)正要求供應(yīng)商研發(fā)“微通道水冷板”技術(shù)，但在徐先生看來(lái)，這種方案的天花板較低，最終的散熱體系還是要融入浸沒(méi)式液冷技術(shù)，才能突破瓶頸。（服務(wù)器散熱技術(shù)迭代，液冷如何破局？歡迎添加作者微信 Ericazhao23 交流。）
除了散熱，電力供應(yīng)也是不容忽視的關(guān)鍵環(huán)節(jié)。
“一個(gè)很有意思的現(xiàn)象，以前你走進(jìn)大廠的機(jī)房，一排機(jī)柜看過(guò)去都是滿滿當(dāng)當(dāng)裝著服務(wù)器，但現(xiàn)在，一個(gè)機(jī)柜里可能只有一兩臺(tái)，看起來(lái)空空蕩蕩的”，某大廠算力行業(yè)人士李明說(shuō)道。
背后原因，是現(xiàn)有電力承載力已難以匹配設(shè)備的能耗需求。
黃仁勛也抓住了這一痛點(diǎn)。他介紹，Vera Rubin平臺(tái)堅(jiān)持使用45攝氏度溫水冷卻，無(wú)需能耗巨大的冷水機(jī)組，這一設(shè)計(jì)預(yù)計(jì)能為全球數(shù)據(jù)中心節(jié)省約6%的總電力消耗。
在李明看來(lái)，如果這個(gè)故事真能講通，那對(duì)于當(dāng)下電力資源緊缺的全球數(shù)據(jù)中心市場(chǎng)來(lái)說(shuō)，無(wú)疑是一劑強(qiáng)心針。
不過(guò)，一個(gè)無(wú)法回避的現(xiàn)實(shí)是，Rubin的規(guī)模化落地，需要一套更全面的非標(biāo)配套體系作為支撐。
胡晨輝指出，未來(lái)部署Rubin產(chǎn)品的總擁有成本（TCO）肯定會(huì)降低，畢竟能源利用效率顯著提升，但同時(shí)，部署Rubin的IDC可能需要專用變電站來(lái)支撐。徐先生也認(rèn)為，Rubin架構(gòu)單機(jī)柜的功耗門檻極高，需要大量非標(biāo)電壓、電線等配套設(shè)施，實(shí)則給供電系統(tǒng)帶來(lái)了不小的壓力。
與此同時(shí)，很多數(shù)據(jù)中心原來(lái)的硬件配置乃至運(yùn)維團(tuán)隊(duì)，可能都要因此“換一波”。不過(guò)，煒燁智算副總裁孟健雄也推測(cè)，在故障率相當(dāng)?shù)那疤嵯拢?strong>設(shè)備集成度越高、系統(tǒng)內(nèi)故障源點(diǎn)越少，相應(yīng)的維護(hù)成本也有望降低。
在群雄逐鹿下，英偉達(dá)的Rubin“豪賭”能否落地，取決于其能否跨過(guò)能源與精度的雙重門檻；而國(guó)產(chǎn)芯片的未來(lái)，則在于能否抓住這次規(guī)則重構(gòu)的機(jī)遇，例如通過(guò)增加芯片部署數(shù)量、制定更優(yōu)的散熱方案，將系統(tǒng)設(shè)計(jì)的優(yōu)勢(shì)轉(zhuǎn)化為真正的市場(chǎng)競(jìng)爭(zhēng)力。
當(dāng)六芯組合的時(shí)代真正來(lái)臨，胡晨輝最強(qiáng)的體會(huì)是：SOC不再是傳統(tǒng)意義上的系統(tǒng)級(jí)芯片，系統(tǒng)也不再局限于硬件的簡(jiǎn)單集成，行業(yè)里的參與者，都要樹立做“場(chǎng)景底座”的商業(yè)思維。
這場(chǎng)圍繞AI基礎(chǔ)設(shè)施的博弈，正火熱展開。
作者長(zhǎng)期關(guān)注半導(dǎo)體、算力上下游等方向，歡迎添加作者微信 Ericazhao23 交流。
注，文中李明為化名。
雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))雷峰網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
