<mark id="oztn4"></mark>
0
雷峰網(公眾號：雷峰網)消息，北京時間3月19日凌晨，英偉達公司創始人兼CEO黃仁勛在GTC會議上發表主題演講。
DeepSeek爆火后，英偉達被推上風口浪尖，對于AI發展是否會帶來更大數量級的算力需求，市場生出隱憂。演講開場，黃仁勛便做出回答：“全世界都錯了，Scaling law有更強的韌性，現在的計算量是去年同期的100倍。”
推理讓AI具備“思維鏈”，模型響應需求時會對問題進行拆解，而不是直接給出答案，對每個步驟進行推理勢必讓產生的Token數量增加。模型變得更加復雜，為了保證原有的推理速度以及響應能力，便對算力提出了更高的要求。
Token是AI的基本單元，推理模型本質上是一座生產Token的工廠，提高Token的生產速度就是提高工廠的生產效率，效率越高，利益越大，算力要做的就是探索生產效率的邊界。
而具備自主推理能力的Agentic AI發展趨勢之下，勢必帶動物理AI的發展。GTC會議上，英偉達帶來Blackwell Ultra、推理系統Dynamo、Blackwell NVLink 72、下一代AI芯片Rubin等全新發布，用性能回應需求。
AI芯片將「年更」，Rubin性能達Hopper「900倍」
AI的發展讓數據中心的資本支出不斷攀升，數據顯示，2028年數據中心資本支出將達到1萬億美元，黃仁勛稱：“這其中的大部分增長可能還會加速。”資本支出增加、盈利能力提升，帶來的是英偉達在數據中心領域的營收增加。
為了讓計算機成為更強的“Token生成器”，英偉達發布新一代“最強AI芯片” Blackwell Ultra。
單從硬件上看，Blackwell Ultra相較于GB200帶來的最大升級是采用12層堆疊的HBM3e內存，成為全球首個顯存達到288GB的GPU。對此，有消息稱，SK海力士將獨家供應Blackwell Ultra。
高效響應推理模型，對算力、內存及帶寬提出更高的要求。英偉達推出Blackwell Ultra GB300 NVL72機架級解決方案，集成72個Blackwell Ultra GPU和36個Grace CPU，滿足AI推理工作負載對算力和內存的要求。
Blackwell Ultra GB300 NVL72將于2025年下半年發布，其性能為GB200 NVL72的1.5倍、40TB快速閃存為前代1.5倍，14.4TB/s帶寬為前代2倍。
要更好釋放硬件的算力，軟硬件協同變得更加重要，為此，英偉達推出分布式推理服務庫NVIDIA Dynamo，通過協調并加速數千個GPU之間的推理通信，為部署推理AI模型的AI工廠最大化其token收益。
在GPU數量相同的情況下，Dynamo可以實現Hopper平臺上運行Llama模型的AI工廠性能和收益翻倍，在由GB200 NVL72機架組成的集群上運行DeepSeek-R1模型時，Dynamo的智能推理優化能將每個GPU生成的Token數量提高30倍以上，并讓Blackwell的性能相較于Hopper提升了25倍。
黃仁勛表示，Dynamo將完全開源并支持PyTorch、SGLang、NVIDIA TensorRT-LLM和vLLM，使企業、初創公司和研究人員能夠開發和優化在分離推理時部署AI模型的方法。
在推理模型中，Dynamo則讓Blackwell的性能達到Hopper的40倍，黃仁勛笑稱：“當Blackwell批量發貨時，就不要再拿Hopper去送人了。”
以功率為100兆瓦的AI工廠為例，其能供能45000個H100芯片，共計1400個H100 NVL8機架，生產力為3億個Token。同等功率下，其能供能85000個GB200芯片，共計600個機架，生產力為120億個Token。相較于H100 NVL8，GB200 NVL72不僅帶來更強的算力，而且在功耗和空間占用上更有優勢。
“買得越多，省得越多。”黃仁勛又說出了他的帶貨名言，這次還補充道，“買得越多，賺得越多。”
旗艦版AI芯片作為GTC的“最大看點”，僅僅宣布Blackwell Ultra很難滿足外界預期。對此，黃仁勛公布了英偉達旗艦芯片的全新路線圖，芯片架構的更新周期正在加速，由每兩年推出新的產品線調整為“每年一更”的產品節奏。
每代產品更新均基于全棧解決方案、依托統一架構，并秉持“CUDA無處不在”的理念推進。按照路線圖規劃，黃仁勛提前預告了下一代AI芯片“Rubin”，遵循以往采用科學家名字命名架構的慣例，本次新架構以美國天文學家“Vera Rubin”的姓氏命名，以紀念其證實了暗物質存在的卓越貢獻。
Vera Rubin NVL144預計將在2026年下半年發布，在進行FP4精度的推理任務時，性能達到3.6ExaFLOPS，進行FP8精度的訓練任務時，性能為1.2ExaFLOPS，與GB300 NVL72相比，性能提升了3.3倍。
Vera Rubin NVL144配備HBM4，帶寬達到13TB/s，擁有達到前代1.6倍的75TB快速閃存。支持NVLink6和CX9，帶寬均達到前代2倍，實現數據傳輸效率的提升。
黃仁勛表示，Blackwell的性能相較于Hopper提升了68倍，而Rubin的性能將達到Hopper的900倍。
與Blackwell一樣，除了標準版本，英偉達還計劃于2027年下半年推出Rubin Ultra NVL576，在進行FP4精度的推理任務時，其性能達到15ExaFLOPS，進行FP8精度的訓練任務時，性能為5ExaFLOPS，與GB300 NVL72相比，性能提升了14倍。
Vera Rubin NVL144將配備HBM4e，帶寬達到4.6PB/s，擁有達到前代8倍的365TB快速內存。支持NVLink7，帶寬1.5PB/s，為前代12倍。支持CX9，帶寬115.2TB/s，為前代8倍。
CPU部分，Vera芯片搭載88個定制Arm核心，支持176線程，具備1.8TB/s的NVLink - C2C（芯片到芯片）帶寬，在多芯片互聯等場景下能高效傳輸數據。GPU方面，Rubin Ultra集成4個Reticle-Sized GPU，每顆GPU擁有100PF的FP4算力，搭配1TB HBM4e顯存，在性能和內存容量上達到新高。
在訓練、推理及應用部署等關鍵環節，AI芯片平臺都需要網絡為其提供高速穩定的數據傳輸。英偉達推出Spectrum-X和Quantum-X硅光網絡交換機，為全球最先進的AI云及AI工廠提供支持。
Spectrum-X網絡交換機有多種配置，最高配置512端口800Gb/s或2048端口200Gb/s，總吞吐量達400Tb/s。與之配套的Quantum - X網絡交換機基于200Gb/s SerDes技術，提供144端口800Gb/s的InfiniBand連接，與上一代相比，速度提升2倍、可擴展性提升5倍。
不止AI工廠，DGX Spark和DGX Station打造「AI桌面」
為了支持AI開發者、研究人員、數據科學家和學生等群體，英偉達推出“全球最小AI超級計算機”DGX Spark，其支持在臺式電腦上對大模型進行原型設計、微調和推理，用戶可以在本地、云或數據中心基礎設施中運行這些模型。
DGX Spark是基于GB10 Grace Blackwell打造的個人AI超級計算機系列產品，根據臺式電腦外形規格進行了針對性優化，其支持第五代Tensor Core和FP4，每秒計算次數達到1000萬億次。GB10采用NVIDIA NVLink-C2C互連技術，帶寬是第五代PCIe的五倍，并且能夠訪問GPU和CPU之間的數據，為內存密集型AI開發者工作負載優化性能。
英偉達的全棧AI平臺支持DGX Spark用戶將其模型從臺式機遷移到DGX Cloud、其他加速云及數據中心基礎設施中，并且無需修改代碼，簡化了對其工作流進行原型設計、微調和迭代的要求。
黃仁勛表示：“AI改變了每一層計算堆棧。我們有理由相信將出現一類專為AI原生開發者而設計并用于運行AI原生應用的新型計算機。借助全新的DGX個人AI計算機，AI能夠從云服務擴展到臺式電腦和邊緣應用。”
DGX Station是Ultra平臺的高性能桌面超級計算機，定位為面向企業和科研機構的高性能AI計算站，能夠幫助企業構建私有AI推理系統，相較于DGX Spark，適用于更大規模的AI開發領域。
DGX Station是第一款采用英偉達GB300 Grace Blackwell Ultra桌面超級芯片構建的臺式機系統，擁有784GB統一系統內存，支持800Gb/s網絡連接的ConnectX-8 SuperNIC，AI性能達到20PFLOPS。
從數據、模型到算力，英偉達「全面驅動」人形機器人
“機器人時代已經到來，其能夠與物理世界交互并執行數字信息無法完成的任務。”黃仁勛說，“世界正面臨嚴重的勞動力短缺，到2030年，全世界將短缺5000萬名工人，我們可能不得不每年支付5萬美元薪水給機器人。”
物理AI正在改變規模50萬億美元的產業。英偉達推出全新Cosmos世界基礎模型，引入開放式、可完全定制的物理AI開發推理模型，包含各種模型尺寸并適用于多種輸入數據格式，幫助生成大型數據集，能將圖像從3D擴展到真實場景，縮小仿真與現實之間的差距。
1X、Agility Robotics、Figure AI、Foretellix、Skild AI和Uber是首批采用Cosmos的企業，可更快、更大規模地為物理AI生成更豐富的訓練數據。
“正如大語言模型改變了生成式和代理式 AI，Cosmos世界基礎模型是物理AI的一項重大突破。”黃仁勛表示， “Cosmos為物理AI帶來了一個開放式、可完全定制的推理模型，為機器人和物理工業領域的突破性發展帶來了機遇。”
滿足數據需求之外，英偉達推出人形機器人基礎模型Isaac GR00T N1，采用“快速反應”的系統1以及“深度推理”的系統2雙架構，黃仁勛表示，Isaac GR00T N1將開源，機器人開發者可以用真實或合成數據進行后訓練。
Isaac GR00T N1基礎模型采用廣義類人推理和技能進行了預訓練，開發者可以通過進行后訓練，使其滿足特定的需求，例如完成不同工廠生產線的特定任務以及自主完成不同的家務。
英偉達、谷歌DeepMind及迪士尼合作開發了開源物理引擎Newton，采用Isaac GR00T N1作為底座驅動了迪士尼BDX機器人。
人形機器人是AI時代下一個增長點，從數據生成、基礎大模型到算力，英偉達為開發者提供了全面支持。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
