<mark id="oztn4"></mark>
0
作者：郭思、賴文昕
編輯：陳彩嫻
北京時間3月19日凌晨4點，英偉達公司創始人兼CEO黃仁勛踏上了美國加州圣何塞SAP中心的舞臺，開始講述 2024 GTC 主題演講《見證AI的變革時刻》。
作為“AI界春晚”中最重要的一項日程，黃仁勛在演講中揭開了號稱“史上最強AI芯片 GB200”的神秘面紗，并推出了NVIDIA Blackwell、NIM 微服務、Omniverse Cloud API 等一系列涵蓋硬件、軟件開發、云計算的更新。
此外，黃仁勛還官宣了英偉達在機器人和具身智能技術的眾多進展，包括了與比亞迪的合作以及運用在人形機器人的基礎模型和新型計算機。
英偉達指出，新 Blackwell 架構 GPU 組成的 GB200，將提供 4 倍于 Hopper 的訓練性能，大模型參數達到了萬億級別。這意味著同樣的計算能力，科技廠商所需的芯片數量會減少。
在目前大模型火爆，商業落地卻前景尚不明朗的情況下，GTC對于整個產業鏈都來了不同凡響的技術以及商業啟發。
史上最強AI芯片“GB200”
黃仁勛稱，隨著Transformer模型被發明，大型語言模型以驚人的速度擴展，每六個月就會成倍進步，為了訓練這些越來越大的模型，自然也需要更強的算力。
什么是“更強的算力”呢？
黃仁勛從口袋里掏出一塊 Blackwell 芯片，將它與 Hopper 芯片并排舉起，“我們需要更大的 GPU”。
他宣布英偉達將推出GB200系列芯片，將搭載專為處理萬億參數級生成式人工智能而設計的NVIDIA Blackwell架構。
新架構繼承了兩年前推出的 NVIDIA Hopper 架構，以 David Harold Blackwell 命名，這是加州大學伯克利分校專門研究博弈論和統計學的數學家，也是第一位入選美國國家科學院的黑人學者。
同自家產品相比，芯片的性能有了顯著的提升。GB200芯片由兩個Die封裝組合而成，擁有高達2080億個晶體管，采用了臺積電4NP工藝制程技術，使其能夠支持龐大的AI模型，參數量可達10萬億。相比之下，H100/H200系列芯片則只配備了800億個晶體管。
Blackwell 能大幅提高大模型的訓練、推理效率。 在 FP8 訓練方面，Blackwell 的每芯片性能是其前身的 2.5 倍，在 FP4 推理方面的性能是其前身的 5 倍。它具有第五代 NVLink 互連，速度是 Hopper 的兩倍，并且可擴展至 576 個 GPU。
黃仁勛以訓練1.8萬億參數GPT模型的資源消耗為例，直觀地展現了 Backwell 作為 “一個巨型 GPU” 的強大之處：使用Hopper GPU，需8000張，耗能15兆瓦，耗時90天；而Blackwell GPU僅需2000張，電力消耗減少75%，同樣90天內完成。
為了擴大 Blackwell 的規模，英偉達還構建了一款名為 NVLink Switch 的新芯片。每個 Blackwell 芯片能以每秒 1.8 TB 的速度與四個 NVLink 互連，并通過減少網絡內流量來消除流量。
此外，GB200芯片的設計將兩個B200 Blackwell GPU與一款基于Arm架構的Grace CPU相結合，旨在提供更加強大的計算能力和更高的效率。這種配對設計不僅增強了處理能力，也為AI大模型的運行提供了更為優化的平臺。
正如黃仁勛所說的一樣，“整個行業都在為 Blackwell 做準備”，目前 Blackwell 正在被全球各大云服務提供商、AI公司和電信公司等采用。
在GTC大會上，微軟和英偉達深化了雙方長期以來的合作關系，整合了英偉達生成式人工智能和Omniverse技術，這些技術已廣泛應用至微軟Azure、Azure AI服務、微軟Fabric以及微軟365等平臺。
微軟CEO薩提亞·納德拉表示：“與英偉達攜手合作，我們正在將人工智能的潛力變為現實，助力全球各地的人們和組織實現新的效益和生產力提升。
從將GB200 Grace Blackwell處理器引入Azure，到DGX Cloud與微軟Fabric之間的新集成，我們今天宣布的一系列舉措將確保客戶能夠在Copilot堆棧的每一層面上，從硅芯片到軟件，都能擁有最全面的平臺和工具，以構建自己的突破性AI能力。”
除了“GB200”這位絕對主角外，黃仁勛也在GTC大會上官宣了英偉達在軟件開發的革新“NVIDIA NIM”。他表示，未來構建軟件時不太可能從頭開始編寫或編寫一大堆 Python 代碼之類的東西，“很可能你會組建一支AI團隊。”
NVIDIA NIM 由英偉達的加速計算庫和生成式 AI 模型構建，支持行業標準 API，因此易于連接，可在英偉達龐大的 CUDA 安裝基礎上工作，針對新 GPU 進行重新優化，并不斷掃描安全漏洞和漏洞，目前 Cohesity、NetApp和 Snowflake 等科技公司已在使用。
在GTC大會上，黃仁勛還宣布了與眾多公司的合作。
在半導體制造行業，英偉達已與臺積電和Synopsys合作，將其計算光刻平臺CuLitho應用于先進芯片的生產過程。
在電信行業，推出NVIDIA 6G研究云，這是由生成式人工智能和Omniverse技術提供動力的平臺，致力于推進下一代通信技術的進步。
在在交通運輸行業，比亞迪計劃利用英偉達的集中式車載計算平臺DRIVE Thor來開發其下一代電動車型。
此外，黃仁勛還宣布了一系列旨在推動英偉達機器人技術研發的項目，如機械臂感知、路徑規劃和運動學控制庫 Isaac Manipulator，人形機器人的模型平臺GR00T，和新型計算機 Jetson Thor。
最后，搭載了英偉達為機器人設計的首款AI芯片Jetson的迪士尼機器人orange和green也登上了舞臺，陪伴黃仁勛為演講畫上了句號。
AI芯片新皇登場的后續思考
We need Bigger GPUs… A very very big GPU!
非常非常大的GPU，是老黃對于整場GTC大會最切實的表達。畢竟，新 Blackwell 架構 GPU 組成的 GB200，將提供 4 倍于 Hopper 的訓練性能，大模型參數達到了萬億級別。
另一方面，為了更好地服務于日益壯大的大模型應用領域，英偉達推出了極具針對性的服務——模型定制服務Nvidia Inference Manager（簡稱NIM），這意味著只要有英偉達硬件的存在，用戶就能便捷地進行大模型的調試與應用。
看得出來，老黃對于大力出奇跡這一理論也持認可態度。
而大眾對于這一消息的第一反應則大部分是震驚，甚至用了感到炸裂來形容。通過英偉達的種種做法，我們也不禁感慨，英偉達在AI行業的地位已有目共睹。
甚至有業內人士用了AI時代的思科以及AI時代的Wintel來形容。（思科在網絡設備和協議標準化方面曾起到了至關重要的作用，而英偉達通過其GPU和AI平臺推動了AI計算基礎設施的發展，為數據中心、云端和邊緣計算提供了關鍵的硬件支持。）
在炸裂之后，我們可以看到，英偉達GB200的發布對于行業的技術突破和商業發展都帶來了深遠的影響。
在技術上，業界一致認為通過不斷挖掘和利用高性能計算的力量，來拓展人工智能技術的規模化疆界，是推動行業發展的重要手段。
國家超級計算深圳中心主任馮圣中在評價英偉達GB200的卓越表現時，則用“進步顯著，但仍有巨大潛力可挖”進行了精辟總結。這也意味著GB200乃至整個高性能計算與AI領域，未來都還還可能在技術上有更為突破性的表現出現。
不過除了對GTC所展現出來的對技術強烈認可和憧憬之外，更多行業人士關注的則是GB200發布對于商業和國內整體市場的影響。
在芯片領域，產能和定價是最為被大家關注的問題。一位資深投資者向筆者指出，GB200的發布是技術上的突破，但如果產能能放量的話，則會更加成為商業上的炸裂。
目前整體而言，大模型的成本還是太貴。拿大家熟知百度文心為例，業內消息指出文心大模型4.0的推理成本相比于之前的版本出現了大幅增長，最高據說增加了8-10倍，這意味著提供實時生成內容服務的成本驟增。這意味GB200的成本一旦打下來，國內芯片廠商的空間會被擠壓得更加厲害。
而在整個GTC大會上，我們發現，不同于以往的發布單一芯片，這次英偉達直接放出整個服務器。也引發了對于市場格局的思考。國內某大型元器件公司從業者告訴AI科技評論，英偉達的做法很明顯，自身在底層東西很強勢，就干脆直接不做單套，直接賣整機，反正最后都得壟斷。
下放到中國市場，大家的一致看法則是，按照以往美國的做法，大概率產品一經發行便會受到制裁。業內投資人告訴AI科技評論，新一波的制裁大概率會出現在四月份。
這意味著，在國內先進制程中短期內（5年）或都難以趕上國外的現狀之下，H800等被閹割系列的存量運營效率價值將顯著提升，水貨和渠道貨的價格可能會迎來回彈和普漲，這其實也將進一步加劇供應鏈緊張態勢。
在此背景下，大模型廠商如何合法合理地借鑒云服務提供商的經驗，尋求海外采購及儲備策略，成為一個具有實際意義的研究課題。
另一方面，穩扎穩打投資Infra公司、把生態+推理的量提升或許也更加具有借鑒意義。
正如搭建高樓大廈，追求最頂尖的建筑材料和技術固然重要，但這并不意味著所有建設項目都將僅僅依賴于最先進的頂層設計，其余基礎材料也同樣至關重要。這也就意味著即使在高端產品領域我們暫時未能趕超，但在AI在基礎建設層面孕育大量的市場需求和發展機遇。
而對于國內GPU廠商而言，套用某GPU從業者的話則是：英偉達牛逼慣了，大概率會被制裁，國內的GPU公司則更加要好做產品，從能賣掉的做起來。
雷峰網作者長期關注一大模型計算與框架、芯片領域動態，歡迎添加雷峰網(公眾號：雷峰網)作者微信lionceau2046、anna042023互通有無
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
