<mark id="oztn4"></mark>
0
| 本文作者： 包永剛 | 2024-03-12 10:00 |
作者｜包永剛
2024世界移動通信大會（MWC 2024），5G Advanced（5G-A）和生成式AI都是主角。
生成式AI能成為移動通信大會的主角，進化的速度和巨大的潛力都是關鍵。
去年MWC，高通展示了全球首個運行在Android手機上的Stable Diffusion終端側演示。僅一年時間，能在驍龍平臺運行的AI模型升級為多模態。
今年，高通展示了全球首個在安卓手機上運行超過70億參數的多模態語言模型，能夠識別和討論復雜的圖案、物體和場景。
高通還展示了全球首個在Windows PC上運行的大型多模態語言模型，可以接受文本和音頻的輸入，并基于音頻生成多輪對話。
端側AI有如此強大的能力，還需要5G嗎？
高通公司總裁兼CEO安蒙說，“混合AI是生成式AI的未來，終端側智能與云端協同工作，能夠提升個性化、隱私、可靠性和效率。連接對于助力生成式AI跨云、邊緣和終端實現規模化擴展和延伸至關重要，AI解決方案正在支持高通提供下一代連接，賦能生成式AI時代。”
MWC 2024，高通發布了集成5G Advanced功能的調制解調器及射頻系統驍龍X80，這也是高通集成專用5G AI處理器的第三代產品。
行業首個支持AI優化性能并在單個芯片中集成Wi-Fi 7、藍牙和超寬帶技術的解決方案高通FastConnect 7900也同時亮相。
極速進化的端側AI，接下來會與5G Advanced和Wi-Fi 7碰撞出怎樣的火花？高通與眾多中國生態合作伙伴和最新成果給出了一些答案。
看得懂又聽得懂，AI手機和AI PC首次運行多模態大模型
去年MWC，端側AI領域最有實力的公司高通展示了在安卓手機上運行10億參數AI大模型Stable Diffusion在終端側生成圖像。
2023年底，隨著第三代驍龍8移動平臺的發布，運行Stable Diffusion模型的速度從年初的不到15秒縮短至0.57秒，提升幅度和速度驚人。
MWC 2024，驍龍移動平臺運行的AI大模型的參數從10億陡增至超70億，模型也升級為更具挑戰的多模態語言模型（LMM），不僅能夠接受文本輸入，還可以接受圖像、音頻等其它輸入數據類型。
以高通AI研究展示的首個基于第三代驍龍8的安卓智能手機上運行大語言和視覺助理大模型（LLaVA）為例，拍一張食材照片，可以問AI助手這些食材是什么？能用這些食材做什么菜？每道菜的熱量是多少？AI助手都能基于視覺內容以非常及時的響應速度給出答案。
完全在終端運行的大模型不僅能保護隱私，還能實現個性化。高通還展示了首個安卓手機上運行LoRA模型，能根據不同個人或藝術偏好創建高質量自定義圖像。
LoRA能夠在不改變底層模型的前提下，通過使用很小的適配器（大小僅為模型的2%），就能個性化定制整個生成式AI模型的行為，提升效率、可擴展性，讓端側AI更懂用戶。
高通的AI PC同樣強大。搭載全新驍龍X Elite平臺的Windows PC，運行音頻推理多模態大模型，能理解不同聲音，還能夠基于輸入的音頻信息為用戶提供幫助。
比如，給搭載驍龍X Elite的AI PC輸入一段音樂，多模態大語言模型能夠理解用戶輸入的音樂類型和風格，為用戶提供音樂的歷史以及相似的音樂推薦，或通過對話的方式為用戶調節周圍的音樂，充分發揮端側AI的性能和能效優勢，還有隱私性、可靠性、個性化以及成本優勢。
如此強大的驍龍X Elite是業界AI PC的標桿。
使用分別搭載驍龍X Elite和X86芯片的兩臺筆記本電腦，同時運行集成Stable Diffusion插件的GIMP（一款廣受歡迎的圖像編輯器）生成AI圖像，驍龍X Elite只需7.25秒就能生成一張圖像，速度是X86競品（22.26秒）的3倍。
數倍的速度優勢，得益于驍龍X Elite 45TOPS強大的AI性能，大幅領先競品。
按照第三代驍龍8落地端側大模型應用只用了一個月時間的速度，相信基于驍龍8和驍龍X Elite多模態大模型的功能也很快會到來。
目前，基于第三代驍龍8的AI功能已經可以在多款國產手機上體驗。
搭載第三代驍龍8的小米14系列，新增的AI寫真功能，可以在圖庫里選擇20-30張圖片后進行AI形象學習，生成不同風格的圖片。
OPPO Find X7 Ultra在第三代驍龍8強大的AI性能支持下，用手指輕松圈一圈，就能消除照片里不想要路人，還能智能生成通話摘要。
基于第三代驍龍8的榮耀Magic6手機，運行70億參數大模型，實現了任意門一拖日程、智慧成片和一語查圖等功能。
同樣采用第三代驍龍8的魅族21，基于Flyme Ai大模型，支持知識問答、文案創作、文生圖、圖片風格轉換、AI搜圖、圖片擴展等功能。
手機上強大的AI助手能制定個性化的旅行計劃，但仍需要借助5G或Wi-Fi預定機票和酒店，這就是5G對于生成式AI的意義所在。
“高通深知，為實現生成式AI的規模化擴展，需要跨云端、終端和邊緣云應用混合AI。”高通技術公司產品市場高級總監Ignacio Contreras說，“混合AI是AI的未來，因此我們需要更加強大的連接能力，確保所有AI工作負載的有效分配。”
AI 5G調制解調器迎來第三款，Wi-Fi 7也AI
從2018年5G商用到2024年5G Advanced元年，高通一直參與標準的制定，也是業界少有每年迭代5G調制解調器及射頻系統的公司。
驍龍X80調制解調器及射頻系統是高通最新的5G調制解調器，也是繼驍龍X70、驍龍X75之后，高通第三款AI 5G調制解調器。
驍龍X80集成了專用AI張量加速器，對于提升數據傳輸速度，降低時延，擴大覆蓋范圍，提高服務質量（QoS）、定位精度、頻譜效率、能效和多天線管理能力發揮重要作用。
作為5G Advanced元年發布的產品，驍龍X80集成5G Advanced-ready架構，實現了多項全球首創的里程碑，包括首次在5G調制解調器中集成NB-NTN衛星通信、首次面向智能手機支持6Rx（射頻前端具備6路接收能力）、首個下行六載波聚合以及首次面向固定無線接入客戶端設備（CPE）支持由AI賦能的毫米波增程通信。
“新一代驍龍X80調制解調器及射頻系統的創新在于，更好地利用帶寬提升用戶的實際連接體驗。例如，在用戶距離基站較遠等頗具挑戰的情況下提高平均連接速率，而非專注于峰值速率（下行鏈路是10Gbps，上行鏈路是3.5Gbps）的提升。”Ignacio Contreras進一步表示，“我們希望在全球范圍內充分釋放5G和5G Advanced潛能。”
雷峰網(公眾號：雷峰網)了解到，搭載驍龍X80的商用終端預計將于2024年下半年發布。
釋放5G和5G Advanced潛能，離不開高通和合作伙伴的努力。
2014年，高通率先投入5G技術的研究，2016年推出了全球首款商用5G調制解調器及射頻系統驍龍X50。2018年5G商用元年，高通與多家領先的中國廠商宣布“5G領航計劃”。
2019年，幾乎所有當年發布的5G移動終端都采用高通的5G調制解調器及射頻系統。2021年，驍龍X65是全球首個支持10Gbps 5G速率（萬兆級）和首個符合3GPP Release 16規范的調制解調器及射頻系統。2022年，驍龍X70將5G調制解調器帶入AI時代。
從參與標準制定到引領實現5G商用，從解決5G復雜性挑戰，到把5G帶入萬兆時代，再到首推AI 5G調制解調器，高通一直在引領5G的發展，也在不斷加深和中國合作伙伴的合作，推動5G演進和5G與AI的融合。
MWC 2024上，多家中國公司都發布了基于高通5G產品的解決方案，美格智能基于驍龍X75 5G調制解調器及射頻系統推出了5G-A模組，基于驍龍X72推出了5G-A FWA解決方案。
TCL發布了搭載驍龍X35 5G調制解調器及射頻系統的RedCap Dongle。5G RedCap對M2M（Machine to Machine）以及在消費級領域的5G普及非常重要，能夠讓更多人以更優惠的價格享受到5G的高速體驗。美格智能也發布了基于驍龍X35的5G RedCap系列FWA解決方案。
5G Advanced與XR的結合讓人期待。高通、中興通訊、中國移動和當紅齊天集團共同啟動了5G-A XR大空間對戰游戲項目，四方聯合完成基于5G-A大容量、低時延的特點針對XR游戲優化，實現了近千平米的大空間內，畫面清晰流暢無卡頓，平均空口時延低于10ms，可實現無線大空間多人XR免背包游戲體驗。
衛星通信方面，廣翼智聯基于高通212S基帶芯片推出5G NTN衛星手持設備，能夠在最具挑戰性的信號環境中也具有定位功能。
5G與AI實現了深度融合，Wi-Fi 7同樣如此。
最新發布的高通FastConnect 7900移動連接系統，是行業首個在6nm制程芯片中支持AI優化性能并在單個芯片中集成Wi-Fi 7、藍牙和超寬帶技術的解決方案。
利用AI，FastConnect 7900可以適應特定用例和環境，有效優化能耗、網絡時延和吞吐量。
“基于AI增強特性，用戶使用一些廣受歡迎的APP時終端功耗能夠下降高達30%。”Ignacio Contreras同時指出，“FastConnect 7900能夠支持更出色的多終端體驗，例如支持將內容投射到屏幕或揚聲器，或同時使用多個屏幕顯示，以及支持分離式渲染VR技術。通過高通獨有的兩大技術——Wi-Fi高頻并發技術（HBS）以及高通擴展個人局域網（XPAN）技術，帶來更低時延，更高的數據傳輸速率和吞吐量，以及更大覆蓋范圍。”
MWC 2024期間，中國聯通發布搭載高通Wi-Fi7沉浸式家庭聯網平臺的Wi-Fi7 BE6500智能路由器，雙方共同推動Wi-Fi7的創新。
強大的端側AI能力，和極致的5G Advanced、Wi-Fi 7結合，將加速混合AI時代的到來。
5G Advanced+生成式AI，加速混合AI時代到來
高通早在5G商用之初就已經開始探索5G和AI的融合。
幾年前，高通推出了自主移動機器人（AMR）參考設計，能充分發揮5G+AI的能力。
最近，高通、Hololight和愛立信展示了在網絡條件最佳時如何在云端進行處理，并在需要時向終端側計算平滑過渡，展現了動態分布式計算將成為開啟無界AR體驗的關鍵。
要探索5G Advanced+生成式AI更多的可能，還需要端側的異構計算。
高通認為，生成式AI的多樣化要求和計算需求需要不同的處理器來滿足。支持處理多樣性的異構計算架構能夠發揮每個處理器的優勢。NPU專為實現以低功耗加速AI推理而全新打造。
早在2007年，驍龍平臺首次集成的Hexagon DSP，成為了高通未來多代NPU的基礎。2020年，驍龍平臺的Hexagon NPU實現了重要里程碑。2022年，第二代驍龍8中的Hexagon NPU引入了眾多重要技術提升。
第三代驍龍8中的Hexagon NPU成為了面向終端側生成式AI大模型推理的領先處理器。
高通NPU的差異化優勢在于系統級解決方案、定制設計和快速創新。通過定制設計NPU并控制指令集架構(ISA)，高通能夠快速進行設計演進和擴展，以解決瓶頸問題并優化性能。
包含高通Hexagon NPU、Adreno GPU、Kryo或Oryon CPU、高通傳感器中樞和內存子系統的高通AI引擎，能夠實現端側生成式AI最佳的應用性能、能效和電池續航。
強大的高通AI引擎要為開發者降低門檻進行充分使用，還需要高通AI軟件棧（Qualcomm AI Stack），讓開發者可以在高通硬件上創建、優化和部署AI應用，一次編寫即可實現在不同產品和細分領域采用高通芯片組解決方案進行部署。
MWC 2024上高通推出的高通AI Hub對于激發端側AI的創新以及5G+AI融合有積極作用。
高通AI Hub為驍龍和高通平臺提供超過75個優化AI模型，比如Whisper、ControlNet、Stable Diffusion和Baichuan-7B，能夠充分利用高通AI引擎內所有核心（NPU、CPU和GPU）的硬件加速能力，將推理速度提升4倍，模型占用的內存帶寬和存儲空間也將減小。
這些優化模型現已在高通AI Hub、GitHub和Hugging Face上提供，開發者只需通過幾行代碼即可在搭載高通平臺的云托管終端上自行運行這些模型。
5G Advanced和強大的端側AI能力已經準備就緒，隨著2024年下半年AI手機和AI PC的能力進一步進化，5G+AI的殺手級應用也讓人拭目以待。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
