0
| 本文作者: 陳悅琳 | 2026-04-24 18:08 |
云也在告別互聯(lián)網(wǎng)時代。
這場告別發(fā)生在每一層:最底層的IaaS,算力形態(tài)從CPU轉向GPU加速集群;PaaS層與新興的MaaS層(模型即服務)融合,企業(yè)無需關心模型訓練和部署,通過API即可調(diào)用AI能力;最貼近用戶的SaaS層被一種全新的交互方式取代——給Agent布置一個任務,由它自主決策、獨立完成。
AI帶來的變量不止于此。當黃仁勛直言AI推理的規(guī)模將達到AI訓練負載的10億倍時,云的組織邏輯也隨之發(fā)生改變。
推理時代,中心云正在輸?shù)艉撩爰壦懔Ω傎?/strong>
在過去,AI訓練時代的一切都是集中的——數(shù)據(jù)、算力、模型,全部可以堆在少數(shù)幾個超大規(guī)模數(shù)據(jù)中心里。
此時玩家之間比拼的,是誰能調(diào)集更多GPU、誰能扛住更長的迭代周期。但當AI的重心從訓練轉向推理時,這套集中式打法不得不面臨物理瓶頸。
海量、實時、持續(xù)涌入的在線請求,是AI推理時代最明顯的特征。它背后隱藏著用戶對毫秒級響應的期待。
Akamai亞太區(qū)云計算架構師總監(jiān) 李文濤
Akamai亞太區(qū)云計算架構師總監(jiān)李文濤指出,以首Token時延為例,大規(guī)模多用戶在線游戲的玩家要求控制在15毫秒以內(nèi),電商個性化推薦約20毫秒,即便是容忍度最高的自動應答機器人,也需要在100毫秒左右完成響應。
然而,這并不是中心云擅長的領域。在集中式云架構下,一次推理請求往往需要跨越城市、國界甚至更遠的距離進行傳輸,網(wǎng)絡往返延遲動輒百毫秒,Token生成效率深受影響。
當新晉“頂流”Agent讓持續(xù)的多輪交互成為常態(tài),這種延遲更是被不斷放大。
此外,在GDPR、各國數(shù)據(jù)主權法規(guī)的合規(guī)要求下,中心云“數(shù)據(jù)回傳”模式明顯存在風險。
因此在AI推理時代,比“算力儲備還剩多少”更關鍵的問題是——如何能在離用戶更近的距離高效使用算力?
于是,AI云市場的玩家們,給出了各自的答案。
以谷歌云、阿里云為代表的全棧云廠商試圖讓云更強。通過擴建更多區(qū)域、引入邊緣節(jié)點、分層推理體系等方式,這類生態(tài)型玩家選擇讓中心云盡可能靠近用戶。
而CoreWeave、Lambda Labs等垂直AI云玩家則將重心放在了計算效率的極致優(yōu)化上。成本優(yōu)先的部署策略決定了邊緣并非它們的主戰(zhàn)場。
此時,Akamai等深耕邊緣的云廠商找到了自己的“舒適區(qū)”。“更近”和“高效”對它們而言,意味著兩道更具體的考題:物理覆蓋的密度與算力調(diào)度的精度。
從邊緣到核心,Akamai的算力經(jīng)濟學
這正是Akamai的天然主場。
借由超4400個邊緣節(jié)點,Akamai聯(lián)合英偉達在去年10月推出專為AI推理設計的邊緣云平臺Akamai Inference Cloud。推理能力對于用戶側來說不再遙不可及。
市場的反饋來得比預期更快。在尚未全面上市時,Akamai推理云的測試名額就已售罄,并與美國一家大型科技公司簽下四年2億美元的服務協(xié)議。
據(jù)Akamai大中華區(qū)新任副總裁張軻介紹,在硬件方面,Akamai推理云選擇了英偉達在AI推理場景下主推的一款高效經(jīng)濟的GPU——NVIDIA RTX PRO 6000 Blackwell。
張軻向雷峰網(wǎng)表示,今年Akamai也將基于該卡構建全球最大規(guī)模的推理算力集群。
李文濤還補充道,該GPU虛擬機出方向流量成本只有0.005美元/GB,相比同類競品,整機性價比高出一倍以上。
但他同時直言,不是所有的AI服務都需要頂級的GPU。
以Akamai推理云服務的韓國某游戲企業(yè)為例,李文濤指出該客戶基于RTX PRO 6000 Blackwell系列GPU驅動NPC實時對話,結合RTX 4000 Ada GPU實時生成游戲圖像,最終整體投入產(chǎn)出比優(yōu)化約30%。
這背后反映出,這家CDN創(chuàng)始者已經(jīng)不滿足于節(jié)點覆蓋。在Token經(jīng)濟學盛行的當下,要想打造真正的護城河,必須有效組織且準確調(diào)度分散的算力。
而助力Akamai推理云精打細算的,正是一個月前剛剛引入的算力分級調(diào)度系統(tǒng)AI Grid。
基于Akamai流量調(diào)度專利和負載均衡技術,參考英偉達AI網(wǎng)格(AI Grid)實踐,這一機制在回答如何按需分配的問題時如魚得水:
邊緣路由在識別小模型推理、數(shù)據(jù)預處理等輕量級推理請求后,就近分發(fā)給本地邊緣算力即時處理;
分布式GPU層利用部署在全球人口密集區(qū)域的GPU節(jié)點承接中等規(guī)模任務;
更復雜的工作則交由高端GPU組成的集中式AI工廠來完成,從而避免所有流量集中涌入中心節(jié)點造成擁塞。
在此基礎上,Akamai還疊加Serverless函數(shù)計算。據(jù)李文濤介紹,Akamai將FaaS的冷啟動時間壓縮至0.5毫秒,最高可快于其他公有云競品1000倍。
此外,Akamai還應用了語義緩存技術,讓相似請求無需重復調(diào)用GPU——某亞洲智能客服企業(yè)借此自動回答了超過60%的常見問題,減少Token消耗。
Akamai大中華區(qū)副總裁 張軻
因此,也不難理解張軻透露的數(shù)字:在特定的分布式AI 推理場景,Akamai推理云相較友商已實現(xiàn)30%至60%不等的成本優(yōu)勢。
當前,Akamai也正根據(jù)不同區(qū)域市場的產(chǎn)業(yè)特點協(xié)同發(fā)力。李文濤尤為關注當下具身智能、自動駕駛汽車等物理AI場景的爆發(fā)。
他指出,這些領域恰恰對AI推理的時延、可靠性和安全性提出了最高要求,Akamai也將致力于推理任務中成本與性能之間的平衡。
當安全內(nèi)置于AI推理
AI推理在提升應用智能水平的同時,也打開了全新的攻擊面。
除了SQL注入、跨站腳本等經(jīng)典漏洞依然存在之外,提示詞注入、越獄攻擊,以及通過MCP接口實現(xiàn)的數(shù)據(jù)濫用等AI原生威脅層出不窮。
這類攻擊不再依賴代碼漏洞,而是利用自然語言誘導模型“犯錯”,而傳統(tǒng)WAF對此幾乎無能為力。
Akamai大中華區(qū)售前技術經(jīng)理 馬俊
Akamai大中華區(qū)售前技術經(jīng)理馬俊告訴雷峰網(wǎng)(公眾號:雷峰網(wǎng)),作為Akamai在2025年第一大收入支柱,貢獻超50%營收的安全業(yè)務正從獨立的營收板塊深度融入AI推理云中,成為“無安全不推理”的默認配置:
AI防火墻通過攔截和過濾,建立“輸入+輸出”的雙重防線;API安全態(tài)勢中心能夠自動發(fā)現(xiàn)和管理未納管的AI接口,將其納入統(tǒng)一防護體系,避免數(shù)據(jù)在無監(jiān)控狀態(tài)下流動。
對于更底層的風險,Akamai則通過Guardicore微分段技術第一時間識別并攔截攻擊者在算力網(wǎng)絡中的橫向移動。
Akamai的安全策略甚至下沉到硬件層執(zhí)行。如果主機被攻破,底層網(wǎng)絡仍可借由英偉達的BlueField DPU維持隔離與控制能力 ,解決了OT、ICS等工業(yè)環(huán)境無法部署Agent級別防護的難題。
當安全防護從邊界防御內(nèi)嵌至推理路徑中,AI推理規(guī)模化落地才更有底氣。
這一可靠性正轉化為商業(yè)回報。Akamai 2025年財報顯示,其云計算業(yè)務總營收達7.08億美元,同比增長12%。其中,云基礎設施服務(CIS)表現(xiàn)尤為突出,全年營收增長36%,第四季度增速更高達45%。
具體到北美以外的最大市場——大中華區(qū),Akamai云計算業(yè)務實現(xiàn)了接近40%的年度增長率,增速高于全球平均水平。
而這也離不開張軻強調(diào)的Akamai一站式出海方案和本地完善的合作伙伴生態(tài)。
他還補充道,早在2010年就已經(jīng)成立的大中華區(qū)團隊已擴展至約200名員工,其中有70%從事售后服務相關崗位,保障云計算的平穩(wěn)運行。
隨著AI推理云成為Akamai在2026年的發(fā)展主軸,Akamai還要回答的是——在算力稀缺的當下,如何讓有效算力的每一次調(diào)用都能持續(xù)達到快且準。
這才是云競爭的真正分野。
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權禁止轉載。詳情見轉載須知。