0
| 本文作者: 齊鋮湧 | 2026-05-28 11:40 |
近日,由中科創(chuàng)星參投的清程極智團隊系統(tǒng)構(gòu)建了以赤兔推理引擎、AI Ping評測路由平臺、八卦爐智能軟件棧為核心的全鏈路Token解決方案。清程極智圍繞大模型推理降本、國產(chǎn)算力生態(tài)適配、Token服務(wù)質(zhì)量與性價比三大行業(yè)關(guān)鍵痛點,集中推出了多項核心技術(shù)突破與規(guī)模化落地成果,以技術(shù)創(chuàng)新推動中國AI產(chǎn)業(yè)從“能用”邁向好用、省錢、自主可控的新階段。(雷峰網(wǎng)(公眾號:雷峰網(wǎng)))
清程極智成立于2023年12月,核心團隊來自清華大學(xué)計算機系高性能計算所,已完成天使輪、PreA、PreA+三輪融資,獲得中科創(chuàng)星、中金資本、考拉基金、聯(lián)想創(chuàng)投、中關(guān)村科學(xué)城公司等多家國資與明星投資機構(gòu)加持,是國內(nèi)專注AI基礎(chǔ)設(shè)施(AI Infra)的標(biāo)桿企業(yè),致力于打造一站式全鏈路Token解決方案。
當(dāng)前,全球 AI 產(chǎn)業(yè)已進(jìn)入規(guī)模化落地的關(guān)鍵階段,Token 成為 AI 時代的 “水電煤”,是大模型服務(wù)與智能應(yīng)用的核心生產(chǎn)要素。數(shù)據(jù)顯示,2024 年初至 2026 年 3 月,中國 Token 日均調(diào)用量激增約1400 倍,規(guī)模突破140 萬億。伴隨 Agent 智能體、多模態(tài)應(yīng)用快速普及,Token 正從交互用量轉(zhuǎn)向生產(chǎn)用量,直接推動產(chǎn)業(yè)對推理效率、部署成本、服務(wù)穩(wěn)定性的要求持續(xù)攀升。
在 Token 需求爆發(fā)的同時,國產(chǎn)算力與國產(chǎn)模型迎來高速發(fā)展,但二者之間的推理環(huán)節(jié)卻長期依賴海外引擎,難以充分釋放國產(chǎn)硬件性能;而 Token 服務(wù)市場也面臨亂、貴、慢、選型難等突出問題,供需錯位、成本高企、體驗不一,成為制約 AI 技術(shù)普惠化、規(guī)模化落地的核心瓶頸。
針對大模型部署成本高、國產(chǎn)算力適配不足的痛點,清程極智推出赤兔推理引擎。作為完全自主研發(fā)的國產(chǎn)推理引擎,赤兔打破海外技術(shù)壟斷,構(gòu)建“國產(chǎn)算力+國產(chǎn)引擎+國產(chǎn)模型”全國產(chǎn)化閉環(huán),針對昇騰、海光、沐曦、摩爾線程等國產(chǎn)芯片的硬件特性深度優(yōu)化,實現(xiàn)標(biāo)量向量計算、數(shù)據(jù)表達(dá)、硬件調(diào)度、卡間互聯(lián)的全維度適配,解決國產(chǎn)算力“能用不好用”的難題。
在性能與成本上,赤兔推理引擎實現(xiàn)突破性提升:通過軟件方案在不具備FP4/FP8硬件能力的算力設(shè)備上支持FP4/FP8低位寬量化,使用FP8量化可降低50%算力門檻,F(xiàn)P4量化可降低75%算力門檻;部署DeepSeek?V3滿血版模型時,僅需1臺8卡910B服務(wù)器即可替代傳統(tǒng)4臺8卡機,硬件成本從600萬元降至150萬元。目前,赤兔已在券商、能源央企等場景落地應(yīng)用,某能源央企實現(xiàn)3500+員工全國產(chǎn)化算力穩(wěn)定使用,算力效率提升近40%,相關(guān)案例榮獲2025人工智能應(yīng)用大賽銅獎。(雷峰網(wǎng))
面對Token服務(wù)市場服務(wù)商林立、指標(biāo)混亂、選型成本高的行業(yè)亂象,清程極智打造AI Ping一站式大模型服務(wù)評測與API智能路由平臺,成為國內(nèi)首個集“信息匯總、客觀評測、智能路由”于一體的Token服務(wù)樞紐。平臺已接入30余家主流服務(wù)商、600余個大模型服務(wù),覆蓋文本、圖片、視頻等全場景;通過7×24小時多地域分布式監(jiān)測,實時輸出延遲、吞吐、可靠性、價格等核心指標(biāo),數(shù)據(jù)真實可核驗;依托智能路由算法,以統(tǒng)一API接口為用戶自動匹配最優(yōu)服務(wù)商,實現(xiàn)成本降低超37%、吞吐提升超90%、延遲降低超20%,讓開發(fā)者“一鍵調(diào)用、省心省錢”,專注業(yè)務(wù)創(chuàng)新。
此外,清程極智還推出八卦爐智能軟件棧,面向大模型訓(xùn)練、微調(diào)場景提供高效Token生產(chǎn)與智能調(diào)度能力,與赤兔推理引擎、AI Ping平臺形成協(xié)同,覆蓋AI“訓(xùn)練?推理?應(yīng)用”全流程,構(gòu)建完整的AI基礎(chǔ)設(shè)施生態(tài)。
清程極智相關(guān)負(fù)責(zé)人表示,公司將持續(xù)深耕AI基礎(chǔ)設(shè)施領(lǐng)域,堅持核心技術(shù)自主可控,不斷迭代赤兔推理引擎對國產(chǎn)芯片的適配能力,完善AI Ping評測與路由服務(wù),聯(lián)動國產(chǎn)算力、國產(chǎn)模型、行業(yè)應(yīng)用等產(chǎn)業(yè)鏈伙伴,打造高效、普惠、安全的國產(chǎn)AI基礎(chǔ)設(shè)施體系,響應(yīng)國家“人工智能+”行動,以技術(shù)創(chuàng)新推動中國AI產(chǎn)業(yè)高質(zhì)量發(fā)展。