0
| 本文作者: 徐咪 | 2026-07-23 14:30 |
7月23日消息,阿里真武M890超節點已成功適配Qwen3.8,并上線阿里云百煉平臺提供模型推理服務,這是國內首個成功運行超2萬億參數大模型的超節點。
Qwen3.8是阿里最新旗艦模型,參數規模高達2.4萬億,跑通這一規模的模型需要將參數分散到幾十張甚至上百張高速互聯的GPU卡,讓萬億參數“跑得又穩又快”。然而,普通AI集群因通信帶寬的局限,無法滿足高吞吐、低延遲、高并發的需求。
真武M890是平頭哥新一代訓推一體AI芯片,原生支持FP32到FP4等多種數據精度,可應用于高精度訓練、低精度和超低精度推理的全場景。真武超節點實例通過ICN Switch 1.0互聯芯片,讓64張真武M890實現了800GB/s的高速互聯,顯存規模達到9TB,單實例即可支撐大規模2萬億參數MoE模型的專家并行需求。
此外,阿里還從芯片到云平臺層面實現了與Qwen模型的全鏈路優化,不僅可以絲滑跑通Qwen3.8,還能顯著提升推理效率、降低推理成本。實測數據顯示,通過算子優化和軟硬件架構協同,該超節點實例在Agentic推理場景中最多可實現1.5倍的推理性能提升。