国内首次：真武M890跑通2.4万亿Qwen3.8，推理效率提升1.5倍

7月23日，阿里云正式宣布，真武M890超节点成功跑通旗下旗舰大模型Qwen3.8，该模型参数规模高达2.4万亿。目前，该超节点已上线阿里云百炼平台，并开始对外提供推理服务。这标志着国内首个成功运行超2万亿参数大模型的超节点正式落地。

真武M890超节点核心技术

真武M890是平头哥新一代训推一体AI芯片，原生支持从FP32到FP4多种数据精度，覆盖从高精度训练到超低精度推理的全场景需求。 需要指出的是，运行2.4万亿参数模型并非普通显卡集群所能胜任。参数需分散到数十张甚至上百张高速互联的GPU卡上，普通AI集群的通信带宽难以满足高吞吐、低延迟、高并发的需求。 针对这一挑战，阿里采用真武超节点实例中的ICN Switch 1.0互联芯片，使64张真武M890实现800GB/s的高速互联，显存规模达到9TB。单实例即可支撑大规模2万亿参数MoE模型的专家并行需求。

全链路优化提升推理性能

更关键的是，阿里从芯片到云平台对Qwen模型进行了全链路优化。实测数据显示，通过算子优化与软硬件架构协同，在Agentic推理场景中，推理性能最高可提升1.5倍。