引言：国产GPU的“训练焦虑”正在被打破
过去两年，大模型训练圈子里流行一句话：“国产卡只能做推理，训练还得靠进口。”这不是偏见，而是现实。大规模训练对芯片算力、卡间互联、通信库稳定性、软件框架适配的要求极高——集群里任何一张卡出问题，持续数周的训练就可能前功尽弃。一家模型公司的CTO曾算过一笔账：一个千亿参数模型训练三个月，硬件成本数千万，中断一次重跑就是几百万元打水漂。谁敢把这样的“命根子”交给国产卡？
但2026年7月的WAIC（世界人工智能大会）上，这个判断被彻底改写。摩尔线程以“词元时代 万物智能”为主题，首次系统公开了三大“AI工厂”——模型训练工厂、词元生产工厂、智能体生产工厂的落地部署，并亮出了一组硬核数据：万卡级集群线性扩展效率达95%、断点续训有效训练时长占比超90%。更关键的是，三项“国芯训国模”标杆成果首次集中亮相——从236B参数的MoE模型从零完整训练，到北大5D世界模型登顶斯坦福WorldScore榜单。
国产GPU终于啃下了大模型训练这块硬骨头。怎么啃的？本文从三个维度拆解。
第一章：95%线性扩展效率——万卡集群不是“堆卡”游戏
核心观点：万卡集群的瓶颈不在单卡性能，而在卡间通信。MTT C256超节点用“一层网络256卡全互联”破解了传统多层网络的带宽损耗问题。
把1万张GPU连在一起干活，听起来简单，做起来极难。传统做法是“多层网络”——卡之间通过多级交换机互联，但每一级都会带来带宽衰减和延迟增加。到万卡规模时，通信损耗可能吃掉30%以上的算力。这就是为什么很多号称“万卡集群”的系统，实际有效算力远低于理论值。
摩尔线程在WAIC上首发的MTT C256超节点，核心突破是把业界普遍的一层网络64卡限制直接拉到256卡。什么概念？256张GPU通过一层Scale-up网络实现全互联，卡间通信延迟被压缩到亚微秒级。用两个标准机柜就能部署这256张卡的高密度互联。
这解决了一个根本问题：大模型训练中，卡越多，通信开销越大，算力利用率越低。一层网络256卡全互联，意味着通信不再是瓶颈，集群可以真正“线性扩展”。摩尔线程公布的数据显示，夸娥万卡集群在稠密模型训练中算力利用率（MFU）达60%，MoE模型达40%，线性扩展效率保持95%。
打个比方：传统多层网络像是一个公司里员工要跨五个部门层层审批才能协作，MTT C256则把所有员工放在同一个开放工位——信息直达，效率自然上去了。
此外，夸娥万卡集群包含10240张GPU，总算力达10EFLOPS。这个量级已经跨过了“能用”的门槛，进入了“主力部署”的范畴。
第二章：断点续训有效时长超90%——大模型训练“不关机”的秘密
核心观点：万卡级长稳训练最大的敌人不是算力不足，而是“中断”。断点续训和软件栈完备性共同支撑了超90%的有效训练时长。
大模型训练圈有一句扎心的话：“训练最贵的不是算力，是时间。”一个千亿参数模型跑三个月，中间任何一次硬件故障、网络波动、软件崩溃，都可能导致数小时甚至数天的进度损失。在万卡规模下，故障概率不是“会不会发生”，而是“多久发生一次”。
摩尔线程给出的答案是：断点续训，有效训练时长占比超90%。这意味着在长达数周甚至数月的连续训练中，集群真正用于模型参数更新的时间占比超过九成——中断、恢复、重算的损耗控制在10%以内。
这个数字背后是系统级的工程能力，而不只是“支持断点续训”这一个功能。摩尔线程高级副总裁董龙飞指出，大集群并不是小集群的简单扩容，而是涉及互联、散热、可靠性和工程调校的系统级工程。具体来看：
硬件层面：MTT C256超节点配备了高效液冷散热、三盲插设计、完善的RAS（可靠性、可用性、可服务性）机制。万卡集群中任何一张卡出问题，系统要能快速隔离、替换，而不影响整体训练进度。
软件层面：摩尔线程从底层MUSA SDK出发，兼容PyTorch、Triton、TileLang等算子生态，支持Megatron-LM、DeepSpeed、FSDP等主流训练框架，还集成了DeepEP通信库、算子融合等技术，原生支持Per-Block FP8精度。软件栈的完备性意味着训练框架和硬件之间没有“翻译损耗”——算子能直接跑、通信能高效调度、故障能自动恢复。
验证层面：MoE-236B模型基于25T+高质量语料，在夸娥万卡集群上从零起步完成了预训练到长窗口训练的全流程。这不是“跑了几步试试”，而是完整的工业级训练链路验证。更关键的是，训练损失曲线与国际主流计算卡高度一致——证明了国产卡不是“能跑”，而是“跑得准”。
精度对齐是另一个容易被忽视的维度。董龙飞强调，“高精度”指的不是单次计算的数值精度，而是模型在不同GPU平台间迁移训练时的结果对齐能力。摩尔线程在DeepSeek类MoE模型上与国际主流GPU做对比训练，前3万步的平均相对误差控制在万分之六以内。这意味着模型在国产卡上训练出来的效果，和在国际主流卡上训练出来的效果，是可比、可互换的。
第三章：PD分离异构推理——承认“多元算力共存”的现实，重构成本结构
核心观点：与其幻想“全替换”，不如承认“异构共存”。PD分离让国产卡做它擅长的Prefill，国际卡做它擅长的Decode，实现1+1>2。
如果说训练解决的是“能不能造出好模型”，推理解决的是“能不能低成本地用起来”。摩尔线程高级副总裁董龙飞点出了一个关键差异：训练对性能差异的容忍度相对较高，即使性能低10%，也可以通过延长训练时间完成任务；推理则直接关系到单位Token成本，成本高出10%就可能失去竞争力。
摩尔线程的“词元生产工厂”目标很直接——以更低成本和更高吞吐量持续生成Token。实现路径就是PD（Prefill-Decode）分离异构推理。
先解释一下：大模型推理分为两个阶段。Prefill（预填充） 阶段负责理解输入内容，计算量大，更依赖算力；Decode（解码） 阶段逐字生成结果，更依赖显存容量和带宽。传统做法是用同一批GPU干两件事，但这两件事对硬件的要求完全不同。
摩尔线程的方案是“分池部署”：把高算力需求的Prefill计算放在MTT S5000上，把高带宽需求的Decode生成放在国际主流GPU上。两者异构协同，各司其职。
效果如何？基于Kimi K2.5模型推理测试，混合部署MTT S5000+国际主流GPU的3P2D异构方案，相比单独部署国际主流GPU同构方案，平均TGS（Tokens/GPU/S）提升1.87倍，首字延迟降低56.9%。张建中在现场给了一个更直观的公式：“3台S5000+2台国际主流GPU≈9台国际主流GPU”。
这不是“替代”，而是“增效”——用更少的国际GPU、配合国产卡，实现更高的整体吞吐量。董龙飞补充说，这类异构方案的性能比任何同构方案都要高50%以上，其中很大一部分收益来自KV Cache的调度优化。
这个思路的现实意义在于：它承认了“国产替代不是一夜之间完成的”。在一段相当长的时间里，国产卡和国际卡会共存。与其幻想“全替换”，不如设计一种架构让两者都能发挥最大价值。
更深一层看，PD分离方案正在改变训练和推理之间的成本结构。传统上，训练集群和推理集群是分开规划的——训练集群追求高算力，推理集群追求低成本。但PD分离让推理集群也可以“混搭”国产卡和国际卡，大幅降低了推理侧的Token生产成本。有客户反馈，4台MTT S5000的Prefill性能已经能超越一台国际主流AI加速卡的整体性能，而后者的价格已超千万元。
当推理成本降下来，大模型应用的经济模型才真正跑得通。
结论：从“发布即适配”到“联合共研”——国产算力的新范式
回顾过去两年国产GPU的发展轨迹，有一条清晰的分界线。
第一阶段是“发布即适配”（Day-0适配） 。大模型厂商发布一个新模型，GPU厂商紧跟着完成适配。摩尔线程目前已实现对DeepSeek、MiniMax、GLM、Kimi、Qwen等主流大模型的发布即适配。腾讯Hy3开源当天、MiniMax M3开源当天，MTT S5000同日完成适配。这个阶段解决的是“能不能用”的问题。
第二阶段是“联合共研” 。大模型厂商在模型规划部署阶段就与GPU厂商同步协作，而不是等模型发布后才启动适配。极佳视界基于摩尔线程MTT S5000联合共研完成了驾驶世界模型、具身世界模型等物理AI模型的训练；北京大学EvoPhys团队在摩尔线程“灯塔计划”支持下，全栈原生训练出5D世界模型EvoPhys-World，连续37天登顶WorldScore“世界生成”维度；北京智源研究院基于MTT S5000千卡集群完成RoboBrain 2.5具身大脑模型全流程训练。
从“发布即适配”到“联合共研”，本质上是国产算力从“被动兼容”走向“主动共创”。模型厂商不再把国产卡当作“备胎”来适配，而是当作“主力”来联合研发。
三个判断供参考：
第一，万卡级大规模训练的门槛已经跨过。 95%线性扩展效率、90%+有效训练时长、与国际主流持平的训练精度——这些指标证明国产GPU在训练侧已经从“实验室可用”进入了“生产级可用”。
第二，“异构共存”将是中长期常态。 PD分离方案展示了一条务实的路径——不是非此即彼的替换，而是各取其长的协同。
第三，生态协同的深度决定未来高度。 从“发布即适配”到“联合共研”，模型厂商和芯片厂商的合作越早、越深，最终产品的竞争力越强。
对正在评估国产算力的大模型团队，一个可操作的思路是：先拿非关键模型做迁移验证，用断点续训和精度对齐数据说话；再逐步将训练任务迁移到国产集群；最后在模型规划阶段就启动联合共研，而不是等模型写完了再考虑适配。
国产GPU用了三年时间从“能做推理”走到“能训大模型”。下一步，是从“能训”走到“训得好、训得省”。这条路还长，但方向已经清晰。