大模型训练的五个阶段原创

大模型训练不是“喂数据、跑 loss”一步就能完成的，它是一条环环相扣的工程流水线。下面这张 PlantUML 流程图把整个过程分成五个阶段：预训练 → 中期训练 → 后训练 → 蒸馏 → 推理优化与部署，每个环节旁边都注明了目标、关注点、主流方法和主要风险。图里有两个地方和教科书式的线性流程不同。第一，后训练画成了一个循环：SFT、偏好对齐、推理强化学习做完后要评测，不达标就回到数据和配方重新调整。第二，图的结尾加了线上数据回流，生产环境中出现的 bad case 会进入下一轮训练，所以整个流程是持续迭代的，没有终点。