大模型微调早停判据的三种实测方案对比
上周在某算力平台的技术沙龙上,一个团队晒出日志:同批数据、同款基座,仅仅因为早停判据不同,三次微调最终步数相差 4.2 倍,验证集困惑度最大差了 0.31。这不是偶发。过去三个月我跟踪了 47 个开源

上周在某算力平台的大模调早技术沙龙上,一个团队晒出日志:同批数据、型微同款基座,停判仅仅因为早停判据不同,种实三次微调最终步数相差 4.2 倍,测方验证集困惑度最大差了 0.31。案对这不是大模调早偶发。过去三个月我跟踪了 47 个开源微调复现项目的型微训练曲线,超过六成项目在早停这件事上靠“看着差不多就停”,停判剩下四成里还有一半把 patience 设成 5 或 10 之后就没再动过。种实大模型微调的测方早停判据方法听起来是调参细节,实际操作中它直接决定你烧掉多少卡时、案对拿到的大模调早是欠拟合还是过拟合的权重。
验证损失连续不降:最稳但当心假性平台
把 eval loss 连续 N 个 step 不创新低作为触发条件,型微是停判目前社区默认的主流做法。N 取 20 到 50 的居多,Alpaca 风格的 SFT 任务里这个区间基本够用。但该方法在低学习率场景下会误判:loss 曲线可能横盘 800 步然后突然再降 0.05,提前停掉就亏了。我见过一个法律文本微调案例,lr=5e-6,patience=30,模型在 3700 步被截断,事后补跑到 5200 步时验证集 ROUGE 还涨了 1.8 个点。大模型微调的早停判据经验分享里,这类“假性平台”被低估得很厉害。建议配合最小改善阈值,loss 降幅不足 0.001 的不算有效下降,能过滤不少噪声。
梯度范数与更新量比值:更早暴露过拟合苗头
这个方案看的是参数更新量相对梯度范数的比值变化。正常训练时两者保持近似线性关系,一旦比值连续多步异常放大,说明模型在为少量样本剧烈调整权重,过拟合风险陡增。实测中它对 chat 类数据的分布漂移反应比 loss 快 30 到 50 步。有个做医疗问答微调的团队用这个判据在 4100 步触发停止,而验证 loss 派生的早停仍在 4700 步之后才动作,两者最终医疗实体抽取 F1 只差 0.4,但前者省下约 12% 的 GPU 时。代价是每次记录需要额外做一次全参数范数计算,对 7B 以上模型有可感知的显存和通信开销,LoRA 场景下几乎可以忽略。
基于预留评分的双向监控:让早停不再是单向刹车
第三种是在固定间隔跑一个轻量评测集,记录任务指标——不是 loss——并同时监控指标增速。当指标相较上次评测提升小于阈值且已连续两次,触发早停。这套做法在中文客服意图分类的微调中表现突出:23 个类别,每 200 步评测一次,最终在指标同比提升 0.15% 的位置停住,反向对比 loss 判据省了 1100 步。大模型微调的早停判据注意事项里有一条常被忽略:评测集本身会被反复使用,多次评测后模型可能对评测分布产生隐式适应,所以这个方案要求预留集足够大,或能做多份轮换。否则很容易把评测分数“刷”上去,早停点变得偏晚。
三种方案没有确实优劣,敏感度、额外开销和适用任务差异明显。纯 SFT 追求省事,继续用 loss patience 但把 min_delta 调低;有条件的团队值得在 LoRA 微调里试梯度范数比值,触发更早且实现不复杂;任务指标明确、评测成本可控的场景,双向监控的早停策略对最终可用性的保护最直接。我的判断是,未来半年更多框架会默认内置第二种判据的回调,它解决的是大模型微调的早停判据常见问题里最贵的那一个:卡时浪费。