评估体系并非单一环节,而是贯穿需求、设计与上线运营的闭环,通常包含四个环节:目标定义、离线评估、在线评估与回归保障。
目标定义环节要先把成功指标写清楚,包括任务完成率、工具调用准确率、允许的成本与延迟上限、以及越权与升级行为的发生频率。这一步若跳过,后续所有分数都失去参照。
离线评估在开发期用固定数据集运行,作为发布门禁,保证"已知场景不退化";在线评估在生产流量上抽样打分,捕获"未见过的长尾失败"。LangChain 的实践建议是二者必须同时具备:在线评估告诉你昨晚的 helpfulness 是否掉了、某工具是否更频繁地失败;离线评估告诉你提示词改动、模型替换或架构调整是否真的带来改进。
回归保障环节把生产中出现的失败案例沉淀为评测用例,形成"线上发现 → 进入评测集 → 发布前拦截"的回路。这一机制与 ADLC 中"带裁决标签的追踪回流到下一轮构建"是同一思想的具体落地。