运维值班员在晚高峰告警后,于生成式问答生产集群,面对拒答率从3%升到18%的突发状况。调阈值能快速降低拒答,但可能放行低置信结果;回滚模型回退慢,却可能恢复原有分布。可先看校准漂移和流量分布,再执行配置降级、切小模型分级推理,最后决定是否回滚。
相似问题