首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >一次 Wiki 重复词条故障之后,对“模型判断”与“程序约束”边界的重新划分

一次 Wiki 重复词条故障之后,对“模型判断”与“程序约束”边界的重新划分

作者头像
用户1239994
修改于 2026-11-04 09:36:21
修改于 2026-11-04 09:36:21
3823
举报
概述
本文以 53AI 知识系统一次 Wiki 词条重复生成故障为例,探讨大模型语义判断与确定性业务规则的职责边界。通过分析故障原因、对比修复前后的真实代码,并结合可复现实验,展示如何利用精确身份召回、确定性归并和模型辅助消歧,避免关键业务规则过度依赖 LLM 的不确定性输出。文章总结了企业 AI 系统可靠性建设的工程实践:让 AI 处理复杂语义,让程序守住业务不变量,实现智能性与可靠性的平衡。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

目录
  • 一、一次不该发生的“重复创建”
  • 二、错不完全在模型,而在于把决定权在谁
  • 三、如何重新划分四种判断
    • 1. 精确身份召回:确定性查询必须优先
    • 2. 唯一精确匹配:由业务规则决定,而不是等待模型点头
    • 3. 多个同名或语义相似:继续让 LLM 消歧
    • 4. 同批次重复候选:写入前先做确定性归并
  • 四、同一条管线,修复前后究竟改变了什么
    • 一:唯一精确匹配,不再等待模型返回 merges
    • 二:精确召回不再与别名和模糊候选争夺相同额度
    • 三:批内先归并,并保留已确定决策
    • 一组真正可复现、但证据层级不同的测试
  • 五、真正的可靠性,不是“模型每次都判断正确”
  • 六、修好了 Bug,为什么不做一个巡检 Skill?
  • 七、对企业 Agent 和知识大脑意味着什么
  • 八、AI时代的工程能力,是知道什么不该交给 AI
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档