“不要胡说”不是一个可执行的智能体治理方案。如果希望减少幻觉和工具参数错误需要把自然语言任务拆成几个可验证的阶段用户输入 ↓ 任务和字段拆解 ↓ 证据与字段校验 ↓ 工具参数预检 ↓ 人工确认 ↓ 工具执行今天在 Haoee 上搭建了一个“采购申请提交前校验助手”用来演示这套方法。一、先限定智能体的职责这个智能体不负责采购决策询价订单提交库存确认供应商确认生成订单号。它只负责提取采购字段识别缺失和冲突检查工具参数输出人工确认提示。职责越清晰幻觉空间越小。二、Planner先拆解不要直接执行第一节点负责把自然语言拆成字段。用户输入帮我采购 A4 纸 10 箱下周送到办公室价格按市场价。拆解结果应该是物品A4纸 数量10 单位箱 供应商待补充 交付日期不明确 交付地点办公室地址待补充 单价不明确 申请人待补充Planner 不应该主动补全某个常用供应商某个市场价格下周具体日期默认申请部门。否则后续节点拿到的已经是被污染的数据。三、Validator对字段进行硬校验第二节点负责校验字段。可以把校验分成三类。完整性校验检查必填字段是否存在供应商 物品 数量 单位 交付日期 申请人类型校验检查字段类型是否正确数量必须是数字数量必须大于 0交付日期必须是明确日期单位不能是“差不多”“一些”。冲突校验如果用户输入数量 10 箱后面又说改成 20 箱。系统不能自行选择一个值而应该返回数量存在冲突请人工确认最终数量。四、工具调用必须设置门禁工具调用前可以定义三种状态BLOCKED 缺少字段、字段冲突或类型错误禁止调用 READY_FOR_HUMAN_CONFIRMATION 参数完整但仍需授权人员确认 EXECUTABLE 已完成授权可进入正式调用本次 Demo 只实现到第二种状态不执行真实采购工具。这是有意为之因为客户还没有确认采购系统工具接口授权人员供应商编码审批流程。五、Reporter只报告发生过的事情第三节点负责输出最终报告。如果没有真正执行采购工具就不能出现采购已提交订单号已生成供应商已确认库存充足预计已送达。更合适的表达是当前参数预检未通过缺少供应商和明确交付日期暂不允许进入提交环节。六、知识库、Skills 和 MCP 怎么配置本次 Demo 没有配置知识库因为重点是字段完整性和参数格式。正式项目中知识库可以提供供应商目录物品编码采购制度审批规则价格有效期。本次没有配置 Skills 和 MCP Server因为还没有接入真实采购工具。等接口确认后再将工具接入到校验节点之后并增加Schema 校验权限校验人工确认调用日志错误回滚。七、今日实际搭建状态智能体已经完成三段式编排并发布。但发布对话测试时测试环境出现模型路由未匹配问题正常、缺失和越权三组对话均未完成端到端测试。所以当前只能确认结构已配置字段规则已写入工具门禁逻辑已设计真实对话结果尚未验收通过。这也说明交付中必须区分配置完成不等于测试通过测试通过也不等于生产可用。
