核心导读与中文摘要
总结 Schema 严格校验、参数幻觉拦截、幂等性保护、超时降级与人类审批断点(Human-in-the-loop)的后端最佳实践。
Agent Tool Calling 工程容错设计模式
在真实生产环境中,大模型工具调用常面临参数类型漂移、外部接口超时及非幂等写操作重复触发等风险,必须在运行时建立强护栏。
五层防御实践
| 防御层 | 实现策略 | 目标收益 |
|---|---|---|
| 1. Schema 严格校验 | 服务端用 Zod / Pydantic 校验模型吐出的 JSON 参数 | 拒绝非法参数并把清晰字段错误反馈给模型自愈 |
| 2. 幂等键保护 | 写操作工具强制携带 idempotency_key | 防止重试机制导致重复创建订单或重复发送通知 |
| 3. 工具白名单与最小权限 | 按会话角色动态裁剪注入的 tools[] | 降低越权调用风险并减少无关 Tool 对推理的干扰 |
| 4. 超时与有界重试 | 为每次工具调用设置独立 Timeout 与最多 2 次指数退避 | 避免单次外部 API 卡死阻塞整条 Agent 链路 |
| 5. 高危审批断点 | 删除、支付、外发前触发 Human-in-the-loop 确认 | 确保不可逆动作始终受人工把关 |
