判定:PASS 必须有测试或外部证据;FAIL 必须停止或降级;BLOCKED 表示缺证据或依赖,不允许用“应该可以”替代。
八道硬闸
1. 目标与完成标准
原始任务拆成原子诉求,每项都有产出和证据。
2. 工具与数据边界工具前置条件、数据域、对象、参数与环境均可验证。
3. 权限与确认最小权限;高影响动作有确认点、allowlist 与职责分离。
4. 外部验证关键结果由测试、传感器、API 回执或人工复核;模型不能自证。
5. 幂等与恢复写操作有幂等键、重试上限、熔断、回滚与一致性校验。
6. 状态与长期任务计划持久化;上下文压缩、重启与依赖变化后可恢复。
7. 审计与责任能还原模型版本、输入证据、工具参数、授权主体、结果与回滚。
8. 单位经济计入推理、工具、重试、验证、人工接管与失败损失后仍成立。
一票否决
- 高影响写操作无确认或无最小权限;
- 失败后无法判断动作是否已经执行;
- 重试可能重复扣款、发信、创建对象或覆盖状态;
- 没有独立验证却允许不可逆动作;
- 日志不能还原责任链;
- 测试分母、失败定义或人工接管未记录。
发布后传感器
持续记录端到端成功率、每百任务人工接管次数、错误发现率、自动恢复率、平均恢复时间、审计覆盖率和单位成功任务成本。关键指标越界时自动降级为只读/建议模式,而不是继续自治。
适用边界
本清单用于 Agent 生产准入,不替代特定行业监管、法律、安全评审或业务负责人授权。