判定:PASS 必须有测试或外部证据;FAIL 必须停止或降级;BLOCKED 表示缺证据或依赖,不允许用“应该可以”替代。

八道硬闸

1. 目标与完成标准

原始任务拆成原子诉求,每项都有产出和证据。

2. 工具与数据边界

工具前置条件、数据域、对象、参数与环境均可验证。

3. 权限与确认

最小权限;高影响动作有确认点、allowlist 与职责分离。

4. 外部验证

关键结果由测试、传感器、API 回执或人工复核;模型不能自证。

5. 幂等与恢复

写操作有幂等键、重试上限、熔断、回滚与一致性校验。

6. 状态与长期任务

计划持久化;上下文压缩、重启与依赖变化后可恢复。

7. 审计与责任

能还原模型版本、输入证据、工具参数、授权主体、结果与回滚。

8. 单位经济

计入推理、工具、重试、验证、人工接管与失败损失后仍成立。

一票否决

发布后传感器

持续记录端到端成功率、每百任务人工接管次数、错误发现率、自动恢复率、平均恢复时间、审计覆盖率和单位成功任务成本。关键指标越界时自动降级为只读/建议模式,而不是继续自治。

适用边界

本清单用于 Agent 生产准入,不替代特定行业监管、法律、安全评审或业务负责人授权。