“人工在环”已经变成了一个待勾选的方框。而在一个真正经得起考验的系统里， 它指的是一个拥有权限——以及信息——能够在某项输出抵达用户之前将其叫停的人。

能够说“不”的复核

一个只能盖章放行的复核人，并不是一种控制。为真正的复核而设计，意味着：

  • 默认把低置信度或高风险的输出路由给真人，而不是作为兜底。
  • 给那个人提供事实接地、分数与护栏状态，而不只是答案。
  • 记录其决策，让这个环路在事后可被审计。

把环路设计进去

当这个环路从一开始就成为架构的一部分时，它的构建成本最低—— 它是流水线中的一个检查点，而不是在最后才硬塞进来的一场会议。