「人間がループにいる」というのは、チェックボックスになっています。実際に機能するシステムでは、ユーザーが何かを止める権限と情報を持つ人間が必要です。
否定できるレビュー
ただの承認しかできない査読者はコントロールではありません。本物のレビューを目的にデザインするとは、以下の通りです:
- 低信頼度や高リスクの出力をデフォルトで人にルーティングし、バックアップとしてではなく。
- その人に証拠の連結、スコア、安全管理の状況を伝えること。単に答えを伝えるのではなく。
- 決定を記録することで、ループは事後に監査可能になります。
ループの設計
ループは、最初からアーキテクチャの一部として構築できるものが最も安価です。つまり、デリバリーワークフローのチェックポイントであり、最後に付け加えられた会議ではありません。