“Mensch-in-der-Schleife” ist zu einem Kästchen geworden, das man abhaken sollte. In einem System, das tatsächlich standhält, ist es eine Person mit der Autorität – und den Informationen –, etwas zu stoppen, bevor es einen Nutzer erreicht.
Rezension, die Nein sagen kann
Ein Rezensent, der nur abnicken kann, ist keine Kontrolle. Für echte Überprüfung zu entwerfen bedeutet:
- Low-Confidence oder High-Stakes Output standardmäßig an eine Person weiterleiten, nicht als Fallback.
- Der Person die Beweisverbindung, die Punktzahl und den Sicherheitskontrollstatus zu geben, nicht nur die Antwort.
- Die Entscheidung wird aufgezeichnet, damit die Schleife nachträglich überprüft werden kann.
Entwurf der Schleife in
Die Schleife ist am günstigsten zu bauen, wenn sie von Anfang an Teil der Architektur ist – ein Kontrollpunkt im Lieferablauf, kein Meeting, das am Ende angebaut wird.