Human-in-the-Loop: Wo Menschen im Agenten-Ablauf mitreden sollten

Nicht jeder Schritt eines Agenten sollte automatisch laufen. Human-in-the-Loop legt fest, wo ein Mensch bewusst mitschaut.

Die Grundidee

Human-in-the-Loop (kurz HITL) heißt: An bestimmten Stellen im Ablauf eines Agenten hält das System an und wartet auf deine Entscheidung, statt einfach weiterzumachen. Der Agent bleibt handlungsfähig, aber nicht allmächtig.

Wo Prüfpunkte sinnvoll sind

Vor irreversiblen Aktionen: Löschen, Zahlungen, E-Mails an Dritte, Produktions-Deployments.
Bei Unsicherheit: Stößt der Agent auf ein Problem, sollte er anhalten statt zu raten.
Nach großen Plänen, vor der Umsetzung: Erst den Plan zeigen und bestätigen lassen.
Am Ende, als Review: Ein abschließender Blick vor dem Livegang, auch bei sonst freier Arbeit.

Das Risiko von Auto-Accept

Manche Tools bestätigen praktisch jede Aktion automatisch. Das spart Zeit, aber jeder Fehler des Agenten läuft ungebremst durch. Anthropics eigene Anleitung zum Bauen von Agenten empfiehlt ausdrücklich, Agenten an Prüfpunkten oder bei Blockern auf menschliches Feedback pausieren zu lassen – mehr Autonomie bedeutet auch höhere Kosten und das Risiko sich aufschaukelnder Fehler.

Die Faustregel

Je schwerer eine Aktion rückgängig zu machen ist, desto mehr Grund für einen menschlichen Prüfpunkt davor. Routinemäßige, leicht überprüfbare Schritte dürfen automatisch laufen.

BEISPIEL

Konzeptioneller Ablauf: Ein Agent soll ein Datenbank-Migrationsskript ausführen. Der Ablauf sieht vor: Skript generieren → Plan und Diff anzeigen → auf Bestätigung warten → erst nach 'ja' tatsächlich ausführen. Ohne diesen Prüfpunkt liefe die Migration automatisch durch, sobald der Agent sie für fertig hält.

🛠️ ÜBUNG — MACH DAS BEI DIR

Lege für ein eigenes (oder fiktives) Agenten-Setup fest, welche Aktionen einen menschlichen Prüfpunkt brauchen.

Liste alle Aktionen auf, die dein Agent ausführen kann.
Markiere für jede Aktion: reversibel oder irreversibel, und wie hoch der potenzielle Schaden im Fehlerfall ist.
Lege für jede irreversible/riskante Aktion einen Prüfpunkt fest, der VOR der Ausführung greift, nicht danach.
Prüfe, ob dieser Prüfpunkt technisch erzwungen ist (z. B. über Permission-Regeln) oder nur als Bitte im Prompt steht – und korrigiere Letzteres.

✅ SELBST-CHECK

☐ Hast du für jede Aktion notiert, ob sie reversibel oder irreversibel ist?
☐ Liegt jeder Prüfpunkt vor der Ausführung, nicht danach?
☐ Ist jeder Prüfpunkt technisch erzwungen, statt nur eine Bitte im Prompt zu sein?

KURZ-QUIZ

Laut Human-in-the-Loop-Prinzip: Wann ist ein menschlicher Prüfpunkt vor einer Agenten-Aktion am wichtigsten?