Drei Checks, bevor du einem KI-Agenten glaubst

Die Geschichte dahinter ist unangenehm alltäglich: Ein KI-Agent hängt eine Datei an eine E-Mail, meldet Vollzug – und es ist die falsche Datei, eine veraltete Version. Der US-Stratege Nate B. Jones, von dem diese Technik stammt, hätte fast auf Senden gedrückt; aufgefallen ist ihm der Fehler nur, weil ihm zufällig eine Zahl komisch vorkam. Sein ehrliches Fazit: Ein Zufall ist keine Kontrolle. Und bevor du denkst, das betrifft dich nicht – wenn dein KI-Tool Dateien schreibt, Mails verschickt, im Web klickt oder Code ausführt, betreibst du einen Agenten. Egal, wie das Produkt sich nennt.

Die Technik

Ein Kontrollrahmen aus einer Vorfrage und drei Checks, der vor jeder Freigabe läuft – in unter einer Minute:

Vorfrage: Beschreibe die Aufgabe, ohne das Wort „fertig“ zu verwenden. Check 1: War der Auftrag eindeutig? · Check 2: Hat der Agent das richtige Ziel verfolgt? · Check 3: Stimmt das Ergebnis selbst?

Schritt für Schritt

1. Vor dem Start – die Vorfrage: Formuliere die Aufgabe so, dass das prüfbare Ergebnis drinsteht, nicht der Abschluss. Statt „Erledige den Mailversand an den Kunden": „Die Mail an Kunde X enthält das Angebot in Version 3 als PDF." Wer „fertig" nicht verwenden darf, muss benennen, woran Erfolg erkennbar ist.
2. Check 1 – der Auftrag: Lies deine Aufgabenstellung noch einmal. Würde ein neuer Kollege damit zweifelsfrei wissen, was zu tun ist? Wenn nein, war jedes Ergebnis Glückssache – nachschärfen und neu laufen lassen.
3. Check 2 – der Weg: Überfliege, was der Agent getan hat: Welche Dateien hat er angefasst, welche Werkzeuge aufgerufen, welche Zwischenschritte gemeldet? Du suchst keine Details, sondern Abzweigungen – hat er am richtigen Objekt gearbeitet?
4. Check 3 – das Werk: Prüfe das Ergebnis selbst, nicht die Erfolgsmeldung. Öffne den Anhang, prüfe die Version, rechne eine Zahl nach. Dreißig Sekunden im Artefakt schlagen jede noch so überzeugende „Erledigt"-Meldung.
5. Erst wenn alle drei Checks bestanden sind: senden, freigeben, buchen.

Warum das funktioniert

Agenten sind darauf trainiert, Aufgaben abzuschließen – „Erledigt" ist deshalb eine Behauptung, kein Beweis. Und anders als beim Chatbot, dessen Halluzination nur im Chatfenster steht, handelt ein Agent real: Die falsche Datei ist wirklich angehängt, die Mail wirklich versendet. Die drei Checks verschieben dein Vertrauen von der Selbstauskunft des Modells auf das überprüfbare Werk – und genau dorthin gehört es.

Stolperfallen

• Routine statt Glück: Der Fehler oben wurde durch Zufall entdeckt. Mach die Checks zum festen Handgriff vor jedem Senden-Klick – nicht zu etwas, das du machst, wenn dir etwas komisch vorkommt.
• Aufwand nach Risiko dosieren: Nicht jede Aufgabe braucht alle drei Checks in voller Tiefe. Faustregel: Je schwerer eine Aktion rückholbar ist – Mail raus, Zahlung ausgelöst, Inhalt veröffentlicht – desto härter prüfen.
• Bei Dauerbetrieb: Checks in den Prozess bauen. Sobald Agenten regelmäßig für dich arbeiten, gehören die Prüfungen in den Ablauf selbst – als Freigabeschritt oder prüfende Zweitinstanz – statt in dein Gedächtnis.

Die Technik stammt aus dem lesenswerten Newsletter von Nate B. Jones. Und wenn du Agenten nicht nur kontrollieren, sondern mit sauberen Rollen, Rechten und Freigaben in deine Abläufe einbauen willst: Genau solche Leitplanken entwickeln wir gemeinsam im Angebot Umsetzen. Einen neuen Impuls wie diesen gibt es außerdem jede Woche im Newsletter – Anmeldung direkt hier unten.