Warum ist ein KI-Agent ein Ablauf?
Ein KI-Agent erledigt eine Aufgabe in mehreren Schritten: Er ruft ein Sprachmodell auf, entscheidet über den nächsten Schritt, fragt Systeme ab, schreibt Ergebnisse zurück und wartet manchmal auf eine Bestätigung. Jeder dieser Schritte kann fehlschlagen oder lange dauern.
Damit stellen sich dieselben Fragen wie bei jedem Ablauf über mehrere Systeme: Was passiert, wenn mitten im Lauf ein Dienst ausfällt? Beginnt der Agent dann von vorn – und löst Aktionen ein zweites Mal aus? Und wer sieht später, was er getan hat?
Was geht ohne dauerhafte Steuerung schief?
Typische Probleme, wenn Agenten als einfache Skripte laufen:
- Abbruch nach vielen Schritten: Der Lauf beginnt von vorn, bereits bezahlte Modellaufrufe und erledigte Arbeit gehen verloren.
- Doppelte Aktionen: Eine E-Mail wird zweimal versendet, ein Datensatz zweimal angelegt.
- Hängende Läufe: Ein Agent wartet auf eine Antwort, die nie kommt, und niemand merkt es.
- Keine Nachvollziehbarkeit: Welche Werkzeuge der Agent mit welchem Ergebnis aufgerufen hat, lässt sich nachträglich kaum rekonstruieren.
Wie wird ein Agent zuverlässig?
Bewährt hat sich, den Agenten als dauerhaften Ablauf zu bauen: Die Steuerung – welcher Schritt als Nächstes kommt – ist der Ablauf; jeder Aufruf eines Sprachmodells oder Werkzeugs ist ein eigener Schritt mit Wiederholungen und Zeitlimit.
Fällt etwas aus, setzt der Lauf beim letzten erledigten Schritt fort. Ergebnisse früherer Schritte bleiben erhalten und werden nicht neu berechnet.
| Baustein | Wofür |
|---|---|
| Ein Schritt je Aufruf | Modell- und Werkzeugaufrufe einzeln wiederholbar, mit Zeitlimit |
| Wiederholungsregeln | vorübergehende Fehler abfangen, etwa eine Überlastung des Modelldienstes |
| Wartepunkt | auf eine Freigabe oder ein Ereignis von aussen warten – auch über Tage |
| Signal | einen laufenden Agenten anhalten, korrigieren oder abbrechen |
| Verlauf | jeder Schritt mit Zeitpunkt und Ergebnis nachvollziehbar |
Wo braucht es den Menschen?
Nicht jede Entscheidung sollte ein Agent allein treffen – vor allem dann nicht, wenn sie Personen betrifft, Geld bewegt oder sich nicht rückgängig machen lässt. Solche Schritte bekommen einen Wartepunkt: Der Agent bereitet vor, ein Mensch gibt frei, erst dann geht es weiter.
Auch die Regulierung verlangt das zunehmend: Die KI-Verordnung der EU schreibt für Hochrisiko-Systeme eine wirksame menschliche Aufsicht vor. Ein Ablauf mit Wartepunkten und Verlauf macht diese Aufsicht im Betrieb überprüfbar.
Und die Daten?
Agenten verarbeiten oft Personendaten – in Prompts, Zwischenergebnissen und Protokollen. Schon in der Architektur sollte feststehen, welche Daten an welchen Modelldienst gehen, wo Zwischenergebnisse gespeichert und wann sie gelöscht werden.
Für gespeicherte KI-Daten wie Prompts und Transkripte hat unser Produkt Espresso Data Privacy ein eigenes Modul: AI Privacy Control.