Zum Hauptinhalt springen

Wie der Agentenmodus funktioniert

TL;DR

In einem auf Flows basierenden Bot ist der Orchestrator ein Router: einmal pro Benutzerzug wählt er einen Flow aus, und der von Ihnen gezeichnete Flow erledigt alles andere. In einem Bot im Agentenmodus ist der Orchestrator der Bot: er arbeitet in einer Schleife, ruft Tools auf, betrachtet jedes Ergebnis und entscheidet selbst den nächsten Schritt. Niemand zeichnet den Pfad im Voraus.

Diese Seite bietet den konzeptionellen Hintergrund für den Agentenmodus. Sie ist für alle geschrieben, die bereits wissen, wie sich auf Flows basierende Bots verhalten, und verstehen möchten, was sich tatsächlich geändert hat – nicht in der Benutzeroberfläche, sondern darin, wie sich ein Gespräch entfaltet.

Der Unterschied auf einen Blick​

Flow-basierter Modus

der Orchestrator ist ein Router

Benutzernachricht

Orchestrator

wählt einen Ihrer Flows aus, einmal pro Zug

Bestellstatus

Termin

verschieben

Öffnungszeiten

der gewählte Flow führt seine Knoten aus

Formular: nach neuem Datum fragen

Aktion: neu buchen

Antwort: bestätigen

Bot-Antwort

Agentenmodus

der Orchestrator ist der Bot

Benutzer

Nachricht

Antwort

Orchestrator-Agent

handelt auf jedes Ergebnis

Tool-Aufruf

Ergebnis

Tools

Skript · HTTP

Wissenssuche

Websuche

Flow (optional)

fragt nach Eingabe → der Zug endet

die Nachricht geht erneut an den Orchestrator

Flow-basiert: Eine Entscheidung wählt einen Ihrer Flows aus, dann einen festen Pfad. Agentenmodus: Der Orchestrator ruft Tools auf, liest deren Ergebnisse und entscheidet erneut.

Beide Bots erhalten die gleiche Nachricht. Was sich unterscheidet, ist wer entscheidet, was als nächstes passiert, und wie oft diese Entscheidung getroffen wird.

  • Flow-basiert: Die Entscheidung wird einmal getroffen, zu Beginn des Zuges. Der Orchestrator sieht alle Ihre Flows - nur Namen und Beschreibungen - wählt genau einen von ihnen aus und tritt zur Seite. Der von Ihnen entworfene Flow folgt dann dem von Ihnen gezeichneten Pfad.
  • Agentenmodus: Die Entscheidung wird nach jedem einzelnen Schritt getroffen. Der Orchestrator ruft ein Tool auf, liest das zurückkommende Ergebnis, handelt darauf und entscheidet erneut - so oft, wie der Zug es benötigt. Es gibt keine Liste von Flows, zwischen denen gewählt werden kann, da alles, was der Bot tun kann, ein Tool ist, das er aufrufen kann.

Wie ein einzelner Zug abläuft​

Der klarste Weg, den Unterschied zu sehen, besteht darin, eine Anfrage zu verfolgen - "kann ich Termin #4711 auf Freitag verschieben?" - durch beide Arten von Bots.

In einem flow-basierten Bot​

In einem flow-basierten Bot ist der Pfad im Voraus gezeichnet - der Orchestrator entscheidet nur, welchen er gehen soll:

Benutzer

Orchestrator

Flow

„Kann ich Termin #4711 auf Freitag verschieben?“

wählt einen Flow aus: Termin verschieben

nach Name und Beschreibung

Formknoten

extrahiert Buchungsnummer

Formknoten

fragt nach Datum und Uhrzeit

„Welche Uhrzeit passt Ihnen am Freitag?“

der Zug endet hier — der Bot wartet auf den Benutzer

„09:00 am Freitag“

wählt denselben Flow erneut: Termin verschieben

der Flow wird an dem Knoten fortgesetzt, an dem er pausierte

Formknoten

extrahiert Datum und Uhrzeit

Aktionsknoten

neu buchen

Antwortknoten

bestätigen

„Erledigt — Sie sind für Freitag um 09:00 Uhr gebucht.“

der Flow hat keine weiteren Knoten — der Zug endet und der Bot wartet

Die gleiche Anfrage, bearbeitet von einem flow-basierten Bot. Der Orchestrator erscheint einmal pro Zug, ganz am Anfang.

Ausgeschrieben lauten die Mechaniken so:

  1. Der Benutzer schreibt eine Nachricht.
  2. Der Orchestrator erhält die Liste der Flows - nur Name und Beschreibung - und muss genau einen auswählen.
  3. Der gewählte Flow läuft Knoten für Knoten, bis er Benutzereingaben benötigt oder sein Ende erreicht. Jede Nachricht, die der Benutzer in diesem Zug sieht, stammt aus dem Flow - oder aus einem anderen Flow, den er durch einen Flow-Übergang Knoten einzieht.
  4. Bei der nächsten Benutzernachricht läuft der Orchestrator erneut.

Drei Konsequenzen sind es wert, sich zu merken, da sie genau das sind, was der Agentenmodus entfernt:

  • Der Orchestrator sieht das Gespräch, nicht die Maschinerie. Im nächsten Zug liest er die sichtbare Historie - einschließlich der Nachrichten, die der Flow gesendet hat - und er weiß, welchen Flow er zuletzt ausgewählt hat. Was er nicht sieht, ist was im Inneren passiert ist: welche Knoten gelaufen sind, was eine Aktion zurückgegeben hat oder warum der Flow gesagt hat, was er gesagt hat. Er routet, er überwacht nicht.
  • Ein Zug, ein Flow. Ein Benutzer, der zwei Dinge auf einmal fragt, bekommt eines davon bearbeitet, und nur der Flow-Autor kann für das andere planen.
  • Ein pausierter Flow wird nur fortgesetzt, wenn der Orchestrator ihn erneut auswählt. Nichts trägt den Flow über die Zuggrenze: Bei der nächsten Nachricht entscheidet der Orchestrator von Grund auf neu, und Sie müssen ihm vertrauen, dass er auf denselben Flow landet. Wenn die Antwort wie ein anderes Thema klingt, kann sie woanders hin routen und das halb fertige Formular bleibt, wo es war.

Im Agentenmodus​

Hier übergibt der Orchestrator nicht und verschwindet. Er arbeitet, sieht Ergebnisse und arbeitet weiter, bis der Zug wirklich beendet ist:

Benutzer

Orchestrator

Tools

„Kann ich Termin #4711 auf Freitag verschieben?“

„Einen Moment, ich schaue nach.“

ruft Tool look_up_booking auf

Ergebnis: Buchung #4711, Di 10:00

handelt auf das Ergebnis und entscheidet erneut

fragt „Welche Uhrzeit passt Ihnen am Freitag?“

der Zug endet hier — der Bot wartet auf den Benutzer

„09:00 am Freitag“

ruft Tool check_date_availability auf

Ergebnis: Freitag, 09:00 ist verfügbar

handelt auf das Ergebnis und entscheidet erneut

ruft Tool move_booking auf

Ergebnis: bestätigt für Freitag, 09:00

handelt auf das Ergebnis und entscheidet erneut

„Erledigt — Sie sind für Freitag um 09:00 Uhr gebucht.“

kein Tool-Aufruf folgt — der Zug endet und der Bot wartet

Der Orchestrator arbeitet eigenständig, bis er den Benutzer benötigt. Eine Frage zu stellen, beendet den Zug; die Antwort startet den nächsten.

Ausgeschrieben liest sich dieser Austausch so:

  1. Die Nachricht des Benutzers erreicht den Orchestrator.
  2. Der Orchestrator schreibt Text, wann immer er etwas sagen möchte.
  3. Er ruft ein Tool auf, wann immer er etwas benötigt: eine Abfrage, einen API-Aufruf, eine Suche in der Wissensdatenbank. Der Aufruf geht hinaus, das Ergebnis kommt in die Schleife zurück - nur für den Orchestrator sichtbar, niemals für den Benutzer - und er handelt auf dieses Ergebnis: antworten, das nächste Tool aufrufen oder den Benutzer nach dem noch fehlenden fragen.
  4. Er wiederholt das so oft, wie der Zug es benötigt. Drei Tools in einem Zug oder gar keine sind beide normal.
  5. Wenn er etwas benötigt, das nur der Benutzer ihm geben kann - ein Datum, eine Bestätigung - fragt er, und der Zug endet dort. Die Antwort des Benutzers eröffnet den nächsten Zug, und der Orchestrator setzt mit allem fort, was er bereits weiß, einschließlich der vorherigen Tool-Ergebnisse.
  6. Der Zug endet, wenn der Orchestrator fertig ist - nicht, wenn ein Diagramm keine Knoten mehr hat.

Für den Orchestrator ist alles ein Tool​

Die Benutzeroberfläche gruppiert Tools nach Typ, aber der Orchestrator sieht nur Funktionen, die er aufrufen kann, jede beschrieben durch einen Namen und eine Beschreibung. Was tatsächlich unterschiedlich ist, ist, was nach dem Aufruf passiert:

Der Orchestrator kann aufrufenWas es tutNach dem Aufruf
Skript oder HTTP-ToolFührt ein Skript aus oder ruft ein externes System aufErgebnis kommt in die Schleife zurück
Wissenssuche-ToolDurchsucht die Wissensdatenbank des Bots auf AnfrageErgebnis kommt in die Schleife zurück
WebsucheSucht etwas im Internet nachErgebnis kommt in die Schleife zurück
Anruf weiterleiten, an Live-Chat übergebenLeitet das Gespräch an ein Telefonziel oder den Live-Chat weiterDer Zug endet dort
AuflegenBeendet den Anruf, nachdem eine Verabschiedung gesprochen wurdeDer Anruf endet
Flows sind keine Tools

Ein Flow ist nie in dieser Liste. Kein Flow ist im Agentenmodus für den Orchestrator sichtbar oder aufrufbar. Flows existieren nur als ereignisgesteuerte Unterflows - der Fehlerflow, Gesprächsbeginn am Telefon, Anruf beendet, Gesprächsende im Chat - betreten durch das Ereignis und nichts anderes. Siehe Flows.

Was sich wohin bewegt​

Nichts, was Sie aus dem Flow-Building kennen, wird wertlos. Die Bausteine überleben; nur die Verkabelung zwischen ihnen verschwindet.

Sie haben dies in einem Flow gebaut

Im Agentenmodus wird es

Flownamen und Auslöserbeschreibungen

Orchestrator-Prompt

Formknoten, die Extraktionsfelder sammeln

Extraktionsfelder auf einem Tool

Aktionsknoten, die ein Skript ausführen

Skript-Tools und HTTP-Tools

RAG-Knoten für Wissensfragen

Wissenssuch-Tool

Antwortknoten und deren Formulierung

Die eigenen Worte des Orchestrators,

geformt durch die Persona

Die gleichen Bausteine, neu beschriftet. Was verschwindet, ist die Verkabelung - das ist jetzt die Aufgabe des Orchestrators.

  • Beschreibungen sind weiterhin wichtig. In einem Flow-Bot sagte die Flow-Beschreibung dem Orchestrator, wann er eintreten sollte. Im Agentenmodus sind der Name und die Beschreibung eines Tools der einzige Grund, warum es jemals aufgerufen wird. Schreiben Sie sie für die KI, präzise: was es tut und wann es verwendet werden soll.
  • Extraktionsfelder bleiben genau das, was sie waren: die Brücke zwischen freiem Gespräch und strukturierten Daten. Nur jetzt gehören sie zu einem Tool anstelle eines Formknotens, und der Orchestrator sammelt sie, indem er natürlich fragt, in seinen eigenen Worten.
  • Wissen wird angefragt, nicht injiziert. Ein Bot im Agentenmodus erreicht seine Wissensdatenbank über ein Wissenssuch-Tool - ein gewöhnliches Tool, das der Orchestrator aufruft, wenn er beurteilt, dass die Frage es benötigt, und dessen Ergebnis er dann wie jedes andere verarbeitet.
  • Formulierung wird beschrieben, nicht platziert. Ein Antwortknoten definierte, was der Bot sagen würde – genau an dem Punkt, an dem der Knoten saß. Im Agentenmodus schreibt der Orchestrator jede Antwort selbst, in seinen eigenen Worten und an dem Punkt, den er für richtig hält. Die Persona bestimmt den Ton, in dem er schreibt, der Orchestrator-Prompt legt fest, was er sagen darf und was nicht. Sie entscheiden nicht mehr, wo ein Satz erscheint – nur noch, wie der Bot ist und was er den Leuten sagen darf.

Wann ein Flow immer noch die richtige Antwort ist​

Der Agentenmodus ist die empfohlene Standardeinstellung, aber Autonomie ist nicht immer das, was Sie wollen. Greifen Sie zu einem Flow, wenn die Reihenfolge selbst die Anforderung ist:

  • rechtlich oder vertraglich festgelegte Abläufe, bei denen ein Schritt nicht übersprungen oder umgeordnet werden darf
  • Formulierungen, die wörtlich, an einer festen Position im Gespräch geliefert werden müssen
  • harte, datengetriebene Verzweigungen, die niemals neu interpretiert werden dürfen

Wenn das den Bot als Ganzes beschreibt, bauen Sie ihn flow-basiert - dafür ist der Modus da.

Eine Mischung der beiden ist nicht verfügbar. Ein Bot im Agentenmodus kann keinen Flow als Tool aufrufen: seine Flows werden nur durch Ereignisse betreten. Wenn ein ganzer Prozess auf einem garantierten festen Pfad laufen muss, gehört dieser Bot in den flow-basierten Modus.

Verwandte Dokumentation​

  • Agentenmodus - Konfiguration eines Bots im Agentenmodus, Tools, KI-Assistent und Rollback-Historie
  • Flows - der Flow-Editor und jeder Knotentyp
  • Extraktionsfelder - die strukturierten Werte hinter Tools und Formularen
  • Entwicklungs-Chat - Testen eines Bots während des Aufbaus