Zum Hauptinhalt springen

Anbieterverwaltung

TL;DR

Erstellen und konfigurieren Sie den globalen Pool von KI-Anbietern (Chat, Embedding, STT, TTS), der allen Bots zur Verfügung steht. Einzelne Bots aktivieren dann Anbieter aus diesem Pool auf ihrer Seite Aktivierte Anbieter.

Die Seite Anbieterverwaltung ist die Verwaltungsebene für alle KI-Anbieter auf Mieterebene. Hier erstellte Anbieter stehen als gemeinsamer Pool zur Verfügung, den einzelne Bots dann aktivieren und Rollen zuweisen können (siehe Aktivierte Anbieter).

Anbieter sind in vier Abschnitte unterteilt: Chat, Embedding, STT (Speech-to-Text) und TTS (Text-to-Speech). Jede Zeile zeigt das Symbol des Anbieters, den Titel, das Datum der letzten Änderung, den Namen des Bereitstellungsmodells, ein System-Abzeichen, falls zutreffend, und einen Statusindikator.

Statusindikatoren​

AnbietertypIndikatorBedeutung
Chat / EmbeddingGrüner HakenAnbieter ist erreichbar und gesund
Chat / EmbeddingGelbes DreieckAnbieter ist nicht erreichbar oder falsch konfiguriert
STT / TTSGrüner HakenMit dem Telefonserver synchronisiert
STT / TTSSanduhrSynchronisation ausstehend
STT / TTSRotes ×Synchronisation fehlgeschlagen
STT / TTSGelbes DreieckKonfiguration geändert, erneute Synchronisation erforderlich

Erstellen eines Anbieters​

Klicken Sie auf Erstellen, um den Erstellungsdialog zu öffnen. Füllen Sie Folgendes aus:

  1. API-Typ — Chat, Embedding, STT oder TTS
  2. Anbietertyp — der zugrunde liegende Dienst:
    • Chat / Embedding: OpenAI, Azure OpenAI, Together AI, fireworks.ai, Custom
    • STT: Google Speech-to-Text, Azure Speech Services, botario Speech
    • TTS: Google Text-to-Speech, Azure Speech Services, ElevenLabs, botario
  3. Allgemeine Einstellungen — Titel, API-Schlüssel, Endpunkt-URL, Modellname (oder Sprachname für TTS)

Je nach Anbietertyp erscheinen zusätzliche Optionen:

  • Azure (Chat / Embedding): API-Version; optional Microsoft Entra ID-Authentifizierung (Mandanten-ID, Client-ID, Client-Geheimnis, Umfang)
  • Chat: Umschalter für das Reasoning-Modell mit frei eingebbarer Aufwandstufe (z. B. none, minimal, low, medium, high, xhigh – welche Werte unterstützt werden, hängt vom Modell ab); Benutzerdefinierte Parameter (JSON, direkt an LiteLLM übergeben)
  • Embedding mit Typ custom: Botario Embedding Model-Flag
  • STT: Sprachcode, Region (Azure), Obszönitätenfilter, Interpunktionsumschalter, Wartezeit nach Sprache
  • TTS: Sprachcode, Sprechgeschwindigkeit, Tonhöhe, Geschlecht (Google), Sprachmodell (ElevenLabs, botario), Ähnlichkeitsverstärkung und Stabilität (ElevenLabs)

Nach dem Ausfüllen des Formulars verwenden Sie Einstellungen testen, um die Anmeldeinformationen vor dem Speichern zu validieren. Für Chat-Anbieter zeigt der Test auch, welche Fähigkeiten das Modell unterstützt (normaler Chat, Antwortmodellformat, Werkzeugaufruf).

Bearbeiten eines Anbieters​

Klicken Sie auf eine beliebige Zeile, um den Bearbeitungsdialog zu öffnen. Für Systemanbieter (gekennzeichnet mit einem System-Abzeichen) sind der Anbietertyp, API-Typ, URL und Bereitstellungsname schreibgeschützt — nur der Titel, der API-Schlüssel, das Reasoning-Modell-Flag und benutzerdefinierte Parameter können geändert werden. Für benutzerdefinierte Anbieter sind alle Felder außer Typ und API bearbeitbar.

Löschen eines Anbieters​

Öffnen Sie einen Anbieter und klicken Sie auf Löschen. Wenn der Anbieter derzeit einem Bot zugewiesen ist (als Standard, Orchestrator, Autocomplete oder in einer aktivierten Rolle), wird das Löschen blockiert und die betroffenen Bots werden aufgelistet. Entfernen Sie den Anbieter zuerst von diesen Bots auf ihrer Seite Aktivierte Anbieter.