Zum Hauptinhalt springen

Guardrails

Wo im UI zu finden​

  • Sidebar: "Guardrails"
  • Tab: "Guardrails"

Zweck​

Guardrails schützen Anfragen bevor sie an einen LLM-Anbieter gesendet werden.
Sie werden verwendet, um sensible Informationen zu maskieren, unsichere Eingaben zu blockieren und Sicherheitsrichtlinien durchzusetzen.

Alle Guardrails in LLMrouter arbeiten derzeit im Vorverarbeitungsmodus.

Guardrail-Typen​

LLMrouter unterstützt mehrere Guardrail-Typen, einschließlich Anonymisierungs- und Inhalts-Sicherheitsmechanismen.

→ Guardrail-Details ansehen

Anfangszustand​

Beim ersten Aufrufen der Guardrails-Seite:

  • Sind standardmäßig keine Guardrails API-Schlüsseln zugewiesen
  • Sind Guardrails inaktiv, bis sie explizit zugewiesen werden
Guardrails ÜbersichtGuardrails Übersicht

Abbildung 1: Guardrails Übersicht

Guardrail erstellen​

Um eine neue Guardrail zu erstellen:

  1. Klicken Sie auf Guardrail erstellen
  2. Geben Sie einen Namen und eine Beschreibung ein
  3. Wählen Sie den Guardrail-Typ
  4. Wählen Sie den Modus
  5. Speichern Sie die Guardrail
Dialog Guardrail erstellenDialog Guardrail erstellen

Abbildung 2: Dialog Guardrail erstellen

Guardrails auf API-Schlüssel anwenden​

Guardrails werden pro API-Schlüssel durchgesetzt.
Um eine Guardrail zu aktivieren, muss sie explizit einem oder mehreren API-Schlüsseln zugewiesen werden.

Wo anwenden​

Sie können eine Guardrail direkt aus der Guardrails-Übersicht anwenden:

  1. Öffnen Sie Guardrails.
  2. Suchen Sie die Guardrail, die Sie anwenden möchten.
  3. Klicken Sie auf das Aktionsmenü.
  4. Wählen Sie Auf API-Schlüssel anwenden.
API-Schlüssel Guardrails zuweisenAPI-Schlüssel Guardrails zuweisen

Abbildung 4: Zugriff auf „Auf API-Schlüssel anwenden“ aus der Guardrails-Liste

Anwendungs-Dialog​

Der Dialog „Guardrail auf API-Schlüssel anwenden“ ermöglicht es, die ausgewählte Guardrail mehreren API-Schlüsseln gleichzeitig zuzuweisen oder zu entziehen.

API-Schlüssel Guardrails zuweisenAPI-Schlüssel Guardrails zuweisen

Abbildung 5: API-Schlüssel Optionen

  • Die Liste zeigt alle verfügbaren API-Schlüssel
  • Sie können API-Schlüssel suchen.
  • Wählen Sie API-Schlüssel aus und klicken Sie auf Speichern.

Guardrails einem API-Schlüssel zuweisen​

Um eine Guardrail zuzuweisen:

  1. Navigieren Sie im LLMrouter-Dashboard zum Abschnitt „API-Schlüssel-Zuweisung“.
  2. Suchen Sie den API-Schlüssel, dem Sie die Guardrail zuweisen möchten.
  3. Klicken Sie auf das Aktionsmenü.
  4. Klicken Sie auf „Guardrail für diesen API-Schlüssel verwalten“.
Guardrails API-Schlüssel zuweisenGuardrails API-Schlüssel zuweisen

Abbildung 6: Guardrail Optionen

Nach dem Speichern:

  • Wird die Guardrail für die ausgewählten API-Schlüssel aktiv.
  • Alle Anfragen mit diesen Schlüsseln werden anhand der Guardrail überprüft.
  • Die Guardrail wird sofort angewandt.

Guardrails von API-Schlüsseln entfernen​

Um eine Guardrail von einem API-Schlüssel zu entfernen:

  1. Deaktivieren Sie im Dialog das Kontrollkästchen für den API-Schlüssel, von dem Sie die Guardrail entfernen möchten
  2. Klicken Sie auf Speichern

Die Guardrail wird unmittelbar nach dem Speichern vom API-Schlüssel entfernt.