Guardrails und Schwärzung

Sensitive Info Detection prüft, was Personen senden, was Tools zurückgeben und was Modelle antworten. Kartennummern, Zugangsdaten, Telefonnummern und Ihre eigenen Muster werden gemeldet, geschwärzt oder blockiert, bevor sie Ihren Workspace verlassen.

Menschen fügen echte Daten in KI-Chats ein: eine Erstattungsanfrage mit der Kartennummer eines Kunden, einen Codeausschnitt mit einem API-Schlüssel, einen CRM-Export mit einer Telefonnummer. Guardrails fangen so etwas automatisch ab. Sensitive Info Detection sucht nach sensiblen Informationen und warnt, schwärzt oder blockiert sie, bevor sie Ihren Workspace verlassen. Jedes Mal, wenn die Funktion eingreift, entsteht ein Eintrag im Datenschutzprotokoll.

Sensitive Info Detection schwärzt Kartennummern, eine IBAN und eine Telefonnummer.

Die Guardrail-Richtlinien

Öffnen Sie auf der Seite Workspace den Bereich Guardrails. Zwei Richtlinien schützen die Chats, Prompts und Agenten Ihres Workspace:

Richtlinie	Status	Funktion
Sensitive Info Detection	Active	Erkennt und schwärzt sensible Informationen, die in Chats, Prompts und Agenten geteilt werden.
Prompt Injection Detection	Coming soon	Wird Versuche erkennen und blockieren, die Anweisungen Ihrer Agenten und Prompts auszuhebeln.

Der Tab Guardrails mit Sensitive Info Detection im Status Active und Prompt Injection Detection im Status Coming soon

Sensitive Info Detection einrichten

Klicken Sie bei Sensitive Info Detection auf Configure. Die Einstellungen bestehen aus vier Teilen: wo geprüft wird, wonach gesucht wird, Ihre eigenen Muster und eine Vorschau.

Einstellungen von Sensitive Info Detection: die Prüfbereiche User input, Tool data und Model output sowie die integrierten Detektoren, mit Payment data auf Redact, Credentials auf Block, Phone number auf Redact und ausgeschalteten Detektoren Email address und IP address

1. Prüfbereiche (Scan surfaces)

Legen Sie fest, welche Teile einer Anfrage oder Antwort geprüft werden. Schalten Sie alle Bereiche aus, um die Erkennung zu deaktivieren.

Bereich	Was er abdeckt
User input	Was Personen eingeben und senden.
Tool data	Was Tools und Integrationen an das Modell zurückgeben, etwa CRM-Kontakte oder Datenbankzeilen.
Model output	Was das Modell antwortet.

2. Integrierte Detektoren (Built-in detectors)

Jeder Detektor lässt sich einzeln ein- und ausschalten und reagiert so, wie Sie es festlegen.

Detektor	Was er findet
Payment data	Kreditkartennummern und IBANs.
Credentials	API-Schlüssel, Tokens, private Schlüssel und Passwörter in Text oder Code.
Email address	E-Mail-Adressen.
Phone number	Telefonnummern im internationalen oder im nordamerikanischen NANP-Format.
IP address	IPv4-Adressen.
Government ID	Amtliche Identifikationsnummern.

Wählen Sie für jeden aktivierten Detektor eine Aktion:

Aktion	Was passiert
Warn	Der Text geht unverändert durch, und der Fund wird im Datenschutzprotokoll festgehalten.
Redact	Der sensible Wert wird durch einen Platzhalter ersetzt, das Modell sieht ihn also nie.
Block	Der Inhalt wird gestoppt und nicht weitergegeben.

3. Eigene Muster (Custom Patterns)

Unter Custom Patterns fügen Sie eigene reguläre Ausdrücke für alles hinzu, was speziell Ihr Unternehmen betrifft und was die integrierten Detektoren nicht kennen können: interne Kontonummern, Personalnummern, Codenamen von Projekten. Zum Beispiel ein Muster für die Kundenkontonummern von Northwind:

NWC-\d{6}

4. Vorschau (Preview)

Testen Sie Ihre Einstellungen mit Preview an einem Beispieltext, bevor Sie sich darauf verlassen. So sehen Sie, was erkannt wird und was durchgeht.

Was beim Modell ankommt

Mit Redact erhält das Modell an der Stelle des Werts einen Platzhalter und arbeitet damit weiter. In diesem Chat wurden Kartennummer und IBAN zu [payment_data] und die Telefonnummer zu [phone]. Das Modell hat trotzdem eine brauchbare Erstattungs-E-Mail geschrieben, die echten Nummern aber nie gesehen.

Ein Chat, in dem Kartennummer, IBAN und Telefonnummer aus der Nachricht durch [payment_data] und [phone] ersetzt wurden, bevor sie Claude Opus 5.5 erreichten; die entworfene E-Mail verweist auf die Platzhalter

Dasselbe gilt für Daten aus Ihren Integrationen. Werden Model output oder Tool data geprüft, kommt eine Telefonnummer aus Ihrem CRM in der Antwort als [phone] zurück - siehe die Deal-Tabelle unter CRM.

Eine empfohlene Ausgangskonfiguration

Einstellung	Empfohlener Start	Warum
User input	Ein	Fängt ab, was Personen einfügen.
Tool data	Ein, wenn Sie Integrationen nutzen	Prüft CRM- und Datenbankergebnisse, bevor das Modell sie sieht.
Model output	Ein	Eine letzte Kontrolle für alles, was angezeigt und gesendet wird.
Payment data	Redact	Das Modell braucht für seine Aufgabe selten die echte Nummer.
Credentials	Block	Ein Modell braucht nie einen echten Schlüssel, und ein abgeflossener Schlüssel ist ein echtes Risiko.
Phone number	Redact	Personenbezogene Daten, ohne die das Modell meist auskommt.
Government ID	Redact oder Block	Personenbezogene Daten mit hohem Risiko.
Email address	Aus oder Warn	Adressen werden oft gebraucht, um E-Mails zu senden und Kontakte nachzuschlagen. Werden sie geschwärzt, scheitern diese Anfragen.
IP address	Aus oder Warn	Schalten Sie den Detektor ein, wenn Ihre Teams mit Logs oder Netzwerkdaten arbeiten.

Arbeiten Sie eine Woche lang mit dieser Konfiguration und sehen Sie sich dann das Datenschutzprotokoll an. Häufige Einträge mit Warn bei einem Detektor sprechen dafür, ihn auf Redact umzustellen; Beschwerden, dass in Antworten etwas Benötigtes fehlt, sprechen dafür, ihn zu lockern.

Datenschutzprotokoll (AI Act) Jede Auslösung und jede Richtlinienänderung, filterbar und exportierbar. Datenresidenz Wo Daten gespeichert werden und welche Endpunkte sie verarbeiten dürfen.