Garde-fous et masquage
Sensitive Info Detection analyse ce que les utilisateurs envoient, ce que renvoient les outils et ce que répondent les modèles, et signale, masque ou bloque les numéros de carte, les identifiants, les numéros de téléphone et vos propres motifs avant qu'ils ne quittent votre espace de travail.
On colle de vraies données dans l’IA : le numéro de carte d’un client dans une demande de remboursement, une clé API dans un extrait de code, un numéro de téléphone dans un export du CRM. Les garde-fous interceptent ces données automatiquement. Sensitive Info Detection recherche les informations sensibles et les signale, les masque ou les bloque avant qu’elles ne quittent votre espace de travail ; chaque fois qu’il intervient, il laisse une trace dans le journal de confidentialité.
Les règles de garde-fous
Sur la page Workspace, ouvrez Guardrails. Deux règles protègent les chats, les prompts et les agents de votre espace de travail :
| Règle | Statut | Ce qu’elle fait |
|---|---|---|
| Sensitive Info Detection | Active | Détecte et masque les informations sensibles partagées dans les chats, les prompts et les agents. |
| Prompt Injection Detection | Coming soon | Détectera et bloquera les tentatives de détournement des instructions de vos agents et de vos prompts. |
Configurer Sensitive Info Detection
Sélectionnez Configure sur Sensitive Info Detection. Les réglages comportent quatre parties : où analyser, quoi rechercher, vos propres motifs, et un aperçu.
1. Zones d’analyse
Dans Scan surfaces, choisissez les parties d’une demande ou d’une réponse qui sont analysées. Désactivez toutes les zones pour désactiver la détection.
| Zone | Ce qu’elle couvre |
|---|---|
| User input | Ce que les utilisateurs saisissent et envoient. |
| Tool data | Ce que les outils et les intégrations renvoient au modèle, par exemple des contacts du CRM ou des lignes d’une base de données. |
| Model output | Ce que répond le modèle. |
2. Détecteurs intégrés
Dans Built-in detectors, chaque détecteur peut être activé ou désactivé individuellement, et réagit de la manière que vous choisissez.
| Détecteur | Ce qu’il repère |
|---|---|
| Payment data | Les numéros de carte bancaire et les IBAN. |
| Credentials | Les clés API, les jetons, les clés privées et les mots de passe présents dans du texte ou du code. |
| Email address | Les adresses e-mail. |
| Phone number | Les numéros de téléphone, au format international ou NANP (plan de numérotation nord-américain). |
| IP address | Les adresses IPv4. |
| Government ID | Les numéros d’identification officiels. |
Pour chaque détecteur activé, choisissez une action :
| Action | Ce qui se passe |
|---|---|
| Warn | Le texte passe tel quel, et la détection est consignée dans le journal de confidentialité. |
| Redact | La valeur sensible est remplacée par un espace réservé : le modèle ne la voit jamais. |
| Block | Le contenu est arrêté et ne passe pas. |
3. Motifs personnalisés
Sous Custom Patterns, ajoutez vos propres expressions régulières pour tout ce qui est propre à votre activité et que les détecteurs intégrés ne peuvent pas connaître : numéros de compte internes, matricules, noms de code de projets. Par exemple, un motif pour les numéros de compte client de Northwind :
NWC-\d{6}4. Aperçu
Utilisez Preview pour tester vos réglages sur un texte d’exemple avant de vous y fier : vous voyez ce qui est intercepté et ce qui passe.
Ce que reçoit le modèle
Avec Redact, le modèle reçoit un espace réservé à la place de la valeur, et travaille avec. Dans ce chat, le numéro de carte et l’IBAN sont devenus [payment_data] et le numéro de téléphone [phone]. Le modèle a tout de même rédigé un e-mail de remboursement utile, sans jamais voir les vrais numéros.
Il en va de même pour les données de vos intégrations. Si Model output ou Tool data est analysé, un numéro de téléphone issu de votre CRM revient sous la forme [phone] dans la réponse - voir le tableau des affaires dans CRM.
Une configuration de départ recommandée
| Réglage | Pour commencer | Pourquoi |
|---|---|---|
| User input | Activé | Intercepte ce que les utilisateurs collent. |
| Tool data | Activé, si vous utilisez des intégrations | Analyse les résultats du CRM et des bases de données avant que le modèle ne les voie. |
| Model output | Activé | Un dernier contrôle sur tout ce qui est affiché et envoyé. |
| Payment data | Redact | Le modèle a rarement besoin du vrai numéro pour faire son travail. |
| Credentials | Block | Un modèle n’a jamais besoin d’une vraie clé, et une clé divulguée représente un risque réel. |
| Phone number | Redact | Une donnée personnelle dont le modèle peut généralement se passer. |
| Government ID | Redact ou Block | Une donnée personnelle à haut risque. |
| Email address | Désactivé ou Warn | Les utilisateurs ont souvent besoin des adresses pour envoyer des e-mails et retrouver des contacts. Les masquer fait échouer ces demandes. |
| IP address | Désactivé ou Warn | À activer si vos équipes traitent des journaux ou des données réseau. |
Gardez cette configuration une semaine, puis consultez le journal de confidentialité. Si un détecteur génère souvent des entrées Warn, c’est le signe qu’il faut le passer en Redact ; si l’on se plaint qu’il manque aux réponses une information nécessaire, c’est le signe qu’il faut l’assouplir.