Guardrail e oscuramento
Sensitive Info Detection analizza ciò che le persone inviano, ciò che restituiscono gli strumenti e ciò che rispondono i modelli, e segnala, oscura o blocca numeri di carta, credenziali, numeri di telefono e i tuoi pattern personalizzati prima che escano dal workspace.
Le persone incollano dati reali nell’IA: il numero di carta di un cliente in una richiesta di rimborso, una chiave API in un frammento di codice, un numero di telefono in un’esportazione dal CRM. I guardrail intercettano tutto questo in automatico. Sensitive Info Detection cerca le informazioni sensibili e le segnala, le oscura o le blocca prima che escano dal tuo workspace, e ogni volta che interviene lascia una traccia nel Registro della privacy (AI Act).
Le policy dei guardrail
Nella pagina Workspace, apri Guardrails. Due policy proteggono chat, prompt e agenti del tuo workspace:
| Policy | Stato | Cosa fa |
|---|---|---|
| Sensitive Info Detection | Active | Rileva e oscura le informazioni sensibili condivise in chat, prompt e agenti. |
| Prompt Injection Detection | Coming soon | Rileverà e bloccherà i tentativi di manomettere le istruzioni dei tuoi agenti e prompt. |
Configurare Sensitive Info Detection
Seleziona Configure su Sensitive Info Detection. Le impostazioni si dividono in quattro parti: dove analizzare, cosa cercare, i tuoi pattern e un’anteprima.
1. Superfici di scansione
Scegli quali parti di una richiesta o di una risposta vengono analizzate. Disattiva tutte le superfici per disabilitare il rilevamento.
| Superficie | Cosa copre |
|---|---|
| User input | Ciò che le persone scrivono e inviano. |
| Tool data | Ciò che strumenti e integrazioni restituiscono al modello, ad esempio contatti del CRM o righe di un database. |
| Model output | Ciò che risponde il modello. |
2. Rilevatori integrati
Ogni rilevatore si attiva o si disattiva singolarmente e reagisce nel modo che scegli.
| Rilevatore | Cosa trova |
|---|---|
| Payment data | Numeri di carta di credito e IBAN. |
| Credentials | Chiavi API, token, chiavi private e password presenti nel testo o nel codice. |
| Email address | Indirizzi email. |
| Phone number | Numeri di telefono, in formato internazionale o NANP (nordamericano). |
| IP address | Indirizzi IPv4. |
| Government ID | Numeri di documenti di identità rilasciati dallo Stato. |
Per ogni rilevatore attivo, scegli un’azione:
| Azione | Cosa succede |
|---|---|
| Warn | Il testo passa invariato e il rilevamento viene annotato nel registro della privacy. |
| Redact | Il valore sensibile viene sostituito da un segnaposto, quindi il modello non lo vede mai. |
| Block | Il contenuto viene fermato e non passa. |
3. Pattern personalizzati
In Custom Patterns puoi aggiungere espressioni regolari per tutto ciò che è specifico della tua attività e che i rilevatori integrati non possono conoscere: numeri di conto interni, matricole dei dipendenti, nomi in codice dei progetti. Ad esempio, un pattern per i numeri di conto dei clienti Northwind:
NWC-\d{6}4. Anteprima
Usa Preview per provare le impostazioni su un testo di esempio prima di farvi affidamento, così vedi cosa viene intercettato e cosa passa.
Cosa riceve il modello
Con Redact, al posto del valore il modello riceve un segnaposto e lavora con quello. In questa chat, il numero di carta e l’IBAN sono diventati [payment_data] e il numero di telefono è diventato [phone]. Il modello ha comunque scritto un’email di rimborso utile, ma non ha mai visto i numeri reali.
Lo stesso vale per i dati delle integrazioni. Se analizzi Model output o Tool data, un numero di telefono preso dal CRM torna nella risposta come [phone]: guarda la tabella delle trattative in CRM.
Una configurazione iniziale consigliata
| Impostazione | Per iniziare | Perché |
|---|---|---|
| User input | Attivo | Intercetta ciò che le persone incollano. |
| Tool data | Attivo, se usi le integrazioni | Analizza i risultati di CRM e database prima che il modello li veda. |
| Model output | Attivo | Un ultimo controllo su tutto ciò che viene mostrato e inviato. |
| Payment data | Redact | Raramente il modello ha bisogno del numero reale per fare il suo lavoro. |
| Credentials | Block | Un modello non ha mai bisogno di una chiave reale, e una chiave trapelata è un rischio concreto. |
| Phone number | Redact | Dati personali di cui il modello di solito può fare a meno. |
| Government ID | Redact o Block | Dati personali ad alto rischio. |
| Email address | Disattivato o Warn | Spesso gli indirizzi servono per inviare email e cercare contatti. Oscurarli fa fallire queste richieste. |
| IP address | Disattivato o Warn | Attivalo se i tuoi team gestiscono log o dati di rete. |
Usa questa configurazione per una settimana, poi consulta il Registro della privacy (AI Act). Voci Warn frequenti per un rilevatore indicano che conviene passarlo a Redact; lamentele per risposte a cui manca qualcosa di necessario indicano che conviene allentarlo.