Védőkorlátok és kitakarás
A Sensitive Info Detection átvizsgálja, amit a felhasználók elküldenek, amit az eszközök visszaadnak és amit a modellek válaszolnak, majd figyelmeztet, kitakar vagy letilt, ha kártyaszámot, hozzáférési adatot, telefonszámot vagy a saját mintáidnak megfelelő adatot talál, még mielőtt az elhagyná a munkaterületedet.
Az AI-ba gyakran valódi adatok kerülnek: egy visszatérítési kérésbe az ügyfél kártyaszáma, egy kódrészletbe egy API-kulcs, egy CRM-exportba egy telefonszám. A védőkorlátok ezt automatikusan észreveszik. A Sensitive Info Detection (érzékeny adatok felismerése) szabályzat érzékeny adatokat keres, és még azelőtt figyelmeztet rájuk, kitakarja vagy letiltja őket, hogy elhagynák a munkaterületedet. Minden beavatkozásáról bejegyzés kerül az adatvédelmi naplóba.
A védőkorlátok szabályzatai
A Workspace oldalon nyisd meg a Guardrails fület. A munkaterület chatjeit, promptjait és ügynökeit két szabályzat védi:
| Szabályzat | Állapot | Mit csinál |
|---|---|---|
| Sensitive Info Detection | Active | Felismeri és kitakarja a chatekben, promptokban és ügynökökben megosztott érzékeny adatokat. |
| Prompt Injection Detection | Coming soon | Felismeri és letiltja majd azokat a kísérleteket, amelyek el akarják téríteni az ügynökeid és a promptjaid utasításait. |
A Sensitive Info Detection beállítása
Kattints a Sensitive Info Detection mellett a Configure gombra. A beállítások négy részből állnak: hol keressen a rendszer, mit keressen, milyen saját mintákat használjon, és egy előnézet.
1. Vizsgált felületek
Válaszd ki, hogy a kérés vagy a válasz mely részeit vizsgálja a rendszer. Ha az összes felületet kikapcsolod, azzal a felismerést is kikapcsolod.
| Felület | Mire terjed ki |
|---|---|
| User input | Amit a felhasználók beírnak és elküldenek. |
| Tool data | Amit az eszközök és az integrációk visszaadnak a modellnek, például a CRM kapcsolattartói vagy adatbázissorok. |
| Model output | Amit a modell válaszol. |
2. Beépített felismerők
Minden felismerő külön kapcsolható be és ki, és úgy reagál, ahogyan beállítod.
| Felismerő | Mit talál meg |
|---|---|
| Payment data | Hitelkártyaszámokat és IBAN-számokat. |
| Credentials | Szövegben vagy kódban szereplő API-kulcsokat, tokeneket, privát kulcsokat és jelszavakat. |
| Email address | E-mail-címeket. |
| Phone number | Telefonszámokat nemzetközi vagy NANP (észak-amerikai) formátumban. |
| IP address | IPv4-címeket. |
| Government ID | Hatósági azonosítószámokat. |
Minden bekapcsolt felismerőhöz válassz egy műveletet:
| Művelet | Mi történik |
|---|---|
| Warn | A szöveg változatlanul továbbmegy, a találat pedig bekerül az adatvédelmi naplóba. |
| Redact | Az érzékeny érték helyére helyőrző kerül, így a modell soha nem látja. |
| Block | A rendszer megállítja a tartalmat, az nem jut tovább. |
3. Egyéni minták
A Custom Patterns résznél saját reguláris kifejezéseket adhatsz meg mindarra, ami a vállalkozásodra jellemző, és amiről a beépített felismerők nem tudhatnak: belső számlaszámokra, munkavállalói azonosítókra, projektek kódneveire. Ez a minta például a Northwind ügyfélszámait ismeri fel:
NWC-\d{6}4. Előnézet
A Preview résszel mintaszövegen próbálhatod ki a beállításaidat, mielőtt élesben számítanál rájuk. Így látod, mit fog meg a rendszer, és mi jut át rajta.
Mit kap meg a modell?
A Redact beállítással a modell az érték helyén egy helyőrzőt kap, és azzal dolgozik. Ebben a chatben a kártyaszámból és az IBAN-számból [payment_data], a telefonszámból [phone] lett. A modell így is használható visszatérítési e-mailt írt, a valódi számokat viszont egyszer sem látta.
Ugyanez érvényes az integrációkból érkező adatokra is. Ha a Model output vagy a Tool data felületet is vizsgálod, a CRM-ből származó telefonszám [phone] formában jelenik meg a válaszban. Erre példa a CRM oldalon az üzleteket mutató táblázat.
Javasolt kiinduló beállítás
| Beállítás | Kezdd ezzel | Miért |
|---|---|---|
| User input | Be | Elkapja, amit a felhasználók bemásolnak. |
| Tool data | Be, ha integrációkat használsz | Átvizsgálja a CRM- és adatbázis-eredményeket, mielőtt a modell látná őket. |
| Model output | Be | Utolsó ellenőrzés mindenen, amit a rendszer megjelenít vagy elküld. |
| Payment data | Redact | A modellnek ritkán van szüksége a valódi számra a feladathoz. |
| Credentials | Block | A modellnek soha nincs szüksége valódi kulcsra, egy kiszivárgott kulcs viszont valódi kockázat. |
| Phone number | Redact | Személyes adat, amely nélkül a modell általában el tudja végezni a munkát. |
| Government ID | Redact vagy Block | Magas kockázatú személyes adat. |
| Email address | Ki vagy Warn | Az e-mail-küldéshez és a kapcsolattartók kikereséséhez gyakran kellenek a címek. Ha kitakarod őket, ezek a kérések nem működnek. |
| IP address | Ki vagy Warn | Kapcsold be, ha a csapataid naplókkal vagy hálózati adatokkal dolgoznak. |
Használd így egy hétig, aztán nézd át az adatvédelmi naplót. Ha egy felismerő gyakran figyelmeztet (Warn), érdemes Redact beállításra váltani. Ha arra panaszkodnak, hogy a válaszokból hiányzik valami, amire szükség lenne, lazíts rajta.