Ettevõte
Ülevaade
Tavaliselt läheb tehisintellekti vastus otse külastajale. Sisselülitatud klassifikaatoriga loeb teine, sõltumatu mudel iga vastuse kõigepealt läbi ja otsustab, kas seda on turvaline saata: kas robot peteti oma rollist välja, kas ta annab reguleeritud nõu, kas ta läheb teemasse, mille olete keelanud? Märgitud vastus ei jõua külastajani kunagi sellisena — see kirjutatakse üks kord ümber ja kui ka ümberkirjutus märgitakse, näidatakse hoopis teie varusõnumit.
Kuidas see töötab
- Tehisintellekt vastab nagu tavaliselt - põhimudelis ei muutu midagi
- Klassifikaator loeb mustandit - kiire teine mudel kontrollib seda teie lubatud kategooriate järgi
- Märgitud vastused saavad ühe ümberkirjutuse - rikkumine läheb tagasi põhimudelile, mis kirjutab parandatud vastuse, mida kontrollitakse uuesti
- Varusõnum viimase abinõuna - kui ka ümberkirjutus märgitakse, näeb külastaja teie turvalist varusõnumit
Vastuse mustand
Märgitud
Külastaja näeb
Parandatud vastus
Mida kontrollitakse
- Rollirikkumised ja prompt injection - alati aktiivne: robot täidab sõnumisse peidetud juhiseid, paljastab oma reeglid või hülgab toerolli
- Meditsiiniline nõu - diagnoos, ravi või annustamine; tooteinfo jääb lubatuks
- Õigusnõu - seaduse tõlgendamine külastaja olukorra jaoks; oma reeglite kirjeldamine jääb lubatuks
- Finantsnõu - investeerimis- või isiklikud rahandussoovitused; teie enda hinnad ja tasud jäävad lubatuks
- Teie keelatud teemad - vaba loend, mille kirjutate ise, üks teema rea kohta — siin määrate, mis on teie äri jaoks tundlik
Juhtumite logi
Iga märgistus salvestatakse seadete lehele: kategooria, klassifikaatori põhjendus, blokeeritud mustand ja see, mida külastaja selle asemel nägi. See on nii teie valehäirete häälestamise tööriist KUI KA auditijälg teie enda vastavusmeeskonnale. Juhtumite sisu läbib PII varjamise nagu iga salvestatud pind ning nullsäilituse režiimis jäävad alles ainult metaandmed — mitte mingit sõnumisisu.
Kui klassifikaator ise ebaõnnestub
Teine mudel on teine asi, mis võib aeguda. Teie valite, mis siis juhtub:
- Fail-open (vaikimisi) - toimetatakse kontrollimata vastus; võidab kättesaadavus
- Fail-closed - selle asemel näidatakse varusõnumit, saitidele, kus kontrollimata vastus on hullem kui mitte ühtegi
Hea teada
- See toimib ainult vastuse, mitte kunagi küsimuse põhjal - kui teie robot juba keeldub või vastab ohutult, ei märgita midagi, ja see on õige. Klassifikaator on turvavõrk harvale vastusele, mis läbi lipsab, mitte kontroll selle üle, mida külastaja küsis. Hästi käituva roboti murdmise katse ei näita tavaliselt ühtegi märgistust, sest robot tegeles sellega ise.
- Latentsus - kontroll lisab igale vastusele umbes pool sekundit ja märgitud vastus maksab lisaks täieliku ümberkirjutuse
- Mitte garantii - üks mudel hindab teist; see on täiendav sõltumatu kiht, mitte absoluutne tõke
- Testvestlus näitab otsuseid - töölaua testvestlus jõustab nagu reaalajas vidin ja ütleb, millal vastus märgiti; proovige oma robotit üle kavaldada
- Kirjutage varusõnum oma külastajate keeles - seda näidatakse sõna-sõnalt; sisseehitatud vaikimisi on inglise keeles
- Töötab koos teie tehisintellekti juhistega - juhised suunavad esimest mudelit, klassifikaator püüab selle, mis läbi lipsab; kasutage mõlemat
Märkus: Vastuste klassifikaator kuulub Enterprise-lepingu juurde. Kirjutage aadressil [email protected] ja selgitame kõike.