Įmonė
Apžvalga
Paprastai DI atsakymas keliauja tiesiai lankytojui. Įjungus klasifikatorių, antras nepriklausomas modelis pirmiausia perskaito kiekvieną atsakymą ir nusprendžia, ar saugu jį siųsti: ar robotas buvo apgautas išeiti iš vaidmens, ar teikia reguliuojamus patarimus, ar liečia jūsų uždraustą temą? Pažymėtas atsakymas niekada nepasiekia lankytojo toks, koks yra — jis vieną kartą perrašomas, o jei pažymimas ir perrašymas, vietoje jo rodoma jūsų atsarginė žinutė.
Kaip tai veikia
- DI atsako kaip įprasta - pagrindiniame modelyje niekas nesikeičia
- Klasifikatorius skaito juodraštį - greitas antras modelis tikrina jį pagal įjungtas kategorijas
- Pažymėti atsakymai gauna vieną perrašymą - pažeidimas grąžinamas pagrindiniam modeliui, kuris parašo pataisytą atsakymą, tikrinamą iš naujo
- Atsarginė žinutė kaip paskutinė priemonė - jei pažymimas ir perrašymas, lankytojas mato jūsų saugią atsarginę žinutę
Atsakymo juodraštis
Pažymėta
Lankytojas mato
Pataisytas atsakymas
Kas tikrinama
- Vaidmens pažeidimai ir prompt injection - visada aktyvu: robotas vykdo žinutėje paslėptas instrukcijas, atskleidžia savo taisykles ar palieka pagalbos vaidmenį
- Medicininiai patarimai - diagnozė, gydymas ar dozavimas; informacija apie produktus lieka leidžiama
- Teisiniai patarimai - įstatymo aiškinimas lankytojo situacijai; savo taisyklių išdėstymas lieka leidžiamas
- Finansiniai patarimai - investavimo ar asmeninių finansų rekomendacijos; jūsų pačių kainos ir mokesčiai lieka leidžiami
- Jūsų draudžiamos temos - laisvas sąrašas, kurį rašote jūs, po vieną temą eilutėje — čia apibrėžiate, kas jautru jūsų verslui
Incidentų žurnalas
Kiekvienas žymėjimas registruojamas nustatymų puslapyje: kategorija, klasifikatoriaus pagrindimas, užblokuotas juodraštis ir tai, ką lankytojas matė vietoje jo. Tai ir jūsų klaidingų aliarmų derinimo įrankis, IR audito pėdsakas jūsų atitikties komandai. Incidentų turinys pereina PII maskavimą kaip kiekvienas saugomas paviršius, o nulinio saugojimo režime lieka tik metaduomenys — jokio žinučių turinio.
Jei sugenda pats klasifikatorius
Antras modelis — tai antras dalykas, kuris gali viršyti laiką. Jūs renkatės, kas tada vyksta:
- Fail-open (numatytasis) - pristatomas nepatikrintas atsakymas; laimi prieinamumas
- Fail-closed - vietoje jo rodoma atsarginė, svetainėms, kur nepatikrintas atsakymas blogiau nei jokio
Verta žinoti
- Jis veikia tik atsakymą, niekada ne klausimą - jei jūsų robotas jau atsisako arba atsako saugiai, niekas nežymima, ir tai teisinga. Klasifikatorius yra apsauginis tinklas retam atsakymui, kuris prasprūsta, o ne tikrinimas, ko klausė lankytojas. Bandymas apgauti gerai besielgiantį robotą paprastai nerodys jokio žymėjimo, nes robotas susitvarkė pats.
- Delsa - patikra prideda kiekvienam atsakymui maždaug pusę sekundės, o pažymėtas atsakymas papildomai kainuoja visą perrašymą
- Ne garantija - vienas modelis vertina kitą; tai papildomas nepriklausomas sluoksnis, ne absoliutus barjeras
- Testavimo pokalbis rodo verdiktus - valdymo skydelio testavimo pokalbis taiko kaip gyvas valdiklis ir pasako, kada atsakymas pažymėtas; pabandykite pergudrauti savo paties robotą
- Rašykite atsarginę žinutę savo lankytojų kalba - ji rodoma pažodžiui; įtaisytoji numatytoji yra anglų kalba
- Veikia kartu su jūsų DI instrukcijomis - instrukcijos kreipia pirmą modelį, klasifikatorius pagauna tai, kas prasprūsta; naudokite abu
Pastaba: Atsakymų klasifikatorius yra Enterprise sutarties dalis. Rašykite adresu [email protected] ir viską paaiškinsime.