Podjetniški
Pregled
Običajno gre odgovor UI naravnost k obiskovalcu. Z vklopljenim klasifikatorjem drugi, neodvisni model najprej prebere vsak odgovor in odloči, ali ga je varno poslati: so bota pretentali, da je izstopil iz vloge, daje regulirane nasvete, se dotika teme, ki ste jo prepovedali? Označen odgovor nikoli ne doseže obiskovalca tak, kot je — enkrat se prepiše, in če je označen tudi prepis, se namesto njega pokaže vaše nadomestno sporočilo.
Kako deluje
- UI odgovarja kot običajno - pri glavnem modelu se nič ne spremeni
- Klasifikator prebere osnutek - hiter drugi model ga preveri glede na vklopljene kategorije
- Označeni odgovori dobijo en prepis - kršitev se vrne glavnemu modelu, ki napiše popravljen odgovor, ki se preveri znova
- Nadomestno kot zadnja možnost - če je označen tudi prepis, obiskovalec vidi vaše varno nadomestno sporočilo
Osnutek odgovora
Označen
Obiskovalec vidi
Popravljen odgovor
Kaj preverja
- Kršitve vloge in prompt injection - vedno aktivno: bot uboga navodila, skrita v sporočilu, razkriva lastna pravila ali zapusti podporno vlogo
- Zdravstveni nasveti - diagnoza, zdravljenje ali odmerjanje; informacije o izdelkih ostajajo dovoljene
- Pravni nasveti - razlaga zakona za obiskovalčev položaj; navajanje lastnih pravil ostaja dovoljeno
- Finančni nasveti - naložbena ali osebna finančna priporočila; vaše lastne cene in pristojbine ostajajo dovoljene
- Vaše prepovedane teme - prost seznam, ki ga napišete sami, ena tema na vrstico — tu določite, kaj je občutljivo za vaše podjetje
Dnevnik incidentov
Vsaka oznaka se zabeleži na strani z nastavitvami: kategorija, obrazložitev klasifikatorja, blokirani osnutek in to, kar je obiskovalec videl namesto njega. Je hkrati vaše orodje za uglaševanje lažnih alarmov IN revizijska sled za vašo ekipo za skladnost. Vsebina incidentov gre skozi maskiranje PII kot vsaka shranjena površina, v načinu ničelne hrambe pa ostanejo le metapodatki — brez vsebine sporočil.
Če odpove sam klasifikator
Drugi model je druga stvar, ki ji lahko poteče čas. Vi izberete, kaj se zgodi takrat:
- Fail-open (privzeto) - dostavi se nepreverjeni odgovor; zmaga razpoložljivost
- Fail-closed - namesto tega se pokaže nadomestno, za mesta, kjer je nepreverjen odgovor slabši od nobenega
Dobro je vedeti
- Deluje samo na odgovor, nikoli na vprašanje - če vaš bot že zavrne ali odgovori varno, se nič ne označi, in to je pravilno. Klasifikator je varnostna mreža za redek odgovor, ki uide, ne pa preverjanje tega, kaj je vprašal obiskovalec. Poskus premamiti dobro vzgojenega bota običajno ne bo pokazal oznake, ker se je bot sam spopadel s tem.
- Zakasnitev - preverjanje doda vsakemu odgovoru približno pol sekunde, označen odgovor pa dodatno plača celoten prepis
- Ni jamstvo - en model presoja drugega; je dodatna neodvisna plast, ne absolutna pregrada
- Preizkusni klepet kaže razsodbe - preizkusni klepet nadzorne plošče uveljavlja kot widget v živo in vam pove, kdaj je bil odgovor označen; poskusite pretentati lastnega bota
- Nadomestno napišite v jeziku svojih obiskovalcev - prikaže se dobesedno; vgrajeno privzeto je v angleščini
- Deluje skupaj z vašimi navodili UI - navodila usmerjajo prvi model, klasifikator ujame, kar uide; uporabite oboje
Opomba: Klasifikator odgovorov je del pogodbe Enterprise. Pišite na [email protected] in vam vse razložimo.