Enterprise
Pregled
Obično odgovor UI-ja ide ravno posjetitelju. S uključenim klasifikatorom drugi, neovisni model najprije čita svaki odgovor i odlučuje je li ga sigurno poslati: je li bot prevaren da izađe iz uloge, daje li regulirane savjete, zalazi li u temu koju ste zabranili? Označeni odgovor nikad ne stiže do posjetitelja takav kakav jest — prepisuje se jednom, a ako je označen i prepis, prikazuje se vaša zamjenska poruka.
Kako funkcionira
- UI odgovara kao i obično - ništa se ne mijenja na glavnom modelu
- Klasifikator čita nacrt - brzi drugi model provjerava ga prema uključenim kategorijama
- Označeni odgovori dobivaju jedno prepisivanje - prekršaj se vraća glavnom modelu, koji piše ispravljeni odgovor koji se provjerava ponovno
- Zamjenska kao posljednje sredstvo - ako je označen i prepis, posjetitelj vidi vašu sigurnu zamjensku poruku
Nacrt odgovora
Označen
Posjetitelj vidi
Ispravljeni odgovor
Što provjerava
- Kršenja uloge i prompt injection - uvijek aktivno: bot sluša upute skrivene u poruci, otkriva vlastita pravila ili napušta ulogu podrške
- Medicinski savjeti - dijagnoza, liječenje ili doziranje; informacije o proizvodima ostaju dopuštene
- Pravni savjeti - tumačenje zakona za posjetiteljevu situaciju; iznošenje vlastitih pravila ostaje dopušteno
- Financijski savjeti - investicijske ili osobne financijske preporuke; vaše vlastite cijene i naknade ostaju dopuštene
- Vaše zabranjene teme - slobodan popis koji sami pišete, jedna tema po retku — ovdje definirate što je osjetljivo za vaše poslovanje
Dnevnik incidenata
Svaka oznaka bilježi se na stranici postavki: kategorija, obrazloženje klasifikatora, blokirani nacrt i ono što je posjetitelj vidio umjesto njega. To je i vaš alat za ugađanje lažnih uzbuna I revizijski trag za vaš tim za usklađenost. Sadržaj incidenata prolazi kroz maskiranje PII kao svaka spremljena površina, a u načinu rada bez zadržavanja ostaju samo metapodaci — nikakav sadržaj poruka.
Ako zakaže sam klasifikator
Drugi model je druga stvar kojoj može isteći vrijeme. Vi birate što se tada događa:
- Fail-open (zadano) - isporučuje se neprovjereni odgovor; pobjeđuje dostupnost
- Fail-closed - umjesto toga prikazuje se zamjenska, za stranice gdje je neprovjereni odgovor gori od nikakvog
Dobro je znati
- Djeluje samo na odgovor, nikad na pitanje - ako vaš bot već odbija ili odgovara sigurno, ništa se ne označava, i to je ispravno. Klasifikator je sigurnosna mreža za rijedak odgovor koji promakne, a ne provjera onoga što je posjetitelj pitao. Pokušaj prevariti pristojnog bota obično neće pokazati oznaku, jer se bot sam nosio s tim.
- Kašnjenje - provjera dodaje otprilike pola sekunde svakom odgovoru, a označeni odgovor dodatno plaća cijelo prepisivanje
- Nije jamstvo - jedan model prosuđuje drugi; to je dodatni neovisni sloj, ne apsolutna barijera
- Testni razgovor pokazuje presude - testni razgovor nadzorne ploče provodi kao widget uživo i kaže vam kad je odgovor označen; slobodno pokušajte prevariti vlastitog bota
- Zamjensku napišite na jeziku svojih posjetitelja - prikazuje se doslovno; ugrađena zadana je na engleskom
- Radi zajedno s vašim UI uputama - upute usmjeravaju prvi model, klasifikator hvata ono što promakne; koristite oboje
Napomena: Klasifikator odgovora dio je Enterprise ugovora. Pišite na [email protected] i sve ćemo vam objasniti.