Enterprise
Επισκόπηση
Κανονικά η απάντηση της ΤΝ πηγαίνει κατευθείαν στον επισκέπτη. Με ενεργό τον ταξινομητή, ένα δεύτερο, ανεξάρτητο μοντέλο διαβάζει πρώτα κάθε απάντηση και αποφασίζει αν είναι ασφαλής για αποστολή: ξεγελάστηκε το bot ώστε να βγει από τον ρόλο του, δίνει ρυθμιζόμενες συμβουλές, αγγίζει θέμα που έχετε απαγορεύσει; Μια επισημασμένη απάντηση δεν φτάνει ποτέ στον επισκέπτη ως έχει — ξαναγράφεται μία φορά, και αν και η επανεγγραφή επισημανθεί, εμφανίζεται το εφεδρικό σας μήνυμα.
Πώς λειτουργεί
- Η ΤΝ απαντά ως συνήθως - τίποτα δεν αλλάζει στο κύριο μοντέλο
- Ο ταξινομητής διαβάζει το προσχέδιο - ένα γρήγορο δεύτερο μοντέλο το ελέγχει με τις ενεργές κατηγορίες
- Οι επισημασμένες απαντήσεις παίρνουν μία επανεγγραφή - η παράβαση επιστρέφει στο κύριο μοντέλο, που γράφει διορθωμένη απάντηση, η οποία ελέγχεται ξανά
- Το εφεδρικό ως έσχατη λύση - αν και η επανεγγραφή επισημανθεί, ο επισκέπτης βλέπει το ασφαλές εφεδρικό σας μήνυμα
Προσχέδιο απάντησης
Επισημάνθηκε
Ο επισκέπτης βλέπει
Διορθωμένη απάντηση
Τι ελέγχει
- Παραβιάσεις ρόλου και prompt injection - πάντα ενεργό: το bot υπακούει κρυμμένες οδηγίες σε μήνυμα, αποκαλύπτει τους κανόνες του ή εγκαταλείπει τον ρόλο υποστήριξης
- Ιατρικές συμβουλές - διάγνωση, θεραπεία ή δοσολογία· οι πληροφορίες προϊόντων παραμένουν επιτρεπτές
- Νομικές συμβουλές - ερμηνεία του νόμου για την περίπτωση του επισκέπτη· η παρουσίαση των δικών σας πολιτικών παραμένει επιτρεπτή
- Οικονομικές συμβουλές - επενδυτικές ή προσωπικές οικονομικές συστάσεις· οι δικές σας τιμές και χρεώσεις παραμένουν επιτρεπτές
- Τα απαγορευμένα θέματά σας - μια ελεύθερη λίστα που γράφετε εσείς, ένα θέμα ανά γραμμή — εδώ ορίζετε τι είναι ευαίσθητο για την επιχείρησή σας
Το αρχείο περιστατικών
Κάθε επισήμανση καταγράφεται στη σελίδα ρυθμίσεων: η κατηγορία, η αιτιολόγηση του ταξινομητή, το μπλοκαρισμένο προσχέδιο και τι είδε ο επισκέπτης στη θέση του. Είναι και το εργαλείο ρύθμισης των ψευδώς θετικών ΚΑΙ το ίχνος ελέγχου για τη δική σας ομάδα συμμόρφωσης. Το περιεχόμενο των περιστατικών περνά από την απόκρυψη PII όπως κάθε αποθηκευμένη επιφάνεια, και στη λειτουργία μηδενικής διατήρησης μένουν μόνο τα μεταδεδομένα — κανένα περιεχόμενο μηνυμάτων.
Αν αποτύχει ο ίδιος ο ταξινομητής
Ένα δεύτερο μοντέλο είναι ένα δεύτερο πράγμα που μπορεί να λήξει. Εσείς επιλέγετε τι γίνεται τότε:
- Fail-open (προεπιλογή) - παραδίδεται η ανέλεγκτη απάντηση· κερδίζει η διαθεσιμότητα
- Fail-closed - εμφανίζεται το εφεδρικό στη θέση της, για ιστότοπους όπου μια ανέλεγκτη απάντηση είναι χειρότερη από καμία
Καλό είναι να γνωρίζετε
- Δρα μόνο στην απάντηση, ποτέ στην ερώτηση - αν το bot σας ήδη αρνείται ή απαντά με ασφάλεια, τίποτα δεν επισημαίνεται, και αυτό είναι σωστό. Ο ταξινομητής είναι δίχτυ ασφαλείας για τη σπάνια απάντηση που ξεφεύγει, όχι έλεγχος του τι ρώτησε ο επισκέπτης. Η προσπάθεια να ξεγελάσετε ένα καλομαθημένο bot συνήθως δεν θα δείξει επισήμανση, γιατί το bot το χειρίστηκε μόνο του.
- Καθυστέρηση - ο έλεγχος προσθέτει περίπου μισό δευτερόλεπτο σε κάθε απάντηση, και μια επισημασμένη απάντηση πληρώνει επιπλέον μια πλήρη επανεγγραφή
- Όχι εγγύηση - ένα μοντέλο κρίνει ένα άλλο· είναι ένα επιπλέον ανεξάρτητο επίπεδο, όχι απόλυτο φράγμα
- Η δοκιμαστική συνομιλία δείχνει ετυμηγορίες - η δοκιμαστική συνομιλία του πίνακα εφαρμόζει ό,τι και το ζωντανό widget και σας λέει πότε επισημάνθηκε μια απάντηση· δοκιμάστε να ξεγελάσετε το ίδιο σας το bot
- Γράψτε το εφεδρικό στη γλώσσα των επισκεπτών σας - εμφανίζεται αυτολεξεί· το ενσωματωμένο προεπιλεγμένο είναι στα αγγλικά
- Λειτουργεί μαζί με τις οδηγίες ΤΝ - οι οδηγίες κατευθύνουν το πρώτο μοντέλο, ο ταξινομητής πιάνει ό,τι ξεφεύγει· χρησιμοποιήστε και τα δύο
Σημείωση: Ο ταξινομητής απαντήσεων αποτελεί μέρος συμφωνίας Enterprise. Γράψτε στο [email protected] και θα σας τα εξηγήσουμε όλα.