מסווג התשובות

מה נבדק

• שבירת תפקיד והזרקת הנחיות - תמיד פעיל: הבוט מציית להוראות מוסתרות בהודעה, חושף את הכללים שלו או נוטש את תפקיד התמיכה
• ייעוץ רפואי - אבחנה, טיפול או מינון; מידע על מוצרים נשאר מותר
• ייעוץ משפטי - פירוש החוק למצבו של המבקר; הצגת המדיניות שלכם נשארת מותרת
• ייעוץ פיננסי - המלצות השקעה או פיננסים אישיים; המחירים והעמלות שלכם נשארים מותרים
• הנושאים האסורים שלכם - רשימה חופשית שאתם כותבים, נושא בכל שורה — כאן אתם מגדירים מה רגיש לעסק שלכם

יומן האירועים

כל סימון נרשם בעמוד ההגדרות: הקטגוריה, נימוק המסווג, הטיוטה החסומה ומה שהמבקר ראה במקומה. זהו גם כלי הכוונון שלכם להתרעות שווא וגם נתיב הביקורת לצוות הציות שלכם. תוכן האירועים עובר הסתרת מידע אישי כמו כל משטח מאוחסן, ובמצב אפס שמירה נשמרים רק מטא-נתונים — ללא תוכן הודעות.

אם המסווג עצמו נכשל

מודל שני הוא דבר שני שיכול לחרוג מהזמן. אתם בוחרים מה קורה אז:

• Fail-open (ברירת מחדל) - התשובה הלא-בדוקה נמסרת; הזמינות מנצחת
• Fail-closed - הגיבוי מוצג במקומה, לאתרים שבהם תשובה לא-בדוקה גרועה מאין תשובה

טוב לדעת

• הוא פועל רק על התשובה, לעולם לא על השאלה - אם הבוט שלכם כבר מסרב או עונה בבטחה, שום דבר לא מסומן, וזה נכון. המסווג הוא רשת ביטחון לתשובה הנדירה שחומקת, לא בדיקה של מה שהמבקר שאל. ניסיון לפרוץ בוט מנומס בדרך כלל לא יראה סימון, כי הבוט טיפל בזה בעצמו.
• השהיה - הבדיקה מוסיפה כחצי שנייה לכל תשובה, ותשובה מסומנת משלמת בנוסף שכתוב מלא
• לא ערובה - מודל אחד שופט אחר; זו שכבה עצמאית נוספת, לא מחסום מוחלט
• צ'אט הבדיקה מציג פסקי דין - צ'אט הבדיקה בלוח הבקרה אוכף כמו הווידג'ט החי ואומר לכם מתי תשובה סומנה; נסו להערים על הבוט שלכם
• כתבו את הגיבוי בשפת המבקרים שלכם - הוא מוצג כלשונו; ברירת המחדל המובנית באנגלית
• עובד לצד הוראות הבינה המלאכותית שלכם - ההוראות מכוונות את המודל הראשון, המסווג תופס את מה שחומק; השתמשו בשניהם