За предузећа
Преглед
Обично одговор ВИ иде право посетиоцу. Са укљученим класификатором други, независни модел прво чита сваки одговор и одлучује да ли је безбедно послати га: да ли је бот преварен да изађе из улоге, да ли даје регулисане савете, да ли залази у тему коју сте забранили? Означени одговор никада не стиже до посетиоца такав какав јесте — преписује се једном, а ако је означен и препис, приказује се ваша резервна порука.
Како функционише
- ВИ одговара као и обично - ништа се не мења на главном моделу
- Класификатор чита нацрт - брзи други модел га проверава према укљученим категоријама
- Означени одговори добијају једно преписивање - прекршај се враћа главном моделу, који пише исправљен одговор који се проверава поново
- Резервна као последње средство - ако је означен и препис, посетилац види вашу безбедну резервну поруку
Нацрт одговора
Означен
Посетилац види
Исправљен одговор
Шта проверава
- Кршења улоге и prompt injection - увек активно: бот слуша упутства скривена у поруци, открива сопствена правила или напушта улогу подршке
- Медицински савети - дијагноза, лечење или дозирање; информације о производима остају дозвољене
- Правни савети - тумачење закона за ситуацију посетиоца; излагање сопствених правила остаје дозвољено
- Финансијски савети - инвестиционе или личне финансијске препоруке; ваше сопствене цене и накнаде остају дозвољене
- Ваше забрањене теме - слободан списак који сами пишете, једна тема по реду — овде дефинишете шта је осетљиво за ваше пословање
Дневник инцидената
Свака ознака се бележи на страници подешавања: категорија, образложење класификатора, блокирани нацрт и оно што је посетилац видео уместо њега. То је и ваш алат за подешавање лажних узбуна И ревизорски траг за ваш тим за усклађеност. Садржај инцидената пролази кроз маскирање PII као свака сачувана површина, а у режиму нултог задржавања остају само метаподаци — никакав садржај порука.
Ако закаже сам класификатор
Други модел је друга ствар којој може истећи време. Ви бирате шта се тада дешава:
- Fail-open (подразумевано) - испоручује се непроверени одговор; побеђује доступност
- Fail-closed - уместо тога се приказује резервна, за сајтове где је непроверени одговор гори од никаквог
Добро је знати
- Делује само на одговор, никад на питање - ако ваш бот већ одбија или одговара безбедно, ништа се не означава, и то је исправно. Класификатор је сигурносна мрежа за редак одговор који промакне, а не провера онога што је посетилац питао. Покушај да преварите пристојног бота обично неће показати ознаку, јер се бот сам изборио са тим.
- Кашњење - провера додаје отприлике пола секунде сваком одговору, а означени одговор додатно плаћа цело преписивање
- Није гаранција - један модел просуђује други; то је додатни независни слој, не апсолутна баријера
- Тест-разговор показује пресуде - тест-разговор контролне табле спроводи као виџет уживо и каже вам када је одговор означен; слободно покушајте да преварите сопственог бота
- Резервну напишите на језику својих посетилаца - приказује се дословно; уграђена подразумевана је на енглеском
- Ради заједно са вашим ВИ упутствима - упутства усмеравају први модел, класификатор хвата оно што промакне; користите оба
Напомена: Класификатор одговора је део Enterprise уговора. Пишите на [email protected] и све ћемо вам објаснити.