Retour au tableau de bord

Documentation

Apprenez à utiliser Asyntai

Classificateur de réponses

Un second modèle d'IA vérifie chaque réponse avant qu'elle n'atteigne le visiteur

Aller au classificateur de réponses
Entreprise

Aperçu

Normalement, la réponse de l'IA va directement au visiteur. Avec le classificateur activé, un second modèle indépendant lit d'abord chaque réponse et décide si elle peut être envoyée : le bot s'est-il fait piéger au point de sortir de son rôle, donne-t-il un conseil réglementé, aborde-t-il un sujet que vous avez interdit ? Une réponse signalée n'atteint jamais le visiteur telle quelle — elle est réécrite une fois, et si la réécriture est encore signalée, votre message de repli s'affiche à la place.

Comment ça marche

  1. L'IA répond comme d'habitude - rien ne change pour le modèle principal
  2. Le classificateur lit le brouillon - un second modèle rapide le vérifie selon vos catégories activées
  3. Les réponses signalées ont droit à une réécriture - la violation est renvoyée au modèle principal, qui écrit une réponse corrigée, vérifiée à nouveau
  4. Le repli en dernier recours - si la réécriture est encore signalée, le visiteur voit votre message de repli sûr à la place
Classificateur de réponses
Brouillon de réponse Signalé
Le visiteur voit Réponse corrigée

Ce qui est vérifié

  • Ruptures de rôle et injection de prompt - toujours actif : le bot obéit à des instructions cachées dans un message, révèle ses propres règles ou abandonne son rôle d'assistance
  • Conseil médical - diagnostic, traitement ou dosage ; les informations produit restent permises
  • Conseil juridique - interpréter le droit pour la situation du visiteur ; énoncer vos propres politiques reste permis
  • Conseil financier - recommandations d'investissement ou de finances personnelles ; vos propres prix et frais restent permis
  • Vos sujets interdits - une liste libre que vous rédigez, un sujet par ligne — c'est ici que vous définissez ce qui est sensible pour votre activité

Le journal des incidents

Chaque signalement est enregistré sur la page des réglages : la catégorie, la raison donnée par le classificateur, le brouillon bloqué et ce que le visiteur a vu à la place. C'est à la fois votre outil de réglage des faux positifs et la piste d'audit à présenter à votre équipe conformité. Le contenu des incidents passe par le masquage des données personnelles comme toute surface stockée, et en mode zéro conservation seules les métadonnées sont gardées — aucun contenu de message.

Si le classificateur lui-même tombe en panne

Un second modèle, c'est une seconde chose qui peut expirer. Vous choisissez ce qui se passe alors :

  • Fail-open (par défaut) - la réponse non vérifiée est livrée ; la disponibilité gagne
  • Fail-closed - le message de repli s'affiche à la place, pour les sites où une réponse non vérifiée est pire que pas de réponse

Bon à savoir

  • Il agit uniquement sur la réponse, jamais sur la question - si votre bot refuse déjà ou répond correctement, rien n'est signalé, et c'est normal. Le classificateur est un filet de sécurité pour la rare réponse qui passe entre les mailles, pas un contrôle de ce que le visiteur a demandé. Tenter de pirater un bot bien élevé n'affichera généralement aucun signalement, car le bot l'a géré tout seul.
  • Latence - la vérification ajoute environ une demi-seconde à chaque réponse, et une réponse signalée paie en plus une réécriture complète
  • Pas une garantie - c'est un modèle qui en juge un autre ; c'est une couche indépendante supplémentaire, pas une barrière absolue
  • Le chat de test montre les verdicts - le chat de test du tableau de bord applique les mêmes règles que le widget en ligne et vous dit quand une réponse a été signalée ; essayez donc de piéger votre propre bot
  • Rédigez le repli dans la langue de vos visiteurs - il est affiché tel quel ; le message par défaut intégré est en anglais
  • Fonctionne avec vos instructions IA - les instructions guident le premier modèle, le classificateur attrape ce qui passe entre les mailles ; utilisez les deux

Se combine avec le masquage des données personnelles : une fonction contrôle ce qui est stocké, l'autre ce qui est dit.

Masquage des données personnelles Les données personnelles sont masquées avant que le message ne soit enregistré où que ce soit

Note : Le classificateur de réponses fait partie d'un accord Enterprise. Écrivez à [email protected] et nous vous accompagnerons.