Perusahaan
Gambaran Keseluruhan
Biasanya jawapan AI terus kepada pelawat. Dengan pengelas dihidupkan, model kedua yang bebas membaca setiap jawapan dahulu dan memutuskan sama ada selamat dihantar: adakah bot diperdaya keluar daripada peranannya, adakah ia memberi nasihat terkawal, adakah ia menyentuh topik yang anda larang? Jawapan yang ditanda tidak pernah sampai kepada pelawat seadanya — ia ditulis semula sekali, dan jika penulisan semula masih ditanda, mesej sandaran anda dipaparkan.
Cara Ia Berfungsi
- AI menjawab seperti biasa - tiada apa yang berubah pada model utama
- Pengelas membaca draf - model kedua yang pantas menyemaknya mengikut kategori yang dihidupkan
- Jawapan yang ditanda mendapat satu penulisan semula - pelanggaran dikembalikan kepada model utama, yang menulis jawapan diperbetul dan disemak semula
- Sandaran sebagai jalan terakhir - jika penulisan semula masih ditanda, pelawat melihat mesej sandaran selamat anda
Draf jawapan
Ditanda
Pelawat melihat
Jawapan diperbetul
Apa yang disemak
- Pelanggaran peranan dan prompt injection - sentiasa aktif: bot mematuhi arahan tersembunyi dalam mesej, mendedahkan peraturannya sendiri, atau meninggalkan peranan sokongan
- Nasihat perubatan - diagnosis, rawatan atau dos; maklumat produk kekal dibenarkan
- Nasihat undang-undang - mentafsir undang-undang untuk situasi pelawat; menyatakan polisi anda sendiri kekal dibenarkan
- Nasihat kewangan - cadangan pelaburan atau kewangan peribadi; harga dan caj anda sendiri kekal dibenarkan
- Topik terlarang anda - senarai bebas yang anda tulis, satu topik setiap baris — di sini anda menentukan apa yang sensitif untuk perniagaan anda
Log Insiden
Setiap penandaan direkodkan di halaman tetapan: kategori, alasan pengelas, draf yang disekat dan apa yang pelawat lihat sebagai ganti. Ia alat penalaan amaran palsu anda DAN jejak audit untuk pasukan pematuhan anda sendiri. Kandungan insiden melalui penyamaran PII seperti setiap permukaan tersimpan, dan dalam mod Penyimpanan Sifar hanya metadata disimpan — tiada kandungan mesej.
Jika pengelas sendiri gagal
Model kedua bermakna perkara kedua yang boleh tamat masa. Anda pilih apa yang berlaku kemudian:
- Fail-open (lalai) - jawapan yang belum disemak dihantar; ketersediaan menang
- Fail-closed - sandaran dipaparkan sebagai ganti, untuk laman di mana jawapan belum disemak lebih teruk daripada tiada
Baik untuk diketahui
- Ia hanya bertindak pada jawapan, tidak pernah pada soalan - jika bot anda sudah menolak atau menjawab dengan selamat, tiada apa yang ditanda, dan itu betul. Pengelas ialah jaring keselamatan untuk jawapan jarang yang terlepas, bukan semakan terhadap apa yang ditanya pelawat. Cuba menggodam bot yang berkelakuan baik biasanya tidak menunjukkan tanda, kerana bot mengendalikannya sendiri.
- Kependaman - semakan menambah kira-kira setengah saat pada setiap jawapan, dan jawapan yang ditanda membayar penulisan semula penuh tambahan
- Bukan jaminan - satu model menilai yang lain; ia lapisan bebas tambahan, bukan penghalang mutlak
- Sembang ujian menunjukkan keputusan - sembang ujian papan pemuka menguatkuasakan seperti widget langsung dan memberitahu bila jawapan ditanda; cubalah perdaya bot anda sendiri
- Tulis sandaran dalam bahasa pelawat anda - ia dipaparkan seadanya; lalai terbina dalam adalah bahasa Inggeris
- Berfungsi bersama Arahan AI anda - arahan memandu model pertama, pengelas menangkap apa yang terlepas; guna kedua-duanya
Nota: Pengelas Jawapan adalah sebahagian daripada perjanjian Enterprise. E-mel [email protected] dan kami akan menerangkan segalanya.