Définition
Les garde-fous peuvent restreindre l’accès aux outils, filtrer les entrees et sorties, exiger des sources, detecter du contenu sensible ou diriger les cas incertains vers une personne.
Pourquoi c’est important
Ils transforment l’utilisation responsable d’une declaration de principe en comportement integre au système.
Exemple d’affaires
Un assistant interne refuse de repondre en dehors de sa base de connaissances approuvée et créé un ticket de soutien lorsque sa confiance est faible.
Quand l’utiliser
Utilisez-les chaque fois que l’IA traite des données d’affaires, des communications clients ou toute action au-dela de la redaction.
Quand ne pas l’utiliser
Ne comptez pas sur une instruction vague dans le prompt comme seul contrôle.
L’approche Automathing
Nous alignons les garde-fous sur le risque d’affaires réel : ce qui ne doit jamais se produire, ce qui requiert une approbation et ce qui doit être trace.