Bloquez les sujets refusés pour supprimer le contenu préjudiciable

Les barrières de sécurité peuvent être configurées avec un ensemble de sujets refusés qui ne sont pas souhaitables dans le contexte de votre application d'IA générative. Par exemple, une banque peut souhaiter que son assistant intelligent évite toute conversation liée aux conseils d'investissement ou participe à des conversations liées aux cryptomonnaies.

Vous pouvez définir jusqu'à 30 sujets refusés. Les demandes de saisie et les modèles complétés seront évalués par rapport à chacun de ces sujets refusés. Si l'un des sujets refusés est détecté, le message bloqué configuré dans le cadre du garde-fou sera renvoyé à l'utilisateur.

Les sujets refusés peuvent être définis en fournissant une définition en langage naturel du sujet ainsi que quelques exemples de phrases facultatifs du sujet. Les phrases de définition et d'exemple sont utilisées pour détecter si une invite de saisie ou une complétion de modèle appartient au sujet.

Les sujets refusés sont définis avec les paramètres suivants.

• Nom : nom du sujet. Le nom doit être un nom ou une phrase. Ne décrivez pas le sujet dans le nom. Par exemple :

  • Investment Advice

• Définition — Jusqu'à 200 caractères résumant le contenu du sujet. La définition doit décrire le contenu du sujet et de ses sous-thèmes.

  Voici un exemple de définition de rubrique que vous pouvez fournir :

  Investment advice is inquiries, guidance, or recommendations about the management or allocation of funds or assets with the goal of generating returns or achieving specific financial objectives.

• Exemples de phrases : liste contenant jusqu'à cinq exemples de phrases faisant référence au sujet. Chaque phrase peut comporter jusqu'à 100 caractères. Un exemple est une invite ou une suite qui indique le type de contenu à filtrer. Par exemple :

  • Is investing in the stocks better than bonds?

  • Should I invest in gold?

Bonnes pratiques pour définir un sujet que vous souhaitez bloquer

• Définissez le sujet de manière claire et précise. Une définition claire et sans ambiguïté du sujet peut améliorer la précision de la détection du sujet. Par exemple, un sujet destiné à détecter les requêtes ou les instructions associées aux cryptomonnaies peut être défini commeQuestion or information associated with investing, selling, transacting, or procuring cryptocurrencies.

• N'incluez pas d'exemples ni d'instructions dans la définition de la rubrique. Par exemple, Block all contents associated to cryptocurrency il s'agit d'une instruction et non d'une définition du sujet. Ces instructions ne doivent pas être utilisées dans le cadre des définitions du sujet.

• Ne définissez pas de sujets négatifs ou d'exceptions. Par exemple, All contents except medical information ou Contents not containing medical information sont des définitions négatives d'un sujet et ne doivent pas être utilisées.

• N'utilisez pas de sujets refusés pour capturer des entités ou des mots. Par exemple, Statement or questions containing the name of a person "X" ou Statements with a competitor name Y. Les définitions de sujets représentent un thème ou un sujet et guardrails évalue une entrée de manière contextuelle. Le filtrage par sujet ne doit pas être utilisé pour capturer des mots individuels ou des types d'entités. Envisagez plutôt d'utiliser Supprimer PII des conversations en utilisant des filtres d'informations sensibles ou Supprimer une liste spécifique de mots et d'expressions des conversations à l'aide de filtres de mots pour de tels cas d'utilisation.