Bloqueie tópicos negados para remover conteúdo prejudicial

As grades de proteção podem ser configuradas com um conjunto de tópicos negados que são indesejáveis no contexto de seu aplicativo generativo de IA. Por exemplo, um banco pode querer que seu assistente de IA evite qualquer conversa relacionada a consultoria de investimento ou participe de conversas relacionadas a criptomoedas.

Você pode definir até 30 tópicos negados. As solicitações de entrada e as conclusões do modelo serão avaliadas em relação a cada um desses tópicos negados. Se um dos tópicos negados for detectado, a mensagem bloqueada configurada como parte da grade de proteção será devolvida ao usuário.

Os tópicos negados podem ser definidos fornecendo uma definição em linguagem natural do tópico junto com alguns exemplos de frases opcionais do tópico. A definição e as frases de exemplo são usadas para detectar se um prompt de entrada ou o preenchimento de um modelo pertence ao tópico.

Os tópicos negados são definidos com os parâmetros a seguir.

• Nome — O nome do tópico. O nome deve ser um substantivo ou uma frase. Não descreva o tópico no nome. Por exemplo:

  • Investment Advice

• Definição — Até 200 caracteres resumindo o conteúdo do tópico. A definição deve descrever o conteúdo do tópico e seus subtópicos.

  Veja a seguir um exemplo de definição de tópico que você pode fornecer:

  Investment advice is inquiries, guidance, or recommendations about the management or allocation of funds or assets with the goal of generating returns or achieving specific financial objectives.

• Exemplos de frases — Uma lista de até cinco exemplos de frases que se referem ao tópico. Cada frase pode ter até 100 caracteres. Uma amostra é uma solicitação ou continuação que mostra que tipo de conteúdo deve ser filtrado. Por exemplo:

  • Is investing in the stocks better than bonds?

  • Should I invest in gold?

Práticas recomendadas para definir um tópico que você deseja bloquear

• Defina o tópico de forma nítida e precisa. Uma definição de tópico clara e inequívoca pode melhorar a precisão da detecção do tópico. Por exemplo, um tópico para detectar consultas ou declarações associadas a criptomoedas pode ser definido como. Question or information associated with investing, selling, transacting, or procuring cryptocurrencies

• Não inclua exemplos ou instruções na definição do tópico. Por exemplo, Block all contents associated to cryptocurrency é uma instrução e não uma definição do tópico. Essas instruções não devem ser usadas como parte das definições do tópico.

• Não defina tópicos negativos ou exceções. Por exemplo, All contents except medical information ou Contents not containing medical information são definições negativas de um tópico e não devem ser usadas.

• Não use tópicos negados para capturar entidades ou palavras. Por exemplo, o Statement or questions containing the name of a person "X" ou o Statements with a competitor name Y. As definições do tópico representam um tema ou assunto e o guardrails avalia uma entrada contextualmente. A filtragem de tópicos não deve ser usada para capturar palavras individuais ou tipos de entidades. Em vez disso, considere usar Remover PII das conversas usando filtros de informações confidenciais ou Remova uma lista específica de palavras e frases das conversas com filtros de palavras para esses casos de uso.