Bloquear tópicos negados para ajudar a remover conteúdo prejudicial

As barreiras de proteção podem ser configuradas com um conjunto de tópicos negados que são indesejáveis no contexto da aplicação de IA generativa. Por exemplo, um banco pode querer que seu assistente de IA evite qualquer conversa relacionada a consultoria de investimento ou participe de conversas relacionadas a criptomoedas.

É possível definir até trinta tópicos negados. As solicitações de entrada e as respostas do modelo em linguagem natural serão avaliadas em relação a cada um desses tópicos negados. Se um dos tópicos negados for detectado, a mensagem bloqueada configurada como parte da barreira de proteção será retornada ao usuário.

Os tópicos negados podem ser definidos fornecendo uma definição em linguagem natural do tópico com alguns exemplos de frases opcionais do tópico. A definição e os exemplos de frases são usadas para detectar se um prompt de entrada ou se uma conclusão de um modelo pertence ao tópico.

Os tópicos negados são definidos com os parâmetros a seguir.

• Nome: o nome do tópico. O nome deve ser um substantivo ou uma frase. Não descreva o tópico no nome. Por exemplo:

  • Investment Advice

• Definição: até 200 caracteres que resumem o conteúdo do tópico. A definição deve descrever o conteúdo do tópico e seus subtópicos.

  Veja a seguir um exemplo de definição de tópico.

  Investment advice is inquiries, guidance, or recommendations about the management or allocation of funds or assets with the goal of generating returns or achieving specific financial objectives.

• Exemplos de frases: uma lista de até cinco exemplos de frases que se referem ao tópico. Cada frase pode ter até 100 caracteres. Um exemplo é um prompt ou uma continuação que mostra que tipo de conteúdo deve ser filtrado. Por exemplo:

  • Is investing in the stocks better than bonds?

  • Should I invest in gold?

Práticas recomendadas para definir um tópico que você deseja bloquear

• Defina o tópico de forma nítida e precisa. Uma definição de tópico clara e inequívoca pode melhorar a precisão da detecção do tópico. Por exemplo, um tópico para detectar consultas ou declarações associadas a criptomoedas pode ser definido como Question or information associated with investing, selling, transacting, or procuring cryptocurrencies.

• Não inclua exemplos ou instruções na definição do tópico. Por exemplo, Block all contents associated to cryptocurrency é uma instrução e não uma definição do tópico. Essas instruções não devem ser usadas como parte das definições do tópico.

• Não defina tópicos negativos ou exceções. Por exemplo, All contents except medical information ou Contents not containing medical information são definições negativas de um tópico e não devem ser usadas.

• Não use tópicos negados para capturar entidades ou palavras. Por exemplo, Statement or questions containing the name of a person "X" ou Statements with a competitor name Y. As definições do tópico representam um tema ou um assunto e as barreiras de proteção avalizam uma entrada de forma contextual. A filtragem de tópicos não deve ser usada para capturar palavras individuais ou tipos de entidades. Para obter mais informaçõesRemova as PII das conversas usando filtros de informações confidenciais, consulte ou Remover uma lista específica de palavras e frases das conversas com filtros de palavras para esses casos de uso.