Como funciona o Amazon Bedrock Guardrails

O Amazon Bedrock Guardrails ajuda a manter seus aplicativos de IA generativa seguros avaliando as entradas do usuário e as respostas do modelo.

Você pode configurar grades de proteção para seus aplicativos com base nas seguintes considerações:

• Uma conta pode ter várias grades de proteção, cada uma com uma configuração diferente e personalizada para um caso de uso específico.

• Uma grade de proteção é uma combinação de várias políticas configuradas para solicitações e respostas, incluindo filtros de conteúdo, tópicos negados, filtros de informações confidenciais e filtros de palavras.

• Uma grade de proteção pode ser configurada com uma única política ou uma combinação de várias políticas.

• Uma grade de proteção pode ser usada com qualquer modelo de base (FM) somente de texto fazendo referência à grade de proteção durante a inferência do modelo.

• Você pode usar grades de proteção com Amazon Bedrock Agents e Amazon Bedrock Knowledge Bases.

Ao usar uma grade de proteção, ela funciona da seguinte maneira durante a chamada de inferência:

• A entrada é avaliada em relação às políticas configuradas especificadas na grade de proteção. Além disso, para melhorar a latência, a entrada é avaliada paralelamente para cada política configurada.

• Se a avaliação de entrada resultar em uma intervenção de proteção, uma resposta de mensagem bloqueada configurada será retornada e a inferência do modelo básico será descartada.

• Se a avaliação de entrada for bem-sucedida, a resposta do modelo será posteriormente avaliada em relação às políticas configuradas na grade de proteção.

• Se a resposta resultar em uma intervenção ou violação de proteção, ela será substituída por mensagens bloqueadas pré-configuradas ou pelo mascaramento de informações confidenciais.

• Se a avaliação da resposta for bem-sucedida, a resposta será retornada ao aplicativo sem nenhuma modificação.

Para obter informações sobre os preços do Amazon Bedrock Guardrails, consulte os preços do Amazon Bedrock.

Como as cobranças são calculadas para Amazon Bedrock Guardrails

As cobranças do Amazon Bedrock Guardrails serão cobradas somente pelas políticas configuradas na grade de proteção. O preço de cada tipo de apólice está disponível no Amazon Bedrock Pricing. Se as grades de proteção bloquearem a solicitação de entrada, você será cobrado pela avaliação da grade de proteção. Não haverá cobrança pelas chamadas de inferência do modelo básico. Se as grades de proteção bloquearem a resposta do modelo, você será cobrado pela avaliação das grades de proteção do prompt de entrada e da resposta do modelo. Nesse caso, você será cobrado pelas chamadas de inferência do modelo básico, bem como pela resposta do modelo que foi gerada antes da avaliação das grades de proteção.