Monitore o Amazon Bedrock com a Amazon CloudWatch - Amazon Bedrock

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Monitore o Amazon Bedrock com a Amazon CloudWatch

Você pode monitorar o Amazon Bedrock usando a Amazon CloudWatch, que coleta dados brutos e os processa em métricas legíveis, quase em tempo real. Você pode representar graficamente as métricas usando o CloudWatch console. Também é possível definir alarmes que observam determinados limites e enviam notificações ou realizam ações quando os valores excedem esse limites.

Para obter mais informações, consulte O que é a Amazon CloudWatch no Guia CloudWatch do usuário da Amazon.

Métricas de tempo de execução

A tabela a seguir descreve as métricas de tempo de execução fornecidas pelo Amazon Bedrock.

Nome da métrica Unidade Descrição
Invocações SampleCount Número de solicitações para as operações da API Converse ConverseStreamInvokeModel,, e InvokeModelWithResponseStream.

InvocationLatency

MilliSeconds

Latência das invocações.

InvocationClientErros

SampleCount

Número de invocações que resultam em erros do lado do cliente.

InvocationServerErros

SampleCount

Número de invocações que resultam em erros do lado do AWS servidor.

InvocationThrottles

SampleCount

Número de invocações que o sistema limitou.

InputTokenContagem

SampleCount

Número de tokens de entrada de texto.

LegacyModelInvocações SampleCount Número de invocações usando modelos herdados

OutputTokenContagem

SampleCount

Número de tokens de saída de texto.

OutputImageContagem

SampleCount

Número de imagens de saída.

CloudWatch Métricas de registro

Para cada tentativa de entrega bem-sucedida ou falha, as seguintes CloudWatch métricas da Amazon são emitidas sob o namespace AWS/Bedrock e a dimensão: Across all model IDs

  • ModelInvocationLogsCloudWatchDeliverySuccess

  • ModelInvocationLogsCloudWatchDeliveryFailure

  • ModelInvocationLogsS3DeliverySuccess

  • ModelInvocationLogsS3DeliveryFailure

  • ModelInvocationLargeDataS3DeliverySuccess

  • ModelInvocationLargeDataS3DeliveryFailure

Use CloudWatch métricas para o Amazon Bedrock

Para recuperar métricas para as operações do Amazon Bedrock, especifique as seguintes informações:

  • A dimensão da métrica. Uma dimensão é um conjunto de pares de nome-valor que você usa para identificar uma métrica. O Amazon Bedrock é compatível com as seguintes dimensões:

    • ModelId: todas as métricas

    • ModelId + ImageSize + BucketedStepSize – OutputImageCount

  • O nome da métrica, como InvocationClientErrors.

Você pode obter métricas para o Amazon Bedrock com a AWS Management Console AWS CLI, a ou a CloudWatch API. Você pode usar a CloudWatch API por meio de um dos kits de desenvolvimento de AWS software (SDKs) ou das ferramentas da CloudWatch API.

Você deve ter as CloudWatch permissões apropriadas para monitorar o Amazon Bedrock com. CloudWatch Para obter mais informações, consulte Autenticação e controle de acesso para a Amazon CloudWatch no Guia CloudWatch do usuário da Amazon.

Veja as métricas do Amazon Bedrock

Veja as métricas do Amazon Bedrock no CloudWatch console.

Para visualizar métricas (CloudWatch console)
  1. Faça login no AWS Management Console e abra o CloudWatch console em https://console.aws.amazon.com/cloudwatch/.

  2. Escolha Métricas, escolha Todas as métricas e, em seguida, pesquise ModelId.