Monitora Amazon Bedrock con Amazon CloudWatch - Amazon Bedrock

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Monitora Amazon Bedrock con Amazon CloudWatch

Puoi monitorare Amazon Bedrock utilizzando Amazon CloudWatch, che raccoglie dati grezzi e li elabora in parametri leggibili quasi in tempo reale. Puoi rappresentare graficamente le metriche utilizzando la console. CloudWatch Puoi anche impostare allarmi che controllano determinate soglie e inviare notifiche o intraprendere azioni quando i valori superano queste soglie.

Per ulteriori informazioni, consulta What is Amazon CloudWatch nella Amazon CloudWatch User Guide.

Metriche di runtime

La tabella seguente descrive le metriche di runtime fornite da Amazon Bedrock.

Nome parametro Unità Descrizione
Invocazioni SampleCount Numero di richieste alle operazioni delle API Converse ConverseStreamInvokeModel, e InvokeModelWithResponseStream.

InvocationLatency

MilliSeconds

Latenza delle invocazioni.

InvocationClientErrori

SampleCount

Numero di invocazioni che provocano errori sul lato client.

InvocationServerErrori

SampleCount

Numero di chiamate che generano errori sul AWS lato server.

InvocationThrottles

SampleCount

Numero di invocazioni limitate dal sistema.

InputTokenConta

SampleCount

Numero di token di input di testo.

LegacyModelInvocazioni SampleCount Numero di invocazioni che utilizzano modelli Legacy

OutputTokenConta

SampleCount

Numero di token di output di testo.

OutputImageConta

SampleCount

Numero di immagini di output.

Metriche di registrazione CloudWatch

Per ogni tentativo di consegna riuscito o non riuscito, vengono emesse le seguenti CloudWatch metriche Amazon sotto il namespace AWS/Bedrock e la dimensione: Across all model IDs

  • ModelInvocationLogsCloudWatchDeliverySuccess

  • ModelInvocationLogsCloudWatchDeliveryFailure

  • ModelInvocationLogsS3DeliverySuccess

  • ModelInvocationLogsS3DeliveryFailure

  • ModelInvocationLargeDataS3DeliverySuccess

  • ModelInvocationLargeDataS3DeliveryFailure

Usa i CloudWatch parametri per Amazon Bedrock

Per recuperare le metriche per le operazioni di Amazon Bedrock, specifica le seguenti informazioni:

  • La dimensione del parametro. Una dimensione è un set di coppie nome-valore utilizzate per identificare una metrica. Amazon Bedrock supporta le seguenti dimensioni:

    • ModelId: tutte le metriche

    • ModelId + ImageSize + BucketedStepSize – OutputImageCount

  • Il nome del parametro, ad esempio InvocationClientErrors.

Puoi ottenere metriche per Amazon Bedrock con l' AWS Management Console AWS CLI, l'o l' CloudWatch API. Puoi utilizzare l' CloudWatch API tramite uno dei AWS Software Development Kit (SDK) o gli strumenti API. CloudWatch

È necessario disporre delle CloudWatch autorizzazioni appropriate per monitorare Amazon Bedrock con. CloudWatch Per ulteriori informazioni, consulta Authentication and Access Control for Amazon CloudWatch nella Amazon CloudWatch User Guide.

Visualizzazione delle metriche di Amazon Bedrock

Visualizza i parametri di Amazon Bedrock nella CloudWatch console.

Per visualizzare i parametri (console) CloudWatch
  1. Accedi AWS Management Console e apri la CloudWatch console all'indirizzo https://console.aws.amazon.com/cloudwatch/.

  2. Scegli Metriche, scegli Tutte le metriche, quindi cerca. ModelId