Surveillez l'état et les performances d'Amazon Bedrock

Vous pouvez surveiller toutes les parties de votre application Amazon Bedrock à l'aide d'Amazon CloudWatch, qui collecte les données brutes et les traite en indicateurs lisibles en temps quasi réel. Vous pouvez représenter graphiquement les métriques à l'aide de la CloudWatch console. Vous pouvez également définir des alarmes qui surveillent certains seuils et envoient des notifications ou effectuent des actions spécifiques lorsque ces seuils sont dépassés.

Pour plus d'informations, consultez What is Amazon CloudWatch dans le guide de CloudWatch l'utilisateur Amazon.

Rubriques

• Surveillez l'invocation du modèle à l'aide des journaux CloudWatch
• Surveillez les bases de connaissances à l'aide CloudWatch des journaux
• Surveillez Amazon Bedrock Guardrails à l'aide de métriques CloudWatch
• Surveillez Amazon Bedrock Studio à l'aide CloudWatch de journaux
• Statistiques d'exécution d'Amazon Bedrock
• CloudWatch statistiques pour Amazon Bedrock
• Surveillez l'évolution de l'état des tâches sur Amazon Bedrock à l'aide d'Amazon EventBridge
• Surveillez les API appels Amazon Bedrock en utilisant CloudTrail

Statistiques d'exécution d'Amazon Bedrock

Le tableau suivant décrit les métriques d’exécution fournies par Amazon Bedrock.

Nom de la métrique	Unité	Description
Invocations	SampleCount	Nombre de demandes adressées aux Converse, ConverseStreamInvokeModel, et InvokeModelWithResponseStreamAPIopérations.
InvocationLatency	MilliSeconds	Latence des invocations.
InvocationClientErrors	SampleCount	Nombre d’invocations qui entraînent des erreurs côté client.
InvocationServerErrors	SampleCount	Nombre d'appels qui entraînent des erreurs AWS côté serveur.
InvocationThrottles	SampleCount	Nombre d’invocations que le système a limitées.
InputTokenCount	SampleCount	Nombre de jetons dans l'entrée.
LegacyModelInvocations	SampleCount	Nombre d’invocations utilisant les modèles hérités.
OutputTokenCount	SampleCount	Nombre de jetons dans la sortie.
OutputImageCount	SampleCount	Nombre d'images dans la sortie (applicable uniquement pour les modèles de génération d'images).

CloudWatch statistiques pour Amazon Bedrock

Pour chaque tentative de livraison réussie ou infructueuse, les CloudWatch métriques Amazon suivantes sont émises sous l'espace de noms AWS/Bedrock et la Across all model IDs dimension :

• ModelInvocationLogsCloudWatchDeliverySuccess

• ModelInvocationLogsCloudWatchDeliveryFailure

• ModelInvocationLogsS3DeliverySuccess

• ModelInvocationLogsS3DeliveryFailure

• ModelInvocationLargeDataS3DeliverySuccess

• ModelInvocationLargeDataS3DeliveryFailure

Pour générer les métriques relatives à vos opérations Amazon Bedrock, il vous faut spécifier les informations suivantes :

• La dimension de métrique. Une dimension est un ensemble de paires nom-valeur qui vous permet d’identifier une métrique. Amazon Bedrock prend en charge les dimensions suivantes :

  • ModelId : toutes les métriques

  • ModelId + ImageSize + BucketedStepSize – OutputImageCount

• Le nom de la métrique, par exemple InvocationClientErrors.

Vous pouvez obtenir des statistiques pour Amazon Bedrock avec le AWS Management Console, le AWS CLI, ou le CloudWatch API. Vous pouvez l'utiliser CloudWatch API via l'un des kits de développement AWS logiciel (SDKs) ou des CloudWatch API outils.

Pour consulter les statistiques d'Amazon Bedrock dans la CloudWatch console, rendez-vous dans la section des statistiques du volet de navigation et sélectionnez l'option Toutes les mesures, puis recherchez l'ID du modèle.

Vous devez disposer des CloudWatch autorisations appropriées pour surveiller Amazon Bedrock. CloudWatch Pour plus d'informations, consultez Authentification et contrôle d'accès pour Amazon CloudWatch dans le guide de l' CloudWatch utilisateur Amazon.