Supervisa Amazon Bedrock con Amazon CloudWatch - Amazon Bedrock

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Supervisa Amazon Bedrock con Amazon CloudWatch

Puedes monitorizar Amazon Bedrock con Amazon CloudWatch, que recopila datos sin procesar y los procesa para convertirlos en métricas legibles prácticamente en tiempo real. Puede graficar las métricas mediante la CloudWatch consola. También puede establecer alarmas que vigilen determinados umbrales y enviar notificaciones o realizar acciones cuando los valores excedan dichos umbrales.

Para obtener más información, consulta Qué es Amazon CloudWatch en la Guía del CloudWatch usuario de Amazon.

Métricas de tiempo de ejecución

En la siguiente tabla, se describen las métricas del tiempo de ejecución que proporciona Amazon Bedrock.

Nombre de métrica Unidad Descripción
Invocaciones SampleCount Número de solicitudes a las operaciones de la InvokeModelWithResponseStreamAPI InvokeModelo a las operaciones de la API.

InvocationLatency

MilliSeconds

Latencia de las invocaciones.

InvocationClientErrors

SampleCount

Número de invocaciones que dan lugar a errores del lado del cliente.

InvocationServerErrors

SampleCount

Número de invocaciones que provocan errores en el AWS servidor.

InvocationThrottles

SampleCount

Número de invocaciones que el sistema ha limitado.

InputTokenCount

SampleCount

Número de tokens de entrada de texto.

LegacyModelInvocations SampleCount Número de invocaciones que utilizan modelos Heredados

OutputTokenCount

SampleCount

Número de tokens de salida de texto.

OutputImageCount

SampleCount

Número de imágenes de salida.

Registrar métricas CloudWatch

Para cada intento de entrega exitoso o fallido, se emiten las siguientes CloudWatch métricas de Amazon en el espacio de nombres y Across all model IDs la AWS/Bedrock dimensión:

  • ModelInvocationLogsCloudWatchDeliverySuccess

  • ModelInvocationLogsCloudWatchDeliveryFailure

  • ModelInvocationLogsS3DeliverySuccess

  • ModelInvocationLogsS3DeliveryFailure

  • ModelInvocationLargeDataS3DeliverySuccess

  • ModelInvocationLargeDataS3DeliveryFailure

Si los registros no se entregan debido a una mala configuración de los permisos o a errores transitorios, se vuelve a intentar la entrega periódicamente durante un máximo de 24 horas.

Usa CloudWatch métricas para Amazon Bedrock

Para obtener métricas de las operaciones de Amazon Bedrock, especifique la siguiente información:

  • La dimensión de la métrica. Una dimensión es un conjunto de pares nombre-valor que se emplea para identificar una métrica. Amazon Bedrock es compatible con las siguientes dimensiones:

    • ModelId: todas las métricas

    • ModelId + ImageSize + BucketedStepSize – OutputImageCount

  • El nombre de la métrica, como InvocationClientErrors.

Puede obtener métricas de Amazon Bedrock con la AWS Management Console AWS CLI, la o la CloudWatch API. Puede utilizar la CloudWatch API a través de uno de los kits de desarrollo de AWS software (SDK) o las herramientas de la CloudWatch API.

Debe tener los CloudWatch permisos adecuados para monitorear Amazon Bedrock. CloudWatch Para obtener más información, consulte Autenticación y control de acceso para Amazon CloudWatch en la Guía del CloudWatch usuario de Amazon.

Ver las métricas de Amazon Bedrock

Vea las métricas de Amazon Bedrock en la CloudWatch consola.

Para ver las métricas (CloudWatch consola)
  1. Inicie sesión en la CloudWatch consola AWS Management Console y ábrala en https://console.aws.amazon.com/cloudwatch/.

  2. Elija Métricas, elija Todas las métricas y, a continuación, busque ModelId.