아마존과 함께 아마존 베드록을 모니터링하세요 CloudWatch - Amazon Bedrock
런타임 지표로깅 지표 CloudWatch Amazon CloudWatch Bedrock용 메트릭 사용Amazon Bedrock 지표 보기

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

아마존과 함께 아마존 베드록을 모니터링하세요 CloudWatch

원시 데이터를 수집하여 읽기 쉬운 거의 실시간 지표로 처리하는 Amazon을 사용하여 Amazon CloudWatch Bedrock을 모니터링할 수 있습니다. 콘솔을 사용하여 지표를 그래프로 표시할 수 있습니다. CloudWatch 특정 임계값을 감시하다가 해당 임계값을 초과할 경우 알림을 전송하거나 조치를 취하도록 경보를 설정할 수도 있습니다.

자세한 내용은 Amazon CloudWatch 사용 설명서의 CloudWatch Amazon이란 무엇입니까? 를 참조하십시오.

런타임 지표

아래 표에서는 Amazon Bedrock에서 제공하는 런타임 지표를 설명합니다.

지표 이름 단위 설명
Invocations SampleCount InvokeModel또는 InvokeModelWithResponseStreamAPI 작업에 대한 요청 수.

InvocationLatency

 MilliSeconds

호출 지연 시간.

InvocationClientErrors

 SampleCount

클라이언트 측 오류가 발생하는 호출 수.

InvocationServerErrors

 SampleCount

AWS 서버측 오류가 발생한 호출 수입니다.

InvocationThrottles

 SampleCount

시스템이 제한된 호출 수.

InputTokenCount

 SampleCount

텍스트 입력의 토큰 수.
LegacyModelInvocations SampleCount 레거시 모델을 사용한 간접 호출 수

OutputTokenCount

 SampleCount

텍스트 출력의 토큰 수.

OutputImageCount

 SampleCount

출력 이미지의 수.

로깅 지표 CloudWatch

각 전송 성공 또는 실패 시도에 대해 네임스페이스 AWS/Bedrock 및 차원 아래에 다음과 같은 Amazon CloudWatch 지표가 생성됩니다. Across all model IDs

  • ModelInvocationLogsCloudWatchDeliverySuccess

  • ModelInvocationLogsCloudWatchDeliveryFailure

  • ModelInvocationLogsS3DeliverySuccess

  • ModelInvocationLogsS3DeliveryFailure

  • ModelInvocationLargeDataS3DeliverySuccess

  • ModelInvocationLargeDataS3DeliveryFailure

잘못된 권한 구성 또는 일시적 실패로 인해 로그 전송이 실패할 경우, 최대 24시간 동안 주기적으로 전송이 재시도됩니다.

Amazon CloudWatch Bedrock용 메트릭 사용

Amazon Bedrock 작업의 지표를 검색하려면 다음 정보를 지정해야 합니다.

  • 지표 측정기준. 차원은 지표를 식별하는 데 사용하는 이름-값 페어 집합입니다. Amazon Bedrock은 다음과 같은 차원을 지원합니다.

    • ModelId - 모든 지표

    • ModelId + ImageSize + BucketedStepSize – OutputImageCount

  • InvocationClientErrors와 같은 지표 이름.

AWS Management Console AWS CLI, 또는 API를 사용하여 Amazon Bedrock에 대한 지표를 얻을 수 있습니다. CloudWatch AWS 소프트웨어 개발 키트 (SDK) 또는 CloudWatch API 도구 중 하나를 통해 API를 사용할 수 있습니다. CloudWatch

Amazon Bedrock을 모니터링하려면 적절한 CloudWatch 권한이 있어야 합니다. CloudWatch 자세한 내용은 Amazon 사용 CloudWatch 설명서의 Amazon CloudWatch 인증 및 액세스 제어를 참조하십시오.

Amazon Bedrock 지표 보기

콘솔에서 Amazon Bedrock 메트릭을 CloudWatch 볼 수 있습니다.

지표를 보려면 (콘솔) CloudWatch

  1. 에 AWS Management Console 로그인하고 https://console.aws.amazon.com/cloudwatch/ 에서 CloudWatch 콘솔을 엽니다.

  2. 메트릭을 선택하고 모든 메트릭을 선택한 다음 ModelId검색합니다.