Pantau Amazon Bedrock dengan Amazon CloudWatch

Anda dapat memantau Amazon Bedrock menggunakan Amazon CloudWatch, yang mengumpulkan data mentah dan memprosesnya menjadi metrik yang dapat dibaca, mendekati waktu nyata. Anda dapat membuat grafik metrik menggunakan CloudWatch konsol. Anda juga dapat menyetel alarm yang mengawasi ambang batas tertentu, dan mengirim pemberitahuan atau mengambil tindakan ketika nilai melebihi ambang batas tersebut.

Untuk informasi selengkapnya, lihat Apa itu Amazon CloudWatch di Panduan CloudWatch Pengguna Amazon.

Metrik runtime

Tabel berikut menjelaskan metrik runtime yang disediakan oleh Amazon Bedrock.

Nama metrik	Unit	Deskripsi
Invokasi	SampleCount	Jumlah permintaan untuk operasi InvokeModelatau InvokeModelWithResponseStreamAPI.
InvocationLatency	MilliSeconds	Latensi doa.
InvocationClientErrors	SampleCount	Jumlah pemanggilan yang menghasilkan kesalahan sisi klien.
InvocationServerErrors	SampleCount	Jumlah pemanggilan yang menghasilkan kesalahan sisi AWS server.
InvocationThrottles	SampleCount	Jumlah pemanggilan yang dibatasi oleh sistem.
InputTokenCount	SampleCount	Jumlah token input teks.
LegacyModelInvocations	SampleCount	Jumlah pemanggilan menggunakan model Legacy
OutputTokenCount	SampleCount	Jumlah token output teks.
OutputImageCount	SampleCount	Jumlah gambar output.

CloudWatch Metrik pencatatan

Untuk setiap upaya keberhasilan atau kegagalan pengiriman, CloudWatch metrik Amazon berikut akan dipancarkan di bawah namespaceAWS/Bedrock, dan dimensi: Across all model IDs

• ModelInvocationLogsCloudWatchDeliverySuccess

• ModelInvocationLogsCloudWatchDeliveryFailure

• ModelInvocationLogsS3DeliverySuccess

• ModelInvocationLogsS3DeliveryFailure

• ModelInvocationLargeDataS3DeliverySuccess

• ModelInvocationLargeDataS3DeliveryFailure

Jika log gagal dikirimkan karena kesalahan konfigurasi izin atau kegagalan sementara, pengiriman dicoba ulang secara berkala hingga 24 jam.

Gunakan CloudWatch metrik untuk Amazon Bedrock

Untuk mengambil metrik untuk operasi Amazon Bedrock, Anda menentukan informasi berikut:

• Dimensi metrik. Dimensi adalah sekumpulan pasangan nama-nilai yang Anda gunakan untuk mengidentifikasi metrik. Amazon Bedrock mendukung dimensi berikut:

  • ModelId— semua metrik

  • ModelId + ImageSize + BucketedStepSize – OutputImageCount

• Nama metrik, seperti InvocationClientErrors.

Anda bisa mendapatkan metrik untuk Amazon Bedrock dengan AWS Management Console, the AWS CLI, atau API. CloudWatch Anda dapat menggunakan CloudWatch API melalui salah satu Kit Pengembangan Perangkat AWS Lunak (SDK) atau alat CloudWatch API.

Anda harus memiliki CloudWatch izin yang sesuai untuk memantau Amazon Bedrock dengan CloudWatch Untuk informasi selengkapnya, lihat Otentikasi dan Kontrol Akses untuk Amazon CloudWatch di Panduan Pengguna Amazon CloudWatch .

Lihat metrik Amazon Bedrock

Lihat metrik Amazon Bedrock di konsol. CloudWatch

Untuk melihat metrik (CloudWatch konsol)

1. Masuk ke AWS Management Console dan buka CloudWatch konsol di https://console.aws.amazon.com/cloudwatch/.

2. Pilih Metrik, pilih Semua Metrik, lalu cari. ModelId