Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Pantau kesehatan dan kinerja Amazon Bedrock
Anda dapat memantau semua bagian aplikasi Amazon Bedrock Anda menggunakan Amazon CloudWatch, yang mengumpulkan data mentah dan memprosesnya menjadi metrik yang dapat dibaca, mendekati waktu nyata. Anda dapat membuat grafik metrik menggunakan CloudWatch konsol. Anda juga dapat menyetel alarm yang mengawasi ambang batas tertentu, dan mengirim pemberitahuan atau mengambil tindakan ketika nilai melebihi ambang batas tersebut.
Untuk informasi selengkapnya, lihat Apa itu Amazon CloudWatch di Panduan CloudWatch Pengguna Amazon.
Topik
- Memantau pemanggilan model menggunakan Log CloudWatch
- Pantau basis pengetahuan menggunakan CloudWatch Log
- Pantau Amazon Bedrock Guardrails menggunakan Metrik CloudWatch
- Pantau Amazon Bedrock Studio menggunakan CloudWatch Log
- Metrik runtime Amazon Bedrock
- CloudWatch metrik untuk Amazon Bedrock
- Pantau perubahan status pekerjaan Amazon Bedrock menggunakan Amazon EventBridge
- Pantau API panggilan Amazon Bedrock menggunakan CloudTrail
Metrik runtime Amazon Bedrock
Tabel berikut menjelaskan metrik runtime yang disediakan oleh Amazon Bedrock.
| Nama metrik | Unit | Deskripsi |
|---|---|---|
| Invokasi | SampleCount | Jumlah permintaan ke Converse,, ConverseStreamInvokeModel, dan InvokeModelWithResponseStreamAPIoperasi. |
|
InvocationLatency |
MilliSeconds |
Latensi doa.
|
|
InvocationClientErrors |
SampleCount |
Jumlah pemanggilan yang menghasilkan kesalahan sisi klien. |
|
InvocationServerErrors |
SampleCount |
Jumlah pemanggilan yang menghasilkan kesalahan sisi AWS server. |
|
InvocationThrottles |
SampleCount |
Jumlah pemanggilan yang dibatasi oleh sistem. |
|
InputTokenCount |
SampleCount |
Jumlah token dalam input. |
| LegacyModelInvocations | SampleCount | Jumlah pemanggilan menggunakan model Legacy |
|
OutputTokenCount |
SampleCount |
Jumlah token dalam output. |
|
OutputImageCount |
SampleCount |
Jumlah gambar dalam output (hanya berlaku untuk model pembuatan gambar). |
CloudWatch metrik untuk Amazon Bedrock
Untuk setiap upaya keberhasilan atau kegagalan pengiriman, CloudWatch metrik Amazon berikut akan dipancarkan di bawah namespaceAWS/Bedrock, dan dimensi: Across all model IDs
-
ModelInvocationLogsCloudWatchDeliverySuccess -
ModelInvocationLogsCloudWatchDeliveryFailure -
ModelInvocationLogsS3DeliverySuccess -
ModelInvocationLogsS3DeliveryFailure -
ModelInvocationLargeDataS3DeliverySuccess -
ModelInvocationLargeDataS3DeliveryFailure
Untuk mengambil metrik untuk operasi Amazon Bedrock, Anda menentukan informasi berikut:
-
Dimensi metrik. Dimensi adalah sekumpulan pasangan nama-nilai yang Anda gunakan untuk mengidentifikasi metrik. Amazon Bedrock mendukung dimensi berikut:
-
ModelId— semua metrik -
ModelId + ImageSize + BucketedStepSize– OutputImageCount
-
-
Nama metrik, seperti
InvocationClientErrors.
Anda bisa mendapatkan metrik untuk Amazon Bedrock dengan AWS Management Console, the AWS CLI, atau. CloudWatch API Anda dapat menggunakan CloudWatch API melalui salah satu Kit Pengembangan AWS Perangkat Lunak (SDKs) atau CloudWatch API alat.
Untuk melihat metrik Amazon Bedrock di CloudWatch konsol, buka bagian metrik di panel navigasi dan pilih opsi semua metrik, lalu cari ID model.
Anda harus memiliki CloudWatch izin yang sesuai untuk memantau Amazon Bedrock dengan CloudWatch Untuk informasi selengkapnya, lihat Otentikasi dan Kontrol Akses untuk Amazon CloudWatch di Panduan Pengguna Amazon CloudWatch .
