Pencatatan pemanggilan model

Pencatatan pemanggilan model dapat digunakan untuk mengumpulkan log pemanggilan, data input model, dan data keluaran model untuk semua pemanggilan yang Anda gunakan di Amazon Bedrock. Akun AWS Secara default, pencatatan log dinonaktifkan.

Dengan pencatatan pemanggilan, Anda dapat mengumpulkan data permintaan lengkap, data respons, dan metadata yang terkait dengan semua panggilan yang dilakukan di akun Anda. Logging dapat dikonfigurasi untuk menyediakan sumber daya tujuan di mana data log akan dipublikasikan. Tujuan yang didukung termasuk Amazon CloudWatch Logs dan Amazon Simple Storage Service (Amazon S3). Hanya tujuan dari akun dan wilayah yang sama yang didukung.

Operasi berikut dapat mencatat pemanggilan model.

• Bercakap-cakap

• ConverseStream

• InvokeModel

• InvokeModelWithResponseStreaming

Saat menggunakan Converse API, data gambar atau dokumen apa pun yang Anda berikan akan dicatat di Amazon S3 (jika Anda telah mengaktifkan pengiriman dan pencatatan gambar di Amazon S3).

Sebelum Anda dapat mengaktifkan pencatatan pemanggilan, Anda perlu menyiapkan tujuan Amazon S3 CloudWatch atau Log. Anda dapat mengaktifkan logging pemanggilan melalui konsol atau API.

Siapkan tujuan Amazon S3

Anda dapat mengatur tujuan S3 untuk masuk ke Amazon Bedrock dengan langkah-langkah berikut:

1. Buat bucket S3 tempat log akan dikirimkan.

2. Tambahkan kebijakan bucket ke dalamnya seperti di bawah ini (Ganti nilai untuk accountID, region, bucketName, dan awalan opsional):

   catatan

   Kebijakan bucket secara otomatis dilampirkan ke bucket atas nama Anda saat mengonfigurasi pencatatan dengan izin S3:GetBucketPolicy danS3:PutBucketPolicy.

   {
     "Version": "2012-10-17",
     "Statement": [
       {
         "Sid": "AmazonBedrockLogsWrite",
         "Effect": "Allow",
         "Principal": {
           "Service": "bedrock.amazonaws.com"
         },
         "Action": [
           "s3:PutObject"
         ],
         "Resource": [
           "arn:aws:s3:::bucketName/prefix/AWSLogs/accountId/BedrockModelInvocationLogs/*"
         ],
         "Condition": {
           "StringEquals": {
             "aws:SourceAccount": "accountId" 
           },
           "ArnLike": {
              "aws:SourceArn": "arn:aws:bedrock:region:accountId:*"
           }
         }
       }
     ]
   }
                   

3. (Opsional) Jika mengonfigurasi SSE-KMS pada bucket, tambahkan kebijakan di bawah ini pada kunci KMS:

   {
       "Effect": "Allow",
       "Principal": {
           "Service": "bedrock.amazonaws.com"
       },
       "Action": "kms:GenerateDataKey",
       "Resource": "*",
       "Condition": {
           "StringEquals": {
             "aws:SourceAccount": "accountId" 
           },
           "ArnLike": {
              "aws:SourceArn": "arn:aws:bedrock:region:accountId:*"
           }
       }
   }                

Untuk informasi selengkapnya tentang konfigurasi S3 SSE-KMS, lihat Menentukan Enkripsi KMS.

catatan

Bucket ACL harus dinonaktifkan agar kebijakan bucket berlaku. Untuk informasi selengkapnya, lihat Menonaktifkan ACL untuk semua bucket baru dan menerapkan Kepemilikan Objek.

Menyiapkan tujuan CloudWatch Log

Anda dapat mengatur tujuan Amazon CloudWatch Log untuk masuk ke Amazon Bedrock dengan langkah-langkah berikut:

1. Buat grup CloudWatch log tempat log akan dipublikasikan.

2. Buat peran IAM dengan izin berikut untuk CloudWatch Log.

   Entitas tepercaya:

   {
     "Version": "2012-10-17",
     "Statement": [
       {
         "Effect": "Allow",
         "Principal": {
           "Service": "bedrock.amazonaws.com"
         },
         "Action": "sts:AssumeRole",
         "Condition": {
           "StringEquals": {
             "aws:SourceAccount": "accountId" 
           },
           "ArnLike": {
             "aws:SourceArn": "arn:aws:bedrock:region:accountId:*"
           }
         }
       }
     ]
   }
                   

   Kebijakan peran:

   {
       "Version": "2012-10-17", 
       "Statement": [ 
           {
               "Effect": "Allow", 
               "Action": [ 
                   "logs:CreateLogStream", 
                   "logs:PutLogEvents" 
               ], 
               "Resource": "arn:aws:logs:region:accountId:log-group:logGroupName:log-stream:aws/bedrock/modelinvocations" 
            } 
       ]
   }
                   

Untuk informasi selengkapnya tentang menyiapkan SSE untuk CloudWatch Log, lihat Mengenkripsi data CloudWatch log di Log menggunakan AWS Key Management Service.

Menggunakan konsol

Untuk mengaktifkan pencatatan pemanggilan model, seret tombol penggeser di sebelah sakelar sakelar Logging di halaman Pengaturan. Pengaturan konfigurasi tambahan untuk logging akan muncul di panel.

Pilih permintaan dan tanggapan data yang ingin Anda publikasikan ke log. Anda dapat memilih kombinasi dari opsi output berikut:

• Teks

• Citra

• Menyematkan

Pilih tempat untuk mempublikasikan log:

• Hanya Amazon S3

• CloudWatch Log saja

• Baik Amazon S3 dan Log CloudWatch

Tujuan Amazon S3 dan CloudWatch Log didukung untuk log pemanggilan, serta data input dan output kecil. Untuk data input dan output besar atau output gambar biner, hanya Amazon S3 yang didukung. Rincian berikut merangkum bagaimana data akan direpresentasikan di lokasi target.

• Tujuan S3 - File JSON yang di-zip, masing-masing berisi sekumpulan catatan log pemanggilan, dikirim ke bucket S3 yang ditentukan. Mirip dengan peristiwa CloudWatch Log, setiap record akan berisi metadata pemanggilan, dan badan JSON input dan output berukuran hingga 100 KB. Data biner atau badan JSON yang lebih besar dari 100 KB akan diunggah sebagai objek individual dalam bucket Amazon S3 yang ditentukan di bawah awalan data. Data dapat ditanyakan menggunakan Amazon S3 Select dan Amazon Athena, dan dapat dikatalogkan untuk penggunaan ETL. AWS Glue Data dapat dimuat ke dalam OpenSearch layanan, atau diproses oleh EventBridge target Amazon apa pun.

• CloudWatch Tujuan log - Peristiwa log pemanggilan JSON dikirim ke grup log tertentu di Log. CloudWatch Peristiwa log berisi metadata pemanggilan, dan badan JSON input dan output berukuran hingga 100 KB. Jika lokasi Amazon S3 untuk pengiriman data besar disediakan, data biner atau badan JSON yang lebih besar dari 100 KB akan diunggah ke bucket Amazon S3 di bawah awalan data sebagai gantinya. data dapat ditanyakan menggunakan Wawasan CloudWatch Log, dan dapat dialirkan lebih lanjut ke berbagai layanan secara real-time menggunakan Log. CloudWatch

Menggunakan API dengan logging pemanggilan

Pencatatan pemanggilan model dapat dikonfigurasi menggunakan API berikut:

• PutModelInvocationLoggingConfiguration

• GetModelInvocationLoggingConfiguration

• DeleteModelInvocationLoggingConfiguration

Untuk informasi selengkapnya tentang cara menggunakan API dengan logging pemanggilan, lihat Panduan API Bedrock.