Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Contoh kode berikut menunjukkan cara membuat, menggunakan, dan mengelola Provisioned Throughput dengan dan Python AWS CLI . SDK
Buat Throughput Penyediaan tanpa komitmen yang dipanggil MyPT
berdasarkan model khusus yang disebut MyCustomModel
yang disesuaikan dari Anthropic Claude model v2.1 dengan menjalankan perintah berikut di terminal.
aws bedrock create-provisioned-model-throughput \ --model-units 1 \ --provisioned-model-name MyPT \ --model-id arn:aws:bedrock:us-east-1::custom-model/anthropic.claude-v2:1:200k/MyCustomModel
Respons mengembalikan aprovisioned-model-arn
. Berikan waktu untuk pembuatan selesai. Untuk memeriksa statusnya, berikan nama atau ARN model yang disediakan seperti provisioned-model-id
pada perintah berikut.
aws bedrock get-provisioned-model-throughput \ --provisioned-model-id MyPT
Ubah nama Provisioned Throughput dan kaitkan dengan model berbeda yang disesuaikan dari Anthropic Claude v2.1.
aws bedrock update-provisioned-model-throughput \ --provisioned-model-id MyPT \ --desired-provisioned-model-name MyPT2 \ --desired-model-id arn:aws:bedrock:us-east-1::custom-model/anthropic.claude-v2:1:200k/MyCustomModel2
Jalankan inferensi dengan model penyediaan Anda yang diperbarui dengan perintah berikut. Anda harus memberikan ARN model yang disediakan, dikembalikan dalam UpdateProvisionedModelThroughput
tanggapan, sebagai. model-id
Output ditulis ke file bernama output.txt
di folder Anda saat ini.
aws bedrock-runtime invoke-model \
--model-id ${provisioned-model-arn}
\
--body '{"inputText": "What is AWS?", "textGenerationConfig": {"temperature": 0.5}}' \
--cli-binary-format raw-in-base64-out \
output.txt
Hapus Provisioned Throughput menggunakan perintah berikut. Anda tidak akan lagi dikenakan biaya untuk Throughput yang Disediakan.
aws bedrock delete-provisioned-model-throughput --provisioned-model-id MyPT2