Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
I seguenti esempi di codice mostrano come creare, utilizzare e gestire un Provisioned Throughput con AWS CLI e Python. SDK
Crea un Provisioned Throughput senza impegno chiamato in MyPT
base a un modello personalizzato denominato personalizzato dal MyCustomModel
Anthropic Claude modello v2.1 eseguendo il seguente comando in un terminale.
aws bedrock create-provisioned-model-throughput \ --model-units 1 \ --provisioned-model-name MyPT \ --model-id arn:aws:bedrock:us-east-1::custom-model/anthropic.claude-v2:1:200k/MyCustomModel
La risposta restituisce unprovisioned-model-arn
. Attendi del tempo per il completamento della creazione. Per verificarne lo stato, fornite il nome o ARN il modello fornito come indicato provisioned-model-id
nel comando seguente.
aws bedrock get-provisioned-model-throughput \ --provisioned-model-id MyPT
Modificate il nome del Provisioned Throughput e associatelo a un modello diverso personalizzato da Anthropic Claude v2.1.
aws bedrock update-provisioned-model-throughput \ --provisioned-model-id MyPT \ --desired-provisioned-model-name MyPT2 \ --desired-model-id arn:aws:bedrock:us-east-1::custom-model/anthropic.claude-v2:1:200k/MyCustomModel2
Esegui l'inferenza con il tuo modello di provisioning aggiornato con il seguente comando. È necessario fornire il ARN modello fornito, restituito nella UpdateProvisionedModelThroughput
risposta, come. model-id
L'output viene scritto in un file denominato output.txt
nella cartella corrente.
aws bedrock-runtime invoke-model \
--model-id ${provisioned-model-arn}
\
--body '{"inputText": "What is AWS?", "textGenerationConfig": {"temperature": 0.5}}' \
--cli-binary-format raw-in-base64-out \
output.txt
Eliminare il Provisioned Throughput utilizzando il seguente comando. Il Provisioned Throughput non ti verrà più addebitato.
aws bedrock delete-provisioned-model-throughput --provisioned-model-id MyPT2