As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Os exemplos de código a seguir demonstram como criar, usar e gerenciar throughput provisionado com a AWS CLI e o SDK para Python.
Crie um throughput provisionado sem compromisso chamado MyPT
com base em um modelo personalizado denominado MyCustomModel
que foi personalizado com base no modelo Claude v2.1 da Anthropic executando o comando a seguir em um terminal.
aws bedrock create-provisioned-model-throughput \ --model-units 1 \ --provisioned-model-name MyPT \ --model-id arn:aws:bedrock:us-east-1::custom-model/anthropic.claude-v2:1:200k/MyCustomModel
A resposta retorna o provisioned-model-arn
. Aguarde até que a criação seja concluída. Para verificar o status, forneça o nome ou o ARN do modelo provisionado como provisioned-model-id
no comando a seguir.
aws bedrock get-provisioned-model-throughput \ --provisioned-model-id MyPT
Altere o nome do throughput provisionado e associe-o a um modelo diferente personalizado com base no Claude v2.1 da Anthropic.
aws bedrock update-provisioned-model-throughput \ --provisioned-model-id MyPT \ --desired-provisioned-model-name MyPT2 \ --desired-model-id arn:aws:bedrock:us-east-1::custom-model/anthropic.claude-v2:1:200k/MyCustomModel2
Execute a inferência com o modelo provisionado atualizado com o comando a seguir. Forneça o ARN do modelo provisionado, retornado na resposta de UpdateProvisionedModelThroughput
como o model-id
. A saída é gravada em um arquivo chamado output.txt
em sua pasta atual.
aws bedrock-runtime invoke-model \
--model-id ${provisioned-model-arn}
\
--body '{"inputText": "What is AWS?", "textGenerationConfig": {"temperature": 0.5}}' \
--cli-binary-format raw-in-base64-out \
output.txt
Exclua o throughput provisionado usando o seguinte comando: Você não receberá mais cobranças pelo throughput provisionado.
aws bedrock delete-provisioned-model-throughput --provisioned-model-id MyPT2