Configurar a API do Amazon Bedrock

Esta seção descreve como configurar um ambiente para fazer chamadas de API do Amazon Bedrock e fornece exemplos de casos de uso comuns. Você pode acessar a API Amazon Bedrock usando o AWS Command Line Interface (AWS CLI), um AWS SDK ou um SageMaker Notebook.

Antes de acessar as APIs do Amazon Bedrock, você precisa solicitar acesso aos modelos básicos que planeja usar.

Para obter detalhes sobre as operações e os parâmetros de API, consulte a Referência da API do Amazon Bedrock.

Os recursos a seguir fornecem informações adicionais sobre a API do Amazon Bedrock.

• AWS Command Line Interface

  • Comandos da CLI do Amazon Bedrock

  • Comandos da CLI de runtime do Amazon Bedrock

  • Comandos da CLI da funcionalidade Agentes do Amazon Bedrock

  • Comandos da CLI de runtime da funcionalidade Agentes do Amazon Bedrock

Adicionar acesso a modelos

Importante

Antes de usar qualquer um dos modelos de base, você deve solicitar acesso ao respectivo modelo. Se você tentar usar o modelo (com a API ou pelo console) antes de solicitar acesso a ele, receberá uma mensagem de erro. Para ter mais informações, consulte Acesso ao modelo.

Endpoints do Amazon Bedrock

Para se conectar programaticamente a um AWS service (Serviço da AWS), você usa um endpoint. Consulte o capítulo de endpoints e cotas do Amazon Bedrock no Referência geral da AWS para obter informações sobre os endpoints que você pode usar para o Amazon Bedrock.

O Amazon Bedrock fornece os endpoints de serviço a seguir.

• bedrock: contém APIs de ambiente de gerenciamento para gerenciar, treinar e implantar modelos. Para obter mais informações, consulte Amazon Bedrock Actions e Amazon Bedrock Data Types.

• bedrock-runtime— Contém APIs de planos de dados para fazer solicitações de inferência para modelos hospedados no Amazon Bedrock. Para obter mais informações, consulte Amazon Bedrock Runtime Actions e Amazon Bedrock Runtime Data Types.

• bedrock-agent: contém APIs de ambiente de gerenciamento para criar e gerenciar agentes e bases de conhecimento. Para obter mais informações, consulte Agents for Amazon Bedrock Actions e Agents for Amazon Bedrock Data Types.

• bedrock-agent-runtime— Contém APIs de plano de dados para invocar agentes e consultar bases de conhecimento. Para obter mais informações, consulte Agents for Amazon Bedrock Runtime Actions e Agents for Amazon Bedrock Runtime Data Types.

Configurando a AWS CLI

1. Se você planeja usar a CLI, instale e configure o AWS CLI seguindo as etapas em Instalar ou atualizar a versão mais recente do Guia do AWS Command Line Interface usuário.

2. Configure suas AWS credenciais usando o comando aws configure CLI seguindo as etapas em Configurar o. AWS CLI

Consulte as seguintes referências para comandos e operações da AWS CLI:

• Comandos da CLI do Amazon Bedrock

• Comandos da CLI de runtime do Amazon Bedrock

• Comandos da CLI da funcionalidade Agentes do Amazon Bedrock

• Comandos da CLI de runtime da funcionalidade Agentes do Amazon Bedrock

Configurando um AWS SDK

AWS kits de desenvolvimento de software (SDKs) estão disponíveis para muitas linguagens de programação populares. Cada SDK fornece uma API, exemplos de código e documentação que facilitam a criação de aplicações em seu idioma preferido pelos desenvolvedores. Os SDKs executam automaticamente tarefas úteis para você, como:

• Assine criptograficamente suas solicitações de serviço

• Solicitações de repetição

• Lidar com respostas de erro

Consulte a tabela a seguir para encontrar informações gerais e exemplos de código para cada SDK, bem como as referências da API Amazon Bedrock para cada SDK. Você também pode encontrar exemplos de código emExemplos de código para Amazon Bedrock usando SDKs AWS.

Documentação do SDK	Exemplos de código	Prefixo do Amazon Bedrock	Prefixo de runtime do Amazon Bedrock	Prefixo da funcionalidade Agentes do Amazon Bedrock	Prefixo de runtime da funcionalidade Agentes do Amazon Bedrock
AWS SDK for C++	AWS SDK for C++ exemplos de código	bedrock	bedrock-runtime	bedrock-agent	bedrock-agent-runtime
AWS SDK for Go	AWS SDK for Go exemplos de código	bedrock	bedrockruntime	bedrockagent	bedrockagentruntime
AWS SDK for Java	AWS SDK for Java exemplos de código	bedrock	bedrockruntime	bedrockagent	bedrockagentruntime
AWS SDK for JavaScript	AWS SDK for JavaScript exemplos de código	bedrock	bedrock-runtime	bedrock-agent	bedrock-agent-runtime
AWS SDK para Kotlin	AWS SDK para Kotlin exemplos de código	bedrock	bedrockruntime	bedrockagent	bedrockagentruntime
AWS SDK for .NET	AWS SDK for .NET exemplos de código	Bedrock	BedrockRuntime	BedrockAgent	BedrockAgentRuntime
AWS SDK for PHP	AWS SDK for PHP exemplos de código	Bedrock	BedrockRuntime	BedrockAgent	BedrockAgentRuntime
AWS SDK for Python (Boto3)	AWS SDK for Python (Boto3) exemplos de código	bedrock	bedrock-runtime	bedrock-agent	bedrock-agent-runtime
AWS SDK for Ruby	AWS SDK for Ruby exemplos de código	Bedrock	BedrockRuntime	BedrockAgent	BedrockAgentRuntime
AWS SDK para Rust	AWS SDK para Rust exemplos de código	aws-sdk-bedrock	aws-sdk-bedrockruntime	aws-sdk-bedrockagent	aws-sdk-bedrockagentruntime
SDK da AWS para SAP ABAP	SDK da AWS para SAP ABAP exemplos de código	BDK	BDR	MÁ	BDZ
AWS SDK for Swift	AWS SDK for Swift exemplos de código	AWSBedrock	AWSBedrockRuntime	AWSBedrockAgent	AWSBedrockAgentRuntime

Usando SageMaker cadernos

Você pode usar o SDK para Python (Boto3) para invocar as operações da API Amazon Bedrock a partir de um notebook. SageMaker

Configurar a SageMaker função

Adicione permissões do Amazon Bedrock à função do IAM que usará esse SageMaker notebook.

No console do IAM, execute estas etapas:

1. Escolha o perfil do IAM, selecione Adicionar permissões e escolha Criar políticas em linha no menu suspenso.

2. Inclua a permissão a seguir.

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": "bedrock:*",
            "Resource": "*"
        }
    ]
}           

Adicione as permissões a seguir às relações de confiança.

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Principal": {
                "Service": "bedrock.amazonaws.com"
            },
            "Action": "sts:AssumeRole"
        },
        {
            "Sid": "",
            "Effect": "Allow",
            "Principal": {
                "Service": "sagemaker.amazonaws.com"
            },
            "Action": "sts:AssumeRole"
        }
    ]
}                   

Testar a configuração de runtime

Adicione o código a seguir ao seu caderno e execute-o.

import boto3
import json
bedrock = boto3.client(service_name='bedrock-runtime')

body = json.dumps({
    "prompt": "\n\nHuman:explain black holes to 8th graders\n\nAssistant:",
    "max_tokens_to_sample": 300,
    "temperature": 0.1,
    "top_p": 0.9,
})

modelId = 'anthropic.claude-v2'
accept = 'application/json'
contentType = 'application/json'

response = bedrock.invoke_model(body=body, modelId=modelId, accept=accept, contentType=contentType)

response_body = json.loads(response.get('body').read())
# text
print(response_body.get('completion'))

Testar a configuração do Amazon Bedrock

Adicione o código a seguir ao seu caderno e execute-o.

import boto3
bedrock = boto3.client(service_name='bedrock')

bedrock.get_foundation_model(modelIdentifier='anthropic.claude-v2')