Configurazione dell'API Amazon Bedrock

Questa sezione descrive come configurare il tuo ambiente per effettuare chiamate all'API Amazon Bedrock, oltre a fornire esempi di casi d'uso comuni. Puoi accedere all'API Amazon Bedrock utilizzando AWS Command Line Interface (AWS CLI), un AWS SDK o un SageMaker notebook.

Prima di poter accedere alle API di Amazon Bedrock, devi richiedere l'accesso ai modelli base che intendi utilizzare.

Per ulteriori informazioni sulle operazioni e sui parametri delle API, consulta la documentazione di riferimento delle API di Amazon Bedrock.

Le risorse seguenti forniscono ulteriori informazioni sull'API Amazon Bedrock.

• AWS Command Line Interface

  • Comandi CLI di Amazon Bedrock

  • Amazon Bedrock Runtime CLI commands

  • Comandi CLI di Agenti per Amazon Bedrock

  • Agents for Amazon Bedrock Runtime CLI commands

Aggiunta dell'accesso al modello

Importante

Prima di poter utilizzare uno qualsiasi dei modelli di fondazione, devi richiedere l'accesso a quel modello. Se tenti di utilizzare il modello (con l'API o all'interno della console) prima di averne richiesto l'accesso, compare un messaggio di errore. Per ulteriori informazioni, consulta Accesso ai modelli.

Endpoint Amazon Bedrock

Per connetterti a livello di codice a un Servizio AWS, usi un endpoint. Per informazioni sugli endpoint che puoi utilizzare Riferimenti generali di AWS per Amazon Bedrock, consulta il capitolo Endpoint e quote di Amazon Bedrock.

Amazon Bedrock fornisce i seguenti endpoint del servizio.

• bedrock: contiene API del piano di controllo (control-plane) per la gestione, l'addestramento e l'implementazione dei modelli. Per ulteriori informazioni, consulta Amazon Bedrock Actions e Amazon Bedrock Data Types.

• bedrock-runtime— Contiene API del piano dati per effettuare richieste di inferenza per modelli ospitati in Amazon Bedrock. Per ulteriori informazioni, consulta Amazon Bedrock Runtime Actions e Amazon Bedrock Runtime Data Types.

• bedrock-agent: contiene API del piano di controllo (control-plane) per la creazione e la gestione di agenti e knowledge base. Per ulteriori informazioni, consulta Agents for Amazon Bedrock Actions e Agents for Amazon Bedrock Data Types.

• bedrock-agent-runtime— Contiene API del piano dati per richiamare agenti e interrogare le knowledge base. Per ulteriori informazioni, consulta Agents for Amazon Bedrock Runtime Actions e Agents for Amazon Bedrock Runtime Data Types.

Configurazione della AWS CLI

1. Se intendi utilizzare la CLI, installala e configurala AWS CLI seguendo i passaggi riportati in Installa o aggiorna la versione più recente della Guida per l' AWS Command Line Interface utente.

2. Configura AWS le tue credenziali utilizzando il comando aws configure CLI seguendo i passaggi in Configurare il. AWS CLI

Fate riferimento ai seguenti riferimenti per i comandi e le operazioni AWS CLI:

• Comandi CLI di Amazon Bedrock

• Amazon Bedrock Runtime CLI commands

• Comandi CLI di Agenti per Amazon Bedrock

• Agents for Amazon Bedrock Runtime CLI commands

Configurazione di un SDK AWS

AWS I kit di sviluppo software (SDK) sono disponibili per molti linguaggi di programmazione più diffusi. Ogni SDK fornisce un'API, esempi di codice, e documentazione che facilitano agli sviluppatori la creazione di applicazioni nel loro linguaggio preferito. Gli SDK eseguono automaticamente attività utili per te, come:

• Firma crittograficamente le tue richieste di servizio

• Riprova le richieste

• Gestisci le risposte agli errori

Fai riferimento alla tabella seguente per trovare informazioni generali ed esempi di codice per ogni SDK, nonché i riferimenti alle API Amazon Bedrock per ogni SDK. Puoi trovare esempi di codice anche su. Esempi di codice per Amazon Bedrock con AWS SDK

Documentazione sugli SDK	Esempi di codice	Prefisso Amazon Bedrock	Prefisso di runtime Amazon Bedrock	Prefisso di Agenti per Amazon Bedrock	Prefisso di runtime di Agenti per Amazon Bedrock
AWS SDK for C++	AWS SDK for C++ esempi di codice	bedrock	bedrock-runtime	bedrock-agent	bedrock-agent-runtime
AWS SDK for Go	AWS SDK for Go esempi di codice	bedrock	bedrockruntime	bedrockagent	bedrockagentruntime
AWS SDK for Java	AWS SDK for Java esempi di codice	bedrock	bedrockruntime	bedrockagent	bedrockagentruntime
AWS SDK for JavaScript	AWS SDK for JavaScript esempi di codice	bedrock	bedrock-runtime	bedrock-agent	bedrock-agent-runtime
SDK AWS for Kotlin	SDK AWS for Kotlin esempi di codice	bedrock	bedrockruntime	bedrockagent	bedrockagentruntime
AWS SDK for .NET	AWS SDK for .NET esempi di codice	Bedrock	BedrockRuntime	BedrockAgent	BedrockAgentRuntime
AWS SDK for PHP	AWS SDK for PHP esempi di codice	Bedrock	BedrockRuntime	BedrockAgent	BedrockAgentRuntime
AWS SDK for Python (Boto3)	AWS SDK for Python (Boto3) esempi di codice	bedrock	bedrock-runtime	bedrock-agent	bedrock-agent-runtime
AWS SDK for Ruby	AWS SDK for Ruby esempi di codice	Bedrock	BedrockRuntime	BedrockAgent	BedrockAgentRuntime
AWS SDK for Rust	AWS SDK for Rust esempi di codice	aws-sdk-bedrock	aws-sdk-bedrockruntime	aws-sdk-bedrockagent	aws-sdk-bedrockagentruntime
SDK AWS per SAP ABAP	SDK AWS per SAP ABAP esempi di codice	BDK	BDR	BDA	BDZ
SDK AWS per Swift	SDK AWS per Swift esempi di codice	AWSBedrock	AWSBedrockRuntime	AWSBedrockAgent	AWSBedrockAgentRuntime

Utilizzo dei SageMaker taccuini

Puoi utilizzare l'SDK for Python (Boto3) per richiamare le operazioni dell'API Amazon Bedrock da un notebook. SageMaker

Configura il ruolo SageMaker

Aggiungi le autorizzazioni Amazon Bedrock al ruolo IAM che utilizzerà questo SageMaker notebook.

Dalla console IAM, esegui questi passaggi:

1. Scegli il ruolo IAM, quindi scegli Aggiungi autorizzazioni e seleziona Crea policy in linea dall'elenco a discesa.

2. Includi la seguente autorizzazione.

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": "bedrock:*",
            "Resource": "*"
        }
    ]
}           

Aggiungi le seguenti autorizzazioni alle relazioni di attendibilità.

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Principal": {
                "Service": "bedrock.amazonaws.com"
            },
            "Action": "sts:AssumeRole"
        },
        {
            "Sid": "",
            "Effect": "Allow",
            "Principal": {
                "Service": "sagemaker.amazonaws.com"
            },
            "Action": "sts:AssumeRole"
        }
    ]
}                   

Test della configurazione del runtime

Aggiungi il codice seguente al notebook ed eseguilo.

import boto3
import json
bedrock = boto3.client(service_name='bedrock-runtime')

body = json.dumps({
    "prompt": "\n\nHuman:explain black holes to 8th graders\n\nAssistant:",
    "max_tokens_to_sample": 300,
    "temperature": 0.1,
    "top_p": 0.9,
})

modelId = 'anthropic.claude-v2'
accept = 'application/json'
contentType = 'application/json'

response = bedrock.invoke_model(body=body, modelId=modelId, accept=accept, contentType=contentType)

response_body = json.loads(response.get('body').read())
# text
print(response_body.get('completion'))

Test della configurazione di Amazon Bedrock

Aggiungi il codice seguente al notebook ed eseguilo.

import boto3
bedrock = boto3.client(service_name='bedrock')

bedrock.get_foundation_model(modelIdentifier='anthropic.claude-v2')