Einrichten der Amazon-Bedrock-API

In diesem Abschnitt wird beschrieben, wie Sie Ihre Umgebung für API-Aufrufe von Amazon Bedrock einrichten, und es werden Beispiele für gängige Anwendungsfälle gegeben. Sie können mit dem AWS Command Line Interface (AWS CLI), einem AWS SDK oder einem SageMaker Notebook auf die Amazon Bedrock API zugreifen.

Bevor Sie auf Amazon Bedrock APIs zugreifen können, müssen Sie Zugriff auf die Foundation-Modelle beantragen, die Sie verwenden möchten.

Weitere Informationen über die API-Operationen und Parameter finden Sie in der API-Referenz für Amazon Bedrock.

Die folgenden Ressourcen bieten zusätzliche Informationen über die Amazon-Bedrock-API.

• AWS Command Line Interface

  • CLI-Befehle von Amazon Bedrock

  • CLI-Befehle von Amazon Bedrock zur Laufzeit

  • Agenten für CLI-Befehle von Amazon Bedrock

  • Agenten für CLI-Befehle der Amazon-Bedrock-Runtime

Hinzufügen des Modellzugriffs

Wichtig

Bevor Sie eines der Basismodelle verwenden können, müssen Sie Zugriff auf dieses Modell beantragen. Wenn Sie versuchen, das Modell (mit der API oder in der Konsole) zu verwenden, bevor Sie Zugriff darauf angefordert haben, erhalten Sie eine Fehlermeldung. Weitere Informationen finden Sie unter Modellzugriff.

Amazon-Bedrock-Endpunkte

Um programmgesteuert eine Verbindung zu einem herzustellen AWS-Service, verwenden Sie einen Endpunkt. Informationen zu den Endpunkten, die Sie Allgemeine AWS-Referenz für Amazon Bedrock verwenden können, finden Sie im Kapitel Amazon Bedrock-Endpunkte und Kontingente in.

Amazon Bedrock bietet die folgenden Service-Endpunkte.

• bedrock: Enthält APIs auf Steuerebene für die Verwaltung, Training und Bereitstellung von Modellen. Weitere Informationen finden Sie unter Amazon-Bedrock-Aktionen und Amazon-Bedrock-Datentypen.

• bedrock-runtime— Enthält Datenebenen-APIs für Inferenzanfragen für Modelle, die in Amazon Bedrock gehostet werden. Weitere Informationen finden Sie unter Amazon-Bedrock-Runtime-Aktionen und Amazon-Bedrock-Runtime-Datentypen.

• bedrock-agent: Enthält APIs auf Steuerebene für die Erstellung und Verwaltung von Agenten und Wissensdatenbanken. Weitere Informationen finden Sie unter Agents-für-Amazon-Bedrock-Aktionen und Agentes-für-Amazon-Bedrock-Datentypen.

• bedrock-agent-runtime— Enthält Datenebenen-APIs zum Aufrufen von Agenten und Abfragen von Wissensdatenbanken. Weitere Informationen finden Sie unter Runtime-Aktionen für Agents für Amazon Bedrock und Runtime-Datentypen für Agents für Amazon Bedrock.

Einrichtung der AWS CLI

1. Wenn Sie beabsichtigen, die CLI zu verwenden, installieren und konfigurieren Sie sie, AWS CLI indem Sie die Schritte unter Installieren oder Aktualisieren der neuesten Version des AWS Command Line Interface Benutzerhandbuchs befolgen.

2. Konfigurieren Sie Ihre AWS Anmeldeinformationen mit dem aws configure CLI-Befehl, indem Sie die Schritte unter Configure the ausführen AWS CLI.

Informationen zu AWS CLI-Befehlen und -Vorgängen finden Sie in den folgenden Referenzen:

• CLI-Befehle von Amazon Bedrock

• CLI-Befehle von Amazon Bedrock zur Laufzeit

• Agenten für CLI-Befehle von Amazon Bedrock

• Agenten für CLI-Befehle der Amazon-Bedrock-Runtime

Ein AWS SDK einrichten

AWS Software Development Kits (SDKs) sind für viele beliebte Programmiersprachen verfügbar. Jedes SDK bietet eine API, Codebeispiele und Dokumentation, die es Entwicklern erleichtern, Anwendungen in ihrer bevorzugten Sprache zu erstellen. SDKs erledigen automatisch nützliche Aufgaben für Sie, wie z. B.:

• Signieren Sie Ihre Serviceanfragen kryptografisch

• Versuchen Sie es erneut mit Anfragen

• Behandeln Sie Fehlerantworten

In der folgenden Tabelle finden Sie allgemeine Informationen und Codebeispiele für jedes SDK sowie die Amazon Bedrock API-Referenzen für jedes SDK. Codebeispiele finden Sie auch unterCodebeispiele für Amazon Bedrock mit SDKs AWS.

SDK-Dokumentation	Codebeispiele	Amazon-Bedrock-Präfix	Amazon-Bedrock-Runtime-Präfix	Agents-für-Amazon-Bedrock-Präfix	Runtime-Präfix für Agents für Amazon Bedrock
AWS SDK for C++	AWS SDK for C++ Codebeispiele	bedrock	bedrock-runtime	bedrock-agent	bedrock-agent-runtime
AWS SDK for Go	AWS SDK for Go Codebeispiele	bedrock	bedrockruntime	bedrockagent	bedrockagentruntime
AWS SDK for Java	AWS SDK for Java Codebeispiele	bedrock	bedrockruntime	bedrockagent	bedrockagentruntime
AWS SDK for JavaScript	AWS SDK for JavaScript Codebeispiele	bedrock	bedrock-runtime	bedrock-agent	bedrock-agent-runtime
AWS SDK for Kotlin	AWS SDK for Kotlin Codebeispiele	bedrock	bedrockruntime	bedrockagent	bedrockagentruntime
AWS SDK for .NET	AWS SDK for .NET Codebeispiele	Bedrock	BedrockRuntime	BedrockAgent	BedrockAgentRuntime
AWS SDK for PHP	AWS SDK for PHP Codebeispiele	Bedrock	BedrockRuntime	BedrockAgent	BedrockAgentRuntime
AWS SDK for Python (Boto3)	AWS SDK for Python (Boto3) Codebeispiele	bedrock	bedrock-runtime	bedrock-agent	bedrock-agent-runtime
AWS SDK for Ruby	AWS SDK for Ruby Codebeispiele	Bedrock	BedrockRuntime	BedrockAgent	BedrockAgentRuntime
AWS SDK for Rust	AWS SDK for Rust Codebeispiele	aws-sdk-bedrock	aws-sdk-bedrockruntime	aws-sdk-bedrockagent	aws-sdk-bedrockagentruntime
AWS SDK für SAP ABAP	AWS SDK für SAP ABAP Codebeispiele	BDK	BDR	SCHLECHT	BDZ
AWS SDK for Swift	AWS SDK for Swift Codebeispiele	AWSBedrock	AWSBedrockRuntime	AWSBedrockAgent	AWSBedrockAgentRuntime

SageMaker Notizbücher verwenden

Sie können das SDK for Python (Boto3) verwenden, um Amazon Bedrock API-Operationen von einem Notizbuch aus aufzurufen. SageMaker

SageMaker Konfigurieren Sie die Rolle

Fügen Sie der IAM-Rolle, die dieses SageMaker Notizbuch verwenden soll, Amazon Bedrock-Berechtigungen hinzu.

Führen Sie in der IAM-Konsole die folgenden Schritte aus:

1. Wählen Sie die IAM-Rolle aus, klicken Sie dann auf Berechtigungen hinzufügen und wählen Sie in der Dropdown-Liste Inline-Richtlinien erstellen aus.

2. Beziehen Sie die folgende Berechtigung ein.

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": "bedrock:*",
            "Resource": "*"
        }
    ]
}           

Fügen Sie den Vertrauensbeziehungen die folgenden Berechtigungen hinzu.

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Principal": {
                "Service": "bedrock.amazonaws.com"
            },
            "Action": "sts:AssumeRole"
        },
        {
            "Sid": "",
            "Effect": "Allow",
            "Principal": {
                "Service": "sagemaker.amazonaws.com"
            },
            "Action": "sts:AssumeRole"
        }
    ]
}                   

Testen Sie die Laufzeiteinrichtung.

Fügen Sie Ihrem Notebook den folgenden Code hinzu und führen Sie den Code aus.

import boto3
import json
bedrock = boto3.client(service_name='bedrock-runtime')

body = json.dumps({
    "prompt": "\n\nHuman:explain black holes to 8th graders\n\nAssistant:",
    "max_tokens_to_sample": 300,
    "temperature": 0.1,
    "top_p": 0.9,
})

modelId = 'anthropic.claude-v2'
accept = 'application/json'
contentType = 'application/json'

response = bedrock.invoke_model(body=body, modelId=modelId, accept=accept, contentType=contentType)

response_body = json.loads(response.get('body').read())
# text
print(response_body.get('completion'))

Testen Sie die Amazon-Bedrock-Einrichtung.

Fügen Sie Ihrem Notebook den folgenden Code hinzu und führen Sie den Code aus.

import boto3
bedrock = boto3.client(service_name='bedrock')

bedrock.get_foundation_model(modelIdentifier='anthropic.claude-v2')