Rufen Sie Amazon Bedrock-Modelle mit Step Functions auf und passen Sie sie an - AWS Step Functions

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Rufen Sie Amazon Bedrock-Modelle mit Step Functions auf und passen Sie sie an

Sie können Step Functions in Amazon Bedrock integrieren, um ein bestimmtes Amazon Bedrock-Modell aufzurufen und einen Feinabstimmungsauftrag zur Anpassung eines Modells zu erstellen. Diese Seite listet das unterstützte Amazon Bedrock auf APIs und bietet einen Task Beispielstatus zum Extrahieren des Ergebnisses eines Modellaufrufs.

Step Functions kann bestimmte AWS Dienste direkt von Amazon States Language (ASL) aus steuern. Weitere Informationen hierzu finden Sie unter Integration anderer Services und Übergeben von Parametern an einen Dienst API in Step Functions.

Amazon BedrockServiceintegration APIs

Für die Integration AWS Step Functions mit Amazon Bedrock können Sie Folgendes verwendenAPIs. Diese APIs ähneln den entsprechenden Amazon BedrockAPIs, mit einigen Unterschieden in den übergebenen Anforderungsfeldern.

In der folgenden Tabelle werden die Unterschiede zwischen den einzelnen Amazon Bedrock Serviceintegrationen API und der entsprechenden beschrieben Amazon BedrockAPI.

Amazon BedrockServiceintegration API Entspricht Amazon Bedrock API Unterschiede

InvokeModel

Ruft das angegebene Amazon Bedrock Modell auf, um mithilfe der Eingabe, die Sie im Hauptteil der Anfrage angeben, eine Inferenz auszuführen. Sie verwenden InvokeModel es, um Inferenzen für Textmodelle, Bildmodelle und Einbettungsmodelle auszuführen.

InvokeModel

Der API Anfragetext für die Amazon Bedrock Serviceintegration umfasst die folgenden zusätzlichen Parameter.

  • Body— Spezifiziert Eingabedaten in dem Format, das im Inhaltstyp-Anforderungsheader angegeben ist. Bodyenthält spezifische Parameter für das Zielmodell.

    Wenn Sie den verwenden InvokeModelAPI, müssen Sie den Body Parameter angeben. Step Functionsvalidiert die von Ihnen eingegebene Eingabe nichtBody.

    Wenn Sie angeben, dass Sie die Amazon Bedrock optimierte Integration Body verwenden, können Sie eine Nutzlast von bis zu 256 KB angeben. Wenn Ihre Nutzlast 256 KB überschreitet, empfehlen wir die Verwendung. Input

  • Input— Gibt die Quelle an, aus der die Eingabedaten abgerufen werden sollen. Dieses optionale Feld ist spezifisch für die Amazon Bedrock optimierte Integration mitStep Functions. In diesem Feld können Sie eine angebenS3Uri.

    Sie können entweder Body in den Parametern oderInput, aber nicht beide angeben.

    Wenn Sie Input ohne Angabe angebenContentType, wird der Inhaltstyp der Eingabedatenquelle zum Wert fürContentType.

  • Output— Gibt das Ziel an, in das die API Antwort geschrieben wird. Dieses optionale Feld ist spezifisch für die Amazon Bedrock optimierte Integration mitStep Functions. In diesem Feld können Sie eine angebenS3Uri.

    Wenn Sie dieses Feld angeben, wird der API Antworttext durch einen Verweis auf den Amazon S3 Speicherort der ursprünglichen Ausgabe ersetzt.

Das folgende Beispiel zeigt die Syntax für InvokeModel API for Amazon Bedrock Integration.

{ "ModelId": String, // required "Accept": String, // default: application/json "ContentType": String, // default: application/json "Input": { // not from Bedrock API "S3Uri": String }, "Output": { // not from Bedrock API "S3Uri": String } }

CreateModelCustomizationJob

Erstellt einen Feinabstimmungsjob zur Anpassung eines Basismodells.

CreateModelCustomizationJob None

CreateModelCustomizationJob.sync

Erstellt einen Feinabstimmungsauftrag zur Anpassung eines Basismodells.

CreateModelCustomizationJob None

Informationen zur Konfiguration von IAM Berechtigungen bei der Verwendung Step Functions mit anderen AWS Diensten finden Sie unterSo generiert Step Functions IAM Richtlinien für integrierte Dienste.

Definition des Aufgabenstatus für die Amazon Bedrock Integration

Die folgende Aufgabenstatusdefinition zeigt, wie Sie sich Amazon Bedrock in Ihre Zustandsmaschinen integrieren können. Dieses Beispiel zeigt einen Task-Status, der das vollständige Ergebnis eines durch den Pfad, result_one angegebenen Modellaufrufs extrahiert. Dies basiert auf Inferenzparametern für Fundamentmodelle. In diesem Beispiel wird das große Sprachmodell von Cohere Command () LLM verwendet.

{ "Type": "Task", "Resource": "arn:aws:states:::bedrock:invokeModel", "Parameters": { "ModelId": "cohere.command-text-v14", "Body": { "prompt.$": "$.prompt_one", "max_tokens": 250 }, "ContentType": "application/json", "Accept": "*/*" }, "ResultPath": "$.result_one", "ResultSelector": { "result_one.$": "$.Body.generations[0].text" }, "End": true }
Tipp

Ein Beispiel für eine Zustandsmaschine, die in Ihren Computer integriert Amazon Bedrock werden kann AWS-Konto, finden Sie unterFühren Sie KI-Prompt-Chaining mit Amazon Bedrock durch.