Chiama Amazon Bedrock con Step Functions

Step Functions può controllare determinati AWS servizi direttamente da Amazon States Language (ASL). Per ulteriori informazioni, consultare Uso di altri servizi e Passa i parametri a un'API di servizio.

Amazon BedrockAPI di integrazione dei servizi

Per l'integrazione AWS Step Functions conAmazon Bedrock, puoi utilizzare le seguenti API. Queste API sono simili alle Amazon Bedrock API corrispondenti, con alcune differenze nei campi di richiesta che vengono passati.

Nella tabella seguente sono descritte le differenze tra ogni API di integrazione del servizio e la relativa API Amazon Bedrock corrispondente:

Amazon BedrockAPI di integrazione dei servizi e API corrispondenti Amazon Bedrock
Amazon BedrockAPI di integrazione dei servizi	Amazon BedrockAPI corrispondente	Differenze
InvokeModel Richiama il Amazon Bedrock modello specificato per eseguire l'inferenza utilizzando l'input fornito nel corpo della richiesta. Si utilizza InvokeModel per eseguire l'inferenza per modelli di testo, modelli di immagini e modelli di incorporamento.	InvokeModel	Il corpo della richiesta dell'API di integrazione del Amazon Bedrock servizio include i seguenti parametri aggiuntivi. Body— specifica i dati di input nel formato specificato nell'intestazione della richiesta del tipo di contenuto. Bodycontiene parametri specifici del modello di destinazione. Se si utilizza l'InvokeModelAPI, è necessario specificare il Body parametro. Step Functionsnon convalida l'input fornito. Body Quando si specifica l'Bodyutilizzo dell'integrazione Amazon Bedrock ottimizzata, è possibile specificare un payload fino a 256 KB. Se il payload supera i 256 KB, si consiglia di utilizzarlo. Input Input— Speciifica la fonte da cui recuperare i dati di input. Questo campo opzionale è specifico per l'integrazione Amazon Bedrock ottimizzata con. Step Functions In questo campo è possibile specificare unS3Uri. È possibile specificare Body nei Parametri oInput, ma non entrambi. Quando si specifica Input senza specificareContentType, il tipo di contenuto dell'origine dati di input diventa il valore perContentType. Output— Speciifica la destinazione in cui viene scritta la risposta API. Questo campo opzionale è specifico per l'integrazione Amazon Bedrock ottimizzata conStep Functions. In questo campo è possibile specificare unS3Uri. Se si specifica questo campo, il corpo della risposta dell'API viene sostituito con un riferimento alla Amazon S3 posizione dell'output originale. L'esempio seguente mostra la sintassi di InvokeModel API for Amazon Bedrock integration. { "ModelId": String, // required "Accept": String, // default: application/json "ContentType": String, // default: application/json "Input": { // not from Bedrock API "S3Uri": String }, "Output": { // not from Bedrock API "S3Uri": String } }
CreateModelCustomizationJob Crea un lavoro di ottimizzazione per personalizzare un modello base.	CreateModelCustomizationJob	Nessuno
CreateModelCustomizationJob.sync Crea un lavoro di ottimizzazione per personalizzare un modello base.	CreateModelCustomizationJob	Nessuno

Per informazioni su come configurare le IAM autorizzazioni quando vengono utilizzate Step Functions con altri AWS servizi, consulta. Politiche IAM per servizi integrati

Definizione dello stato delle attività per l'integrazione Amazon Bedrock

La seguente definizione dello stato dell'attività mostra come è possibile eseguire l'integrazione con le macchine Amazon Bedrock a stati. Questo esempio mostra uno stato Task che estrae il risultato completo dell'invocazione del modello specificata dal percorso,. result_one Questo si basa sui parametri di inferenza per i modelli di base. Questo esempio utilizza il modello di linguaggio di grandi dimensioni (LLM) di Cohere Command.

{
  "Type": "Task",
  "Resource": "arn:aws:states:::bedrock:invokeModel",
  "Parameters": {
    "ModelId": "cohere.command-text-v14",
    "Body": {
      "prompt.$": "$.prompt_one",
      "max_tokens": 250
    },
    "ContentType": "application/json",
    "Accept": "*/*"
  },
  "ResultPath": "$.result_one",
  "ResultSelector": {
    "result_one.$": "$.Body.generations[0].text"
  },
  "End": true
}

Suggerimento

Per implementare un esempio di macchina a stati che si integra con Amazon Bedrock to your, vedi. Account AWSEsegui il concatenamento dei prompt AI con Amazon Bedrock