Appelez Amazon Bedrock avec Step Functions - AWS Step Functions

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Appelez Amazon Bedrock avec Step Functions

Step Functions peut contrôler certains AWS services directement depuis Amazon States Language (ASL). Pour en savoir plus, consultez Utilisation avec d'autres services et Transmettre des paramètres à une API de service.

Amazon BedrockAPI d'intégration de services

Pour AWS Step Functions l'intégrerAmazon Bedrock, vous pouvez utiliser les API suivantes. Ces API sont similaires aux Amazon Bedrock API correspondantes, avec quelques différences dans les champs de demande transmis.

Les différences entre chaque API d'intégration de service et son API Amazon Bedrock correspondante sont illustrées dans le tableau suivant :

Amazon BedrockAPI d'intégration de services et Amazon Bedrock API correspondantes
Amazon BedrockAPI d'intégration de services Amazon BedrockAPI correspondante Différences

InvokeModel

Invoque le Amazon Bedrock modèle spécifié pour exécuter l'inférence à l'aide de l'entrée que vous fournissez dans le corps de la demande. Vous l'utilisez InvokeModel pour exécuter l'inférence pour les modèles de texte, les modèles d'image et les modèles d'intégration.

InvokeModel

Le corps de la demande d'API d'intégration de Amazon Bedrock services inclut les paramètres supplémentaires suivants.

  • Body— Spécifie les données d'entrée au format spécifié dans l'en-tête de demande de type de contenu. Bodycontient des paramètres spécifiques au modèle cible.

    Si vous utilisez l'InvokeModelAPI, vous devez spécifier le Body paramètre. Step Functionsne valide pas la saisie que vous fournissezBody.

    Lorsque vous spécifiez Body à l'aide de l'intégration Amazon Bedrock optimisée, vous pouvez spécifier une charge utile allant jusqu'à 256 Ko. Si votre charge utile dépasse 256 Ko, nous vous recommandons d'utiliserInput.

  • Input— Spécifie la source à partir de laquelle récupérer les données d'entrée. Ce champ facultatif est spécifique à l'intégration Amazon Bedrock optimisée avecStep Functions. Dans ce champ, vous pouvez spécifier unS3Uri.

    Vous pouvez le spécifier soit Body dans les paramètresInput, soit dans les deux.

    Lorsque vous spécifiez Input sans spécifierContentType, le type de contenu de la source de données d'entrée devient la valeur deContentType.

  • Output— Spécifie la destination où la réponse de l'API est écrite. Ce champ facultatif est spécifique à l'intégration Amazon Bedrock optimisée avecStep Functions. Dans ce champ, vous pouvez spécifier unS3Uri.

    Si vous spécifiez ce champ, le corps de la réponse de l'API est remplacé par une référence à l'Amazon S3emplacement de la sortie d'origine.

L'exemple suivant montre la syntaxe de l' InvokeModel API pour Amazon Bedrock l'intégration.

{ "ModelId": String, // required "Accept": String, // default: application/json "ContentType": String, // default: application/json "Input": { // not from Bedrock API "S3Uri": String }, "Output": { // not from Bedrock API "S3Uri": String } }

CreateModelCustomizationJob

Crée une tâche de réglage fin pour personnaliser un modèle de base.

CreateModelCustomizationJob Aucun

CreateModelCustomizationJob.sync

Crée une tâche de réglage fin pour personnaliser un modèle de base.

CreateModelCustomizationJob Aucun

Pour plus d'informations sur la configuration IAM des autorisations lors de l'utilisation Step Functions avec d'autres AWS services, consultezPolitiques IAM pour les services intégrés.

Définition de l'état des tâches pour Amazon Bedrock l'intégration

La définition d'état de tâche suivante montre comment vous pouvez intégrer vos machines Amazon Bedrock à états. Cet exemple montre un état de tâche qui extrait le résultat complet de l'invocation du modèle spécifié par le chemin,result_one. Ceci est basé sur les paramètres d'inférence pour les modèles de base. Cet exemple utilise le modèle de langage large (LLM) de la commande Cohere.

{ "Type": "Task", "Resource": "arn:aws:states:::bedrock:invokeModel", "Parameters": { "ModelId": "cohere.command-text-v14", "Body": { "prompt.$": "$.prompt_one", "max_tokens": 250 }, "ContentType": "application/json", "Accept": "*/*" }, "ResultPath": "$.result_one", "ResultSelector": { "result_one.$": "$.Body.generations[0].text" }, "End": true }
Astuce

Pour déployer un exemple de machine à états qui s'intègre Amazon Bedrock à votre Compte AWS, consultezRéalisez un enchaînement d'instructions basé sur l'IA avec Amazon Bedrock.