Step Functions 사용을 통한 Amazon Bedrock 호출 - AWS Step Functions
서비스 통합 APIAmazon Bedrock 통합용 태스크 상태 정의

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

Step Functions 사용을 통한 Amazon Bedrock 호출

Step Functions는 Amazon States Language (ASL) 에서 직접 특정 AWS 서비스를 제어할 수 있습니다. 자세한 내용은 다른 서비스와 함께 사용 및 파라미터를 서비스 API에 전달 섹션을 참조하세요.

Amazon Bedrock 서비스 통합 API

AWS Step Functions과 Amazon Bedrock을 통합하려면 다음 API를 사용합니다. 이러한 API는 해당 Amazon Bedrock API와 유사하지만 전달되는 요청 필드에 약간의 차이가 있습니다.

다음 표에는 각 서비스 통합 API와 해당 Amazon Bedrock API 간의 차이점이 나와 있습니다.

Amazon Bedrock 서비스 통합 API 및 해당 Amazon Bedrock API
Amazon Bedrock 서비스 통합 API 해당 Amazon Bedrock API 차이

InvokeModel

요청 본문에 제공된 입력을 사용하여 추론을 실행하기 위해 지정된 Amazon Bedrock 모델을 호출합니다. InvokeModel을 사용하여 텍스트 모델, 이미지 모델 및 임베딩 모델의 추론을 실행합니다.

 InvokeModel

Amazon Bedrock 서비스 통합 API 요청 본문에는 다음 추가 파라미터가 포함됩니다.

  • Body - 콘텐츠 유형 요청 헤더에 지정된 형식으로 입력 데이터를 지정합니다. Body에는 대상 모델별 파라미터가 포함되어 있습니다.

    InvokeModel API를 사용하는 경우 Body 파라미터를 지정해야 합니다. Step Functions는 Body에 입력된 값의 유효성을 검사하지 않습니다.

    Amazon Bedrock 최적화 통합을 사용하여 Body를 지정할 때 최대 256KB의 페이로드를 지정할 수 있습니다. 페이로드가 256KB를 초과하는 경우 Input을 사용하는 것이 좋습니다.

  • Input - 입력 데이터를 검색할 소스를 지정합니다. 이 옵션 필드는 Step Functions를 사용한 Amazon Bedrock 최적화 통합에만 해당됩니다. 이 필드에서 S3Uri를 지정할 수 있습니다.

    파라미터의 Body 또는 Input 중 하나를 지정할 수 있지만 둘 다 지정할 수는 없습니다.

    ContentType을 지정하지 않고 Input을 지정하면 입력 데이터 소스의 콘텐츠 유형이 ContentType의 값이 됩니다.

  • Output - API 응답이 기록되는 대상을 지정합니다. 이 옵션 필드는 Step Functions를 사용한 Amazon Bedrock 최적화 통합에만 해당됩니다. 이 필드에서 S3Uri를 지정할 수 있습니다.

    이 필드를 지정하면 API 응답 본문이 원래 출력의 Amazon S3 위치에 대한 참조로 대체됩니다.

다음 예제는 Amazon Bedrock 통합을 위한 InvokeModel API 구문을 보여줍니다.

{
    "ModelId": String,  // required
    "Accept": String,  // default: application/json
    "ContentType": String,  // default: application/json
    "Input": {  // not from Bedrock API
        "S3Uri": String
    },  
    "Output": {  // not from Bedrock API
        "S3Uri": String
    } 
}

CreateModelCustomizationJob

기본 모델을 사용자 지정하기 위한 미세 튜닝 작업을 생성합니다.

 CreateModelCustomizationJob None

CreateModelCustomizationJob.sync

기본 모델을 사용자 지정하기 위한 미세 튜닝 작업을 생성합니다.

 CreateModelCustomizationJob None

다른 AWS 서비스와 Step Functions 함께 사용할 때 IAM 권한을 구성하는 방법에 대한 자세한 내용은 을 참조하십시오통합 서비스용 IAM 정책.

Amazon Bedrock 통합용 태스크 상태 정의

다음 태스크 상태 정의는 상태 머신의 Amazon Bedrock과 통합하는 방법을 보여 줍니다. 이 예제는 경로 result_one으로 지정된 모델 간접 호출의 전체 결과를 추출하는 태스크 상태를 보여 줍니다. 이는 파운데이션 모델의 추론 파라미터를 기반으로 합니다. 이 예제에서는 Cohere Command 대규모 언어 모델(LLM)을 사용합니다.

{
  "Type": "Task",
  "Resource": "arn:aws:states:::bedrock:invokeModel",
  "Parameters": {
    "ModelId": "cohere.command-text-v14",
    "Body": {
      "prompt.$": "$.prompt_one",
      "max_tokens": 250
    },
    "ContentType": "application/json",
    "Accept": "*/*"
  },
  "ResultPath": "$.result_one",
  "ResultSelector": {
    "result_one.$": "$.Body.generations[0].text"
  },
  "End": true
}
작은 정보

사용자 컴퓨터에 AWS 계정통합되는 상태 머신의 예를 Amazon Bedrock 배포하려면 을 참조하십시오Amazon Bedrock을 사용하여 AI 프롬프트 체이닝 수행.