Amazon Bedrock Guardrails 작동 방식 - Amazon Bedrock

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

Amazon Bedrock Guardrails 작동 방식

Amazon Bedrock Guardrails는 사용자 입력과 모델 응답을 모두 평가하여 생성형 AI 애플리케이션을 안전하게 유지하는 데 도움이 됩니다.

다음 고려 사항에 따라 애플리케이션에 대한 가드레일을 구성할 수 있습니다.

  • 계정에는 여러 개의 가드레일이 있을 수 있으며, 각각 구성이 다르고 특정 사용 사례에 맞게 사용자 지정됩니다.

  • 가드레일은 콘텐츠 필터, 거부된 주제, 민감한 정보 필터 및 단어 필터를 포함하여 프롬프트 및 응답을 위해 구성된 여러 정책의 조합입니다.

  • 가드레일은 단일 정책 또는 여러 정책의 조합으로 구성할 수 있습니다.

  • 모델 추론 중에 가드레일을 참조하여 모든 텍스트 전용 파운데이션 모델(FM)에 가드레일을 사용할 수 있습니다.

  • Amazon Bedrock 에이전트 및 Amazon Bedrock 지식 기반에서 가드레일을 사용할 수 있습니다.

가드레일을 사용하는 경우 추론 호출 중에 다음과 같이 작동합니다.

  • 입력은 가드레일에 지정된 구성된 정책을 기준으로 평가됩니다. 또한 지연 시간을 개선하기 위해 각 구성된 정책에 대해 입력이 병렬로 평가됩니다.

  • 입력 평가 결과 가드레일 개입이 발생하는 경우 구성된 차단 메시지 응답이 반환되고 파운데이션 모델 추론이 삭제됩니다.

  • 입력 평가가 성공하면 이후 가드레일의 구성된 정책에 대해 모델 응답이 평가됩니다.

  • 응답으로 인해 가드레일 개입 또는 위반이 발생하는 경우 민감한 정보의 사전 구성된 차단된 메시징 또는 마스킹으로 재정의됩니다.

  • 응답의 평가가 성공하면 응답이 수정 없이 애플리케이션으로 반환됩니다.

Amazon Bedrock Guardrails 요금에 대한 자세한 내용은 Amazon Bedrock 요금 섹션을 참조하세요.

Amazon Bedrock Guardrails에 대한 요금 계산 방법

Amazon Bedrock Guardrail에 대한 요금은 가드레일에 구성된 정책에 대해서만 발생합니다. 각 정책 유형의 가격은 Amazon Bedrock 요금 에서 확인할 수 있습니다. 가드레일이 입력 프롬프트를 차단하면 가드레일 평가에 대한 요금이 부과됩니다. 파운데이션 모델 추론 호출에는 요금이 부과되지 않습니다. 가드레일이 모델 응답을 차단하는 경우 입력 프롬프트 및 모델 응답의 가드레일 평가에 대한 요금이 부과됩니다. 이 경우 가드레일 평가 전에 생성된 모델 응답뿐만 아니라 파운데이션 모델 추론 호출에 대한 요금이 부과됩니다.