플레이그라운드를 사용하여 시각적 인터페이스에서 응답 생성

Amazon Bedrock 플레이그라운드는 게임 내 도구입니다. AWS Management Console 다양한 모델에서 추론을 실행하고 다양한 구성을 사용하여 실험할 수 있는 시각적 인터페이스를 제공합니다. 플레이그라운드를 사용하여 다양한 모델과 값을 애플리케이션에 통합하기 전에 테스트할 수 있습니다.

플레이그라운드에서 프롬프트를 실행하는 것은 에서 InvokeModel, InvokeModelWithResponseStream, Converse 또는 ConverseStream요청을 하는 것과 같습니다. API

Amazon Bedrock은 실험해 볼 수 있는 다음과 같은 놀이터를 제공합니다.

• 채팅 — 텍스트 프롬프트를 제출하고 프롬프트를 보완할 이미지 또는 문서를 포함하십시오. 이후에 제출하는 프롬프트에는 이전 프롬프트가 컨텍스트로 포함되므로 프롬프트와 응답의 순서가 대화와 비슷하도록 할 수 있습니다.

• 텍스트 — 단일 텍스트 프롬프트를 제출하고 이에 대한 응답을 생성합니다.

• 이미지 — 텍스트 프롬프트를 제출하여 이미지를 생성합니다. 이미지 프롬프트를 제출하고 이를 편집할지 아니면 변형을 생성할지 지정할 수도 있습니다.

다음 절차는 플레이그라운드에서 프롬프트를 제출하는 방법, 조정할 수 있는 옵션, 모델이 응답을 생성한 후 취할 수 있는 조치를 설명합니다.

플레이그라운드를 사용하려면 다음을 수행하세요.

1. 아직 요청하지 않은 경우 사용하려는 모델에 대한 액세스 권한을 요청하세요. 자세한 내용은 Amazon Bedrock 파운데이션 모델 액세스 단원을 참조하십시오.

2. 로그인하십시오. AWS Management Console Amazon Bedrock 권한이 있는 IAM 역할을 사용하여 에서 Amazon Bedrock 콘솔을 엽니다. https://console.aws.amazon.com/bedrock/

3. 탐색 창의 플레이그라운드에서 채팅, 텍스트 또는 이미지를 선택합니다.

4. 모델 선택을 선택하고 사용할 공급자, 모델 및 처리량을 선택합니다. 처리량 유형에 대한 자세한 내용은 을 참조하십시오복원력 및 처리력에 대한 처리량 증가.

5. 다음 정보를 제출하여 응답을 생성하십시오.

   • 프롬프트 — 모델에 대한 시나리오, 질문 또는 작업을 설정하는 한 문장 이상의 텍스트 프롬프트 생성에 대한 자세한 내용은 프롬프트 엔지니어링 개념 섹션을 참조하세요.

     채팅 플레이그라운드를 사용하는 경우 파일 선택을 선택하거나 파일을 프롬프트 텍스트 필드로 드래그하여 프롬프트를 보완하는 파일을 포함시킬 수 있습니다. 프롬프트 텍스트의 파일을 참조할 수 있습니다 (예: Summarize this document for me 또는)Tell me what's in this image. 다음과 같은 유형의 파일을 포함할 수 있습니다.

     • 문서 — 프롬프트를 보완할 문서를 추가합니다. 지원되는 파일 유형 목록은 의 format 필드를 참조하십시오 DocumentBlock.

       주의

       문서 이름은 모델에서 실수로 명령으로 해석할 수 있기 때문에 프롬프트 삽입에 취약합니다. 따라서 중립적인 이름을 지정하는 것이 좋습니다.

     • 이미지 - 모델이 멀티모달 프롬프트를 지원하는 경우 프롬프트를 보완할 이미지를 추가합니다. 지원되는 파일 유형 목록은 의 format 필드를 참조하십시오. ImageBlock

     참고

     채팅 플레이그라운드에 파일을 추가할 때는 다음과 같은 제한 사항이 적용됩니다.

     • 최대 20개의 이미지를 포함할 수 있습니다. 각 이미지의 크기, 높이, 너비는 각각 3.75MB, 8,000픽셀, 8,000픽셀을 넘지 않아야 합니다.

     • 문서는 최대 5개까지 포함할 수 있습니다. 각 문서의 크기는 4.5MB를 넘지 않아야 합니다.

   • 구성 - 모델 응답을 수정하기 위해 조정하는 설정입니다. 구성에는 다음이 포함됩니다.

     • 추론 파라미터 - 모델이 응답을 생성하는 방식에 영향을 주거나 제한하는 값입니다. 자세한 내용은 추론 파라미터를 사용한 영향 응답 생성 단원을 참조하십시오. 특정 모델의 추론 파라미터를 보려면 을 참조하십시오. 파운데이션 모델의 추론 요청 파라미터 및 응답 필드

     • 시스템 프롬프트 - 모델이 수행해야 하는 작업이나 모델이 채택해야 하는 페르소나에 대한 지침이나 컨텍스트를 모델에 제공하는 프롬프트입니다. 이는 채팅 플레이그라운드에서만 사용할 수 있습니다. 자세한 내용 및 시스템 프롬프트를 지원하는 모델 목록은 을 참조하십시오Converse API 작업과 대화 수행.

     • 가드레일 — 프롬프트 및 모델 응답에서 유해하거나 원치 않는 콘텐츠를 필터링합니다. 자세한 내용은 Amazon Bedrock 가드레일을 사용하는 모델의 유해 콘텐츠 차단 단원을 참조하십시오.

6. (선택 사항) 스트리밍을 지원하는 모델의 경우 텍스트 또는 채팅 플레이그라운드의 기본 동작은 응답을 스트리밍하는 것입니다. 옵션 아이콘 ( ) 을 선택하고 스트리밍 기본 설정 옵션을 수정하여 스트리밍을 끌 수 있습니다.

7. (선택 사항) 채팅 플레이그라운드에서 다음을 수행하여 여러 모델의 응답을 비교할 수 있습니다.

   1. 비교 모드를 켭니다.

   2. 모델 선택을 선택하고 사용할 제공자, 모델, 처리량을 선택합니다.

   3. 구성 아이콘 ( ) 을 선택하여 사용할 구성을 수정합니다.

   4. 비교할 모델을 더 추가하려면 오른쪽에 있는 + 아이콘을 선택하고 모델을 선택한 다음 필요에 따라 구성을 수정하십시오.

8. 프롬프트를 실행하려면 [Run] 을 선택합니다. Amazon Bedrock은 사용자가 제공하는 텍스트, 이미지 또는 문서를 저장하지 않습니다. 데이터는 응답을 생성하는 데만 사용됩니다.

   참고

   응답이 콘텐츠 조정 정책을 위반할 경우 Amazon Bedrock에서는 해당 응답을 표시하지 않습니다. 스트리밍을 활성화하면 정책을 위반하는 콘텐츠가 생성된 경우 Amazon Bedrock은 전체 응답을 지웁니다. 자세한 내용을 보려면 Amazon Bedrock 콘솔로 이동하여 제공업체를 선택하고 콘텐츠 제한 사항 섹션 아래의 텍스트를 참조하세요.

9. 모델은 응답을 반환합니다. 채팅 플레이그라운드를 사용하는 경우 응답에 응답하라는 메시지를 제출하고 다른 응답을 생성할 수 있습니다.

10. 응답을 생성한 후에는 다음과 같은 옵션을 사용할 수 있습니다.

    • 응답을 JSON 파일로 내보내려면 옵션 아이콘 ( ) 을 선택하고 다른 이름으로 내보내기를 선택합니다JSON.

    • API요청한 내용을 보려면 옵션 아이콘 ( ) 을 선택하고 API요청 보기를 선택합니다.

    • 채팅 플레이그라운드의 모델 지표 섹션에서 지표를 볼 수 있습니다. 다음과 같은 모델 메트릭을 사용할 수 있습니다.

      • 지연 시간 - 모델이 각 토큰(단어)을 시퀀스대로 생성하는 데 걸리는 시간입니다.

      • 입력 토큰 수 - 추론 중에 입력으로 모델에 제공되는 토큰 수입니다.

      • 출력 토큰 수 - 프롬프트에 대한 응답으로 생성된 토큰 수입니다. 더 길고 대화가 많은 응답에는 더 많은 토큰이 필요합니다.

      • 비용 - 입력을 처리하고 출력 토큰을 생성하는 데 드는 비용입니다.

      응답과 일치시키려는 지표 기준을 설정하려면 지표 기준 정의를 선택하고 모델이 일치하도록 조건을 정의하십시오. 기준을 적용하면 모델 지표 섹션에 응답이 충족한 기준 수와 충족된 기준이 표시됩니다.

      기준이 충족되지 않는 경우 다른 모델을 선택하거나 프롬프트를 다시 작성하거나 구성을 수정하고 프롬프트를 다시 실행할 수 있습니다.