Amazon Bedrock에서 지원하는 APIs

지원되는 추론 APIs

Amazon Bedrock은 Amazon Bedrock에서 추론을 수행하기 위한 네 가지 주요 API 패턴을 제공합니다.

API 방식	서비스 엔드포인트	에 가장 적합한 사용 사례	주요 기능
응답 API(권장)	bedrock-mantle.<suffix>	상태 저장 대화	내장된 도구 사용(검색, 코드 인터프리터), 멀티모달 입력 및 상태 저장 대화가 필요한 최신 에이전트 애플리케이션에 응답 API 사용
채팅 완료	bedrock-mantle.<suffix> (권장) 및 bedrock-runtime.<suffix>	상태 비저장 멀티턴 채팅	채팅 기록 관리를 완전히 제어하고 지연 시간을 줄여야 하는 경량의 상태 비저장 텍스트 중심 작업에 Chat Completions API를 사용합니다.
역방향 메서드	bedrock-runtime.<suffix>	멀티턴 채팅/표준화	Converse API는 Amazon Bedrock의 모든 모델과 상호 작용하기 위한 통합 인터페이스를 제공합니다.
메서드 호출	bedrock-runtime.<suffix>	단일 트랜잭션/대형 페이로드	간접 호출 API는 요청 및 응답 형식을 제어할 수 있는 더 많은 기능을 갖춘 모델에 대한 직접 액세스를 제공합니다.

참고: 접미사는 입니다. {region}.amazonaws.com

Amazon Bedrock에서 지원하는 APIs에 대해 자세히 알아보세요.

APIs 간 결정

사용하는 API는 사용 사례에 따라 다릅니다.

사용 사례	권장 API
OpenAI API 호환 엔드포인트에서 마이그레이션	OpenAI 호환 APIs 응답 API 또는 채팅 완료 API를 사용합니다. OpenAI에 따르면 권장되는 API 장기는 응답 API입니다.
OpenAI 호환 엔드포인트와 호환되지 않는 모델 사용	기본 Amazon Bedrock APIs 사용: Converse 및 Invoke. 자세한 내용은 API를 사용하여 프롬프트 제출 및 응답 생성 단원을 참조하십시오.
모든 모델에서 일관된 인터페이스	Converse API - 메시지를 지원하는 모든 모델과 함께 작동합니다. 코드를 한 번 작성하고 다른 모델과 함께 사용합니다. 예제 코드는 Converse API 예제를 참조하세요.
전체 제어를 통한 직접 모델 액세스	API 호출 - 요청 및 응답 형식을 더 잘 제어할 수 있는 모델에 대한 직접 액세스를 제공합니다. 텍스트, 이미지 및 임베딩을 생성하는 데 사용합니다. 예제 코드는 모델 코드 예제 호출을 참조하세요.
Amazon Bedrock 신규	응답 API로 시작

각 API 및 엔드포인트에서 지원하는 모델

먼저 모델을 탐색하여 사용하려는 모델을 결정합니다. 사용하려는 모델을 결정하면 사용할 엔드포인트를 선택한 것을 기반으로 및에서 지원하는 APIs를 볼 수 있습니다. 는 응답 및 채팅 완료 API를 bedrock-mantle 지원합니다. 는 Invoke 및 Converse API를 bedrock-runtime 지원합니다.