Endpoints compatíveis com o Amazon Bedrock

O Amazon Bedrock oferece suporte a vários endpoints, dependendo se você deseja realizar operadores de plano de controle ou operações de inferência.

Operações do plano de controle

As operações do plano de controle do Amazon Bedrock podem ser usadas com o endpoint: bedrock.{region}.amazonaws.com. elas podem ser usadas para gerenciar recursos, como listar modelos disponíveis, criar trabalhos de modelos personalizados e gerenciar a taxa de transferência provisionada. Leia mais sobre nossa API de plano de controle aqui.

Operações de inferência

O Amazon Bedrock oferece suporte aos dois endpoints principais a seguir para realizar inferências de forma programática:

Endpoint	Suportado APIs	Descrição
bedrock-mantle.{region}.api.aws	API de respostas//API de conclusão de bate-papo	Endpoints específicos da região para fazer solicitações de inferência para modelos hospedados no Amazon Bedrock usando endpoints compatíveis com OpenAI.
bedrock-runtime.{region}.amazonaws.com	InvokeModel/Converse/Conclusões de bate-papo	Endpoints específicos da região para fazer solicitações de inferência para modelos hospedados no Amazon Bedrock usando o /Converse/Chat Completions. InvokeModel APIs Leia mais sobre o Amazon Bedrock Runtime APIs aqui.

Qual endpoint de serviço você deve usar para sua inferência?

O endpoint que você usa depende do seu caso de uso.

Endpoint	Características e casos de uso
bedrock-mantle	Compatível com OpenAI APIs (API de respostas, API de conclusão de bate-papo). Use para: Migrar facilmente de outros modelos que usam o compatível com APIs OpenAI. Características: Suporta o uso de ferramentas do lado do cliente e do servidor com as funções Lambda e vem configurado com ready-to-use ferramentas em seus aplicativos. Recomendado para: Novos usuários do Amazon Bedrock.
bedrock-runtime	Suporta Amazon Bedrock nativo APIs (API Invoke, API Converse). Também é compatível com a API de conclusão de bate-papo compatível com OpenAI. Use para: Executar qualquer modelo compatível com o Amazon Bedrock. A API Converse fornece uma interface unificada para interagir com todos os modelos no Amazon Bedrock e a API Invoke fornece acesso direto aos modelos com mais capacidade de controlar o formato de solicitação e resposta. Você também pode usar a API Chat Completions para interagir com seus modelos. Características: Suporta somente o uso de ferramentas do lado do cliente com funções Lambda e não vem pré-configurado com ferramentas. ready-to-use Permite que você acompanhe o uso e os custos ao invocar um modelo.

Se você é novo no Amazon Bedrock, recomendamos que comece com o bedrock-mantle endpoint.