Use uma ferramenta para concluir uma resposta do modelo Amazon Bedrock - Amazon Bedrock

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Use uma ferramenta para concluir uma resposta do modelo Amazon Bedrock

Você pode usar o Amazon Bedrock API para dar a um modelo acesso a ferramentas que podem ajudá-lo a gerar respostas para as mensagens que você envia para o modelo. Por exemplo, você pode ter um aplicativo de bate-papo que permita que os usuários descubram a música mais popular tocada em uma estação de rádio. Para responder a uma solicitação da música mais popular, um modelo precisa de uma ferramenta que possa consultar e retornar as informações da música.

nota

O uso de ferramentas com modelos também é conhecido como chamada de função.

No Amazon Bedrock, o modelo não chama diretamente a ferramenta. Em vez disso, ao enviar uma mensagem para um modelo, você também fornece uma definição para uma ou mais ferramentas que poderiam ajudar o modelo a gerar uma resposta. Neste exemplo, você forneceria uma definição para uma ferramenta que retorna a música mais popular de uma estação de rádio específica. Se o modelo determinar que precisa da ferramenta para gerar uma resposta para a mensagem, ele responderá com uma solicitação para que você chame a ferramenta. Também inclui os parâmetros de entrada (a estação de rádio necessária) para passar para a ferramenta.

Em seu código, você chama a ferramenta em nome do modelo. Nesse cenário, suponha que a implementação da ferramenta seja umaAPI. A ferramenta poderia facilmente ser um banco de dados, uma função Lambda ou algum outro software. Você decide como deseja implementar a ferramenta. Em seguida, você continua a conversa com a modelo fornecendo uma mensagem com o resultado da ferramenta. Finalmente, o modelo gera uma resposta para a mensagem original que inclui os resultados da ferramenta que você enviou ao modelo.

Para usar ferramentas com um modelo, você pode usar o Converse API (Converse ou ConverseStream). O código de exemplo neste tópico usa o Converse API para mostrar como usar uma ferramenta que obtém a música mais popular de uma estação de rádio. Para obter informações gerais sobre como chamar o ConverseAPI, consulteConverse com as operações da Converse API.

É possível usar ferramentas com as operações de inferência de base (InvokeModelou InvokeModelWithResponseStream). Para encontrar os parâmetros de inferência que você passa no corpo da solicitação, consulte os parâmetros de inferência do modelo que você deseja usar. Recomendamos usar o Converse, API pois ele fornece uma solução consistenteAPI, que funciona com todos os modelos do Amazon Bedrock que suportam o uso de ferramentas.

Para obter informações sobre modelos que oferecem suporte à chamada de ferramentas, consulteModelos e recursos do modelo compatíveis.