As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Use uma ferramenta para concluir uma resposta do modelo do Amazon Bedrock
Você pode usar o Amazon Bedrock API para dar a um modelo acesso a ferramentas que podem ajudá-lo a gerar respostas para mensagens que você envia para o modelo. Por exemplo, você pode ter uma aplicação de chat que permita que os usuários descubram a música mais tocada em uma estação de rádio. Para responder a uma solicitação da música mais tocada, um modelo precisa de uma ferramenta que possa consultar e retornar as informações da música.
nota
O uso de ferramentas com modelos também é conhecido como chamada de função.
No Amazon Bedrock, o modelo não chama a ferramenta diretamente. Em vez disso, ao enviar uma mensagem a um modelo, você também fornece uma definição para uma ou mais ferramentas que podem ajudar o modelo a gerar uma resposta. Neste exemplo, você forneceria uma definição para uma ferramenta que retorna a música mais tocada de uma estação de rádio específica. Se o modelo determinar que precisa da ferramenta para gerar uma resposta para a mensagem, ele responderá com uma solicitação para que você chame a ferramenta. Ele também inclui os parâmetros de entrada (a estação de rádio necessária) para passar para a ferramenta.
No código, você chama a ferramenta em nome do modelo. Nesse cenário, suponha que a implementação da ferramenta seja umaAPI. A ferramenta poderia facilmente ser um banco de dados, uma função do Lambda ou algum outro software. Você decide como deseja implementar a ferramenta. Você continua a conversa com o modelo fornecendo uma mensagem com o resultado da ferramenta. Finalmente, o modelo gera uma resposta para a mensagem original que inclui os resultados da ferramenta que você enviou ao modelo.
Para usar ferramentas com um modelo, você pode usar o Converse API(Converse ou ConverseStream). O código de exemplo neste tópico usa o Converse APIpara mostrar como usar uma ferramenta que obtém a música mais popular de uma estação de rádio. Para obter informações gerais sobre como ligar para o Converse API, vejaConduza uma conversa com o Converse Operações do API.
É possível usar ferramentas com as operações de inferência de base (InvokeModelou InvokeModelWithResponseStream). Para encontrar os parâmetros de inferência que você passa no corpo da solicitação, consulte os parâmetros de inferência do modelo que deseja usar. Recomendamos usar o Converse APIpois fornece uma consistênciaAPI, que funciona com todos os modelos do Amazon Bedrock que suportam o uso de ferramentas.
Para obter mais informações sobre modelos compatíveis com a chamada de ferramentas, consulte Modelos compatíveis e recursos do modelo.
