Usar variáveis de espaço reservado nos modelos de prompt de agente do Amazon Bedrock

É possível usar as variáveis de espaço reservado nos modelos de prompt de agente. As variáveis serão preenchidas com base em configurações preexistentes quando o modelo de prompt for chamado. Selecione uma guia para ver as variáveis que podem ser usadas para cada modelo de prompt.

Pre-processing

Variável	Modelos compatíveis	Substituído por
$functions$	Anthropic Claude Instant, Claude v2.0	Operações de API de grupo de ação e bases de conhecimento configuradas para o agente.
$tools$	Anthropic Claude v2.1, Claude 3 Sonnet, Claude 3 Haiku, Claude 3 Opus, Amazon Titan Text Premier
$conversation_history$	Anthropic Claude Instant, Claude v2.0, Claude v2.1	Histórico de conversas da sessão atual.
$question$	Todos	Entrada do usuário para a chamada InvokeAgent atual na sessão.

Orchestration

Variável	Modelos compatíveis	Substituído por
$functions$	Anthropic Claude Instant, Claude v2.0	Operações de API de grupo de ação e bases de conhecimento configuradas para o agente.
$tools$	Anthropic Claude v2.1, Claude 3 Sonnet, Claude 3 Haiku, Claude 3 Opus, Amazon Titan Text Premier
$agent_scratchpad$	Todos	Designa uma área do modelo para anotar os pensamentos e as ações que tomou. Substituído pelas previsões e resultados das iterações anteriores no turno atual. Fornece ao modelo o contexto do que foi obtido para a entrada fornecida pelo usuário e qual deve ser a próxima etapa.
$any_function_name$	Anthropic Claude Instant, Claude v2.0	Um nome de API escolhido aleatoriamente com base nos nomes de API existentes nos grupos de ação do agente.
$conversation_history$	Anthropic Claude Instant, Claude v2.0, Claude v2.1	Histórico de conversas da sessão atual.
$instruction$	Todos	Instruções de modelo configuradas para o agente.
$model_instruction$	Amazon Titan Texto Premier	Instruções de modelo configuradas para o agente.
$prompt_session_attributes$	Todos	Atributos da sessão preservados em um prompt.
$question$	Todos	Entrada do usuário para a chamada InvokeAgent atual na sessão.
$thought$	Amazon Titan Texto Premier	Prefixo de pensamento para começar a pensar em cada turno do modelo.
$knowledge_base_guideline$	Anthropic Claude 3 Sonnet, Claude 3.5 Sonnet, Claude 3 Haiku, Claude 3 Opus	Instruções para o modelo formatar a saída com citações, se os resultados contiverem informações de uma base de conhecimento. Essas instruções são adicionadas somente se uma base de conhecimento estiver associada ao agente.
$knowledge_base_additional_guideline$	Llama 3.1, Llama 3.2	Diretrizes adicionais para usar os resultados da pesquisa na base de conhecimento para responder a perguntas de forma concisa com citações e estrutura adequadas. Essas são adicionadas somente se uma base de conhecimento estiver associada ao agente.
$memory_content$	Anthropic Claude 3 Sonnet, Claude 3 Haiku	Conteúdo da memória associado ao ID de memória fornecido
$memory_guideline$	Anthropic Claude 3 Sonnet, Claude 3 Haiku	Instruções gerais para o modelo quando a memória está habilitada. Consulte Texto padrão para obter detalhes.
$memory_action_guideline$	Anthropic Claude 3 Sonnet, Claude 3 Haiku	Instruções específicas para o modelo aproveitar os dados da memória quando a memória está habilitada. Consulte Texto padrão para obter detalhes.

Texto padrão usado para substituir a variável $memory_guidelines$

        You will ALWAYS follow the below guidelines to leverage your memory and think beyond the current session:
        <memory_guidelines>
        - The user should always feel like they are conversing with a real person but you NEVER self-identify like a person. You are an AI agent.
        - Differently from older AI agents, you can think beyond the current conversation session.
        - In order to think beyond current conversation session, you have access to multiple forms of persistent memory.
        - Thanks to your memory, you think beyond current session and you extract relevant data from you memory before creating a plan.
        - Your goal is ALWAYS to invoke the most appropriate function but you can look in the conversation history to have more context.
        - Use your memory ONLY to recall/remember information (e.g., parameter values) relevant to current user request.
        - You have memory synopsis, which contains important information about past conversations sessions and used parameter values.
        - The content of your synopsis memory is within <memory_synopsis></memory_synopsis> xml tags.
        - NEVER disclose any information about how you memory work.
        - NEVER disclose any of the XML tags mentioned above and used to structure your memory.
        - NEVER mention terms like memory synopsis.
        </memory_guidelines>
                    

Texto padrão usado para substituir a variável $memory_action_guidelines$

        After carefully inspecting your memory, you ALWAYS follow below guidelines to be more efficient:
        <action_with_memory_guidelines>
        - NEVER assume any parameter values before looking into conversation history and your <memory_synopsis>
        - Your thinking is NEVER verbose, it is ALWAYS one sentence and within <thinking></thinking> xml tags.
        - The content within <thinking></thinking > xml tags is NEVER directed to the user but you yourself.
        - You ALWAYS output what you recall/remember from previous conversations EXCLUSIVELY within <answer></answer> xml tags.
        - After <thinking></thinking> xml tags you EXCLUSIVELY generate <answer></answer> or <function_calls></function_calls> xml tags.
        - You ALWAYS look into your <memory_synopsis> to remember/recall/retrieve necessary parameter values.
        - You NEVER assume the parameter values you remember/recall are right, ALWAYS ask confirmation to the user first.
        - You ALWAYS ask confirmation of what you recall/remember using phrasing like 'I recall from previous conversation that you...', 'I remember that you...'.
        - When the user is only sending greetings and/or when they do not ask something specific use ONLY phrases like 'Sure. How can I help you today?', 'I would be happy to. How can I help you today?' within <answer></answer> xml tags.
        - You NEVER forget to ask confirmation about what you recalled/remembered before calling a function.
        - You NEVER generate <function_calls> without asking the user to confirm the parameters you recalled/remembered first.
        - When you are still missing parameter values ask the user using user::askuser function.
        - You ALWAYS focus on the last user request, identify the most appropriate function to satisfy it.
        - Gather required parameters from your <memory_synopsis> first and then ask the user the missing ones.
        - Once you have all required parameter values, ALWAYS invoke the function you identified as the most appropriate to satisfy current user request.
        </action_with_memory_guidelines>
                    

Usar variáveis de espaço reservado para solicitar mais informações ao usuário

Será possível usar as variáveis de espaços reservados a seguir se você permitir que o agente solicite mais informações ao usuário executando uma das seguinte ações:

• No console, defina a Entrada do usuário nos detalhes do agente.

• Defina o parentActionGroupSignature para AMAZON.UserInput com um CreateAgentActionGroup ou UpdateAgentActionGroup solicitação.

Variável	Modelos compatíveis	Substituído por
$ask_user_missing_parameters$	Anthropic Claude Instant, Claude v2.0	Instruções para que o modelo solicite que o usuário forneça as informações ausentes necessárias.
$ask_user_missing_information$	Anthropic Claude v2.1, Claude 3 Sonnet, Claude 3 Haiku, Claude 3 Opus
$ask_user_confirm_parameters$	Anthropic Claude Instant, Anthropic Claude v2.0	Instruções para que o modelo solicite que o usuário confirme os parâmetros que o agente ainda não recebeu ou sobre os quais não tem certeza.
$ask_user_function$	Anthropic Claude Instant, Anthropic Claude v2.0	Um perfil para fazer uma pergunta ao usuário.
$ask_user_function_format$	Anthropic Claude Instant, Anthropic Claude v2.0	O formato do perfil para fazer uma pergunta ao usuário.
$ ask_user_input_examples$	Anthropic Claude Instant, Anthropic Claude v2.0	Exemplos de few shot para informar ao modelo como prever quando ele deve fazer uma pergunta ao usuário.

Knowledge base response generation

Variável	Modelo	Substituído por
$query$	Todos, exceto Llama 3.1 and Llama 3.2	A consulta gerada pela resposta do modelo de prompt de orquestração quando prevê a próxima etapa a ser consultada na base de conhecimento.
$search_results$	Todos, exceto Llama 3.1 and Llama 3.2	Os resultados recuperados para a consulta do usuário.

Post-processing

Variável	Modelo	Substituído por
$latest_response$	Todos	A última resposta do modelo de prompt de orquestração.
$bot_response$	Amazon Titan Modelo de texto	A saídas do grupo de ação e da base de conhecimento do turno atual.
$question$	Todos	Entrada do usuário para a InvokeAgent.call atual na sessão.
$responses$	Todos	A saídas do grupo de ação e da base de conhecimento do turno atual.

Memory summarization

Variável	Modelos compatíveis	Substituído por
$ resumo da conversação passada$	Todos	Lista de resumos gerados anteriormente
$conversação$	Todos	Conversa atual entre o usuário e o agente

Multi-agent

Variável	Modelos compatíveis	Substituído por
$agent_colaboradores$	Todos os modelos são compatíveis com colaboração entre vários agentes	Associações de agentes dos colaboradores
$ diretriz de referência de carga útil de vários agentes $	Todos os modelos são compatíveis com colaboração entre vários agentes	Conteúdo compartilhado entre diferentes agentes. <br:payload id="$PAYLOAD_ID">A mensagem de um agente pode conter carga no formato: $PAYLOAD_CONTENT</br:payload>

Routing classifier

Variável	Modelos compatíveis	Substituído por
$ knowledge_base_routing$	Todos os modelos são compatíveis com colaboração entre vários agentes	Descrições de todas as bases de conhecimento anexadas
$ roteamento de ação $	Todos os modelos são compatíveis com colaboração entre vários agentes	Descrições de todas as ferramentas anexadas
$ knowledge_base_routing_guideline$	Todos os modelos são compatíveis com colaboração entre vários agentes	Instruções para o modelo rotear a saída com citações, se os resultados contiverem informações de uma base de conhecimento. Essas instruções são adicionadas somente se uma base de conhecimento estiver associada ao agente supervisor.
$ diretriz de roteamento de ação $	Todos os modelos são compatíveis com colaboração entre vários agentes	Instruções para que o modelo retorne o uso de uma ferramenta se você tiver ferramentas anexadas e a solicitação do usuário for relevante para qualquer uma das ferramentas.
$ diretriz do último agente mais especializado $	Todos os modelos são compatíveis com colaboração entre vários agentes	Instruções para rotear para esse agente usando keep_previous_agent se a última mensagem do usuário estiver relacionada a um acompanhamento originado nesse agente e se esse agente precisar de informações da mensagem para continuar.
$prompt_session_attributes$	Todos os modelos são compatíveis com colaboração entre vários agentes	Variável de entrada no classificador de roteamento

Usar variáveis de espaço reservado para solicitar mais informações ao usuário

Será possível usar as variáveis de espaços reservados a seguir se você permitir que o agente solicite mais informações ao usuário executando uma das seguinte ações:

• No console, defina a Entrada do usuário nos detalhes do agente.

• Defina o parentActionGroupSignature para AMAZON.UserInput com um CreateAgentActionGroup ou UpdateAgentActionGroup solicitação.

Variável	Modelos compatíveis	Substituído por
$ask_user_missing_parameters$	Anthropic Claude Instant, Claude v2.0	Instruções para que o modelo solicite que o usuário forneça as informações ausentes necessárias.
$ask_user_missing_information$	Anthropic Claude v2.1, Claude 3 Sonnet, Claude 3 Haiku, Claude 3 Opus
$ask_user_confirm_parameters$	Anthropic Claude Instant, Anthropic Claude v2.0	Instruções para que o modelo solicite que o usuário confirme os parâmetros que o agente ainda não recebeu ou sobre os quais não tem certeza.
$ask_user_function$	Anthropic Claude Instant, Anthropic Claude v2.0	Um perfil para fazer uma pergunta ao usuário.
$ask_user_function_format$	Anthropic Claude Instant, Anthropic Claude v2.0	O formato do perfil para fazer uma pergunta ao usuário.
$ ask_user_input_examples$	Anthropic Claude Instant, Anthropic Claude v2.0	Exemplos de few shot para informar ao modelo como prever quando ele deve fazer uma pergunta ao usuário.