高级提示术语 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

高级提示术语

以下术语有助于理解高级提示的工作原理。

  • 会话-向具有相同会话 ID 的同一个代理发出的一组InvokeAgent请求。发出 InvokeAgent 请求时,可以重复使用上一次调用的响应返回的 sessionId,以便继续与代理进行同一会话。只要代理配置中的idleSessionTTLInSeconds时间未到期,您就可以与代理保持相同的会话。

  • 回合 – 一个 InvokeAgent 调用。一个会话由一个或多个回合组成。

  • 迭代-以下操作的序列:

    1. (必要)对根基模型的调用

    2. (可选)操作组调用

    3. (可选)知识库调用

    4. (可选)对用户要求提供更多信息的回应

    可能会跳过某项操作,具体取决于代理的配置或代理当时的要求。一个回合包含一次或多次迭代。

  • 提示 – 提示包含对代理的指令、上下文和文本输入。文本输入可以来自用户,也可以来自代理序列中另一个步骤的输出。向基础模型提供提示,以确定代理在响应用户输入时要采取的下一步行动

  • 基本提示模板 – 构成提示的结构元素。该模板由占位符组成,这些占位符在运行时填充了用户输入、代理配置和上下文,用于为基础模型创建当代理到达该步骤时要处理的提示。有关这些占位符的更多信息,请参阅Amazon Bedrock 代理提示模板中的占位符变量)。使用高级提示,您可以编辑这些模板。