在執行時期設定內嵌代理程式 - Amazon Bedrock

在執行時期設定內嵌代理程式

您可以使用 InvokeInlineAgent API,在執行時期動態設定和調用內嵌 Amazon Bedrock 代理程式。使用內嵌代理程式可讓您在調用代理程式的同時,靈活地指定代理程式功能,例如基礎模型、指示、動作群組、防護機制和知識庫。在使用代理程式之前,無需預先定義其功能。

以下是一些使用案例,其中使用內嵌代理程式可以為您提供在調用時設定代理程式的靈活性。

  • 透過使用不同的組態嘗試各種代理程式功能以及動態更新代理程式可用的工具,進行快速實驗,而無需建立單獨的代理程式。

  • 動態調用代理程式來執行特定任務,而無需建立新的代理程式版本或準備代理程式。

  • 透過在執行時期建立和調用代理程式,可執行簡單的查詢或使用程式碼解譯器執行簡單的任務。

  • 多代理協同作業設定中建立多個代理程式,以共同處理任務或對話。

    若要使用多代理協同作業,您可以使用內嵌代理程式 API,以下列組合建立代理程式。

    代理程式類型
    主管 協作者
    內嵌 內嵌
    內嵌 傳統型

支援的模型和區域

您可以使用 Amazon Bedrock 代理程式支援的任何基礎模型來設定內嵌代理程式,並可以在支援 Amazon Bedrock 代理程式的任何區域中調用內嵌代理程式。如需 Amazon Bedrock 代理程式支援之模型和區域的詳細資訊,請參閱下列內容:

使用內嵌代理程式,您可以在模型之間切換。建議您在屬於相同系列的模型之間切換。在屬於不同系列的模型之間切換可能會導致行為不一致,並可能導致失敗。

Amazon Bedrock 主控台目前不支援設定和調用內嵌代理程式。

使用內嵌代理程式進階提示範本的準則

  • 基本提示範本 — 根據預設,Amazon Bedrock 將使用內嵌代理程式的預設基本提示範本,並且可以隨時在背景中變更提示。這可能會導致回應不一致。如果您想要對查詢做出一致的回應,請使用您自己的組態覆寫預設基本提示範本中的邏輯,以自訂內嵌代理程式的行為。如需詳細資訊,請參閱進階提示範本

  • 加密 – 使用 customer managed key 加密工作階段的靜態/儲存詳細資訊。如果使用客戶自管金鑰啟動工作階段,則未來對相同工作階段提出的所有請求都需要該工作階段。針對相同工作階段使用不同的客戶自管金鑰將導致例外狀況。

  • 工作階段共用 — 轉送所有工作階段都是帳戶層級,而不是角色層級。您可以為 agentName 指定唯一值,在代理程式層級隔離工作階段。

  • 內嵌工作階段狀態InlineSessionState 中的屬性會透過工作階段持續存在。使用屬性為您的模型提供額外內容,並用於少量樣本提示