部署 Amazon 基岩代理程式 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

部署 Amazon 基岩代理程式

當您第一次建立 Amazon 基岩代理程式時,您有一個有效的草稿版本 (DRAFT) 和一個測試別名 (TSTALIASID),指向工作草稿版本。當您對代理程式進行變更時,變更會套用至工作草案。你迭代你的工作草案,直到你滿意你的代理的行為。然後,您可以建立代理程式的別名,設定用於部署和整合至應用程式的代理程式。

若要部署代理程式,您必須建立別名。在建立別名期間,Amazon 基岩會自動建立您的代理程式版本。別名指向這個新建立的版本。或者,您可以將別名指向先前建立的代理程式版本。然後,您將應用程式設定為對該別名進行 API 呼叫。

版本是一種快照,可保留資源在建立資源時的存在狀態。您可以視需要繼續修改工作草稿,並建立代理程式的新別名 (以及版本)。在 Amazon Bedrock 中,您可以建立預設指向新版本的別名,以建立新版本的代理程式。Amazon Bedrock 按數字順序建立版本,從 1 開始。

版本是不可變的,因為它們會在您建立代理程式時充當快照。若要在生產環境中對代理程式進行更新,您必須建立新版本,並設定應用程式以呼叫指向該版本的別名。

使用別名,您可以有效地在不同版本的代理程式之間切換,而不需要應用程式追蹤版本。例如,如果有需要快速還原的變更,您可以將別名變更為指向先前版本的代理程式。

若要部署代理程式
  1. 建立代理程式的別名和版本。選擇與您選擇的方法相對應的選項卡,然後按照步驟操作。

    Console
    若要建立別名 (以及選擇性地建立新版本)
    1. AWS Management Console 使用具有 Amazon 基岩許可的 IAM 角色登錄,然後在 https://console.aws.amazon.com/bedrock/ 打開 Amazon 基岩主控台。

    2. 從左側導覽窗格中選取「代理程式」。然後,在「代理程式」區段中選擇代理程式。

    3. 在「名」段落中,選擇建立

    4. 輸入唯一的「別名」名稱並提供選擇性的「說明」。

    5. 在「關聯版本」下,選擇下列其中一個選項:

      • 若要建立新版本,請選擇「建立新版本」,並將其與此別名建立關聯。

      • 若要使用現有版本,請選擇「使用現有版本」來關聯此別名。從下拉式選單中,選擇要與別名關聯的版本。

    6. 在「選取輸送量」下,選取下列其中一個選項:

      • 若要讓代理程式以為您的帳戶設定的費率執行模型推論,請選取隨選 (ODT)。如需詳細資訊,請參閱 Amazon Bedrock 的配額

      • 若要讓您的代理程式使用先前為模型購買的佈建輸送量以更高的速率執行模型推論,請選取佈建輸送量 (PT),然後選取佈建的模型。如需詳細資訊,請參閱 Amazon 基岩的佈建輸送量

    7. 選取建立別名

    API

    若要為代理程式建立別名,請向 Amazon Bedrock 建置時間端點的代理程式傳送請CreateAgentAlias求 (請參閱請求和回應格式以及欄位詳細資訊的連結)。

    下列是必要欄位:

    欄位 使用案例
    agentId 指定要為其建立別名之代理程式的 ID。
    agentName 指定別名的名稱。

    下列欄位為選擇性欄位:

    欄位 使用案例
    description 提供別名的描述。
    路由組態 指定與別名相關聯的版本 (保留空白以建立新版本),以及要與別名建立關聯的佈建輸送量
    clientToken 識別碼,以確保 API 要求只完成一次
    標籤 標籤與別名相關聯。

    查看程式碼範例

  2. 透過 Amazon Bedrock 執行階段端點的代理程式設定應用程式以提出請InvokeAgent求 (請參閱請求和回應格式以及欄位詳細資訊連結),部署您的代理程式。在agentAliasId欄位中,指定指向您要使用之代理程式版本的別名 ID。

如果要瞭解如何管理代理程式的版本和別名,請從下列主題中選取。