使用提示管理建立提示 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

使用提示管理建立提示

注意

提示管理處於預覽狀態,可能會有所變更。

當您建立提示時,您可以使用下列選項:

  • 編寫提示消息,作為 FM 的輸入以生成輸出。

  • 在可以在執行階段填入的提示訊息中加入變數。

  • 選擇要執行提示的模型,或讓它在執行時間填入。如果您選擇模型,您也可以修改要使用的推論組態。若要查看不同模型的推論參數,請參閱基礎模型的推論參數

  • 建立使用不同訊息、模型或組態的提示變體,以便您可以比較其輸出,以決定最適合您使用案例的變體。

若要瞭解如何使用「提示管理」建立提示,請選取與您選擇的方法相對應的索引標籤,然後依照步驟執行。

Console
建立提示
  1. AWS Management Console 使用具有 Amazon 基岩許可的 IAM 角色登入,並在開使用. AWS Management Console

  2. 從左側導覽窗格中選取 [提示管理]。然後,選擇創建提示

  3. (選擇性) 變更提示的預設名稱及其說明

  4. 選擇建立提示。系統會建立您的提示,並將您帶到新建立的提示建立器,您可以在其中設定提示。

  5. 您可以繼續執行下列程序來設定提示,或稍後返回提示產生器。

若要設定您的提示
  1. 如果您尚未在提示符生成器中,請執行以下操作:

    1. AWS Management Console 使用具有 Amazon 基岩許可的 IAM 角色登入,並在開使用. AWS Management Console

    2. 從左側導覽窗格中選取 [提示管理]。然後,在「提示」區段中選擇提示

    3. 在「提示草稿」區段中,選擇 「在提示建立器中編輯」。

  2. 在「提示」窗格中,於「訊息」方塊中輸入提示。您可以使用雙花括號來包含變量(如 {{變量}})。請注意下列有關提示變數的資訊:

  3. (選擇性) 您可以透過下列方式修改提示:

    • 在「組態」窗格中,選擇執行推論的模型並設定推論參數。

    • 若要比較提示的不同變體,請選擇「動作」,然後選取「比較提示變體」。您可以在比較頁面上執行下列動作:

      • 若要新增變體,請選擇加號。您最多可以新增三個變體。

      • 指定變體的詳細資訊後,您可以指定任何「測試」變數,然後選擇「執行」來測試變體的輸出。

      • 若要刪除變體,請選擇三個點,然後選取「從比較中移除」。

      • 若要取代工作草稿並離開比較模式,請選擇「另存為草稿」。所有其他變體都將被刪除。

      • 若要離開比較模式,請選擇 [結束比較模式]。

  4. 完成設定提示後,您可以使用下列選項:

API

若要建立提示,請透過 Amazon 基岩建置時間端點的代理程式傳送請CreatePrompt求 (請參閱請求和回應格式的連結以及欄位詳細資訊)。

下列是必要欄位:

欄位 簡要說明
name 提示的名稱。
變種 提示的不同組態清單 (請參閱下文)。
默認變量 預設變體的名稱。

清單中的每個變體都是下variants列一般結構的PromptVariant物件:

{ "name": "string", "modelId": "string", "templateType": "TEXT", "templateConfiguration": { "text": { "text": "string", "inputVariables": [ { "name": "string" }, ... ] } }, "inferenceConfiguration": { "text": { "maxTokens": int, "stopSequences": ["string", ...], "temperature": float, "topK": int, "topP": float } } }

填寫欄位,如下所示:

  • 名稱 — 輸入變體的名稱。

  • 模型 modelId — 輸入要執行推論的模型 ID

  • 範本類型 — 輸入 TEXT (目前僅支援文字提示)。

  • 模板配置 — 字text段映射到 TextPromptTemplateConfiguration. 填寫其中的以下字段:

    • 「文本」— 提示的消息。將變數括在雙花括號中:{{變數}}

    • 輸入變數 — 對於清單中的每個物件,輸入您在欄位中建立的每個變數name

  • 推論配置 — text 字段映射到. PromptModelInferenceConfiguration 若要進一步瞭解推論參數,請參閱推論參數

下列欄位為選擇性欄位:

欄位 使用案例
description 提供提示的描述。
clientToken 為了防止請求的重複。

回應會建立DRAFT版本,並傳回 ID 和 ARN,您可以將其用作其他提示相關 API 要求的提示識別碼。