使用自訂模型 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

使用自訂模型

您必須先為其購買佈建輸送量,才能使用自訂模型。如需佈建輸送量的相關資訊,請參閱Amazon 基岩的佈建輸送量。然後,您可以使用產生的佈建模型進行推論。選擇與您選擇的方法相對應的選項卡,然後按照步驟操作。

Console
購買自訂模型的佈建輸送量。
  1. 在 Amazon 基岩主控台中,從左側導覽窗格選擇「基礎模型」下的「自訂模型」。

  2. 在「模型」頁籤中,選擇您要購買「佈建輸送量」之模型旁邊的圓鈕,或選取型名稱以瀏覽至詳細資訊頁面。

  3. 選取購買佈建輸送量

  4. 如需詳細資訊,請遵循中的步驟為 Amazon 基岩模型購買佈建輸送量

  5. 為您的自訂模型購買佈建輸送量後,請遵循中的步驟使用佈建輸送量執行推論

當您執行任何支援使用自訂模型的操作時,您會在模型選擇功能表中看到您的自訂模型作為選項。

API

若要購買自訂模型的佈建輸送量,請按照以下步驟透過 Amazon Bedrock 控制平面端點傳送請求 CreateProvisionedModelThroughput(請參閱請求和回應格式以及欄位詳細資訊連結) 請求。為 Amazon 基岩模型購買佈建輸送量使用自訂模型的名稱或 ARN 作為。modelId回應會傳回您provisionedModelArn可以在發出InvokeModelInvokeModelWithResponseStream要求modelId時使用的回應。

查看程式碼範例