匯入 SageMaker AI 訓練的 Amazon Nova 模型 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

匯入 SageMaker AI 訓練的 Amazon Nova 模型

注意

若要將開放原始碼模型匯入 Amazon Bedrock,您可以使用模型匯入任務。如需詳細資訊,請參閱使用自訂模型匯入,將自訂的開放原始碼模型匯入 Amazon Bedrock

若要匯入您使用 SageMaker AI 自訂的 Amazon Nova 模型,請在 Amazon Bedrock 中為其建立新的自訂模型。例如,如果您使用 SageMaker AI 微調Amazon Nova Pro模型以改善特定使用案例的效能,您可以將微調後的模型匯入 Amazon Bedrock 做為自訂模型,並使用它來執行推論。

在 Amazon Bedrock 中建立和使用 SageMaker AI 訓練的 Amazon Nova 模型,運作方式如下:

  1. SageMaker AI 中自訂模型 – 透過使用 SageMaker AI 訓練任務的預先建置基礎配方來自訂 Amazon Nova 模型。如需詳細資訊,請參閱《Amazon SageMaker AI 開發人員指南》中的自訂 Amazon Nova 模型Amazon SageMaker

  2. Amazon Bedrock 中建立自訂模型 – 使用 CreateCustomModel API 操作建立自訂模型。當您建立自訂模型時,Amazon Bedrock 會驗證模型成品,然後從 Amazon 管理的 Amazon S3 儲存貯體匯入模型成品。當您執行第一個 SageMaker AI 訓練任務時SageMaker AI 會建立此儲存貯體。如需程式碼範例,請參閱 建立自訂模型AWS SDKs)

  3. 設定自訂模型的推論 – 匯入程序完成後,您可以設定模型的推論。如需詳細資訊,請參閱設定自訂模型的推論。您可以透過模型自訂來管理自訂模型,就像在 Amazon Bedrock 中建立的模型一樣。如需詳細資訊,請參閱自訂您的模型,以改善其針對使用案例的效能

您可以從下列區域的 Amazon Nova 模型建立自訂模型 (如需 Amazon Bedrock 支援區域的詳細資訊,請參閱 Amazon Bedrock 端點和配額):

  • 美國東部 (維吉尼亞北部)

準則和要求

匯入 Amazon Nova 模型之前,請注意下列事項:

  • 您必須使用美國東部 (維吉尼亞北部) 區域。

  • 當您在 SageMaker AI 中自訂模型時,必須使用下列其中一個 Amazon Nova 模型:

    • Amazon Nova Lite

    • Amazon Nova Micro

    • Amazon Nova Pro

  • 當您在 SageMaker AI 中自訂模型時,您必須使用 SageMaker AI Amazon Nova 配方。如需詳細資訊,請參閱《Amazon SageMaker AI 開發人員指南》中的 Amazon Nova 配方。 Amazon SageMaker

  • 您的 SageMaker AI 訓練的 Amazon Nova 模型必須存放在 Amazon 受管的 Amazon S3 儲存貯體中。當您執行第一個 SageMaker AI 訓練任務時SageMaker AI 會建立此儲存貯體。

  • 您的 Amazon Bedrock 服務角色必須具有存取 Amazon 受管 Amazon S3 儲存貯體的許可,如果指定,則為您的 AWS KMS 金鑰。如需建立角色的詳細資訊,請參閱 建立用於匯入預先訓練模型的服務角色。如需授予角色許可以使用您的 AWS KMS 金鑰的詳細資訊,請參閱 加密匯入的自訂模型

  • 您只能使用 Amazon Bedrock APIs 從現有的 SageMaker AI 訓練的 Amazon Nova 模型建立自訂模型。您無法使用 Amazon Bedrock 主控台。