在 Greengrass 核心設備上使用亞馬遜SageMaker邊緣管理器 - AWS IoT Greengrass
運作方式請求開始使用SageMaker邊緣管理員

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

在 Greengrass 核心設備上使用亞馬遜SageMaker邊緣管理器

重要

SageMaker邊緣管理員將於 2024 年 4 月 26 日停止使用。如需有關繼續將模型部署到邊緣裝置的詳細資訊，請參閱SageMaker邊緣管理員生命週期結束。

亞馬遜SageMaker邊緣管理器是在邊緣裝置上執行的軟體代理程式。SageMakerEdge Manager 提供邊緣裝置的模型管理功能，讓您可以直接在 Greengrass 核心裝置上封裝和使用 AmazonSageMaker 新編譯模型。透過使用SageMaker Edge Manager，您也可以從核心裝置取樣模型輸入和輸出資料，並將該資料傳送至以進AWS 雲端行監視和分析。由於SageMaker Edge Manager 使用SageMaker Neo 針對目標硬體最佳化模型，因此您不需要直接在裝置上安裝 DLR 執行階段。在 Greengrass 裝置上，SageMaker邊緣管理員不會載入本機AWS IoT憑證或直接呼叫AWS IoT認證提供者端點。相反地，SageMakerEdge 管理員會使用權杖交換服務從 TES 端點擷取暫時認證。

本節說明SageMaker邊緣管理員如何在 Greengrass 核心裝置上運作。

SageMaker邊緣管理器如何在 Greengrass 設備上工作

若要將SageMaker Edge Manager 代理程式部署到核心裝置，請建立包含該aws.greengrass.SageMakerEdgeManager元件的部署。 AWS IoT Greengrass管理您裝置上 Edge Manager 代理程式的安裝和生命週期。當有新版的代理程式二進位檔可用時，請部署aws.greengrass.SageMakerEdgeManager元件的更新版本，以升級裝置上安裝的代理程式版本。

搭配使用SageMaker Edge Manager 時AWS IoT Greengrass，您的工作流程包括下列高階步驟：

  1. 使用SageMaker Neo 編譯模型。

  2. 使用SageMaker邊緣SageMaker Package 裝工作來封裝您的新編譯模型。當您為模型執行邊緣封裝工作時，您可以選擇建立包含封裝模型的模型元件，做為可部署到 Greengrass 核心裝置的成品。

  3. 建立自訂推論元件。您可以使用此推論元件與 Edge Manager 代理程式互動，以便在核心裝置上執行推論。這些作業包括載入模型、叫用預測要求以執行推論，以及在元件關閉時卸載模型。

  4. 部署SageMaker Edge Manager 元件、封裝的模型元件和推論元件，以便在裝置上的SageMaker推論引擎 (Edge Manager 代理程式) 上執行您的模型。

如需建立與 Edge Manager 搭配使用的邊SageMaker緣封裝任務和推論元件的詳細資訊，請參閱 AmazonSageMaker 開發人員指南AWS IoT Greengrass中的部署模型 Package 件和邊緣管理員代理程式。

本教學課程：開始使用 SageMaker 邊緣管理員教學課程說明如何使用可用來建立範例推論和模型元件的範例程式碼，在現有 Greengrass 核心裝置上設定和使AWS用SageMaker Edge Manager 代理程式。

當您在 Greengrass 核心裝置上使用SageMaker邊緣管理員時，您也可以使用擷取資料功能將範例資料上傳至AWS 雲端. 擷取資料是一SageMaker項功能，可用來將推論輸入、推論結果和其他推論資料上傳至 S3 儲存貯體或本機目錄，以供 future 分析使用。如需有關透過SageMaker Edge Manager 使用擷取資料的詳細資訊，請參閱 AmazonSageMaker 開發人員指南中的管理模型。

請求

您必須符合下述要求，才能在 Greengrass 核心裝置上使用SageMaker邊緣管理程式。

  • 在亞馬遜 Linux 2，基於 Debian 的 Linux 平台（x86_64 或 Armv8）或視窗（x86_64）上運行的 Greengrass 核心設備。如果您沒有帳戶，請參閱 教學課程：AWS IoT Greengrass V2 入門。

  • Python 3.6 或更高版本，包括您pip的 Python 版本，安裝在您的核心設備上。

  • 設定了以下內容的 Greengrass 裝置角色：

    • 允許credentials.iot.amazonaws.com和擔任角色sagemaker.amazonaws.com的信任關係，如以下 IAM 政策範例所示。

      { 
  "Version": "2012-10-17",
  "Statement": [ 
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "credentials.iot.amazonaws.com"
       }, 
      "Action": "sts:AssumeRole" 
    },
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "sagemaker.amazonaws.com"
      }, 
      "Action": "sts:AssumeRole" 
    } 
  ] 
}

    • AmazonSageMakerEdgeDeviceFleetPolicyIAM 受管政策。

    • s3:PutObject動作，如以範例所示。

      {
  "Version": "2012-10-17",
  "Statement": [
    {
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

  • 在AWS 帳戶與AWS 區域您的 Greengrass 核心裝置相同建立的 Amazon S3 儲存貯體。SageMakerEdge Manager 需要 S3 儲存貯體來建立邊緣裝置叢集，並存放在裝置上執行推論時所產生的範例資料。如需建立 S3 儲存貯貯貯貯貯貯貯貯貯貯貯 Amazon S3

  • SageMaker邊緣裝置叢集使用與 Greengrass 核心裝置相同的AWS IoT角色別名。如需詳細資訊，請參閱建立邊緣裝置叢集。

  • 您的 Greengrass 核心裝置已註冊為 Edge 裝置群組中的SageMaker邊緣裝置。Edge 裝置名稱必須與核心裝置的AWS IoT物件名稱相符。如需詳細資訊，請參閱註冊 Greengrass 設備。

開始使用SageMaker邊緣管理員

您可以完成教學課程以開始使用「SageMaker邊緣管理員」。本教學課程說明如何開始使用SageMaker Edge Manager，搭配現有核心裝置上AWS提供的範例元件。這些範例元件會使用SageMaker Edge Manager 元件做為相依性來部署 Edge Manager 代理程式，並使用使用SageMaker Neo 編譯的預先訓練模型執行推論。如需詳細資訊，請參閱 教學課程：開始使用 SageMaker 邊緣管理員。