Usa Amazon SageMaker Edge Manager sui dispositivi core Greengrass - AWS IoT Greengrass
Come funzionaRequisitiInizia a usare SageMaker Edge Manager

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Usa Amazon SageMaker Edge Manager sui dispositivi core Greengrass

Importante

SageMaker Edge Manager verrà interrotto il 26 aprile 2024. Per ulteriori informazioni su come continuare a distribuire i modelli sui dispositivi edge, consulta SageMaker Edge Manager End of Life.

Amazon SageMaker Edge Manager è un agente software che funziona su dispositivi edge. SageMaker Edge Manager fornisce la gestione dei modelli per i dispositivi edge in modo da poter impacchettare e utilizzare i modelli SageMaker compilati da Amazon NEO direttamente sui dispositivi core Greengrass. Utilizzando SageMaker Edge Manager, puoi anche campionare i dati di input e output del modello dai tuoi dispositivi principali e inviarli a loro Cloud AWS per il monitoraggio e l'analisi. Poiché SageMaker Edge Manager utilizza SageMaker Neo per ottimizzare i modelli per l'hardware di destinazione, non è necessario installare il runtime DLR direttamente sul dispositivo. Sui dispositivi Greengrass, SageMaker Edge Manager non carica AWS IoT certificati locali né chiama direttamente l'endpoint del fornitore di AWS IoT credenziali. Invece, SageMaker Edge Manager utilizza il servizio di scambio di token per recuperare credenziali temporanee da un endpoint TES.

Questa sezione descrive come funziona SageMaker Edge Manager sui dispositivi core Greengrass.

Come funziona SageMaker Edge Manager sui dispositivi Greengrass

Per distribuire l'agente SageMaker Edge Manager sui tuoi dispositivi principali, crea una distribuzione che includa il aws.greengrass.SageMakerEdgeManager componente. AWS IoT Greengrassgestisce l'installazione e il ciclo di vita dell'agente Edge Manager sui dispositivi. Quando è disponibile una nuova versione dell'agente binario, distribuisci la versione aggiornata del aws.greengrass.SageMakerEdgeManager componente per aggiornare la versione dell'agente installata sul tuo dispositivo.

Quando si utilizza SageMaker Edge Manager conAWS IoT Greengrass, il flusso di lavoro include i seguenti passaggi di alto livello:

  1. Compila modelli con SageMaker Neo.

  2. Package dei modelli SageMaker NEO-compilati utilizzando i processi di SageMaker edge packaging. Quando esegui un processo di edge packaging per il tuo modello, puoi scegliere di creare un componente del modello con il modello confezionato come artefatto che può essere distribuito sul tuo dispositivo principale Greengrass.

  3. Crea un componente di inferenza personalizzato. Questo componente di inferenza viene utilizzato per interagire con l'agente Edge Manager per eseguire l'inferenza sul dispositivo principale. Queste operazioni includono il caricamento dei modelli, l'invocazione di richieste di previsione per eseguire l'inferenza e lo scaricamento dei modelli quando il componente si spegne.

  4. Implementa il componente SageMaker Edge Manager, il componente del modello in pacchetto e il componente di inferenza per eseguire il modello sul motore di SageMaker inferenza (agente Edge Manager) sul dispositivo.

Per ulteriori informazioni sulla creazione di processi di edge packaging e componenti di inferenza compatibili con SageMaker Edge Manager, consulta Deploy Model Package and Edge Manager Agent with AWS IoT Greengrass nella Amazon SageMaker Developer Guide.

Il Tutorial: Inizia a usare SageMaker Edge Manager tutorial mostra come configurare e utilizzare l'agente SageMaker Edge Manager su un dispositivo principale Greengrass esistente, utilizzando il codice di esempio AWS fornito che è possibile utilizzare per creare componenti di inferenza e modello di esempio.

Quando si utilizza SageMaker Edge Manager sui dispositivi principali Greengrass, è anche possibile utilizzare la funzione di acquisizione dati per caricare dati di esempio su. Cloud AWS L'acquisizione dei dati è una SageMaker funzionalità che utilizzi per caricare input di inferenza, risultati di inferenza e dati di inferenza aggiuntivi su un bucket S3 o una directory locale per analisi future. Per ulteriori informazioni sull'utilizzo dei dati di acquisizione con SageMaker Edge Manager, consulta Manage Model nella Amazon SageMaker Developer Guide.

Requisiti

È necessario soddisfare i seguenti requisiti per utilizzare l'agente SageMaker Edge Manager sui dispositivi principali Greengrass.

  • Un dispositivo core Greengrass in esecuzione su Amazon Linux 2, una piattaforma Linux basata su Debian (x86_64 o Armv8) o Windows (x86_64). Se non lo hai, consultare Tutorial: Nozioni di base su AWS IoT Greengrass V2.

  • Python 3.6 o versione successiva, inclusa pip la tua versione di Python, installato sul tuo dispositivo principale.

  • Il ruolo del dispositivo Greengrass è configurato con quanto segue:

    • Una relazione di fiducia che consente credentials.iot.amazonaws.com e consente sagemaker.amazonaws.com di assumere il ruolo, come illustrato nel seguente esempio di policy IAM.

      { 
  "Version": "2012-10-17",
  "Statement": [ 
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "credentials.iot.amazonaws.com"
       }, 
      "Action": "sts:AssumeRole" 
    },
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "sagemaker.amazonaws.com"
      }, 
      "Action": "sts:AssumeRole" 
    } 
  ] 
}

    • La politica gestita da AmazonSageMakerEdgeDeviceFleetPolicyIAM.

    • L's3:PutObjectazione, come illustrato nel seguente esempio di policy IAM.

      {
  "Version": "2012-10-17",
  "Statement": [
    {
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

  • Un bucket Amazon S3 creato nello stesso Regione AWS dispositivo Account AWS principale Greengrass. SageMaker Edge Manager richiede un bucket S3 per creare una flotta di dispositivi edge e per archiviare dati di esempio derivanti dall'esecuzione dell'inferenza sul dispositivo. Per informazioni sulla creazione di bucket S3, consulta Guida introduttiva ad Amazon S3.

  • Una flotta di dispositivi SageMaker edge che utilizza lo stesso alias di AWS IoT ruolo del dispositivo principale Greengrass. Per ulteriori informazioni, consulta Crea una flotta di dispositivi edge.

  • Il tuo dispositivo principale Greengrass è stato registrato come dispositivo edge nel tuo parco dispositivi SageMaker Edge. Il nome del dispositivo edge deve corrispondere al nome dell'AWS IoToggetto del dispositivo principale. Per ulteriori informazioni, consulta Registra il tuo dispositivo Greengrass core.

Inizia a usare SageMaker Edge Manager

Puoi completare un tutorial per iniziare a usare SageMaker Edge Manager. Il tutorial mostra come iniziare a utilizzare SageMaker Edge Manager con componenti AWS di esempio forniti su un dispositivo principale esistente. Questi componenti di esempio utilizzano il componente SageMaker Edge Manager come dipendenza per distribuire l'agente Edge Manager ed eseguono l'inferenza utilizzando modelli preaddestrati compilati utilizzando Neo. SageMaker Per ulteriori informazioni, consulta Tutorial: Inizia a usare SageMaker Edge Manager.