Utilice Amazon SageMaker Edge Manager en los dispositivos principales de Greengrass - AWS IoT Greengrass

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Utilice Amazon SageMaker Edge Manager en los dispositivos principales de Greengrass

importante

SageMaker Edge Manager dejó de fabricarse el 26 de abril de 2024. Para obtener más información sobre cómo seguir implementando sus modelos en los dispositivos perimetrales, consulte SageMaker Edge Manager al final del ciclo de vida.

Amazon SageMaker Edge Manager es un agente de software que se ejecuta en dispositivos periféricos. SageMaker Edge Manager proporciona administración de modelos para dispositivos periféricos para que pueda empaquetar y usar modelos SageMaker compilados por Amazon NEO directamente en los dispositivos principales de Greengrass. Al usar SageMaker Edge Manager, también puede muestrear los datos de entrada y salida del modelo de sus dispositivos principales y enviar esos datos a ellos Nube de AWS para su monitoreo y análisis. Como SageMaker Edge Manager utiliza SageMaker Neo para optimizar los modelos para el hardware de destino, no es necesario que instales el DLR motor de ejecución directamente en el dispositivo. En los dispositivos Greengrass, SageMaker Edge Manager no carga los AWS IoT certificados locales ni llama directamente al punto final del proveedor de AWS IoT credenciales. En su lugar, SageMaker Edge Manager utiliza el servicio de intercambio de fichas para obtener una credencial temporal de un punto final. TES

En esta sección se describe cómo funciona SageMaker Edge Manager en los dispositivos principales de Greengrass.

Cómo funciona SageMaker Edge Manager en los dispositivos Greengrass

Para implementar el agente SageMaker Edge Manager en sus dispositivos principales, cree una implementación que incluya el aws.greengrass.SageMakerEdgeManager componente. AWS IoT Greengrass gestiona la instalación y el ciclo de vida del agente Edge Manager en sus dispositivos. Cuando haya disponible una nueva versión del binario del agente, implemente la versión actualizada del aws.greengrass.SageMakerEdgeManager componente para actualizar la versión del agente que está instalada en el dispositivo.

Cuando utilizas SageMaker Edge Manager con AWS IoT Greengrass, tu flujo de trabajo incluye los siguientes pasos de alto nivel:

  1. Compila modelos con SageMaker Neo.

  2. Empaque sus modelos SageMaker compilados en NEO mediante trabajos de embalaje SageMaker perimetral. Cuando ejecuta un trabajo de empaquetado perimetral para su modelo, puede optar por crear un componente del modelo con el modelo empaquetado como un artefacto que se puede implementar en su dispositivo principal de Greengrass.

  3. Cree un componente de inferencia personalizado. Este componente de inferencia se utiliza para interactuar con el agente de Edge Manager y realizar la inferencia en el dispositivo principal. Estas operaciones incluyen cargar modelos, invocar solicitudes de predicción para ejecutar la inferencia y descargar modelos cuando el componente se apaga.

  4. Implemente el componente SageMaker Edge Manager, el componente de modelo empaquetado y el componente de inferencia para ejecutar el modelo en el motor de SageMaker inferencia (agente de Edge Manager) de su dispositivo.

Para obtener más información sobre la creación de trabajos de empaquetado perimetral y componentes de inferencia que funcionen con SageMaker Edge Manager, consulte Deploy Model Package y Edge Manager Agent con AWS IoT Greengrass en la Guía para SageMaker desarrolladores de Amazon.

El Tutorial: Cómo empezar a usar SageMaker Edge Manager tutorial le muestra cómo configurar y usar el agente SageMaker Edge Manager en un dispositivo principal de Greengrass existente, mediante el código de ejemplo AWS proporcionado que puede usar para crear ejemplos de componentes de inferencia y modelo.

Cuando usa SageMaker Edge Manager en los dispositivos principales de Greengrass, también puede usar la función de captura de datos para cargar datos de muestra en. Nube de AWS La captura de datos es una SageMaker función que se utiliza para cargar entradas de inferencia, resultados de inferencias y datos de inferencia adicionales a un bucket de S3 o a un directorio local para futuros análisis. Para obtener más información sobre el uso de datos de captura con SageMaker Edge Manager, consulte Manage Model en la Guía para SageMaker desarrolladores de Amazon.

Requisitos

Debe cumplir los siguientes requisitos para utilizar el agente SageMaker Edge Manager en los dispositivos principales de Greengrass.

  • Un dispositivo principal de Greengrass que se ejecuta en Amazon Linux 2, una plataforma Linux basada en Debian (x86_64 o Armv8) o Windows (x86_64). Si no dispone de una, consulte Tutorial: Introducción a AWS IoT Greengrass V2.

  • Python 3.6 o posterior, incluida pip la versión de Python, instalada en el dispositivo principal.

  • El rol del dispositivo Greengrass se configuró con lo siguiente:

    • Una relación de confianza que sagemaker.amazonaws.com permite credentials.iot.amazonaws.com y asume el rol, como se muestra en el siguiente ejemplo IAM de política.

      { "Version": "2012-10-17", "Statement": [ { "Effect": "Allow", "Principal": { "Service": "credentials.iot.amazonaws.com" }, "Action": "sts:AssumeRole" }, { "Effect": "Allow", "Principal": { "Service": "sagemaker.amazonaws.com" }, "Action": "sts:AssumeRole" } ] }
    • La política AmazonSageMakerEdgeDeviceFleetPolicyIAMgestionada.

    • La s3:PutObject acción, tal como se muestra en el siguiente ejemplo IAM de política.

      { "Version": "2012-10-17", "Statement": [ { "Action": [ "s3:PutObject" ], "Resource": [ "*" ], "Effect": "Allow" } ] }
  • Un bucket de Amazon S3 creado en el mismo dispositivo principal de Greengrass Cuenta de AWS y Región de AWS en el mismo que él. SageMaker Edge Manager necesita un bucket S3 para crear una flota de dispositivos perimetrales y almacenar datos de muestra derivados de la ejecución de inferencias en su dispositivo. Para obtener información sobre la creación de buckets de S3, consulte Introducción a Amazon S3.

  • Una flota de dispositivos SageMaker periféricos que usa el mismo alias de AWS IoT rol que su dispositivo principal de Greengrass. Para obtener más información, consulte Cree una flota de dispositivos periféricos.

  • Su dispositivo principal de Greengrass está registrado como dispositivo perimetral en su flota de dispositivos SageMaker perimetrales. El nombre del dispositivo perimetral debe coincidir con el AWS IoT nombre del dispositivo principal. Para obtener más información, consulte Registra tu dispositivo principal de Greengrass.

Comience a usar SageMaker Edge Manager

Puedes completar un tutorial para empezar a usar SageMaker Edge Manager. El tutorial le muestra cómo empezar a usar SageMaker Edge Manager con los componentes AWS de muestra proporcionados en un dispositivo principal existente. Estos componentes de ejemplo utilizan el componente SageMaker Edge Manager como dependencia para implementar el agente de Edge Manager y realizar inferencias mediante modelos previamente entrenados que se compilaron con Neo. SageMaker Para obtener más información, consulte Tutorial: Cómo empezar a usar SageMaker Edge Manager.