Use o Amazon SageMaker Edge Manager nos dispositivos principais do Greengrass - AWS IoT Greengrass
Como funcionaRequisitosComece a usar o SageMaker Edge Manager

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Use o Amazon SageMaker Edge Manager nos dispositivos principais do Greengrass

Importante

SageMaker O Edge Manager será descontinuado em 26 de abril de 2024. Para obter mais informações sobre como continuar implantando seus modelos em dispositivos de ponta, consulte Fim da vida útil do SageMaker Edge Manager.

O Amazon SageMaker Edge Manager é um agente de software executado em dispositivos periféricos. SageMaker O Edge Manager fornece gerenciamento de modelos para dispositivos de borda para que você possa empacotar e usar modelos SageMaker compilados pelo Amazon Neo diretamente nos dispositivos principais do Greengrass. Ao usar o SageMaker Edge Manager, você também pode amostrar dados de entrada e saída do modelo de seus dispositivos principais e enviar esses dados Nuvem AWS para monitoramento e análise. Como o SageMaker Edge Manager usa SageMaker o Neo para otimizar seus modelos para o hardware de destino, você não precisa instalar o tempo de execução do DLR diretamente no seu dispositivo. Nos dispositivos Greengrass, o SageMaker Edge Manager não carrega AWS IoT certificados locais nem liga diretamente para o endpoint do provedor de AWS IoT credenciais. Em vez disso, o SageMaker Edge Manager usa o serviço de troca de tokens para buscar credenciais temporárias de um endpoint TES.

Esta seção descreve como o SageMaker Edge Manager funciona nos dispositivos principais do Greengrass.

Como o SageMaker Edge Manager funciona nos dispositivos Greengrass

Para implantar o agente do SageMaker Edge Manager em seus dispositivos principais, crie uma implantação que inclua o aws.greengrass.SageMakerEdgeManager componente. AWS IoT Greengrassgerencia a instalação e o ciclo de vida do agente Edge Manager em seus dispositivos. Quando uma nova versão do binário do agente estiver disponível, implante a versão atualizada do aws.greengrass.SageMakerEdgeManager componente para atualizar a versão do agente que está instalada no seu dispositivo.

Quando você usa o SageMaker Edge Manager comAWS IoT Greengrass, seu fluxo de trabalho inclui as seguintes etapas de alto nível:

  1. Compile modelos com o SageMaker Neo.

  2. Empacote seus modelos SageMaker compilados pela NEO usando trabalhos de empacotamento de SageMaker ponta. Ao executar um trabalho de empacotamento de borda para seu modelo, você pode optar por criar um componente de modelo com o modelo empacotado como um artefato que pode ser implantado em seu dispositivo principal do Greengrass.

  3. Crie um componente de inferência personalizado. Você usa esse componente de inferência para interagir com o agente do Edge Manager para realizar inferência no dispositivo principal. Essas operações incluem carregar modelos, invocar solicitações de previsão para executar inferências e descarregar modelos quando o componente é desligado.

  4. Implante o componente SageMaker Edge Manager, o componente do modelo empacotado e o componente de inferência para executar seu modelo no mecanismo de SageMaker inferência (agente do Edge Manager) em seu dispositivo.

Para obter mais informações sobre a criação de trabalhos de empacotamento de borda e componentes de inferência que funcionam com o SageMaker Edge Manager, consulte Deploy Model Package and Edge Manager Agent AWS IoT Greengrass no Amazon SageMaker Developer Guide.

O Tutorial: Comece a usar o SageMaker Edge Manager tutorial mostra como configurar e usar o agente do SageMaker Edge Manager em um dispositivo principal existente do Greengrass, usando um código AWS de exemplo fornecido que você pode usar para criar exemplos de inferência e componentes de modelo.

Ao usar o SageMaker Edge Manager nos dispositivos principais do Greengrass, você também pode usar o recurso de captura de dados para carregar dados de amostra para o. Nuvem AWS Capturar dados é um SageMaker recurso que você usa para carregar entradas de inferência, resultados de inferência e dados de inferência adicionais em um bucket do S3 ou em um diretório local para análise futura. Para obter mais informações sobre o uso de dados de captura com o SageMaker Edge Manager, consulte Gerenciar modelo no Amazon SageMaker Developer Guide.

Requisitos

Você deve atender aos seguintes requisitos para usar o agente do SageMaker Edge Manager nos dispositivos principais do Greengrass.

  • Um dispositivo principal do Greengrass executado no Amazon Linux 2, uma plataforma Linux baseada em Debian (x86_64 ou Armv8) ou Windows (x86_64). Se você não tiver uma, consulte Tutorial: Conceitos básicos do AWS IoT Greengrass V2.

  • Python 3.6 ou posterior, inclusive pip para sua versão do Python, instalada em seu dispositivo principal.

  • A função do dispositivo Greengrass foi configurada com o seguinte:

    • Uma relação de confiança que permite credentials.iot.amazonaws.com e assume sagemaker.amazonaws.com a função, conforme mostrado no exemplo de política do IAM a seguir.

      { 
  "Version": "2012-10-17",
  "Statement": [ 
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "credentials.iot.amazonaws.com"
       }, 
      "Action": "sts:AssumeRole" 
    },
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "sagemaker.amazonaws.com"
      }, 
      "Action": "sts:AssumeRole" 
    } 
  ] 
}

    • A política gerenciada AmazonSageMakerEdgeDeviceFleetPolicydo IAM.

    • A s3:PutObject ação, conforme mostrado no exemplo de política do IAM a seguir.

      {
  "Version": "2012-10-17",
  "Statement": [
    {
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

  • Um bucket do Amazon S3 criado no mesmo dispositivo central do Greengrass Conta da AWS e no Região da AWS mesmo dispositivo. SageMaker O Edge Manager requer um bucket S3 para criar uma frota de dispositivos de ponta e armazenar dados de amostra da execução de inferência em seu dispositivo. Para obter informações sobre a criação de buckets do S3, consulte Introdução ao Amazon S3.

  • Uma frota de dispositivos de SageMaker ponta que usa o mesmo alias de AWS IoT função do seu dispositivo principal do Greengrass. Para ter mais informações, consulte Crie uma frota de dispositivos de ponta.

  • Seu dispositivo principal do Greengrass foi registrado como um dispositivo de ponta em sua frota de dispositivos SageMaker Edge. O nome do dispositivo de borda deve corresponder ao AWS IoT nome do dispositivo principal. Para ter mais informações, consulte Registre seu dispositivo principal do Greengrass.

Comece a usar o SageMaker Edge Manager

Você pode concluir um tutorial para começar a usar o SageMaker Edge Manager. O tutorial mostra como começar a usar o SageMaker Edge Manager com componentes AWS de amostra fornecidos em um dispositivo principal existente. Esses componentes de amostra usam o componente SageMaker Edge Manager como uma dependência para implantar o agente do Edge Manager e realizar inferência usando modelos pré-treinados que foram compilados usando o Neo. SageMaker Para ter mais informações, consulte Tutorial: Comece a usar o SageMaker Edge Manager.