Versões Tipo Sistema operacional Requisitos Dependências Configuração Arquivo de log local Changelog

SageMaker Gerente de borda

Importante

SageMaker O Edge Manager foi descontinuado em 26 de abril de 2024. Para obter mais informações sobre como continuar implantando seus modelos em dispositivos de ponta, consulte Fim da vida útil do SageMaker Edge Manager.

O componente Amazon SageMaker Edge Manager (aws.greengrass.SageMakerEdgeManager) instala o binário do agente do SageMaker Edge Manager.

SageMaker O Edge Manager fornece gerenciamento de modelos para dispositivos periféricos para que você possa otimizar, proteger, monitorar e manter modelos de aprendizado de máquina em frotas de dispositivos periféricos. O componente SageMaker Edge Manager instala e gerencia o ciclo de vida do agente do SageMaker Edge Manager em seu dispositivo principal. Você também pode usar o SageMaker Edge Manager para empacotar e usar modelos SageMaker compilados pelo NEO como componentes do modelo nos dispositivos principais do Greengrass. Para obter mais informações sobre como usar o agente SageMaker Edge Manager em seu dispositivo principal, consulteUse o Amazon SageMaker Edge Manager nos dispositivos principais do Greengrass.

SageMaker O componente Edge Manager v1.3.x instala o binário do agente Edge Manager v1.20220822.836f3023. Para obter mais informações sobre as versões binárias do agente Edge Manager, consulte Agente do Edge Manager.

nota

O componente SageMaker Edge Manager está disponível somente no seguinte Regiões da AWS:

Leste dos EUA (Ohio)
Leste dos EUA (N. da Virgínia)
Oeste dos EUA (Oregon)
UE (Frankfurt)
UE (Irlanda)
Ásia-Pacífico (Tóquio)

Versões

Esse componente tem as seguintes versões:

1.3.x
1,2.x
1.1.x
1,0.x

Tipo

Este componente é um componente genérico (aws.greengrass.generic). O núcleo do Greengrass executa os scripts do ciclo de vida do componente.

Para obter mais informações, consulte Tipos de componentes.

Sistema operacional

Esse componente pode ser instalado em dispositivos principais que executam os seguintes sistemas operacionais:

Linux
Windows

Requisitos

Esse componente tem os seguintes requisitos:

Um dispositivo principal do Greengrass executado no Amazon Linux 2, uma plataforma Linux baseada em Debian (x86_64 ou Armv8) ou Windows (x86_64). Se você não tiver uma, consulte Tutorial: Conceitos básicos do AWS IoT Greengrass V2.
Python 3.6 ou posterior, inclusive pip para sua versão do Python, instalada em seu dispositivo principal.

A função do dispositivo Greengrass foi configurada com o seguinte:

Uma relação de confiança que permite credentials.iot.amazonaws.com e assume sagemaker.amazonaws.com a função, conforme mostrado no exemplo de IAM política a seguir.


{ 
  "Version": "2012-10-17",
  "Statement": [ 
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "credentials.iot.amazonaws.com"
       }, 
      "Action": "sts:AssumeRole" 
    },
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "sagemaker.amazonaws.com"
      }, 
      "Action": "sts:AssumeRole" 
    } 
  ] 
}

A política AmazonSageMakerEdgeDeviceFleetPolicyIAMgerenciada.

A s3:PutObject ação, conforme mostrado no exemplo de IAM política a seguir.


{
  "Version": "2012-10-17",
  "Statement": [
    {
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

Um bucket do Amazon S3 criado no mesmo dispositivo central do Greengrass Conta da AWS e no Região da AWS mesmo dispositivo. SageMaker O Edge Manager requer um bucket S3 para criar uma frota de dispositivos de ponta e armazenar dados de amostra da execução de inferência em seu dispositivo. Para obter informações sobre a criação de buckets do S3, consulte Introdução ao Amazon S3.
Uma frota de dispositivos de SageMaker ponta que usa o mesmo alias de AWS IoT função do seu dispositivo principal do Greengrass. Para obter mais informações, consulte Crie uma frota de dispositivos de ponta.
Seu dispositivo principal do Greengrass foi registrado como um dispositivo de ponta em sua frota de dispositivos SageMaker Edge. O nome do dispositivo de borda deve corresponder ao AWS IoT nome do dispositivo principal. Para obter mais informações, consulte Registre seu dispositivo principal do Greengrass.

Endpoints e portas

Esse componente deve ser capaz de realizar solicitações de saída para os seguintes endpoints e portas, além dos endpoints e portas necessários para a operação básica. Para obter mais informações, consulte Permitir o tráfego de dispositivos por meio de um proxy ou firewall.

Endpoint Port (Porta) Obrigatório Descrição

Endpoint	Port (Porta)	Obrigatório	Descrição
`edge.sagemaker.region.amazonaws.com`	443	Sim	Verifique o status de registro do dispositivo e envie métricas para SageMaker.
`*.s3.amazonaws.com`	443	Sim	Faça upload dos dados de captura para o bucket do S3 que você especificar. Você pode `*` substituir pelo nome de cada bucket em que você carrega dados.

edge.sagemaker.region.amazonaws.com

443

Sim

Verifique o status de registro do dispositivo e envie métricas para SageMaker.

*.s3.amazonaws.com

443

Sim

Faça upload dos dados de captura para o bucket do S3 que você especificar.

Você pode * substituir pelo nome de cada bucket em que você carrega dados.

Dependências

Quando você implanta um componente, AWS IoT Greengrass também implanta versões compatíveis de suas dependências. Isso significa que você deve atender aos requisitos do componente e de todas as suas dependências para implantá-lo com êxito. Esta seção lista as dependências das versões lançadas desse componente e as restrições de versão semântica que definem as versões dos componentes para cada dependência. Você também pode visualizar as dependências de cada versão do componente no AWS IoT Greengrass console. Na página de detalhes do componente, procure a lista de dependências.

1.3.5 and 1.3.6

A tabela a seguir lista as dependências das versões 1.3.5 e 1.3.6 desse componente.

Dependência	Versões compatíveis	Tipo de dependência
Núcleo Greengrass	>=2.0.0 <2.13.0	Flexível
Serviço de troca de tokens	>=0,0,0	Rígido

1.3.4

A tabela a seguir lista as dependências da versão 1.3.4 desse componente.

Dependência	Versões compatíveis	Tipo de dependência
Núcleo Greengrass	>=2.0.0 <2.12.0	Flexível
Serviço de troca de tokens	>=0,0,0	Rígido

1.3.3

A tabela a seguir lista as dependências da versão 1.3.3 desse componente.

Dependência	Versões compatíveis	Tipo de dependência
Núcleo Greengrass	>=2.0.0 <2.11.0	Flexível
Serviço de troca de tokens	>=0,0,0	Rígido

1.3.2

A tabela a seguir lista as dependências da versão 1.3.2 desse componente.

Dependência	Versões compatíveis	Tipo de dependência
Núcleo Greengrass	>=2.0.0 <2.10.0	Flexível
Serviço de troca de tokens	>=0,0,0	Rígido

1.3.1

A tabela a seguir lista as dependências da versão 1.3.1 desse componente.

Dependência	Versões compatíveis	Tipo de dependência
Núcleo Greengrass	>=2.0.0 <2.9.0	Flexível
Serviço de troca de tokens	>=0,0,0	Rígido

1.1.1 - 1.3.0

A tabela a seguir lista as dependências das versões 1.1.1 a 1.3.0 desse componente.

Dependência	Versões compatíveis	Tipo de dependência
Núcleo Greengrass	>=2.0.0 <2.8.0	Flexível
Serviço de troca de tokens	>=0,0,0	Rígido

1.1.0

A tabela a seguir lista as dependências da versão 1.1.0 desse componente.

Dependência	Versões compatíveis	Tipo de dependência
Núcleo Greengrass	>=2.0.0 <2.6.0	Flexível
Serviço de troca de tokens	>=0,0,0	Rígido

1.0.3

A tabela a seguir lista as dependências da versão 1.0.3 desse componente.

Dependência	Versões compatíveis	Tipo de dependência
Núcleo Greengrass	>=2.0.0 <2.5.0	Flexível
Serviço de troca de tokens	>=0,0,0	Rígido

1.0.1 and 1.0.2

A tabela a seguir lista as dependências das versões 1.0.1 e 1.0.2 desse componente.

Dependência	Versões compatíveis	Tipo de dependência
Núcleo Greengrass	>=2.0.0 <2.4.0	Flexível
Serviço de troca de tokens	>=0,0,0	Rígido

1.0.0

A tabela a seguir lista as dependências da versão 1.0.0 desse componente.

Dependência	Versões compatíveis	Tipo de dependência
Núcleo Greengrass	>=2.0.0 <2.3.0	Flexível
Serviço de troca de tokens	>=0,0,0	Rígido

Para obter mais informações sobre dependências de componentes, consulte a referência da receita do componente.

Configuração

Esse componente fornece os seguintes parâmetros de configuração que você pode personalizar ao implantar o componente.

nota

Esta seção descreve os parâmetros de configuração que você define no componente. Para obter mais informações sobre a configuração correspondente do SageMaker Edge Manager, consulte o Edge Manager Agent no Amazon SageMaker Developer Guide.

DeviceFleetName

O nome da frota de dispositivos do SageMaker Edge Manager que contém seu dispositivo principal do Greengrass.

Você deve especificar um valor para esse parâmetro na atualização de configuração ao implantar esse componente.

BucketName

O nome do bucket do S3 para o qual você carrega os dados de inferência capturados. O nome do bucket deve conter a stringsagemaker.

Se você CaptureDataDestination definir comoCloud, ou se CaptureDataPeriodicUpload definir comotrue, deverá especificar um valor para esse parâmetro na atualização de configuração ao implantar esse componente.

nota

Capturar dados é um SageMaker recurso que você usa para carregar entradas de inferência, resultados de inferência e dados de inferência adicionais em um bucket do S3 ou em um diretório local para análise futura. Para obter mais informações sobre o uso de dados de captura com o SageMaker Edge Manager, consulte Gerenciar modelo no Amazon SageMaker Developer Guide.

CaptureDataBatchSize

(Opcional) O tamanho de um lote de solicitações de dados de captura que o agente processa. Esse valor deve ser menor que o tamanho do buffer especificado emCaptureDataBufferSize. Recomendamos que você não exceda a metade do tamanho do buffer.

O agente processa um lote de solicitações quando o número de solicitações no buffer atinge o CaptureDataBatchSize número ou quando o CaptureDataPushPeriodSeconds intervalo termina, o que ocorrer primeiro.

Padrão: 10

CaptureDataBufferSize

(Opcional) O número máximo de solicitações de dados de captura armazenadas no buffer.

Padrão: 30

CaptureDataDestination

(Opcional) O destino em que você armazena os dados capturados. Esse parâmetro pode ter os seguintes valores:

Cloud— Carrega os dados capturados no bucket do S3 que você especifica em. BucketName
Disk—Grava os dados capturados no diretório de trabalho do componente.

Se você especificarDisk, também poderá optar por carregar periodicamente os dados capturados em seu bucket do S3 configurando comoCaptureDataPeriodicUpload. true

Padrão: Cloud

CaptureDataPeriodicUpload

(Opcional) Valor da string que especifica se os dados capturados devem ser carregados periodicamente. Os valores compatíveis são true e false.

Defina esse parâmetro como true se você CaptureDataDestination definirDisk, e você também deseja que o agente carregue periodicamente os dados capturados em seu bucket do S3.

Padrão: false

CaptureDataPeriodicUploadPeriodSeconds

(Opcional) O intervalo em segundos no qual o agente do SageMaker Edge Manager carrega os dados capturados no bucket do S3. Use esse parâmetro se você CaptureDataPeriodicUpload definir comotrue.

Padrão: 8

CaptureDataPushPeriodSeconds

(Opcional) O intervalo em segundos no qual o agente do SageMaker Edge Manager processa um lote de solicitações de dados de captura do buffer.

Padrão: 4

CaptureDataBase64EmbedLimit

(Opcional) O tamanho máximo em bytes dos dados capturados que o agente do SageMaker Edge Manager carrega.

Padrão: 3072

FolderPrefix

(Opcional) O nome da pasta na qual o agente grava os dados capturados. Se você CaptureDataDestination definir comoDisk, o agente criará a pasta no diretório especificado porCaptureDataDiskPath. Se você CaptureDataDestination definir comoCloud, ou se definir comotrue, CaptureDataPeriodicUpload o agente criará a pasta no seu bucket do S3.

Padrão: sme-capture

CaptureDataDiskPath

Esse recurso está disponível nas versões v1.1.0 e posteriores do componente SageMaker Edge Manager.

(Opcional) O caminho para a pasta na qual o agente cria a pasta de dados capturada. Se você CaptureDataDestination definir comoDisk, o agente criará a pasta de dados capturados nesse diretório. Se você não especificar esse valor, o agente criará a pasta de dados capturados no diretório de trabalho do componente. Use o FolderPrefix parâmetro para especificar o nome da pasta de dados capturada.

Padrão: /greengrass/v2/work/aws.greengrass.SageMakerEdgeManager/capture

LocalDataRootPath

Esse recurso está disponível nas versões v1.2.0 e posteriores do componente SageMaker Edge Manager.

(Opcional) O caminho em que esse componente armazena os seguintes dados no dispositivo principal:

O banco de dados local para dados de tempo de execução quando você define como DbEnabletrue.
SageMaker Modelos neocompilados que esse componente baixa automaticamente quando você define comoDeploymentEnable. true

Padrão: /greengrass/v2/work/aws.greengrass.SageMakerEdgeManager

DbEnable

(Opcional) Você pode ativar esse componente para armazenar dados de tempo de execução em um banco de dados local para preservar os dados, caso o componente falhe ou o dispositivo perca energia.

Esse banco de dados requer 5 MB de armazenamento no sistema de arquivos do dispositivo principal.

Padrão: false

DeploymentEnable

Esse recurso está disponível nas versões v1.2.0 e posteriores do componente SageMaker Edge Manager.

(Opcional) Você pode habilitar esse componente para recuperar automaticamente modelos SageMaker compilados pelo Neo a partir dos quais você carrega para o Amazon S3. Depois de fazer o upload de um novo modelo para o Amazon S3, use o SageMaker Studio ou o SageMaker API para implantar o novo modelo nesse dispositivo principal. Ao habilitar esse recurso, você pode implantar novos modelos nos dispositivos principais sem precisar criar uma AWS IoT Greengrass implantação.

Importante

Para usar esse recurso, você deve DbEnable definir comotrue. Esse recurso usa o banco de dados local para rastrear modelos que ele recupera Nuvem AWS do.

Padrão: false

DeploymentPollInterval

Esse recurso está disponível nas versões v1.2.0 e posteriores do componente SageMaker Edge Manager.

(Opcional) A quantidade de tempo (em minutos) entre o qual esse componente verifica se há novos modelos para baixar. Essa opção se aplica quando você define como DeploymentEnabletrue.

Padrão: 1440 (1 dia)

DLRBackendOptions

Esse recurso está disponível nas versões v1.2.0 e posteriores do componente SageMaker Edge Manager.

(Opcional) Os sinalizadores de tempo de DLR execução a serem definidos no DLR tempo de execução usado por esse componente. Você pode definir a seguinte bandeira:

TVM_TENSORRT_CACHE_DIR— Ative o cache do modelo TensorRT. Especifique um caminho absoluto para uma pasta existente que tenha permissões de leitura/gravação.
TVM_TENSORRT_CACHE_DISK_SIZE_MB— Atribui o limite superior da pasta de cache do modelo TensorRT. Quando o tamanho do diretório ultrapassa esse limite, os mecanismos em cache menos usados são excluídos. O valor padrão é 512 MB.

Por exemplo, você pode definir esse parâmetro com o valor a seguir para ativar o cache do modelo TensorRT e limitar o tamanho do cache a 800 MB.


TVM_TENSORRT_CACHE_DIR=/data/secured_folder/trt/cache; TVM_TENSORRT_CACHE_DISK_SIZE_MB=800

SagemakerEdgeLogVerbose

(Opcional) Valor da string que especifica se o registro de depuração deve ser ativado. Os valores compatíveis são true e false.

Padrão: false

UnixSocketName

(Opcional) A localização do descritor do arquivo de soquete do SageMaker Edge Manager no dispositivo principal.

Padrão: /tmp/aws.greengrass.SageMakerEdgeManager.sock

exemplo Exemplo: atualização da mesclagem de configurações

O exemplo de configuração a seguir especifica que o dispositivo principal faz parte do MyEdgeDeviceFleet e que o agente grave os dados de captura no dispositivo e em um bucket do S3. Essa configuração também permite o registro de depuração.


{
    "DeviceFleetName": "MyEdgeDeviceFleet",
    "BucketName": "amzn-s3-demo-bucket",
    "CaptureDataDestination": "Disk",
    "CaptureDataPeriodicUpload": "true",
    "SagemakerEdgeLogVerbose": "true"    
}

Arquivo de log local

Esse componente usa o seguinte arquivo de log.

Para ver os registros desse componente

Execute o comando a seguir no dispositivo principal para visualizar o arquivo de log desse componente em tempo real. Substituir /greengrass/v2 ou C:\greengrass\v2 com o caminho para a pasta AWS IoT Greengrass raiz.
Linux
```
sudo tail -f /greengrass/v2/logs/aws.greengrass.SageMakerEdgeManager.log
```
Windows (PowerShell)
```
Get-Content C:\greengrass\v2\logs\aws.greengrass.SageMakerEdgeManager.log -Tail 10 -Wait
```

Changelog

A tabela a seguir descreve as alterações em cada versão do componente.

Version (Versão)	Alterações
1.3.6	Versão atualizada para a versão 2.12.5 do Greengrass nucleus.
1.3.5	Versão atualizada para a versão 2.12.0 do Greengrass nucleus.
1.3.4	Versão atualizada para a versão 2.11.0 do Greengrass nucleus.
1.3.3	Versão atualizada para a versão 2.10.0 do Greengrass nucleus.
1.3.2	Versão atualizada para a versão 2.9.0 do Greengrass nucleus.
1.3.1	Versão atualizada para a versão 2.8.0 do Greengrass nucleus.
1.3.0	Novos atributos Adiciona suporte ao gerenciamento do tamanho do disco de cache TensorRT. Adiciona o `TVM_TENSORRT_CACHE_DISK_SIZE_MB` sinalizador opcional ao DLRBackendOptions parâmetro para definir o limite de tamanho para modelos em cache no disco. Melhorias Fornece maior simultaneidade de previsão. Isso ajuda a obter um melhor uso dos mecanismos aceleradores de dispositivos, comoGPUs.
1.2.0	Novos atributos Adiciona suporte a esse componente para recuperar automaticamente os modelos SageMaker compilados pelo NEO que você carrega para o Amazon S3. Ao habilitar esse recurso, você pode implantar novos modelos nos dispositivos principais sem precisar criar uma AWS IoT Greengrass implantação. Adiciona suporte a um banco de dados de backup que esse componente usa para preservar os dados de tempo de execução, caso o componente falhe ou o dispositivo perca energia. Adiciona suporte para você configurar sinalizadores de tempo de DLR execução ao configurar esse componente.
1.1.1	Versão atualizada para a versão 2.7.0 do Greengrass nucleus.
1.1.0	Novos atributos Adiciona suporte aos principais dispositivos do Greengrass que executam o Amazon Linux 2. Adiciona o novo parâmetro `CaptureDataDiskPath` de configuração. Você pode usar esse parâmetro para especificar o caminho da pasta de dados capturada no seu dispositivo. Correções de erros e melhorias Versão atualizada para a versão 2.5.0 do Greengrass nucleus.
1.0.3	Versão atualizada para a versão 2.4.0 do Greengrass nucleus.
1.0.2	Correções de erros e melhorias Atualiza o script de instalação no ciclo de vida do componente. Seus dispositivos principais agora devem ter o Python 3.6 ou posterior, inclusive `pip` para sua versão do Python, instalado no dispositivo antes de você implantar esse componente.
1.0.1	Versão atualizada para a versão 2.3.0 do Greengrass nucleus.
1.0.0	Versão inicial.

Atenção O Javascript está desativado ou não está disponível no seu navegador.

Para usar a documentação da AWS, o Javascript deve estar ativado. Consulte as páginas de Ajuda do navegador para obter instruções.

Convenções do documento

Lookout for Vision Edge Agent

Classificação de imagens DLR