AWS IoT Greengrass Version 2requisitos principales del dispositivo

Para utilizar un modelo Amazon Lookout for Vision en AWS IoT Greengrass Version 2 un dispositivo principal, su modelo tiene varios requisitos del dispositivo principal.

Dispositivos, arquitecturas de chips y sistemas operativos probados

Esperamos que Amazon Lookout for Vision funcione en el siguiente hardware:

• Arquitecturas de la CPU

  • X86_64 (versión de 64 bits del conjunto de instrucciones x86)

  • Aarch64 (CPU ARMv8 de 64 bits)

• (Solo inferencia acelerada por GPU) Acelerador de GPU NVIDIA con suficiente capacidad de memoria (al menos 6 GB para un modelo en ejecución).

El equipo de Amazon Lookout for Vision ha probado los modelos de Lookout for Vision en los siguientes dispositivos, arquitecturas de chips y sistemas operativos.

Dispositivos

Dispositivo	Sistema operativo	Arquitectura	Acelerador	Opciones del compilador
jetson_xavier (NVIDIA® Jetson AGX Xavier)	Linux	aarch64	NVIDIA	{"gpu-code": "sm_72", "trt-ver": "7.1.3", "cuda-ver": "10.2"} {"gpu-code": "sm_72", "trt-ver": "8.2.1", "cuda-ver": "10.2"}
g4dn.xlarge (instancias EC2 (G4) con GPU NVIDIA T4 Tensor Core)	Linux	X86_64/X86-64	NVIDIA	{"gpu-code": "sm_75", "trt-ver": "7.1.3", "cuda-ver": "10.2"}
g5.xlarge (instancias EC2 (G5) con GPU NVIDIA A10G Tensor Core)	Linux	X86_64/X86-64	NVIDIA	{"gpu-code": "sm_80", "trt-ver": "8.2.0", "cuda-ver": "11.2"}
c5.2xlarge (Instancias de Amazon EC2 C5)	Linux	X86_64/X86-64	CPU	{"mcpu": "core-avx2"}

Memoria y almacenamiento del dispositivo principal

Para ejecutar un único modelo y el agente Amazon Lookout for Vision Edge, el dispositivo principal tiene los siguientes requisitos de memoria y almacenamiento. Es posible que necesite más memoria y almacenamiento para el componente de la aplicación cliente.

• Almacenamiento: 1,5 GB como mínimo.

• Memoria: al menos 6 GB para un modelo en ejecución.

Software necesario

Un dispositivo central requiere el siguiente software.

Dispositivos Jetson

Si su dispositivo principal es un dispositivo Jetson, necesitará instalar el siguiente software en el dispositivo principal.

Software	Versiones compatibles
El SDK de Jetpack	4.4 a 4.6.1
Python y entorno virtual Python para Lookout for Vision Edge Agent versión 1.x	3.8 o 3.9

Hardware de X86;

Si su dispositivo principal utiliza hardware x86, necesitará tener instalado el siguiente software en el dispositivo principal.

Inferencia con CPU

Software	Versiones compatibles
Python y entorno virtual Python para Lookout for Vision Edge Agent versión 1.x	3.8 o 3.9

Inferencias aceleradas por GPU

Las versiones del software varían según la microarquitectura de la GPU NVIDIA que utilices.

GPU NVIDIA con microarquitectura anterior a Ampere (la capacidad de cómputo es inferior a 8.0)

Software necesario para una GPU NVIDIA con una microarquitectura anterior a Ampere (capacidad de procesamiento inferior a 8.0). gpu-codeDebe ser inferior a sm_80.

Software	Versiones compatibles
nvidia-cuda	10.2
NVIDIA TensorRT	Al menos 7.1.3 y menos de 8.0.0
Python y entorno virtual Python para Lookout for Vision Edge Agent versión 1.x	3.8 o 3.9

GPU NVIDIA con microarquitectura Ampere (capacidad de cómputo 8.0)

Software necesario para una GPU NVIDIA con la microarquitectura Ampere (la capacidad de cálculo es de 8.0). El gpu-code debe ser sm_80.

Software	Versiones compatibles
nvidia-cuda	11.2
NVIDIA TensorRT	8.2.0
Python y entorno virtual Python para Lookout for Vision Edge Agent versión 1.x	3.8 o 3.9