Dispositivos, arquiteturas de chip e sistemas compatíveis

SageMaker O Amazon Neo oferece suporte aos seguintes dispositivos, arquiteturas de chips e sistemas operacionais.

Dispositivos

Você pode selecionar um dispositivo usando a lista suspensa no console do Amazon SageMaker AI ou especificando o TargetDevice na configuração de saída da API. CreateCompilationJob

Você pode escolher entre um dos seguintes dispositivos de borda:

Lista de dispositivos	Sistema em um chip (SoC)	Sistema operacional	Arquitetura	Accelerator	Exemplo de opções do compilador
aisage	Nenhum	Linux	ARM64	Mali	Nenhum
amba_cv2	CV2	Arch Linux	ARM64	cvflow	Nenhum
amba_cv22	CV22	Arch Linux	ARM64	cvflow	Nenhum
amba_cv25	CV25	Arch Linux	ARM64	cvflow	Nenhum
coreml	Nenhum	iOS, macOS	Nenhum	Nenhum	{"class_labels": "imagenet_labels_1000.txt"}
imx8qm	NXP imx8	Linux	ARM64	Nenhum	Nenhum
imx8mplus	i.MX 8M Plus	Linux	ARM64	NPU	Nenhum
jacinto_tda4vm	TDA4VM	Linux	Arm	TDA4VM	Nenhum
jetson_nano	Nenhum	Linux	ARM64	NVIDIA	{'gpu-code': 'sm_53', 'trt-ver': '5.0.6', 'cuda-ver': '10.0'} Para TensorFlow2, {'JETPACK_VERSION': '4.6', 'gpu_code': 'sm_72'}
jetson_tx1	Nenhum	Linux	ARM64	NVIDIA	{'gpu-code': 'sm_53', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'}
jetson_tx2	Nenhum	Linux	ARM64	NVIDIA	{'gpu-code': 'sm_62', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'}
jetson_xavier	Nenhum	Linux	ARM64	NVIDIA	{'gpu-code': 'sm_72', 'trt-ver': '5.1.6', 'cuda-ver': '10.0'}
qcs605	Nenhum	Android	ARM64	Mali	{'ANDROID_PLATFORM': 27}
qcs603	Nenhum	Android	ARM64	Mali	{'ANDROID_PLATFORM': 27}
rasp3b	ARM A56	Linux	ARM_EABIHF	Nenhum	{'mattr': ['+neon']}
rasp4b	ARM A72	Nenhum	Nenhum	Nenhum	Nenhum
rk3288	Nenhum	Linux	ARM_EABIHF	Mali	Nenhum
rk3399	Nenhum	Linux	ARM64	Mali	Nenhum
sbe_c	Nenhum	Linux	x86_64	Nenhum	{'mcpu': 'core-avx2'}
sitara_am57x	AM57X	Linux	ARM64	EVE e/ou C66x DSP	Nenhum
x86_win32	Nenhum	Windows 10	X86_32	Nenhum	Nenhum
x86_win64	Nenhum	Windows 10	X86_32	Nenhum	Nenhum

Para obter mais informações sobre as opções do compilador de valores-chave JSON para cada dispositivo de destino, consulte o campo CompilerOptions no tipo de dados da API OutputConfig.

Arquiteturas de sistemas e chips

As tabelas de consulta a seguir fornecem informações sobre sistemas operacionais e arquiteturas disponíveis para trabalhos de compilação de modelos Neo.

Linux

Accelerator	X86_64	x86	ARM64	ARM_EABIHF	ARM_EABI
Sem acelerador (CPU)	Sim	Não	Sim	Sim	Sim
Nvidia GPU	Sim	Não	Sim	Não	Nº
Intel_Graphics	Sim	Não	Nº	Nº	Nº
ARM Mali	Nº	Nº	Sim	Sim	Sim

Android

Accelerator	X86_64	x86	ARM64	ARM_EABIHF	ARM_EABI
Sem acelerador (CPU)	Sim	Sim	Sim	Não	Sim
Nvidia GPU	Nº	Nº	Nº	Nº	Nº
Intel_Graphics	Sim	Sim	Não	Nº	Nº
ARM Mali	Nº	Nº	Sim	Não	Sim

Windows

Accelerator	X86_64	x86	ARM64	ARM_EABIHF	ARM_EABI
Sem acelerador (CPU)	Sim	Sim	Não	Nº	Nº