Périphériques, architectures de puces et systèmes pris en charge - Amazon SageMaker

Périphériques, architectures de puces et systèmes pris en charge

Amazon SageMaker Neo prend en charge les périphériques, les architectures de puces et les systèmes d'exploitation suivants.

Appareils

Vous pouvez sélectionner un périphérique dans la liste déroulante de la console Amazon SageMaker ou en spécifiant le paramètre TargetDevice dans la configuration de sortie de l'API CreateCompilationJob.

Vous pouvez choisir parmi l'un des appareils en périphérie suivants :

Liste des périphériques Système sur puce (SoC) Système d'exploitation Architecture Accélérateur Exemple d'options de compilateur
aisage Linux ARM64 Mali
amba_cv2 CV2 Arch Linux ARM64 cvflow
amba_cv22 CV22 Arch Linux ARM64 cvflow
amba_cv25 CV25 Arch Linux ARM64 cvflow
coreml macOS IVS {"class_labels": "imagenet_labels_1000.txt"}
DeepLens Intel Atom Linux X86_64 Intel Graphics
imx8qm NXP imx8 Linux ARM64
imx8mplus i.MX 8M Plus Linux ARM64 NPU
jacinto_tda4vm TDA4VM Linux ARM TDA4VM
jetson_nano Linux ARM64 NVIDIA {'gpu-code': 'sm_53', 'trt-ver': '5.0.6', 'cuda-ver': '10.0'}
jetson_tx1 Linux ARM64 NVIDIA {'gpu-code': 'sm_53', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'}
jetson_tx2 Linux ARM64 NVIDIA {'gpu-code': 'sm_62', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'}
jetson_xavier Linux ARM64 NVIDIA {'gpu-code': 'sm_72', 'trt-ver': '5.1.6', 'cuda-ver': '10.0'}
qcs605 Android ARM64 Mali {'ANDROID_PLATFORM': 27}
qcs603 Android ARM64 Mali {'ANDROID_PLATFORM': 27}
rasp3b ARM A56 Linux ARM_EABIHF {'mattr': ['+neon']}
rasp4 ARM A72
rk3288 Linux ARM_EABIHF Mali
rk3399 Linux ARM64 Mali
sbe_c Linux x86_64 {'mcpu': 'core-avx2'}
sitara_am57x AM57X Linux ARM64 EVE et/ou DSP C66x
x86_win32 Windows 10 X86_32
x86_win64 Windows 10 X86_32

Pour de plus amples informations sur les options du compilateur de valeur clé JSON pour chaque périphérique cible, veuillez consulter le champ CompilerOptions dans le type de données d'API OutputConfig.

Systèmes et architectures de puces

Les tables de consultation suivantes fournissent des informations sur les systèmes d'exploitation et les architectures disponibles pour les tâches de compilation de modèles Neo.

Linux
X86_64 X86 ARM64 ARM_EABIHF ARM_EABI
Pas d'accélérateur (CPU) X X X X
GPU Nvidia X X
Intel_Graphics X
ARM Mali X X X
Android
X86_64 X86 ARM64 ARM_EABIHF ARM_EABI
Pas d'accélérateur (CPU) X X X X
GPU Nvidia
Intel_Graphics X X
ARM Mali X X
Windows
X86_64 X86 ARM64 ARM_EABIHF ARM_EABI
Pas d'accélérateur (CPU) X X