AWS IoT Greengrass Version 2persyaratan perangkat inti

Untuk menggunakan model Amazon Lookout for Vision pada AWS IoT Greengrass Version 2 perangkat inti, model Anda memiliki berbagai persyaratan perangkat inti.

Perangkat yang diuji, arsitektur chip, dan sistem operasi

Kami berharap Amazon Lookout for Vision bekerja pada perangkat keras berikut:

• Arsitektur CPU

  • X86_64 (versi 64-bit dari set instruksi x86)

  • Aarch64 (CPU ARMv8 64-bit)

• (Inferensi dipercepat GPU saja) Akselerator GPU NVIDIA dengan kapasitas memori yang cukup (Setidaknya 6,0 GB untuk model yang sedang berjalan).

Tim Amazon Lookout for Vision telah menguji model Lookout for Vision pada perangkat, arsitektur chip, dan sistem operasi berikut.

Perangkat

Perangkat	Sistem operasi	Arsitektur	Akselerator	Opsi kompiler
jetson_xavier (NVIDIA® Jetson AGX Xavier)	Linux	Aarch64	NVIDIA	{"gpu-code": "sm_72", "trt-ver": "7.1.3", "cuda-ver": "10.2"} {"gpu-code": "sm_72", "trt-ver": "8.2.1", "cuda-ver": "10.2"}
g4dn.xlarge (Instans EC2 (G4) dengan GPU Inti Tensor NVIDIA T4)	Linux	X86_64/X86-64	NVIDIA	{"gpu-code": "sm_75", "trt-ver": "7.1.3", "cuda-ver": "10.2"}
g5.xlarge (Instans EC2 (G5) dengan GPU Tensor Core NVIDIA A10G)	Linux	X86_64/X86-64	NVIDIA	{"gpu-code": "sm_80", "trt-ver": "8.2.0", "cuda-ver": "11.2"}
c5.2xlarge (Instans Amazon EC2 C5)	Linux	X86_64/X86-64	CPU	{"mcpu": "core-avx2"}

Memori dan penyimpanan perangkat inti

Untuk menjalankan satu model dan Amazon Lookout for Vision Edge Agent, perangkat inti Anda memiliki persyaratan memori dan penyimpanan berikut. Anda mungkin memerlukan lebih banyak memori dan penyimpanan untuk komponen aplikasi klien Anda.

• Penyimpanan - Setidaknya 1,5 GB.

• Memori — Setidaknya 6.0 GB untuk model yang sedang berjalan.

Perangkat lunak yang dibutuhkan

Perangkat inti membutuhkan perangkat lunak berikut.

Perangkat Jetson

Jika perangkat inti Anda adalah perangkat Jetson, Anda memerlukan perangkat lunak berikut yang diinstal pada perangkat inti.

Perangkat lunak	Versi yang didukung
SDK Jetpack	4.4 hingga 4.6.1
Lingkungan virtual Python dan Python untuk Lookout for Vision Edge Agent versi 1.x	3.8 atau 3.9

Perangkat keras X86

Jika perangkat inti Anda menggunakan perangkat keras x86, Anda memerlukan perangkat lunak berikut yang diinstal pada perangkat inti.

Inferensi CPU

Perangkat lunak	Versi yang didukung
Lingkungan virtual Python dan Python untuk Lookout for Vision Edge Agent versi 1.x	3.8 atau 3.9

Inferensi dipercepat GPU

Versi perangkat lunak bervariasi tergantung pada mikroarsitektur GPU NVIDIA yang Anda gunakan.

GPU NVIDIA dengan mikroarsitektur sebelum Ampere (kemampuan komputasi kurang dari 8.0)

Perangkat lunak yang diperlukan untuk GPU NVIDIA dengan mikroarsitektur sebelum Ampere (kemampuan komputasi yang kurang dari 8.0). gpu-codeHarus kurang darism_80.

Perangkat lunak	Versi yang didukung
NVIDIA CUDA	10.2
TensorRT NVIDIA	Setidaknya 7.1.3 dan kurang dari 8.0.0
Lingkungan virtual Python dan Python untuk Lookout for Vision Edge Agent versi 1.x	3.8 atau 3.9

GPU NVIDIA dengan mikroarsitektur Ampere (kemampuan komputasi 8.0)

Perangkat lunak yang diperlukan untuk GPU NVIDIA dengan mikroarsitektur Ampere (kemampuan komputasi adalah 8.0). gpu-codeHarussm_80).

Perangkat lunak	Versi yang didukung
NVIDIA CUDA	11.2
TensorRT NVIDIA	8.2.0
Lingkungan virtual Python dan Python untuk Lookout for Vision Edge Agent versi 1.x	3.8 atau 3.9