AWS IoT Greengrass Version 2 코어 디바이스 요구 사항 - Amazon Lookout for Vision

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

AWS IoT Greengrass Version 2 코어 디바이스 요구 사항

Amazon Lookout for Vision 모델을 AWS IoT Greengrass Version 2 코어 디바이스에서 사용하려면 모델에 코어 디바이스에 대한 다양한 요구 사항이 있어야 합니다.

테스트를 거친 디바이스, 칩 아키텍처 및 운영 체제

Amazon Lookout for Vision은 다음 하드웨어에서 작동할 것으로 예상됩니다.

  • CPU 아키텍처입니다.

    • X86_64 (x86 명령어 세트의 64비트 버전)

    • Arch64 (ARMv8 64비트 CPU)

  • (GPU 가속 추론 전용) 충분한 메모리 용량을 갖춘 NVIDIA GPU 가속기 (실행 중인 모델의 경우 최소 6.0GB)

Amazon Lookout for Vision 팀은 다음 디바이스, 칩 아키텍처 및 운영 체제에서 Lookout for Vision 모델을 테스트했습니다.

디바이스

디바이스 운영 체제 아키텍처 액셀러레이터 컴파일러 옵션

jetson_xavier (NVIDIA® Jetson AGX Xavier)

Linux

Aarch64

NVIDIA

{"gpu-code": "sm_72", "trt-ver": "7.1.3", "cuda-ver": "10.2"}

{"gpu-code": "sm_72", "trt-ver": "8.2.1", "cuda-ver": "10.2"}

g4dn.xlarge (NVIDIA T4 Tensor Core GPU가 탑재된 EC2 인스턴스 (G4))

Linux

X86_64/X86-64

NVIDIA

{"gpu-code": "sm_75", "trt-ver": "7.1.3", "cuda-ver": "10.2"}

g5.xlarge (NVIDIA T4 Tensor Core GPU가 탑재된 EC2 인스턴스 (G5))

Linux

X86_64/X86-64

NVIDIA

{"gpu-code": "sm_80", "trt-ver": "8.2.0", "cuda-ver": "11.2"}

c5.2xlarge (Amazon EC2 C5 인스턴스)

Linux

X86_64/X86-64

CPU

{"mcpu": "core-avx2"}

코어 디바이스 메모리 및 스토리지

단일 모델과 Amazon Lookout for Vision 엣지 에이전트를 실행하려면 코어 디바이스에 다음과 같은 메모리 및 스토리지 요구 사항이 있어야 합니다. 클라이언트 애플리케이션 구성 요소에 더 많은 메모리와 스토리지가 필요할 수 있습니다.

  • 스토리지 — 최소 1.5GB

  • 메모리 - 실행 중인 모델의 경우 최소 6.0GB

필수 소프트웨어

코어 디바이스에는 다음 소프트웨어가 필요합니다.

Jetson 디바이스

코어 디바이스가 Jetson 디바이스인 경우 코어 디바이스에 다음 소프트웨어를 설치해야 합니다.

소프트웨어 지원되는 버전

Jetpack SDK

4.4에서 4.6.1

Lookout for Vision Edge Agent 버전 1.x를 위한 Python 및 Python 가상 환경

3.8 또는 3.9

X86 하드웨어

코어 디바이스에서 x86 하드웨어를 사용하는 경우 코어 디바이스에 다음 소프트웨어를 설치해야 합니다.

CPU 추론

소프트웨어 지원되는 버전

Lookout for Vision Edge Agent 버전 1.x를 위한 Python 및 Python 가상 환경

3.8 또는 3.9

GPU 가속 추론

소프트웨어 버전은 사용하는 NVIDIA GPU의 마이크로아키텍처에 따라 달라집니다.

Ampere 이전의 마이크로아키텍처를 지원하는 NVIDIA GPU (컴퓨팅 성능은 8.0 미만)

Ampere 이전의 마이크로아키텍처 (컴퓨팅 성능이 8.0 미만) 를 갖춘 NVIDIA GPU에 필요한 소프트웨어입니다. gpu-code값은 sm_80보다 작아야 합니다.

소프트웨어 지원되는 버전

NVIDIA CUDA

10.2

NVIDIA TensorRT

7.1.3 이상 8.0.0 미만

Lookout for Vision Edge Agent 버전 1.x를 위한 Python 및 Python 가상 환경

3.8 또는 3.9

Ampere 마이크로아키텍처를 지원하는 NVIDIA GPU (컴퓨팅 성능 8.0)

Ampere 마이크로아키텍처 (컴퓨팅 성능은 8.0)를 지원하는 NVIDIA GPU에 필요한 소프트웨어입니다. gpu-codesm_80이어야 합니다.

소프트웨어 지원되는 버전

NVIDIA CUDA

11.2

NVIDIA TensorRT

8.2.0

Lookout for Vision Edge Agent 버전 1.x를 위한 Python 및 Python 가상 환경

3.8 또는 3.9