AWS IoT Greengrass Version 2 コアデバイス要件

Amazon Lookout for Vision モデルを AWS IoT Greengrass Version 2 コアデバイスで使用する場合、そのモデルにはコアデバイスに関するさまざまな要件があります。

テスト済みのデバイス、チップアーキテクチャー、およびオペレーティングシステム

Amazon Lookout for Vision は以下のハードウェアで動作させることを想定しています:

• CPU アーキテクチャ

  • X86_64 (x86 命令セットの 64 ビットバージョン)

  • Aarch64 (ARMv8 64 ビット CPU)

• (GPU 高速化推論のみ) 十分なメモリ容量 (実行中のモデルにおいて 6.0 GB 以上) を備えた NVIDIA GPU アクセラレーター。

Amazon Lookout for Vision チームは、以下のデバイス、チップアーキテクチャ、およびオペレーティングシステムで Lookout for Vision モデルをテストしました。

デバイス

デバイス	オペレーティングシステム	アーキテクチャ	アクセラレーター	コンパイラオプション
jetson_xavier (NVIDIA® Jetson AGX Xavier)	Linux	Aarch64	NVIDIA	{"gpu-code": "sm_72", "trt-ver": "7.1.3", "cuda-ver": "10.2"} {"gpu-code": "sm_72", "trt-ver": "8.2.1", "cuda-ver": "10.2"}
g4dn.xlarge (NVIDIA T4 Tensor Core GPU を搭載した EC2 インスタンス (G4))	Linux	X86_64/X86-64	NVIDIA	{"gpu-code": "sm_75", "trt-ver": "7.1.3", "cuda-ver": "10.2"}
g5.xlarge (NVIDIA A10G Tensor コア GPU を搭載した EC2 インスタンス (G5))	Linux	X86_64/X86-64	NVIDIA	{"gpu-code": "sm_80", "trt-ver": "8.2.0", "cuda-ver": "11.2"}
c5.2xlarge (Amazon EC2 C5 インスタンス)	Linux	X86_64/X86-64	CPU	{"mcpu": "core-avx2"}

コアデバイスのメモリとストレージ

単一モデルと Amazon Lookout for Vision Edge Agent を実行する場合、コアデバイスにはメモリとストレージにおいて次の要件があります。クライアントアプリケーションコンポーネントには、より多くのメモリとストレージが必要になる場合があります。

• ストレージ — 1.5 GB 以上。

• メモリ — 実行中のモデルにおいて 6.0 GB 以上。

必要なソフトウェア

コアデバイスには以下のソフトウェアが必要です。

Jetson デバイス

コアデバイスが Jetson デバイスの場合は、以下のソフトウェアがコアデバイスにインストールされている必要があります。

ソフトウェア	サポートバージョン
Jetpack SDK	4.4 ～ 4.6.1
Lookout for Vision Edge Agent バージョン 1.x 用 Python および Python 仮想環境	3.8 または 3.9

X86 ハードウェア

コアデバイスが x86 ハードウェアを使用している場合は、次のソフトウェアがコアデバイスにインストールされている必要があります。

CPU 推論

ソフトウェア	サポートバージョン
Lookout for Vision Edge Agent バージョン 1.x 用 Python および Python 仮想環境	3.8 または 3.9

GPU 高速化推論

ソフトウェアバージョンは、使用している NVIDIA GPU のマイクロアーキテクチャによって異なります。

Ampere より前のマイクロアーキテクチャを採用した NVIDIA GPU (処理能力 8.0 未満)

Ampere より前のマイクロアーキテクチャの NVIDIA GPU (処理能力 8.0 未満) に必要なソフトウェア。gpu-code は sm_80 より小さくなければなりません。

ソフトウェア	サポートバージョン
NVIDIA CUDA	10.2
NVIDIA TensorRT	7.1.3 以上 8.0.0 未満
Lookout for Vision Edge Agent バージョン 1.x 用 Python および Python 仮想環境	3.8 または 3.9

Ampere マイクロアーキテクチャを搭載した NVIDIA GPU (処理能力 8.0)

Ampere マイクロアーキテクチャを搭載した NVIDIA GPU (処理能力 8.0) に必要なソフトウェア。gpu-code は sm_80 でなければなりません。

ソフトウェア	サポートバージョン
NVIDIA CUDA	11.2
NVIDIA TensorRT	8.2.0
Lookout for Vision Edge Agent バージョン 1.x 用 Python および Python 仮想環境	3.8 または 3.9