PERF02-BP02 利用可能なコンピューティング設定オプションについて理解する

高速コンピューティング インスタンスとは GPU ベースのインスタンスで、機械学習のトレーニング、推論、ハイパフォーマンスコンピューティング向けに最も高いパフォーマンスを提供します。

AWS Inferentia (Inf1) — Inf1 インスタンスは、機械学習推論アプリケーションをサポートするために構築されています。Inf1 インスタンスを使用すると、画像認識、音声認識、自然言語処理、パーソナライゼーション、不正行為検出といった大規模な機械学習推論アプリケーションを実行できます。モデルは、TensorFlow、PyTorch、MXNet などの一般的な機械学習フレームワークのいずれかで構築し、GPU インスタンスを使用してトレーニングできます。要件に合わせて機械学習モデルをトレーニングしたら、AWS Neuron を使用して Inf1 インスタンスにモデルをデプロイできます。 AWS Neuronは、Inferentia チップの機械学習推論パフォーマンスを最適化するコンパイラー、ランタイム、プロファイリングツールで構成される専用のソフトウェア開発キット (SDK) です。

フィールドプログラマブルゲートアレイ (FPGA) — FPGA を使用することで、最も要求の厳しいワークロードをカスタムハードウェアで加速して実行することができ、ワークロードを最適化することができます。サポートされる、C や Go などの一般的なプログラミング言語や、Verilog や VHDL などのハードウェア指向の言語を利用してアルゴリズムを定義できます。

予想されるコストと使用状況に合わせたカスタムの予算を設定するには、 Compute Optimizer を使用して、コンピューティング特性に最適なコンピューティング構成に関する機械学習の推奨事項を取得します。

コンピューティング最適化 インスタンスは、高性能プロセッサーを必要とするワークロードに適しています。 

メモリ最適化 インスタンスは大量のメモリを提供し、メモリを集中的に使用するワークロードをサポートします。

ストレージ最適化 インスタンスは、ローカルストレージへの高いシーケンシャルな読み書きアクセス (IOPS) を必要とするワークロード向けに設計されています。

ワークロードの CPU にはトラフィックの急上昇に対応するためのバーストが必要ですか。

汎用 インスタンスは、あらゆる特性においてバランスが取れており、さまざまなワークロードをサポートします。

「 パフォーマンスに関する質問 5、ベストプラクティス 2: 使用可能なネットワーク機能を評価する 」を確認し、パフォーマンスのニーズに合った適切なインスタンスのタイプおよびファミリーを特定します。

リザーブドインスタンス を使用すると、特定のアベイラビリティーゾーン内でキャパシティ予約が確定されます。リザーブドインスタンスは、特定のアベイラビリティゾーンでコンピューティング性能が必要な場合に最適です。 

専有ホスト は、既存のソフトウェアライセンスをサポートし、コンプライアンス要件への準拠を支援します。

オンデマンドインスタンス では、1 時間または 1 秒単位でコンピューティング性能を利用でき、長期的な契約は必要ありません。このインスタンスは、パフォーマンスのベースラインを超えるようなバースト的なニーズに適しています。

スポットインスタンス では、未使用のインスタンスキャパシティをステートレスでフォールトトレラントなワークロードに活用できます。 

メモリまたは CPU を調整するために、 タスクサイズ を使用します。

トラフィックパターンに合わせるために、 Auto Scaling の設定を使用します。

予想されるコストと使用状況に合わせたカスタムの予算を設定するには、 Compute Optimizer を使用して、コンピューティング特性に最適なコンピューティング構成に関する機械学習の推奨事項を取得します。

Compute Optimizer を使用するのに必要なメトリクスがない場合は、 AWS Lambda Power Tuning を使用して最適な設定を選択できます。

パフォーマンスニーズのメトリクスを満たすように Lambda メモリ を設定します。

タイムアウトの設定 を変更します。

パフォーマンス要件を満たすように 並行処理の設定 を行います。

イベントの最大経過時間と最大再試行回数を 非同期設定 で指定します。