Amazon EC2 インスタンスの GPU 設定を最適化する

NVIDIA GPU インスタンスで最大のパフォーマンスを実現するためには、いくつかの最適化方法の中から GPU 設定を選択できます。これらのインスタンスタイプの一部では、NVIDIA ドライバーは自動ブースト機能を使用しますが、これは GPU クロック速度に左右されます。自動ブーストを無効にし、GPU クロックを最大周波数に設定することで、GPU インスタンスのパフォーマンスを一貫して最大に維持することができます。

以下の手順は、Windows インスタンスの GPU 設定を最適化するためのものです。Linux インスタンスには、「Linux インスタンス用 Amazon EC2 ユーザーガイド」「」の「」を参照してください。

GPU 設定を最適化するには

1. PowerShell ウィンドウを開き、NVIDIA のインストールフォルダに移動します。

   cd "C:\Windows\System32\DriverStore\FileRepository\nv_dispswi.inf_*\"

2. [G3 および P2 インスタンスのみ] インスタンス上のすべての GPU の自動ブースト機能を無効にします。

   .\nvidia-smi --auto-boost-default=0

3. すべての GPU クロックを最大周波数に設定します。次のコマンドで指定されるメモリとグラフィッククロック速度を使用します。

   一部のバージョンの NVIDIA ドライバーでは、アプリケーションのクロック速度の設定をサポートしていないため、"Setting applications clocks is not supported for GPU..." エラーが表示されますが、無視できます。

   • G3 インスタンス:

     .\nvidia-smi -ac "2505,1177"

   • G4dn インスタンス:

     .\nvidia-smi -ac "5001,1590"

   • G5 インスタンス:

     .\nvidia-smi -ac "6250,1710"

   • P2 インスタンス:

     .\nvidia-smi -ac "2505,875"

   • P3 および P3dn インスタンス:

     .\nvidia-smi -ac "877,1530"