GPU 設定の最適化

G3、G4、P2、P3、および P3dn の各インスタンスで最大のパフォーマンスを実現するために GPU 設定を最適化する方法がいくつかあります。デフォルトでは、NVIDIA ドライバーは自動ブースト機能を使用しますが、これは GPU クロック速度に左右されます。自動ブースト機能を無効にし、GPU クロック速度を最大周波数に設定することで、安定して GPU インスタンスで最大パフォーマンスを実現できます。 次の手順では、GPU 設定を永続的に設定し、自動ブースト機能を無効化して、GPU クロック速度を最大周波数に設定します。

GPU 設定を最適化するには

1. GPU 設定を永続的になるように設定します。このコマンドの実行には数分かかることがあります。

   [ec2-user ~]$ sudo nvidia-persistenced

2. インスタンスのすべての GPU で自動ブースト機能を無効にします。

   [ec2-user ~]$ sudo nvidia-smi --auto-boost-default=0

   注記

   P3、P3dn、および G4 の各インスタンスの GPU は autoboost をサポートしていません。

3. すべての GPU クロック速度を最大周波数に設定します。次のコマンドで指定されるメモリとグラフィッククロック速度を使用します。

   注記

   一部のバージョンの NVIDIA ドライバーでは、アプリケーションのクロック速度を設定できないため、"Setting applications clocks is not supported for GPU …" エラーがスローされますが、無視できます。

   • G3 インスタンス:

     [ec2-user ~]$ sudo nvidia-smi -ac 2505,1177

   • G4 インスタンス:

     [ec2-user ~]$ sudo nvidia-smi -ac 5001,1590

   • P2 インスタンス:

     [ec2-user ~]$ sudo nvidia-smi -ac 2505,875

   • P3 および P3dn インスタンス:

     [ec2-user ~]$ sudo nvidia-smi -ac 877,1530