GPU 設定の最適化 - Amazon Elastic Compute Cloud

GPU 設定の最適化

NVIDIA GPU インスタンスで最大のパフォーマンスを実現するためには、いくつかの最適化方法の中から GPU 設定を選択できます。これらのインスタンスタイプの一部では、NVIDIA ドライバーは自動ブースト機能を使用しますが、これは GPU クロック速度に左右されます。自動ブーストを無効にし、GPU クロックを最大周波数に設定することで、GPU インスタンスのパフォーマンスを一貫して最大に維持することができます。次の手順では、GPU 設定を永続的に設定し、必要に応じて自動ブースト機能を無効化して、GPU クロック速度を最大周波数に設定します。

GPU 設定を最適化するには

  1. GPU 設定を永続的になるように設定します。このコマンドの実行には数分かかることがあります。

    [ec2-user ~]$ sudo nvidia-persistenced
  2. [G2、G3、および P2 インスタンスのみ] インスタンス上のすべての GPU の自動ブースト機能を無効にします。

    [ec2-user ~]$ sudo nvidia-smi --auto-boost-default=0
  3. すべての GPU クロックを最大周波数に設定します。次のコマンドで指定されるメモリとグラフィッククロック速度を使用します。

    一部のバージョンの NVIDIA ドライバーでは、アプリケーションのクロック速度の設定をサポートしていないため、"Setting applications clocks is not supported for GPU..." エラーが表示されますが、無視できます。

    • G3 インスタンス:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,1177
    • G4dn インスタンス:

      [ec2-user ~]$ sudo nvidia-smi -ac 5001,1590
    • G5 インスタンス:

      [ec2-user ~]$ sudo nvidia-smi -ac 6250,1710
    • P2 インスタンス:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,875
    • P3 および P3dn インスタンス:

      [ec2-user ~]$ sudo nvidia-smi -ac 877,1530
    • P4d インスタンス:

      [ec2-user ~]$ sudo nvidia-smi -ac 1215,1410