最佳化 GPU 設定 - Amazon Elastic Compute Cloud

最佳化 GPU 設定

您可以執行數種 GPU 設定最佳化,讓 NVIDIA GPU執行個體發揮最佳效能。透過其中一些執行個體類型,NVIDIA 驅動程式會使用 Autoboost 功能,而這會改變 GPU 時脈速度。您可以停用 Autoboost 並將 GPU 時脈速度設為頻率上限,即可持續發揮 GPU 執行個體的最大效能。

最佳化 GPU 設定

  1. 開啟 PowerShell 視窗,然後瀏覽至 NVIDIA 安裝資料夾。

    cd "C:\Program Files\NVIDIA Corporation\NVSMI"
  2. [僅限 G2、G3 和 P2 執行個體] 停用執行個體上所有 GPU 的 Autoboost 功能。

    .\nvidia-smi --auto-boost-default=0
  3. 將所有 GPU 時脈速度設為頻率上限。使用下列命令中指定的記憶體和圖形時脈速度。

    某些版本的 NVIDIA 驅動程式不支援設定應用程式時脈速度,會顯示錯誤 "Setting applications clocks is not supported for GPU...",您可以忽略此錯誤。

    • G3 執行個體:

      .\nvidia-smi -ac "2505,1177"
    • G4dn 執行個體:

      .\nvidia-smi -ac "5001,1590"
    • G5 執行個體:

      .\nvidia-smi -ac "6250,1710"
    • P2 執行個體:

      .\nvidia-smi -ac "2505,875"
    • P3 和 P3dn 執行個體:

      .\nvidia-smi -ac "877,1530"