最佳化 GPU 設定 - Amazon Elastic Compute Cloud

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

最佳化 GPU 設定

您可以執行數種 GPU 設定最佳化,讓 NVIDIA GPU執行個體發揮最佳效能。透過其中一些執行個體類型,NVIDIA 驅動程式會使用 Autoboost 功能,而這會改變 GPU 時脈速度。您可以停用 Autoboost 並將 GPU 時脈速度設為頻率上限,即可持續發揮 GPU 執行個體的最大效能。

下列步驟適用於優化 Windows 執行個體上的 GPU 設定。對於 Linux 執行個體,請參閱 Amazon EC2 Linux 執行個體使用者指南中的優化 GPU 設定

最佳化 GPU 設定
  1. 開啟視 PowerShell 窗並導覽至 NVIDIA 安裝資料夾。

    cd "C:\Windows\System32\DriverStore\FileRepository\nv_dispswi.inf_*\"
  2. [僅限 G2、G3 和 P2 執行個體] 停用執行個體上所有 GPU 的 Autoboost 功能。

    .\nvidia-smi --auto-boost-default=0
  3. 將所有 GPU 時脈速度設為頻率上限。使用下列命令中指定的記憶體和圖形時脈速度。

    某些版本的 NVIDIA 驅動程式不支援設定應用程式時脈速度,會顯示錯誤 "Setting applications clocks is not supported for GPU...",您可以忽略此錯誤。

    • G3 執行個體:

      .\nvidia-smi -ac "2505,1177"
    • G4dn 執行個體:

      .\nvidia-smi -ac "5001,1590"
    • G5 執行個體:

      .\nvidia-smi -ac "6250,1710"
    • P2 執行個體:

      .\nvidia-smi -ac "2505,875"
    • P3 和 P3dn 執行個體:

      .\nvidia-smi -ac "877,1530"