本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
在 Amazon EC2 執行個體最佳化 GPU 設定
您可以執行數種 GPU 設定最佳化,讓 NVIDIA GPU執行個體發揮最佳效能。透過其中一些執行個體類型,NVIDIA 驅動程式會使用 Autoboost 功能,而這會改變 GPU 時脈速度。您可以停用 Autoboost 並將 GPU 時脈速度設為頻率上限,即可持續發揮 GPU 執行個體的最大效能。
-
設定 GPU 以保有持續性。此命令可能需要幾分鐘的執行時間。
[ec2-user ~]$sudo nvidia-persistenced -
[僅限 G3 和 P2 執行個體] 停用執行個體上所有 GPU 的 Autoboost 功能。
[ec2-user ~]$sudo nvidia-smi --auto-boost-default=0 -
將所有 GPU 時脈速度設為頻率上限。使用下列命令中指定的記憶體和圖形時脈速度。
某些版本的 NVIDIA 驅動程式不支援設定應用程式時脈速度,會顯示錯誤
"Setting applications clocks is not supported for GPU...",您可以忽略此錯誤。-
G3 執行個體:
[ec2-user ~]$sudo nvidia-smi -ac2505,1177 -
G4dn 執行個體:
[ec2-user ~]$sudo nvidia-smi -ac5001,1590 -
G5 執行個體:
[ec2-user ~]$sudo nvidia-smi -ac6250,1710 -
R6 和 Gr6 執行個體
[ec2-user ~]$sudo nvidia-smi -ac6251,2040 -
G6e 執行個體:
[ec2-user ~]$sudo nvidia-smi -ac9001,2520 -
P2 執行個體:
[ec2-user ~]$sudo nvidia-smi -ac2505,875 -
P3 和 P3dn 執行個體:
[ec2-user ~]$sudo nvidia-smi -ac877,1530 -
P4d 執行個體:
[ec2-user ~]$sudo nvidia-smi -ac1215,1410 -
P4de 執行個體:
[ec2-user ~]$sudo nvidia-smi -ac1593,1410 -
P5 執行個體:
[ec2-user ~]$sudo nvidia-smi -ac2619,1980
-
-
開啟 PowerShell 視窗,然後瀏覽至 NVIDIA 安裝資料夾。
PS C:\>cd "C:\Windows\System32\DriverStore\FileRepository\nvgridsw_aws.inf_*\" -
[僅限 G3 和 P2 執行個體] 停用執行個體上所有 GPU 的 Autoboost 功能。
PS C:\>.\nvidia-smi --auto-boost-default=0 -
將所有 GPU 時脈速度設為頻率上限。使用下列命令中指定的記憶體和圖形時脈速度。
某些版本的 NVIDIA 驅動程式不支援設定應用程式時脈速度,會顯示錯誤
"Setting applications clocks is not supported for GPU...",您可以忽略此錯誤。-
G3 執行個體:
PS C:\>.\nvidia-smi -ac "2505,1177" -
G4dn 執行個體:
PS C:\>.\nvidia-smi -ac "5001,1590" -
G5 執行個體:
PS C:\>.\nvidia-smi -ac "6250,1710" -
R6 和 Gr6 執行個體
PS C:\>.\nvidia-smi -ac "6251,2040" -
G6e 執行個體:
PS C:\>.\nvidia-smi -ac "9001,2520" -
P2 執行個體:
PS C:\>.\nvidia-smi -ac "2505,875" -
P3 和 P3dn 執行個體:
PS C:\>.\nvidia-smi -ac "877,1530"
-