最佳化 GPU 設定
您可以執行數種 GPU 設定最佳化,讓 NVIDIA GPU執行個體發揮最佳效能。透過其中一些執行個體類型,NVIDIA 驅動程式會使用 Autoboost 功能,而這會改變 GPU 時脈速度。您可以停用 Autoboost 並將 GPU 時脈速度設為頻率上限,即可持續發揮 GPU 執行個體的最大效能。下列程序將助您設定 GPU 以保有持續性、停用 Autoboost 功能 (如有需要),並將 GPU 時脈速度設為頻率上限。
下列步驟適用於優化 Linux 執行個體上的 GPU 設定。對於 Windows 執行個體,請參閱 Amazon EC2 Windows 執行個體使用者指南中的優化 GPU 設定。
最佳化 GPU 設定
-
設定 GPU 以保有持續性。此命令可能需要幾分鐘的執行時間。
[ec2-user ~]$
sudo nvidia-persistenced
-
[僅限 G2、G3 和 P2 執行個體] 停用執行個體上所有 GPU 的 Autoboost 功能。
[ec2-user ~]$
sudo nvidia-smi --auto-boost-default=0
-
將所有 GPU 時脈速度設為頻率上限。使用下列命令中指定的記憶體和圖形時脈速度。
某些版本的 NVIDIA 驅動程式不支援設定應用程式時脈速度,會顯示錯誤
"Setting applications clocks is not supported for GPU..."
,您可以忽略此錯誤。-
G3 執行個體:
[ec2-user ~]$
sudo nvidia-smi -ac
2505,1177
-
G4dn 執行個體:
[ec2-user ~]$
sudo nvidia-smi -ac
5001,1590
-
G5 執行個體:
[ec2-user ~]$
sudo nvidia-smi -ac
6250,1710
-
P2 執行個體:
[ec2-user ~]$
sudo nvidia-smi -ac
2505,875
-
P3 和 P3dn 執行個體:
[ec2-user ~]$
sudo nvidia-smi -ac
877,1530
-
P4d 執行個體:
[ec2-user ~]$
sudo nvidia-smi -ac
1215,1410
-
P4de 執行個體:
[ec2-user ~]$
sudo nvidia-smi -ac
1593,1410
-
P5 執行個體:
[ec2-user ~]$
sudo nvidia-smi -ac
2619,1980
-