优化 GPU 设置
您可以执行几种 GPU 设置优化,以便在 G3、G4、P2、P3 和 P3dn 实例上实现最佳性能。默认情况下,NVIDIA 驱动程序使用 autoboost 功能,这会改变 GPU时钟速度。通过禁用 autoboost 功能并将 GPU 时钟速度设置为其最大频率,您可以始终实现 GPU 实例的最大性能。 以下过程可帮助您将 GPU 设置配置为永久,禁用 autoboost 功能,并将 GPU 时钟速度设置为其最大频率。
优化 GPU 设置
-
将 GPU 设置配置为永久。该命令可能需要几分钟才能运行完毕。
[ec2-user ~]$
sudo nvidia-persistenced
-
禁用实例上所有 GPU 的 autoboost 功能。
[ec2-user ~]$
sudo nvidia-smi --auto-boost-default=0
注意 P3、P3dn 和 G4 实例上的 GPU 不支持 autoboost。
-
将所有 GPU 时钟速度设置为其最大频率。使用以下命令中指定的内存和图形时钟速度。
注意 NVIDIA 驱动程序的某些版本不允许设置应用程序时钟速度,并且将引发
"Setting applications clocks is not supported for GPU …"
错误 (可忽略)。-
G3 实例:
[ec2-user ~]$
sudo nvidia-smi -ac
2505,1177
-
G4 实例:
[ec2-user ~]$
sudo nvidia-smi -ac
5001,1590
-
P2 实例:
[ec2-user ~]$
sudo nvidia-smi -ac
2505,875
-
P3 和 P3dn 实例:
[ec2-user ~]$
sudo nvidia-smi -ac
877,1530
-