优化 GPU 设置

您可以执行多个 GPU 设置优化，以实现 NVIDIA GPU 实例的最佳性能。对于其中一些实例类型，NVIDIA 驱动程序使用 autoboost 功能，该功能会改变 GPU 时钟速度。通过禁用 autoboost 并将 GPU 时钟速度设置为其最大频率，您可以始终获得 GPU 实例的最大性能。下面的程序可帮助您将 GPU 设置配置为永久，在需要时禁用 autoboost 功能，并将 GPU 时钟速度设置为其最大频率。

优化 GPU 设置

1. 将 GPU 设置配置为永久。该命令可能需要几分钟才能运行完毕。

   [ec2-user ~]$ sudo nvidia-persistenced

2. [仅限 G2、G3 和 P2 实例] 禁用实例上所有 GPU 的 autoboost 功能。

   [ec2-user ~]$ sudo nvidia-smi --auto-boost-default=0

3. 将所有 GPU 时钟速度设置为其最大频率。使用以下命令中指定的内存和图形时钟速度。

   有些版本的 NVIDIA 驱动程序不支持设置应用程序时钟速度，并会显示错误 "Setting applications clocks is not supported for GPU..."，您可以忽略该错误。

   • G3 实例：

     [ec2-user ~]$ sudo nvidia-smi -ac 2505,1177

   • G4dn 实例：

     [ec2-user ~]$ sudo nvidia-smi -ac 5001,1590

   • G5 实例：

     [ec2-user ~]$ sudo nvidia-smi -ac 6250,1710

   • P2 实例：

     [ec2-user ~]$ sudo nvidia-smi -ac 2505,875

   • P3 和 P3dn 实例：

     [ec2-user ~]$ sudo nvidia-smi -ac 877,1530

   • P4d 和 P4de 实例：

     [ec2-user ~]$ sudo nvidia-smi -ac 1215,1410