优化 GPU 设置 - Amazon Elastic Compute Cloud

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

优化 GPU 设置

您可以执行几种 GPU 设置优化,以便在 G3、G4dn、P2、P3 P3dn 实例上实现最佳性能。对于其中一些实例类型,NVIDIA 驱动程序使用 autoboost 功能,该功能会改变 GPU 时钟速度。通过禁用 autoboost 并将 GPU 时钟速度设置为其最大频率,您可以始终获得 GPU 实例的最大性能。 下面的程序可帮助您将 GPU 设置配置为永久,在需要时禁用 autoboost 功能,并将 GPU 时钟速度设置为其最大频率。

优化 GPU 设置

  1. 将 GPU 设置配置为永久。该命令可能需要几分钟才能运行完毕。

    [ec2-user ~]$ sudo nvidia-persistenced
  2. G2、G3 和 P2 实例:禁用实例上所有 GPU 的 autoboost 功能。

    注意

    G4dn、P3 P3dn 实例上的 GPU 不支持 autoboost。

    [ec2-user ~]$ sudo nvidia-smi --auto-boost-default=0
  3. 将所有 GPU 时钟速度设置为其最大频率。使用以下命令中指定的内存和图形时钟速度。

    有些版本的 NVIDIA 驱动程序不支持设置应用程序时钟速度,并会显示错误 "Setting applications clocks is not supported for GPU...",您可以忽略该错误。

    • G3 实例:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,1177
    • G4dn 实例:

      [ec2-user ~]$ sudo nvidia-smi -ac 5001,1590
    • P2 实例:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,875
    • P3 和 P3dn 实例:

      [ec2-user ~]$ sudo nvidia-smi -ac 877,1530