优化 GPU 设置 - Amazon Elastic Compute Cloud

优化 GPU 设置

您可以执行几种 GPU 设置优化,以便在 G3、G4dn、P2、P3 P3dn 实例上实现最佳性能。对于其中一些实例类型,NVIDIA 驱动程序使用 autoboost 功能,该功能会改变 GPU 时钟速度。通过禁用 autoboost 并将 GPU 时钟速度设置为其最大频率,您可以始终获得 GPU 实例的最大性能。

优化 GPU 设置

  1. 打开 PowerShell 窗口并导航到 NVIDIA 安装文件夹。

    cd "C:\Program Files\NVIDIA Corporation\NVSMI"
  2. G2、G3 和 P2 实例:禁用实例上所有 GPU 的 autoboost 功能。

    注意

    G4dn、P3 P3dn 实例上的 GPU 不支持 autoboost。

    .\nvidia-smi --auto-boost-default=0
  3. 将所有 GPU 时钟速度设置为其最大频率。使用以下命令中指定的内存和图形时钟速度。

    有些版本的 NVIDIA 驱动程序不支持设置应用程序时钟速度,并会显示错误 "Setting applications clocks is not supported for GPU...",您可以忽略该错误。

    • G3 实例:

      .\nvidia-smi -ac "2505,1177"
    • G4dn 实例:

      .\nvidia-smi -ac "5001,1590"
    • P2 实例:

      .\nvidia-smi -ac "2505,875"
    • P3 和 P3dn 实例:

      .\nvidia-smi -ac "877,1530"