Optimalkan GPU pengaturan pada EC2 instans Amazon - Amazon Elastic Compute Cloud

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Optimalkan GPU pengaturan pada EC2 instans Amazon

Ada beberapa pengoptimalan GPU pengaturan yang dapat Anda lakukan untuk mencapai kinerja terbaik pada NVIDIA GPU instance. Dengan beberapa jenis instance ini, NVIDIA driver menggunakan fitur autoboost, yang memvariasikan kecepatan GPU clock. Dengan menonaktifkan autoboost dan mengatur kecepatan GPU clock ke frekuensi maksimumnya, Anda dapat secara konsisten mencapai kinerja maksimum dengan instans Anda. GPU

  1. Konfigurasikan GPU pengaturan agar persisten. Perintah ini memerlukan waktu beberapa menit untuk dijalankan.

    [ec2-user ~]$ sudo nvidia-persistenced

  2. [Hanya instance G3, dan P2] Nonaktifkan fitur autoboost untuk semua GPUs yang ada di instance.

    [ec2-user ~]$ sudo nvidia-smi --auto-boost-default=0

  3. Atur semua kecepatan GPU clock ke frekuensi maksimumnya. Gunakan kecepatan clock memori dan grafis yang ditentukan dalam perintah berikut.

    Beberapa versi NVIDIA driver tidak mendukung pengaturan kecepatan jam aplikasi, dan menampilkan kesalahan"Setting applications clocks is not supported for GPU...", yang dapat Anda abaikan.

    • Instans G3:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,1177

    • Instans G4dn:

      [ec2-user ~]$ sudo nvidia-smi -ac 5001,1590

    • Instans G5:

      [ec2-user ~]$ sudo nvidia-smi -ac 6250,1710

    • Instans G6 dan Gr6:

      [ec2-user ~]$ sudo nvidia-smi -ac 6251,2040

    • Instans P2:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,875

    • Instans P3 dan P3dn:

      [ec2-user ~]$ sudo nvidia-smi -ac 877,1530

    • Instans P4d:

      [ec2-user ~]$ sudo nvidia-smi -ac 1215,1410

    • Instans P4de:

      [ec2-user ~]$ sudo nvidia-smi -ac 1593,1410

    • Instans P5:

      [ec2-user ~]$ sudo nvidia-smi -ac 2619,1980

  1. Buka PowerShell jendela dan arahkan ke folder NVIDIA instalasi.

    cd "C:\Windows\System32\DriverStore\FileRepository\nvgridsw_aws.inf_*\"

  2. [Hanya instance G3, dan P2] Nonaktifkan fitur autoboost untuk semua GPUs yang ada di instance.

    .\nvidia-smi --auto-boost-default=0

  3. Atur semua kecepatan GPU clock ke frekuensi maksimumnya. Gunakan kecepatan clock memori dan grafis yang ditentukan dalam perintah berikut.

    Beberapa versi NVIDIA driver tidak mendukung pengaturan kecepatan jam aplikasi, dan menampilkan kesalahan"Setting applications clocks is not supported for GPU...", yang dapat Anda abaikan.

    • Instans G3:

      .\nvidia-smi -ac "2505,1177"

    • Instans G4dn:

      .\nvidia-smi -ac "5001,1590"

    • Instans G5:

      .\nvidia-smi -ac "6250,1710"

    • Instans G6 dan Gr6:

      .\nvidia-smi -ac "6251,2040"

    • Instans P2:

      .\nvidia-smi -ac "2505,875"

    • Instans P3 dan P3dn:

      .\nvidia-smi -ac "877,1530"

    • Instans P4d:

      [ec2-user ~]$ sudo nvidia-smi -ac 1215,1410

    • Instans P4de:

      [ec2-user ~]$ sudo nvidia-smi -ac 1593,1410

    • Instans P5:

      [ec2-user ~]$ sudo nvidia-smi -ac 2619,1980