Optimalkan GPU pengaturan pada EC2 instans Amazon

Ada beberapa pengoptimalan GPU pengaturan yang dapat Anda lakukan untuk mencapai kinerja terbaik pada NVIDIA GPU instans. Dengan beberapa jenis instans ini, NVIDIA driver menggunakan fitur autoboost, yang memvariasikan kecepatan GPU clock. Dengan menonaktifkan autoboost dan menyetel kecepatan GPU clock ke frekuensi maksimumnya, Anda dapat secara konsisten mencapai kinerja maksimum dengan instans Anda. GPU

Optimalkan GPU pengaturan di Linux

1. Konfigurasi GPU pengaturan menjadi persisten. Perintah ini memerlukan waktu beberapa menit untuk dijalankan.

   [ec2-user ~]$ sudo nvidia-persistenced

2. [Instans G3, dan P2 saja] Nonaktifkan fitur autoboost untuk semua GPUs instans.

   [ec2-user ~]$ sudo nvidia-smi --auto-boost-default=0

3. Atur semua kecepatan GPU clock ke frekuensi maksimumnya. Gunakan kecepatan clock memori dan grafis yang ditentukan dalam perintah berikut.

   Beberapa versi NVIDIA driver tidak mendukung pengaturan kecepatan jam aplikasi, dan menampilkan kesalahan"Setting applications clocks is not supported for GPU...", yang dapat Anda abaikan.

   • Instans G3:

     [ec2-user ~]$ sudo nvidia-smi -ac 2505,1177

   • Instans G4dn:

     [ec2-user ~]$ sudo nvidia-smi -ac 5001,1590

   • Instans G5:

     [ec2-user ~]$ sudo nvidia-smi -ac 6250,1710

   • Instans G6 dan Gr6:

     [ec2-user ~]$ sudo nvidia-smi -ac 6251,2040

   • Contoh G6e:

     [ec2-user ~]$ sudo nvidia-smi -ac 9001,2520

   • Instans P2:

     [ec2-user ~]$ sudo nvidia-smi -ac 2505,875

   • Instans P3 dan P3dn:

     [ec2-user ~]$ sudo nvidia-smi -ac 877,1530

   • Instans P4d:

     [ec2-user ~]$ sudo nvidia-smi -ac 1215,1410

   • Instans P4de:

     [ec2-user ~]$ sudo nvidia-smi -ac 1593,1410

   • Instans P5:

     [ec2-user ~]$ sudo nvidia-smi -ac 2619,1980

Optimalkan GPU pengaturan pada Windows

1. Buka sebuah PowerShell jendela dan arahkan ke folder NVIDIA instalasi.

   PS C:\> cd "C:\Windows\System32\DriverStore\FileRepository\nvgridsw_aws.inf_*\"

2. [Instans G3, dan P2 saja] Nonaktifkan fitur autoboost untuk semua GPUs instans.

   PS C:\> .\nvidia-smi --auto-boost-default=0

3. Atur semua kecepatan GPU clock ke frekuensi maksimumnya. Gunakan kecepatan clock memori dan grafis yang ditentukan dalam perintah berikut.

   Beberapa versi NVIDIA driver tidak mendukung pengaturan kecepatan jam aplikasi, dan menampilkan kesalahan"Setting applications clocks is not supported for GPU...", yang dapat Anda abaikan.

   • Instans G3:

     PS C:\> .\nvidia-smi -ac "2505,1177"

   • Instans G4dn:

     PS C:\> .\nvidia-smi -ac "5001,1590"

   • Instans G5:

     PS C:\> .\nvidia-smi -ac "6250,1710"

   • Instans G6 dan Gr6:

     PS C:\> .\nvidia-smi -ac "6251,2040"

   • Contoh G6e:

     PS C:\> .\nvidia-smi -ac "9001,2520"

   • Instans P2:

     PS C:\> .\nvidia-smi -ac "2505,875"

   • Instans P3 dan P3dn:

     PS C:\> .\nvidia-smi -ac "877,1530"