Ottimizza le impostazioni della GPU sulle istanze Amazon EC2 - Amazon Elastic Compute Cloud

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Ottimizza le impostazioni della GPU sulle istanze Amazon EC2

Esistono molte ottimizzazioni delle impostazioni GPU che puoi effettuare per raggiungere le prestazioni ottimali sulle istanze NVIDIA GPU. Con alcuni di questi tipi di istanze, il driver NVIDIA utilizza una funzione autoboost, che varia le velocità di clock della GPU. Disattivando l'autoboost e impostando le velocità di clock delle GPU sulla loro frequenza massima è possibile ottenere prestazioni ottimali costanti delle istanze GPU.

  1. Configurare le impostazioni GPU per renderle persistenti. L'esecuzione di questo comando può richiedere diversi minuti.

    [ec2-user ~]$ sudo nvidia-persistenced

  2. [Solo istanze G3 e P2] Disattiva la funzionalità di potenziamento automatico per tutte le GPU dell'istanza.

    [ec2-user ~]$ sudo nvidia-smi --auto-boost-default=0

  3. Impostare tutte le velocità di clock delle GPU sulla frequenza massima. Utilizzare le velocità di clock di memoria e grafica specificate nei comandi seguenti.

    Alcune versioni del driver NVIDIA non supportano l'impostazione della velocità di clock dell'applicazione e visualizzano l'errore "Setting applications clocks is not supported for GPU...", che può essere ignorato.

    • Istanze G3:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,1177

    • Istanze G4dn:

      [ec2-user ~]$ sudo nvidia-smi -ac 5001,1590

    • Istanze G5:

      [ec2-user ~]$ sudo nvidia-smi -ac 6250,1710

    • Istanze G6 e Gr6:

      [ec2-user ~]$ sudo nvidia-smi -ac 6251,2040

    • Istanze P2:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,875

    • Istanze P3 e P3dn:

      [ec2-user ~]$ sudo nvidia-smi -ac 877,1530

    • Istanze P4d:

      [ec2-user ~]$ sudo nvidia-smi -ac 1215,1410

    • Istanze P4de:

      [ec2-user ~]$ sudo nvidia-smi -ac 1593,1410

    • Istanze P5:

      [ec2-user ~]$ sudo nvidia-smi -ac 2619,1980

  1. Apri una PowerShell finestra e vai alla cartella di installazione di NVIDIA.

    cd "C:\Windows\System32\DriverStore\FileRepository\nv_dispswi.inf_*\"

  2. [Solo istanze G3 e P2] Disattiva la funzionalità di potenziamento automatico per tutte le GPU dell'istanza.

    .\nvidia-smi --auto-boost-default=0

  3. Impostare tutte le velocità di clock delle GPU sulla frequenza massima. Utilizzare le velocità di clock di memoria e grafica specificate nei comandi seguenti.

    Alcune versioni del driver NVIDIA non supportano l'impostazione della velocità di clock dell'applicazione e visualizzano l'errore "Setting applications clocks is not supported for GPU...", che può essere ignorato.

    • Istanze G3:

      .\nvidia-smi -ac "2505,1177"

    • Istanze G4dn:

      .\nvidia-smi -ac "5001,1590"

    • Istanze G5:

      .\nvidia-smi -ac "6250,1710"

    • Istanze G6 e Gr6:

      .\nvidia-smi -ac "6251,2040"

    • Istanze P2:

      .\nvidia-smi -ac "2505,875"

    • Istanze P3 e P3dn:

      .\nvidia-smi -ac "877,1530"

    • Istanze P4d:

      [ec2-user ~]$ sudo nvidia-smi -ac 1215,1410

    • Istanze P4de:

      [ec2-user ~]$ sudo nvidia-smi -ac 1593,1410

    • Istanze P5:

      [ec2-user ~]$ sudo nvidia-smi -ac 2619,1980