Optimieren Sie die GPU-Einstellungen auf Amazon EC2 EC2-Instances - Amazon Elastic Compute Cloud

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Optimieren Sie die GPU-Einstellungen auf Amazon EC2 EC2-Instances

Sie können verschiedene Optimierungen an den GPU-Einstellungen vornehmen, um die bestmögliche Leistung in Ihren NVIDIA-GPU-Instances zu erzielen. Bei einigen dieser Instance-Typen verwendet der NVIDIA-Treiber ein Autoboost-Feature, das die GPU-Taktfrequenzen variiert. Wenn Sie die Autoboost-Funktion deaktivieren und die GPU-Taktfrequenzen auf den maximalen Wert einstellen, können Sie in Ihren GPU-Instances permanent die maximale Leistung abrufen.

  1. Konfigurieren Sie die GPU für persistente Leistung. Die Ausführung dieses Befehls kann mehrere Minuten in Anspruch nehmen.

    [ec2-user ~]$ sudo nvidia-persistenced

  2. [Nur G3- und P2-Instances] Deaktivieren Sie die Autoboost-Funktion für alle GPUs auf der Instanz.

    [ec2-user ~]$ sudo nvidia-smi --auto-boost-default=0

  3. Setzen Sie alle GPU-Taktfrequenzen auf den Maximalwert. Verwenden Sie die in den folgenden befehlen angegebenen Speicher- und Grafik-Taktraten.

    Einige Versionen des NVIDIA-Treibers unterstützen keine Einstellung der Taktrate der Anwendung und werfen den "Setting applications clocks is not supported for GPU..."-Fehler auf, den Sie ignorieren können.

    • G3-Instances:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,1177

    • G4dn-Instances:

      [ec2-user ~]$ sudo nvidia-smi -ac 5001,1590

    • G5-Instances:

      [ec2-user ~]$ sudo nvidia-smi -ac 6250,1710

    • G6- und Gr6-Instanzen:

      [ec2-user ~]$ sudo nvidia-smi -ac 6251,2040

    • P2-Instances:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,875

    • P3- und P3dn-Instances:

      [ec2-user ~]$ sudo nvidia-smi -ac 877,1530

    • P4d-Instances:

      [ec2-user ~]$ sudo nvidia-smi -ac 1215,1410

    • P4de-Instances:

      [ec2-user ~]$ sudo nvidia-smi -ac 1593,1410

    • P5-Instances:

      [ec2-user ~]$ sudo nvidia-smi -ac 2619,1980

  1. Öffnen Sie ein PowerShell Fenster und navigieren Sie zum NVIDIA-Installationsordner.

    cd "C:\Windows\System32\DriverStore\FileRepository\nv_dispswi.inf_*\"

  2. [Nur G3- und P2-Instanzen] Deaktivieren Sie die Autoboost-Funktion für alle GPUs auf der Instanz.

    .\nvidia-smi --auto-boost-default=0

  3. Setzen Sie alle GPU-Taktfrequenzen auf den Maximalwert. Verwenden Sie die in den folgenden befehlen angegebenen Speicher- und Grafik-Taktraten.

    Einige Versionen des NVIDIA-Treibers unterstützen keine Einstellung der Taktrate der Anwendung und werfen den "Setting applications clocks is not supported for GPU..."-Fehler auf, den Sie ignorieren können.

    • G3-Instances:

      .\nvidia-smi -ac "2505,1177"

    • G4dn-Instances:

      .\nvidia-smi -ac "5001,1590"

    • G5-Instances:

      .\nvidia-smi -ac "6250,1710"

    • G6- und Gr6-Instanzen:

      .\nvidia-smi -ac "6251,2040"

    • P2-Instances:

      .\nvidia-smi -ac "2505,875"

    • P3- und P3dn-Instances:

      .\nvidia-smi -ac "877,1530"

    • P4d-Instances:

      [ec2-user ~]$ sudo nvidia-smi -ac 1215,1410

    • P4de-Instances:

      [ec2-user ~]$ sudo nvidia-smi -ac 1593,1410

    • P5-Instances:

      [ec2-user ~]$ sudo nvidia-smi -ac 2619,1980