Optimieren der GPU-Einstellungen - Amazon Elastic Compute Cloud

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Optimieren der GPU-Einstellungen

Sie können verschiedene Optimierungen an den GPU-Einstellungen vornehmen, um die bestmögliche Leistung mit G3-, G4dn-, P2-, P3- P3dn--Instances zu erzielen. Bei einigen dieser Instance-Typen verwendet der NVIDIA-Treiber eine Autoboost-Funktion, die die GPU-Taktfrequenzen variiert. Wenn Sie die Autoboost-Funktion deaktivieren und die GPU-Taktfrequenzen auf den maximalen Wert einstellen, können Sie in Ihren GPU-Instances permanent die maximale Leistung abrufen. In den folgenden Schritten wird beschrieben, wie Sie die GPU für persistente Leistung konfigurieren, indem Sie die Autoboost-Funktion bei Bedarf deaktivieren und die GPU-Taktfrequenzen auf den maximalen Wert einstellen.

So optimieren Sie die GPU-Einstellungen:

  1. Konfigurieren Sie die GPU für persistente Leistung. Die Ausführung dieses Befehls kann mehrere Minuten in Anspruch nehmen.

    [ec2-user ~]$ sudo nvidia-persistenced
  2. G2-, G3- und P2-Instances: Deaktivieren Sie die Autoboost-Funktion für alle GPUs auf der Instance.

    Anmerkung

    Die Autoboost-Funktion wird von GPUs in G4dn-, P3- P3dn--Instances nicht unterstützt.

    [ec2-user ~]$ sudo nvidia-smi --auto-boost-default=0
  3. Setzen Sie alle GPU-Taktfrequenzen auf den Maximalwert. Verwenden Sie die in den folgenden befehlen angegebenen Speicher- und Grafik-Taktraten.

    Einige Versionen des NVIDIA-Treibers unterstützen keine Einstellung der Taktrate der Anwendung und werfen den "Setting applications clocks is not supported for GPU..."-Fehler auf, den Sie ignorieren können.

    • G3-Instances:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,1177
    • G4dn-Instances:

      [ec2-user ~]$ sudo nvidia-smi -ac 5001,1590
    • P2-Instances:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,875
    • P3- und P3dn-Instances:

      [ec2-user ~]$ sudo nvidia-smi -ac 877,1530