Optimisation des paramètres GPU sur les instances Amazon EC2 - Amazon Elastic Compute Cloud

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Optimisation des paramètres GPU sur les instances Amazon EC2

Il existe plusieurs optimisations de configuration GPU que vous pouvez effectuer pour obtenir les meilleures performances sur les instances NVIDIA GPU. Avec certains de ces types d’instance, le pilote NVIDIA utilise une fonction autoboost, qui modifier les fréquences d’horloge GPU. En désactivant la fonction autoboost et en paramétrant les fréquences d'horloge GPU à leur fréquence maximale, vous pouvez obtenir les performances maximales de vos instances GPU.

  1. Configurez les paramètres GPU de sorte qu’ils soient permanents. L’exécution de cette commande peut prendre plusieurs minutes.

    [ec2-user ~]$ sudo nvidia-persistenced

  2. [Instances G3 et P2 uniquement] Désactivez la fonction Autoboost pour tous les GPU de l'instance.

    [ec2-user ~]$ sudo nvidia-smi --auto-boost-default=0

  3. Définissez toutes les vitesses d’horloge GPU à leur fréquence maximale. Utilisez les vitesses d’horloge de mémoire et de graphiques spécifiées dans les commandes suivantes.

    Certaines versions du pilote NVIDIA ne prennent pas en charge le réglage de la fréquence d’horloge de l’application et affichent l’erreur "Setting applications clocks is not supported for GPU...", que vous pouvez ignorer.

    • instances G3 :

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,1177

    • instances G4dn :

      [ec2-user ~]$ sudo nvidia-smi -ac 5001,1590

    • Instances G5 :

      [ec2-user ~]$ sudo nvidia-smi -ac 6250,1710

    • Instances G6 et Gr6 :

      [ec2-user ~]$ sudo nvidia-smi -ac 6251,2040

    • instances P2 :

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,875

    • instances P3 et P3dn :

      [ec2-user ~]$ sudo nvidia-smi -ac 877,1530

    • instances P4d :

      [ec2-user ~]$ sudo nvidia-smi -ac 1215,1410

    • Instances P4de :

      [ec2-user ~]$ sudo nvidia-smi -ac 1593,1410

    • Instances P5 :

      [ec2-user ~]$ sudo nvidia-smi -ac 2619,1980

  1. Ouvrez une PowerShell fenêtre et accédez au dossier d'installation NVIDIA.

    cd "C:\Windows\System32\DriverStore\FileRepository\nv_dispswi.inf_*\"

  2. [Instances G3 et P2 uniquement] Désactivez la fonction Autoboost pour tous les GPU de l'instance.

    .\nvidia-smi --auto-boost-default=0

  3. Définissez toutes les vitesses d’horloge GPU à leur fréquence maximale. Utilisez les vitesses d’horloge de mémoire et de graphiques spécifiées dans les commandes suivantes.

    Certaines versions du pilote NVIDIA ne prennent pas en charge le réglage de la fréquence d’horloge de l’application et affichent l’erreur "Setting applications clocks is not supported for GPU...", que vous pouvez ignorer.

    • instances G3 :

      .\nvidia-smi -ac "2505,1177"

    • instances G4dn :

      .\nvidia-smi -ac "5001,1590"

    • Instances G5 :

      .\nvidia-smi -ac "6250,1710"

    • Instances G6 et Gr6 :

      .\nvidia-smi -ac "6251,2040"

    • instances P2 :

      .\nvidia-smi -ac "2505,875"

    • instances P3 et P3dn :

      .\nvidia-smi -ac "877,1530"

    • instances P4d :

      [ec2-user ~]$ sudo nvidia-smi -ac 1215,1410

    • Instances P4de :

      [ec2-user ~]$ sudo nvidia-smi -ac 1593,1410

    • Instances P5 :

      [ec2-user ~]$ sudo nvidia-smi -ac 2619,1980