Optimiser les paramètres GPU - Amazon Elastic Compute Cloud

Optimiser les paramètres GPU

Il existe plusieurs optimisations de configuration GPU que vous pouvez effectuer pour obtenir les meilleures performances sur les instances NVIDIA GPU. Avec certains de ces types d'instance, le pilote NVIDIA utilise une fonction autoboost, qui modifier les fréquences d'horloge GPU. En désactivant la fonction autoboost et en définissant les fréquences d'horloge GPU à leur fréquence maximale, vous pouvez obtenir les performances maximales de vos instances GPU .

Pour optimiser les paramètres GPU
  1. Ouvrez une fenêtre PowerShell et accédez au dossier d'installation de NVIDIA.

    cd "C:\Windows\System32\DriverStore\FileRepository\nvgrid*\"
  2. [Instances G2, G3 et P2 uniquement] Désactivez la fonction autoboost pour tous les GPU de l'instance.

    .\nvidia-smi --auto-boost-default=0
  3. Définissez toutes les vitesses d'horloge GPU à leur fréquence maximale. Utilisez les vitesses d'horloge de mémoire et de graphiques spécifiées dans les commandes suivantes.

    Certaines versions du pilote NVIDIA ne prennent pas en charge le réglage de la fréquence d'horloge de l'application et affichent l'erreur "Setting applications clocks is not supported for GPU...", que vous pouvez ignorer.

    • instances G3 :

      .\nvidia-smi -ac "2505,1177"
    • instances G4dn :

      .\nvidia-smi -ac "5001,1590"
    • Instances G5 :

      .\nvidia-smi -ac "6250,1710"
    • instances P2 :

      .\nvidia-smi -ac "2505,875"
    • instances P3 et P3dn :

      .\nvidia-smi -ac "877,1530"