Optimisation des paramètres GPU sur les instances Amazon EC2

Il existe plusieurs optimisations de configuration GPU que vous pouvez effectuer pour obtenir les meilleures performances sur les instances NVIDIA GPU. Avec certains de ces types d’instance, le pilote NVIDIA utilise une fonction autoboost, qui modifier les fréquences d’horloge GPU. En désactivant la fonction autoboost et en définissant les fréquences d’horloge GPU à leur fréquence maximale, vous pouvez obtenir les performances maximales de vos instances GPU .

Les étapes suivantes concernent l’optimisation des paramètres du GPU sur une instance Windows . Pour les instances Linux , voir Optimiser les paramètres du GPU dans le Guide de l’utilisateur Amazon EC2 pour les instances Linux.

Pour optimiser les paramètres GPU

1. Ouvrez une PowerShell fenêtre et accédez au dossier d'installation NVIDIA.

   cd "C:\Windows\System32\DriverStore\FileRepository\nv_dispswi.inf_*\"

2. [Instances G3 et P2 uniquement] Désactivez la fonction Autoboost pour tous les GPU de l'instance.

   .\nvidia-smi --auto-boost-default=0

3. Définissez toutes les vitesses d’horloge GPU à leur fréquence maximale. Utilisez les vitesses d’horloge de mémoire et de graphiques spécifiées dans les commandes suivantes.

   Certaines versions du pilote NVIDIA ne prennent pas en charge le réglage de la fréquence d’horloge de l’application et affichent l’erreur "Setting applications clocks is not supported for GPU...", que vous pouvez ignorer.

   • instances G3 :

     .\nvidia-smi -ac "2505,1177"

   • instances G4dn :

     .\nvidia-smi -ac "5001,1590"

   • Instances G5 :

     .\nvidia-smi -ac "6250,1710"

   • instances P2 :

     .\nvidia-smi -ac "2505,875"

   • instances P3 et P3dn :

     .\nvidia-smi -ac "877,1530"