Otimização das configurações de GPU em instâncias do Amazon EC2
Há várias otimizações de configuração de GPU que é possível executar para obter a melhor performance nas instâncias GPU NIVIDIA. Com alguns desses tipos de instância, o driver NVIDIA usa um recurso de autoboost, que varia as velocidades de clock da GPU. Ao desativar o recurso de autoboost e definir as velocidades de clock de GPU como a frequência máxima, você pode atingir a performance máxima de forma consistente com suas instâncias de GPU.
-
Defina as configurações de GPU para serem persistentes. Esse comando pode levar vários minutos para ser executado.
[ec2-user ~]$
sudo nvidia-persistenced
-
[Somente para instâncias G3 e P2] Desabilite o recurso de autoboost para todas as GPUs na instância.
[ec2-user ~]$
sudo nvidia-smi --auto-boost-default=0
-
Defina todas as velocidades de relógio de GPU como a frequência máxima. Use a memória e as velocidades de relógio de placa gráfica especificadas nos seguintes comandos.
Algumas versões do driver NVIDIA não suportam a configuração da velocidade de clock da aplicação e exibem o erro
"Setting applications clocks is not supported for GPU..."
, que é possível ignorar.-
Instâncias G3:
[ec2-user ~]$
sudo nvidia-smi -ac
2505,1177
-
Instâncias G4dn:
[ec2-user ~]$
sudo nvidia-smi -ac
5001,1590
-
Instâncias G5:
[ec2-user ~]$
sudo nvidia-smi -ac
6250,1710
-
Instâncias G6 e Gr6:
[ec2-user ~]$
sudo nvidia-smi -ac
6251,2040
-
Instâncias P2:
[ec2-user ~]$
sudo nvidia-smi -ac
2505,875
-
Instâncias P3 e P3dn:
[ec2-user ~]$
sudo nvidia-smi -ac
877,1530
-
Instâncias P4d:
[ec2-user ~]$
sudo nvidia-smi -ac
1215,1410
-
Instâncias P4de:
[ec2-user ~]$
sudo nvidia-smi -ac
1593,1410
-
Instâncias P5:
[ec2-user ~]$
sudo nvidia-smi -ac
2619,1980
-
-
Abra uma janela do PowerShell e navegue para a pasta de instalação NVIDIA.
cd "C:\Windows\System32\DriverStore\FileRepository\nv_dispswi.inf_*\"
-
[Somente para instâncias G3 e P2] Desabilite o recurso de autoboost para todas as GPUs na instância.
.\nvidia-smi --auto-boost-default=0
-
Defina todas as velocidades de relógio de GPU como a frequência máxima. Use a memória e as velocidades de relógio de placa gráfica especificadas nos seguintes comandos.
Algumas versões do driver NVIDIA não suportam a configuração da velocidade de clock da aplicação e exibem o erro
"Setting applications clocks is not supported for GPU..."
, que é possível ignorar.-
Instâncias G3:
.\nvidia-smi -ac "
2505,1177
" -
Instâncias G4dn:
.\nvidia-smi -ac "
5001,1590
" -
Instâncias G5:
.\nvidia-smi -ac "
6250,1710
" -
Instâncias G6 e Gr6:
.\nvidia-smi -ac "
6251,2040
" -
Instâncias P2:
.\nvidia-smi -ac "
2505,875
" -
Instâncias P3 e P3dn:
.\nvidia-smi -ac "
877,1530
" -
Instâncias P4d:
[ec2-user ~]$
sudo nvidia-smi -ac
1215,1410
-
Instâncias P4de:
[ec2-user ~]$
sudo nvidia-smi -ac
1593,1410
-
Instâncias P5:
[ec2-user ~]$
sudo nvidia-smi -ac
2619,1980
-