Amazon SageMaker Profiler - Amazon SageMaker

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Amazon SageMaker Profiler

Atualmente, o Amazon SageMaker Profiler está em versão prévia e está disponível gratuitamente se houver suporte Regiões da AWS. A versão geralmente disponível do Amazon SageMaker Profiler (se houver) pode incluir recursos e preços diferentes dos oferecidos na versão prévia.

O Amazon SageMaker Profiler é um recurso da Amazon SageMaker que fornece uma visão detalhada dos recursos AWS computacionais provisionados durante o treinamento de modelos de aprendizado profundo no. SageMaker Ele se concentra em traçar o perfil CPU e o GPU uso, a execução do kernel, a inicialização do kernelGPUs, as operações de sincronizaçãoCPUs, as operações de memória entre CPUs eGPUs, as latências entre as inicializações do kernel e as execuções correspondentes e a transferência de dados entre e. CPUs GPUs SageMaker O Profiler também oferece uma interface de usuário (UI) que visualiza o perfil, um resumo estatístico dos eventos perfilados e a linha do tempo de um trabalho de treinamento para rastrear e compreender a relação temporal dos eventos entre e. GPUs CPUs

nota

SageMaker O Profiler suporta PyTorch TensorFlow e está disponível em AWS Deep Learning Containers para SageMaker. Para saber mais, consulte Imagens de estrutura e tipos de instância compatíveis Regiões da AWS.

Para cientistas de dados

O treinamento de modelos de aprendizado profundo em um grande cluster de computação geralmente apresenta problemas de otimização computacional, como gargalos, latências de inicialização do kernel, limite de memória e baixa utilização de recursos.

Para identificar esses problemas de desempenho computacional, você precisa analisar mais profundamente os recursos de computação para entender quais kernels introduzem latências e quais operações causam gargalos. Os cientistas de dados podem se beneficiar do uso da interface do SageMaker Profiler para visualizar o perfil detalhado dos trabalhos de treinamento. A interface do usuário fornece um painel com gráficos de resumo e uma interface de linha do tempo para rastrear cada evento nos recursos de computação. Os cientistas de dados também podem adicionar anotações personalizadas para monitorar determinadas partes do trabalho de treinamento usando os módulos do SageMaker Profiler Python.

Para administradores

Por meio da página inicial do Profiler no SageMaker console ou SageMaker domínio, você pode gerenciar os usuários do aplicativo Profiler se for administrador de uma AWS conta ou SageMaker domínio. Cada usuário do domínio pode acessar seu próprio aplicativo Profiler com as permissões concedidas. Como administrador de SageMaker domínio e usuário do domínio, você pode criar e excluir o aplicativo Profiler de acordo com o nível de permissão que você tem.