Visualizar o status e os detalhes do cluster - Amazon EMR

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Visualizar o status e os detalhes do cluster

Depois de criar um cluster, você pode monitorar seu status e obter informações detalhadas sobre sua execução e erros que podem ter ocorrido, mesmo depois de ele ter sido terminado. A Amazon EMR salva metadados sobre clusters encerrados para sua referência por dois meses, após os quais os metadados são excluídos. Você não pode excluir clusters do histórico de clusters, mas, usando o AWS Management Console, você pode usar o Filter (Filtro) e, usando a AWS CLI, você pode usar opções com o comando list-clusters para focalizar nos clusters que interessam a você.

Você pode acessar o histórico do aplicativo armazenado no cluster por uma semana a partir de sua gravação, independentemente de se o cluster está em execução ou encerrado. Além disso, as interfaces do usuário de aplicativos persistentes armazenam o histórico de aplicativos fora do cluster por 30 dias após o encerramento de um cluster. Consulte Visualizar o histórico da aplicação.

Para obter mais informações sobre estados de cluster, como Waiting e Running, consulte Noções básicas sobre o ciclo de vida do cluster.

Visualizar os detalhes do cluster usando o AWS Management Console

A lista Clusters no https://console.aws.amazon.com/emr lista todos os clusters em sua conta e AWS região, incluindo clusters encerrados. A lista mostra o seguinte para cada cluster: o nome e a ID, os detalhes de status e status, a hora de criação, o tempo decorrido em que o cluster estava em execução e as horas de instância normalizada que foram acumuladas para todas as EC2 instâncias no cluster. Essa lista é o ponto de partida para monitorar o status dos clusters. Ela foi criada para que você possa analisar detalhadamente cada cluster para análise e solução de problemas.

Console
Para visualizar as informações do cluster com o console
  1. Faça login no e abra AWS Management Console o EMR console da Amazon em https://console.aws.amazon.com/emr.

  2. EMREC2Em Ativado, no painel de navegação esquerdo, escolha Clusters e selecione o cluster que você deseja visualizar.

  3. Use o painel Resumo para ver os conceitos básicos da configuração do seu cluster, como o status do cluster, os aplicativos de código aberto que a Amazon EMR instalou no cluster e a versão da Amazon EMR que você usou para criar o cluster. Use cada guia abaixo do Resumo para visualizar informações, conforme descrito na tabela a seguir.

Visualize os detalhes do cluster usando o AWS CLI

Os exemplos a seguir demonstram como recuperar detalhes de cluster usando a AWS CLI. Para obter mais informações sobre os comandos disponíveis, consulte a Referência de AWS CLI comandos da Amazon EMR. Você pode usar o comando describe-cluster para ver detalhes em nível de cluster, incluindo status, configuração de hardware e software, VPC configurações, ações de bootstrap, grupos de instâncias e assim por diante. Para obter mais informações sobre estados de cluster, consulte Noções básicas sobre o ciclo de vida do cluster. O exemplo a seguir demonstra o uso do comando describe-cluster, seguido por exemplos do comando list-clusters.

exemplo Visualizar o status do cluster

Para usar o comando describe-cluster, você precisa do ID do cluster. Este exemplo demonstra como usar para obter uma lista de clusters criados em um determinado intervalo de datas e, em seguida, usar um dos clusters IDs retornados para listar mais informações sobre o status de um cluster individual.

O comando a seguir descreve o cluster j-1K48XXXXXXHCB, que você substitui pelo ID do cluster.

aws emr describe-cluster --cluster-id j-1K48XXXXXXHCB

A saída do comando é semelhante à seguinte.

{ "Cluster": { "Status": { "Timeline": { "ReadyDateTime": 1438281058.061, "CreationDateTime": 1438280702.498 }, "State": "WAITING", "StateChangeReason": { "Message": "Waiting for steps to run" } }, "Ec2InstanceAttributes": { "EmrManagedMasterSecurityGroup": "sg-cXXXXX0", "IamInstanceProfile": "EMR_EC2_DefaultRole", "Ec2KeyName": "myKey", "Ec2AvailabilityZone": "us-east-1c", "EmrManagedSlaveSecurityGroup": "sg-example" }, "Name": "Development Cluster", "ServiceRole": "EMR_DefaultRole", "Tags": [], "TerminationProtected": false, "ReleaseLabel": "emr-4.0.0", "NormalizedInstanceHours": 16, "InstanceGroups": [ { "RequestedInstanceCount": 1, "Status": { "Timeline": { "ReadyDateTime": 1438281058.101, "CreationDateTime": 1438280702.499 }, "State": "RUNNING", "StateChangeReason": { "Message": "" } }, "Name": "CORE", "InstanceGroupType": "CORE", "Id": "ig-2EEXAMPLEXXP", "Configurations": [], "InstanceType": "m5.xlarge", "Market": "ON_DEMAND", "RunningInstanceCount": 1 }, { "RequestedInstanceCount": 1, "Status": { "Timeline": { "ReadyDateTime": 1438281023.879, "CreationDateTime": 1438280702.499 }, "State": "RUNNING", "StateChangeReason": { "Message": "" } }, "Name": "MASTER", "InstanceGroupType": "MASTER", "Id": "ig-2A1234567XP", "Configurations": [], "InstanceType": "m5.xlarge", "Market": "ON_DEMAND", "RunningInstanceCount": 1 } ], "Applications": [ { "Version": "1.0.0", "Name": "Hive" }, { "Version": "2.6.0", "Name": "Hadoop" }, { "Version": "0.14.0", "Name": "Pig" }, { "Version": "1.4.1", "Name": "Spark" } ], "BootstrapActions": [], "MasterPublicDnsName": "ec2-X-X-X-X.compute-1.amazonaws.com", "AutoTerminate": false, "Id": "j-jobFlowID", "Configurations": [ { "Properties": { "hadoop.security.groups.cache.secs": "250" }, "Classification": "core-site" }, { "Properties": { "mapreduce.tasktracker.reduce.tasks.maximum": "5", "mapred.tasktracker.map.tasks.maximum": "2", "mapreduce.map.sort.spill.percent": "90" }, "Classification": "mapred-site" }, { "Properties": { "hive.join.emit.interval": "1000", "hive.merge.mapfiles": "true" }, "Classification": "hive-site" } ] } }
exemplo Listar clusters por data de criação

Para recuperar clusters criados em um intervalo de dados específicos, use o comando list-clusters com os parâmetros --created-after e --created-before.

O comando a seguir lista todos os clusters criados entre 9 e 12 de outubro de 2019.

aws emr list-clusters --created-after 2019-10-09T00:12:00 --created-before 2019-10-12T00:12:00
exemplo Listar clusters por estado

Para listar clusters por estado, use o comando list-clusters com o parâmetro --cluster-states. Os estados de cluster válidos incluem: STARTING BOOTSTRAPPINGRUNNING,WAITING,TERMINATING,TERMINATED, e TERMINATED _ WITH _ERRORS.

aws emr list-clusters --cluster-states TERMINATED

Você também pode usar os seguintes parâmetros de atalho para listar todos os clusters nos estados especificados:

  • --activefiltra clusters nos TERMINATING estados STARTING BOOTSTRAPPINGRUNNING,WAITING,, ou.

  • --terminatedfiltra clusters no TERMINATED estado.

  • --failedo parâmetro filtra clusters no ERRORS estado TERMINATED WITH _ _.

As seguintes comandos retornam o mesmo resultado.

aws emr list-clusters --cluster-states TERMINATED
aws emr list-clusters --terminated

Para obter mais informações sobre estados de cluster, consulte Noções básicas sobre o ciclo de vida do cluster.