Usando a proteção contra rescisão para proteger seus EMR clusters da Amazon contra o desligamento acidental - Amazon EMR

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Usando a proteção contra rescisão para proteger seus EMR clusters da Amazon contra o desligamento acidental

A proteção contra encerramento protege os clusters do encerramento acidental, o que pode ser especialmente útil para clusters de longa execução que processam workloads críticas. Quando a proteção contra encerramento está habilitada em um cluster de longa execução, você ainda poderá encerrar o cluster, mas deverá removê-la explicitamente do cluster primeiro. Isso ajuda a garantir que as EC2 instâncias não sejam encerradas por acidente ou erro. Você pode habilitar a proteção contra encerramento ao criar um cluster e alterar a configuração em um cluster em execução.

Com a proteção contra rescisão ativada, a TerminateJobFlows ação na Amazon EMR API não funciona. Os usuários não podem encerrar o cluster usando isso API ou o terminate-clusters comando do AWS CLI. O API retorna um erro e CLI sai com um código de retorno diferente de zero. Ao usar o EMR console da Amazon para encerrar um cluster, você recebe uma etapa extra para desativar a proteção contra encerramento.

Atenção

A proteção contra encerramento não garante que os dados sejam retidos no caso de um erro humano ou de uma solução alternativa, por exemplo, se um comando de reinicialização for emitido pela linha de comando enquanto estiver conectado à instância usandoSSH, se um aplicativo ou script em execução na instância emitir um comando de reinicialização ou se a Amazon ou EC2 a Amazon forem usadas para desativar a proteção contra encerramento. EMR API Isso também é verdade se você estiver executando as EMR versões 7.1 e superiores da Amazon e uma instância ficar insalubre e irrecuperável. Mesmo com a proteção de terminação ativada, os dados salvos no armazenamento da instância, incluindo HDFS dados, podem ser perdidos. Grave a saída de dados nos locais do Amazon S3 e crie estratégias de backup conforme a necessidade de seus requisitos de continuidade de negócios.

A proteção contra encerramento não afeta sua capacidade de dimensionar recursos de cluster usando qualquer uma das seguintes ações:

Proteção contra rescisão e Amazon EC2

A configuração de proteção contra encerramento em um EMR cluster da Amazon corresponde ao DisableApiTermination atributo de todas as EC2 instâncias da Amazon no cluster. Por exemplo, se você habilitar a proteção contra rescisão em um EMR cluster, a Amazon EMR automaticamente define DisableApiTermination como true para todas as EC2 instâncias dentro do EMR cluster. O mesmo se aplica se você desabilitar a proteção contra encerramento. A Amazon define EMR automaticamente como false DisableApiTermination para todas as EC2 instâncias dentro do EMR cluster. Se você encerrar ou reduzir um cluster da Amazon EMR e EC2 as configurações da Amazon entrarem em conflito para uma EC2 instância, a Amazon EMR priorizará a EMR configuração da Amazon sobre as configurações DisableApiStop e DisableApiTermination na Amazon EC2 e continuará encerrando a instância. EC2

Por exemplo, você pode usar o EC2 console da Amazon para ativar a proteção de encerramento em uma EC2 instância da Amazon em um EMR cluster com a proteção de encerramento desativada. Se você encerrar ou reduzir o cluster com o EMR console da Amazon, o ou o Amazon AWS CLI, a Amazon EMR API EMR substituirá a DisableApiTermination configuração, a definirá como falsa e encerrará a instância junto com outras instâncias.

Você também pode usar o EC2 console da Amazon para ativar a proteção de parada em uma EC2 instância da Amazon em um EMR cluster com a proteção de encerramento desativada. Se você encerrar ou reduzir o cluster, a Amazon EMR definirá como DisableApiStop false na Amazon EC2 e encerrará a instância junto com outras instâncias.

A Amazon EMR substitui a DisableApiStop configuração somente quando você encerra ou reduz a escala de um cluster. Quando você ativa ou desativa a proteção contra rescisão em um EMR cluster, a Amazon EMR não altera a disableApiStop configuração de nenhuma das EC2 instâncias no respectivo EMR cluster.

Importante

Se você criar uma instância como parte de um EMR cluster da Amazon com proteção contra encerramento e usar os AWS CLI comandos Amazon EC2 API ou para modificar a instância de tal forma que DisableApiTermination sejafalse, e então a Amazon EC2 API ou os AWS CLI comandos executarem a TerminateInstances operação, a EC2 instância da Amazon será encerrada.

Proteção de terminação e nós insalubres YARN

A Amazon verifica EMR periodicamente o YARN status do Apache Hadoop dos nós em execução nas EC2 instâncias principais e de tarefas da Amazon em um cluster. O estado de saúde é relatado pelo serviço NodeManager de verificação de saúde. Se um nó reportarUNHEALTHY, o controlador de EMR instância da Amazon adiciona o nó a uma lista de negação e não aloca YARN contêineres até que ele volte a funcionar. Dependendo do status da proteção contra encerramento, da substituição de nós com problemas de integridade e da versão de EMR lançamento da Amazon, a Amazon EMR substituirá a instância não íntegra ou interromperá a alocação de controladores para a instância.

Proteção contra encerramento e encerramento após a execução de etapas

Quando você ativa a rescisão após a execução da etapa e também ativa a proteção contra rescisão, a Amazon EMR ignora a proteção contra rescisão.

Ao enviar etapas para um cluster, você pode definir a propriedade ActionOnFailure para determinar o que acontecerá se não for possível executar a etapa devido a um erro. Os valores possíveis para essa configuração são TERMINATE_CLUSTER (TERMINATE_JOB_FLOW com versões anteriores) CANCEL_AND_WAIT e CONTINUE. Para obter mais informações, consulte Envie o trabalho para um EMR cluster da Amazon.

Se ocorrer uma falha em uma etapa configurada com ActionOnFailure definida como CANCEL_AND_WAIT, se o encerramento após a execução da etapa estiver habilitado, o cluster será encerrado sem executar as etapas subsequentes.

Se ocorrer uma falha em uma etapa configurada com ActionOnFailure definida como TERMINATE_CLUSTER, use a tabela de configurações abaixo para determinar o resultado.

ActionOnFailure Encerramento após a execução da etapa Termination protection Resultado

TERMINATE_CLUSTER

Habilitada

Desabilitado

O cluster é encerrado

Habilitada

Habilitado

O cluster é encerrado

Desabilitado

Habilitada

O cluster continua

Desabilitado

Desabilitado

O cluster é encerrado

Proteção contra término e instâncias spot

A proteção contra EMR rescisão da Amazon não impede que uma instância EC2 spot da Amazon seja encerrada quando o preço spot subir acima do preço spot máximo.

Configurar a proteção contra término ao iniciar um cluster

Você pode ativar ou desativar a proteção contra encerramento ao iniciar um cluster usando o console AWS CLI, o ou API o.

Em clusters de nó único, as configurações padrão de proteção contra encerramento são as seguintes:

  • Lançamento de um cluster pelo Amazon EMR Console — a Proteção de rescisão está desativada por padrão.

  • A inicialização de um cluster por meio da AWS CLI aws emr create-cluster —Termination Protection está desativada, a menos que --termination-protected seja especificada.

  • Lançamento de um cluster pelo EMR API RunJobFlowcomando Amazon — a Proteção de terminação é desativada, a menos que o valor TerminationProtected booleano esteja definido como. true

Em clusters de alta disponibilidade, as configurações padrão de proteção contra encerramento são as seguintes:

  • Lançamento de um cluster pelo Amazon EMR Console — A Proteção de Terminação é ativada por padrão.

  • A inicialização de um cluster por meio da AWS CLI aws emr create-cluster —Termination Protection está desativada, a menos que --termination-protected seja especificada.

  • Lançamento de um cluster pelo EMR API RunJobFlowcomando Amazon — a Proteção de terminação é desativada, a menos que o valor TerminationProtected booleano esteja definido como. true

Console
Pata ativar ou desativar a proteção contra encerramento ao criar um cluster usando o console
  1. Faça login no e abra AWS Management Console o EMR console da Amazon em https://console.aws.amazon.com/emr.

  2. EC2Em EMRAtivado, no painel de navegação esquerdo, escolha Clusters e, em seguida, escolha Criar cluster.

  3. Para a versão EMR de lançamento, escolha emr-6.6.0 ou posterior.

  4. Em Encerramento do cluster e substituição do nó, verifique se a opção Usar proteção contra encerramento está pré-selecionada ou desmarque a seleção para desativá-la.

  5. Escolha qualquer outra opção que se aplique ao cluster.

  6. Para iniciar o cluster, escolha Criar cluster.

AWS CLI
Para ativar ou desativar a proteção contra encerramento ao criar um cluster usando o AWS CLI
  • Com o AWS CLI, você pode iniciar um cluster com a proteção de encerramento ativada com o create-cluster comando com o --termination-protected parâmetro. Por padrão, a proteção contra encerramento é desativada.

    O exemplo a seguir cria um cluster com proteção contra encerramento habilitada:

    nota

    Os caracteres de continuação de linha do Linux (\) são incluídos para facilitar a leitura. Eles podem ser removidos ou usados ​​em comandos do Linux. No Windows, remova-os ou substitua-os por um sinal de interpolação (^).

    aws emr create-cluster --name "TerminationProtectedCluster" --release-label emr-7.5.0 \ --applications Name=Hadoop Name=Hive Name=Pig \ --use-default-roles --ec2-attributes KeyName=myKey --instance-type m5.xlarge \ --instance-count 3 --termination-protected

    Para obter mais informações sobre o uso dos EMR comandos da Amazon no AWS CLI, consultehttps://docs.aws.amazon.com/cli/latest/reference/emr.

Configurar a proteção contra término para clusters em execução

Você pode configurar a proteção contra término para um cluster em execução usando o console ou a AWS CLI.

Console
Ativar ou desativar a proteção contra encerramento de um cluster em execução usando o console
  1. Faça login no e abra AWS Management Console o EMR console da Amazon em https://console.aws.amazon.com/emr.

  2. EMREC2Em Ativado, no painel de navegação esquerdo, escolha Clusters e selecione o cluster que você deseja atualizar.

  3. Na guia Propriedades na página de detalhes do cluster, localize Término do cluster e selecione Editar.

  4. Marque ou desmarque a caixa de seleção Usar proteção contra término para ativar ou desativar o atributo. Depois selecione Salvar alterações para confirmar.

AWS CLI
Para ativar ou desativar a proteção contra encerramento de um cluster em execução usando o AWS CLI
  • Para habilitar a proteção contra término em um cluster em execução usando a AWS CLI, digite o comando modify-cluster-attributes com o parâmetro --termination-protected. Para desabilitá-la, use o parâmetro --no-termination-protected.

    O exemplo a seguir ativa a proteção contra encerramento no cluster com IDj-3KVTXXXXXX7UG:

    aws emr modify-cluster-attributes --cluster-id j-3KVTXXXXXX7UG --termination-protected

    O exemplo a seguir desabilita a proteção contra encerramento no mesmo cluster:

    aws emr modify-cluster-attributes --cluster-id j-3KVTXXXXXX7UG --no-termination-protected