Erros de limitação com um cluster da Amazon EMR - Amazon EMR

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Erros de limitação com um cluster da Amazon EMR

Os erros “Throttled from Amazon EC2 ao iniciar o cluster” e “Falha ao provisionar instâncias devido à limitação de Amazon EC2“ocorre quando a Amazon EMR não consegue concluir uma solicitação porque outro serviço limitou a atividade. A Amazon EC2 é a fonte mais comum de erros de limitação, mas outros serviços podem ser a causa desses erros. AWS os limites de serviço se aplicam por região para melhorar o desempenho, e um erro de limitação indica que você excedeu o limite de serviço da sua conta nessa região.

Possíveis causas

A fonte mais comum de erros de EC2 limitação da Amazon é um grande número de instâncias de cluster iniciadas para que seu limite de serviço para EC2 instâncias seja excedido. As instâncias do cluster podem ser executadas pelos seguintes motivos:

Também é possível que a frequência ou o tipo de API solicitação feita à Amazon EC2 cause erros de limitação. Para obter mais informações sobre como a Amazon EC2 controla as API solicitações, consulte Taxa de API solicitação de consulta na Referência da Amazon EC2 API.

Soluções

Considere as seguintes soluções:

  • Siga as instruções descritas em AWS service quotas no Referência geral da Amazon Web Services para solicitar um aumento do limite de serviço. Para algunsAPIs, organizar um CloudWatch evento pode ser uma opção melhor do que aumentar os limites. Para obter mais detalhes, consulte Quando configurar EMR eventos em CloudWatch.

  • Se você tiver clusters são executados no mesmo agendamento (por exemplo, no começo da hora) considere intercalar os horários de início.

  • Se tiver clusters que são dimensionados para picos de demanda, e você periodicamente tiver capacidade de instância, considere especificar a escalabilidade automática para adicionar e remover instâncias sob demanda. Dessa forma, as instâncias serão usadas de forma mais eficiente e, dependendo do perfil de demanda, menos instâncias poderão ser solicitadas em um determinado momento em uma conta. Para obter mais informações, consulte Usando escalabilidade automática com uma política personalizada para grupos de instâncias na Amazon EMR.