Pré-requisitos para criar um endpoint interativo na Amazon em EMR EKS - Amazon EMR

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Pré-requisitos para criar um endpoint interativo na Amazon em EMR EKS

Esta seção descreve os pré-requisitos para configurar um endpoint interativo que o EMR Studio possa usar para se conectar a um EKS cluster Amazon EMR on e executar cargas de trabalho interativas.

AWS CLI

Siga as etapas em Instalar ou atualizar para a versão mais recente do AWS CLI para instalar a versão mais recente do AWS Command Line Interface (AWS CLI).

Instalação do eksctl

Siga as etapas em Instalar o kubectl para instalar a versão mais recente do eksctl. Se você estiver usando o Kubernetes versão 1.22 ou posterior para seu EKS cluster Amazon, use uma versão eksctl maior que 0.117.0.

EKSCluster da Amazon

Crie um EKS cluster da Amazon. Registre o cluster como um cluster virtual com a Amazon EMR ativadaEKS. Confira abaixo os requisitos e as considerações para este cluster:

  • O cluster deve estar na mesma Amazon Virtual Private Cloud (VPC) do seu EMR Studio.

  • O cluster deve ter, no mínimo, uma sub-rede privada para ativar os endpoints interativos, vincular repositórios baseados em Git e iniciar o Application Load Balancer no modo privado.

  • Deve haver pelo menos uma sub-rede privada em comum entre seu EMR Studio e o EKS cluster da Amazon que você usa para registrar seu cluster virtual. Isso garante que seu endpoint interativo apareça como uma opção nos WorkSpaces do Studio e ativa a conectividade do Studio com o Application Load Balancer.

    Há dois métodos que você pode escolher para conectar seu Studio e seu EKS cluster Amazon:

    • Crie um EKS cluster da Amazon e associe-o às sub-redes que pertencem ao seu EMR Studio.

    • Como alternativa, crie um EMR Studio e especifique as sub-redes privadas para seu cluster da AmazonEKS.

  • O ARM Amazon Linux EKS otimizado para Amazon AMIs não é compatível com a Amazon EMR em endpoints EKS interativos.

  • Os endpoints interativos funcionam com EKS clusters da Amazon que usam versões do Kubernetes de até 1.30.

  • Somente grupos de nós EKS gerenciados pela Amazon são suportados.

Conceda acesso ao cluster para a Amazon EMR em EKS

Use as etapas em Conceder acesso ao cluster para a Amazon EMR em EKS para conceder à EMR Amazon EKS acesso a um namespace específico em seu cluster.

Ative IRSA no EKS cluster da Amazon

Para ativar IAM funções para contas de serviço (IRSA) no EKS cluster da Amazon, siga as etapas em Habilitar IAM funções para contas de serviço (IRSA).

Crie uma IAM função de execução de tarefas

Você deve criar uma IAM função para executar cargas de trabalho na Amazon EMR em endpoints EKS interativos. Nós nos referimos a essa IAM função como a função de execução de tarefas nesta documentação. Essa IAM função é atribuída tanto ao contêiner de endpoint interativo quanto aos contêineres de execução reais que são criados quando você envia trabalhos com o EMR Studio. Você precisará do Amazon Resource Name (ARN) da sua função de execução de trabalhos EMR na Amazon emEKS. Para isso, são necessárias duas etapas:

Conceda aos usuários acesso à Amazon EMR em EKS

A IAM entidade (usuário ou função) que faz a solicitação para criar um endpoint interativo também deve ter as seguintes emr-containers permissões EC2 e Amazon. Siga as etapas descritas em Conceda aos usuários acesso à Amazon EMR em EKS para conceder essas permissões que permitem que a Amazon EMR on crie, gerencie e EKS exclua os grupos de segurança que limitam o tráfego de entrada para o balanceador de carga do seu endpoint interativo.

As seguintes permissões de emr-containers permitem que o usuário execute operações básicas do endpoint interativo:

"ec2:CreateSecurityGroup", "ec2:DeleteSecurityGroup", "ec2:AuthorizeSecurityGroupEgress", "ec2:AuthorizeSecurityGroupIngress", "ec2:RevokeSecurityGroupEgress", "ec2:RevokeSecurityGroupIngress" "emr-containers:CreateManagedEndpoint", "emr-containers:ListManagedEndpoints", "emr-containers:DescribeManagedEndpoint", "emr-containers:DeleteManagedEndpoint"

Registre o EKS cluster da Amazon com a Amazon EMR

Configure um cluster virtual e mapeie-o para o namespace no EKS cluster da Amazon em que você deseja executar seus trabalhos. Para clusters AWS Fargate somente, use o mesmo namespace para o cluster EKS virtual Amazon EMR on e para o perfil Fargate.

Para obter informações sobre como configurar um Amazon EMR em um cluster EKS virtual, consulteRegistre o EKS cluster da Amazon com a Amazon EMR.

Implemente AWS o Load Balancer Controller no cluster da Amazon EKS

É necessário um AWS Application Load Balancer para seu cluster AmazonEKS. Você só precisa configurar um controlador do Application Load Balancer por cluster da AmazonEKS. Para obter informações sobre como configurar o controlador do AWS Application Load Balancer, consulte Instalando o complemento Load AWS Balancer Controller no Guia do usuário da EKS Amazon.