Amazon EMR versão 5.30.0 - Amazon EMR
Versões 5.30.0 da aplicaçãoNotas da versão 5.30.0Versões de componente 5.30.0Classificações de configuração 5.30.0

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Amazon EMR versão 5.30.0

Versões 5.30.0 da aplicação

Os seguintes aplicativos são compatíveis com esta versão: Flink, Ganglia, HBase, HCatalog, Hadoop, Hive, Hudi, Hue, JupyterHub, Livy, MXNet, Mahout, Oozie, Phoenix, Pig, Presto, Spark, Sqoop, TensorFlow, Tez, Zeppelin, e ZooKeeper.

A tabela abaixo lista as versões do aplicativo disponíveis nesta versão da Amazon EMR e as versões do aplicativo nas três EMR versões anteriores da Amazon (quando aplicável).

Para obter um histórico abrangente das versões do aplicativo para cada lançamento da AmazonEMR, consulte os seguintes tópicos:

Informações da versão da aplicação
emr-5.30.0 emr-5.29.0 emr-5.28.1 emr-5.28.0
AWS SDKpara Java 1.11.7591.11.6821.11.6591.11.659
Python 2,7, 3,72,7, 3,62,7, 3,62,7, 3,6
Scala 2.11.122.11.122.11.122.11.12
AmazonCloudWatchAgent - - - -
Delta - - - -
Flink1.10.01.9.11.9.01.9.0
Ganglia3.7.23.7.23.7.23.7.2
HBase1.4.131.4.101.4.101.4.10
HCatalog2.3.62.3.62.3.62.3.6
Hadoop2.8.52.8.52.8.52.8.5
Hive2.3.62.3.62.3.62.3.6
Hudi0.5.2-incubating0.5.0-incubating0.5.0-incubating0.5.0-incubating
Hue4.6.04.4.04.4.04.4.0
Iceberg - - - -
JupyterEnterpriseGateway - - - -
JupyterHub1.1.01.0.01.0.01.0.0
Livy0.7.00.6.00.6.00.6.0
MXNet1.5.11.5.11.5.11.5.1
Mahout0.13.00.13.00.13.00.13.0
Oozie5.2.05.1.05.1.05.1.0
Phoenix4.14.34.14.34.14.34.14.3
Pig0.17.00.17.00.17.00.17.0
Presto0.2320.2270.2270.227
Spark2.4.52.4.42.4.42.4.4
Sqoop1.4.71.4.71.4.71.4.7
TensorFlow1.14.01.14.01.14.01.14.0
Tez0.9.20.9.20.9.20.9.2
Trino (Em breve) SQL - - - -
Zeppelin0.8.20.8.20.8.20.8.2
ZooKeeper3.4.143.4.143.4.143.4.14

Notas da versão 5.30.0

As notas de lançamento a seguir incluem informações sobre a EMR versão 5.30.0 da Amazon. As alterações são referentes à versão 5.29.0.

Data da versão inicial: 13 de maio de 2020

Data da última atualização: 25 de junho de 2020

Atualizações

  • Atualizado para AWS SDK for Java a versão 1.11.759

  • Amazon SageMaker Spark atualizado SDK para a versão 1.3.0

  • Servidor de EMR registros atualizado para a versão 1.6.0

  • Atualização do Flink para a versão 1.10.0

  • Atualização do Ganglia para a versão 3.7.2

  • Atualizado HBase para a versão 1.4.13

  • Atualização do Hudi para a versão 0.5.2-incubating

  • Atualização do Hue para a versão 4.6.0

  • Atualizado JupyterHub para a versão 1.1.0

  • Atualização do Livy para a versão 0.7.0-incubating

  • Atualização do Oozie para a versão 5.2.0

  • Atualização do Presto para a versão 0.232

  • Atualização do Spark para a versão 2.4.5

  • Conectores e drivers atualizados: Amazon Glue Connector 1.12.0; Amazon Kinesis Connector 3.5.0; DynamoDB Connector 4.14.0 EMR

Novos atributos

  • EMRNotebooks — Quando usados com EMR clusters criados usando 5.30.0, os kernels do EMR notebook são executados no cluster. Isso melhora o desempenho do bloco de anotações e permite que instalar e personalizar kernels. Você também pode instalar bibliotecas Python no nó primário do cluster. Para obter mais informações, consulte Instalando e usando kernels e bibliotecas no Guia EMRde gerenciamento.

  • Escalabilidade gerenciada — Com a Amazon EMR versão 5.30.0 e posterior, você pode habilitar a escalabilidade EMR gerenciada para aumentar ou diminuir automaticamente o número de instâncias ou unidades em seu cluster com base na carga de trabalho. A Amazon avalia EMR continuamente as métricas do cluster para tomar decisões de escalabilidade que otimizem seus clusters em termos de custo e velocidade. Para obter mais informações, consulte Scaling Cluster Resources no Amazon EMR Management Guide.

  • Criptografe arquivos de log armazenados no Amazon S3 — Com a EMR Amazon versão 5.30.0 e posterior, você pode criptografar arquivos de log armazenados no Amazon S3 com uma chave gerenciada pelo cliente. AWS KMS Para obter mais informações, consulte Criptografar arquivos de log armazenados no Amazon S3 no EMRAmazon Management Guide.

  • Suporte ao Amazon Linux 2 — Na EMR versão 5.30.0 e posterior, EMR usesAmazon sistema operacional Linux 2. A nova personalização AMIs (Amazon Machine Image) deve ser baseada no theAmazon Linux 2AMI. Para obter mais informações, consulte Usando um personalizado AMI.

  • Presto Graceful Auto Scale — EMR clusters que usam 5.30.0 podem ser configurados com um período de tempo limite de escalonamento automático que permite que as tarefas do Presto terminem de ser executadas antes que seu nó seja desativado. Para obter mais informações, consulte Usar a escalabilidade automática do Presto com desativação tranquila.

  • Criação de instância de frota com nova opção de estratégia de alocação — Uma nova opção de estratégia de alocação está disponível na EMR versão 5.12.1 e posterior. Ele oferece provisionamento de cluster mais rápido, alocação de spot mais precisa e menos interrupção de instâncias spot. Atualizações para funções de EMR serviço não padrão são necessárias. Consulte Configurar frotas de instâncias.

  • comandos sudo systemctl stop e sudo systemctl start — Na EMR versão 5.30.0 e posterior, qual sistema operacional useAmazon Linux 2 usa e comanda para reiniciar serviços. EMR sudo systemctl stop sudo systemctl start Para obter mais informações, consulte Como reinicio um serviço na AmazonEMR? .

Alterações, melhorias e problemas resolvidos

  • EMRa versão 5.30.0 não instala o Ganglia por padrão. É possível selecionar explicitamente o Ganglia para ser instalado ao criar um cluster.

  • Otimizações do desempenho do Spark

  • Otimizações do desempenho do Presto

  • O Python 3 é o padrão para a Amazon EMR versão 5.30.0 e posterior.

  • O grupo de segurança gerenciado padrão para acesso ao serviço em sub-redes privadas foi atualizado com novas regras. Se você usar um grupo de segurança personalizado para acesso ao serviço, será necessário incluir as mesmas regras do grupo de segurança gerenciado padrão. Para obter mais informações, consulte Grupo EMR de segurança gerenciado pela Amazon para acesso a serviços (sub-redes privadas). Se você usa uma função de serviço personalizada para a AmazonEMR, você deve conceder permissão para que ela ec2:describeSecurityGroups EMR possa validar se os grupos de segurança foram criados corretamente. Se você usar o EMR_DefaultRole, essa permissão já estará incluída na política gerenciada padrão.

Problemas conhecidos

  • Limite inferior de “Máximo de arquivos abertos” em versões mais antigas AL2 [corrigido em versões mais recentes]. EMRLançamentos da Amazon: emr-5.30.x, emr-5.31.0, emr-5.32.0, emr-6.0.0, emr-6.1.0 e emr-6.2.0 são baseados em versões mais antigas do Linux ofAmazon 2 ()AL2, que têm uma configuração de limite inferior para “Máximo de arquivos abertos” quando os clusters da Amazon são criados com o padrão. EMR AMI As EMR versões 5.30.1, 5.30.2, 5.31.1, 5.32.1, 6.0.1, 6.1.1, 6.2.1, 5.33.0, 6.3.0 e posteriores incluem uma correção permanente com uma configuração maior de “Máximo de arquivos abertos”. Versões com o limite inferior de arquivos abertos causam o erro “Muitos arquivos abertos” ao ser enviado um trabalho do Spark. Nas versões afetadas, o padrão da Amazon AMI tem uma configuração EMR padrão de ulimit de 4096 para “Máximo de arquivos abertos”, que é inferior ao limite de 65536 arquivos no Linux 2. latestAmazon AMI A configuração inferior de ulimit para “Máximo de arquivos abertos” causa falhas em trabalhos do Spark quando o driver e o executor do Spark tentam abrir mais de 4096 arquivos. Para corrigir o problema, a Amazon EMR tem um script de ação de bootstrap (BA) que ajusta a configuração ulimit na criação do cluster.

    Se você estiver usando uma EMR versão mais antiga da Amazon que não tem a solução permanente para esse problema, a solução alternativa a seguir permite que você defina explicitamente o ulimit do controlador de instância para um máximo de 65536 arquivos.

    Defina explicitamente um ulimit na linha de comando

    1. Edite /etc/systemd/system/instance-controller.service para adicionar os seguintes parâmetros à seção Serviço.

      LimitNOFILE=65536

      LimitNPROC=65536

    2. Reiniciar InstanceController

      $ sudo systemctl daemon-reload

      $ sudo systemctl restart instance-controller

    Defina um ulimit usando a ação de bootstrap (BA)

    Você também pode usar um script de ação de bootstrap (BA) para configurar o ulimit instance-controller para 65536 arquivos na criação do cluster.

    #!/bin/bash
for user in hadoop spark hive; do
sudo tee /etc/security/limits.d/$user.conf << EOF
$user - nofile 65536
$user - nproc 65536
EOF
done
for proc in instancecontroller logpusher; do
sudo mkdir -p /etc/systemd/system/$proc.service.d/
sudo tee /etc/systemd/system/$proc.service.d/override.conf << EOF
[Service]
LimitNOFILE=65536
LimitNPROC=65536
EOF
pid=$(pgrep -f aws157.$proc.Main)
sudo prlimit --pid $pid --nofile=65535:65535 --nproc=65535:65535
done
sudo systemctl daemon-reload

  • Ajuste de escala gerenciado

    As operações de ajuste de escala gerenciado nos clusters das versões 5.30.0 e 5.30.1 sem o Presto instalado podem causar falhas na aplicação ou fazer com que um grupo de instâncias ou uma frota de instâncias uniforme permaneça no estado ARRESTED, sobretudo quando uma operação de redução da escala verticalmente logo é seguida por uma operação de aumento da escala verticalmente.

    Como solução alternativa, escolha o Presto como um aplicativo a ser instalado ao criar um cluster com as EMR versões 5.30.0 e 5.30.1 da Amazon, mesmo que seu trabalho não exija o Presto.

  • Problema conhecido em clusters com vários nós primários e autenticação Kerberos

    Se você executar clusters com vários nós primários e autenticação Kerberos nas EMR versões 5.20.0 e posteriores da Amazon, poderá encontrar problemas com operações de cluster, como redução de escala ou envio de etapas, depois que o cluster estiver em execução por algum tempo. O período depende do período de validade do tíquete do Kerberos que você definiu. O problema de redução da escala verticalmente afeta tanto as solicitações de redução automática quanto as de reduções explícitas que você enviou. Operações adicionais de cluster também podem ser afetadas.

    Solução:

    • SSHcomo hadoop usuário do nó primário principal do EMR cluster com vários nós primários.

    • Execute o comando a seguir para renovar o tíquete do Kerberos para o usuário do hadoop. 

      kinit -kt <keytab_file> <principal>

      Normalmente, o arquivo keytab está localizado em /etc/hadoop.keytab e a entidade principal está na forma de hadoop/<hostname>@<REALM>.

    nota

    Essa solução alternativa entrará em vigor durante o período de validade do tíquete do Kerberos. Essa duração é de 10 horas por padrão, mas pode ser configurada pelas definições do Kerberos. Você deve executar novamente o comando acima quando o tíquete do Kerberos expirar.

  • O mecanismo de banco de dados padrão para o Hue 4.6.0 éSQLite, o que causa problemas quando você tenta usar o Hue com um banco de dados externo. Para corrigir isso, defina engine na sua classificação de configuração hue-ini como mysql. Esse problema foi corrigido na EMR versão 5.30.1 da Amazon.

  • Quando você usa o Spark com a formatação de localização de partições do Hive para ler dados no Amazon S3 e executa o Spark nas EMR versões 5.30.0 a 5.36.0 e 6.2.0 a 6.9.0 da Amazon, você pode encontrar um problema que impede seu cluster de ler os dados corretamente. Isso poderá acontecer se suas partições tiverem todas as características a seguir:

    • Duas ou mais partições são verificadas na mesma tabela.

    • Pelo menos um caminho de diretório de partição é um prefixo de pelo menos outro caminho de diretório de partição, por exemplo, s3://bucket/table/p=a é um prefixo de s3://bucket/table/p=a b.

    • O primeiro caractere que segue o prefixo no outro diretório de partição tem um valor UTF -8 menor que o / caractere (U+002F). Por exemplo, o caractere de espaço (U+0020) que ocorre entre a e b em s3://bucket/table/p=a b se enquadra nessa categoria. Observe que existem 14 outros caracteres que não são de controle: !"#$%&‘()*+,-. Para obter mais informações, consulte a tabela de codificação UTF -8 e caracteres Unicode.

    Como solução alternativa para esse problema, defina a configuração spark.sql.sources.fastS3PartitionDiscovery.enabled como false na classificação spark-defaults.

Versões de componente 5.30.0

Os componentes que a Amazon EMR instala com esta versão estão listados abaixo. Alguns são instalados como parte de pacotes de aplicativos de big data. Outros são exclusivos da Amazon EMR e são instalados para processos e recursos do sistema. Eles normalmente começam com emr ou aws. Os pacotes de aplicativos de big data na versão mais recente da Amazon EMR geralmente são a versão mais recente encontrada na comunidade. Disponibilizamos lançamentos comunitários na Amazon o mais EMR rápido possível.

Alguns componentes na Amazon EMR diferem das versões da comunidade. Esses componentes tem um rótulo de versão no formulário CommunityVersion-amzn-EmrVersion. O EmrVersion começa em 0. Por exemplo, se um componente de comunidade de código aberto nomeado myapp-component com a versão 2.2 tiver sido modificado três vezes para inclusão em diferentes EMR versões da Amazon, sua versão de lançamento será listada como2.2-amzn-2.

Componente Version (Versão) Descrição
aws-sagemaker-spark-sdk1.3.0Amazon SageMaker Spark SDK
emr-ddb4.14.0O conector do Amazon DynamoDB para aplicativos do ecossistema do Hadoop.
emr-goodies2.13.0Bibliotecas convenientes para o ecossistema do Hadoop.
emr-kinesis3.5.0O conector do Amazon Kinesis para aplicativos do ecossistema do Hadoop.
emr-notebook-env1.0.0Conda env para bloco de anotações do EMR
emr-s3-dist-cp2.14.0Cópia distribuída otimizada de aplicativos para o Amazon S3.
emr-s3-select1.5.0EMRConector S3Select
emrfs2.40.0O conector do Amazon S3 para aplicativos do ecossistema do Hadoop.
flink-client1.10.0Scripts do cliente da linha de comando e aplicativos do Apache Flink.
ganglia-monitor3.7.2O agente incorporado do Ganglia para aplicativos do ecossistema do Hadoop, juntamente com o agente de monitoramento do Ganglia.
ganglia-metadata-collector3.7.2O coletor de metadados do Ganglia para agregar métricas de agentes de monitoramento do Ganglia.
ganglia-web3.7.1O aplicativo web para visualizar as métricas coletadas pelo coletor de metadados do Ganglia.
hadoop-client2.8.5-amzn-6Clientes da linha de comando do Hadoop, como 'hdfs', 'hadoop', ou 'yarn'.
hadoop-hdfs-datanode2.8.5-amzn-6HDFSserviço em nível de nó para armazenar blocos.
hadoop-hdfs-library2.8.5-amzn-6HDFScliente e biblioteca de linha de comando
hadoop-hdfs-namenode2.8.5-amzn-6HDFSserviço para rastrear nomes de arquivos e localizações de blocos.
hadoop-hdfs-journalnode2.8.5-amzn-6HDFSserviço para gerenciar o diário do sistema de arquivos Hadoop em clusters HA.
hadoop-httpfs-server2.8.5-amzn-6HTTPendpoint para HDFS operações.
hadoop-kms-server2.8.5-amzn-6Servidor de gerenciamento de chaves criptográficas baseado no Hadoop. KeyProvider API
hadoop-mapred2.8.5-amzn-6MapReduce bibliotecas de mecanismos de execução para executar um MapReduce aplicativo.
hadoop-yarn-nodemanager2.8.5-amzn-6YARNserviço para gerenciar contêineres em um nó individual.
hadoop-yarn-resourcemanager2.8.5-amzn-6YARNserviço para alocar e gerenciar recursos de cluster e aplicativos distribuídos.
hadoop-yarn-timeline-server2.8.5-amzn-6Serviço para recuperar informações atuais e históricas para YARN aplicativos.
hbase-hmaster1.4.13Serviço para um HBase cluster responsável pela coordenação das regiões e execução de comandos administrativos.
hbase-region-server1.4.13Serviço para atender a uma ou mais HBase regiões.
hbase-client1.4.13HBasecliente de linha de comando.
hbase-rest-server1.4.13Serviço que fornece um RESTful HTTP endpoint paraHBase.
hbase-thrift-server1.4.13Serviço que fornece um endpoint Thrift para. HBase
hcatalog-client2.3.6-amzn-2O cliente da linha de comando 'hcat' para manipular o hcatalog-server.
hcatalog-server2.3.6-amzn-2Fornecimento de serviçosHCatalog, uma camada de gerenciamento de tabelas e armazenamento para aplicativos distribuídos.
hcatalog-webhcat-server2.3.6-amzn-2HTTPendpoint fornecendo uma REST interface paraHCatalog.
hive-client2.3.6-amzn-2O cliente da linha de comando do Hive.
hive-hbase2.3.6-amzn-2Cliente do Hive-hbase.
hive-metastore-server2.3.6-amzn-2Serviço para acessar o metastore Hive, um repositório semântico que armazena metadados para operações no Hadoop. SQL
hive-server22.3.6-amzn-2O serviço que aceita as consultas do Hive como solicitações da web.
hudi0.5.2-incubatingEstrutura de processamento incremental para alimentar o pipeline de dados com baixa latência e alta eficiência.
hudi-presto0.5.2-incubatingBiblioteca de pacotes para executar o Presto com o Hudi.
hue-server4.6.0O aplicativo web para analisar dados usando aplicativos do ecossistema do Hadoop
jupyterhub1.1.0Servidor de vários usuários para blocos de anotações Jupyter
livy-server0.7.0-incubatingRESTinterface para interagir com o Apache Spark
nginx1.12.1nginx [engine x] é HTTP um servidor proxy reverso
mahout-client0.13.0A biblioteca de Machine Learning.
mxnet1.5.1Uma biblioteca flexível, escalável e eficiente para aprendizado aprofundado.
mariadb-server5.5.64Meu servidor SQL de banco de dados.
nvidia-cuda9.2.88Drivers NVIDIA e toolkit CUDA
oozie-client5.2.0O cliente da linha de comando do Oozie.
oozie-server5.2.0O serviço que aceita solicitações de fluxo de trabalho do Oozie.
opencv3.4.0Biblioteca de Visão Computacional de Código Aberto.
phoenix-library4.14.3- -1,4 HBaseAs bibliotecas do phoenix para servidor e cliente
phoenix-query-server4.14.3- -1,4 HBaseUm servidor leve que fornece JDBC acesso, buffers de protocolo e acesso ao JSON formato do Avatica API
presto-coordinator0.232O serviço que aceita consultas e gerencia a execução de consultas entre os presto-workers.
presto-worker0.232O serviço que executa partes de uma consulta.
presto-client0.232Cliente de linha de comando do Presto instalado em mestres de espera de um cluster de alta disponibilidade em que o servidor do Presto não é iniciado.
pig-client0.17.0O cliente da linha de comando do Pig.
r3.4.3O projeto R para computação estatística
ranger-kms-server1.2.0Sistema de gerenciamento de chaves Apache Ranger
spark-client2.4.5-amzn-0Os clientes da linha de comando do Spark.
spark-history-server2.4.5-amzn-0A interface de usuário da web para visualizar os eventos registrados por toda a vida útil de um aplicativo Spark concluído.
spark-on-yarn2.4.5-amzn-0Mecanismo de execução na memória paraYARN.
spark-yarn-slave2.4.5-amzn-0Bibliotecas do Apache Spark necessárias para escravos. YARN
sqoop-client1.4.7O cliente da linha de comando do Apache Sqoop.
tensorflow1.14.0TensorFlow biblioteca de software de código aberto para computação numérica de alto desempenho.
tez-on-yarn0.9.2O YARN aplicativo e as bibliotecas tez.
webserver2.4.25+HTTPServidor Apache.
zeppelin-server0.8.2O notebook baseado na web que permite a análise de dados interativa.
zookeeper-server3.4.14O serviço centralizado de manutenção de informações de configuração, nomenclatura, fornecimento de sincronização distribuída, e fornecimento de serviços de grupo.
zookeeper-client3.4.14ZooKeeper cliente de linha de comando.

Classificações de configuração 5.30.0

As classificações de configuração permitem que você personalize aplicações. Eles geralmente correspondem a um XML arquivo de configuração do aplicativo, comohive-site.xml. Para obter mais informações, consulte Configurar aplicações.

Classificações do emr-5.30.0
Classificações Descrição

capacity-scheduler

Alterar os valores no arquivo capacity-scheduler.xml do Hadoop.

container-log4j

Altere os valores no arquivo container-log4j.properties YARN do Hadoop.

core-site

Alterar os valores no arquivo core-site.xml do Hadoop.

emrfs-site

Altere EMRFS as configurações.

flink-conf

Alterar as configurações do flink-conf.yaml.

flink-log4j

Alterar as configurações de log4j.properties no Flink.

flink-log4j-yarn-session

Altere as configurações do Flink log4 j-yarn-session .properties.

flink-log4j-cli

Alterar as configurações de log4j-cli.properties no Flink.

hadoop-env

Alterar os valores no ambiente do Hadoop para todos os componentes do Hadoop.

hadoop-log4j

Alterar os valores no arquivo log4j.properties do Hadoop.

hadoop-ssl-server

Alterar a configuração do servidor SSL no Hadoop

hadoop-ssl-client

Alterar a configuração do cliente SSL no Hadoop

hbase

Configurações EMR selecionadas pela Amazon para Apache. HBase

hbase-env

Mude os valores no HBase ambiente.

hbase-log4j

Altere os valores no arquivo HBase hbase-log4j.properties.

hbase-metrics

Altere os valores no arquivo HBase hadoop-metrics2-hbase.properties do.

hbase-policy

Altere os valores no HBase arquivo hbase-policy.xml do.

hbase-site

Altere os valores no HBase arquivo hbase-site.xml do.

hdfs-encryption-zones

Configure zonas de HDFS criptografia.

hdfs-site

Altere os valores no HDFS hdfs-site.xml.

hcatalog-env

Mude os valores no HCatalog ambiente.

hcatalog-server-jndi

Altere os valores em HCatalog jndi.properties.

hcatalog-server-proto-hive-site

Altere os valores em HCatalog proto-hive-site .xml.

hcatalog-webhcat-env

Altere os valores no ambiente ebHCat de HCatalog W.

hcatalog-webhcat-log4j2

Altere os valores nas propriedades ebHCat log4j2.properties de HCatalog W.

hcatalog-webhcat-site

Altere os valores no arquivo webhcat-site.xml de HCatalog W. ebHCat

hive-beeline-log4j2

Alterar os valores no arquivo beeline-log4j2.properties do Hive.

hive-parquet-logging

Alterar os valores no arquivo parquet-logging.properties do Hive.

hive-env

Alterar os valores no ambiente do Hive.

hive-exec-log4j2

Altere os valores no arquivo hive-exec-log 4j2.properties do Hive.

hive-llap-daemon-log4j2

Altere os valores no arquivo llap-daemon-log 4j2.properties do Hive.

hive-log4j2

Alterar os valores no arquivo hive-log4j2.properties do Hive.

hive-site

Alterar os valores no arquivo hive-site.xml do Hive.

hiveserver2-site

Alterar os valores no arquivo hiveserver2-site.xml do Hive Server2.

hue-ini

Alterar os valores no arquivo ini do Hue

httpfs-env

Mude os valores no HTTPFS ambiente.

httpfs-site

Alterar os valores no arquivo httpfs-site.xml do Hadoop.

hadoop-kms-acls

Alterar os valores no arquivo kms-acls.xml do Hadoop.

hadoop-kms-env

Altere os valores no ambiente HadoopKMS.

hadoop-kms-log4j

Alterar os valores no arquivo kms-log4j.properties do Hadoop.

hadoop-kms-site

Alterar os valores no arquivo kms-site.xml do Hadoop.

hudi-env

Altere os valores no ambiente do Hudi.

jupyter-notebook-conf

Alterar os valores no arquivo jupyter_notebook_config.py do Notebook Jupyter.

jupyter-hub-conf

Altere os valores no JupyterHubs arquivo jupyterhub_config.py do.

jupyter-s3-conf

Configurar a persistência do notebook Jupyter S3.

jupyter-sparkmagic-conf

Altere os valores no arquivo config.json do Sparkmagic.

livy-conf

Alterar os valores no arquivo livy.conf do Livy.

livy-env

Alterar os valores no ambiente do Livy.

livy-log4j

Alterar as configurações de log4j.properties no Livy.

mapred-env

Altere os valores no ambiente do MapReduce aplicativo.

mapred-site

Altere os valores no arquivo mapred-site.xml do MapReduce aplicativo.

oozie-env

Alterar os valores no ambiente do Oozie.

oozie-log4j

Alterar os valores no arquivo oozie-log4j.properties do Oozie.

oozie-site

Alterar os valores no arquivo oozie-site.xml do Oozie.

phoenix-hbase-metrics

Alterar os valores no arquivo hadoop-metrics2-hbase.properties do Phoenix.

phoenix-hbase-site

Alterar os valores no arquivo hbase-site.xml do Phoenix.

phoenix-log4j

Alterar os valores no arquivo log4j.properties do Phoenix.

phoenix-metrics

Alterar os valores no arquivo hadoop-metrics2-phoenix.properties do Phoenix.

pig-env

Alterar os valores no ambiente do Pig.

pig-properties

Alterar os valores no arquivo pig.properties do Pig.

pig-log4j

Alterar os valores no arquivo log4j.properties do Pig.

presto-log

Alterar os valores no arquivo log.properties do Presto.

presto-config

Alterar os valores no arquivo config.properties do Presto.

presto-password-authenticator

Altere os valores no arquivo password-authenticator.properties do Presto.

presto-env

Altere os valores no arquivo presto-env.sh do Presto.

presto-node

Altere os valores no arquivo node.properties do Presto.

presto-connector-blackhole

Alterar os valores no arquivo blackhole.properties do Presto.

presto-connector-cassandra

Alterar os valores no arquivo cassandra.properties do Presto.

presto-connector-hive

Alterar os valores no arquivo hive.properties do Presto.

presto-connector-jmx

Alterar os valores no arquivo jmx.properties do Presto.

presto-connector-kafka

Alterar os valores no arquivo kafka.properties do Presto.

presto-connector-localfile

Alterar os valores no arquivo localfile.properties do Presto.

presto-connector-memory

Alterar os valores no arquivo memory.properties do Presto.

presto-connector-mongodb

Alterar os valores no arquivo mongodb.properties do Presto.

presto-connector-mysql

Alterar os valores no arquivo mysql.properties do Presto.

presto-connector-postgresql

Alterar os valores no arquivo postgresql.properties do Presto.

presto-connector-raptor

Alterar os valores no arquivo raptor.properties do Presto.

presto-connector-redis

Alterar os valores no arquivo redis.properties do Presto.

presto-connector-redshift

Alterar os valores no arquivo de propriedades redshift do Presto.

presto-connector-tpch

Alterar os valores no arquivo tpch.properties do Presto.

presto-connector-tpcds

Alterar os valores no arquivo tpcds.properties do Presto.

ranger-kms-dbks-site

Altere os valores no arquivo dbks-site.xml do Ranger. KMS

ranger-kms-site

Altere os valores no ranger-kms-site arquivo.xml do RangerKMS.

ranger-kms-env

Altere os valores no KMS ambiente Ranger.

ranger-kms-log4j

Altere os valores no arquivo kms-log4j.properties do Ranger. KMS

ranger-kms-db-ca

Altere os valores do arquivo CA no S3 para Minha SQL SSL conexão com o RangerKMS.

recordserver-env

Mude os valores no EMR RecordServer ambiente.

recordserver-conf

Altere os valores no arquivo EMR RecordServer erver.properties do.

recordserver-log4j

Altere os valores no EMR RecordServer arquivo log4j.properties.

spark

Configurações EMR selecionadas pela Amazon para o Apache Spark.

spark-defaults

Alterar os valores no arquivo spark-defaults.conf do Spark.

spark-env

Alterar os valores no ambiente do Spark.

spark-hive-site

Alterar os valores no arquivo hive-site.xml do Spark.

spark-log4j

Alterar os valores no arquivo log4j.properties do Spark.

spark-metrics

Alterar os valores no arquivo metrics.properties do Spark.

sqoop-env

Alterar os valores no ambiente do Sqoop.

sqoop-oraoop-site

Altere os valores no arquivo oraoop-site.xml OraOop do Sqoop.

sqoop-site

Alterar os valores no arquivo sqoop-site.xml do Sqoop.

tez-site

Alterar os valores no arquivo tez-site.xml do Tez.

yarn-env

Mude os valores no YARN ambiente.

yarn-site

Altere os valores no YARN arquivo yarn-site.xml do.

zeppelin-env

Alterar os valores no ambiente do Zeppelin.

zookeeper-config

Altere os valores no ZooKeeper arquivo zoo.cfg do.

zookeeper-log4j

Altere os valores no ZooKeeper arquivo log4j.properties.