Amazon EMR versão 5.34.0 - Amazon EMR
Versões 5.34.0 da aplicaçãoNotas da versão 5.34.0Versões de componente 5.34.0Classificações de configuração 5.34.0

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Amazon EMR versão 5.34.0

Versões 5.34.0 da aplicação

Os seguintes aplicativos são compatíveis com esta versão: Flink, Ganglia, HBase, HCatalog, Hadoop, Hive, Hudi, Hue, JupyterEnterpriseGateway, JupyterHub, Livy, MXNet, Mahout, Oozie, Phoenix, Pig, Presto, Spark, Sqoop, TensorFlow, Tez, Zeppelin, e ZooKeeper.

A tabela abaixo lista as versões do aplicativo disponíveis nesta versão da Amazon EMR e as versões do aplicativo nas três EMR versões anteriores da Amazon (quando aplicável).

Para obter um histórico abrangente das versões do aplicativo para cada lançamento da AmazonEMR, consulte os seguintes tópicos:

Informações da versão da aplicação
emr-5.34.0 emr-5.33.1 emr-5.33.0 emr-5.32.1
AWS SDKpara Java 1.11.9701.11.9701.11.9701.11.890
Python 2,7, 3,72,7, 3,72,7, 3,72,7, 3,7
Scala 2.11.122.11.122.11.122.11.12
AmazonCloudWatchAgent - - - -
Delta - - - -
Flink1.13.11.12.11.12.11.11.2
Ganglia3.7.23.7.23.7.23.7.2
HBase1.4.131.4.131.4.131.4.13
HCatalog2.3.82.3.72.3.72.3.7
Hadoop2.10.12.10.12.10.12.10.1
Hive2.3.82.3.72.3.72.3.7
Hudi0.9.0-amzn-00.7.0-amzn-10.7.0-amzn-10.6.0-amzn-0
Hue4.9.04.9.04.9.04.8.0
Iceberg - - - -
JupyterEnterpriseGateway2.1.02.1.02.1.02.1.0
JupyterHub1.4.11.2.21.2.21.1.0
Livy0.7.10.7.00.7.00.7.0
MXNet1.8.01.7.01.7.01.7.0
Mahout0.13.00.13.00.13.00.13.0
Oozie5.2.15.2.05.2.05.2.0
Phoenix4.14.34.14.34.14.34.14.3
Pig0.17.00.17.00.17.00.17.0
Presto0,2610,245,10,245,10,240,1
Spark2.4.82.4.72.4.72.4.7
Sqoop1.4.71.4.71.4.71.4.7
TensorFlow2.4.12.4.12.4.12.3.1
Tez0.9.20.9.20.9.20.9.2
Trino (Em breve) SQL - - - -
Zeppelin0.10.00.9.00.9.00.8.2
ZooKeeper3.4.143.4.143.4.143.4.14

Notas da versão 5.34.0

As notas de lançamento a seguir incluem informações sobre a EMR versão 5.34.0 da Amazon. As alterações são referentes à versão 5.33.1.

Data da versão inicial: 20 de janeiro de 2022

Data da versão atualizada: 21 de março de 2022

Novos atributos

  • [Escalabilidade gerenciada] Otimização de escalabilidade gerenciada de dados do Spark shuffle - Para EMR as versões 5.34.0 e posteriores da Amazon e as EMR versões 6.4.0 e posteriores, a escalabilidade gerenciada agora reconhece os dados do Spark shuffle (dados que o Spark redistribui entre partições para realizar operações específicas). Para obter mais informações sobre operações aleatórias, consulte Como usar a escalabilidade EMR gerenciada na Amazon no Guia de EMR Gerenciamento EMR da Amazon e no Guia de Programação do Spark.

  • [Hudi] Melhorias para simplificar a configuração do Hudi. Desabilitado o controle de simultaneidade otimista por padrão.

Alterações, melhorias e problemas resolvidos

  • Esta é uma versão para corrigir problemas com o Amazon EMR Scaling quando ele falha na escalabilidade ou redução de escala de um cluster com sucesso ou causa falhas no aplicativo.

  • Anteriormente, a reinicialização manual do gerenciador de recursos em um cluster multimestre fazia com que os daemons EMR no cluster da Amazon, como o Zookeeper, recarregassem todos os nós anteriormente desativados ou perdidos no arquivo znode do Zookeeper. Isso fez com que os limites padrão fossem excedidos em determinadas situações. A Amazon EMR agora remove os registros de nós desativados ou perdidos há mais de uma hora do arquivo do Zookeeper e os limites internos foram aumentados.

  • Corrigido um problema em que as solicitações de escalabilidade falhavam em um cluster grande e altamente utilizado quando os daemons no cluster da EMR Amazon estavam executando atividades de verificação de integridade, como coletar o estado do nó e o estado do YARN nó. HDFS Isso estava acontecendo porque os daemons no cluster não conseguiam comunicar os dados do status de saúde de um nó aos componentes internos da Amazon. EMR

  • Daemons EMR no cluster aprimorados para rastrear corretamente os estados dos nós quando os endereços IP são reutilizados para melhorar a confiabilidade durante as operações de escalabilidade.

  • SPARK-29683. Corrigido um problema em que ocorriam falhas de trabalho durante a redução da escala verticalmente do cluster, pois o Spark presumia que todos os nós disponíveis estavam na lista de negação.

  • YARN-9011. Corrigido um problema em que falhas de trabalho ocorriam devido a uma condição de corrida no YARN descomissionamento quando o cluster tentava aumentar ou diminuir a escala.

  • Foi corrigido o problema com falhas de etapas ou tarefas durante a escalabilidade do cluster, garantindo que os estados dos nós fossem sempre consistentes entre os EMR daemons no cluster da Amazon e/. YARN HDFS

  • Corrigido um problema em que operações de cluster, como redução de escala e envio de etapas, falhavam em EMR clusters da Amazon habilitados com a autenticação Kerberos. Isso ocorreu porque o daemon no EMR cluster da Amazon não renovou o tíquete Kerberos, que é necessário para se comunicar de forma segura com/em execução no nó primário. HDFS YARN

  • Zeppelin atualizado para a versão 0.10.0.

  • Livy Fix: atualizado para 0.7.1

  • Melhoria do desempenho do Spark - executores heterogêneos são desativados quando determinados valores de configuração do Spark são substituídos na versão 5.34.0. EMR

  • O servidor Web HDFS e o servidor HTTPFs estão desativados por padrão. Você pode reativar a Web HDFS usando a configuração do Hadoop,. dfs.webhdfs.enabled O servidor HttpFS pode ser iniciado usando sudo systemctl start hadoop-httpfs.

Problemas conhecidos

  • O recurso Amazon EMR Notebooks usado com a representação de usuário do Livy não funciona porque o HTTPFs está desativado por padrão. Nesse caso, o EMR notebook não pode se conectar ao cluster que tem a representação Livy ativada. A solução alternativa é iniciar o servidor HTTPFs antes de conectar o EMR notebook ao cluster usando o. sudo systemctl start hadoop-httpfs

  • As consultas Hue não funcionam no Amazon EMR 6.4.0 porque o servidor Apache Hadoop HTTPFs está desativado por padrão. Para usar o Hue na Amazon EMR 6.4.0, inicie manualmente o servidor HTTPFs no nó EMR primário da Amazon usando sudo systemctl start hadoop-httpfs ou use uma etapa da Amazon. EMR

  • O recurso Amazon EMR Notebooks usado com a representação de usuário do Livy não funciona porque o HTTPFs está desativado por padrão. Nesse caso, o EMR notebook não pode se conectar ao cluster que tem a representação Livy ativada. A solução alternativa é iniciar o servidor HTTPFs antes de conectar o EMR notebook ao cluster usando o. sudo systemctl start hadoop-httpfs

  • Quando você usa o Spark com a formatação de localização de partições do Hive para ler dados no Amazon S3 e executa o Spark nas EMR versões 5.30.0 a 5.36.0 e 6.2.0 a 6.9.0 da Amazon, você pode encontrar um problema que impede seu cluster de ler os dados corretamente. Isso poderá acontecer se suas partições tiverem todas as características a seguir:

    • Duas ou mais partições são verificadas na mesma tabela.

    • Pelo menos um caminho de diretório de partição é um prefixo de pelo menos outro caminho de diretório de partição, por exemplo, s3://bucket/table/p=a é um prefixo de s3://bucket/table/p=a b.

    • O primeiro caractere que segue o prefixo no outro diretório de partição tem um valor UTF -8 menor que o / caractere (U+002F). Por exemplo, o caractere de espaço (U+0020) que ocorre entre a e b em s3://bucket/table/p=a b se enquadra nessa categoria. Observe que existem 14 outros caracteres que não são de controle: !"#$%&‘()*+,-. Para obter mais informações, consulte a tabela de codificação UTF -8 e caracteres Unicode.

    Como solução alternativa para esse problema, defina a configuração spark.sql.sources.fastS3PartitionDiscovery.enabled como false na classificação spark-defaults.

Versões de componente 5.34.0

Os componentes que a Amazon EMR instala com esta versão estão listados abaixo. Alguns são instalados como parte de pacotes de aplicativos de big data. Outros são exclusivos da Amazon EMR e são instalados para processos e recursos do sistema. Eles normalmente começam com emr ou aws. Os pacotes de aplicativos de big data na versão mais recente da Amazon EMR geralmente são a versão mais recente encontrada na comunidade. Disponibilizamos lançamentos comunitários na Amazon o mais EMR rápido possível.

Alguns componentes na Amazon EMR diferem das versões da comunidade. Esses componentes tem um rótulo de versão no formulário CommunityVersion-amzn-EmrVersion. O EmrVersion começa em 0. Por exemplo, se um componente de comunidade de código aberto nomeado myapp-component com a versão 2.2 tiver sido modificado três vezes para inclusão em diferentes EMR versões da Amazon, sua versão de lançamento será listada como2.2-amzn-2.

Componente Version (Versão) Descrição
aws-sagemaker-spark-sdk1.4.1Amazon SageMaker Spark SDK
emr-ddb4.16.0O conector do Amazon DynamoDB para aplicativos do ecossistema do Hadoop.
emr-goodies2.14.0Bibliotecas convenientes para o ecossistema do Hadoop.
emr-kinesis3.5.0O conector do Amazon Kinesis para aplicativos do ecossistema do Hadoop.
emr-notebook-env1.4.0Ambiente Conda para bloco de anotações do emr, que inclui o jupyter enterprise gateway
emr-s3-dist-cp2.18.0Cópia distribuída otimizada de aplicativos para o Amazon S3.
emr-s3-select1.7.0EMRConector S3Select
emrfs2.48.0O conector do Amazon S3 para aplicações do ecossistema do Hadoop.
flink-client1.13.1Scripts do cliente da linha de comando e aplicativos do Apache Flink.
flink-jobmanager-config1.13.1Gerenciando recursos em EMR nós para o Apache JobManager Flink.
ganglia-monitor3.7.2O agente incorporado do Ganglia para aplicativos do ecossistema do Hadoop, juntamente com o agente de monitoramento do Ganglia.
ganglia-metadata-collector3.7.2O coletor de metadados do Ganglia para agregar métricas de agentes de monitoramento do Ganglia.
ganglia-web3.7.1O aplicativo web para visualizar as métricas coletadas pelo coletor de metadados do Ganglia.
hadoop-client2.10.1-amzn-2Clientes da linha de comando do Hadoop, como 'hdfs', 'hadoop', ou 'yarn'.
hadoop-hdfs-datanode2.10.1-amzn-2HDFSserviço em nível de nó para armazenar blocos.
hadoop-hdfs-library2.10.1-amzn-2HDFScliente e biblioteca de linha de comando
hadoop-hdfs-namenode2.10.1-amzn-2HDFSserviço para rastrear nomes de arquivos e localizações de blocos.
hadoop-hdfs-journalnode2.10.1-amzn-2HDFSserviço para gerenciar o diário do sistema de arquivos Hadoop em clusters HA.
hadoop-httpfs-server2.10.1-amzn-2HTTPendpoint para HDFS operações.
hadoop-kms-server2.10.1-amzn-2Servidor de gerenciamento de chaves criptográficas baseado no Hadoop. KeyProvider API
hadoop-mapred2.10.1-amzn-2MapReduce bibliotecas de mecanismos de execução para executar um MapReduce aplicativo.
hadoop-yarn-nodemanager2.10.1-amzn-2YARNserviço para gerenciar contêineres em um nó individual.
hadoop-yarn-resourcemanager2.10.1-amzn-2YARNserviço para alocar e gerenciar recursos de cluster e aplicativos distribuídos.
hadoop-yarn-timeline-server2.10.1-amzn-2Serviço para recuperar informações atuais e históricas para YARN aplicativos.
hbase-hmaster1.4.13Serviço para um HBase cluster responsável pela coordenação das regiões e execução de comandos administrativos.
hbase-region-server1.4.13Serviço para atender a uma ou mais HBase regiões.
hbase-client1.4.13HBasecliente de linha de comando.
hbase-rest-server1.4.13Serviço que fornece um RESTful HTTP endpoint paraHBase.
hbase-thrift-server1.4.13Serviço que fornece um endpoint Thrift para. HBase
hcatalog-client2.3.8-amzn-0O cliente da linha de comando 'hcat' para manipular o hcatalog-server.
hcatalog-server2.3.8-amzn-0Fornecimento de serviçosHCatalog, uma camada de gerenciamento de tabelas e armazenamento para aplicativos distribuídos.
hcatalog-webhcat-server2.3.8-amzn-0HTTPendpoint fornecendo uma REST interface paraHCatalog.
hive-client2.3.8-amzn-0O cliente da linha de comando do Hive.
hive-hbase2.3.8-amzn-0Cliente do Hive-hbase.
hive-metastore-server2.3.8-amzn-0Serviço para acessar o metastore Hive, um repositório semântico que armazena metadados para operações no Hadoop. SQL
hive-server22.3.8-amzn-0O serviço que aceita as consultas do Hive como solicitações da web.
hudi0.9.0-amzn-0Estrutura de processamento incremental para alimentar o pipeline de dados com baixa latência e alta eficiência.
hudi-spark0.9.0-amzn-0Biblioteca de pacotes para executar o Spark com o Hudi.
hudi-presto0.9.0-amzn-0Biblioteca de pacotes para executar o Presto com o Hudi.
hue-server4.9.0O aplicativo web para analisar dados usando aplicativos do ecossistema do Hadoop
jupyterhub1.4.1Servidor de vários usuários para blocos de anotações Jupyter
livy-server0.7.1-incubatingRESTinterface para interagir com o Apache Spark
nginx1.13.1nginx [engine x] é HTTP um servidor proxy reverso
mahout-client0.13.0A biblioteca de Machine Learning.
mxnet1.8.0Uma biblioteca flexível, escalável e eficiente para aprendizado aprofundado.
mariadb-server5.5.68Meu servidor SQL de banco de dados.
nvidia-cuda10.1.243Drivers NVIDIA e toolkit CUDA
oozie-client5.2.1O cliente da linha de comando do Oozie.
oozie-server5.2.1O serviço que aceita solicitações de fluxo de trabalho do Oozie.
opencv4.5.0Biblioteca de Visão Computacional de Código Aberto.
phoenix-library4.14.3- -1,4 HBaseAs bibliotecas do phoenix para servidor e cliente
phoenix-query-server4.14.3- -1,4 HBaseUm servidor leve que fornece JDBC acesso, buffers de protocolo e acesso ao JSON formato do Avatica API
presto-coordinator0.261-amzn-0O serviço que aceita consultas e gerencia a execução de consultas entre os presto-workers.
presto-worker0.261-amzn-0O serviço que executa partes de uma consulta.
presto-client0.261-amzn-0Cliente de linha de comando do Presto instalado em mestres de espera de um cluster de alta disponibilidade em que o servidor do Presto não é iniciado.
pig-client0.17.0O cliente da linha de comando do Pig.
r4.0.2O projeto R para computação estatística
ranger-kms-server1.2.0Sistema de gerenciamento de chaves Apache Ranger
spark-client2.4.8-amzn-0Os clientes da linha de comando do Spark.
spark-history-server2.4.8-amzn-0A interface de usuário da web para visualizar os eventos registrados por toda a vida útil de um aplicativo Spark concluído.
spark-on-yarn2.4.8-amzn-0Mecanismo de execução na memória paraYARN.
spark-yarn-slave2.4.8-amzn-0Bibliotecas do Apache Spark necessárias para escravos. YARN
sqoop-client1.4.7O cliente da linha de comando do Apache Sqoop.
tensorflow2.4.1TensorFlow biblioteca de software de código aberto para computação numérica de alto desempenho.
tez-on-yarn0.9.2O YARN aplicativo e as bibliotecas tez.
webserver2.4.25+HTTPServidor Apache.
zeppelin-server0.10.0O notebook baseado na web que permite a análise de dados interativa.
zookeeper-server3.4.14O serviço centralizado de manutenção de informações de configuração, nomenclatura, fornecimento de sincronização distribuída, e fornecimento de serviços de grupo.
zookeeper-client3.4.14ZooKeeper cliente de linha de comando.

Classificações de configuração 5.34.0

As classificações de configuração permitem que você personalize aplicações. Eles geralmente correspondem a um XML arquivo de configuração do aplicativo, comohive-site.xml. Para obter mais informações, consulte Configurar aplicações.

Ocorrem ações de reconfiguração quando você especifica uma configuração para grupos de instâncias em um cluster em execução. A Amazon EMR só inicia ações de reconfiguração para as classificações que você modifica. Para obter mais informações, consulte Reconfigurar um grupo de instâncias de um cluster em execução.

Classificações do emr-5.34.0
Classificações Descrição Ações de reconfiguração

capacity-scheduler

Alterar os valores no arquivo capacity-scheduler.xml do Hadoop.

Restarts the ResourceManager service.

container-executor

Altere os valores no arquivo container-executor.cfg YARN do Hadoop.

Not available.

container-log4j

Altere os valores no arquivo container-log4j.properties YARN do Hadoop.

Not available.

core-site

Alterar os valores no arquivo core-site.xml do Hadoop.

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Ranger KMS, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer.

docker-conf

Alterar as configurações relacionadas ao docker.

Not available.

emrfs-site

Altere EMRFS as configurações.

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts HBaseRegionserver, HBaseMaster, HBaseThrift, HBaseRest, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer.

flink-conf

Alterar as configurações do flink-conf.yaml.

Restarts Flink history server.

flink-log4j

Alterar as configurações de log4j.properties no Flink.

Restarts Flink history server.

flink-log4j-session

Alterar as configurações de log4j-yarn-session.properties no Flink para sessão do Kubernetes/Yarn.

Not available.

flink-log4j-cli

Alterar as configurações de log4j-cli.properties no Flink.

Restarts Flink history server.

hadoop-env

Alterar os valores no ambiente do Hadoop para todos os componentes do Hadoop.

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts PhoenixQueryserver, HiveServer2, Hive MetaStore, and MapReduce-HistoryServer.

hadoop-log4j

Alterar os valores no arquivo log4j.properties do Hadoop.

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Hadoop Httpfs, and MapReduce-HistoryServer.

hadoop-ssl-server

Alterar a configuração do servidor SSL no Hadoop

Not available.

hadoop-ssl-client

Alterar a configuração do cliente SSL no Hadoop

Not available.

hbase

Configurações EMR selecionadas pela Amazon para Apache. HBase

Custom EMR specific property. Sets emrfs-site and hbase-site configs. See those for their associated restarts.

hbase-env

Mude os valores no HBase ambiente.

Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer.

hbase-log4j

Altere os valores no arquivo HBase hbase-log4j.properties.

Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer.

hbase-metrics

Altere os valores no arquivo HBase hadoop-metrics2-hbase.properties do.

Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer.

hbase-policy

Altere os valores no HBase arquivo hbase-policy.xml do.

Not available.

hbase-site

Altere os valores no HBase arquivo hbase-site.xml do.

Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. Additionally restarts Phoenix QueryServer.

hdfs-encryption-zones

Configure zonas de HDFS criptografia.

Should not be reconfigured.

hdfs-site

Altere os valores em HDFS's hdfs-site.xml.

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Additionally restarts Hadoop Httpfs.

hcatalog-env

Mude os valores no HCatalog ambiente.

Restarts Hive HCatalog Server.

hcatalog-server-jndi

Altere os valores em HCatalog jndi.properties.

Restarts Hive HCatalog Server.

hcatalog-server-proto-hive-site

Altere os valores em HCatalog proto-hive-site .xml.

Restarts Hive HCatalog Server.

hcatalog-webhcat-env

Altere os valores no ambiente ebHCat de HCatalog W.

Restarts Hive WebHCat Server.

hcatalog-webhcat-log4j2

Altere os valores nas propriedades ebHCat log4j2.properties de HCatalog W.

Restarts Hive WebHCat Server.

hcatalog-webhcat-site

Altere os valores no arquivo webhcat-site.xml de HCatalog W. ebHCat

Restarts Hive WebHCat Server.

hive-beeline-log4j2

Alterar os valores no arquivo beeline-log4j2.properties do Hive.

Not available.

hive-parquet-logging

Alterar os valores no arquivo parquet-logging.properties do Hive.

Not available.

hive-env

Alterar os valores no ambiente do Hive.

Restarts HiveServer2 and HiveMetastore. Runs Hive schemaTool CLI commands to verify hive-metastore.

hive-exec-log4j2

Altere os valores no arquivo hive-exec-log 4j2.properties do Hive.

Restarts HiveServer2 and HiveMetastore.

hive-llap-daemon-log4j2

Altere os valores no arquivo llap-daemon-log 4j2.properties do Hive.

Not available.

hive-log4j2

Alterar os valores no arquivo hive-log4j2.properties do Hive.

Not available.

hive-site

Alterar os valores no arquivo hive-site.xml do Hive.

Restarts HiveServer2 and HiveMetastore. Runs Hive schemaTool CLI commands to verify hive-metastore. Also restarts Oozie and Zeppelin.

hiveserver2-site

Alterar os valores no arquivo hiveserver2-site.xml do Hive Server2.

Not available.

hue-ini

Alterar os valores no arquivo ini do Hue

Restarts Hue. Also activates Hue config override CLI commands to pick up new configurations.

httpfs-env

Mude os valores no HTTPFS ambiente.

Restarts Hadoop Httpfs service.

httpfs-site

Alterar os valores no arquivo httpfs-site.xml do Hadoop.

Restarts Hadoop Httpfs service.

hadoop-kms-acls

Alterar os valores no arquivo kms-acls.xml do Hadoop.

Not available.

hadoop-kms-env

Altere os valores no ambiente HadoopKMS.

Restarts Hadoop-KMS service.

hadoop-kms-log4j

Alterar os valores no arquivo kms-log4j.properties do Hadoop.

Not available.

hadoop-kms-site

Alterar os valores no arquivo kms-site.xml do Hadoop.

Restarts Hadoop-KMS and Ranger-KMS service.

hudi-env

Altere os valores no ambiente do Hudi.

Not available.

jupyter-notebook-conf

Alterar os valores no arquivo jupyter_notebook_config.py do Notebook Jupyter.

Not available.

jupyter-hub-conf

Altere os valores no JupyterHubs arquivo jupyterhub_config.py do.

Not available.

jupyter-s3-conf

Configurar a persistência do notebook Jupyter S3.

Not available.

jupyter-sparkmagic-conf

Altere os valores no arquivo config.json do Sparkmagic.

Not available.

livy-conf

Alterar os valores no arquivo livy.conf do Livy.

Restarts Livy Server.

livy-env

Alterar os valores no ambiente do Livy.

Restarts Livy Server.

livy-log4j

Alterar as configurações de log4j.properties no Livy.

Restarts Livy Server.

mapred-env

Altere os valores no ambiente do MapReduce aplicativo.

Restarts Hadoop MapReduce-HistoryServer.

mapred-site

Altere os valores no arquivo mapred-site.xml do MapReduce aplicativo.

Restarts Hadoop MapReduce-HistoryServer.

oozie-env

Alterar os valores no ambiente do Oozie.

Restarts Oozie.

oozie-log4j

Alterar os valores no arquivo oozie-log4j.properties do Oozie.

Restarts Oozie.

oozie-site

Alterar os valores no arquivo oozie-site.xml do Oozie.

Restarts Oozie.

phoenix-hbase-metrics

Alterar os valores no arquivo hadoop-metrics2-hbase.properties do Phoenix.

Not available.

phoenix-hbase-site

Alterar os valores no arquivo hbase-site.xml do Phoenix.

Not available.

phoenix-log4j

Alterar os valores no arquivo log4j.properties do Phoenix.

Restarts Phoenix-QueryServer.

phoenix-metrics

Alterar os valores no arquivo hadoop-metrics2-phoenix.properties do Phoenix.

Not available.

pig-env

Alterar os valores no ambiente do Pig.

Not available.

pig-properties

Alterar os valores no arquivo pig.properties do Pig.

Restarts Oozie.

pig-log4j

Alterar os valores no arquivo log4j.properties do Pig.

Not available.

presto-log

Alterar os valores no arquivo log.properties do Presto.

Restarts Presto-Server.

presto-config

Alterar os valores no arquivo config.properties do Presto.

Restarts Presto-Server.

presto-password-authenticator

Altere os valores no arquivo password-authenticator.properties do Presto.

Not available.

presto-env

Altere os valores no arquivo presto-env.sh do Presto.

Restarts Presto-Server.

presto-node

Altere os valores no arquivo node.properties do Presto.

Not available.

presto-connector-blackhole

Alterar os valores no arquivo blackhole.properties do Presto.

Not available.

presto-connector-cassandra

Alterar os valores no arquivo cassandra.properties do Presto.

Not available.

presto-connector-hive

Alterar os valores no arquivo hive.properties do Presto.

Restarts Presto-Server.

presto-connector-jmx

Alterar os valores no arquivo jmx.properties do Presto.

Not available.

presto-connector-kafka

Alterar os valores no arquivo kafka.properties do Presto.

Not available.

presto-connector-localfile

Alterar os valores no arquivo localfile.properties do Presto.

Not available.

presto-connector-memory

Alterar os valores no arquivo memory.properties do Presto.

Not available.

presto-connector-mongodb

Alterar os valores no arquivo mongodb.properties do Presto.

Not available.

presto-connector-mysql

Alterar os valores no arquivo mysql.properties do Presto.

Not available.

presto-connector-postgresql

Alterar os valores no arquivo postgresql.properties do Presto.

Not available.

presto-connector-raptor

Alterar os valores no arquivo raptor.properties do Presto.

Not available.

presto-connector-redis

Alterar os valores no arquivo redis.properties do Presto.

Not available.

presto-connector-redshift

Alterar os valores no arquivo de propriedades redshift do Presto.

Not available.

presto-connector-tpch

Alterar os valores no arquivo tpch.properties do Presto.

Not available.

presto-connector-tpcds

Alterar os valores no arquivo tpcds.properties do Presto.

Not available.

ranger-kms-dbks-site

Altere os valores no arquivo dbks-site.xml do Ranger. KMS

Restarts Ranger KMS Server.

ranger-kms-site

Altere os valores no ranger-kms-site arquivo.xml do RangerKMS.

Restarts Ranger KMS Server.

ranger-kms-env

Altere os valores no KMS ambiente Ranger.

Restarts Ranger KMS Server.

ranger-kms-log4j

Altere os valores no arquivo kms-log4j.properties do Ranger. KMS

Not available.

ranger-kms-db-ca

Altere os valores do arquivo CA no S3 para Minha SQL SSL conexão com o RangerKMS.

Not available.

recordserver-env

Mude os valores no EMR RecordServer ambiente.

Restarts EMR record server.

recordserver-conf

Altere os valores no arquivo EMR RecordServer erver.properties do.

Restarts EMR record server.

recordserver-log4j

Altere os valores no EMR RecordServer arquivo log4j.properties.

Restarts EMR record server.

spark

Configurações EMR selecionadas pela Amazon para o Apache Spark.

This property modifies spark-defaults. See actions there.

spark-defaults

Alterar os valores no arquivo spark-defaults.conf do Spark.

Restarts Spark history server and Spark thrift server.

spark-env

Alterar os valores no ambiente do Spark.

Restarts Spark history server and Spark thrift server.

spark-hive-site

Alterar os valores no arquivo hive-site.xml do Spark.

Not available.

spark-log4j

Alterar os valores no arquivo log4j.properties do Spark.

Restarts Spark history server and Spark thrift server.

spark-metrics

Alterar os valores no arquivo metrics.properties do Spark.

Restarts Spark history server and Spark thrift server.

sqoop-env

Alterar os valores no ambiente do Sqoop.

Not available.

sqoop-oraoop-site

Altere os valores no arquivo oraoop-site.xml OraOop do Sqoop.

Not available.

sqoop-site

Alterar os valores no arquivo sqoop-site.xml do Sqoop.

Not available.

tez-site

Alterar os valores no arquivo tez-site.xml do Tez.

Restarts Oozie.

yarn-env

Mude os valores no YARN ambiente.

Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts MapReduce-HistoryServer.

yarn-site

Altere os valores no YARN arquivo yarn-site.xml do.

Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Livy Server and MapReduce-HistoryServer.

zeppelin-env

Alterar os valores no ambiente do Zeppelin.

Restarts Zeppelin.

zeppelin-site

Alterar as definições da configuração em zeppelin-site.xml.

Restarts Zeppelin.

zookeeper-config

Altere os valores no ZooKeeper arquivo zoo.cfg do.

Restarts Zookeeper server.

zookeeper-log4j

Altere os valores no ZooKeeper arquivo log4j.properties.

Restarts Zookeeper server.