Rilascio 6.3.0 di Amazon EMR - Amazon EMR
Versioni delle applicazioniNote di rilascioVersioni dei componentiClassificazioni di configurazione

Rilascio 6.3.0 di Amazon EMR

Versioni delle applicazioni

In questo rilascio sono supportate le seguenti applicazioni: Flink, Ganglia, HBase, HCatalog, Hadoop, Hive, Hudi, Hue, JupyterEnterpriseGateway, JupyterHub, Livy, MXNet, Oozie, Phoenix, Pig, Presto, PrestoSQL, Spark, Sqoop, TensorFlow, Tez, Zeppelin, e ZooKeeper.

La seguente tabella elenca le versioni dell'applicazione disponibili in questo rilascio di Amazon EMR e quelle nei precedenti tre rilasci di Amazon EMR (quando applicabile).

Per la cronologia completa delle versioni dell'applicazione di ogni rilascio di Amazon EMR, fai riferimento ai seguenti argomenti:

Informazioni sulla versione dell'applicazione
emr-6.3.0 emr-6.2.1 emr-6.2.0 emr-6.1.1
SDK AWS per Java 1.11.9771.11.8801.11.8801.11.828
Python 2.7, 3.72.7, 3.72.7, 3.72.7, 3.7
Scala 2.12.102.12.102.12.102.12.10
Delta - - - -
Flink1.12.11.11.21.11.21.11.0
Ganglia3.7.23.7.23.7.23.7.2
HBase2.2.62.2.6-amzn-02.2.6-amzn-02.2.5
HCatalog3.1.23.1.23.1.23.1.2
Hadoop3.2.13.2.13.2.13.2.1
Hive3.1.23.1.23.1.23.1.2
Hudi0.7.0-amzn-00.6.0-amzn-10.6.0-amzn-10.5.2-incubating-amzn-2
Hue4.9.04.8.04.8.04.7.1
Iceberg - - - -
JupyterEnterpriseGateway2.1.02.1.02.1.0 -
JupyterHub1.2.21.1.01.1.01.1.0
Livy0.7.00.7.00.7.00.7.0
MXNet1.7.01.7.01.7.01.6.0
Mahout - - - -
Oozie5.2.15.2.05.2.05.2.0
Phoenix5.0.05.0.05.0.05.0.0
Pig0.17.00.17.00.17.00.17.0
Presto0.245.10.238.30.238.30.232
Spark3.1.13.0.13.0.13.0.0
Sqoop1.4.71.4.71.4.71.4.7
TensorFlow2.4.12.3.12.3.12.1.0
Tez0.9.20.9.20.9.20.9.2
Trino (PrestoSQL)350343343338
Zeppelin0.9.00.9.00.9.00.9.0
ZooKeeper3.4.143.4.143.4.143.4.14

Note di rilascio

Le seguenti note di rilascio includono informazioni relative al rilascio di Amazon EMR 6.3.0. Le modifiche sono relative alla versione 6.2.0.

Data del rilascio iniziale: 12 maggio 2021

Ultimo aggiornamento: 9 agosto 2021

Applicazioni supportate

  • AWS SDK for Java versione 1.11.977

  • CloudWatch Sink versione 2.1.0

  • DynamoDB Connector versione 4.16.0

  • EMRFS versione 2.46.0

  • Amazon EMR Goodies versione 3.2.0

  • Amazon EMR Kinesis Connector versione 3.5.0

  • Amazon EMR Record Server versione 2.0.0

  • Amazon EMR Scripts versione 2.5.0

  • Flink versione 1.12.1

  • Ganglia versione 3.7.2

  • AWS Glue Hive Metastore Client versione 3.2.0

  • Hadoop versione 3.2.1-amzn-3

  • HBase versione 2.2.6-amzn-1

  • HBase-operator-tools 1.0.0

  • HCatalog versione 3.1.2-amzn-0

  • Hive versione 3.1.2-amzn-4

  • Hudi versione 0.7.0-amzn-0

  • Hue versione 4.9.0

  • Java JDK versione Corretto-8.282.08.1 (build 1.8.0_282-b08)

  • JupyterHub versione 1.2.0

  • Livy versione 0.7.0-incubating

  • MXNet versione 1.7.0

  • Oozie versione 5.2.1

  • Phoenix versione 5.0.0

  • Pig versione 0.17.0

  • Presto versione 0.245.1-amzn-0

  • PrestoSQL versione 350

  • Apache Ranger KMS (crittografia trasparente multi-master) versione 2.0.0

  • ranger-plugins 2.0.1-amzn-0

  • ranger-s3-plugin 1.1.0

  • SageMaker Spark SDK versione 1.4.1

  • Scala versione 2.12.10 (VM server OpenJDK a 64 bit, Java 1.8.0_282)

  • Spark versione 3.1.1-amzn-0

  • spark-rapids 0.4.1

  • Sqoop versione 1.4.7

  • TensorFlow versione 2.4.1

  • tez versione 0.9.2

  • Zeppelin versione 0.9.0

  • Zookeeper versione 3.4.14

  • Connettori e driver: DynamoDB Connector 4.16.0

Nuove funzionalità di

  • Amazon EMR supporta Amazon S3 Access Point, una funzionalità di Amazon S3 che consente di gestire facilmente l'accesso ai data lake condivisi. Utilizzando il tuo alias Amazon S3 Access Point, puoi semplificare l'accesso ai dati su larga scala su Amazon EMR. Puoi utilizzare gli Amazon S3 Access Point con tutte le versioni di Amazon EMR senza alcun costo aggiuntivo in tutte le Regioni AWS in cui è disponibile Amazon EMR. Per ulteriori informazioni sugli alias degli Access Point e degli Amazon S3 Access Point, consulta Utilizzo di un alias in stile bucket per il punto di accesso nella Guida per l'utente di Amazon S3.

  • I nuovi parametri API di DescribeReleaseLabel e ListReleaseLabel forniscono i dettagli dell'etichetta di rilascio di Amazon EMR. L'utente può elencare a livello di programmazione i rilasci disponibili nella regione in cui viene eseguita la richiesta API ed elencare le applicazioni disponibili per un'etichetta di rilascio specifica di Amazon EMR. I parametri dell'etichetta di rilascio elencano anche i rilasci di Amazon EMR che supportano un'applicazione specifica, ad esempio Spark. Queste informazioni possono essere utilizzate per avviare a livello di programmazione cluster Amazon EMR. Ad esempio, è possibile avviare un cluster utilizzando la versione più recente dai risultati di ListReleaseLabel. Per ulteriori informazioni, consulta DescribeReleaseLabel e ListReleaseLabels nella Guida di riferimento alle API di Amazon EMR.

  • Con Amazon EMR 6.3.0, è possibile avviare un cluster che si integra nativamente con Apache Ranger. Apache Ranger è un framework open source che consente di abilitare, monitorare e gestire la sicurezza completa dei dati attraverso la piattaforma Hadoop. Per ulteriori informazioni, consulta Apache Ranger. L'integrazione nativa consente di utilizzare Apache Ranger per imporre un controllo granulare di accesso ai dati su Amazon EMR. Consulta Integrazione di Amazon EMR con Apache Ranger nella Guida alla gestione di Amazon EMR.

  • Criteri gestiti con ambito: per allinearsi con le best practice di AWS, Amazon EMR ha introdotto le policy con ambito gestite di default EMR v2 come sostituzioni per le policy che saranno rese obsolete. Consulta Policy gestite di Amazon EMR.

  • Stato del supporto IMDS (Instance Metadata Service) V2: per Amazon EMR 6.2 o versioni successive, i componenti Amazon EMR utilizzano IMDSv2 per tutte le chiamate IMDS. Per le chiamate IMDS nel codice dell'applicazione, è possibile utilizzare sia IMDSv1 che IMDSv2 oppure configurare IMDS per utilizzare solo IMDSv2 per una maggiore sicurezza. Se si disabilita IMDSv1 nelle versioni precedenti di Amazon EMR 6.x, si verificherà un errore di avvio del cluster.

Modifiche, miglioramenti e problemi risolti

  • Questa versione risolve i problemi di dimensionamento di Amazon EMR nei casi in cui non riesce ad aumentare/ridurre correttamente un cluster o causa errori dell'applicazione.

  • È stato risolto il problema per cui le richieste di dimensionamento avevano esito negativo per i cluster di grandi dimensioni e ad alto utilizzo quando i daemon su cluster di Amazon EMR eseguivano attività di controllo dell'integrità, come la raccolta dello stato del nodo YARN e dello stato del nodo HDFS. Ciò si verificava perché i daemon su cluster non erano in grado di comunicare i dati sullo stato di integrità di un nodo ai componenti interni di Amazon EMR.

  • I daemon su cluster di EMR sono stati migliorati per monitorare correttamente gli stati dei nodi quando gli indirizzi IP vengono riutilizzati per migliorare l'affidabilità durante le operazioni di dimensionamento.

  • SPARK-29683. È stato risolto il problema per cui si verificavano errori di processo durante la riduzione del cluster poiché Spark presupponeva che tutti i nodi disponibili fossero negati.

  • YARN-9011. È stato risolto il problema per cui si verificavano errori di processo a causa di una race condition nella disattivazione di YARN quando il cluster tentava di aumentare o ridursi.

  • È stato risolto il problema relativo agli errori di fase o processo durante il dimensionamento del cluster garantendo che gli stati dei nodi siano sempre coerenti tra i daemon su cluster di Amazon EMR e YARN/HDFS.

  • È stato risolto il problema a causa del quale le operazioni del cluster, come la riduzione e l'invio di fasi, non riuscivano per i cluster Amazon EMR abilitati con autenticazione Kerberos. Questo era dovuto al fatto che il daemon su cluster di Amazon EMR non rinnovava il ticket di Kerberos, necessario per comunicare in modo sicuro con HDFS/YARN in esecuzione sul nodo primario.

  • Le versioni più recenti di Amazon EMR risolvono il problema con un limite "Max open files" (Max. file aperti) sulla versione di AL2 meno recente di Amazon EMR. Le versioni di Amazon EMR 5.30.1, 5.30.2, 5.31.1, 5.32.1, 6.0.1, 6.1.1, 6.2.1, 5.33.0, 6.3.0 e successive includono ora una correzione permanente con un'impostazione "Max open files" (Max. file aperti).

  • La modalità di spiegazione dell'interfaccia utente di Spark SQL è cambiata di default da extended a formatted in Spark 3.1. Amazon EMR l'ha ripristinata a extended per includere le informazioni sul piano logico nell'interfaccia utente di Spark SQL. Questa può essere ripristinata impostando spark.sql.ui.explainMode su formatted.

  • I seguenti commit sono stati sottoposti al backport dal ramo principale di Spark.

    - [SPARK-34752][BUILD] Spostamento di Jetty a 9.4.37 per l'indirizzo CVE-2020-27223.

    - [SPARK-34534] Correzione dell'ordine blockIds quando si utilizza FetchShuffleBlocks per recuperare i blocchi.

    - [SPARK-34681] [SQL] Correzione del bug per l'hash join esterno completo mescolato quando si costruisce il lato sinistro con condizione non uguale.

    - [SPARK-34497] [SQL] Correzione dei provider di connessione JDBC incorporati per ripristinare le modifiche al contesto di sicurezza JVM.

  • Per migliorare l'interoperabilità con il plug-in Nvidia Spark RAPIDs, è stata aggiunta una soluzione alternativa per risolvere un problema che impedisce l'attivazione dell'eliminazione dinamica delle partizioni quando si utilizza Nvidia Spark RAPIDs con l'esecuzione di query adattiva disabilitata; consulta il problema RAPIDS n. 1378 e il problema RAPIDS n. 1386. Per dettagli sulla nuova configurazione spark.sql.optimizer.dynamicPartitionPruning.enforceBroadcastReuse, consulta il problema RAPIDS n. 1386.

  • L'algoritmo predefinito del committer di output del file è stato modificato dall'algoritmo v2 all'algoritmo v1 in Spark 3.1 open source. Per ulteriori informazioni, consulta Amazon EMR ottimizza le prestazioni di Spark: eliminazione dinamica delle partizioni.

  • Amazon EMR ha ripristinato l'algoritmo v2, il valore predefinito utilizzato nelle versioni di Amazon EMR precedenti alla 6.x, per evitare la regressione delle prestazioni. Per ripristinare il comportamento di Spark 3.1 open source, imposta spark.hadoop.mapreduce.fileoutputcommitter.algorithm.version su 1. Spark open source ha apportato questa modifica perché il task commit nell'algoritmo del committer v2 di output del file non è atomico, il che può causare un problema di correttezza dei dati di output in alcuni casi. Tuttavia, anche il task commit nell'algoritmo v1 non è atomico. In alcuni casi, il task commit include un'eliminazione eseguita prima di una rinomina. Ciò può causare un problema di correttezza dei dati silenti.

  • Risolti i problemi di dimensionamento gestito nelle versioni precedenti di Amazon EMR e apportati miglioramenti in modo da ridurre significativamente le percentuali di errore delle applicazioni.

  • Installato il AWS Java SDK Bundle su ogni nuovo cluster. Si tratta di un singolo jar contenente tutti gli SDK di servizio e le relative dipendenze, anziché i singoli jar di componenti. Per ulteriori informazioni, consulta Dipendenza dell'SDK in bundle.

Problemi noti

  • Per i cluster della sottorete privata di Amazon EMR 6.3.0 e 6.2.0 non è possibile accedere all'interfaccia utente Web di Ganglia. Verrà visualizzato l'errore "access denied (403) (accesso negato (403))". Altre interfacce utente Web, come Spark, Hue, JupyterHub, Zeppelin, Livy e Tez funzionano normalmente. Anche l'accesso all'interfaccia utente Web di Ganglia sui cluster della sottorete pubblica funziona normalmente. Per risolvere il problema, riavvia il servizio httpd sul nodo primario con sudo systemctl restart httpd. Questo problema è stato risolto in Amazon EMR 6.4.0.

  • Quando AWS Glue Data Catalog è abilitato, l'utilizzo di Spark per accedere a un AWS Glue DB con l'URI di posizione della stringa null potrebbe non andare a buon fine. Questo accade alle versioni precedenti di Amazon EMR, ma SPARK-31709 (https://issues.apache.org/jira/browse/SPARK-31709) lo rende applicabile a più casi. Ad esempio, quando si crea una tabella all'interno dell'AWS Glue DB di default il cui URI di posizione è una stringa null, spark.sql("CREATE TABLE mytest (key string) location '/table_path';") ha esito negativo con il messaggio "Cannot create a Path from an empty string (Impossibile creare un percorso da una stringa vuota)". Per aggirare questo problema, imposta manualmente un URI di posizione dei tuoi database AWS Glue, quindi crea tabelle all'interno di questi database utilizzando Spark.

  • In Amazon EMR 6.3.0, PrestoSQL è stato aggiornato dalla versione 343 alla versione 350. Sono state apportate due modifiche relative alla protezione rispetto all'open source. Il controllo dell'accesso al catalogo basato su file viene modificato da deny a allow quando le regole delle proprietà di tabella, schema o sessione non sono definite. Inoltre, il controllo dell'accesso al sistema basato su file viene modificato per supportare i file senza regole di catalogo definite. In questo caso, è consentito l'intero accesso ai cataloghi.

    Per ulteriori informazioni, consulta Rilascio 344 (9 ottobre 2020)

  • Nota che la directory utente Hadoop (/home/hadoop) è leggibile da chiunque. Infatti, è dotata delle autorizzazioni di directory Unix 755 (drwxr-xr-x) per consentire l'accesso in lettura da framework quali Hive. È possibile inserire i file in /home/hadoop e nelle sue sottodirectory, ma occorre essere consapevoli delle autorizzazioni in vigore su tali directory per proteggere le informazioni sensibili.

  • Riduci il limite "Max open files" (Max. file aperti) sulla versione di AL2 meno recente [corretto nelle versioni più recenti]. Rilasci di Amazon EMR: emr-5.30.x, emr-5.31.0, emr-5.32.0, emr-6.0.0, emr-6.1.0 ed emr-6.2.0 si basano sulle versioni precedenti di Amazon Linux 2 (AL2), le quali hanno un'impostazione ulimit inferiore per "Max open files (Max. file aperti)" quando i cluster Amazon EMR vengono creati con l'AMI predefinita. Le versioni di Amazon EMR 5.30.1, 5.30.2, 5.31.1, 5.32.1, 6.0.1, 6.1.1, 6.2.1, 5.33.0, 6.3.0 e successive includono una correzione permanente con un'impostazione "Max open files" (Max. file aperti). Le versioni con il limite minimo del file aperto causano l'errore "Too many open files" (Troppi file aperti) durante l'invio del processo Spark. Nelle versioni interessate, l'AMI predefinita di Amazon EMR ha un'impostazione ulimit di default di 4096 per "Max open files" (Max. file aperti), che è inferiore al limite di file 65536 nell'ultima AMI di Amazon Linux 2. L'impostazione ulimit inferiore per "Max open files (Max. file aperti)" causa il fallimento del processo Spark quando il driver e l'executor Spark tentano di aprire più di 4096 file. Per risolvere il problema, Amazon EMR dispone di uno script dell'operazione bootstrap (BA) che regola l'impostazione ulimit durante la creazione del cluster.

    Se utilizzi una versione di Amazon EMR meno recente che non ha la soluzione permanente per questo problema, la seguente soluzione alternativa consente di impostare esplicitamente l'ulimit del controller dell'istanza su un massimo di 65536 file.

    Impostazione di un ulimit esplicito dalla riga di comando

    1. Modifica /etc/systemd/system/instance-controller.service per aggiungere i seguenti parametri alla sezione Servizio.

      LimitNOFILE=65536

      LimitNPROC=65536

    2. Riavvio di InstanceController

      $ sudo systemctl daemon-reload

      $ sudo systemctl restart instance-controller

    Impostazione di un ulimit usando l'operazione di bootstrap (BA)

    È inoltre possibile utilizzare uno script dell'operazione di bootstrap (BA) per configurare l'ulimit del controller di istanza a 65536 file durante la creazione del cluster.

    #!/bin/bash
for user in hadoop spark hive; do
sudo tee /etc/security/limits.d/$user.conf << EOF
$user - nofile 65536
$user - nproc 65536
EOF
done
for proc in instancecontroller logpusher; do
sudo mkdir -p /etc/systemd/system/$proc.service.d/
sudo tee /etc/systemd/system/$proc.service.d/override.conf << EOF
[Service]
LimitNOFILE=65536
LimitNPROC=65536
EOF
pid=$(pgrep -f aws157.$proc.Main)
sudo prlimit --pid $pid --nofile=65535:65535 --nproc=65535:65535
done
sudo systemctl daemon-reload
  • Importante

    I cluster Amazon EMR che eseguono le AMI (Amazon Linux Machine Images) Amazon Linux o Amazon Linux 2 utilizzano il comportamento predefinito di Amazon Linux e non scaricano e installano automaticamente aggiornamenti importanti e critici dei kernel che richiedono un riavvio. Si tratta dello stesso comportamento assunto da altre istanze Amazon EC2 che eseguono l'AMI predefinita di Amazon Linux. Se nuovi aggiornamenti software Amazon Linux che richiedono un riavvio (ad esempio, aggiornamenti del kernel, NVIDIA e CUDA) risultano disponibili dopo il rilascio di una versione di Amazon EMR, le istanze del cluster Amazon EMR che eseguono l'AMI predefinita non scaricano e installano automaticamente tali aggiornamenti. Per ottenere gli aggiornamenti del kernel, puoi personalizzare l'AMI di Amazon EMR per utilizzare l'AMI di Amazon Linux più recente.

  • Per utilizzare le operazioni Spark con Apache Oozie, devi aggiungere la seguente configurazione al tuo file workflow.xml Oozie. In caso contrario, diverse librerie critiche come Hadoop e EMRFS non saranno presenti nella classpath degli esecutori Spark lanciati da Oozie.

    <spark-opts>--conf spark.yarn.populateHadoopClasspath=true</spark-opts>

  • Se utilizzi Spark con la formattazione della posizione delle partizioni Hive per leggere i dati in Amazon S3 ed esegui Spark nei rilasci di Amazon EMR da 5.30.0 a 5.36.0 e da 6.2.0 a 6.9.0, potresti riscontrare un problema che impedisce al cluster di leggere correttamente i dati. Ciò può accadere se le partizioni presentano tutte le seguenti caratteristiche:

    • Due o più partizioni vengono scansionate dalla stessa tabella.

    • Almeno un percorso di directory di partizione è il prefisso di almeno un altro percorso della directory di partizione, ad esempio s3://bucket/table/p=a è un prefisso di s3://bucket/table/p=a b.

    • Il primo carattere che segue il prefisso nell'altra directory di partizione ha un valore UTF-8 inferiore al carattere / (U+002F). Ad esempio, rientra in questa categoria il carattere dello spazio (U+0020) che compare tra a e b in s3://bucket/table/p=a b. Tieni presente che esistono altri 14 caratteri non di controllo: !"#$%&‘()*+,-. Per ulteriori informazioni, consulta la sezione UTF-8 encoding table and Unicode characters (Tabella di codifica UTF-8 e caratteri Unicode).

    Per ovviare a questo problema, imposta la configurazione di spark.sql.sources.fastS3PartitionDiscovery.enabled su false nella classificazione di spark-defaults.

Versioni dei componenti

I componenti che Amazon EMR installa con questo rilascio sono elencati di seguito. Alcuni sono installati come parte di pacchetti di applicazione dei big data. Altri sono specifici per Amazon EMR e installati per processi e caratteristiche del sistema. Questi solitamente iniziano con emr o aws. I pacchetti di applicazione sui Big data del rilascio di Amazon EMR più recente sono di solito le versioni più recenti reperibili nella community. Mettiamo a disposizione i rilasci della community in Amazon EMR il più rapidamente possibile.

Alcuni componenti in Amazon EMR differiscono dalle versioni della community. Tali componenti hanno un'etichetta che indica la versione nel modulo CommunityVersion-amzn-EmrVersion. EmrVersion inizia da 0. Ad esempio, se un componente della community open source denominato myapp-component con versione 2.2 è stato modificato tre volte per essere incluso in rilasci diversi di Amazon EMR, tale versione di rilascio si presenta come 2.2-amzn-2.

Componente Versione Descrizione
aws-sagemaker-spark-sdk1.4.1SDK Spark Amazon SageMaker
emr-ddb4.16.0Connettore di Amazon DynamoDB per le applicazioni dell'ecosistema Hadoop.
emr-goodies3.2.0Librerie utili per l'ecosistema Hadoop.
emr-kinesis3.5.0Connettore di Amazon Kinesis per le applicazioni dell'ecosistema Hadoop.
emr-notebook-env1.2.0Ambiente Conda per EMR Notebooks che include il gateway aziendale Jupyter
emr-s3-dist-cp2.18.0Applicazione di copia distribuita ottimizzata per Amazon S3.
emr-s3-select2.1.0Connettore di EMR S3Select
emrfs2.46.0Connettore di Amazon S3 per le applicazioni dell'ecosistema Hadoop.
flink-client1.12.1Applicazioni e script client a riga di comando Apache Flink.
flink-jobmanager-config1.12.1Gestione delle risorse sui nodi EMR per Apache Flink JobManager.
ganglia-monitor3.7.2Agente Ganglia integrato per le applicazioni dell'ecosistema Hadoop con l'agente di monitoraggio Ganglia.
ganglia-metadata-collector3.7.2Raccoglitore di metadati Ganglia per l'aggregazione di parametri degli agenti di monitoraggio Ganglia.
ganglia-web3.7.1Applicazione Web per la visualizzazione di parametri raccolti dal raccoglitore di metadati Ganglia.
hadoop-client3.2.1-amzn-3Client di riga di comando Hadoop, ad esempio "hdfs", "hadoop" o "yarn".
hadoop-hdfs-datanode3.2.1-amzn-3Servizio a livello di nodo HDFS per lo storage di blocchi.
hadoop-hdfs-library3.2.1-amzn-3Libreria e client di riga di comando HDFS
hadoop-hdfs-namenode3.2.1-amzn-3Servizio HDFS per tenere traccia dei nomi di file e delle posizioni dei blocchi.
hadoop-hdfs-journalnode3.2.1-amzn-3Servizio HDFS per gestire il giornale di registrazione del file system Hadoop su cluster HA.
hadoop-httpfs-server3.2.1-amzn-3Endpoint HTTP per le operazioni HDFS.
hadoop-kms-server3.2.1-amzn-3Server di gestione delle chiavi di crittografia basato sull'API KeyProvider di Hadoop.
hadoop-mapred3.2.1-amzn-3Librerie del motore di esecuzione MapReduce per l'esecuzione di un'applicazione MapReduce.
hadoop-yarn-nodemanager3.2.1-amzn-3Servizio YARN per la gestione di container su un singolo nodo.
hadoop-yarn-resourcemanager3.2.1-amzn-3Servizio YARN per l'allocazione e la gestione delle risorse di cluster e delle applicazioni distribuite.
hadoop-yarn-timeline-server3.2.1-amzn-3Servizio per il recupero di informazioni correnti e della cronologia per applicazioni YARN.
hbase-hmaster2.2.6-amzn-1Servizio per un cluster HBase responsabile del coordinamento delle regioni e dell'esecuzione di comandi amministrativi.
hbase-region-server2.2.6-amzn-1Servizio per servire una o più regioni HBase.
hbase-client2.2.6-amzn-1Client di riga di comando HBase.
hbase-rest-server2.2.6-amzn-1Servizio che fornisce un endpoint RESTful HTTP per HBase.
hbase-thrift-server2.2.6-amzn-1Servizio che fornisce un endpoint Thrift a HBase.
hcatalog-client3.1.2-amzn-4Client a riga di comando "hcat" per la manipolazione del server hcatalog.
hcatalog-server3.1.2-amzn-4Servizio che fornisce HCatalog, un livello di gestione di tabelle e storage per le applicazioni distribuite.
hcatalog-webhcat-server3.1.2-amzn-4Endpoint HTTP che fornisce un'interfaccia REST a HCatalog.
hive-client3.1.2-amzn-4Client a riga di comando Hive.
hive-hbase3.1.2-amzn-4Client Hive-hbase.
hive-metastore-server3.1.2-amzn-4Servizio per l'accesso al metastore Hive, un repository semantico per lo storage di metadati per SQL sulle operazioni Hadoop.
hive-server23.1.2-amzn-4Servizio per l'accettazione di query Hive come richieste Web.
hudi0.7.0-amzn-0Framework di elaborazione incrementale per alimentare la pipiline dei dati a bassa latenza e alta efficienza.
hudi-presto0.7.0-amzn-0Libreria bundle per eseguire Presto con Hudi.
hudi-prestosql0.7.0-amzn-0Libreria bundle per eseguire PrestoSQL con Hudi.
hudi-spark0.7.0-amzn-0Libreria bundle per eseguire Spark con Hudi.
hue-server4.9.0Applicazione Web per l'analisi di dati mediante le applicazioni dell'ecosistema Hadoop
jupyterhub1.2.2Server multi-utente per notebook Jupyter
livy-server0.7.0-incubatingInterfaccia REST per l'interazione con Apache Spark
nginx1.12.1nginx [motore x] è un server proxy inverso e HTTP
mxnet1.7.0Una libreria flessibile, scalabile ed efficiente per il deep learning.
mariadb-server5.5.68+Server di database MariaDB.
nvidia-cuda10.1.243Driver Nvidia e kit di strumenti Cuda
oozie-client5.2.1Client a riga di comando Oozie.
oozie-server5.2.1Servizio per l'accettazione delle richieste di flusso di lavoro Oozie.
opencv4.5.0Open Source Computer Vision Library.
phoenix-library5.0.0-HBase-2.0Le librerie Phoenix per server e client
phoenix-query-server5.0.0-HBase-2.0Un server leggero che fornisce accesso JDBC nonché buffer di protocollo e accesso in formato JSON all'API Avatica
presto-coordinator0.245.1-amzn-0Servizio per l'accettazione di query e la gestione dell'esecuzione di query di componenti presto-worker.
presto-worker0.245.1-amzn-0Servizio per l'esecuzione di parti di una query.
presto-client0.245.1-amzn-0Presto client della riga di comando che viene installato su master di standby di un cluster HA dove server Presto non viene avviato.
prestosql-coordinator350Servizio per l'accettazione di query e la gestione dell'esecuzione di query tra componenti prestosql-workers.
prestosql-worker350Servizio per l'esecuzione di parti di una query.
prestosql-client350Presto client della riga di comando che viene installato su master di standby di un cluster HA dove server Presto non viene avviato.
pig-client0.17.0Client a riga di comando Pig.
r4.0.2The R Project for Statistical Computing
ranger-kms-server2.0.0Sistema di gestione delle chiavi Apache Ranger
spark-client3.1.1-amzn-0Client a riga di comando Spark.
spark-history-server3.1.1-amzn-0Interfaccia utente Web per la visualizzazione di eventi registrati per il ciclo di vita di un'applicazione Spark completata.
spark-on-yarn3.1.1-amzn-0Motore di esecuzione in memoria per YARN.
spark-yarn-slave3.1.1-amzn-0Librerie Apache Spark necessarie per gli slave YARN.
spark-rapids0.4.1Plugin Nvidia Spark RAPIDS che accelera Apache Spark con GPU.
sqoop-client1.4.7Client a riga di comando Apache Sqoop.
tensorflow2.4.1Libreria software open source TensorFlow per il calcolo numerico ad alte prestazioni.
tez-on-yarn0.9.2L'applicazione e le librerie tez YARN.
webserver2.4.41+Server Apache HTTP.
zeppelin-server0.9.0Notebook basato sul Web che consente l'analisi di dati interattiva.
zookeeper-server3.4.14Servizio centralizzato per la manutenzione delle informazioni di configurazione, i servizi di denominazione, la sincronizzazione distribuita e l'erogazione di servizi di gruppo.
zookeeper-client3.4.14Client a riga di comando ZooKeeper.

Classificazioni di configurazione

Le classificazioni di configurazione consentono di personalizzare le applicazioni. Esse corrispondono spesso a un file XML di configurazione per l'applicazione, ad esempio hive-site.xml. Per ulteriori informazioni, consulta Configurazione delle applicazioni.

Le azioni di riconfigurazione vengono eseguite quando si specifica una configurazione per gruppi di istanze in un cluster in esecuzione. Amazon EMR avvia solo le azioni di riconfigurazione per le classificazioni modificate. Per ulteriori informazioni, consulta Riconfigurazione di un gruppo di istanze in un cluster in esecuzione.

Classificazioni emr-6.3.0
Classificazioni Descrizione Operazioni di riconfigurazione

capacity-scheduler

Modifica i valori nel file capacity-scheduler.xml di Hadoop.

Restarts the ResourceManager service.

container-executor

Modificare i valori nel file container-executor.cfg di Hadoop YARN.

Not available.

container-log4j

Modifica i valori nel file container-log4j.properties di Hadoop YARN.

Not available.

core-site

Modifica i valori nel file core-site.xml di Hadoop.

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Ranger KMS, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer.

docker-conf

Modifica le impostazioni relative a docker.

Not available.

emrfs-site

Modifica le impostazioni EMRFS.

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts HBaseRegionserver, HBaseMaster, HBaseThrift, HBaseRest, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer.

flink-conf

Modifica le impostazione flink-conf.yaml.

Restarts Flink history server.

flink-log4j

Modifica le impostazioni Flink log4j.properties.

Restarts Flink history server.

flink-log4j-session

Modifica le impostazioni Flink log4j-session.properties per la sessione Kubernetes/Yarn.

Restarts Flink history server.

flink-log4j-cli

Modifica le impostazioni Flink log4j-cli.properties.

Restarts Flink history server.

hadoop-env

Modifica i valori nell'ambiente Hadoop per tutti i componenti Hadoop.

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts PhoenixQueryserver, HiveServer2, Hive MetaStore, and MapReduce-HistoryServer.

hadoop-log4j

Modifica i valori nel file log4j.properties di Hadoop.

Restarts the Hadoop HDFS services SecondaryNamenode, Datanode, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Hadoop Httpfs, and MapReduce-HistoryServer.

hadoop-ssl-server

Modifica la configurazione server ssl hadoop

Not available.

hadoop-ssl-client

Modifica la configurazione client ssl hadoop

Not available.

hbase

Impostazioni Amazon EMR per Apache HBase.

Custom EMR specific property. Sets emrfs-site and hbase-site configs. See those for their associated restarts.

hbase-env

Modifica i valori nell'ambiente HBase.

Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer.

hbase-log4j

Modifica i valori nel file hbase-log4j.properties di HBase.

Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer.

hbase-metrics

Modificare valori nel file hadoop-metrics2-hbase.properties di HBase.

Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer.

hbase-policy

Modifica i valori nel file hbase-policy.xml di HBase.

Not available.

hbase-site

Modifica i valori nel file hbase-site.xml di HBase.

Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. Additionally restarts Phoenix QueryServer.

hdfs-encryption-zones

Configura le zone di crittografia HDFS.

This classification should not be reconfigured.

hdfs-env

Modifica i valori nell'ambiente HDFS.

Restarts Hadoop HDFS services Namenode, Datanode, and ZKFC.

hdfs-site

Modifica i valori nel file hdfs-site.xml di HDFS.

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Additionally restarts Hadoop Httpfs.

hcatalog-env

Modifica i valori nell'ambiente di HCatalog.

Restarts Hive HCatalog Server.

hcatalog-server-jndi

Modifica i valori nel file jndi.properties di HCatalog.

Restarts Hive HCatalog Server.

hcatalog-server-proto-hive-site

Modifica i valori nel file proto-hive-site.xml di HCatalog.

Restarts Hive HCatalog Server.

hcatalog-webhcat-env

Modifica i valori nell'ambiente di WebHCat HCatalog.

Restarts Hive WebHCat server.

hcatalog-webhcat-log4j2

Modifica i valori nel file log4j2.properties i WebHCat HCatalog.

Restarts Hive WebHCat server.

hcatalog-webhcat-site

Modifica i valori nel file webhcat-site.xml file di HCatalog WebHCat.

Restarts Hive WebHCat server.

hive

Impostazioni Amazon EMR per Apache Hive.

Sets configurations to launch Hive LLAP service.

hive-beeline-log4j2

Modifica i valori nel file beeline-log4j2.properties di Hive.

Not available.

hive-parquet-logging

Modifica i valori nel file parquet-logging.properties di Hive.

Not available.

hive-env

Modifica i valori nell'ambiente Hive.

Restarts HiveServer2, HiveMetastore, and Hive HCatalog-Server. Runs Hive schemaTool CLI commands to verify hive-metastore.

hive-exec-log4j2

Modifica i valori nel file hive-exec-log4j2.properties di Hive.

Not available.

hive-llap-daemon-log4j2

Modifica i valori nel file llap-daemon-log4j2.properties di Hive.

Not available.

hive-log4j2

Modifica i valori nel file hive-log4j2.properties di Hive.

Not available.

hive-site

Modifica i valori nel file hive-site.xml di Hive

Restarts HiveServer2, HiveMetastore, and Hive HCatalog-Server. Runs Hive schemaTool CLI commands to verify hive-metastore. Also restarts Oozie and Zeppelin.

hiveserver2-site

Modifica i valori nel file hiveserver2-site.xml di Hive Server2

Not available.

hue-ini

Modifica i valori nel file ini di Hue

Restarts Hue. Also activates Hue config override CLI commands to pick up new configurations.

httpfs-env

Modifica i valori nell'ambiente HTTPFS.

Restarts Hadoop Httpfs service.

httpfs-site

Modifica i valori nel file httpfs-site.xml di Hadoop.

Restarts Hadoop Httpfs service.

hadoop-kms-acls

Modifica i valori nel file kms-acls.xml di Hadoop.

Not available.

hadoop-kms-env

Modifica i valori nell'ambiente Hadoop KMS.

Restarts Hadoop-KMS service.

hadoop-kms-log4j

Modifica i valori nel file kms-log4j.properties di Hadoop.

Not available.

hadoop-kms-site

Modifica i valori nel file kms-site.xml di Hadoop.

Restarts Hadoop-KMS and Ranger-KMS service.

hudi-env

Modifica i valori nell'ambiente Hudi.

Not available.

jupyter-notebook-conf

Modifica i valori nel file jupyter_notebook_config.py di Jupyter Notebook.

Not available.

jupyter-hub-conf

Modifica i valori nel file jupyterhub_config.py di JupyterHubs.

Not available.

jupyter-s3-conf

Configura la persistenza di S3 del notebook Jupyter.

Not available.

jupyter-sparkmagic-conf

Modifica i valori nel file config.json di Sparkmagic.

Not available.

livy-conf

Modifica i valori nel file livy.conf di Livy.

Restarts Livy Server.

livy-env

Modifica i valori nell'ambiente Livy.

Restarts Livy Server.

livy-log4j

Modifica le impostazioni Livy log4j.properties.

Restarts Livy Server.

mapred-env

Modifica i valori nell'ambiente MapReduce dell'applicazione MapReduce.

Restarts Hadoop MapReduce-HistoryServer.

mapred-site

Modifica i valori nel file mapred-site.xml dell'applicazione MapReduce.

Restarts Hadoop MapReduce-HistoryServer.

oozie-env

Modifica i valori nell'ambiente di Oozie.

Restarts Oozie.

oozie-log4j

Modifica i valori nel file oozie-log4j.properties di Oozie.

Restarts Oozie.

oozie-site

Modifica i valori nel file oozie-site.xml di Oozie.

Restarts Oozie.

phoenix-hbase-metrics

Modifica i valori nel file hadoop-metrics2-hbase.properties di Phoenix.

Not available.

phoenix-hbase-site

Modifica i valori nel file hbase-site.xml di Phoenix.

Not available.

phoenix-log4j

Modifica i valori nel file log4j.properties di Phoenix.

Restarts Phoenix-QueryServer.

phoenix-metrics

Modifica i valori nel file hadoop-metrics2-phoenix.properties di Phoenix.

Not available.

pig-env

Change values in the Pig environment.

Not available.

pig-properties

Modifica i valori nel file pig.properties di Pig.

Restarts Oozie.

pig-log4j

Modifica i valori nel file log4j.properties di Pig.

Not available.

presto-log

Modifica i valori nel file log.properties di Presto.

Restarts Presto-Server (for PrestoDB)

presto-config

Modifica i valori nel file config.properties di Presto.

Restarts Presto-Server (for PrestoDB)

presto-password-authenticator

Modifica i valori nel file password-authenticator.properties di Presto.

Not available.

presto-env

Modifica i valori nel file presto-env.sh di Presto.

Restarts Presto-Server (for PrestoDB)

presto-node

Modifica i valori nel file node.properties di Presto.

Not available.

presto-connector-blackhole

Modifica i valori nel file blackhole.properties di Presto.

Not available.

presto-connector-cassandra

Modifica i valori nel file cassandra.properties di Presto.

Not available.

presto-connector-hive

Modifica i valori nel file hive.properties di Presto.

Restarts Presto-Server (for PrestoDB)

presto-connector-jmx

Modifica i valori nel file jmx.properties di Presto.

Not available.

presto-connector-kafka

Modifica i valori nel file kafka.properties di Presto.

Not available.

presto-connector-localfile

Modifica i valori nel file localfile.properties di Presto.

Not available.

presto-connector-memory

Modifica i valori nel file memory.properties di Presto.

Not available.

presto-connector-mongodb

Modifica i valori nel file mongodb.properties di Presto.

Not available.

presto-connector-mysql

Modifica i valori nel file mysql.properties di Presto.

Not available.

presto-connector-postgresql

Modifica i valori nel file postgresql.properties di Presto.

Not available.

presto-connector-raptor

Modifica i valori nel file raptor.properties di Presto.

Not available.

presto-connector-redis

Modifica i valori nel file redis.properties di Presto.

Not available.

presto-connector-redshift

Modifica i valori nel file redshift.properties di Presto.

Not available.

presto-connector-tpch

Modifica i valori nel file tpch.properties di Presto.

Not available.

presto-connector-tpcds

Modifica i valori nel file tpcds.properties di Presto.

Not available.

prestosql-log

Modifica i valori nel file log.properties di Presto.

Restarts Presto-Server (for PrestoSQL)

prestosql-config

Modifica i valori nel file config.properties di Presto.

Restarts Presto-Server (for PrestoSQL)

prestosql-password-authenticator

Modifica i valori nel file password-authenticator.properties di Presto.

Restarts Presto-Server (for PrestoSQL)

prestosql-env

Modifica i valori nel file presto-env.sh di Presto.

Restarts Presto-Server (for PrestoSQL)

prestosql-node

Modifica i valori nel file node.properties di PrestoSQL.

Not available.

prestosql-connector-blackhole

Modifica i valori nel file blackhole.properties di PrestoSQL.

Not available.

prestosql-connector-cassandra

Modifica i valori nel file cassandra.properties di PrestoSQL.

Not available.

prestosql-connector-hive

Modifica i valori nel file hive.properties di PrestoSQL.

Restarts Presto-Server (for PrestoSQL)

prestosql-connector-jmx

Modifica i valori nel file jmx.properties di PrestoSQL.

Not available.

prestosql-connector-kafka

Modifica i valori nel file kafka.properties di PrestoSQL.

Not available.

prestosql-connector-localfile

Modifica i valori nel file localfile.properties di PrestoSQL.

Not available.

prestosql-connector-memory

Modifica i valori nel file memory.properties di PrestoSQL.

Not available.

prestosql-connector-mongodb

Modifica i valori nel file mongodb.properties di PrestoSQL.

Not available.

prestosql-connector-mysql

Modifica i valori nel file mysql.properties di PrestoSQL.

Not available.

prestosql-connector-postgresql

Modifica i valori nel file postgresql.properties di PrestoSQL.

Not available.

prestosql-connector-raptor

Modifica i valori nel file raptor.properties di PrestoSQL.

Not available.

prestosql-connector-redis

Modifica i valori nel file redis.properties di PrestoSQL.

Not available.

prestosql-connector-redshift

Modifica i valori nel file redshift.properties di PrestoSQL.

Not available.

prestosql-connector-tpch

Modifica i valori nel file tpch.properties di PrestoSQL.

Not available.

prestosql-connector-tpcds

Modifica i valori nel file tpcds.properties di PrestoSQL.

Not available.

ranger-kms-dbks-site

Modifica i valori nel file dbks-site.xml di Ranger KMS.

Restarts Ranger KMS Server.

ranger-kms-site

Modifica i valori nel file ranger-kms-site.xml di Ranger KMS.

Restarts Ranger KMS Server.

ranger-kms-env

Modifica i valori nell'ambiente Ranger KMS.

Restarts Ranger KMS Server.

ranger-kms-log4j

Modifica i valori nel file kms-log4j.properties di Ranger KMS.

Not available.

ranger-kms-db-ca

Modifica i valori per il file CA su S3 per la connessione SSL di MySQL con Ranger KMS.

Not available.

spark

Impostazioni Amazon EMR per Apache Spark.

This property modifies spark-defaults. See actions there.

spark-defaults

Modifica i valori nel file spark-defaults.conf di Spark.

Restarts Spark history server and Spark thrift server.

spark-env

Modifica i valori nell'ambiente Spark.

Restarts Spark history server and Spark thrift server.

spark-hive-site

Modifica i valori nel file hive-site.xml di Spark

Not available.

spark-log4j

Modifica i valori nel file log4j.properties di Spark.

Restarts Spark history server and Spark thrift server.

spark-metrics

Modifica i valori nel file metrics.properties di Spark.

Restarts Spark history server and Spark thrift server.

sqoop-env

Modifica i valori nell'ambiente di Sqoop.

Not available.

sqoop-oraoop-site

Modifica i valori nel file oraoop-site.xml di Sqoop OraOop.

Not available.

sqoop-site

Modifica i valori nel file sqoop-site.xml di Sqoop.

Not available.

tez-site

Modifica i valori nel file tez-site.xml file di Tez.

Restart Oozie and HiveServer2.

yarn-env

Modifica i valori nell'ambiente YARN.

Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts MapReduce-HistoryServer.

yarn-site

Modifica i valori nel file yarn-site.xml di YARN.

Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Livy Server and MapReduce-HistoryServer.

zeppelin-env

Modifica i valori nell'ambiente Zeppelin.

Restarts Zeppelin.

zeppelin-site

Modifica le impostazioni di configurazione in zeppelin-site.xml.

Restarts Zeppelin.

zookeeper-config

Modifica i valori nel file zoo.cfg di ZooKeeper.

Restarts Zookeeper server.

zookeeper-log4j

Modifica i valori nel file log4j.properties di ZooKeeper.

Restarts Zookeeper server.