Amazon EMR versione 7.0.0 - Amazon EMR

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Amazon EMR versione 7.0.0

Versioni dell'applicazione 7.0.0

In questo rilascio sono supportate le seguenti applicazioni: AmazonCloudWatchAgent, Delta, Flink, HBase, HCatalog, Hadoop, Hive, Hudi, Hue, Iceberg, JupyterEnterpriseGateway, JupyterHub, Livy, MXNet, Oozie, Phoenix, Pig, Presto, Spark, Sqoop, TensorFlow, Tez, Trino, Zeppelin e ZooKeeper.

La tabella seguente elenca le versioni delle applicazioni disponibili in questa versione di Amazon EMR e le versioni delle applicazioni nelle tre EMR versioni precedenti di Amazon (se applicabile).

Per una cronologia completa delle versioni delle applicazioni per ogni versione di AmazonEMR, consulta i seguenti argomenti:

Informazioni sulla versione dell'applicazione
emr-7.2.0 emr-7.1.0 emr-7.0.0
AWS SDK per Java 2,25,48, 1,12,7052,23,18, 1,12,6562.20.160-amzn-0, 1.12.569
Python 3.93.93.9
Scala 2,12,172,12,172,12,17
AmazonCloudWatchAgent1,300032,21,300032,21,300031,1
Delta3.1.03.0.03.0.0
Flink1.18,11.18.11.18.0
HBase2,4,172,4,172,4,17
HCatalog3.1.33.1.33.1.3
Hadoop3.3.63.3.63.3.6
Hive3.1.33.1.33.1.3
Hudi0.14.1-amzn-10.14.1-amzn-00.14.0-amzn-1
Hue4.11.04.11.04.11.0
Iceberg1.5.0-amzn-01.4.3-amzn-01.4.2-amzn-0
JupyterEnterpriseGateway2.6.02.6.02.6.0
JupyterHub1.5.01.5.01.5.0
Livy0.8.00.8.00.7.1
MXNet1.9.11.9.11.9.1
Mahout - - -
Oozie5.2.15.2.15.2.1
Phoenix5.1.35.1.35.1.3
Pig0.17.00.17.00.17.0
Presto0,2850,2840,283
Spark35,13.5.03.5.0
Sqoop1.4.71.4.71.4.7
TensorFlow2.11.02.11.02.11.0
Tez0,10,20,10,20,10,2
Trino (PrestoSQL)436435426
Zeppelin0,10,10,10,10,10,1
ZooKeeper3,9,13,9,13.5.10

Note di rilascio 7.0.0

Le seguenti note di rilascio includono informazioni per la EMR versione 7.0.0 di Amazon. Le modifiche sono relative alla versione 6.15.0.

Nuove funzionalità
  • Aggiornamenti delle applicazioni – Amazon EMR 7.0.0 application upgrades include Python 3.9, Spark 3.5, Flink 1.18, and Delta 3.0. Questo rilascio aggiunge anche il supporto per l'applicazione CloudWatch Agente Amazon e rimuove il supporto per Ganglia.

  • Amazon Corretto 17 — Le EMR versioni 7.0 e successive di Amazon vengono fornite con Amazon Corretto 17 (basato su OpenJDK) di default per le applicazioni che supportano Corretto 17 (JDK17), ad eccezione di Apache Livy. Per ulteriori informazioni sulle JDK versioni supportate per le applicazioni in questa versione, consulta. Versioni Java predefinite 7.0.0

  • Amazon Linux 2023: con la versione 7.0, EMR i cluster Amazon ora funzionano su AL2 023 per impostazione predefinita. Per informazioni su come ciò influisce sulla AMI versione predefinita, consulta Considerazioni sull'aggiornamento del software nella Amazon EMR Management Guide. Nota anche che AL2 023 ha rimosso Python 2.7, quindi tutti i componenti che richiedono Python ora dovrebbero essere scritti con Python 3.

  • S3 on Outposts cons3a: Amazon ora supporta i EMR bucket Amazon S3 on Outposts con il file system. s3a Per ulteriori informazioni su S3 su Outposts, consulta Che cos'è Amazon S3 su Outposts? nella Guida per l'utente di Amazon Simple Storage Service.

Problemi noti
  • Nota che non puoi eseguire più di una riga alla volta se utilizzi Python PySpark con versioni 3.10 o successive. È necessario eseguire ogni riga una alla volta.

Modifiche, miglioramenti e problemi risolti
  • Per mantenere lo stato di tutte le istanze di un cluster, Amazon EMR si integra con ApacheYARN, Apache e HDFS Kerberos. Con la versione 7.0, abbiamo migliorato queste integrazioni per rimuovere in modo affidabile lo stato delle istanze che vengono terminate a causa del dimensionamento o di altre operazioni. Questo è particolarmente importante per i cluster di lunga durata che hanno abilitato il dimensionamento gestito, poiché si dimensionano frequentemente e accumulano migliaia di istanze terminate nel corso della loro vita.

  • Questa versione migliora la configurazione di Kerberos in modo da includere solo il supporto per i cifrari basati su di essa. AES I Kerberos KDC con cifrari non AES basati non sono più supportati con i EMR cluster eseguiti sulle versioni di Amazon EMR 7.0.0 e successive. AESi cifrari basati su di essi offrono la massima sicurezza per i tuoi cluster.

  • Come parte della migrazione AWS SDK 2.x, Amazon EMR 7.0 include un aggiornamento al connettore Spark Kinesis per motivi di compatibilità. Questo aggiornamento non è disponibile nella versione della community di Apache Spark. Se utilizzi il connettore Spark Kinesis da una versione di EMR Amazon precedente alla 7.0, devi migrare i codici delle applicazioni per eseguirli SDK su 2.x prima di poter migrare i carichi di lavoro su Amazon 7.0. EMR Per ulteriori informazioni, consulta Migrazione del connettore Spark Kinesis all'SDK 2.x per Amazon EMR 7.0.

  • Quando avvii un cluster con l'ultima versione di patch di Amazon EMR 5.36 o successiva, 6.6 o successiva, o 7.0 o successiva, Amazon EMR utilizza l'ultima versione di Amazon Linux 2023 o Amazon Linux 2 per Amazon Linux 2 come Amazon predefinito. EMR AMI Per ulteriori informazioni, consulta Using the default Amazon Linux AMI for Amazon EMR.

    OsReleaseLabel (versione Amazon Linux) Versione del kernel di Amazon Linux Data di disponibilità Regioni supportate
    2023,5 20240708,0 6,196-102,177.amzn2023 23 luglio 2024 Stati Uniti orientali (Virginia settentrionale), Stati Uniti orientali (Ohio), Stati Uniti occidentali (California settentrionale), Stati Uniti occidentali (Oregon), Europa (Stoccolma), Europa (Milano), Europa (Spagna), Europa (Francoforte), Europa (Zurigo), Europa (Irlanda), Europa (Londra), Europa (Parigi), Asia Pacifico (Hong Kong), Asia Pacifico (Mumbai), Asia Pacifico (Hyderabad), Asia Pacifico (Hyderabad), Asia Pacifico (Tokyo), Asia Pacifico (Seoul), Asia Pacifico (Osaka), Asia Pacifico (Singapore), Asia Pacifico (Sydney), Asia Pacifico (Giacarta), Asia Pacifico (Melbourne), Africa (Città del Capo), Sud America (San Paolo), Medio Oriente (Bahrain), Medio Oriente (), Canada (UAE Centrale), Israele (Tel Aviv), Canada occidentale (Calgary), AWS GovCloud (Stati Uniti occidentali), AWS GovCloud (Stati Uniti orientali), Cina (Pechino), Cina (Ningxia)
    20233.20240304.0 6,179-99,164. amzn2023 12 marzo 2024 Stati Uniti orientali (Virginia settentrionale), Stati Uniti orientali (Ohio), Stati Uniti occidentali (California settentrionale), Stati Uniti occidentali (Oregon), Europa (Stoccolma), Europa (Milano), Europa (Spagna), Europa (Francoforte), Europa (Zurigo), Europa (Irlanda), Europa (Londra), Europa (Parigi), Asia Pacifico (Hong Kong), Asia Pacifico (Mumbai), Asia Pacifico (Hyderabad), Asia Pacifico (Hyderabad), Asia Pacifico (Tokyo), Asia Pacifico (Seoul), Asia Pacifico (Osaka), Asia Pacifico (Singapore), Asia Pacifico (Sydney), Asia Pacifico (Giacarta), Asia Pacifico (Melbourne), Africa (Città del Capo), Sud America (San Paolo), Medio Oriente (Bahrain), Medio Oriente (), Canada (UAE Centrale), Israele (Tel Aviv), Canada occidentale (Calgary), AWS GovCloud (Stati Uniti occidentali), AWS GovCloud (Stati Uniti orientali), Cina (Pechino), Cina (Ningxia)
    2023,320240219,0 6.1.77-99.164.amzn2023 1 marzo 2024 Stati Uniti orientali (Virginia settentrionale), Stati Uniti orientali (Ohio), Stati Uniti occidentali (California settentrionale), Stati Uniti occidentali (Oregon), Europa (Stoccolma), Europa (Milano), Europa (Spagna), Europa (Francoforte), Europa (Zurigo), Europa (Irlanda), Europa (Londra), Europa (Parigi), Asia Pacifico (Hong Kong), Asia Pacifico (Mumbai), Asia Pacifico (Hyderabad), Asia Pacifico (Hyderabad), Asia Pacifico (Tokyo), Asia Pacifico (Seoul), Asia Pacifico (Osaka), Asia Pacifico (Singapore), Asia Pacifico (Sydney), Asia Pacifico (Giacarta), Asia Pacifico (Melbourne), Africa (Città del Capo), Sud America (San Paolo), Medio Oriente (Bahrain), Medio Oriente (), Canada (UAE Centrale), Israele (Tel Aviv), Canada occidentale (Calgary), AWS GovCloud (Stati Uniti occidentali), AWS GovCloud (Stati Uniti orientali), Cina (Pechino), Cina (Ningxia)
    20233.20240205.0 6,175-99,163. amzn2023 19 febbraio 2024 Stati Uniti orientali (Virginia settentrionale), Stati Uniti orientali (Ohio), Stati Uniti occidentali (California settentrionale), Stati Uniti occidentali (Oregon), Europa (Stoccolma), Europa (Milano), Europa (Spagna), Europa (Francoforte), Europa (Zurigo), Europa (Irlanda), Europa (Londra), Europa (Parigi), Asia Pacifico (Hong Kong), Asia Pacifico (Mumbai), Asia Pacifico (Hyderabad), Asia Pacifico (Hyderabad), Asia Pacifico (Tokyo), Asia Pacifico (Seoul), Asia Pacifico (Osaka), Asia Pacifico (Singapore), Asia Pacifico (Sydney), Asia Pacifico (Giacarta), Asia Pacifico (Melbourne), Africa (Città del Capo), Sud America (San Paolo), Medio Oriente (Bahrain), Medio Oriente (), Canada (UAE Centrale), Israele (Tel Aviv), Canada occidentale (Calgary), AWS GovCloud (Stati Uniti occidentali), AWS GovCloud (Stati Uniti orientali), Cina (Pechino), Cina (Ningxia)
    2023,320240122,0 6,172-96,166.amzn2023 5 febbraio 2024 Stati Uniti orientali (Virginia settentrionale), Stati Uniti orientali (Ohio), Stati Uniti occidentali (California settentrionale), Stati Uniti occidentali (Oregon), Europa (Stoccolma), Europa (Milano), Europa (Spagna), Europa (Francoforte), Europa (Zurigo), Europa (Irlanda), Europa (Londra), Europa (Parigi), Asia Pacifico (Hong Kong), Asia Pacifico (Mumbai), Asia Pacifico (Hyderabad), Asia Pacifico (Hyderabad), Asia Pacifico (Tokyo), Asia Pacifico (Seoul), Asia Pacifico (Osaka), Asia Pacifico (Singapore), Asia Pacifico (Sydney), Asia Pacifico (Giacarta), Asia Pacifico (Melbourne), Africa (Città del Capo), Sud America (San Paolo), Medio Oriente (Bahrain), Medio Oriente (), Canada (UAE Centrale), Israele (Tel Aviv), Canada occidentale (Calgary), AWS GovCloud (Stati Uniti occidentali), AWS GovCloud (Stati Uniti orientali), Cina (Pechino), Cina (Ningxia)
    2023,320240108,0 6,172-96,166.amzn2023 24 gennaio 2024 Stati Uniti orientali (Virginia settentrionale), Stati Uniti orientali (Ohio), Stati Uniti occidentali (California settentrionale), Stati Uniti occidentali (Oregon), Europa (Stoccolma), Europa (Milano), Europa (Spagna), Europa (Francoforte), Europa (Zurigo), Europa (Irlanda), Europa (Londra), Europa (Parigi), Asia Pacifico (Hong Kong), Asia Pacifico (Mumbai), Asia Pacifico (Hyderabad), Asia Pacifico (Hyderabad), Asia Pacifico (Tokyo), Asia Pacifico (Seoul), Asia Pacifico (Osaka), Asia Pacifico (Singapore), Asia Pacifico (Sydney), Asia Pacifico (Giacarta), Asia Pacifico (Melbourne), Africa (Città del Capo), Sud America (San Paolo), Medio Oriente (Bahrain), Medio Oriente (), Canada (UAE Centrale), Israele (Tel Aviv), Canada occidentale (Calgary), AWS GovCloud (Stati Uniti occidentali), AWS GovCloud (Stati Uniti orientali), Cina (Pechino), Cina (Ningxia)
    20233.20231211,4 6.1.66-91.160.amzn2023 19 dicembre 2023 Stati Uniti orientali (Virginia settentrionale), Stati Uniti orientali (Ohio), Stati Uniti occidentali (California settentrionale), Stati Uniti occidentali (Oregon), Europa (Stoccolma), Europa (Milano), Europa (Spagna), Europa (Francoforte), Europa (Zurigo), Europa (Irlanda), Europa (Londra), Europa (Parigi), Asia Pacifico (Hong Kong), Asia Pacifico (Mumbai), Asia Pacifico (Hyderabad), Asia Pacifico (Hyderabad), Asia Pacifico (Tokyo), Asia Pacifico (Seoul), Asia Pacifico (Osaka), Asia Pacifico (Singapore), Asia Pacifico (Sydney), Asia Pacifico (Giacarta), Asia Pacifico (Melbourne), Africa (Città del Capo), Sud America (San Paolo), Medio Oriente (Bahrain), Medio Oriente (), Canada (UAE Centrale), Israele (Tel Aviv), AWS GovCloud (Stati Uniti occidentali), AWS GovCloud (Stati Uniti orientali), Cina (Pechino), Cina (Ningxia)

Versioni Java predefinite 7.0.0

La EMR versione 7.0 e successive di Amazon viene fornita con Amazon Corretto 17 (basato su OpenJDK) per impostazione predefinita per le applicazioni che supportano Corretto 17 (JDK17), ad eccezione di Apache Livy.

La tabella seguente mostra le versioni Java predefinite per le applicazioni in Amazon EMR 7.0.0. Se desideri modificare l'impostazione predefinita JVM sul cluster, segui le istruzioni riportate Configurazione delle applicazioni per l'uso di una macchina virtuale Java specifica per ogni applicazione in esecuzione sul cluster. Puoi utilizzare solo una delle versioni di runtime Java per cluster. Amazon EMR non supporta l'esecuzione di nodi o applicazioni diversi su versioni di runtime diverse sullo stesso cluster.

Applicazione Versione Java/Amazon Corretto (l'impostazione predefinita è in grassetto)
Delta 17, 11, 8
Flink 11, 8
HBase 11, 8
HCatalog 17, 11, 8
Hadoop 17, 11, 8
Hive 17, 11, 8
Hudi 17, 11, 8
Iceberg 17, 11, 8
Livy 17, 11, 8
Oozie 17, 11, 8
Phoenix 8
PrestoDB 8
Spark 17, 11, 8
Scintilla RAPIDS 17, 11, 8
Sqoop 8
Tez 17, 11, 8
Trino 17
Zeppelin 8
Pig 8
Zookeeper 8

Versioni dei componenti 7.0.0

I componenti che Amazon EMR installa con questa versione sono elencati di seguito. Alcuni sono installati come parte di pacchetti di applicazione dei big data. Altri sono esclusivi di Amazon EMR e vengono installati per i processi e le funzionalità del sistema. Questi solitamente iniziano con emr o aws. I pacchetti di applicazioni Big Data nella EMR versione più recente di Amazon sono in genere l'ultima versione disponibile nella community. Rendiamo disponibili le versioni per la community su Amazon EMR il più rapidamente possibile.

Alcuni componenti di Amazon EMR differiscono dalle versioni della community. Tali componenti hanno un'etichetta che indica la versione nel modulo CommunityVersion-amzn-EmrVersion. EmrVersion inizia da 0. Ad esempio, se il componente della community open source denominato myapp-component con la versione 2.2 è stato modificato tre volte per essere incluso in diverse EMR versioni di Amazon, la sua versione di rilascio è elencata come2.2-amzn-2.

Componente Versione Descrizione
adot-java-agent1.31.0Un agente Java che raccoglie i parametri dai daemon delle applicazioni.
delta3.0.0Delta Lake è un formato a tabella aperta per set di dati analitici di grandissime dimensioni
delta-standalone-connectors0,6,0I connettori Delta offrono runtime diversi per integrare Delta Lake con motori come Flink, Hive e Presto.
emr-amazon-cloudwatch-agent1.300031.1-amzn-0Un'applicazione che raccoglie parametri interni a livello di sistema e parametri applicativi personalizzati dalle istanze Amazon. EC2
emr-ddb5.2.0Connettore di Amazon DynamoDB per le applicazioni dell'ecosistema Hadoop.
emr-goodies3.9.0Librerie utili per l'ecosistema Hadoop.
emr-kinesis3.13.0Connettore di Amazon Kinesis per le applicazioni dell'ecosistema Hadoop.
emr-notebook-env1.7.0Ambiente Conda per EMR Notebooks che include il gateway aziendale Jupyter
emr-s3-dist-cp2.30.0Applicazione di copia distribuita ottimizzata per Amazon S3.
emr-s3-select2.9.0EMRConnettore S3Select
emr-wal-cli1.2.1Interfaccia della linea di comando utilizzata per l'elenco o la cancellazione di emrwal.
emrfs2.61.0Connettore di Amazon S3 per le applicazioni dell'ecosistema Hadoop.
flink-client1.18.0-amzn-0Applicazioni e script client a riga di comando Apache Flink.
flink-jobmanager-config1.18.0-amzn-0Gestione delle risorse sui EMR nodi per Apache Flink. JobManager
hadoop-client3.3.6-amzn-2Client di riga di comando Hadoop, ad esempio "hdfs", "hadoop" o "yarn".
hadoop-hdfs-datanode3.3.6-amzn-2HDFSservizio a livello di nodo per l'archiviazione dei blocchi.
hadoop-hdfs-library3.3.6-amzn-2HDFSclient e libreria da riga di comando
hadoop-hdfs-namenode3.3.6-amzn-2HDFSservizio per tracciare i nomi dei file e le posizioni dei blocchi.
hadoop-hdfs-journalnode3.3.6-amzn-2HDFSservizio per la gestione del diario del file system Hadoop su cluster HA.
hadoop-httpfs-server3.3.6-amzn-2HTTPHDFSendpoint per le operazioni.
hadoop-kms-server3.3.6-amzn-2Server di gestione delle chiavi crittografiche basato su Hadoop. KeyProvider API
hadoop-mapred3.3.6-amzn-2MapReduce librerie di motori di esecuzione per l'esecuzione di un'applicazione. MapReduce
hadoop-yarn-nodemanager3.3.6-amzn-2YARNservizio per la gestione dei contenitori su un singolo nodo.
hadoop-yarn-resourcemanager3.3.6-amzn-2YARNservizio per l'allocazione e la gestione delle risorse del cluster e delle applicazioni distribuite.
hadoop-yarn-timeline-server3.3.6-amzn-2Servizio per il recupero di informazioni correnti e storiche per le applicazioni. YARN
hbase-hmaster2.4.17-amzn-4Servizio per un HBase cluster responsabile del coordinamento delle regioni e dell'esecuzione dei comandi amministrativi.
hbase-region-server2.4.17-amzn-4Servizio per servire una o più HBase regioni.
hbase-client2.4.17-amzn-4HBaseclient da riga di comando.
hbase-rest-server2.4.17-amzn-4Servizio che fornisce un RESTful HTTP endpoint per. HBase
hbase-thrift-server2.4.17-amzn-4Servizio che fornisce un endpoint Thrift a. HBase
hbase-operator-tools2.4.17-amzn-4Strumento di riparazione per cluster ApacheHBase.
hcatalog-client3.1.3-amzn-9Client a riga di comando "hcat" per la manipolazione del server hcatalog.
hcatalog-server3.1.3-amzn-9Fornitura di serviziHCatalog, un livello di gestione delle tabelle e dello storage per applicazioni distribuite.
hcatalog-webhcat-server3.1.3-amzn-9HTTPendpoint che fornisce un'RESTinterfaccia a. HCatalog
hive-client3.1.3-amzn-9Client a riga di comando Hive.
hive-hbase3.1.3-amzn-9Client Hive-hbase.
hive-metastore-server3.1.3-amzn-9Servizio per l'accesso al metastore Hive, un archivio semantico che archivia i metadati per le operazioni su Hadoop. SQL
hive-server23.1.3-amzn-9Servizio per l'accettazione di query Hive come richieste Web.
hudi0.14.0-amzn-1Framework di elaborazione incrementale per alimentare la Data Pipeline a bassa latenza e alta efficienza.
hudi-presto0.14.0-amzn-1Libreria bundle per eseguire Presto con Hudi.
hudi-trino0.14.0-amzn-1Libreria bundle per eseguire Trino con Hudi.
hudi-spark0.14.0-amzn-1Libreria bundle per eseguire Spark con Hudi.
hue-server4.11.0Applicazione Web per l'analisi di dati mediante le applicazioni dell'ecosistema Hadoop
iceberg1.4.2-amzn-0Apache Iceberg è un formato a tabella aperta per enormi set di dati analitici
jupyterhub1.5.0Server multi-utente per notebook Jupyter
livy-server0.7.1-incubatingRESTinterfaccia per interagire con Apache Spark
nginx1.12.1nginx [engine x] è HTTP un server proxy e inverso
mxnet1.9.1Una libreria flessibile, scalabile ed efficiente per il deep learning.
mariadb-server5.5.68+Server di database MariaDB.
nvidia-cuda11.8.0Driver Nvidia e kit di strumenti Cuda
oozie-client5.2.1Client a riga di comando Oozie.
oozie-server5.2.1Servizio per l'accettazione delle richieste di flusso di lavoro Oozie.
opencv4.7.0Open Source Computer Vision Library.
phoenix-library5.1.3Le librerie Phoenix per server e client
phoenix-connectors5.1.3Connettori Apache Phoenix per Spark-3
phoenix-query-server5.1.3Un server leggero che fornisce JDBC l'accesso, i buffer di protocollo e l'accesso ai JSON formati ad Avatica API
presto-coordinator0.283-amzn-1Servizio per l'accettazione di query e la gestione dell'esecuzione di query di componenti presto-worker.
presto-worker0.283-amzn-1Servizio per l'esecuzione di parti di una query.
presto-client0.283-amzn-1Presto client della riga di comando che viene installato su master di standby di un cluster HA dove server Presto non viene avviato.
trino-coordinator426-amzn-1Servizio per l'accettazione di query e la gestione dell'esecuzione di query tra componenti trino-workers.
trino-worker426-amzn-1Servizio per l'esecuzione di parti di una query.
trino-client426-amzn-1Trino client della riga di comando che viene installato su master di standby di un cluster HA dove server Trino non viene avviato.
pig-client0.17.0Client a riga di comando Pig.
r4.1.3The R Project for Statistical Computing
ranger-kms-server2.0.0Sistema di gestione delle chiavi Apache Ranger
spark-client3.5.0-amzn-0Client a riga di comando Spark.
spark-history-server3.5.0-amzn-0Interfaccia utente Web per la visualizzazione di eventi registrati per la durata di un'applicazione Spark completata.
spark-on-yarn3.5.0-amzn-0Motore di esecuzione in memoria per. YARN
spark-yarn-slave3.5.0-amzn-0Librerie Apache Spark necessarie agli slave. YARN
spark-rapids23.10.0-amzn-0RAPIDSPlugin Nvidia Spark che accelera Apache Spark con. GPUs
sqoop-client1.4.7Client a riga di comando Apache Sqoop.
tensorflow2.11.0TensorFlow libreria software open source per il calcolo numerico ad alte prestazioni.
tez-on-yarn0.10.2-amzn-7L'YARNapplicazione e le librerie tez.
tez-on-worker0.10.2-amzn-7L'YARNapplicazione tez e le librerie per i nodi di lavoro.
webserver2.4.58Server ApacheHTTP.
zeppelin-server0.10.1Notebook basato sul Web che consente l'analisi di dati interattiva.
zookeeper-server3.5.10Servizio centralizzato per la manutenzione delle informazioni di configurazione, i servizi di denominazione, la sincronizzazione distribuita e l'erogazione di servizi di gruppo.
zookeeper-client3.5.10ZooKeeper client a riga di comando.

Classificazioni di configurazione 7.0.0

Le classificazioni di configurazione consentono di personalizzare le applicazioni. Questi spesso corrispondono a un XML file di configurazione per l'applicazione, ad esempiohive-site.xml. Per ulteriori informazioni, consulta Configurazione delle applicazioni.

Classificazioni emr-7.0.0
Classificazioni Descrizione

capacity-scheduler

Modifica i valori nel file capacity-scheduler.xml di Hadoop.

container-executor

Modifica i valori nel file container-executor.cfg di YARN Hadoop.

container-log4j

Modifica i valori nel file container-log4j.properties di Hadoop. YARN

core-site

Modifica i valori nel file core-site.xml di Hadoop.

docker-conf

Modifica le impostazioni relative a docker.

emrfs-site

EMRFSModificare le impostazioni.

flink-conf

Modifica le impostazione flink-conf.yaml.

flink-log4j

Modifica le impostazioni Flink log4j.properties.

flink-log4j-session

Modifica le impostazioni Flink log4j-session.properties per la sessione Kubernetes/Yarn.

flink-log4j-cli

Modifica le impostazioni Flink log4j-cli.properties.

hadoop-env

Modifica i valori nell'ambiente Hadoop per tutti i componenti Hadoop.

hadoop-log4j

Modifica i valori nel file log4j.properties di Hadoop.

hadoop-ssl-server

Modifica la configurazione server ssl hadoop

hadoop-ssl-client

Modifica la configurazione client ssl hadoop

hbase

Impostazioni EMR curate da Amazon per Apache. HBase

hbase-env

Modifica i valori nell'ambienteHBase.

hbase-log4j

Modifica i valori nel file HBase hbase-log4j.properties.

hbase-metrics

Cambia i valori nel file hadoop-metrics2-hbase.properties. HBase

hbase-policy

Cambia i valori nel HBase file hbase-policy.xml.

hbase-site

Modifica i valori nel HBase file hbase-site.xml.

hdfs-encryption-zones

Configura le zone di HDFS crittografia.

hdfs-env

Modifica i valori nell'HDFSambiente.

hdfs-site

Cambia i valori in HDFS's hdfs-site.xml.

hcatalog-env

Cambia i valori nell'HCatalogambiente.

hcatalog-server-jndi

Cambia i valori in HCatalog jndi.properties.

hcatalog-server-proto-hive-site

Cambia i valori nel file .xmlHCatalog. proto-hive-site

hcatalog-webhcat-env

Cambia i valori nell'ambiente ebHCat di HCatalog W.

hcatalog-webhcat-log4j2

Modifica i valori in HCatalog ebHCat log4j2.properties di W.

hcatalog-webhcat-site

Modifica i valori nel file webhcat-site.xml di HCatalog W. ebHCat

hive

Impostazioni EMR curate da Amazon per Apache Hive.

hive-beeline-log4j2

Modifica i valori nel file beeline-log4j2.properties di Hive.

hive-parquet-logging

Modifica i valori nel file parquet-logging.properties di Hive.

hive-env

Modifica i valori nell'ambiente Hive.

hive-exec-log4j2

Modifica i valori nel file 4j2.properties di Hive. hive-exec-log

hive-llap-daemon-log4j2

Modifica i valori nel file 4j2.properties di Hive. llap-daemon-log

hive-log4j2

Modifica i valori nel file hive-log4j2.properties di Hive.

hive-site

Modifica i valori nel file hive-site.xml di Hive

hiveserver2-site

Modifica i valori nel file hiveserver2-site.xml di Hive Server2

hue-ini

Modifica i valori nel file ini di Hue

httpfs-env

Cambia i valori nell'ambiente. HTTPFS

httpfs-site

Modifica i valori nel file httpfs-site.xml di Hadoop.

hadoop-kms-acls

Modifica i valori nel file kms-acls.xml di Hadoop.

hadoop-kms-env

Modifica i valori nell'ambiente Hadoop. KMS

hadoop-kms-java-home

Cambia la home java di Hadoop KMS

hadoop-kms-log4j

Modifica i valori nel file kms-log4j.properties di Hadoop.

hadoop-kms-site

Modifica i valori nel file kms-site.xml di Hadoop.

hudi-env

Modifica i valori nell'ambiente Hudi.

hudi-defaults

Modifica i valori nel file hudi-defaults.conf di Hudi.

iceberg-defaults

Modifica i valori nel file iceberg-defaults.conf di Iceberg.

delta-defaults

Modifica i valori nel file delta-defaults.conf di Delta.

jupyter-notebook-conf

Modifica i valori nel file jupyter_notebook_config.py di Jupyter Notebook.

jupyter-hub-conf

Modifica i valori nel JupyterHubs file jupyterhub_config.py.

jupyter-s3-conf

Configura la persistenza di S3 del notebook Jupyter.

jupyter-sparkmagic-conf

Modifica i valori nel file config.json di Sparkmagic.

livy-conf

Modifica i valori nel file livy.conf di Livy.

livy-env

Modifica i valori nell'ambiente Livy.

livy-log4j2

Modifica le impostazioni di log4j2.properties di Livy.

mapred-env

Modifica i valori nell'ambiente dell' MapReduce applicazione.

mapred-site

Modificate i valori nel file mapred-site.xml dell' MapReduce applicazione.

oozie-env

Modifica i valori nell'ambiente di Oozie.

oozie-log4j

Modifica i valori nel file oozie-log4j.properties di Oozie.

oozie-site

Modifica i valori nel file oozie-site.xml di Oozie.

phoenix-hbase-metrics

Modifica i valori nel file hadoop-metrics2-hbase.properties di Phoenix.

phoenix-hbase-site

Modifica i valori nel file hbase-site.xml di Phoenix.

phoenix-log4j

Modifica i valori nel file log4j.properties di Phoenix.

phoenix-metrics

Modifica i valori nel file hadoop-metrics2-phoenix.properties di Phoenix.

pig-env

Change values in the Pig environment.

pig-properties

Modifica i valori nel file pig.properties di Pig.

pig-log4j

Modifica i valori nel file log4j.properties di Pig.

presto-log

Modifica i valori nel file log.properties di Presto.

presto-config

Modifica i valori nel file config.properties di Presto.

presto-password-authenticator

Modifica i valori nel file password-authenticator.properties di Presto.

presto-env

Modifica i valori nel file presto-env.sh di Presto.

presto-node

Modifica i valori nel file node.properties di Presto.

presto-connector-blackhole

Modifica i valori nel file blackhole.properties di Presto.

presto-connector-cassandra

Modifica i valori nel file cassandra.properties di Presto.

presto-connector-hive

Modifica i valori nel file hive.properties di Presto.

presto-connector-jmx

Modifica i valori nel file jmx.properties di Presto.

presto-connector-kafka

Modifica i valori nel file kafka.properties di Presto.

presto-connector-lakeformation

Modifica i valori nel file lakeformation.properties di Presto.

presto-connector-localfile

Modifica i valori nel file localfile.properties di Presto.

presto-connector-memory

Modifica i valori nel file memory.properties di Presto.

presto-connector-mongodb

Modifica i valori nel file mongodb.properties di Presto.

presto-connector-mysql

Modifica i valori nel file mysql.properties di Presto.

presto-connector-postgresql

Modifica i valori nel file postgresql.properties di Presto.

presto-connector-raptor

Modifica i valori nel file raptor.properties di Presto.

presto-connector-redis

Modifica i valori nel file redis.properties di Presto.

presto-connector-redshift

Modifica i valori nel file redshift.properties di Presto.

presto-connector-tpch

Modifica i valori nel file tpch.properties di Presto.

presto-connector-tpcds

Modifica i valori nel file tpcds.properties di Presto.

trino-log

Modifica i valori nel file log.properties di Trino.

trino-config

Modifica i valori nel file config.properties di Trino.

trino-password-authenticator

Modifica i valori nel file password-authenticator.properties di Trino.

trino-env

Modifica i valori nel file trino-env.sh di Trino.

trino-node

Modifica i valori nel file node.properties di Trino.

trino-connector-blackhole

Modifica i valori nel file blackhole.properties di Trino.

trino-connector-cassandra

Modifica i valori nel file cassandra.properties di Trino.

trino-connector-delta

Modifica i valori nel file delta.properties di Trino.

trino-connector-hive

Modifica i valori nel file hive.properties di Trino.

trino-exchange-manager

Modifica i valori nel file exchange-manager.properties di Trino.

trino-connector-iceberg

Modifica i valori nel file iceberg.properties di Trino.

trino-connector-hudi

Modifica i valori nel file hudi.properties di Trino.

trino-connector-jmx

Modifica i valori nel file jmx.properties di Trino.

trino-connector-kafka

Modifica i valori nel file kafka.properties di Trino.

trino-connector-localfile

Modifica i valori nel file localfile.properties di Trino.

trino-connector-memory

Modifica i valori nel file memory.properties di Trino.

trino-connector-mongodb

Modifica i valori nel file mongodb.properties di Trino.

trino-connector-mysql

Modifica i valori nel file mysql.properties di Trino.

trino-connector-postgresql

Modifica i valori nel file postgresql.properties di Trino.

trino-connector-raptor

Modifica i valori nel file raptor.properties di Trino.

trino-connector-redis

Modifica i valori nel file redis.properties di Trino.

trino-connector-redshift

Modifica i valori nel file redshift.properties di Trino.

trino-connector-tpch

Modifica i valori nel file tpch.properties di Trino.

trino-connector-tpcds

Modifica i valori nel file tpcds.properties di Trino.

ranger-kms-dbks-site

Modifica i valori nel file dbks-site.xml di Ranger. KMS

ranger-kms-site

Modifica i valori nel ranger-kms-site file.xml di Ranger. KMS

ranger-kms-env

Modifica i valori nell'ambiente RangerKMS.

ranger-kms-logback

Modifica i valori nel file kms-logback.xml di RangerKMS.

ranger-kms-db-ca

Modifica i valori per il file CA su S3 per La mia SQL SSL connessione con Ranger. KMS

spark

Impostazioni EMR curate da Amazon per Apache Spark.

spark-defaults

Modifica i valori nel file spark-defaults.conf di Spark.

spark-env

Modifica i valori nell'ambiente Spark.

spark-hive-site

Modifica i valori nel file hive-site.xml di Spark

spark-log4j2

Modifica i valori nel file log4j2.properties di Spark.

spark-metrics

Modifica i valori nel file metrics.properties di Spark.

sqoop-env

Modifica i valori nell'ambiente di Sqoop.

sqoop-oraoop-site

Modifica i valori nel file oraoop-site.xml di Sqoop OraOop.

sqoop-site

Modifica i valori nel file sqoop-site.xml di Sqoop.

tez-site

Modifica i valori nel file tez-site.xml file di Tez.

yarn-env

Cambia i valori nell'ambiente. YARN

yarn-site

Modifica i valori nel YARN file yarn-site.xml.

zeppelin-env

Modifica i valori nell'ambiente Zeppelin.

zeppelin-site

Modifica le impostazioni di configurazione in zeppelin-site.xml.

zookeeper-config

Cambia i valori nel ZooKeeper file zoo.cfg.

zookeeper-log4j

Modifica i valori nel file ZooKeeper log4j.properties.

Log delle modifiche 7.0.0

Log delle modifiche per la versione 7.0.0 e note di rilascio
Data Evento Descrizione

2023-12-29

Implementazione completata Amazon EMR 7.0.0 completamente distribuito in tutte le regioni supportate
2023-12-28 Pubblicazione dei documenti Pubblicate per la prima volta le note di rilascio di Amazon EMR 7.0.0
2023-12-19 Rilascio iniziale Amazon EMR 7.0.0 è stato distribuito per la prima volta nelle regioni commerciali iniziali