Amazon EMR 版本 6.0.1 - Amazon EMR
6.0.1 應用程式版本6.0.1 版本備註6.0.1 元件版本6.0.1 組態類別

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

Amazon EMR 版本 6.0.1

6.0.1 應用程式版本

此版本支援下列應用程式：Ganglia, HBase, HCatalog, Hadoop, Hive, Hudi, Hue, JupyterHub, Livy, MXNet, Oozie, Phoenix, Presto, Spark, TensorFlow, Tez, Zeppelin，以及 ZooKeeper.

下表列出此 Amazon 發行版本中可用的應用程式版本，以EMR及前三個 Amazon 版本中的應用程式EMR版本 (如果適用)。

如需 Amazon 每個版本之應用程式版本的完整歷史記錄EMR，請參閱下列主題：

應用程式版本資訊
emr-6.1.1 emr-6.1.0 emr-6.0.1 emr-6.0.0
AWS SDK對於爪哇 1.11.8281.11.8281.11.7111.11.711
Python 2.7、3.72.7、3.72.7、3.72.7、3.7
Scala 2.12.102.12.102.12.102.11.12
AmazonCloudWatchAgent - - - -
Delta - - - -
Flink1.11.01.11.0 - -
Ganglia3.7.23.7.23.7.23.7.2
HBase2.2.52.2.52.2.32.2.3
HCatalog3.1.23.1.23.1.23.1.2
Hadoop3.2.13.2.13.2.13.2.1
Hive3.1.23.1.23.1.23.1.2
Hudi0.5.2-incubating-amzn-20.5.2-incubating-amzn-20.5.0-incubating-amzn-10.5.0-incubating-amzn-1
Hue4.7.14.7.14.4.04.4.0
Iceberg - - - -
JupyterEnterpriseGateway - - - -
JupyterHub1.1.01.1.01.0.01.0.0
Livy0.7.00.7.00.6.00.6.0
MXNet1.6.01.6.01.5.11.5.1
Mahout - - - -
Oozie5.2.05.2.05.1.05.1.0
Phoenix5.0.05.0.05.0.05.0.0
Pig0.17.00.17.0 - -
Presto0.2320.2320.2300.230
Spark3.0.03.0.02.4.42.4.4
Sqoop1.4.71.4.7 - -
TensorFlow2.1.02.1.01.14.01.14.0
Tez0.9.20.9.20.9.20.9.2
特里诺 (普雷斯托SQL)338338 - -
Zeppelin0.9.00.9.00.9.00.9.0
ZooKeeper3.4.143.4.143.4.143.4.14

6.0.1 版本備註

此版本可修正 Amazon EMR Scaling 無法成功擴展/縮減叢集或造成應用程式故障時的問題。

變更、強化功能和已解決的問題

  • 修正當 Amazon 叢集EMR上常駐程式執行運作狀態檢查活動 (例如收集節點狀態和YARNHDFS節點狀態) 時，擴展請求失敗的問題。發生這種情況的原因是叢集上的精靈無法將節點的運作狀態資料傳達給內部 Amazon EMR 元件。

  • 已改善EMR叢集上精靈，可在重複使用 IP 位址時正確追蹤節點狀態，以提升擴充作業期間的可靠性。

  • SPARK-29683 修正因為 Spark 擔任的所有可用的節點被列入拒絕清單，而導致作業在叢集縮減規模期間失敗的問題。

  • YARN-9011 修正叢集嘗試擴充或縮小時，因為YARN停用競爭狀況而發生作業失敗的問題。

  • 藉由確保 Amazon 叢集EMR上精靈與/之間的節點狀態始終保持一致，修正叢集擴展期間步驟或任務失敗的問題。YARN HDFS

  • 修正啟用 Kerberos 身份驗證的 Amazon EMR 叢集的叢集操作 (例如縮小和步驟提交) 失敗的問題。這是因為 Amazon EMR 叢集上精靈並未更新 Kerberos 票證，這是與主節點上的HDFS/YARN執行安全通訊所需的。

  • 較新的 Amazon EMR 版本修復了 Amazon 舊版本的「最大打開文件」限制較低AL2的問題EMR。Amazon EMR 發布 5.30.1，5.30.2，5.31.1，5.32.1，6.0.1，6.1.1，6.2.1，5.33.0 和更高版本現在包含了具有更高「打開文件數上限」設置的永久修復程序。

  • HTTPS現在預設情況下已為 Amazon Linux 儲存庫啟用。如果您使用 Amazon S3 VPCE 政策限制對特定儲存貯體的存取，則必須將新的 Amazon Linux 儲存貯體新增ARNarn:aws:s3:::amazonlinux-2-repos-$region/*至政策 (取代$region為端點所在的區域)。如需詳細資訊，請參閱 AWS 討論論壇。公告：Amazon Linux 2 現在支援在連線至套件儲存庫HTTPS時使用的功能。

6.0.1 元件版本

下面列出了 Amazon 與此版本一起EMR安裝的元件。其中有一些屬於大數據應用程式套件。其他則是 Amazon 獨有的，EMR並為系統程序和功能安裝。這些通常會以 emr 或 aws 開頭。最新 Amazon EMR 版本中的大數據應用程式套件通常是社群中的最新版本。我們會EMR盡快在 Amazon 提供社群版本。

Amazon 中的某些元件EMR與社群版本不同。這些元件具有版本標籤，格式為 CommunityVersion-amzn-EmrVersion。EmrVersion 從 0 開始。例如，如果以 2.2 版命名myapp-component的開放原始碼社群元件已經修改三次以包含在不同的 Amazon EMR 版本中，則其發行版本會列為2.2-amzn-2。

元件 版本 描述
aws-sagemaker-spark-sdk1.2.6Amazon SageMaker 星火 SDK
emr-ddb4.14.0適用於 Hadoop 生態系統應用程式的 Amazon DynamoDB 連接器。
emr-goodies3.0.0適用 Hadoop 生態系統的超便利程式庫。
emr-kinesis3.5.0適用於 Hadoop 生態系統應用程式的 Amazon Kinesis 連接器。
emr-s3-dist-cp2.14.0針對 Amazon S3 最佳化的分散式複製應用程式。
emr-s3-select1.5.0EMRS3 選擇連接器
emrfs2.39.0適用於 Hadoop 生態系統應用程式的 Amazon S3 連接器。
ganglia-monitor3.7.2Hadoop 生態系統應用程式內嵌 Ganglia 代理程式以及 Ganglia 監控代理程式。
ganglia-metadata-collector3.7.2Ganglia 監控代理程式的彙總指標 Ganglia 中繼資料收集器。
ganglia-web3.7.1由 Ganglia 中繼資料收集器收集，以檢視指標的 Web 應用程式。
hadoop-client3.2.1-amzn-0.1Hadoop 命令列用戶端，例如「hdfs」、「Hadoop」或「yarn」。
hadoop-hdfs-datanode3.2.1-amzn-0.1HDFS用於存儲塊的節點級服務。
hadoop-hdfs-library3.2.1-amzn-0.1HDFS命令行客戶端和庫
hadoop-hdfs-namenode3.2.1-amzn-0.1HDFS用於跟踪文件名和塊位置的服務。
hadoop-hdfs-journalnode3.2.1-amzn-0.1HDFS用於在 HA 叢集上管理 Hadoop 檔案系統日誌的服務。
hadoop-httpfs-server3.2.1-amzn-0.1HTTPHDFS作業的端點。
hadoop-kms-server3.2.1-amzn-0.1基於 Hadoop 的加密密鑰管理服務器。 KeyProvider API
hadoop-mapred3.2.1-amzn-0.1MapReduce 用於執行應用程式的執行引擎 MapReduce 程式庫。
hadoop-yarn-nodemanager3.2.1-amzn-0.1YARN用於管理個別節點上容器的服務。
hadoop-yarn-resourcemanager3.2.1-amzn-0.1YARN用於分配和管理叢集資源和分散式應用程式的服務。
hadoop-yarn-timeline-server3.2.1-amzn-0.1用於擷取應用程式目前和歷史資訊的YARN服務。
hbase-hmaster2.2.3負責協調區域和執行管理命令的HBase叢集服務。
hbase-region-server2.2.3服務於一個或多個HBase地區。
hbase-client2.2.3HBase命令行客戶端。
hbase-rest-server2.2.3提供RESTfulHTTP端點的服務HBase。
hbase-thrift-server2.2.3提供節儉端點的HBase服務。
hcatalog-client3.1.2-amzn-0操作 hcatalog-server 的「hcat」命令列用戶端。
hcatalog-server3.1.2-amzn-0服務提供HCatalog，分佈式應用程序的表和存儲管理層。
hcatalog-webhcat-server3.1.2-amzn-0HTTP提供REST介面的端點HCatalog。
hive-client3.1.2-amzn-0Hive 命令列用戶端。
hive-hbase3.1.2-amzn-0Hive-hbase 用戶端。
hive-metastore-server3.1.2-amzn-0服務訪問蜂巢元存儲，語義存儲的 Hadoop 操作元數據存儲庫。SQL
hive-server23.1.2-amzn-0依 Web 請求接受 Hive 查詢的服務。
hudi0.5.0-incubating-amzn-1增量處理架構，以低延遲和高效率強化資料管道。
hudi-presto0.5.0-incubating-amzn-1用於使用 Hudi 執行 Presto 的套件程式庫。
hue-server4.4.0使用 Hadoop 生態系統應用程式分析資料的 Web 應用程式
jupyterhub1.0.0適用於 Jupyter 筆記本的多使用者伺服器
livy-server0.6.0-incubatingREST用於與阿帕奇星火交互的接口
nginx1.12.1nginx [引擎 x] 是一個反向代理HTTP服務器
mxnet1.5.1靈活有效率的程式庫，具可擴展性，適用於深度學習。
mariadb-server5.5.64+MariaDB 資料庫伺服器。
nvidia-cuda9.2.88Nvidia 驅動程式和 Cuda 工具組
oozie-client5.1.0Oozie 命令列用戶端。
oozie-server5.1.0接受 Oozie 工作流程要求的服務。
opencv3.4.0開放原始碼電腦 Vision 程式庫。
phoenix-libraryHBase適用於伺服器和用戶端的 phoenix 程式庫
phoenix-query-serverHBase輕量級服務器，提供對 Avatica 的JDBC訪問以及協議緩衝區和JSON格式訪問 API
presto-coordinator0.230在 presto-workers 之間接受查詢和執行管理查詢的服務。
presto-worker0.230執行查詢各部分的服務。
presto-client0.230安裝於 HA 叢集的待命主節點的 Presto 命令列用戶端，該主節點上的 Presto 伺服器未啟動。
r3.4.3統計運算 R 專案
spark-client2.4.4Spark 命令列用戶端。
spark-history-server2.4.4用於檢視完整 Spark 應用程式生命週期記錄事件的 Web 使用者介面。
spark-on-yarn2.4.4的記憶體內執行引擎。YARN
spark-yarn-slave2.4.4阿帕奇星火庫所需的YARN奴隸。
tensorflow1.14.0TensorFlow 用於高性能數值計算的開源軟件庫。
tez-on-yarn0.9.2Tez YARN 應用程式和程式庫。
webserver2.4.41+阿帕奇HTTP服務器。
zeppelin-server0.9.0-SNAPSHOT能進行互動式資料分析，以 Web 為基礎的筆記型電腦。
zookeeper-server3.4.14用於維護組態資訊、命名、提供分散式同步，並提供群組服務的集中化服務。
zookeeper-client3.4.14ZooKeeper 命令行客戶端。

6.0.1 組態類別

組態分類可讓您自訂應用程式。這些通常對應於應用程序的配置XML文件，例如hive-site.xml。如需詳細資訊，請參閱設定應用程式。

emr-6.0.1 分類
分類 描述

capacity-scheduler

變更 Hadoop 中 capacity-scheduler.xml 檔案的值。

container-executor

更改哈達通YARN的 container-executor.cfg 文件中的值。

container-log4j

更改 Hadoop YARN 的容器，日誌 4j. 屬性文件中的值。

core-site

變更 Hadoop 中 core-site.xml 檔案的值。

emrfs-site

變更EMRFS設定。

hadoop-env

在 Hadoop 環境中變更所有 Hadoop 元件的值。

hadoop-log4j

變更 Hadoop 中 log4j.properties 檔案的值。

hadoop-ssl-server

變更 hadoop ssl 伺服器組態

hadoop-ssl-client

變更 hadoop ssl 用戶端組態

hbase

Amazon EMR 策劃的阿帕奇HBase設置。

hbase-env

變更環境中HBase的值。

hbase-log4j

更改值HBase的 hbase-log4j. 屬性文件。

hbase-metrics

更改值的遞增度量 HBase 2 hbase.properties 文件。

hbase-policy

變更HBase的 hbase-policy.xml 檔案中的值。

hbase-site

變更HBase的 hbase-site.xml 檔案中的值。

hdfs-encryption-zones

設定HDFS加密區域。

hdfs-env

變更HDFS環境中的值。

hdfs-site

變更HDFS的 hdfs-site.xml 中的值。

hcatalog-env

變更環境中HCatalog的值。

hcatalog-server-jndi

變更「jndi.properties」中HCatalog的值。

hcatalog-server-proto-hive-site

變更HCatalog的 proto-hive-site .xml 中的值。

hcatalog-webhcat-env

更改 HCatalog W 環境中ebHCat的值。

hcatalog-webhcat-log4j2

更改 HCatalog W ebHCat 的 log4j2. 屬性中的值。

hcatalog-webhcat-site

更改 HCatalog W 的 webhcat-site.xml 文件中ebHCat的值。

hive

Amazon EMR 策劃的阿帕奇蜂巢設置。

hive-beeline-log4j2

變更 Hive 的 beeline-log4j2.properties 檔案中的值。

hive-parquet-logging

變更 Hive 的 parquet-logging.properties 檔案中的值。

hive-env

變更 Hive 環境中的值。

hive-exec-log4j2

更改蜂巢的 hive-exec-log 4j2. 屬性文件中的值。

hive-llap-daemon-log4j2

更改蜂巢的 llap-daemon-log 4j2. 屬性文件中的值。

hive-log4j2

變更 Hive 的 hive-log4j2.properties 檔案中的值。

hive-site

變更 Hive 的 hive-site.xml 檔案中的值

hiveserver2-site

變更 Hive Server2 的 hiveserver2-site.xml 檔案中的值

hue-ini

變更 Hue 的 ini 檔案中的值

httpfs-env

變更HTTPFS環境中的值。

httpfs-site

變更 Hadoop 中 httpfs-site.xml 檔案的值。

hadoop-kms-acls

變更 Hadoop 中 kms-acls.xml 檔案的值。

hadoop-kms-env

變更 Hadoop KMS 環境中的值。

hadoop-kms-log4j

變更 Hadoop 的 kms-log4j.properties 檔案中的值。

hadoop-kms-site

變更 Hadoop 中 kms-site.xml 檔案的值。

jupyter-notebook-conf

變更 Jupyter 筆記本中 jupyter_notebook_config.py 檔案的值。

jupyter-hub-conf

變更 JupyterHubs的 jupyterhub_config.py 檔案中的值。

jupyter-s3-conf

設定 Jupyter 筆記本 S3 持久性。

jupyter-sparkmagic-conf

變更 Sparkmagic 中 config.json 檔案的值。

livy-conf

變更 Livy 的 livy.conf 檔案中的值。

livy-env

變更 Livy 環境中的值。

livy-log4j

變更 Livy log4j.properties 設定。

mapred-env

變更 MapReduce 應用程式環境中的值。

mapred-site

變更 MapReduce 應用程式的 mapred-site.xml 檔案中的值。

oozie-env

變更 Oozie 環境中的值。

oozie-log4j

變更 Oozie 的 oozie-log4j.properties 檔案中的值。

oozie-site

變更 Oozie 的 oozie-site.xml 檔案中的值。

phoenix-hbase-metrics

變更 Phoenix 的 hadoop-metrics2-hbase.properties 檔案中的值。

phoenix-hbase-site

變更 Phoenix 的 hbase-site.xml 檔案中的值。

phoenix-log4j

變更 Phoenix 中 log4j.properties 檔案的值。

phoenix-metrics

變更 Phoenix 的 hadoop-metrics2-phoenix.properties 檔案中的值。

presto-log

變更 Presto 的 log.properties 檔案中的值。

presto-config

變更 Presto 的 config.properties 檔案中的值。

presto-password-authenticator

變更 Presto 的 password-authenticator.properties 檔案中的值。

presto-env

變更 Presto 的 presto-env.sh 檔案中的值。

presto-node

變更 Presto 的 node.properties 檔案中的值。

presto-connector-blackhole

變更 Presto 的 blackhole.properties 檔案中的值。

presto-connector-cassandra

變更 Presto 的 cassandra.properties 檔案中的值。

presto-connector-hive

變更 Presto 的 hive.properties 檔案中的值。

presto-connector-jmx

變更 Presto 的 jmx.properties 檔案中的值。

presto-connector-kafka

變更 Presto 的 kafka.properties 檔案中的值。

presto-connector-localfile

變更 Presto 的 localfile.properties 檔案中的值。

presto-connector-memory

變更 Presto 的 memory.properties 檔案中的值。

presto-connector-mongodb

變更 Presto 的 mongodb.properties 檔案中的值。

presto-connector-mysql

變更 Presto 的 mysql.properties 檔案中的值。

presto-connector-postgresql

變更 Presto 的 postgresql.properties 檔案中的值。

presto-connector-raptor

變更 Presto 的 raptor.properties 檔案中的值。

presto-connector-redis

變更 Presto 的 redis.properties 檔案中的值。

presto-connector-redshift

變更 Presto 的 redshift.properties 檔案中的值。

presto-connector-tpch

變更 Presto 的 tpch.properties 檔案中的值。

presto-connector-tpcds

變更 Presto 的 tpcds.properties 檔案中的值。

ranger-kms-dbks-site

改變遊俠的 dbks-site.xml 文件中的值KMS。

ranger-kms-site

更改遊俠KMS的 ranger-kms-site .xml 文件中的值。

ranger-kms-env

變更遊俠KMS環境中的值。

ranger-kms-log4j

更改遊俠 KMS-日誌 4j. 屬性文件中的值。KMS

ranger-kms-db-ca

為我與遊俠的SQLSSL連接更改 S3 上 CA 文件的值KMS。

recordserver-env

變更EMR RecordServer 環境中的值。

recordserver-conf

更改EMR RecordServer的錯誤。屬性文件中的值。

recordserver-log4j

變更 log4j. 屬性EMR RecordServer檔案中的值。

spark

Amazon EMR 策劃的阿帕奇星火設置。

spark-defaults

變更 Spark 的 spark-defaults.conf 檔案中的值。

spark-env

變更 Spark 環境中的值。

spark-hive-site

變更 Spark 的 hive-site.xml 檔案中的值

spark-log4j

變更 Spark 中 log4j.properties 檔案的值。

spark-metrics

變更 Spark 中 metrics.properties 檔案的值。

tez-site

變更 Tez 的 tez-site.xml 檔案中的值。

yarn-env

變更YARN環境中的值。

yarn-site

變更YARN的 yarn-site.xml 檔案中的值。

zeppelin-env

變更 Zeppelin 環境中的值。

zookeeper-config

變更 ZooKeeper的 zoo.cfg 檔案中的值。

zookeeper-log4j

變更 log4j. 屬性 ZooKeeper檔案中的值。