本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
Amazon EMR 6.6.0 版
6.6.0 應用程式版本
此版本包含下列應用程式:Flink
下表列出此 Amazon EMR 版本中提供的應用程式版本,以及前三個 Amazon EMR 版本 (如果適用) 中的應用程式版本。
如需完整了解各 Amazon EMR 版之應用程式版本的完整歷史記錄,請參閱以下主題:
emr-6.6.0 | emr-6.5.0 | emr-6.4.0 | emr-6.3.1 | |
---|---|---|---|---|
AWS 適用於 Java 的開發套件 | 1.12.170 | 1.12.31 | 1.12.31 | 1.11.977 |
Python | 2.7、3.7 | 2.7、3.7 | 2.7、3.7 | 2.7、3.7 |
Scala | 2.12.10 | 2.12.10 | 2.12.10 | 2.12.10 |
AmazonCloudWatchAgent | - | - | - | - |
Delta | - | - | - | - |
Flink | 1.14.2 | 1.14.0 | 1.13.1 | 1.12.1 |
Ganglia | 3.7.2 | 3.7.2 | 3.7.2 | 3.7.2 |
HBase | 2.4.4 | 2.4.4 | 2.4.4 | 2.2.6 |
HCatalog | 3.1.2 | 3.1.2 | 3.1.2 | 3.1.2 |
Hadoop | 3.2.1 | 3.2.1 | 3.2.1 | 3.2.1 |
Hive | 3.1.2 | 3.1.2 | 3.1.2 | 3.1.2 |
Hudi | 0.10.1-amzn-0 | 0.9.0-amzn-1 | 0.8.0-amzn-0 | 0.7.0-amzn-0 |
Hue | 4.10.0 | 4.9.0 | 4.9.0 | 4.9.0 |
Iceberg | 0.13.1 | 0.12.0 | - | - |
JupyterEnterpriseGateway | 2.1.0 | 2.1.0 | 2.1.0 | 2.1.0 |
JupyterHub | 1.4.1 | 1.4.1 | 1.4.1 | 1.2.2 |
Livy | 0.7.1 | 0.7.1 | 0.7.1 | 0.7.0 |
MXNet | 1.8.0 | 1.8.0 | 1.8.0 | 1.7.0 |
Mahout | - | - | - | - |
Oozie | 5.2.1 | 5.2.1 | 5.2.1 | 5.2.1 |
Phoenix | 5.1.2 | 5.1.2 | 5.1.2 | 5.0.0 |
Pig | 0.17.0 | 0.17.0 | 0.17.0 | 0.17.0 |
Presto | 0.267 | 0.261 | 0.254.1 | 0.245.1 |
Spark | 3.2.0 | 3.1.2 | 3.1.2 | 3.1.1 |
Sqoop | 1.4.7 | 1.4.7 | 1.4.7 | 1.4.7 |
TensorFlow | 2.4.1 | 2.4.1 | 2.4.1 | 2.4.1 |
Tez | 0.9.2 | 0.9.2 | 0.9.2 | 0.9.2 |
Trino (PrestoSQL) | 367 | 360 | 359 | 350 |
Zeppelin | 0.10.0 | 0.10.0 | 0.9.0 | 0.9.0 |
ZooKeeper | 3.5.7 | 3.5.7 | 3.5.7 | 3.4.14 |
6.6.0 版本備註
以下版本備註包含 Amazon EMR 6.6.0 版的資訊。變更是相對於 6.5.0 版而言。
初始版本日期:2022 年 5 月 9 日
更新文件日期:2022 年 6 月 15 日
新功能
Amazon EMR 6.6 現在支援 Apache Spark 3.2、Apache Spark RAPIDS 22.02、CUDA 11、Apache Hudi 0.10.1、Apache Iceberg 0.13、Trino 0.367 和 PrestoDB 0.267。
當您啟動具有 Amazon EMR 5.36 或更高版本、6.6 或更高版本,或 7.0 或更高版本的叢集時,Amazon EMR 會使用預設 Amazon EMR AMI 的最新 Amazon Linux 2023 或 Amazon Linux 2 版本。如需詳細資訊,請參閱使用預設 Amazon Linux AMI for Amazon EMR。
OsReleaseLabel (Amazon Linux 版本) Amazon Linux 核心版本 可用日期 支援地區 2.0.20250123.4 4.14.355 2025 年 1 月 27 日 美國東部 (維吉尼亞北部)、 美國東部 (俄亥俄)、 美國西部 (加利佛尼亞北部), 美國西部 (奧勒岡)、 歐洲 (斯德哥爾摩)、 歐洲 (米蘭)、 歐洲 (法蘭克福)、 歐洲 (愛爾蘭)、 歐洲 (倫敦)、 歐洲 (巴黎)、 亞太區域 (香港)、 亞太區域 (孟買)、 亞太區域 (東京)、 亞太區域 (首爾)、 亞太區域 (大阪)、 亞太區域 (新加坡)、 亞太區域 (雪梨), 亞太區域 (雅加達)、 非洲 (開普敦)、 南美洲 (聖保羅)、 中東 (巴林)、 加拿大 (中部)、 AWS GovCloud (美國西部)、 AWS GovCloud (美國東部)、 中國 (北京)、 中國 (寧夏) 2.0.20250116.0 4.14.355 2025 年 1 月 23 日 美國東部 (維吉尼亞北部)、 美國東部 (俄亥俄)、 美國西部 (加利佛尼亞北部), 美國西部 (奧勒岡)、 歐洲 (斯德哥爾摩)、 歐洲 (米蘭)、 歐洲 (法蘭克福)、 歐洲 (愛爾蘭)、 歐洲 (倫敦)、 歐洲 (巴黎)、 亞太區域 (香港)、 亞太區域 (孟買)、 亞太區域 (東京)、 亞太區域 (首爾)、 亞太區域 (大阪)、 亞太區域 (新加坡)、 亞太區域 (雪梨), 亞太區域 (雅加達)、 非洲 (開普敦)、 南美洲 (聖保羅)、 中東 (巴林)、 加拿大 (中部)、 AWS GovCloud (美國西部)、 AWS GovCloud (美國東部)、 中國 (北京)、 中國 (寧夏) 2.0.20241217.0 4.14.355 2025 年 1 月 8 日 美國東部 (維吉尼亞北部)、 美國東部 (俄亥俄)、 美國西部 (加利佛尼亞北部), 美國西部 (奧勒岡)、 歐洲 (斯德哥爾摩)、 歐洲 (米蘭)、 歐洲 (法蘭克福)、 歐洲 (愛爾蘭)、 歐洲 (倫敦)、 歐洲 (巴黎)、 亞太區域 (香港)、 亞太區域 (孟買)、 亞太區域 (東京)、 亞太區域 (首爾)、 亞太區域 (大阪)、 亞太區域 (新加坡)、 亞太區域 (雪梨), 亞太區域 (雅加達)、 非洲 (開普敦)、 南美洲 (聖保羅)、 中東 (巴林)、 加拿大 (中部)、 AWS GovCloud (美國西部)、 AWS GovCloud (美國東部)、 中國 (北京)、 中國 (寧夏) 2.0.20241001.0 4.14.352 2024 年 10 月 4 日 美國東部 (維吉尼亞北部)、 美國東部 (俄亥俄)、 美國西部 (加利佛尼亞北部), 美國西部 (奧勒岡)、 歐洲 (斯德哥爾摩)、 歐洲 (米蘭)、 歐洲 (法蘭克福)、 歐洲 (愛爾蘭)、 歐洲 (倫敦)、 歐洲 (巴黎)、 亞太區域 (香港), 亞太區域 (孟買)、 亞太區域 (東京)、 亞太區域 (首爾)、 亞太區域 (大阪)、 亞太區域 (新加坡)、 亞太區域 (雪梨), 亞太區域 (雅加達), 非洲 (開普敦)、 南美洲 (聖保羅)、 中東 (巴林)、 加拿大 (中部)、 AWS GovCloud (美國西部)、 AWS GovCloud (美國東部)、 中國 (北京)、 中國 (寧夏) 2.0.20240816.0 4.14.350 2024 年 8 月 21 日 美國東部 (維吉尼亞北部)、 美國東部 (俄亥俄)、 美國西部 (加利佛尼亞北部), 美國西部 (奧勒岡)、 歐洲 (斯德哥爾摩)、 歐洲 (米蘭)、 歐洲 (法蘭克福)、 歐洲 (愛爾蘭)、 歐洲 (倫敦)、 歐洲 (巴黎)、 亞太區域 (香港), 亞太區域 (孟買)、 亞太區域 (東京)、 亞太區域 (首爾)、 亞太區域 (大阪)、 亞太區域 (新加坡)、 亞太區域 (雪梨), 亞太區域 (雅加達), 非洲 (開普敦)、 南美洲 (聖保羅)、 中東 (巴林)、 加拿大 (中部)、 AWS GovCloud (美國西部)、 AWS GovCloud (美國東部)、 中國 (北京)、 中國 (寧夏) 2.0.20240809.0 4.14.349 2024 年 8 月 20 日 美國東部 (維吉尼亞北部)、 美國東部 (俄亥俄)、 美國西部 (加利佛尼亞北部), 美國西部 (奧勒岡)、 歐洲 (斯德哥爾摩)、 歐洲 (米蘭)、 歐洲 (法蘭克福)、 歐洲 (愛爾蘭)、 歐洲 (倫敦)、 歐洲 (巴黎)、 亞太區域 (香港), 亞太區域 (孟買)、 亞太區域 (東京)、 亞太區域 (首爾)、 亞太區域 (大阪)、 亞太區域 (新加坡)、 亞太區域 (雪梨), 亞太區域 (雅加達), 非洲 (開普敦)、 南美洲 (聖保羅)、 中東 (巴林)、 加拿大 (中部)、 AWS GovCloud (美國西部)、 AWS GovCloud (美國東部)、 中國 (北京)、 中國 (寧夏) 2.0.20240719.0 4.14.348 2024 年 7 月 25 日 美國東部 (維吉尼亞北部)、 美國東部 (俄亥俄)、 美國西部 (加利佛尼亞北部), 美國西部 (奧勒岡)、 歐洲 (斯德哥爾摩)、 歐洲 (米蘭)、 歐洲 (法蘭克福)、 歐洲 (愛爾蘭)、 歐洲 (倫敦)、 歐洲 (巴黎)、 亞太區域 (香港), 亞太區域 (孟買)、 亞太區域 (東京)、 亞太區域 (首爾)、 亞太區域 (大阪)、 亞太區域 (新加坡)、 亞太區域 (雪梨), 亞太區域 (雅加達), 非洲 (開普敦)、 南美洲 (聖保羅)、 中東 (巴林)、 加拿大 (中部)、 AWS GovCloud (美國西部)、 AWS GovCloud (美國東部)、 中國 (北京)、 中國 (寧夏) 2.0.20240709.1 4.14.348 2024 年 7 月 23 日 美國東部 (維吉尼亞北部)、 美國東部 (俄亥俄)、 美國西部 (加利佛尼亞北部), 美國西部 (奧勒岡)、 歐洲 (斯德哥爾摩)、 歐洲 (米蘭)、 歐洲 (法蘭克福)、 歐洲 (愛爾蘭)、 歐洲 (倫敦)、 歐洲 (巴黎)、 亞太區域 (香港), 亞太區域 (孟買)、 亞太區域 (東京)、 亞太區域 (首爾)、 亞太區域 (大阪)、 亞太區域 (新加坡)、 亞太區域 (雪梨), 亞太區域 (雅加達), 非洲 (開普敦)、 南美洲 (聖保羅)、 中東 (巴林)、 加拿大 (中部)、 AWS GovCloud (美國西部)、 AWS GovCloud (美國東部)、 中國 (北京)、 中國 (寧夏) 2.0.20240223.0 4.14.336 2024 年 3 月 8 日 美國東部 (維吉尼亞北部)、 美國東部 (俄亥俄)、 美國西部 (加利佛尼亞北部), 美國西部 (奧勒岡)、 歐洲 (斯德哥爾摩)、 歐洲 (米蘭)、 歐洲 (法蘭克福)、 歐洲 (愛爾蘭)、 歐洲 (倫敦)、 歐洲 (巴黎)、 亞太區域 (香港), 亞太區域 (孟買)、 亞太區域 (東京)、 亞太區域 (首爾)、 亞太區域 (大阪)、 亞太區域 (新加坡)、 亞太區域 (雪梨), 亞太區域 (雅加達), 非洲 (開普敦)、 南美洲 (聖保羅)、 中東 (巴林)、 加拿大 (中部)、 AWS GovCloud (美國西部)、 AWS GovCloud (美國東部)、 中國 (北京)、 中國 (寧夏) 2.0.20240131.0 4.14.336 2024 年 2 月 14 日 美國東部 (維吉尼亞北部)、 美國東部 (俄亥俄)、 美國西部 (加利佛尼亞北部), 美國西部 (奧勒岡)、 歐洲 (斯德哥爾摩)、 歐洲 (米蘭)、 歐洲 (法蘭克福)、 歐洲 (愛爾蘭)、 歐洲 (倫敦)、 歐洲 (巴黎)、 亞太區域 (香港), 亞太區域 (孟買)、 亞太區域 (東京)、 亞太區域 (首爾)、 亞太區域 (大阪)、 亞太區域 (新加坡)、 亞太區域 (雪梨), 亞太區域 (雅加達), 非洲 (開普敦)、 南美洲 (聖保羅)、 中東 (巴林)、 加拿大 (中部)、 AWS GovCloud (美國西部)、 AWS GovCloud (美國東部)、 中國 (北京)、 中國 (寧夏) 2.0.20240124.0 4.14.336 2024 年 2 月 7 日 美國東部 (維吉尼亞北部)、 美國東部 (俄亥俄)、 美國西部 (加利佛尼亞北部), 美國西部 (奧勒岡)、 歐洲 (斯德哥爾摩)、 歐洲 (米蘭)、 歐洲 (法蘭克福)、 歐洲 (愛爾蘭)、 歐洲 (倫敦)、 歐洲 (巴黎)、 亞太區域 (香港), 亞太區域 (孟買)、 亞太區域 (東京)、 亞太區域 (首爾)、 亞太區域 (大阪)、 亞太區域 (新加坡)、 亞太區域 (雪梨), 亞太區域 (雅加達), 非洲 (開普敦)、 南美洲 (聖保羅)、 中東 (巴林)、 加拿大 (中部)、 AWS GovCloud (美國西部)、 AWS GovCloud (美國東部)、 中國 (北京)、 中國 (寧夏) 2.0.20240109.0 4.14.334 2024 年 1 月 24 日 美國東部 (維吉尼亞北部)、 美國東部 (俄亥俄)、 美國西部 (加利佛尼亞北部), 美國西部 (奧勒岡)、 歐洲 (斯德哥爾摩)、 歐洲 (米蘭)、 歐洲 (法蘭克福)、 歐洲 (愛爾蘭)、 歐洲 (倫敦)、 歐洲 (巴黎)、 亞太區域 (香港), 亞太區域 (孟買)、 亞太區域 (東京)、 亞太區域 (首爾)、 亞太區域 (大阪)、 亞太區域 (新加坡)、 亞太區域 (雪梨), 亞太區域 (雅加達), 非洲 (開普敦)、 南美洲 (聖保羅)、 中東 (巴林)、 加拿大 (中部)、 AWS GovCloud (美國西部)、 AWS GovCloud (美國東部)、 中國 (北京)、 中國 (寧夏) 2.0.20231218.0 4.14.330 2024 年 1 月 2 日 美國東部 (維吉尼亞北部)、 美國東部 (俄亥俄)、 美國西部 (加利佛尼亞北部), 美國西部 (奧勒岡)、 歐洲 (斯德哥爾摩)、 歐洲 (米蘭)、 歐洲 (法蘭克福)、 歐洲 (愛爾蘭)、 歐洲 (倫敦)、 歐洲 (巴黎)、 亞太區域 (香港), 亞太區域 (孟買)、 亞太區域 (東京)、 亞太區域 (首爾)、 亞太區域 (大阪)、 亞太區域 (新加坡)、 亞太區域 (雪梨), 亞太區域 (雅加達), 非洲 (開普敦)、 南美洲 (聖保羅)、 中東 (巴林)、 加拿大 (中部)、 AWS GovCloud (美國西部)、 AWS GovCloud (美國東部)、 中國 (北京)、 中國 (寧夏) 2.0.20231206.0 4.14.330 2023 年 12 月 22 日 美國東部 (維吉尼亞北部)、 美國東部 (俄亥俄)、 美國西部 (加利佛尼亞北部), 美國西部 (奧勒岡)、 歐洲 (斯德哥爾摩)、 歐洲 (米蘭)、 歐洲 (法蘭克福)、 歐洲 (愛爾蘭)、 歐洲 (倫敦)、 歐洲 (巴黎)、 亞太區域 (香港), 亞太區域 (孟買)、 亞太區域 (東京)、 亞太區域 (首爾)、 亞太區域 (大阪)、 亞太區域 (新加坡)、 亞太區域 (雪梨), 亞太區域 (雅加達), 非洲 (開普敦)、 南美洲 (聖保羅)、 中東 (巴林)、 加拿大 (中部)、 AWS GovCloud (美國西部)、 AWS GovCloud (美國東部)、 中國 (北京)、 中國 (寧夏) 2.0.20231116.0 4.14.328 2023 年 12 月 11 日 美國東部 (維吉尼亞北部)、 美國東部 (俄亥俄)、 美國西部 (加利佛尼亞北部), 美國西部 (奧勒岡)、 歐洲 (斯德哥爾摩)、 歐洲 (米蘭)、 歐洲 (法蘭克福)、 歐洲 (愛爾蘭)、 歐洲 (倫敦)、 歐洲 (巴黎)、 亞太區域 (香港), 亞太區域 (孟買)、 亞太區域 (東京)、 亞太區域 (首爾)、 亞太區域 (大阪)、 亞太區域 (新加坡)、 亞太區域 (雪梨), 亞太區域 (雅加達), 非洲 (開普敦)、 南美洲 (聖保羅)、 中東 (巴林)、 加拿大 (中部)、 AWS GovCloud (美國西部)、 AWS GovCloud (美國東部)、 中國 (北京)、 中國 (寧夏) 2.0.20231101.0 4.14.327 2023 年 11 月 16 日 美國東部 (維吉尼亞北部)、 美國東部 (俄亥俄)、 美國西部 (加利佛尼亞北部), 美國西部 (奧勒岡)、 歐洲 (斯德哥爾摩)、 歐洲 (米蘭)、 歐洲 (法蘭克福)、 歐洲 (愛爾蘭)、 歐洲 (倫敦)、 歐洲 (巴黎)、 亞太區域 (香港), 亞太區域 (孟買)、 亞太區域 (東京)、 亞太區域 (首爾)、 亞太區域 (大阪)、 亞太區域 (新加坡)、 亞太區域 (雪梨), 亞太區域 (雅加達), 非洲 (開普敦)、 南美洲 (聖保羅)、 中東 (巴林)、 加拿大 (中部)、 AWS GovCloud (美國西部)、 AWS GovCloud (美國東部)、 中國 (北京)、 中國 (寧夏) 2.0.20231020.1 4.14.326 2023 年 11 月 7 日 美國東部 (維吉尼亞北部)、 美國東部 (俄亥俄)、 美國西部 (加利佛尼亞北部), 美國西部 (奧勒岡)、 歐洲 (斯德哥爾摩)、 歐洲 (米蘭)、 歐洲 (法蘭克福)、 歐洲 (愛爾蘭)、 歐洲 (倫敦)、 歐洲 (巴黎)、 亞太區域 (香港), 亞太區域 (孟買)、 亞太區域 (東京)、 亞太區域 (首爾)、 亞太區域 (大阪)、 亞太區域 (新加坡)、 亞太區域 (雪梨), 亞太區域 (雅加達), 非洲 (開普敦)、 南美洲 (聖保羅)、 中東 (巴林)、 加拿大 (中部)、 AWS GovCloud (美國西部)、 AWS GovCloud (美國東部)、 中國 (北京)、 中國 (寧夏) 2.0.20231012.1 4.14.326 2023 年 10 月 26 日 美國東部 (維吉尼亞北部)、 美國東部 (俄亥俄)、 美國西部 (加利佛尼亞北部), 美國西部 (奧勒岡)、 歐洲 (斯德哥爾摩)、 歐洲 (米蘭)、 歐洲 (法蘭克福)、 歐洲 (愛爾蘭)、 歐洲 (倫敦)、 歐洲 (巴黎)、 亞太區域 (香港), 亞太區域 (孟買)、 亞太區域 (東京)、 亞太區域 (首爾)、 亞太區域 (大阪)、 亞太區域 (新加坡)、 亞太區域 (雪梨), 亞太區域 (雅加達), 非洲 (開普敦)、 南美洲 (聖保羅)、 中東 (巴林)、 加拿大 (中部)、 AWS GovCloud (美國西部)、 AWS GovCloud (美國東部)、 中國 (北京)、 中國 (寧夏) 2.0.20230926.0 4.14.322 2023 年 10 月 19 日 美國東部 (維吉尼亞北部)、 美國東部 (俄亥俄)、 美國西部 (加利佛尼亞北部), 美國西部 (奧勒岡)、 歐洲 (斯德哥爾摩)、 歐洲 (米蘭)、 歐洲 (法蘭克福)、 歐洲 (愛爾蘭)、 歐洲 (倫敦)、 歐洲 (巴黎)、 亞太區域 (香港), 亞太區域 (孟買)、 亞太區域 (東京)、 亞太區域 (首爾)、 亞太區域 (大阪)、 亞太區域 (新加坡)、 亞太區域 (雪梨), 亞太區域 (雅加達), 非洲 (開普敦)、 南美洲 (聖保羅)、 中東 (巴林)、 加拿大 (中部)、 AWS GovCloud (美國西部)、 AWS GovCloud (美國東部)、 中國 (北京)、 中國 (寧夏) 2.0.20230906.0 4.14.322 2023 年 10 月 4 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、歐洲 (斯德哥爾摩)、歐洲 (米蘭)、歐洲 (法蘭克福)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、亞太區域 (雅加達)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林)、加拿大 (中部) 2.0.20230822.0 4.14.322 2023 年 8 月 30 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、歐洲 (斯德哥爾摩)、歐洲 (米蘭)、歐洲 (法蘭克福)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、亞太區域 (雅加達)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林)、加拿大 (中部) 2.0.20230808.0 4.14.320 2023 年 8 月 24 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、歐洲 (斯德哥爾摩)、歐洲 (米蘭)、歐洲 (法蘭克福)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、亞太區域 (雅加達)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林)、加拿大 (中部) 2.0.20230727.0 4.14.320 2023 年 8 月 14 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、歐洲 (斯德哥爾摩)、歐洲 (米蘭)、歐洲 (法蘭克福)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、亞太區域 (雅加達)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林)、加拿大 (中部) 2.0.20230719.0 4.14.320 2023 年 8 月 2 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、歐洲 (斯德哥爾摩)、歐洲 (米蘭)、歐洲 (西班牙)、歐洲 (法蘭克福)、歐洲 (蘇黎世)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (海德拉巴)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、亞太區域 (雅加達)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林)、中東 (阿拉伯聯合大公國)、加拿大 (中部) 2.0.20230628.0 4.14.318 2023 年 7 月 12 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、加拿大 (中部)、歐洲 (斯德哥爾摩)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、歐洲 (法蘭克福)、歐洲 (米蘭)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (雅加達)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林) 2.0.20230612.0 4.14.314 2023 年 6 月 23 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、加拿大 (中部)、歐洲 (斯德哥爾摩)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、歐洲 (法蘭克福)、歐洲 (米蘭)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (雅加達)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林) 2.0.20230504.1 4.14.313 2023 年 5 月 16 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、加拿大 (中部)、歐洲 (斯德哥爾摩)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、歐洲 (法蘭克福)、歐洲 (米蘭)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (雅加達)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林) 2.0.20230418.0 4.14.311 2023 年 5 月 3 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、加拿大 (中部)、歐洲 (斯德哥爾摩)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、歐洲 (法蘭克福)、歐洲 (米蘭)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (雅加達)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林) 2.0.20230404.1 4.14.311 2023 年 4 月 18 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、加拿大 (中部)、歐洲 (斯德哥爾摩)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、歐洲 (法蘭克福)、歐洲 (米蘭)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (雅加達)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林) 2.0.20230404.0 4.14.311 2023 年 4 月 10 日 美國東部 (維吉尼亞北部)、歐洲 (巴黎) 2.0.20230320.0 4.14.309 2023 年 3 月 30 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、加拿大 (中部)、歐洲 (斯德哥爾摩)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、歐洲 (法蘭克福)、歐洲 (米蘭)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (雅加達)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林) 2.0.20230307.0 4.14.305 2023 年 3 月 15 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、加拿大 (中部)、歐洲 (斯德哥爾摩)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、歐洲 (法蘭克福)、歐洲 (米蘭)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (雅加達)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林) 2.0.20230207.0 4.14.304 2023 年 2 月 22 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、加拿大 (中部)、歐洲 (斯德哥爾摩)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、歐洲 (法蘭克福)、歐洲 (米蘭)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (雅加達)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林) 2.0.20230119.1 4.14.301 2023 年 2 月 3 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、加拿大 (中部)、歐洲 (斯德哥爾摩)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、歐洲 (法蘭克福)、歐洲 (米蘭)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (雅加達)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林) 2.0.20221210.1 4.14.301 2023 年 12 月 22 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、加拿大 (中部)、歐洲 (斯德哥爾摩)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、歐洲 (法蘭克福)、歐洲 (米蘭)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (雅加達)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林) 2.0.20221103.3 4.14.296 2022 年 12 月 5 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、加拿大 (中部)、歐洲 (斯德哥爾摩)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、歐洲 (法蘭克福)、歐洲 (米蘭)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (雅加達)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林) 2.0.20221004.0 4.14.294 2022 年 11 月 2 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、加拿大 (中部)、歐洲 (斯德哥爾摩)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、歐洲 (法蘭克福)、歐洲 (米蘭)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (雅加達)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林) 2.0.20220912.1 4.14.291 2022 年 10 月 7 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、加拿大 (中部)、歐洲 (斯德哥爾摩)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、歐洲 (法蘭克福)、歐洲 (米蘭)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (雅加達)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林) 2.0.20220805.0 4.14.287 2022 年 8 月 30 日 us‑west‑1
2.0.20220719.0 4.14.287 2022 年 8 月 10 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、加拿大 (中部)、歐洲 (斯德哥爾摩)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、歐洲 (法蘭克福)、歐洲 (米蘭)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (雅加達)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林) 2.0.20220426.0 4.14.281 2022 年 6 月 10 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、加拿大 (中部)、歐洲 (斯德哥爾摩)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、歐洲 (法蘭克福)、歐洲 (米蘭)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (雅加達)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林) 2.0.20220406.1 4.14.275 2022 年 5 月 2 日 美國東部 (維吉尼亞北部)、美國東部 (俄亥俄)、美國西部 (加利佛尼亞北部)、美國西部 (奧勒岡)、加拿大 (中部)、歐洲 (斯德哥爾摩)、歐洲 (愛爾蘭)、歐洲 (倫敦)、歐洲 (巴黎)、歐洲 (法蘭克福)、歐洲 (米蘭)、亞太區域 (香港)、亞太區域 (孟買)、亞太區域 (雅加達)、亞太區域 (東京)、亞太區域 (首爾)、亞太區域 (大阪)、亞太區域 (新加坡)、亞太區域 (雪梨)、非洲 (開普敦)、南美洲 (聖保羅)、中東 (巴林) 在 Amazon EMR 6.6 及更高版本中,使用 Log4j 1.x 和 Log4j 2.x 的應用程式會分別升級為使用 Log4j 1.2.17 (或更高版本) 和 Log4j 2.17.1 (或更高版本),而且不需要使用所提供的引導操作來解決 CVE 問題。
-
[受管擴展] Spark 隨機顯示資料受管擴展優化 - 對於 Amazon EMR 版本 5.34.0 及更高版本和 EMR 版本 6.4.0 及更高版本,受管擴展現在可感知 Spark 隨機顯示資料 (Spark 為執行特定操作而重新分配到多個分割區的資料)。如需有關隨機排序操作的詳細資訊,請參閱《Amazon EMR 管理指南》和《Spark 程式設計指南》https://spark.apache.org/docs/latest/rdd-programming-guide.html#shuffle-operations
中的在 Amazon EMR 中使用 EMR 受管擴展。 自 Amazon EMR 5.32.0 和 6.5.0 起,預設為 Apache Spark 啟用動態執行器規模調整。若要開啟或關閉此功能,您可以使用
spark.yarn.heterogeneousExecutors.enabled
組態參數。
變更、強化功能和已解決的問題
對於使用 EMR 預設 AMI 選項並且僅安裝常見應用程式 (例如 Apache Hadoop、Apache Spark 和 Apache Hive) 的叢集,Amazon EMR 可將叢集啟動時間平均縮短長達 80 秒。
已知問題
當 Amazon EMR 版本 6.5.0、6.6.0 或 6.7.0 透過 Apache Spark Shell 讀取 Apache Phoenix 資料表時,會因為 Amazon EMR 使用不正確的
Hbase.compat.version
而發生NoSuchMethodError
。Amazon EMR 6.8.0 版解決了此問題。-
搭配使用 DynamoDB 連接器與 Amazon EMR 6.6.0、6.7.0 和 6.8.0 版本上的 Spark 時,即使輸入分割參照非空白資料,從資料表中進行的所有讀取都會傳回空白結果。這是因為 Spark 3.2.0 預設將
spark.hadoopRDD.ignoreEmptySplits
設為true
。解決辦法之一是,將spark.hadoopRDD.ignoreEmptySplits
明確設為false
。Amazon EMR 6.9.0 版解決了此問題。 在 Trino 長時間執行的叢集上,Amazon EMR 6.6.0 會啟用 Trino jvm.config 中的垃圾回收記錄參數,以便從垃圾回收日誌中取得更準確的洞見。此變更會向 launcher.log (/var/log/trino/launcher.log) 檔案附加多個垃圾回收日誌。如果您在 Amazon EMR 6.6.0 中執行 Trino 叢集,可能會遇到叢集因為附加的日誌執行數天以後,節點出現磁碟空間不足的問題。
此問題的解決方法是,在為 Amazon EMR 6.6.0 建立或複製叢集時,執行下方的指令碼作為一項引導操作,以便停用 jvm.config 中的垃圾回收記錄參數。
#!/bin/bash set -ex PRESTO_PUPPET_DIR='/var/aws/emr/bigtop-deploy/puppet/modules/trino' sudo bash -c "sed -i '/-Xlog/d' ${PRESTO_PUPPET_DIR}/templates/jvm.config"
當您使用具有 Hive 分割區位置格式設定的 Spark 讀取 Amazon S3 中的資料,而您在 Amazon EMR 版本 5.30.0 至 5.36.0、6.2.0 至 6.9.0 上執行 Spark 時,您可能遇到叢集無法正確讀取資料的問題。如果您的分割區具有以下所有特性,便會發生此種情形:
-
兩個或更多分割區從同一資料表掃描而來。
-
至少有一個分割區目錄路徑是其他一或多個分割區目錄路徑的字首,例如,
s3://bucket/table/p=a
是s3://bucket/table/p=a b
的字首。 -
在另一個分割區目錄中,字首後的第一個字元有小於
/
字元 (U+002F) 的 UTF-8 值。例如,s3://bucket/table/p=a b
中 a 和 b 之間有空白字元 (U+0020) 即屬於此類別。請注意還有 14 個其他非控制字元:!"#$%&‘()*+,-
。如需詳細資訊,請參閱 UTF-8 編碼表和 Unicode 字元。
若要避免發生此問題,請在
spark-defaults
分類中將spark.sql.sources.fastS3PartitionDiscovery.enabled
組態設定為false
。-
使用 Amazon EMR 版本 5.36.0 和 6.6.0 至 6.9.0,
SecretAgent
和RecordServer
服務元件可能會因為 Log4j2 屬性中的錯誤檔案名稱模式組態而遇到日誌資料遺失的情況。該錯誤組態會導致元件一天只產生一個日誌檔案。當使用輪換策略時,它會覆寫現有的檔案,而不會如預期產生新的日誌檔案。如需避免此狀況發生,請使用引導操作來每小時產生日誌檔案,並在檔案名稱中附加自動遞增的整數以處理輪換。對於 Amazon EMR 6.6.0 至 6.9.0 版本,在啟動叢集時使用以下引導操作。
‑‑bootstrap‑actions "Path=s3://emr-data-access-control-us-east-1/customer-bootstrap-actions/log-rotation-emr-6x/replace-puppet.sh,Args=[]"
對於 Amazon EMR 5.36.0,在啟動叢集時使用以下引導操作。
‑‑bootstrap‑actions "Path=s3://emr-data-access-control-us-east-1/customer-bootstrap-actions/log-rotation-emr-5x/replace-puppet.sh,Args=[]"
6.6.0 元件版本
Amazon EMR 在此版本安裝的元件列出如下。其中有一些屬於大數據應用程式套件。其他的則為 Amazon EMR 獨有,並安裝為系統程序和功能。這些通常會以 emr
或 aws
開頭。在最新 Amazon EMR 版本中的大數據應用程式套件,通常也是社群中可找到的最新版本。我們致力盡快提供 Amazon EMR 的社群版本。
Amazon EMR 中的某些元件與社群版本不同。這些元件具有版本標籤,格式為
。CommunityVersion
-amzn-EmrVersion
從 0 開始。例如,假設有一個名為 EmrVersion
myapp-component
的開放原始碼社群元件 2.2 版為了包含在不同 Amazon EMR 發行版本中而修改過三次,則其發行版本會列為 2.2-amzn-2
。
元件 | 版本 | 描述 |
---|---|---|
aws-sagemaker-spark-sdk | 1.4.1 | Amazon SageMaker Spark SDK |
emr-ddb | 4.16.0 | 適用於 Hadoop 生態系統應用程式的 Amazon DynamoDB 連接器。 |
emr-goodies | 3.2.0 | 適用 Hadoop 生態系統的超便利程式庫。 |
emr-kinesis | 3.5.0 | 適用於 Hadoop 生態系統應用程式的 Amazon Kinesis 連接器。 |
emr-notebook-env | 1.5.0 | 適用於 emr 筆記本的 Conda env,前者包含 Jupyter Enterprise Gateway |
emr-s3-dist-cp | 2.20.0 | 針對 Amazon S3 最佳化的分散式複製應用程式。 |
emr-s3-select | 2.1.0 | EMR S3Select Connector |
emrfs | 2.50.0 | 適用於 Hadoop 生態系統應用程式的 Amazon S3 連接器。 |
flink-client | 1.14.2 | Apache Flink 命令列用戶端指令碼和應用程式。 |
flink-jobmanager-config | 1.14.2 | 管理 Apache Flink JobManager 的 EMR 節點上的資源。 |
ganglia-monitor | 3.7.2 | Hadoop 生態系統應用程式內嵌 Ganglia 代理程式以及 Ganglia 監控代理程式。 |
ganglia-metadata-collector | 3.7.2 | Ganglia 監控代理程式的彙總指標 Ganglia 中繼資料收集器。 |
ganglia-web | 3.7.1 | 由 Ganglia 中繼資料收集器收集,以檢視指標的 Web 應用程式。 |
hadoop-client | 3.2.1-amzn-6 | Hadoop 命令列用戶端,例如「hdfs」、「Hadoop」或「yarn」。 |
hadoop-hdfs-datanode | 3.2.1-amzn-6 | 用於存放區塊的 HDFS 節點層級服務。 |
hadoop-hdfs-library | 3.2.1-amzn-6 | HDFS 命令列用戶端和程式庫 |
hadoop-hdfs-namenode | 3.2.1-amzn-6 | 用於追蹤檔案名稱和區塊位置的 HDFS 服務。 |
hadoop-hdfs-journalnode | 3.2.1-amzn-6 | HDFS 檔案系統中的 Hadoop 服務,用於管理在 HA 叢集。 |
hadoop-httpfs-server | 3.2.1-amzn-6 | HDFS 操作的 HTTP 端點。 |
hadoop-kms-server | 3.2.1-amzn-6 | 以 Hadoop 金鑰供應商 API 為基礎的加密金鑰管理伺服器。 |
hadoop-mapred | 3.2.1-amzn-6 | 執行 MapReduce 應用程式的 MapReduce 執行引擎程式庫。 |
hadoop-yarn-nodemanager | 3.2.1-amzn-6 | 在個別節點用於管理容器的 YARN 服務。 |
hadoop-yarn-resourcemanager | 3.2.1-amzn-6 | 用於分配和管理叢集資源,以及分散式應用程式的 YARN 服務。 |
hadoop-yarn-timeline-server | 3.2.1-amzn-6 | 為 YARN 應用程式擷取目前和歷史資訊的服務。 |
hbase-hmaster | 2.4.4-amzn-2 | 負責區域協調和執行管理命令的 HBase 叢集服務。 |
hbase-region-server | 2.4.4-amzn-2 | 提供一或多個 HBase 區域的服務。 |
hbase-client | 2.4.4-amzn-2 | HBase 命令列用戶端。 |
hbase-rest-server | 2.4.4-amzn-2 | 為 HBase 提供 RESTful HTTP 端點的服務。 |
hbase-thrift-server | 2.4.4-amzn-2 | 提供 Thrift 端點到 HBase 的服務。 |
hbase-operator-tools | 2.4.4-amzn-2 | 適用於 Apache HBase 叢集的修復工具。 |
hcatalog-client | 3.1.2-amzn-7 | 操作 hcatalog-server 的「hcat」命令列用戶端。 |
hcatalog-server | 3.1.2-amzn-7 | 服務為分散式應用程式提供 HCatalog、表格和儲存管理層。 |
hcatalog-webhcat-server | 3.1.2-amzn-7 | HTTP 端點提供了 REST 介面至 HCatalog。 |
hive-client | 3.1.2-amzn-7 | Hive 命令列用戶端。 |
hive-hbase | 3.1.2-amzn-7 | Hive-hbase 用戶端。 |
hive-metastore-server | 3.1.2-amzn-7 | 為 Hadoop 操作的 SQL 提供存取 Hive 中繼儲存、存放中繼資料語意儲存庫的服務。 |
hive-server2 | 3.1.2-amzn-7 | 依 Web 請求接受 Hive 查詢的服務。 |
hudi | 0.10.1-amzn-0 | 增量處理架構,以低延遲和高效率強化資料管道。 |
hudi-presto | 0.10.1-amzn-0 | 用於使用 Hudi 執行 Presto 的套件程式庫。 |
hudi-trino | 0.10.1-amzn-0 | 用於使用 Hudi 執行 Trino 的套件程式庫。 |
hudi-spark | 0.10.1-amzn-0 | 用於使用 Hudi 執行 Spark 的套件程式庫。 |
hue-server | 4.10.0 | 使用 Hadoop 生態系統應用程式分析資料的 Web 應用程式 |
iceberg | 0.13.1 | Apache Iceberg 是一種適用於大型分析資料集的開放式資料表格式 |
jupyterhub | 1.4.1 | 適用於 Jupyter 筆記本的多使用者伺服器 |
livy-server | 0.7.1-incubating | 與 Apache Spark 互動的 REST 介面 |
nginx | 1.12.1 | nginx [engine x] 是 HTTP 和反向代理伺服器 |
mxnet | 1.8.0 | 靈活有效率的程式庫,具可擴展性,適用於深度學習。 |
mariadb-server | 5.5.68+ | MariaDB 資料庫伺服器。 |
nvidia-cuda | 11.0.194 | Nvidia 驅動程式和 Cuda 工具組 |
oozie-client | 5.2.1 | Oozie 命令列用戶端。 |
oozie-server | 5.2.1 | 接受 Oozie 工作流程要求的服務。 |
opencv | 4.5.0 | 開放原始碼電腦 Vision 程式庫。 |
phoenix-library | 5.1.2 | 適用於伺服器和用戶端的 phoenix 程式庫 |
phoenix-connectors | 5.1.2 | 適用於 Spark-3 的 Apache Phoenix 連接器 |
phoenix-query-server | 5.1.2 | 此為一輕量伺服器,可提供對 Avatica API 的 JDBC 存取以及通訊協定緩衝區和 JSON 格式存取 |
presto-coordinator | 0.267-amzn-0 | 在 presto-workers 之間接受查詢和執行管理查詢的服務。 |
presto-worker | 0.267-amzn-0 | 執行查詢各部分的服務。 |
presto-client | 0.267-amzn-0 | 安裝於 HA 叢集的待命主節點的 Presto 命令列用戶端,該主節點上的 Presto 伺服器未啟動。 |
trino-coordinator | 367-amzn-0 | 在 trino-workers 之間接受查詢和執行管理查詢的服務。 |
trino-worker | 367-amzn-0 | 執行查詢各部分的服務。 |
trino-client | 367-amzn-0 | 安裝於 HA 叢集的待命主節點的 Trino 命令列用戶端,該主節點上的 Trino 伺服器未啟動。 |
pig-client | 0.17.0 | Pig 命令列用戶端。 |
r | 4.0.2 | 統計運算 R 專案 |
ranger-kms-server | 2.0.0 | Apache Ranger Key Management System |
spark-client | 3.2.0-amzn-0 | Spark 命令列用戶端。 |
spark-history-server | 3.2.0-amzn-0 | 用於檢視完整 Spark 應用程式生命週期記錄事件的 Web 使用者介面。 |
spark-on-yarn | 3.2.0-amzn-0 | 適用於 YARN 的記憶體內執行引擎。 |
spark-yarn-slave | 3.2.0-amzn-0 | YARN 從屬所需的 Apache Spark 程式庫。 |
spark-rapids | 22.02.0-amzn-0 | Nvidia Spark RAPIDS 外掛程式利用 GPU 加快 Apache Spark。 |
sqoop-client | 1.4.7 | Apache Sqoop 命令列用戶端。 |
tensorflow | 2.4.1 | 適用於高效能數值運算的 TensorFlow 開放原始碼軟體程式庫。 |
tez-on-yarn | 0.9.2 | tez YARN 應用程式和程式庫。 |
webserver | 2.4.41+ | Apache HTTP 伺服器。 |
zeppelin-server | 0.10.0 | 能進行互動式資料分析,以 Web 為基礎的筆記型電腦。 |
zookeeper-server | 3.5.7 | 用於維護組態資訊、命名、提供分散式同步,並提供群組服務的集中化服務。 |
zookeeper-client | 3.5.7 | ZooKeeper 命令列用戶端。 |
6.6.0 組態類別
組態分類可讓您自訂應用程式。這些檔案通常對應於應用程式的組態 XML 檔案,例如 hive-site.xml
。如需詳細資訊,請參閱設定應用程式。
當您為執行中叢集的執行個體群組指定組態時,就會發生重新設定動作。Amazon EMR 只會為您修改的分類啟動重新設定動作。如需詳細資訊,請參閱重新設定執行中叢集中的執行個體群組。
分類 | 描述 | 重新設定動作 |
---|---|---|
capacity-scheduler | 變更 Hadoop 中 capacity-scheduler.xml 檔案的值。 | Restarts the ResourceManager service. |
container-executor | 在 Hadoop YARN 的 container-executor.cfg 檔案中變更值。 | Not available. |
container-log4j | 變更 Hadoop YARN 的 container-log4j.properties 檔案中的值。 | Not available. |
core-site | 變更 Hadoop 中 core-site.xml 檔案的值。 | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Ranger KMS, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer. |
docker-conf | 變更 Docker 相關設定。 | Not available. |
emrfs-site | 變更 EMRFS 設定。 | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts HBaseRegionserver, HBaseMaster, HBaseThrift, HBaseRest, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer. |
flink-conf | 變更 flink-conf.yaml 設定。 | Restarts Flink history server. |
flink-log4j | 變更 Flink log4j.properties 設定。 | Restarts Flink history server. |
flink-log4j-session | 變更 Kubernetes/Yarn 工作階段的 Flink log4j-session.properties 設定。 | Restarts Flink history server. |
flink-log4j-cli | 變更 Flink log4j-cli.properties 設定。 | Restarts Flink history server. |
hadoop-env | 在 Hadoop 環境中變更所有 Hadoop 元件的值。 | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts PhoenixQueryserver, HiveServer2, Hive MetaStore, and MapReduce-HistoryServer. |
hadoop-log4j | 變更 Hadoop 中 log4j.properties 檔案的值。 | Restarts the Hadoop HDFS services SecondaryNamenode, Datanode, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Hadoop Httpfs, and MapReduce-HistoryServer. |
hadoop-ssl-server | 變更 hadoop ssl 伺服器組態 | Not available. |
hadoop-ssl-client | 變更 hadoop ssl 用戶端組態 | Not available. |
hbase | Apache HBase 的 Amazon EMR 彙整設定。 | Custom EMR specific property. Sets emrfs-site and hbase-site configs. See those for their associated restarts. |
hbase-env | 變更 HBase 環境中的值。 | Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. |
hbase-log4j | 變更 HBase 的 hbase-log4j.properties 檔案中的值。 | Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. |
hbase-metrics | 變更 HBase 的 hadoop-metrics2-hbase.properties 檔案中的值。 | Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. |
hbase-policy | 變更 HBase 的 hbase-policy.xml 檔案中的值。 | Not available. |
hbase-site | 變更 HBase 的 hbase-site.xml 檔案中的值。 | Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. Additionally restarts Phoenix QueryServer. |
hdfs-encryption-zones | 設定 HDFS 加密區域。 | This classification should not be reconfigured. |
hdfs-env | 變更 HDFS 環境中的值。 | Restarts Hadoop HDFS services Namenode, Datanode, and ZKFC. |
hdfs-site | 變更 HDFS 的 hdfs-site.xml 中的值。 | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Additionally restarts Hadoop Httpfs. |
hcatalog-env | 變更 HCatalog 環境中的值。 | Restarts Hive HCatalog Server. |
hcatalog-server-jndi | 變更 HCatalog 的 jndi.properties 中的值。 | Restarts Hive HCatalog Server. |
hcatalog-server-proto-hive-site | 變更 HCatalog 的 proto-hive-site.xml 中的值。 | Restarts Hive HCatalog Server. |
hcatalog-webhcat-env | 變更 HCatalog WebHCat 環境中的值。 | Restarts Hive WebHCat server. |
hcatalog-webhcat-log4j2 | 變更 HCatalog WebHCat 的 log4j2.properties 中的值。 | Restarts Hive WebHCat server. |
hcatalog-webhcat-site | 變更 HCatalog WebHCat 的 webhcat-site.xml 檔案中的值。 | Restarts Hive WebHCat server. |
hive | Apache Hive 的 Amazon EMR 彙整設定。 | Sets configurations to launch Hive LLAP service. |
hive-beeline-log4j2 | 變更 Hive 的 beeline-log4j2.properties 檔案中的值。 | Not available. |
hive-parquet-logging | 變更 Hive 的 parquet-logging.properties 檔案中的值。 | Not available. |
hive-env | 變更 Hive 環境中的值。 | Restarts HiveServer2, HiveMetastore, and Hive HCatalog-Server. Runs Hive schemaTool CLI commands to verify hive-metastore. |
hive-exec-log4j2 | 變更 Hive 的 hive-exec-log4j2.properties 檔案中的值。 | Not available. |
hive-llap-daemon-log4j2 | 變更 Hive 的 llap-daemon-log4j2.properties 檔案中的值。 | Not available. |
hive-log4j2 | 變更 Hive 的 hive-log4j2.properties 檔案中的值。 | Not available. |
hive-site | 變更 Hive 的 hive-site.xml 檔案中的值 | Restarts HiveServer2, HiveMetastore, and Hive HCatalog-Server. Runs Hive schemaTool CLI commands to verify hive-metastore. Also restarts Oozie and Zeppelin. |
hiveserver2-site | 變更 Hive Server2 的 hiveserver2-site.xml 檔案中的值 | Not available. |
hue-ini | 變更 Hue 的 ini 檔案中的值 | Restarts Hue. Also activates Hue config override CLI commands to pick up new configurations. |
httpfs-env | 變更 HTTPFS 環境中的值。 | Restarts Hadoop Httpfs service. |
httpfs-site | 變更 Hadoop 中 httpfs-site.xml 檔案的值。 | Restarts Hadoop Httpfs service. |
hadoop-kms-acls | 變更 Hadoop 中 kms-acls.xml 檔案的值。 | Not available. |
hadoop-kms-env | 變更 Hadoop KMS 環境中的值。 | Restarts Hadoop-KMS service. |
hadoop-kms-log4j | 變更 Hadoop 的 kms-log4j.properties 檔案中的值。 | Not available. |
hadoop-kms-site | 變更 Hadoop 中 kms-site.xml 檔案的值。 | Restarts Hadoop-KMS and Ranger-KMS service. |
hudi-env | 變更 Hudi 環境中的值。 | Not available. |
hudi-defaults | 變更 Hudi 的 hudi-defaults.conf 檔案中的值。 | Not available. |
iceberg-defaults | 變更 Iceberg 的 iceberg-defaults.conf 檔案中的值。 | Not available. |
jupyter-notebook-conf | 變更 Jupyter 筆記本中 jupyter_notebook_config.py 檔案的值。 | Not available. |
jupyter-hub-conf | 變更 JupyterHubs 中 jupyterhub_config.py 檔案的值。 | Not available. |
jupyter-s3-conf | 設定 Jupyter 筆記本 S3 持久性。 | Not available. |
jupyter-sparkmagic-conf | 變更 Sparkmagic 中 config.json 檔案的值。 | Not available. |
livy-conf | 變更 Livy 的 livy.conf 檔案中的值。 | Restarts Livy Server. |
livy-env | 變更 Livy 環境中的值。 | Restarts Livy Server. |
livy-log4j | 變更 Livy log4j.properties 設定。 | Restarts Livy Server. |
mapred-env | 變更 MapReduce 應用程式環境中的值。 | Restarts Hadoop MapReduce-HistoryServer. |
mapred-site | 變更 MapReduce 應用程式 mapred-site.xml 檔案中的值。 | Restarts Hadoop MapReduce-HistoryServer. |
oozie-env | 變更 Oozie 環境中的值。 | Restarts Oozie. |
oozie-log4j | 變更 Oozie 的 oozie-log4j.properties 檔案中的值。 | Restarts Oozie. |
oozie-site | 變更 Oozie 的 oozie-site.xml 檔案中的值。 | Restarts Oozie. |
phoenix-hbase-metrics | 變更 Phoenix 的 hadoop-metrics2-hbase.properties 檔案中的值。 | Not available. |
phoenix-hbase-site | 變更 Phoenix 的 hbase-site.xml 檔案中的值。 | Not available. |
phoenix-log4j | 變更 Phoenix 中 log4j.properties 檔案的值。 | Restarts Phoenix-QueryServer. |
phoenix-metrics | 變更 Phoenix 的 hadoop-metrics2-phoenix.properties 檔案中的值。 | Not available. |
pig-env | 在 Pig 環境中變更值。 | Not available. |
pig-properties | 變更 Pig 的 pig.properties 檔案中的值。 | Restarts Oozie. |
pig-log4j | 變更 Pig 的 log4j.properties 檔案中的值。 | Not available. |
presto-log | 變更 Presto 的 log.properties 檔案中的值。 | Restarts Presto-Server (for PrestoDB) |
presto-config | 變更 Presto 的 config.properties 檔案中的值。 | Restarts Presto-Server (for PrestoDB) |
presto-password-authenticator | 變更 Presto 的 password-authenticator.properties 檔案中的值。 | Not available. |
presto-env | 變更 Presto 的 presto-env.sh 檔案中的值。 | Restarts Presto-Server (for PrestoDB) |
presto-node | 變更 Presto 的 node.properties 檔案中的值。 | Not available. |
presto-connector-blackhole | 變更 Presto 的 blackhole.properties 檔案中的值。 | Not available. |
presto-connector-cassandra | 變更 Presto 的 cassandra.properties 檔案中的值。 | Not available. |
presto-connector-hive | 變更 Presto 的 hive.properties 檔案中的值。 | Restarts Presto-Server (for PrestoDB) |
presto-connector-jmx | 變更 Presto 的 jmx.properties 檔案中的值。 | Not available. |
presto-connector-kafka | 變更 Presto 的 kafka.properties 檔案中的值。 | Not available. |
presto-connector-localfile | 變更 Presto 的 localfile.properties 檔案中的值。 | Not available. |
presto-connector-memory | 變更 Presto 的 memory.properties 檔案中的值。 | Not available. |
presto-connector-mongodb | 變更 Presto 的 mongodb.properties 檔案中的值。 | Not available. |
presto-connector-mysql | 變更 Presto 的 mysql.properties 檔案中的值。 | Not available. |
presto-connector-postgresql | 變更 Presto 的 postgresql.properties 檔案中的值。 | Not available. |
presto-connector-raptor | 變更 Presto 的 raptor.properties 檔案中的值。 | Not available. |
presto-connector-redis | 變更 Presto 的 redis.properties 檔案中的值。 | Not available. |
presto-connector-redshift | 變更 Presto 的 redshift.properties 檔案中的值。 | Not available. |
presto-connector-tpch | 變更 Presto 的 tpch.properties 檔案中的值。 | Not available. |
presto-connector-tpcds | 變更 Presto 的 tpcds.properties 檔案中的值。 | Not available. |
trino-log | 變更 Trino 的 log.properties 檔案中的值。 | Restarts Trino-Server (for Trino) |
trino-config | 變更 Trino 的 config.properties 檔案中的值。 | Restarts Trino-Server (for Trino) |
trino-password-authenticator | 變更 Trino 的 password-authenticator.properties 檔案中的值。 | Restarts Trino-Server (for Trino) |
trino-env | 變更 Trino 的 trino-env.sh 檔案中的值。 | Restarts Trino-Server (for Trino) |
trino-node | 變更 Trino 的 node.properties 檔案中的值。 | Not available. |
trino-connector-blackhole | 變更 Trino 的 blackhole.properties 檔案中的值。 | Not available. |
trino-connector-cassandra | 變更 Trino 的 cassandra.properties 檔案中的值。 | Not available. |
trino-connector-hive | 變更 Trino 的 hive.properties 檔案中的值。 | Restarts Trino-Server (for Trino) |
trino-connector-iceberg | 變更 Trino 的 iceberg.properties 檔案中的值。 | Restarts Trino-Server (for Trino) |
trino-connector-jmx | 變更 Trino 的 jmx.properties 檔案中的值。 | Not available. |
trino-connector-kafka | 變更 Trino 的 kafka.properties 檔案中的值。 | Not available. |
trino-connector-localfile | 變更 Trino 的 localfile.properties 檔案中的值。 | Not available. |
trino-connector-memory | 變更 Trino 的 memory.properties 檔案中的值。 | Not available. |
trino-connector-mongodb | 變更 Trino 的 mongodb.properties 檔案中的值。 | Not available. |
trino-connector-mysql | 變更 Trino 的 mysql.properties 檔案中的值。 | Not available. |
trino-connector-postgresql | 變更 Trino 的 postgresql.properties 檔案中的值。 | Not available. |
trino-connector-raptor | 變更 Trino 的 raptor.properties 檔案中的值。 | Not available. |
trino-connector-redis | 變更 Trino 的 redis.properties 檔案中的值。 | Not available. |
trino-connector-redshift | 變更 Trino 的 redshift.properties 檔案中的值。 | Not available. |
trino-connector-tpch | 變更 Trino 的 tpch.properties 檔案中的值。 | Not available. |
trino-connector-tpcds | 變更 Trino 的 tpcds.properties 檔案中的值。 | Not available. |
ranger-kms-dbks-site | 變更 Ranger KMS 之 dbks-site.xml 檔案中的值。 | Restarts Ranger KMS Server. |
ranger-kms-site | 變更 Ranger KMS 之 ranger-kms-site.xml 檔案中的值。 | Restarts Ranger KMS Server. |
ranger-kms-env | 變更 Ranger KMS 環境中的值。 | Restarts Ranger KMS Server. |
ranger-kms-log4j | 變更 Ranger KMS 之 kms-log4j.properties 檔案中的值。 | Not available. |
ranger-kms-db-ca | 變更 S3 上 CA 檔案的值,以使用 Ranger KMS 進行 MySQL SSL 連線。 | Not available. |
spark | Apache Spark 的 Amazon EMR 彙整設定。 | This property modifies spark-defaults. See actions there. |
spark-defaults | 變更 Spark 的 spark-defaults.conf 檔案中的值。 | Restarts Spark history server and Spark thrift server. |
spark-env | 變更 Spark 環境中的值。 | Restarts Spark history server and Spark thrift server. |
spark-hive-site | 變更 Spark 的 hive-site.xml 檔案中的值 | Not available. |
spark-log4j | 變更 Spark 中 log4j.properties 檔案的值。 | Restarts Spark history server and Spark thrift server. |
spark-metrics | 變更 Spark 中 metrics.properties 檔案的值。 | Restarts Spark history server and Spark thrift server. |
sqoop-env | 變更 Sqoop 環境中的值。 | Not available. |
sqoop-oraoop-site | 變更 Sqoop OraOop 的 oraoop-site.xml 檔案中的值。 | Not available. |
sqoop-site | 變更 Sqoop 的 sqoop-site.xml 檔案中的值。 | Not available. |
tez-site | 變更 Tez 的 tez-site.xml 檔案中的值。 | Restart Oozie and HiveServer2. |
yarn-env | 變更 YARN 環境中的值。 | Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts MapReduce-HistoryServer. |
yarn-site | 變更 YARN 的 yarn-site.xml 檔案中的值。 | Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Livy Server and MapReduce-HistoryServer. |
zeppelin-env | 變更 Zeppelin 環境中的值。 | Restarts Zeppelin. |
zeppelin-site | 變更 zeppelin-site.xml 中的組態設定。 | Restarts Zeppelin. |
zookeeper-config | 變更 ZooKeeper 的 zoo.cfg 檔案中的值。 | Restarts Zookeeper server. |
zookeeper-log4j | 變更 ZooKeeper 中 log4j.properties 檔案的值。 | Restarts Zookeeper server. |