Amazon EMRリリース 6.14.0 - Amazon EMR
6.14.0 アプリケーションバージョン6.14.0 リリースノート6.14.0 のデフォルト Java バージョン6.14.0 コンポーネントバージョン6.14.0 設定分類6.14.0 変更ログ

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

Amazon EMRリリース 6.14.0

6.14.0 アプリケーションバージョン

このリリースでは、次のアプリケーションがサポートされています: Delta、Flink、Ganglia、HBase、HCatalog、Hadoop、Hive、Hudi、Hue、Iceberg、JupyterEnterpriseGateway、JupyterHub、Livy、MXNet、Oozie、Phoenix、Pig、Presto、Spark、Sqoop、TensorFlow、Tez、Trino、Zeppelin、ZooKeeper。

次の表に、Amazon のこのリリースで利用可能なアプリケーションバージョンEMRと、前述の 3 つの Amazon EMRリリース (該当する場合) のアプリケーションバージョンを示します。

Amazon の各リリースのアプリケーションバージョンの包括的な履歴についてはEMR、以下のトピックを参照してください。

アプリケーションバージョン情報
emr-6.14.0 emr-6.13.0 emr-6.12.0 emr-6.11.1
AWS SDK for Java 1.12.5431.12.5131.12.4901.12.446
Python 2.7、3.72.7、3.72.7、3.72.7、3.7
Scala 2.12.152.12.152.12.152.12.15
AmazonCloudWatchAgent - - - -
Delta2.4.02.4.02.4.02.2.0
Flink1.17.11.17.01.17.01.16.0
Ganglia3.7.23.7.23.7.23.7.2
HBase2.4.172.4.172.4.172.4.15
HCatalog3.1.33.1.33.1.33.1.3
Hadoop3.3.33.3.33.3.33.3.3
Hive3.1.33.1.33.1.33.1.3
Hudi0.13.1-amzn-20.13.1-amzn-10.13.1-amzn-00.13.0-amzn-0
Hue4.11.04.11.04.11.04.11.0
Iceberg1.3.1-amzn-01.3.0-amzn-11.3.0-amzn-01.2.0-amzn-0
JupyterEnterpriseGateway2.6.02.6.02.6.02.6.0
JupyterHub1.5.01.5.01.4.11.4.1
Livy0.7.10.7.10.7.10.7.1
MXNet1.9.11.9.11.9.11.9.1
Mahout - - - -
Oozie5.2.15.2.15.2.15.2.1
Phoenix5.1.35.1.35.1.35.1.2
Pig0.17.00.17.00.17.00.17.0
Presto0.2810.2810.2810.279
Spark3.4.13.4.13.4.03.3.2
Sqoop1.4.71.4.71.4.71.4.7
TensorFlow2.11.02.11.02.11.02.11.0
Tez0.10.20.10.20.10.20.10.2
Trino (PrestoSQL)422414414410
Zeppelin0.10.10.10.10.10.10.10.1
ZooKeeper3.5.103.5.103.5.103.5.10

6.14.0 リリースノート

次のリリースノートには、Amazon EMRリリース 6.14.0 に関する情報が含まれています。6.13.0 からの変更が含まれています。リリースタイムラインの詳細については、「6.14.0 変更ログ」を参照してください。

新機能

  • Amazon EMR 6.14.0 supports Apache Spark 3.4.1, Apache Spark RAPIDS 23.06.0-amzn-2, Flink 1.17.1, Iceberg 1.3.1, and Trino 422.

  • Amazon EMR マネージドスケーリングが、Amazon 6.14.0 以降で作成したクラスターのap-southeast-3アジアパシフィック (ジャカルタ) EMR リージョンで利用可能になりました。

変更点、機能強化、解決した問題

  • 6.14.0 リリースでは、Amazon でEMR実行されている Amazon によるログ管理が最適化されますEC2。その結果、クラスターログのストレージコストがわずかに削減される可能性があります。

  • 6.14.0 リリースでは、Amazon EBSボリュームのサイズに大きなばらつきがあるさまざまなコアインスタンスを考慮してスケーリングワークフローが改善されました。この改善はコアノードにのみ適用され、タスクノードのスケールダウン操作には影響しません。

  • 6.14.0 リリースでは、Amazon が などのオープンソースアプリケーションとEMRやり取りする方法が改善されていますApache Hadoop YARN ResourceManager and HDFS NameNode。この改善により、クラスタースケーリングによる運用遅延のリスクが軽減され、オープンソースアプリケーションとの接続の問題が原因で発生する起動障害が軽減されます。

  • 6.14.0 リリースでは、クラスター起動時のアプリケーションのインストールが最適化されます。これにより、Amazon EMRアプリケーションの特定の組み合わせに対するクラスターの起動時間が短縮されます。

  • 6.14.0 リリースでは、カスタムドメインVPCを持つ で実行されているクラスターがコアノードまたはタスクノードの再起動に遭遇すると、クラスターのスケールダウンオペレーションが停止することがある問題が修正されています。

  • Amazon 5.36 以上、6EMR.6 以上、または 7.0 以上の最新のパッチリリースでクラスターを起動すると、Amazon EMRはデフォルトの Amazon に対して最新の Amazon Linux 2023 または Amazon Linux 2 EMR リリースを使用しますAMI。詳細については、「デフォルトの Amazon Linux for Amazon の使用AMIEMR」を参照してください。

    OsReleaseLabel (Amazon Linux バージョン） Amazon Linux カーネルバージョン 利用可能日 サポートされるリージョン
    2.0.20240709.1 4.14.348 2024 年 7 月 23 日 米国東部 (バージニア北部）、 米国東部 (オハイオ）、 米国西部 (北カリフォルニア）、 米国西部 (オレゴン）、 欧州 (ストックホルム）、 欧州 (ミラノ）、 欧州 (フランクフルト）、 欧州 (アイルランド）、 欧州 (ロンドン）、 欧州 (パリ）、 アジアパシフィック (香港）、 アジアパシフィック (ムンバイ）、 アジアパシフィック (東京）、 アジアパシフィック (ソウル）、 アジアパシフィック (大阪）、 アジアパシフィック (シンガポール）、 アジアパシフィック (シドニー）、 アジアパシフィック (ジャカルタ）、 アフリカ (ケープタウン）、 南米 (サンパウロ）、 中東 (バーレーン）、 カナダ (中部）、 AWS GovCloud （米国西部）、 AWS GovCloud （米国東部）、 中国 (北京）、 中国 (寧夏）、 アジアパシフィック (ハイデラバード） 中東 (UAE）、 欧州 (スペイン）、 欧州 (チューリッヒ）、 アジアパシフィック (メルボルン）、 イスラエル (テルアビブ）、 カナダ西部 (カルガリー）
    2.0.20240223.0 4.14.336 2024 年 3 月 8 日 米国東部 (バージニア北部）、 米国東部 (オハイオ）、 米国西部 (北カリフォルニア）、 米国西部 (オレゴン）、 欧州 (ストックホルム）、 欧州 (ミラノ）、 欧州 (スペイン）、 欧州 (フランクフルト）、 欧州 (チューリッヒ）、 欧州 (アイルランド）、 欧州 (ロンドン）、 欧州 (パリ）、 アジアパシフィック (香港）、 アジアパシフィック (ムンバイ）、 アジアパシフィック (ハイデラバード） アジアパシフィック (東京）、 アジアパシフィック (ソウル）、 アジアパシフィック (大阪）、 アジアパシフィック (シンガポール）、 アジアパシフィック (シドニー）、 アジアパシフィック (ジャカルタ）、 アジアパシフィック (メルボルン）、 アフリカ (ケープタウン）、 南米 (サンパウロ）、 中東 (バーレーン）、 中東 (UAE）、 カナダ (中部）、 イスラエル (テルアビブ）、 AWS GovCloud （米国西部）、 AWS GovCloud （米国東部）、 中国 (北京）、 中国 (寧夏）、 カナダ西部 (カルガリー）
    2.0.20240131.0 4.14.336 2024 年 2 月 14 日 米国東部 (バージニア北部）、 米国東部 (オハイオ）、 米国西部 (北カリフォルニア）、 米国西部 (オレゴン）、 欧州 (ストックホルム）、 欧州 (ミラノ）、 欧州 (スペイン）、 欧州 (フランクフルト）、 欧州 (チューリッヒ）、 欧州 (アイルランド）、 欧州 (ロンドン）、 欧州 (パリ）、 アジアパシフィック (香港）、 アジアパシフィック (ムンバイ）、 アジアパシフィック (ハイデラバード） アジアパシフィック (東京）、 アジアパシフィック (ソウル）、 アジアパシフィック (大阪）、 アジアパシフィック (シンガポール）、 アジアパシフィック (シドニー）、 アジアパシフィック (ジャカルタ）、 アジアパシフィック (メルボルン）、 アフリカ (ケープタウン）、 南米 (サンパウロ）、 中東 (バーレーン）、 中東 (UAE）、 カナダ (中部）、 イスラエル (テルアビブ）、 AWS GovCloud （米国西部）、 AWS GovCloud （米国東部）、 中国 (北京）、 中国 (寧夏）、 カナダ西部 (カルガリー）
    2.0.20240124.0 4.14.336 2024 年 2 月 7 日 米国東部 (バージニア北部）、 米国東部 (オハイオ）、 米国西部 (北カリフォルニア）、 米国西部 (オレゴン）、 欧州 (ストックホルム）、 欧州 (ミラノ）、 欧州 (スペイン）、 欧州 (フランクフルト）、 欧州 (チューリッヒ）、 欧州 (アイルランド）、 欧州 (ロンドン）、 欧州 (パリ）、 アジアパシフィック (香港）、 アジアパシフィック (ムンバイ）、 アジアパシフィック (ハイデラバード） アジアパシフィック (東京）、 アジアパシフィック (ソウル）、 アジアパシフィック (大阪）、 アジアパシフィック (シンガポール）、 アジアパシフィック (シドニー）、 アジアパシフィック (ジャカルタ）、 アジアパシフィック (メルボルン）、 アフリカ (ケープタウン）、 南米 (サンパウロ）、 中東 (バーレーン）、 中東 (UAE）、 カナダ (中部）、 イスラエル (テルアビブ）、 AWS GovCloud （米国西部）、 AWS GovCloud （米国東部）、 中国 (北京）、 中国 (寧夏）、 カナダ西部 (カルガリー）
    2.0.20240109.0 4.14.334 2024 年 1 月 24 日 米国東部 (バージニア北部）、 米国東部 (オハイオ）、 米国西部 (北カリフォルニア）、 米国西部 (オレゴン）、 欧州 (ストックホルム）、 欧州 (ミラノ）、 欧州 (スペイン）、 欧州 (フランクフルト）、 欧州 (チューリッヒ）、 欧州 (アイルランド）、 欧州 (ロンドン）、 欧州 (パリ）、 アジアパシフィック (香港）、 アジアパシフィック (ムンバイ）、 アジアパシフィック (ハイデラバード） アジアパシフィック (東京）、 アジアパシフィック (ソウル）、 アジアパシフィック (大阪）、 アジアパシフィック (シンガポール）、 アジアパシフィック (シドニー）、 アジアパシフィック (ジャカルタ）、 アジアパシフィック (メルボルン）、 アフリカ (ケープタウン）、 南米 (サンパウロ）、 中東 (バーレーン）、 中東 (UAE）、 カナダ (中部）、イスラエル (テルアビブ）、 AWS GovCloud （米国西部）、 AWS GovCloud （米国東部）、 中国 (北京）、 中国 (寧夏）、 カナダ西部 (カルガリー）
    2.0.20231218.0 4.14.330 2024 年 1 月 2 日 米国東部 (バージニア北部）、 米国東部 (オハイオ）、 米国西部 (北カリフォルニア）、 米国西部 (オレゴン）、 欧州 (ストックホルム）、 欧州 (ミラノ）、 欧州 (スペイン）、 欧州 (フランクフルト）、 欧州 (チューリッヒ）、 欧州 (アイルランド）、 欧州 (ロンドン）、 欧州 (パリ）、 アジアパシフィック (香港）、 アジアパシフィック (ムンバイ）、 アジアパシフィック (ハイデラバード） アジアパシフィック (東京）、 アジアパシフィック (ソウル）、 アジアパシフィック (大阪）、 アジアパシフィック (シンガポール）、 アジアパシフィック (シドニー）、 アジアパシフィック (ジャカルタ）、 アジアパシフィック (メルボルン）、 アフリカ (ケープタウン）、 南米 (サンパウロ）、 中東 (バーレーン）、 中東 (UAE）、 カナダ (中部）、 イスラエル (テルアビブ）、 AWS GovCloud （米国西部）、 AWS GovCloud （米国東部）、 中国 (北京）、 中国 (寧夏）
    2.0.20231206.0 4.14.330 2023 年 12 月 22 日 米国東部 (バージニア北部）、 米国東部 (オハイオ）、 米国西部 (北カリフォルニア）、 米国西部 (オレゴン）、 欧州 (ストックホルム）、 欧州 (ミラノ）、 欧州 (スペイン）、 欧州 (フランクフルト）、 欧州 (チューリッヒ）、 欧州 (アイルランド）、 欧州 (ロンドン）、 欧州 (パリ）、 アジアパシフィック (香港）、 アジアパシフィック (ムンバイ）、 アジアパシフィック (ハイデラバード） アジアパシフィック (東京）、 アジアパシフィック (ソウル）、 アジアパシフィック (大阪）、 アジアパシフィック (シンガポール）、 アジアパシフィック (シドニー）、 アジアパシフィック (ジャカルタ）、 アジアパシフィック (メルボルン）、 アフリカ (ケープタウン）、 南米 (サンパウロ）、 中東 (バーレーン）、 中東 (UAE）、 カナダ (中部）、 イスラエル (テルアビブ）、 AWS GovCloud （米国西部）、 AWS GovCloud （米国東部）、 中国 (北京）、 中国 (寧夏）
    2.0.20231116.0 4.14.328 2023 年 12 月 11 日 米国東部 (バージニア北部）、 米国東部 (オハイオ）、 米国西部 (北カリフォルニア）、 米国西部 (オレゴン）、 欧州 (ストックホルム）、 欧州 (ミラノ）、 欧州 (スペイン）、 欧州 (フランクフルト）、 欧州 (チューリッヒ）、 欧州 (アイルランド）、 欧州 (ロンドン）、 欧州 (パリ）、 アジアパシフィック (香港）、 アジアパシフィック (ムンバイ）、 アジアパシフィック (ハイデラバード） アジアパシフィック (東京）、 アジアパシフィック (ソウル）、 アジアパシフィック (大阪）、 アジアパシフィック (シンガポール）、 アジアパシフィック (シドニー）、 アジアパシフィック (ジャカルタ）、 アジアパシフィック (メルボルン）、 アフリカ (ケープタウン）、 南米 (サンパウロ）、 中東 (バーレーン）、 中東 (UAE）、 カナダ (中部）、 イスラエル (テルアビブ）、 AWS GovCloud （米国西部）、 AWS GovCloud （米国東部）、 中国 (北京）、 中国 (寧夏）
    2.0.20231101.0 4.14.327 2023 年 11 月 17 日 米国東部 (バージニア北部）、 米国東部 (オハイオ）、 米国西部 (北カリフォルニア）、 米国西部 (オレゴン）、 欧州 (ストックホルム）、 欧州 (ミラノ）、 欧州 (スペイン）、 欧州 (フランクフルト）、 欧州 (チューリッヒ）、 欧州 (アイルランド）、 欧州 (ロンドン）、 欧州 (パリ）、 アジアパシフィック (香港）、 アジアパシフィック (ムンバイ）、 アジアパシフィック (ハイデラバード） アジアパシフィック (東京）、 アジアパシフィック (ソウル）、 アジアパシフィック (大阪）、 アジアパシフィック (シンガポール）、 アジアパシフィック (シドニー）、 アジアパシフィック (ジャカルタ）、 アジアパシフィック (メルボルン）、 アフリカ (ケープタウン）、 南米 (サンパウロ）、 中東 (バーレーン）、 中東 (UAE）、 カナダ (中部）、 イスラエル (テルアビブ）、 AWS GovCloud （米国西部）、 AWS GovCloud （米国東部）、 中国 (北京）、 中国 (寧夏）
    2.0.20230906.0 4.14.322 2023 年 9 月 11 日 米国東部 (バージニア北部）、 米国東部 (オハイオ）、 米国西部 (北カリフォルニア）、 米国西部 (オレゴン）、 欧州 (ストックホルム）、 欧州 (ミラノ）、 欧州 (スペイン）、 欧州 (フランクフルト）、 欧州 (チューリッヒ）、 欧州 (アイルランド）、 欧州 (ロンドン）、 欧州 (パリ）、 アジアパシフィック (香港）、 アジアパシフィック (ムンバイ）、 アジアパシフィック (ハイデラバード） アジアパシフィック (東京）、 アジアパシフィック (ソウル）、 アジアパシフィック (大阪）、 アジアパシフィック (シンガポール）、 アジアパシフィック (シドニー）、 アジアパシフィック (ジャカルタ）、 アジアパシフィック (メルボルン）、 アフリカ (ケープタウン）、 南米 (サンパウロ）、 中東 (バーレーン）、 中東 (UAE）、 カナダ (中部）、 イスラエル (テルアビブ）

6.14.0 のデフォルト Java バージョン

Amazon EMRリリース 6.12.0 以降では、Trino を除く Amazon Corretto 8 のすべてのアプリケーションがデフォルトでサポートされています。Trino の場合、Amazon は Amazon EMRリリース 6.9.0 以降、デフォルトで Amazon Corretto 17 EMRをサポートしています。Amazon は、Amazon Corretto 11 および 17 で一部のアプリケーションEMRもサポートしています。これらのアプリケーションのリストを以下の表に示します。クラスターのデフォルトを変更する場合は、クラスターJVMで実行されている各アプリケーションの特定の Java 仮想マシンを使用するようにアプリケーションを設定「」の手順に従います。1 つのクラスターに使用できる Java ランタイムバージョンは 1 つだけです。Amazon EMRは、同じクラスター上の異なるランタイムバージョンでの異なるノードまたはアプリケーションの実行をサポートしていません。

Amazon は Apache Spark、Apache Hadoop、Apache Hive で Amazon Corretto 11 と 17 の両方EMRをサポートしていますが、これらのバージョンの Corretto を使用すると、一部のワークロードでパフォーマンスが低下する可能性があります。デフォルトを変更する前に、ワークロードをテストすることをお勧めします。

次の表は、Amazon 6.14.0 のアプリケーションのデフォルトの EMR Java バージョンを示しています。

アプリケーション Java/Amazon Corretto バージョン (デフォルトは太字)
差分 17、11、8
Flink 11、8
Ganglia 8
HBase 11、8
HCatalog 17、11、8
Hadoop 17、11、8
[Hive] 17、11、8
Hudi 17、11、8
Iceberg 17、11、8
Livy 17、11、8
Oozie 17、11、8
フェニックス 8
PrestoDB 8
Spark 17、11、8
Spark RAPIDS 17、11、8
Sqoop 8
Tez 17、11、8
Trino 17
Zeppelin 8
Pig 8
Zookeeper 8

6.14.0 コンポーネントバージョン

このリリースで Amazon がEMRインストールするコンポーネントを以下に示します。そのうちいくつかは、ビッグデータアプリケーションパッケージの一部としてインストールされます。その他は Amazon に固有のものでEMR、システムプロセスと機能用にインストールされます。これらは通常、emr または aws で開始されます。最新の Amazon EMRリリースのビッグデータアプリケーションパッケージは、通常、 コミュニティにある最新バージョンです。コミュニティリリースEMRは、できるだけ早く Amazon で利用可能になります。

Amazon の一部のコンポーネントEMRは、コミュニティバージョンとは異なります。これらのコンポーネントには、CommunityVersion-amzn-EmrVersion の形式のバージョンラベルがあります。EmrVersion は 0 から始まります。例えば、バージョン 2.2 myapp-componentの という名前のオープンソースコミュニティコンポーネントが、異なる Amazon EMRリリースに含めるために 3 回変更された場合、そのリリースバージョンは としてリストされます2.2-amzn-2。

コンポーネント Version 説明
aws-sagemaker-spark-sdk1.4.2Amazon SageMaker Spark SDK
delta2.4.0Delta Lake は、膨大な分析データセット用のオープンテーブル形式です。
delta-standalone-connectors0.6.0Delta コネクタは、Flink、Hive、Presto などのエンジンと Delta Lake を統合するためのさまざまなランタイムを提供します。
emr-ddb5.1.0Hadoop エコシステムアプリケーション用の Amazon DynamoDB コネクター。
emr-goodies3.7.0Hadoop エコシステムに役立つ追加のライブラリ。
emr-kinesis3.11.0Hadoop エコシステムアプリケーション用の Amazon Kinesis コネクター。
emr-notebook-env1.7.0Jupyter エンタープライズゲートウェイを含む emr ノートブック用 Conda env
emr-s3-dist-cp2.28.0Amazon S3 に最適化された分散コピーアプリケーション。
emr-s3-select2.7.0EMR S3Select コネクタ
emr-wal-cli1.1.0emrwal のリスト/削除に使用される CLI。
emrfs2.59.0Hadoop エコシステムアプリケーション用の Amazon S3 コネクタ。
flink-client1.17.1-amzn-0Apache Flink のコマンドラインクライアント スクリプトとアプリケーション。
flink-jobmanager-config1.17.1-amzn-0Apache Flink のEMRノード上のリソースの管理 JobManager。
ganglia-monitor3.7.2Ganglia モニタリングエージェントとともに埋め込まれた、Hadoop エコシステムアプリケーション用 Ganglia エージェント。
ganglia-metadata-collector3.7.2Ganglia モニタリングエージェントからメトリクスを集計する Ganglia メタデータコレクター。
ganglia-web3.7.1Ganglia メタデータコレクターによって収集されたメトリクスを表示するウェブアプリケーション。
hadoop-client3.3.3-amzn-6'hdfs'、'hadoop'、'yarn' などの Hadoop コマンドラインクライアント。
hadoop-hdfs-datanode3.3.3-amzn-6HDFS ブロックを保存するためのノードレベルのサービス。
hadoop-hdfs-library3.3.3-amzn-6HDFS コマンドラインクライアントとライブラリ
hadoop-hdfs-namenode3.3.3-amzn-6HDFS ファイル名とブロックの場所を追跡するための サービス。
hadoop-hdfs-journalnode3.3.3-amzn-6HDFS HA クラスターで Hadoop ファイルシステムジャーナルを管理するための サービス。
hadoop-httpfs-server3.3.3-amzn-6HTTP HDFSオペレーションの エンドポイント。
hadoop-kms-server3.3.3-amzn-6Hadoop の に基づく暗号化キー管理サーバー KeyProvider API。
hadoop-mapred3.3.3-amzn-6MapReduce MapReduce アプリケーションを実行するための 実行エンジンライブラリ。
hadoop-yarn-nodemanager3.3.3-amzn-6YARN 個々のノードのコンテナを管理するための サービス。
hadoop-yarn-resourcemanager3.3.3-amzn-6YARN クラスターリソースと分散アプリケーションの割り当てと管理のための サービス。
hadoop-yarn-timeline-server3.3.3-amzn-6YARN アプリケーションの現在および履歴情報を取得するためのサービス。
hbase-hmaster2.4.17-amzn-2リージョンの調整と管理コマンドの実行を担当する HBaseクラスターのサービス。
hbase-region-server2.4.17-amzn-21 つ以上のHBaseリージョンに対応するサービス。
hbase-client2.4.17-amzn-2HBase コマンドラインクライアント。
hbase-rest-server2.4.17-amzn-2のRESTfulHTTPエンドポイントを提供するサービスHBase。
hbase-thrift-server2.4.17-amzn-2Thrift エンドポイントを に提供するサービスHBase。
hbase-operator-tools2.4.17-amzn-2Apache HBaseクラスターの修復ツール。
hcatalog-client3.1.3-amzn-7hcatalog-server を操作するための 'hcat' コマンドラインクライアント。
hcatalog-server3.1.3-amzn-7分散アプリケーション用のテーブルおよびストレージ管理レイヤーHCatalogである を提供するサービス。
hcatalog-webhcat-server3.1.3-amzn-7HTTP へのRESTインターフェイスを提供する エンドポイントHCatalog。
hive-client3.1.3-amzn-7Hive コマンドラインクライアント。
hive-hbase3.1.3-amzn-7Hive-hbase クライアント。
hive-metastore-server3.1.3-amzn-7Hadoop オペレーションSQLで のメタデータを保存するセマンティックリポジトリである Hive メタストアにアクセスするためのサービス。
hive-server23.1.3-amzn-7Hive クエリをウェブリクエストとして受け入れるサービス。
hudi0.13.1-amzn-2データパイプラインを強化する低レイテンシーかつ高効率な増分処理フレームワーク。
hudi-presto0.13.1-amzn-2Presto を Hudi で実行するためのバンドルライブラリ。
hudi-trino0.13.1-amzn-2Trino を Hudi で実行するためのバンドルライブラリ。
hudi-spark0.13.1-amzn-2Spark を Hudi で実行するためのバンドルライブラリ。
hue-server4.11.0Hadoop エコシステムアプリケーションを使用してデータを分析するウェブアプリケーション
iceberg1.3.1-amzn-0Apache Iceberg は、膨大な分析データセット用のオープンテーブル形式です。
jupyterhub1.5.0Jupyter Notebook のマルチユーザーサーバー
livy-server0.7.1-incubatingREST Apache Spark とやり取りするための インターフェイス
nginx1.12.1nginx [エンジン x] は HTTPおよびリバースプロキシサーバーです
mxnet1.9.1フレキシブルかつスケーラブルで、ディープラーニングにおいて効率的なライブラリです。
mariadb-server5.5.68+MariaDB データベースサーバー。
nvidia-cuda11.8.0Nvidia ドライバーと Cuda ツールキット
oozie-client5.2.1Oozie コマンドラインクライアント。
oozie-server5.2.1Oozie ワークフローリクエストを受け入れるサービス。
opencv4.7.0オープンソースのコンピュータビジョンライブラリ。
phoenix-library5.1.3サーバーとクライアントの Phoenix ライブラリ
phoenix-connectors5.1.3Spark-3 用 Apache Phoenix-Connectors
phoenix-query-server5.1.3Avatica JDBCへのアクセスとプロトコルバッファ、JSONフォーマットアクセスを提供する軽量サーバー API
presto-coordinator0.281-amzn-2presto-worker 間でクエリを受け入れ、クエリの実行を管理するサービス。
presto-worker0.281-amzn-2いくつかのクエリを実行するサービス。
presto-client0.281-amzn-2Presto サーバーが起動されていない HA クラスターのスタンバイマスターにインストールされる Presto コマンドラインクライアント。
trino-coordinator422-amzn-0trino-worker 間でクエリを受け入れ、クエリの実行を管理するサービス。
trino-worker422-amzn-0いくつかのクエリを実行するサービス。
trino-client422-amzn-0Trino サーバーが起動されていない HA クラスターのスタンバイマスターにインストールされる Trino コマンドラインクライアント。
pig-client0.17.0Pig コマンドラインクライアント。
r4.0.2統計的コンピューティング用 R プロジェクト
ranger-kms-server2.0.0Apache Ranger Key Management System
spark-client3.4.1-amzn-1Spark コマンドラインクライアント。
spark-history-server3.4.1-amzn-1完了した Spark アプリケーションの有効期間にログに記録されたイベントを表示するウェブ UI。
spark-on-yarn3.4.1-amzn-1のインメモリ実行エンジンYARN。
spark-yarn-slave3.4.1-amzn-1YARN スレーブに必要な Apache Spark ライブラリ。
spark-rapids23.06.0-amzn-2で Apache Spark を高速化する Nvidia Spark RAPIDSプラグインGPUs。
sqoop-client1.4.7Apache Sqoop コマンドラインクライアント。
tensorflow2.11.0TensorFlow 高性能な数値計算用の オープンソースソフトウェアライブラリ。
tez-on-yarn0.10.2-amzn-5Tez YARNアプリケーションとライブラリ。
tez-on-worker0.10.2-amzn-5ワーカーノードの tez YARNアプリケーションとライブラリ。
webserver2.4.41+Apache HTTPサーバー。
zeppelin-server0.10.1インタラクティブなデータ分析を可能にするウェブベースのノートブック。
zookeeper-server3.5.10設定情報を維持し、名前を付け、分散化された同期を提供し、グループサービスを提供する一元化されたサービス。
zookeeper-client3.5.10ZooKeeper コマンドラインクライアント。

6.14.0 設定分類

設定分類を使用すると、アプリケーションをカスタマイズできます。これらは、多くの場合、 などのアプリケーションの設定XMLファイルに対応しますhive-site.xml。詳細については、「アプリケーションの設定」を参照してください。

再設定アクションは、実行中のクラスターのインスタンスグループの設定を指定すると発生します。Amazon は、変更した分類に対してEMRのみ再設定アクションを開始します。詳細については、「実行中のクラスター内のインスタンスグループの再設定」を参照してください。

emr-6.14.0 の分類
分類 説明 再設定アクション

capacity-scheduler

Hadoop の capacity-scheduler.xml ファイルの値を変更します。

Restarts the ResourceManager service.

container-executor

Hadoop YARNの container-executor.cfg ファイルの値を変更します。

Not available.

container-log4j

Hadoop YARNの container-log4j.properties ファイルの値を変更します。

Not available.

core-site

Hadoop の core-site.xml ファイルの値を変更します。

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Ranger KMS, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer.

docker-conf

Docker 関連の設定を変更します。

Not available.

emrfs-site

EMRFS 設定を変更します。

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts HBaseRegionserver, HBaseMaster, HBaseThrift, HBaseRest, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer.

flink-conf

flink-conf.yaml の設定を変更します。

Restarts Flink history server.

flink-log4j

Flink log4j.properties の設定を変更します。

Restarts Flink history server.

flink-log4j-session

Kubernetes/Yarn セッションの Flink log4j-session.properties 設定を変更します。

Restarts Flink history server.

flink-log4j-cli

Flink log4j-cli.properties の設定を変更します。

Restarts Flink history server.

hadoop-env

Hadoop のすべてのコンポーネントに対する Hadoop 環境の値を変更します。

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts PhoenixQueryserver, HiveServer2, Hive MetaStore, and MapReduce-HistoryServer.

hadoop-log4j

Hadoop の log4j.properties ファイルの値を変更します。

Restarts the Hadoop HDFS services SecondaryNamenode, Datanode, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Hadoop Httpfs, and MapReduce-HistoryServer.

hadoop-ssl-server

Hadoop ssl のサーバー設定を変更します。

Not available.

hadoop-ssl-client

Hadoop ssl のクライアント設定を変更します。

Not available.

hbase

Amazon EMRが厳選した Apache の設定HBase。

Custom EMR specific property. Sets emrfs-site and hbase-site configs. See those for their associated restarts.

hbase-env

HBaseの環境の値を変更します。

Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer.

hbase-log4j

HBaseの hbase-log4j.properties ファイルの値を変更します。

Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer.

hbase-metrics

HBaseの hadoop-metrics2-hbase.properties ファイルの値を変更します。

Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer.

hbase-policy

HBaseの hbase-policy.xml ファイルの値を変更します。

Not available.

hbase-site

HBaseの hbase-site.xml ファイルの値を変更します。

Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. Additionally restarts Phoenix QueryServer.

hdfs-encryption-zones

HDFS 暗号化ゾーンを設定します。

This classification should not be reconfigured.

hdfs-env

HDFS 環境の値を変更します。

Restarts Hadoop HDFS services Namenode, Datanode, and ZKFC.

hdfs-site

HDFSの hdfs-site.xml の値を変更します。

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Additionally restarts Hadoop Httpfs.

hcatalog-env

HCatalogの環境の値を変更します。

Restarts Hive HCatalog Server.

hcatalog-server-jndi

HCatalogの jndi.properties の値を変更します。

Restarts Hive HCatalog Server.

hcatalog-server-proto-hive-site

HCatalogの proto-hive-site.xml の値を変更します。

Restarts Hive HCatalog Server.

hcatalog-webhcat-env

HCatalog W ebHCatの環境の値を変更します。

Restarts Hive WebHCat server.

hcatalog-webhcat-log4j2

HCatalog W ebHCatの log4j2.properties の値を変更します。

Restarts Hive WebHCat server.

hcatalog-webhcat-site

HCatalog W ebHCatの webhcat-site.xml ファイルの値を変更します。

Restarts Hive WebHCat server.

hive

Apache Hive の Amazon EMRが厳選した設定。

Sets configurations to launch Hive LLAP service.

hive-beeline-log4j2

Hive の beeline-log4j2.properties ファイルの値を変更します。

Not available.

hive-parquet-logging

Hive の parquet-logging.properties ファイルの値を変更します。

Not available.

hive-env

Hive 環境の値を変更します。

Restarts HiveServer2, HiveMetastore, and Hive HCatalog-Server. Runs Hive schemaTool CLI commands to verify hive-metastore.

hive-exec-log4j2

Hive の hive-exec-log4j2.properties ファイルの値を変更します。

Not available.

hive-llap-daemon-log4j2

Hive の llap-daemon-log4j2.properties ファイルの値を変更します。

Not available.

hive-log4j2

Hive の hive-log4j2.properties ファイルの値を変更します。

Not available.

hive-site

Hive の hive-site.xml ファイルの値を変更します

Restarts HiveServer2, HiveMetastore, and Hive HCatalog-Server. Runs Hive schemaTool CLI commands to verify hive-metastore. Also restarts Oozie and Zeppelin.

hiveserver2-site

Hive Server2 の hiveserver2-site.xml ファイルの値を変更します

Not available.

hue-ini

Hue の ini ファイルの値を変更します

Restarts Hue. Also activates Hue config override CLI commands to pick up new configurations.

httpfs-env

HTTPFS 環境の値を変更します。

Restarts Hadoop Httpfs service.

httpfs-site

Hadoop の httpfs-site.xml ファイルの値を変更します。

Restarts Hadoop Httpfs service.

hadoop-kms-acls

Hadoop の kms-acls.xml ファイルの値を変更します。

Not available.

hadoop-kms-env

Hadoop KMS環境の値を変更します。

Restarts Hadoop-KMS service.

hadoop-kms-java-home

Hadoop の Java KMS ホームを変更する

Not available.

hadoop-kms-log4j

Hadoop の kms-log4j.properties ファイルの値を変更します。

Not available.

hadoop-kms-site

Hadoop の kms-site.xml ファイルの値を変更します。

Restarts Hadoop-KMS and Ranger-KMS service.

hudi-env

Hudi 環境の値を変更します。

Not available.

hudi-defaults

Hudi の hudi-defaults.conf ファイルの値を変更します。

Not available.

iceberg-defaults

Iceberg の iceberg-defaults.conf ファイルの値を変更します。

Not available.

delta-defaults

Delta の delta-defaults.conf ファイルの値を変更します。

Not available.

jupyter-notebook-conf

Jupyter Notebook の jupyter_notebook_config.py ファイルの値を変更します。

Not available.

jupyter-hub-conf

JupyterHubsの jupyterhub_config.py ファイルの値を変更します。

Not available.

jupyter-s3-conf

Jupyter Notebook の S3 の永続性を設定します。

Not available.

jupyter-sparkmagic-conf

Sparkmagic の config.json ファイルの値を変更します。

Not available.

livy-conf

Livy の livy.conf ファイルの値を変更します。

Restarts Livy Server.

livy-env

Livy 環境の値を変更します。

Restarts Livy Server.

livy-log4j2

Livy の log4j2.properties の設定を変更します。

Restarts Livy Server.

mapred-env

MapReduce アプリケーションの環境の値を変更します。

Restarts Hadoop MapReduce-HistoryServer.

mapred-site

MapReduce アプリケーションの mapred-site.xml ファイルの値を変更します。

Restarts Hadoop MapReduce-HistoryServer.

oozie-env

Oozie の環境の値を変更します。

Restarts Oozie.

oozie-log4j

Oozie の oozie-log4j.properties ファイルの値を変更します。

Restarts Oozie.

oozie-site

Oozie の oozie-site.xml ファイルの値を変更します。

Restarts Oozie.

phoenix-hbase-metrics

Phoenix の hadoop-metrics2-hbase.properties ファイルの値を変更します。

Not available.

phoenix-hbase-site

Phoenix の hbase-site.xml ファイルの値を変更します。

Not available.

phoenix-log4j

Phoenix の log4j.properties ファイルの値を変更します。

Restarts Phoenix-QueryServer.

phoenix-metrics

Phoenix の hadoop-metrics2-phoenix.properties ファイルの値を変更します。

Not available.

pig-env

Pig 環境の値を変更します。

Not available.

pig-properties

Pig の pig.properties ファイルの値を変更します。

Restarts Oozie.

pig-log4j

Pig の log4j.properties ファイルの値を変更します。

Not available.

presto-log

Presto の log.properties ファイルの値を変更します。

Restarts Presto-Server (for PrestoDB)

presto-config

Presto の config.properties ファイルの値を変更します。

Restarts Presto-Server (for PrestoDB)

presto-password-authenticator

Presto の password-authenticator.properties ファイルの値を変更します。

Not available.

presto-env

Presto の presto-env.sh ファイルの値を変更します。

Restarts Presto-Server (for PrestoDB)

presto-node

Presto の node.properties ファイルの値を変更します。

Not available.

presto-connector-blackhole

Presto の blackhole.properties ファイルの値を変更します。

Not available.

presto-connector-cassandra

Presto の cassandra.properties ファイルの値を変更します。

Not available.

presto-connector-hive

Presto の hive.properties ファイルの値を変更します。

Restarts Presto-Server (for PrestoDB)

presto-connector-jmx

Presto の jmx.properties ファイルの値を変更します。

Not available.

presto-connector-kafka

Presto の kafka.properties ファイルの値を変更します。

Not available.

presto-connector-lakeformation

Presto の lakeformation.properties ファイルの値を変更します。

Restarts Presto-Server (for PrestoDB)

presto-connector-localfile

Presto の localfile.properties ファイルの値を変更します。

Not available.

presto-connector-memory

Presto の memory.properties ファイルの値を変更します。

Not available.

presto-connector-mongodb

Presto の mongodb.properties ファイルの値を変更します。

Not available.

presto-connector-mysql

Presto の musql.properties ファイルの値を変更します。

Not available.

presto-connector-postgresql

Presto の postgresql.properties ファイルの値を変更します。

Not available.

presto-connector-raptor

Presto の raptor.properties ファイルの値を変更します。

Not available.

presto-connector-redis

Presto の redis.properties ファイルの値を変更します。

Not available.

presto-connector-redshift

Presto の redshift.properties ファイルの値を変更します。

Not available.

presto-connector-tpch

Presto の tpcj.properties ファイルの値を変更します。

Not available.

presto-connector-tpcds

Presto の tpcds.properties ファイルの値を変更します。

Not available.

trino-log

Trino の log.properties ファイルの値を変更します。

Restarts Trino-Server (for Trino)

trino-config

Trino の config.properties ファイルの値を変更します。

Restarts Trino-Server (for Trino)

trino-password-authenticator

Trino の password-authenticator.properties ファイルの値を変更します。

Restarts Trino-Server (for Trino)

trino-env

Trino の trino-env.sh ファイルの値を変更します。

Restarts Trino-Server (for Trino)

trino-node

Trino の node.properties ファイルの値を変更します。

Not available.

trino-connector-blackhole

Trino の blackhole.properties ファイルの値を変更します。

Not available.

trino-connector-cassandra

Trino の cassandra.properties ファイルの値を変更します。

Not available.

trino-connector-delta

Trino の delta.properties ファイルの値を変更します。

Restarts Trino-Server (for Trino)

trino-connector-hive

Trino の hive.properties ファイルの値を変更します。

Restarts Trino-Server (for Trino)

trino-exchange-manager

Trino の exchange-manager.properties ファイルの値を変更します。

Restarts Trino-Server (for Trino)

trino-connector-iceberg

Trino の iceberg.properties ファイルの値を変更します。

Restarts Trino-Server (for Trino)

trino-connector-hudi

Trino の hudi.properties ファイルの値を変更します。

Restarts Trino-Server (for Trino)

trino-connector-jmx

Trino の jmx.properties ファイルの値を変更します。

Not available.

trino-connector-kafka

Trino の kafka.properties ファイルの値を変更します。

Not available.

trino-connector-localfile

Trino の localfile.properties ファイルの値を変更します。

Not available.

trino-connector-memory

Trino の memory.properties ファイルの値を変更します。

Not available.

trino-connector-mongodb

Trino の mongodb.properties ファイルの値を変更します。

Not available.

trino-connector-mysql

Trino の mysql.properties ファイルの値を変更します。

Not available.

trino-connector-postgresql

Presto の postgresql.properties ファイルの値を変更します。

Not available.

trino-connector-raptor

Trino の raptor.properties ファイルの値を変更します。

Not available.

trino-connector-redis

Trino の redis.properties ファイルの値を変更します。

Not available.

trino-connector-redshift

Trino の redshift.properties ファイルの値を変更します。

Not available.

trino-connector-tpch

Trino の tpch.properties ファイルの値を変更します。

Not available.

trino-connector-tpcds

Trino の tpcds.properties ファイルの値を変更します。

Not available.

ranger-kms-dbks-site

Ranger の dbks-site.xml ファイルの値を変更しますKMS。

Restarts Ranger KMS Server.

ranger-kms-site

Ranger の ranger-kms-site.xml ファイルの値を変更しますKMS。

Restarts Ranger KMS Server.

ranger-kms-env

Ranger KMS環境の値を変更します。

Restarts Ranger KMS Server.

ranger-kms-logback

Ranger の kms-logback.xml ファイルの値を変更しますKMS。

Not available.

ranger-kms-db-ca

Ranger とSSLの接続で S3 SQLの CA ファイルの値を変更しますKMS。

Not available.

spark

Apache EMRSpark の Amazon が厳選した設定。

This property modifies spark-defaults. See actions there.

spark-defaults

Spark の spark-defaults.conf ファイルの値を変更します。

Restarts Spark history server and Spark thrift server.

spark-env

Spark 環境の値を変更します。

Restarts Spark history server and Spark thrift server.

spark-hive-site

Spark の hive-site.xml ファイルの値を変更します

Not available.

spark-log4j2

Spark の log4j2.properties ファイルの値を変更します。

Restarts Spark history server and Spark thrift server.

spark-metrics

Spark の metrics.properties ファイルの値を変更します。

Restarts Spark history server and Spark thrift server.

sqoop-env

Sqoop の環境の値を変更します。

Not available.

sqoop-oraoop-site

Sqoop OraOopの oraoop-site.xml ファイルの値を変更します。

Not available.

sqoop-site

Sqoop の sqoop-site.xml ファイルの値を変更します。

Not available.

tez-site

Tez の tez-site.xml ファイルの値を変更します。

Restart Oozie and HiveServer2.

yarn-env

YARN 環境の値を変更します。

Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts MapReduce-HistoryServer.

yarn-site

YARNの yarn-site.xml ファイルの値を変更します。

Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Livy Server and MapReduce-HistoryServer.

zeppelin-env

Zeppelin 環境の値を変更します。

Restarts Zeppelin.

zeppelin-site

zeppelin-site.xml の構成設定を変更します。

Restarts Zeppelin.

zookeeper-config

ZooKeeperの zoo.cfg ファイルの値を変更します。

Restarts Zookeeper server.

zookeeper-log4j

ZooKeeperの log4j.properties ファイルの値を変更します。

Restarts Zookeeper server.

6.14.0 変更ログ

6.14.0 リリースおよびリリースノートの変更ログ
日付 イベント 説明

2023-11-02

 デプロイ完了 Amazon EMR 6.14.0 がサポートされているすべてのリージョンに完全にデプロイされました
2023-10-10 ドキュメント公開 Amazon EMR 6.14.0 リリースノートが初めて公開されました
2023-10-04 初回リリース Amazon EMR 6.14.0 が最初の商用リージョンに初めてデプロイされました