Amazon EMR リリース 4.2.0
アプリケーションバージョン
このリリースでは、次のアプリケーションがサポートされています: Ganglia
以下の表は、Amazon EMR のこのリリースで利用可能なアプリケーションバージョンと、前の 3 つの Amazon EMR リリース (該当する場合) で利用可能なアプリケーションバージョンを示しています。
Amazon EMR の各リリースのアプリケーションバージョンの包括的な履歴については、以下のトピックを参照してください。
アプリケーションバージョン情報 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| emr-4.3.0 | emr-4.2.0 | emr-4.1.0 | emr-4.0.0 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| AWS SDK for Java | 1.10.27 | 1.10.27 | 利用不可 | 利用不可 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Python | 利用不可 | 利用不可 | 利用不可 | 利用不可 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Scala | 利用不可 | 利用不可 | 利用不可 | 利用不可 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Delta | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Flink | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Ganglia | 3.7.2 | 3.6.0 | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| HBase | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| HCatalog | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Hadoop | 2.7.1 | 2.6.0 | 2.6.0 | 2.6.0 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Hive | 1.0.0 | 1.0.0 | 1.0.0 | 1.0.0 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Hudi | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Hue | 3.7.1 | 3.7.1 | 3.7.1 | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Iceberg | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| JupyterEnterpriseGateway | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| JupyterHub | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Livy | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| MXNet | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Mahout | 0.11.0 | 0.11.0 | 0.11.0 | 0.10.0 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Oozie | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Oozie-Sandbox | 4.2.0 | 4.2.0 | 4.0.1 | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Phoenix | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Pig | 0.14.0 | 0.14.0 | 0.14.0 | 0.14.0 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Presto | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Presto-Sandbox | 0.130 | 0.125 | 0.119 | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Spark | 1.6.0 | 1.5.2 | 1.5.0 | 1.4.1 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Sqoop | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Sqoop-Sandbox | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| TensorFlow | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Tez | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Trino (PrestoSQL) | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Zeppelin | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Zeppelin-Sandbox | 0.5.5 | 0.5.5 | 0.6.0-SNAPSHOT | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| ZooKeeper | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| ZooKeeper-Sandbox | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
リリースノート
次のリリースノートには、Amazon EMR 4.2.0 リリースに関する情報が含まれています。
リリース日: 2015 年 11 月 18 日
機能
-
Ganglia のサポートを追加しました
-
Spark 1.5.2 にアップグレードしました
-
Presto 0.125 にアップグレードしました
-
Oozie を 4.2.0 にアップグレードしました
-
Zeppelin を 0.5.5 にアップグレードしました
-
AWS SDK for Java が 1.10.27 にアップグレード
以前のリリースから解決された既知の問題
-
デフォルトのメタデータテーブル名を使用しない EMRFS CLI の問題を修正しました。
-
Amazon S3 で ORC-backed テーブルを使用するときに発生した問題を修正しました。
-
Spark 設定で Python バージョンが一致しない問題を修正しました。
-
VPC のクラスターでの DNS の問題により、YARN ノードのステータスが報告されない問題を修正しました。
-
YARN がノードを廃棄することが原因でアプリケーションがハングしたり、新しいアプリケーションを予定できなくなったりする問題を修正しました。
-
クラスターが TIMED_OUT_STARTING というステータスで終了するときに発生する問題を修正しました。
-
EMRFS Scala 依存関係を他のビルドに含める場合に発生する問題を修正しました。Scala 依存関係が削除されました。
コンポーネントのバージョン
このリリースで Amazon EMR がインストールするコンポーネントを以下に示します。そのうちいくつかは、ビッグデータアプリケーションパッケージの一部としてインストールされます。その他は Amazon EMR に固有であり、システムプロセスと機能に対してインストールされます。これらは通常、emr または aws で開始されます。通常、最新の Amazon EMR リリースのビッグデータアプリケーションパッケージは、コミュニティにある最新バージョンです。コミュニティリリースは、できるだけ早く Amazon EMR で入手可能になるようにしています。
Amazon EMR の一部のコンポーネントは、コミュニティバージョンとは異なります。これらのコンポーネントには、CommunityVersion-amzn-EmrVersionEmrVersionmyapp-component というオープンソースコミュニティコンポーネントが、異なる Amazon EMR リリースに組み込むために 3 回変更された場合、そのリリースバージョンは 2.2-amzn-2 として表示されます。
| コンポーネント | バージョン | 説明 |
|---|---|---|
| emr-ddb | 3.0.0 | Hadoop エコシステムアプリケーション用の Amazon DynamoDB コネクター。 |
| emr-goodies | 2.0.0 | Hadoop エコシステムに役立つ追加のライブラリ。 |
| emr-kinesis | 3.1.0 | Hadoop エコシステムアプリケーション用の Amazon Kinesis コネクター。 |
| emr-s3-dist-cp | 2.0.0 | Amazon S3 に最適化された分散コピーアプリケーション。 |
| emrfs | 2.2.0 | Hadoop エコシステムアプリケーション用の Amazon S3 コネクタ。 |
| ganglia-monitor | 3.6.0 | Ganglia モニタリングエージェントとともに埋め込まれた、Hadoop エコシステムアプリケーション用 Ganglia エージェント。 |
| ganglia-metadata-collector | 3.6.0 | Ganglia モニタリングエージェントからメトリクスを集計する Ganglia メタデータコレクター。 |
| ganglia-web | 3.5.10 | Ganglia メタデータコレクターによって収集されたメトリクスを表示するウェブアプリケーション。 |
| hadoop-client | 2.6.0-amzn-2 | 'hdfs'、'hadoop'、'yarn' などの Hadoop コマンドラインクライアント。 |
| hadoop-hdfs-datanode | 2.6.0-amzn-2 | ブロックを保存する HDFS ノードレベルのサービス。 |
| hadoop-hdfs-library | 2.6.0-amzn-2 | HDFS コマンドラインクライアントとライブラリ |
| hadoop-hdfs-namenode | 2.6.0-amzn-2 | ファイル名を追跡し、場所をブロックする HDFS サービス。 |
| hadoop-httpfs-server | 2.6.0-amzn-2 | HDFS オペレーションの HTTP エンドポイント。 |
| hadoop-kms-server | 2.6.0-amzn-2 | Hadoop の KeyProvider API に基づく暗号キー管理サーバー。 |
| hadoop-mapred | 2.6.0-amzn-2 | MapReduce アプリケーションを実行する MapReduce 実行エンジンライブラリ。 |
| hadoop-yarn-nodemanager | 2.6.0-amzn-2 | 個別のノードでコンテナを管理する YARN サービス。 |
| hadoop-yarn-resourcemanager | 2.6.0-amzn-2 | クラスターリソースおよび分散アプリケーションを割り当て、管理する YARN サービス。 |
| hive-client | 1.0.0-amzn-1 | Hive コマンドラインクライアント。 |
| hive-metastore-server | 1.0.0-amzn-1 | Hadoop オペレーションの SQL 用のメタデータを保存するセマンティックレポジトリである Hive メタストアにアクセスするためのサービス。 |
| hive-server | 1.0.0-amzn-1 | Hive クエリをウェブリクエストとして受け入れるサービス。 |
| hue-server | 3.7.1-amzn-5 | Hadoop エコシステムアプリケーションを使用してデータを分析するウェブアプリケーション |
| mahout-client | 0.11.0 | 機械学習用のライブラリ。 |
| mysql-server | 5.5 | MySQL データベースサーバー。 |
| oozie-client | 4.2.0 | Oozie コマンドラインクライアント。 |
| oozie-server | 4.2.0 | Oozie ワークフローリクエストを受け入れるサービス。 |
| presto-coordinator | 0.125 | presto-worker 間でクエリを受け入れ、クエリの実行を管理するサービス。 |
| presto-worker | 0.125 | いくつかのクエリを実行するサービス。 |
| pig-client | 0.14.0-amzn-0 | Pig コマンドラインクライアント。 |
| spark-client | 1.5.2 | Spark コマンドラインクライアント。 |
| spark-history-server | 1.5.2 | 完了した Spark アプリケーションの有効期間にログに記録されたイベントを表示するウェブ UI。 |
| spark-on-yarn | 1.5.2 | YARN のメモリ内実行エンジン。 |
| spark-yarn-slave | 1.5.2 | YARN スレーブで必要な Apache Spark ライブラリ。 |
| webserver | 2.4 | Apache HTTP サーバー。 |
| zeppelin-server | 0.5.5-incubating-amzn-0 | インタラクティブなデータ分析を可能にするウェブベースのノートブック。 |
設定分類
設定分類を使用すると、アプリケーションをカスタマイズできます。これらは多くの場合、hive-site.xml などのアプリケーションの構成 XML ファイルに対応します。詳細については、「アプリケーションの設定」を参照してください。
emr-4.2.0 分類 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 分類 | 説明 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
capacity-scheduler | Hadoop の capacity-scheduler.xml ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
core-site | Hadoop の core-site.xml ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
emrfs-site | EMRFS の設定を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hadoop-env | Hadoop のすべてのコンポーネントに対する Hadoop 環境の値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hadoop-log4j | Hadoop の log4j.properties ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hdfs-encryption-zones | HDFS 暗号化ゾーンを設定します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hdfs-site | HDFS の hdfs-site.xml の値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hive-env | Hive 環境の値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hive-exec-log4j | Hive の hive-exec-log4j.properties ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hive-log4j | Hive の hive-log4j.properties ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hive-site | Hive の hive-site.xml ファイルの値を変更します | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hue-ini | Hue の ini ファイルの値を変更します | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
httpfs-env | HTTPFS 環境の値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
httpfs-site | Hadoop の httpfs-site.xml ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hadoop-kms-acls | Hadoop の kms-acls.xml ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hadoop-kms-env | Hadoop KMS 環境の値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hadoop-kms-log4j | Hadoop の kms-log4j.properties ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hadoop-kms-site | Hadoop の kms-site.xml ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
mapred-env | MapReduce アプリケーションの環境の値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
mapred-site | MapReduce アプリケーションの mapred-site.xml ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
oozie-env | Oozie の環境の値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
oozie-log4j | Oozie の oozie-log4j.properties ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
oozie-site | Oozie の oozie-site.xml ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
pig-properties | Pig の pig.properties ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
pig-log4j | Pig の log4j.properties ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-log | Presto の log.properties ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-config | Presto の config.properties ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-connector-hive | Presto の hive.properties ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
spark | Apache Spark 用の Amazon EMR-curated 設定。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
spark-defaults | Spark の spark-defaults.conf ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
spark-env | Spark 環境の値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
spark-log4j | Spark の log4j.properties ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
spark-metrics | Spark の metrics.properties ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
yarn-env | YARN 環境の値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
yarn-site | YARN の yarn-site.xml ファイルの値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
zeppelin-env | Zeppelin 環境の値を変更します。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
