クラスターのスケーリングを使用する - Amazon EMR

クラスターのスケーリングを使用する

需要が変動するワークロードに応じて、Amazon EMR クラスターで使用できる Amazon EC2 インスタンスの数を自動または手動で調整できます。自動スケーリングを使用するには、2 つのオプションがあります。Amazon EMR Managed Scaling を有効にすることも、カスタムの自動スケーリングポリシーを作成することもできます。以下の表では、2 つのオプションの違いについて説明しています。

Amazon EMR Managed Scaling カスタム自動スケーリング

スケーリングポリシーとルール

ポリシーは必要ありません。Amazon EMR は、クラスターメトリクスを継続的に評価し、最適化されたスケーリング決定を行うことにより、自動スケーリングアクティビティを管理します。

スケーリングアクティビティ、評価期間、クールダウン期間をトリガーする特定の条件などの、自動スケーリングポリシーとルールを定義して管理する必要があります。

サポートされている Amazon EMR リリース

Amazon EMR バージョン 5.30.0 以降 (Amazon EMR バージョン 6.0.0 を除く)

Amazon EMR バージョン 4.0.0 以降

サポートされているクラスター構成

インスタンスグループまたはインスタンスフリート

インスタンスグループのみ

スケーリング制限の設定

スケーリング制限は、クラスター全体に対して設定されます。

スケーリング制限は、各インスタンスグループに対してのみ設定できます。

メトリクス評価頻度

5 ~ 10秒ごと

メトリクスの評価を頻繁に行うことで、Amazon EMR によるスケーリング決定の精度が高くなります。

評価期間は 5 分単位でのみ定義できます。

サポートされているアプリケーション

Spark、Hadoop、Hive、Flink などの YARN アプリケーションのみがサポートされています。Amazon EMR Managed Scaling は、Presto や HBase などの YARN に基づいていないアプリケーションをサポートしていません。

自動スケーリングルールを定義するときに、サポート対象とするアプリケーションを選択できます。

考慮事項

  • Amazon EMR クラスターは、常に 1 つまたは 3 つのプライマリノードで構成されます。クラスターを最初に設定すると、コアノードとタスクノードのみをスケールできます。クラスターのプライマリノードの数をスケールすることはできません。

  • インスタンスグループの場合、再設定操作とサイズ変更操作は同時ではなく順番に行われます。インスタンスグループのサイズ変更中に再設定を開始すると、インスタンスグループで実行中のサイズ変更が完了次第、再設定が開始されます。逆も同様で、インスタンスグループの再設定中にサイズ変更操作を開始すると、再設定後にサイズ変更が開始されます。