終了保護の使用

長時間稼働クラスターで削除保護が有効になっていてもクラスターを終了することはできますが、最初にクラスターから明示的に削除保護を削除する必要があります。これにより、事故やエラーで EC2 インスタンスがシャットダウンされることがなくなります。削除保護は、インスタンスが終了する前に復元する必要があるデータがクラスターのローカルディスクに格納されている場合に特に役に立ちます。削除保護はクラスターの作成時に有効にできます。また、実行中のクラスターで設定を変更することもできます。

終了保護が有効になっていると、Amazon EMR API の TerminateJobFlows アクションは機能しません。ユーザーは、この API や AWS CLI の terminate-clusters コマンドでクラスターを終了することはできません。この API はエラーを返し、CLI はゼロ以外のリターンコードで終了します。Amazon EMR コンソールを使用してクラスターを終了する場合、終了保護を無効にする追加ステップが示されます。

警告

終了保護は、ヒューマンエラーや回避策が発生した場合にデータが保持されることを保証するものではありません。例えば、SSH を使用してインスタンスに接続しているときにコマンドラインから再起動コマンドが発行された場合、インスタンスで実行されているアプリケーションまたはスクリプトによって再起動コマンドが発行された場合、または Amazon EC2 や Amazon EMR API が使用されて終了保護が無効にされた場合などです。終了保護が有効になっている場合でも、HDFS データを含むインスタンスストレージに保存されたデータは失われる可能性があります。Simple Storage Service (Amazon S3) のロケーションにデータ出力を書き込み、ビジネス継続性の要件に応じてバックアップ戦略を作成します。

削除保護は、以下のアクションによるクラスターリソースのスケールに影響することはありません。

• AWS Management Consoleまたは AWS CLI を使用して手動でクラスターのサイズを変更する。詳細については、「実行中のクラスターのサイズを手動で変更する」を参照してください。

• スケールインポリシーと自動スケーリングを使用して、コアまたはタスクインスタンスグループからインスタンスを削除する。詳細については、「カスタムポリシーによる自動スケーリングをインスタンスグループに使用する 」を参照してください。

• ターゲット容量を減らしてインスタンスフリートからインスタンスを削除する。詳細については、「インスタンスフリートオプション」を参照してください。

終了保護と Amazon EC2

終了保護が有効になっている Amazon EMR クラスターでは、クラスターのすべての Amazon EC2 インスタンスに disableAPITermination 属性が設定されています。終了リクエストが Amazon EMR で発生し、インスタンスの Amazon EMR と Amazon EC2 の設定が競合する場合、Amazon EMR の設定が Amazon EC2 の設定に優先します。例えば、Amazon EC2 コンソールを使用して、終了保護が無効になっているクラスター内の Amazon EC2 インスタンスに対して終了保護を有効にする場合、Amazon EMR コンソール、Amazon EMR の AWS CLI コマンド、または Amazon EMR API を使用してクラスターを終了すると、Amazon EMR は DisableApiTermination をfalse に設定し、他のインスタンスとともにインスタンスを終了します。

重要

終了保護を設定した Amazon EMR クラスターの一部としてインスタンスを作成し、DisableApiTermination が false になるように Amazon EC2 API または AWS CLI コマンドを使用してインスタンスを変更してから、Amazon EC2 API または AWS CLI コマンドで TerminateInstances アクションを実行した場合、Amazon EC2 インスタンスは終了します。

終了保護と異常な状態の YARN ノード

Amazon EMR は、クラスターのコアおよびタスクの Amazon EC2 インスタンスで実行されている Apache Hadoop YARN のノードのステータスを定期的にチェックします。ヘルスステータスは、NodeManager ヘルスチェッカーサービスによって報告されます。ノードが UNHEALTHY を報告すると、Amazon EMR のインスタンスコントローラーはノードを拒否リストに追加し、再び正常な状態になるまで YARN コンテナを割り当てません。ノードが異常な状態になる一般的な理由としては、ディス使用率が 90% を超えることが挙げられます。異常な状態のノードを特定して復旧する方法の詳細については、「リソースエラー」を参照してください。

ノードが UNHEALTHY の状態が 45 分以上続く場合、Amazon EMR は終了保護のステータスに基づいて以下のアクションを実行します。

終了保護	結果
有効 (推奨)	Amazon EC2 コアインスタンスは拒否リスト状態のままであり、引き続きクラスター容量に加算されます。設定とデータ復旧のために Amazon EC2 のコアインスタンスに接続し、クラスターのサイズを変更してキャパシティを追加できます。詳細については、「リソースエラー」を参照してください。 異常のあるタスクノードは終了保護の対象外となり、終了されます。
無効	Amazon EC2 インスタンスは終了されます。Amazon EMR は、インスタンスグループか、またはインスタンスフリート用のターゲット容量で指定されたインスタンス数に基づいて新しいインスタンスをプロビジョニングします。すべてのコアノードが 45 分以上 UNHEALTHY の状態になっている場合、クラスターは NO_SLAVES_LEFT ステータスを報告して終了します。 重要 異常な状態が原因でコアインスタンスが終了すると、HDFS のデータが失われる可能性があります。他のノードにレプリケートされなかったブロックがノードに格納されている場合、それらのブロックは失われるため、データ損失が発生する可能性があります。必要に応じてインスタンスに接続してデータを復旧できるよう、削除保護を使用することをお勧めします。

終了保護とステップ実行

ステップ実行を有効にし、終了保護も有効にすると、Amazon EMR は終了保護を無視します。

クラスターにステップを送信するときに ActionOnFailure プロパティを設定することにより、エラーが原因でステップの実行を完了できなかった場合に何が起きるのかを確認できます。この設定に使用できる値は、TERMINATE_CLUSTER (以前のバージョンでは TERMINATE_JOB_FLOW)、CANCEL_AND_WAIT、および CONTINUE です。詳細については、「クラスターへの作業の送信」を参照してください。

ActionOnFailure を CANCEL_AND_WAIT に設定したステップが失敗した場合、ステップ実行が有効になっていると、クラスターは後続のステップを実行せずに終了します。

ActionOnFailure が TERMINATE_CLUSTER に設定されているステップが失敗した場合は、以下の設定の表で結果を確認してください。

ActionOnFailure	ステップ実行	終了保護	結果
TERMINATE_CLUSTER	有効	無効	クラスターが終了
	有効	有効	クラスターが終了
	無効	有効	クラスターの稼働が継続
	無効	無効	クラスターが終了

終了保護とスポットインスタンス

Amazon EMR の終了保護を有効にしても、スポット料金が最大スポット料金を超えた場合の Amazon EC2 スポットインスタンスの終了を防ぐことはできません。

クラスターを起動するときに終了保護を設定する

コンソール、AWS CLI または API を使用してクラスターを起動するときは、終了保護を有効または無効にすることができます。

デフォルトの削除保護設定は、クラスターの起動方法によって異なります。

• Amazon EMR コンソール (新) - 終了保護はデフォルトで有効になっています。

• Amazon EMR コンソール (古) のクイックオプション - 終了保護はデフォルトで無効になっています。

• Amazon EMR コンソール (古) の詳細オプション - 終了保護はデフォルトで有効になっています。

• AWS CLI aws emr create-cluster — --termination-protected が指定されていない限り、終了保護は無効になっています。

• Amazon EMR API RunJobFlow コマンド - TerminationProtected ブール値が true に設定されていない限り、終了保護は無効になっています。

注記

Amazon EMR コンソールは、再設計され、使いやすくなりました。古いコンソールと新しいコンソールエクスペリエンスの違いについては、「コンソールの新機能」を参照してください。

New console

新しいコンソールでクラスターを作成するときに、終了保護のオンとオフを切り替えるには

1. AWS Management Consoleにサインインし、Amazon EMR コンソール (https://console.aws.amazon.com/emr) を開きます。

2. 左側のナビゲーションペインの [EMR on EC2] で、[クラスター] を選択し、[クラスターの作成] を選択します

3. [EMR リリースバージョン] で、[emr-6.6.0] 以降を選択します。

4. [クラスターの終了] で、[終了保護を使用] があらかじめ選択されていることを確認するか、選択を解除して無効にします。

5. クラスターに適用するその他のオプションを選択します。

6. クラスターを起動するには、[クラスターの作成] を選択します。

Old console

古いコンソールでクラスターを作成するときに、終了保護のオンとオフを切り替えるには

1. 新しい Amazon EMR コンソールに移動し、サイドナビゲーションから [古いコンソールに切り替え] を選択します。古いコンソールに切り替えたときの動作の詳細については、「Using the old console」を参照してください。

2. [Create cluster] (クラスターを作成) を選択します。

3. [Go to advanced options] を選択します。

4. [Step 3: General Cluster Settings (ステップ 3: 一般的なクラスターの設定)] の [General Options (一般オプション)] で [Termination protection (削除保護)] が選択されて有効になっていることを確認するか、選択を解除して無効にします。

5. 必要に応じてアプリケーションの他の設定を選択し、[Next (次へ)] を選択してクラスターの設定を終了します。

AWS CLI

AWS CLI を使用してクラスターを作成するときに終了保護のオンとオフを切り替えるには

• AWS CLI を使用して、create-cluster コマンドと --termination-protected パラメータで終了保護を有効にしたクラスターを起動できます。削除保護はデフォルトで無効になっています。

  次の例では、削除保護を有効にしたクラスターを作成します。

  注記

  読みやすくするために、Linux 行連続文字 (\) が含まれています。Linux コマンドでは、これらは削除することも、使用することもできます。Windows の場合、削除するか、キャレット (^) に置き換えてください。

  aws emr create-cluster --name "TerminationProtectedCluster" --release-label emr-5.36.1 \
  --applications Name=Hadoop Name=Hive Name=Pig \
  --use-default-roles --ec2-attributes KeyName=myKey --instance-type m5.xlarge \
  --instance-count 3 --termination-protected

  AWS CLI での Amazon EMR コマンドの使用の詳細については、https://docs.aws.amazon.com/cli/latest/reference/emr を参照してください。

実行中のクラスターに対する終了保護の設定

コンソールまたは AWS CLI を使用して、実行中のクラスターに対して終了保護を設定することができます。

注記

Amazon EMR コンソールは、再設計され、使いやすくなりました。古いコンソールと新しいコンソールエクスペリエンスの違いについては、「コンソールの新機能」を参照してください。

New console

新しいコンソールで、実行中のクラスターの終了保護のオンとオフを切り替えるには

1. AWS Management Consoleにサインインし、Amazon EMR コンソール (https://console.aws.amazon.com/emr) を開きます。

2. 左側のナビゲーションペインの [EMR on EC2] で [クラスター] を選択し、更新するクラスターを選択します。

3. クラスターの詳細ページの [プロパティ] タブで、[クラスターの終了] を見つけて [編集] を選択します。

4. [終了保護を使用] チェックボックスを選択または選択解除」して、機能をオンまたはオフにします。次に [変更の保存] を選択して確定します。

Old console

古いコンソールで、実行中のクラスターの終了保護のオンとオフを切り替えるには

1. 新しい Amazon EMR コンソールに移動し、サイドナビゲーションから [古いコンソールに切り替え] を選択します。古いコンソールに切り替えたときの動作の詳細については、「Using the old console」を参照してください。

2. [Clusters (クラスター)] ページでクラスターの名前を選択します。

3. [Summary (概要)] タブで [Termination protection (削除保護)] の [Change (変更)] を選択します。

4. 削除保護を有効にするには、[On (オン)] を選択します。削除保護を無効にするには、[Off (オフ)] を選択します。次に緑のチェックマークを選択して確定します。

AWS CLI

AWS CLI を使用して実行中のクラスターの終了保護のオンとオフを切り替えるには

• AWS CLI を使用して実行中のクラスターで終了保護を有効にするには、modify-cluster-attributes コマンドと --termination-protected パラメータを使用します。削除保護を無効にするには、--no-termination-protected パラメータを使用します。

  次の例では、ID j-3KVTXXXXXX7UG のクラスターで削除保護を有効にします。

  aws emr modify-cluster-attributes --cluster-id j-3KVTXXXXXX7UG --termination-protected

  次の例では、同じクラスターで削除保護を無効にします。

  aws emr modify-cluster-attributes --cluster-id j-3KVTXXXXXX7UG --no-termination-protected