インスタンスフリートを設定する - Amazon EMR
考慮事項インスタンスフリートオプションインスタンスフリートの配分戦略配分戦略を使用するために必要な IAM アクセス許可コンソールを使用してインスタンスフリートを設定するCLI を使用してインスタンスフリートを設定するインスタンスフリート設定でクラスターを作成するインスタンスフリートのターゲット容量を変更するタスクインスタンスフリートをクラスターに追加するクラスター内のインスタンスフリートの設定情報を取得する

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

インスタンスフリートを設定する

注記

インスタンスフリート設定は、5.0.0 および 5.0.3 バージョンを除く Amazon EMR リリースバージョン 4.8.0 以降でのみ使用できます。

Amazon EMR クラスターのインスタンスフリート設定では、Amazon EC2 インスタンスのさまざまなプロビジョニングオプションを選択でき、クラスター内のノードタイプごとに柔軟で伸縮性に富むリソース戦略を開発できます。

インスタンスフリート設定では、各フリート内のオンデマンドインスタンスおよびスポットインスタンスのターゲット容量を指定します。クラスターを起動すると、Amazon EMR は、ターゲットが満たされるまでインスタンスをプロビジョニングします。クラスターの実行中に、料金の値上げまたはインスタンスの失敗のために Amazon EC2 がスポットインスタンスを再利用する場合、Amazon EMR は指定されたインスタンスタイプのいずれかで、そのインスタンスを置き換えようとします。これにより、スポット料金の急激な増加中に容量を再取得することが容易になります。

ターゲットを満たすときは、使用する Amazon EMR ごとに、フリートあたり最大 5 つの Amazon EC2 インスタンスタイプを指定できます。AWS CLI または Amazon EMR API、およびオンデマンドインスタンスとスポットインスタンスの配分戦略を使用してクラスターを作成する場合、フリートあたり最大 30 の Amazon EC2 インスタンスタイプを指定できます。

また、異なるアベイラビリティーゾーンに複数のサブネットを選択することもできます。Amazon EMR は、クラスターを起動するときに、指定されたインスタンスと購入オプションをこれらのサブネットで探します。Amazon EMR がAWS1 つ以上のアベイラビリティーゾーンでの大規模なイベントでは、影響を受けるアベイラビリティーゾーンからトラフィックを遠ざけるように自動的にルーティングし、選択に従って代替アベイラビリティーゾーンで作成する新しいクラスターの起動を試みます。クラスターアベイラビリティーゾーンの選択は、クラスターの作成時にのみ行われます。既存のクラスターノードは、アベイラビリティーゾーンが停止しても、新しいアベイラビリティーゾーンで自動的に再起動されることはありません。

考慮事項

Amazon EMR でインスタンスフリートを使用する場合は、以下の項目について考慮します。

  • ノードタイプ (マスター、コア、タスク) あたり 1 つのみのインスタンスフリートを使用できます。フリートあたり最大 5 個の Amazon EC2 インスタンスタイプを指定できます (AWS CLI または Amazon EMR API および インスタンスフリートの配分戦略 を使用してクラスターを作成する場合は、インスタンスフリートあたり最大 30 のタイプを指定できます)。

  • Amazon EMR は、スポット購入オプションとオンデマンド購入オプションの両方で、プロビジョニングする指定された Amazon EC2 インスタンスタイプのいずれかまたはすべてを選択します。

  • コアフリートとタスクフリートのスポットインスタンスおよびオンデマンドインスタンスのターゲット容量を確立できます。ターゲットに対してカウントされる、各 Amazon EC2 インスタンスに割り当てられた vCPU または汎用ユニットを使用します。Amazon EMR は各ターゲット容量が完全に満たされるまでインスタンスをプロビジョニングします。マスターフリートの場合、ターゲットは常に 1 つです。

  • 1 つのサブネット (アベイラビリティーゾーン) または範囲を選択できます。範囲を選択する場合、Amazon EMR はアベイラビリティーゾーンに最適な容量をプロビジョニングします。

  • スポットインスタンスのターゲット容量を指定するとき、次のことを実行します。

    • インスタンスタイプごとに、最大スポット料金を指定します。スポット料金が最大スポット料金を下回る場合、Amazon EMR はスポットインスタンスをプロビジョニングします。お客様にご負担いただくのはスポット料金であり、必ずしも最大スポット料金ではありません。

    • フリートごとにスポットインスタンスをプロビジョニングするためのタイムアウト期間を定義します。Amazon EMR がスポット容量をプロビジョニングできない場合は、代わりにクラスターを終了させるか、オンデマンド容量のプロビジョニングに切り替えることができます。これは、クラスターのプロビジョニングにのみ適用され、サイズ変更は適用されません。クラスターのサイズ変更プロセス中にタイムアウト期間が終了すると、プロビジョニングされていないスポットリクエストはオンデマンド容量に転送されずに無効になります。

  • フリートごとに、配分戦略 (オンデマンドインスタンスでは最低料金、スポットインスタンスでは容量最適化) を適用することを選択できます。

  • オンデマンド allocation strategy - lowest-price を使用するフリートごとに、キャパシティ予約オプションを適用することを選択できます。

  • クラスターを起動する前に、サブネットのサイズを確認します。タスクフリートを使用してクラスターをプロビジョニングするときに、対応するサブネットに十分な IP アドレスがない場合、フリートはクラスターをエラーで終了する代わりに、停止状態になります。この問題を回避するには、サブネット内の IP アドレスの数を増やすことをお勧めします。

インスタンスフリートオプション

次のガイドラインを使用して、インスタンスフリートオプションについて理解してください。

ターゲット容量の設定

コアフリートとタスクフリートのターゲット容量を指定します。この操作を行うと、Amazon EMR がプロビジョニングするオンデマンドインスタンスとスポットインスタンスの数が決まります。インスタンスを指定するときは、ターゲットに対してカウントされる各インスタンスの数を決定します。オンデマンドインスタンスがプロビジョニングされると、オンデマンドターゲットに対してカウントされます。スポットインスタンスの場合も同様です。マスターフリートはコアフリートやタスクフリートとは異なり、常に 1 つのインスタンスです。したがって、このフリートのターゲット容量は常に 1 になります。

コンソールを使用する場合、デフォルトではターゲット容量のカウントとして、Amazon EC2 インスタンスタイプの vCPU が使用されます。これを [Generic units (汎用ユニット)] に変更し、各 EC2 インスタンスタイプの数を指定できます。AWS CLI を使用する場合は、各インスタンスタイプに手動で汎用ユニットを割り当てることができます。

重要

AWS Management Console を使用してインスタンスタイプを選択する場合、[インスタンスタイプ] ごとに表示される [vCPU] の数は、そのインスタンスタイプの YARN vcore の数であり、そのインスタンスタイプの EC2 vCPU の数ではありません。各インスタンスタイプの vCPU 数の詳細については、「Amazon EC2 インスタンスタイプ」を参照してください。

フリートごとに、最大 5 つの Amazon EC2 インスタンスタイプを指定します。インスタンスフリートの配分戦略を使用しており、AWS CLI または Amazon EMR API を使用してクラスターを作成する場合、インスタンスフリートあたり最大 30 の EC2 インスタンスタイプを指定できます。Amazon EMR は、これらの EC2 インスタンスタイプの任意の組み合わせを選択して、ターゲット容量を満たします。Amazon EMR は完全にターゲット容量を満たそうとするため、超過が発生する可能性があります。例えば、2 つの満たされていないユニットがある場合、Amazon EMR は 5 ユニットのインスタンスしかプロビジョニングできず、インスタンスは引き続きプロビジョニングされます。つまり、ターゲット容量を 3 ユニット超過します。

ターゲット容量を減らして実行中のクラスターのサイズを変更する場合、Amazon EMR は新しいターゲットに合わせてアプリケーションタスクを完了し、インスタンスを削除しようとします。詳細については、「タスクの完了時に終了」を参照してください。Amazon EMR には、サイズ変更オペレーションを完了するための 60 分のタイムアウトがあります。場合によっては、60 分後にノードでまだ実行中のタスクがあるが、Amazon EMR はサイズ変更オペレーションが正常に実行され、新しいターゲットが満たされていないと報告することがあります。

起動オプション

スポットインスタンスでは、フリート内のインスタンスタイプごとに最大スポット料金を指定できます。この料金は、オンデマンド料金のパーセンテージまたは特定の金額として設定できます。アベイラビリティーゾーンの現在のスポット料金が最大スポット料金を下回っている場合、Amazon EMR はスポットインスタンスをプロビジョニングします。お客様にご負担いただくのはスポット料金であり、必ずしも最大スポット料金ではありません。

注記

期間が定義されたスポットインスタンス (スポットブロックとも呼ばれます) は、2021 年 7 月 1 日以降の新規のお客様は、ご利用いただけません。既に、期間が指定されたスポットインスタンスを使用した経験をお持ちのお客様については、2022 年 12 月 31 日まで、この機能を引き続きサポートいたします。

各フリートで、[Provisioning timeout (プロビジョニングのタイムアウト)] を定義することもできます。タイムアウトは、新しいクラスターが容量をプロビジョニングしているときに、指定どおりにターゲット容量を満たすために十分な数のスポットインスタンスをプロビジョニングできない場合に適用されます。タイムアウト期間と、実行するアクションを指定します。クラスターを終了させるか、残りのスポット容量を満たすためにオンデマンド容量のプロビジョニングに切り替えることができます。オンデマンドへの切り替えを選択した場合、残りのスポット容量は、タイムアウト後に実質的にオンデマンドターゲット容量に追加されます。これは、クラスターのプロビジョニングにのみ適用され、サイズ変更は適用されません。クラスターのサイズ変更プロセス中にタイムアウト期間が終了すると、プロビジョニングされていないスポットリクエストはオンデマンド容量に転送されずに無効になります。

Amazon EMR 5.12.1 以降では、容量が最適化された割り当てでスポットインスタンスフリートおよびオンデマンドインスタンスフリートを起動するオプションを利用できます。この配分戦略オプションは、AWS Management Consoleで、または API RunJobFlow を使用して設定できます。配分戦略オプションを使用するには、追加のサービスロールのアクセス許可が必要です。デフォルトの Amazon EMR サービスロールと管理ポリシー (EMR_DefaultRole と AmazonemrServicePolicy_v2) をクラスターに使用する場合、配分戦略のアクセス許可は既に含まれています。デフォルトの Amazon EMR サービスロールと管理ポリシーを使用していない場合、このオプションを使用するには、それらを追加する必要があります。「Amazon EMR のサービスロール (EMR ロール)」を参照してください。

スポットインスタンスの詳細については、「Linux インスタンス用 Amazon EC2 ユーザーガイド」の「スポットインスタンス」を参照してください。オンデマンドインスタンスの詳細については、「Linux インスタンス用 Amazon EC2 ユーザーガイド」の「オンデマンドインスタンス」を参照してください。

最低料金配分戦略を使用してオンデマンドインスタンスフリートを起動する場合は、キャパシティ予約を使用するオプションがあります。キャパシティ予約オプションは、Amazon EMR API RunJobFlow を使用して設定できます。キャパシティ予約では、これらのオプションを使用するためにサービスロールのアクセス許可を追加する必要があります。「配分戦略を使用するために必要な IAM アクセス許可」を参照してください。

複数サブネット (アベイラビリティーゾーン) オプション

インスタンスフリートを使用する場合は、VPC 内で複数の Amazon EC2 サブネットを指定できます。それぞれが異なるアベイラビリティーゾーンに対応しています。EC2-Classic を使用する場合はアベイラビリティーゾーンを明示的に指定します。Amazon EMR は、フリートの指定に従って、インスタンスを起動するために最適なアベイラビリティーゾーンを識別します。インスタンスは、１ つのアベイラビリティーゾーンのみで常にプロビジョニングされます。プライベートサブネットまたはパブリックサブネットを選択できますが、2 つを組み合わせることはできません。指定するサブネットは同じ VPC 内になければなりません。

マスターノードの設定

マスターインスタンスフリートは単一インスタンスにすぎないため、その構成はコアインスタンスフリートとタスクインスタンスフリートとは多少異なります。マスターインスタンスフリートは １ つのみのインスタンスで構成されているため、マスターインスタンスフリートにはオンデマンドまたはスポットのいずれかを選択します。コンソールを使用してインスタンスフリートを作成する場合、選択する購入オプションのターゲット容量は 1 に設定されます。AWS CLI を使用する場合、TargetSpotCapacity または TargetOnDemandCapacity のいずれかを必要に応じて 1 に設定します。この場合もマスターインスタンスフリートには、最大 5 つのインスタンスタイプを選択できます (オンデマンドインスタンスまたはスポットインスタンスの配分戦略を使用する場合は、最大 30)。ただし、Amazon EMR が異なるタイプの複数のインスタンスをプロビジョニングする可能性があるコアインスタンスフリートとタスクインスタンスフリートとは異なり、Amazon EMR は、マスターインスタンスフリートにプロビジョニングするために単一インスタンスタイプを選択します。

インスタンスフリートの配分戦略

Amazon EMR バージョン 5.12.1 以降では、各クラスターノードのオンデマンドインスタンスとスポットインスタンスで配分戦略オプションを使用できます。AWS CLI または Amazon EMR API と配分戦略を使用してクラスターを作成する場合、デフォルトの Amazon EMR クラスターインスタンスフリート設定を使用する場合に許可される 5 個ではなく、フリートあたり最大 30 の Amazon EC2 インスタンスタイプを指定できます。クラスターのプロビジョニングにかかる時間が短縮され、スポットインスタンスの割り当てがより正確になり、スポットインスタンスの中断が低減するように、配分戦略オプションを使用することをお勧めします。

  • オンデマンドインスタンスは最低料金戦略を使用して、最低料金のインスタンスを最初に起動します。オンデマンドインスタンスを起動すると、アカウント内でオープンまたはターゲットのキャパシティ予約を使用するオプションがあります。マスターノード、コアノード、およびタスクノードには、オープンキャパシティ予約を使用できます。インスタンスフリートの配分戦略でオンデマンドインスタンスを使用すると、容量が不足することがあります。より多くのインスタンスタイプを指定することで多様化させ、容量不足になる可能性を低減させることをお勧めします。詳細については、「インスタンスフリートでキャパシティ予約を使用する」を参照してください。

  • スポットインスタンスは容量最適化戦略を使用します。これは、起動中のインスタンス数に最適な容量を備えたスポットインスタンスプールからスポットインスタンスを起動します。

配分戦略オプションを使用するには、デフォルトの Amazon EMR サービスロールと Amazon EMR 管理ポリシー (EMR_DefaultRole と AmazonEMRServicePolicy_v2) に自動的に含まれるいくつかの IAM アクセス許可が必要です。クラスターにカスタムサービスロールまたは管理ポリシーを使用する場合は、クラスターを作成する前にこれらのアクセス許可を追加する必要があります。詳細については、「配分戦略を使用するために必要な IAM アクセス許可」を参照してください。

オンデマンド配分戦略オプションを使用すると、オプションのオンデマンドキャパシティ予約 (ODCR) を利用できます。キャパシティ予約オプションを使用すると、Amazon EMR クラスターに対してリザーブドキャパシティを最初に使用する設定を指定できます。これを使用すると、重要なワークロードには、オープンまたはターゲットの ODCR を使用して既に予約済みの容量を使用できます。重要でないワークロードの場合、キャパシティ予約設定を使用して、リザーブドキャパシティを消費するかどうかを指定できます。

キャパシティ予約は、属性 (インスタンスタイプ、プラットフォーム、アベイラビリティーゾーン) が一致するインスタンスのみ使用することができます。デフォルトでは、インスタンス属性と一致するオンデマンドインスタンスをプロビジョニングするときに、Amazon EMR によってオープンキャパシティ予約が自動的に使用されます。キャパシティの予約の属性と一致する実行中のインスタンスがない場合は、一致する属性を持つインスタンスを起動するまでは使用されません。クラスターの起動時にキャパシティ予約を使用しない場合は、起動オプションでキャパシティ予約設定を [なし] に設定する必要があります。

ただし、特定のワークロードに対してキャパシティ予約を指定することもできます。これにより、リザーブドキャパシティーで実行できるインスタンスを明示的に制御できます。オンデマンドキャパシティ予約の共有については、「インスタンスフリートでキャパシティ予約を使用する」を参照してください 。

配分戦略を使用するために必要な IAM アクセス許可

Amazon EMR のサービスロール (EMR ロール) では、オンデマンドインスタンスフリートまたはスポットインスタンスフリートの配分戦略オプションを使用するクラスターを作成するには、追加のアクセス許可が必要です。

必要なアクセス許可は、デフォルトの Amazon EMR サービスロールと Amazon EMR 管理ポリシー (EMR_DefaultRole と AmazonEMRServicePolicy_v2) に自動的に含まれています。クラスターにカスタムサービスロールまたは管理ポリシーを使用する場合は、次のアクセス許可を追加する必要があります。

{
	"Version": "2012-10-17",
	"Statement": [
		{
			"Effect": "Allow",
			"Action": [
				"ec2:DeleteLaunchTemplate",
				"ec2:CreateLaunchTemplate",
				"ec2:DescribeLaunchTemplates",
				"ec2:CreateLaunchTemplateVersion",
				"ec2:CreateFleet"
			],
			"Resource": "*"
		}
}

オープンまたはターゲットのキャパシティ予約を使用するクラスターを作成するために必要なサービスロールのアクセス許可を次に示します。配分戦略オプションの使用に必要なアクセス許可に加えて、これらのアクセス許可を含める必要があります。

例 サービスロールキャパシティ予約に関するポリシードキュメント

オープンキャパシティ予約を使用するには、次の追加のアクセス許可を含める必要があります。

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "ec2:DescribeCapacityReservations",
                "ec2:DescribeLaunchTemplateVersions",
                "ec2:DeleteLaunchTemplateVersions"
            ],
            "Resource": "*"
        }
    ]
}

ターゲットキャパシティ予約を使用するには、次の追加のアクセス許可を含める必要があります。

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "ec2:DescribeCapacityReservations",
                "ec2:DescribeLaunchTemplateVersions",
                "ec2:DeleteLaunchTemplateVersions",
                "resource-groups:ListGroupResources"
            ],
            "Resource": "*"
        }
    ]
}

コンソールを使用してインスタンスフリートを設定する

インスタンスフリートを使用してクラスターを作成するには、Amazon EMR コンソールの [詳細オプション] 設定を使用します。

コンソールを使用してインスタンスフリートでクラスターを作成するには

  1. で Amazon EMR コンソールを開きます。https://console.aws.amazon.com/elasticmapreduce/。

  2. [Create cluster] (クラスターを作成) を選択します。

  3. コンソールウィンドウの上部で、[詳細オプションに移動する] を選択し、[ソフトウェア設定] オプションを入力してから、[次へ] を選択します。

  4. [Cluster Composition] (クラスター構成) で、[インスタンスフリート] を選択します。インスタンスフリートオプションを選択すると、オンデマンドインスタンスとスポットインスタンスの [ターゲット容量] を指定するオプションが [Cluster Nodes and Instances] (クラスターノードとインスタンス) テーブルに表示されます。

  5. [Network] に値を入力します。[ネットワーク] に VPC を選択する場合、[EC2 サブネット] を 1 つ選択するか、CTRL を押しながら複数の Amazon EC2 サブネットを選択します。選択するサブネットは同じ種類 (パブリックまたはプライベート) である必要があります。1 つのみ選択した場合、クラスターはそのサブネット内で起動します。グループを選択した場合は、クラスターの起動時にグループから最適なサブネットが選択されます。

    注記

    アカウントおよびリージョンによっては、[ネットワーク] に [EC2-Classic に起動] を選択するオプションが提供されます。そのオプションを選択する場合、[EC2 Subnets (EC2 サブネット)] ではなく、[EC2 Availability Zones (EC2 アベイラビリティーゾーン)] から 1 つ以上を選択します。詳細については、「Linux インスタンス用 Amazon EC2 ユーザーガイド」の「Amazon EC2 および Amazon VPC」を参照してください。

  6. [配分戦略] で、チェックボックスをオンにして、配分戦略を適用します。

    新しい配分戦略オプションを使用しない場合は、このチェックボックスをオフのままにします。

  7. [Node type] (ノードタイプ) の下で、インスタンスフリートのデフォルト名を変更する場合、鉛筆アイコンを選択してわかりやすい名前を入力します。[タスク] インスタンスフリートを削除する場合は、[タスク] 行の右側にある X 印のアイコンを選択します。

  8. [フリート対象のインスタンスタイプの追加 / 削除] を選択し、マスターインスタンスフリートとコアインスタンスフリートのリストから最大 5 つのインスタンスタイプを選択します。タスクインスタンスフリートには最大 15 個のインスタンスタイプを追加します。Amazon EMR は、クラスターを起動するときに、これらのインスタンスタイプの任意の組み合わせをプロビジョニングすることを選択する場合があります。

  9. コアインスタンスタイプおよびタスクインスタンスタイプごとに、そのインスタンスに加重容量を定義する方法を選択します (各インスタンスは X ユニットとしてカウントされます)。各フリートインスタンスタイプの YARN vCore の数は、デフォルトの加重容量ユニットとして使用されますが、この値はアプリケーションに適した任意のユニットに変更できます。

  10. [ターゲット容量] で、フリートごとに必要なオンデマンドインスタンスとスポットインスタンスの合計数を定義します。EMR は、フリート内のインスタンスが、オンデマンドターゲット容量とスポットターゲット容量のリクエストされたユニットを確実に満たすようにします。フリートにオンデマンドユニットまたはスポットユニットが指定されていない場合、そのフリートの容量はプロビジョニングされません。

  11. フリートがスポット用のターゲット容量で設定される場合、[オンデマンドの %] 料金として最大スポット料金を入力するか、ドル ($) 金額を米ドルで入力できます。

  12. インスタンスタイプがプロビジョニングされるときに EBS ボリュームをアタッチするには、[EBS ストレージ] の隣にある鉛筆を選択してから、EBS 設定オプションを入力します。

  13. [スポットユニット数] のインスタント数を設定した場合、以下のガイドラインに従って、[詳細スポットオプション] を設定します。

    • プロビジョニングのタイムアウト — これらの設定を使用して、指定された [フリートインスタンスタイプ] の中からスポットインスタンスをプロビジョニングできないときに、Amazon EMR が実行することを制御します。分数でタイムアウト期間を入力し、[Terminate the cluster (クラスターを終了する)] か、[Switch to provisioning On-Demand Instances (オンデマンドインスタンスのプロビジョニングに切り替える)] かを選択します。オンデマンドインスタンスに切り替える選択をする場合、オンデマンドインスタンスの割り当てられた容量はスポットインスタンスのターゲット容量に含められ、Amazon EMR は、スポットインスタンスのターゲット容量が満たされるまでオンデマンドインスタンスをプロビジョニングします。

  14. [次へ] を選択してクラスター設定を変更し、[次へ] を選択します。

  15. 新しい配分戦略オプションを適用するように選択した場合は、[セキュリティオプション] 設定で、配分戦略オプションに必要なアクセス許可が含まれる [EMR ロール] と [EC2 インスタンスプロファイル] を選択します。そうしないと、クラスターの作成は失敗します。

  16. [クラスターの作成] を選択します。

CLI を使用してインスタンスフリートを設定する

  • インスタンスフリートでクラスターを作成して起動するには、 create-cluster パラメータとともに--instance-fleet コマンドを使用します。

  • クラスター内のインスタンスフリートの設定情報を得るには、list-instance-fleets コマンドを使用します。

  • 作成するクラスターに複数のカスタム Amazon Linux AMI を追加するには、それぞれの InstanceType を指定して CustomAmiId オプションを使用します。要件に合わせて、複数のインスタンスタイプと複数のカスタム AMI を持つインスタンスフリートノードを設定できます。「インスタンスフリート設定でクラスターを作成する」を参照してください。

  • インスタンスフリートのターゲット容量に変更を加えるには、 modify-instance-fleet コマンドを使用します。

  • タスクインスタンスがないクラスターにタスクインスタンスを追加するには、 add-instance-fleetコマンドを使用します。

  • CustomAmiId 引数を使用して、複数のカスタム AMI をタスクインスタンスフリートに追加できます。 add-instance-fleet コマンド。「インスタンスフリート設定でクラスターを作成する」を参照してください。

  • インスタンスフリートを作成するときに配分戦略オプションを使用するには、サービスロールを更新して、次のセクションのポリシードキュメントの例を含めます。

  • オンデマンド配分戦略でインスタンスフリートを作成するときにキャパシティ予約オプションを使用するには、サービスロールを更新して、次のセクションのポリシードキュメントの例を含めます。

  • インスタンスフリートは、デフォルトの EMR サービスロールと Amazon EMR 管理ポリシー (EMR_DefaultRole と AmazonEMRServicePolicy_v2) に自動的に組み込まれています。クラスターにカスタムサービスロールまたは管理ポリシーを使用する場合は、次のセクションの配分戦略の新しいアクセス許可を追加する必要があります。

インスタンスフリート設定でクラスターを作成する

次の例は、 create-cluster コマンドを、組み合わせ可能なさまざまなオプションを使って実行する方法を示しています。

注記

デフォルト Amazon EMR サービスロールと EC2 インスタンスプロファイルを作成したことがない場合、create-cluster コマンドを使用する前に、aws emr create-default-roles を使って作成します。

例: オンデマンドマスター、単一インスタンスタイプのオンデマンドコア、デフォルト VPC

aws emr create-cluster --release-label emr-5.3.1 --service-role EMR_DefaultRole \
  --ec2-attributes InstanceProfile=EMR_EC2_DefaultRole \
  --instance-fleets \
    InstanceFleetType=MASTER,TargetOnDemandCapacity=1,InstanceTypeConfigs=['{InstanceType=m5.xlarge}'] \
    InstanceFleetType=CORE,TargetOnDemandCapacity=1,InstanceTypeConfigs=['{InstanceType=m5.xlarge}']

例: スポットマスター、単一インスタンスタイプのスポットコア、デフォルト VPC

aws emr create-cluster --release-label emr-5.3.1 --service-role EMR_DefaultRole \
  --ec2-attributes InstanceProfile=EMR_EC2_DefaultRole \
  --instance-fleets \
    InstanceFleetType=MASTER,TargetSpotCapacity=1,\
InstanceTypeConfigs=['{InstanceType=m5.xlarge,BidPrice=0.5}'] \
    InstanceFleetType=CORE,TargetSpotCapacity=1,\
InstanceTypeConfigs=['{InstanceType=m5.xlarge,BidPrice=0.5}']

例: オンデマンドマスター、単一インスタンスタイプの混合コア、単一 EC2 サブネット

aws emr create-cluster --release-label emr-5.3.1 --service-role EMR_DefaultRole \
  --ec2-attributes InstanceProfile=EMR_EC2_DefaultRole,SubnetIds=['subnet-ab12345c'] \
  --instance-fleets \
    InstanceFleetType=MASTER,TargetOnDemandCapacity=1,\
InstanceTypeConfigs=['{InstanceType=m5.xlarge}'] \
    InstanceFleetType=CORE,TargetOnDemandCapacity=2,TargetSpotCapacity=6,\
InstanceTypeConfigs=['{InstanceType=m5.xlarge,BidPrice=0.5,WeightedCapacity=2}']

例: オンデマンドマスター、複数の加重インスタンスタイプのスポットコア、スポットのタイムアウト、EC2 サブネットの範囲

aws emr create-cluster --release-label emr-5.3.1 --service-role EMR_DefaultRole \
  --ec2-attributes InstanceProfile=EMR_EC2_DefaultRole,SubnetIds=['subnet-ab12345c','subnet-de67890f'] \
  --instance-fleets \
    InstanceFleetType=MASTER,TargetOnDemandCapacity=1,\
InstanceTypeConfigs=['{InstanceType=m5.xlarge}'] \
    InstanceFleetType=CORE,TargetSpotCapacity=11,\
InstanceTypeConfigs=['{InstanceType=m5.xlarge,BidPrice=0.5,WeightedCapacity=3}',\
'{InstanceType=m4.2xlarge,BidPrice=0.9,WeightedCapacity=5}'],\
LaunchSpecifications={SpotSpecification='{TimeoutDurationMinutes=120,TimeoutAction=SWITCH_TO_ON_DEMAND}'}

例: オンデマンドマスター、複数の加重インスタンスタイプを持つミックスコアとタスク、コアスポットインスタンスのタイムアウト、EC2 サブネットの範囲

aws emr create-cluster --release-label emr-5.3.1 --service-role EMR_DefaultRole \
  --ec2-attributes InstanceProfile=EMR_EC2_DefaultRole,SubnetIds=['subnet-ab12345c','subnet-de67890f'] \
  --instance-fleets \
    InstanceFleetType=MASTER,TargetOnDemandCapacity=1,InstanceTypeConfigs=['{InstanceType=m5.xlarge}'] \
    InstanceFleetType=CORE,TargetOnDemandCapacity=8,TargetSpotCapacity=6,\
InstanceTypeConfigs=['{InstanceType=m5.xlarge,BidPrice=0.5,WeightedCapacity=3}',\
'{InstanceType=m4.2xlarge,BidPrice=0.9,WeightedCapacity=5}'],\
LaunchSpecifications={SpotSpecification='{TimeoutDurationMinutes=120,TimeoutAction=SWITCH_TO_ON_DEMAND}'} \
    InstanceFleetType=TASK,TargetOnDemandCapacity=3,TargetSpotCapacity=3,\
InstanceTypeConfigs=['{InstanceType=m5.xlarge,BidPrice=0.5,WeightedCapacity=3}']

例: スポットマスター、コアまたはタスクなし、Amazon EBS 設定、デフォルト VPC

aws emr create-cluster --release-label Amazon EMR 5.3.1 --service-role EMR_DefaultRole \ 
  --ec2-attributes InstanceProfile=EMR_EC2_DefaultRole \
  --instance-fleets \
    InstanceFleetType=MASTER,TargetSpotCapacity=1,\
LaunchSpecifications={SpotSpecification='{TimeoutDurationMinutes=60,TimeoutAction=TERMINATE_CLUSTER}'},\
InstanceTypeConfigs=['{InstanceType=m5.xlarge,BidPrice=0.5,\
EbsConfiguration={EbsOptimized=true,EbsBlockDeviceConfigs=[{VolumeSpecification={VolumeType=gp2,\
SizeIn GB=100}},{VolumeSpecification={VolumeType=io1,SizeInGB=100,Iop s=100},VolumesPerInstance=4}]}}']

例 複数のカスタム AMI、複数のインスタンスタイプ、オンデマンドマスター、オンデマンドコア

aws emr create-cluster --release-label Amazon EMR 5.3.1 --service-role EMR_DefaultRole \
  --ec2-attributes InstanceProfile=EMR_EC2_DefaultRole \
  --instance-fleets \
    InstanceFleetType=MASTER,TargetOnDemandCapacity=1,\
InstanceTypeConfigs=['{InstanceType=m5.xlarge,CustomAmiId=ami-123456},{InstanceType=m6g.xlarge, CustomAmiId=ami-234567}'] \ 
    InstanceFleetType=CORE,TargetOnDemandCapacity=1,\
InstanceTypeConfigs=['{InstanceType=m5.xlarge,CustomAmiId=ami-123456},{InstanceType=m6g.xlarge, CustomAmiId=ami-234567}']

例 複数のインスタンスタイプと複数のカスタム AMI を持つ実行中のクラスターにタスクノードを追加する

aws emr add-instance-fleet --cluster-id j-123456 --release-label Amazon EMR 5.3.1 \
  --service-role EMR_DefaultRole \
  --ec2-attributes InstanceProfile=EMR_EC2_DefaultRole \
  --instance-fleet \
    InstanceFleetType=Task,TargetSpotCapacity=1,\
InstanceTypeConfigs=['{InstanceType=m5.xlarge,CustomAmiId=ami-123456}',\
'{InstanceType=m6g.xlarge,CustomAmiId=ami-234567}']

例 JSON 設定ファイルを使用する

JSON ファイルでインスタンスフリートパラメータを構成してから、インスタンスフリートの唯一のパラメータとして JSON ファイルを参照できます 例えば、次のコマンドは JSON 設定ファイル my-fleet-config.json を参照します。

aws emr create-cluster --release-label emr-5.30.0 --service-role EMR_DefaultRole \
--ec2-attributes InstanceProfile=EMR_EC2_DefaultRole \
--instance-fleets file://my-fleet-config.json

my-fleet-config.json ファイルは、次の例で示すように、マスター、コア、およびタスクインスタンスフリートを指定します。コアインスタンスフリートは、オンデマンドの割合として最大スポット料金 (BidPrice) を使用するのに対し、タスクおよびマスターインスタンスフリートでは、米ドルの文字列として、最大スポット料金 (BidPriceAsPercentageofOnDemandPrice) を使用します。

[
    {
        "Name": "Masterfleet",
        "InstanceFleetType": "MASTER",
        "TargetSpotCapacity": 1,
        "LaunchSpecifications": {
            "SpotSpecification": {
                "TimeoutDurationMinutes": 120,
                "TimeoutAction": "SWITCH_TO_ON_DEMAND"
            }
        },
        "InstanceTypeConfigs": [
            {
                "InstanceType": "m5.xlarge",
                "BidPrice": "0.89"
            }
        ]
    },
    {
        "Name": "Corefleet",
        "InstanceFleetType": "CORE",
        "TargetSpotCapacity": 1,
        "TargetOnDemandCapacity": 1,
        "LaunchSpecifications": {
          "OnDemandSpecification": {
            "AllocationStrategy": "lowest-price",
            "CapacityReservationOptions": 
            {
                "UsageStrategy": "use-capacity-reservations-first",
                "CapacityReservationResourceGroupArn": "String"
            }
        },
            "SpotSpecification": {
                "AllocationStrategy": "capacity-optimized",
                "TimeoutDurationMinutes": 120,
                "TimeoutAction": "TERMINATE_CLUSTER"
            }
        },
        "InstanceTypeConfigs": [
            {
                "InstanceType": "m5.xlarge",
                "BidPriceAsPercentageOfOnDemandPrice": 100
            }
        ]
    },
    {
        "Name": "Taskfleet",
        "InstanceFleetType": "TASK",
        "TargetSpotCapacity": 1,
        "LaunchSpecifications": {
          "OnDemandSpecification": {
            "AllocationStrategy": "lowest-price",
            "CapacityReservationOptions": 
            {
                "CapacityReservationPreference": "none"
            }
        },
            "SpotSpecification": {
                "TimeoutDurationMinutes": 120,
                "TimeoutAction": "TERMINATE_CLUSTER"
            }
        },
        "InstanceTypeConfigs": [
            {
                "InstanceType": "m5.xlarge",
                "BidPrice": "0.89"
            }
        ]
    }
]

インスタンスフリートのターゲット容量を変更する

コマンドを使用して、インスタンスフリートの新しいターゲット容量を指定します modify-instance-fleet 。クラスター ID とインスタンスフリート ID を指定しなければなりません。コマンドを使用してインスタンスフリート ID を取得しますlist-instance-fleets 。

aws emr modify-instance-fleet --cluster-id <cluster-id> \
  --instance-fleet \
    InstanceFleetId='<instance-fleet-id>',TargetOnDemandCapacity=1,TargetSpotCapacity=1

タスクインスタンスフリートをクラスターに追加する

クラスターにマスターインスタンスフリートおよびコアインスタンスフリートしかない場合、 add-instance-fleet コマンドを使用してタスクインスタンスフリートを追加できます。このコマンドは、タスクインスタンスフリートを追加するためだけに使用できます。

aws emr add-instance-fleet --cluster-id <cluster-id> 
  --instance-fleet \
    InstanceFleetType=TASK,TargetSpotCapacity=1,\
LaunchSpecifications={SpotSpecification='{TimeoutDurationMinutes=20,TimeoutAction=TERMINATE_CLUSTER}'},\
InstanceTypeConfigs=['{InstanceType=m5.xlarge,BidPrice=0.5}']

クラスター内のインスタンスフリートの設定情報を取得する

クラスター内のインスタンスフリートの構成情報を得るには、 list-instance-fleets コマンドを使用します。コマンドは、クラスター ID を入力として受け入れます。次の例では、このコマンドと、それによるマスタータスクインスタンスグループとコアタスクインスタンスグループを含むクラスターの出力を示しています。完全なレスポンスの構文については、「Amazon EMR API リファレンス」の「ListInstanceFleets」を参照してください。

list-instance-fleets --cluster-id <cluster-id>			
{
    "InstanceFleets": [
        {
            "Status": {
                "Timeline": {
                    "ReadyDateTime": 1488759094.637,
                    "CreationDateTime": 1488758719.817
                },
                "State": "RUNNING",
                "StateChangeReason": {
                    "Message": ""
                }
            },
            "ProvisionedSpotCapacity": 6,
            "Name": "CORE",
            "InstanceFleetType": "CORE",
            "LaunchSpecifications": {
                "SpotSpecification": {
                    "TimeoutDurationMinutes": 60,
                    "TimeoutAction": "TERMINATE_CLUSTER"
                }
            },
            "ProvisionedOnDemandCapacity": 2,
            "InstanceTypeSpecifications": [
                {
                    "BidPrice": "0.5",
                    "InstanceType": "m5.xlarge",
                    "WeightedCapacity": 2
                }
            ],
            "Id": "if-1ABC2DEFGHIJ3"
        },
        {
            "Status": {
                "Timeline": {
                    "ReadyDateTime": 1488759058.598,
                    "CreationDateTime": 1488758719.811
                },
                "State": "RUNNING",
                "StateChangeReason": {
                    "Message": ""
                }
            },
            "ProvisionedSpotCapacity": 0,
            "Name": "MASTER",
            "InstanceFleetType": "MASTER",
            "ProvisionedOnDemandCapacity": 1,
            "InstanceTypeSpecifications": [
                {
                    "BidPriceAsPercentageOfOnDemandPrice": 100.0,
                    "InstanceType": "m5.xlarge",
                    "WeightedCapacity": 1
                }
            ],
           "Id": "if-2ABC4DEFGHIJ4"
        }
    ]
}