Amazon SageMaker でのマネージドスポットトレーニング

Amazon SageMaker では、マネージド型の Amazon EC2 スポットインスタンスを使用して機械学習モデルを簡単にトレーニングできます。マネージド型のスポットトレーニングでは、オンデマンドインスタンスと比較して、トレーニングモデルのコストを最大 90% 抑えることができます。SageMaker は、ユーザーに代わって、スポットの中断を管理します。

マネージドスポットトレーニングでは、オンデマンドインスタンスではなく Amazon EC2 スポットインスタンスを使用してトレーニングジョブを実行します。スポットインスタンスを使用するトレーニングジョブと、Amazon EC2 スポットインスタンスを使用して SageMaker がジョブの実行を待機する時間を指定する停止条件を指定できます。トレーニングの実行中に生成されたメトリクスとログは、CloudWatch にあります。

Amazon SageMaker の自動モデルチューニング (ハイパーパラメータチューニングとも呼ばれる) にはマネージドスポットトレーニングを使用できます。モデル調整の詳細については、を参照してください。SageMaker で自動モデルチューニングを実行する。

スポットインスタンスは中断されることがあります。その場合、ジョブの開始または終了に時間がかかる場合があります。チェックポイントを使用するように、マネージドスポットトレーニングジョブを設定できます。SageMaker は、チェックポイントデータをローカルパスから Amazon S3 にコピーします。ジョブが再開されると、SageMaker は、Amazon S3 からローカルパスにデータを再度コピーします。その結果、トレーニングジョブは最初からではなく、最後のチェックポイントから再開できます。チェックポイントの詳細については、「Amazon SageMaker でチェックポイントを使用する」を参照してください。

注記

トレーニングジョブがすぐに完了しない限り、マネージド型のスポットトレーニングでチェックポイントを使用することをお勧めします。チェックポイントを使用しない SageMaker 組み込みアルゴリズムおよびマーケットプレイスアルゴリズムは、現在 3,600 秒 (60 分) の MaxWaitTimeInSeconds に制限されています。

マネージドスポットトレーニングの使用

マネージド型スポットトレーニングを使用するには、トレーニングジョブを作成します。EnableManagedSpotTraining を True に設定し、MaxWaitTimeInSeconds を指定します。MaxWaitTimeInSeconds は、MaxRuntimeInSeconds より大きい値にする必要があります。トレーニングジョブの作成の詳細については、「DescribeTrainingJob」を参照してください。

削減率を計算するには、式 (1 - (BillableTimeInSeconds / TrainingTimeInSeconds)) * 100 を使用して、マネージド型スポットトレーニングを使用します。たとえば、BillableTimeInSeconds が 100 で、TrainingTimeInSeconds が 500 の場合、削減率は 80% です。

Amazon SageMaker スポットインスタンスでトレーニングジョブを実行する方法、マネージドスポットトレーニングの仕組み、請求対象時間を短縮する方法については、次のサンプルノートブックを参照してください。

• TensorFlow を使ったマネージドスポットトレーニング

• XGBoost を使ったマネージドスポットトレーニング

• MXNet を使ったマネージドスポットトレーニング

• Amazon SageMaker マネージドスポットトレーニングの例 (GitHub リポジトリ)

マネージド型スポットトレーニングのライフサイクル

トレーニングジョブは、DescribeTrainingJob によって返される TrainingJobStatus と SecondaryStatus を使用してモニタリングできます。以下のリストは、トレーニングのシナリオに基づき、TrainingJobStatus および SecondaryStatus の値が変化する様子を示しています。

• トレーニング中に中断することなく取得したスポットインスタンス

  1. InProgress: Starting↠ Downloading ↠ Training ↠ Uploading

• スポットインスタンスが 1 回中断されました。後に、トレーニングジョブを完了するのに十分なスポットインスタンスが取得されました。

  1. InProgress: Starting ↠ Downloading ↠ Training ↠ Interrupted ↠ Starting ↠ Downloading ↠ Training ↠ Uploading

• スポットインスタンスが 2 回中断され、MaxWaitTimeInSeconds が超過しました。

  1. InProgress: Starting ↠ Downloading ↠ Training ↠ Interrupted ↠ Starting ↠ Downloading ↠ Training ↠ Interrupted ↠ Downloading ↠ Training

  2. Stopping: Stopping

  3. Stopped: MaxWaitTimeExceeded

• スポットインスタンスは起動されませんでした。

  1. InProgress: Starting

  2. Stopping: Stopping

  3. Stopped: MaxWaitTimeExceeded