Amazon SageMaker のマネージドスポットトレーニング

Amazon SageMaker では、マネージド型 Amazon EC2 スポットインスタンスを使用して、機械学習モデルを簡単にトレーニングできます。マネージド型のスポットトレーニングでは、オンデマンドインスタンスと比べて、トレーニングモデルのコストを最大 90% 抑えることができます。SageMaker は、お客様に代わって、スポットの中断を管理します。

マネージド型のスポットトレーニングでは、オンデマンドインスタンスではなく Amazon EC2 スポットインスタンスを使用してトレーニングジョブを実行します。スポットインスタンスを使用するトレーニングジョブと、Amazon EC2 スポットインスタンスを使用して SageMaker がジョブの実行を待機する時間を指定する停止条件を指定できます。トレーニングの実行中に生成されたメトリクスとログは、CloudWatch で入手できます。

ハイパーパラメータチューニングとしても知られるAmazon SageMaker 自動モデル調整では、マネージド型のスポットトレーニングを使用できます。自動モデルトレーニングの詳細については、SageMaker で自動モデル調整の実行。

スポットインスタンスは中断されることがあります。その場合、ジョブの開始または終了に時間がかかる場合があります。チェックポイントを使用するように、マネージド型のスポットトレーニングジョブを設定できます。SageMaker は、チェックポイントデータをローカルパスから Amazon S3 にコピーします。ジョブが再開されると、SageMaker は、Amazon S3 からローカルパスにデータを再度コピーします。その後、トレーニングジョブは、最初からではなく、最後のチェックポイントから再開できます。チェックポイントの詳細については、「Amazon SageMaker でのチェックポイントの使用」を参照してください。

注記

トレーニングジョブがすぐに完了しない限り、マネージド型のスポットトレーニングでチェックポイントを使用することをお勧めします。チェックポイントを使用しない SageMaker 組み込みアルゴリズムおよびマーケットプレイスアルゴリズムは、現在 3,600 秒 (60 分) の MaxWaitTimeInSeconds に制限されています。

マネージドスポットトレーニングの使用

マネージド型スポットトレーニングを使用するには、トレーニングジョブを作成します。EnableManagedSpotTraining を True に設定し、MaxWaitTimeInSeconds を指定します。MaxWaitTimeInSeconds は、MaxRuntimeInSeconds より大きい値にする必要があります。トレーニングジョブの作成の詳細については、「DescribeTrainingJob」を参照してください。

削減率を計算するには、式 (1 - (BillableTimeInSeconds / TrainingTimeInSeconds)) * 100 を使用して、マネージド型スポットトレーニングを使用します。たとえば、BillableTimeInSeconds が 100 で、TrainingTimeInSeconds が 500 の場合、削減率は 80% です。

Amazon SageMaker スポットインスタンスでのトレーニングジョブの実行がどのように機能し、請求可能な時間が短縮されるかについては、Amazon SageMaker マネージドスポットトレーニング例 GitHub リポジトリ。

マネージド型スポットトレーニングのライフサイクル

トレーニングジョブを監視するには、TrainingJobStatusおよびSecondaryStatusによって返されるDescribeTrainingJob。以下のリストは、トレーニングのシナリオに基づき、TrainingJobStatus および SecondaryStatus の値が変化する様子を示しています。

• トレーニング中に中断することなく取得したスポットインスタンス

  1. InProgress: Starting↠ Downloading ↠ Training ↠ Uploading

• スポットインスタンスが 1 回中断されました。後に、トレーニングジョブを完了するのに十分なスポットインスタンスが取得されました。

  1. InProgress: Starting ↠ Downloading ↠ Training ↠ Interrupted ↠ Starting ↠ Downloading ↠ Training ↠ Uploading

• スポットインスタンスが 2 回中断され、MaxWaitTimeInSecondsを超過しました。

  1. InProgress: Starting ↠ Downloading ↠ Training ↠ Interrupted ↠ Starting ↠ Downloading ↠ Training ↠ Interrupted ↠ Downloading ↠ Training

  2. Stopping: Stopping

  3. Stopped: MaxWaitTimeExceeded

• スポットインスタンスは起動されませんでした。

  1. InProgress: Starting

  2. Stopping: Stopping

  3. Stopped: MaxWaitTimeExceeded