DeepAR+ アルゴリズム - Amazon Forecast

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

DeepAR+ アルゴリズム

Amazon Forecast DeepAR は、再帰型ニューラルネットワーク (RNN) を使用してスカラー (1 次元) 時系列を予測するための、教師あり学習アルゴリズムです。自己回帰和分移動平均 (ARIMA) や指数平滑法 (ETS) などの古典的な予測方法は、1 つのモデルを個々の時系列に適合させ、そのモデルを使用して時系列を未来に当てはめます。ただし多くのアプリケーションでは、一連の横断的な単位にわたって同様の時系列が多数あります。これらの時系列グループは、さまざまな製品、サーバーの負荷、およびウェブページのリクエストを要求します。この場合、これらすべての時系列で、連携して単一のモデルをトレーニングすることが効果的です。DeepAR+ はこのアプローチを使用します。データセットに何百もの特徴の時系列データが含まれている場合、DeepAR+ アルゴリズムは標準の ARIMA や ETS メソッドよりも優れています。トレーニングしたモデルを使用して、トレーニングしたモデルと似た新しい時系列の予測を生成することもできます。

Python ノートブック

DeepAR+ アルゴリズムの使用に関する詳しいガイドについては、DeepAR+ の使用開始

DeepAR+ の仕組み

トレーニング中、DeepAR+ はトレーニングデータセットとオプションのテストデータセットを使用します。テストデータセットは、トレーニングされたモデルを評価するために使用されます。一般的に、トレーニングデータセットとテストデータセットに同じ一連の時系列を含める必要はありません。特定のトレーニングセットでトレーニングされたモデルを使用すると、トレーニングセット内の時系列の今後の予測と他の時系列の予測を生成できます。トレーニングデータセットとテストデータセットはどちらも (可能な場合は複数の) ターゲット時系列で構成されています。オプションで、特徴時系列のベクトルおよびカテゴリ別特徴のベクトルと関連付けることができます (詳細については、DeepAR 入出力インターフェイス()SageMaker 開発者ガイド). 次の例は、インデックス i が付されたトレーニングデータセットの要素に対してこれがどのように機能するかを示しています。トレーニングデータセットは、ターゲット時系列 zi,t、および 2 つの関連する特徴の時系列 xi,1,txi,2,t から構成されます。


        イメージ: DeepAR+ 時系列データ。

ターゲット時系列には欠落した値が含まれている可能性があります (グラフでは時系列の切れ目で示されています)。DeepAR+ は、今後認識される特徴の時系列のみをサポートします。これにより、事実に反した「what-if」シナリオを実行できます。たとえば、「製品の価格を何らかの方法で変更した場合はどうなりますか?」などです。

各ターゲット時系列は、複数のカテゴリ別特徴に関連付けることもできます。これらを使用して、時系列が特定のグループに属していることをエンコードできます。カテゴリ別特徴を使用すると、モデルはそれらのグループ化の典型的な動作を学習することができ、それによって精度が向上します。モデルはこれを実装するために、グループ内のすべての時系列の共通プロパティをキャプチャする各グループの埋め込みベクトルを学習します。

週末の急増などの時間依存パターンの学習を容易にするために、DeepAR+ は時系列の詳細度に基づいて特徴の時系列を自動的に作成します。たとえば、DeepAR+ は、週に 1 回の頻度で 2 つの特徴の時系列 (月初からの日付と年初からの日付) を作成します。DeepAR+ は、このように派生した特徴の時系列を使用するだけでなく、トレーニングと推論の間にユーザーが提供するカスタムの特徴の時系列も使用します。次の例は、派生した 2 つの時系列の特徴を示しています。ui,1,t はその日の時間を表し、ui,2,t はその曜日を表します。


        イメージ: DeepAR+ の 2 つの派生時系列。

DeepAR+ は、データの頻度とトレーニングデータのサイズに基づいて、これらの特徴の時系列を自動的に組み込みます。次の表に、サポートされている基本的な頻度ごとに、派生させることのできる特徴を示します。

時系列の頻度 派生する特徴
分、時、曜日、月初からの日付、年初からの日付
時間 時、曜日、月初からの日付、年初からの日付
日。 曜日、月初からの日付、年初からの日付
月初からの日付、年初からの日付

DeepAR+ モデルは、トレーニングデータセットの各時系列からいくつかのトレーニング例をランダムにサンプリングすることによってトレーニングされます。各トレーニング例は、事前定義された固定長を持つ一対の隣接コンテキストと予測ウィンドウで構成されています。context_length ハイパーパラメータは、どの程度の過去まで遡ってネットワークを調べられるのかを制御し、ForecastHorizon パラメータは、どの程度の未来まで予測を生成できるかを制御します。トレーニング中、Amazon Forecast は、指定された予測長より時系列が短いトレーニングデータセット内の要素を無視します。次の例は、要素 i から抽出された、コンテキストの長さ (緑でハイライト表示) が 12 時間、予測の長さ (青でハイライト表示) が 6 時間の 5 つのサンプルを示しています。簡潔にするために、特徴の時系列 xi,1,tui,2,t は除外しました。


        イメージ: DeepAR+ のサンプルです。

季節的パターンをキャプチャするために、DeepAR+ はターゲット時系列から遅延した (過去の期間の) 値も自動的にフィードします。1 時間に 1 回の頻度で各時間インデックス t = T のサンプルを取得したこの例では、モデルは zi,t 値を公開します。これらは過去約 1、2、および 3 日 (ピンクでハイライト表示) に発生したものです。


        イメージ: DeepAR+ の遅れ

トレーニングされたモデルは、推論のために、トレーニング中に使用されたかどうかにかかわらず、ターゲット時系列を入力として受け取り、それ以降の ForecastHorizon 値の確率分布を予測します。DeepAR+ はデータセット全体についてトレーニングされるため、予測では同様の時系列からの学習パターンが考慮されます。

DeepAR+ の背後にある数学の詳細については、DeepAR: 自己回帰再帰的ネットワークを用いた確率的予測コーネル大学図書館のウェブサイトに掲載されています。

DeepAR+ ハイパーパラメータ

次の表は、DeepAR+ アルゴリズムで使用できるハイパーパラメータのリストです。太字のパラメータは、ハイパーパラメータ最適化 (HPO) に関与します。

パラメータ名 説明
context_length

予測を生成する前にモデルが読み込む時間ポイントの数。このパラメータの値は、ForecastHorizon とほぼ同じである必要があります。モデルはターゲットからの遅延入力も受信するため、context_length は一般的な季節性よりもはるかに小さくなります。たとえば、毎日の時系列が年次的な季節性を持つ場合があります。このモデルには 1 年間の遅延が自動的に含まれるため、コンテキストの長さは 1 年よりも短くなります。モデルが選択する遅延値は、時系列の頻度によって異なります。たとえば、毎日の頻度の遅延値は、前の週、2 週間、3 週間、4 週間、および 1 年です。

有効な値

正の整数

一般的な値

ceil(0.1 * ForecastHorizon) to min(200, 10 * ForecastHorizon)

デフォルト値

2 * ForecastHorizon

epochs

トレーニングデータへのパスの最大数。最適な値は、データサイズと学習レートによって異なります。データセットが小さく、学習率が低くなると、いずれもエポック数が多くなり、良好な結果が得られます。

有効な値

正の整数

一般的な値

10~1000

デフォルト値

500

learning_rate

トレーニングで使用する学習レート。

有効な値

正の浮動小数点数

一般的な値

0.0001~0.1

デフォルト値

0.001

learning_rate_decay

学習率が低下するレート。学習レートは多くても max_learning_rate_decays 回減少し、その後はトレーニングが停止します。このパラメータが使用されるのは、max_learning_rate_decays が 0 より大きい場合のみです。

有効な値

正の浮動小数点数

一般的な値

0.5~0.8

デフォルト値

0.5

likelihood

モデルは確率予測を生成し、分散の変位値を提供してサンプルを返すことができます。データによっては、不確実性予測に使用される適切な尤度 (ノイズモデル) を選択します。

有効な値

  • beta: 0 ~ 1 の範囲内 (0 と 1 を含む) の実数値ターゲットに使用します。

  • deterministic-L1: 不確実性を予測せず、ポイント予測のみ学習する損失関数。

  • gaussian: 実数値のデータに使用します。

  • negative-binomial: データ (負ではない整数) の合計に使用します。

  • piecewise-linear: 柔軟なディストリビューションに使用します。

  • student-T: バースト性データの実数値データにこの方法を使用します。

デフォルト値

student-T

max_learning_rate_decays

学習レートの減少が起きた場合のその最大回数。

有効な値

正の整数

一般的な値

0〜10

デフォルト値

0

num_averaged_models

DeepAR+ では、トレーニングの軌跡に複数のモデルが含まれる可能性があります。各モデルの予測の長所と短所は異なる場合があります。DeepAR+ は、すべてのモデルの長所を活用するために、モデルの動作を平均化できます。

有効な値

正の整数

一般的な値

1~5

デフォルト値

1

num_cells

RNN の非表示のレイヤーごとに使用するセルの数。

有効な値

正の整数

一般的な値

30~100

デフォルト値

40

num_layers

RNN の非表示レイヤーの数。

有効な値

正の整数

一般的な値

1~4

デフォルト値

2

DeepAR+ モデルを調整する

Amazon Forecast DeepAR+ モデルを調整するには、以下の推奨事項に従って、トレーニングプロセスとハードウェア構成を最適化してください。

プロセス最適化のためのベストプラクティス

最良の結果を得るためには、以下の推奨事項に従ってください。

  • トレーニングとテストのデータセットを分割する場合を除き、トレーニングとテストのため、および推論のためにモデルを呼び出す際には、常に時系列全体を提供します。context_length の設定方法にかかわらず、時系列を分割したり、その一部だけを指定したりしないでください。モデルは、遅延値の特徴には、context_length より後ろのデータポイントを使用します。

  • モデルを調整するために、データセットをトレーニングデータセットとテストデータセットに分割することができます。典型的な評価シナリオでは、トレーニングで使用したのと同じ時系列でモデルをテストする必要がありますが、トレーニング中に表示される最後の時間ポイントの直後に発生する ForecastHorizon 時間ポイントでモデルをテストします。これらの基準を満たすトレーニングデータセットとテストデータセットを作成するには、データセット全体 (すべての時系列) をテストデータセットとして使用し、トレーニング用の各時系列から最後の ForecastHorizon ポイントを削除します。このようにトレーニング中には、モデルはテスト時に評価される時間ポイントのターゲット値を確認しません。テストフェーズでは、テストデータセット内の各時系列の最後の ForecastHorizon ポイントが保留され、予測が生成されます。その後、予測が最後の ForecastHorizon ポイントの実際の値と比較されます。より複雑な評価を作成するには、テストデータセット内で時系列を複数回繰り返しますが、それぞれ異なる終了ポイントで切り捨てます。これにより、さまざまな時間ポイントからの複数の予測で平均化された精度メトリクスが生成されます。

  • ForecastHorizon に非常に大きい値 (> 400) を使用することは避けてください。このような値を設定すると、モデルの速度が遅くなり、精度が低下します。未来の予測をさらに生成するには、より高い頻度で情報を集約することを検討してください。たとえば、1min ではなく 5min を使用します。

  • 遅延のために、モデルは context_length より前を確認することができます。そのため、このパラメータを大きい値に設定する必要はありません。このパラメータの開始点として推奨されるのは、ForecastHorizon と同じ値です。

  • 可能な限り多くの時系列で DeepAR+ モデルをトレーニングします。単一の時系列でトレーニングされた DeepAR+ モデルも問題なく機能する可能性はありますが、ARIMA や ETS などの標準的な予測方法を使用すると、正確性が増し、そのユースケースへの適合性が高まるように調整される可能性があります。データセットに何百もの特徴の時系列データが含まれている場合、DeepAR+ は標準の方法より優れた性能を発揮するようになります。DeepAR+ では現在、すべてのトレーニング時系列にわたって利用可能な観測の総数が 300 以上であることが要求されます。

  • DeepAR+ は、ターゲット時系列、関連する時系列、項目メタデータから学習できるため、コールドスタートのシナリオに適しています。Deepar+は、履歴データを持つ他の商品と類似した特性を持つ新しい商品やSKUの需要を予測できます。フォローサンプルノートブックの例開始するには、以下の手順を実行します。