テキスト分類 - TensorFlow ハイパーパラメータ

ハイパーパラメータは、機械学習モデルが学習を開始する前に設定されるパラメータです。次のハイパーパラメータは、Amazon SageMaker 組み込みオブジェクト検出 TensorFlow アルゴリズムでサポートされています。ハイパーパラメータのチューニングに関する詳細ついては、「テキスト分類の調整 - TensorFlow モデル」を参照してください。

Parameter Name	説明
batch_size	トレーニングのバッチサイズ。複数の GPU を使用するインスタンスのトレーニングでは、このバッチサイズは GPU 間で使用されます。 有効な値: 正の整数。 デフォルト値: 32。
beta_1	"adam" および "adamw" オプティマイザの beta1。最初のモーメントの見積もりの指数関数的減衰率を表します。他のオプティマイザでは無視されます。 有効な値: 浮動小数点数、範囲: [0.0, 1.0]。 デフォルト値: 0.9。
beta_2	"adam" および "adamw" オプティマイザの beta2。2 番目のモーメントの見積もりの指数関数的減衰率を表します。他のオプティマイザでは無視されます。 有効な値: 浮動小数点数、範囲: [0.0, 1.0]。 デフォルト値: 0.999。
dropout_rate	最上位の分類レイヤーのドロップアウトレイヤーのドロップアウト率。reinitialize_top_layer が "True" に設定されている場合にのみ使用されます。 有効な値: 浮動小数点数、範囲: [0.0, 1.0]。 デフォルト値: 0.2
early_stopping	"True" に設定すると、トレーニング中に早期停止ロジックを使用します。"False" の場合、早期停止は使用されません。 有効な値: 文字列、("True" または "False") のいずれか。 デフォルト値: "False"。
early_stopping_min_delta	改善と認定するのに必要な最小変化。early_stopping_min_delta の値より小さな絶対変化は、改善とは認定されません。early_stopping が "True" に設定されている場合にのみ使用されます。 有効な値: 浮動小数点数、範囲: [0.0, 1.0]。 デフォルト値: 0.0。
early_stopping_patience	改善なしでトレーニングを継続できるエポック数。early_stopping が "True" に設定されている場合にのみ使用されます。 有効な値: 正の整数。 デフォルト値: 5。
epochs	トレーニングエポックの数。 有効な値: 正の整数。 デフォルト値: 10。
epsilon	"adam"、"rmsprop"、"adadelta"、および "adagrad" オプティマイザのイプシロン。通常は、0 で除算されないように小さな値を設定します。他のオプティマイザでは無視されます。 有効な値: 浮動小数点数、範囲: [0.0, 1.0]。 デフォルト値: 1e-7。
initial_accumulator_value	アキュムレータの開始値、または "adagrad" オプティマイザのパラメータごとのモーメンタム値。他のオプティマイザでは無視されます。 有効な値: 浮動小数点数、範囲: [0.0, 1.0]。 デフォルト値: 0.0001。
learning_rate	オプティマイザの学習レート。 有効な値: 浮動小数点数、範囲: [0.0, 1.0]。 デフォルト値: 0.001。
momentum	"sgd" および "nesterov" オプティマイザのモーメンタム。他のオプティマイザでは無視されます。 有効な値: 浮動小数点数、範囲: [0.0, 1.0]。 デフォルト値: 0.9。
optimizer	オプティマイザのタイプ。詳細については、 TensorFlow ドキュメントの「オプティマイザ」を参照してください。 有効な値: 文字列、("adamw"、"adam"、"sgd"、"nesterov"、"rmsprop"、 "adagrad"、"adadelta") のいずれか。 デフォルト値: "adam"。
regularizers_l2	分類レイヤーの高密度レイヤーの L2 正則化係数。reinitialize_top_layer が "True" に設定されている場合にのみ使用されます。 有効な値: 浮動小数点数、範囲: [0.0, 1.0]。 デフォルト値: 0.0001。
reinitialize_top_layer	"Auto" に設定すると、微調整時に最上位の分類レイヤーパラメータが再初期化されます。段階的トレーニングの場合、"True" に設定されない限り、最上位の分類レイヤーのパラメータは再初期化されません。 有効な値: 文字列、("Auto"、"True"、または "False") のいずれかです。 デフォルト値: "Auto"。
rho	"adadelta" および "rmsprop" オプティマイザの勾配の割引係数。他のオプティマイザでは無視されます。 有効な値: 浮動小数点数、範囲: [0.0, 1.0]。 デフォルト値: 0.95。
train_only_on_top_layer	"True" の場合、最上位の分類レイヤーパラメータのみ微調整されます。"False" の場合、すべてのモデルパラメータが微調整されます。 有効な値: 文字列、("True" または "False") のいずれか。 デフォルト値: "False"。
validation_split_ratio	ランダムに分割して検証データを作成するトレーニングデータの割合。検証データが validation チャネルを介して提供されていない場合にのみ使用されます。 有効な値: 浮動小数点数、範囲: [0.0, 1.0]。 デフォルト値: 0.2。
warmup_steps_fraction	ウォームアップとして学習レートが 0 から初期学習レートに増加する勾配更新ステップの合計数の割合。adamw オプティマイザでのみ使用されます。 有効な値: 浮動小数点数、範囲: [0.0, 1.0]。 デフォルト値: 0.1。