Vorzeitiges Beenden von Schulungsaufträgen

Beenden Sie die Schulungsaufträge, die ein Hyperparameter-Optimierungsauftrag startet, vorzeitig, wenn diese keine signifikanten Verbesserungen erzielen, was Sie an der objektiven Metrik ablesen können. Durch das vorzeitige Beenden von Schulungsaufträgen wird die Datenverarbeitungszeit reduziert und eine Überanpassung Ihres Modells vermieden. Gehen Sie wie folgt vor, um einen Hyperparameter-Optimierungsauftrag so zu konfigurieren, dass Schulungsaufträge vorzeitig beendet werden:

• Wenn Sie das AWS-SDK für Python (Boto 3) verwenden, legen Sie das Feld TrainingJobEarlyStoppingType des Objekts HyperParameterTuningJobConfig, mit dem Sie den Optimierungsauftrag konfigurieren, auf AUTO fest.

• Wenn Sie das Amazon SageMaker Python SDK verwenden, setzen Sie den early_stopping_type Parameter des HyperParameterTuner Objekts auf Auto.

• Wählen Sie in der Amazon- SageMaker Konsole im Workflow Hyperparameter-Optimierungsauftrag erstellen unter Frühes Stoppen die Option Auto aus.

Ein Beispiel-Notebook, das zeigt, wie Sie vorzeitiges Stoppen verwenden, finden Sie unter https://github.com/awslabs/amazon-sagemaker-examples/blob/master/hyperparameter_tuning/image_classification_early_stopping/hpo_image_classification_early_stoppinghpo_image_classification_early_stopping.ipynbNotebook im Abschnitt Hyperparameteroptimierung der SageMaker Beispiele in einer Notebook-Instance. Informationen zur Verwendung der Beispielnotebooks in einer Notebook-Instance finden Sie unter Beispiel-Notebooks.

Funktionsweise des vorzeitigen Beendens

Wenn Sie das SageMaker vorzeitige Stoppen für einen Hyperparameter-Optimierungsauftrag aktivieren, bewertet jeden Trainingsauftrag, den der Hyperparameter-Optimierungsauftrag startet, wie folgt:

• Nach jeder Schulungsepoche wird der Wert der objektiven Metrik ermittelt.

• Der aktuelle Durchschnitt der objektiven Metrik wird für alle vorherigen Schulungsaufträge bis zur selben Epoche berechnet, anschließend wird der Mittelwert aller aktuellen Durchschnittswerte berechnet.

• Wenn der Wert der Zielmetrik für den aktuellen Trainingsjob schlechter ist (höher bei der Minimierung oder niedriger bei der Maximierung der Zielmetrik) als der Medianwert der laufenden Durchschnittswerte der Zielmetrik für frühere Trainingsjobs bis zu derselben Epoche, SageMaker stoppt den aktuellen Trainingsjob.

Algorithmen, die das vorzeitige Beenden unterstützen

Um das vorzeitige Beenden zu unterstützen, muss ein Algorithmus objektive Metriken für jede Epoche ausgeben. Die folgenden integrierten SageMaker Algorithmen unterstützen vorzeitiges Stoppen:

• LightGBM

• CatBoost

• AutoGluon-Tabellarisch

• TabTransformer

• Algorithmus für lineares Lernen— Wird nur unterstützt, wenn Sie objective_loss als Zielmetrik verwenden.

• XGBoost-Algorithmus

• Bildklassifikation - MXNet

• Objekterkennung – MXNet

• Sequence-to-Sequence-Algorithmus

• IP Insights

Anmerkung

Diese Liste der integrierten Algorithmen, die das vorzeitige Beenden unterstützen, ist auf dem Stand vom 13. Dezember 2018. Andere integrierte Algorithmen unterstützen möglicherweise in Zukunft das vorzeitige Beenden. Wenn ein Algorithmus eine Metrik ausgibt, die als objektive Metrik für einen Hyperparameter-Optimierungsauftrag verwendet werden kann (vorzugsweise eine Validierungsmetrik), unterstützt er das vorzeitige Beenden.

Um das vorzeitige Beenden mit Ihrem eigenen Algorithmus zu verwenden, müssen Sie Ihre Algorithmen so entwickeln, dass sie den Wert der objektiven Metrik nach jeder Epoche ausgeben. Die folgende Liste zeigt, wie Sie dies in verschiedenen Frameworks erreichen können:

TensorFlow

Verwenden Sie die tf.keras.callbacks.ProgbarLogger-Klasse. Weitere Informationen finden Sie unter tf.keras.callbacks.ProgbarLogger API.

MXNet

Verwenden Sie die mxnet.callback.LogValidationMetricsCallback. Informationen finden Sie in den mxnet.callback-APIs.

Chainer

Erweitern Sie den Chainer durch Verwendung der extensions.Evaluator-Klasse. Informationen finden Sie in der Chainer.Training.Extensions.Evaluator-API.

PyTorch und Spark

Es gibt keine High-Level-Unterstützung. Sie müssen Ihren Schulungscode explizit so entwickeln, dass er objektive Metriken berechnet und sie nach jeder Epoche in Protokolle schreibt.