Kernfunktionen der SageMaker Modellparallelitätsbibliothek v2 - Amazon SageMaker

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Kernfunktionen der SageMaker Modellparallelitätsbibliothek v2

Die Amazon SageMaker Model Parallelism Library v2 (SMP v2) bietet Vertriebsstrategien und Speicherspartechniken wie Sharded Data Parallelism, Tensor Parallelism und Checkpointing. Die von SMP v2 angebotenen Strategien und Techniken zur Modellparallelität helfen dabei, große Modelle auf mehrere Geräte zu verteilen und gleichzeitig die Trainingsgeschwindigkeit und den Speicherverbrauch zu optimieren. SMP v2 bietet auch ein Python-Pakettorch.sagemaker, mit dem Sie Ihr Trainingsskript mit wenigen Codeänderungen anpassen können.

Dieses Handbuch folgt dem grundlegenden zweistufigen Ablauf, der in vorgestellt wurde. Erste Schritte mit der SageMaker Modellparallelismus-Bibliothek v2 Weitere Informationen zu den Kernfunktionen von SMP v2 und deren Verwendung finden Sie in den folgenden Themen.

Anmerkung

Diese Kernfunktionen sind in SMP v2.0.0 und höher sowie im SageMaker Python SDK v2.200.0 und höher verfügbar und funktionieren für v2.0.1 und höher. PyTorch Informationen zur Überprüfung der Versionen der Pakete finden Sie unter. Unterstützte Frameworks und AWS-Regionen

Themen