SageMaker HyperPod Amazon-Schnellstart

Dieser Schnellstart führt Sie durch die Erstellung Ihres ersten HyperPod Clusters mit Slurm- und Amazon EKS (EKS) -Orchestrierungen. Wählen Sie zunächst die Orchestrierung, die am besten zu Ihren Infrastrukturanforderungen passt. SageMaker HyperPod

Erstellen Sie einen SLURM-orchestrierten Cluster SageMaker HyperPod

Folgen Sie diesen Schritten, um Ihren ersten SageMaker HyperPod Cluster mit Slurm-Orchestrierung zu erstellen.

1. Öffnen Sie die Amazon SageMaker AI-Konsole unter https://console.aws.amazon.com/sagemaker/.

2. Wählen Sie im linken Navigationsbereich HyperPod Clusters und dann Cluster Management aus.

3. Wählen Sie auf der Seite SageMaker HyperPod Cluster die Option HyperPod Cluster erstellen aus.

4. Wählen Sie im Drop-down-Menü HyperPod Cluster erstellen die Option Orchestrated by Slurm aus.

5. Wählen Sie auf der Seite zur Clustererstellung die Option Quick Setup aus. Mit dieser Option können Sie sofort mit den Standardeinstellungen beginnen. SageMaker KI erstellt bei der Erstellung Ihres Clusters neue Ressourcen wie VPC, Subnetze, Sicherheitsgruppen, Amazon S3 S3-Bucket, IAM-Rolle und FSx für Lustre.

6. Geben Sie unter Allgemeine Einstellungen einen Namen für den neuen Cluster an. Sie können den Namen nicht ändern, nachdem der Cluster erstellt wurde.

7. Wählen Sie unter Instanzgruppen die Option Gruppe hinzufügen aus. Jede Instanzgruppe kann anders konfiguriert werden, und Sie können einen heterogenen Cluster erstellen, der aus mehreren Instanzgruppen mit unterschiedlichen Instanztypen besteht. Um einen Cluster bereitzustellen, müssen Sie mindestens eine Instanzgruppe hinzufügen. Sie können jeweils eine Instanzgruppe hinzufügen. Um mehrere Instanzgruppen zu erstellen, wiederholen Sie den Vorgang für jede Instanzgruppe.

   Gehen Sie wie folgt vor, um eine Instanzgruppe hinzuzufügen.

   1. Wählen Sie unter Instanzgruppentyp einen Typ für Ihre Instanzgruppe aus. Wählen Sie für diesen Schnellstart Controller (Head) formy-controller-group, Login for my-login-group und Compute (Worker) forworker-group-1.

   2. Geben Sie unter Name einen Namen für die Instanzgruppe an. Erstellen Sie für diesen Schnellstart drei Instanzgruppen mit den Namen my-controller-groupmy-login-group, undworker-group-1.

   3. Wählen Sie für die Instanzkapazität entweder On-Demand-Kapazität oder einen Schulungsplan, um Ihre Rechenressourcen zu reservieren.

   4. Wählen Sie unter Instanztyp die Instanz für die Instanzgruppe aus. Wählen Sie für diesen Schnellstart ml.c5.xlarge für my-controller-groupmy-login-group, ml.m5.4xlarge für und ml.trn1.32xlarge für worker-group-1 aus.

      Stellen Sie sicher, dass Sie den Instance-Typ mit ausreichenden Kontingenten in Ihrem Konto wählen, oder fordern Sie zusätzliche Kontingente an, indem Sie den Anweisungen unter SageMaker HyperPod Kontingente folgen.

   5. Geben Sie für Instance-Menge eine Ganzzahl an, die das Instance-Kontingent für die Cluster-Nutzung nicht überschreitet. Geben Sie für diesen Schnellstart 1 für alle drei Gruppen ein.

   6. Wählen Sie für Target Availability Zone die Availability Zone aus, in der Ihre Instances bereitgestellt werden. Die Availability Zone sollte dem Standort Ihrer beschleunigten Rechenkapazität entsprechen.

   7. Geben Sie für Zusätzliches Speichervolumen pro Instanz (GB) — optional eine Ganzzahl zwischen 1 und 16384 an, um die Größe eines zusätzlichen Elastic Block Store (EBS) -Volumes in Gigabyte (GB) festzulegen. Das EBS-Volume ist an jede Instanz der Instanzgruppe angehängt. Der Standard-Bereitstellungspfad für das zusätzliche EBS-Volume lautet. /opt/sagemaker Nachdem der Cluster erfolgreich erstellt wurde, können Sie per SSH auf die Cluster-Instances (Knoten) zugreifen und überprüfen, ob das EBS-Volume korrekt gemountet wurde, indem Sie den Befehl ausführen. df -h Durch das Anhängen eines zusätzlichen EBS-Volumes wird stabiler, instanzunabhängiger und unabhängig persistenter Speicher bereitgestellt, wie im Abschnitt Amazon EBS-Volumes im Amazon Elastic Block Store-Benutzerhandbuch beschrieben.

   8. Wählen Sie Instance-Gruppe hinzufügen.

8. Überprüfen Sie unter Standardeinstellungen für die Schnellkonfiguration die Standardeinstellungen. In diesem Abschnitt sind alle Standardeinstellungen für die Clustererstellung aufgeführt, einschließlich aller neuen AWS Ressourcen, die während der Clustererstellung erstellt werden.

9. Wählen Sie Absenden aus.

Weitere Informationen finden Sie unter Erste Schritte mit der SageMaker HyperPod Verwendung der SageMaker KI-Konsole.

Erstellen Sie einen EKS-orchestrierten Cluster SageMaker HyperPod

Gehen Sie wie folgt vor, um Ihren ersten SageMaker HyperPod Cluster mit Amazon EKS-Orchestrierung zu erstellen.

1. Öffnen Sie die Amazon SageMaker AI-Konsole unter https://console.aws.amazon.com/sagemaker/.

2. Wählen Sie im linken Navigationsbereich HyperPod Clusters und dann Cluster Management aus.

3. Wählen Sie auf der Seite SageMaker HyperPod Cluster die Option HyperPod Cluster erstellen aus.

4. Wählen Sie im Drop-down-Menü HyperPod Cluster erstellen die Option Orchestrated by Amazon EKS aus.

5. Wählen Sie auf der Seite zur Clustererstellung die Option Schnellkonfiguration aus. Mit dieser Option können Sie sofort mit den Standardeinstellungen beginnen. SageMaker KI erstellt bei der Erstellung Ihres Clusters neue Ressourcen wie VPC, Subnetze, Sicherheitsgruppen, Amazon S3 S3-Bucket, IAM-Rolle und FSx für Lustre.

6. Geben Sie unter Allgemeine Einstellungen einen Namen für den neuen Cluster an. Sie können den Namen nicht ändern, nachdem der Cluster erstellt wurde.

7. Wählen Sie unter Instanzgruppen die Option Gruppe hinzufügen aus. Jede Instanzgruppe kann anders konfiguriert werden, und Sie können einen heterogenen Cluster erstellen, der aus mehreren Instanzgruppen mit unterschiedlichen Instanztypen besteht. Um einen Cluster bereitzustellen, müssen Sie mindestens eine Instanzgruppe hinzufügen. Sie können jeweils eine Instanzgruppe hinzufügen. Um mehrere Instanzgruppen zu erstellen, wiederholen Sie den Vorgang für jede Instanzgruppe.

   Gehen Sie wie folgt vor, um eine Instanzgruppe hinzuzufügen.

   1. Wählen Sie als Instanzgruppentyp Standard oder Eingeschränkte Instanzgruppe (RIG). In der Regel wählen Sie Standard, das eine allgemeine Computerumgebung ohne zusätzliche Sicherheitseinschränkungen bietet. Restricted Instance Group (RIG) ist eine spezialisierte Umgebung für die Anpassung grundlegender Modelle wie Amazon Nova. Weitere Informationen zur Einrichtung von RIG für die Amazon Nova-Modellanpassung finden Sie unterAmazon Nova-Anpassung bei Amazon SageMaker HyperPod.

   2. Geben Sie unter Name einen Namen für die Instanzgruppe an.

   3. Wählen Sie zum Beispiel Instance-Kapazität entweder On-Demand-Kapazität oder einen Schulungsplan, um Ihre Rechenressourcen zu reservieren.

   4. Wählen Sie unter Instanztyp die Instanz für die Instanzgruppe aus. Stellen Sie sicher, dass Sie den Instance-Typ mit ausreichenden Kontingenten in Ihrem Konto wählen, oder fordern Sie zusätzliche Kontingente an, indem Sie unter folgenSageMaker HyperPod Kontingente.

   5. Geben Sie für Instance-Menge eine Ganzzahl an, die das Instance-Kontingent für die Cluster-Nutzung nicht überschreitet. Geben Sie für diesen Schnellstart 1 für alle drei Gruppen ein.

   6. Wählen Sie für Target Availability Zone die Availability Zone aus, in der Ihre Instances bereitgestellt werden. Die Availability Zone sollte dem Standort Ihrer beschleunigten Rechenkapazität entsprechen.

   7. Geben Sie für Zusätzliches Speichervolumen pro Instanz (GB) — optional eine Ganzzahl zwischen 1 und 16384 an, um die Größe eines zusätzlichen Elastic Block Store (EBS) -Volumes in Gigabyte (GB) festzulegen. Das EBS-Volume ist an jede Instanz der Instanzgruppe angehängt. Der Standard-Bereitstellungspfad für das zusätzliche EBS-Volume lautet. /opt/sagemaker Nachdem der Cluster erfolgreich erstellt wurde, können Sie per SSH auf die Cluster-Instances (Knoten) zugreifen und überprüfen, ob das EBS-Volume korrekt gemountet wurde, indem Sie den Befehl ausführen. df -h Durch das Anhängen eines zusätzlichen EBS-Volumes wird stabiler, instanzunabhängiger und unabhängig persistenter Speicher bereitgestellt, wie im Abschnitt Amazon EBS-Volumes im Amazon Elastic Block Store-Benutzerhandbuch beschrieben.

   8. Wählen Sie Ihre Option, z. B. tiefgreifende Gesundheitschecks. Tiefgreifende Integritätsprüfungen überwachen den Zustand der Instances während der Erstellung und nach Softwareupdates und stellen fehlerhafte Instanzen automatisch durch Neustarts oder Austausch wieder her, sofern diese aktiviert sind.

   9. Wählen Sie Instanzgruppe hinzufügen.

8. Überprüfen Sie unter Standardeinstellungen für die Schnellkonfiguration die Standardeinstellungen. In diesem Abschnitt sind alle Standardeinstellungen für die Clustererstellung aufgeführt, einschließlich aller neuen AWS Ressourcen, die während der Clustererstellung erstellt werden.

9. Wählen Sie Absenden aus.

Weitere Informationen finden Sie unter Erstellen eines SageMaker HyperPod Clusters mit Amazon EKS-Orchestrierung.

Workloads einreichen

Folgen Sie diesen Workshop-Tutorials, um Beispiel-Workloads einzureichen.

• Amazon SageMaker HyperPod für Slurm

• Amazon SageMaker HyperPod für Amazon EKS