Amazon EMR-Clusterfehler: HDFS-Fehler mit unzureichendem Speicherplatz

Wenn Sie versuchen, einen Core-Knoten zu entfernen, Amazon EMR den Vorgang jedoch nicht sicher abschließen kann, weil im HDFS nicht genügend Speicherplatz vorhanden ist, kann es zu einem Fehler im Hadoop Distributed File System (HDFS) kommen. Bevor Amazon EMR einen Core-Knoten entfernt, müssen alle HDFS-Daten auf dem Knoten auf andere Core-Knoten übertragen werden, um Datenredundanz zu gewährleisten. Wenn auf den anderen Kernknoten jedoch nicht genügend Speicherplatz für die Replikation vorhanden ist, kann Amazon EMR den Knoten nicht ordnungsgemäß außer Betrieb nehmen.

Mögliche Ursachen

Im Folgenden finden Sie eine Liste der möglichen Ursachen für den Fehler, dass HDFS nicht genügend Speicherplatz hat:

• Wenn Sie eine Core-Instanzgruppe oder Instanzflotte manuell herunterskalieren, obwohl auf den verbleibenden Knoten vor dem Herunterskalieren nicht genügend HDFS-Speicherplatz für die Datenreplikation vorhanden ist.

• Durch verwaltetes Skalieren oder Autoscaling wird eine Core-Instanzgruppe oder Instanzflotte herunterskaliert, wenn nicht genügend HDFS-Speicherplatz für die Datenreplikation vorhanden ist.

• Amazon EMR versucht, einen fehlerhaften Core-Knoten zu ersetzen, kann den Knoten jedoch aufgrund des unzureichenden HDFS-Speichers nicht sicher ersetzen.

Lösungen und bewährte Methoden

Im Folgenden finden Sie Lösungen und bewährte Verfahren:

• Skalieren Sie die Anzahl der Kernknoten in Ihrem Amazon EMR-Cluster. Wenn Sie Managed Scaling oder Autoscaling verwenden, erhöhen Sie die Mindestkapazität Ihrer Kernknoten.

• Verwenden Sie größere EBS-Volumes für Ihre Kernknoten, wenn Sie Ihren EMR-Cluster erstellen.

• Löschen Sie nicht benötigte HDFS-Daten in Ihrem EMR-Cluster. Wir empfehlen Ihnen, CloudWatch Alarme einzurichten, um die HDFSUtilization Metrik in Ihrem Cluster zu überwachen, um festzustellen, ob Ihr EMR-Cluster wenig Speicherplatz hat.