Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Modellieren Sie die Bereitstellung am Netzwerkrand mit Edge Manager SageMaker
Warnung
SageMaker Edge Manager wird am 26. April 2024 eingestellt. Weitere Informationen zum weiteren Einsatz Ihrer Modelle auf Edge-Geräten finden Sie unter SageMaker Ende der Lebensdauer von Edge Manager.
Amazon SageMaker Edge Manager bietet Modellmanagement für Edge-Geräte, sodass Sie Modelle für maschinelles Lernen auf Flotten von Edge-Geräten wie Smart-Kameras, Robotern, PCs und Mobilgeräten optimieren, sichern, überwachen und verwalten können.
Warum Edge Manager verwenden?
In vielen Anwendungsfällen für Machine Learning (ML) müssen ML-Modelle auf einer Flotte von Edge-Geräten laufen. So können Sie Prognosen in Echtzeit abrufen, die Daten der Endnutzer schützen und die Kosten für die Netzwerkkonnektivität senken. Mit der zunehmenden Verfügbarkeit von Edge-Hardware mit geringem Stromverbrauch, die für ML entwickelt wurde, ist es jetzt möglich, das mehrere komplexe neuronale Netzwerkmodelle auf Edge-Geräten laufen.
Der Betrieb von ML-Modellen auf Edge-Geräten ist jedoch eine Herausforderung, da die Geräte im Unterschied zu Cloud-Instances nur über begrenzte Rechenleistung, Speicherplatz und Konnektivität verfügen. Wenn das Modell bereitgestellt wird, müssen Sie die Modelle kontinuierlich überwachen, da Modellabweichungen dazu führen können, dass die Qualität des Modells mit der Zeit nachlässt. Die Überwachung von Modellen für Ihre Geräteflotten ist schwierig, da Sie eigens dafür bestimmten Code schreiben müssen, um Datenstichproben von Ihrem Gerät zu nehmen und fehlerhafte Vorhersagen zu erkennen. Darüber hinaus sind Modelle häufig fest in der Anwendung codiert. Um das Modell zu aktualisieren, müssen Sie die gesamte Anwendungs- oder Gerätefirmware neu erstellen und aktualisieren, was Ihren Betrieb stören kann.
Mit SageMaker Edge Manager können Sie Modelle für maschinelles Lernen für Geräteflotten am Netzwerkrand optimieren, ausführen, überwachen und aktualisieren.
Wie das funktioniert?
Auf einer höheren Ebene besteht der SageMaker Edge Manager-Workflow aus fünf Hauptkomponenten: Kompilieren von Modellen mit SageMaker Neo, Verpacken von NEO-kompilierten Modellen, Bereitstellung von Modellen auf Ihren Geräten, Ausführung von Modellen auf der SageMaker Inferenz-Engine (Edge Manager-Agent) und Verwaltung von Modellen auf den Geräten.
SageMaker Edge Manager verwendet SageMaker Neo, um Ihre Modelle mit einem Klick für die Zielhardware zu optimieren und anschließend Ihre Modelle vor der Bereitstellung kryptografisch zu signieren. Mit SageMaker Edge Manager können Sie Modelleingabe- und -ausgabedaten von Edge-Geräten abfragen und sie zur Überwachung und Analyse an die Cloud senden. Außerdem können Sie ein Dashboard aufrufen, das den Betrieb der bereitgestellten Modelle in der SageMaker Konsole verfolgt und visuell darüber berichtet.
SageMaker Edge Manager erweitert Funktionen, die bisher nur in der Cloud verfügbar waren, auf den Edge, sodass Entwickler die Modellqualität kontinuierlich verbessern können, indem sie Amazon SageMaker Model Monitor zur Drifterkennung verwenden, die Daten anschließend mit SageMaker Ground Truth umetikettieren und die Modelle neu trainieren können. SageMaker
Wie verwende ich SageMaker Edge Manager?
Wenn Sie SageMaker Edge Manager zum ersten Mal verwenden, empfehlen wir Ihnen, Folgendes zu tun:
Lesen Sie den Abschnitt Erste Schritte – In diesem Abschnitt erfahren Sie, wie Sie Ihren ersten Edge-Paketerstellungsauftrag einrichten und Ihre erste Flotte erstellen.
-
Erkunden Sie die Beispiele für Edge Manager-Jupyter-Notebooks — Beispiel-Notebooks werden im amazon-sagemaker-examples
GitHub Repository im Ordner sagemaker_edge_manager gespeichert.
