Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Amazon SageMaker Inference Recommender
Amazon SageMaker Inference Recommender ist eine Funktion von Amazon. SageMaker Es reduziert den Zeitaufwand für die Produktion von Modellen für maschinelles Lernen (ML), indem Lasttests und Modelloptimierung für ML-Instances SageMaker automatisiert werden. Sie können Inference Recommender verwenden, um Ihr Modell auf einem Endpoint- oder serverlosen Inferenzendpunkt bereitzustellen, der die beste Leistung zu den niedrigsten Kosten bietet. Inference Recommender hilft Ihnen bei der Auswahl des besten Instanztyps und der besten Konfiguration für Ihre ML-Modelle und Workloads. Es berücksichtigt Faktoren wie die Anzahl der Instanzen, Containerparameter, Modelloptimierungen, maximale Parallelität und Speichergröße.
Amazon SageMaker Inference Recommender berechnet Ihnen nur die Instances, die Sie während der Ausführung Ihrer Jobs verwenden.
Funktionsweise
Um Amazon SageMaker Inference Recommender zu verwenden, können Sie entweder ein Modell erstellen oder ein SageMaker Modell mit Ihren Modellartefakten in der SageMaker Modellregistrierung registrieren. Verwenden Sie die Konsole AWS SDK for Python (Boto3) oder die SageMaker Konsole, um Benchmarking-Jobs für verschiedene SageMaker Endpunktkonfigurationen auszuführen. Inference Recommender-Jobs helfen Ihnen dabei, Kennzahlen zu Leistung und Ressourcennutzung zu sammeln und zu visualisieren, damit Sie entscheiden können, welchen Endpunkttyp und welche Konfiguration Sie wählen sollten.
Erste Schritte
Wenn Sie Amazon SageMaker Inference Recommender zum ersten Mal verwenden, empfehlen wir Ihnen, wie folgt vorzugehen:
-
Lesen Sie den Voraussetzungen Abschnitt durch, um sicherzustellen, dass Sie die Anforderungen für die Verwendung von Amazon SageMaker Inference Recommender erfüllt haben.
-
Lesen Sie sich den So erhalten Sie Empfehlungen Abschnitt durch, um Ihre ersten Inference Recommender-Empfehlungsjobs zu starten.
-
Sehen Sie sich das einführende Beispiel für das Amazon SageMaker Inference Recommender Jupyter-Notizbuch
an, oder sehen Sie sich die Beispiel-Notebooks im folgenden Abschnitt an.
Beispiel-Notebooks
Die folgenden Beispiel-Jupyter-Notebooks können Ihnen bei den Workflows für mehrere Anwendungsfälle in Inference Recommender helfen:
-
Wenn Sie ein HuggingFace Modell vergleichen möchten, finden Sie im SageMaker Inference Recommender
für Notebooks weitere Informationen. HuggingFace -
Wenn Sie ein XGBoost Modell vergleichen möchten, schauen Sie sich das SageMaker Inference Recommender-Notebook
an. XGBoost
