Verwenden Sie die Batch-Transformation, um Inferenzen mit Amazon auszuführen SageMaker

Verwenden Sie die Stapeltransformation, wenn Sie folgende Aufgaben ausführen möchten:

• Vorverarbeitung von Datensätzen, um Rauschen oder Bias, das das Training oder Inferenz beeinträchtigt, aus Ihrem Datensatz zu entfernen.

• Abrufen von Inferenzen aus großen Datensätzen.

• Ausführen der Inferenz, wenn Sie keinen persistenten Endpunkt benötigen.

• Ordnen Sie Eingabedatensätze Schlussfolgerungen zu, um die Interpretation der Ergebnisse zu erleichtern.

Informationen zum Filtern von Eingabedaten vor dem Ausführen von Inferenzen oder zum Zuweisen von Eingabedatensätzen zu Inferenzen über diese Datensätze finden Sie unter Zuordnen von Voraussageergebnissen zu Eingabedatensätzen. Sie können beispielsweise Eingabedaten filtern, um Kontext für das Erstellen und Interpretieren von Berichten zu den Ausgabedaten bereitzustellen.

Themen

• Verwenden Sie die Batch-Transformation, um Rückschlüsse aus großen Datensätzen zu ziehen
• Beschleunigen Sie einen Batch-Transformationsauftrag
• Verwenden Sie die Batch-Transformation, um Produktionsvarianten zu testen
• Musternotizbücher für Batch-Transformation
• Zuordnen von Voraussageergebnissen zu Eingabedatensätzen
• Speichern in Stapeltransformation
• Fehlerbehebung

Verwenden Sie die Batch-Transformation, um Rückschlüsse aus großen Datensätzen zu ziehen

Die Stapeltransformation verwaltet automatisch die Verarbeitung von großen Datensätzen innerhalb der angegebenen Parameter. Zum Beispiel eine Datensatzdateiinput1.csv, die in einem S3-Bucket gespeichert ist. Der Inhalt der Eingabedatei könnte wie das nachfolgende Beispiel aussehen:

Record1-Attribute1, Record1-Attribute2, Record1-Attribute3, ..., Record1-AttributeM
Record2-Attribute1, Record2-Attribute2, Record2-Attribute3, ..., Record2-AttributeM
Record3-Attribute1, Record3-Attribute2, Record3-Attribute3, ..., Record3-AttributeM
...
RecordN-Attribute1, RecordN-Attribute2, RecordN-Attribute3, ..., RecordN-AttributeM            

Wenn ein Batch-Transformationsjob gestartet wird, werden Recheninstanzen SageMaker gestartet und die Inferenz- oder Vorverarbeitungslast zwischen ihnen verteilt. Die Stapeltransformation partitioniert Amazon S3-Objekte in der Eingabe nach Schlüssel und ordnet Amazon S3-Objekte den Instances zu. Wenn Sie mehrere Dateien haben, verarbeitet eine Instance z. B. input1.csv und eine andere Instance möglicherweise die Datei mit dem Namen input2.csv. Wenn Sie über eine Eingabedatei verfügen, aber mehrere Recheninstanzen initialisieren, verarbeitet nur eine Instanz die Eingabedatei. Die übrigen Instanzen befinden sich im Leerlauf.

Sie können Eingabedateien auch in Mini-Batches aufteilen. Sie können z. B. einen Ministapel aus input1.csv erstellen, indem Sie nur zwei der Dateien einschließen.

Record3-Attribute1, Record3-Attribute2, Record3-Attribute3, ..., Record3-AttributeM
Record4-Attribute1, Record4-Attribute2, Record4-Attribute3, ..., Record4-AttributeM
            

Anmerkung

SageMaker verarbeitet jede Eingabedatei separat. Ministapel aus verschiedenen Eingabedateien werden nicht kombiniert, um das MaxPayloadInMB -Limit einzuhalten.

Um Eingabedateien bei der Erstellung eines Batch-Transformationsauftrags in Mini-Batches aufzuteilen, setzen Sie den SplitTypeParameterwert auf. Line SageMaker verwendet die gesamte Eingabedatei in einer einzigen Anforderung, wenn:

• SplitTypeist auf gesetztNone.

• Eine Eingabedatei kann nicht in Mini-Batches aufgeteilt werden.

. Beachten Sie, dass Batch Transform keine Eingaben im CSV -Format unterstützt, die eingebettete Zeilenumbruchzeichen enthalten. Sie können die Größe der Mini-Batches mithilfe der Parameter BatchStrategy und MaxPayloadInMB steuern. MaxPayloadInMB darf nicht größer als 100 MB sein. Wenn Sie den optionalen MaxConcurrentTransforms Parameter angeben, darf der Wert von (MaxConcurrentTransforms * MaxPayloadInMB) ebenfalls 100 MB nicht überschreiten.

Wenn der Batch-Transformationsauftrag erfolgreich alle Datensätze in einer Eingabedatei verarbeitet, wird eine Ausgabedatei erstellt. Die Ausgabedatei hat denselben Namen und dieselbe .out Dateierweiterung. Bei mehreren Eingabedateien, wie z. B. input1.csv und input2.csv, erhalten die Ausgabedateien die Namen input1.csv.out und input2.csv.out. Der Stapeltransformationsauftrag speichert die Ausgabedateien am angegebenen Speicherort in Amazon S3, z. B. unter s3://amzn-s3-demo-bucket/output/.

Die Prognosen in einer Ausgabedatei werden in der gleichen Reihenfolge aufgelistet wie die entsprechenden Datensätze in der Eingabedatei. Die Ausgabedatei input1.csv.out würde basierend auf der zuvor gezeigten Eingabedatei wie folgt aussehen.

Inference1-Attribute1, Inference1-Attribute2, Inference1-Attribute3, ..., Inference1-AttributeM
Inference2-Attribute1, Inference2-Attribute2, Inference2-Attribute3, ..., Inference2-AttributeM
Inference3-Attribute1, Inference3-Attribute2, Inference3-Attribute3, ..., Inference3-AttributeM
...
InferenceN-Attribute1, InferenceN-Attribute2, InferenceN-Attribute3, ..., InferenceN-AttributeM            

Wenn Sie SplitType auf Line festlegen, können Sie den Parameter AssembleWith auf Line setzen, um die Ausgabedatensätze mit einem Zeilentrennzeichen zu verketten. Dies ändert nichts an der Anzahl der Ausgabedateien. Die Anzahl der Ausgabedateien entspricht der Anzahl der Eingabedateien, und bei der Verwendung von AssembleWith werden keine Dateien zusammengeführt. Wenn Sie den AssembleWith Parameter nicht angeben, werden die Ausgabedatensätze standardmäßig in einem Binärformat verkettet.

Wenn die Eingabedaten sehr umfangreich sind und mit HTTP Chunked-Codierung übertragen werden, können Sie die Daten an den Algorithmus streamen, der auf gesetzt ist. MaxPayloadInMB0 Die SageMaker integrierten Algorithmen von Amazon unterstützen diese Funktion nicht.

Informationen zur Verwendung von API zum Erstellen eines Batch-Transformationsauftrags finden Sie unter CreateTransformJobAPI. Weitere Informationen zur Beziehung zwischen Eingabe- und Ausgabeobjekten für die Batch-Transformation finden Sie unter OutputDataConfig. Ein Beispiel zur Verwendung der Stapeltransformation finden Sie unter (Optional) Vorhersagen mit Batch-Transformation treffen.

Beschleunigen Sie einen Batch-Transformationsauftrag

Wenn Sie den verwenden, können Sie die Zeit reduzieren CreateTransformJobAPI, die zum Abschließen von Batch-Transformationsaufträgen benötigt wird, indem Sie optimale Werte für Parameter verwenden. Dazu gehören Parameter wie MaxPayloadInMBMaxConcurrentTransforms, oder BatchStrategy. Der ideale Wert für MaxConcurrentTransforms entspricht der Anzahl der Compute Worker im Stapeltransformationsauftrag.

Wenn Sie die SageMaker Konsole verwenden, geben Sie diese optimalen Parameterwerte im Abschnitt Zusätzliche Konfiguration der Konfigurationsseite für Batch-Transformationsaufträge an. SageMaker findet automatisch die optimalen Parametereinstellungen für integrierte Algorithmen. Für benutzerdefinierte Algorithmen müssen Sie diese Werte über einen execution-parameters-Endpunkt angeben.

Verwenden Sie die Batch-Transformation, um Produktionsvarianten zu testen

Um verschiedene Modelle oder Hyperparametereinstellungen zu testen, erstellen Sie für jede neue Modellvariante einen separaten Transformationsjob und verwenden Sie einen Validierungsdatensatz. Geben Sie für jeden Transformationsauftrag einen eindeutigen Namen und einen Speicherort in Amazon S3 für die Ausgabedatei an. Beachten Sie bei der Analyse der Ergebnisse das Thema Protokolle und Metriken der Inferenz-Pipeline.

Musternotizbücher für Batch-Transformation

Ein Beispielnotizbuch, das die Batch-Transformation verwendet, finden Sie unter Batch-Transformation mit PCA und DBSCAN Movie Clusters. In diesem Notizbuch wird eine Batch-Transformation mit einem Modell der Hauptkomponentenanalyse (PCA) verwendet, um die Daten in einer Bewertungsmatrix für Benutzereinträge zu reduzieren. Anschließend wird die Anwendung eines dichtebasierten räumlichen Clusters von Anwendungen mit dem Noise (DBSCAN) -Algorithmus zur Clusterung von Filmen gezeigt.

Anweisungen zum Erstellen und Zugreifen auf Jupyter-Notebook-Instanzen, in denen Sie das Beispiel ausführen können, finden Sie unter. SageMaker Amazon SageMaker Notebook-Instances Nachdem Sie eine Notebook-Instanz erstellt und geöffnet haben, wählen Sie den Tab SageMakerBeispiele, um eine Liste aller Beispiele zu sehen. SageMaker Das Thema Beispiel-Notebooks zur Modellierung, die die NTM Algorithmen verwenden, finden Sie im Abschnitt Erweiterte Funktionen. Zum Öffnen eines Notebooks wählen Sie die Registerkarte Use (Verwenden) und dann Create copy (Kopie erstellen).