Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Feinabstimmung der Domainanpassung
Die Feinabstimmung der Domainanpassung ermöglicht es Ihnen, vortrainierte Grundlagenmodelle zu nutzen und sie mithilfe begrenzter domainspezifischer Daten an bestimmte Aufgaben anzupassen. Wenn Prompt-Engineering nicht zu einer ausreichenden Anpassung führen, können Sie die Feinabstimmung der Domainanpassung verwenden, damit Ihr Modell mit domainspezifischer Sprache wie Branchenjargon, Fachbegriffen oder anderen Fachdaten arbeiten kann. Durch diesen Feinabstimmungsprozess werden die Gewichtungen des Modells geändert.
Die Feinabstimmung der Domainanpassung ist für die folgenden Grundlagenmodelle verfügbar:
Anmerkung
Einige JumpStart Basismodelle, wie Llama 2 7B, erfordern die Annahme einer Endbenutzer-Lizenzvereinbarung, bevor die Feinabstimmung vorgenommen und Inferenzen durchgeführt werden können. Weitere Informationen finden Sie unter Endbenutzer-Lizenzvereinbarungen.
-
Bloom 3B
-
Blüte 7B1
-
BloomZ 3B FP16
-
BloomZ 7B1 FP16
-
GPT-2 XL
-
GPT-J 6B
-
GPT-Neo 1,3 B
-
GPT-Neo 125 M
-
GPT-NEO 2,7 B
-
Lama 2 13B
-
Lama 2 13B Chat
-
Lama 2 13B Neuron
-
Lama 2 70B
-
Lama 2 70B Chat
-
Lama 2 7B
-
Lama 2 7B Chat
-
Lama 2 7B Neuron
Bereiten Sie Trainingsdaten für die Feinabstimmung der Domänenanpassung vor und laden Sie sie hoch
Trainingsdaten für die Feinabstimmung der Domänenanpassung können im CSV-, JSON- oder TXT-Dateiformat bereitgestellt werden. Alle Trainingsdaten müssen sich in einer einzigen Datei in einem einzigen Ordner befinden.
Die Trainingsdaten stammen aus der Textspalte für CSV- oder JSON-Trainingsdatendateien. Wenn keine Spalte mit Text beschriftet ist, werden die Trainingsdaten aus der ersten Spalte für CSV- oder JSON-Trainingsdatendateien übernommen.
Im Folgenden finden Sie ein Beispiel für den Hauptteil einer TXT-Datei, die zur Feinabstimmung verwendet werden soll:
This report includes estimates, projections, statements relating to our business plans, objectives, and expected operating results that are “forward- looking statements” within the meaning of the Private Securities Litigation Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E of ....
Daten für Training und Test aufteilen
Sie können optional einen weiteren Ordner mit Validierungsdaten bereitstellen. Dieser Ordner sollte auch eine CSV-, JSON- oder TXT-Datei enthalten. Wenn kein Validierungsdatensatz bereitgestellt wird, wird eine festgelegte Menge der Trainingsdaten für Validierungszwecke reserviert. Sie können den Prozentsatz der für die Validierung verwendeten Trainingsdaten anpassen, wenn Sie die Hyperparameter für die Feinabstimmung Ihres Modells auswählen.
Laden Sie Feinabstimmungsdaten auf Amazon S3 hoch
Laden Sie Ihre vorbereiteten Daten in Amazon Simple Storage Service (Amazon S3) hoch, um sie bei der Feinabstimmung eines JumpStart Basismodells zu verwenden. Sie können die folgenden Befehle verwenden, um Ihre Daten hochzuladen:
from sagemaker.s3 import S3Uploader import sagemaker import random output_bucket = sagemaker.Session().default_bucket() local_data_file =
"train.txt"
train_data_location = f"s3://{output_bucket}/training_folder"
S3Uploader.upload(local_data_file, train_data_location) S3Uploader.upload("template.json", train_data_location) print(f"Training data: {train_data_location}")
Erstellen Sie einen Schulungsjob für die anweisungsbasierte Feinabstimmung
Nachdem Ihre Daten auf Amazon S3 hochgeladen wurden, können Sie Ihr JumpStart Basismodell optimieren und bereitstellen. Informationen zur Feinabstimmung Ihres Modells in Studio finden Sie unter. Optimieren Sie die Fundamentmodelle in Studio Informationen zur Feinabstimmung Ihres Modells mithilfe des SageMaker Python SDK finden Sie unter. Passen Sie öffentlich verfügbare Foundation-Modelle anhand der Klasse an JumpStartEstimator
Beispiel-Notebooks
Weitere Informationen zur Feinabstimmung der Domänenanpassung finden Sie in den folgenden Beispielnotizbüchern: