Feinabstimmung der Domainanpassung

Die Feinabstimmung der Domainanpassung ermöglicht es Ihnen, vortrainierte Grundlagenmodelle zu nutzen und sie mithilfe begrenzter domainspezifischer Daten an bestimmte Aufgaben anzupassen. Wenn Prompt-Engineering nicht zu einer ausreichenden Anpassung führen, können Sie die Feinabstimmung der Domainanpassung verwenden, damit Ihr Modell mit domainspezifischer Sprache wie Branchenjargon, Fachbegriffen oder anderen Fachdaten arbeiten kann. Durch diesen Feinabstimmungsprozess werden die Gewichtungen des Modells geändert.

Die Feinabstimmung der Domainanpassung ist für die folgenden Grundlagenmodelle verfügbar:

Anmerkung

Einige JumpStart Basismodelle, wie Llama 2 7B, erfordern die Annahme einer Endbenutzer-Lizenzvereinbarung, bevor die Feinabstimmung vorgenommen und Inferenzen durchgeführt werden können. Weitere Informationen finden Sie unter Endbenutzer-Lizenzvereinbarungen.

• Bloom 3B

• Blüte 7B1

• BloomZ 3B FP16

• BloomZ 7B1 FP16

• GPT-2 XL

• GPT-J 6B

• GPT-Neo 1,3 B

• GPT-Neo 125 M

• GPT-NEO 2,7 B

• Lama 2 13B

• Lama 2 13B Chat

• Lama 2 13B Neuron

• Lama 2 70B

• Lama 2 70B Chat

• Lama 2 7B

• Lama 2 7B Chat

• Lama 2 7B Neuron

Bereiten Sie Trainingsdaten für die Feinabstimmung der Domänenanpassung vor und laden Sie sie hoch

Trainingsdaten für die Feinabstimmung der Domänenanpassung können im CSV-, JSON- oder TXT-Dateiformat bereitgestellt werden. Alle Trainingsdaten müssen sich in einer einzigen Datei in einem einzigen Ordner befinden.

Die Trainingsdaten stammen aus der Textspalte für CSV- oder JSON-Trainingsdatendateien. Wenn keine Spalte mit Text beschriftet ist, werden die Trainingsdaten aus der ersten Spalte für CSV- oder JSON-Trainingsdatendateien übernommen.

Im Folgenden finden Sie ein Beispiel für den Hauptteil einer TXT-Datei, die zur Feinabstimmung verwendet werden soll:

This report includes estimates, projections, statements relating to our
business plans, objectives, and expected operating results that are “forward-
looking statements” within the meaning of the Private Securities Litigation
Reform Act of 1995, Section 27A of the Securities Act of 1933, and Section 21E
of ....

Daten für Training und Test aufteilen

Sie können optional einen weiteren Ordner mit Validierungsdaten bereitstellen. Dieser Ordner sollte auch eine CSV-, JSON- oder TXT-Datei enthalten. Wenn kein Validierungsdatensatz bereitgestellt wird, wird eine festgelegte Menge der Trainingsdaten für Validierungszwecke reserviert. Sie können den Prozentsatz der für die Validierung verwendeten Trainingsdaten anpassen, wenn Sie die Hyperparameter für die Feinabstimmung Ihres Modells auswählen.

Laden Sie Feinabstimmungsdaten auf Amazon S3 hoch

Laden Sie Ihre vorbereiteten Daten in Amazon Simple Storage Service (Amazon S3) hoch, um sie bei der Feinabstimmung eines JumpStart Basismodells zu verwenden. Sie können die folgenden Befehle verwenden, um Ihre Daten hochzuladen:

from sagemaker.s3 import S3Uploader
import sagemaker
import random

output_bucket = sagemaker.Session().default_bucket()
local_data_file = "train.txt"
train_data_location = f"s3://{output_bucket}/training_folder"
S3Uploader.upload(local_data_file, train_data_location)
S3Uploader.upload("template.json", train_data_location)
print(f"Training data: {train_data_location}")

Erstellen Sie einen Schulungsjob für die anweisungsbasierte Feinabstimmung

Nachdem Ihre Daten auf Amazon S3 hochgeladen wurden, können Sie Ihr JumpStart Basismodell optimieren und bereitstellen. Informationen zur Feinabstimmung Ihres Modells in Studio finden Sie unter. Optimieren Sie die Fundamentmodelle in Studio Informationen zur Feinabstimmung Ihres Modells mithilfe des SageMaker Python SDK finden Sie unter. Passen Sie öffentlich verfügbare Foundation-Modelle anhand der Klasse an JumpStartEstimator

Beispiel-Notebooks

Weitere Informationen zur Feinabstimmung der Domänenanpassung finden Sie in den folgenden Beispielnotizbüchern:

• SageMaker JumpStart Foundation Models — Feinabstimmung des GPT-J 6B-Modells zur Textgenerierung anhand eines domänenspezifischen Datensatzes

• Feinabstimmung von Lama 2-Modellen auf JumpStart