View a markdown version of this page

So greifen Sie auf die Modellanpassung zu - Amazon SageMaker KI

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

So greifen Sie auf die Modellanpassung zu

Amazon SageMaker AI bietet mehrere Schnittstellen für die Modellanpassung. In der folgenden Tabelle sind Ihre Optionen zusammengefasst. Wählen Sie die Schnittstelle, die am besten zu Ihrem Arbeitsablauf und Ihrer Kontrollebene passt.

Schnittstelle Infrastruktur Am besten geeignet für Ebene der Steuerung
Studio-Benutzeroberfläche Serverless Schnelles Experimentieren, Benutzer ohne Code Geführt — Modell und Technik auswählen, Daten hochladen
PythonSDK (SFTTrainerusw.) Serverless Reproduzierbare Rohrleitungen, Automatisierung Programmatisch — geben Sie alle Parameter im Code an
PythonSDK () ModelTrainer SageMaker Jobs im Bereich KI-Ausbildung Benutzerdefinierte Instanzen, erweiterte Konfigurationen Vollständig — wählen Sie den Instanztyp, die Anzahl und das Image
Rezepte Ausbildung & Jobs + HyperPod Pre-configured bewährte Verfahren Recipe-driven — YAML-Konfiguration ändern
HP-CLI HyperPod(EKS) Kubernetes-einheimische Teams Vollständig — Einreichung der Kubernetes Stellenausschreibung
Agent (Fähigkeiten zur Anpassung von Modellen) Serverless Arbeitsablauf in natürlicher Sprache, geführte Erfahrung Konversativ — beschreiben Sie, was Sie benötigen

Studio-Benutzeroberfläche

Die SageMaker AI Studio-Konsole bietet visuelle Workflows für die Modellanpassung, ohne Code schreiben zu müssen.

Passen Sie es mit der Benutzeroberfläche an

Der primäre Einstiegspunkt für die serverlose Modellanpassung. Gehen Sie einen geführten Arbeitsablauf durch:

  1. Wählen Sie ein Fundamentmodell aus dem Katalog aus

  2. Wählen Sie eine Anpassungstechnik (SFT, DPO, RLVR, RLAIF)

  3. Wählen Sie einen Trainingstyp (oder FFT) LoRA

  4. Laden Sie Ihren Trainingsdatensatz hoch oder spezifizieren Sie ihn (S3-Pfad)

  5. Konfigurieren Sie Hyperparameter

  6. Starten eines Trainingsjobs

Überwachen Sie den Fortschritt in Echtzeit mit Live-Metriken und Protokollen.

JumpStart Modell-Hub

Stöbern und entdecken Sie die Foundation-Modelle, die zur Anpassung verfügbar sind. Filtern Sie nach Anbieter, Aufgabe oder Modellgröße. Von einer Modelldetailkarte aus können Sie die Anpassung direkt starten.

Agent-Guided Erfahrung

Verwenden Sie Amazon SageMaker AI Skills für einen dialogorientierten Ansatz zur Modellanpassung. Beschreiben Sie in natürlicher Sprache, was Sie erreichen möchten, und der Agent führt Sie durch die Modellauswahl, die Vorbereitung des Datensatzes und die Auftragskonfiguration. Weitere Informationen finden Sie unter Fähigkeiten von Agenten zur Modellanpassung.

Python SDK V3

Programmatischer Zugriff auf Workflows für serverlose und SageMaker KI-Trainingsjobs mithilfe des SageMaker AI Python SDK.

Serverlose Trainer

Verwenden Sie technikspezifische Trainerkurse für eine vollständig verwaltete Anpassung:

from sagemaker.modules.train import SFTTrainer, DPOTrainer, RLVRTrainer, RLAIFTrainer # Example: Serverless SFT trainer = SFTTrainer( model_id="meta-textgeneration-llama-3-1-8b-instruct", train_data="s3://my-bucket/train.jsonl", hyperparameters={ "max_epochs": 3, "learning_rate": 5e-5, "lora_rank": 16, } ) trainer.train()

SageMaker Jobs im Bereich KI-Ausbildung

Verwenden Sie diese ModelTrainer Option, um die Instanzauswahl vollständig zu steuern:

from sagemaker.modules.train import ModelTrainer from sagemaker.modules.configs import Compute, InputData trainer = ModelTrainer( training_image="my-training-image", role="arn:aws:iam::123456789012:role/SageMakerRole", compute=Compute(instance_type="ml.p4d.24xlarge", instance_count=2) ) trainer.train(input_data_config=[ InputData(channel_name="training", data_source="s3://my-bucket/train") ])

Rezepte (Ausbildungsberufe + HyperPod)

Führen Sie vorkonfigurierte Trainingsrezepte auf SageMaker AI-Trainingsjobs oder HyperPod -Clustern aus. Rezepte übernehmen automatisch die Konfiguration verteilter Schulungen, das Laden von Datensätzen und die Verwaltung von Checkpoints.

Rezepte sind für alle unterstützten Modelle und Techniken verfügbar. Den vollständigen Katalog finden Sie unter SageMaker HyperPod KI-Rezepte.

git clone --recursive https://github.com/aws/sagemaker-hyperpod-recipes.git cd sagemaker-hyperpod-recipes pip3 install -r requirements.txt # Launch a fine-tuning recipe python3 launcher/launch.py --recipe recipes_collection/recipes/fine-tuning/llama/sft_lora.yaml

HP-CLI

Command-line Schnittstelle für die Einreichung von Trainingsjobs an HyperPod EKS-Cluster. HP-CLI lässt sich in die Kubernetes basierte Workload-Orchestrierung für containerisiertes Training auf persistenten Clustern integrieren.

Informationen zur Einrichtung und Verwendung finden Sie unter HyperPod Mit Amazon EKS.