Come accedere alla personalizzazione del modello

Amazon SageMaker AI fornisce più interfacce per la personalizzazione dei modelli. La tabella seguente riassume le tue opzioni: scegli l'interfaccia che meglio si adatta al tuo flusso di lavoro e al tuo livello di controllo.

Interfaccia	Infrastruttura	Ideale per	Livello di controllo
Interfaccia utente di Studio	Serverless	Sperimentazione rapida, utenti senza codice	Guidato: selezione del modello, della tecnica, caricamento dei dati
PythonSDK (SFTTrainer, ecc.)	Serverless	Pipeline riproducibili, automazione	Programmatico: specifica tutti i parametri nel codice
PythonSDK () ModelTrainer	SageMaker Lavori di formazione sull'IA	Istanze personalizzate, configurazioni avanzate	Completo: scegli il tipo di istanza, il numero e l'immagine
Ricette	Lavori di formazione + HyperPod	Pre-configured migliori pratiche	Recipe-driven — modificare la configurazione YAML
HP-CLI	HyperPod(EKS)	Kubernetes-squadre native	Completo: invio del Kubernetes lavoro
Agente (competenze di personalizzazione del modello)	Serverless	Flusso di lavoro in linguaggio naturale, esperienza guidata	Conversazionale: descrivi ciò di cui hai bisogno

Interfaccia utente di Studio

La console SageMaker AI Studio fornisce flussi di lavoro visivi per la personalizzazione del modello senza scrivere codice.

Personalizza con l'interfaccia utente

Il punto di ingresso principale per la personalizzazione dei modelli serverless. Segui un flusso di lavoro guidato:

1. Seleziona un modello di base dal catalogo

2. Scegli una tecnica di personalizzazione (SFT, DPO, RLVR, RLAIF)

3. Seleziona un tipo di allenamento (o FFT) LoRA

4. Carica o specifica il tuo set di dati di allenamento (percorso S3)

5. Configura gli iperparametri

6. Avvio del job di addestramento

Monitora i progressi in tempo reale con metriche e registri in tempo reale.

JumpStart hub del modello

Sfoglia e scopri i modelli di base disponibili per la personalizzazione. Filtra per fornitore, attività o dimensione del modello. Da una scheda con i dettagli del modello, puoi avviare direttamente la personalizzazione.

Agent-Guided esperienza

Usa Amazon SageMaker AI Skills per un approccio conversazionale alla personalizzazione dei modelli. Descrivi cosa vuoi ottenere in linguaggio naturale e l'agente ti guiderà nella selezione del modello, nella preparazione del set di dati e nella configurazione del lavoro. Per ulteriori informazioni, consulta le competenze degli agenti di personalizzazione dei modelli.

Python SDK V3

Accesso programmatico per flussi di lavoro serverless e SageMaker AI Training Jobs utilizzando AI Python SDK. SageMaker

Formatori serverless

Utilizza corsi di formazione specifici per la tecnica per una personalizzazione completamente gestita:

from sagemaker.modules.train import SFTTrainer, DPOTrainer, RLVRTrainer, RLAIFTrainer

# Example: Serverless SFT
trainer = SFTTrainer(
    model_id="meta-textgeneration-llama-3-1-8b-instruct",
    train_data="s3://my-bucket/train.jsonl",
    hyperparameters={
        "max_epochs": 3,
        "learning_rate": 5e-5,
        "lora_rank": 16,
    }
)
trainer.train()

SageMaker Lavori di formazione sull'IA

Usalo ModelTrainer per il pieno controllo sulla selezione delle istanze:

from sagemaker.modules.train import ModelTrainer
from sagemaker.modules.configs import Compute, InputData

trainer = ModelTrainer(
    training_image="my-training-image",
    role="arn:aws:iam::123456789012:role/SageMakerRole",
    compute=Compute(instance_type="ml.p4d.24xlarge", instance_count=2)
)
trainer.train(input_data_config=[
    InputData(channel_name="training", data_source="s3://my-bucket/train")
])

Ricette (Training Jobs + HyperPod)

Esegui ricette di formazione preconfigurate su job o HyperPod cluster di SageMaker AI Training. Le ricette gestiscono automaticamente la configurazione della formazione distribuita, il caricamento dei set di dati e la gestione dei checkpoint.

Le ricette sono disponibili per tutti i modelli e le tecniche supportati. Consulta HyperPod le ricette SageMaker AI per il catalogo completo.

git clone --recursive https://github.com/aws/sagemaker-hyperpod-recipes.git
cd sagemaker-hyperpod-recipes
pip3 install -r requirements.txt

# Launch a fine-tuning recipe
python3 launcher/launch.py --recipe recipes_collection/recipes/fine-tuning/llama/sft_lora.yaml

HP-CLI

Command-line interfaccia per l'invio di lavori di formazione ai cluster HyperPod EKS. HP-CLI si integra con l'orchestrazione Kubernetes basata sui carichi di lavoro per la formazione containerizzata su cluster persistenti.

Per la configurazione e l'utilizzo, consulta Amazon EKS. HyperPod