Como acessar a personalização do modelo

O Amazon SageMaker AI fornece várias interfaces para personalização de modelos. A tabela a seguir resume suas opções — escolha a interface que melhor se adapta ao seu fluxo de trabalho e nível de controle.

Interface	Infraestrutura	Melhor para	Nível de controle
UI do Studio	Sem servidor	Experimentação rápida, usuários sem código	Guiado — selecione o modelo, a técnica, faça o upload de dados
PythonSDK (SFTTraineretc.)	Sem servidor	Tubulações reproduzíveis, automação	Programático — especifique todos os parâmetros no código
PythonSDK () ModelTrainer	SageMaker Empregos de treinamento em IA	Instâncias personalizadas, configurações avançadas	Completo — escolha o tipo de instância, contagem, imagem
Fórmulas	Empregos de treinamento + HyperPod	Pre-configured melhores práticas	Recipe-driven — modificar a configuração YAML
HP-CLI	HyperPod(EX)	Kubernetes-equipes nativas	Completo — submissão Kubernetes de trabalho
Agente (habilidades de personalização de modelos)	Sem servidor	Fluxo de trabalho em linguagem natural, experiência guiada	Conversacional — descreva o que você precisa

UI do Studio

O console do SageMaker AI Studio fornece fluxos de trabalho visuais para personalização de modelos sem escrever código.

Personalize com UI

O principal ponto de entrada para personalização de modelos sem servidor. Percorra um fluxo de trabalho guiado:

1. Selecione um modelo de base no catálogo

2. Escolha uma técnica de personalização (SFT, DPO, RLVR, RLAIF)

3. Selecione um tipo de treinamento (LoRAou FFT)

4. Carregue ou especifique seu conjunto de dados de treinamento (caminho S3)

5. Configurar hiperparâmetros

6. Iniciar a tarefa de treinamento

Monitore o progresso em tempo real com métricas e registros ao vivo.

JumpStart hub de modelos

Navegue e descubra os modelos de base disponíveis para personalização. Filtre por provedor, tarefa ou tamanho do modelo. A partir de um cartão de detalhes do modelo, você pode iniciar a personalização diretamente.

Agent-Guided experiência

Use o Amazon SageMaker AI Skills para uma abordagem conversacional para personalização de modelos. Descreva o que você deseja alcançar em linguagem natural e o agente o orientará na seleção do modelo, na preparação do conjunto de dados e na configuração do trabalho. Para obter mais informações, consulte Habilidades do agente de personalização de modelos.

Python SDK V3

Acesso programático para fluxos de trabalho sem servidor e de empregos de treinamento em SageMaker IA usando o SDK do SageMaker AI Python.

Treinadores sem servidor

Use aulas de treinamento de técnicas específicas para uma personalização totalmente gerenciada:

from sagemaker.modules.train import SFTTrainer, DPOTrainer, RLVRTrainer, RLAIFTrainer

# Example: Serverless SFT
trainer = SFTTrainer(
    model_id="meta-textgeneration-llama-3-1-8b-instruct",
    train_data="s3://my-bucket/train.jsonl",
    hyperparameters={
        "max_epochs": 3,
        "learning_rate": 5e-5,
        "lora_rank": 16,
    }
)
trainer.train()

SageMaker Empregos de treinamento em IA

Use ModelTrainer para ter controle total sobre a seleção de instâncias:

from sagemaker.modules.train import ModelTrainer
from sagemaker.modules.configs import Compute, InputData

trainer = ModelTrainer(
    training_image="my-training-image",
    role="arn:aws:iam::123456789012:role/SageMakerRole",
    compute=Compute(instance_type="ml.p4d.24xlarge", instance_count=2)
)
trainer.train(input_data_config=[
    InputData(channel_name="training", data_source="s3://my-bucket/train")
])

Receitas (trabalhos de treinamento + HyperPod)

Execute receitas de treinamento pré-configuradas em trabalhos ou HyperPod clusters de treinamento de SageMaker IA. As receitas lidam automaticamente com a configuração de treinamento distribuído, o carregamento de conjuntos de dados e o gerenciamento de pontos de verificação.

As receitas estão disponíveis para todos os modelos e técnicas compatíveis. Veja as HyperPod receitas de SageMaker IA para ver o catálogo completo.

git clone --recursive https://github.com/aws/sagemaker-hyperpod-recipes.git
cd sagemaker-hyperpod-recipes
pip3 install -r requirements.txt

# Launch a fine-tuning recipe
python3 launcher/launch.py --recipe recipes_collection/recipes/fine-tuning/llama/sft_lora.yaml

HP-CLI

Command-line interface para enviar trabalhos de treinamento para clusters HyperPod EKS. HP-CLI integra-se à orquestração de carga de trabalho Kubernetes baseada para treinamento em contêineres em clusters persistentes.

Para configuração e uso, consulte HyperPod com o Amazon EKS.