Fórmulas do Amazon Nova - Amazon Nova
Obter fórmulas básicasObtenção de fórmulas do ForgeModelos e algoritmos disponíveisAmazon Nova LiteAmazon Nova MicroAmazon Nova Pro

Fórmulas do Amazon Nova

Você pode obter uma fórmula do Amazon Nova no repositório de fórmulas. Uma fórmula do Amazon Nova é um arquivo de configuração YAML que fornece ao SageMaker detalhes sobre como executar a tarefa de personalização de modelos. Ela fornece o nome do modelo de base, define os hiperparâmetros de treinamento, configura as definições de otimização e inclui todas as opções adicionais necessárias para ajustar ou treinar o modelo com sucesso.

Você também pode acessar as fórmulas do Amazon Nova por meio do Amazon SageMaker Studio, navegando até o hub de modelos, selecionando AWS e explorando os modelos do Amazon Nova para encontrar suas fórmulas correspondentes. O Amazon SageMaker Studio e o Amazon SageMaker Unified Studio fornecem exemplos de caderno para cada fórmula, que incluem todas as etapas necessárias para modificar as fórmulas e executar tarefas de personalização usando tarefas de treinamento do SageMaker ou ambientes do SageMaker HyperPod.

Para acessar as páginas de fórmulas do Amazon SageMaker Studio, o perfil de execução deve ter as permissões a seguir.

JSON
{
    "Version":"2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "s3:GetObject"
            ],
            "Resource": [
                "arn:aws:s3:::*model-customization-recipes*"
            ]
        }
    ]
}

Para executar os cadernos de exemplo nas tarefas de treinamento do SageMaker e no SageMaker HyperPod, use uma das seguintes versões de imagem de distribuição do SageMaker: 2.7.1+, 2.8.0+, 3.2.1+ e 3.3.0+. Isso se aplica ao Amazon SageMaker Studio e ao Amazon SageMaker Unified Studio.

Obter fórmulas do Amazon Nova

Para obter uma fórmula básica do Amazon Nova, clone o repositório de fórmulas executando o comando a seguir.

git clone https://github.com/aws/sagemaker-hyperpod-recipes.git

As fórmulas básicas estão disponíveis em recipes_collection/recipes/.

cd recipes_collection/recipes/

As fórmulas de personalização do Amazon Nova estão nas pastas a seguir.

Tipo de fórmula Pasta
SFT (de classificação completa e PEFT), PPO, DPO (de classificação completa e PEFT) fine-tuning/nova
Avaliação evaluation/nova
CPT training/nova

Obtenção de fórmulas do Amazon Nova Forge

Para acessar fórmulas especializadas do Amazon Nova Forge para tarefas, configure seu acesso ao Amazon Nova Forge e, em seguida, assista a este workshop para configurar a versão do Forge da CLI. Para tarefas de treinamento do SageMaker, o Console da AWS e o SDK de personalização do Nova acessarão automaticamente as fórmulas do Forge.

Modelos e algoritmos disponíveis

A tabela a seguir resume a disponibilidade de personalização de modelos do Amazon Nova e de algoritmos compatíveis usando o SageMaker.

Nome do modelo

ID do modelo

Ajustar

Observações

Amazon Nova Lite 2.0

amazon.nova-2-lite-v1:0:256k

Sim

  • SFT: aceita texto e/ou imagem ou texto e/ou vídeo como entrada e produz texto como saída. Uma única tarefa não pode combinar texto, imagem e vídeo na mesma execução.

  • DPO: aceita texto e imagem como entrada e produz texto como saída.

  • RFT: aceita texto e imagem como entrada para conversas de turno único e gera texto como saída. Recursos aprimorados de otimização de recompensas.

Amazon Nova Lite

A tabela abaixo lista informações detalhadas das fórmulas de referência do Amazon Nova Lite.

Modelo Categoria/subcategoria Técnica Nome da fórmula URI da imagem (tarefas de treinamento) URI da imagem (SageMaker HyperPod) Instância de computação
Nova Lite Treinamento/ajuste fino Ajuste fino supervisionado (LoRA)

nova_lite_1_0_g5_g6_12x_gpu_lora_sft.yaml

nova_lite_1_0_g5_g6_48x_gpu_lora_sft.yaml

nova_lite_1_0_p5_p4d_gpu_lora_sft.yaml

 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest

ml.p5.48xlarge, ml.p5en.48xlarge,

ml.g5.12xlarge, ml.g6.12xlarge,

ml.g5.48xlarge, ml.g6.48xlarge
Nova Lite Treinamento/ajuste fino Ajuste fino supervisionado (completo) nova_lite_1_0_p5_p4d_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Lite Treinamento/ajuste fino Otimização direta de preferências (completa) nova_lite_1_0_p5_p4d_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Lite Treinamento/ajuste fino Otimização direta de preferências (LoRa)

nova_lite_1_0_p5_p4d_gpu_lora_dpo.yaml

nova_lite_1_0_g5_g6_48x_gpu_lora_dpo.yaml

 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest

ml.p5.48xlarge, ml.p5en.48xlarge,

ml.g5.48xlarge, ml.g6.48xlarge
Nova Lite Treinamento/aprendizado por reforço Ajuste fino por reforço (RFT) nova_lite_1_0_p5_gpu_ppo.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Lite Treinamento/pré-treinamento contínuo Pré-treinamento contínuo (modelo de base) nova_lite_gpu_p5x16_pretrain.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Lite Avaliação/Avaliar Referências de texto padrão nova_lite_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Avaliação/Avaliar Avaliação de conjuntos de dados personalizados nova_lite_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Avaliação/Avaliar Referências multimodais nova_lite_p5_48_general_multi_modal_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Avaliação/Avaliar LLM como avaliador nova_lite_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge

Amazon Nova Micro

A tabela abaixo lista informações detalhadas das fórmulas de referência do Amazon Nova Micro.

Modelo Categoria/subcategoria Técnica Nome da fórmula URI da imagem (tarefas de treinamento) URI da imagem (SageMaker HyperPod) Instância de computação
Nova Micro Treinamento/ajuste fino Ajuste fino supervisionado (LoRA)

nova_micro_1_0_p5_p4d_gpu_lora_sft.yaml

nova_micro_1_0_g5_g6_12x_gpu_lora_sft.yaml

nova_micro_1_0_g5_g6_48x_gpu_lora_sft.yaml

 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest

ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge,

ml.g5.12xlarge, ml.g6.12xlarge,

ml.g5.48xlarge, ml.g6.48xlarge
Nova Micro Treinamento/ajuste fino Ajuste fino supervisionado (completo)

nova_micro_1_0_p5_p4d_gpu_sft.yaml

nova_micro_1_0_g5_g6_48x_gpu_sft.yaml

 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest

ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge,

ml.g5.48xlarge, ml.g6.48xlarge
Nova Micro Treinamento/ajuste fino Otimização direta de preferências (LoRa)

nova_micro_1_0_g5_g6_12x_gpu_lora_dpo.yaml

nova_micro_1_0_g5_g6_48x_gpu_lora_dpo.yaml

nova_micro_1_0_p5_p4d_gpu_lora_dpo.yaml

 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest

ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge,

ml.g5.12xlarge, ml.g6.12xlarge,

ml.g5.48xlarge, ml.g6.48xlarge
Nova Micro Treinamento/ajuste fino Otimização direta de preferências (completa) nova_micro_1_0_p5_p4d_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge
Nova Micro Treinamento/aprendizado por reforço Ajuste fino por reforço (RFT) nova_micro_1_0_p5_gpu_ppo.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Micro Treinamento/pré-treinamento contínuo Pré-treinamento contínuo (modelo de base) nova_micro_gpu_p5x8_pretrain.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Micro Avaliação/Avaliar Referências gerais de texto nova_micro_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro Avaliação/Avaliar Referência de traga seu próprio conjunto de dados (gen_qa) nova_micro_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro Avaliação/Avaliar LLM como avaliador nova_micro_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge

Amazon Nova Pro

A tabela abaixo lista informações detalhadas das fórmulas de referência do Amazon Nova Pro.

Modelo Categoria/subcategoria Técnica Nome da fórmula URI da imagem (tarefas de treinamento) URI da imagem (SageMaker HyperPod) Instância de computação
Nova Pro Treinamento/ajuste fino Ajuste fino supervisionado (LoRA) nova_pro_1_0_p5_p4d_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge
Nova Pro Treinamento/ajuste fino Ajuste fino supervisionado (completo) nova_pro_1_0_p5_p4d_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Pro Treinamento/ajuste fino Otimização direta de preferências (completa) nova_pro_1_0_p5_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Pro Treinamento/ajuste fino Otimização direta de preferências (LoRa) nova_pro_1_0_p5_p4d_gpu_lora_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge
Nova Pro Treinamento/aprendizado por reforço Ajuste fino por reforço (RFT) nova_pro_1_0_p5_gpu_ppo.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Pro Treinamento/pré-treinamento contínuo Pré-treinamento contínuo (modelo de base) nova_pro_gpu_p5x24_pretrain.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Pro Treinamento/aumento de dados Destilação de modelos para pós-treinamento nova_pro_r5_cpu_distill.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-distillation-repo:SM-TJ-DISTILL-LATEST ml.r5.24xlarge
Nova Pro Avaliação/Avaliar Referências de texto padrão nova_pro_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Avaliação/Avaliar Avaliação de conjuntos de dados personalizados nova_pro_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Avaliação/Avaliar Referências multimodais nova_pro_p5_48xl_general_multi_modal_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Avaliação/Avaliar LLM como avaliador nova_pro_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge