Receitas da Amazon Nova - SageMaker Inteligência Artificial da Amazon

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Receitas da Amazon Nova

Você pode obter uma receita do Amazon Nova no repositório de SageMaker HyperPod receitas. Uma receita Nova é um arquivo de configuração YAML que fornece detalhes para a SageMaker IA sobre como executar seu trabalho de personalização de modelo. Ele fornece o nome do modelo básico, define os hiperparâmetros de treinamento, define as configurações de otimização e inclui todas as opções adicionais necessárias para ajustar ou treinar o modelo com sucesso.

Você também pode acessar as receitas do Nova por meio do Amazon SageMaker Studio e do Amazon SageMaker Unified Studio navegando até o hub de JumpStart modelos AWS, selecionando e navegando nos modelos do Amazon Nova para encontrar as receitas associadas. Tanto o Amazon SageMaker Studio quanto o Amazon SageMaker Unified Studio fornecem cadernos de amostra para cada receita, que incluem todas as etapas necessárias para modificar as receitas e executar trabalhos de personalização usando trabalhos de treinamento de SageMaker IA ou ambientes da Amazon SageMaker HyperPod .

Para acessar as páginas de receitas no Amazon SageMaker Studio, a função de execução deve ter as seguintes permissões.

{ "Version": "2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "s3:GetObject" ], "Resource": [ "arn:aws:s3:::*model-customization-recipes*" ] } ] }

Para executar os notebooks de amostra em trabalhos de SageMaker treinamento e SageMaker HyperPod use uma das seguintes versões de imagem de SageMaker distribuição:2.7.1+,, 2.8.0+3.2.1+,3.3.0+. Isso se aplica tanto ao Amazon SageMaker Studio quanto ao Amazon SageMaker Unified Studio.

Obtendo receitas da Amazon Nova

Para obter uma receita básica do Amazon Nova, clone o repositório de SageMaker HyperPod receitas executando o comando a seguir.

git clone https://github.com/aws/sagemaker-hyperpod-recipes.git

As receitas básicas estão disponíveis em recipes_collection/recipes/.

cd recipes_collection/recipes/

As receitas de personalização do Amazon Nova estão nas seguintes pastas.

Tipo de fórmula Pasta
SFT (classificação completa e PEFT), PPO, DPO (classificação completa e PEFT) ajuste fino/nova
Avaliação avaliação/nova
CPT treinamento/nova

Modelos e algoritmos disponíveis

A tabela a seguir resume a disponibilidade de personalização para modelos e algoritmos compatíveis do Amazon Nova usando SageMaker IA.

Nome do modelo

ID do modelo

Ajuste

Observações

Amazon Nova Micro

amazônia. nova-micro-v1:0:128 k

Sim

Tanto para SFT quanto para DPO, esse modelo aceita texto como entrada e produz texto somente como saída.

Amazon Nova Lite

amazônia. nova-lite-v1:0:300 k

Sim

  • SFT - Aceita and/or imagem de texto ou and/or vídeo de texto como entrada e produz texto como saída. Um único trabalho não pode combinar texto, imagem e vídeo na mesma execução.

  • DPO - aceita texto e imagem como entrada e produz texto como saída.

Amazon Nova Pro

amazônia. nova-pro-v1:0:300 k

Sim

  • SFT - Aceita and/or imagem de texto ou and/or vídeo de texto como entrada e produz texto como saída. Um único trabalho não pode combinar texto, imagem e vídeo na mesma execução.

  • DPO - aceita texto e imagem como entrada e produz texto como saída.

Referência de receitas da Amazon Nova

A tabela abaixo lista informações detalhadas da referência de receitas do Amazon Nova.

Modelo Categoria/subcategoria Técnica Nome da receita URI da imagem (trabalhos SageMaker de treinamento) URI da imagem (SageMaker HyperPod) Instância de computação
Nova Lite Treinamento/ajuste fino

Ajuste fino supervisionado (LoRa)

nova_lite_p5_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge
Nova Lite Treinamento/ajuste fino

Ajuste fino supervisionado (completo)

nova_lite_p5_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge
Nova Lite Treinamento/ajuste fino

Otimização de preferências diretas (completa)

nova_lite_p5_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge
Nova Lite Treinamento/ajuste fino

Otimização de preferências diretas (LoRa)

nova_lite_p5_gpu_lora_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge
Nova Lite Treinamento/Aprendizagem por reforço

Aprendizagem por reforço baseada em recompensas (PPO)

nova_lite_p5_gpu_ppo.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge
Nova Lite Treinamento/Pré-treinamento contínuo Pré-treinamento contínuo (modelo básico) nova_lite_gpu_p5x16_pretrain.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Lite Avaliação/Avaliar Benchmarks de texto padrão nova_lite_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Avaliação/Avaliar

Avaliação personalizada do conjunto de dados

nova_lite_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Avaliação/Avaliar

Benchmarks multimodais

nova_lite_p5_48_general_multi_modal_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Avaliação/Avaliar

LLM como juiz

nova_lite_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro Treinamento/ajuste fino

Ajuste fino supervisionado (LoRa)

nova_micro_p5_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge
Nova Micro Treinamento/ajuste fino

Ajuste fino supervisionado (completo)

nova_micro_p5_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge
Nova Micro Treinamento/ajuste fino

Otimização de preferências diretas (completa)

nova_micro_p5_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge
Nova Micro Treinamento/ajuste fino

Otimização de preferências diretas (LoRa)

nova_micro_p5_gpu_lora_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge
Nova Micro Treinamento/Aprendizagem por reforço

Aprendizagem por reforço baseada em recompensas (PPO)

nova_micro_p5_gpu_ppo.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge
Nova Micro Treinamento/Pré-treinamento contínuo Pré-treinamento contínuo (modelo básico) nova_micro_gpu_p5x8_pretrain.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Micro Avaliação/Avaliar Referência geral de texto nova_micro_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro Avaliação/Avaliar

Traga seu próprio benchmark de conjunto de dados (gen_qa)

nova_micro_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro Avaliação/Avaliar

LLM como juiz

nova_micro_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Treinamento/ajuste fino

Ajuste fino supervisionado (LoRa)

nova_pro_p5_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge
Nova Pro Treinamento/ajuste fino

Ajuste fino supervisionado (completo)

nova_pro_p5_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge
Nova Pro Treinamento/ajuste fino

Otimização de preferências diretas (completa)

nova_pro_p5_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge
Nova Pro Treinamento/ajuste fino

Otimização de preferências diretas (LoRa)

nova_pro_p5_gpu_lora_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge
Nova Pro Treinamento/Aprendizagem por reforço

Aprendizagem por reforço baseada em recompensas (PPO)

nova_pro_p5_gpu_ppo.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge
Nova Pro Treinamento/Pré-treinamento contínuo Pré-treinamento contínuo (modelo básico) nova_pro_gpu_p5x24_pretrain.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Pro Treinamento/aumento de dados Modelo de destilação para pós-treinamento nova_pro_r5_cpu_distill.yaml n/a 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-distillation-repo:SM-TJ-DISTILL-LATEST ml.r5.24xlarge
Nova Pro Avaliação/Avaliar Benchmarks de texto padrão nova_pro_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Avaliação/Avaliar Avaliação personalizada do conjunto de dados nova_pro_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Avaliação/Avaliar Benchmarks multimodais nova_pro_p5_48xl_general_multi_modal_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Avaliação/Avaliar LLM como juiz nova_pro_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Premier Treinamento Modelo de destilação para pós-treinamento

nova_premier_r5_cpu_distill.yaml

708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-distillation-repo:SM-TJ-DISTILL-LATEST

n/a

ml.r5.24xlarge