Personalização do Amazon Nova na Amazon SageMaker HyperPod

Você pode personalizar os modelos do Amazon Nova usando receitas do Amazon Nova e treiná-los na Amazon SageMaker HyperPod. Uma receita é um arquivo de configuração YAML que fornece detalhes para a SageMaker IA sobre como executar seu trabalho de personalização de modelo.

A Amazon SageMaker HyperPod oferece computação de alto desempenho com instâncias de GPU otimizadas e armazenamento Amazon FSx for Lustre, monitoramento robusto por meio da integração com ferramentas como gerenciamento flexível de pontos de verificação para melhoria iterativa TensorBoard, implantação perfeita no Amazon Bedrock para inferência e treinamento distribuído eficiente e escalável em vários nós, tudo trabalhando em conjunto para fornecer às organizações um ambiente seguro, eficiente e flexível para adaptar os modelos Nova às suas necessidades comerciais específicas.

A personalização do Amazon Nova na Amazon SageMaker HyperPod armazena artefatos de modelo, incluindo pontos de verificação de modelos, em um bucket Amazon S3 gerenciado por serviços. Os artefatos no bucket gerenciado pelo serviço são criptografados com SageMaker chaves gerenciadas. AWS KMS No momento, os buckets Amazon S3 gerenciados por serviços não oferecem suporte à criptografia de dados usando chaves KMS gerenciadas pelo cliente. Você pode usar esse ponto de verificação para tarefas de avaliação ou para inferência do Amazon Bedrock.

O preço padrão pode ser aplicado às instâncias de computação, ao armazenamento do Amazon S3 e ao FSx Lustre. Para obter detalhes sobre preços, consulte SageMaker HyperPod preços, preços do Amazon S3 e preços do Lustre FSx .

Requisitos de computação

As tabelas a seguir resumem os requisitos computacionais para SageMaker HyperPod treinamento.

Pré-treinamento

Modelo	Comprimento da sequência	Nós	Instância	Accelerator
Amazon Nova Micro	8,192	8	ml.p5.48xlarge	GPU H100
Amazon Nova Lite	8,192	16	ml.p5.48xlarge	GPU H100
Amazon Nova Pro	8,192	24	ml.p5.48xlarge	GPU H100

Otimização direta de preferências (DPO)

Modelo	Comprimento da sequência	Número de nós	Instância	Accelerator
Otimização de preferências diretas (completa)	32.768	2, 4 ou 6	ml.p5.48xlarge	GPU H100
Otimização de preferências diretas (LoRa)	32.768	2, 4 ou 6	ml.p5.48xlarge	GPU H100

Ajuste

Modelo	Comprimento da sequência	Número de nós	Instância	Accelerator
Ajuste fino supervisionado (LoRa)	65.536	2	ml.p5.48xlarge	GPU H100
Ajuste fino supervisionado (completo)	65.536	2	ml.p5.48xlarge	GPU H100
Ajuste fino supervisionado (LoRa)	32.768	4	ml.p5.48xlarge	GPU H100
Ajuste fino supervisionado (completo)	65.536	4	ml.p5.48xlarge	GPU H100
Ajuste fino supervisionado (LoRa)	65.536	6	ml.p5.48xlarge	GPU H100
Ajuste fino supervisionado (completo)	65.536	6	ml.p5.48xlarge	GPU H100

Destilação

Modelo	Nós	Instância
Modelo de destilação para pós-treinamento	1	ml.r5.24xlarge

Avaliação

Modelo	Comprimento da sequência	Nós	Instância	Accelerator
Receita geral de referência de texto	8,192	1	ml.p5.48xlarge	GPU H100
Traga seu próprio conjunto de dados (gen_qa). Receita de benchmark	8,192	1	ml.p5.48xlarge	GPU H100
Amazon Nova LLM como receita para juízes	8,192	1	ml.p5.48xlarge	GPU H100
Benchmarks de texto padrão	8,192	1	ml.p5.48xlarge	GPU H100
Avaliação personalizada do conjunto de dados	8,192	1	ml.p5.48xlarge	GPU H100
Benchmarks multimodais	8,192	1	ml.p5.48xlarge	GPU H100

Otimização da política proximal

Modelo	Contagem de instâncias do modelo crítico	Contagem de instâncias do modelo de recompensa	Contagem de instâncias do modelo âncora	Trem de atores	Geração de atores	Número de instâncias	Total de horas por corrida	P5 horas	Tipo de instância
Amazon Nova Micro	1	1	1	2	2	7	8	56	ml.p5.48xlarge
Amazon Nova Lite	1	1	1	2	2	7	16	112	ml.p5.48xlarge
Amazon Nova Pro	1	1	1	6	2	11	26	260	ml.p5.48xlarge

Tópicos

• Criação de um cluster HyperPod EKS com grupo de instâncias restritas (RIG)

• Pré-treinamento contínuo (CPT)

• Ajuste fino supervisionado (SFT)

• Otimização direta de preferências (DPO)

• Otimização de política proximal (PPO)

• Iniciando um trabalho de treinamento usando a HyperPod CLI

• Avaliando seu modelo treinado