Treinamento no SageMaker AI HyperPod
Você pode personalizar os modelos do Amazon Nova usando as receitas do Amazon Nova e treiná-los no SageMaker AI HyperPod. Uma receita é um arquivo de configuração YAML que fornece ao SageMaker AI detalhes sobre como executar a tarefa de personalização de modelo.
O SageMaker AI HyperPod oferece computação de alta performance com instâncias de GPU otimizadas e armazenamento do Amazon FSx para Lustre, monitoramento avançado por meio da integração com ferramentas como o TensorBoard, gerenciamento flexível de pontos de verificação para aprimoramento iterativo, implantação sem falhas no Amazon Bedrock para inferência e treinamento distribuído multinodal eficiente e escalável, tudo trabalhando em conjunto para fornecer às organizações um ambiente de alta performance seguro e flexível para personalizar os modelos do Amazon Nova de acordo com seus requisitos específicos.
A personalização do Amazon Nova no SageMaker AI HyperPod armazena artefatos de modelo, incluindo pontos de verificação de modelos, em um bucket do Amazon S3 gerenciado pelo serviço. Os artefatos do bucket gerenciado pelo serviço são criptografados com chaves do KMS gerenciadas pelo SageMaker. No momento, os buckets do Amazon S3 gerenciados pelo serviço não são compatíveis com criptografia de dados usando chaves gerenciadas pelo cliente. Você pode usar esse ponto de verificação para tarefas de avaliação ou para inferência do Amazon Bedrock.
Esta seção fornece detalhes sobre os parâmetros dos modelos do Amazon Nova que podem ser ajustados com o SageMaker AI HyperPod, quando pode ser necessário ajustá-los e como eles podem afetar a performance dos modelos. Os parâmetros são apresentados por técnica de treinamento. Para obter informações sobre como enviar uma tarefa, consulte Running a SageMaker training job.