Paralelismo de modelos e inferência de modelos grandes

A Amazon SageMaker inclui contêineres especializados de aprendizado profundo (DLCs), bibliotecas e ferramentas para paralelismo de modelos e inferência de modelos grandes (LMI). Nas seções a seguir, você encontrará recursos para começar a usar o LMI. SageMaker

Tópicos

• A documentação do contêiner de inferência de modelos grandes (LMI)
• SageMaker parâmetros de endpoint para inferência de modelos grandes
• Implantação de modelos não compactados
• Grande inferência de modelo com TorchServe