Blogs, exemplos de cadernos e recursos adicionais

As seções a seguir contêm exemplos e recursos adicionais para você aprender mais sobre a Amazon SageMaker.

Blogs e estudos de caso

Consulte a tabela a seguir para ver listas de blogs e estudos de caso sobre vários recursos do SageMaker Inference. Você pode usar os blogs para ajudá-lo a criar soluções que funcionam para o seu caso de uso.

Atributo	Recursos
Inferência em tempo real	Começando a implantar modelos em tempo real na Amazon SageMaker Implante o BLOOM-176B e o OPT-30B na Amazon com inferência de modelos SageMaker grandes, Deep Learning Containers e DeepSpeed Criação de uma API REST baseada em aprendizado de máquina com modelos de mapeamento do Amazon API Gateway e Amazon SageMaker
Autoescalabilidade	Configurando endpoints de inferência de escalonamento automático na Amazon SageMaker
Inferência sem servidor	Amazon SageMaker Serverless Inference — Inferência de Machine Learning sem se preocupar com servidores Hospede modelos de transformadores Hugging Face usando o Amazon Serverless Inference SageMaker Apresentando o kit de ferramentas de benchmarking de inferência SageMaker sem servidor da Amazon
Inferência assíncrona	Execute inferência de visão computacional em vídeos grandes com endpoints SageMaker assíncronos da Amazon Crie uma solução de manutenção preditiva com Amazon Kinesis AWS Glue e Amazon SageMaker Melhore pesquisas de alto valor com os endpoints Hugging Face e SageMaker Amazon Asynchronous Inference
Transformação em lote	Associando resultados de previsão a dados de entrada usando o Amazon SageMaker Batch Transform
Endpoints multimodelo	Economize nos custos de inferência usando endpoints SageMaker multimodelo da Amazon Execute vários modelos de aprendizado profundo na GPU com endpoints SageMaker multimodelo da Amazon Como escalar a inferência de machine learning para casos de uso de SaaS multilocatário Execute e otimize a inferência multimodelo com endpoints multimodelo da Amazon SageMaker
Pipelines de inferência serial	Padrões de design para inferência serial na Amazon SageMaker
Endpoint com vários contêineres	Inferência de ML econômica com modelos de várias estruturas na Amazon SageMaker
Conjuntos de modelos em execução	Execute modelos de ML em conjunto na Amazon SageMaker
Recomendador de inferência	SageMaker Exemplo de caderno de referência do Inference Recommender SageMaker Exemplo de caderno Inference Recommender for HuggingFace BERT Sentiment Analysis Obtenha desempenho em hiperescala para fornecimento de modelos usando o NVIDIA Triton Inference Server na Amazon SageMaker
Série de blogs de hospedagem de modelos avançados	Parte 1: Padrões de design comuns para criar aplicativos de ML na Amazon SageMaker Parte 2: Introdução à implantação de modelos em tempo real no SageMaker Parte 3: Execute e otimize a inferência multimodelo com endpoints multimodelo da Amazon SageMaker Parte 4: Padrões de design para inferência serial na Amazon SageMaker Parte 5: Inferência de ML econômica com modelos de várias estruturas na Amazon SageMaker Parte 6: Melhores práticas para testar e atualizar modelos em SageMaker Parte 7: Execute modelos de ML em conjunto na Amazon SageMaker

Cadernos de exemplo

Consulte a tabela a seguir para ver exemplos de cadernos que podem ajudar você a aprender mais sobre SageMaker inferência.

Atributo	Cadernos de exemplo
Inference Recommender	SageMaker Exemplo de caderno de referência do Inference Recommender SageMaker Exemplo de caderno Inference Recommender for HuggingFace BERT Sentiment Analysis
Otimize modelos de linguagem grande (LLMs) para SageMaker	Workshop de LLMs de IA generativa

Recursos adicionais do

Para obter mais informações sobre cada opção de SageMaker inferência em detalhes, assista ao vídeo a seguir.