Blog, notebook di esempio e risorse aggiuntive

Le seguenti sezioni contengono esempi e risorse aggiuntive per saperne di più su Amazon SageMaker.

Blog e casi di studio

Consulta la tabella seguente per gli elenchi di blog e case study relativi alle varie funzionalità di SageMaker Inference. Puoi utilizzare i blog per creare soluzioni più adatte al tuo caso d'uso.

Funzionalità	Risorse
Inferenza in tempo reale	Guida introduttiva alla distribuzione di modelli in tempo reale su Amazon SageMaker Implementa BLOOM-176B e OPT-30B su Amazon con Deep Learning Containers di inferenza di modelli SageMaker di grandi dimensioni e DeepSpeed Creazione di un'API REST basata sull'apprendimento automatico con modelli di mappatura Amazon API Gateway e Amazon SageMaker
Dimensionamento automatico	Configurazione degli endpoint di inferenza con scalabilità automatica in Amazon SageMaker
Inferenza serverless	Amazon SageMaker Serverless Inference: inferenza tramite Machine Learning senza preoccuparsi dei server Ospita modelli di trasformatori Hugging Face utilizzando Amazon Serverless Inference SageMaker Presentazione dell'Amazon SageMaker Serverless Inference Benchmarking Toolkit
Inferenza asincrona	Esegui inferenze di visione artificiale su video di grandi dimensioni con endpoint SageMaker asincroni di Amazon Crea una soluzione di manutenzione predittiva con Amazon Kinesis AWS Glue e Amazon SageMaker Migliora la ricerca ad alto valore con gli endpoint Hugging Face e SageMaker Amazon Asynchronous Inference
Batch Transform	Associazione dei risultati delle previsioni ai dati di input utilizzando Amazon Batch Transform SageMaker
Endpoint multi-modello	Risparmia sui costi di inferenza utilizzando gli endpoint SageMaker multimodello di Amazon Esegui più modelli di deep learning su GPU con endpoint SageMaker multimodello Amazon Come scalare l'inferenza del machine learning per casi d'uso SaaS multi-tenant Esegui e ottimizza l'inferenza multimodello con gli endpoint multimodello di Amazon SageMaker
Pipeline di inferenza seriale	Modelli di progettazione per l'inferenza seriale su Amazon SageMaker
Endpoint multi-container	Inferenza ML a costi contenuti con modelli multi-framework su Amazon SageMaker
Esecuzione di insiemi di modelli	Esegui modelli di Ensemble ML su Amazon SageMaker
Suggeritore di inferenza	SageMaker Notebook di esempio Inference Recommender SageMaker Notebook di esempio Inference Recommender per HuggingFace BERT Sentiment Analysis Ottieni prestazioni iperscalabili per il model serving utilizzando NVIDIA Triton Inference Server su Amazon SageMaker
Serie di blog di hosting di modelli avanzati	Parte 1: modelli di progettazione comuni per la creazione di applicazioni ML su Amazon SageMaker Parte 2: Guida introduttiva alla distribuzione di modelli in tempo reale su SageMaker Parte 3: Esegui e ottimizza l'inferenza multimodello con gli endpoint multimodello di Amazon SageMaker Parte 4: modelli di progettazione per l'inferenza seriale su Amazon SageMaker Parte 5: inferenza ML a costi contenuti con modelli multi-framework su Amazon SageMaker Parte 6: Le migliori pratiche per testare e aggiornare i modelli su SageMaker Parte 7: esegui modelli Ensemble ML su Amazon SageMaker

Notebook di esempio

Consulta la tabella seguente per alcuni esempi di notebook che possono aiutarti a saperne di più sull'inferenza. SageMaker

Funzionalità	Notebook di esempio
Suggeritore di inferenza	SageMaker Notebook di esempio Inference Recommender SageMaker Notebook di esempio Inference Recommender per HuggingFace BERT Sentiment Analysis
Ottimizza i modelli linguistici di grandi dimensioni (LLM) per SageMaker	Workshop sui LLM di IA generativa

Risorse aggiuntive

Per ulteriori informazioni dettagliate su ciascuna opzione di SageMaker inferenza, puoi guardare il seguente video.