Blogs, exemples de blocs-notes et ressources supplémentaires

Les sections suivantes contiennent des exemples et des ressources supplémentaires qui vous permettront d'en savoir plus sur Amazon SageMaker.

Blogs et études de cas

Consultez le tableau suivant pour obtenir des listes de blogs et d'études de cas sur les différentes fonctionnalités d' SageMaker Inference. Vous pouvez utiliser les blogs pour vous aider à élaborer des solutions qui fonctionnent pour votre cas d'utilisation.

Fonctionnalité	Ressources
Inférence en temps réel	Commencer à déployer des modèles en temps réel sur Amazon SageMaker Déployez BLOOM-176B et OPT-30B sur Amazon avec des Deep Learning Containers à inférence de grands SageMaker modèles et DeepSpeed Création d'une API REST basée sur le machine learning avec les modèles de mappage Amazon API Gateway et Amazon SageMaker
Autoscaling	Configuration des points de terminaison d'inférence à dimensionnement automatique dans Amazon SageMaker
Serverless Inference	Amazon SageMaker Serverless Inference — Inférence basée sur le Machine Learning sans vous soucier des serveurs Modèles de transformateurs Host Hugging Face à l'aide d' SageMaker Amazon Serverless Inference Présentation de la boîte à outils d' SageMaker analyse comparative d'inférence sans serveur Amazon
Inférence asynchrone	Exécutez une inférence de vision par ordinateur sur de grandes vidéos avec les points de terminaison SageMaker asynchrones Amazon Créez une solution de maintenance prédictive avec Amazon Kinesis et AWS Glue Amazon SageMaker Améliorez les recherches à forte valeur ajoutée avec les points de terminaison Hugging Face et Amazon Asynchronous Inference SageMaker
Transformation par lots	Associer les résultats de prédiction aux données d'entrée à l'aide d'Amazon SageMaker Batch Transform
Points de terminaison multimodèles	Réalisez des économies sur les coûts d'inférence en utilisant les points de terminaison SageMaker multimodèles Amazon Exécutez plusieurs modèles de deep learning sur GPU avec les points de terminaison SageMaker multimodèles Amazon How to scale machine learning inference for multi-tenant SaaS use cases (Comment mettre à l'échelle l'inférence de machine learning pour les cas d'utilisation SaaS à locataires multiples) Exécutez et optimisez l'inférence multimodèle avec les points de terminaison multimodèles Amazon SageMaker
Pipelines d'inférence en série	Modèles de conception pour l'inférence en série sur Amazon SageMaker
Points de terminaison multi-conteneurs	Inférence ML rentable avec des modèles multi-frameworks sur Amazon SageMaker
Exécution d'ensembles de modèles	Exécutez des modèles d'ensemble ML sur Amazon SageMaker
Inference Recommender	SageMaker Exemple de bloc-notes Inference Recommender SageMaker Exemple de bloc-notes de recommandation d'inférence pour l'analyse des sentiments HuggingFace BERT Obtenez des performances à très grande échelle pour le service de modèles à l'aide du serveur d'inférence NVIDIA Triton sur Amazon SageMaker
Série de blogs sur l'hébergement de modèles avancés	Partie 1 : Modèles de conception courants pour créer une application ML sur Amazon SageMaker Partie 2 : Commencer à déployer des modèles en temps réel sur SageMaker Partie 3 : Exécuter et optimiser l'inférence multimodèle avec les points de terminaison multimodèles Amazon SageMaker Partie 4 : Modèles de conception pour l'inférence en série sur Amazon SageMaker Partie 5 : Inférence ML rentable avec des modèles multi-frameworks sur Amazon SageMaker Partie 6 : Bonnes pratiques en matière de test et de mise à jour des modèles sur SageMaker Partie 7 : Exécuter des modèles d'ensemble ML sur Amazon SageMaker

Exemples de blocs-notes

Consultez le tableau suivant pour découvrir des exemples de blocs-notes qui peuvent vous aider à en savoir plus sur l' SageMaker inférence.

Fonctionnalité	Exemples de blocs-notes
Inference Recommender	SageMaker Exemple de bloc-notes Inference Recommender SageMaker Exemple de bloc-notes de recommandation d'inférence pour l'analyse des sentiments HuggingFace BERT
Optimisez les grands modèles linguistiques (LLM) pour SageMaker	Atelier sur les LLM dans l'IA générative

Ressources supplémentaires

Pour plus d'informations détaillées sur chaque option d' SageMaker inférence, vous pouvez regarder la vidéo suivante.