Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Echtzeit-Inferenz
Echtzeit-Inferenz ist ideal für Inferenz-Workloads, bei denen interaktive Echtzeitanforderungen mit niedriger Latenz gestellt werden. Sie können Ihr Modell für SageMaker Hosting-Services bereitstellen und einen Endpunkt abrufen, der für die Inferenz verwendet werden kann. Diese Endgeräte werden vollständig verwaltet und unterstützen Autoscaling (siehe Automatische Skalierung von Amazon- SageMaker Modellen).
Themen
- Bereitstellen von Modellen für Echtzeit-Inferenz
- Aufrufen von Modellen für Echtzeit-Inferenz
- Verwalten Ihrer Endpunkte
- Hosting-Optionen
- Automatische Skalierung von Amazon- SageMaker Modellen
- Speichervolumen der Host-Instance
- Modelle in der Produktion sicher validieren
- Online-Erklärbarkeit mit SageMaker Clarify
