SageMaker Amazon-Funktionen

Amazon SageMaker bietet die folgenden Funktionen.

Neue Funktionen für re:Invent 2023

SageMaker beinhaltet die folgenden neuen Funktionen für re:Invent 2023.

SageMaker Canvas-Chat zur Datenvorbereitung

SageMaker Der Canvas-Chat für die Datenvorbereitung hilft Ihnen bei der Erstellung von Datenvorbereitungsabläufen mithilfe von LLMs.

Code-Editor

Der Code-Editor erweitert Studio, sodass Sie Ihren Analyse- und Machine-Learning-Code in einer Umgebung schreiben, testen, debuggen und ausführen können, die auf Visual Studio Code — Open Source („Code-OSS“) basiert.

Deep-Learning-Container für Inferenz großer Modelle

SageMaker hat die standardmäßigen NCCL-Kernel durch inferenzoptimierte Kernel ersetzt, um die GPU-Auslastung zu verbessern und eine Leistung zu bieten, die sich von OSS abhebt.

Stellen Sie Modelle für Inferenz in Echtzeit bereit

SageMaker Inference bietet Entwicklererfahrung und Abstraktionen von Benutzeroberflächen, damit Sie schneller mit der Modellbereitstellung beginnen können.

SageMaker Kunden können jetzt die Nutzung ihrer beschleunigten Recheninstanzen verbessern, indem sie bis zu Tausende von Modellen auf einem SageMaker Endpunkt mit garantiertem Durchsatz und auto-scaling pro Modell bereitstellen.

SageMakerBilder verteilen

SageMaker Distribution ist eine Sammlung von Docker-Images, die für maschinelles Lernen, Datenwissenschaft und Datenanalyse entwickelt wurden. Die Bilder sind in Studio, Studio Lab, Studio-Notebooks und Github verfügbar.

Vereinfachung des Domain-Onboardings

Ein vereinfachtes und geführtes Onboarding-Erlebnis für SageMaker Amazon-Domains mit neuen Funktionen für Einzelbenutzer und Unternehmensadministratoren. Zu den Funktionen gehören die direkte IAM Identity Center-Integration, eine differenzierte Verwaltung von Zugriffsrichtlinien, eine nahtlose Verwaltung und Konfiguration von SageMaker Apps sowie die VPC- und Speicherkonfiguration.

Amazon S3 Express Eine Zone

Amazon S3 Express One Zone ist eine neue Speicherklasse, die Zugriff im einstelligen Millisekundenbereich für die latenzempfindlichsten Anwendungen bietet. Amazon S3 Express One Zone ermöglicht es Kunden, ihre Objektspeicher- und Rechenressourcen in einer einzigen AWS Availability Zone zusammenzufassen und so sowohl die Rechenleistung als auch die Kosten bei erhöhter Datenverarbeitungsgeschwindigkeit zu optimieren.

Evaluierungen von Fundamentmodellen (FMEval)

Foundation-Model-Evaluationen (FMEval) helfen Ihnen dabei, das Risiko zu quantifizieren, dass Ihr Sprachmodell ungenaue, giftige oder voreingenommene Inhalte bereitstellt, sodass Sie das für Ihren Anwendungsfall am besten geeignete auswählen können. Bringen Sie Ihren eigenen benutzerdefinierten Datensatz mit oder verwenden Sie einen integrierten Datensatz, um ein beliebiges Sprachmodell zu evaluieren. FMEval ist in Dutzende von textbasierten Basismodellen integriert JumpStart oder Sie können Ihre eigenen verwenden. Mit der FMEval-Bibliothek können Sie auch maßgeschneiderte Bewertungen erstellen.

SageMaker HyperPod

SageMaker HyperPod ist eine Funktion SageMaker , die eine ständig verfügbare Umgebung für maschinelles Lernen auf belastbaren Clustern bereitstellt, sodass Sie beliebige Workloads für maschinelles Lernen ausführen können, um große Modelle für maschinelles Lernen wie Large Language Models (LLMs) und Diffusionsmodelle zu entwickeln.

JupyterAI

Jupyter AI und Code Whisperer wurden in den Vertrieb aufgenommen. SageMaker Mit diesem Update können Benutzer von Studio oder Code Editor ganz einfach generative KI von ihren Notebooks aus verwenden und die Codevervollständigungsfunktion von Code Whisperer nutzen.

JupyterLab im Studio

JupyterLab in Studio verbessert die Latenz und Zuverlässigkeit für Studio-Notebooks

SageMakerNotebook-Jobs

SageMaker Notebook Jobs bietet SDK-Unterstützung für Notebook-Jobs, sodass Sie Ihre Notebook-Jobs programmgesteuert planen können.

SageMaker Rohrleitungen

SageMaker Pipelines bietet Ihnen die Möglichkeit, Ihren lokalen Machine-Learning-Code in einen SageMaker Pipeline-Schritt zu konvertieren, von dem aus Sie eine Pipeline erstellen und ausführen können.

SageMakerintelligentes Sieben

SageMaker Intelligentes Sieben ist eine Funktion von SageMaker Training, mit der Sie die Effizienz Ihrer Trainingsdatensätze verbessern und die Gesamtdauer und -kosten für das Training reduzieren können.

SageMaker Studio

Studio ist die neueste webbasierte Oberfläche für die Ausführung von ML-Workflows. Studio bietet eine Suite von IDEs, darunter den Code Editor, eine neue Jupyterlab-Anwendung, RStudio und Studio Classic.

Machine-Learning-Umgebungen

SageMaker umfasst die folgenden Umgebungen für maschinelles Lernen.

SageMaker Geospatiale Funktionen

Erstellen, trainieren und implementieren Sie ML-Modelle mithilfe von Geodaten.

SageMaker Leinwand

Ein Auto-ML-Service, der Menschen ohne Programmiererfahrung die Möglichkeit gibt, Modelle zu erstellen und damit Vorhersagen zu treffen.

SageMaker Studio

Eine integrierte Umgebung für das maschinelle Lernen, in der Sie Ihre Modelle in derselben Anwendung erstellen, trainieren, bereitstellen und analysieren können.

SageMaker Studiolabor

Ein kostenloser Service, der Kunden Zugriff auf AWS Rechenressourcen in einer JupyterLab Open-Source-Umgebung bietet.

RStudio bei Amazon SageMaker

Eine integrierte Entwicklungsumgebung für R mit einer Konsole, einem Syntaxhervorhebungseditor, der die direkte Codeausführung unterstützt, und Tools für Plotten, Verlauf, Debugging und Workspace-Management.

Hauptfunktionen

SageMaker enthält die folgenden Hauptfunktionen in alphabetischer Reihenfolge ohne SageMaker Präfix.

Amazon Augmented AI

Erstellen Sie die Workflows, die für die Überprüfung von ML-Vorhersagen durch Menschen erforderlich sind. Amazon A2I bietet allen Entwicklern die Möglichkeit, menschliche Überprüfungen vorzunehmen. Damit entfällt der undifferenzierte Aufwand, der mit dem Aufbau menschlicher Überprüfungssysteme oder der Verwaltung einer großen Anzahl menschlicher Prüfer verbunden ist.

AutoML-Schritt

Erstellen Sie einen AutoML-Job, um ein Modell automatisch in SageMaker Pipelines zu trainieren.

SageMaker Autopilot

Benutzer ohne Kenntnisse auf dem Gebiet des maschinellen Lernens können schnell Klassifizierungs- und Regressionsmodelle erstellen.

Stapeltransformation

Führen Sie eine Vorverarbeitung von Datensätzen durch, führen Sie eine Inferenz aus, wenn Sie keinen persistenten Endpunkt benötigen, und ordnen Sie Eingabedatensätze Inferenzen zu, um die Interpretation von Ergebnissen zu unterstützen.

SageMaker Klären

Verbessern Sie Ihre Modelle für Machine Learning, indem Sie potenzielle Verzerrungen erkennen und Ihnen helfen, die Vorhersagen der Modelle zu erklären.

Zusammenarbeit mit gemeinsam genutzten Räumen

Ein gemeinsam genutzter Bereich besteht aus einer gemeinsam genutzten JupyterServer Anwendung und einem gemeinsam genutzten Verzeichnis. Alle Benutzerprofile in einer SageMaker Amazon-Domain haben Zugriff auf alle gemeinsam genutzten Bereiche in der Domain.

SageMaker Data Wrangler

Import, Analyse, Vorbereitung und Bereitstellung von Daten in Studio. SageMaker Sie können Data Wrangler in Ihre Workflows für Machine Learning integrieren, um die Datenvorverarbeitung und das Feature-Engineering mit wenig bis gar keiner Codierung zu vereinfachen und zu optimieren. Sie können auch Ihre eigenen Python-Skripte und Transformationen hinzufügen, um Ihren Datenvorbereitungsworkflow anzupassen.

Data Wrangler-Widget zur Datenvorbereitung

Interagieren Sie mit Ihren Daten, erhalten Sie Visualisierungen, gewinnen Sie umsetzbare Erkenntnisse und beheben Sie Probleme mit der Datenqualität.

SageMaker Debugger

Untersuchen Sie Trainingsparameter und -daten während des gesamten Trainingsprozesses. Automatisches Erkennen und Hinweisen von Benutzern auf häufig auftretende Fehler, z. B. auf zu groß oder zu klein werdende Parameterwerte.

SageMaker Edge-Manager

Optimieren Sie benutzerdefinierte Modelle für Edge-Geräte, erstellen und verwalten Sie Flotten und führen Sie Modelle mit einer effizienten Laufzeit aus.

SageMaker Elastic Inference

Beschleunigen Sie den Durchsatz und verringern Sie die Latenz beim Abrufen von Echtzeit-Inferenzen.

SageMaker Experimente

Verwaltung und Nachverfolgung von Experimenten. Sie können anhand der verfolgten Daten ein Experiment rekonstruieren, inkrementell auf von Peers durchgeführten Experimenten aufbauen und die Herkunft von Modellen für Compliance- und Audit-Überprüfungen nachverfolgen.

SageMaker Feature-Shop

Ein zentraler Speicher für Funktionen und zugehörige Metadaten, sodass Funktionen einfach gefunden und wiederverwendet werden können. Sie können zwei Arten von Geschäften erstellen: einen Online- oder einen Offline-Speicher. Der Online-Speicher kann für Anwendungsfälle mit niedriger Latenz und Echtzeit-Inferenzen verwendet werden, und der Offline-Speicher kann für Trainings und Batch-Inferenz verwendet werden.

SageMaker Ground Truth

Qualitativ hochwertige Training-Datensätze durch den Einsatz von Arbeitskräften zusammen mit Machine Learning, um mit Labels versehene Datensätze zu erstellen.

SageMaker Ground Truth Plus

Eine sofort einsatzbereite Funktion zum Daten-Labeling, mit der Sie hochwertige Trainingsdatensätze erstellen können, ohne Kennzeichnungsanwendungen erstellen und das Labeling-Personal selbst verwalten zu müssen.

SageMaker Empfehlung für Inferenzen

Holen Sie sich Empfehlungen zu Typen und Konfigurationen von Inferenz-Instances (z. B. Anzahl der Instances, Container-Parameter und Modelloptimierungen), um Ihre ML-Modelle und Workloads zu verwenden.

Inferenz-Schattentests

Evaluieren Sie alle Änderungen an Ihrer Model-Server-Infrastruktur, indem Sie deren Leistung mit der aktuell bereitgestellten Infrastruktur vergleichen.

SageMaker JumpStart

Erfahren SageMaker Sie anhand von kuratierten 1-Klick-Lösungen, Beispiel-Notebooks und vortrainierten Modellen, die Sie einsetzen können, mehr über Funktionen und Möglichkeiten. Sie können die Modelle auch verfeinern und bereitstellen.

SageMaker ML-Abstammungsverfolgung

Verfolgen Sie die Herkunft der Workflows für Machine Learning.

SageMaker Pipelines zum Modellbau

Erstellen und verwalten Sie Pipelines für maschinelles Lernen, die direkt in Jobs integriert sind. SageMaker

SageMaker Modellkarten

Dokumentieren Sie Informationen zu Ihren ML-Modellen an einem zentralen Ort, um die Verwaltung und Berichterstattung während des gesamten ML-Lebenszyklus zu optimieren.

SageMaker Modell-Dashboard

Eine vorgefertigte, visuelle Übersicht über alle Modelle in Ihrem Konto. Model Dashboard integriert Informationen aus SageMaker Model Monitor, transformiert Jobs, Endpunkte und die Nachverfolgung der Herkunft, CloudWatch sodass Sie auf allgemeine Modellinformationen zugreifen und die Modellleistung in einer einheitlichen Ansicht verfolgen können.

SageMaker Model Monitor

Überwachen und analysieren Sie Modelle in der Produktion (Endpunkte), um Datendrift und Abweichungen in der Modellqualität zu erkennen.

SageMaker Modellregistrierung

Versionierung, Nachverfolgung von Artefakten und Herkunft, Genehmigungsworkflow und kontenübergreifende Unterstützung für den Einsatz Ihrer Machine-Learning-Modelle.

SageMaker Neo

Trainieren Sie Machine-Learning-Modelle einmal und führen Sie sie dann an einer beliebigen Stelle in der Cloud oder am Edge aus.

Workflows auf Notebook-Basis

Führen Sie Ihr SageMaker Studio-Notizbuch als nicht interaktiven, geplanten Job aus.

Vorverarbeitung

Analysieren und Vorverarbeiten von Daten, Entwickeln von Merkmalen und Bewerten von Modellen.

SageMaker Projekte

Erstellen Sie end-to-end ML-Lösungen mit CI/CD mithilfe SageMaker von Projekten.

Reinforcement Learning

Maximieren Sie die langfristige Belohnung, die ein Agent infolge seiner Aktionen erhält.

SageMaker Rollenmanager

Administratoren können mithilfe von benutzerdefinierten und vorkonfigurierten persona-basierten IAM-Rollen Berechtigungen mit den geringsten Rechten für gängige ML-Aktivitäten definieren.

SageMaker Serverlose Endpunkte

Eine serverlose Endpunktoption zum Hosten Ihres ML-Modells. Die Kapazität wird automatisch skaliert, um Ihren Endpunktdatenverkehr zu bedienen. Macht die Auswahl von Instance-Typen oder die Verwaltung von Skalierungsrichtlinien auf einem Endpunkt überflüssig.

Studio Classic Git-Erweiterung

Eine Git-Erweiterung, um die URL eines Git-Repositorys einzugeben, es in deine Umgebung zu klonen, Änderungen zu übertragen und den Commit-Verlauf anzusehen.

SageMaker Studio-Notebooks

Die nächste Generation von SageMaker Notebooks mit Integration AWS IAM Identity Center (IAM Identity Center), schnellen Startzeiten und Teilen mit nur einem Klick.

SageMaker Studio-Notebooks und Amazon EMR

Entdecken Sie Amazon EMR-Cluster, stellen Sie eine Verbindung zu ihnen her, erstellen, beenden und verwalten Sie sie in Konfigurationen mit einem oder mehreren Konten direkt von SageMaker Studio aus.

SageMaker Compiler für Schulungen

Trainieren Sie Deep-Learning-Modelle schneller auf skalierbaren GPU-Instanzen, die von verwaltet werden SageMaker.