Sicherheit bei der Amazon SageMaker AI-Inferenzoptimierung

Cloud-Sicherheit AWS hat höchste Priorität. Als AWS Kunde profitieren Sie von einer Rechenzentrums- und Netzwerkarchitektur, die darauf ausgelegt sind, die Anforderungen der sicherheitssensibelsten Unternehmen zu erfüllen.

Sicherheit ist eine gemeinsame Verantwortung von Ihnen AWS und Ihnen. Das Modell der geteilten Verantwortung beschreibt dies als Sicherheit der Cloud und Sicherheit in der Cloud:

• Sicherheit der Cloud — AWS ist verantwortlich für den Schutz der Infrastruktur, die AWS Dienste in der AWS Cloud ausführt. AWS bietet Ihnen auch Dienste, die Sie sicher nutzen können. Third-party Auditoren testen und verifizieren regelmäßig die Wirksamkeit unserer Sicherheitsmaßnahmen im Rahmen der AWS Compliance-Programme. Weitere Informationen zu den Compliance-Programmen, die für Amazon SageMaker AI gelten, finden Sie unter AWS Services in Scope by Compliance Program.

• Sicherheit in der Cloud — Ihre Verantwortung richtet sich nach dem AWS Service, den Sie nutzen. Sie sind auch für andere Faktoren verantwortlich, einschließlich der Vertraulichkeit Ihrer Daten, für die Anforderungen Ihres Unternehmens und für die geltenden Gesetze und Vorschriften.

Diese Dokumentation hilft Ihnen zu verstehen, wie Sie das Modell der gemeinsamen Verantwortung anwenden können, wenn Sie Funktionen zur Optimierung von SageMaker KI-Inferenzen verwenden, einschließlich KI-Benchmarking-Jobs, KI-Empfehlungsjobs und KI-Workload-Konfigurationen.

Datenschutz

Das Modell der AWS gemeinsamen Verantwortung gilt für den Datenschutz bei der Amazon SageMaker KI-Inferenzoptimierung. Wie in diesem Modell beschrieben, AWS ist es für den Schutz der globalen Infrastruktur verantwortlich, auf der die gesamte AWS Cloud läuft. Sie sind dafür verantwortlich, die Kontrolle über Ihre in dieser Infrastruktur gehosteten Inhalte zu behalten.

Aus Datenschutzgründen empfehlen wir, die AWS Kontoanmeldeinformationen zu schützen und einzelne Benutzer mit AWS IAM Identity Center oder AWS Identity and Access Management (IAM) einzurichten. So erhält jeder Benutzer nur die Berechtigungen, die zum Durchführen seiner Aufgaben erforderlich sind. Außerdem empfehlen wir, die Daten mit folgenden Methoden schützen:

• Verwenden Sie für jedes Konto die Multi-Faktor-Authentifizierung (MFA).

• Wird für SSL/TLS die Kommunikation mit AWS Ressourcen verwendet. Wir benötigen TLS 1.2 und empfehlen TLS 1.3.

• Richten Sie die API und die Protokollierung von Benutzeraktivitäten mit ein AWS CloudTrail.

• Verwenden Sie AWS Verschlüsselungslösungen zusammen mit allen Standardsicherheitskontrollen innerhalb der AWS Dienste.

• Verwenden Sie erweiterte verwaltete Sicherheitsservices wie Amazon Macie, die dabei helfen, in Amazon S3 gespeicherte persönliche Daten zu erkennen und zu schützen.

Wir empfehlen dringend, in Freitextfeldern, z. B. im Feld Name, keine vertraulichen oder sensiblen Informationen wie die E-Mail-Adressen Ihrer Kunden einzugeben.

Welche Daten speichert die SageMaker KI-Inferenzoptimierung

SageMaker Die KI-Inferenzoptimierung speichert die folgenden Datentypen:

• Job-Metadaten — Wenn Sie KI-Benchmark-Jobs oder KI-Empfehlungsjobs erstellen, speichert der Service Metadaten zur Jobkonfiguration wie Jobnamen, Status, Erstellungszeitstempel und Ressourcenkonfigurationsparameter.

• Workload-Konfigurationen — Wenn Sie KI-Workload-Konfigurationen erstellen, speichert der Service die von Ihnen angegebenen Konfigurationsparameter, einschließlich Benchmark-Parameter, Datensatzkonfiguration und Tags.

• Benchmark-Ergebnisse und Empfehlungen — Jobergebnisse wie Leistungskennzahlen, Kostenschätzungen und Bereitstellungsempfehlungen werden als Job-Metadaten innerhalb des Service gespeichert.

SageMaker Bei der KI-Inferenzoptimierung werden Ihre Modellgewichte, Trainingsdaten oder Inferenzergebnisse nicht gespeichert. Ihre Modellartefakte und Benchmark-Ausgabedateien verbleiben in Ihren Amazon S3 S3-Buckets innerhalb Ihres AWS Kontos.

Verschlüsselung im Ruhezustand

SageMaker Die KI-Inferenzoptimierung verschlüsselt standardmäßig alle gespeicherten Daten im Ruhezustand. Job-Metadaten und Workload-Konfigurationen werden in Amazon DynamoDB gespeichert, wobei die Verschlüsselung im Ruhezustand erfolgt. Sie müssen keine Maßnahmen ergreifen, um die Verschlüsselung im Ruhezustand zu aktivieren.

Verschlüsselung während der Übertragung

SageMaker Die KI-Inferenzoptimierung verwendet TLS, um alle Daten während der Übertragung zu verschlüsseln. API-Anfragen an den Dienst werden über HTTPS mit TLS 1.2 oder höher gestellt.

Die gesamte Kommunikation zwischen SageMaker KI-Inferenzoptimierung und anderen AWS Diensten (wie Amazon DynamoDB, AWS Lambda, Amazon S3 und AWS Secrets Manager) verwendet Verbindungen. TLS-encrypted

Richtlinie für den Datenverkehr zwischen Netzwerken

SageMaker API-Endpunkte zur KI-Inferenzoptimierung sind über das öffentliche Internet über HTTPS zugänglich. Sie können VPC-Endpunkte für die SageMaker KI-API verwenden, um den Verkehr zwischen Ihrer VPC und der SageMaker KI-API im AWS Netzwerk aufrechtzuerhalten, ohne das öffentliche Internet zu durchqueren.

Wenn Sie eine VPC-Konfiguration für Ihre KI-Benchmark-Jobs bereitstellen, erstellt der Service Ressourcen innerhalb Ihrer angegebenen VPC-Subnetze und Sicherheitsgruppen.

Identitäts- und Zugriffsverwaltung

Amazon SageMaker AI Inference Optimization verwendet AWS Identity and Access Management (IAM), um den Zugriff auf seine Ressourcen und Abläufe zu kontrollieren.

So funktioniert die SageMaker KI-Inferenzoptimierung mit IAM

SageMaker Der Zugriff auf die KI-Inferenzoptimierung erfolgt über die SageMaker KI-API. Alle API-Aufrufe werden mithilfe von IAM authentifiziert und autorisiert.

Die APIs zur Inferenzoptimierung verwenden den folgenden IAM-Aktionsnamespace:

• sagemaker:CreateAIWorkloadConfig

• sagemaker:DescribeAIWorkloadConfig

• sagemaker:ListAIWorkloadConfigs

• sagemaker:DeleteAIWorkloadConfig

• sagemaker:CreateAIBenchmarkJob

• sagemaker:DescribeAIBenchmarkJob

• sagemaker:ListAIBenchmarkJobs

• sagemaker:StopAIBenchmarkJob

• sagemaker:DeleteAIBenchmarkJob

• sagemaker:CreateAIRecommendationJob

• sagemaker:DescribeAIRecommendationJob

• sagemaker:ListAIRecommendationJobs

• sagemaker:StopAIRecommendationJob

• sagemaker:DeleteAIRecommendationJob

Ausführungsrollen

Wenn Sie einen KI-Benchmark-Job oder einen AI-Empfehlungsjob erstellen, geben Sie eine IAM-Ausführungsrolle (RoleArn) an. Der Service übernimmt diese Rolle, um Vorgänge in Ihrem AWS Konto auszuführen, wie z. B.:

• Erstellung und Verwaltung von SageMaker KI-Schulungsaufträgen, Endpunkten und Optimierungsjobs

• Modellartefakte aus Amazon S3 lesen

• Benchmark-Ergebnisse auf Amazon S3 schreiben

• Über Secrets Manager auf AWS Secrets zugreifen

Die Ausführungsrolle muss über eine Vertrauensrichtlinie verfügen, die es dem SageMaker KI-Dienst ermöglicht, diese zu übernehmen. Weitere Informationen zum Erstellen von SageMaker AI-Ausführungsrollen finden Sie unter SageMaker KI-Rollen.

Isolierung von Ressourcen

SageMaker Die KI-Inferenzoptimierung erzwingt die Isolierung auf Kontoebene. Jede Job- und Workload-Konfiguration ist auf das Konto beschränkt, das sie erstellt hat. AWS Sie können nicht auf Ressourcen zugreifen oder diese ändern, die zu einem anderen AWS Konto gehören.

Alle vom Service erstellten SageMaker KI-Ressourcen (Schulungsjobs, Endpunkte, Optimierungsjobs) werden in Ihrem AWS Konto unter Verwendung Ihrer Ausführungsrolle erstellt und unterliegen den IAM-Richtlinien und Dienstkontingenten Ihres Kontos.

Bewährte Methoden für die Gewährleistung der Sicherheit

Die folgenden bewährten Methoden stellen allgemeine Richtlinien und keine vollständige Sicherheitslösung dar. Da diese bewährten Methoden für Ihre Umgebung möglicherweise nicht angemessen oder ausreichend sind, sollten Sie sie als hilfreiche Überlegungen und nicht als bindend ansehen.

Vorbeugende bewährte Methoden

• Verwenden Sie die geringste Zugriffsberechtigung für IAM-Richtlinien. Gewähren Sie nur die Mindestberechtigungen, die für Benutzer und Ausführungsrollen erforderlich sind. Vermeiden Sie die Verwendung von Aktionen oder Ressourcen mit Platzhaltern (*) in IAM-Richtlinien.

• Verwenden Sie separate Ausführungsrollen für unterschiedliche Workloads. Erstellen Sie spezielle IAM-Ausführungsrollen für Benchmark-Jobs und Empfehlungsjobs, anstatt sich eine einzige Rolle für alle Workloads zu teilen.

• Verwenden Sie AWS Secrets Manager für sensible Werte. Wenn Ihre Workload-Spezifikation sensible Werte wie Hugging Face Face-Zugriffstoken erfordert, verwenden Sie das secrets Feld, um AWS Secrets Manager Manager-Geheimnisse per ARN zu referenzieren, anstatt sie als Klartextparameter zu übergeben.

• Schränken Sie die Vertrauensrichtlinien für Ausführungsrollen ein. Verwendung aws:SourceAccount und aws:SourceArn Bedingungen in Ihren Vertrauensrichtlinien für Ausführungsrollen, um das Problem der verwirrten Stellvertreter zu vermeiden.

• Gewähren Amazon S3 S3-Berechtigungen bestimmten Buckets. Beschränken Sie s3:GetObject die s3:PutObject Berechtigungen auf die spezifischen Amazon S3 S3-Buckets und -Präfixe, die für Modellartefakte und Benchmark-Ausgaben verwendet werden.

• Aktivieren Sie die Amazon S3 S3-Bucket-Verschlüsselung. Stellen Sie sicher, dass für die Amazon S3 S3-Buckets, die für Modellartefakte und Benchmark-Ergebnisse verwendet werden, die serverseitige Verschlüsselung aktiviert ist.

• Verwenden Sie Tags für die Zugriffskontrolle. Wenden Sie Tags auf Ihre KI-Workload-Konfigurationen, Benchmark-Jobs und Empfehlungsjobs an. Sie können tagbasierte Bedingungen in IAM-Richtlinien verwenden, um den Zugriff auf bestimmte Ressourcen zu kontrollieren.

Bewährte Methoden für Detective

• Aktivieren AWS CloudTrail. CloudTrail bietet eine Aufzeichnung aller SageMaker KI-API-Aufrufe, die in Ihrem Konto getätigt wurden, einschließlich Operationen zur Inferenzoptimierung.

• Überwachen Sie mit Amazon CloudWatch. Verwenden Sie die CloudWatch Kennzahlen und Alarme von Amazon, um den Status und die Leistung Ihrer Benchmark- und Empfehlungsjobs zu überwachen.

• Überprüfen Sie die Ergebnisse von IAM Access Analyzer. Verwenden Sie IAM Access Analyzer, um IAM-Richtlinien zu identifizieren, die einen zu breiten Zugriff auf Ihre KI-Ressourcen gewähren. SageMaker

• Aktivieren Sie die Amazon S3 S3-Zugriffsprotokollierung. Aktivieren Sie die Serverzugriffsprotokollierung für Amazon S3 S3-Buckets, die für Modellartefakte und Benchmark-Ergebnisse verwendet werden, um Zugriffsmuster zu verfolgen.