Voraussetzungen

Bevor Sie einen Serverless-Endpunkt erstellen können, müssen die folgenden Voraussetzungen erfüllt sein.

1. Richten Sie ein Konto ein. AWS Sie benötigen zunächst ein AWS Konto und einen AWS Identity and Access Management Administratorbenutzer. Anweisungen zur Einrichtung eines AWS Kontos finden Sie unter Wie erstelle und aktiviere ich ein neues AWS Konto? . Anweisungen dazu, wie Sie Ihr Konto mit einem IAM-Benutzer als Administrator sichern, finden Sie unter Erstellen Ihres ersten IAM-Benutzers als Administrator und einer Benutzergruppe im IAM-Benutzerhandbuch.

2. Erstellen Sie einen Amazon-S3-Bucket. Sie verwenden einen Amazon-S3-Bucket, um Ihre Modellartefakte zu speichern. Wie Sie einen Bucket erstellen, erfahren Sie unter So erstellen Sie Ihren ersten S3-Bucket im Amazon S3-Benutzerhandbuch.

3. Laden Sie Ihre Modellartefakte in Ihren S3-Bucket hoch. Wie Sie Ihr Modell in Ihren Bucket hochladen, erfahren Sie unter So laden Sie ein Objekt in Ihren Bucket hoch im Amazon S3-Benutzerhandbuch.

4. Erstellen Sie eine IAM-Rolle für Amazon SageMaker. Amazon SageMaker benötigt Zugriff auf den S3-Bucket, in dem Ihr Modell gespeichert ist. Erstellen Sie eine IAM-Rolle mit einer Richtlinie, die SageMaker Lesezugriff auf Ihren Bucket gewährt. Das folgende Verfahren zeigt, wie Sie eine Rolle in der Konsole erstellen. Sie können jedoch auch die CreateRoleAPI aus dem IAM-Benutzerhandbuch verwenden. Wie Sie Ihrer Rolle je nach Anwendungsfall detailliertere Berechtigungen zuweisen können, erfahren Sie unter Wie verwendet man SageMaker Ausführungsrollen.

   1. Melden Sie sich bei der IAM-Konsole an.

   2. Wählen Sie auf der Registerkarte Navigation Rollen aus.

   3. Wählen Sie Create Role (Rolle erstellen) aus.

   4. Wählen Sie unter Typ der vertrauenswürdigen Entität auswählen die Option AWS Dienst aus und wählen Sie SageMakerdann.

   5. Wählen Sie Weiter: Berechtigungen und dann Weiter: Tags aus.

   6. (Optional) Sie können Tags als Schlüssel-Wert-Paare hinzufügen, wenn Sie Metadaten für die Rolle haben möchten.

   7. Wählen Sie Weiter: Prüfen aus.

   8. Geben Sie unter Rollenname einen Namen für die neue Rolle ein, der innerhalb Ihres AWS Kontos eindeutig ist. Nachdem Sie die Rolle erstellt haben, können Sie den Rollennamen nicht mehr bearbeiten.

   9. (Optional) Geben Sie im Feld Role description (Rollenbeschreibung) eine Beschreibung für die neue Rolle ein.

   10. Wählen Sie Rolle erstellen aus.

5. Ordnen Sie Ihrer SageMaker Rolle S3-Bucket-Berechtigungen zu. Nachdem Sie eine IAM-Rolle erstellt haben, fügen Sie eine Richtlinie hinzu, die den Zugriff auf den S3-Bucket mit Ihren Modellartefakten SageMaker gestattet.

   1. Wählen Sie auf der Registerkarte IAM-Konsolennavigation Rollen aus.

   2. Suchen Sie auf der Liste der Rollen anhand des Namens nach der Rolle, die Sie im vorherigen Schritt erstellt haben.

   3. Wählen Sie Ihre Rolle aus und anschließend Richtlinien anhängen.

   4. Wählen Sie unter Berechtigungen anfügen) Richtlinie erstellen aus.

   5. Wählen Sie in der Ansicht Richtlinie erstellen die Registerkarte JSON aus.

   6. Fügen Sie im JSON-Editor die folgende Richtlinienanweisung hinzu. Vergewissern Sie sich, dass Sie <your-bucket-name> durch den Namen des S3-Buckets ersetzen, in dem Ihre Modellartefakte gespeichert sind. Wenn Sie den Zugriff auf einen bestimmten Ordner oder eine bestimmte Datei in Ihrem Bucket einschränken möchten, können Sie auch den Amazon S3-Ordnerpfad angeben, z. B. <your-bucket-name>/<model-folder>.

      {
          "Version": "2012-10-17",
          "Statement": [
              {
                  "Sid": "VisualEditor0",
                  "Effect": "Allow",
                  "Action": "s3:GetObject",
                  "Resource": "arn:aws:s3:::<your-bucket-name>/*"
              }
          ]
      }

   7. Wählen Sie Weiter: Markierungen.

   8. (Optional) Fügen Sie Metadaten in Form von Schlüssel-Wert-Paare zur Richtlinie hinzu.

   9. Wählen Sie Weiter: Prüfen aus.

   10. Geben Sie unter Name einen Namen für die Richtlinie ein.

   11. (Optional) Geben Sie eine Beschreibung für die Richtlinie ein.

   12. Wählen Sie Richtlinie erstellen aus.

   13. Nachdem Sie die Richtlinie erstellt haben, kehren Sie in der IAM-Konsole zu Rollen zurück und wählen Sie Ihre SageMaker Rolle aus.

   14. Wählen Sie Richtlinien anfügen.

   15. Suchen Sie unter Berechtigungen anhängen nach der Richtlinie, die Sie erstellt haben, nach dem Namen. Wählen Sie diese aus und wählen Sie dann Richtlinie anhängen.

6. Wählen Sie ein vorgefertigtes Docker-Container-Image aus oder bringen Sie Ihr eigenes mit. Der von Ihnen gewählte Container dient der Inferenz auf Ihrem Endpunkt. SageMaker bietet Container für integrierte Algorithmen und vorgefertigte Docker-Images für einige der gängigsten Frameworks für maschinelles Lernen wie Apache MXNet, TensorFlow PyTorch, und Chainer. Eine vollständige Liste der verfügbaren SageMaker Images finden Sie unter Verfügbare Deep Learning Containers Learning-Container-Images.

   Wenn keiner der vorhandenen SageMaker Container Ihren Anforderungen entspricht, müssen Sie möglicherweise Ihren eigenen Docker-Container erstellen. Informationen dazu, wie Sie Ihr Docker-Image erstellen und es kompatibel machen SageMaker, finden Sie unter. Verwenden Ihres eigenen Inferenzcodes Um Ihren Container mit einem serverlosen Endpunkt zu verwenden, muss sich das Container-Image in einem Amazon ECR-Repository innerhalb desselben AWS Kontos befinden, das den Endpunkt erstellt.

7. (Optional) Registrieren Sie Ihr Modell bei der Model Registry. SageMaker Model Registry hilft Ihnen dabei, Versionen Ihrer Modelle für die Verwendung in ML-Pipelines zu katalogisieren und zu verwalten. Wie Sie eine Version Ihres Modells registrieren können, erfahren Sie unter Erstellen einer Modellgruppe und Registrieren Sie eine Modellversion. Ein Beispiel für einen Workflow mit Model Registry und Serverless Inference finden Sie im folgenden Beispiel-Notebook.

8. (Optional) Bringen Sie einen AWS KMS Schlüssel mit. Bei der Einrichtung eines serverlosen Endpunkts haben Sie die Möglichkeit, einen KMS-Schlüssel anzugeben, der zur Verschlüsselung Ihres Amazon ECR-Images SageMaker verwendet wird. Beachten Sie, dass die Schlüsselrichtlinie für den KMS-Schlüssel Zugriff auf die IAM-Rolle gewähren muss, die Sie bei der Einrichtung Ihres Endpunktes angeben. Weitere Informationen zu KMS-Schlüsseln finden Sie im AWS Key Management Service Entwicklerhandbuch.