Modellquellen und Lizenzvereinbarungen - Amazon SageMaker

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Modellquellen und Lizenzvereinbarungen

Amazon SageMaker JumpStart bietet Zugriff auf Hunderte von öffentlich verfügbaren und proprietären Stiftungsmodellen von Drittanbietern und Partnern. Sie können die Auswahl des JumpStart Foundation-Modells direkt in der SageMaker Konsole, Studio oder Studio Classic erkunden.

Lizenzen und Modellquellen

Amazon SageMaker JumpStart bietet Zugriff sowohl auf öffentlich verfügbare als auch auf proprietäre Stiftungsmodelle. Grundlagenmodelle werden von externen Open-Source-Anbietern und proprietären Anbietern integriert und verwaltet. Daher werden sie unter verschiedenen Lizenzen veröffentlicht, die von der Modellquelle angegeben wurden. Achten Sie darauf, die Lizenz für jedes von Ihnen verwendete Grundlagenmodell zu überprüfen. Sie sind dafür verantwortlich, alle geltenden Lizenzbedingungen zu überprüfen und einzuhalten sowie sicherzustellen, dass sie für Ihren Anwendungsfall akzeptabel sind, bevor Sie den Inhalt herunterladen oder verwenden. Einige Beispiele für gängige Grundlagenmodell-Lizenzen:

  • Alexa Teacher Model

  • Apache 2.0

  • BigScience Lizenz für verantwortungsvolle KI v1.0

  • CreativeML Open RAIL++-M-Lizenz

Achten Sie auch bei allen proprietären Grundlagenmodellen darauf, die Nutzungsbedingungen und Nutzungsrichtlinien des Modellanbieters zu überprüfen und einzuhalten. Wenn Sie Fragen zu den Lizenzinformationen für ein bestimmtes proprietäres Modell haben, wenden Sie sich direkt an den Modellanbieter. Die Kontaktinformationen des Modellanbieters finden Sie auf der Registerkarte Support auf jeder Modellseite in AWS Marketplace.

Endbenutzer-Lizenzvereinbarungen

Einige JumpStart Foundation-Modelle erfordern vor der Verwendung die ausdrückliche Annahme einer Endbenutzer-Lizenzvereinbarung (EULA).

EULA-Akzeptanz in Amazon Studio SageMaker

Möglicherweise werden Sie aufgefordert, eine Endbenutzer-Lizenzvereinbarung zu akzeptieren, bevor Sie ein Basismodell in Studio optimieren, bereitstellen oder evaluieren JumpStart können. Informationen zu den ersten Schritten mit JumpStart Foundation-Modellen in Studio finden Sie unter. Verwenden Sie Foundation-Modelle in Studio

Wichtig

Seit dem 30. November 2023 heißt das vorherige Amazon SageMaker Studio-Erlebnis jetzt Amazon SageMaker Studio Classic. Der folgende Abschnitt bezieht sich speziell auf die Nutzung des aktualisierten Studio-Erlebnisses. Informationen zur Verwendung der Studio Classic-Anwendung finden Sie unterAmazon SageMaker Studio Klassisch.

Bei einigen JumpStart Foundation-Modellen ist vor der Bereitstellung die Annahme einer Endbenutzer-Lizenzvereinbarung erforderlich. Wenn dies auf das Foundation-Modell zutrifft, das Sie verwenden möchten, zeigt Studio ein Fenster mit dem Inhalt der Endbenutzer-Lizenzvereinbarung an. Sie sind dafür verantwortlich, alle geltenden Lizenzbedingungen zu überprüfen und einzuhalten sowie sicherzustellen, dass sie für Ihren Anwendungsfall akzeptabel sind, bevor Sie ein Model herunterladen oder verwenden.

EULA-Akzeptanz in Amazon SageMaker Studio Classic

Möglicherweise werden Sie aufgefordert, eine Endbenutzer-Lizenzvereinbarung zu akzeptieren, bevor Sie ein JumpStart Foundation-Modell bereitstellen oder ein JumpStart Foundation-Model-Notizbuch in Studio Classic öffnen. Informationen zu den ersten Schritten mit JumpStart Foundation-Modellen in Studio Classic finden Sie unterVerwenden Sie Fundamentmodelle in Amazon SageMaker Studio Classic.

Wichtig

Seit dem 30. November 2023 heißt das vorherige Amazon SageMaker Studio-Erlebnis jetzt Amazon SageMaker Studio Classic. Der folgende Abschnitt bezieht sich speziell auf die Verwendung der Studio Classic-Anwendung. Informationen zur Verwendung der aktualisierten Studio-Oberfläche finden Sie unterAmazon SageMaker Studio.

Bei einigen JumpStart Foundation-Modellen ist vor der Bereitstellung die Annahme einer Endbenutzer-Lizenzvereinbarung erforderlich. Wenn dies auf das Foundation-Modell zutrifft, das Sie verwenden möchten, zeigt Studio Classic ein Fenster mit dem Titel Endbenutzer-Lizenzvertrag (EULA) und Nutzungsbedingungen (AUP) überprüfen an, nachdem Sie entweder Bereitstellen oder Notizbuch öffnen ausgewählt haben. Sie sind dafür verantwortlich, alle geltenden Lizenzbedingungen zu überprüfen und einzuhalten sowie sicherzustellen, dass sie für Ihren Anwendungsfall akzeptabel sind, bevor Sie ein Model herunterladen oder verwenden.

Annahme der Endbenutzer-Lizenzvereinbarung mit dem SDK SageMaker Python

In den folgenden Abschnitten erfahren Sie, wie Sie bei der Bereitstellung oder Feinabstimmung eines JumpStart Modells mit dem SDK explizit die EULA-Akzeptanz deklarieren. SageMaker Python Weitere Informationen zu den ersten Schritten mit JumpStart Foundation-Modellen mithilfe des SageMaker Python SDK finden Sie unter. Verwenden Sie Foundation-Modelle mit dem SDK SageMaker Python

Bevor Sie beginnen, stellen Sie sicher, dass Sie Folgendes tun:

  • Führen Sie ein Upgrade auf die neueste Version des Modells durch, das Sie verwenden.

  • Installieren Sie die neueste Version des SageMaker Python SDK.

Wichtig

Um den folgenden Workflow verwenden zu können, muss Version 2.198.0 oder höher des SageMaker Python SDK installiert sein.

Akzeptanz der Endbenutzer-Lizenzvereinbarung bei der Bereitstellung eines Modells JumpStart

Bei Modellen, die die Annahme einer Endbenutzer-Lizenzvereinbarung erfordern, müssen Sie bei der Bereitstellung Ihres Modells ausdrücklich die Zustimmung zur EULA erklären. JumpStart

from sagemaker.jumpstart.model import JumpStartModel model_id = "meta-textgeneration-llama-2-13b" my_model = JumpStartModel(model_id=model_id) # Declare EULA acceptance when deploying your JumpStart model predictor = my_model.deploy(accept_eula=True)

Der accept_eula-Wert ist standardmäßig None und muss explizit als True neu definiert werden, um die Endbenutzer-Lizenzvereinbarung anzunehmen. Weitere Informationen finden Sie unter. JumpStartModel

Akzeptanz der EULA bei der Feinabstimmung eines Modells JumpStart

Bei der Feinabstimmung von Modellen, die die Annahme einer Endbenutzer-Lizenzvereinbarung erfordern, müssen Sie bei der Definition Ihres Schätzers ausdrücklich die Zustimmung zur EULA erklären. JumpStart Nach der Feinabstimmung eines vorab trainierten Modells werden die Gewichte des Originalmodells geändert. Wenn Sie das fein abgestimmte Modell später bereitstellen, müssen Sie daher keine EULA akzeptieren.

from sagemaker.jumpstart.estimator import JumpStartEstimator model_id = "meta-textgeneration-llama-2-13b" # Declare EULA acceptance when defining your JumpStart estimator estimator = JumpStartEstimator(model_id=model_id, environment={"accept_eula": "true"}) estimator.fit( {"train": training_dataset_s3_path, "validation": validation_dataset_s3_path} )

Der accept_eula Wert ist None standardmäßig und muss wie "true" in der Estimator-Umgebung explizit neu definiert werden, um die Endbenutzer-Lizenzvereinbarung zu akzeptieren. Weitere Informationen finden Sie unter. JumpStartEstimator

Versionen des EULA Acceptance SageMaker Python SDK vor 2.198.0

Wichtig

Wenn Sie Versionen des SageMaker Python SDK vor 2.198.0 verwenden, müssen Sie die SageMaker Predictor Klasse verwenden, um eine Modell-EULA zu akzeptieren.

Nachdem Sie ein JumpStart Foundation-Modell mithilfe des SageMaker Python SDK programmgesteuert bereitgestellt haben, können Sie mit der Klasse Inferenz für Ihren bereitgestellten Endpunkt ausführen. SageMaker Predictor Bei Modellen, die die Annahme einer Endbenutzer-Lizenzvereinbarung erfordern, müssen Sie in Ihrem Call to the Class ausdrücklich die Annahme der EULA erklären: Predictor

predictor.predict(payload, custom_attributes="accept_eula=true")

Der accept_eula-Wert ist standardmäßig false und muss explizit als true neu definiert werden, um die Endbenutzer-Lizenzvereinbarung anzunehmen. Der Prädiktor gibt einen Fehler zurück, wenn Sie versuchen, eine Inferenz auszuführen, während er accept_eula auf gesetzt ist. false Weitere Informationen zu den ersten Schritten mit JumpStart Foundation-Modellen mithilfe des SageMaker Python SDK finden Sie unter. Verwenden Sie Foundation-Modelle mit dem SDK SageMaker Python

Wichtig

Der custom_attributes Parameter akzeptiert Schlüssel-Wert-Paare im Format. "key1=value1;key2=value2" Wenn Sie denselben Schlüssel mehrmals verwenden, verwendet der Inferenzserver den letzten Wert, der dem Schlüssel zugeordnet ist. Wenn Sie beispielsweise "accept_eula=false;accept_eula=true" an den Parameter custom_attributes übergeben, ordnet der Inferenzserver den Wert true dem Schlüssel accept_eula zu.