Modellquellen und Lizenzvereinbarungen

Amazon SageMaker JumpStart bietet Zugriff auf Hunderte von öffentlich verfügbaren und proprietären Stiftungsmodellen von Drittanbietern und Partnern. Sie können die Auswahl des JumpStart Fundamentmodells direkt in der SageMaker AI-Konsole, Studio oder Studio Classic erkunden.

Lizenzen und Modellquellen

Amazon SageMaker JumpStart bietet Zugriff sowohl auf öffentlich verfügbare als auch auf firmeneigene Stiftungsmodelle. Grundlagenmodelle werden von externen Open-Source-Anbietern und proprietären Anbietern integriert und verwaltet. Daher werden sie unter verschiedenen Lizenzen veröffentlicht, die von der Modellquelle angegeben wurden. Achten Sie darauf, die Lizenz für jedes von Ihnen verwendete Grundlagenmodell zu überprüfen. Sie sind dafür verantwortlich, alle geltenden Lizenzbedingungen zu überprüfen und einzuhalten sowie sicherzustellen, dass sie für Ihren Anwendungsfall akzeptabel sind, bevor Sie den Inhalt herunterladen oder verwenden. Einige Beispiele für gängige Grundlagenmodell-Lizenzen:

• Alexa Teacher Model

• Apache 2.0

• BigScience Lizenz für verantwortungsvolle KI v1.0

• CreativeML Open RAIL++-M-Lizenz

Achten Sie auch bei allen proprietären Grundlagenmodellen darauf, die Nutzungsbedingungen und Nutzungsrichtlinien des Modellanbieters zu überprüfen und einzuhalten. Wenn Sie Fragen zu den Lizenzinformationen für ein bestimmtes proprietäres Modell haben, wenden Sie sich direkt an den Modellanbieter. Die Kontaktinformationen des Modellanbieters finden Sie auf der Registerkarte Support auf jeder Modellseite in AWS Marketplace.

Endbenutzer-Lizenzvereinbarungen

Einige JumpStart Foundation-Modelle erfordern vor der Verwendung die ausdrückliche Annahme einer Endbenutzer-Lizenzvereinbarung (EULA).

EULA-Akzeptanz in Amazon Studio SageMaker

Möglicherweise werden Sie aufgefordert, eine Endbenutzer-Lizenzvereinbarung zu akzeptieren, bevor Sie ein Basismodell in Studio optimieren, bereitstellen oder evaluieren JumpStart können. Informationen zu den ersten Schritten mit JumpStart Foundation-Modellen in Studio finden Sie unter. Verwenden Sie Foundation-Modelle in Studio

Wichtig

Seit dem 30. November 2023 heißt das vorherige Amazon SageMaker Studio-Erlebnis jetzt Amazon SageMaker Studio Classic. Der folgende Abschnitt bezieht sich speziell auf die Nutzung des aktualisierten Studio-Erlebnisses. Informationen zur Verwendung der Studio Classic-Anwendung finden Sie unterAmazon SageMaker Studio Classic.

Bei einigen JumpStart Foundation-Modellen muss vor der Bereitstellung eine Endbenutzer-Lizenzvereinbarung akzeptiert werden. Wenn dies auf das Foundation-Modell zutrifft, das Sie verwenden möchten, zeigt Studio ein Fenster mit dem EULA-Inhalt an. Sie sind dafür verantwortlich, alle geltenden Lizenzbedingungen zu überprüfen und einzuhalten sowie sicherzustellen, dass sie für Ihren Anwendungsfall akzeptabel sind, bevor Sie ein Model herunterladen oder verwenden.

EULA-Akzeptanz in Amazon SageMaker Studio Classic

Möglicherweise werden Sie aufgefordert, eine Endbenutzer-Lizenzvereinbarung zu akzeptieren, bevor Sie ein JumpStart Foundation-Modell bereitstellen oder ein JumpStart Foundation-Model-Notizbuch in Studio Classic öffnen. Informationen zu den ersten Schritten mit JumpStart Foundation-Modellen in Studio Classic finden Sie unterVerwenden Sie Fundamentmodelle in Amazon SageMaker Studio Classic.

Wichtig

Seit dem 30. November 2023 heißt das vorherige Amazon SageMaker Studio-Erlebnis jetzt Amazon SageMaker Studio Classic. Der folgende Abschnitt bezieht sich speziell auf die Verwendung der Studio Classic-Anwendung. Informationen zur Verwendung der aktualisierten Studio-Oberfläche finden Sie unterAmazon SageMaker Studio.

Bei einigen JumpStart Basismodellen muss vor der Bereitstellung eine Endbenutzer-Lizenzvereinbarung akzeptiert werden. Wenn dies auf das Foundation-Modell zutrifft, das Sie verwenden möchten, zeigt Studio Classic ein Fenster mit dem Titel Endbenutzer-Lizenzvertrag (EULA) und Nutzungsbedingungen (AUP) überprüfen an, nachdem Sie entweder Bereitstellen oder Notizbuch öffnen ausgewählt haben. Sie sind dafür verantwortlich, alle geltenden Lizenzbedingungen zu überprüfen und einzuhalten sowie sicherzustellen, dass sie für Ihren Anwendungsfall akzeptabel sind, bevor Sie ein Model herunterladen oder verwenden.

Annahme des Endbenutzer-Lizenzvertrags mit dem SageMaker Python SDK

In den folgenden Abschnitten erfahren Sie, wie Sie bei der Bereitstellung oder Feinabstimmung eines JumpStart Modells mit dem explizit die EULA-Akzeptanz deklarieren SageMaker Python SDK. Weitere Informationen zu den ersten Schritten mit JumpStart Foundation-Modellen finden Sie unter SageMaker Python SDK finden Sie unterVerwenden Sie Fundamentmodelle mit SageMaker Python SDK.

Bevor Sie beginnen, stellen Sie sicher, dass Sie Folgendes tun:

• Führen Sie ein Upgrade auf die neueste Version des Modells durch, das Sie verwenden.

• Installieren Sie die neueste Version von SageMaker Python SDK.

Wichtig

Um den folgenden Workflow verwenden zu können, benötigen Sie Version 2.198.0 oder höher von SageMaker Python SDK installiert.

EULA-Akzeptanz bei der Bereitstellung eines Modells JumpStart

Bei Modellen, die die Annahme einer Endbenutzer-Lizenzvereinbarung erfordern, müssen Sie bei der Bereitstellung Ihres Modells ausdrücklich die Zustimmung zur EULA erklären. JumpStart

from sagemaker.jumpstart.model import JumpStartModel
model_id = "meta-textgeneration-llama-2-13b"
my_model = JumpStartModel(model_id=model_id)

# Declare EULA acceptance when deploying your JumpStart model
predictor = my_model.deploy(accept_eula=True)

Der accept_eula-Wert ist standardmäßig None und muss explizit als True neu definiert werden, um die Endbenutzer-Lizenzvereinbarung anzunehmen. Weitere Informationen finden Sie unter JumpStartModel.

Annahme der EULA bei der Feinabstimmung eines Modells JumpStart

Bei der Feinabstimmung von Modellen, die die Annahme einer Endbenutzer-Lizenzvereinbarung erfordern, müssen Sie bei der Ausführung der Methode für Ihren Kalkulator ausdrücklich die fit() Zustimmung zur Endbenutzer-Lizenzvereinbarung erklären. JumpStart Nach der Feinabstimmung eines vorab trainierten Modells werden die Gewichtungen des ursprünglichen Modells geändert. Wenn Sie das fein abgestimmte Modell später bereitstellen, müssen Sie daher keine EULA akzeptieren.

Anmerkung

Die folgenden Beispielsätze. accept_eula=False Sie sollten den Wert manuell auf ändern, True um die EULA zu akzeptieren.

from sagemaker.jumpstart.estimator import JumpStartEstimator
model_id = "meta-textgeneration-llama-2-13b"

# Declare EULA acceptance when defining your JumpStart estimator
estimator = JumpStartEstimator(model_id=model_id)
estimator.fit(accept_eula=False,
{"train": training_dataset_s3_path, "validation": validation_dataset_s3_path}
)

Der accept_eula Wert ist None standardmäßig und muss "true" innerhalb der fit() Methode explizit neu definiert werden, um die Endbenutzer-Lizenzvereinbarung zu akzeptieren. Weitere Informationen finden Sie unter JumpStartEstimator.

Annahme der EULA SageMaker Python SDK-Versionen vor 2.198.0

Wichtig

Bei Verwendung von Versionen vor 2.198.0 von SageMaker Python SDK: Sie müssen die SageMaker Predictor Klasse verwenden, um eine Modell-EULA zu akzeptieren.

Nach der programmgesteuerten Bereitstellung eines JumpStart Foundation-Modells mithilfe von SageMaker Python Mit dem SDK können Sie mit der Klasse Inferenz für Ihren bereitgestellten Endpunkt ausführen. SageMaker Predictor Bei Modellen, die die Annahme einer Endbenutzer-Lizenzvereinbarung erfordern, müssen Sie in Ihrem Call to the Class ausdrücklich die Annahme der EULA erklären: Predictor

predictor.predict(payload, custom_attributes="accept_eula=true")

Der accept_eula-Wert ist standardmäßig false und muss explizit als true neu definiert werden, um die Endbenutzer-Lizenzvereinbarung anzunehmen. Der Prädiktor gibt einen Fehler zurück, wenn Sie versuchen, eine Inferenz auszuführen, während er accept_eula auf gesetzt ist. false Weitere Informationen zu den ersten Schritten mit JumpStart Fundamentmodellen finden Sie unter SageMaker Python SDK finden Sie unterVerwenden Sie Fundamentmodelle mit SageMaker Python SDK.

Wichtig

Der custom_attributes Parameter akzeptiert Schlüssel-Wert-Paare im Format. "key1=value1;key2=value2" Wenn Sie denselben Schlüssel mehrmals verwenden, verwendet der Inferenzserver den letzten Wert, der dem Schlüssel zugeordnet ist. Wenn Sie beispielsweise "accept_eula=false;accept_eula=true" an den Parameter custom_attributes übergeben, ordnet der Inferenzserver den Wert true dem Schlüssel accept_eula zu.