Modèles de sources et de contrats de licence

Amazon SageMaker JumpStart donne accès à des centaines de modèles de fondations propriétaires et accessibles au public provenant de sources et de partenaires tiers. Vous pouvez explorer la sélection du modèle de JumpStart base directement dans la SageMaker console, Studio ou Studio Classic.

Licences et sources de modèle

Amazon SageMaker JumpStart fournit un accès à la fois à des modèles de fondation accessibles au public et à des modèles propriétaires. Les modèles de fondation sont intégrés et gérés par des fournisseurs tiers open source et propriétaires. En tant que tels, ils sont publiés sous différentes licences désignées par la source du modèle. Assurez-vous de consulter la licence de tous les modèles de fondation que vous utilisez. Il vous incombe de vérifier et de respecter les contrats de licence applicables et de vous assurer qu'ils sont acceptables pour votre cas d'utilisation avant de télécharger ou d'utiliser le contenu. Voici quelques exemples de licences de modèles de fondation courants :

• Alexa Teacher Model

• Apache 2.0

• BigScience Licence Responsible AI v1.0

• Licence CreativeML Open RAIL++-M

De même, pour les modèles de fondation propriétaires, assurez-vous de consulter et de respecter les conditions d'utilisation et les directives d'utilisation du fournisseur de modèle. Si vous avez des questions concernant les informations de licence pour un modèle propriétaire spécifique, contactez directement le fournisseur de modèle. Vous trouverez les coordonnées du fournisseur de modèle dans l'onglet Support sur la page de chaque modèle dans AWS Marketplace.

Contrats de licence de l'utilisateur final

Certains modèles de JumpStart base nécessitent l'acceptation explicite d'un contrat de licence utilisateur final (EULA) avant utilisation.

Acceptation du CLUF dans Amazon Studio SageMaker

Vous pouvez être invité à accepter un contrat de licence d'utilisateur final avant de peaufiner, de déployer ou d'évaluer un modèle de JumpStart base dans Studio. Pour commencer à utiliser les modèles de JumpStart base dans Studio, voirUtiliser des modèles de base dans Studio.

Important

Depuis le 30 novembre 2023, l'expérience Amazon SageMaker Studio précédente s'appelle désormais Amazon SageMaker Studio Classic. La section suivante est spécifique à l'utilisation de l'expérience Studio mise à jour. Pour plus d'informations sur l'utilisation de l'application Studio Classic, consultezAmazon SageMaker Studio classique.

Certains modèles de JumpStart base nécessitent l'acceptation d'un contrat de licence utilisateur final avant le déploiement. Si cela s'applique au modèle de base que vous choisissez d'utiliser, Studio affiche une fenêtre contenant le contenu du CLUF. Il vous incombe de vérifier et de respecter les contrats de licence applicables et de vous assurer qu'ils sont acceptables pour votre cas d'utilisation avant de télécharger ou d'utiliser un modèle.

Acceptation du CLUF dans Amazon SageMaker Studio Classic

Vous pouvez être invité à accepter un contrat de licence utilisateur final avant de déployer un modèle de JumpStart base ou d'ouvrir un bloc-notes de modèle de JumpStart base dans Studio Classic. Pour commencer à utiliser les modèles de JumpStart base dans Studio Classic, consultezUtiliser des modèles de base dans Amazon SageMaker Studio Classic.

Important

Depuis le 30 novembre 2023, l'expérience Amazon SageMaker Studio précédente s'appelle désormais Amazon SageMaker Studio Classic. La section suivante est spécifique à l'utilisation de l'application Studio Classic. Pour plus d'informations sur l'utilisation de l'expérience Studio mise à jour, consultezAmazon SageMaker Studio.

Certains modèles de JumpStart base nécessitent l'acceptation d'un contrat de licence utilisateur final avant le déploiement. Si cela s'applique au modèle de base que vous choisissez d'utiliser, Studio Classic vous invite à ouvrir une fenêtre intitulée Vérifier le contrat de licence utilisateur final (EULA) et la politique d'utilisation acceptable (AUP) ci-dessous une fois que vous avez choisi Déployer ou Ouvrir un bloc-notes. Il vous incombe de vérifier et de respecter les contrats de licence applicables et de vous assurer qu'ils sont acceptables pour votre cas d'utilisation avant de télécharger ou d'utiliser un modèle.

Acceptation du CLUF avec le SDK SageMaker Python

Les sections suivantes expliquent comment déclarer explicitement l'acceptation du CLUF lors du déploiement ou de la mise au point d'un JumpStart modèle avec le SageMaker Python SDK. Pour plus d'informations sur la prise en main des modèles de JumpStart base à l'aide du SageMaker Python SDK, consultezUtiliser des modèles de base avec le SageMaker Python SDK.

Avant de commencer, assurez-vous d'effectuer les opérations suivantes :

• Effectuez une mise à niveau vers la dernière version du modèle que vous utilisez.

• Installez la dernière version du SageMaker Python SDK.

Important

Pour utiliser le flux de travail suivant, vous devez avoir installé la version 2.198.0 ou ultérieure du SDK. SageMaker Python

Acceptation du CLUF lors du déploiement d'un modèle JumpStart

Pour les modèles qui nécessitent l'acceptation d'un contrat de licence utilisateur final, vous devez déclarer explicitement l'acceptation du CLUF lors du déploiement de votre JumpStart modèle.

from sagemaker.jumpstart.model import JumpStartModel
model_id = "meta-textgeneration-llama-2-13b"
my_model = JumpStartModel(model_id=model_id)

# Declare EULA acceptance when deploying your JumpStart model
predictor = my_model.deploy(accept_eula=True)

La valeur de accept_eula est définie sur None par défaut et doit être explicitement redéfinie sur True afin d'accepter le contrat de licence d'utilisateur final. Pour plus d'informations, consultez JumpStartModel.

Acceptation du CLUF lors de la mise au point d'un modèle JumpStart

Pour affiner les modèles qui nécessitent l'acceptation d'un contrat de licence utilisateur final, vous devez explicitement déclarer l'acceptation du CLUF lors de la définition de votre estimateur. JumpStart Après avoir affiné un modèle préentraîné, les poids du modèle d'origine sont modifiés. Par conséquent, lorsque vous déployez le modèle affiné ultérieurement, il n'est pas nécessaire d'accepter un EULA.

from sagemaker.jumpstart.estimator import JumpStartEstimator
model_id = "meta-textgeneration-llama-2-13b"

# Declare EULA acceptance when defining your JumpStart estimator
estimator = JumpStartEstimator(model_id=model_id, environment={"accept_eula": "true"})
estimator.fit(
{"train": training_dataset_s3_path, "validation": validation_dataset_s3_path}
)

La accept_eula valeur est None par défaut et doit être explicitement redéfinie comme "true" dans l'environnement de l'estimateur afin d'accepter le contrat de licence de l'utilisateur final. Pour plus d'informations, consultez JumpStartEstimator.

Versions du SageMaker Python SDK d'acceptation du CLUF antérieures à 2.198.0

Important

Lorsque vous utilisez des versions antérieures à 2.198.0 du SageMaker Python SDK, vous devez utiliser la SageMaker Predictor classe pour accepter un EULA de modèle.

Après avoir déployé un modèle de JumpStart base par programmation à l'aide du SageMaker Python SDK, vous pouvez exécuter une inférence sur votre point de terminaison déployé avec la classe. SageMaker Predictor Pour les modèles qui nécessitent l'acceptation d'un contrat de licence utilisateur final, vous devez explicitement déclarer l'acceptation du CLUF lors de votre appel au Predictor cours :

predictor.predict(payload, custom_attributes="accept_eula=true")

La valeur de accept_eula est définie sur false par défaut et doit être explicitement redéfinie sur true afin d'accepter le contrat de licence d'utilisateur final. Le prédicteur renvoie une erreur si vous essayez d'exécuter l'inférence alors qu'il accept_eula est défini sur. false Pour plus d'informations sur la prise en main des modèles de JumpStart base à l'aide du SageMaker Python SDK, consultezUtiliser des modèles de base avec le SageMaker Python SDK.

Important

Le custom_attributes paramètre accepte les paires clé-valeur au format. "key1=value1;key2=value2" Si vous utilisez la même clé plusieurs fois, le serveur d'inférence utilise la dernière valeur associée à la clé. Par exemple, si vous transmettez "accept_eula=false;accept_eula=true" au paramètre custom_attributes, le serveur d'inférence associe la valeur true à la clé accept_eula.