Fontes de modelos e contratos de licença

SageMaker JumpStart A Amazon fornece acesso a centenas de modelos de fundação proprietários e disponíveis publicamente de fontes e parceiros terceirizados. Você pode explorar a seleção do modelo JumpStart básico diretamente no SageMaker console, no Studio ou no Studio Classic.

Licenças e fontes de modelos

SageMaker JumpStart A Amazon fornece acesso a modelos de fundação disponíveis ao público e proprietários. Os modelos de base são integrados e mantidos por fornecedores proprietários e de código aberto terceirizados. Dessa forma, eles são lançados sob licenças diferentes, conforme designado pela fonte do modelo. Certifique-se de revisar a licença de qualquer modelo de base que você usa. Você é responsável por revisar e cumprir todos os termos de licença aplicáveis e garantir que eles sejam aceitáveis para seu caso de uso antes de baixar ou usar o conteúdo. Os seguintes exemplos demonstram as licenças comuns do modelo de base:

• Modelo Alexa Teacher

• Apache 2.0

• BigScience Licença de IA responsável v1.0

• Licença CreativeML Open RAIL++-M

Da mesma forma, para qualquer modelo de base proprietário, certifique-se de revisar e cumprir todos os termos de uso e diretrizes de uso do fornecedor do modelo. Se tiver dúvidas sobre as informações de licença de um modelo proprietário específico, entre em contato diretamente com o fornecedor do modelo. Você pode encontrar as informações de contato do fornecedor do modelo na guia Suporte de cada página do modelo em AWS Marketplace.

Contratos de licença de usuário final

Alguns modelos JumpStart básicos exigem a aceitação explícita de um contrato de licença de usuário final (EULA) antes do uso.

Aceitação do EULA no Amazon Studio SageMaker

Você pode ser solicitado a aceitar um contrato de licença de usuário final antes de ajustar, implantar ou avaliar um modelo básico no Studio. JumpStart Para começar a usar os modelos JumpStart básicos no Studio, consulteUse modelos básicos no Studio.

Importante

Em 30 de novembro de 2023, a experiência anterior do Amazon SageMaker Studio agora se chama Amazon SageMaker Studio Classic. A seção a seguir é específica para usar a experiência atualizada do Studio. Para obter informações sobre como usar o aplicativo Studio Classic, consulteAmazon SageMaker Studio Clássico.

Alguns modelos JumpStart básicos exigem a aceitação de um contrato de licença do usuário final antes da implantação. Se isso se aplicar ao modelo básico que você escolher usar, o Studio exibirá uma janela contendo o conteúdo do EULA. Você é responsável por revisar e cumprir todos os termos de licença aplicáveis e garantir que eles sejam aceitáveis para seu caso de uso antes de baixar ou usar o modelo.

Aceitação do EULA no Amazon SageMaker Studio Classic

Você pode ser solicitado a aceitar um contrato de licença de usuário final antes de implantar um modelo JumpStart básico ou abrir um caderno de modelo JumpStart básico no Studio Classic. Para começar a usar os modelos JumpStart básicos no Studio Classic, consulteUse modelos básicos no Amazon SageMaker Studio Classic.

Importante

Em 30 de novembro de 2023, a experiência anterior do Amazon SageMaker Studio agora se chama Amazon SageMaker Studio Classic. A seção a seguir é específica para usar o aplicativo Studio Classic. Para obter informações sobre como usar a experiência atualizada do Studio, consulte SageMaker Estúdio Amazon.

Alguns modelos JumpStart básicos exigem a aceitação de um contrato de licença do usuário final antes da implantação. Se isso se aplicar ao modelo básico que você escolher usar, o Studio Classic exibirá uma janela intitulada Revise o Contrato de Licença de Usuário Final (EULA) e a Política de Uso Aceitável (AUP) abaixo depois de escolher Implantar ou Abrir notebook. Você é responsável por revisar e cumprir todos os termos de licença aplicáveis e garantir que eles sejam aceitáveis para seu caso de uso antes de baixar ou usar o modelo.

Aceitação do EULA com o SDK SageMaker Python

As seções a seguir mostram como declarar explicitamente a aceitação do EULA ao implantar ou ajustar um modelo com o SDK. JumpStart SageMaker Python Para obter mais informações sobre como começar a usar modelos JumpStart básicos usando o SageMaker Python SDK, consulteUse modelos básicos com o SageMaker Python SDK.

Antes de começar, faça o seguinte:

• Atualize para a versão mais recente do modelo que você usa.

• Instale a versão mais recente do SageMaker Python SDK.

Importante

Para usar o fluxo de trabalho a seguir, você deve ter a versão 2.198.0 ou posterior do SDK instalada. SageMaker Python

Aceitação do EULA ao implantar um modelo JumpStart

Para modelos que exigem a aceitação de um contrato de licença de usuário final, você deve declarar explicitamente a aceitação do EULA ao implantar seu modelo. JumpStart

from sagemaker.jumpstart.model import JumpStartModel
model_id = "meta-textgeneration-llama-2-13b"
my_model = JumpStartModel(model_id=model_id)

# Declare EULA acceptance when deploying your JumpStart model
predictor = my_model.deploy(accept_eula=True)

O valor accept_eula é None por padrão e deve ser explicitamente redefinido como True para aceitar o contrato de licença do usuário final. Para obter mais informações, consulte JumpStartModel.

Aceitação do EULA ao ajustar um modelo JumpStart

Para modelos de ajuste fino que exigem a aceitação de um contrato de licença do usuário final, você deve declarar explicitamente a aceitação do EULA ao definir seu estimador. JumpStart Depois de ajustar um modelo pré-treinado, os pesos do modelo original são alterados. Portanto, ao implantar o modelo ajustado posteriormente, você não precisa aceitar um EULA.

from sagemaker.jumpstart.estimator import JumpStartEstimator
model_id = "meta-textgeneration-llama-2-13b"

# Declare EULA acceptance when defining your JumpStart estimator
estimator = JumpStartEstimator(model_id=model_id, environment={"accept_eula": "true"})
estimator.fit(
{"train": training_dataset_s3_path, "validation": validation_dataset_s3_path}
)

O accept_eula valor é None padrão e deve ser explicitamente redefinido como "true" dentro do ambiente do estimador para aceitar o contrato de licença do usuário final. Para obter mais informações, consulte JumpStartEstimator.

Versões do SageMaker Python SDK de aceitação do EULA anteriores à 2.198.0

Importante

Ao usar versões anteriores à 2.198.0 do SageMaker Python SDK, você deve usar a SageMaker Predictor classe para aceitar um modelo de EULA.

Depois de implantar um modelo JumpStart básico programaticamente usando o SageMaker Python SDK, você pode executar inferências em seu endpoint implantado com a classe. SageMaker Predictor Para modelos que exigem a aceitação de um contrato de licença de usuário final, você deve declarar explicitamente a aceitação do EULA em sua chamada para a classe: Predictor

predictor.predict(payload, custom_attributes="accept_eula=true")

O valor accept_eula é false por padrão e deve ser explicitamente redefinido como true para aceitar o contrato de licença do usuário final. O preditor retornará um erro se você tentar executar a inferência enquanto accept_eula estiver definido como. false Para obter mais informações sobre como começar a usar modelos JumpStart básicos usando o SageMaker Python SDK, consulteUse modelos básicos com o SageMaker Python SDK.

Importante

O custom_attributes parâmetro aceita pares de valores-chave no formato. "key1=value1;key2=value2" Se você usar a mesma chave várias vezes, o servidor de inferência usará o último valor associado à chave. Por exemplo, se você passar "accept_eula=false;accept_eula=true" para o parâmetro custom_attributes, o servidor de inferência associará o valor à true chave. accept_eula