Fontes de modelos e contratos de licença - Amazon SageMaker

Fontes de modelos e contratos de licença

O Amazon SageMaker JumpStart dá acesso a centenas de modelos de base proprietários e disponíveis ao público de fontes e parceiros terceirizados. Você pode explorar os modelos de base do JumpStart diretamente por meio do console do SageMaker, Studio ou Studio Classic.

Licenças e fontes de modelos

O Amazon SageMaker JumpStart dá acesso a modelos de base disponíveis ao público e proprietários. Os modelos de base são integrados e mantidos por fornecedores proprietários e de código aberto terceirizados. Dessa forma, eles são lançados sob licenças diferentes, conforme designado pela fonte do modelo. Certifique-se de revisar a licença de qualquer modelo de base que você usa. Você é responsável por revisar e cumprir todos os termos de licença aplicáveis e garantir que eles sejam aceitáveis para seu caso de uso antes de baixar ou usar o conteúdo. Os seguintes exemplos demonstram as licenças comuns do modelo de base:

  • Modelo Alexa Teacher

  • Apache 2.0

  • Licença BigScience Responsible AI v1.0

  • Licença CreativeML Open RAIL++-M

Da mesma forma, para qualquer modelo de base proprietário, certifique-se de revisar e cumprir todos os termos de uso e diretrizes de uso do fornecedor do modelo. Se tiver dúvidas sobre as informações de licença de um modelo proprietário específico, entre em contato diretamente com o fornecedor do modelo. Você pode encontrar as informações de contato do fornecedor do modelo na guia Ajuda de cada página do modelo em AWS Marketplace.

Contratos de licença de usuário final

Alguns modelos de base do JumpStart exigem a aceitação explícita de um contrato de licença de usuário final (EULA) antes do uso.

Aceitação do EULA no Amazon SageMaker Studio

Pode ser solicitado que você aceite um contrato de licença de usuário final antes de ajustar, implantar ou avaliar um modelo de base do JumpStart no Studio. Para começar a usar os modelos de base do JumpStart no Studio, consulte Usar modelos de base no Studio.

Importante

A partir de 30 de novembro de 2023, a experiência anterior do Amazon SageMaker Studio se chama Amazon SageMaker Studio Classic. A seção a seguir é específica ao uso da experiência atualizada do Studio. Para obter informações sobre como usar a aplicação do Studio Classic, consulte Amazon SageMaker Studio Classic.

Alguns modelos de base do JumpStart exigem a aceitação de um contrato de licença do usuário final antes da implantação. Se isso for aplicável ao modelo de base que você escolher usar, o Studio exibirá uma janela com o conteúdo do EULA. Você é responsável por revisar e cumprir todos os termos de licença aplicáveis e garantir que eles sejam aceitáveis para seu caso de uso antes de baixar ou usar o modelo.

Aceitação do EULA no Amazon SageMaker Studio Classic

Pode ser solicitado que você aceite um contrato de licença de usuário final antes de implantar um modelo de base do JumpStart ou que abra um caderno do modelo de base do JumpStart no Studio Classic. Para começar a usar os modelos de base do JumpStart no Studio Classic, consulte Usar modelos de base no Amazon SageMaker Studio Classic.

Importante

A partir de 30 de novembro de 2023, a experiência anterior do Amazon SageMaker Studio se chama Amazon SageMaker Studio Classic. A seção a seguir é específica ao uso da aplicação Studio Classic. Para obter informações sobre como usar a experiência atualizada do Studio, consulte Amazon SageMaker Studio.

Alguns modelos de base do JumpStart exigem a aceitação de um contrato de licença do usuário final antes da implantação. Se esse for o caso com o modelo de base que você escolher usar, o Studio Classic exibirá uma janela intitulada Revise o contrato de licença de usuário final (EULA) e a Política de uso aceitável (AUP) abaixo depois de escolher Implantar ou Abrir caderno. Você é responsável por revisar e cumprir todos os termos de licença aplicáveis e garantir que eles sejam aceitáveis para seu caso de uso antes de baixar ou usar o modelo.

Aceitação do EULA com o SageMaker Python SDK

As seções a seguir demonstram como declarar explicitamente a aceitação do EULA ao implantar ou ajustar um modelo JumpStart com o SageMaker Python SDK. Para obter mais informações sobre como começar a usar os modelos de base do JumpStart usando o SageMaker Python SDK, consulte Usar modelos de base com o SageMaker Python SDK.

Antes de começar, faça o seguinte:

  • Faça a atualização da versão mais recente do modelo que você deseja usar.

  • Instale a versão mais recente do SageMaker Python SDK.

Importante

Para usar o fluxo de trabalho a seguir, você deve ter a versão 2.198.0 ou mais nova do SageMaker Python SDK instalada.

Aceitação do EULA ao implantar um modelo JumpStart

Para modelos que exigem a aceitação de um contrato de licença de usuário final, você deve declarar explicitamente a aceitação do EULA ao implantar seu modelo JumpStart.

from sagemaker.jumpstart.model import JumpStartModel model_id = "meta-textgeneration-llama-2-13b" my_model = JumpStartModel(model_id=model_id) # Declare EULA acceptance when deploying your JumpStart model predictor = my_model.deploy(accept_eula=True)

O valor accept_eula é None por padrão e deve ser explicitamente redefinido como True para aceitar o contrato de licença do usuário final. Para obter mais informações, consulte o JumpStartModel.

Aceitação do EULA ao ajustar um modelo JumpStart

Para ajustar modelos que exigem a aceitação de um contrato de licença de usuário final, você deve declarar explicitamente a aceitação do EULA ao definir seu estimador do JumpStart. Depois de ajustar um modelo pré-treinado, os pesos do modelo original são alterados. Por isso, ao implantar o modelo ajustado futuramente, você não precisará aceitar um EULA.

from sagemaker.jumpstart.estimator import JumpStartEstimator model_id = "meta-textgeneration-llama-2-13b" # Declare EULA acceptance when defining your JumpStart estimator estimator = JumpStartEstimator(model_id=model_id, environment={"accept_eula": "true"}) estimator.fit( {"train": training_dataset_s3_path, "validation": validation_dataset_s3_path} )

O valor accept_eula é None por padrão e deve ser explicitamente redefinido como "true" no ambiente do estimador para aceitar o contrato de licença do usuário final. Para obter mais informações, consulte JumpStartEstimator.

Aceitação do EULA para versões do SageMaker Python SDK anteriores à 2.198.0

Importante

Ao usar versões anteriores à 2.198.0 do SageMaker Python SDK, você deve usar a função Predictor do SageMaker para aceitar o EULA do modelo.

Depois de implantar de forma programática um modelo de base do JumpStart usando o SageMaker Python SDK, você pode executar inferências em seu endpoint implantado com a função Predictor do SageMaker. Para modelos que exigem a aceitação de um contrato de licença de usuário final, você deve declarar explicitamente a aceitação do EULA em sua chamada para a função Predictor:

predictor.predict(payload, custom_attributes="accept_eula=true")

O valor accept_eula é false por padrão e deve ser explicitamente redefinido como true para aceitar o contrato de licença do usuário final. O preditor apresentará uma mensagem de erro se você tentar executar a inferência enquanto o accept_eula estiver definido como false. Para obter mais informações sobre como começar a usar os modelos de base do JumpStart usando o SageMaker Python SDK, consulte Usar modelos de base com o SageMaker Python SDK.

Importante

O parâmetro custom_attributes aceita pares de valor-chave no formato "key1=value1;key2=value2". Se você usar a mesma chave várias vezes, o servidor de inferência usará o último valor associado à chave. Por exemplo, se você passar "accept_eula=false;accept_eula=true" para o parâmetro custom_attributes, o servidor de inferência associará o valor à true chave. accept_eula