Implante modelos JumpStart usando o Amazon SageMaker Studio

As etapas a seguir mostram como implantar modelos JumpStart usando o Amazon SageMaker Studio.

Pré-requisitos

Verifique se você configurou recursos de inferência em seus SageMaker HyperPod clusters da Amazon. Para obter mais informações, consulte Configurando seus HyperPod clusters para implantação de modelos.

Crie uma HyperPod implantação

1. No Amazon SageMaker Studio, abra a JumpStartpágina inicial no painel de navegação esquerdo.

2. Em Todos os modelos públicos, escolha um modelo que você deseja implantar.

   nota

   Se você selecionou um modelo fechado, precisará aceitar o Contrato de Licença de Usuário Final (EULA).

3. Selecione SageMaker HyperPod.

4. Em Configurações de implantação, JumpStart recomendará uma instância para implantação. Você pode modificar essas configurações, se necessário.

   1. Se você modificar o tipo de instância, verifique se ela é compatível com o HyperPod cluster escolhido. Se não houver nenhuma instância compatível, você precisará selecionar um novo HyperPod cluster ou entrar em contato com seu administrador para adicionar instâncias compatíveis ao cluster.

   2. Para priorizar a implantação do modelo, instale o complemento de governança de tarefas, crie alocações de computação e configure classificações de tarefas para a política de cluster. Feito isso, você verá uma opção para selecionar uma prioridade para a implantação do modelo, que pode ser usada para antecipar outras implantações e tarefas no cluster.

   3. Insira o namespace ao qual seu administrador lhe forneceu acesso. Talvez seja necessário entrar em contato diretamente com seu administrador para obter o namespace exato. Depois que um namespace válido for fornecido, o botão Implantar deverá estar ativado para implantar o modelo.

5. Escolha Deploy e aguarde a criação do Endpoint.

6. Depois que o Endpoint for criado, selecione Testar inferência.

Editar uma HyperPod implantação

1. No Amazon SageMaker Studio, selecione Computação e, em seguida, HyperPodclusters no painel de navegação esquerdo.

2. Em Implantações, escolha a implantação do HyperPod cluster que você deseja modificar.

3. No ícone de reticências verticais (₽), escolha Editar.

4. Em Configurações de implantação, você pode ativar ou desativar o escalonamento automático e alterar o número máximo de réplicas.

5. Selecione Salvar.

6. O status mudará para Atualização. Depois que ele voltar para Em serviço, suas alterações serão concluídas e você verá uma mensagem confirmando isso.

Excluir uma HyperPod implantação

1. No Amazon SageMaker Studio, selecione Computação e, em seguida, HyperPodclusters no painel de navegação esquerdo.

2. Em Implantações, escolha a implantação do HyperPod cluster que você deseja modificar.

3. No ícone de reticências verticais (preferences), escolha Excluir.

4. Na janela Excluir HyperPod implantação, marque a caixa de seleção.

5. Escolha Excluir.

6. O status mudará para Excluindo. Depois que a HyperPod implantação for excluída, você verá uma mensagem confirmando isso.