Compilar um modelo (Amazon SageMakerSDK)

Você pode usar o compile_modelAPIno Amazon SageMaker SDK for Python para compilar um modelo treinado e otimizá-lo para hardware de destino específico. O API deve ser invocado no objeto estimador usado durante o treinamento do modelo.

nota

Você deve definir a variável de MMS_DEFAULT_RESPONSE_TIMEOUT ambiente como 500 ao compilar o modelo com MXNet ou PyTorch. A variável de ambiente não é necessária para TensorFlow.

Veja a seguir um exemplo de como você pode compilar um modelo usando o objeto trained_model_estimator:

# Replace the value of expected_trained_model_input below and
# specify the name & shape of the expected inputs for your trained model
# in json dictionary form
expected_trained_model_input = {'data':[1, 784]}

# Replace the example target_instance_family below to your preferred target_instance_family
compiled_model = trained_model_estimator.compile_model(target_instance_family='ml_c5',
        input_shape=expected_trained_model_input,
        output_path='insert s3 output path',
        env={'MMS_DEFAULT_RESPONSE_TIMEOUT': '500'})

O código compila o modelo, salva o modelo otimizado em output_path e cria um SageMaker modelo que pode ser implantado em um endpoint. Exemplos de cadernos de anotações de uso do SDK para Python são fornecidos na seção Notebooks de amostra de compilação de modelos Neo.