Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Déploiement d'un modèle compilé à l'aide de Boto3
Vous devez satisfaire à la section des prérequis si le modèle a été compilé à l'aide de AWS SDK for Python (Boto3) AWS CLI, ou de la SageMaker console Amazon. Suivez les étapes ci-dessous pour créer et déployer un modèle SageMaker compilé au format Neo à l'aide du SDK Amazon Web Services pour Python (
Rubriques
Déploiement du modèle
Une fois les prérequis satisfaits, utilisez les API create_model
, create_enpoint_config
et create_endpoint
.
L'exemple suivant montre comment utiliser ces API pour déployer un modèle compilé avec Neo :
import boto3 client = boto3.client('sagemaker') # create sagemaker model create_model_api_response = client.create_model( ModelName=
'my-sagemaker-model'
, PrimaryContainer={ 'Image':<insert the ECR Image URI>
, 'ModelDataUrl':'s3://path/to/model/artifact/model.tar.gz'
, 'Environment': {} }, ExecutionRoleArn='ARN for AmazonSageMaker-ExecutionRole'
) print ("create_model API response", create_model_api_response) # create sagemaker endpoint config create_endpoint_config_api_response = client.create_endpoint_config( EndpointConfigName='sagemaker-neomxnet-endpoint-configuration'
, ProductionVariants=[ { 'VariantName':<provide your variant name>
, 'ModelName':'my-sagemaker-model
', 'InitialInstanceCount': 1, 'InstanceType':<provide your instance type here>
}, ] ) print ("create_endpoint_config API response", create_endpoint_config_api_response) # create sagemaker endpoint create_endpoint_api_response = client.create_endpoint( EndpointName='provide your endpoint name'
, EndpointConfigName=<insert your endpoint config name>
, ) print ("create_endpoint API response", create_endpoint_api_response)
Note
Les politiques AmazonSageMakerFullAccess
et AmazonS3ReadOnlyAccess
doivent être attachées au rôle IAM AmazonSageMaker-ExecutionRole
.
Pour obtenir la syntaxe complète des API create_model
, create_endpoint_config
et create_endpoint
, veuillez consulter create_model
create_endpoint_config
create_endpoint
Si vous n'avez pas entraîné votre modèle avec SageMaker, spécifiez les variables d'environnement suivantes :
Si vous avez entraîné votre modèle en utilisant SageMaker, spécifiez la variable d'environnement SAGEMAKER_SUBMIT_DIRECTORY
comme l'URI complet du compartiment Amazon S3 qui contient le script d'entraînement.