Compiler un modèle (Amazon SageMaker Console)

Vous pouvez créer une tâche de compilation Amazon SageMaker Neo dans la SageMaker console Amazon.

1. Dans la SageMaker console Amazon, choisissez Tâches de compilation, puis choisissez Créer une tâche de compilation.

   

2. Sur la page Create compilation job (Créer une tâche de compilation), pour Job name (Nom de la tâche), saisissez un nom. Ensuite, sélectionnez un rôle IAM.

   

3. Si vous ne disposez pas de rôle IAM, choisissez Créer un rôle.

   

4. Sur la page Créer un rôle IAM, choisissez Tout compartiment S3, puis Créer un rôle.

   

5. Non PyTorch Frameworks

   Dans la section Input configuration (Configuration d'entrée), saisissez le chemin d'accès complet de l'URI du compartiment Amazon S3 contenant vos artefacts de modèle, dans le champ d'entrée Location of model artifacts (Emplacement des artefacts de modèle). Vos artefacts de modèle doivent être au format de fichier tarball compressé (.tar.gz).

   Dans le champ Data input configuration (Configuration d'entrée de données), saisissez la chaîne JSON qui spécifie la forme des données d'entrée.

   Pour Machine learning framework (Cadre de machine learning), choisissez le cadre qui vous convient.

   

   Pour trouver les exemples de chaînes JSON de formes de données d'entrée spécifiques aux cadres, veuillez consulter What input data shapes Neo expects (De quelles formes de données d'entrée Neo a-t-il besoin ?).

   PyTorch Framework

   Des instructions similaires s'appliquent à la compilation des PyTorch modèles. Toutefois, si vous vous êtes entraîné avec le modèle cible PyTorch et que vous essayez de le compiler pour ml_* (saufml_inf), vous pouvez éventuellement spécifier la version PyTorch que vous avez utilisée.

   

   Pour trouver les exemples de chaînes JSON de formes de données d'entrée spécifiques aux cadres, veuillez consulter What input data shapes Neo expects (De quelles formes de données d'entrée Neo a-t-il besoin ?).

   Remarques

   • Si vous avez enregistré votre modèle à l'aide de PyTorch la version 2.0 ou ultérieure, le champ Configuration de la saisie des données est facultatif. SageMaker Neo obtient la configuration d'entrée à partir du fichier de définition du modèle que vous créez avec PyTorch. Pour plus d'informations sur la création du fichier de définition, consultez la PyTorch section intitulée Enregistrer des modèles pour SageMaker Neo.

   • Lors de la compilation pour des ml_* instances à l'aide du PyTorch framework, utilisez le champ d'options du compilateur dans la configuration de sortie pour fournir le type de données correct (dtype) de l'entrée du modèle. La valeur par défaut est définie sur "float32".

   

   Avertissement

   Si vous spécifiez un chemin d'URI de compartiment Amazon S3 menant à un fichier .pth, l'erreur suivante s'affichera après que la compilation aura démarré : ClientError: InputConfiguration: Unable to untar input model.Please confirm the model is a tar.gz file

6. Accédez à la section Output configuration (Configuration de la sortie). Choisissez l'emplacement de déploiement de votre modèle. Vous pouvez déployer votre modèle sur un périphérique cible ou une plateforme cible. Les périphériques cibles comprennent les périphériques cloud et en périphérie. Les plateformes cibles font référence au système d'exploitation, à l'architecture et aux accélérateurs spécifiques sur lesquels votre modèle doit s'exécuter.

   Pour S3 Output location (Emplacement de sortie S3), saisissez le chemin d'accès au compartiment S3 où vous voulez stocker le modèle compilé. Vous pouvez éventuellement ajouter des options de compilateur au format JSON dans la section Compiler options (Options de compilateur).

   

7. Vérifiez le statut de la tâche de compilation au démarrage. Le statut de la tâche se trouve en haut de la page Compilation Job (Tâche de compilation) comme le montre la capture d'écran ci-après. Vous pouvez également vérifier le statut de la tâche dans la colonne Status (Statut).

   

8. Vérifiez le statut de la tâche de compilation lorsque terminée. Vous pouvez vérifier le statut dans la colonne Status (Statut) comme le montre la capture d'écran ci-après.