Recomendador de SageMaker inferencias de Amazon

Amazon SageMaker Inference Recommender es una funcionalidad de Amazon. SageMaker Reduce el tiempo necesario para poner en producción los modelos de aprendizaje automático (ML) al automatizar las pruebas de carga y el ajuste de los modelos en todas SageMaker las instancias de ML. Puede utilizar Recomendador de inferencias para implementar su modelo en un punto de conexión de inferencia en tiempo real o sin servidor que ofrezca el mejor rendimiento al menor coste. Inference Recommender le ayuda a seleccionar el mejor tipo de instancia y configuración para sus cargas de trabajo y modelos de aprendizaje automático. Considera factores como el número de instancias, los parámetros del contenedor, las optimizaciones del modelo, la simultaneidad máxima y el tamaño de la memoria.

Amazon SageMaker Inference Recommender solo le cobra por las instancias utilizadas durante la ejecución de sus trabajos.

Funcionamiento

Para utilizar Amazon SageMaker Inference Recommender, puede crear un SageMaker modelo o registrarlo en el SageMaker registro de modelos con sus artefactos del modelo. Utilice la consola AWS SDK for Python (Boto3) o la SageMaker consola para ejecutar trabajos de evaluación comparativa para diferentes SageMaker configuraciones de puntos finales. Los trabajos de Recomendación de inferencias le ayudan a recopilar y visualizar métricas sobre el rendimiento y la utilización de los recursos para ayudarle a decidir qué tipo y configuración de punto de conexión elegir.

Cómo empezar

Si es la primera vez que utiliza Amazon SageMaker Inference Recommender, le recomendamos que haga lo siguiente:

1. Lee esta Requisitos previos sección para asegurarte de que cumples los requisitos para usar Amazon SageMaker Inference Recommender.

2. Lea la sección Trabajos de recomendación para lanzar sus primeros trabajos de recomendación del Recomendador de inferencias.

3. Explore el ejemplo introductorio del SageMaker cuaderno Jupyter de Amazon Inference Recommender o revise los cuadernos de ejemplo en la siguiente sección.

Cuadernos de ejemplo

Los siguientes ejemplos de cuadernos de Jupyter pueden ayudarle con los flujos de trabajo para varios casos de uso en Recomendador de inferencias:

• Si desea un cuaderno introductorio que compare un TensorFlow modelo, consulte el cuaderno Inference Recommender. SageMaker TensorFlow

• Si desea comparar un HuggingFace modelo, consulte el Recomendador de SageMaker inferencias para cuadernos. HuggingFace

• Si desea comparar un XGBoost modelo, consulte el cuaderno de recomendaciones de SageMaker inferencias. XGBoost

• Si desea revisar CloudWatch las métricas de sus trabajos de recomendación de inferencias, consulte el cuaderno de métricas de recomendaciones de SageMaker inferencias. CloudWatch