Recomendador de SageMaker inferencias de Amazon

Amazon SageMaker Inference Recommender es una capacidad de Amazon SageMaker AI. Reduce el tiempo necesario para poner en producción los modelos de aprendizaje automático (ML) al automatizar las pruebas de carga y el ajuste de los modelos en todas las instancias de aprendizaje automático con SageMaker IA. Puede utilizar Recomendador de inferencias para implementar su modelo en un punto de conexión de inferencia en tiempo real o sin servidor que ofrezca el mejor rendimiento al menor coste. El Recomendador de inferencias le ayuda a seleccionar el mejor tipo de instancia y configuración para sus cargas de trabajo y modelos de ML. Considera factores como el número de instancias, los parámetros del contenedor, las optimizaciones de modelo, la simultaneidad máxima y el tamaño de la memoria.

Amazon SageMaker Inference Recommender solo le cobra por las instancias utilizadas durante la ejecución de sus trabajos.

Funcionamiento

Para utilizar Amazon SageMaker Inference Recommender, puede crear un modelo de SageMaker IA o registrar un modelo en el registro de SageMaker modelos con sus artefactos del modelo. Utilice la consola de IA AWS SDK for Python (Boto3) o la consola de SageMaker IA para ejecutar trabajos de evaluación comparativa para diferentes configuraciones de puntos finales de SageMaker IA. Los trabajos de Recomendación de inferencias le ayudan a recopilar y visualizar métricas sobre el rendimiento y la utilización de los recursos para ayudarle a decidir qué tipo y configuración de punto de conexión elegir.

Cómo empezar

Si es la primera vez que utiliza Amazon SageMaker Inference Recommender, le recomendamos que haga lo siguiente:

1. Lee esta Requisitos previos para usar Amazon SageMaker Inference Recommender sección para asegurarte de que cumples los requisitos para usar Amazon SageMaker Inference Recommender.

2. Lea la sección Trabajos de recomendación con Amazon SageMaker Inference Recommender para lanzar sus primeros trabajos de recomendación del Recomendador de inferencias.

3. Explore el ejemplo introductorio del SageMaker cuaderno Jupyter de Amazon Inference Recommender o revise los cuadernos de ejemplo en la siguiente sección.

Cuadernos de ejemplo

Los siguientes ejemplos de cuadernos de Jupyter pueden ayudarle con los flujos de trabajo para varios casos de uso en Recomendador de inferencias:

• Si desea un cuaderno introductorio que compare un TensorFlow modelo, consulte el cuaderno Inference Recommender. SageMaker TensorFlow

• Si desea comparar un HuggingFace modelo, consulte el Recomendador de SageMaker inferencias para cuadernos. HuggingFace

• Si desea comparar un XGBoost modelo, consulte el cuaderno de recomendaciones de SageMaker inferencias. XGBoost

• Si desea revisar CloudWatch las métricas de sus trabajos de recomendación de inferencias, consulte el cuaderno de métricas de recomendaciones de SageMaker inferencias. CloudWatch