Restricciones y cuotas de servicio para productos de aprendizaje automático en AWS Marketplace

En esta sección, se describen las restricciones y las cuotas de los productos de machine learning (ML) en AWS Marketplace.

Aislamiento de red

Por motivos de seguridad, cuando un comprador se suscribe a su producto en contenedores, los contenedores de Docker se ejecutan en un entorno aislado sin conexión a Internet. Cuando cree sus contenedores, no confíe en que podrá realizar llamadas salientes a través de Internet, ya que fallarán. Las llamadas a también Servicios de AWS fallarán.

Tamaño de imagen

El tamaño de las imágenes de Docker se rige por las Service Quotas de Amazon Elastic Container Registry (Amazon ECR). El tamaño de la imagen de Docker afecta al tiempo de arranque durante los trabajos de entrenamiento, transformación por lotes y creación de puntos de conexión. Para lograr un mejor rendimiento, le recomendamos mantener un tamaño óptimo de imagen de Docker.

Tamaño del almacenamiento

Al crear un punto de conexión, Amazon SageMaker AI adjunta un volumen de almacenamiento de Amazon Elastic Block Store (Amazon EBS) a cada instancia de procesamiento de aprendizaje automático que aloja el punto de conexión. (Un punto final también se conoce como inferencia en tiempo real o servicio de alojamiento de Amazon SageMaker AI). El tamaño del volumen de almacenamiento depende del tipo de instancia. Para obtener más información, consulte Volúmenes de almacenamiento de instancias hospedadas en la Guía para desarrolladores de Amazon SageMaker AI. 

Para obtener información sobre la transformación por lotes, consulte Storage in Batch Transform en la Guía para desarrolladores de Amazon SageMaker AI.

Tamaño de instancia

SageMaker La IA ofrece una selección de tipos de instancias que están optimizados para adaptarse a diferentes casos de uso del aprendizaje automático. Los tipos de instancias tienen distintos tipos de combinaciones de CPU, GPU, memoria y capacidad de red. Los tipos de instancias brindan la flexibilidad para elegir la combinación adecuada de recursos para crear, entrenar e implementar modelos de ML. Para obtener más información, consulte Tipos de instancias de Amazon SageMaker AI ML.

Tamaño de la carga útil para realizar inferencias

Para un punto de conexión, limite el tamaño máximo de los datos de entrada por invocación a 6 MB. Este valor no se puede ajustar.

Para la transformación por lotes, el tamaño máximo de los datos de entrada por cada invocación es de 100 MB. Este valor no se puede ajustar.

Tiempo de procesamiento para la inferencia

Para un punto de conexión, el tiempo máximo de procesamiento por cada invocación es de 60 segundos. Este valor no se puede ajustar.

Para la transformación por lotes, el tiempo máximo de procesamiento por cada invocación es de 60 minutos. Este valor no se puede ajustar.

Service Quotas

Para obtener más información sobre las cuotas relacionadas con la formación y la inferencia, consulte Amazon SageMaker AI Service Quotas.

Inferencia asíncrona

Los paquetes de modelos y los algoritmos publicados en no se AWS Marketplace pueden implementar en puntos de conexión configurados para la inferencia asíncrona de Amazon SageMaker AI. Para los puntos de conexión configurados para la inferencia asíncrona, los modelos deben tener conectividad de red. Todos los AWS Marketplace modelos funcionan de forma aislada en la red. Para obtener más información, consulte Sin acceso a la red.

Inferencia sin servidor

Los paquetes de modelos y los algoritmos publicados en no se AWS Marketplace pueden implementar en puntos de conexión configurados para Amazon SageMaker AI Serverless Inference. Para los puntos de conexión configurados para la inferencia sin servidor, los modelos deben tener conectividad de red. Todos los AWS Marketplace modelos funcionan de forma aislada en la red. Para obtener más información, consulte Sin acceso a la red.

Entrenamiento de spot administrado

Para todos los algoritmos de AWS Marketplace, el valor de MaxWaitTimeInSeconds se establece en 3.600 segundos (60 minutos), incluso si se implementa el punto de control para la formación puntual gestionada. Este valor no se puede ajustar.

Imágenes de Docker y Cuentas de AWS

Para su publicación, las imágenes deben almacenarse en los repositorios de Amazon ECR propiedad Cuenta de AWS del vendedor. No es posible publicar imágenes que estén almacenadas en un repositorio que sea propiedad de otra persona. Cuenta de AWS

Publicar paquetes de modelos a partir de algoritmos integrados o AWS Marketplace

Los paquetes de modelos creados a partir de trabajos de formación con un algoritmo integrado de Amazon SageMaker AI o un algoritmo de una AWS Marketplace suscripción no se pueden publicar.

Puede seguir utilizando los artefactos del modelo del trabajo de entrenamiento, pero necesitará su propia imagen de inferencia para publicar paquetes de modelos.

Compatible con Regiones de AWS la publicación

AWS Marketplace admite la publicación de recursos de algoritmos y paquetes de modelos a partir de los Regiones de AWS cuales se cumple lo siguiente:

• Una región compatible con Amazon SageMaker AI

• Una región disponible inscrita de forma predeterminada (por ejemplo, describe-regions devuelve "OptInStatus": "opt-in-not-required")

Todos los activos necesarios para publicar un paquete de modelos o un producto de algoritmo deben almacenarse en la misma región desde la que haya decidido publicar. Esta incluye lo siguiente:

• Modele los recursos de paquetes y algoritmos que se crean en Amazon SageMaker AI

• Imágenes de inferencia y entrenamiento que se cargan en los repositorios de Amazon ECR

• Artefactos de modelos (si los hay) que se almacenan en Amazon Simple Storage Service (Amazon S3) y se cargan dinámicamente durante la implementación de modelos para los recursos de paquetes de modelos

• Datos de prueba para la validación de inferencias y entrenamiento que se almacenan en Amazon S3

Puede desarrollar y capacitar su producto en cualquier región que cuente con el respaldo de la SageMaker IA. Sin embargo, antes de poder publicar, debe copiar todos los activos y volver a crear los recursos en una región desde la que AWS Marketplace admita publicar.

Durante el proceso de publicación, independientemente de la región desde la Región de AWS que publiques, puedes elegir las regiones en las que quieres publicar y hacer que tu producto esté disponible.