Inferencia de Amazon Bedrock

Cuando haya entrenado y probado su modelo de Amazon Nova, puede implementarlo en Amazon Bedrock para realizar inferencias a escala de producción. El proceso de implementación implica la creación de un modelo de Amazon Bedrock con la API CreateCustomModel, la exportación de los artefactos del modelo a dicho modelo desde un bucket de Amazon S3 administrado y, a continuación, una vez que el modelo esté ACTIVO, la configuración de un punto de conexión con inferencia de rendimiento bajo demanda o aprovisionada.

También puede utilizar SageMaker Python SDK para la implementación de modelos personalizados de Amazon Nova en los puntos de conexión de inferencia en tiempo real de SageMaker y en Amazon Bedrock según demanda. Para obtener más información, consulte Personalización con SageMaker Python SDK.

Para ver los pasos detallados para configurar la inferencia de Amazon Bedrock para un modelo personalizado, consulte la siguiente sección.