Implementar un modelo personalizado para inferencia bajo demanda
Una vez que haya creado correctamente un modelo personalizado con un trabajo de personalización del modelo (afinación, síntesis o entrenamiento previo continuo), podrá configurar la inferencia bajo demanda para el modelo.
Para configurar la inferencia bajo demanda para un modelo personalizado, debe implementarlo con una implementación de modelo personalizado. Tras implementar el modelo personalizado, utiliza el nombre de recurso de Amazon (ARN) de la implementación como el parámetro de modelId en sus operaciones de InvokeModel o en las de la API de Converse. Puede usar el modelo implementado para realizar inferencias bajo demanda con características de Amazon Bedrock, como áreas de juego, agentes y bases de conocimiento.
Temas
Modelos compatibles
Puede configurar la inferencia bajo demanda para los siguientes modelos:
-
Amazon Nova Canvas
-
Amazon Nova Lite
-
Amazon Nova Micro
-
Amazon Nova Pro
