Adquisición de un rendimiento aprovisionado para un modelo de Amazon Bedrock

Cuando compra un rendimiento aprovisionado para un modelo, especifica su nivel de compromiso y la cantidad de unidades de modelo (MUs) que se van a asignar. Para ver las cuotas de las UM, consulte Amazon Bedrock endpoints and quotas en la Referencia general de AWS. La cantidad MUs que puede asignar a sus rendimientos aprovisionados depende del plazo de compromiso del rendimiento aprovisionado:

• De forma predeterminada, su cuenta le proporciona 2 MUs para distribuirlos entre los rendimientos aprovisionados sin compromiso.

• Si va a adquirir un rendimiento aprovisionado con compromiso, primero debe visitar el centro de AWS soporte MUs para solicitar que su cuenta se distribuya entre los niveles de procesamiento aprovisionados con compromiso. Una vez que se apruebe la solicitud, podrá comprar un rendimiento aprovisionado con compromiso.

nota

Tras adquirir el rendimiento aprovisionado, solo podrá cambiar el modelo asociado si selecciona un modelo personalizado. Puede cambiar el modelo asociado por uno de los siguientes valores:

• El modelo base a partir del cual se ha personalizado.

• Otro modelo personalizado derivado del mismo modelo base.

Para obtener información sobre cómo comprar el rendimiento aprovisionado para un modelo, elija la pestaña correspondiente al método que prefiera y, a continuación, siga estos pasos:

Console

1. Inicie sesión en el AWS Management Console uso de un IAMrol con los permisos de Amazon Bedrock y abra la consola de Amazon Bedrock en. https://console.aws.amazon.com/bedrock/

2. En el panel de navegación de la izquierda, elija Rendimiento aprovisionado en Evaluación e implementación.

3. En la sección Rendimiento aprovisionado, seleccione Adquisición de rendimiento aprovisionado.

4. Para ver la sección Detalles del rendimiento aprovisionado, haga lo siguiente:

   1. En el campo Nombre del rendimiento aprovisionado, escriba un nombre para el rendimiento aprovisionado.

   2. En Seleccionar el modelo, seleccione un proveedor de modelos base o una categoría de modelos personalizados. A continuación, seleccione el modelo para el que desee aprovisionar el rendimiento.

      nota

      Para ver los modelos base para los que puede adquirir rendimiento aprovisionado sin compromiso, consulte Regiones y modelos que admiten el rendimiento aprovisionado.

      En la AWS GovCloud (US) región, solo puede adquirir Provisioned Throughput para modelos personalizados sin ningún compromiso.

   3. (Opcional) Para asociar etiquetas al rendimiento aprovisionado, amplíe la sección Etiquetas y elija Agregar nueva etiqueta. Para obtener más información, consulte Etiquetado de los recursos de Amazon Bedrock.

5. Para la sección Plazo de compromiso y unidades modelo, haga lo siguiente:

   1. En la sección Seleccione el plazo de compromiso, elija la cantidad de tiempo durante el que quiere comprometerse a utilizar el rendimiento aprovisionado.

   2. En el campo Unidades de modelo, introduzca el número deseado de unidades de modelo ()MUs. Si va a aprovisionar un modelo con compromiso, primero debe visitar el centro de AWS soporte para solicitar un aumento en el número de modelos MUs que puede adquirir.

6. En el Resumen estimado de la compra, revise el costo estimado.

7. Elija Comprar rendimiento aprovisionado.

8. Revise la nota que aparece y confirme la duración y el precio del compromiso marcando la casilla de verificación. A continuación, seleccione Confirmar compra.

9. La consola muestra la página de información general de Rendimiento aprovisionado. El Estado del rendimiento aprovisionado en la tabla Rendimiento aprovisionado pasa a Creando. Cuando se termine de crear el rendimiento aprovisionado, el Estado pasará a ser En servicio. Si la actualización falla, el Estado pasa a ser Error.

API

Para adquirir un rendimiento aprovisionado, envíe una CreateProvisionedModelThroughputsolicitud con un punto final del plano de control de Amazon Bedrock.

nota

Para ver los modelos base para los que puede adquirir rendimiento aprovisionado sin compromiso, consulte Regiones y modelos que admiten el rendimiento aprovisionado.

En la AWS GovCloud (US) región, solo puede adquirir el rendimiento aprovisionado para modelos personalizados sin ningún compromiso.

En la siguiente tabla se describen brevemente los parámetros y el cuerpo de la solicitud (sintaxis de la CreateProvisionedModelThroughput solicitud):

Variable	¿Obligatorio?	Caso de uso
modelId	Sí	Para especificar el ID del modelo base o ARN para comprar Provisioned Throughput, o el nombre del modelo personalizado o ARN
modelUnits	Sí	Para especificar el número de unidades de modelo (MUs) que se van a comprar. Para aumentar la cantidad MUs que puede comprar, visite el centro de AWS soporte y solicite un aumento en la cantidad de MUs unidades que puede comprar
provisionedModelName	Sí	Para especificar un nombre nuevo para el rendimiento aprovisionado.
commitmentDuration	No	Para especificar el tiempo durante el que se debe comprometer con el rendimiento aprovisionado. Omita este campo para optar por precios sin compromiso
tags	No	Para asociar etiquetas al rendimiento aprovisionado.
clientRequestToken	No	Para evitar la reduplicación de la solicitud.

La respuesta devuelve un valor provisionedModelArn que puede utilizar como modelId en la inferencia del modelo. Para comprobar si el rendimiento aprovisionado está listo para su uso, envíe una GetProvisionedModelThroughputsolicitud y compruebe que se encuentra en ese estado. InService Si se produce un error en la actualización, su estado será Failed y la GetProvisionedModelThroughputrespuesta contendrá un. failureMessage

Ver ejemplos de código