Registrazione di un modello

Prima di aggiungere una politica di ridimensionamento al modello, è necessario registrare il modello per la scalabilità automatica e definire i limiti di ridimensionamento per il modello.

Le seguenti procedure spiegano come registrare un modello (variante di produzione) per la scalabilità automatica utilizzando AWS Command Line Interface (AWS CLI) o l'API Application Auto Scaling.

Registrazione di un modello (AWS CLI)

Per registrare la variante di produzione, utilizzate il register-scalable-targetcomando con i seguenti parametri:

• --service-namespace – Impostare questo valore su sagemaker.

• --resource-id – L'identificatore di risorsa del modello (in particolare, la variante di produzione). Per questo parametro, il tipo di risorsa è endpoint e l'identificatore univoco è il nome della variante di produzione. Ad esempio, endpoint/my-endpoint/variant/my-variant.

• --scalable-dimension – Impostare questo valore su sagemaker:variant:DesiredInstanceCount.

• --min-capacity—Il numero minimo di istanze. Questo valore deve essere impostato su almeno 1 e deve essere uguale o minore rispetto al valore specificato per max-capacity.

• --max-capacity—Il numero massimo di istanze. Questo valore deve essere impostato su almeno 1 e deve essere uguale o maggiore rispetto al valore specificato per min-capacity.

L'esempio seguente mostra come registrare una variante denominatamy-variant, in esecuzione sull'my-endpointendpoint, che può essere ridimensionata dinamicamente per avere da una a otto istanze.

aws application-autoscaling register-scalable-target \
  --service-namespace sagemaker \
  --resource-id endpoint/my-endpoint/variant/my-variant \
  --scalable-dimension sagemaker:variant:DesiredInstanceCount \
  --min-capacity 1 \
  --max-capacity 8

Registrazione di un modello (API di dimensionamento automatico dell’applicazione)

Per registrare il modello con Application Auto Scaling, utilizzate l'azione API RegisterScalableTargetApplication Auto Scaling con i seguenti parametri:

• ServiceNamespace – Impostare questo valore su sagemaker.

• ResourceID – l'identificatore di risorsa per la variante di produzione. Per questo parametro, il tipo di risorsa è endpoint e l'identificatore univoco è il nome della variante. Ad esempio endpoint/my-endpoint/variant/my-variant.

• ScalableDimension – Impostare questo valore su sagemaker:variant:DesiredInstanceCount.

• MinCapacity—Il numero minimo di istanze. Questo valore deve essere impostato su almeno 1 e deve essere uguale o minore rispetto al valore specificato per MaxCapacity.

• MaxCapacity—Il numero massimo di istanze. Questo valore deve essere impostato su almeno 1 e deve essere uguale o maggiore rispetto al valore specificato per MinCapacity.

L'esempio seguente mostra come registrare una variante denominatamy-variant, in esecuzione sull'my-endpointendpoint, che può essere ridimensionata dinamicamente per utilizzare da una a otto istanze.

POST / HTTP/1.1
Host: application-autoscaling.us-east-2.amazonaws.com
Accept-Encoding: identity
X-Amz-Target: AnyScaleFrontendService.RegisterScalableTarget
X-Amz-Date: 20230506T182145Z
User-Agent: aws-cli/2.0.0 Python/3.7.5 Windows/10 botocore/2.0.0dev4
Content-Type: application/x-amz-json-1.1
Authorization: AUTHPARAMS

{
    "ServiceNamespace": "sagemaker",
    "ResourceId": "endpoint/my-endpoint/variant/my-variant",
    "ScalableDimension": "sagemaker:variant:DesiredInstanceCount",
    "MinCapacity": 1,
    "MaxCapacity": 8
}