モデルの登録

モデルにスケーリングポリシーを追加する前に、まずモデルを自動スケーリングに登録し、モデルのスケーリング制限を定義する必要があります。

次の手順では、 () または Application Auto Scaling を使用して、オートスケーリング用のモデル AWS Command Line Interface （本番稼働用バリアントAWS CLI) を登録する方法について説明しますAPI。

モデルの登録 (AWS CLI)

本番稼働用バリアントを登録するには、以下のパラメータを指定して register-scalable-target コマンドを使用します。

• --service-namespace - この値は sagemaker に設定します。

• --resource-id - モデルのリソース識別子 (具体的には本番稼働用バリアント)。このパラメータでは、リソースタイプは endpoint で、一意の識別子は本番稼働用バリアントの名前です。例えば、endpoint/my-endpoint/variant/my-variant と指定します。

• --scalable-dimension - この値は sagemaker:variant:DesiredInstanceCount に設定します。

• --min-capacity— インスタンスの最小数。この値は 1 以上、および max-capacity に指定された値以下である必要があります。

• --max-capacity— インスタンスの最大数。この値は 1 以上、および min-capacity に指定された値以上である必要があります。

次の例はmy-variant、my-endpointエンドポイントで実行されている という名前のバリアントを登録する方法を示しています。このバリアントは、1～8 個のインスタンスを持つように動的にスケーリングできます。

aws application-autoscaling register-scalable-target \
  --service-namespace sagemaker \
  --resource-id endpoint/my-endpoint/variant/my-variant \
  --scalable-dimension sagemaker:variant:DesiredInstanceCount \
  --min-capacity 1 \
  --max-capacity 8

モデルを登録する (Application Auto Scaling API）

モデルを Application Auto Scaling に登録するには、次のパラメータを指定して RegisterScalableTarget Application Auto Scaling APIアクションを使用します。

• ServiceNamespace - この値は sagemaker に設定します。

• ResourceID - 本番稼働用バリアントのリソース識別子。このパラメータでは、リソースタイプは endpoint で、一意の識別子はバリアントの名前です。例えば、 ですendpoint/my-endpoint/variant/my-variant。

• ScalableDimension - この値は sagemaker:variant:DesiredInstanceCount に設定します。

• MinCapacity— インスタンスの最小数。この値は 1 以上、および MaxCapacity に指定された値以下である必要があります。

• MaxCapacity— インスタンスの最大数。この値は 1 以上、および MinCapacity に指定された値以上である必要があります。

次の例はmy-variant、my-endpointエンドポイントで実行されている という名前のバリアントを登録する方法を示しています。このバリアントは、1～8 個のインスタンスを使用するように動的にスケーリングできます。

POST / HTTP/1.1
Host: application-autoscaling.us-east-2.amazonaws.com
Accept-Encoding: identity
X-Amz-Target: AnyScaleFrontendService.RegisterScalableTarget
X-Amz-Date: 20230506T182145Z
User-Agent: aws-cli/2.0.0 Python/3.7.5 Windows/10 botocore/2.0.0dev4
Content-Type: application/x-amz-json-1.1
Authorization: AUTHPARAMS

{
    "ServiceNamespace": "sagemaker",
    "ResourceId": "endpoint/my-endpoint/variant/my-variant",
    "ScalableDimension": "sagemaker:variant:DesiredInstanceCount",
    "MinCapacity": 1,
    "MaxCapacity": 8
}