翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。
スケーリングポリシーを適用する
モデルを登録してスケーリングポリシーを定義したら、登録されたモデルにスケーリングポリシーを適用します。このセクションでは、 AWS Command Line Interface (AWS CLI) または Application Auto Scaling を使用してスケーリングポリシーを適用する方法を示しますAPI。
ターゲット追跡スケーリングポリシーを適用する (AWS CLI)
モデルにスケーリングポリシーを適用するには、次のパラメータを指定して put-scaling-policy AWS CLI コマンドを使用します。
-
--policy-name
- スケーリングポリシーの名前。 -
--policy-type
- この値はTargetTrackingScaling
に設定します。 -
--resource-id
- バリアントのリソース識別子。このパラメータでは、リソースタイプはendpoint
で、一意の識別子はバリアントの名前です。例えば、endpoint/
と指定します。my-endpoint
/variant/my-variant
-
--service-namespace
- この値はsagemaker
に設定します。 -
--scalable-dimension
- この値はsagemaker:variant:DesiredInstanceCount
に設定します。 -
--target-tracking-scaling-policy-configuration
— モデルに使用するターゲット追跡スケーリングポリシー設定。
次の例では、 という名前のターゲット追跡スケーリングポリシー
をmy-scaling-policy
、my-variant
エンドポイントで実行されている という名前のバリアントに適用します。my-endpoint
--target-tracking-scaling-policy-configuration
オプションには、前に作成した config.json
ファイルを指定します。
aws application-autoscaling put-scaling-policy \ --policy-name
my-scaling-policy
\ --policy-type TargetTrackingScaling \ --resource-id endpoint/my-endpoint
/variant/my-variant
\ --service-namespace sagemaker \ --scalable-dimension sagemaker:variant:DesiredInstanceCount \ --target-tracking-scaling-policy-configuration file://config.json
スケーリングポリシーを適用する (Application Auto Scaling API)
Application Auto Scaling を使用してスケーリングポリシーをバリアントに適用するにはAPI、次のパラメータを指定して PutScalingPolicy Application Auto Scaling APIアクションを使用します。
-
PolicyName
- スケーリングポリシーの名前。 -
ServiceNamespace
- この値はsagemaker
に設定します。 -
ResourceID
- バリアントのリソース識別子。このパラメータでは、リソースタイプはendpoint
で、一意の識別子はバリアントの名前です。例えば、endpoint/
と指定します。my-endpoint
/variant/my-variant
-
ScalableDimension
- この値はsagemaker:variant:DesiredInstanceCount
に設定します。 -
PolicyType
- この値はTargetTrackingScaling
に設定します。 -
TargetTrackingScalingPolicyConfiguration
- バリアントに使用するターゲット追跡スケーリングポリシー設定。
次の例では、 という名前のターゲット追跡スケーリングポリシー
をmy-scaling-policy
、my-variant
エンドポイントで実行されている という名前のバリアントに適用します。ポリシー設定では、インスタンスあたりの平均呼び出し数は 70 に維持されます。my-endpoint
POST / HTTP/1.1 Host: application-autoscaling.us-east-2.amazonaws.com Accept-Encoding: identity X-Amz-Target: AnyScaleFrontendService. X-Amz-Date: 20230506T182145Z User-Agent: aws-cli/2.0.0 Python/3.7.5 Windows/10 botocore/2.0.0dev4 Content-Type: application/x-amz-json-1.1 Authorization: AUTHPARAMS { "PolicyName": "
my-scaling-policy
", "ServiceNamespace": "sagemaker", "ResourceId": "endpoint/my-endpoint
/variant/my-variant
", "ScalableDimension": "sagemaker:variant:DesiredInstanceCount", "PolicyType": "TargetTrackingScaling", "TargetTrackingScalingPolicyConfiguration": { "TargetValue":70.0
, "PredefinedMetricSpecification": { "PredefinedMetricType": "SageMakerVariantInvocationsPerInstance" } } }