Amazon SageMaker モデルをオートスケーリングする

Amazon SageMaker では、ホストモデルの Auto Scaling (Auto Scaling) がサポートされています。Auto Scaling は、ワークロードの変化に応じて、モデルにプロビジョニングされるインスタンスの数を動的に調整します。ワークロードが増加すると、auto Scaling により多くのインスタンスがオンラインになります。ワークロードが減ると、auto Scaling は使用していないインスタンスを削除します。