非同期推論エンドポイントを作成する方法

SageMaker AI ホスティングサービスを使用してエンドポイントを作成するのと同じ方法で、非同期エンドポイントを作成します。

• を使用して SageMaker AI でモデルを作成しますCreateModel。

• CreateEndpointConfig を使用してエンドポイント設定を作成する。

• を使用してHTTPSエンドポイントを作成しますCreateEndpoint。

エンドポイントを作成するには、まず、CreateModel を使用してモデルアーティファクトと Docker レジストリパス (イメージ) をポイントする、モデルを作成します。次に、 を使用して設定を作成しCreateEndpointConfig、 を使用して作成された 1 つ以上のモデルCreateModelAPIを指定してデプロイし、 SageMaker AI でプロビジョニングするリソースを指定します。リクエストで指定したエンドポイント設定を使用して CreateEndpoint でエンドポイントを作成します。を使用して非同期エンドポイントを更新できますUpdateEndpointAPI。InvokeEndpointAsync を使って、エンドポイント ホストされているモデルとの間で推論リクエストを送受信します。を使用してエンドポイントを削除できますDeleteEndpointAPI。

利用可能な SageMaker AI イメージの完全なリストについては、「利用可能な深層学習コンテナイメージ」を参照してください。Docker イメージの作成方法の詳細については、「カスタム推論コードを持つコンテナ」を参照してください。

トピック

• モデルを作成する
• エンドポイント設定を作成する
• エンドポイントの作成