複数のモデルを提供するカスタムコンテナの契約 - Amazon SageMaker

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

複数のモデルを提供するカスタムコンテナの契約

複数のモデルを処理するには、Amazon SageMaker がコンテナと通信して必要に応じてモデルをロード、一覧表示、取得、アンロードできるようにする API のセットを、コンテナがサポートする必要があります。model_name は、キー入力パラメータとして新しい API のセットで使用されます。カスタマーコンテナでは、マッピングキーとして model_name を使用して、ロードされたモデルを追跡する必要があります。また、model_name は不透明な識別子であり、必ずしも InvokeEndpoint API に渡される TargetModel パラメータの値ではありません。InvokeEndpoint リクエストの元の TargetModel 値は、ログ記録の目的で使用できる X-Amzn-SageMaker-Target-Model ヘッダーとして API のコンテナに渡されます。

LOAD MODEL

本文の url フィールドにある特定のモデルをカスタマーコンテナのメモリにロードし、割り当てられた model_name で追跡するように、コンテナに指示します。モデルがロードされたら、コンテナでは、この model_name を使用して推論リクエストを処理する準備ができています。

POST /models HTTP/1.1 Content-Type: application/json Accept: application/json { "model_name" : "{model_name}", "url" : "/opt/ml/models/{model_name}/model", }
注記

model_name がすでにロードされている場合、この API は 409 を返します。メモリの不足や他のいずれかのリソースが原因でモデルをロードできない場合、この API は 507 HTTP ステータスコードを SageMaker に返します。これにより、未使用のモデルのアンロードが開始されて解放されます。

リストモデルAPI

カスタマーコンテナのメモリにロードされたモデルのリストを返します。

GET /models HTTP/1.1 Accept: application/json Response = { "models": [ { "modelName" : "{model_name}", "modelUrl" : "/opt/ml/models/{model_name}/model", }, { "modelName" : "{model_name}", "modelUrl" : "/opt/ml/models/{model_name}/model", }, .... ] }

この API はページ分割もサポートしています。

GET /models HTTP/1.1 Accept: application/json Response = { "models": [ { "modelName" : "{model_name}", "modelUrl" : "/opt/ml/models/{model_name}/model", }, { "modelName" : "{model_name}", "modelUrl" : "/opt/ml/models/{model_name}/model", }, .... ] }

SageMaker は、最初に List Models API を呼び出すことができます。next_page_tokennextPageToken フィールドがレスポンスの一部として返された場合、後続の List Models コールで next_page_token の値として渡されます。nextPageToken が返されなかった場合、返されるモデルがこれ以上ないということです。

GET MODEL

これは、model_name エンティティの単純な読み取り API です。

GET /models/{model_name} HTTP/1.1 Accept: application/json { "modelName" : "{model_name}", "modelUrl" : "/opt/ml/models/{model_name}/model", }
注記

model_name がロードされていない場合、この API は 404 を返します。

UNLOAD MODEL API

SageMaker プラットフォームに、カスタマーコンテナにモデルをメモリからアンロードするよう指示します。これにより、新しいモデルのロードプロセスが開始されると、プラットフォームによって候補とされたモデルの削除が開始されます。model_name にプロビジョニングされたリソースは、この API がレスポンスを返すときにコンテナによって解放される必要があります。

DELETE /models/{model_name}
注記

model_name がロードされていない場合、この API は 404 を返します。

LOAD MODEL API

指定された特定の model_name への予測リクエストを作成します。SageMaker ランタイムInvokeEndpointサポートされるリクエストX-Amzn-SageMaker-Target-Model呼び出し対象として指定されたモデルの相対パスを受け取る新しいヘッダーとして。SageMaker システムは、モデルの絶対パスを生成します。CreateModelAPI 呼び出しをモデルの相対パスで呼び出します。

POST /models/{model_name}/invoke HTTP/1.1 Content-Type: ContentType Accept: Accept X-Amzn-SageMaker-Custom-Attributes: CustomAttributes X-Amzn-SageMaker-Target-Model: [relativePath]/{artifactName}.tar.gz
注記

model_name がロードされていない場合、この API は 404 を返します。