非同期推論 - Amazon SageMaker

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

非同期推論

Amazon SageMaker Asynchronous Inference は、受信リクエストをキューに入れ、非同期的に処理 SageMaker する の機能です。このオプションは、ペイロードサイズが大きく (最大 1 GB)、処理時間が長い (最大 1 時間)、ほぼリアルタイムのレイテンシー要件があるリクエストに最適です。非同期推論では、処理するリクエストがない場合、インスタンスカウントをゼロにオートスケーリングすることによりコストを節約できるため、エンドポイントがリクエストを処理している場合にのみ料金が発生します。

仕組み

非同期推論エンドポイントの作成は、リアルタイムの推論エンドポイントの作成に似ています。既存の SageMaker モデルを使用でき、CreateEndpointConfigエンドポイント設定の作成時に、 API の EndpointConfigフィールドを使用して AsyncInferenceConfig オブジェクトを指定するだけで済みます。次の図は、非同期推論のアーキテクチャとワークフローを示しています。


                ユーザーがエンドポイントを呼び出し、エンドポイントがどのように応答するかを示す非同期推論のアーキテクチャ図。

エンドポイントを呼び出すには、リクエストペイロードを Amazon S3 に配置し、このペイロードへのポインタを InvokeEndpointAsync リクエストの一部として与える必要があります。呼び出し時に、 は処理のリクエストを SageMaker キューに入れ、識別子と出力場所をレスポンスとして返します。処理時に、 は結果を Amazon S3 の場所 SageMaker に配置します。成功またはエラー通知を Amazon SNS で受け取るようにオプションで選択することもできます。非同期通知の設定方法の詳細については、「予測結果のチェック」を参照してください。

注記

エンドポイント設定に非同期推論の設定 (AsyncInferenceConfig) オブジェクトが含まれているということは、エンドポイントで受け取ることができるのは非同期呼び出しのみということを意味します。

使用を開始する方法をお知りになりたいですか?

Amazon SageMaker Asynchronous Inference を初めて使用する場合は、以下を実行することをお勧めします。

この Exclusions ページにリストされているいずれかの機能をエンドポイントで使用する場合は、非同期推論を使用できないことにご注意ください。