サーバーレスエンドポイントをモニタリングする

サーバーレスエンドポイントをモニタリングするには、Amazon CloudWatch alarms. を使用できます。 CloudWatch は、 AWS アプリケーションとリソースからメトリクスをリアルタイムで収集するサービスです。アラームは収集されたメトリックをモニタリングし、しきい値とそのしきい値を超えた場合に実行するアクションを事前に指定することができます。例えば、エンドポイントがエラーしきい値を超えた場合、 CloudWatch アラームから通知を受け取ることができます。 CloudWatch アラームを設定することで、エンドポイントのパフォーマンスと機能を可視化できます。 CloudWatch アラームの詳細については、「Amazon ユーザーガイド」の「Amazon CloudWatch アラームの使用」を参照してください。 CloudWatch

によるモニタリング CloudWatch

次のメトリクスは、サーバーレスエンドポイントに対するメトリクスの網羅的なリストです。以下にリストされていないメトリクスは、サーバーレスエンドポイントに対して発行されません。以下のメトリクスの詳細については、「Amazon SageMaker で Amazon をモニタリング CloudWatchする」を参照してください。

共通のエンドポイントメトリクス

これらの CloudWatch メトリクスは、リアルタイムエンドポイントに対して公開されるメトリクスと同じです。

OverheadLatency メトリクスは、サーバーレスエンドポイントの新しいコンピューティングリソースを起動するためのコールドスタート時間を含む、 が SageMaker 追加したすべての追加レイテンシーを追跡します。オンデマンドのサーバーレスエンドポイントと比較すると、プロビジョニングされた同時実行を備えたサーバーレスエンドポイントの OverheadLatency は、一般的に大幅に短くなります。

サーバーレスエンドポイントは、Invocations4XXErrors、Invocations5XXErrors、Invocations、ModelLatency、ModelSetupTime、MemoryUtilization メトリクスを使用することもできます。これらのメトリクスの詳細については、「SageMaker エンドポイント呼び出しメトリクス」を参照してください。

共通のサーバーレスエンドポイントのメトリクス

これらの CloudWatch メトリクスは、オンデマンドのサーバーレスエンドポイントと、プロビジョニングされた同時実行を使用するサーバーレスエンドポイントの両方について発行されます。

メトリクス名	説明	単位/統計
ServerlessConcurrentExecutionsUtilization	同時実行数を最大同時実行数で割った値。	単位: なし 有効な統計: Average、Max、Min

プロビジョニングされた同時実行メトリクスを備えたサーバーレスエンドポイント

これらの CloudWatch メトリクスは、プロビジョニングされた同時実行を使用するサーバーレスエンドポイントに対して発行されます。

メトリクス名	説明	単位/統計
ServerlessProvisionedConcurrencyExecutions	エンドポイントが処理する同時実行数。	単位: カウント 有効な統計: Average、Max、Min
ServerlessProvisionedConcurrencyUtilization	同時実行数を割り当て済みのプロビジョニングされた同時実行数で割った値。	単位: なし 有効な統計: Average、Max、Min
ServerlessProvisionedConcurrencyInvocations	プロビジョニングされた同時実行が処理した InvokeEndpoint リクエストの数。	単位: カウント 有効な統計: Average、Max、Min
ServerlessProvisionedConcurrencySpilloverInvocations	プロビジョニングされた同時実行で処理されず、オンデマンドのサーバーレス推論によって処理された InvokeEndpoint リクエストの数。	単位: カウント 有効な統計: Average、Max、Min

ログ

エンドポイントからのログをデバッグまたは進行状況分析のためにモニタリングする場合は、Amazon CloudWatch Logs を使用できます。サーバーレスエンドポイントに使用できる SageMakerが提供するロググループは です/aws/sagemaker/Endpoints/[EndpointName]。での CloudWatch ログの使用の詳細については SageMaker、「」を参照してくださいAmazon で Amazon SageMaker イベントをログに記録する CloudWatch。 CloudWatch ログの詳細については、「Amazon CloudWatch Logs ユーザーガイド」の「Amazon Logs とは CloudWatch 」を参照してください。