リアルタイム推論

リアルタイム推論は、リアルタイム、インタラクティブ、低レイテンシーの要件がある推論ワークロードに最適です。SageMaker AI ホスティングサービスにモデルをデプロイし、推論に使用できるエンドポイントを取得できます。これらのエンドポイントはフルマネージドで、オートスケーリングをサポートします (「Amazon SageMaker AI モデルの自動スケーリング」を参照)。

トピック

• リアルタイム推論用のモデルをデプロイする

• リアルタイム推論用のモデルを呼び出す

• エンドポイント

• ホスティングオプション

• Amazon SageMaker AI モデルの自動スケーリング

• インスタンスストレージボリューム

• 本番環境でのモデルの検証

• SageMaker Clarify によるオンライン説明可能性

• アダプター推論コンポーネントを使用してモデルを微調整する