使用 Amazon 進行模型部署的模型伺服器 SageMaker

您可以使用常見的模型伺服器，例如 TorchServe、Serving DJL 和 Triton 推論伺服器，在 上部署模型 SageMaker。下列主題說明如何進行。

主題

• 使用 部署模型 TorchServe
• 使用 DJL Serving 部署模型
• 使用 Triton Inference Server 進行模型部署