Amazon 中的模型部署選項 SageMaker - Amazon SageMaker

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

Amazon 中的模型部署選項 SageMaker

訓練機器學習模型後,您可以使用 Amazon 部署模型 SageMaker 以取得預測。Amazon SageMaker 支援下列方式部署模型,視您的使用案例而定:

SageMaker 部署機器學習模型時, 也提供管理資源和最佳化推論效能的功能:

  • 若要管理邊緣裝置上的模型,以便在邊緣裝置上最佳化、保護、監控和維護機器學習模型,請參閱 使用 SageMaker Edge Manager 在邊緣建立模型部署。這適用於邊緣裝置,例如智慧攝影機、機器人、個人電腦和行動裝置。

  • 若要根據 Ambarella、、Intel、ARMNvidia、、NXPQualcomm、Texas Instruments 和 Xilinx 的處理器,在 Android、Linux 和 Windows 機器上最佳化 Gluon、Keras、、、MXNet PyTorch TensorFlow TensorFlowLite 和ONNX模型以進行推論,請參閱 使用 SageMaker Neo 進行模型效能最佳化

如需所有部署選項的更多相關資訊,請參閱部署用於推論的模型