選取您的 Cookie 偏好設定

我們使用提供自身網站和服務所需的基本 Cookie 和類似工具。我們使用效能 Cookie 收集匿名統計資料,以便了解客戶如何使用我們的網站並進行改進。基本 Cookie 無法停用,但可以按一下「自訂」或「拒絕」以拒絕效能 Cookie。

如果您同意,AWS 與經核准的第三方也會使用 Cookie 提供實用的網站功能、記住您的偏好設定,並顯示相關內容,包括相關廣告。若要接受或拒絕所有非必要 Cookie,請按一下「接受」或「拒絕」。若要進行更詳細的選擇,請按一下「自訂」。

使用 Amazon SageMaker AI 進行推論的進階端點選項

焦點模式
使用 Amazon SageMaker AI 進行推論的進階端點選項 - Amazon SageMaker AI

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

透過即時推論,您可以利用下列進階推論選項,進一步最佳化效能與成本:

  • 多模型端點 – 如果您有多個模型使用相同的架構,並且可以共用容器,請使用此選項。此選項可透過改善端點使用率並降低部署額外負荷,來協助您最佳化成本。

  • 多容器端點 – 如果您有多個模型使用不同的架構,且需要自己的容器,請使用此選項。您可以獲得多模型端點的許多優點,並可部署各種架構和模型。

  • 序列推論管道 – 如果您想要在端點後方託管具有預處理和後處理邏輯的模型,請使用此選項。推論管道完全由 SageMaker AI 管理,並提供較低的延遲,因為所有容器都託管在相同的 Amazon EC2 執行個體上。

下一個主題:

後續步驟

上一個主題:

推論選項
隱私權網站條款Cookie 偏好設定
© 2025, Amazon Web Services, Inc.或其附屬公司。保留所有權利。