本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

執行機器學習推論

透過AWS IoT Greengrass，您可以使用雲端訓練的模型，在本機產生的資料上，在邊緣裝置上執行機器學習 (ML) 推論。您可以從低延遲時間和節省執行本機推論成本中獲益，但仍同時充分利用雲端運算能力進行訓練模型和處理複雜地處理。

AWS IoT Greengrass使執行推論所需的步驟更有效率。您可以在任何地方訓練推論模型，並在本機部署為機器學習元件。例如，您可以在 Amazon 中建立和訓練深度學習模型， SageMaker或在 Amazon 瞭望視覺中建置和訓練電腦視覺模型。然後，您可以將這些模型存放在 Amazon S3 儲存貯體中，以便將這些模型用作元件中的成品，在核心裝置上執行推論。

AWS IoT Greengrass 機器學習推論如何運作

AWS提供機器學習元件，您可以使用這些元件建立單步驟部署，以便在裝置上執行機器學習推論。您也可以使用這些元件做為範本來建立自訂元件，以符合您的特定需求。

您為執行機器學習推論而建立的每個部署都包含至少一個執行推論應用程式的元件、安裝機器學習架構，以及下載您的機器學習模型。若要使用AWS提供的元件執行範例推論，您可以將推論元件部署到核心裝置，而核心裝置會自動包含對應的模型和執行階段元件做為相依性。若要自訂部署，您可以使用自訂模型元件插入或替換範例模型元件，或者您可以使用AWS提供之元件的元件配方做為範本，以建立您自己的自訂推論、模型和執行階段元件。

若要使用自訂元件執行機器學習推論：

若要開始使用提AWS供的元件，請參閱教學課程：使 TensorFlow 用 Lite 執行範例影像分類推論。

如需有關建立自訂機器學習元件的資訊，請參閱自訂您的機器學習元件。

AWS IoT Greengrass版本 2 有什麼不同？

AWS IoT Greengrass將機器學習的功能單元 (例如模型、執行階段和推論程式碼) 整合到元件中，讓您使用單一步驟程序來安裝機器學習執行階段、下載訓練過的模型，以及在裝置上執行推論。

透過使用AWS提供的機器學習元件，您可以彈性地開始使用範例推論程式碼和預先訓練的模型來執行機器學習推論。您可以插入自訂模型元件，將您自己的自訂訓練模型與提供的推論和執行階段元件搭配使用AWS。對於完全自訂的機器學習解決方案，您可以使用公用元件做為範本來建立自訂元件，並使用任何您想要的執行階段、模型或推論類型。

要求

若要建立和使用機器學習元件，您必須具備下列項目：

支援的模型來源

AWS IoT Greengrass支援使用存放在 Amazon S3 中的自訂訓練機器學習模型。您也可以使用 Amazon SageMaker Edge 封裝任務，為 SageMaker 新編譯的模型直接建立模型元件。如需搭配使用 SageMaker 邊管理員的資訊AWS IoT Greengrass，請參閱在核心設備上使用 Amazon SageMaker 邊緣管理器。您也可以使用 Amazon Lookout for Vision 模型封裝任務，為您的 Lookout for Vision 模型建立模型元件。如需使用瞭望視覺搭配使用的更多資訊AWS IoT Greengrass，請參閱Greengrass out out out out out out out out out out out on Vision。

包含您模型的 S3 儲存貯體必須符合下列需求：

支援的機器學習執行階段

AWS IoT Greengrass可讓您建立自訂元件，以使用您選擇的任何機器學習執行階段，透過自訂訓練的模型執行機器學習推論。如需有關建立自訂機器學習元件的資訊，請參閱自訂您的機器學習元件。

為了讓開始使用機器學習的程序更有效率，請AWS IoT Greengrass提供使用下列機器學習執行階段的範例推論、模型和執行階段元件：

AWS-提供機器學習元件

下表列出用於機器學習的 AWS-提供的元件。