模型品質 - Amazon SageMaker

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

模型品質

模型品質監控工作會將模型所做的預測與模型嘗試預測的實際 Ground Truth 標籤進行比較,以監控模型的效能。為了這麼做,模型品質監控會將從即時或批次推論擷取的資料與存放在 Amazon S3 儲存貯體的實際標籤合併,然後將預測與實際標籤進行比較。

為了測量模型品質,模型監控會使用取決於機器學習 (ML) 問題類型的指標。例如,如果您的模型是針對迴歸問題,則評估的其中一個指標是均方誤差 (mse)。如需用於不同機器學習 (ML) 問題類型之所有指標的相關資訊,請參閱模型品質指標和 Amazon CloudWatch 監控

模型品質監控按照與資料品質監控相同的步驟,但新增額外步驟以合併 Amazon S3 實際標籤與從即時推論端點或批次轉換工作擷取的預測結果。若要監控模型品質,請依照下列步驟執行:

  • 啟用資料擷取。這會擷取即時推論端點或批次轉換工作的推論輸入和輸出,並將資料存放在 Amazon S3 中。如需詳細資訊,請參閱資料擷取

  • 建立基準。在此步驟中,您會執行基準工作,將模型的預測結果與基準資料集中的 Ground Truth 標籤進行比較。基準工作會自動建立基準統計規則和限制,以定義評估模型效能的閾值。如需詳細資訊,請參閱建立模型品質基準

  • 定義和排程模型品質監控工作。如需模型品質監控任務的特定資訊和程式碼範例,請參閱 排程模型品質監控任務。如需監控工作的一般資訊,請參閱排定監控工作

  • 擷取 Ground Truth 標籤,模型監控會將其與從即時推論端點或批次轉換工作擷取的預測資料合併。如需詳細資訊,請參閱擷取 Ground Truth 標籤,並將其與預測合併

  • 將模型品質監控與 Amazon 整合 CloudWatch。如需詳細資訊,請參閱使用 監控模型品質指標 CloudWatch

  • 解譯監控工作的結果。如需詳細資訊,請參閱解讀結果

  • 使用 SageMaker Studio 啟用模型品質監控和視覺化結果。如需詳細資訊,請參閱在 Amazon SageMaker Studio 中視覺化即時端點的結果