SageMaker HyperPod 叢集資源監控

若要在您的 SageMaker HyperPod 叢集資源和軟體元件中實現全面的可觀測性，請將叢集與 Amazon Managed Service for Prometheus 和 Amazon Managed Grafana 整合。與 Amazon Managed Service for Prometheus 的整合可匯出與 HyperPod 叢集資源相關的指標，提供其效能、使用率和運作狀態的洞見。與 Amazon Managed Grafana 的整合可透過各種 Grafana 儀表板來實現這些指標的視覺化，這些儀表板提供直覺式界面來監控和分析叢集的行為。透過利用這些服務，您可以集中且統一地檢視 HyperPod 叢集，促進分散式訓練工作負載的主動監控、疑難排解和最佳化。

提示

若要尋找實際範例和解決方案，請同時參閱 SageMaker HyperPod 研討會。

圖：此架構圖顯示使用 Amazon Managed Service for Prometheus 和 Amazon Managed Grafana 設定 SageMaker HyperPod 的概觀。

繼續進行下列主題，以設定 SageMaker HyperPod 叢集可觀測性。

主題

• SageMaker HyperPod 叢集可觀測性的完整先決條件

• 在 HyperPod 叢集上安裝指標匯出工具套件

• 在 HyperPod 叢集的主機節點上驗證 Prometheus 設定

• 設定 Amazon Managed Grafana 工作區

• 匯出的指標參考

• Amazon SageMaker HyperPod Slurm 指標