內建演算法的執行個體類型 - Amazon SageMaker

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

內建演算法的執行個體類型

對於訓練和託管 Amazon SageMaker 演算法,我們建議使用下列 Amazon EC2 執行個體類型:

  • ml.m5.xlarge, ml.m5.4xlarge, 和 ml.m5.12xlarge

  • ml.c5.xlarge, ml.c5.2xlarge, 和 ml.c5.8xlarge

  • ml.p3.xlarge, ml.p3.8xlarge, 和 ml.p3.16xlarge

大多數 Amazon SageMaker 演算法的設計都是為了充分利用 GPU 運算進行訓練。對於大多數演算法訓練,我們支援 P2、P3、G4dn 和 G5 GPU 執行個體。雖然每個執行個體的成本較高,但 GPU 的訓練速度更快,更具成本效益。例外有註明在本教學中。

何種硬體組態最能發揮效率,資料的大小和類型有很大的影響。當相同的模型要不斷循環訓練時,最初在多種執行個體類型上進行測試,可找出長程下來最具成本效益的組態。此外,在 GPU 上訓練效率最佳的演算法,在推論時的效率可能並不需要 GPU。請進行實驗,找出最具效率的解決方案。若要取得自動執行個體建議或執行自訂負載測試,請使用 Amazon SageMaker 推論建議程式。

如需 SageMaker 硬體規格的詳細資訊,請參閱 Amazon SageMaker ML 執行個體類型