기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
SageMaker 모델 병렬 처리 라이브러리 v2의 핵심 기능
Amazon SageMaker 모델 병렬 처리 라이브러리 v2(SMP v2)는 샤딩된 데이터 병렬 처리, 텐서 병렬 처리 및 체크포인트와 같은 배포 전략 및 메모리 절감 기술을 제공합니다. SMP v2에서 제공하는 모델 병렬 처리 전략 및 기술은 훈련 속도와 메모리 소비를 최적화하면서 여러 디바이스에 대규모 모델을 분산하는 데 도움이 됩니다. SMP v2는 또한 코드 변경 줄이 거의 없는 훈련 스크립트를 조정torch.sagemaker하는 데 도움이 되는 Python 패키지를 제공합니다.
이 가이드는 에 도입된 기본 2단계 흐름을 따릅니다 SageMaker 모델 병렬 처리 라이브러리 v2 사용. SMP v2의 핵심 기능과 이를 사용하는 방법을 자세히 알아보려면 다음 주제를 참조하세요.
참고
이러한 핵심 기능은 SMP v2.0.0 이상 및 SageMaker Python SDK v2.200.0 이상에서 사용할 수 있으며 PyTorch v2.0.1 이상에서 작동합니다. 패키지의 버전을 확인하려면 섹션을 참조하세요지원되는 프레임워크 및 AWS 리전.
주제
