GPU 작업 - AWS Batch

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

GPU 작업

GPU 작업을 통해 인스턴스의 GPU를 사용하는 작업을 실행할 수 있습니다.

다음과 같은 Amazon EC2 GPU 기반 인스턴스 유형이 지원됩니다. 자세한 정보는 Amazon EC2 G3 인스턴스, Amazon EC2 G4 인스턴스, Amazon EC2 G5 인스턴스, Amazon EC2 P2 인스턴스, Amazon EC2 P3 인스턴스, Amazon EC2 P4d 인스턴스Amazon EC2 P5 인스턴스를 참조하세요.

인스턴스 유형

GPU

GPU 메모리

vCPU

메모리

네트워크 대역폭

g3s.xlarge

1

8GiB

4

30.5GiB

10Gbps

g3.4xlarge

1

8GiB

16

122GiB

최대 10Gbps

g3.8xlarge

2

16GiB

32

244GiB

10Gbps

g3.16xlarge

4

32GiB

64

488GiB

25Gbps

g4dn.xlarge

1

16GiB

4

16GiB

최대 25Gbps

g4dn.2xlarge

1

16GiB

8

32GiB

최대 25Gbps

g4dn.4xlarge

1

16GiB

16

64GiB

최대 25Gbps

g4dn.8xlarge

1

16GiB

32

128GiB

50Gbps

g4dn.12xlarge

4

64GiB

48

192GiB

50Gbps

g4dn.16xlarge

1

16GiB

64

256GiB

50Gbps

g5.xlarge

1

24GiB

4

16GiB

최대 10Gbps

g5.2xlarge

1

24GiB

8

32GiB

최대 10Gbps

g5.4xlarge

1

24GiB

16

64GiB

최대 25Gbps

g5.8xlarge

1

24GiB

32

128GiB

25Gbps

g5.16xlarge

1

24GiB

64

256GiB

25Gbps

g5.12xlarge

4

96GiB

48

192GiB

40Gbps

g5.24xlarge

4

96GiB

96

384GiB

50Gbps

g5.48xlarge

8

192GiB

192

768GiB

100Gbps

p2.xlarge

1

12GiB

4

61GiB

높음

p2.8xlarge

8

96GiB

32

488GiB

10Gbps

p2.16xlarge

16

192GiB

64

732GiB

20Gbps

p3.2xlarge

1

16GiB

8

61GiB

최대 10Gbps

p3.8xlarge

4

64GiB

32

244GiB

10Gbps

p3.16xlarge

8

128GiB

64

488GiB

25Gbps

p3dn.24xlarge

8

256GiB

96

768GiB

100Gbps

p4d.24xlarge

8

320GiB

96

1152GiB

4x100Gbps

p5.48xlarge

8

640GiB

192

2TiB

32x100Gbps

참고

NVIDIA GPU를 지원하고 x86_64 아키텍처를 사용하는 인스턴스 유형만 AWS Batch의 GPU 작업에서 지원됩니다. 예를 들어 G4adG5g 인스턴스 패밀리는 지원되지 않습니다.

작업 정의에 대한 resourceRequirements 파라미터는 컨테이너에 고정되며 해당 작업 기간 동안 해당 인스턴스에서 실행 중인 다른 작업에서는 사용할 수 없는 GPU 수를 지정합니다. 이 수의 GPU는 해당 작업이 진행되는 동안 해당 인스턴스에서 실행되는 다른 작업에서는 사용할 수 없습니다. GPU 작업을 실행할 컴퓨팅 환경의 모든 인스턴스 유형은 p2, p3, p4, p5, g3, g3s, g4 또는 g5 인스턴스 패밀리의 인스턴스 유형이어야 합니다. 그렇지 않으면 GPU 작업이 RUNNABLE 상태로 고착될 수 있습니다.

GPU를 사용하지 않는 작업은 GPU 인스턴스에서 실행할 수 있습니다. 하지만 유사한 비 GPU 인스턴스보다 GPU 인스턴스에서 실행하는 경우 비용이 더 많이 들 수 있습니다. 특정 vCPU, 메모리 및 필요한 시간에 따라 이러한 비 GPU 작업은 GPU 작업의 실행을 차단할 수 있습니다.