GPU 액셀러레이터 사용 - AWS 기한 클라우드

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

GPU 액셀러레이터 사용

하나 이상의 GPUs를 구성할 수 있습니다. 액셀러레이터를 사용하면 작업을 처리하는 데 걸리는 시간을 줄일 수 있지만 각 작업자 인스턴스의 비용이 증가할 수 있습니다. GPU 액셀러레이터를 사용하는 플릿과 그렇지 않은 플릿 간의 장단점을 이해하려면 워크로드를 테스트해야 합니다.

wait-and-save 인스턴스가 있는 플릿에는 GPUs를 사용할 수 없습니다.

참고

테스트 목적으로 GPU는 1개로 제한됩니다. 프로덕션 워크로드에 대해 더 많은 것을 요청하려면 Service Quotas 사용 설명서의 할당량 증가 요청을 참조하세요.

작업자 인스턴스 기능을 지정할 때 플릿이 GPU 액셀러레이터를 사용할지 여부를 결정합니다. GPUs를 사용하기로 결정한 경우 각 인스턴스의 최소 및 최대 GPUs 수, 사용할 GPU 칩 유형, GPU의 런타임 드라이버를 GPUs.

사용 가능한 GPU 액셀러레이터는 다음과 같습니다.

  • T4 - NVIDIA T4 Tensor 코어 GPU

  • A10G - NVIDIA A10G Tensor 코어 GPU

  • L4 - NVIDIA L4 Tensor 코어 GPU

  • L40s - NVIDIA L40S Tensor 코어 GPU

다음 런타임 드라이버 중에서 선택할 수 있습니다.

런타임을 지정하지 않으면 Deadline Cloud는를 기본값latest으로 사용합니다. 그러나 액셀러레이터가 여러 개 있고 일부에 latest 대해를 지정하고 다른는 비워 두면 Deadline Cloud에서 예외가 발생합니다.