使用 GPU 加速器 - AWS 截止日期雲端

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

使用 GPU 加速器

您可以在服務受管機群中設定工作者主機,以使用一或多個 GPUs 來加速處理任務。使用 加速器可以縮短處理任務所需的時間,但可以增加每個工作者執行個體的成本。您應該測試工作負載,以了解使用 GPU 加速器的機群與不使用的機群之間的權衡。

GPUs 不適用於具有wait-and-save連線的機群。

注意

基於測試目的,您僅限於一個 GPU。若要為您的生產工作負載請求更多,請參閱《Service Quotas 使用者指南》中的請求提高配額

當您指定工作者執行個體功能時,您可以決定機群是否會使用 GPU 加速器。如果您決定使用 GPUs,您可以指定每個執行個體的 GPUs 數量下限和上限、要使用的 GPU 晶片類型,以及 GPUs 的執行時間驅動程式。

可用的 GPU 加速器包括:

  • T4 - NVIDIA T4 Tensor 核心 GPU

  • A10G - NVIDIA A10G Tensor 核心 GPU

  • L4 - NVIDIA L4 Tensor 核心 GPU

  • L40s - NVIDIA L40S Tensor 核心 GPU

您可以從下列執行時間驅動程式中選擇:

  • Latest - 使用晶片可用的最新執行時間。如果您指定 latest並發行新版本的執行時間,則會使用新版本的執行時間。

  • grid:r570 - NVIDIA vGPU 軟體 18

  • grid:r535 - NVIDIA vGPU 軟體 16

如果您未指定執行時間,則 Deadline Cloud 會使用 latest做為預設值。不過,如果您有多個加速器並為latest某些 加速器指定 並保留空白,則 Deadline Cloud 會引發例外狀況。