使用 GPU 加速器

您可以将服务管理队列中的工作人员主机配置为使用一台或多台 GPUs来加快任务处理速度。使用加速器可以减少处理任务所需的时间，但会增加每个工作实例的成本。您应该测试自己的工作负载，以了解使用 GPU 加速器的队列和不使用 GPU 加速器的队列之间的权衡。

GPUs 不适用于带有 wait-and-save实例的舰队。

注意

出于测试目的，您只能使用一个 GPU。要为您的生产工作负载申请更多配额，请参阅 Service Quotas 用户指南中的申请增加配额。

在指定工作器实例功能时，您可以决定队列是否使用 GPU 加速器。如果您决定使用 GPUs，则可以 GPUs 为每个实例指定最小和最大数量、要使用的 GPU 芯片类型以及运行时驱动程序 GPUs。

可用的 GPU 加速器有：

• T4-NVIDIA T4 张量酷睿 GPU

• A10G-英伟达 A10G Tensor Core GPU

• L4-英伟达 L4 Tensor Core GPU

• L40s-NVIDIA L40S 张量核心 GPU

您可以从以下运行时驱动程序中进行选择：

• Latest-使用该芯片的最新可用运行时间。如果您指定latest并发布了新版本的运行时，则使用运行时的新版本。

• grid:r570-NVIDIA vGPU 软件 18

• grid:r535-NVIDIA vGPU 软件 16

如果您未指定运行时间，Deadline Cloud 将使用latest作为默认运行时间。但是，如果您有多个加速器并指定latest了某些加速器，而将其他加速器留空，则 Deadline Cloud 会引发异常。