Verwenden Sie einen GPU-Beschleuniger

Sie können Worker-Hosts in Ihren vom Service verwalteten Flotten so konfigurieren, dass sie einen oder mehrere verwenden GPUs, um die Verarbeitung Ihrer Jobs zu beschleunigen. Die Verwendung eines Accelerators kann die Zeit reduzieren, die für die Bearbeitung eines Jobs benötigt wird, kann aber auch die Kosten für jede Worker-Instanz erhöhen. Sie sollten Ihre Workloads testen, um die Kompromisse zwischen einer Flotte, die GPU-Beschleuniger verwendet, und Flotten, die dies nicht tun, zu verstehen.

GPUs sind für Flotten mit Instances nicht verfügbar. wait-and-save

Anmerkung

Zu Testzwecken sind Sie auf eine GPU beschränkt. Weitere Informationen zu Ihren Produktions-Workloads finden Sie unter Beantragung einer Kontingenterhöhung im Servicekontingents-Benutzerhandbuch.

Sie entscheiden, ob Ihre Flotte GPU-Beschleuniger verwenden wird, wenn Sie die Worker-Instance-Funktionen angeben. Wenn Sie sich für die Verwendung entscheiden GPUs, können Sie GPUs für jede Instanz die Mindest- und Höchstanzahl von GPU-Chips, die verwendet werden sollen, und den Laufzeittreiber für die GPUs angeben.

Die verfügbaren GPU-Beschleuniger sind:

• T4- NVIDIA T4 Tensor Core-GPU

• A10G- NVIDIA A10G Tensorkern-GPU

• L4- NVIDIA L4 Tensorkern-GPU

• L40s- NVIDIA L40S Tensorkern-GPU

Sie können aus den folgenden Runtime-Treibern wählen:

• Latest- Verwenden Sie die neueste verfügbare Laufzeit für den Chip. Wenn Sie angeben latest und eine neue Version der Runtime veröffentlicht wird, wird die neue Version der Runtime verwendet.

• grid:r570- NVIDIA vGPU-Software 18

• grid:r535- NVIDIA vGPU-Software 16

Wenn Sie keine Laufzeit angeben, verwendet Deadline Cloud diese latest als Standard. Wenn Sie jedoch mehrere Beschleuniger haben und latest für einige angeben und andere leer lassen, löst Deadline Cloud eine Ausnahme aus.