Gunakan akselerator GPU - AWS Batas Waktu Cloud

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Gunakan akselerator GPU

Anda dapat mengonfigurasi host pekerja di armada yang dikelola layanan untuk menggunakan satu atau lebih GPUs untuk mempercepat pemrosesan pekerjaan Anda. Menggunakan akselerator dapat mengurangi waktu yang diperlukan untuk memproses pekerjaan, tetapi dapat meningkatkan biaya setiap contoh pekerja. Anda harus menguji beban kerja Anda untuk memahami trade off antara armada menggunakan akselerator GPU dan armada yang tidak.

GPUs tidak tersedia untuk armada dengan wait-and-save intances.

catatan

Untuk tujuan pengujian Anda terbatas pada satu GPU. Untuk meminta lebih banyak beban kerja produksi Anda, lihat Meminta peningkatan kuota di Panduan Pengguna Service Quotas.

Anda memutuskan apakah armada Anda akan menggunakan akselerator GPU saat Anda menentukan kemampuan instance pekerja. Jika Anda memutuskan untuk menggunakan GPUs, Anda dapat menentukan jumlah minimum dan maksimum GPUs untuk setiap instance, jenis chip GPU yang akan digunakan, dan driver runtime untuk. GPUs

Akselerator GPU yang tersedia adalah:

  • T4- GPU Inti Tensor NVIDIA T4

  • A10G- GPU Inti Tensor NVIDIA A10G

  • L4- GPU Inti Tensor NVIDIA L4

  • L40s- GPU Inti Tensor NVIDIA L40S

Anda dapat memilih dari driver runtime berikut:

  • Latest- Gunakan runtime terbaru yang tersedia untuk chip. Jika Anda menentukan latest dan versi baru runtime dirilis, versi baru runtime akan digunakan.

  • grid:r570- Perangkat lunak NVIDIA vGPU 18

  • grid:r535- Perangkat lunak NVIDIA vGPU 16

Jika Anda tidak menentukan runtime, Deadline Cloud akan digunakan latest sebagai default. Namun, jika Anda memiliki beberapa akselerator dan menentukan latest untuk beberapa dan membiarkan yang lain kosong, Deadline Cloud memunculkan pengecualian.