Menentukan GPUs dalam definisi ECS tugas Amazon

Untuk menggunakan instance GPUs on a container dan GPU runtime Docker, pastikan Anda menentukan jumlah container yang dibutuhkan dalam definisi tugas. GPUs Saat wadah yang mendukung GPUs ditempatkan, agen ECS kontainer Amazon menyematkan jumlah fisik yang diinginkan GPUs ke wadah yang sesuai. Jumlah GPUs cadangan untuk semua kontainer dalam tugas tidak dapat melebihi jumlah yang tersedia GPUs pada instance kontainer tempat tugas diluncurkan. Untuk informasi selengkapnya, lihat Membuat definisi ECS tugas Amazon menggunakan konsol.

penting

Jika GPU persyaratan Anda tidak ditentukan dalam definisi tugas, tugas menggunakan runtime Docker default.

Berikut ini menunjukkan JSON format untuk GPU persyaratan dalam definisi tugas:

{
  "containerDefinitions": [
     {
        ...
        "resourceRequirements" : [
            {
               "type" : "GPU", 
               "value" : "2"
            }
        ],
     },
...
}

Contoh berikut menunjukkan sintaks untuk wadah Docker yang menentukan persyaratan. GPU Wadah ini menggunakan duaGPUs, menjalankan nvidia-smi utilitas, dan kemudian keluar.

{
  "containerDefinitions": [
    {
      "memory": 80,
      "essential": true,
      "name": "gpu",
      "image": "nvidia/cuda:11.0.3-base",
      "resourceRequirements": [
         {
           "type":"GPU",
           "value": "2"
         }
      ],
      "command": [
        "sh",
        "-c",
        "nvidia-smi"
      ],
      "cpu": 100
    }
  ],
  "family": "example-ecs-gpu"
}