Lengkapi prasyarat

Topik berikut menjelaskan prasyarat yang harus Anda selesaikan sebelum membuat titik akhir asinkron. Prasyarat ini termasuk menyimpan artefak model Anda dengan benar, mengonfigurasi AWS IAM dengan izin yang benar, dan memilih gambar kontainer.

Untuk menyelesaikan prasyarat

1. Buat peran IAM untuk Amazon SageMaker AI.

   Inferensi Asinkron memerlukan akses ke URI bucket Amazon S3 Anda. Untuk memfasilitasi ini, buat peran IAM yang dapat menjalankan SageMaker AI dan memiliki izin untuk mengakses Amazon S3 dan Amazon SNS. Dengan menggunakan peran ini, SageMaker AI dapat berjalan di bawah akun Anda dan mengakses bucket Amazon S3 dan topik Amazon SNS Anda.

   Anda dapat membuat peran IAM dengan menggunakan konsol IAM, AWS SDK for Python (Boto3), atau. AWS CLI Berikut ini adalah contoh cara membuat peran IAM dan melampirkan kebijakan yang diperlukan dengan konsol IAM.

   1. Masuk ke AWS Management Console dan buka konsol IAM di https://console.aws.amazon.com/iam/.

   2. Di panel navigasi konsol IAM, pilih Peran, dan lalu pilih Buat peran.

   3. Untuk Pilih jenis entitas tepercaya, pilih layanan AWS .

   4. Pilih layanan yang ingin Anda perbolehkan untuk mengasumsikan peran ini. Dalam hal ini, pilih SageMaker AI. Kemudian, pilih Selanjutnya: Izin.

      • Ini secara otomatis membuat kebijakan IAM yang memberikan akses ke layanan terkait seperti Amazon S3, Amazon CloudWatch ECR, dan Log.

   5. Pilih Selanjutnya: Tanda.

   6. (Opsional) Tambahkan metadata ke dalam peran dengan melampirkan tanda sebagai pasangan nilai-kunci. Untuk informasi lebih lanjut tentang penggunaan tanda dan IAM, lihat Penandaan sumber daya IAM.

   7. Pilih Berikutnya: Tinjauan.

   8. Ketik nama Peran.

   9. Jika memungkinkan, ketikkan nama peran atau akhiran nama peran. Nama peran harus unik dalam AWS akun Anda. Grup tidak dibedakan berdasarkan huruf besar-kecil. Misalnya, Anda tidak dapat membuat peran dengan nama PRODROLE dan prodrole. Karena AWS sumber daya lain mungkin merujuk peran, Anda tidak dapat mengedit nama peran setelah dibuat.

   10. (Opsional) Untuk Deskripsi peran, ketikkan deskripsi untuk peran baru tersebut.

   11. Tinjau peran dan kemudian pilih Buat peran.

       Perhatikan peran SageMaker AI ARN. Untuk menemukan peran ARN menggunakan konsol, lakukan hal berikut:

       1. Pergi ke konsol IAM: https://console.aws.amazon.com/iam/

       2. Pilih Peran.

       3. Cari peran yang baru saja Anda buat dengan mengetikkan nama peran di bidang pencarian.

       4. Pilih peran.

       5. Peran ARN ada di bagian atas halaman Ringkasan.

2. Tambahkan Izin Amazon SageMaker AI, Amazon S3, dan Amazon SNS ke Peran IAM Anda.

   Setelah peran dibuat, berikan izin SageMaker AI, Amazon S3, dan secara opsional Amazon SNS ke peran IAM Anda.

   Pilih Peran di konsol IAM. Cari peran yang Anda buat dengan mengetikkan nama peran di kolom Penelusuran.

   1. Pilih peran Anda.

   2. Selanjutnya, pilih Lampirkan Kebijakan.

   3. Inferensi SageMaker Asinkron Amazon memerlukan izin untuk melakukan tindakan berikut:"sagemaker:CreateModel",,, "sagemaker:CreateEndpointConfig" dan. "sagemaker:CreateEndpoint" "sagemaker:InvokeEndpointAsync"

      Tindakan ini termasuk dalam AmazonSageMakerFullAccess kebijakan. Tambahkan kebijakan ini ke peran IAM Anda. Cari AmazonSageMakerFullAccess di bidang Pencarian. Pilih AmazonSageMakerFullAccess.

   4. Pilih Lampirkan kebijakan.

   5. Selanjutnya, pilih Lampirkan Kebijakan untuk menambahkan izin Amazon S3.

   6. Pilih Buat kebijakan.

   7. Pilih JSON tab.

   8. Tambahkan pernyataan kebijakan berikut:

      {
          "Version": "2012-10-17",
          "Statement": [
              {
                  "Action": [
                      "s3:GetObject",
                      "s3:PutObject",
                      "s3:AbortMultipartUpload",
                      "s3:ListBucket"  
                  ],
                  "Effect": "Allow",
                  "Resource": "arn:aws:s3:::bucket_name/*"
              }
          ]
      }

   9. Pilih Berikutnya: Tag

   10. Ketik nama Kebijakan.

   11. Pilih Buat kebijakan.

   12. Ulangi langkah yang sama yang Anda selesaikan untuk menambahkan izin Amazon S3 untuk menambahkan izin Amazon SNS. Untuk pernyataan kebijakan, lampirkan yang berikut ini:

       {
           "Version": "2012-10-17",
           "Statement": [
               {
                   "Action": [
                       "sns:Publish"
                   ],
                   "Effect": "Allow",
                   "Resource": "arn:aws:sns:<region>:<Account_ID>:<SNS_Topic>"
               }
           ]
       }

3. Unggah data inferensi Anda (misalnya, model pembelajaran mesin, data sampel) ke Amazon S3.

4. Pilih gambar inferensi Docker bawaan atau buat Inference Docker Image Anda sendiri.

   SageMaker AI menyediakan wadah untuk algoritme bawaan dan gambar Docker bawaan untuk beberapa kerangka kerja pembelajaran mesin yang paling umum, seperti Apache MXNet,,, dan Chainer. TensorFlow PyTorch Untuk daftar lengkap gambar SageMaker AI yang tersedia, lihat Gambar Deep Learning Containers yang Tersedia. Jika Anda memilih untuk menggunakan kontainer yang disediakan SageMaker AI, Anda dapat meningkatkan batas waktu titik akhir dan ukuran payload dari default dengan menyetel variabel lingkungan dalam wadah. Untuk mempelajari cara mengatur variabel lingkungan yang berbeda untuk setiap kerangka kerja, lihat langkah Buat Model untuk membuat titik akhir asinkron.

   Jika tidak ada kontainer SageMaker AI yang ada yang memenuhi kebutuhan Anda dan Anda tidak memiliki wadah sendiri, Anda mungkin perlu membuat wadah Docker baru. Lihat Wadah dengan kode inferensi khusus untuk informasi tentang cara membuat gambar Docker Anda.

5. Buat topik Amazon SNS (opsional)

   Buat topik Amazon Simple Notification Service (Amazon SNS) yang mengirimkan notifikasi tentang permintaan yang telah selesai diproses. Amazon SNS adalah layanan notifikasi untuk aplikasi berorientasi pesan, dengan beberapa pelanggan meminta dan menerima pemberitahuan “push” dari pesan penting waktu melalui pilihan protokol transportasi, termasuk HTTP, Amazon SQS, dan email. Anda dapat menentukan topik Amazon SNS saat membuat EndpointConfig objek saat Anda menentukan AsyncInferenceConfig menggunakan API. EndpointConfig

   Ikuti langkah-langkah untuk membuat dan berlangganan topik Amazon SNS.

   1. Menggunakan konsol Amazon SNS membuat topik. Untuk petunjuk, lihat Membuat topik Amazon SNS di Panduan Pengembang Layanan Pemberitahuan Sederhana Amazon.

   2. Berlangganan topik tersebut. Untuk petunjuk, lihat Berlangganan topik Amazon SNS di Panduan Pengembang Layanan Pemberitahuan Sederhana Amazon.

   3. Saat Anda menerima email yang meminta Anda mengonfirmasi langganan Anda ke topik tersebut, konfirmasikan langganan.

   4. Perhatikan topik Amazon Resource Name (ARN). Topik Amazon SNS yang Anda buat adalah sumber daya lain di AWS akun Anda, dan memiliki ARN yang unik. ARN dalam format berikut:

      arn:aws:sns:aws-region:account-id:topic-name

   Untuk informasi selengkapnya tentang Amazon SNS, lihat Panduan Pengembang Amazon SNS.