AWS Cloud Map Kuota throttling permintaan API

AWS Cloud MapDiscoverInstancesthrottling permintaan API untuk setiapAWS akun secara per Wilayah. Throttling membantu meningkatkan kinerja layanan dan membantu memberikan penggunaan wajar untuk semua AWS Cloud Map pelanggan. Throttling memastikan bahwa panggilan keAWS Cloud Map DiscoverInstancesAPI tidak melebihi maksimum yang diizinkan Kuotas permintaan DiscoverInstancesAPI. DiscoverInstancesPanggilan API yang berasal dari salah satu sumber berikut tunduk pada kuota permintaan:

• Aplikasi pihak ketiga

• Alat baris perintah

• Konsol AWS Cloud Map tersebut

Jika melebihi kuota throttling API, Anda mendapatkan kode kesalahan RequestLimitExceeded. Untuk informasi lebih lanjut, lihat Pembatasan Laju Permintaan.

Bagaimana throttling diterapkan

AWS Cloud Map menggunakan algoritma bucket token untuk implementasi throttling API. Dengan algoritme ini, akun Anda memiliki bucket yang memegang sejumlah tertentu token. Jumlah token dalam bucket mewakili kuota throttling Anda pada detik tertentu. Ada satu bucket untuk Wilayah tunggal, dan itu berlaku untuk semua titik akhir di Wilayah.

Pembatasan Laju Permintaan

Throttling membatasi jumlah permintaan DiscoverInstancesAPI yang dapat Anda buat. Setiap permintaan menghapus satu token dari bucket. Misalnya, ukuran bucket untuk operasi DiscoverInstancesAPI adalah 20.000 token, sehingga Anda dapat membuat hingga 20.000 DiscoverInstancespermintaan dalam satu detik. Jika Anda melebihi 20.000 permintaan dalam satu detik, Anda throttled dan permintaan yang tersisa dalam detik itu gagal.

Bucket secara otomatis diisi ulang pada tingkat yang ditetapkan. Jika bucket tidak pada kapasitasnya, sejumlah token ditambahkan kembali setiap detik sampai bucket mencapai kapasitas. Jika bucket pada kapasitas saat token isi ulang tiba, maka token ini dibuang. Ukuran bucket untuk operasi DiscoverInstancesAPI adalah 20.000 token, dan tingkat isi ulang adalah 1.000 token setiap detiknya. Jika Anda membuat 20.000 permintaan DiscoverInstancesAPI dalam hitungan detik, bucket segera dikurangi menjadi nol (0) token. Bucket kemudian diisi ulang hingga 1.000 token setiap detik sampai mencapai kapasitas maksimum 2000 token.

Anda dapat menggunakan token karena mereka ditambahkan ke bucket. Anda tidak perlu menunggu bucket berada pada kapasitas maksimum sebelum membuat permintaan API. Jika Anda menguras bucket dengan membuat 20.000 permintaan DiscoverInstancesAPI dalam satu detik, Anda masih dapat membuat hingga 1.000 permintaan DiscoverInstancesAPI setiap detik setelah itu selama yang Anda butuhkan. Ini berarti Anda dapat segera menggunakan token isi ulang saat ditambahkan ke bucket Anda. Bucket hanya mulai diisi ulang ke kapasitas maksimum ketika Anda membuat permintaan API lebih sedikit setiap detik dari tingkat isi ulang.

Pemrosesan coba ulang atau batch

Jika permintaan API gagal, aplikasi Anda mungkin perlu mencoba lagi permintaan. Untuk meredam jumlah permintaan API, gunakan interval tidur yang sesuai antara permintaan berturut-turut. Untuk hasil terbaik, gunakan interval tidur yang meningkat atau variabel.

Menghitung interval tidur

Ketika Anda harus melakukan polling atau mencoba lagi permintaan API, sebaiknya gunakan algoritme backoff eksponensial untuk menghitung interval tidur antara panggilan API. Dengan menggunakan semakin lama waktu tunggu antara mencoba untuk respons kesalahan berturut-turut, Anda dapat mengurangi jumlah permintaan gagal. Untuk informasi lebih lanjut dan contoh implementasi dari algoritme ini, lihat Pengulang Kesalahan dan Backoff Eksponensial di AWS.

Menyesuaikan kuota throttling API

Anda dapat meminta peningkatan kuota throttling API untuk akun AWS Anda. Untuk meminta penyesuaian kuota, hubungi AWS Support Pusat.