Pesawat Kontrol yang Disediakan Amazon EKS

Gambaran umum

Amazon EKS Provisioned Control Plane adalah fitur yang memungkinkan administrator klaster memilih dari serangkaian tingkatan penskalaan dan menetapkan tingkat pilihan mereka untuk kinerja yang sangat tinggi dan dapat diprediksi dari bidang kontrol cluster. Hal ini memungkinkan administrator cluster untuk memastikan bahwa bidang kontrol selalu disediakan dengan kapasitas yang ditentukan.

Amazon EKS menawarkan dua mode operasi untuk bidang kontrol cluster Anda. Secara default, kluster Amazon EKS menggunakan mode Standar, di mana bidang kontrol secara otomatis menskalakan naik dan turun berdasarkan tuntutan beban kerja Anda. Mode standar secara dinamis mengalokasikan kapasitas bidang kontrol yang memadai untuk memenuhi kebutuhan beban kerja Anda dan merupakan solusi yang direkomendasikan untuk sebagian besar kasus penggunaan. Namun, untuk beban kerja khusus yang tidak dapat mentolerir variabilitas kinerja apa pun karena penskalaan bidang kontrol atau yang membutuhkan kapasitas bidang kontrol dalam jumlah sangat tinggi, Anda dapat menggunakan mode Provisioned secara opsional. Mode yang disediakan memungkinkan Anda mengalokasikan kapasitas bidang kontrol terlebih dahulu yang selalu siap menangani persyaratan beban kerja yang menuntut.

catatan

Mode yang disediakan adalah mode operasi bidang kontrol tambahan di samping mode Standar default. Pengenalan mode Provisioned tidak mengubah perilaku mode Standar.

Dengan EKS Provisioned Control Plane, administrator cluster dapat melakukan pra-penyediaan kapasitas bidang kontrol yang diinginkan sebelumnya, memberikan kinerja yang dapat diprediksi dan tinggi dari bidang kontrol cluster yang selalu tersedia. EKS Provisioned Control Plane juga memungkinkan administrator cluster untuk menyediakan kapasitas pesawat kontrol yang sama di seluruh lingkungan, mulai dari pementasan hingga lokasi produksi dan pemulihan bencana. Hal ini penting untuk memastikan bahwa kinerja bidang kontrol yang diperoleh di seluruh lingkungan konsisten dan dapat diprediksi. Terakhir, EKS Provisioned Control Plane memberi Anda akses ke tingkat kinerja bidang kontrol yang sangat tinggi, memungkinkan menjalankan beban kerja AI yang dapat diskalakan secara besar-besaran, komputasi berkinerja tinggi, dan beban kerja pemrosesan data skala besar di Kubernetes.

Semua cluster Amazon EKS yang ada dan baru beroperasi dalam mode Standar secara default. Untuk cluster yang membutuhkan kinerja tinggi dan dapat diprediksi dari bidang kontrol, Anda dapat memilih untuk menggunakan fitur EKS Provisioned Control Plane. Anda akan ditagih dengan tarif per jam untuk tingkat penskalaan pesawat kontrol tertentu selain biaya per jam EKS dukungan standar atau diperpanjang. Untuk informasi selengkapnya tentang harga, lihat harga Amazon EKS.

Kasus penggunaan

EKS Provisioned Control Plane dirancang untuk mengatasi skenario spesifik di mana kinerja bidang kontrol yang tinggi dan dapat diprediksi sangat penting untuk operasi Anda. Memahami kasus penggunaan ini dapat membantu Anda menentukan apakah EKS Provisioned Control Plane adalah solusi yang tepat untuk beban kerja Anda.

Beban kerja kritis kinerja — Untuk beban kerja yang menuntut latensi minimal dan kinerja maksimum dari bidang kontrol Kubernetes, EKS Provisioned Control Plane menyediakan kapasitas yang menghilangkan variabilitas kinerja dengan penskalaan bidang kontrol.

Beban kerja yang dapat diskalakan secara besar-besaran — Jika Anda menjalankan beban kerja yang sangat skalabel seperti pelatihan dan inferensi AI, komputasi berkinerja tinggi, atau pemrosesan data skala besar yang memerlukan sejumlah besar node yang berjalan di cluster, Provisioned Control Plane menyediakan kapasitas bidang kontrol yang diperlukan untuk mendukung beban kerja yang menuntut ini.

Peristiwa permintaan tinggi yang diantisipasi — Ketika Anda mengharapkan lonjakan permintaan pesawat kontrol tiba-tiba karena acara mendatang seperti penjualan atau promosi e-commerce, peluncuran produk, musim belanja liburan, atau acara olahraga atau hiburan besar, Provisioned Control Plane memungkinkan Anda untuk meningkatkan kapasitas pesawat kontrol Anda terlebih dahulu. Pendekatan proaktif ini memastikan pesawat kontrol Anda siap menangani peningkatan beban tanpa menunggu penskalaan otomatis untuk menanggapi permintaan.

Konsistensi lingkungan — Provisioned Control Plane memungkinkan Anda untuk mencocokkan kapasitas dan kinerja bidang kontrol di seluruh lingkungan pementasan dan produksi, membantu Anda mengidentifikasi potensi masalah lebih awal sebelum penerapan ke produksi. Dengan mempertahankan tingkat bidang kontrol yang sama di seluruh lingkungan, Anda dapat memastikan bahwa hasil pengujian secara akurat mencerminkan perilaku produksi, mengurangi risiko kejutan terkait kinerja selama peluncuran.

Pemulihan bencana dan kelangsungan bisnis - Untuk skenario pemulihan bencana, Provisioned Control Plane memungkinkan Anda menyediakan lingkungan failover dengan tingkat kapasitas yang sama dengan lingkungan utama Anda. Ini memastikan gangguan minimal dan pemulihan cepat selama peristiwa failover, karena cluster pemulihan bencana Anda akan memiliki karakteristik kinerja bidang kontrol yang identik dengan cluster produksi Anda sejak saat diaktifkan.

Kontrol Tingkat Penskalaan Pesawat

EKS Provisioned Control Plane menawarkan tingkatan penskalaan yang diberi nama menggunakan ukuran t-shirt (XL, 2XL, 4XL). Setiap tingkatan mendefinisikan kapasitasnya melalui tiga atribut utama Kubernetes yang menentukan karakteristik kinerja bidang kontrol cluster Anda. Memahami atribut ini membantu Anda memilih tingkat yang sesuai untuk persyaratan beban kerja Anda.

Konkurensi permintaan API mengukur jumlah permintaan yang dapat diproses oleh server API pesawat kontrol Kubernetes secara bersamaan, yang sangat penting untuk beban kerja throughput yang tinggi.

Tingkat penjadwalan Pod menunjukkan seberapa cepat penjadwal Kubernetes default dapat menjadwalkan pod pada node, diukur dalam pod per detik.

Ukuran database cluster menunjukkan ruang penyimpanan yang dialokasikan untuk etcd, database yang menyimpan state/metadata cluster.

Saat Anda menyediakan bidang kontrol klaster Anda pada tingkat penskalaan tertentu menggunakan Provisioned Control Plane, EKS memastikan bidang kontrol klaster Anda mempertahankan batas yang sesuai dengan tingkat tersebut. Batas tingkatan penskalaan bidang kontrol bervariasi menurut versi Kubernetes, seperti yang ditunjukkan pada tabel berikut.

EKS v1.28 dan v1.29

Tingkat Penskalaan Pesawat Kontrol yang Diberikan	Konkurensi permintaan API (kursi)	Tingkat penjadwalan pod (pods/detik)	Ukuran basis data cluster (GB)
XL	1700	100	16
2XL	3400	100	16
4XL	6800	100	16

EKS v1.30 dan yang lebih baru

Tingkat Penskalaan Pesawat Kontrol yang Diberikan	Konkurensi permintaan API (kursi)	Tingkat penjadwalan pod (pods/detik)	Ukuran basis data cluster (GB)
XL	1700	167	16
2XL	3400	283	16
4XL	6800	400	16

Pemantauan pemanfaatan tingkat penskalaan bidang kontrol

Amazon EKS menyediakan beberapa metrik untuk membantu Anda memantau pemanfaatan tingkat pesawat kontrol Anda. Metrik ini diterbitkan sebagai CloudWatch metrik Amazon dan dapat diakses melalui konsol CloudWatch dan EKS. Selain itu, metrik ini dapat diambil dari titik akhir Prometheus kluster EKS Anda (lihat di sini).

	Metrik Prometheus	CloudWatch Metrik
Konkurensi permintaan API	apiserver_flowcontrol_current_executing_seats	apiserver_flowcontrol_current_executing_seats
Tingkat penjadwalan pod	scheduler_schedule_attempts_total	scheduler_schedule_attempts_total, Scheduler_schedule_trial, scheduler_schedule_attempts_unschedulable
Ukuran basis data cluster	apiserver_storage_size_bytes	apiserver_storage_size_bytes

Memahami kapasitas Tier versus kinerja aktual

Saat Anda memilih tingkat penskalaan Pesawat Kontrol Tertentu, atribut tier mewakili konfigurasi dasar yang diterapkan Amazon EKS pada bidang kontrol Anda. Namun, kinerja aktual yang Anda capai bergantung pada pola beban kerja, konfigurasi, dan kepatuhan spesifik Anda terhadap praktik terbaik Kubernetes. Misalnya, saat tingkat 4XL mengonfigurasi Prioritas dan Keadilan API (APF) dengan 6.800 kursi permintaan bersamaan, throughput permintaan aktual yang Anda peroleh dari bidang kontrol bergantung pada jenis operasi yang dilakukan. Misalnya, Kubernetes menghukum permintaan daftar lebih dari get, dan karenanya jumlah efektif permintaan daftar yang diproses secara bersamaan oleh control plane lebih rendah daripada permintaan get (lihat di sini). Demikian pula, meskipun QPS penjadwal default diatur ke 400 untuk tingkat 4XL, tingkat penjadwalan pod Anda yang sebenarnya bergantung pada faktor-faktor seperti node yang siap dan kesehatan untuk penjadwalan. Untuk mencapai kinerja optimal, pastikan aplikasi Anda mengikuti praktik terbaik Kubernetes (lihat di sini) dan dikonfigurasi dengan benar untuk karakteristik beban kerja Anda.

Pertimbangan-pertimbangan

• Kapasitas bidang kontrol standar — Mode bidang kontrol standar EKS menawarkan rasio harga terhadap kinerja terbaik, dan merupakan opsi yang direkomendasikan untuk sebagian besar kasus penggunaan. Namun, untuk beban kerja khusus yang tidak dapat mentolerir variabilitas kinerja apa pun karena penskalaan bidang kontrol atau yang membutuhkan kapasitas bidang kontrol dalam jumlah sangat tinggi, Anda dapat mempertimbangkan untuk menggunakan mode Provisioned.

• Diperlukan keikutsertaan - Kluster yang ada tidak akan secara otomatis meningkatkan skala dari bidang kontrol Standar ke tingkat Pesawat Kontrol Tertentu EKS dengan harga lebih tinggi. Anda harus secara eksplisit memilih salah satu tingkatan penskalaan Pesawat Kontrol yang Disediakan EKS yang baru.

• Pembatasan keluar - Mode bidang kontrol standar mendukung hingga 8 GB ukuran database cluster (etcd). Jika ukuran database cluster Anda melebihi 8 GB saat menggunakan mode Provisioned, Anda tidak dapat beralih kembali ke mode Standar hingga Anda mengurangi ukuran database menjadi di bawah 8 GB. Misalnya, jika Anda menggunakan penyimpanan database 14 GB dalam mode Provisioned, Anda harus terlebih dahulu mengurangi penggunaan database Anda menjadi kurang dari 8GB sebelum kembali ke mode Standar.

• Tidak ada penskalaan tingkat otomatis — EKS Provisioned Control Plane tidak secara otomatis menskalakan antar tingkatan. Setelah Anda memilih tingkat penskalaan, bidang kontrol klaster Anda tetap disematkan ke tingkat tersebut, memastikan kinerja yang konsisten dan dapat diprediksi. Namun, Anda memiliki fleksibilitas untuk menerapkan solusi penskalaan otomatis Anda sendiri dengan memantau metrik pemanfaatan tingkat dan menggunakan EKS Provisioned Control Plane APIs untuk meningkatkan atau menurunkan skala ketika metrik ini melewati ambang batas yang Anda tentukan, memberi Anda kendali penuh atas strategi penskalaan dan pengoptimalan biaya Anda.

• Melihat tingkat saat ini — Anda dapat menggunakan konsol Amazon EKS, Amazon Web Services CLI, atau API untuk melihat tingkat penskalaan bidang kontrol saat ini. Di CLI, Anda dapat menjalankan perintah: describe-cluster aws eks describe-cluster --name cluster-name

• Waktu transisi tingkat - Anda dapat menggunakan konsol Amazon EKS, Amazon EKS APIs, atau CLI untuk keluar atau berpindah di antara tingkatan penskalaan. Amazon EKS telah memperkenalkan jenis pembaruan cluster baru yang disebutScalingTierConfigUpdate, yang dapat Anda periksa untuk memantau kemajuan transisi. Setelah menjalankan perintah perubahan tingkat, Anda dapat membuat daftar pembaruan di cluster untuk melihat pembaruan tipe baru ScalingTierConfigUpdate dengan statusUpdating. Status berubah menjadi Successful setelah selesai pembaruan, atau Failed jika terjadi kesalahan. Bidang kesalahan dalam pembaruan menunjukkan alasan kegagalan. Tidak ada batasan seberapa sering Anda dapat beralih antar tingkatan. Mengubah tingkat bidang kontrol membutuhkan waktu beberapa menit untuk menyelesaikannya.

• Memilih tier optimal — Untuk menentukan tingkat penskalaan Provisioned Control Plane yang optimal untuk klaster Anda, Anda dapat melakukan pengujian beban dengan menyediakan klaster Anda pada tingkat tertinggi (4XL). Kemudian lakukan uji beban untuk mensimulasikan permintaan puncak pada bidang kontrol cluster Anda. Amati metrik pemanfaatan tingkat bidang kontrol pada beban puncak, dan gunakan pengamatan ini sebagai faktor penuntun untuk memilih tingkat yang sesuai untuk mode Provisioned.

• Harga Provisioned Control Plane — Anda akan ditagih dengan tarif per jam untuk tingkat penskalaan Provisioned Control Plane yang digunakan klaster Anda. Ini merupakan tambahan dari biaya per jam dukungan standar atau diperpanjang. Lihat halaman Harga Amazon EKS untuk detailnya.

• Tingkat penskalaan yang lebih besar — Jika Anda ingin menjalankan klaster Anda pada tingkat penskalaan yang lebih besar dari 4XL, hubungi tim akun Amazon Web Services Anda untuk informasi harga tambahan.

• Dukungan versi dan wilayah Kubernetes — EKS Provisioned Control Plane didukung di semua wilayah komersial Amazon Web Services, GovCloud dan China. Provisioned Control Plane bekerja pada EKS v1.28 dan yang lebih tinggi.