Bagaimana komponen bekerja sama - Amazon EMR

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Bagaimana komponen bekerja sama

Langkah-langkah dan diagram berikut menggambarkan alur kerja Amazon EMR di EKS:

  • Menggunakan klaster Amazon EKS yang ada atau membuat klaster dengan menggunakan utilitas baris perintah eksctl atau konsol Amazon EKS.

  • Buat klaster virtual dengan mendaftarkan Amazon EMR dengan namespace pada klaster EKS.

  • Kirimkan tugas Anda ke klaster virtual menggunakan AWS CLI atau SDK.

Tugas Amazon EMR di EKS

Mendaftarkan Amazon EMR dengan namespace Kubernetes pada Amazon EKS membuat klaster virtual. Amazon EMR kemudian dapat menjalankan beban kerja analitik pada namespace tersebut. Saat Anda menggunakan Amazon EMR di EKS untuk mengirimkan tugas Spark ke klaster virtual, Amazon EMR di EKS meminta penjadwal Kubernetes di Amazon EKS untuk menjadwalkan pod.

Untuk setiap tugas yang Anda jalankan, Amazon EMR di EKS menciptakan sebuah kontainer dengan gambar dasar Amazon Linux 2, Apache Spark, dan dependensi terkait. Setiap tugas berjalan dalam pod yang mengunduh kontainer dan mulai menjalankannya. Pod berakhir setelah tugas berakhir. Jika gambar kontainer sebelumnya telah disebarkan ke simpul, maka gambar yang di-cache digunakan dan unduhan dilewati. Kontainer sidecar, seperti penerus log atau metrik, dapat disebarkan ke pod. Setelah tugas berakhir, Anda masih dapat melakukan debug menggunakan UI aplikasi Spark di konsol Amazon EMR.