Langkah 2: Periksa lingkungan - Amazon EMR

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Langkah 2: Periksa lingkungan

Periksa lingkungan Anda untuk melihat apakah ada pemadaman layanan atau Anda telah melampaui AWS batas layanan.

Periksa pemadaman layanan

Amazon EMR menggunakan beberapa Amazon Web Services secara internal. Ini menjalankan server virtual di AmazonEC2, menyimpan data dan skrip di Amazon S3, dan melaporkan metrik ke. CloudWatch Peristiwa yang mengganggu layanan ini jarang terjadi - tetapi ketika terjadi - dapat menyebabkan masalah di AmazonEMR.

Sebelum Anda melangkah lebih jauh, periksa Service Health Dashboard. Periksa Wilayah tempat Anda meluncurkan klaster untuk melihat apakah ada peristiwa gangguan di salah satu layanan ini.

Periksa batas penggunaan

Jika Anda meluncurkan cluster besar, telah meluncurkan banyak cluster secara bersamaan, atau Anda adalah pengguna yang berbagi Akun AWS dengan pengguna lain, cluster mungkin gagal karena Anda melebihi AWS batas layanan.

Amazon EC2 membatasi jumlah instance server virtual yang berjalan pada satu AWS Wilayah hingga 20 instans sesuai permintaan atau cadangan. Jika Anda meluncurkan klaster dengan lebih dari 20 node, atau meluncurkan klaster yang menyebabkan jumlah total EC2 instance aktif di Akun AWS melebihi 20, cluster tidak akan dapat meluncurkan semua EC2 instance yang diperlukan dan mungkin gagal. Ketika ini terjadi, Amazon EMR mengembalikan EC2 QUOTA EXCEEDED kesalahan. Anda dapat meminta itu AWS meningkatkan jumlah EC2 instans yang dapat Anda jalankan di akun Anda dengan mengirimkan aplikasi Permintaan untuk Meningkatkan Batas EC2 Instans Amazon.

Hal lain yang dapat menyebabkan Anda melebihi batas penggunaan Anda adalah penundaan antara ketika sebuah klaster diakhiri dan ketika klaster merilis seluruh sumber dayanya. Tergantung pada konfigurasinya, mungkin memakan waktu hingga 5-20 menit bagi klaster untuk sepenuhnya mengakhiri dan melepaskan sumber daya yang teralokasi. Jika Anda mendapatkan kesalahan EC2 QUOTA EXCEEDED ketika Anda mencoba untuk memulai sebuah klaster, ini mungkin karena sumber daya dari klaster yang baru diakhiri belum dirilis. Dalam hal ini, Anda dapat meminta agar EC2 kuota Amazon Anda ditingkatkan, atau Anda dapat menunggu dua puluh menit dan meluncurkan kembali cluster.

Amazon S3 membatasi jumlah bucket yang dibuat pada sebuah akun hingga 100. Jika klaster Anda menciptakan bucket baru yang melebihi batas ini, pembuatan bucket akan gagal dan dapat menyebabkan klaster gagal.

Periksa konfigurasi VPC subnet Amazon

Jika klaster Anda diluncurkan di VPC subnet Amazon, subnet perlu dikonfigurasi seperti yang dijelaskan dalam. Konfigurasikan jaringan di a VPC untuk Amazon EMR Selain itu, periksa bahwa subnet tempat Anda meluncurkan klaster memiliki alamat IP elastis kosong yang cukup untuk menugaskan satu untuk setiap simpul dalam klaster.

Memulai ulang klaster

Pelambatan dalam pemrosesan mungkin disebabkan oleh kondisi sementara. Pertimbangkan untuk mengakhiri dan memulai ulang klaster untuk melihat apakah performa meningkat.