Cara kerja Hudi - Amazon EMR

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Cara kerja Hudi

Saat menggunakan Hudi dengan Amazon EMR, Anda dapat menulis data ke set data menggunakan API Sumber Data Spark atau DeltaStreamer utilitas Hudi. Hudi mengatur set data ke dalam struktur direktori yang dipartisi di bawah basepath yang mirip dengan tabel Hive tradisional. Spesifik tentang bagaimana data ditata sebagai file dalam direktori ini tergantung pada jenis set data yang Anda pilih. Anda dapat memilih Copy on Write (CoW) atau Merge on Read (MoR).

Terlepas dari jenis set data, setiap partisi dalam set data secara unik diidentifikasi oleh partitionpath relatif terhadap basepath. Dalam setiap partisi, catatan didistribusikan ke beberapa file data. Untuk informasi selengkapnya, lihat Manajemen file dalam dokumentasi Apache Hudi.

Setiap tindakan di Hudi memiliki komit yang sesuai, yang diidentifikasi oleh stempel waktu yang meningkat secara monoton yang dikenal sebagai Instant. Hudi menyimpan serangkaian semua tindakan yang dilakukan pada set data sebagai garis waktu. Hudi mengandalkan timeline untuk memberikan isolasi snapshot antara pembaca dan penulis, dan untuk mengaktifkan pemutaran kembali ke titik waktu sebelumnya. Untuk informasi lebih lanjut tentang tindakan yang dicatat Hudi dan keadaan tindakan, lihat Timeline dalam dokumentasi Apache Hudi.

Memahami jenis penyimpanan dataset: Copy on write vs. merge on read

Ketika Anda membuat set data Hudi, Anda menentukan bahwa set data adalah antara Copy on write vs. merge on read.

  • Copy on Write (CoW) – Data disimpan dalam format kolumnar (Parket), dan setiap pembaruan menciptakan versi file baru selama penulisan. CoW adalah jenis penyimpanan default.

  • Merge on Read (MoR) – Data disimpan menggunakan kombinasi kolumnar (Parket) dan format berbasis baris (Avro). Pembaruan dicatat ke file delta berbasis baris dan dipadatkan sesuai kebutuhan untuk membuat file kolumnar versi baru.

Dengan set data CoW, setiap kali ada pembaruan ke catatan, file yang berisi catatan ditulis ulang dengan nilai yang diperbarui. Dengan set data MoR, setiap kali ada pembaruan, Hudi hanya menulis baris untuk catatan yang berubah. MoR lebih cocok untuk beban kerja tulis atau perubahan berat dengan lebih sedikit pembacaan. CoW lebih cocok untuk beban kerja pembacaan berat pada data yang jarang berubah.

Hudi menyediakan tiga pandangan logis untuk mengakses data:

  • Tampilan yang dioptimalkan untuk membaca – Menyediakan set data berkomitmen terbaru dari tabel CoW dan set data kompak terbaru dari tabel MoR.

  • Tampilan tambahan — Menyediakan aliran perubahan antara dua tindakan dari set data CoW untuk memberi makan menyediakan tugas hilir dan mengekstrak, mengubah, memuat alur kerja (ETL).

  • Tampilan waktu nyata – Menyediakan data berkomitmen terbaru dari tabel MoR dengan menggabungkan file berbasis kolom dan baris secara inline.

Ketika Anda mengkueri tampilan yang dioptimalkan untuk membaca, kueri mengembalikan semua data yang dipadatkan tetapi tidak menyertakan komit delta terbaru. Mengkueri data ini memberikan performa baca yang baik tetapi menghilangkan data terbaru. Ketika Anda mengkueri tampilan waktu nyata, Hudi menggabungkan data yang dipadatkan dengan komit delta saat dibaca. Data terbaru tersedia untuk dikueri, tapi overhead komputasi penggabungan membuat kueri kurang berperforma. Kemampuan untuk mengkueri data yang dipadatkan atau data waktu nyata memungkinkan Anda untuk memilih antara performa dan fleksibilitas ketika Anda mengkueri.

Untuk informasi selengkapnya tentang jenis penyimpanan, lihat Jenis & tampilan penyimpanan dalam dokumentasi Apache Hudi.

Hudi menciptakan dua tabel di metastore Hive untuk MoR: tabel dengan nama yang Anda tentukan, yang merupakan tampilan yang dioptimalkan untuk membaca, dan tabel dengan nama yang sama ditambahkan dengan _rt, yang merupakan tampilan waktu nyata. Anda dapat mengkueri kedua tabel.

Mendaftarkan set data Hudi dengan metastore Anda

Ketika Anda mendaftarkan tabel Hudi dengan metastore Hive, Anda dapat mengkueri tabel Hudi menggunakan Hive, Spark SQL atau Presto seperti yang Anda lakukan untuk tabel lainnya. Selain itu, Anda juga dapat mengintegrasikan Hudi dengan AWS Glue dengan mengonfigurasi Hive dan Spark untuk menggunakan AWS Katalog Glue Data sebagai metastore. Untuk tabel MoR, Hudi mendaftarkan set data sebagai dua tabel di Metastore: tabel dengan nama yang Anda tentukan, yang merupakan tampilan yang dioptimalkan untuk membaca, dan tabel dengan nama yang sama ditambahkan dengan _rt, yang merupakan tampilan waktu nyata.

Anda mendaftarkan tabel Hudi dengan metastore Hive ketika Anda menggunakan Spark untuk membuat set data Hudi dengan mengatur HIVE_SYNC_ENABLED_OPT_KEY opsi untuk "true" dan menyediakan properti lain yang diperlukan. Untuk informasi selengkapnya, lihat Bekerja dengan set data Hudi. Selain itu, Anda dapat menggunakan utilitas baris perintah hive_sync_tool untuk mendaftarkan set data Hudi sebagai tabel di metastore Anda secara terpisah.