9. Tata kelola

Tata kelola ML mencakup serangkaian proses dan kerangka kerja yang membantu dalam penerapan model ML. Ini mencakup penjelasan model, auditabilitas, ketertelusuran, dan persyaratan lain yang lebih abstrak tetapi penting dari siklus hidup ML yang sukses. end-to-end

9.1 Kualitas dan kepatuhan data	Sistem ML memperhitungkan pertimbangan informasi identifikasi pribadi (PII), termasuk anonimisasi. Ini telah mendokumentasikan dan meninjau garis keturunan tingkat kolom untuk memahami sumber, kualitas, dan kesesuaian data. Ini juga memiliki pemeriksaan kualitas data otomatis untuk anomali.
9.2 Audit dan dokumentasi	Sistem ML memiliki log lengkap dari semua perubahan selama pengembangan, termasuk eksperimen yang dijalankan dan alasan untuk pilihan yang dibuat untuk kepatuhan terhadap peraturan.
9.3 Reproduktifitas dan ketertelusuran	Sistem ML menyertakan snapshot data lengkap untuk instantiasi ulang model yang tepat dan cepat, atau memiliki kemampuan untuk menciptakan kembali lingkungan dan melatih ulang dengan sampel data.
9.4 Human-in-the-loop penandatanganan	Sistem ML memiliki verifikasi manual dan otorisasi untuk kepatuhan terhadap peraturan. Sistem memerlukan penandatanganan untuk setiap gerakan lingkungan (misalnya, Dev, QA, Pra-PROD, dan Prod).
9.5 Pengujian serangan bias dan permusuhan	Sistem ML memiliki pengujian permusuhan Tim Merah menggunakan beberapa alat dan vektor serangan, dan pemeriksaan bias otomatis pada subpopulasi tertentu. Komponen ini terkait kembali ke bagian Observabilitas dan manajemen model.