Machine Learning denganAWS

Adewale Akinfaderin, Matthew Chasse, Michele Donini, dan Benjamin Fenker, Amazon Web Services (AWS)

Februari 2022 (riwayat dokumen)

Lebih mudah bagi pengguna akhir untuk menggunakan algoritma pembelajaran mesin secara bertanggung jawab ketika mereka dapat memahami mengapa model membuat prediksi tertentu. Untuk pengembang model, wawasan yang lebih besar tentang bagaimana model membuat prediksi dapat membantu dalam rekayasa fitur dan pemilihan. Tidak ada definisi standar tentang apa artinya menjelaskan model, kecuali bahwa penjelasan harus menjadi prasyarat untuk standar seperti kepercayaan, ketahanan, kausalitas, informativitas, transferabilitas model, dan pengambilan keputusan yang adil dan etis. Ada beberapa metode umum untuk menghasilkan interpretasi, tetapi mereka datang dengan kelemahan dan kekuatan yang berbeda. Ini tidak terduga: Biasanya, heuristik atau serangkaian asumsi penyederhanaan yang Anda gunakan untuk menafsirkan model kompleks secara bersamaan dapat menjadi sumber ketidakakuratan untuk interpretasi.

Panduan ini memberikan panduan umum tentang metode interpretabilitas model untuk praktisi pembelajaran mesin. Singkatnya, panduan ini menghilangkan banyak detail dan spesifik implementasi, dan memberikan referensi untuk membantu Anda menyelidiki kasus penggunaan tertentu secara lebih mendalam.

Hasil bisnis yang ditargetkan

Dalam beberapa kasus, peraturan seperti yang ada di industri perawatan kesehatan dan keuangan memerlukan interpretabilitas model sebagai hasil bisnis yang diinginkan. Interpretasi model juga memberikan wawasan tambahan yang dapat digunakan oleh pengembang model dan pengguna. Hasil bisnis tambahan yang ditargetkan untuk menggunakan interpretabilitas model meliputi:

• Membenarkan keputusan penting (misalnya, dalam perawatan kesehatan dan keuangan) yang memengaruhi kesejahteraan pelanggan ketika keadilan sangat penting.

• Kontrol ketidakakuratan dan distorsi model saat membuat keputusan bisnis.

• Meningkatkan dan mempercepat pengembangan model dan rekayasa fitur ketika interpretasi model digunakan oleh ilmuwan data.

• Temukan alasan perilaku model umum, dan berikan wawasan baru tentang data dan model.

Hasil bisnis ini memetakan langsung ke empat alasan penjelasan yang diidentifikasi dalam [1].