Monte Carlo putus sekolah - AWS Bimbingan Preskriptif

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Monte Carlo putus sekolah

Salah satu cara paling populer untuk memperkirakan ketidakpastian adalah dengan menyimpulkan distribusi prediktif dengan jaringan saraf Bayesian. Untuk menunjukkan distribusi prediktif, gunakan:

Distribusi prediktif

dengan target AWS logo with "Amazon Web Services" text on a white background. , masukan X icon, typically used to represent closing or canceling an action. , dan Lambda function icon with a stylized λ (lambda) symbol in orange. banyak contoh pelatihan Mathematical formula showing D as a set of pairs (x_i, y_i) from i=1 to n. . Ketika Anda mendapatkan distribusi prediktif, Anda dapat memeriksa varians dan mengungkap ketidakpastian. Salah satu cara untuk mempelajari distribusi prediktif membutuhkan pembelajaran distribusi atas fungsi, atau, secara setara, distribusi di atas parameter (yaitu, distribusi posterior parametrik. Mathematical formula showing p(Θ|D) with vertical bar between Θ and D.

Teknik putus sekolah Monte Carlo (MC) (Gal dan Ghahramani 2016) menyediakan cara yang terukur untuk mempelajari distribusi prediktif. MC dropout bekerja dengan mematikan neuron secara acak di jaringan saraf, yang mengatur jaringan. Setiap konfigurasi putus sekolah sesuai dengan sampel yang berbeda dari perkiraan distribusi posterior parametrik: Mathematical formula showing q(θ|D) representing a probability distribution.

MC putus sekolah

di mana Greek letter theta subscript i, representing a mathematical variable or symbol. sesuai dengan konfigurasi putus sekolah, atau, setara, simulasi ~, diambil sampelnya dari perkiraan parametrik posterior Mathematical formula showing q(θ|D) representing a probability distribution. , seperti yang ditunjukkan pada gambar berikut. Pengambilan sampel dari perkiraan posterior Mathematical formula showing q(θ|D) representing a probability distribution. memungkinkan integrasi Monte Carlo dari kemungkinan model, yang mengungkap distribusi prediktif, sebagai berikut:

Distribusi prediktif di MC dropout

Untuk kesederhanaan, kemungkinan dapat diasumsikan terdistribusi Gaussian:

Kemungkinan terdistribusi Gaussian

dengan fungsi Gaussian yang Mathematical equation showing N subscript V, representing a variable in a formula. ditentukan oleh Mathematical formula showing s prime as a function of x and theta. parameter mean Mathematical function f(x, θ) with x and θ as variables. dan varians, yang dihasilkan oleh simulasi dari BNN putus sekolah Monte Carlo:

MC putus sekolah BNN

Gambar berikut menggambarkan putus sekolah MC. Setiap konfigurasi putus sekolah menghasilkan output yang berbeda dengan mematikan neuron secara acak (lingkaran abu-abu) dan hidup (lingkaran hitam) dengan setiap propagasi maju. Beberapa pass maju dengan konfigurasi putus sekolah yang berbeda menghasilkan distribusi prediktif di atas rata-rata p (f (x, ø)).

MC putus sekolah

Jumlah forward pass melalui data harus dievaluasi secara kuantitatif, tetapi 30-100 adalah kisaran yang tepat untuk dipertimbangkan (Gal dan Ghahramani 2016).