本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
Monte Carlo 退出
估算不確定性的其中一種最熱門方式是使用貝葉斯神經網路推斷預測分佈。若要表示預測分佈,請使用:

目標 、輸入
和
許多訓練範例
。當您取得預測分佈時,您可以檢查差異並發現不確定性。學習預測分佈的方法之一,需要透過函數學習分佈,或同等地,透過參數 (即參數後向分佈 ) 進行分佈
。
Monte Carlo (MC) 退出技術 (Gal 和 Ghahramani 2016) 提供一種可擴展的方式來了解預測分佈。MC 退出的運作方式是隨機關閉神經網路中的神經元,以標準化網路。每個退出組態對應到與近似參數後分佈不同的範例 :

其中 對應至捨棄組態,或相當於模擬 ~,從近似參數後置 取樣
,如下圖所示。從大約後部取樣
可讓 Monte Carlo 整合模型的可能性,進而發現預測分佈,如下所示:

為了簡化起見,可能會假設 Gaussian 分佈的可能性:

使用平均值 和變異數
參數
指定的高斯函數,這些函數由 Monte Carlo 退出 BNN 的模擬輸出:

下圖說明 MC 退出。每個退出組態都會隨機切換神經元關閉 (灰色圓圈) 和開啟 (黑色圓圈),並產生不同的輸出。具有不同退出組態的多個向前傳遞會產生平均 p(f(x, ø)) 的預測分佈。

應量化評估通過資料的向前傳遞數量,但 30-100 是需要考慮的適當範圍 (Gal and Ghahramani 2016)。