不确定性分解

贝叶斯神经网络 (BNNs) 产生预测分布 ，该分布提供了一组不同的预测，您可以根据这些预测来估计方差 ；即总的预测不确定性。 使用总方差定律，可以将总预测不确定性分为这两个不确定性组成部分：

给定输入 和指定 BNN 的随机参数 ，目标变量 的预期值 ， 由具有单个正向传播的 BNN 估算并表示为 。给定输入和随机参数，目标 的方差也由 BNN 输出，并表示为 。因此，总预测不确定性是这两个数字的总和：

• BNN 预测均值的方差 ：认知不确定性

• BNN 预测方差的平均值 ：随机不确定性

以下公式演示了如何根据（Kendall and Gal 2017）计算总不确定性。 BNNs 输入 ，生成随机参数配置 ，然后通过神经网络进行单次正向传播以输出均值 和方差 。我们用 ~ 表示随机生成或模拟。使用固定的 ，您可以多次重复这个过程 来生成一个集合：

这些 许多样本 为确定不确定性提供了必要的统计数据。要做到这一点，可以分别估计认知不确定性和随机不确定性，然后对求出它们的总和，如本部分第一个等式所示。