Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Un enfoque de la incertidumbre basado en la teoría de la información
La explicación de la incertidumbre en la sección anterior se basa únicamente en la noción de varianza de la incertidumbre, pero también existen nociones de incertidumbre en la teoría de la información. La incorporación de la incertidumbre aleatoria de la teoría de la información mejora la solidez de la estimación de la incertidumbre total (Gal 2016, Hein, Andriushchenko y Bitterwolf 2019, van Amersfoort et al. 2020). La incertidumbre total se mide mediante la entropía de Shannon:
donde
es el operador del producto escalar y
es el número de clases.
La entropía predictiva
está disponible para redes neuronales bayesianas y no bayesianas. Para descomponer esta incertidumbre total en componentes epistémicos y aleatorios, es necesario estimar la información mutua
, y esto requiere un enfoque bayesiano.
