Incertidumbre aleatoria

La incertidumbre aleatoria se refiere a la aleatoriedad inherente a los datos que no se puede explicar (aleator hace referencia en latín a alguien que lanza los dados). Algunos ejemplos de datos con incertidumbre aleatoria son los datos de telemetría ruidosos y las imágenes de baja resolución o el texto de las redes sociales. Se puede suponer que la incertidumbre aleatoria , la aleatoriedad inherente, es constante (homocedástica) o variable (heteroscedástica), en función de las variables explicativas de entrada.

Incertidumbre aleatoria homoscedástica

La incertidumbre aleatoria homoscedástica, cuando es constante, es el caso más simple y comúnmente encontrado en la regresión bajo el supuesto de modelado de que , donde , donde es la matriz de identidad y es una escalar constante. Es muy restrictivo asumir un riesgo aleatorio constante (asumir que el ruido que genera una respuesta es independiente de la variable explicativa y constante) y rara vez refleja la realidad. Muchos fenómenos de la naturaleza no presentan una aleatoriedad constante. Por ejemplo, la incertidumbre sobre los resultados de los sistemas físicos, como el movimiento de los fluidos, suele ser una función de la energía cinética. Considere el contraste entre el flujo de agua turbulento de una cascada grande y el flujo de agua laminar de una fuente decorativa. La estocasticidad (aleatoriedad) de la trayectoria de una partícula de agua es una función de la energía cinética y, por lo tanto, no es constante. Esta suposición puede provocar la pérdida de información valiosa al modelar las relaciones entre los objetivos y las entradas que albergan un ruido variable, y no se puede explicar con la información observable. Como consecuencia, en la mayoría de los casos, no basta con asumir una incertidumbre homocedástica. A menos que se sepa que el fenómeno es de naturaleza homocedástica, el ruido inherente debe modelarse en función de las variables explicativas , si es posible hacerlo.

Incertidumbre aleatoria heteroscedástica

La incertidumbre aleatoria heteroscedástica se produce cuando consideramos que la aleatoriedad inherente a los datos es una función de los datos en sí mismos . Para calcular este tipo de incertidumbre, se promedia un conjunto muestral de la varianza predictiva:

estimándose mediante unBNN. Aprender la incertidumbre aleatoria durante el entrenamiento alienta BNNs a encapsular la aleatoriedad inherente a los datos que no se puede explicar. Si no hay una aleatoriedad inherente, debe tender a cero.