Incertezza aleatoria

L'incertezza aleatoria si riferisce alla casualità intrinseca dei dati che non può essere spiegata (aleatoresi riferisce a qualcuno che lancia i dadi in latino). Esempi di dati con incertezza aleatoria includono dati di telemetria rumorosi e immagini a bassa risoluzione o testo sui social media. Si può assumere l'incertezza aleatoria , la casualità intrinseca, per essere costante (omoscedastico) o variabile (eteroscedastico), in funzione delle variabili esplicative di input.

Incertezza aleatoria omoscedastica

Incertezza aleatoria omoscedastica, quando è costante, è il caso più semplice e comunemente incontrato nella regressione sotto il presupposto di modellazione che , dove , dove è la matrice di identità e è uno scalare costante. È altamente restrittivo assumere un rischio aleatorio costante, supponendo che il rumore informazioni relative a una risposta è indipendente dalla variabile esplicativa e costante e raramente riflessivo della realtà. Molti fenomeni in natura non mostrano una casualità costante. Ad esempio, l'incertezza sui risultati dei sistemi fisici, come il movimento fluido, è solitamente una funzione dell'energia cinetica. Considera il contrasto tra il flusso d'acqua turbolento di una grande cascata e il flusso d'acqua laminare di una fontana decorativa. La stocasticità (casualità) della traiettoria di una particella d'acqua è una funzione dell'energia cinetica e quindi non costante. Questa ipotesi può portare alla perdita di informazioni preziose durante la modellazione delle relazioni tra target e input che ospitano rumore variabile e non può essere spiegata con le informazioni osservabili. Di conseguenza, nella maggior parte dei casi, non è sufficiente assumere l'incertezza omoscedastica. A meno che i fenomeni non siano noti per essere di natura omoscedastica, il rumore intrinseco dovrebbe essere modellato in funzione delle variabili esplicative , se è possibile farlo.

Incertezza aleatoria eteroscedastica

L'incertezza aleatoria eteroscedastica è quando consideriamo la casualità intrinseca all'interno dei dati come una funzione dei dati stessi . Per calcolare questo tipo di incertezza, si media una serie di campioni della varianza predittiva:

con stimato da un BNN. L'apprendimento dell'incertezza aleatoria durante l'allenamento incoraggia le BNN a incapsulare la casualità intrinseca all'interno dei dati che non possono essere spiegati. Se non c'è casualità intrinseca, dovrebbe tendere verso zero.