Une approche théorique de l'information face à l'incertitude - AWSConseils prescriptifs

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Une approche théorique de l'information face à l'incertitude

L'explication de l'incertitude dans lesection précédentene repose que sur la notion de variance d'incertitude, mais il existe également des notions théoriques d'incertitude sur l'information. L'incorporation de l'incertitude aléatoire théorique de l'information améliore la robustesse de l'estimation de l'incertitude totale (Gal 2016,Hein, Andriushchenko et Bitterwolf 2019,van Amersfoort et coll. 2020). L'incertitude totale est mesurée par l'entropie de Shannon :


    Entropie de Shannon

est l'opérateur du produit point et représente le nombre de classes.

Entropie prédictive est disponible pour les réseaux neuronaux bayésiens et non bayésiens. Pour décomposer cette incertitude totale en composantes épistémique et aléatorique, vous devez estimer les informations mutuelles , et cela nécessite une approche bayésienne.


    Informations mutuelle