Inférence bayésienne

L’inférence bayésienne est une méthode d'inférence statistique par laquelle on calcule les probabilités de diverses causes hypothétiques à partir de l'observation d'événements connus. Elle s'appuie principalement sur le théorème de Bayes.

Illustration comparant les approches fréquentiste et bayésienne (Christophe Michel, 2018).

Le raisonnement bayésien construit, à partir d'observations, une probabilité de la cause d'un type d'événements. On attribue à toute proposition de cause une valeur de sa probabilité, prise dans l'intervalle ouvert allant de 0 (contradiction, faux à coup sûr) à 1 (tautologie, vraie à coup sûr)[1]. Quand un événement possède plus de deux causes possibles, on considère une distribution de probabilité pour ces causes. Cette distribution est révisée à chaque nouvelle observation et s'affine de plus en plus. Ainsi, un diagnostic médical indique-t-il qu'une maladie plus qu'une autre est probablement à l'origine des symptômes d'un patient, et des examens renforcent ou infirment cette hypothèse. On révise de même, au vu des résultats de chaque sondage d'une campagne de prospection, la probabilité qu'il existe un gisement de pétrole à un certain endroit.

Le théorème de Cox-Jaynes formalise la notion intuitive de plausibilité sous une forme numérique. Il démontre que, si les plausibilités satisfont à l'ensemble d'hypothèses qu'il propose, la seule façon cohérente de les manipuler est d'utiliser un système isomorphe à la théorie des probabilités, induisant alors une interprétation « logique » des probabilités indépendante de celle de fréquence et une base rationnelle au mécanisme d'induction logique.

L'inférence bayésienne produit une probabilité qui s'interprète comme le degré de confiance à accorder à une cause hypothétique. On l'utilise pour l'apprentissage automatique en intelligence artificielle.

Manipulation des probabilités : notation et règles logiques

L'inférence bayésienne effectue des calculs sur les énoncés probabilistes. Ces énoncés doivent être clairs et concis afin d'éviter toute confusion. L'inférence bayésienne est particulièrement utile dans les problèmes d'induction. Les méthodes bayésiennes se distinguent des méthodes dites standards[Lesquelles ?] par l'usage systématique de règles formelles raffinant les probabilités par l'observation.

Notation courante

La notation bayésienne reprend la notation classique des événements en probabilité qui elle-même s'inspire de la notation logique.

Table récapitulative non-exhaustive pour et
Notation Sens
évènement qui s'est réalisé
qui ne s'est pas réalisé
évènement non qui s'est réalisé
évènement non qui ne s'est pas réalisé
Évènement qui s'est réalisé
B qui ne s'est pas réalisé
évènement non qui s'est réalisé
évènement non qui ne s'est pas réalisé
événements et qui se sont réalisés
événement ou qui s'est réalisé
probabilité que ait lieu
probabilité que ait lieu
probabilité conditionnelle que ait lieu étant donné que a eu lieu
Note : d'autres notations existent, et il est aussi possible de les combiner[2].

Règles de la logique bayésienne

Deux règles permettent de combiner les probabilités, la règle d'addition et celle de multiplication.

La règle d'addition
La règle de multiplication

Le théorème de Bayes, ou de probabilité des causes, s'en dérive aussitôt en mettant à profit la symétrie de la règle de multiplication

En conséquence, si on connaît dans le détail les causes possibles d'une conséquence observée et leurs probabilités, l'observation des effets permet de remonter aux causes.

On remarque que l'inversion de la probabilité introduit le terme p(A), la probabilité a priori de l'événement A, indépendamment de l'événement B. Cette estimation a priori est ignorée par les autres méthodes probabilistes.

Notation d'évidence

Dans la pratique, quand une probabilité est très proche de 0 ou de 1, seule l'observation d'éléments considérés eux-mêmes comme très improbables est susceptible de la modifier.

On définit l'évidence par :

Ev est une abréviation pour weight of evidence, parfois traduit en français par « évidence » ; la formulation la plus conforme à l'expression anglaise d'origine serait le mot à mot « poids de témoignage » ou « poids de la preuve », mais par une coïncidence amusante « évidence » se montre très approprié en français pour cet usage précis.

L'utilisation du logarithme fait varier la valeur de l'évidence sur tout le domaine des nombres réels quand la probabilité va de 0 à 1, avec une meilleure lisibilité des très petites (10−5, 10–10…) et des très grandes (0,999999, 0,999999999) probabilités, faciles à confondre intuitivement.

L'intérêt de cette notation, outre qu'elle évite d'avoir trop de décimales au voisinage de 0 et de 1, est qu'elle permet de présenter l'apport d'une observation sous une forme indépendante des observateurs, donc objective : il faut le même poids de témoignage pour faire passer un événement d'une plausibilité de -4 (probabilité 10−4 avec logarithme en base 10) à -3 (probabilité 10−3) que pour le faire passer de -1 (probabilité 0,09) à 0 (probabilité 0,5 soit une chance sur deux), ce qui n'était pas évident en gardant la représentation probabiliste pure.

Si l'on choisit une base 100,1 pour le logarithme, selon Tribus 1972[source insuffisante] l'évidence peut s'exprimer en décibels (dB) : . Une évidence de −40 dB correspond à une probabilité de 10−4, etc. En 2011, Stanislas Dehaene préconise le terme décibans[3], dont l'abréviation dB est identique. Le nom ban fut créé à partir du nom de la ville de Banbury, où on fabriqua durant la Seconde Guerre mondiale des bandes de carton utilisées à Bletchley Park pour déchiffrer les messages produits par la machine Enigma[4]. La technique, élaborée par Alan Turing, était appelée banburismus (en)[5][source insuffisante].

D'autres unités ont été utilisées :

  • le dit (pour decimal digit)), avec des logarithmes à base 10 sans multiplicateur, aussi appelé hartley (symbole Hart), du nom de Ralph Hartley qui le proposa en 1928 ;
  • le NATS utilisant les logarithmes népériens, dits aussi naturels.

Si on prend le logarithme en base 2, l'évidence s'exprime en bits : . On a EvdB  3,0103 Evbit.

Table d'équivalence
Probabilité Évidence (dB) Évidence (bits)
0,0001 -40,0 -13,3
0,0010 -30,0 -10,0
0,0100 -20,0 -6,6
0,1000 -9,5 -3,2
0,2000 -6,0 -2,0
0,3000 -3,7 -1,2
0,4000 -1,8 -0,6
0,5000 0,0 0,0
0,6000 1,8 0,6
0,7000 3,7 1,2
0,8000 6,0 2,0
0,9000 9,5 3,2
0,9900 20,0 6,6
0,9990 30,0 10,0
0,9999 40,0 13,3

Comparaison avec la statistique classique

L'usage de probabilités a priori a entraîné quelques reproches récurrents aux méthodes bayésiennes lors de leur introduction. On devait alors rappeler systématiquement les quatre points suivants[6][source insuffisante] :

  • l'effet de la distribution a priori s'estompe à mesure que les observations sont prises en compte ;
  • il existe des lois impersonnelles, comme la maximisation d'entropie ou l’invariance de groupe indiquant l'unique distribution possible qui répond aux contraintes (moyenne arithmétique, géométrique, variance, etc.) sans ajouter la moindre information propre à l'expérimentateur[7] ;
  • les probabilités a priori sont souvent dans d'autres méthodes utilisées inconsciemment (critère de Wald, critère du minimax…) ;
  • comme pour tout autre modèle, les effets de différents choix a priori peuvent être considérés de front.

Différence d'esprit

Les méthodes bayésiennes utilisent des méthodes impersonnelles pour mettre à jour des probabilités personnelles, tandis que les méthodes statistiques classiques utilisent des méthodes personnelles pour traiter des fréquences impersonnelles[8][source insuffisante]. Dans la théorie bayésienne, les « probabilités » ne sont pas « interprétées comme les fréquences relatives d’événements (point de vue « fréquentiste »), mais comme des mesures du degré de connaissance subjective ». De ce point de vue, une « probabilité » est plutôt une « plausibilité »[9].

Les bayésiens font donc le choix de modéliser leurs attentes en début de processus (quitte à réviser ce premier jugement en donnant des poids de plus en plus faibles aux a priori au fur et à mesure des observations), tandis que les statisticiens classiques se fixent a priori une méthode et une hypothèse arbitraires et ne traitaient les données qu'ensuite.

La possibilité de diminuer automatiquement le poids des a priori au fur et à mesure de l’acquisition des données a permis aux modèles bayésiens d'être largement utilisés en exploration de données. En effet, contrairement aux méthodes classiques, elle ne nécessite que peu d'intervention humaine pour redéfinir à grande vitesse de nombreuses classes hypothèses en éliminant les moins validées par les données du moment.

Quand utiliser l'une ou l'autre ?

Les deux approches se complètent, la statistique étant en général préférable lorsque les informations sont abondantes et d'un faible coût de collecte. Ainsi, un sondage d'opinion ne coûte que quelques euros et un test en fin de chaîne de fabrication que quelques centimes : les statistiques classiques conviennent alors parfaitement. Lorsqu'il est question de s'informer en effectuant un forage pétrolier, le coût des mesures devient tel que les méthodes bayésiennes, qui les minimisent, sont préférables (voir aussi morphologie mathématique). En cas de profusion de données, les résultats sont asymptotiquement les mêmes dans chaque méthode, la bayésienne demandant plus de calcul. Sinon, la méthode bayésienne permet de traiter des cas où la statistique ne disposerait pas suffisamment de données pour qu'on puisse en appliquer les théorèmes limites. La diminution des coûts de calcul  consécutive à la loi de Moore  a joué dans la popularité écrasante des méthodes bayésiennes dès 2004[10].

Le psi-test bayésien (qui est utilisé pour déterminer la plausibilité d'une distribution par rapport à des observations) est asymptotiquement convergent avec le χ² des statistiques classiques à mesure que le nombre d'observations devient grand. Le choix apparemment arbitraire d'une distance euclidienne dans le χ² est ainsi parfaitement justifié a posteriori par le raisonnement bayésien[6][source insuffisante].

Prise de décision bayésienne et neurosciences

Un cycle de cours de Stanislas Dehaene au Collège de France intitulé Psychologie cognitive expérimentale mentionne l'inférence bayésienne dans les titres de quatre de ses sept exposés. Une des conférences se nomme du reste L'implémentation neuronale des mécanismes bayésiens[3]. C'est une revanche posthume pour Jaynes dont une communication de 1957 sur le probable fonctionnement bayésien du cerveau avait été rejetée comme « non en rapport avec le sujet des neurosciences »[11]. Les références données font état de travaux similaires dans plusieurs pays.

Usage en « deep learning »

Un important article souvent cité[12] a introduit la notion de deep learning efficace à partir de réseaux bayésiens.

Historique

Cette démarche fut induite pragmatiquement par application du théorème de Bayes bien connu en dehors d'un strict modèle probabiliste antérieurement validé. Après la publication posthume des travaux de Bayes, Abel et Laplace adhérèrent immédiatement au raisonnement bayesien (le second en tire même la loi de succession qui porte son nom).

Le théorème de Cox le formalisa sur des bases axiomatiques indépendantes de la théorie classique des probabilités et les travaux de Good, Jeffreys, Tribus et Jaynes la vulgarisèrent.

Controverses

Bien que les découvertes de Bayes (et Laplace) soient antérieures, les méthodes qui se sont historiquement imposées dans la pratique statistique sont celles de l'école portée par les travaux de Ronald Aylmer Fisher ou Richard von Mises. Cette approche est parfois appelée statistique fréquentiste mais le terme reste encore peu usité en français[alpha 1] : la domination de cette école a été telle qu'en l'état actuel le terme « statistiques » renvoie le plus souvent implicitement à celle-ci[13].

L'approche fréquentiste se prêtait en effet mieux aux problèmes alors rencontrés (grands volumes de données très irrégulières, par exemple en agriculture) et aux outils disponibles (essentiellement comptables  quatre opérations de base  et manuels ou mécanographiques, donc limités et lents). L'usage de l'approche bayésienne était limité à un champ d'applications restreint parce que demandant des calculs plus complexes, et pour cette raison onéreux à cette époque. L'effondrement du coût des calculs entraîné par le développement de l'informatique a permis un usage plus courant des méthodes bayésiennes, notamment dans le cadre de l'intelligence artificielle : perception automatique, reconnaissance visuelle ou de la parole, deep learning[réf. souhaitée].

Ce nouvel usage a contribué à clarifier le débat théorique sur les pertinences comparées des deux approches[14].

Notation d'évidence

Cette notation est souvent attribuée à I. J. Good. Ce dernier en attribuait cependant la paternité à Alan Turing et, indépendamment, à d'autres chercheurs dont Harold Jeffreys.

C'est peu après les publications de Jeffreys qu'on découvrit qu'Alan Turing avait déjà travaillé sur cette question en nommant les quantités correspondantes log-odds dans ses travaux personnels.

Exemples d'inférence bayésienne

Cette pièce est-elle biaisée ?

On lance quatre fois une pièce et elle tombe quatre fois du même côté. Est-elle biaisée[15] ?

La position des statistiques classiques est de dire qu'on ne peut pas tirer de conclusion significative de trois tirages (en effet, un côté étant déterminé par le premier lancer, on a bien une probabilité 1/8 d'avoir les trois tirages suivants du côté identique avec une pièce parfaitement honnête, ce qui ne fournit pas les 95 % de certitude demandés traditionnellement).

L'approche bayésienne mesurera simplement que cette probabilité de 1/8 déplace linéairement de 10 log10(1/8 / 7/8) = −8,45 dB l'évidence d'honnêteté de la pièce.

  • Si on lui accorde 40 dB (pièce sûre), cette évidence passe à 31,55 dB. En d'autres termes, la probabilité subjective[alpha 2] de sa normalité reste élevée (30 dB correspondent à une probabilité de 10-3 environ que la pièce soit biaisée).
  • Si en revanche la pièce est douteuse et qu'on estime dB son évidence d'honnêteté (autant de chances d'être bonne que biaisée), cette évidence passe à −8,45 dB, ce qui correspond maintenant à une probabilité subjective de 87,5 % que la pièce soit biaisée, et il serait avisé de mettre fin au jeu.

Sex ratio (Laplace, 1786)

Laplace constate, dans les statistiques de 1785, 251 527 naissances masculines et 241 945 naissances féminines. Il cherche à déterminer si cette différence est ou non significative d'une probabilité p plus grande d'avoir un garçon[16].

Sans avis a priori, il prend donc pour distribution de départ de p la loi uniforme sur [0, 1]. Il obtient :

Cette évidence inférieure à −40 dB rend extrêmement improbable qu'il y ait équiprobabilité entre la naissance d'une fille et celle d'un garçon. Laplace n'emploie toutefois pas cette terminologie, qui n'existe pas encore à son époque.

Par précaution, Laplace effectue ensuite le même calcul sur d'autres statistiques concernant Londres et à Paris, qui confirment ce résultat.

Il naît donc davantage de garçons que de filles, constat contre-intuitif qu'expliquera  et pour toute la classe des mammifères  la théorie synthétique de l'évolution au XXe siècle.

(Les statistiques classiques parviennent sans surprise au même résultat, vu la taille de l'échantillon, par le test du χ², qui ne sera imaginé par Pearson qu'en 1900)

Test médical

Un médecin effectue le dépistage d'une maladie à l'aide d'un test fourni par un laboratoire.

Le test donne un résultat booléen : soit positif, soit négatif. Les études sur des groupes tests ont montré que, lorsque le patient est porteur de la maladie, le test est positif dans 90 % des cas. Pour un patient non atteint de la maladie, le test est positif dans un cas sur 100 (faux positif).

Le médecin reçoit un résultat positif pour le test d'un patient. Il souhaiterait savoir quelle est la probabilité que le patient soit réellement atteint de la maladie.

On note :

  • M l'événement « le patient est atteint de la maladie » (M son complémentaire « le patient n'est pas atteint de la maladie »)
  • T l'événement « le test est positif »

La grandeur recherchée est p(M|T), la probabilité que le patient soit malade sachant que le test est positif.

Les hypothèses se traduisent ainsi :

Le théorème de Bayes donne le résultat suivant :

La valeur p(T) s'évalue par :

En combinant les deux égalités, il vient :

L'application numérique avec les valeurs proposées donne :

On peut remarquer que le résultat du calcul dépend de p(M) soit la probabilité globale que le patient soit malade, autrement dit, de la proportion de malades dans la population à laquelle appartient le patient.

On suppose que la maladie recherchée soit rare et touche 1/100 000 personnes dans la population. Alors :

Ainsi, bien que le test soit positif pour 90 % des personnes atteintes et produise seulement 1 % de faux positif, le résultat est extrêmement peu concluant. Ce résultat qui peut sembler paradoxal parait plus évident si quand on effectue une analyse de population sur 1 million de personnes :

  • 10 personnes seront touchées par la maladie, 999 990 seront saines ;
    • sur les 10 personnes touchées 9 reviendront avec un test positif et 1 avec un test négatif (faux négatif) ;
    • sur les 999 990 saines, 1 % soit environ 10 000 seront des faux positifs.

Finalement sur 1 million de tests, il y aurait 10 009 tests positifs dont seulement 9 vrais positifs.

La probabilité qu'un patient ayant un résultat positif soit malade reste donc faible car la maladie est dans l'absolu extrêmement rare. D'un tel résultat, on pourrait conclure que le test est complètement inutile, pourtant il faut noter que la probabilité de trouver un patient malade par ce test reste 90 fois supérieure à une recherche par tirage aléatoire (p(M)= 0,00001).

On suppose maintenant que la maladie ciblée soit moins rare et touche 1/1 000 personnes dans la population. Alors p(M) = 0,001 et p(M|T) = 0,0826.

Le résultat reste peu concluant. Sur 1 million de personnes :

  • 1 000 personnes seront touchées par la maladie, 999 000 seront saines ;
    • sur les 1 000 personnes touchées 900 reviendront avec un test positif et 100 avec un test négatif (faux négatif);
    • sur les 999 000 saines, 1 % soit 9 990 seront des faux positifs.

Finalement sur 1 million de tests, il y aura 10 890 tests positifs dont seulement 900 vrais positifs.

La probabilité qu'un patient ayant un résultat positif soit malade s'établit donc à 900 ÷ 10 890, soit 8,3 %, ce qui reste faible, mais est tout de même 83 fois plus que dans la population générale.

Si la maladie est épidémique, avec une personne sur dix touchée, on trouvera le test concluant, puisque la probabilité pour qu'une personne revenant avec un test positif soit malade sera de 91 %.

Valeur du test et notation d'évidence

On reprend les trois cas d'application du test.

Probabilité avant test Probabilité après test
1/100 000 0,00001 −5 0,000899 0,000900 −3,05 1,95
1/1 000 0,001 −3 0,0826 0,0900 −1,05 1,95
1/10 0,111 −0,954 0,909 10 1 1,95

On voit que le test déplace toujours l'évidence de la même valeur, valeur unique qui se trouve ainsi caractériser numériquement de façon objective le résultat du test indépendamment des attentes. On peut montrer facilement que cette valeur est égale à

D'où vient ce biscuit ?

On se donne deux boîtes de biscuits : une boîte A comporte 30 biscuits au chocolat et 10 ordinaires, l'autre, B, en comporte 20 de chaque sorte.

On choisit les yeux fermés une boîte au hasard, puis dans cette boîte un biscuit au hasard. Il se trouve être au chocolat. De quelle boîte a-t-il le plus de chances d'être issu, et avec quelle probabilité ? Intuitivement, on se doute que la boîte A a plus de chances d'être la bonne, mais de combien ?

Le théorème de Bayes donne la réponse exacte :

Notons HA la proposition « le gâteau vient de la boîte A » et HB la proposition « le gâteau vient de la boîte B ».

Si lorsqu'on a les yeux bandés les boîtes ne se distinguent que par leur nom, on a p(HA) = p(HB), et la somme fait 1, puisque qu'une boîte a été choisie, soit une probabilité de 0,5 pour chaque proposition.

Notons D l'événement désigné par la phrase « le gâteau est au chocolat ». Connaissant le contenu des boîtes, il apparait que :

  • p(D | HA) = 30/40 = 0,75 (évidence 3, soit 4,77 dB ou 1,44 bit)
  • p(D | HB) = 20/40 = 0,5 (évidence 1, soit dB ou 0 bit)

Note: « p(A | B) » se dit « la probabilité de A sachant B ».

La formule de Bayes donne donc :

La probabilité p(HA|D) représente la probabilité d'avoir choisi la boîte A sachant que le gâteau est au chocolat.

Avant de regarder le gâteau, la probabilité d'avoir choisi la boîte A était p(HA), soit 0,5. Après l'avoir regardé, on réévalue cette probabilité à p(HA|D), qui est 0,6 (évidence 1,5 soit 1,76 dB ou 0,58 bit). L'observation a donc apporté 1,76 dB (0,58 bit).

Et puisque p(HA|D) + p(HB|D) = 1 (pas d'autre possibilité que d'avoir choisi la boîte A ou la boîte B sachant que le gâteau est au chocolat), la probabilité d'avoir choisi la boîte B sachant que le gâteau est au chocolat est donc de 1 − 0,6 = 0,4.

Si on impose une probabilité a priori quelconque de suspecter une boîte particulière plutôt que l'autre, le même calcul effectué avec cette probabilité a priori fournit également 0,58 bit. C'est là une manifestation de la règle de cohérence qui constituait l'un des desiderata de Cox.

Où en sont les immatriculations du moment ?

Supposons qu'un pays numérote les plaques minéralogiques de ses véhicules de 1 en 1 à partir de 1. On observe n plaques différentes. Pour n supérieur à 3, on démontre par la méthode de Bayes que le meilleur estimateur du numéro en cours ne dépend que du nombre d'observations et de la plus haute immatriculation trouvée Smax[alpha 3].

L'estimation est d'autant plus exacte que le nombre d'observations est grand. La variance de l'estimation elle-même est inversement proportionnelle au carré de n.

Annexes

Bibliographie

  • Isabelle Drouet (dir.), Le bayésianisme aujourd’hui : Fondements et pratiques, Paris, Éditions Matériologiques, , 504 p. (ISBN 978-2-37361-078-9, présentation en ligne)
  • Collectif Biobayes, Initiation à la statistique bayésienne : Bases théoriques et applications en alimentation, environnement, épidémiologie et génétique, Paris, Ellipses, (ISBN 9782340005013)
  • Jean-Jacques Boreux, Éric Parent et Jacques Bernier, Pratique du calcul bayésien, Paris, Springer-Verlag,
  • Christian P. Robert (trad. de l'anglais par l'auteur), Le Choix bayésien, principe et pratique The Bayesian Choice, 2.nd ed. »], Paris, Springer, , 2e éd. (1re éd. 1992) (ISBN 978-2-287-25173-3, présentation en ligne) (éd. 1992 sous le titre L'Analyse Statistique Bayésienne, Paris:Economica).
  • Jean-Jacques Droesbeke, Jeanne Fine et Gilbert Saporta, Méthodes bayésiennes en statistique, Technip, (ISBN 9782710808138)

Les ouvrages relatifs à l'utilisation sont plus rares que les ouvrages d'enseignement généraux. Les méthodes bayésiennes, plus coûteuses, ne justifient ce surcoût que si les enjeux et risques financiers sont importants (prospection pétrolière, recherche de médicaments…). Ce sont dans ces deux cas des sociétés privées (pétroliers, laboratoires pharmaceutiques…) qui les financent, et celles-ci n'ont pas vocation à donner à leurs concurrents des informations financées avec les fonds de leurs actionnaires (voir propriété intellectuelle). Certains problèmes ludiques comme les tentatives de prédictions dans certaines séries (Travail de Richard Vale sur Game of Thrones [PDF] en sont également une utilisation possible.

Des analyses bayésiennes de problèmes concrets apparaissent dans la plupart des numéros des grands journaux de statistiques, comme Journal of the Royal Statistical Society, Journal of the American Statistical Association, Biometrika, Technometrics (en) ou Statistics in Medicine, telles que ci-dessous.

Articles connexes

Vidéo pédagogique

Notes et références

  1. Le , 447 liens sur Google pour la recherche « statistique fréquentiste ». Il plus courant en anglais, le , 19 300 liens sur Google pour la recherche « frequentist statistics »
  2. Tribus rappelle que toute probabilité, parce qu'elle traduit un simple état de connaissance, est — par construction subjective
  3. Tribus 1969, p. 248, prend l'exemple de l'estimation de la production de pompes d'un concurrent par le relevé de leurs numéros de série. Le calcul se trouve à la page suivante
  1. Isabelle Drouet, « Le bayésianisme : éléments de définition et mutation récentes », dans Le bayésianisme aujourd’hui, , p. 3-25, p. 4-5.
  2. Par exemple , , , etc.
  3. Stanislas Dehaene, « Introduction au raisonnement Bayésien et à ses applications », sur Collège de France, .
  4. Jérôme Segal, Le zéro et le un : Histoire de la notion d'information au XXe siècle, vol. 1, Éditions Matériologiques, , 532 p. (ISBN 978-2-919694-05-1, présentation en ligne).
  5. Science4All, « Le curseur de Turing | Bayes 14 », , sur YouTube.
  6. Tribus 1972.
  7. Jean-Philippe Fauconnier, « Classifieur d'entropie maximale (MaxEnt) », , IRIT, Toulouse.
  8. Tribus 1969.
  9. Dehaene 2012.
  10. Comparaison de l'intérêt pour les méthodes bayésiennes et fréquentistes.
  11. Jaynes 1988.
  12. (en)A fast-learning algorithm for deep belief nets [PDF], de Geoffrey E. Hinton, Simon Osindero (Université de Toronto) et Yee-Whye Teh (Université de Singapour).
  13. Pablo Carranza, Alain Kuzniak, équipe DIDIREM. Université Paris 7 bayesienne « cachée » et approche fréquentiste « ambiguë » dans les livres de cours français de Première S et ES [PDF].
  14. La recherche, Questions à Nicolas Vayatis : « Bayésiens contre Fréquentistes, un faux débat » mathématiques - 01/07/2008 par Propos recueillis par Mathieu Nowak.
  15. Exemple cité par Tribus 1972.
  16. Robert 2006.
  • Portail des probabilités et de la statistique
  • Portail de l’informatique
Cet article est issu de Wikipedia. Le texte est sous licence Creative Commons - Attribution - Partage dans les Mêmes. Des conditions supplémentaires peuvent s'appliquer aux fichiers multimédias.