Théorème d'approximation de Komlós-Major-Tusnády

Le théorème d'approximation de Komlós-Major-Tusnády ou approximation KMT est un résultat d'approximation forte qui donne une borne d'approximation de la somme partielle de variables aléatoires centrées réduites i.i.d. dont la fonction génératrice des moments est définie sur un voisinage de 0. Il affirme en particulier que cette somme peut être approchée par un mouvement brownien avec une erreur de $O(\log n)$ .

Histoire

En 1961, le mathématicien Skorokhod établit qu'une somme de variables i.i.d. centrées réduites pouvait être représentée par un mouvement brownien stoppé en certains temps d'arrêt[1].

C'est avec ce résultat que Strassen démontra en 1964 qu'une telle somme pouvait être approchée par un mouvement brownien avec une erreur de $o\left({\sqrt {n\log \log n}}\right)$ [2]. Bien que ce soit la meilleure borne, elle est insuffisamment générale pour démontrer des théorèmes de convergence classiques comme le théorème de Donsker[3]. La théorie de l'approximation forte émerge à partir de ce résultat.

C'est en 1975-1976 qu'émerge une meilleure approximation grâce aux mathématiciens János Komlós, Gábor Tusnády et Péter Major. Sous réserve d'une hypothèse plus forte, il est possible d'approcher la somme partielle par un mouvement brownien avec une erreur de $O(\log n)$ . La preuve de ce résultat utilise une méthode appelée la construction hongroise[4]^,[5].

Énoncé

Approximation forte des sommes partielles

Soit une suite de variables $(X_{n})_{n\in \mathbb {N} ^{*}}$ i.i.d. centrées réduites dont la fonction génératrice des moments est définie sur un voisinage de 0. Il existe alors un mouvement brownien $(B_{t})_{t\geq 0}$ vérifiant pour tout $x\in \mathbb {R}$ et $n\in \mathbb {N} ^{*}$ ,

\mathbb {P} \left(\max _{1\leq k\leq n}|S_{k}-B_{k}|>C\log n+x\right)<Ke^{-\lambda x}

,

où $C,K,\lambda$ sont des constantes positives dépendant de la distribution des $X_{n}$ .

En particulier, le lemme de Borel-Cantelli implique que $\max _{1\leq k\leq n}|S_{k}-B_{k}|{\overset {\text{p.s.}}{=}}O(\log n)$ .

Approximation forte du processus empirique

Ce théorème admet également une version pour l'approximation forte du processus empirique uniforme Si $(U_{n})_{n\in \mathbb {N} ^{*}}$ est une suite de variables i.i.d. de loi uniforme sur $[0,1]$ alors il existe une suite de ponts browniens $(P_{n}(t))_{n\in \mathbb {N} ^{*}}$ tel que

\forall n\in \mathbb {N} ^{*},\quad \forall x>0,\quad \mathbb {P} \left(\sup _{0\leq t\leq 1}|\alpha _{n}^{U}(t)-P_{n}(t)|>n^{-1/2}(C\log n+x)\right)\leq Le^{-\lambda x},

avec $C,L,\lambda$ des constantes universelles positives. Par conséquent, d'après le lemme de Borel-Cantelli,

\sup _{t\in [0,1]}|\alpha _{n}^{U}(t)-P_{n}(t)|=O(n^{-1/2}\log n).

Bretagnolle et Massart ont même pu donner des valeurs pour les constantes universelles : ils ont montré que l'on pouvait prendre en particulier $C=12,L=2,\lambda =1/6$ [6].

Rappel : le processus empirique uniforme est défini par

\forall 0\leq t\leq 1,\quad \alpha _{n}^{U}(t)=\left[{\frac {1}{n}}\sum _{i=1}^{n}\mathbf {1} _{\{U_{i}\leq t\}}\right]-t.

Optimalité

La bornée proposée par KMT est la meilleure possible excepté le cas où $X_{1}$ serait lui-même une loi normale. En effet[3], s'il existe un mouvement brownien $(B_{t})_{t\geq 0}$ vérifiant $|S_{n}-B_{n}|=o_{\textrm {p.s.}}(\log n)$ alors $X_{i}$ est une loi normale centrée réduite.

Ce résultat est également optimal dans le sens où si l'hypothèse d'existence de la fonction génératrice des moments au voisinage de 0 est supprimée alors la borne donnée par KMT n'est plus valide. En effet[3], si c'est le cas alors pour tout mouvement brownien $(B_{t})_{t\geq 0}$ , presque-sûrement on a,

\limsup _{n\to +\infty }{\frac {S_{n}-B_{n}}{\log n}}=+\infty .

L'approximation est également optimale dans le cas du processus empirique. En effet[4], pour toute suite de ponts browniens $(P_{t})_{0\leq t\leq 1}$ définis sur le même espace de probabilité que le processus empirique $(\alpha _{n}^{U}(t))_{0\leq t\leq 1}$ on a que

\mathbb {P} \left(\sup _{0\leq t\leq 1}|\alpha _{n}^{U}(t)-P_{n}(t)|\geq {\frac {1}{6}}n^{-1/2}\log n\right){\underset {n\to +\infty }{\longrightarrow }}1.

Références

(ru) A. Skorokhod, « Research on the Theory of Random Processes », Kiew,‎ 1961
(en) V. Strassen, « An Invariance Principle for the Law of the Iterated Logarithm », Z. Wahrscheinlichkeitstheorie, n^o 3,‎ 1964, p. 211-226
(en) M. Csörgo et P. Révész, Strong approximations in probability and statistics
(en) J. Komlos, P. Major et G. Tusnady, « An approximation of partial sums of independent RV’-s, and the sample DF. I », Z. Wahrscheinlichkeitstheorie verw, n^o Gebiete 32,‎ 1975, p. 211-226 (lire en ligne)
(en) J. Komlos, P. Major et G. Tusnady, « An approximation of partial sums of independent RV'-s and the sample DF. II », Z. Wahrscheinlichkeitstheorie verw, n^o Gebiete 34,‎ 1975, p. 33-58 (lire en ligne)
(en) J. Bretagnolle et P. Massart, « Hungarian Constructions from the Nonasymptotic Viewpoint », The Annals of Probability, vol. 17, n^o 1,‎ janvier 1989, p. 239–256 (ISSN 0091-1798 et 2168-894X, DOI 10.1214/aop/1176991506, lire en ligne, consulté le 1^er juin 2018)

Portail des mathématiques
Portail des probabilités et de la statistique

Cet article est issu de Wikipedia. Le texte est sous licence Creative Commons - Attribution - Partage dans les Mêmes. Des conditions supplémentaires peuvent s'appliquer aux fichiers multimédias.

[1] (ru) A. Skorokhod, « Research on the Theory of Random Processes », Kiew,‎ 1961

[2] (en) V. Strassen, « An Invariance Principle for the Law of the Iterated Logarithm », Z. Wahrscheinlichkeitstheorie, n^o 3,‎ 1964, p. 211-226

[:0-3] (en) M. Csörgo et P. Révész, Strong approximations in probability and statistics

[:1-4] (en) J. Komlos, P. Major et G. Tusnady, « An approximation of partial sums of independent RV’-s, and the sample DF. I », Z. Wahrscheinlichkeitstheorie verw, n^o Gebiete 32,‎ 1975, p. 211-226 (lire en ligne)

[5] (en) J. Komlos, P. Major et G. Tusnady, « An approximation of partial sums of independent RV'-s and the sample DF. II », Z. Wahrscheinlichkeitstheorie verw, n^o Gebiete 34,‎ 1975, p. 33-58 (lire en ligne)

[6] (en) J. Bretagnolle et P. Massart, « Hungarian Constructions from the Nonasymptotic Viewpoint », The Annals of Probability, vol. 17, n^o 1,‎ janvier 1989, p. 239–256 (ISSN 0091-1798 et 2168-894X, DOI 10.1214/aop/1176991506, lire en ligne, consulté le 1^er juin 2018)