Statistique (indicateur)

Donnons une définition « la plus classique » (en 1982) du terme statistique, sujet de cet article :

« La statistique ou les statistiques, au singulier ou au pluriel, désignant des ensembles cohérents de données numériques relatives à des groupes d'individus, au sens large[2]. »

Dans cette définition, on retrouve l'idée du sens commun que les statistiques sont des valeurs. Cela correspond à la définition de l'édition 1956 du Petit Larousse illustré : « tableau numérique d'un fait se prêtant à la statistique : statistique de la natalité »[1] ou à celle du Larousse actuel (2012) : « ensemble des données numériques concernant un phénomène quelconque et dont on tire certaines conclusions[3] ». Par ces définitions, on retrouve le fait qu'une statistique provient d'un « dénombrement d'êtres, d'objets, de faits ou de mesures constituant les espèces d'un genre »[1] et le fait que les statistiques sont les résultats de ce dénombrement. Dans ce sens, on peut dire qu'une statistique est un indicateur ou une mesure (voir le wiktionnaire). On parle également de statistiques des États ou statistiques publiques[4].

De manière plus formelle, une statistique est une variable (ou variable aléatoire) qui « représente » ou « approche » une propriété d'un échantillon d'une population. Par exemple, la moyenne d'âge des Français est une statistique.

De manière intuitive, X est l'ensemble des valeurs possibles pour un individu de la population concernée (les âges possibles dans l'exemple précédent), ${\displaystyle \scriptstyle X^{n}}$ est l'ensemble de toutes les listes possibles de n valeurs pour les individus d'un échantillon de taille n (les listes possibles des n âges des individus d'un échantillon), Y est l'ensemble des valeurs possibles de l'objet étudié (les valeurs possibles de la moyenne d'âge), et la statistique T est l'« application » ou « indicateur » ou « variable » étudié (la moyenne des n personnes).

Dans ce sens une statistique est apparentée à une variable aléatoire. On parle de variable statistique ou d'indicateur statistique.

Si ${\displaystyle {\widehat {\theta }}}$ est un estimateur de ${\displaystyle \theta }$, on dit qu'il est :

• convergent si : ${\displaystyle {\widehat {\theta }}}$ tend en probabilité vers ${\displaystyle \theta }$ quand le nombre d'observations augmente. Plus le nombre d'observations est grand et plus l'on se rapproche de la vraie valeur. Cette propriété d'un estimateur est essentielle si l'on veut pouvoir estimer avec grande précision le paramètre ${\displaystyle \theta }$. En effet, si c'est le cas, pour augmenter la précision de l'estimateur, il suffira d'effectuer plus de mesures ;
• sans biais si : ${\displaystyle \mathbb {E} ({\widehat {\theta }})=\theta .\,}$ On peut voir un estimateur sans biais comme un estimateur pour lequel on ne fait pas d'erreur systématique pour une taille d'échantillon donnée. A contrario pour un estimateur qui aurait un biais, il pourrait par exemple exister des valeurs du paramètre ${\displaystyle \theta }$ pour lesquelles on surestimerait ou sous-estimerait de façon systématique la grandeur que l'on cherche à évaluer. C'est pour qu'il soit sans biais que l'on estime d'ordinaire la variance quand on a n observations par ${\displaystyle {\frac {n}{n-1}}S^{2}}$ et non par ${\displaystyle S^{2}}$ par exemple.

Ces deux propriétés sont essentielles et en règle générale on considère que tout estimateur devrait au moins vérifier ces deux propriétés pour qu'on puisse le considérer comme suffisamment précis. On peut de plus vouloir qu'un estimateur soit efficace (c'est-à-dire que l'estimation qu'il fournit varie le moins possible autour de la valeur à estimer) ou robuste (c'est-à-dire qu'il soit peu sensible aux variations d'une mesure sur les n). Ces deux propriétés sont détaillées plus bas dans les sections Optimisation d'estimateur et Robustesse.

Si ${\displaystyle \delta }$ est un estimateur sans biais et S une statistique exhaustive, alors l'estimateur augmenté ${\displaystyle \mathbb {E} (\delta |S)}$ a une variance plus faible que l'espérance de départ et est également sans biais. L'estimateur augmenté est donc toujours plus précis que l'estimateur initial si on l'augmente d'une statistique exhaustive.

Dans le cas multiparamétrique où l'estimateur et le paramètre sont de dimension supérieure à 1, on considère la matrice de variance-covariance. L'erreur quadratique du nouvel estimateur est toujours plus faible que celle de l'ancien estimateur et ce quelle que soit la norme utilisée. Même si les différentes composantes ne sont pas normées de la même façon, l'estimateur augmenté est toujours préférable.

On considère donc n variables aléatoires ${\displaystyle X_{i}}$ distribuées selon des lois de Poisson de paramètre ${\displaystyle \lambda }$ et l'on cherche à estimer ${\displaystyle e^{-\lambda }}$. On peut montrer assez facilement en considérant le critère de factorisation que ${\displaystyle S=\sum _{i=1}^{n}X_{i}}$ est une statistique exhaustive. Pour montrer l'intérêt de ce théorème, on prend un estimateur très grossier de ${\displaystyle e^{-\lambda }}$: ${\displaystyle \delta _{0}=\delta (X_{1},0)}$ qui vaut 1 si ${\displaystyle X_{1}=0}$ et 0 sinon. Cet estimateur ne prend en compte qu'une seule valeur de X alors qu'on en dispose de n et il ne donne pour résultat que 0 ou 1 alors que la valeur de ${\displaystyle e^{-\lambda }}$ appartient à l'intervalle ]0,1] et ne vaut sans doute pas 1 (si c'était le cas ${\displaystyle X_{i}}$ vaudrait 0 de façon déterministe et on s'en serait aperçu en regardant les données). Pourtant, malgré la grossièreté de cet estimateur, l'estimateur obtenu est très bon et on peut même montrer qu'il est optimal. L'estimateur augmenté vaut :

${\displaystyle \delta _{1}=\mathbb {E} (\delta _{0}|S).\,\!}$

On peut montrer que:

Détails du calcul

${\displaystyle \mathbb {P} \left(X_{1}=k{\Bigg |}\sum _{i=1}^{n}X_{i}=S\right)={\frac {\mathbb {P} (X_{1}=k\,et\,\sum _{i=1}^{n}X_{i}=S)}{\mathbb {P} (\sum _{i=1}^{n}X_{i}=S)}}={\frac {\mathbb {P} (X_{1}=k\,et\,\sum _{i=2}^{n}X_{i}=S-k)}{\mathbb {P} (\sum _{i=1}^{n}X_{i}=S)}}}$

Et avec l'indépendance de ${\displaystyle X_{i}}$: ${\displaystyle \mathbb {P} \left(X_{1}=k{\Bigg |}\sum _{i=1}^{n}X_{i}=S\right)={\frac {\mathbb {P} (X_{1}=k)\mathbb {P} (\sum _{i=2}^{n}X_{i}=S-k)}{\mathbb {P} (\sum _{i=1}^{n}X_{i}=S)}}}$

Si ${\displaystyle X_{i}}$ suit une loi de Poisson de paramètre ${\displaystyle \lambda }$ alors la fonction génératrice vaut ${\displaystyle \phi _{X_{i}}(t)=\ e^{\lambda (t-1)}}$. Avec les propriétés de la fonction génératrice on en déduit que la somme de n variables suivant des lois de Poisson de paramètre ${\displaystyle \lambda }$ est une loi de Poisson de paramètre ${\displaystyle n\lambda }$. On en déduit les probabilités et ${\displaystyle \mathbb {P} \left(X_{1}=k{\Bigg |}\sum _{i=1}^{n}X_{i}=S\right)=C_{S}^{k}\,{\frac {(n-1)^{S-k}}{n^{S}}}}$ ${\displaystyle X_{1}}$ suit une loi binomiale B(S, 1/n). La valeur en k=0 nous donne l'estimateur ${\displaystyle \delta _{1}}$.

 

${\displaystyle \delta _{1}=\left(1-{1 \over n}\right)^{S}.\,\!}$

δ₁ est tout comme de δ₀ un estimateur de ${\displaystyle e^{-\lambda }}$ mais à l'avantage d'être beaucoup plus précis grâce à l'application du théorème de Rao-Blackwell. En fait, on montre avec le théorème de Lehmann-Scheffé qu'il est même optimal.

On remarquera entre autres que ${\displaystyle \delta _{2}={\frac {S}{n}}}$ est un estimateur optimal de ${\displaystyle \lambda }$ (cela se montre de la même manière) mais que l'estimateur pour ${\displaystyle e^{-\lambda }}$ est différent de ${\displaystyle e^{-\delta _{2}}}$. En fait, on peut même montrer que bien que ${\displaystyle e^{-\delta _{2}}}$ soit un estimateur convergent de ${\displaystyle e^{-\lambda }}$ c'est un estimateur de relativement mauvaise qualité car il est biaisé et qu'en l'estimant de la sorte on fait une erreur systématique sur l'estimation. De façon générale, il peut être intéressant pour estimer ${\displaystyle f(\lambda )}$ de construire un estimateur spécifique plutôt que de calculer la valeur prise par f par l'estimateur de ${\displaystyle \lambda }$.

On dit qu'une statistique est complète (on dit parfois totale) si : ${\displaystyle \forall \theta ,\,\mathbb {E} (f(s(x)))=0}$ implique f=0 presque partout.

Le théorème de Lehmann-Scheffé a une importance particulière en statistiques puisqu'il permet de trouver des estimateurs optimaux qui ne peuvent pas être améliorés en termes de précision car ils atteignent la borne FDCR. De tels estimateurs n'existent pas forcément mais si l'on dispose d'une statistique qui soit à la fois complète et exhaustive et d'un estimateur ${\displaystyle \delta }$ qui soit sans biais alors l'estimateur augmenté ${\displaystyle \mathbb {E} (\delta |S)}$ est optimal et l'on ne peut pas trouver de meilleur estimateur.

Montrons par exemple que pour une loi exponentielle de paramètres ${\displaystyle \lambda }$ la moyenne des observations est le meilleur estimateur possible pour ${\displaystyle \lambda }$. Si l'on a un vecteur des observations X de taille n avec les ${\displaystyle X_{i}}$ de loi exponentielle ${\displaystyle (\lambda ,\sigma )}$ on commence par montrer que ${\displaystyle S(X)=\sum _{1}^{n}X_{i}}$ est une statistique exhaustive et complète.

Pour montrer que cette statistique est exhaustive cela se fait relativement simplement grâce au théorème de factorisation. Pour montrer le fait que cette statistique est complète il faut utiliser l'injectivité de la transformée de Laplace.

Détails du calcul

Pour montrer que c'est bien une statistique complète il faut vérifier que:

${\displaystyle \forall \lambda \in \mathbb {R} ^{+*},\,\mathbb {E} (f(s(x)))=0}$ implique bien que f=0 presque partout. Avec la définition d'une loi gamma s(x) suit une loi gamma de paramètre ${\displaystyle (n,\lambda )}$ on a donc en remplaçant par la densité d'une loi gamma:

${\displaystyle \forall \lambda \in \mathbb {R} ^{+*},\,\int f(y){\frac {y^{n-1}e^{-{\frac {y}{\lambda }}}}{\Gamma \left(n\right)\lambda ^{n}}}dy=0}$ d'où: ${\displaystyle \forall \lambda \in \mathbb {R} ^{+*},\,\int f(y)y^{n-1}e^{-{\frac {y}{\lambda }}}dy=0}$ Par injectivité de la transformée de Laplace on en déduit donc que ${\displaystyle f(y)y^{n-1}=0}$ presque partout puis que f(y)=0 presque partout donc la statistique est bien complète.

 

Une fois montré que la statistique S est à la fois complète et exhaustive l'estimateur de la moyenne ${\displaystyle {\frac {S}{n}}}$ étant égal à l'estimateur augmenté ${\displaystyle \mathbb {E} \left(\left.{\frac {S}{n}}\right|S\right)}$ on en déduit immédiatement grâce au théorème de Lehmann-Scheffé que cet estimateur est optimal au sens où il atteint la borne FDCR et que l'on ne peut en trouver de meilleur. L'estimateur de la moyenne est l'estimateur le plus précis que l'on puisse trouver pour le paramètre d'une loi exponentielle.

• Alain Monfort, Cours de statistique mathématique, Paris, Economica, 1982
• Desrosières A, Mairesse J & Volle M (1976), Les temps forts de l'histoire de la statistique française, Économie et statistique, 83(1), 19-28 doi:10.3406/estat.1976.2401

• Statistique
• Statistique mathématique
• Statistique (mathématiques élémentaires)
• Statistique descriptive
• Inférence statistique
• Base de données statistiques

• Exemple de représentation dynamique de statistiques (par compteurs, pour différents types de statistiques, dont démographiques, sanitaires, environnementales)

• Portail des probabilités et de la statistique
• Portail de l'analyse