Drapeau (mathématiques)

À toute base (e₁, …, e_n) de l'espace E de dimension n est associé un drapeau total, constitué des espaces successivement engendrés : ${\displaystyle E_{1}={\rm {Vect}}(e_{1}),\ E_{2}={\rm {Vect}}(e_{1},e_{2}),\ldots }$

Exemple : si E est l'espace ℝ_m[X] des polynômes de degré inférieur ou égal à m, sa base canonique est (1, X, X², …, X^m) et sa dimension est n = m + 1. L'espace E₀ = {0} et les espaces E_{i + 1} = ℝ_i[X] successifs pour i allant de 0 à m constituent un drapeau total de E.

Réciproquement, un drapeau total possède plusieurs bases adaptées. On les obtient en choisissant des vecteurs e_i tels que e_i appartient à E_i mais pas à E_{i – 1}.

Si u est un endomorphisme de E, on dit que le drapeau est stable par u si chaque E_i est stable par u : ${\displaystyle \forall i\in \{1,\ldots ,n\},\,u(E_{i})\subset E_{i}.}$

Par exemple, si l'on reprend pour E l'espace ℝ_m[X] et le drapeau formé des espaces ℝ_i[X] successifs, un endomorphisme laisse stable ce drapeau à condition de diminuer (au sens large) le degré des polynômes. C'est le cas des endomorphismes de dérivation (P donne P'), de translation (P donne P(X + 1)), de différence finie (P donne P(X + 1) - P), etc.

Soit E un espace vectoriel de dimension finie. Un endomorphisme u de E est trigonalisable si et seulement s'il existe un drapeau total de E stable par u.

Lorsque E est un espace euclidien, le procédé de Gram-Schmidt permet, à partir d'une base adaptée à un drapeau total de E, d'obtenir une base orthonormale adaptée à ce même drapeau.

Si l'on combine avec la propriété précédente, on constate que tout endomorphisme trigonalisable peut être trigonalisé dans une base orthonormale.