Matrice suffisante

En mathématiques, les termes suffisante en colonne, suffisante en ligne et suffisante qualifient des matrices carrées réelles apportant des propriétés particulières aux problèmes de complémentarité linéaire. Brièvement, une matrice $M\in \mathbb {R} ^{n\times n}$ est dite

suffisante en colonne si $x\cdot (Mx)\leqslant 0$ implique que $x\cdot (Mx)=0$ ,
suffisante en ligne si $x\cdot (M^{\top }x)\leqslant 0$ implique que $x\cdot (M^{\top }x)=0$ ,
suffisante si elle est à la fois suffisante en colonne et suffisante en ligne.

Dans ces définitions, $u\cdot v$ désigne le produit de Hadamard des vecteurs $u$ et $v$ , qui est un vecteur dont la composante $i$ est $u_{i}v_{i}$ , et $M^{\top }$ désigne la matrice transposée de $M$ . Il faut comprendre « $x\cdot (Mx)\leqslant 0$ implique que $x\cdot (Mx)=0$ » comme suit : « tout point $x$ vérifiant $x\cdot (Mx)\leqslant 0$ vérifie aussi $x\cdot (Mx)=0$ ».

Les matrices suffisantes en colonne sont aussi celles qui assurent la convexité de l'ensemble des solutions d'un problème de complémentarité linéaire. Les matrices suffisantes en ligne sont aussi celles qui assurent que l'ensemble des solutions d'un tel problème est identique à l'ensemble des points stationnaires de son problème quadratique associé.

Ces notions ont été introduites par Cottle, Pang et Venkateswaran (1989[1]). La terminologie anglaise originale est column sufficient, row sufficient et sufficient. Les qualificatifs en colonne et en ligne ne sont guère intuitifs. En réalité, l'appellation suffisante en colonne a été choisie en partie pour plaisanter et parodier le terme adéquate en colonne[2], notion introduite par Ingleton (1966[3]) et qui signifie que

$\forall \,x\in \mathbb {R} ^{n}:\qquad x\cdot (Mx)\leqslant 0\quad \Longrightarrow \quad Mx=0.$

Comme cette notion revient à dire que pour tout $I\subset \{1,\ldots ,n\}$ non vide, $\det \,M_{I,I}=0$ si, et seulement si, les colonnes $M_{\bullet I}$ de $M$ sont linéairement dépendantes, le qualificatif en colonne se justifie plus aisément dans ce dernier cas.

Problème de complémentarité

Ce sont les problèmes de complémentarité qui ont motivé l'introduction des notions de matrice suffisante. Nous rappelons donc ici quelques notions liées à ces problèmes.

Définitions

Pour un vecteur $v\in \mathbb {R} ^{n}$ , la notation $v\geqslant 0$ signifie que toutes les composantes $v_{i}$ du vecteur sont positives.

Étant donnés une matrice réelle carrée $M\in \mathbb {R} ^{n\times n}$ et un vecteur $q\in \mathbb {R} ^{n}$ , un problème de complémentarité linéaire consiste à trouver un vecteur $x\in \mathbb {R} ^{n}$ tel que $x\geqslant 0$ , $Mx+q\geqslant 0$ et $x^{\!\top }(Mx+q)=0$ , ce que l'on écrit de manière abrégée comme suit :

${\mbox{CL}}(M,q):\qquad 0\leqslant x\perp (Mx+q)\geqslant 0.$

Un point $x$ vérifiant $x\geqslant 0$ et $Mx+q\geqslant 0$ est dit admissible pour le problème ${\mbox{CL}}(M,q)$ et l'ensemble

${\mbox{Adm}}(M,q):=\{x\in \mathbb {R} ^{n}:x\geqslant 0,~Mx+q\geqslant 0\}$

est appelé l'ensemble admissible de ce problème. On dit que le problème ${\mbox{CL}}(M,q)$ est réalisable si ${\mbox{Adm}}(M,q)\neq \varnothing$ . On note

${\mbox{Sol}}(M,q)$

l'ensemble des solutions du problème de complémentarité linéaire ${\mbox{CL}}(M,q)$ .

Problème quadratique associé

Considérons le problème d'optimisation quadratique en $x\in \mathbb {R} ^{n}$ suivant :

${\mbox{(PQ)}}\qquad \left\{{\begin{array}{l}\min \;x^{\!\top }(Mx+q)\\x\geqslant 0\\Mx+q\geqslant 0.\end{array}}\right.$

Comme le coût de ce problème est borné inférieurement sur l'ensemble admissible (il y est positif), ce problème a toujours une solution (Frank et Wolfe, 1956[4]). On en déduit alors que

x\in \operatorname {Sol} (M,q)\quad \Longleftrightarrow \quad x

est solution de (PQ) avec un coût optimal nul.

Toutefois, le problème quadratique (PQ) peut, en général, avoir des minima locaux ou des points stationnaires qui ne sont pas solution de $\operatorname {CL} (M,q)$ . On rappelle qu'un point $x\in \mathbb {R} ^{n}$ est stationnaire pour le problème (PQ) s'il existe des multiplicateurs $s\in \mathbb {R} ^{n}$ et $z\in \mathbb {R} ^{n}$ tels que les conditions de Karush, Kuhn et Tucker suivantes soient vérifiées :

${\mbox{(KKT)}}\qquad \left\{{\begin{array}{cl}(a)&(M+M^{\top })x+q-s-M^{\top }z=0\\(b)&0\leqslant x\perp s\geqslant 0\\(c)&0\leqslant (Mx+q)\perp z\geqslant 0.\end{array}}\right.$

On note

${\mbox{Sta}}(M,q)$

l'ensemble des points stationnaires du problème quadratique (PQ).

Matrice suffisante en colonne

Définition

Matrice suffisante en colonne — On dit qu'une matrice carrée réelle $M\in \mathbb {R} ^{n\times n}$ est suffisante en colonne si pour tout $x\in \mathbb {R} ^{n}$ tel que $x\cdot (Mx)\leqslant 0$ , on a $x\cdot (Mx)=0$ ; ce que l'on peut résumer ainsi :

$x\cdot (Mx)\leqslant 0\qquad \Longrightarrow \qquad x\cdot (Mx)=0.$

On note $\mathbf {SC}$ l'ensemble des matrices suffisantes en colonne.

Rôle dans les problèmes de complémentarité

En toute généralité, l'ensemble $\operatorname {Sol} (M,q)$ des solutions d'un problème de complémentarité linéaire est une réunion de polyèdres convexes[5]. Les matrices suffisantes en colonne sont celles pour lesquelles l'ensemble de ces solutions est un unique polyèdre convexe.

$\mathbf {SC}$ -matrice et convexité de $\operatorname {Sol} (M,q)$ — Pour une matrice $M\in \mathbb {R} ^{n\times n}$ , les propriétés suivantes sont équivalentes :

$M\in \mathbf {SC}$ ,
$\forall \,q\in \mathbb {R} ^{n},~\operatorname {Sol} (M,q)$ est convexe.

Lien avec d'autres classes de matrices

On note $\mathbf {P_{0}}$ l'ensemble des $\mathbf {P_{0}}$ -matrices. Si $M\notin \mathbf {P_{0}}$ , il existe un $x\neq 0$ tel que, pour tout indice $i$ , $x_{i}\neq 0$ $\Rightarrow$ $x_{i}(Mx)_{i}<0$ . Cette propriété n'est pas compatible avec la $\mathbf {SC}$ -matricité. On a donc l'inclusion suivante.

\mathbf {SC} \subset \mathbf {P_{0}}

.

Matrice suffisante en ligne

Définition

Matrice suffisante en ligne — On dit qu'une matrice carrée réelle $M\in \mathbb {R} ^{n\times n}$ est suffisante en ligne si sa transposée est suffisante en colonne ; ce que l'on peut résumer ainsi :

$x\cdot (M^{\top }x)\leqslant 0\qquad \Longrightarrow \qquad x\cdot (M^{\top }x)=0.$

On note $\mathbf {SL}$ l'ensemble des matrices suffisantes en ligne.

Rôle dans les problèmes de complémentarité

Si $x\in \mathbb {R} ^{n}$ est solution du problème de complémentarité linéaire $\operatorname {CL} (M,q)$ , il est également solution du problème quadratique (PQ). Comme les contraintes de ce dernier sont qualifiées, les conditions de Karush, Kuhn et Ticker (KKT) sont vérifiées pour des multiplicateurs $s\in \mathbb {R} ^{n}$ et $z\in \mathbb {R} ^{n}$ . On a donc

$\operatorname {Sol} (M,q)\subset \operatorname {Sta} (M,q).$

Le résultat suivant montre que l'on a égalité dans cette relation, quel que soit $q\in \mathbb {R} ^{n}$ , si, et seulement si, la matrice $M$ est suffisante en ligne.

$\mathbf {SL}$ -matrice et l'égalité $\operatorname {Sol} (M,q)={\mbox{Sta}}(M,q)$ — Pour une matrice $M\in \mathbb {R} ^{n\times n}$ , les propriétés suivantes sont équivalentes :

$M\in \mathbf {SL}$ ,
$\forall \,q\in \mathbb {R} ^{n},~\operatorname {Sol} (M,q)={\mbox{Sta}}(M,q)$ .

Liens avec d'autres classes de matrices

Si on note $\mathbf {P}$ l'ensemble des P-matrices, $\mathbf {P_{0}}$ l'ensemble des P0-matrices $\mathbf {Q_{0}}$ l'ensemble des Q0-matrices et $\mathbf {SDP}$ l'ensemble des matrices semi-définies positives (non nécessairement symétriques), on a[1]

(\mathbf {SDP} \cup \mathbf {P} )\subset \mathbf {SL} \subset (\mathbf {P} _{0}\cap \mathbf {Q} _{0})

.

Les inclusions $\mathbf {P} \subset \mathbf {SL} \subset \mathbf {P_{0}}$ résultent des définitions des SL-matrices, des P-matrices et des P0-matrices. On observe ensuite que, si $q$ est tel que $\operatorname {Adm} (M,q)\neq \varnothing$ , alors le problème quadratique (PQ) a une solution[4], qui est un point stationnaire de ce problème ; maintenant, si $M$ est suffisante en ligne, ce point stationnaire est solution de $\operatorname {CL} (M,q)$ ; donc $\mathbf {SL} \subset \mathbf {Q} _{0}$ . Enfin, l'inclusion $\mathbf {SDP} \subset \mathbf {SL}$ est due à Dorn (1961[6]).

Les matrices suffisantes en ligne sont donc exactement celles qui permettent de démontrer l'existence d'une solution de $\operatorname {CL} (M,q)$ en passant par les conditions d'optimalité (KKT) du problème quadratique (PQ)[1]. Le fait que $\mathbf {SL}$ ne soit pas tout $\mathbf {Q_{0}}$ laisse penser qu'il doit exister d'autres approches analytiques permettant de montrer l'existence de solution de $\operatorname {CL} (M,q)$ ; les matrices copositives-plus introduites par Lemke (1965[7]) sont un exemple familier de classe de matrices qui ne sont pas suffisantes en ligne[8]^,[1].

Matrice suffisante

Définition

Matrice suffisante — On dit qu'une matrice carrée réelle $M\in \mathbb {R} ^{n\times n}$ est suffisante si elle est à la fois suffisante en colonne et suffisante en ligne.

Rôle dans les problèmes de complémentarité

Matrice suffisante et complémentarité — Pour une matrice $M\in \mathbb {R} ^{n\times n}$ , les propriétés suivantes sont équivalentes :

$M$ est suffisante,
$\forall \,q\in \mathbb {R} ^{n},~\operatorname {Sol} (M,q)={\mbox{Sta}}(M,q)$ et cet ensemble est convexe.

Liens avec d'autres classes de matrices

Si on note $\mathbf {SDP}$ l'ensemble des matrices semi-définies positives (non nécessairement symétriques), $\mathbf {P}$ l'ensemble des P-matrices et $\mathbf {P_{*}}$ l'ensemble des $P_{*}$ -matrices, on a les inclusion et égalité suivantes[9].

(\mathbf {SDP} \cup \mathbf {P} )\subset \mathbf {SU} =\mathbf {P_{*}}

.

Annexes

Notes

(en) R.W. Cottle, J.-S. Pang, V. Venkateswaran (1989). Sufficient matrices and the linear complementarity problem. Linear Algebra and its Applications, 114, 231–249. doi
(en) R.W. Cottle (2005). Linear complementarity since 1978. Dans Variational Analysis and Applications, Nonconvex Optimization and Its Applications 79, pages 239–257. Springer, New York.
(en) A.W. Ingleton (1966). A problem in linear inequalities. Proc. London Math. Soc., 2, 519–536.
(en) M. Frank, P. Wolfe (1956). An algorithm for quadratic programming. Naval Research Logistics Quarterly, 3, 95–110.
(en) M.J.M. Janssen (1983). On the structure of the solution set of a linear complementarity problem. Cahiers Centre Études Rech. Opér., 25, 41–48.
Théorème 1 de Dorn (1961).
(en) C.E. Lemke (1965). Bimatrix equilibrium points and mathematical programming. Management Science, 11, 681–689. doi
(en) R.W. Cottle, G.B. Dantzig (1968). Complementarity pivot theory of mathematical programming. Linear Algebra and its Applications, 1, 103–125. doi
Les inclusions $(\mathbf {SDP} \cup \mathbf {P} )\subset \mathbf {P_{*}} \subset \mathbf {SC}$ ont été démontrées par Kojima, Megiddo, Noma and Yoshise (1991). L'inclusion $\mathbf {P_{*}} \subset \mathbf {SL}$ a été démontrée par Guu et Cottle (1995). L'inclusion $\mathbf {SU} \subset \mathbf {P_{*}}$ a été démontrée par Väliaho (1996).

Article connexe

Complémentarité linéaire

Références

(en) W. S. Dorn, « Self-dual quadratic programs », Journal of the Society for Industrial and Applied Mathematics, vol. 9,‎ 1961, p. 51–54 (DOI 10.1137/0109006).
(en) S.-M. Guu et R. W. Cottle, « On a subclass of $\mathbf {P_{0}}$ », Linear Algebra and its Applications, vol. 223/224,‎ 1995, p. 325–335.
(en) M. Kojima, N. Megiddo, T. Noma et A. Yoshise, A Unified Approach to Interior Point Algorithms for Linear Complementarity Problems, Berlin, Springer-Verlag, coll. « Lecture Notes in Computer Science » (n^o 538), 1991.
(en) H. Väliaho, « $\mathbf {P_{*}}$ -matrices are just sufficient », Linear Algebra and its Applications, vol. 239,‎ 1996, p. 103–108.

Portail des mathématiques

Cet article est issu de Wikipedia. Le texte est sous licence Creative Commons - Attribution - Partage dans les Mêmes. Des conditions supplémentaires peuvent s'appliquer aux fichiers multimédias.

[cottle-pang-venkateswaran-1989-1] (en) R.W. Cottle, J.-S. Pang, V. Venkateswaran (1989). Sufficient matrices and the linear complementarity problem. Linear Algebra and its Applications, 114, 231–249. doi

[2] (en) R.W. Cottle (2005). Linear complementarity since 1978. Dans Variational Analysis and Applications, Nonconvex Optimization and Its Applications 79, pages 239–257. Springer, New York.

[3] (en) A.W. Ingleton (1966). A problem in linear inequalities. Proc. London Math. Soc., 2, 519–536.

[frank-wolfe-1956-4] (en) M. Frank, P. Wolfe (1956). An algorithm for quadratic programming. Naval Research Logistics Quarterly, 3, 95–110.

[5] (en) M.J.M. Janssen (1983). On the structure of the solution set of a linear complementarity problem. Cahiers Centre Études Rech. Opér., 25, 41–48.

[6] Théorème 1 de Dorn (1961).

[7] (en) C.E. Lemke (1965). Bimatrix equilibrium points and mathematical programming. Management Science, 11, 681–689. doi

[8] (en) R.W. Cottle, G.B. Dantzig (1968). Complementarity pivot theory of mathematical programming. Linear Algebra and its Applications, 1, 103–125. doi

[9] Les inclusions $(\mathbf {SDP} \cup \mathbf {P} )\subset \mathbf {P_{*}} \subset \mathbf {SC}$ ont été démontrées par Kojima, Megiddo, Noma and Yoshise (1991). L'inclusion $\mathbf {P_{*}} \subset \mathbf {SL}$ a été démontrée par Guu et Cottle (1995). L'inclusion $\mathbf {SU} \subset \mathbf {P_{*}}$ a été démontrée par Väliaho (1996).