Représentations de carquois et variétés de drapeaux des paires symétriques de type fini

Variétés de drapeaux (multiples) et théorie de Steinberg

Le projet de thèse se place dans la théorie des groupes algébriques, les objets centraux du projet étant les variétés de drapeaux, plus précisément les variétés de drapeaux multiples.

Étant donné un groupe réductif G (sur un corps algébriquement clos de caractéristique nulle), sa variété de drapeaux complets est le quotient G/B où B est un sous-groupe de Borel. Une variété de drapeaux partiels est de la forme G/P où P est un sous-groupe parabolique (i.e., contenant un sous-groupe de Borel). Les variétés G/P sont exactement les espaces homogènes de G qui sont des variétés projectives. Les variétés de drapeaux ont de multiples applications à l’étude des représentations du groupe G.

On s’intéressera aussi à des variétés de drapeaux multiples de la forme G/P1 × ∙ ∙ ∙ × G/Pk , naturellement munies d’une action (diagonale) de G.

Lorsque G = GL(n) ou SL(n), la variété de drapeaux complets a un modèle d’algèbre linéaire : elle s’identifie à l’ensemble des drapeaux complets (V0 ⊂ V1 ⊂ … ⊂ Vn = V) de l’espace V = Kn. De même, une variété de drapeaux partiels s’identifie à un ensemble de drapeaux partiels. Dans les autres cas classiques (G = SO(n) ou Sp(2n)), il y a un modèle similaire d’algèbre linéaire.

Un problème standard (mais très général) consiste à chercher à classifier les sous-groupes algébriques d’un groupe réductif G agissant sur une variété de drapeaux associée à G (éventuellement multiple) avec un nombre fini d’orbites. Lorsqu’on considère la variété des drapeaux complets G/B, où B est un sous-groupe de Borel, on retrouve la notion de sous-groupes sphériques.

Magyar–Weyman–Zelevinsky ont classifié, pour G = GL(n) ou Sp(2n), les sous-groupes paraboliques P1 ayant un nombre fini d’orbites dans une variété multiple de la forme G/P2 × ∙ ∙ ∙ × G/Pk – ce qui revient à dire que G a un nombre fini d’orbites dans G/P1 × G/P2 × ∙ ∙ ∙ × G/Pk . Pour G = O(n), le résultat analogue a été obtenu par Matsuki.

La situation d’un sous-groupe K ayant un nombre fini d’orbites dans une variété de drapeaux multiple X a des applications en théorie des représentations et plus précisément dans l’étude des orbites nilpotentes : dans ce cas, par une construction due à Steinberg, à chaque orbite, on peut en principe associer une variété nilpotente, et l’étude des objets nilpotents qui apparaissent par ce procédé est une direction de recherche actuelle. La construction initiale de Steinberg correspond au cas où K = G et X = G/B × G/B. Voir la référence [FN] où une construction générale est présentée.

Variétés de drapeaux doubles associées aux paires symétriques

La construction présentée dans la référence [FN] est valide pour une famille de variétés de drapeaux multiples introduite récemment par Nishiyama et Ochiai et étudiée par la suite dans [HNOO]. Ces variétés sont de la forme X = G/P × K/Q, produits de variétés de drapeaux partiels de G et K, où (G, K) est une paire symétrique. Cela signifie que K = Gθ est le sous-groupe des points fixes d’une involution θ : G → G.

Des exemples de paires symétriques sont (SLn(K),SOn(K)) (type A1) ou (SL2n(K),Sp2n(K)) (type A2) ou (GLp+q(K),GLp(K)×GLq(K)) (type A3), ou encore (Sp(2n),GL(n)) (type C1), etc.
Dans le cas d’une paire symétrique « triviale » (G, G), on obtient une variété de drapeaux double X = G/P × G/Q. Dans le cas de la paire (G×G,G) (où G se plonge diagonalement dans G×G), on obtient une variete de drapeaux triples X = (G×G)/(P1 ×P2)×G/P3 = G/P1 ×G/P2 ×G/P3. Ces “variétés doubles” X généralisent en particulier les variétés de drapeaux doubles et triples étudiées dans [MWZ1] et [MWZ2].

Problème principal visé et méthodes envisagées

Pour une paire symétrique donnée, le problème de classifier les couples (P, Q) donnant lieu à une variété double X = G/P × K/Q qui a un nombre fini d’orbites pour l’action diagonale K est un problème ouvert. Des réponses partielles existent :
– Les articles [MWZ1] et [MWZ2] répondent au problème dans le cas où (G, K) = (G, G) ou (G × G, G), avec G = GL(n) ou Sp(2n).
– Dans [HNOO], le problème est résolu dans le cas spécial où P ou Q est un sous-groupe de Borel.
– Le type A3 a été traité récemment par Homma [Ho].

La thèse a pour projet à classifier les variétés X = G/P × K/Q qui ont un nombre fini d’orbites pour K, lorsque (G,K) est une paire symétrique de type A1 et A2.
Bien sûr on ne s’interdira pas de considérer aussi le cas d’autres paires symétriques particulières, comme par exemple le type C1. Se restreindre dans un premier temps aux types A1 et A2 a pour intérêt de compléter tout de même la classification en type A (i.e., pour G = GL(n) ou SL(n)) et a pour avantage de proposer un cadre plus adapté à la méthode envisagée suivante.

La méthode envisagée est la théorie des représentations de carquois, qui s’est avérée efficace pour ce type de problème : c’est la méthode utilisée par Magyar–Weyman–Zelevinsky et Homma.

En s’appuyant sur le modèle d’algèbre linéaire des variétés de drapeaux, présenté plus haut, un élément de X = G/P × K/Q s’interprète comme une famille de sous-espaces, ce qui correspond en fait à une représentation d’un carquois bien choisi. On appelle carquois un graphe orienté, et une représentation est la donnée d’un foncteur vers la catégorie des espaces vectoriels de dimension finie. Les représentations d’un carquois fixé forment une catégorie abélienne, dans laquelle le théorème de Krull–Schmidt est valide. Pour s’intéresser aux drapeaux, on restreint quelque peu cette catégorie en n’autorisant que les morphismes injectifs entre espaces vectoriels (c’est le cadre de [MWZ1]) ou d’autres restrictions (cf. [MWZ2] et [Ho]).

Pour aborder la classification des variétés doubles X de type fini (= avec un nombre fini d’orbites), dans les types A1 et A2, la première tâche consistera à définir une sous-catégorie de représentations de carquois adaptée.

Alors, avec l’aide du théorème de Krull–Schmidt, de résultats généraux dus à Kac (faisant le lien entre vecteurs dimensions des représentations de carquois et racines dans des algèbres de Kac–Moody affines), et d’arguments géométriques adaptés, la classification visée pourra être menée à bien.

Objectifs complémentaires

Les résultats complémentaires suivants sont également visés dans la thèse : proposer des paramétrisations des orbites dans certains cas, et déterminer les propriétés topologiques des orbites.

De nouveau ces objectifs pourront être réalisés à l’aide de la théorie des représentations de carquois, la tâche préliminaire nécessaire étant de caractériser tous les objets indécomposables dans la catégorie considérée.

Par ailleurs, un but plus lointain sera de comprendre suffisamment les orbites pour expliciter leurs variétés nilpo- tentes associées, dans le cadre de la construction de Steinberg décrite ci-dessus.

Enfin, une question annexe pourra aussi être abordée : classifier les variétés doubles ayant une orbite dense (ce qui est a priori plus général que la propriété d’avoir un nombre fini d’orbites) et voir dans quelle mesure cette classification diffère effectivement de celle des variétés doubles ayant un nombre fini d’orbites.