ОРБИТА

точки хотносительно группы G, действующей на множестве X(слева),- множество

Множество

является подгруппой в G и наз. стабилизатором, или стационарной подгруппой точки хотносительно G. Отображение индуцирует биекцию между G/G_x и орбитой G(x). О. любых двух точек из Xлибо не пересекаются, либо совпадают; иначе говоря, О. определяют разбиение множества X. Фактормножество по отношению эквивалентности, определенному этим разбиением, наз. пространством орбит, или фактормножеством X по G, и обозначается X/G. Сопоставление каждой точке ее О. определяет канонич. отображение . Стабилизаторы точек из одной О. сопряжены в G, точнее G_g(X)=gG_xg^-1. Если в Xимеется только одна О., то X - однородное пространство группы G; говорят также, что G действует на X транзит и вн о. Если G - топологич. группа, X - топологич. пространство и действие непрерывно, то X/G обычно снабжается топологией, в к-рой множество открыто в X/G тогда и только тогда, когда множество открыто в X.

Примеры. 1) Пусть G - группа поворотов плоскости Xвокруг фиксированной точки а. Тогда О.- это всевозможные окружности с центром в а (в том числе и сама точка a). 2) Пусть G - группа всех невырожденных линейных преобразований конечномерного действительного векторного пространства V, X - множество всех симметрич. билинейных форм на V, а действие G на Xопределено формулой (gf)(u, v)=f(g^-1(u), g^-1(v)).для любых и, . Тогда О. группы G на X -множество форм, имеющих фиксированный ранг и сигнатуру.

Пусть G - вещественная группа Ли, гладко действующая на дифференцируемом многообразии X(см. Ли группа преобразований). Для любой точки орбита G(x).является погруженным подмногообразием в X, диффеоморфным G/G_x (диффеоморфизм индуцирован отображением . Это подмногообразие не обязательно замкнуто в X(не обязательно вложено). Классич. примером служит "обмотка тора", то есть О. действия аддитивной группы на торе

заданного формулой

где a - иррациональное действительное число; замыкание такой О. совпадает с T². Если G компактна, то все О. являются вложенными подмногообразиями.

Если G - алгебраич. группа, X - алгебраич. многообразие над алгебраически замкнутым полем k,a действие регулярно (см. Алгебраическая группа преобразований), то любая орбита G(x).является гладким алгебраич. многообразием, открытым в своем замыкании (в топологии Зариского), причем в всегда содержится замкнутая О. группы G (см. [5]). В этом случае морфизм индуцирует изоморфизм алгебраич. многообразий G/G_x и G(x).тогда и только тогда, когда он сепарабелен (это условие всегда выполнено, если k - поле нулевой характеристики). О. максимальной размерности образуют открытое в Xмножество.

Описание структуры О. для данного действия обычно сводится к указанию в каждой О. нек-рого единственного представителя х, к нахождению стабилизатора G_x и к описанию какого-либо - по возможности обозримого - класса функций, постоянных на О. (инвариантов) и разделяющих разные О.; эти функции позволяют описать "расположение" О. в X (О. являются пересечениями их множеств уровня). Эта программа обычно наз. задачей орбитального разложения. К такой задаче часто сводятся многие задачи классификации. Так, в примере 2) это - задача классификации билинейных симметрич. форм с точностью до эквивалентности; инварианты в этом случае "дискретны" - это ранг и сигнатура, а стабилизатор G_f, где f невырождена, является соответствующей псевдоортогональной группой. Классич. теория жордановой формы матриц (также, как и теории других нормальных форм матриц) тоже укладывается в эту схему: жорданова форма - это канонич. представитель (определенный, правда, с точностью до порядка жордановых клеток) в О. полной линейной группы GL_n(C) на пространстве всех комплексных (nХn)-матриц при действии, заданном формулой ; среди инвариантов важное место занимают коэффициенты характеристич. многочлена матрицы Y(к-рые не разделяют, однако, любые две О.). Идея рассмотрения эквивалентных объектов как О. нек-рой группы активно используется в различных задачах классификации, напр. в алгебраич. модулей теории (теория Мамфорда, см. [10]), в теории перечисления графов (см. [2]) и др. Если Gи X конечны, то

где |Y| - число элементов множества Y, а

Если G - компактная группа Ли, гладко действующая на связном гладком многообразии X, то структура О. на Xлокально конечна, т. е. у любой точки существует такая окрестность U, что число различных стабилизаторов , с точностью до сопряженности в Gконечно. В частности, если Xкомпактно, то конечно число различных (с точностью до сопряженности в G).стабилизаторов . При этом для любой подгруппы H в G каждое из множеств

Х (Н) = {сопряжена Нв G}

является пересечением открытого и замкнутого инвариантных подмножеств в X. Исследование X(H) приводит в этом случае к классификации действий (см. [1]). Аналоги этих результатов получены в геометрич. инвариантов теории (см. [3]). А именно, пусть G - редуктивная алгебраич. группа, регулярно действующая на аффинном алгебраич. многообразии X(основное поле kалгебраически замкнуто и имеет характеристику 0). В замыкании любой О. содержится единственная замкнутая О. Существует разбиение Xв объединение конечного числа локально замкнутых инвариантных непересекающихся подмножеств X=UaXa, обладающее свойствами: а) если x, и G(x).замкнута, то стабилизатор G_y сопряжен в G подгруппе в G_x, а если замкнута и G(y), то G_y сопряжен с G_x;б) если а G(х).и G(y).замкнуты, то G_x и G_y не сопряжены в G. Если X- гладкое алгебраич. многообразие (напр., в важном случае, когда рассматривается рациональное линейное представление Gв векторном пространстве V=X), то существует такое непустое открытое подмножество W. в X, что G_x и G_y сопряжены в Gдля любых . Последний результат является утверждением о свойстве точек общего положения в X, т. е. точек, заполняющих непустое открытое подмножество; имеется и ряд других утверждений такого типа. Напр., для рационального линейного представления полупростой группы Gв векторном пространстве VО. точек общего положения замкнуты тогда и только тогда, когда их стабилизаторы редуктивны (см. [7]); в случае, когда Gнеприводима, найден явный вид стабилизаторов точек общего положения (см. [8], [9]). Вопрос о замкнутости О. является специфическим и важным в этой теории. Так, множество тех точек , О. к-рых содержит в своем замыкании нуль пространства V, совпадает с многообразием нулей непостоянных инвариантных многочленов на V;во многих случаях, и в частности в применениях теории инвариантов к теории модулей, это многообразие играет существенную роль (см. [10]). Любые две различные замкнутые О. разделяются инвариантными многочленами. Орбита G(х).замкнута тогда и только тогда, когда замкнута О. точки хотносительно нормализатора G(x).в G(см. [4]). Появление незамкнутых О. связано со свойствами G;если Gунипотентна (а Xаффинно), то любая О. замкнута (см. [6]). Одним из направлении теории инвариантов является изучение орбитальных разложений различных конкретных действий (в особенности линейных представлений). Одно из пих - присоединенное представление редуктивной группы G - подробно исследовалось (см., напр., [11]). Его изучение связано с теорией представлений группы G; см. Opбum метод.

Лит.:[1] Ра1ais В., The classification of G-spaces, Providence, 1900 (Mem. Amer. Math. Soc., № 36); [2] Xapapи Ф., Теория графов, пер. с англ., М., 1973; [3] Luna D., "Bull. Soc. Math. France. Mem. 33", 1973, p. 81 - 105; [4] его же, "Invent, math.", 1975, v. 29, № 3, p. 231-38; [5] Боpель А., Линейные алгебраические группы, пер. с англ., М., 1972; [6] Steinberg R., Conjugacy classes in algebraic groups, В.- Hdlb.- N. Y., 1974; [7] Попов В. Л., "Изв. АН СССР. Сер. матем.", 1970, т. 34, с. 523-31; [8] Попов А. М., "Функц. анализ и его прилож.", 1978, т. 12, № 2, с. 91-92; [9] Олашвили А. Г., там же, 1972, т. 6, № 2, с. 65-78; [10] Мumfоrd D., Geometric invariant theory, В.-Hdlb.-N. Y., 1965; [11] Коstant В., "Amer. J. Math.", 1963, v. 85, №3, p. 327-404; [12] Хамфри Дж., Линейные алгебраические группы, пер. с англ., М., 1980. В. Л. Попов.