КОКСТЕРА ГРУППА

- группа с отмеченной системой образующих допускающая определяющую систему соотношений

где n_ii=1 (так что при любом i) и n_ij =n_ji при - целое число или (в последнем случае соотношения между r_i и r_j нет). При этих условиях n_ij совпадает с порядком элемента r_ir_j. Если n_ij= 2, то r_i и r_j коммутируют. Матрица (n_ij),наз. матрицей Кокстера данной К. г. Эта матрица (и, тем самым, группа) может быть задана посредством графа Кокстера - графа с вершинами а _i в к-ром вершины a_i и a_j соединены (n_ij-2)-кратным ребром, если (в частности, вообще не соединены, если n_ij= 2), и соединены жирным ребром, если В другой системе обозначений вершины a_i и a_j графа Кокстера соединяются простым ребром с отметкой n_ij.

Примеры. 1. Всякая группа, порождаемая двумя элементами порядка 2, есть К. г. с графом

2. Симметрическая группа S_n является К. г. относительно образующих r_i=(i, i+1), i=1, ..., n-1; ее граф Кокстера имеет вид

3. Группа PGL₂(Z) = GL₂(Z)/{1} является К. г. относительно образующих

ее граф имеет вид

Группа PGL₂(Z)содержит подгруппу PSL₂(Z)= SL₂(Z)/{1} индекса 2, изоморфную модулярной группе Клейна.

Понятие К. г. возникло в теории дискретных групп, порождаемых отражениями относительно гиперплоскостей (см. Отражений группа, в дальнейшем - о. г.). Всякая о. г. является К. г., если в качестве образующих взять отражения относительно гиперплоскостей, ограничивающих ее фундаментальный многогранник. К числу о. г. относятся Вейля группы (обычные и аффинные) полупростых групп Ли.

В 1934 X. С. М. Кокстер [1] перечислил все о. г. в n-мерном евклидовом пространстве Е ⁿ и доказал, что все они являются, как говорят сейчас, К. г. В следующей работе [2] он доказал, что всякая конечная К. г. изоморфна некоторой о. г. в Е ⁿ, элементы которой имеют общую неподвижную точку, и тем самым получил классификацию конечных К. г. (см. табл. 1).

Табл. 1. - Неразложимые конечные К. г.

Число образующих равно нижнему индексу в обозначении группы.

Среди бесконечных К. г. выделяются параболические и гиперболические К. г. По определению, К. г. является параболической (соответственно гиперболической), если она изоморфна о. г. в Е ^п (соответственно в пространстве Лобачевского Lⁿ), элементы к-рой не имеют общей инвариантной плоскости размерности <ге (в гиперболическом случае плоскостью следует считать и бесконечно удаленную точку).

Табл. 2.-Неразложимые

параболические К. г.

Число образующих на единицу больше индекса в обозначении группы.

Параболические К. г. перечислены X. С. М. Кокстером (см. табл. 2); они возникают в теории полупростых групп Ли как аффинные группы Вейля.

К. г. с k образующими является двумерной гиперболической К. г. тогда и только тогда, когда, при подходящей нумерации образующих,

и n_ij= 00 при |i-j|>1. Что касается n-мерных гиперболических К. г. при n>2, то их полное перечисление не представляется возможным, хотя были достигнуты определенные успехи в изучении наиболее важных классов таких групп (см. Отражений группа).

Конечные, параболические и гиперболические К. г. и их прямые произведения составляют лишь небольшую часть К. г. Произвольная К. г. с конечным числом образующих допускает конечномерное вещественное линейное представление, указанное явно X. С. М. Кокстером [2], при к-ром образующие переходят в линейные отражения. Доказано [4], что это представление является точным, из чего вытекает, в частности, решение проблемы тождества слов в К. г. [5].

Стандартные подгруппы К. г. Пусть G - К. г. с системой образующих Для любого подмножества подгруппа G_J, порожденная множеством является К. г., причем при Подгруппы такого вида наз. стандартными. Всякая максимальная конечная подгруппа К. г. сопряжена стандартной подгруппе.

К. г. наз. неразложимой, если она не является прямым произведением двух нетривиальных стандартных подгрупп; это эквивалентно связности ее графа Кокстера. Все конечные (соответственно параболические) К. г. суть прямые произведения неразложимых К. г. того же типа; все гиперболические К. г. неразложимы. Неразложимая К. г. является конечной (соответственно параболической, гиперболической) тогда и только тогда, когда симметрическая матрица

положительно определенна (соответственнонеотрицательно определенна и вырождена, имеет отрицательный индекс инерции 1).

В теории конечных К. г. важную роль играют так наз. показатели (см. табл. 1) - уменьшенные на единицу степени образующих инвариантов соответствующей о. г. Через показатели выражаются порядок группы, число отражений (элементов, сопряженных образующим) и пр.- см. Отражений группа.

Произведение всех образующих конечной К. г. с точностью до сопряженности не зависит от порядка множителей и наз. элементом Киллпнга - Кокстера.

Лит.:[1] Сохеtеr Н. S. M., "Ann. Math.", 1934, v. 35, p. 588-621; [2] eго же, "J. London Math. Soc", 1935, v. 10, p. 21-25; [3] его же, "Duke Math. J.", 1951, v. 18, p. 765-82; [4] Бурбаки Н., Группы и алгебры Ли, пер. с франц. М., 1972, гл. 4-6; [5] Тits J., в кн.: Symposia Mathematica, v. 1, L.- N. Y., 1969, p. 175 - 85.

Э. Б. Бинберг.