ПРЕДСТАВЛЕНИЕ ТОПОЛОГИЧЕСКОЙ ГРУППЫ

непрерывное отображение группы G в топологич. группу гомеоморфизмов нек-рого топологич. пространства. Чаще всего под П. т. г. Gпонимается линейное представление, более того - такое линейное представление л топологич. группы G в топологич. векторном пространстве (т. в. п.) Е, что вектор-функция , определяет при любом непрерывное отображение группы Gв пространство Е. В частности, всякое непрерывное представление группы Gявляется П. т. <г. G. Теория П. т. г. тесно связана с теорией представлений различных топологических групповых алгебр. Среди них важнейшей является банахова симметричная алгебра мер М(G).группы G (алгебра всех регулярных борелевских мер на G с конечной полной вариацией, в к-рой умножение определяется как свертка). Часто используется также топологическая алгебра С'(G) всех регулярных борелевских мер на G с конечной полной вариацией и с компактным носителем. Умножение в С'(G).определяется как свертка, а инволюция , определяется формулой

Топология алгебры С'(G) согласуется с двойственностью между этой алгеброй и алгеброй С(G).(всех непрерывных функций на G), рассматриваемой в компактно открытой топологии. Важную роль играют также различные подалгебры алгебр М(G).и С'(G). В частности, если Е - квазиполное бочечное или полное локально выпуклое пространство (л. в. п.), а p - непрерывное П. т. г. G в Е, то формула

определяет слабо непрерывный линейный оператор p(m) в E и соответствие есть представление алгебры С'(G) в пространстве Е, однозначно определяющее представление я топологич. группы. При этом П. т. г.- (топологически) неприводимое представление, операторно неприводимое представление, вполне неприводимое представление, эквивалентно другому П. т. г. (и т. д.) тогда и только тогда, когда соответствующее представление алгебры С' (G) обладает соответствующим свойством.

Пусть я есть П. т. г. G в л. в. п. Е;пусть E'- сопряженное к Епространство. Функции на G вида gj (p (g)x), , наз. матричными элементами представления p. Если Е- гильбертово пространство и , то функции вида , наз. сферическими функциями, связанными с представлением p.

Пусть Е, Е* суть л. в. п. в двойственности, p есть П. т. г. G в л. в. п. Е. Формула p*(g).p(g^-1)*определяет П. т. г. p* в Е*, наз. сопряженным, или контрградиентным, к p. Пусть p₁,p₂ суть П. т. г. G в т. в. п. E₁, E₂ соответственно, Е=Е ₁+Е ₂- прямая сумма и ,- непрерывный линейный оператор в Е, определенный формулой

Отображение есть П. т. г. G в т. в. п. Е, наз. прямой суммой П. т. г. p₁ и p₂. В нек-рых случаях (в частности, для унитарных представлений) может быть определено тензорное произведение П. т. г. н прямая сумма бесконечного семейства П. т. г. С помощью ограничения или расширения поля скаляров вводятся операции овеществления и комплексификации для П. т. г.

Представление топологич. группы наз. вполне приводимым, если любое замкнутое инвариантное подпространство имеет дополнительное замкнутое инвариантное подпространство. Представление я топологич. группы G в т. в. п. E наз. разложимым, если существуют такие замкнутые инвариантные подпространства E₁, Е ₂ в Е, что я эквивалентно прямой сумме подпредставлений p_l, p₂ представления я, отвечающих подпространствам E₁, E₂ соответственно; в противном случае p наз. неразложимым. Неразложимое приводимое представление p определяется не только подпредставлением и факторпредставлением, соответствующими данному инвариантному подпространству, но и нек-рым классом одномерных когомологий группы G с коэффициентами в G-модуле ограниченных линейных операторов из пространства фактор-представления в пространство представления.

Важнейшими общими задачами теории П. т. г. являются описание всех неразложимых представлений данной топологич. группы и изучение возможности описания (разложения) произвольных П. т. г. с помощью неразложимых. В общем случае обе задачи далеки (1983) от полного решения, но полученные в этих направлениях результаты делают теорию П. т. г. основой гармонического анализа абстрактного, обобщающего теорию рядов и интегралов Фурье, спектральную теорию унитарных операторов, теорию жордановых нормальных форм и систем обыкновенных дифференциальных уравнений с постоянными коэффициентами, а также основой нек-рых разделов эргодической теории, квантовой механики, статистической физики и теории поля.

Наиболее важным разделом общей теории П. т. г. является теория унитарных представлений, имеющих многочисленные приложения и обладающих рядом свойств, упрощающих их изучение. В частности, ортогональное дополнение к инвариантному подпространству унитарного представления инвариантно, поэтому всякое унитарное П. т. г. вполне приводимо; для унитарных представлений условия полной неприводимости, (топологической) неприводимости и операторной неприводимости равносильны (но, вообще говоря, слабее условия алгебраич. неприводимости).

Другой класс П. т. г., имеющий многочисленные приложения, образуют конечномерные представления. Изучение представлений этого класса во многом облегчается относительным упрощением аналитич. сложности задачи по сравнению с общим случаем; в частности, неприводимое конечномерное П. т. г. вполне неприводимо. Однако теория конечномерных П. т. г. построена (1983) достаточно полно лишь для нек-рых классов топологич. групп (в частности, для полупростых групп Ли и для групп и ). Для несколько более широкого класса групп, содержащего класс групп Ли, существует полное описание неприводимых конечномерных П. т. г.

Теория П. т. г. более разработана для локально компактных групп. Важнейшим свойством класса локально компактных групп является его совпадение с классом полных топологич. групп, на к-рых существует ненулевая правоинвариантная регулярная борелевская мера т(см. Хаара мера). Этот факт позволяет включить в число групповых алгебр локально компактной группы G банахову симметричную алгебру L₁(G)=L₁(G, т).(относительно свертки), к-рая играет решающую роль в теории ограниченных (т. е. имеющих ограниченный образ) П. т. г. G в банаховых пространствах. Формула

устанавливает взаимно однозначное соответствие между ограниченными представлениями л локально компактной Труппы Gи (непрерывными) представлениями алгебры L₁(G), обладающими тем свойством, что плотно в пространстве представлений ; при этом унитарные П. т. г. соответствуют симметричным представлениям алгебры L₁(G), Другое свойство локально компактных групп состоит в том, что их представления в бочечных л. в. п. суть непрерывные представления.

Наиболее развитая часть теории П. т. г.- теория унитарных представлений локально компактных групп. В связи с существованием меры Хаара на локально компактных группах оказывается возможным изучение регулярного представления группы G в пространстве L₂(G), приводящее, в частности, к аналогу Планшереля формулы для таких групп, а также к выделению основной, дополнительной и дискретной серий унитарных П. т. г. рассматриваемого класса (см. Дополнительная серия, Дискретная серия). Важнейшими общими задачами теории унитарных П. т. г. являются задачи построения неприводимых представлений и факторпредставлений, разложения представлений в прямой интеграл, изучения дуальных объектов и связанные с ними вопросы теории сферич. функций, теории характеров и гармонич. анализа, в том числе - изучения различных групповых алгебр.

Исключительно богатым приложениями подклассом класса локально компактных групп является класс групп Ли. Теория бесконечномерных представлений групп Ли, включающая теорию представлений классич. групп, является одним из наиболее быстро развивающихся разделов общей теории П. т. г. Мощным методом изучения П. т. г. Ли является орбит метод.

Другой важный подкласс класса локально компактных групп образуют компактные группы. Представления компактных групп - один из наиболее завершенных разделов общей теории П. т. г., являющийся инструментом изучения П. т. г., содержащих компактные подгруппы. Актуальным разделом теории представлений компактных групп является группа задач, связанных с вопросами разложения ограничения на подгруппу и тензорного произведения конкретных представлений компактных групп Ли. Разделом теории представлений компактных групп, имеющим многочисленные приложения в алгебре и анализе, является теория конечных групп представлений.

Не только упомянутая выше задача изучения неразложимых П. т. г., но и более простая задача описания зацеплений вполне неприводимых представлений, связанная с соответствующей теорией когомологий, решена (1983) лишь для нек-рых групп, несмотря на ее важность в построении гармонич. анализа на группах. Действительно, в терминах неразложимых П. т. г. (а именно, входящих в аналитич. родолжение соответствующей основной серии) для нек-рых групп Ли (соответственно групп Шевалле) получен аналог теоремы Пэли - Винера, дающий описание образа групповой алгебры финитных бесконечно дифференцируемых (соответственно финитных локально постоянных) функций на группе при преобразовании Фурье (т. е. при отображении , сопоставляющем функции на группе операторнозначную функцию на множестве представителей пространства классов эквивалентности представлении этой группы). Менее общая задача описания всех вполне неприводимых представлений данной группы решена (1983) лишь для локально компактных групп, факторгруппа к-рых по центру компактна (вполне неприводимые представления таких групп конечномерны, и набора этих представлений достаточно для получения аналога теоремы Пэли - Винера) и для нек-рых линейных групп Ли (в том числе для комплексных полупростых). Как в теории унитарных, так и в теории неунитарных П. т. г. накоплен богатый фактич. материал, относящийся к конкретным представлениям конкретных групп и к приложениям этих результатов к отдельным задачам гармонич. анализа на таких группах.

Ряд вопросов теории П. т. г. связан с изучением П. т. г. в пространствах с индефинитной метрикой. Для нек-рых полупростых групп Ли получено полное описание вполне неприводимых представлений в таких пространствах (к их числу относятся, в частности, неприводимые конечномерные представления таких групп) и найдено разложение тензорных произведений нек-рых неприводимых представлений этого типа на неприводимые унитарные представления. Теория операторно неприводимых представлений полупростых групп Ли в пространствах с индефинитной метрикой и определение структуры их инвариантных подпространств тесно связаны с аналитич. родолжением основной серии представлений этих групп.

Успехи теории П. т. г. связаны с развитием теории проективных представлений, с распространением ряда методов теории представлений групп Ли (в частности, метода орбит) на локально компактные группы общего вида, а также с развитием теории П. т. г., не являющихся локально компактными (групп гладких функций на многообразии со значениями в группе Ли, групп диффеоморфизмов гладких многообразий, бесконечномерных аналогов классич. групп и нек-рых других). Изучение представлений таких групп оказалось связанным с теорией вероятностей (в частности, теорией марковских процессов) и задачами статистич. физики. С другой стороны, установлены глубокие связи теории представлений групп матриц 2-го порядка над локально компактными полями (и нек-рых связанных с ними групп) с задачами теории чисел.

Лит.:[1] Барут А., Рончка Р., Теория представлений групп и ее приложения, пер. с англ., т. 1-2, М., 1980; [2] Виленкин Н. Я., Специальные функции и теория представлений групп, М., 1965; [3] ГельфанД И. М., Граев М. И., Пятецкий - Шапиро И. И., Теория представлений и автоморфные функции, М., 1966; [4] Жаке Э., Ленглендс Р., Автоморфные формы на GL₂, пер. с англ., М., 1973; [5] Желобенко Д. П., Компактные группы Ли и их представления, М., 1970; [6] его же, Гармонический анализ на полупростых комплексных группах Ли, М., 1974; [7] Желобенко Д. П., Штерн А. И., Представления групп Ли, М., 1983; [8] Кириллов А. А., Элементы теории представлений, 2 изд., М., 1978; [9] Климык А. У., Матричные элементы и коэффициенты Клебша - Гордана представлений групп, К., 1979; [10] Ленг С., SL₂ (R), пер. с англ., М., 1977; [11] Наймарк М. А., Нормированные кольца, 2 изд., М., 1968; 112] его же, Теория представлений групп, М., 1976; [13] Gааl S. A., Linear analysis and representation theory, В. - [а. <о.], 1973; [14] Lie groups and their representations, Bdpst, 1975; [15] Mackey G. W., Unitary group representations in physics, probahility and number theory, Reading, 1978; [16] Non-commutative harmonic analysis, B. - [a.o.], 1979. А. И. Штерн.