Math-Net.Ru
Общероссийский математический портал
Р. С. Исмагилов, О функциях, связанных с представле- нием группы, Матем. сб. , 2015, том 206, номер 12, 70–78 DOI: https://doi.org/10.4213/sm8576
Использование Общероссийского математического портала Math-Net.Ru под- разумевает, что вы прочитали и согласны с пользовательским соглашением http://www.mathnet.ru/rus/agreement
Параметры загрузки:
IP: 139.59.245.186
6 ноября 2022 г., 10:25:32
УДК 517.986.4
Р. С. Исмагилов
О функциях, связанных с представлением группы
Обычно, имея линейное представление группы, рассматривают связан- ные с ним числовые функции (возможно, обобщенные) на группе. Про- стейшие функции – это матричные элементы. Они задаются парой век- торов, выбор которых произволен и случаен. Однако нас интересуют функции, лишенные этого элемента произвола (и тем самым естествен- ным образом связанные с представлением); мы называем их модифици- рованными следами представления. Примерами таких функций являются обычный след представления (если он существует, возможно, как обобщен- ная функция), а также сферические функции, порожденные неподвиж- ным вектором некоторой подгруппы. Может случиться, однако, что для данного представления не удается определить ни след, ни сферические функции. Хотелось бы и в этих случаях ввести функции на группе, есте- ственным образом связанные с представлением. Мы решаем эту задачу для групп диффеоморфизмов и некоторых их представлений.
Библиография: 4 названия.
Ключевые слова: представления групп, модифицированный след, сферическая функция, тензорное произведение.
DOI: 10.4213/sm8576
1. Постановка задачи. Эта работа посвящена следующему простому на- блюдению. Пусть G– топологическая группа, g →T(g) – ее унитарное пред- ставление в гильбертовом пространстве H. Обычно с представлением связы- вают числовые функции (возможно, обобщенные), определенные на группе.
Простейший пример – это матричные элементы g → (T(g)ξ1, ξ2). Эти функ- ции определяются заданием пары векторовξ1, ξ2 из пространства представле- ния. Выбор такой пары произволен и не связан с природой рассматриваемого представления. В настоящей работе мы склонны считать последнее обстоя- тельство нежелательным. Хотелось бы выделить функции, лишенные этого недостатка; именно такие функции можно считать функциями, естественным (внутренним) образом связанными с рассматриваемым представлением. При- мерами таких функций являются следg→trT(g)(если, разумеется, он суще- ствует, возможно, как обобщенная функция), а также сферическая функция относительно некоторой подгруппы в предположении, что для этой подгруппы имеется единственный (с точностью до множителя) неподвижный вектор. Од- нако, как увидим ниже, имеются весьма простые случаи, когда не определен ни след (даже при некотором обобщении понятия следа, которое будет описа- но), ни сферическая функция. Примеры таких функций связаны с группой
Работа выполнена при поддержке Российского фонда фундаментальных исследований (грант № 13-01-00952).
⃝c Р. С. Исмагилов, 2015
О ФУНКЦИЯХ, СВЯЗАННЫХ С ПРЕДСТАВЛЕНИЕМ ГРУППЫ 71
диффеоморфизмов компактного многообразия (и некоторыми ее представле- ниями), хотя можно привести и другие примеры такого рода. Хотелось бы и в этих случаях ввести функции на группе, естественным образом связанные с представлением. Для краткости назовем их модифицированными следами представления.
Разумеется, приведенное вольное описание модифицированного следа нель- зя считать строгим определением. Точные определения будут даны в п. 4.
Добавим, что возможны разные варианты определения модифицированного следа; мы выберем то, которое хорошо приспособлено к упомянутой группе диффеоморфизмов. На этом пути будут получены модифицированные следы некоторых представлений этой группы.
План дальнейшего изложения таков. В п. 2 мы несколько обобщим обще- известное понятие следа представления группы Ли (возможно, бесконечномер- ной) и в качестве примера запишем этот след для простейшего представления группыD(X), гдеD(X)означает связную компоненту единицы в группе диф- феоморфизмов компактного многообразияX. По существу здесь нет новизны – в нашем изложении мы следуем книге [1; гл. VI].
В п. 3 мы рассмотрим тензорное произведения упомянутых простейших представлений группыD(X)и покажем, что для них не определен след (даже в упомянутом обобщенном смысле). Добавим, что в этом случае нет также какой-либо сферической функции.
В п. 4будет определено понятие модифицированного следа, о котором упо- миналось выше. В п. 5 вычисляется модифицированный след для указанных выше тензорных произведений (как уже сказано, обычный след не существует даже при упомянутом обобщении этого понятия).
Наконец, в п. 6рассматривается представление группыD(X, τ)в простран- стве Фока (в предположении, что пространство когомологий H1(X,R)– нену- левое). Здесь также можно найти модифицированный след. Однако мы не будем его рассматривать, ибо в этом случае естественным образом определена сферическая функция относительно подгруппы диффеоморфизмов, сосредото- ченных в максимальной односвязной области многообразия X. Мы воспроиз- водим вид этой функции из работы автора [2].
2. О следах представлений; пример: группа диффеоморфизмов D(X). Вернемся к представлению g → T(g), g ∈ G, считая, что G – беско- нечномерная группа Ли; не будем вдаваться в определение этого класса групп, ибо для наших целей достаточно иметь в виду группы, упомянутые выше. Об- щеупотребительное понятие следа можно обобщить следующим естественным (тривиальным) способом. Фиксируем некоторое семейство L счетно-аддитив- ных комплекснозначных мер Gс конечной вариацией. Пусть для любой меры µ∈Lоператор Aµ =
Z
G
T(g)µ(dg)оказался ядерным. Тогда возникает функ- ционал µ 7→ traceAµ, µ ∈ L; его можно назвать следом представления (по отношению к семейству мерL).
Рассмотрим следующий пример. Возьмем компактное многообразиеX клас- саC∞с формой объемаτ; соответствующую меру наXбудем обозначать через τ(dx). Связную компоненту единицы в группе диффеоморфизмов обозначим
черезD(X). Наиболее простое представление этой группы задается веществен- ным числомλи действует в пространствеL2(X, τ)по формуле
Tλf(x) =
τ(d(xg)) τ(dx)
1/2+iλ
f(xg), x∈X.
Опишем его след, следуя книге [1; гл. VI]. Обозначим черезD′множество диф- феоморфизмов g ∈ D(X) таких, что g имеет конечное число неподвижных точек, причем в каждой точке xчисло 1 не входит в спектр дифференциала dg(x). Возьмем пространствоRN,N > n= dimX, с гладкой комплекснознач- ной мерой β, имеющей компактный носитель, и гладкое отображение “общего положения” RN →D′, t7→gt; “общность положения” означает, что для любой точкиx∈X отображениеt= (t1, . . . , tN)7→xgtимеет рангn. Пусть σ– образ мерыβ при указанном отображении. Легко показать, что для этой меры опе- ратор Aσ – ядерный; таким образом, представление обладает следом (в опи- санном выше смысле). Это есть обычная функция на g 7→ tσ(g), g ∈ D(X), сосредоточенная на множестве D′ и заданная формулой
tσ(g) = X
xg=x
τ(d(xg)) τ(dx)
1/2+iλ
det(dg(x)−id)−1.
3. Тензорное произведение. Представления без следа. В этом пунк- те приведем обещанный выше пример представления, для которого не суще- ствует след (в описанном выше смысле). Рассмотрим представления Tλk, k= 1, . . . , m, и их тензорное произведение T = Tλ1 ⊗ · · · ⊗Tλm. Оно действует в пространствеL2(Xm)(построенном по мереτ(dω) =Q
jτ(dxj)) по формуле T(g)f(ω) =A(g, ω)f(ωg), ω= (x1, . . . , xm),
где использовано обозначение
A(g, ω) =Y
j
τ(d(xjg)) τ(dxj)
1/2+iλj
.
Возьмем комплекснозначную борелевскую меру σнаGс компактным носите- лем, обладающую конечной вариацией. Возникает оператор
Aσ= Z
G
T(g)σ(dg).
Нам понадобится одно ограничение, которое можно назвать условием “общно- сти положения” для меры σ и набора чисел {λk}. Чтобы записать это огра- ничение, введем число γ=P
j(1/2 +iλj)и наложим следующее ограничение:
функция
x7→R(x) = Z
G
τ(d(xg)) τ(dx)
γ
σ(dg), x∈X, (1)
не является тождественно нулевой. (Это условие нарушается, если мера σ сосредоточена на множестве диффеоморфизмов, сохраняющих меруτ, а инте- грал меры σ поG равен нулю. Автору не известны другие случаи, когда это условие нарушается.) Следующая теорема показывает, что в этом случае след (в описанном выше смысле) не существует.
О ФУНКЦИЯХ, СВЯЗАННЫХ С ПРЕДСТАВЛЕНИЕМ ГРУППЫ 73
Теорема 1. Для набора (σ;λ1, . . . , λm), удовлетворяющего условию (1), оператор Aσ не является компактным.
Переходя к доказательству, введем на X риманову метрику; черезρ(x1, x2) обозначим расстояние между точкамиx1 иx2. Определена функцияx7→ψ(x) такая, что объем шара B(x, r) = {y : ρ(x, y) < r} удовлетворяет условию volB(x, r) ≃ ψ(x)rn при r → +0. Для любой точки ω = (x1, . . . , xm) ∈ Xm введем обозначение δ(ω) = maxρ(x1, xj), 26j6m.
Лемма 1. Для любой непрерывной функцииω7→h(ω),ω∈Xm,справедли- во соотношение
Z
δ(ω)<r
h(ω)dω= (H+o(1))r(m−1)n,
H = Z
X
h(x, . . . , x)(ψ(x))m−1dx, r→+0.
Доказательство. Мы будем пользоваться обозначением τ(dx′) = Y
26j6m
τ(dxj).
Тогда рассматриваемый интеграл можно переписать в виде Z
X
Z
Xm−1
f(ω)τ(dx′)
τ(dx1).
Для оценки интеграла по dx′ (при фиксированном x1) переходим к локаль- ным координатам в окрестности точки x1. Этот интеграл есть произведение величины h(x1, . . . , x1) +o(1)на объем множества, заданного в Xm−1 услови- ем ρ(x1, xj) < r, 2 6 j 6 m. Но этот объем есть vm−1, где v – объем шара {x, ρ(x, x1)< r}. Отсюда получается утверждение леммы.
Теперь докажем теорему. ПустьS – носитель мерыσ.Так как множествоS компактно, то существуют числаM0 иM1 такие, что
M0< ρ(x1g, x2g)
ρ(x1, x2) < M1, x1̸=x2, g∈S.
Зафиксируем число c ∈ (0, M0/M1) и введем множества Fk и Ek, заданные неравенствами
ck< δ(ω)< ck−1, ck M0
< δ(ω)<ck−1 M1
.
Пусть fk – индикатор множества Fk. Оценим (снизу) норму функции hk = Aσfk. Для этого рассмотрим эту функцию на множестве Ek. Если ω ∈ Ek, то ck/M0 < δ(ω)< ck−1/M1, откудаck < δ(ωg)< ck−1, т.е. ωg ∈Fk. Отсюда fk(ωg) = 1, а потому приω∈Ek справедливо равенство
hk(ω) = Z
G
Y
j
τ(d(xjg)) τ(dxj)
1/2+iλj
σ(dg).
Далее,
τ(d(xjg))
τ(dxj) = τ(d(x1g)) τ(dx1) +o(1)
при ω= (x1, . . . , xn)∈Ek, k→ ∞, ибоρ(x1, xk)< ck, k= 2, . . . , m, и, следова- тельно, ρ(xj, x1) →0. Это позволяет оценить функцию, стоящую под знаком интеграла, через функцию R(x), указанную в формуле (1). В итоге получаем равенство
hk(ω) =R(x1) +o(1), ω= (x1, . . . , xm)∈Ek. Теперь лемма 1приводит к неравенству
∥hk∥2>Ackn(m−1) Z
X
|R(x1)|2(ψ(x1))m−1τ(dx1)>A1ckn(m−1), A1= const, A1>0.
С другой стороны,
∥fk∥2= Z
Fk
τ(dω)6Bckn(m−1), B= const, B >0.
Таким образом,
∥hk∥> N3∥fk∥, N3>0.
Заметим, что функцииfkсосредоточены на непересекающихся множествахFk, а потому взаимно ортогональны. Из двух последних утверждений вытекает некомпактность оператораAσ. Теорема1доказана.
4. Модифицированный след. Вернемся к произвольной топологической группе G, ее представлениюg →T(g), g ∈G, и изложим одну из возможных конструкций модифицированного следа; выбор этой конструкции оправдывает- ся лишь тем, что она успешно применяется к группе диффеоморфизмовD(X).
Зафиксируем набор подгрупп Gk, k = 1, . . . , m, и некоторый “некоммута- тивный” многочлен p(ξ1, . . . , ξm) (т.е. элемент универсальной ассоциативной C-алгебры с образующими ξ1, . . . , ξm). По этим данным мы построим функ- цию на группе, что удастся сделать при некотором дополнительном ограни- чении, которое скоро опишем. С целью построения функции для каждой из подгрупп Gk рассмотрим оператор Pk – ортогональный проектор на подпро- странство векторов, инвариантных относительно операторовT(g),g∈Gk.Под- становка ξk 7→Pk приводит к оператору R =p(P1, . . . , Pm). Повторим теперь определение следа представления, заменив T(g) на RT(g)R. Другими слова- ми, допустим, что найдено семейство L мер с конечной вариацией на G, для которых оператор
T◦(α) = Z
G
RT(g)Rα(dg), α∈L,
является ядерным (это и есть упомянутое выше дополнительное ограничение на выбранный набор {Gk, k = 1, . . . , m,} и многочленp(ξ1, . . . , ξm)). Получаем функционал
µ7→tr Z
G
RT(g)Rα(dg), α∈L.
О ФУНКЦИЯХ, СВЯЗАННЫХ С ПРЕДСТАВЛЕНИЕМ ГРУППЫ 75
Этот функционал и был нашей целью. Назовем его модифицированным следом представления. Мы видим, что модифицированный след определяется фик- сацией семейства подгрупп {Gk, k = 1, . . . , m,} нашей группы и многочлена p(ξ1, . . . , ξm); векторы пространства представления не участвуют в конструк- ции.
В том случае, когда проекторы Pk перестановочны, в качестве p(ξ1, . . . , ξm) можно взять обычный многочлен от коммутирующих переменных.
Желая упростить изложение (и, в частности, избежать языка обобщенных функций на бесконечномерной группе), примем следующее ограничение: дана такая непрерывная функция g7→r(g),g∈G′, что
tr Z
G
RT(g)Rα(dg) = Z
G′
r(g)α(dg), α∈L.
В неформальных обозначениях условимся записывать модифицированный след в виде
trRT(g)R=r(g).
Подчеркнем, что эта формула означает равенство интегралов правой и левой частей по любой мере, взятой из L.
5. Пример: модифицированный след для группы D(X). Вернемся к группеD(X)и ее представлениюT =Tλ1⊗ · · · ⊗Tλm, рассмотренному в п.3.
Это представление действует в пространстве L2(Xm), построенном по мере τ(dω) =Q
jτ(dxj). В дальнейших вычислениях заменимXmна подмножество Ωm = {(x1, . . . , xm)}, выделенное условием xi ̸= xj при i ̸= j. n-форма τ, заданная на X, порождает mn-форму на Ωm; обозначим ее также через τ.
Цель этого пункта – написать для этого представления модифицированный след, введенный в п. 4; будем считать, чтоm >1.
Возьмем непересекающиеся замкнутые областиYk⊂X,k= 1, . . . , m,с глад- кими границами и подгруппыD(Yk)– связные компоненты групп диффеомор- физмов, сосредоточенных вYk.ПустьPk– ортогональный проектор на подпро- странство векторов, инвариантных относительноD(Yk), иR=Q
16k6n(I−Pk).
(Заметим, что проекторыPk перестановочны, а потому написанное произведе- ние определено.)
По аналогии с п. 3 обозначим через D′ множество диффеоморфизмов g ∈ D(X) со следующими свойствами: действие преобразования g на Ωm имеет конечное число неподвижных точек, причем число 1 не входит в спектр диф- ференциала в каждой такой точке ω. При этом условии действие элемента g на Ωm имеет лишь конечное множество неподвижных точек. Возьмем про- странство RN, N > mn, гладкое отображение “общего положения” RN →D′, t 7→ gt; в этом месте “общность положения” означает, что для любой точки ω ∈ Ωm отображение t = (t1, . . . , tN) 7→ ωgt имеет максимальный ранг mn.
Возьмем, далее, функцию h ∈ C0∞(RN) и зададим на RN меру равенством β(dt) = h(t)dt. Пусть α – образ меры β при указанном отображении. По- лучили семейство мер L (здесь мы повторили общую конструкцию из п. 2).
Положим
T◦(α) = Z
D0(X)
RT(g)Rα(dg), α∈L.
Теорема 2. Если α ∈ L, то оператор T◦(α) – ядерный. Справедливо ра- венство
trRT(g)R=X
ω
Y
xk
τ(d(xkg)) τ(dxk)
1/2+iλk
det(I−dg(ω))−1. (2)
(Смысл этого равенства мы пояснили выше, в конце п. 4.) Произведение бе- рется по всемxk∈ω,а сумма распространяется на все конфигурацииω∈Ωm, которые инвариантны относительно g и содержат ровно по одной точке из каждой из областей Yk⊂X,k= 1, . . . , m.
В этой теореме существенно только первое утверждение (ядерность операто- ра); что касается равенства (2), метод вывода подобных “формул следа” хорошо известен (см. [2; гл. VI]).
Доказательство теоремы2.Предварительно приведем одну формулу из теории интеграла. Пусть даны многообразияA,B,dimA=p,dimB=q,p > q, и гладкое отображение ψ:A → B, имеющее ранг q. Пусть τp и νq – формы объема наA иB. Тогда наA можно задать такую(p−q)-формуσp−q, что
ψ∗(νq)∧σp−q =τp.
В этих обозначениях для любых функцийf ∈C0∞(B)иh∈C0∞(A)справедливо равенство
Z
A
f(ψ(a))h(a)τp= Z
B
f(b)l(b)νq, l(b) = Z
ψ−1(b)
h(a)σp−q. (3)
При этом, если отображениеψ зависит гладко еще отz∈RN, то упомянутую формуσp−qтакже можно выбрать гладко зависящей отz. (Для доказательства равенства (3) надо сначала рассмотреть окрестность, в которой локально τ выражается как u(a)da1∧ · · · ∧dap, а отображение ψ в виде (a1, . . . , ap) → (a1, . . . , aq). Затем использовать разложение единицы на A.) Равенство (3) распространяется и на вектор-функции.
Вернемся к обозначениям, введенным перед теоремой2, и рассмотрим опе- ратор
Tα= Z
RN
h(t)T(gt)dt.
Итак,
Tαf(ω) = Z
RN
h(t)A(gt, ω)f(ωgt)dt.
Преобразуем последний интеграл при помощи формулы (3), взяв в качестве ψ отображениеψω:RN →Xm, t7→ ωgt (для каждого фиксированного ω). В итоге получаем равенство
Tαf(ω) = Z
Ωm
B(ω, ω′)f(ω′)τ(dω′).
Существенно то, что ядро B(ω, ω′)– бесконечно гладкое.
О ФУНКЦИЯХ, СВЯЗАННЫХ С ПРЕДСТАВЛЕНИЕМ ГРУППЫ 77
Обратимся к операторуRTαR. Ясно, что еслиf ∈L2(Ωm), то функцияPkf сосредоточена на множестве конфигураций ω ∈ Ωn, не пересекающихся сYk, а функция (I−Pk)f – на множестве конфигураций Ek = {ω : ω∩Yk ̸= ∅}.
Отсюда следует, что функция Rf сосредоточена на множестве конфигураций E =T
kEk, имеющих общую точку с каждой областью Yk. (Разумеется, упо- мянутые множества определены с точностью до множеств нулевой меры.) Но так как любая точка ω состоит ровно из m точек, то E состоит из конфигу- раций, содержащих ровно одну точку из каждой области Yk. Таким образом, множество Eотождествляется с компактомY1× · · · ×Ym. Ясно, что оператор RTαR– также интегральный с ядромr(ω)r(ω′)B(ω, ω′), где функцияr(ω)есть индикатор множества E. Итак, имеем гладкое ядро, сосредоточенное на ком- пакте (заметим, что все пространство Ωmне компактно). Отсюда следует, что RTαR – ядерный оператор. (Нужные нам признаки ядерности интегральных операторов, действующих в пространствах функций на компактах, содержатся в [3; гл. III, § 10], где рассмотрен случай отрезка и даны дальнейшие литера- турные ссылки.) Этим доказано первое утверждение теоремы 2.
Мы не останавливаемся на доказательстве второго утверждения теоремы, ибо вычисления, необходимые для вывода формулы (2) (как и формулы следа из п. 2), хорошо известны [1; гл. VI].
Завершая этот пункт, заметим, что изложенное в нем переносится (с необ- ходимыми изменениями) на группуD(X, τ)– так мы обозначаем связную ком- поненту единицы в группе диффеоморфизмов, сохраняющих форму объемаτ.
В следующем пункте мы рассмотрим представление группыD(X, τ), имеющую иное происхождение.
6. Группа D(X, τ); представления в пространстве Фока. До сих пор мы говорили только о следах (в частности, модифицированных); между тем, в п. 1 упоминались также сферические функции. Ради полноты изложения мы кратко воспроизведем (не в полной общности) результат из работы автора [2], связанный с этим предметом.
Положим
L02(X, τ) =
f :f ∈L2(X, v), Z
X
f(x)τ(dx) = 0
.
Будем считать, что пространство когомологийH1(X,R)ненулевое. Таким об- разом, на X существует замкнутая неточная форма γ1. Определим гладкие функцииψg формулой
dψg=gγ1−γ1, Z
X
ψg(x)τ(dx) = 0.
Выполнено уравнение коциклаψhg=ψh+gψh. Возникает унитарное представ- ление
g7→V(g), g∈D0(X, vm),
действующее в пространстве Фока EXP(L02(X, τ))по формуле V(g) EXPf = exp
−1
2∥ψg∥2+ (f, ψg−1)
EXP(gf+ψg).
О пространстве Фока см. [4; приложение F].
Здесь также можно было бы рассмотреть модифицированные следы. Но вместо этого мы займемся возникающей здесь естественным образом сфериче- ской функцией.
Фиксируем односвязную область Y ⊂X, Y ≃Rn,n= dimX, такую что ее дополнение X\Y покрывается многообразиями размерности меньшеn. Фор- ма γ1 точна в Y; таким образом,γ1=du, гдеu– гладкая функция вY и
Z
X
u(x)τ(dx) = 0.
Рассмотрим подгруппу D(Y, τ) – связную компоненту единицы в группе диф- феоморфизмов, сосредоточенных в Y. Легко показать, что подпространство векторов, инвариантных относительноD(Y, τ), одномерно и задается вектором EXPu. Соответствующий матричный элемент (сферическая функция) имеет вид
g7→exp
−1
2∥ψg+u−gu∥2
.
Список литературы
[1] В. Гийемин, С. Стернберг, Геометрические асимптотики, Мир, М., 1981; пер.
с англ.: V. Guillemin, Sh. Sternberg, Geometric asymptotics, Amer. Math. Soc., Providence, RI, 1977.
[2] Р. С. Исмагилов, “Сферические функции на группе диффеоморфизмов, сохра- няющих объем”, Функц. анализ и его прил., 25:2 (1991), 80–82; англ. пер.:
R. S. Ismagilov, “Spherical functions on the group of diffeomorphisms preserving the volume”,Funct.Anal.Appl.,25:2 (1991), 150–152.
[3] И. Ц. Гохберг, М. Г. Крейн, Введение в теорию линейных несамосопряжен- ных операторов в гильбертовом пространстве, Наука, М., 1965; англ. пер.:
I. C. Gohberg, M. G. Kreˇın, Introduction to the theory of linear nonselfadjoint operators, Transl. Math. Monogr.,18, Amer. Math. Soc., Providence, RI, 1969.
[4] А. Гишарде, Когомологии топологических групп и алгебр Ли, Мир, М., 1984;
пер. с фр.: A. Guichardet, Cohomologie des groupes topologiques et des alg`ebres de Lie, Textes Math.,2, CEDIC, Paris, 1980.
Раис Сальманович Исмагилов (Rais S. Ismagilov)
Московский государственный технический университет имени Н.Э. Баумана
E-mail:ismagil@bmstu.ru
Поступила в редакцию 24.07.2015 и 30.08.2015
