С. ЛЕНГ

Serge Lang

Yale University

New Haven, Cenneotieut

Перевод с английского

В. И. Васюнина и М. А. Семенова-Тян-Шанского

Под редакцией

А. А. Кириллова

ADDISON-WESLEY

PUBLISHING COMPANY

Reading, Massachusetts

Издательство «Мир» Москва 1977Издательство «Мир» Москва 1977Menlo Park, California• London • Amsterdam

Издательство «Мир» Москва 1977

Издательство «Мир» Москва 1977

Don Mills, Ontario-Sydney

1975

Оглавление

Предисловие редактора перевода 5

Предисловие автора 7

Обозначения 13

I, Общие результаты 15

Представления алгебрыСс (G) 15

Критерий полной приводимости24'

Квадратично интегрируемые ядра н операторы Гильберта —

Шмндта28

Меры Планшереля30

Компактные группы33

Сужение представлений группы SL2 (R) на ее максимальную компактную подгруппу33

Общая теория представлений компактных групп40

Индуцированные представления51

Интегрирование на однородных пространствах . . . 51

Индуцированные представления57

Ассоциированные сферические функции60

Ядро, задающее индуцированное представление62

Сферические функции64

Двусторонне инвариантные функции нагруппе64

Неприводимость•67

Определение сферических функций68

Связь с унитарными представлениями74

Положительно определенные функции . . . . 75

Сферическое преобразование79

Интегральные формулы79

Преобразование Хариш-Чандры/81

Преобразование Меллина86

Сферическое преобразование90

Явные формулы и асимптотические разложения94

. Производное представление алгебры Ли100

Производное представление. . . .Ю0

Сужение производного представления на алгебру Ли подгруппы К ..... . I*2

Унитаризация представлений • 120

Производные Ли на группе G126

Неприводимые компоненты индуцированных представлений , , .129

Классификация всех неприводимых унитарных представлений 134

Разделение представлений при помощи их характеров137

Следы 140

Ядерные операторы140

Интегральные формулы148

Следы индуцированныхпредставлений160

Следы представлений дискретнойсерии163

Связь между преобразованиями Хариш-Чандры на подгруп

пах А и К•. . .166

Приложение. Общие сведения о следах операторов в гильбертовом пространстве 169

Формула Планшереля176

!

1. Аналитическая лемма177

Скачки преобразования Хариш-Чандры179

Некоторые леммы182

Формула Планшерели185

Представления дискретной серии 190

Вложение представлений дискретной серии в L2(G)...... 190

Представления на верхней полуплоскости ..........,192

Реализация представлений в единичном круге196

Поднятие веса т198

Голоморфность200

Дифференциальные операторы .. 201

Универсальная обертывающая алгебра201

Аналитические векторы208

Собственные функции кольца 2> (I)209

Представление Вейля214

Преобразование Фурье и свертки214

Образующие и соотношения для группы SL2217

Представление Вейля 220

Представление в пространстве °£2(Г\6) .. 227

Вершины и вершинные подгруппы . . . 227

Параболические формы 235

Признак компактности операторов240

Полная приводимость пространства ^(ГХО)242

Непрерывный спектр в пространстве £2(Г\в)247

Одно соотношение ортогональности247

Ряды Эйзештейна251

Аналитическое продолжение и функциональное уравнение . . , . 253

Дзета-преобразование и преобразование Меллина25б

§ 5, Некоторые теоретико-групповме леммы259

Выражение для функции Т°Г^260

Аналитическое продолжение дзета-преобразования функции Г°Гф 262

Теорема разложения267

Спектральное разложение оператора Лапласа на Г\^ . ... 271

Геометрия и дифференциальные операторы на§274

Решение уравнения /ф = s (1 — s) ф279

Резольвента оператора Лапласа на § при а>1 ....... 282

Симметричность оператора Лапласа на Г\§286

Оператор Лапласа на Г\ф290

Функции Грина и уравнение Уиттекера292

Разложение резольвенты на Г\§ при ст>3/2299

Уравнение — ф" (у) = —Ф (У) на промежутке [а. оо) 313

Собственные функции оператора Лапласа в пространстве Щ1'\й) = Н318

Резольвентное уравнение в полосе 0<ст<2324

Ядро резольвенты в полосе 0<а<2332

Оператор Эйзенштейна и функции Эйзенштейна341

Непрерывный спектр оператора Лапласа349

Случай нескольких вершин352

Приложение 1. Ограниченные эрмитовы операторы и лемма

Шура356

Непрерывные функции от операторов356

Проекторнозначные функции от операторов364

Приложение 2. Неограниченные операторы369

Самосопряженные операторы369

Спектральная мера377

Формула обращения для резольвенты379

Приложение 3. Мероморфные семейства операторов382

Компактные операторы382

Ограниченные операторы386

Приложение 4. Эллиптические уравнения в частных производных 388

Пространства Соболева388

Априорные оценки394

Априорные оценки для эллиптических операторов398

Теоремы вложения для пространств Н$ и теорема регулярности для эллиптических уравнений на торе 402

Теорема регулярности в евклидовом пространстве405

Приложение 5. Слабая и сильная аналитичность409

Комплексный случай .. 409

Вещественный случай 413

Список литературы 417

Часто используемые обозначения423

Указатель*426

Уважаемый читатель!

Ваши замечания о содержании книги, ее оформлении, качестве перевода и другие просим присылать по адресу:129820, Москва, И-110, ГСП. 1-й Рижский пер., д. 2. издательство «Мир».

УКАЗАТЕЛЬ

Алгебра Ли 100

Аналитическое отображение 109

Аналитичность 409

Асимптотическое разложение 97

Вектор аналитический 110

бесконечно дифференцируемый 104

— весовой 116

инвариантный 39, 61

— А-коиечный 40

младшего веса 116

порождающий 74

старшего веса 116

Верхняя полуплоскость 55

Вершина 230

Вершинная подгруппа 227

часть резольвенты 299, 303

Вложение 24

Группа Вейля 81

Дзета-преобразование 251, 256

Изоморфизм 24

Й-изоморфизм ,118

Инвариантная мера 51

Интегральные формулы 79, 148

Компактные группы 40

Кратность 25

Лемма Шура 363

Линейное подмножество 22

плотное 22

Матрица Вейля 81

Матричные элементы представления 43, 61

Мероморфиое семейство операторов 384

Морфизм 24

Область Зигеля 243

Образующие и соотношения 218

Однородные пространства 51

Оператор Гильберта—Шмидта 140, 170

замкнутый 369

— Казимира 204

— компактный 25, 240,

— Лапласа 278

■ ограниченный 356

самосопряженный 370

в существенном 372

— симметричный 370

— сопряженный 369

— сплетающий 24

частично изометрический 169

— эллиптический 398

ядериый 141, 171

Ортогональное разложение 25

Основная априорная оценка 399

Параболическая форма 236

Подгруппа однопараметрическая 101

унимодулярная 16

унипотентная 227

Поднятие веса т 198

Подпространство 22

весовое 116

инвариантное 22

Полиномиальный рост 235

Полярное разложение 169

Последовательность Дирака 20

Представление 15

— Вейля 220

вполне приводимое 25

допустимое 40, 117

индуцированное 58

неприводимое 24

ограниченное 15

присоединенное 114, 117, 150

производное 106

регулярное 41

строго допустимое 40, 142

унитарное 15

Представления группы SLi(R) дискретной серии 119, 133, 136

дополнительной серии 135, 136

ложнодискретные 133, 136

основной серии 61, 136

Преобразование Меллина 63, 86, 256

— сферическое 90

— Хариш-Чандры на А 63, 81,

161, 166, 180

К 167, 179

Проекторы 366

Производная Ли 101

Пространство Гординга 104

— Пэли — Винера 87

— //(s) 60

— Sm, п 33

Разложение Брюа 219, 259

— Ивасавы 53

— Картана 152

Разрешающая форма 280

Распределения 388, 392, 407

Расширение операторов 370

Регулярный элемент группы 146

Резольвента оператора Лапласа 282

Резольвентное уравнение 372

Симметричность оператора Лапласа 288

Слабая аналитичность 407

— топология 15

След 30, 141

Следы представлений дискретной серии 165, 166

— — индуцированных 62, 161

Собственные функции оператора Казимира 209

—Лапласа 318

Спектральная мера 377

— теорема для компактных операторов 25

— — — неограниченных операторов 378

ограниченных операторов 361

Спектральное семейство 366

Теорема регулярности 404, 406, 408

Тип оператора 301

— функции 252

Тэта-преобразование 248

Уиттекера уравнение 295

Универсальная обертывающая алгебра 202

Унитарнзация 120

Формула Планшереля 32, 187

Фундаментальная область 231

Функции Грина 293

Функция быстро убывающая 257

— двусторонне инвариантная 64

— положительно определенная- 75

— сферическая 61, 68, 212

Характеры 33, 60

Централизатор 203

Эйзенштейна оператор 342

— преобразование 349

— ряд 252

функциональное уравнение 254, 314

Эквивалентность 24

инфинитезимальная 118

УДК 517

Книга с таким кратким, но выразительным названием написана известным американским математиком, автором около двадцати учебников н монографий по алгебре, теории чисел, анализу, дифференциальной геометрии и другим областям современной математики. Некоторые нз них известны советским читателям по русским переводам.

Новая книга С. Ленга посвящена гармоническому анализу на группе SL2(R) вещественных матриц второго порядка с определителем, равным 1. Эта группа имеет много важных реализаций и встречается в различных разделах математики и физики. Наряду с классическими результатами автор приводит и совсем новые.

Написанная очень живо и четко, доступная для читателей с минимальной математической подготовкой, книга будет интересна как специалистам, так и начинающим математикам и физикам.

Редакция литературы по математическим наукам

Л 20203-004 _041(01)-77Л 20203-004 _041(01)-77© 1975 by Addison-Wesley Publishing Company, Ino, © Перевод на русский язык, «Мир», 1977

Л 20203-004 _041(01)-77

Л 20203-004 _041(01)-77

Предисловие редактора перевода

Новая книга Сержа Ленга, перевод которой предлагается читателям, посвящена теории представлений группы SZ.2(R). Стандартное наименование этой группы (которое расшифровывается как «специальная линейная группа порядка 2 над полем R»), возможно, не дает ясного представления об этой группе и о той роли, которую она играет в различных областях математики и ее приложений. Поэтому я приведу некоторые пояснения.

Во-первых, это некомпактная простая группа Ли минимальной размерности, т. е. простейший представитель большого семейства, включающего линейные, ортогональные, унитарные и симплектические группы над полями вещественных и комплексных чисел и телом кватернионов. Теория представлений этих групп составляет одну из самых трудных, красивых и богатых приложениями областей современного функционального анализа. Началась эта теория с исследования группы SZ.2(R), предпринятого Баргманном 30 лет назад. И до сих пор эта группа является «пробным камнем» для всех новых методов и понятий в теории представлений.

Во-вторых, группа SZ.2(R) имеет несколько геометрических реализаций. А именно: она является группой движений плоскости Лобачевского, группой симметрии теории относительности в трехмерном пространстве-времени (так называемая «укороченная группа Лоренца»), группой автоморфизмов любой односвязной области на комплексной плоскости, в частности единичного круга и верхней полуплоскости, группой конформных (дробно-линейных) преобразований в одномерном вещественном пространстве. Каждая из перечисленных реализаций сама по себе является достаточным поводом для детального изучения группы SZ.2(R) и ее представлений.

В третьих, группа SZ.2(R) и тесно связанные с ней группы SL2(Z) и SZ.2(A) (состоящие из унимодулярных матриц второго порядка с коэффициентами из кольца Z целых чисел или из кольца А аделей соответственно) попали в последнее время в центр внимания специалистов по алгебраической теории чисел. Оказалось, что давно уже известные глубокие связи этой теории с теорией автоморфных функций и эллиптических кривых допускают наиболее полное и естественное изложение на языке теории представлений. В настоящем предисловии нет возможно-

сти подробно рассказать об этой новой теории, получившей название «некоммутативного закона взаимности» и обобщающей классическую теорию полей классов. Интересующиеся этим' вопросом читатели могут обратиться к книге Э. Жаке и Р. Ленг-' лендса «Автоморфные формы на GL2» («Мир», М., 1975) и к шестому выпуску серии «Обобщенные функции» И. М. Гельфанда и др. («Наука», М., 1966).

Содержание книги С. Ленга можно разделить на три части. Первая часть (главы I—XI) является введением в теорию бесконечномерных представлений на примере группы SZ.2(R). Во второй части (главы XII—XIV) строится гармонический анализ на пространстве Г^'С, где G = SL2(R), а Г — дискретная подгруппа в G. Для теории чисел оказался очень важным частный случай этой задачи, когда Г — арифметическая подгруппа в G (например, r = S£2(Z)). Интересно, что эта же задача тесно связана с совсем другой областью функционального анализа — теорией рассеяния в математических моделях квантовой механики. На эту связь обратил внимание И. М. Гельфанд, а полное решение задачи было получено Л. Д. Фаддеевым. По существу, вся вторая часть книги С. Ленга является подробным изложением работы Л. Д. Фаддеева.

Третью часть составляют пять приложений, в которых излагаются сведения из различных областей математики, не входящие пока в стандартные программы вузов, но необходимые для излагаемой теории. С присущей автору четкостью, краткостью и полнотой доказательств здесь строится спектральная теория ограниченных и неограниченных самосопряженных операторов, доказываются основные теоремы теории эллиптических уравнений, изучаются мероморфные семейства операторов и аналитические вектор-функции.

Я полагаю, что книга в целом будет полезна очень широкому кругу математиков всех уровней и специальностей.

А. Кириллов

Предисловие автора

Начиная с работы Баргманна о бесконечномерных представлениях группы SL2(R), теории представлений полупростых групп Ли было посвящено очень большое число исследований. Назовем здесь тех, кто внес наиболее значительный вклад в развитие теории. В конце 40-х годов И. М. Гельфанд, М. А. Най- марк и Хариш-Чандра изучили неприводимые представления группы Лоренца. Затем И. М. Гельфанд и М. А. Наймарк рассмотрели классические комплексные группы, а Хариш- Чандра, опираясь на исследование производного представления алгебры Ли, изучил общий вещественный случай. (Этому случаю посвящено также несколько работ И. М. Гельфанда и М. И. Граева.) Э. Картан, И. М. Гельфанд и М. А. Наймарк, Р. Годеман,' Хариш-Чандра построили теорию сферических функций (Годеман сделал несколько докладов на семинаре Бурбаки, в которых содержатся доказательства ряда спектральных результатов, отсутствующие в других источниках). А. Сельберг рассмотрел факторпространство группы по ее дискретной подгруппе и получил формулу следа; И. М. Гельфанд, С. В. Фомин, И. И. Пятецкий-Шапиро и Хариш-Чандра установили связь теории представлений полупростых групп Ли с теорией автоморфных форм. Жаке и Ленглендс связали теорию представлений с теорией A-рядов и теорией Гекке. История развития теории представлений настолько сложна и насыщена, что я чувствую себя недостаточно компетентным для того, чтобы ее хорошо изложить; за дальнейшей информацией я отсылаю читателей к библиографиям в книгах Г. Уорнера, И. М. Гельфанда, М. И. Граева и И. И. Пятецкого-Щапиро и С. Хелгасона. Ряд дополнительных исторических замечаний будет сделан в соответствующих местах книги.

Неспециалисту, особенно тому, кто интересуется в основном теорией чисел, разобраться в теории представлений не так-то легко. Это объясняется многими причинами. Во-первых, общие теоремы о многомерных группах существенно опираются на теорию Ли. Во-вторых, необходима хорошая подготовка в. целом ряде стандартных и не очень стандартных разделов анализа. В третьих, специалисты так долго писали друг для друга, что литература стала напоминать лабиринт.

Я заинтересовался теорией представлений из-за ее очевидных связей с теорией чисел, в особенности из-за гипотезы Ленгленд- са, связывающей теорию представлений с теорией эллиптических кривых (Ленглендс (2J). Эта гипотеза относится к теории аделей и глобальному гармоническому анализу. Довольно быстро я обнаружил, что прежде, чем заниматься аделями, лучше всего как следует разобраться с вещественным случаем. Я думаю, что большинство людей, занимающихся теорией представлений, начинали с изучения группы SL2(R), и я знаю, что именно так поступали Ленглендс и Хариш-Чаидра.

Поэтому, когда я сам выучил теорию представлений, мне показалось, что написать книгу о представлениях группы SL2(R) —хорошая идея. Содержание этой книги таково.

Сначала мы исследуем, как ведут себя представления группы SL2(R) при сужении на ее максимальную компактную подгруппу К, и показываем, что кратность, с которой представление группы К входит в разложение сужения неприводимого представления SZ.2(R) на К, не превосходит 1.

Мы описываем разложение Ивасавы G=ANK, из которого вытекает большая часть теорем о структуре и свойствах группы G. В частности, мы получаем представления группы G, индуцированные характерами подгруппы AN.

Мы подробно исследуем случай, когда неприводимые представления группы G содержат тривиальное представление подгруппы К. Это — теория сферических функций. При этом мы используем только меру Хаара, что делает наш подход более доступным, чем в других изложениях, где применяются также теория Ли, структурная теория и дифференциальные уравнения.

Мы описываем представления непрерывной серии, часть которых унитарна.

Мы переходим к инфинитезимальной теории, обсуждаем производное представление алгебры Ли и доказываем, что в пространстве неприводимого представления можно ввести не более одной эрмитовой структуры, превращающей это представление в унитарное. Мы перечисляем также все случаи, когда такая унитаризация возможна, и получаем тем самым классификацию Баргманна. Хотя этот результат и не требуется для вывода формулы Планшереля, все же приятно узнать, что любое неприводимое унитарное представление инфинитезимально эквивалентно подпредставлению представления основной серии, индуцированного квазихарактером треугольной подгруппы. Цен- ральную роль при доказательстве этого факта играет производное представление алгебры Ли на подпространстве Д-конечных векторов, использование которого, по существу, сводит задачу к алгебраической.

Различные представления связаны формулой обращения Планшереля. Следуя Хариш-Чандре, мы получаем эту формулу при помощи интегрирования по классам сопряженных элементов.

Мы приводим принадлежащий Хариш-Чандре метод уни- таризации представлений дискретной серии, т. е. представлений, имеющих вектор старшего или младшего веса в пространстве /(-конечных векторов.

Мы обсуждаем структуру алгебры дифференциальных операторов и приводим для группы SL2(R) частный случай теорем Хариш-Чандры, описывающих централизатор подгруппы К и центр универсальной обертывающей алгебры. На этом этапе у нас уже имеется достаточно информации о дифференциальных уравнениях, чтобы получить тот единственный результат о сферических функциях, который мы не могли доказать раньше, а именно, что примеры, приведенные в гл. IV, исчерпывают все сферические функции.

Перечисленные темы составляют, в некотором смысле, первую часть книги. Во второй части рассматривается гармонический анализ на факторпространстве группы по ее дискретной подгруппе. Классическим примером такой подгруппы является SL^Zy Наша основная цель — получение теоремы разложения для пространства £2(Г\С) и различных формул обращения. Их доказательству и посвящены остальные главы этой книги.

Первоначально я предполагал включить формулу Сельберга для следа над полем вещественных чисел, но в случае дискретных подгрупп с некомпактным факторпространством это потребовало бы заметного увеличения объема, а книга и без того уже стала довольно большой. Поэтому я решил отказаться от этой мысли в надежде когда-нибудь позже еще вернуться к этому предмету.

В первой части книги мы в основном используем только меру Хаара и разложение Ивасавы и почти не привлекаем инфинитезимальные соображения. В тех случаях, когда они все-таки затрагиваются, мы в состоянии вывести формулу Планшереля и изучить свойства различных представлений, не заботясь о вопросах полноты, т. е. о том, построены ли нами «все» неприводимые унитарные представления, «все» сферические функции и т. п. (хотя, кстати сказать, мы доказываем, что это так). Теоремы, в которых используется теория уравнений в частных производных (необходимая для изучения оператора Казимира), собраны в отдельную главу. Мы привлекаем в этой главе также аналитические соображения, связанные с теоремой локальной регулярности для эллиптических дифференциальных уравнений.

Такая структура книги должна обеспечить максимальную гибкость и предполагает минимум предварительных знаний. Методы и обозначения, которые мы используем, подобраны с таким расчетом, чтобы они подсказывали подход, пригодный для про-' извольных полупростых групп.

Поскольку эта книга предкааначена для тех, кто — подобно мне самому, до тех пор, пока я ее не иаписал, — совсем не знает теории представлений, я приложил значительные усилия, чтобы сделать изложение независимым. Для удобства читателя я воспроизвел доказательства целого ряда фактов из анализа, а также привел в конце книги пять приложений, посвященных различным разделам анализа (спектральная теорема для ограниченных и неограниченных эрмитовых операторов, эллиптические дифференциальные уравнения и т. д.). Если добавить сюда мою книгу «Real Analysis», то этого материала будет достаточно для чтения настоящей книги1).

Работа Л. Д. Фаддеева о спектральном разложении оператора Лапласа на верхней полуплоскости представляет собой прекрасное введение в анализ, облеченный в красивую геометрическую форму. Большая ее часть должна быть доступна любому хорошему старшекурснику, и я воспроизвел эту работу в гл. XIV (с добавлением ряда деталей, опущенных Фаддеевым, который ориентировался на более искушенного читателя). Методы Фаддеева берут свое начало в теории возмущений и теории рассеяния и представляют самостоятельный интерес; они могут быть интересны и специалисту, который знаком с аналитической частью работы и хочет узнать, как она используется в теоретикогрупповой задаче. В недавней книге Куботы о рядах Эйзенштейна (которая появилась в то время, когда эта книга была в печати) использован другой подход (Сельберга—Ленг- лендса); кроме того, применяемые в ией факты нз функционального анализа предполагаются известными. Поэтому ни книга Куботы, ни моя не делает другую ненужной.

Включение в эту книгу глобального гармонического анализа и аделей нарушило бы ее единство. Я надеюсь, однако, что, познакомившись с группой SZ-2(R), читатель будет хорошо подготовлен для того, чтобы двигаться дальше в этом направлении. Весьма полезна в этом отношении книга И. М. Гельфанда, М. И. Граева и И. И. Пятецкого-Шапиро.

Мне принесли большую пользу дискуссии со многими людьми в течение последних двух лет, в частности на конференции по теории представлений в Вильямстауне в 1972 г. Среди них я хочу особо поблагодарить Го демана, Харйш-Чандру, Хелга-

’) Из книг, имеющихся на русском языке, назовем следующие: Иосида [1], Рудин [1], [2].—Прим, первв.

сона, Лабесса, Лашо, Ленглендса, К. Мура, Салли, Уилфрида Шмида, Стейна. Питер Лакс и Ральф Филлипс помогли мне изучить уравнения в частных производных. Я благодарю также участников семинара в Йельском университете, контакты с которыми во время работы над книгой оказались очень полезными. В особенности я признателен Р. Браггеману за внимательное чтение рукописи. Я хотел бы также поблагодарить Джо Репка за помощь при чтении корректуры.

Серж Ленг Нью Хейвен, Коннектикут

Сентябрь 1974

Обозначения

Будем писать f = O(l), если /— ограниченная функция. Пусть f, g — две функции на некотором пространстве X, причем g^O. Мы пишем /“0(g), если существует такая константа С, что ] / (х) | ^ Cg (х) для всех хе X. Если X = R — вещественная прямая, то возможен случай, когда это неравенство выполняется лишь для достаточно больших х, скажем для x>Xq. В этом случае мы будем писать: f-=O(g) при х->оо. Вместо обозначения / — 0(g) мы будем использовать также обозначение И. М. Виноградова:

/ < g.

Пусть X — топологическое пространство; С (X) обозначает пространство непрерывных функций на X. Если X — гладкое (С”) многообразие (в этой книге мы не встретим ничего худшего, чем открытые подмножества евклидова пространства или простые многообразия типа SL2(R) с очевидными координатами), то С“(Х) обозначает пространство гладких функций на X. Индексом с мы будем отмечать пространства функций с компактным носителем; таким образом, Сс (X) и С“ (X) — соответственно пространства непрерывных и гладких функций с компактным носителем.

Нелишне напомнить, что SL2(R)— это группа вещественных 2 X 2-матриц с определителем 1.

Изоморфизмом называется морфизм (в некоторой категории), для которого существует обратный в той же категории. Изоморфизм объекта с самим собой называется автоморфизмом. Например, непрерывный линейный автоморфизм нормированного векторного пространства Н есть непрерывное линейное отображение А: Н-»-Н, для которого существует такое непрерывное линейное отображение В: Н-^Н, что АВ= ВА = 1. Диффеоморфизм — это изоморфизм в категории гладких многообразий, т. е. гладкое отображение, для которого существует гладкое обратное.

Пусть Н — банахово пространство. Обозначим End Н банахово пространство непрерывных линейных отображений Н в себя. Если Н — гильбертово пространство, обозначим Aut N группу его унитарных автоморфизмов; группу всех непрерывых линейных автоморфизмов пространства Н будем обозначать GL^H).

Пусть G' — подгруппа группы G; символом G'\G обозначается множество правых смежных классов группы G'. Если группа Г действует справа на пространстве X, мы обозначаем символом Г\Х пространство орбит. В некоторых работах авторы помещают дискретную группу справа. И. М. Гельфанд с соавторами и Р. Ленглендс пишут ее слева. Я согласен с ними и надеюсь склонить к этому читателей.

Для удобства в конце книги помещен также краткий перечень часто используемых символов вместе с их краткими определениями.

ОБЩИЕ РЕЗУЛЬТАТЫ

§ 1. Представления алгебры Сс(6)

Пусть G — локально компактная группа, которую мы всегда будем предполагать хаусдорфовой. Пусть Н—банахово пространство (в большинстве наших приложений оно будет гильбертовым). Представление группы G в пространстве Н есть гомоморфизм

л: С^ОЕ^Щ

группы G в группу непрерывных линейных автоморфизмов, пространства Н, такой, что для любого вектора и из Н отображение G в Н, задаваемое формулой

X I—> л (х) о, непрерывно. Иначе говоря, этот гомоморфизм непрерывен в сильной операторной топологии, т. е. в топологии, определяемой нормой банахова пространства. [Напомним, что слабая топология в Н — это самая слабая (т. е. имеющая наименьшее семейство открытых множеств) топология, в которой непрерывны все линейные функционалы на ЯД

Представление называется ограниченным, если существует такое число С > 0, что |л(х)|^С для всех хеб. Если Н— гильбертово пространство и операторы л(х) унитарны при всех значениях аргумента, т. е. сохраняют норму в Н, то представление л называется унитарным; унитарные представления, очевидно, ограничены (С=1).

Проверять условие непрерывности представления достаточно на плотном подмножестве векторов; другими словами:

Пусть л: G —*GL (Н) — некоторый гомоморфизм; предположим, что отображение хг-^л(х)и непрерывно для плотного множества векторов и ge Н. Предположим также, что некоторая окрестность единичного элемента е в группе G переходит при отображении л в ограниченное подмножество пространства GL (Я). Тогда л — представление.

Доказательство этого утверждения совсем просто. Достаточно проверить непрерывность отображения л на единичном, элементе. Пусть и е И; выберем достаточно близкий к и вектор о^еН, такой, что отображение х*—► л(х)у1 непрерывно.

Теперь для доказательства нашего утверждения воспользуемся неравенством треугольника:

| Л (х) О — О I ^ I Л (х) О — Л (х) Di I + I Л (х) От — О! I + I О! — О |.

Представление л: G-*-GL(H) локально ограничено: если К czG — компактное подмножество, то множество л (Л) ограничено в GL (Н).

Доказательство. Пусть К cz G — компактное подмножество. Для любого вектора о из Н множество л (Л) о компактно и, следовательно, ограничено. По теореме о равномерной ограниченности (Ленг [1, гл. VIII, § 3]) отсюда вытекает, что л (Д) — ограниченное подмножество GL(H).

Для удобства читателя мы напомним здесь вкратце теорему о равномерной ограниченности.

Пусть VTi^iei — семейство ограниченных операторов в банаховом пространстве Е; предположим, что для любого вектора о из Е множество {TiV}(et ограничено. Тогда семейство {Tj(e/ ограничено как подмножество в пространстве End Е.

Доказательство. Пусть С„— множество таких векторов о из Е, что

ITiOl^n при всех 1^1.

Тогда множества Сп замкнуты и их объединение совпадает с Е. По теореме Бэра одно из множеств С„ содержит открытый шар. Перенесем этот шар в начало координат. Получим открытый шар В, такой, что объединение множеств ТДВ), 1^1, ограничено; следовательно, семейство {Т,}(. s, ограничено, что и требовалось доказать.

Обозначим символом Cc(G) пространство непрерывных функций с компактным носителем на группе G. Это пространство представляет собой алгебру относительно свертки, т. е. относительно произведения, задаваемого формулой

(ф * ф) (х) — j ф (ху-1) ф ^ dy,

где dy — мера Хаара на G. Мы будем предполагать, что группаG унимедулярна, т. е. что правая мера Хаара совпадает с левой мерой Хаара. Для любой функции / на G обозначим символом f- функцию х и-> / (х-1). Тогда

f (х) dx = f (х-1) dx = f- (x)dx.

Замечание. Если группа G не унимодулярна, то, в силу единственности меры Хаара, на G существует модулярная функция, т. е. непрерывный гомоморфизм А, отображающий группу G в мультипликативную группу положительных вещественных чисел R+, такой, что

f (.ха) dx = k{a)\f (х)dx.ао

Тогда стандартное рассуждение показывает, что

f (х-1) А (х) dx = ( f (х) dx.

GG

Отсюда следует, что А (х) dx — правая мера Хаара. Типичная неунимодулярная группа, с которой нам придется иметь дело (начиная с гл. III), — это группа треугольных матриц вида

/а 6\b \

I п Iили I . .

а/\0 а V

В этой главе мы можем забыть про неунимодулярный случай.

Модулярная функция встречается и в несколько более общей ситуации, чем рассмотренная выше. Пусть т: G-*G —топологический и групповой автоморфизм группы G или ее антиавтоморфизм, т. е. такое отображение, что (xz/f = утхт. Результат действия отображения т на элемент xeG мы обозначаем хт или Хх. В силу единственности меры Хаара, существует положительное число Д(т), такое, что

f (хт) dx = А (т) ( f (х) dx,ао

поскольку выражение слева есть нетривиальный инвариантный положительный функционал на СДО\ Выполняется очевидное правило композиции:

А (та) — А (т) А (а).

Во многих приложениях r2 = id и, следовательно, А (т)= 1, т. е. автоморфизм т унимодулярен. Для матричных групп это имеет место, например, если т — транспонирование.

Важный пример унимодулярной группы — полная матричная группа:

G = GL„(R).

Формула замены переменных показывает, что мера Хаара на G равна

d+x

| det х |” ’

где d+x — мера Лебега на линейном пространстве га X «-матриц. Приведенная мера на G£n(R) есть, таким образом, двусторонне инвариантная мера Хаара. Поскольку

GL2+(R) = SA2(R)XR+,

где GLa (R) — группа 2 X 2-матриц с положительным определителем и R+—группа положительных вещественных чисел, левая мера Хаара на SL2(R) инвариантна также и справа, т. е. группа SZ.2(R) унимодулярна. Можно привести и более красивое доказательство: заметим, что правая и левая меры Хаара отличаются на непрерывный гомоморфизм данной группы в группу положительных вещественных чисел, однако у группы S£2(R) не существует таких нетривиальных гомоморфизмов (рассматривая классы сопряженных элементов и используя различные разложения SL2(R), приведенные далее в этой книге, читатель сможет доказать это в качестве упражнения). Позднее мы дадим явное описание меры Хаара на SL2(R) при помощи различных координат и поэтому не будем сейчас обсуждать эти вопросы более подробно.

Вернемся к произвольной локально компактной группе G. Пусть л — представление G в пространстве Н, феСДС). Определим отображение

я1: Сс (G)-* End 77, полагая

л1 (ф) о = ^ ф (х) л (х) у dx.G

Интеграл сходится, поскольку х>—>ф (х) л (х) о — непрерывное отображение с компактным носителем из группы G в пространство Н. (По поводу интегрирования функций со значениями в банаховом пространстве см., например, Ленг [1]').)

Пусть aeG; положим таф(х) = ф(а-|х) (это обозначение сохранится до конца параграфа). Тогда из левоинвариантности меры Хаара немедленно получаем

л (а) л1 (ф) — л* (тдф).

') На русском языке изложение теории векторного интегрирования можно найти в книге У. Рудина «Функциональный анализ», «Мир», М., 1975. — Прим. ред.

Более того, отсюда следует, что л есть кольцевой гомоморфизм, т. е. что

л* (ф * ф) = л1 (ф) л1 (ф).

В самом деле,

л1 (ф * ф) = j (ф * ф) (х) л (х) dx =

= И Ф (яу-1) Ф (у) Л (х) dx dy.

аа

Переставим порядок интегрирования и заменим х на ху; тогда последний интеграл запишется в виде

^ ^ Ф (х) ф (у) л (х) л (у) dx dy = л1 (ф) л1 (ф). о о

В приведенном доказательстве мы для простоты опустили вектор у, к которому применяются оператор л1 (ф * ф) и все операторы под знаком интеграла, однако все интегралы мы понимаем в сильном смысле *).

Поскольку функция ф имеет компактный носитель и представление л локально ограничено, то оператор л1 (ф) ограничен, т. е. л1 (ф) е End Н.

Если л — ограниченное представление, то вместо функции ф с компактным носителем мы могли бы взять функцию feL? (G); формулы (1), (2) останутся при этом справедливыми. Другими словами, представление л1 продолжается на пространство L'(G) и, более того, имеет место неравенство

"In'^KCHlh.

Следовательно, л1 — непрерывный линейный гомоморфизм нормированной алгебры Ll (G) в алгебру всех ограниченных операторов в пространстве Н, т. е. представление алгебры L' (G) в пространстве Н.

Если Н — гильбертово пространство и представление л унитарно, то справедлива также формула.

л1 (ф*) = л‘(ф)*,

где ф* — такая функция, что ф'(х) = ф(х_|). Это утверждение непосредственно вытекает из определений.

Зная операторы л1 (ф) при ф£Сс(С), можно следующим образом восстановить операторы л (а) для aeG. Назовем по-

следовательностью Дирака последовательность вещественных функций с компактным носителем, удовлетворяющих следующим условиям:

DIR 1. ф„>0 при всех п.

DIR 2. ^фп(х)йх=1 при всех п. о

DIR 3. При достаточно большом п носитель функции фя содержится в любой наперед заданной окрестности единицы в и.

Последнее условие показывает, что при больших п площадь, ограниченная графиком функции ф„, сосредоточена в окрестности начала. Последовательность Дирака выглядит так, как

показано на рис. 1. Очевидно, что последовательности Дирака существуют. Если группа G имеет, подобно SL2(R), гладкую структуру, то можно построить последовательность Дирака, состоящую из бесконечно дифференцируемых функций. Часто бывает удобнее пользоваться вместо DIR 3 следующим более слабым условием:

DIR 3'. Пусть V — произвольная окрестность единицы в G, Z — ее дополнение, в > 0 — любое вещественное число. Тогда при достаточно больших п

ф„ (х) dx < 8.г

Другими словами, вместо того чтобы предполагать, что носители функций фп стягиваются к единице, мы накладываем соответствующее интегральное условие. Более сильное условие несколько нагляднее; его достаточно для большинства прило-

жений. Когда нам понадобится условие DIR 3', мы будем предполагать, что читатель может самостоятельно проверить требуемые утверждения о сходимости и убедиться в том, что доказательства проходят без изменений.

Как будет упомянуто впоследствии, при изучении аналитических векторов, условие DIR 3' становится существенным, когда мы хотим, чтобы функции ф„ были аналитическими (они не могут иметь компактный носитель).

На протяжении нескольких первых глав этой книги мы будем заниматься, в основном, общими свойствами представлений, связанными с интегрированием и гладкой структурой на группе. Поэтому все, что нам потребуется знать о последовательностях Дирака, — это их определение. Однако полезно знать, что в некоторых хорошо известных операторах свертки используются последовательности Дирака. Приведем примеры таких последовательностей на вещественной прямой.

Пусть ф —гладкая положительная функция на R с компактным носителем, такая, что

Ф (?) dt = 1.

Тогда ф„(?) = гаф (п?) — последовательность Дирака.

Пусть ф (?) = л-1^-*1 и ф„ задается той же формулой, что и выше. Тогда {ф„} — последовательность Дирака.

Положим

Фе (О — „ е2 + Z2 •

Тогда (фг}е > 0 — семейство Дирака (в очевидном смысле; чтобы получить последовательность Дирака, достаточно положить еп=1/и).

В примерах (ii) и (iii) множитель, содержащий л, введен для нормировки. Проверка того, что приведенные последовательности— действительно последовательности Дирака, доступна первокурснику. Заметим, что носители функций в примерах (ii) и (iii) не компактны. Пример (ii) будет полезен нам при изучении аналитических векторов. Примером (iii) мы воспользуемся в § 3 приложения 2. Примеры последовательностей Дирака дают также ядро Фейера и ядро Пуассона в теории рядов Фурье. Для изучения общих свойств последовательностей Дирака явные формулы несущественны. Мы напомним сейчас эти свойства и воспроизведем некоторые основные теоремы об аппроксимации из книги Ленга [1].

Пусть ^^ — последовательность Дирака. Тогда для любого вектора о е Н последовательность {л1 (ф„) у} сходится к у.

Доказательство. Имеем

Ф„ (х) л (х) у dx — у = ^ [ф„ (х) л (х) — ф„ (х)] у dx == оа

= J Фп W Iя W V — у] dx,

где Sn — носитель функции ф„. Из условия непрерывности представления ясно, что последний интеграл стремится к 0 при п —► оо.

Пусть а е G. Если {ф„} — последовательность Дирака, то {таф„} — последовательность Дирака в точке а (в очевидном смысле). Из (1) ясно, что

л1 (тдф„) у —» л (а) у

при п—>оо. Таким образом, вектор л (а) у можно получить как предел л‘(ф)у при подходящем выборе феСс(С).

Пусть W cz Н — подпространство. (Термин подпространство мы будем употреблять только для замкнутых подпространств; в противном случае мы будем говорить линейное подмножество.) Под плотным подмножеством мы всегда подразумеваем плотное линейное подмножество. Подпространство К'сЯ будем называть G-инвариантным, если л (х) ^ cz V для всех х е G. Аналогично определяется Сс(С)-инвариантность.

Можно дать и более общее определение. Пусть S — семейство операторов в банаховом пространстве Н. Будем говорить, что подпространство W cz Н S-инвариантно, если AW cz W для всех операторов А из S. Пусть Wo — плотное линейное подмножество W. Если оно S-инвариантно, то, очевидно, подпространство W тоже S-инвариантно.

Из полученного нами результата об аппроксимации заключаем:

Подпространство W а И является G-инвариантным в том и только в том случае, когда оно Сс(О)-инвариантно.

Пусть зФ — плотное подмножество в Ll (G). Предположим, что представление л ограничено. Подпространство W cz Н является G-инвариантным в том и только в том случае, когда оно ^--инвариантно.

Для удобства читателей напомним свойства операторов свертки в пространстве L1 (G), задаваемых последовательностью Дирака.

Пусть f е ЬЦС^ и Z — компактное множество, на котором функция f непрерывна. Пусть {ф„} — последовательность Дирака. Тогда последовательность функций ф„*1 сходится к функции f равномерно на множестве Z.

Доказательство. Имеем

(Ф„ * f) (х) = J ф„ (ху-1) / (у) dy = ^tp№ (у) f (y~lx) dy,f(x)= ^n(g)f(x)dy.

Следовательно,

(ф« * Ь ОФ — f W = j [f Ог‘х) — f (x)] ф„ (у) dy.

Существует такая окрестность единицы U с: G, что если yeU, то для всех хеZ имеем

I / (у-1х) — f (х) ] < в.

При большом п носитель функции ф„ содержится в U; следовательно, можно интегрировать по области U и наш интеграл не превосходит е. Утверждение доказано.

Носитель функции ф„*/ содержится в области (зиррфп)Х X (supp/), поскольку подынтегральное выражение в свертке отлично от нуля только при ху-1 еsuppф и yesuppf. Следовательно:

Если f — непрерывная функция с компактным носителем, то последовательность (ф„ * f} равномерно сходится к функции f на компактном множестве (supp ф„) • (supp /) и равна нулю на его дополнении. Таким образом, {ф„*Н сходится к f в топологии L4GV

Поскольку множество Cc(G) плотно в L‘(G), мы получаем также следующее утверждение:

Пусть f е L1 (G). Тогда последовательность {ф„*/} сходится к функции f в топологии Т‘(С).

Доказательство. Найдем сначала такую функцию ф из СДС), что || ф — f lh < е. Тогда

II фп * f — f III < II Фп * f — фп * ф 111 + 11 Фп * ф — ф 111 + II ф — f 111.

Так как для любых функций g, h^L^G) справедлива оценка IIg*A|h<||g||iIIAIh и, в силу условия DIR 2, ||ф№||1= 1, наше утверждение становится очевидным.

Аналогичные рассуждения пригодны для любого пространства Lp, 1^р<оо. Для наших целей будет достаточно рассматривать пространство L2.

Критерий полной приводимости

Пусть л: G -* GL (Н) ил': G -* GL (Н'} — представления. Морфизмом представления л в представление л' называется непрерывное линейное отображение А: Н-*Н', такое, что для любого х е G следующая диаграмма коммутативна:

Н-^Н'

н-^н'

(В литературе морфизмы иногда называют сплетающими операторами.) Будем говорить, что А — вложение, если А — линейный топологический изоморфизм пространства Н на подпространство в Н'. Будем говорить, что А — изоморфизм, если существует такой морфизм В представления л' в представление л, что АВ и ВА —единичные операторы в пространствах Н и Н' соответственно. Изоморфизм называют также эквивалентностью. Если Н, Н' — гильбертовы пространства, а представления л, л' унитарны, мы можем ограничиться унитарными отображениями, т. е. потребовать, чтобы оператор А был унитарным. Из контекста всегда будет понятно, накладывается или нет это дополнительное ограничение. Мы будем говорить, что представление л входит в л', если существует вложение л в л'.

Представление р: G-*GL(E^ называется неприводимым, если пространство Е не содержит инвариантных подпространств, отличных от {0} и самого Е. Пусть S — некоторый набор операторов в Е. Будем говорить, что пространство Е является S-неприводимым, если в Е не существует S-инвариантных подпространств, отличных от {0} и Е.

Пусть пространство Н гильбертово и представляется в виде прямой суммы инвариантных подпространств:

Н = ЕХ®Е2® ... ®Em®F.

Вели каждое подпространство Et неприводимо и G-изоморфно (относительно л) пространству (р, Е), a F не содержит подпространств, л (С)-изоморфных Еь то мы будем говорить, что подпространство Е входит в Н с кратностью т. Легко видеть, что в этом случае если

Н = Е\®Е'2® ... ®E'r®F'

— любое разбиение Н в прямую сумму, причем подпространства £/ л (О)-изоморфны подпространствам Et и представление (р, £) не входит в F', то r = m. Доказательство этого утверждения сводится к стандартным алгебраическим фактам о по- лупростых эндоморфизмах; см. по этому поводу Ленг [I, гл. VIII, упр. 19] ’). Число m мы будем называть кратностью представления р в разложении представления л (или пространства Е в разложении Н\

Пусть Н — гильбертово пространство, л — представление группы G в Н. Будем говорить, что пространство Н вполне приводимо относительно л или что представление л вполне приводимо, если Н разлагается в ортогональную сумму неприводимых подпространств. Мы будем записывать эту прямую сумму в виде

Н = ф Ни

I Е 1

где I пробегает множество индексов I, Hi — взаимно ортогональные инвариантные подпространства и Н — замыкание линейной оболочки подпространств Нг. Замыкание мы обозначаем крышкой над знаком прямой суммы, который обозначает прямую сумму в алгебраическом смысле. Мы будем говорить также, что семейство (Н^ есть ортогональное разложение пространства Н.

Пусть Д: Н —► Н — оператор (непрерывное линейное отображение). Напомним, что оператор называется компактным, если он переводит ограниченные множества в относительно компактные (т. е. множества, замыкание которых компактно). Эквивалентное определение: оператор А компактен, если для всякой ограниченной последовательности (о„) последовательность (До„) содержит сходящуюся подпоследовательность. Вектор о е Н называется собственным вектором оператора А, если До = Ло для некоторого комплексного числа %. Зафиксируем некоторое ХеС; множество всех векторов о гН, включая 0, таких, что Ах = Хо, образует подпространство Нк — собственное подпространство оператора А, соответствующее собственному значению X.

Спектральная теорема для компактных операторов. Пусть А — компактный эрмитов оператор в гильбертовом пространстве Е. Тогда семейство его собственных подпространств {£\}, где X пробегает множество всех собственных значений (включая 0), есть ортогональное разложение пространства Е.

Доказательство. Пусть F — замыкание линейной оболочки всех подпространств Ех. Пусть Н — ортогональное дополнение F. Тогда подпространство Н инвариантно относительно оператора А и А индуцирует на Н компактный эрмитов оператор, не имеющий собственных значений. Нужно показать, что Н = {0}. Это вытекает из следующей леммы.

Лемма. Пусть А — компактный эрмитов оператор в гильбертовом пространстве /7^={0}. Положим с = |Л|. Тогда по крайней мере одно из чисел си — с является собственным значением оператора А.

Доказательство. Существует последовательность векторов {х„} из Н, такая, что |хп|=1 и |(Лх„, х„)|-*|Л|. Переходя, если это необходимо, к подпоследовательности, мы можем предположить, что

(Лх„, х„) -> а

для некоторого числа а, причем а = ± | Л |. Тогда

0 ^ ! Лх„ — ах„ |2 = {Ахп — ах„. Лх„ — ах„) =

= I Ахп |2 — 2а (Лх„, х„) + а21 хп |2 ^ а2 — 2а (Лх„, х^ + а2.

Правая часть неравенства стремится к 0 при п-*оо. Так как оператор А компактен, то, переходя к подпоследовательности, можно считать, что последовательность {Лх„} сходится к некоторому вектору у; тогда последовательность (ах„) также должна сходиться к этому вектору. Если а = 0, то | Л | = 0, так что Л = 0, н утверждение леммы тривиально. Если а #■ 0, то последовательность {х„} сама должна сходиться к некоторому вектору х, и тогда Ах = ах, так что а — искомое собственное значение. Это доказывает нашу лемму, а вместе с ней — и теорему.

Заметим, что в каждом подпространстве Ех существует гильбертов базис, состоящий из собственных векторов. В самом деле, таким свойством обладает любой гильбертов базис Ех, поскольку все ненулевые векторы из Ех — собственные. Поэтому в пространстве Е также существует гильбертов базис, состоящий из собственных векторов. Таким образом, мы получили точный аналог спектральной теоремы для конечномерных пространств. Более того, мы получаем ряд дополнительных фактов, которые тривиально вытекают из доказанной теоремы.

Все подпространства Ех при А; ^= 0 конечномерны; в противном случае существование счетной последовательности вейторов из гильбертова базиса в Ех противоречило бы компактности оператора. По той же причине для любого фиксированного числа г > 0 существует лишь конечное множество собственных

значений X, таких, что | X |^г. Таким образом, если оператор А имеет бесконечное множество ненулевых собственных значений, то нуль является единственной точкой сгущения этого множества. Поэтому если Н — гильбертово пространство и А — эрмитов компактный оператор, то пространство Н разлагается в ортогональную сумму собственных подпространств:

Н = ®Нк = ®Нх.,К i—1 1

где собственные значения занумерованы в порядке убывания модулей: |Z£+1K|AJ и limZ( = 0.

Подалгебра ^ операторов в пространстве Н называется ♦-подалгеброй, если вместе с любым оператором А е st она содержит также и сопряженный оператор Л*.

Теорема 1. Пусть st есть *-подалгебра компактных операторов в гильбертовом пространстве Н. Тогда Н вполне приводимо относительно st и каждое неприводимое подпространство входит в разложение Н с конечной кратностью.

Доказательство. Пусть {EJ — максимальное ортогональное семейство ^-неприводимых подпространств, a F — ортогональное дополнение линейной оболочки семейства {Е£}. Так как st есть ♦-подалгебра, то подпространство F тоже ^-инвариантно. Поэтому достаточно доказать, что в предположениях теоремы существует ^-неприводимое подпространство. Сделаем это следующим образом.

Если А е st, то

и, значит, в ^ существует элемент А = А* ф 0. Пусть М — инвариантное подпространство, отличное от {0}. Тогда сужение алгебры st на М удовлетворяет условиям теоремы. Пусть X =# 0 — собственное значение самосопряженного оператора А., Среди всех ^-инвариантных подпространств М =й {0} выберем- то, для которого собственное подпространство

Afx = {о е Af; Ас = Ао}

имеет наименьшую положительную размерность. Выберем ненулевой вектор о из подпространства Мх. Тогда sto cl М и sti) — инвариантное подпространство. Мы утверждаем, что это подпространство неприводимо. Предположим, что Е #= {0} — инвариантное подпространство, Е с stv. Можно написать

и = Ое + о'е.

где уБе£, у'е ± Е. Заметим, что

Хо = Ао = Ауе + Ау'е — Хуе + Xu'e-

Таким образом, Уе и уе — собственные векторы оператора А с собственным значением X. Если один из них, скажем уе, равен нулю, то у еЕ, откуда j^o — Е. Если же оба этн вектора отличны от нуля, то приходим к противоречию: Ех с: Мх и dim Ех < dim Мх. Следовательно, подпространство ^о неприводимо, и наша теорема доказана.

Замечание. Для того чтобы найти неприводимое подпространство, достаточно, чтобы в алгебре ^ содержался хотя бы один компактный эрмитов оператор.

Квадратично интегрируемые ядра и операторыГильберта — Шмидта

Один тип ядер и операторов будет встречаться нам достаточно часто, так что стоит отдельно упомянуть их здесь, а не в приложении или тогда, когда они понадобятся нам в первый раз. Они дадут нам примеры компактных операторов.

Теорема 2. Пусть (X, 2», dx} и (У, 21, dy) — пространства с мерой*, предположим, что пространства L2^ и L2^ сепарабельны. Пусть q е. L2 (Дх® dy\ Тогда оператор f*-*Qf, такой, что

Qf(x) = ^q(x, y)f(y) dy,г

есть ограниченный компактный оператор из L2(Y) в L2(X), причем

IQKUIk-

Доказательство. Пусть ^ г L4Y\ Из условий теоремы вытекает, что при почти всех значениях х функция qx, определяемая равенством <7х (у) = <7 (х, у), также принадлежит А2 (У). Следовательно, их произведение fqx принадлежит D (У). В силу неравенства Шварца

I Qf (х) |2^|1/Щ - ||^х 1|.

Интегрируя это неравенство, получаем

IIQf IR = JlQfWM^CIIf lijjl?^ y)f dz/dx<u^||f|^

Отсюда следует, что IQKHglk; таким образом, оператор Q ограничен.

Пусть {фг}, {%} — ортонормированные базисы в L2(X) и L?(Y) еоответственно. Положим

М*. У) = Фг МФ/(у).

Тогда {0{/} — ортонормированный базис в ^(XXY). Чтобы убедиться в этом, заметим, во-первых, что векторы 9tl взаимно ортогональны и нормированы. Предположим, что gel?(XXY) ортогональна ко всем 0(/. Тогда

^<Pi(x)dx^((y)g(x, у) dy = 0

XY

при всех значениях z и /. Следовательно, функция х*~* j ^i^g^x, у) dy

равна нулю при всех х, за исключением точек, принадлежащих некоторому множеству S с X нулевой меры. Если х $fc S, то g (х, у) = 0 для почти всех у. Следовательно, по теореме Фубини, g(x, z/) = О для почти всех (х, y)eXXY.

Пусть q=^ сщ9ц — разложение функции q в ряд в Л2(X X К) с коэффициентами atf. Пусть

dn— Е СЩ^Ц

i. Кп

— конечный отрезок этого ряда. Немедленно проверяется, что оператор Q„ с ядром qn имеет конечномерный образ. В самом деле, если 6 — функция на X X Y, такая, что 0 (х, у) = ф (х) ф (z/), то образ соответствующего оператора имеет размерность 1.

Мы уже доказали неравенство

I Qn Q I ^ II qn q Ihi

выражение справа стремится к 0 при п->оо. Итак, компактные операторы Qn сходятся по операторной норме к оператору Q. Следовательно, Q тоже компактен. Теорема доказана.

Сделаем теперь несколько замечаний формального характера о свойствах следов операторов, задаваемых ядрами. Заметим, что Фг ® ф/ — ортонормированный базис в пространстве L? (XXX). Напишем разложение Фурье ядра q относительно этого базиса:

q (X, z/) = Е Си Фг ® Фу.

Формально можно ожидать, что след оператора Q задается формулой

йе=Е«гф..^-££^Сг/Фг (х) фу (у) ф„ (у) фп (х) dy dx. "п l. 1

В силу ортогональности функций ф/, фп ясно, что последнее выражение сводится к

trQ=£cnn.

п

С другой стороны,

J q (х, х) dx = У си J ф, (х) ф/ (х) dx = ^с№Мп.

Таким образом, мы получаем формально:

trQ = y с„„=^(х, x)dx.

Для того чтобы придать смысл этим вычислениям, нужно указать достаточные условия, которые гарантировали бы сходимость всех рядов и независимость суммы

£ (Qv», Ф„>

от выбора ортонормированного базиса. Мы вернемся к этим вопросам при обсуждении формулы Планшереля. Пока же мы будем рассматривать интеграл

q (х, х) dx х

как определение следа всякий раз, когда оператор может быть определен при помощи непрерывного ядра q.

dp (у) соответ- произведении. функций на X формулеdp (у) соответ- произведении. функций на X формулеМеры Планшереля

dp (у) соответ- произведении. функций на X формуле

dp (у) соответ- произведении. функций на X формуле

Пусть X, У — пространства с мерами dx и ственно. Пусть ф = ф (х, у) — функция на их Тогда Ф задает оператор Ф из пространства в пространство функций на У, действующий по

(ФЛ ^—^t W ф (х, у) dx,Xи транспонированный оператор

((Ф§) (х) = ^ ф (х, у) g (у) dp (у).

У

(Иногда мы будем использовать противоположное соглашение, меняя местами *Р и 'Ф.) Оператор *Ф обозначается также Ф*, г. е.

^р g) (X) = ^ ф (х, у) g (у) dp {у).

Y

Тогда Ф* — сопряженный оператор к Ф относительно скалярных произведений, задаваемых формулами

<f ь М = J Л ^ f2 (х) dx на X,

<f ь §г\ = ^ Si (у) §2 (у) dp (у) на У;

иначе говоря, справедливо равенство

<ФА^ = <ЛФ^>.

Это немедленно вытекает из следующего формального сления:<Ф/, g)p = ^ f to Ф to У) g (у) dx dp (у) =у хЭто немедленно вытекает из следующего формального сления:<Ф/, g)p = ^ f to Ф to У) g (у) dx dp (у) =у хвычи-

Это немедленно вытекает из следующего формального сления:

<Ф/, g)p = ^ f to Ф to У) g (у) dx dp (у) =

у х

Это немедленно вытекает из следующего формального сления:

<Ф/, g)p = ^ f to Ф to У) g (у) dx dp (у) =

у х

Все эти формулы применимы в различных ситуациях,Все эти формулы применимы в различных ситуациях,/ to \ Ф (х, у) g (у) dp (y)dx = {f, O*g>.

Все эти формулы применимы в различных ситуациях,

Все эти формулы применимы в различных ситуациях,

абсолютно сходятсяабсолютно сходятсявходящие в нихвходящие в нихкогда когда ^sL^XXY^ и feL2^ или феСДХХУ) и f ё СДХ\ В каждом конкретном случае нужно точно указывать область определения оператора.

абсолютно сходятся

абсолютно сходятся

входящие в них

входящие в них

Равенство ф*==ф-1 имеет место в том и только в том случае, когда оператор Ф унитарен. Доказательство очевидно. В некоторых приложениях мы будем сначала доказывать, что оператор Ф унитарен, а затем на основании изложенного формализма делать вывод, что действие оператора Ф-1 на функции g, для которых все рассматриваемые интегралы сходятся, например на функции с компактным носителем на локально компактных пространствах, задается эрмитово сопряженным ядром.

В приложениях мы всегда будем указывать конкретные функциональные пространства, на которых все интегралы сходятся. В теории представлений мы начинаем с X = G (в этой книге G = SZ.2(R)), а в качестве dx берется мера Хаара.

Пространства с мерой (X, dx) и (У, dy) всегда будут заданы «еетественным» образом. Наша задача будет состоять в том, чтобы найти такую положительную функцию Р на У, что для меры dp (у) = Р (у) dy справедливо равенство ф*^ф_|. Другими словами, пусть транспонирование определяется относительно меры dp(jj), т. е.

('Ф^) (х) = J ф (х, у) g (у) Р (у) dy.

Тогда мы требуем, чтобы Ф'ФНй в подходящем пространстве функций на X. Если это условие выполнено, мы будем называть P^dy мерой Планшереля для функции ф; формула Ф'Ф == id называется формулой обращения Планшереля.

В действительности ситуация с формулой Планшереля для некоммутативных групп (в частности, для SL^ (R)) несколько более сложная, хотя формально вполне аналогичная. Дело в том, что в этом случае функция Ф операторнозначная и в формулу обращения нужно включить операцию взятия следа. Ср. конец гл. VIII, посвященной формуле Планшереля.

Пусть G — множество классов эквивалентности неприводимых унитарных представлений группы G. Обычно G или какое- нибудь его подходящее подмножество можно параметризовать при помощи аналитического пространства Y (множества корней аналитических уравнений), снабженного «естественной» мерой dy (например, если У — кусок евклидова пространства, то dy — мера Лебега). Мы увидим, что для группы SL2(R) пространство У состоит из двух вертикальных прямых н изолированных точек, как это изображено на рис. 2. В действительности это пространство параметризует только1 часть множества G. В этом случае мера dy на прямых совпадает с мерой Лебега, а точки имеют дискретную меру.

Прежде чем рассматривать формулу Планшереля в полной общности, мы займемся несколько более простой задачей — вычислением меры Планшереля только для специального класса функций, двусторонне инвариантных относительно максимальной компактной подгруппы группы G. Для этого нам потребуется сначала рассмотреть представления компактных групп, что будет сделано в следующей главе.

§ 1. Сужение представлений группы SAKR)на ее максимальную компактную подгруппу

Важную роль в теории представлений полупростых групп Ли играют максимальные компактные подгруппы.

В этом параграфе мы рассмотрим представления максимальной компактной подгруппы К группы SL2(R), группы вращений окружности, т. е. группы матриц вида

/ cos 8 sin 8 X

Г ^\ — sin 8 cos 8 /

Излагаемая нами теория представляет собой частный случай общей теории представлений компактных групп. Она послужит хорошим введением в рассматриваемый круг вопросов.

Характером группы К называется непрерывный гомоморфизм К в единичную окружность; характеры нумеруются целыми числами:

Хп(г (8)) = е'"е.

Возьмем в качестве G группу SL2(R) или GLt (R) (группу матриц с положительным определителем). Для любого элемента у е G и для любой функции f еСс (G) положим

^ (6, 9') = f (г (6) yr (6')).

Обозначим символам Sn-m подпространство пространства С, (G), состоящее из всех функций f, удовлетворяющих условию

/(г^угО-е^/Чу)^6'

при всех у е G и при всех вещественных значениях 6, 6'.

Лемма 1. Линейная оболочка подпространств Sn,m плотна в C,(G) в топологии равномерной сходимости. Более точно, для любого е > 0 и любой функции f е Сс (G) найдется такая функция ge У. Sn, m, что ее носитель содержится в множестве К (supp h К и || / — g IL < 8.

Доказательство. Пусть

L «(у) = ^ V(r (9) yr (е,)) ein9eim6'dQ

—Я —я

Тогда мы требуем, чтобы Ф*Ф = М в подходящем пространстве функций на X. Если это условие выполнено, мы будем называть P^dy мерой Планшереля для функции ф; формула Ф*Ф = id называется формулой обращения Планшереля.

В действительности ситуация с формулой Планшереля для некоммутативных групп (в частности, для SL^ (R)) несколько более сложная, хотя формально вполне аналогичная. Дело в том, что в этом случае функция ф операторнозначная и в формулу обращения нужно включить операцию взятия следа. Ср. конец гл. VIII, посвященной формуле Планшереля.

Рис. 2.

Пусть 5 — множество классов эквивалентности неприводимых унитарных представлений группы G. Обычно G или какое- нибудь его подходящее подмножество можно параметризовать при помощи аналитического пространства У (множества корней аналитических уравнений), снабженного «естественной» мерой dy (например, если У — кусок евклидова пространства, то dy — мера Лебега). Мы увидим, что для группы SL2(R) пространство У состоит из двух вертикальных прямых и изолированных точек, как это изображено на рис. 2. В действительности это пространство параметризует только' часть множества G. В этом случае мера dy на прямых совпадает с мерой Лебега, а точки имеют дискретную меру.

Прежде чем рассматривать формулу Планшереля в полной общности, мы займемся несколько более простой задачей — вычислением меры Планшереля только для специального класса функций, двусторонне инвариантных относительно максимальной компактной подгруппы группы G. Для этого нам потребуется сначала рассмотреть представления компактных групп, что будет сделано в следующей главе.

§ 1. Сужение представлений группы SL-KR)на ее максимальную компактную подгруппу

Важную роль в теории представлений полупростых групп Ли играют максимальные компактные подгруппы.

В этом параграфе мы рассмотрим представления максимальной компактной подгруппы К группы SL2(R), группы вращений окружности, т. е. группы матриц вида

/ cos 9 sin 9 \v \ — sin 9 cos 9 / '

Излагаемая нами теория представляет собой частный случай общей теории представлений компактных групп. Она послужит хорошим введением в рассматриваемый круг вопросов.

Характером группы К называется непрерывный гомоморфизм К в единичную окружность; характеры нумеруются целыми числами:

Х„(г(9)) = е^.

Возьмем в качестве G группу SA2(R) или GLt (R) (группу матриц с положительным определителем). Для любого элемента у е G и для любой функции f г Сс (G) положим

Н(9, ^ = ^г^уг<№

Обозначим символам Sn,m подпространство пространства Cc(G), состоящее из всех функций f, удовлетворяющих условию

f(r(9)yr(9/)) = e-^f(z/)e-^6'

при всех y^G и при всех вещественных значениях 0, 9'.

Лемма 1. Линейная оболочка подпространств Sn,m плотна в Cc(G) в топологии равномерной сходимости. Более точно, для любого в > 0 и любой функции f еСс (G) найдется такая функция ge £ 8„, т, что ее носитель содержится в множестве m

К (SUpp fH U II f — g 11^ < 8.

Доказательство. Пусть

Л л

km (У) = $ $ Нг (9) УГ (9')) е^е^' d9 дУ

—Л —л

— коэффициент Фурье функции fv. Тогда носитель функции fn>m содержится в множестве К(supp /)К- Ядра Чезаро — Фейера от одной переменной

М-1

т Е Е

N=0 lnl<N

образуют последовательность Дирака. Произведения двух таких ядер от переменных 0 и 8' образуют последовательность Дирака от двух переменных. Обозначим ее {С1И(6, O')}^^. Пусть /9 * С^ — свертка функции f9 с ядром См (мы рассматриваем fv и См как функции на произведении двух окружностей). Из определений ясно, что (/9 * См) (0, 0) представляется в виде суммы членов вида +,mf„, т(у) с коэффициентами сп-т, появляющимися из суммы в ядре Чезаро. Последовательность (/9 * С^) (0, 0) сходится к функции f9 (0, 0) = f (у). Проверим, что сходимость равномерна по у. Нам нужно оценить разность

$ $ [f9 (0, 0') См (- 0, - 0') - f9 (0, 0) См (- 0, - 0')] d9 d^.

Зафиксируем е > 0; существует такая окрестность U точки (0, 0), что

SS^b,

*6U

где ^U — дополнение U. Напомним, что

См ^ 1 •

Таким образом, наша разность не превосходит

sup i f9(0, Ol-f9^ 0)1 + 211/11=^^.

(9, 9') a UJj

Так как f имеет компактный носитель, неравенство

I f (г (0) yr (в')) — f (у) | < в

справедливо для всех (0, Q'^eU равномерно по у, если окрестность U достаточно мала. Доказательство закончено.

Лемма 2. Справедливы следующие соотношения:

(О Sn>m*Sz,9 = {0), если m^l;

Sn, m == Sm, n>

Sn. n * Sm> g C Sn, g.

Напомним, что для любой функции ф на группе G мы определили функцию ф* формулой

ф* (х) = ф(х~‘).

Доказательство. Пусть fe.Sn-nt, ge.Sl-q. Рассмотрим свертку функций f, g:

V * g) to = \f (xy~l) g (y) dy.G

Сделаем в этом интеграле замену переменной У1—* г (9) у. Так как группа G унимодулярна, интеграл инвариантен относительно преобразования ун->у-‘. Отсюда и из двусторонней инвариантности меры Хаара вытекает, что значение (f*g)(x) не меняется при умножении на е1т6е~и6. Это возможно, лишь если (f*g)(x) = O; таким образом, утверждение (i) доказано. Остальные два утверждения доказываются аналогично, и мы предоставляем сделать это читателю.

Из леммы 2 следует, что подпространство Sn<n является алгеброй относительно свертки. Доказательство этого утверждения очевидно. Мы рассмотрим сейчас более тонкое свойство.

Лемма 3. Алгебра 5П1П коммутативна.

Так как мы рассматриваем сейчас алгебру Sn,n при произвольных п, а не только алгебру S0>0, мы приведем доказательство в полной общности. Читателю полезно взглянуть на более простое доказательство для случая биинвариантных функций, приведенное в начале гл. IV. Это доказательство принадлежит И. М. Гельфанду. Обобщение, которое мы приводим здесь, было дано Силбергером (A. Silberger, Proc. Amer. Math. Soc., 21 (1969), 437—440). Этот результат был предназначен для использования в теории представлений р-адических групп.

Пусть о — автоморфизм или антиавтоморфизм унимодуляр- ной группы G. В силу единственности меры Хаара существует положительное число А (о), такое, что для любой функции f из Cc(G) справедливо равенство

f (х°) dx = А (ст) f (х) dx.GG

Ясно, что А (ст2) = А (ст) А (ст); таким образом, если ст2 = 1, то А(ст)= 1. Итак, мера Хаара инвариантна относительно преобразования хг->ха. Вместо х° мы будем иногда писать °х.

Теорема I. Пусть G — локально компактная унимодулярная группа и К — ее компактная подгруппа. Предположим, что выполнены следующие условия1.

(О(Осуществует антиавтоморфизм т порядка 2 группы G, такой, что fex = fe~x для всех fee К;

(О

(О

(п)(п)пусть S — множество элементов se 6, таких, что sT = s; тогда G = SK;

(п)

(п)

существует автоморфизм а порядка 2 группы G, такой, что ka = А-1 для всех fee К, а для всех seS выполнено равенство s° = h\sh~x при некотором k{ е К.

Пусть жествоПусть жествор: ^ —► С — характер К; обозначим символом Sp> р мно- функций f из Cc(G), таких, что ftfeixfez^p^iMWpV^

Пусть жество

Пусть жество

при всех xeG, k{, fe^eK. Тогда алгебра Sp, р коммутативна.

Доказательство. Положим f* (х) = f (хх). Тогда ^*§У = 5**Г- С другой стороны, положим f' to — f (х°). Тогда (f * gY = f'* g'. Докажем первое равенство (доказательство второго проще).

Имеем

(g * fY U) = (g * f) W = ( g toy~ <) f (y) dy.

Аналогично

(Г * g*) to = $ Г (.хуЛ g* (у) dy=^t Cyto) g (yx) dy.

Сделаем во втором интеграле последовательные замены переменных у'—*ух, у*-*^у, У^'У'- Это и завершает доказательство нашей формулы. Для функций fsSp,p имеем, кроме того, f* — f'. В самом деле, достаточно проверить, что f (х") — f (хт). Напишем x = sh. Тогда

П^мгл^игм

f (х°) = / (s^") = / UisfeT'fe"1) = Р to"’ f toтем самым наше утверждение доказано. Получаемf*g = g*f,

что и требовалось доказать.

Пример. Пусть G = GLi (R) или SA2(R), Д’ —группа вращений окружности. Положим

Xх = (х (транспонированная матрица),

/10\

x° = Y-VY. где Y = ^o _XJ-

В силу стандартного полярного разложения матриц все условия теоремы 1 выполнены. Напомним, как строится полярное разложение. Пусть xeGLn(R); положим у = х6х; таким образом, у — симметричная положительно определенная матрица. В пространстве R" существует базис, состоящий из собственных векторов матрицы у.

yVi=Xtyi, Xt > 0.

Пусть s — симметричная матрица, такая, что s2 = у; собственные значения матрицы s равны iVM- Выберем s так, что sign det s = sign det x. Положим k = s-xx. Тогда x = sk и det /г= 1. Кроме того, lkk = Ч(8-18-1х = 1ху~хх = txtx-xx-'x = 1. Таким образом, /г — ортогональная матрица, и наше построение окончено.

Вернемся снова к случаю G-=SZ.2(R) или GL? (R). Пусть л: G-*GL(H)

— представление группы G в банаховом пространстве И. Для любого целого п обозначим символом Нп множество элементов у г Н, таких, что

л (г (6)) у = eZn9o.

Ясно, что Нп — замкнутое подпространство.

Лемма 4. Предположим, что пространство Н гильбертово, а представление л унитарно на подгруппе К. Тогда при tn^=n подпространства Нт и Нп ортогональны.

Доказательство. Сужение л на К унитарно. Это означает, что л (г (6))* = л (г (—6)) при всех 6. Пусть у е Нп, w^Hm — произвольные векторы. Имеем

(л (г (6)) о, да) = е‘п9(о, w) — (о, л (г (— 6))ijy) = e<m9(v, w\

Теперь результат очевиден.

Лемма 5. Справедливы следующие соотношения’.

(0 л>(5^ЯсЯ„;

(н) если m#=q, то л1 (Sn, m) Hq = {0}.

Доказательство. Пусть m ф q и у — произвольный вектор из подпространства Hq. Воспользуемся инвариантностьк. интеграла

\ ! 1у) Му) о ^У

относительно преобразований у *-* уг (6). Если / е 8п_m, то значение интеграла не меняется при умножении на e-irn9ei<16 и, следовательно, равно нулю. Доказательство первого утверждения леммы также несложно. Пусть у е Я, fsSn, m. Тогда при к = г (6)

л (к) л1 (f) у = л (к) j f (у) л (у) о dy = / (у) л (ку) udy =GG

= 5 ^ ^-1у) л ^ udy = ^я> (h °- а

Лемма доказана.

Если вектор w принадлежит прямой сумме конечного множества подпространств Hq, мы будем обозначать wq его компоненту в Hq. Лемма 5 показывает, что при fs£s„im оператор л' (/) отображает пространство Н в такую прямую сумму.

Лемма 6. Предположим, что представление л неприводимо. Тогда подпространство Hq неприводимо относительно подалгебры Sq.q, и если Hq^{Q), то л1 (Sq. q) Hq #= {0}.

Доказательство. Пусть W — подпространство в Hq, инвариантное относительно л1 (Sq- q), причем IT =/= {0}, W =^ Hq. Пусть ay е W, и пусть / — конечная сумма функций f№, m е Sn. m. Тогда, по лемме 5,

(Л1 У) w)q = Л1 (fq, q) W S W.

Алгебра .^— £.$„,,„ плоти а в пространстве Cc(G) в топологии равномерной сходимости, согласно лемме 1. Для любой функции fe^- проекция вектора л1 (/) ^ на Hq принадлежит подпространству W. Это противоречит предположению W ^ Hq, так как любой вектор из Hq можно аппроксимировать при помощи последовательностей Дирака (см. § I гл. I). .

Теорема 2. Пусть л — неприводимое представление группы G в банаховом пространстве Н. Пусть Нп — подпространство Н, состоящее из таких векторов о, что л (г (0)) у = е‘"еу.

Если подпространство Н„ конечномерно, то его размерность может быть равна только 1 или 0. Это всегда так, если л — унитарное неприводимое представление в гильбертовом пространстве.

Доказательство. Мы знаем, что подпространство Нп неприводимо относительно л’(5п, „); так как алгебра Sn-n коммутативна, стандартные алгебраические соображения показывают,

что dim//n = 0 или 1. Предположим, что л унитарно, и пусть f е Sn, „; тогда л1^)* = л1 (П, где функция Г определена равенством f*(x) = f (х-1). Немедленно проверяется, что Ге8п,п (ср. с леммой 2, (ii)). Следовательно, л1 (Sra-n) является *-алгеб- рой; теперь утверждение теоремы вытекает из леммы Шура (см. приложение 1).

Теорема 3. Пусть л — неприводимое представление группы G в банаховом пространстве Н. Тогда сумма подпространств Нп плотна в Н. Если Н — гильбертово пространство и сужение представления л на подгруппу К унитарно, то эта сумма является ортогональным разложением пространства Н.

Доказательство. Пусть Е — замкнутая линейная оболочка подпространств Нп. Из леммы 5 и того факта, что сумма подпространств Sm,n плотна в Cc(G), следует, что подпространство Е является Сс(6)-инвариантным, а значит, и G-инвариантным. Поскольку представление л неприводимо, Е совпадает с Н. Если сужение л на подгруппу К унитарно, то из леммы 4 следует, что подпространства Нп взаимно ортогональны. Теорема доказана.

Теоремы 2 и 3 подсказывают возможные приложения полученных результатов к изучению представлений группы SL2(R). Мы можем классифицировать их в зависимости от присутствия или отсутствия подходящих подпространств Нп. В теории сферических функций мы изучим случай, когда в разложении пространства Н содержится подпространство Но- Это равносильно существованию инвариантного вектора относительно подгруппы К, т. е. такого ненулевого вектора иеН, что л(К)о = и. Если в пространстве представления нет такого вектора, представление входит в дискретную серию.

В этом параграфе мы изучали разложение представления относительно подгруппы К, используя только формальные свойства меры Хаара и операторов свертки. В гл. VI мы вернемся к этому разложению и воспользуемся для его изучения свойствами производного представления алгебры Ли. Применяя экспоненциальное отображение, мы получим гораздо более точную информацию о действии группы. Глава VI, в основном, логически не зависит от теории сферических функций, и читатель сможет без труда прочесть большую ее часть непосредственно вслед за данной главой, если он хочет понять, как используется дифференцируемость.

Пусть л — представление группы G в банаховом пространстве Н; предположим, что Н разложено в прямую сумму

H=^Hrtl

где Нп есть п-е собственное подпространство относительно действия подгруппы К, которое было определено выше. Тогда линейная оболочка подпространств Нп плотна в пространстве Н. Можно охарактеризовать ее чисто алгебраически. Будем говорить, что вектор зеН /(-конечен, если множество л(7()и порождает конечномерное векторное пространство.

Линейная оболочка подпространств Нп — это множество всех К-конечных векторов.

Доказательство. Ясно, что любой элемент из линейной оболочки £ Нп /(-конечен. Обратно, предположим, что некоторый элемент о е Н является /(-конечным. Пусть W — линейная оболочка множества л (/() о. Конечномерное пространство W распадается в прямую сумму подпространств Wn, неприводимых относительно л (К), причем Wnc.Hn. Отсюда ясно, что вектор и содержится в У, Нп.

Множество /(-конечных векторов мы будем обозначать Н (К). Теорема 2 показывает, что важно знать, что размерности подпространств Нп конечны. Введем поэтому следующее определение. Будем говорить, что представление л допустимо, если пространства Нп конечномерны при всех п. Теорема 2 означает, что каждое неприводимое унитарное представление допустимо. Будем говорить, что представление строго допустимо, если размерности подпространств Нп ограничены.

§ 2. Общая теория представлений компактных групп

Максимальная компактная подгруппа группы SU (R), с которой мы имели дело в предыдущем параграфе, коммутативна; поэтому нам не потребовалась общая теория представлений компактных групп (которая, впрочем, строится по той же схеме, что и в коммутативном случае). Однако особенности теории, связанные с некоммутативностью, позволяют проиллюстрировать другие общие принципы, например формализм следов, с которыми нам придется встретиться в гораздо более сложной ситуации при изучении некомпактной группы SL2 (R). Поэтому имеет смысл рассмотреть теорию представлений компактных групп в качестве введения в общую теорию.

Пусть К — компактная группа; мы предположим, что ее мера Хаара равна единице. Пусть

л: /( -» GL (//)

— представление группы К в гильбертовом пространстве Н. Из замечания в начале § 1 гл. I мы знаем, что представление л ограничено.

Покажем, что в пространстве Н можно ввести эквивалентную норму, относительно которой представление л унитарно. Для произвольного вектора и е Л положим

I о 1л = ^ I л W о I2 dk.к

Пусть С = шах | л Ш |. Тогда |о|2^С2(о|2 и, следовательно,

кеК

|о|я^С|о|. С другой стороны, для любого кг К имеем

| о | = | л (/г)-1 л (&) v | ^ С | л (&) о |, откуда

I л (/?) о | ^ С-11 X) 1,|о|я>С-1|и|.

Это показывает, что нормы [ • [ и | • ^ эквивалентны; ясно, что представление л унитарно относительно нормы [ • |л. Таким образом, наше утверждение доказано.

В пространстве Z.2(/() (относительно меры Хаара) введем оператор правого сдвига, действующий по формуле

т^^^ = КхЧ\

Тогда Г —унитарный оператор, поскольку

Jlf (xy)l2dx = ^lf(x)?dx, кк

ибо любая компактная группа унимодулярна (любой гомоморфизм компактной группы в мультипликативную группу положительных чисел тривиален). Мы будем называть Т (правым) регулярным представлением.

Пусть ф — непрерывная функция на К. Тогда

Т1 (ф) f (х) = 5 f (ху) ф (у) dy =

= ^ Ну) Ф к^У) dy = (f * ф~) (х),

где мы положили ф“ (х) = ф (х-1). Мы видим, что оператор Т1 (ф) вадается ядром

(х, у)^ф(х-'у),

которое непрерывно на КХ К. По теореме Стоуна — Вейер- штрасса, любую непрерывную функцию на КХ К можно равномерно приблизить последовательностью конечных сумм вида;

£ <Рг W Ф< (у).

При любом I оператор, соответствующий ядру фг ® ф,, т. е. функции (х, у)>—*ф; (х)фг (у), имеет одномерный образ. Следовательно, оператор ^(ф) есть предел последовательности конечномерных операторов в равномерной топологии. Таким образом, оператор Iх (ф) компактен. Из теоремы 1 § 2 гл. I получаем следующее утверждение:

Теорема 1. Пространство 1?(К) разлагается в ортогональную прямую сумму подпространств, неприводимых относительно регулярного представления группы К; другими словами, регулярное представление вполне приводимо.

Теорема 2. Пусть л: К-* Ant Н — унитарное неприводимое представление компактной группы К- Тогда пространство Н конечномерно.

Доказательство. Пусть и —единичный вектор в Н, Р — ортогональный проектор на одномерное подпространство, порожденное вектором и. Пусть Q: Н -► Н — непрерывное линейное отображение, определенное формулой

Qy = ^ л (х)-1Рл (х) о dx.к

Тогда оператор Q коммутирует со всеми операторами л (у), у г К (это сразу вытекает из двусторонней инвариантности меры Хаара). Кроме того, Q = Q*, поскольку

(Qo, зу) = ^ (л (хрРл (х) у, зу) dx = к

= ^ (и, л (х)-1Рл (х) зу) dx = (и, Qsy). к

Из теоремы 4 приложения 1 мы заключаем, что Q = XI для некоторого вещественного числа X; константа X отлична от нуля, поскольку подынтегральное выражение в формуле для квадратичной формы (Qu, и) неотрицательно и строго больше нуля в окрестности единицы. Пусть {uj — ортонормированный базис в Н. Тогда

п

(л (х)"*Рл (х) ub и^ dx = пХ.

i-l к

Для любого хе К множество {л(х)^}—тоже ортонормиро- ванный базис. Следовательно,

2 (Рл (х) Ut, Л (х) U,) < 2 <^Л to “<, Л to U;> = £ (Р“Ь u\

f-l<-lZ-I

где мы положили Ut = it^ut. Но Ро=(у, и)и. Таким образом,(Рии и^ = | (иь и) |2.

Отсюда вытекает, что

£ (Рл (х) Щ, Л (х) Ui) < 2 I (“6 и) |2 = 1.

1—11 — 1

Интегрирование этого неравенства по К завершает доказательство теоремы.

Замечание. Пусть л (х) = (л(/(х))— матричное представление группы в конечномерном пространстве. Пусть {eb . ..,еп) — базис в пространстве представления, a Xt — линейный функционал, сопоставляющий вектору его i-ю координату. Тогда матричный элемент представления л^(х) равен Х((я(х)е(). Действие операторов представления на векторы в матричной записи выглядит следующим образом:

|°1{"1/1

' 0 i | л„ J

Вообще, если л — представление группы G в банаховом пространстве Н, и — вектор из Н и X — линейный функционал на Н, мы будем называть функцию

х X (л (х) у) = Ло, к (х)

матричным элементом представления. Если пространство Н гильбертово, мы можем, разумеется, представить функционал X при помощи элемента жеН; матричные элементы задаются в этом случае формулой

X t-^ (л (х) и, W) = л01 е (х).

Если пространство Н конечномерно, {е;} — его базис и {А,г}— дуальный базис, то след представления задается формулой

Хл W = tr л (х) = 2 К( (л (х) et\

Мы использовали след в доказательстве теоремы 2. В случае бесконечномерных представлений вопрос о сходимости рядов, определяющих след, становится нетривиальным; мы будем обсуждать его впоследствии в связи с конкретными представлениями.

Пусть л, а — представления компактной группы К в банаховых пространствах Н^ и На. Пусть X — линейный функционал на На. Тогда для любых а еК, we Н^ отображение

L; и >—> X (ст (ах) о) л (х-1) w dx

к

пространства На в пространство Нп есть ^гомоморфизм.

Доказательство. По определению,

La (у) и = ^ X (ст (а) а (х) ст (у) о) л (х-1) w dx.к

Сделаем замену переменной xt—>xy-1. Выражение справа переходит при этом в л (у) То, что и требовалось.

Теперь из леммы Шура (приложение 1) вытекает

Теорема 3. Пусть л, ст — неэквивалентные неприводимые представления группы К. Тогда для любых veHa, weHa, аеК

^ X (ст (ох) о) л (х-1) w dx = О,

к

т. е. л1 (ст^ о) = 0; матричные элементы одного представления тривиально действуют в другом. Пусть у — линейный функционал на Нп; тогда

j X (ст (ох) о) у, (л (х-1) w) dx = 0.

к

Замечание. Чтобы получить формулу (3) из (2), достаточно применить к обеим частям функционал ц. Интегрирование перестановочно с непрерывными линейными отображениями в пространствах значений.

Удобно иметь дело с симметричным скалярным произведением, которое задается интегралом

[А §1= J f(x)g(x-‘)dx.к

Теорема 3 показывает, что матричные элементы двух неэквивалентных представлений ортогональны относительно этого скалярного произведения. По этой причине теорему 3 называют соотношением ортогональности.

Следствие. В предположениях теоремы 8 имеем

лЧ%7) = 0-

^Напомним, что х~ (х) ==%ст(х-1).)

Доказательство.

л1 (х') да = $ £ М» (х-1) е,) л (х) w dx — 0. к i

Пусть х — характер конечномерного представления ст, a dx, do или d (ст) — размерность' ст. Для любого представления л определим оператор Рх или Р" формулой

гх = “хя W ) = flx\X (х-1) л (х) dx = dx \ х(х) л (х~') dx.кк

Если представления лист унитарны, то оператор /•” самосопряжен, поскольку в этом случае х~ = %.

Заметим, что оператор PJ коммутирует со всеми операторами л (у), у е G, т. е.

Р^л (у) = л (у) Р”.

В самом деле,

РаЛ (у) = J X (х) Л (х"'у) dx =

(замена переменной xi—*ух)

= j % (ух) л (X-1) dx =

X

(замена хь-^-ху-1)

= $ % (ЯУ-')я (У)я U- ‘) dx = л (у) Р^.

к

Из леммы Шура вытекает, что если представление л неприводимо, то

Ра=Са1

для некоторого комплексного числа са, которое мы сейчас вычислим.

Если представления л и а не эквивалентны, то со = 0 и Ра = 0 в силу теоремы 3.

Лемма. Пусть X — ненулевой линейный функционал на конечномерном пространстве Н. Положим

Тогда

tr Фх. v = ^ (»)•

Доказательство. Если о = 0, то утверждение очевидно. Пусть v^O, («1, v2, .... «„}—базис в Н, такой, что ох = о. Тогда

Фьо(»1) = А(у1)уь

Фх.о(у/) = Му/)у1при/>1.

Только первая строка матрицы фх,0 отлична от нуля, и мы получаем для следа нужное выражение.

Так как след — непрерывный линейный функционал на пространстве операторов, мы получаем

tr ^ л (х-1) фХ1 ол (х) dx = tr фх, 0 = А, (о).

к

Теорема 4. Пусть л — неприводимое представление группы К в пространстве Н. Пусть и, аве Н — произвольные векторы, X — линейный функционал на Н. Тогда

X (л (х-1) ав) л (х) v dx = ~Д^ ^ (°) ®* к

Доказательство. Зафиксируем вектор v е Н и рассмотрим отображение L; Н^-Н, задаваемое левой частью формулы, которую мы хотим доказать. Тогда

Loa = ^ л (х) ф^ 0 [л (х-1) оу] dx. к

След оператора L совпадает со следом ф^у и равен % (о). Кроме того, L является /(-гомоморфизмом и, следовательно, по лемме Шура L = tl для некоторого числа t. Таким образом,

X (о) = t dim л = id (л),откуда, X (о)Lay =а»,

а (л)

Теорема доказана.

Следствие 1. Для любого аг К и для любого функционала ц на Н справедливы следующие соотношения:

^ % (л (а) л (х-1) да) л (х) у dx = -^ ^ X (л (а) и) да ,

X (л (а) л (х-1) да) ц (л (х) у) dx = ^ ^ X (л (а) у) р (да). к

Доказательство. Возьмем л (а) у вместо у в формулировке теоремы, сделаем замену переменной хь-э-ха"1 и применим к обеим частям равенства функционал ц.

Предположим теперь, что представление л унитарно; пусть (ej — ортонормированный базис в пространстве Н. Положим

М»)™^, е,), лг/(х) = <л(х)е<, е,).

Тогда из теоремы 4 и следствия 1 вытекает, что

Ьч/, nJ = -j^-(eb е^, 6^ = 0,

за исключением случая 1 = 1, j = k. Таким образом, скалярное произведение равно нулю, если матричные элементы Л/, и пы не совпадают. Но для унитарных представлений

«а (х) = л,/(х-1) и

[лф nJ = ^ ла (х-') лй, (х) dx = ^ Л/, (х) nfel (х) dx. кк

Таким образом, мы получаем соотношения ортогональности для матричных элементов одного представления:

Следствие 2. Предположим, что представление л унитарно, и пусть я,ц — его матричные элементы по отношению к некоторому ортонормированному базису в Н. Тогда все эти матричные элементы взаимно ортогональны относительно эрмитова скалярного произведения

if, g^^I^g^dx.к

Теорема 5. Пусть л — неприводимое представление группы К. Тогда

Доказательство. Имеем

л1 (Хя) ® = ^ X (^ *) л W ® dx ==к

= j ^ Я^ (л (х_') е() л (х) у dx =

= ^ ^ X, (л (X--) е^ л (х) у dx = 4 х

что и требовалось доказать.

Мы можем теперь следующим образом суммировать полученные нами соотношения ортогональности:

Я‘ (^Ха) = <

г 0, если л ^ о, , 7, если л ~о,

во всех случаях, когда представления л и о неприводимы.

Теорема 6. Каждое неприводимое представление группы К входит в разложение регулярного представления в пространстве L2W-

Доказательство. Из полной приводимости регулярного представления вытекает, что

L4^=^mnHwЛ

Пусть сг — неприводимое представление К, Ф — его характер. Если о не входит в разложение, то для любых л, входящих в /?(/<), получаем

л1 (ч>_) = 0.

Следовательно, если Т — регулярное представление (правыми сдвигами), то оператор Г1 (ч>-) равен нулю на каждом подпространстве Нп и, значит,

Г1 (<) = 0

как оператор в 1?^К\ Но тогда для всех feL2(7<) имеем

0 = Г1 (ф~) f (х) = ^ ф" (у) Т (у") f (х) dy =

= ^ (у~') f (*У) ^У = (Z * 4>) W-

Это невозможно, например, в силу существования последовательностей Дирака; полученное противоречие доказывает теорему.

Теорема 7. Пусть л, а—неприводимые представления группы К. Тогда

(0, если а^п,

( d„’X„, если а~я.

Доказательство. Пусть %, ф — характеры неэквивалентных неприводимых представлений группы К, действующих в пространствах Н и Н' соответственно (для краткости мы будем опускать соответствующие индексы). Пусть {ej — базис в И, {е,} — базис в Н', {X,} и {X/} — дуальные базисы. Тогда

(X * Ф) М = $ X(ах^ф (М) йх = к

= ^ Я,, (л (а) л (х) е^ Ц (л' (х~') е,) dx = 0. i, i к

С другой стороны,

(X * X) (а) ^ ^ § Мл (а) л (х-') е^ Х( (л (х) е^ dx = i. I к

i. 1

i

Теорема доказана.

Следствие. Для любого неприводимого представления л группы К функция d^n — идемпотент в кольце Сс (К^ (совпадающем с С (К)).

Пусть, как и выше, Г —правое регулярное представление группы К, действующее по формуле

T(yM(x^ = t(xyY

Для любого характера % конечномерного представления группы К положим

Рх = Г1 (d.^-Y

Тогда

Iх {d^~) f^ = dx\x (х-') / (ху) dx =— dx \ -/.{yx~l)f(x)dx.

Таким образом,

(РхЛ(у) = ^(Х*/)(у).

Мы видим, что проектор Рг задается сверткой с функцией dx%.

. ИНДУЦИРОВАННЫЕ ПРЕДСТАВЛЕНИЯ

1. Интегрирование на однородных пространствах

При изучении группы SL2(R) мы будем представлять ее в виде произведения некоторых замкнутых подгрупп (не являющихся нормальными). Поэтому здесь мы напомним основные свойства интегралов по множествам смежных классов.

Пусть К — замкнутая подгруппа локально компактной группы G; мы предполагаем, что обе группы унимодулярны. Тогда G действует как группа топологических автоморфизмов на множестве левых смежных классов G/К по правилу

х: уК I—* хуК.

Мера и на пространстве G/К называется G-инвариантной, если р (Л) = р (хА) для любого борелевского подмножества Л cz G/K и для любого элемента xeG. По поводу соответствия между мерами и интегралами см. Ленг [1, гл. XIII, § 4].

Пусть fsCc(G). Обозначим символом fK функцию

х н-* f (xk) dk.к

Тогда, в силу правоинвариантности меры Хаара, ^г Cc(G/K}_ Отображение

Cc(G)^Cc(G/X):

есть отображение «на» (доказательство имеется у Ленга [1, гл. XIII, § 4, теорема 3]).

Теорема 1. Пусть К — замкнутая подгруппа группы G. Предположим, что G и К унимодулярны. Существует единственная инвариантная мера pG/K на пространстве G/К, такая, что для любой функции f е Ct (G) справедливо равенство

G/ДG

где pQ — мера Хаара на G.

Доказательство. Единственность меры pG/x очевидна. Выберем произвольную функцию ф е Сс (G/Д), и пусть f г Сс (G) —

ТогдаТогдаКомпактные группы

Тогда

Тогда

Т1 (dxX~) f (у) = dx J X (*“') t (ху)dx == dx $ X (yx~‘) f (x) йх.

Таким образом,

(^x^ (У) = dx (X * f) (У)-

Мы видим, что проектор Рх задается сверткой с функцией dxx.

ИНДУЦИРОВАННЫЕ ПРЕДСТАВЛЕНИЯ

Интегрирование на однородных пространствах

При изучении группы SL2(R) мы будем представлять ее в виде произведения некоторых замкнутых подгрупп (не являющихся нормальными). Поэтому здесь мы напомним основные свойства интегралов по множествам смежных классов.

Пусть К — замкнутая подгруппа локально компактной группы G; мы предполагаем, что обе группы унимодулярны. Тогда G действует как группа топологических автоморфизмов на множестве левых смежных классов G/К по правилу

х: уК^хуД.

Мера р на пространстве G)K называется G-инвариантной, если р(Л) = р(хЛ) для любого борелевского подмножества AaG/K и для любого элемента х е G. По поводу соответствия между мерами и интегралами см. Ленг [1, гл. XIII, § 4].

Пусть f гСс (G). Обозначим символом fK функцию

х н-* f (х/г) dk.к

Тогда, в силу правоинвариантности меры Хаара, fK ^Cc(G/K). Отображение

сда^сдо1ку.

есть отображение «на» (доказательство имеется у Ленга [1, гл. XIII, § 4, теорема 3]).

Теорема 1. Пусть К — замкнутая подгруппа группы G. Предположим, что G и К унимодулярны. Существует единственная инвариантная мера ^qik на пространстве G[K, такая, что для любой функции f е Сс (G) справедливо равенство

$ f^a/K^ У^а,

G/KG

где p0 — мера Хаара на G.

Доказательство. Единственность меры рс/^ очевидна. Выберем произвольную функцию ф е Сс {G/Д), и пусть f г Сс (G) —

такая функция, что /х = ф. Мы можем определить инвариантный интеграл по G(K формулой

$ Ф^ож = $Мнс>о;ка

если проверить, что

f (х) dx = О,

G

когда /к = 0. Пусть pr: G-*Q(K — каноническая проекция. Выберем функцию ф e.Cc(GIK), равную 1 на множестве pr(supp/). Пусть g е Сс (G) — такая функция, что gK = ^. Тогда, предполагая, что /^ = 0, получаем

0 = ^ ^ g (х-^ (хК) dk dx = ^ g(x)f (xk)dxdk =* G КKG

§K w dx=V ^dx' GG

Теорема доказана.

Замечание. Хотя это нам и не потребуется, отметим, что аналогичные рассуждения позволяют доказать существование инвариантной меры и в том случае, когда группы G, К не обязательно унимодулярны, если только сужение модулярной функции Ао на К совпадает с Ак.

Пусть Р, К —замкнутые подгруппы группы G, такие, что G = PK и отображение

(Р. k) ^ ph

задает топологический (не групповой^ изоморфизм пространства РХ К на G. П редположим также, что группы G и К унимодулярны. Тогда интеграл Хаара на G задается формулой

/ ^ $ $ / ^ dp dfe'

к Р

В самом деле, на пространстве G(K существует G-инвариантная мера; как P-пространство, GfK изоморфно самой группе Р, рассматриваемой как однородное пространство относительно левых сдвигов. Следовательно, эта мера совпадает с мерой Хаара на Р. Таким образом,

(1}(1}dx — dp dk.

(1}

(1}

Порядок множителей ph. существен при вычислении значения f(p/?), но, по теореме Фубини, мы можем написать также

$ / (х) dx = $ j / (ph) dk dp, ap к

т. e. изменить порядок интегрирования.

В приложениях группа Р также представляется в виде произведения

Р = АМ,

еде А и N — замкнутые унимодулярные подгруппы. Другими словами, отображение

А X N -* Р: (а, п) н-* ап

есть топологический изоморфизм. Кроме того, подгруппа А нормализует N (см. пример ниже), т. е. апа~х е N для любых ае А, ne N. Группа G, которая.допускает такое разложение G = АМ К, называется группой Ивасавы, а соответствующее разложение — ее разложением Ивасавы.

Пусть da, dn, dk — меры Хаара на группах А, N, К соответственно. Тогда

dp = da dn,

т. е. если мера Хаара на Р подходящим образом нормирована, то справедливо равенство

NANAРANРAN/ (р) dp = ^,f (an) dn da =f (an) da dn.

NA

NA

РAN

РAN

Доказательство. Ясно, что мера da dn левоинвариантна относительно А. Пусть ^eN. Получаем

^ f (п^ап) dnda = ^ ^f (aa~inlan) dn da.

ANAN

Ho a-^aeN, поэтому мы можем опустить этот сомножитель, делая во внутреннем интеграле замену переменной а~хп1ап.'—*п и пользуясь левоинвариантностью меры Хаара на N. Наше утверждение доказано.

Объединяя (1) и (2), мы видим, что если задано разложение G = АМ К, х = ank — ахпхкх,

группы в произведение ее замкнутых унимодулярных подгрупп, причем А нормализует N, то

(3)(3)dx = da dn dk.

(3)

(3)

Предположим, что А нормализует N. Тогда при фиксированном а е А отображение

п*—> апа-х

есть автоморфизм группы N; следовательно, существует непрерывный гомоморфизм

а: Л-*Ц+,

такой, что

f (апа~х) dn = a(а)-1 f (n) dn.

NN

Заменяя функцию f ее правым сдвигом на а, получаем эквивалентную формулу

f (an) dn = а (а)-1 f (па) dn.

NN

Объединяя (4) и (3), получаем формулу

dx = а (а)-1 dn da dk.

Можно также вычислить модулярную функцию для группы Р = АМ; мы утверждаем, что

(в)А (р) = А (ап) = а (а).

В самом деле, интеграл

^ ^ / (an) da dn, N A

очевидно, инвариантен относительно правых сдвигов из подгруппы N. Пусть ах е А Тогда

^ f (ana,) da dn = ^ f (aa^a^na^ da dn = a(aj ^ f (an) da dn.

Тем самым наше утверждение доказано.

Пример. Пусть G = GLt (R) (группа 2 X 2-матриц с положительным определителем).

Л — группа диагональных матрицЛ — группа диагональных матрицах Оах ОООN — унипотентная группа матриц видаN — унипотентная группа матриц вида02 7(о 102 7(о 1

Л — группа диагональных матриц

Л — группа диагональных матриц

ах О

ах О

О

О

N — унипотентная группа матриц вида

N — унипотентная группа матриц вида

02 7

(о 1

02 7

(о 1

n( ах Ь \

Р — группа верхних треугольных матриц вида ^

Пересечение подгрупп Р и Л с S£2(R) состоит из матриц, для которых а2 = а~1. Справедливо коммутационное соотношение:

ах ОО Огах ОО Ог1 сца^Ь

ах О

О Ог

ах О

О Ог

О 1

Сделаем замену переменных t = axa^'b, dt = a1a^vdb; получим аначение модулярной функции а:

ааа*

а

а

«2

Таким образом, для группы S£2(R)

(7)(7)аа,2,2

(7)

(7)

а

а

,2

,2

Трудно устоять перед искушением ввести некорректное обозначение

а (а) = а2.

/а О X

Правильнее было бы положить, например, /га = 1 a-i ) и аатем писать

а (Ла) = а2.

Реализация на верхней полуплоскости. Пусть % — верхняя полуплоскость, т. е. множество комплексных чисел

z=x-Hy, у>0.

Тогда группа G = GLt (R) действует на $. А именно, пусть/ а b X ,а I с d)^ GL^ (R)-

Положим, по определению.Положим, по определению.0202az-У b сг + d ‘az-У b сг + d ‘

Положим, по определению.

Положим, по определению.

02

02

az-У b сг + d ‘

az-У b сг + d ‘

Несложное вычисление показывает, что a (o' (2)) — (00') (2). Заметим, что матрицы вида

/а ОХ

Vo а)

действуют тривиально. Далее, простое вычисление показывает, что

Таким образом, условие ad. — Ьс > 0 гарантирует, что если ze 6, то и 02 @ $. Поскольку скалярные матрицы действуют на § тривиально, действие группы GLt (R) сводится к действию ее факторгруппы SL2(R).

Пусть К с. SL2 (R) — стационарная подгруппа точки I, т. е. подгруппа таких' матриц, что

ai-yb . ci-yd

Это требование налагает следующие условия на матричные элементы:

а2 + 62 = 1,с2 + d? = 1,ай — be = 1.

Другими словами, К есть группа матриц вида

/ cos 6 sin 6 Xг (8) =. а а •

\ — sin 8 cos 8 7

Отображение он*ai группы SL2(R) на $ задает биекцию NA на ф. В самом деле, ясно, что если у = а2, то

/1 х\/ а О X

U Ло

Заметим здесь, что в разложении подгруппы Р удобен следующий порядок сомножителей:

Р = N А, поскольку тогда а-*оо при у—>оо. Пусть й+а — мера Лебега на прямой. Тогда

йу =* 2ай+а

и, следовательно,и, следовательно,dx dyУ2dx dyУ2 2dx ad+aа* 2dx ad+aа*— 2а (а) 1 dx d*a,— 2а (а) 1 dx d*a,гдегдеd+aa а =а

и, следовательно,

и, следовательно,

dx dy

У2

dx dy

У2

2dx ad+aа*

2dx ad+aа*

— 2а (а) 1 dx d*a,

— 2а (а) 1 dx d*a,

где

где

— мера Хаара на мультипликативной группе положительных чисел.

Параметризуем матрицы из подгруппы Л при помощи переменной aeR+. Тогда из формул (5), (6), (7) следует, что при изоморфизме G)K §

(8)мера 2a (a)-1 dn da переходит в dxdyjy2.

Вывод. При вычислениях, использующих меру Хаара на группе G, особенно удобны разложение апк и мера dadndk. Разложение пак и мера a (a)-1 dndadk удобны тогда, когда мы имеем дело с однородным пространством G/К и его реализацией на верхней полуплоскости.

Индуцированные представления

Пусть К — замкнутая подгруппа группы G; предположим,, что G и К унимодулярны. Предположим также, что существует такая замкнутая подгруппа Р, что G = PK и отображение

PXK->G: (р, k)^ pk

есть топологический изоморфизм.

Тогда мы можем рассмотреть пространство P\G правых смежных классов; при этом пространства P\G и К изоморфны как правые /(-пространства.

Пусть а — представление группы Р в гильбертовом пространстве У. Обозначим символом Н (а) пространство отображений

h G-^V, которые удовлетворяют условию

( (ру) = A (р)‘/2 а (р) f (у)

и сужение которых на подгруппу К принадлежит пространству А2(ЛС, 17). (Здесь А = АР — модулярная функция на А) Пусть

UflFK = $lfWP^

к

— обычная А2-норма на К. Обозначим буквой л представление группы G в пространстве Н (а), задаваемое правыми сдвигами, т. е. действующее по формуле

л (р) f^ = f Wb

Говорят, что представление л индуцированэ представлением а подгруппы К. Дополнительный множитель А (рУА введен в определение для нормировки.

Теорема 2. Если представление а ограничено, то индуцированное представление л также ограничено. Если а унитарно, то представление л тоже унитарно.

Доказательство. Зафиксируем y@G. Напишем ky = p'kk'\ таким образом,

f W) = f (р'Х) = А (р^)71 а <р'^ f (Ю-

Тогда

$ | f (ky) |2 dk = J A (p'6) | a (P;) f (k') |2 dk. кк

Если представление о унитарно, то правая часть равна

$ А (р^) 1 f (О F d£; к

если а ограничено, то она оценивается сверху этим интегралом, умноженным на константу. Проверим теперь, что для любой функции ф е Сс (/<)

j ф (/г') А (р') dk = ^ ф (Л) dk.

кк

Пусть feCc(GY Так как группа G унимодулярна, получаем

Н f (р/г) dkdp = ^fU^dx = ^ f (хр) dx = ^ ^ f (р/гр) dk dp = р каор к

=5 V (^^d dPdk== $ V ^^^л ^dp dk к рк р

= $ ^Kpk'^^dkdp. р к

Мы получим нужный нам результат, если положим f (pk) — = ф(/г)<р(р), где фгСс(/<), феСДР) и

(ф(р) dp = L

р

Заметим, что, кроме того, мы доказали и ограниченность представления л, если от представления о тоже требовать лишь ограниченности.

Предположим для простоты, что представление а одномерно, т. е. является гомоморфизмом в мультипликативную группу комплексных чисел. Тогда определены также одномерные представления о~‘, а-1, где аг — комплексно сопряженное представление. Мы будем писать

о* = а~1.

Чтобы избежать комплексных сопряжений, определим симметричное скалярное произведение на L2(^<) формулой

[Л Я] = J f W g W dk.к

Теорема 3. Пространства Н(а) и Я (а-1) двойственны относительно этого скалярного произведения. Для любых у ^G* f г Н (а), geH (а-1) справедлива формула

[«(У)f, Sl = [f, л(^-1)§].

Доказательство состоит в несложном вычислении:

$ л (у) f (k) g (fc) dk = J f (ky)g(k)dk = кк

=5a (X)* °ш f § wdk= к

5 А W* ° (X) f ^^ 2 W'lr^ dk = к

5 А (X) ° Ш f ^ ° (Ph)"1 g ^'у^ dk = к

= \t^gkky-^dk, к

что и требовалось показать.

Если рассматривать эрмитово скалярное произведение, следует заменить о-1 на о*. В этом случае пространство Н (о*) эрмитово двойственно к Н (о).

§ 3. Ассоциированные сферические функции

Пусть, как. и выше, G = PK и P — AN, причем А нормализует N. Предположим, что группа К компактна, и ее мера Хаара равна 1. Как и раньше,

Ь(р)=& {ап) = а (а).

Введем обозначение р (а) = а (а)1/».

Пусть s — комплексное число. ПоложимPs W = Ps {ank) = р (a)s+1.

Тогда ps {k) = 1 = ps {n). Функция

задаваемая формулой

ps{an) = p{a)$,

есть, очевидно, характер группы Р (непрерывный гомоморфизм в С). Если | p,s|= 1, то мы будем говорить, что p,s — унитарный характер.

Пример. Для группы SL2(R)

Обозначим символом Н (s) пространство представления л$ группы G, индуцированного представлением ps- Это пространство функций / на G, таких, что

f (any) = р {a)s+tf (у), а г А, п е N;

сужение f на К принадлежит L2{K\

Обычная норма в L2{K) наделяет H{s) структурой гильбертова пространства.

Мы утверждаем, что функция р5 — единичный вектор в пространстве И (s).

Доказательство. Сначала покажем, что функция ps нужным образом преобразуется при левых сдвигах из подгруппы Р. Имеем

р$ {nay) = р$ {папуаф = ps {nanga-vaay) = ps (a) ps {y) == p (a) p {a)s р$ {у) = A {na)'11 ps (a) p$ {y).

что и требовалось.. Далее,

llpsIPK=$lp$WI2^ = l.к

Таким образом, ps — единичный вектор в пространстве представления л,. Кроме , того,

л5 (/г) р$ = р$,

поэтому ps называется инвариантным вектором относительно подгруппы К или, короче, К-инвариантным вектором.

Несмотря на то что мы здесь имеем дело с бесконечномерными представлениями, мы можем рассмотреть матричный элемент

<л$ W р$, р$) = j л, (х) ps (/?) ps (/г) dk = ^ ps (kx) dk.кк

Как мы увидим, это весьма важная функция, ассоциированная с характером ps; она будет подробно изучена в главе, посвященной сферическим функциям. Мы будем пользоваться следующим обозначением:

ф$М = ^ Р(^)$+1 dk.к

Характер ps унитарен тогда и только тогда, когда число s чисто мнимое. В этом случае, как мы увидим позднее, сдвиги функции фз порождают неприводимое подпространство Hs; сужение представления л3 на это подпространство — неприводимое унитарное представление группы G. Мы будем называть фз сферической функцией, ассоциированной с характером ц,.

Семейство представлений л, часто называют основной серией представлений группы SL2(R). В некоторых работах термин «основная серия» используется только для унитарных представлений, когда s чисто мнимое. Пользуясь этим термином, мы всегда будем указывать, какая область значений s подразумевается в каждом конкретном случае. Кроме того, как мы увидим, эти индуцированные представления SL2(R) распадаются на две неприводимые компоненты в соответствии с четностью функций из пространства представления; здесь опять-таки термин «представления основной серии» иногда используют только для этих неприводимых компонент (см. § 3 гл. VII).

§ 4. Ядро, задающее индуцированное представление

Пусть sgC. Определим пространство H(s), как в предыдущем параграфе, и пусть л$ — представление группы G в /f (s) правыми сдвигами, т. е.

л, W f (у) = f ^ух^fsH (s).

Пусть ^eCc^G). Найдем выражение для оператора л| (ф): itsWfW = \$(x)xs(x)f(y)dx = ^(x)f(yx)dx~

ао

( ^ ^(к^п^а^ an.k")t^ank') da dn.dk = AN К

= ^ ^ (kg1 пнг ОуХ ank) р (aY+v f Wdadn.dk = АПК

= ^ф (&, У) t W dh» к

где

<7^(k, у) =^ ^(ky 'ngxa.g 'an^) p(a)s+1 dadn.

A М

В частном случае при у = к'

q^(к, к''}— ^ ^ ф(к^апк) р (a)s+1 dadn.

своимисвоимиA N

своими

своими

Разумеется, функция л^(ф)/ полностью определяется значениями на К, и мы имеем

л-(ф)/(^) = \q^k,k')f(k)dk.

положив(4)положив(4)Таким образом, мы видим, что оператор л*(ф) задается ядром <7ф(^. У)- В данный момент мы не станем заниматься вопросами сходимости следа, определенного при помощи матричных элементов оператора; мы предпочитаем, не вдаваясь в детали, как можно скорее окунуться в теорию сферических функций. Поэтому сейчас мы определим след оператора л^(ф) ad hoc,

положив

(4)

положив

(4)

tr л* (ф) = ^ ^ (^> ^ ^*к

где

^(/г,/г)=^ ф (k~{ank) p(a)s+l da dn.

A N

(Связь этого определения с обычным мы обсудим впоследствии, когда будем заниматься формулой Планшереля.)

Предположим, что функция ф инвариантна относительно внутренних автоморфизмов из подгруппы К, т. е.

ф(/гх/г~’) = ф(х)

для всех xeG, к г К. Пространство таких функций мы будем обозначать Cc(G, К). Тогда формула для ядра q^ еще больше упрощается, а именно справедливо следующее утверждение:

Если ф е Сс (G, К), то функция

q^ (fe, k) j ф (an) р (a)s+1 da dn

A N

— постоянная, не зависящая от к.

Будем по-прежнему предполагать, что полная мера подгруппы К равна 1. В гл. V мы подробно изучим преобразование Хариш-Чандры на пространстве Cc(G, К), определяемое формулой

Нф (а) = р (а) ( ф (an) dn, где р (( а ^= а.

V\\0 а-1 я

Приняв это определение, мы получаем следующий результат:

Теорема 4. Для любой функции ^e.Cc(G,K( и любого s е.С

tr л^ (ф) = ^ Нф (а) р (a)s da.А

Интегралы такого вида, зависящие от параметра s, мы будем в дальнейшем называть преобразованием Меллина и обозначать буквой М. Теперь мы можем еще сократить нашу формулу для следа и написать

tr л^ (ф) = МНф (s).

Если функция ф биинвариантна относительно К, т. е. ^(кхк') = = ф(х) для всех к, к' еК и всех xeG, то последний интеграл равен

ФМрМ^' dx. о

Случай биинвариантных функций будет систематически изучен в следующей главе.

IV. СФЕРИЧЕСКИЕ ФУНКЦИИ|

4

В этой и следующей главах мы изучим алгебру функций на группе G, которые инвариантны при правых и левых сдвигах из подгруппы К, и установим связь характеров этой алгебры с теорией представлений. Последний вопрос сводится к изучению тех представлений, которые содержат /(-инвариантный век-, тор. Наше изложение охватывает § 3 и § 4 последней главы книги Хелгасона [2]. Мы опираемся только на абстрактные свойства меры Хаара и свертки и не используем дифференциальных операторов. Преимущества такого подхода отмечал Годеман [6]; см. также статью Тамагавы [1], которой мы частично следуем. Чтобы доказать, что все сферические функции исчерпываются теми, которые мы явно построим, нам понадобятся дифференциальные уравнения, и доказательство этого факта будет отложено до § 3 гл. X.

По поводу р-адической теории см. статью Макдональда II].

На протяжении всей этой главы мы предполагаем, что G — унимодулярная группа. К —ее компактная подгруппа, и мера Хаара на К нормирована, т. е.

Kdk = \.

Двусторонне инвариантные функциина группе

х е G. Пространство двусторонне функций на G с компактным носи- Се(ОЦЮ. Для любой функции /нах е G. Пространство двусторонне функций на G с компактным носи- Се(ОЦЮ. Для любой функции /наФункция / на группе G называется двусторонне /(-инвариантной (или, для краткости, просто двусторонне инвариантной, или бнинзариаитной), если

х е G. Пространство двусторонне функций на G с компактным носи- Се(ОЦЮ. Для любой функции /на

х е G. Пространство двусторонне функций на G с компактным носи- Се(ОЦЮ. Для любой функции /на

для всех &ь ^2 е К и всех инвариантных непрерывных телем мы будем обозначать

группе G положим

fK^^l^dk;

функция Kf определяется аналогично при помощи усредненияпо левым сдвигам. Тогда в силу инвариантности меры Хаара,

функция fK право-К-инвариантна, а функция к/ лево-2<-инва- риантна. Если исходная функция f право-К-инвариантна, то р — f; поэтому отображение f i—> ft — проектор на пространство правоинвариантных функций. Аналогичное утверждение справедливо и для отображения f -—^Kf. Таким образом, функция KfK двусторонне инвариантна.

Пусть t— правоинвариантная функция. Тогда для любой функции ф

/ (х) ф (х) dx=^ (х) фк (х) dx. ао

В самом деле,

$ / (х) ф(х) dx = р (х) ф (х) dx dk = ок о

= ^ f (х) ф f^xk) dxdk= ^ f (х) ф* (х) dx.

KGG

(Мы сделали замену переменной х*^»хк и воспользовались теоремой Фубини.) Аналогичное утверждение справедливо и для левоинвариантных функций. В частности, если функция f двусторонне инвариантна, то

f (х) ф (х) dx = f (х) ^ф^ (х) dx. вв

Эти соотношения выполняются во всех случаях, когда интегралы абсолютно сходятся, например если функция / непрерывна, а ф имеет компактный носитель или f принадлежит пространству Lv, а ф ограничена. На практике подобные условия сходимости всегда будут тривиальным образом выполнены, и с этой точки зрения теория, которую мы здесь излагаем, не содержит каких-либо тонкостей.

Пусть л: G -* GL (Н) — представление группы G в гильбертовом пространстве Н. Обозначим Нк подпространство, состоящее из ^-инвариантных векторов, т. е. из таких векторов деН, что

л (/?) и — о для всех к s К.

Зададим отображение РК: НН формулой

РКо — ^ л (£) и dk.к

Тогда Рк есть ортогональный проектор на подпространство Нк. Пусть v^HK, феСДО-). Тогда

Л1 (ф) и = Л* (фК) о.

3 Зак. 589

Обратно, если функция ф принадлежит пространству Сс(ОЦД) ио— произвольный вектор из Н, то

Л1 (ф) У Е Нк.

Если v, weH8- и л (К)* = л (К) (например, если сужение представления л на К унитарно'), то

(л1 (ф) у, ш) = (л1 (кфк) у, ш).

Эти утверждения тривиально проверяются при помощи определений и будут свободно использоваться в дальнейшем без специальных ссылок.

Пространство Сс (G//K) является алгеброй относительно свертки. Важнейшее свойство этой алгебры — ее коммутативность, которая была впервые открыта И. М. Гельфандом.

Теорема 1. Пусть О — локально компактная унимодулярная группа, К — ее компактная подгруппа. Пусть т — антиавтоморфизм группы G порядка 2, такой, что для любого хеС существуют элементы kx, k=)EK, для которых

Xх ~ kxxk2.

Тогда алгебра СДОЦК) коммутативна.

Доказательство. Мера Хаара инвариантна относительно отображения xv—^x1; в самом деле, 1 = А(т2) = А(т)2, откуда Д(т) = 1. Кроме того, f(x) = f(xT) для любой функции f е гСс(С//К). Рассмотрим теперь свертку произвольных функций f, g е Cc(G//K). Воспользуемся инвариантностью этих функций относительно автоморфизма т и сделаем в интеграле замену переменной у-—>ух. Получим

(/*5) ^0) = ^ (ху"1) g (у) dy =

= $ f Су-У) g (у') dy=^f Су-') g W) dy.

Сделаем в последнем интеграле замену переменной у*—> у-1 и подставим ktxk2 вместо хт; пользуясь инвариантностью меры Хаара, получаем

(f * g) (х) = (£*/) (х);

теорема доказана.

Пример. Предположения теоремы 1, разумеется, выполнены, когда G = SL2(R), а К —группа вращений окружности. В качестве преобразования т возьмем транспонирование матриц. Разложение x=sk произвольной матрицы xeG в произведение симметричной и ортогональной немедленно показывает, что ‘х = ^ ks = к-'хк-\ поскольку *к = к-\

Неприводимость

Одним из приложений теоремы 1 будет изучение неприводимых представлений группы G, и в особенности ее унитарных представлений. Вместо того чтобы предполагать, что представление л: G ->GL( H^ унитарно, иногда достаточно предположить, что оно *-замкяуто, т. е. л(О) = л(О)*, или что этим свойством обладает сужение представления л на подгруппу К, т. е. л (Я) = = л(К)*. Кроме того, ясно, что замыкание линейной оболочки множества л(О)Ял является G-инвариантным подпространст- во.м Н; следовательно, если представление неприводимо и Нк =# 0, то это замыкание совпадает со всем пространством Н.

Теорема 2. Пусть л: G -*GL(H) — представление группы G в гильбертовом пространстве Н. Предположим, что представление л и его сужение на К *-замкнуты. Допустим, что Нк=#=0 и что замыкание линейной оболочки множества n(G)HK совпадает с И. Тогда пространство Нк является С C^G ЦПУ неприводимым в том и только в том случае, когда СДЙ)-неприводимо пространство Н (и, следовательно, представление л неприводимо^.

Доказательство. =ф Пусть W cz Н — ненулевое G-инвариантное подпространство; в силу условия *-замкнутости, подпространство IT3' тоже G-инвариантно. Пусть Р = РК — ортогональный проектор на подпространство Нк. Рассмотрим два случая. Сначала предположим, что PW = 0. Из равенств

H = W®WX и PH = PW^PWX получаем, что PW1" = Нк; таким образом, HKczW\ откуда WL = H, 1^ = 0, и наше утверждение доказано. С другой стороны, если PW = WK =А Нк — нетривиальное подпространство, то оно С с (О//К)-инвариантно; в самом деле, если ф е Сс (G^Ky w eW, то

л' (ф) и» е W и, кроме того, вектор л'(ф)ау инвариантен относительно подгруппы К. Таким образом, и в этом случае наше утверждение доказано, и тем самым доказана первая половина теоремы.

4= Обратно, предположим, что пространство Н неприводимо. Пусть R7 с Нк — ненулевое подпространство, инвариантное относительно алгебры СДСЦКу Предположим, что W ^ Нк; тогда существует ненулевой вектор и е Нк, ортогональный этому подпространству. Мы покажем, что

л1 (Cc(G))o 1 W, откуда следует, что замыкание линейного подмножества л1 (СДО)) о не совпадает со всем пространством Н. Пусть ojeW

и феС6(0). Тогда

о, w) dx dkx dk2.о, w) dx dkx dk2.(л1 (ф) о, ш) = ^ ^ ^ ф (х) (л (х)к к а

о, w) dx dkx dk2.

о, w) dx dkx dk2.

Сделаем замену переменной х^—»хк^. Оператор л^О равен л(х)л(/г1); множитель п^к^ можно опустить, поскольку вектор и принадлежит подпространству Нк. Сделаем теперь замену переменной х*—* к2х. Тогда л (/?2х) = л (fe2) л (х); перенесем оператор л(/г2) на вектор ш, заменив его на эрмитово сопряженный. Так как w е Нк, этот оператор тоже действует как единичный. Это показывает, что наше выражение равно

КФК (х) (л (х) о, ш) <2х = (л'(^Ф^у, ш) = 0, о

поскольку ортогональное дополнение подпространстваW в Нк инвариантно относительно операторов л1 (f) для любых функций f еСс (ОЦК). Это противоречит неприводимости пространства Н.

Теорема 3. Пусть л: G -> GL (Н) — неприводимое унитарное представление. Если алгебра Cc{G Ц К} коммутативна, то

dim Нк ^ 1.

Доказательство. Предположим, что dim Нк ^ 0. Из теоремы 2 мы знаем, что пространство Нк неприводимо. Алгебра Cc(G//K) коммутативна и *-замкнута. Теперь лемма Шура показывает, что сНтЯк=1, что и требовалось.

Теоремы 2 и 3, естественно, применимы, когда G = SL2 (R), а К—группа вращений окружности. Однако ни одно из доказательств, которые мы привели, в этом частном случае не упрощается.

Определение сферических функций

Мы по-прежнему предполагаем, что группа G унимодулярна, а К — ее компактная подгруппа. Будем говорить, что функция f на группе G является Я-сферической, или, для краткости, просто сферической, если она обладает следующими свойствами:

SPH 1. Функция f двусторонне инвариантна и непрерывна.

SPH 2. Функция f — правая собственная функция алгебры СДОИ К), т.е.

^^ху, ф)/

для любой функции ф = Cc(GЦ К) и некоторого комплексного числа X(f, ф).

SPH 3. f(e)=l, где е — единичный элемент G,

Последнее условие есть условие нормировки. Произвольную функцию, удовлетворяющую первым двум условиям и такую, что / (е) #= 0, можно поделить на f (е) и получить функцию, удовлетворяющую всем трем условиям.

Заметим, что собственное значение Л (/, ф) равно (f * ф) (е); это вытекает из второго условия, если воспользоваться им в точке е.

Следующая теорема дает основной пример сферических функций.

Теорема 4. Предположим, что G^PK, где Р —замкнутая подгруппа, и Р X К РК = G — топологический изоморфизм. Пусть

р: Р^е

— характер группы Р (т. е. непрерывный гомоморфизму, продолжим его до функции на G, полагая р(р/г) = р(р). Тогда р — правая собственная функция алгебры Сс\ОЦК\ т.е.

(Р * Ф) W = X (р, ф)р(х),

и функция f, такая, что

f (х) = р (/гх) dk,

к

является К-сферической с собственными значениями Щ, ф) — = (р * ф) (е) = X (р, ф).

Доказательство. Положим x = pxkv Тогда для любой функции ф е ОДО Ц К) получаем

(р * ф) (х) = J р (хх/-’) ф (р) dy = J р (р^) ф (у-1) dy.ав

Пусть y = pk; тогда р (рху) = р (pip) = р (р,) р (р) = р (pj р (у). Таким образом, наше последнее выражение равно

Р (Pi) $ Р (//) Ф ^.У-^ dy = К (р, ф) р (х).

G

Итак, мы доказали, что р — собственная функция, и получили явное выражение для соответствующего собственного значения. Рассмотрим теперь функцию f:

(/*ф)(х) =G(/*ф)(х) =Gf (xy~l) ^(y)dy= ^ р (/гху-1) Ф (р) dy dk =

(/*ф)(х) =

G

(/*ф)(х) =

G

к о

= ^ X (р, ф) р (/гх) dk = Л (р, ф) / (х);

таким образом, f — тоже собственная функция с тем же собственным значением. Ясно, что f (е) = 1; кроме того, f двусторонне инвариантна, так как функция р правоинвариантна, а после усреднения она становится также и левоинвариантной. Итак, теорема 4 доказана.

Пример. Абстрактное утверждение теоремы 4 принимает конкретную форму для группы G=SL2 (R), которую мы постоянно имеем в виду в этой книге. Группа Р состоит в этом случае из треугольных матриц

/а 6 \"-(о «-')■ о>0:

оа-1оа-1

о

а-1

о

а-1

Пусть s — произвольное комплексное число. Тогда функция ps: pt—*as есть непрерывный гомоморфизм группы Р в С*; таким образом, мы получаем сферические функции

х н-> р (кхУ dk.к

Мы систематически изучим эти функции в следующей главе. Пока же приведем еще несколько теорем, справедливых для групп G и К общего вида.

Теорема 5. Пусть / — непрерывная функция на группе G, не равная тождественно нулю. Тогда функция f сферическая в том и только в том случае, когда

j f <xky) dk = ЦхМ (у)к

для всех х, у eG.

Доказательство. Предположим, что функция / сферическая. Для произвольного элемента х е G положим

f*(#) = jf(N) dk.к

Пусть <р е СДОДКУ Тогда

(^ * ф) (у) = j Fx (yz-1) ф (z)dz =а

= ^ f {xkyz~ *) ф (z) dk dz.

g к

Изменим порядок интегрирования и сделаем последовательные замены переменных zv-»zy, 2 >—*2/?. Получаем, что наше последнее выражение равно

$ t (xz~^ Ф ^ky^ dz dk = (f* ф') (x), к a

где

фу to=j ф t^dk-к

Так как функция ф' двусторонне инвариантна, находим окончательно

где Х^, ф') — собственное значение. Положим х = е. Тогда Fe^ = f^,

т. е. Fe = f. Следовательно,

(f * ф) (</) = Ь (f, Фу) f (е) = X (f, ф'Д и поэтому

(Fx * ф) (у) = (f * ф) (у) f (х)-

С другой стороны, пусть {ф„} — последовательность Дирака; применим только что полученную формулу к функции ф = ф„. Как мы знаем,

Fx*<pn-*Fx и /*Ф„-*/ при п-*оо.

Так как функции Fx и f двусторонне инвариантны, мы можем заменить фп на кф£. Следовательно,

J f (x/ty) dk = Fx (у) = Цу>1 to- к

Это доказывает первую половину нашей теоремы.

Обратно, предположим, что функция f удовлетворяет сформулированному функциональному уравнению. Пусть xoeG — такая точка, что f (х0) =# 0. Тогда

f to) f (У) = $ f to^M) dk = f to) f ^i«Y к

Таким образом, Цу) = ЦЬ1У) Для всех kieK, т. е. функция / левоинвариантна. Аналогичное рассуждение показывает, что функция f правоинвариантна; итак, она двусторонне инвариантна. Тогда

f to) = J f VxQk^ dk = f (x0) f (e);

таким образом, f(e)=l. Наконец, пусть ф е Сс (G//7<) — произвольная функция. По определению,

(f *ф)(х) = f (ху-')ф(у)(/у.

G

Умножим правую часть равенства на 1 = ^ dk, сделаем замену к

переменной у >—* у к 1 и поменяем порядок интегрирования. Получим

У *ф)(^) = И Ихку-1)ф^йкйу =

G к

= 5 f (х) f (у-1) ф (у) dy = (/ * ф) (е) f (х).

а

Следовательно, f — собственная функция алгебры Сс (ОЦК), и мы доказали вторую часть нашей теоремы.

Теорема 6. Пусть f еС (ОДК\ Тогда f — сферическая функция в том и только в том случае, когда отображение

L; ф I—> ^ ф (х) f (х) dxо

есть гомоморфизм алгебры Сс{ОЦК) в С.

Доказательство. По определению,

L (ф * ф) = ^ ф (ху"1) ф (у) f (х) dy dx.

а а

Поменяем порядок интегрирования и сделаем замену переменной х*-*ху. Получим

L (ф * ф) = ^ ф (х) ф (у) f (ху) dx dy.

а а

Умножим это выражение на 1 = j dk, сделаем замену пере-

к

менной Xменной X(1)(1)(2)(2)хк и поменяем порядок интегрирования. Получим

менной X

менной X

(1)

(1)

(2)

(2)

L (ф * ф) = j j ф (х) ф (у) j f (xky) dk dx dy.

С другой стороны,С другой стороны,Q QК

С другой стороны,

С другой стороны,

L(ф) L (ф) = ^ Ф(х) -ф(у) f (х) t(у) dxdy.о а

Итак, утверждение теоремы 6 в одну сторону доказано: если f — сферическая функция, то отображение L является гомоморфизмом.

- Обратно, предположим, что L—гомоморфизм алгебр, т. е. что

Ь(ф*ф) = £(ф)£(ф)

для всех функций ф, ф&Се(СЦК). Тогда из равенства выражений (1) и (2) немедленно вытекает функциональное уравнение для функции f, что и требовалось доказать.

Замечание. Если в условиях теоремы 6 предположить, что функция f ограничена, то отображение

L: ф и-> ^ ф (х) f (х) dx

G

продолжается до гомоморфизма алгебры Ь1(СЦК) в С.

Теорема 7. Всякий непрерывный гомоморфизм алгебры U (G/j К) в С имеет вид

Ф^^ *ф-)(е), где f —- некоторая ограниченная сферическая функция.

Доказательство. Как известно из теории меры, для любого ненулевого характера L алгебры L^Gj/K) существует такая ограниченная измеримая функция f, что

^еьчсцку^еьчсцкуL (ф) = ^ ф (х) f (х) dx, а

^еьчсцку

^еьчсцку

Подставим в это равенство ф^хбз) вместо ф(х), проинтегрируем по КХ К и сделаем замену переменной х н-> ^-‘х^Г1- Это показывает, что мы можем заменить функцию / функцией х t—> j j f (kpckz) dk\ dk2, к к

т. e. можем предположить, что f двусторонне инвариантна. Из формул (1) и (2) получаем

$ f ^xky^ dk = f (х) f (у) к

для почти всех пар (х, у) е G X G. Чтобы показать, что можно заменить f непрерывной функцией, выберем такую функцию е Сс (G), что

Ф (У) f Vd) ^У о, а

и предположим, без потери общности, что этот интеграл равен 1 (если потребуется, можно умножить функцию ф на константу). Тогда

( Ф (х) f (х) dx ( ф (у) / (у) dy = И ф (х) ф (у) ( / (xfcy) dk dy dx.

ооа а к

Воспользуемся теоремой Фубини и сделаем последовательные замены переменных y^-k-vy, yt—>x~'y. Мы получим, что последний интеграл равен

а ква кв^ ^ Ф (х) ф (^-1х-1у) f (у) dy dk dx =

а кв

а кв

= ^ ^ Ф (х) ф (Ьг'у) f (у) dk dy dx. а а к

Таким образом, вместо f можно взять непрерывную функцию g, которая задается формулой

g (х) = $ ^ ф (йх-'у) f (у) dk dy.

а к

Теорема доказана.

Замечание. Если G — группа Ли, снабженная структурой гладкого многообразия, то мы можем взять феС”(С), и наша функция будет бесконечно дифференцируемой.

Связь с унитарными представлениями

Пусть л: G->Aut/f —унитарное представление группы G в гильбертовом пространстве Н. Пусть и е Нк — единичный вектор. Мы изучим матричный элемент представления

f (х) = Л„, „ (х) = (л (х) и, и\

Очевидно, функция f двусторонне инвариантна и /(е) = 1.

Будем говорить, что вектор о е Н топологически порождает пространство Н (относительно представления л), если замыкание линейной оболочки множества л(С)и совпадает со всем пространством Н.

Теорема 8. Пусть л: G —> Aut Н — унитарное представление; предположим, что существует единичный вектор и, топологически порождающий подпространство Нк cz Н. Тогда пространство Нк одномерно в том и только в том случае, когда функция ft хн* и-*(л(х)и, и) сферическая.

Доказательство. Мы видели, что функция f двусторонне инвариантна и /(е) = 1. Предположим, что подпространство

Нк = Си одномерно. Для любой функции феСс(С///() вектор лДф)^ инвариантен относительно подгруппы К; таким образом, л1 (ф)ц = К(ф)и для некоторого числа /.(ф)еС, и отображение

ф1_,;Цф)

есть гомоморфизм алгебр. Но

У * Ф-) (е) = ^ f (х) ф (х) dx = ( ф (х) (л (х) и, и) dx = (л1 (ф) и, it), ао

Это означает, что отображение ф i—> (f * ф~)(е) есть гомоморфизм алгебры Cc(G//A) в С; поэтому, согласно теореме 6, функция f сферическая. Заметим, что при доказательстве этой части утверждения теоремы мы не использовали того, что вектор и — порождающий.

Обратно, предположим, что / — сферическая функция. Пусть

Р: v |—> л (fe) о dfe

— проектор на подпространство Нк. Для любого & е G имеем (Рл (х) и, л (6) и') = (л (й-1) Рл (х) и, и) =

= f (б^йх) dk =f (б-1) f (х) = (f (х) и, л (&) it), к

(Мы воспользовались теоремой 5.) Так как векторы л (6) u, beG, порождают плотное линейное подмножество в Н, отсюда следует, что

Рл (х) и = f (х) и.

Таким образом, РН = Си и dim#*=l. Теорема доказана.

§ б. Положительно определенные функции

Ненулевая функция f на группе G называется положительно определенной, если она непрерывна и для любого набора точек Xj, • • •, хл ^= G, аь ..., Ид ^s С

ЕЦх^а^Х).

Последнее условие можно также записать в виде

заменяя xt на xj"1.

Пример. Пусть л: G -> Аи!Я — унитарное представление группы G в гильбертовом пространстве Н, mH — единичный вектор. Тогда функция

f: х>—>(л(х)и, и} положительно определена, поскольку

У (л (х^1) ага,и, ^ = ^У а;л (х;) и, У а,л ^х^ и^ ^ 0.

Мы увидим, что этот пример, по существу, исчерпывает все положительно определенные функции.

Перечислим сначала три простых свойства положительно определенных функций:

f^X^

f^^HX);

lf(x)|<f(e).

Для доказательства первого свойства возьмем п=1, х1 — е, 01 = 1. Чтобы доказать второе, возьмем xt = e, х2=х, oi — а2= 1. Напишем

/ (х) = г (х) + ЭД.

Мы знаем, что

f (е) 0161 + f (х-1) 0,02 + f (х) o2oi + f (е) о2о2 > 0.

Отсюда ясно, что число f (х-1) + f W вещественно; таким образом, t (х-1) = — t (х). Возьмем теперь «1 = 1, а2=1. Тогда число

г (х-1) ощг + г (х) 0201 = г (х-1) i — г (х) I

должно быть вещественным, откуда г (х~’) = г(х). Итак, второе свойство доказано. Для доказательства последнего положим

«2 = — I f W I, Cj = f (х).

Получим

f (е)| f (х) f - 2| f(x) |3 + Ж1 f (х) l2>0, откуда

1Их)Р</Ш(х)р.

Если f(x) = O, то все доказано, поскольку f(e)^O; если же f(x)#=O, то мы можем разделить обе части неравенства на

I/WI2.

Обращая конструкцию из нашего примера, мы построим сейчас по заданной положительно определенной функции ф унитарное представление. Обозначим символом Уф векторное про-

странство, порожденное функциями л (а) ф — правыми сдвигами функции ф. Напомним, что, по определению,

л (а) ф (х)--ф (ха), х, aeG.

Ясно, что л (аб) = л (а) л (Ь). Если f, §еУф, то

1(х) = ^1а1<р(ха{), g(x) = £fyp(xbf), а„ р, G С.

Определим скалярное произведение функций f, g равенством

<t, g) = H °,Р,Ф (b7'ai) = Е «Д Ф (a7tbi) =

= ’Laig«') = ^lf(b71).

Если задано выражение для функции g в виде линейной комбинации сдвигов функции ф, то приведенная цепочка равенств показывает, что величина (f, g) не зависит от того, как функция f представляется в виде линейной комбинации сдвигов функции ф. Поскольку f и g в предыдущем утверждении можно поменять местами, величина (f, g) определена корректно и, очевидно, задает положительную эрмитову форму в пространстве Уф, возможно, вырожденную.

Пусть V” cz V — ядро этой эрмитовой формы, Нф — пополнение факторпространства Иф/У°; таким образом, Нф — гильбертово пространство. Тогда операторы сдвига, которые оставляют нашу эрмитову форму в пространстве 7ф инвариантной, индуцируют унитарные операторы в пространстве Уд/Уф и, следовательно, продолжаются до унитарных операторов в пространстве Нф. Значит, мы получаем групповой гомоморфизм

лф: С->Ап!Яф.

Проверим теперь, что для гомоморфизма лф выполнено условие непрерывности, т. е. что лф —- представление группы G в пространстве Нф. В начале книги мы уже отмечали, что достаточно проверить это условие на плотном множестве; таким образом, достаточно проверить его иа элементах fе Уф.

Пусть f (х) = У, а,ф (ха,), так что

Л (у) f (х) = Е а,ф (xyai), y^G.

Тогда

lln(y)f — fll2 = <n(y)f — f, МуИ — f) =

= 2(f, Ь-^^уИ, ML ™^b =

= 2Еа,а/ф(а/-’а,) — E «^(а^у-'а,) — E а,«/Ф (аГ'уаД

Это последнее выражение стремится к нулю при у~*е. Следовательно, отображение

у >-> л (у) /

непрерывно в окрестности единичного элемента. Отсюда вытекает, что это отображение непрерывно всюду и л —унитарное представление.

Возьмем в качестве единичного вектора и функцию ф; получим ф (х) = (л (х) ф, ф).

Таким образом, ясно, что любую положительно определенную функцию можно получить при помощи конструкции из нашего примера. Более формально, рассмотрим тройки (л, Н, и), состоящие из унитарного представления л: G -> Aut Н, гильбертова пространства И и единичного вектора и е Я. Две тройки (л, Н, и) и (л', Н', и') называются эквивалентными, если существует унитарный изоморфизм пространства Н иа Н', перестановочный с действием группы и переводящий вектор и в и'.

Теорема 9. Отображение

Ф^(лф, Н^, ф) устанавливает взаимно однозначное соответствие между множеством положительно определенных функций на группе G и множеством классов эквивалентности троек (л, Н, и), состоящих из унитарного представления

л: G-* Aut Н, гильбертова пространства Н и единичного вектора иеН, топологически порождающего Н относительно л.

Следствие. Пусть К— компактная подгруппа группы G, такая, что алгебра СДОЦК.) коммутативна. Тогда существует взаимно однозначное соответствие между положительно определенными сферическими функциями на группе G и классами эквивалентности неприводимых унитарных представлений группы G, содержащих К-инвариантный вектор.

Доказательство немедленно получается из теоремы 8 § 4 и теоремы 2 § 2.

Предыдущие результаты, разумеется, применимы к группе SL2(R). Однако переход к этому конкретному случаю не упростил бы дела по сравнению с абстрактным подходом.

V. СФЕРИЧЕСКОЕ ПРЕОБРАЗОВАНИЕ

В этой главе мы изучим спектральное разложение алгебры C”(G//A), состоящей из гладких функций с компактным носителем, двусторонне инвариантных относительно подгруппы К. Мы также найдем все ограниченные сферические функции. На протяжении всей главы G = SA2(R).

§ 1. Интегральные формулы

Из работ Хариш-Чандры стала ясной важная роль подгрупп А и К группы G и однородных пространств Л\С и K\G при выводе формулы Планшереля. В этой главе мы рассматриваем только пространство A\G; изучение взаимосвязи между группой G и пространствами A\G, K\G мы отложим до гл. VIII, посвященной формуле Планшереля.

Функции на пространстве A\G/K, т. е. функции, постоянные на двойных смежных классах по Л и К, однозначно определяются своим сужением на подгруппу N. Поэтому мы начнем с интегральных формул, связывающих интегралы по пространствам Л\С и N. При доказательстве первой формулы нам не удастся обойтись только абстрактными соображениями, так как здесь требуется вычислить якобиан. Поэтому мы докажем ее, используя конкретную матричную реализацию группы SL2(R).

Для любой функции f гСс(G) и любого аг А, такого, что а (а) ^ 1, имеем

IL J f (апа-'п-1) (in = j а ^_ t ( J f (n) dn.

NК

Доказательство. Перемножение матриц показывает, что

/а 0 \ /1 пК/а-1 0\/1 —Д (a2~V)n

КО а-*Д0 1J ХО аДО 17 КО 1

Сделаем в интеграле замену переменной nt—>(а2 —1)п. Теперь наше утверждение очевидно.

(По поводу доказательства этой формулы для произвольных полупростых групп Ли см. Хелгасон [2, гл. 10, предложение 1.13]. Аналогом перемножения матриц служит более тонкое вычисление в алгебре Ли.)

Это последнее выражение стремится к нулю при у—>е. Следовательно, отображение

У *-* л (у) /

непрерывно в окрестности единичного элемента. Отсюда вытекает, что это отображение непрерывно всюду и л —унитарное представление.

Возьмем в качестве единичного вектора и функцию ф; получим

Ф (х) = (л (х) ф, ф).

Таким образом, ясно, что любую положительно определенную функцию можно получить при помощи конструкции из нашего примера. Более формально, рассмотрим тройки (л, Н, и), состоящие из унитарного представления л: G -> Aut Н, гильбертова пространства Н и единичного вектора иеН. Две тройки (л, Н, и) и (л', Н', и') называются эквивалентными, если существует унитарный изоморфизм пространства Н на Н', перестановочный с действием группы и переводящий вектор и в и'.

Теорема 9. Отображение

ф^-ЧЛф, Дф, ф)

устанавливает взаимно однозначное соответствие между множеством положительно определенных функций на группе G и множеством классов эквивалентности троек (л, Н, и), состоящих из унитарного представления

л: G->AutH,

гильбертова пространства Н и единичного вектора me Н, топологически порождающего Н относительно л.

Следствие. Пусть К — компактная подгруппа группы G, такая, что алгебра Сс(бЦД) коммутативна. Тогда существует взаимно однозначное соответствие между положительно определенными сферическими функциями на группе G и классами эквивалентности неприводимых унитарных представлений группы G, содержащих К-инвариантный вектор.

Доказательство немедленно получается из теоремы 8 § 4 и теоремы 2 § 2.

Предыдущие результаты, разумеется, применимы к группе SG2(R). Однако переход к этому конкретному случаю не упростил бы дела по сравнению с абстрактным подходом.

V. СФЕРИЧЕСКОЕ ПРЕОБРАЗОВАНИЕ

В этой главе мы изучим спектральное разложение алгебры С”фЦК}, состоящей из гладких функций с компактным носителем, двусторонне инвариантных относительно подгруппы К. Мы также найдем все ограниченные сферические функции. На протяжении всей главы G = SA2(R).

Интегральные формулы

Из работ Хариш-Чандры стала ясной важная роль подгрупп Л и К группы G и однородных пространств Л\С и K\G при выводе формулы Планшереля. В этой главе мы рассматриваем только пространство Л\С; изучение взаимосвязи между группой G и пространствами Л\С, K\G мы отложим до гл. VIII, посвященной формуле Планшереля.

Функции на пространстве A\G[K, т. е. функции, постоянные на двойных смежных классах по Л и ТС, однозначно определяются своим сужением на подгруппу TV. Поэтому мы начнем с интегральных формул, связывающих интегралы по пространствам A\G и TV. При доказательстве первой формулы нам не удастся обойтись только абстрактными соображениями, так как здесь требуется вычислить якобиан. Поэтому мы докажем ее, используя конкретную матричную реализацию группы SL2(R).

Для любой функции f гСс(G) и любого аг Л, такого, что а (а) ^ 1, имеем

И.$ f (апа-'п-1) dn = j^yzriT $ f ^ dn‘

NN

Доказательство. Перемножение матриц показывает, что

/а 0 \/1 «Va-1 0\/1 -«Ар (а2—1)п\

VO a-JkO 1J V0 аДо 17 КО 17’

Сделаем в интеграле замену переменной п>—*(а2 —1)п. Теперь наше утверждение очевидно.

(По поводу доказательства этой формулы для произвольных полупростых групп Ли см. Хелгасон [2, гл. 10, предложение 1.13]. Аналогом перемножения матриц служит более тонкое вычисление в алгебре Ли.)

Следующую формулу, к счастью, можно доказать, пользуясь только формулой I 1 и абстрактным разложением Ивасавы G = ANK, dx = da dn dk. Хотя переменную на множестве смежных классов, скажем на A\G, следовало бы обозначать х, для простоты мы будем иногда писать х. Однако мы всегда будем обозначать символом dx инвариантную меру на пространстве A\G, такую, что dx = dadx.

Пусть f а СДС), матрица аеА удовлетворяет условию а(а)#=1. Тогда функция x<—*f(x-lax) на пространстве A\G имеет компактный носитель и справедлива формула

121 JА\О121 JА\О.(„-')-n \\iW"'Wk- v1 к N

121 J

А\О

121 J

А\О

( f ^kank""1) dndk. | а (а) - а ^аГ411 j

Доказательство. Положим ф(х) = / (х-1ах). Ясно, что носитель функции ф в пространстве A\G компактен. Согласно общим теоремам об однородных пространствах, если g— такая функция из Cc(G), что Ag = <p, то

^ Ф (х) dx = ^ g (х) dx.

a\qа

Используя разложение dx = dadndk, получаем

Ф (х) dx = ^ ф ^nk^ dndk = ^ f ^k~xn"xank^ dn dk =

A\GN КN К

= ^ f(k~xaa~xn~xank') dndk —

iv к

= i—7—k—f(k~xank) dndk

(в силу формулы I 1). Наше утверждение доказано.

Введем обозначение

ТогдаТогдаииа ^аУ^а ^аУ^D (а) = a (af1 — а (а)-72 = р (а) — р (а)-1.| Р(а) | = | О(а-1) I

Тогда

Тогда

и

и

а ^аУ^

а ^аУ^

а (а)1/3

1 а (a)Va — а (а)-,/21 |В(а)Г

В зависимости от обстоятельств часто бывает удобно заменить множитель перед интегралом в формуле 12, пользуясь этим тождеством.

Преобразование Хариш-Чандры

Пусть Cc(G, ТС) — пространство функций на группе G с компактным носителем, инвариантных относительно сопряжений из подгруппы К, т. е. таких, что

f {k~''xk) = f (х),кгК, хгй.

Для функции feCc(G, ТС) определим ее преобразование Хариш-Чандры формулой

Hf (а) = р (а) f (ап) dn = | D (а) 1 f (х-1ах) dx.sл\а

Первое интегральное выражение пригодно при всех а г А, второе — только для тех элементов а, для которых р(а)^=1. Позднее мы определим преобразование Хариш-Чандры для другой подгруппы Картава KczG; поэтому мы будем обозначать только что введенное преобразование символом Нл/, чтобы подчеркнуть зависимость от А. В этой главе мы почти всюду будем использовать выражение для преобразования Хариш- Чандры в виде интеграла по N, а ие по Л\С. Из этой формулы ясно, что если feC”(G, К), то Н/гС”(Л).

Назовем матрицей Вейля матрицу

Она порождает группу из четырех элементов: 1, w, —1, —w. Ее факторгруппа W по подгруппе {1, — 1} называется группой Вейля. Матрица w действует на группе А следующим образом:

/ 01\/а0 Х/0-1\(а-1ОХ

(-1оДоa-VU 07(оа)'

при этом аа' = а-1. Пространство орбит A(W параметризуется точками множества Л+, состоящего из матриц аг А, для которых р(а)>1, т. е. из матриц вида

/а 0 Xл -1!•

а )

Очевидным образом определяется также действие группы Вейля на функции на группе А.

Теорема 1. Функция Hf инвариантна относительно группы Вейля, т. в.

Н/(a)= Hf(a-;).

Доказательство. В силу непрерывности функции Н/, достаточно доказать это утверждение, когда 2)(а)^0 и, следовательно, |Z)(a)| = |Z)(n-I)|. Заметим, что отображение

есть внутренний автоморфизм группы G порядка 2, причем на подгруппе А оно совпадает с отображением ан->а~*. Это отображение сохраняет меру на пространстве A\G; теперь инвариантность функции Hf относительно группы Вейля очевидна из второй интегральной формулы для преобразования Хариш- Чандры.

Итак, преобразование Хариш-Чандры есть линейное отобра-

жениежениеН: CJG, K)-*Cc(A)w,Н: CJG, K)-*Cc(A)w,

жение

жение

Н: CJG, K)-*Cc(A)w,

Н: CJG, K)-*Cc(A)w,

где индекс V обозначает пространство функций, инвариантных относительно группы Вейля.

Теорема 2. Если f, §еСс (G//K), тоH(f*g) = Hf*Hg,т. е. сужение преобразования Хариш-Чандры на пространствоСс(ОЦК) есть гомоморфизм алгебр.

Доказательство. Имеем

H(f*g)(a) = p(a)^(f*g)(an)dn =

N

= Р (а) ^ $ / (аиУ) В (У-1) dydn =n а

= р (а) j j f (ay) g(y-'n) dy dn. n a

(Мы сделали замены переменных у*—>у~\ у^-п~1у.) Пусть y = bmk— разложение Ивасавы; тогда

Н (f * g) (а) = р (а) ^ ^ ^ f (abm) g (m~'b~}n) db dm dn =

N A N

= p(a) j ^ ^ f (ab~'m) g(rn"xbn) db dmdn = nan

= p (a) p (b)-2 ^ ^ f (ab-xni) g ^m-xnb) db dm dn =

= p (a) p (6)“? J J J f (ab-1m) g (nb) db dm dn =

= ^aA\\^ab” m) g (bn) db dm dn.

Но

W * Hg) (а) = J Hf (aft-1) Hg (6) db =

= SSS р (ай-1) ^ (а6~М Р ^g(bn) dm dn db,

что совпадает с только что полученным выражением. Теорема доказана.

Сформулируем основную теорему о преобразовании Хариш- Чандры.

Теорема 3. Отображение

Н: CT(G/ro->C?(Af есть изоморфизм алгебр.

Из доказательства будет следовать явная формула обращения для преобразования Хариш-Чандры, принадлежащая Годе- ману [6]; см. также статью Хариш-Чандры [6].

Обозначим буквой Р множество положительно определенных симметричных 2X2-матриц. Любую матрицу реР можно привести к диагональному виду, и в пространстве R2 существует ортоиормированный базис, состоящий из собственных векторов матрицы р. Следовательно,

p — k~lak

при некоторых кеК, аеА.

С другой стороны, произвольную матрицу xgG можно записать в виде произведения

х = ркх,

где реР, ^еК. Следовательно,

fxx = k~lp2ki = к^хк-хс?кк\.

Если функция t двусторонне инвариантна, то

f(x) = f(/?) = f (а) = /(а-1),

так как матрица щ принадлежит подгруппе X и хвата-4 = a-v. Таким образом, функция f зависит только от величины а (а); заметим, что собственные значения матрицы ‘хх равны а (а) и а (а-1). Поэтому, в частности,

Введем ряд обозначений для того, чтобы использовать координаты на группе G. Пусть /а

х = I .\с а)

Если матрица х диагональна, она имеет вид / а 0 \ а-1)*

причем а(йо) = а2. Функция " 1^1+£Z1 — а («) + «(«-*)

°2 —

взаимно однозначно отображает интервал [1, со) на себя.

Если f0 — двусторонне инвариантная функция на группе G, то она зависит только от величины tr'xx; поэтому мы будем пользоваться новой переменной

Если х — диагональная матрица, как выше, то

Функция tQ соответствует функции вещественной переменной, определенной иа интервале [1, оо):

Ш-Ь((: ^)) = f(<±^, + ^>fW.

При помощи этих координат можно записать преобразование Хариш-Чандры следующим образом:

Hf а № = а (й)‘/2 J fQ (hn) dn =

N

Тем самым мы получаем обычный интеграл от функции вещественной переменной

Hfa^^a J f^^i^^du.

что дает, после замены переменной,

Hf(a)=-HM(Aa)= $ f(^^Hf(a)=-HM(Aa)= $ f(^^+ 4“2) du.+ 4“2) du.

Hf(a)=-HM(Aa)= $ f(^^

Hf(a)=-HM(Aa)= $ f(^^

+ 4“2) du.

+ 4“2) du.

Лемма. Если

F (о) = J f (о + 4 “2) du- о > 1, то

1^ = — -^ ^ 7?'(° +J^2)^’

и обратно.

Доказательство. (Упражнение из элементарного курса анализа.) Дифференцирование под знаком интеграла дает

^'^^ $ Г(о + 4“2) du«

таким образом,

F' (о + 4 да2) dw— ^ ^ (° + -“ 42” ) dudw — —00—00 —оо

2Л со

= $ $^(° -V^rdrd9 = о о

= 2л ^ /' (о + х) dx = — 2л/ (о), о

что и требовалось показать (обратное утверждение также очевидно).

Заметим, что из этой леммы вытекает также теорема 3, поскольку, используя координаты на группе, мы получаем явную формулу обращения для преобразования Хариш-Чандры.

В литературе иногда используется другая замена переменной, которая соответствует параметризации элементов группы А при помощи экспоненциального отображения из алгебры Ли. В нашем конкретном случае положим

а = ет, откуда о = е "^е— = ch

Напомним, чтоsh/=^=^Напомним, чтоsh/=^=^ch2t — sir / = 1.ch2t — sir / = 1.

Напомним, что

sh/=^=^

Напомним, что

sh/=^=^

ch2t — sir / = 1.

ch2t — sir / = 1.

В терминах переменной t мы получаем следующее выражение для преобразования Хариш-Чандры:

Hf0(fie) = F(o) = 0(t) = J f(^^-4-1 и2) du.

Очевидно, что

Ф' (0 = F' (о) sh t.

Следовательно,

— 2nfc(l0) = J F' (1 4-lw2^dw.

Положим во = е№ — e~t,a. Получаем следующий результат:

Формула обращения. Если f г С” (G/JK) и функция Ф задается формулой (2), то

”2я/о0о) = j

Эта формула представляет собой частный случай формулы Планшереля для произвольных (не обязательно двусторонне инвариантных) функций, которую мы докажем позднее.

Преобразование Меллина

Пусть, как и выше, Д —группа диагональных матриц с определителем 1 и положительными диагональными элементами. Преобразование Меллина функции £еС,(Д) определяется формулой

Mg (s) = ^ g (а) р (аУ da,seC.

А

Ясно, что это целая функция s. Если gEC^Ay, т. е. g(a) = = g(a~‘), то замена переменных a>—^а"1 в нашем интеграле показывает, что

Mg(s) = Mg(— s).

Мы будем говорить, что четные функции комплексной переменной инвариантны относительно группы Вейля, и будем использовать обозначение

Hol (С)^

для пространства голоморфных функций h, удовлетворяющих условию /г (з) =/г (—s). Тогда преобразование Меллина задает линейное отображение

М: С^ЛГ^НоЦСГ.

Группа А, очевидно, изоморфна мультипликативной группе положительных чисел R+, и мы можем определить преобразование Меллина функций на R+ = (0, оо) формулой

Mf(S)=$f(a)a^, feCc(R+). О

Мы хотим охарактеризовать образ пространства Cc(r+) при этом отображении. Пусть PW (С) — пространство Пэли — Винера, состоящее из целых функций f, для которых существует такая постоянная С > 0, что при всех натуральных N справедлива оценка

° I

| f (о + /7) |<

(1 + 1ИГ

константа в этой оценке может зависеть от f и от N (например, можно взять ее в виде cN\ Иными словами, функция f имеет не более чем экспоненциальный рост по переменной о и быстро убывает по переменной /, равномерно в любой полосе конечной ширины.

Если функция f бесконечно дифференцируема и имеет компактный носитель, то ее преобразование Меллина принадлежит пространству Пэли-Винера. Чтобы убедиться в этом, проинтегрируем по частям в формуле для функции Mf:

f(a)a$-' da = f (а) ^ |g — 7 J F\d)asda. оо

Так как f имеет компактный носитель на открытом интервале (О, оо), то внеинтегральный член равен нулю. Продолжая интегрировать по частям, мы будем получать все более высокие производные функции f; ясно, что все они также имеют компактный носитель. При этом перед интегралом появляются множители вида

1.

s (»+!)(»+ 2) ... (s + n) •

это показывает, что преобразование Меллина быстро убывает в любой полосе фиксированной ширины. Экспоненциальная оценка по переменной а очевидна.

Дифференцирование под знаком интеграла показывает, что п-я производная функции Mf задается формулой

№Чз)Ц На) as (log а)"-^-;

О

таким образом, если f е С” (0, оо), то все производные функции Mf тоже принадлежат пространству Пэли — Винера.

Рис. 1.Рис. 1.-Т —-Т —Т-

Рис. 1.

Рис. 1.

-Т —

-Т —

Мы хотим получить формулу обращения для преобразования Меллина; при этом будет доказано следующее утверждение.

Теорема 4. Преобразование Меллина

М: С? (Af PW (Cf

есть изоморфизм.

Доказательство. В действительности мы докажем, что преобразование Меллина задает изоморфизм пространств СГ(Л) и PW (С). Для любой функции F г PW (С) и для любого вещественного числа о положим

*МаР (а) = — i F (s) as ds.

Re s—a

На самом деле функция tM0F не зависит от а. Действительно, пусть О! < о2> и пусть R — прямоугольный контур, изображенный на рис. 1; тогда интеграл

F (s) as ds,

R

очевидно, равен нулю. Если s = ax-Vit, то ds = idt (это объясняет, зачем мы ввели множитель —i). С другой стороны, справедливы оценки

] еа log а |Ъ^ log« L,] еа log а |Ъ^ log« L,01

] еа log а |Ъ^ log« L,

] еа log а |Ъ^ log« L,

IF(а ± tT) [а® da №

это показывает, что интегралы по верхней и нижней сторонам прямоугольника R стремятся к нулю при Т-*оо. Таким образом, *МаР не зависит от а.

Функция ‘МаР имеет компактный носитель на R+. Чтобы доказать это, зафиксируем число а > 0. При всех а и при всех натуральных N справедлива оценка

F (а + i?) a0 dsRe 5=аF (а + i?) a0 dsRe 5=а00С1а'ааd+нГ)С1а'ааd+нГ)

F (а + i?) a0 ds

Re 5=а

F (а + i?) a0 ds

Re 5=а

0

0

С1а'ааd+нГ)

С1а'ааd+нГ)

Предположим, что а < 1/С, и устремим а к бесконечности. Мы видим, что *М0Р (а) = 0. Если а велико, то нужно рассмотреть предел при »-> —оо; мы снова получим, что *МаР(а) = 0. Итак, функция £М0Р имеет компактный носитель.

Нам осталось доказать формулу обращения. Положим, по определению,

4М F (а) = — i ^ F (s) a-s ds. Re s=a Мы покажем, что

£M”Mf = 2л/

для всех функций feCc(R+). В самом деле, с точностью до замены переменной это просто формула обращения Фурье. Действительно, положим а = ех; тогда

Mf (s) = р (е*) e°xeitx dx = Fc (- 0,

где

Fa(x) = f <ех)еох.

С другой стороны,

*М-Р^ = -1 J F(s)a~sds = J Р(а + И)а~°~“ dt = Re s=a—oo

= a~a F (o + it) a~u dt.

и мы видим, что оператор *Л1 сводится к обратному преобразованию Фурье. Теорема доказана.

Сферическое преобразование

Положим, как и прежде,

Ф$ to — ^Р (kx)s+1 dk = ф (х, s), к

где К — группа вращений окружности, а переменная х принимает значения в группе G = SL2(R)- Для произвольной функции f^ Cc(GHK} определим ее сферическое преобразование формулой Sf (s) = J f(x)v,(x)dx.

G

Теорема 5. Следующая диаграмма коммутативна:

PW(C)w

т, е, S = МН, причем все отображения являются изоморфизмами.

Доказательство. Имеем

Sf (s) = ^ f (х) ф$ (х) dx = Ц f (х) р (fex)s+l dx dk = gkg

= J J J f (an) p (Aa)s+' da dn dk = MHf (s).

AN К

Мы уже показали раньше, что отображения М и Н — изоморфизмы. Итак, наша теорема доказана.

Следствие 1. ^а = Ф_3.

Доказательство. Для любой функции f е С” (СЦД) выполняется равенство Sf (s) = Sf (— s). Поэтому ф3 и ф_3 совпадают как функционалы на пространстве С” (GjjK). Следовательно, Ф5 = Ф-з-

Следствие 2. При всех значениях s из полосы — l^Res^l функции ф$ не превосходят 1.

Доказательство. Мы приведем два доказательства, каждое из которых иллюстрирует полезные методы. Первое принадлежит

Хелгасону и Джонсону [1], которые рассматривали сферические функции на произвольных компактных полупростых группах Ли. Пусть f е Ll (G) — двусторонне инвариантная функция. Тогда

J | f (х) | dx = $ | f Vhati) I p (a)2 dk da dn = J p (a) (H | f |) (a) da. A

Если — 1 a = Re s < 1, то

5 I Фл WfW ld^< j <PaWI f Wl dx = (MH| Л) (<r) =

= J (Hin)(a)(P(a)a + p(a)-°)da< A+

<2 ^ p (a) (H | f|) (a) da < oo.

a+

Таким образом, функция ф3 задает непрерывный функционал на пространстве L*(G) и, следовательно, ограничена.

Второе доказательство принадлежит И. Стейну. Зафиксируем точку ае А и будем рассматривать ф3(а) как функцию переменной s. При а= — 1 получаем оценку |ф3(а)К1. В силу следствия 1, эта оценка справедлива также при а = 1. Очевидно, что рост в полосе — 1 ^ о ^ 1 не более чем экспоненциальный. Из теоремы Фрагмена — Линделефа вытекает, что функция ф$ ограничена в этой полосе, что и требовалось доказать.

В следующем параграфе мы докажем, что справедливо и обратное утверждение: функция ф3 ограничена, только если s лежит в указанной полосе.

Для удобства читателя мы воспроизводим здесь доказательство теоремы Фрагмена — Линделефа.

Теорема Фрагмена — Линделефа. Пусть f — голоморфная функция в полосе ох<.о^.оъ не превосходящая по модулю 1 на границе этой полосы. Предположим, что существует такое число a ^ 1, что f(s) — O (е1 s |О) в нашей полосе. Тогда | f (s) | ^ 1 во всей полосе.

Доказательство. Пусть А > а; тогда при всех достаточно больших |/| справедливо неравенство

|f(a+ZZ)|<sifl\

Выберем целое число т = 2 (mod 4), такое, что т>Х. Если s = rei6, то sm = rm (cos тй + i sin /п0), причем угол тй близок к (2^ + 1)л. Зафиксируем число е>0 и рассмотрим функцию g(s)=^e(s) = f(s)eMm.

Тогда для всех s из нашей полосы получаем

I g(s) Ке1' ^е""1 cos т6.

Следовательно, найдется достаточно большое число Т, такое, что функция | g | не превосходит единицы на горизонтальных

Рис. 2.Рис. 2.

Рис. 2.

Рис. 2.

отрезках 1=±Т, ох^а^-о^. Ясно также, что она не превосходит единицы на боковых сторонах прямоугольника, изображенного на рис. 2. Следовательно, внутри этого прямоугольника

| f (s) К е-8'"'"cos т6.

Это неравенство справедливо при всех е > 0, и, значит, внутри прямоугольника

lf(s)l<L

Теорема доказана.

Мы закончим этот параграф выводом явной формулы обращения для сферического преобразования. Существование такой формулы вытекает из теоремы 5. Мы покажем, что ядром обратного преобразования служит функция ф(х, s), причем переменная s пробегает прямую а = 0. Поэтому мы будем писать ф(х, 10 вместо ф(х, s).

Напомним формулу для сферического преобразования:

Sf (s) = f (х) ф (х, s) dx.

G

Теорема 6. Пусть f е С” (£//К\ Тогда

Ш) = f Sf(»T)Tth(«T)^-.

Доказательство. Мы сохраняем наши старые обозначения и полагаем

l а 0а2 + а-2..

а-1)2’ и е >

F^ = Ht\haV

По формуле обращения Меллина получаем

-OO-.oo

Следовательно,

F(chO= f SfO^cos^-g-

и

^(ch/)= fsf(ZT)^M(-T)^.

Из определения преобразования Хариш-Чандры вытекает, что

2л/(1) = — j F' (1 + у u2) du = —F'(ch Z) ch у Л =

f sin/т , t ..

Внутренний интеграл равен

еИ2 _ е-№ Л th ЛТ.

Теорема 7.Теорема 7.Теорема доказана.

Теорема 7.

Теорема 7.

Определим меру Планшереля формулой

Р {s) ds = th (^-\'i V i 7 2л1

Если функция а четна и принадлежит пространству Пэли — Винера, то

S~'g(^)= ^ §(з)ф(х, s^P^ds-,

Re s-0

другими словами, S 1 = S , где S — эрмитово сопряженный оператор относительно меры P^ds.

cos 0 sin 0 X— sin 0 COS0/’cos 0 sin 0 X— sin 0 COS0/’СделаемСделаем(3)(3)(4)(4)

cos 0 sin 0 X

— sin 0 COS0/’

cos 0 sin 0 X

— sin 0 COS0/’

Сделаем

Сделаем

(3)

(3)

(4)

(4)

Доказательство. Мы сведем общую формулу обращения к доказанной только что формуле для f (1), пользуясь свойствами сферических функций. Для произвольной функции f е С” (Gf/Д) определим функцию fx равенством

fx (У) = р <xky^ dk.

к

Тогда fx@C” (G Ц К) и fx (1) = f (х). Применим к функции fx формулу обращения из теоремы 6; ясно, что общая формула обращения вытекает из следующей леммы:

Лемма. Sf х (s) = Sf (s) ф (х, s).

Доказательство. Имеем

Sfх (s) = J f , (у) Ф (У. s) dy =

G

= J $№у)ф(у, s)dydk = f (ху) ф (у, s^dy =

G КG

= ^(у)ф(^-'у, s)dy = ^(у)ф(х-^у, s^dy, GG

последнее равенство справедливо при всех кеК. Усредняя обе части равенства по группе К и используя функциональное уравнение для сферических функций, получаем

sf, (s) = jj f (у) Ф (х-1>s) Ф ^> s) d«=sf (s) Ф (х> s)’ G

что и требовалось доказать.

§ б. Явные формулы и асимптотические разложения

Представим произвольную матрицу xeG = SL2(R) в виде

/аУХ/у0 X /1“A/- cos 6sin 0 X

Х \сd)\0У“‘/\01/\ — sinOоз0/

Тогда а(х) = у2. Перемножая матрицы, получаем

sin 6, cos 6

С =, d .

Следовательно,

< :))=^-

Далее, пусть

(а

О

тогда справедлива явная формула

° ^ h<^ — a2 sin2 6 + a-2 cos2 6 1

Таким образом, полагая а =■ a (AJ = а2, мы получаем для сферических функций на группе SL2 (R) интегральное выражение

Л

$s ° 2л (a sin2 6 +a-1 cos2 6)(s+1)/2

В силу симметрии подынтегрального выражения можно вычислить интеграл по промежутку [— л/2, л/2] и умножить его на 2.

в интеграле замену переменных. Пусть

u = tg 0,0 = arc tg и, dd = . d“г;

тогда

a3 (1 +«2)s-‘ .

(1 + a2u2)s dU1

Замечание. Переменная и связана с матрицей

формула (3) дает выражение для сферической функции в виде интеграла по подгруппе N нижних треугольных матриц.

Сделаем в интеграле (3) подстановку у = ам; получим

/ x 1 s-1 C (1 + 02/a2)5-1 ,T2s-i(a) = Tas i \.2). du.

По модулю этот интеграл ограничен величиной

(l+W-(1 + ^)°

Предположим теперь, что о>1. Только что написанный интеграл убывает при возрастании а, а^1. При а = 1 он равен

Г До J 1 + О2 ‘

Поэтому можно воспользоваться теоремой об ограниченной сходимости. Мы получим

a'?L _[ ° 0 + du = I K+W"du*

Последний интеграл выражается через Г-функцию Эйлера:

(5)5 (1 ^р'^^-^ Г ^г (з) ^ 1

Чтобы доказать это тождество, рассмотрим произведение

ОООО ОО

Г (s)(1 + 02)i du = e-t (1 + о2)з < — do.

— оо— оо О

Сделаем замену переменной />—*(1 + v2)t и воспользуемся инвариантностью меры dt/t относительно растяжений. Получаем искомое выражение.

Вычисленный нами предел не равен нулю (напомним, что ст>1). Следовательно, мы получаем асимптотическую формулу для функции ф$ при а(а)—»-оо, справедливую в полуплоскости а > 1:

Из этой формулы вытекает следующий результат.

Теорема 8. Если число s не принадлежит полосе — 1 ^Re s^l, то сферическая функция ф5 не ограничена.

Доказательство, которое мы дали, взято из работы Хелга- сона и Джонсона [1], где оно проведено для произвольных некомпактных полупростых групп Ли; в случае SL2(R) возникающие интегралы легко выражаются через специальные функции.

В теории линейных дифференциальных уравнений второго порядка при построении разложения по собственным функциям

важную роль играют некоторые асимптотические оценки. Это обстоятельство в явной форме использовано Варгманном в его работе [1]. Хотя мы не будем здесь касаться этих вопросов, для удобства читателя мы приведем в теореме 9 два первых члена асимптотического разложения сферических функций (4). В общем виде такое разложение получено Хариш-Чандрой [7, лемма 37] и представляет собой, по существу, один из центральных результатов его работы. Я признателен И. Стейну, которому принадлежит приводимое ниже элементарное изложение заключительной части этого параграфа.

Пусть с (s) — аналитическое продолжение функции, задаваемой в полуплоскости Res>0 интегралом

Г 1 d

3 (1 +o2)(S+D/2 “°'

Формула (5) выражает этот интеграл через Г-функцию.

Теорема 9. При е—>0 справедлива асимптотическая формула

S TTp^+iwT^jT^^^dy = с ^ + с (- ^ 6“ + О (вЧ

Доказательство. Нам потребуются некоторые леммы.

Лемма 1. Существует такая функция ct, зависящая только от t, что при N оо

N

3 (1 + V2)(t + “)/2it +Ct + °\N

Доказательство. Разобьем интеграл на два слагаемых:

N a N

0 0а

где а > 0 — фиксированное число. Преобразуем интеграл по промежутку [а, АГ] следующим образом:

NNN

СdoС Г 11 1 л , f dv

J (1 + y2)(i+W23 L (1 + xr^+it№' J 7+"" •

ааа

Первый интеграл в правой части представим в виде разности двух интегралов:

Н ОО 90

a a N

4 Зак. 589

По теореме о среднем,

С другой стороны,

f dv. N~u 1 “-“

J 0>*’ И it I" It а

Положим аоо.

f do I f Г ** I а

Ct} (1 + 02)d + »)/2 'J [ (1 + 02)(1 + »)/201 + «]аУ"Г ц •

Лемма доказана.

Лемма 2. Справедливо равенство

Ct=C (//).'

Доказательство. Рассмотрим интеграл

f do iff 11 1 j । a~s

°« “ J (1 + 02)U+«2 + } [ (1 + oJ)(l+*H2 ol+sJ^+ s •

Очевидно, этот интеграл аналитически зависит от параметра s в окрестности прямой s — it (на самом деле во всей полуплоскости Res>—1, s ^= 0). При Res>0 интеграл

, х Г do

абсолютно сходится. Следовательно, cs = c(s) в этой полуплоскости, а по принципу аналитического продолжения, и всюду.

Обратимся теперь к доказательству теоремы 9. Разобьем интеграл на два слагаемых:

ОО в—1А ОО

J = J 4- j — I + II.

008-‘/1

Поэтому

В-V»

Т С1,

3(1 +(1 + 6г^\-И№ ау —

8-‘/зZ 8~V1х

= $ -^^тда^ S 7Г+D=)V- dy)=

= --^- + ^ + 0(8'/’)

при е-> 0 в силу леммы 1.

Далее,

л = С1

J О + »2)<1 + “>/2 (1 + е202)(1-/<)/2 аУ — в1/.

3(1 + У=)<1 + “)/2(в2 + у2)<1-»)/2

(мы сделали замену переменной ш—* 1/о). Положим и=и/е; снова в силу леммы 1 получаем

3(1 + e2u2^ + it№ (1 +„2)(1-»)/2 dU =

= 8“ [-™r + y-i + O(eV.)].

Таким образом,

I + II = с< + е^с.-* + О (el/s), что и требовалось доказать.

VI. ПРОИЗВОДНОЕ ПРЕДСТАВЛЕНИЕАЛГЕБРЫ ЛИ

До сих пор мы пользовались в наших рассуждениях, по существу, только теорией меры. В этой главе мы впервые начинаем использовать гладкую ’) (или вещественно аналитическую) структуру на группе. Мы увидим, каким образом представление произвольной группы Ли G порождает представление ее алгебры Ли, определенное на плотном линейном подмножестве пространства представления группы G. В случае группы SL2(R) это представление имеет особенно простой вид (§ 2).

Производное представление

Пусть G — группа Ли. Для наших целей достаточно предположить, что G = ST2(R), или GLt (R), или GL„ (R). Важно, что на группе G можно ввести бесконечно дифференцируемые координаты. Напомним, что на SL2(R) мы ввели координаты (х, у, 0), связанные с действием на верхней полуплоскости. Для группы GL (R) потребовались бы 4 координаты (и, х, у, 0), где и — скалярная матрица. Разумеется, для GL2(R) можно использовать также 4 элемента 2 X 2-матрицы.

Пусть G —замкнутая подгруппа группы GLn(R). Алгебра Ли группы G определяется как множество таких матриц X, что ряд

Y v tnXnexp^=L—n=0

принадлежит G при всех t s R. Алгебра Ли группы G обозначается g. Если G = SL2(R), to алгебра Ли g состоит из всех вещественных 2 X 2-матриц со следом 0. (Чтобы это проверить, воспользуйтесь, к примеру, жордановой нормальной формой,) Таким образом, для группы SL2(R) базис алгебры Ли над R состоит из трех матриц

/01\/00\/10\

(о0/U07’(о-1/

Если X— элемент алгебры Ли, то отображение

/|—>ехр/А’

называется однопараметрической подгруппой группы G. Можно доказать, что для произвольных групп Ли отображение

exp: g-^G

является вещественно аналитическим диффеоморфизмом (но, конечно, не групповым изоморфизмом) в некоторой окрестности нуля. Это утверждение тривиально проверяется для группы SL2(R). Если X, У г g и матрицы X, У коммутируют, то

exp (X + У) = exp X • ехр У.

В частности, рассмотренная выше параметризация однопараметрической подгруппы есть групповой гомоморфизм.

Функция на группе бесконечно дифференцируема в том и только в том случае, когда она бесконечно дифференцируема как функция локальных координат. Смысл этого утверждения для группы SL2(R) ясен, и мы не станем сейчас утомлять читателя общими определениями многообразий и групп Ли. Пусть он опирается на свою интуицию или обратится к другим источникам. По поводу отображений в банаховы пространства и их дифференцируемости см. Ленг [1]. Этот случай не содержит существенных отличий от случая скалярных функций.

Пусть G —группа Ли, Н — банахово пространство. Пусть f: G -> Н — гладкое отображение. Для любых элементов X е д, у г G определим производную Ли формулой

2xf(y) = 4^exP™ Ь-°-

Тогда йх! ~ тоже гладкое отображение; таким образом, мы получаем линейный оператор

йх; С°° (G, Я)-^С°°(С, Щ.

Ясно, что оператор йх левоинвариантен, т. е. коммутирует с левыми сдвигами. Если Н = С — поле скаляров, то легко проверить, что йх — дифференцирование, т. е.

2х (fg) = f^xg + (^xf) g-

Зафиксируем у е G и положим

РуЦЦ-ЦуехрХу

Тогда Fu — гладкая функция на алгебре Ли g и, по определению, о ,, . Fy№-Fv^ ^xf (#) = Ьт.

/->01

Для любого гладкого отображения F, заданного в окрестности нуля в д, справедлива формула Тейлора

FW = F(0) + F'(0)X+O(|XP),

где F' (0): g-> Я — производная отображения F в точке 0 (линейный оператор). Следовательно,

и отображение Ji—>2Х линейно, т. е. для любых X, У s g, се R имеем

^Х + У = йд + 2у,йсХ = С^х.

Обозначим дс множество линейных комбинаций элементов алгебры Ли д с комплексными коэффициентами; таким образом, элементы дс — это матрицы вида

X + iY, X, У е д.

Если a = a+i6, a, 6eR, то положим, по определению, ^аХ = ^ах + ^ЪХ‘

Тем самым мы распространили определение производной Ли на элементы комплексной алгебры Ли дс.

Рассматривая гладкие функции и интегральные представления, мы часто должны будем переходить к пределу или дифференцировать под знаком интеграла. Для удобства читателя приведем здесь несколько лемм, обосновывающих эти операции.

Лемма 1. Пусть X — пространство с положительной мерой р. Пусть U с R" — открытое подмножество. Пусть f: XXU -» Е-— отображение в банахово пространство Е. Предположим, что

для любого у eU отображение х н-> f (х, у) принадлежит пространству L1 (р, ЕУ,

для любых хеХ, Уо^П справедливо равенство

lim f (х, у) = f (х, у0);

У->У«

существует такая функция f^L^p), что

Ifk у)К1Л(х)|

для всех y^U.

Тогда отображение

у ^ ^ f (х, у) dp (х)

х

непрерывно.

Доказательство. Достаточно показать, что для любой последовательности {уй}, сходящейся к точке у e.U, последовательность интегралов ^ f (х, y^dptx) сходится к ^ f(x, у') dp (х).

XX

Положим tk^ = t kxi Ук)- Тогда последовательность {/й} поточечно сходится к функции хн->/(х, у). В силу (iii) мы можем воспользоваться теоремой об ограниченной сходимости, что и завершает доказательство.

Лемма 2. Пусть X — пространство с положительной мерой ц. Пусть U с: R" — открытое подмножество. Пусть f: XXU ->Е — отображение в банахово пространство Е. Предположим, что

для любого yeU отображение х^ f (х, у) принадлежит пространству £' (ц, £);

(и) для любого yeU каждая частная производная Djf(x, у) ^вычисленная по отношению к j-й координате переменной у е [7) принадлежит пространству L' (у, Е\,

) существует такая функция f^ е L' (у), что для всех yeU

^Цх, у) |<| Мх) |.

Положим

^^ = \f (х, у) dp (х).

X

Тогда производная 7)уФ(у) существует и

D^ (у) = °^ ^х' g^dtl ^-

х

Доказательство. Имеем

Ф (у + he,\ — Ф («) r i .

^= ^ If (х, у + he^ — f (х, у)] dp (х).

х

Пользуясь теоремой о среднем и условием (iii), заключаем, по теореме об ограниченной сходимости, что правая часть при Л-+0 имеет предел, равный

J Djf (х, у) dp (х). х

(Как и в предыдущем доказательстве, для того чтобы воспользоваться теоремой об ограниченной сходимости в ее стандартной форме, нам следует перейти к последовательности {/гй}.)

Основное предположение в лемме 2, которое позволяет нам дифференцировать под знаком интеграла, — это существование

суммируемой мажоранты у частной производной по у; остальные предположения сделаны для того, чтобы все встречающиеся символы имели смысл.

Пример. Пусть f е U (R"), ф е С” (R"). Покажем, что функция f * ф бесконечно дифференцируема и для любого дифференциального оператора DP = DP' ... D^n справедливо равенство

Dp (f * ф) = f * Dptp.

В самом деле, по определению,

(f * ф) (f/) = Р (—х) ф (х + i/) Jx.

r"

Очевидно, что условия леммы 2 выполнены, и мы можем последовательно дифференцировать функцию ф под знаком интеграла, что и дает приведенную выше формулу.

Лемма 3. Пусть G — группа Ли, Н — банахово пространство, f^Ll(G,H). Пусть ф®С“(б, С), X ® дс. Тогда функция f * ср бесконечно дифференцируема и

^х^ф.

Доказательство не отличается от случая пространства R". По определению,

(/ * ф) (У) = ^ ^х~ ^ ф ^ dx'а

В окрестности точки у гО можно ввести локальные координаты, отождествляющие эту окрестность с открытым подмножеством евклидова пространства. Условие равномерной ограниченности из леммы 2, очевидно, выполнено.

Пусть G — группа Ли, л: G —> GL (Н) — ее представление в банаховом пространстве. Линейное подмножество Н” а Н, которое состоит из всех векторов веН, таких, что отображение

X I—> л (х) и

бесконечно дифференцируемо, называется пространством С°°-векторов (или пространством Гординга). Оно инвариантно относительно действия группы G, т. е. если aeG и и е Н^, то

л (а) у г H^;

кроме того, оно инвариантно относительно действия гладких функций с компактным носителем. В действительности справедливо более сильное утверждение:

Если ф е С” (G) и и е Н, то л1 (ф) у е Н^.

Доказательство. По определению,

л' (ф) v = ^ ф ^ л ^ ° dU'л (х) л* (ф) у = ^ ф (у) л (ху) у dy == ф (х-1у) л (у) и dy.

В силу леммы 2 мы можем дифференцировать по переменной х под знаком интеграла. Доказанное утверждение есть, по существу, частный случай леммы 3.

Напомним, что если {0„}—последовательность Дирака, то для любого вектора v&H последовательность л1 (0„) у сходится к у. Так как можно выбрать последовательность Дирака, состоящую из гладких функций с компактным носителем, то отсюда вытекает, что

пространство Н„ плотно в Н.

Другими словами, существует большой запас С°°-векторов, и даже С”-векторов вида л1 (ф) у, где ф е СГ (G).

Перейдем теперь к определению производного представления алгебры Ли. Если у s Нп, то положим

dn (Л) у =-^-л (ехр ^Х) о |#_0.

Мы докажем, что вектор в правой части принадлежит пространству Ня, и, более того, получим формулу

DER 1. Если f(x) = n(x)u, то для всех aeG, а г Нп

du (Л) и = (2xf) (е), л (а) ал (Л') у = (2 J) (а).

Так как функция / бесконечно дифференцируема по предположению, из этой формулы вытекает, что вектор du (.Y) у также бесконечно дифференцируем. Для доказательства формулы заметим, что, по определению,

^хЪ ^ = 4i^ ^ ехР ^ ^о,

поэтому достаточно применить к выражению я (exp £Х) у — у

t

непрерывный оператор л (а) и перейти к пределу при /->0.

Из сказанного ясно, что dn^XV. /7”-* Л“ — линейный оператор, линейно зависящий от X е дс. Мы будем называть отображение Xv—>dn(X) производным представлением представления л.

DER 2. Для любых X,Y eg и функции f: хе-э-л (х) у, v^H^ dn(X)dn ^и-Д^уГМ

Доказательство. Имеем

л (х) dn (У) у == ^yf (х)

в силу DER 1. Кроме того, если waH” и /^ (х) * л (х) w, тоdn(X}w = (&xf1B')(e')

(достаточно в предыдущую формулу подставить х = е\ Чтобы получить 0ER 2, нужно воспользоваться этой формулой при w = dn (У) у.

Пусть X, У as д. Существует единственный элемент [X, У] е д, такой, что для всех функций f@C°°(G, Я) справедлива формула

Йус, п/ ■“ ^x^yf — 2r£xf •

Скобку можно вычислить, используя произведение матриц, а именно

[X, У] = ХУ -YX.

Мы докажем это утверждение ниже. Из формулы DER 2 получаем тогда для представления dn соотношение

DER 3. dn ([X, У]) = [(7л (X), dn (У)],

где скобка в правой части означает коммутатор операторов, т. е. dn (X) dn (У) — dn (У) dn (X).

Чтобы доказать формулу для коммутатора производных Ли, нам потребуются две леммы. Заметим, что если g — обратимая матрица, то

g-' (expX)g = exp(g~'Xg).

Это очевидно, поскольку g-'Xng = (.g-'XgY1.

Лемма 4. Пусть s — вещественное число; положим gs = expsY. Пусть

<p(X) = f (ехрХ).

Тогда

Доказательство. Имеем

g;'Xgs ^(I-sY + O (s2)) X Д + sY + О (s2)) =

= X + s^XY -YX) + O^.

Следовательно,

Ф U7'Xgs) = 4>(X) + ^'(X)S(XY-YX} + 0 (s2).

Отсюда немедленно вытекает утверждение леммы.

Заметим, что в лемме 4 можно было рассматривать функцию фу (X) = f (у exp X). Мы воспользуемся этим в лемме 5, имея в виду приложение к доказательству формулы для коммутатора производных Ли.

Лемма 5. Пусть и — фиксированное вещественное число; положим y = expuY. Пусть

Ци, s, t) = f(yexp(tg-iXgs')y Тогда

D3DJ (и, 0, 0) = ф; (0) (ХУ - УХ).

Доказательство. Левая часть нашей формулы равна

i Dy {и, 0, /) |#=0=-^ [Ф; (/X) t (ХУ - УХ)] |,_0.

Утверждение леммы немедленно следует из правила дифференцирования произведения.

Положим теперь, как и прежде, g3 = expsy, и пусть

F (и, s, 0 = 1 (ехр (ыУ) exp (tg^Xg^).

Тогда

f (ехр (/X) ехр (ыУ)) = f (ехр (иУ) exp Qg^Xg^ = F («, и, t).

Таким образом,

(8 Af) (е) = DAF (0, 0, 0) + D.D^F (0, 0, 0).

Кроме того,

f (ехр (иУ) ехр (f X)) = F (и, 0, 0, так что

(M.J)(e)= ^^(0, 0, 0).

Следовательно,

(2xgrD (е) - ^уйхП (е) = D5D2F (0, 0, 0).

Из леммы 5 вытекает, что

DaDrF^u, 0, 0) = Ф;(0)(ХУ-УХ).

Получаем

D3D2F (О, О, 0) = ф' (0) (XY - YX} = ^xY-YX)h (eV

Итак, мы доказали справедливость приведенного выражения для коммутатора производных Ли.

Установим, каким образом ведет себя производное представление при композиции с операторами л1 (ф), ф е С” (G). Введем правую производную Ли

(^xh w=-^ f ^ехр ^^ ^° -

которая коммутирует с правыми сдвигами.

Пусть феС”(6). Следующая формула справедлива для произвольных векторов у е Н, а не только для у е Н^;

DER 4.^л (А) л1 (ф) = л1 (9?_хф).

Доказательство. Имеем

л (exp IX) л1 (ф) у = л (exp tX) ^ ф (л-) л (х) у dx =

= ^ ф (х) л (exp (IX) х\ у dx =

= ^ Ф (ехр (— tX) х) л (х) у dx;

мы сделали замену переменной х г—s- exp (— /А) х. Рассмотрим полученное выражение при малых t и продифференцируем его под знаком интеграла; это допустимо, так как функция ф имеет компактный носитель. Положим

Ф (ехр (— 1 А) х) = F (/, х).

Функция x*—^DiF(t, х) имеет компактный носитель. Применяя оператор d(dt к нашему выражению, получаем интеграл

^ -^ ф (ехр (— /А) х) л (х) у dx.

При / = 0 этот интеграл в точности равен л1 (St-хф) у; итак, формула DER 4 доказана.

DER 5.л1 (ф) dn. (А) = л1 (2-хф).

Доказательство совершенно аналогично предыдущему и будет опущено.

Из-за знака минус, появляющегося в формулах DER 4 и DER 5, а также по некоторым другим причинам иногда удобно

пользоваться следующими обозначениями:

(^ * Ф) (у) = -^ ф (exp (- IX) ^ |t_0 = - (йхФ) (у),

(ф * *) (У) = ^ Ф кУ exp (- tX^ |#_0 = — (£хф) (у).

Легко проверить, что

(ф * X) * ф = ф * (X * ф)

для любых ф, ф е С” (G). В этих обозначениях получаем

л1 (ф * X) = л'1 (ф) dn (X), л1 (X * ф) = dn (X) л1 (ф).

Для краткости иногда пишут л(Х) и л(ф) вместо dn(X) и л1 (ф) (обозначения, котор'ые сильно смущали меня, когда я изучал теорию представлений, но которые очень удобны, если к ним привыкнуть). При этом л рассматривается как мультипликативный гомоморфизм алгебры (относительно свертки), порожденной элементами алгебры Ли и функциями из пространства С" (G). Другими словами, в этих обозначениях

л (ф * X) = л (ф) л (X),л (X * ф) = л (X) л (ф).

На этом мы покончим с формализмом С°°-векторов; скажем дополнительно несколько слов по поводу аналитичности. Пусть Н — банахово пространство. Отображение f: G s-Н называется аналитическим (т. е. вещественно аналитическим), если оно как функция локальных координат допускает разложение в степенной ряд в окрестности каждой точки.

Фор?,гула Тейлора. Пусть f: G—> Н — аналитическое отображение. Пусть у е G. Для всех достаточно малых Хед (относительно любой нормы в конечномерном векторном пространстве'^ и для всех t, 0^/^1, справедлива формула. Тейлора

Цу^Х) = ^-^(ед)(у)Г\rt=0

Доказательство. По определению,

У ku exp «X) = -^ f ky exp ((« + О X)) |,=0 = -^ f ky exp mX).

Рассуждая по индукции, положим F — ixf и допустим, что F (у exp uX) = ^-^-^ ЦуехриХ).

Тогда

^xf kU exp uX) = -^ F ky exp uX) = (^J t ky exp uX\

Другими словами, мы доказали формулу

(*)2xf(yexpH^ = (-^)"f(i/expu.X).

Пусть (хь ..., хг) — координаты вектора X по отношению к фиксированному базису алгебры Ли g над R. Так как функция f аналитическая, то при достаточно малых | X | имеем

f(t/expX) = P(xb .... хг), где Р — сходящийся степенной ряд в окрестности нуля. Следовательно,

f (у ехр иХ") = 2_, ап, aneR, п-0

при всех и, 0С«С1- Применяя формулу (*) при и = 0, получаем

№f) (jf) = ап.

Положим теперь u = t; формула Тейлора доказана.

Пусть л: G -> GL (Н) — представление в банаховом пространстве. Вектор о е Н называется аналитическим, если отображение х I—* л (х) о аналитическое.

Следствие. Если вектор о аналитический, то

л (exp X) v = ^ -^- dn (X)" о.п=0

Доказательство. Это немедленно вытекает из формулы Тейлора. ’

Ясно, что аналитические векторы образуют в пространстве Н линейное подмножество. Мы будем обозначать его Над.

Теорема 1. Пусть G — связная группа Ли, л: G -> GL (Я) — ее представление в банаховом пространстве Н. Пусть V а Н — линейное подмножество, состоящее из аналитических векторов и инвариантное относительно da (g). Тогда его замыкание G-инвариантно.

Доказательство. Пусть о eV. Для любого достаточно малого вектора X е g можно применить наше следствие к аналитическому отображению х>—*л(х)о. Получим

л (exp X) о =£±da(X)nv<=V.

Экспоненциальное отображение переводит окрестность нуля в алгебре Ли g в окрестность единицы в группе G. Следовательно, замыкание V инвариантно относительно некоторой окрестности единицы в G. Но произведения элементов из этой окрестности порождают всю группу. Теорема доказана.

Теорема 1 дает важный критерий неприводимости представления. Впоследствии мы увидим, что примеры множества V из теоремы 1 можно получить, рассматривая множество ^-конечных векторов в некоторых представлениях или другие подходящие линейные подмножества.

Как мы увидим ниже, в конкретных ситуациях имеются прямые способы доказательства того, что некоторые векторы являются аналитическими. Это связано с тем, что некоторые представления можно реализовать в функциональных пространствах на группе G, причем в этих пространствах имеется большой запас аналитических функций. Нам нужно будет в этом случае доказывать, что эти функций рассматриваемые как элементы пространства представления, являются аналитическими векторами.

Существование плотного подмножества аналитических векторов для совершенно произвольных групп Ли было доказано Нелсоном [1].

Для произвольных полупростых групп Ли существует другое доказательство, основанное на идеях Хариш-Чандры. Для случая группы SL2(R) методы этого доказательства близки к тем, которые использовались в этой книге. Достаточно построить последовательность Дирака, состоящую из аналитических функций и удовлетворяющую ослабленному интегральному условию DIR 3'. Как аналитическое многообразие группа G эквивалентна прямому произведению AXNXK, где А изоморфна R+, N изоморфна R, а К —группа вращений окружности. Последовательность Дирака на К можно построить при помощи рядов Фурье. Рассмотрим функцию

ф(0 = —

и образуем последовательность функций

Ф„(0 = »Ф (nt\

Эти функции положительны, интеграл от них равен единице, и, как легко проверить, они удовлетворяют условию DIR 3'. Нетрудно показать, что для любого вектора ®еН вектор л1 (фп) и аналитический. Таким образом, во всех практически интересных случаях у нас не возникает затруднений при использовании аналитических векторов, совершенно так же, как

и при использовании С°°-векторов. Впоследствии мы увидим, что во всех важных для нас случаях 7<-конечные векторы являются аналитическими (см. теорему 7 § 2 гл. X). Это даст еще более удобный способ построения аналитических векторов.

2. Сужение производного представленияна алгебру Ли подгруппы К

Вернемся к вопросам, которые рассматривались в § 1 гл. II, где было описано, как разлагается произвольное представление группы G = SL2(R) при сужении на подгруппу К. Мы исследуем связь этого разложения со свойствами производного представления. Как обычно, положим

/ cos 9 sin8\

V — sin 9 cos 9 )"

Для удобства читателя напомним, что feS„,m в том и только в том случае, когда yeCc(G) и справедливо функциональное уравнение

f(r^yr^ = e-^f^e-^6'

для всех у ® G и всех 0, 0's R. Заметим, что множество всех гладких функций из пространства Sn>m, которое мы будем обозначать S«, m, плотно в Sn, т- Это утверждение, по существу, очевидно: любую непрерывную функцию с компактным носителем можно равномерно аппроксимировать гладкой функцией со сколь угодно близким носителем. Заметим также, что в формулировке леммы 1 § 1 гл. II можно заменить пространство Sn, т на S”m. В дальнейшем при ссылках на указанную лемму мы всегда будем иметь это в виду.

Мы сохраняем обозначения § 1 гл. II. Пусть л: G->GL (Н) — представление в банаховом пространстве; Нп cz Н — подпространство, состоящее из таких векторов и, что

л (г (9)) v =ein9v,

т. е. n-е собственное подпространство подгруппы К в Н.

Так как подпространство S”q плотно в Sq.q, ясно, что если л* <Sq, q) Hq =/= 0, то

Л* (S” q) Hq 0.

Положим, как и прежде,

Однопараметрическая подгруппа группы G, порожденная матрицей W, совпадает с группой К.

Лемма 1. Пусть л: G-*GL (Н) — некоторое представление, X е д. Предположим, что и е Н” — собственный вектор оператора ds(X) с собственным значением X, т. е.

ds {X) у = Хо.

Тогда для всех <eR

л (exp tX?) и = еми.

Доказательство. Положим / (0 = л(ехр^Х)у. По предположению, функция f дифференцируема. Имеем

f (t + А) — f (<) = л (exp (/ + A) X) v — л (ехр 1Х> оh =А—

Переходя к пределу при h-* 0, получаем л (exp tX) ds (X) о = = л (exp tX) Хи. Следовательно, f ^ = Х1^. Отсюда вытекает, что Ц0==емо, что и требовалось доказать.

Мы будем пользоваться этой леммой, когда X = W, / = 9, ехрег = г(е).

Теорема 2. Пусть л: G ->GL (Н) — допустимое неприводимое представление группы G = SL2 (R) в банаховом пространстве. Пусть п —целое число, такое, что Я„ ^ {0}. Тогда пространство Нп одномерно, любой элемент о е Нп является С°°-вектором и Нп — собственное подпространство оператора ds (IF), соответствующее собственному значению in.

Доказательство. Из теоремы 2 § 1 гл. II мы знаем, что пространство Нп одномерно. Ясно, что л! (5^П)Я„ N= 0; поэтому если опе Нп — ненулевой вектор, то

Л1 (S” n) On = Соп.

Следовательно, оп есть С°°-вектор. Из определения пространства Нп ясно, что векторы о^Нп преобразуются по представлению г (9) н-> е‘п6 подгруппы К и что Я„ — собственное подпространство оператора dn(lF) с. собственным значением in. Из предыдущей леммы следует, что, и обратно, каждый такой собственный вектор должен принадлежать Нп. Теорема доказана.

Замечание. Как уже упоминалось, тот факт, что пространство Нп состоит из аналитических векторов, будет доказан в гл. X (теорема 6 § 2).

Исследуем, как действуют в пространствах Нп остальные базисные элементы алгебры Ли. Удобно выбрать в качестве базиса комплексные матрицы. Положим

Перемножая матрицы, получаем

[£+,£~] = -4гГ,[Г, £+] = 2i£+,[Г, £"] =-2г£~.

Коммутатор с элементом Zeg — это линейный эндоморфизм алгебры Ли; он обозначается ad X. Приведенные формулы показывают, что £+, £~ — собственные векторы оператора ad W. (Заметим, что отображение X ।—> ad X — это регулярное представление алгебры Ли на самой себе. Его называют присоединенным представлением. Выло бы лучше обозначать его reg X, однако уже слишком поздно изменять общепринятые обозначения.)

Иногда мы будем также писать £+ и £_ вместо £+ и Е-, в особенности тогда, когда нам придется употреблять эти символы с показателями степени.

Теорема 3. Пусть л: G-*GL^H^— неприводимое представление группы G в банаховом пространстве. Пусть пг — целое число. Тогда прямая сумма

Z Нп

(mod 2)

инвариантна относительно ds (д). Более того,

ds(E+>. Нп^Нп+2,

ds(E~): Нп-*Нп-2.

Доказательство. Пусть и е Нп. Формула DER 3 показывает, что

ds (1^) ds (Е+) v = ds( [1^, £+] ) о + ds (£+) ds (1^) о =

= 2г ds (£+) о + in ds (£+) и = i (п + 2) ds (£+) у.

Таким образом, ds (£+) о — собственный вектор оператора ds (W) с собственным значением i (п + 2). Теорема 2 или предпосланная ей лемма показывает, что ds(E+)v еНп+2. Доказательство для матрицы Е~ аналогично. Теорема доказана.

Приведенные рассуждения, принадлежащие Баргманну [1], показывают, как алгебра Ли действует в пространстве неприводимого представления группы S£2(R)-

Предположим, что Ят = 0 для некоторого целого ш. Рассмотрим' прямые суммы

Н* = Ъ Нф Нт = £ Н„q > mq < m

по всем целым <? = m (mod 2). Тогда Нт, Яй — инвариантные линейные подмножества относительно представления dn(ge). Пусть мы уже знаем, что пространство Нп состоит из аналитических векторов. Тогда можно воспользоваться теоремой 1, из которой вытекает, что если пространство Нт ненулевое, то его замыкание инвариантно относительно л(С); так как представление л неприводимо, то отсюда следует, что это замыкание совпадает с Н.

Рассуждая аналогичным образом, Баргманн [1] доказал также единственность неприводимого унитарного представления группы SA2(R), производное представление которого обладает описанными выше свойствами. Часть этих теорем единственности будет доказана ниже. Остальные будут рассмотрены в следующем параграфе.

Из того что мы знаем о действии алгебры Ли, ясно, что неприводимые бесконечномерные представления группы G можно разбить на 4 класса в соответствии с характером спектра сужения представления du на подалгебру f, порожденную матрицей W.

Случай 1. Существует такое целое tn, что пространство Н совпадает с замыканием прямой суммы

2 Hq;

q = m (mod 2)

при этом Нт ^ 0.

Случай 2. Существует такое целое т, что пространство Н совпадает с замыканием прямой суммы

2 Hq;

q

q^m (mod 2)

При ЭТОМ Нт ф 0.

Случай 3. Пространство Н^ ненулевое, и Н совпадает с замыканием прямой суммы

2 Hq.

q четно

Случай 4. Пространство Н совпадает с замыканием прямой суммы

q нечетноq нечетно2 Hq.

q нечетно

q нечетно

В случае 1 мы будем называть число пг младшим весом *), а ненулевой вектор о е Н^ — вектором младшего веса. В случае 2 мы будем называть число m старшим весом, а ненулевой вектор у е Нт — вектором старшего веса. Отметим также, что в случае 3 пространство Яо состоит из Я-инвариантных векторов. Неудивительно поэтому, что теория представлений этого типа тесно связана с теорией сферических функций. В остальных случаях двусторонне инвариантные функции тривиально действуют на Н, т. е. единичное представление подгруппы К не входит б разложение представления К в Н.

Наглядно прямую сумму ненулевых подпространств Нп в перечисленных четырех случаях можно представить таким образом:

Н m® Н m+2® Н т+4® ... ,

® Ят-4ф Hm-2®Hm,

... ®н_,®н_2®нй®н2®н,® ...,

... ®Н_3®Н_Х®НХ®Н3®Н5® ... .

Кроме этого, у группы G существуют еще конечномерные представления (веса которых удовлетворяют условию —m^y^m). Мы займемся ими позднее в связи с доказательством формулы Планшереля.

Так как весовые векторы заданного представления ~ это функции с определенной четностью, удобно ввести разложение функций из групповой алгебры на четные и нечетные. Для произвольней функции f на группе G положим

f+ (х) = LSA±lki£L Г = ^W-^-^

Тогда функция f+ четна, a Г" нечетна. (Из контекста всегда будет ясно, означает ли f- нечетную функцию, определенную выше, или же f~ (х) = f (х-1).)

Пусть л — представление группы G в банаховом пространстве Я. Пространство

Н+ = ® Нпп четно

мы будем называть четным подпространством Н, а пространство

Н"= Ф Нпп нечетно

— нечетным подпространством.

1) Заметим, что вообще номер пространства Н„ называется весом, а вектор иеНд — весовым вектором. — Прим, перев.

Лемма 2. Если функция ф е С” (G) нечетна ^соответственно челна\ то оператор л'ф переводит пространство Н в Н~ {соответственно в Н+\ а &го сужение на Н+ {соответственно на И-") равно нулю.

Доказательство. Это немедленно следует из определения оператора л1 (ф).

Разложив функцию ф на четную и нечетную компоненты, мы можем затем изучать действие оператора л1 (ф) на каждом из подпространств Н+, Н в отдельности.

В заключение этого параграфа рассмотрим вопрос о единственности производного представления в различных случаях.

Пусть л — представление группы G в банаховом пространстве Н. Пусть

— линейное подмножество Х-конечных векторов; здесь Н!г есть д-е собственное подпространство подгруппы К- Мы называли представление л допустимым, если размерности пространств Нп конечны. Если это условие выполнено, то рассуждения, аналогичные тем, которые были использованы при доказательстве теоремы 2 § 2, показывают, что- элементы пространства Нп представляют собой С°°-векторы. Проверку этого свойства мы поедоставляем читателю в качестве упражнения. (В действительности они являются даже аналитическими векторами.) Доказательство будет проведено в § 2 гл. X для случая dimH„= I.

Пусть у е G, X е д. Положим, по определению,

Ad (у) Х — уХу-1;

таким образом, Ad (у) — линейный эндоморфизм алгебры Ли д. Отображение у—a-Ad(y) мы будем называть присоединенным представлением группы G. Напомним, что

ехр (уХу~‘) = у (exp X) у-1.

Если у г G, то, как легко видеть, л (у) du (X) = dn (Ad (у) X) л (у).

Пространство Н^ инвариантно относительно ^л(д).

Доказательство. Пусть к е К, о е Н (X), Хед. Тогда

л (/г) dn, (X) у = dn (Ad (А) X) л (А) и.

Таким образом, Х-орбита вектора ^л(Х)у содержится в конечномерном подпространстве — образе пространства, порожденного Х-орбитой вектора о, при действии представления dn (g).

Следовательно, эта орбита конечномерна, что и требовалось доказать.

Пусть ль л2 — допустимые представления группы G в банаховых пространствах Нх, Н2. Будем говорить, что эти представления инфинитезимально эквивалентны, если существует линейный изоморфизм

L: НДК^Н2^,

В этом является ностью.В этом является ностью.коммутирующий с производным представлением, т. е. такой, что L о dax (X) = d$t2 (X) о £ на Нх (X).

В этом является ностью.

В этом является ностью.

случае мы будем также говорить, что оператор L g-изоморфизмом или инфинитезимальной эквивалент-

Пусть S°° = ^S”m— то же пространство, что и выше. Будем говорить, что представления nt и л2 являются 5”-экви- валеитными, если существует такой линейный изоморфизм

L: НДК^Н^,

что для всех функций ф е 8°°

L о л1 (ф) = л2 (ф) ° L на Нх (К).

Если оператор L есть З^-эквивалентность, то L есть ^-изоморфизм.

Доказательство. Пусть ое ^ (X). Существуют такая функция ф г 8°° и такой вектор w е Нх {К}, что и = Л1 (ф) w. Для любого элемента Хед получаем

Lnx (X) о = Lnx (X) Л1 (ф) ад = Lnx (Х*ф) ш = — л2 (X * ф) Lw = л2 (X) л2 (ф) Lw = = л2 (X) Lnx (ф) ад = л2 (X) La,

что и требовалось показать.

Заметим, что, так как g-изоморфизм, заданный на пространстве Н ^К\ коммутирует с оператором dn(IF), он заведомо коммутирует с действием подгруппы К, т. е. сохраняет градуировку в пространстве Н (X) = 2 Нп.-

Теорема 4. Пусть л, л' — допустимые неприводимые представления группы G в банаховых пространствах Н, Н'. Предположим, что существует такое целое число т, что представле-

ния л, л' имеют младшие векторы веса т. Обозначим эти векторы ит, и'т. Если пространства Н, Н' оба бесконечномерны или имеют одинаковую конечную размерность, то существует инфинитезимальная эквивалентность

L: Н^^Н'ГО.

причем Lum = u'm.

Доказательство. Для простоты будем писать Хо вместо ^л^и и аналогично Хи' вместо da' QC)o', ч'еН'. Положим

Utn+2r — E\um, Um+2r — E^Um.

В силу неприводимости представлений векторы и ^ u'm+ir не равны нулю и образуют базис в пространствах Нт+гг, H'm+2r соответственно. Определим оператор L формулой

^Um+2r ~ Um+2r'

Тогда L коммутирует с операторами №, Е+. Остается проверить, что L коммутирует с оператором Е-. Это доказывается по индукции при помощи коммутационного соотношения

E+E- = E-E+-4iW.

На первом шаге индукции следует воспользоваться тем, что, по предположению, E-um = 0, E-u'm = 0. Теорема доказана.

Теорема 4 имеет аналог для неприводимых представлений со старшим вектором веса — тп, где m по-прежнему целое положительное число. Если т^2, такие представления называются представлениями дискретной серии, потому что они инфинитезимально эквивалентны неприводимым подпространствам L2(G), на которых группа G действует сдвигами. Мы докажем это позднее, построив соответствующее инвариантное подпространство пространства L2^, содержащее вектор младшего веса. Что касается конечномерного случая, то мы получаем такой результат.

Следствие. Для любого положительного целого числа d существует одно и, с точностью до эквивалентности, только одно неприводимое представление группы SL^^ размерности d.

Доказательство. Существование будет доказано в конце § 5. Единственность с точностью до инфинитезимальной эквивалентности вытекает из теоремы 4. Итак, пусть

L: Н^Н'

— инфинитезимальная эквивалентность. В конечномерном случае автоматически справедлива формула Тейлора

л(ехрЛ") у = ^ТГ^л

поэтому L коммутирует с действием группы, что и требовалось доказать.

§ 3. Унитаризация представлений

Пусть л — представление группы G в банаховом пространстве Е. Мы будем говорить, что представление л уиитаризуемо, если л инфинитезимально эквивалентно некоторому унитарному представлению в гильбертовом пространстве Н. Инфинитезимальная эквивалентность

L-. Е^^Н^ индуцирует скалярное произведение в линейном пространстве £ (К). Обозначим символом £(£)„ n-е собственное подпространство Е(К} (которое совпадает с пространством £п); различные такие подпространства должны быть ортогональны относительно этого скалярного произведения. В частности, если dimЕ{К)п = dimЕп = 1, то скалярное произведение на Еп полностью определяется значением (и, и) для любого фиксированного ненулевого вектор а и е Еп. Если и — единичный вектор относительно одного скалярного произведения, т. е.

<«, и)1 = 1,

а (•, ^г-другое скалярное произведение, такое, что (и, и)2 —с2, с > 0, то с-1 и— единичный вектор относительно второго скалярного произведения. Если {пп} — семейство единичных векторов (относительно первого скалярного произведения) из пространств Еп, причем dim£n — 1, то векторы {c~’un} образуют семейство единичных векторов относительно второго скалярного произведения. Таким образом, унитаризация представления л определяет набор положительных чисел {с„}.

Существует простое инфинитезимальное условие, необходимое для того, чтобы представление было унитарным.

Лемма 1. Пусть л — унитарное" представление группы G. Тогда для любого X е g оператор dn(X) кососимметричен на пространстве Гординга представления л.

Доказательство. Утверждение очевидно, если вспомнить определение производного представления.

Следующие леммы приводят к теореме, обеспечивающей единственность унитарного представления, инфинитезимально эквивалентного данному.

Лемма 2. Пусть л — допустимое неприводимое представление в банаховом пространстве Н, зФ — алгебра операторов в пространстве Н (К), порожденная над С элементами множества da (g). Тогда, если и — произвольный ненулевой вектор из некоторого подпространства НтсН, то Н(К) = зФи. Другими словами,, алгебра зФ транзитивно действует на Н (К).

Доказательство. Утверждение с очевидностью вытекает из теоремы 3 § 2 и теоремы 1 § 1.

Лемма 3. Пусть V = ^Hn— комплексное векторное пространство, представленное в виде прямой суммы своих подпространств. Пусть зФ— алгебра линейных операторов в пространстве V с образующими Хь ..., Xd. Пусть m — целое число, такое, что dimHm=l, u^Hm—ненулевой вектор. Предположим, что зФи — V (т. е. что алгебра зФ транзитивно действует на У). Тогда любые два положительно определенных скалярных произведения на V, относительно которых подпространства Нп взаимно ортогональны, а операторы Хь ..., Xd кососимметричны, отличаются одно от другого положительным скалярным множителем.

Доказательство. Умножив одно из скалярных произведений на постоянную, мы можем считать, что на подпространстве Нт они совпадают. Нам нужно показать, что скалярное произведение, удовлетворяющее условиям теоремы, определяется своими значениями на Нт. Достаточно рассмотреть скалярное произведение векторов у, w eV, для которых существуют такие операторы Z, 2'езФ, что Zu — v и Zfu = w, при этом

Z = Z\ ... ZT, Z'= Z\ ... Z's,

где операторы Zt, Z] принадлежат множеству ^Xx, ..., ХД образующих алгебры зФ. Тогда

(и, ш) = (— l)r(u, ZZ' и), где Z = ZT ... Zx.

В силу ортогональности подпространств Нп, скалярное произведение в этой формуле зависит только от проекции вектора ZZ'u на Нт. Поэтому скалярное произведение на Нт определяет скалярное произведение на всем пространстве V, что и требовалось доказать.

Лемма 4. Пусть л — допустимое неприводимое представление группы G в банаховом пространстве Н. Любые два положительно определенных скалярных произведения, определенные на Н{К)сН, относительно которых операторы производного представления алгебры Ли g кососимметричны, отличаются на положительный скалярный множитель.

Доказательство. Возьмем в качестве ^ алгебру, порожденную операторами йл (X), Хед, и воспользуемся леммами 2 и 3.

Теорема 5. Пусть яь л^ — неприводимые унитарные представления группы G, и пусть L: Нх ДС) НД Кд — инфинитезимальная эквивалентность. Тогда существует такое число с > О, что оператор cL унитарен и продолжается до унитарной эквивалентности представлений ль л2.

Доказательство. Первое утверждение немедленно следует из леммы 4. Умножив оператор L на положительное число, мы можем считать, что он унитарен. Для достаточно малых Хед справедлива формула Тейлора

(л (exp X) у, w) — У' 7Х^Л °> w\

Положим л = ль Тогда эта формула показывает, что для всех элементов х из окрестности единицы

(Lnt (х) у, Lw^ = (л2 (х) Lo, Lw^.

Таким образом, оператор L коммутирует с действием группы в окрестности единицы, а значит, и глобально, так как группа G связна. Теорема доказана.

Замечание. В предыдущих рассуждениях мы существенным образом опирались на то, что в разложение пространства Н (К) по представлениям подгруппы К одно из представлений входило с кратностью 1. Обобщением этого предположения является существование Х-инвариантного положительно определенного скалярного произведения на одной из компонент этого разложения. Рассуждая аналогичным образом, можно распространить нашу теорему на этот более общий случай.

Пусть л — представление группы G в гильбертовом пространстве Н. Мы не предполагаем, что л унитарно. Пусть у е Н — ненулевой вектор; рассмотрим матричный элемент представления

ft to = <Л (х) и, и), где и—единичный вектор в направлении у. Если пространство Нп одномерно, то мы можем определить п-й матричный элемент f„, положив fn (х) = fOft (х), где оп — ненулевой вектор из пространства Нп.

Теорема 6. Пусть л, п' — инфинитезимально эквивалентные представления группы G в гильбертовых пространствах Н, Н'. Предположим, что сужения этих представлений на подгруппу К .унитарны и пространства Нп, Н'п одномерны. Тогда матричные элементы fn, Уп этих представлений совпадают.

Доказательство. Пусть и —единичный вектор в пространстве Нп; тогда

f п to = <л И «, “)•

Как мы впоследствии докажем, функция tn аналитична; для всех достаточно малых X е g справедлива формула

л (ехр Л") и = ^ -^- dn VXf и.

Полагая х = ехрХ, мы получаем

tn to = 5^ (^ W и’ UY

Каждое слагаемое (dn^^u, и) однозначно определяется, если представление dn задано с точностью до эквивалентности. Таким образом, функция tn однозначно определена в окрестности единицы. В силу ее аналитичности, функция tn однозначно определена на всей группе.

Замечание 1. Мы воспользовались аналитичностью матричного элемента представления. Этот результат уже упоминался и будет доказан в § 2 гл. X.

Замечание 2. Впоследствии мы воспользуемся теоремой 6, чтобы доказать, что след представления зависит только от его класса (инфинитезимальной) эквивалентности. В самом деле, мы увидим, что как обобщенная функция на группе след представления равен сумме матричных элементов

£(л(х)и„, «„>,

и можно воспользоваться теоремой 6.

Матричные элементы представления можно иногда использовать для того, чтобы построить инфинитезимальное вложение заданного представления в пространстве L2(G). Пусть л —представление группы G в банаховом пространстве Н и X— ненулевой функционал на Н. Пусть о е Н. Положим

k » to = f= to = Л (л (х) о).

Функционал X будет в дальнейшем фиксирован, поэтому мы опускаем индекс X у функции /.

Чтобы доказать следующий результат, нам потребуется ряд формул. Пусть феС,(О); положим, как обычно, ф~(х) = ф(х~1)- Тогда

(!)кЖе = и*<Г.

Пусть X е й, f^L2 (G), ф е Сс°° (G). Тогда

2Х (7 * ф) = f * 2хФ,

<Х *фГ =Мф-),

(41/л (X) л (ф) о MU)'

Все эти формулы немедленно следуют из определений.

Лемма 5. Пусть л — правое регулярное представление в пространстве L2 (G), т. е. л (х) f (y) = f (ух). Пусть f е L2 (G), Ф г С”(G). Тогда функция /*ф принадлежит пространству Гор- динга представления л и

(*)dn (X) (f * ф) = ^ (f * ф).

Доказательство. Достаточно доказать, что отображение Xi—>n(x)f бесконечно дифференцируемо в окрестности единицы группы G. Положим

ntxf (у) = /(уехр tX).

NVb\ начнем с доказательства формулы (*). Нам нужно показать, что отношение

«■tx и*ф)-(1* ф)t

стремится в пространстве L2 (G) к пределу, равному 2х(/*ф). Таким образом, нам нужно исследовать предел функции

? С f (у (ехр /X) х-1) ф (х) — / (ух-1) ф (х) у 3t

G

в пространстве L2(G). Сделаем замену переменной х н-* ху exp tX в интеграле от первого слагаемого и Xi—*ху в интеграле от второго. Тогда приведенное выражение примет вид

J (X-1) Ф (ху exp tX) — / (X-1) ф (ху)

о

Положим ф (t) = ф (xyexptX). По теореме о среднем

Ф (() — Ф (0) = ф' ((0) (= 2хф (ух exp tQX) t,

где ^ — некоторое число из интервала [0,/]. Таким образом, наше выражение равно

f (х-1) 2хф (ху exp ttiX) dx;

мы рассматриваем его как функцию переменной у. Нам нужно показать, что при /—>0 эта функция стремится в пространстве L2(G) к пределу, равному

(f * 2хф) (у) = § f (У*-1) 2хФ W dx =G

= ^ / (х-1)2хф(ху) dx.

G

2dy2dyДля этого достаточно показать, что интеграл

2

dy

2

dy

} f (х-1) №хФ ^у exp t^ — 2^® (ху)] dx

G

22стремится к нулю при to-»-O. Так как fs£2(G), а функция ф финитна и бесконечно дифференцируема, то функция

2

2

= $ f (х-1) [2хф (ху ехр ^0^) — 2Лф (ху)] dx G

имеет суммируемую мажоранту при /0—^-О); поэтому можно перейти к пределу под знаком интеграла. Теперь доказательство леммы завершается по индукции при помощи формулы (2).

Теорема 7. Пусть л — допустимое неприводимое представление группы G в банаховом пространстве Е. Пусть X — ненулевой функционал на Е,

f0 (х) = X (л (х) о), у еЕ(Л),

— соответствующий матричный элемент представления л. Зададим. действие группы G в пространстве L2(G) правыми сдвигами. Если функция fu принадлежит пространству L2 (G) для некоторого ненулевого вектора и из Е (К), то f0 е L2 (G) при всех

— Прим, песее.— Прим, песее.’) Обозначим S = supp ф. Тогда

— Прим, песее.

— Прим, песее.

v еЕ (К) и отображение у t—> f0 есть ^-эквивариантное вложение пространства EUG) в L4GY В частности, это вложение задает унитаризацию представления л.

Доказательство. Так как представление л неприводимо, алгебра У, л (Sm, п) транзитивно действует в пространстве Е (Л). Из формулы (1) ясно, что foeZ.2(G) при всех о^Е^К\ Лемма 5 и формулы (2), (3) и (4) показывают, что отображение пн->f0 коммутирует с производным представлением алгебры Ли. В силу неприводимости представления л это отображение инъективно, т. е. является вложением. Теорема доказана.

§ 4. Производные Ли на группе G

В этом параграфе мы явно вычислим производные Ли функций на группе G. Как мы знаем, группа SA2(R) действует на верхней полуплоскости. Нам сейчас удобнее иметь дело с группой GL* (R), поскольку можно использовать координаты (х, у) для параметризации элементов группы; в этом случае скалярные матрицы действуют, разумеется, тривиально.

Итак, пусть G = GLt (R), и пусть

/ а Ь\

£ \ с d)

— произвольный элемент группы G. Пусть z = x + iy, у > 0, — такая точка верхней полуплоскости ^, что gi = z. Тогда матрица g допускает единственное разложение вида

u 0\/у х\/ cos 8 sin6\

О u/\0— sin 6 cos 6/

причем матрицапричем матрица

причем матрица

причем матрица

переводит точку I е § в точку z = x + Zy. Перемножая матрицы, получаем

uei9 = d-ic,ei9 — \d~2\ -

х+Zy —-^-ei9(a + Z6).

Любую функцию Ф на группе G можно выразить при помощи введенных нами координат (и, х, у, 6):

Фи) = Ф(«^0 L) r^A=F^u, х, у, 9).

Так как нас интересует группа SA2(R), то для простоты мы предположим, что функция Ф не зависит от и; поэтому опустим переменную и и будем писать просто F (х, у, 9).

Пусть Хед; положим

g»(t) = gexp tX.

Тогда

ф'^^^р^аО, у АЙ, 9 Ай)

at (gA))it-o 6x dt |t=0+ dy dt |(=0+ ye di L=o’

Мы получим явные формулы для производных Ли, соответствующих элементам алгебры Ли

Заметим, что

У = 2Х-Г, E- = H — iV, E+ = H + iV-

Докажем следующую формулу, дающую явное выражение для производной Ли 2Х:

2х = У cos 29 -^ + у sin 29 -^ + sin2 9 -^-.

Доказательство. Имеем

/ 1 expiX = ^Q/ 1 expiX = ^Q11

/ 1 expiX = ^Q

/ 1 expiX = ^Q

1

1

таким образом.

я АЙя АЙ/ а at + b\

я АЙ

я АЙ

\ с ct + d / ’

g. (Й ‘

^= ——^- =

•w (с/ + ay ’i^ (t) — log A + d~ic .

6 ((с/ + rf)2 _|_ C2)V.

Следовательно,

(0) = у cos 26,

/,(0) = ysin26,

А/ /А\• 2 Л— COS 20

6' (0) = sin2 6 =2

(5)(5)Наша формула доказана. Очевидно, что

(5)

(5)

ТакТаккак V = 2Х — W, токак V = 2Х — W, то

Так

Так

как V = 2Х — W, то

как V = 2Х — W, то

(6)(6)= 2у cos 26+ 2у sin 26 -4cos 29 -la ■дх 3 dyон= 2у cos 26+ 2у sin 26 -4cos 29 -la ■дх 3 dyон

(6)

(6)

= 2у cos 26+ 2у sin 26 -4cos 29 -la ■

дх 3 dyон

= 2у cos 26+ 2у sin 26 -4cos 29 -la ■

дх 3 dyон

ТакТаккаккакполучаем дляполучаем для(е1 0 \осоответствующей матрицы g,(t) выражение/ае* be-t\^ V се1 de-t) ’(е1 0 \осоответствующей матрицы g,(t) выражение/ае* be-t\^ V се1 de-t) ’

Так

Так

как

как

получаем для

получаем для

(е1 0 \о

соответствующей матрицы g,(t) выражение/ае* be-t\

^ V се1 de-t) ’

(е1 0 \о

соответствующей матрицы g,(t) выражение/ае* be-t\

^ V се1 de-t) ’

откудаоткудаКроме того,Кроме того,

откуда

откуда

Кроме того,

Кроме того,

g* (О I = z, (О = х„ (О + iy*

аеЧ + be-tсеЧ + de~t

Отсюда мы находим для производной Ли выражение (7) %Н = -^У sin 26 ^ + 2у cos 26 -^- + sin 26 -^.

Поскольку Е — Н — IV, имеем

— ^уе \дх L ду )^ е об = - Aiye-216-^-^ ie-lt%-^-.

Заметим, что в это выражение входит оператор djdz, т. е. оператор Коши — Римана. Функция / аналитична в том и только в том случае, когда df/dz = Q. На этом мы-заканчиваем перечень формул для производных Ли на группе G.

Неприводимые компоненты индуцированныхпредставлений

Пусть s — комплексное число. Обозначим символом Н (з) пространство функций на группе G = SL2 (R), сужение которых на подгруппу KcG принадлежит пространству UiK) и которые удовлетворяют условию

f (ank) = р (a)$+1 f (k),

где x — ank — разложение Ивасавы матрицы x^G. Пусть л — представление группы G в пространстве H(s), действующее правыми сдвигами.

Из разложения матрицы geG вида

(

у

0и, у > О,

вытекает, что функция f е Н (з) удовлетворяет условию f^ = yW№Hr^.

Пусть ф„е Я (з) — такая функция, что

Ф„ (г (6)) = е™6.

Тогда

и по формулам для производных Ли, которые были выведены в предыдущем параграфе, получаем

(1)

8^ФП = ^П,

^Е^п = (S + 1 - и) Ф„_2, 2£+Фп = (5 + 1 + п)ф„+2-

Докажем теперь две важные леммы, которые позволяют отождествить производную Ли 2Х с оператором представления йл(Х), а аналитические функции, принадлежащие пространству Н (з),— с аналитическими векторами.

Лемма 1. Пусть л —■ представление группы G в пространстве H(s), действующее правыми сдвигами. Пусть Xeg, feH^s)

5 Зак. 589

и, кроме того, fe.C”(G). Тогда функция f, рассматриваемая как элемент пространства L2(K), есть С”-вектор для представления л и справедлива формула

dn^f = axf.

Доказательство. Рассмотрим функцию atxf (s) = f(g exp tX). Нам нужно проверить, что

-^xtHk/dh-^xtHk/dhf (k exp iX) — f (k)tf (k exp iX) — f (k)tв пространстве L2(K), т. е. что интеграл

-^xtHk/dh

-^xtHk/dh

f (k exp iX) — f (k)t

f (k exp iX) — f (k)t

к

стремится к нулю при /->0. Положим ф(0 = f (^ехр^. По теореме о среднем, существует число tQ е (0, /) (мы можем считать, что / > 0), такое, что

^^Ц2^ = t' (/о) = М (k exp t0X).

Значения производной (2xf) (к exp t0X) ограничены при всех кеК и при всех малых /0- По теореме об ограниченной сходимости, мы можем перейти к пределу под знаком интеграла. Лемма доказана.

Лемма 2. Пусть f — аналитическая функция на группе G. Пусть л (х) — оператор правого сдвига:

n(x)f (y) = f (ух).

Тогда отображение

х I—* л (х) f | К

есть аналитическое отображение группы G в пространство L4K).

Доказательство. Пусть х0 е G. Если мы уже доказали, что отображение х*—*n(x)f\K аналитично в окрестности единицы, то ясно, что отображение

х н-* л (х-‘х) f IК = л (х-‘) я (х) f 1 К аналитическое, поскольку оператор л(х~‘) непрерывен. Таким образом, достаточно доказать наше утверждение в окрестности единицы. Пусть (хь ..., хт) — локальные координаты точки х из окрестности единицы, причем

хх(е) = ... = хт(е) = 0.

Так как группа К компактна, найдутся такие числа

О = 0о<01< ... <0г = 2л,

что на каждом интервале [6/, 6/+1) справедливо разложение в степенной ряд

f (г (8) ~) = 2 2 cw, ц (9 - Э,)1^ .. . х>.

(V) ц

Положим

и пусть -ф(у> — функция от 9, совпадающая с ф^ на интервале [9/, 6/+1). Тогда

f(r(9)x) = £ Фм(9)<1 ... х^*,

Иначе говоря, л(х)Г=£х^ x>tw

Из абсолютной сходимости этого ряда вытекает, что он сходится в пространстве L2^KY таким образом, мы получили для функции л (х) / выражение в виде степенного ряда с коэффициентами из L2 VKY

Неприводимые подпространства

Как мы только что показали, функции ф„ являются аналитическими векторами в пространстве Н (s). Вычисленные нами значения производных Ли функций ф„ задают действие на эти функции операторов представления dns, а именно

dn,^ ^п = 1п^П)

(2)(2)dns (E-) ф„ = (s + 1 — п) ф„-2,dns (Е+) ф„ = (s + 1 + п) ф„+2.

(2)

(2)

Пользуясь теоремой 1 § 1, мы можем теперь без труда найти неприводимые подпространства пространства Н(s). Сужение f^-*f\K позволяет отождествить H(s) с L^^KY

Случай 1. s не есть целое число. Пусть H'czH(s) — неприводимое подпространство. Тогда Н' разлагается в ортогональную прямую сумму одномерных подпространств, неприводимых относительно подгруппы К. В частности, пространство Н* содержит функцию ф„ для некоторого д; так как числа s + 1 ± п не равны нулю, то отсюда следует, что пространству Н' принадлежат либо все функции фп с четными номерами, либо все функции ф„

б*

с нечетными номерами. Подпространства ф Сф„, © Сф„, л четноп нечетно

очевидно, неприводимы.

Случай 2. s = 0. В этом случае пространство Н (s) содержит - три неприводимых подпространства:

ф Сф„, ф Сф„, ф Сф„.л четноп нечетноп нечетно

п> 1л<- 1

Случай 3. s = m—1, где т^ 2 —целое число. Заметим, что в этом случае функция фт принадлежит ядру оператора dns(£~) и является собственной функцией оператора с?л$(^), а оператор dns(£+) переводит ее в функцию, кратную фт+2. Следовательно, подпространство

Hw = ф Сф„

пеет

неприводимо. (Мы пишем п = т вместо п = т (mod 2).) По аналогичной причине подпространство

Н^ = ф Сф„

пе*т

также неприводимо, ибо dns(£+^_m =0.

Существует также неприводимое подпространство, состоящее из функций противоположной четности, а именно

Ф Сф„.п * т

Факторпространство

У(т-1) = Я(m_ l)/^"”+ //<-'"> + ф Сф„1

Lп*т J

конечномерно и имеет размерность т— 1. В нем имеется базис, порожденный образами элементов

{ф-ш + г» ^-« + 4’Фт-г}

из пространства Н(т—1). Действие алгебры Ли показывает, что это факторпространство неприводимо. Оно содержит векторы старшего и младшего веса.

Построенные выше бесконечномерные неприводимые подпространства (в случае 3) содержат младший вектор веса т или старший вектор веса —т. Позднее мы докажем, что при /и ^2 существует унитарное представление группы G, производное

представление которого линейно эквивалентно представлениям алгебры Ли g в этих подпространствах.

Напомним, что в случае 2, когда s = 0, мы построили два неприводимых унитарных представления со старшим вектором веса — 1 и младшим вектором веса 1 соответственно.

Говорят, что унитарное представление принадлежит дискретной серии, если оно входит в разложение регулярного представления в пространстве L2(G). Как мы увидим, унитарные представления группы G, соответствующие представлениям алгебры Ли, построенным в случае 3 при пг ^2, принадлежат дискретной серии. Представления, для которых з = 0, не принадлежат дискретной серии, хотя во многих отношениях похожи на представления дискретной серии. Их можно было бы назвать «ложнодискретными представлениями».

Случай 4. s = — m + 1, где m ^ 2 — целое число. Этот случай аналогичен случаю Зив действительности является двойственным к нему. В самом деле, из общей теории индуцированных представлений мы знаем, что для любого комплексного числа s пространство Н^ двойственно пространству Я(—s). (Мы обозначаем символом Н^ пространство представления, индуцированного характером ps, как в теореме 3 § 2 гл. III.) Из действия алгебры Ли ясно, что в этом случае пространство Н(s) содержит неприводимое конечномерное подпространство У (— /п +1), причем соответствующие ему веса (относительно подгруппы К) — те же самые, что и в факторпространстве У (/п—1). Далее, факторпространство Н (—- m + 1)/У (—/п+1) содержит два неприводимых подпространства, в одном из которых есть старший вектор веса — /п, а в другом — младший вектор веса пг. Пусть, как и выше, (ф„) — ортонормированный базис пространства Н^щ— 1), и пусть {ф!„} — соответствующий ортонормированный базис пространства Н (— m + 1). Тогда эти базисы дуальны друг другу относительно двойственности, определенной в теореме 3 § 2 гл. III. В частности, конечномерные пространства У(/п —-1) и У(—/п+1) дуальны друг другу. По поводу дальнейшего использования этой двойственности см. § 4 гл. VII, и в особенности лемму 2, которая описывает пространство У (—/п+ 1) более точно.

Пусть Hw и Н ^ — подпространства с младшим вектором веса пг в пространствах Н (пг— 1) и Я (—/п+1)/У (—/п +1) соответственно. Мы явно зададим инфинитезимальную эквивалентность

L: Hw(K))->H4m4KY

Пусть фп, ф'—весовые векторы в пространствах Нп1 Н'п, причем п^пг и ns/и (mod 2). Мы хотим задать такой изоморфизм L,

что Лфя = &пф', где Ьп — некоторые постоянные. Зная действие операторов Е+ на векторы фп, фп, нетрудно получить рекуррентную формулу

и ь —m + 2 + и

Таким образом, выбор числа bm однозначно определяет постоянные Ьп при всех п.

Классификация всехнеприводимых унитарных представлений

Хотя это и не существенно для тех вопросов, которые рассматриваются в настоящей книге, иногда бывает необходимо иметь полное описание всех неприводимых унитарных представлений группы G. Например, представления, которые не дают вклада в формулу Планшереля для группы G, могут встретиться в разложении пространства А2 (Г\(5) для различных дискретных подгрупп Г с G, причем ни одно из этих представлений a priori нельзя исключить. Поэтому мы приведем здесь классификацию Баргманна; ее можно без труда получить из уже доказанных нами результатов.

Пусть л — допустимое неприводимое представление группы G в пространстве Н, dn — производное представление, определенное на Я(Л)сз//. Имеет место разложение в прямую сумму

где п пробегает некоторое множество целых чисел заданной четности (т. е. принадлежащих одному классу вычетов mod 2).

Предположим сначала, что в пространстве Н нет векторов старшего и младшего веса.

Чтобы пояснить идею рассуждения, допустим сначала, что На =0=0. Пусть и0 —ненулевой вектор из подпространства Но. Определим векторы ип е Нп (п четно) при помощи рекуррентной формулы

«п+2 = Е+Оп

(для краткости мы пишем Е+и„ вместо da^E+^On)- Ясно, что векторы ип определяются этой формулой однозначно при всех четных п, положительных и отрицательных. Определим числа с„ формулой

Е-и„ = с„и„-2.

Нас интересует, при каких условиях в пространстве Н(К) существует положительно определенное скалярное произведение, согласованное с заданным представлением алгебры Ли gG, т. е.

такое, что операторы d%(X) кососимметричны при всех Хед. Очевидно, длину вектора п0 можно выбрать произвольной; положим

<°о. °о) = ао» а0>°-

Из формулы

(Е+Е- — Е-Е+) о„= — 4iWon = 4по„

вытекает соотношение

сп - сп+2 = 4п.

Условие кососимметричности

<Е+оп, Уп^ = <рп, —Е-о^ показывает, что

°п+2=^п+2^п"

Таким образом, числа сп должны быть вещественными и отрицательными. Кроме того, из формулы (2) видно, что выбор с0 полностью определяет сп при всех п. А тогда по формуле (3) однозначно определяются также все числа ап. Итак, унитари- зация представления, если она существует, полностью определяется выбором отрицательного числа с0.

Аналогичные рассуждения можно провести для представления противоположной четности, выбирая базисный вектор о, в пространстве Hv Условия (2) и (3) остаются без изменений, и уни- таризация представления однозначно определяется выбором отрицательного числа Ср

Рассмотрим индуцированное представление л, в пространстве Н (s), где s — произвольное комплексное число. Так как

ал,(Е+)ф„ = ($ + 1 +п)ф„+2, dns(E-)v„ = (s+ 1 — п)ф„-2, то условие отрицательности с0 эквивалентно неравенству

(s + l)(s — 1) < 0.

Это неравенство выполняется, когда s чисто мнимое или когда s вещественное и — 1 < s < 1. Мы уже знаем, что чисто мнимым s соответствуют неприводимые унитарные представления. Представления, для которых — 1 < s < 1, также допускают унитари- зацию; для этого нужно пополнить пространство Н(К) относительно скалярного произведения, определяемого условиями (2) и (3). Получаемые неприводимые представления называются представлениями дополнительной серии.

Заметим, что для представлений противоположной четности условие на постоянную С] приводит к неравенству c1 = s2<0.

Таким образом, в этом случае показатель s может иметь только чисто мнимые значения.

Рассмотрим, наконец, при каких условиях допускают унйта- ризацию представления со старшим или младшим вектором. Пусть, например, в пространстве Н существует старший вектор веса tn. Мы утверждаем, что тогда т < 0. В самом деле, если Е+ит = 0, то аналог соотношения (2) имеет в данном случае вид

ст = Ат;

число ст должно быть отрицательным. Аналогично, если в пространстве Н существует младший вектор веса т, то т > 0.

-4 -3 -2 -11123 4

Рис. 1

Классификацию Баргманна можно резюмировать следующим образом:

Теорема 8. Всякое неприводимое унитарное представление группы SL2(R) инфинитезимально эквивалентно одному из подпредставлений представления л$ в пространстве Н (s) при следующих значениях s:

представления дискретной серии, s=m—1, m^ 2 — целое-,

ложнодискретные представления, s = 0; существует одно представление со старшим вектором веса — 1 и одно представление с младшим вектором веса 1;

представления основной серии; при s = h, т ^= 0, существуют представления обеих четностей; при s = 0 существует только четное представление;

) представления дополнительной серии, — 1 < s < 1, s ^ 0;

одномерное представление, s = — 1.

Теорема 8 оправдывает наш рисунок части пространства G, приведенный в § 4 гл. I. Полная параметризация пространства G изображена на рис. 1. Вертикальная линия является двойной (по одному экземпляру для представлений каждой чет-

ности), а горизонтальный отрезок н целые точки — одинарные. Точки соответствуют старшему или младшему весу представления.

Из теоремы 8 видно также, что неприводимые унитарные представления реализуются как подпредставления индуцированных представлений. Единственность обеспечивается теоремой 5 § 3.

§ 7. Разделение представлений при помощи их характеров

Как известно, представление компактной группы определяется своим характером, т. е. следом представления. Нас интересует аналогичное утверждение для неприводимых унитарных представлений в гильбертовом пространстве. Грубо говоря, у нас нет надежды отделить одно из представлений, входящих в непрерывное семейство, от всех остальных. Однако можно попытаться

| * 2 з 77. m

Рис. 2.

отделить представление, входящее дискретно. Мы покажем сейчас, как это сделать для представлений, описанных в § 5.

Для любого отличного от нуля целого числа m обозначим символом Н^ пространство представления лт, обладающего старшим вектором веса т, если m < О, или младшим вектором веса т, если т > 0. Тогда Н^ — старшее (соответственно младшее) весовое подпространство в пространстве Н^. Как и в гл. V, мы обозначаем буквой Н преобразование Хариш-Чандры.

Теорема 9. Пусть, как и выше, т — целое, т=^й. Существует такая функция 1^еС” (G), что

4д^\Н^ = id;

(и) л^ (ф) | Н^ = 0, если п=/=т, и л, (ф) — 0, если q^ т;

(in) Нф = 0.

Доказательство. Пусть, к примеру, пг^Х. Для любой функции f^Sm.m справедливы равенства

nUhH^-H^ или 0,

л,у(f) Нп' = 0, если п Ф q.

Для наглядности старшие веса наших представлений изображены на рис. 2. Сначала мы рассмотрим представления, старшие вес^

которых лежат между 1 и tn. Чтобы разделить эти представления, поступим следующим образом. Для любой функции feSn,n образ оператора n*(f), самое большее, одномерен, и поэтому имеет смысл говорить о следе этого оператора. Рассмотрим функционалы 6Ь ..., 6т на пространстве

Z s”„,

л-1

задаваемые формулами

e/(f) = trjt'(f), / = 1,...,/п.

Ясно, что эти функционалы линейно независимы. Значит, отображение

f^e^f),етф)

т

переводит пространство У, 5„. л в Ст. Следовательно, сущест-

П—1твует функция f е £s” „, такая, чтоП—Itr^(f)-l,tr л^ (f) = 0, если 1 ^ п < щ.

Из того, как преобразуются элементы пространства S„irt, и из соотношений ортогональности мы автоматически получаем

л^ (?) = 0, если га ^ — 1 или п > т.

Итак, нам удалось построить функцию, отделяющую представление лт от всех остальных представлений л„ (га ^ О, га #= щ), имеющих вектор старшего или младшего веса.

Осталось показать, что построенную нами функцию f можно изменить так, что преобразование Хариш-Чандры обратится в нуль. Наша функция принадлежит пространству С” (G, К\ т. е. инвариантна относительно сопряжений элементами подгруппы К. В силу фундаментальной теоремы о сферическом преобразовании, т. е. в силу сюръективности преобразования Хариш-Чандры (теорема 3 § 2 гл. V), существует функция ft е С” (G//K), такая, что

Hf=Hf„

Так как функция ft двусторонне инвариантна, то справедливо равенство

”№ = о

Разделение представлений при помощи их характеров 139 и, следовательно, оператор n^(f,) аннулирует все собственные подпространства группы К с ненулевыми собственными значениями, т. е. при п Ф О

л„ (fi) Нп ’ = 0 для всех q.

Положим Ф = f — ft- ТогдаНф = 0 и л^(ф) = л^(/). Теорема доказана.

Теорема 9 принадлежит Дюфло и Лабессу [1]. Приведенным доказательством я обязан Хариш-Чандре.

Теорема 9 вместе с теоремой 4 § 4 гл. III позволяет разделять различные представления при помощи их следов; теорема 9 содержит даже несколько больше, поскольку она позволяет разделять представления на операторном уров-не.

VII. СЛЕДЫ

В этой главе мы систематически рассмотрим следы бесконечномерных представлений, и в особенности тех представлений, которые мы явно построили. Мы покажем, что след индуцированного представления, определяемый как интеграл от сужения ядра оператора представления на диагональ, можно отождествить с обычной суммой диагональных матричных элементов. После этого мы вычислим следы различных представлений.

В качестве технического отступления мы рассмотрим ряд интегральных формул, связанных с различными разложениями группы G, некоторые из которых приспособлены к изучению классов сопряженных элементов. За исключением множества меры нуль, состоящего из унипотентных матриц, классы сопряженных элементов параметризуются точками подгрупп А и К; следы представлений можно выразить в виде интегралов по таким классам. Придерживаясь этого систематического подхода, развитого Хариш-Чандрой, мы выведем формулу Планшереля. Это объясняет название, которое я выбрал для преобразования Хариш-Чандры.

Как мы увидим, следы представлений дискретной серии входят в формулу Планшереля парами. Теорема Хариш-Чандры, в которой вычислен след каждой из компонент, будет опущена; см. замечания к теореме 5 § 4. Стоит подчеркнуть этот аспект доказательства Хариш-Чандры (которое пригодно для произвольных полупростых групп Ли): вычисление следа представляет собой более сложную задачу, чем вывод формулы Планшереля; для групп более высоких размерностей существуют примеры, в которых следы представлений все еше не вычислены, хотя формула Планшереля уже получена.

Ядерные операторы

Пусть А — оператор в гильбертовом пространстве Н (в этом параграфе мы рассматриваем только ограниченные операторы). Оператор А называется оператором Гильберта—Шмидта, если

^ | Ащ |2 < оо

для некоторого ортонормированного базиса {nJ в пространстве Н. В этом случае то же самое справедливо для любого дру-

гого ортонормированного базиса {uj. В самом деле, заметим, что для любого вектора weH

I оу |2= Е | (tw, о/> |2; таким образом,

Е I Aut |2 = Е | (Аии V,) |2 = Е I <иь А*и,) |2 = Е I А’О] |2.

Оператор А называют ядерным, если его можно представить в виде произведения двух операторов Гильберта—Шмидта, скажем А = В*С, где В и С — операторы Гильберта — Шмидта. В таком случае след оператора А определяется формулой tr А = Е (Аиь и^ = Е (Сиь But).

Первое равенство показывает, что след не зависит от выбора операторов В, С. Из второго равенства следует, что ряд абсолютно сходится; достаточно два раза воспользоваться неравенством Шварца.

Пусть теперь /С—группа вращений окружности, (ф„)—обычный ортонормированный базис в пространстве L2^K), ф„(г (0))=ez"e. Пусть q — гладкая функция на КХ К. Разложим ее в двойной ряд Фурье

<7 = Е ст„фт ® ф„.

Интегрируя по частям, легко показать, что коэффициенты Фурье быстро убывают. В самом деле, для любого положительного целого d справедлива оценка типа

I cmn I ^ "Т. 77 ТТТ ГТ (l + |m| + |n|) (постоянная в этом неравенстве, которая подразумевается символом -С, зависит от d\ Таким образом, ряд Фурье функции q быстро сходится к <7 и можно воспользоваться вычислениями § 3 гл. I. В дополнение получаем такую теорему.

Теорема 1. Пусть q — гладкая функция на КХ К. Тогда интегральный оператор Q, задаваемый ядром q, — ядерный.

Доказательство. Нам нужно представить Q в виде произведения двух операторов Гильберта—Шмидта. Пусть d—большое положительное число. Пусть Рт, „ — интегральный оператор с ядром фт ® ф„; таким образом,

Рт. пФ) = 0, если / =# п,

Рт. пфп = Фт-

Пусть Pj — проектор на одномерное подпространство Сф/. Положим

В = ^ст,п^п^Рт.П) С-^Т^Р!' т, пi

Ряды, определяющие В и С, быстро сходятся и задают операторы Гильберта—Шмидта. Ясно, что BC=Q. Теорема доказана.

Пусть G = SL2 (R), л — представление группы G в гильбертовом пространстве Н. Для любого целого п обозначим Нп весовое подпространство, соответствующее n-му характеру подгруппы К. Таким образом,

Н = ©Н„.

Будем говорить, что представление л строго допустимо, если размерности подпространств Нп ограничены равномерно по п. Из теоремы 2 § 1 гл. II мы знаем, что неприводимые унитарные представления группы G строго допустимы (при всех п размерности подпространств Нп равны 0 или 1).

Теорема 2. Пусть л — строго допустимое представление группы G в гильбертовом пространстве Н. Если f еС” (G), то оператор л1 (f) ядерный.

Доказательство. Основная идея аналогична той, которую мы использовали при доказательстве теоремы 1. Пусть G = ANK — разложение Ивасавы; положим B = AN. По определению,

л1 (f) = ( f (х) л (х) dx = ^ ^ ДЬ$ л (&) n(k)dkdb = ов к

2л

= ^ л(Ь) ^ЦЫг^ а^') d9 db. в о

(Для нас сейчас несущественно, что при такой нормировке полная мера подгруппы К равна 2л.) Так как л(^0) допускает разложение

л(60) = £е-"вР„,

где Рп — ортогональный проектор на подпространство Нп, то 2Л

Л1 m = $ л ^ $ £ е^ W ^ db = Вon

Вл

где

2л

fnW=\fWe^M9. о

Зафиксируем целое число d > 0. Интегрируя по частям, легко показать, что

1 +

Кроме того, носитель функции f„ компактен. Положим

Q„ = ( л (6) fn ^ db; таким образом, | Q„ К ■ 1 м .в1+«м

(Напомним, что представление л локально ограничено; см. § 1 гл. I.) Получаем

"’ (F)=Zq^«.

Пусть

A^Sd+n^QA,

А2=Ит^ Рп‘п

Ряды, задающие А] и А2, быстро сходятся; поэтому А] и А2 — операторы Гильберта—Шмидта. Кроме того, л1(Л = А1А2. Теорема доказана.

Пусть л — строго допустимое представление группы G в гильбертовом пространстве Н. Тогда отображение

фь-^-tr л1 (ф)

задает линейный функционал на пространстве С” (G). Легко проверить, что он представляет собой распределение в смысле Л; Шварца (определение см. в конце приложения 4). Хотя мы и не будем в дальнейшем пользоваться этим утверждением, для удобства читателя докажем его в том случае, когда представление л унитарно. Если ф е С” (G), то для простоты будем писать ВГф вместо й^ф; здесь W — обычная образующая алгебры Ли подгруппы К. Достаточно показать, что для всех функций ф, носитель которых лежит в компактном множестве Q, справедлива оценка

|1гл' (ф)|<СЛ(1-1Г2)ф||а.

Пусть и„ — единичный вектор в пространстве Нп и

/п to = (я to ып> ^п)

— соответствующий матричный элемент представления л. Мы докажем нашу оценку для каждого слагаемого

^ t W L ^ dx, о

откуда и будет следовать наше утверждение. Интегрируя по частям, получаем

( (1 — W2) ф (х) f„ (х) dx = J ф (х) (1 — W2) fn (х) dx = ОG

= (1 + га2) ф (х) f„ (х) dx.

а

Следовательно,

5 Ф to f™ to dx а5 Ф to f™ to dx а<7Т^$1(1-1Г)ф(х)Ш^х.<7Т^$1(1-1Г)ф(х)Ш^х.

5 Ф to f™ to dx а

5 Ф to f™ to dx а

<7Т^$1(1-1Г)ф(х)Ш^х.

<7Т^$1(1-1Г)ф(х)Ш^х.

По предположению, представление л унитарно; поэтому | f „ (х) № • Теперь нужное нам неравенство очевидно.

Для представлений, рассматриваемых в этой главе, функционал 1гл‘ задается обычной функцией Тл, а именно

tr л1 (ф) = ^ ф to^n to dx.

о

Так как в правой и в левой части этого равенства стоит одна и та же мера Хаара, ясно, что функция Ти не зависит от выбора меры Хаара. Если такая функция существует, то a priori она определена только почти всюду. Однако, как мы увидим, эта функция непрерывна на открытом множестве, а вне этого открытого множества ее можно положить равной нулю. Таким образом, даже эта неоднозначность устраняется. В этой главе нам не встретятся другие типы распределений.

Предположим, что пространство Н конечномерно. Тогда задающая след сумма

tr Л1 (Ф) — У ф (х) (л (х) и,-, u;) dxi G

конечна и ее можно внести под знак интеграла. Таким образом, Гя(х) есть обычный след в смысле элементарной алгебры.

Для простоты мы часто будем писать л (ф) вместо л1 (ф).

До конца этого параграфа мы будем предполагать, что все представления являются строго допустимыми.

Инвариантность относительно сопряжения

Пусть л — представление группы G в гильбертовом пространстве Н. Пусть фЕ С” (G). Пусть у eG и ф^ — такая функция на G, что

ф»(х) = ф(у-‘ху).

Тогда -

tr л (ф) = tr л (ф^).

Доказательство. Это следует из соотношений л(ф4) = =л (у)л (ф) л (z/)-1 и tr (ХЛХ-1)=1г А (см. приложение к этой главе).

Предположим, что мера группы К равна 1. Пусть

фк (я) = ^ Ф (&-!х/0 dk.

к

Тогда tr л (ф) = tr л (фк).

Доказательство. Рассмотрим интеграл

tr л (фк) = ^ ^ ф (k~xxk} (л (х) ut, Ut') dk dx.

i а к

Изменим порядок интегрирования и вынесем интеграл по К за знак суммы. Модулярная функция преобразования xv-^-hxk~x равна 1. Поэтому искомый след равен

S X $ ^ ^ (л (А) л (х) л (й-1) иь Ut} dxdk. к I о

Теперь наше утверждение вытекает из того факта, что 1гл(ф) = = tr л(ф*).

В силу доказанных утверждений, при вычислении следа операторов л1 (ф) мы можем предполагать, что ф г С” (G, К), т. е. что ф — гладкая функция с компактным носителем, инвариантная относительно сопряжений элементами подгруппы К.

Хариш-Чандра доказал, что след произвольного неприводимого унитарного представления полупростой группы Ли является распределением. Это сводится к проверке условия строгой допустимости, т. е. к оценке размерности /(-неприводимых подпространств пространства /(-конечных векторов. (На самом

р е К.) Он до-р е К.) Он до-dim Но деле равномерно ограничена величина -^}т ^ ,

р е К.) Он до-

р е К.) Он до-

казал также, что след представляется локально суммируемой

функцией. При изучении группы SL2 (R) мы будем, следуя Хариш-Чандре, разбивать интегралы по группе на интегралы

по различным классам сопряженных элементов. Элемент группы G будем называть регулярным, если он имеет различные собственные значения; множество всех регулярных элементов Обозначим символом G'. Если S — подмножество группы G, то символ S' будет обозначать множество регулярных элементов S, а символ S° — множество элементов, сопряженных элементам множества S, т. е. элементов вида g-1xg, geG, xsS.

Лемма 1. Пусть G = AN К — разложение Ивасавы. Тогда

G' = ± А'° U К'°.

Дополнение множества G' в G имеет меру нуль.

Доказательство. Если элемент g е SL2 (R) имеет одно собственное значение кратности 2, то по теореме Жордана он сопряжен некоторому элементу подгруппы ± N. Так как группа AN нормализует N, образ группы N при сопряжении относительно G имеет размерность 2; следовательно, его мера равна нулю. Если матрица g имеет различные вещественные собственные значения, то ее можно привести к диагональному виду (над R); таким образом, она сопряжена некоторому элементу подмножества ± А'. Если собственные значения матрицы g не вещественны, то простые алгебраические соображения показывают, что она сопряжена некоторому элементу подмножества К', что и требовалось доказать.

Из приведенного описания классов сопряженных элементов вытекает, что

f (х) dx = ^ f (х) dx + ^ f (х) dx.о±а’°к °

Мы будем пользоваться этим разложением при вычислении следов. В § 2 будут приведены различные формулы для этих интегралов, которые получаются при разных параметризациях множества классов сопряженных элементов.

Инфинитезимальная инвариантность

Напомним, что две нормы называются эквивалентными, если каждая из них оценивается через другую. Два скалярных произведения называются эквивалентными, если эквивалентны соответствующие им нормы.

Лемма 2. Пусть Л; — представление группы G в гильбертовом пространстве Нь а Н2 — то же самое пространство, снабженное эквивалентным скалярным произведением. Пусть 5^ —то же

самое представление, рассматриваемое как, представление в пространстве Н2. Тогда

tr я1 (ф) = tr Л2 (ф).

Доказательство. Пусть Т: Нх-> Н2 — тождественное отображение. Ясно, что операторы Т, Т-1 непрерывны. Тогда

и2(,х') = ТаДх)Т~', и равенство следов вытекает из общей теории следов операторов (см. последнюю теорему в приложении к этой главе).

В частности, предположим, что сужение представления л = ^ на подгруппу К не унитарно. Усредняя скалярное произведение по К, можно получить новое скалярное произведение и новое гильбертово пространство Н2, такое, что сужение представления л2 на подгруппу К унитарно. Следы обоих представлений одинаковы.

Лемма 2 представляет собой частный случай следующей теоремы.

Теорема 3. Пусть ль л^— представления группы G в гильбертовых пространствах. Предположим, что весовые подпространства каждого из этих представлений не более чем одномерны и что представления nt и л2 инфинитезимально эквивалентны. Тогда

tr Л] (ф) = tr л2(ф)

для любой функции ф е С? (G).

Доказательство. Согласно предыдущему замечанию, мы можем считать, что сужения представлений ль л2 на подгруппу К унитарны. Воспользуемся теперь теоремой 5 § 3 гл. VI, в которой мы доказали, что матричные элементы обоих представлений совпадают. Следовательно, их суммы тоже совпадают и равны

^ § Ф to to to ui> ut) dx,l G

где л —любое из представлений ль л2, а (•, •) — соответствующее ему скалярное произведение.

Из теоремы 3 вытекает, что для вычисления следа унитарного представления можно использовать любую его реализацию (не обязательно унитарную), инфинитезимально эквивалентную данной. Это замечание полезно, в частности, при работе с унитарными представлениями, для которых существует реализация в виде индуцированного представления, когда след задается просто как интеграл от сужения ядра представления на диагональ.

Интегральные формулы

Предварительные замечания

В этом параграфе мы сведем воедино различные формулы замены переменных; для удобства читателя напомним сначала некоторые элементарные факты о многообразиях и интегрировании на них. Мы предполагаем, что читатель знаком с основами теории, изложенными, например, в книге Ленга [1, гл. XVI, XVII и часть гл. XVIII], где приведены общие теоремы об интегрировании на многообразиях и о мерах, связанных с дифференциальными формами.

В этом параграфе многообразия, с которыми мы будем иметь дело, — это SL2 (R) или произведение ее одномерных подгрупп типа A, N, К (т. е. аддитивной и мультипликативной групп вещественных чисел и группы вращений окружности). В качестве карты на этих многообразиях мы будем использовать касательное пространство к единице вместе с экспоненциальным отображением. Если G — одна из перечисленных групп Ли и д — ее алгебра Ли, то для любого элемента g е G карта окрестности точки g задается отображением

exp: U—>G, Х>-^- gexpX,

где X принадлежит окрестности нуля в алгебре Ли д. Если G' — другая группа Ли с алгеброй Ли д' и F: G'->G — гладкое отображение (не обязательно гомоморфизм), то для любой точки g' е G' определен соответствующий дифференциал

dHg'y. g'->g,

т. е. касательное отображение функции F в точке g'. Пусть {Хр ..., Xd} — базис д, а ^Х^, ..., Х^} — базис д'. В приложениях d = 3 и группы G, G' имеют одинаковую размерность, поэтому будем считать, что эти условия выполнены. Поливекторы

X] А ... А Xд}Х^ А ... А Хд

образуют базис в пространствах Adg и AV соответственно. Если Yь ..., Yd е д, то

У^ ... Ard = a>(yb .... Y ^ Xv л ... a Xd,

где co (У;Yd^ — вещественное число, а отображение

V1^^«(Уь ..., у^)

представляет собой дифференциальную форму. Аналогично, заменяя векторы У/, Xj на У/, X';, мы получаем дифференциальную форму со' на д'. Разумеется, эти формы зависят от выбора базисов (Х;) и {X/}.

Предположим, что отображение F — локальный диффеоморфизм в каждой точке открытого подмножества группы G' (в наших примерах это всегда выполнено). Тогда отображение

^dF(g^: AV->Ad8

есть изоморфизм и поэтому задается умножением на число, зависящее от точки g', скажем на с^), т. е.

dF^XU ... ^dF^X,d = c(g'^Xi ^ ... ^Xd.

По определению, прообраз дифференциальной формы ® при отображении F задается формулой

(F•ti))(g') = c(g')(i>Чg,).

Число c(g') называется якобианом преобразования F; если ц и ц' — положительные меры, ассоциированные с дифференциальными формами ® и соответственно и/, то локально в каждой точке

(/Ш=Ж1т

В терминах интегралов это означает, что в открытом , множестве V', на котором F представляет собой локальный диффеоморфизм, справедливо равенство

$ f (g) du ^=^f (F (g')) | c (g') | d^ (g').

F (V')V'

Если F — накрытие степени m, отображающее открытое подмножество V' с G' на открытое подмножество V C.G, то для того, чтобы это равенство осталось справедливым, правую часть следует разделить на т.

Оставшаяся часть этого параграфа посвящена вычислению якобианов в четырех специальных случаях. Дифференциал dF (g1} можно вычислить при помощи производных Ли. Пусть X' е д'. Мы хотим найти вектор dF (g') д = X. Этот вектор характеризуется следующим свойством. Пусть ф е СТ ^GY Тогда

Вычисление якобианов

До конца этого параграфа выберем в качестве базиса алгебры Ли g группы SZ2 (R) = G матрицы

/10\. /О 1\/О 0\

[Iут IIV- II

ко -17’ ко О/к1 07 *

Тогда вектор Н л Х+ л Х~ — ненулевой вектор из Л Зд и существует единственная левоинвариантная дифференциальная форма со на группе G, такая, что

Х+, Х~) = 1.

С этой дифференциальной формой связана положительная мера цщ. Мы будем сравнивать другие меры на группе с этой стандартной мерой, что позволит нам также установить связь их друг с другом.

Однопараметрическая подгруппа, для которой Я —касательный вектор, совпадает с А; если мы запишем ее элементы в виде

0 \

то мере Хаара da на группе А соответствует мера Лебега dt. Аналогично, однопараметрическая подгруппа с касательным вектором Х+ есть подгруппа N, и если записать ее элементы в виде

/1 и \« = =

то мере Хаара dn на подгруппе N соответствует мера Лебега du. Аналогичное утверждение справедливо для группы /V, состоящей из матриц вида

/1 0\

мере Хаара dn соответствует мера du.

Если g е G и Z е д, то, по определению, Z8 = g-‘Zg = Ad(g-1)Z.

Отображение ■ g*-* Ad g есть представление группы G; его называют присоединенным представлением. Заметим, что

g-1(expZ)g = exp(g~1Zg).

Следовательно,

(exp Z) g = g exp Z8 = g exp (Ad (g- *) Z).

Это показывает, как «пронести» элемент группы через экспоненту.

Как обычно, мы полагаем

Матрица W является образующей алгебры Ли группы К; матрицы expGF задают параметризацию этой группы. При такой параметризации мера Хаара на К переходит в меру 76.

Мы будем считать, что меры Хаара на подгруппах A, N, К выбраны при помощи описанной параметризации. Меры на прямых произведениях AXNXK и КХАХК— произведения мер на сомножителях da = dt, dn = du, dk = 76.

INTI. Зададим отображение F; AXNXK-*G формулой F(a, n, k^ = ank. Тогда для любой функции феСГ(С) справедливо равенство

Ф (g) 7цт (g) =j ф Vank^ da dn dk.

aa n к

Доказательство. Пусть ф — гладкая функция на группе G. Тройка векторов {//, Х+, W^ образует базис касательного пространства к единичному элементу в А X N X К. Для того чтобы вычислить действие дифференциала отображения F на векторы Н, Х+, W, воспользуемся производными Ли. Рассмотрим сначала производную

■^-ф(аехр(Ш) пк^ |(_0.

Ясно, что

Ф (а ехр (///) nk) = ф (апк ехр (Шак)).

Это означает, что

dF^a, п, k)H = Xd(k-'}Xd(n-')H.

Аналогично

dF {а, п, k) Х+ = Ad О-1) X*,dF (a, п, k)W = W —Х+ —Х~.

С другой стороны, нетрудно проверить прямым вычислением, что если

п =п =1 и\О 17’1 и\О 17’

п =

п =

1 и\

О 17’

1 и\

О 17’

то Ad (га-1) Н = Н + 2иХ+. Следовательно,

Н^Н + 2иХ+,

Ad (6) dF (а, п, к\.Ad (6) dF (а, п, к\.Х+Ь->Х+,Х+Ь->Х+,

Ad (6) dF (а, п, к\.

Ad (6) dF (а, п, к\.

Х+Ь->Х+,

Х+Ь->Х+,

w^x+- х~.

Отображение к*—>A3Adfe задает представление группы К в мультипликативной группе вещественных чисел и поэтому

тривиально. Значит, отображение Л3 dF (а, п, ^) переводит вектор Н ^X+ ^W в — Н л Х+ л Х~. Это показывает, что локально прообраз меры цщ есть в точности dadndk. Так как отображение F взаимно однозначно, наша формула доказана.

Выведем теперь интегральную формулу, связанную с так называемым разложением Картана. Обозначим А+ множество всех матриц вида

(а 0 \

а = 1 п), а > 1.

а V

Рассмотрим отображение

KXAXK^G,

действующее по правилу (/г„ a, k2) *—* kxak2. Это отображение сюръективно, поскольку полярное разложение матрицы х по зволяет однозначно записать ее в виде

x = sk,

где s — положительная симметричная матрица, k е К. Кроме того, если собственные значения матрицы s различны, ее можно привести к диагональному виду ортогональным преобразованием. Сопрягая полученную диагональную матрицу, если это необходимо, при помощи матрицы w, можно перевести ее в элемент множества Д+. Наконец, если а=^ ± 1, то в выражении s = k\Xak\ для положительной симметричной матрицы s, где а е А+ и ^ е К, элемент kx определен с точностью до умножения на ± 1. Следовательно, разложение

x = kvak2,

где а е А+, kh k2 Е К, определено однозначно с точностью до умножения матриц kv k2 на ±1.

Отображение

F: KXA+XK^G, (kx,a,k2^k1ak2

называется разложением Картана. Приведенные замечания показывают, что отображение F двулистно накрывает свой образ, который в действительности совпадает с дополнением к подгруппе К в G. В самом деле, если аеА+, то двойной смежный класс КаК не пересекается с подгруппой К (так как ДПК = {±1}); с другой стороны, мы уже видели, что любую матрицу х е G можно представить в виде х = kxak2 для некоторых kb ^еК, аеА. В частности, образ множества КХ А+ X К открыт в G, а его дополнение имеет меру нуль.

INT 2. Пусть F: К'К А+ X К -* G — разложение Картана. Для любой функции феСс(С) справедливо равенство

Ф (х) dpw (х) = ^ ^ ^ ф^а/у^-^—^^—-dktdadk2.ак а+ к

Положив a = ht, k}=r (OJ, k2 = r (02), можно записать это равенство в виде

Ф (х) с/цш (х) = ^ ^ ^ ф (г (91) htr (62)) sh 2/ d9x dt d92.

GООО"

Интеграл по переменной / берется от 0 до оо, поскольку интервал (0, оо) параметризует множество А+. Напомним, что a(a) = e2t.

Чтобы вычислить дифференциал отображения F, возьмем в качестве базиса алгебр Ли групп Ki = K, А, Кг —К матрицы Wx — W, Н, W2 = W соответственно. Этот выбор фиксирует меру на произведении КХ АХ К. Нам нужно определить, образ 3-вектора WxaHaW$ при отображении F,. Как и выше, возьмем произвольную функцию ф е С” (G) и преобразуем выражения

Ф (&! ехр (/й^) а&2), ф (^а ехр (/Я) &2),ф^а^ехр^И^)),

щему правилу:щему правилу:пользуясь правилами коммутации экспоненты с элементами группы и пронося ее направо. В результате вычислений получаем, что дифференциал отображения F действует по следую-

щему правилу:

щему правилу:

Ad ^2 • dF (kb а, к2\.Ad ^2 • dF (kb а, к2\.Г! ^ Ad (a-1) W = а~2Х+ - а2Х-, Н^Н,

Ad ^2 • dF (kb а, к2\.

Ad ^2 • dF (kb а, к2\.

W2v-»W = Х+ — Х—

Перемножая эти векторы, находим

F, (W^aHa W2) = (а-2 — а2) Я д А+ д Х_.

Это означает, что локально прообраз меры dpu дается формулой.

F* № J = (° (а) — ° (а-')) ^^i da dk2.

Так как F — двулистное накрытие, то для того, чтобы получить интеграл по всему произведению К X А+ X К, нужно разделить нашу меру на два.

Следующие две формулы связаны с интегрированием по' множеству классов сопряженных элементов. Обозначим символом G' множество элементов группы G с различными собственными

значениями; аналогично определяются множества Д', К'. Мы ■будем называть такие элементы регулярными.

Рассмотрим сначала множество К. Множество Xй, состоящее из всех элементов вида g-1ag, где аеД', geG, открыто в G. В самом деле, предположим, что элемент ge G таков, что матрица g~'ag также принадлежит Д. Тогда матрицы а и g~xag имеют одинаковые собственные значения, откуда

g-xag = a или g-xag = a~x.

В первом случае матрица g централизует а; мы предоставляем читателю проверить, что geMA, где М = {±1}. Во втором случае gw е МА, поскольку сопряжение матрицей- w переводит и в а-1. Чтобы пояснить эти замечания, рассмотрим отображение

F: А' X Д\С ~> G',(a, g-) г-* g-xag.

Из сказанного выше следует, что это отображение представляет собой накрытие степени 4; в самом деле, четыре элемента

(a, ± 1),(а-1, ±ю)

имеют один и тот же образ в группе G при отображении F. Разложение

G = ANK

позволяет параметризовать множество Д\С точками (п, к) е е N X К; мы воспользуемся этой параметризацией в нашей следующей интегральной формуле.

INT 3. Зададим отображение F: А' X N X К -* G' формулой F (а, п, k) = k~xn~xank.

Положим D (.а)— а (а)111 — а ^ Vi. Тогда для любой функции^ с носителем в множестве Х° справедливо равенство

ооф(^)^Н(В(§)=4’$ $ $ ф(^-|/г-|оп^) |Z>(a) \2dadndk.

о

о

a n к

Доказательство. Множитель 1/4 связан с тем, что отображение F — накрытие степени 4. Остается показать, что локально прообраз меры йци при отображении F равен | D (a) |2da dndk. Рассмотрим сначала выражение

Ф^-'п-'аехр (/Я)п&).

Легко проверить, что, если пронести экспоненту направо, оно примет вид

Ф (/г-'ц-'оп^ exp (Ad/г-1 • Ad л~'• Я)).

Отсюда после несложных выкладок получаем

Adk-dF(a, п, £) Н = Adn~'H = Н + 2ы/+,

/1 ы\где n = (0

Далее, рассмотрим функцию

/и-а-ф^-1 exp (— tX^n-'anexp (tX+) &) =

= ф(^_1п_1апехр (—/ Adn-1 • Ad а-1 • Ad п • А+)ехр (ZX+) ^).

Чтобы вычислить ее производную при / = 0, заменим переменную t на втором месте новой переменной о. Затем, воспользовавшись правилом дифференцирования сложной функции, сложим частные производные not и по о и сделаем подстановку / = и=0. Для вычисления производной по I заметим, что

Adn-X+ = X+

(так как группа N коммутативна!) и

Ad а-1Х+ = а-2Х+.

В результате получаем

Ad & • dF (a, n, 6) Х+ = (1 — а-2) Х^.

Наконец, рассмотрим функцию

/ ь—* ф (exp (— tW) k-'n-'ank exp M;W^ =

= ф(6~1п~'апехр (— t Adn-1 Ada"1 Adn • IF)exp (HF) • fe) и воспользуемся снова правилом дифференцирования сложной функции, заменив переменную t на втором месте новой переменной У. Получим

Ad к • dF {а, п, k^W = -Ad (п^а^п) ■ IF + IF.

Нас будет интересовать внешнее произведение векторов F,H, F,X+, F,W. Заметим, что вектор F„X+ есть скалярное кратное вектора Х+. Поэтому нам достаточно вычислить вектор F,H+ лишь с точностью до слагаемых, кратных Х+, а вектор F„W — с точностью до линейной комбинации векторов Н, Х+. Вычислим явно матрицу g = n-'a-xn, а затем определим проекцию вектора gWg-1 на Х-. Получим

Ad к • F,W = (a2 - 1) X- (mod (Я, А+)).

Отсюда

FДH^ A+aIF)-=(1 -д-W- 1)#л Х+лХ_.

Но

(1 — а~2)(а2— 1) = (а — ц-')2 = | Z)(a) |2.

Итак, наша формула доказана.

Пусть А_ — класс смежности подгруппы А, состоящий из всех матриц вида — а, а^А. Положим т = — 1. Тогда справедлив следующий аналог формулы INT 3.

INT 3'. Зададим отображение F: A'-X^XK-^G формулой F (а, п, k) = k-'n-'ank.

Тогда для любой функции <peCc(G), носитель которой содержится в множестве А , справедливо равенство

$ ф (5) ^ш (g) = -5- Ц $ ф Ut-tn-^manh) | D (а) |2 da dn dk. A N К

Эта формула немедленно вытекает из INT 3.

Последняя формула этого параграфа будет связана с однородным пространством K\G. В общей теории полупростых групп Ли аналогом группы К в данном контексте является подгруппа Картана, которую обозначают В. В данном случае В = К, но иногда мы будем писать В вместо К.

Разложение Картана G = KAVK позволяет указать параметризацию множества (/(\G) = К\КА+К; в самом деле, из него следует, что

У<\ОУ ~А+К/М,

где, как и прежде, Л4 = {±1}. Рассмотрим теперь отображение

F: КХА^ХК^О', действующее по правилу

(&', a, k)\-^ h-1a~lh'ah\

здесь К' — множество регулярных элементов группы К, т. е. множество всех элементов из К, отличных от ± 1. Из разложения Картана следует, что если УеК' и матрица g е G удовлетворяет условию

g^h'geK,

то geK. Отсюда немедленно вытекает, что отображение F представляет собой двулистное накрытие (так как образ точки ^h', a, k) не изменяется при замене матрицы h на — h).

Пусть h = h6 = r(9y, положим, по определению,

D (йв) = D (6) = е‘6 - е-« = 2i sin 0.

Эта величина представляет собой разность собственных значений матрицы h^.

При выводе формулы замены переменных сейчас будет удобнее использовать комплексный базис алгебры Ли, состоящий из собственных векторов операторов Ad k, he К. Выше мы уже вводили матрицы

ясно, что матрицы {Я, F) образуют базис в пространстве симметричных 2 X 2-матриц со следом 0; кроме того,

E+ = H-HV, E_ = H — iV.

Матрица W образует базис в пространстве кососимметричных матриц; справедливы коммутационные соотношения

[IF, £+] = 2/£+, [IF, £_] = - 21Е_.

Следующая лемма показывает, что элементы Е+, Е_ являются также собственными векторами операторов Adh, кеК. Эта лемма справедлива для произвольных групп Ли, хотя при ее доказательстве мы будем пользоваться матричной реализацией.

Пусть У, Z е Mat„ (С) — комплексные п X «-матрицы, и пусть g е GLn (С). По определению,

adZ.y = [Z, У], Adg- Y = gYg~'.

Итак, adZ есть линейный эндоморфизм пространства матриц. Определим эндоморфизм exp ad Z при помощи обычного степенного ряда:

exp ad Z = / + ad Z + -±- (ad Z)2 + ... .

Ясно, что матрица exp Z принадлежит группе GLn (С), и, значит, определен эндоморфизм Ad (exp Z).

Лемма. Ad (exp Z) = exp (ad Z).

Доказательство. Положим

f (z) = Ad (exp (fZ)),g (/) = exp (ad (/Z)).

Тогда f и g — гомоморфизмы аддитивной группы вещественных чисел в группу GL (Mat„(С)), причем их значения в точке 1=0 совпадают, а именно

f^ = g^ = I.

Мы покажем, что их производная при / = 0 равна ad Z, откуда и будет следовать, что f(/) = g(/) при всех / е R. Имеем

Ad (exp (/Z)) Y = (/ + tZ + О (i2)) Y(I-tZ + O (/2)) =

= K + /[Z, У] + О(/2).

Это показывает, что f' (0) = ad Z. Далее, exp (ad/Z) ■ У = У + ^ ad Z • У + О (/2).

откуда немедленно следует, что g' (0) = ad Z. Лемма доказана. Приведем пример приложения доказанной леммы. Допустим, что У е g — собственный вектор оператора adZ, т. е.

adZ-Y = XY.

Тогда ясно, что

Ad (expZ)y = eKY, и, таким образом, У есть собственный вектор оператора Ad (exp Z). Воспользуемся этим замечанием, когда У = £+ или Е- и 2 = 01Г. Имеем

60 = exp 9W.

Следовательно,

Adk9-E+=e2l6E+, Ad к9Е-=е-2ЮЕ-.

INT 4. Зададим отображение F : К' X -^+ X K~*G' формулой F(k', а, k) — k~xa~xk'ak.

Тогда для любой функции ф, носитель которой содержится в множестве К'а, справедливо равенство

$ ф(Мв&) =

к ° г г га (я) — а (а~ *)

= $ J ^ц^а^к'ак^В^? —' 2 dk'dadk = к л+ к

= S J S ^k^rXhtM'yDW/'H2 ~—^dtf dt dS.

0 0 0

Доказательство. Схема наших рассуждений та же, что и прежде. Нам нужно определить, как дифференциал отображения F действует на векторы W' = W, Н и W.

Для того чтобы вычислить вектор F^W', рассмотрим функцию ц^к-ха""хк' exp (tW'}ak)-, нам нужно пронести множитель exp(/IF') направо. Получаем

Ad а • Ad к dF (k', a, k)W' = W.

Используя ту же технику, что и выше, можно вывести соотношения

Ada-Adk-dF^k', a, k) Н = U — Ad X"1) Н, Ada-Ad к-dF<k', a, k) W — Ц - AdV"1) Ada • W\

для этого нужно проносить множители ехр(—1Щ или ехр(tW\ направо. Как и при доказательстве формулы INT 3, такие экспоненциальные множители встречаются в двух местах; поэтому при вычислении производной следует заменить переменную t, стоящую на втором месте, новой переменной и и воспользоваться правилом дифференцирования сложной функции. Отсюда немедленно получаются приведенные выше формулы.

Перейдем к вычислению внешнего произведения F„W' л F.H л ^F,W. Перемножая матрицы, получаем

Ada-IF =„

\ — а-2 0 /

запишем это равенство следующим образом:

Ada - W = dlX+-a-X- = ^=^ZLv + ^^—^-

При вычислении внешнего произведения слагаемое, пропорциональное W, можно опустить. Поэтому

A3 (Ad ак) FAV4H^ =

= № л (/ - Ad k'-^ H^U-M k'-^ — ~a-2 V.

Воспользуемся равенствами H = E+ — IV = E- + IV, или, иначе говоря, тем, что

о- S+ + Е-v £+ — £

Так как Е+ и Е- — собственные векторы оператора Ad к', наше внешнее произведение равно

^^^ (1_е2^)(1_е-2г0')Гл£_л£+

(мы пишем к' = ехр 0'1^). Пользуясь равенствами

W = X+-X_, E± = H±iV, V=X+ + X_, получаем

ФдЕ-лЕ+=-4ШлХ+лХ..

Далее,

(1 - e2Z6') (1 — e-2Z6') = | D (6') I2.

Таким образом, с точностью до множителя, по модулю равного 1, якобиан преобразования Ad a Ad к dF (к', a, k) равен

Отображение g>—* A3Adg есть одномерное представление группы G в пространстве Л39- Мы уже знаем, что оператор A3Ad£ действует тривиально. Так как группа G = SZ.2(R) не имеет нетривиальных непрерывных гомоморфизмов в мультипликативную группу вещественных чисел, то оператор Л3 (Ad a Ad &) — тождественный оператор на Л3д; поэтому вычисленный нами якобиан совпадает с якобианом преобразования dF (k', a, к\ Итак, формула INT 4 доказана.

Замечание 1. Мера dk на группе К нормирована так, что при параметризации ^ = ^9 = г(6) она переходит в d^. Это означает, что в приведенных выше формулах полная мера группы К равна 2л. Для нормировки мы можем поделить все интегралы на 2л. Однако в тех формулах, где содержатся два интеграла по К, например в формуле INT 2, связанной с разложением Картана, и в формуле INT 4, только один из этих интегралов окажется нормированным, а второй останется без множителя (2л)-'. Ввиду этой асимметрии я предпочел использовать ненормированную меру </6; мы будем переходить к нормированной мере только в конкретных случаях, когда такая нормировка возникает естественным образом.

Замечание 2. Следуя рассмотренной схеме, можно систематическим образом получать различные интегральные формулы. Например, при изучении отображения

K'XK\G->G', определяемого формулой (к', gY~>g-xk'g, которое мы рассматривали при выводе формулы INT 4, мы могли бы воспользоваться однозначным разложением G = KAN и группами AN или NA для параметризации множества K\G. Так как читатель сможет теперь без труда вывести соответствующую формулу, если она ему потребуется, и так как нам эта формула не понадобится, мы не будем приводить ее здесь.

§ 3. Следы индуцированных представлений

Пусть s — комплексное число; напомним, что Н (s) — гильбертово пространство функций f на группе G, сужение которых на подгруппу К принадлежит пространству L2^ и таких, что

Цапк) = р(аУ+1Цк)-

Группа G действует в пространстве Н (s) правыми сдвигами; в § 4 гл. III мы видели, что для любой функции феСГ (G, К)

оператор л$(ф) есть интегральный оператор с ядром q^ (k, £9 — ^ ^ Ф Vh,-1anh) р (a)s+1 da dn,

A N

т. е. что сужение функции л$ (ф) f на подгруппу К задается формулой

л5(Ф)/ ^')== ^ ^(£, k')tW<ik>к

Мы предполагаем, что мера Хаара dx на G нормирована так, что dx^dadndk, и что мера подгруппы К равна 1, т. е.

Тогда, как мы видели,

tr ns (ф) = ^m (й, к) dk.

к

Как и прежде, определим преобразование Хариш-Чандры формулой

Нлф(а)- |Z)(a)| J ф(х-1ах)^:=р(а)С w^_

ПустьПустьЛ'СN

Пусть

Пусть

р = ps — характер группы А, задаваемый формулойр (а) = р$ (а) = р (а/.

(О(ООбозначим символом лц представление группы G в пространстве Н (s). Получим

(О

(О

tr Лц (ф) = j Нлф (а) у, (а) Дц.А

(2)(2)также формула* образом, справедлива

(2)

(2)

tr лц (ф) = j НАф (а) JL^-У-Ма-1). da

Напомним, что символом G' мы обозначаем множество регулярных элементов (т. е. множество матриц с различными собственными значениями).

Теорема 4. След представления лц совпадает (в смысле теории распределений) с функцией Т^, определяемой формулами

-г < л Р (д) 4* И (я- Ч./

* u W 2। д ^ ।, если a s А ,

Т^ (х) “ 0,если х ф A,Q,

Ту\х-1ах) = ТДа)для всех xeG, аеА'.

6 Зак. 589

Иначе говоря,

tr лц (ф) = $ Ф (х) 7^ (х) dx.о

Доказательство. В соответствии с формулой INT 3 имеем j ф (х) dx =■ j j ^ ф (х-1ох) |Z) (a) I2 da dx =

A'OA A\O

” T НАФ (a) | D (a) | da.

A

Существует функция f на группе G, постоянная на классах сопряженных элементов, равная нулю в дополнении к множеству А'° и такая, что

I — uW + Me-1)

/|Д(а)|

Корректность нашего определения вытекает из того, что х~хах е А в том и только том случае, когда х=±1 или ± w(mod Л); ясно, что f(а;-1a6У) = /(a-,) = [ (а). Выражение для функции НАф в виде интеграла по классам сопряженных элементов показывает, что

нлО = жл(ф).

Заменяя ф на ^ф, получаем

Ф W f W dx “ ^ ^ НАф (а) [ц(а) + ц (a-1)] da.

А®а

Сравнение с формулой (2) завершает доказательство теоремы.

Появление множителя 2 в формуле для следа индуцированного представления связано с тем, что мы не разделили подпространства H+(s) и H~(s). Чтобы устранить его, поступим следующим образом.

Пусть ц — непрерывный гомоморфизм группы Л в С* — мультипликативную группу комплексных чисел. Пусть е — характер группы ЛЛ = { ± 1}. Тогда пара (ц, е) определяет характер группы MAN по формуле

zanн-*в(z) ц(a), z е М, а е A, mN.

Мы можем образовать индуцированное представление группы G при помощи этого характера подгруппы MAN. Пространство представления Н (s, е) или Н (ц, е) совпадает с подпространством четных или нечетных функций в пространстве Н (s) в зависимости от того, тривиален характер е или нет. Обозначим два возможных представления символами лЦ|+ и Лц, _, а их следы Т^ + и Гц,

Следствие. Пусть л(ц, е) — представление группы G в пространстве Н (ц, е). Тогда след этого представления совпадает, в смысле теории распределений, с функцией Т^, определяемой формулами

Лив^)”6^) — ^^^ > , если zeM, asA',Ту, 8 W = 0,если х ^ ± А'°,

Ту.Дх-'ахУя-Ту.Да)для всех хе G, а е А'.

Доказательство. Для определенности рассмотрим случай, когда характер е нетривиален. Пусть / — та же функция, что и в теореме 4. Тогда

tr Лу (ф-) = j М -^ <- ^ 2 / (х) dx =

a'g

” J WWx- J i|>(-x)f(x)dx =AGa'G

= j Ф (x) 8 (x) / (x) dx.

{MA’)0

рассматри-рассматри-Итак, наше утверждение доказано. Второй случай вается аналогично.

рассматри-

рассматри-

Следы представлений дискретной серии

Пусть пг— целое число, /п^2. Положим s = m — 1. В § 5 гл. VI мы видели, что пространство H(m — 1) разлагается на несколько неприводимых подпространств; сейчас нас интересуют подпространства

Н№=фнп,п^тп™тН№=фнп,п^тп™тН^-т^^Нп п<-тН^-т^^Нп п<-т

Н№=фнп,п^тп™т

Н№=фнп,п^тп™т

Н^-т^^Нп п<-т

Н^-т^^Нп п<-т

и факторпространство V (т— 1) = Н(т — 1, е) (mod [Я<т) +Я<-т)]); здесь в —характер группы Л1 = {± 1}, задаваемый формулой

Ч1—ьт т + 2Ч1—ьт т + 2■— Я(-М )—^|_y(w _ J)_j

Ч1—ь

т т + 2

Ч1—ь

т т + 2

-И111111Н-

-w-2 -т j -т + 4 ... О ... т~4 |

-щ+2т-2

Рис. 1.

е(— 1) = (— 1)т. Из изучения производного представления вытекало, что пространства Н^, Н{~т\ V дп — 1) неприводимы; кроме того, пространство 7 (m — 1) конечномерно. Весовые диаграммы этих пространств изображены на рис. 1.

Мы вычислим след представления группы G в прямой сумме пространств

Н^ + рр-т\

используя выражение для следа в пространстве Н (т—1), полученное в предыдущем параграфе, и вычитая из него след конечномерного представления в пространстве V (т — 1).

Лемма 1. Пусть п — целое число, л ^ 1; положим т = п-\- 1, е(—1) = (—1)т. След представления группы G в пространстве Н (п, е) совпадает, в смысле теории распределений, с функцией Т, постоянной на классах сопряженных элементов и такой, что

ent Л- e~nt

Т W = е (г) —t—-тгг •

Т (х) = 0,если хф± А'а.

Доказательство. Это частный случай формулы, полученной в предыдущем параграфе для произвольного индуцированного представления.

Лемма 2. Для любой пары неотрицательных целых чисел р, q, таких, что р + q — n — \, определим функцию fp,q на группе G формулой fPi q (х) = cpdq, если

(

а Ь\ с а)

Тогда fp,qs Н (— п, е). Функции fp. q образуют базис конечномерного неприводимого подпространства

V (л) = 7 (-л) = 7 (-/п+1)

размерности п = т—1. Пусть р'— представление группы G в пространстве V' (п). Тогда

trp'W-^V t в-—.e — e

Доказательство. Очевидно, что функции fPt q принадлежат пространству //(—л), линейно независимы, и их линейная оболочка инвариантна относительно действия группы. Каждая из

этих функций является собственным вектором однопараметрической подгруппы р' (А(); в самом деле, нетрудно проверить, что

Поэтому след представления р' легко вычисляется, и мы получаем приведенную выше формулу.

Из теоремы 4 § 2 гл. VI мы знаем, что два конечномерных неприводимых представления одинаковой размерности инфинитезимально эквивалентны, а согласно следствию этой теоремы — даже эквивалентны, хотя для равенства следов достаточно инфинитезимальной эквивалентности. Поэтому представление, построенное в лемме 2, или же представление в пространстве V — 1) можно использовать как модель представления данной размерности.

Лемма 3. Пусть V — конечномерное неприводимое пространство размерности п — ш — 1, р — соответ ствуюгцее представление группы G. Тогда

ЙЫ9 _ -in9

trp(fe9)=eeie -^--

Доказательство. Мы знаем, что пространство V порождается собственными векторами подгруппы К с собственными значениями

eH-m+2^6 gH-m+pe ,еЦш-2>6.

чтобы вычислить след представления на элементе k9 е К, нужно сложить эти собственные значения, т. е. просуммировать геометрическую прогрессию. Теперь наше утверждение очевидно.

Лемма 4. Пусть п — целое число, n ^ 1; положим m — n-V 1. Пусть е(—1) = (—1)т. Тогда след представления группы G в пространстве Н^ + н''-"^ совпадает, в смысле теории распределений, с функцией Т, постоянной на классах сопряженных элементов и такой, что

тч\ 2e-|ti|

Т W = е (z) —,

T(x) = 0, если х^±А'а\2К'а.

Доказательство. Это утверждение с очевидностью вытекает из лемм 1, 2, 3; достаточно вычесть след конечномерного представления, вычисленный в леммах 2 и 3, из следа, полученного в лемме I.

Мы вычислили след представления группы G в пространстве Н^ + Н(~т\ Нам нужно теперь разделить эти неприводимые подпространства. Окончательный результат таков:

Теорема 5. Пусть п—целое число, п=/=0‘ положим пг = = |л1+1- Пусть z=±l, 8(—1) = (—l)m. Пусть о„ —представление группы G в пространстве Н^^, если п> О, ив пространстве Н^п-'\ если п<0. Тогда tr оп совпадает, в смысле теории распределений, с функцией Sn, постоянной на классах сопряженных элементов и такой, что

Inti

Sn (^е) = - sign п -«—"^ .

е-1«<1 Sn № = в (г)>

Sn(x) = 0, если х & ± A'°UK'a-

Доказательство. Доказательство этой теоремы довольно сложное; оно принадлежит Хариш-Чандре. Основная трудность состоит в том, чтобы исключить возможность вклада от сингулярного множества, т. е. от множества G — G', который сокращается при суммировании следов представлений дискретной серии с положительным и отрицательным весом. Я опускаю это доказательство (может быть, я включу его во второй том, в котором будут рассмотрены различные вопросы, связанные с дифференциальными уравнениями и распределениями на группе SL2(R)). Легко проверить, что на множестве регулярных элементов (т. е. на функциях с компактным носителем, содержащимся в множестве G'^ след представления совпадает с описанной выше функцией. Это простое следствие наших интегральных формул и выражений для преобразования Хариш-Чандры на подгруппах А и К, которые мы получим в § 2 следующей главы. Для вывода формулы Планшереля теорема 5 несущественна, поскольку в нее входит сумма следов представлений дискретной серии. Однако для дальнейшего изучения группы SL2(R) эта теорема очень важна.

Заметим также, что из интегральных формул вытекает, что след является локально суммируемой функцией.

Связь между преобразованиями Хариш-Чандрына подгруппах А и К

Для произвольной функции ф s С” (G, К.) мы определили преобразование Хариш-Чандры на А формулой

Нлф (а) = | D (а) |ф(х-1ах)</^,

А\О

Связь между преобразованиями Хариш-Чандры на Л и К 167 где dx — такая мера на A\G, что dx = dadx- меоа л нормирована так, что’ меРа Хаара dx

dx = da dn dk, dk. = —

e 2л '

функции f спра-функции f спра-Таким образом, по определению, для любой ведливо равенство

функции f спра-

функции f спра-

^ ^ / (о^) da dx =Л\О А^ ^ / (о^) da dx =Л\О АJ f (х) dx. аJ f (х) dx. а

^ ^ / (о^) da dx =

Л\О А

^ ^ / (о^) da dx =

Л\О А

J f (х) dx. а

J f (х) dx. а

В силу Ьормулы ШТ 3 получаем

^(^^=7 J Нлф(а)|£>(а)|^_

а'°а

жесгоТ^-°^ преобразование Хариш-Чандры на мно

жестве д —д— (± 1}, полагая

Н^ф (/г) = D (А)ф (х'1 ^х) di,

К\в

где dx теперь — такая мера на пространстве K\G, что$ ^ / (^х) dkdx= j f (x) dx,k\qka

и

Z)(^9) = ^e_e-z6i

Из формулы INT 2 ясно, что пространство K\G однозначно параметризуется точками множества A+K/V^ 1} и что поэтому

Н^ф ^ ==D^ J ф (а-1 ha) ^^Zl da. а+

Согласно формуле INT 4, получаем

2я

^ ф (х) dx = ^ Н«ф (fe0) Щй5 dO.

к'°о

(Если разделить обе части формулы ШТ 4 на 2л, в ней все еще останется один интеграл по К, в котором полная мера группы К равна 2л.)

Для любого целого п =# О обозначим символом S„ функцию, постоянную на классах сопряженных элементов и такую, что ein»

S„ М = - sign n ег»_-й •

Sn № = 8 (г) jy——,

S„ (x) = О, если x ^ ± Л'° и Л'и-

Как и выше, здесь z = ±l, e(z) = zn+1. Мы снова будем рассматривать Sn как функционал; таким образом, для любой функции f с

Snm=\f^S„^dx.

Теорема 6. Справедливо соотношение

2Л

S„ (ф) = — sign п ^ Нкф(й0)егп9й0 +о

+ у J [Н^) + (- if+'H^H^)] e-wat. о

Доказательство. С точностью до множества меры нуль G = = Д'а U ± А'°. Вычислим сначала интеграл по множеству К/а. Мы получим для этого интеграла выражение

рein6(x)

ф(X)(- sign п) -т^—-^ dx>

где элемент хе G сопряжен матрице fow е К. Применим теперь к подынтегральной функции формулу INT 4. Из формулы (4) следует, что наш интеграл равен

2л

— signnj Нкф (^0) e'n9 d9.о

Это выражение является первым членом нашего соотношения. Перейдем к интегралу по множеству + A,Q;

Рe-lnfWI

± А

= 5 [ф W + (- 1)"+,ф (- х)]—dx = A'G =

= 1 ^ [H^^ + C-ir+'H^C-^le-'^ld/,

где элемент xgG сопряжен матрице ±/if(X). Для завершения доказательства достаточно заметить, что функция Н^ инвариантна относительно преобразования ан-*а-!.

Приложение. Общие сведения о следах операторовв гильбертовом пространстве

Полярное разложение

Пусть Н — сепарабельное гильбертово пространство, А — линейный оператор в пространстве Н (все операторы, которые рассматриваются в этом приложении, предполагаются ограниченными). Оператор А* А симметричен и положителен; существует единственный положительный оператор Рл = (Д*Д)1/2 (квадратный корень из А*А), т. е. такой оператор, что Р\ = А*А. Зададим оператор U = UA на образе оператора РА формулой

^(Д*Д)‘/зу = Ду, иеН.

Чтобы проверить корректность этого определения, достаточно показать, что если (Д*Д)‘/з у = 0, то и Ду = 0. Но при сделанном предположении

О = I (Д*Д)‘/з о f = (Д*Ду, и) = (Ду, Ду), что и требовалось показать. Немедленно проверяется, что отображение U изометрично, и, значит, его можно продолжить по непрерывности на замыкание образа оператора РД. В ортогональном дополнении ImРА доопределим оператор U нулем (такой оператор называют частичной изометрией). Тогда имеют место очевидные соотношения

ITU = 7 на Im РА, UU* = 7 на Im А.

Разложение A = UP оператора А в произведение частичной изометрии U и положительного оператора Р однозначно. В самом деле, если A = WQ, то A* = QW* и

Р1 = А* А = QWWQ = Q2, откуда P = Q, поскольку положительный квадратный корень из положительного оператора определен однозначно (спектральная теорема!). Построенное разложение называется полярным разложением оператора А. Полярное разложение оператора А* легко построить, исходя из разложения для оператора А, а именно

A* = Ua*Pa*, где UA* = U\ PA* = UPAU*.

Чтобы проверить это, заметим, что оператор UPU* положи- твлвн и

фри*У = UPU4JPU* = UP2U* = АА*.

Таким образом, мы построили оператор Ра*; выражение для оператора Ua« теперь очевидно.

Операторы Гильберта—Шмидта

Оператор А называется оператором Гильберта—Шмидта, если

El Aut Р < оо

для некоторого ортонормированного базиса {uj в пространстве Н. То же самое справедливо тогда и для любого другого ортонормированного базиса {о/}. В самом деле, заметим, что для любого вектора zy имеет место равенство |®P = Sl(zy, t>/)l2; таким образом,

(*) H\Aut P = El<M, 0/)12 = 2|<«ь АЧ)^ Р = Е| АеУ] Р. IL IиI

Определим скалярное произведение двух операторов Гильберта — Шмидта А и В формулой

кА, В^^Ащ, Ви^,

где (uz) — некоторый ортонормированный базис. Написанный ряд абсолютно сходится, что нетрудно увидеть из неравенства Шварца (примененного дважды):

21 кАиь Вщ) |<£ | Ли; 11 Buz |.

Таким образом, В*А есть оператор Гильберта — Шмидта и величина (Л, В) не зависит от выбора базиса (uz). Соответствующая норма обозначается символом || • ||2:

цлц1 = Е|^Г.

Операторы Гильберта — Шмидта образуют полное относительно этой нормы гильбертово пространство, которое иногда обозначают символом в2. В следующих утверждениях мы предполагаем, что А и В —операторы Гильберта — Шмидта, а X — произвольный ограниченный оператор.

HS1. || Л* 11г = || Л Ils.

HS 2. ХА и АХ — операторы Гильберта — Шмидта, и

НЛ|Ь<|^|||Л|Ь,||ЛХ|Ь<|Х|||Л||2.

HS 3. Всякий оператор Гильберта — Ш мидта компактен.

Прежде чем продвинуться дальше, докажем сформулированные выше утверждения. Первое из них, по существу, уже доказано (см. формулу (*)).

Утверждение HS2 следует из очевидного неравенства | ХАи{ | < | X11 Аи{ | и того факта, что (АХ)* = Х*А*. Перейдем к доказательству компактности операторов Гильберта — Шмидта. Зафиксируем число N, столь большое, что

У, | Aut |2 < 8.i>N

Пусть PN — проектор на подпространство, натянутое на векторы «1, ..., uN. Тогда предыдущее неравенство можно записать так:

У IM^P,VW = У \Аи^<г.

Z-li>N

Ясно, что для любого оператора Т мы имеем | Т | ^ У | Tut |2. Это показывает, что А можно равномерно аппроксимировать конечномерными операторами, и, следовательно, оператор А компактен.

HS4. |M4-B|g-|M||-||B|| = 2Re^, В>,

Это поляризационное тождество немедленно вытекает из того, что

((Л + В)^, (Л + В) щ} = {Ащ, Aui) + 2 Re {Aut, Bui)-V{But, Bu^.

Так как IIЛ ||2 = || Л* ||2, получаем

HS 5. Re У {Aut, Bu^ = Re У {А*иь B^.

HS6.(Л, В) = (Л*. В*).

HS7. {ХА, В) = {А, Х*В) и {АХ, В) = {А, ВХ*}.

Утверждения HS 5 и HS 6 немедленно следуют из HS 4. Первая из формул HS 7 очевидна; для доказательства второй формулы заметим, что

{АХ, В) = {Х*А*, В*) = {А*, ХВ^ = {А, ВХ*).

Ядерные операторы

Оператор А называется ядерным, если его можно представить в виде произведения двух операторов Гильберта — Шмидта. Чтобы избежать появления сопряженных операторов в следующих ниже формулах, мы будем записывать это разложение оператора А в виде А = В*С, где В, С — операторы Гильберта— Шмидта. Если А — ядерный оператор, то его след определяется формулой

tr Л = У(Ли,-, «г) = У(Сиь 8^) = {С, В).

Первое из этих равенств показывает, что след не зависит от выбора операторов В и С. Справедливо очевидное неравенство

TR1.| tr Л | ^|| 51|2|| С l^..

TR 2. Если оператор А ядерный, то операторы ХА и АХ тоже ядерные и при этом

trAZ^tr ХА.

В самом деле, ядерность операторов АХ и ХА вытекает из HS 2; далее,

tr AX = trB*CX = <CX, В> = <С, ВХ*) == tr (BXf С = tr ХВ*С = tr ХА.

Вернемся к полярному разложению

A = UaPa = UP,

где U — частичная изометрия, а Р — положительный оператор. Оператор Р мы будем называть абсолютной величиной А; иногда его обозначают Р = АЬзЛ. Так как P = U*A, то мы получаем следующее утверждение:

TR 8. Оператор А ядерный в том и только в том случае, когда оператор РА ядерный, и при этом

tr РА = tr РА».

Последнее тождество вытекает из того, что

tr РА = tr U1 А = tr AU* = tr U А* = tr РА..

Вообще говоря, неверно, что оператор А ядерный тогда и только тогда, когда сходится ряд

С другой стороны, имеет место такое утверждение:

TR 4. Пусть Р — симметричный положительный оператор. Тогда Р ядерный в том и только в том случае, когда сходится ряд ^ДРиь UtY

Для доказательства достаточно воспользоваться существованием оператора Р*'\ В частности, оператор А ядерный тогда и только тогда, когда его абсолютное значение ядерно.

Если Л —ядерный оператор, положим

TR 5. Ядерные операторы образуют линейное пространство’) функция А || Д ||, есть симметричная норма на этом пространстве (т. е. такая, что || А ||, = || Д*||,) ').

Доказательство. Пусть Pa+b==U*(A —}—S), где U— чзстичнзя изометрия. Предположим, что оба оператора А и В ядерны. Их сумма есть ядерный оператор в том и только том случае, когда

S (RA+Bui> ui) < °°*

Однако эта сумма равна

2 kU*Aut, Ut') + 2 Ф*Виь щ} =

= tr U*А + tr U*В ^ || А И, +1| В ||,.

Тем самым доказано, что ядерные операторы образуют линейное пространство и что || • ||, — норма на этом пространстве (однородность функции || • ||, очевидна). Наконец, симметричность нормы доказана в утверждении TR 3.

TR 6. Если оператор А ядерный, то операторы ХА и АХ тоже ядерные и справедливы неравенства

Will <|Х III Д||„||ДХ||,<|Х|||Д||,.

Доказательство. Достаточно рассмотреть оператор ХА, так как АХ = ^Х'А*)*. Существует такая частичная изометрия V, что РХА — У^Д. Положим А = UP д’, получим

Pxa = VXA = V*XUPa=YPa, где Y = V*XU.

Ясно, что | У | ^ | X |. Далее,

11М||,-2(урл«„ «,>-№ р^с

< k* U -рК 1 < i й I г I < I л I, । л,

что и требовалось доказать.

TR 7. Если оператор А ядерный, то ЦгДКЦДЦ,.

Доказательство. Пусть A = UPa. Тогда

I tr л । = | £ (рЬ,, rtu’e,) 1 -1 <p’i, р'^и") | с <кНкУ12<кЧ-1гРл.

Теорема 7. Пусть {Тп} — последовательность операторов в пространстве Н, слабо сходящаяся к оператору Т. Другими

’) Пространство ядерных операторов обычно обозначается &. — Прим, перев.

словами, для любых векторов v, w^H пусть {Tnv, w)-*<To, w). Пусть А — ядерный оператор. Тогда

tr ТА = lim tr ТпА.П->оо

Доказательство. Предположим сначала, что А = Р—симметричный положительный оператор. Так как А компактен (это следует из HS 3, поскольку Л —оператор Гильберта — Шмидта), существует ортоиормированный базис (и;) в пространстве Н, состоящий из собственных векторов оператора A, Aut = CiUi. При заданных векторах и, w^H множество {(7„о, да)} ограничено. Зафиксируем вектор о и будем рассматривать вектор да как переменный; из теоремы о равномерной ограниченности вытекает, что множество {Т„о} ограничено. Отсюда, снова по теореме о равномерной ограниченности, следует, что нормы |Г„| ограничены. Теперь из ядерности оператора А, т. е. из того, что

El ct | < оо,i

мы получаем

lim tr ТпА = lim 2 (ГпЛио и^ =

П-^саП->со I

= lim Hci^T^Ui, иД = У, lim ct(JnUb ut) = trTA, n-»oo ii n->«>

и наше утверждение в рассматриваемом частном случае доказано. Перейдем к общему случаю; пусть А = UP — полярное разложение оператора A, U — частичная изометрия, Р — положительный оператор. Тогда TA = TUP и последовательность ^ТпЩ слабо сходится к TU; таким образом, дело свелось к разобранному выше частному случаю.

Следствие. Пусть А — ядерный оператор в гильбертовом пространстве Hi- Пусть Т: Нt-* Н2 — топологический линейный изоморфизм между пространством Н\ и другим гильбертовым пространством Н2. Тогда tr ТАТ ’=trA

Доказательство. Пусть ^иА — ортоиормированный базис в пространстве Ну, Рп — проектор на подпространство, порожденное векторами ихип. Тогда

tr Л = lim tr РпАРп, tr TAT"V = lim tr TPnAPnT"\

Поскольку наше утверждение справедливо для конечномерных пространств, предельным переходом оно переносится на общий случай.

Это следствие показывает, что след не зависит от выбора скалярного произведения в заданном классе эквивалентности,

т. е. среди скалярных произведений, определяющих эквивалентные нормы.

Замечание. Обозначим символом ®” банахово пространство компактных операторов. Легко показать, что отображение

®‘Х®”^С: (Л, /С) ь—^tr Л^

индуцирует сохраняющий норму изоморфизм пространства @* на сопряженное пространство к ®”. Мы не будем пользоваться этим фактом в настоящей книге и предоставляем его доказательство в качестве упражнения.

VIII. ФОРМУЛА ПЛАНШЕРЕЛЯ

В этой главе все факты о следах представлений, с которыми мы познакомились выше, будут собраны вместе н использованы для доказательства формулы Планшереля, дающей разложение произвольной функции на группе по характерам. Доказательство, которое будет приведено, принадлежит Хариш-Чандре [6]. Сначала мы разложим в ряд Фурье функцию Н^ф, пользуясь соотношением между следами представлений дискретной серии и преобразованием Хариш-Чандры на А, которое было получено в теореме 6 предыдущей главы. Чтобы вывести окончательную формулу, нужно сделать преобразование Фурье некоторых членов. Оказывается, что функция Нкф не является непрерывной: она терпит разрыв в тех точках подгруппы К, которые принадлежат также и подгруппе А, т. е. в точках ±1. Первая аналитическая лемма служит для определения скачков функции Н^ в этих точках; эта лемма показывает также, что производная (Нкф/ непрерывна в рассматриваемых точках и что ряд Фурье для производной в этих точках сходится. Это позволяет представить значение ф(1) в виде ряда, содержащего следы представлений основной и дискретной серий.

Л. Пуканский [1] доказал формулу Планшереля для универсальной накрывающей группы SL2(R). По поводу р-адиче- ского случая см. книгу Гельфанда, Граева и др. [1] и статью Салли и Шалика [2]. По поводу связей с теорией специальных функций см. Виленкин [1].

В статье Баргманна [1] приведены различные соотношения полноты, однако явная формула Планшереля там не выписана. Баргманн осознавал связь этих вопросов с некоторыми асимптотическими разложениями (ср. § 5 гл. V). Сама мера Планшереля просто выражается через функцию c(s), которая возникает в этих разложениях. Связь между разложением по собственным функциям и асимптотическим разложением была известна уже давно в связи с теорией линейных дифференциальных уравнений второго порядка. Намеченный в статье Баргманна вывод формулы Планшереля для группы S£2(R), следующий общей схеме построения разложений по собственным функциям для дифференциальных операторов второго порядка, приведен в книге Виленкина [1, стр. 335—340]. Однако Виленкин не проводит подробно всех вычислений, а просто

отсылает читателя к монографиям Б. М. Левитана и Э. Титч- марша и ограничивается такими словами: „Применяя обычную технику разложения по собственным функциям самосопряженных операторов, получаем следующий результат" (формулу Планшереля). Неискушенному читателю приходится самостоятельно восстанавливать детали.

Первоначальное доказательство Хариш-Чандры основано на совершенно ином подходе, однако в своих недавних работах он возвратился к методам, основанным на изучении асимптотики. Оценки, необходимые для доказательства формулы Планшереля для произвольных групп, довольно сложны. См. по этому поводу статьи Хариш-Чандры [7, стр. 576, 582] и [3, стр. 71] *). По поводу связи этих оценок с другими вопросами см. также статью Кнаппа и Стейна [1].

Подход, связанный с изучением асимптотики собственных функций, мы используем в последней главе для построения спектрального разложения пространства £2(Г\О). Идея этого метода состоит в том, чтобы сравнить асимптотику точных собственных функций с асимптотикой собственных функций простой модельной задачи. Для получения теоремы разложения используется теория возмущений.

Аналитическая лемма

Лемма. Пусть F е С” (R2). Положим g(Q) = \FМ Ое-О(е* -(Н)dt.

Тогда

lim 6g (6) = t F (и, 0) du; 8-,+0J

lim 0g (9) = — ( ^(м, 0)^ 9>-0_•>

(Ш) lim^-(0g(0)) = -2F(O, 0).

(iv) Существуют такие постоянные а, b > 0, что при всех 6, 0 < 0 ^ 1, справедливо неравенство

\-^W» + 2F (0, 0)|<а| 0| + й| 61og01.

') Формула Планшереля для произвольных вещественных редуктивных групп Лн доказана в работах Хариш-Чандры [9], [10], [11]. Краткое изложение этих результатов содержится в его лекциях [8]. (См. также приложение 2 к книге Хариш-Чандры [1].) — Прим, перев.

Доказательство. Заметим сначала, что

(1)9 F^e1, 9e~<’)e~tdt->0 при 0->О.

о

Чтобы доказать (i), рассмотрим интеграл

9F(9e‘, 9e-*Vdt о

при 9 > 0. Сделаем замену переменной, положив и—9е*\ тогда du = 9et dt, е~* — 9[и и интеграл принимает вид

99

9

9

При 0 —> 0 этот интеграл стремится к нужному пределу, указанному в (i). Утверждение (ii) доказывается аналогично. Чтобы доказать (Hi), заметим, что

^.(9g (6))=g(9) + 0^(e) =

= j F^, 9е~*)е^1 — ^ F^e1, 9е"^ e"‘ di + оо

+ 0 J №(0e', 0e-')e' + №(0e', 0е-')е-'](в'-е-')Л» о

При 0—>0 второй интеграл стремится к — F (О, 0). Любой интеграл, имеющий множитель 0 снаружи и не содержащий множителя е* внутри, стремится к нулю при 0->О. Поэтому достаточно рассмотреть интегралы, не принадлежащие к этим двум типам. Имеем

-^‘FIN, 9е-^™е‘Р(9е4, 06"') +

+ Qe2tDiF(ee1, 0е"') - 9D2F (9е', 0е~').

Подставим это выражение в наши интегралы; после всех сокращений оставшиеся интегралы дают нужный вклад, равный — F(0, 0). Чтобы получить оценку производной, приведенную в (iv), выберем такое число Т, что D^F (х, у) = 0, если | х | ^ Г или | у | Т. Если | 0а' |^Т, то е1 <. Т(\ 0 |, т. е. t ^ log(T/| 01). Таким образом, мы получаем оценку вида

J №(0e', Qe-^dt <|| № III log T/| 0 11

о

и аналогичную оценку для интеграла от производной DXF. Теперь утверждение (iv) очевидно.

Оценка (iv) понадобится нам для доказательства сходимости некоторого ряда Фурье.

Замечание. При вычислении различных пределов, которые мы рассматривали в лемме, можно заменить 9 на sin 6, поскольку эти функции совпадают с точностью до величин 3-го порядка малости, не влияющих на наши пределы.

Скачки преобразования Хариш-Чандры

Запишем элемент xeSL2(R) в виде

х = ank = htnukQ, где мы пользуемся параметризацией

7 е' О X/1 и\ / cos0 sin0X

Ct —— А2 — I л л I , tt 71ц I Л 1 JII •

в Ч17н \ —sin 0 cos 07

Меру Хаара на G нормируем так, что

dx = da dn dk = dt du -тг-Z5T

таким образом, мера подгруппы К равна 1. Положим

DK (6) = е19 — е-1'9 = 2i sin 0

и определим, как и выше, преобразование Хариш-Чандры на К функции f гС” (G, К) формулой

ОТ) (й9) = ОТ) (0) - DK (0) [ f (кГ^ек^ ^—=^ dt, о

0 =^= 0,0 т^ л.

С точностью до постоянного множителя это выражение совпадает с интегралом

DKW $ Hg'^dg-

K\G

Придадим выражению для преобразования Хариш-Чандры на К несколько иную форму, которая позволит воспользоваться доказанной выше леммой. Для этого представим элемент a~vka в виде экспоненты:

ht'k^ht = k?1 exp(OlT) kt = exp (,к716W kt)

и заметим, что

г* ° кг* ° кО ве-»— бе2' ОО ве-»— бе2' О

г* ° к

г* ° к

О ве-»

— бе2' О

О ве-»

— бе2' О

Сделаем замену переменной 2/*—*1. Пределы интегрирования при этом не меняются, и мы получаем

(H^)(0) = yDK(0)J W, Qe-^^-e-^dt,

о

где

// 0 v XX

F(». o) = f (ехр(_я о))-

Очевидно, ^(О, 0) = f (1), 1 — 1а.

С другой стороны, мы определили преобразование Хариш- Чандры на А:

(HAf) (а) = I D (а) | ^ / (х-1 ax') dx = р (а) ^ f (ап) dn.A\QN

Нам были нужны значения функции HAf только на подгруппе А. Однако можно рассмотреть ее значения также и на множестве — А. При любом а е А имеем

(HAf)(— а) = р(а) ^ f(— ari)dn.

N

Теорема 1. Пусть feC” (G, КУ Тогда

и соотношениеми соотношениемH/<f It’ = (Н^) (+0) - (H^f) (- 0) = 4 (HAf) (1), н^ 1^0 = (Н^) (П + 0) - (H^f) (л - 0) = 1 (HAf) (- 1).

и соотношением

и соотношением

Доказательство. Пользуясь леммой из § 1 wauW-1 = п-и, получаем

(Н^)(+0) =(Н^)(+0) =

(Н^)(+0) =

(Н^)(+0) =

(НЧ)(-0) — T_[f((i “))*■

Следовательно,

ОТ)(+0)-(Н^)(-0) = 1 р(^ “))^=

= 1 ^ЦпИп=Ц(НАГ)(Д).

N

Для доказательства второго утверждения заменим функцию f функцией xi—*f(— х) и заметим, что f (— х) = f (xk^.

Точки 9 = 0 и 0 = л —точки разрыва преобразования Хариш-Чандры на К", предыдущая теорема дает выражение для скачков в этих точках через преобразование Хариш-Чандры на А.

Из нашей аналитической леммы мы знаем, что производная преобразования Хариш-Чандры (H^f/(9) непрерывна в нуле.

Теорема 2. Для любой функции f е С” (G) справедливо соотношение

(HW(0) = -i7(i).

Доказательство. Это немедленно следует из утверждения (iii) леммы предыдущего параграфа.

Теорема 3. Ряд Фурье функции (Нк/У сходится к ее значению в нуле.

Доказательство. Из утверждения (iv) нашей леммы мы знаем, что

(HW (9) = const + О (| 9 log 19 11).

Ядро Дирихле, свертка с которым дает частную сумму ряда- Фурье, с точностью до постоянного множителя равно

1 sln(n + -0O2лп0*

sinT

Сходимость ряда Фурье зависит только от поведения функции в окрестности заданной точки; для сходимости достаточно, чтобы интеграл

< гsin I п + -~- 9

| \eiog|0|—Ь—

-8sin т

стремился к нулю при е->0. Но этот интеграл не превосходит

в$ logieide-ев$ logieide-е< e| loge|,< e| loge|,

в

$ logieide

-е

в

$ logieide

-е

< e| loge|,

< e| loge|,

и наша теорема доказана.

§ 3. Некоторые леммы

Чтобы не прерывать затем доказательство формулы Планше' реля, мы собрали в этом параграфе некоторые простые леммы, Первая из них сводится к суммированию геометрической про' грессии.

Лемма 1. Справедливы следующие соотношения:

Е sindnie)^-"-^^^ п =■ 1 (mod 2)

£sin(|n]0)e-l»l* = _JEL^L_

п яв 0 (mod 2)

Суммы берутся по всем нечетным и четным целым числам, как положительным, так и отрицательным.

Доказательство. Пусть п нечетно и положительно, п = 2d + 1.

Имеем

V Р1 (2d+l) 9z>—(2d+l) t — pi9-t VU6-0 =!

ee-ua-o _ eue-n •

d—0d-0

Умножив числитель и знаменатель на комплексно сопряженное к знаменателю число, получим для нашей суммы следующее выражение:

_£^^_2L£Zllt^L е< (cos ® +z s*n 6) — е-< (cos6 — / sin 6)

2 (ch 2i — cos 26)2 (ch 2/ — cos 26)

Мнимая часть числителя равна е‘ sin 9 + е~* sin 9 = 2 ch t sin 9, и тем самым наше первое равенство доказано.

Для доказательства второго заметим, что

1 + 2 £ e2<d9e-2 at1 + 2 £ e2<d9e-2 atd-1d-12е? о9-о е-ив-о + в«е-о

1 + 2 £ e2<d9e-2 at

1 + 2 £ e2<d9e-2 at

d-1

d-1

1 _ е2 UB-0 = g-UB-0 _ еив-о •

Умножим снова числитель и знаменатель этой дроби на комплексно сопряженное к знаменателю; это даст для правой части выражение2 (ch 2/ — cos 26)ch 2/ — cos 26 ’Отсюда получится наше второе соотношение, если рассмотреть мнимые части.Теперь нам придется вычислить преобразование Фурье некоторых функций.-С + ic |-ч1 с + /сУмножим снова числитель и знаменатель этой дроби на комплексно сопряженное к знаменателю; это даст для правой части выражение2 (ch 2/ — cos 26)ch 2/ — cos 26 ’Отсюда получится наше второе соотношение, если рассмотреть мнимые части.Теперь нам придется вычислить преобразование Фурье некоторых функций.-С + ic |-ч1 с + /с-сОсРис. 1.-сОсРис. 1.Лемма 2. При любыхЛемма 2. При любых6 из промежутка 0 < 0 < л и при всех6 из промежутка 0 < 0 < л и при всехНтС~»ООНтС~»ООch 2/ - cos 26 at sin 26ch 2/ - cos 26 at sin 26Доказательство. Вычислим интеграл по ному на рис. 1. ИнтегралДоказательство. Вычислим интеграл по ному на рис. 1. Интегралконтуру, изображен-контуру, изображен-1 с е1^г2л1 ® ch 2z — cos 261 с е1^г2л1 ® ch 2z — cos 26dzdzравен сумме вычетов подынтегрального выражения. Имеемch 2z = cos 20 ^z = (nn ± 0) Z.равен сумме вычетов подынтегрального выражения. Имеемch 2z = cos 20 ^z = (nn ± 0) Z.Кроме того,Кроме того,e^+e"2^e^+e"2^— cos 20^ = 2 sh 2z.— cos 20^ = 2 sh 2z.

Умножим снова числитель и знаменатель этой дроби на комплексно сопряженное к знаменателю; это даст для правой части выражение

2 (ch 2/ — cos 26)ch 2/ — cos 26 ’

Отсюда получится наше второе соотношение, если рассмотреть мнимые части.

Теперь нам придется вычислить преобразование Фурье некоторых функций.

-С + ic |-ч1 с + /с

Умножим снова числитель и знаменатель этой дроби на комплексно сопряженное к знаменателю; это даст для правой части выражение

2 (ch 2/ — cos 26)ch 2/ — cos 26 ’

Отсюда получится наше второе соотношение, если рассмотреть мнимые части.

Теперь нам придется вычислить преобразование Фурье некоторых функций.

-С + ic |-ч1 с + /с

-сОс

Рис. 1.

-сОс

Рис. 1.

Лемма 2. При любых

Лемма 2. При любых

6 из промежутка 0 < 0 < л и при всех

6 из промежутка 0 < 0 < л и при всех

Нт

С~»ОО

Нт

С~»ОО

ch 2/ - cos 26 at sin 26

ch 2/ - cos 26 at sin 26

Доказательство. Вычислим интеграл по ному на рис. 1. Интеграл

Доказательство. Вычислим интеграл по ному на рис. 1. Интеграл

контуру, изображен-

контуру, изображен-

1 с е1^г

2л1 ® ch 2z — cos 26

1 с е1^г

2л1 ® ch 2z — cos 26

dz

dz

равен сумме вычетов подынтегрального выражения. Имеемch 2z = cos 20 ^z = (nn ± 0) Z.

равен сумме вычетов подынтегрального выражения. Имеемch 2z = cos 20 ^z = (nn ± 0) Z.

Кроме того,

Кроме того,

e^+e"2^

e^+e"2^

— cos 20^ = 2 sh 2z.

— cos 20^ = 2 sh 2z.

Значение этого выражения в точках z„ = (nn±0)Z равно ±2Zsin20. Следовательно, вычет подынтегральной функции в точке zn равен

в-^ (яп ±9)

2< sin (±26) "

Поэтому предел нашего интеграла при с->оо равен 2Л'( V* (яп+9)(лл-9) ) —

2г sin 26 S ZuZuг

(_П>0П>17

= sin 26 L 1 - e-kn 1 - е~Хя J ‘ Умножение числителя и знаменателя на еХя/2 завершает доказательство.

Разумеется, при вычислении предела мы выбираем с так, чтобы полюс подынтегральной функции не попал на контур интегрирования.

Лемма 3. При любых 6 из промежутка 0 < 0 < л и при всех Л>0

„ с Л_ л ^(i-9)

J ch 2/ - cos 262 sin 6. лХ

Доказательство. Рассмотрим интеграл

1 £ ?Xzchz2л/ j ch 2z —cos 26

по тому же контуру, что и раньше. Вычет подынтегральной функции в точке гп = (лп±0)/ равен

,,-МЯП^ ch (ЛП±6)г _ n„ cos 0е-МГО1±9)

2г sin (± 26)' 2г sin (± ^6)

Наше преобразование Фурье равно сумме вычетов, т. е.

, лЛ ch —, лЛ ch —^] ^ (-1)««-м~+»-^(-|)"е-1»-»

, лЛ ch —

, лЛ ch —

существу, вычислено в предыдущих леммах и равно частной сумме вычетов с точностью до слагаемого, стремящегося к нулю при с->оо. Так как носитель функции ф компактен, мы получаем

ОООООО

— ОО—00—ОО

Из лемм 2 и 3 ясно, что при с->оо функция gc стремится к непрерывной ограниченной функции переменной Л. Мы получаем формулу Планшереля

Ф^= 5 ф?-

§ 4. Формула Планшереля

Объединим полученные нами результаты. Напомним, что, по определению,

Г W = Г^+Л(~^ , r w = fW-H-^ .

Пусть s = /Л, где Л — вещественное число. Представление л$ в пространстве Я(1Л) —это представление основной серии; как мы видели, при Л #= О оно распадается в прямую сумму двух неприводимых представлений, в соответствии с четностью функций. По формуле (1) § 3 гл. VII, след этих представлений дается такими выражениями:

Tt<h= №+)(ht)eiMdt,

К ^ = \№"WtVMdt.

Можно рассматривать их как преобразование Фурье функции

При 0 < 9 < л для любой функции / е С” (G) справедливы разложения Фурье

(Н^) (0) = ^е"А (Н^)(Ф)^5-п О

(H^f) (- 0) = £ е-"6 5 (Н*/) (ф) е11^.п О

Найдем разность этих выражений:

та (9) = у RH^f) (6) - (H^f) (- 0)].

Теорема 4. Пусть Sn — функция, определенная в теореме 6 § 5 гл. VII. Тогда для любой функции f еС” (G, К) при 0 < 9 < л справедливо соотношение

^UKV> (6) = - X $п (f) sin| n |0 + п*0^UKV> (6) = - X $п (f) sin| n |0 + п*0

^UKV> (6) = - X $п (f) sin| n |0 + п*0

^UKV> (6) = - X $п (f) sin| n |0 + п*0

Доказательство. При вычитании приведенных выше рядов Фурье постоянные члены сокращаются, и мы получаем

2Я

^ УКП (9) = - X sin "е $ W) (ф)^ ^Ф-

п * ОО

Подставляя в эту формулу значение, найденное в последней теореме предыдущей главы (теорема 6 § 5 гл. VII), получаем (4) ^^(9) = - X S„(f)sin|n|0 +

п ^ О

+ Е H^)(M + (-l)'t+1(H^)(-/if)]sin|n|0e-i'‘l^t п*0 О

Разобьем последнюю сумму на две, по четным и нечетным п соответственно. В силу леммы 1 § 3 эта сумма равна

$ (и^Т »i>^Ss 41 + ((«Г) (Л.) сН2,“°” 2е *■ Оо

Воспользуемся тем, что функция Нл/ имеет компактный носитель, и формулой Планшереля для обычного преобразования Фурье, которую мы обсуждали в конце предыдущего параграфа. Наше выражение примет вид

,г - -Ч-М1

+ т \ гта —г^л dx-shT

Заметим, что функции, преобразование Фурье которых мы вычисляем, четны по переменной /; поэтому интеграл по всей оси можно заменить удвоенным интегралом от 0 до оо. Тем самым мы получаем требуемое разложение, и теорема доказана.

Формула Планшереля. Пусть f е С” (G). Тогда

2л/(1) = £ |n|S„(/) + л ^ О

+ 4J Tt (f)Xth^^ + l^rr mxcth^dx. оо

Доказательство. Продифференцируем выражение, полученное в теореме 4, и положим 0 = 0.

Замечание. Как мы знаем, характеры Тх связаны с унитарными представлениями. В следующей главе мы покажем, что характеры Sn тоже связаны с унитарными представлениями. Таким образом, в формулу Планшереля входят только унитарные представления. Для наших предыдущих рассуждений это было несущественно," но в дальнейших построениях мы этим воспользуемся.

Обозначим символом G множество классов эквивалентности неприводимых унитарных представлений группы G. Определим на множестве G меру ц следующим образом.

На множестве дискретных серий пусть эта мера дискретна; точке веса m припишем меру J—.

На множестве четных представлений основной серии, параметризованных числом s = iX, X > 0, положим

На множестве нечетных представлений основной серии положим

Меру дополнения к перечисленным множествам положим равной нулю.

Меру ц мы будем называть мерой Планшереля. Вместо того чтобы использовать параметры п и Л, мы будем писать dy (л), л е G, рассматривая множество G как пространство с мерой.

На произведении GXG зададим операторнозначное отображение

Ф (л, х) = л (х).

Соответствующее отобр ажение на функциях / s С" (G) действует по правилу

Ф: (л, f) f (л) = ^ f (х) л (х) dx = л1 (/).

С другой стороны, пусть {А (л)} — семейство операторов, причем оператор Л (л) действует в пространстве Нп. Определим (формально) сопряженный оператор Ф*, положив

(Ф*А) (х) = j trA (л) л (х)* dp (л),а

Как мы сейчас увидим, из формулы Планшереля вытекает формула обращения

Ф*Ф = id на С” (G).

Формулу Планшереля можно записать следующим образом:

PLLf(l) = $ tr л1 (jW (л);

3

она справедлива для любых функций feC” (6) или / s СГ (G, К). В самом деле, если f е С” (G), то положим

fx (х) = ^ f (й“'х/г) dk.к

Обе части формулы PL 1 не изменятся, если / заменить на iK. Пусть г (х) f — правый сдвиг функции f, т. е.

Г (X) f (у) = f (ух).

Заменяя / на r^f в формуле PL 1 и замечая, что

л1 (r(x)/:) = л1(/:)л(x-,),мы получаем формулу обращения в произвольной точке:

PL2.f(x)=$W(f)n(x)*dLi(n).

Далее, пусть ф, феС”(О) и ф*(х) = ф(х-1). Применим формулу PL 1 к функции / = ф*ф*. Тогда

Л1 (f) — л1 (ф) л1 (фУ,

(ф * ф*) (1) = (ф, ф)а = $ ф (х) ф (х) dx, а

tr л1 (ф * ф*) == tr л1 (ф) л1 (ф)* = (л1 (ф), л1 (ф)) = (ф, ф).

Таким образом, мы получаем следующее соотношение полноты:

PL 3.(ф, ф)0 == ^ tr л1 (ф) л’(ф)*(/[1 (л) == (ф, ф)

S

для любых функций ф, ф е С” (G).

Итак, различные варианты формулы Планшереля выводятся из формулы PL 1 при помощи простых формальных рассуждений.

В предыдущих формулах мы часто вычисляли след произведения операторов. Пусть {uj — ортонормированный базис пространства Н. Если А, В — операторы в пространстве Н, то положим At^^Aui, и}\ Тогда, как и в конечномерном случае, tr АВ — У, AtiBft. В самом деле, ряд м

But = У, BijUj

сходится в Их таким образом,

<АВиь и^ = У ^АВми(, и^ и

tr АВ = У ВиАп.

и

На практике такие разложения иногда нужны для оценки некоторых следов; в этих случаях базис ^иД состоит из Оконечных векторов.

Т =Т =1 — z1 — z^ V-z^ V-zV2 и 1/V2 и 1/ПустьПусть/а 6 \*=L d)eSL2^Y/а 6 \*=L d)eSL2^Y

Т =

Т =

1 — z

1 — z

^ V-z

^ V-z

V2 и 1/

V2 и 1/

Пусть

Пусть

/а 6 \

*=L d)eSL2^Y

/а 6 \

*=L d)eSL2^Y

IX. ПРЕДСТАВЛЕНИЯ ДИСКРЕТНОМ СЕРИИ

В этой главе мы приводим различные реализации унитарных представлений дискретной серии, т. е. неприводимых представлений, содержащих старший вектор веса ^ — 2 или младший вектор веса ^2. Оказывается, что представления одного из этих типов комплексно сопряжены представлениям второго типа, поэтому достаточно рассматривать только представления с вектором младшего веса. Мы увидим, что эти представления допускают инфинитезимальное вложение в пространство L(G), в котором группа действует левыми сдвигами, и что они могут быть реализованы в некоторых пространствах функций на верхней полуплоскости.

Теорема единственности из § 3 гл. VI показывает, что уни- таризация этих представлений определена однозначно, и позволяет установить унитарную эквивалентность их различных реализаций.

§ 1. Вложение представлений дискретной серии в £а(5)

Основной результат этого параграфа принадлежит Хариш- Чандре.

Положим

1 / 1 — i\/а 6X1 /1 z1 / 1 — i\/а 6X1 /1 zа Р' Р а.а Р' Р а.

1 / 1 — i\/а 6X1 /1 z

1 / 1 — i\/а 6X1 /1 z

а Р' Р а.

а Р' Р а.

Сделаем замену переменных, перейдя к рассмотрению матричных элементов матрицы ТхТ-1, а именно положим

(Мы выбираем параметры а, р так, чтобы в дальнейших формулах было как можно меньше черточек.) Тогда

на группе, поэтому мы можем подгрупп А и К эти функциина группе, поэтому мы можем подгрупп А и К эти функции(3)(4)(3)(4)Заметим, что аир — функции писать а(х), Р(х). Для элементов легко вычисляются:

на группе, поэтому мы можем подгрупп А и К эти функции

на группе, поэтому мы можем подгрупп А и К эти функции

(3)

(4)

(3)

(4)

Кроме того, эти функции просто преобразуются при действии подгруппы К справа и слева. Заметим, что сопряжение элементов подгруппы К при помощи матрицы Т дает

т-1 cose sin0A/е1'8 О

Тк6Т =Г . „ Jr 1 — I\ — sinti cos 6 /ХО е-19

Отсюда ясно, что

а ^к^ = е19а (х),а ^хк^ = а (х) ei9,

p(M = e-i8p(x),р(хЬ8) = р(х)е«.

Из разложения Картава G = KA+K видно, что значения функций аир полностью определяются приведенными выше формулами; в частности, их абсолютные величины равны соответственно ch< и sh/, если матрица х сопряжена матрице ht. Заметим, что | а (х) | ^ 1 при всех xeG.

^^“Ag?"6 ^^ т>1' Ткда ф” ""” ^

Доказательство. Из интегральной формулы ШТ 2 мы знаем что с точностью до постоянного множителя

j | а Г2т dx = (ch ty2m sh 2/ dt.

со

Так как sh 2/ = ^ + е-^ ^et _ ^^ последний интеграл равен2 ( M-2m+i du-

Этот интеграл сходится при т^2, что и требовалось доказать.

Пусть л — левое регулярное представление группы G в L2 (G), т. е.

"(уШк^Ну-^.

Для краткости будем писать fy вместо л (у) Л Тогда

-ai, = a(t/-')a + p(t/-,)P,

Ру — р^-^а + а^-Чр.

Теорема 1. Положим <pm+2r ”= a-m-rpr, r = 0, 1, 2, ... . Тогда функции <pm+2r ~ собственные векторы подгруппы К с собственными значениями е<(т+2г)е. Порожденное ими замкнутое подпространство в L2 (G) инвариантно относительно левых сдвигов из G, неприводимо и содержит вектор младшего веса, равный а~т.

Доказательство. Из формул (5) и (6), т. е., по существу, непосредственно из определения функций а, Р, ясно, что <pm+2r — весовые векторы подгруппы К. Заметим, что | Р (у)/а(у) | < 1 для любого у @ G. Функция л (^~')<pm+2r принадлежит линейному пространству, порожденному функциями

1 a,n '. Р

к а (у) a

Пусть Л = Р(у)Р/а(у)а; тогда |Л |<| ^(у)/а(у) | < 1. Функцию a~m (1 + %)-m-r можно разложить в ряд по степеням %; в силу леммы 1 этот ряд сходится в L2 (G). Это показывает, что замкнутое подпространство, порожденное нашими функциями, инвариантно относительно сдвигов; тем самым доказательство теоремы закончено.

Представления на верхней полуплоскости

Опишем здесь другую модель унитарных представлений дискретной серии. Мы реализуем их в некотором пространстве функций на верхней полуплоскости.

Пусть т — целое число, т"^2. Напомним, что инвариантная мера на верхней полуплоскости § равна

^Н(х, у) = -^^-.

Положим

Пусть

Н-Ц^б. „J

— пространство голоморфных функций на §, квадратично интегрируемых по мере рт. Скалярное произведение в Н — обычное эрмитово скалярное произведение, задаваемое интегралом по £. Следующая лемма показывает, что пространство Н полно.

Лемма 1. Если последовательность голоморфных функций {/„} сходится в топологии L? на открытом подмножестве комплексной плоскости, то она равномерно сходится к голоморфной функции на любом его компактном подмножестве. Более того, для любого компакта К справедлива оценка

• 11х II • Ну ^ "^ || • ||у №.

Доказательство. Достаточно доказать лемму в окрестности некоторой точки; без ограничения общности можно считать ее началом координат. Наши оценки зависят от выбора круга фиксированного радиуса 6 с центром в произвольной точке; достаточно опять-таки оценить | f (0) | через L1- и /Анормы функции f в круге радиуса 6 с центром в точке 0. Из формулы Коши следует, что

2л

О откуда 2Л ш°)1<; ^$ If (reside, о

Так как

Д2 Гlf(O)l^- = jlf(O)|rdr,о

то

6 2лIff1/(0)1т<^г$ $ lf(r^)irdrde==о о

„ nut

(последнее неравенство следует из неравенства Шварца). Итак, лемма доказана.

Пусть

(а Ь\

о-1 =, eG = SL2(R).

\ с а /

7 Зак. 589

Определим оператор лт в пространстве Н формулой(nm(Q)f)(2) = f(Q-z)(C2 + d)-m.

Непосредственно проверяется, что лт — гомоморфизм группы G в группу линейных автоморфизмов пространства Н.

Теорема 2. пт есть унитарное представление.

Доказательство. Проверим сначала унитарность. Пусть w = = о~’2. Напомним, что

Ima-Z = ^+7F’ поэтому

^(оШ^ ^f^Z^hcz + dr^y"1^.^О —оо

= ^ $ |Дш)Н1тшГ^(ш)==||/)|,

О —ОО

что и требовалось показать.

Условие непрерывности представления достаточно проверить на плотном множестве элементов гильбертова пространства. Наше представление действует в подпространстве пространства L2($, цт), поэтому достаточно проверить непрерывность представления в этом большем пространстве. Возьмем произвольный вектор f, принадлежащий пространству СДФ), и проверим, что

Hn(o)f — fIL —О

при о->1. Это немедленно вытекает из теоремы об ограниченной сходимости.

Лемма 2. Пусть п — целое неотрицательное число-, положим

Тогда ф„ е Н.

Доказательство. При 12 | -* оо функция ф„ (г) стремится к 0; для всех 2 из верхней полуплоскости справедливо неравенство

Пусть б > 0. Для доказательства леммы мы покажем, что сходятся интегралы по полуплоскости Im 2>б и по полосе 0<Im2<d.

Для первого интеграла имеем оценку

*^5 5 (Х2 + у2)” Ут 2 dxdy "^*^5 5 (Х2 + у2)” Ут 2 dxdy "^,2m ^ ^У ^,2m ^ ^У ^(ы2+1)1+е ym+i dudy’«(ы2+1)1+е ym+i dudy’«

*^5 5 (Х2 + у2)” Ут 2 dxdy "^

*^5 5 (Х2 + у2)” Ут 2 dxdy "^

,2m ^ ^У ^

,2m ^ ^У ^

(ы2+1)1+е ym+i dudy’«

(ы2+1)1+е ym+i dudy’«

интеграл в правой части сходится. Второй интеграл оценивается так:

б оод оо5

S _[ ЩП^* S ^ ДчЙртГ Г’’ dxdy < J у— dy.

Последний интеграл сходится, если m > 1. Лемма доказана.

Теорема 3. Представление лт в пространстве Н = L^oX^, pm) неприводимо. Пусть Нт+2п — одномерное подпространство, порожденное функцией -ф„. Тогда Нт+гп— собственное подпространство подгруппы К с весом m-V^n и

Н=^ Нп >0Н=^ Нп >0m+2nm+2n

Н=^ Нп >0

Н=^ Нп >0

m+2n

m+2n

— ортогональное разложение-, ф0 — вектор младшего веса т.

Доказательство теоремы 3 лучше всего провести при помощи другой модели для представления лт, которая получается, если перейти от верхней полуплоскости к единичному кругу. Мы сделаем это в следующем параграфе.

Теорема 3 дает нам еще один пример представления с младшим вектором любого веса /п^2. Чтобы получить аналогичные представления с вектором старшего веса ^ — 2, достаточно рассмотреть действие группы SZ.2(R) на антиголоморфные функции в нижней полуплоскости.

Реализация представлений в единичном круге

Часто бывает удобнее работать с единичным кругом, где упрощается выражение для функций ф„. Положим

Отображение Z'—* w есть аналитический изоморфизм верхней полуплоскости и единичного круга D с центром в начале координат1). Обратное отображение задается формулой

. to + 1Z = — zг.пи — 1

Если f — функция на Ф, то положим

<МИ») = (^гт)"7(-'Т±т)-

Тогда Tm: 3" (£) -> 3" (D) есть линейное отображение пространства функций на $ в пространство функций на D. Пусть а, — ы + zu е D; положим

d^ = I- (1 -1 о,—du dv.— = —L- (1 - гТ"2 г dr de.

Лемма 1. Отображение

tn* ^Ьо1(Ф’ Нот) -*‘ЦО1(®> Vm) есть изометрия.

Доказательство. Имеем dw a dw —— 2i du a do, dz\dz = = — 2z dx л dy. Получаем

4 du do dx dya -м2р

Для доказательства изометричности отображения Tm достаточно проверить, что

Г Г I ( 1 V" . /; ш + 1 \ I2 л | й\т 4 du do

Последнее равенство очевидно.

Теперь ясно, в чем состоит преимущество перехода к единичному кругу:

(^тФп) ^ = Щ)П-

Z) Это отображение называется преобразованием Кэли. — Прим, перев

Таким образом, наши функции переходят в степени независимой переменной в единичном круге; легко проверить, что эти функции ортогональны.

Теорема 4. Функции {1, w, ш2, ...} образуют полную ортогональную систему в пространстве Ь^ (D, v,„).

Доказательство. Пусть f е Z-hoi (D, vm); тогда функцию / можно разложить в степенной ряд

f (w) = 2 anwn.п-0

Достаточно доказать, что этот ряд сходится в топологии L2 ^т\ Пусть г'—вещественное число, 0 < г' < 1; обозначим символом Dr- круг радиуса г'. Тогда

§ I Л2 dvm = £ anaq $ wnwq dvm (w) =

Dr'g. n Dr/

oor'

^E^i r^^-rT-rdr, n—Q 0 поскольку 2Л gin6g—tq9 £(0 = 0, 0

если n #= q. Перейдем к пределу при /->1. Получим

l^=$lKa4„=^£|aJ2Jr:"(l-^ rdr = DQ

= c^|tz„|2||8y"||‘;,

где c— некоторая постоянная. Следовательно, ряд ^anwn сходится в L2^^ при т> 1. Теорема доказана.

Действие группы при переходе от верхней полуплоскости к единичному кругу изменяется следующим образом. Группа SLj(R) переходит в группу матриц вида ./« р \

о — I I, аа — Рз = 1. \ Р а /

Обозначим символом лт ее представление, полученное из представления лт группы SL2(R). Тогда

Лт (о) f W = (Й + а)-т•

Хргв + а /

Пусть Н = Z-hoi (D, vm). Тогда одномерное подпространство, порожденное функцией ш", совпадает с подпространством Hm+W в самом деле,

Йт((о у_18^чу" = е‘"е(т+2")®";

это сразу ясно из формулы для представления лт. Поэтому Hm+m есть весовое подпространство группы К с весом m-V^n. Вес постоянной функции 1 равен пг.

Чтобы закончить доказательство теоремы 2, осталось проверить следующее утверждение:

Лемма 2. Элементы 1, чу, ш2, ... пространства Н являются аналитическими векторами.

Доказательство полностью аналогично доказательству сходного утверждения для представлений основной серии (лемма 2 § 5 гл. VI) и предоставляется читателю.

Теперь для завершения доказательства теоремы 2 можно воспользоваться результатами § 2 гл. VI, где обсуждалась неприводимость представлений.

§ 4. Поднятие веса m

В этом параграфе показано, как установить изоморфизм между реализациями представлений дискретной серии, рассмотренными в § 1 и в § 2, 3, связывая функции на § с функциями на G при помощи формальной процедуры поднятия.

Пусть § — верхняя полуплоскость, m — фиксированное целое число. Всякой функции <р на § сопоставим функцию Ф на группе G = GLt (R), положив

/ / и Х\ \

Ф I U I у J I Г (6) 1 = ф (х + iy) ymRelmd^ где

/и 0\/у х\/ cos9 sin9\ /а b\

® \0 и/\0 1/\ — sin6 cosSy-\с d)

— наше обычное разложение элемента группы QL? (R), и, у > 0. Построенная нами функция Ф не зависит от и и определяет, таким образом, функцию на группе SL2(R)> однако нам больше нравится пользоваться координатами (х, у), которые имеют удобную интерпретацию на верхней полуплоскости.

Функция Ф удовлетворяет следующим условиям:

9"m 1. Ф не зависит от и.

ЗГт2. Ф(£г(6)) = Ф(£)е™8.

Обозначим символом 5"m(G) пространство всех функций на группе G, удовлетворяющих этим двум условиям, и пусть

(§) — пространство всех функций на ф. Мы определили поднятие

gr^^gr^Y

которое сопоставляет функции ф новую функцию Ф по описанному выше правилу. Это отображение взаимно однозначно, так как у него есть обратное, которое сопоставляет каждой функции Ф, удовлетворяющей условиям Ут 1 и д"т 2, функцию ф на ф:

ф^+^у-т^ф^ ^у

Каждой матрице

, /а р\

gSL2(R)

\ у 6 /

сопоставим оператор лт(а), действующий в пространстве ^(ф), полагая

лт (о) Ф (z) = (yz + 6)~m ф (a-*z).

Тогда а ь-> лт (о) есть групповой гомоморфизм. Пусть La — оператор левого сдвига на элемент о, т. е. (£аФ) (g) = Ф(а-'^) для любой функции Ф на группе G. Тогда следующая диаграмма коммутативна-.

g-^-^g-^G)

^(^^(G)

Доказательство. Перемножая матрицы, легко проверить, что

uei6 = d — ic, ei6 = v .

\d—ic\

х + iy = 1 ею (az -ф bY

Рассмотрим матрицу

(0 1 J^e) = (vo + dc v6 + 6J

и положим

, az + р , . . ,

2 — yz-1-d ~^ + 1У-

Формулы (1) и (2), примененные к матрице a_|g, показывают, что 9' = 0 — arg (yz + 6). Получаем

Ф (ag) = <р (o-1g/) у'^е1"1^ —

= ф (z') gm/2 | уг + 6 Г" e«m9g-im arg (у*4-6) —

= ф (a-,z) (yz + ^~mymi2eim% =

= лш (а) Ф (z) yml2eimd = Jm лт-(а) /„Ф (g), и наше утверждение доказано.

§ б. Голоморфность

Ясно, что при описанном выше соответствии между функциями на $ и функциями на Q гладкие функции переходят в гладкие функции. Обсудим теперь, какое условие на функцию Ф соответствует аналитичности ф. Как и прежде, обозначим буквой д алгебру Ли группы SL2(R)’> напомним, что с каждым элементом X е д связана производная Ли

(8ХФ) (g) = 4г ф ^ ехРtX) ^о-

В § 4 гл. VI мы вычислили производные Ли в координатах (х, у, 6); в частности, мы получили формулу для производной Ли VE-, которую мы сейчас применим к функции

Ф (g) = F (и, х, у, 6) = ф (х + iy) y^P-gim^

не зависящей от и. Получим

^e-F^ (х, у, 6) = - Му^+'е21 ^-'t 9-§-.

Итак, мы доказали следующее утверждение:

Теорема 5. Функция ф голоморфна тогда и только тогда,

X. ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ

До сих пор мы, в основном, избегали вопросов о действии производных Ли на функции. При построении теории сферических функций мы рассматривали собственные векторы операторов свертки. Теперь пришло время связать некоторые из инвариантов, построенных нами в теории представлений, со свойствами инвариантных дифференциальных операторов на группе. Баргманн [1] впервые понял, что матричные элементы представлений являются собственными функциями таких операторов. Хариш-Чандра полностью разъяснил вопрос, описав структуру центра алгебры инвариантных операторов и централизатора подгруппы К в этой алгебре. Гельфанд охарактеризовал сферические функции как собственные функции этого централизатора. В этой главе мы докажем для случая SL2(R) теорему Хариш-Чандры, утверждающую, что все сферические функции исчерпываются описанными в гл. IV. Доказательства в этом частном случае простые и короткие.

Универсальная обертывающая алгебра

Пусть д — алгебра Ли группы SL^ (R). Матрицы

/О 1\/О 0\/1 0\

О/К1 оЛн \0 -17

образуют базис в д. Мы будем также использовать следующий базис комплексификации де алгебры д:образуют базис в д. Мы будем также использовать следующий базис комплексификации де алгебры д:Напомним коммутационные соотношенияНапомним коммутационные соотношения

образуют базис в д. Мы будем также использовать следующий базис комплексификации де алгебры д:

образуют базис в д. Мы будем также использовать следующий базис комплексификации де алгебры д:

Напомним коммутационные соотношения

Напомним коммутационные соотношения

[Х+, Х_] = н, [5+, £_] = - 4zIF.[Х+, Х_] = н, [5+, £_] = - 4zIF.\Н, Х+] = 2Х+,\Н, Х_] = - 2Х_,

[Х+, Х_] = н, [5+, £_] = - 4zIF.

[Х+, Х_] = н, [5+, £_] = - 4zIF.

[IF, £+] = 2z£+, [IF, £_] = - 2iE_,

С каждым элементом /Ед свяжем образующую Lx и построим универсальную ассоциативную алгебру над С, порожденную этими образующими. Рассмотрим идеал этой алгебры, порожденный элементами вида

LxL\- — LyLx — L^x, у],

Формулы (1) и (2), примененные к матрице a-xg, показывают, что 8' = 8 — arg (yz + 6). Получаем

Ф ^cg^ = ф (.c~xgi^ y,ml2elm&' =

= ф (z') yml* I yz + д П"elm9e-im arg <va4"8) =

= ф (o-Iz) (yz + 6)-myw/2e,m9 =

= лт (g) ф (z) y'nl2etm6 = /,„ лт-(а) /тФ (g), и наше утверждение доказано.

§ б. Голоморфность

Ясно, что при описанном выше соответствии между функциями на § и функциями на Q гладкие функции переходят в гладкие функции. Обсудим теперь, какое условие на функцию Ф соответствует аналитичности ф. Как и прежде, обозначим буквой д алгебру Ли группы SA2(R); напомним, что с ка- I ждым элементом Хед связана производная Ли

(ЙYФ)(g)=^гФ(gexpZX)|i=Q.

В § 4 гл. VI мы вычислили производные Ли в координатах (х, у, 9); в частности, мы получили формулу для производной Ли УЕ-, которую мы сейчас применим к функции

Ф (g) = F (и, х, у, в) = ф (х + iy^ y^eime,

не зависящей от и. Получим

^В-П (^> У’ °) = - 4^+'^ ^-хх 95-.

Итак, мы доказали следующее утверждение:

Теорема 5. Функция ф голоморфна тогда и только тогда,

X. ДИФФЕРЕНЦИАЛЬНЫЕ ОПЕРАТОРЫ

До сих пор мы, в основном, избегали вопросов о действии производных Ли на функции. При построении теории сферических функций мы рассматривали собственные векторы операторов свертки. Теперь пришло время связать некоторые из инвариантов, построенных нами в теории представлений, со свойствами инвариантных дифференциальных операторов на группе. Баргманн [1] впервые понял, что матричные элементы представлений являются собственными функциями таких операторов. Хариш-Чандра полностью разъяснил вопрос, описав структуру центра алгебры инвариантных операторов и централизатора подгруппы К в этой алгебре. Гельфанд охарактеризовал сферические функции как собственные функции этого централизатора. В этой главе мы докажем для случая SL2(R) теорему Хариш-Чандры, утверждающую, что все сферические функции исчерпываются описанными в гл. IV. Доказательства в этом частном случае простые и короткие.

Универсальная обертывающая алгебра

Пусть g — алгебра Ли группы SL2 (R). Матрицы

/О 0\kl о)’/О 0\kl о)’/1 О-1/1 О-1образуют базис в д. Мы будем также использовать следующий базис комплексификации дс алгебры д:образуют базис в д. Мы будем также использовать следующий базис комплексификации дс алгебры д:Напомним коммутационные соотношенияНапомним коммутационные соотношения

/О 0\kl о)’

/О 0\kl о)’

/1 О

-1

/1 О

-1

образуют базис в д. Мы будем также использовать следующий базис комплексификации дс алгебры д:

образуют базис в д. Мы будем также использовать следующий базис комплексификации дс алгебры д:

Напомним коммутационные соотношения

Напомним коммутационные соотношения

[Х+, ХЦ = Н,[5+, £-] = - W.[Х+, ХЦ = Н,[5+, £-] = - W.[Л, Х+] = 2Х+,[И, Х_] = - 2V-,

[Х+, ХЦ = Н,

[5+, £-] = - W.

[Х+, ХЦ = Н,

[5+, £-] = - W.

[IF, £+] = 2z£+,[IV, £-] = - 21Е_,

С каждым элементом Хе g свяжем образующую Lx и построим универсальную ассоциативную алгебру над С, порожденную этими образующими. Рассмотрим идеал этой алгебры, порожденный элементами вида

LxLy — LyLx — Lyt, у],

где коммутатор [Л, Y^ = XY— УА' определяется при помоши матричного умножения. Факторалгебра по этому идеалу называется универсальной обертывающей алгеброй алгебры Ли ди обозначается ^ (д).

Ясно, что использование дополнительного символа L только усложняет обозначения. С другой стороны, существует естественный гомоморфизм алгебры ^ (д) в любую ассоциативную алгебру, образующие которой параметризуются элементами g и удовлетворяют приведенному выше соотношению. Пусть, в частности, йх обозначает левоинвариантный дифференциальный оператор в пространстве C°°(G), который мы уже определили выше в гл. VI; тогда существует канонический гомоморфизм алгебры ^(д) в алгебру, порожденную этими операторами, который переводит Lx в йх.

Аналогично, пусть л — представление группы G в банаховом пространстве И; как и прежде, обозначим символом Нд пространство Гординга этого представления. Пусть End Н” — алгебра его эндоморфизмов. Тогда определен канонический гомоморфизм

^ (g)End,

такой, что Lx*—>dn(X).

Первый из описанных гомоморфизмов является на самом деле изоморфизмом. Прежде чем доказать это утверждение, упростим наши обозначения. Для произвольного X е дс обозначим буквой X оператор йх. Таким образом, Xf = £xj.

Теорема 1. Отображение алгебры 41 (д) в алгебру дифференциальных операторов на С” (G) инъективно. Если отождествить алгебру 41 (д) с ее образом, то 41 (д) имеет базис, состоящий из элементов Х^Х^Хз, где р, q, г-—неотрицательные целые числа, a {Ab А2, А3} — базис алгебры д над R или дс над С.

Доказательство. Без ограничения общности достаточно доказать утверждение теоремы для какого-либо конкретного базиса, скажем (Е+,Е_, ИР}. Пусть А — ассоциативная алгебра, хе А— произвольный фиксированный элемент. Тогда отображение

У ►-* к. у] = ху — ух

есть дифференцирование, т. е. удовлетворяет условию D^z) = = yDz + (Dy) г. Вообще,

D (х^з ... xr) = £ хх ... Dx( ... xr.

Определяющие соотношения алгебры 41 (д) показывают, что одночлены, указанные в теореме, порождают 41 ^ над С. Для

доказательства теоремы достаточно проверить, что если

2 cpqrEp+WpEr_

— нулевой оператор, то все коэффициенты cpqr равны нулю. Запишем этот оператор в виде полинома

f0(E+, WHf^E+1 W)E- + ... +fr(E+, W)EL.

В обозначениях § 5 гл. VI положим s = n — 1 и применим наш оператор к функции ф„, п^1. Оператор Е_ аннулирует функцию ф„; из формул (1) § 5 гл. VI ясно, что оператор ТДЕ+, W) тождественно равен нулю как полином от Е+ и W. Рассуждая по индукции и используя функции ф„+2, ф„+4, ..., мы получаем, что и остальные полиномы f/(E+, IF) тождественно равны нулю, что и требовалось доказать.

Пользуясь теоремой 1, мы можем, когда это необходимо, отождествлять ^(д) с алгеброй дифференциальных операторов.

Теорема 2. Централизатор оператора W в 41^) состоит из всех линейных комбинаций одночленов E^W^EL, р, q^O.

Доказательство. Правило дифференцирования произведения показывает, что

[IF, E+WqEr-3 = 2z (р - г) E+WqEr_.

Отсюда следует, что наши одночлены коммутируют с IF. Обратно, предположим, что линейная комбинация

^cpqrE%WqEr_

коммутирует с IF. Вычисляя ее коммутатор с IF, получаем Хст(р-г)Е₽+^Ег_=0.

Пользуясь линейной независимостью входящих в это равенство одночленов, мы получаем, что cpqr = 0 при р V= г; теорема доказана.

Централизатор IF в алгебре <2/ —^(д) обозначается SS(IF). Центр алгебры <21 обозначается 2ДДД или ^(д). Ясно, что 25 (IF) :э 25 (д). Так как матрица IF порождает алгебру Ли группы К, мы будем также писать 55 (t) вместо 3£(IF).

Перейдем к определению центра алгебры <2/ (д) = Существует единственное линейное отображение

такое, чтотакое, что/г: Ж (IF) -> С [IF],

такое, что

такое, что

h \E+WpE-') =h \E+WpE-') =W9, если р = 0,

h \E+WpE-') =

h \E+WpE-') =

0, если р > 0.

Образ /г (У) элемента У при отображении Л характеризуется сравнением

Y^h(Y) mod <UE_.

Лемма 1. Отображение h есть кольцевой гомоморфизм.

Доказательство. Пусть Уь Y2e^(Wy, тогда

Y^h^Y^mod^tE-, У2 = h (У2) mod <UE-,

откуда

У2У, — кф^Нф^ mod №-W + <UE-Y

Воспользуемся правилами коммутации Е_, W и тем обстоятельством, что Е- — собственный вектор оператора ad W. Теперь наше утверждение очевидно.

Лемма 2. Сужение отображения h на З^^) инъективно.

Доказательство. Пусть

Y = ^cqEr+WqEr_ + X cpqEVTEp_,qР > г

и предположим, что г > 1 и некоторые из коэффициентов cpq отличны от нуля. Мы покажем, что У не может коммутировать с Е-. Рассмотрим неприводимое представление с младшим вектором веса /п^1, как в § 5 гл. VI; мы можем воспользоваться полученными там формулами для производного представления dn^Xy полагая в них s = m — 1. Нас интересует действие наших одночленов на функции фт+2г. При р> г одночлен E%WqE- аннулирует функции фт+2г и E_tpm+2r. Поэтому действие слагаемых, содержащих только r-ю степень Е+ и Е-, совпадает с действием У и имеет вид

Уфт+2Г = Мг)Е М/т)’ф>л+2г> где Цг)еС, МН^О.

Применяя к обеим частям равенства при подходящем значении m оператор Е_, мы получим ненулевой вектор. С другой стороны, УЕ-<рт+2г = 0. Таким образом, У и Е- не коммутируют. Следовательно, если Уе^^) и Л(У) = 0, то У = 0, что и требовалось доказать.

Укажем в явном виде элемент центра алгебры Ф/ —так называемый оператор Казимира

й = Я2 + 2(Х+Х- + Х_Х+).

Несложным прямым вычислением проверяется, что оператор ® коммутирует с Н, Х+, X- и, следовательно, принадлежит центру. Можно нормировать ®, умножив его на постоянный

множитель; этот множитель часто выбирают равным —1/4, чтобы сделать оператор «положительным», однако сейчас мы в этом не заинтересованы, и поэтому сохраним наше более простое определение. Положим

Тогда оператор Казимира имеет также следующие выражения (проверяемые прямым вычислением):

о = ВР + у2 _ ^ = 2iW _ W2 + ££

® = - 1 -(W-iy + E+E-.

В частности,

-/z(® + l) = (lF-z)2.

Теорема 3. Центр алгебры ^(д) является алгеброй полиномов от одной переменной С [ш]. При отображении h она переходит в алгебру С [(W — z)2].

Доказательство. Так как h инъективно на Ж(^), а оператор (W — if, как мы уже видели, принадлежит образу центра при этом отображении, то достаточно проверить, что в образе содержатся только полиномы четной степени от (IF — г). Иначе говоря, достаточно проверить, что если У принадлежит центру алгебры ^ и

y = Z^(IF-zr+ £ cpqEp+WqEp_,

р > 1

то в первой сумме с р = 0 встречаются только четные степени q. Рассмотрим действие универсальной обертывающей алгебры в пространстве индуцированного представления л = л5, где s = —- m + 1, m — целое число, m ^ 2. Тогда конечномерное подпространство V(—/п + 1), порожденное весовыми векторами

Ф-т+2, ф-т+4, •••> Фт-2>

инвариантно относительно действия алгебры Ли. Так как оператор ^л(У) коммутирует со всеми операторами производного представления и так как пространство 7(—m-f 1) неприводимо относительно dn^, то отсюда следует, что оператор ditiY) кратен единичному. Рассмотрим действие оператора йл(У) на весовой вектор ф_т+2; этот вектор аннулируется оператором Е-, и мы получаем

Уф-т+з = Р (— tn + 1) Ф-т+2.Уф-т+з = Р (— tn + 1) Ф-т+2.где P^ = lLcqiqTq.где P^ = lLcqiqTq.

Уф-т+з = Р (— tn + 1) Ф-т+2.

Уф-т+з = Р (— tn + 1) Ф-т+2.

где P^ = lLcqiqTq.

где P^ = lLcqiqTq.

С другой стороны, так как, по предположению, У коммутирует с Е- и так как функция Е-<рт отлична от нуля и пропорциональна функции фт-2, мы получаем

Е-Уфт = YE-q>m = Р (— т + 1) Е_<рт = Е-Р (— т + 1) фт.

Поскольку Е- инъективен на подпространстве Д(—/п+1)т (собственном подпространстве пространства Н (—/п+1), соответствующем весу пг), отсюда следует, что Уфт = Р (— т 4- 1) Фт. ’ Другими словами, Р(—/п + 1) есть также собственное значение оператора dn(7) в пространстве Я(— /п + 1)т.

Положим теперь s = m — 1 вместо s = — m + 1, и пусть ; л = лт-1. Тогда dn(£_) аннулирует подпространство Н(т — l)m i (весовое подпространство, отвечающее младшему весу пред- j ставления л). Заметим, что №фт = гтфт. Следовательно,।

У<Рт = 5 c^tm — V»m = P(m — 1)ф„-

Отсюда вытекает, что Р (— т + 1) ==Р (tn — 1) для бесконечно j многих т; поэтому полином Р четный, и наша теорема дока- I зана.

Теорема 4. Централизатор подалгебры t (иначе говоря, цен- i трализатор V) в °И есть коммутативная алгебра полиномов от двух образующих С [ш, IF].

Доказательство. Выражение оператора с» через операторы IF, Е+, Е- показывает, что наша алгебра содержит произведение Е+Е-, а значит, и (E+EJ)P при любом целом р^О. Пользуясь коммутационными соотношениями

[IF, Е+] = 2iE+, [IF, Е-] = - 21Е-,■

i легко проверить по индукции, что ему принадлежат все одно- 1 члены вида EP+W4EL. Теперь из теоремы 2 следует, что С [ш, IF] = ЗЕ (Е), что и требовалось доказать.

Присоединенное представление группы G в алгебре Ли g канонически продолжается до представления в ^(д). Если

Х = Х,Х2 ... Хп,

где Xj=2x., Xi е д, то

yg yS у ЯА — Al Л2 . . . Ап,

где X® = g-tXtg. Мы будем писать также

^-(Ad^X.

Лемма 3. Для любого X е g справедливо равенство Ad<% (exp X) = exp (ad X), где (ad X) (У) = XY - YX.

Доказательство совершенно аналогично доказательству леммы из § 2 гл. VII. Мы предоставляем его читателю.

Теорема 5. Пусть Y е^(д); предположим, что Y коммутирует с некоторым оператором X, соответствующим элементу X из д. Тогда Y коммутирует с правыми и левыми сдвигами на exp X (мы рассматриваем Y как оператор в пространстве С°° (G, Н), где И — некоторое банахово пространство). Если Y принадлежит центру алгебры ^(д), го Y коммутирует со всеми правыми и левыми сдвигами.

Доказательство. По определению, оператор У левоинвариантен, и нам нужно лишь проверить, что он также и правоинвариантен. Пусть g = expX. Тогда

/ (х (ехр /У) g) = f (xg exp (tg-'Уg)),поэтому, обозначив Rg правый сдвиг на элемент g, получимYRgt=RgY8t

Из предыдущей леммы мы знаем, что Y8 = (Ad<^g)y = У. Теорема доказана.

Замечание. Эта теорема для функций со значениями в банаховом пространстве вытекает из аналогичной теоремы для числовых функций: достаточно применить к доказываемому соотношению произвольный линейный функционал и воспользоваться теоремой Хана — Банаха.

Пусть л — представление группы G в банаховом пространстве Н, и е Н — бесконечно дифференцируемый вектор. Зададим отображение f0 формулой

fo (х) = л (х) и;

таким образом, по определению, fu— гладкое отображение из G в Я.

Если У — элемент алгебры ^/(д), то его образ в End Я” (в пространстве эндоморфизмов пространства С°°-векторов) естественно обозначить dn (У). Для простоты мы часто будем пользоваться сокращенным обозначением и писать

Yu = dn(Y)o.

Если X е д, то из наших определений немедленно следует формула

(4)(4)^о ^da (X) о*

(4)

(4)

По индукции эта формула распространяется на произвольные элементы алгебры 4/(д). В наших сокращенных обозначениях она записывается так:

У^ = ^о'

В частности, если у — собственный вектор оператора У, то f0 — тоже его собственный вектор.

Теорема б. Пусть л — представление группы G в банаховом пространстве Н. Если Y еЧ/ (g), X е g и Y коммутирует с X, то оператор dn(Y) {определенный на пространстве Н”) коммутирует со сдвигом л (exp X).

Доказательство аналогично доказательству теоремы 5. Мы предоставляем его читателю.

§ 2. Аналитические векторы

Мы будем пользоваться координатами (х, у, 9) на группе G, введенными в § 4 гл. VI, где мы представили элемент группы в виде

/ и 0 \ f у х \ / cos 9 sin 9 X

\0 и/\0 1/\ — sin 9 cos9/'

Вычисления, проведенные в гл. VI, позволяют найти следующее выражение для оператора Казимира в этих координатах:

(1)(1)

(1)

(1)

В частности, на функциях, которые не зависят от 9, т. е. постоянны на левых смежных классах по К (иначе говоря, на функциях на верхней полуплоскости), оператор Казимира с точностью до постоянного множителя равен

2 У <э2 .9 (дх22 У <э2 .9 (дх2д2 \ду2 / 1д2 \ду2 / 1

2 У <э2 .

9 (дх2

2 У <э2 .

9 (дх2

д2 \

ду2 / 1

д2 \

ду2 / 1

И теоремы 5 следует, что он коммутирует с правыми сдвигами и, следовательно, является инвариантным дифференциальным оператором на верхней полуплоскости. Мы подробно исследуем этот оператор в последней главе.

Пусть f — гладкая функция на группе G, такая, что f №> = ein6f (g).

Тогда df/dQ = inf. Из формулы (1), выражающей оператор Казимира в координатах (х, у, 9), ясно, что действие оператора ® на функцию / совпадает с действием оператора

, 2 С д2 . д2 \, . д

3 к ах-ду2 /3 дх ’

который является эллиптическим (см. приложение 4).

Теорема 7. Пусть л — представление группы G в банаховом пространстве Н. Предположим, что для некоторого целого п весовое подпространство Нп одномерно, и пусть (у) — его базис. Тогда и — аналитический вектор.

Доказательство. Положим f0 (g) = л (g) у. Тогда

L kgk^ = e^f^gY

Отсюда следует, что f„ — собственная функция оператора W с собственным значением in. Поскольку ® коммутирует с операторами л (/г) при всех к е К, то ао е Нп; так как, по предположению, пространство Нп одномерно, то и — собственный вектор оператора Казимира, т. е.

<йц = си

для некоторого комплексного числа с. Таким образом, (®—с)у=0, и, в силу формулы (5) предыдущего параграфа,

(® — сНа = 0.

Следовательно, f0 есть решение эллиптического дифференциального уравнения. Для любого функционала Л на пространстве Н функция X о f0 есть решение того же дифференциального уравнения и, в силу теоремы регулярности (приложение 4), является вещественно аналитической. Так как из слабой аналитичности вытекает сильная аналитичность (приложение 5), то функция /0 — аналитическая, что и требовалось доказать.

§ 3. Собственные функции кольца S£(t)

Как и в гл. IV, рассмотрим сначала сферические функции. Напомним, что, по определению, сферическая функция — это непрерывная функция на группе G, двусторонне инвариантная относительно подгруппы К, которая является собственной функцией операторов правой свертки с элементами кольца С” (G//K) и нормирована так, что она равна 1 на единичном элементе группы. Так как операторы свертки являются сглаживающими,

то сферическая функция, очевидно, бесконечно дифференцируема.

Теорема 8. Пусть f— гладкая функция на G, двусторонне инвариантная относительно подгруппы К и такая, что f(e)=l. Тогда функция f является сферической в том и только в том случае, когда существует такое комплексное число X, что af = Xf.

Доказательство. Предположим сначала, что функция f сферическая. Пусть ф е С” (Д^К). По определению,

(f * ф) (х) = ^ f (ху- *) ф (у) dy = ^f (у- *) ф (ху) dy.

GG

Так как оператор а левоинвариантен, то ясно, что ®(/*ф) = = f * (юф). С другой стороны, поскольку оператор а также и правоинвариантен, получаем

о (/ * ф) = (af) * ф.

(Дифференцирование под знаком интеграла, очевидно, допустимо, так как функция ф имеет компактный носитель.) Пусть {фп} — последовательность Дирака из С” (G). Положим фл = *фл > т. е. усредним функции ф„ справа и слева по подгруппе К. Тогда

^П *<Pn = f *(®ФП)=М. где

К = (/ * ®Фп) (е) = (®f * фп) (е).

Так как подпоследовательность {а/*ф„} поточечно сходится к а), отсюда следует, что последовательность {Хл} сходится к (af) (е), и мы видим, что af = Xf, где X = (af) (е). Итак, первая половина теоремы доказана.

Обратное утверждение будет выведено из свойств собственных функций оператора Казимира, к обсуждению которых мы теперь переходим. Свойства двусторонне инвариантных функций вытекают из более общих результатов о функциях, инвариантных относительно сопряжения элементами подгруппы К; поэтому мы займемся сейчас изучением таких функций.

Напомним, что собственная функция оператора Казимира, постоянная на правых смежных классах по К (т. е. функция на GfK), заведомо является аналитической в силу теоремы ре« гулярности (см. § 2).

Выше мы определили присоединенное представление группы G в алгебре °П (д). Если

Х = Хх...Хп

и Xt = &xl, Xt (= д, то

X

S yg yg — Al ... Ад,

где X® = g *Xig. Отображение Ун^У6 есть автоморфизм алгебры ^ (fl) при .любом g е G.

В частности, взяв g = k е К, можно усреднить элемент У е ^(д) по группе К- Положим, по определению,

YK = j Ykdk.к

Легко проверить, что YK <=££$, т. е. что YK коммутирует с W.Для любой функции / определим функцию fk формулойf4x) ™ Kkxk-i\

Положим также х® = g-xxg. Пусть X е д. Имеем f *(хexptX^ = f (kx(exptX) k~'') = f (kxk-x exp(tkXk-^).

Отсюда по индукции получаем формулу

jyTH^=ow

для всех У е^/ (д). В частности, если f е С” (G, X), то

(У^)(в) = (УП(е).

Теорема 9. Пусть X: 3^^-* С— характер, т. е. гомоморфизм кольца 3L (f) в поле комплексных чисел. Пусть f — аналитическая функция на группе G, инвариантная относительно сопряжений элементами подгруппы К, т. е. такая, что

f (кхк~') = / (х) для всех xeG, к е X.

Предположим, кроме того, что

Yf = X(YH

для всех YeSE$. Тогда при всех достаточно малых Хг^ справедливо разложение

/п^О

Доказательство. Это немедленно следует из формулы Тейлора

/(ехр«-£т

и полученной выше формулы (2), так как, по предположению, f — собственная функция кольца ^ (f), соответствующая характеру X.

Теорема 9 определяет значения функции ; в окрестности единицы группы G и, следовательно, однозначно определяет ее на всей группе ввиду аналитичности. В частности, имеет место

Теореча 10. (i) Пусть f, geC^iG, К) — собственные функции кольца -£(1), соответствующие одному и тому же характеру и нормированные так, что f (е) = g(e) = 1. Тогда эти функции совпадают.

Пусть f, g g С” (G//К} — собственные функции оператора Казимира, отвечающие одному и тому же собственному значению и нормированные так, что f(e) = g(e) = l. Тогда эти функции совпадают.

Доказательство. Первая часть теоремы уже была доказана. Вторая часть вытекает из следующих замечаний.

Пусть feC” (G//K)—гладкая двусторонне инвариантная функция. Тогда Wf = 0. Если, кроме того, f — собственная функция оператора ®, то, по теореме 4, для любого элемента У из кольца (!) = С [®, IF] существует такое комплексное число Х(У), что

при этом отображение У—*Х(У) является гомоморфизмом кольца 2£$ в поле комплексных чисел, т. е. характером кольца 2с Д). Далее, так как Л,(W) = 0, этот характер однозначно определяется своим значением на операторе Казимира, т. е. числом Л (о).

Аналитичность наших функций можно или потребовать a priori, или вывести из теоремы регулярности, так как они являются собственными функциями эллиптического оператора.

Теперь мы в состоянии завершить доказательство теоремы 8. В самом деле, явная формула для сферических функций

Фз to = ^ Р (кхУ dkк

дает нам функции, которые двусторонне инвариантны, являются собственными функциями оператора Казимира с собственным значением К = s(s — 1), где з — произвольное комплексное число, и нормированы так, что ф5(е) = 1. Одновременно с завершением доказательства теоремы 8 мы закончили также принадлежащее Хариш-Чандре доказательство его классификационной теоремы для сферических функций:

Теорема И. Все сферические функции исчерпываются теми, которые были построены выше, т. е. функциями ф$, s е С.

Замечание. Существует другой подход к классификации сферических функций. Мы начинаем с исследования нелинейного дифференциального уравнения второго порядка для двусторонне инвариантной функции f:

6>f = s(s— l)f.

Поскольку функция / двусторонне инвариантна, ее можно рассматривать как функцию от переменной аг А в разложении Картана G = KA+K. Таким образом, мы получаем для функции f обыкновенное дифференциальное уравнение 2-го порядка; оно имеет два линейно независимых решения. Пусть заданы число Л и сферическая функция f, такая, что 6>f = Xf. Мы всегда можем найти такое число s, что s(s — 1) = Л. Итак, специальная сферическая функция ф$ удовлетворяет тому же самому дифференциальному уравнению, что и f. [Решения этого уравнения выражаются через классические специальные функции.] В теореме 1 § 2 гл. XIV мы построим другое решение того же уравнения; это решение выражено там через другую переменную, однако легко видеть, что как функция переменной у на верхней полуплоскости оно имеет логарифмическую особенность. Так как функция f должна быть линейной комбинацией ф5 и функции, построенной в § 2 гл. XIV, и так как f не имеет особенностей, то f должна быть кратна ф5, что и требовалось доказать.

XI. ПРЕДСТАВЛЕНИЕ ВЕЙЛЯ

В теории представлений группы SL2 (R) существует большой круг вопросов, которых мы не будем касаться, а именно построение различных моделей представлений из данного класса инфинитезимальной эквивалентности и возможность выбора канонической модели, например модели Уиттекера, в данном классе. Мы отсылаем читателя к книге Жаке и Ленглендса [1] и к статьям Стейна [2] и Кнаппа и Стейна [1]'), где можно найти более подробную информацию по этому поводу и обсуждение сплетающих операторов между различными моделями. Хелга- сон [3] приводит очень интересную модель представлений в собственных подпространствах оператора Лапласа. Я включил в эту книгу только специальную модель представления Вейля, поскольку это представление особенно важно в теоретико-числовых приложениях н позволяет строить примеры автоморфных форм (см., например, Шалика и Танака [1]). Кроме того, так как работа Вейля [1] написана в чрезвычайно большой общности, может оказаться полезным иметь в качестве введения наивное изложение частного случая. Наконец, способ построения представления Вейля дает повод упомянуть разложение Брюа и привести образующие и соотношения для группы SL2 (R). Я не предполагал слишком глубоко вдаваться в рассматриваемые здесь вопросы, и поэтому выбор материала в этой главе несколько произволен.

Преобразование Фурье и свертки

Пусть b eR, Ь ф 0. Рассмотрим функцию на R", определен-, ную формулой

Иъ (х) = е-^,

где х2 = х • х — скалярное произведение. Эта функция равна 1 по абсолютной величине, и поэтому ее преобразование Фурье в «наивном» смысле не существует. Однако при помощи подходящей предельной процедуры мы сможем обращаться с ней так же, как с функциями нз пространства Шварца в обычной теории сверток н преобразований Фурье. (См. Ленг [1, гл. XIV].

*) См. также Годеман [7]. — Прим, перев.

Мы предполагаем, что читатель знаком с изложенной в этой книге элементарной теорией, и будем использовать соответствующие понятия н теоремы без специальных ссылок.) Заметим, что функция /г6 четна, hb (— х) = hb (х).

определить формулой hl.определить формулой hl.йб— <tb^ Н-мь-йб— <tb^ Н-мь-Мы покажем, что ее преобразование Фурье «естественно»

определить формулой hl.

определить формулой hl.

йб— <tb^ Н-мь-

йб— <tb^ Н-мь-

Кроме того, мы покажем, что если функция / принадлежит пространству Шварца, то функция hb * f, определенная обычной формулой

Vtb * f) (х) = J hb (х — у) f (у) dy,

Rn

и функция hbf тоже принадлежат пространству Шварца и справедливы следующие формулы, в которых символом f обозначено обычное преобразование Фурье функции f:

Нх)= ^ Цу^е-^-е dy.

h 2.(МГ-М-

h 3.(MT = &b*h

h 4.hb*f = hb УМУ 0 M-b\

где для любого ненулевого b е R мы обозначаем символом Мь оператор в R", действующий по формуле Мьх = Ьх (оператор умножения на 6); при этом (foMb) (х) = f (6х). В частности,

h 5.h 5.Другими словами, ции hb выполнены вания Фурье.Другими словами, ции hb выполнены вания Фурье.h—b (hb * f) = (M) ° M-b.

h 5.

h 5.

Другими словами, ции hb выполнены вания Фурье.

Другими словами, ции hb выполнены вания Фурье.

наше определение h 1 таково, что для функ- все обычные свойства свертки и преобразо-

Перейдем к доказательству этих формул. Зафиксируем число b и положим, для краткости,

Ф(х) = е-Л^’.

Для вещественного а, а > 0, положим

ф0 (х) = е-лИ>х'е-мх=,

Таким образом, мы умножили функцию ф на одну из стандартных функций из пространства Шварца. Поэтому ясно, что

функция ф0 быстро убывает, и мы можем вычислить ее преобразование Фурье:

Фа (У) = ^ е-л (o+ib) x’e~2nixi' dx.

Положим £(х) = е-лх'. Функция g совпадает со своим преобразованием Фурье, g = £. Для любого комплексного а положим

§а^ = е-№х\

Если а вещественно и положительно, то

По принципу аналитического продолжения, то же самое соотношение справедливо прн комплексных а с положительной вещественной частью, т. е. для а = а + lb, а > 0. Следовательно, Естественно теперь рассмотреть предел этого выражения прн а->0. Этот предел существует, хотя к нему и нельзя перейти под знаком интеграла, и мы получаем нашу формулу для функции ф = Яь, что оправдывает принятое определение.

Пусть f<=S. Тогда f*<peS.

Доказательство. Имеем (f*va) = f фа. Ниже мы проверим, что в этом равенстве можно перейти к пределу при а-*0 под знаком интеграла; поэтому (/ *ф) =/ф. Ясно, что произведение/ф быстро убывает; сделав преобразование Фурье, мы видим, что функция ^*ф является фурье-образом некоторой функции из пространства Шварца. Следовательно, она сама принадлежит пространству Шварца, что и требовалось доказать.

Заменяя f на f и ф на ф, получаем аналогичное соотношение

УфГ =f *Ф-

Мы должны теперь обосновать предельный переход под знаком интеграла, т. е. показать, что

lim ( (f * фа) (х) в-2”^у dx = ( У * Ф) to e-2"ix» dx.

а->0 JJ

Для этого нужно найти суммируемую функцию, которая мажорирует / *фо равномерно по а; достаточно доказать, что функция

х^хр у* Фо) (х)

ограничена при всех р. Обозначим оператор умножения на одночлен символом Мр:

(Мр/)(х) = х^ ... хр«/(х).

Из теории преобразования Фурье следует, что

М' у • Ф.) - М' ((Г-Ф-)") - (с' (?"».-))"■

Заменим функцию f на Г- Имеем, кроме того, (Фо)~ =(фа Г> ф-=Фа; следовательно, достаточно показать, что функция (£рфра)Г ограничена. Но функция Dp ^фа) представляется в виде суммы

Lcqr^gb Ф^а\

причем функции Dqf = Л быстро убывают. Кроме того, —1 fZL^L-Y уГо-пхЧ(а+1Ь)

и справедлива оценка

| W) to xre-ww | | W (х) ^ I I A (x) I,

где f2— функция из пространства Шварца. Таким образом, каждая функция

fq,r = kDlHDr^a)

ограничена быстро убывающей функцией g равномерно по а; при этом

lLrtol<$l^r(y)e-^M^^

Это оправдывает сделанный нами предельный переход под знаком интеграла.

Те формулы, которые мы привели в начале этого параграфа и еще не доказали, теперь очевидны.

Образующие и соотношения для группы Sl2

Пусть F — поле. Мы приведем образующие и соотношения для группы SL2 Ф). Пусть b е F, a^F, а * 0. Введем следующие обозначения:

/I 6\/а 0 \/ 0 1\

“W = U J' S(a) = (o а-J- а, = (-1 о/

Тогда

(*)

SL 1.

SL 2.

SL 3.

SL 4.

s(a) = wu (a-I)zyu(a)zyu(a-1).

bt—*u(b) есть аддитивный гомоморфизм.

ан->s(a) есть мультипликативный гомоморфизм.

W? = 8 (—1).

s (а) и (b) s (а-1) = и (Ьа2).

Предположим, что G — произвольная группа с образующими и (b) № е F) и w, такая, что если определить элемент s (а) для а О формулой (*), то выполнены условия SL 1 — SL 4. Из условий SL 3 и SL 4 вытекает тогда, что s(—1) принадлежит центру G и что cv4 = 1. Кроме того,

SL 5. и>з(а) = з(а_1)и>.

В самом деле,

w~xs (а) = и (а-1) wu (а) wu {а-'), откуда

zys(a)zy~1s(a) = zys(a)u(a~l) s(a~')u(—а)и>-1 = 1,

что и требовалось (мы воспользовались формулой SL 4, положив в ней Ь ==а-').

Пусть G — группа с образующими a(b), w и соотношениями SL 1 — SL 4, в которых элемент s (а) определен формулой (*). Тогда существует естественный гомоморфизм группы G на SL^FY

Теорема 1. Естественный гомоморфизм описанной выше группы на SL^F} является изоморфизмом.

Доказательство. Любая группа с образующими «(b) феГ) и w, которые удовлетворяют приведенным соотношениям, состоит из элементов вида

и (b) s (а) или и (b) s (a) avu (с),

где элемент s(a) определен формулой (*). В самом деле, пусть N — подгруппа всех элементов и (Ь) и А — подгруппа всех элементов s(a). Тогда SL 4 показывает, что NA = AN. Рассмотрим подмножество G' = NA U NAwN группы G. Умножение справа на элемент w или на элемент и е N отображает подгруппу NA в G'. То же самое произойдет, если подмножество NAwN умножить справа на элемент о е N. Из тождества

WU (с) ш> = и (— с-1) w-vs (с) и (— с-1)

(которое немедленно следует из определения s(c)) и формулы SL 5 вытекает, что

NAwNwсNAwN.

Следовательно, G' = G. Чтобы проверить, что в группе SL^F) нет других соотношений, достаточно доказать следующую лемму.

Лемма. Каждый элемент группы SL2(F) допускает однозначное разложение вида

u(a)s(&) или и (a) s(b)wu(c),

г. е. группа SL2(F) представляется в виде объединения непере- секающихся подмножеств

NAUNAwN.

Доказательство. Пусть F2 — пространство вектор-строк под полем F; зададим на F2 естественное правое действие группы SL^FY Пусть е2 — единичный вектор, е2 = (0, 1). Очевидно, что группа N есть стационарная подгруппа вектора е2) т. е. подгруппа матриц geSL2(F), таких, что e2g = e2. Следовательно, отображение g^*e2g задает изоморфизм пространства N\SL2(F> и G-орбиты вектора е2. Образ матриц з(а) при этом отображении есть

e2s (и) = (0, а"1),

т. е. состоит из всех векторов, первая компонента которых равна нулю. Прн этом элемент аг F* определяется тачкой орбиты однозначно. Если подействовать на нашу точку матрицей w, она перейдет в точку (—а-1, 0). Подействовав на нее справа матрицей и (с), получим вектор вида

(—а~х, — са~х\

т. е. вектор с ненулевой первой компонентой. При этом его первая компонента однозначно определяет элемент а г F*, а затем элемент с г F однозначно определяется по второй компоненте. Это показывает, что наше разложение единственно. Тем самым лемма, а вместе с ней и теорема 1 полностью доказаны.

Разложение, описанное в лемме, называется разложением Брюа.

Замечание. Для произвольного поля не имеет смысла говорить о положительных и отрицательных элементах; поэтому мы определили подгруппу А как образ всей мультипликативной группы поля при гомоморфизме з. Разумеется, над полем вещественных чисел можно ввести более тонкое деление, учитывающее знак чисел.

§ 3. Представление Вейля

Теорема 2. Пусть S —S(R2) — пространство Шварца на плоскости R2. Существует единственное линейное представление г группы SL2(R) в пространстве S {мы не налагаем на это представление никаких условий непрерывности), такое, что

г {w) f = — if;

r{u{b))f = hbf, где Нь{х) = е-л‘Ьх1, 6eR.

Для этого представления справедлива также формула

г (s (a)) f (х) = af {ах), а^Ъ.

Представление г унитарно относительно обычного скалярного произведения в S.

Доказательство. Достаточно проверить, что операторы, соответствующие матрицам хй, u{b), s{a), удовлетворяют соотношениям из § 2. Заметим, что

Для доказательства оставшихся соотношений проще всего проверить сначала, что если оператор r{s{a)) определен формулой (3), то выполнено соотношение

г {w)r {и {b))r {w)r (u(Z>-1)) = г (и(— b~'})r(w~')r {s {b)),

соответствующее формуле (*) из § 2. Проверка этого соотношения основана на формулах h 1 — h 4 из § 1 и является стандартной, хотя и несколько утомительной. После этого остальные утверждения теоремы становятся очевидными; например, из формулы (3) для оператора r{s{a)) немедленно следует, что отображение а-—>г($(а)) — гомоморфизм.

Отождествим теперь пространство R2 с комплексной плоскостью С. Обозначим С1 мультипликативную группу комплексных чисел, равных 1 по модулю. Пусть % — характер группы С1, S(C, х) ~ подпространство в S(C), состоящее из функций, которые удовлетворяют функциональному уравнению

f (az) = x(a)~‘ f (2), aeC1, zeC.

Лемма 1. Пространство S (С, x) инвариантно относительно представления г.

Доказательство. Комплексно сопряженное число к пе С будем обозначать а'. Если aaz = l, то hb{uz) = hb{zy, таким об-

разом, если / е S (С, %), то функция г (и (b)) f тоже принадлежит этому пространству. Далее,

f (ах) = ^ Пу) e~ni tr t®^') dy.

Сделаем замену переменной у*-*ау. Мера на R2 = C остается инвариантной, так как |а|=1. Следовательно,

f (ах) = j f (ау) е-"‘tr W dy = x (а)"' f (х).

Лемма доказана.

Мы хотим продолжить наше представление на группу GL* (R). Начнем с некоторых алгебраических замечаний.

Пусть G — группа, А и В — ее подгруппы, такие, что G = АВ. Пусть q>: A-*GV, ф: В -* Gv — гомоморфизмы в другую группу. Предположим, что всякий раз, когда элемент g G можно записать в виде

g = ab = Ь'а', а, а' е А, Ь, Ь' е В, справедливо соотношение

Ф (а) ф (6) = ф (У) ф (а');

предположим также, что сужения гомоморфизмов ф н ф на АП В совпадают. Тогда ф и ф можно однозначно продолжить до гомоморфизма h группы G в 0ъ положив

h (ab) = ф (а) ф (Ь).

Проверка этого утверждения тривиальна и предоставляется читателю.

Предположим, кроме того, что подгруппа В — нормальный делитель G и Af>B = {lk Тогда из соотношения ab — b'a' следует, что aba-1 =b'a'a, откуда а' — а и ab=b'a. Итак, чтобы установить существование продолжения гомоморфизма h, достаточно проверить, что если b' = aba-1, то

ф(а) ф(6)ф (а)-1 = ф (У).

Применим эти соображения к представлению г. Пусть <о — характер С* (мультипликативной группы поля комплексных чисел), сужение которого на С1 совпадает с х- Для а > 0 положим

/ а 0 \

Определим оператор rm(v(a)) формулой

rw(o(a))f(z) = \a\ti>(a)f(az).

где а —любое комплексное число, такое, что аа' = а. Это определение корректно, т. е. не зависит от выбора а. Мы утверждаем, что формула (4) задает продолжение представления г на группу GLt (R); мы будем обозначать это представление г^. В силу сделанных выше алгебраических замечаний, для проверки нашего утверждения достаточно доказать для х е SL2 (R) соотношение

Если это соотношение доказано для матриц х, х' г SL2 (R), то оно выполняется и для их произведения. Поэтому достаточно проверить его для

1 6\/01

Эта проверка проводится непосредственно на основе определений с использованием равенств

Заметим, что представление гщ унитарно, т. е. все операторы ra(x), xg.GLi (R), унитарны по отношению к обычному скалярному произведению в пространстве S (С).

Теорема 3. Обозначим символом L2(C, о») пополнение S(C, <в) относительно 1?-нормы. Тогда пространство А2 (С, а>) неприводимо относительно представления га.

(5)(5)(Tf)(z) = |z|o>(z)f(z).(Tf)(z) = |z|o>(z)f(z).Доказательство. Линейное подмножество S (С, о») плотно в Л2 (С, ®). Зададим отображение Т на функциях из S (С, <в) формулой

(5)

(5)

(Tf)(z) = |z|o>(z)f(z).

(Tf)(z) = |z|o>(z)f(z).

Заметим, что (Tf) (sz) = (Tf) (z) для любого комплексного числа е, по модулю равного 1. Таким образом, функция Tf зависит только от расстояния до начала координат, и ее можно рассматривать как функцию на положительной полуоси.

Далее, положим

г; = Т = гаоТ-', т. е. г®(х)/ = Г(гв(х)(Т"7)).

Тогда, если / — такая функция, что /(ez) = f(2) для всех е, |е|=1, то действие на нее операторов представления г^ задается формулами

^((q bx^t^ = e-^b»4^

(7)(7)^^ ^f^^f^’^^ ^f^^f^’

(7)

(7)

^^ ^f^^f^’

^^ ^f^^f^’

где а — любое комплексное число, такое, что аа' = а > 0.

Сопоставим функции Tf функцию (TfY на полуоси R+, положив

O4tWTfW'1 = (rn<zY

где 2 — любое комплексное число, такое, что zz' = t. Немедленно проверяется следующее утверждение:

Лемма 2. Отображение f^-(Tf)* продолжается до изометрического изоморфизма пространства Л2 (С, о») на L2(r+) относительно меры л/-1 dt.

Доказательство очевидно и предоставляется читателю.

Мы свели изучение представления г^ к изучению представления г^ в пространстве TS(C, ®), которое плотно в L2(r+).

Обозначим символом В+ (R) группу матриц вида

а &\0 1Ла &\0 1Ла > 0, b е R.а > 0, b е R.

а &\

0 1Л

а &\

0 1Л

а > 0, b е R.

а > 0, b е R.

Сужение представления г® на подгруппу B+(R) обозначим л. Это представление продолжается до унитарного представления в пространстве L (R+), которое задается формулами

(9)(9)4(i 1))^ = е~яШ^>4(i 1))^ = е~яШ^>(Ю)(Ю)-((о iTn-fw-((о iTn-fw

(9)

(9)

4(i 1))^ = е~яШ^>

4(i 1))^ = е~яШ^>

(Ю)

(Ю)

-((о iTn-fw

-((о iTn-fw

Для доказательства теоремы 3 достаточно проверить следующее утверждение:

Теорема 4. Представление л группы В+ (R) в пространстве A2(R+), заданное формулами (9), (10), неприводимо.

Доказательство основано на двух леммах из функционального анализа.

Лемма 3. Пусть (X, ц) — измеримое о-конечное пространство с мерой. Пусть

А-. L2(X,p)^L2(X,^)

— непрерывное линейное отображение, которое коммутирует со всеми операторами умножения на функции из пространства L°° {X, р,). Тогда А есть оператор умножения на некоторую функцию gel” (X, р,).

Доказательство. Пусть фе£2(Х р.) — в существенном положительная функция. Например, представим пространство X в виде объединения

непересекающихся подмножеств конечной меры и положим

Ф I Х„ =-—тт- = const.

" п’р (A)h

Для любой функции f е L°° Q L2 имеем Л(ф/) = фЛ (f) = fA (ф). Следовательно,

Af = ^-f.

Положим g = Лф/ф. Достаточно доказать, что функция g ограничена. Если это не так, то для любого наперед заданного числа N найдется такое множество Е конечной положительной меры, что I Sf (х) 1 > 7V для всех хеЕ. Пусть Хе — характеристическая функция множества Е. Положим

ifrXE

(напомним, что g^O в точках Е\ Тогда

Л (у|г Хе) = -jyp Хе = I g I Хе > ^Хе-

/Анорма этой последней функции равна ПрДЕ)'11. Но, с другой стороны,

И-г5тж-С—SlTfrl’^—*1^'

Е

Это противоречит ограниченности отображения А; лемма доказана.

Рассмотрим, в частности, в качестве пространства X полуось R+ с мерой Хаара t-1 di.

Лемма 4. Пусть

Л: Zz(R+)->Z.2(r+)

— ограниченный линейный оператор, коммутирующий с операторами умножения на экспоненты eibt, 6eR. Тогда А коммутирует со всеми операторами умножения на функции у&.ТД^’} и, по лемме 3, сам является оператором умножения на некоторую функцию geL”(K.4

Доказательство. Докажем сначала утверждение леммы для функций ф е С” (r+). Пусть N — большое целое число, фу — периодическое продолжение функции ф на полуось R+ с интервала (О, Ny таким образом, график функции фд, выглядит так, как показано на рис. 1.

Рис. 1.

Пусть Е — некоторый интервал, содержащийся в (0, М], и Хе — его характеристическая функция. Тогда

А (фХе) = А УУмХе) = ФИ (Хе)-

Зафиксировав Е и устремив N—*oc, получаем

А (ФХе) = Фл (Хе)-

Это равенство справедливо при любом выборе интервала Е на полуоси. Линейные комбинации характеристических функций таких интервалов плотны в L2. По непрерывности мы получаем, что

Л(ф/) = ФЛ(/) для всех f е L2.

Распространим доказанное равенство на все измеримые ограниченные функции. Пусть фе2,°°. Существует равномерно ограниченная последовательность гладких финитных функций {ф„}, сходящаяся к функции ф почти всюду. (Например, можно сначала аппроксимировать ф на конечном интервале [l/^, АГ], а затем устремить ^->oo.) Если f е L2, то, по теореме об ограниченной сходимости, последовательность {ф„/} сходится в L- к функции ф/. Следовательно,

VnAf = А (ф„Л -► A ^fy, с другой стороны,

cpnAf->cpAf.

Лемма доказана.

8 Зак. 58'9

Докажем теперь неприводимость представления л из теоремы 4. Пусть А — проектор на инвариантное подпространство. Обозначим f = a функцию xi—>f(ax). Тогда, по лемме 3, при фиксированном а > О

А (f ° а) = g U ° а) = (Af) о а, или, иначе,

Д (f о а) (О = g (t) f (at) = g(at)f (at).

Отсюда вытекает, что g(t) = g (at) для почти всех t. По теореме Фубини, функция g(at) — g(t) равна нулю при почти всех (а,/). Таким образом, функция g в существенном постоянна; следовательно, либо А = 1, либо Д = 0, что и требовалось доказать.

При изучении представлений в пространствах Л2 (Г\С), где Г с G — некоторая дискретная подгруппа, становятся ощутимыми алгебраические и арифметические свойства группы SL2. В этой главе, после того, как мы обсудим структуру фактор- пространства Г\С или Г\О/Л' = Г\§ (этот материал является, по существу, классическим), мы докажем, что сужение представления в Л2(Г\С) на некоторое подпространство °L2(r\G) вполне приводимо. Доказательство будет проведено для случая Г = = SL2(Z); оно пригодно также для любых «арифметических» подгрупп, т. е. подгрупп конечного индекса в SL2^Z\ В нем используется формула суммирования Пуассона и некоторые оценки. Его преимущество в том, что оно быстро приводит к цели и использует минимум сведении из анализа.

С другой стороны, этот метод непригоден для более общих дискретных подгрупп. Мы обсудим общий случай в гл. XIV на основе одного метода Л. Д. Фаддеева.

Основной результат этой главы о том, что пространство °/.2(Г\С) вполне приводимо, принадлежит И. М. Гельфанду и И. И. Пятецкому-Шапиро. (См. книгу Гельфанда, Граева и Пятецкого-Шапиро [1], в которой приведен адельный вариант этой теоремы.) При изложении я следую практически без изменений заметке Годемана [5]. Годеман рассматривает более общий случаи, однако в соответствии с нашим подходом в этой книге нам кажется, что проще сначала познакомиться с доказательством для случая SL2 (Z), а затем убедиться, что оно проходит в большей общности.

Вершины и вершинные подгруппы

Пусть Г —дискретная подгруппа группы SL2 (R). Однопараметрическая подгруппа N группы G = SL2(R) называется унипотентной, если она состоит из всех элементов вида ехр/Х, где X — некоторая нильпотентная 2 X 2-матрица, t е R. Будем говорить, что N — вершинная подгруппа ) для Г, если

Докажем теперь неприводимость представления л из теоремы 4. Пусть А — проектор на инвариантное подпространство. Обозначим foa функцию х*—>f(ax). Тогда, по лемме 3, .при фиксированном а > О

АУ »a) = gy oa) = (Af)oa,

или, иначе, А У ° a) (t) = g(i)f (at) = g(ai)f (at).

Отсюда вытекает, что g (t) = g (at) для почти всех t. По теореме Фубини, функция g (at) — g (t) равна нулю при почти всех (a, t). Таким образом, функция g в существенном постоянна; следовательно, либо А = 1, либо Д = 0, что и требовалось доказать.

При изучении представлений в пространствах L2(r\G), где Геб—некоторая дискретная подгруппа, становятся ощутимыми алгебраические и арифметические свойства группы SLa. В этой главе, после того, как мы обсудим структуру фактор- пространства Г\С или T\GjK — Г\ф (этот материал является, по существу, классическим), мы докажем, что сужение представления в L2(F\G) на некоторое подпространство %2(r\G) вполне приводимо. Доказательство будет проведено для случая Г = = SL2(Z); оно пригодно также для любых «арифметических» подгрупп, т. е. подгрупп конечного индекса в SL2(Z). В нем используется формула суммирования Пуассона и некоторые оценки. Его преимущество в том, что оно быстро приводит к цели и использует минимум сведений из анализа.

С другой стороны, этот метод непригоден для более общих дискретных подгрупп. Мы обсудим общий случай в гл. XIV на основе одного метода Л. Д. Фаддеева.

Основной результат этой главы о том, что пространство %2(Г\0) вполне приводимо, принадлежит И. М. Гельфанду и И. И. Пятецкому-Шапиро. (См. книгу Гельфанда, Граева и Пятецкого-Шапиро [1], в которой приведен адельный вариант этой теоремы.) При изложении я следую практически без изменений заметке Годемана [5]. Годеман рассматривает более общий случай, однако в соответствии с нашим подходом в этой книге нам кажется, что проще сначала познакомиться с доказательством для случая SLa (Z), а затем убедиться, что оно проходит в большей общности.

§ 1. Вершины и вершинные подгруппы

Пусть Г —дискретная подгруппа группы SL2(R). Однопараметрическая подгруппа N группы G = SL>(R) называется унипотентной, если она состоит из всех элементов вида ехр/Х, где X — некоторая нильпотентная 2 X 2-матрица, t е R. Будем говорить, что N — вершинная подгруппа ') для Г, если

') В литературе по теории представлений уже утвердился термин «каспидальная подгруппа». Ясно, что предложенный переводчиком вариант гораздо уместнее. — Прим. ред.

факторпространство N/N П Г компактно, или, что эквивалентно, N содержит неединичный элемент подгруппы Г.

Типичный пример унипотентной подгруппы—это подгруппа Мо, состоящая из матриц вида

/1 6\

(о 1Т 6gR'

Простое перемножение матриц показывает, что нормализатор подгруппы No в группе GT2(R) состоит из матриц вида

/а 6\

In л ) ’ ad =7^ 0.

Нормализатор подгруппы N в SL2(R) мы будем обозначать Norm N.

Теорема 1. Все однопараметрические унипотентные подгруппы группы SUW сопряжены. Две унипотентные подгруппы N и N' совпадают в том и только в том случае, когда Norm N = Norm N'.

Доказательство. Пусть X — нильпотентная матрица. Тогда по теореме Жордана существует такая матрица MeGL2(R), что

= о/

Если понадобится, можно умножить М слева на матрицу

1 °Yо -и*

таким образом, без ограничения общности можно считать, что М принадлежит GL* (R). Умножив матрицу М на положительное число, мы можем даже считать, что MeST2(R); при этом

Тогда подгруппа VxptMXM '}, t е R, сопряжена подгруппе {ехр^Х} в SLJR). Это показывает, что все однопараметрические унипотентные подгруппы группы SL2(R) сопряжены.

Пусть В — подгруппа Бореля группы SL2(R), т. е. подгруппа матриц вида

/ a 6 X(о a~v

Множество унипотентных однопараметрических подгрупп есть орбита группы Nq относительно сопряжения в SL2(R); поэтому

оно находится во взаимно однозначном соответствии с множеством смежных классов SL2(R)/B. Для любого xeR обозначим символом

1—X1—XО1О1

1

—X

1

—X

О

1

О

1

подгруппу, сопряженную NQ при помощи матрицы

1

X 17

Группа Nx состоит из матриц вида

(1)(1)1 — их и \ Х?и 1 + ИХ / ’1 — их и \ Х?и 1 + ИХ / ’и е R.и е R.

(1)

(1)

1 — их и \ Х?и 1 + ИХ / ’

1 — их и \ Х?и 1 + ИХ / ’

и е R.

и е R.

Так как любую 2 X 2-матрицу можно записать в виде

/а 6\/1 0\/а р\

X с d) = V* 1)\0 6/’

в предположении, что а =/= 0 (х = с^, то группы Nx (х е R) образуют семейство представителей для смежных классов из пространства SL2(Ry^, содержащих матрицу, у которой а =^ 0. Немедленно проверяется, что существует только один смежный класс, не удовлетворяющий этому условию. Представителем этого класса является матрица

/ ° 1\оЛ

и ему соответствует унипотентная подгруппа

Таким образом, множество RU{°°} взаимно однозначно параметризует унипотентные подгруппы группы SZ.2(R).

Теорема 2. Подгруппа Мх является вершинной подгруппой для P = SL2(Z) в том и только в том случае, когда х— рациональное число или оо.

Доказательство. Это немедленно следует из явного описания матриц подгруппы Nх, приведенного в формуле (1). Если пересечение подгрупп Nx и SL2 (Z) содержит элемент, отличный от 1, то и = п — целое и 1 — их тоже целое; таким образом, х рационально. Обратнее утверждение также очевидно.

Пусть Г — подгруппа группы SL^^Z) конечного индекса. Тогда N — вершинная подгруппа для Г в том и только в том случае, когда она вершинная для SL^ (Z).

Доказательство. Если пересечение подгрупп N и SA2(Z) содержит элемент, отличный от единицы, то некоторая степень этого элемента принадлежит Г. Кроме того, подгруппа N не содержит элементов конечного порядка, поэтому N — вершинная подгруппа для Г. Обратное утверждение очевидно.

Две унипотентные подгруппы А7 и N' называются Г-сопря- женными, если существует такой элемент уеГ, что \N^-1 = N'. Рассмотрим множество всех унипотентных подгрупп, которые являются вершинными для Г. Группа Г действует на этом множестве при помощи сопряжения, и класс Г-сопряженных подгрупп (т. е. орбита группы Г) называется вершиной группы Г.

Пример. Если Г cSL2(Z), то вершины находятся во взаимно однозначном соответствии с двойными смежными классами

r\SL2 (Q)/S (Q),

где Q —поле рациональных чисел, S (Q) — подгруппа треугольных матриц в SL2(Q\ Это немедленно вытекает из параметризации вершинных подгрупп точками множества QU{°°}. Подгруппа r = SA2(Z) имеет только одну вершину. В общем случае число вершин не превосходит индекса [S Д2 (Z): Г].

Теорема 3. Пусть Г—дискретная подгруппа группы G = = SL2(R), такая, что факторпространет во Г\С компактно. Тогда G не содержит вершинных подгрупп для Г.

Доказательство. Нам нужно показать, что группа Г не содержит унипотентных матриц, отличных от единичной. Докажем сначала, что класс сопряженных элементов, соответствующий любой матрице у е Г, замкнут в SL2(R). В самом деле, пусть W — компактное множество, такое, что SL2 (R) = ТГТ. Рассмотрим отображение группы SL2(R) в себя, задаваемое формулой

g^g^g"1-

Его образ состоит из матриц, сопряженных при помощи элементов, принадлежащих W, элементам множества

S = (стуст-1; о е Г).

Множество S содержится в Г и является замкнутым и дискретным. Предположим, что заданы последовательности элементов gn е W и ап е Г, такие, что

для некоторого элемента h е SL2(R). Переходя, если это необходимо, к подпоследовательности, мы можем считать, что gn сходится к элементу g е W. Тогда

и так как множество 3 дискретно, то последовательность {<TnY<T~'} стабилизируется при достаточно больших п (мы не утверждаем, что сама последовательность {<тп} стабилизируется). Таким образом,

Й^п^ё^ -*g^o"xg-x.

Это показывает, что класс сопряженных элементов замкнут. Для завершения доказательства достаточно заметить, что класс сопряженности любого отличного от единицы унипотентного элемента в SZ.2(R) не замкнут. В самом деле, в любом таком классе содержится матрица

/1 и\V0 1)'/1 и\V0 1)'М =5^= 0.М =5^= 0.

/1 и\

V0 1)'

/1 и\

V0 1)'

М =5^= 0.

М =5^= 0.

Сопрягая ее при помощи диагональной матрицы, мы видим, что при а-*0

/а 0 \/1 иХ/а"1 ОХ /1 ОХ

VO а-JU 1J \0 а/ <0 1/

т. е. наш класст. е. наш класссопряженных элементов не замкнут. Теорема 3

т. е. наш класс

т. е. наш класс

доказана.

Происхождение термина «вершина» (cusp) связано с геометрией верхней полуплоскости. Пусть G = SL2(R); положим, как обычно, § = G(K. Пусть Г — дискретная подгруппа группы G. Рассмотрим факторпространство Г\ф. Фундаментальной областью F в § относительно подгруппы Г назовем такое подмножество §>, которое содержит представитель каждой Г-орбиты в § (относительно обычного левого действия) и обладает тем свойством, что если две точки г, z'eF лежат на одной орбите, то они принадлежат границе F. Если r = S£2(Z), то легко доказать, что фундаментальной является область, изображенная на рис. 1 (см. например, Серр [1] или любую книгу по теории эллиптических функций, например мою).

Единственная вершина подгруппы Г = SZ.2(Z) задается стандартной унипотентной подгруппой No. Можно присоединить к пространству Г\§ вершинную точку, задав в нем топологию при помощи системы окрестностей вершины; по определению

базис окрестностей вершины образуют подмножества Г\ф, представители которых принадлежат подмножествам

Fa = U-Viy, — 72<х<72, у>а}

(ср. Шимура [1, гл. 1]). Элемент

w =w =

w =

w =

переводит фундаментальную область в фигуру, изображенную на рис. 2(b), т. е. отражает ее относительно дуги окружности.

11

'22

Рис. 1.

Эта фигура теперь напоминает острие (две ее стороны, примыкающие к вещественной оси, имеют общую вертикальную касательную в точке 0). Это и объясняет происхождение термина вершина (cusp ); лат. cuspis — острие; рог луны).

Как показал Зигель [1], в общем случае, если Г — дискретная подгруппа группы SL2(R), такая, что объем факторпростран- ства Г\§ конечен, то всегда можно построить для Г фундаментальную область F следующего вида. Она является конечным объединением областей Fn:

F=^Fa,

а=0

причем

область FQ компактна и имеет кусочно-аналитическую границу;

существует такое число х0 > 0, что F содержится в полосе — х0 ^ х ^ х0;

существуют (большое) число а и элементы ^ (а = 1, ..., п) группы SL2(R), такие, что Fa = gaFa.

(См. Гельфанд, Граев, Пятецкий-Шапиро [1, гл. 1].) В этой книге нас интересуют в первую очередь вопросы анализа и теории представлений, а не геометрия римановых поверхностей;

Рис. 2.

поэтому мы не включили доказательство этого результата. По поводу других фактов относительно фундаментальных областей и римановых поверхностей см. также статью Петерсона [2]. Мы вернемся к этим вопросам при обсуждении работы Л. Д. Фаддеева в гл. XIV.

Обсудим теперь условия роста, налагаемые на функции в окрестности вершины. Нас будет интересовать, в частности, как преобразуются эти условия при поднятии функций с верхней полуплоскости на группу (ср. § 4 гл. IX).

Рассмотрим сначала частный случай. Пусть Го — группа матриц вида

/1(о

Эта группа есть пересечение SL2(Z) с нашей стандартной унипотентной подгруппой No. Предположим, что функция f на верхней полуплоскости инвариантна относительно Го. Это означает, что

f (2 + 1) = f (2), 2 Е f>.

Предположим также, что f голоморфна на §. Отображение z *—* е2"'2 = qz

комплексно аналитично, и его можно рассматривать как отображение факторпространства Го\^. При фиксированном значении у оно переводит отрезок

— 72<*<7a, у = Уо

в окружность

g—2ny0g2nix

При у-* °° радиус круга уменьшается. Значит, отображение z^-qz задает комплексно аналитический изоморфизм пространства

{z е Го\£; Im z > 5}

(см. рис. 3) на проколотый круг

■ 0 < | q | ^е-2”8.

Пусть f — голоморфная функция на верхней полуплоскости, инвариантная относительно Го. При отображении zi—> q2 эта

Рис. 3.

функция переходит в функцию Г, определенную в проколотой окрестности нуля на плоскости переменной q. Если функция f* имеет полюс в нуле, мы будем говорить, что функция f меро- морфна на бесконечности. Если f* голоморфна в нуле, то мы будем говорить, что f голоморфна на бесконечности. В первом случае имеет место разложение

f (2) = Г (ч) = Z а^,г > 0.

— Г

Если функция f голоморфна в нуле, этот ряд начинается с постоянного члена или с более высоких степеней q. Если у функ-

ции есть полюс, то первый член ряда

arq~r = ате-”«е-'2л1гх, ar =# О,

экспоненциально растет при z/-*oo как е2ягу. Таким образом, условие отсутствия полюса означает, что функция f ограничена на бесконечности, т. е. при у-»-оо.

Рассмотрим теперь функцию Ф на группе, полученную поднятием функции ф, заданной на верхней полуплоскости, т. е. определяемую формулой

ф( q । 1 г (0) I = ф(х + iy)утПе1"19.

Предположим, что функция ф голоморфна на $ и инвариантна относительно Го.

Функция ф голоморфна на бесконечности в том и только в том случае, когда

1Ф(8Жг/”/2 при yg-^«>.

Другими словами, Ф имеет не более чем полиномиальный рост на бесконечности.

Это утверждение немедленно вытекает из нашего предыдущего обсуждения.

Аналогичные соображения применимы и к любой подгруппе группы Г о конечного индекса; любая такая подгруппа состоит из матриц вида

(

1 dn\

О 1? rtGZ)

где d — некоторое фиксированное натуральное число. Вместо единичной полосы в этом случае нужно использовать полосу ширины d. В остальном все рассуждения совершенно аналогичны.

Условия на рост функций в окрестности произвольной вершины сводятся к уже рассмотренному случаю при помощи внутреннего автоморфизма группы SA2(R)-

Параболические формы

Пусть Г —дискретная подгруппа группы G = SZ,2(R); предположим для простоты, что Г имеет лишь конечное число вершин, т. е. что существует лишь конечное число классов Г-со- пряженных унипотентных подгрупп, имеющих с Г нетривиальное пересечение.

Пусть/и —натуральное число. Обозначим символом 3$-(T\G,tn) пространство гладких функций на группе G, удовлетворяющих

следующим условиям (при всех g е G и всех у е Г):

AUT 1.f(gr(6)) = eim6Hg).

AUT 2.f№) = HgV

AUT 3.SEJ = 0.

AUT 4. В каждой вершине функция f имеет не более чем полиномиальный рост.

Третье условие соответствует условию аналитичности на верхней полуплоскости и показывает, что функция f во всяком случае вещественно аналитична на группе G (см. § 4 гл. IX). Четвертое условие означает, что наша функция голоморфна на бесконечности. Условия AUT 1 и AUT 2 можно интерпретировать в терминах процедуры поднятия, определенной в § 4 гл. IX. Эти условия означают, что если функция / = Ф получена из функции ф на верхней полуплоскости при помощи поднятия, то ф (yz) = (cz + йу1 ф (z)

для всех у е Г; здесь

Чтобы избежать перехода к обратной матрице, во многих классических работах действие элемента уеГ записывается справа. При таком соглашении, если

/ а Ь\\с d)’

мы пишем

ф I Мт (2) = ф Ы (CZ + dV"1-,

при этом справедливо правило композиции

[YY'lm = [vk Мк-

Подпространство в ^(Г\С, ш), состоящее из функций f, удовлетворяющих дополнительному условию

j Hng)dn = 0

для любой вершинной подгруппы М группы G, называется пространством голоморфных параболических форм ') и обозначается s£0(T\G, ш). Мы использовали сокращенное обозначение Г^ для подгруппы Г П АГ.

‘) В оригинале: cusp forms. — Прим. ред.

Рассмотрим также пространство G2(r\G) и обозначим символом °L2(F\G) его замкнутое подпространство, порожденное всеми ограниченными непрерывными функциями f, для которых выполнено следующее условие:

CUSP 1.f(ng)dn = О

для всех элементов geG и для всех вершинных подгрупп N. Пусть

л: G^Auti2(F\G)

— унитарное представление правыми сдвигами, т. е. "(s)f(g) = f (gs).

Заметим, что подпространство °Л2(Г\С) инвариантно относительно представления л, поскольку

(л (s) f) (ng) dn =f (ngs) dn = 0.

r^JVr^jV

Заметим также, что если условие CUSP 1 выполнено для одной вершинной подгруппы N, то оно выполняется и для подгруппы уЛ/у-1, у е Г. В самом деле,

vO^y-J-rHyMy-';

таким образом, полагая уЛ/у-1 = М, мы, по предположению, получаем

j f(mg)dm — j /(упу~^)</п =

= 5 f (rtV-,Sf)dn = 0.

Вплоть до конца параграфа мы будем предполагать, чт® Г = SL2(Z), чтобы упростить разложение функций в окрестности вершины (в общем случае необходимо переводить произвольную вершину в стандартную при помощи внутреннего автоморфизма). Таким образом, Го — подгруппа матриц вида

/ 1 п\

(о rtGZ1

Пусть функция Фе^(Г\С, иг) соответствует функции ф на верхней полуплоскости. Из условия AUT 3. вытекает, что функция ф голоморфна на ф, а условие роста Aut 4 показывает, что

функция qp голоморфна на бесконечности, т. е. допускает разложение

Ф*(9)=Еа^".

п=0

где q = e2niz = е-^е2511*. Это разложение представляет собой, по существу, ряд Фурье. Коэффициенты а„ задаются формулой

I

e-i«nyQn = ^ ф (х + iy) e-2ltinx dx;о

в частности,>

1

а0 = ^ ф (х + iy) dx.о

Воспользуемся определением поднятия веса /и:

“(о i )г(6))==ф^ + ^Ут2е‘т •

Получим

Од = \ е-гтеу-"*/2Ф I ( Q J ) r (0))dx =

о

= г(тбгт,^фИt J иг (9) J dx =

,0

= с^))ф((о \)grx’

где С^— некоторое число, зависящее от g. Таким образом, мы получаем следующее условие, эквивалентное первому условию параболичности:

CUSP 2. Пусть Фе^(Г\б, /п) и ф — соответ ствующая функция на верхней полуплоскости. Тогда постоянный член разложения функции ф в окрестности вершины равен нулю в том и только в том случае, когда для всех geG

5ф((о

Разумеется, приведенное условие можно переписать в виде

Ф (ng) dn = 0.

tn\n

Теорема 4. Имеет место включение ^°(Г\С,/п) с°Т2(Г\С).

Доказательство. Пусть ф — функция на §, соответствующая поднятой функции Ф из пространства ^°(Г\д, т). Так как коэффициент а0 ее разложения в окрестности вершины равен нулю, это разложение начинается с члена a1e-2we2"/Jf; следовательно,

| Ф (х + iy) | < е-2”»,

т. е. функция ф экспоненциально убывает при у->оо. функция Ф растет не быстрее, чем ут121 ф (х + iy) |, и, следовательно, ограничена. Так как мера пространства Г\С конечна (если мера подгруппы К равна 1—она совпадает с площадью фундаментальной области группы Г на верхней полуплоскости по мере dxdyhf), то функция Ф квадратично интегрируема, что и требовалось доказать.

В заключение этого параграфа приведем принадлежащую Гекке классическую оценку коэффициентов Фурье параболических форм.

Теорема 5. Пусть / — голоморфная функция на верхней полуплоскости, такая, что

fl [vlm = fПри всех уЕГ.

Предположим, что постоянный член ее разложения в окрестности вершины равен нулю, т. е. что

f4q^=llanq\n=l

Тогда (i) | f(z) | < y-mn npU у-юо,

|a„| = O(n^2).

Доказательство. Из определения оператора [у]т, у е Г, немедленно следует, что функция h (z) = | f (z) | yml2 инвариантна относительно Г. Кроме того, при у -»- оо функция Л (z) стремится к нулю. Следовательно, она ограничена на фундаментальной области группы Г. Тем самым первое утверждение теоремы доказано. Далее, имеем

С г* / х dqД " \ > (^)п+1 >

2ш J q

где интеграл берется по маленькой окружности с центром в нуле на плоскости переменной q. Заметим, что dqjq — lnidx. Следовательно,

1

| ап\ < ^ | f(x + iy') I е-1"^ dx < е^Уу-^ о

при всех у > 0 (мы воспользовались первым утверждением теоремы). Чтобы получить отсюда оценку (ii) для коэффициентов ап, достаточно положить у = 1/и.

Признан компактности операторов

В этом параграфе доказывается несколько абстрактных лемм, которыми мы воспользуемся в следующем параграфе. Приведем один признак компактности операторов.

Теорема 6. Пусть X — локально компактное пространство, снабженное конечной положительной мерой р,. Пусть Н — замкнутое подпространство пространства I? (Т, р) = I? (X), Т — линейное отображение пространства Н в линейное пространство ограниченных непрерывных функций на X. Предположим, что существует такая постоянная С > 0, что

IIП IK СII f Из при всех feH,

где || • || — обычная амр-норма. Тогда оператор

Т; H-*L2^X)

компактен и его можно задать при помощи ядра из пространства L2 (X X X).

Доказательство. Как мы знаем, оператор, который можно задать квадратично интегрируемым ядром, компактен (см. § 3 гл. I). Чтобы доказать существование ядра у нашего оператора, воспользуемся тем, что, по условию теоремы, отображение

f^Tf^, feH,

линейно и непрерывно при всех хеХ, Следовательно, существует такая функция qx е Н, что

Tf (х) = <f, qx') = \f (у) qx (у) dy

при всех f^H. Так как Tf — непрерывная функция на X, это показывает также, что отображение х*—* qx пространства X в Н слабо непрерывно, а значит, и слабо измеримо. Кроме того, образ X в пространстве L^^Xf ограничен. Поэтому наша теорема вытекает из следующей леммы:

Лемма 1. Пусть X, Y — пространства с конечной мерой, причем а-алгебра измеримых подмножеств Y порождается своей счетной подалгеброй. Предположим, что задано слабо измеримое отображение

q’« X^L4Y\

образ которого в пространстве ^(Y) ограничен. Тогда существует такое ядро QeLr^X X Л, что

q*(y)=Qkx, у)

для почти всех хеХ и для всех y^Sx, где Sx— некоторое зависящее от х подмножество Y нулевой меры.

Доказательство. В нашей следующей лемме мы покажем, что функция

xv-*<qx, qx}=\\qx(y)?dy

измерима. Она ограничена, и потому принадлежит пространству V. Пусть g —ступенчатая функция на XXY, постоянная на «прямоугольниках» (т. е. на произведениях измеримых подмножеств из X и Y соответственно). Тогда

| jj g(х, У) qx (у) dy Дх |2 <|| g||2 $ $ | qx (у) |2 Ду Дх

(это обычное неравенство Шварца). Итак, отображение

g*-* 5 §^х, у^Ух^ДуДх

непрерывно в топологии L2. Следовательно, существует ядро QeL^XXY), такое, что для всех характеристических функций <р, ф измеримых подмножеств в пространствах X и Y соответственно справедливо равенство

5 Ф (х) $ ф (у) qx (у) Ду Дх = 5 ф (х) J ф (у) Q (х, у) dy dx.

Для любой функции ф существует такое подмножество Z^ меры нуль в X, что если x^Z^, то

5 Ф (у) Ух (у) Ду = 5 Ф (у) Q (х, у) Ду.

Выберем счетную систему образующих ст-алгебры измеримых подмножеств Y. Существует такое подмножество Z меры нуль в пространстве X, что при хф2 предыдущее соотношение выполняется одновременно для всех характеристических функций этих образующих. Следовательно, при х ^Z

ух(у)=£Ж у)

при всех y^Sx, где S, — некоторое подмножество Y меры нуль. Лемма доказана..

Нам осталось проверить только несложное утверждение об измеримости.

Лемма 2. Пусть Н — сепарабельное гильбертово пространство, X — пространство с мерой. Если отображения f, g: X —>■ Н слабо измеримы, то функция x*—>(f(x), g(x)) измерима.

Доказательство. Пусть {иг} — ортонормированный базис в Н. Рассмотрим разложения Фурье

Цх) = Т,Мх)иЬ g(x) = 'Zgi(x)ui функций f и g. По предположению, все функции fb g( измеримы. Функция

(Ж, gto) = ZfztoiHM есть предел измеримых функций, а потому сама измерима, что и требовалось доказать.

Полная приводимость пространства °£2(r\G)

Пусть Г — SL2(Z), л — представление группы G = SL2(R) в пространстве °£2(Г\С), действующее правыми сдвигами; таким образом,

Л (у) f М = f (ху).

Если ф е С” (G), то

л' (ф) f (х) = $ л (у) f (х) ф (у) dy = ( f (ху) Ф (у) dy.аа

Для простоты мы будем писать л (ф) вместо л1 (ф). Основной результат этого параграфа состоит в следующем:

Теорема 7. Если феС”(О), то существует такое число Сф, что для всех функций /е°£2‘(Г\О) справедлива оценка

1Мф)Л<сф||П12, где || ■ || — обычная ъм^-норма.

Из теоремы 6 предыдущего параграфа вытекает такое

Следствие. Оператор л (ф) компактен.

Пользуясь теоремой 1 § 2 гл. I, мы получаем следующее утверждение:

Теорема 8. Представление л группы G в пространстве °1?(Г\О) вполне приводимо, и каждая неприводимая компонента входит в его разложение с конечной кратностью.

Перейдем к доказательству теоремы 7. Как обычно, мы полагаем Гя = Г f) N. Мы будем пользоваться разложением Ивасавы G = NAK. Имеем

л (Ф) f (х) = j f (у) ф (х-'у) dy = о

= 5 X V (xSyH ^\у) dy = $ /ф (х, у) f (у) dy, rN\a xv=rNrN\G

где

( V I m\ \/Ф(х,^= L ф *у 1.

meZ X X V 1 //

Для краткости обозначим общий член этой суммы ф,1У(/п). Пользуясь формулой суммирования Пуассона, получаем

/Ф(х, у) = Е фх.у(т) = Е ^х.иН-meZmsZ

Итак, оператор л(ф) задается ядром /ф(х, у). Перейдем к оценке этого ядра.

Запишем разложение Ивасавы элемента х е G в виде

таким образом, на верхней полуплоскости G/K х • i = их + iux.

Мы будем писать также х = пхахкх.

Зафиксируем число с > 0 и рассмотрим область Зигеля Fc, которая состоит из всех элементов х еС, таких, что пх принадлежит компактному подмножеству йк группы N и ух">с. При достаточно малом с справедливо разложение

G = VFC.

Проекция области Fc на верхнюю полуплоскость изображена на рис. 4(a). Чтобы оценить л(ф)/(х), мы можем без ограничения общности считать, что xeFc, так как функция f левоинвариантна относительно Г. Заметим, что интеграл j можно г?х° рассматривать как интеграл по фундаментальной области группы Гм; в качестве такой области можно взять прообраз в группе G множества, изображенного на рис. 4(b). Нам нужно оценить ядро /ф (х, у) при х е Fc.

Для удобства мы будем ниже обозначать одной буквой Й различные компактные множества, а индексом внизу указывать пространство, которому принадлежит данное множество;

например, Йо есть компактное подмножество группы G. Все такие множества будут предполагаться фиксированными. Константы в неравенствах зависят от выбора этих множеств.

Заметим сначала, что

если xeFc, то х г й^ажК с ажйа.

В самом деле, перемножая матрицы, легко проверить, что

/1и\/их0\/иж0\/1и'\/и,ижи'\

(о1Д017(о1Д0lAkO 17

и, следовательно, ихи' = и, и' = иххи. Так как их"^с, то отсюда вытекает, что ймах с ах&м, и наше утверждение очевидно.

Пусть <йх = х~‘ах. Тогда

со, = х-1ах е Йо.

Более того, пусть а* = ах' у; мы утверждаем, что если ф(х~'т|с/) =7^ 0 для некоторого цеГ^, то можно считать, что

®х. у е Йо.

Чтобы доказать это, воспользуемся разложением

Левая часть равенства принадлежит компактному множеству; мы уже видели, что элемент х-1ах тоже лежит в компактном множестве. Элементы а.~Нугуах и аххауку принадлежат N и АК соответственно и должны лежать в компактных множествах. Следовательно, ау е ахЙД, у е ЫахйАК. Так как у можно умножить слева на произвольный элемент из подгруппы TN, то наше утверждение теперь очевидно.

Лемма 1. Для любого натурального числа d существует такая постоянная С (ф, d, F^, что

\Чх,у^\^С& d, Fc)v^\^\~d.

Доказательство. По определению,

Фх.у (М= ] ф( I Q 1 I У Iе~^аи du =

С //1 и \\

= \ф1 х-'а.ат1 I n . laaT^ I e~2niKu du = R'

= ) ф I ( 0 ! J Qx<4 у J е~2Л‘ “ dU.

Сделаем замену переменной, положив ау = о~*«, dnD = u~xdu.

Получим

, /1 if ( (—2nZXo„to ja / 11

фх,уW = vx J ф|<М 0 J^Je * a® = Ox<P«>.x.y(OxM,

где //1 u\ \

ф<0. X. у (Ы) ^ Ф I ®Ж I Q ij^x.y J, ^XJ ®x. у ^ ^0-

Эта последняя функция бесконечно дифференцируема по и и зависит от параметров, принадлежащих компактному множеству. Интегрируя по частям d раз, получаем оценку 1фш.х,ЛМ1<С(ф, d, РЖ\-а.

Чтобы вывести отсюда лемму, достаточно заменить X на охХ. Воспользуемся полученным неравенством, чтобы оценить сумму для ядра 7ф(х, у), используя условие параболичности CUSP 1:

f (пу) dn = Oдля почти всех у s G.

Гц\Н

Как мы уже видели, л.^Н^= $ У ^x,y(m)f {y)dy.

Член с m = 0 равен

Ф (х~хпу) f (у) dn dy = ^^ ^ ф (x~inn'y) f (п'у) dndn'dy.

Vn\Q NN\G rN\N N

Так как интеграл инвариантен относительно сдвигов, можно заменить <^х~хпп'у^ на ^^х-хпуУ, таким образом, наше предыдущее выражение равно

dy ^ dn^ ^х^пу)dn'f (п'у) = О,

N\O NГ д\М

поскольку f — параболическая форма.

При m #= О воспользуемся оценкой из леммы 1; получим

l«(q>)fWK У ( у1"4 т-Цд-И^Шу^

У Sctj^l Q

< и1-4 $ I f (У) I dy < Vх-^ (а^ II f ||2, Гм\С

деахйд

в силу неравенства Шварца. Итак, наша теорема доказана.

XIII. НЕПРЕРЫВНЫЙ СПЕКТР

В ПРОСТРАНСТВЕ £2(Г/б)

В этой главе мы изучим ортогональное дополнение пространства параболических форм и получим для него спектральное разложение, следуя работе Годемана [2]. Это доказательство основано на формуле суммирования Пуассона; оно применимо к арифметическим подгруппам Г. Его преимуществом является краткость и простота, однако оно не годится для более общих дискретных подгрупп; поэтому в следующей, последней главе мы вновь рассмотрим этот вопрос, используя другие методы. Спектральное разложение осуществляется при помощи преобразования Эйзенштейна, которое отображает ортогональное дополнение к пространству °L2(r\G) и одномерному пространству констант в пространство L2 на полуоси; при нашей нормировке эта полуось будет верхней частью прямой Re з = 7г-

Для простоты на протяжении всей главы мы будем считать, что r = S£2(Z). Ее максимальная унипотентная подгруппа Гу = Г П W состоит тогда из матриц вида

1О1От1т1meZ.meZ.

1

О

1

О

т

1

т

1

meZ.

meZ.

Факторпространство Г\С имеет конечный объем. Полезно иметь в виду, что с точностью до сомножителя К справа пространство T\G совпадает с пространством Г\£, где § — верхняя полуплоскость, § = GjK.

Одно соотношение ортогональности

Тэта-преобразование

Пусть G = NAK — разложение Ивасавы группы G = S£2(R). В § 2 гл. XI мы уже изучали однородное пространство N\G. Зададим в пространстве R2 правое действие группы G. Стационарная подгруппа единичного вектора е2 = (0, 1) есть в точности N. Таким образом, пространство N\G изоморфно R2 — {0}, т. е. плоскости R2 с удаленным началом координат. Обозначим символом S (^\G) (пространство Шварца на N\G) пространство функций, полученных сужением на Af\G быстро убывающих гладких функций на R2. Таким образом, можно отождествить S (/v\G)

Так как интеграл инвариантен относительно сдвигов, можно заменить ф ^х-'пп'у^ на ф(х-1ш/); таким образом, наше предыдущее выражение равно

dy ^dncp ^х^пу1) ^ dn'f (п'у) = О, N\G NГ д\М

поскольку f — параболическая форма.

При m #= 0 воспользуемся оценкой из леммы 1; получим

yeaxQ0

Гм\Сyea^Q

в силу неравенства Шварца. Итак, наша теорема доказана.

XIII. НЕПРЕРЫВНЫЙ СПЕКТРВ ПРОСТРАНСТВЕ КФ16)

В этой главе мы изучим ортогональное дополнение пространства параболических форм и получим для него спектральное разложение, следуя работе Годемана [2]. Это доказательство основано на формуле суммирования Пуассона; оно применимо к арифметическим подгруппам Г. Его преимуществом является краткость и простота, однако оно не годится для более общих дискретных подгрупп; поэтому в следующей, последней главе мы вновь рассмотрим этот вопрос, используя другие методы. Спектральное разложение осуществляется при помощи преобразования Эйзенштейна, которое отображает ортогональное дополнение к пространству %2(Г\б) и одномерному пространству констант в пространство L2 на полуоси; при нашей нормировке эта полуось будет верхней частью прямой Re з = Ч2-

Для простоты на протяжении всей главы мы будем считать, что r = SL2(Z). Ее максимальная унипотентная подгруппа Гу = Г П N состоит тогда из матриц вида

т\

О J'

Факторпространство Г\С имеет конечный объем. Полезно иметь в виду, что с точностью до сомножителя К справа пространство Г\б совпадает с пространством Г\§, где § — верхняя полуплоскость, § = G/K.

Одно соотношение ортогональности

Тэта-преобразование

Пусть G = NЛК — разложение Ивасавы группы G = SZ.2(R). В § 2 гл. XI мы уже изучали однородное пространство N\G. Зададим в пространстве R2 правое действие группы G. Стационарная подгруппа единичного вектора е2 = (0, 1) есть в точности N. Таким образом, пространство N\G изоморфно R2 — {0}, т. е. плоскости R2 с удаленным началом координат. Обозначим символом S (V\G) (пространство Шварца на Af\G) пространство функций, полученных сужением на #\G быстро убывающих гладких функций на R2. Таким образом, можно отождествить S (W\G)

и S (R2) (по поводу определения пространства Шварца см. Ленг [1]')).

Определим тэта-преобразование, переводящее функции на N\G в функции на Г\О, положив

Тц>^= У ф(ух)

глЛг

(ряд в правой части называется тэта-рядом). Преобразование определено только для тех функций, для которых этот ряд абсолютно сходится. Рассмотрим условия его сходимости. Если

/ а Ь\

Y kc dj

то е2у = (0, 1) у = (с, dy Если у е Г, то ad — be = 1, (с, d') — примитивный целочисленный вектор, т. е. числа с, d взаимно просты. Обратно, любую пару (с, d) взаимно простых чисел можно дополнить до 2 X 2-матрицы из группы SL2(Z). Таким образом, множество смежных классов Г^Г находится во взаимно однозначном соответствии с множеством примитивных векторов т = (ть т2) решетки Z2.

Если <р — функция на N\G, обозначим символом ф [ • ] соответствующую функцию на R2. Тогда

Тф(у) = Е ф(уу) = Е ф[ту]= Е ф[(сГм\Г{с, d)—I

m prtm

Ясно, что если функция ф принадлежит пространству Шварца и, следовательно, быстро убывает на бесконечности, то этот ряд сходится.

Пусть ф — функция на N\G с компактным носителем. Тоеда при любом у ^G ряд

Т^{у}= Е ф(¥У)

содержит только конечное число ненулевых членов.

Доказательство. Пусть й — компактный носитель функции ф. Если ф(уу) ^ 0, то у у е й. Существует элемент у' е Г^, такой, что у'уг/ е й^й, где й^ — фиксированное компактное подмножество группы N. Следовательно, у'уей^йу-1, и наше утверждение доказано.

Ясно, что если феСс(#\С), то функция Пр непрерывна на Г\С.

') См. также любой kv^c функционального анализа, например Иосида [1].— Прим, перев.

Если q^Cc(N\G), то функция Тф ижет компактный носитель.

Доказательство. Пусть Q — компактное подмножество группы G, такое, что носитель функции ф содержится в множестве N\NQ. Если ф(уу)#=О, то у у е NQ. Существует элемент y'eFv, такой, что у'уу eQ^Q, где Qy — фиксированное компактное подмножество группы N. Следовательно, у е rQo, где й0 — компактное подмножество группы G, что и требовалось показать.

Из доказанных утверждений ясно, что тэта-преобразование можно рассматривать как отображение

Т: Сст->Сс(Г\О).

Так как группа Г содержит матрицу — 1, то сумма по примитивным элементам решетки Z2 симметрична относительно начала координат. Представим функцию ф в виде суммы четной и нечетной функций на R2 — {0}; ясно, что если ф нечетна, т0 Тф = 0. Итак, в дальнейшем при рассмотрении тэта-преобразования можно без потери общности предполагать, что функция ф четна, т. е. ф(х) = ф(— х).

Сопряженный оператор к тэта-преобразованню

Рассмотрим отображение Т°, сопоетавляющее функциям- на Г\О функции на N\G и действующее по формуле

ТЧ (у)^ ^ f (пу) dn.

rN\N

Таким образом, оператор Т6 задается интегралом, участвовавшим в определении параболических форм. В каждой конкретной ситуации мы всегда будем указывать, в каком функциональном пространстве рассматривается этот оператор. Обычна это будет Е2(Г\(?), и тогда подпространство параболических форм °L2(r\G) совпадает с ядром оператора Т°.

Отображения Т и Т° являются сопряженными. Другими словами, если выполнены условия абсолютной сходимости, то

(^Ф» ЬГ\о = ^’ ^Ьмхо'

где скалярное произведение определяется при помощи обычного интеграла.

Замечание. Приведенное соотношение справедливо для любой пары замкнутых подгрупп Г и ^ группы G. По существу, оно- представляет собой абстрактное соотношение, пригодное для

любой локально компактной группы и двух ее замкнутых подгрупп. В частности, не используется дискретность Г. Сначала мы проведем формальное вычисление, не уточняя условий сходимости интегралов. Меры на группах и факторпространствах нормируются согласованно, в соответствии с последовательностью групп

/N\

\ Г х Имеем

(Гф, /)г\о = $ Тф(у)Цу)ду =

г\о

= J J Ф (УУ) Ну) dy dy = J ^ky)W)dy — Г\О Гу\Гrw\G

= 5 5 Ф (пуШпу) ^ dy =

N\O Tn\N

= $ Ф (у) j / (ny) dn dy = (ф, 1°!)^. N\a tn\n

Теорема 1.

Приведенное соотношение справедливо для f г L2 (Г\О) ы Ф s Сс (N\G).

Функция Тф ортогональна подпространству °L2(T\G).

Если f е L2 (Г\О) и функция f ортогональна всем функциям вида T^, ^eCc(N\G), то f e°L2(T\G).

Пусть ф— преобразование Фурье функции ф, рассматриваемой как функция на R. Тогда ф [0] = 0 в том и только в том случае, когда функция Тер ортогональна константам на Г\О.

Доказательство. Все эти утверждения немедленно следуют из соотношения (1). Напомним, что преобразование Фурье функции на R2 задается формулой

ФМ= ^фИе-2^*^.R’

Правоинвариантная мера на однородном пространстве N\G совпадает с мерой Лебега на R2, поэтому

ф[0]= ^ ф(у)йу.

Ы\Й

Условие ф [0] = 0 эквивалентно тому, что

О = (ф> 0^О = ^Ф> ^O^G ~ ^Ф> 0г\6‘

Таким образом, функция Тф ортогональна константам на Г\бф

Ряды Эйзенштейна

Для любой функции ф на N\G и для любого числа s, для которых написанный ниже интеграл сходится, определим дзета- преобразование формулой

Z (ф; у, 2s) = ф(ау)р(а)-^ da — ^ ф (hay) a-2s-^-.АО

Мы используем наши обычные обозначения, т. е.

р((оoeR+’

и / а 0 \

Ла = 1о а-1)"

Если ф е S (Af\G) ы о = Re s > 0, то интеграл, определяющий дзета-преобразование, абсолютно сходится.

Доказательство. Заменим функцию ф ее правым сдвигом на элемент у и будем рассматривать ф как функцию на R2. Тогда наш интеграл примет вид

J Н(0, а-^а-2^. о

Сделаем замену переменной а*-*а-х и воспользуемся инвариантностью меры daja при этом преобразовании. Теперь сходимость интеграла очевидна.

Прежде чем переходить к другим признакам сходимости, заметим, что функция г(ф) удовлетворяет функциональным уравнениям

Z(ф; пу, 2s) = Z(ф; у, 2s),ns N,

Z(ф; ay, 2s) —2(ф; у, 2s) р (a)2*,. as А,

т. е. принадлежит пространству индуцированного представления И (2s — 1). Если функция f на группе G удовлетворяет условиям

f (пу) = f (у),f(ay) = f(y)p(a)2s.

то будем говорить, что она имеет тип 2s. Мы воспользуемся понятием типа при доказательстве теоремы 3 в § 7.

Изучим теперь аналитические свойства дзета-преобразования при различных условиях на функцию ф.

Лемма 1. Если ф е Cc(N\G), то Z (ф; у, 2s) — целая функция переменной s.

Это утверждение практически очевидно, так как подынтегральное выражение не имеет особенностей ни в нуле, ни на

бесконечности. Мы уже встречались с такой ситуацией в § 3 гл. V.

Лемма 2. Для любой функции ф е S (JV\G) ряд Эйзенштейна

Е (ф; у, s) = 2] Z (ф; уу, 2s) = 7Z (ф; у, 2s)

Гд,\Г

абсолютно сходится при Res> 1.

Доказательство. Функцию ф можно заменить ее правым сдвигом на элемент у г G; поэтому достаточно доказать утверждение леммы при у — е, т. е. рассматривать сумму

£ Z(V; у, 2s).

Но если

/ * * \

то

2(ф; Y. 2«)=5 T^aY] a-2s-^ = О

= j ф[(с/с, d{a^a-'2s-^-= J ф[(ас, ad)]a's-^-. оо

Пусть m = (с, d) пробегает все пары взаимно простых целых чисел (или даже все пары целых чисел). Разобьем сумму по всем таким т, просуммировав сначала по тем точкам, которые лежат в кольце радиуса п и ширины 1 (например, по отношению к обычной евклидовой норме). Пусть m — точка из этого кольца, m е Z2. Мы хотим оценить соответствующий ей член ряда. Выберем число С, такое, что если geR2 и | g | > С, то I Ф В] I <С 1/| g |2о+е. Разобьем наш интеграл на два слагаемых:

.С1П ОО

• о cm

Первый интеграл не превосходит ст t | ф [ат] | a"0-1 da < а2а £/п < -^-.

Второй интеграл не превосходит

5 | ф М la20"1 da < J -——da < стст

Число точек решетки в нашем кольце по порядку величины не превосходит п. Таким образом, сумма по всем этим точкам не превосходит 1/п°. Суммирование по п завершает доказательство леммы.

Аналитическое продолжение и функциональноеуравнение

Пусть ф eS [N\G] = 5 (R2). Будем рассматривать ф как функцию на R2; ее обычное преобразование Фурье задается формулой

Ф М = J Ф И е~2^ d^

R=

где d£ —мера Лебега. Тогда ф = ф-, где ф— [2] =ф [— 2]. (По поводу преобразования Фурье и связанных с ним элементарных вопросов см. Ленг [1].)

Для произвольного элемента y^G положим ^ = <у~1. Замена переменных показывает, что преобразованием Фурье функции

^фМ

служит функцияслужит функция^ф^а-'^а-3.^ф^а-'^а-3.

служит функция

служит функция

^ф^а-'^а-3.

^ф^а-'^а-3.

Поэтому из формулы суммирования Пуассона следует, что

(1)£ ^\пгау\ = £ ^Ima-^a-2.

m s Z3m e Z2

Мы воспользуемся этим соотношением при доказательстве следующей теоремы.

Заметим, что если ф е Cc^N\G), то ф [0] = 0. Отсюда, конечно, не следует, что ф[0]=0. В некоторых приложениях следующей теоремы мы будем иметь дело с функциями ф е Cc(N\G); однако нам нужно, чтобы эта теорема была применима и к функции ф.

Теорема 2. Пусть ср eS (N\G) — четная функция-, предположим, что ф [0] = ф [0] = 0. Положим

Е1^ у, s) = ^2s)E(^, у, s).

Тогда Е* — целая функция переменной s, и справедливо функциональное уравнение

Е* (ф; у, s) = Е* (ф; #, 1 — s).

Доказательство. По определению,

Z (ф; у, 2s) = ф <hoy) а-25 ^_.

о

Пусть

/ * * \Y=U d)-

Тогда

Z (ф; уу, 2s) — ^ ф [(ас, ad) у\ a2s ^- = ф [may] Qis Е±оо

и

Е (ф; у, s) = ^ S Ф l^yl a2s m е Z\ 0 m prim

Умножим обе части этого равенства на g (2s) и воспользуемся формулой

Получим

^(25)£(ф; у, $) = £ £ ф [may] (a/n)2s^ = п— 1 tn prim О

= ^ £ ф[тау]а2$ ~ =

О tn eZ1

ООI

= ^ ^ ф [may] а25 ~ + £ ф [may] a2s -^- =

1 mОт

СЮ]

= j .^ ф [may] a2s-^ + J ^ ф [та-^а2®-2-^-^

I m0 m

= ( У Ф [may] a2s -^- + f У ф [ma£]a2~2s ^-\

1т1т

на последнем шаге мы сделали во втором интеграле замену переменной at—>а~‘. Каждый из двух последних интегралов является целой функцией от s, и их сумма инвариантна относительно преобразования

(ф, у, 5)н^(ф, д, 1 — s).

(Мы воспользовались тем, что ф = ф- и ф~ = ф, так как, по предположению, ф — четная функция.) Теорема доказана.

Положим, по определению,

ф(у) = ф[е2У]=ф[е2угу],

где, как обычно,

/ ° 1\

1 07‘

Заметим, что wyw-1 = g. Кроме того, отображение m*—*mw переводит решетку Z2 в себя. Поэтому

У ф[/пау]= У ф[тш^ш_1аш]= У ф [тау]. т s Z2т s Z2т s Z8

Отсюда получаем

Следствие.

Е* (ф; у, s) = Е* (ф; у, 1 — s).

Преимуществом этой записи является то, что аргумент у одинаковый в обеих частях формулы.

Дзета-преобразование и преобразование Меллина

Пусть / — гладкая быстро убывающая функция на R. В гл. V мы уже рассматривали преобразование Меллина

Aff (2s) = [/(«)о

для функций с компактным носителем, не содержащим точки 0. В этом случае функция Mt — целая. Для f е S (R) написанный интеграл абсолютно сходится в полуплоскости Re s > 0. Кроме того, интеграл

сходится при всех комплексных s и определяет целую функцию. Возможные полюсы преобразования Меллина связаны с поведением функции f в окрестности нуля.

Лемма 1. Если feS(R) и Н^ = ^ то Mf (2s) — мероморфная функция переменной s, которая имеет разве лишь простые полюсы в точках

_112

2.,2 .... .

Доказательство. Так как, по предположению, / (0) = 0, то f(a) = af1(a), где Л— гладкая функция. Интегрирование п® частям в интеграле

1

\tWs^-==\tW8~'(ia оо

приводит к выражению

о

Последовательное интегрирование по частям завершает доказательство.

формулойформулойНа) = ф[(0, а) у],На) = ф[(0, а) у],Применим доказанную лемму к функции t> которая задается

формулой

формулой

На) = ф[(0, а) у],

На) = ф[(0, а) у],

где Ф е СГ ДО) = С” (R9 - {0}), y^G.E этом случае функция Mf(2s) = Z(v; у, 2s) —целая. Однако, если перейти к преобразованию Фурье, то носитель функции ф не обязательно отделен

от нуля. Тем не менее наша лемма по-прежнему применима к функции

2(ф; У, 2s) = Mf (2s), где ^(д) = ф[(0, a)yw],

если предположить, что ф [0] = 0.

Рассмотрим функцию g, определенную в полосе

<Jo ^ <J = Res ^ Ор

Будем говорить, что эта функция быстро убывает на каждой вертикальной прямой равномерно в полосе, если для любого натурального числа d существует такая постоянная С, что

Ig^ + ZT)^^

для всех a+Zr из нашей полосы. (Мы пишем 2d, чтобы показатель степени был четным и оценка имела смысл при любом знаке т.) Мы будем рассматривать также функции, которые имеют в полосе конечное число полюсов и для которых приведенная оценка справедлива в полосе с удаленными окрестностями этих полюсов.

Лемма 2. Пусть feS(R); предположим, что f(0) = 0. Тогда функция Mf(2s) быстро убывает на любой вертикальной прямой равномерно в каждой полосе Од^а^ор за исключением окрестности полюсов.

Доказательство. Предположим сначала, что Re s > 0. Для любого целого п > 0 мы получаем, после интегрирования по частям,

(2s + 1) (2s + 2) ... (2s + п) Mt (2s) = Mf(n) (2s + n),

где f№ есть п-я производная функции f. Это выражение ограничено. Следовательно, функция Mf убывает быстрее любой степени. По принципу аналитического продолжения, это справедливо при всех s, за исключением окрестности полюсов. Действительно, если s — точка полосы, всегда можно выбрать столь большое п, что Re s + п > 0.

В гл. V мы уже видели, что замена переменных превращает преобразование Меллина в преобразование Фурье. Имеет место следующая

9 Зак. 589

Лемма. 3. Пусть а ~ Re s > 1. Предположим, что функции f, g на полуоси таковы,, что функции f(a)a2s~2 и g^a-25 принадлежат пространству I? (r+; ~) П L1 (r+; -^) . Тогда,

$ Ha}I^}a"2^= [ f(a)a^-2^J^^ = 0о

= i $ Mf (2s-2) Mi (-2s) ds.

Re s—e

(На вертикальной прямой ds = idx, поэтому мера i~l ds вещественна.}

Доказательство. Положим а2 = вй; таким образом, a = ebR.

Пусть s = в + it. Положим

/1 (6) = / ^еь «t-о, gv (b) = g(eb^ e~K

Тогда f h gt s L2 (R) f) L1 (R), и применима обычная формула Планшереля:

<fb 5i) = (L ^i).

В этом доказательстве мы пользуемся следующей нормировкой преобразования Фурье:

fjx)--^ hWe-^db,

и аналогично для §v В терминах преобразования Меллина это означает, что

^(т) = ^М/(25-2), gx^ = ^-Mgk-2s\

Следовательно, скалярное произведение функций ^ и ^, равно

t J^WITW^^^- J Mf(2s--2)M^(-2s)ds, — ooRes-a

что и требовалось доказать.

Предостережение. При переходе от преобразования Меллина к дзета-преобразованию нужно внимательно следить за знаками. Если 0 — функция на N\G и f (а) = 8 Цгоу\ то

Mt (2s) = ^8 И а^^=г (8; у, - 2s). О

Некоторые теоретико-групповые леммы

Двойные смежные классы

Как и прежде, мы полагаем Гу = Г П N. Представим группу Г в виде объединения двойных смежных классов:

Г = U ГуугГу.i

Если Гуу,Гу^=±Гу, то элементы {угл}> Л^Гу, образуют систему представителей множества правых смежных классов, принадлежащих двойному классу Гуу(Гу; другими словами, множество Гуу(Гу представляется в виде объединения правых смежных классов:

Гуу<Гу = J Гуугт|-

ПеГу

Доказательство. Если л=/=Лг, Л, Л's Гу, то ГуУМт^ГуУгл'. Действительно, в противном случае нашелся бы такой элемент Л^Гу, что Л1У;Л = У/Л/ и> следовательно,

уг^^^п'л-1 ег№

откуда уг е ± Гу.

Немедленно проверяется также, что множества ГууГу и — ГууГу различны при всех у е Г; таким образом, двойные смежные классы разбиваются на пары.

Разложение Брюа

Напомним кратко разложение Брюа, которое было подробно изучено в § 2 гл. XI.

Группа G допускает однозначное разложение

G = ± NA (J ± NAwN, где

Доказательство основано на изучении пространства N\G, которое естественно вкладывается в R, так как стационарная подгруппа точки е2 = (0, 1) е R2 совпадает с N. Запишем элемент у е NAwN в виде

у = n'yhywn'y •;

это разложение однозначно, и элемент hv ееть А-компонента матрицы у в разложении Брюа.

Заметим, что если

1 u'XfXjc 0\/0 -IV1

0 1 сЛ 1 оЛо 1 /’

то

У =У =где с = с^*где с = с^*

У =

У =

где с = с^*

где с = с^*

Следовательно,

''•“I о =№)■

Выражение для функции Т»Т<р

Пусть <р е Cq(N\Qy, предположим, что функция ф четна, т. в. Ф (V = Ф (—^^ Обозначим символом (у) нетривиальные пары двойных смежных классов’.

(у) = ± Г^уГ^^ ± Г^.

Пусть hy есть A-компонента разложения Брюа матрицы у.

Рассмотрим функцию

Т°Тф(г/)= У q>^ny)dn.

W г^\г

В предыдущем параграфе мы установили связь между множеством представителей правых смежных классов из пространства Г^Г и множеством представителей двойных смежных классов по подгруппе Г^. В написанной выше сумме член, соответствующий смежному классу матрицы ± 1, дает вклад

Таким образом,

4 Т°Тф (у) = ф (у) + У ^ ф (улу) dn =

(V) N

= ф(у) + У 5 Ф (hywn'yny) dn =

tv) N

= Ф (У) + У $ Ф (h^wny") dn =

(V) N

^ф^ + у $ <p(®/i7'm/)dn =

(у) iv

г / / 1 uc2 X / cv О X X

-фЮ + ЕНЧо 1 До nJ!lru-

Iy) RY

После замены переменных получаем

(1)(1)(3)(3)Сумма £ с (у) 2 Римана. Положим(2)Сумма £ с (у) 2 Римана. Положим(2)2 ТйТф (у) — Ф (у) + У с (у)-2 ^ ф (wnh^ *у) dn.(v) ы

(1)

(1)

(3)

(3)

Сумма £ с (у) 2 Римана. Положим

(2)

Сумма £ с (у) 2 Римана. Положим

(2)

следующим образом связана с ^-функцией

*—* с (у)2®

тогда имеет местотогда имеет место(v)

тогда имеет место

тогда имеет место

тождество

р (А _ V * ("О _ С (2s — 1)m2s g (2s)

где ф — функция Эйлера. Чтобы доказать это, заметим, что каждая пара (с, d) взаимно простых целых чисел (с > О, О ^ d < с) соответствует в точности одной паре двойных смежных классов; это ясно из формул

и

/а ° / 1 m ) / ** X

\ с d ) \ 0 1 / \ с d + тс / ’

Отсюда следует, что F (s) = X Ф ^.т^т?5.

С другой стороны, пусть f — функция на множестве положительных целых чисел, такая, что f (m) = m, и р — функция Мёбиуса; тогда свертка

(ц » f) (т) = £ Ц № f (m/d)d | m

переводит f в функцию Эйлера, т. е. p.*t = ^. Так как

отсюда вытекает наше выражение для F (s) через дзета-функцию, поскольку умножение рядов Дирихле соответствует свертке их коэффициентов.

Замечание. Функция Мёбиуса, функция Эйлера и функция f мультипликативны. При вычислении сверток таких функций достаточно проверять формулы только для степеней простых чисел, а в этом случае проверка не представляет труда. Далее, функция Мёбиуса и постоянная функция, равная единице, взаимно обратны относительно свертки; таким образом,

_ у и (т)$ (2s) m?s

Пользуясь этими замечаниями, читатель может легко проверить соотношение / = ^*1, нужное для доказательства формулы (3).

Аналитическое продолжение дзета-преобразования функции Т°Тф

Мы собираемся исследовать функцию Z (T’Qyqp; у, 2s). Начнем с некоторых замечаний о функциях вида Z(T°9; у, 2s), где не обязательно 9 = Пр.

Будем рассматривать оператор Iй как отображение

Т0-. Cc(T\G)-+BC(N\G),

т. е. как отображение в пространство ограниченных непрерывных функций.

Лемма 1. Если 6еСс(Г\б), то Тйй^кау^ = й при достаточно больших а.

Доказательство. По определению,

N№ = $ 9(nhay^dn.

rNW

При а-»-<х> элемент nha стремится к бесконечности (т. е. при достаточно больших а этот элемент попадает в дополнение лю-

бого наперед заданного компактного подмножества). Таким образом, подынтегральное выражение равно нулю при достаточно больших а; лемма доказана.

Лемма 2. Интеграл

г (Гб; у, 2 - 2s) = $ ГО (А„у)^-

о

абсолютно сходится при Res> 1.

Доказательство. В силу леммы 1 интеграл в действительности берется по компактному промежутку; поэтому можно оценить его сходящимся интегралом

daс^21_ |S .а 2<т — 2*

лемма доказана.

Теорема 3. Пусть ф е С” (jV\G) — четная функция-, предположим, что ф[0] = ф[0] = 0. Тогда при Res>l справедливо равенство

1г(ГТф; у, 2-2s) = Z(V; у, 2 -2s) +-^ -*0 2(ф; у, .2 -2s).

Правая часть этого равенства — мероморфная функция на всей плоскости-, таким образом, она дает аналитическое продолжение левой части. Эта функция голоморфна при Re s ^ у2-

Для доказательства этой теоремы мы проведем ряд вычислений и преобразований, итогом которых будут приведенные ниже соотношения (1), (2) и (3). Мы будем пользоваться следующими обозначениями.

Пусть Res> 1; A-компоненту разложения Брюа элемента у будем обозначать h^. Если а — положительное вещест венное число, то соответствующую матрицу из подгруппы А мы обозначаем he:

(а 0 \

Аа = (0 Q-x)' а=аф).

Это не может привести к недоразумениям, так как а и у принадлежат различным множествам.

Применим дзета-преобразование к соотношению, полученному в предыдущем параграфе. Пользуясь леммой 2, мы получаем для произвольной функции <р е Cc(N\G):

Z (Г0^; у, 2 - 2s) = у J TQT<9 (hy) a Ws~" dh =

А

= Z (ф; у, 2 — 2s) + ^ с (у)-2 j j Ф (ш/гй^1^) а М^$-г dn dh.(V)N А

Сделаем во втором члене замену переменной hv-^-h^h (заметим, что а(Л7)==с(у)-1). Он примет следующий вид:

^ с (у) 25 ^ ^ ф (wnhy) a (hYs 2 dndh =

$) Н А

= F (s) ^ ^ ф (whny) a (hYs dn dh =

N A

= F (s) ^ ^ ф (h’^ny) a (/i)2s dn dh ==

N A

= F (s) ^ ^ ф (hwny) a Oif18 dn dh.

N A

Таким образом, мы доказали формулу

(1)(1)-| Z<Т°Т^ у, 2—2s) = Z (ф; у, 2—2s)+F (s) J Z(V; wny, 2s)dn,

(1)

(1)

N

справедливую в полуплоскости Res> 1 для всех ф е Cc(N\G).

Заметим, что функции ZtP^; у, 2 —2s) и Z^; у, 2 — 2s) имеют тип 2 —2s; таким образом, второе слагаемое в правой части формулы (1) имеет тот же тип по крайней мере при Res>l. Мы получим сейчас, используя другой подход, аналитическое продолжение этого слагаемого. Нашей целью является доказательство приведенной ниже формулы (2).

Как мы видели, в полуплоскости Res> 1 справедлива формула

Е (ф; и, s) = 7Z^; у, 2s) = 2 Z (ф; уу, 2s).

Пу\г

Следовательно,

РТТ,^; у, 2s) = ^^ Z (ф; yny, 2s) dn.

W г„\г

Как и выше, разобьем сумму по двойным смежным классам на две части, разделив вклады от тривиального и нетривиальных классов. Получим

Д7°72(ф; у, 2s) = Z^; у, 2s) 4- ^ ^Х(ф; ^ny, 2s)dn = (V) N

= Z (ф; у, 2s) 4- ^ ^ Z (ф$ h^wn^ny, 2s) dn —

(V) W

= Z(ф; у, 2s) 4- ^ ^ Z^; h^wny, 2s) dn.

(V) M

Воспользуемся тем, что функция г(ф; у, 2s) имеет тип 2s:

Z (ф; h^wny) = с (y)'2s Z (ф, wny).

После этогр сумма по двойным смежным классам легко вычисляется, и формула принимает следующий вид:

(2)(2)4 T°TZ (Ф; у, 2s) = Z (Ф; у, 2s) + F (s) J Z (Ф; wny, 2s) dn. N

(2)

(2)

Докажем теперь соотношение, которое заканчивает доказательство теоремы 3: при Res> 1

(3)(3)У7 (s) Z (ф; wny, 2s) dn =Z (ф; у, 2 — 2s).

(3)

(3)

N

Доказательство. Кроме уже известных нам фактов об аналитическом продолжении рядов Эйзенштейна, необходимо будет дополнительно исследовать тип функций, входящих в эту формулу.

Умножим обе части формулы (2) на С (2s) и положим

£(ф; у, 2s) = у $ (2s) 7°rZ (ф; у, 2s).

Из результатов § 3 об аналитическом продолжении рядов Эйзенштейна следует, что L (ф; у, 2s) — целая функция, инвариантная относительно преобразования

(ф, s) »-> (ф, 1 — з)

(см. следствие из теоремы 2).

Выражение

L (ф; у, 2s) — J (2s) Z (ф; у, 2s)

равно последнему члену в формуле (2), умноженному на £(2s). Это выражение мероморфно и, в силу формулы (1) и принципа аналитического продолжения, имеет тип 2 — 2s при всех комплексных s. Сделаем преобразование (ф, s) н-> (ф, 1 — s). Из сказанного ясно, что функция

L (ф; у, 2 — 2s) — £ (2 — 2s) Z (ф; у, 2 — 2s)

имеет тип 2s. Непосредственно из определения мы знаем, что функция Z (ф; у, 2 — 2s) имеет тип 2 — 2s. В силу результатов § 4 эта функция мероморфна. Получаем

Д (ф; у, 2 — 2s) — £ (2 — 2s)Z (ф; у, 2-2s) =

= L (ф; у, 2s) — £ (2 — 2s) Z (ф, у, 2 — 2s).

Другими словами, левая часть формулы (2), умноженная на (2s), равна

L (ф; у, 2s) = £ (2 — 2s) Z (ф; у, 2 — 2s) + члены типа 2s.

Поскольку такое разложение в сумму членов типа 2s и 2 — 2s однозначно, отсюда следует, что члены типа 2 — 2s в обеих частях формулы равны, а это как раз и есть соотношение (3). Доказательство теоремы 3 закончено.

Теорема 4. Пусть ф е С” <N\G\ и предположим, что ф [0] =0. Тогда функция

ТДТП^, у, 2-2s)

мероморфна и не имеет полюсов в полуплоскости Re s ^ */2. Эта функция, а также функция

Z (ф; у, 2 — 2s)

быстро убывает на любой вертикальной прямой в полуплоскости Res ^*/9 равномерно в любой полосе конечной ширины.

Доказательство. Дзета-функция Римана g(2s) не имеет нулей при Re2s^l или, иначе говоря, при Res^’/a. Поэтому знаменатель £(2s) в теореме 3 не приводит к появлению особенностей в рассматриваемой области. Быстрое убывание на вертикальных прямых вытекает из леммы 2 § 4.

Мы воспользуемся теоремами 3 и 4 при выводе теоремы разложения. Для доказательства этой теоремы необходимо сместить контур интегрирования в формуле Планшереля из леммы 3 § 4 на прямую Res = 72. Теоремы 3 и 4 как раз и позволяют это сделать, так как из них следует, что подынтегральная функция антиголоморфна по s и быстро убывает при Im s —> оо.

Заметим, что если Re 8 = 0 = 72, то 1—s = s; таким образом, формула в теореме 3 принимает вид

У2^0^ у, 2s) =Z(?; у, 2s) + j^Z(«p; у, 2s).

§ 8. Теорема разложения

Пусть f — функция типа 2s на группе G. Тогда f определяется своим сужением на подгруппу К в разложении G = NAK. Поэтому такую функцию можно рассматривать только на /С; ее сужение на подгруппу К мы будем обозначать той же буквой, опуская переменную у е G. I? норму на К будем обозначать ||-|1к; по определению,

«/6—$1/(^)PdA.

к

Мы будем пользоваться аналогичным обозначением для /Анормы и скалярного произведения на любой другой группе или однородном пространстве.

Как мы знаем из теоремы 1 § 1, тэта-преобразование переводит пространство С” (N\G) в ортогональное дополнение пространства параболических форм; кроме того, из дополнительного условия ф [0] = 0 вытекает, что функция Т<р ортогональна постоянным. Сейчас мы докажем, что коядро тэта-преобразова- иия этим и исчерпывается. Это будет вытекать из соотношения полноты.

Теорема 5. Пусть ф, ф ® С” ^N\G^ — четные функции, такие, что

Ф [0] = ф [0] = 0.

Тогда

(Гф, Гф)па™^- $ (гС^Тф; 2s), Z№; 2s^Kds.

Res-41

Ims>0

Доказательство. Формальное вычисление, предпосланное теореме 1 § 1, в данном случае оправдано и дает

<Т^ Тф)г^ = <Т0Тф, ф)^» $ T^^Wdy^

N\G

= 5 5 ^^Ф ^й^ Ф ^а^ Р ^~2 ^а ^*

К А

Воспользовавшись выражением для формулы Планшереля, которое было получено в лемме 3 § 4, преобразуем это скалярное произведение к виду

<ТФ, Т-ф>гдо == ^F J Х(Г°ТФ$ А, 2-23)Х(ф; k, ^dsdh.

К Re s—а,

Внутренний интеграл в этой формуле берется по вертикальной прямой Re s=a0 с некоторым о0>1. Как мы уже отмечали, по теореме 4 из предыдущего параграфа контур интегрирования можно сместить на прямую <т = 7г» поскольку подынтегральная функция антиголоморфна и быстро убывает в полосе между прямыми ст— 7г и <т = о0> 1.

С другой стороны, при Re s > 1

Е(ф; 3) = Т2(ф; 23).

Пользуясь формальным выражением для сопряженного оператора К тэта-преобразованию, получаем

(Т<р, Е(ф; 3))по = (7ф, Т7(ф; 23))ПО =

= №, Х(ф; 2s^nxg =

= ^ Т°Тф (аб) Z (ф; ak, 2s) р (a)-2 da dk. К А

Ясно, что в рассматриваемом случае проведенные выкладки корректны. Так как функция Х(ф; у, 2s) имеет тип 23, последнее выражение равно

^(Т^ф; к, 2 —2$)Х(ф; к, 2s) dk.

К

Это равенство доказано первоначально при Res>l, но по принципу аналитического продолжения оно справедливо вплоть до прямой Re s = 72- Умножим обе части этого соотношения на £(23). При Res=72 имеем 1 — s = S. Поэтому, вспоминая наше определение

£*№ s) = £ (2s) Е (ф; я),

мы получаем при Re s = 7г

(Тф, Е* (ф; 3))Гу0 = J Z (Т^ф; к, 23) £ (23) Х(ф; к, 2s) dk.

Из инвариантности функции Е* относительно преобразования (ф, s)i—>(ф, 3) (на прямой Res —7г) вытекает, что интеграл

в формуле (3) тоже инвариантен относительно этого преобразования. Поэтому его можно переписать в виде

^2(У°Уф; к, 2s) С (2s) Z (ф; k, 2s) dk^

к

таким образом, разделив формулы (3) и (4) на £(2s), мы получаем

( Z (Т°Тф; к, 2s) Z(t; к, 25) = J Z (Т°Тф$ к, 2s) |^-2(ф; к, 2s) dk. кк

Заметим, что в интеграле (1) для скалярного произведения (Уф, Т^)гха можно изменить порядок интегрирования, поскольку подынтегральное выражение быстро убывает. Следовательно, (Гф, 7ф)г^ = ^- J ^(ТТф} к, 2s)7^; к, 2s)dkds.

Я “41 К

Но

7,+iooV,

f (s) ds = \ f (§) ds4.Vi-l*

(интегралы берутся по полупрямым s = l/2 + it, т®(0, oo) и те (—ос, 0)). Таким образом,

'h+i”

(Гф, Т^)тхо = -^ $ ^2(Т°ГФ} к, 2з)2(ф; к, 2s)dkds-Y

41 к 4i+i°°

+ -1- J Z ^ к, 25) 2(ф; к, 2S) dk ds^

41 К в силу теоремы 3 (ем. также конец предыдущего параграфа), это выражение равно

Л ( (2(Т°Гф; к, 2s)fz(^; к, 2s) + -®-Z(^ к, 2s^dkds = 4* К

4t+loa

—Z (T°T<p; k, 2s) 2(7°Уф| к, 2s) dk ds=

S <z(r°r<₽5 2s)- 2(Г°Г^ ^))Kds.

•A

Теорема доказана.

Замечание. В предыдущих рассуждениях

мы могли бы

с тем же успехом интегрировать и по нижней половине прямой а = '/2.

Полученная нами теорема показывает, что оператор Т° изо- метричен на образе оператора Т. Более того, имеет место

Следствие. (Тер, Тф)гх0 =<Т°Т<р, 7’°Т'ф)^0.

Доказательство состоит в формальных выкладках и предоставляется читателю.

XIV. СПЕКТРАЛЬНОЕ РАЗЛОЖЕНИЕОПЕРАТОРА ЛАПЛАСА НА г\<>

В этой главе мы в основном следуем статье Л. Д. Фаддеева [1]; добавлен лишь ряд деталей, опущенных в его работе.

Собственные функции оператора Лапласа на верхней полуплоскости, инвариантные относительно дискретной подгруппы группы ХЛ2 (R), были введены Маасом [1], [2] как аналог классических автоморфных форм. Затем они были исследованы в двух работах Рёльке [1], [2] и, совсем недавно, в работе Эльстродта [2]. Эти функции нашли важное приложение в работе Сельберга [2] о формуле следа. Связь теории автоморфных функций с теорией бесконечномерных представлений групп Ли была впервые замечена в работе И. М. Гельфанда и С. В. Фомина [1] и исследовалась затем в работах И. М. Гельфанда, И. И. Пятецкого-Шапиро и М. И. Граев а (см. список литературы в конце книги).

Пусть Г —дискретная подгруппа группы SZ,2(R), такая, что объем пространства Г\§ конечен. Фундаментальная область F этой группы состоит из компактной части Fo и конечного числа «вершин», конформно эквивалентных верхней части полосы. Оператор Лапласа L можно расширить до самосопряженного оператора А в гильбертовом пространстве 1?(Г\^. Нашей задачей является построение спектрального разложения оператора А. В гл. XII мы построили инвариантное подпространство %2(Г(§) — так называемое пространство параболических форм — и показали, что спектр сужения оператора А на это подпространство дискретен. Оказывается, что, кроме этого, оператор А имеет непрерывный спектр конечной кратности (кратность спектра равна числу вершин фундаментальной области) и конечное число собственных значений, принадлежащих интервалу [— 1/4, 0]. Мы хотим описать все собственные подпрегтранства оператора А и найти ядро p(z, s) преобразования, которое переводит А в простой оператор умножения (в нашем случае это будет оператор умножения на функцию ’/г + ^2> действующий в пространстве вектор-функций; t — вещественная переменная). Ядро р (z, s), где ze f и s принадлежит подходящему пространству, называют функцией Эйзенштейна, а соответствующее преобразование — преобразованием Эйзенштейна. Функция Эйзенштейна удовлетворяет некоторому функциональному уравнению, которое тесно связано с рассматриваемой теорией. Этим вопросам посвящена книга Куботы [1].

Замечание. В предыдущих рассуждениях мы могли бы с тем же успехом интегрировать и по нижней половине прямой а = 72.

Полученная нами теорема показывает, что оператор Т° изо- метричен на образе оператора Т. Более того, имеет место

Следствие. (Тер, Тф)г^с = <FT<p, PTiip)NXG.

Доказательство состоит в формальных выкладках и предоставляется читателю.

XIV. СПЕКТРАЛЬНОЕ РАЗЛОЖЕНИЕОПЕРАТОРА ЛАПЛАСА НА г\<>

В этой главе мы в основном следуем статье Л. Д. Фаддеева [1]; добавлен лишь ряд деталей, опущенных в его работе.

Собственные функции оператора Лапласа на верхней полуплоскости, инвариантные относительно дискретной подгруппы группы SL2(R), были введены Маасом [1], [2] как аналог классических автоморфных форм. Затем они были исследованы в двух работах Рёльке [1], [2] и, совсем недавно, в работе Эльстродта [2]. Эти функции нашли важное приложение в работе Сельберга [2] о формуле следа. Связь теории автоморфных функций с теорией бесконечномерных представлений групп Ли была впервые замечена в работе И. М. Гельфанда и С. В. Фомина [1] и исследовалась затем в работах И. М. Гельфанда, И. И. Пятецкого-Шапиро и М. И. Граев а (см. список литературы в конце книги).

Пусть Г — дискретная подгруппа группы SL2(R), такая, что объем пространства Г\§ конечен. Фундаментальная область F этой группы состоит из компактной части Fo и конечного числа «вершин», конформно эквивалентных верхней части полосы. Оператор Лапласа L можно расширить до самосопряженного оператора А в гильбертовом пространстве Z,2 (Г\*§>). Нашей задачей является построение спектрального разложения оператора А. В гл. XII мы построили инвариантное подпространство %2 (Г(§) — так называемое пространство параболических форм — и показали, что спектр сужения оператора А на это подпространство дискретен. Оказывается, что, кроме этого, оператор А имеет непрерывный спектр конечной, кратности (кратность спектра равна числу вершин фундаментальной обля'ти) и конечное число собственных значений, принадлежащих интервалу [— 1/4, 0]. Мы хотим описать все собственные подпространства оператора А и найти ядро ц(г, s) преобразования, которое переводит А в простой оператор умножения (в нашем случае это будет оператор умножения на функцию '/г + ^2, действующий в пространстве вектор-функций; / — вещественная переменная). Ядро ц (z, s), где ze F и s принадлежит подходящему пространству, называют функцией Эйзенштейна, а соответствующее преобразование — преобразованием Эйзенштейна. Функция Эйзенштейна удовлетворяет некоторому функциональному уравнению, которое тесно связано с рассматриваемой теорией. Этим вопросам посвящена книга Куботы [1].

Наиболее важные и изученные дискретные подгруппы SLJR) —это группа SL2(Z) и ее конгруэнц-подгруппы. Как заметил Рёльке, для того, чтобы доказать теорему разложения для произвольных дискретных подгрупп с конечным объемом фундаментальной области, достаточно показать, что соответствующие функции Эйзенштейна имеют аналитическое продолжение того же типа, что и функции, связанные с SL^Z\ Такая теорема разложения была приведена без доказательства в стокгольмском докладе Сельберга [1].

Годеман доказал теорему разложения для арифметических подгрупп, пользуясь классическими методами, основанными на формуле суммирования Пуассона; это доказательство все еще не охватывает общий случай. Подход Сельберга был развит в неопубликованной рукописи Ленглендсом [1], который дал доказательство для произвольных полупростых групп Ли. Метод Сельберга и Ленглендса не использует формулы суммирования Пуассона и близок к теории операторов. Краткое изложение этого подхода дано в работе Ленглендса [2]. Подробное изложение результатов Ленглендса (не охватывающее, однако, последней главы его работы) содержится в книге Хариш-Чандры [1].

Л. Д. Фаддеев вновь рассмотрел эти вопросы с совершенно новой точки зрения, основанной на теории возмущений непрерывного спектра, построенной Фридрихсом [1] и развитой А. Я. Певзнером [1]. Мы дадим набросок метода Фаддеева. Функциональное уравнение для функции Эйзенштейна и ее аналитическое продолжение могут быть получены исходя из тождества Гильберта (резольвентного уравнения)

R (s) ~ R (s') = (s (1 - s) - s' (1 - s')) R (s) R (s')

для резольвенты оператора Лапласа. Параметр $ в этом тождестве такой же, как и в обычной теории рядов Дирихле; соответствующие собственные значения равны Xs = s (1 — s). При выбранной нормировке критическая прямая совпадает с вертикальной прямой Res = 1/2.

Зададимся большим числом х > 0 и исследуем резольвентное уравнение при s' = х как функцию переменной s. Положив R = R(u), получаем уравнение

R (s) — R = ш (s) RR (s).

Затем выберем подходящую функцию Грина ys (у, у') для уравнения

на полуоси у^а, удовлетворяющую некоторому граничному условию при у = а. Пусть Q (s) — соответствующий оператор.

Вместо того чтобы изучать R^ непосредственно, сделаем преобразование:

R^ = Q (s) + (7 + «> (s) Q (S)) В (s) (7 + <o (s) Q (s)).

Можно показать, что это уравнение разрешимо относительнее оператора B(s), который оказывается мероморфной функцией от s в полосе 0 < Res < 2. Уравнение для оператора B(s) вытекает из резольвентного уравнения для R (s). Построим оператор

W (s) = to (s) (7 + <о (s) Q (s)) В (s), который будем рассматривать как возмущение единичного оператора.

Функция Грина qs имеет вид

,,.1 f 9(У> ^у'1-3, если у<у\

4s z» z 2s — 1 I 9 (у', s)yl~s, если у > у\ где

9 (у, s^ = ys -V с^ух"%

Эти функции удовлетворяют функциональным уравнениям Эйзенштейна

9 кУ> s) = 9 (у, 1 — s) с (s), c(s)c(l — s)= 1.

Если положить

т) (z, s) = [/ 4- W (s)] 9 (г, s), то функции Эйзенштейна ps будут удовлетворять аналогичным функциональным уравнениям, которые, как и аналитическое продолжение функций г)3, получаются из резольвентного уравнения для оператора B(s) и аналитических свойств оператора W (s).

Общая схема приведенных рассуждений вполне аналогична использованной самим Фаддеевым по другому поводу в его работе [2].

Аналитическое продолжение семейств операторов производится одновременно с аналитическим продолжением их ядер. Важно отличать области, где ядро резольвенты имеет аналитическое продолжение, которое уже не связано с резольвентой. В общем случае про эти области почти ничего не известно. Если Г = SL2(Z), то, как можно показать, полюсы аналитического продолжения ядра резольвенты совпадают с нулями ^-функции Римана £(2s). Таким образом, прямая Res = 74— это еще одна критическая прямая (гораздо более критическая!); это было отмечено еще Сельбергом [1].

Если бы мне нужно было выучить кого-либо анализу, я посоветовал бы ему во всех деталях разобрать статью Фаддеева, где в содержательной конкретной ситуации использовано множество технических приемов анализа в рамках единого и впечатляющего подхода. Как я уже сказал в предисловии, чтобы облегчить задачу читателя, в приложения к настоящей книге включены все вспомогательные результаты из общего курса анализа.

Доказательства будут проведены сначала для случая Г = = Si2(Z), когда фундаментальная область имеет только одну вершину. В заключительном параграфе указаны те места, в которые необходимо внести изменения при переходе к общему случаю. В основном эти изменения не идут дальше введения в нужных местах матричных индексов. Функция c(s) превращается при этом в матрицу (оператор) порядка га, где га— число вершин дискретной подгруппы Г. Как показано в недавней работе Павлова и Фаддеева [I]1), эта матрица тесно связана с оператором рассеяния в физике.

Метод Фаддеева был использован Лашо [1] при доказательстве теоремы разложения для так называемых групп ранга 1. Можно надеяться, что этот метод переносится также на группы более высокого ранга.

Я включил в изложение целый ряд деталей, опущенных Фаддеевым. Быть может, из-за неизбежного увеличения объема читателю будет трудно уследить за общим ходом мысли. Поэтому рекомендуем ему обратиться к оригинальной работе Фаддеева.

§ 1. Геометрия и дифференциальные операторы на Ф

полуплоскости Фполуплоскости ФГеометрия

полуплоскости Ф

полуплоскости Ф

Группа G=SL2(R) действует на верхней обычным образом:

az 4- b( а

у: zi—>г—г,если у = 1

r cz + d\ с

Функция пары точек z = х + iy, z' = х' + iy'

и (z, z') =и (z, z') =Z — / I2Z — / I2

и (z, z') =

и (z, z') =

Z — / I2

Z — / I2

очевидно, инвариантна относительно G, т. e. для у s Gи (yz, yz') = и (z, z').

*) См. также книгу Лакса н Фнллипса [1]. — Прим, первв.

В дальнейшем мы будем иметь дело в основном с функцией u(z, z^; поэтому читатель может пропустить нижеследующее обсуждение метрики Пуанкаре. Однако полезно познакомиться с геометрией Пуанкаре для развития интуиции.

Метрика Пуанкаре на верхней полуплоскости задается формулой

= ^2 + ^ = ^z_dz_

У2У2 ■

Так как d (yz) — (cz + d)-2 dz и Im yz=Im z/| cz + d |2, эта метрика G-инвариантна; ей соответствует функция расстояния p(z, z'), равная длине кратчайшей кривой, соединяющей z и z'. Если

z (/) = х (/) + iy М, а ^/^6,

— кривая в Ф, то, по определению, ее длина равна

Г Уу (О2 + у'(О2

3 у (О а

Для любых точек z, z' е § существует элемент у группы G, такой, что yz = z и "^z' = 1уй для некоторого вещественного числа уо^1- Ясно, что

р (z, г') = р у, 1уй\

Мы дадим краткое доказательство того, что среди кривых, соединяющих точки i и iyQ) вертикальный отрезок имеет минимальную длину. Пусть х (/) + iy (t) — одна из таких кривых. Тогда ее длина не меньше, чем

У№У№ьС у' W3 yWьС у' W3 yWdtdt

У№

У№

ь

С у' W

3 yW

ь

С у' W

3 yW

dt

dt

Если кривая имеет минимальную длину, то в предыдущей формуле должно выполняться равенство: в противном случае кривая iy^, соединяющая I и iyQ) имела бы меньшую длину. Следовательно, х^ = 0, и доказательство закончено.

Расстояние между точками it (f > 1) и I теперь легко вычислить:

t

Р(г, z/)= ^-^- = log/.i

Таким образом, расстояние равно

s = log/и t==^.

Далее,

u = sh2(s/2),

поскольку sh2(s/2) = -g-(ch s — 1) = у (^г1) = -^-^ = и,

Рис. I.

Преобразование Кэли z н-> (г — г) / (z + /) задает отображение верхней полуплоскости на единичный круг. При этом Метрика Пуанкаре переходит в метрику

Яс2= ±^±^1.S'

где г2 = х2 + у2. Следовательно, в этом случае

s W = 2 $ т^-= Iog тЙ* •о

Поэтому r = (es — l)/(es + 1), так что

г = th (s/2).

Покажем также, что площадь А (г) круга радиуса г в метрике Пуанкаре дается формулой

А (г) = 4ли.

В самом деле,

г 2л

А (г) = 5$ (f-p^ = 4 л Т^ = 4л f"^/^)' = 4л sh2 ^2) = 4л“* о о

Возвратимся к геометрии верхней полуплоскости. Обозначим символом DR^ круг радиуса R с центром z относительно «метрики» и, т. е. множество точек z', таких, что и (z, z') ^

^ R. Множество DR является обычным евклидовым кругом и задается неравенством

(^ — х)2 + (у' — byf < а2у2,

где 6 = 2/?+1, а2 = 27?(2/? + 2) (рис. 1). Когда R увеличивается, этот круг подходит все ближе и ближе к вещественной оси.

Дифференциальные операторы

Пусть g — алгебра Ли группы SL2 (R), т. е. множество вещественных матриц со следом 0. Произвольному X <= g соответствует дифференциальный оператор 2Z на С60 (£), задаваемый формулой

M(z)« J-Hexp/X-z)^.

Операторы, соответствующие матрицам

ХхХх0о0о1 о1 о

Хх

Хх

0

о

0

о

1 о

1 о

Обозначим 2Ь 2^, 23. В координатах ж = (х, у) они задаются формулами

22 = (у2-^)^--2ху-^,

23 = 2х-^- + 2у-^-.

Получить эти выражения совсем просто. Мы проделаем это, екажем, для Х2 и 22. Положим

^^((i ?)2)”^»*

где

8 v' t (х + /у) + 1 *

ТогдаТогда

Тогда

Тогда

g' (0) = у2 — х2 — 2/ху,

Если g (/) = и (7) + it> (t), то

df du . 5/ du du dtdu dt $=д*

откуда и следует искомая формула.

Мы будем заниматься изучением оператора Лапласа

l= -У (^ + -^) = 1м + W

Знак минус введен для того, чтобы сделать оператор L «положительно определенным» в следующем смысле. Пусть ф, ф принадлежат С” (ф), и пусть эти функции вещественны. В скалярном произведении

<^Ф. ф) = ^ Лф • ф -l^-

можно проинтегрировать по частям и перенести одну производную с ф на ф; изменение общего знака уничтожает минус в определении L. Таким образом,

<М>, Ф>= $Ц(^У +°, если ф =5^= 0.

Мера dxdyfy2 инвариантна относительно SL2(R); мы будем обозначать ее в дальнейшем просто dz.

Оператор L является G-инвариантным. Это означает, что если

/а 6\

и то — оператор сдвига, raf (z) = f (az), то

то ° L = L ° т0.

Это можно показать прямым вычислением, применив несколько раз правило дифференцирования сложной функции. С другой стороны, мы уже знаем это из гл. X (теорема 4 § 1), т. е. из общих соображений о структуре алгебры дифференциальных операторов на группе SL2(R)-

В нашем случае оператор Лапласа будет применяться к функциям, зависящим только от инварианта и; поэтому для него можно получить выражение в виде обыкновенного дифференциального оператора по переменной и. А именно, справедливо следующее утверждение:

Пусть ф — гладкая функция на положительной полуоси, 2^ — некоторая точка ^. Положим f (г) = ф (и (z, гф). Тогда

Lf = /ф, где

/ф (и) = — (ы2 + и) ф" (и) — (1 + 2м) ф' (и).

Доказательство. Имеем

у2 ["^ + ^р"] — ~ у21ф" Е«х+ «у] + ф' [«хх + «уу]};

нам нужно показать, что

^(“х + и^^^ + м,У2 («хх + «уу) = 1 + 2и.

Но и (г, г) =• откУДа

х — х'у1 — у'2 — (х — х'У

Ux=-^~’ иУ = —4у2у'

Теперь результат очевиден.

Решение уравнения Zq) = s (1 — »)ф

В конце предыдущего параграфа мы вычислили оператор Лапласа на функциях, зависящих только от расстояния. Теперь мы построим решение однородного дифференциального уравнения для этого оператора. Оно дается классическим интегралом

1

Ф$ («) = ф(«, s) = -^$ [/(1 — ОГ"1 # + иГ$ di,

о

который абсолютно сходится при комплексных значениях 8 = = ст + it, а > 0, и при и > 0.

Теорема 1. В описанной выше области функция ф аналитична по s, принадлежит классу С” по и, и

/ф = з(1 — з)ф;

ф (u, з) = — (4л)-1 log и + О (1) при фиксированном з, м-*0; (Ш) ф' (и, з) = — (4л)-1 и-1 + 0(1) при фиксированном s,u-^-0; (iv) ф (и, з) = О (и~а) при фиксированном о, и-^-оо.

Доказательство. Утверждение (iv) очевидно. Чтобы доказать, что ф удовлетворяет дифференциальному уравнению, продифференцируем подынтегральное выражение; оказывается, что применение оператора 1и превращает его в полный дифференциал с нулевыми граничными значениями. Более точно, несложное прямое вычисление показывает, что если

М„ = («2 + ц) ^ + (1 + 2«)-^-+ s (1 - з),

ТО

м„ [/ (1 - <’1 7 + йГ = S ^ {[/ (1 - < (/ + «Г8"1}. ■

Так как функция в правой части равенства имеет нулевые граничные значения при t = 0 и Z=l, отсюда следует, что

(Z —s(l — 5))ф = 0.

Замечание. Рассмотрим более общую ситуацию. Пусть Зи — дифференциальный оператор по переменной и, пробегающей некоторое многообразие/ и пусть m(Z, и)— функция переменной и и дифференциальная форма по переменной t, пробегающей некоторое многообразие с краем Т. Назовем ш разрешающей формой для S’, если существует такая форма р (t, и), что я (Z, и) = 0 при / s дТ и

S^to (t, и) = d,^ (t, uY

где dt — обычная внешняя производная. Теорема Стокса показывает, что

to (Z, и)т

есть решение уравнения S<p = 0. Ниже в этой главе мы снова воспользуемся этой техникой разрешающих форм в связи с уравнением Уиттекера. Было бы интересно изучить ее более подробно для подходящих дифференциальных операторов на многомерных многообразиях.

Докажем теперь, что

1

$ V (1 - Z)]8"1 (Z + и-Г5 dt = - log и + О (1) о

при и->0. Ясно, что интеграл от 7г Д° 1 ограничен как функция и при и, близком к нулю. Поэтому рассмотрим интеграл по промежутку (0, 7г)

1=\.. . dt

J х 1 (i + и)5 о

и вспомогательную функцию

о

Замена переменных / = ит дает

Ни-

А{г,и)= \ (1 4-1)=

J X т) т хи ) о

где

+ IVs—logx +°^) при х^Х’

Гт I 0(1) при х<1.

Имеем

1= j (1 -0s"1 ^ и) dt = о

“(1 — ^У ' Л(7з, «)— $ -li^-tr'A^uidt.

О

Заметим, что А (1/2, и)=Д (1/2м)=— log и 4- О (1). Разобьем интеграл следующим образом:

‘/2 U 41 S=$+$ =л+^- а о и

Если 0</<и, то функция A(t, и) = A (t/u) ограничена, и поэтому интеграл Л ограничен при и->0. Чтобы оценить интеграл/2, используем вторую оценку для функции А(/, u) = A(t,u)i

11 =- \ -^-(1 -/Г1 [log /-log и 4- 0(1)1^ = и

V2

= logu^ 4о-/)S'1^ + °(1) = и

— log«[(l-iy ’-(1 _«/->] 4-0(1).

Члены (logzz)(l — ’J^3-1 сокращаются, и поэтому /=-(logu)(l — u)s-1 + O(l) = -log«4- 0(1), что и требовалось доказать. (Приведенное доказательство принадлежит П. Лаксу.)

Асимптотическая сценка для <р' (и, s) при и —> 0 получается аналогичным образом после дифференцирования под знаком интеграла.

Резольвента оператора Лапласа на ^ при <т>1

Обозначим ВС” (ф) пространство ограниченных гладких функций на %.

Теорема 2. Пусть f е ВС” (ф). Для Re s > 1 положим

R& (s) Н2)^ Ф» (“ (2. 2')) f ^ dz',

где dz' = dx' dy'jy'2 — инвариантная мера на $. Тогда функция R$(s)f также гладкая и ограниченная, и

kL-s^-s^R^t-b

Другими словами, мы нашли правый обратный для опера- • тора L — s (1 — s)/ (/ — единичный оператор). Он задается ядром '

г % (z, z'; s) = ф (и (z, z'); s),

которое мы будем записывать также в виде r$(s) = vsow, если захотим опустить аргументы z, z'.

Доказательство будет проведено в три этапа.

Во-первых, мы покажем, что функция R^^f ограничена.

Во-вторых, при помощи теории потенциала мы докажем частный случай теоремы, когда / имеет компактный носитель.

В-третьих, мы докажем теорему в общем случае, опираясь на фундаментальную теорему из теории эллиптических операторов, доказательство которой, для удобства читателей, приводится в приложении.

Лемма 1. Пусть ^гВС”^. Тогда функция R$(s)f ограничена при а > I.

Доказательство. Положим

h (z) = ф5 (и (z, z')) f (z') dz*.

Тогда

1Мг)КПГ 11$|фа(и(2, z^i^z',

причем интеграл справа не зависит от г. В самом деле, если у s G, то

{i I Ф5 (и (yz, z')) 1 dz' = ^ | ф$ (м (z, у"^')) | dz' = ^ | ф$ (w (z, z'^ ] dz',

SФФ

так как мера dz' является G-инвариантной. Мы можем поэтому положить z = L Пусть D — небольшой кружок вокруг точки г; напишем

$ = $ +5.

66-0 О

При малых и имеем ф$ (u) ~ log и; эта функция локально интегрируема, так что интеграл по кружку D сходится. С другой стороны, интеграл по дополнению не превосходит

( 1—- dz'.

%2D (1+u)

Таким образом, достаточно доказать следующую оценку: Лемма 2. Интеграл

(’dz'

J (1 +« О, s/))»

сходится при а > 1.

Доказательство. Мы можем положить z = L Тогда указанный интеграл можно записать в виде

Г Г и0-2

(*2 + (У-1)Г 9

Разобьем внутренний интеграл на два: 006

Оценки этих интегралов стандартны; в действительности мы уже полностью провели их в § 2 гл. IX.

Теория потенциала

Для удобства читателя мы напомним Некоторые элементарные факты теории потенциала на плоскости. Пусть f, g — две функции на R2. Пусть Uc^1 — область с . кусочно-гладкой границей. Для любого векторного поля F на U справедлива формула Грина — Стокса

diNFdxdy= J F-nds.иau

Положим F = g grad f = (gf„ gfy) или f grad g = ^fgx, fgu). Пусть- Д - div grad = -^ + ^-.

Мы получаем формулу

\\(gM-fM)dxdy=\ (g^L-f^ds. иau

Пусть zQ— точка на плоскости; обозначим U — Ще) внешность окружности S (е) радиуса е с центром в точке Zq. Предположим, что носитель функции f компактен; тогда

^(g^-f^dxdy = - $ ^g^L-f^ds. и (8)S (в)

Эта формула называется формулой Грина.

Пример. Пусть точка z0 фиксирована; положим

5(z) = -^log|z — z0|.

В полярных координатах df/dn = df/dr, если f — f(r, 6), где г = | z — Zq |. Параметризуем окружность при помоши отображения 0--> (ecos G/е, esinG/e), О^0^2ле. Тогда ds = d9. Ясно, что Ag = 0. Правая часть формулы Грина дает

2Л82Л8

S (f^-s^- $ К-л^ае- 5 ^logs^de.

S(8)Оо

При в-*0 первое слагаемое стремится к f (0, 0), а второе — к нулю. Следовательно,

JJ ЯЛГ dx dy — f(z0).

Аналогичное рассуждение будет проведено для верхней полуплоскости.

Лемма 3. Пусть о> 1, fsC”^\ Положим h(z) = ^ фя (м (z, z'^) f (z') dz'.

Тогда h s G”. Если обозначить Ms = L — s (1 — s) I, to Msh — f и

Msh = ^Ди (z, z'^ (MJ^ (z7) dz' = J r^ (z, z'; s) (.MJ (z')) dz'.

Доказательство. Зафиксируем переменную s и не будем ее писать. Предположим, что z меняется в маленьком открытом подмножестве ^, и пусть z t—> у (z) г G — гладкое отображение,

такое, что у (z) i = 2 (таким образом, z 1—* у (2) — гладкое сечение). Положим, для краткости, ф(м(з, 2'); s) = ^(z,/). Тогда

Я (z) = ^ к (у (z) i, z') f (z') dz' = ^k (i, у (z)”1 z') f (z') dz' = = ^ к (z, z') f (y (z) z') dz'.

Так как носитель функции f компактен, мы можем дифференцировать под знаком интеграла; отсюда ясно, что Я s С”.

Лемма, ^Я (z) = ^ к (z, z') 8zf (z') dz'.

Доказательство. Имеем

h (exp (tXj) z) = ^ (exp ^tX^ z, z') f (z7) dz'.

Поскольку к (yz, yz') = к (z, z'^ для всех преобразований у из G й мера dz' G-инвариантна, получаем

Л (exp (tX^ z) = к (z, z') f (exp ^Х^ z') dz'.

Так как функция f имеет компактный носитель, мы можем дифференцировать под знаком интеграла; теперь утверждение леммы очевидно.

В частности, мы получаем промежуточную формулу

Msh (z) = к (2, z') MJ (z') dz'.

Применим ее к соотношению из теории потенциала

^(fLg — gLbdz^^^gM — f^dxdy^ ( ^g^-f^ds. уиаи

Пусть U = U (в) — внешность маленького евклидова круга радиуса е с центр ом в точке 2, так что dU (е) — S (в) — окружность. Для простоты опустим индекс з в обозначении оператора М. Получим

$ $ к (z, z'^ Mf (z7) dz' - J J Mz-k (z, z') f (z') dz' =

U (8)V (8)

С ( и df, dk X .

J k dn' dn )

S(8)

Ho Mz-k (z, z'^ — 0 вне диагонали; таким образом, слагаемое, содержащее Al2'fe(z, z'), исчезает. Поскольку при z', близких

к z, Н(2,г') ведет себя, как log и (2, z'), то интеграл по окружности от kdfldn стремится к 0 при е->0. Наконец, из теоремы 1 § 2 мы знаем, что д/(м) = (4лм)-1 + О (1). Так как.

dk / /х х ди^(z.z )=ф

отсюда немедленно следует, что интеграл от dk/dn стремится к 1, когда в —* 0. Это завершает доказательство теоремы 2 для функций t с компактным носителем.

Рассмотрим, наконец, общий случай, когда носитель функции f не обязательно компактен, но f е ВС” (ф). Из леммы 1 мы знаем, что функция R^(s)f = h ограничена. Далее, М = MS— эллиптический оператор на %. Пусть ф G С” (ф) — вещественная функция; тогда

(Н, Л1ф) = ^ k (z, z') Л(ф (z) f (z') dz dz',

и мы можем воспользоваться теоремой Фубини. Из частного случая теоремы 2 для функций с компактным носителем получаем

A (z, z'') Мф (z) dz = ф (z').

Следовательно,

<й, Мф) = (А ф).

По теореме о регулярности для эллиптических операторов отсюда следует, что h е С” и Mh = f. Доказательство теоремы 2 закончено.

Симметричность оператора Лапласа на Г\ф

Мы уже кратко упоминали в § 1, что оператор Лапласа на ■§> симметричен. Теперь мы хотим показать, что оператор Лапласа на Г\£ тоже симметричен. Для этого нам понадобится срезающая функция £г, график которой изображен на рис. 2:

Сг(г/) = 1 при y^Y, ^у^ = 0 при y>2Y;

№ < ^..

Такую функцию легко построить. Пусть функция ф(/) имеет график, изображенный на рис. 3. Тогда ф' и ф" ограничены. Ясно, что функция

tyW-W}

удовлетворяет нашим требованиям.

Пусть F = SL2(Z). Фундаментальная область F группы Г изображена на рис. 4. Мы опускаем доказательство этого факта; его легко найти в многочисленных учебниках. Пространство Г\§ можно отождествить с F.

Рис. 2.Рис. 2.Рис. 3.Рис. 3.

Рис. 2.

Рис. 2.

Рис. 3.

Рис. 3.

Л д2 . д2 иД = ——4.—-Эх2 1 ду2Л д2 . д2 иД = ——4.—-Эх2 1 ду2Как и раньше, положим

Л д2 . д2 иД = ——4.—-

Эх2 1 ду2

Л д2 . д2 иД = ——4.—-

Эх2 1 ду2

3 к дх2 1 ди

Напомним, что оператор L инвариантен относительно действия группы G = SL2 (R). Поэтому если f е С°° (Г\$), т. е.

щЙй:щЙй:Й®*5^Й®*5^

щ

Йй:

щ

Йй:

Й®

*5^

Й®

*5^

е-

1_ 21_ 21 ।

1_ 2

1_ 2

~2

Рис. 4.

f — гладкая функция на %, инвариантная относительно Г, то Lf — также гладкая Г-инвариантная функция.

Лемма 1. Пусть f — вещественная функция, такая, что

Тогда интеграл по фундаментальной области

F конечен и

<Ц,Г) = М, л.

Доказательство. Пусть Y — большое положительное число, £ = £у — срезающая функция, описанная выше. Нашей первой

целью будет доказательство формулы (*) ниже. Положим

Поскольку поверхность Г\§ не имеет края, то по формуле Грина имеем

г\ег\е

J JJ J L дхдх 1 ду ду J 9

г\»г\5

г\фг\е

(При желании можно работать только на области F, используя периодичность производной dffdn, а также тот факт, что куски границы фундаментальной области переходят друг в друга с изменением ориентации под действием группы Г.) Мы воспользовались также тем, что д£/дх = 0. Заметим теперь, что

4d(f2=+ S-ldxAdy.

2 V ду / L ду ду 1 2 ' ду2 J 3

Так как число Y велико, то производная дуду равна нулю всюду, где dx =# 0. Следовательно,

(*) ^ГМ£^ =

F1 2У

= S 5 [(17 Y + (туУ] ^ dxdy-^ $ f2 <z) Sy (у) dx dy.

F0 У

При У —> oo второй член в правой части стремится к нулю, поэтому

ШШ2+(< УМ -^- М • tb^+oix-). FF

Когда Y -^дот^Левая^часть возрастает, оставаясь ограниченной, посколькуправая часть стремится к

5ИМ-

Это завершает доказательство леммы.

Теорема 3. Пусть fug — вещественные функции из ВС°° (Г\ф), такие, что Lf и Lg также принадлежат ВСОО(Г\'&). Тогда

<Lf, g> = <Lg, f}.

Доказательство. Пусть а — большое положительное число ^-срезанная фундаментальная область, изображенная на рис. 5. Положим

I = <U,g)-<Lg,f).

Тогда по формуле Грина имеем

Ia=^bg-bg.Mxdy =

Интегралы по участкам границы, сопряженным относительно Г,

Рис. 5.

взаимно уничтожаются. Поэтому не исчезает только интеграл по верхнему куску границы, т. е

\у^Х'

Так как функции / и g ограничены, то из неравенства Шварца вытекает оценкан

Интегрируя обе части неравенства по интервалу Л^а<ГЛ получаемJ’

Sв Чг

J1 Ia J д [(^") + ®1dx dy-

Из леммы 1 мы знаем, что этот интеграл ограничен равномерно по Я и по В. С другой стороны, интеграл

\ \^8М — t Ag) dxdy

имеет предел при а—>оо, поскольку функции Ц и Lg ограничены, а область F имеет конечную инвариантную меру. Этот предел должен быть равен нулю, ибо в противном случае найдется такое положительное число с, что 11а |2 ^ с > 0 для достаточно больших а; следовательно, интеграл

$|/Л Р^а^с(В-Л)

не ограничен, что противоречит предыдущей оценке. Это завершает доказательство теоремы 3.

Оператор Лапласа на Г/Ь

Пусть Dl — пространство всех функций f е ВС”^Г\^, таких, что Lf — также гладкая ограниченная функция. Обозначим буквой Н гильбертово пространство £2(Г\§). Мы будем пользоваться этим обозначением на протяжении всей главы. Тогда Dl — плотное подмножество в Н. Оператор L будем считать определенным на этом подмножестве; из теоремы 3 известно, что он симметричен. Как мы увидим, на самом деле оператор L в существенном самосопряжен (см. приложение 2). Чтобы убедиться в этом, построим его резольвенту, усредняя по Г резольвенту оператора L на всей верхней полуплоскости. Нам потребуется следующая оценка:

Лемма 1. Если о> 1, то ряд

уеГ U+«(z УИГ

сходится равномерно по z, z' на любом компакте.

■

’во. Пусть Мл— число элементов у е Г, таких, R. Мы утверждаем, что Мд <g £. В самом деле, фиксированного малого радиуса с центром z', \D = 0, если yz' ^ 2'- Пусть DR — множество с, что u(z, z")^R. Как мы знаем, площадь DR ia R (см. § 1). Если yz'eO^, то ^DclD2R для эших R. Следовательно, число элементов у ® Г, cz D2R и yz' ^ z', в существенном ограничен^

площадь D

Число элементов у е Г, таких, что ^z' = ^, равномерно ограничено (легко доказать, что для r=SZ.2(Z) это число не превосходит шести и в действительности равно двум для всех

точек, за исключением тех, которые эквивалентны i или е2я</3). Итак, наше утверждение доказано.

суммы по такимсуммы по такимРазобьем теперь нашу сумму на частичные элементам у, что yz' лежит в кольце

суммы по таким

суммы по таким

^T<u(z, УИ<А.

Пусть /п = [1о§2/?]. Тогда эта сумма не превосходит R. R^.1^/2”

£1+е • W2)'+8 ' " ‘* (/?/2т)1+в

1 + 28 + 228+ .. -(-s'”®9(m+i)B

S« -«Г- -0(1).

Очевидно, все оценки равномерны по z, / на компактных подобластях. Это завершает доказательство леммы.

Для о > 1 положим

г (z, z'; s) = l£ ф (u (z, yz'); s).

Мы будем иногда писать rs^z, z') вместо г (2, z'; s). Множитель 72 введен для того, чтобы учесть тривиальное действие элементов ± 1. Если z^Vz', то из леммы 1 заключаем, что ряд абсолютно сходится при а> 1. Для f <= УС°°(Г\£) имеем

г (z, z'; s) f (z') dz' = ^ j ^ ф («(z, yz'); s) f (z^ dz'.

PF ^еГ

В силу леммы 1 можно переставить суммирование и интегрирование; поэтому предыдущее выражение равно

J Ф (м (г, 2'); s) t (z') dz' = {R^ (s) D (z).

Таким образом, мы получили старое выражение для резольвенты на всей верхней полуплоскости. Вспоминая теорему 2, видим, что нами доказана

Теорема 4. Пусть о> 1. Ядро r^z, z'; s) задает оператор R(s): ВС” (Г^) -> ВС” (ЭД, такой, что

(.L-s^-s^nR^f^f.

Из теоремы 4 следует, что

Dl^R^BC” (ЭД,

т. е. что область определения оператора L содержит образ оператора R (з), а также что линейное подмножество (Л—s(l —s) Z) Dl плотно в Н. Из общих свойств неограниченных операторов (приложение 2) вытекает следующий результат:'

Теорема 5. Оператор L, заданный на области D.L, допускает замыкание. Обозначим это замыкание буквой А, и пусть DA — его область определения. Оператор (Л, DA) самосопряжен.

Используя подходящие оценки, мы докажем в § 7 следующее утверждение:/

Теорема о. Если а > 3/2, то R (s) — ограниченный оператор

в пространстве Н = 1? (Г\£>).

В ходе доказательства нам потребуется разбить ядро г (2, z'; s) ". на несколько/различных компонент. Теорема 6 показывает, что оператор R (s)/есть в точности резольвента оператора А.

Из теоремы^ вытекает, что R$HcDA, т. е. что образ оператора R (з) содержится в области определения оператора А. В самом деле, nycrbf^-^-f в Н, fne ВС°° (Г\§). Положим Л — = s(l—з). Из равенства

LR^L-XR^sHn + L

следует, что LR (s) f„ -^-XR (s) f + f. Следовательно, вектор R (s)f принадлежит области определения оператора А, и при всех [eft справедливо равенство

(Л — з (1 — s) I) R (s) f —= f.

(Мы предполагаем по-прежнему, что Res>3/2.)

Функции Грина и уравнение Уиттекера

В этом параграфе мы напомним некоторые факты из анализа} это подготовит почву для изучения резольвенты R (з). Будут рассмотрены некоторые специальные линейные дифференциальные уравнения 2-го порядка; этого достаточно для приложений, которые мы имеем в виду.

Пусть (а, 6) — открытый интервал (случай 6 = оо не исключается). Положим

Му — — -^г + р (у),

где р — гладкая функция на (а, ЬУ Функцией Грина дифференциального оператора М назовем функцию g, заданную на квадрате (a, b) X (а, ЬУ такую, что

ь'

Ми J g (у, у') f (у') dy' = f (у), f е СТ (а, ЬУа'

Другими словами, оператор Грина есть правый обратный к оператору М. В этом параграфе мы будем предполагать, что функция Грина удовлетворяет следующему дополнительному условию:

GF 0. Функция g непрерывна и принадлежит классу С” по каждой переменной вне диагонали.

Как мы сейчас увидим, существенно, что частные производные ядра g терпят разрыв на диагонали. В самом деле, предположим, что g удовлетворяет еще такому условию:

GF1. Если у^у', то Mvgk,y, /) = 0.

Другими словами, вне диагонали функция g удовлетворяет однородному дифференциальному уравнению.

Предположим, что функция g удовлетворяет условиям GF О и GF 1. Тогда g есть функция Грина оператора М в том и только в том случае, когда g удовлетворяет также следующему условию на скачок производной:■

GF2. Dig (у, у + 0) — D}g(y, у — 0) = 1.

Как обычно,

Dvg (у, у + 0) = lim Dig (у, у'Уу'-*у

>У1

аналогично, Dxg(y, у —0) вычисляется как левый предел.

Для доказательства приведенного утверждения напишем

Ъ у Ь

а а у

Возьмем производную по у и воспользуемся непрерывностью а.

Получим8

§ klj, у) / (у) + ^ Dxg (у, у^ / (у') dy' — а

b

g ку, у) f (у) + Dtg ^у, y'Yf (yz) dy'.

Таким образом, член g(y, у) f (у) сокращается. Вычисление второй производной приводит к выражению

у

Dig (у, У - 0) f (у) + $ Dig (у, у') f (у') dy7 — а b

Dig (у, у + 0) / (у) + $ D^g (У, у') f (у7) dy'.

у

Следовательно,

6

Мд j g (у, у') f (у7) dy' = (Djg (у, у + 0) — Dig (у, у — 0)) f (у) + а

Ъ

+ \Myg(y, y'^f^dy7. а

В силу условия GF 1 второй член в правой части исчезает. "Поэтому условие GF 2 эквивалентно тому, что g — функция Грина, что и требовалось показать.

Пусть 1, К — Два линейно независимых решения однородного уравнения, т. е.

— I" + pJ= 0,

-К" + рК = 0.

Существует единственная функция Грина, такая, что

g (У> У') =g (У> У') =А (у1 J (у), если у' < у,

g (У> У') =

g (У> У') =

В (у') К (У), если у7 > у.

Функции А, В определены этими условиями однозначно и будут вычислены ниже.

Чтобы доказать это, заметим, что если g(y, у7) имеет такой вид, то условие GF 1 выполнено автоматически. Условие непрерывности ядра g и условие GF 2 сводятся к системе линейных уравнений

Л (у) 7 (у) — S (у)/((у) = 0,-АШЧуНВ(^КЧу^\.

Положим W = JK7 — ГК (эта билинейная форма называется вронскианом). Заметим, что W7 =0 (это немедленно вытекает из дифференциального уравнения) и, следовательно, вронскиан постоянен; он не равен нулю, поскольку I и К линейно независимы. Отсюда

A = K/W,B = JfW.

Таким образом, для функции Грина мы получаем выражение

g^ у'} = '

Г к ^1 №> W

если

у' <

"У,

1 (у'У К (у)

.«7

если

у'"

> У-

Следующие два примера будут использованы в приложениях.

Пример 1. Рассмотрим оператор

..d2 S (1 — s)_.

^U dyi y2 ’ У ^ (0, °°)-

Соответствующее однородное уравнение имеет вид

При s N= xk мы можем взять в качестве линейно независимых решений у1-8 н у5. Вронскиан этих решений равен 2s—1, и, следовательно, функция Грина задается формулой

Ну- у'- 5) = 2Г^тНу- у'- 5) = 2Г^тy'syx-s ySy'X-sy'syx-s ySy'X-sпри у' при у'при у' при у'< У,>У-< У,>У-

Ну- у'- 5) = 2Г^т

Ну- у'- 5) = 2Г^т

y'syx-s ySy'X-s

y'syx-s ySy'X-s

при у' при у'

при у' при у'

< У,

>У-

< У,

>У-

Мы сохраним это обозначение до конца главы.

Пример 2. (Уравнение Уиттекера.) Пусть seC, Res>0, с — вещественное число, с^\. Положим

Однородное уравнение, отвечающее оператору Мн, имеет видф" (у) = ( с2 - ^^ ) ^ kyY

При больших у его можно рассматривать как возмущение более простого уравнения ф" = с2ф, имеющего независимые решения е±сУ. Мы покажем, что у возмущенного уравнения существуют решения с аналогичными асимптотическими свойствами. Более точно, мы покажем, что существуют два решения уравнения Уиттекера:

^3, С И К - Кз, с

со следующим асимптотическим поведением:

При у—х», с > 1

/ (у) ~ е-с»,Г (у) ~ — ce-sv,

К (у) ~ ес«,К (у) ~ ce-v

равномерно по s в любом фиксированном компакте в полуплоскости Re з > 0 (для Г (у) — в полуплоскости Re з > 1).

При у> О и фиксированном с

^е(у)~Г(^1}-(2суУ-«

равномерно по s на любом компакте в полуплоскости Re з > '4,К,.е^~^^суУ

равномерно по s на любом компакте в полуплоскости Re з > О; здесь

₽(з)=5к(1-/)Г'^=т^ро

Из асимптотики при у-*оо вытекает, что вронскиан функ-

—ций /, К асимптотически стремится к 2с; так как вронскиан не зависит от у, то он равен 2с тождественно. Поэтому существует функция Грина, задаваемая формулами

2с

если у' <

- У,

gs.Ay» у^ = *

I (/) К (У)

V 2с

если у<

С/.

Это единственная функция Грина, удовлетворяющая условиям GF 0 и GF 1 и имеющая вид Л (у7) / (у), если у' < у, и К (у) В (у'), если у < д'. Из равномерных оценок, сформулированных выше, следует, что функция Грина удовлетворяет неравенству

\ё,.ДУ.

(где С] — константа) равномерно по з на любом компакте в полуплоскости Res> 0 и по у, у' в области 0 < а < у, у7 < оо.

Доказательство. Нам остается доказать существование решений Js,e и Ks,e, имеющих нужные свойства. Напомним для этого некоторые классические результаты.

Положим

00

w, ^-тЬ) ^"^ S ^[/ (1+/)Г* ^

После замены переменных этот интеграл можно также переписать в виде

гЬ) е""' s"6"'"1 (‘ + 7)"Л'

о

Тогда функция Ws удовлетворяет уравнению Уиттекера

В самом деле, если мы подействуем на функцию

^-^-^['(l-H)]5-1

дифференциальным оператором

d2Л _ s (1 - s) X

dy1 4 4 у3

то она превратится в полную производную (по переменной /)-^-{^-'е-^е-^[^(1+0П.

граничные значения которой при / = 0 и t = оо равны нулю. Дифференцирование под знаком интеграла показывает, что функция ws удовлетворяет уравнению Уиттекера.

Положим

k.to- W.@CA - pL.$ е-У (1 + ^f' f.О

В силу теоремы Лебега об ограниченной сходимости ясно, что при у->оо интеграл в правой части стремится к величине

J e-t ts~'‘ Д = Г (s)

равномерно по с ^ 1 и по s на любом компакте в полуплоскости Res>0. Следовательно,

1$.с^~е-е»

равномерно при сделанных ограничениях на параметры. Дифференцирование под знаком интеграла дает

IV. (,) _-ск. to) + pL ,-=. \e-f (s-1) (1+у (^) 4.

Мы снова получаем нужную нам равномерную асимптотику Г$, с(у) при у->оо.

С другой стороны, имеем также

к с = т^гСУ f6-45■о

Зафиксируем е. Ясно, что при у-* О интеграл в правой части стремится к Г (2s—1) равномерно по s на любом компакте. Следовательно,

Это завершает исследование первого решения.

Второе решение изучается аналогичным образом. Пусть

1

Vs (у) = ^ yse-^ J e»t Vt (i _ Of* dt.о

Та же техника, что и раньше, основанная на построении разрешающей формы, показывает, что Vs — решение уравнения Уиттекера. В самом деле, оператор Уиттекера переводит функцию

yse-UReUt ^ (1 _ ^-i

в полную производную

-^-'^^(l-t)]8}

с нулевыми граничными значениями.

При у-> 0 немедленно получаем

1

Vs^~-^y\ где P(s) = $k(l-O]s’1^.

О

Положим

1

Ks. с (у) = V. (2су)(2суГ е-^ t ^ [t (1 - О]4"' Л.

о

Тогда функция Ks,c имеет нужное поведение при у->0. Сделаем замену переменных tv—>1 — t и затем u = 2cyt, du = 2cy df.

icy

Ks,c^ = "Y^ecn ^ e-“[w^l — "2^")] du.о

При у —> oo этот интеграл стремится к Г (s) равномерно в требуемой области. Следовательно, при у-^-оо

Ks. = ^~e=«

равномерно при сделанных ограничениях на параметры. С другой стороны, дифференцирование функции УД2су^ по у дает

K's, c(y)B~ Кз. с (у) — сКз. с (у) +

+^^ е~су t е2си‘ ^ О — ОГ-1 2с/ at.

о

Заменим снова t на I— t и положим u = 2cyt. Тогда третий член в правой части равенства примет вид

2су

о

Этот интеграл имеет при у-^-оо равномерную асимптотику 2сеси. Так как —cKSwC^~— сеСИ, мы получаем, что

Кз, с (у) ~ сес»

равномерно по s, что и требовалось доказать.

§ 7. Разложение резольвенты на Г\ф при о >3/2

В этом параграфе мы будем исследовать резольвенту, когда ст > 3/2 или даже о > 3. Разобьем сумму по всем элементам уеГ на две части. Пусть Го — группа матриц вида

/ ±1 п\\ О ±1J’/ ±1 п\\ О ±1J’neZ.neZ.

/ ±1 п\

\ О ±1J’

/ ±1 п\

\ О ±1J’

neZ.

neZ.

Напишем

r(z, z'; s) = y К ф(“(2> У2'); s) + 4 У ^^u^ '^У- 8У

Y^r,Y*r,

(Множитель !/г введен для того, чтобы учесть, что матрицы ± 1 е Г действуют тривиально.) Первое слагаемое мы будем называть вершинной частью резольвенты, а второе слагаемое — невершинной частью резольвенты. Займемся сначала исследованием вершинной части. Мы увидим, что ее тоже можно разбить на несколько слагаемых, причем соответствующие ядра удовлетворяют различным условиям ограниченности. В частности, мы введем, помимо Ь2(Г\§), и другие функциональные пространства, более удобные для изучения этих ядер.

Разобьем фундаментальную область на 2 части. Пусть а — большое положительное число. Обозначим символом f0 ту часть фундаментальной области, где у ^ а, и пусть Ft=F — Fo

(рис. 6). В соответствии с этим функции на фундаментальной области мы будем разлагать на две компоненты:

часто нам будет удобнее записывать это разбиение в виде столбца

чтобы можно было действовать на f операторами слева. Если, к примеру, /о и /] рассматриваются как элементы некоторых

функциональных пространств, то любой оператор Q можно записать в виде 2 X 2-матрицы:

/ Qoo Qoi / fo \

Мы будем рассматривать следующие функциональные пространства. Во-первых, естественно, пространство

H = L4v\^ = L4F^L4FxY

(Скалярное произведение берется по мере dz = dx йу(уг.)

Во-вторых, для любого вещественного числа ц определим пространство

здесь ^ц (F о) — пространство непрерывных функций на Fo с обычной sup-нормой, а ^ (FJ — пространство непрерывных функций f на Fb удовлетворяющих условию

I f (я + iy) I < У1*, снабженное нормой

11/11,»-= sup -L^LL.

zeF, у11

Таким образом, пространство И гильбертово, а пространства Я^(Р) банаховы. Заметим, что

Яос. Н, т. е. любая ограниченная функция принадлежит пространству Т2(Г\§), так как объем Г\Ф конечен. То же самое верно и для пространства Я-х с Яй.

Пусть к (z, z') — функция, определенная на произведении FiXFj. Мы будем обычно использовать обозначение ktj^z, z'^, чтобы подчеркнуть, что переменные (z, z') изменяются в областях F F/ соответственно. Будем говорить, что наше ядро имеет тип Я у, если оно непрерывно и выполняется оценка

Пусть, к примеру, k — kQY; тогда переменная z (а значит, и переменная у) изменяется в компактной области; следовательно, это неравенство имеет значение только для второй переменной. Таким образом, в рассматриваемом случае наша оценка эквивалентна неравенству

| Й01 (z, Zz) I < /И.

Будем говорить, что оператор имеет тип .^ если он задается ядром этого типа. Такие операторы, очевидно, удовлетворяют некоторым условиям непрерывности как отображения пространств Яр. Например:

Лемма 0. Пусть Цг, z') — ядро типа Я-^ тогда соответ- ствующий оператор К определен на пространстве Я^-н-в и не" прерывно отображает его в Я-у.

Доказательство тривиально и основано на простых манипуляциях е интегралами. Например, на FY справедливо очевидное неравенство

^(ууТ^у'1^^ <у-и.

Мы используем также тот факт, что некоторые отображения пространств ^ компактны. Чтобы доказать это, нам потребуется несколько дополнительных замечаний в духе теоремы Асколи. Для удобства читателя мы напоминаем здесь формулировку этой теоремы.

Теорема Асколи. Пусть X— компактное метрическое пространство, Ф — семейство непрерывных функций на X. Тогда Ф относительно компактно в пространстве непрерывных функций на X (с обычной топологией равномерной сходимости) в том и только в том случае, когда Ф равностепенно непрерывно и ограничено.

Доказательство см., например, в книге Ленга [1]. Равностепенная непрерывность семейства функций означает, что для любой точки х0 е X и любого в > 0 существует такое 6 > 0, что если | х — х01 < 6, то | f (х) — f (х0) | < е для всех f е Ф.

При доказательстве компактности отображений мы будем пользоваться теоремой Асколи вместе со следующим утверждением:

Пусть v < №• Множество Е равностепенно непрерывных функций на Р\, ограниченное в пространстве ЗЦ, относительно компактнее пространстве ^и.

—/Доказательство. Достаточно проверить, что множество Е вполне ограничено в ЗЦ, т. е. может быть покрыто конечным числом шаров заданного радиуса г > 0. По предположению, существует такое положительное число С, что для любой функции f^E выполняется неравенство

НШ^Су4, т. е. | f (у) |y~v ^С.

Выберем столь большое число У, что если у^У, то | Цу) \y-v,< в для всех feE. Напишем

где f — сужение функции f на область у ^ У, а /+ — на область у^У. Имеет место включение

MF\) 9^№)ХМ^\

Функция f+ лежит в шаре радиуса в в пространстве ^(Fy). С другой стороны, семейство функций {f"; fef} равностепенно непрерывно и ограничено на Fy. Поэтому, согласно обычной теореме Асколи, оно относительно компактно в пространстве ^(Fy). Наше утверждение доказано.

В приложениях семейство равностепенно непрерывных функций возникает при действии оператора К, задаваемого ядром fe(z, z'), на единичный шар в пространстве ^v. Рассмотрим, к примеру, ядро, определенное на произведении Fx X Fx. Пусть

Fy

Рис. 7.

/ — произвольная функция нз единичного шара в ,^v. Зафиксируем точку zoeFx; тогда

ОО

| Kf ^ - Kt (20) I < $ I к {у, у') - к (у0, yf) | /V ^-.а

Так как f принадлежит ограниченному множеству в пространстве ^v, она совсем выпадает из оценки, и все нужные неравенства вытекают только из свойств ядра. Таким образом, мы докажем равностепенную непрерывность для любого ядра, для которого можно перейти под знаком интеграла к пределу при уУо- На практике нужная оценка будет очевидной, если к — ядро типа $у но для ядер других типов, возникающих в вершинной части, потребуются дополнительные усилия.

Вершинная часть

Мы займемся сейчас суммой

г° (z, z'; s) = у У ф (м (z, ^z'Y s) = _ уеГ.

= 2 ф (и (z, г' + n); S) = ^ ф (12—_= 2 ф (и (z, г' + n); S) = ^ ф (12—_4УУ'4УУ'

= 2 ф (и (z, г' + n); S) = ^ ф (12—_

= 2 ф (и (z, г' + n); S) = ^ ф (12—_

4УУ'

4УУ'

Ясно, что г° — периодическая функция по переменной х и четная функция от х— х'. Следовательно, она имеет разложение Фурье вида

ОО

r° (z, z'; s) = /По (у, у'; s) + 2 X mt (у, yz; s) cos 2як (х — л/)»

к-1

где коэффициенты Фурье для к^О задаются формулой

41

tnKky, у'; s)= ^ г0^ г'; s)cos2лк(х — л/)dx.

-4i

Функция mK(y, у'; s) симметрична по переменным у, у' и удовлетворяет принципу симметрии по переменной seC:

mK (у, у'; s) = mK ку, у'; s).

Кроме того, из интегрального представления для тк ясно, что тк — непрерывные функции, в том числе и на диагонали.

*22

Рис. 8

Мы явно вычислим функцию /ту, и покажем, что она совпадает с ядром.t из примера 1 в конце § 6. Мы покажем также, что прн к ^ 1 функции тк — это в точности функции Грина из примера 2. Наконец, мы приведем оценки, из которых будут следовать свойства соответствующих операторов в различных функциональных пространствах.

Ядру ^(z, zz; з) соответствует оператор 7?°(s), определенный в пространстве ВС” (Г0\ф). Нетрудно показать, что

(L-s(l-s)W(s)f = f

для всех функций f е ВС” (Г0\Ф). Доказательство этого утверждения аналогично доказательству формулы kL-skX-s^RksH^f

для функций f е ВС” (Г\£). Фундаментальная область группы Го — это полоса S, изображенная на рис. 8.

Лемма 1. При к^О функция тДу, у'\ s) есть функция Грина дифференциального оператора

на интервале (0, оо). Кроме того, функция тк непрерывна и вне диагонали удовлетворяет однородному уравнению. Таким образом, тк удовлетворяет условиям GF 0, GF 1, GF 2.

Доказательство. Положим, для краткости, Ms = L — s(X— s)I.

Пусть f, g г С” (Г0\ф) — пробные функции. Формула обращения для оператора /?°(s) показывает, что

^ г° (z, z"; s) f (z") Msg (z) dz" dz=^f (z") g (z") dz". s ss

Изменив порядок интегрирования, получаем

J r° (z, z"; s) Msg (z) dz = g (z"). s

Зафиксируем точку z' и возьмем в качестве g функцию вида

g (z) = cos 2 л к (х — х') Л (у),

где йгС”(К+). Тогда

Af$g(z) = — у2[—(2лк)2соз2лк(х—х/)Л(у) + соз2лк(х — ^^'(у)]—

— s (1 — s) cos 2лк (х — xz) Л (у).

Напомним, что dz = dxdy[yl и

Чг ”

f ^zС С^ ^у .

JJ Jу2 ’

S-Чг о

поэтому, интегрируя сначала по х и замечая, что g(z') = h ^у^, мы получаем

(*)5m/c^’ y'UKh((y>)dy=h(,y'\

о

Зафиксируем значение у' и выберем пробную функцию h так, чтобы ее носитель не содержал точку у'; тогда (*) дает

тк (у, у'^ lKh (у) dy = 0.

о

По теореме регулярности для эллиптических операторов, отсюда следует, что функция тк бесконечно дифференцируема вне диагонали и удовлетворяет однородному дифференциальному уравнению 1К. нт,Ду, у') = ^-

Далее, проинтегрируем обе части формулы (*) с пробной функцией феСГ(Н+)- Получим

ОО ОООО

5 $ т« (У» у') l^h (у) ^ (у') йУ dy'^h (у) ф (у) dy.

0 0о

Изменяя порядок интегрирования в левой части, получаем для нее выражение

( U. 8 $ т„ (у, у') Ф (у') dy' I h (у) dy. о •- О

Отсюда вытекает, что

U. 8 \ тк ^у, у') ф (у') dy' =ф (у). 0 /

Таким образом, тк —/функция Грина, что и требовалось доказать./

Лемма 2. Предположим, что Res> 1. Тогда

~"1 f y'syx~s> 8Сли у' < у»

/по (У. y'^-t (у, у'-, s) =| ^ _SyS> всди у, > у

Кроме того, при к > 0 ядро тк (у, у'1, s) совпадает с функцией Грина gs 1пк^у, /), определенной в примере 2 § 6.

Доказательство. Имеем

‘/1

то (у, /; з) = $ ^ z'; s^dx*

-V2

Зафиксируем значение у'. Пусть у > у'. Так как вне диагонали ядро т0 удовлетворяет однородному дифференциальному уравнению, оно должно иметь вид

то (У, у'1, s^a^y1-5 -Vb^y5.

Так как <р(и)~и-а при w—>оо, то r°(z, z'; s)~*0 при у->оо.

Следовательно, b (у') = 0. Пусть теперь у < у'. Тогда

т0(у, у'; 8^ = 0^ yx~s -Vd^ys.

Так как u(z, z')—►«> при z/->0, то и в этом случае r°(z, z'; s)->0. Следовательно, с(/) = 0. Таким образом,

., х / а (/) У1-$> если у' < У*

{у'} ys, если у < у'.

Теперь из общей теории функций Грнна вытекает, что функция тв совпадает с ядром / из примера 1 § 6. В точности те же рассуждения показывают, что при к ^ 1 ядро mK совпадает с функцией Грина gs 2як. Заметим, что для того, чтобы отождествить тк с определенной функцией Грина оператора U, нам нужно было знать асимптотическое поведение решений однородного уравнения как при у-*оо, так и при у->0.

Из общих оценок, доказанных ранее для функций Грина gSiC, мы получаем равномерные оценки для ядер тк(у, у'\ з), к^1. Эти оценки сформулированы ниже.

При о > 1 определим ядро т (z, z'; s) формулой

т (z, z'\ s) = 2 X пгк {у, у'; s) cos 2лк (х — У). к—1

Лемма 3. Для всех о > 1 справедлива оценка — 2лк |»-у'|

I пи (у, у'; з) к С --, равномерная, когда з изменяется на компактном множестве и у, у' е [а, оо), а > 0. Поэтому ядро тк принадлежит пространству L? ф\ X Г\) “ соответствующий оператор

L^F^L^Fd компактен.

Обозначим символом М(з) оператор, единственная ненулевая компонента которого Ми(з) задается ядром m(z, z'; s). Таким образом, .mn(z, z'; s) = m(z, z'; s),

moi = mio = mOo = 0.

Мы получили следующее разложение:

r°(z, zf; s) = t{y, у'; s) + m(z, z'; s).

В следующих леммах мы докажем ограниченность операторов, соответствующих этим ядрам, в различных функциональных пространствах.

Операторы, возникающие из вершинной части, будут иметь только компоненту (1, 1). Это выполняется, в частности, для операторов T(s) и M(s). Таким образом, матричное ядро ^(s) оператора Т (s) имеет ненулевую компоненту

tn(z, z'\ s> = t^, у'; s),

в то время как компоненты 1^^ z'\ s) равны нулю, если i^i или i = j = 0. То же самое верно для оператора М (s).

Лемма 4. Пусть ст > ‘/г, 1 — о < р < о. Тогда для всех у^а справедлива оценка

$ МАу, у'; sWy,-^-< У^ а

и соответствующий оператор

ограничен.

Доказательство. Разобьем интеграл в левой части неравенства на два слагаемых:

\yx-atfoy'*^r-V J уау,х-°у'»^г.

аУ

Написанные интегралы легко берутся и оцениваются сверху функцией у*, что и требовалось показать.

Лемма 5. При а > 7г оператор Т (s) с ядром t (у, у'-, s) является ограниченным оператором в пространстве ^(Fx).

Доказательство. Выберем показатель р, как в лемме 4. Вез ограничения общности мы можем взять какую-нибудь функцию f е L2 ([а, оо)) и подействовать на нее оператором Т (s). Применим неравенство Шварца к функциям

I И.У, УА у'* \Ч* и Д(у, уАу' ~ц Г21 / (/) I-

Получим

I rf (у) I2 < $ Д ку, у') \y'^\\t (У, у') \y'-4f {уА I2 ^ • аа

Воспользовавшись леммой 4, получим

I Tf (у) |2 « [у* 11 (у, у') | у' -и | / ^ р ^_.а

Проинтегрируем обе части этого неравенства по у и еще раз применим лемму 4:

IITfII2« [ [ у* 1t (у, у') W^f (у') |2 ^г ^- « || f |g. а а

Доказательство закончено.

Лемма 6. Пусть с^1. Тогда для любого вещественного числа р. справедлива оценка

e-el»-»,'y'*dy'e^C1 '^у^, а

где Ci — постоянная, не зависящая от с и у.

Доказательство. Разобьем наш интеграл на два интеграла по промежуткам [а, у\ и [у, оо). Рассмотрим, к примеру, первый интеграл. Интегрирование по частям дает

L + 7 J е-с ^'W^-1 dy'.а

Первое слагаемое не превосходит C^jc. Второе слагаемое снова разобьем на два интеграла по интервалам [а, р\ н [р, у]. Первый из этих интегралов ведет себя как e~cvlc, а второй не превосходит исходного интеграла, умноженного на pipe. Выберем число р так, что р)рс < V2, и перенесем этот интеграл в левую часть. Доказательство закончено.

Лемма 7. Пусть о > 1. Тогда оператор M(s), задаваемый ядром mAz, z'\ s), непрерывно отображает L2(FX) в $-ДР^.

Доказательство. Пусть /—произвольная функция нз С2 ([а, оо)). В силу неравенства Шварца и леммы 6, можно написать цепочку неравенств

Ё $ ^^ । ? и i-^- < Ё -^ [$ ^.-^X < 6-1 ак-1 La

1 к к'*и У к-13

Полученная оценка доказывает нашу лемму.

Лемма 8. Пусть <т > 1, ц — произвольное вещественное число. Тогда оператор М(з) с ядром mkz, z'; s) задает непрерывное линейное отображение

Мк$У ^х^Зк-^

соответствующее отображение пространства ®_х в себя компактно.

Доказательство. Нам снова достаточно рассматривать функцийf e^№kUi оо)). Чтобы, доказать первое утверждение, оценим сумму

\S 5 ^ ^’ у': ^ У'*1"2 dy'’

\к=1 а

пользуясь тем, что

\е-2ле | у-у'|

\ \ткку, /; s)l«—2^

Теперь непрерывность отображения

M(s): SkU^^»-^

вытекает из леммы 6. При доказательстве компактности мы будем следовать схеме, которая уже упоминалась в начале этого параграфа, и докажем следующее утверждение:

Оператор M{s) переводит единичный шар пространства SkkF^ (v < 1) в равностепенно непрерывное подмножество.

Доказательство. Функция, принадлежащая единичному шару пространства Яч, ограничена. Зафиксируем точку z0 е Fx. Получим оценку

I Mks)f kz) — м ks)Hz0) К ^ Z '^^ у'; ^ — ^«(Уо, /; s)l-^-. а к—1

В этом неравенстве можно перейти к пределу под знаком интеграла. Это и доказывает равностепенную непрерывность. Заметим, что действие ядра свелось к тому, что функция f исчезла из правой части неравенства.

Невершинная часть

Наше исходное ядро г (z, z'\ з) при о > 1 получалось усреднением ядра r% (z, z'-, з) по подгруппе Г. Мы рассмотрим сейчас

ядро n(z, z71, s), компоненты которого задаются следующим образом:

ге00==Г00>«О1=Го1,«10 = Г[о,

«и (z, z'; s) = J У ф(м(г, yz'); s).

Обозначим операторы, задаваемые этими ядрами, соответствующими прописными буквами:

^(s)^^(s)^^00 (5)Rio (з)^00 (5)Rio (з)Rot (з) ЧRot (з) Ч

^(s)^

^(s)^

^00 (5)

Rio (з)

^00 (5)

Rio (з)

Rot (з) Ч

Rot (з) Ч

Лемма 9. При о > 3/2 все ядра щДг, z'; s) принадлежат пространству I? (Fz X FjY таким образом, N (s) — компактный оператор в L2 (F). В действительности, если (i, j) =/= (0, 0), о > 1 и е>0 достаточно мало, ядра пц^г, z'\ s) имеют тип ^2+е—а» Т. ®-

| r,x (z, z7; s) | < у'^6-",

I r10 (z, z'; s) | < y2+e-°,

I «и (z, z'; s) | « (z/y,)2+e-ff.

Наконец,

r03 (z, z'\ s) = —^ log | z — z71 + непрерывная функция от (z, z'\

Доказательство. Ясно, что из приведенных оценок вытекает квадратичная интегрируемость всех ядер. Для доказательства этих оценок нам потребуется еще одна лемма.

Лемма 10. Пусть уй > 0. Тогда в полуплоскости а > 1 справедлива следующая оценка, равномерная при у, у' "^ уй,

X^Г„X^Г„1[1 +и (2, уг')]а1[1 +и (2, уг')]а< (Z//)2+8-a.< (Z//)2+8-a.

X

^Г„

X

^Г„

1

[1 +и (2, уг')]а

1

[1 +и (2, уг')]а

< (Z//)2+8-a.

< (Z//)2+8-a.

Доказательство. Запишем матрицу у ^ Го в виде(а Ъ\

y = L d)'с¥=0-

Тогда

4уу'и {z, ^z') = czz' -\- dz — az7 — b2 = (cxx7 -\- dx — ax' — 6)2 + + y2 <cx' + dY + y72 (ex — a)2 + c2y2y72 — 2yy7.

Пусть z0-=x + iy0, 2^ = хг-\-1уй (см. рис. 9). Выражение для величины 4y0y'«(z0, yz') получается из написанного выше заме- яой у и у' на у0. Заметим, что первый член зависит только

от х, / и одинаков в обоих выражениях. Воспользуемся, кроме того, очевидными неравенствами типа

X yl^-Vd?>y^cx,-^d^

Получим \

4уу'и (z, уг'} — 4у^ (г0, yz') > ^y^ — с2^ — 2уу' + 2у^,

откуда

Ауу' [1 + «(z, у/)] > 4у2 [1 + м (z0, yz^)] + ^ с1 <уу7.

Поделив на (,ууТ> получим

1 4- и

4^>4wtI+“°l

(обозначения очевидны). Это неравенство не нарушится, если возвести его левую часть в степень о, а правую — в степень 1 + в и умножить ее затем на достаточно большую постоянную (зависящую от в, о и у^. Таким образом, справедлива оценка

|1+«(£, Y2')]0[l+u(z, yz0)]1+B ‘ (у/)0"2"28 *

Доказательство завершается ссылкой на лемму I § 5.

Оценки в лемме 9 получаются комбинированием леммы 10 с оценками типа

У | Ф (м (z, yz'); s) | <C y'v -o.

когда z меняется в компактной подобласти. Эта оценка вытекает нз неравенства

2п— I2п— IУ'°(у'2 + п^аУ'°(у'2 + п^а« у'1-°.« у'1-°.

2п— I

2п— I

У'°(у'2 + п^а

У'°(у'2 + п^а

« у'1-°.

« у'1-°.

Ряды такого вида и аналогичные нм интегралы мы уже рассматривали при изучении представлений дискретной серии.

Лемма 11. Пусть о > 3. Тогда оператор N (s) отображает пространство ^i в $-\-ь для некоторого д > 0. Оператор

N (s): ^ -* ^-]

компактен. Кроме того, оператор N (s) непрерывно отображает пространство Н в S8-v

Доказательство. Ядра рассматриваемых операторов имеют тип ^2+в-а- Доказательство сводится к оценке элементарных интегралов. Например, если I г$х (F^, нам нужно оценить интеграл

$ {УУ^^У'^Г^У^^

Отображение N (s): ^!->^_! компактно по той же причине, что и выше. Применяя оператор к единичному шару, мы получаем равностепенно непрерывное семейство функций. Чтобы показать, что оператор N (s) отображает пространство Н в ^_ь достаточно воспользоваться неравенством Шварца.

§ 8. Уравнение —^'"(У^на промежутке [а, оо)

Для того чтобы исследовать указанное в заголовке дифференциальное уравнение на полупрямой, потребуется ввести еще одни оператор. Мы будем предполагать, что а^1. Пусть х>3. Положим

6(у> s) = ys + c(s)y‘-5.

Тогда 9 (у, s) — решение нашего дифференциального уравнения, удовлетворяющее краевому условию 9 (а) = ах-'9' (а). Как легко

проверить непосредственно из определений, справедливы следующие соотношения:

с(з) с(1 — s) = I,6 (z/, s) = 6(y, 1 — з)с(з).

Мы будем называть эти соотношения функциональными уравнениями Эйзенштейна.

Решения 6 (у, з) н yx-s линейно независимы, и их вронскиан равен 2з — 1. Из общих свойств функций Грина, которые мы обсудедали в § 6, вытекает, что

1 f 6(у', з^у1"5, если у' <у,

Ч\У> У » s) 2s — 1 | 0 (у, з) y'v-s, если у < у',

— функция Грина нашего уравнения. Ясно, что функция qVy,y'\ з) симметрична по переменным у, у' и удовлетворяет условию

q^y, у'; s) =q(y, у'; з).

Пусть Q(s) — оператор, единственная ненулевая компонента которого задается ядром

yH(z, z'; s^ = q^y, у'; s);

таким образом, для подходящей функции f на F имеем

Q ($) f (z) = ^q (у, у'; s) f (z^ dz'.

Заметим, что Q(s)f не зависит от х.

Мы опишем сейчас свойства оператора Q(s) в различных функциональных пространствах.

Лемма 1.

При а > '/г оператор Q (з) — ограниченный оператор в пространстве Н.

(н) При 0 < а <2 оператор Q (з) непрерывно отображает пространство ^-х (F^ в $x-a<FxY отображение

компактно.

Доказательство. Непрерывность операторов Q(s) доказывается так же, как и соответствующие утверждения для оператора Т (з) в леммах 4 и 5 § 7. Из рассмотрения тех же элементарных интегралов ясно, что оператор Q(s) отображает пространство $_х в $х-а. Компактность оператора Q(s): ^-x->^i вытекает теперь из следующего утверждения:

Единичный шар пространства Я-х под действием оператора Q(s) переходит в равностепенно непрерывное множество.

Доказательство. Пусть f — произвольная функция из $_х. Тогда

IQ(s)f(y)-Q(s)f (уо)К $|?(у, /; s}-q(y0, у'-, s) 11/(2') Idz'.

Оценим правую часть, заменив |/(г')| на у*-*; подынтегральное выражение не превосходит

Последняя функция интегрируема на промежутке [а, оо). Теперь наше утверждение очевидно.

Соотношения для ядра q(s)

Пусть кДу, у'\ k2(y, /) —два ядра. Определим нх свертку формулой

(*1 * ^2) ^у, у') Ць^, у") 62 (у", у') ^;а

в конкретных приложениях нам нужно будет проверять абсолютную сходимость этого интеграла при тех нли иных значениях параметров. Свертка ядер соответствует композиции операторов, задаваемых этими ядрами. Если операторы действуют на функции слева, то ядро kx*k2 соответствует оператору КХК2 (при правом действии порядок операторов заменяется на обратный). Это верно во всех пространствах, где рассматриваемые интегралы абсолютно сходятся.

Перечислим некоторые свойства сверток ядер q^s) и ^(з).

Как обычно, мы считаем, что х > 3, и полагаем

а(з) = з(1 — з) —х(1 — х).

Для краткости мы будем также писать Т вместо Т (х).

Пусть а > 1 —х. Тогда справедливо соотношение

ql. q (у, у'; з) - / (у, у'-, х) = с» (з) ^ (у, у"; х) q [у", у'; з) -^ ■ а

Это соотношение можно также записать следующим образом:

qs — tu = to (s) t4 * qg,

или, в операторной форме,

Qi.Q(s)-T = a(s)TQ(s).

Соотношение q 1 проверяется при помощи непосредственных вычислений, исходя из определения ядер qs и tw Пусть, к примеру, у' < у. Разобьем интеграл по промежутку [а, оо) следующим образом:

* у'у«>

j •аау'у

Подставим сюда определения ядер Цу, у"; х) и q(y", у'*, з) и возьмем все интегралы. Мы получим требуемое соотношение.

Пусть, как и выше, Т = Т ^х\ Соотношение Q 1 эквивалентна следующему соотношению:

Q 2.(7 —• со (з) Г) Ц + <о (s) Q(s)) = 7,о > 1 — х.

Чтобы проверить это, достаточно раскрыть скобки. Кроме того, так как ядра qs и tH симметричны, они коммутируют:

q 3.t^ * qs = qs * tw о > 1 — x.

Следовательно, операторы Г (х) и Q (з) также коммутируют:

Q3. Т (х) Q (s) = Q (з) Г (х),о>1-х.

Отсюда вытекает также, что операторы

I-q^T и 7 + ®(3)Q(s)

взаимно обратны на любых пространствах, где их композиция определена.

Ленма 2. Операторные соотношения Q 1, Q 2, Q 3 справедливы при следующих условиях;

(i) в пространстве Н при а > ’/г",

(П) в пространстве $_х при 0 < о < 2.

Доказательство. В силу лемм 0, 4 и 5 § 7, интегралы, содержащие ядра qs, tw абсолютно сходятся в соответствующих областях.

В следующем параграфе нам потребуется также формула

q4. qky,y'\ $) — q(y, у'; 1 — s) = 2Д t 6 (у, s)6(y', 1 — s).

Эта формула немедленно вытекает из определений и справедлива без всяких ограничений на значения параметра з. Соответствующее операторное равенство (Q 4) показывает, что разность Q(s) — Q(1 — s) представляет собой одномерный оператор; мы не будем выписывать это соотношение явно.

Соотношения, приведенные ниже, не потребуются нам вплоть до § 11; мы выпишем их здесь только для того, чтобы иметь полную таблицу соотношений, в которые входит ядро qs.

q 5. q {у, у'-, s) — q (у, у'; s') =

= [to (s) — to (s')] J q (y, y"; s) q (y", y'; s')-^- a

при о, o' > 7г-

Заметим, что

to(s) — to (s') = s (1 — s) — s' (1 — s').

Это соотношение снова проверяется прямым вычислением. Ограничение ст, ст' > 7г здесь существенно, так как иначе, скажем, для s' = 1 — s мы получили бы го (s') = to (s), и вся правая часть равенства обратилась бы в нуль. С другой стороны, заметим, что формула q 4 выражает разность ядер qs и qx_s через функции 6S. Отметим, что операторная форма соотношения q 5 имеет следующий вид:

Q 5. Q (s) — Q (s') = [to (s) — о (s')] Q (s) Q (s').

Наконец, справедливо такое соотношение:

q 6. ^q(y,y'-,sW, s') ^=-^A—^ky, s') a

при o' <a.

Это соотношение тоже проверяется прямым вычислением; эквивалентная операторная формулировка:

Другими словами, если выполнено условие а' < ст, то 0S- — собственная функция оператора Q(s).

Лемма 3. Пусть х > 3; положим M = MVx). Произведения операторов MQ(s) и Q(s)M определены на пространствах %_х и $х соответственно и

MQ(s) = 0, Q(s)M = 0.

Доказательство. Ядро оператора Л1(х) представляется в виде ряда Фурье, содержащего cos 2лк (х — х'); следовательно, оно ортогонально ядру оператора Q (s), которое не зависит от х.

На этом заканчивается наш список соотношений для операторов Q(s). В прилагаемой таблице мы свели воедино основные результаты о непрерывности рассмотренных нами операторов

в различных пространствах н некоторые соотношения между этими операторами.

T(s), ст > '/г! единственная ненулевая компонента (1,1).

Непрерывен как оператор в Н.

Непрерывен как оператор в ^ц при 1 — о < р. < а.

M(s), о> 1; единственная ненулевая компонента (1, 1).

Компактен как оператор в Н; ядро m (z, z'; з) принадлежит L? (Fi X Fx\

Непрерывно отображает ^ в ^№-2; компактен как оператор из ^-, в ^_,.

Непрерывно отображает Н в 98-х.

N (s); ядро имеет тип 2 + г — а

При а > 3/2 компактен как оператор в Н; ядро n(z, z'; s) принадлежит I? (F X F).

При a>3 непрерывно отображает ^x в-^_х_6, 6 > 0; компактен как оператор из ^/в SLX.

При а > 3 непрерывно отображает Н в 98_х.

V = М (х) + N (х), х > 3; единственная ненулевая компонента (1, 1).

Компактен как оператор в Н; непрерывно отображает Н в %_х.

Непрерывно отображает ®х в ^-х; компактен как оператор из ^-х В $-х.

^ единственная ненулевая компонента (1, 1).

Непрерывен как оператор в Н при ст > '/г-

Непрерывно отображает %-х в $х-а\ компактен как оператор из ^-х в Ях (0 < ст < 2).

Г = Г(х), М = М(х), N = NM

£ = Жх) = Т + У

Собственные функции оператора Лапласа в пространстве £2(Г\ф) = Я

Напомним, что А — замыкание оператора Лапласа с областью определения DA с: Н. Нас интересуют собственные функции оператора А, т. е. такие элементы ф a DA, ф ^ 0, что Лф=Хф.

Предположим, как обычно, что х > 3. Заметим, что если ф (= Н — ненулевой вектор и R (х) ф = аф для некоторого комплексного а =/= 0, то ф г DA и

Лаф = (1 — х(1 — х)а)ф;

таким образом, -ф — собственная функция самого оператора Л. Мы исследуем собственные векторы оператора /? (х) в Я и покажем, что они соответствуют собственным векторам некоторого компактного оператора в пространстве Я-х.

Пусть 0 < о < 2. Положим, как и раньше,

CD = СО (s) = S (1 — s) — X (1 — х).

Пусть

^(s)^l/ + co(s) KQ (з) = У (Z + coQ (s)). |

Рассмотрим последовательность отображений:

О (s)V

$_х^$х_0-^$_х.

Мы знаем, что оператор V компактен. Отсюда ясно, что оператор

K(s): S_x->$_x

тоже компактен. Мы используем его для аналитического продолжения резольвенты в полосу 0 < ст < 2. Однако в данный момент мы интересуемся только дискретным спектром, и поэтому мы будем рассматривать его только в области справа от прямой ст = */2.

Пусть ’(2^0 < 2. Обозначим символом ,^?_[(со(s), /((s)) собственное подпространство оператора Я(з) в пространстве ,®_ь отвечающее собственному значению ®(з)-1, т. е. пространство функций te^-v, таких, что

6» (з) К (s) f = f.

Аналогично, пусть Н (со (s), R) = Я (со (s), R (х)) — собственное подпространство оператора R в пространстве Я, отвечающее собственному значению со(з)-1, т. е. совокупность таких функций ф е Я, что

cd (s) R (х) ф = ф.

Теорема 7. При 'ja^a <2 и s #= ‘/г отображения

I + &(s)Q(s) и I — со (s)T (х)

задают взаимно обратные изоморфизмы пространств

&-х (со (з), К (з)) иН^ (s), R (х)).

Доказательство теоремы 7 содержит формальные выкладки, основанные на соотношениях между различными операторами, а также оценки, которые мы докажем как отдельные леммы. Начнем с формальной части. Мы будем для краткости писать Q вместо Q (s).

Предположим сначала, что fe^_x и а К (s) f — f, т. e. что ®V(Z + ®Q)f = f.

Поскольку R = T + V, то

qR (I + aQ) f = о (T + 7) (Z + aQ) f =

= (®Г + ®27Q +/) f = (Z + <oQ) f;

тем самым первая половина теоремы доказана.

Обратно, предположим, что феЯи <а7?ф = ф. Тогда 7фе^_] и1

с»Тф 4- <аУф = ф;

таким образом,

(Z — ©Т)ф — и7ф s ^_ь

Тогда

<йК (s) (Z — ®Г) ф = со7 (Z + c»Q (s)) (Z — <оГ) ф =

— (о7ф = (Z — mT) ф.

Мы проверили обратное утверждение; тем самым формальное доказательство теоремы 7 закончено.

Нижеследующие леммы обосновывают эти вычисления. Заметим, что для первой части нашего рассуждения нам нужно было знать, что если /е^_ь то функция Q (s) f принадлежит пространству Н. Это утверждение очевидно, когда Res = = а > ‘/г- При а — х[2 оно будет доказано в леммах 1 и 2. Во второй части доказательства мы пользовались тем, что отображение

(Z + ®Q)(Z-o>T) действует на функцию ф как тождественный оператор. Это будет доказано ниже в теореме 8.

Лемма 1. Пусть s = xl^-\-U, причем t^O. Пусть fe$-Y — собственная функция оператора К (s), т. е.

o(s} K{s)f— f.

т. е.т. е.Тоеда сужение функции f на Fx ортогонально функции 9 (z/, s),

т. е.

т. е.

9 (у, s) / (г) dz = 0.

Fl

Доказательство. Положим ф = (Z + oQ (s)) f. Тогда, в силу наших предположений н определения оператора К^, ^ = е>У^. Функция ^(z)f(z) принадлежит пространству £’(F), так как f е.^^ и.фе^,. Интегрируя ее по фундаментальной области, получаем

^ ф (z) f (z) dz = <a(s) ^ ф (z) Иф (^dz —

FF

= cd (s) ^ J ф (z) v (z, z'; x) ф (z') dz' dz.

F F

Заметим, что ядро u(z, z'\ x) оператора V вещественно и симметрично. Кроме того, так как о = ‘/г- то 5 = 1 — $; поэтому функция to (s) = cd (5) вещественна. Отсюда немедленно следует, что мнимая часть интеграла в правой части равенства равна нулю. Таким образом,

6t>f — Ф/) dz = 0-

Но -ф/" = [f + <0 (S) Q(S) f] f н ф^ = [/ + co(s)Q(s)f] /. Следовательно, 0 = $ ^ Vd<y, у'’, s^ — q^y, y'; 1 — s)] f (z) Цг7) dz dz' =

F, F,

5 6(У> s)f (z) dz 2, Fx5 6(У> s)f (z) dz 2, Fx= 5 § 6 (У. s)6 ку', s) t (^ f (z') dz dz' = Л Fx

5 6(У> s)f (z) dz 2, Fx

5 6(У> s)f (z) dz 2, Fx

что и требовалось доказать. В наших выкладках мы воспользовались соотношением q 4.

Лемма 2. Пусть 0 < о < 2 и s #= '/г- Если f ® ^_ь то

(*) Q (S) f (z) = -^^ У1-5 $ 6 (/, s) f (z') dz' + О (1).

^K^1 = L

то функция Q (s) f ограничена и, в частности, принадлежит пространству Н.

Доказательство. Воспользуемся определением ядра q ^у, у'; s) и соотношением

(2s — 1) Q (s) f (z) = t q (y, y'; s) f (x + iy'"> dx.

-41 ay

11 Зак. 589

Напишем а а ц

Интегралы по переменной у' принимают вид уОО

1/1-^ 9 ly', з) НН ^r + $ y,x"s (ys + с (s) у1-) f (z') ^-. ау

Легко видеть, что второй из этих интегралов ограничен. Интеграл

У

сходится и оценивается следующим выражением:

у

Таким образом, главный вклад вносит первый интеграл и мы можем заменить в нем предел интегрирования на со.. Первое утверждение леммы доказано. Обратимся к второму утверждению. Если ст > '/э, то из интегрального представления ясно, что функция Q (з) / ограничена. Пусть о = */2, но з ^ Vai тогда из леммы 1 следует, что если

«(3)/C(s)f=f,

то интеграл в оценке (*) обращается в нуль. Это завершает доказательство.

Теоэема 8. (/Маас.) Пусть ^s = x]2, s^xj2. Если ^sH=« =ьчт и

Лф «= s (1 — з) ф,

то функция ф аналитична и удовлетворяет оценке | ф ^х + iy) | < е-2яу.

В частности, функция f = (1 — <в (s) Т (%)) ф принадлежит пространству S-v Если ^е^ для некоторого ц>0 и Тф = з(1—з)ф, то существуют такие постоянные Ьо, с0, что

Ф U + iz/) = boys + coy'~s + О (е-2яу).

Доказательство. Для любой пробной функции g s С” (Г\ф) имеем

<(Л — з(1 — з))ф, g) = <ф, (Л— з(1 — s^g).

Следовательно, по теореме регулярности для эллиптических операторов, функция ф аналитическая и

(А — s (1 — s)) ф = Лф — s (1 — s) ф.

Поэтому ф разлагается в сходящийся ряд Фурье:

ф (х + iy) = Oq (у) + 2 а„ (у) е-°я<"х,

п Ф О где

■А

ап (у) = Ф (х + гУ) е-2яМ* dx.

Так же как и для ряда Фурье резольвенты, легко видеть, что»п (у) = (4л2п2 — ^7"" ) ап (у),

т. е. функция ап есть решение уравнения Уиттекера. Следовательно, существуют постоянные Ьп, сп, такие, что

»п {у) = bnWs (4л | га | у) + cnVs (4л | га | у),

где Ws — экспоненциально убывающее решение уравнения Уиттекера, a Vs — экспоненциально растущее решение. Если функция ф принадлежит пространству L? или S^, то ее коэффициент Фурье имеет, самое большее, полиномиальный рост на бесконечности; таким образом, экспоненциально растущий член должен отсутствовать, т. е. с„ = 0. Зафиксируем точку ух, такую, что при у ^ Ух выполнено неравенство

|Г5(у)|>|е-^2.

Так как ряд Фурье — всюду сходящийся, его коэффициенты ограничены. В частности, существует такая постоянная Сх > О, что

I Qn (t/1) I I bnWs (4л | га | ух) К Сх

при всех га ^ О, откуда

|6„|<Се2я|п|»'.

Если y^lyx, получаем

| ф(х + iy) — а0 (у) К £ е2я1п1У-е-5я1п|» < е~2я»;

Я 56 О таким образом,

Ф (х + iy) = а0 (у) + О (е--°яУ).

Далее, функция а0 есть решение уравнения

4' ^ = — - «о ку)-

н*

Поэтому существуют такие постоянные Ьй, с0, что

а^ДД = boys + cQyx~s.

Если Re s = */2, это совместимо с условием -ф е L2, лишь когда Ьо = со = О. Итак, теорема 8 доказана.

Замечание. Рассуждения аналогичного типа использованы самим Маасом в работе [1].

Из определения оператора Q(s), который отображает пространство в ^!-а, и компактности оператора V мы получаем следующие свойства семейства операторов К (s):

Теорема 9. Отображение s *—> К (s) есть аналитическая функция в полосе 0 < сг < 2 со значениями в пространстве компактных операторов на ^-ъ за исключением, возможно, полюса в точке 5 = 1/2, который появляется из-за множителя (2s— I)-1 в определении оператора Q(s). Во всяком случае, отображение si—*(2s— 1) ^ (s) аналитично во всей полосе. Множество точек з в полосе, в которых оператор

/ - со (s) К (s) необратим, дискретно, и отображение s^(/-m(s)K(s))-1 имеет лишь полюсы в этих точках.

Доказательство. Аналитичность отображения s *—> К (s) очевидна. Свойства операторов и ядер, аналитически зависящих от параметра, подробно исследованы в приложении 5 и в конце следующего параграфа. Мероморфность отображения

s (/ — со (s) к (s))-1

вытекает из абстрактных теорем об аналитических семействах компактных операторов, доказательство которых приведено в приложении 5.

Будем называть точки s, в которых оператор / — coA(s) необратим, сингулярными. Как показывает теорема 8, множество сингулярных точек в полосе 0 < Res <2 дискретно. Из теоремы 7 мы знаем, что сингулярные точки, лежащие на прямой ст = 1/2 (за исключением точки s = 1/2) или на отрезке 1/2 <s^l, соответствуют собственным значениям оператора Лапласа.

Резольвентное уравнение в полосе О < <т < 2

Мы по-прежнему считаем, что х > 3, и используем обозначения

R = R (х), V = V (х), Т = Т (х).

Справедливо разложение

R = T-VV.

Напомним также, что

со = со (s) = s (1 — з) — х(1 — х).

Мы хотим найти аналитическое выражение для ядре резольвенты, которое было бы пригодно во всей полосе С < сг < 2 и представляло бы резольвенту при сг > ‘/2. Основное резольвентное уравнение имеет вид

R (s) — R = со (s) RR (s).

Рассмотрим сначала вопрос о единственности.

Лемма 1. Пусть vk^o < 2, s ^= 7а- Предположим также, что точка з несингулярна. Тогда существует не больше одного ограниченного оператора X в пространстве Н = Ь2(Г\^, такого, что

X — R = a(s) RX.

Доказательство. Пусть X, X' — два решения приведенного уравнения. Тогда

X-X' = to(s)R(X-X').

Если X— X' ф 0, то любой ненулевой вектор ф = (Х— X'^h, heH, удовлетворяет уравнению

ф = со (s) T?^;

это означает, по определению, что точка з сингулярна (противоречие).

Заметим, что ядро г (z, z'\ s) представляет резольвенту, когда сг > 7г и s не принадлежит интервалу (7г, 1]- Хотя мы найдем выражение для ядра, пригодное в полосе, оно не будет представлять резольвенту при других значениях параметра з

Проделаем сначала алгебраические преобразования, чтобы привести резольвентное уравнение к более удобному виду, и для этого выполним формальные вычисления. В конечном итоге мы хотим получить для резольвенты следующее выражение, справедливое, когда з— несингулярная точка нашей полосы: (2)R (з) = Q (з) + (7 + coQ (з)) В (з) (7 + coQ (з)),

где В(з) — некоторый оператор. Посмотрим, каким необходимым и достаточным условиям должен удовлетворять этот оператор, чтобы было выполнено равенство (2). Воспользуемся формально соотношениями

(Г—соГ) = (7 + coQ(s))-1

и Т + Q (s) Т.= Q (s); получим

X — R—toRX-^X — R = <pTX-\-a>VX

4Ф(/-®П^ = ^ + ®^

^^ = (7 + ©Q(s))B + ®(/ + ®Q(s))V^

^^ = Q(s) + (/ + <oQ(s))y + <O(/ + cDQ(s)) V X.

Предположим, что X = Q (s) + (/ + <oQ (s)) В (s) (/ + ®Q (s)); тогда это эквивалентно следующим равенствам:

^B^ = V 4-6)H(/ + ®Q(s))S(s)

^BU) = V -Y-aK^B^

<4U-®X(s)]B(s) = V.

Мы хотим свести исследование резольвенты к изучению компактных операторов. Как сейчас будет видно, наша подстановка как раз и подходит для этой цели.

Лемма 2. Пусть s — несингулярная точка полосы 0 < а < 2. Тогда оператор

I — юК (s): ^-1-*^-1 обратим, и существует единственный оператор

В (s): ^-i-*S@-b такой, что

[I—• а>К (s)] В (s) = V.

Более того, оператор B(s) компактен.

Доказательство. Мы знаем, что оператор К (s), а значит, и <»К (s), компактен. Следовательно, оператор / — ®К (s) фредгольмов. Так как, по предположению, точка s несингулярна, то оператор / — <рК (s) имеет нулевое ядро. Отсюда вытекает, что он обратим. (Мы используем тот факт, что индекс фредгольмова оператора — локально постоянная функция и что для компактного К отрезок I — tR, O^/^l, соединяет оператор / — К с единичным оператором в пространстве фредгольмовых операторов. См. Ленг [1].) Так как оператор У компактен в пространстве ^-ь то и оператор B(s) компактен.

Оператор V задается ядром о, которое имеет логарифмическую особенность на диагонали и, следовательно, не может быть непрерывным. По этой причине удобно еще немного преобразовать оператор В (s'), а именно, положить (10)B1(s) = B(s)-y.

Тогда уравнение

[Z-®7<(s)]B(s) = y

эквивалентно уравнению

(И)yi-<pK^\bv^=bm

где

Во(5) = о>У(/ + <оО(з))У.

Вернемся немного назад и определим ядро, соответствующее последнему равенству. Для любого несингулярного 5 из нашей полосы определим ядро Ьй,5 оператора B0(s) формулой

bo, s = tou * и + ю2о * qs* у,

где и = о (х) и qs — ядра операторов I/ и Q (s). Это определение применяется покомпонентно к ядрам, соответствующим произведению Ft X F; двух частей нашей фундаментальной области.

Лемма 3. Пусть 0 < а < 2; предположим также, что точка s несингулярна. Тогда

Все компоненты ядер о* и и v*qs*v имеют тип $_ъ и, следовательно, все компоненты ядра bOiS имеют тот же тип.

Семейство функций b0, z, s, задаваемое формулой Ьа, z, s (zf) = b0 (z, z'; s),

равностепенно непрерывно для всех ze РД1 = 0, 1).

Доказательство. Рассмотрим сначала компоненту ядра о * и, действующую на Fo X Fo. Заметим, что соответствующая компонента ядра v равна

гю (z, z'\ х) = -у У ф (« (z, yz'); х).

С точностью до постоянного множителя это ядро имеет вид log| z — z' | + непрерывная функция от (z, z7), где z, z' a FQ. Особенности ядра г00 * г0о могут возникнуть от свертки двух логарифмов. Итак, нам нужно показать, что ядро

I (z, z7) == ^ log | z — z" | log | z' — z" | dz"

непрерывно. Разобьем этот интеграл на 3 слагаемых, выделив в нем вклад от окрестностей точек z, z'. Ясно, что интеграл по дополнению является непрерывной функцией. Интегралы по

маленьким кружкам 12" — z | < е, | z" — г71 < е сходятся и не превосходят величины

е2 | log |z" — z | log | z" — z711 dz" «

Fa

< 82 Q log2 I z - z" | dz"^1Q log21 z7 - z" | dz"^ 2 « 82

(мы воспользовались неравенством Шварца). Теперь непрерывность ядра Гоэ * гоо очевидна.

Оператор V имеет вид V = М 4* N, причем компоненты «он п10) пи ядра оператора N имеют тип ^-ь а оператор Мп задается ядром

m (z, z7; н) = ^mt (у, у'; х) cos 2л/ (х — V),

где

\шДу, у'; %) К

Остальные компоненты Л4Оо> ^ы, ^oi равны нулю. Легко проверить, что ядра операторов NN, MN, и NM имеют нужный тип. Мы приведем детали вычислений для последнего остающегося ядра пг * т.

Лемма 4. Пусть m^z, z7; х) — то же ядро, что и выше. Тогда ядро пг* пг имеет тип $-\.

Доказательство. При / =# / имеет место соотношение ортогональности

cos 2л/ (х — х") cos 2л1 (х — х") dx" = 0.

-‘А

Следовательно,

| (m * т) (у, if) I « Е I (пг, * mf ^у, у') I;

кроме того,

? е-2л/ I у-у" 1е—2л/ | у”-ч' | Ду» Wtn^mfM /2^г-

а

Пусть, к примеру, у' < у. Разобьем интеграл, как и раньше, следующим образом:

оо у'Уоо

=$+$+$•аау'у

Получаем оценкуПолучаем оценкуI < у e-2ni ^+«'>I < у e-2ni ^+«'>ginjyginjy

Получаем оценку

Получаем оценку

I < у e-2ni ^+«'>

I < у e-2ni ^+«'>

ginjy

ginjy

Если t/^2t/', то слагаемое, содержащее константу а, экспоненциально убывает при у + у' -> оо и, таким образом, ведет себя даже лучше, чем нужно. Первое слагаемое ведет себя, как 1/z/'2, или, что то же самое, как Цуу'. Если у ^2у', то в ядро входит общий экспоненциально убывающий множитель е-2я^.

Проверку того, что ядро u*qs*u имеет тип ^_ь мы предоставляем читателю. Напомним только, что

MQ (s) = Q (s') М = О,

благодаря тому, что косинусы ортогональны постоянным и, в силу определения, оператор Q(s) имеет лишь одну ненулевую компоненту QH, которая зависит только от у.

Итак, мы доказали первую часть леммы 3.

Что касается второй части, то я не вижу другого способа доказательства, кроме проверки возможности предельного перехода под знаком интеграла в выражениях для компонент ядра 60(z, z'; s). Тем самым будет доказана равностепенная непрерывность соответствующего семейства функций. Чтобы проверить это, нужно провести чуть больше таких же утомительных стандартных оценок, что и выше. Мы предоставляем сделать это читателю. (Так же поступает и Л. Д. Фаддеев в своей статье [1].)

Лемма 5. Пусть 0 < а < 2; предположим, кроме того, что точка s несингулярна. Тогда оператор Bt(s), определяемый формулой

Вх (S) = [/-(oK(s)]-‘Bo(s), задается ядром bx (z, z'; s) типа $-х.

Доказательство. Из леммы 4 мы знаем, что ядро Ьй (z, z'; s) оператора Во имеет тип $_х. Напишем

bo (z, z'; s) = b0, z-, s (z) и будем рассматривать ядро Ьй как функцию от z, принадлежащую пространству &-х. Тогда имеют место оценки

I ^0, г', з (z) Iуу,

И

II [/ - ®к ($)Г Ьо. =-. s L, < II bo, Z',s \\_х «с у.

Положим

bx (z, z'; s) = ((/ — ®К (s))-1 bo, Z', s) (z).

Полученное неравенство означает, что

\b^z, ^; з) | <-^7,

так как для любой функции f е ^_t

HflL1=sup|f(z)y|,

и поэтому если II f ||—1 ^ 1/г/', то | f (z) | <С 1/у/. Мы получили нужную нам оценку асимптотического поведения ядра bv Чтобы доказать его непрерывность, напишем

6.(2,, z;)-6t(22,z') =

= 6, (г,, zj bx (z2, zj + bx (z2, zj bx ^z2, z2).

Зафиксируем точки (z^ z'), и пусть (z2, z2) стремится к (zp z'). Так как функция bx г, непрерывна, то первая разность в правой части предыдущего равенства стремится к 0. Вторая разность также стремится к 0; в самом деле, согласно второй части леммы 3, аналогичная разность для ядра Ьи стремится к 0, и это свойство не нарушится при применении ограниченного оператора в пространстве ®-х.

Мы полностью исследовали непрерывность ядер Ьо и bv Изучим теперь их зависимость от з.

Теорема 10. Определим для любого несингулярного s из полосы 0 < а <2 оператор В (з) формулой

b^hi-^Wvv.

Тогда

Отображение st—* В (з) является мероморфной функцией, заданной в полосе 0 < о < 2 и принимающей значения в банаховом пространстве ограниченных операторов, действующих в $_v Полюсы этого отображения совпадают с сингулярными точками.

Имеет место разложение

B^ = M-VNB (з),

где оператор NB(s) задается ядром типа $-х, а М = М(х), х > 3.

(Hi) При а > 'Л, s т^ s справедливо соотношение

W = Q (s) + (I + (dQ (з)) В (з) (/ + oQ (з)).

Доказательство. Первое утверждение немедленно следует из теоремы 9 предыдущего параграфа. Второе вытекает из доказанных лемм, если принять во внимание соотношение

B(s) = B1(s) + V' = B1(s) + M + N.

Третье очевидно из цепочек эквивалентных формул (3) — (9) и единственности решения резольвентного уравнения, доказанной в лемме 1. Теорема доказана.

В заключение этого пераграфа выпишем уравнение для оператора В (з), которое вытекает из резольвентного уравнения.

Творена 11.

(О Пусть 0 < а < 1 и точки s и 1 —з несингулярны. Тогда имеет место соотношение

B(s)-B(l-s) = to(s)2B(s) [Q (з) — Q (1 — s)] В(1 — з), где все операторы рассматриваются в пространстве 58 _v (ii) При с, в' > '/г имеет место соотношение

В - В' = (<в - со') В (/ + ©Q) (/ + co'Q') В',

где B = B(s), В'— В (s'), co = to(s), to' = to (s') и т. д., все операторы рассматриваются в пространстве Н.

Доказательство. Начнем с равенства В = (I — юК)-1 V. Пусть о, а' е (0, 2). Будем рассматривать все операторы в пространстве 58_v Тогда справедливо равенство

в - В' = [(/ - шК)-1 -(1- to'K'V) V =

= (I - со^-' (®К - to'К') (I - to'K')-x У.

Так как К. = V (I + coQ), К' = V (I + co'Q'), то

(*)В — В' = В (со — ®' + ®2Q — to'2Q') В'.

Положим s' = 1 — з; в этом случае со = со', и мы получаем наше первое соотношение. С другой стороны, формулу (*), которая представляет собой операторное равенство в пространстве ^_ь когда s, s' лежат в полосе 0 < а < 2, можно рассмотреть в более узкой полосе 1/2 < а < 2, в этом случае входящие в нее операторы ограничены как операторы в пространстве Н и формула (*) справедлива как операторное равенство в Н. Воспользуемся соотношением

Q — Q" = (со — со') QQ', справедливым как операторное равенство в Н; мы видим, что формулы (ii) и (*) эквивалентны. Теорема доказана.

В дальнейшем мы будем пользоваться только первым из доказанных соотношений; его можно рассматривать как «функциональное уравнение» для оператора B(s). Из доказанного соотношения будет непосредственно следовать функциональное уравнение для функций Эйзенштейна (которые мы определим в § 12).

§11. Ядро резольвенты в полосе О < о < 2

В этом параграфе мы увидим, что, хотя резольвенту оператора Лапласа нельзя аналитически продолжить левее прямой о==1/2, можно, однако, аналитически продолжить ядро резольвенты как функцию параметра s во всю полосу 0 < о < 2. Мы построим это продолжение, используя уравнение для ядра b(z, z'; s\ Я признателен Р. Браггеману, которому принадлежит изложение настоящего параграфа.

Теорема 12. Пусть U — открытое подмножество комплексной плоскости, ц, v — вещественные числа. Предположим, что для любого seU определен непрерывный оператор

R(s):

задаваемый ядром r(z,z';s), причем (z', sY-^-г ^z,z'\ s^ —измеримая функция на произведении F XU при всех ze F. Предположим, кроме того, что для каждого компактного подмножества Rc^U существует такой ограниченный оператор

Rk"

с ядром гк, что для почти всех (z, z') е F X F и для всех seK справедлива оценка

| г (z, z'; s) | ^ rK (z, Xy

Тогда ядро r^z,z'; s) аналитично no s при почти всех (z, г') в том и только в том случае, когда отображение st—*R(s) аналитическое.

Доказательство. Мы используем теорему 1 приложения 5, а также утверждение, аналогичное теореме 2 из этого приложения. А именно, мы докажем сначала следующее утверждение:

Лемма 1. В предположениях теоремы 12, ядро r(z,z';s) аналитически зависит от s при почти всех (z, z') в том и только в том случае, когда для всех функций fs^^ и для всех z <= F отображение

s^R{s)f (z)

аналитическое.

=^ Пусть С—любая окружность, целиком лежащая в области U. Предположим, что f еS^, zgF. Функция

z'^rc(z, z')|f (z')|

интегрируема и мажорирует функцию X >—> г (z, Х\ s) f (z') при всех s е С. Следовательно, отображение s i—> R (s) f (z) непрерывно по теореме об ограниченной сходимости. Далее, функция (z', s) *—* г (z, Х-, з) измерима и ограничена интегрируемой функцией

(z", s) i-* rc (z, z') 1f (z') [;

таким образом, функция (z', s) >—*■ r (z, z'; s) интегрируема, и^7? (s) / (z) ds =r (z, z'; s) f (z') dz' ds =

cC F

= ^ f C2') 5 r (z> z'i s) ^s dz' = 0.

F c

Итак, мы показали, что отображение s i—* R (s) f (z) аналитическое.

Ф= Предположим, что отображение si—^R(s) f (z) аналитично для всех t и z. Ясно, что мы можем снова поменять порядок интегрирования и получить, таким образом, что

f (z') ^ г (z, z'; s) ds dz' = 0

F C

для всех z г F и для всех функций f s 58^. Тогда для почти всех (z, z'^ е. F X F получаем

г (z, z'; s) ds = 0. с

Из леммы §1 приложения 5 вытекает, что ядро r(z, z^s) аналитически зависит от з.

Теперь мы проверим, что для некоторого подходящего множества функционалов выполняются условия теоремы 1 приложения 5.

Так как для любого компакта К. ядро г мажорируется ядром гк, получаем

sup|^(s)|<|^Kj. .

seK

Для любой точки z из F и любой функции f из единичного шара в пространстве ^ определим линейный функционал Xfi3 на банаховом пространстве

Е = Нот (^ц, 3^

формулойформулой4.W-714.W-71zeE.zeE.

формулой

формулой

4.W-71

4.W-71

zeE.

zeE.

Таким образом, XfiZ есть композиция двух непрерывных линейных отображений

_ g (z)

и5*-^—г

У

норма которых не превосходит единицы. Ясно, что множество Л всех таких функционалов — нормирующее^ Это позволяет воспользоваться теоремой 1 приложения 5, что и завершает доказательство теоремы 12.

Следствие. Предположим дополнительно, что для всех ze F, s^U функция г' ь-> r{z, z'; s) непрерывна, а функция z' н-> rK (z, z') локально ограничена. Тогда функция s*—*r(z, z'; s) аналитична при всех (z, z'^ в том и только в том случае, когда отображение s * R (s) аналитическое.

Доказательство. Наше дополнительное предположение необходимо только для доказательства импликации Ф=. Достаточно показать, что если

г (z, z'; s) f (z') dz' ds = 0

c F

для всех z^F и всех fe^, то

r (z, z'; s) ds =0 c

для всех z, z'. Зафиксируем точку z, и пусть g — функция от z', задаваемая последним интегралом. Для любой вещественной функции I гСс (F) (в этом случае, очевидно, f е S^ мы получаем

(я. h = J $ г (z,2';s) f (z")ds dz' = °-

Следовательно, функция g равна нулю почти всюду. Из сделанных предположений вытекает, что она непрерывна, откуда g = 0. Итак, наше утверждение доказано.

Пусть Q — компактное подмножество полосы 0 < а < 2. Пусть 0 < <?[ < а < аг < 2; мы можем определить мажорирующее ядро

, ,. = С ^°* + c^1-0-)/1-0-, если у < у',

Чй z, 2 Cl I у\-ах^а, _[_ с2у'1~а'), 6СЛИ у' < у.

где сь с2 — подходящие постоянные, такие, что для всех seQ справедлива оценка

|?(2, z'\ s)|<<7q(z, z'\

Пусть

Qq' ^о “* ^1

— ограниченный оператор, единственная ненулевая компонента которого (Qq)h задается ядром qQ. Так же как и для оператора Q (з), легко видеть, что если 0 < ц < о, < 2, то оператор Q2 непрерывно отображает пространство &й в ^^ц; поэтому мы напишем

01— ц

Следующие две Леммы содержат оценки, необходимые для применения теоремы 12.

Лемма 2. Пусть й — компактная окрестность точки з0 из нашей полосы. Пусть m — порядок полюса оператора

[7 — го (s)K (з)]-1

в точке з0. Тогда существует такая постоянная С > 0, что для всех se 8 справедливо неравенство

| s — з0 Г | 6, (2, z'; s) I < С WV\

где, как и раньше, bt (z, z'; s) — ядро оператора Вх (з).

Доказательство. Рассуждения, проведенные при доказательстве леммы 5 предыдущего параграфа, проходят без изменений. Достаточно заметить, что все оценки равномерны, когда з меняется в компактном множестве й.

Введем обозначение для функции, которая является аналитическим продолжением ядра резольвенты в нашей полосе. Положим

Ps — qs + (1 + ®^ * bs * (1 + шдД

Мы пишем ps (z, z') = р (z, z'; з). По теореме 10, (ill), при '/2 <

< cr < 2, s^s ядро p(z, z’\ s) задает резольвенту оператора Лапласа. За исключением, возможно, диагонали и границ областей F,, на которые мы разбили фундаментальную область, ядра р (z, z'; з) и г (z, z'\ s) непрерывны no (z, z') и совпадают в полосе 1 < а < 2.

Лемма 3. Пусть й— компактная окрестность точки з0 из нашей полосы. Предположим, что й содержится в полосе 0 < Ст! < о < <т2 < 2. Определим число ш, как в лемме 2. Тогда

существуют такие постоянные с,, что для всех seQ справедливо неравенство

] S — s0 Р | Р (z, z'; з) к

< с,^ (z, z^ + c2 (yyY1 + Co | m (z, z^ | + c4 (yy')1"01.

Доказательство. Это вытекает из простых оценок интегралов, входящих в определение ядра p(z, z^s).

Теперь мы в состоянии воспользоваться теоремой 12. Зная, что некоторые семейства операторов мероморфны, а также что соответствующие им ядра удовлетворяют подходящим условиям локальной ограниченности, мы можем сделать вывод, что сами ядра являются мероморфными функциями от параметра. Более точно, справедлива

Теорема 13. Если z^=z' и точки z, z' не лежат на границе областей Fo и F^, то функции

s > р (z, z'; s) и s ^- b (z, z'; s) мероморфны в полосе 0 < ст < 2 и имеют полюсы только в сингулярных точках.

Порядки полюсов и главные части в этих полюсах мы определим, основываясь на самосопряженности оператора, который задает ядро р (z, z'\ s) при ст > '/2. Будет установлен следующий результат.

Теорема 14. Пусть s0 — сингулярная точка, такая, что ст0 ^ !/2, Sy^'A- Пусть фь ..., ф„— полная ортонор мированная система собственных функций самосопряженного оператора Л в пространстве Н, отвечающих собственному значению %0 = s0(l—s0). Мы будем предполагать, что функции ф/ вещественны. Положим

Ь = Ц — to (So) Г) фь

Тогда функции ti принадлежат пространству $-v Более того, справедливы разложения

п

г (z, z'; s) = ^^Гх У Ф- (z) Фг (z') + r+ (z, z'; s),i=l

b (z, z'\ s) = 2^-j У ti (z) fi (zz) + b+ (z, z'; s),

. где функции s i—* rt, s * bt голоморфны в окрестности точки 8й*, мы используем обозначение X = s (1 —s) и не различаем ядра г и р.

Доказательство. Осложнение, которое не позволяет нам иметь дело исключительно с операторами, состоит в том, что на прямой о = На оператор А имеет также непрерывный спектр; таким образом, его резольвента (как оператор) не допускает разложения в степенной ряд в окрестности сингулярной точки, лежащей на этой линии, несмотря на то что, как мы докажем, аналитическое продолжение ядра резольвенты допускает такое разложение. Отсюда следует, что наши операторы снова придется рассматривать в других пространствах, например в пространствах 13 ; в то же время мы будем использовать свойства резольвенты справа от прямой 0 = ^2 и, в частности, оценку

d (Я5, spec Я)'

где d^g, spec Л) — расстояние от точки Xs = s (1 — з) до спектра оператора А. Напомним, что этот спектр расположен на вещественной прямой и соответствует значениям з, для которых

‘А < s < 1 или Re s = Ha-

Мы пишем R (s)H, чтобы подчеркнуть, что рассматриваем резольвенту как оператор в пространстве Н. Приведенная оценка — это просто переформулировка в терминах переменной з очевидной оценки

(см. приложение 2, § 1, теорема 2).

Обратимся теперь к самому доказательству. Пусть р^О. При ц < о < 2 определен оператор

R (з)" ^о —>^2-^, задаваемый обычной формулой

R^ = Q (з) + (/ + со (s) Q (з)) В (з) (/ + <о (s) Q (з)), и отображение si—*R(s) мероморфно. Выберем конкретное значение ц, которое позволит нам работать в полуплоскости о ^ На, например ц = Hi-

Лемма 4. Пусть з0 — сингулярная точка, такая, что з0 #= */а и Оо ^ ‘А- Пусть

R (з): ^0 —> ^^

— оператор, задаваемый ядром r(z,z'\s). Тогда отображение s >—> R (з) имеет в точке з0 полюс первого порядка.

Доказательство. Пусть {s„} — последовательность несингулярных точек полуплоскости Res >'/2, сходящаяся к з0 и такая,

что Re (4 — 4) = 0. Таким образом, мнимая часть Х3п стремится к нулю с той же скоростью, что и разность (sn — s0). Положим

R-m= lim (s — s0)m R (s),s->se

где m— порядок полюса. Нам нужно показать, что R_m = 0, если /п> 1. Пусть f — произвольная функция из 5В0; покажем, что R_mf = 0. Допустим противное: R_mf ^ 0 и положим

8п = (Ч-ЧГк<5пИ.

Тогда последовательность {^„} сходится к R_mf в пространстве ^д. Следовательно, для некоторой положительной постоянной С] и всех у из некоторого открытого множества справедливо неравенство

\R_J^y-4>cv

По определению нормы в пространстве $ („ мы получаем также, что при всех достаточно больших п имеет место оценка

|[£П(г)-Я_^2)]у-4<8

равномерно по у в некотором открытом множестве. Отсюда при больших п мы получаем неравенство

1 ^» (г) t/-’A 1 ^ с2 > 0;

таким образом, для некоторой постоянной с3 > 0 и для всех у из некоторого открытого множества верна оценка

кп(2)Г>С3.

Так как Зйс^Н и Re sn > 7г, отсюда следует, что R (s„) f ^Н, а значит, и gn^H. Неравенство, которое мы только что получили, показывает, что существует постоянная с4 > 0, такая, что при всех достаточно больших п

Unlli>C4.

Но, с другой стороны,

IIЯ Ih < 14 -Aolm l^(s„)zf III fib,

что противоречит оценке для резольвенты в гильбертовом пространстве Н. Лемма доказана.

Из леммы 4 вытекает, что ядро г (z, z'; s) имеет в точке So полюс первого порядка. Действительно, из леммы 2 мы знаем, что порядок этого полюса не превосходит пг (т. е. порядка полюса оператора (/ — со (s) К (s))-1). Допустим, что он равен I ^ 2. Для

любого малого контура С вокруг точки 3g, соответствующего окружности с центром в точке Ао, и для любой функции f гЯ0 имеем, согласно лемме 4,

j j (Ло — Xs)z-1 г (z, z"; s) f (z") dz' ds = 0. c F

Оценка, полученная в лемме 3, показывает, что мы можем изменить порядок интегрирования. (Заметим, что абсолютная величина |Л0 — Л,| постоянна на контуре С.) Таким образом, получаем

J (Ло — Х^1-1 г (z, z'; s) ds = 0 с

для почти всех точек (z, z"), а значит, для всех (z, z'), удовлетворяющих условиям теоремы 13. Отсюда следует, что Z= 1.

Теперь мы должны определить главную часть ядра в полюсе. Рассуждения будут проводиться по той же схеме: сначала мы будем рассматривать семейство операторов, а затем переходить к их ядрам.

Умножим обе части уравнения

R (s) - Q (з) = (/ + <oQ (з)) В (s) (/ + ®Q («))

справа и слева на оператор / — шТ; получим

В (s) = Ц — иГ) (2? (s) — Q (з)) (/ — соГ).

Итак, отображение s ь-* В (з) имеет в точке з0 полюс первого порядка; мы рассматриваем В (з) как линейное отображение из ^о в g§»it. Из теоремы 12 следует, что ядро 6 (z, z'; з), которое задает этот оператор, также имеет в точке з0 полюс первого порядка. Но то же самое ядро определяет в действительности и оператор

^7, —> S9—i;

следовательно, по той же теореме, этот оператор тоже имеет полюс первого порядка в точке з0.

Лемма 5. Пусть S8_x (з0) с $_х — собственное подпространство оператора К (з0), отвечающее собственному значению со(зо)-1. Положим

В-! — lira (со (з0) — m (з)) В (s); s->s0

мы рассматриваем В^ как отображение из Mz в S_v Тогда отображение

В_х" ^у4 —

переводит пространство ^з/( в упомянутое выше подпространство ®—\ (so).

Доказательство. Имеем

В(з) = [/-Со(з)К(з)]-1У.

Умножим обе части этого равенства на (со (sq) — ®(s)) и устремим з к з0. Ясно, что этот предел существует. Теперь наше утверждение очевидно.

Лемма 6. Положим

R-x = lim (со (s0) — co(s)) R (s);s -> So

мы будем рассматривать R_x как отображение из $0 в $,и Тогда оператор R_x переводит пространство 3Q в собственное подпространство Н (з0) оператора А, отвечающее собственному значению Xs„ и индуцирует тождественное отображение на этом подпространстве.

Доказательство. Умножим обе части равенства

R (з) = (7 + со (s) Q (з)) В (з) (7 + со (s) Q (з))

на со(зо) — со(з) и устремим з к з0. В левой части мы получим оператор R-b Предел правой части равен

(7 + со (з0) Q (з0)) В-t (7 + со (so) Q (з0)).

Из предыдущей леммы и из фундаментальной теоремы о собственных векторах оператора А (теорема 7 § 9) мы получаем, что оператор R_x переводит пространство X в И (s0). Кроме того, если ф е Н (з0) и, следовательно, по теореме 8 § 9, ф е X, то мы знаем, что при о > '/2 справедливо равенство

(со (so) — со (s)) R (з) ф = ф.

Это соотношение имеет смысл и в пространстве 9ЦС Устремим з к з0 и вычислим предел в этом пространстве. Мы получим /?-]ф = ф; итак, лемма доказана.

Лемма 7. Оператор R-[ отображает подпространство ХЛ П Н (з0)х в нуль.

Доказательство. Пусть g г X f) Н (s^1-, ф е Н (so). При о > > '/г имеем

((^о - ^) 7? (з) g, ф) = <g, (л0 - Х^ R ^ ф) = 0.

Левая часть этого равенства имеет вид

(^-о — ^-s) 7? (s) g (z) ф (z) dz; F

функцию ^(s)g можно рассматривать как элемент пространства &i, Устремив s к s0 в полуплоскости сг > '/г, получаем, что

<7?-^, Ф)=0.

Но из леммы 6 мы знаем, что R-Xg е Н (s0). Следовательно, ^_1^ = 0, что и требовалось доказать.

Пусть {фь ..., ф„} — ортонормированный базис пространства Н (s0); мы можем предположить, что все функции ф, вещественны. Ядро

r-i(z, ^ = E^(z)^(z')

задает проектор из пространства Н на подпространство Н (s0). Можно рассматривать его и как проектор из ^0 на Н (s0), поскольку имеет место ортогональное разложение

Ядро

г (г, z';s^-1^r_1(z)^

задает оператор

Ло As

Семейство этих операторов голоморфно по s в точке s0. Отсюда следует, что для любого маленького контура С вокруг точки s0

Ur (z, z'; s) — .- 1 - г-] (z, z')] ds = 0. J LAo — AsJ

c

Чтобы доказать это, нужно снова воспользоваться оценками из леммы 3 и тем, что аналогичное равенство имеет место для нашего операторного семейства в сильном смысле — в применении к произвольной функции f е ^0. Это завершает доказательство той части теоремы 13, которая относится к ядру г (z, z'; s).;

Чтобы доказать утверждение теоремы о ядре b (z, z'; s), нужно свернуть ядро г (z, z'; s) с ядром 1 — со (s) t.

§ 12. Оператор Эйзенштейна и функции Эйзенштейна

Обозначим символом 6 (z, s) функцию на F, сужение которой на Fa равно нулю, а сужение на Fx задается формулой

et (z, s) = 6 (у, s) = у5 + с (s) у1"5,

где

Эта функция принадлежит пространству ^, где ц=тах(о, 1—а). Обозначим символом W (s) оператор

Г (s) = о [7 + ©Q (s)l В (s),

где, как и раньше, <a = o(s) = s (1 — s) — х(1 — х). Этот оператор определен для всех несингулярных точек s полосы 0 < а < 2 и отображает пространство ^2-в в $\_а. Оператор

I + W^

мы будем называть оператором Эйзенштейна. Применяя его к функциям 0S: z t—> 9 (z, s), мы получим функции Эйзенштейна ц (z, s) = (7 + W (s)) 6 (z, s) = 9 (z, s) + Г (s) 9 (z, s), определенные в полосе 0 < о < 2.

Теорема 15. При фиксированном 2 функции s t—> rj (2, s) аналитичны в полосе 0 < а < 2, за исключением сингулярных точек, лежащих в полуплоскости о<?[г или на отрезке 7г ^ 5 ^ 1. В окрестности прямой о = 7а, за исключением, возможно, точки s = 7г> эти функции аналитические.

Доказательство, Если а #= 7а, то наше утверждение немедленно следует из аналитических свойств рассматриваемых ядер и функций. Рассмотрим прямую о = 72- Пусть s0 — такая точка, что ст0 = 7г» но So =/= 7г- Из аналитического выражения для ядра b (2, z'*, s) (теорема 13 §11) и определения собственных функций

ф; = (7 + ©Q (s)) ft

ЯСНО, что п

П (г- s) = is ^i • т^у У Ф< (2) Л ^ 9 (z7, s) dz' + Л1 (z, 8),

i 1F

где функция г)! аналитична в окрестности точки s0. В силу леммы 1 § 9, интеграл в правой части равен нулю для всех значений s вида Ча + И, где t близко к /0. Так как интеграл аналитичен по s, он равен нулю тождественно. Теорема доказана.

Мы будем использовать прежние обозначения для свертки ядер, но теперь свертка берется по всей фундаментальной области F. Другими словами, пусть А, (2, z'), кг (2, z'^ — функции от аргументов z, z' е Р. Тогда, по определению,

(Ai * /г2) (z, z') — ^1 (z, z") кг (z", z'') dz".

F

Аналогичные обозначения мы будем использовать для свертки ядра с функцией от одной переменной:

II№ * Л (2) = $ кх (2, г') / (2') ^У,

I

I

F

У * *1) (2) = J f (2') kx 2) d^.

F

Пусть bs — ядро оператора В (з); положим

с (s) = с (з) + 5^ 9S * bs * 9S.

В более подробной записи

93 * bs * 9S = ^ ^ 6 (2, s) b (z, zd\ s) 9 (z7, s) dz dz'.

F F

Дадим теперь асимптотическое описание функций Эйзенштейна.

Теорема 16. Зафиксируем несингулярную точку з из полосы О < о < 2. Тогда при у —> оо имеет место асимптотическая формула

Л (z, s) = ys + с (s) yi"s + О (1).

Доказательство. По определению,

Лз = R + to U + ®Q (s)) S (s)l 0з = 0з + ®bs * 9S + m2qs *bs* 9S.

Как мы знаем, В (s) = Af + NB (s); напомним, что разложение оператора М в ряд Фурье по косинусам не содержит постоянного члена, в то время как функция 93 не зависит от х. Следовательно,

Ж = 0 и В (s) 93 = NB (s) 9S,

в силу ортогональности косинусов константам. Так как оператор NB (з) имеет тип ^-ь а тип функции 93 равен max (ст, 1 — ст) < 2, то функция NB (s) 9S принадлежит пространству $~х и, в частности, ограничена. Тем самым мы оценили второе слагаемое в формуле для т]$. Чтобы оценить третье слагаемое, воспользуемся снова тем, что функция В (s) 9S = NB (s) 9S принадлежит пространству ^-i- Из леммы 2 § 9 вытекает, что

Q (з) В (s) 9S = ^^j у1 -s Н 0 (г, s) b (г, z'; з) 9 (г', s) dz dz' + О (1).

F Р

Теорема доказана.

Теорема 17. Пусть з — несингулярная точка. Если 0 < ст < 1, то уравнение

ш (з) R (%) г) = т]

имеет одно и только одно решение с асимптотикой

Ч (z) = / + с (s) yx-s + 0(1);

s фиксировано, у-* оо. Если а> 1, то у этого уравнения есть одно и только одно решение с асимптотикой

T](z)=V + 0(l).

Доказательство. Существование решений будет доказано позднее; сейчас мы докажем только их единственность. Пусть сначала 0<а<1. Если т]ь т)2 — два решения приведенного уравнения на собственные функции оператора R (х), то их разность ф ограничена, а значит, принадлежит пространству I? (Г^) — Н и удовлетворяет тому же уравнению. Если ф ^ О, то, по определению, это означает, что точка s сингулярна, что противоречит нашему предположению. Аналогичное рассуждение проходит и в случае, когда а>1.

Следствие. При а > 1 справедливо равенство

Ч (2> s) = Е Im ^z)s.

УЕГ0\Г

Доказательство. Ряд в правой части абсолютно сходится при а> 1. Оператор Лапласа коммутирует с действием группы SU(R) в пространстве Н; следовательно, этот ряд определяет функцию т), такую, что

Lt) =s (I — s) ц.

Слагаемое с у = 1 дает член у8. Все остальные члены ряда имеют вид

us(а Ь"\

если Y =с=^0,

и, следовательно, ограничены при у-* со. Так как ряд равномерно сходится, то сумма этих членов есть также ограниченная функция. Таким образом, мы можем воспользоваться теоремой единственности. Доказательство закончено.

Покажем теперь, что наша функция ц5 = (/ + W (s)) 0S, определенная в полосе 0 < а < 2, удовлетворяет уравнению на собственные функции из теоремы единственности и тем самым при а > 1 совпадает с приведенным выше рядом. Это уравнение будет первым из формальных свойств функций Эйзенштейна, которые непосредственно следуют из соответствующих формальных свойств операторов Эйзенштейна. Общим источником этих свойств является, по существу, резольвентное уравнение.

Лемма. При х > 3, 0 < д < 2 справедливо соотношение

to (s) Т (х) 0S = 0S.

Доказательство сводится к элементарному интегрированию (заметим, что все интегралы в этом равенстве — сходящиеся).

Эта лемма позволит нам заменять оператор ©Г на единичный оператор при действии на функции 6$.

Справедливо операторное равенство

aR Д + Г) = а>Т + W-,

как обычно, мы пишем R = R (х), Т = Т (х), W = W (з). Чтобы получить это равенство, воспользуемся определением оператора W(з):

W = ш (1 + mQ) в,

а также равенствами R = Т + V и

B = V-^toV(I + ©Q)B.

Получим

mR (I + W) = ®Т + ф U + ©Q) В = аТ + W;

следовательно, согласно нашей лемме,

Отсюда вытекает первое соотношение

ESI.®(s)R (х) т^ = т^.

Таким образом, функция Эйзенштейна — собственная функция резольвенты оператора Лапласа.

ES 2.т] (yz, з) = т] (z, s) для всех у s Г.

Доказательство. В силу равенства ES 1, т] (yz, s) = a (s) R (x) т) (yz, s) = = © (s)^ r (yz, z7; x) т] (z7, s) dz7 = ц (z, s),.

так как r(yz, z7; x) = r (z, z7; x).

ES 3.£1^ = 3(1—5)115.

Доказательство. Достаточно доказать это равенство в слабом, смысле, так как потом можно будет воспользоваться теоремой, регулярности для эллиптических операторов. Как и раньше, положим Afs = £ — s (1 — з). Для любой функции f е С” (Г^) имеем

г) (z, s) MJ (z) dz = j j г (z, 2'; x) r) (z7, s) Msf (z) dz dz' = = ( 4 (z7, s) ^r^ (z, z7; x) Msf (z) dz dz7^

Воспользуемся равенством MS — MK — ®(s), леммой 1 § 3 и теоремой 2 § 3. Наше предыдущее выражение равно

j Л (z', s) (R (х) Mxh (z') dz' — р

— ©(s) ^ ^ л (z', s) r (z, z'; x) f (z) dz dz'

= J л(г'. sH^dz' — ^ л(г, s)f (z)dz = 0. FF

Утверждение доказано.

ES 4.r)(z, s) = л(2> s)-

Это равенство очевидно, так как все ядра и функции, которые мы рассматриваем, обладают этим свойством.

Покажем теперь, каким образом различные формы резольвентного уравнения из предыдущего параграфа можно интерпретировать как соотношения для функций Эйзенштейна. Мы будем рассматривать резольвентные уравнения как операторные равенства или как равенства для ядер.

Рассмотрим сначала резольвентное уравнение для оператора R (s). Как мы знаем, если а, а/>1/2, то справедливо равенство

R — R' = (cd — ®') RR',

где мы пишем (для краткости) R = R(S), R' = #(s'), о/^®^'). Ниже мы используем также обозначения В = В^, В' = B(s') и т. д. Напомним две формулы для ядра оператора Q, которыми мы будем постоянно пользоваться в дальнейшем.

Q 5.Q — Q' = (ю — о') QQ' npU ст> о'> 1/2.

Ч4*^-^i-s=2^T0X-^

где 6S — 9s(z) и в' ^е^Дх'). Переменные z, z' — это аргументы ядер ?s(z, z') и ^_g(z, z').

ES 5. Пусть s лежит в полосе 0<ст< 1, причем точки s и 1 — s несингулярны. Тогда

r^z, z'\ s)-r(z,z'; l-s)^^-^-^^, 5)л(2<, 1-s).

Доказательство. Воспользуемся соотношением /? = Q + (7 + (dQ)B(/ + ®Q).

Получим

£ — /?' = (<0 — ©') RR7 = (© — ©') QQ' +

+ (to — to') (/ + toQ) В (7 + toQ) Q' +

+(to — to') Q (7 + roQ') B' (7 + to'Q') +

+ (to — to') (7 + toQ) В (7 + toQ) (7 + toQ') B' (7 + to'Q').

Заметим, что произведение, составленное из операторов В и Q, в котором В и Q чередуются, задает при 0<<т<2 непрерывное отображение из пространства ^-! в ^; если же мы рассмотрим, скажем, произведение QQ', то оно имеет смысл лить при а, <т'>1/2 как отображение пространства Н в себя. Воспользовавшись соотношением Q 5, мы можем разбить предыдущее выражение на два слагаемых, первое из которых не содержит множителя (со — to'), а второе слагаемое Z пропорционально (ю — о'), причем операторы В и Q входят в него, чередуясь, как описано выше. Таким образом,

R _ r' = Q - Q' + (/ + toQ) соВ (Q - О') co'В' (7 + to'Q') +

+(© — to') Z.

Подставим в правую часть равенства s'= 1 — s. В этом случае to (s) — to (1 — s) = 0;

таким образом, слагаемое, пропорциональное to — со', исчезает. Что касается остальных членов, то мы интерпретируем полученное равенство как соотношение для ядер и воспользуемся формулой q 4, которая справедлива при всех значениях s. В силу симметричности ядер Ъ(г, z'; s) и <?(z, z';s), мы получаем нужное нам соотношение. Заметим, что правая свертка ядер соответствует композиции операторов в обратном порядке.

Следующие соотношения для функций Эйзенштейна аналогичны соотношениям, которым удовлетворяет функция 0(z, s). Напомним, что

0 (z, s) = у + с (s) ух-\ где

c(s) = a25-1, .

Тривиально проверяется, что

c(s) с(1 — s) = 1, 0 (z, s) = 0 (z, 1 — s) c (s).

Мы докажем аналогичные формулы для функций T](z, s) и c(s). А именно: в полосе 0 < п < 1 справедливы соотношения

ES 6.с (s) с (1 — $) = 1.

ES 7.т] (z, s) = т) (z, 1 — s) c (s).

Доказательство. Пусть, как и раньше, bs — ядро оператора S(s). Введем для краткости обозначение

Р («) = ^?г9в*Ь5*0«

где s — точка полосы 0 < а < 2. Мы покажем, что

p(s)c(l — s) — р(1 — s)c(s) = — р (s) р (1 — s).

Отсюда немедленно следует тождество ES 6, так как c(s) = c(s) + p(s).

Приведенное соотношение немедленно вытекает из резольвентного уравнения для оператора В (s), доказанного в теореме 11 § 10. Перепишем его как соотношение для ядер:

Ь5 — 61-5 = ®(s)2bs * (qs — qx_g)*bx-s =

=У=т(^*e^)(61-s*e1_s),;

мы воспользовались очевидным обозначением: (bx_s* 9X-S)' есть функция переменной z', если z, z'— аргументы ядра ЬДг, z'). Свернем это соотношение с функцией 6$ слева и с функцией 61-л справа. Воспользовавшись формулами

6S = 61-Sc(s) и с (1 — s) = с (s)—*, получим

6s*»s*esc(l — 8) —C(s) 61-4*&1-4*0I-S = p(8)p(l —

Теперь искомое соотношение между р (s) и р(1—s) следует непосредственно из определений.

Соотношение ES 7 можно доказать по той же схеме, используя резольвентное уравнение для ядра bs. С другой стороны, теперь мы можем вывести его из теоремы единственности. В самом деле, в силу теоремы 16, в полосе 0 < о < 1 справедливы асимптотические формулы

ns (2) = ys + с (s) yx"s + О (1),

П1_я(^) = с(1 — з) у3 + у1"5+ 0(1).

Для доказательства формулы ES7 достаточно умножить второе равенство на с(з), воспользоваться формулой ES 6 и применить теорему единственности.

§ 13. Непрерывный спектр оператора Лапласа

формулойформулой(^)(о=Ц+^)ио(^)(о=Ц+^)иоОбозначим символом Но пространство 1? (r+, i ^/^ ГДе dt — мера Лебега. Определим оператор Ло в пространстве HQ

формулой

формулой

(^)(о=Ц+^)ио

(^)(о=Ц+^)ио

для тех функций g, для которых это произведение принадлежит пространству I?. Тогда оператор Ло самосопряжен. Мы докажем, что сужение оператора Л на ортогональное дополнение к прямой сумме его собственных подпространств в пространстве 7/ = £2(Г\Ф) унитарно эквивалентно оператору Ло. Чтобы проверить это, мы явно укажем ядро оператора, осуществляющего унитарную эквивалентность. Это ядро есть не что иное как функция Эйзенштейна r)(z, 1/2 + ^), рассматриваемая на произведении пространств (Г\$) X [0, оо). Зададим преобразование Эйзенштейна Е, определенное на пространстве ограниченных функций на Г\£, формулой

О (0 = J П (z, 4 + //)f (z) dz.

Теорема 18.

Ядром преобразования Эйзенштейна является подпространство, натянутое на собственные функции оператора Л.

Преобразование Эйзенштейна можно продолжить до частичной изометрии, образ которой есть пространство На.

Преобразование Эйзенштейна переводит оператор А в оператор Ло, т. е.

ER (х) = Rq (к) Е, ЕА с АоЕ,

где R (х) — резольвента оператора А, х > 3, а

Ro (s) = (Ло — 8 (1-8) /о)"1.

Доказательство. Пусть f еСс (Г\Ф). Пусть [а, 6] — такой интервал на оси (0, оо), что интервал (72 + it; /е[а, Ь\\ не содержит ни одной сингулярной точки. Тогда

ь

5SlW,',- а b

= ^ $ J J n (z, 4" + й)т| (у, 4" — й) / (z) Ж) dz dz' dt= a F F b

= ^ J 2it dt $ J [r (z, z'; 4" + U^-r (z, z'; у -«) ] f (z)T(z7) dz dz'. a F F

Мы воспользовались формулой ES 5; ясно, что если s = l/2 + it, то 2s — 1 = 2it. Имеем

X = s(l-s) = -i- + /2, dX = 2tdt.

Нам будет удобнее выразить ядро резольвенты через переменную X, поскольку мы собираемся сейчас воспользоваться спектральной теоремой для неограниченных операторов. Напишем

г (z, z'; s) = р (z, z'; A).

Когда переменная t меняется в интервале [а, 6], переменная Л пробегает интервал

"4 + °2 ^ А ^ "J + Ь2.

Значения а + И, для которых а > ‘/г. соответствуют значениям X с отрицательной мнимой частью, а значения а — it, а > 7г соответствуют значениям X с положительной мнимой частью. Следовательно, наше последнее выражение равно

^ (1 ^ И 1р ^2’2'* ^ ™ ^) ™ р (2>2'; ^ + г°)1 / (z) / си dz dz'>

Ч PF где

р (z, z'; X — iO) = lim р (z, z'; X — Ze),e->0

p (z, z'; X + Z0) = lim p (z, z?\ X + Ze).e-»0

Мы можем также записать это выражение как предел при в->0 интеграла

2jF 5 ^ 5 S ^ ^Z’ 2’ ^ + Z8^ ~ Р ^Z* Z ’ ^ ~ ,8^ ^ ^ ^ ^Z ^ ^2 ^ *

Если 8 = ст ±it, причем о > 7г. то функция r(z, z';s) является ядром резольвенты. Следовательно, последнее выражение можно переписать таким образом:

Ч

j- lim ([2? (Л + ie) -RkX- Ze)] f, Г) dX;

согласно формуле обращения для резольвенты (см. приложение 2), этот предел равен

хб

^f. fW»

где |if,; — спектральная мера оператора А.

Разобьем полуось s = ’А + ^, t > 0 на отрезки, не содержащие сингулярных точек, и сложим интегралы по этим отрезкам. Из приложения 2 мы знаем, что результат равен

<(/--Р)М>,

где Р — проектор на подпространство, порожденное собственными функциями оператора А. Таким образом, функция Ef принадлежит пространству Но и собственные векторы оператора А переводятся преобразованием Эйзенштейна в нуль. Кроме того, если функция f ортогональна ко всем собственным функциям оператора А, то

Ilf Нг = H£f Иг-

Тем самым утверждения (i) и (ii) нашей теоремы доказаны.

Формула ES 1 показывает, что функция Эйзенштейна ns — собственная функция оператора R (х), отвечающая собственному значению ©(s)^1. Это, по существу, переформулировка последнего утверждения теоремы. Более того, формула ES 1 показывает, что

ЕА а АдЕ,

где символ с: означает, как обычно в теории неограниченных операторов, что область определения оператора ЕА содержится в области определения оператора А0Е и сужение А0Е на эту область совпадает с ЕА.

Отсюда следует, что для любой ограниченной измеримой функции h на вещественной оси справедливо равенство

Eh^A^h^E.

(Мы предполагаем, что читатель знаком со спектральной теорией неограниченных операторов; см. приложение 2.)

Нам остается только доказать, что образ пространства ограниченных функций на Г\£ при отображении Е плотен в Но. Отсюда будет следовать, что замыкание оператора Е осуществляет изометрию подпространства (I — Р) Н на Нй.

Зафиксируем число t0 > 0. Мы знаем, что

г) (г, s) = / + с (s) у1'5 + О (1).

Пусть f — функция, которая в окрестности некоторой точки z0 с достаточно большой мнимой частью Imz0 совпадает с функцией т] (z, */2 + ^о), а затем быстро стремится к нулю. Преобразование Эйзенштейна

F

не исчезает в точке t0; в самом деле, его значение в точке /0 положительно. Выберем теперь функцию h так, что

в окрестности точки t0 и равно нулю вне этой окрестности. Тогда функция

h(A)Ef = Eh(AH

есть характеристическая функция маленького интервала, содержащего точку t0. Это показывает, что образ отображения Е плотен в пространстве Но; теорема доказана.

Случай нескольких вершин

На протяжении всей главы мы предполагали, что Г = SL^ZY Это ограничение в действительности несущественно; теперь пришло время показать, какие дополнительные особенности возникают' в общем случае произвольной дискретной подгруппы Г, такой, что пространство Г^ имеет конечный объем. Мы будем предполагать, что -1 еГ. Как обычно, полагаем G = = SA2(R).

В гл. XII уже упоминалось, что у подгруппы Г существует фундаментальная область F, обладающая следующими свойствами:

F лежит в полосе — х0^х^х0 для некоторого х0.

(И) Существует такое вещественное число а, что F представляется в виде объединения областей

/ П X

F = Fq U U Fa ,\а«*1/

a Fa есть образ верхней части неравенствами2 х 2 ’при отображении zi—*ga2, гдеa Fa есть образ верхней части неравенствами2 х 2 ’при отображении zi—*ga2, гдепричем Fo компактна и имеет кусочно-гладкую границу, полосы Fb определенной

a Fa есть образ верхней части неравенствами

2 х 2 ’

при отображении zi—*ga2, где

a Fa есть образ верхней части неравенствами

2 х 2 ’

при отображении zi—*ga2, где

У>а,

ga — некоторый элемент

группы G = SL2 (R).

Сопоставим каждой функции / на фундаментальной области F (п + 1)-компонентный вектор (вместо двухкомпонентного вектора, когда r = SZ.2(Z)). Положим

k (z) = / (г),2 s Fo,

la^ = f^gazY ZGFv

имеет компоненты йар (z, z'\имеет компоненты йар (z, z'\Z, 2' e F0, 2eFQ, 2zeFb z, z' г FpZ, 2' e F0, 2eFQ, 2zeFb z, z' г FpАналогично, ядро к (z, z') на FXF определяемые следующим образом: ^00 (z, г') = к (z, z'), ^0a(z, /) = fc(z, g^,

имеет компоненты йар (z, z'\

имеет компоненты йар (z, z'\

Z, 2' e F0, 2eFQ, 2zeFb z, z' г Fp

Z, 2' e F0, 2eFQ, 2zeFb z, z' г Fp

^p (z, 2^ = к (gaZ, g^z'), Для a= 1, ... , n положим

Гa ga Fga, Aa Г^, A^— g^ P^, a 0. Подгруппу группы ra, состоящую из элементов вида fa b\

мы будем обозначать Го. Она совпадает с нашей прежней подгруппой Го.

Группа Г, по существу, в первый раз появлялась в вычислениях при доказательстве симметричности оператора Лапласа на Г\ф, т. е. в лемме 1 § 4. Как это будет типично для наших последующих рассуждений, доказательство при переходе к общему случаю остается практически без изменений; нужно лишь заменить f2 на /2 в правой части формулы (*) и просуммировать по а. Таким образом, с каждой вершиной связан один интеграл по верхней части полосы.

При доказательстве сходимости ряда у y'St t1 + “ <z’ V2')]8

в лемме 1 § 5 мы пользовались только тем, что группа Г дискретно действует на верхней полуплоскости.

Несколько более серьезно утверждение, необходимое для доказательства оценки

Ус

(лемма 9 § 7). Нам нужно знать, что в любом подмножестве матриц

12 Зак. 589

1:

из Го, Аа или Ааз, не пересекающемся с Го, величина | с | ограничена снизу. Фаддеев отсылает по этому поводу к статье Петерсона [2[; я поступлю таким же образом.

Все рассуждения, связанные с поведением в окрестности вершины, буквально переносятся на общий случай, поскольку элементы ga переводят стандартную область Ft в соответствующую часть фундаментальной области. Отметим лишь, что некоторые ядра имеют только диагональные компоненты, т. е. все их компоненты, за исключением

t^z, z'; s^ = t^, у'\ з),

maa(z, z'\ S^ — m (z, z'\ s),^oa(z, z'\ s) = q(y, y'; s),равны нулю. Вплоть до § 12 не требуется больше никаких изме-нений, за исключением замены области Fx на Fp

В § 12 нам потребуется ввести у наших функций ряд индексов. Для любого р = 1, .... п определим кусочно-гладкую функцию в\г, s) на области F, компоненты которой задаются формулами

9a(z,s) = dag9(y, s),6q(z, з)=:0.

Здесь дар—обычный символ Кронекера. Для любого р мы получаем функцию Эйзенштейна

Т|0 (2, З) = 00 (z, s) + W (з) 00 (2, З),

где оператор W (з) определен прежними формулами (но теперь это матричный оператор). Теорема 15 применима к каждой функции Эйзенштейна т]0. В доказательстве нужно просто заменить ц и 0 на Г]9 и 00. Каждая функция г)9 — это в действительности вектор-столбец, и мы получаем матрицу размера (п + 1)Х«

/По • • • ИоХ

4 = 1 ••

W

составленную из компонент функций т|„, а=0, ..., п, 0=1, ..., п.

Функция с(з) превращается теперь в матрицу — матрицу рассеяния), элементы которой равны

Cap (8) = С (s) бар + ^ГТ 0“ * "s * 0f

(Мы могли бы написать bs вместо ns, поскольку 5 (s) = М + -\-NB^ и оператор М переводит функции 08 в нуль, т. е. В(з)9₽ = №(з)0₽.)

Теорема 16, описывающая асимптотическое поведение функции т] (z, з), остается без изменений, не считая того, что, как и выше, функция г) становится теперь матрицей. Слагаемое ys нужно интерпретировать как уЧ, где / — единичная матрица.

В следствии, приведенном после теоремы 17, дающем выражение для функций Эйзенштейна в виде ряда, нужно писать ^(gpZ, з) = £ Im(yz)s.

р уеГЛГр

Утверждения ES 1—ES4 остаются без изменений и справедливы для каждой компоненты вектор-столбца ц$. В формуле для резольвенты ES 5 следует ввести суммирование

ES 5. г (z, z';s) — т (z, z'\ 1 — s) — 2TZTf У Л8 (2> s) Лв (2'> 1 — s)-5=1

Формулы ES 6 и ES 7 остаются без изменений, но интерпретируются теперь как матричные равенства. Другими словами, матрица с(з) является обратной к матрице с(1 — з). Имея в виду предстоящее обобщение, мы поместили в формуле ES 7 матрицу с(з) справа от матрицы r](z, 1 — з).

В спектральном разложении для непрерывного спектра нам нужно ввести многокомпонентные функции. Пусть Нй — пространство векторнозначных функций

таких, что ^qe/.2(0, оо). Скалярное произведение в Н^ зададим формулой

а—1 О

Оператор Д — по-прежнему оператор умножения на функцию / и-> 1/4-ф/2. Преобразование Эйзенштейна Ef определяется покомпонентно:

(Epf)(O=$ Л?(2,у + UM (z) dz,

и теорема 18 справедлива без дальнейших изменений.

Приложение 1

ОГРАНИЧЕННЫЕ ЭРМИТОВЫ ОПЕРАТОРЫИ ЛЕММА ШУРА

Непрерывные функции от операторов

Мы предполагаем, что читатель знаком лишь с наиболее элементарными фактами о гильбертовом пространстве; поэтому приведем доказательство следующего вспомогательного результата:

Лемма. Пусть А— линейный оператор в гильбертовом пространстве Н, с — положительное число, такое, что

| (Ах, х) j ^ с | х |2

для всех х^Н. Тогда для всех векторов х, у из Н справедливо неравенство

I (Ах, у) | + | (х, Ау) К 2с | х 11 у |.

Доказательство. Из поляризационного тождества следует, что

21 (Ах, у) + (Ау, х)|< с |х + у |2 + с | х — у |2 = 2с (| х |2 + | у |2).

Таким образом, |(Лх, у) + (Ау, х) | ^ с (| х |2 +1 у|2). Умножим у на комплексное число с*8; мы получим в левой части неравенства выражение

| (e'i6(Ax, у) + ei6(Ay, х)|.

Правая часть останется при этом неизменной; при подходящем выборе 9 левая часть примет вид

|<Лх, у> | + | (Ду, х>(.

(Другими словами, мы поворачиваем одно комплексное число на угол 6, а второе —на угол — 9, пока они не попадут на одну прямую.) Заменим теперь вектор х на tx, а у —на уД, где t — поло-

жительное вещественное число. При этом левая часть неравенства не изменится, а правая примет вид

£Ю = /2И2 + т^12-

Точка, в которой производная g'(t) равна нулю, — единственный минимум функции g; нетрудно видеть, что ее значение в этой точке /о есть g(t0)= |*||у|. Лемма доказана.

Теорема 1. Пусть А— эрмитов оператор. Тогда его норма | А | есть точная нижняя грань множества всех чисел с, таких, что

|(Ах, х)К с |х|2,хеН.

Эквивалентно, |Л| есть точная верхняя грань множества значений величины |(Ar, х)|, когда вектор х пробегает единичную сферу в пространстве Н

Доказательство. Пусть Л—эрмитов оператор; тогда для любых х,у<ЕН справедливо неравенство

\(Ах, у}\<с\х\\у\х

таким образом, число |Л| не превосходит константы с из предыдущей леммы. С другой стороны, ясно, что с = | Л | — допустимое значение для с в силу неравенства Шварца. Теорема доказана.

Теорема 1 позволяет нам ввести частичную упорядоченность в множестве эрмитовых операторов. Пусть А — эрмитов оператор; мы будем писать Л^О и говорить, что Л — положительный оператор, если (Ах, х) ^ О для всех хеН. Если А, В — эрмитовы операторы, мы будем писать Л^В, когда А — В^О. Это в самом деле задает частичную упорядоченность, поскольку выполнены обычные правила: если Av^ Вх и Л2^В2, то

Ai + Л2 ^ Bj + В2.

Если с — положительное число и Л^О, то сЛ^О. Пока мы ничего не сказали о произведении положительных эрмитовых операторов АВ, даже когда АВ = ВА. Мы займемся этим вопросом позднее.

Пусть с —верхняя грань для оператора А. Тогда |(Лх, х)|^ ^с|х|2 и, следовательно,

— cl ^.A^cL

Если а — вещественное число, то для простоты мы будем иногда писать а^Л вместо а/^Л и, аналогично, будем писать Л^^ вместо Л^р/. Положим

a= inf (Ах, х), р= sup (Ах, х}-,

тогда

а ^ А ^ р,

и из теоремы 1 вытекает, что

|Л| = тах(|а|, |р|).

Пусть р — произвольный полином с вещественными коэффициентами, Л —эрмитов оператор. Если

P (/) = а„/" + • • • + с0,

то положим, по определению,

Р (Л) = апАп + ... + Од/.

Обозначим R [Л] алгебру, порожденную оператором Л над полем вещественных чисел R, т. е. алгебру всех операторов р (Л), где P(<)eR[i]. Мы хотим исследовать замыкание алгебры R [Л] в вещественном банаховом пространстве всех операторов. Мы покажем, что это замыкание может быть реализовано как кольцо непрерывных функций на некотором подмножестве множества вещественных чисел. Заметим сначала, что эрмитовы операторы образуют замкнутое подпространство в End Н и что R [Л] — замкнутое подпространство пространства эрмитовых операторов.

Мы покажем, что если р — вещественный полином, принимающий положительные значения на интервале [а, р], то оператор р(Л) положителен. Нам потребуется для этого одна чисто алгебраическая лемма.

Лемма 1. Пусть р — вещест венный полином, такой, что р(1)^0 при всех /е[а, р]. Тогда полином р можно представить в следующем виде:

p^-c^Qi № + ^t-a) Q, (О2 + 2 (Р - 0 Qk (О2], где Qi, Qj, Qk — вещественные полиномы и с^О.

Доказательство. Разложим сначала полином р на линейные и неприводимые квадратичные сомножители. Если у полинома р есть корень у в интервале (а, р), то его кратность четна (в противном случае р менял бы знак в окрестности точки у, что противоречит сделанному предположению) и, значит, множитель (/— у) входит в разложение р в четной степени. Если корень у таков, что у^а, то в разложение р входит линейный сомножитель t — у; мы запишем его следующим образом:

t — у = (/ — «) +(« —у).

Заметим, что число (а — у)—-квадратвещественного числа. Аналогично, если р имеет корень у, такой, что у ^ Р, мы запишем соответствующий линейный множитель в виде

y-' = (y-P) + (P-/);

число у — р также есть квадрат. Итак, в разложение полинома р входят множители вида (/ — y)2m (Y), если у е (а, р); остальные линейные множители имеют вид t— у, если у^а, и у — /, если у ^ р. Квадратичные множители имеют вид (/ — а)2 4- &2’ При таком соглашении константа с (постоянный множитель) положительна, так как полином р неотрицателен на интервале [а, р]. Перемножим все эти множители и заметим, что произведение суммы квадратов на сумму квадратов — снова сумма квадратов. Мы получим для р выражение нужного нам вида, за исключением того, что еще присутствуют члены вида

(г-«)(Р-0<Ж,

где Q — вещественный полином. Чтобы избавиться от них, воспользуемся тождеством

(/-„)$-/)- <!—»>’«>- W1 -<■>(?-'>■.

Лемма доказана.

Чтобы исследовать R [Л], заметим, что отображение

р ь-» р (Л)

есть гомоморфизм алгебры R [Z] на R [Л]. Кроме того, если В, С — эрмитовы операторы, такие, что ВС = СВ и В^О, то оператор ВС2, очевидно, положителен, ибо

(ВС8х, х) = <СВСх, х) = (ВСх, Сх»0.

Сумма двух положительных эрмитовых операторов положительна. Таким образом, из выражения для полинома р, полученного в лемме 1, вытекает

Лемма 2. Если полином р положителен на интервале [а, р], то оператор р (Л) положителен. Если q, р — такие вещественные полиномы, что p^q на интервале [а, И, то р (Л) ^<7 (Л). Наконец, пусть l|p|j = sup |р(0|; тогда

<е[а, 51

1р(Л)|<||р||.

Доказательство. Первое утверждение вытекает из замечаний, предшествовавших лемме. Второе немедленно следует из первого: достаточно применить его к полиному q — р. Наконец, положим

^±(/)=11р 11± р (0;

тогда полиномы q± неотрицательны на интервале [а, Р] и, следовательно, б/±(Л)^О. Теперь последнее утверждение леммы вытекает из теоремы 1.

Мы доказали, что р н-* р (Л) — непрерывное линейное отображение из пространства полиномиальных функций на интервале [а, р] в алгебру R [Л]. Ло теореме о продолжении, мы можем распространить его по непрерывности на все банахово пространство непрерывных функций на [а, р]. Таким образом, по теореме Стоуна — Вейерштрасса, мы можем определить оператор f (Л) для любой непрерывной функции f на [а, р]. Пусть \,Рп\ — последовательность полиномов, которая равномерно сходится к f; тогда, по определению,

f (Л) = Нтрп(Л).

Более того, снова по непрерывности, получаем

1НЛ)|<Ш,

где ||f ||= sup If (О I- Пусть {р„}, {7J — две равномерно схо- t е [в, В]

дяшиеся последовательности полиномов, f = limp„, g = lim^„. Тогда pnqn^Hg. Таким образом, мы получаем

(fg) (Л) = f (Л) 5 (Л)

для любых непрерывных функций f, g. Другими словами, наше отображение есть также гомоморфизм.

Теорема 2. Если оператор Л положителен, то существует такой оператор В eR [Л], что В2 = А. Произведение двух коммутирующих положительных эрмитовых операторов—также положительный оператор.

Доказательство. Непрерывная функция t^-t’1 переходит при нашем отображении в квадратный корень из оператора А в кольце К[Л]. Ясно, что любой элемент кольца R [Л] коммутирует с А. Если операторы Л и С коммутируют и А = В- для некоторого BeR [Л], то операторы В и С также коммутируют, поскольку С коммутирует со всеми операторами р(Л), где р — вещественный полином, а значит, и со всеми элементами кольца R[Л]. Но, как мы видели, если С^О и В и С коммутируют, то В2С^0. Теорема доказана.

Ядро нашего отображения f *—* f (Л) — замкнутый идеал в кольце непрерывных функций на интервале [а, р]. Забудем иа время обычное определение спектра оператора и определим спектр а (Л) как замкнутое множество нулей этого идеала.

Пусть f — любая непрерывная функция на множестве а (Л); продолжим ее с сохранением нормы до непрерывной функции f] на интервале [а, р] и положим, по определению,

ца^-мау

Если g — другое продолжение f на [а, 0], то функция g — Л обращается в нуль на множестве ст(Д) и, следовательно, g(A) = = fi(A). Таким образом, /Ц) не зависит от конкретного продолжения функции f на интервал [а, 0], и наше определение

Рие. 2.

корректно. Обозначим || • ||л норму в кольце непрерывных функций иа множестве о(Д), т. е.

ИЛ1а = sup |f(OI.

‘ е а (А)

Мы получаем гомоморфизм кольца непрерывных функций на спектре ст (Л) в кольцо R [Д]; при этом

1Ш)1<Ша-

Сформулируем теперь спектральную теорему.

Теорема 3. Отображение ff (А) есть банахов (сохраняющий норму) изоморфизм кольца непрерывных функций на спектре ст (Л) на банахову алгебру R [Д]. Непрерывная функция f неотрицательна на множестве а (А) тогда и только тогда, когда ЦА)>0.

Доказательство. Мы только что вывели неравенство для норм, воспользовавшись тем, что положительным функциям соответствуют при нашем отображении положительные операторы. Докажем теперь противоположное неравенство. Итак, пусть /(Д)^0; мы докажем, что функция f неотрицательна на спектре оператора А. Предположим, что это неверно; тогда / отрицательна в окрестности некоторой точки с из спектра. Пусть g — непрерывная функция, график которой изображен на рис. 2. Таким образом, функция g неотрицательна и имеет положительный пик в окрестности точки с. Тогда fg^O и f(c)g(c)<0. Следовательно, — fg ^ 0 и, значит, — f (Д) g(A) ^ 0. Но f (А) ^ 0, и £(Д)>0; таким образом, по теореме 2, f (Д) g (Д) 1>0. Отсюда следует, что f (Д) g (Д) = 0, но это невозможно, так как функция fg не обращается в нуль на спектре. Таким образом, f^O на множестве а (А). Итак, второе утверждение теоремы доказано.

Перейдем к доказательству первого утверждения. Положим & = 17 (Л) |. Тогда Ы ±f(H)>0, откуда 6±/(/)>0 при всех iso (Л). Это показывает, что

II f На <1 f U) |;

таким образом, последовательность {/„ (Л)} сходится тогда и только тогда, когда последовательность непрерывных функций {/„} равномерно сходится на спектре. Это завершает доказательство спектральной теоремы.

Нам осталось только проверить эквивалентность нашего определения спектра обычному.

Следствие. Пусть А —эрмитов оператор; тогда спектр ст (Л) совпадает с множеством таких комплексных чисел z, что оператор Л — г/ необратим.

Доказательство. Пусть 2 — такое комплексное число, что оператор Л — zl необратим. Тогда 2 вещественно. В самом деле, если это не так, положим

g(A = (t — z^t — 2).

Функция g не обращается в нуль на спектре, и, следовательно, функция /г: t Y/g(t) — ее обратная. Таким образом, получаем противоречие: оператор h (Л) (Л — zl) является обратным к оператору Л — zl. Итак, z — вещественное число.

Пусть £ вещественное число, не принадлежащее спектру. Тогда функция/>-*£ —| обратима на спектре ст (Л) и, следовательно, оператор Л— у тоже обратим.

Предположим теперь, что £ принадлежит спектру оператора А. Пусть g — непрерывная функция, график которой изображен на рис. 3, т. е такая, что

^ f V^ —61, если |/— ^|>1/W,I , N, если | / —• g К 1/N.

Предположим, что оператор А— У обратим, и пусть В — его обратный, т. е.

В(Л-^) = И-^)В=/.

Так как |(/—£)g(OI<I, получаем

|(Л-^)5(Л)|<1,

откуда

|^(Л)1 = |В(Л-^)^(Л)К|В].

Но норму || g || = N можно выбрать сколь угодно большой, и, следовательно, норма |^(Л)| тоже сколь угодно велика (противоречие). Теорема 3 доказана.

Основная идея — использовать положительность для доказательства спектральной теоремы — принадлежит Ф. Риссу. Однако в большинстве изложений основной целью является получение для оператора Л интегрального представления, которое мы обсудим в приложении 2. Дж. фон Нейман всегда подчеркивал, что гораздо более эффективно доказывать сразу утверждение теоремы 3, которое достаточно для большинства приложений и может быть совсем просто выведено из теоремы о положительных операторах. Эти рассуждения заимствованы из заметок семинара фон Неймана 1950 г. Следующую теорему и ее следствие, обычно называют леммой Шура.

Теорема 4. Пусть S — множество операторов в гильбертовом пространстве Н, не имеющее в Н замкнутых инвариантных подпространств, за исключением {0} и самого Н. Пусть Л — эрмитов оператор в Н, такой, что АВ = ВА для всех операторов В us S. Тогда А = cl, где с — некоторое вещественное число.

Доказательство. Достаточно доказать, что спектр А состоит только из одной точки. Допустим, что найдутся две различные точки с, #= с2, принадлежащие спектру А. Существуют непрерывные функции f, g, ни одна из которых не обращается

Рис. 4.

в нуль на спектре, такие, что их произведение fg тождественно обращается в нуль. Например, в качестве функций f и g мы можем взять функции, графики которых изображены на рис. .4.

При всех BeS имеем f (Л) В = Sf (Л) (поскольку оператор В коммутирует с вещественными полиномами от Л, а значит, и с их пределами). Следовательно, линейное подмножество f (А) Н инвариантно относительно всех операторов из S, так как

Bf (A)H = f (A)BHaf{A)H.

Пусть F — замыкание множества f (Л) Н. Тогда F =# {0}, поскольку t (Л) ^ °- Кроме того, F ^ Н, поскольку ^(Л) f (Л) Н = {0} и, значит, £ (Л) F = {0}. Инвариантность подпространства F относительно S противоречит условию теоремы. Теорема доказана.

Следствие. Пусть S — множество линейных операторов в гильбертовом пространстве Н, не имеющее в Н нетривиальных инвариантных подпространств. Пусть А — такой линейный оператор в Н, что АА* = А*А и АТ — ТА, А*Т = ТА* для всех TeS. Тогда А = с1, где с — некоторое комплексное число.

Доказательство. Представим оператор А в виде А = В -\- Ю, где в = (Л + Л*)/2, С = (Л — A*)/2i — коммутирующие эрмитовы операторы. Чтобы доказать наше утверждение, достаточно применить теорему 4 к каждому из операторов S и С.

Проекторнозначные функции от операторов

Нам необходимо распространить понятие функции от оператора на более широкий класс функций, включающий по крайней мере характеристические функции интегралов. В нашем изложении мы, в основном, следуем Б. Секефальви-Надю и Ф. Риссу.

Лемма 1. Пусть а — вещественное число, {Ап} — последовательность эрмитовых операторов, таких, что Ап^а1 при всех п и Лл^Лл+1. Тогда для любого вектора и е Н последовательность {Ллу} сходится в Н. Обозначим ее предел Av; тогда отображение и>—*Ас— ограниченный эрмитов оператор.

Доказательство. Из неравенства

(Ллу, у) ^а(у, у)

вытекает, что последовательность (Ллу, у) сходится при любом и еН. Так как

(Ллу, гу) = -^(Лл(у + ш), у + ш> — у <Лл(у — w\ v — ty>,

то последовательность (Л„о, ш) сходится для любых элементов и, w^H. Определим функционал Хо на Н равенством

Ху (ш) = Нт (Л„у, wY

Функционал Хо антилинеен; существует такая постоянная С, что для всех и, щеН справедливо неравенство (Л„у, ш)^С | и ||ш|. Следовательно, существует такой оператор Л в Н, что (Ло, ш) = = lim (Л„у, w). Так как (Л„у, w) = {v, Anw), то оператор Л эр- П->ОО

митов.

Лемма 2. Пусть f — ограниченная снизу функция на спектре оператора Л. Предположим, что функция f есть поточечный предел монотонно убывающей последовательности непрерывных функций {/Ц. Тогда предел Итй„(Л) не зависит от выбора последовательности (hn}.

Доказательство. Пусть {^„} — другая убывающая последовательность, поточечно сходящаяся к функции f. Зафиксируем числа k и в. Тогда для всех достаточно больших номеров п

max(5„, Ай) ^/ife + е;

таким образом, при всех t справедливо неравенство gn.^)^ < hk (t) + е. Следовательно,

gnVA^hkkAWel.

Это показывает, что

lim gn (Л) < hk (Л) + е/, откуда

lim gn (Л) < lim hk (Л) + в/.

Это неравенство справедливо при всех 8 > О, поэтому можно устремить е к нулю. Так как функции g и h входят в наше рассуждение симметрично,, то справедливо и противоположное неравенство. Лемма доказана.

Из леммы 2 видно, что отображение

Г^ЦА)

можно продолжить на линейное пространство, порожденное полуограниченными снизу функциями, которые можно представить как пределы убывающих последовательностей непрерывных функций. Продолженное отображение по-прежнему линейно, сохраняет порядок и мультипликативно, т. е.

(ГМ = /(Л)£(Л)

для любых функций /, g из нашего векторного пространства.

Наиболее важные функции, к которым мы применим это продолжение, — это характеристические функции, подобные функции -ф,., график которой изображен на рис. 5. Она может быть получена как предел функций hn, графики которых изображены на рис. 6.

сРис. 5.сРис. 5.Рис. 6.Рис. 6.

с

Рис. 5.

с

Рис. 5.

Рис. 6.

Рис. 6.

Лемма 3. Обозначим фс (Л) = Рс. Предположим, что al ^ А ^ ^ р/; тогда

Рс = 0, если с^.а; Рс — 1, если с^р.

Если с<.с', то РС^РС,.

Эта лемма непосредственно вытекает из леммы 2.

Заметим, что Р2е = Рс, т. е. Рс — проектор. Совокупность :проекторов (Рс) мы будем называть спектральным семейством,

ассоциированным с оператором А. Мы сохраняем прежние обозначения; нам потребуются еще две функции fc, gc, графики которых изображены на рис. 7. Таким образом, fc^ ~V SclO — = 1t — с |. Справедливо равенство

а-с)(1-фс(0) = /Д0.

Следовательно,

W-cDU-?,) = ! ДА),

A-cI = UA)-gAA),

.(3)U-cnPc=-gAA)Pc=-gAA).

Теорема 5. Пусть {Рс}— спектральное семейство, ассоциированное с оператором А. Если b ^ с, то в подпространстве (Рс — Рь) Н справедливо неравенство

ЬКА^с!.

• Доказательство. Из формулы (1) следует, что сужения операторов А — Ы и f6(A) на ядро проектора Рь совпадают. Так как fa^0, то в этом подпространстве справедливо неравенство Ы^А. Из формулы (3) следует, что сужение операторов А — cl и —&ДА) на образ проектора Рс тоже совпадают. Так как — Ес^О. то в этом подпространстве А<с/. Теорема доказана.

Теорема 6. Семейство {Рс} сильно непрерывно справа.

Доказательство. Пусть у е Н — произвольный вектор. Наше утверждение означает, что Рс+ео -> Рсу при е^О. Достаточно доказать, что

<Рс+8у, у}-ДРсу, у}, так как

^Рс+в-РМ

Но квадратичная форма (Реу, у) близка к (й(А)у, у), где h— функция, график которой изображен на рис. 8.

Рис. 8.

Определим функцию h6 равенством hs (/) = h (t — 6). Тогда

фс(О<А(О<Ав (0.

Фс (О < Фс+е (О < Ч (О-

Так как последовательность функций h6 равномерно сходится к функции h при 6^-0, то последовательность операторов йа(А) сходится к оператору h (А). Тогда

Рс ^ Л (А) ^/г (А) + в/,

Рс ^ Рс+8 ^ ^ (А) + в/.

Таким образом, мы получаем следующие неравенства для квадратичных форм:

<Рсу, у^^(Л(А)у, у) ^(/г (А) у, у) + в(у, у),

(Рсу, иХ<Рс+8у, y><(ft(A)o, у> + в(у. о).

Так как Qi (Л) у, у} сколь угодно близко к (Рсу, у), то теорема доказана.

Теорема 7 (Лорх). Предел слева Пт фс — Рс-^ = Qc 8-»0

— проектор на собственное подпространство оператора А, отвечающее собственному значению с.

Доказательство. Из теоремы 5 вытекает, что

откудаоткуда(с - е) фс - Рс—в) <Афс- Ре-е) ^ефс- Рс-в\

откуда

откуда

| (А — ср Фс — Рс-^ I < 8.

Но для любого вектора уеН существует предел limфс — Рс-в)у. 8-»0

Обозначим этот предел да. Из доказанного неравенства следует, что Ада = еда; таким образом, если да ^ О, то да — собственный вектор оператора А.

Обратно, пусть ф — непрерывная функция; тогда для любого замкнутого А-инвариантного подпространства F с Н имеем

ф (А] Л = ф(А) IF.

Пусть Нс — собственное подпространство оператора А, отвечающее собственному значению с. Мы хотим показать, что сужение проектора Qc на это подпространство есть единичный оператор. Без ограничения общности можно предположить, что Н = НС. Тогда Рс = 0, так как fc = 0 на спектре оператора А. Предположим, что b < с; тогда оператор

fb(A) = A-W = (c-b)/

обратим и, следовательно, Рь = 0. Теорема доказана.

Приложение 2

НЕОГРАНИЧЕННЫЕ ОПЕРАТОРЫ

Самосопряженные операторы

Пусть Н — гильбертово пространство, А — линейное отображение

A: DA—>H,

определенное на плотном линейном подмножестве в Н. Рассмотрим точки (у, ш) произведения Н X Н, удовлетворяющие условию

(Аи, о) = (и, w) для всех u<~DA.

Так как линейное подмножество DA плотно в Н, то элементы zy однозначно определяются элементами у. Поэтому соотношение (1) определяет некоторый линейный оператор A*: A*u = w. Оператор А* называется сопряженным к А. Его область определения ЬА* представляет собой совокупность всех векторов и е Я, для которых существует вектор w, удовлетворяющий условию (1). Ясно, что это множество линейно. Чтобы выяснить, при каких условиях оператор А* является плотно определенным, рассмотрим отображение

J: НХН-*НХН, задаваемое равенством I (х, у) = (— у, х\ Ясно, что Р = — I. Исходя из определения сопряженного оператора, нетрудно проверить, что график Ga* оператора А* задается формулой

ga* = uga?,

где ± обозначает ортогональное дополнение. Следовательно, график оператора Л* —замкнутое подмножество в НХН.

Будем говорить, что оператор Л замкнут, если его график замкнут в Н X Н.

Если А — замкнутый оператор, то линейное подмножество DA* плотно в Н.

Доказательство. Пусть Л г Da*', тогда

(й, 0)^(Ga*^ = (JGa)^ = JGa,

так как, по предположению, оператор А замкнут. Отсюда вытекает, что (0, /г) е GA, следовательно, h = 0, и наше утверждение доказано.

Если А —замкнутый оператор, то А** = А.

Доказательство. GA^ = yOA«V = (j (ZGA)X)'L = GA.

Если операторы А и А* плотно определены, то график GA«« есть замыкание GA.

Доказательство. ОА*« = иоА*У" = Q (/СД1)^ = СА.

Предположим, что оператор А определен на множестве ОА, оператор S — на DB, причем DA с DB и сужение В на DA совпадает с А. В этом случае говорят, что оператор В есть расширение оператора А, и пишут Асе В. Приведенное утверждение показывает, что А с А**.

Будем говорить, что оператор А симметричен, если (Au, v) = = (и, Av) для всех и, ueDA. Будем говорить, что оператор А самосопряжен, если, кроме того, области определения операторов А и А* совпадают.

Если оператор А симметричен, то Ас А*.

Это утверждение очевидно. Напомним, что, по предположению, область определения оператора А плотна в Н.

Если операторы А, В самосопряжены и АсВ, то А = В.

Это тоже очевидно, поскольку из включения А а В следует, что В с А*, и так как операторы А и В самосопряжены, то 8 с Л, откуда А — В.

Пусть А — симметричный оператор, заданный на плотном множестве DA. Предположим, что число Хе С не является вещественным. Тогда оператор А — XI инъективен на DA. В самом деле, допустим, что Аи=Хи для некоторого ueDA. Так как (Ли, и) = (и, Аи), то

Х(и, и) —{Хи, и) = {и, Хи) = Х{и, и),

откуда и = 0. Таким образом, можно определить оператор

U = UA, х = (Л + V) (Л + V)-1, заданный на многообразии (Л + XI) DA. Мы утверждаем, что оператор U изометричен. Для доказательства достаточно проверить, что для любых и, veDA

{Аи + Хи, Ау + Ху) = (Au + Хи, Av + Ху).

Но это очевидно.

Лемма 1. Пусть А — замкнутый симметричный оператор, X ^Х — комплексное число. Тогда (Л + XI) DA — замкнутое подпространство.

Доказательство. Пусть векторы ип из DA таковы, что {(Л + XI) ип} — последовательность Коши. Так как оператор U изометричен, то {(Л + V) и^ — тоже последовательность Коши. Поэтому последовательность {(Л.— Х)и„} сходится. Так как X ^ X, последовательность {и„} также сходится; пусть и — ее предел. Но

{2Аип + (X + X) и„}

— тоже последовательность Коши; значит, последовательность {Ли„} — сходящаяся. Мы предположили, что график оператора А замкнут; поэтому ueDA и последовательность ^и„, Аип)} сходится к некоторому элементу (u, Au) е GA; последовательность

{(Л + V) иД

сходится к (А-\-М)и. Отсюда вытекает, что множество (AA-M)Da замкнуто.

Теорема 1. Пусть А — замкнутый симметричный оператор и существует комплексное число Х^=Х, такое, что линейные подмножества (Л + XI) Da и (Л + Xi) Da плотны в Н (и, следовательно, совпадают с Н, по лемме 1). Тогда оператор А самосопряжен.

Доказательство. Пусть yeDA*. Нам нужно показать, что угВА. По определению, для всех и е DA справедливо равенство

(Аи, о) = (и, Л*о).

Так как (AA-M)Da = H, то существует такой вектор uxsDA> что

А у + Ху = AU] -|- Хих.

Тогда

(Ли, у) = (и, Аих + Хих — Ху)

для всех и г Da, откуда

((Л 4- XI) и, у) = ((Л 4~ XI) и, и^)

для всех m DА. Так как (Л + XI)Da = H, то у = их, что и требовалось показать.

Замечание. Коразмерности подпространств ^AA-XI)Da и (Л + Х/)Т)А называются в литературе индексами дефекта. Мы

рассматриваем сейчас ситуацию, когда индексы дефекта оператора А равны нулю.

Следствие. Пусть А — симметричный плотно определенный- оператор. Предположим, что существует комплексное число X V= X, такое, что подпространства (Л + XT) DA и (Л + X/) DA совпадают с Н. Тогда оператор А допускает самосопряженное замыкание.

Доказательство. Так как оператор Л симметричен, то область определения А* также плотна в Н. Мы уже доказали выше, что график GA«* совпадает с замыканием графика GA; таким образом, оператор А допускает замыкание. Ясно, что это замыкание—тоже симметричный оператор. Теперь мы можем воспользоваться теоремой 1.

Оператор А, заданный на линейном подмножестве DA az Н, называется в существенном самосопряженным, если замыкание его графика есть график самосопряженного оператора. Приведенное выше следствие дает достаточное условие существенной самосопряженности.

Теорема 2. Пусть А — самосопряженный оператор. Пусть 2 ^ z — произвольное комплексное число. Тогда оператор A — zI имеет нулевое ядро. Существует единственный ограниченный оператор

R(z) = {A-zir'-. H->-DA,

взаимно однозначно отображающий пространство Н на область определения DA. Справедливо равенство

R(zy = R^.

Если г и w — два любых невещественных комплексных числа, то имеет место резольвентное уравнение

(2 — w) R (z) R (zy) — R (z) — R (w) = (z — w) R (w) R (z);

в частности, операторы R{z) и R(w) коммутируют. Справедлива оценка

IЯ (2) К । im 21 •

Доказательство. Пусть z — xA"iy- Если вектор и принадлежит области определения оператора А, то выполняется неравенство

\(Л~г1Ы»\(.А-х1Ы + у2\и\2>у2\и\2, так как оператор А симметричен, и поэтому перекрестные члены в скалярном произведении сокращаются. Это показы-

вает, что оператор А— zl имеет нулевое ядро и что обратный оператор, определенный на подпространстве (Л— zI)DA, непрерывен. Предположим, что вектор у ортогонален к образу оператора А— zl, т. е.

(Au — zu, у} = О

для всех us DA. Тогда (Ди, Д = (и, zu\ Так как оператор А самосопряжен, то отсюда следует, что вектор у принадлежит области определения оператора А и что Au = zu. Однако Кег (Л — 2/) = 0, поэтому у = 0. Следовательно, образ оператора А— zl плотен в Н. Но тогда, по теореме 2, он совпадает со всем Н. Итак, оператор R(z) определен на всем пространстве и равен (А — ziyV Имеем очевидное тождество

[(Л — zy/) — (Л — г7)] R (w) = (a — w)R (w\

Умножив обе части слева на R(z), получаем резольвентное уравнение. Теорема доказана.

Напишем

R (/) = (Л - ИД1 = С + IB,

где В, С — ограниченные эрмитовы операторы. Из резольвентного уравнения для R (Г) и R(— i) следует, что операторы В и С коммутируют. Оператор В можно назвать мнимой частью оператора (Л —Z/)-1:

5 = Im (Л — г/),1.

Лемма 2. Сохраним предыдущие обозначения. Тогда С = АВ и ВАс-АВ. Оператор В имеет нулевое ядро-, справедливо неравенство О^В^Д.

Доказательство. Из равенства R (i)* — R(—l) вытекает, что (Л - ИД1 — (Л + 1Г)'; — 21В.

Умножим обе части этого равенства слева на оператор А и заметим, что

АД-ПД1 = i(A-II)-1 +Л

АДДИух = -1ДД1ГГхД1.

Получим С = АВ. Чтобы доказать второе утверждение, умножим обе части того же равенства на оператор А справа и воспользуемся тем, что

Д-ИГХ Д —il^ = I \DA,

и аналогичным соотношением для оператора АДН. Отсюда немедленно вытекает, что В A cz АВ. Любой вектор у из ядра

оператора В принадлежит также ядру оператора С = АВ, а значит, и ядру оператора (А —г/)-1; следовательно, у = 0. Неравенство В^/ вытекает из неравенства IB (01^1, которое представляет собой частный случай оценки, доказанной в теореме 2. Проверку положительности оператора В мы предоставляем читателю.

Приведем теперь пример самосопряженного оператора. Мы увидим позднее, что любой самосопряженный оператор имеет ту же природу.

Теорема 3. Пусть {Нп} — последовательность гильбертовых пространств, Ап — ограниченный самосопряженный оператор в Нп. Пусть Н = ®Нп; таким образом, пространство Н состоит из всех рядов вида У ип, где ип е Нп, таких; что У | ип |2 < оо. пп

В пространстве Н существует единственный самосопряженный оператор А, область определения которого содержит каждое из подпространств Нпс Н и сужение которого на Нп совпадает с Ап. Область определения оператора А состоит из всех рядов вида и=^ип, иаг Нп, таких, что п

У1А„М„|2<оо;

при этом Аи — ^ Апип. п

Доказательство. Единственность оператора А вытекает из того, что самосопряженные операторы не допускают нетривиальных расширений: если А, В — самосопряженные операторы и Ас В, то А = В. Поэтому достаточно показать, что если Da с Н — линейное подмножество, описанное выше, и для любого и = ^ипг Da оператор А определен формулой Аи = = У А„мп, то оператор (A, D д) самосопряжен. Ясно, что оператор А симметричен. Пусть у е DA* — произвольный вектор. Тогда для любого вектора и е DA

{и, А*у} = {Аи, у).

Пусть и=^ип, Un^Hn. Тогда

У (w„, А*у) = £ (Апм„, у).

Ясно, что для всех ип s На

(ип, А*и) = (Апип, у),

<ип, (А*у)„) = (Апип, у„).

Отсюда следует, что (Л*у)„ = Апип. Но тогда

ZI v4„0„ Р = 221 (Л*у)„ р =! A-о Р;

следовательно, у е DA, т. е. Вд» с Вд, и оператор А самосопряжен. Теорема доказана.

I 0 при других t

11

n + 1n

Рис. 1

В предположениях теоремы 3 мы будем использовать обозначение

А = © Ап.

Рассмотрим обращение теоремы 3. Пусть А — произвольный самосопряженный оператор в гильбертовом пространстве Н; положим, как и выше,

(А — ИУ"' = С + 1В.

1Лъ1 собираемся разложить гильбертово пространство при помощи спектральных проекторов, связанных с оператором В. Пусть 0с — фУнкЦия, график которой изображен на рис. 1.

, 6(0Ч(о

(а)(Ь)

Рис. 2.

Пусть {Р} — спектральное семейство, связанное с оператором В. Положим

Qn= 9fi (Р) — Рип — Ри (п-н)!

тогда Q„ —проектор. Пусть Ha = QaH. Очевидно, что

Н = фНп

ортогональная прямая сумма. Пусть 0 и т) — функции, графики которых изображены соответственно на рис. 2(a) и (Ь).

Тогда I — 0 = ц и ц (В) = О, так как, в силу леммы 2 и теоремы Лорха, спектральное семейство оператора В непрерывно в нуле оператор В имеет нулевое ядро).

( l/tnpH-j—<t< —

S„(t)= IЛ + 1п

хпхпIО при других t

хп

хп

1п+ 1

Рис. 3

Пусть sn— функция, график которой изображен на рис. 3. Г огда

6s„(6) = e„(6) = Q„.

Теорема 4. Пусть Л— самосопряженный оператор. Положим В = Im (Л — П)~1. Пусть Qn = 0„ (В) — проектор, определенный выше. Тогда оператор Л определен на образе оператора Qn и

QnAaAQn = sn^ С.

Положим Hn = QnH. Тогда Н — ортогональная прямая сумма подпространств Нп. Пусть Ап — сужение оператора А на Нп. Тогда оператор Л„ ограничен и

Л = ф Л„.

Доказательство. Так как tsn (/) = 0„ (/), мы получаем Bsn (В) = = 0„ (В) = Q„. Тогда, в силу леммы 2,

Л0„ = ABsn (В) = Csn (В) = s„ (В) С.

В частности, оператор ЛQ„ определен на всем пространстве. С другой стороны,

QnA = s„ (В) В А с s„ (В) АВ = sn (В) С.

Это показывает, что QnA cz AQn. Другими словами, пусть и е ОА — произвольный вектор, о —^ил — его разложение на составляющие vn^ Нп и Ло = У wn; тогда

QrtЛo == w „ = mQ^o Avn = Апип.

Таким образом, Ло = УЛ„оп; теорема доказана.

Спектральная мера

Рассмотрим сначала ограниченный самосопряженный оператор А в гильбертовом пространстве Н. Для любого вектора иеН определим линейный функционал в пространстве Cc(R), положив

^(ф) = (фИ)о, у).

Ясно, что этот функционал положителен. Следовательно, существует единственная положительная мера ц0 на прямой, такая, что

<Ф (Л) у, и) = $ ф dp,.

R

Воспользовавшись поляризационным тождеством, мы получаем что для любых двух векторов у, аа г Я существует такая комплексная мера w, что

<Ф (Л) у, т) = ^ ф йцо, ш.R

Ясно, что отображение (у, ш) н-> ц^ w линейно по у и антилинейно по аа. Кроме того, из теоремы 3 § 1 приложения 1 следует, что

| (ф (Л) у, аа> | ^ || ф ||оо | у 11 аа |.

В частности, n0(R)^|y|2; таким образом, мера це конечна.

Пусть ВМ (R) — банахово пространство ограниченных боре- левских функций на R. Для любой функции f G ВМ (R) отображение

(у, аа) f dp.T> w

линейно по у и антилинейно по аа. Кроме того,

| ^ f ^.^[^llf 11= 1у II w I;

чтобы проверить это неравенство, достаточно построить после довательность функций ф„ е Сс (R), поточечно сходящуюся к / почти всюду (по мере |ц0,ш1) и такую, что | Ф„ I ^ || f ||«>. Следовательно, наше отображение непрерывно, и существует единственный ограниченный оператор, который мы обозначим f(A), такой, что

(f И) У, ш)= ^ f dp,,^,

Для любых функций f, geSM(R) справедливы следующие утверждения.

SPEC 1.(fg) И) = f И) g (Д).

SPEC 2.f(A*) = HA\

SPEC 3. Если h = 1 — постоянная функция, то fa (A)—I.

SPEC 4. Если g (0 = tf (t) и функции fug измеримы и ограничены, то g (Д) = Af (Л).

SPECS, f (Л) ^ || f И*. Кроме того, если уа} — ограниченная последовательность в ВМ (R), поточечно сходящаяся к f, то последовательность операторов {/„(Л)} сильно сходится к оператору f(A).

Перечисленные утверждения либо очевидны, либо могут быть получены при помощи теоремы Лебега об ограниченной сходимости. Например, для доказательства первого утверждения достаточно взять две последовательности непрерывных финитных функций, которые сходятся соответственно к f и g.

Мы воспользуемся структурной теоремой из предыдущего параграфа, чтобы распространить эти результаты на неограниченные самосопряженные операторы. Пусть А — самосопряженный оператор, такой, что

д=ёд„, Н = ®Нтпп

где Аа — ограниченный самосопряженный оператор в пространстве Нп. Пусть f — ограниченная борелевская функция, у е Н — произвольный вектор. Так как | f (Л„) у„ | <|| f ||оо | У„ I, то существует единственный ограниченный оператор f (Д), такой, что

f И) v = £ t lA^ о».

Как и выше, с каждым подпространством Нп и вектором япеНп мы можем ассоциировать меру ц("\ Пусть ц0 — единственная положительная мера, такая, что

$ fd^0 = £ $ f d^ = £ <f ^f у„, y„).nn

Так как

|</(Д)у„, y^KllfLIynF,

полученная мера конечна, и утверждения SPEC 1 — SPEC 5 немедленно переносятся на случай неограниченных самосопряженных операторов. Другими словами, справедлива

Теорема 5. Пусть А — самосопряженный оператор. Существует единственное отображение f *—* f (Л) из кольца ВМ (R) в алгебру

ограниченных операторов на Н, обладающее свойствами SPEC 1 — SPEC 5.

Доказательство. Существование такого отображения вытекает из сказанного выше. Сделаем лишь небольшое замечание по поводу доказательства SPEC 4. Заметим, что, поскольку

| Л/(Л) yJOIgUJyJ, вектор У f (Л) у„ принадлежит области определения оператора Л; теперь наше утверждение очевидно. Единственность указанного отображения вытекает из результатов следующего параграфа.

Формула обращения для резольвенты

Предположим, что нам задано отображение ft—>f(A), для которого выполнены пять утверждений предыдущего параграфа. Для любых векторов v,w е Н существует единственная мера ц0. ш, такая, что

<f (Л) и, w> = $ f dp„, „.

Пусть z — комплексное число, 2=^=2. Функция f: t >—* У — 2)”1 измерима и ограничена, функция tv-^-tf^f) тоже ограничена; кроме того, (/ —2)/(/)=!. Следовательно,

(Л - 2/) f (Л) =/.

Это означает, что для резольвенты справедливо интегральное представление

<(Л — 2/)"‘ у, ш) = j j^-dpD, w(i).

R

Заметим, что мера ц0 положительна. Мы пишем цу вместо щ,

Теорема 6. Пусть Л — самосопряженный оператор в гильбертовом пространстве Н, у — произвольный вектор из Н. Для комплексного числа 2=^2 положим R (2) = (Л — г/)-1. Тогда для любой функции феСДН) выполняется соотношение

Ига "к~7 (LR (А + Ze) — Д (А — Ze)] у, у) ф (A) dK = t ф (A) dpB (А).

0J

RR

Если Aj и А2 — вещественные числа, А, < А2, и р.0-мера одноточечных множеств {АД, {А2} равна нулю, то

Х^Хз

Ига -Дт ([Д (А + ге) — Д (А — /в)] у, о) dA = ( dp.T (А).

е^оJ

Доказательство основано на следующей лемме.

Ле мча. Пусть ц — регулярная положительная конечная мера, на прямой. Тогда для любой функции гр е Сс (R) справедливо, равенство

—xVTgf tW dp (t)dX = ( ф (X) dp (X),

—оо —оо—оо

Кроме того, если X] и Х3— вещест венные числа, Х| < Х2 и р-мера множества {Хь Х2} равна нулю, то

А>2 °°Л>2

g^ Т S S (* - X)2 + е2 ЙЦ ^ йХ = S Йц ^‘

Х1 — ООX]

Доказательство. Заметим сначала, что при в->0 функции

1 8

ф«: *л X2 4- 82

образуют семейство Дирака на прямой. (Функции ф8 не финитны, так что в рассматриваемом случае выполнено условие DIR 3', а не более сильное условие DIR 3.) Интегралы в левой части доказываемых равенств можно записать в виде

Ф8 0 — X) h (X) dp (z) dX,

где h совпадает с функмей ф или с характеристической функцией интервала [Хь Х2]. По теореме Фубини, написанное выражение равно

Заметим, что функции ф8 * h ограничены и сходятся к h при в->0 поточечно, если Л = ф; если /г — характеристическая функция интервала, то функции ф8 * h сходятся к h поточечно всюду, за исключением концов интервала. Поскольку мы выбрали наш интервал так, что его концы имеют нулевую меру, мы цожем воспользоваться теоремой об ограниченной сходимости. Лемма доказана.

Поскольку

1у

t — X — ia t — X + is У — X)2 4- e^ ’

из доказанной леммы вытекает теорема 6.

Теорема 6 позволяет установить единственность отображения Ь-^>- f (Л) в теореме 5. В самом деле, мы восстановили меру ра непосредственно по резольвенте оператора, как это видно из первой формулы в теореме.

Иногда построение спектральной теории начинают с прямого доказательства теоремы 6, непосредственно проверяя существование предела левой части равенств. После этого определяется спектральная мера, ассоциированная с соответствующим функционалом, и устанавливаются остальные свойства. См. Ахиезер и Глазман [1, гл. VI], а также новую книгу Л. Хёрмандера, который дает очень изящный споеоб построения спектральной меры Непосредственно из формулы обращения для резольвенты.

Приложение 3

МЕРОМОРФНЫЕ СЕМЕЙСТВА ОПЕРАТОРОВ

Компактные операторы

Пусть Е — банахово пространство. Обозначим символом К (5) пространство компактных операторов в Е. Напомним, что оператор Т называется компактным, если Т переводит ограниченные множества в относительно компактные. В гл. II мы уже напоминали некоторые свойства компактных операторов в гильбертовом пространстве. Пусть Т — компактный оператор. Если множество ненулевых собственных значений оператора Т бесконечно, то нуль является его единственной точкой сгущения. Можно упорядочить эти собственные значения таким образом, что

I ^i+i l^l I-

Предположим, что Ло — отличное от нуля комплексное число, такое, что оператор Т— XJ необратим. Тогда Л,о — собственное значение. Более того, для достаточно большого целого.п имеет место прямое разложение

Е = Кег(Г-М"®^,

где подпространство Кег (7 — Ло/)" конечномерно, оператор Т — XJ отображает подпространство W в себя и его сужение на W обратимо (в таких случаях мы будем говорить, что оператор Т—XJ обратим на W\ Доказательство этой основной теоремы о компактных операторах можно найти в большинстве книг по анализу; см., например, Ленг [1]. Далее, нетрудно показать, что оператор Г — XI обратим на IF (а также на Е) при всех X, достаточно близких к точке Хо, X ^Xq. Подпространство Ker (Т — Х01У* мы будем называть корневым подпространством оператора Т, отвечающим собственному числу Хо. Опишем естественный способ построения проектора на это подпространство.

Теорема 1. Пусть Т — компактный оператор в банаховом пространстве Е. Предположим, что Хй=?Ь0 — точка спектра оператора Т. Пусть IF — прямое дополнение корневого подпространства Е, соответствующего точке Хо. Положим

Р==4й\^1-'Г^ dX>

с

где С — достаточно малый контур, охватывающий точку Хй. Тогда сужение оператора Р на корневое подпространство Ех, — тождественный оператор и PW = 0. Таким образом, оператор Р проектирует Е на Ех, параллельно W.

Доказательство. Заметим сначала, что если Д' — ХД^о = 0, то Ру = у. Действительно, так как

У 2ш’ 5 Л - Ло dX’с

Pv~v = 4u\ ^V - г) 1 — (Л — ЛоГ1] vdX =

2л/ ЗиЛ — Ло ~Т Ло — Т с2л/ ЗиЛ — Ло ~Т Ло — Т с■г—1 у dX — Л — Ло J■г—1 у dX — Л — Ло Jгп1 3 X — Лосгп1 3 X — ЛосХо-Т X —■ ЛоХо-Т X —■ Ло1 У dX.1 У dX.

2л/ ЗиЛ — Ло ~Т Ло — Т с

2л/ ЗиЛ — Ло ~Т Ло — Т с

■г—1 у dX — Л — Ло J

■г—1 у dX — Л — Ло J

гп1 3 X — Лос

гп1 3 X — Лос

Хо-Т X —■ Ло

Хо-Т X —■ Ло

1 У dX.

1 У dX.

Так как, по предположению, вектор у принадлежит корневому подпространству, то функция

представляет собой полином по степеням (Л — Ао)-1, причем свободный член этого полинома равен нулю. Таким образом, вычет подынтегрального выражения в точке Ло обращается в нуль, и первое утверждение теоремы доказано.

Рассмотрим теперь сужение оператора Т на подпространство WcE. Это обратимый оператор. Нам достаточно доказать следующее утверждение:

Если оператор А = Т— ХД обратим, то Р — 0.

В самом деле, если оператор А обратим, то функция Х*—> Д' — Л)-1 регулярна в окрестности точки Ло. Чтобы показать это, заметим, что формально

степенной ряд в правой части сходится в круге | Л — Ло | < | А-11. Интеграл голоморфной функции по замкнутому контуру равен нулю. Теорема доказана.

Говорят, что семейство операторов A(z) мероморфно в точке z0, если существует разложение в ряд

A(z) = Е An(z — z0)"

n>-m

с операторными коэффициентами Д„. Вообще, пусть h U-+E

— отображение открытого подмножества Uc С в банахово пространство Е. Будем говорить, что отображение f мероморфно в точке z0 6= U, если в окрестности z0 оно допускает разложение в ряд

fU) = Е an(z —zQ)n

n>-m

с коэффициентами а„ е Е.

Следующая теорема принадлежит Стенли Стейнбергу (Arch. Rat. Meeh. Anal., 31 (1968), 372—379).

Теорема 2. Пусть Е — банахово пространство, U — открытое связное множество в С, Т: U -* К (Е) — голоморфное отображение. Предположим, что существует такая точка z0 е U, что оператор I — Т (z0) обратим. Тогда отображение

z^(I-T(z^"X мероморфно.

Доказательство. Множество точек zeU, в которых наше отображение мероморфно, открыто и непусто в силу предположения про точку z = zQ. Мы покажем, что его дополнение также открыто, а потому пусто, так как множество U связно. Пусть zx е U. Так как собственные значения компактных операторов изолированы, существует маленькая окружность С с центром в точке 1, внутри которой нет собственных значений оператора Т (zj, кроме, возможно, самой точки 1. Тогда оператор XI — Т (z^ обратим при всех X е С. Образ окружности С при отображении

X ^ XI - Т (zt)

компактен в открытом множестве всех обратимых операторов; следовательно, операторы XI — Т (z) обратимы при всех X е С и при всех z, достаточно близких к точке гх. Положим

Р^ = Аг\(Х1-Т(г)ГЧХ.с

Тогда отображение zv-^P^ голоморфно в окрестности точки zx; из теоремы 1 мы знаем, что Р (zf = P (z) (это проектор на корневое подпространство).

Заметим, что Р (z^ — проектор на подпространство Ех, корневое подпространство оператора Г (z^, соответствующее собственному значению 1. Рассмотрим разложение

E = EX©W.

Тогда оператор 1 — Г (zj обратим на W. Заметим, что операторы Р^ и Т (z) коммутируют. Положим

Q(z) = Z —P(z);

таким образом, Q(z,)— проектор на W параллельно Ех. Пусть S(z) = P(zI)P(z) + Q(z,)Q(z).

Тогда S^ = l\ поэтому оператор S(z) обратим в окрестности точки гР Положим

A(z) = S(z)(Z —T(z))S(z)-1;

оператор A(z) определен в окрестности точки zb Очевидно, что

S(z)P(z) = P(z,)S(z);

следовательно, оператор P(zJ коммутирует с А (г); это же верно для оператораQ (zj. Таким образом, оператор А (2) «расщепляется» на два оператора, действующие в подпространствах Ех и W соответственно. Положим

A(z)1 = A(z)|E1,A(z)^ —A(z) ЦТ;

тогда

A (z) = A (z)! фА (z)^.

Оператор I — Т (z,) обратим на W\ отсюда следует, что в окрестности точки 2, оператор A^z^ тоже обратим, поскольку А (2) близок к A (zO = I — Т (z,). Обозначим символом А(г)^1 оператор, который совпадает с обратным к А (2)^ на ^ и равен нулю на Ех. Заметим, что подпространство Ех конечномерно. Если определитель det A (z^ тождественно равен нулю в окрестности точки zx, функция z I—* (/ — Т (г))-1 не может быть мероморфной. Напротив, если его нули изолированы, то функция z i-^(Z — Т (z))"' мероморфна. Так как множество U связно и оператор I — Т^ обратим, мы видим, что реализуется вторая возможность.

Мы получили также дополнительную информацию, поскольку теперь мы знаем, что определитель det A (z), не обращается тождественно в нуль. Обозначим символом А(г)Г* оператор, который совпадает с обратным к A(z), на подпространстве ExczE и равен нулю на подпространстве W. Он определен для тех точек 2 в окрестности точки zb где такой обратный оператор существует. Так

как оператор 4(z), действует в конечномерном пространстве Еъ отображение

мероморфно в обычном смысле, и его полюсы совпадают с нулями определителя detA^. Тогда

(7 - Т (z))—1 = S (z) А (г)Г‘5 (z)-1 + S (z) A (z)^‘ S (z)"1-

Итак, локально, после применения голоморфного семейства внутренних автоморфизмов, наше семейство операторов расщепилось на мероморфное семейство в фиксированном конечномерном подпространстве и голоморфное семейство обратимых операторов в дополнительном подпространстве.

Ограниченные операторы

Теорема 3. Пусть S — замкнутое подмножество открытого множества U с С и С — простая замкнутая кривая в U, охватывающая множество S. Пусть

Xv-^R<X\ X^U — S,

— голоморфное семейство операторов в банаховом пространстве Е, удовлетворяющее соотношению

R(X}-R ^ = (Xх - Л) R (X) R (X').

Для любой голоморфной в U функции f положим

с

Тогда отображение f^-Rd) — кольцевой гомоморфизм, т. е. это отображение линейно и

R(fg) = R(f)R(g)-

Доказательство. Пусть С' — замкнутая кривая, охватывающая контур С, как показано на рис. 1. Тогда

R (f) R (в) = -^Т J $ f (У в № R (У R (V) dx dx' -

С С'

Таким образом, оператор RQ')R(g') представлен в виде разности двух интегралов. Имеем

* С S (^ ),, / (Л \

2М J Х'-Х ~ £W>

С'

так что первый интеграл равен R(fg) по определению. С другой стороны,

J Х'-Х dx = °’ с

так что второй интеграл обращается в нуль. Теорема доказана.

В частности, положим f = g= 1- Мы получаем, что оператор

с

удовлетворяет условию Р2 = Р; это проектор на подпространство, соответствующее «спектру», лежащему в S.

Приложение 4

ЭЛЛИПТИЧЕСКИЕ УРАВНЕНИЯВ ЧАСТНЫХ ПРОИЗВОДНЫХ

§ 1. Пространства Соболева

Мы будем рассматривать функции на торе, хотя некоторые предварительные замечания верны и для функций в евклидовом пространстве. Итак, положим T^R^/Z'*. Пространство £2(Td) мы будем обозначать просто L2. Произвольная функция / е А2 порождает линейный функционал в пространстве C”(Td), действующий по правилу

<р |—* ^ f (х) ф (х) dx.

Этот функционал называется распределением, ассоциированным с f, и обозначается (f). Элементы пространства С°°(Т</) называются пробными функциями. Пусть Dt = djdxt — оператор дифференцирования. Определим функционал Dt (/) формулой

Di <h- ф f W Аф W dx-

Знак минус введен для того, чтобы согласовать наше определение с формулой интегрирования по частям в случае, когда / sfC\ Функционал Di(f) совпадает тогда с (Dzf>. Как обычно, мы полагаем для любого набора р = (рх, ..., р^ неотрицательный целых чисел

Dp = £)°> ... D^4-, целое число

I Р I = Pi + • . . + Ра

мы будем называть порядком оператора Dp. Любая конечная линейная комбинация

с коэффициентами а, е С°° (Td) называется дифференциальным оператором.

Мы будем пользоваться скалярным произведением

<f, S) = J f^g ^dx.

т4

Относительно этого скалярного произведения можно очевидным образом определить сопряженный оператор D* для любого дифференциального оператора D. Если ср, фгС°°(Т4), то

ФЧ ф) = (- 1)|р|(ср, Др#

В пространстве С03 (Т4) можно ввести гильбертову норму по формуле

М1> Е ФЧ D4-I Р I

Практически более удобно иметь дело с эквивалентной нормой, которая определяется при помощи рядов Фурье, как будет описано ниже.

Пусть ф е С” (Т4). Тогда ф допускает разложение в ряд Фурье ф to = Е сфЧ

где суммирование производится по всем точкам п е Z4. Интегрируя по частям в формуле для коэффициентов Фурье, легко показать, что для любого положительного числа к справедлива оценка

ПРИ я->оо.

Следовательно, ряд Фурье абсолютно сходится к исходной функции. Пусть s — положительное целое число; тогда из определений непосредственно вытекает, что

Е (1 + »2Н с„12« Mi < Е (i + n2HcJ2 neZ^ml4

для любой функции ф ® С“ (Т4).

Пусть s — целое число. Зададим дискретную меру ps на Z4 формулой

цДп) = (14-п2Г.

Тогда С°°(Т4) с L2(Z4, ps) для всех s е Z. Более того, очевидно, что при любом s пространство С°° (Т4) плотно в этом гильбертовом пространстве, которое мы обозначим Hs. Таким образом, по определению, Н3 — пространство функций на Z4, которые мы будем записывать в виде последовательностей {с„} или «формальных рядов Фурье»

1Ф = 1спе1пх = Хи1пх,

таких, что рядтаких, что рядEd + ^i^pEd + ^i^p

таких, что ряд

таких, что ряд

Ed + ^i^p

Ed + ^i^p

сходится. Сумма этого ряда равна тогда, по определению, || f Ig. Скалярное произведение в пространстве Hs задается формулой

<f, 5>, = Efn^«(l+»Т

где fra, gn — «коэффициенты Фурье» функций / и g соответственно. Нормы || и III • |IL на С”^) эквивалентны. По определению, Н3 — полное пространство. Заметим, что

нй=ьчт%

Тригонометрические полиномы, т. е. конечные суммы вида Е спе1ад,

I п I <^

образуют плотное подмножество в Н3. Им соответствуют последовательности, в которых все члены, за исключением конечного числа, равны нулю.

Очевидно, что если s < i, то

II • II, < II • lit и Hs^Ht.

Промежуточное неравенство. Пусть г < s <1 — целые. Для заданного в > 0 существует такое число С (в), что для всех f е Н3 llflL<eimii + C(e)||f||r.

Доказательство. Пусть а — произвольное положительное число. Тогда

а3 ^ за' + С (в) аг, поскольку

1। С (в)

а Применим это неравенство к а — (1 + п2) из определения нормы; получим

llfll;<e||f||2 + C(e) || <

Добавим в правую часть перекрестный член и извлечем квадратный корень; неравенство доказано.

Спаривание У, g>-><L g)=E Lgn задает антилинейное отображение пространства Н_3 в сопряженное пространство Н3’, в самом деле, неравенство Шварца показывает, что ряд

HtnSn^UfJA + n^gnU+nT3'2 сходится. Также при помощи неравенства Шварца получаем оценку

К/, ^KllfllsUIU, № geH-s.

Следовательно, отображение f^<f, g) задает линейный функционал <g> в пространстве Н3. Его норма не превосходит IlglL^; мы увидим сейчас, что она в точности равна ||g||_s.

Определим оператор D2l = 32jdxl формулой

^f = E-^f„^.

Далее, положим Д = У, Df, таким образом, для функции Т = ^!пе1пх имеем, по определению,

^П„ = -п2к.

Для произвольного целого s определим оператор (1 — Д)® формулой

[(1-Дт = (1 + я2)^.

Тогда

|| (1 - дг g£=ЕI d + nV gn I2 (1 + п2у=|| g nt.

Это показывает, что если g е Н-3, то функция (1 — Vs g принадлежит пространству Н3. Более того,

(g, (1 - Др g) = ЕI g. f (1 + nV = II g ut-

Положим f = (l — A)-Sg; теперь ясно, что норма функционала (g) есть в точности || g||_s. Таким образом, спаривание

(A g^(t, g)

задает изометрическое вложение

Н_3->Н3.

Предположим, что ряд ЕI fn I сходится; тогда ряд Фурье для функции f равномерно сходится к непрерывной функции, которую можно отождествить с /; при этом

где || f || = sup | / (х) |. хет1*

Неравенство Соболева. Предположим, что s > й^. Тогда существует непрерывное вложение пространства Н3 в С V); другими словами, для любой f е Н3 норма || /1| конечна и существует такая константа С, что

IlflKCH/ii, для всех [ е Н3.

Доказательство. В силу неравенства Шварца, справедлива оценка

II f II2 < (ЕI fn I)2 < Е (1 + «Т I и I2 Е (1 + mV-пm

Неравенство s > d/2 гарантирует сходимость ряда по пг. Итак, наше утверждение доказано.

Пусть DJ — формальный ряд Фурье, полученный формальным дифференцированием ряда Фурье для функции f. Имеем очевидную оценку

H^fU^CIIflL

Следовательно, если s — 1 > d/2, то функция DJ непрерывна и f получается интегрированием ряда Фурье для DJ. Таким образом, функция t принадлежит пространству С*. Рассуждая по индукции, получаем следующий результат:

Лемма Соболева. Пусть k — положительное целое число. Если s > k + d/2, то существует непрерывное вложение пространства Hs в пространство Ск\ для любого p = kp\i • ■•> Ра)» такого, что | р | ^ к, справедлива оценка

l|Dpf||<||ffc.

В качестве следствия получаем

П /fs(Td) = С°° (Td). 3=1

Объединение пространств H-s для всех s^O называется пространством распределений на торе. Теорема регулярности для эллиптических операторов утверждает, что некоторые распределения принадлежат пространствам Hs при всех s и, следовательно, совпадают с гладкими функциями.

Мы закончим этот параграф несколькими замечаниями, которые не будут использоваться в дальнейшем, но помогут лучше представить себе пространства Hs. Пусть f е L2. Тогда функция f порождает в пространстве C”(Td) линейный функционал

(f): <рн^ f(x)<p(x)dx.

функционал

D^fr. Ф^(-1)|р1 ^D^dx

называется обобщенной производной функционала ф. Мы хотим непосредственно показать, не используя рядов Фурье, что для положительного целого s пространство Hs есть пополнение пространства С” по норме

III <р 1111= S (d^.d^).

I Р Ks

Для этого мы будем рассматривать Hs как пространство функций из L2, обобщенные производные которых до порядка s также принадлежат L2. Нам нужно проверить, что некоторые последовательности гладких функций сходятся по норме Hs; это сделано в следующих двух замечаниях.

Замечание 1. Пусть {ф„} — последовательность гладких функций, такая, что Dp^n->gp в L2 для всех Ipl^s и q>n->f в L2. Тогда

Dp<fWgp\ Доказательство.

<8р, <Р> = Ит (Dpq>„, ф) = Пт (ф„, /)р*ф) = (f, D”*^.

Наше утверждение доказано.

Замечание 2. Пусть f е. L2 — произвольная функция; предположим, что Dp{f} = {g') для некоторой функции g из L2. Если {ап} — последовательность Дирака в С°°, то

Dp (а„ * f) -> g в L2.

Доказательство. Мы покажем, что Dp (а„ * f) = (а„ * g). Из элементарных свойств последовательностей Дирака мы знаем, что an*g сходится к функции g в L2. Это доказывает наше утверждение, если предварительно проверить, что для любое функции а е С°°

Dp (а * f) = (а * gY

Пусть D = DP. Имеем

<а * f, D*<p) = ^ а (х — у) f (у) D*<p (х) dy dx — ,

= 5$ а (— У) f ку + х) О*ф (х) dy dx =

(замена переменной у у 4- х)

= ^ а ( — у) f (х) D*qi (х —р) dy dx —

(замена переменной xv—*x — у)

= 5 ° к— у} g (X) Ф (х — у) dx dy = <a* g, ф\ что и требовалось показать.

Смысл замечания 2 состоит в том, что оператор обобщенного дифференцирования перестановочен со сверткой. Как и следует ожидать, справедливо равенство

Dp (а * g) = ЦЭЧ * g

(это доказывается, по существу, дифференцированием под знаком интеграла, см. Ленг [1, гл. XIV, § 4, теорема 7]). Поскольку а — гладкая функция, то функция а * g тоже гладкая, несмотря на то что g — только распределение.

Априорные оценки

Пусть а е С°° (Td) — гладкая функция. Мы будем доказывать оценки с константами Са, зависящими только от а, и будем в этих случаях использовать обозначение Оа.

Пусть <р, ф е С°° (Td); тогда

ФЧ ф) = (- 1)|р|(ф, D4.

Таким образом,

(Д^Ф, ф) = (ф, Д^ф),

т. е. оператор Д2р симметричен. В частности,

(Дф, ф) = (ф, Дф).

Более того,

((1 — Д)Ч, Ф) = <ф, (1 — Д)5Ф)

для произвольного целого s, положительного или отрицательного. Заметим, что скалярное произведение, задаваемое формально рядом

<Ф, Ф) = Е Ф^Фп,

совпадает с обычным скалярным произведением в L2, когда ф, ф —гладкие функции. Поэтому симметричность оператора (1 — Д/ не зависит от того, в каком смысле мы понимаем скалярное произведение. Разумеется, если определять скалярное произведение при помощи формальных рядов Фурье, то симметричность оператора (1 — Д)5 очевидна. Из неравенства Шварца и обычной интегральной формы скалярного произведения мы получаем также неравенство

| ф^аПЧ D4 | < || Д’а || || Дрф ||0|| Д'ф ||0 < || Д’а || || Ф II, „ , IIФ II, г,.

Мы установим теперь различные неравенства для операторов дифференцирования и умножения на функции и их сопряженных. Доказательство этих неравенств несложно, но несколько утомительно.

Пусть

5 — Е a-pD9

— дифференциальный оператор. Если сумма берется по всем точкам р, для которых | р | ^ к, мы будем говорить, что порядок D не превосходит к (ordD^/?). В этом случае

ф (а<р), ф) = (а £>ф, ф) 4- <Е<р, ф),

где Е — дифференциальный оператор, порядок которого не превосходит к — 1; коэффициенты оператора Е зависят только от производных функции а.

Для любых s^O справедлива оценка

Е 1. ((1 - А)® (аф), ф) = (а (1 — А)® <р, ф) + Оа (|| ф ||s_11| ф j|J.

Доказательство. Положим в формуле (1) £) = (] — А)®. Тогда ord£) = 2s, ordE = 2s —1. Пусть ^Dp — одно из слагаемых оператора Е; предположим, что | р | = 2s — 1. Напишем р = q + р — qt где | q | = s — 1. Тогда

<Р£>РФ, ф) = <£>рф, ЙМ-!)5^, £>р-»й).

Далее, £)Р-1,Й=Е NrO”-4-^, где сумма берется по всем г, для которых r^pt — qt, z=l, ..., d, а коэффициенты yr —производные функции 0. Следовательно,

(№4 Ф^О^фМШ

Слагаемые с номерами р, для которых | р | < 2s — 1, оцениваются аналогично и не дают вклада того же порядка. Оценка Е 1 доказана.

Для любых s s Z справедливы также оценки

(аф, ф), = <q), аф^ + Оа(||cpIU-iIIФУ-

Доказательство. Рассмотрим сначала случай, когда s^O. Имеем, по определению,

<аФ> ф>» = <(1 — А)®(аф), ф), и нужное неравенство вытекает из Е 1. Перейдем к случаю отрицательных показателей. Пусть s > 0; положим

ы = (1 — А)~®ф, и = (1 — А)-® ф.

Тогда, в силу Е 1,

(сир, Ф>_я = (аф, (1 —. А)“®ф) = (а (1 — А)® и, о) =

= ((1 — А)® аи, о) 4- Оа (|| и |U-! II о У-

Далее,

((1 — А/ (аи), у) = (аи, (1 — А)$ у) = ((1 — A)~s ф, аф) = (ф, аф)_4.'

Преобразуем теперь остаточный член:

II и ||2S_, - (и, (1 - А)5-* и) = ((1 - А)"5 ф, U - А)'1 ф) = = ((1 — А)-,~‘ ф, ф) = || ф |£.,_г

Аналогично, II о II, “ II ф IL,. Итак, оценка Е2 доказана.

ВЗ.||афIL « IIа||У ф ||, +Оа(Иф11,-0-

Доказательство. Пусть сначала s ^ 0. Если | р | ^ s, то

Z)p (аф) = У, bqDqa.Dp-qep,

и, в силу неравенства треугольника,

Dp (аф) Во < sup || Dqa.D°~qq> ||0-

Если | р | = s и q = 0, то соответствующий член оценивается величиной || а |Н1 ф IL- Члены | р I = s и q ^* 0 имеют порядок || ф ||,_ t с точностью до множителя, зависящего только от а. Это завершает доказательство оценки для положительных показателей.

Рассмотрим теперь отрицательные показатели. Пусть ф, ф — гладкие функции; положим

« —(1 —А)-5ф, у = (1 — А)-5ф.

Тогда

(аф, ф)_, = (аф, (1 — А)-5 ф) = (а (1 — A)s и, у) =

= ((1 — Д)5аи, у) + Оа(||и||,_1||у||,) = = (аи, у), + Оа (|| и ||,-i || у ||,).

Мы предполагаем, что s > 0. В силу неравенства Шварца, справедлива оценка

| (аи, у), КII аи |Ц| у ||, < [ || а |||| и ||, + Оа (|| и ||,- J] || у ||,.

Но

11и||,==11фЦ-,> II “11,-1 = 11ф11_5_1, II у II,=IIФIL^

Следовательно,

| (аФ, ф>_51 < [|| а ИЦ ф ||_, + Са || ф ||_,_JII Ф IL„

и поэтому

1|аф||_,<11а||||ф||_, + Са||ф||_,_1, что и требовалось показать.

4. Пусть D — дифференциальный оператор, порядок, кото- розо не превосходит k. Тоеда

1|£>ф1Ь^Со||ф1Ь+й,

аде константа CD зависит только от оператора D. В частности,

II£Ms«II<pUIp1.

Доказательство. Пусть ф = ^Фпе1пх. Тогда

Dpcp = У, ф„г'р 'пре‘пх;

отсюда сразу получается оценка для оператора Dp. Из нее непосредственно следует оценка для операторов вида D = aDp, а значит, и для произвольных операторов.

Из Е 4 мы видим, что для любого целого s, положительного или отрицательного, оператор D можно продолжить до непрерывного линейного отображения

D-. Hs^Hs-k

(мы сохраняем для него прежнее обозначение). В действительности из Е 3 и Е 4 вытекает более точное неравенство, в котором учтена выделенная роль коэффициентов при старших членах оператора по сравнению со всеми остальными. Если

мы будем называть коэффициенты ар, для которых \р\ = к, коэффициентами при старших членах. Следующая оценка немедленно вытекает из Е 3 и Е 4:

Е 5.|| РФ ||s ^ Со (D) || Ф l[s+fe + С, (D) IIФ jU+*-1,

где CqCD)" sup |ар(х)|, а константа СДй) зависит от всех | р | = й, * е Т

коэффициентов D.

6. Для любого дифференциального оператора D, порядок которого не превосходит к, справедлива оценка

{D (аф), фХ = (аРф, фХ + OD, а (|| ф IL+»-11| ф И,).

Доказательство. Если D — оператор умножения на функцию, оценка очевидна. Достаточно доказать ее для D = DP. Заметим, что

Dp (аф) — аРрф = У cqDqaDp~4 (аф);

I q I > 1

при этом |р— <7l^s + &—1. В силу неравенства Шварца,

| фчаДр-4 (аф), ф\ I < fl D4aDp-q (аф) t II ф Ils <

^ D. аЛ^Ф 1L+*— 111 Ф Ils ^ ^Щ ail Ф Ils+A-lii Ф Ils-

Мы воспользовались также оценками Е 4 и Е 3. Итак, утверждение Е 6 доказано.

Е 7. Пусть D, D' — дифференциальные операторы, порядок которых не превосходит к. Тогда

Ф (аф), Z)'^^ = (Оф, D' (аф))$ +

Н" ^О, О', а(11фН$+й11 Ф lls+&—I + II ф Ils+fc-I II ФИр-н)1

Доказательство. Этот результат получается последовательным применением оценок Е 2 — Е 6.

3. Априорные оценки для эллиптических операторов

ПустьПустьD = Е aPDPD = Е aPDP

Пусть

Пусть

D = Е aPDP

D = Е aPDP

дифференциальный оператор с гладкими коэффициентами, определенный в открытом подмножестве U пространства Rd или тора Т^. Мы будем называть выражение

Е «рор

1PI-6

старшим членом оператора D, а число k — порядком оператора. Для произвольной точки хе U пусть

с о Iх» £) = ° о. х 6) = Е Ср W = Е % W У1• Й*

I р i=a\р\=ь р

однородный полином от переменных £ь ..., ^ полученный подстановкой переменной ^ вместо Dj и ар(х) вместо ар в старшем члене оператора D.

Если aD,x^) ^ 0 для всех ненулевых векторов § s R^, то мы будем называть оператор D эллиптическим. Функция aD называется символом оператора D.

Пример. ОператорПример. Операторд3 , д2д^ + дугд3 , д2д^ + дуг

Пример. Оператор

Пример. Оператор

д3 , д2д^ + дуг

д3 , д2д^ + дуг

эллиптичен: его символ равен ^ + £|, Пример. Оператор

дх ду

эллиптичен, и его символ равен ^ + гЪ

Пример. Оператор

" V дх2 ' ду2 /

эллиптический порядка 2 в верхней полуплоскости.

Пусть L — эллиптический оператор порядка к. Тогда ясно, что для любой точки х из U существует такое число Сх > 0, что

I^d^. £)|>СХ|^

для любого ненулевого вектора g е Rd. Здесь | £ | — евклидова норма в Rd.

В этом параграфе мы докажем оценку для эллиптических операторов, которая, грубо говоря, противоположна неравенству Е 4.

Основная априорная оценка. Пусть L — эллиптический оператор порядка k, действующий на торе Td, s0 — произвольное целое число. Тогда для любой функции ф е С” (Td) справедлива оценка

IMU^cjll M + IHQ.

Доказательство будет состоять из трех шагов; прежде чем привести доказательство, заметим, что число s0 обычно выбирают большим отрицательным. Более того, мы увидим впоследствии, что на подпространстве конечной коразмерности в оценке можно опустить член || ф || . Во всяком случае благодаря этому члену теорема нетривиальна, только если So^s+^~ 1. Мы будем предполагать, что это условие выполнено. Заметим также, что константа в неравенстве зависит от оператора L.

Решающее место в доказательстве — получение основной априорной оценки для операторов с постоянными коэффициентами. Это будет сделано в следующей лемме.

Лемма 1. Предположим, что L — однородный оператор порядка к с постоянными коэффициентами. Тогда для любой функции ф е С" (Т*) справедлива оценка

IMU^CL(||Lv||2-HMgo).

Доказательство. Имеем

II ^Ф Ils = Е I Фл I21 ^L W Г (1 + п2У > £ | ф„ I2 (»2)6 f 1 + пТ,11<р111=£|<р„12(1+п2Л

Следовательно,

и ^ф Ils + II ф £» Ei ф„ Г (1 + п?-^=|| ф |g+*.

Лемма 1 доказана.

Лемма 2. Пусть L — эллиптический оператор порядка к, действующий на торе Т*. Тогда существует такое положительное число д = д(Ь), что для всех гладких функций ф на Td с носителем в шаре радиуса меньшего, чем б, имеет место оценка

Hvlls+fe с N^vlU + llvIL.,

Доказательство. Пусть L= ТаарОр- Так как коэффициенты ар равномерно непрерывны, мы можем выбрать столь малое число б, что колебание каждой из функций ар в шаре радиуса б не превосходит в. Пусть ф — произвольная гладкая функция, носитель которой содержится в некотором шаре радиуса б, х0 — центр этого шара. Пусть

Во= У ар(х0)А)р

|Я=*

— однородный эллиптический оператор с постоянными коэффициентами, полученный «замораживанием» коэффициентов в старшем члене оператора L. По предположению, для всех точек х из шара В6(х0) выполнено неравенство

| ар (х) — Ор (х0) I < е.

В силу леммы 1, n?iU«iiA^ig+kit

Заметим, что || ф |£ ^11Ф ll^^-, IIФ ||$+6. Нам нужно сравнить нормы [| Аф Us и || Аоф ||s. Их разность равна

((Во —А)ф, АофХ + (Аф, (Ао —А)ф>5.

Первое слагаемое можно оценить при помощи неравенства Шварца. Положим ар(х0) = ар. Абсолютная величина члена с номером р оценивается следующим образом:

I ((«р — tip) Dp^, L^s I < || (ap — Op) Dp^ || s II Аоф ||s ^ ^[е||ф1и + С,||ф||$+6_1]||А0ф||5^

^ sC2 (A) || ф ||J+* + C3 (A) || ф ||s+&-i || ф ||s+fe-

Мы воспользовались при этом также оценкой Е 5. Выберем числа б и е так, что sC2(A)^l/2; тогда

у II ф Щ и ^ С. || Аф ||2 + С51| ф ||#+k_( II ф ||„+Л.

Разделим обе части неравенства на || ф ||s+ft и воспользуемся промежуточным неравенством из § 1 для показателей s0 < s + + k — 1 < s + к. Мы получаем в правой части слагаемое II ф ||в+й с малым коэффициентом; его можно перенести в левую часть;

после этого в правой части останется только слагаемое IIФ ||Se> что и требовалось.

Чтобы завершить доказательство нашей оценки, воспользуемся разбиением единицы. Пусть {az} — конечное семейство гладких функций на Г*, таких, что

^ а! = 1.

(Обычная конструкция разбиения единицы показывает, что из функций, образующих это разбиение, можно извлечь квадратный корень, и полученные функции снова будут гладкими.) Предположим, кроме того, что носитель каждой функции az содержится в шаре радиуса 6 = 6(L), как в лемме 2. Для любой функции (рЕС”^) произведение а<ф сосредоточено в том же шаре. Символ <С мы будем использовать для обозначения неравенств с константами, зависящими от оператора L и от разбиения единицы (само это разбиение единицы строится по оператору L). Итак, имеем

II Ф И»+б = <Ф> Ф>5+& ” Е^Ф’ Ф^+* =

= £<<4<р, azv>s+ft + O£(M,+J|V||s^ <

< £|| L (а<Ф) ||2 + 521! а,ф ||s+6 II агФ ||я+А_, +1| Ф ||s+61| Ф ||,+й_1.

Мы воспользовались оценкой Е 2. В силу Е 7, полученное выражение не превосходит величины

С6 W (Z(^ (<Й). Ьф\ + IIФ U*IIФ H$+6-i)

< С7 (L) || L<p |g + С8 (L) || Ф ||$+й || Ф ||s+fc_,.

Заметим, что || Lqj|| s ^ C9(L)|| Ф||5+6. Разделим обе части полученного неравенства на ||<p||s+fe. Выберем такое а > 0, что еС8 (L) ^ */2, и воспользуемся неравенством

11ф1и_1^8||ф||5+6 + С(в)||ф||5„.

Вычтем из обеих частей полученного неравенства -j || Ф l|s+A. Мы получаем основную априорную оценку; доказательство закончено.

Замечание. Наша оценка по непрерывности продолжается на элементы пространства Hs+k. В самом деле, пусть h е Нз+ь (ф„) — последовательность гладких функций на торе, сходящаяся к h в топологии пространства Hs+k. Неравенство

II МЧ'ls « II Ф Js-h

показывает, что последовательность £qpn сходится в Hs, и мы получаем

II Ms+A <HMS + II MSo.

Это неравенство можно переписать также в эквивалентной форме:

ilflls«II^U + HflL> f^-

Теоремы вложения для пространств Hs и теоремарегулярности для эллиптических уравнений на торе

В этом параграфе мы исключим из основной оценки член || ср || за счет перехода к подпространству конечной коразмерности.

Лемма 1. Предположим, что г < s. Тогда единичный шар пространства Hs относительно компактен в Нг.

Доказательство. Пусть функция

принадлежит единичному шару пространства Hs, т. е.

ZOU +П2)$<1-

Выберем такое число N, что (1 + NZY-S < е. Разобьем функцию f на два слагаемых:

f = X Leinx^ fnelnx.

I nK^|n I > У

Тогда норма второго слагаемого в пространстве Нг близка к нулю:

£ IfJ’O +-=)'< £|nl > Vmi >Н

Первое слагаемое принадлежит ограниченному подмножеству конечномерного пространства, состоящего из функций, коэффициенты Фурье которых отличны от нуля только при | п | ^ N. Такое множество можно покрыть конечным числом шаров радиуса е в метрике пространства Нг. Таким образом, единичный шар пространства Hs вполне ограничен в Нг. Лемма доказана. По существу, мы получили даже несколько более сильный результат:

Теорема 1. Пусть г < s. Обозначим символом HS(N) подпространство всех функций f г Hs, таких, что коэффициенты Фурье L = 0, если\п \<.П.Для любого в > 0 существует такоеN,

что для всех f е Hs (N) справедливо неравенство ИЛКеЦ/ц

Вложение пространства Hs в Нг компактно.

Отметим, что подпространство HS(N) замкнуто и имеет конечную коразмерность в Hs. Кроме того, оно порождается гладкими функциями.

Замечание. Теорема 1 была доказана при помощи обычных формальных манипуляций с рядами Фурье. Полезно заметить,, что она справедлива в несколько более общей ситуации.

Пусть Н, Е— гильбертовы пространства,

А; Н — Е

— компактный оператор. Пусть {ег} (i = 1, 2, . ..) — ортонор мированный базис в пространстве Н. Обозначим символом Н {N} замкнутое подпространство Н, порожденное векторами е, с номерами / ^ N. Для любого е > 0 существует такое N, что для всех векторов heH (N) справедливо неравенство

IIЛЛ11^ ^ 8IIА Пл-.

В самом деле, предположим, что это не так. Тогда для любого п найдется единичный вектор hnG Н (п), такой, что II Ahn ||я ^ е. Но последовательность {&„} слабо сходится к нулю, следовательно, Л/гп—>0 в сильном смысле (противоречие).

Мы воспользовались тем обстоятельством, что оператор А: Н -* Е компактен тогда и только тогда, когда он переводит любую слабо сходящуюся последовательность в сильно сходящуюся. Кроме того, если оператор А компактен и последовательность {и„} слабо сходится к нулю в Н, то последовательность {Ли„} сильно сходится к нулю в Е.

Напомним несложное доказательство этого факта. Предположим, что оператор А компактен. Предположим, что последовательность {и„} слабо сходится к вектору иеН. Без ограничения общности можно считать, что и = 0. Тогда для любого w е Н имеем (щ, и„)~>0. Так как оператор А компактен, последовательность {Ли„} содержит сильно сходящуюся подпоследовательность. Если ее предел зу не равен нулю, то существует такой функционал Л на Е, что А, (ш) #= 0. Но Л ° Л — функционал на пространстве Н и, по предположению, Л(Лип)—>0 (противоречие). Таким образом, точка 0 — единственная предельная точка последовательности (Лип), что и требовалось показать. Обратно, предположим, что оператор А переводит слабо сходящиеся последовательности в сильно сходящиеся. Пусть (ип) —

ограниченная последовательность, |ип|^1 для всех п. Так как единичный шар в гильбертовом пространстве слабо компактен, . наша последовательность содержит слабо сходящуюся подпо- ■ следовательность {vnjJ; последовательность {Ло„й} сходится в сильном смысле. Итак, оператор А компактен.

После этого небольшого отступления вернемся снова к нашей конкретной ситуации.

Теорема 2. Пусть L — эллиптический оператор порядка к на торе. Для любого показателя s существует такое число N, что оператор L индуцирует топологический линейный изоморфизм пространства HS(N) на его образ в пространстве Нз—к; другими словами, для всех кеНДН) справедлива оценка

IIA Ils < ILL/iUt <НМ$.

Кроме того, подпространство таких функций f е H-s+k, что (f, Тф) = 0 для всех cp^C°°(Td), конечномерно; таким образом, замыкание образа LC” (1^) в пространстве Hs~k имеет конечную коразмерность.

Доказательство. В силу теоремы 1 и основной априорной оценки, по заданному е > 0 найдется такое N, что для всех функций heH, (N} справедлива оценка

II h 11, < Сх II Lh ||,_6 4- С2II h ||So< С, II Lh ||s_, 4- с2е II h ||s.

Выберем e столь малым, что С2е ^ 7г- Мы получаем нужное нам неравенство. Так как, очевидно, имеет место и противоположная оценка:

ЦЬЛ||,_й<аЧ»

то первое утверждение теоремы доказано. В частности, ядро оператора L в пространстве Hs конечномерно. Покажем теперь, что L переводит пространство гладких функций на торе в линейное подмножество конечной коразмерности. Пусть feH_s+k; предположим, что

<f, ТФ) = 0, феС“(Т^

Тогда (T*f, ф) = 0; следовательно, L*f = O. Таким образом, вектор f принадлежит конечномерному ядру оператора L*. Итак, второе утверждение теоремы тоже доказано.

Теорема 3. Пусть L — эллиптический оператор порядка к на торе, функция h принадлежит пространству Hi для некоторого t. Ес mi

L^ = (g>

(равенство понимается как равенство линейных функционалов на С” (Td)) и функция g принадлежит пространству Hs, то h^Hs+k. В частности, если g е С” (Td), то и heC” (Т'').

Доказательство. Для достаточно больших N справедлива оценка

Ш_,<1И7||_,_Р feH_s(N\

В силу теоремы 2, для любой функции ср из H_s (N) имеем Ф, L*^ = (g, ф)<и||,||ФLs <UII,IIГф||_,_ft.

Следовательно, функционал (К) непрерывен на множестве Ь*С”(Тй\ По теореме 2, это множество имеет конечную коразмерность в пространстве H-s-k. Следовательно, пространство, порожденное множеством L*C°° (Td) и конечным набором гладких функций, образует плотное подмножество в H-s-k. Таким образом, функционал (К) непрерывен на плотном подмножестве в H-s-k и, следовательно, индуцирован элементом двойственного пространства, которое есть не что иное, как Hs+k. Итак, h е Hs+k, что и требовалось показать.

Замечание. В приведенном доказательстве мы в основном следовали статье П. Лакса «О задаче Коши для гиперболических уравнений и дифференцируемости решений эллиптических уравнений» (Comm. Pure Appl. Math., 8 (1955), 615—633). Однако Лакс использует несколько иное (ныне забытое) определение эллиптичности и только намечает отдельные этапы доказательства. Хорошее и замкнутое в себе изложение дано Л. Ниренбергом в докладе «Об эллиптических уравнениях в частных производных» (CIME Conference, Il principio di minimo e sue applicazioni alle equazioni funzionali, Romet 1959, pp. 1—58). Однако вместо простых рассуждений, использованных нами при доказательстве теоремы 3, Ниренберг пользуется аппаратом «конечных разностей», который мне не нравится. Кроме того, в обеих работах не выделена конечномерность ядра и коядра эллиптического оператора. Изложение Ниренберга впоследствии воспроизводилось несколько раз, например в книгах Л. Берса и Ф. Джона и А. Фридмана по теории дифференциальных уравнений в частных производных и в книге Уорнера о гладких многообразиях. Все же, как мне кажется, имело смысл привести здесь полное доказательство.

Теорема регулярности в евклидовом пространстве

Пусть U — открытое подмножество евклидова пространства Rd. Мы будем рассматривать дифференциальные операторы на U. Если функция / локально квадратично интегри-

руема на U, она порождает, как обычно, непрерывный функционал в пространстве пробных функций, т. е. в пространстве С? (U). Мы покажем, что теорему регулярности легко пере- . нести с тора на область U.

Теорема 4. Пусть f— локально квадратично интегрируемая функция на открытом подмножестве Ud^a. Пусть geC”^); предположим, что L — эллиптический оператор порядка k на U с гладкими коэффициентами. Пусть L(f} — {g). Тогда feC”(UY

Доказательство. Пусть х0 е U. Положим

Ь=У,арОр и L0=^ap(x0')Dp.

Достаточно доказать, что f — гладкая функция в окрестности точки х0. Пусть функция а е СТ (С) равна 1 в шаре малого радиуса г вокруг точки х0 и равна нулю вне шара радиуса 2г. Положим

М = aL ~Н (1 — ct) Lq.

Тогда оператор М эллиптичен и имеет постоянные коэффициенты вне маленького шара. Пусть at — гладкая функция, которая равна 1 в окрестности точки х0 и обращается в нуль вне шара радиуса г/2. Тогда для любой функции фЕС”^) имеем

(^(aj), ф)=^а1^И,ф =

= ^ ai^% ^ + $ а^Ло ((1 ~ “) Ф) =

= j aJL* (аф) = ^ /ЛДа^ф) + j fD*<p,

где D* — оператор порядка меньшего, чем к, коэффициенты которого суть финитные функции, сосредоточенные на множестве supp а; интегрирование производится по всему пространству Rd, однако все подынтегральные функции финитны. Таким образом, написанное выражение равно

(«ig, Ф> + <Л Д*Ф>.

Равенство

j aJ/И’ф =(aig, ф) + (/, Д*ф)

справедливо и для периодических функций ф, так как обе части зависят только от значений функции ф на множестве supp a.

Пусть функция р е С“ (Td) равна 1 на множестве supp а и равна нулю вне шара малого радиуса. Тогда для всех периодических функций ф

^,D*^ = <t,D^\

Мы можем «периодически продолжить» все наши срезанные функции на тор Т4; другими словами,, мы можем найти функции g„ г С°° (Td), (pf)R е I? (Td), эллиптический оператор МП на торе, оператор Дл, порядок которого не превосходит А — 1, функцию (a,f)R е 72(Td), которые совпадают с g, ^f, М, D, a,f соответственно в малой окрестности точки х0; при этом

М„ <(aif)n) = (Ыя) + On <(Ш = <h\

где функция h принадлежит пространству 7/_ft+1(Td). Следовательно, по теореме регулярности, (aJ^eHv

Повторяя наше рассуждение, мы получим, что «aJ)n) = W

для некоторого h е Щ-о-ц = Нг_к. Следовательно, (а1/)леД2- Рассуждая по индукции, заключаем, что (aJ)R е Нм. Другими словами, функция (aJ)R совпадает с гладкой функцией как функционал на C"(Td) и, стало быть, совпадает с такой функцией почти всюду. Далее, функция (aJ)R равна f в окрестности точки х0. Таким образом, мы получили нужный результат: функция / бесконечно дифференцируема в окрестности точки х0.

Если в теореме регулярности предположить, что функция g вещественно аналитическая, то функция f также будет вещественно аналитической. Доказательство, принадлежащее Морри и Ниренбергу, кратким и изящным образом воспроизведено в книге Л. Берса и др. «Дифференциальные уравнения в частных производных» (Proceedings of the summer seminar, Boulder, Colorado, Interscience, N. Y., 1964, pp. 207—210). Доказательство занимает всего три страницы; оно состоит из серии оценок, показывающих, что построенная гладкая функция разлагается в сходящийся степенной ряд. По существу, это доказательство использует только теорию уравнений с гладкой правой частью и основное неравенство.

Мы сформулировали теорему регулярности для локально квадратично интегрируемых функций. В действительности наше доказательство годится и для произвольных распределений. Напомним, что распределение 7 в открытом множестве U — это линейное отображение

Т: СТ(Щ^С, обладающее следующим свойством. Для любого компактного подмножества K^U существует конечный набор дифференциальных операторов Db ..., Dm, такой, что если ф — гладкая ФУНКЦИЯ И SUpp фС К, то

| Гф К max || Д^ И,

где || ФII = sup | ср (0 |. Распределения на торе определяются совер- teK

шеино аналогично, за исключением того, что там не нужно рассматривать компактных подмножеств и пробные функции принадлежат пространству С” (Td). Ясно тогда, что распределения— это элементы пространств Hs при всевозможных s. Теорему регулярности в евклидовом пространстве можно сформулировать следующим образом:

Теорема 5. Пусть Т — распределение, g — гладкая функция на U. Пусть L — эллиптический оператор с гладкими коэффициентами, который имеет порядок к. Предположим, что LT = g. Тогда Т — Th для некоторой функции h^C°°(U).

Доказательство остается практически без изменений, нужно только несколько изменить обозначения. Например, вместо \ а^ЛГф мы пишем Т (сцЛГф) и т. п.

Приложение 5

СЛАБАЯ И СИЛЬНАЯ АНАЛИТИЧНОСТЬ

§ 1. Комплексный случай

Теорема 1. Пусть Е— комплексное банахово пространство, X — нормирующее подмножество двойственного пространства Е', т. е. такое подмножество, что для любого и е Е

Пусть UcC — открытое подмножество, f: U —► Е -— такое отображение, что

для любого ХеЛ функция st—>Xof(s) аналитическая;

для любого компактного подмножества K<^U справедливо неравенство

sup | f (s) | < оо.

seK

Тогда отображение f аналитическое.

Доказательство (см., например, Иосида [1]). Нам нужно показать, что отображение / сильно дифференцируемо. Мы проверим, что отношение приращений f к приращениям аргумента образуют последовательность Коши. Достаточно показать, что

I f(s + A)-Дз) _ f (s + ft) - f (s) I4M\h-fe\

| ftft| г2 ’

где М = sup | f (0 l> a h., к — такие комплексные числа, что I t-s | <г

| А |, | к | < г/2. Так как множество Л нормирующее, достаточно доказать наше неравенство для скалярной функции kof, где Хе Л. Поэтому без ограничения общности можно считать, что f — ограниченная комплекснозначная аналитическая функция. В этом случае формула Коши и интегральная форма теоремы о среднем показывают, что нужное неравенство в самом деле выполнено. Это вытекает из тождества

/ (з + ft) — > (з); (s + ft) — f (s)

Лft

= 1 ( f(Z) (ft -ft) л

2л/ J (z — s — ft) (z — s — ft) (z — s) C

где С — окружность радиуса г вокруг точки s. Значение константы в неравенстве, разумеется, несущественно.

В некоторых приложениях, например в §11 гл. XIV, нам нужно было доказать, что ядро оператора аналитически зависит от параметра s, исходя из того, что сам оператор — аналитическая функция этого параметра. При этом заранее неизвестно, является ли зависимость ядер от s непрерывной. Поэтому требуется дополнительная лемма.

Лемма. Пусть D с: С — открытый круг радиуса 1, f — локально суммируемая функция в D. Предположим, что для почти всех (по мере Лебега) пар (а, г), таких, что asC, г > 0 и | а | + г < 1, равен нулю интеграл по окружности радиуса г с центром в точке а:

f ds = 0.

Сг (а)

Тогда существует голоморфная функция, которая совпадает с f почти всюду в D.

Доказательство. Для произвольного натурального числа п^2 определим функцию

(1-4)D^C

формулой

f„(av) = ^- ^ f (х + iy + w) dx dy.

Легко видеть, что

J Lds = 0

crw

для почти всех пар (а, г), таких, что | а | + г < 1 — 1/п, г > 0 (Чтобы показать это, достаточно воспользоваться теоремой Фу- бини и изменить порядок интегрирования.) Так как функция / локально суммируема, мы можем перейти к пределу под знаком интеграла и доказать, что функция fn непрерывна в круге (1 —-J D. Согласно обычному критерию, отсюда вытекает, что /„ в действительности голоморфна в этом круге. В круге

yD справедлива следующая оценка:

If — fn\dxdy =If — fn\dxdy =[f (су) — f (су + х + zz/)] dx dy dw[f (су) — f (су + х + zz/)] dx dy dw

If — fn\dxdy =

If — fn\dxdy =

[f (су) — f (су + х + zz/)] dx dy dw

[f (су) — f (су + х + zz/)] dx dy dw

supx+lye — Dsupx+lye — Df(cy) — f(w-Vx+iy^ \dwf(cy) — f(w-Vx+iy^ \dwdx dy ^dx dy ^

sup

x+lye — D

sup

x+lye — D

f(cy) — f(w-Vx+iy^ \dw

f(cy) — f(w-Vx+iy^ \dw

dx dy ^

dx dy ^

5 I f (®) — f (чу + -V + iy) | dw.

По теореме об ограниченной сходимости, при п-^-ео выражение справа стремится к 0. Таким образом, {frt} есть последовательность Коши в пространстве L* ^ d). Легко показать, что тогда последовательность {/„} сходится равномерно на компактных подмножествах, а значит, сходится к голоморфной функции, которая совпадает с f почти всюду в круге -у D. Тем самым мы доказали наше утверждение локально, в окрестности любой заданной точки. Этого достаточно для доказательства нашей леммы, так как мы можем заменить функцию f ее сдвигом. (Приведенным доказательством я обязан Д. Петерсону.)

Этой леммой пользуются тогда, когда нужно доказать аналитичность ядра, задающего оператор, как, например, в теореме 12 § 11 гл. XIV.

Заметим, что множество Л, о котором шла речь в теореме 1, не обязано быть линейным (это не очень существенное обстоятельство) и — что более серьезно — оно не обязательно замкнуто. В этом отношении теорема 1 отличается от ее вещественного аналога, который будет приведен в следующем параграфе; эти две теоремы имеют различные области применимости, причем ни одна из них, по-видимому, не перекрывает другую.

Хотя следующая теорема и не используется в этой книге, все же полезно привести ее здесь. Я обязан этой теоремой Дж. Гамлену. По образцу ее доказательства построено доказательство теоремы 12 § 11 гл. XIV.

Пусть Z — локально компактное пространство с положительной мерой р. Мы будем писать dz вместо dy \z\ Пусть U с С — открытое подмножество; предположим, что задано семейство

RS = R (s), s е 17,

ограниченных операторов в пространстве L2^Z, ц). Мы будем предполагать, что каждый оператор Rs можно задать при

помощи ядра г (z, z'; s), где г: ZXZXU -*С—борелевская функция; другими словами, для всех f е L2 (Z, р)

Rsf ^ = ^г (z, /; s) f (z') dz'.z

Теорема 2. Предположим, что

для почти всех (относительно меры р 0 р) пар \z, z'^ функция

s^r(z, z'\ s)

аналитическая-,

для любого компактного подмножества KdU существует ядро Мк, удовлетворяющее неравенству

Мк (z, z') > sup | r (z, z'-, s) |seK

и задающее ограниченный оператор в пространстве L2(Z, р).

Тогда отображение s^-Rs слабо аналитическое в том смысле, что для любых h g^L2 (Z, р) функция

8 ^ W, g)

аналитична.

Доказательство. Функция

(z, z') н-> г (z, z'; s) f (z') g (z)

мажорируется суммируемой функцией

(z, z') н-> MK (z, ^ | / (z') 11 g (z) ];

из теоремы об ограниченной сходимости следует поэтому, что отображение s^-(Rj,g) непрерывно. Таким образом, достаточно показать, что для произвольной окружности С, лежащей в U,

^ds ^r(z, z'; s)]7(z)f (z^dzdz'= 0.

c z z

Подынтегральное выражение не превосходит

MG (2, z')| f (z/) || g(z) |.

Согласно предположению, ядро MG задает ограниченный опера- тор в L2(Z, р); следовательно, интеграл

^ Mc(z, z,)lf(z')ng(z)ldz'dz z z

сходится. По теореме Фубини, подынтегральная функция принадлежит пространству Lv \z X 2), и поэтому тройной интеграл (1) можно вычислять в любом порядке. Воспользовавшись предположением (i), мы видим, что этот интеграл равен нулю. Теорема доказана.

Следствие. В предположениях теоремы, 2 отображение s>—> Rs аналитическое в сильном смысле.

Доказательство. Это частный случай теоремы 1.

Для комплексных отображений из комплексной дифференцируемости вытекает существование разложений в степенной ряд. Доказательство для отображений со значениями в банаховом пространстве такое же, как и для скалярного случая. Вещественную аналитичность нужно определять при помощи степенных рядов.

То обстоятельство, что в теореме 2 мы рассматривали функции комплексной переменной, существенно. Я обязан Дж. Гам- лену следующим контрпримером для вещественного случая. Пусть Я = /2(2). Положим для т, п О

ei (т +л) яг(щ, n;s) = —^г~-

Для любых последовательностей f, g ер (2) имеем

,„VI (m+n) s

\R (S) f, g^ ^ —^2— f (m) g (n).

m, n^O

Положим f = (..., 0, 1, 0, ...), g(n) = \(n. Тогда (R(s)f, g) = Egi 0i4* 1) S

—^з— . Функция s v-* R (s) не аналитическая.

§ 2, Вещественный случай

С другой стороны, имеет место следующая теорема, принадлежащая У. Браудеру («Аналитичность и дифференциальные уравнения в частных ■ производных», Amer. I. Math., 84 (1962), 666-710).

Теорема 3. Пусть U —открытое подмножество пространства Rd. Пусть

h U^E

— отображение в вещественное или комплексное банахово пространство. Пусть Нх, Нг — вещественные или комплексные бана-

ховы пространства. Предположим, что задано линейное по всем аргументам отображение

EX HVX (или С): (и, у, w) н-* (и, у, w), которое индуцирует изометрическое вложение пространства Е в банахово пространство билинейных форм ВП (Нъ Н^. Другими словами, мы предполагаем, что для любого вектора игЕ

|u| = sup{|(u, о, су) |; угНь |о|^1, w г Н2, |су|^1}.

Предположим, что для любого вектора (v, w) г HiX Ha функция xv-*(j (x), У, W)

аналитична. Тогда отображение f вещественно аналитическое.

Доказательство. Утверждение теоремы локальное; поэтому мы можем предположить, что U — полидиск с центром в точке ОеК^и координатами xv, ..., xd. Напомним тривиальный факт, что степенной ряд

рр

с коэффициентами ар в банаховом пространстве абсолютно сходится в окрестности нуля тогда и только тогда, когда существуют такие постоянные г > О, С > 0, что для всех значений р справедливо неравенство

|ap|<Cripl.

Если это условие выполнено, степенной ряд определяет бесконечно дифференцируемую функцию g; при этом

а, = -^ 0'8(0),

где р! = Pi! ... р^-

Пусть В — единичный шар в пространстве HVXH2 (с нормой । (у, ш) | = шах (| у |, | w |). Для любых элементов (и, хв^г В определим линейный функционал Хр_щ формулой

^o.w (“) = <“. У. ^)-

По предположению, для всех (у, w) г В функции Хр, w°f аналитические и потому допускают разложение в степенной ряд; следовательно, их производные удовлетворяют оценкам

|Dp(Xof)(0)|<C(X)r(X)lplpL

Константа С (X) и радиус сходимости г (X) а priori зависят от X. Мы покажем прежде всего, что их можно выбрать независимо от X. Для любой пары положительных целых чисел пг, п обозна-

чим символом Втп подмножество таких векторов (y^w^eB, что для всех р справедливо неравенство

\D^.w«M\<^nVp'p'..

Мы утверждаем, что это множество замкнуто. Достаточно показать, что для любого xeU отображение

X^Dp(Xoh(x)

непрерывно (фактически достаточно доказать это при х = 0). Проведем доказательство индукцией по | р |. При |р| = 0 утверждение очевидно. Предположим, что оно выполнено для некоторого | Po I; пусть I g I = I Ро I + 1 - Пусть е е Rd — единичный вектор, такой, что

О»ф (х) = ^y^DP-tp (х 4- te\

Тогда

W f)« -1 i m сУ^№±»£к1Л2<АД№> .

Л->0"

Устремим Л->0 по последовательности {Л„}. Каждое из отображений

. , DP'(K'f)(x + hne)-D°'{k'f)(x)

линейно и непрерывно, в силу предположения индукции. По теореме о равномерной ограниченности, предел этой последовательности— также непрерывное отображение. Таким образом, наше утверждение доказано.

Итак, множество В представлено в виде объединения счетного числа замкнутых подмножеств Вп,т. По теореме Бэра, одно из них содержит открытый шар пространства Hv X Н2 (см. Ленг [ 1 ]). Если нужно, сделаем сдвиг и будем считать, что центр этого шара лежит в точке (0, 0). Отсюда следует, что мы можем выбрать константы С(Х), г(Х) независимо от величины Х^, w, когда вектор (и, да) лежит в маленьком шаре в Я1 X Н2.

Зададим билинейное отображение bp; НхХ H2-*R (или С) формулой

bp-, (и, да).

Из доказанной выше равномерной оценки следует, что отображение Ьр непрерывно, т. е.

ЬреЫЦНхХН2\

Кроме того, существуют константы Сиг, такие, что

| Ьр | ^ Сг'р* для всех р.

Следовательно, ряд

L^Pр

сходится в окрестности нуля в Rd. Таким образом, для всех векторов (у, ty) е Н\ X Н2 и для всех точек х в достаточно малой окрестности нуля в Rd справедливо равенство

(f (*), о, w) = X Ьр (у, ty) хр.

р

Иначе говоря, f аналитично как отображение U -* Bil (Я1 X Я2).В частности, отображение f бесконечно дифференцируемо иbp = ^DP№-

По предположению, Е — замкнутое подпространство пространства ВП(Я1ХЯ2). Следовательно, ЬреЕ. Теорема доказана.

Замечание. Эта теорема используется в различных ситуациях. Во-первых, когда Е = End Н — банахово пространство эндоморфизмов гильбертова пространства Н, а трилинейное отображение задается естественной формулой: (Л, у, ty) t—*(Лу, w) для Ле е End Н, у, w е Н.

Во-вторых, в теории представлений, когда нужно доказать, что некоторые векторы в пространстве представления — аналитические. Обычно эти векторы удовлетворяют некоторому эллиптическому дифференциальному уравнению, например, в слабом смысле. В этом случае можно сначала воспользоваться аналитическим вариантом теоремы регулярности, чтобы доказать аналитичность функций, полученных композицией данного отображения с линейными функционалами, а затем применить теорему 3 для доказательства того, что исходное отображение xt—>л(х)и в гильбертово пространство —- также аналитическое.

Список литературы1)

Артур (Arthur J.)

Harmonic analysis of tempered distributions on semisimple Lie groups of real rank one, Thesis, Yale Univ., 1970.

[2*] Some tempered distributions on semisimple groups of real rank one, Ann. Math., 100 (1974), 553—584.

[3*] The Selberg trace formula for groups of f-rank one, Ann. Math., 100 (1974), 326—385.

Ахиезер H. И., Глазман И. M.

Теория линейных операторов в гильбертовом пространстве, 2-е изд., «Наука», М„ 1966.

Баргманн (Bargmann V.)

Irreducible unitary representations of the Lorentz group, Ann. Math., 48 (1947), 568—640.

Березин Ф. А., Гельфанд И. M., Граев М. И., Наймарк М. А.

Представления групп, У МН, 11:6 (1956), 19—40.

Брюа (Bruhat F.)

Representations des groupes localement compacts. Universite de Paris, 1969— 1970, 1971 (mimeographed).

Вейль (Weil A.)

Sur certains groupes d’operateurs unitaires, Acta Math., Ill (1964), 143— 211. [Русский перевод: сб. Математика, 13 1 5 (1969), 33—94.]

Венков А. Б.

[1*] Разложение по собственным функциям оператора Лапласа — Бельтрами в классических симметрических пространствах ранга 1 и формула следа Сельберга, Труды Матем. ин-та им. В. А. Стеклова АН СССР, 125 (1973), 6—55.

[2*] О формуле следа Сельберга для SL^^ZV ДАН СССР, 228 (1976), 273— 276; Записки научных семинаров ЛОМИ, 63 (1976), 8—66.

Венков А. Б., Калинин В. Л., Фаддеев Л. Д.

[1*] Неарифметический вывод формулы следа Сельберга, Записки научных семинаров ЛОМИ, 37 (1973), 5—42.

Виленкин Н. Я.

Специальные функции и теория представлений групп, «Наука», М., 1965.

Гелбарт (Gelbart S.)

[1*] Automorphic forms on adele groups, Ann. Math. Studies, № 83, Princeton Univ. Press, Princeton, N. J., 1975.

Следовательно, ряд

LbpXpр

сходится в окрестности нуля в Rd. Таким образом, для всех векторов (у, ty) е Нх X Н2 и для всех точек х в достаточно малой окрестности нуля в Rd справедливо равенство

У (х), v,w}=^ bp (о, ty) хр.

р

Иначе говоря, f аналитично как отображение U -► Bil (//t X Н^. В частности, отображение f бесконечно дифференцируемо и

По предположению, Е — замкнутое подпространство пространства Bil ф\X Н^. Следовательно, ЬреЕ. Теорема доказана.

Замечание. Эта теорема используется в различных ситуациях. Во-первых, когда Е = End Н — банахово пространство эндоморфизмов гильбертова пространства Н, а трилинейное отображение задается естественной формулой: (Л, о, ty)н->(Лу, ty) для Ле е End Н, у, w е Н.

Во-вторых, в теории представлений, когда нужно доказать, что некоторые векторы в пространстве представления — аналитические. Обычно эти векторы удовлетворяют некоторому эллиптическому дифференциальному уравнению, например, в слабом смысле. В этом случае можно сначала воспользоваться аналитическим вариантом теоремы регулярности, чтобы доказать аналитичность функций, полученных композицией данного отображения с линейными функционалами, а затем применить теорему 3 для доказательства того, что исходное отображение хн-*л(х)и в гильбертово пространство — также аналитическое.

Список литературы')

Артур (Arthur J.)

Harmonic analysis of tempered distributions on semisimple Lie groups of real rank one. Thesis, Yale Univ., 1970.

] Some tempered distributions on semisimple groups of real rank one, Ann. Math., 100 (1974), 553—584.

(3*J The Selberg trace formula for groups of F-rank one, Ann. Math., 100 (1974), 326—385.

Ахиезер H. И., Глазман И. M.

Теория линейных операторов в гильбертовом пространстве, 2-е изд., «Наука», М., 1966.

Баргманн (Bargmann V.)

Irreducible unitary representations of the Lorentz group, Ann. Math., 48 (1947), 568—640.

Березин Ф. А., Гельфанд И. M., Граев М. И., Наймарк М. А.

Представления групп, УМН, 11:6 (1956), 19—40.

Брюа (Bruhat F.)

Representations des groupes localement compacts. Universite de Paris, 1969— 1970, 1971 (mimeographed),

Вейль (Weil A.)

Sur certains groupes d’operateurs unitaires, Acta Math., Ill (1964), 143— 211. [Русский перевод: сб. Математика, 13! 5 (1969), 33—94.]

Венков А. Б.

] Разложение по собственным функциям оператора Лапласа — Бельтрами в классических симметрических пространствах ранга 1 и формула следа Сельберга, Труды Матем. ин-та им. В. А. Стеклова АН СССР, 125 (1973), 6—55.

[2*] О формуле следа Сельберга для SL3(Z), ДАН СССР, 228 (1976), 273— 276; Записки научных семинаров ЛОМИ, 63 (1976), 8—66.

Венков А. Б., Калинин В. Л., Фаддеев Л. Д.

] Неарифметический вывод формулы следа Сельберга, Записки научных семинаров ЛОМИ, 37 (1973), 5—42.

Виленкин Н. Я.

Специальные функции и теория представлений групп, «Наука», М„ 1965.

Гелбарт (Gelbart S.)

] Automorphic forms on adele groups, Ann. Math. Studies, № 83, Princeton Univ. Press, Princeton, N. J., 1975.

Гельфанд И. М.

] Automorphic functions and theory of representations, Proc. Int. Congr. of Math. (Stockholm, 1962), Inst. Mittag-Leffler, Djursholm, 1963, pp. 74— 85.

Гельфанд И. M., Граев M. И., Виленкин Н. Я.

] Интегральная геометрия и связанные с ней вопросы теории представлений (Обобщенные функции, вып. 5), «Наука», М., 1962.

Гельфанд И. М., Граев М. И., Пятецкий-Шапиро И. И.

Теория представлений и автоморфные функции (Обобщенные функции, вып. 6), «Наука», М., 1966.

Гельфанд И. М., Наймарк М. А.

Унитарные представления классических групп, Труды Матем. ин-та им. В. А. Стеклова АН СССР, 36 (1950).

Гельфанд И. М., Пятепкий-Шапиро И. И.

Теория представлений н теория автоморфных функций, УМН, 14:2 (1959), 171—194.

Гельфанд И. М., Фомин С. В.

Геодезические потоки на многообразиях постоянной отрицательной кривизны, У МН, 7: 1 (1952), 118—137.

Гиндикин С. Г., Карпелевич Ф. И.

] Мера Планшереля для римановых симметрических пространств неположительной кривизны, ДАН СССР, 145 (1962), 252—255.

Годеман (Godement R.)

Analyse spectrale des fonctions modulaires, Sem. Bourbaki, exp. 278 (1964), Paris.

The decomposition of L2(G/F) for Г = SL2(Z), Proc. Symp. Pure Math., vol. 9, Amer. Math. Soc., Providence, R. I., 1966, pp. 211—224. [Русский перевод в сб. «Арифметические группы и автоморфные функции», «Мир», М„ 1969, стр. 127—145.]

La formule des traces de Selberg, Sem. Bourbaki, exp. 244 (1962), Paris.

Introduction aux travaux de A. Selberg, Sem. Bourbaki, exp. 144 (1957), Paris.

The spectral decomposition of cusp forms, Proc. Symp. Pure Math., vol. 9, Amer. Math. Soc., Providence, R. I., 1966, pp. 225—234. [Русский перевод в сб «Арифметические группы и автоморфные функции», «Мир», М., 1969, стр. 146—158.]

A theory of spherical functions, Trans. Amer. Math. Soc., 73 (1952), 496— 556.

[7*] Заметки по теории Жаке — Ленглендса, сб. Математика, 18 : 2 (1974), 28—72; 18 : 3 (1974), 3—45.

Дюфло, Лабесс (Duflo М., Labesse J. Р.)

Sur la formule des traces de Selberg, Ann. Set. Ecole Norm. Sup., 4-e serie, 4, f. 2 (1971), 193—284.

Жаке и Ленглендс (Jacquet H., Langlands R. P.)

Автоморфные формы на GL2, «Мир», M., 1973.

Зигель (Siegel С. L.)

Some remarks on discontinous groups, Ann. Math., 46 (1945), 708—718.

Иосида (Yosida К.)

[1*] Функциональный анализ, «Мир», М., 1967.

Като (Kato Т.)

fl] Perturbation of continuous spectra by trace class operators. Proc Japan Acad., 33 (1957), 260—264.

Кнапп и Стейн (Knapp A. W., Stein E.)

Intertwining operators for semisimple Lie groups, Ann. Math., 93 (1971), 489—578. [Русский перевод: сб. Математика, 18 : 5 (1974), 42—121.]

Кубота (Kubota Т.)

Introduction to Eisenstein series, Halsted Press, New York, 1973.

Лакс и Филлипс (Lax P. D., Phillips R. S.)

[1*] Scattering theory for automorphic functions, Ann. Math. Studies, № 87, Princeton Univ. Press, Princeton, N. J., 1976.

Лашо (Lachaud G.)

[1*] Spectral analysis of automorphic forms on rank one groups by perturbation methods, Proc. Symp. Pure Math., vol. 26, Amer. Math. Soc., Providence, R. I., 1973, pp. 441—450.

Ленг (Lang S.)

Real Analysis, Addison Wesley, Reading, Mass., 1969.

Ленглендс (Langlands R. P.)

On the functional equations satisfied by Eisenstein series (mimeographed).

Eisenstein series, Proc. Symp. Pure Math., vol. 9, Amer. Math. Soc., Providence, R. I„ 1966, pp. 235—252. [Русский перевод в сб. «Арифметические группы и автоморфные функции», «Мир», М., 1969, стр. 186—220.]

Euler products, Lecture Notes, Yale University, 1967. [Русский перевод: сб. Математика, 15: 1 (1971), 14—43.)

Problems in the theory of automorphic forms, Lectures in Modern Analysis and Applications, Lecture Notes in Math., vol. 170, Springer-Verlag, Berlin— Heidelberg — New York, 1970, pp. 18—46. [Русский перевод: сб. Математика, 15:2 (1971), 57—83.]

Маас (Maas Н.)

Lectures on modular functions of one complex variable, Tata Inst. Lecture Notes, Bombay, 1964.

Uber eine neue Art von nichtanalytischen automorphen Funktionen und die Bestimmung Dirichletscher Reihen durch Funktionalgleichungen, Math. Ann., 121 : 2 (1949), 141—183.

Макдональд (McDonald I. G.)

Spherical functions on a group of p-adic type, Ramanujan Inst. Publications, Madras, 1971. [Русский перевод: УМН, 28:5 (1973), 153—224.]

Нелсон (Nelson Е.)

Analytic vectors, Ann, Math., 70 (1959), 572—615. [Русский перевод: сб. Математика, 6 : 3 (1962), 89—131.]

Павлов Б. С., Фаддеев Л. Д.

[1*] Теория рассеяния и автоморфные функции, Записки научных семинаров ЛОМИ, 27 (1972), 161—193.

Петерсон (Peterson Н.)

Uber den Bereich absoluter Konvergenz der Poincareschen Reihen, Acta Math., 80 (1948), 23—63.

Zur analytischen Theorie der Grenzkreisgruppen, I, Math. Ann., 115 (1937), 23—67.

Повзнер А. Я.

О разложении произвольных функций по собственным функциям оператора —Ди + си, Матем. сб., 32 (1953), 109—156.

Пуканский (Pukanszky L.)

The Plancherel formula for the universal covering group of SL(R, 2), Math. Ann., 156 (1964), 96—143.

Рёльке (Roelcke W.)

Uber die Wellengleichung bei Grenzkreisgruppen erster Art, Sitzungsbe- richte Heidelberger Akad. Wise., Math. — Nat. KL, 1953—1955 (1956), S. 159—267.

Analytische Fortsetzung der Eisensteinreihen zu den parabolischen Spitzen von Grenzkreisgruppen erster Art, Math. Ann., 132 (1956), 121—129.

Das Eigenwertproblem der automorphen formen in der hyperbolischen Ebene I, II, Math. Ann., 167 (1966), 292—337; 168 (1967), 261—324.

Розенблюм (Rosenblum M.)

Perturbation of the continuous spectrum and unitary equivalence, Pacific J. Math., 7 (1957), 997—1010.

Рудин У.

[1*] Основы математического анализа, «Мир», М., 1976.

[2*] Функциональный анализ, «Мир», М., 1975.

Салли и Шалика (Sally Р„ Shalika J.)

The Fourier transform of SL2 over a non-archimedean local field (to appear) .

The Plancherel formula for SZ.(2) over a local field, Proc. Nat. Acad. Sci. USA, 63 (1969), 661—667.

Сатаке (Satake I.)

Theory of spherical functions on reductive algebraic groups over p-adic fields, Publ. Math. I. H. E. S., 18 (1963), 1—69.

Сельберг (Selberg A.)

Discontinuous groups and harmonic analysis, Proc. Int. Gongr. of Math. (Stockholm, 1962), Inst. Mittag-Leffler, Djursholm, 1963, pp. 177—189. [Вольный русский перевод в сб. «Арифметические группы и автоморфные функции», «Мир», М., 1969, стр. 71—79.]

Harmonic analysis and discontinuous groups in weakly symmetric Riemannian spaces with applications to Dirichlet series, J. Indidn Math. Soc., 20 (1956), 47—87. [Русский перевод: сб. Математика, 1:4 (1957), 3—28.]

Серр (Serre J.-P.)

[1*] Курс арифметики, «Мир», М., 1972.

Силбергер (Silberger А.)

[1*] PGL2 over the p-adics: its representations, spherical functions and Fourier analysis, Lecture Notes in Math., vol. 166, Springer-Verlag, Berlin — Heidelberg — New York, 1970.

Стейн (Stein Е.)

Analysis in matrix spaces and some new representations of SL(N, C), Ann. Math., 86 (1967), 461—490.

Analytic continuation of group representations, Adv. Math., 4 (1970), 172— 207.

Такахаси (Takahashi R.)

Sur les fonctions spheriques et la formule de Plancherel dans le groupe hyperbolique, Jap. J. Math., 31 (1961), 55—90.

Sur les representations unitaires des groupes de Lorentz generalises. Bull. Soc. Math. France, 91 (1963), 289—433.

Тамагава (Tamagawa T.)

On Selberg’s trace formula, J. Fac. Set Tokyo, Sec. 1, 8 (Pt. 2, 1960), 363—386.

Уоллак (Wallach N.)

] Harmonic analysis on homogeneous spaces (Pure and Applied Mathematics, vol. 19), Marcel Dekker, Inc., New York, 1973.

Уорнер (Warner G.)

Harmonic analysis on semisimple Lie groups (Die Grundlehren der mathe- matischen Wissenschaften, Bd. 188, 189), Springer-Verlag, Berlin — Heidelberg— New York, 1972.

Фаддеев Л. Д.

Разложение по собственным функциям оператора Лапласа на фундаментальной области дискретной группы на плоскости Лобачевского, Труды Мо- сковск. матем. об-ва, 17 (1966), 323—350.

О модели Фридрихса в теории возмущений непрерывного спектра, Труды Матем. ин-та им. В. А. Стеклова АН СССР, 73 (1964), 292—313.

Фридрихе (Friedrichs К )

On the perturbation of continuous spectra, Comm. Pure Appl. Math., 1 (1948), 361—406.

Хариш-Чандра (Harish-Chandra)

Автоморфные формы на полупростых группах Ли, «Мир», М., 1972.

Discrete series for semisimple Lie groups I, Acta Math., 113 (1965), 241—318.

Discrete series for semisimple Lie groups II, Acta Math., 116 (1966), 1-111.

Harmonic analysis on semisimple Lie groups, Bull. Amer. Math. Soc., 76 (1970), 529—551. [Русский перевод: приложение 2 к книге [1], стр. 204—234.]

Invariant eigendistribution on a semisimple Lie algebra, Publ. Math. I. H. E. S., 27 (1965), 1-54.

Plancherel formula for 2X2 real unimodular group,Proc. Nat. Acad. Sci. USA, 4 (1952), 337—342.

Spherical functions on a semisimple Lie group I, II, Amer. J. Math., 80 (1958), pp. 241—310, 553—613.

1 On the theory of the Eisenstein integral. Lecture Notes in Math., 266, Springer-Verlag, Berlin — Heidelberg — New York, 1972, pp. 123—150.

] Harmonic analysis on real reductive groups I. The theory of the constant term, J. Fund. Anal., 19 : 2 (1975), 104—204.

] Harmonic analysis on real reductive groups II. Wave-packets in the Schwartz space, Inv. Math., 36 (1976), 1—56.

] Harmonic analysis on real reductive groups III. The Maas—Selberg ie- lations and the Plancherel formula, Ann. Math., 104 (1976), 117—201.

Хелгасон (Helgason S.)

Analysis on Lie groups and homogeneous spaces, Regional conference series, № 14, Amer. Math. Soc., Providence, R. L, 1972.

Дифференциальная геометрия и симметрические пространства, «Мир», М., 1964.

A duality for symmetric spaces with applications to group representations, Adv. Math., 4 (1970), 1—154.

Хелгасон и Джонсон (Helgason S., Johnson K.)

The bounded spherical functions on symmetric spaces. Adv. Math., 3, № 4 (1969), 586—593.

Шалика (Shalika J.)

Representations of the 2X2 unimodular group over local fields (to appear).

Шалика и Танака (Shalika J., Tanaka S.)

On an explicit construction of a certain class of automorphic forms, Amer. J. Math, 91 (1969), 1049—1076.

Шимура (Shimura G.)

Введение в арифметическую теорию автоморфных функций, «Мир», М., 1973.

Эльстродт (Elstrodt J.)

Die Resolvente zum Eigenwertproblem der automorphen Formen in der hy- perbolischen Ebene I, Math. Ann., 203 (1973), 295—330; II, Math. Zeitschr., 132 (1973), 99—134.

Замечание. Приведенный список литературы не претендует на полноту. Хорошая подробная библиография имеется в книгах Н. Я. Виленкина (работы, опубликованные до 1964 г.) и Уорнера.'

Часто используемые обозначения

стр. 16

Ф * ф (х) = Ф (xrr1) Ф (у) dy.

G

стр. 16

р (х)—f (х-1) или f(—х) (в зависимости от контекста).

стр. 18

л1 (ф) о = ^ Ф (х) л (х) и dx. G

стр. 19

фЧх^фСх-1)-

стр. 33

5 —пространство функций f на SL2(R)> таких, что / (г (0) уг (6')) = е"^ (у) е"™9'.

/ cos 6 sin 6 \

стр. 33

г (9) — _ sjn 9 cos g у ‘

стр. 37

уп _ весовое подпространство, состоящее из векторов и е Н, таких, что n(r(6))u = e!"ev.

стр. 55

•«: и-

стр. 60

р (а) =а (а)''2, р(х) = р(а), если х = ank — разложение Ивасавы.

стр. 60

ps (а/г) = р (a)s-

стр. 60

Н (s) _ пространство измеримых функций / на G, таких, что

сужение f на К принадлежит пространству L2(K);

f(artz/) = p(a)s+1f(y) Для любых аеД neN, y^G.

л$ _ естественное представление группы G в пространстве Н (s).

424

Часто используемые обозначения

стр. 61

<Ps U) = ^ Р ^xf+1 dx — сферическая функция; при к

обсуждении рядов Фурье ф„(9) = е,"в.

стр. 63

Cc(G, /0 — пространство непрерывных функции с компактным носителем, инвариантных относительно сопряжения на элементы кеК.

стр. 64

С с к91№ ~ пространство непрерывных функций с компактным носителем, двусторонне инвариантных относительно К.

стр. 80

D(a) = p(a) — p(a-1).

стр. 81

/ 0 1\ w=1I.

1 07

стр. 81

Преобразование Хариш-Чандры

Н/ (a) — р (а) ^ f (а/г) dn = D (a) f (x~‘ax) dx.

NA\Q

стр. 81

Л+ = {аеЛ; p(a)>l}.

стр. 86

Преобразование Меллина

Mg (s) = J g (a) p (a)s da.

A

стр. 90

Сферическое преобразование Sf (s) = MHf(s) = $f(x)V,(x)dx.

a

стр. 100

n~0

стр. 101

^xf (y) = ^-f(yexp(/73)|(_0.

стр. 105

dn ^X) и = -^ л (exp tX) у |( 0 •

стр. 114

/1 i \/ 1 —г Л

£+= .. , E_=.

м —17k— i

[£+, £_] = -4/Г, 1Г, £±] = ±2/£±.

стр. 114

ad X - Г = [Х, У].

стр. 116

= ® нп1 н~ = © нп. n»0(mod2)ne 1 (mod 2)

стр. 117

Му • X = уХу-1.

стр. 145

^к М = ^ М5 (к^хк) dk. к.

стр. 146

G' — множество регулярных элементов в G, т. е. множество матриц с различными собственными значениями.

стр. 162

Н (ц, е) или Н (s, в) — подпространство Н (s), соответствующее характеру е группы Л4 = {±1}.

стр. 163

rr(m)/ТХцLft^m)/ТХО

НП п9 П“п*

n=m (mod 2)n=m (mod 2)

стр. 202

^ (9)— универсальная обертывающая алгебра алгебры Ли g.

стр. 203

5? (•) — централизатор.

стр. 237

0L2(F\G) — пространство параболических форм, состоящее из всех функций f, таких, что

/(zig)dn = 0

W

для всех g е G и для всех вершинных подгрупп АГ (относительно Г).

стр. 251

Z (<р, у, 2s) = ^ ср (az/) р (a)-2s da.

А

стр. 252

Е<ф, у; s)= ^ 7(ф, yz/; 2s) = Th^, у; 2s).

*) См. также А. А. Кириллов, Элементы теории представлений. «Неука» М.. 1*972. — Прим, нерве.