Книга
← К списку книгЗагрузка разделов…
активнаАктивные записи участвуют в каталоге и синках. Неактивная книга скрыта, но не удалена из базы.
Книга
Р.Хорн, Ч.Джонсон
МАТРИЧНЫЙ АНАЛИЗ
Р.Хорн, Ч.Джонсон
МАТРИЧНЫЙ АНАЛИЗ
Монография известных американских математиков, представляющая собой исчерпывающее изложение теории матриц, которая находит применение практически в любой области математики и во всех ее приложениях. Она содержит как классический материал, так и последние достижения в этой обширной области, в ней много упражнений и задач разной степени трудности. Книга сопоставима с известной книгой Ф. Р. Гантмахера, но гораздо шире ее в таких разделах, как оценки погрешностей при решении линейных уравнений, локализация собственных значений, теория возмущений.
Для студентов и аспирантов вузов, для математиков разных специальностей, экономистов, инженеров.
ОГЛАВЛЕНИЕ
Предисловие редактора перевода5
Предисловие7
Глава 0. Обзор и разное12
0.0. Введение12
0.1. Векторные пространства12
0.2. Матрицы16
0.3. Определители19
0:4. Ранг24
0.5. Невырожденность26
0.6. Обычное скалярное произведение27
0.7. Блочные матрицы29
0;8. Снова определители32
0.9. Матрицы специального вида37
0.10. Замена базиса45
Глава 1. Собственные значения, собственные векторы и подобие48
.0. Введение48
Определение собственных значений и собственных векторов49
Характеристический многочлен53
Подобие60
Собственные векторы75
Глава 2. Унитарная эквивалентность и нормальные матрицы84
.0. Введение84
Унитарные матрицы8 5
Унитарная эквивалентность93
Теорема Шура об унитарной триангуляризации101
Некоторые следствия теоремы Шура107
Нормальные матрицы125
^-разложение и ^-алгоритм139
Глава 3. Канонические формы146
.0. Введение146
Жорданова каноническая форма: доказательство148
Жорданова каноническая форма: некоторые свойства и приложения158
Многочлены и матрицы: минимальный многочлен172
Другие канонические формы и разложения182
Треугольные разложения192
Глава 4. Эрмитовы и симметричные матрицы200
.0. Введение200
Определения, свойства и характерные особенности эрмитовых матриц 203
Вариационные описания собственных значений эрмитовых матриц211
Некоторые приложения вариационных описаний218
Комплексные симметричные матрицы242
Конгруэнтность и одновременная диагонализация эрмитовых и263
симметричных матриц
Псевдоподобие и псевдодиагонализация294
Глава 5. Нормы векторов и матриц310
.0. Введение310
Определяющие свойства векторных норм и скалярных произведений 312
Примеры векторных норм319
Алгебраические свойства векторных норм323
Аналитические свойства векторных норм324
Геометрические свойства векторных норм340
Матричные нормы351
Векторные нормы на матрицах385
Ошибки в обратных матрицах и решениях линейных систем402
Глава 6. Локализация и возмущения собственных значений408
Круги Гершгорина413
Круги Гершгорина - более пристальный взгляд423
Теоремы о возмущениях443
Другие области локализации450
Глава 7. Положительно определенные матрицы465
.0. Введение465
Определения и свойства471
Характеризации477
Полярная форма и сингулярные разложения488
Примеры и приложения сингулярного разложения507
Теорема о произведении Шура539
Конгруэнтность: произведения и одновременная диагонализация550
Упорядочение, индуцированное положительной полуопределенностью 556
Неравенства для положительно определенных матриц564
Глава 8. Неотрицательные матрицы576
.0. Введение576
Неотрицательные матрицы — неравенства и общие замечания579
Положительные матрицы585
Неотрицательные матрицы593
Неразложимые неотрицательные матрицы598
Примитивные матрицы607
Общая предельная теорема617
Стохастические и двоякостохастические матрицы619
Приложение А. Комплексные числа624
Приложение В. Выпуклые множества и функции627
Приложение С. Основная теорема алгебры632
Приложение D. Непрерывная зависимость корней многочленов от их634
коэффициентов
Приложение Е. Теорема Вейерштрасса636
Литература638
Указатель обозначений641
Предметный указатель643
Совсем недавно в издательстве «Наука» четвертым изданием вышла классическая монография Ф. Р. Гантмахера «Теория матриц». Очень может быть, что эта монография и книга американских математиков Хорна и Джонсона будут соседями на прилавках книжных магазинов, а потом в библиотечных шкафах. И покупателю или читателю нужно решить, какую из этих двух объёмистых (и не очень дешевых книг) выбрать для себя. '
Боюсь, что мой ответ не удовлетворит ни того, ни другого. Он наихудший для покупательского кошелька. Итак: Вам будут нужны обе книги.
Книга Гантмахера заслужила всемирное признание как замечательно стройное изложение почти всех основных разделов линейной алгебры и многих ее специальных вопросов. Она воспринимается как энциклопедия области, а в то же время является и учебником, начинающимся с определения матрицы.
Но как пи хороша книга Гантмахера, она отражает состояние теории матриц начала 60-х годов. Если учесть, что 2-е издание (1966 г.) не очень отличается от 1-го (1953—1954 гг.), то, пожалуй, эту временную границу нужно отодвинуть еще на десятилетие. Тридцать пять лет — огромный срок для любой области науки, и теория матриц — не исключение. С 1969 г. издается журнал Linear Algebra and Its Applications; к настоящему времени вышло около ста его томов (номер журнала есть одновременно том). В 70-х годах к нему добавился ежеквартальный журнал Linear and Multilinear Algebra. Статьи прикладного характера по линейной алгебре постоянно печатают многие журналы по вычислительной математике и статистике.
Потребность в систематизации огромного нового материала ощущалась уже давно. Отчасти это сделано в ряде известных советскому читателю книг вводного характера, таких, как «Введение в теорию матриц» Р. Беллмана, «Теория матриц» П. Ланкастера, «Линейная алгебра и ее применения» Г. Стренга. Однако до самого последнего времени не находилось подвижников, которые бы рискнули провести желаемую систематизацию с «гантмахеровским» размахом. Книга Хорна и Джонсона —
первая подобная попытка, и следующая, учитывая сложность задачи, по-видимому, будет предпринята не скоро.
Авторы книги, как мне кажется, хотели совместить в ней учебник для мало подготовленного читателя (все же знакомого с самыми основами предмета), справочник для математика, работающего в другой области, и обзор самых свежих (или классических, но мало известных) результатов — для специалиста по линейной алгебре. Мне кажется также, что все это им удалось. Первой категории читателей овладевать теорией матриц будет гораздо проще по этой книге, чем по книге Гантмахера, которая — в качестве учебника — предназначена скорее для аспиранта. Эта элементарность изложения, надо думать, не будет недостатком и для математика, не занимающегося линейной алгеброй профессионально. Алгебраист же не станет изучать основной текст, и мы назовем для него несколько наугад выбранных результатов, о которых он не прочтет ни в какой другой книге:
Теорема Маккоя о триангуляризации двух комплексных матриц одним подобием (гл. 2); критерий унитарной эквивалентности матриц (та же глава).
Необходимые и достаточные условия приводимости двух квадратичных форм к главным осям посредством одного и того же преобразования конгруэнтности (гл. 4).
Описание обобщенных матричных норм, допускающих согласованные векторные нормы (гл. 5).
Правильное обобщение теоремы Брауэра о локализации спектра в овалах Кассини (гл. 6).
Характеризация унитарно инвариантных матричных норм (гл. 7).
Авторы готовят продолжение этой книги; оно будет состоять (см. их предисловие) из разделов, отсутствующих или едва затронутых в имеющихся книгах на русском языке.
Нелишне сказать, что Чарльз Джонсон — один из крупнейших американских алгебраистов, специализирующихся в области теории матриц, человек незаурядной работоспособности. Редкий номер названных выше журналов по линейной алгебре обходится без его статьи. Я думаю, что книга Хорна и Джонсона в течение многих лет будет незаменима как справочник, дополняющий книгу Гантмахера.
Пользуюсь случаем поблагодарить авторов за любезно присланный ими список исправлений, которые учтены при переводе.
В переводе книги вместе со мной участвовали А. В. Князев (гл. 4, 5 и дополнения) и Е. Е. Тыртышников (гл. О—3, 8).
X. Икрамов
Посвящается собратьям по теории матриц и
нашим семьям
Дане, Дженифер и Эмили, Сузан, Сиэриз, Коринне и -Говарду
в благодарность за понимание и поддержку.
Линейная алгебра и теория матриц давно вошли в число основных инструментов, используемых другими математическими дисциплинами; в то же время они сами являются плодотворной областью исследований. В этой и следующей за ней •книгах ) излагаются как классические, так и недавние результаты матричного анализа, оказавшиеся важными для прикладной математики. Книга может служить учебником для студентов и аспирантов или справочником, содержащим все необходимое для различных групп читателей. Для понимания ее материала достаточно прослушать односеместровый курс элементарной линейной алгебры и овладеть азами математического анализа. Мы начинаем с понятий собственного значения и собственного вектора; предварительного знакомства с этими понятиями не требуется.
Результаты теории матриц, выходящие за рамки элементарного курса линейной алгебры, необходимы практически в любой области математики — будь то дифференциальные уравнения, теория вероятностей и статистика или теория оптимизации— и практически во всех ее приложениях — назовем хотя бы приложения к теоретической и прикладной экономике, инженерным дисциплинам или исследованию операций. Но до недавнего времени большая часть необходимого материала появлялась в учебных планах вузов лишь спорадически, а то и не появлялась вообще. По мере того как рос интерес к прикладной математике и теории матриц посвящалось все большее число курсов повышенного типа, все яснее становилась потребность в учебнике с широким охватом тем и в современном справочнике по данному предмету.
В литературе по теории матриц имеется ряд признанных классических книг, но они не слишком приспособлены для обычных семинарских нужд и для систематического самообучения. Недостаток задач, приложений и мотивировок, неполный предметный указатель, устарелый подход — вот трудности, с которыми встречаются читатели некоторых традиционных учеб-
ников. Более свежие книги либо чересчур элементарны, либо представляют собой узко специализированные трактаты. Нашей целью было написать книгу, дающую доступное и современное изложение широкого круга вопросов.
Мы интерпретируем термин «матричный анализ» как обшее название тех разделов линейной алгебры, которые возникли из иужд математического анализа — таких его составных частей, как теория функций многих переменных, теория функций комплексного переменного, дифференциальные уравнения, оптимизация и теория приближений. Другая возможная точка зрения состоит в том, что матричный анализ есть подход к вещественным и комплексным задачам линейной алгебры, при котором без колебаний используются понятия анализа — пределы, непрерывность, степенные ряды, — если оии более эффективны или естественны, чем чисто алгебраические средства. Обе интерпретации матричного анализа отражаются в отборе и трактовке тем, затронутых в этой книге. Мы предпочитаем термин матричный анализ термину линейная алгебра, поскольку ои верно схватывает широту приложений и методологию данной области.
В главе 0 дай обзор необходимых фактов из элементарной линейной алгебры, а также ряда других полезных, хотя и не обязательно элементарных результатов. Мы сочли, что такой обзор будет полезен для ссылок в последующем тексте. Главы 1—3 содержат в основном материал, который обычно входит в любой серьезный курс линейной алгебры или теории матриц: основные сведения о собственных значениях, собственных векторах и подобии, унитарное подобие, триаигуляризация по Шуру и ее следствия, нормальные матрицы, канонические формы и разложения, включая жорданову форму, LU- и Q^-разложеиия, сопровождающие матрицы многочленов. Все последующие главы по существу независимы и трактуют каждая, причем довольно глубоко, свою основную тему:
Эрмитовы и комплексные симметричные матрицы (гл. 4). Особый акцент мы сделали на вариационных методах исследования собственных значений эрмитовых матриц; кроме того, даны иачатки теории мажоризации.
Векторные и матричные нормы (гл. 5). Этот материал существенно используется при анализе устойчивости алгоритмов вычислительной линейной алгебры, а также при изучении матричных степенных рядов и итерационных процессов. Мы детально обсуждаем алгебраические, геометрические и аналитические свойства норм и проводим тщательное разграничение между теми результатами о матричных нормах, которые зависят от кольцевого свойства, и теми, которые от него не зависят.
Результаты, относящиеся к локализации и возмущениям собственных значений (гл. 6), выводятся для матриц общего вида
(не обязательно эрмитовых) и важны для многих приложений. Мы даем подробное изложение теории кругов Гершгорина, некоторых современных ее уточнений и сопутствующих ей понятий теории графов.
Положительно определенные матрицы (гл. 7) и их применения, включая неравенства, рассматриваются очень подробно. В частности, обсуждаются полярное и сингулярное разложения, а также их приложения к матричным задачам аппроксимации.
Покомпонентно неотрицательные и положительные матрицы (гл. 8) встречаются во многих дисциплинах, связанных с изучением величин, по смыслу своему неотрицательных (в теории вероятностей, экономике, технических науках и т. д.); их замечательная теория отражает эти приложения. Мы разворачиваем теорию неотрицательных, положительных, примитивных и неразложимых матриц последовательно и по возможности элементарно, причем основываем ее на использовании норм.
В следующей книге рассматриваются вопросы, также представляющие большой интерес для приложений: числовая область матрицы и обобщения этого понятия; инерция, устойчивые матрицы, Af-матрицы и родственные специальные классы матриц; матричные уравнения, кронекеровы и адамаровы произведения; различные способы, которыми могут быть связаны функции и матрицы.
Настоящая книга дает возможность строить различные курсы одно- или двухсеместровой продолжительности; выбор глав и параграфов зависит при этом от конкретной аудитории. Мы рекомендуем преподавателю при составлении курса произвести тщательный отбор параграфов и даже частей параграфов. В такой курс, по всей видимости, должны войти гл. 1, большие разделы гл. 2 и 3, а также результаты относительно эрмлто- вых матриц и норм из гл. 4—5.
Большинство глав включает в себя некоторое количество сравнительно специализированного или нетрадиционного материала. Так, в гл. 2 содержатся не только основная теорема Шура об унитарной триангуляризации одной матрицы, но и обсуждение вопроса об одновременном приведении семейства мат риц к треугольному виду. В§2.2 об унитарной эквивалентности изложение обычных фактов сопровождается разделом об условиях унитарной эквивалентности, выраженных в терминах следов. Рассмотрение комплексных симметричных матриц в гл. 4 составляет контрапункт с изложением классической теории эрмитовых матриц. В каждой главе базисные аспекты ее тематики изучаются в начальных параграфах, а более тонкие результаты отнесены в концы параграфов или же в конец главы. Такая стратегия имеет то преимущество, что тема раскрывается последовательно, а это увеличивает полезность книги как
справочника. Одновременно преподавателю предоставляется большая возможность маневрирования.
Многие из обсуждаемых результатов имеют место или могут быть обобщены на матрицы над другими полями или с элементами более общей алгебраической природы. Однако мы умышленно ограничиваемся полями вещественных и комплексных чисел, где можно применять не только формальные алгебраические приемы, но и известные методы классического анализа.
Хотя обычно мы считаем матрицы комплексными, в большинстве примеров приведены вещественные матрицы, и глубокого знания комплексного анализа не требуется. Знакомство с арифметикой комплексных чисел необходимо для понимания теории матриц; соответствующие сведения даны в первом из приложений. Еще несколько приложений относятся к периферийным, но существенным вопросам, таким, как теорема Вейер- штрасса и выпуклость.
В книгу включено много упражнений и задач; на наш взгляд они очень важны для выработки понимания предмета. Упражнения включены в основной текст каждого параграфа и составляют часть общего изложения; как правило, они элементарны и помогают схватить смысл вводимых понятий. Мы рекомендуем читателю проработать хотя бы значительную их часть. Задачи даются списком в конце каждого параграфа; в их расположении нет какой-либо определенной системы. Они очень различны по степени трудности и своему характеру (от задач теоретического плана до чисто вычислительных) и могут углублять основную тему параграфа, трактовать ее специальные аспекты или указывать иные способы доказательства главных результатов. Для более трудных задач существенную подсказку дают указания. Результаты некоторых задач используются в других задачах или даже в основном тексте. Еще раз подчеркнем важность активной вовлеченности читателя в проработку упражнений и решение задач.
Хотя данная книга посвящена не приложениям теории матриц, все же мы начинаем каждую главу параграфом, описывающим несколько приложений, которые помогают ввести главную тему этой главы, обосновывая ее появление.
Для читателей, желающих познакомиться с другими изложениями конкретных тем или получить дополнительную информацию по ним, мы даем в конце книги, следом за приложениями, список литературы. В тексте книги ссылки на этот список указываются с помощью краткого мнемонического кода; например, книга, авторами которой являются Jones, Smith, обозначается символом [JSm], Коды и полные выходные данные книг приведены в списке литературы; он упорядочен по алфа-
виту в соответствии с английской транскрипцией фамилий ав-< торов.
Список литературы ие является исчерпывающим. При ограниченности объема книги и при ее миоготемиости мы не могли не сократить до предела число ссылок в тексте. В конце большинства параграфов все же указываются некоторые статьи — большей частью те, что были использованы нами явным образом,— и дается краткое их обсуждение, одиако мы ие пытались проследить историю классических результатов. Более полную библиографию можно найти в специализированных книгах, включенных в наш список литературы. Нужно еще иметь в виду, что по некоторым разделам матричного анализа существуют обширные и постоянно обновляемые библиографические справочники, например KWIC Index for Numerical Linear Algebra [CaLe]); см. также разд. 15 и 65 реферативного журнала Mathematical Reviews).
Мы с признательностью отмечаем помощь наших коллег и учеников, ие пожалевших времени, чтобы сообщить свои предложения и замечания к конспектам и рукописям, предварявшим эту книгу. Вот список этих лиц: В. Барретт, Л. Бисли, Б. Кейн, Д. Карлсон, Д. Чоудхури, Р. Чоудхури, Ю Рьё Хоиг, Д. Красс, Д. Олески, С. Пирс, Л. Родмаи, П. ваи ден Дриссе.
Р. А. Хорн
Ч. Р. Джонсон
Глава О
ОБЗОР И РАЗНОЕ
0.0. Введение
В этой главе приводится (сжато и без доказательств) ряд полезных понятий и фактов, на многие из которых явно или неявно опирается основной материал настоящей книги. Большинство из них в той или иной форме должно входить в элементарный курс линейной алгебры. Однако есть и не столь широко известные; некоторые из них рассматриваются здесь, а не в последующих главах из-за того, что плохо вписываются в их структуру. Таким образом, данная глава может служить кратким обзором, предваряющим книгу, или справочником, к которому удобно обращаться по мере необходимости. Для дальнейших ссылок здесь даются также основные обозначения и некоторые определения. Мы предполагаем, однако, что читатель уже хорошо знаком с элементарными понятиями линейной алгебры и техникой выполнения таких матричных операций, как умножение и сложение матриц.
0.1. Векторные пространства
В нашем изложении понятие векторного пространства будет использоваться, как правило, неявно. Тем не менее оно является фундаментальным для всей теории матриц.
0.1.1. Основное поле. Определение векторного пространства базируется на понятии поля, или множества скаляров, на которые можно умножать векторы. В наших построениях это поле почти всегда будет полем R вещественных чисел или полем С комплексных чисел (см. приложение А) с обычными операциями сложения и умножения. Однако это может быть и поле рациональных чисел, поле вычетов по простому модулю или какое-то иное поле. В случае когда не указано, какое именно поле имеется в виду, будем использовать для него символ F. Множество скаляров будет полем, если оно замкнуто относительно двух заданных бинарных операций (называемых сложением и умножением), причем выполняются следующие условия: обе эти операции ассоциативны и коммутативны и каждая обладает нейтральным элементом; обратные элементы относительно операции сложения существуют (и содержатся в том же множестве) для всех элементов, относительно операции умножения^
для всех элементов, кроме нейтрального элемента 0 операции сложения; операция умножения дистрибутивна относительно операции сложения.
0.1.2. Векторные пространства. Векторное пространство1) V над полем F — это множество объектов (называемых векторами), замкнутое относительно бинарной операции (называемой сложением), которая ассоциативна, коммутативна н обладает нейтральным элементом (0); для каждого элемента существует обратный элемент относительно этой операции, принадлежащий тому же множеству. Это множество замкнуто также относительно операции левого умножения вектора на скаляр из поля F, причем для любых а, 6 е F и для любых х, у е V выполняются следующие соотношения: а (х + у) = ах + ау, (« + A-b)x = ах-V bx, а(Ьх)=ЦаЬ)х, ех—х, где eeF—нейтральный элемент относительно умножения.
Для заданного поля F и целого положительного числа гг множество Fn упорядоченных /г-чденных наборов с компонентами из F образует векторное пространство над F при очевидном определении операций (наборы складываются покомпонентно). В частных случаях получаем векторные пространства R'! н Сп— основные для данной кннгн. Другие примеры векторных пространств (над R нлн С): многочлены с вещественными нлн комплексными коэффициентами (степени не выше заданной нлн же всевозможных степеней) н непрерывные нлн произвольные функции на отрезке [а, 6] с R с вещественными либо комплексными значениями. Конечно, имеется существенное различие между конечномерным пространством Rn н бесконечномерным векторным пространством непрерывных функций на [0, 1] с вещественными значениями.
0.1.3. Подпространства и линейная оболочка. Подпространство U векторного пространства V— это подмножество в V, которое само является векторным пространством над тем же самым полем. Например, множество {[а, 6, 0] г: а, 6eR} есть подпространство в R3. Как правило, подпространство векторного пространства V определяется прн помощи некоторых соотношений, выделяющих часть векторов из V таким образом, чтобы обеспечить ее замкнутость относительно сложения элементов в V; например, подпространство составляют векторы нз R3 с последней компонентой 0. Прн этом получающееся множество полезно рассматривать именно как подпространство, а не как самостоятельное векторное пространство. В любом случае пересечение двух подпространств есть снова подпространство.
*) Часто используется также термин линейное пространство. — Прим, перед.
Если S — подмножество векторного пространства V, то его линейной оболочкой называется множество
SpanS = {a1u1 + o2v2 + ... + akuk; щakeF,
vlt ..., uk gS, k = 1, 2, ...}.
Заметим, что SpanS — всегда подпространство, даже если S подпространством не является. Говорят, что S порождает векторное пространство V, если Span S = V.
0.1.4. Линейная зависимость и независимость. Множество векторов {xi, ..., х} в векторном пространстве называется линейно зависимым, если существуют коэффициенты аь ... ..., ak е F, такие, что не все из них равны пулю и
а1х1 + а2х2+ . ■■ +«A = 0.
Это эквивалентно тому, что один из векторов х, выражается в виде линейной комбинации остальных векторов с коэффициентами из F1). Например, множество {[1, 2, 3]т, [1,0,—I]7", [2, 2, 2Р} линейно зависимо в R3. Подмножество в V, не являющееся линейно зависимым над F, называется линейно независимым. Например, множество {[1,2, З]7", [1,0,—1]г} линейно независимо в R3. Важно заметить, что оба понятия по сути своей относятся к множествам векторов. Любое подмножество линейно независимого множества также линейно независимо; {0}—линейно зависимое, множество и, следовательно, любое множество, содержащее вектор 0, линейно зависимо. Множество векторов может быть линейно зависимым, в то время как любое его собственное подмножество линейно независимо.
0.1.5. Базис. Подмножество S векторного пространства V порождает V, если любой элемент из V можно представить как линейную комбинацию элементов из S (с коэффициентами из соответствующего основного поля). Например, множество {[1,0, 0]г, [0,1,0Р, [0,0,1р. [1,0,—1Р} порождает R3 над R (или С3 над С). Линейно независимое множество, порождающее векторное пространство V, называется его базисом. Существует много различных базисов. Однако все они обладают следующим замечательным свойством: любой элемент из V можно разложить по базису единственным способом, но это утверждение становится неверным как при пополнении базиса каким-либо элементом, так и при исключении любого из элементов. Линейно независимое множество элементов из V составляет базис в том и только в том случае, если при любом его пополнении оно становится линейно зависимым. Для того
Чтобы множество, порождающее V, являлось базисом, необ-хо- димо и достаточно, чтобы ни одно из его собственных подмножеств не порождало V. Любое векторное, пространство имеет базис.
0.1.6. Дополнение до базиса. Любое линейно независимое множество векторов в векторном пространстве V можно дополнить до базиса; другими словами, для любого линейно независимого множества {хьХ2, ..., х^с V всегда найдутся дополнительные векторы xt+i, ..., Хц, ... eV, такие, что множество {xi, ..., хп, ...} есть базис в V. Дополнительные векторы, конечно, определяются неоднозначно (например, линейно независимое множество {[1,0,0]г, [0,1, 0]г) дополняется до базиса в R3 любым вектором с ненулевой третьей компонентой). Пример вещественного векторного пространства С [0,1] непрерывных вещественнозначных функций на [0, 1] показывает, что базис в общем случае может не быть конечным. Бесконечное множество одночленов {1, х, х2, х3, ...} линейно независимо в С [0, 1]
0.1.7. Размерность. Если один из базисов векторного пространства V состоит из конечного числа элементов, то и любой базис содержит такое же число элементов, и это число называется размерностью векторного пространства V. В этом случае V называется конечномерным, а в противном — бесконечномерным. Между любыми двумя базисами в бесконечномерном пространстве (например, в С [0,1]) существует взаимно однозначное соответствие. Размерность вещественного векторного пространства R” равна п. Векторное пространство С" имеет размерность п над полем С и 2п над полем R. Базис {ej, е2, ... ..., еп}, в котором l-я компонента вектора е, равна 1, а остальные равны нулю, называется иногда стандартным или естественным базисом в R" или С".
0.1.8. Изоморфизм. Пусть U и V—векторные пространства над одним и тем же полем F и f: U -*■ V—обратимая функция, такая, что f(ax + by) = af(x) + ЬЦу) для всех x,yeU и для всех а, b е F. В этом случае / называется изоморфизмом, a U и V называются изоморфными («одинаково устроенными»). Два конечномерных векторных пространства над одним и тем же полем изоморфны тогда и только тогда, когда они имеют одинаковую размерность. Таким образом, любое «-мерное векторное пространство над полем F изоморфно F". Всякое «-мерное вещественное или комплексное векторное пространство, следовательно, изоморфно соответственно R" или С". Конкретно: если V есть «-мерное векторное пространство над полем F и ^ = {^ь ■•■, х^—его базис, то, поскольку любой элемент xeV однозначно записывается в виде x=aixr + ... + апхп.
где a;eF, i = 1, ..., п, мы можем вектору х поставить в соответствие столбец [x]^=[ai, .... а„] г, и отображение *->[*]^ является изоморфизмом между V и F”, отвечающим базису ^.
0.2. Матрицы
При изучении матриц важно иметь в виду следующие два подхода к их определению:, с одной стороны, матрица рассматривается как прямоугольный массив скаляров; с другой стороны, она представляет линейное отображение одного векторного пространства в другое, когда в каждом из них фиксирован базис.
0.2.1. Прямоугольный массив. Матрица — это массив размера тХ», заполненный скалярами из поля F. В случае т = п матрица называется квадратной. Множество всех тХ «-матриц, или матриц размера т>(п, над F обозначается через Мт, n(F) или Л/ДР^если т=п (при т=п говорят о матрице порядка п). В наиболее распространенном случае, когда F = С, вместо Л4ДС) и Мт, ДС) будем писать Мп и Мт, п. Как правило, матрицы обозначаются заглавными буквами. Например, матрица
- — 1 л 4 -
принадлежит М2,з(К). Подматрица какой-либо матрицы — это прямоугольный массив, расположенный в выделенных строках и столбцах исходной матрицы. Для матрицы А, приведенной выше, в качестве подматрицы можно рассмотреть, например, [л 4] — это подматрица, расположенная во второй строке и во втором и третьем столбцах матрицы А.
0.2.2. Линейные отображения. Пусть U есть «-мерное, а V есть m-мерное векторные пространства над одним и тем же полем F. Базисы в U и в V обозначим соответственно через $и и $у. С помощью изоморфизмов х->[х]^ и у~>\у\дду векторы из U и V представим как столбцы соответственно с п и т компонентами, принадлежащими F. Линейное отображение ') — это функция Т; U->V, удовлетворяющая соотношению Т (а1х1 + а2х2) = й\Т (^i) + аЛ" (х2) для любых скаляров аи а2 и любых векторов хь х2. Всякому линейному отображению
') Если U=V, то такое отображение называется линейным преобразо* ванием. — Прим, перев..
Т: U-*V отвечает матрица Л е .Л4т> „(F), такая, что вектор у имеет вид у = 1)х) тогда и только тогда, когда [y]Sy = Л [х]^^. Говорят, что матрица Л представляет линейное отображение Т в базисах ^ и $v (представляющая матрица Л зависит от выбранных базисов). Итак, изучая матрицу Л, мы по существу изучаем линейное отображение по отношению к каким-то базисам, но явное указание этих базисов во многих случаях не обязательно.
0.2.3. Векторные пространства, связанные с заданной матрицей или линейным отображением. В качестве векторного пространства размерности п над полем F, не ограничивая общности, можно всегда рассматривать F". Матрицу AeMm, „(F) мы будем рассматривать как линейное отображение из F" в F"1 (и, конечно, как массив). Областью определения такого линейного отображения является F", а областью значений — множество {«eF":: у = Ах, .i'gF"}. Нуль-пространство (или ядро) матрицы А есть (хе F”: Лх = 0}. Область значений матрицы А является подпространством в Fm, а нуль-пространство — подпространством в F". Справедливо следующее соотношение:
п = размерность нуль-пространства матрицы Л +
+ размерность области значений матрицы А.
0.2.4. Матричные операции. Сложение матриц определяется как покомпонентное сложение массивов одинаковых размеров и обозначается символом + (Л + В). Оно отвечает сложению линейных отображений, заданных относительно одной и той же пары базисов, и наследует коммутативность и ассоциативность операции сложения скаляров в соответствующем поле. В роли нейтрального элемента выступает нулевая матрица, т. е. матрица с нулевыми элементами. Множество Mm, „(F) само является векторным пространством над F. Умножение матриц определяется обычным способом и отвечает композиции линейных отображений; произведение матриц Л и В обозначается через АВ. При этом предполагается, что А е Мт, „(F), В е Мр, #(F), где р = п. Умножение матриц ассоциативно, но, вообще говоря, не коммутативно. Например,
1 ° 1 Г 1 2 1 Г 1 2 1 Г 1 0 1О 2 J L 3 4] [з 4 J L 0 2 ]'
Однако коммутативность может иметь место для матриц из каких-то подмножеств множества Мп (F). Нейтральным элементом относительно умножения является единичная матрица I е
eM„(F) вида
Эта матрица и все матрицы, полученные из нее умножением на скаляр—так называемые скалярные матрицы, — коммутируют с любыми матрицами из A4„(F), и никакие другие матрицы таким свойством не обладают. Умножение матриц дистрибутивно относительно сложения матриц.
Заметим, что символ 0 используется для обозначения числа «нуль», нулевого вектора (все координаты этого вектора равны нулю) и нулевой матрицы (все элементы этой матрицы равны нулю). Обычно из контекста ясно, о чем идет речь, и путаницы не возникает. Символ I используется для обозначения единичной матрицы произвольного размера. При необходимости вводится индекс, указывающий ее размер.
0.2.5. Транспонированные и сопряженные матрицы. Если Л = [а;/] е Mm, „(F), то транспонированная матрица Ат принадлежит Af„>m(F) и представляет собой матрицу с элементами а^, т. е. строки и столбцы меняются местами. Например,
Разумеется, (Лг)г = А. Для А е Mmin (С) сопряженная матрица Л* определяется соотношением А* = Ат, где А получается из А заменой всех ее элементов на комплексно-сопряженные. Например,
1 + г 2 — i Т _ Г 1 -1 -3 1
—3 —2/ J L 2 + I 2г J ‘
И транспонированные, и сопряженные [и обратные (см. разд. 0.5)] матрицы подчиняются следующему закону обращения порядка*. (АВ)'= В* А* и (АВ)Г = ВТАТ, при условии, что умножение выполнимо. В то же время АВ = АВ, т. е. при переходе к комплексно-сопряженным матрицам не происходит перестановки сомножителей. Если к, у г Af„jl = C'1, то ух есть скаляр и применительно к нему сопряжение и комплексное сопряжение дают один и тот же результат, т. е. (у*х)* = у*х = х*у = утх.
0.2.6. Техника матричного умножения. Отметим некоторые весьма и весьма полезные свойства умножения матриц.
Если Ь; обозначает /-й столбец матрицы В, то /-й столбец произведения АВ имеет вид Abj.
Если а,- обозначает t-ю строку матрицы А, то t-я строка произведения АВ имеет вид а,В.
Другими словами, произведение АВ можно рассматривать как результат умножения столбцов матрицы В на матрицу А слева и как результат умножения строк матрицы А на матрицу В справа. В разд. 0.9.1 мы обсудим аналогичные наблюдения в случае, когда один из сомножителей является диагональной матрицей.
Если АеМт, n(F) и хеЕ", то Ах есть линейная комбинация столбцов матрицы А, где коэффициентами служат координаты вектора х.
Если А е Мт, n(F) и уе¥т, то уТА есть линейная комбинация строк матрицы А, где коэффициентами служат координаты вектра у.
0.3. Определители
Часто в математике бывает полезно охарактеризовать объект, определяемый многими параметрами, с помощью одной величины. Определитель — пример такого рода. Он вводится только для квадратных матриц А е Afn(F). Мы рассмотрим два важных способа его определения — различных, но, естественно, эквивалентных. Определитель матрицы ЛеЛЕ^Е) обозначается через det <4.
0.3.1. Разложение Лапласа. Определитель матрицы А=[агД е sAfn(F) можно ввести, используя индукцию по п. Предположим, что уже известно, что такое определитель матриц из Mn_i(F). Для матрицы ЛеЛ1п(Е) рассмотрим подматрицы Ац е Мп-1 (F), получаемые после удаления t-й строки и /-го столбца. Тогда для всех i^/г, /^/г
Е (-DW atl det А„ = £ (-l)w а^ det Аи,
и это число по определению есть det Л. Левая часть данного равенства представляет собой разложение Лапласа по i-й строке, а правая — по /-му столбцу матрицы А (см. разд. 0.7.1). Любое из них можно использовать для выражения определителя. Это индуктивное построение начинается с того, что определителем матрицы размера 1 X 1 называется значение единственного
ее элемента. Таким образом,
det [аи] = ап.
, , Г «12 I
det л 1 = 0^22 —a Ai,
L «21«22 J
°И°Иdet а21det а21«12«22«12«22«13«13«23 — «и«22«зз 4~ «12«гз«з1 “Ь «1з«21«зг —«23 — «и«22«зз 4~ «12«гз«з1 “Ь «1з«21«зг —L °31L °31«32 O33 -I«32 O33 -I
°И
°И
det а21
det а21
«12
«22
«12
«22
«13
«13
«23 — «и«22«зз 4~ «12«гз«з1 “Ь «1з«21«зг —
«23 — «и«22«зз 4~ «12«гз«з1 “Ь «1з«21«зг —
L °31
L °31
«32 O33 -I
«32 O33 -I
«11«23«32а\2а21а33«13«22«31
и т. д. Очевидно также, что detЛ7’ = detЛ и det А = det Л для Ае Мп (С).
0.3.2. Альтернирующая сумма. В соответствии с приведенными выше примерами определителей 1-го, 2-го и 3-го порядка для произвольной матрицы А = [й,,] е Mn(F) имеем
det Л = X sgn о П «fo w >О1 = 1
где о пробегает множество всех и! перестановок из и чисел {1, ...,«} *) и sgn о есть знак перестановки а, т. е. это -f-1 либо —1 в зависимости от того, четно или нечетно число транспозиций (т. е. перемен местами какой-либо пары чисел), необходимое для того, чтобы от расположения {1,2и} перейти к о. Итак, каждое произведение
Ola(1)О2а(2) • • • «ма(м)
входит в определитель со знаком + в случае четной перестановки о и со знаком — в случае нечетной.
Заменив sgn о на какую-либо другую функцию, получим вместо det Л так называемую обобщенную матричную функцию. Например, заменим sgn о на постоянную, равную 1. Полученная функция называется перманентом, и перманент матрицы А обозначается через per Л. •
0.3.3. Элементарные преобразования. Используя три простых и основополагающих преобразования, можно любую матрицу привести к простой и однозначно определяемой канонической форме, очень удобной для таких задач, как решение систем линейных уравнений, вычисление определителей, обращение матрицы и нахождение ранга. Опишем эти типы преобразований, ориентируясь на действия со строками.
Перестановка двух строк
Для того чтобы в матрице поменять местами i-ю и /-ю строки, нужно умножить ее слева на матрицу
•- / -я строка
— j -я строка
’ / -й столбец1 j -й столбец
в которой лишь два внедиагональных- элемента отличны от нуля, они равны 1 и занимают позиции (z,/) и (/', t); элементы, не указанные явно, нулевые.
Умножение строки на ненулевое число
Умножение t-й строки матрицы А на число с можно выполнить с помощью умножения слева на матрицу
Z-й столбецZ-й столбец
Z-й столбец
Z-й столбец
в которой с находится в позиции t, L
Прибавление к строке другой строки, умноженной на число
Чтобы к /-й строке матрицы А прибавить t-ю строку, предварительно умноженную на число с, умножим А слева на матрицу
;
J -я строкаJ -я строка11/ -й столбец
J -я строка
J -я строка
в которой число с расположено в позиции (/, t).
Заметим, что матрицы любого из трех элементарных преобразований получаются в результате применения соответствующего преобразования к единичной матрице /, -
При выполнении преобразования 1-го, 2-го или 3-го типа определитель соответственно умножается на —1, умножается на с или не изменяется. Вследствие этого у матрицы, имеющей нулевую строку или две линейно зависимые строки, или к линейно зависимых строк, определитель равен нулю. Матрица имеет нулевой определитель в том и только в том случае, когда множество ее строк линейно зависимо.
0.3.4. Ступенчатая форма. Всякой матрице ДеЛ4т>п(Р) соответствует каноническая форма в Мт, «(F)— (строчная) ступенчатая форма матрицы А, к которой она приводится посредством (неоднозначно определенной) последовательности элементарных преобразований. Многие матрицы обладают одной и той же ступенчатой формой, но любая из них имеет единственную ступенчатую форму, не зависящую от последовательности элементарных преобразований, используемой для ее построения. Ступенчатая форма полностью определяется следующими свойствами:
В любой ненулевой строке первый ненулевой элемент, называемый ведущим, равен 1.
Все остальные элементы столбца, содержащего ведущий элемент, равны нулю.
Любая строка, состоящая только из нулей, находится ниже всех ненулевых строк.
Ведущие «единицы» образуют ступенчатую конфигурацию слева направо, т. е. ведущий элемент данной строки должен находиться правее ведущего элемента строки, лежащей выше ее. Например, матрица
г О1—1002-
00010л
000014
-000000-
является ступенчатой. Определитель матрицы ЛеМл(Р) отличен от нуля в том и только в том случае, когда ее ступенчатая форма является единичной матрицей
(определитель матрицы / равен 1). Чтобы вычислить определитель матрицы А, достаточно проследить, как он изменялся
в ходе элементарных преобразований, приводящих матрицу к ступенчатой форме.
Рассмотрим систему линейных уравнений Ах = Ь, где матрица А е Мт, n(F) и вектор 6gF" заданы, a xeF"— неизвестный вектор. Множество решений этой системы не изменится, если одни и те же элементарные преобразования проводятся одновременно для матрицы А и для вектора 6. Решение легко находится по ступенчатой форме расширенной матрицы [Л 6]. Две системы эквивалентны, или равносильны (т. е. имеют одно и то же множество решений), тогда и только тогда, когда их расширенные матрицы имеют одинаковую ступенчатую форму.
Несколько позже мы обсудим роль ступенчатой формы при изучении рангов и обратных матриц.
0.3.5. Мультипликативность. Определитель является мультипликативной функцией, т. е. для А, В eM„(F) выполняется соотношение
det АВ = det A det В.
Это одно из важнейших свойств определителей. Его можно доказать с помощью элементарных преобразований, приводящих к ступенчатому виду матрицы А и В.
0.3.6. Характеристические свойства определителя как функции. Если зафиксировать все строки матрицы, кроме одной, и рассматривать определитель как функцию только одной этой строки, то это будет линейная функция элементов данной строки. То же справедливо и в отношении столбцов. Линейность очевидна в силу разложения Лапласа: любой элемент строки входит в определитель с постоянным коэффициентом, равным дополнительному минору, взятому со знаком + или —. Функция называется полилинейной, если при некотором разбиении множества ее переменных она линейна по совокупности переменных из каждого подмножества, входящего в это разбиение. Это довольно широкий класс функций. Например, функция f(xi,x2) = xix2 полилинейна (соответствующее разбиение — это {^i}, {х2}). Определитель является полилинейной функцией элементов матрицы по отношению, к разбиению их на подмножества, отвечающие ее строкам (или столбцам).
Естественно попытаться выделить какие-то свойства скалярной функции от п2 переменных (т. е. от элементов матрицы АеМп), которые в совокупности присущи определителю и только ему. Определитель есть единственная функция f; Aln(F)-*-F, которая является одновременно
полилинейной;
альтернирующей (т. е. перестановка пары строк изменяет ее знак);
нормированной, т. е. такой, что /(/)= 1, где I е A1„(F)—■ единичная матрица.
Перманент также является полилинейной (как и другие обобщенные матричные функции) и нормированной, но не альтернирующей функцией. '
0.4. Ранг
С любой матрицей АеМт, „(F) связывается целое неотрицательное число, называемое ее рангом — для него мы используем обозначение rank Л.
0.4.1. Определение. Ранг матрицы Л<гМт,п (F)—это наибольшее число ее столбцов, образующих линейно независимое множество. Такое множество столбцов, конечно, определяется неоднозначно, но каким бы оно ни было, число столбцов в нем неизменно. Примечательно, что всегда имеет место равенство rank АТ = rank А. Поэтому можно предложить другое, но эквивалентное определение ранга в терминах линейно независимых строк. Имея в виду эквивалентность двух определений ранга, часто используют следующую формулировку: строчный ранг равен столбцовому рангу.
0.4.2. Ранг и системы линейных уравнений. Система линейных уравнений Ах = b (см. разд. 0.3.4) может иметь 0, 1 или бесконечно много решений — и других возможностей нет. Если существует хотя бы одно решение, то система называется совместной. Для совместности системы необходимо и достаточно, чтобы выполнялось соотношение rank [Л b) = rank А. Матрица [Л 6] называется расширенной матрицей системы в отличие от А, называемой матрицей коэффициентов. То, что эти две матрицы имеют одинаковый ранг, означает не что иное, как возможность выразить вектор b в виде линейной комбинации столбцов матрицы А. В этом случае при добавлении b к столбцам матрицы А ранг не увеличивается. Решением системы линейных уравнений Ах = b является вектор коэффициентов, с помощью которых b записывается в виде линейной комбинации столбцов матрицы А.
0.4.3. Ступенчатая форма и ранг. Элементарные преобразования не изменяют ранг, и потому ранг матрицы А совпадает с рангом ее ступенчатой формы. В то же время ранг ступенчатой матрицы равен числу ее ненулевых строк. При вычислении ранга путем преобразования к ступенчатой форме нужно учитывать плохую обусловленность задачи: ошибки округления результатов промежуточных вычислений могут нулевую строку
сделать ненулевой и как следствие привести к неправильному определению ранга.
0.4.4. Характеризации ранга. В различных ситуациях оказываются полезными следующие эквивалентные утверждения относительно любой заданной матрицы АгМт> n(F):
rank Д = к\
в матрице А содержатся к линейно независимых строк и в ней не существует более чем к линейно независимых строк;
в матрице А содержатся к линейно независимых столбцов и в ней не существует более чем к линейно независимых столбцов;
в матрице А имеется подматрица размера к'Лк с ненулевым определителем и все подматрицы размера (^+1)Х Х(^ + 1) имеют нулевой определитель;
размерность области значений матрицы А равна к\
существует к и не больше чем к линейно независимых векторов Ь, таких, что система линейных уравнений Ах = b является совместной;.
к = п — (размерность нуль-подпространства матрицы Д).
0.4.5. Неравенства для рангов.
rank А ^ min (щ, и} для А е Мт, n(F).
При вычеркивании каких-то строк и (или) столбцов получаем подматрицу, ранг которой не больше ранга исходной матрицы.
Если AeMm(F) и BeAl^„(F), то
(rank А + rank В) — к ^ rank АВ ^ min (rank A, rank В}.
rank (Л + В) ^ rank А + rank В (Д, В е Мт „ (F)).
Если ДеЛ1т,НР), ВеМЬр^, CeM^J.F), то rank АВ + rank ВС ^ rank В + rank АВС.
Все эти неравенства можно получить как следствия последнего неравенства, несколько более тонкого по сравнению с предыдущими. Это неравенство Фробениуса.
0.4.6. Равенства для рангов.
rank А* = rank Аг = rank А = rank А (Д <= Мт, „ (С)).
Если А е Мт (F) иСе Мп (F) невырожденны и BeMmi „ (F), то rank АВ = rank В = rank ВС — rank АВС, т. е. ранг не изменяется при умножении слева и справа на невырожденную матрицу.
Если А, В е Л4т-п(Р), то rank А = rank В в том и только в том случае, когда существуют невырожденные матрицы XeAfm(F) и ? eAFn(F), такие, что B = XAY. ■
rank А А = rank А (А е Мт, „ (С)).
Для любой матрицы ДеЛ?т>п(Р) ранга к имеет место разложение *)
A = XBY,
где Л7 е Л4т16 (F), У е АД, „(F) и матрица ВеЛД(Е) невы- рожденна. В частности, любая матрица А ранга 1 может быть записана в виде А = хут для некоторых х е Fm, z/eF".
0.5. Невырожденность
Линейное отображение (или матрица) называется невырожденным (невырожденной), если в 0 переводится только 0. В противном случае отображение (или матрица) называется вырожденным (вырожденной). Если АеЛД.ДЕ) и m < п, то матрица А заведомо вырожденная. Матрица АеЛД(Е) называется обратимой, если существует матрица Л-1 е ЛД (F), такая, что А-1А=1. Матрица А~1 называется обратной к матрице А. Это эквивалентно тому, что линейное отображение, отвечающее матрице А, осуществляет взаимно однозначное соответствие, и потому существует обратное (тоже линейное) отображение. Если ДеЛ1„(Е) и А^А=1, то АА-Х=1; если матрица А-1 существует, то она определяется однозначно.
Полезно иметь различные способы распознавания невырожденности матрицы. Следующие утверждения относительно матрицы А е ЛД(Е) эквивалентны:
матрица А невырожденна;
существует А-1;
гапкД = п;
строки матрицы А линейно независимы;
столбцы матрицы А линейно независимы;
det4#=0;
размерность области значений матрицы А равна п;
размерность нуль-пространства матрицы А равна 0;
система линейных уравнений Ах = Ь совместна для любого вектора b е Fn;
если система линейных уравнений Ах = b совместна, то она имеет единственное решение;
система линейных уравнений Ах = b имеет единственное решение для любого вектора b е F";
система линейных уравнений Ах = 0 имеет единственное решение х = 0;
число 0 не является собственным значением матрицы Л (см. гл. 1).
Все невырожденные матрицы в M„(F) образуют группу по умножению, которая называется полной линейной группой и часто обозначается через GL^n, F).
0.6. Обычнее скалярное произведение
Условимся рассматривать элементы из Fn как векторы- столбцы (т. е. Fn = Мп, 1 (F)). При этом если хеС", то хт и х* представляют собой векторы-строки. Заметим, что если х е Rn, то х* = хт..
0.6.1. Определение. Число у*х называется скалярным (или внутренним) произведением векторов х, у е Сп и часто записывается в виде <х, у) = у*х. Вследствие того что можно определить и другие скалярные произведения, приведенное здесь мы будем называть обычным или стандартным скалярным произведением в векторном пространстве С". Заметим, что функция < ■, • > линейна по первому аргументу (<axi + рхг, у>= <х<х\, у) + + Р<х2, у") для всех а., р е С и xb х2 е С") и сопряженно линейна по второму (<х, алк + Ру2> = «<х, уд) + 0<х, уд) для всех «фе е С и ух, у2 ее С").
0.6.2. Ортогональность. Два вектора х, у е С” называются ортогональными, если <у, х) = 0. В случае двух или трех измерений ортогональность векторов имеет естественную геометрическую интерпретацию — это обычная перпендикулярность. Множество векторов {xixt}cC” называется ортогональным, если любая пара его векторов ортогональна. Всякое ортогональное множество векторов, не содержащее нулевого вектора, будет линейно независимым.
0.6.3. Неравенство Коши—Шварца. Неотрицательное число <х, х>1/2 называется евклидовой длиной вектора хеС". Вектор с евклидовой длиной, равной 1, называется нормированным (или иногда единичным). Для произвольного ненулевого хеС" вектор <х, х>~1/2х является нормированным и имеет одинаковое направление с вектором х. В силу фундаментального неравенства Коши — Шварца
1<У, *)1<<х, х^Чу, yf2
для всех х, 1/еС", причем равенство достигается тогда и только тогда, когда векторы х и у линейно зависимы. Как обобщение понятия ортогональности вводится понятие угла между двумя ненулевыми векторами х, у е Сл, Это единственный угол
0, удовлетворяющий соотношениям
cos 6 =ITT1(х, х)1/2(у, i/)1/2
0.6.4. Ортонормирование Грама—Шмидта. На интуитивном уровне вполне правдоподобной представляется возможность замены произвольной линейно независимой системы на ортонор- мированную (т. е. ортогональную систему, состоящую из нормированных векторов), которая порождает то же векторное пространство, что и исходная система. В принципе такую замену можно выполнить бесконечно многими способами. Однако существует очень простой н важный алгоритм ее реализации — процесс ортонормирования Г рама — Ш мидта. Пусть {xi, ... ..., х„}—множество из п линейно независимых векторов в комплексном векторном пространстве н {21, ..., 2„}—искомое ортогональное множество нормированных векторов. Тогда векторы г, можно вычислить рекуррентио следующим образом. Положим у\ = xi н возьмем
2 = УХ1 С1/1, у.)1' ’
£к =£к =У» у^12У» у^12так что 21 — нормированный вектор. Далее построим вектор 1/2 = х2 —<х2, 21>2ь Вектор уг ортогонален вектору 21, и, нормируя его, получаем
£к =
£к =
У» у^12
У» у^12
Подобные действия выполняем до тех пор, пока не построим искомую ортонормированную систему 21, ..., гп. Заметим, что в бесконечномерном векторном пространстве посредством аналогичной процедуры от бесконечной счетной линейно независимой системы можно перейти к бесконечной ортонормированной системе.
На любом шаге процесса Грама — Шмидта ортонормирован- ные векторы 21гк выражаются в виде линейных комбинаций только первых & исходных линейно независимых векторов
*i, ..., хк (и наоборот). Образуем матрицы Z = [ziz2 ... zj й X = [xi Х2 ... хп], в которых в качестве столбцов взяты соответственно векторы г,- и Xi. Тогда Z = XR для некоторой невырожденной матрицы R = [г.,], которая является верхней треугольной, т. е. Гц =0 при i > j.■
Наконец, обратим внимание, что процесс Грама —Шмидта можно применять к любой конечной или счетной не обязательно линейно независимой последовательности векторов. В случае линейно зависимого множества получаем у к — 0, где к — наименьший номер, для которого множество {хь ..., х^ линейно зависимо. В этом случае Хк есть линейная комбинация векторов Хь ..., Хк_\. Чтобы продолжить процесс Грама — Шмидта, нужно вместо хк взять Xw В итоге мы найдем базис и размерность линейной оболочки векторов х^Хп.
0.6.5. Ортонормированные базисы. Ортонормированная система векторов — это ортогональная система нормированных векторов. Она не может содержать вектор 0 и всегда линейно независима. Ортонормироваиный базис — это базис, составляющий ортонормированную систему. С помощью процесса Грама— Шмидта любой базис преобразуется в ортонормирован- ный; поэтому любое конечномерное комплексное векторное пространство обладает ортонормированпым базисом. С такими базисами работать особенно приятно, так как скалярное произведение в них вычисляется просто как сумма произведений координат с одинаковыми индексами.
0.6.6. Ортогональные дополнения. Для любого подмножества ScC" его ортогональным дополнением называется множество
S1 = {х е С": х*у = 0 для всех у е S}.
Множество S1 всегда будет подпространством, даже если S таковым не является. Имеем (S1)-1- — Span S, и если S — подпространство, то (S±)-L = S. В любом случае dimS-L + + dim (S-*-)-*- = п. Теперь рассмотрим линейную систему Ах — Ь, где А е Мт, п. Полезно иметь в виду, что область значений матрицы А есть ортогональное дополнение к нуль-пространству матрицы А*; таким образом, система Ах = b имеет решение (не обязательно единственное) тогда и только тогда, когда b*z — 0 для всех г е С"*, таких, что A*z = 0.
0.7. Блочные матрицы
По аналогии с разбиением множества на подмножества под разбиением матрицы на блоки понимается полное расчленение ее на непересекающиеся подматрицы (блоки), при котором лю-
бой ее элемент попадает в одну и только одну из этих подматриц. Разбиение матрицы на блоки часто оказывается удобным средством, позволяющим прояснить особенности ее строения.
0.7.1. Подматрицы. Возьмем матрицу Л е Мт,п (F) и два набора индексов аг (1т) и рг (1н) '). Для подматрицы, лежащей в строках с номерами из а и столбцах с номерами из р, примем обозначение Л (а, Р). Например,
"12 3 17 8 9 I"12 3 17 8 9 I' 1 2 3 Т
"12 3 1
7 8 9 I
"12 3 1
7 8 9 I
4 5 6 ({1, 3), {1, 2, 3}) =
-7 8 9 J
Если т = п и а = р, то подматрица Л (а, а) называется главной и обозначается через Л (а). Любую подматрицу или главную подматрицу можно получить из Л путем выбрасывания каких-то ее строк и столбцов. Во многих случаях более удобно задавать подматрицу, указывая именно эти выбрасываемые строки и столбцы, а не те, в которых она лежит. Пусть а' и Р' обозначают дополнения к подмножествам аир. Тогда Л (а', Р') представляет собой подматрицу, полученную из Л выбрасыванием строк с номерами из а и столбцов с номерами из р.
Определитель любой квадратной подматрицы матрицы Л называется минором матрицы Л. Если подматрица главная, то и минор называется главным. Миноры, взятые с определенными знаками—подобно слагаемым вида (—Ip+'deM,-/ в разложении Лапласа (0.3.1), — называются алгебраическими дополнениями. Условимся пустой главный минор считать равным 1, т. е. detЛ (0)= 1.
0.7.2. Умножение блочных матриц. Если множества О]а£ и Рь ..., Рз составляют разбиения соответственно множеств {1, .... т} и {1п),то матрицы Л (а,, ру)
(l^Z^/, 1</<з) образуют блочное разбиение матрицы Л е Мт, п (F). Если Л s Мт> „(F) и б е Мп> р (F) разбиты на блоки с использованием одного и тоГо же разбиения множества {1и}, то эти их блочные разбиения будем называть со
гласованными. Пусть Л (а;, РА) и В (Р&, у;) — блоки согласованных разбиений матриц Л и В. Тогда
[ЛВ](аь у;) = ^ Л(ао р6) S (Р6, у;).
В левой части здесь записана подматрица произведения АВ, полученного обычным умножением матриц, в правой части—■
*) Чтобы обозначить нестрогое включение, авторы часто пользуются. и символом С. — Прим, ред.
сумма обычных произведений матриц. Таким образом, умножение блочных матриц с согласованными блочными разбиениями напоминают обычное матричное умножение. Для матриц с одинаковыми блочными разбиениями очевидным образом определяется также и сложение.
0.7.3. Обращение блочной матрицы. В случае невырожденной блочной матрицы Л бывает полезно получить соответствующее блочное разбиение обратной матрицы. Это можно сделать многими различными, но эквивалентными способами в предположении, что некоторые подматрицы в ДеМп(Р) и Д-1 невы- рожденны. Для простоты рассмотрим следующее разбиение на блоки:
Г Лн Л12 "1
Д = .,
L А22 J
где Аи е Мп (F) (7=1,2) и n1 + n2 = «- Соответствующее разбиение матрицы А-1 при этом имеет вид
, Г [Ли — Л12Л22 Л21] Дц'Ды [ДгИп’Ды— Д22] "I А =_,-1 I
L [Л21Л11*Л12 — Л22] Л21Л111[л22— Л^Лц'Л^] J
при условии, что все вошедшие сюда обратные матрицы существуют. В других обозначениях это можно записать следующим образом:
А-1 (а) = [Л (а) — А (а, а') А (а')-1 А (а', а)] \
А-1 (а, а') = А (а)"1 А (а, а') [Л (а', а) А (а)-1 А (а, а') — А (а')] , где снова предполагается, что использованные здесь обратные матрицы существуют. Возможны и другие представления. Заметим, что Л"1 (а) — это подматрица в Л-1, в то время как Л (а)-1 — это матрица, обратная к некоторой подматрице в Л,— в общем случае это не одно и то же.
0.7.4. Изменение обратной матрицы при малоранговой модификации. В случае когда для какой-либо матрицы известна обратная, нередко приходится изучать, как изменится эта обратная матрица, если к исходной прибавить матрицу малого ранга. Существует простая формула, позволяющая легче вычислять новую обратную матрицу, чем если бы это надо было делать «на голом месте» (при условии, что прибавляется достаточно простая матрица). Предположим, что матрица ЛеМл^)
невырожденна и матрица Д-1 известна. Рассмотрим матрицу
В = Д + XRY,
где X, Y, R— матрицы соответственно размеров пХг, гХп, г X г, причем матрица R невырожденна. Если В невырожденна, то
в-1 = Д'1 - Д-'х (R-1 + ГД-’а)'1 УД-1.
Пусть г много меньше п. Тогда матрицы R и R-1 + YA-'X обратить существенно легче, чем В, и использование данной формулы имеет преимущества по сравнению с прямым обращением матрицы В, если обратная матрица для А находится легко и в такой форме, которая позволяет упростить матричное умножение. Например, если добавляется матрица ранга 1, то матрицы X, У, R имеют размеры п X 1, 1 X п, 1X1 соответственно, R = = [1] и формула приобретает вид
В-1 = Д-1A~‘XYA~l
1 + YA X
(в этом случае XY — В — Д). В частности, если
В = 1А-хут,
где х, у е F", 1 е Мп (F), то получаем
в предположении, что утх^—1.
0.8. Снова определители
Приведем для дальнейшего использования некоторые полезные дополнительные сведения об определителях. Большинство из них нелегко найти в элементарных учебниках.
0.8.1. Ассоциированные матрицы. Для матрицы AeMm,n (F) массив, составленный из всех ее миноров заданного порядка, называется ее ассоциированной матрицей. В случае когда берутся миноры порядка к, говорят о к-й ассоциированной мат-
( m\ ( nA рице. Она обозначается через СДД), имеет размер I, IXl I и в позиции, отвечающей подмножествам а, 0, содержит минор det А (а, 0). Здесь ае{1, .т) и 0s{l, ..., п}—подмножества мощности й ^ min{m, п}, и они обычно упорядочиваются лексикографически, так что, в частности, {1,2,4} предшествует
{1,2,5}, {1,2,5} предшествует {1,3,4} и т. д. Например, пусть
Г1 2Г1 2Д = 4 5Д = 4 5L7 8L7 83 "69 -3 "69 -
Г1 2
Г1 2
Д = 4 5
Д = 4 5
L7 8
L7 8
3 "
6
9 -
3 "
6
9 -
Тогда
С2(Д) =С2(Д) =21 Г 1 „ det .5 JL 421Г 18] de4751[48] det[721 Г 1 „ det .5 JL 421Г 18] de4751[48] det[7
С2(Д) =
С2(Д) =
21 Г 1 „ det .
5 JL 4
21Г 1
8] de47
51[4
8] det[7
21 Г 1 „ det .
5 JL 4
21Г 1
8] de47
51[4
8] det[7
- —3 —6 —3 '
—6 —12 —6
. —з —6—3 -
Для Д = Л4„,)6(Р), ВеЛ1А-п(Р) имеем
Сг (АВ) = Сг (Л) Сг {В), г ^ min (т, к, п}.
Кроме того,
Cr(tA) = trCr(A) для любого <еР;
СД[) = 1еМ^ для / е Мп;
если матрица А е Мп невырожденна, то СДД)-1 =СД (/Р1);
Ск (АО = Ск (АУ для As Мт,п (F);.
С6(Д) = С6(ДГ для ЛеМ^Р).
0.8.2. Присоединенная и обратная матрицы. В матрице ЛеМп(Р) заменим элементы на их алгебраические дополнения и затем перейдем к транспонированной матрице В = [6,/]е еЛ1п(р). Последняя определяется соотношениями'
Ьц = (-Di+/ det А (ОУ, (iY),
обычно обозначается adj Л и называется (классической) присоединенной *) матрицей для А. Заметим, что
adj А^=ЕСп_ДА)ТЕ,
где
01
.0' ±1_
В силу разложения Лапласа находим, что
(adj А) А = A (adj А) = (det А) I,
и, следовательно, если матрица А невырожденна, то
Д-1 = л adj А.
det A J
Присоединенные матрицы, как правило, не играют какой-либо важной роли при вычислении обратной матрицы, но полезны для ее аналитического представления.
0.8.3. Правило Крамера. Правило Крамера—это один из способов представления единственного решения линейной системы Ах = b с невырожденной матрицей ДеМ^/Р). При численном решении линейных систем правило Крамера имеет столь же малое значение, как и присоединенные матрицы при численном обращении. Оно полезно в основном, когда нужно найти аналитическое выражение какой-либо компоненты решения. Если Xi есть i-я компонента решения хеР", то, согласно правилу Крамера,
det (Я ч^~ 6)
Х‘ = ЗёГя 1
Выражение А<—Ь означает п X «-матрицу, в которой t-й столбец равен Ь, а остальные столбцы совпадают с соответствующими столбцами матрицы Д. Правило Крамера непосредственно вытекает из мультипликативности определителя. Систему Ах = Ь можно записать в виде
Д(7^— х) = А ^—Ь.
Переходя к определителям, получаем
det A det (/ чу- х) = det (Д чу д).'
Остается заметить, что det (/ чу х) = xt.
0.8.4. Миноры обратной матрицы. Приведем важное соотношение, обобщающее представление для обратной матрицы с помощью присоединенной. Оно связывает миноры матрицы Л-1 и миноры матрицы А е Л4„(F), а именно
det Л-1 (а', 0') = (-1/Е^“'+Е/^) ^^ а)
В случае главных подматриц эта формула принимает более простой вид:
det Л-1 (а') =
' ' det А
0.8.5. Дополнения по Шуру и формулы для определителей. Пусть задана матрица ЛеМп(Р), и пусть для некоторого множества индексов as{l/г} ее подматрица Л(а) невырож- денна. Обратную матрицу для Л (а) обозначим через Л (а)-1. Рассматривая Л как блочную матрицу блочного размера 2X2, получаем для det Л следующую важную формулу:
det Л = det Л (a) det [Л (а') — Л (а\ а) Л (а)-1 Л (а, а')].
Это обобщение похожей формулы для определителя 2 X 2-матрицы (см. 0.3.1). Матрица
Л (а') — Л (а', а) Л (а) 1 Л (а, а')
называется дополнением. по Шуру подматрицы Л (а) в матрице Л. Приведенная выше формула проверяется вычислением матричного произведения
Г Лн Л121 Г I — Ли1 Л12 I Л2| Л22 J L 0 I
где Ли нужно отождествить с Л (а). Заметим, что дополнение по Шуру уже встречалось в блочном представлении матрицы Л-1 (0.7.3).
0.8.6. Тождество Сильвестра. Зафиксируем множество индексов as(l, ..., п} мощности k и образуем матрицу В = = [6ц] s Mn_*(F), считая, что
6(/ = deM(aU{0, «U {/}),
где ЛеМ„(Р), а индексы I, /е{1п} не входят в а. Еще одно полезное тождество для определителей таково:
det 5 = [det Л (a)]"-*-1 det А.
0.8.7. Формула Коши — Бине. Эту формулу легко запомнить, так как она аналогична по форме правилу матричного умножения. И это не случайно, поскольку здесь выражается мультипликативность ассоциированных матриц (0.8.1). Пусть А е Mmik(F), В е Мк, n(F) и С = АВ. Предположим, что 1 ^ г ^ min {m, k, п} и множества а = {1, ..., m} и ₽ s {1, ..., л} содержат по г индексов. Тогда справедливо следующее соотношение:
det С (а, р) = X det А (а, у) det В (у, р), V
где сумма берется по всем множествам у={1, ..., й} мощности г.'
0.8.8. Соотношения между минорами. Пусть заданы матрица ЛеЛ4т„(Р) и множество индексов а = {1, ..., т} мощности к. Миноры'
det А (а, со),
где ® = {1, ..., п) пробегает упорядоченные множества индексов мощности к, не могут быть алгебраически независимыми, так как их больше, чем различных элементов во всех подматрицах. Между этими минорами имеют место квадратичные соотношения. Возьмем к различных индексов ц, z2, ..., ik е{1, ... ..., п}, причем не обязательно в естественном порядке, и построим матрицу
Л (а; й. ..., 1^,
номера строк которой принадлежат множеству а, а в качестве /-го столбца берется столбец матрицы Л(а,{1п}) с но
мером й’. Отличие от прежнего обозначения состоит в том, что теперь столбцы идут не обязательно в естественном порядке. Например, в матрице Л ({1,3}; 4,2) первый столбец состоит из двух элементов, которые в А занимают позиции (1,4) и (3,4). Для любого s = 1, ..., к и любых последовательностей различных индексов
й, .... ike{l, ..., п} и /„ ..., /&е{1, ..., п}
справедливо соотношение■
det А (а; Z„ ..., ik) det А (а; /„ ..., Д) = к .
= ZdetX(a; й. ..., is_b jb is+b ..., ik) •
•• det Л (a; /,jt_i, Й, jw • • - . IkY
0.9. Матрицы специального вида
Некоторые матрицы специального вида встречаются очень часто и обладают важными свойствами. Ряд таких матриц заслуживает того, чтобы перечислить их здесь и ввести терминологию, нужную для дальнейшего.
0.9.1. Диагональные матрицы. Матрица D = [б/г/] s М^ называется диагональной, если dtl = 0 при j ^ i. Для нее используются обозначения D = diag ((/и, ..., dnn) или £) = diag(/, где d — вектор, составленный из диагональных элементов матрицы D. Если все диагональные элементы диагональной матрицы являются положительными (неотрицательными) вещественными числами, то будем говорить, что это положительная (неотрицательная) диагональная матрица. Обратим внимание на то, что термин «положительная диагональная матрица» означает, что матрица имеет положительные диагональные элементы и в дополнение является диагональной; по отношению к произвольной матрице с положительными диагональными элементами этот термин не употребляется. Пример положительной диагональной матрицы — единичная матрица / е Мп. Диагональная матрица D называется скалярной, если все ее диагональные элементы равны между собой; следовательно, D = а,1 для некоторого а е С. При умножении матрицы на скалярную матрицу слева или справа получается тот же результат, что и при умножении ее на соответствующий скаляр.
Определитель диагональной матрицы есть не что иное, как произведение ее диагональных элементов: det D — П du. Таким образом, диагональная матрица невырожденна в том и только в том случае, когда ни один из ее диагональных элементов не равен нулю. При вычислении произведения DA, где А @ Мп и D — диагональная матрица, т. е. при умножении А слева на D, строки матрицы А умножаются на диагональные элементы матрицы D (l-я строка в А умножается на число du, i = 1, ..., п). При вычислении произведения AD, т. е. при умножении А справа на D, столбцы матрицы А умножаются на диагональные элементы матрицы D. Следовательно, любые диагональные матрицы коммутируют, а для того чтобы диагональная матрица D коммутировала с какой-либо матрицей А =[«//] е Мп, необходимо и достаточно, чтобы выполнялось равенство ац=0 для всех пар i, j, таких, что /-й и /-й диагональные элементы в D различны. Произведение диагональных матриц остается диагональной матрицей — ее диагональные элементы суть попарные произведения соответствующих элементов сомножителей. Диа-
тональной матрицей будет и любая целая положительная степень произвольной диагональной матрицы.
0.9.2. Блочно-диагональные матрицы. Матрица А е Мп, имеющая вид
о 1
ооЛ 22
о
о
Акк_
к
где АиеМП1 (1=1, ..., &) и ^nt = n, называется блочно
диагональной. Для такой матрицы часто используется обозна
чение А = Дн ф А^ ф . . . ф Акк, или, короче, А = ф У, Аи;
i=i
она называется прямой суммой матриц АИАкк. Многие свойства блочно-диагональных матриц, описанные в терминах блочного умножения, обобщают аналогичные свойства диагональных матриц. Например,
k X k
detdet© 52 Л, J = П det Л„,
det
det
к
так что матрица Д = ф X Аи невырожденна в том и только z=i
в том случае, если Аи невырожденна для всех 1 = 1, ..., к. кк
Далее, две прямые суммы Д = ф X и 5 = ф ^2 Ви, где матрицы в каждой паре Аи, Ви имеют одинаковые размеры, коммутируют тогда и только тогда, когда коммутируют Аи и Ви для всех 1=1, . .., к. Еще одно свойство:
(
к х к ф X Az ) = X rank Аи.
Z — 1/Z =* 1
0.9.3. Треугольные матрицы. Матрица Т = [ф] <= Мп называется верхней треугольной, если ttl = 0 при j<i. Если ф = 0 при j^i, то Т называется верхней строго треугольной. Аналогично Т называется нижней треугольной (.нижней строго треугольной'), если ее транспонированная матрица — верхняя треугольная (верхняя строго треугольная) матрица. Треугольные матрицы сходны с диагональными в том смысле, что их определитель равен произведению диагональных элементов. Однако
треугольные матрицы (любого типа) не обязательно коммутируют с другими треугольными матрицами. Умножение матрицы А е Мп слева на нижнюю треугольную матрицу L заменяет i-ю строку матрицы А на линейную комбинацию ее строк с 1-й и по t'-ю. Иногда вместо терминов «верхняя» и «нижняя» в отношении треугольных матриц употребляют соответственно термины «правая» и «левая». Ранг треугольной матрицы не меньше числа ее ненулевых диагональных элементов; на самом деле он может быть больше этого числа.
0.9.4. Блочно-треугольные матрицы. Матрица А е Мп, имеющая вид
где Аи е Мп (/=1и),^ nt = п vi * обозначает произ
вольные элементы, называется верхней блочно-треугольной. Аналогично определяются нижняя блочно-треугольная, нижняя строго блочно-треугольная и верхняя строго блочно-треугольная матрицы. Определитель блочно-треугольной матрицы равен произведению определителей диагональных блоков. Ранг блочнотреугольной матрицы не меньше суммы рангов диагональных блоков и может быть больше этой суммы.
0.9.5. Матрицы перестановок. Матрица Р е Мп называется матрицей перестановки в том случае, когда в любой ее строке и в любом ее столбце в точности один элемент равен 1, а все остальные равны 0. Умножение на такую матрицу сводится к перестановке строк либо столбцов в зависимости от того, слева или справа производится умножение. Например,
го 1 01
Р= 10 0 еМ3
L 0 0 1 J
равенстворавенствоесть матрица перестановки, и
равенство
равенство
' 12-3' 12-3"2 '
' 1
2
-3
' 1
2
-3
1
-3 -
показывает, что Р переставляет строки, в данном случае ком
поненты вектора 2L з .поненты вектора 2L з .а именно первая компонента становится
поненты вектора 2
L з .
поненты вектора 2
L з .
второй, вторая — первой, а третья остается на своем месте. В общем случае при умножении матрицы А е Мт, п слева на матрицу перестановки Р е Мт переставляются строки матрицы А, а при умножении справа на РеМ, в А переставляются столбцы. Матрица, выполняющая элементарное преобразование 1-го типа (0.3.3), является примером специального вида матрицы перестановки и называется транспозицией.
Определитель матрицы перестановки равен ±1 (в формуле (0.3.2) лишь одно слагаемое отлично от нуля, так что все матрицы перестановки невырожденные). Матрицы перестановки, вообще говоря, не коммутируют между собой, однако их произведение остается матрицей перестановки. Поскольку единичная матрица является матрицей перестановки и для любой матрицы перестановки Р имеем Рт = Р~1, все матрицы перестановок образуют подгруппу в группе GL^n, С) всех невырожденных матриц из Мп. В этой подгруппе п\ элементов. Любая матрица перестановки есть произведение транспозиций.
Матрица Рт ~Р~{ переставляет столбцы точно так же, как Р е Мп переставляет строки. Поэтому преобразование А —>РАРТ осуществляет одинаковую перестановку строк и столбцов матрицы А. В контексте системы линейных уравнений с матрицей коэффициентов А это преобразование сводится к переупорядочению неизвестных1). Если матрица А е Мп такова, что для некоторой матрицы перестановки Р матрица РАРТ становится треугольной, то говорят, что матрица А в основном треугольная. Такие матрицы имеют много общего с треугольными.
0.9.6. Циркулянтные матрицы. Матрица А е Мп, имеющая вид.
ах
а2. .. ап
аа
ах а2 ... оп_х
А=1
ап ах ... ап_2
- а2
а3 ... ап ах _
называется циркулянтной матрицей или циркулянтом. Любая ее строка получается из предыдущей путем циклического сдвига
11 И одновременно уравнений, — Прим перев.
на одну позицию вправо, так что элементы любой строки представляют циклическую перестановку элементов первой строки. Матрица перестановки
называется основной циркулянтной матрицей перестановки. Матрицу Л g Мп можно записать в виде
Л=ХаА+1С6к=0
в том и только в том случае, когда она является циркулянтной. Здесь С° = I = Сп и коэффициенты ах, а2, ..., ап — не что иное, как элементы первой строки матрицы А. Вследствие этого представления произвольная циркулянтная матрица имеет хорошую структуру, которую можно связать со структурой матрицы С. Поскольку О =/, произведение циркулянтов есть снова циркулянт. Кроме того, циркулянты коммутируют относительно умножения. Можно рассматривать также и обобщения циркулянтных матриц, например такие матрицы, где строки циклически сдвигаются не на одну, а на несколько позиций (влево или вправо).
0.9.7. Тёплицевы матрицы, щая вид0.9.7. Тёплицевы матрицы, щая видМатрица А = [аг/] е Mrt+i,Матрица А = [аг/] е Mrt+i,имею-имею-
0.9.7. Тёплицевы матрицы, щая вид
0.9.7. Тёплицевы матрицы, щая вид
Матрица А = [аг/] е Mrt+i,
Матрица А = [аг/] е Mrt+i,
имею-
имею-
" Сцаха2...ап
Ц-1Оосц•••Я„_1
0-2<2-1Оо..
'".'.а1
_а~п й-п*\ • • • а-1 ао
называется тёплицевой матрицей. Она определяется последовательностью а _п, а_*+1, ..., а_х, а^, ах, ап_х, апеС, причем ац^й}.^ Элементы любой диагонали матрицы А, параллель-
ной главной, одинаковы, Тёплицевы матрицы
1 0
называются соответственно сдвигом назад и сдвигом вперед из-за их действия на элементы стандартного базиса {вь ,,, .. •, s„+i}. Матрицу Л е M„+i можно записать в виде
Л=£ a_hFk-V Z аквк
6=16=0
в том и только в том случае, когда она тёплицева. Тёплицевы матрицы непосредственно возникают в связи с тригонометрической проблемой моментов.
0.9.8. Ганкелевы матрицы. Матрица ЛеКн, имеющая вид
«0
а1°2 ап
«1
аг сц ... ап ап+1
а2
А = •
°3°4 ал + 2
ап**
Сп+1 ^п + 2 а2п_
называется ганкелевой матрицей. Она определяется последовательностью а0, аь а2a2<i-i> а2п> причем а£; = а1+;_2. Элементы любой диагонали матрицы А, перпендикулярной главной, одинаковы. Ганкелевы матрицы непосредственно возникают в связи со степенной проблемой моментов. Заметим, что перъеди- ничная матрица перестановки
такова, что матрица РТ ганкелева в том и только в том случае, когда Т тёплицева, и матрица РН тёплицева в том и только в
том случае, когда Н ганкелева. Равенство Р = Рт = Р-1 и симметричность ганкелевых матриц позволяют сделать вывод о том, что произвольная тёплицева матрица выражается произведением двух симметричных матриц) (Р и Н).
0.9.9. Хессенберговы матрицы. Матрица А =[«,•/] е Мп называется верхней хессенберговой матрицей (или верхней матрицей Хессенберга-, говорят также, что матрица имеет верхнюю хессенбергову форму), если ац = 0 при i > j + 1:
«11 «12«1п
«21 «22‘
0^32.
А =
; ° / . ‘ . • •
-00 . . . 0 ап>п_х апп _
Матрица А е Мп называется нижней хессенберговой, если матрица Ат верхняя хессенбергова.
0.9.10. Трехдиагональные матрицы. Матрица Л = [а(/] е М„ называется трехдиагональной, если она одновременно верхняя и нижняя хессенбергова; для нее ац = 0 при |i — /|> 1:
-«н а120 "
«21 ^22•
А =«32• * ..
•• «п-1, п
-0«п,п-1 «п.п -
Определитель трехдиагональной матрицы легко вычисляется по индукции, а именно,
det Л ({1,2, .... /г+ 1}) =
“«t+M+i detЛ({1/г}) — ак+х>к ak)kvX detЛ({1, ..., к — 1}),
к = 2, ..., п — 1.
0.9.11. Матрицы, связанные с лагранжевой интерполяцией. Матрицей Вандермонда называется матрица ЛеМ^(Р), имею-
щая ВИД
1 Л ।।। ее» Л ।
(0.9.11.1)
1
где xv ху ..., xneF, т. е. А = [аг/], где at( = xft-Y. Известно, что
detA= П (xt — xA.(0.9.11.2)
i, 1-1'
i>l
Поэтому матрица Вандермонда невырожденна в том и только в том случае, когда параметры Ху, ... хп различны.
Матрица Вандермонда возникает в следующей задаче интерполяции-. найти многочлен р (х) = ал_ухп-1 + ап-2хп~2 + ... ... Н-а^+^о степени не выше п—1 с коэффициентами из поля F, удовлетворяющий соотношениям
Р (Х1) = а0 + а1Х1 + а2Х1 + ■ • • + an-lXVX = Ур
Р (*2) = а0 + aiX2 + а2Х2 + ■ ■ • + ап-1Х2 ' " Уг1 9 11
Р (Хп) = а0 + й1Хп + а2Хп + • • • + йп-уХ"-1 = Уп*
где Ху, х2хп и уу, угуп — заданные элементы из F. Интерполяционные соотношения (0.9.11.3) представляют собой систему п уравнений с п неизвестными Од, ахап-ъ и ев можно записать в виде Аа = у, где а = [а0, ах, ..., ^„.феР', У = [У1, Уг. ■•■! z/n]r^F" и Л е M„(F) — матрица Вандермонда (0.9.11.1). Эта задача интерполяции всегда имеет решение,если точки ху, х2, ..., хп различны, поскольку в этом случае матрица А невырожденна.
Если точки хь х2, ..., хп различны, то коэффициенты интерполяционного многочлена в принципе можно найти, решая систему (0.9.11.3). Однако удобнее представить интерполяционный многочлен р^х) с помощью элементарных лагранжевых интерполяционных многочленов
П (х - хй
/ = 1.
Li (я) =, 1 = 1,2п.
. П (*<-*/)
Каждый многочлен ЕДх) имеет степень п—1 и обладает тем свойством, что Ь1^хк} = 0, если к =/= I, и Lt(xi) = 1. Таким образом, получаем интерполяционную формулу Лагранжа '
p(x} = yYLY(x) +у2Ь2(х} + ... +ynLn{x), (0.9.11.4) которая дает явное выражение для многочлена р^, имеющего степень не более п—1 и удовлетворяющего уравнениям (0.9.11.3).
0.10. Замена базиса
Пусть V— некоторое n-мерное пространство над полем F и ^1={уь иг, ..., ип)—его базис. Поскольку множество ^i порождает V, любой вектор х е V имеет разложение x = aiUi + + «2^2 + ■ .. + апип. Если бы существовало какое-то другое разложение х = р|Щ + ^2и2 + ■ ■• + РпУп по тому же базису, то выполнялось бы равенство
0 = х — х = (a, — р,) uY + (а2 — р2) и2 + ... + (а„ — р„) ип, откуда в силу линейной независимости множества ^Y получаем а,- — р, = 0. Линейное отображение
«1
«2
где х = а,у, + а2и2 + ... + а„и„,
корректно определено, является взаимно однозначным и отображает V на Fn. Числа а, называются координатами вектора х в базисе $Y\ вектор-столбец [х]^ является единственным координатным представлением вектора х в базисе ^Y.
Пусть задано линейное преобразование Т: V-^V. Его действие на произвольный вектор х е V полностью определяется заданием п векторов TuY, Tv2, .... Tvn, потому что х е V имеет единственное разложение x = aiUi+ ■•• + «nUn и вследствие линейности Т(аЩ1+ ... + апип) = Т^щ) + ... + 7(anyn) = = ai?ui+ ■■• +^пТип. Таким образом, чтобы найти вектор Тх, достаточно знать [х]А-
Пусть ^2={Щ1, w2, .... w„}—другой базис в V. Предположим, что координатные представления векторов Ти, в базисе S§2 имеют вид
^1”
lTv^ =lTv^ =^1^1/=1, 2,/=1, 2,п.п.
lTv^ =
lTv^ =
^1
^1
/=1, 2,
/=1, 2,
п.
п.
1ш-
Тогда для любого х е V имеем
*-/=i-м,/—1
Массив [^7] размера п X п зависит от Т и от выбора базисов ^1 и ^2, но не зависит от х. Представлением линейного преобразования Т в паре базисов ®х, Жг будем называть матрицу
к\к\• • tin• • tinйХ^Йх —йХ^Йх —[[^у11^2 •“ 1^Уп1йЛ‘[[^у11^2 •“ 1^Уп1йЛ‘-^п\-^п\•• пп•• пп
к\
к\
• • tin
• • tin
йХ^Йх —
йХ^Йх —
[[^у11^2 •“ 1^Уп1йЛ‘
[[^у11^2 •“ 1^Уп1йЛ‘
-^п\
-^п\
•• пп
•• пп
Мы уже установили, что [Гх^^^ДГ]^ [х]^ для любого х е У. На практике наиболее часто полагают ^2 = ^f> матрицу ^ДТ]^ будем называть представлением линейного преобразования Т в базисе ^v
Рассмотрим тождественное линейное преобразование /:
V -> V (1х — х для любого х). Для произвольного xeV
^Йх = [^jj?! ” йУ^Йх Wjy, = йУ^Йх VXbx = йУ^Йх йУ^Йх ^^Г
Последовательно выбирая х равным tob w2wni получаем отсюда столбцы матрицы ^Д^]^, ^Д/]^2 и убеждаемся, что
йУ^Йх Йх ^Ъ, “йУ^Йх Йх ^Ъ, “11
йУ^Йх Йх ^Ъ, “
йУ^Йх Йх ^Ъ, “
1
1
Мы допускаем обычную нестрогость в обозначениях, используя символ / и для единичной матрицы, и для тождественного линейного преобразования. Записав аналогичные соотношения, начиная с [х]^ = [7х]й] = ..., находим, что
йУ^Йх Й,1^Йх ^-
Таким образом, матрица ^Д/]^, является обратной к матрице лД7^.’ т- е- если S^^J7]^ то 5-1 = «Д7^,- Следовательно,
любая матрица вида ЙЗЩЙ1 обратима. В то же время любая обратимая матрица S = [S] s2 ... sn]eAfn(F) имеет вид й [/]а для некоторого базиса S. В качестве $ можно взять систему векторов {$], $2Sn}> определенных соотношениями [SJ^ = = s, (/=1, 2п). В силу обратимости матрицы S это мно
жество $ линейно независимо.
Заметим, что
sW [[/y>U • • • [/ynbJ=[[y>U • • • [у»М,
так что матрица Й2[/]Й выражает элементы базиса Sx через базис ^2. Теперь возьмем х е V и проведем следующие вычисления:
Яг^й, М#^ №х]# = ^ (^Х)1^2 = Яг^^, ^Х^, = Й2[^Й1 St^Si Wa, = = Я^Я, S-WU, ^^^ = Яа^Я, Я^Я, я№яа №&'
Последовательно выбирая вектор х равным wi, w2wn, заключаем, что
Яа^^Я, = Й2^^1 Я^Я! Я^Я?'
Это соотношение показывает, как представление линейного преобразования в каком-либо базисе изменяется при переходе к другому базису. По этой причине матрица #[/]#, называется матрицей перехода от %2 к ^\.
Произвольную матрицу ЛеЛ1п(Р) можно рассматривать как представление некоторого линейного преобразования Т: V -> V. Если Т определить равенством [Тх]Й = А[х]я, то, как легко видеть, Й\Т\3 = А.
Глава 1
СОБСТВЕННЫЕ ЗНАЧЕНИЯ, СОБСТВЕННЫЕ ВЕКТОРЫ И ПОДОБИЕ
.0. Введение
В этой главе, как и в последующих, при обсуждении ряда ключевых понятий мы объясняем на примерах, каким образом они возникают в теории или приложениях.
.0.1. Замена базиса и подобие. Всякая обратимая матрица есть матрица перехода для какой-то пары базисов, и всякая матрица перехода является обратимой (см. разд. 0.10). Таким образом, если в векторном пространстве V заданы линейное преобразование Т и базис ^ и если А = Й[ЛД есть представление преобразования Т в базисе Я, то множество всех возможных представлений этого преобразования имеет вид {^Шя я^1я я^яц ^1 базис в V} =
— (З^ЛЗ: S — обратимая матрица из Afn(F)}.
Это в точности множество всех матриц, которые подобны матрице А. Как мы видим, подобные, но не совпадающие матрицы являются различными представлениями одного и того же линейного преобразования.
Естественно ожидать, что подобные матрицы обладают многими важными общими свойствами — по крайней мере теми, которые присущи соответствующему линейному преобразованию— и это одна из важных тем в линейной алгебре. Часто, изучая свойства какой-либо матрицы, бывает полезно обратиться к исследованию каких-то свойств, характеризующих линейное преобразование, для которого данная матрица является лишь одним из многих возможных представлений.
Понятие подобия — ключевое в этой главе.
.0.2. Условные экстремумы и собственные значения. Понятие собственного вектора и собственного значения — второе ключевое понятие этой главы. Мы увидим, что ненулевые векторы х, такие, что вектор Ах пропорционален вектору х, играют главную роль при анализе структуры произвольной матрицы или линейного преобразования. Однако такие векторы возникают в более элементарном контексте — в задаче о поиске максимума (или минимума) вещественной симметричной квадратичной формы при некотором геометрическом ограничении, которая формулируется так:.
Найти максимум функции хтАх при условии, что
хгх=1, xeR".
Здесь А = Ат— заданная матрица из Mn(R). Чтобы решить эту задачу условной оптимизации, обычно вводят функцию Лагранжа L = хтАх— Ххтх. Необходимое условие экстремума имеет вид
0 = VL = 2(Xx— Zx) = 0.
Поэтому для того чтобы экстремум функции хтАх достигался на векторе xeR", таком, что хгх = 1 (следовательно, х=#0), необходимо, чтобы вектор х удовлетворял уравнению Ах = Хх. Другими словами, вектор Ах есть кратное ненулевого вектора х. Такая пара X, х называется собственной парой, в которой X— собственное значение, х— собственный вектор.
Задачи
Объяснить, почему рассмотренная выше задача на условный экстремум обязательно имеет решение. Вывести отсюда, что любая симметричная матрица обладает хотя бы одним вещественным собственным значением. Указание. Применить теорему Вейерштрасса (см. приложение Е) к непрерывной функции /(х) = хтАх.
Пусть матрица XeAln(R) симметричная (ЛГ = Л). Показать, что максимальное значение квадратичной формы хтАх при условии, что хтх = 1, равно наибольшему собственному значению матрицы А.
. ■ 1.1. Определение собственных значений и собственных векторов
Обозначения. Как и раньше, Aln(F)—множество пХ X л-матриц над полем F; как правило, в качестве F рассматривается поле R вещественных чисел или поле С комплексных чисел. Мы обсуждаем факты, которые за редкими исключениями справедливы для комплексных матриц; МП(С) записывается сокращенно как Мп. Читатель, не интересующийся комплексными матрицами, может интерпретировать материал в терминах только вещественных чисел — обычно это не потребует сколько-нибудь существенного изменения изложения, выкладок или формулировок. Однако здесь нужна осторожность, так как между R и С имеются важные различия — «более широкое» поле С обеспечивает существование корней многочленов и большую свободу при проведении выкладок. Часто вещественную матрицу лучше рассматривать как комплексную матрицу с ограничением на вид ее элементов. Напомним также, что множество
(векторное пространство) всех вещественных или комплексных векторов размерности п обозначается соответственно через Rn или С". Векторы в R" и С" рассматриваются как векторы- столбцы. Наконец, для матрицы А = [az/]е Afn(F) транспонированная матрица [aj,] е Mn(F) обозначается через Ат (см. 0.2.5); в случае F £ С сопряженная матрица [a/J — транспонированная матрица с комплексно-сопряженными к элементам а(/ элементами — обозначается через А. Если х е Fn, то хт обозначает вектор-строку с теми же координатами, что и у вектора х. Если F £ С, то х* обозначает вектор-строку, координаты которой являются комплексно-сопряженными к соответствующим координатам вектора х. Черта сверху обозначает переход от комплексного числа к его комплексно-сопряженному (см. приложение А) или от матрицы (или вектора) к матрице (или вектору) с элементами, комплексно-сопряженными к исходным.
Матрицу А е Мп можно рассматривать как линейное преобразование из С" в Сл (в каком-либо базисе в С") или же — и это также полезно — как массив чисел. Оба подхода взаимосвязаны, и сущность теории матриц, а также ключ к приложениям— это выяснение свойств линейного преобразования на основе изучения именно соответствующего масеива чисел. Возможно, понятие собственного значения является единственным важнейшим понятием теории матриц. Множество п собственных значений матрицы А обозначается через о (А).
Определение. Пусть А е Мп и х е Сл. Рассмотрим уравнение
Ах = Хх, х =/= 0, (1.1.3)
где А— число. Если X и ненулевой вектор х удовлетворяют данному уравнению, то X называется собственным значением матрицы А, а х — собственным вектором матрицы А, отвечающим X. Заметим, что X и х образуют неразделимую пару и собственный вектор не может быть нулевым.
Определение. Совокупность всех собственных значений ).еС матрицы А е Мп называется спектром1) матрицы А и обозначается через о(А). Неотрицательное вещественное число р(А) = тах{|Х|: Лео(А)} называется спектральным радиусом матрицы А. Это есть не что иное, как радиус наименьшего круга с центром в начале координат на комплексной плоскости, который содержит все собственные значения матрицы А.
Упражнение. Пусть х является собственным вектором матрицы А, отвечающим собственному значению X. Показать, что любое ненулевое кратное вектора х также представляет собой собственный вектор.
Согласно (1.1.3), собственный вектор — это такой вектор, для которого умножение на матрицу А описывается очень просто— это умножение на скаляр (собственное значение). Уже одно только это свойство собственных значений и собственных векторов, даже если бы с ними и не было связано ничего более важного, вызывает интерес к ним с алгебраической точки зрения.
Пример. Рассмотрим матрицу
Г 7 —21
= [ 4 1 J г ^2‘
Для нее 3 еа (А), а соответствующий собственный вектор есть [*], так как
Г 1 1 Г 3 1 Г 1 1
L2J L6J ч2
Кроме того, 5еа(А). Соответствующий собственный вектор предлагается найти читателю.
Напомним, что значение многочлена
Р V) = <W* + ^й-1^ 1 + • • • + OjZ + а0
при t = А, где АеМп, корректно определено, так как мы можем возводить квадратную матрицу в целую положительную степень и составлять произвольные линейные комбинации матриц одинакового размера. Таким образом,
Р (^) = ^Aft + ak-1Afe 1 + ... + Qi А + OqI.(1.1.5)
Полезно заметить, что любая матрица, являющаяся значением какого-то многочлена при t = А, имеет те же собственные векторы, что и матрица А; существует также простая связь между собственными значениями этой матрицы и матрицы А.
Теорема. Пусть р(-) —заданный многочлен, X— собственное значение матрицы АеМГи х— соответствующий собственный вектор. Тогда рЩ— собственное значение, а х— отвечающий ему собственный вектор матрицы р(А).
' Доказательство. Рассмотрим вектор р^А^х. Во-первых,
р (А) х ^= а^А х А* Од—1А х А- ... A- aiAx А- ацХ,
Во-вторых, А'х= А -1Ах = А,-1Хх = ХА -1х = ... = X1 х — здесь последовательно применяется определение собственного вектора и собственного значения. Таким образом,
р (А)х = акХкх + ... + а^х = UakXk + • • • + аа)х = Р W х- D
Упражнение. Найти <т(Л2), если <т(Л) = {—1, 2}, А е М2.
Упражнение. Найти o^D), где D = diag (t/b d2, ..., dn) — диагональная матрица (0.9.1). Для каждого собственного значения построить отвечающий ему собственный вектор. Указание. Рассмотреть векторы е, (/=1, ..., п) стандартного базиса.
Утверждение. Матрица А е Мп вырожденка в том и только в том случае, когда 0е о (А).
Доказательство. Для вырожденности матрицы А необходимо и достаточно, чтобы равенство Ах = 0 выполнялось для некоторого х #= 0. Это возможно в том и только в том случае, когда Ах = 0-х для некоторого х #= 0, т. е. тогда и только тогда, когда X = 0 является собственным значением. □
Задачи
Предположим, что матрица А е М невырожденна. Согласно 1.1.7, это равносильно тому, что 0 не является ее собственным значением. Показать, что если Хе<т(Л), то X-1 е ест (Л-1). Считая известными X и х=#0, такие, что Ах = Хх, найти собственный вектор матрицы Л-1, отвечающий собственному значению X-1.
Показать, что если сумма элементов любой строки матрицы А е Мп равна 1, то 1 е<т(Л). Указание. Рассмотреть вектор e = [U. .... 1Г и заметить, что суммы элементов любой строки матрицы А одинаковы в том и только в том случае, когда е является собственным вектором этой матрицы. Показать, что если матрица А невырожденна, то сумма элементов любой строки матрицы А-1 одна и та же и равна 1. Доказать, что для любого многочлена p(t) суммы элементов любой строки матрицы р(Л) одинаковы. Чему равны эти суммы?
Пусть матрица ЛеЛД(Р) имеет собственное значение X е R. Доказать, что существует вещественный собственный вектор xeR", отвечающий X. Далее, доказать, что для любого собственного вектора хе С его вещественная и чисто мнимая составляющие (они берутся покомпонентно) также являются (если они ненулевые) собственными векторами матрицы А, отвечающими X. Показать, что собственный вектор х е R" матрицы ЛеЛД(Р) отвечает непременно вещественному собственному значению. -
Показать, что собственные значения блочно-диагональной матрицы (0.9.2)
гли 0 1
л = [ 0 Л22]’ A“GMnt.
совпадают с собственными значениями блоков Лц и Л22. Указание. Для начала выразить собственные векторы матрицы А через собственные векторы матриц Ли и Л22.
Матрица АеМп называется идемпотентной, если Л2 = А.
Доказать, что все собственные значения идемпотентной матрицы равны 0 или 1.
Матрица АеМ„ называется нильпотентной, если А<’=0 для некоторого целого положительного числа q. Наименьшее значение, такого q называется индексом нильпотентности. Доказать, что все собственные значения нильпотентной матрицы равны 0. Привести пример ненулевой матрицы, все собственные значения которой равны 0.
В конечномерном случае — основном для этой книги — любая комплексная или вещественная матрица имеет комплексное собственное значение (позже это будет доказано). Однако линейное преобразование бесконечномерного векторного пространства может не иметь ни одного собственного значения. Возьмем в качестве V векторное пространство всех формальных бесконечных последовательностей комплексных чисел:
V = {(«], а2ak, ...): а{ е С, /= 1, 2, ...}
и определим линейное преобразование S на V таким образом:
-$(«,, а2, .. .) = (0, аь а2, ...).
Это преобразование иногда называют оператором сдвига. Проверить, что S есть линейное преобразование и показать, что оно не имеет собственных значений. Указание. Показать, что для того, чтобы вектор был собственным вектором, необходимо, чтобы все его компоненты были одинаковы и при этом они не могут быть ничем иным, кроме 0. Этот вектор, следовательно, нулевой и не может быть собственным вектором.
Матрица А е Мп называется эрмитовой, если А* = А (см. 0.2.5). Доказать, что любая эрмитова матрица имеет только вещественные собственные значения. Указание. • Взять произвольное число Хео(Л) и отвечающий ему собственный вектор х. Тогда в силу (1.1.3) xMx = Хх*х. В то же время х’Ах == = ^*А*х = х*Ах, и, значит, число х*Ах вещественное. Поскольку число х*х положительно, X = х*Ах(х*х также вещественно.
Характеристический многочлен
В отношении собственных значений матрицы А е Мп естественно поставить следующие вопросы: сколько их и как их можно охарактеризовать?
Уравнение (1.1.3), определяющее собственные значения и собственные векторы, эквивалентно уравнению
(Х/-Л)х = 0, х=^0.(1.2.1)
Таким образом, Xgo(A) в том и только в том случае, когда матрица X/— А вырожденна, т. е.
det(X/-A) = O.(1.2.2)
Определение. Характеристический многочлен матрицы АеМп, рассматриваемый как формальный многочлен от t, определяется выражением"
pA^ = ^tl - А\
Замечание. Мы используем букву / как формальную переменную характеристического многочлена для того, чтобы отличать ее от буквы X, которой обычно обозначается собственное значение или корень многочлена. Тем не менее иногда и для переменной, и для собственного значения используется одна и та же буква.
Утверждение. Характеристический многочлен Рл(А матрицы АеМп имеет степень п, и множество корней уравнения pA(t) = O совпадает с о (А).
Доказательство. Тот факт, что /?л(-) имеет степень п, получается по индукции из разложения Лапласа для det(// — А): каждая строка в П— А вносит в разложение одну и только одну степень буквы t. Вторая часть утверждения равносильна (1.1.3) и (1.2.2). □
Упражнение. Показать, что уравнение det (А — //) — 0 имеет те же корни, что и уравнение det(// — А) = 0 и при этом det(A— //) = (—l)n det(/Z — А). Таким образом, характеристический многочлен можно было бы.определить (и так иногда делают) иначе — как det (А — //). Показать, что принятое нами определение гарантирует, что (старший) коэффициент при 1п всегда равен -}-1.
Упражнение. Показать, что если А = [^“ ^, то Ра^=11 — — (а + d) t + (ad — 6с) и
а(А)={а(А)={а + d ± V(a — dy + 46с
а(А)={
а(А)={
2
Доказать, что собственные значения матрицы ЛеЛ12(К) вещественны, если Ьс ^ 0. Более того, они вещественны в том и только в том случае, когда (а — d)2 + 46c^0. Не будучи вещественными, они образуют пару комплексно-сопряженных чисел. Наконец, показать, что собственные значения различны, если (а — d)2 + 4bc =/= 0.
Упражнение. Показать, что если матрица Т е Мп треугольна:
• • 6л
то о(Т) = {/и, ^2> ..., /„„} — множество диагональных элементов матрицы Т.
Упражнение, Все элементы матрицы ГеМп равны 1:
1 -1 J1 -1 J
1 -
1 J
1 -
1 J
ствующие собственные векторы матрицыствующие собственные векторы матрицыг 3 -1г 3 -1А = — 13А = — 13L-1 -1L-1 -1-1 -|-13 .-1 -|-13 .
ствующие собственные векторы матрицы
ствующие собственные векторы матрицы
г 3 -1
г 3 -1
А = — 13
А = — 13
L-1 -1
L-1 -1
-1 -|
-1
3 .
-1 -|
-1
3 .
Каковы собственные значения матрицы /2? Показать, что все собственные значения матрицы J3— это 0 (появляющийся дважды) и 3. Что будет в случае произвольного nt Указание, Рассмотреть вектор е = [1, 1, ,.., 1]г.
Упражнение. Найти все собственные значения и соответ
Указание. Записать А = 41—13 и воспользоваться предыдущим упражнением.
Определение. Главная k X k-подматрица в АеМ,— это подматрица, расположенная на пересечении к строк и столбцов с одинаковыми множествами номеров (см. разд. 0.7.1); ее определитель называется главным минором порядка к. В матрице А =[ац]еМЛ существует (£) различных главных миноров порядка к; их сумма обозначается через Ек^Ау В частно- п'.
сти, Ev (Л) = ^аи называется следом матрицы А и обычно обо- z=i
значается через tra. Заметим, что Еп^А) = det А.
Упражнение. Показать, что для Л е Л12
рл (/) =/2 — (tr Л) / + det Л, У, Л = 1гЛ, П А = det Л.
Лео(Д) Лео(Д)
Один из фундаментальных и непростых фактов —так называемая основная теорема алгебры (см. приложение С)—утверждает, что в множестве комплексных чисел любой многочлен степени п с комплексными коэффициентами имеет в точности /г корней с учетом их кратности. Опираясь на эту теорему, мы можем высказать следующее важное предложение.
Утверждение. Всякая матрица Л е Мп имеет в точности п {комплексных) собственных значений с учетом их кратности.
Замечание. Когда мы говорим о «кратности» собственного значения А матрицы Л е Мп, то имеем в виду кратность К как корня характеристического многочлена рд{'). Более подробно о кратности собственных значений речь пойдет в разд. 1.4. Однако полезно уже сейчас отметить взаимосвязь между производными многочлена и кратностью его корня. Для любого многочлена p{t) число А является его корнем кратности ^1в том и только в том случае, когда p{t) можно записать в виде p{t) = {t — X)kq{t), где многочлен q{t) такой, что q{X)=?^O. Дифференцируя это соотношение, получаем p'{t) = k{t — — Xy^q(/) + (/ — X)kq'{t). Следовательно, pz(A) —О в случае, когда £> 1, и ни в каком другом случае. Если k> 1, то р"Ц) = к)к— l)(t — A) k~2q(t) + [сумма одночленов с общим множителем {t— A)m, где m^k — 1], так что р"{Х) = 0, когда к > 2, и ни в каком другом случае. Повторение этого вычисления показывает, что А есть корень кратности к многочлена p{t) в том и только в том случае, когда р{Х) = р'{Х) = ... ... = р(М(Х) = 0ир№(А)=М
Примеры. Утверждение 1.2.6 по существу использует тот факт, что поле комплексных чисел алгебраически замкнуто— последнее означает, что в этом поле любой многочлен степени п с коэффициентами из этого поля имеет п корней. Когда речь идет о матрицах над другими полями, например, такими, как вещественные или рациональные числа, в общем случае не очень много можно сказать о том, сколько у них будет собственных значений из этого же поля. Задача 8 из разд. 1.1, однако, описывает ситуацию, когда это можно выяснить. Отметим, кроме того, что матрица над произвольным полем может иметь очень небольшое количество различных собственных значений.
Матрица
(1.2.7а)
не имеет вещественных собственных значений, хотя и состоит из вещественных элементов. Матрица
(1.2.7b)
имеет только одно собственное значение (1 кратности п) независимо от ее порядка.
Упражнение. Проверить утверждение из примера 1.2.7.
Упражнение. Доказать, что если ЛеМя(Ц) и п нечетно, то матрица А обладает хотя бы одним вещественным собственным значением. Указание. Все невещественные комплексные корни многочлена с вещественными коэффициентами разбиваются на пары комплексно-сопряженных чисел. Для ДеМп(К) многочлен рл(.) имеет вещественные коэффициенты.
В соответствии с утверждением 1.2.6 для матрицы A s Мп мы можем составить последовательность ее собственных значений
Z2, . . . , кп,
выбирая произвольное их упорядочение и повторяя каждое собственное значение столько раз, какова его кратность. Тогда, согласно утверждению 1.2.4, получаем
PaW-V-W-^ ... (/-Л„).(1.2.8)
Определение. Элементарная симметрическая функция степени к от п величин Ль ..., Ап ^к ^ п) имеет вид
1 <<]<...< ik < п /-11
т. е. является суммой всех (^) А-членных произведений различных величин, выбираемых среди Ль ..., Хп. ■
Например, Sj (Ль ..., AJ = Л[ + ... + Хп —- сумма всех Л, и •5n(^i, •••, A„) = Ai ... А„ —произведение всех Л;. Вследствие (1.2.8) ив силу того, что PaU) вводится с помощью некоторого
определителя, имеется взаимосвязь между элементарными симметрическими функциями 5й(Хь ..., Хя) собственных значений матрицы А и суммами Е^А) ее главных миноров порядка А (см. разд. 1.2.5). Справедливы следующие тождества:
V - м ... (t - Хп) -Н-^ (^Х„) Г"1 +
+ S2(Xb .... X„)t"-2-...±S„(Xb ..., Хпу, (1.2.10)
Р^-Г-ЕЖ'ЧеМГ1- ...±£„(Л). (1.2.11)
Они проверяются непосредственно (хотя и не без труда).
Упражнение. Убедиться в справедливости тождеств (1.2.10) и (1.2.11). Первое можно проверить непосредственным вычислением коэффициента при 1п-к в произведении (/ — Xi) ... (/ — — Хя). Последнее можно доказать по индукции, используя разложение Лапласа.
Объединяя (1.2.10), (1.2.11) с (1.2.8), получаем следующую теорему.
1.2.12. Теорема. Пусть XiХя— собственные значения матрицы А е Мп. Тогда
S^Xb .... Х„) = Ей(Л),
т. е. элементарная симметрическая функция степени к от собственных значений матрицы А есть сумма всех главных миноров порядка к в матрице А. В частности,
ДЛ=£хь бе1Л = П^-<-1i=l
Задачи
Проверить утверждение 1.1.7, используя теорему 1.2.12.
Пусть А е Мт, п, В^Мп,т (см. разд. 0.2.1). Доказать прямым вычислением, что tr АВ = trBA. Вывести отсюда, что для любой матрицы А е МП и для любой невырожденной матрицы S е Мя выполняется равенство tr S~M.S = tr Л. Матрица 5~‘Л5 называется подобной матрице А, и то, что предлагается доказать, означает инвариантность следа при переходе к подобной матрице. Подобие изучается в следующем разделе, и там мы увидим, что все суммы Е^А') главных миноров суть инварианты подобия. Заметим, что определитель, очевидно, является инвариантом подобия вследствие мультипликативности.
Вычислить характеристический многочлен poU') диагональной матрицы D s Мп и доказать, что ро(Д) = 0.
Пусть ЛеА1„ и Л, = Л ( {z}')^ M„_i— главная подматрица в А, полученная в результате вычеркивания строки и
столбца с номером i (i= 1, ..., п). Доказать, что
4тРа Ю^Ра, (0.<=14тРа Ю^Ра, (0.<=1(1.2.13)(1.2.13)
4тРа Ю^Ра, (0.
<=1
4тРа Ю^Ра, (0.
<=1
(1.2.13)
(1.2.13)
Показать, что след нильпотентной матрицы (см. задачу 6 из § 1.1) равен 0. Каков характеристический многочлен нильпотентной матрицы?
Пусть А е Мл и Хео(Л) имеет кратность 1 (как корень уравнения pA(t) = O). Показать,что гапк(Л— Х7)'= = п— 1. Обратное не всегда верно — достаточно рассмотреть матрицу (1.2.7b). Указание. Воспользоваться соотношением (1.2.13) и тем, что (d/dt)рА (/) ^ 0 при 1 = X; вывести отсюда существование в Л — X/ невырожденной главной подматрицы порядка п — 1.
С помощью теоремы 1.2.12 построить характеристический многочлен матрицы
”1 10 0 0"
1110 0
0 1110.
0 0 111
.0001 1_
Попробовать эту же процедуру применить для вычисления характеристического многочлена произвольной трехдиагональной п X n-матрицы (см. разд. 0.9.10).
Показать, что если матрица АеМп имеет собственные значения XiХ„, то
tr Ah = X
<-i
для любого целого положительного к. Сумма справа называется к-м моментом собственных значений матрицы А.
Явно выписать S2(Xb ..., Х6) S3(Xb . .., Х6), S4(Xb ..., Х6) и S5 (Хь . .., Х6).
Пусть V — векторное пространство над полем F. Собственное значение линейного преобразования Т: V->V— это число Хе F, такое, что для некоторого ненулевого вектора ys V имеем Ти = Хи. Доказать, что если F есть поле комплексных чисел и V конечномерно, то любое линейное преобразование Т имеет собственное значение. Привести примеры того, что, исключив любое из условий — конечномерность пространства V или то, что F = C, — можно получить преобразование Т, не
имеющее собственных значений. Указание. Взять в V базис 98 и рассмотреть матрицу ^[Tj^.
Пусть р (0 = antn + an_Ytn"1 + ... + axt + а^, ап = 1, — некоторый многочлен со старшим коэффициентом 1 и Л,ь ... ..., Х„— его корни (с учетом кратностей); А-й момент корней обозначим через pft = Л,* + Х^ + ... + Х^ (А = 1, 2, ...). Установить тождества Ньютона
^an-k + Н1ал-*+1 + WAi-i+2 + • • • + Ц&я„ = 0, д=1d-214)
и объяснить, почему первые п моментов корней однозначно определяют коэффициенты многочлена рЦ^ (а значит, и его корни), и наоборот. Указание. Показать, что для некоторого R >0 при |/| > R имеем (/ — Л,,)-1 =С* + ХхС2 + X^it~3 + ... и, следовательно,
/(О^ЕР-М^-п^ + ^гЧ^"3-!- .... |/|>/?.
Доказать, что р'^ = р (0/(0; сравнение коэффициентов приводит к тождествам Ньютона и к дополнительным соотношениям
НЛ + Wh-A + ■ • ■ + цд+б-1«л-1 + Ил+^л = 0, А = 1, 2, ..., для моментов более высокого порядка.
Пусть заданы матрицы А, В@Мп. Доказать, что для того, чтобы А и В имели одни и те же собственные значения, необходимо и достаточно, чтобы 1гД* = 1гВ* для всех & (£ = = 1, 2п). Указание. Установить совпадение характери
стических многочленов матриц А и В, а для этого воспользоваться задачей 8 и тождествами Ньютона (1.2.14).
Подобие
Как уже отмечалось в § 1.0, преобразование подобия для матрицы из Мп соответствует представлению линейного преобразования пространства Сл в другом базисе. Таким образом, можно считать, что, изучая подобные матрицы, мы будем устанавливать свойства, присущие соответствующему линейному преобразованию, или свойства, общие для всех его представлений в различных базисах.
Определение. Матрица ВеМп называется подобной матрице АеМп, если существует невырожденная матрица
Se Мп, такая, что
5 = S~^S.
Преобразование A->S-1AS называется преобразованием, подобия (или просто подобием), осуществляемым посредством трансформирующей матрицы S. Отношение «В подобна А» иногда записывается сокращенно В ~ А.-■
Утверждение. Подобие является отношением эквивалентности на Мп, а именно оно
рефлексивно; А ~ А;
симметрично; В ~ А влечет за собой А ~ В\
транзитивно; С ~ В и В ~ А влекут за собой С ~ А.
Упражнение, Доказать утверждение 1.3.2.
Как и любое отношение эквивалентности, отношение подобия разбивает множество Мп на непересекающиеся классы эквивалентности. Любой класс эквивалентности состоит из множества всех матриц, подобных любой заданной входящей в него матрице — представительнице этого класса. Все матрицы из одного класса эквивалентности подобны и никакие матрицы из двух разных классов не являются подобными. В произвольной последовательности матриц, в которой соседние матрицы подобны, вследствие транзитивности подобия первая и последняя матрицы принадлежат одному и тому же классу подобия. Наиболее существенно, что матрицы из одного класса эквивалентности обладают многими одинаковыми важными свойствами. Некоторые из них мы рассмотрим уже здесь, но более полное описание инвариантов подобия (например, канонической жордановой формы) будет дано позже, в гл. 3.
Теорема. Если матрица ВеМг. подобна матрице Ае е Мп, то В имеет такой же характеристический многочлен, как и А.
Доказательство. Для любого t
pB(t) = йеЦП — В) =
= det(tS-1S —S"1AS) = detS"‘(^- A)S =
= det S"1 det (Д - A) det S = (det S)'1 (det S) det (П — A) = = det (tl — A) = pA (t). □
Следствие. Любые подобные матрицы А и В (А, В е е Мп) имеют одинаковые собственные значения с учетом кратности,-
Пример. Тот факт, что данные матрицы имеют одинаковые собственные значения, является необходимым, но не достаточным условием подобия. Рассмотрим матрицы
Г0 11 Г° °1
Lo 0J' Lo oj‘
Каждая имеет собственное значение 0 кратности 2, но они не подобны.
Упражнение. Показать, что единственная матрица, подобная нулевой матрице, есть она сама. Отсюда вывести утверждения из примера 1.3.5.
Упражнение. Пусть матрицы А, В е Мп подобны и ^(-) — любой многочлен. Доказать, что матрицы ^(Д) и ^(В) подобны, в частности Д + а/ и В + а/ подобны для любого числа а.
Упражнение. Пусть Д, В, С, D^M,, и подобия А ~ В и С ~ D осуществляются одной и той же матрицей S. Доказать, что А + С ~ В + D.
Упражнение. Доказать, что если А, 8 е ЛД и матрица В невырожденна, то Ек (3-1Д5) = Ек (Д), в частности detS~^S = = detД и trS~Ms = tr А, т. е. определитель, след и другие суммы главных миноров порядка к суть инварианты подобия.
Упражнение. Доказать, что ранг также является инвариантом подобия: если матрица В е Мп подобна матрице A s Мп, то rank В = rank А. Указание. См. разд. 0.4.6.
Поскольку диагональные матрицы особенно просты и обладают многими приятными свойствами, интересно знать, для каких А е Мп в классе эквивалентности матрицы А содержится диагональная матрица. Другими словами, какие матрицы подобны диагональным матрицам?
Определение. Матрица А е Мп называется диагонали- зуемой1), если она подобна диагональной матрице.
Теорема. Матрица А е Мп диагонализуема тогда и только тогда, когда существует система п линейно независимых векторов, каждый из которых является собственным вектором матрицы А. '
Доказательство. Пусть А имеет п линейно независимых собственных векторов х<), ,,,, xW. Составим из них, взяв их в ка-
честве столбцов, невырожденную матрицу S. Тогда s-^s-s-W' Ахт ... л.Л^
^S-^V0 ... A^^S-1^’ ... V^A-S^SA-A, где
г А, 0-1А = • • .
L0 A„J
и AiХп — собственные значения матрицы А.
Обратно, предположим, что имеется трансформирующая матрица S, такая, что матрица S~MS = А диагональна. Тогда ЛЗ — SA, а это означает, что умноженный слева на А j-й столбец матрицы S (это есть /-й столбец матрицы Л5) совпадает с /-м столбцом матрицы S, умноженным на j-й диагональный элемент в А (это есть /-й столбец матрицы SA), т. е. /-й столбец матрицы S есть не что иное, как собственный вектор матрицы А, отвечающий /-му диагональному элементу матрицы А. Вследствие невырожденности матрицы S налицо система п линейно независимых собственных векторов. □
Заметим, что доказательство теоремы 1.3.7 по существу устанавливает алгоритм диагонализации произвольной диагонали- зуемой матрицы: найти собственные значения матрицы А; найти соответствующие собственные векторы (с учетом кратности) и составить из них матрицу S. Если собственные векторы линейно независимы, то S осуществляет диагонализацию. Однако подчеркнем, что этот алгоритм нельзя считать практической вычислительной процедурой, за исключением его применений для аналитических примеров небольшого порядка.
Замечание. Если матрица А е М„ диагонализуема, то диагональные элементы любой диагональной матрицы, к которой она приводится преобразованием подобия, будут собственными значениями матрицы А (с соответствующими кратностями). Более того, линейно независимые собственные векторы (которые составляют трансформирующую матрицу) должны отвечать различным собственным значениям с учетом кратности, т. е. если х(1), ..., х(л) — линейно независимые собственные векторы и PaU) = U— Ai) ... (/— Ал), то AxW = Хццх^ для некоторой перестановки т индексов L '
Упражнение» Доказать, что матрица Л = ^о 0] не диаг0' нализуема. .
Рассуждать можно любым из следующих способов: с одной стороны, будучи диагонализуемой, она была бы подобна нуле-
вой матрице — а это не так; с другой стороны, можно убедиться в том, что эта матрица имеет лишь один с точностью до ненулевого множителя собственный вектор, отвечающий собственному значению 0.
Упражнение. Показать, что если Л диагонализуема и ^(-) — какой-то многочлен, то ^(Л) тоже диагонализуема. Указание. q{SAS-^ = Sq(A)S~\
Упражнение. Пусть задана матрица А е Мп и ее собственное значение Хео(Л) имеет кратность т. Доказать, что если rank (Л — V) > п — т, то А не диагонализуема.
Имеется простое условие, обеспечивающее диагонализуемость,— когда все собственные значения различны. Чтобы установить этот факт, нам понадобится следующая важная лемма, имеющая также самостоятельное значение.
Лемма. Предположим, что Хь ..., X*— попарно различные собственные значения матрицы АгМп и xw — собственный вектор, отвечающий X, (г = 1, ..., /г). Тогда множество <х(*>, ..., xW\ линейно независимо.
Доказательство. Допустим от противного, что х(1), ,,,, xw в действительности линейно зависимы. Тогда для них существует нетривиальная линейная комбинация, выражающая вектор 0, в частности такая, в которой наименьшее число ненулевых коэффициентов. Предположим, что такое минимальное соотношение линейной зависимости имеет вид
а[Х(1) + а2х,2) + ... + arxw => 0, г ^.k.
Здесь г > 1, так как х^ ^ 0 для всех I. Для удобства мы взяли первые г векторов, чего всегда можно добиться перенумерацией. Тогда
. Л (а1х,|) + ... + агх(И) = o^x(U + ... + агАх^ =
= а^х^ + ... + аДгх'г) = 0'
и это еще одно соотношение линейной зависимости. Теперь первое соотношение умножим на Хг и вычтем его из второго. Получаем
.«1 (М — ^г)+ • • • + «г-1 (^г-1 — ^г) ДГ-1) = 0
и это есть третье соотношение линейной зависимости, причем с меньшим числом ненулевых коэффициентов, чем в двух предыдущих. Последняя линейная комбинация нетривиальна, так как X, #= Хг (t = 1г—1). Это противоречит предположению о минимальности первого соотношения линейной зависимости и завершает доказательство. □'
Теорема. Если матрица А еМп имеет п различных собственных значений, то она диагонализуема.
Доказательство, Пусть а(Л) = {Хь ..., Хп) и xw — собственный вектор, отвечающий X/ (i=l, ..., п). Поскольку собственные значения все различны, то в силу леммы 1.3.8 множество {х^, ..., х^"*} линейно независимо и вследствие теоремы 1.3.7 матрица А диагонализуема. □
Упражнение. Привести пример диагонализуемой матрицы АеМп, такой, что не все ее собственные значения различны.
Упражнение. Напомним (см. разд. 0.9.5), что матрица перестановки Р в любой позиции содержит 0 или 1 и в любой строке и в любом столбце в точности один ее элемент равен 1; таким образом, РТ = Р-1. Показать, что если преобразование подобия матрицы А Е М„ осуществляется матрицей перестановки, то оно переупорядочивает диагональные элементы матрицы А. Показать, что от любой диагональной матрицы с помощью трансформирующей матрицы перестановки можно перейти к матрице, в которой те же диагональные элементы расположены в любом заданном порядке, в частности когда повторяющиеся диагональные элементы стоят подряд.
В общем случае матрицы А, В е М„ не коммутируют относительно умножения. Однако если Л и В обе диагональные, то они всегда коммутируют. Это наблюдение можно в некотором смысле обобщить; в этом отношении полезна следующая лемма.
1.3.10. Лемма. Пусть заданы матрица1.3.10. Лемма. Пусть заданы матрицаматрицы А е Мп, В е Мт иматрицы А е Мп, В е Мт иГ А с==[оГ А с==[о0В0В
1.3.10. Лемма. Пусть заданы матрица
1.3.10. Лемма. Пусть заданы матрица
матрицы А е Мп, В е Мт и
матрицы А е Мп, В е Мт и
Г А с==[о
Г А с==[о
0
В
0
В
есть прямая сумма матриц А и В, Тогда С диагонализуема в том и только в том случае, когда обе матрицы А и В диагона- лизуемы. '
Доказательство. Пусть невырожденные матрицы S! е Мп и S2eMm таковы, что матрицы Sf'XSi и Sz^Sz диагональные. Тогда несложно проверить, что матрица S-1CS будет диагональной, если в качестве S взять прямую сумму матриц Si и S2:
- Г^ 0]
L о S2 J •
Наоборот, если С диагонализуема, то для некоторой невырожденной матрицы S е Мп+т матрица S-'CS = diag(Xb Х2, ...
3 Р. Хорн, Ч. Джонсон
., п + т.., п + т...., Xn+m) диагональная. Запишем S в виде S = [si S2 ... Sn+mL где
., п + т.
., п + т.
I е С , §z е С , тъ е С , t = 1, . L Л/ J
Тогда Csi = XiSi влечет за собой A^t = 1,^ и Вх^ = Xtx\i для всех 1 — 1, 2, ..., п + т. Если в множестве {^, ..., ^+т} меньше п линейно независимых векторов, то столбцовый (а значит, и строчный) ранг матрицы
1^1 ^2 • • • ^п + т! ^ -^п, п + т
меньше п. Аналогично если в множестве {ць ..., Цп+m) меньше т линейно независимых векторов, то столбцовый (а значит, и строчный) ранг матрицы
Hl Л2 • • • Лп + m] ^ Afm, п+т
меньше т. Если реализуется одна или обе из рассмотренных возможностей, то для матрицы
[
е ?1
=1 • • • bn + m I . .
„Iе Afn + m
41 • • • Чп+m J
строчный ранг (а значит, и ранг) будет меньше п + т, что невозможно вследствие обратимости матрицы S. Таким образом, в множестве {^1, Ь, •••, Ел+m} существует в точности п линейно независимых векторов, и поскольку каждый из них есть собственный вектор матрицы А, то она должна быть диагонали- зуемой. По той же причине диагонализуема и матрица В. □
Определение. Две диагонализуемые матрицы А, В е е ЛД называются одновременно диагонализуемыми, если существует трансформирующая матрица S е Мп, для которой обе матрицы S-MS и S~lBS диагональны, или, другими словами, если существует базис, в котором представления обоих соответствующих линейных преобразований имеют диагональный вид.
Упражнение. Доказать, что если А, В е Мп одновременно диагонализуемы, то они коммутируют. Указание. Записать А = SDS-1 и B = SES-1, где D и Е — диагональные матрицы. Затем вычислить АВ и ВА и воспользоваться тем, что диагональные матрицы коммутируют. Этот прием используется довольно часто.
Упражнение. Доказать, что если А е Мп диагонализуема и XI—произвольная скалярная матрица в Мп, то А и XI одновременно диагонализуемы.
Теорема. Пусть матрицы A, BsMn диагонализуемы. Тогда А и В коммутируют в том и только в том случае, когда они одновременно диагонализуемы.
Доказательство. Предположим, что А и В коммутируют, и применим к обеим этим матрицам преобразование подобия с одной и той же трансформирующей матрицей, такое, что А приводится к диагональному виду. Таким образом, не ограничивая общности, будем считать, что матрица А диагональная. Предположим далее, не ограничивая общности, что на главной диагонали в А кратные собственные значения расположены рядом. Поскольку АВ = ВА (при переходе к подобным матрицам это равенство остается в силе, когда применяется одна и та же трансформирующая матрица), получаем
Х^Ь^ ^= ^IJ^p -
где В = [&//] и X]Хп— собственные значения матрицы А. Поскольку (Xi — X/) Ьц = 0, то Ьц — Q, когда Х( ф X,. Таким образом, для заданного упорядочения величин Xi матрица В является блочно-диагональной:
(1.3.13)
где блоки Bi соответствуют различным собственным значениям матрицы А. Для любого / блок Bt квадратный, и его порядок равен кратности соответствующего ему собственного значения матрицы А. В силу леммы 1.3.10 вследствие диагонализуемости матрицы В каждый блок В, является диагонализуё^ым. Пусть матрица Tt невырожденная и такая, что матрица TJ^BiTt диа- гональна. Поскольку А имеет блочную форму
(1.3.14)
где каждая скалярная матрица ХД имеет тот же размер, что и матрица Bi, мы видим, что матрицы T~VAT и Т~1ВТ обе диа
з*
тональные, если Т— прямая сумма матриц Ть Т2Тк".
(1.3.15)
.0 Ти-
Заметим, что ТТХХДТ i = Хг!.
Обратное утверждение составляет содержание первого упражнения после определения 1.3.11. □
В заключительной части этого параграфа мы распространим теорему 1.3.12 на более широкое множество матриц и приведем некоторое более слабое утверждение для случая недиаго- нализуемых матриц.
Определения. Семейство 9ггМп матриц — это произвольное (конечное или бесконечное) множество матриц; коммутативное семейство — это такое семейство, в котором любые две матрицы коммутируют относительно умножения. Для матрицы А е М„подпространство W ^ Сп называется А-инвариант- ным или инвариантным относительно А, если Aw е W для всех ©е IF; для семейства 9" ^Мп подпространство IF называется 9"-инвариантным, если IF является Д-инвариантным для всех
Заметим, что для А е Мп любой ненулевой элемент одномерного Д-инвариантного подпространства в Сп— это собственный вектор матрицы А.
Упражнение. Пусть А ^ Мп, a IF — инвариантное относительно А подпространство в Сп и его размерность не меньше 1. Доказать, что в IF существует собственный вектор матрицы А. Указание. В IF выбрать базис и рассмотреть матрицу, представляющую в этом базисе линейное преобразование Т: w->Aw, действующее в 1F. Доказать, что эта матрица имеет собственное значение. Главный вопрос — почему Т есть линейное преобразование в IF?
Следующая лемма представляет собой одно из ключевых предложений.
Лемма. Пусть 9"^Мп— коммутативное семейство. Тогда существует вектор х е С”, являющийся собственным вектором для каждой матрицы А г 9".
Доказательство. Пусть IF ^ Сл — инвариантное относительной подпространство наименьшей положительной размерности; такое подпространство существует, хотя и не обязательно един-
ственно. Заведомо имеется ^"-инвариантное подпространство размерности п, так как С" является ^-инвариантным. Если существует ^-инвариантное подпространство размерности п— 1, то можно спросить, не найдется ли ^"-инвариантное подпространство размерности п— 2 и т. д. В действительности — к этому мы и ведем — любой ненулевой вектор из W есть собственный вектор для каждой матрицы Ае9 (и этого достаточно, чтобы завершить доказательство). Если это не так, то для некоторой матрицы А е 9 не каждый ненулевой вектор из W будет собственным вектором. Однако вследствие того что W ^"-инвариантно, оно и Л-инвариантно, поэтому существует вектор х 9= 0, такой, что Ах = Хх для некоторого собственного значения X. Образуем множество Wo=(y^.W-. ^У^^у}’ так что хе W'o и Wo s W есть подпространство. Согласно предположению относительно A, Wo ф W, и, значит, Ц70 по сравнению с W имеет строго меньшую (положительную) размерность. Если 8 е^", то Вхе W при х е Wo, так как №'0£ №' и W — инвариантное относительно 9 подпространство. Однако 9 является коммутативным семейством и потому А (Вх) = (ЛВ)х = (ВЛ)х = = В (Ах) = ВХх = Х(Вх), откуда следует, что BxeWo. Следовательно, подпространство Wo тоже ^"-инвариантно. Поскольку размерность подпространства U70 положительна и строго меньше размерности подпространства W, мы приходим к противоречию, что и завершает доказательство. □
Лемма 1.3.17 справедлива для коммутативного семейства произвольной мощности. В частности, семейство 9 = (А, В} может состоять только из двух матриц. Тогда лемма утверждает, что любая пара коммутирующих матриц обладает общим собственным вектором. Теорема 1.3.12 говорит о том, что если А и В не только коммутируют, но еще и таковы, что каждая из них диагонализуема, то они являются одновременно диагона- лизуемыми. Следующий наш результат показывает, что фактически то же справедливо и в том случае, когда диагонализуемые матрицы составляют коммутативное семейство произвольной мощности.
Определение. Одновременно диагонализуемое семейство 9 cz Мп — это такое семейство, в котором любая матрица Ае9 диагонализуется с помощью одной и той же невырожденной матрицы SeMn, т. е. матрица S-MS диагональна для всех А е 9.
Теорема. Пусть 9czMn— семейство диагонализуе- мых матриц. Тогда 9 является коммутативным семейством в том. и только в том случае, когда оно одновременно диагона- лизуемо.
Доказательство. Если семейство ^ одновременно диагона-' лизуемо, то оно будет коммутативным согласно первому упражнению после определения 1.3.11. Обратное утверждение докажем с помощью индукции по п. При п = 1 доказывать нечего, так как всякое семейство в данном случае состоит из диагональных матриц и является коммутативным. Теперь предположим, что п^2 и для k = 1, 2, ..., п—1 утверждение доказано по отношению ко всем коммутативным семействам диаго- нализуемых матриц порядка к. Если 9" содержит только скалярные матрицы, то доказывать нечего. Поэтому мы можем считать, что существует диагонализуемая п X n-матрица АеУ, имеющая k различных собственных значений Хь Х2> • • •, ^ь где 2 ^ k ^ п. При этом АВ = ВА для любой матрицы SeJ' и всякая матрица Ве£Г диагонализуема. Используя те же соображения, что и в теореме 1.3.12, мы можем ограничиться случаем, когда матрица А в действительности диагональна, — пусть, как и там, ее кратные собственные значения расположены рядом, все собственные значения упорядочены, так что А имеет вид (1.3.14). Поскольку всякая матрица Ве9" коммутирует с А, то по тем же причинам, что и в доказательстве теоремы 1.3.12, В есть прямая сумма (1.3.13) матриц, каждая из которых имеет порядок п—1 или меньше. Размеры и расположение блоков в (1.3.13) полностью определяются кратностями и упорядочением собственных значений матрицы А, и, следовательно, они одинаковы для всех В е 9~. Все матрицы Be!? коммутируют между собой (а не только с Л), и любая из них имеет вид прямой суммы (1.3.13); поэтому каждый из к блоков матрицы из ^ коммутирует с соответствующим блоком любой другой матрицы из 9", и каждый из этих блоков диагонализуем согласно лемме 1.3.10. В силу предположения индукции найдутся к трансформирующих матриц Гь Т2, ..., Т к подходящих размеров, которые диагонализуют соответствующие блоки всякой матрицы из ЭД Прямая сумма Ti® ... ®Тк (как в (1.3.15)) диагонализует произвольную матрицу из 9". □
Замечания. С данным параграфом связаны два важных вопроса, которые мы отложим до гл. 3. Во-первых, как определить по двум заданным матрицам /1, Be Мп, будут ли они подобны? Это повлечет за собой изучение канонических форм по отношению к подобию. Во-вторых, как узнать по заданной матрице А е Мп, диагонализуема ли она, не вычисляя ее собственные векторы?
Наконец, в качестве последнего замечания по поводу коммутативности отметим, что, несмотря на то что матрицы АВ и ВА (если обе они определены), вообще говоря, разные (и даже могут иметь разные размеры), они предельно близки в том, что
касается их собственных значений. Если матрицы А и В обе квадратные, то АВ и ВА имеют в точности одни и те же собственные значения.
Теорема. Предположим, что АеМт,п, BeM^u т ^ п. Тогда В А имеет те же, с учетом кратностей, собственные значения, что и АВ и, кроме того, еще п — m собственных значений, равных 0. Таким образом, рвА Ц) = tn-mpAB{t). Если m = п и хотя бы одна из матриц А или В невырожденна, то матрицы АВ и ВА подобны.
Доказательство. Рассмотрим следующие тождества (для блочных матриц из Мт+пу.
"АВ 01 Г 1 А 1 Г АВ АВА 1
.В 0 J L 0 I В ВА J
"1 А 1 Г 0 0 1 Г АВ АВА 1
.0 Z J [ В ВД] = [ В В A J
Поскольку блочная матрица
"I А. 0 I"I А. 0 Iт + пт + п
"I А
. 0 I
"I А
. 0 I
т + п
т + п
невырожденна чаем" I. 0невырожденна чаем" I. 0(все ее собственные значения равны +1), полу-
невырожденна чаем
" I
. 0
невырожденна чаем
" I
. 0
Д]"‘Г АВ 01 Г/ Д1 Г 0 0 ■/ ] Lb о J L о / J= L в вд.
Таким образом, две (т + и) X (т + я) -матрицы
Г АВ 01 Г 0 0 1
С‘ = L В 0 J’ = [ В В A J
подобны. Собственные значения матрицы Cj — это собственные значения матрицы АВ вместе с п нулями. Собственные значения матрицы С2— это собственные значения матрицы В А вместе с т нулями. В силу следствия 1.3.4 С1 и С2 имеют одни и те же собственные значения с учетом кратностей — отсюда и вытекает основное утверждение теоремы. Ее заключительное утверждение следует из соотношения АВ = А (ВА)А-1, которое очевидным образом выполняется, если т = п и матрица А невырожденна. □
Задачи
Доказать, что если А, ВеМп и А и В коммутируют, то А коммутирует с любым многочленом от В.
Пусть А, Be Мп, ст (Д) = (Аь ..., А„), ст (В) = (щр„}. Доказать, что если А и В диагонализуемы и коммутируют, то
А + В имеет собственные значения
Лт + Ц/р Лг + pz2, .. ., А,л + pin,
где Л, ;.., U — некоторая перестановка индексов 1п.
Доказать, что если А е Мп, A — S~lDS, D = diag(di, ,.. ..., dn) и р(-)—произвольный многочлен, то р(А) = S~'p(D)S и p(D) = diag(/?(di), ..., p(d„)). Этим обеспечивается простой способ вычисления значения р (Л) в случае, когда для А проведена диагонализация.
Привести пример двух коммутирующих матриц, которые не являются одновременно диагонализуемыми. Противоречит ли это теореме 1.3.12?
Доказать, что если матрица А еМл имеет различные собственные значения и коммутирует с заданной матрицей ВеМг, то В есть многочлен от А степени не выше п— 1. Указание. Показать (с помощью метода, примененного при доказательстве теоремы 1.3.12), что А и В одновременно диагонализуемы. Затем учесть, что для заданных различных чисел аь ,.., а„ и (произвольных) чисел Pi, ..., 0Л существует многочлен р(-) степени не выше п—1, такой, что р(а<)=Р1 (интерполяционный многочлен Лагранжа; см. разд. 0.9.11).
Для диагонализуемой матрицы А е Мп рассмотреть характеристический многочлен pA(t) и показать, что матрица Ра(Л) нулевая.
Матрица А е Мп называется квадратным корнем из матрицы В е Мп, если А2 = В. Доказать, что любая диагонализуе- мая матрица имеет квадратный корень.
Пусть матрицы А, Be Мп таковы, что хотя бы одна из них имеет различные собственные значения (и ничего — даже диагонализуемости — не предполагается в отношении другой матрицы). Доказать, что А и В коммутируют тогда и только тогда, когда они одновременно диагонализуемы. Подсказка. В одну сторону утверждение доказывается легко; чтобы доказать его в другую сторону, надо попытаться использовать следующие рассуждения в отличие от тех, что применялись в доказательстве теоремы 1.3.12. Предположим, что В имеет различные собственные значения, X еа(В) и Вх = Хх для х#=0. Тогда В (Лх) = А (Вх) = АХх = ХАх, и, значит, Ах есть также собственный вектор матрицы В, отвечающий X. Поскольку не может быть двух таких линейно независимых векторов (так как X имеет кратность 1), то Ах есть кратное вектора х, т. е. Ах = цх. Таким образом, любой собственный вектор для В является также собственным вектором для А, и А диагонализуема посредством той же самой матрицы из собственных векторов, которая диагонализует матрицу В. См. задачи 12 и 13 — в них осуществляется цной подход к тому же факту.
Разобраться в деталях следующего (еще одного) доказательства теоремы 1.3.20.
Сначала предположить, что из матриц Л, В е Мп хотя бы одна невырожденная. Показать, что АВ подобна ВА, и, следовательно, характеристические многочлены для АВ и ВА совпадают. Указание. Если А невырожденна, то ВА = А-уАВ^А, вследствие чего а(ЛВ) = а(ВЛ).
Рассмотреть вырожденные матрицы Л = [цо] и В = = [° °]. Показать, что АВ и В А не подобны, но имеют одни и те же собственные значения.
Доказать, что если А, В <= Мп, то АВ и ВА обладают одинаковыми собственными значениями с учетом кратностей. Указание. Рассмотреть следующий аналитический подход. Для всех достаточно малых е >• 0 матрица А8 = А-Уе/ невырожденна; поэтому матрицы АвВ и ВА8 подобны и их характеристические многочлены одинаковы. При е->0 в пределе подобие может не сохраниться, но равенство характеристических многочленов остается в силе, так как рд^в (t) = det (,tl — ЛеВ) зависит непрерывно от е. Таким образом, матрицы АВ и ВА имеют одинаковые характеристические многочлены и, следовательно, одинаковые собственные значения с учетом кратностей.
Наконец, пусть АеМ,,^ и ВеМп,„. Показать, что АВ и ВА имеют одни и те же собственные значения с учетом кратностей, за исключением того, что . ВА имеет дополнительно п— т собственных значений, равных нулю (в предположении, что п"> пСу другими словами, рВА (t) = 1п-трАвУУ Указание. Дополнить А нулевыми строками, а В нулевыми столбцами с тем, чтобы в результате получились матрицы порядка п. К новым матрицам применить последний результат и сравнить два новых произведения (при подходящем блочном разбиении) с двумя старыми произведениями.
Используя лемму 1.3.8, доказать следующее обобщение. Пусть задана матрица А е Мп и XiЛа— ее различные собственные значения. Предположим, что для любого i=l, 2, ... ..., к множество {х)0, х)°, . .., x^j линейно независимо и состоит йз tit ^ 1 собственных векторов матрицы А, отвечающих собственному значению У. Доказать, что объединение множеств
{х<°, х<°хЭД и и {Х<&\ xW ..., xW)
линейно независимо. Указание. Пусть какая-то линейная комбинация равна нулю, скажем
k п1к
Используя лемму 1.3.8, показать, что yW = 0 для всех I.
Разобраться в деталях следующего (еще одного) доказательства леммы 1.3.17.
Показать, что если А, ВеМ„ коммутируют, то у них есть общий собственный вектор. Указание. Взять собственный вектор х матрицы А (х ^ 0 и Ах = Хх) и рассмотреть последовательность х, Вх, В2х, В^х, ... . В ней должен быть первый элемент, линейно зависящий от своих предшественников,—1 пусть это Вкх. Тогда подпространство S = Span {х, Вх, В2х, ... ..., /Д^'х) инвариантно относительно В и, следовательно, для некоторого ненулевого yeS имеем Ву = уу. Однако ABix — — В’Ах = В’Кх = КВ!'х, так что каждый вектор из S является в то же время собственным вектором для А.
С помощью индукции показать, что в конечном коммутативном семействе 9" = {Ai, А2, ..., Ат) все матрицы А, обладают общим собственным вектором. Указание. Пусть у=#0— общий собственный вектор для Дь А2, ..., Дт-ь Рассмотреть последовательность !/, Ату, А^у, А^у, ..., как и в п. (а).
Установить, что в коммутативном семействе 9" се Мп бесконечной мощности не может быть больше чем п2 линейно независимых матриц. Выбрать максимальное линейно независимое множество и использовать п. (Ь). Доказать, что общий собственный вектор для этого конечного множества является общим собственным вектором для всего семейства 9".
Пусть A = diag(Xi,X2, ..., Х„) имеет п различных диагональных элементов. Использовать идеи из доказательства теоремы 1.3.12, для того чтобы доказать, что равенство АВ = ВА для некоторой матрицы В е Мп выполняется в том и только в том случае, когда матрица В сама диагональна (но не обязательно с различными диагональными элементами).
Предположим, что матрица А е М„ имеет п различных собственных значений. Доказать, что если АВ = ВА для некоторой матрицы В г М„, то В диагонализуема и при этом Лив одновременно диагонализуемы. Указание. Показать, что если матрица А диагональна и A=SAS-1, то А коммутирует с S-XBS. Использовать задачу 12.
Распространить результат задачи 13 на случай произвольного коммутативного семейства 9" сг Мп, содержащего хотя бы одну матрицу с различными собственными значениями. Сравнить этот результат с теоремой 1.3.19, в которой предполагается диагонализуемость каждой матрицы, входящей в семейство 9". Будет ли этот результат более сильным?
Рассмотреть блочно-диагональную матрицу А = = diag (ЛД], Л2/2, ..., XJh) е Мп, где // еМ^, Xt ф Xt при / #= /, ^i + п2 + ... 4-nfe = n. Показать, что равенство АВ = В А для некоторой матрицы В г М„. выполняется в том и только
в том случае, когда В имеет блочно-диагональный вид В = e=diag(Bb В2, ■ В^), где Bt^Mn] U=Y 2, ..., к). Как этот результат связан с задачей 12?
Предположим, что А, В^Мп и при этом А или В не- вырожденна. Показать, что если матрица АВ диагонализуема, то и матрица ВА диагонализуема. Рассмотреть матрицы МоЬИо о] и показать, что это, вообще говоря, неверно, если обе матрицы А и В вырожденны.
Собственные векторы
До сих пор собственным значениям уделялось больше внимания, чем собственным векторам. Однако собственные векторы также важны не только ввиду их роли, связанной с диагонализуемостью, но и вследствие того, что они оказываются полезными в различных прикладных вопросах. Здесь мы несколько продвинемся в изучении собственных векторов, но начнем с дополнительного замечания по поводу собственных значений.
Утверждение. Пусть АеМп. Тогда; (а) с учетом кратностей Ат имеет те же собственные значения, что и А; (Ь) с учетом кратностей Л* имеет собственные значения, являющиеся комплексно-сопряженными к собственным значениям для А.
Доказательство. Поскольку det (/Z — Аг) = det (// — AY = = det UI — Л), имеем рАт (t) = рА (/), т. е. предложение (а) установлено. Аналогично det (tl — А*) = det Щ — А)* = det (7/ — А), вследствие чего рА* (О = рд (О, что и доказывает предложение (Ь). □
Упражнение. Показать, что если собственные векторы х, уеС" матрицы А е Мп отвечают одному и тому же собственному значению X, то и любая линейная комбинация векторов х и у представляет собой собственный вектор, отвечающий тому же собственному значению X. Вывести отсюда, что множество всех собственных векторов, отвечающих одному Хец(А), вместе с вектором 0 образует подпространство в С".
- Упражнение. Показать, что подпространство, описанное в предыдущем упражнении, есть не что иное, как нуль-пространство матрицы А — XI.
Определение. Пусть заданы А е М„ и Хец(А). Множество всех векторов х Е С", удовлетворяющих соотношению Ах = Хх, называется собственным подпространством матрицы А, отвечающим собственному значению X. Заметим, что всякий ненулевой элемент из собственного подпространства является собственным вектором для А, отвечающим X. "
Упражнение. Доказать, что собственное подпространство матрицы А, отвечающее некоторому собственному значению X, является Л-инвариантным; обратное неверно. Доказать, что любое минимальное Л-инвариантное подпространство (не содержащее никакого нетривиального Л-инвариантного подпространства строго меньшей размерности) представляет собой линейную оболочку, натянутую на какой-то один из собственных векторов матрицы А. Указание. Использовать идеи из доказательства леммы 1.3.17, считая, что ^ = {А).
Пусть найдено какое-то собственное значение матрицы А е Мп. Тогда теоретически (хотя и не всегда практически) простой способ вычисления соответствующего собственного вектора заключается в отыскании решения линейной системы
(Л - XI) х = 0.
Множество всех ее решений составляет собственное подпространство.
Определение. Размерность собственного подпространства матрицы A е Мп, отвечающего собственному значению X, называется геометрической кратностью собственного значения X. Кратность числа X как корня характеристического многочлена рд(/) (с этой кратностью мы постоянно имели дело до сих пор) называется алгебраической кратностью собственного значения X. Вообще говоря, это два разных понятия. Если термин кратность используется без какого-либо уточнения, то обычно имеется в виду алгебраическая кратность. Мы будем придерживаться этой договоренности.
Заметим, что геометрическая кратность есть не что иное, как максимальное число линейно независимых собственных векторов, отвечающих данному собственному значению.
Упражнение. Доказать, что геометрическая кратность собственного значения X для всех A е ЛД никогда не превышает (и может быть меньше) его алгебраической кратности. Если алгебраическая кратность не меньше 1, то и геометрическая кратность не меньше 1. Указание. Обозначим через k геометрическую кратность собственного значения X и возьмем какую- либо невырожденную матрицу S е ЛД, в которой первые k столбцов составляют линейно независимые собственные векторы матрицы А, отвечающие X. С помощью рассуждений наподобие тех, что были использованы в доказательстве теоремы 1.3.7, показать, что матрица S-171S имеет вид [ ^-р;-], где 1еМь Вывести отсюда, что алгебраическая кратность X не меньшей.
Определения. Матрица АеМп> для которой геометрическая кратность каких-то собственных значений строго меньше их алгебраической кратности, называется дефектной. Если для= каждого собственного значения геометрическая кратность совпадает с алебраической кратностью, то А называется недефектной. Если всякое собственное значение матрицы А е Мп имеет геометрическую кратность 1 (независимо от алгебраической кратности), то А называется простой. Все эти определения являются классическими, но в настоящее время используются не очень широко. -
Заметим, что простая недефектная матрица — это матрица с различными собственными значениями. Далее, матрица диа- гонализуема тогда и только тогда, когда она является недефектной. Это есть не что иное, как еще одна формулировка леммы 1.3.7, подчеркивающая необходимость существования для каждого собственного значения достаточного числа линейно независимых отвечающих ему собственных векторов.
Пример. Несмотря на то что А и Ат имеют одни и те же собственные значения, их собственные векторы, отвечающие данному собственному значению, могут сильно различаться. Например, для матрицы .
имеется одномерное собственное подпространство, отвечающее собственному значению 2, и оно натянуто на вектор [„]. В то же время соответствующее собственное подпространство матрицы Ат натянуто на вектор [_з/2].
Упражнение. Проверить утверждения примера 1.4.5.
Ясно, что теорию собственных значений и собственных векторов, которую мы развивали до сих пор, можно было бы развивать параллельно для умножения матриц слева на векторы- строки. Собственные значения при этом были бы те же самые, а собственные векторы, вообще говоря, другие (даже если строки рассматривать как столбцы и наоборот).
Определение. Ненулевой вектор уеС" называется левым собственным вектором матрицы АеЛД, отвечающим Хе е о(А), если
у* А = Ху*.
При необходимости вектор х из соотношения (1.1.3) мы будем для ясности называть также правым собственным вектором.
Если контекст не допускает неоднозначного толкования, то мы будем, как и ранее, говорить об х как о собственном векторе.
Упражнение. Показать, что любой левый собственный вектор у, отвечающий собственному значению X матрицы АеМп, является правым собственным вектором матрицы А*, отвечающим X, и при этом у есть правый собственный вектор матрицы Аг, отвечающий X. Показать на примере, что даже в случае AeM^R) правый и левый собственные векторы могут не совпадать.
Напомним (см. разд. 0.6.2), что два вектора х, у е Сп называются ортогональными, если у*х = 0. Следующий результат известен как принцип биортогональности.
Теорема. Для матрицы АеМп и чисел X, цес(Л), где X =И= щ любой левый собственный вектор, отвечающий ц, ортогонален любому правому собственному вектору, отвечающему X.
Доказательство. Пусть уеС"— левый собственный вектор матрицы А, отвечающий ц, и хе С"— ее правый собственный вектор, отвечающий X. Вычислим у*Ах двумя способами:
у*Лх = у*(Хх) = Х(у*х), ' у*Ах = (цу*) х = ц (у*х).
Поскольку X =/= ц, то получить равенство Ху*х = цу*х возможно, лишь когда у*х = 0. Таким образом, векторы х и у ортогональны. □
Упражнение. Показать, что если А* = А е МП, т. е. матрица А эрмитова, и все ее собственные значения различны, то А имеет п попарно ортогональных (правых) собственных векторов. Напомним, что, согласно задаче 8 из § 1.1, все собственные значения матрицы А вещественны. Указание. Вследствие того что Л* = Л, левые собственные векторы совпадают с правыми собственными векторами. Применить теорему 1.4.7.
В следующей главе мы увидим, что в утверждении из этого упражнения предположение о том, что собственные значения различны, не является необходимым.
Теперь отметим, что есть простой закон преобразования собственных векторов при переходе к подобной матрице. Собственные значения, конечно, при этом не изменяются.
1.4.8. Теорема. Пусть матрицы А, В е МП таковы, что В подобна А и преобразование подобия осуществляется матрицей
Тогда если х^Сп — собственный вектор для В, отвечающий Хе а(5), то Sx— собственный вектор для А, отвечающий собственному значению X.
Доказательство. Вследствие равенств B = S-1AS и Вх = Хх имеем S-MSx = Хх, или Л5х = XSx. Поскольку матрица S не- вырожденна и х=#0, получаем Sx=#0 и, следовательно, Sx есть собственный вектор матрицы А. □
Упражнение. Проверить, чтоУпражнение. Проверить, чтое = [1,1,1]г есть собственныйе = [1,1,1]г есть собственный
Упражнение. Проверить, что
Упражнение. Проверить, что
е = [1,1,1]г есть собственный
е = [1,1,1]г есть собственный
вектор матрицы
А =А =- 13-2- 13-22 3-
А =
А =
- 1
3
-2
- 1
3
-2
2 1
3 1 -
Пусть D = diag(l, 2,3). Для матрицы D~lAD найти собственный вектор, имеющий положительные компоненты.
В заключительной части этого параграфа мы покажем, что собственные векторы можно использовать для получения информации о собственных значениях главных подматриц. Эта информация позволяет дать еще одно доказательство неравенства между геометрической и алгебраической кратностями собственного значения.
Теорема. Пусть заданы матрица А^Мп, ее собственное значение Хе С и произвольное целое положительное А 1. Рассмотрим следующие три высказывания; ■
X— собственное значение матрицы А геометрической кратности не меньше А;
X является собственным значением любой главной подматрицы А е Мт матрицы А, если т>п — А;
' (с) X — собственное значение матрицы А алгебраической кратности не меньше А.
Тогда (а) влечет за собой (Ь) и (Ь) влечет за собой (с). В частности, алгебраическая кратность собственного значения не меньше его геометрической кратности. '
Доказательство. Предположим, что (а) имеет место и рассмотрим в А произвольную главную подматрицу Л е Мт, считая, что т~> п — к. Не ограничивая общности, будем считать, что Л находится в левом верхнем углу матрицы А (с помощью перестановок можно перейти к подобной матрице и воспользоваться теоремой 1.4.8), Пусть собственному значению X отвечают линейно независимые собственные векторы щ, ..., vh. Матрицу А и каждый из векторов щ представим в блочном
Векторы wi, ..., Wk линейно зависимы, так как это к векторов виде:
Л = Р *1, АеМт;
L * * J
, ui = С , w, = С ,<=1, 2, .... к.
в пространстве размерности п— т<п— (п — к') = к. Значит, существуют скаляры aia& е С, такие, что ai^i + ... ... + aft®ft = 0, и при этом не все эти скаляры нулевые. Получаем v = «!»!+ ... + ак«к = [ о ] ^ 0, где и = а^ + ... ... + afeUk^O и Ду = Хи. Последнее равенство запишем в блочной форме:
Как видим, X есть собственное значение для Л, что и утверждается в п. (Ь).
Теперь допустим, что (Ь) имеет место. Вспомним соотношение (1.2.13), связывающее производную характеристического многочлена Рд(0 с характеристическими многочленами рА{ (t) для п главных подматриц Дь ..., Ап матрицы А. При А = 1 доказывать нечего. Если k> 1, то (Ь) утверждает, что X является собственным значением для Ai при всех i и потому РдгМ==^ для всех z и Рд(^) = 0- Если к > 2, то, дифференцируя (1.2.13), находим
p'kW-lp'^.t=i >p'kW-lp'^.t=i >(1.4.10)(1.4.10)
p'kW-lp'^.
t=i >
p'kW-lp'^.
t=i >
(1.4.10)
(1.4.10)
Используя (1.2.13), заменим каждую производную в правой части на сумму характеристических многочленов главных подматриц матриц Ai. Поскольку любая главная подматрица в А,, полученная вычеркиванием одной строки и одного столбца, является также главной подматрицей порядка п — 2 в А, то предложение (Ь) и соотношение (1.2.13), применяемые ко всем подматрицам А^ позволяют заключить, что р" (А) = 0. Повторное использование тех же доводов показывает, что кратные производные р^(^) обращаются в нуль для / = 0, 1, ..., к — 1. Следовательно, для X алгебраическая кратность не меньше к. □
Задачи
Доказать, что матрица А е Мп имеет ранг 1 в том и только в том случае, когда
А ху*
для каких-то ненулевых векторов х, у е С". Показать, что: (а) такая матрица А обладает, самое большее, одним ненулевым собственным значением (алгебраической кратности 1); (Ь) это собственное значение есть у*х; (с) х и у — соответственно правый и левый собственные векторы, отвечающие этому собственному значению. Какова геометрическая кратность собственного значения О?
Доказать, что любую матрицу А е Мп ранга к можно записать в виде
А = xwyw* + ... + x^yW*,
где xw, i/‘1ECri (/=1, ..., к), т. е. А выражается суммой к матриц ранга 1. Указание. Найти к линейно независимых строк и столбцов и использовать тот факт, что через них можно выразить все остальные строки и столбцы.
Предположим, что Т е Мп— верхняя треугольная матрица с различными собственными значениями /цtnn, которые расположены на диагонали от левого верхнего угла к правому нижнему. Показать, что числу tu отвечает правый собственный вектор матрицы Т, в котором последние п — i компонент нулевые, и левый собственный вектор матрицы Т, в котором первые i— 1 компонент нулевые. Что будет, если не все 1ц различны?
Показать, что для матрицы (1.2.7b) (единственное) собственное значение 1 имеет геометрическую кратность 1. Описать соответствующее собственное подпространство.
Рассмотреть блочно-треугольную матрицу
[
Ан Ai2 1
" / , Айе Мп.. /=1, 2.
и /122 J
Доказать, что ее собственными значениями являются собственные значения матрицы Ли вместе с собственными значениями матрицы Д22 с учетом кратностей. Пусть хе С"1—правый собственный вектор для Аи, отвечающий Леа(Ап), и у е е СП2 — левый собственный вектор для Д22, отвечающий р е еа(Л22). Доказать, что векторы [„], [° ] е СП1+П2 — правый и левый собственные векторы для А, отвечающие соответственно к и р. Что можно сказать о левом и правом собственных векторах матрицы А, отвечающих соответственно к и р? Нельзя ли
обобщить эти утверждения на случай блочно-треугольных матриц с произвольным числом блоков на диагонали?
Предположим, что для какого-то собственного значения матрицы А г Мп геометрическая кратность равна 1 и ему отвечают левый и правый собственные векторы с положительными компонентами. Доказать, что А не имеет никаких других собственных векторов с неотрицательными компонентами, кроме кратных данным.
В этой задаче мы набросаем схему степенного метода нахождения наибольшего собственного значения и соответствующего собственного вектора для A е Мп. Мы сделаем некоторые упрощающие предположения и только упомянем аналитические детали, которые можно было бы описать вполне точно. Предположим, что А г Мп имеет различные собственные значения Хц ..., Х„ и в точности одно из них — именно Хп— обладает наибольшим модулем, равным р(Л). Пусть вектор .t^-GC" не ортогонален левому собственному вектору, отвечающему Хп. Показать, что в этом случае последовательность
Д*+1) =1— ддб) & = 0, 1, 2, ...
сходится к собственному вектору матрицы А, а отношения одноименных ненулевых компонент последовательных векторов AxW и Д*> сходятся к Хп. Указание. Не ограничивая общности, можно считать, что Хп = 1. Пусть у^Х ..., yW — линейно независимые собственные векторы, отвечающие Хц ..., Хп. Вектор Д°> допускает единственное разложение
ДО = аху№ + ... + anyW,
где ап #= 0. Заметим, что с точностью до скалярного множителя вектор xW имеет вид OjX^1) + ... + о-пХ^у№. Поскольку | X,-1 < 1, имеем | Xz |ft—>0 Ц—\,...,п — 1), и эта сумма сходится к вектору, пропорциональному вектору у^Х
При помощи степенного метода можно вычислить не только максимальное, но и остальные собственные значения (и собственные векторы). Для этого используется редукция задачи, называемая понижением порядка или исчерпыванием; она приводит к некоторой квадратной матрице, которая имеет порядок на 1 меньше и собственные значения которой совпадают с остальными собственными значениями матрицы A е Мп. Пусть Хп и yW — собственное значение и собственный вектор для А (вычисленные посредством степенного метода или как-то иначе), и пусть матрица SeM„ невырожденна и ее первый
столбец есть yW. Доказать, что
и Д1 е Ain—1 имеет собственные значения Ль ,.,, Лп-1 в обозначениях задачи 7. Другие собственные значения можно вычислить, работая с Л] и проводя повторное понижение порядка и т. д.
Пусть А е Мп имеет собственные значения Ль ..., Лп-ьО, так что гапкЛ^п—1. Предположим, что последняя строка в А является линейной комбинацией остальных строк.
В случае когда А имеет вид
Г 4ц 012 ^= т L а21а22
где Ап г Мп_х, показать, что для некоторого вектора b г С"-1 выполняются равенства
а21 = ЬТАП- а22 = ЬТаХ2-
Найти связь вектора Ь с левым собственным вектором матрицы А, отвечающим собственному значению 0.
Доказать также, что собственными значениями матрицы Ли + аХ2Ьт е Л4„_1 являются Ль ..., Лл-ь Указание. Рассмотреть для А преобразование подобия, осуществляемое матрицей
/01
Ьт 1
Заметим, что это еще один способ понижения порядка, так как здесь также строится матрица меньшего порядка, обладающая остающимися собственными значениями. Если найдено какое-то собственное значение Л матрицы А, то процесс, описываемый в этой задаче, можно применить к матрице Р(Л— Л/)Р-1, где Р—подходящая матрица перестановки.
Пусть матрица Т е Мп невырожденна и ее столбцы являются левыми собственными векторами матрицы А е Мп. Доказать, что столбцы матрицы (Г*)-1— это правые собственные векторы для А.'
Глава 2
УНИТАРНАЯ ЭКВИВАЛЕНТНОСТЬ И НОРМАЛЬНЫЕ МАТРИЦЫ
Здесь изучается специальный тип преобразований подобия, тесно связанный с многими вопросами из области приложений матричного анализа.
2.0. Введение
В гл. 1 мы провели первоначальное изучение подобия, осуществляемого произвольной невырожденной матрицей S е Мп. Теперь среди невырожденных матриц S мы выделим весьма специфические — так называемые унитарные матрицы, для которых обратная матрица выражается очень просто: S-1 = S*. Подобие A->S*AS (ЛеМл), осуществляемое унитарной матрицей, отличается не только тем, что его легче изучать по сравнению с общим преобразованием подобия (S* намного проще определяется, чем S-1). Оно обладает, помимо этого, многими привлекательными особенностями, которые прояснятся в ходе изучения. Как правило, унитарное подобие предпочтительнее обычного подобия, и потому полезно знать, что же именно можно получить при помощи унитарного подобия. Классы эквивалентности, связанные с унитарным подобием, однако, уже, чем для обычного подобия (две матрицы могут быть подобными и не быть унитарно подобными)-—в этом смысле обычное подобие имеет более богатые возможности. По этой причине мы еще вернемся к дальнейшему его изучению в гл. 3
Преобразование 4->SMS (Ле ЛК), где предполагается, что S невырожденна, но не обязательно унитарна, называется преобразованием эрмитовой конгруэнтности и будет изучаться в гл. 4. Это преобразование также задает на Мп некоторое отношение эквивалентности и обладает многими привлекательными свойствами (иными, чем подобие). Важно отметить, что преобразование подобия, осуществляемое унитарной матрицей, является одновременно преобразованием подобия и преобразованием эрмитовой конгруэнтности, и любое преобразование, сочетающее в себе эти свойства, будет не чем иным, как унитарным подобием.
Унитарные матрицы
Определение. Напомним, что векторы хь ...,xteC” образуют ортогональное множество, если х*х/ = 0 для всех г, /, где 1 ^г </^й. Если к тому же сами векторы нормированы, т. е. х*х; = 1 (/=1, ..., k), то такое множество называется ортонормированным.
Упражнение. Доказать, что для любого ортогонального множества {t/i, ..., у^ ненулевых векторов множество {хь ... ,х6}, где xt = (у^^12yt О'=1й),будет ортонормированным.
Теорема. Любое ортонормированное множество линейно независимо.
Доказательство. Возьмем ортонормированное множество {xixfe) и запишем 0 = aiXi + ... + а^. Вследствие ортогональности векторов xt получаем
О = 0*0 = X а,а,х*Х; = X I а, Р х*х,/, / 11 1
и, поскольку векторы xt нормированы, находим, что 6к
Г=°-
Таким образом, а,=0 для всех I и, следовательно, множество {xiх^ линейно независимо. □
Упражнение. Доказать, что любое ортогональное множество ненулевых векторов линейно независимо.
Упражнение. Доказать, что для любой ортогональной системы Xi, ..., Xk е Сл либо к ^ п, либо по меньшей мере к — п векторов х, равны нулю.
Произвольное линейно независимое множество, конечно, не обязано быть ортонормированным. Однако, применяя процесс Грама — Шмидта (см. разд. 0.6.4), можно построить ортонормированное множество, имеющее ту же линейную оболочку, что и исходное множество.
Упражнение. Показать, что любое й-мерное вещественное или комплексное векторное пространство имеет ортонормиро- ванный базис (т. е. базис, являющийся ортонормированным множеством).
Определение. Матрица U е Мп называется унитарной, если U*U = i. Если к тому же UeMnW, то U называется вещественной ортогональной.
Унитарные матрицы образуют в Мп весьма примечательное и важное множество. В теореме 2.1.4 мы перечислим некоторые условия, эквивалентные унитарности матрицы U.
Упражнение. Пусть матрица А е ЛД невырожденна и мат* рица В (= Мп такова, что ВА = 1. Доказать, что: (а) В определяется однозначно; (Ь) имеет место равенство АВ = /. Конечно, при этом мы пишем В=А-1. Указание. Вследствие невырожденности матрицы А каждое из уравнений Ах = у и хтА = ут имеет единственное решение для любого вектора у е С”. Рассматривая соответственно столбцы и строки, установить, что уравнения ABR = I и BLA = I имеют единственные решения BL, В6еМл. Затем вычислить BLABR двумя способами и отсюда вывести, что BL = BR.
Теорема. Пусть U ^ Мп. Следующие предложения эквивалентны;
U унитарна;
U невырожденна и U* = U~x;
^ UU* = I;
U* унитарна;
столбцы в U образуют ортонормированное множество^
строки в U образуют ортонормированное множество;
для любого вектора хеС евклидова длина вектора у = Ux равна евклидовой длине вектора х, т. е. у*у = х*х.
Доказательство. Предложение (а) влечет за собой (Ь), так как матрица LH (при условии, что она существует) — это единственная матрица, при умножении на которую слева получается /; определение унитарности гарантирует, что U*— именно такая матрица. Поскольку BA — I тогда и только тогда, когда АВ = I кА,ВгМ,д, из предложения (Ь) следует (с). Поскольку ^С*У = U, в п. (с) записано не что иное, как определение унитарности матрицы U*. Поэтому (с) влечет за собой (d). Для каждой из этих импликаций обращение проводится аналогично. Итак, предложения (а) — (d) эквивалентны.
Механика матричного умножения такова, что если и^ обозначает t-й столбец в U (i = 1, ..., ц), то равенство U*U = 1 означает, что
( 0, если / * L
1, если 1 = 1.
Таким образом, равенство U*U = 1 есть еще одно выражение факта ортонормированное™ столбцов матрицы U. Поэтому (а) Эквивалентно (е). Аналогично (d) эквивалентно (f).
Пусть имеет место (а) и y=Ux. Тогда у*у = x*U*Ux = = х*1х = х*х, так что (а) влечет за собой (g). Чтобы устано-
вить обратное, потребуются несколько более сложные вычисления. Впрочем, впоследствии в нашей книге появится техника, которая поможет несколько проще установить этот факт. Сначала рассмотрим случай и = 2. Предположим, что имеет место '(g), и возьмем х =[i]. Имеем 1 = х* х = у* у = x'U'Ux и это есть не что иное, как элемент матрицы U*U в позиции (1,1). Аналогично, полагая х = [ ° ], находим, что в позиции (2,2) матрица U*U также содержит 1. Значит, матрица U*U должна иметь вид
1 а 1а 1 J’
где а — скалярное произведение 1-го и 2-го столбцов и а — ска
лярное произведение 2-го и 1-го столбцов матрицы U. Полагая х = [ } ], в силу (g) имеем 2 = х‘ х = у‘у = x‘U*Ux = 2A-(aA-a').
Полагая х = [*. ], получаем 2 = 2 4- I (а — а). Таким образом,
a + a = 2Rea = 0 и а — а = 21 Im а = 0. Следовательно, а = 0. Это означает, что если для всех хеС2 выполняется-равенство x*U*Ux = х*х, то U*U = 1, т. е. матрица U унитарна (если U G М2). Теперь рассмотрим ц>2 и положим А — lTlk Возьмем вектор х е Сга, у которого все компоненты нулевые, кроме z-й и /-й (i^j). Тогда
х*Ах = \х(, xj А({«, /})х*Ах = \х(, xj А({«, /})х, .Хух, .Ху
х*Ах = \х(, xj А({«, /})
х*Ах = \х(, xj А({«, /})
х, .Ху
х, .Ху
'(обозначения см. в разд. 0.7.1), и уже доказано, что (g) влечет за собой A((t", j})=I е М2. Поскольку / и j произвольные, заключаем, что в А любая главная подматрица порядка 2 совпадает с единичной матрицей порядка 2. Единственная матрица А е М„ с этим свойством — единичная матрица порядка п. Случай м = 1 очевиден. Таким образом, из (g) следует (а), что и завершает доказательство. □
Определение. Предложение (g) теоремы 2.1.4 показывает, что унитарные матрицы являются изометричными— так называют линейные преобразования, сохраняющие евклидову длину. В гл. 5 будут обсуждаться другие способы определения «длины» и отвечающие им другие типы изометричных преобразований.
Упражнение. Рассмотрим матрицу
7(6) =7(6) =" cos 9 sin 9
7(6) =
7(6) =
. — sin 9 cos 9
где 9 — вещественный параметр.
Доказать, что матрица (7eM2(R) будет вещественной ортогональной тогда и только тогда, когда U = 7(6) или
01Jr(6)01Jr(6)
01
Jr(6)
01
Jr(6)
для некоторого 6 е R.
Доказать, что матрица 5'gA^IR) будет вещественной ортогональной тогда и только тогда, когда U = 7 (6) или
и =и =0 1 11 oW0 1 11 oW
и =
и =
0 1 1
1 oW
0 1 1
1 oW
для некоторого 6g R. Таким образом, для вещественных ортогональных 2 Х2-матриц получаем два разных представления, использующих параметр 6. Найти для них геометрическую интерпретацию
Утверждение. Для любых унитарных (вещественных ортогональных) матриц U, V е Мп произведение UV является также унитарной (вещественной ортогональной) матрицей.
Упражнение. Доказать утверждение 2.1.6, используя предложение (Ь) теоремы 2.1.4.
Упражнение. Доказать, что если множество {хх, х2, ... ..., х.^еС" ортонормированное и матрица UeM, унитарна, то множество {UxyUxk) тоже ортонормированное.
Утверждение. Множество унитарных (вещественных ортогональных) матриц в Мп образуют группу. Обычно эту группу называют унитарной (ортогональной) группой размерности п. Она является подгруппой в GL(n,C) (см. § 0.5).
Упражнение. Напомним, что группа — это множество, замкнутое относительно какой-то одной ассоциативной бинарной операции (умножения) и такое, что в нем содержится нейтральный элемент и обратные ко всем элементам этого множества относительно рассматриваемой операции. Доказать утверждение 2.1.7. Указание. Замкнутость следует из утверждения 2.1.6; умножение матриц ассоциативно; матрица / е Мп унитарна; матрица U* = U-x также унитарна.
Множество (группа) унитарных матриц из Мп имеет еще одно очень важное свойство. Мы будем использовать понятия «сходимости» и «предела» для последовательности матриц, соотнося их со сходимостью и пределом для числовых последова-.. тельностей, отвечающих каждой позиции (i,j). Более точно эти понятия будут определены в гл. 5. Из определения унитарности U*U = I вытекает, что в U каждый столбец имеет евклидову
длину 1 и потому любой элемент щ, / матрицы U = [щ, /] по модулю не превосходит 1. Рассматривая множество унитарных матриц как подмножество в Сп, приходим к выводу об ограниченности этого подмножества. Пусть имеется последовательность унитарных матриц ^ = [и№] (£=1, 2, ...) и для нее существуют пределы Игл и^ = и$ для всех I, j=l, 2п. Тогда так как равенство U*kUк = I выполняется для всех к = = 1, 2то lim U'lJb == I, где t7n = [иРЛ. Таким обра-
*К» Rи UVI J*
зом, предельная матрица Uo также унитарна. Это говорит о том, что множество унитарных матриц является в Сп замкнутым подмножеством.
Замкнутое и ограниченное подмножество в конечномерном евклидовом пространстве является компактным (см. приложение Е). Вследствие этого множество (группа) унитарных- матриц в Мп компактно. Для наших целей наиболее важное следствие этого факта — следующий принцип выбора для унитарных матриц.
Лемма. Пусть в Мп задана произвольная последовательность унитарных матриц Uy, UiТогда в ней можно выбрать подпоследовательностей ь„ Uh2) .... такую, что все элементы матриц Uh. сходятся (как последовательности комплексных чисел') при i^>-oo к элементам некоторой унитарной матрицы Uq.
Доказательство. Все, что здесь требуется, вытекает из того факта, что из произвольной бесконечной последовательности в каком-либо компактном множестве всегда можно выбрать сходящуюся подпоследовательность. Как уже отмечалось, если последовательность унитарных матриц сходится к какой-то матрице, то эта предельная матрица должна быть унитарной. □
В лемме ничего не говорится по поводу единственности получаемой в пределе унитарной матрицы; в действительности она зависит от выбранной подпоследовательности.
Упражнение. Рассмотреть последовательность унитарных матриц
го 1
^ = [ 1 о] ’ * = 2
и показать, что здесь имеются два возможных предела подпоследовательностей.
Упражнение. Принцип выбора 2.1.8 остается в силе и для ортогональной группы, т. е. всякая последовательность веще-
ственных ортогональных матриц имеет подпоследовательность, сходящуюся к вещественной ортогональной матрице. Доказать это с помощью той же логической схемы, но для вещественного случая.
Компактность унитарной группы понадобится при решении задачи 3 в следующем параграфе. В дальнейшем встретятся и другие возможности ее использования.
Если U унитарна, то LH совпадает с U*. Рассмотрим такие матрицы U, для которых U-x подобна U*— это одно из обобщений понятия унитарной матрицы. Все множество таких матриц можно легко охарактеризовать как область значений отображения Л->-Л-1Л* для всех невырожденных матриц Л г Мп.
Теорема. Пусть матрица Л г М„ невырожденна. Тогда Л-1 подобна Л* в том и только в том случае, когда Л = В-1Ве для некоторой невырожденной матрицы В г Мп.
Доказательство. Пусть матрица В г Мп невырожденна и— А = В"ХВ*. Тогда А"Х = <ВТХВ и В* А-1 (ВТ' = В (В*)-1 = = (В-1В‘) = Л’, так что Л-1 подобна А* и это подобие осуществляется трансформирующей матрицей В*. Обратно, если Л~* подобна ' Л*, то ВЛ-1В-1 = Л* для какой-то невырожденной матрицы 5гМп. Положим Sa = ei9S, где 6eR, и заметим, что ВоЛ-1^1 = е‘9ВЛ-1 (е-19В-1) = ВЛ-1В-1 = А*. Но тогда В9 = Л*В9Л и В9 = Л’В9Л. После сложения этих двух равенств получим Н9 = А*Н6А, где матрица //9 = S9 + S9 эрмитова. Если матрица HQ вырожденка, то 0 = HQx = SQx + S*Qx для некоторого ненулевого вектора хеС'1, так что—х = Вд^Вех = = e~2‘eS~xS*x и S-xS*x =— е219х. Если выбрать 0 = 0og[O, 2л] таким, чтобы число — е2'00 не являлось собственным значением для В-1В*, то соответствующая эрмитова матрица Н = Иа, будет невырожденной и при этом Н = А*НА.
Теперь возьмем любое комплексное число а, считая, что |а|=1 и а не является собственным значением для Л*. Положим В = Р(а/ — Л*)//, где комплексное число р =# О— это параметр, который еще нужно определить. Заметим, что матрица В невырожденна. Мы хотим получить равенство Л = В-1В*, или ВА = В*. Вычислим В* = //(Ра/—рЛ) и ВЛ =Р(а/ — A*)HA = = Р(а//Л — А*НА')= Р(а//Л—//) = В(арЛ — р/). Все будет доказано, если мы сможем выбрать такое ненулевое р, для которого р = —Ра. Если а = е*1^, то р = e<(”-,'l’)/2. □
Задачи
Доказать, что если матрица U е Мп унитарна, то ]det (71= 1.
Доказать, что если Хе а((7) и матрица I) е Мп унитарна, то |Х|=1. Указание. Использовать свойство изометричности (п. (g) теоремы 2.1.4).
Показать, что для любых вещественных 6Ь 62, ..., 0„ матрица
U = diag (е1®1, е'®2, ..., ez®n) унитарна.
Охарактеризовать диагональные вещественные ортогональные матрицы.
Показать, что в М„ матрицы перестановок (см. разд. 0.9.5) являются ортогональными и образуют подгруппу (т. е. подмножество, которое само есть группа) в группе вещественных ортогональных матриц. Сколько в Мп различных матриц перестановок?.
Нельзя ли получить какое-либо параметрическое представление для ортогональной группы размерности 3? Вспомнить два представления для ортогональной группы размерности 21).
Разобраться в деталях следующего доказательства того, что в теореме 2.1.4 (g) влечет за собой (а). Показать, что вследствие (g) х* (U*U— /)х = 0 для любого хе(Л Положить Нг U*U — I и заметить, что Н = Н*. Рассмотреть равенство 0 = (х + е^ууН^х + е‘^у), справедливое для всех х, у ^ Сп и для всех 0е R. Получить более общее равенство х*Ну = 0, справедливое для всех х, у е Сп. Вывести отсюда, что Н = 0 (при помощи подходящего выбора пар векторов х и у).
Матрица А е Мп, такая, что ААТ = 1, называется ортогональной. Вещественная ортогональная матрица всегда унитарна, а невещественная ортогональная матрица может и не быть унитарной.
Пусть
Г 0 и^”[-1 0]eM2(R).
Показать, что матрица Л (/) = (ch/)/-]-/(sh/)/( Е Л12 будет ортогональной для всех (eR, но унитарной Л(/) будет лишь при / = 0. Здесь ch / = (е( + е_/)/2, sh/=(e/— е-,)/2— так называемые гиперболические функции.
Показать, что в отличие от унитарных матриц множество комплексных ортогональных матриц не является ограниченным, а значит, не является и компактным.
’) См. упражнение после определения 2,1.5.— Прим, перво.
Показать, что, как и в случае унитарных матриц, множество комплексных ортогональных матриц одного порядка образует группу. Несмотря на это, термин «ортогональная группа» обычно используется по отношению к менее широкой (и компактной) группе вещественных ортогональных матриц одного порядка.
Доказать, что если матрица АеМп ортогональна, то |det А|= 1, но А может иметь собственные значения X, такие, что |Х|#=1. Указание. Рассмотреть матрицу А(/) из и. (а) и показать, что |М^)| может быть как угодно большим.
Доказать, что если матрица АеМп ортогональна, то матрицы А, Ат и А* тоже ортогональны и при этом матрица А невырожденна. Верно ли, что строки или столбцы матрицы А образуют ортогональное множество?
Охарактеризовать диагональные ортогональные матрицы. Ср. с задачей 4.
Чтобы избежать путаницы, некоторые авторы, говоря об ортогональных и не обязательно вещественных матрицах, называют их комплексными ортогональными матрицами, хотя это и нельзя считать общепринятым. Термин ортогональная матрица иногда означает то, что здесь называется зеицестзенной ортогональной матрицей.
Доказать, что если матрица U еМп унитарна, то и матрицы U, UT и U* унитарны.
Пусть матрица U е Мп унитарна. Доказать, что в этом случае для ортогональности векторов х, ye С" необходимо и достаточно, чтобы векторы Ux, Uy были ортогональны.
Если матрица АеМп такова, что А-1 =—Ат, то ее можно было бы называть косоортогональной. Доказать, что ко- соортогональность матрицы А эквивалентна ортогональности матрицы +/А.' Более общо, показать, что для 9eR равенство А-1 = еюАт выполняется в том и только в том случае, когда матрица е‘9/2А ортогональна. Что это за матрица, если 0 = л или 0 = 0?
Доказать, что если АеМп подобна какой-либо унитарной матрице, то А-1 подобна А*.
Рассмотреть матрицу diag(2, */2)sМ2 и показать, что множество матриц, подобных унитарным матрицам, является собственным подмножеством множества матриц А, для которых А-1 подобна А*.
Показать, что в Мп пересечение группы унитарных матриц с группой комплексных ортогональных матриц совпадает с группой вещественных ортогональных матриц. Указание. Записать U=A-\-iB, где U, А, Be Мп и матрицы А, В вещественные. Показать, что если U— одновременно унитарная и комп-
лексная ортогональная матрица, то ВТВ=О и, следовательно, (Ве,)г(Ве,) = 0 для каждого единичного вектора е,-е R" из стандартного базиса. Поэтому любой столбец в В нулевой.
Дополнительная литература
Дальнейшие сведения об обобщенных унитарных матрицах, удовлетворяющих условиям теоремы 2.1.9, можно найти в работе DePrima С. R., Johnson С. R. The Range of Д-1Д* in GL ^n, C).— Linear Alg. and Appl., 1974, v. 9, p. 209—222.
Унитарная эквивалентность
Для унитарной матрицы U преобразование A->-U*AL\ определенное на Мп, является подобием, так как в силу унитарности U* = U~x. Этот специальный тип подобия называется унитарным подобием или унитарной эквивалентностью.
2.1. Определение. Матрица В g Мп называется унитарно эквивалентной матрице АеМп, если найдется унитарная матрица U е Мп, такая, что В = U*AU. Если U можно выбрать вещественной (а значит, вещественной ортогональной), то В называется (вещественно) ортогонально эквивалентной матрице А.
Упражнение. Доказать, что унитарная эквивалентность является отношением эквивалентности.
2.2. Теорема. Для унитарно эквивалентных матриц А = — [ощ] и В = [Ь,/] из Мп имеет место равенство
2 1М2= 2 W.
Доказательство. Заметим, что 2 | а^ |2 = tr А*А (в силу опре- i, i
деления матричного умножения). Таким образом, достаточно убедиться в том, что tr B*B = tr А*А. Поскольку B = U*AU, то tr В*В = tr U*A*UU*AU = tr U*A*AU = tr А*А (нужно учесть, что след является инвариантом преобразования подобия). □
Упражнение. Теорема 2.2.2 показывает, что trA*A—это инвариант унитарного подобия. Придумать другое доказательство теоремы 2.2.2, в котором не рассматривается матрица А*А, а вместо этого используется неизменность евклидовой длины при умножении вектора на унитарную матрицу (этот факт установлен в § 2.1). Заметим, что если матрица умножается на какую- то матрицу слева, то в результате происходит умножение ее столбцов, а если она умножается справа, то происходит умножение ее строк.
Упражнение. Показать, что матрицы
3 1-2 О3 1-2 О
3 1
-2 О
3 1
-2 О
подобны, но не унитарно эквивалентны.
Подобие следует из унитарной эквивалентности, но не наоборот. Поэтому по отношению унитарной эквивалентности Мп разбивается на более мелкие классы, чем по отношению подобия. Унитарное подобие, как и обычное подобие, соответствует изменению базиса, но это изменение специального типа — от одного ортонормированного базиса к другому. При ортонормиро- ванном изменении базиса не изменяется сумма квадратов модулей элементов матрицы, но она может изменяться при неор- тонормированном изменении базиса. С вычислительной точки зрения унитарная эквивалентность более проста для реализации по сравнению с подобием, так как транспонирование и комплексное сопряжение выполняются намного проще, чем обращение матрицы. При наличии ошибок округления при этом обеспечивается лучшая точность. Поэтому унитарная эквивалентность имеет преимущества и с точки зрения численной реализации. Строгое объяснение здесь не приводится, однако интуитивно понятно, что оно опирается на факт сохранения длины при умножении на унитарную матрицу. .
Рассмотрим два специальных (и очень простых) типа унитарных матриц, которые осуществляют преобразования унитарной эквивалентности, весьма важные для вычисления собственных значений.
2.2.3. Пример: плоские2.2.3. Пример: плоскиевращения. Пусть U (9; ;, /)вращения. Пусть U (9; ;, /)имеет видимеет вид
2.2.3. Пример: плоские
2.2.3. Пример: плоские
вращения. Пусть U (9; ;, /)
вращения. Пусть U (9; ;, /)
имеет вид
имеет вид
П I?‘
I 0 I1 1:
cosg о ,„ о sin»1-Ястрокаoi;о ! Ч • О
001 I
—sin9 0 ... О cos»——— —/-я строка
*! 1 .*! 1 .
*! 1 .
*! 1 .
j-6 столбец J-b столбец
Эта матрица отличается от единичной лишь элементами в позициях (t, t) и Q,0, которые заменяются на cos 9, и в позициях (t, /') и (/, t), которые заменяются соответственно на sin 9 и —Sin 9.
Упражнение. Проверить, что (7(0; i, j) является ортогональной матрицей из M„(R) для любой пары индексов 1 ^ i <С / ^ п и любой величины угла 0 ^ 9 ^ 2л. Матрица U (8; i, j) просто осуществляет вращение (на угол 6) в плоскости координат t, /. Заметим, что если матрица умножается слева на Щ8; i,j), то в ней изменяются только t-я и /-я строки, а если она умножается справа, то изменяются только ьй и /'-й столбцы. Таким образом, при переходе к унитарно эквивалентной матрице, осуществляемом с помощью (7(9; (,/), происходит изменение только строк и столбцов с номерами t и /. Унитарная эквивалентность, осуществляемая посредством плоских вращений, — это основной элемент схем Якоби и Гивенса (см. задачи 1 и 2), предназначенных для вычисления собственных значений.
2.4. Пример: преобразования Хаусхолдера. Возьмем произвольный ненулевой вектор w Е Сл и образуем матрицу Uw = = 1— tww* (Uw^ Мп), где ( = 2(w*w)-1. Заметим, что ww*eMn и вместе с тем w*w — это положительный скаляр. Если вектор w был нормирован (w*w = l), то ( должно быть равно 2, а матрица (7т должна иметь вид Uw=l — 2щщ*. Часто образуют матрицу Uw, выбирая заранее именно нормированный вектор w.
Упражнение. Показать, что U™ оставляет на месте элементы дополнительного подпространства w1, а на одномерном подпространстве, натянутом на w, Uw действует как отражение, т. е. ишх = х, если х±®, и Uww = —w.
Упражнение. Показать, что матрица (7ц, одновременно унитарна и эрмитова ((7^ = ^). Любая матрица иш называется преобразованием Хаусхолдера. Иногда то же название используют и для преобразования унитарной эквивалентности, осуществляемого при помощи (7щ. Эти преобразования возникают в различных ситуациях, в том числе при вычислении собственных значений по схеме Хаусхолдера (см. задачи 4 и 5) и при проведении других унитарных преобразований. Заметим, что преобразования Хаусхолдера, примененные к матрице или вектору, как правило, изменяют Все их компоненты. Однако для ряда задач они обеспечивают исключительно эффективную и точную редукцию.
Теорема 2.2.2 предлагает необходимое, но не достаточное условие унитарной эквивалентности двух заданных матриц. Однако к нему можно присоединить дополнительные соотношения, которые в совокупности составят необходимые и достаточные условия. Ключевую роль здесь играет следующее простое понятие. Пусть s, ( обозначают две некоммутирующие переменные,
Рассмотрим произвольное конечное формальное произведение неотрицательных степеней переменных s, t
U7 (s, ^ = 5тЧп^тФ» ... smktnk, mb nxmk, nk>0 (2.2.5) и будем называть его словом от s и /. Степень слова W(s, t)—■ это неотрицательное целое число mi + пх + ш^ + П2 + • •. ... А-пиА-п^ т. е. сумма всех его показателей. Для A s Мп мы можем формально составить слово от А и Л*:
W (A, А*) = АтЦАТх Am4AT2 ... А^АТ*1.
Выражение для W(A,A*), вообще говоря, не упрощается, так как степени А и А* могут не коммутировать и поэтому переставлять сомножители в этом произведении нельзя.
Пусть матрица А унитарно эквивалентна некоторой матрице В е Л4П.'Тогда A = UBU* для какой-то унитарной U е Мп и в результате несложного вычисления находим
w (А, А") = фвиТх фВФТх ... фВиТь фВФТк =
= UBm4J’U ф’фи* ... свести (вТ11 и* ==
= иВтДВТх ... B^lB'yW = UW(B, в*) и*.
Таким образом, tr W(Л, А*) = tr UW^B, В*) U* = tr W^B, В*). Для слова W(s, 0= is получаем соотношение из теоремы 2.2.2.
Если рассматриваются все возможные слова №($,/), то можно теперь предложить бесконечно много условий, необходимых для унитарной эквивалентности двух матриц. Теорема Шпехта, которая приводится ниже без доказательства, гарантирует также и достаточность этого бесконечного множества необходимых условий.
g.2.6. Теорема. Дее заданные матрицы унитарно эквивалентны тогда и только тогда, когда
tr W (Л, Л’) = tr W (В, В*)(2.2.7)
для всех слов W(s,f) от двух некоммутирующих переменных.
Теорему Шпехта можно использовать, чтобы показать, что какие-то две матрицы не являются унитарно эквивалентными, но, за исключением редких случаев (см. задачу 6), установить с ее помощью унитарную эквивалентность практически невозможно, так как требуется проверка бесконечного множества условий. К счастью, имеется теорема Пирси, которая улучшает теорему Шпехта и позволяет ограничиться проверкой соотношений (2.2.7) лишь для конечного набора слов.
2.8. Теорема. Две заданные матрицы А, В^Мп унитарно эквивалентны тогда и только тогда, когда 1г№(Д,Л*) = = tr W(B, В*) д$1я всех слов W'(s, ^) степени не выше 2п2.
Конечная оценка для числа слов в теореме Пирси-—это существенное улучшение теоремы Шпехта, но и она, как известно, очень сильно завышена. В действительности при п = 2 достаточно проверить соотношения (2.2.7) только для трех слов W (s, 0 = 8, s2, is — совсем не обязательно рассматривать все слова степени не выше 2(22) = 8. При н = 3 можно ограничиться проверкой соотношений (2.2.7) только для девяти слов W (s, 0 = s, s2, ts, s3, Is7*, t2s2, tsts, ts2ts, ts42s и снова не нужно перебирать все словй степени не выше 2(32)=--18.
задачи
Пусть матрица А = [аг;] е Aln(R) симметрична (А7 = А) и не дпагональна. Предположим, что индексы I =/= / выбраны таким образом, что обеспечивается максимально возможное значение |а,/|. Определим 6 из соотношения ^ап— а/;-)/2а,; = = ctg(20) и рассмотрим плоское вращение П(0;г, /), о котором говорилось в примере 2.2.3. Используя теорему 2.2.2, доказать, что если
B = i/(6; I, iYAU^; I, 0=\ЬИ\, то
Z IM2< Z.IM2-
Показать, что повторные применения таких плоских вращений (выбираемых для В и последующих матриц по тому же принципу) будут уменьшать суммы квадратов внедиагональных элементов, сохраняя при этом суммы квадратов всех элементов; на каждом шаге матрица преобразуется в «более близкую к диагональной». Это и есть метод Якоби для вычисления собственных значений вещественной симметричной матрицы. В нем строится последовательность матриц, сходящаяся к некоторой диагональной матрице. Почему в пределе диагональ состоит из собственных значений матрицы А?
' 2. Метод Гивенса для вычисления собственных значений вещественной симметричной матрицы (или произвольной вещественной матрицы) также использует плоские вращения, но по- другому. Показать, что всякая симметричная матрица А = = [az;] е Mn(R) ортогонально эквивалентна некоторой трехдиагональной (симметричной) матрице и произвольная матрица AeAMR) ортогонально эквивалентна (нижней) хессенберго- вой матрице — преобразования проводятся с помощью плоских
вращений. Определения трехдиагональных и хессенберговых матриц см. в разд. 0.9.9 и 0.9.10. Указание. Выбрать плоское вращение Ui,з таким образом, чтобы в позиции (1,3) матрица U*3AU13 имела 0. Выбрать другое плоское вращение, чтобы получить нуль в позиции (1,4) и, продолжая таким же образом, получить нуль в позиции (1,/г). Затем вернуться к позиции (2,4) и т. д. Убедиться, что последовательность этих действий не портит уже полученные нули, а также что ортогональная эквивалентность сохраняет симметричность. Характеристический многочлен трехдиагональной матрицы можно вычислить непосредственно и, чтобы получить собственные значения, нужно затем найти его корни. Обратить внимание на то, что методом Гивенса после выполнения конечного числа шагов находятся не собственные значения или собственные векторы, а только лишь некоторая трехдиагональная матрица. Поэтому необходимы еще и дополнительные вычисления. Метод Якоби в общем случае требует бесконечно большого числа плоских вращений, однако он приводит непосредственно к собственным значениям и ортонормированному множеству собственных векторов.
Доказать, что всякая матрица А е Мп унитарно эквивалентна матрице с равными элементами на главной диагонали. Указание, (а) Для А е М2 рассмотреть Л—(1/2) (tr Л)/ и показать, что достаточно изучить лишь случай 1гЛ=0. Доказать, что если вектор хе С2 нормирован, удовлетворяет условию х*Лх = 0 и матрица U = [х, у] е М2 унитарна, то матрица U*AU содержит нуль в позиции (1,1), а вследствие равенства следов нуль будет и в позиции (2,2). Чтобы найти такой вектор х, надо рассмотреть нормированные собственные векторы матрицы A, w и z, отвечающие собственным значениям А и —X. Если ^=0, то положить х = w. Если >1=^0, то рассмотреть х(0) — = e^w + г. Показать, что х(0)=^О для всех OeR и х(0)*Лх(0) = О для некоторого 0 е R; поэтому можно взять вектор х = х(0)/[х(0)*х(0)]1/2, отвечающий этому 0. Замечание. Если ЛеМ2(К), то легко строится (вещественное) плоское вращение (/=(7(0; 1,2), которое обеспечивает в UTAU равенство диагональных элементов, однако это не помогает в комплексном случае1). (Ь) Для А = ^ац]е Мп положим f(A)s = max{|a,7 —O//I: Z, /= 1, ..., п} и Л2 = [“““^], где индексы i, j таковы, что ^(Л) = |ац — ац\. Пусть U2eM2— такая
[) В буквальном смысле это верно. Однако в комплексном случае ничто не мешает использовать обобщенные плоские вращения — они определяются тремя вещественными параметрами 6, ip1( ip2 и в М^ имеют — вид e'^cosS — e'^sinO "I
,,,.— Прим, персе.
е sin 9 в cos 9 J
унитарная матрица, для которой U2A2U2 имеет равные диагональные элементы. Перейдем от нее к матрице U(i, j) е Мп, действуя так же, как и в разд. 2.2.3, где матрица П(9;ц/) строилась на базе плоского вращения порядка 2. Показать, что если максимальной по модулю разности диагональных элементов отвечает только одна пара индексов I, j, то f (Щ1, j) *AU {i, j)) < <f(4), в противном случае эту процедуру, возможно, придется повторить. В итоге обосновать существование унитарной матрицы U е Мп, такой, что f(U*AU) < }(Л), при условии, что /(Л) =5^0. Показать, что множество R (Л) = ^U*AU: U^Mn — унитарная матрица} является компактным и } — непрерывная функция на R^Ay Пусть матрица Се/?(Л) такова, что )(С) = — min{f(6): BeR^A^. Доказать, что неравенство f(C)>0 невозможно. Поэтому }(С) = 0, откуда и вытекает то, что требовалось доказать.
Показать, что с помощью преобразования Хаусхолдера любой вектор xeR" евклидовой длины г=(хгх)Г2 можно перевести в любой вектор у е R", у =А= х, той же длины. Указание. Построить Uw для w = х— у. Что можно сказать о случае, когда х, у е С"?
Метод Хаусхолдера для вычисления собственных значений матрицы ЛеЛГ, (R), подобно методу Гивенса, сначала приводит А к (верхней) хессенберговой форме (или к трехдиагональному виду в симметричном случае). Пусть матрица имеет вид
О ' * I»- £ -я строка
1* :>- £+1-я строка
О I *tк -й столбец
где для всех / = 1, ..., к в /-м столбце ниже / + 1-й компоненты идут нули. Построить преобразование Хаусхолдера, которое осуществляет ортогональное подобие, преобразующее данную матрицу в матрицу, имеющую ту же форму с заменой к на йД-1. Вывести отсюда, что любую матрицу 4eM„(R) можно привести к хессенберговой форме в результате выполнения п — 2 преобразований подобия Хаусхолдера. При этом симметричная матрица 4eM„(R) преобразуется в трехдиагональную. Указание. Для к + 1-го столбца нужно взять преобразование Хаусхолдера UeMn_k, которое вектор размерности п — к, составленный из поддиагональных элементов, переводит в под-
ходящее кратное вектора [1,0, ..., 0]геК"-6. Для всей матрицы подобие реализуется ортогональной матрицей .
При этом получается именно то расположение нулей, которого мы добиваемся.
Пусть заданы матрицы А е Мп и В, Се Мт. Используя теорему Шпехта 2.2.6 или теорему Пирси 2.2.8, доказать, что В и С унитарно эквивалентны тогда и только тогда, когда выполняется любое из следующих условий:
(а)(Ь)(а)(Ь)А0А0унитарно эквивалентны;унитарно эквивалентны;0“0“унитарно эквивалентныунитарно эквивалентны
(а)
(Ь)
(а)
(Ь)
А
0
А
0
унитарно эквивалентны;
унитарно эквивалентны;
0“
0“
унитарно эквивалентны
унитарно эквивалентны
о
(обе матрицы представляют собой прямые суммы с одинако
вым числом членов);
0”
унитарно эквивалентны
(в этих прямых суммах одинаковое число членов).
Показать, что имеется 2* различных слов lF(s, /) вида (2.2.5) заданной степени к. Вывести отсюда, что различных слов степени не выше 2/г2 будет не больше 4п!.
Привести пример двух матриц порядка 2, которые удовлетворяют соотношению из теоремы 2.2.2 и не являются унитарно эквивалентными. Объяснить, почему.
Дополнительная литература и комментарии
Оригинальное доказательство теоремы 2.2.6 см. в статье; Specht W. Zur Theorie der Matrizen, II.—Jahresbericht der Deut- schen Mathematiker Vereinigung 1940, B. 50, S. 19 — 23. Доказательство теоремы 2.2.8 см. в работе: Pearcy С. A Complete Set of Unitary Invariants for Operators Generating Finite W*« Algebras of Type I. — Pacific J. Math., 1962, v. 12, p. 1405—1416. Унитарная эквивалентность матриц малого порядка обсуждает-.
ся в работе: Pearcy С. A Complete Set of Unitary Invariants for 3X3 Complex Matrices. — Trans. Amer. Math. Soc., 1962, v. 104, p. 425—429.
Теорема Шура об унитарной триангуляризации
Произвольная матрица А е Мп унитарно эквивалентна какой-то верхней треугольной матрице Т (а также и какой-то нижней треугольной матрице) — и это, возможно, самый полезный и фундаментальный факт во всей элементарной теории матриц. Конечно, главная диагональ в Т содержит собственные значения матрицы А. Несмотря на неединственность матрицы Т, она является наиболее просто устроенной матрицей, к которой всегда можно перейти посредством унитарной эквивалентности.
3.1. Теорема (Шура об унитарной триангуляризации). Пусть задана матрица А е ЛД и зафиксирован какой-то порядок ее собственных значений Хц ..., Хл. Тогда существует унитарная матрица U г АД, такая, что
u*au = t = v1A
— верхняя треугольная матрица с диагональными элементами tu = Хг (i = l, ..., nY Таким образом, любая квадратная матрица А унитарно эквивалентна треугольной матрице, в которой диагональные элементы представляют собой собственные значения для А, записанные в произвольном заранее заданном порядке. Кроме того, если A eM„(R) и все ее собственные значения вещественны, то U можно выбрать вещественной и ортогональной.
Доказательство, Доказательство носит алгоритмический характер и сводится к последовательности однотипных редукций. Пусть х(|>— нормированный собственный вектор матрицы А, отвечающий собственному значению X. Вектор х(1> ненулевой и в С” его можно дополнить до базиса
Х(|\ у®, у^, , , , , yW,
Применим процесс ортонормирования Грама — Шмидта (см. разд. 0.6.4) и перейдем в С" к ортонормированному базису
Х<1), g(2)( ^^3\ ,, 2(”*,
Эти векторы — в порядке слева направо — будем считать столбцами унитарной матрицы Ui. В матрице AU\ первый столбец есть Х,х(1\ поэтому матрица t/*(At/J имеет вид
U*AUl =U*AUl =Xi : *оТдXi : *оТд
U*AUl =
U*AUl =
Xi : *
оТд
Xi : *
оТд
Собственные значения матрицы Л] е Mn-i— это Х2, ..., Х„. Пусть х^ е С"-1 есть нормированный собственный вектор для Ль отвечающий Х2. Далее все повторяется. Для некоторой унитарной матрицы U2 е М„_!
^Л^2 =^Л^2 =Х2 ; * 0 Г Л2Х2 ; * 0 Г Л2
^Л^2 =
^Л^2 =
Х2 ; * 0 Г Л2
Х2 ; * 0 Г Л2
и полагаем
Матрицы V2 и t/iVs унитарны и при этом
" Х1 * :"
v^^;/2 =v^^;/2 =о х2 Г
v^^;/2 =
v^^;/2 =
-оГХ-
Продолжаем редукцию и находим унитарные матрицы Ui е е Mn-i+i (t = 1,«—1) и унитарные матрицы Vi е М„ (i =
= 2, ..., п—1). Матрица
U-U^V.v п_х
унитарна, и она обеспечивает треугольный вид матрицы U*AU.
Если все собственные значения матрицы AeK(R) оказались вещественными, то отвечающие им собственные векторы тоже можно выбрать вещественными, т. е. все шаги, описанные выше, реализуются в вещественной арифметике, что и доказывает заключительное утверждение. □
Замечание. Из доказательства теоремы 2.3.1 видно, что в ее формулировке можно говорить не о верхних треугольных, а о нижних треугольных матрицах. При этом, конечно, унитарная эквивалентность будет осуществляться другой матрицей U.
3.2. Пример. В теореме 2.3.1 неоднозначно определяются и U, и Т. Для Т неоднозначность связана не только с главной диагональю (ее элементы — собственные значения для А — можно расставлять в любом порядке). То, что находится выше главной диагонали, для унитарно эквивалентных верхних треугольных матриц может различаться весьма сильно. Например, матрицы
Тх =
унитарно эквивалентны и соответствующее преобразование осуществляется матрицей
1 о
-1 0 .
О 2-
t7 = -U
V2
" 1
1
Ю
В общем случае в один и тот же класс по отношению унитарной эквивалентности могут входить многие различные верхние треугольные матрицы.
Замечание. Обратим внимание на то, что техника, использованная при доказательстве теоремы 2.3.1, — это не что иное, как последовательное понижение порядка, о чем говорилось в задаче 8 из § 1.4.
Упражнение. Если А е Мп унитарно эквивалентна какой-то верхней треугольной матрице Т = [^]е Мп, то, несмотря на неоднозначность определения элементов tij, величина У. 11ц |2 определяется уже однозначно. Выразить ее в терминах элементов и собственных значений матрицы А. Указание. Использовать теорему 2.2.2.
Упражнение. Показать, что если матрицы А = [а;/], В = [б,/] е А12 подобны и при этом X i ац l2 = S I Ьг112, то А и В Ин
унитарно эквивалентны. Показать на примере, что это не переносится па случай более высокой размерности. Указание. Если А и В унитарно эквивалентны, то АЦ-А* и В + В* тоже унитарно эквивалентны. Рассмотреть матрицы
Г 1 3Г 1 3Г1 оГ1 оА = 0 2А = 0 2Ю 0Ю 0В= 0 2В= 0 2Ю оЮ о0"53-0"53-
Г 1 3
Г 1 3
Г1 о
Г1 о
А = 0 2
А = 0 2
Ю 0
Ю 0
В= 0 2
В= 0 2
Ю о
Ю о
0"
5
3-
0"
5
3-
Теорему 2.3.1 полезно дополнить утверждением о том, что матрицы, принадлежащие коммутативному семейству, можно привести к треугольному виду с помощью одной и той же матрицы.
3.3. Теорема. Пусть семейство 9"еМп коммутативно. Тогда существует унитарная матрица U е Мп, такая, что матрица U*AU будет верхней треугольной для всех А^2Г.
Доказательство. Вернемся к доказательству теоремы 2.3.1. На каждом его шаге происходит выбор собственного вектора l(h унитарной матрицы) и при этом, согласно лемме 1.3.17, для
всех AeST можно выбрать общий собственный вектор (и унитарную матрицу), Кроме того, унитарная эквивалентность сохраняет для матриц свойство коммутативности, и, как нетрудно проверить, если блочные матрицы
Г Ап А121Г Вп В121
[о а22г[о в22J
коммутируют, то блоки А22 и В22 тоже коммутируют. Таким образом, на каждом этапе редукции, осуществляемой в ходе доказательства теоремы 2.3.1, мы получаем коммутативное семейство матриц At. Остается заметить, что все матрицы, используемые для определения U, можно выбирать одинаковыми для всех членов коммутативного семейства; тем самым теорема 2.3.3 доказана. Обратим внимание на то, что теперь ничего не говорится о каком-либо упорядочении собственных значений для различных членов семейства. Мы получаем их в том порядке, в каком они появляются в результате применения леммы 1.3.17. □
Ниже предлагается чисто вещественный вариант теоремы 2.3.1.
3,4, Теорема. Для любой матрицы HeAl„(R) существует вещественная ортогональная матрица QeM„(R), такая, что
"Ах
(2.3.5)(2.3.5)QTAQ —
(2.3.5)
(2.3.5)
0
где для каждого i матрица At имеет размер 1 X 1 или 2X2, отвечая соответственно вещественному собственному значению или невещественной паре комплексно-сопряженных собственных значений матрицы А. Блоки At можно расположить в любом заданном порядке.
В общем случае нельзя рассчитывать на то, что произвольную вещественную матрицу удастся привести к верхнему треугольному виду с помощью вещественного преобразования подобия (не говоря уже о вещественном ортогональном подобии), так как диагональ должна состоять из собственных значений, а они могут и не быть вещественными. Матрица вида (2.3.5) максимально близка к треугольной с точки зрения того, чего можно добиться с помощью вещественного ортогонального подобия. Если А имеет невещественные собственные значения, то
привести ее к верхней треугольной форме нельзя, однако в любом случае мы получаем верхнюю хессенбергову форму.
Упражнение. Доказать теорему 2.3.4, видоизменив рассуждения, связанные с теоремой 2.3.1. Указание. Если X— вещественное собственное значение вещественной матрицы А, то имеется отвечающий ему вещественный собственный вектор и его можно использовать для понижения порядка, как это было сделано в теореме 2.3.1. Пусть X = а + ф — невещественное собственное значение матрицы А и для х = и + £и=#0 имеем Ах = Хх ф, tieR"). Установить равенства Аи—ош— ри, Ду = ау + Ри и Ах = Хх и показать, что множество {х, х} линейно независимо. Убедиться в линейной независимости множества {и, и} и, применяя к нему процесс ортонормирования Грама — Шмидта, получить вещественное ортонормированное множество {w,z}. Пусть Qi обозначает вещественную ортогональную матрицу с двумя первыми столбцами, совпадающими с w и z. Показать, что
так что в данном случае порядок понижается сразу па 2. Остается убедиться в том, что блоки А,, каждый из которых отвечает вещественному собственному значению либо паре комплексно-сопряженных собственных значений, можно расставить в любом заданном порядке.
Имеется также вещественный вариант теоремы 2.3.3.
3.6. Теорема. Пусть семейство tTsM^R) коммутативно. Тогда существует вещественная ортогональная матрица Q е eM„(R), такая, что матрица QTAQ имеет вид (2.3.5) для всех
Упражнение. Доказать теорему 2.3.6, видоизменив рассуждения, относящиеся к теореме 2.3.3. Указание. Сначала для всех членов семейства 9е" выполнить понижение порядка, используя общие вещественные собственные векторы. Затем рассмотреть общие невещественные собственные векторы и проводить понижение порядка с помощью сразу двух столбцов (как в доказательстве теоремы 2.3.4). Обратим внимание на то, что разные члены семейства SF после выполнения преобразования ортогонального подобия могут иметь разное число блоков размера 2X2. Однако если какой-то член имеет в каком-то месте блок размера 2X2, то любой другой член, не обладающий таким блоком, должен в этом же месте иметь пару одинаковых блоков размера 1X1.
Задачи
Пусть х е С"— заданный единичный вектор (х'х=1). Запишем x=[xb yTV« где х^С и у е С"-1. Выберем 0 г R, такое, что е’^^О, и образуем вектор z — ei9x = [zb £г]г, где число Z\ g R неотрицательно и £ г С^-1. Доказать, что матрица
У =
' 21
г
S
7+
унитарна. Указание. Установить равенство V*V = V2 и убедиться в том, что матрица U = e~i0V = [хн2 ... аД унитарна и ее первым столбцом служит заданный вектор х. Это дает конструктивный метод нахождения унитарных матриц, необходимых для последовательного понижения порядка в доказательстве теоремы Шура.
Пусть задан вещественный единичный вектор х г R". Приспособить конструкцию, описанную в задаче 1, для нахождения вещественной ортогональной матрицы QeAUR) с первым столбцом, равным х. Доказать, что эта конструкция будет работать.
Пусть Л гЛ1п(R). Объяснить, почему невещественные собственные значения для Л (если они есть) можно разбить на Пары комплексно-сопряженных чисел,
Рассмотреть семейство
и показать, что коммутативность, предполагаемая в теореме 2.3.3, будучи достаточной для одновременного приведения семейства 9" к верхнему треугольному виду преобразованием унитарного подобия, не является необходимой.
Пусть задано семейство £Г = {Л1АДс:Мп и рассматривается семейство
^={АгА,: I, j=\, 2, .... k},
составленное из попарных произведений матриц, входящих в ^, Известно, что если S' коммутативно, то одновременное приведение матриц из ^ к верхнему треугольному виду с помощью унитарного подобия возможно в том и только в том случае, когда каждый коммутатор AiAi — AjAi имеет лишь нулевые собственные значения. Показать, что предположение о коммутативности S является более слабым по сравнению с предположением о коммутативности ^”. Показать, что для семейства 9" из задачи 4 отвечающее ему семейство S коммутативно и что ST
удовлетворяет также условию на собственные значения коммутаторов.
Пусть заданы матрицы А, В е Мп и одно и то же преобразование подобия приводит А и В к верхнему треугольному виду, т. е. для некоторой невырожденной матрицы S е Мп обе матрицы S-1AS и S~XBS верхние треугольные. Доказать, что все собственные значения матрицы АВ — ВА равны нулю. Указание. Пусть обе матрицы Д-, Д2 G Мп верхние треугольные. Найти главную диагональ матрицы Д1Д2— ДгДь
Каждая квадратная матрица приводится к верхнему треугольному виду с помощью преобразования унитарного подобия, но это не верно по отношению к комплексному ортогональному подобию. Пусть матрица А е М„ записана в виде А = QAQT, где Q е Мп— комплексная ортогональная матрица и Д е Мп — верхняя треугольная матрица. Доказать, что А имеет хотя бы один собственный вектор х g С", такой, что хтх ф 0. Рассмотреть А = [' _,] и показать, что не каждую матрицу А е ЛД можно привести к верхнему треугольному виду, если использовать для этого преобразования комплексного ортогонального подобия.
Пусть Q G Мп—заданная комплексная ортогональная матрица, и предположим, что геС"— ее собственный вектор, отвечающий собственному значению Л=#±1. Доказать, что хтх = 0. Указание. Обе части равенства Qx = Кх умножить на транспонированные к ним. См. задачу 8(a) из § 2.1—там приводится пример семейства комплексных ортогональных матриц размера 2X2, у которых оба собственных значения отличны от ±1. Показать, что ни одну из этих матриц нельзя привести к верхнему треугольному виду с помощью ортогонального подобия.
Дополнительная литература
Доказательство усиленного варианта теоремы 2.3.3, сформулированного в задаче 5, см. в работе: Hong У. Р., Horn R. А. On Simultaneous Reduction of Families of Matrices to Triangular or Diagonal Form by Unitary Congruences.— Linear and Multilinear Algebra, 1985, v. 17, p. 271—288.
Некоторые следствия теоремы Шура
Чтобы показать, какую пользу приносит теорема Шура, мы рассмотрим несколько ее элементарных следствий.
Упражнение. С помощью теоремы 2.3.1 показать, что если А г Мп имеет собственные значения Ль ..., Хп (с учетом крат-
ностей), то
det Л = Ц Лг и tr Л = X •1=1 . i=l -
Напомним, что это было доказано другим способом в гл. 1. Указание. Что касается следа, то полезно вспомнить равенство tr АВ = trBA, которое проверяется прямым вычислением. Как мы видим, след является инвариантом подобия. Что можно сказать о других симметрических функциях от собственных значений?
Устанавливаемый теоремой 2.4.2 факт, что каждая матрица удовлетворяет своему характеристическому уравнению, следует из теоремы Шура и простого наблюдения, относящегося к умножению треугольных матриц.
Лемма. Предположим, что матрицы R=VriAi T=\tlj\e.Mtl верхние треугольные, Гц = 0 при 1^/, / ^/г < п и tk+x> k+x = 0. Пусть T' = \t'l^ = RT. Тогда /'; = 0, где l^t, /^/г+1.
Доказательство. Поскольку /?({1, 2, ..., /г}) = 0 и tk+Xi a+i = 0, матрицы R и Т имеют вид
где в обеих матрицах левый верхний блок имеет размер k X к, В Т' левый верхний блок размера к X к, очевидно, нулевой в силу правила умножения блочных матриц (см. § 0.7, где даются обозначения и элементарные сведения). Далее, легко видеть, что первые к 4* 1 строк в R имеют нули во всех позициях, соответствующих ненулевым элементам к + 1-го столбца в Г, и первые к + 1 столбцов в 1 имеют нули во всех позициях, соответствующих ненулевым элементам &+1-Й строки в R. Если Т' разбить на блоки таким же способом, как R и Т, то в результате матричного умножения находим, что *
т. е. F({1, .... А4-1}) = 0, что и требовалось доказать. □
Упражнение. Показать, что произведение двух верхних треугольных матриц будет верхней треугольной матрицей и произведение двух блочных верхних треугольных матриц (с одинаковым блочным разбиением) будет блочной верхней треугольной матрицей.
Упражнение. Обобщить лемму 2.4.1, показав, что если матрицы R и Т верхние треугольные и Т = RT, то
T4V, t+ 1, .... / + /}) =
= № z+ 1, z + /})7({z, z+ 1,/ + /}).
Теорема (Кэли — Гамильтон). Если рА^Д— характеристический многочлен матрицы А е Мп, то
Ра^ = 0.
Доказательство. Поскольку рАЦ^—это многочлен степени п со старшим коэффициентом 1 и корни уравнения рАД) = 0 совпадают с собственными значениями М, ..., Хп матрицы А (с учетом кратностей), то для рАД^ имеет место разложение
рл(/) = (/-W-A2) ... (t-ХД
Согласно теореме 2.3.1, запишем
A = UTU*.
где Т— верхняя треугольная матрица с X, в Z-й диагональной позиции (z = l, ..., п). Далее,
рА (Д) = рА (JJTU*) = (UTU* - ХД) (UTU* - Х21) ... (ити* - ХД) =
= VU(T- ХД) б'*] [(/ (7 _ х2/) СП ... [U (Г - ХД) 17*] =
= и [(Г - ХД) (Т - ХД) ...у — хд)) и* = Up А (Г) и*.
Заметим, что РлИ) = 0 тогда и только тогда, когда рАД) = 0. Последнее и вытекает из леммы 2.4.1. В матрице Т— Х\1 левый верхний 1 X 1-блок есть 0, в матрице Т — ХД позиция (2, 2) содержит 0 и обе эти матрицы верхние треугольные, следовательно, в матрице (Т— 2ц7) (7'— ХД) левый верхний 2 X 2-блок есть 0. По индукции, поскольку в матрице (Г— MZ) ... (Т ■—ХД) левый верхний £ X ^-блок нулевой и позиция (^+1,^+1) матрицы Т — Х^Д содержит 0, заключаем, что левый верхний (А + 1)Х (^ + 1)-блок матрицы Д — ХД) ... (Г— Хк+Д) есть 0. Это построение проводим до тех пор, пока не придем к равенству у— ХД) ... У—ХД) = 0, и теорема доказана. □
Упражнение. Что не верно в следующем «доказательстве» равенства рл(Л) = 0? Для любого собственного значения X матрицы АеМ„ имеем рд\Х) = 0, и для любого многочлена q соб-
ственные значения матрицы q(A) равны q^. Отсюда вытекает равенство нулю всех собственных значений матрицы рд(Л). Следовательно, рд (Л) = 0. Это типичная ошибка при обосновании теоремы Кэли — Гамильтона. Приведите пример, который ясно показывает, что же именно здесь ошибочно.
Упражнение. Что не верно в следующем «доказательстве»? Так как рд^ = det(ZZ— Л), то рд(Л) = бе!(Л/ — Л) = det(Л — — Л) = det 0 = 0 и, следовательно, рА (Л) = 0.
Если характеристический многочлен для Л е Мп определяется как рА (t) = det(tl — Л), то характеристическое уравнение — это уравнение вида p4(/) = 0. Корни характеристического уравнения— это собственные значения матрицы А. Теорему Кэли — Гамильтона часто формулируют так: «всякая квадратная матрица удовлетворяет своему характеристическому уравнению». Однако в действительности под этим понимается следующее: сначала мы вычисляем скалярный многочлен pA(t)~ det\tl— Л) и только после этого, исходя из него, образуем матрицу рд^Ау
Теорема Кэли — Гамильтона установлена нами для матриц с комплексными элементами, а значит, она справедлива и по отношению к матрицам с элементами из какого-либо подполя поля комплексных чисел (например, для вещественных или рациональных чисел). В действительности теорема Кэли — Гамильтона без какого-либо изменения переносится и на случай матриц с элементами из произвольного поля или, более общо, из произвольного коммутативного кольца. См. задачу 3.
Одно из важных следствий теоремы Кэли — Гамильтона — это возможность записать при к ^ п степени Ак матрицы А еМ„ в виде линейных комбинаций матриц /, А, А2, ,.., А"-1. Легко показать, что степени А"" и выше выражаются в виде линейных комбинаций более низких степеней (вследствие того, что если Мп рассматривать как векторное пространство над полем комплексных чисел, то его размерность будет равна п2У Как мы видим, теорема Кэли — Гамильтона обеспечивает значительное уточнение этого результата. -
Пример. Положим '
Тогда Ра(С = ^ — 3Z + 2 и А2— ЗЛ + 2/ = 0. Таким образом, Л2 = ЗЛ — 2/, А3 = А (А2) ЗЛ2 — 2Л = 3 (ЗЛ — 2/) — 2Л ЧА — — 6/, Л4 = 7Л2 — 6Л = 15Л — 14/ и т. д. В то же время постоянная в рд^У равна определителю матрицы А и здесь он отличен от нуля; поэтому матрица А невырожденна и А-1 можно записать как многочлен от А. Действительно, вследствие равен*
ства рА (Л) = А2 — ЗЛ + 2/ получаем 2/ = —А2 + ЗЛ = А (—А -^ + 3/) или .
/ = л[1(-л + з/)].
Это означает, что Л"1 = — у Л + у/ = [J-^].
Упражнение. Пусть А е Мп имеет характеристический многочлен
Ра^ = tn -\-an_\tn Х-\-an_jn + ••• + Gi^ + Go-
Записать Ап как многочлен от А степени не выше п— 1. Проделать то же самое для нескольких последующих степеней. В предположении, что матрица А невырожденна (ао#О), записать Л-1 как многочлен от А степени не выше п— 1. Мы сформулируем этот факт как следствие теоремы 2.4.2.
Следствие. Если матрица Л е Мп невырожденна, то существует многочлен q^ степени не выше п—1 (его коэффициенты зависят от Л), такой, что Л-1 = q(Л).
Упражнение. Показать, что если две матрицы Л, В е Мп подобны, то и значение любого многочлена на одной из них подобно значению этого же многочлена на другой. В частности, если одна из этих матриц является корнем какого-то матричного многочлена, то корнем этого многочлена будет и другая матрица. Продумать возможность обратного утверждения: если для любого многочлена две матрицы одновременно являются или не являются его корнями, то эти матрицы подобны — верно это или нет?
Пример. Как установлено, любая матрица Л е Мп является корнем какого-то многочлена степени п, например характеристического многочлена. Однако матрица А е Мп может быть корнем и какого-то многочлена степени меньше п. Так,
матрица
Г 1 О 01
А = 0 1А = 0 1L0 ОL0 О1 еЛД1 -1 еЛД1 -
А = 0 1
А = 0 1
L0 О
L0 О
1 еЛД
1 -
1 еЛД
1 -
удовлетворяет уравнению <7(Л) = 0, где многочлен q(f) = t2—■ ■—2/4-1 имеет степень 2.
Упражнение. Доказать, что любая диагонализуемая матрица является корнем многочлена степени, равной числу ее различных собственных значений, и меньшую степень получить нельзя. Многочлен (со старшим коэффициентом 1) минимальной сте-
пени, которому удовлетворяет заданная матрица, — ее минимальный многочлен — будет изучаться в гл. 3 в связи с жордановой канонической формой. Указание. Рассмотреть
q(f) = (t — XJ ... у — У^, где Х^Х,.
Еще одно применение теоремы Шура позволит нам устано- рпть «почти» диагонализуемость любой матрицы, причем смысл этой фразы можно интерпретировать двумя способами. Первый: для любой матрицы существует сколь угодно близкая к ней диагональная матрица. Второй: любая матрица подобна верхней треугольной матрице с произвольно малыми внедиагональными элементами.
Теорема. Пусть Л = [а/-] е Мп. Для любого е>0 существует матрица Л (е) = [а,, (е) ] е/И„, имеющая п различных собственных значений (и, значит, диагонилизуемая^ и такая, что
£ \ аи — аи (еН2 < е.
i, /=1
Доказательство. Пусть матрица U е Мп унитарна н такая, что U*AU = Т—верхняя треугольная матрица. Образуем матрицу £ = diag(eb е2, ..., еп) и при этом числа ei, . .., еп выберем таким образом, чтобы для всех I выполнялось неравенство
। ।6 ¥/2
и, кроме того, числа ^п + е^ /22 + ^2, •••, inn 4" еп были различны (нужно лишь небольшое усилие, чтобы увидеть, что это можно сделать). Матрица Т + Е имеет п различных собственных значений Ш + ец ..., Еп + еп и матрица Л + UEU* тоже имеет п различных собственных значений, так как она подобна I + Е. Положим Л (е) = Л + UEU*, так что А —Л (е) = —UEU*. Согласно теореме 2.2.2, получаем
п
£ I аИ - аи (е) I2 = £ I е J2 < И (-J) = 6.
i.j
Таким образом, матрица Л(е) именно та, о которой говорится в теореме. □
Упражнение. Показать, что условие ' И\ац — <Ме)12 <е
/
в теореме 2.4.6 можно заменить условием max|az,—(е) [ < в.
и
Указание. Применить теорему 2.4.6, заменив е на в2, и восполь-
зоваться тем, что если сумма квадратов модулей каких-то величин меньше е2, то каждая из этих величин по модулю меньше е.
Теорема. Пусть Л G Мп. Для любого е>0 существует невырожденная матрица Se е Мп, такая, что матрица
Ss ЛЗе = Те = [/if (в)]
верхняя треугольная и |/ц(е) | < е для 1 ^ i < / ^ п.
Доказательство. Сначала, согласно теореме Шура, запишем
U*AU — T,
где U g Мп — унитарная, а Т е М„ — верхняя треугольная матрицы. Образуем матрицу £)a = diag(l, а, а2, ..., а”-1) для ненулевого числа а и положим / —max|f(/|. Предположим, i < /-
что е < 1, — в действительности достаточно рассмотреть только этот случай. Положим Se = UDe, если ^^1, и Sa = UD\ftDa, если /> 1. В обоих случаях Se является искомой матрицей. Если / ^ 1, то простое вычисление обнаруживает, что tti^ = = 11,е_‘е,! = 1цг1-1 и по модулю это не больше е/~‘, а следовательно, не больше, чем е, при i -< /. С другой стороны, если /> 1, то, произведя преобразование подобия с помощью трансформирующей матрицы D\jt, мы приходим к матрице, внедиагональные элементы которой по модулю не больше, чем 1.
Упражнение. Доказать следующее видоизменение теоремы 2.4.7: если А<=АЛп и е > 0, то существует невырожденная матрица Sa<=Mn, такая, что матрица 5Г'Л5е = Та = [Л/ (е)] верхняя треугольная и 2l^/(6)l<6- Указание. Применить" i>i.
теорему 2.4.7, заменив е на (2/(n (п — 1))) в.
Рассмотрим обобщение теоремы Шура, которое легко доказывается с ее помощью и является важным шагом на пути к жордановой канонической форме, которой посвящается следующая глава.
Тецрема. Предположим, что АеМп имеет различные собственные значения Ль ..., Л^ и кратность hi равна П/ (t = = 1, ..., £). В этом случае А подобна матрице вида
■0 ”
Т2
-°Тк_
где Tt^ МП{ — верхняя треугольная матрица с диагональными элементами, равными М (z = l, ..., А). Если XsM„(R) и все собственные значения для Л вещественны, то матрица, осуществляющая это подобие, может быть выбрана вещественной.
Доказательство. Сначала применим теорему Шура, чтобы перейти от Л к (унитарно) подобной верхней треугольной матрице 7=[/г$], и предположим, что собственные значения на диагонали в Т упорядочены таким образом, что сначала идут равные Ль затем равные Лг и т. д. После этого мы выполним для Т последовательность простых (неунитарных) преобразований подобия, чтобы получить желаемые внедиагональные нули, оставляя без изменения диагональ и сохраняя также верхнюю треугольную форму матрицы Т. Пусть Ers обозначает матрицу из Мп, имеющую нули всюду, кроме позиции (г, s), где стоит 1. Заметим, что для любого числа а матрица I Ц-a.Ers невырож- денна, если г =^ s, и (/+ a^s)-1 = /— aErs. Далее, прямое вычисление обнаруживает, что если при г < s с помощью трансформирующей матрицы / + a,Ers перейти от Т и подобной матрице
(/ + а^)"1 Т (/ + aErs) = (/ - aErs) Т (/ + aErs),
то в Т ничего не изменится, кроме элементов в r-й строке, расположенных правее s-ro столбца, элементов в s-м столбце, расположенных выше r-й строки, и элемента Es, который станет равным trs + <x{trr — /ss), т. е. получится матрица вида
Таким образом, если trr^tss, то выбор
позволяет получить нуль в позиции (г, s), не изменяя при этом верхней треугольной формы и диагонали матрицы Т. Теперь для Т установим следующий порядок позиций: (п—1,п), (п— 2, п — 1), (п— 2,п), (п— 3, п — 2), (п— 3, п—1),# (п— 3,п), (п— 4, п — 3), ... . В каждой из них, если tSs^trr, последовательно будем получать нули, используя подобие указанного выше типа; уже полученные нули не будут портиться. В результате будет построена матрица, которая подобна А и имеет искомую форму. □
"Упражнение. Показать, что для матрицы ЛеЛ1п№ с вещественными собственными значениями все операции, проводимые для доказательства теоремы 2.4.8, можно выполнить в ве-
щественной арифметике. Таким образом, в этом случае теорема гарантирует существование вещественной блочно-диагональной матрицы, к которой можно перейти с помощью вещественного подобия.
Замечание, Предположим, что заданная матрица Л е М„ верхняя треугольная, и пусть она (после выполнения преобразования подобия с матрицей перестановки в качестве трансформирующей, если это необходимо) имеет вид
Лц ... Л1<;
^кк
где каждый блок Ац верхний треугольный и содержит на диагонали только Хг, предположим также, что X: ^Х; при i ^ j. В доказательстве теоремы 2.4.8 предлагается алгоритм, показывающий, что А подобна матрице
' Ла 0 '
О Ato_
Таким образом, все внедиагональные блоки можно заменить на нулевые и при этом будет получена подобная матрица. Заметим, что если хотя бы один внедиагональный блок Л,-/ ненулевой, то такого результата нельзя достичь посредством унитарного подобия из-за того, что при унитарном подобии сохраняется сумма квадратов модулей всех элементов.
Теперь обратимся к коммутативным семействам и теореме 2.3.3 (аналогу теоремы Шура), чтобы установить, что при сложении коммутирующих матриц происходит «сложение» их собственных значений — в определенном порядке.
2Л.9. Теорема. Пусть матрицы А, В е Мп имеют собственные значения «ь ..., ап и ^р„ соответственно. Если А и В коммутируют, то собственные значения для А 4* В имеют вид а, + Р; , «2 + Р;2> •••> ап+Р/л> £де Е, «... in — некоторая перестановка индексов 1, ..., п. В частности, для коммутирующих АВ имеем а (Л + В) £ о(Л) -f- о (В) *).
Доказательство. Если Л и В коммутируют, то, согласно теореме 2.3.3, они приводятся к треугольному виду одновременно, т. е. существует унитарная матрица I) ^Мп, такая, что обе матрицы '
UAU = T, U’BU = R
верхние треугольные с диагональными элементами аь . .., a,t и pz , ..., р. соответственно. Легко видеть, что
U4A + B)U = T + R,
и, значит, Т -[- R имеет собственные значения
ai + 0i,’ аг+Р/2> • • an+₽f„-
Остается заметить, что А + В имеет те же собственные значения, что и Т + R, так как эти матрицы подобны. □
Пример. Если А и В коммутируют, то это вовсе не означает, что каждое из чисел а, + Р/ будет собственным значением для А + В. Рассмотрим диагональные матрицы
л Г 1 01Г3 01
[О 2J[О 4]’
как видим, 1 + 4 + 5 ^{4, 6}= о(Л + В). Таким образом, для коммутирующих А, В множество о (Л + В) содержится в о(Л) + + о(В), но это, вообще говоря, несовпадающие множества.
Пример. Если А и В не коммутируют, то трудно говорить о какой-либо связи о(Л + В) с о(Л) и о(В). В частности, о(Л + В) может и не содержаться в о(Л)4~о(В). Возьмем матрицы
Для них о (Л + В) = {—1, 1}, в то время как о (Л) = ст (В) = {0}.
Пример. Можно ли обратить утверждение теоремы 2.4.9? Должны ли Л и В коммутировать, если их собственные значения складываются в каком-то порядке? Ответ отрицательный, причем даже в том случае, когда собственные значения складываются (в определенном порядке) для матриц «Л и рВ с произвольно взятыми числами а, р. Это интересное явление, а полное описание всех таких пар матриц1)—нерешенная про-
блема! Положимблема! Положим-14 5'"2 1 2"А =0 2 6, в =0 3 3-0 0 3 --0 0 4 --14 5'"2 1 2"А =0 2 6, в =0 3 3-0 0 3 --0 0 4 -
блема! Положим
блема! Положим
-14 5'
"2 1 2"
А =
0 2 6
, в =
0 3 3
-0 0 3 -
-0 0 4 -
-14 5'
"2 1 2"
А =
0 2 6
, в =
0 3 3
-0 0 3 -
-0 0 4 -
Для них собственные значения складываются, хотя Л и В не коммутируют. Ясно, что возможность одновременного приведения с помощью преобразования подобия к верхнему треугольному виду для суммируемости собственных значений достаточна, ио она вместе с тем необходимой не является. И уж, конечно, верхние треугольные матрицы совсем не обязательно коммутируют.
Следствие. Предположим, что матрицы А,ВеМп коммутируют и обладают соответственно собственными значениями «1, ..., ап и Рь ..., рл. Если а/^=—$; для всех i, j — l, ..., п, то матрица A -j- В невырожденна.
Упражнение. Доказать это следствие, исходя из теоремы 2.4.9.
Упражнение. Показать, что для любой пары матриц A, Be еМп (независимо от того, коммутируют они или не коммутируют) сумма всех собственных значений матрицы А 4- В есть сумма всех собственных значений матрицы А плюс сумма всех собственных значений матрицы В. Указание. Найти tr(X + B).
Мы рассмотрели для днагонализуемых матриц возможность их одновременной диагонализуемости—для нее коммутативность является легко проверяемым необходимым и достаточным условием. Мы изучили также возможность одновременного приведения к треугольному виду с помощью унитарного подобия — для нее коммутативность является достаточным условием, по необходимым это условие не будет. В то же время иногда бывает полезно для двух заданных матриц установить невозможность такого одновременного приведения к треугольному виду. Для этого нужны более сильные необходимые условия, чем суммируемость собственных значений. Следующий пример указывает путь к таким условиям. ‘
Пример. Положим
Обе матрицы А и В имеют собственное значение 0 кратности 3. Если взять любую линейную комбинацию аА + ЬВ, то ее собственные значения также нулевые, т. е. имеет место суммируе-
мость собственных значений, а это есть довод в пользу предположения о том, что А н В одновременно трнангуляризуемые. Однако, если бы для некоторой невырожденной матрицы S е М3 обе матрицы 5Л5_| н BBS-1 оказались верхними треугольными, то собственные значения матрицы (SAS-1) (SBS-1) = SABS-1 были бы произведениями — в определенном порядке — собственных значений матриц Л и В. В данном случае собственные значения для АВ составляют множество {—1,0, 1}, которое нельзя получить, перемножая числа нз множеств {0} н {0}. Остается заключить, что для Л и В одновременное приведение к верхнему треугольному виду преобразованием подобия невозможно.
Упражнение. Проверить утверждения, связанные с этим примером. В частности, показать, что если обе матрицы С, D е М„ верхние треугольные, то собственные значения для CD суть произведения собственных значений для С и D (в определенном порядке), т. е.
ст (СО) Е а (С) а (О).
Если рассматривать одновременное приведение к верхнему треугольному виду преобразованием подобия, не обязательно унитарным (см. 2.6), то оно полностью характеризуется следующей теоремой Маккоя, доказательство которой мы опустим. Напомним, что можно говорить о многочленах от любого числа переменных; это просто какне-то линейные комбинации произведении степеней нескольких переменных. Если переменные не коммутируют, то различные степени одних и тех же переменных в произведении могут встречаться несколько раз, чередуясь со степенями других переменных.
Теорема. Пусть А, В е Мп, о (Л) = (а,аД и а (В)= = (PiРД (с учетом кратностей). Для существования невырожденной матрицы SeMn, такой, что обе матрицы S-XAS и S-xBS верхние треугольные, необходимо и достаточно, чтобы для какой-то перестановки ix, ..., z„ индексов 1, 2п выполнялось равенство а^р^А, В)) = ^р (а.., р. у / = 1п^ для всех многочленов р (,t, s) с комплексными коэффициентами от двух некоммутирующих переменных.
Упражнение. Установить, что условие для многочленов из теоремы 2.4.15 является необходимым для одиовремеииого приведения к треугольному виду матриц Л и В. Другими словами, показать, что если А, ВеМп коммутируют, то а (р (Л, В)) = = {р(а/, ^у 1 = ^«}для всех многочленов р от двух пе
ременных. Каким образом теорема 2.4.15 объясняет пример 2.4.14?
Замечание. Утверждение теоремы 2.4.15 остается в силе для матриц и многочленов над произвольным полем, лишь бы оно содержало собственные значения рассматриваемых матриц. Аналогичный результат имеет место и для одновременной триангу- ляризуемости к = 3,4 .., матриц (в этом случае нужно рассматривать многочлены от к переменных). Есть даже его обобщение, учитывающее только какую-то часть собственных значений, а именно: р (а,}> Р;)еа(р(А, 5)) (/ = 1, ..., г) для многочленов p(s, t) тогда и только тогда, когда А и В одновременно приводятся преобразованием подобия к блочно-треугольным матрицам, таким, что в каких-то позициях на диагонали в одной из них размещаются IX 1-блоки, содержащие «ь ,,.,«„ и в тех же позициях в другой — 1 X 1-блоки, содержащие
Задачи
Предположим, что А, ВеМп коммутируют и имеют собственные значения аь ..., а„ и рь ..., р„ соответственно.
Доказать, что собственные значения для АВ имеют вид аД , аД. , ..., айР; для некоторой перестановки ip ..., in индексов 1п.
Доказать, что для произвольного многочлена р(/, s) от двух переменных матрица р(А, 5) имеет собственные значения Р(“р Р,-,). •••• р(%. ^in>
Наконец, показать, что последнее утверждение верно и при более слабом (по сравнению с коммутативностью) предположении об одновременной приводимости к верхнему треугольному виду; коммутативность не является необходимой.
Показать, что ранг матрицы А е Мп не меньше числа ее ненулевых собственных значений1). Указание. Показать, что ранг верхней треугольной матрицы не меньше числа ненулевых элементов на ее главной диагонали. Далее воспользоваться теоремой Шура. Используя матрицу
Г0 11
А L О О J *
объяснить, почему ранг матрицы А может оказаться больше, чем число ненулевых собственных значений.
Цель этой задачи — установить, что теорема Кэли — Гамильтона справедлива и для матриц с элементами из любого
’) В этом и аналогичных случаях нужно учитывать кратности собственных значений.—Прим. ред.
коммутативного кольца (а не только из комплексного поля). Коммутативное кольцо — это математическая структура, в которой выполняются все аксиомы поля, кроме существования обратных элементов по умножению. Таким образом, имеются коммутативные операции «сложения» и «умножения», подчиняющиеся обычным законам ассоциативности и дистрибутивности. Мы предполагаем дополнительно, что в кольце имеется единица по умножению, т. е. элемент 1, такой, что 1а = а для всех его элементов а. Один из примеров кольца, которое может и не быть полем, — это кольцо Zb целых чисел по модулю /г. В Zk «сложение» и «умножение» выполняются как обычно, только результат приводится по модулю к. Кольцо Z* является полем тогда и только тогда, когда к простое. Другой пример — множество многочленов с комплексными коэффициентами от к формальных переменных.
Напомним, что если А е М„, то adj А е Мп— это однозначно определенная матрица, которая в позиции (t,/) содержит алгебраическое дополнение к элементу матрицы А, стоящему в позиции (/, t) (см. разд. 0.8.2). Показать, что фундаментальное тождество
A (adj Л) = (adj Л) A = (det А") I
есть не что иное, как запись разложения Лапласа для определителя матрицы А с учетом того факта, что det А =0, если в А совпадают какие-либо две строки или какие-то два столбца. В этой формуле участвуют только умножение и сложение, но деления в ней нет. Доказать, что эта формула справедлива для матриц с элементами из произвольного коммутативного кольца.
Используя п. (а), доказать, что равенство
(^ - A) [adj (Д - Л)] = [adj (Д - Л)] (Д — Л) =
= det(/Z-АИ = РАт
справедливо не только для любой матрицы АеМп, но и для любой п X «-матрицы с элементами Из произвольного коммутативного кольца. Показать, что adj (/Z — Л) — это матрица, элементы которой являются многочленами от t степени не выше п— 1 и поэтому ее можно записать так:
adj (Д — Л) = An_xtn~x Л- Л„_2Д~2 -[-...+ Axt + Ло,
где элементы п X «-матриц Ак суть значения многочленов от элементов матрицы А. Многочлен рд(1)—это характеристический многочлен матрицы А.
Доказать, что для всех к = 0, 1, ...
t4 — Ak = {tl — Л)(//*-* + A/k-'2-i- ... 4- Ak-4-V Ак-^ =
= (tI — A}(GkA, t) -
при условии, что А есть «X «-матрица с элементами из коммутативного кольца. Вывести отсюда, что
tkI = ик = Ак + (//-. Л) Gk (Л, /), /г = О, 1,2,....
Показать, что многочлен рА (f) = antn + an_xtn-v + ... ... + axt + а0 = det (//— Л), т. е. характеристический многочлен матрицы А (здесь ап = 1), определен корректно и в том случае, когда А есть п X «-матрица с элементами из произвольного коммутативного кольца. Используя п. (с), установить равенство
Ра VV=t. ahtkI = ^ак\Ак + Щ - Л) Gk (Л, /)] = 6=06 = 0
= рд (t) + (G- A)G(A, п, где
С(Д П=Ц а^А, ty
&=о
есть многочлен от / степени не выше п—1 и его коэффициентами являются матрицы, в которых каждый элемент представляет собой многочлен от элементов матрицы А. Далее, используя п. (Ь), показать, что
Ра И) = Ра WI - (tl - A) G (A, f) =
= (// - Л) adj (.tl - Л) - Щ — A)G (Л, /) =
= UI-AVUA, 0=QaV\
где Н (Л, 0 =1 + Bn_2tn~2 + ... + Bxt + Во и для всех к
матрица Вк имеет размер п X « и любой ее элемент представляет собой многочлен от элементов матрицы А, не зависящий от Л Таким образом, QA (i) — это многочлен от t с матричными коэффициентами, имеющий степень не выше п.
Вычислить значение <2л(Л) и вывести отсюда, что рл(Л) = 0.
Доказать, что любая матрица, коммутирующая с невырожденной матрицей А е Мп, коммутирует также и с Л-1. Указание. См. разд. 2.4.4; привести также прямое доказательство.
Используя теорему 2.3.1, доказать, что если матрица имеет собственные значения ..., Хл, то
£х* = ДЛ\ А = 1, 2, ... .
/=1
6. Показать, что матрицы
" 1 0 0 '
- -212 "
А =
0 2 0
, в =
-1 -2 -1
-0 0 3 -
- 111 -
не приводятся одновременно к верхним треугольным матрицам преобразованием подобия, однако а (а А + 6В) = {а — 26, 2а — 26, За +6} для всех чисел а, бе С.
Доказать невозможность одновременного приведения к треугольному виду двух матриц из примера 2.4.14, используя условие из задачи 6 из § 2.3. Это же условие применить к двум матрицам из предыдущей задачи.
Следующее утверждение в духе теоремы (Маккоя) 2.4.15 иногда оказывается полезным для того, чтобы установить, что какие-либо две матрицы не являются унитарно эквивалентными. Пусть рЦ, s) обозначает произвольный многочлен с комплексными коэффициентами от двух некоммутирующих переменных и унитарная эквивалентность матриц А, В г Мп выражается соотношением А = UBU*, где U—какая-то унитарная матрица. Доказать, что р^А, А*) = Up^B, В*^ U*. Отсюда вывести, что если А и В унитарно эквивалентны, то 1гр(Л,Л*) = = tr^(B, В*) для любого комплексного многочлена p(s,t) от двух некоммутирующих переменных. Как это связано с теоремой 2.2.6?
Пусть заданы матрицы АеМп, ВеМ„, и предположим, что они не имеют общих собственных значений, т. е. множество о (Л) Q о (В) пусто. Используя теорему Кэли — Гамильтона 2.4.2, показать, что уравнение АХ— ХВ = Соотносительно X е Мп> т имеет только одно решение X = 0. Вывести отсюда, что уравнение АХ — ХВ = С имеет единственное решение Хе.Мпт для любой заданной матрицы СеМп,т. Указание. Показать по индукции, что так как АХ = ХВ, то AhX = XBk для всех к = \, 2, ..., и потому р (Л) X = Хр (В) для любого многочлена р(0. В качестве р (/) взять характеристический многочлен для А и получить равенство рА (Л) X = 0 = ХрА (В). Поскольку рА (В) = (В — ЯД) ... (В — Хп1), где Ль ..., кп— собственные значения матрицы А, матрица рА(В) невырожденна и уравнение XpA(B) = 0 имеет единственное решение X = 0. Существование решения уравнения АХ — ХВ = С для любой правой части вытекает из единственности решения однородного уравнения и утверждений (к) и (1) из § 0.5, примененных к линейному преобразованию X-*- Т (X) = АХ — ХВ на Мп, т.
С помощью задачи 9 предложить доказательство теоремы 2.4.8, основанное на редукции, проводимой не более к — 1
раз. Указание. Записать А в виде
"4ц Л12О Л22О О"4ц Л12О Л22О ОАйАй"4ц -^1 1О Т J’"4ц -^1 1О Т J’
"4ц Л12
О Л22
О О
"4ц Л12
О Л22
О О
Ай
Ай
"4ц -^1 1
О Т J’
"4ц -^1 1
О Т J’
где каждый блок А и диагонали находится Рассмотрим матрицыгде каждый блок А и диагонали находится Рассмотрим матрицыверхний треугольный только Xi. Положимверхний треугольный только Xi. Положими на его главной А = ["412 , • • "41 /г] «и на его главной А = ["412 , • • "41 /г] «
где каждый блок А и диагонали находится Рассмотрим матрицы
где каждый блок А и диагонали находится Рассмотрим матрицы
верхний треугольный только Xi. Положим
верхний треугольный только Xi. Положим
и на его главной А = ["412 , • • "41 /г] «
и на его главной А = ["412 , • • "41 /г] «
Г/ X 1, Г/ — X 1
[о I J’ [о I J’
где X имеет те же размеры, что и Rv. Показать, что 1 Г "4ц О "I
5 L о г]
при условии, что в качестве X выбрано решение уравнения АиХ — XT = — Ry- То же проделать со следующими строками и в итоге установить, что А подобна diag(Л11, Л22, ..., А^.
Для заданных А, ВеМп рассмотрим их коммутатор С = АВ — В А. Доказать, что trC = O. На примере матриц Я = [?„], ^ = [оо] показать, что этот коммутатор может и не быть нильпотентным, т. е. какие-то его собственные значения могут быть отличными от нуля, несмотря на то что сумма всех его собственных значений равна нулю.
Для А, ВеМ, положим С = АВ — В А и предположим, что А коммутирует с С. Доказать, что матрица С нильпотен- тна. В этой связи прокомментировать ситуацию в задаче 11. Указание. Существует невырожденная матрица S г Мп, такая, что SCS-1 = diag(Cn, С22, ..., Скк) = Сь для всех 1=1, ..., к матрица СцеМщ верхняя треугольная, а (Си) = {/.J и при этом «1 + «2+ ... + пк и Xy^Xj, если i=^j. Почему? Положить Л!^5Л5-1> By = SBS-1 и рассмотреть блочные разбиения Ах = (Аг/) и BY = (Bij), согласованные с блочно-диагональным видом матрицы Ср Доказать, что Л1С1=С1Л1 и —с помощью задачи 9 — что Л,; = 0, если к> 1 и i ^ j. Тогда при всех I для Оц = АиВн — ВцАи имеем trCH = O, и, значит, Xt = 0 и к = \.
Получить в обозначениях задачи 9 еще одно доказательство того факта, что уравнение АХ — ХВ = С имеет единствен-
ное решение для любой матрицы СеМп при условии, что А и В не имеют общих собственных значений. Для этого использовать теорему 2.4.9. Указание. Рассмотреть линейные преобразования Тх, Т?;. Мп<т->МПгт, определенные соотношениями Г,(Л) = ЛХ, Т^Х) = X В. Доказать, что Тх и Т2 коммутируют и, согласно теореме 2.4.9, собственные значения для Т суть разности собственных значений для Тх и Т^. Установить, что X будет собственным значением для Tv в том и только в том случае, когда АХ— XX = 0 для какой-то ненулевой матрицы X е Мп, т, а это возможно в том и только в том случае, когда X является собственным значением для А (рассмотреть в X столбцы, отличные от нуля). Таким образом, множества собственных значений для Тх и А совпадают1) и то же справедливо по отношению к Т2 и В. Итак, преобразование Т невырожденное при условии, что А и В не имеют общих собственных значений. Пусть х — собственный вектор матрицы А, отвечающий собственному значению X, и у—собственный вектор матрицы Вт, отвечающий собственному значению ц. Показать, что если X = хут, то 7 (Х) = (Х — ц)Х. Отсюда вывести, что множество собственных значений для Т состоит из всех возможных разностей собственных значений матриц А и В.
Пусть семейство 9" = {Д,: i е .57"} cz Мп коммутативное. Доказать, что для 9" возможно одновременное преобразование подобия к верхнему треугольному виду, причем таким способом, что некоторая произвольно выбранная матрица из 9" приводится к блочно-диагональному виду, описанному в теореме 2.4.8, и при этом все остальные матрицы из Остановятся блочно-диагональными верхними треугольными матрицами с аналогичным блочным разбиением. Другими словами, для любой заданной матрицы Ао е О можно найти невырожденную матрицу S е М,„ такую, что Ах = S diag (Тх1), .... T^S-1 для всех е О, матрица Т<‘) s М„ (at + пг + •-• + П/г = п) верхняя треугольная для всех / = 1, ..., к и для всех t е О, все элементы на главной диагонали в Т^ равны Х; и X, #= Хх при / 9= I. Указание. Выбрать S таким образом, чтобы матрица S^HoS имела блочно-диагональный вид, описанный в теореме 2.4.8. Заметить, что семейство (5-|ДД>: i е5"} будет коммутативным. Для всех матриц З-'Д.З рассмотреть одинаковые блочные разбиения, согласованные с блочным разбиением матрицы S-MoS. Используя коммутативность и результат задачи 9 или 13 (так же, как в задаче 12), показать, что все внедиагональные блоки для каждой матрицы S-’/HS должны быть нулевыми. Теперь теорему 2.3.3 можно применить для к семейств, состоящих из блоков, занимающих на диагонали одно и то же место.
*) Но не их кратности. — Прим, перев.
За исключением матрицы S-MqS, уже нельзя, конечно, гарантировать, что все собственные значения одного диагонального блока в S“MjS равны или что собственные значения разных блоков обязательно различны.
Дополнительная литература и комментарии
Теорема 2.4.15 и ее обобщения доказаны в работе: McCoy N. Н. On the Characteristic Roots of Matrix Polynomials, — Bull. Amer. Math. Soc., 1936, v. 42, p. 592—600. См. также: Motz- kin T. S., Taussky 0. Pairs of Matrices with Property L.— Trans. Amer. Math. Soc., 1952, v. 73, p. 108—114, где обсуждается связь между собственными значениями и линейными комбинациями. Говорят, что любая пара матриц А, ВеЛД, такая, что о (аА + ЬВ) = {act, + b^tj: /=!,...,«} для всех а, b е е С, обладает свойством L, а условие, рассмотренное в теореме 2.4.15, называется свойством Р. Очевидно, что из свойства Р вытекает свойство L, ио не наоборот. Более слабое свойство L изучено еще не полностью; впрочем, известно, что любая пара нормальных матриц (см. § 2.5), обладающая свойством L, коммутирует и поэтому одновременно диагонализуется с помощью унитарного подобия.
Нормальные матрицы
Нормальные матрицы, возникающие естественным образом в связи с унитарной эквивалентностью, имеют важное значение для всего матричного анализа. Класс нормальных матриц включает в себя унитарные, вещественные симметричные и эрмитовы матрицы.
Определение. Матрица А еМ- называется нормальной, если А*А = АА*, другими словами, если А коммутирует со своей сопряженной матрицей.
Упражнение. Доказать, что для нормальности матрицы А е Мп необходимо и достаточно, чтобы любая унитарно эквивалентная ей матрица была нормальной. Унитарная эквивалентность не выводит из класса нормальных матриц.
Примеры.
Если матрица U унитарна, то U*U = / = UU*; поэтому все унитарные матрицы нормальны.
Если А* = А, то очевидно, что А*А=АА*; поэтому все эрмитовы матрицы нормальные.
Если матрица Ае.Мп такова, что А* = —А, то она называется косоэрмитовой. В этом случае А*А =—А2 = АА*; поэтому все косоэрмитовы матрицы тоже нормальны.
Матрица A = ^J [] нормальна и не относится ни к одному из перечисленных выше классов.
"Упражнение. Охарактеризовать нормальные матрицы в M2(R) с помощью каких-либо соотношений для их элементов. Представить результат, используя классы матриц из приведенных выше пп. (а), (Ь) и (с). Указание. Установить, что если нормальная матрица ЛеМ2(К) имеет хотя бы один нулевой элемент, то Л =ЛТ или Л =—Лг. Если в Л все элементы ненулевые, то или Л = Лг, или ААТ = al для некоторого а > 0.
Упражнение. Привести какой-либо пример вещественной матрицы размера 2 X 2, которая не будет нормальной. Привести также пример вещественной 2X 2-матрицы, которая является нормальной, не будучи симметричной, кососимметричной (т. е. такой, что Ат =—Л) или ортогональной.
Упражнение. Доказать, что классы матриц, приведенные в пп. (а), (Ь) и (с), замкнуты относительно преобразования унитарной эквивалентности.
Упражнение. Доказать, что любая диагональная эрмитова матрица должна иметь вещественные элементы, а любая диагональная косоэрмитова — чисто мнимые.
Определение. Если матрица А е Мп унитарно эквивалентна какой-либо диагональной матрице, то А называется унитарно диагонализуемой. Аналогично вводится определение ортогональной диагонализуемости. Заметим, что унитарная (пли ортогональная) диагонализуемость влечет за собой диагонализуемость (но не наоборот).
Упражнение. Рассмотреть доказательство теоремы Е3.7 и установить, что матрица А е Мп будет унитарно диагонализуемой в том и только в том случае, когда в Сп можно найти п ортонормированных векторов, каждый из которых является собственным вектором для А.
Ниже мы перечисляем наиболее фундаментальные факты, относящиеся к нормальным матрицам. Один из них — эквивалентность утверждений (а) и (Ь) в следующей теореме — часто называется спектральной теоремой для нормальных матриц.
Теорема. Для матрицы А = [а,;] е Мп с собственными значениями Ль ..., Кп следующие утверждения эквивалентны»
А нормальна;
А унитарно диагонализуема; '
Zl^/I2-ZlM2;
/i = l
для А существует ортонормированное множество из собственных векторов.•
[Утверждение (Ь) означает, что матрицу А можно представить в виде A = UDU*, где D— диагональная, a U— унитарная матрицы, причем диагональные элементы матрицы D составляют спектр матрицы А. Это разложение мы в дальнейшем будем называть спектральным.— Перее Д
Доказательство. Будем считать, что всюду здесь Т = [<у]еМп обозначает верхнюю треугольную матрицу, унитарно эквивалентную матрице А; ее существование обеспечивается теоремой Шура 2.3.1. Таким образом, Т = U*AU для некоторой унитарной матрицы U е Мп. Поскольку Т унитарно эквивалентна А, утверждение (а) равносильно нормальности Т. Покажем, что (а) равносильно (Ь), (Ь) равносильно (с) и (с) равносильно (d)<
Чтобы установить, что (а) влечет за собой (Ь), проведем следующее вычисление. Если А нормальна, то и Т нормальна. Но треугольная нормальная матрица должна быть диагональной, в чем можно убедиться, приравнивая диагональные элементы матриц ТР и РТ. Равенство их элементов в позиции (1,1) означает, что
iu^n —+ 2 6/6/ — I 61 I2 + Z I 6/12.
Следовательно,
o = Zl6/l2
/=2
— сумма неотрицательных членов равна нулю и поэтому каждый из них должен быть нулем. Значит,
6/ = О,/ —2, ..., п.
Матрицы РТ и ТР имеют одинаковые элементы и в позициях (2,2), т. е.
6262—6262 + Z =16212 + Z16/12-.
/=з1/=3
Отсюда получаем, что
6/~ 0,/ = 3, ..., п.
Действуя в том же духе, предположим, что мы уже установили равенства
6/ = °» j>{. 1=1, •••. k — 1.
Тогда можно доказать, что имеют место также равенства /Z/ = 0, j>i,i = k.
Проводя аналогичные рассуждения последовательно для каждого диагонального элемента, в конце концов получим
Чу = О, ! > i, i = l/г—1.
Учитывая также, что вследствие верхнего треугольного вида матрицы Т
hl = 0, i <i, / = 1п,
приходим к выводу о диагональности матрицы Т. Итак, утверждение (Ь) доказано. Поскольку диагональные матрицы, очевидно, нормальны и это свойство сохраняется при унитарной эквивалентности, то из (Ь) также следует (а).
Чтобы установить равносильность (Ь) и (с), обратимся к теореме 2.2.2. При диагонализации матрицы А мы получаем диагональную матрицу, в которой на диагонали располагаются (в каком-то порядке) собственные значения Xi, ..., Х,2; поэтому теорема 2.2.2 позволяет нам вывести (с) из (b). С другой стороны, поскольку X/ (i = 1, ..., п) являются в Т диагональными элементами, в силу теоремы 2.2.2 получаем
Z I12= ЁР + Е IV-
./-11-1 к/
В то же время (с) означает, что п
т. е. матрица Т диагональна. Отсюда следует (Ь)\
■ Равносильность (Ь) и (d) составляет содержание предшествующего этой теореме упражнения. □
Упражнение. Показать, что если матрица Т е Мп треугольная и i-e диагональные элементы матриц Т*Т и ТТ* одинаковы для всех i=l, .. ., п, то матрица Т диагональна. Объяснить, почему этот факт вместе с инвариантностью нормальности относительно унитарного подобия является главной причиной унитарной диагонализуемости нормальной матрицы.
Упражнение. Доказать, что нормальная матрица недефектна (для каждого собственного значения геометрическая кратность совпадает с алгебраической кратностью).
Упражнение. Пусть матрица А е Мп нормальна. Доказать, что вектор х е Сп является для А правым собственным векто-
ром, отвечающим собственному значению X, тогда и только тогда, когда х является левым собственным вектором, отвечающим X, т. е. Ах = Хх равносильно х*А — Хх*. Указание. Нормировать х и записать А = UAU*, взяв х в качестве первого столбца в U. Как выглядит Л*? А*х? Другое доказательство см. в задаче 20 в конце этого параграфа.
Упражнение. Доказать, что если матрица А е М„ нормальна и х и у — собственные векторы, отвечающие ее различным собственным значениям, то х и у ортогональны. Указание. Исходя из Ах — Хх, Ау — уу, показать, что ух*у — х* ^Ау^ = (А*х)*у = = (Хх) *у = Хх*у. Если X #= р, то х*у = 0. Другое доказательство см. в задаче 21.
Если собственные значения какой-либо нормальной матрицы известны, то можно провести ее унитарную диагонализацию, руководствуясь следующим общим предписанием. Определим все ее собственные подпространства и выберем в каждом из них ортонормированный базис (например, с помощью процесса Грама ■—Шмидта). Вследствие нормальности матрицы А и совпадения размерности каждого собственного подпространства с кратностью соответствующего собственного значения объединение этих базисов будет ортонормированным базисом всего пространства. Составим из этих векторов, располагая их по столбцам, некоторую унитарную матрицу.— она и будет осуществлять искомую диагонализацию.
Теперь отметим, что коммутирующие между собой нормальные матрицы одновременно диагонализуемы.
. 2.5.5. Теорема. Если Л^М-—коммутативное семейство нормальных матриц, то оно одновременно унитарно диагонали- зуемо, т. е. каждая матрица из Л превращается в диагональную посредством одного и того же преобразования унитарного подобия. ■
Упражнение. Доказать эту теорему, опираясь на теорему 2.3.3 и факт диагональности любой треугольной нормальной матрицы. Объяснить, почему и предположения, и утверждения теоремы 2.5.5 сильнее, чем предположения и выводы в теореме 1.3.19.
Теперь применим теорему 2.5.4 к случаю эрмитовых матриц. Это один из фундаментальных результатов, часто называемый спектральной теоремой для эрмитовых матриц.
Теорема. Если матрица А е Мп эрмитова, то
все ее собственные значения вещественны;
А унитарно диагонализуема.
Р. Хорн, Ч. Джонсон
Если матрица ДеМп(К) симметрична, то она вещественно ортогонально диагонализуема.
Доказательство. Любая диагональная эрмитова матрица имеет вещественные элементы, поэтому (а) следует из (Ь) и замкнутости множества эрмитовых матриц относительно преобразования унитарной эквивалентности. Утверждение (Ь) следует из теоремы 2.5.4, потому что эрмитовы матрицы нормальны. Если матрица ДеА4п(К) симметрична, то она также и эрмитова. При этом все вычисления, необходимые для ее диагонализации, выполнимы над вещественным полем. Вещественность собственных значений матрицы А позволяет и собственные векторы выбрать вещественными. □
Важно отметить, что в отличие от обсуждения диагонализуемости в гл. 1 тот факт, что собственные значения различны, или что-либо ему подобное не играет роли в теоремах 2.5.4 и 2.5.6, а в теореме 2.5.5 не нужно предполагать диагонализуемости. Нормальность изначально гарантирует наличие полной системы собственных векторов (более того, ортонормированной системы). Это одна из причин, почему эрмитовы и нормальные матрицы так важны и почему они имеют такие приятные свойства.
Мы рассмотрим теперь аналоги теорем 2.5.4 и 2.5.5 для вещественных нормальных матриц. Такие матрицы диагонализуе- мы вследствие нормальности, но не обязательно при помощи именно вещественного унитарного подобия. Спрашивается, к какому же наиболее простому виду можно привести их посредством вещественного ортогонального подобия? Поскольку может случиться так, что вещественная нормальная матрица вообще не имеет вещественных собственных значений, то нет никакой гарантии насчет ее диагонализуемости с помощью вещественного подобия. С другой стороны, согласно теореме 2.3.4, любая вещественная матрица преобразованием вещественного ортогонального подобия приводится к специальному блочно-треугольному виду. Это наводит на соображения, что можно в этом плане сделать, если матрица также нормальна. Наше рассуждение использует теорему 2.3.4 в том же духе, в каком теорема 2.3.1 используется при доказательстве теоремы 2.5.4. Следующая лемма избавляет.нас от технических подробностей, которые не фигурируют в доказательстве теоремы 2.5.4.
Лемма. Если матрица А е Мп эрмитова и хМх ^ 0 для всех х е С", то все собственные значения матрицы А неотрицательны. Если к тому же tr А = 0, то А = 0.
Доказательство. Согласно теореме 2.5.6, запишем A = UMJ*, где 1Л=[щ и2... и„]еА1„—унитарная матрица, A=diag (Ль К2, ...
QTAQ =QTAQ =eAl„(R), l<Ai<n, (2.5.9)eAl„(R), l<Ai<n, (2.5.9)
QTAQ =
QTAQ =
eAl„(R), l<Ai<n, (2.5.9)
eAl„(R), l<Ai<n, (2.5.9)
..., Хпу Тогда A = U‘AU, так что Хк = и*кАик^0, согласно предположению, и, следовательно, Хк^0 для всех 6. Наконец, tr А = tr UAU* = tr MJ*U = tr Л = Л] + ... + Лп. Поэтому если tr Л = 0 и Лй^0 для всех 6, то Лй = 0 для всех 6, а значит, Л = 0 и А = UAU* = U0U* = 0. □
Теорема. Пусть ЛеМ„(И). Тогда А нормальна в том и только в том случае, когда существует вещественная ортогональная матрица Q eAf„(R), такая, что
АА0"
А
А
где для всех / блок А, представляет собой вещественную 1X1- матрицу либо вещественную 2%2-матрицу вида
а/-Р/а/-Р/Ма/JМа/J(2.5.10)(2.5.10)
а/
-Р/
а/
-Р/
Ма/J
Ма/J
(2.5.10)
(2.5.10)
Доказательство. Прямое вычисление показывает, что всякая матрица вида (2.5.10) нормальна (AfAJ = diag (а? + р^, а)' + PJ)= = Л^Л;); поэтому любая прямая сумма вида (2.5.9) будет также нормальной. В силу теоремы 2.3.4 очевидно, что нам достаточно доказать нашу теорему для нормальной матрицы вида (2.3.5). Так как блоки на главной диагонали в матрице (2.3.5) можно располагать в любом заданном порядке, то мы будем считать, что матрица
AiAiAiAiА =А =Ло2Л[2АгЛо2Л[2АгЛ 0k Aik AikЛ 0k Aik Aike<(R)e<(R)(2.5.11)(2.5.11)
Ai
Ai
Ai
Ai
А =
А =
Ло2
Л[2
Аг
Ло2
Л[2
Аг
Л 0k Aik Aik
Л 0k Aik Aik
e<(R)
e<(R)
(2.5.11)
(2.5.11)
00
0
0
Akk
нормальна, причем
^-р -
eAMR)
верхняя треугольная, ЛОь Аг, • ••> A&SMP,2(R) и Д//еЛТ2(К), если I, /= 1, 2, ..., к и /^Л Мы покажем, что матрица R диагональна и Ац = 0 для всех j > L
Рассмотрим равенство АТА=ААТ. Приравнивая первые рХр-блоки на главной диагонали, отвечающие блоку R в (2.5.11), получаем
RTR = RRT + д^г + ... + АокАТк. (2.5.12)
Заметим, что любая матрица ВеМр(С), имеющая №Д,В = ЕЕ* для какой-либо матрицы ЕеМ.,., эрмитова, причем х*Вх = = х'ЕЕ'х = ЦГхУ (Е*х) ^ 0 для всех х е С”. Сумма таких матриц обладает тем же свойством. В силу общего принципа
tr RTR = tr RRT
и вследствие равенства (2.5.12)
tr/?^=trW + trX01<+ ... +trX0^.
Поэтому
О = 1гДоД ++trA,^.
Согласно лемме 2.5.7 и сделанному выше замечанию по поводу свойств вещественной матрицы В = А^А*^ = А0.А^, получаем, что 1гД..Л^0. Поскольку их сумма равна нулю, каждый из ее членов тоже равен нулю и, следовательно, Ао/Д^ = О (/—-1, . .., кУ В Д0/ДГ Вй элемент на главной диагонали есть сумма квадратов (вещественных) элементов i-й строки матрицы До/, поэтому все эти элементы должны быть нулями, т. е. До/ = О для всех /=1, ..., к и (2.5.12) принимает вид
RTR = RRT.
В то же время мы знаем из доказательства теоремы 2.5.4, что треугольная нормальная матрица не может быть ничем иным, кроме диагональной матрицы. Поэтому /? = diag(Xi, ..., Хр), как и утверждалось.
Теперь в равенстве АТА = ААТ приравняем 2 X 2-блоки главной диагонали, отвечающие блоку Дц в (2.5.11). С учетом того факта, что До/— О для / = 1, 2, ..., к, получаем
А.А.^АИГ. + Аг^А ••• +VIk. (2-5.13)
Имеем tr (Д^Дц) = tr (ДцД^) и вследствие этого wa+ ••• +1ги,л.)-о-
Так как tr (Д^Д^) ^ 0, то tr (Д^Д^) = 0, а значит, Д1/Д[/ = 0 и Дц = 0, j — S, 3, ..., к (здесь, как и раньше, используется лемма 2.5.7). Таким образом, (2.5.13) принимает вид Д[,ДН = — Д^Д^, т. е. 2 X 2-блок Дн нормален.
Последовательно просматриваем 2 X 2-блоки на главной диагонали в ААТ = АТА, отвечающие блоку Ац в (2.5.11) (z = 2, 3, ..., к—1). Проводя те же рассуждения, приходим к выводу, что, как и утверждалось, все внедиагональные блоки нулевые и все блоки Ап, расположенные на главной диагонали, нормальные.
Мы показали, что любое вещественное преобразование ортогонального подобия, приводящее вещественную нормальную матрицу к виду (2.3.5), приводит ее в действительности к блочно-диагональному виду (2.5.9). Остается установить, что все блоки на диагонали имеют вид (2.5.10).
Если матрица Ац = [“ ^] е Mn (R) нормальна, то, приравнивая в A^-Ajj = А^ элементы в позициях (1.1) и (1.2), получаем
Ь2 = с2, откуда с = ± Ь, и
ас + bd = ab + cd, откуда 26 (а — d) = 0, если с = — Ь.
Случаи с= А*Ь и b =0 можно исключить, так как матрица Ац при этом будет вещественной симметричной и все ее собственные значения будут вещественные. По нашему построению блоки Ац имеют сопряженные пары невещественных собственных значений. Таким образом, с =—b, a = d и Ац имеет вид (2.5.10). Как показывает вычисление, вещественная матрица [ _“ ^] имеет пару комплексно-сопряженных собственных значений Z = а + Z6 и Л. = а — lb. □
Как следствие этой теоремы для вещественных нормальных матриц легко получаются вещественные канонические формы для вещественных матриц специального типа: симметричных, кососимметричных или ортогональных.
Следствие. Пусть A gM„(R). Тогда
А = Ат в том и только в том случае, когда для некоторой веи^ественной ортогональной матрицы Q^Mn^) имеем
QTAQ =QTAQ =Г ^iГ ^iо 1о 1где Лг е R для всех i*tгде Лг е R для всех i*t
QTAQ =
QTAQ =
Г ^i
Г ^i
о 1
о 1
где Лг е R для всех i*t
где Лг е R для всех i*t
L0L0
L0
L0
А =—Ат в том и только в том случае, когда для некоторой вещественной ортогональной матрицы QeM,(R) имеем
QTAQ =
О
где Лу eAf2(R) для всех / и при этом
л =г ° Ч-7 L-pz о j’
ААТ = I в том и только в том случае, когда для некоторой вещественной ортогональной матрицы QeAl^R) имеем
О
U = L •... k) и при0,eR.U = L •... k) и при0,eR.где Ху = ±1 У=\,...,р\ ЛуеМ2^) этом
U = L •... k) и при
0,eR.
U = L •... k) и при
0,eR.
[cos 0? sin 0; '
— sin 0, COS0/J*
Доказательство. В любом случае исходное предположение обеспечивает нормальность вещественной матрицы А. Поэтому А можно записать в виде (2.5.9), (2.5.10). Если А = Ат, то А, = = Лу для всех /; поэтому Р/ — 0 и матрица QTAQ оказывается диагональной. Если Л = — Ат, то Ху = — Ху и Лу = — А/; поэтому Ху = 0 и а, —0 для всех j. Если ААТ = 1, то ХуХу=1 и ЛуЛу = 7; поэтому Ху — 1 и ау + Ру = 1 для всех /; в этом случае получаем Ху = ±1 и Оу = cos 0у, Ру = sin 0у. □
Если имеется какое-либо коммутативное семейство вещественных и нормальных матриц, то для них одновременная ве-
щественная диагонализуемость может и не иметь места; однако все эти матрицы можно одновременно привести к блочно-диагональной форме (2.5.9).
Теорема. Для любого коммутативного семейства ^^^„(R) вещественных нормальных матриц существует вещественная ортогональная матрица Q, такая, что QTAQ имеет вид (2.5.9), (2.5.10) для всех А е АР.
Доказательство. Согласно теореме 2.3.6, все матрицы из АР одновременно приводятся к виду (2.3.5) с помощью одной и той же вещественной ортогональной матрицы Q. Рассуждения, приведенные в доказательстве теоремы 2.5.8, показывают, что все матрицы вида (2.3.5) должны иметь вид (2.5.9). □
Задачи
Можно составить намного более длинный, чем в теореме
список условий на матрицу АеМп, эквивалентных ее нормальности. Некоторые из таких условий включены в задачи.
Доказать, что матрица А е Мп нормальна в том и только в том случае, когда векторы Ах и А*х имеют одинаковую евклидову длину для любого х е С". Напомним, что для у е С" евклидова длина есть (гДур’.
Доказать, что нормальная матрица является унитарной в том и только в том случае, когда все ее собственные значения по модулю равны 1.
Доказать, что нормальная матрица является эрмитовой в том и только в том случае, когда все ее собственные значения вещественны.
Доказать, что нормальная матрица является косоэрмитовой в том и только в том случае, когда все ее собственные значения чисто мнимы.
Показать, что если матрица А е Мп косоэрмитова (эрмитова), то матрица [А эрмитова (косоэрмитова).
Доказать, что матрица А е Мп является нормальной в том и только в том случае, когда она коммутирует с какой-либо нормальной матрицей с различными собственными значениями.
Рассмотрим матрицы А е Мп, представимые в виде А = — В™1 В* для каких-то невырожденных матриц В е Мп (см. теорему 2.1.9).
Доказать, что унитарность А равносильна нормальности В.
Доказать, что если В имеет вид В = НМН, где N н Н соответственно нормальная и эрмитова матрицы (обе невырожденные), то А подобна унитарной матрице.
Для А е Мп определим эрмитову часть Н{А} — {А + Л*)/2
и косоэрмитову часть 5(Л) = (Л—Л*)/2. Тогда А = Н(А)4- + S(A). Доказать, что А нормальна' в том и только в том случае, когда Н(Л) и 5(Л) коммутируют между собой.
Доказать, что если две нормальные матрицы коммутируют, то их произведение нормально. Показать на примере, что произведение двух нормальных матриц может быть нормальным и без условия коммутативности сомножителей.
В обозначениях задачи 8 доказать, что А будет нормальной, если любой собственный вектор для Н(Л) будет также собственным вектором для 5(Л) (соответственно для Л).
Показать, что для любого комплексного числа zeC можно найтн число DeR, такое, что z = eiRz. При этом матрица [е‘9]еЛ11 унитарна. Как выглядят диагональные унитарные матрицы U е ЛД? •
Обобщить задачу 11 и показать, что для всякой диагональной матрицы Л = diag(Д, Хг, ..., Х„)еЛД можно найти диагональную унитарную матрицу (/, такую, что /V = UA = ЛИ.
Используя задачу 12, доказать, что матрица А е Мп нормальна в том и только в том случае, когда A* = AV для некоторой унитарной матрицы V е Мп. Как - это связано с задачей 7?
Доказать, что если все собственные значения матрицы А еЛД(К) вещественны, то нормальность А эквивалентна ее симметричности.
Доказать, что две нормальные матрицы одного порядка подобны (на самом деле унитарно эквивалентны) в том н только в том случае, когда онн имеют одинаковые характеристические многочлены. Верно лн это для матриц, не являющихся нормальными? Указание. Рассмотреть fool и С о о ]•
Показать, что произведение АВ нормальных матриц А, ВеМ, может не быть нормальным и потому невырожденные нормальные матрицы одного порядка не образуют группу по умножению. Однако унитарные нормальные матрицы образуют группу. Будет ли мультипликативной группой множество невырожденных эрмитовых матриц?
Пусть матрица А е Мп нормальна и р(/)— заданный многочлен. Используя определение 2.5.1, доказать нормальность матрицы р(Л). Придумать также другое доказательство, использующее теорему 2.5.4.
Пусть матрица А е Мп такова, что для какого-то ненулевого многочлена р(Г) матрица р(Л) оказалась нормальной. Будет лн А нормальной? Указание. Рассмотреть ^ — [20] и ^2-
Пусть заданы А е Мп и деС. Доказать, что А нормальна в том н только в том случае, когда А + al нормальна.
Пусть матрица А е Мп нормальна и вектор хе С" удовлетворяет соотношению Ах = Хх. Используя задачи 1 и 19, по-
казать, что А*х = Кх. Указание. Установить, что если евклидова длина вектора (Л — Х/)х равна нулю, то и евклидова длина вектора (Л —Х/)*х равна нулю.
Используя теорему 2.5.4, доказать, что если матрица Л s Мп нормальна и Ах = Хх, Ау = ру при X =# ц, то х и у ортогональны. Указание. Записать A=UMJ\ где A=diag(Xb .. ., КА и U^Mn — унитарная матрица. Пусть U*x = x' = [х,] и U*y = = у' = [у^]. Показать, что Ах'= Хх', и отсюда вывести, что х'= О для любого индекса I, такого, что Хг =# X; то же проделать с у'. Установить ортогональность х' и у' и отсюда вывести ортогональность х и у.
Используя теорему 2.5.6, доказать, что характеристический многочлен эрмитовой матрицы имеет вещественные коэффициенты, даже если не все элементы в А вещественные. •
Показать, что комплексные матрицы [' , ] и [ ■ ,] симметричны (Л = Л7) и при этом одна из них нормальна, а другая— нет. Таким образом, имеется существенное различие между вещественными симметричными и комплексными симметричными матрицами (см. § 4.4).
Показать, что если матрица A е Мп одновременно нормальна и нильпотентна, то Л =0.
Пусть задана матрица А е Мп. Доказать, что, для того чтобы А была нормальной, необходимо и достаточно, чтобы для некоторого многочлена р(/) степени не выше п—1 выполнялось равенство Л* = р(Л). Указание. Используя интерполяцию Лагранжа, построить для А = diag(Xb ..., Х„) такой многочлен p^t1), для которого р(А) = А. Затем обратиться к теореме 2.5.4. Как это «объясняет», почему нормальная матрица коммутирует со своей сопряженной? Показать дополнительно, что если А вещественна, то интерполяционный многочлен Лагранжа р(-), обеспечивающий равенство Л* = р(Л), имеет вещественные коэффициенты. Таким образом, Л7 = р(Л): для вещественной нормальной матрицы А имеем Ат = р(Л) для некоторого вещественного многочлена р^А- См. формулу (0.9.11.4).
Привести пример вещественной нормальной матрицы, которая унитарно подобна диагональной матрице и не приводится к диагональному виду никаким вещественным ортогональным подобием. Показать, что вещественная матрица А вещественно ортогонально подобна диагональной матрице в том и только в том случае, когда А симметрична (Л = Л7).
Доказать, что заданная матрица ЛеМ, нормальна в том и только в том случае, когда
(Ах)* (Ау) = (А*х)* (А*у) .
для всех х, у е Сп. Геометрически это означает, что угол между векторами Ах и Ау тот же самый, что и между векторами А*х и А*у для всех х, уеСп. Как это связано с задачей 1?
Доказать, что если матрица A е Мп нормальна, то равенство Ах = 0 равносильно А*х = 0. Это означает, что нуль- пространства матриц А и А* совпадают. Рассмотреть [q q] и [° о] и показать, что это неверно в общем случае.
Рассмотрим систему линейных уравнений Ах = у, где уеС" и A G Мп заданы, и предположим, что А вырожденца. Заданная система имеет (неединственное) решение в том и только в том случае, когда y*z = 0 для всех г е С”, таких, что A*z — 0 (см. разд. 0.6.6). Показать, что если А нормальна, то заданная система имеет решение в том и только в том случае, когда y*w = 0 для всех w е Сп, таких, что Aw = 0, т. е. когда вектор у ортогоналей нуль-пространству матрицы А. Если нужно найти все решения вырожденной системы Ах = у, то более экономичные вычисления будут отвечать именно случаю нормальной матрицы А. Объяснить, почему!
Пусть пь пъ ..., пк — заданные целые положительные числа, и пусть А/ g Mnj (j — 1, •.., k). Доказать, что прямая сумма Л = Л,ф...(М/! нормальна в том и только в том случае, когда А, нормальна для всех j.
Доказать, что две нормальные матрицы подобны тогда и только тогда, когда они унитарно эквивалентны. Указание. Установить, что UMJ* и VAV* унитарно эквивалентны, если [7 и V унитарные. Привести пример двух (не являющихся нормальными) матриц, которые подобны, но не являются унитарно эквивалентными.
Заметим, что вещественная ортогональная матрица A е gA13(R) имеет одно или три вещественных собственных значения. Используя теорему 2.5.14, показать, что если определитель матрицы А положителен, то она ортогонально эквивалентна прямой сумме матрицы [1]еЛ4[ и какого-то плоского вращения. Это преобразование геометрически интерпретируется как вращение па угол 6 вокруг некоторой неподвижной оси, проходящей в R3 через начало координат. Продумать эту интерпретацию. Она представляет собой часть теоремы Эйлера из механики: любое движение твердого тела есть композиция параллельного переноса и вращения вокруг какой-то оси.
Доказать, что если коммутативное семейство состоит из нормальных матриц, то существует эрмитова матрица В, такая, что каждая матрица АаеУ" имеет вид Аа = Р»(В) для какого-то многочлена ра(/) степени не выше п—1. Обратить внимание на то, что В фиксирована для всего У, но много-
члены могут зависеть от элементов семейства (7*. Указание. Пусть унитарная матрица U е Мп одновременно диагонализует любой член семейства ST. Положить В = U diag(l, 2, ..., n^U*, Aa = U\aU*, где Ло = diag (Ма), • ••, ^а)), и взять в качестве ра (0 интерполяционный многочлен Лагранжа, обеспечивающий равенства ра(/?) = ^а| (^ = 1, 2, . .., п).
Доказать, что матрица АеМ„ нормальна в том и только в том случае, когда всякий собственный вектор для А является также собственным вектором для А*. Указание. Пусть UeM,,— унитарная матрица с первым столбцом, совпадающим с собственным вектором для А (и, следовательно, для Д*). Рассмотреть вместе U*AU и U*A*U =^Е*АЩ* и продолжить доказательство.
Проверить следующее усиление теоремы 2.2.8 для случая нормальных матриц ,4, Be Мп\ матрица А унитарно эквивалентна В тогда и только тогда, когда tr Д6 = trS6 для Р = 1, 2, ..., п. Указание. Использовать задачу 15 и задачу 12 из § 1.2.
Пусть ДеЛЦК), и предположим, что ААТ = АТА, т. е. А — вещественная нормальная матрица. Доказать, что если все собственные значения для ААТ различны, то А симметрична. Указание. Использовать теорему 2.5.8.
QR-разложение и (^-алгоритм
Q^-алгоритм— это особый способ реализации теоремы Шура 2.3.1 об унитарной триангуляризации заданной матрицы А е М„ и популярный численный метод вычисления собственных значений (при некоторых предположениях). Его основу составляет так называемое Q^-разложенне произвольной матрицы A ее Мп> щ.
Теорема (о Q^-разложении). Если A е Мп, m и п ^ т, то существуют матрица Q е Мп, m с ортонормированными столбцами и верхняя треугольная матрица R е Мт, такие, что А = QR. Если m = п, то Q унитарна; если к тому же А невы- рожденна, то R можно выбрать таким образом, что все ее диагональные элементы будут положительны, и в этом случае Q и R определяются однозначно. Если A е Мп, m(R), то Q и R можно выбрать вещественными.
Доказательство. Если ДеД,.,,, и rank Д = m, то ((^-разложение матрицы А есть не что иное, как матричная запись результата применения процесса 0.6.4 Грама — Шмидта к столбцам матрицы А, образующим в Сл линейно независимое множество. Естественное обобщение алгоритма Грама — Шмидта позволяет таким же способом записать его применение в общем
случае, когда столбцы матрицы А могут быть зависимы. Пусть Л=[о! ... ат\ имеет столбцы деС". Если av = 0, то положим q{ = 0, в противном случае ^ = ц^а'а^'/а. Для каждого к = 2, 3, ..., т вычислим
й-1
УА = аА- Е (^Х)^
точно так же, как в обычном процессе Грама — Шмидта. Если ук = 0 (а это может произойти в том и только в том случае, когда си есть линейная комбинация векторов аь а2, ••., (U-i), то положим qk = 0, в противном случае Цк — Ук1^У*кУкУ1г. Векторы </1, ..., q т, таким образом, составляют ортогональное множество, каждый элемент которого является единичным (т. е. нормированным) или нулевым вектором. Каждый вектор q;— это линейная комбинация векторов дь ..., а,, и, обратно, согласно построению, каждый столбец аь — это линейная комбинация векторов </1, ..., <7/, Следовательно, найдутся числа rkj, такие, что.
/
Я/= Е rMqkl i=\, 2tn.(2.6.2)
a=i
При к>] положим гк) — 0, и пусть г(7 = 0, если qt=0 (j = = 1, .. ., m). Таким образом, исходя из <zt, а^, ..., ат, с помощью описанной процедуры мы определим верхнюю треугольную матрицу /? = [riy] е Мп и векторы qv, q2qm. Матрица Q = [<7j ... qm^ е Мп-т имеет ортогональные столбцы (некоторые из них могут равняться нулю), и в силу (2.6.2) X = Q^.
Если гапкД = т, то Q имеет ортоиормироваиные столбцы, и мы получаем разложение с нужными свойствами. В частности, если т = п и матрица А невырожденна, то Q должна быть унитарной в силу утверждения (е) теоремы 2.1.4, и все диагональные элементы невырожденной матрицы R = QM отличны от нуля. В этом случае вследствие того, что матрица R верхняя треугольная, вектор <71 есть кратное вектора <<i и при <=2,3, ... ..., т вектор q, лежит в одномерном пространстве, которое является ортогональным дополнением линейной оболочки векторов «1а<_1 в линейной оболочке векторов «1, ..,, а;. Сле
довательно, каждый вектор qi определяется однозначно с точностью до скалярного множителя, по модулю равного 1. Поэтому, заменяя R на R' = diag( | гн |/гн, ..., \гтт\/гтт^ и Q на Q's Q diag(rii/1Гц |, ..., rmm/|rmm|), получаем то единственное разложение А = Q'R', о котором говорится в утверждении теоремы.
Если столбцы в Л зависимы, то возьмем (ортонормирован- ное) множество ненулевых столбцов в Q и дополним его до ортонормированного базиса в С"; новые векторы, полученные этим способом, обозначим через zi, Z2, ..., zp. Теперь заменим первый нулевой столбец в Q на Zj, второй — на Z2 и т. д. до тех пор, пока не будут заменены все нулевые столбцы. Полученную в результате матрицу обозначим через Q'. Она имеет орто- нормированные столбцы, и QR = Q'R, потому что новые столбцы в Q' соответствуют нулевым строкам в R. Итак, А = Q'R — разложение нужного вида.
Если А— вещественная матрица, то все необходимые операции можно выполнить в вещественной арифметике, и тогда Q и R получаются вещественными. □
Упражнение. Доказать, что если А е Мп, т и п ^ т, то для А существует разложение А = LP, где матрица L е Мп нижняя треугольная и матрица Р е Мп, т имеет ортогональные строки, и по отношению к этому разложению справедливы утверждения, аналогичные остальным утверждениям из формулировки теоремы 2.6.1.
Упражнение. Доказать, что любая матрица В е Мп вида В = А*А (А^Мп) представима также в виде B = LL*, где матрица L е М„ нижняя треугольная с неотрицательными диагональными элементами. Доказать, что если А невырожденна, то это разложение единственно. Оно называется разложением Холецкого для В и имеет место для любой положительно определенной матрицы (см. гл. 7). Указание, Записать А = QR.
Q/^-разложение имеет исключительно важное значение для вычислительной практики (см. разд. 2.6.3), ио оно также весьма интересно и как теоретический инструмент. Например, для заданной матрицы А еМ„ ее приводимость к верхней треугольной форме посредством унитарного подобия следует непосредственно из ее приводимости к такой форме посредством обычного подобия. Пусть £-1Л£ = Т — верхняя треугольная матрица и S = QR— разложение, описанное теоремой 2.6.1. Тогда R~XQ*AQR=T и матрица Q*AQ = RTR-X верхняя треугольная, так как она есть произведение верхних треугольных матриц. Таким же способом можно установить, что теоремы (типа 2.4.15) об одновременной триангуляризации в действительности являются также теоремами об одновременной унитарной триангуляризации. Другими словами, если заданное семейство матриц из Мп одновременно триангуляризуемо каким-либо преобразованием подобия, то оно также одновременно триангуляризуемо каким-то преобразованием унитарной эквивалентности.
Теперь мы сформулируем Q^-алгоритм вычисления собственных значений и вкратце расскажем о некоторых его свойствах (без доказательства).
Q/i-алгоритм. Пусть задана матрица До г Мп. В соответствии с теоремой 2.6.1 запишем До = QoRo и образуем матрицу Д1 = RqQq. Снова запишем Д; = QXRX, где Qi — унитарная, a Rx — верхняя треугольная матрицы, и продолжим по аналогии. Итак, на каждом шаге выполняется ^-разложение Да = = QkRk и вычисляется матрица Да+i = RhQh.
Упражнение. Доказать, что все матрицы Да, полученные с помощью Q^-алгоритма, унитарно эквивалентны До (/г = = 1,2, ...).
При определенных условиях (например, если все собственные значения матрицы До различаются по модулю) QR-anvo- ритм вырабатывает последовательность матриц Да, при /г-> оо сходящуюся к верхней треугольной матрице. Поскольку эта верхняя треугольная матрица унитарно эквивалентна До, то мы получаем в то же время собственные значения матрицы До.
Если матрица До вещественна, то QT^-алгоритм можно реализовать в вещественной арифметике. Однако, если До имеет невещественные собственные значения, то нет никакой надежды на то, что QT^-итерации сойдутся к какой-либо верхней треугольной матрице, так как в пределе должна получиться вещественная матрица. При определенных условиях, тем не менее, итерации Да могут быть осуществлены таким образом, что будет обеспечена их сходимость к вещественной верхней блочнотреугольной матрице, имеющей на главной диагонали блоки размеров 1X1 и 2 X 2. Для этого достаточно, чтобы все собственные значения различались по модулю, за исключением невещественных комплексно-сопряженных пар собственных значений, имеющих, разумеется, одинаковые модули. Поскольку собственные значения блочно-треугольной матрицы — это совокупность собственных значении блоков на диагонали, собственные значения матрицы До— это элементы блоков размера 1X 1 (на диагонали в предельной блочно-треугольной матрице) вместе с собственными значениями блоков размера 2X2. Последние можно вычислить, используя вещественную арифметику и формулу для корней квадратного уравнения.
Пример. Покажем, что QT^-алгоритм не всегда сходится к треугольной матрице. Возьмем
Тогда о(Л) = {±1} и собственные значения не различаются по модулю. Полагаем Ао = А и, следуя Q^-алгоритму, строим одну из возможных последовательностей
"О 11Г -1 0".1 0JL 01.
" 0 11. 1 о J" 0 11. 1 о J"10 1,0 -1 J*"10 1,0 -1 J*
" 0 11. 1 о J
" 0 11. 1 о J
"10 1
,0 -1 J*
"10 1
,0 -1 J*
Возможна и другая реализация:
Ло — ^оЛо — ^о" 10" 10
Ло — ^о
Ло — ^о
" 1
0
" 1
0
В обоих случаях происходит циклическое повторение и последовательность {ЛД не сходится к верхней треугольной матрице. Однако можно так выбрать последовательность {Л*}, чтобы она сходилась к верхней блочно-треугольной матрице.
Задачи
Пусть в Сл заданы векторы хь ..., хт и Х=\х\Х2 • • • хт^е еМп.т' Предположим, что процесс Грама — Шмидта (см. разд. 0.6.4) применяется к векторам хь . .., хт и производит ортонормированную систему zb .. ., zm. Пусть Z = [zz ... zm^ s ^ Мп, т’
При к = 1, ..., т положим Zfc=[ziz2 ... zkxk+1xk+2. .. хт], где zk — единичный вектор, полученный на А-м шаге процесса ортогонализации Грама — Шмидта. При этом Zm = Z. Доказать, что Z1 = XA1, Z2 = Z1A2, . .., Zm = Zm_]Am, где Az— невырожденная верхняя треугольная матрица, отличающаяся от / лишь 1-м столбцом.
Положим Тк = А,А2 . .. Ай (к = 1, 2, .. ., т). Показать, что Тк — верхняя треугольная матрица и Zk=XTk (к = = 1, 2, .. ., mY Пусть Т = Тт, так что Z = ХТ.
Какова связь между этой матрицей Т и верхней треугольной матрицей R из доказательства теоремы 2.6.1?
Показать, что первые к столбцов в 2/и Г/ не изменяются при j = к + 1, к + 2, ..., т, так что А-й шаг процесса Грама— Шмидта вырабатывает к-е столбцы в окончательных матрицах Z и Т.
Пусть в С" заданы линейно независимые векторы хь ..., xm и X=[xt ... хт] е МП1ГП. Рассмотрим следующий алгоритм. ’
Положим Z^X, и пусть Z = \zx ... zm}, т. е. в начале zt = xt (г = 1...., ш).
Для /г = 1, 2, . .., т выполняем следующее:
сначала заменяем столбец zk на zk/(zk, zkyi2; затем
(И) для ] = к + 1, k + 2, ..., т заменяем каждый столбец Zj на 2у (^/> ^k)^ki
Здесь (.v, у} = у*х— обычное скалярное произведение в Сл.
Доказать, что в итоге этого процесса будет получена матрица Z с ортоиормироваииыми столбцами, и это та же самая матрица Z, которая строится с помощью процесса Грама — Шмидта в задаче 1.
Пусть Zk обозначает содержимое матрицы Z после выполнения /г-го шага алгоритма (/г = 1, 2, . .., т\ Показать, что Zx = Х^ Z. = Z^, . . ., Zm=Zm_xXm, где каждая матрица Az невырожденная верхняя треугольная, отличающаяся от / только Z-й строкой.
Пусть 7’& = А1А> ... Ай (А = 1, 2, ..., mV Показать, что Тк— верхняя треугольная матрица и Zk = XT к (/г = 1,2, ...,mY Проверить, что первые к столбцов в каждой Тк такие же, как и в матрице Тк из задачи 1, хотя соответствующие матрицы А4 и Zk могут различаться. Положим Т = Тт.
Доказать, что первые к столбцов в Z; и Тх ие изменяются при j = к + 1, к + 2, ..., т, так что иа к-м шаге алгоритма вырабатываются к-е столбцы в окончательных матрицах Z и Т, Этот алгоритм известен как модифицированный процесс Грама— Шмидта. Он приводит к тому же самому результату, что и обычный процесс Грама — Шмидта — различие лишь в порядке вычислений. Несмотря иа то что модифицированный и обычный процессы Грама—Шмидта математически эквивалентны, первый имеет преимущество с точки зрения чисЛеииой реализации, потому что требует меньше памяти и в трудных ситуациях, когда столбцы в X почти параллельны, здесь вырабатывается Z со столбцами, более близкими к ортогональным, чем в Z, полученной в обычном процессе Грама — Шмидта. Чтобы еще улучшить характеристики процесса в сложных ситуациях, можно ввести стратегию выбора ведущего столбца: прежде чем выполнять предписание II (i), выберем в качестве zk из оставшихся столбец 2/ (/ ^ /г) с наибольшим квадратом длины 2/2/- При численной реализации па самом деле Ар1 находятся иа каждом шаге (ие требуется выполнять обращения) и накапливаются произведения этих матриц, с тем чтобы вычислить треугольный сомножитель в QT^-разложеиии матрицы X.
Получить (^-разложение с помощью последовательности умножений иа преобразования Хаусхолдера. Показать, что потребуется п—1 преобразований Хаусхолдера и Q будет их про-
изведением. Известно, что этот метод с вычислительной точки зрения предпочтительнее по сравнению с процессом Грама — Шмидта, использованным в доказательстве теоремы 2.6.1.
Пусть QR-алгоритм для Ло е Мт сходится к верхней треугольной матрице. Как вычислить собственные векторы для Ло? Указание. Нужно решить (вырожденную) треугольную систему с нулевой правой частью.
Пусть QR-алгоритм применяется к заданной матрице А е Мп и последовательность QR-итераций {Л*} сходится: lim Ак = В. Используя принцип выбора 2.1.8, объяснить акку- £->ОО
ратно, почему В унитарно эквивалентна А. Почему это важно?
Дополнительная литература
Дальнейшие сведения и детальное описание эффективных вычислительных реализаций обычного и модифицированного процессов Грама —Шмидта и других процедур ортогонализации можно найти на с. 146—169 в [GV 1]. Обсуждение QR-алгоритма, доказательства и дополнительные ссылки см. в обзоре: Watkins D. Understanding the QR Algorithm. — SIAM Rev., 1982, v. 24, p. 427—440, или в [Ste].
Глава 3
КАНОНИЧЕСКИЕ ФОРМЫ
3.0. Введение
Когда две заданные матрицы подобны? Мы знаем, что у подобных матриц одинаковы следы, определители, характеристические многочлены и собственные значения. Однако есть мат
рицы, например,
В =В =о от0 0J’о от0 0J’(3.0.1)(3.0.1)
В =
В =
о от
0 0J’
о от
0 0J’
(3.0.1)
(3.0.1)
которые имеют один и тот же след, определитель и т. д., не будучи подобными. Если бы Л и В были подобны, то для какой-то невырожденной матрицы S е М2 выполнялось бы равенство Л = SBS~X = SOS-1 = 0, а этого не может быть, так как Л ^ 0.
Упражнение. Вычислить след, определитель, характеристический многочлен и собственные значения двух матриц (3.0.1), Показать, что Л2 = 0.
Две матрицы, внешне ничем не похожие, могут, тем не менее, быть подобными. Поэтому, чтобы определить, подобны ли две заданные матрицы, можно пойти по такому пути: описать какое-то множество матриц «простой» формы и затем для заданных матриц смотреть, приводятся ли они преобразованием подобия к одной и той же «простой» форме. Если они приводятся, то они подобны (вследствие симметричности и транзитивности отношения подобия). Какие же «простые» формы отвечали бы этой цели?
Произвольная комплексная матрица Л (унитарно) подобна некоторой верхней треугольной матрице, в которой диагональные элементы (собственные значения для Л) можно расположить в любом заданном порядке (см. теорему 2.3.1). Поэтому две матрицы подобны, если они подобны одной и той же верхней треугольной матрице. Однако две верхние треугольные матрицы с одной и той же главной диагональю и разными внедиагональными элементами, тем не менее, могут быть подобными. Таким образом, если какие-то две матрицы нам удалось привести к двум не равным верхним треугольным матрицам с одной и той же главной диагональю, то мы не можем утверждать,
что матрицы не подобны. Неопределенность здесь слишком велика; любая верхняя треугольная матрица имеет п(п + 1)/2 ненулевых элементов (точнее, элементов, которые могут быть отличны от нуля), и это слишком много для того, чтобы по ним легко распознавалось подобие. Все дело в неединственности треугольной формы.
Для наших целей класс верхних треугольных матриц оказывается слишком широким. А что если обратиться к классу диагональных матриц? Если каждая из двух заданных матриц подобна какой-либо диагональной матрице, то подобие исходных матриц имеет место в том и только в том случае, когда эти диагональные матрицы имеют одни и те же диагональные элементы с учетом кратностей, но без учета их упорядочения. Причина состоит в том, что подобие вида PDPT, где Р— матрица перестановки, позволяет расставить в любом заданном порядке диагональные элементы любой диагональной матрицы D. Теперь снимается проблема неоднозначности, возникавшая для верхних треугольных матриц, но вместе с тем возникает проблема существования: не всякая комплексная матрица подобна какой- либо диагональной матрице.
Упражнение. Показать, что матрица А из (3.0.1) недиагопа- лизуема. Указание. Если А = SAS-1, то Л = В.
Если наш поиск будет ограничен верхними треугольными матрицами, которые близки к диагональным настолько, насколько это возможно, и которые при этом можно получить с помощью преобразования подобия из любой матрицы, то в результате мы придем к жордановой канонической форме, которая изучается в следующем параграфе.
До сих пор мы говорили о подобии двух заданных матриц Л, 5е Мп. Однако в теории матриц представляют интерес и некоторые другие отношения эквивалентности. Например, можно интересоваться, преобразуется ли А в В с помощью унитарного подобия или, скажем, только с помощью элементарных преобразований строк и столбцов. Для вещественных А и В можно попытаться узнать, будут ли они вещественно подобны. Если матрицы А и В эрмитовы, то можно спросить, существует ли невырожденная матрица S еМп, такая, что A — SBS*. Если матрицы А и В симметричны, то можно поставить вопрос, существует ли невырожденная матрица 8еМл, такая, что A = SBST.
В каждой из этих ситуаций мы имеем какое-то отношение эквивалентности на множестве матриц и ставим вопрос, будут ли две заданные матрицы находиться в одном классе эквивалентности. Один из подходов к решению этой проблемы заключается в выделении «простого» набора матриц-представителей определенного типа по одной из каждого класса эквивалентно-
сти и в попытке преобразовать любую заданную матрицу к одной из этих выделенных. Для того чтобы этот подход оказался успешным, нужно в каждом классе эквивалентности иметь представитель выделенного типа (это не так, если рассматривать диагональные матрицы и отношение подобия) и весьма желательно иметь только один «представитель» (или, возможно, небольшое и легко описываемое множество эквивалентных представителен) в каждом классе (это не так, если рассматривать отношение подобия и верхние треугольные матрицы). Такой набор представителей часто называется канонической формой. Несколько примеров канонических форм мы рассмотрим в этой главе, другие появятся в соответствующих разделах последующих глав.
Жорданова каноническая форма: доказательство
Жорданова каноническая форма — это набор «почти диагональных» матриц, называемых жордановыми матрицами. Сюда входят и все диагональные матрицы. На множестве квадратных комплексных матриц каждый класс эквивалентности (по отношению подобия) содержит какую-то жорданову матрицу и любые две жордановы матрицы из одного класса эквивалентности одинаковы с точностью до тривиального различия. Жорданова матрица, подобная какой-либо заданной матрице, называется жордановой канонической формой (иногда — жордановой нормальной формой) этой матрицы. Если для какой-то матрицы найдена ее жорданова каноническая форма, то можно считать, что об этой матрице (или линейном преобразовании) известно все, чем обычно интересуются в линейной алгебре, и, чтобы получить необходимую информацию, достаточно лишь взглянуть на жорданову каноническую форму.
Определение. Жордановым блоком или жордановой клеткой JuW называется верхняя треугольная матрица размера k X k, имеющая вид
(3.1.2)
Над главной диагональю к—1 раз ставится 1; на главной диагонали к раз повторяется число X. Все остальные элементы равны нулю. По определению /1(Х) = [Х]. Жордановой матри-
сумма жордановых кле-сумма жордановых кле-цей J Е Мп называется любая прямая ток
сумма жордановых кле-
сумма жордановых кле-
■Ini (^1)
Iп2 (^2)
Д + ^2 + • • • 4* >4 — п.
_01пк^_(3.1.3)
где порядки т каких-то клеток могут совпадать и числа X/ не обязательно различны.
Заметим, что если каждая жорданова клетка Jni(^d в (3.1.3) имеет порядок 1, т. е. гц = 1 для всех I и к = п, то жорданова матрица J диагональна. Если для какой-то жордановой клетки 7т(М в (3.1.3) т > 1, то мало того, что I не является диагональной,— она вообще не диагонализуема. Если Jm(X) = SAS"1 и А — диагональная матрица, то обязательно A = diag(X, X, ... .X) = М. Таким образом, Jm^—XI = SAS-1 — XI = XI— — V = 0, а это невозможно при m > L Однако обратим внимание на то, что для каждой жордановой клетки имеется один отвечающий ей собственный вектор матрицы J— это вектор стандартного базиса, соответствующий первому диагональному элементу этой клетки Jm^X). Собственными векторами матрицы J являются лишь кратные этих векторов')• Основной результат этого параграфа заключается в том, что всякая комплексная матрица подобна по существу единственной жордановой матрице. Мы проведем доказательство в три этапа.
Этап 1. Заметим, что всякая комплексная матрица подобна верхней треугольной матрице с собственными значениями, расположенными на главной диагонали в произвольном заданном порядке, — это теорема 2.3.1 Шура о триангуляризации.
Этап 2. Далее, для любой верхней треугольной матрицы существует преобразование подобия, превращающее ее в блочнодиагональную матрицу, в которой каждый диагональный блок имеет верхнюю треугольную форму и на его главной диагонали располагаются равные элементы (наподобие жордановой клетки (3.1.2)). Это теорема 2.4.8.
Этап 3. Наконец, покажем, что любая верхняя треугольная матрица с равными элементами на главной диагонали подобна прямой сумме жордановых клеток вида (3.1.2).
Как только будет установлено последнее предложение, мы сможем для любой комплексной матрицы построить ее жорда-
') А для дефектных матриц и линейные комбинации некоторых из этих векторов. — Прим. ред.'■
нову форму, сочетая преобразования подобия, отвечающие каждому этапу.
Было бы хорошо, если бы вещественная матрица с вещественными собственными значениями приводилась к жордановой канонической форме с помощью вещественного подобия. Чтобы обосновать эту возможность, заметим, что, согласно теореме 2.3.1, для любой вещественной матрицы Л, имеющей только вещественные собственные значения, существует вещественная унитарная (вещественная ортогональная) матрица U, такая, что матрица UTAU верхняя треугольная и ее элементы,очевидно, вещественные. Далее, доказательство теоремы 2.4.8 позволяет утверждать, что если верхняя треугольная матрица А вещественна, то подобие можно осуществить вещественной матрицей S, причем матрица 5-1Л5 будет вещественной блочнодиагональной и каждый ее блок будет верхней треугольной матрицей с равными элементами на главной диагонали. Таким образом, достаточно убедиться в реализуемости этапа Зив том, что если на этом этапе верхняя треугольная матрица вещественная, то и матрица, осуществляющая преобразование подобия ее в прямую сумму жордановых клеток, может быть выбрана вещественной.
Следующая лемма поможет доказать выполнимость этапа 3. Она устанавливается с помощью прямого вычисления.
ТогдаТогдаКроме того,Кроме того,ЗЛЛ. Лемма. Пусть заданы к^ \ и жорданова клетка “о 10“
Тогда
Тогда
Кроме того,
Кроме того,
тГ° 0 1
Л(0)Д(0)= п ,
1 J
Vk (0))р = о при р > к.
h^ei+i = ei, i=l, 2, .... k-V,
\i-fu ФИ к (оЯх-С^)^.
Здесь Ik-i е Л1*_1 обозначает единичную матрицу, et есть 1-й единичный вектор стандартного базиса ихе Сп. .
Теперь докажем, что редукция на этапе 3 всегда осуществима. Напомним, что верхняя строго треугольная матрица —
это верхняя треугольная матрица с нулями на главной диагонали. Обратим внимание на то, что любая верхняя треугольная матрица с равными элементами на главной диагонали есть какое-то кратное единичной матрицы плюс верхняя строго треугольная матрица.
3.1.5. Теорема. Пусть матрица АеМп строго верхняя треугольная. Существуют невырожденная матрица S е Мп и целые
числа пу, п.2, ..., Пт, такие,
+ ^2 + . . , + Пт — п и
ЧТО Пу^ Щ^ . . . ^ rtm ^ 1, Пу +
"к, (0)
к, (0)
Л = £
(3.1.6)
0
'Если А вещественна, то и S можно выбрать вещественной.
Доказательство. Если п = 1, то А =[0] и утверждение очевидно. Проведем индукцию по и и предположим, что n > 1 и утверждение уже доказано для всех строго верхних треугольных матриц порядка меньше п. Представим матрицу А в виде
Г 0 ат I
L 0 Ах ]’
где а е С"-1 и матрица Ау е Мп_у строго верхняя треугольная. Согласно предположению индукции, для некоторой невырожденной матрицы Si е Мп-у матрица ST’ASi имеет искомую форму (3.1.6), т. е.
"к,
Sf%Si =
0
где ку
Нг,
^ к^ 1, ку -[- &2 + • • • -\~ к — п— l,ki=Jfet(,0) и
Г к, 0 1
Е М/г-Ь-Ь
к5
1 00 sr11 00 sr11 ° 10 s, J1 ° 10 s, J"I0/-00"I0/-000"00"0-0о-0о/ Л 0/ Л 0т а\к,0т а\к,0т чЙ2 от чЙ2 о-1о-0-1о-0аХ 0"/00/-аХ 0"/00/-г о йГ(/-/Ш аГтг о йГ(/-/Ш аГт0 (аГб1)е[ а!"0/6100 (аГб1)е[ а!"0/610(3.1.9)(3.1.9)L 00/ JL 00/ JL 00L 00
1 0
0 sr1
1 0
0 sr1
1 ° 1
0 s, J
1 ° 1
0 s, J
"I
0/
-00
"I
0/
-00
0"
0
0"
0
-0
о
-0
о
/ Л 0
/ Л 0
т а\
к,
0
т а\
к,
0
т ч
Й2 о
т ч
Й2 о
-1
о
-0
-1
о
-0
аХ 0"
/0
0/-
аХ 0"
/0
0/-
г о йГ(/-/Ш аГт
г о йГ(/-/Ш аГт
0 (аГб1)е[ а!"
0/610
0 (аГб1)е[ а!"
0/610
(3.1.9)
(3.1.9)
L 00/ J
L 00/ J
L 00
L 00
Заметим, что порядок любой жордановой клетки на диагонали в / не выше к\; поэтому, согласно лемме 3.1.4, Jkv = 0. Простое вычисление показывает, что ■
1 0 1 Г 1 0 1[ 0 aTSv 1
о sr1 л io sJ^Lo
Запишем ^S, = [а[а^], считая, что это разбиение согласовано с блочным строением правой части в (3.1.7); таким образом, й! е= С6', а, еС'^6^1 и соотношение (3.1.8) принимает вид
-0 а[ ат2 -0 к, 0
-0 0 / -
Теперь рассмотримТеперь рассмотримследующее преобразование подобия:
Теперь рассмотрим
Теперь рассмотрим
Здесь использовано равенство (/ — /(/*) х — (xrei) ei из леммы 3.1.4. В зависимости от того, выполняется или не выполняется равенство а[е1 = 0, существуют две возможности.
Если й^е, =^ 0, то
1/аГк
0о
00"г0
/ о о
0 (V^Z-LO
№Н ^1к. оо / .
й?^ о о / о о
о
оa{et/
Заметим, что
-0 еГ й£ -
= о /61 о
-0 0 / -
Г 0 er 1
7=1 =/fci+1(o)
6^j
есть жорданова клетка порядка &i + 1 с нулевой главной диагональю. Если учесть, что 7е<+1 = et (Z = 1, 2kik то легко
проверяется соотношение
Г / 62^2 1 Г 7 6102 1 Г 7 — 62^2 1
L0 / JLo J Ло / ] —
[
7 — Je^ -|- 61^2 4~ егОг/ "1 J eiC^,J 1 о j Г [о 7
Действуя аналогично, получаем следующую серию преобразований подобия:
Г / ei+iol/1-1 1 Г 7 etair-x 1 / — ei+iO2 У^1 1
to / Ло 7 Ло / Г
_[7 ei+ial/H / = 2 зLo j J’ ’
Поскольку 7й1 = 0, то, самое большее, после к\ шагов в этой серии внедиагональный блок станет нулевым. Значит, матрица А подобна матрице
и это верхняя строго треугольная жорданова матрица искомого вида.
Если а[е1 = О, то в силу (3.1.9) матрица А подобна матрице
-00 af -IО 7Й| О-0 07 -
от которой с помощью матриц перестановок можно перейти к
подобной матрице
■7^ 0 0 -
00 а?
.(3.1.10)
-0 0 7 -
По предположению индукции для некоторой невырожденной матрицы 8г е Мп_к,
^-1 Г 0-
52 I 0 7
где 7— жорданова матрица с нулями на главной диагонали.
Таким образом, матрица вида подобна матрице
[
/б!
О
а значит, и матрица Л,
°]' *
7 Г
которая является жордановой матрицей искомого вида, за исключением того, что жордановы блоки на диагонали расположены не обязательно по убыванию нх порядка. Требуемое расположение можно обеспечить, используя при необходимости подобие, осуществляемое блочными матрицами перестановок.
Наконец, заметим, что если Л вещественна, то все преобразования подобия, использованные в этом доказательстве, можно выбрать вещественными. Поэтому Л вещественно подобна искомой жордановой матрице. □
Теорема 3.1.5 по существу завершает этап 3 намеченной нами программы выявления жордановой канонической формы. Заметим, что если
X *
_0
— верхняя треугольная матрица, в которой все диагональные элементы равны X, то матрица Л0 = Л — XI будет верхней строго треугольной. Если матрица SeM„ невырожденна н матрица 5-1Л05 является прямой суммой жордановых клеток Jn.i (0) в согласии с теоремой 3.1.5, то 5-1Л5 = 5-‘Л05 + XI— это прямая сумма жордановых клеток Jni (X). Этапы 1 н 2, изученные в § 2.3 и 2.4, вместе с этапом 3 доказывают половину общей теоремы о жордановой канонической форме, а именно утверждение о существовании такой формы.
1.11. Теорема. Пусть задана комплексная матрица ЛеМ„, Существует невырожденная матрица S е Мп, такая, что
0'0'1пх (Ли)
0'
0'
Л = $Л = $S""* = S/S-1, (3.1.12)S""* = S/S-1, (3.1.12)
Л = $
Л = $
S""* = S/S-1, (3.1.12)
S""* = S/S-1, (3.1.12)
оо
о
о
Ink (Л&)
где ni + пг + ... + п& = п. Жорданова матрица / для матрицы Л определяется однозначно с точностью до перестановки жордановых клеток на ее главной диагонали. Собственные значе-
ния Xi (t = 1, ..., А) не обязательно различные. Если матрица А вещественна и обладает только вещественными собственными значениями, то подобие может быть реализовано с помощью вещественной матрицы S.
Доказательство. Все, что здесь утверждается, за исключением единственности, уже установлено. Чтобы доказать единственность, возьмем две подобные жордановы матрицы и покажем, что они имеют один и тот же набор жордановых клеток с учетом кратностей (нескольких экземпляров одной н той же клетки). Поскольку для подобных матриц собственные значения с учетом кратностей совпадают, то достаточно убедиться в совпадении жордановых клеток (с учетом кратностей) для двух подобных жордановых матриц, обладающих единственным собственным значением. Вследствие совпадения числа диагональных блоков, отвечающих какому-то собственному значению, с его геометрической кратностью (она одинакова для любых подобных матриц) эти две жордановы матрицы должны иметь одно и то же число жордановых клеток. Пусть клетки расположены таким образом, что их порядки не возрастают. Тогда нужно доказать, что последовательность порядков для обеих матриц в точности одна и та же. Итак, положим
i т, (^)
т=
1тк (^)
считая, что 7 (Л) подобна 7 (Л) и при этом Л] ^ Лг ^ ... ^ п& и mi ^ Шг ^ ... ^ тк, П1 + •. • + nk = п и тх + ... + mk — — п. Если п\ — mi, то первые клетки совпадают; тогда их можно исключить из рассмотрения и перейти к двум матрицам, начинающимся со второй клетки. Повторяя это рассуждение, в конце концов мы установим, что все соответствующие пары клеток имеют одинаковый порядок, либо встретится первая пара клеток разных порядков. Итак, достаточно рассмотреть неравенство Hi > mi. В этом случае(7(Л)— М)"11 = 0, так как т! ^т2^ . .. ^= mk, но (7 (Л) — XIГ' ^ 0. Подобие двух жордановых матриц означает существование невырожденной матрицы 3 е Мп, такой, что 7 (Л) = Sf(X)S"\ ДХ) — XI = S [7 (X) — MJ3"1. Следовательно, [7(Л)-Л/]т‘ = 3[7~(Л)-VJ^S^^SOS-'^O, и полученное противоречие завершает доказательство. □
. Чтобы ввести какое-то стандартное представление жордановой канонической формы (3.1.12), обычно принимается соглашение о том, что при выборе какого-то упорядочения собствен*
ных значений Хь ..., Хп матрицы А в жордановой матрице сначала идут клетки, отвечающие Хь затем — отвечающие Хг, и т. д. Для каждого собственного значения отвечающие ему жордановы клетки располагают по убыванию (невозрастанию) нх порядка — сначала самая большая клетка, затем следующая по размеру н т. д. Если какому-то собственному значению отвечают несколько клеток одного размера, то эти клетки ничем не отличаются. Поэтому мы получаем представление жордановой формы, определенное однозначно с точностью до заданного первоначального упорядочения собственных значений. В каждом классе эквивалентности (относительно подобия) матриц из Мп содержится одна н только одна (с точностью до перестановок совокупностей клеток, отвечающих разным собственным значениям) такая жорданова каноническая форма.
Наш вывод жордановой канонической формы содержит явный алгоритм, который в принципе можно использовать для нахождения жордановой формы произвольной заданной матрицы. Однако это не тот алгоритм-, который можно рекомендовать для численной реализации иа компьютере. С сожалением приходится констатировать, что здесь дело не в том, что именно этот алгоритм может приводить к каким-то подозрительным результатам. В действительности вообще не существует численно устойчивого способа вычисления жордановых канонических форм. Простой пример сделает это утверждение совершенно ясным.
Пусть е=Л0 и Л = [1о]. Тогда Aa = SJaS;\ где Sa = [, ,] и7е = [д°]. Если е—> 0, то /6-+[JJ]. Однако ясно, что эта матрица не может быть жордановой формой ненулевой матрицы До = [° °]. На самом деле До имеет жорданову форму [о о]- Жорданова форма матрицы не является непрерывной функцией ее элементов. Поэтому малые изменения элементов матрицы могут приводить к большим изменениям элементов ее жордановой формы. Обеспечить устойчивость при вычислении такого объекта — дело безнадежное. Именно поэтому жордановы формы редко используют в вычислительной практике1),
*) Вычислительно устойчивая модификация жордановой канонической формы обсуждается в работах: Арнольд В. И. О матрицах, зависящих- от параметров. — УМН, 1971, т. 26, № 2, с. 101—114; Галин Д. М. О вещественных матрицах, зависящих от параметров. — УМН, 1972, т. 27, № 1, с. 241—242; Галин Д. М. Версальные деформации линейных гамильтоновых систем. — Труды сем. им. И. Г, Петровского, 1975, вып. 1, с. 63—74; Patera J., Rousseau С., Schlomiuk D. Versal deformations of elements of real classical Lie algebras. — J. Phys. A: Math. Gen., 1982, v. 15, p. 1063—1086; Patera J., Rousseau C., Schlomiuk D. Dimension of orbit and strata in complex and real classical Lie algebras. — J. Math. Phys., 1982, v. 23, № 4, p. 490— 494, — Прим. ped. - .
Вопреки этому ограничению, теория жордановой канонической формы, бесспорно, заслуживает изучения и дает богатые возможности для понимания свойств матриц. Что касается общего подхода, то, чтобы доказать что-то о матрицах, сначала стоит посмотреть, верно ли это для диагональных матриц, а уже затем, если ответ положительный, попытаться установить результат в общем случае с помощью предельного перехода (используя тот факт, что любая комплексная матрица может быть как угодно точно приближена днагонализуемой матрицей). Если этого сделать не удается или же желательно избежать обращения к математическому анализу, можно попытаться доказать рассматриваемый результат для верхних треугольных или жор- дановььх матриц.
Иногда бывает полезно иметь в виду, что произвольная матрица подобна матрице вида (3.1.12), где в каждой жордановой клетке число 1 над диагональю заменено на е ^ 0, причем е можно взять сколь угодно малым.
1.13. Следствие. Пусть заданы произвольная комплексная матрица АеМ„ и число 6=^0. Тогда существует невырожденная матрица S = S (е) е Мп, такая, что
(Х:, е)
Зп, (^2, 6)
(3.L14)
Если матрица А вещественна и е вещественно, то и S можно выбрать вещественной.-
Доказательство. Сначала найдем невырожденную матрицу S] е М„, такую, что Sf'^S] есть жорданоза каноническая форма (считая, что S, вещественна, если А вещественна и имеет вещественные собственные значения). Затем возьмем
De = diag(l, е, ..., еп~ ) и вычислим матрицу £>^‘ (Sf^SjD6 — она имеет вид (3.1.14), так что S = S (е) = SlDe удовлетворяет всем требованиям теоремы. □
Задачи
Провести вычисления, доказывающие лемму 3.1.4.
Реализовать три этапа, отвечающие доказательству теоремы 3.1.11, и найти жорданову каноническую форму матриц
ГЗ 1 23
Пусть матрица Л G Мп комплексна, но с вещественными собственными значениями. Показать, что Л подобна некоторой вещественной матрице. Можно ли это подобие осуществить с помощью вещественной матрицы?
'Дополнительная литература
Наше доказательство теоремы 3.1.11—в духе работы: Fletcher R., Sorensen D. An Algorithmic Derivation of the Jordan Canonical Form. — Amer. math. Monthly, 1983, v. 90, p. 12—16; там же можно найти дополнительные ссылки. В [Ste] жорданова каноническая форма обсуждается с точки зрения численных методов и на примерах показывается ее чувствительность к возмущениям элементов исходной матрицы. Прекрасное доказательство приводится в [Str].
Жорданова каноническая форма: некоторые свойства и приложения
Структура жордановой матрицы. Жорданова матрица
оокг (^2)кг (^2), Hi + . . . + Пд = п,, Hi + . . . + Пд = п,"к, (М
о
о
кг (^2)
кг (^2)
, Hi + . . . + Пд = п,
, Hi + . . . + Пд = п,
О
(3.2.1.1)
имеет вполне определенную структуру, которая делает наглядными некоторые из основных свойств этой матрицы и всех матриц, ей подобных,
Число к ее жордановых клеток (с учетом повторов одних и тех же клеток) равно максимальному числу ее линейно независимых собственных векторов.
Матрица / диагонализуема тогда и только тогда, когда к = п.
Число жордановых клеток, отвечающих какому-то одному собственному значению, совпадает с его геометрической кратностью, т. е. с размерностью соответствующего собственного подпространства. Сумма порядков всех жордановых клеток, отвечающих одному собственному значению, совпадает с его алгебраической кратностью.
Знание собственных значений вместе с их алгебраическими и геометрическими кратностями в общем случае не дает полной информации о жордановой матрице. Необходимо еще выяснить, каковы размеры жордановых клеток для каждого собственного значения. Порядок наибольшей жордановой клетки, отвечающей собственному значению X, — это кратность числа X как корня минимального многочлена (см. теорему 3.3.6),
Размеры жордановых клеток, отвечающих какому-то одному собственному значению, определяются по рангам некоторых степеней вспомогательной матрицы. Например, для
" 2 I О |0 2 1;л
0 0 2;
о i о„4„.Т2.
вычисляем следующие матрицы:
'010}'
0 0 11 о
ООО;
"Тб'Т;
I о о ;Го ""Г;
О Io .oj " "': о.
oil'
0 °! о
О о; ___
I о о ;
! о о iГо"‘о';
О 1° °_1
(J - 27)3 = 0.
-Таким образом, мы располагаем следующими данными: матрица 7— 2/имеет размер 8 X 8;
(/ - 2/)3 = 0;
rank (7 — 2/)2= 1;
rank (7 — 27) = 4.
Этой совокупностью данных строение матрицы J определяется полностью. Равенство (7 — 2/)3=0 позволяет утверждать, что наибольшая клетка имеет порядок 3. Ранг матрицы (7 — 27)2 совпадает с числом клеток порядка 3, в данном случае получаем одну клетку. Ранг матрицы 7 — 2/ есть удвоенное число клеток порядка 3 плюс число клеток порядка 2. Как видим, должно быть две клетки порядка 2. Число клеток порядка 1 равно 8 — (2X2)—3=1. Аналогичную процедуру можно применить и по отношению к прямой сумме жордановых блоков произвольных размеров, если все блоки отвечают одному и тому же собственному значению. Пусть 7 есть прямая сумма жордановых клеток, отвечающих собственному значению X. Тогда самая большая клетка имеет порядок кх, где кх есть наименьшее целое число, такое, что (7— M)ftl = 0. Ранг матрицы (7 — Х/)*1-1 равен числу клеток порядка кх, ранг матрицы (7 — ХГ^'-1 есть удвоенное число клеток порядка кх плюс число клеток порядка кх — 1 и т. д. Последовательность рангов матриц (7 — 'К1^к'"'1, где / = 0,1,2кх— 1, позволяет рекурсивно определить порядки всех клеток в матрице 7.
Размеры всех жордановых клеток в жордановой матрице общего вида (3.2.1.1) определяются по рангам некоторых степеней вспомогательных матриц. Если Xi является одним из собственных значений жордановой матрицы 7, то, образуя матрицы (7 — ХД), (7 — ХД)2мы сможем превратить в нулевые лишь клетки, отвечающие Хц вследствие того, что все другие клетки 7 — \Х1 будут иметь ненулевую диагональ. В конечном счете ранг матрицы (7 — XJ)k с ростом к перестанет убывать (очевидно, нет нужды рассматривать к > /г); наименьшее значение к, минимизирующее ранг матрицы (7 — К\Пк, равно порядку наибольшей клетки, отвечающей Хь Такое минимальное значение к называется индексом собствеииого значения Хь Для того чтобы определить размеры и число жордановых клеток, отвечающих Хц достаточно проанализировать ранги последовательности степеней матрицы 7 — ХД. Затем то же иужио проделать по отношению к Х2, Х3 и т. д. — для каждого собственного значения клетки ищутся одним и тем же способом.
Несмотря на то что во всех этих утверждениях речь идет о жордановой матрице 7, любое из иих справедливо, если за-
менять / на произвольную подобную ей матрицу. Таким образом, для любой заданной матрицы АеМ„ ее жорданову каноническую форму (без выяснения, каким именно преобразованием подобия она достигается) можно определить, выполняя следующие действия:
Найти для А все ее различные собственные значения — например, как корни характеристического многочлена.
Для каждого из различных Xi образовать степени (Д —■ — Х,1)к, где к = 0, 1п, и, анализируя последовательность рангов этих матриц, установить для А размеры и число жордановых клеток, отвечающих собственному значению Хь
Этот алгоритм бывает полезен для обработки вручную небольших матриц простого вида, но он непригоден для машинных вычислений в силу неустойчивости самой задачи определения ранга матрицы. Последнее очевидно, если взять, например, мат
рицу Ав = [‘ “], имеющую ранг
Чтобы показать ситуацию, вается полезным, рассмотрим ческой формы для квадрата
2 при всех е^Ои! при е = 0. в которой этот алгоритм оказы- построение жордановой канони- какой-либо жордановой клетки
~0 1
О-2
1 0
- 0 0 1 . . . О -
. . 1
. о
0 о
Для А все собственные значения равны нулю; Ат = 0 при т = [(А + 1)/2] (это наибольшее целое число, не превосходящее № + 1)/2) и Др^=0 при р = 1, 2, . . ., т — 1. Для каждого р = = 1, 2т — 2 ранг степени Ар+1 на 2 меньше, чем ранг
предыдущей степени Ар; для Д'"-1 ранг равен 2, если к четно, и 1, если к нечетно. Таким образом, для Д=/*(0) жорданова каноническая форма имеет вид
/т(0)о
0 1
/т(0) J
если к = 2m четно,
и
Г/т(0)0 I
L о Jm_, (O)J’
если к = 2m — 1 нечетно.
6 Р, Хорн, Ч. Джонсон
Это наблюдение полезно, когда для некоторой заданной матрицы нужно выяснить, имеет ли она квадратный корень. Например, отсюда вытекает, что ни для какой матрицы Л е М2 не может быть получено равенство Л2 = [° *].
Линейные системы обыкновенных дифференциальных уравнений. Одно из приложений жордановой канонической формы— исключительно важное для теории — связано с анализом решений системы обыкновенных дифференциальных уравнений с постоянными коэффициентами. Пусть задана матрица ЛеМп и вектор х0 и для системы дифференциальных уравнений первого порядка рассматривается задача Коши
(3.2.2.1)(3.2.2.1)х' (/) = Лх (/),х (0) = х0,
(3.2.2.1)
(3.2.2.1)
где х(/) = [х](/), х2(/), ..., х„(/)]г и «штрих» обозначает дифференцирование по t. Если матрица Л не является диагональной, то эта система уравнений будет связанной, т. е. ^ (/) зависит не только от х,(/), но и от других компонент вектора х(/). Связанность затрудняет решение задачи. Если же привести Л к диагональному (или почти диагональному) виду, то связанность исчезает (пли степень связанности уменьшается) и преобразованная задача решается проще. Запишем Л=5/5-1, где /—жорданова каноническая форма матрицы Л. Тогда задача (3.2.2.1) преобразуется к такому виду:
(3.2.2.2)(3.2.2.2)у' U) = hy Vt\ У (0) = Уо,
(3.2.2.2)
(3.2.2.2)
где x(Z) = Sy (/) и заданным считается вектор уо = S-Ix0. Если найдено решение задачи (3.2.2.2), то каждая компонента решения х(/) задачи (3.2.2.1) есть не что иное, как линейная комбинация компонент решения задачи (3.2.2.2), причем коэффициенты линейной комбинации определяются матрицей S.
Если матрица Л диагонализуема, то J есть диагональная матрица и (3.2.2.2) представляет собой несвязанное множество уравнений вида у'к (/) = hkyk (t), имеющих решения у*(0 = = Уб (0) е^. Это простая экспоненциальная функция, если собственное значение Кк вещественное, и это осциллирующая функция yh (t) = ук (0) еак* [cos <Ьк0 + i sin (У*/)], если Хк = ак + ibk комплексное.
В случае недиагональной матрицы ] решение несколько усложняется. Несвязанными будут такие группы компонент вектора у(/), которые отвечают различным жордановым клеткам
в /. Поэтому достаточно рассмотреть случай, когда / представляет собой одну жорданову клетку
Система (3.2.2.2) принимает вид
Ух (t) = Кух (t) + t/2 Ю.
1
Ут—\ (f) = *Кут_х (О + t/mM.
Ут ^ = ^Ут W и может быть решена прямой подстановкой, выполняемой снизу вверх. Начиная с последнего уравнения, получаем
Ут ^ = Ут (0) еМ , вследствие чего
Ут-х ^ = Мт_х МНут (0) е».
Решая это уравнение, находим
Ут-1^ = Ут^(ем + Ут-1^еМ.•
Следующее уравнение после подстановки в него этого выражения принимает вид
У т-2 Ю = Мт-2 Ю + Ут (0) <6» + Ут_х (0) В» .
Отсюда
Ут-2 (0 = Ут (0) 4~ ^ + Ут-1 (0)+ ут_2 (0) 6» ,
и т. д. Ясно, что каждая компонента решения имеет вид У к (0 = euqk ^
Y^e. qk(X)— многочлен степени не выше т— к, к = \, ..., т.
Как следствие этого анализа делаем вывод о том, что для любого начального условия х0 компоненты решения х(/) задачи (3.2.2.1) выражаются в виде,
х/ (0 = Pi (0 е^1 + Р2 кП е^ +...+рк^ е^,где Xi, Хг, .... Хк суть различные собственные значения для Аи для любого i многочлен pi{t) имеет степень, строго меньшую,чем порядок наибольшей жордановой клетки, отвечающей X/.
Вещественным собственным значениям соответствуют чисто экспоненциальные члены в этой сумме, а комплексным — члены с произведениями экспоненциальных и осциллирующих сомножителей.
Подобие матрицы и ее транспонированной матрицы. Любая жорданова клетка — это матрица, подобная своей транспонированной матрице, причем подобие осуществляется матрицей перестановки следующим образом:
Следовательно, если задана матрица А е Мп и J — ее жорда нова каноническая форма, то Д = 5Л5-1, т. е. А подобна / но J подобна JT и JT подобна Ат, так как Ат = (8Т)~ЧТ (8Т). Поэтому любая комплексная матрица подобна своей транспонированной матрице. Отсюда следует, что строчный ранг (максимальное число линейно независимых строк) комплексной матрицы совпадает со столбцовым рангом (максимальным числом линейно независимых столбцов), так как ранг является инвариантом подобия. Отсюда также вытекает, что А и Ат имеют одни и те же собственные значения. Впрочем, все эти следствия можно установить непосредственно —• и такой путь будет более простым.
Верно также и то, что для любого поля F всякая матрица из A1„(F) подобна (подобие осуществляется некоторой матрицей из A4„(F)) своей транспонированной матрице. Совсем не обязательно ограничиваться предположением F = С. В действительности это подобие можно осуществить с помощью симметричной матрицы.
Коммутирующие и простые матрицы. Если р(/)—любой многочлен и А е Мп — некоторая матрица, то р(Д) коммутирует с А. Это полезное, хотя и очевидное утверждение. Нельзя ли его обратить? Пусть заданы матрицы А, ВеМ„ и известно, что А коммутирует с В. Обязательно ли В будет многочленом от Д? Очевидно, нет, так как можно взять Д = / и тогда А бу-
дет коммутировать с любой матрицей, а р(/) = р(1)/ не может дать нескалярную матрицу. Дело тут в том, что, с одной стороны, вид матрицы А позволяет ей коммутировать с многими матрицами, а с другой стороны, совсем не много имеется матриц, представимых в виде р(Д). Чтобы получить какой-либо результат в этом направлении, нужно найти компромисс между этими двумя аспектами.
Определение. Матрица A g Мп называется простой, если любое ее собственное значение имеет геометрическую кратность 1.
Геометрическая кратность собственного значения жордановой матрицы равна числу отвечающих ему жордановых клеток. Поэтому матрица является простой в том и только в том случае, когда для всякого ее собственного значения имеется в точности одна жорданова клетка. Матрица А е Мп проста, если, например, она имеет п различных собственных значений или же собственное значение только одно и его геометрическая кратность равна 1. Скалярная матрица — это антипод простой матрицы.
Теорема. Пусть А^Мп — данная простая матрица. Матрица В G Мп коммутирует с А в том и только в том случае, когда В = р(А) для какого-то многочлена р(А степени не выше п — 1.
Доказательство. Если В = р^А\ то, конечно, А коммутирует с В. Чтобы установить обратное, положим 4 = S/S~', где / — жорданова каноническая форма матрицы А. Если АВ = ВА, то BSJS~l = SJS^B и (S"'1BS)J = J(S~1BS). Если мы докажем, что S-VBS = pU), то будет B=Sp (7) S-I=p(S/S-I)=pM). Итак, достаточно считать, что А есть жорданова матрица. Вследствие ее простоты можно записать
/», (ло
^п2 (Лг)
А =
^пк ^к)
где Xi, Лг, ..., Хк суть й различных собственных значений матрицы А. Для В рассмотрим блочное разбиение В = [B/J, согласованное с данным разбиением матрицы А. Тогда соответствующие этим разбиениям внедиагональные блоки матрицы АВ — ВА имеют вид
/пДХ^Вц BqJnj^j) — 0, i^i.
Так как собственные значения Xi и X/ различны, отсюда можно вывести, что Вц = 0 есть единственное решение этих уравнений (см. задачу 9 из § 2.4). Значит, матрица В имеет блочно-диагональный вид
О"
вк
тд.е В^Мп^ В силу предположения о коммутативности B,/n;(Xi) = /n (XJB, для всех z = l, 2, ...,&. Запишем 7Л/(Х/) = = XJ + Nb где
“О 1
О
Тогда BiNi = N,B, (t = l,2, ..., /г). Непосредственное вычисление показывает, что вследствие специального вида матрицы N; для любого 1 матрица Bi должна быть верхней треугольной тёплицевой матрицей (см. раздел 0.9.7), т. е.
l(1)
(3.2.4.3)
ооь^
о
о
b^
где элементы постоянны на каждой из диагоналей. Если мы для каждого z построим многочлен рк^ степени не выше п— 1, такой, что /?, (/^(Х/)) = 0 при i=#j и р< (/^(Х,)) = Вг, то многочлен
PW = Pi(0+ •••+Рк^
будет искомым. Положим
к.
7/И = П(^ — degqt^ = n-nb
и заметим, что qt Qnj(А,)) = 0 при i^j, потому что (/^(Л/) — — Xjiyi =0. Хотя qi(Jni(Xt')') может и не совпадать с Вь это невырожденная матрица (потому что все Xi различны), которая, как и всякий многочлен от Jn^X^, сохраняет вид (3.2.4.3).
Для любой невырожденной матрицы вида (3.2.4.3) обратная матрица имеет ту же форму и произведение матриц этого вида остается матрицей такого же вида. Поэтому матрица
[^(М)]-1 Bi ■
есть верхняя треугольная тёплицева матрица вида (3.2.4.3). Любую такую матрицу можно записать как многочлен от ДД^/) например,
Bi = b\n ynt(Xi) - Xilf + 6^ (Jn^Xi) - Х(1)х + .. .
Таким образом, имеется многочлен r^f) степени не выше nt— 1, такой, что
[^(ММ-
Если теперь положить pi(t) = qi(t)ri(t), то это будет многочлен степени не выше п— 1 и для него при i #= j
Pt ^пДХ])^ = qt (Vny(^/)) rt (Ду(^/)) = Or j (/п#(ХД) = О
и, кроме того, Pi(Jni(1Xi')') = qiQn.(iXi')') Г1^пДХ1')') = В1. □
Справедливо обращение этой теоремы, позволяющее охарактеризовать простые матрицы, а именно; матрица А Е Мп проста в том и только в том случае, когда любая коммутирующая с А матрица является многочленом от А..
Сходящиеся матрицы. Матрица А е М„, для которой все элементы матрицы Ат стремятся к нулю при т-^-оо, называется сходяцейся. Такие матрицы играют важную роль при изучении алгоритмов численной линейной алгебры. Если матрица А диагональная, то, очевидно, она будет сходящейся в том и только в том случае, когда все ее собственные значения по модулю строго меньше 1. То же справедливо и по отношению к диагонализуемым матрицам.
Чтобы распространить этот результат и на общий случай не обязательно диагонализуемых матриц, можно было бы рассмотреть доводы, связанные с малыми возмущениями. Однако не
ясно, что они могут дать при выполнении предельного перехода. Во всяком случае, мы можем использовать жорданову каноническую форму. Если А = SJS~V (J— жорданова форма матрицы Д), то Ат = SJmS~l и, значит, АтО при mоо тогда и только тогда, когда /т-> О при т->оо. Поскольку / является прямой суммой жордановых клеток, достаточно рассмотреть поведение степеней одной жордановой клетки
О"
1
О
= Х1-НкеМк; Nk = Jk^.
Так как ^* = 0 для всех т^А/то
[/6 wr - (V + Nkr = £ ( 7 )=
Все диагональные элементы равны Хт. Поэтому для того, чтобы /т-> О, необходимо, чтобы Хт-> О, а это означает, что |Х|< 1. Наоборот, если |Л| < 1, то достаточно доказать, что
т \
. 1 Л -» 0 при m —> оо / = 0, 1,2, ..., k — 1.
т — ] /rJ
тtn — jтtn — jНо
т
tn — j
т
tn — j
щ1Хт I/U' I’щ1Хт I/U' I’m (m — 1) (>п — 2) ... (m—J+l)XmiVK1
щ1Хт I
/U' I’
щ1Хт I
/U' I’
так что достаточно установить, что m/|X|"1->0 при т-*оо. Наверное, проще всего перейти к логарифмам и заметить, что при т -> оо
/ log т + т log] Л |-> — оо,
потому что log|X|<0 и (logx)/x-*0 при х-э-оо в силу правила Лопиталя.
В этом рассуждении, как видим, существенна роль жордановой канонической формы. Доказано, что Лт-*0 прн щоо в том н только в том случае, когда все собственные значения матрицы Л по модулю строго меньше единицы. Еще одно доказательство— без какого-либо использования жордановой формы— будет приведено в разд. 5.6.12.
6. Неравенство между геометрической и алгебраической кратностями. Для заданной матрицы Д е Л1л геометрическая кратность любого ее собственного значения совпадает с числом отвечающих ему жордановых клеток. Это число не больше суммы порядков всех жордановых клеток для этого собственного значения. Эта сумма равна алгебраической кратности. Таким образом, геометрическая кратность любого собственного значения не выше его алгебраической кратности — для сравнения см. разд. 1.4.9. .
Диагонализуемые и нильпотентные матрицы. Матрица Л е Мп называется нильпотентной, если Л* = 0 для какого-то целого положительного к. Любую жорданову клетку /ДХ) можно записать в виде IкЩ = XI-V Nгде (Л^)*=^0. Таким образом, произвольная жорданова клетка есть сумма двух матриц— диагональной и нильпотентной.
В более общем случае жорданову матрицу (3.2.1.1) можно записать в виде / = D -|- N, где матрица D диагональная и ее главная диагональ такая же, как н в /; прн этом N = J — D. Матрица N ннльпотентна: Nk = 0, если к равно порядку наибольшей жордановой клетки в /.
Наконец, пусть задана произвольная матрица АеМп и построена ее жорданова форма /. Тогда /1 = S/S"1 = SDS~*+ + SMS-1 — AdA-An, где Ad днагоналнзуема, AN ннльпотентна и AdAn = AnAd, так как обе матрицы D и N являются блочнодиагональными с соответствующими блоками одинакового размера и блоки в D суть скалярные матрицы.
Итак, любая матрица /1е.-И, представима в виде суммы двух матриц — днагоналнзуемой и нильпотентной, причем таким образом, что эти две матрицы коммутируют.
Задачи
Пусть задано какое-то семейство матриц 9" = {Аа: не е£Г}сМ„, где индексы принадлежат множеству индексов 9", и предположим, что существует простая матрица Ло ^ 9", такая, что АаАо = АоАа для всех «EiT. Доказать, что для каждого а е 9" можно указать многочлен р«(/) степени не выше п—1, такой, что Ла = ра(Л0), н, следовательно, семейство ST коммутативно.
Пусть задана матрица А е Мп и X, —какое-то ее собственное значение. Доказать, что для А порядок наибольшей жордановой клетки, отвечающей Ki,— индекс собственного значения Ki — равен наименьшему к = 1,2, ..., п— 1, для которого rank (Л — М)* = rank (Л — К,^
Показать, что если Л* = 0 (ЛеМ,,) для некоторого к"5>п, то Аг = 0 для какого-то г ^ п. Поэтому любая нильпотентная матрица обращается в нуль при возведении ее в такую степень, которая не превышает порядок матрицы. Указание. Установить, что для А единственное ее собственное значение есть 0. Как выглядит жорданова каноническая форма матрицы А? Далее рассмотреть ее степени.
Пусть задана жорданова клетка /*(0). Определить в том же духе, как и в конце разд. 3.2.1, три возможных типа жордановой канонической формы для Ik (0).
Пусть матрица А е М„ нильпотентна, так что Ак = 0 для некоторого к. Показать, что характеристический многочлен матрицы А имеет вид рА(Г) = tn.■
Линейное преобразование d/dt-. p(t)-^р'(t), действующее на векторном пространстве всех многочленов степени не выше 3, в базисе В ={1, t, t2, I3} имеет представление
гО 1 0 0-1
0 0 2 0
0 0 0 3 -
-0000-
Какова жорданова каноническая форма этой матрицы?
Каковы возможные жордановы формы матрицы А е Мп, такой, что Л3 = /?
Каковы возможные жордановы канонические формы матрицы А е М6 с характеристическим многочленом рд^ — ^А- ,+ 3)4(1- —4)2?
По методу, описанному в разд. 3.2.1, определить жорданову каноническую форму матрицы
Проверить утверждение из доказательства теоремы 3.2.4.2 о том, что произведение матриц вида (3.2.4.3) имеет такой же вид. Указание. Для А обратная матрица является многочленом от А.
И. Пусть А, ВеМп. Показать, что невырожденные блоки в жордановых формах матриц АВ и ВА одинаковы. При этом использовать равенства из доказательства теоремы 1.3.20. Бу-
не подобны, то на- где А,е Мп. (i = жордановы формыне подобны, то на- где А,е Мп. (i = жордановы формыдут ли АВ и ВА подобны? Если АВ и ВА сколько они далеки от подобия?
не подобны, то на- где А,е Мп. (i = жордановы формы
не подобны, то на- где А,е Мп. (i = жордановы формы
Пусть заданы матрицы А^ ..., Ак, «=1, ..., к'), и они имеют соответственно /1, . .., Jk. Доказать, что прямая сумма
имеет (с точностью до перестановки диагональных блоков)
жорданову каноническую форму
О
4 _4 _о
4 _
4 _
Пусть А е Мп и В, СеМт. Показать, что прямая сумма [04 ° ] е уИл+т подобна прямой сумме [ос] в том и только в том случае, когда В подобна С.
Пусть В, Се Мп. Показать, что две й-членвые прямые суммы '
подобны тогда и только тогда, когда В и С подобны.
Пусть А е Мп и В, СеМт. Показать, что прямые
суммы
подобны тогда и только тогда, когда В и С подобны.
Пусть матрица ЛеМ„ имеет жорданову каноническую форму Jra)(Xi)®... ®J«A (Аа). Показать, что если Л невырож- денна, то А2 имеет жорданову каноническую форму /П,(Л2)© • ■ • • •-®JnkV^X), т. е. жорданова каноническая форма для А1 состоит в точности из такого же набора жордановых клеток, что и для А, а соответствующие собственные значения возводятся в квадрат. Справедливо ли аналогичное утверждение для произвольных степеней А6, А ^ 2? Показать на примере матрицы размера 2X2, что для вырожденной матрицы это уже не верно. Указание. Доказать, что если К #= 0, то для квадрата J^W простой жордановой клетки жорданова каноническая форма имеет вид Jk^k2Y Установить, что при Л =/= О
rank [7Й W - Л/Г = rank [4 (Л) - X^lV, m = 1, 2к.
Доказать, что если АеМп, то rank Л = rank Л2 в том и только в том случае, когда геометрическая и алгебраическая кратности собственного значения Л = 0 равны, т. е. в жордановой канонической форме матрицы А любая клетка, отвечающая Л = О, имеет размер 1X1-
Дополнительная литература
Доказательство утверждения о том, что для любой заданной матрицы ее преобразование подобия в транспонированную к ней матрицу осуществимо с помощью симметричной матрицы, см. в работе: Taussky О., Zassenhaus Н. On the Similarity Transformation between a Matrix and Its Transpose. — Pacific J. Math. 1959, v. 9, p. 893—896. В [HJ] имеется доказательство того обращения теоремы 3.2.4.2, которое упоминалось в конце разд. 3.2.4.
Многочлены и матрицы: минимальный многочлен
Пусть задан произвольный многочлен р (I) = tk + ak-\tk~x +' + ... + a\t + ^о- Тогда для любой матрицы А е Мп можно определить матрицу
Р (Л) = Л6 -f- ак_хАк 1 + ак_йАк 2 + ... + ахА + aj.
Имеется важная взаимосвязь между многочленами и матрицами. В этом плане роль характеристического многочлена уже отмечалась, однако есть и другие многочлены, связанные с произвольной квадратной матрицей. Один из них—минимальный многочлен.
Согласно теореме Кэли — Гамильтона 2.4.2, для любой матрицы А е Мп можно указать многочлен (характеристический многочлен) рд^О степени п, такой, что -рд (Л) = 0. Если многочлен принимает на А значение 0, то говорят, что он аннулирует матрицу А. Возможно, А аннулируется также каким-то много- члзном степени п—1 илн, скажем, п — 2; однако ясно, что для каждой матрицы А е Мп существует аннулирующий ее многочлен минимальной степени (в силу конечного числа возможностей) н степень этого многочлена не выше п. Если р(Д) = 0, то ср(Д) = 0 для любого сеС, а стало быть, понятно, что любой нетривиальный аннулирующий многочлен всегда можно нормировать таким образом, чтобы старший коэффициент был равен 4-Е Многочлен со старшим коэффициентом 4-1 называется нормированным. Заметим, что нормированный многочлен не может быть тождественно нулевым.
Теорема. Пусть задана матрица ЛеМг.. Существует единственный нормированный многочлен дд^, имеющий минимальную степень среди аннулирующих А многочленов. Степень этого многочлена не выше п. Любой многочлен р^, такой, что р(Д) = 0, делится на рдЦУ
Доказательство. Матрица А аннулируется, в частности, характеристическим многочленом, имеющим степень п. Поэтому найдется минимальное положительное целое m ^ п, для которого существует нормированный многочлен ^(/) степени ш, такой, что q(A)~ 0. Если р^ аннулирует А и ^(/) есть аннулирующий А нормированный многочлен минимальной степени, то степень многочлена qVV> не выше степени многочлена pVV Следовательно, согласно алгоритму Евклида, существуют многочлены h^ н г^, такие, что p(t) = ^(/)/г(/)4* г(0 н степень г(/) меньше, чем степень ^(/). Тогда 0 — р(А) = q(A)h (Л) 4* 4-г(Л) = 0/1(Д)4-г(Д), и, значит, г(Д) = 0. Если г(/)^0, то после его нормирования мы получили бы нормированный аннулирующий А многочлен, степень которого меньше, чем степень qCO- Поскольку это противоречит минимальности многочлена 7(/),не остается ничего другого, кроме как считать, что /-(/) = 0. Следовательно, р^ делится на ^(/) и прн этом частное есть Л(/). Таким образом, любые два нормированных аннулирующих А многочлена, имеющие минимальную степень, обязаны делиться один на другой, а так как нх степени одинаковы, каждый нз ннх есть не что иное, как скалярное кратное другого. Вследствие нормированное™ обоих многочленов этот скалярный множитель должен быть равен 4*Е а значит, эти многочлены совпадают. □
Определение. Пусть задана матрица А еМ„. Единственный нормированный многочлен дд^, имеющий мнннмаль-
ную степень среди аннулирующих А многочленов, называется минимальным, многочленом матрицы А.
Следствие. Подобные матрицы имеют один и тот же минимальный многочлен.
Доказательство. Если А, В, S е Мп и A = SBS-1, то qB (Л) = = qB (SBS~‘) = SqB (В) S-1 = 0, поэтому степень qB (/) не меньше степени qA(t\ Запись В = S~'AS позволяет в силу тех же доводов утверждать, что степень qA(<) не меньше, чем степень qaktV Таким образом, эти два нормированных многочлена имеют одну и ту же минимальную степень и оба аннулируют матрицу А. По теореме 3.3.1 они должны совпадать. □
Следствие. Для всякой матрицы А е Мп минимальный многочлен qA(t) является делителем характеристического многочлена PaW- Кроме того, qA(X) = Q тогда и только тогда, когда X есть собственное значение матрицы А, т. е. каждый корень уравнения рА^ = 0 является корнем уравнения qA^ = 0.
Доказательство. Имеем рд(Л)=0; поэтому из теоремы 3.3.1 вытекает существование многочлена /г(/), такого, что рА^ = = h(t)qA(O- Из этого разложения ясно, что каждый корень уравнения qA(^t') = O есть также корень уравнения рДГ) = и, и, следовательно, каждый корень уравнения ^д(/) = 0 является собственным значением матрицы А. Пусть матрица А имеет собственное значение Л и отвечающий ему собственный вектор х ф 0. Тогда Ах = Хх и, значит, 0 = qA (Л)х = qA (X) х, а стало быть, и qA (X) = 0. □
Это последнее следствие показывает, что если характеристический многочлен рА^ полностью разложен на множители, т. е.
Ра W = П V — l<Si<n, Si + s2+ ... -Vsm = n, (3.3.5а) t-i■
где Ль Л2Хт различны, то минимальный многочлен Уд^ имеет вид
^W = ft(^-V',(3.3.5b)
В принципе на этом можно основать следующий алгоритм построения минимального многочлена произвольной заданной матрицы А.
Сначала для А вычисляем собственные значения вместе с их алгебраическими кратностями (возможно, для этого придется определить характеристический многочлен и найти его
полное разложение на множители), т. е. тем или иным способом получаем разложение (3.3.5а).
Теперь имеется конечное число многочленов, представимых в виде (3.3.5b). Начиная с произведения, в котором г, = 1 для всех I, прямым вычислением определяем такой многочлен наименьшей степени, который аннулирует матрицу Л. Это и будет минимальный многочлен.
С вычислительной точки зрения это не очень хороший алгоритм, если по ходу дела нужно искать разложение характеристического многочлена какой-либо большой матрицы. Однако он очень эффективен при вычислениях вручную для небольших матриц простого вида. Есть и другой подход к вычислению минимального многочлена, где не требуется находить характеристический многочлен или собственные значения. Он указывается в задаче 5 в конце этого параграфа.
Минимальный многочлен матрицы А и ее жорданова каноническая форма весьма тесно связаны между собой. Запишем A=SJS-1, где 7— жорданова каноническая форма для А, и сначала предположим, что J— это в точности одна жорданова клетка:
“X 1 О"
Характеристический многочлен и так как (7— Х/)А=#0 при тоже есть (/ — X)". ЕслиХарактеристический многочлен и так как (7— Х/)А=#0 при тоже есть (/ — X)". Еслиматрицы А имеет вид (t — X)"матрицы А имеет вид (t — X)"k < п, минимальныйk < п, минимальныймногочленмногочлен
Характеристический многочлен и так как (7— Х/)А=#0 при тоже есть (/ — X)". Если
Характеристический многочлен и так как (7— Х/)А=#0 при тоже есть (/ — X)". Если
матрицы А имеет вид (t — X)"
матрицы А имеет вид (t — X)"
k < п, минимальный
k < п, минимальный
многочлен
многочлен
7„, (X) О7„, (X) ОеЛ/п,еЛ/п,
7„, (X) О
7„, (X) О
еЛ/п,
еЛ/п,
7 =
где /г]^/г2, то характеристический многочлен для 7 по-прежнему имеет вид (/— X) , но теперь (7— V)"1 = 0 и матрица 7 — X/, возведенная в любую степень, меньшую /гь отлична от нуля. Следовательно, минимальный многочлен есть (/ — X)"1. При еще большем числе клеток получаем по существу то же самое: минимальный многочлен матрицы 7 имеет вид (,t— X)', где г равно порядку наибольшей жордановой клетки, отвечающей X. Минимальный многочлен произвольной жордановой матрицы 7 разлагается на множители (/ — Х^1, отвечающие всем различным собственным значениям X,-, и степень г, равна порядку наибольшей жордановой клетки для Xi. Чтобы аннулиро-
вать все клетки, отвечающие X/, большей степени не требуется, но никакой меньшей степенью этого добиться невозможно. Так как подобные матрицы имеют один и тот же минимальный многочлен, мы сейчас доказали следующую теорему.
Теорема. Пусть матрица Л е Мп имеет различные собственные значения Xi, Х2, ..., Хт. Тогда минимальный многочлен матрицы Л имеет вид
m
qAkt^Ukt-X^i, (3.3.7) i=l
где fi равно порядку наибольшей жордановой клетки матрицы Л, отвечающей собственному значению Xi.
Для практического вычисления минимального многочлена этот результат не очень полезен, так как построение жордановой канонической формы какой-либо матрицы обычно является задачей более трудной, чем получение ее минимального многочлена. Кроме того, если известны только собственные значения матрицы, то минимальный многочлен можно построить просто методом проб и ошибок. Однако нужно отметить важные теоретические следствия. Так, диагонализуемость матрицы равносильна тому, что все ее жордановы клетки имеют порядок 1, и, следовательно, для диагонализуемости необходимо и достаточно, чтобы г; = 1 для всех I в (3.3.7).
Следствие. Пусть матрица Л е Мп имеет различные собственные значения Хь Х2, ..., Хт. Тогда Л диагонализуема в том и только в том случае, когда q^A^ = Q, где
?(/) = (/-Х,)(/-Х2) .... (Z-XJ. (3.3.9)
Этот критерий действительно удобен для выяснения диагонализуемости заданной матрицы: если для матрицы известны собственные значения, то легко образовать многочлен (3.3.9) и посмотреть, аннулирует ли он матрицу Л. Если да, то это минимальный многочлен матрицы Л, так как никакой многочлен меньшей степени не может в качестве корней иметь m различных собственных значений матрицы Л. Иногда бывает полезна та или иная эквивалентная формулировка этого результата.
Следствие. Пусть задана матрица АеМп. Необходимым и достаточным условием ее диагонализуемости является каждое из следующих свойств-.
минимальный многочлен дл^ разлагается на различные линейные множители;
все корни уравнения дд^ = 0 имеют кратность 1;
для любого I, такого, что qA ^ = 0, выполняется неравенство д'д^т^ 0 (^(/) — производная многочлена qA(tyy
До сих пор мы рассматривали проблему определения по заданной матрице АгМп нормированного аннулирующего ее многочлена минимальной степени. Теперь обсудим обратную задачу. Пусть задан нормированный многочлен
р(/) — in + an_xin 1 + an_^tn 2 + ... + axt + eg,, (3.3.11)
Спрашивается, существует ли такая матрица А, дЛя которой р(П является минимальным многочленом? Если да, то порядок матрицы А не меньше п; в действительности такой матрицей может быть А е МЛ и она ищется без труда. Положим
1ех = е, = Л°еь Аех = е2 = Аех, Ае2 = е3 = А2ех, Ле3 = е4 = Лэеь
Аеп_х = е„ = Л^е,,
Ле„ = ап_хеп — ап_^еп_х — ... — ахе2 — Ooei =
= — ап_хА"-1ех— an_^An~zex— ... —ахАех—аоех = Artex = ' = [Ап-р(А)]ех.
Таким образом,
Р (Л) ех = (^e, + ахАех + а2А2ех + ... + ап_хА ej + А ех = Vp (Л) - Л"] ех + [Ап-р (Л)] ех = 0.
Далее, р(Л)е». = р(Л)Л*-1в1 — Ак-хр^А^е\ = Л^-’О = 0 для всех А = 1, 2и. Так как р(Л)вл = 0 для каждого базисного вектора вк, получаем р(Л) = 0. Значит, р(/) — это нормированный многочлен степени п, аннулирующий матрицу А. Если А анну-
лируется также многочленом </(/) = tm + bm-\tnl-x + ... +bi/ + + bo степени т < п, то получаем
О = q (Л) ех = A,nev + bm_xAm '^ + ... +61Ле1 + йое1 — " em + l + ^m-lem + ••• + ^le2 + ^1 = О, а это означает, что базисный вектор ет+1 линейно зависит от базисных векторов щ, е2, •.., ет. Это невозможно. Поэтому р(/) не может быть ничем иным, кроме единственного нормированного аннулирующего А многочлена минимальной степени. Кроме того, степень многочлена p(t) равна п и А е Мп, поэтому с учетом того, что характеристический многочлен рд^)— это также нормированный аннулирующий А многочлен степени п, находим, что многочлен (3.3.11) есть не что иное, как характеристический многочлен матрицы (3.3.12)..
3.13. Определение. Матрица (3.3.12) называется сопровождающей матрицей {) многочлена (3.3.11).
Нами уже доказано следующее утверждение.
3.14. Теорема. Любой нормированный многочлен является одновременно характеристическим и минимальным многочленом своей сопровождающей матрицы.
Впоследствии мы изучим методы определения областей, содержащих собственные значения матрицы. Ввиду того что корни многочлена являются собственными значениями его сопровождающей матрицы, эти методы можно использовать и для локализации корней многочлена. См. 5.6.
Для заданной матрицы А е Мп можно определить характеристический многочлен PaV^ и его сопровождающую матрицу (3.3.12). Если матрица А подобна этой сопровождающей матрице, то (поскольку для подобных матриц минимальные многочлены одинаковы), согласно теореме 3.3.14, минимальный многочлен qA (/) матрицы А совпадает с ее характеристическим многочленом рд^. В общем случае это не так, но если для матрицы A g Мп минимальный многочлен <7л(0 и характеристический многочлен рд (t) совпадают, то ее жорданова каноническая форма (3.1.12) должна содержать в точности по одной жордановой клетке для каждого из ее различных собственных значений. Размер каждой жордановой клетки равен кратности соответствующего собственного значения как корня характери-
*) Нередко используют и другие определения сопровождающей матрицы—г см. задачу 11 в конце параграфа; иногда называют ее также матрицей Фробениуса. В любом случае это простая матрица такого же типа и в ней явным образом содержатся коэффициенты ее характеристического многочлена (совпадающего с минимальным многочленом). — Прим, перев.
стического (минимального) многочлена матрицы А. Однако жорданова каноническая форма сопровождающей матрицы многочлена рд (t) имеет в точности такую же структуру жордановых клеток1), а стало быть, сопровождающая матрица подобна матрице А. Это рассуждение доказывает следующую теорему.
3.15. Теорема. Матрица АеМ„ подобна сопровождающей матрице своего характеристического многочлена тогда и только тогда, когда характеристический и минимальный многочлены совпадают.
Упражнение. Показать, что матрица А е Мп подобна сопровождающей матрице своего характеристического многочлена в том и только в том случае, когда А проста.
Задачи
1. Пусть матрицы А, ВеМз нильпотентны. Доказать, что А и В подобны тогда и только тогда, когда они имеют один и тот же минимальный многочлен. Верно ли это для матриц из М4?
Предположим, что известны собственные значения Xi, XjXm матрицы А е Мп. Используя теорему 3.3.6, показать, что минимальный многочлен (3.3.7) определяется по следующему алгоритму: для i = 1, 2, ..., m найти (Л—hil)k при k = 1,2, ..., п и положить н равным наименьшему значению к, для которого rank (Л — Х,/)6 = rank (Л—Х^)^1. Число п— это индекс собственного значения X/.
Матрица АеМ„ называется идемпотентной, если А2 = А. Используя следствие 3.3.10, доказать, что любая идемпотентная матрица диагонализуема. Указание. Показать, что А аннулируется многочленом t2— / = /(<—1). Каким будет минимальный многочлен для А? Что можно сказать по поводу трипотент- ной матрицы А, т. е. такой, что А3 = А? А что будет, если А» = А?
Доказать, что если А е Мп и А6 = 0 для какого-то к > п, то Аг = 0 для некоторого г ^ п. Таким образом, всякая нильпотентная матрица обращается в нуль при возведении в некоторую степень, не превосходящую ее порядка. Указание. Если многочлен p(t) = tk аннулирует А, то как он связан (см. теорему З-.3.1) с ее минимальным многочленом?
Доказать, что следующее применение процесса Грама —
*) Для каждого собственного значения сопровождающей матрицы геометрическая кратность (а значит, и число жордановых клеток), как легко Видеть, равна 1, — Прим, перев.
Шмидта позволяет вычислить минимальный многочлен заданной матрицы А е М„ непосредственно — без определения характеристического многочлена или собственных значений.
Определим отображение Т: Мп->Сп следующим правилом: любую матрицу А е Мп со столбцами ах, а2, ..., ап запишем в виде А = [щ а2 . .. а„] и обозначим через Т (Л) единственный вектор из С", в котором первые п компонент — это элементы первого столбца а\, компоненты с л + 1-й по 2л-ю — это элементы второго столбца а^ и т. д. Доказать, что отображение Т есть изоморфизм (отображение линейное, взаимно однозначное и «на») векторных пространств Мп и Сп.
Рассмотреть векторы
HUTU'S, и^ТДЛ), и2 = Т’(Л2), ..., Ук = ТкА\ ....
считая, что они из С"2 и к — 0, 1, 2, ..., п. Используя теорему Кэли — Гамильтона, установить линейную зависимость множества {и0, иь ..., ипУ
Применить процесс Грама — Шмидта для последовательности ио, Щ, • •■, Un — вплоть до его остановки при получении первого нулевого вектора. Почему обязательно будет получен нулевой вектор?
Показать, что если процесс Грама — Шмидта производит нулевой вектор впервые на к-м шаге, то степень минимального многочлена матрицы А равна к— 1.
Показать, что если на ^-м шаге процесса Грама — Шмидта вычисляется вектор аоио + aiUi + ... + ak-iVk-i = 0, то .
Т (aouo + aiUi + • •• +a^_iU^_1) =
— а0/+ «1Л + а2Л + ... -ра^Л 1 = 0.
Вывести отсюда, что qA (t) — (а6_,/6-1 + ... + а2/2 + аД + a0)/ai,_1 есть минимальный многочлен матрицы А. Почему а6-1 =# 0?
Проводя вычисления, указанные алгоритмом задачи 5, найти минимальные многочлены матриц [q 2], [q }], [q °].
Рассмотреть матрицы А = [.„ о ], В = [° ° ] и показать, что минимальные многочлены для АВ и ВА не обязательно одинаковы. Между тем характеристические многочлены для АВ и ВА всегда совпадают. Объяснить, почему наблюдается это различие в свойствах характеристических и минимальных многочленов.
Пусть А£ = МП1 (/=1, 2, ..., к') и ^ (/) обозначает минимальный многочлен для Л,. Доказать, что для прямой
суммысуммы
суммы
суммы
О"
Ак_
минимальный многочлен равен наименьшему общему кратному многочленов ^i(Z), qaW, •••> q^UV Это единственный нормированный многочлен наименьшей степени, делящийся на </,(/) для каждого /. Обратим внимание на то, что это рассуждение по- новому доказывает лемму 1.3.10.
Матрица А г М5 имеет характеристический многочлен рл(/) = (/— 4)3(/ + 6)2 и минимальный многочлен ^д(/) = = (/— 4)2(/-j- 6). Какова жорданова каноническая форма для Д?
С помощью прямого вычисления убедиться в том, что многочлен (3.3.11) является характеристическим многочленом сопровождающей матрицы (3.3.12). Указание, Чтобы вычислить определитель, использовать алгебраические дополнения.
«п-Х1«п-Х1— ап-2 • • • — с0 о ... о— ап-2 • • • — с0 о ... оилиилиСопровождающая матрица многочлена (3.3.11) иногда определяется по-другому—как матрица вида
«п-Х
1
«п-Х
1
— ап-2 • • • — с0 о ... о
— ап-2 • • • — с0 о ... о
или
или
~ о 10 ~
о о 1
_—Oq —а1 ... —а„_[ _
Доказать, что каждая из этих двух матриц, как и (3.3.12), обладает тем свойством, что многочлен (3.3.11) является для нее одновременно характеристическим и минимальным.
Доказать, что не существует вещественной 3 X 3-матрицы с минимальным многочленом х2+ 1, но имеются вещественные 2 X 2-матрицы, а также комплексные ЗХ 3-матрицы, обладающие именно таким минимальным многочленом. Указание. Использовать следствие 3.3.4.
Показать, что матрицы, имеющие один и тот же характеристический многочлен и один и тот же минимальный многочлен, тем не менее могут не быть подобными — рассмотреть матрицы порядка 4 или более высокого порядка. Указание.
Взять матрицы
"0 1
0 0
0 0'
0 0
"0 1
0 0
0 0’
0 0
0 0
.0 0
0 1
о о_
0 0
.0 0
0 0
о о_
Доказать, что 4— наименьший порядок, для которого может наблюдаться это явление.
{ 14. Если матрицы Л, В е Мп подобны и р^—произвольный многочлен, то д(Л) = 0 тогда и только тогда, когда р(В) = = 0. Показать, используя пример из предыдущей задачи, что возможна ситуация, когда для любого многочлена р(/) имеет место эквивалентность равенств р(Л) = 0 и р(В) = 0, но матрицы Л и В не подобны. Как это может быть?
Пусть задана матрица Л е М„ и образовано множество В(Л)={р(Л): р^— произвольный многочлен}. Доказать, что Р(Л) в АД является подпространством и даже подалгеброй (Р^А) замкнуто относительно умножения). Доказать, что размерность подпространства В (Л) равна степени минимального многочлена матрицы А.
Матрицы А, ВеМп имеют одни н тот же характеристический многочлен и один и тот же минимальный многочлен. Доказать, что если их характеристические многочлены совпадают с минимальными многочленами, то они подобны. Используя этот факт, установить, что различные формы сопровождающей матрицы,отмеченные в задаче 11,подобны матрице (3.3.12).
3.4. Другие канонические формы и разложения
Одно из разложений матрицы связано с ее жордановой канонической формой. Однако в различных ситуациях бывают полезны и некоторые другие разложения.
Мы начнем с изучения варианта жордановой канонической формы (3.1.12) для матрицы А с вещественными элементами. В этом случае все невещественные собственные значения разбиваются на комплексно-сопряженные пары. Более того, если матрица А вещественная, то гапк(Л — Х/)* = гапк(Л— X/)6 = = rank (Л — X/)* для всех Хе С и всех к =1,2, ..., и, следовательно, структура жордановых клеток, отвечающих любому собственному значению X, в точности такая же, как и структура кордановых клеток, отвечающих комплексно-сопряженному собственному значению X. Таким образом, жордановы клетки всех размеров (а не только 1X1), отвечающие невещественным соб-
ственным значениям, разбиваются на «сопряженные» пары матриц одного порядка.
Например, пусть X— невещественное собственное значение вещественной матрицы А. Тогда если в жорданову каноническую форму для А клетка /г(Х) входит с какой-то кратностью, то клетка /2 (X) входит в нее с такой же кратностью. Блочная матрица
/2 (X)0 1
"X 1
0 X
0 0"
0 0
(3.4.1)
0 /2(X)J =
0 0 .0 0
X 1
0 х_
перестановочно1) подобна (достаточно переставить строки и столбцы с номерами 2 и 3) блочной матрице
"х о и о "
О X | 0 1Г£)(Х) I 1
О О f X О — [ ОD (X) J ’
гдеГХD (X) a I' L0В общем случае жордановагдеГХD (X) a I' L0В общем случае жорданова_0 О I о х_
где
ГХ
D (X) a I
' L0
В общем случае жорданова
где
ГХ
D (X) a I
' L0
В общем случае жорданова
01 - е М», I е М». X J
матрица вида
0 1
sAl2ft(3.4.2)
перестановочно подобна блочной матрице
'DM
2ft,
о
DM
где на главной диагонали находятся А блоков Р(Х), а на соседней с ней А—1 единичных матриц размера 2X2.
*) Матрицы перестановочно подобны, когда они подобны и подобие осуществляется матрицей перестановки, — Прим, перев.
Каждый 2 X 2-блок D^ подобен вещественной 2 X 2-матрице
, Г а 6 1
S£>(Z)S~'=. гС(а,Ь),(3.4.3)
L — b а 1
где Л = а + lb, a, b е R и S = ^ ~' ~ [ ] ■ Поэтому любая блочная пара сопряженных жордановых клеток (3.4.1) размера 2X2 с невещественным X подобна (подобие осуществляется матрицей [д ^]) вещественной 4 X 4-матрице, имеющей вид
а b — b а " оОО оа b — b а " оОО о1 О"О 1а ь— b а1 О"О 1а ь— b аСДа,Ь^ I "IО С (а, Ь)СДа,Ь^ I "IО С (а, Ь)
а b — b а " оО
О о
а b — b а " оО
О о
1 О"
О 1
а ь
— b а
1 О"
О 1
а ь
— b а
СДа,Ь^ I "IО С (а, Ь)
СДа,Ь^ I "IО С (а, Ь)
В общем случае любая блочная пара сопряженных жордановых клеток (3.4.2) размера к X к с невещественным X подобна вещественной 2к X 2А-матрице
~С(щ 6)
I
С {a, b) I
О "
ЗД, *) =
(3.4.4)
О
I
С(а, Ь)
Эти наблюдения приводят нас к вещественной жордановой канонической форме.
3.4.5. Теорема. Любая вещественная матрица ЛеЛЦК) подобна блочно-диагональной вещественной матрице вида
СпДаь ЬД
Сп2 (а2, ЬД
О -
О
Ctlp ^®Р’ Ьр^
5nq ^Д)
In, ^Д
где Xk = ak + ibk — невещественные собственные значения матрицы А при к = 1, 2, ..., р, ак, Ьк вещественны^ а ее вещественные
собственные значения — это KqХг. Каждая вещественная блочно-треугольная матрица Cnk(ak, bk^eM2nh имеет вид (3.4.4) и в жордановой канонической форме (3.1.12) для Л соответствует паре сопряженных жордановых клеток Jnk ^К^, 1Пк (кк) е е Мпь с невещественным Хк. Вещественные жордановы клетки 1Пк (^а) в (3.4.6) в точности совпадают с жордановыми клетками в (3.1.12), отвечающими вещественным Кк.
Вещественную жорданову каноническую форму вещественной матрицы мы получили как следствие общей (комплексной) жордановой канонической формы (3.1.12). Преимущество такого подхода — в точном указании связи размеров и числа вещественных блоков СПк (ак, Ьк) со структурой комплексных жордановых клеток матрицы А. Однако в таком подходе есть и недостаток— неясно, можно ли подобие, преобразующее А в матрицу (3.4.6), выполнить с помощью вещественной матрицы.
В действительности если матрица А вещественная, то всегда найдется вещественная невырожденная матрица S, такая, что матрица 5~'Л5 есть вещественная жорданова форма (3.4.6). Это можно доказать, следуя тем трем этапам, которые составляли наше доказательство теоремы о жордановой канонической форме (см. § 3.1), только начать нужно именно с вещественного варианта (теорема 2.3.4) триангуляризации по Шуру, а не с комплексного (теорема 2.3.1). На этапах 2 и 3 можно повторить те же построения, что и в комплексном случае, — при этом нужно показать, что возможно использование только вещественных преобразований подобия и с их помощью будут получены модифицированные треугольные или жордановы диагональные блоки, в которых на главной диагонали могут находиться вещественные 2 X 2-матрицы С(а, 6) вида (3.4.3).
Комплексная жорданова каноническая форма (3.1.12) — это прямая сумма верхних треугольных матриц. Вещественная жорданова форма (3.4.6) —это прямая сумма хессенберговых, или «почти треугольных», матриц, так как каждый вещественный блок С (а, Ь) имеет порядок 2 и в нем только один элемент находится ниже главной диагонали.
Можно также развить теорию канонических форм, являющихся прямыми суммами сопровождающих матриц. Такие формы можно строить для всех комплексных матриц, но их преимущество состоит в том, что они применимы и для полей, отличных от С, когда жордановой канонической формы просто нет.
Пусть задана матрица А е Мп и ее жорданова каноническая форма имеет вид (3.1.12). Для всех различных собственных значений соберем вместе все жордановы клетки, отвечающие
общему собственному значению. В каждой группе клеток выберем клетку наибольшего порядка и исключим ее из своей группы. Пусть В\ обозначает прямую сумму всех этих исключенных клеток. В прямой сумме В\ будет столько слагаемых, сколько у Л имеется различных собственных значений. Теперь из оставшихся клеток в каждой группе выберем жорданову клетку наибольшего порядка и снова исключим ее из своей группы. Пусть В2 обозначает прямую сумму всех этих клеток. Прямая сумма В2 может состоять из меньшего числа слагаемых, чем В,, поскольку теперь какие-то группы клеток могли оказаться пустыми, т. е. каким-то собственным значениям для А отвечает только одна жорданова клетка. Продолжим эту процедуру получения прямых сумм BV) В2, В3, ..., Вз до тех пор, пока все группы жордановых клеток не сделаются пустыми. Размеры матриц В 6 монотонно не возрастают. Матрица В\ ® В2 ® ... ® Bs перестановочно подобна исходной жордановой форме (3.1.12) матрицы А.
Вследствие способа определения прямых сумм Вк для каждого к матрица Вк имеет совпадающие характеристический и минимальный многочлены. Для Вх характеристический (минимальный) многочлен на самом деле есть не что иное, как минимальный многочлен матрицы А. Таким образом, согласно теореме 3.3.15, для каждого к матрица Вк подобна сопровождающей матрице своего характеристического (минимального) многочлена.
Характеристические (минимальные) многочлены матриц Вк известны как инвариантные множители fk(t) матрицы А. Обратим внимание на то, что их степени монотонно не возрастают и )*(/) делится на Д+Д/) для каждого к = 1, 2, ..., s—1. Первый инвариантный множитель Д (/) = qB (/)— это минимальный многочлен матрицы А, а произведение всех инвариантных множителей равно характеристическому многочлену матрицы А. Инвариантные множители однозначно определяются структурой жордановых клеток матрицы А, а последняя в свою очередь — собственными значениями %, и последовательностью рангов степеней матриц А—Х,7. Таким образом, для подобных матриц инвариантные множители одни и те же. К тому же они полностью определяют структуру жордановых клеток, и поэтому две матрицы с одинаковыми инвариантными множителями должны быть подобны. Итак, последовательность инвариантных множителей матрицы (в нее входит минимальный многочлен и по ней определяется характеристический многочлен) является полным набором многочленов—инвариантов подобия1, две матрицы А, В е Мп подобны тогда и только тогда, когда они имеют одинаковые инвариантные множители.
Рассмотрим еще один способ, позволяющий охарактеризовать инвариантные множители матрицы А. Пусть Л (/) = (/ —АД'1 • •• ... (/ — Л„() m — минимальный многочлен матрицы А. Из жордановой формы матрицы исключаем жордановы клетки, соответствующие множителям (/ — Л,)1 многочлена /t (/) (это в точности те жордановы клетки, которые составляют матрицу Д), и рассмотрим /2(/) = (/ — AJ 1 ... (/ — Лт)$т — минимальный многочлен матрицы с оставшимися жордановыми клетками. Теперь исключим по одному блоку, соответствующему каждому множителю (/— Xif\ и обозначим через /3(/) минимальный многочлен новой матрицы после исключения блоков и т. д. Инвариантные множители 1к(.Л —эт0 не чт0 иное, как минимальные многочлены серии матриц, порядок которых на каждом шаге последовательно понижается за счет исключения некоторых жордановых клеток.
Характеризация подобных матриц в терминах инвариантных множителей, привлекает в теоретическом плане, так как с очевидностью показывает, почему минимального и характеристического многочленов недостаточно для того, чтобы распознать подобие. В то же время она по существу ничего нового не добавляет к тому, что мы уже знаем: две матрицы подобны тогда и только тогда, когда одинаковы их жордановы канонические формы.
С другой стороны, эта характеризация приводит к новой канонической форме матрицы А, известной как рациональная форма, вследствие того, что инвариантные множители можно вычислить, используя только рациональные операции над элементами матрицы А.
Теорема. Любая матрица А е Мп подобна прямой сумме сопровождающих матриц ее инвариантных множителей.
Для комплексных матриц мы уже располагаем жордановой канонической формой, и потому может показаться, что рациональная форма из теоремы 3.4.7 не обладает никакими преимуществами. Причина, по которой рассматривается рациональная форма, заключается в возможности ее использования для матриц над произвольным полем, а не только в случае комплексных чисел. Любая матрица над полем F подобна над F прямой сумме сопровождающих матриц своих инвариантных множителей— однозначно определенных многочленов с коэффициентами из F. Проиллюстрируем это для вещественного поля.
Произвольная заданная вещественная матрица ДеЛД(К)' подобна (возможно, преобразование осуществляется комплексной матрицей) прямой сумме В^ФВ^Ф ,,, ФВ^, которая в свою
очередь подобна прямой сумме сопровождающих матриц своих инвариантных множителей (характеристических многочленов матриц Вк, где к = 1, ..., s). Жордановы клетки матрицы А, отвечающие невещественным собственным значениям, разбиваются на сопряженные пары. Следовательно, если какая-то клетка, соответствующая невещественному собственному значению, входит в матрицу 8А, то сопряженная клетка должна принадлежать той же самой матрице 8^ (А = 1, ..., $). Таким образом, каждая матрица Вк имеет вещественный характеристический многочлен, что согласуется с вещественностью формы, обеспечиваемой теоремой 3.4.7. Это рациональная форма вещественной матрицы, и в действительности она достигается с помощью вещественного подобия — доказательство мы опускаем.
Теорема. Любая вещественная матрица A eM„(R) подобна над R прямой сумме сопровождающих матриц вещественных нормированных многочленов pv^t), Pi(h, ..., Ps^t), где Pk(t) делится на рк+х(^ при к = 1, 2$—1. Многочлен
pi (/) является минимальным многочленом для А над R, произведение р\Щ ... р5Ц^ есть характеристический многочлен матрицы А и для каждого к многочлен р^^— это инвариантный множитель матрицы А над R. Многочлены Ри^Ц определяются однозначно, так что две матрицы подобны над R в том и только в том случае, когда они имеют одни и те же инвариантные множители.
Подчеркнем, что теорема такого же типа справедлива и в случае поля Q рациональных чисел или какого угодно другого поля. Свое название рациональная форма получила благодаря тому, что любая матрица 4e.M„(R) приводится к этой форме в принципе с помощью конечного числа рациональных вычислений над элементами матрицы А, не выводящих из поля F. Так, если F есть поле рациональных чисел, то будут использоваться многочлены с рациональными коэффициентами и подобия, осуществляемые матрицами с рациональными элементами.
С сопровождающими матрицами связана еще одна каноническая форма, к которой тоже можно прийти, исходя из жордановой канонической формы (3.1.12). Заметим, что любой отдельно взятый жорданов блок обладает тем свойством, что его характеристический и минимальный многочлены совпадают. Значит, каждый жорданов блок /„. (Лг) подобен сопровождающей матрице своего характеристического многочлена (/— Т-;)"1'. В целом жорданова каноническая форма, следовательно, подобна прямой сумме сопровождающих матриц многочленов (/ — А;)"1'; эти многочлены известны как элементарные делители матрицы А. Обратим внимание на то, что в общем случае этот.
способ разложения матрицы А приводит к большему числу слагаемых в прямой сумме, чем рациональная форма; каждый инвариантный множитель может порождать несколько элементарных делителей. Произведение всех элементарных делителей совпадает с характеристическим многочленом матрицы А.
Пусть ЛеЛЦР). Построим для А жорданову форму и элементарные делители над С и заметим, что они разбиваются на сопряженные пары. Если клетки /„.(Л) и 1П[{Х) объединить в прямую сумму, то в результате будет получен блок, для которого вещественный многочлен (/ — Х)п‘ (t — Л)п‘ будет характеристическим и одновременно минимальным многочленом. Следовательно, этот блок подобен вещественной сопровождающей матрице многочлена (Z2 — (2 Re Л) t + | Л |2)”; — вещественного элементарного делителя матрицы А. Для каждого вещественного собственного значения матрицы А элементарными делителями будут степени вещественных линейных множителей.
Каноническую форму, связанную с элементарными делителями, во избежание путаницы называют обычно рациональной канонической формой.
3.4.9. Теорема. Любая матрица HeMrt(R) подобна над R прямой сумме сопровождающих матриц своих {вещественных) элементарных делителей.
Результат такого же типа справедлив по отношению к произвольному полю F: любая матрица ЛеАЦР) подобна над F прямой сумме сопровождающих матриц своих элементарных делителей, являющихся многочленами с коэффициентами из F.
В качестве примера рассмотрим матрицы
Г 0—41Л = [1], Л =4Г 0—41Л = [1], Л =4ГО -9]Лз L 10 .ГО -9]Лз L 10 .Л =Л =Г4 °1[ 0 4 ]Г4 °1[ 0 4 ]
Г 0—41
Л = [1], Л =4
Г 0—41
Л = [1], Л =4
ГО -9]
Лз L 10 .
ГО -9]
Лз L 10 .
Л =
Л =
Г4 °1
[ 0 4 ]
Г4 °1
[ 0 4 ]
и положим А = А, ф А2 ф А3 ф А3 ф А4 е Л1д. Тогда рациональная каноническая форма для А над R имеет вид Л = Л]ф ф А2 ф А3 ф А3 ф [4] ф [4] и элементарные делители таковы: х—1, (х— 2)2, х2®9, х2 + 9, х — 4, х — 4. Над С рациональная каноническая форма для А имеет вид А, ф А2 ф [3z] ф ф [3z] ф [—3z] ® [—3z] ф [4] ф [4], а элементарными делителями будут многочлены х— 1, (х— 2)2, х— 3z, х— 3z, х + 3z, хфЗ/, х — 4, х — 4. Рациональная форма матрицы А над R есть прямая сумма сопровождающей матрицы, подобной матрице Л] Ф А2 ф А3 ф [4], и сопровождающей матрицы, подобной матрице А3 ф [4]. Инвариантные множители таковы:
/,(/) = (/-1) (/-2)2 (Z2® 9) (/-4), /2(/) = (/2 +9)^-4).
Рациональная форма матрицы А над полем С есть прямая сумма сопровождающей матрицы, подобной матрице Av ф ф Аг ф [3t] ф [—3/] ф [4], и сопровождающей матрицы, подобной матрице [3/] ф [—3/] ф [4]. Заметим, что два слагаемых прямой суммы и инвариантные множители получаются одинаковыми независимо от того, рассматривается ли А как матрица из Л1„(К) или из Мл(С). Это не так, если речь идет о рациональной канонической форме и элементарных делителях. См. задачи 2 и 3 в конце этого параграфа.
Вещественная жорданова форма, рациональная форма, рациональная каноническая форма, инвариантные множители и элементарные делители — все это по существу не будет использоваться в оставшейся части этой книги. Мы рассмотрели их здесь исключительно из-за их исторического значения, а также имея в виду потребности матричного анализа в случае полей, отличных от С.
Имеется много других полезных канонических форм и матричных разложений. Вот некоторые из них.
Полярное разложение. Любую матрицу А е М- можно записать как А = PU, где Ре’Мп— положительно полуопре- деленная матрица такого же ранга, как и А; матрица U е Мп унитарна. См. следствие 7.3.3. Всякую невырожденную матрицу A G Мп можно также записать как А = GQ, где G е Мп — (комплексная) симметричная матрица (,G = GT) и QeM„—(комплексная) ортогональная матрица (QQT = 1).
Сингулярное разложение. Всякую матрицу ЛеМ„ можно записать как А = VSW7, где V, №'еМл — унитарные матрицы и S G Мл — диагональная матрица с неотрицательными элементами главной диагонали и такого же ранга, как и А. См. теорему 7.3.5.
Треугольное разложение1). Любую матрицу /1еМл можно записать как A = URU*, где U е Мп— унитарная матрица, a R G Мп — верхняя треугольная матрица. Всякую вещественную матрицу /1еМп(К) можно записать как А = QRQT, где Q, ReMn^R) — соответственно ортогональная и верхняя хессенбергова матрицы специального строения. См. формулу (2.3.5).
Для любой эрмитовой матрицы А еМп имеет место разложение Л=5/(Л)5*, где матрица SeM„ невырожденная, а матрица ЦА)еМп диагональная с диагональными элементами, равными ф1, —1 или 0. При этом элементов, равных +1 и —1, столько, сколько имеется соответственно положительных
и отрицательных собственных значений матрицы Л; число нулевых диагональных элементов равно п — rank Л. См. теорему 4.5.8.
Для любой нормальной матрицы А е Мп справедливо разложение А = UAU*, где U е Мп— унитарная матрица, а Л е Мп— диагональная матрица с диагональными элементами, равными собственным значениям матрицы А. Всякую вещественную нормальную матрицу XeMn(R) можно записать как А = QDQT, где Q, D^Mn(R)— соответственно ортогональная и блочно-диагональная матрицы специального строения. См. разд. 2.5.8.
Всякую матрицу А е Мп, такую, что А=АТ, можно записать как А = S К (Д') ST, где 8еМп— невырожденная матрица, а К^еМп — диагональная матрица с диагональными элементами, равными 4-1 или 0, и такого же ранга, как и А. См. теорему 4.5.12.
Всякую матрицу А е Мп, такую, что А=АТ, можно записать в виде А = 172Ф, где U е Мп— унитарная матрица, a 2— диагональная матрица с неотрицательными элементами главной диагонали. Ранг матрицы 2 равен рангу матрицы А. См. следствие 4.4.4.
Всякую унитарную матрицу U е Мп можно записать в виде U = QeiE, а всякую (комплексную) ортогональную матрицу Р е Мп можно записать в виде Р = QeiF, где Q, Е, Fe eAfzl(R), Q — вещественная ортогональная матрица (,QQT = I')1 Е — вещественная симметричная матрица (£ = С7) и F — вещественная кососимметричная матрица (F = —Ет>).
Всякую матрицу A s Мп можно записать как А = = SUSIES-1, где S — невырожденная матрица, U — унитарная матрица, а 2— диагональная матрица с неотрицательными диагональными элементами. См. следствие 4.4.10.
Задачи
,1. Для матриц
cosO sin 6— sin 6 cos 6cosO sin 6— sin 6 cos 6- о о -г
cosO sin 6
— sin 6 cos 6
cosO sin 6
— sin 6 cos 6
-10 о
--1 00-
найти минимальный и характеристический многочлены, инвариантные множители, элементарные делители, рациональную форму и рациональную каноническую форму над R и С.
Пусть 4eMn(R). Предположим, что ^(/)—минимальный многочлен для А над R и f^ — минимальный многочлен для А над С, Почему степень /(/) не выше, чем степень q(tp
Почему q^ делится на [(/)? Показать, что f(t) = qU^ используя запись /(О = Ri (О-Н7М0, где многочлены рД^ и р2(0 с вещественными коэффициентами. Почему рДА) = рДА^ = О?
Используя теорему 3.4.7, доказать, что если А, В е Mn(F) и F есть подполе в С (например, F —R или Q), то А и В подобны над F тогда и только тогда, когда они подобны над С. Указание. Убедиться в том, что рациональные формы матрицы А над F и над С одинаковы и что то же справедливо и по отношению к матрице В. Как это обобщает задачу 2?
Пусть ЛеМ„(К), и предположим, что Л2 = —1. Показать, что п должно быть четным и что существует вещественная невырожденная матрица 5 е Мп, такая, что
S-XAS =S-XAS =ОО
S-XAS =
S-XAS =
О
О
где / е Mnii.
Дополнительная литература
Рациональные формы, которых мы коснулись в этом разделе, являются вполне классическими, и о них очень подробно написано в работе [НКи]. Вещественная жорданова каноническая форма с некоторого времени, по-видимому, тоже известна специалистам по теории матриц, но не столь широко распространена. Ее изложение можно найти, например, в [Kow]). В [New] рассматриваются канонические формы матриц с рациональными или целыми элементами. Дополнительные сведения о специальных канонических формах см. в [Gan], т. 2, [Gant] и |Ш].
Треугольные разложения
Если система линейных уравнений Ах = b имеет невырожденную треугольную (см. разд. 0.9.3) матрицу коэффициентов А е М„, то ее единственное решение х вычисляется с замечательной легкостью. Например, пусть А имеет верхний треугольный вид:
'«ц••• «ы '
«22,
_ 0Йпп .
Тогда detA = aua22 ... a„nV=0 и применяется обратная подстановка: уравнение аппхп = Ьп определяет неизвестную хп\ после этого уравнение ап_х, п_ххп_х + ап_х> пхп = Ьп_х становится уравнением с одной неизвестной и позволяет найти хп_х; в общем случае i-e уравнение для каждого I в последовательности уравнений
п
^ QijXj = bt, i~n, п — 1, ..., 2, 1, i = i
имеет только одну неизвестную (так как хц.х, ..., хп уже определены) и позволяет вычислить Xi.
Упражнение. Подсчитать число операций скалярного умножения и деления, необходимых для того, чтобы решить систему Ах = Ь, где матрица A е М„ невырожденная верхняя треугольная, при условии, что используется обратная подстановка.
Упражнение. Описать прямую подстановку как способ решения системы Ах = b с невырожденной нижней треугольной матрицей А е Мп.
Обратим внимание па то, что если матрица АеМп невырожденная, но не треугольная, то решение системы Ах=Ь почти так же удобно вычислять, если для А найдено разложение
А = Ш,
где L — нижняя треугольная, a U— верхняя треугольная матрицы.
Упражнение. Показать, что если матрица А невырожденна и, как выше, А = LU, то обе матрицы L и U обязаны быть невырожденными и, следовательно, должны обладать ненулевыми диагональными элементами.
Для того чтобы решить систему Ах = Ь, сначала выполним прямую подстановку, чтобы решить систему
Ly = b,
а затем — обратную подстановку для системы
Ux = у.
При этом вычислительные затраты будут только в два раза превосходить необходимые для простого треугольного случая. Таким образом, разложения типа LU могут быть полезны при решении линейных систем, если стоимость их построения не окажется слишком высокой. Мы говорим об этих разложениях именно в данной главе потому, что их можно рассматривать
Р. Хорн, Ч. Джонсон
как специальные формы представления матриц — только мотивировка теперь связана не с собственными значениями, а с линейными системами.
Лемма. Предположим, что матрица А г Мп может, быть представлена в виде
A = LU,
^П ^12. Ло, А™^П ^12. Ло, А™А =А =где L е Мп— нижняя треугольная матрица, a U е Мп—верхняя треугольная матрица. Тогда для любого блочного разбиения ^п 0^ иИ U12
^П ^12
. Ло, А™
^П ^12
. Ло, А™
А =
А =
- ^21 ^22 JL 06^22
где Лц, Lxx, UxxeMh, k^n, справедливы соотношения
L\\U п = Ахх,
L\\U\-i = Л12, L2XUXX = Л21,^21^ 12 “Ь UjU22Л22.
В частности, верхние левые блоки матриц L и U образуют разложение такого же типа для соответствующего блока матрицы А.
Упражнение. Проверить лемму 3.5.1, выполнив умножение блочных матриц.
Теорема. Предположим, что А е МЛ и rank Л = А. Если det Л ({1, ..., /'})=/= О, /'==1, ..., А,
то для А справедливо разложение
A = LU,
где L, ПеМЛ—соответственно нижняя треугольная и верхняя треугольная матрицы. Более того, возможно и такое разложение, в котором одна из матриц L или U невырожденная; L и U обе невырожденны в том и только в том случае, когда А невы- рожденна.
Доказательство. Покажем сначала, что вследствие условия на ведущие миноры подматрицу Л({1, .,,, А}) можно представить произведением L ({1, ..., А})(7({1, .... А}) с невырожденными сомножителями. Это можно сделать, последовательно определяя соответствующие элементы матриц L и U. Пусть L = = [/;/] и {/ = [«//]. Положим Нц = 1 и М = «л (i = 1, ..., А). Тогда
а,>
иЧ = -Д7>/ = 2, .... А.
Продолжаем. Положим ц22=1 и li2 = ai2 — ЕциХ2 (г = 2, ..,, &). Тогда получаем
“2/ —’1 — 3, к.
Продолжаем. Диагональные элементы матрицы U последовательно полагаем равными 1, затем определяем очередной столбец в Т({1, ,,., А}) и после этого — очередную строку в t/.({l, ■ •■, ^))- Каждый раз нужно решить одно уравнение с одним неизвестным. Разрешимость этих уравнений обеспечивается отличием от нуля элементов 1ц вследствие равенства det Д({1, ..., t}) -dett/({l, ..., i)) = deM((l, ..., i)), вытекающего из леммы 3.5.1. Итак, разложение для Л({1, ..., ^}) построено.
Разобьем матрицу Л на блоки так же, как в лемме 3.5.1. Поскольку rank Л = к = rank Л ц, то строки подматрицы [Л21 Л22] однозначно выражаются как линейные комбинации строк подматрицы [Ли Л12], так что
Л21 ^= ВЛц, Л22 ^= ВЛ^2,
где матрица В е Мп_к, к определяется единственным образом. Теперь разобьем на блоки искомые матрицы L и U так же, как в лемме 3.5.1. При этом Ln и Un уже получены. Вновь обращаясь к лемме 3.5.1, находим
Un = Ln Л12,L-гх = A^\U\\Х,
Теперь получаем
Л22 = LuUn + L^Um = Лг^ц'Ьп'Л^ 4- L22U22 =
= ВЛцЛц’Л^ + L22U22 = Л22 + L22U22
и, чтобы завершить разложение, необходимо и достаточно обеспечить равенство
L22U22 — 0.
В качестве L22 (или (/22) можно взять, например, совершенно произвольную невырожденную нижнюю (или верхнюю) треугольную матрицу из Мп-к, и тогда U22 (или L22) будет нулевой матрицей. Вследствие невырожденности матриц Ln и Un одну из матриц L или U всегда можно выбрать невырожденной. Если к = п, то матрицы L = Ln и U = Un обе невырожденные; ' если к < п, то одновременно невырожденными матрицы L и U быть не могут в силу вырожденности матрицы А. Теорема доказана. □’
3.5.3. Пример. Не для всякой матрицы существует /.^-разложение. Пусть
то равенство 1пиц = 0 означало бы вырожденность одной из матриц L или U, а это противоречит невырожденности матрицы А = LU.
Упражнение. Доказать, что невырожденная матрица, в которой какая-то левая верхняя главная к X ^-подматрица вырожденная, не может иметь /.//-разложения.
Пример. Матрица A s Мп может иметь /.//-разложение, не удовлетворяя условиям теоремы 3.5.2 на ведущие миноры. Так, матрица
ГО 01 ГО 01Г1 11
L 1 2 J = L 1 1 Ло 1 J
имеет ранг 1, но ее позиция (1,1) содержит 0.
Упражнение. Для матрицы из приведенного выше примера /.//-разложение неединственно, даже если в U диагональные элементы считать равными 1. Построить несколько различных разложении матрицы 2].
Теперь уже должно быть ясно, что /.//-разложение в одних случаях существует, в других — не существует, причем для любой заданной матрицы ее /.//-разложение может быть в высшей степени неединственным. Однако в основном неопределенность вызывается вырожденностью самой матрицы А или ее ведущих подматриц. На базе леммы 3.5.1 и теоремы 3.5.2 тем не менее можно дать полное описание для невырожденного случая, в котором с помощью нормирования удается добиться единственного (канонического) разложения.
Следствие. Предположим, что матрица Ае.Мп невы- рожденна. Тогда она представима в виде
A = LU,
где L, UeM„— соответственно нижняя и верхняя треугольные матрицы, в том и только в том случае, когда
detX({l/}) Ф 0,/ = 1, ..., п.
Кроме того, матрицы L и U невырожденны и разложение по существу однозначно. Для Л справедливо представление
A = L' DU',
где L' и U'— нижняя и верхняя треугольные матрицы из Мп с диагональными элементами, равными 1, a D— невырожденная диагональная матрица, определенная соотношениями
det£((l/}) = detX({l, ..., /}),/ = 1, ..., п.
Матрицы L', U' и D по А определяются однозначно.
Упражнение. Продумать детали доказательства этого следствия, опираясь на лемму 3.5.1, теорему 3.5.2 и предыдущие упражнения.
Возвращаясь к решению системы линейных уравнений
Ах = Ь,
предположим, что матрицу А е Мп нельзя представить в виде LU, но можно — в виде PLU, где Р е Мп— матрица перестановки (см. разд. 0.9.5), а Л и U— как и раньше, нижняя и верхняя треугольные матрицы. Это отвечает переупорядочению уравнений перед выполнением ЛП-разложения. Решение системы Ах = b и в этом случае находится достаточно просто — путем решения двух треугольных систем
Ly = PTb и Ux = y.
Важно отметить, что такое разложение выполнимо для любой невырожденной матрицы А е Мп. К тому же совершенно произвольную матрицу А е Мп можно разложить в произведение PLUQ, где матрица Q е Мп также реализует перестановку.
Лемма. Пусть матрица Ае.Мк невырожденна. Тогда существует матрица перестановки Р е М^, такая, что
det(РГЛ)({1, ...,/})#= 0,j=\, ..., к.
Отметим, что матрица РТА есть не что иное, как матрица А с переставленными строками.
Доказательство. Проведем индукцию по к. Если к = 1 или 2, этот результат проверяется непосредственно. Предположим, что он уже установлен для всех порядков вплоть до к— 1 включительно. Рассмотрим невырожденную матрицу AeMfc и вычеркнем ее последний столбец. Оставшиеся к—1 столбцов будут линейно независимы и, следовательно, содержат к—1 линейно независимых строк. Сделаем эти к—1 строк первыми и применим предположение индукции к невырожденной ведущей
подматрице порядка к—1. Мы описали нужную нам полную перестановку. Для завершения доказательства остается заметить, что матрица РТА невырожденна. □
Теорема. Пусть А е Мп. Существуют матрицы перестановок Р, Qe Мл, нижняя треугольная матрица L е Мп и верхняя треугольная матрица U е Мп, такие, что
А = PLUQ.
Если А невырожденна, то можно выбрать Q = I и тогда
А = PLU.
' Доказательство. Если гапкД = А, то в А имеется невырожденная подматрица размера кУД (см. свойство 0.4.4.2), которую перестановками строк и столбцов можно переместить в левый верхний угол. Теперь применение леммы 3.5.6 и теоремы 3.5.2 обеспечивает построение разложения первого типа. Если матрица А невырожденна, то, согласно лемме 3.5.6, переставлять столбцы не потребуется. После перестановки мы можем применить теорему 3.5.2, которая приводит к разложению второго типа и завершает это доказательство. □
Задачи
В этом разделе была развита теория /.(/-разложения, где L и U — нижняя и верхняя треугольные матрицы. Показать, что параллельно можно развить теорию (//.-разложения. Сомножители в этих разложениях, вообще говоря, будут разными.
Напомним, что, согласно задаче 3 из § 2.6, Q^-разложение произвольной матрицы А е М„ (см. разд. 2.6.1) эффективно строится с помощью п—1 преобразований Хаусхолдера. Здесь Q — унитарная, a R — верхняя треугольная матрицы.' Описать способ решения системы Ах = Ь, основанный на (^-разложении матрицы А.
Доказать, что для любой матрицы Ае Мп имеет место разложение
А = LP0U,
где L, (J е Мп — невырожденные соответственно нижняя и верхняя треугольные матрицы, а Ро есть матрица субперестановки (получаемая из матрицы перестановки заменой некоторых единиц на нули, причем замен столько, на сколько ранг матрицы А меньше, чем л). Указание. Использовать элементарные преобразования строк и столбцов.
Пусть все ведущие миноры матрицы А е Мп отличны от нуля. Описать способ построения ее /.(/-разложения, основан-
ный на строчных элементарных преобразованиях типа 3, позволяющих получить нули на месте поддиагональных элементов.
(алгоритм трехдиагонализации Ланцоша). Пусть заданы матрица Л е Мп и вектор хеС". Образуем матрицу Х = = [х Лх Л2х ... Лл-1х]; ее столбцы составляют так называемую последовательность Крылова. Предположим, что X невырож- денна.
Доказать, что Х-^АХ— сопровождающая матрица вида (3.3.12) характеристического многочлена матрицы А.
Доказать, что если R е Мп— произвольная заданная невырожденная верхняя треугольная матрица и S = XR, то матрица S-MS имеет верхнюю хессенбергову форму.
Пусть уеСЛ и пусть ¥ = \уА*у(А*Уу ... (Л*)"-1//]. Предположить, что ¥ невырожденная и ¥*Х — LDU, где L и (J — нижняя и верхняя треугольные, a D— диагональная матрицы и все три они невырождеипы, и доказать существование невырожденных треугольных матриц R и Т, таких, что (XRVx = = Т*¥* и матрица T*¥*AXR трехдиагональна и подобна матрице А.
Пусть матрица А е Мп эрмитова. На базе изложенных выше идей сформулировать алгоритм построения трехдиагональной эрмитовой матрицы, подобной матрице А.
Две матрицы А, В е Мтп называются эквивалентными, если для каких-то невырожденных матриц S е Мт и 7 е Мп выполняется соотношение
B = SAT.
Показать, что это есть отношение эквивалентности на множестве Мт, п.
Доказать, что любая матрица АеМт>п эквивалентна матрице вида [д°]еЛ1т п, где / е Мк и k ^ min {m, п}. Указание. С помощью элементарных преобразований над строками от А перейти к ступенчатой матрице. Затем использовать элементарные преобразования над столбцами.
Доказать, что две матрицы из Мт, п эквивалентны тогда и только тогда, когда они имеют одинаковый ранг.
Предположим, что матрица АеМт,п эквивалентна матрице специального вида, указанной в п. (Ь). Пусть S[gg]7 = A Развить теорию решения системы линейных уравнений Ах = b в терминах эквивалентности.
Дополнительная литература
Задачу 5 мы почерпнули из [Ste]. Там же имеется дополнительная информация о численных применениях ЬД-разложения,
Глава 4
ЭРМИТОВЫ И СИММЕТРИЧНЫЕ МАТРИЦЫ
4.0. Введение
.0.1. Пример. Если /: D -> R— дважды непрерывно дифференцируемая функция в некоторой области D с R”, то вещественную матрицу
называют гессианом *) этой функции. Гессиан сам является функцией от х. Это понятие играет важную роль в теории оптимизации, поскольку с его помощью можно определить, является лн некоторая критическая точка локальным максимумом или минимумом (см. § 7.0).
d2j = 92fдх. dxj дх. дх.d2j = 92fдх. dxj дх. дх.Для наших целен здесь существенно лишь одно свойство гессиана, связанное с важным фактом равенства смешанных производных:
d2j = 92fдх. dxj дх. дх.
d2j = 92fдх. dxj дх. дх.
для всех I, /=1, 2, ..., п.
Для гессиана Н = \кц\ это означает поэлементное равенство hi; = hji для всех индексов I, j = 1, 2, .. ., /г; другими словами, Н = НГ. Матрицу A е Мп, удовлетворяющую условию А = Аг, называют симметричной. Таким образом, гессиан дважды непрерывно дифференцируемой вещественной функции всегда будет вещественной симметричной матрицей.
.0.2. Пример. В качестве второго примера рассмотрим некоторую матрицу А = [а^] е Мп с вещественными нлн комплексными элементами н связанную с этой матрицей квадратичную форму на R" илн Сл
flп
Q^ = xTAx= У ацх{х,== У ^atJ + ац) х^, =
I, i-\i. i-Y
= хг|4 (Л + Лг)]х.
’) Иногда эту матрицу называют матрицей Гессе, а гессианом — ее определитель, — Прим, перев.
Из приведенных равенств видно, что матрицы А и (1/2) (Л + /1Г) приводят к одной и той же квадратичной форме. Однако последняя матрица симметрична, поэтому при изучении вещественных или комплексных форм достаточно ограничиться только формами, связанными с симметричными матрицами. Вещественные квадратичные формы естественным образом возникают в физике, например, как выражение для энергии физического тела.
4.0.3. Пример. Для третьего примера возьмем линейный дифференциальный оператор L второго порядка с частными производными, определенный выражением
Lf(x} = £ аи^i. / = 1Lf(x} = £ аи^i. / = 1dxt дхj "dxt дхj "(4.0.4)(4.0.4)
Lf(x} = £ аи^
i. / = 1
Lf(x} = £ аи^
i. / = 1
dxt дхj "
dxt дхj "
(4.0.4)
(4.0.4)
Предположим, что коэффициенты а,/(х) и функция Дх) определены в некоторой области D с Rn. Функция / должна быть дважды непрерывно дифференцируемой в D. Оператору L естественным образом сопоставляется матрица его коэффициентов. Эта матрица А = [а//(х)] не обязательно симметрична, однако в силу равенства смешанных частных производных функции / имеем
Е “‘iW-art^ Е тк/W 'дГдГ + М^ дГ^т1 = 1", /=11'1, i=i11'‘
= V 4- Гat , (х) аи (х)1 —.
2 о \। j дх. дх^
Следовательно, симметричная матрица (1/2) (/4 +/4Г) приводит к тому же оператору L, что и матрица А, и при изучении вещественных или комплексных линейных дифференциальных операторов с частными производными вида (4.0.4) без ограничения общности можно рассматривать лишь случай симметричной матрицы коэффициентов.
4.0.5. Пример. Рассмотрим неориентированный граф Г, т. е. граф Г, состоящий из набора N вершин {Pi, Рг, •••, Рл} и набора Е неупорядоченных пар вершин, называемых ребрами,
Е=ЦЦ\РЬ}, VPi„ Ph},-..}.
Этот граф Г можно описать очень кратко, если воспользоваться -так называемой матрицей смежности Л = [а;/], где1)
( 1, если {Р/, Ру] г Е,1 О в противном случае.
Поскольку Г— неориентированный граф, вещественная матрица Л будет симметричной, т. е. Аг = А.
4.0.6. Пример. Пусть А = [щ-/] г Мп— вещественная матрица, Рассмотрим вещественную билинейную форму
Q(x, у) = утАх = X ацур^, х,у&Ъ?,(4.0.7)
которая переходит в обычное скалярное произведение при А = I. Условие симметричности этой билинейной формы (Q(x, у^ = ==Q^y,x^ для всех векторов х, у) эквивалентно условию симметричности матрицы А ^ац = ау для всех индексов I, / = = 1, ..., м). Чтобы убедиться в этом, достаточно заметить, что при х = е, и у —Ci имеют место равенства Q(e/, е/) = а;/ и Q{et, е^ = ау. Таким образом, симметричные вещественные билинейные формы естественным образом связаны с симметричными вещественными матрицами.
Пусть теперь А = [ау]еМп— вещественная или комплексная матрица. Рассмотрим комплексную форму
Н (х, у) = уАх = S ( ауу^, х, у^ С",(4.0.8)
которая, подобно (4.0.7), сводится к обычному скалярному произведению при А = I. Эта форма уже не является билинейной, но она линейна по своему первому переменному и полулинейна ^(«сопряженно линейна») по второму (Н (ax,by) = abH (х, у)), как и комплексное евклидово скалярное произведение. Такие формы иногда называют полуторалинейными. Если мы хотим, чтобы, как и для скалярного произведения, имело место равенство Н(х,у) = Н(у,_х), то обязательно придем к условиям ау ~ ау, т. е. А = Аг = А*. Обоснованием служат те же аргументы, что и приведенные выше для симметричных форм. Заметим, что если А — вещественная матрица, то А* = АТ.
Класс матриц А г Мп, подчиненных условию А = А*, оказывается во многих отношениях естественным обобщением на случай пространства Л4П(С) класса вещественных симметрич-
ных матриц. Такие матрицы называют эрмитовыми. Отметим, что вещественная эрмитова матрица—это просто вещественная симметричная матрица. В классе комплексных невещественных симметричных матриц теряются многие важные свойства, характерные для вещественных симметричных матриц. В данной главе мы изучим комплексные эрмитовы и симметричные матрицы и укажем особенности случая вещественных симметричных матриц.
Определения, свойства и характерные особенности эрмитовых матриц
Определение. Матрицу А = [а1;]еМ„ называют эрмитовой, если А = А*, где А* = Дг = [о.,], и косоэрмитовой, если А = -Л*.
Перечислим некоторые утверждения о матрицах А, ВеМп:
Матрицы Л + Л*, АА*, А*А эрмитовы для любой матрицы А е Мп.
Если матрица А эрмитова, то ее степень Ак эрмитова для всех к = 1, 2, 3, ... .Если матрица А также невырожденпа, то и обратная к ней матрица Л-1 эрмитова.
Если А и В — эрмитовы матрицы, то матрица аА + ЬВ эрмитова для любых вещественных чисел а, Ь.
Матрица А — А* косоэрмитова для любой матрицы А е М„.
Если матрицы Л и В косоэрмитовы, то матрица аА 4- ЬВ косоэрмитова для всех вещественных чисел а, Ь.
Если А эрмитова, то /Л косоэрмитова.
Если А косоэрмитова, то iA эрмитова.
Любую матрицу А е Мп можно записать в виде
А =-| (А + Л*) + 1 (Л - Л’) ^ Н (Л) + S (Л),
где Н (Л) = (1/2) (А + Л’) —- эрмитова часть матрицы А, а 5(Л) = = (1/2) (Л— Л*)— косоэрмитова часть матрицы А.
Если матрица А эрмитова, то все элементы па ее главной диагонали вещественны. Для того чтобы задать все п2 элементов матрицы А, достаточно указать п вещественных чисел (элементов главной диагонали) и п(п—1)/2 комплексных чисел (внедиагональных элементов).
Теорема. Любую матрицу А е Мп можно записать единственным образом в виде Л = S + iT, где обе матрицы S и Т эрмитовы. Имеется также единственное представление вида
А = В + С, в котором матрица В эрмитова, а матрица С косоэрмитова.
Доказательство. Запишем А = (1/2) (А + Л*) +i[(— 1/2ДА—Л*)] и заметим, что обе матрицы S = (1/2) (А + Л*) и Т=(—Д2ДА—А*) эрмитовы. Утверждение о единственности основано на следующем замечании. Если А = Е + iF, где матрицы Е и F эрмитовы, то
2S = А + А* = (Е + /Е) + (Е + iFf = Е + IF + Е* - iF* 2Е,
следовательно, E = S. Аналогично можно установить равенство F = Т. Тем же способом доказывается существование единственного представления вида А = В + С. □
Если провести аналогию между пространством Мп и комплексными числами, то приведенные выше наблюдения наводят на мысль, что аналогами вещественных чисел окажутся эрмитовы матрицы. Операции комплексного сопряжения чисел в С тогда соответствует операция * сопряжения матриц в пространстве Л1„. Вещественное число — это комплексное число z, такое, что z = z; эрмитова матрица — это матрица ЛеДД удовлетворяющая равенству А =А*. Подобно тому как каждое комплексное число z может быть записано в форме z = s + it, где s, t c: R, каждая комплексная матрица А единственным образом представима в виде А = S + iT, где матрицы S и Т эрмитовы. Эта аналогия подкрепляется следующими свойствами.
Теорема. Пусть матрица А <= Мп эрмитова. Тогда
функция х*Ах принимает вещественные значения для всех векторов х е С";
все собственные значения матрицы А вещественны:
/с) матрица S*AS эрмитова для любой матрицы S е Мп.
Доказательство. Выкладки (х*Ах) = (х*Ах) * = х*А*х = х*Ах убеждают нас, что величина х*Ах совпадает со своей комплексно-сопряженной и, следовательно, является вещественной. Если Ах = Хх и х*х=1, то число X = Хх*х = х*Хх = х*Ах вещественно в силу уже доказанного утверждения (а). Наконец, (SMS) * = SM*S = SMS; следовательно, матрица SMS всегда будет эрмитовой. □
Упражнение. Что означают приведенные выше свойства эрмитовой матрицы А е Мп при п = 1?
Каждое из свойств в теореме 4.1.3 на самом деле (почти) характеризует эрмитовы матрицы.
Теорема. Пусть задана матрица А = [а,/] еМп. Матрица А эрмитова тогда и только тогда, когда выполнено хотя бы одно из следующих условий-.
функция х*Ах принимает вещественные значения для всех векторов х е С";
матрица А нормальна и все ее собственные значения вещественны;
матрица S*AS эрмитова для любой матрицы S е Мп.
Доказательство. Только достаточность каждого условия еще не обоснована. Если число х*Ах вещественно при всех х е С", то число ■
(х + уУ А(х + у) = (х*Ах + у* Ау) + (х* Ау + у Ах)
вещественно для любых х, у е С". Поскольку х*Ах-\-у*Ау вещественно по предположению, величина х*Ау + у*Ах принимает вещественное значение для любых векторов х, у е Сл. Выбирая х = е^ и у = е,, убеждаемся в вещественности суммы akjA- Щь; следовательно, 1ша*/ =—Ima/*. Выбирая х = ie* и у = ie,, видим, что число —ia*/ + 1а,к также вещественно, поэтому Rea*/ = Rea/*. Это равенство вместе с полученным ранее означает, что а*/ = а/*. Поскольку индексы / и k произвольны, приходим к требуемому заключению А =А*.
Нормальная матрица А унитарно подобна диагональной матрице: А= UMJ*, где Л = diag(Xi, Х2, ..., Ля) составлена из собственных значений матрицы А. В общем случае справедливо равенство A* = UAU*, но матрица Л вещественна по предположению; тогда А* = UAU* = А.
Если в последнем условии положить S = I, то матрица А окажется эрмитовой. □
Эрмитова матрица, очевидно, является нормальной (ЛЛ* = = А2 = А*А), и к ней применимы все результаты гл. 2 о нормальных матрицах. Например, собственные векторы, отвечающие различным собственным значениям, ортогональны; существует базис из ортонормированных собственных векторов; эрмитова матрица унитарно диагонализуема и т. д.
Для дальнейших ссылок сформулируем следующий важный результат:
Теорема (о спектральном разложении эрмитовых матриц). Пусть задана матрица Ле Мп. Матрица А эрмитова в том и только в том случае, когда существуют унитарная матрица Ue Мп и вещественная диагональная матрица ЛеМп, такие, что справедливо равенство А = или*. Кроме того, матрица А вещественна и эрмитова (симметрична') в том и только в том случае, когда существуют вещественная ортогональная мат-
рица Р е Мп и вещественная диагональная матрица Л е Мп, такие, что А = РАРТ.
Линейные комбинации эрмитовых матриц с вещественными коэффициентами всегда эрмитовы, однако в общем случае комплексных коэффициентов это уже не всегда так. Например, если матрица А эрмитова, то матрица iA эрмитова, только когда А = 0. Далее, если матрицы А и В эрмитовы, то выполнены равенства ^АВу = В*А* = ВА; следовательно, произведение АВ эрмитово тогда и только тогда, когда матрицы А и В коммутируют.
Одним из наиболее известных результатов о коммутирующих эрмитовых матрицах (поскольку его обобщение для операторов важно в квантовой механике) является следующий частный случай теоремы 2.5.5.
Теорема. Пусть 9"— заданное семейство эрмитовых матриц. Унитарная матрица U, такая, что UAU*— диагональная матрица для всех матриц Ае9, существует тогда и только тогда, когда АВ = ВА для любых матриц A, BefF.
Определяющее свойство эрмитовой матрицы А состоит в том, что матрица А равна своей сопряженной А*. Одна из возможностей обобщения понятия эрмитовой матрицы заключается в рассмотрении класса матриц, в котором каждая матрица А подобна своей сопряженной А*. В следующей теореме перечислены некоторые свойства, характеризующие этот класс с различных сторон. Первое свойство гласит, что каждая такая матрица должна быть подобна (но не обязательно унитарно подобна) вещественной (но не обязательно диагональной) матрице.
Теорема. Пусть задана матрица А е Мп. Следующие утверждения эквивалентны;
матрица А подобна некоторой матрице ВеМп^у,
матрица А подобна своей сопряженной Д*;
матрица А подобна своей сопряженной А*, причем подобие осуществляется с помощью эрмитовой матрицы;
плюет место разложение А = НК, в котором матрицы Н, К е Мп эрмитовы и хотя бы одна из них невырожденна;
'(е) имеет место разложение А = НК, в котором матрицы
Н,К е Мп эрмитовы.
. Доказательство. Сначала докажем эквивалентность утверждений (а) и (Ь): если выполняется условие (а),.то
S-1 ДЗ = В = Т~1ВтТ = T~VB*T = T^SM* (S-1)* Т,
а это означает, что Л* = (^Г-^*) Л (ST-1S*). Следовательно, (Ь) выполнено. Если предположить, что выполняется (Ь), то жордановы канонические формы матриц Л и Л* совпадают. Поскольку матрицы Л и Лг всегда подобны, это означает, что жорданова матрица J матрицы Л должна быть подобна матрице J. Следовательно, каждому жорданову блоку 7^(Х) в матрице J соответствует жорданов блок Л(Х) (таких же размеров) в матрице J. Это утверждение не несет новой информации, когда собственные значения X вещественны. Если же собственное значение X не является вещественным, отсюда следует, что жордановы блоки матрицы Л, отвечающие каждому невещественному собственному значению и сопряженному к нему, должны располагаться парами. Используя аргументы, которые ранее привели к теореме 3.4.5, заключаем, что жорданова форма J подобна прямой сумме вещественных матриц вида (3.4.4); тем самым утверждение (а) доказано.
Проверим, что (Ь) влечет за собой (с). Предположим, что 5-1Л5 = Л‘, и заметим, что Т~1 АТ = Л*, если Т = aS для произвольного ненулевого числа a=re‘eeC. Таким образом, АТ=Т А* или, что эквивалентно, АТ* = ТА*. Складывая эти два равенства, получаем А (Т + Т) = (Т + 7”) А*. Если матрица Т + Т невырожденна, последнее соотношение будет означать, что матрица А подобна своей сопряженной матрице Л*, причем трансформирующей будет эрмитова матрица Т + Т. Чтобы матрица Т + Т была невырожденной, следует удачно выбрать параметр а. Матрица Т + Т является невырожденной тогда и только тогда, когда невырожденна матрица Т-1 (Г + Т) = = 1 + Т~ХТ. Последняя же матрица невырожденна в том и только в том случае, когда —1 ^ а (Т^'Т). Однако Т-ХТ = = T2l9S""xS*. Поскольку допускаются значения параметра a с произвольным аргументом 0 е [0, 2л), следует только выбрать этот параметр так, чтобы —е219 ^ о (S-1S*). Таким образом, из (Ь) следует (с).
Теперь предположим, что выполнено (с) и R-XAR = A*, где матрица ReMn невырожденна и эрмитова. Тогда R-XA = = A*R-X и A = R^A*R~X\ Но (Л'/Г*)' = R-XA = A*R""\ и, следовательно, матрица А является произведением двух эрмитовых матриц R и A*R~X и сомножитель R невырожден. Тем самым (d) выполняется.
Если имеет место (d) и матрица Н в представлении А = НК невырожденна, то Н~'АН = КН = ^НКУ = А*, и мы приходим к (Ь). Аналогичное рассуждение применимо, когда невырож- денна матрица К.
Г/) 0] . о о ] = ^Г/) 0] . о о ] = ^и*ни =и*ни =Из утверждения (d), очевидно, вытекает (е); осталось показать, что (е) влечет за собой (а). Пусть в представлении А = НК сомножители Н и К эрмитовы и вырожденны. Рассмотрим матрицу U*AU =(U*HU) (U*KU), где U е Мп — это та унитарная матрица, которая приводит матрицу Н к диагональному виду:
Г/) 0] . о о ] = ^
Г/) 0] . о о ] = ^
и*ни =
и*ни =
с некоторой невырожденной диагональной матрицей D е Мк, к < п. Разобьем матрицу U*KU на блоки в соответствии с разбиением матрицы Н'; тогда
,Г DU AU = Н (U*KU) = \ 0,Г DU AU = Н (U*KU) = \ 0О"0.О"0.К' ** *К' ** *DK' * 10 0 JDK' * 10 0 J
,Г D
U AU = Н (U*KU) = \ 0
,Г D
U AU = Н (U*KU) = \ 0
О"
0.
О"
0.
К' *
* *
К' *
* *
DK' * 1
0 0 J
DK' * 1
0 0 J
Матрица DK'eMk является произведением двух эрмитовых матриц, одна из которых невырожденна; следовательно, в силу эквивалентности утверждений (d) и (а) эта матрица подобна некоторой вещественной матрице В е Мк. Обозначим жорданову каноническую форму для В через J е Мк; тогда матрица А подобна некоторой матрице С вида
С =С ="J-0 0."J-0 0.
С =
С =
"J
-0 0.
"J
-0 0.
Множество всех собственных значений верхней треугольной матрицы С состоит из собственных значений жордановой формы J и п— к нулевых собственных значений. Для любых ненулевых собственных значений структура жордановых блоков канонической жордановой формы матрицы С должна быть такой же, как в J. В самом деле, при X =# 0 (столбцовый) ранг каждой степени (С— МУ, очевидно, равен числу п — A + rank(J— Му, r= 1, 2, ..., п. В частности, жордановы блоки матрицы С, отвечающие произвольным невещественным собственным значениям, будут встречаться соответствующими сопряженными парами; таким образом, жорданова каноническая форма матрицы С подобна некоторой матрице вида (3.4.6) с вещественными элементами. □
Задачи
Показать, что каждая главная подматрица эрмитовой матрицы сама эрмитова. Сохраняется ли это свойство для косоэрмитовых матриц? Для нормальных матриц?
Пусть матрица А е Мп ' эрмитова и S е Мп. Убедиться, что произведение 5Л5* будет эрмитовой матрицей. Что можно сказать о матрице 5Л5-1 (если 5 невырожденна) ?
Пусть матрицы Л, В е М„ эрмитовы. Доказать, что Лив подобны в том и только в том случае, когда они унитарно подобны. Указание. Полагая Л = SBS-X, показать, что Л = UXU и В = УЛУ*, где матрицы U и V унитарны; тогда U*AU = Л = = V*BV.
Проверить свойства 1—9, следующие за определением 4.1.1.
В некоторых случаях тот факт, что все собственные значения данной матрицы вещественны, удается установить, доказывая, что эта матрица подобна эрмитовой. Приведем следующий классический пример. Пусть матрица А = [a,J е Мп (R) трехдиагональна, т. е. а,/= 0 при (/ — /{>1. Предположим, что ее внедиагональные элементы подчиняются условию ') а,. г+1а>+1, i > 0 для всех индексов i = 1, 2, ..., п— 1, которое можно рассматривать как весьма слабый аналог условия симметричности. Найти такую вещественную диагональную матрицу D с положительными элементами, чтобы матрица DAD-X стала симметричной. Вывести отсюда, что все собственные значения матрицы А вещественны. На примере матрицы [_°о] объяснить, почему предположение о согласовании знаков внедиагональных элементов является необходимым. Использовать соображения непрерывности для доказательства того, что собственные значения остаются вещественными, когда выполняются нестрогие неравенства а,, г+1а,+1.г ^ 0.
Доказать, что каждая матрица А е Мп определяется связанной с ней эрмитовой формой х* Ах единственным образом в следующем смысле. Если заданы матрицы Л = [аг/], В = ^ЬИ\ е Мп, то равенство эрмитовых форм х*Ах = х*Вх для всех векторов хеС" возможно в том и только в том случае, когда А = В. Указание. Пусть х*Лх = 0 для всех х е С". Раскрыть скобки в выражении (х + у)' А (х + у) и установить равенство х*Ау + у*Ах = 0 для всех х, у е С . Выбрать х = ек, y = eiQet, 6 е R, и установить, чтоа6/е2‘е =— alk для всех бе R и всех /", k = 1, 2, . . ., п.
Убедиться, что матрица А е Мп (более того, даже матрица с вещественными элементами. — Перее.) не определяется полностью связанной с ней квадратичной формой хтАх при п^^, т. е. при п ^2 найдутся две матрицы А, ВеМп, не равные друг другу и удовлетворяющие равенству хтАх = хтВх для всех векторов хеС”. Указание. Что представляет собой квадратичная форма хтСх, когда С =—Сг?
Показать, что матрица А е Мп не определяется однозначно абсолютной величиной связанной с ней эрмитовой формы
[х*Лх|. Указание. Положить ^ = [о 1 ] и проверить равенство [xMxj = |х*Лгх| для произвольных векторов хеС2.
Доказать, что абсолютная величина эрмитовой полутора* линейной формы, связанной с матрицей АеМ„, до некоторой степени определяет эту матрицу в следующем смысле. Для двух заданных матриц А, ВеМ„ равенство | х* Ау | = | х'Ву | для всех векторов х, у е С" выполнено тогда и только тогда, когда эти матрицы связаны соотношением A = ei9B при некотором 6 е R. Указание. Пусть А = [агД и В = \ЬИ\. Выбор x = et и у —в) приводит к равенству | ац | = | Ьи | для всех индексов i, /' = 1, ..., п, а выбор x = eb y = ses + tek — к равенствам | sau + talk |2 = | зЬц + tblk |2. Следовательно, Re (sZ [одп^ — — bijbi^ = 0 при всевозможных s, / еС. Вывести отсюда, что <1ц1ЬИ = auJbtk, если ЬцЬи ^ 0.
Доказать, что матрица А е М„ эрмитова в том и только в том случае, когда матрица iA косоэрмитова. Почему собственные значения косоэрмитовой матрицы все чисто мнимые, а собственные значения квадрата косоэрмитовой матрицы все вещественные и неположительные?
В предположении, что матрицы А, В г Мп эрмитовы, обосновать неравенство tr (ЛS)2 ^ tr А2В2. Указание. Проверить, что разность АВ — ВА косоэрмитова, и рассмотреть величину 1г(ЛВ — ВА)2.
Убедиться, что ранг эрмитовой матрицы А е Мп равен числу ее ненулевых собственных значений, но для неэрмитовых матриц это, вообще говоря, неверно. Указание. Рассмотреть матрицу [о о]-
Пусть матрица А е Мл эрмитова и Л =£ 0. Установить неравенство
rank (Л) > -77^- •
в котором равенство имеет место тогда и только тогда, когда А = aUИ*, где U = [ui . .. щ] е Мл, г—матрица с ортонормиро- ванными столбцами и а е R— некоторое число, т. е. матрица А с точностью до вещественного множителя совпадает с матрицей унитарной проекции. Указание. Обозначив через Хц .... Хг все ненулевые собственные значения матрицы А и привлекая неравенство Коши — Шварца, приходим к соотношениям
[tr Л]2 = ^ £ Xi j < г У Xi = г tr Л2,
в которых нестрогое неравенство обращается в равенство, когда все числа Xi совпадают, и только тогда.
Кососимметричная матрица Л G Мп удовлетворяет условию А =—А*. Доказать, что если 9 g R, то Л = ei9A* тогда и только тогда, когда матрица е"‘е/2А эрмитова. Что будет при 9 = л? При 9 = 0? Объяснить, почему класс косоэрмитовых матриц можно трактовать как один из бесконечного множества классов «обобщенно эрмитовых» матриц, и описать структуру каждого такого класса.
Пусть эрмитова матрица А = [ау ] е М„ записана в блочном виде
Г ан х* 1
где хеС" 1 и АеМ,^. Показать, что
det А = аи det Л — х* (adj Л) х,
где adj А— присоединенная матрица для А (см. разд. 0.8.2). Какие более слабые условия на матрицу А являются достаточными для того, чтобы эта формула оставалась в силе? Указание. Использовать формулу Лапласа 0.3.1 для разложения определителя матрицы по первому столбцу, а затем для разложения полученных алгебраических дополнений по первой строке.
Вариационные описания собственных значений эрмитовых матриц
В случае произвольной матрицы A g Мп по существу единственное описание ее собственных значений состоит в том, что это решения характеристического уравнения рл(/) = 0. Для эрмитовых матриц, однако, собственные значения можно также охарактеризовать как решения ряда задач оптимизации.
Поскольку все собственные значения эрмитовой матрицы А g Мл вещественны, условимся в дальнейшем упорядочивать их по возрастанию (неубыванию):'
^mln = ^1 ^ ^2 ^ • • • ^ ^-я-1 ^ ^п = ^тах* (4-2.1)
Наименьшее и наибольшее собственные значения допускают простое описание как решения соответственно некоторой задачи минимизации и некоторой задачи максимизации с ограничениями. Это описание связано с именами двух известных физиков — Рэлея и Ритца, и выражение х*Ах/х*х, играющее ключевую роль, известно как отношение Рэлея — Ритца (чаще употребляется название «отношение Рэлея». — Перее.).
Теорема (Рэлея — Ритца). Пусть матрица A g Мп эрмитова и ее собственные значения упорядочены, как в (4.2.1).
ТогдаТогдаXjx’x = %mlnx*x ^ х* Ах ^ КXjx’x = %mlnx*x ^ х* Ах ^ Кmaxmaxх* х = Хпх'х.х* х = Хпх'х.(4.2.3)(4.2.3)
Тогда
Тогда
Xjx’x = %mlnx*x ^ х* Ах ^ К
Xjx’x = %mlnx*x ^ х* Ах ^ К
max
max
х* х = Хпх'х.
х* х = Хпх'х.
(4.2.3)
(4.2.3)
Ххх‘х ^ х'Ах ^ Хпх*х для всех х е С",
—■ max х t*- = max х'Ах,X ^ О х х х*х= 1
= Л. = min -М—- = min х'Ах.
X ф О х х х*х=\
Доказательство. Матрица А эрмитова, поэтому существует такая унитарная матрица U г Мп, что А = ПАП*, где Л = — diag(M, Л2, ..., Лп). При любом векторе хеС" верны равенства
х'Ах = x'UAU'x = ДГхУ Л (U'x) = Е I ^'х^ I2. i=l
Каждый сомножитель | (U'x^ |2 неотрицателен, поэтому
^min Е I (U'x)t I2 ^ х'Ах = £^ \(U'x)t I2 < Лтах E I (U'x^ I2.t=li=li=l
Поскольку матрица U унитарна, имеют место равенства
Е I <U*x\ I2 = 2 I X, |2 = х'х.
1 = 11-1
Тем самым получены соотношения
Оценки здесь точны. В самом деле, если х — собственный вектор матрицы А, отвечающий собственному значению Ль то х*Ах = х*Л1Х = Л[Х*х. Точность оценки сверху устанавливается аналогично.
Остальные утверждения оказываются простыми следствиями соотношений (4.2.3). При х =/= 0 выполнено неравенство
х*Ахх*хх*Ахх*х<АП,<АП,
х*Ахх*х
х*Ахх*х
<АП,
<АП,
которое обращается в равенство, когда х является собственным вектором матрицы А, отвечающим собственному значению Лп. Следовательно,
тах“с7" = ^-<4-2-4)
X #= о Л Л
Наконец, при х=И=0 можно перейти к нормированному вектору;
х*Ах х*х
Таким образом, равенство (4.2.4) эквивалентно следующему:
тахх*Ах = Кп.(4.2.5)
х*х=1
Рассуждения для минимального собственного значения Xi аналогичны. □
Геометрическая интерпретация равенства (4.2.5) состоит в том, что число Хп есть наибольшее значение функции х*Ах, когда вектор х пробегает единичную сферу в пространстве С” (которая является компактным множеством).
Соотношение (4.2.3) служит основанием для следующего результата о локализации собственных значений.
4.2.6. Следствие. Пусть заданы эрмитова матрица АеМп и ненулевой вектор хе С", и пусть а = х*Ах/х*х. Тогда в каждом, из полуинтервалов (—оо, а] и [а, ею) найдется по крайней мере одно собственное значение матрицы А.
. Упражнение. Доказать следствие 4.2.6.
Упражнение. Для минимального собственного значения Xi выписать утверждение, аналогичное (4.2.5), и дать его геометрическую интерпретацию.
В теореме Рэлея—Ритца приводится вариационное описание наибольшего и наименьшего собственных значений эрмитовой матрицы А. Что же можно сказать об остальных собственных значениях? Запишем разложение А = ПАП*, в котором [V=luiU2 . • • «Д; столбцы матрицы I) являются ортонормиро- ванными собственными векторами матрицы А (отвечающими собственным значениям с теми же индексами — Перее.). Рассматривая только те векторы .teC", которые ортогональны собственному вектору и\, приходим к следующей модификации основного равенства теоремы 4.2.2:
х- Ах = f X, | (U'x^ |2 = f X, I и*.х I2 = f X J u*x I2.
1=11’z=2 4 1 1
Следовательно, имеют место соотношения
х-Ах = Z Xz | и.х [2 ^ Х2 f | и*х |2 = Х2 £ | ЦГх^ |2 = ХЛ i — 21 = 21 = 1
так как вектор х ортогонален первому столбцу матрицы U. Неравенство ; cvb становится равенством при х = и2; таким обра-
зом, получаем формулу
(4.2.7)(4.2.7)'min -* ^- = min х*Лх = Л2
(4.2.7)
(4.2.7)
х ^ О Л Лх*х = 1
X 1 U1X 1 Ui
для второго собственного значения.
Упражнение. Обобщая эти рассуждения, обосновать формулу
min ±д1£— mjn х*Ах = Хк, k = 2, 3, ...,п. х =/= о ■х*х— 1
*1«Г ^2Ч-\Х ±МГ М2’ ••* Uk-\
(4.2.8)
Упражнение. Показать, что
max х‘Ах max х'Ах = Х„_ь, 'х^Ох*х=1"
х4“п' ип-1Un-A+1X-Lun- ип-1ип-к+1
к=\, 2, ..., п — 1. (4.2.9)
К сожалению, практическая ценность этих формул невелика, поскольку в них явно участвуют некоторые собственные векторы, а собственные векторы обычно неизвестны. Однако представление (4.2.7) и более общие представления (4.2.8) и (4.2.9) станут отправной точкой для нахождения полезного на практике описания собственных значений.
Пусть задан некоторый вектор w е С". Тогда.
sup х*х=1 X 1 W
Х*Ах = sup X*U1\U*X= sup X А;|(£/*х); р = x*x=Yx*x~l i=l
xlwxlw
nn
= sup X^i|2;P= sup 2^il^P> z*z = \Z=1z*z = \ Z = 1
x=Uz J, tyz ± U*w
>supE^l^|2 =
z*z = lZ = 1
z ± U*w
= 1 = 4- ••• =2n-2=0
= sup а„_1|2„_1р + л,1|2„р^л„_1; Pn-lP+l^l2»1.
.(4.2.10)
Во второй строке в этих выкладках введено обозначение z = U*x; равенство z*z = 1 следует из х*х = 1 в силу унитарности матрицы U. Первое неравенство объясняется тем, что наибольшее значение не может возрасти при сужении того мно-
жества, по которому берется супремум. Заключительное неравенство следует из того, что Хп Х„-х.
В предыдущих рассуждениях вектор w- был произвольным фиксированным вектором. Теперь можно взять инфимум по всевозможным векторам w в (4.2.10) и получить тем самым неравенство .
inf sup х Ах Хп_х,
^^.С? х*х = \
X ±
Однако формула (4.2.9) при к = 1 означает, что неравенства в (4.2.10) становятся равенствами, когда w = ип. Таким образом, последнее утверждение можно уточнить:
Это описание собственного числа несколько сложнее по виду по сравнению с (4.2.7), но здесь не требуется знания каких-либо собственных векторов матрицы А.
Чаще можно встретить запись с «шах» вместо «sup» и с «min» вместо «inf», поскольку1) х*Ах = кп_х при х = ип-Х. Такая замена используется на последнем этапе доказательства следующей теоремы «о минимаксе» Куранта — Фишера.
4.2.11, Теорема (Куранта — Фишера). Обозначим собственные значения эрмитовой матрицы А е Мп через щ ^ /. г ^ ... ,.. ^ Х„. Пусть задано натуральное число к, \ ^к ^ п. Тогда
minmax(4.2.12)
ш„_ iec"х*0. хеС™
wn_k
U
max . min 2L^L = x&.(4.2.13)
w,mb_i ec" x + 0. хес"
x x™x. w2u,k_1
Замечание. При к = n в (4.2.12) и при к = 1 в (4.2.13) внешнюю задачу оптимизации не следует принимать во внимание, поскольку множество, по которому проводится оптимизация, становится пустым. Для этих двух случаев утверждения (4.2.12) и (4.2.13) уже присутствовали в теореме 4.2.2 Рэлея — Ритца.
Доказательство. Приведем обоснование только для утверждения (4.2.12); для (4.2.13) рассуждения аналогичны. Выпишем
представление Л = UW*, в котором матрица U унитарна и Л = diag(XbЛ2, .••, М. и будем считать, что 1 < k ^ п. Для вектора х =£ О .
х'Ах (U*xT Л (U'x') (U’xy Л (U'x')х'х ~ х'х — (U'x)' (t^x)
и {[7*х: х е С", х Ф 0} = {у е С": у ^ 0}. Таким образом, если заданы векторы wb w2, ..., wn_keCn, то справедливы соот
ношения
supх + оsupх + ох'Ахх'хх'Ахх'хх^^п-кх^^п-кsupУ 0У -1- U’w, У'^п-кsupУ 0У -1- U’w, У'^п-кУ*^УУ*УУ*^УУ*У
sup
х + о
sup
х + о
х'Ахх'х
х'Ахх'х
х^^п-к
х^^п-к
sup
У 0
У -1- U’w, У'^п-к
sup
У 0
У -1- U’w, У'^п-к
У*^УУ*У
У*^УУ*У
пп
supE^zll/J2>supЕ^1«/;12 =
y*y=li = lУ*У-11 = 1
У Д V®!f'^n-kУ -1 U*wvu*™n-k
У1-У2~ ■•• -Уб-|=°
n
sup E ^Ш2>^.
\»k P+Iy&+112+-" + | Уп|2 = 1 t=k
У XU*w,U*wn_k
х'Ахх'хх'Ахх'х^к^кТаким образом, справедливы неравенства
х'Ахх'х
х'Ахх'х
^к
^к
sup
х чЬОx^-wlтп-к
для любых п — к векторов ayj, ..., wn_k. Однако, согласно (4.2.9), это неравенство при некотором выборе векторов w{) например wt = un_t+x, где un_i+1 — столбец матрицы U = = [«1 .. ■ обращается в равенство:
у* Д у inf sup
Мы можем заменить здесь «inf» и «sup» на «min» и «шах», поскольку экстремальные значения достигаются. Как уже отмечалось, доказательство (4.2.13) проводится аналогично.
■Упражнение. Провести детальное доказательство утвержде
ния (4.2,13),
(b) шахх * о(b) шахх * ох*Ахх'хх*Ахх'х
(b) шах
х * о
(b) шах
х * о
х*Ахх'х
х*Ахх'х
Задачи
Пусть АеМп— эрмитова матрица с собственными значениями Xi Х2 ... ^Хп, Используя теорему 4.2.11, проверить, что
Л6 = max min-х v -,к=\, 2, ..., п,
S сф О х х
п-й+1 хеЗл_6+1
где через S/ обозначено подпространство размерности / и внешняя оптимизация проводится на множестве всевозможных подпространств указанной размерности.
Доказать, что для эрмитовой матрицы А еМ„ следующие три задачи оптимизации приводят к одному и тому же решению,
х*х= 1х*х= 1(а) шах х'Ах,
х*х= 1
х*х= 1
(с) шах -4—, если хотя бы одно собственное значение ма- A v — 1 XX
трицы А положительно.
Показать, что если АгМп— эрмитова матрица и х*х = = 1, то
Убедиться в необходимости предположения теоремы 4.2.2, что матрица Л эрмитова, на примере матрицы Л — [о i ]• Чему равны
max {хгАх/хгх: х =/= О, хе R"}, тахРе{х*Лх/х*х: х =/= О, хе R”}?
Пусть задана матрица А е Мп с собственными значениями {XJ. Показать, что для их абсолютных величин имеют место оценки
. I х'Ах I... I х'Ах I .. п
min —;— ^ ХЛ^тах —;— ,1=1, 2
х о * х х *х ф 0 • х х ।
даже если матрица А не является эрмитовой. Указание. Положить вектор х равным собственному вектору матрицы А. На примере Л = [у * ] удостовериться, что каждая из этих оценок может быть грубой.
Некоторые приложения вариационных описаний
Среди многочисленных важных приложений теоремы Куранта— Фишера одно из простейших связано с задачей сравнения собственных значений матриц А А* В и А. Собственные значения матрицы А обозначим через Х,(Л).
Теорема (Вейля). Пусть матрицы А, В е М„ эрмитовы и собственные значения АДЛ), Х,(В) и Х,(Л + В) упорядочены по возрастанию, как в (4.2.1). Тогда при каждом k = 1, 2п выполняются неравенства
Ч И) + ^1 (В) ^Х^АА-В^ Ч (Л) + Л„ (В).(4.3.2)
Доказательство. Для любого ненулевого вектора х е С" отношение Рэлея — Ритца можно оценить при помощи неравенств
Y* Rv
Мв^^-^х^ву
Следовательно, при любом к = 1,2п
Аа(Л4*В)= minmax
minmaxminmaxП-K x 1 Wjwn-kП-K x 1 Wjwn-k+ ^1 (B)] =+ ^1 (B)] =min•••■ ™n-kmin•••■ ™n-k= Хк (Л) + M (B).= Хк (Л) + M (B).maxX ¥= о«J-»!«"п-бmaxX ¥= о«J-»!«"п-б
minmax
minmax
П-K x 1 Wjwn-k
П-K x 1 Wjwn-k
+ ^1 (B)] =
+ ^1 (B)] =
min
•••■ ™n-k
min
•••■ ™n-k
= Хк (Л) + M (B).
= Хк (Л) + M (B).
maxX ¥= о«J-»!«"п-б
maxX ¥= о«J-»!«"п-б
Оценка сверху доказывается аналогично. □
Упражнение. Показать, что каждое из неравенств в (4.3.2) может обращаться в равенство. Указание. Пусть (иь и2, ... ..., urt}—ортонормированное множество собственных векторов матрицы Л и Аш = Х,(А) и,. Рассмотреть В = аи(и* для а>0 и затем для а < 0.
В теореме Вейля установлены двусторонние границы для собственных значений суммы А + В произвольных эрмитовых матриц А и В. Эти границы можно уточнить, рассматривая в качестве В только матрицы специального вида, например положительно определенные матрицы, матрицы ранга 1, матрицы ранга к или окаймленные матрицы.
Матрица Be Мп, подчиненная неравенству х*Вх ^ 0 для всех векторов х е С", называется положительно полуопределен- ной. Это эквивалентно условию, что матрица В эрмитова и все
ее собственные значения неотрицательны (см. гл. 7). Приведенный ниже результат, известный как теорема о монотонности, является непосредственным следствием теоремы Вейля. Он гласит, что собственные значения эрмитовой матрицы не уменьшаются, если к ней прибавить положительно полуопределеи- ную матрицу.
Следствие. Пусть матрицы А, ВеМ, эрмитовы. Предположим, что В положительно полуопределена и что собственные значения матриц А и А -\- В упорядочены по возрастанию, как в (4.2.1). Тогда
kk И) ^ ^а И + В) для всех 6 = 1, 2, ..., п.
Доказательство. Надо привлечь оценку снизу в (4.3.2) и учесть, что Ai (В) ^ 0. □
Если В — матрица ранга 1, то оценки собственных значений матрицы А + В через собственные значения матрицы А формулируются как теорема о разделении-, между каждыми последовательными собственными значениями матрицы Д + В с четными (или нечетными) номерами содержится по меньшей мере одно собственное значение матрицы А.
Теорема. Пусть матрица А еМп эрмитова и задан вектор г е С". Если собственные значения матриц А и А + гг* упорядочены по возрастанию, как в (4.2.1), то имеют место неравенства
А.6(Д±гг*ХЛ,б+1(ДХЛ,6+2М ± гг*), 6 = 1, 2, . .., п—2.
М^Х^+^Д ± zz*) ^ Л.&+2 (Д),6 = 1, 2, ..., п — 2.
Доказательство. Пусть 1 ^ 6 ^ п — 2; используя представление (4.2.12), получаем
лА+г(Д ± 2Z )= minmax<——-г-—-—>
tan. ....g0
minmax
w l o c"jc 0
max X * о ^n-k-Vmax X * о ^n-k-Vx*Axx*xWn-k-ix*Axx*xWn-k-i?~=2 x 1—’ Wn-k-T Wn-^1
max X * о ^n-k-V
max X * о ^n-k-V
x*Axx*x
Wn-k-i
x*Axx*x
Wn-k-i
=min
W„ ь O. t, , G Cn
1 ’ZX — R — 2 Я —। щ
minх ^ о*-*-“',™к-1minх ^ о*-*-“',™к-1X* (Л ± 22*) XX* (Л ± 22*) Xmax“’it»C-iEC"™kszmax“’it»C-iEC"™kszminX* о^l№й-1- wkminX* о^l№й-1- wkх*Ахх*хх*Ахх*х
min
х ^ о
*-*-“',™к-1
min
х ^ о
*-*-“',™к-1
X* (Л ± 22*) X
X* (Л ± 22*) X
max
“’it»C-iEC"
™ksz
max
“’it»C-iEC"
™ksz
min
X* о
^l№й-1- wk
min
X* о
^l№й-1- wk
х*Ахх*х
х*Ахх*х
Теперь пусть 2 ^ к ^ п— 1,При помощи представления (4.2.13) получаем.
Aft(A±22*)= шах
Шр .... wfc_t е с"
X* (Л ± 22*) XХ*Х
Эти два семейства неравенств эквивалентны указанным в утверждении теоремы. □
Для эрмитовой матрицы В е Мп имеется разложение В = = UMJ*, в котором матрица U = \и\ иг . .. ил] унитарна и А = diag(Pi, р2, ..., рп). Следовательно, ранг матрицы В совпадает с числом ненулевых собственных значений. Если он не превосходит г, то можно положить pr+i = ... = р„ = 0. Если ранг строго меньше, чем г, то некоторые из чисел pi, р2, ..., рг будут также равны нулю. Представление
(4.3.5)(4.3.5)В ^ p^u;u^
(4.3.5)
(4.3.5)
можно воспринимать как другую форму записи разложения В = UAU*. В обратную сторону, ранг любой матрицы вида (4.3.5), когда все р, отличны от нуля «г и векторы линейно независимы, равен г. Если же допускается линейная зависимость векторов щ, то можно утверждать лишь, что ранг матрицы В не превосходит г. Следующий результат, первоначально полученный Вейлем в рамках теории интегральных уравнений, позволяет найти границы для собственных значений суммы А + В, когда ранг матрицы В равен г. Это простое обобщение теоремы 4.3.4 об одноранговом возмущении.
Теорема. Пусть матрицы А, Be Мп эрмитовы. Предположим, что ранг матрицы В не превосходит г. Тогда
(а) А6И + В)^А6+г(Л)<А6+2г(Л | В), к = \, 2, ...,п-2г, (Ь) А6(Л)<А6+г(Л + В)<А6+2г(Л), к = \ 2, ..., п — 2г, (с) если задано разложение A = UMJ*, в котором U = =[«] и2 ... ип]^Мп— унитарная матрица и A=diag(Ab .. .,А„),
где Л] ^ Л2 ... ^ Хп, и возмущение имеет вид
В — Хпипип + Хп_хип_хип_х + ••• + Хп_г+хип_г+хип_г+х, mo Лтах (Л — В) = Хп_г (Л).
Доказательство. Пусть В = 0^0*4* • •• + «гиги‘, где векторы У]ч, еС" не обязательно линейно независимы. Неравенства в (а) и (Ь) доказываются так же, как и соответствующие им неравенства в теореме 4.3.4 со следующими изменениями. Прежнее условие x_Lz теперь заменяется на г условий x_Lyix_Lur и доказательство завершается с учетом этой замены. Чтобы доказать п. (с), заметим, что все векторы ихип являются собственными векторами матрицы А— В и что (А — В) Uk = 0, k = п — г + 1, ^ — г + 2п и (Л — — B^uk = XkUk, k=\, 2п— г. В силу неравенств Хп-г ^
Хп_г-\ ... ^i наибольшим собственным значением матрицы А — В будет число Хп-г. □
Упражнение. Подробно доказать утверждения (а) и (Ь) теоремы 4.3.6.
Теперь наших знаний достаточно, чтобы установить следующий общий результат Вейля о собственных значениях суммы эрмитовых матриц.
Теорема (Вейля). Пусть заданы эрмитовы матрицы А, Be Мп, и пусть собственные значения матриц А, В и А 4- В упорядочены по возрастанию, как в (4.2.1). Если пара индексов ], к подчинена условиям i^i,k^nujA*k^nA"V,To .
' Х1+к-ДАА- В^Х^А-ХДВУ,
если пара индексов j, к подчинена условиям 1 ^ j, к ^ п и j + к ^ п + 1, то
ХДА^А-ХДВ^Х^к-х^А-ВУ
Доказательство. Пусть индексы /, к подчинены первым условиям. Запише?л разложения A — UK^U* и В = /Л(В)/*, в которых матрицы U =\ихщ . .. ип"\ е Мп и 1/ = [у, у2 ... у„] е g Мп унитарны,
Л (Л) = diag (Aj (Л), .... Л„(Л))еЛ!„, A(6)=diag(^(B)ХДВ^еМп.
Тогда ранг матрицы
А; = Хп (Л) ипип + Х„_х (Л) ип_хип_х + . .. + Л/+1 (Л) u!+iu/+i не превосходит п— j, ранг матрицы
Вк - Ч (В) Un< 4- ... 4- хк+х (В) у,+1у;+1
не превосходит п— & и ранг суммы Aj + Bk не превосходит 2п — / — k. Далее,
МА- А^ХДА), Хп(В-Вк) = Хк(В)
в силу утверждения (с) теоремы 4.3.6 и
Ч (Л - А, + В - Вк) = Хп (Л + В - (Л, + В^ >
^ Хп-(2п-)-к) (Л 4- В) = Xj^h_n (А + В)
в силу утверждения (Ь) теоремы 4.3.6 (при к-\-г = п и г = = 2п— /— А). Кроме того, неравенство (4.3.2) (с к = п) в данном случае принимает вид
К(А - А,-+ В - В^ ^ХЛА-А^ХЛВ- Вку
Таким образом, приходим к соотношениям
Х^ + Хк(В) = Х^А - Л,-) + Хп(В - Вк)>Хп(А -Aj + B- Вк)= = Хп ((Л + В) - (Л, + Вк^ > Х,+к_п (А + В).
Первое утверждение теоремы доказано. Второе утверждение непосредственно следует из первого, примененного к матрицам —А и —В. □
Упражнение. Подробно обосновать вывод второго утверждения теоремы 4.3.7 из первого. Указания. Получить оценку сверху для Х/+к_,,(—А—В) и использовать равенство Х,(_—Л) = = —^-г+ДЛ), которое верно для эрмитовой матрицы А е ЛД.
Как заключительный результат о разделении собственных значений матрицы Л + В приведем теорему, в которой матрицы Л и В имеют весьма специальный вид, а именно теорему о разделении собственных значений для окаймленных матриц. Утверждение этой теоремы аналогично утверждению теоремы 4.3.4, где в качестве В бралась матрица ранга 1.
Теорема. Пусть заданы эрмитова матрица А е Мп, вектор у е Сп и число а е R. Рассмотрим эрмитову матрицу 4 е е Мл+1 — результат окаймления матрицы А вектором у и числом а:
Предположим, что собственные значения {X,} и {X,} матриц А и А соответственно упорядочены по возрастанию:
Х[ ^ ... ^ Хп, ^ ^Х2 47
^Zl+l'
(Тоеда
Xi ^^ Л] ^^ ЛXi ^^ Л] ^^ Л22^ ^2 ^^ ^2 ^^л-1^л-1Л„<Л„<Л„+1. (4.3.9)Л„<Л„<Л„+1. (4.3.9)
Xi ^^ Л] ^^ Л
Xi ^^ Л] ^^ Л
2
2
^ ^2 ^
^ ^2 ^
^л-1
^л-1
Л„<Л„<Л„+1. (4.3.9)
Л„<Л„<Л„+1. (4.3.9)
'Доказательство. Зададим натуральное число к, такое, что
1 ^ к ^ п. Докажем неравенства Л* ^ Л* ^ Aw Пусть
jt^tZ^^eC^1, хеСл, ^еС, 1Й, = [tyf со]г е С"+1,
wt е Cn, со е С.
Применяя вариационный принцип (4.2.12) теоремы Куранта—< Фишера, получаем
Лд+1 =min^it^n+D-ffc+l)Лд+1 =min^it^n+D-ffc+l)maxеС^1 jt ^ 0, jt е Сп + *maxеС^1 jt ^ 0, jt е Сп + *Л*АЛлчЛ*АЛлчmin»x^n-kGcn+tmin»x^n-kGcn+tmaxmax. “-(n+D-ifc-n)ГАг. “-(n+D-ifc-n)ГАг•• ^п-к'л+1•• ^п-к'л+1
Лд+1 =min
^it^n+D-ffc+l)
Лд+1 =min
^it^n+D-ffc+l)
max
еС^1 jt ^ 0, jt е Сп + *
max
еС^1 jt ^ 0, jt е Сп + *
Л*АЛлч
Л*АЛлч
min
»x^n-kGcn+t
min
»x^n-kGcn+t
max
max
. “-(n+D-ifc-n)
ГАг
. “-(n+D-ifc-n)
ГАг
•• ^п-к
'л+1
•• ^п-к
'л+1
,x*Ax .
minmax Ч^Г = X,t•
wn h^Cn x¥=0,x^Cn
*1“-!™n-k
Чтобы оценить Xk снизу, используем вариационное представление (4.2.13):
к =к =maxmax^lйк-\^lйк-\min0" + * & + 0. He Сп + * ^-L ^1йк-1min0" + * & + 0. He Сп + * ^-L ^1йк-1ГАЯЛЧГАЯЛЧmax^i^.eC^ + Imax^i^.eC^ + Imin^k-imin^k-iЛ*АЛЛЧЛ*АЛЛЧ
к =
к =
max
max
^lйк-\
^lйк-\
min
0" + * & + 0. He Сп + * ^-L ^1йк-1
min
0" + * & + 0. He Сп + * ^-L ^1йк-1
ГАЯЛЧ
ГАЯЛЧ
max
^i^.eC^ + I
max
^i^.eC^ + I
min
^k-i
min
^k-i
Л*АЛЛЧ
Л*АЛЛЧ
u>.,u>.,max- wft_,eCmax- wft_,eCmin 1^0, x e c” l»l™k-lmin 1^0, x e c” l»l™k-lлч —Кк. □лч —Кк. □
u>.,
u>.,
max
- wft_,eC
max
- wft_,eC
min 1^0, x e c” l»l™k-l
min 1^0, x e c” l»l™k-l
лч —Кк. □
лч —Кк. □
Мы уже видели два примера теорем о разделении собственных значений: если заданная эрмитова матрица изменяется путем прибавления однорангового возмущения или посредством окаймления, то новые и старые собственные значения перемежаются. Верно ли обратное? Если заданы два множества перемежающихся вещественных чисел, можно ли рассматривать их как собственные значения некоторой эрмитовой матрицы и
ее подходящей модификации? Ответ положительный1), и мы приведем пример утверждения, обратного к теореме 4.3.8.
Теорема. Пусть заданы натуральное число п и два набора вещественных чисел
{X,: z = 1, 2, .. ., п}, \Хр. I = 1, 2п, п + 1],
подчиненных условию
X] ^ ^2 ^ ^X] ^ ^2 ^ ^^п—2 "^ ^п "^ ^п "^ Л^п—2 "^ ^п "^ ^п "^ Л
X] ^ ^2 ^ ^
X] ^ ^2 ^ ^
^п—2 "^ ^п "^ ^п "^ Л
^п—2 "^ ^п "^ ^п "^ Л
Пусть Л = diag(Xi, Хг, ..., Х„). Тогда существуют вещественное число а и вектор у е R” с вещественными компонентами, такие, что каждое число из множества {Xi, Х2, ..., ^п-н] является собственным значением вещественной симметричной матрицы
Л\уЛ\уут\аут\а^Мп+Х^Мп+Х(R).(R).
Л\у
Л\у
ут\а
ут\а
^Мп+Х
^Мп+Х
(R).
(R).
Доказательство. Множество {М, ^2, • ••, ^4, очевидно, содержит все собственные значения матрицы Л, и в силу равенства tr Д = tr Л + а
«4- 1п
zz—tr Л — tr Л —X ^z — H^i- -
Z=1Z=1
Несложно вычислить характеристический многочлен р^ V) матрицы А:
det (/7- Л) =
= det= det= det= detН - Л | - у— ут \t — аН - Л | - у— ут \t — аVI - А)"1 уVI - А)"1 у
= det
= det
= det
= det
Н - Л | - у— ут \t — а
Н - Л | - у— ут \t — а
VI - А)"1 у
VI - А)"1 у
= det= det0V-a)-y4tI0V-a)-y4tI
= det
= det
0
V-a)-y4tI
0
V-a)-y4tI
= [(/ - а) - ут VI - Л)-1 у\det VI — Л) —
(4.3.11)(4.3.11)(/-„)-^„=7^- П('-У = />яИ.
(4.3.11)
(4.3.11)
/=1t=l
■) Более того, существует единственная трехдиагональная матрица с положительными внедиагональными элементами, имеющая заданный спектр и допускающая трехдиагональное окаймление также с заданным спектром. Известны явные формулы для всех элементов такой матрицы и такого окаймления. См. § 7.12 книги: Парлетт Б. Симметричная проблема собственных значений. — М.: Мир, 1983. — Прим, перев.
Мы уже определили единственно возможное значение величины а; осталось найти такие п вещественных чисел yt для (4.3.11), что р^ (Хк) = 0 при к = 1, 2, ..., п + 1.
Введем в рассмотрение многочлены
п+1
/(/) = П (^-^i), degf = «+l,(4.3.12)
1-1
п
g^^Hit-M), degg = n.(4.3.13)
1=1
Алгоритм Евклида приводит к разложению
f^ = g(tHt-c) + r^,
в котором с — вещественное число и г(/) — многочлен степени
п + 1
не выше п— 1. Несложно явно определить значение с = У X/ —
— X ^; = а. Кроме того,
1=1
f(Xfc) = g(Xk)(Xk-a) + r(Xk) = r(Xk), к = 1, 2, .... п,
поскольку g(Xs) = 0. Таким образом, многочлен г^ задан своими значениями в п точках и может быть выписан явно с помощью интерполяционных многочленов Лагранжа, если среди узлов интерполяции М, ..., Хп нет кратных. При этом предположении все корни многочлена g^ простые и интерполяционная формула Лагранжа для г(/) имеет вид
п'
Следовательно,
gW I g<f) I 1 L g'M t-xYi=i
Из условий /(Za) = 0, к = 1, 2, ..., n + 1, обязательно вытекает
п
^-а)-У4^7 ,— ; ■ = 0, к = \, 2, .... «+1. (4.3.14) g w) Хк — Xi
Заметим, что при Xk = Xt для i = k — 1 либо 1 = к коэффициент при соответствующем члене 1/(/ — Х^ равен нулю и в точке
8 Р- Хорн, Ч. Джонсон
Г = ХА нет особенности1). Если подставить выражения у\ = = — / (М)^ (Л^« 1Ш^> 2, п, в уравнение (4.3.11), то Рд(^й) = 0, что и требовалось. Следовательно, осталось установить неравенство f (Xz)/g'(Xz)^0 для i = 1, 2, 3, ..., п, и именно теперь следует привлечь предположение о разделении. Используя определения многочленов f(() и g^ и предположение о разделении, получаем, что
п+1Ж) = (-1Г'+1Ц|А/-Х/1,п+1Ж) = (-1Г'+1Ц|А/-Х/1,g'M = (-!)"-' п I х,- — Л,у |,/эмg'M = (-!)"-' п I х,- — Л,у |,/эм
п+1
Ж) = (-1Г'+1Ц|А/-Х/1,
п+1
Ж) = (-1Г'+1Ц|А/-Х/1,
g'M = (-!)"-' п I х,- — Л,у |,/эм
g'M = (-!)"-' п I х,- — Л,у |,/эм
а это показывает, что числа f(X;) и g'Q-i') всегда имеют противоположные знаки.
В случае когда некоторые из чисел X,- совпадают, рассуждения лишь немного видоизменяются. Пусть для определенности Х^ = Х2 = ... = Кк < XA+i ^ ... для некоторого к ^ 2; тогда Х2= ... = Ха=Хь Многочлен f(() в (4.3.12) содержит сомножитель (Г — Xi)*-1^— Xi), многочлен g^ в (4.3.13) содержит сомножитель (Г—Xi)*, причем кратность корня Xi в многочлене g^t) в точности равна к. Следовательно, можно разделить каждый из многочленов f((), g(() и г^ на (Г — М)*-1. Для модифицированного таким образом многочлена g(() точка Xi будет простым корнем. Все кратные корни многочлена §(/) аналогичным образом преобразуются в простые, последующие рассуждения можно продолжать, как и ранее, и заключение сохраняет силу. □
В предшествующих результатах эрмитова матрица «окаймляется» снизу и справа новыми строкой и столбцом, однако можно также считать, что в этих результатах описывается поведение собственных значений эрмитовой матрицы при исключении из нее последних строки и столбца. Необязательно, конечно, привязываться к последним строке и столбцу. Если в теореме 4.3.8 в матрице А вычеркиваются t-е строка и столбец вместо последних, то в доказательстве векторы en+i и а просто меняются ролями и заключительные неравенства разделения (4.3.9) остаются в силе.
Теоремы 4.3.8 и 4.3.10 позволяют утверждать, что неравенства разделения (4.3.9) полностью описывают связь между собственными значениями эрмитовой матрицы и собственными зна-
’) Другими словами, в (4.3.14) величина X*— X; присутствует не только в знаменателе, но и в числителе — она входит как сомножитель в /(X;), см. (4.3.12). Поэтому при X» = X; не возникает никаких неприятностей.—■ Прим, перед. ' ,
чениями любой ее заданной главной подматрицы порядка п— 1. Если одновременно рассматривать все п главных подматриц порядка п—1 матрицы А, то можно установить более тонкие результаты. Обозначим через А, главную подматрицу, полученную отбрасыванием /-х строки и столбца матрицы A, j = 1, 2, .... п, и упорядочим собственные значения матриц А и А, по возрастанию. Тогда при каждом i = 1, 2, ..., п — 1
шах МД/)>^МД) + ^+1(Д),
1</^лпп
min+
1^/Х«пп
/ по \
шах ^(Д/)- min ^(Д^Г^) [Х„(Д) - ^ (Д) .
Если все собственные значения матрицы А неотрицательны, т. е. если матрица А положительно полуопределена, то первое из этих трех неравенств позволяет заключить, что по крайней мере для одной главной подматрицы Д/ справедливо неравенство
Xn-W^^MA).
Таким образом, спектральный радиус каждой главной подматрицы положительно полуопределенной эрмитовой матрицы не может быть «маленьким».
Как изменятся собственные значения, если исключить из эрмитовой матрицы несколько строк и соответствующих столбцов так, чтобы оставшаяся матрица являлась главной подматрицей основной? Следующий результат можно получить многократным применением неравенств разделения (4.3.9), однако прямое доказательство с использованием теоремы Куранта — Фишера оказывается более простым. Этот результат иногда называют принципом вложения.
Теорема. Пусть Д е Мп — эрмитова матрица, г — натуральное число, такое, что 1 ^ г ^ п, а Аг — произвольная главная г X r-подматрица матрицы А (полученная отбрасыванием п — г строк и соответствующих столбцов исходной матрицы). Тогда при любом целом k, таком, что 1 ^ к ^ г, справедливы неравенства
Доказательство. Пусть подматрица Аг е Мп дополняется до целой матрицы строками и столбцами с номерами йin-r.
8*
Используя вариационный принцип (4.2.12), получаем, что
^+я-гИ)= minmax
w.to. leC™ х^О, хеСп*xiwv...,wr_k
х*Ах
minmax —;— —
to., ...,w b^d1 x=#=0, xeCn X X
XLe4^-r
= min max JL^EL = ^. (Д ).rГ 11 11
v<"r-k^y*°> У-С
При помощи (4.2.13) получаем
Ад М)” max min
to,tob ,еСл x*0, хгСп
. x*Ax
maxmin—;— =
•n xx
to,, .... tob, eC 1=0, *eCЯ®!^-1X±%X-r
= maxmin IL^EL — ^k (/1Д n
ok_.eCr y^O, yeCr УУ
k У 1"1 4-v
Следующее простое следствие теоремы 4.3.15 известно как теорема Пуанкаре о разделении и может применяться в таких ситуациях (например, в квантовой механике), когда имеется информация о величине скалярных произведений utAus некоторой системы векторов и\иг *).
Следствие. Пусть заданы эрмитова матрица АеМп, натуральное число г, 1 ^г^п, и набор их, ..., иг е С" из г ортонормированных векторов. Положим Br s ^и'.АиД е Мг. Если собственные значения матриц А и Вг упорядочены по возрастанию, как в (4.2,1), то справедливы неравенства
МЛ)<ШК^-гМ, 6=1, 2г. (4.3.17)
’) Если в линейной оболочке векторов «1, ,... и, имеются хорошие приближения к некоторым собственным векторам матрицы А, то соответствующие нм собственные значения будут весьма точно аппроксимироваться некоторыми из собственных значений матрицы Вг, описанной в следствии 4.3.16. Вычисление элементов матрицы В, и определение ее собственных значений, рассматриваемых как приближения к некоторым собственным значениям матрицы А, составляет содержание классического метода Рэлея — Ритца— одного из основных методов нахождения собственных значений самосопряженных операторов. — Прим, перев.
Доказательство. Если г < п, выберем п — г дополнительных векторов иг+1, ..., ип так, чтобы множество {щur, ur+i, ..., ип) было ортонормированным базисом, и образуем матрицу U = [щ ... un] е Мп. Матрица U унитарна, собственные значения матриц U*AU и А совпадают, и в матрице U*AU матрица Вг является главной подматрицей, полученной вычеркиванием последних п— г строк и столбцов. В такой формулировке требуемое утверждение вытекает из теоремы 4.3.15. □
Матрицу Вг е Мг в предыдущем результате можно записать в виде Br = U*AU, где U е Мп, т—матрица с г ортонормиро- ваиными столбцами. Суммируя неравенства (4.3.17) по индексу к и учитывая равенство tr Sr = М (Вг) + ... +^r(Br), приходим к следующему вариационному описанию суммы собственных значений.
4.3.18. Следствие. Пусть матрица А е Мп эрмитова, задано натуральное число г и 1 г п. Тогда
МЛ) + ... + ЛГ(Л) = min tr(7M(7,(4.3.19)
s М
(А) + - - - + Кп (Л) = max HU* AU.n,r* (4.3.20)
U*U-leMrJ
Минимум в (4.3.19) достигается, когда столбцы матрицы U совпадают с ортонормированными собственными векторами, отвечающими г минимальным собственным значениям матрицы А. Аналогичный выбор обеспечивает максимум в (4.3.20). Можно считать, что эти два утверждения обобщают теорему Рэлея — Ритца 4.2.2. С их помощью можно получить многочисленные интересные неравенства.
Иногда известны границы изменения квадратичной формы х*Ах на некотором подпространстве. В этом случае можно определить границы для собственных значений матрицы А при помощи теоремы Куранта— Фишера.
Теорема. Пусть матрица А еМп эрмитова, задано натуральное число к, такое, что 1 ^ к ^ п, и к-мерное подпространство Sk в Сп. Собственные значения матрицы А предполагаются упорядоченными по возрастанию, как в (4.2.1). Если существует такая константа с2, что х*Ах ^ с2х*х для всех векторов х е S&, то
Кп ^^ кп_ I D^i . . . ^^ ^П—A+I ^^ с2.
Если существует такая константа сь что х*Ах ^щх'х для всех векторов х е S^, то
С1 ^ ^-к ^ . • • ^ ^ь
Доказательство. Пусть векторы иь ...,«„_* образуют орто- нормированный базис подпространства S^. Используя вариационный принцип (4.2.13), получаем
. х*Ах. х*Ах
Сп min —;— «min ■■ t
Хфй ХХХ^ЬХХ
xsSkXLUXun_k
< maxmin=(4.3.22)
w„ .... ui ь®ОпXs4°
«-« XlWp .... Wn_k
Аналогично, применяя (4.2.12), получаем
x*Axx*Ax _
c^max-te-- max -ttt->X=^0 X XX*»x x
xsskXLUXun_k
^ minmax ^-v— = Xh. □
Следствие. Если матрица A e Mn эрмитова и неравенства x*Ax ^ 0 выполняются для всех векторов х некоторого k-мерного подпространства, то по меньшей мере к собственных значений матрицы А неотрицательны. Если неравенство строгое, т. е. х*Ах > 0 для всех ненулевых векторов х некоторого k-мерного подпространства, то матрица А имеет не менее к положительных собственных значений.
Доказательство. Первое утверждение следует из предыдущей теоремы при с2 = 0. Второе утверждение докажем от противного. Если Хп_6+1=0, то неравенство в (4.3.22) обращается в равенство
0 = min A_^L= mjn х*Ах.
x-^O х х х*х = ^xeSk i&Sk
Однако подпространство Sk конечномерно, следовательно, множество D=(xe S>,;. х*х = 1} компактно (см. утверждение 5.5.6) и непрерывная функция х*Ах принимает минимальное значение на множестве D в некоторой точке Хо е S^, подчиненной условию xjxo=l. Но тогда Хо ^ 0, и равенство х’Лх0 — 0 противоречит предположению, что неравенство х*Ах > 0 строгое для всех векторов xeSi при х N= 0. □
Собственные значения и элементы на главной диагонали эрмитовой матрицы являются вещественными числами, и сумма всех собственных значений равна сумме всех диагональных элементов (следу матрицы). Точная связь между элементами глав-
вой диагонали и собственными значениями задается понятием мажоризации.■
Определение. Пусть заданы векторы а = [aj е R" и Р — [рJs R". Говорят, что вектор Р мажорирует вектор а, если
для всех k = 1, 2, ..., п, причем при k = п неравенство обращается в равенство. Если упорядочить компоненты векторов a и р по возрастанию:
а. а, . ^а- , В ВВ .
б /21п т, т2тп
то определяющее неравенство можно записать в эквивалентной форме
(4.3.25)(4.3.25)S ^ ^ 5^v
(4.3.25)
(4.3.25)
где k = 1, 2, ..., пи при k = п должно выполняться равенство.
Таким образом, вещественный вектор р мажорирует вещественный вектор а, если сумма к наименьших компонент вектора р не меньше суммы к наименьших компонент вектора a при к=\, 2, ..., п—1, и суммы всех компонент векторов р и а совпадают. Отметим, что произвольные перестановки компонент векторов р и а не оказывают влияния на факт мажоризации вектором р вектора а.
Понятие мажоризации во многих разделах теории матриц играет важную роль — устанавливает точное взаимоотношение между двумя множествами вещественных чисел. Следующая теорема Шура (1923) является тому примером.
Теорема. Пусть матрица А еМ„ эрмитова. Тогда вектор ее диагональных элементов мажорирует вектор, составленный из ее собственных значений.
Доказательство. Проведем доказательство по индукции, параметром индукции послужит размерность. При п = 1 утверждение теоремы тривиально. Предположим, что оно верно для эрмитовой матрицы порядка к для всех значений к ^ п—1. Пусть А = [ai/leMn— данная эрмитова матрица, и пусть Ai е е Мл-1 — ее главная подматрица, полученная исключением тех строки и столбца, на пересечении которых расположен наибольший диагональный элемент матрицы А. Обозначим через
Ai ^ .,. ^ А„ собственные значения матрицы А, через А^ ^ ... ^ X'_j собственные значения матрицы Av и через at t ^ ^ atl ^ ... ^ at , диагональные элементы матрицы А, расположенные по возрастанию. По предположению индукции кк
У а. , ^ У X', для всех А = 1, ,.п — 1.
w ЧЧ нх 1
В силу теоремы 4.3.8
^i Х2 ^ Х2 ^ ... ^ Ап_, ^ Хп
и, следовательно, кк
У, Х'.^ У, X, для всех к = 1, ..п — 1.
Таким образом, кк
^ЧЧ^^1'^=х, П-х,
и при к = п это неравенство становится равенством, потому что след равен сумме собственных значений. □
Понятие мажоризации также полезно для выражения связи между собственными значениями слагаемых и суммы.
Теорема. Пусть матрицы А, В ^ Мп эрмитовы. Через
А(Л) = [А,(Л)], а (В) = [а, (В)], ЦЛ + В) = [Xz (Л + В)]
обозначим вектор-столбцы в Rn, компоненты которых являются собственными значениями матриц А, В, Л + В, упорядоченными по возрастанию, как в (4.2.1). Тогда вектор А(Л4-В) мажорирует вектор А(Л) + Х(В).
Доказательство. При любом k = 1, 2, ,.., п, используя следствие 4.3.18, получаем к
УХДА + В)= min tr IT (Л + В) U =
i = lU*U=leMk
= min(tr U*AU + tr U*BU) >
U*U-lGMk
^ min tr^7*Л^7+ min tr U*BU = и*и-1гМкU*U-lGMk
ккк
= 2 ^ И) + Z л, (В) = 2 (А, (Л) + A, (B)). Z“1• i=l^el
При k = п здесь фактически имеет место равенство, посколькуtr (Л + В) = tr Л + tr В. □
Мы утверждали, что понятие мажоризации точно описывает связь между элементами главной диагонали эрмитовой матрицы и ее собственными значениями, но доказали в теореме 4.3.26 только половину этого утверждения. Чтобы обосновать его до конца, потребуется следующая лемма технического характера.
мажорирует вектор а = [аг]г, то найдутся вещественные числамажорирует вектор а = [аг]г, то найдутся вещественные числаYiуп_ь такие, чтоYiуп_ь такие, чтоЛемма. Пусть п'^с1 и заданы вещественные числа «! ^а2^ .. . ^а„, Pi ^ Р2 ^ . ■ . ^ Рл- Если вектор P = [PJT
мажорирует вектор а = [аг]г, то найдутся вещественные числа
мажорирует вектор а = [аг]г, то найдутся вещественные числа
Yiуп_ь такие, что
Yiуп_ь такие, что
«I С Yi С «2 С у2 < «з С • • • С «л-1 С Yn-i С «л
и что вектор р/ = [р1, ..., рг1_1]г е R" 1 мажорирует вектор Y = [Yi, .... Ул-.Г е R"-1.
Доказательство. При п = 2 имеем а, ^0! и а1+а2 = |3| + р2, или
<4 = (01 — «1) + 02 > 02 >01-
Таким образом, выполняются неравенства «i ^ 01 ^ сха, поэтому можно положить yi = Pi и утверждение леммы будет справедливо. Теперь пусть п ^ 2. Обозначим через А={[6ь ... ,.., 6л-1] г} с R"-1 множество точек, подчиненных неравенствам
с, <6, ^а2<62^аз< ... <а„_! <6„_i <а„, (4.3.29a) кк
Хб,<5 0/,6 = 1, 2п — 2.(4.3.29b)
z=i1=1
Поскольку вектор Р мажорирует вектор а, точка б = а = [аь ..., ал-11г всегда принадлежит А; следовательно, множество А непусто. Множество А, очевидно, ограничено, замкнуто и, таким образом, компактно. Легко убедиться в его выпуклости. Если б = [6|, ..., 6„_|]геА, положим / (6) = 6[ + д2 + ... + д„_,. Заметим, что / (а) = а, + ... + «л—i Pi + • • • + Рл—i• Если мы сможем указать некоторую точку 6 е А, удовлетворяющую неравенству f (6) ^ 0! + • • • + Рл-1> т0 в силу выпуклости множества А в него будет входить целый отрезок: /а + (1—/)6еА для всех / е [0, 1], и непрерывная функция g(/) = /(/o + + (1—/)6) будет подчиняться условиям
g(O)>Pi+ ... + p„_l>g(D.
Отсюда можно заключить, что в некоторой точке (ое[О, 1] будет иметь место равенство g((0) = Pi + • • • + Pn-i- Тогда
вектор у = [уJr = /оа + (1 —t^b будет удовлетворять заключению леммы.
Функция /(•) непрерывна на компактном множестве А; тогда существует точка 6еЛ, для которой
max / (6) = /(6).(4.3.30)
6 е А
Докажем справедливость неравенства f (б) ^ pt + • •. + Pn-t- Экстремальная точка бе А удовлетворяет неравенствам (4.3.29а), (4.3.29b); следовательно,
бй^ай+1, 6=1, 2п — 1,■(4.3.31а)
кк
Ебг<Ерг> А = 1,2п -2.(4.3.31b)
■t" = 1i=\
Пусть все неравенства (4.3.31b) строгие. Если хотя бы одно из неравенств (4.3.31а) было строгим, то по меньшей мере одна компонента вектора б могла бы возрастать и при этом увеличивалось бы значение f(b). Поскольку такая возможность противоречит свойству (4.3.30), заключаем, что все нестрогие неравенства (4.3.31а) должны быть просто равенствами; тогда б = [а2, ад, . .., а„]г и f (б) = а2 + ... + а„ = (а, + а2 + ... + а„)— а1 — (Pl + Р2 + • • • + Рп) — а1 = (Р1 + • • • + Рп-1) + Ря «1 ^ ХР1 + • • • + Рл-1) + Pi — «i > Pi + • • • + Рп-1> что и требовалось доказать.
Теперь пусть не все неравенства (4.3.31b) строгие; таким образом, найдутся такие индексы А, при которых в (4.3.31b) имеют место равенства. Обозначим через г наибольший такой индекс. Тогда
S б; = 22 Р1> 1=11=1
кк
£б;<22р;, & = r + 1, .... п — 2. i=i1=1
Повторяя приведенные в предыдущем абзаце рассуждения, приходим к равенствам 6fe = aA+1 для & = г+1п—!• Следовательно,
f(6) = (d1+ ...+6r) + (Ui+ ...+б„_1) =
= (Pi + • • • + Рг) + (°г+2 + • ••+%) =
= (Pi + • • • + Pn-i) + («1 + • • • + ая) —
~ (а1+ • • • + «л+1) — (Рл-Н + • • • + Ря-1) —
= (01+...+0„-1) + (Р1+...+М-
— («I + . . . + «Г+1) ~ (Рг+1 + . . . + Рл-1) =
= (01 + • • • + Рп-1) + [(01 + ■ . ■ + 0Г+1) — (“1 + • • • +аг+1)] +
+ (0Г+2 + ■ • ■ + 0п) — (0Г+1 + • • • + 0Л-1) ^
^ (01 + • ■ • + 0П-1) + (0Г+2 “ 0Г+1) +
+ (0г+з-0г+2)++(0„-0„-i)^0i++ 0„-1. □
Теперь мы можем доказать утверждение, обратное к утверждению теоремы 4.3.26.
Теорема. Пусть и^1, и пусть заданы вещественные числа ах ^ а2 . . . ^ ап и Xi ^ Х2 ^ .. . ^ Хп. Если вектор а = = [ajr мажорирует вектор X = [Х;]г, то существует такая вещественная симметричная матрица А = [агД е Mrt (R), что au — at для / — 1, 2, .. ., п и каждое число из множества (XJ является собственным значением матрицы А.
Доказательство. При п = 1 утверждение тривиально. Предположим, что оно уже доказано для всех векторов а и X с не более чем п—1 компонентами. По лемме 4.3.28 существуют вещественные числа Yi^Ys^ • •• ^ ?п-1, такие, что
^1^1Y1Y1Х2 ^СХ2 ^С• - ^ ^п-1 ^ Yn-1 ^ Хп• - ^ ^п-1 ^ Yn-1 ^ Хп
^1
^1
Y1
Y1
Х2 ^С
Х2 ^С
• - ^ ^п-1 ^ Yn-1 ^ Хп
• - ^ ^п-1 ^ Yn-1 ^ Хп
и вектор «' = [«!пп-11г мажорирует вектор у ^l^feR" *. По предположению индукции найдется вещественная симметричная матрица В = [bfJ] g Мп_х с диагональными элементами bti = at при / = 1, 2, . .., п — 1, такая, что множество ее собственных значений совпадает с {у,}. Введем матрицу собственных значений
r = diag(y1, у2, ..., у„_1)еМп_!(К);
тогда имеет место разложение В = QrQr, в котором Q е GMn_i(R)—некоторая вещественная ортогональная матрица. В силу теоремы 4.3.10 найдется вещественная симметричная матрица
_ Г г у!„ .
Л = |4eM„(R), уеГ\ «eR,
L У u J
собственными значениями которой являются Xz. Положим
“ L о 1 J L о 1 J L №у)г a J= [ (Qyf a J *
Множество {X,}— это множество всех собственных значений матрицы 4, у которой на главной диагонали расположены числа
аь «2«п-ь а. Однако из условия мажоризации следует, что
tr Л = Я1 + ... + а„_1 + а = Л( + ... + Л„ = ^ + .. . + «„.
Таким образом, а = а„ и главная диагональ матрицы Л составлена из требуемых чисел. □
Предыдущий результат не только завершает круг рассуждений о связях между элементами главной диагонали и собственными значениями эрмитовой матрицы, но также позволяет прояснить геометрический смысл собственно понятия мажоризации. Двояко стохастической называют матрицу A е Мп, все п? элементов которой неотрицательны, причем сумма элементов в каждой строке и в каждом столбце равна +1. По теореме Биркгофа 8.7.1 каждая двояко стохастическая матрица является выпуклой комбинацией конечного набора матриц перестановок; верно и обратное утверждение.
Теорема. Пусть заданы два вещественных вектора а = [а,]г е R" u Р = [рг]г е R". Следующие условия эквивалентны:
вектор р мажорирует вектор а;
существует двояко стохастическая матрица S е Мп, подчиненная равенству р = Sa.;
f 1N
Р е S Е Р<ая. кгде 1 < N < оо, Pi > О, X Pi = 1
I i=l * )i"l
и аП£ е R" — вектор, компоненты которого совпадают с некоторой перестановкой компонент данного вектора а.
Доказательство. Если предположить, что выполняется (а), то по теореме 4.3.32 существует вещественная симметричная матрица B = \bi^e.Mn с элементами 6и = ргна главной диагонали и собственными значениями Х,(В) = ал В силу спектральной теоремы найдется такая унитарная (даже вещественная ортогональная) матрица U = [и,/] е Мп, что B = UNU*, где A = diag(aia2). Вычисляя элементы на главной диагонали матрицы В, пользуясь этим разложением, приходим к равенству р = Sa, в котором матрица S = [$,,] е М„ задается формулами sy = |u,/|2. У такой матрицы S сумма элементов в каждой строке и в каждом столбце равна единице, поскольку каждая строка и каждый столбец матрицы U представляют собой единичный вектор; значит, матрица S двояко стохастическая (специального типа, известного как ортостохастическая матрица). Таким образом, (а) влечет за собой (Ь).
Доказательство обратного к предыдущему утверждению намечено в задаче 9 в конце данного параграфа.
Если предположить (Ь), то в силу теоремы Биркгофа 8.7.1 справедливо представление
NN
3 = Е Pi?b где pt > О, Е Pl = 1
t = 1t = 1
и Pi — матрицы перестановок. Следовательно,
NN
0 = Sa = Е PtPta = Е Pi^p где Р^ = ал.,
т. е. условие (с) выполняется. Последнее равенство служит также обоснованием того, что из (с) следует (Ь). □
Итак, множество всех векторов 0 = [0ь ..., рм]г, мажорирующих заданный вектор a = [ai, ..., an] г, можно получить следующим образом: вычислим п! векторов (не все из них различны, если некоторые числа а, совпадают), образованных всевозможными перестановками п компонент вектора а, и затем построим выпуклую оболочку этих векторов.
Замечание. Есть общее признание важности идеи мажоризации, однако нет общепризнанного понятия мажоризации. Некоторые авторы определяют мажоризацию, меняя знак в неравенствах (4.3.25) на обратный, другие используют упорядочение по убыванию. По этой причине следует проявлять осторожность, используя или цитируя результаты по мажоризации из разных источников. Наш выбор определения мажоризации обоснован в задаче 11.
Задачи
Напомним, что спектральный радиус матрицы А е Мп равен
р(Л) = тах{1М^)1}.
Пусть матрицы А, ВеМ„ эрмитовы. Используя теорему Вейля 4.3.1, установить справедливость неравенств
X! (В) < мл + в) - Кк (Л) < К (В) и тем самым неравенства
|^И + В)-^(Л)|<р(В)
для всех к = 1,2, ..., п. Этот простой пример теоремы о возмущениях собственных значений эрмитовой матрицы (ср. с результатами § 6.3).
В первой цепочке соотношений из доказательства теоремы 4.3.4 были получены правые неравенства утверждения (а)
этой теоремы. На основе этих неравенств вывести все остальные неравенства из теоремы 4.3.4. Указание. Принять во внимание равенство Л = (Л ± zz*) Т zz*.
В теореме 4.3.6 дать подробное доказательство эквивалентности (а) и (Ь).
В доказательстве теоремы Вейля 4.3.7 использовалось только одно неравенство из теоремы 4.3.6, а именно ХП(Л+В)^ ^ Хп_г(Л), где ранг матрицы В не превосходит г. Убедиться, что это неравенство можно проверить, не прибегая к вариационному принципу Куранта — Фишера, восстановив детали следующего рассуждения. Пусть В = Р^у* + ... + РГУГУ* и Л = UMJ*, где (/ = [«] ... «J — унитарная матрица. Найдутся такие числа an-r, «п-г-м, «п, что вектор х s ап_гип_, + •.. + а„и„ удовлетворяет следующим условиям: х ± yt для всех I — 1, 2, ..., г и x‘x = (an_J2+ ... + | an|2= 1. Тогда
п
МЛ-В)>х*(Л-В)х= £ |а,|2МЛ)>Я„_,(Л).
i—n-r
Получить утверждение теоремы 4.3.15, применяя п — г раз теорему 4.3.8.
Показать, что простые неравенства Вейля (4.3.2) могут потерять силу, если матрицы Л и В не являются эрмитовыми. Указание. Рассмотреть матрицы Л = [° д] и В = [° д].
Пусть А, Be Мп — эрмитовы матрицы, собственные значения которых упорядочены по возрастанию, и пусть 1 ^ k ^ п. Проверить неравенство
Xfe(А + ВХ min (Xz (Л) + К, (В): I + 7 = к + п}.
Подробно рассмотреть случай совпадения собственных значений X, в доказательстве теоремы 4.3.10. Указание. Пусть число Xi является решением кратности к уравнения gfO^O и к ^ 2. Показать, что сомножитель (/ — Xi)ft-1 имеется как у функции §40. так и у функции f(t), поэтому в числителе и знаменателе слагаемых левой части уравнения (4.3.14) такие сомножители сокращаются.
Пусть S = [s,/] е Мп — двояко стохастическая матрица (см. § 8.7), и пусть № Rrt— вещественный вектор. Показать, что вектор Sx мажорирует х. Указание. Пусть y = Sx. Пусть выполнены неравенства у:^...^^ и xt ^ ... ^ хп; в противном случае можно было бы рассмотреть векторы Ру и Qx для соответствующих матриц перестановок Р и Q, ведь матрица PSQT тоже двояко стохастическая. Положим w^ = У, 8ц, тогда
п
0^w(ft)^ 1 и ^= к. Доказать, что
*/=1 1
кпк/ л \
Ё (у, -- х^ = Ё ^Xj — Ё х{ + х J к - £ М =
i=I хz /=1''/=1X /=11 /
.кп
= Ё (1 - wW) (хк - X/) + Ё w^x, - xk)
и что все слагаемые в последних суммах неотрицательны.
Предложить другое доказательство теоремы 4.3.26, основанное на следующих соображениях. Для эрмитовой матрицы XI = [а,/] е Мп имеет место разложение А = UAU*, в котором матрица U = [щ-/] е Мп унитарна и A — diag(Xi, ..., Хп)— вещественная диагональная матрица. Пусть а = [аи, ам, ... ..., а™]7— вектор, состоящий из элементов главной диагонали матрицы А, и х = [Хь Х2Х„] г. Установить равенство а=Рх, где Р = [p/J =* [|Щ/|2]. Убедиться, что матрица Р двояко стохастическая, и использовать результат задачи 9.
Пусть заданы два вектора х = [хь ..., х„У и у = — [уь .... Уп\т с неотрицательными компонентами, и пусть вектор у мажорирует х. Доказать, что у\ ... уп ^ Xi ... хп. Указание. Применяя теорему 4.3.32, построить вещественную симметричную матрицу А = [а,/] е МДК) с элементами an^yt на главной диагонали и собственными значениями Х(Л) — хь Тогда из неравенства Адамара 7.8.1 следует, что ац ... апп^ ^ det А = Xi ... Хп. Замечание. Именно этот результат служит обоснованием нашего выбора определения 4.3.24 понятия мажорирования. Если в определении 4.3.24 взять противоположное неравенство, то это вызовет замену и неравенства из задачи 11 на противоположное. Таким образом, если у «мажорирует» х в этом смысле, то произведение компонент у, оказывается меньше, чем произведение компонент х,. Мы предпочитаем определение, при котором неравенство для произведений компонент направлено в ту же сторону, что и неравенство из самого определения мажоризации.
Пусть задана эрмитова матрица А е Мп с положительными собственными значениями 0 <Z М ^ Х2 ^ ... ^ Хп и натуральное число г, 1 ^ г ^ п. Используя результат задачи 11, установить вариационный принцип
XtX2 ... Xr = min (wJAuJ ^и*гАи^ ... (u*rAury
где минимум, берется по всевозможным наборам ортонормиро- ванных векторов {ui, Иг, ..., иг^с:Сп. Объяснить, почему этот результат можно считать мультипликативным, аналогом представления (4.3.19), обобщением неравенства Адамара 7.8.1 или
трактовать как цепочку неравенств, связывающих теорему Рэлея— Ритца 4.2.2 с неравенством Адамара. Указание. Утверждение задачи в случае г = п эквивалентно неравенству 7.8.1. А в случае г=1? При 2^г^ц, привлекая (4.3.19), показать, что вектор [и'Аир и*Аи2, ..., и*Лиг]г мажорирует вектор [ць ц2, .. ., ^j7-, где ц, = X, при / = 1, 2, .. ., г — 1 и
цг = (и^Аи^ -f- ... -|- иг_^Аиг_^— (Xj -f- ... -р Xr_1)+ игАиг ^ urAur.
Теперь при помощи неравенства из задачи 11 убедиться, что
Г
X, ... Xr_vu*Aur^.Ци*Аи£.
Пусть А = [а,,] е М„— эрмитова матрица с неотрицательными собственными значениями 0 ^ Xi ^ Х2 ^ ... ^ Х„. Проверить, что для каждого г =1,2, ..., п произведение Xi ... Хг не превосходит произведения г наименьших элементов главной диагонали матрицы А.
Пусть матрицы А,ВеМП эрмитовы и все собственные значения матрицы А—В неотрицательны. Установить неравенство Х,(Л) ^ Х,(В) для любого i = 1,2, ..., п.
Использовать следствие 4.3.18 для обоснования теоремы 4.3.26. Указание. Переставляя строки и столбцы, перейти к матрице Л = [а,/], у которой йц<а22С ■•■ ^Qnn. Полагая U = [ei ег ... ег] е МП, г, получим соотношения
Xj (А) + • • • + Хг (Л) ^ tr 7/ AU = аи -f- ... -|- arr.
Пусть матрица А е М„ эрмитова, Xi ^ ... ^ Х„— ее собственные значения и X,, i ^ ... ^ X,, „-1— собственные значения ее главной (п—1)Х(«—1)-подматрицы А ({/}'). Показать, что
Xi X X;, 1 X Х2 X Х(, 2 X • • • X X;, n_Y X Х„.
Эти неравенства разделения часто приписывают Коши. Удостовериться также, что из этих неравенств следуют неравенства теоремы 4.3.15. Указание. Использовать теорему 4.3.8 или теорему 4.3.15.
Пусть A = [alf] е Мп — эрмитова матрица, и пусть а„ = Хп для некоторого номера I. Установить, что ant = ан = 0 для всех к = 1,2, .... п, k=£i. Проверить аналогичное утверждение в случае ап = Хь Указание. Провести явные вычисления при п = 2 и применить идею разделения.
Пусть А е Мп — эрмитова матрица и at = det А ({1, 2, ... ..., /}), i = 1, 2, ..., п. Доказать, что у матрицы А столько отрицательных собственных значений, сколько раз меняется знак
в последовательности + 1,аь а2, ..., ап при условии, что все аи отличны от 0. В частности, отрицательные собственные значения вообще отсутствуют, если все эти главные миноры положительны. Что происходит в случае, когда некоторые из определителей а; равны нулю? Указание. Использовать разделение.
Показать, что среди собственных значений нормальной матрицы А=Ца^еМ„ обязательно присутствуют «малые», если А содержит «малые» столбцы или строки. Дадим более точную формулировку. Рассмотрим множество {|^-|2: i = = 1, ..., п} квадратов модулей собственных значений матрицы А. Элементы этого множества упорядочим по неубыванию и обозначим через Oi ^ Уг ^ Уз ^ ••• ^ ул. Множество
сумм квадратов модулей элементов в строках также упорядочим по неубыванию и обозначим его элементы через R\ ^ Ri ^ ... •. • < Rn. Тогда
£ У;< £ Ri- &= 1«•
1=\1^1
Получить такую же оценку сверху, привлекая столбцовые суммы. Указание. Числа и, являются собственными значениями эрмитовой матрицы АА*. Чему равны элементы главной диагонали матрицы ДД*? Использовать мажоризацию и теорему 4.3.26. В случае столбцовых сумм рассмотреть матрицу ДД*.
Дополнительная литература *)
Дальнейшие результаты о мажоризации можно найти в книге [МО1]. Общие неравенства разделения с участием собственных значений главных подматриц (приведенные вслед за теоремой 4.3.10) обсуждаются в работе: Johnson С. R., Robinson Н. А. Eigenvalue Inequalities for Principal Submatrices. — Lin. Alg. Appl., 1981, v. 37, p. 11—22. В рассуждениях, намеченных в за
') Обратная задач на собственные значения, разрешимость которой устанавливает теорема 4.3.10, рассматривается в книге: Шилов Г. Е. Математический анализ. Конечномерные линейные пространства.— М.: Наука, 1969, с. 324— 325. Дополнительные результаты для частного случая трехдиагональных матриц содержатся в книге: Парлетт Б. Симметричная проблема собственных значений.—М.: Мир, 1983. Явные формулы для квадратов компонент окаймляющего вектора из доказательства теоремы 4.3.10 неожиданно нашли применения в теории методов типа Ланцоша, см. монографию: Князев А. В. Вычисление собственных значений и векторов в сеточных задачах: алгоритмы и оценки погрешности, — М.: ОВМ АН СССР, 1986. — Прим, перев.
даче 4, мы следовали оригинальному доказательству из работы: Weyl Н. Das asymptotische Verteilungsgesetz, der Eigenwerte linearer partieller Differentialgleichungen (mit einer Anwendung auf die Theorie der Hohlraumstrahlung.— Math. Annalen, 1912, v. 71, p. 441 ff; см. доказательство леммы на с. 444—445. Вейль сформулировал и доказал свой результат для интегральных уравнений, однако перевод на язык линейной алгебры не вызывает затруднений.
Комплексные симметричные матрицы
Матрица А е Мп симметрична, если А = Ат. Во многих случаях изучаемые матрицы не только симметричны, но и вещественны, следовательно, это вещественные эрмитовы матрицы, к которым применимы все приведенные выше в этой главе результаты.
Однако в некоторых ситуациях приходится сталкиваться с комплексными симметричными матрицами, например при изучении регулярных аналитических отображений единичного круга в комплексную плоскость. Если /(г) — регулярная аналитическая функция на единичном круге, нормированная условиями f(0)=0 и Г(0)= 1, то для однолистности функции /(г) необходимо и достаточно, чтобы неравенство
У, ^/logi. /=1У, ^/logi. /=1>-М/>-М/У x{Xj log Г-уУ x{Xj log Г-уг. - г.г. - г.
У, ^/log
i. /=1
У, ^/log
i. /=1
>-М/
>-М/
У x{Xj log Г-у
У x{Xj log Г-у
г. - г.
г. - г.
(4.4.1)
(4.4.2)(4.4.2)выполнялось для всех точек z\, ..., гпеС при |г,|-< 1, всех точек X], ..., хп е С и всех п = 1, 2 ... / Если z, = z;, то отношение разностей в правой части следует заменить на производную f'(.Zi). Эти громоздкие неравенства, известные как неравенства Грунского, допускают очень простую алгебраическую запись
(4.4.2)
(4.4.2)
х* Ах ^ [ хтВх [,
где х = [х,]ГеСп, А = \аи\е Мп, В=\Ьи\еМп,
аИ=Х^-^ТГ'аИ=Х^-^ТГ'btj = logbtj = logzizI f(zz)-f(z/)-| zi~zt J
аИ=Х^-^ТГ'
аИ=Х^-^ТГ'
btj = log
btj = log
Заметим, что A — эрмитова, a В — комплексная симметричная матрицы.
Другой пример, когда естественно возникает комплексная симметричная матрица, связан с проблемами моментов. Пусть
заданы последовательность комплексных чисел (ай, ах, а2, ...} и натуральное число п. Положим Д2п = [Дц] ” [°>+/1G ^зп и заметим, что А2п является комплексной симметричной матрицей. Матрицы такого вида называют ганкелевыми. Рассмотрим комплексную квадратичную форму хтА2пх для хеО и зададимся вопросом, существует ли такая фиксированная константа с>0, что
| хт А2пх | ^ сх*х для всех хаС2" и всех п=1, 2
Согласно теореме Нехари, это условие выполнено тогда и только тогда, когда существует измеримая по Лебегу и почти всюду ограниченная функция F(,ty. R~>C, коэффициенты Фурье которой совпадают с данными числами а0, «1, а2Существенная граница для F(z‘) в точности равна константе с в предыдущих неравенствах.
Комплексные симметричные матрицы, по-видимому, встречаются в приложениях значительно реже, чем комплексные эрмитовы (или вещественные симметричные) матрицы, однако они все-таки встречаются, в чем убеждают предшествующие примеры. Комплексная симметричная матрица может не быть диагонализуемой (см. задачу 15 в конце данного параграфа), тем не менее комплексные симметричные матрицы допускают разложения, аналогичные разложению в спектральной теореме 4.1.5 для эрмитовых матриц, и логическая схема доказательства остается той же. Вначале мы докажем аналог теоремы Шура 2.3.1 об унитарной триангуляризации, гласящий, что любая матрица из некоторого класса, содержащего и симметричные матрицы, всегда может быть представлена' в виде А = = U\UT, где U — унитарная матрица, а А — верхняя треугольная матрица. Симметричная верхняя треугольная матрица обязана быть диагональной.
Теорема. Пусть задана матрица А е Мп. Необходимым и достаточным условием существования унитарной матрицы U е Мп и верхней треугольной матрицы А е Мп, таких, что А = = UMJT, является неотрицательность собственных значений матрицы АА. При этом условии можно подобрать диагональную матрицу А с неотрицательными диагональными элементами.
Доказательство. Если A = UMJT, то AA==UMJTUMJ*=U\MJ*, поскольку матрица U унитарна и UT~U*. Элементы главной диагонали верхней треугольной матрицы АА неотрицательны, какова бы ни была верхняя треугольная матрица А, а матрица АА унитарно подобна матрице АА. Тогда необходимость условия теоремы следует из того факта, что собственные зна-
чения верхней треугольной матрицы в точности равны элементам ее главной диагонали.
Обратно, пусть все собственные значения матрицы АА неотрицательны. Пусть х — собственный вектор матрицы АА, т. е. ААх = Хх, где Х^О и х#=0. Имеются две возможности:
векторы Ах и х линейно зависимы либо
векторы Ах и х линейно независимы.
В первом случае (он обязательно реализуется '), если X — простое собственное значение матрицы АА) существует такое число цеС, что Ах = цх. Следовательно, ААх = Лцх = цЛх = = ццх = | ц |2х = Хх и имеет место равенство | ц |2 = X. Во втором случае (который может осуществиться при кратном соб. ственном значении Л матрицы АА) вектор у = Ах А ^х является ненулевым для всех це С, Выберем в качестве ц произвольное комплексное число, удовлетворяющее условию | ц |2 = р.р.=Л.. Тогда Ау = А(Ах + цх) = ААх + р,Ах = Хх + р,Лх = цр,х+ р.Ах = = р (Ах + цх) = (iy. В каждом из вариантов (а) и (6) мы доказали существование некоторого ненулевого вектора и = Сп и некоторого числа йеС, подчиненного условию [а[2 = Х, таких, что Av = av. Поскольку это равенство сохраняет силу при умножении вектора и на произвольный положительный скаляр, можно считать вектор и единичным. Кроме того, при каждом вещественном 6eR справедливы равенства e~i9Av = А (е‘°и) = = e-i6av =(e-2i9a) (е*еи) и вектор е‘еи будет единичным вектором, если и — единичный вектор. Можно выбрать 0 так, чтобы е~2‘еа ^ 0; тогда последнее равенство позволяет прийти к следующему заключению. Если задана матрица АеМ„ и X— неотрицательное собственное значение матрицы АА, то существует такой единичный вектор и, что Av = ov, где о = + -^Х ^0.
Теперь дополним этот вектор и до ортонормированного базиса {и, и2, • ■■, Ул} пространства С" и обозначим через Ei унитарную матрицу, столбцы которой совпадают с векторами этого базиса. Элементы первого столбца матрицы VlAVi равны и*Ли = аи*и = оби в силу ортонормированности базиса и соотношения Av = сги. Таким образом, все элементы в первом столбце матрицы ИГЛЕ], кроме первого, должны обращаться в нуль (первый элемент также может быть нулевым). Если записать эту матрицу в следующем блочном виде:
- Г cr wT 1„ ■■„ ,
КГЛК1= n ., w е С \ А2^Мп_х, с>0,(4.4.3а)
’) См. задачу 9 в конце данного параграфа. — Прим, перев.
ТО_
_ _ ;_, _ Г о2 awT + шгД2
(К[АК1)(КГАК1):=К1ААК1 =-
L 0/12^2
Таким образом, множество всех собственных значений (неотрицательных по предположению) матрицы АА составлено из числа о2 и множества собственных значений матрицы А2А2. Отсюда заключаем, что матрица А2 е Мп-\, полученная в этом процессе редукции, также обладает тем свойством, что все собственные значения произведения А2А2 неотрицательны.
Процесс редукции теперь может быть продолжен с матрицей А2 и ее преемниками, самое большее, п—1 раз (как в доказательстве теоремы Шура 2.3.1 об унитарной триангуляри- зации), и в результате получится равенство
О! * 1
где А — верхняя треугольная матрица с неотрицательными элементами Gt на главной диагонали. Полагая t/=ViV2 ■•■ Кл-ь получаем требуемое представление А = UMJT. □
Упражнение. Провести явно выкладки доказательства теоремы 4.4.3 для матрицы А = [ _, j ] и убедиться, что А = UMJT, где
Г О 2Z 1 J Г 1 г 1Л = [о oj’ U = 1]'
При п > 2 не каждая матрица А е Мп обладает тем свойством, что все собственные значения произведения АА неотрицательны, простой пример тому — матрица А = [_°*]. Таким образом, теорема 4.4.3 является только частичным аналогом теоремы Шура 2.3.1 об унитарной триангуляризации. Каждая матрица А е Мп может быть приведена к треугольному виду преобразованием A->UAU* с унитарной матрицей U е Мп, но только матрицы А е Мп, у которых собственные значения произведения АА неотрицательны, могут быть триангуляризованы преобразованием вида A->UAUT с унитарной матрицей ПеЛК.
Для каждой симметричной матрицы А е Мп, однако, все собственные значения матрицы АА = АА* будут неотрицательны. Утверждение, в которое переходит теорема 4.4.3 в этом цастном случае, обычно приписывают Шуру (1945 г.), но еще
ранее его доказали Хуа (1944 г.), Зигель (1943 г.) и Якобсен (1939 г.) Исторический приоритет следует, по-видимому, отдать Такаги (1925 г.).
Следствие (разложение Такаги). Если матрица АеМп симметрична (Л=ЛГ), то существуют унитарная матрица U е Мп и неотрицательная диагональная матрица X — = diag(ab ..., ап), такие, что А = иъит. Столбцы матрицы U образуют множество ортонормированных собственных векторов матрицы АА, и соответствующие диагональные элементы матрицы X являются неотрицательными квадратными корнями из собственных значений матрицы АА, отвечающих этим собственным векторам.
Доказательство. Если А = Ат, то А = А* и АА = АА*. Пусть х =# 0 — произвольный собственный вектор эрмитовой матрицы АА*, т. е. АА*х = 'кх. Тогда х*'кх = 7Дх*х^ = х* АА*х = = (А*х-)* (Л*х). Поскольку у*у^0 для всех векторов уеС" и у*у = 0 тогда и только тогда, когда у = 0, то & = (А*х)* ^А'х^х'х ^ ^ 0. Таким образом, все собственные значения матрицы АА неотрицательны, какова бы ни была симметричная матрица А. В силу предыдущей теоремы существуют унитарная матрица U е Мп и верхняя треугольная матрица A s Мп вида
где все элементы щ ^ 0, такие, что справедливо разложение А = UМД. Но тогда UMJT — А = AJ = UMUT. Следовательно, выполняется равенство А = М, которое может иметь место только для диагональной матрицы А, и эта диагональная матрица неотрицательна по построению. Наконец, разложение АА= U'ZIEU'MJ* = U^U* осуществляет унитарную диагонализацию эрмитовой матрицы АА; тогда столбцы матрицы U совпадают с собственными векторами произведения АА. □
Любая матрица вида UMJT с диагональной (не обязательно неотрицательной) матрицей Л, очевидно, симметрична; таким образом, необходимым и достаточным условием того, чтобы данная матрица АеМп допускала разложение A = UMJT = = UAU* = UAU~X с унитарной матрицей U и диагональной матрицей Л, является ее симметричность. В теореме 4.6.11 приводятся условия, при которых матрица А записывается в виде произведения А = SAS"1 с диагональной матрицей Л и невырожденной (но необязательно унитарной) матрицей S.
Каждую комплексную матрицу А е Мп можно записать в форме А = VSW*, где матрицы V, W е Мп унитарны и S — диагональная матрица с неотрицательными элементами. Это сингулярное разложение, обсуждаемое в § 7.3. Диагональные элементы матрицы S называют сингулярными числами матрицы А. Разложение Такаги А = U^UT симметричной (быть может, комплексной) матрицы можно рассматривать как частный случай сингулярного разложения симметричной матрицы, в котором V = w. ’
Алгоритм вычисления разложения Такаги комплексной симметричной матрицы по существу описан в доказательстве теоремы 4.4.3. Получаемая матрица А автоматически окажется диагональной вследствие симметричности матрицы А. См. задачу 9 в конце данного параграфа.
Упражнение. Провести явно вычисления из доказательства теоремы 4.4.3 для матрицы А = [, ‘ ] и показать, что A = UAUT, где _ _
Л Г V2 0 1 , Г1 + V2 i 1
L О V 2 J V4 + 2 V2 L i 1 + V2 J Матрица А получается здесь диагональной сама собой.
Поскольку столбцы унитарного сомножителя U в разложении Такаги А = W£UT совпадают с собственными векторами эрмитовой матрицы АА, напрашивается следующее предположение: если задана унитарная диагонализация АА = U^U*, то А = U^U1. Это предположение неверно, в чем можно убедиться на примере матрицы А = [, ц]. Имеем АА = 1\ тогда разложение АА = QPQ1 справедливо для произвольной вещественной ортогональной 2 X 2-матрицы Q, однако QIQT = I=#A. Суть дела здесь в том, что матрица АА имеет кратное собственное значение, поэтому произвольный собственный вектор х матрицы АА может не подчиняться условию Ах = ах. Наличие такого собственного вектора не позволяет получить желаемую редукцию матрицы А. Например, рассмотрим базисный вектор ер, тогда ААе\ = Ie\ = Ui, но Аё\= Ае\ = ег. Тем самым мы приходим к варианту (Ь) в доказательстве теоремы 4.4.3. В соответ
ствии с последующими рассуждениями в этом доказательстве можно положить w = Aei + lei = ег + е\ и получить вектор и = &! = (&! +^2)/V2. который позволяет провести редукцию матрицы А. Учитывая ортогональность векторов w2=(ci — e2)/V2 и vlt можно взять
1 Г111
V2 L1 -1J
и получить
VTAV =VTAV =1 °1 Г1 01Г1 °го — 1 J= L о 1 ][0 i J =
VTAV =
VTAV =
Следовательно, полагая
приходим к подходящему разложению А = U1UT матрицы А, Заметим, что в разложении Такаги (см. следствие 4.4.4) вещественной симметричной матрицы сомножители могут не быть вещественными.
Только что рассмотренный пример иллюстрирует трудности, связанные с наличием у матрицы АА кратных собственных значений. Пусть теперь все собственные значения матрицы АА различны. Если использовать метод из доказательства теоремы 4.4.3 для вычисления разложения Такаги комплексной симметричной матрицы А, то всегда будет осуществляться вариант (а). (См. задачу 9.) В этом случае каждый собственный вектор х матрицы АА удовлетворяет равенству Ах = ах для некоторого числа а е С, такого, что а = ое2'6, 6 е R и ААх= о2х. Таким образом, если задано разложение АА = VS2V*, т. е. унитарная диагонализация эрмитовой матрицы АА, то AV = E2Z)2, где D2^ diag (е"‘01£z‘9"); это равенство можно использовать
для нахождения диагональных элементов матрицы D2, отвечающих ненулевым диагональным элементам матрицы 2, по заданным матрицам V и 2 (т. е. неотрицательному квадратному корню из 22). Элементы матрицы D2, отвечающие нулевым элементам матрицы 2, произвольны и их можно положить равными + 1. Наконец,
А = AVVT = VSD2Vr = (EZ)) 2 (VD)T = UW, если положить U = VD и D = diag (e10*, ..., е1йп\ Теперь сформулируем результаты этих наблюдений в виде следствия.
Следствие. Пусть матрица А е Мп симметрична и собственные значения матрицы АА различны. Если АА =y2?V* — унитарная диагонализация матрицы АА, где 2 = diag(oI, . ,.,а„) и все at больше или равны 0, то существует такая диагональная матрица D = diag(el9‘, ..., е19ц\ где все 6; лежат в R, что справедливо разложение A = UhUT с матрицей U = VD. Диагональные элементы множителя D, отвечающие ненулевым диагональным элементам 2, определяются соотношением AV = V2D2;^
диагональные элементы матрицы D, отвечающие нулевым диагональным элементам 2, можно положить равными +1.
Симметричную матрицу А е Мп можно при помощи следствия 4.4.4 записать в виде А = Ш1]Т. Это разложение допускает также такую эквивалентную запись: А = ^U^12^ (Е731/2> , где S1/2 = diag(+V^b + Va2, •••, +Vffn)- Тем самым доказано
Следствие. Пусть А е Мп. Матрица А симметрична тогда и только тогда, когда существует матрица S s Мп, такая, что А = SSE Возможен выбор S = UD, где матрица U унитарна, D = diag(+ V*7!, +Vcr2, •••> +^Оц) и (о Л — множество всех сингулярных чисел матрицы А; в этом случае rank S = rank А.
Хотя вещественная симметричная матрица нормальна, невещественная комплексная симметричная матрица может не обладать этим свойством. Если А = В + 1С е Мп, где матрицы В и С вещественны, то матрица А симметрична в том и только в том случае, когда В и С — вещественные симметричные матрицы. Если матрица А одновременно симметрична и нормальна, то
АА* = (В2 + С2) + i (СВ - ВС) = (В2 + С2) + t (ВС - СВ) = А*А,
откуда вытекает, что матрицы S и С коммутируют. В этом случае S и С одновременно диагонализуемы посредством вещественной ортогональной матрицы Q. Запишем разложения B = QDvQr, C = QD1QT, где Dx и D2— вещественные диагональные матрицы. Тогда А = B-\-iC=QDvQT A-iQD2QT=Q ^DVA-ID2) QT= = QAQT, где A = DvA-iD2. Обратно, если матрицу А е М„ можно записать в виде A = QAQr с некоторой вещественной ортогональной матрицей Q и некоторой диагональной матрицей А, то А = АГ и А А* = QAQrQAQ7'=Q| A pQr=QAQrQAQ7" = А*А, т. е. матрица А одновременно симметрична и нормальна. Тем самым доказана следующая теорема.
Теорема. Пусть задана матрица A е Мп. Она одновременно симметрична и нормальна тогда и только тогда, когда существуют вещественная ортогональная матрица QsAjn(R) и диагональная матрица Л е Мп, такие, что А = QAQT.
Приведем полезный пример комплексной матрицы простого вида, которая одновременно симметрична и нормальна:
S = ^(2^iB)- <4Л*8)
Здесь В — перъединичная матрица: "0 г
1 ' о
которая возникла при доказательстве того, что каждая матрица подобна своей транспонированной, см. разд. 3.2.3.
В силу равенства В2 = 1
SS = 1(7 + ZB) (7 - iB) = 1(1 - /В + IB + В2) = 7.
Таким образом, матрица S одновременно симметрична и унитарна.
Теперь рассмотрим обычный жорданов блок 7*(0) с нулевой главной диагональю при /? ^ 2; запишем его в виде
“О 1 О"
^ =
Легко показать, что
О
1
О
eMfc.
“О
1 •
О"
О “ОО “О
О “О
О “О
BNB =
1 о_
О" 1
BN =
NB =
_0 1 "О
0_
1 0“
О
О
Следовательно, жорданов блок N унитарно подобен матрице
S^S"1 = SAS = - (/ + г'В) М (7 - /В) =
= 4^ + BNBH^<BN - NB) ="010“~0-1 0"
1 * 1' 1
1•••*
_01 о_ _ о 1 *0
которая, очевидно, является симметричной. Произвольный жорданов блок 1к(Х) при ^ ^ 2 имеет вид XI + N; тогда матрица
SI к (X) S"1 = S (XI + К) 8~1 = XI + SA'S"1
симметрична, так как симметрична SNS~X.
Каждая матрица А е Мп подобна жордановой канонической форме I вида (3.1.14) при 8 = 2. Эта форма I = 1пх (Аь 2) ф .. . .. . ф 1Пк (Xk, 2) есть прямая сумма модифицированных жорда' новых блоков 1П( (Xi, 2). Если ввести в рассмотрение н X п‘ матрицы Sn£ = (1/V2) (I + IB) е МП; типа (4.4.8) при и(^2 и матрицу Si = [l] и положить Т = 8П1 ф ... ф 8пк, то предыдущее рассуждение показывает, что
ТП"1 = тп = (SnJni (Хх, 2) 5П1) ф ... ф (SnkJnk (Xk, 2) SnJ.
Последняя матрица есть прямая сумма симметричных матриц/ и, следовательно, сама симметрична. Матрица Т унитарна, по/ скольку унитарно каждое слагаемое 8пг Таким образом, мы доказали, что каждая матрица, записанная в канонической жордановой форме, унитарно эквивалентна симметричной матрице. Поскольку любая матрица подобна своей жордановой форме, приходим к следующей теореме./
Теорема. Каждая матрица А е Мп подобна некоторой симметричной матрице.1
Фактически мы доказали, что каждая матрица подобна симметричной жордановой канонической форме Snx (Ai) ф ... ... ф 8пк(Хк), где
8к (X) = 81 к (X, 2) S = XI + 2S^S.
Поскольку эта форма получена из жордановой канонической формы, она определяется единственным образом в том же смысле, что и каноническая жорданова форма.
Из этого результата, в частности, следует, что спектр, жордановы блоки, минимальный и характеристический многочлены или инвариантные множители симметричных комплексных матриц не имеют никакой специфики. Возможные значения этих величин для симметричных матриц те же, что и для произвольных комплексных матриц такого же порядка. Каждый класс подобия в М„ содержит симметричную матрицу, каждому линейному преобразованию пространства С" соответствует симметричное представление в некотором базисе. Наличие симметрии в матрице— просто случайное явление, вызванное конкретным выбором базиса для представления данного линейного преобразования. Другой вывод из приведенного выше результата заключается в том, что каждая матрица «диагонализуема» в некотором смысле.
Следствие. Пусть задана матрица Ае.Мп. Тогда найдутся такие невырожденная матрица S и унитарная матрица U, что (US)A(US)-1 будет диагональной матрицей с неотрицательными диагональными элементами.
Доказательство. По теореме 4.4.9 существует невырожденная матрица S е ЛК, при которой матрица ЗЛЗ-1 симметрична. Далее, в силу следствия 4.4.4 имеется такая унитарная матрица Ue Мп, что матрица ЩЕАЗ-1') UT диагональна и неотрицательна. □
Из теоремы 4.4.9 следует также, что каждая комплексная матрица подобна своей транспонированной и может быть представлена как произведение двух комплексных симметричных матриц. Оба этих результата сохраняют силу для матриц над произвольным полем, но теорема 4.4.9 для произвольных полей уже неверна.
Следствие. Пусть задана матрица А е Мп. Тогда существуют такие матрицы В,СеМп, что В = ВТ, С = Ст и А = = ВС. Одну из матриц В или С можно выбрать невырожденной.
Доказательство. Теорема 4.4.9 гласит, что Д=5£5-1, где Е = Ет н S невырожденна. Тогда
А = (SESr) (Sr)~‘ S~l = (SESr) (SSr)~l = ВС,
где обе матрицы В = SEST и C = (SSr)-1 симметричны. В силу равенства А = (SST) (S-1) ТЕ5~' один из сомножителей В или С можно выбрать невырожденным. □
При изучении нормальных матриц широко применяется процесс Гамма-Шмидта. Имеется аналогичный процесс, полезный при изучении комплексных симметричных матриц.
Лемма. Пусть заданы векторы хь ..., хк^Сп и k^n. Тогда найдутся такие векторы ух, ..., ук, что Span{xp ..., хА} = Span {г/р ..., уД, ут.у! = 0 для всех I, j = = 1, 2, ..., /г, I ф j, yTiyi = 1 для г = 1, 2, ..., г и yTiyi = 0 для i=r + 1k, где r=rank ХТХ и столбцы матрицы Х=[х! ... xft]e е Мп>к — это данные векторы ^х^.
Доказательство. Матрица ХТХ симметрична и следствие 4.4.4 позволяет записать ее разложение Такаги ХТХ = UYUT, в котором матрица UeMn унитарна и 2 = diag(сть ..., ок\ ffi ^ ai ^ • • • ^ °г Д' ^г+1 = 0= ... = ок, где r_= rank ХТХ_. Вводя в рассмотрение матрицу Z) = diag(V^i^ап 1, ..., 1)еЛ1А и матрицу /r = diag(l, ..., 1,00)е Мк,
в которой на диагонали г единиц и к— г нулей, получаем разложение ХТХ = (UD) Ir(JJD)T = ST1 rS, в котором матрица S = DUT невырожденна. Таким образом, (aS-1)7(AS-1) = Ir. Следовательно, в матрице
XS-’ = T = [y1 ... ук\^Мп.к векторы-столбцы ух, ..., ук обладают всеми требуемыми свойствами, поскольку YTY = Л. □
В предыдущей лемме установлено правило, аналогичное по форме процессу Грама — Шмидта, с той разницей, что произведения вида Х*Х теперь заменены на ХТХ. Однако в процессе Грама — Шмидта каждый вектор у, может быть получен как линейная комбинация векторов хх, ..., X; при /‘=1,2, . .., к, что не всегда возможно в данном аналоге. Еще одно различие проявляется в том, что число векторов уь для которых y‘yi = 1, в процессе Грама — Шмидта равно rankX (т. е. максимальному числу линейно независимых векторов х,), что всегда совпадает с rankX*X. В симметричном аналоге процесса Грама — Шмидта, однако, число векторов yit для которых y^yt = 1, равно гапкХ^Х, что может быть меньше, чем rankX.
Пример. Пусть к =1 и x1=X = [J]. Тогда ХТХ = (У, следовательно, 0 = rankA7^, что строго меньше, чем гапкХ=1. Вектор ух может отличаться от вектора хх только скалярным множителем; поэтому нельзя выбрать ух так, чтобы Span{x1} = = Span{?/,}, у\ух = \.
Пример. Пусть 6 = 2 и X = [xb x2] = [J ']. В этом случае гапкХгХ = 2 и существуют векторы уь уъ такие, что Span {t/p у^ = Span {хр х2}, y\yv = 1 = У^У^ Поскольку х^х^ = О, нельзя выбрать вектор ух так, чтобы он отличался от хх лишь скалярным множителем.
' Формулируя лемму, мы имели в виду применить ее к частному случаю диагонализуемых комплексных симметричных матриц. Если А = Ат е Мп и задано разложение А = SAS~‘ с диагональной матрицей Л е Мп и невырожденной матрицей SeMn, то по нему трудно установить, будет ли матрица А симметричной. Однако когда комплексная матрица S ортогональна, то S^1 = ST и матрица А = SAS-1 = SAST, очевидно, симметрична. В следующей теореме показано, что всегда можно выбрать матрицу S комплексной ортогональной.
Теорема. Пусть матрица ЛеД симметрична. Тогда она диагонализуема в том и только в том случае, когда она комплексно ортогонально диагонализуема, т. е. А = SAS-1 с диагональной матрицей Л е Мп и невырожденной матрицей S е М„ тогда и только тогда, когда А = QAQT, где матрица Qe Мп подчинена условию QTQ = /.
Доказательство. Предположим, что А = Ат, и обозначим через х, уеСп собственные векторы матрицы А, такие, что Ах = Хх, Ау = ру. Если Х^р, то утАх = утХх = Хутх, утАх = = (АуУ х — {руУ х = уутх. Таким образом, Хутх = ууГх и утх = 0, поскольку X ^ ц. Здесь просто применяется принцип биортогональности 1,4.7 для симметричных матриц. Если матрица А диагонализуема и A = SAS-1, то, не теряя общности, можно считать равные собственные значения матрицы А сгруппированными вместе. Тогда A = At©...©Ad, где Az = = ХДеМп., пх + ... -V п4 — п и Xl=/=Xi при /=/=/. Произведем разбиение столбцов матрицы S = [sz ... sj = [SiS2 ■■■ S^l в соответствии с представлением А = Л( ® ... © А4, так что
л, п^л, п^, Z= 1, 2d. В силу свойства биортогональности
л, п^
л, п^
5Г5, = 0гМп пI /П,. п.5Г5, = 0гМп пI /П,. п.при I ^ }. Кроме того, каждая матрица S[S
5Г5, = 0гМп пI /П,. п.
5Г5, = 0гМп пI /П,. п.
Z=l, 2d, невырожденна, поскольку блочно-диагональная матрица SrS невырожденна. Таким образом, каждая матрица Sz имеет полный ранг; поэтому, согласно лемме 4,4.12, ее столбцы можно заменить их линейными комбинациями, представляющими ортонормированную систему (в смысле скалярного произведения (х, у^ = утх\ Другими словами, найдутся такие невырожденные матрицы Rt е МП1, что произведения Qt s S,Rt
будут подчиняться условию QTQt= R^S^StR,™ / е Мп . Учитывая равенства Q^Q, = R^STSjRj = 0 для всех i ^ j и AQt = = ASlRl = a^R, =/^Ch для всех t = 1, 2,..., d, Заключаем, что матрица Q = [Q1 ... Qd] е Мп комплексная ортогональная и Д = <Ж>Г. □
Представляет интерес формулировка данного результата, объединенного с теоремой 4.4.7: симметричная матрица А диа- гонализуема тогда и только тогда, когда возможно разложение А = QAQT с комплексной ортогональной матрицей Q, и нормальна тогда и только тогда, когда в этом разложении можно выбрать Q вещественной ортогональной матрицей.
Теорема 4.4.13 допускает следующее обобщение. Если матрицы А,ВгМп симметричны, то они подобны в том и только в том случае, когда это подобие осуществляется посредством ортогональной матрицы. В действительности это верно при более слабых условиях существования такого многочлена р^, что Дг = р(Д), Sr = p(S). См. [Ш].
Задачи
Пусть матрица А е Мп симметрична и А = В + iC, где обе матрицы В, Се Мп вещественны. Показать, что матрица А нормальна тогда и только тогда, когда матрицы S и С коммутируют, а также тогда и только тогда, когда матрица АА вещественна, и тогда и только тогда, когда матрицы А и А коммутируют. Привести пример симметричной матрицы, не являющейся нормальной.
Восполнить детали в следующем наброске другого доказательства следствия 4.4.4. Используются обозначения и предположения этого следствия. Если матрица А вырожденна, обозначим через (щи^ ортонормированный базис ее нуль- пространства и выберем унитарную матрицу
^ — [wi ■ • • wAuA+1 ... u„] е Мп.
Тогда
Г 0 0 "1
= А'Г А'еМп-^
где А'—невырожденная и симметричная матрица. Таким образом, без потери общности можно предположить невырожденность матрицы А. Пусть в разложении А = В + 1С матрицы В и С вещественны, и пусть задан вектор 2 = х + 1уеСп, где х, у <= R". Положим ^ = [с -в]>
'(a) S, С и F— вещественные симметричные матрицы. Уста
новить связь между векторами Az = (B -j- iC) (х + iy) и Fz.
■(Ь) Матрица F невырожденна. Указание. Если Fz = 0, то
чему равен вектор Дз?
Если ^[_у] = А[_у], то ^[х] = — ^[х]- Тем самым ненулевые собственные значения матрицы F можно объединить в пары: в каждой паре будут числа, равные по абсолютной величине, но с противоположными знаками.
Ортонормированные собственные векторы матрицы F, отвечающие положительным собственным значениям Ль ..., Хп, обозначим через з£ = е R2", z=l, 2, ..., п, и введем в рассмотрение матрицы X = [Xj ... xj, У = [у1 ... у^, 2 = diag(Zb ..., XJ е Мп. По спектральной теореме для вещественных симметричных матриц F = V NVT, где У = [_у j], Л = [о_2], причем V — вещественная ортогональная матрица (почему?). Положим U = X— IY. Убедиться, что матрица U унитарна и что U^UT = А.
Что утверждается в следствии 4.4.4 для вещественной симметричной матрицы Д? Как это утверждение соотносится с обычной спектральной теоремой для вещественной симметричной матрицы? Указание. Пусть Д = QAQT, где Л — вещественная диагональная матрица и Q — вещественная ортогональная матрица. Запишем Л = Y-D2, и пусть U = QD. В каком случае все сомножители в разложении Такаги A = U'LUT можно считать вещественными?
Пусть А = U'XU1 г Мп, где матрицы U и S подчинены требованиям следствия 4.4.4. Проверить прямыми вычислениями, что числа а* (квадраты диагональных элементов матрицы S) являются собственными значениями матриц АА и АА и что эти матрицы эрмитовы. Показать, что столбцы щ матрицы U и числа щ удовлетворяют условиям Дй,-= щщ, z = 1, 2, ..., п. Вероятно, в связи с последним фактом величины сг, иногда называют обобщенными собственными значениями, однако термин сингулярные числа, по-видимому, употребляется чаще.
Пусть матрица А е Мп симметрична, задано разложение с матрицами 2 и U, как в следствии 4.4.4, и сингулярные числа Qi упорядочены по возрастанию: 0 ^ щ ^ <Тг ^ ... ^ sn.
Модифицируя доказательство теоремы Рэлея — Ритца 4.2.2, установить справедливость равенства
|хт Ах |
Отах = о„ = max - ч -,х + О Л Лхе Сп
которое является комплексным симметричным аналогом оценки сверху в теореме 4.2.2. Привлекая к рассмотрению первый стол-
бец матрицы U, убедиться в том, что максимум здесь достигается на некотором ненулевом векторе х, удовлетворяющем условию Ах = опх.
Взяв матрицу А = I е М2 и вектор x = [l Z]r, проверить, что в общем случае
',.|хтАх|
Omln— Ф 7= ГПШ -^—,
х ^ 0, хе Сп
т. е. нижняя граница в теореме 4.2.2 не имеет комплексного симметричного аналога.
- (с) Показать, что при А = I е М2 и w ^[1 Z]r верно равенство
■х ^ о Л Л
х ± ш хе с"
Вывести отсюда заключение, что для сингулярных чисел комплексных симметричных матриц при к > 1 отсутствует аналог принципа минимакса Куранта — Фишера (4.2.12).
Что можно сказать о симметричном аналоге формулы (4.2.13) для максимина?
Пусть из матрицы А = [ ^ , ] с сингулярными числами а, — б2 = ^2 образована путем вычеркивания последних строки и столбца матрица Л=[1] с сингулярным числом Q] = 1. По аналогии с (4.3.9) можно выписать неравенства разделения 51 ^ Qi ^ о2, однако здесь они теряют силу. Таким образом, теорема 4.4.8 не переносится на сингулярные числа комплексных симметричных матриц.
Сингулярные числа окаймленной симметричной матрицы все же можно оценить. Пусть из матрицы А е М„+1 с сингулярными числами а, ^ ... ^ ап+1 матрица А е М„ с сингулярными числами Qi ^ ... ^ а„ получена исключением строки и соответствующего столбца. Используя теорему 7.3.9, доказать, что 5Л+1 2$ а„ ^ а„_ь а„ Ds crrt_ j Ds б„_2,,.. ., о3^ о2^ Ох, б2 ^ Oj^ ^0. Проверить последнее из этих неравенств для примера из (е). Сопоставить эти соотношения с неравенствами разделения (4.3.9) для собственных значений окаймленной эрмитовой матрицы.
Пусть матрица А еМп симметрична и задано разложение А = U5>UT с унитарной матрицей U и диагональной матрицей S = diag(oI,o2On), где все числа а,- больше или равны 0. Показать, что rank Л равен числу ненулевых значений о,. Указание. Если матрицы В, СеМ„ невырожденны, то rank Л = = rank ВАС.
Пусть А = В + iC е Мп, где матрицы В, С вещественны, “ ^ = [с Л^^2П. _
Показать, что А А = В2 + С2 + i (ВС — СВ) и
Г В2 4- С2 ВС — СВ1 L-(вс-св) в^ + с2 г
Показать, что матрица £ = (1/д/2)[ _/7 “’/] унитарна.
Установить равенство №3* = l^ ^-J-
Вывести заключение, что множество квадратов собственных значений матрицы F составлено из собственных значений матрицы АА, повторенных дважды.
Доказать для случая комплексной симметричной матрицы А, что матрица F вещественная симметричная с вещественными собственными значениями, что все собственные значения матрицы F2 неотрицательны и что множество квадратов собственных значений матрицы F совпадает с множеством собственных значений эрмитовой матрицы АА.
Пусть задана комплексная симметричная матрица А г Мп и рассматриваются связанные с ней квадратичная форма qA (х, х) = хтАх и билинейная форма ЬА (х, у) = хтАу. Привлекая следствие 4.4.4, установить равенства
sup \qA(x, х)|= sup | bA (x, у)| = <ттах(Л), X*X=1X*I-I
'y*y-i-
где <Ттах(А)— наибольшее сингулярное число матрицы А (равное арифметическому квадратному корню из наибольшего собственного числа матрицы АА).
Доказать следующие два утверждения, сформулированные в обозначениях доказательства теоремы 4.4.3.-
В случае простого собственного значения X матрицы АА всегда осуществляется вариант (а) доказательства теоремы 4.4.3. Указание. Пусть вектор х #= О удовлетворяет условию ААх = Хх, и пусть cr==_+V^- и w=Ax— сгх. Установить равенства Aw =—crw, AAw = Xw, означающие, что вектор w отличается от х лишь скалярным множителем.
Если А = АТ, то Vf AV \ = [сг] © Л2, т. е. вектор-строка wT в варианте (а) доказательства теоремы 4.4.3 нулевая. Основываясь на этом факте, доказать, что матрица Vn-\ ... V Г AV 1V2 • •. ... Уп_1 = U*AU = N автоматически оказывается диагональной.
Пусть для матрицы А е Мп существует такая невырожденная матрица SeMn, что А = SAS”1, где А = diag(Xb ...
..,, Хп). Убедиться, что матрица АА диагонализуема, все ее собственные значения неотрицательны и rank А = rank АА. Какое отношение это имеет к следствию 4.4.4? Проверить, что ни одна из матриц [о о], [ i ~}] не можёт быть записана в указанной форме.
Пусть задана матрица SeM,. Установить справедливость неравенства rank S'S ^ rank S и удостовериться, что оно может быть строгим: rank SrS < rank S. Что будет в случае вещественной матрицы S? Указание. Для примера взять матрицу s = [^].
Показать, что собственные векторы х, уеС" комплексной симметричной матрицы АеМп, отвечающие различным собственным значениям, удовлетворяют соотношению хту = 0. Означает ли это ортогональность векторов х и у? Указание. Привлечь равенство хт(Ау) = (Дх) ту.
Дать прямое доказательство того, что симметричная матрица А е Мп с п различными собственными значениями допускает разложение вида А = SDST с невырожденной матрицей S е Мп и диагональной матрицей D. Указание. Матрица А приводится к диагональной Л = ЗДЗ"1. В силу утверждения задачи 12 матрица (З-1)^-1 также диагональна, а тогда и произведение (З-'ДДЗ"1 ^S-’/S-'A = D— диагональная матрица и А = SDST. Провести дополнительные рассуждения, показывающие, что имеет место разложение типа А = QAQT с комплексной ортогональной матрицей Q.
Убедиться, что для симметричной невырожденной матрицы А е Мп обратная к ней А-1 также симметрична.
Вещественная симметричная матрица эрмитова и, следовательно, диагонализуема. Показать, что комплексная симметричная матрица может не быть диагонализуемой. Указание. Рассмотреть матрицу А = [ \ _,] и вычислить А2.
Пусть А е Мп. Доказать, что матрица А одновременно симметрична и унитарна тогда и только тогда, когда она допускает разложение вида А = QAQr, в котором QeMJR) — вещественная ортогональная матрица и A = diag(A,b . ..,Хп) = = di ag (е1®1, ..., е19'1), где | Xk | = 1 и 9& е R при k = 1, 2, ..., п.
Применяя результат задачи 16, доказать, что матрица U е Мп одновременно унитарна и симметрична тогда и только тогда, когда U = VVT с некоторой унитарной матрицей V е Ма.
Мы доказали ранее, что каждая матрица А е Мп подобна некоторой симметричной. Подобна ли каждая матрица некоторой эрмитовой? Нормальной?
Опираясь на теорему 4.4.9, установить, что каждая матрица подобна своей транспонированной. ■
Убедиться, что теорема 4.4.9 неверна в случае поля вещественных чисел, т. е. не каждая вещественная матрица ЛеЛ4л(К) подобна некоторой вещественной симметричной матрице.
Собственный вектор у комплексной симметричной матрицы Л может быть изотропным, т. е. подчиняться условию ити = 0. Пусть Av = Хи, у =# 0, vTv = 0 и матрица А диагона- лизуема. Показать, что собственное значение X не может быть простым. Указание. Записать разложение Л=5Л5-1, где первый столбец матрицы S есть вектор у. Заключить, что матрица STS вырожденна, поскольку ее первая строка содержит только нули. В частности, если уеС”— произвольный ненулевой вектор, подчиненный условию ити 0, то симметричная матрица (ранга 1) Л = vvT не приводима к диагональному виду. См. задачу 15.
Заново доказать следствие 4.4.4, развивая следующие идеи (по существу это набросок доказательства Зигеля (1943 г.)). Здесь сохранены обозначения и предположения следствия 4.4.4.
Матрица АА эрмитова, поэтому существуют унитарная матрица V s Мп и вещественная диагональная матрица Л е Мп, при которых ЛЛ = УЛУ*.
Матрица V*AV = В одновременно симметрична и нормальна; тогда в силу теоремы 4.4.7 найдутся вещественная ортогональная матрица QsMrt(R) и диагональная матрица АеМ„, такие, что B = QXQT.
Л = (^)А(тЛ-
Теперь представление А = Е£ЕТ, где матрицы Е, S диаго- нальны и 2 неотрицательна, приводит к равенству A = U'SUT, в котором матрица U = VQE унитарна.
Пусть 2 = [21, 22Zn\T — вектор с п комплексными компонентами и /(г) — комплекснозначная аналитическая функция, заданная в некоторой области D с С". Вследствие равенства смешанных частных производных матрица Н = [d2f/dzidz,\ симметрична в каждой точке z s D. В обсуждении примера 4.0.3 показано, что матрицу Л = [а;/] коэффициентов в линейном дифференциальном операторе с частными производными общего вида
Z аИ^ dztdz
можно считать симметричной. Убедиться, что для каждой точки 20 £ D существует унитарная замена переменных z->-U^, после которой оператор Lf записывается в точке 20 в диагональной
форме, т. е.
п
О1>О2> ...>ап>° при 2 = Z0.
Применяя теорему 4.4.13 и используя индукцию по образцу доказательства теоремы 1.3.19, установить справедливость следующего аналога теоремы 4.1.6 об одновременной унитарной диагонализации семейства эрмитовых матриц. Пусть задано семейство ^сМп диагонализуемых симметричных матриц. Необходимым и достаточным условием существования комплексной ортогональной матрицы Q, такой, что OAQT диаго- нальна для каждой матрицы Л е ST, является коммутативность семейства матриц ST.
Привлекая рассуждения доказательства теоремы 4.4.7, убедиться, что матрица A е Мп одновременно кососимметрична (Л = —Лг) и нормальна тогда и только тогда, когда существует вещественная ортогональная матрица QGvVfn(R), для которой
QW = 0®0® ... фОф Л,® Л2ф ... ®Ак,
где каждая матрица Л^еМ! имеет вид
A =/=1, 2к. (4.4.14).
Указание. Рассмотреть вещественную и мнимую части матрицы А и применить теорему 2.5.15. Когда в указанной прямой сумме отсутствуют нулевые 1 X 1-слагаемые?
При помощи рассуждений из задач 22 и 25 обосновать кососимметричный аналог разложения Такаги комплексной симметричной матрицы из следствия 4.4.4: матрица А е Мп кососимметрична (Л = —Лг) в том и только в том случае, когда существует унитарная матрица (7 е Мп, такая, что
Л = ^(0© ... ф 0 ф Л] ф ... © А№
где каждая матрица А, е М2 имеет вид (4.4.14). Вывести, в частности, заключение о четности ранга произвольной кососиммет- рйчной матрицы.
Пусть задана унитарная матрица W е Мп. Доказать существование такой унитарной матрицы V е Мп, что V2=W и VTA = AV, какова бы ни была матрица A G Мп, подчиненная условию WTA — AW. Указание. Пусть W = UMJ*, где (/ — унитарная матрица, и A —diag(eze*, ..., ei6n\ 0^9/<2л. Рассмотреть квадратный корень'
A^^diag^X .... ^/2)
и положить V=UKlaU*. Убедиться, что равенство WTA=AW имеет место в том и только в том случае, когда матрицы Л и UTAU коммутируют. Далее использовать аргументы из доказательства теоремы 1.3.12 или показать, что матрица V является многочленом от IV. Вывести отсюда, что матрицы Л'/2 и UTAU коммутируют и, следовательно, VTA = AV.
Дать еще одно подробное доказательство следствия
руководствуясь приведенным ниже наброском доказательства Хуа (1944 г.). Обозначения и предположения следствия 4.4.4 сохраняются. Пусть матрица А невырожденна.
Матрица АА эрмитова и положительно определена (х’ААх = (Ах)* (Ах) ^ 0 для всех хеС"), следовательно, найдутся унитарная матрица Z е Мп и положительная диагональная матрица S е Мп для которых АА = Z^Z*.
Матрица W ^Z^Z'AZ унитарна, a ZW симметрична, поэтому XIV = WTZ.
Используя результат задачи 27, доказать существование унитарной матрицы V еМа, подчиненной соотношениям V2=W и SV = VTS. _
В силу равенств Z* AZ = SIV = ХР2=(ХР) V=VT,2V справедливо представление А = (ZV5) S (ZVr)r. Положить U = ZVT.
В случае вырожденной матрицы А перейти к невырожденной, привлекая рассуждения из задачи 2.
Дополнительная литература и комментарии
Исходный вариант доказательства следствия 4.4.4 см. в статьях: Takagi Т. On an Algebraic Problem Related to an Analytic Theorem of Caratheodory and Fejer and on an Allied Theorem of Landau.— Japan. J. Math., 1925, v. 1, p. 83—93, а также Schur I. Ein Satz iiber Quadratische Formen mit Komplexen Koeffizienten.— Amer. J. Math., 1945, v. 67, p. 472—480. Иные доказательства даны в работах Siegel С. L. Symplectic Geometry.—Amer. J. Math., 1943, v. 65, Lemma l,pp. 12,14—15; Hua L.-K- On the Theory of Automorphic Functions of a Matrix Variable I — Geometric Basis.— Amer. J. Math., 1944, v. 66, p. 470—488; Jacobson N. Normal Semi-Linear Transformations.— Amer. J. Math., 1939, v. 61, p. 45—58. Доказательство, основанное на приведении к треугольному виду, как в теореме 4.4.3, содержится в статье: Hong Y. Р., Horn R. A. On the Reduction of a Matrix to Triangular or Diagonal Form by Consi- milarity.— SIAM J. Algebraic and Discrete Metods., 1986, v. 7, № 1, p. 80—88. Обобщение следствия 4.4.11 на случай произвольных полей имеется в работе Taussky О. The Role of Symmetric Matrices in the Study of General Matrices.— Linear Algebra AppL, 1972, v. 5, p. 147—154.
4.5. Конгруэнтность и одновременная диагонализация эрмитовых и симметричных матриц
Произвольный вещественный линейный дифференциальный оператор L второго порядка с частными производными можно записать в виде
г г V \ д2/ (х) .
Ц = > ац\х)^—аг члены меньшего порядка,
х = [xj е D с R". (4.5.1)
Здесь коэффициенты а,/(х) определены в области DcR" и функция / предполагается дважды непрерывно дифференцируемой в D. Как указывалось в примере 4.0.3, не ограничивая общности, можно считать вещественную матрицу коэффициентов Л (х) = [п,; (х)] симметричной в каждой точке xsD. Под «членами меньшего порядка» подразумеваются слагаемые, содержащие только саму функцию / и ее частные производные первого порядка.
Если произвести невырожденную замену независимых переменных на новые переменные s = [s,]e D с: R", то каждая компонента S; есть функция s,[x] = s, (xi, ..., хл) и невырожденность замены означает невырожденность якобиана
, г ds,(х) 1
в каждой точке области D. Невырожденность гарантирует локальное существование обратной замены переменных x = x(s).
Прямое применение правила дифференцирования сложной функции приводит к следующему выражению оператора L в новых координатах:
г гds/1 дЧ
М= Л L ^“м^Ь^ + членыменьшего^
п
6;/ -^ 9$- + члены меньшего порядка.(4.5.2)
<>/—1' 1
Таким образом, новая матрица коэффициентов В (в переменных s =[8,]) связана со старой матрицей Л (в переменных х = = [х(]) соотношением
В = 8А8Т,.(4.5.3Г)
в котором S — вещественная невырожденная матрица.
Пусть оператор L связан с некоторым физическим законом (например1, таковы лапласиан L = V2 и электростатические потенциалы). Выбор системы координат для независимых переменных не может привести к отмене этого закона, хотя вид оператора L, очевидно, изменяется. Тем самым возникает вопрос об инвариантах множества всех матриц В, связанных с данной матрицей А соотношением (4.5.37).
Формула типа (4.5.37) возникает также в теории вероятностей и статистике. Рассмотрим такой пример. Пусть Хь Х2, ... ..., Хп—вещественные или комплексные случайные величины с конечными вторыми моментами на некотором вероятностном пространстве с оператором математического ожидания Е. Через р, = Ё(Х,) обозначим математические ожидания соответствующих случайных величин. Эрмитова матрица А = [а//] = (Е [ (Xi— — щ) (X,—р/) j) = Cov (А-) есть матрица ковариации случайного вектора Х = [Х1( ..., Хп]г. Если задана матрица 5 = = [s(/]eMn, то компоненты случайного вектора SX являются линейными комбинациями компонент вектора X. Средние значения компонент вектора SX равны
/ п \ п п
E((SX^ = E(^ s^xA-^ stkE(Xk) = ^ s^\s-i / fe=i *=i
и выражение для матрицы ковариации вектора SX имеет вид
Cov (SX) = (Е [((SX)t - Е ((SX)i)) ((SX), - Е ((SX),))]) =
У, sipE\.(Xp — ЦрНХ^ — ji^)] S/Л— p. 4 = 1/
£ sipapqSiq\ = SAS*.
Таким образом,справедливо равенство
Cov (SX) = S Cov (AT) S*.(4.5.3*)
Следовательно, формула преобразования матрицы ковариации случайного вектора почти не отличается от (4.5.3Г) и просто совпадает с (4.5.37), если матрица S вещественна.
В качестве заключительного примера рассмотрим квадратичную форму
QA(x) = У at,xtXj = xrAx, х==[хг]еСл, W=i
и эрмитову форму
Нв(х) = У, bijxix, — x*Bx, x = [xz]eC", ■ I. i-X
где А = [а(Д и В = [Ь(Д. Если S — заданная матрица, то
Qл (Sx) = (Sx)T A (Sx) = хт (STAS) х = Qstas (х), Нд (Sx) = (Sx)* В (S^) = х* (S*BS) x = Hs*bs (x).
Здесь не имеет значения, являются матрицы А, В, S и вектор х вещественными или комплексными.
Итак, на практике возникают два похожих, хотя и различающихся типа преобразований. Это служит обоснованием для следующего определения.
Определение. Пусть заданы матрицы А, В е Мп. Если существует такая невырожденная матрица S, что
B = SAS*, то матрицу В называют эрмитово конгруэнтной (или ^конгруэнтной) к А;
В = S/lSr, то матрицу В называют конгруэнтной (или тконгруэнтной) к А.
Ясно, что эти два понятия конгруэнтности тесно связаны между собой; в случае вещественной матрицы S оии совпадают. В тех ситуациях, когда различия в этих понятиях не играют роли, мы будем употреблять термин1) «(эрмитова) конгруэнтность».
Упражнение. Показать, что (эрмитово) конгруэнтные матрицы имеют одинаковый ранг.
Отметим следующие два факта. Если матрица А эрмитова, то эрмитовой будет и матрица 5Л5* (даже когда S вырожденца). Если А симметрична, то 5Л5Г будет также симметричной. При изучении эрмитовых и симметричных матриц обычно привлекают тот тип конгруэнтности, который не выводит из данного класса матриц: эрмитову конгруэнтность для эрмитовых матриц, конгруэнтность для симметричных матриц. В случае вещественной симметричной матрицы А, однако, возможен выбор, поскольку она одновременно эрмитова и симметрична и матрица S/1S* эрмитова, а 5Л5Г симметрична. Тип конгруэнтности здесь можно выбрать в зависимости от контекста.
Оба отношения конгруэнтности обладают важным свойством, присущим и отношению подобия.
Теорема. Отношение (эрмитовой) конгруэнтности есть отношение эквивалентности, т. е. для любой матрицы А е. Мп
А (эрмитово) конгруэнтна себе самой;
') В оригинале всегда используются мнемонические названия * конгруэнтность и тконгруэнтность, а если различия несущественны, говорится просто о конгруэнтности. При переводе эти названия заменялись на общепринятые в отечественной литературе,—Прим, перев.
если А (эрмитово) конгруэнтна В, то В (эрмитово) конгруэнтна А; '
Если А (эрмитово) конгруэнтна В и В (эрмитово) конгруэнтна С, то А (эрмитово) конгруэнтна С.
Доказательство. Рассмотрим случай эрмитовой конгруэнтности. Свойство (а) имеется в силу очевидного равенства А = 1А1*. Чтобы доказать (Ь), запишем A — SBS*, где матрица S невырожденна; тогда В = S-1A (S-1)*. Наконец, если А = = 5^5* и B = S2CS2, то А = (ЕД) С (S^)*. Доказательство для конгруэнтности проводится аналогично. □
Из этой теоремы заключаем, что множество всех /гХ/г-мат- риц разбивается на классы эквивалентности относительно (эрмитовой) конгруэнтности. Можно поставить задачу определения канонического представителя произвольного класса эквивалентности для каждого из двух видов конгруэнтности. Для эрмитовой конгруэнтности эта теоретическая задача сложнее, и мы рассмотрим ее в первую очередь.
Практическая задача определения типов и классификации дифференциальных операторов посредством выявления инвариантов отношения конгруэнтности сводится к задаче описания канонического представителя класса эквивалентности вещественных симметричных матриц, конгруэнтных (конгруэнтность осуществляется посредством вещественной матрицы S) заданной матрице. Решение последней задачи оказывается весьма простым: достаточно подсчитать число положительных, отрицательных и нулевых собственных значений данной матрицы. В связи с этим введем следующий термин.
Определение. Пусть А е.Мп — эрмитова матрица. Ее инерция есть упорядоченная тройка чисел
ЦА) = (Ц(А), i_(A), i0(A)),
где f+(А)— количество положительных собственных значений матрицы A, i_ (А) — отрицательных и 10 (А) — нулевых с учетом их кратности. Заметим, что rank А — i+ (А) + i_ (Л). Разность iA.(A) — i_(A) называют сигнатурой матрицы А.
Упражнение. Убедиться, что инерция эрмитовой матрицы А е МГ1 однозначно определяется ее сигнатурой и рангом и наоборот. .
Для заданной эрмитовой матрицы А е М„ имеется представление А = UMJ*, в котором A = diag(Xi, ..., Хп) и матрица U унитарна. Не ограничивая общности, можно предположить, что первые диагональные элементы матрицы Л суть все ее положи-
тельные собственные значения, затем расположены отрицательные и, наконец, нулевые, т. е. что
^ь ^2, • • • , ^/+ > 0> ^/++ь • • • » ^i+ + i_ < 0> ^;+ + ;_+1 = • • • ...=Л„ = 0.
Положим
Z)=diag(+V^i, + V^i + > + V~ ^;++i >• • •> + V—^z++z_» 1,, 1).
Тогда D— невырожденная вещественная диагональная матрица и имеет место разложение
0~
D,D,A = D
D,
D,
О
в котором на диагонали выписанной матрицы расположены 1+(Л) элементов «+1», г_(Л) элементов «—1» и /0(Л) элементов «О». Следовательно, матрицу А можно записать в виде
А = UAU*=SА = UAU*=SS* = SI(A)S*,S* = SI(A)S*,
А = UAU*=S
А = UAU*=S
S* = SI(A)S*,
S* = SI(A)S*,
ОО
О
О
0_
(4.5.7)
где S = UD — невырожденная матрица и ЦЛ) называется матрицей инерции для Л. Таким образом, каждая эрмитова мат-
рица эрмитово конгруэнтна диагональной матрице очень простого вида, которая определяется лишь инерцией исходной матрицы. Было бы заманчиво использовать матрицу инерции в качестве канонического представителя класса эквивалентности матриц, эрмитово конгруэнтных заданной, но для этого необходима уверенность в том, что инерция эмитово конгруэнтных эрмитовых матриц одинакова. Последнее утверждение, известное как закон инерции Сильвестра, составляет содержание следующей теоремы.
Теорема. Пусть Л, В е Мп— эрмитовы матрицы. Необходимым и достаточным условием существования невырожденной матрицы 8 е Мп, подчиненной равенству Л = SBS*, является совпадение инерции матриц Л и В, т. е. равное количество положительных, отрицательных и нулевых собственных значений у этих матриц.
Доказательство. Если инерция матриц Л и В одинакова, то. каждая из этих матриц представима в виде (4.5.7) с одной матрицей инерции, но, быть может, с различными матрицами S. Таким образом, матрицы Л и В эрмитово конгруэнтны одной матрице и вследствие транзитивности эрмитовой конгруэнтности друг другу.
Доказательство обратного утверждения менее тривиально. Пусть матрицы Л и В эрмитово конгруэнтны, т. е. А = 8В8* при некоторой невырожденной матрице S е Мп. Эрмитово конгруэнтные матрицы имеют одинаковый ранг, поэтому /0(Л) = = 1ДВ) и остается только обосновать равенство /+ (Л) = /+ (В). Пусть уь у2У;+(Л)— ортонормированные собственные векторы матрицы А, отвечающие положительным собственным значениям Лг (Л)Лг (л> (Л), и пусть S+(Л) = Span {уь ... . .., и,+ (л)}. Размерность подпространства S+(Л) равна i+ (Л). Если
x = a,y!+ ...+а{+(Л)уг+(Л)^0, то
х*Ах = Л, (Л) | а, |2 + .. . + Х,+ (Л) (Л) | а,+ (Л) |2 > 0.
Но тогда
x*SBS*x = (S*x)* В (8*х) > 0.
Следовательно, у*By > 0 для всех ненулевых векторов у из подпространства Span (S*yb ... , 5*у;+(Л)} размерности /+(Л). В силу следствия 4.3.23 справедливо неравенство 1+ (.В1)^^ (Л). Однако в приведенных выше рассуждениях А и В можно поменять ролями; поэтому i+ (В) = i+ (Л). □
Упражнение. Пусть матрица АеМ„ эрмитова. Установить, что необходимым и достаточным условием эрмитовой конгруэнтности матрицы А и единичной матрицы является положительность всех собственных значений матрицы А.
Упражнение. Пусть А, ВеМ»— вещественные симметричные матрицы. Доказать, что они эрмитово конгруэнтны тогда и только тогда, когда они конгруэнтны и конгруэнтность осуществляется посредством вещественной матрицы.
Упражнение. Пусть А, ВеМп— вещественные симметричные матрицы. Показать, что матрицы А и В конгруэнтны, причем конгруэнтность осуществляется посредством вещественной матрицы, в том и только в том случае, когда инерция матриц А и В одинакова.
Упражнение. Сколько различных классов " эквивалентности по отношению эрмитовой конгруэнтности имеется на множестве комплексных эрмитовых п X n-матриц? На множестве вещественных симметричных п X и-матриц?
Теорема Сильвестра 4.5.8 позволяет полностью решить вопрос выбора представителя в каждом классе эквивалентности эрмитовых матриц по отношению эрмитовой конгруэнтности на основе того, что знаки собственных значений эрмитовой матрицы не изменяются, когда эта матрица подвергается преобразованию эрмитовой конгруэнтности. Пока неясно, однако, насколько изменяются величины собственных значений при переходе к эрмитово сопряженной матрице. Использование простейшего варианта теоремы Вейля 4.3.1 позволяет подкрепить закон инерции Сильвестра необходимыми количественными характеристиками.
Теорема (Островский). Пусть заданы матрицы A.Se е М^, причем А эрмитова, a S невырожденна. Упорядочим соб- ственые значения матриц А и SS* по возрастанию, как в (4.2.1). Тогда для каждого номера k = 1, 2, ..., п существует положительное число 6», такое, что Хх (SS*) ^ 0ft ^ Xn(SS*), при котором
Xk(SAS*) — Bkkk(A). (4.5.10)
Доказательство. Сначала заметим, что условия SS*x = Кх и х=А0 влекут за собой соотношения .
Z = х* SS* х)х* х = (S*x)* (S*x)/x*x > 0.
Следовательно, все собственные значения матрицы SS* положительны. Пусть к—■ заданное натуральное число и 1 ^ k ^ п. Рассмотрим эрмитову матрицу А— Х^А^! с 6-м собственным
значением, равным нулю. По теореме Сильвестра 4.5.8 Л-е собственное значение матрицы 3(Л —ЯДЛ)/)S* = ЗЛЗ* — Я*(Л)33* также равно нулю. В силу неравенств Вейля (4.3.2) это собственное значение допускает следующую двустороннюю оценку:
Хк (SAS*) + X, (- Хк (Л) S3*) < Хк ISAS* - Хк (Л) S3*) = 0 <
<ЯДЗЛЗ*) + Я„(-ЯА M)SS*).
Отсюда выводим соотношения
Хк kSAS*> < - X, (- Хк (Л) S3*) = Я„ (Хк (Л) S3*) = ( Я6(Л)Я„(33*), если ЯДЛ)>0, t Хк (Л) Я] (S3*), если Я6(ЛХ0,
Хк (SAS*) > - Хп (- Хк (Л) S3*) = Я, кХк (Л) S3*) =
( Хк (Л) Я] (S3*), если Я6(Л)^0, I Яд (Л) Я„ (S3*), если Я*(Л)<0.
Независимо от знака собственного значения (Хк (Л) ^ 0 или Яд(Л)^О) эти соотношения влекут за собой равенство Яд(ЗЛЗ*) = О*Яд(Л) при некотором значении 06, таком, что Я^ЗЗ^О^^ДЗЗ*), □
Если положить А = I е Мп в теореме Островского, то все Яд(Л)=1 и Qk = Xk(S3*). Если матрица ЗеМ„ унитарна, то Я) (S3*) = Я„ (S3*) = 1 и все 06 = 1 — здесь равенство (4.5.10) выражает инвариантность собственных значений относительно унитарного подобия. Таким образом, оценки для 0* в теореме 4.5.9 точны как на классе всевозможных эрмитовых матриц А, так и на классе всевозможных невырожденных матриц 3.
Простые рассуждения типа продолжения по непрерывности позволяют обобщить теорему Островского на случай вырожденной матрицы 3. Для этого выберем е > 0 и применим теорему 4.5.9, заменяя матрицу 3 на невырожденную матрицу 3 + е/. Получим Я6((3 + е/)Л(3 + е/)*) = 0*ЯДЛ), где Я1((3 + е/)(3-Ье/)*Х0д<Я„((3 + 8/)(3 + е/)*). Прие-»0 последние неравенства переходят в неравенства О^06^ Я„ (S3*). Этот результат можно трактовать как расширение области применимости закона инерции Сильвестра на эрмитову конгруэнтность, осуществляемую матрицей, которая может быть вырожденной.
Следствие. Пусть A, S^Mn и матрица А эрмитова. Расположим собственные значения матриц А и S3* по возрастанию, как в (4.2.1). Тогда для каждого номера k = 1, 2, ... , п найдется неотрицательное число 06, такое, что ЯДЗЗ*)^^^ ^Я„(33*), при котором
Яд (ЗЛЗ*) = 96Я6 (Л).
В частности, количество положительных (отрицательных) собственных значений не возрастает при переходе от матрицы А к матрице SAS*.
Задача описания канонических представителей классов эквивалентности комплексных симметричных матриц по отношению конгруэнтности решается еще проще: достаточно вычислить ранг.
Теорема. Пусть заданы (вещественные или комплексные) симметричные матрицы А, В е Мп. Необходимым и достаточным условием существования невырожденной матрицы S е Мп, при которой А = SBS7, является совпадение рангов матриц А и В.
Доказательство. Если А = SBST и S невырожденна, то ранги матриц А и В совпадают в силу 0.4.6. В обратную сторону, из следствия 4.4.4 имеем разложение
А = ^А = их1 (2,) D^UT - ^А) I (Si) (ихоху,
в котором /(2i)— матрица инерции типа (4.5.7) для матрицы 21, определяемая единственным образом по величине ранга матрицы А, матрица 171 унитарна, 2,= diag(oi, 02, ..., оп), причем все щ-^ 0, Dx = diag(d], d2, ..., dn), где
( "Vab если оi > 0,
I 1, если o; = 0.
Отметим невырожденность матрицы Dx. Проводя подобные рассуждения, можно также записать разложение В = = (U2D2) I(^>2) (U2D2)T с аналогичными определениями сомножителей.
Пусть rank А = rank В, тогда /(2i) = /(22) и
/ (21) = (UXDX)"X А [(/AOJT1 = / (22) = (UAV1 В №АА~Х.
Следовательно,
А = (UXDX) (U2DAX в [(//A) (U№X\T.
Приходим к заключению о конгруэнтности матриц А и В. □
Упражнение. Сколько различных классов эквивалентности по отношению конгруэнтности имеется на множестве комплексных симметричных п X «-матриц? На множестве вещественных симметричных п X «-матриц?
Упражнение. Пусть матрица А е Мп симметрична. Доказать, что необходимым и достаточным условием существования
невырожденной матрицы 3 е Мп, для которой Л = 35г, является невырожденность матрицы Л.
Упражнение. Пусть матрицы А, Be Мп симметричны. Показать, что две невырожденные матрицы X, Y е Мп, такие, что А = XBY (это означает эквивалентность матриц Л и В), существуют в том и только в том случае, когда существует невырожденная матрица 3 е Мп, такая, что А — SBST (это означает конгруэнтность матриц Л и В). Указание. Установить связь между рангами матриц Л и В, когда A = XBY.
Предыдущий результат аналогичен теореме Сильвестра об инерции 4.5.8. В следующем результате на случай конгруэнтности симметричных матриц переносятся также теорема Островского 4.5.9 и следствие 4.5.11.
Теорема. Пусть A, SeM„ и А — Аг. Введем разложение Такаги (см. следствие 4.4.4) A=-U'SUT и SAST = VMVT матриц А и SAST с унитарными сомножителями U, V и диагональными сомножителями 3 = diag (о^ а2, ... , аД, М = diag (ць ц2, •■ • , Цп), все щ, ц, ^ 0. Обозначим через XZ(SS*) собственные значения матрицы S3*. Пусть числа az, цг и ^(SS*) упорядочены по возрастанию, как в (4.2.1). Тогда для каждого номера й = 1, 2п существует неотрицательное 0^, такое, что Aj (S3*) ^0А ^ А„ (S3*), при котором ц^ = 0^. Если дополнительно S невырожденна, то все 0д, > 0.
Доказательство. Величины ц^ являются собственными значениями матрицы ВВ*, где В = SAST. Следовательно,
ц2 = а. (ВВ*) = А, (ЗЛЗГЗЛЗ*) = А, (3 [ЛЗГЗЛ13*) = 9Х(ASTS А)
для некоторого 9к, такого, что X, (S3*) ^ Од, ^ Хп (33*). Последнее равенство здесь получено на основе следствия 4.5.11. Поскольку собственные .значения произведения не зависят от порядка сомножителей в силу теоремы 1.3.20, имеем также равенства
н| = QA (ЛЗ^ЗЛ) = oftAft (зллзг) = екхк (saas^, учитывая вещественность собственных значений А,^. Применяя еще раз следствие 4.5.11, приходим к равенствам
^ = WftHA)-6kVft
с некоторым Qk, удовлетворяющим условию Aq (33*) ^ Од. ^ ^Ап(33*). Таким образом, \хк = л]Q^k ск = 0АаА, и величины
0A = V60ft удовлетворяют требуемым в формулировке теоремы оценкам. □
Из теоремы 1.3.19 известно, что две диагонализуемые матрицы можно привести к диагональному виду одним преобразованием подобия в том и только в том случае, когда они коммутируют. Имеется ли аналогичный результат для одновременной диагонализации преобразованием конгруэнтности?
По-видимому, первые постановки задач об одновременном приведении к диагональному виду посредством преобразования конгруэнтности связаны с изучением «малых колебаний» около точки равновесия в механике. Если состояние динамической системы описывается в обобщенных (лагранжевых) координатах 9ь <?2, ■.., Я» и начало координат есть точка равновесия, то в малой окрестности нуля потенциальная энергия V аппроксимируется вещественной квадратичной формой
i, / = 1
в обобщенных координатах qt. Кинетическая энергия Т аппроксимируется вещественной квадратичной формой
Т = ^ btiqtq,
в обобщенных скоростях ф. Поведение системы определяется уравнениями Лагранжа
d f дТ X _ ЭТ дЕ , „dt k dqt ) dq. + dqt " *
Это система обыкновенных дифференциальных уравнений второго порядка с постоянными коэффициентами. Вещественные матрицы коэффициентов А = [az/] и В = [£щ] этих квадратичных форм можно считать симметричными. Если они не являются диагональными, то уравнения системы взаимосвязаны (и, следовательно, решить их не так просто).
Пусть найдена вещественная невырожденная матрица В = = [sz;]eAln, приводящая матрицы А и В к диагональному виду ВДВ7 и SBST. Используя эту матрицу для введения новых обобщенных координат’) pi в соответствии с равенствами
Я1 = ^5ирь(4.5.14)
заключаем, что в новых координатах квадратичные формы кинетической и потенциальной энергии Т и V принимают диагональный вид. В такой ситуации система уравнений Лагранжа распадается на п отдельных линейных дифференциальных уравнений второго порядка с постоянными коэффициентами. Легко найти явные выражения решений каждого из этих уравнений через экспоненты и тригонометрические функцииJ) и затем определить при помощи (4.5.14) решение исходной системы.
Таким образом, ряд важных задач механики допускает существенные упрощения, если уметь одновременно приводить две вещественные симметричные матрицы к диагональному виду преобразованием конгруэнтности. По физическому смыслу кинетической энергии соответствующая ей квадратичная форма положительно определена и это оказывается достаточным (но не необходимым) условием одновременной диагонализации посредством преобразования конгруэнтности.
Можно рассматривать несколько различных типов одновременной диагонализации; например, взять две эрмитовы матрицы А и В и искать такую унитарную матрицу U, чтобы UAU* и UBU* имели диагональный вид, либо, ослабляя условия, искать невырожденную матрицу S, для которой матрицы SAS* и SBS* имеют диагональный вид. Аналогично для симметричных матриц А и В мы могли бы интересоваться диагональностью матриц вида UAUT и UBUT либо SASr и SBST. Можно поставить даже задачи смешанного типа — искать для эрмитовой матрицы А и симметричной матрицы В матрицы UAU* и UBUT, либо SAS* и SBST диагонального вида. В каждом случае естественно рассматривать тот тип конгруэнтности, при котором сохраняется специальное алгебраическое свойство соответствующей матрицы. Все перечисленные ситуации встречаются в приложениях. К счастью, имеется единая методика их исследования. Простейшая для изучения возможность—когда одна из двух данных матриц невырожденна. В таблице 4.5.15Т приводится перечень эквивалентных необходимых и достаточных условий для каждого случая. Эти условия расположены и занумерованы так, чтобы подчеркнуть существующую между ними аналогию.
Теорема. Пусть заданы матрицы А,В^Мп. Обозначим через U некоторую унитарную матрицу и через S некоторую невырожденную матрицу, U, S е Мп. Тогда справедливы результаты, указанные в табл. 4.5.15Т.
Доказательство. В каждой из шести групп условия в своем большинстве эквивалентны по определению. Эквивалентность условий (3) и (4) в группе 1(a) объясняется тем, что произве-
I.
л = л*, в = в*, л невырожденна, с=л-*в.
(а)
(Ь)
UAU*
SAS*
И
и
иви*
SBS*
(1)
.(2)
(3)
(4)
(1)
L(2)
Существует унитарная матрица V е Af„, при которой матрица V*CV вещественная диагональная. Матрица С унитарно диа- гонализуема и все ее собственные значения вещественны.
Матрица С эрмитова.
Матрицы Л и В коммутируют, т. е. АВ = ВА.
Существует невырожденная матрица R, при которой матрица R~iCR вещественная диагональная.
Матрица С диагонализуе- ма и все ее собственные значения вещественны.
II.
Л = ЛГ,
В = Вт,
Л невырожденна, С — А-'В.
(а)
(Ь)
UAUT
SAST
и
и
ивит
SBST
(1)
(2)
(3)
(1)
(2)
Существует унитарная матрица V е М„, при которой матрица V*CV диагональ- на.
Матрица С унитарно диа- гонализуема.
Матрица С нормальна.
Существует невырожденная матрица R е М„, при которой матрица R~'CR диагональна.
Матрица С диагонализуе- ма.
III.
Л = Л*. В = ВТ, если А денна, то если В денна, то
невырож- С=Л~’В,
невырож- C = B-VA.
(а)
(Ь)
UAU*
SAS*
и
и
ивит
SBST
(1)
(3)
(4)
(1)
is)
Существует унитарная матрица IF е Af„, при которой матрица W-1C^ диагональна.
Матрица С симметрична.
Справедливо равенство
АВ = ВА.
Существует невырожденная матрица R е Af„, при которой матрица R^CR диагональна.
Существует невырожденная матрица R е Мп, при которой матрица R-1CR симметрична.
Предположения относительно Л и В
Матрицы, которые должны быть диагональными
Эквивалентные необходимые и достаточные условия одновременной диагонализации
дение АВ эрмитовых матриц А и В эрмитово тогда и только тогда, когда А и В коммутируют, и что матрица А эрмитова в том и только в том случае, когда эрмитова ее обратная А-1, Эквивалентность условий (3) и (4) в Ш(а) обосновывается аналогично, поскольку матрица В симметрична тогда и только тогда, когда симметрична ее обратная В-1 и для эрмитовой матрицы А справедливо равенство Ат = А.
Необходимость условия (1) в каждой из шести групп вытекает непосредственно из предположения, что соответствующие преобразования конгруэнтности приводят к диагональной форме. Например, в варианте 11(b), если матрицы S/4Sr = Л и SBST = М обе диагональные, то
А-ХВ = (STA-‘S) [S-^l (sTl = ST {A^ {STT\
следовательно, матрица R = ST будет осуществлять диагонализацию матрицы С = А-1В. Подобным же образом в случаях 1(b) и III (Ь) следует положить R = 5*. Если S унитарна, соответствующая матрица R в каждом из этих случаев также будет унитарна.
Рассмотрим вариант I, в котором матрицы А и В эрмитовы и А невырожденна. Предположим выполненным условие (1) в 1(b), т. е. существуют невырожденная матрица
R = к] г2 ... г„] е Мп
с вектор-столбцами г,-е Сл и диагональная матрица
A = diag(Ab Л2, ... , Л„) '
с вещественными элементами Xi, такие, что R-'A-'BR = Л. Следовательно, BR = ARA и R*BR = R*ARA. Не теряя общности, можно считать, что одинаковые значения Xi объединены в группы, т. е. что матрица Л записывается в блочном виде
0“0“(4.5.16)(4.5.16)
0“
0“
(4.5.16)
(4.5.16)
_0‘ Л6_
Л; е Мпе 1 ^ nt ^ п; Лг = ц,/. t = 1, 2, ... , к.
где все числа щ вещественны и щ =£ ць i #= j. Пусть не все числа Xi совпадают; тогда выберем индексы i, j так, чтобы 1 ^ i, / ^ п и Xi =# Xj, и рассмотрим элемент в позиции (/, /) в обеих частях матричного равенства R*BR = R*ARA. Приходим к соотношениям
r‘.Ar1XJ = r'iBri = r*Brt = r‘jAr1Xi = r'Ar^^
в которых используются эрмитовость матриц А и В (в равенствах типа х* Ау = у* Ах для всех х, у е С") и вещественность чисел Х£ и X . Поскольку X. =А= X , заключаем, что r*iArj = 0 и, следовательно, г*Аг; = r'iBrj = r*fBr( = 0. Это означает, что обе матрицы R*BR и R*AR блочно-диагональны и их блочная структура согласована со структурой (4.5.16), т. е.
"Si"SiВ2В200
"Si
"Si
В2
В2
0
0
R*BR =R*BR == R*ARA == R*ARA =00Вк_Вк_
R*BR =
R*BR =
= R*ARA =
= R*ARA =
0
0
Вк_
Вк_
MiМгMiМг00
Mi
Мг
Mi
Мг
0
0
Uk^k-
где В,, А^АЦ при /=1, 2, . .. , к. Такое частичное приведение к диагональной форме является полным при к = п, т. е. когда все Хг различны. При к < п имеется блок размера ц,- > 1. В равенстве В1 = цгА1- матрицы В,- и А( эрмитовы и по спектральной теореме 4.1.5 имеет место разложение А£ = U^jU^, в котором Ut, D, е МП£, матрица U, унитарная, a D{ вещественная диагональная. Тогда аналогичное разложение для Bt записывается в виде В(.= р(.А(. = t/z (ji(.Z)(.) t/z. Положим
a D вещестa D вещестгде t/z = [l] при ц, = 1. Матрица U унитарная,
a D вещест
a D вещест
венная диагональная, и справедливы равенства
R*BR = U (DA.) U*, R*AR = UDU*.
Наконец, отсюда получаем требуемые представления
А = К/?"1)* (7] D [(/?"*)* и\\ В = [(/?-*)* И] (ДА) [(/?-*)* (/]*.
Отметим, что в случае предположения (1) в 1(a) рассуждения аналогичны, но дополнительно известно, что матрица R унитарна. Тогда матрица (R-'yU = RU также унитарна и достаточность условия (1) в 1(a) тем самым доказана.
Идеи приведенного доказательства используются и в остальных четырех случаях. При соответствующих предположениях выписываются блочно-диагональные конгруэнтные матрицы и затем окончательное приведение к диагональному виду осуществляется при помощи спектральной теоремы для эрмитовых матриц или следствия 4.4.4 о разложении Такаги для симметричных матриц. Приведем необходимые подробности.
В случае II матрицы Л и В симметричны и невырожденны. Примем условие (1) в П(Ь), что существуют невырожденная матрица
В = h г2 ... г„] е Мп,
такая, что каждый вектор-столбец г,- лежит в Сп, и диагональная матрица
Л = diag (Л], Л2, ... , Л„)
(не обязательно вещественная), при которых верно равенство R~'A~'BR = Л. Получаем BR = ARA и RTBR = RTARA. Предположим, как и ранее, что совпадающие числа X, сгруппированы так, что матрица Л имеет вид (4.5.16) и все щ различны. Пусть не все числа X, равны между собой; выберем индексы i, j, такие, что 1 ^ i, / ^ п и X;=^Xj, и рассмотрим (/,/')-элемент матричного равенства RTBR = RTARA. Получаем соотношения
гт.Аг.Х,. = гт.Вг. = rXBr. = r^Ar.X = г^Аг-Х.,
I У У I У / ь J Ь I 6 У 6 '
в которых используется симметричность матриц А и В (т. е. равенства вида хтАу = ут Ах для произвольных векторов х, уеС"). Поскольку Xj^Xj, приходим к заключению, что гТАг=0 и, следовательно, rT. Ar. = rXBfj = rT.Bri = 0. Это означает, что матрицы RTBR и RTAR имеют блочную структуру, согласованную со структурой в (4.5.16), т. е.
оо-BV
о
о
RTBR =RTBR == RTARA =’
RTBR =
RTBR =
Вк_0Вк_00
Вк_
0
Вк_
0
Hi Д .
00Н2Л2
0
0
^к^к-
где Ви А,еМп.. При k = п получаем тем самым требуемое приведение. При к < п имеется блок размера nt> 1. В равен-
стве Bt = p.iAt матрицы Bt и А{ симметричны. Привлекая следствие 4.4.4, запишем разложение Такаги At = 0^0^, где U-, ^i^.Mn., Ui — унитарная матрица, S. — диагональная матрица с неотрицательными элементами. Тогда разложение Такаги для В{ есть Bt = piAi = Ut (цг2() Щ. Положим
' ик_ _ 0’ SA_
где {/, = [1] при п; = 1. Матрица U унитарна, матрица 2 диа- гональна (с неотрицательными элементами) и справедливы разложения
RTBR = U^A')UT, RTAR = U^UT.
Отсюда выводим требуемые представления
А = [(/?-*/ U^ 5 [(/?-*/ UY, в = [(/?-*Г И] SA [(/?-*/ uY-
При условии (1) в П(а) дополнительно известно, что матрица/? унитарна. Следовательно, матрица (R~l)TU = RU также унитарна, поэтому достаточность условия (1) в 11(a) доказана.
В случае III рассуждения несколько меняются. Пусть А,ВеМ„, эрмитова матрица А невырожденна и В симметрична. Предположим выполненным условие (1) в 111(b), т. е. существуют невырожденная матрица.
/? = [г1г2 ... г„] еМп
и диагональная матрица
^rt)>^rt)>A = diag(Zb Л2
^rt)>
^rt)>
при которых R~lA~lBR = А. Тогда BR = ARA и R*BR = RTBR = =R'ARA. Теперь сгруппируем числа Xi, равные по модулю, так, что матрица А принимает вид
ААоо0 -
А
А
о
о
Ла
где
для/=1, ...,&, причем внутри каждого блока [ ц^*! = | j//^, /, 6=1, 2, ...,пъ и | и^”' | ф | Р^ | при 1ф]. Если модули | Xt | не все совпадают между собой, выберем индексы /, / так, чтобы l^z, j^rt, | ?ч | Ф | Х; |. Рассмотрим в матричном равенстве RTBR — R*ARA (Z, /)-элемент. Это
r*jArJXl = r'iBrl = r^B?t = г'АгД^пАг^^
(Здесь используются эрмитовость матрицы А и симметричность матрицы В.) Приходим к соотношению
|пЛг/|| А./| = |гМг/|| |.
В силу |AZ|=#|A/| имеем пАг, = 0 и, следовательно, г*Аг,= = пВг; = пВгг = 0. Таким образом, матрицы RT BR и R'AR являются блочно-диагональными вместе с Л, т. е.
о ~о ~RTBR =RTBR =где всегде всеВ2В2= R*ARA == R*ARA =оовк_вк_Л1Л,А2Л2Л1Л,А2Л2О -О -В., АВ., А*4**4*Di =Di =_ ОЛ; = (Г,/); С (Tz ^ О Иe^^e^i, ....АС_ ОЛ; = (Г,/); С (Tz ^ О Иe^^e^i, ....АСЛ6ЛЛ6Лh _h _~BV
о ~
о ~
RTBR =
RTBR =
где все
где все
В2
В2
= R*ARA =
= R*ARA =
о
о
вк_
вк_
Л1Л,
А2Л2
Л1Л,
А2Л2
О -
О -
В., А
В., А
*4*
*4*
Di =
Di =
_ О
Л; = (Г,/); С (Tz ^ О Иe^^e^i, ....АС
_ О
Л; = (Г,/); С (Tz ^ О Иe^^e^i, ....АС
Л6Л
Л6Л
h _
h _
Oz/e=R. При к = п это требуемое приведение к диагональной форме. При k < п найдется некоторый блок размера nt> 1. Для него Sz == XZAZ = (TzXzjDz, матрица Dt одновременно диаго-
нальна и унитарна (jDi = Dt = DTi = Di *) и, следовательно,
D^BtD^QiD’iAiDt.(4.5.17)
В левой части последнего равенства стоит симметричная матрица DTiBiDt, а в правой части эрмитова матрица OiD^AiDt (величина ct вещественна). Если о^О, то заключаем, что матрица £)*vlt£)f одновременно симметрична и эрмитова. Эти два свойства сочетаются только для вещественных матриц, следовательно, матрица D’iAtDt вещественная симметричная (при о£5^0). Если <тг = 0 (что может произойти в каком-либо одном блоке), то матрица D*iAtDt эрмитова, но не обязательно вещественна. По спектральной теореме для каждого номера 1 = 1к существует унитарная матрица ЩеМ», и вещественная диагональная матрица Л1геМп., при которых D*iAiDl = UiMtUb Если сг^О, то матрицу Ut можно выбрать вещественной ортогональной и тогда Ui = U* и
D^BiDi = GtD*iAtDt = Ut (OiMi) UL
Если <т; = 0, то утверждение U*i = UTi может* быть неверно; тем не менее приведенные выше равенства остаются в силе, поскольку все их части обращаются в нуль. Таким образом, для всех i = l,2, ..., к
Al = (,DiUt)Ml(DiUt)* и Bi = (DtUiHQiMi')(DiUi)T.
Полагая
получаем искомые представления
А = [(/?"Т(/] М [t/*/?], В = [(/ГУ Г] SM [i/^*1].
При условии (1) в III (а) матрица /? здесь унитарна, и тогда (R~'yU = RU и матрица (R~l)TU = RU также унитарна. Тем самым доказана достаточность условия (1) в III(а).
Мы доказали утверждения случая III в предположении невырожденности матрицы А. Пусть теперь невырожденна матрица В. Условие (1) в 111(b) гласит, что существует невырожденная матрица R е М„, такая, что матрица R^B^AR = Л диагональна. Тогда AR = BRA и R*AR — RTBRA. Далее рассуждения аналогичны приведенным выше для случая невырожденной матрицы А. Матрицы А и В просто меняются ролями и для приведения матрицы DTtBlDl к диагональному виду используется следствие 4.4.4 о разложении Такаги вместо спектральной теоремы. □
Теорема 4.5.15 об одновременной диагонализации в случаях I и II (табл. 4.5.15Т) содержит традиционное условие на матрицу А-1 В, а именно что А-^В— диагонализуемая матрица (возможно, с вещественными собственными значениями), т. е. что она представима в виде RAR~} с диагональной (возможно, вещественной) матрицей А. Это условие поддается в принципе проверке. Достаточно выяснить, распадается ли минимальный многочлен матрицы А-1В на различные линейные (возможно, вещественные) множители.
В случае III, однако, возникает не совсем обычное условие — требуется представимость матрицы А~1В в виде произведения RAR-1 с диагональной матрицей А. Можно сказать, что это условие диагонализуемости матрицы А-1В преобразованием псевдоподобия вместо обычного подобия. Псевдоподобие обсуждается в § 4.6, и в теореме 4.6.11 доказана эквивалентность условия (1) случая 111(b) теоремы 4.5.15 тому, что матрица СС диагонализуема, все ее собственнее значения вещественны и неотрицательны и rank С = rank СС.
Предположение о невырожденности удобно в теореме 4.5.15, но в случаях унитарной конгруэнтности 1(a), II(а) и III(а) оно может быть исключено. Для 1(a) такое исключение приводит к новому доказательству классического результата теоремы 4.1.6 об одновременной унитарной диагонализации коммутирующих эрмитовых матриц. -
Следствие. Пусть заданы матрицы А,ВеМп.
Если обе матрицы А и В эрмитовы, то необходимым и достаточным условием существования унитарной матрицы UeMn, такой, что обе матрицы UAU* и UBU* диагональны, является эрмитовость матрицы АВ (что эквивалентно равенству АВ = BAY
Если обе матрицы А и В симметричны, то необходимым и достаточным условием существования унитарной матрицы UeMn, такой, что обе матрицы UAUT и UBU1 диагональны, является нормальность матрицы АВ (т. е. равенство АВВА = = ВААВ).
Если А эрмитова и В симметрична, то необходимым и достаточным условием существования унитарной матрицы Ue Мп, такой, что обе матрицы UAU* и UBUT диагональны, является симметричность матрицы АВ (т. е. равенство АВ=ВА )
Доказательство, (а) Если обе матрицы UAU* = A и UBU* = М диагональны, то А = U^AU, В = U*MU и
АВ = U‘AUU*MU = U* AMU = U*MAU = U’MUU’AU = BA.
В обратную сторону, если АВ=ВА, то матрица А£ = АА-е1 невырожденна при некотором е>0 и эрмитова; тогда АгВ = = (А + е/) В = АВ + еВ = В А + еВ = В (А + е/) — ВАе. Таким образом, матрица В коммутирует с Ае и Аг1; следовательно, матрица Аг1 В эрмитова. По условию (3) случая 1(a) теоремы 4.5.15 (см. табл. 4.5.15Т) существует унитарная матрица U£, при которой обе матрицы U£A£U*£ = UeAU*s + el = Ле и UeBU‘6 = ME диагональны. Тогда диагональны и обе матрицы U£AU*e = A6 — eI и U£BUX = M£.
Если диагональны обе матрицы U AUT — А и UBUT — M, то справедливы равенства А — U*AU, B = U*MU. Таким образом матрица
АВ = U*AUUTMU = U* (AM) U
унитарно диагонализуема и, следовательно, нормальна. В обратную сторону, пусть АВ нормальна. Предположим, что матрица А невырожденна. Тогда матрица ЛВ = (Л-1)-1В нормальна и из условия (3) случая II (а) теоремы 4.5.15 вытекает, что две симметричные матрицы Л-1 и В одновременно унитарно диагонализуемы. Это означает существование унитарной матрицы U еМп и диагональных Л, МеМп, таких, что А-1 = — UAUT и B = UMUU Тогда приходим к равенствам А = = UA-tUT и B = UMUT, т. е. матрицы Л и В одновременно приводятся к диагональному виду преобразованием требуемого типа. В случае вырожденности матрицы А требуются дополнительные аргументы. В силу следствия 4.4.4 найдется унитарная матрица U е Мп, при которой матрица UAUT диагональна. Переставляя при необходимости столбцы матрицы U, приходим
к представлениюк представлениюГ 2 0 1
к представлению
к представлению
UAUr=l 0 0 , 2еЛД, !<&<«,
в котором матрица 2 диагональна и невырожденна. Матрицу UBUT разобьем на блоки того же размера:
ГВх 1 вХ2 "1
ивит= 7 я , Впемь ВйеМп_к. LB12 В22 J
- Г 2 О Вн В (U AUT) (UBUT) = U ABU*— \п _- Г 2 О Вн В (U AUT) (UBUT) = U ABU*— \п _5Вц 2В125Вц 2В12в;2 В.,в;2 В.,О ОО ОПодматрицы Вц и В22 симметричны, и справедливы равенства
- Г 2 О Вн В (U AUT) (UBUT) = U ABU*— \п _
- Г 2 О Вн В (U AUT) (UBUT) = U ABU*— \п _
5Вц 2В12
5Вц 2В12
в;2 В.,
в;2 В.,
О О
О О
Однако матрица UABU* нормальна, поэтому 2В12 = 0 (см. задачу 20 в конце данного параграфа), тогда В12 = 0, ведь матрица 2 невырожденна. Следовательно,
Г2ВП 0
(uauwbut) = Y о“ о
Вспоминая предыдущие рассуждения для невырожденного случая, заключаем, что существуют унитарная матрица VxeMfe и диагональные матрицы Ль Л2еМп, такие, что
2 = 71Л1Н и BH = 7,A2W.
Для симметричной матрицы В22 также существуют, как известно, унитарная матрица V2eMn_k и диагональная матрица Л3 гМп_к, такие, что В22= ИгЛэИ^. Положим A = A1©0sAfn, М = = л2ел3 и V = в1ев2; тогда UAUT = VAVT, UBUT = VMVT. Таким образом, матрицы '
А = (t/V) Л (t/V)r и В = ((ЛДМ(Д*1ДГ
одновременно диагонализуются одним преобразованием требуемого типа.
Пусть диагональны обе матрицы UAU* = A и UBUT = М, причем матрица А обязательно вещественна. Имеем
тогдатогдаА = Д‘ДД, В = U’MU;
тогда
тогда
АВ = ITAUITMU = U* AMU = U* MAU == U*MUUTAU = (U*MU) (LTAU) = BA.
Обратно, пусть ЛВ = ВЛ. Матрица Л8 = Л + е/ невырожденна при некотором е>0 и эрмитова. Справедливы соотношения А6В = АВ + еВ = В А + еВ = ВА6. Таким образом, условие (4) случая III (а) теоремы 4.5.15 выполнено и существует унитарная матрица Ue е Мп, такая, что обе матрицы UEAEU*6 = UEAU*e + + е/ = Ле и UeBUs = Мг диагональны. Следовательно, диагональны также обе матрицы U 6AUX = Ае — е/ и UEBUl = МЕ. □
Проблема одновременной диагонализации двух вырожденных эрмитовых матриц преобразованием эрмитовой (не обязательно унитарной) конгруэнтности рассматривается в задаче 8.
Как мы уже убедились, преобразованием эрмитовой конгруэнтности эрмитова матрица может быть приведена к на удивление простой форме (диагональной с числами ±1 или 0 на диагонали). Пару эрмитовых матриц можно при некоторых условиях одновременно привести к диагональному виду преобразованием эрмитовой конгруэнтности. Возникает естественный вопрос: к какой канонической форме можно одновременно привести пару произвольных эрмитовых матриц преобразованием эрмитовой конгруэнтности? Иначе говоря, какую каноническую форму может иметь пара матриц ■
С* АС и С*ВС
с одной осуществляющей конгруэнтность матрицей С? Хотя ответ на этот вопрос известен для произвольных эрмитовых пар (обе матрицы могут быть вырожденными), его общая формулировка слишком сложна, не говоря уже о доказательстве. Поэтому здесь мы приведем без доказательства ослабленный вариант теоремы о канонической форме пары эрмитовых матриц в предположении невырожденности хотя бы одной из этих матриц. Частный случай, когда возможна одновременная диагонализация преобразованием эрмитовой конгруэнтности, уже рассматривался ранее.
Теорема. Пусть матрицы А,В^Мп эрмитовы и А не- вырожденна. Тогда существуют число к s' п и невырожденная матрица С е Мп, при которых справедливы представления
С* АС =
^i
0 "
, с*вс =
"51
В2
0"
_ 0
Afe_
_ 0
где каждая пара блоковгде каждая пара блоковвидвидЛ„ В^М^, 1= 1,Л„ В^М^, 1= 1,"О"Оа1а1Bt = eBt = eа 1а 12, ..., h, имеет1 "'О2, ..., h, имеет1 "'Ос вещественным числом ас вещественным числом аи е = ±1, либо види е = ±1, либо вид1 -О1 -О
где каждая пара блоков
где каждая пара блоков
вид
вид
Л„ В^М^, 1= 1,
Л„ В^М^, 1= 1,
"О
"О
а
1
а
1
Bt = e
Bt = e
а 1
а 1
2, ..., h, имеет
1 "'
О
2, ..., h, имеет
1 "'
О
с вещественным числом а
с вещественным числом а
и е = ±1, либо вид
и е = ±1, либо вид
1 -
О
1 -
О
а 1 О
с комплексным числом а и четным числом щ (изображенные подматрицы блока Bi одного размера nt/2}.
Замечания■
Если а вещественно, то допускается значение nt = 1; тогда указанные два блока — это ±а, ±1. Несколько (1 X 1)-блоков, отвечающих одному значению а (и одному значению е=1, например), объединяются в блок вида а/ в С*ВС и вида I в С* АС.
При комплексном а в случае щ-= 2 блоки принимают вид Г 0 а ]Г 0 1 1
6; = [ а 0 ] ’ л'= L 1 О J 1
В условиях последней теоремы блочная структура пары матриц точно соответствует канонической жордановой форме матрицы А-1 В. Жордановы блоки матрицы А-1 В в точности совпадают с АТ^В;. Отметим, что
(С'АСГЧС'ВС^С-ЦА-^С,.
а это означает, что матрица С осуществляет также преобразование подобия, приводящее матрицу Л-1 В к жордановой кано-
нической форме. Таким образом, канонический вид пары матриц из предыдущей теоремы можно найти с помощью жордановой канонической формы матрицы А-'В (множители инерции — величины е — определяются дополнительно).
5.22. Замечание. Точно так же как каноническое представление из теоремы 4.5.19 для пары эрмитовых матриц А и В по отношению к эрмитовой конгруэнтности аналогично канонической жордановой форме матрицы А-1В, имеется каноническое представление для пары вещественных симметричных матриц А и В по отношению к вещественной конгруэнтности, аналогичное вещественной канонической жордановой форме матрицы А-1В. В последнем представлении блоки В, вида (4.5.21) заменяются на естественные аналоги блоков вида (3.4.4) жордановой формы, а вид остальных блоков остается прежним.
Задачи
Пусть А,ВеМп и матрица В невырожденна. Доказать существование такой матрицы С г Мп, что А = ВС. Кроме того, для каждой невырожденной матрицы SeM„ справедливо равенство ВДВ* = (SBS*)C', в котором матрица С' подобна С.
Единственная нетривиальная часть доказательства закона инерции Сильвестра (теорема 4.5.8)—проверка того, что конгруэнтность пХ н-матриц инерции Dx, D2 (см. (4.5.7)) влечет за собой совпадение количества положительных диагональных элементов. Приведенные выше в тексте рассуждения основаны на следствии теоремы Куранта — Фишера. Провести подробное доказательство, руководствуясь следующими соображениями. Пусть Z)2 = В*О)В и матрица £>i содержит ровно s положительных диагональных элементов и по крайней мере один отрицательный. Предположим, что положительны первые s диагональных элементов матрицы £>i и первые / диагональных элементов матрицы D2 и 1 ^ s, / < п. Показать, что если s < /, то найдется ненулевой вектор х = [х,] е С", подчиненный условиям
Xt + 1 —• Xt + 2Xt + 1 —• Xt + 2= х„ = 0, (Sx), = (Sx)2 = ... =(Sx)s = 0.
Xt + 1 —• Xt + 2
Xt + 1 —• Xt + 2
Затем установить неравенства
x'D2x > 0 и (Sx)‘ Dx (Sx) < О,
противоречащие друг другу.
Пусть матрицы А и В эрмитовы. Доказать эквивалентность следующих четырех условий:
Матрицы А и В одновременно диагонализуемы посредством преобразования эрмитовой конгруэнтности.
Для некоторых отличных от нуля вещественных чисел а и b матрицы аА + ЬВ и В одновременно диагонализуемы посредством преобразования эрмитовой конгруэнтности.
Обе матрицы А и В одновременно эрмитово конгруэнтны некоторой паре коммутирующих матриц.
Матрица А + 1В эрмитово конгруэнтна нормальной матрице.
Привлекая доводы из доказательств теоремы 4.5.15 и теорем 1.3.19 и 4.1.6 о коммутативном семействе, доказать следующее обобщение случая 1(b) теоремы 4.5.15. Пусть заданы эрмитовы матрицы Ai, Аз, ■и Д! невырожденна. Тогда необходимыми и достаточными условиями существования такой невырожденной матрицы Т е Мп, что матрицы T*AiT диаго- нальны сразу для всех i =1,2, ..., к, являются (а) подобие матрицы А^Аг некоторой вещественной диагональной матрице для каждого г = 2, ..., к и (Ь) коммутативность семейства матриц {ДГ'Д;: / = 2, . .., к\ Указание. Пусть Ci = A?1A{ и SCfS-1— вещественная диагональная матрица для каждого 1 = = 2, ..., к. Положить Bi = (5*)-1Л,5-1 и показать, что множество {в,} есть коммутативное семейство эрмитовых матриц. Тогда найдется унитарная матрица U, такая, что матрица UBiU* диагональна для каждого i = 2, ..., к, и произведение Т = = S~lU будет осуществлять требуемую конгруэнтность.
Что представляет собой соответствующее обобщение случая П(Ь) теоремы 4.5.15?
Дифференциальный оператор L, заданный формулой (4.0.4) с вещественной симметричной матрицей коэффициентов Д (х) = [яр (х) ], называют эллиптическим в точке xgOcR”, если матрица коэффициентов невырожденна и все ее собственные значения одного знака. Оператор L называют гиперболическим в точке х, если матрица Д (х) невырожденна и знак одного из ее собственных значений противоположен знаку всех остальных. Объяснить, почему эллиптический (гиперболический) в некоторой точке оператор сохраняет свой тип при замене координат. Примером эллиптического оператора служит оператор Лапласа
v '<5х2ду2<Эг2’
а гиперболического — волновой оператор
n2f- ^I^92f
ы 'дх2*ду2012 *
Оба записаны здесь в декартовых координатах и выглядят совершенно иначе в сферических, цилиндрических и др. координатах.
Пусть Л" = [Л"1X„f и У = [У]Уп]г —два вектора с вещественными случайными компонентами, у которых конечны моменты второго порядка. Известно (см. гл. 7), что собственные значения матриц ковариации каждого из векторов X и У неотрицательны. Пусть хотя бы одна из матриц ковариации невырожденна. Доказать существование такой вещественной невырожденной матрицы S е М„, что обе матрицы ковариации векторов SX и ВУ диагональны. На языке статистики это означает существование единственного такого линейного невырожденного преобразования В, что компоненты каждого из векторов SX и ВУ не коррелируют.
Используя результат задачи 4, сформулировать условия для трех или большего числа случайных векторов, при которых существует единственное невырожденное линейное преобразование, переводящие все эти векторы в векторы с некоррелирующими компонентами.
В случае 1(b) теоремы 4.5.15 рассматривается задача одновременной диагонализации двух эрмитовых матриц, хотя бы одна из которых невырожденна, преобразованием эрмитовой конгруэнтности. В следствии 4.5.18(a) об одновременной диагонализации преобразованием унитарной эрмитовой конгруэнтности допускается вырожденность обеих матриц. Если обе матрицы вырожденны, то решение задачи об одновременном приведении их к диагональному виду преобразованием (не обязательно унитарной) эрмитовой конгруэнтности сводится в конечном счете к теореме 4.5.15, но необходимо изучить поведение данных матриц на ортогональном дополнении к пересечению их ядер. Обозначим две вырожденные эрмитовы матрицы через Д, Se Мп, а их ядра через N(Д) и N(В) соответственно.
Рассмотреть матрицы Д = [о“] и S = [qq] как пример двух вырожденных эрмитовых матриц, поддающихся одновременной диагонализации преобразованием эрмитовой конгруэнтности.
Пусть Лт(Д)ПМ(В) = {0} и матрицы Д и В можно одновременно диагонализовать преобразованием эрмитовой конгруэнтности. Доказать существование вещественного числа а, при котором матрица аА + В невырожденна. Указание. Пусть матрица С г Мп невырожденна и С* АС = Ль С*ВС = Л2, где At и Л2— диагональные матрицы. Показать, что в At и Л2 нулевые элементы на главной диагонали расположены в разных позициях. Можно ли выбрать число а так, чтобы все элементы главной диагонали матрицы oAi + Л2 оказались ненулевыми?
10 Р- Хорн, Ч. Джонсон
{с) Привлекая результат п. (Ь), убедиться, что матрицы
'0101Г 0 0
0 -
А = 10 0 и В = 0 0
1
- 0 0 0 JL 0 1
0 -
нельзя одновременно диагонализовать преобразованием эрмитовой конгруэнтности.
Предполагая, что 7V(A)Q/V(B) = {0} и что матрица аА + В невырожденна при некотором ненулевом а е R, доказать на основе результата п. (Ь) задачи 3, что матрицы А и В одновременно диагонализуемы преобразованием эрмитовой конгруэнтности тогда и только тогда, когда матрица (aAXB)~*B диагонализуема и все ее собственные значения вещественны.
Пусть dim N (A) Q N (В) = k ^ 1 и (u^ и2> • •-. urt} — орто- нормированный базис в R", первые векторы (ub u2> • ••>“&} которого образуют базис пересечения N (A) Q jV (В). Пусть U = = [и1и2 . •• и„]еЛ1„. Показать, что
. Г °^о. Г °^ои*ви =и*ви =0] 0 ". 0 |в'_0] 0 ". 0 |в'_
. Г °^о
. Г °^о
и*ви =
и*ви =
0] 0 ". 0 |в'_
0] 0 ". 0 |в'_
где A', B'eM„_b N (A') f| N (Вг) = {0} и нулевые блоки в верхнем левом углу имеют размер k X k. Показать, что пара матриц А и В одновременно диагонализуема преобразованием эрмитовой конгруэнтности тогда и только тогда, когда одновременно диагонализуемы подматрицы А' и В'. Хотя обе матрицы А' и В' могут быть вырожденными, их ядра имеют нулевое пересечение.
Суммируя результаты пн. (а) — (е), сформулировать и доказать общую теорему об одновременной диагонализации двух эрмитовых матриц посредством преобразования эрмитовой конгруэнтности.
Пусть А, В е Мп и матрица В невырожденна. Установить, что матрица А коммутирует с В в том и только в том случае, когда А коммутирует с В-1.
Проверить, что матрицы [° J] и [* Д] можно одновременно привести к диагональной форме посредством преобразования унитарной конгруэнтности, но нельзя одновременно диагонализовать преобразованием эрмитовой конгруэнтности. Использовать рассуждения из доказательства случая 11(b) теоремы 4.5.15 для явного приведения и указать подходящую унитарную матрицу, осуществляющую конгруэнтность.
Удостовериться, что матрицы [} q] и [° q] невозможно одновременно диагонализовать преобразованием (эрмитовой)] конгруэнтности.
Пусть А,ВеМ'„ и матрица А невырожденна. Показать, что каждое из условий, приведенных в следующей таблице, является необходимым и достаточным для того, чтобы матрицы А и В одновременно приводились к диагональному виду посредством преобразования конгруэнтности, причем в каждом случае имеется в виду такой же тип приведения и условия, как в одноименном случае теоремы 4.5.15 (см. табл. 4.5.15Т).
I (а)
Существует эрмитова матрица Fe Мп, при которой В = AF.
I (Ь)
Существует диагонализуемая матрица F е М„ с вещественными собственными значениями, при которой В = AF.
П (а)
Существует нормальная матрица F е М„, при которой В = AF.
II (Ь)
Существует диагонализуемая матрица F г Мп, при которой В = = AF.
Ш (а)
Существует симметричная матрица F е Мп, при которой В = AF
Ш (Ь)
Существует псевдодиагонализуемая (см. определение 4.6.2) матрица F е Мп, при которой В = AF.
Случай
Необходимое и достаточное условие
Пусть матрицы А,ВеМп симметричны (и обе могут быть вырожденными) и существует такая унитарная матрица U е Мп, что UAUT = Л, UBUT = М — диагональные матрицы. Установить существование такой унитарной матрицы V е Мп, что BA = AVB. Указание, Пусть Л = diag(X,i,X,2, •.., ^). Доказать существование унитарной диагональной матрицы D, для которой Л = ДЛ = AD. Затем обосновать равенства
В А = U’MAU = U*ADXD2MU = A (UTDXD2U)B,
где D\ и D2— унитарные диагональные матрицы.
Используя необходимое условие из задачи 13, показать, что две симметричные матрицы в задаче 8(c) не приводятся одновременно к диагональному виду преобразованием унитарной конгруэнтности. Указание. Вычислить первый столбец матрицы ВА и матрицы AUB. Используя следствие 4.5.18(b), вывести это же утверждение более простым способом.
Пусть матрицы А, В е Мп симметричны. Доказать, что в задаче 13 необходимое условие одновременной диагонализации этих матриц будет также и достаточным, если только обе матрицы А и S невырожденны. Указание. Если ВА = AU В с невырожденными матрицами А и S, то А~ХВАВ~Х = U и I = = UU\ Тогда АВ~ХВ~ХА = В~ХААВ~Х, Сравнение обратных
к матрицам в левой и правой частях этого равенства убеждает нас, что матрица А~ХВ нормальна.
Пусть матрицы А,ВеМп симметричны (быть может, обе они вырожденны) и существует унитарная матрица U=Mn, приводящая их к диагональному виду. Показать, что матрицы АА и ВВ коммутируют. Удостовериться, что это необходимое условие одновременной диагонализации преобразованием унитарной конгруэнтности не является достаточным, рассматривая две матрицы из задачи 8(c). Проверить, что это необходимое условие будет достаточным, если каждая из матриц АА и ВВ имеет простой спектр.
Пусть А,ВеМп, матрица А эрмитова и В симметрична и существует такая унитарная матрица U е Мп, что UAU* = =Л,11 BUT —_М—диагональные матрицы. Показать, что А коммутирует с ВВ. Убедиться, что это необходимое условие одновременной диагонализации (посредством такого преобразования смешанного типа) не является достаточным, рассматривая две матрицы из задачи 11. При помощи следствия 4.4.5 проверить, что это необходимое условие оказывается достаточным, если все собственные значения матрицы ВВ различны.
Пусть А, В е Мп, матрицы А и В симметричны и А невы- рожденна. Доказать, что матрицы А и В одновременно приводимы к диагональному виду преобразованием конгруэнтности, когда все п корней обобщенного характеристического многочлена рд, в(/) = det(//l — В) различны. Указание. Чему равны собственные значения матрицы А-1В?
Дать новое подробное доказательство закона инерции Сильвестра (теорема 4.5.8) по следующей схеме. Пусть матрица А е Мп эрмитова и невырожденна и матрица S е Мп невырож- денна. Пусть имеется разложение S = QR с унитарной матрицей Q е Мп и верхней треугольной матрицей Re Мп с положитель- ■ ными элементами на главной диагонали. Показать, что матрица S(/) = /Q + (l — 0QR невырожденна при O^/^l. Положить А (/) = S(/)4S(/)*, Что представляет собой матрица 4(0)? Матрица 4(1)? Учитывая невырожденность матрицы 4(/) и непрерывную зависимость от параметра / на отрезке от нуля до единицы, привести доводы в пользу совпадения числа положительных (отрицательных) собственных значений у матриц 4(0) и 4(1). Включить сюда и общий случай), рассматривая матрицу А + е/ при е->0.
Пусть задана матрица вида 4 = [„ ц]еМп, где BGMk, 1 ^^ < п. Показать, что матрица А нормальна в том и только в том случае, когда нормальна матрица В и С = 0. Указание.
Вычислить произведения АА* и А*А. Если С*С = 0, то имеем (Сх)*(Сх) = 0 для всех векторов х г Сп~к и, следовательно, Сх = 0 для всех х е С"~\
Убедиться, что способ доказательства утверждения (Ь) следствия 4.5.18 также подходит_для доказательства утверждений (а) и (с) этого следствия. ' ■
Пусть задано семейство комплексных симметричных матриц 9" = {Аь ..., АД с Мп, и пусть S = ИгА,: i, j — 1, .. . ...,/;}. Показать, что если существует унитарная матрица U е /Ип, такая, что матрицы UAJJT диагональны для всех 1=1, ...,&, то семейство матриц S коммутативно. Рассмотреть частный случай к = 2 и установить связь с утверждением (Ь) следствия 4.5.18. На самом деле верно и обратное: коммутативность семейства S обеспечивает возможность одновременной диагонализации матриц из множества 9" посредством преобразования унитарной конгруэнтности (см. статью Хонга и Хорна, указанную в конце этого параграфа).
Пусть задано семейство 9 = {АЬ ..., Л^сМ, комплексных симметричных матриц и семейство 36 = (Д, ..., Sm} си сЛ4„ эрмитовых матриц, и пусть S — {АгАр i,/=l, . ,.,/г}. Показать, что если существует такая унитарная матрица UeM„, что каждая из матриц UAtUT и UBtU* диагональна, то оба семейства S и 36 коммутативны и каждая матрица BjAt симметрична для всех i = 1, .. ., к и / = 1, ..., т. К чему сводится это утверждение при k—m = 1 и как оно согласуется с утверждением (с) следствия 4.5.18? Хонг и Хорн доказали (см. ссылку в конце этого параграфа) справедливость обратного утверждения.
Дополнительная литература
Доказательство теоремы 4.5.9 и связанные с этим результаты содержатся в работе: Ostrovski A. A Quantitative Formulation of Sylvester’s Law of Inertia, Proc. Nat. Acad. Sci., 1959, v. 45, p. 740—744. Иной вариант теоремы 4.5.19 установлен в [GLR 82]; тщательное доказательство с учетом возможной вырожденности обеих матриц содержится в неопубликованных заметках Р. Томпсона. Одновременная диагонализация более чем двух матриц исследуется в статье: Hong Y. Р., Horn R. А. On Simultaneous Reduction of Families of Matrices to Triangular or Diagonal Form by Unitary Congruence. — Linear and Multilinear Algebra, 1985, v. 17, № 3—4, p. 271—288.
Псевдоподобие и псевдодиагонализация
Основанием для материала данного раздела служат три результата из двух предыдущих параграфов. В теореме 4.4.3 охарактеризованы все матрицы вида UkUT, где Л — верхняя треугольная, a U —унитарная матрицы. Теперь нам будет удобней иная запись этого разложения: UAUT = UAU~X. В следствии 4.4.4 охарактеризованы все матрицы вида иъит=и^и~1, где S—диагональная матрица. Наконец, в случае III теоремы 4.5.15 требуется информация о том, когда заданную квадратную комплексную матрицу А можно привести к диагональной форме преобразованием A—«-SAS-1 для некоторой невырожденной матрицы S1).
Определение. Две матрицы А и В называют псевдопо- добными, если существует невырожденная матрица S г Л1л, связывающая их равенством A=SBS-1. Если матрицу S здесь можно выбрать унитарной, то говорят об унитарном псевдоподобии матриц А и В. -
Если A = SBS~‘ и матрица S = U унитарна, то А = SBS-1 = = UBUT-, если матрица S = Q комплексная ортогональная, то А = SBS-V = QBQ; если матрица S = В вещественная невырожденная, то А = SBS-1 = RBR-1. Таким образом, конгруэнтность, эрмитова конгруэнтность и обычное подобие являются частными случаями псевдоподобия.
Как и обычное подобие, псевдоподобие задает отношение эквивалентности на Мп, и можно задаться вопросом о выделении классов эквивалентности, содержащих треугольные или диагональные представители.
Определение. Говорят, что матрица А е МП приводится к треугольному виду преобразованием псевдоподобия или просто псевдоподобием (является псевдотриангуляризуемой), если существует невырожденная матрица S г МП, такая, что матрица S-MS верхняя треугольная, и что она приводится к диагональному виду псевдоподобием (является псевдодиаго- нализуемои), если матрицу S можно выбрать так, чтобы матрица S-1AS была диагональной. Если матрицу S здесь можно выбрать унитарной, то А называют унитарно псевдотриангуляризуемой или унитарно псевдодиагонализуемой.
Если матрица A е Мп приводится псевдоподобием к верхней треугольной матрице S~MS = Л, то элементы главной диагонали
произведения ДД = 5~1(АА)5 неотрицательны, как показывают явные вычисления. Следовательно, Неотрицательны все собственные значения матрицы АА. Но тогда в силу теоремы 4.4.3 существует унитарная матрица U, такая, что UAUT = UALM— верхняя треугольная матрица. Таким образом, мы уже научились определять, приводится ли заданная матрица к треугольному виду псевдоподобием.
Теорема. Пусть задана матрица A е Мп. Следующие утверждения являются эквивалентными:
матрица А приводится к треугольному виду псевдоподобием;
матрица А приводится к треугольному виду унитарным псевдоподобием;_
все собственные значения произведения АА вещественны и неотрицательны.
Если матрица А е Мп унитарно псевдодиагонализуема, то А = UAU-1 = UAUT с некоторой унитарной матрицей U е Мп и диагональной матрицей A = diag(Xb . .., Х„). Таким образом, Ат = ^UMJTY = UNrUT = U MJr = А и, следовательно, матрица А симметрична. В силу следствия 4.4.4 верно и обратное, причем диагональную матрицу здесь всегда можно выбрать неотрицательной. Тем самым мы также решили проблему унитарной псевдодиагонализации.
Теорема. Матрица А ^ Мп унитарно псевдодиагонализуема тогда и только тогда, когда она симметрична.
Среди вопросов, связанных с приведением к треугольному и диагональному виду псевдоподобием, без ответа остался только вопрос практичной характеризации псевдодиагонализуе- мых матриц, когда унитарность псевдоподобия не предполагается.
Пусть матрица А о Мп приводится _к диагональному виду S-1AS = А = diag (Хь ...,ХП); тогда AS = SA. Вводя обозначения S = [s1 ... srt], где st е С", запишем это равенство для каждого столбца: As, = Mst, z=l, ..., п. Собственные значения и векторы связаны похожим образом, однако имеющееся отличие оказывается существенным.
Определение. Пусть задана матрица А е М„. Ненулевой вектор хеС", подчиненный условию Ах = Хх с некоторым Хе С, называют псевдособственным вектором матрицы А, а соответствующее число X— псевдособственным значением матрицы А.
Равенство AS = SA означает, что каждый ненулевой столбец из S есть псёвдособственный вектор матрицы А, Столбцы
матрицы S линейно независимы в том и только в том случае, когда 5 невырожденна. Поэтому матрица Л е Мп псевдодиаго- нализуема тогда и только тогда, когда у нее имеется п линейно независимых псевдособственных векторов. В этом отношении теория псевдодиагонализации полностью параллельна теории обычной диагонализации.
Но каждой матрице соответствует по меньшей мере одно собственное значение и общее число ее различных собственных значений конечно. При переходе к псевдособственным значениям эти утверждения теряют силу. В самом деле, если Ах = Хх, то е~‘6Ах = A (е‘6х) = e~l0Xx = (е~2<6л) (е‘°х)
для всех OeR. Таким образом, одновременно с псевдособственным значением X у матрицы А имеются псевдособственные значения е‘6Х для всех OeR. С другой стороны, равенство Ах = Хх влечет за собой ААх = А (Ах) = Л (Лх) = ХАх = ХХх = = IZ |2 х. Следовательно, число X есть псевдособственное значение матрицы А, только когда | X |2 есть собственное значение произведения АА. Пример Л = [” ~'], когда произведение ЛЛ = = —2/ не имеет неотрицательных собственных значений, убеждает в том, что существуют матрицы, у которых вообще нет псевдособственных значений. Известно, однако, что если А е Мп и п нечетно, то у матрицы А имеется по крайней мере одно псевдособственное значение — результат, аналогичный тому факту, что произвольная вещественная матрица нечетного порядка имеет хотя бы одно вещественное собственное значение.
Итак, в отличие от положения с обычными собственными значениями матрица может иметь бесконечно много различных псевдособственных значений или не иметь их вовсе. Если известно псевдособственное значение матрицы и тем самым определен бесконечный набор псевдособственных значений с одним модулем, то в этом наборе в качестве представителя иногда удобно взять единственное неотрицательное псевдособственное значение.
Указанное выше необходимое условие существования псев- дособственного значения оказывается также достаточным.
Предложение. Пусть заданы матрица А е Мп и число X 5 0. Тогда X есть собственное значение произведения А А в том и только в том случае, когда число + V^ есть псевдособственное значение матрицы А.
Доказательство. Если Х^О, д/Х ^ 0 и Лх — У% х при некотором векторе х=^=о, то ЛЛх = Л (Лх) = Л (дД х) = -^ХАх — Хх.
В обратную сторону, пусть ААх = Хх для некоторого х #= 0. Имеются две возможности:
векторы Ах и х линейно зависимы, либо
векторы Ах и х линейно независимы.
В первом случае имеем равенство Ах = цх для некоторого цеС, которое означает, что ц — псевдособственное значение матрицы А. Но тогда Хх = ААх = А (Ах) = А (цх) = ц Лх = ццх — = | р, |2х, т. е. |p,| = + VM Поскольку псевдособственному значению e~2l9y. отвечает псевдособственный вектор el9x для любого 9eR, приходим к заключению, что число +V^ является псевдособственный значением матрицы А. Отметим, что А А (Ах) = А (ААх) = А(Хх) = Х(Ах) и ААх = Хх, а это означает, что в случае простого собственного значения X матрицы АА всегда реализуется случай (а).
В другом случае (Ь) (который может осуществиться, если X— кратное собственное значение матрицы АА) линейная комбинация z/ = Ах + V^ х является ненулевой и оказывается псев- дособственным вектором, отвечающим псевдособственному значению + V^' поскольку
Ау = ААх A~'VxAx = XxA~'VxAx = ->/x (Ах -V л!х х) = ^ X у. □
Мы убедились, что каждому неотрицательному собственному значению произведения АА соответствует псевдособственный вектор матрицы А. В этом факте вновь проявляется аналогия с обычной спектральной теорией. Такая аналогия до некоторой степени развивается следующим результатом.
Предложение. Пусть задана матрица АеМ.со своими псевдособственными векторами xi,x2, ..., x% отвечающими псевдособственным значениям Х\,Х^, ..., Х^. Если |^/|=#|^/| при 1 ^ ц j ^ к и i =А j, то множество {xi, ..., х^} линейно независимо.
Доказательство. Каждый вектор Xi является собственным для АА и ему соответствует собственное значение |Х/|2. Векторы xi, ..., xh линейно независимы в силу теоремы 1.3.8 как собственные векторы матрицы АА, соответствующие различным (по предположению) собственным значениям IXJ2, ..., |М|2. □
Это предложение вместе с предыдущим позволяет оценить снизу число линейно независимых псевдособственных векторов заданной матрицы и приводит к достаточному условию псевдодиагонализации, аналогичному известному достаточному уело-
вию диагонализации. Более общее условие мы дадим в теореме 4.6.11.
Следствие. Пусть задана матрица А е Мп. Если существуют к различных неотрицательных собственных значений произведения АА, то матрица А имеет по крайней мере к линейно независимых псевдособственных векторов. При к = п матрица А псевдодиагонализуема. При к = б матрица А вообще не имеет псевдособственных векторов.
О"О"■ 1 11 .■ 1 11 .Эти границы числа линейно независимых векторов точны. Положим Л =/л(1), где
О"
О"
■ 1 1
1 .
■ 1 1
1 .
Л(1) =
1
1
— элементарный жорданов блок. Тогда произведение АА = —/л(1) имеет единственное неотрицательное собственное значение, равное единице. Легко видеть, что уравнение Ах = х для псевдособственного вектора допускает только вещественные решения. Тогда каждый псевдособственный вектор является также собственным, а собственное подпространство будет одномерным. Образуя прямую сумму элементарных жордановых блоков, можно, таким образом, получать примеры матриц А е Мп с любым заданным числом к (\^k^n) линейно независимых псевдособственных векторов, причем произведение А А будет иметь точно к различных неотрицательных собственных значений.
Наша цель — найти простое условие псевдодийгонализуемо- сти произвольной заданной матрицы. В качестве первого шага докажем лемму, мотивированную следующим фактом. Если данная матрица A g Мп псевдоподобна скалярной матрице, то
А = S (X/) S-1 = XSS"1, АА = XSS-^SS'1 = | X j2/.
Матрицы с таким свойством (что произведение А А — скалярная матрица) будут теми кирпичиками, из которых мы построим псевдодиагонализуемые матрицы.
Лемма. Матрица А е Мп удовлетворяет равенству АА = 1 тогда и только тогда, когда существует невырожденная матрица S @ Мп, такая, что А = SS-1.
Доказательство. Необходимость данного условия уже была установлена ранее. Чтобы доказать достаточность, положим
Se = е'М + е~‘в1, где OeR произвольно, и заметим, что
А30 = A (e-i6A+et90 = e-t9AA+e9A = е'9Л+е-'е/ = 30. (4.6.10)
Число собственных значений матрицы А конечно, поэтому существует 0О е R, при котором величина —е2*9" не является собственным значением матрицы А, Выбирая 0 = 0о, заключаем, что матрица
30о = е,0°(А + е~2/07)
невырожденна и Л = 30.3^* в силу (4.6.10). □
Теперь мы готовы установить необходимое и достаточное условие псевдодиагонализуемости.
Теорема. Пусть А е Мп. Тогда невырожденная матрица 3 е Мп и диагональная матрица А е Мп, такие, что А = = ЗАЗ-1, существуют в том и только в том случае, когда матрица А А диагонализуема, все ее собственные значения неотрицательны и rank Л = rank АЛ.
Доказательство. Необходимость указанных условий не вызывает сомнений, поскольку
А А = SAS- ’SAS-1 = 31 А |2 S”1
и ранг каждой из матриц АЛ и А совпадает с числом ненулевых диагональных элементов в А. Обратно, если матрица А А диагонализуема и ее собственные значения неотрицательны, то найдутся невырожденная матрица 3 е Мп и неотрицательная диагональная матрица А е Мп, такие, что АЛ = ЗАЗ-1. Не теряя общности, предположим, что равные между собой диагональные элементы в А сгруппированы вместе, т. е.
А = К11П1 ф ХД «2 ф • • • ф ^й/Пу
где /п. е Мп. и ^ > Л2 > ^3 > ... > ЛА > 0. Тогда
S-1AAS = S-IASS-IAS = (S-IAS) (S“’AS) = А.
Если положить B = S-IAS, то достаточно будет показать (поскольку псевдоподобие есть отношение эквивалентности), что матрица В псевдодиагонализуема при ВВ = А. В силу вещественности А имеем А = Л = (ВВ) = ВВ = ВВ, т. е. матрицы В и В коммутируют. Тогда ВЛ = В (ВВ) = ВВВ = = (ВВ)В = ЛВ, т. е. матрицы В и Л также коммутируют.
Запишем матрицу В в блочном виде:
Размеры блоков в матрицеРазмеры блоков в матрице16
Размеры блоков в матрице
Размеры блоков в матрице
здесь согласованы с размерами блоков
Ai/ я.
U^M^, < = 1, 2,
к.
Равенство ВА = АВ на языке блоков означает, что kiBlj = k]Bif для всех Z=l, 2, ..., к. Поскольку Аг ^ А/ при i =# i, приходим к заключению, что В^ = 0 при i =А j, т. е. матрица В блочно-диагональная:
о-
Вкк _
и размеры диагональных блоков совпадают с размерами соответствующих блоков в Л. Равенство ВВ = А означает, что ВцВц — ХД для z= 1, 2, ..., к. Отметим невырожденность блока Ви при А, > 0. Если А, > 0, то последнее равенство записывается в виде
Применяя лемму 4.6.9, убеждаемся в существовании невырожденной матрицы Si е МП(, такой, что Вц = Si (VAi It^)STx. Если А6 = 0, то
rank Вц + rank В22 + ••• + rankBftft =
= rank В = rank А = rank АА = rank Л = п1 + п^ + ... + Пк_\.
Отсюда видно, что rank Вкк = 0, т. е. при Aft = 0 блок Вкк нулевой. В этом случае можно записать 0 = Вкк = Sk ^Хк 0 Вк \ где Sk е М„.к—произвольная невырожденная матрица. Положим S = Si®...®Sft. Поскольку мы уже рассмотрели все
возможные случаи, приходим к искомому разложению
B^S^k? 1„.х® ... © ^Ink)S~l. □
Необходимые и достаточные условия псевдодиагонализуемости можно применить в случае 111(b) теоремы 4.5.15, что приводит к следующему утверждению. Пусть заданы матрицы А,ВеМп, причем А эрмитова, В симметрична и одна из этих матриц невырожденна. Положим С = А~'В либо С = В-ХА в зависимости от того, какая из матриц вырожденная. Тогда невырожденная матрица S е Мп, такая, что матрицы SAS и SBST диагональны, существует в том и только в том случае, когда матрица Сс диагонализуема, все ее собственные значения неотрицательны и rank С = rank СС.
Частный случай комплексной симметричной матрицы А легко укладывается в рамки теоремы о псевдодиагонализации. В самом деле, произведение А А = А А* в этом случае эрмитово и, следовательно, диагонализуемо. Далее rank А = rank АА* для любой матрицы A е Мп, т. е. для комплексной симметричной матрицы А все условия теоремы 4.6.11 выполнены. Тогда из этой теоремы следует, что каждая комплексная симметричная матрица псевдодиагонализуема. Однако здесь не отражается непосредственно тот факт, что псевдодиагонализация такой матрицы может осуществляться унитарным преобразованием. См. задачу 22 в конце настоящего параграфа.
Эти замечания помогают с другой точки зрения рассмотреть разложение Такаги (следствие 4.4.4) комплексной симметричной матрицы и приведение к треугольному виду посредством преобразования унитарной конгруэнтности в теореме 4.4.3. Теорема 4.4.3 гласит, что каждая матрица А е Мп, такая, что все собственные значения произведения АА неотрицательны, допускает приведение к треугольному виду унитарным псевдоподобием. Результат Такаги состоит в том, что каждая комплексная симметричная матрица унитарно псевдодиагонализуема.
Среди псевдособственных значений бессмысленно выделять «вещественные» и «невещественные»’), поэтому не различаются понятия «унитарная псевдодиагонализуемость с вещественными ^(или положительными) псевдособственными значениями» и «унитарная псевдодиагонализуемость с комплексными псевдособственными значениями», которые могли бы быть аналогами соответственно понятий эрмитовости (или положительной определенности) и нормальности. Таким образом, комплексные симметричные матрицы можно считать аналогом (для псевдоподо-
бия) всего класса нормальных матриц (для обычного подобия), и разложение Такаги можно рассматривать как аналог спектрального разложения нормальных матриц в теореме 2.5.4 (а, Ь).
Теория обычного подобия возникла в результате исследования линейных преобразований в различных базисах. Понятие псевдоподобия аналогичным образом связано с полулинейными преобразованиями. Полулинейное преобразование Т есть отображение Т: V-^ W одного комплексного векторного пространства в другое, которое является аддитивным (т. е. 7(х + + У) = Тх + Ту для всех векторов х, у s V) и сопряженно-однородным (т. е. Т(ах)=аТ(х) для всех деСи всех х г V; это свойство иногда называют антиоднородностью). Такие преобразования возникают в квантовой механике при изучении эффектов обращения времени.
Класс псевдодиагонализуемых матриц достаточно обширен. В него входят все вещественные диагонализуемые матрицы с вещественными собственными значениями, все (вещественные и комплексные) симметричные матрицы и все матрицы вида H2S, где Н эрмитова, a S симметрична (см. задачи 10 и И в конце параграфа). Последнее наблюдение лежит в основе доказательства второго утверждения в следствии 4.6.12. Положительно определенная матрица Аг Мп есть невырожденная эрмитова матрица, подчиненная условию1) хАхТ>0 для всех ненулевых векторов х г Сл. Это эквивалентно условию, что эрмитова матрица А обладает положительным спектром, либо что А = Н2 с некоторой невырожденной эрмитовой матрицей Н '(см. гл. 7).
Следствие. Пусть А, В г Мп, причем матрица А эрмитова и положительно определена.
Если В эрмитова, то существует невырожденная матрица S г Мп, при которой SAS* = i и SBS* — вещественная диагональная матрица.
Если В симметрична, то существует невырожденная матрица SeM,, при которой SAS*=I и SBSr— вещественная диагональная с неотрицательными элементами.
Доказательство. Пусть А = И2, где Н г Мп — невырожденная эрмитова матрица.
Положим С = А-х В = Н-2 В\ тогда С подобна матрице НСН~1 = Н (Н~2В) Н~х = Н~ХВН~Х, которая является эрмитовой и, следовательно, диагонализуемой с вещественным спектром. Это означает, что матрица С обязана быть также диагонализуемой и обладать вещественным спектром. Тогда матрицы А
и В одновременно диагонализуемы посредством преобразования эрмитовой конгруэнтности по теореме 4.5.15, случай 1(b) (2). Если Н-ХВВМ = UMJ* с унитарной матрицей U и диагональной матрицей Л, то невырожденная матрица S = U*H~X обеспечит справедливость равенств SXS* = /, SBS* = Л._ _
Положим С=А~ХВ=Н~2В; тогда матрица СС=Н 2ВН~2В подобна матрице■
н (cqh"1 = н-'вн^вн^ = (Н^ВН-1') (н^вн~У, которая является эрмитовой и положительно полуопределен- ной') и, следовательно, диагонализуемой с неотрицательным спектром. Однако_
rank (СС) = rank (Н^ВН^ (Н~1ВН~1У = rank (Н~ХВН -1)
в силу 0.4.6(d) и
rank (H^BH^ = rank (Н-^ = rank С
в силу 0.4.6(b). Поэтому из теоремы 4.6.11 вытекает выполнение условия случая 111(b)(1) теоремы 4.5.15. Таким образом, существует невырожденная матрица S е Мп, такая, что матрицы SXS* и SBST диагональны. Отметим симметричность матрицы НС(Н~1У = Н(Н~2В)(Н~1У^Н~1В(Н~1У; тогда по след- ствцю 4.4.4 существуют унитарная матрица U и неотрицательная диагональная матрица 2, такие, что Н^В^Н^У = U2>UT, откуда.
(и’Н'^В^иГН"^ = 2.
Полагая S = U’H~l, приходим также к равенству SXS* —7. □
Мы рассмотрели приведение псевдоподобием к диагональному виду, однако не каждая матрица псевдодиагонализуема и естественно задаться вопросом о некоторой простой форме, к которой можно было бы свести псевдоподобием произвольную матрицу. Такая нормальная форма по отношению к псевдоподобию существует, и ее роль аналогична той, которую играет жорданова форма по отношению к обычному подобию. Привлекая, эту форму, можно для каждой матрицы A g М„ доказать такие утверждения: матрицы А, А, А* и Ат псевдоподобны (ср. с утверждением разд. 3.2.3); матрица А псевдоподобна некоторой эрмитовой матрице (ср. с теоремой 4.4.9) и некоторой вещественной матрице; существуют невырожденные симметричные матрицы Si,S2gM^ и эрмитовы матрицы Нх, Н^е Мп, такие,
что А = SiHi = H2S2 (ср. со следствием 4.4.11). На самом деле вопрос установления псевдоподобия допускает решение в более привычных понятиях: две матрицы А,ВеМп псевдоподобии тогда и только тогда, когда (а) матрицы АА и ВВ подобны и (Ь) гапкЛ—rankB, rank АД=гапк ВВ, rank AAA=rank ВВВ, ... и так далее для всех п таких произведений с не более чем п чередующимися сомножителями.
Задачи
Показать, что псевдоподобие задает отношение эквивалентности на Мп.
Провести подробно доказательство теоремы 4.6.3.
Пусть заданы матрица А е Мп и ее псевдособственное значение X. Проверить, что множество отвечающих X псевдо- собственных векторов матрицы А не обязано быть подпространством в С" над полем С, но всегда будет подпространством над полем R. Сравнить с ситуацией для обычных собственных векторов.
В теореме 4.6.11 приводятся необходимые и достаточные условия псевдодиагонализуемости одной заданной матрицы. Что изменится, если необходимо привести к диагональному виду посредством псевдоподобия одновременно несколько матриц? Пусть задан набор матриц {Дь А2, ....А^} сМ,„ Предположим, что невырожденная матрица S е Мп удовлетворяет равенствам A, = SAZS-1 для i=l, ..., к, где каждая матрица Л, диаго- нальна. Доказать, что
каждая матрица At псевдодиагонализуема;
каждое произведение AtAj диагонализуемо;
семейство произведений (АгА,: i,j=l, ..., &} коммутативно;
сумма AtAj-VAjA; обладает вещественным спектром, а разность А^А. — А.Аг — чисто мнимым спектром для всех I, /= 1, ..., к.
Рассмотреть частный случай к = 1. Приведенные необходимые условия на самом деле являются также достаточными, что доказано в работе Хонга и Хорна, на которую мы ссылались в конце § 4.5.
Произведение АА играет важную роль в теории псевдоподобия. Показать, что для произвольной матрицы А е Мп характеристический многочлен матрицы АА имеет вещественные коэффициенты. Вывести отсюда, что комплексные собственные значения матрицы АА образуют сопряженные пары. Указание. det(M —ААА) = detA det(//— АА) = det (//— AA)detА. Таким образом, если А невырожденна, то характеристические много-
члены произведений АА и АА = (АА) совпадают. В общем случае ввести в рассмотрение матрицу Де = Д + е/. Более точный результат для произведения АА см. в задаче 8.
При наличии у произведения АА неотрицательных собственных значений у матрицы А существуют псевдособственные векторы, однако важны и остальные собственные значения этого произведения. Пусть А е Мп и ААх=Хх, где х N= 0 и /. е С подчинено условию Х^[0, со). Обозначим через осе С любой квадратный корень из л и определим вектор у равенством Ах = ау. Убедиться, что Ау — ах, ААу = Ху и векторы х, у линейно независимы. Указание. В случае их линейной зависимости вектор х должен быть псевдособственным и Л ^ 0. Показать, что все комплексные собственные значения произведения АА встречаются сопряженными парами и любое отрицательное собственное значение этого произведения имеет геометрическую кратность не меньше двух. Ср. с задачей 5.
Пусть А е М„, К — отрицательное собственное значение матрицы АА и ААх = Хх, х ^ 0, а2 = Х, Ах = ау, Ау = ах. Согласно задаче 6, векторы х и у линейно независимы.
Пусть х' = х-\-$у, у' = у — $х. Показать, что Ах' = ау', Ау'= ах при любом выборе р е С.
Показать, что параметр р можно выбрать так, чтобы векторы х' и у' стали ортогональными.
Пусть нормирующий множитель s > 0 выбран так, чтобы вектор X — sx' был единичным, и пусть r^sy'. Установить равенства Д^ = аг|, Дт) = а1, ^*р = 0.
Пусть нормирующий множитель г > 0 выбран так, чтобы вектор гц был единичным, и пусть U = [£ гт) и3 ... м„] е Мп — унитарная матрица. Доказать, что
U*AU =U*AU =0 га iа/г 00 га iа/г 0где А' ее Мп1?,где А' ее Мп1?,
U*AU =
U*AU =
0 га i
а/г 0
0 га i
а/г 0
где А' ее Мп1?,
где А' ее Мп1?,
и, следовательно,
*
и* (ДД) и =и* (ДД) и =А'А'А'А'
и* (ДД) и =
и* (ДД) и =
А'А'
А'А'
' f(e) Показать, что каждое отрицательное собственное значение матрицы АА имеет четную алгебраическую кратность. Ср. с задачей 6.
Для произвольной матрицы А е Мп установить следующую явную формулу подобия:
Г/ -Д1ГДД01Г/ л 1 _ Г 00 1
L 0/ J [ Д о J L о I J = L А Д Д J '
Вывести отсюда, что имеется взаимно однозначное соответствие между жордановыми блоками матриц АА и АА, отвечающими ненулевым собственным значениям. Учитывая равенство АА = = АА, показать, что жордановы блоки матрицы АА, отвечающие комплексным собственным значениям, встречаются сопряженными парами. Вывести отсюда, что матрица АА подобна некоторой вещественной матрице. Указание. См. обсуждение вещественной жордановой формы в § 3.4. Фактически можно утверждать нечто большее, а именно что матрица АА всегда подобна квадрату некоторой вещественной матрицы. Что можно сказать тогда о собственных значениях матрицы ДД?
Доказать следующее утверждение (и обратное к нему). Если матрица А е Мп подобна какой-нибудь вещественной матрице, то матрица А подобна А. Используя этот факт и результат задачи 8, показать, что матрицы АА и АА подобны для любой А е Мп. Проверить, что произведения АВ и ВА в общем случае не обязаны быть подобными.
Убедиться, что множество псевдодиагонализуемых матриц в Мп включает в себя следующие подмножества:
Все вещественные диагонализуемые матрицы с вещественным спектром.
Все диагонализуемые матрицы с набором из п линейно независимых вещественных собственных векторов.
Все симметричные матрицы.
Все положительно определенные эрмитовы) матрицы. Указание. Если матрица А положительно определена, то справедливо представление А = НН = Н(НН^н-1, где матрица Н эрмитова и невырожденна.
Все произведения АВ, в которых А — положительно определенная эрмитова матрица, а В — симметричная, или, что то же самое, всевозможные произведения НВ, в которых Н — эрмитова невырожденная матрица, а В — симметричная. Указание. №В = Н<НВНУН-Ч
Проверить, что множество CDn псевдодиагонализуемых матриц2) в Мп обладает Следующими свойствами:
£а) Если A^CD„ и матрица S е М„ невырожденна, то 5Л5~* е SD„.
Нулевая матрица входит в CDn. '
Если А е CDn и йе С, то йЛе CDn.'
Если матрица AeCD„ обратима, то А~х eCDn.
Проверить, что
матрицу ['*] нельзя привести к диагональному виду обычным подобием, но она псевдодиагонализуема;
матрица [* ~*] диагонализуема в обычном смысле, но не является псевдодиагонализуемой;
матрица [° *] не приводится к диагональному виду ни подобием, ни псевдоподобием._
Пусть задана такая матрица АеМ„, что ЛЛ = А = = ХхЦ ® ... © Wny где Хг ^= X/ при i j и все Xi > 0. Доказать существование такой унитарной матрицы U е Мп, что А = = и\ит, где A = A!©...®A* и каждая матрица \ьгМпк является верхней треугольной.
Лемма 4.6.9 гласит, что матрица АеМ„ допускает разложение A = SS~* с некоторой невырожденной матрицей S е Мп тогда и только тогда, когда AA — I. Привлекая следствие 4.4.4, показать, что A = UU~X = UUT, где матрица U ^Мп унитарна, в том и только в том случае, когда А~Х = А и матрица А симметрична. Как это согласуется с теоремой 4.4.7?
Пусть АеМ, и А = В-\-1С, где B,CeMnW. Убедиться, что число X е С будет псевдособственным значением матрицы А тогда и только тогда, когда ±|Х| суть (вещественные) собственные значения блочной матрицы
L С — в J
Указание. Переписать равенство Ах = гх, где г = |Х|, используя разложение x = « + iu, u,ueRn. Таким образом, если у матрицы F нет вещественных собственных значений, то у матрицы А не существует псевдособственных значений.
Установить, что собственные и псевдособственные значения диагональной или верхней треугольной матрицы А е М„ обладают следующим свойством. Если X—собственное значение матрицы А, то е‘9Х— ее псевдособственное значение при любом 6 е R; если ц— псевдособственное значение матрицы А, то е‘0р— ее собственное значение при некотором 6eR.
Пусть ЛеЛ1п(К). Доказать, что каждое вещественное собственное значение матрицы А будет также ее псевдособ-
ственным значением и что псевдособственное значение у ^ О матрицы Л либо само будет собственным значением, либо собственным значением будет противоположное к нему —ц. Указание. Выделить в равенстве Ах = цх вещественную и мнимую части, привлекая разложение х = и + iu, и, у е R\
Рассмотреть матрицу ^ = [_io] как пРимер вещественной матрицы с невещественными собственными значениями, которые не связаны ни с какими псевдособственными значениями.
Во что переходит утверждение леммы 4.6.9 при п=1? Комплексное число z лежит на единичной окружности комплексной плоскости, если zz = 1. В применении к матрицам обычное обобщение этого условия записывается в виде АА* — /. Подчиненные ему матрицы суть унитарные матрицы, имеющие фундаментальное значение в матричной теории. Другое обобщение ■ (при п = 1 совпадающее с предыдущим)—это условие АА = 1, которому подчинены матрицы, характеризуемые в лемме 4.6.9 как псевдоподобные единичной. Предполагая, что для матрицы А е М„ выполняется условие АА = /, доказать, что
матрица А невырожденна;
А '^А;
| det A | = |^i ... Хп|=1;
если Ах = Хх, х =Л= 0, то Лх = (1Д)х, т. е. число 1/А, является собственным значением матрицы А вместе с числом X. Проверить, что произведение А = ВВ-1, где В = [_, ^], zeR, z =/= ± 1, имеет спектр
[ г — 1 г + 1 ) [ z + 1 ’ z — 1 J ’
Матрица А является примером того, что не у всех матриц интересующего нас типа спектр принадлежит единичной окружности. -
Известно, что каждая комплексная матрица Ле.М„ допускает разложение вида А = RE, в котором R, Е е Мп, матрица R подобна некоторой вещественной матрице и ЕЕ = 1. Доказать это, опираясь на тот факт, что произвольная матрица Л е А1„ псевдоподобна некоторой вещественной матрице. Объяснить, каким образом здесь обобщается представление комплексного числа z в форме г = ге‘9, где г и 6 — вещественные числа.
Убедиться, что теорему 4.6.11 можно доказать на основе общих необходимых и достаточных условий псевдоподобия двух матриц, приведенных в последнем абзаце данного параграфа. Указание. Проверить эти условия для матрицы А и диагональной матрицы Л.
Привлекая тот факт, что произвольная матрица А е М„ псевдоподобна некоторой вещественной, доказать существование по меньшей мере одного псевдособственного значения матрицы А, если порядок п нечетен. Указание. Вещественная матрица R нечетного порядка имеет хотя бы одно вещественное собственное значение. Что при этом можно сказать о спектре ее квадрата R2? Если матрица А псевдоподобна R, то как произведение АА связано с R2?
Пусть матрица А е М„ симметрична. В рассуждениях, следующих за теоремой 4.6.11, было показано, что матрица А псевдодиагонализуема, т. е. существуют невырожденная матрица S е Мп и диагональная матрица Л е Мп, такие, что А — = SAS-1. Проверить, что матрицу S здесь можно выбрать унитарной (и тем самым вывести из теоремы 4.6.11 следствие 4.4.4). Указание. Симметричность матрицы А гарантирует справедливость равенств (S*S)A = A(S*S) = A(S*S)r. Используя полярное разложение из теоремы 7.3.3, записать S = UP, где матрица U еМп унитарна, РеМ, эрмитова и Р = p(S*S) для некоторого многочлена p(t) (см. доказательство теоремы 7.2.6). Вывести отсюда равенства РА = АР = АРТ и, следовательно, SAS"1 = UAUT.
Дополнительная литература
Более подробные сведения о псевдоподобии и задаче одновременной псевдодиагонализации семейства матриц имеются в статьях Хонга и Хорна, ссылки на которые даны в конце § 4.4, 4.5, а также в отчете этих же авторов: Hong Y. Р., Horn R. А. A Canonical Form for Matrices under Consimilarity. Technical Report № 415. — Department of Mathematical Sciences, Johns Hopkins University, Baltimore, October 30, 1984. Понятие псевдоподобия можно обобщить, заменив поле комплексных чисел на произвольное поле; при этом роль комплексного сопряжения играет какой-либо автоморфизм данного поля, см. [Jac], р. 27.
Глава 5
НОРМЫ ВЕКТОРОВ И МАТРИЦ
5.0. Введение
Что могут означать слова «малый» или «большой», когда речь идет об отдельных векторах в Сп или матрицах в Мп? При каких обстоятельствах можно говорить о том, что два вектора расположены «по соседству» или «на значительном расстоянии» друг от друга?
Чтобы установить «величину» и «близость» вещественных векторов в двух- или трехмерном пространстве, обычно обращаются к евклидову расстоянию. Вектор гЕК" имеет евклидову длину (z^)1^ = (^ z^1/2. Если это неотрицательное число мало, то вектор z называют «малым» (по отношению к данной мере длины). Кроме того, заданные векторы х и у считают «близкими», если мала евклидова длина их разности z = x — y.
Что можно сказать о «величине» матриц, которые можно рассматривать как векторы в пространстве большей размерности? О «длине» векторов в бесконечномерных пространствах или векторов, имеющих комплексные компоненты? Имеются ли полезные способы измерения «величины» вещественных векторов, помимо их евклидовой длины?
Один из подходов к ответу на эти вопросы основан на изучении норм, или мер величин, матриц и векторов. Нормы можно рассматривать как обобщения евклидовой длины, однако их исследование не сводится просто к упражнению в математическом обобщении. Изучение норм необходимо для правильной формулировки таких понятий, как степенные ряды матриц. Нормы играют большую роль при анализе и оценивании качества численных методов. Кроме того, в разных случаях могут больше подходить различные допустимые нормы. Таким образом, уместно исследовать общие для всех норм свойства, прежде чем сосредоточить внимание на какой-либо конкретной норме.
В следующих примерах обрисовано несколько ситуаций, в которых требуется понятие нормы.
5.0.1. Пример (сходимость). Если комплексное число х по модулю меньше единицы, |х|<1, то имеет место известное разложение
(1 - X)-1 = 1+ х + х2 + хЗ+ . . . ,
Это подсказывает формулу
(7-Л)-‘ = 7 + Л + Л2 + Л3+ ...
для вычисления обратной матрицы к квадратной матрице 1 — А, но когда эта формула верна? Оказывается, достаточно потребовать, чтобы норма матрицы А была меньше единицы, и любая такая матричная норма будет здесь подходящей! Подобным же образом при помощи норм можно доказать сходимость и многих других степенных рядов, а также то, что они корректно определяют матричнозначные функции от матрицы, такие, как
Нормы можно также применять для определения числа членов степенного ряда, необходимых для вычисления конкретного значения функции с заданной точностью. Подобные замечания можно сделать об анализе сходимости итерационных схем решения систем уравнений.
5.0.2. Пример (точность). Если в точке х = х0 известно значение вещественной дифференцируемой функции f вещественной переменной х, то ее значение в близлежащей точке х = xq + h можно оценить при помощи первой производной
7 (х0 + А) — 7 (х0) _ Д7 ~ ,,, хЛ Дх / v оЛ -
Следовательно, можно оценить относительную ошибку при вычислении значения функции f в точке xq, если фактически находится значение / в близлежащей точке х0 + h.
Та же самая ситуация возникает в матричных расчетах. Пусть требуется вычислить Л-1 (или некоторую другую функцию от Л), но элементы матрицы А получены из эксперимента, путем анализа других данных или как результаты предварительных вычислений, и точные значения их неизвестны. Матрицу Л можно представить в виде суммы «истинной» матрицы Ло и матрицы ошибок Е. Хотелось бы определить возможную «относительную ошибку» (через «величину» матрицы Е), возникающую при замене точного значения Л^1 на вычисленное значение Л-1 = (Ло + Е)-1. Границы различия между А""1 и Ло""1 бывает так же важно знать, как саму матрицу Л-'. Систематический подход к изучению подобных ситуаций дает теория норм.
5.0.3. Пример (границы). Нормы часто привлекаются при выводе оценок для важных величин, связанных с матрицей, на-
пример собственных значений. Если матрицы подвергаются возмущению, то границы возможных изменений этих величин также можно выразить посредством норм.
Определяющие свойства векторных норм и скалярных произведений
Рассмотрим сначала нормы на векторном пространстве. Поскольку множество Мп является векторным пространством, все. рассуждения будут также применимы к нормам матриц.
Отталкиваясь от знакомого понятия абсолютного значения (вещественного или комплексного) числа, можно определить свойства, присущие функции, рассматриваемой в качестве нормы. Конечно, важное отличие заключается в том, что абсолютное значение является вещественнозначной функцией от одной переменной (вещественной или комплексной), тогда как норму требуется определить как вещественнозначную функцию от нескольких переменных, описывающих вектор. Евклидова длина (г*г)|/2 оказывается одной из таких функций на С", но есть и другие, сохраняющие некоторые основные свойства евклидовой длины. В ряде случаев они могут быть более уместны, информативны или более удобны в каком-то отношении.
'Б данной главе будут рассматриваться только вещественные или комплексные векторные пространства). Все основные результаты верны для обоих типов пространств, однако внутри каждого утверждения необходима согласованность с используемым полем. Таким образом, результаты часто будут формулироваться в терминах поля F (подразумевается, что F = R или F = С), и по ходу рассуждений мы будем оперировать именно с этим полем F.
Определение. Пусть V — векторное пространство над полем F (R или С). Функция ||-||: V-^R является векторной нормой, если для всех х, у Е V выполняются следующие условия):
(1)1И|>0 (неотрицательность);
(1а) || х || = 0 тогда и только тогда,
когда х = 0 (положительность));
||сх|| = | с HI х II для всех чисел ceF (абсолютная однородность);
II х + «/|КНх|| + 1|«/||(неравенство тре
угольника).
Это привычные свойства евклидовой длины на плоскости. Евклидова длина обладает и другими свойствами, независимыми от приведенных аксиом (например, выполнено тождество параллелограмма (5.1.8)). Подобные дополнительные свойства оказываются несущественными для общей теории норм и поэтому не причисляются к аксиомам.
Функцию, для которой выполнены аксиомы (1), (2) и (3), но не обязательно (1а), называют векторной полунормой. Это более общее понятие, чем норма. Некоторые векторы, отличные от нулевого, могут иметь нулевую длину в смысле полунормы.
Лемма. Если || • || является векторной полунормой на V, то
П|х||-||у|||^||х-у||
для всех х, у eV.
Доказательство. Поскольку у = х+\У— х), то из неравенства треугольника (3) и аксиомы абсолютной однородности (2) выводим
У УII < IIXII + II у — X II = II X II + II х — у ||.
Отсюда следует неравенство
1Ы| — 11х||<||х — у||.
Однако с таким же успехом х = у-\Дх— У)> откуда получаем1|х||<1Ы1 + 1|х-у11,
используя опять неравенство треугольника (3). Тогда
1|х||-1ЫК1|х-у1|.
Следовательно,
±(1И1-1Ы1Х1|х-у11,
что эквивалентно утверждению леммы. □
В комплексном пространстве С” евклидовой длине1) соответствует обычное евклидово скалярное произведение ух (иногда называемое естественным скалярным произведением). Скалярное произведение связано с «углом» между векторами: х и у ортогональны, если у*х = 0. Точно так же как в случае
векторной нормы, можно выделить несколько существенных свойств евклидова скалярного произведения и принять их за аксиомы в общей теории скалярных произведений.
Б.1.3. Определение. Пусть V— векторное пространство над полем F (R или С). Функция (•, •): V X V F является скалярным произведением, если для всех х, у, z е V выполняются следующие условия:
(х, х)^0(неотрицательность);
(1а) (х, х) = 0 тогда и только тогда, когда х = 0(положительность);
(.х-^-у, г^ — фс, z) + {у, z)(аддитивность);
(сх, у) = с^х, у) для всех чисел ceF (однородность);'
(х, у) = {у, х)(эрмитовость)
Упражнение. Показать, что для евклидова скалярного произведения (х, у> = у*х справедливы все указанные выше аксиомы скалярного произведения.
Упражнение. Пусть D = diag(di, dad^. Рассмотрим функцию (х, у') s y*Dx. Какие из аксиом скалярного произведения справедливы для этой функции? При каких условиях на матрицу D функция (•, •) задает скалярное произведение?
Упражнение. Вывести следующие свойства скалярного произведения из аксиом определения 5.1.3:
(х, су) = с<х, у);
(х, z/ + z) = <x, z/) + <x, z);_
(ах + by, cw + dz^ac^x, w^-^bc^y, w)+ad(x, z^+bd^y, z};
(x, z/) = 0 для всех у e V тогда и только тогда, когда х = 0;
(х, (х, y>z/) = [(x, z/)[2.
Важное свойство, общее для всех скалярных произведений, выражается неравенством Коши — Шварца.
Теорема (неравенство Коши — Шварца). Если функция <•, •) является скалярным произведением на векторном пространстве V над полем F (R или С), то справедливо неравенство
|(х, 1/)12^(^> х)(у, у) для всех х, у eV.
Равенство здесь имеет место тогда и только тогда, когда векторы х и у линейно зависимы, т. е. х = ау или у = ах для некоторого числа as F.
Доказательство. Пусть заданы векторы х, у Е V. Если у = О, то утверждение теоремы тривиально, поэтому далее считаем, что у ^= 0. Рассмотрим функцию
Р (t) = (х + ty, x-Vty^kx, x^ + t^y, х^ + Цх, y^A-t2^, 1^ == <х, x) + 2/Re(x, y^A-t2^, У)
вещественной переменной t Е R, которая является вещественным квадратным многочленом с вещественными коэффициентами. В силу аксиомы (1) из определения 5.1.3 имеем ц(/)^0 для всех вещественных t, поэтому многочлен p(t') не может иметь простых вещественных корней. Следовательно, дискриминант соответствующего квадратного уравнения p(t) = Одолжен быть неположительным:
(2 Re (х, у))2 — 4 <у, у) <х, х) < 0;
тогда'
(Re(x, у^^х, х^^у, у).(5.1.5)
Поскольку это неравенство должно выполняться для любой пары векторов, оно будет верно, если заменить вектор у на вектор {х.уУу. При такой замене неравенство (5.1.5) переходит в неравенство .
(Re(x, (х, у) уА2^^, хХу, У)\{х, у) |2.
Но Re(x, (х, у)у) — Re(x, у^х, у) — Re | (х, у) |2 = | (х, у) |2; поэтому
К-Г, у>|4<<х, х^у, у)|(х, у)|2.(5.1.6)
В случае когда <х, у') — 0, утверждение теоремы тривиально, в противном случае можно разделить обе части неравенства (5.1.6) на число |<х, у>|2, что приводит к желаемому результату. Вследствие аксиомы (1а) многочлен р(/) может иметь вещественный (двукратный) корень только при xA*ty = O для некоторого t Е F. Это означает, что равенство в (5.1.5) (и, следовательно, в утверждении теоремы) выполняется тогда и только тогда, когда векторы х и у линейно зависимы. □
Следствие. Если функция <•, •> является скалярным произведением на V, то функция ||х|| ^ (<х, х>),1/2 задает векторную норму на V.
Упражнение. Доказать следствие 5.1.7. Указание. Проверка не совсем тривиальна только для неравенства треугольника. Преобразовать выражение ||х + у||2 и использовать неравенство Коши — Шварца.
Если векторная норма |] • II связана равенством || х|| = <х, х>1/2 с некоторым скалярным произведением, то говорят, что норма || • || порождена скалярным произведением (а именно, произведением (•, •>).
Задачи
Обозначим через et единичный i-й координатный вектор в Сл и предположим, что на Сл задана полунорма Ц-Ц. Показать, что справедливо неравенство
II х || ^ X I xi III ei ||.i = l
Показать, что если || ■ ||—векторная полунорма на V, то множество Ео={у еЕ: ||у||=0} является подпространством пространства V. Его называют нуль-подпространством или ядром полунормы ||-||.
Показать, что полунорма ||-|| становится нормой на любом подпространстве Е] в Е, удовлетворяющем условию Ео П Е] =
= {0}.
Рассмотреть отношение х ~ у, определенное следующим образом:
х ~ у тогда и только тогда, когда ||х — y|j = O.
Показать, что оно будет отношением эквивалентности на Е, что классы эквивалентности в данном случае задаются равенствами ^ = {х + уе V: у е Ео) и что множество этих классов эквивалентности образует естественным образом векторное пространство (называемое факторпространством). Проверить корректность определения функции ||х|| = {||х||: хех) и показать, что она является векторной нормой на факторпространстве.
Объяснить, почему каждая векторная полунорма естественным образом индуцирует норму.
Задает ли определение ||х||=0 полунорму?
Привести пример нетривиальной (отличной от тождественного нуля) полунормы, которая не является нормой.
Определим «угол» между ненулевыми векторами х и у как величину ’)
*) Точнее сказать, что эта величина характеризует угол между одномерными подпространствами, порожденными этими векторами х и у. —• Прим, перев.
изменяющуюся в пределах от 0 до л/2. Показать корректность этого определения для произвольного скалярного произведения
Проверить, что для любой нормы, порожденной скалярным произведением (как в следствии 5.1.7), имеет место тождество параллелограмма
j(l|x + y||2 + llx-z/||2)=||x||2 + ||z/||2.(5.1.8)
Чем вызвано такое название соотношения (5.1.8)? Наличие тождества параллелограмма (5.1.8) фактически оказывается необходимым и достаточным условием того, что данная норма порождается некоторым скалярным произведением. См. задачу 10.
Показать, что функция HxJLs max | х{ | на С" является векторной нормой, которая не порождается скалярным произведением.
Пусть норма || • || порождена скалярным произведением (•, •). Показать, что
Re(x, z/) = j(||x+//И2 —||x —z/ll2).(5.1.9)
Это соотношение известно как тождество поляризации. Показать также справедливость равенства
Re (х, у) = 1 (II х + у ||2 -1| х ||2 -1| у ||2).
Показать, чТо для /гнормы IJxll^lxjH- ... + |хп| на пространстве Сл справедливы аксиомы нормы из определения 5.1.1, но тождество поляризации (5.1.9) не имеет места. Следовательно, /1-рорма не порождается скалярным произведением.
Если векторная норма || • || на V порождена скалярным произведением, то верно неравенство
11х+г/111|х-//||<||х||2 + ||у||2
для всех векторов х, у е V. В каких случаях оно превращается в равенство? Верно ли это неравенство для всех векторных норм? Дать ему геометрическую интерпретацию.
Пусть заданы векторы х и у в пространстве V с нормой || • ||, порожденной скалярным произведением, и пусть вектор у ненулевой. Показать, что величина ||х — az/|| принимает минимальное по а значение при a0 = (x, z/)/||z/|p и что векторы х — а^у и у ортогональны.
Наличие тождества параллелограмма является достаточным условием того, что заданная норма порождается некото-
рым скалярным произведением. Проверить это утверждение несложно, но требуется некоторая изобретательность. Начнем со случая векторного пространства V над полем вещественных чисел R. Норму на V обозначим через ||-||.
Пусть
'(х,.(5.1.10)
Показать, что для этой функции <•, •> справедливы аксиомы (1), (1а) и (4) из определения 5.1.3 и что верно равенство <х, х>=||х||2.
При помощи соотношения (5.1.8) проверить равенства 4<х, у) + 4(г, у} = 2|| х + у ||2 + 2|| z + у ||2 - 2|| х ||2- 21| г ||2- 4|| у ||2= = ||х+ 2z/+ г||2 —1| х + г||2 — 4|| z/1|2 = 4 (х + г, у) и вывести заключение о справедливости аксиомы (2) в определении 5.1.3.
Используя аксиому аддитивности, показать, что mijrr'nx, у) = (пх, у) = п(х, у),
каковы бы ни были натуральные т и п. Опираясь на соотношения (5.1.8) и (5.1.10), обосновать равенство (—х,у">=—<х, у> и сделать вывод, что для любого рационального а верна аксиома однородности1) <ах, у") = а<х, у>.
Пусть р (t) = Г21[ х ||2 + 2/ (х, z/) + || у\^, /eR. Показать, что р (!) = |1 tx + у ||2 для всех рациональных/1. Учитывая непрерывность функции р(/), доказать неравенство р(/)^0для всех ieR. Вывести неравенство Коши — Шварца |(х, z/)|2^||x||2||z/||2 из факта неположительности дискриминанта квадратного уравнения р^ = й.
Пусть теперь задано число а г R. Показать, что
|<«, у\-а(х, у) | = | <(н — 6) х, у) + ф — а)(х, уУ^
^|<(а — 6) х, z/>| + |(6-a)(x, z/) |^ 2| а — 6 11|х |||| z/||
при любом рациональном Ь. Последнее выражение можно сделать сколь угодно близким к нулю, следовательно, аксиома однородности (3) в определении 5.1.3 справедлива. Таким образом, функция <•,•> является скалярным произведением на V,
'*) В силу непрерывности по / s R функций ||/х + у|| и ||/х— у|| из определения (5.1.10) и тождества (5.1.8) убеждаемся в непрерывности функции <tx, у'). Следовательно, аксиома однородности верна не только для рациональных Z = а, но и для всех /е R. Это доказательство, более простое, чем предлагаемое в пп. (d) и (е), приведено в книге: Иосида К. Функциональный анализ, — М,: Мир, 1967, с, 64. — Прим, перед.
Внимательный читатель заметит, что неравенство треугольника для нормы ||-Ц (аксиома (3) в определении 5.1.3) не использовалось в этих рассуждениях. Таким образом, справедливость аксиом (1), (1а) и (2) из определения 5.1.1 при наличии тождества параллелограмма (5.1.8) позволяет заключить, что функция || • || является нормой, порожденной скалярным произведением. Неравенство треугольника возникает уже как следствие.
В случае комплексного векторного пространства V положим
(х> у) = II* + УII3 -И12-11у113 + /( Их +/у II2-||^fl3-II у IP) .
Вещественная часть функции <х, у) определяет скалярное произведение на множестве V, если его рассматривать как вещественное (над полем R) векторное пространство1). Используя этот факт и тождество (5.1.8), показать, что функция <•, ->есть скалярное произведение на векторном пространстве V над полем С.
Дополнительная литература
П. Жордан и Дж. фон Нейман в статье; Jordan Р., von Neumann J. On Inner Products in linear metric spaces.'—Ann. Math., 1935, v. 36(2), p. 719—723, по-видимому, первые доказали, что наличие тождества параллелограмма необходимо и достаточно, чтобы заданная векторная норма порождалась скалярным произведением. В наброске доказательства этого результата из задачи 10 мы следовали работе: Fearnley — Sander D., Symons J. S. V. Apollonius and inner products — Amer. Math. Monthly, 1974, v. 81, p. 990—993.
Примеры векторных норм
Приведем несколько примеров часто встречающихся векторных норм.
Евклидова норма (или /2-норма) на С" llxl^dxj^ ... + |х„|2),/2
г*—возможно, наиболее известная векторная норма, поскольку величина ||х— у||2 определяет стандартное евклидово расстояние между двумя точками х, у е С". Эта норма также порож-
') Например, поле комплексных чисел С является двумерным вещественным векторным пространством. — Прим, перев.
дается обычным евклидовым скалярным произведением, т. с. ||x|^ = (z, х) = х*х.
Упражнение. Проверить, что функция Ц-Цз является векторной нормой на пространстве Сп.
Упражнение. Норму || • || называют унитарно инвариантной, если равенство || (7х|| = ||х|| верно для всех векторов х е О и всех унитарных матриц U е Мр. Показать, что евклидова норма || • Из унитарно инвариантна.
1х-норма на С”
11^111^1^1+ ... +|XJ
называется также первой нормой. Образно можно сказать, что это манхеттен-норма, поскольку измерения длины производятся только по прямым вдоль координатных осей *).
Упражнение. Проверить, что /i-норма || • || i действительно является векторной нормой на С”, но не порождается скалярным произведением. Указание. Использовать тождество (5.1.8).
loo-норма на С”— это
|| х L = шах {| Xj |, ..., I х„ I}.
Упражнение. Проверить, что /oo-иорма П-Поо действительно является векторной нормой на Сп.
Упражнение. Порождается ли /oo-норма II • ||оо каким-либо скалярным произведением?
Ip-норма, или норма Гёльдера с показателем р, на С" — это
/ 1 \йр. Ilxllp^^glxjj ,где р > 1.
Упражнение. Проверить, что /р-норма действительно является векторной нормой на С" при любом показателе р"^\ и что 11x11^= lim || х ||р для каждого вектора .сеС". Указание. Проверка нетривиальна только для неравенства треугольника, которое в случае /p-нормы совпадает с классическим неравенством. Минковского).
*) Манхеттен — один из районов Нью-Йорка с прямоугольной планировкой (подобно шахматной доске).—Прим, перев.
"Упражнение. Привести пример векторной нормы, которая не является гёльдеровой.
В приведенных выше примерах все векторные нормы заданы на конкретном пространстве С", однако при помощи этих норм можно определить нормы на произвольном конечномерном вещественном или комплексном векторном пространстве V. Если имеется базис ^ = {6(1), ..., bw^ пространства V, то, как известно, отображение
осуществляет изоморфизм V на С". Легко показать, что для любой векторной нормы || • || на С" функция
II^11^ = ||[^11 = И^ь ХЛ x=^xtbW
будет векторной нормой на V.
Упражнение. Проверить последнее утверждение.
Матрицу В е Мп называют изометрией для векторной нормы Ц • || на С", если
|| Вх || = || х || для всех х е С".
Упражнение. Показать, что изометрия для любой векторной нормы должна быть невырожденной матрицей.
Упражнение. Показать, что множество изометрий для данной нормы образует группу (которую называют группой изометрий этой нормы). Имеются ли для нормы ||-||2 другие изометрии, кроме унитарных матриц?
Упражнение. Показать, что группа изометрий /нюрмы есть множество (группа) всех матриц, похожих на матрицы перестановок с тем только отличием, что элементы «-|-1» заменяются на произвольные комплексные числа единичного модуля.
Упражнение. Что представляет собой группа изометрий /оо-нормы?
В определении векторной нормы на пространстве V не требуется конечномерности этого пространства. Пространство V может быть, например, линейным пространством С [а, 6] всех
непрерывных вещественных или комплексных функций, заданных на вещественном отрезке [а, 6].
Пример. Некоторые нормы на пространстве С [а, 6} аналогичны уже введенным векторным нормам на С”. Например, нормами на С [а, 6] являются все следующие функционалы!
ИЛЬ-ИЛЬ-ъиль— jimi^аъиль— jimi^а(£2-норма),(Lj-норма),(£2-норма),(Lj-норма),
ИЛЬ-
ИЛЬ-
ъ
иль— jimi^
а
ъ
иль— jimi^
а
(£2-норма),
(Lj-норма),
(£2-норма),
(Lj-норма),
р Ь-.Мр
р^1 (£р-норма),р^1 (£р-норма),иль,- \\m\pdt , -а
р^1 (£р-норма),
р^1 (£р-норма),
II / L — max {| / (х) |: х е [а, 6]} (Лю-норма)').
Задачи
Показать, что при 0 < р < 1 для функции || - ПР на пространстве Сп (см. пример 5.2.4) справедливы все аксиомы векторной нормы, кроме одной2). Какая аксиома нарушена? Привести соответствующий пример.
Показать, что ИЛ1«> = lim II Л1р для произвольной функ- р—>оо
ции f е С [О, 1].
Как выглядит неравенство треугольника для нормы J] - |]р па С [О, I]? Предложить способ его доказательства, основанный на неравенстве Минковского (приложение В) для нормы ||♦ ||„ на С".
Пусть имеются положительные числа р\, р2, ..., р„. Какие из следующих выражений задают векторную норму на С”?
(а) II х || = X Pt I х£ |.
i —1
a
nXl/2
L Pi I X4 |2 j .
(c) |]x|| = max{p1|x1|, ..., p„|x„|).
*) Эту норму иногда называют нормой равномерной сходимости. Именно ей наделяют, как правило, множество С[а, 6], поскольку полученное таким образом нормированное пространство оказывается полным (см, § 5.4).—• Прим, перев.
Здесь следует исключить тривиальную возможность п = 1. — Прим, перев.
Пусть задана точка х0 е [а, 6]. Показать, что функционал Ц f ||Хо = | f (х0) | на С [а, 6] является полунормой, но не нормой.
Показать, что любая унитарно инвариантная векторная норма || • || на Сп задается формулой || • || = а|| • ||2 при некотором а> 0 и что норма || • ||2 — единственная унитарно инвариантная норма на Сп, для которой ||е,||=1.
Показать справедливость соотношений
HyL = тах|/х| и 11x11,= max |х’г/|.
W, = lНУИ^-1
Используя результат предыдущей задачи, показать, что матрица А является изометрией для /ж-нормы, если матрица А* является изометрией для /,-нормы, и наоборот.
Что представляет собой пересечение групп изометрий всех 2р-норм?
Дополнительная литература
Детальное обсуждение классических неравенств Минковского и Гёльдера имеется в [ВВ].
Алгебраические свойства векторных норм
Исходя из заданной нормы или нескольких норм, новые нормы можно определить различными способами. Например, легко видеть, что сумма векторных (полу) норм является векторной (полу)нормой, так же как и произведение векторной полу(нормы) на положительное число. Другого рода пример: легко также видеть, что для векторных норм ||-||о и ||-||р функция |М|, определенная равенством
||х || = max {||х |1а, ||х||р), опять будет нормой.
Упражнение. Показать, что при замене «шах» на «min» в последнем определении результирующая функция не обязана быть нормой.
Следующее утверждение охватывает как частные случаи все предыдущие.
3.1. Теорема. Если II • Ца , ..., И • Па — нормы на векторном пространстве V над полем F (R или С) и || • ||р — векторная норма на Rm, то функция || • ||: V -> R, определенная как суперпозиция
является векторной нормой на V.
Упражнение. Доказать теорему 5.3.1.
Упражнение. Показать, что утверждение теоремы 5.3.1 остается в силе, если термин «векторная норма» заменить на «векторная полунорма».
Упражнение. Убедиться, что утверждения о возможности построения норм при помощи операций суммирования или взятия максимума двух векторных норм есть частные случаи теоремы 5.3.1.'
Другая возможность образовывать новые нормы связана со следующим результатом.
3.2. Теорема. Если |Н1—векторная норма на Сл и матрица ТгМп невырожденна, то функция ||*|1г, определенная соотношением
II х Цг = Ц Гх ||, хеС\
также будет векторной нормой на Сл.
Упражнение. Доказать теорему 5.3.2.
Упражнение. Что произойдет с утверждением теоремы 5.3.2 в случае вырожденной матрицы Т?
Упражнение. Почему функция || х || = (12х1 — Зх2 Р +1 х212)1/2 должна быть нормой на С2 (пожалуйста, без вычислений!)?
Новые нормы можно конструировать из старых при помощи понятия двойственности. Этот метод обсуждается в конце следующего параграфа.
Задачи
Показать, что для векторной полунормы |Ь|| на Сл функция ||х ||г = ||Тх|| также является векторной полунормой при любом выборе матрицы ТеМ,. Если Н-Н—в действительности векторная норма, то ядро полунормы ||-||г совпадает с ядром матрицы Т.‘
Показать, что произвольную векторную полунорму можно представить в виде [| • || г для некоторой векторной нормы || • || и некоторой матрицы Те Мп.
Аналитические свойства векторных норм
Из примеров двух предшествующих параграфов становится ясно, что существует большое разнообразие функций ll-H: V ->- R, которые удовлетворяют аксиомам нормы. Полезно иметь широ-
кий выбор функций, пригодных в качестве норм, поскольку в приложениях одна норма может быть более уместна или удобна, чем другая. Например, /2-норму часто бывает удобно применять в задачах оптимизации из-за того, что она непрерывно дифференцируема (всюду, кроме нуля). Другой пример — это U- норма, которая популярна в статистике, хотя она дифференцируема на более узком множестве. Популярность /i-нормы вызвана тем обстоятельством, что она приводит к более робастным оценкам по сравнению с классическими, основанными на регрессии. Часто наиболее естественно употреблять Д-норму, с помощью которой можно непосредственно контролировать покоординатную сходимость, однако ее аналитические и алгебраические свойства могут вызвать затруднения. На практике норма, наиболее естественная с теоретической точки зрения, может не совпадать с нормой, которую проще всего вычислить в данной ситуации Следовательно, важно знать, какие связи можно установить между двумя различными нормами. К счастью, в конечномерном случае все нормы «эквивалентны» в некотором точном смысле.
Основное понятие в анализе — сходимость последовательности, и векторные нормы можно использовать для установления факта сходимости последовательности векторов.
Определение. Пусть V—векторное пространство над полем R или С с нормой ||-||. Последовательность {xW} векторов в V называют сходящейся к вектору хе V по норме || • || тогда и только тогда, когда ||х(6) — х||-*0 при /г—^оо.
Факт сходимости последовательности {х<6)} к вектору х по норме || • || записывают в следующем виде:
xw->x или lim x(fe, = x по норме || • ||. 11-11 &->°°
Необходимо явно указывать, в смысле какой нормы понимается сходимость рассматриваемой последовательности. Дело в том, что заданная последовательность векторов может сходиться по одной норме и расходиться по другой. Такая двусмысленная ситуация возникает в бесконечномерных линейных пространствах.
Пример. Рассмотрим последовательность {Д} функций в С [0, 1] (линейном пространстве всех вещественнозначных или комплекснозначных непрерывных функций на [0,1]), заданных равенствами
kW = 0, 0<х<^-, -
к (х) = 2 (й3/2х - й1/2), Т х < ^ >
МхН(-Л + 2П ^<х<А,
при к = 2, 3, 4, ... . Можно убедиться, что
Ilf* Hi = yL^1/2-*0 при к-х»;
Шко^172-*00 при к-х».
Таким образом, Игл /й = 0 только по Лрнорме среди трех выб- &-> ОО
ранных.
Упражнение. Изобразить схематически графики функций из предыдущего примера и проверить приведенные утверждения о величине L\-, Lr и Loo-норм этих функций.
Упражнение. Пусть xw -» х и xw-^*y, где векторная норма || ■ || задана. При помощи неравенства треугольника показать, что х = у. Таким образом, если существует предел последовательности, то он единственный, т. е. можно говорить об определенном пределе последовательности по заданной норме.
К счастью, явление, отмеченное в примере 5.4.2, невозможно в случае векторного пространства конечной размерности. Чтобы убедиться в этом, нам потребуется общая лемма о свойствах непрерывности норм.
Лемма. Пусть || • || — норма на векторном пространстве V над полем F (R или С), и пусть заданы векторы х(1), xi2\ . .., xtm> eV. Тогда функция g: Fm->R, определенная формулой
g (2,, Z2, . . ., Zm) = || Z]X<n + Z^ + . . . + Zm^mi ||, является равномерно непрерывной.
Доказательство. Пусть mm .
и^^и^д' и u='^x)lxw."
1-1i-X•
Проведем следующие выкладки:
lg(«lU^ — g^Vx, . .., Vm) |== III u|| — II У II КП u— у|| =
I
mIIm
2 ^t — yz)x(Z) K 2l«« — pJUx^IKC max | ut — vt |,
1 = 1||1=1KKm
где С = т max ||х(0||- Первое неравенство вытекает из l<Z<m
леммы 5.1.2. Отметим, что конечная константа С зависит только от выбора нормы || ■ || и т векторов х(1)х(т). Если исклю
чить тривиальный случай, когда все векторы xw нулевые, то С > 0. Чтобы имело место неравенство |g(«1, . ■•, um)— — g (yi> - • • > ym) I < e> Достаточно обеспечить условие I щ — У/1 < <e/C. □
В этой лемме пространство V не обязано быть конечномерным, но важно, чтобы конечным было число векторов xv\
"Упражнение. Вывести из леммы 5.4.3 заключение, что каждая векторная норма на пространстве R" или С" является равномерно непрерывной функцией.
Конечномерность пространства V, однако, существенна в следующем фундаментальном факте.
Теорема. Пусть ft и f2— две вещественнозначные функции на конечномерном векторном пространстве V над полем F (R или С) и система ^ = {х(1), ..., х(п>} образует базис • пространства V. Предположим, что функции /;,# = !, 2, удовлетворяют следующим условиям-.
положительность-. fz(x)^O для всех хеУ; fz(x) = O тогда и только тогда, когда х — 0;
абсолютная однородность; ft (ах) = ] а | /; (х) для всех as F и всех х eV;
непрерывность; ft (х (г)) непрерывна на F", где
z = [zt2„]геР" и х(г) = г1х(1>+ ... + z^"'.
Тогда существуют конечные положительные константы Ст и См, такие, что
Cmfxto<J2 М^С^^х)
для всех х s V.
Доказательство. Определим отношение h (г) = f2 (х (z))/fi (х (г)) на евклидовой единичной сфере S = (zeF": ||г[[2=1}, которая является компактным множеством в F". Заметим, что знаменатель в А (г) не обращается в нуль на S по условию (а), следовательно, функция h(2) непрерывна на S в силу условия (с). По теореме Вейерштрасса (см. приложение Е) у непрерывной функции А на компактном множестве 5 существуют конечное положительное максимальное значение См и положительное *) минимальное значение Ст; следовательно,
СтА(х(2))^/2(х(2)ХСЛ1Л(х(г))
’) Напомним, что А(г) > 0 при z eS. Именно по этой причине константы См и Ст положительны. — Прим, перев.
для всех zeS. Поскольку для любого z е S имеем г/Иг е S, то условие (Ь) гарантирует, что эти неравенства выполнены для всех ненулевых zeF" (случай z = 0 тривиален, так как Д(0) = = 0). Но любой вектор хе V можно представить в виде х = = x(z) для некоторого ze Fn, потому что система $ образует базис; таким образом, требуемые неравенства верны для всех векторов хе У. О
Определение. Пусть V—вещественное или комплексное векторное пространство. Функцию /: V —>- R, которая удовлетворяет трем условиям теоремы 5.4.4: положительности, абсолютной однородности и непрерывности, называют квазинормой ).
Конечно, векторные нормы представляют собой наиболее важный пример класса квазинорм. Условие (с) теоремы 5.4.4 (непрерывность) для векторных норм выполнено в силу леммы 5.4.3. Если для квазинормы верно неравенство треугольника, то она является векторной нормой.
Учитывая важность этого класса, сформулируем утверждение теоремы 5.4.4 для случая векторных норм в виде следствия.
Следствие. Пусть || - ||<х и Н'Нр— две произвольные нормы в конечномерном вещественном или комплексном векторном пространстве V. Тогда существуют конечные положительные константы Ст и См, такие, что Cm||x||a ^||х||р ^ СмНхИа для всех векторов х е V.
Упражнение. Как нарушается следствие 5.4.5 в случае векторных полунорм?
Упражнение. Пусть х = [хь х2]т е R2, и рассматриваются следующие нормы на R2:
II х ||а = || [10xt, x^L и llxll^ll^, 10x2]inL.
Показать, что функция f (х) = (II х ||а|| х ||р)1/2 является квазинормой, но не нормой на R2. См. задачу 15 в конце данного параграфа. Указание. Рассмотреть значения f ([1, 1]т),/([0, 1]г) и/([1,0П.
Упражнение. Пусть || ■ ||ар . .., || • ||а& — векторные нормы на пространстве V. Показать, что функции
(H^llii ••• ||^ID1^ и M^)^min{||x||ai, ..., ||xj|aJ являются квазинормами на V, но не обязательно нормами.
Из следствия 5.4.5 вытекает, в частности, тот вывод, что факт сходимости (по норме) последовательности векторов в конечномерном векторном пространстве не зависит от того, какая норма используется.
Следствие. Если || • ||а и || • ||р — векторные нормы в ко. нечномерном вещественном или комплексном векторном пространстве и {х(6)} — заданная последовательность векторов', то lim xw = х по норме || • ||а тогда и только тогда, когда Пт xw = х по норме || • ||р.
Доказательство. Поскольку для всех к верны неравенства
Ст II х^ - х ||а < || xW - х ||р < См || х^ - х ||а
то || х^ — х ||а—> О тогда и только тогда, когда || xw — х ||р-> О при 6 —> оо. □
Определение. Две нормы называют эквивалентными, если любая сходящаяся по одной из этих норм последовательность сходится к тому же пределу по другой из этих норм. Таким образом, в следствии 5.4.6 утверждается, что в конечномерных вещественных или комплексных векторных пространствах все нормы эквивалентны. В бесконечномерном пространстве различные нормы могут не быть эквивалентными, как уже было показано в примере 5.4.2.
Поскольку в пространстве R" или С" все векторные нормы эквивалентны норме II ■ IL, сходимость Пт хД^ = х по произ- к->оо
вольной векторной норме имеет место тогда и только тогда, когда
Пт х^ = х. для всех /=1, ..., п, к->=о"
где x(ft) = [x(1ft), ..., х^]г и х = [хр ..., хпу.
Покомпонентная сходимость (в любом базисе) эквивалентна сходимости по любой норме.
Другое важное следствие эквивалентности всех векторных норм в конечномерном случае — компактность единичного шара и единичной сферы для каждой векторной нормы. Отсюда можно заключить, что непрерывная комплекснозначная функция ограничена на единичном шаре любой векторной нормы и что непрерывная вещественнозначная функция на единичном шаре достигает своих наибольшего и наименьшего значений.
Следствие. Обозначим через У пространство Rn или С", Пусть /(•)— квазинорма на V. Множества
{х:/(х)^1} и {х:/(х)=1}
являются компактными. В частности, в случае векторной нормы ||-|| замкнутый единичный шар {х:||х||^ 1} и единичная сфера {х:||х||=1} являются компактными множествами^.
Доказательство. По теореме 5.4.4 существует некоторая константа С > 0, при которой ||х||2^ Cf^x) для всех х е V. Таким образом, множество {х: f(x)^l} ограничено и содержится в обычном евклидовом шаре радиуса С с центром в начале координат. Каждое из множеств.1
{x:f(x)=l} и {х: f(x)<l}
замкнуто вследствие непрерывности функции /(•). Поскольку в пространстве Rn или С" замкнутое ограниченное множество компактно, получаем требуемое утверждение. □
Ситуация, когда требуется выяснить сходимость заданной последовательности {х(*>} к заданному вектору х, возникает редко. Чаще нужно определить, сходится ли вообще данная последовательность {х(6)} хоть к какому-нибудь вектору. В связи с этим возникает необходимость иметь такой критерий сходимости последовательностей, в котором предельный вектор х явно не принимает участие. Если предел х существует, то имеют место соотношения
|| xw — х1^ || = || xw — х + х — х^ || ^ || xw — х || + || х — х^ || -> о при k, j-o-oo. Этот факт побуждает ввести следующее определение.
Определение. Последовательность {х(*>} в векторном пространстве V с нормой ]] -1] называют последовательностью Коши, если для любого е > 0 существует такое натуральное число N^, что
|| х^ — х(&2>|| ^ е
при всех kt, к2^ N (е).
Теорема. Последовательность {x(ft)} векторов в конечномерном вещественном или комплексном пространстве V с нормой II • || сходится к некоторому вектору в V тогда и только тогда, когда она является последовательностью Коши.
’) В пространстве R" или С” компактными являются замкнутые ограниченные множества. Точные определения этих понятий приводятся в следующем параграфе. — Прим, перев.
Доказательство. В пространстве V можно выбрать базис % и рассмотреть эквивалентную норму ||[х]^||<». Таким образом без потери общности можно считать, что V = R” или С" для некоторого натурального п и что норма есть Ц-Цоо. С одной стороны, если {xw}—последовательность Коши, то каждая последовательность компонент {х^}, t = 1, ..., п, является последовательностью Коши вещественных или комплексных чисел. Однако числовая последовательность Коши обязана иметь предел. Это означает, что для каждого i = 1, ..., п существует число х. = lim х^. Легко проверить, что &->оо
lim x(ft) = x, где х = [хь ..., хп]г.
С другой стороны, если последовательность векторов имеет предел lim xw = x, то справедливо неравенство
II Х№,) — ^ II ^ II х(6,) — х|| + II X — Х^ II, которое показывает, что мы имеем дело с последовательностью Коши. □
Фундаментальное свойство поля вещественных или комплексных чисел (оно использовалось при доказательстве предыдущей теоремы) состоит в том, что числовая последовательность является последовательностью Коши в том и только в том случае, когда она сходится к некоторому (вещественному или комплексному соответственно) числу. Его называют свойством полноты поля вещественных или комплексных чисел, и мы только что показали, что свойство полноты распространяется на конечномерные вещественные или комплексные векторные пространства с любыми нормами. К несчастью, бесконечномерные векторные пространства могут быть и неполными.
Определение. Векторное пространство V с нормой ||-|| называют полным, если каждая последовательность Коши имеет в пространстве V предел.
Упражнение. В линейном пространстве С [0, 1] с Д^нормой H/II1 = ^ I / (01^ рассмотреть последовательность функций {/&}, о
определенных равенствами
Изобразить графики функций /*. Показать, это {/*} есть последовательность Коши, однако не существует функции feC[0, 1], являющейся пределом этой последовательности, т. е. такой, что lim fk — f по норме || ■ Цр
Й->ОО
Основываясь на факте компактности единичного шара любой векторной нормы или квазинормы в Rn или Сл, можно ввести другой полезный метод построения новых норм из старых.
Определение. Пусть /■(■)—квазинорма на пространстве V = Rn или Сл. Функцию■
Р (у) = max Re у* х
называют двойственной нормой к f.
Прежде всего отметим корректность определения двойственной нормы как функции на V. Функция Re у*х при каждом фиксированном векторе у е V непрерывна по х и множество (x:f(x) = ==1} компактно в V в силу следствия 5.4.8. Тогда по теореме Вейерштрасса максимальное значение функции Re у*х достигается в некоторой точке х0 g(x: [(х) = I}.
Если числовой параметр с удовлетворяет условию |с|=1, то из свойства абсолютной однородности функции / выводим, что
max | у'х | = max max Re су’х = max max Re у* (ex) = f(*; = lf(x) = l |c | = 1ito=V |c| = l
— max max Re yx = max Re y*x.|c|=l f(*/c) = lf(*)=l
Следовательно, можно дать эквивалентное и более удобное в некоторых случаях определение двойственной нормы:
'р ^ = max | ух |.(5.4.12а)
f(x)“l
Наконец, необходимо отметить, что функция Р действительно заслуживает название двойственной нормы. Функция Р(-), очевидно, абсолютно однородна; она положительна, ибо при уч^О, используя абсолютную однородность функции /(•), получаем
f=(s).= maxi, *!>[,, w|=w>0.
Замечательная особенность двойственной нормы Р(-У состоит в том, что она всегда подчиняется неравенству треугольника, даже когда для исходной функции {(■) неравенство треуголь-
ника не имеет места:
Р (1/ + г) = max | (t/ + z)’ х К max [ | t/*x | +1 z’x |] <f(x) = lf(x) = l
< max | /х | + max I z’x | = p (у) + P ^. f(*) = lf(x) = l
Поэтому двойственная норма к квазинорме является на самом деле нормой.
Таким образом, построение двойственной нормы к любой квазинорме приводит уже к норме. Чаще всего описанная конструкция применяется в ситуации, когда квазинорма фактически есть норма.
Простые неравенства с двойственной нормой даны в следующей лемме. Мы увудим, что это естественные обобщения неравенства Коши — Шварца.
Лемма. Пусть f (•) — квазинорма на К = С" иш R". Тогда
I /х|</ (х)р(у),\y*x\^P(x)f(y)
для всех векторов х, у eV.
Доказательство. При х^О имеют место соотношения
У* < тах । У2 । = Р ^»' W I f (z)-l
следовательно, [t/*x|^ f(x)f°(z/). Последнее неравенство также справедливо при х = 0, что доказывает первое утверждение леммы. Второе утверждение вытекает из первого, поскольку |«/*х| = |х*«/|. □
Легко найти двойственные к некоторым простейшим векторным нормам. При х, у е Сп можно выписать следующий частный случай неравенства Гёльдера:
I У*х | = X 9iXiI У*х | = X 9iXiпп
I У*х | = X 9iXi
I У*х | = X 9iXi
CZl^f^K max | yt | X Ix/I = ||z/Lj|x||1.
i = l!<i<n/ = 1
(5.4.14)
Для любого фиксированного вектора у равенство в (5.4.14) наступает, когда х является единичным (по норме IHI1) вектором, у которого все компоненты нулевые, кроме одной компоненты xz = 1, где номер / определяется условием |//z| = ll//iloo. Аналогично, для любого фиксированного вектора х в соотношении (5.4.14) имеет место равенство, когда у выбирается единичным
(по норме П-Поо) вектором с компонентами yt= xi/\xi\ для всех номеров I, таких, что Xi =/= О, и yi = 0 для остальных номеров, Таким образом,
(llz/lli)D = max |/х| = max || у L || х lb = || у С Ilx|h=lIlxih=l
(llz/IL)D = max |/x| = max 11^11111x11^ = 11^11!.
«^oo”1«Х "ос”1
Значит, (IMI1)D = IML и (|M|JD = ll-lli.
Для евклидовой нормы Ц-Цг, при заданном ненулевом векторе у и произвольном векторе х в силу неравенства Коши — Шварца
(5.4.15)(5.4.15)
(5.4.15)
(5.4.15)
Равенство достигается, когда х = у/ИуНг- Проводя рассуждения, подобные использованным выше для /1- и /oo-норм, находим, что (Цг/Нг)5 =11^/112, т. е. евклидова норма двойственна к себе самой.
Упражнение. Объяснить, почему неравенства из леммы 5.4.13 можно считать обобщениями неравенства Коши — Шварца (5.1.4).
Отметим, что в каждом из трех рассмотренных случаев (/1-, /2- и /oo-норм) двойственная к двойственной норме совпадает с исходной нормой. Это не случайность — в теореме двойственности 5.5.14 из следующего параграфа утверждается, что такое совпадение имеет место во всех случаях. ■
Средн данных трех норм своей двойственной равна лишь евклидова норма. Нетрудно показать, что это также не случайно1). -
Теорема. Пусть || • ||— векторная норма на пространстве K = Rn или Сп, а || • |р — двойственная к ней, и пусть задано число с > 0. Тогда равенство ||х|| = с||х|Р для всех х е V имеет место тогда и только тогда, когда II • II—Vе II ' Нг- В частности, равенство || • || = ||. |Р верно тогда и только тогда, когда норма || • || совпадает с евклидовой нормой || ■ ||>.
Доказательство. Если II • 11 = Vе II ' 1^ то справедливы неравенства
х 11° = max I х’у | ~max | х* у | = max х* —=
IIУ И”1Ulh-l/V^ 111/Ml V= I
= -pr max |x*z/| = —^||x||f =—^=-||х||2 = —||х||
Vc 11 у ib-iVc 2 Vcс
при любом векторе хеУ. В обратную сторону, если || • || == = с||-||° при некотором с>0 и хеУ, то из леммы 5.4.13 видим, что
■ ||х||' = |х*х|^||х||||х||° = 1||х||2.
Таким образом, ||х||^ л/с || х||2. Чтобы получить оценку с другой стороны, можно использовать это неравенство, рассматривая при х #= О цепочку соотношений
J_||x|| = ||x||° = max |x*z/| = maxiх*| = с|1 у ц=1у ^=0 I IIУII I
=у*У I llyllz <mnxLr* у1 11 id А. Л-I111<1л I Л=у*У I llyllz <mnxLr* у1 11 id А. Л-I111<1л I Л» * о IIУ Ih I IIУ II и * 01 и у ||2» * о IIУ Ih I IIУ II и * 01 и у ||2
=у*У I llyllz <mnxLr* у
1 11 id А. Л-I111<1л I Л
=у*У I llyllz <mnxLr* у
1 11 id А. Л-I111<1л I Л
» * о IIУ Ih I IIУ II и * 01 и у ||2
» * о IIУ Ih I IIУ II и * 01 и у ||2
Здесь применено неравенство II z/М z/II ^ 1/VC > верное для любого вектора у ^ 0, и учтено то обстоятельство, что максимум модуля евклидова скалярного произведения заданного ненулевого вектора и вектора единичной евклидовой длины достигается, когда единичный вектор параллелен данному (это гарантируется неравенством Коши — Шварца). Следовательно, II х || ^ л/с || х ||2 для всех хе У. Принимая во внимание ранее доказанное неравенство ||x||^Vc IIх lb. заключаем, что фактически || х || = л/с || х ||2 для любого вектора х е У. Выбирая с = 1, получаем последнее утверждение теоремы: только евклидова норма совпадает со своей двойственной. □
В заключение укажем, что можно придать разумный смысл понятию двойственного к вектору (так же, как и к векторной норме).■
■ 5.4.17. Определение. Пусть заданы вектор х е С" и норма || • || на С". Множество
" (z/е С": |] z/1|°|| х |] = z/*x= 1};
называют двойственным к вектору х по отношению к норме II *Д.« Упорядоченную пару векторов (х, у)еС"ХС” называют двой-
ственной парой по отношению к норме Ц-Ц, если вектор у принадлежит множеству, двойственному к х по отношению к П-П, В следствии 5.5.15 устанавливается, что множество, двойственное к произвольному *) вектору х еСп по отношению к векторной норме | • |, всегда непусто. Оно может содержать один элемент или более.
Например, в случае евклидовой нормы II •||=11* Иг двойственным к каждому вектору хеСп будет только один вектор — сам вектор х. В случае нормы II • 11 = 11 • Иоо, однако, лишь один вектор является двойственным к х = [О, 1]г, но бесконечно много векторов двойственно к х = [1, 1] т. См. задачу 13 далее.
Задачи
Неравенство из следствия 5.4.5 можно записать в следующем эквивалентном виде:
Cm(ll-I|a, ll4lp)<-J^<CM(||.||a, ||-||р),
где Ст(-, •) и CMV> •) — наилучшие возможные значения констант в неравенстве из 5.4.5, связывающем соответствующие нормы. Показать, что Ст(|| • ||д, || • ||J = (6^(11 • ||а, || • ||р))-1.
Оценить величину Ст(|| • ||а, || • ||v) через Ст(|| • ||а, || • ||р) и Ст(|| • ||р, II • ||v), где константы не обязательно наилучшие. Привести аналогичную оценку для См.
В таблице, приведенной ниже, приводятся значения наилучших констант См (|| • ||а, || • ||р) для /г /2- и /^-норм, т. е. констант из неравенств || х ||а ^ См || х ||р для всех векторов х е С”, где а, 0=1, 2, оо. Проверить правильность этих значений. Показать их неулучшаемость, подбирая такой ненулевой вектор х, при котором верно равенство II х ||а|| х [|р.
Как выглядит таблица значений наилучших констант из неравенств llxllct ^ Ст||х||р? Указание. См. задачу 1.
ч *) Не равному нулю. — Прим, перев.
Показать, что эквивалентность двух норм на вещественном нлн комплексном векторном пространстве означает, что имеют место неравенства, связывающие эти две нормы прн помощи двух констант, как в следствии 5.4.5. Указание. Рассмотреть функцию /(%)= 1/||х||а на единичной сфере S нормы || • IIр* Если функция / неограниченна на S, то существует такая последовательность {%лг}с5, ЧТО ||хлг||а < X/N и Цх^Црг 1. Это противоречит эквивалентности норм ||-||а и II • 11р. Отметим, что понятия конечномерности нлн компактности не привлекаются.
Показать, что функции fk из примера 5.4.2 имеют следующие свойства: /б(х)~>0 при 6 —> оо для каждого значения аргумента х, || fk — f; ||, -> 0 при k, j-> оо и || fk — fj L = 1 для всех к =# j. Таким образом, последовательность функций может одновременно сходиться в некотором смысле (например, поточечно), являться последовательностью Коши относительно одной нормы и не являться последовательностью Коши относительно другой нормы.
Пусть V — полное вещественное или комплексное вектор- рое пространство с нормой || • ||, и пусть задана последовательность {х(6>} элементов из V. Показать, что последовательность \.У^ частичных сумм yw = У, xw сходится в V, если 6-1 п
существует такое М ^ 0, что У, || xw ||^М для всех ц=1, 2, ... . Какую теорему о сходимости рядов с вещественными членами обобщает это утверждение?
Показать, что || х IL = lim || х ||р для каждого вектора р->оо
х е С".
Полагая || • ||а = а|| • ||, « > О, показать, что (||■||a)D = = (1/а) II - IIs.
Показать, что /?-норма является двойственной к /р-норме при любом р^1, где величина q определяется из равенства Х/р + X/q = 1. Указание. Заменить неравенство (5.4.14) на более общее неравенство Гёльдера. "
Пусть на Сп заданы две векторные нормы || • ||а и || • ||0. Предположим, что существует такая константа С > 0, что ||x||a^C||x||s для каждого вектора хеС" Показать, что для всех хеС“ верно неравенство || х ||у ^С||х||f. Указание. Использовать соотношения-
||x||a= птах | г/ л: | = max -тр—гр- =
II 8 lla= 1у о I IIУ Ila I
= max '-M - De max — yr max yx,y^:0 ll^Ua 0 C»yllfl C ily|lR = l
Показать, что группа изометрий нормы ||-Р всегда включает в себя множество матриц, каждая из которых сопряжена к некоторой изометрии исходной нормы ||-||. Вывести отсюда заключение, что группа изометрий нормы ||-Р в точности является множеством всевозможных матриц, каждая из которых сопряжена к некоторой изометрии нормы Ц-Ц. Когда изометрии норм || ■ || и И • ||D совпадают?
Пусть || • || — векторная норма на С" и Т е Мп. Показать, что || ■ ||° = || • ||°, если Т — изометрия исходной нормы.
Пусть на Сп задана некоторая норма II • ||.
Показать, что множество, двойственное к нулевому вектору по отношению к норме || -Ц, не определено.
Пусть норма || • || совпадает с евклидовой нормой П-Пг- Показать, что множество, двойственное к ненулевому вектору хе С" по отношению к норме ||• Иг, есть в точности множество {х}, состоящее только из самого вектора х. Указание. Использовать тот факт, что неравенство Коши — Шварца обращается в равенство тогда и только тогда, когда соответствующие два вектора линейно зависимы.
Пусть норма || • || совпадает с ||-||бо. Показать, что по отношению к норме || ■ ||оо двойственным к вектору х = [0, l]7 является множество {х}, но двойственным к вектору х = [1,1]7' будет множество
{[а, 1—а]т: 0^а^1).
Пусть норма || • || совпадает с II - Hi. Что представляет собой множество, двойственное к вектору х = [0, l]7 по отношению к норме ||- И,?
Пусть х—заданный ненулевой вектор и вектор у является двойственным к нему по отношению к норме || • ||. Показать, что вектор х будет двойственным к вектору у по отношению к норме И • 11°.'
(Г) Показать, что множество, двойственное к произвольному ненулевому вектору х по отношению к норме || • ||, состоит из самого вектора х, если || ■ ||~|| • ||2, и только в этом случае.
Пусть функция f: R2-*-R определена равенством f(x) = = |х1х2|1/2. Показать, что множество (х: f(x)=l} не является компактным. Вступает ли это в противоречие со следствием 5.4.8?
Пусть
1И1а = ||[10хь Х2]Ч_||Х||0 = ||^.
Рассмотрим пример квазинормы /(х) = (|| х||а|| х ||р)1/2, приведенный ранее в упражнении. Показать, что та часть «единичного шара» (х е R2: /(х)< 1), которая находится в первом квад-
ранте, ограничена отрезками прямых х2=1/д/Ю и xt=l/V10 и дугой гиперболы х1х2=1/д/10. Изобразить это множество и показать, что оно не является выпуклым. Почему при последовательном отражении этого множества относительно координатных осей получаются недостающие куски «единичного шара» в трех остальных квадрантах? Показать, что пересечение единичного шара двойственной нормы {х е R2: /°(х)^1} с первым квадрантом ограничено отрезками прямых х^Ю + х2 = д/Ю и xt + х2/10 = д/10 и что весь единичный шар нормы Р можно построить, последовательно отражая эту часть относительно осей. Убедиться, что единичный шар нормы Р является выпуклым. Показать, что часть единичного шара нормы Р°, лежащая в первом квадранте, ограничена отрезками прямых х2= 1/д/Ю, Xt = 1/д/Ю и xt + х2 = 11/(10 д/ю) и что оставшиеся четверти получаются последовательным отражением этой части относительно осей. Наконец, сравнить единичные шары нормы PD и квазшюрмы / и проверить, что первый является замкнутой выпуклой оболочкой последнего.
Пусть П'П—векторная норма на У = R” или Сл. Показать, что
maxтах
|||| НХН 11*11 = 1 11 у 11 = 1
< [ max || х ||2]2 " См.
ll*ll=i
и что
тт Imin 11 х W2=С«' *■^0 II х И11*11 = 1
Вывести отсюда, что для любого вектора хе V справедливы неравенства Cm||x||^||x||D ^ См11х||. Таким образом, каждая норма эквивалентна своей двойственной и константы в соответствующих неравенствах эквивалентности имеют геометрический смысл *).
Пусть / (•) — квазинорма на R" или Сл. Показать, чтоfD(y) = max Rey*x = max | у* x | = max: тах-Цт-Ц.
'f(*)^l9f(*)<l 9*¥-0*^0
(5.4.18)
Другой пример использования подобных равенств приводится в упражнении, которое следует за определением 5.6.1.
Дополнительная литература
Двойственные нормы обсуждаются в [Нои 64]. Идею, что понятие двойственности в применении к квазинорме приводит к норме, впервые высказал, по-видимому, Дж. фон Нейман. Он изучал «калибровочные функции» (то, что мы называем векторными нормами) в статье: Von Neumann J. Some Matrix-Inequalities and Metrization of Matric-Space. — Изв. ин-та ма- тем. и мех. Томск, ун-та, 1937, т. 1, с. 205—218, которая также содержится в т. 4 собрания работ фон Неймана (von Neumann J. Collected Works, ed. A. H. Taub. — Macmillian New York 1962).
Геометрические свойства векторных норм -
Основной геометрической характеристикой векторной нормы является единичный шар, рассматривая который можно лучше понять, что представляет собой данная норма.
Определение. Пусть Ц-Ц—векторная норма на вещественном или комплексном векторном пространстве V, и пусть заданы точка х из V и число г > 0. Шаром радиуса г с центром в точке х называют множество
5ц • в (<! х^ = {у е V: || у — х || < г}.
Единичным шаром для нормы || • || называют множество
Вн^ВмО; 0) = {уеУ: ||у||^ 1>.
Упражнение. Показать, что для любых г > 0 и х е V справедливы представления
В (г; х) = (у + х; у е В (г; 0)) = х + В (г; 0).
Шар данного радиуса с центром в точке х имеет тот же вид, что и шар такого радиуса с центром в нуле, и может быть получен параллельным переносом последнего в точку х ]). Единичный шар является геометрическим досье нормы и полностью характеризует эту норму в силу свойства абсолютной однородности) (фактически можно обойтись только границей шара 5ц. и). В настоящем параграфе мы точно установим, какие подмножества из С" могут играть роль единичного шара какой- либо векторной нормы.
Упражнение. Изобразить единичные шары для Zj-, /2- и 1м-норм на R2. Можно ли установить какие-нибудь включения?
*) Например, продолжая предыдущее упражнение, можно записать также представление В (г: х) = х + г • Вц. । — Прим. пер?в.
Какие точки принадлежат одновременно границам единичных шаров всех /р-норм на R2? Изобразить несколько единичных шаров для других /р-норм.
Упражнение. Пусть || • Ц, и || • ||р —две нормы на векторном
пространстве V. Показать, что неравенство || х ||а <|| х ||р имеет
местоВ» ■ 1|рместоВ» ■ 1|рдля всех х eV в том и только в том случае, когда сВц.п . Таким образом, естественное отношение частич
место
В» ■ 1|р
место
В» ■ 1|р
ного порядка на векторных нормах можно выразить в терминах геометрических включений. Что происходит с единичным шаром, когда норма умножается на положительную константу?
Упражнение. Пусть || • II—векторная норма на V, а — некоторое число и х е V. Показать, что условие ||ах||=||х|| влечет за собой равенство х = 0 или |а| = 1. Вывести отсюда заключение, что каждый «луч» {ах: а > 0} пересекает границу единичного шара в точности один раз.
Определение. Векторную норму называют полиэдральной, если ее единичный шар является многогранником1)’.
Упражнение. Какие из /р-норм полиэдральны?
Упражнение. Если норма Ц-Ц полиэдральна и матрица 5 <= Мп невырожденна, будет ли норма ||-||s полиэдральной?
В векторном пространстве с нормой очень легко определить основные топологические понятия открытого и замкнутого множеств.
Определение. Пусть || • ||—норма в вещественном или комплексном векторном пространстве V и S— подмножество в V. Точку xeS называют внутренней точкой множества S, если существует такое число е > 0, что Вц.ц(е; х) с: S. Множество S называют открытым, если каждая точка из S является внутренней. Множество S называют замкнутым., если дополнение к нему — открытое множество. Предельная точка множества S есть такая точка хе V, что lim х(й) = х (по норме ||-||) для некоторой последовательности {х(й,}с:5. Замыканием множества S называют объединение S с множеством всех его предельных точек. Границу множества S образует пересечение замыкания множества S с замыканием дополнения к S. Множество 5 ограничено, если существует число М > 0, при котором
•) Здесь и далее рассматриваются лишь выпуклые многогранники. Выпуклым многогранником называется выпуклая оболочка конечного множества точек (или, эквивалентно, ограниченное пересечение конечного числа замкнутых полупространств), см. приложение В. — Прим, перев.
3 с Вц. и (М; 0). Множество 3 компактно *), если из любого его покрытия (J За =2 3 открытыми множествами За можно выбрать а
конечный набор множеств 301, ..., SaN, образующий подпокрытие (J За. =э 3.
Упражнение. Показать, что единичный шар 5ц. и является замкнутым ограниченным множеством для любой векторной нормы ||-|| на произвольном векторном пространстве V.
Упражнение. Пусть V — конечномерное вещественное или комплексное векторное пространство и 3 с V — ограниченное замкнутое множество2). Используя тот факт, что пространство V изоморфно R” или С" при некотором п, показать, что 3 компактно (см. приложение Е).
Утверждение. Если векторная норма || ■ || задана на нетривиальном (т. е. ненулевой размерности) вещественном или комплексном векторном пространстве V, то точка 0 будет внутренней для единичного шара В\\. ц.
Этот факт обусловлен свойствами абсолютной однородности и положительности нормы || • ||, которые влекут за собой включение 5ц. и (1/2; 0) с 5ц. и (1, 0). Первый шар вместе со своей границей лежит внутри единичного.
Утверждение. Единичный шар векторной нормы является уравновешенным множеством, т. е. любая точка х единичного шара лежит в нем вместе со всеми точками вида ах, где | а | = 1.
Это вытекает из свойства абсолютной однородности векторной нормы.
Утверждение. Единичный шар векторной нормы в конечномерном векторном пространстве компактен.
') Можно показать, что компактное (по этому определению) множество в нормированном пространстве обязательно замкнуто. Такие множества иногда называют бикомпактными или компактами, а компактными множествами называют в этом случае множества с бикомпактным замыканием — Прим, перев.
В произвольном конечномерном векторном пространстве V (в частности, в R" или С") две различные нормы в силу их эквивалентности задают одну топологию, а именно ту единственную топологию на V, в которой непрерывны определенные в V операции сложения и умножения на скаляр. Таким образом, топологические понятия в V по существу не связаны с нормами. Например, замкнутое (в смысле определения 5.5.3) в некоторой норме множество из V неизбежно замкнуто в любой другой норме на V. Это позволяет употреблять топологические понятия в V без указания какой-либо конкретной нормы. — Прим, перев.
Он является ограниченным в силу абсолютной однородности векторной нормы и замкнутым, поскольку норма — всегда непрерывная функция. В конечномерном случае замкнутое ограниченное множество компактно, но это не всегда верно в бесконечномерных пространствах *). Из свойств компактных множеств мы чаще всего будем использовать теорему Вейерштрасса (см. приложение Е), гласящую, что непрерывная вещественнозначная функция на компактном множестве ограничена и достигает своих точной верхней и точной нижней граней на этом множестве. Учитывая последний факт, точные грани такой функции мы обычно называем ее «максимумом» (max) и «минимумом» (min) соответственно.
Упражнение. Определим комплексное векторное пространство /2 векторов х = (х,) со счетным набором компонент, обобщая на этот случай понятие /2-нормы в конечномерном пространстве:
/ ”X 1/2
Цх1|2 = s |xfcp .
\6=i7
Показать, что || ek — ef ||2 — V2 для любой пары единичных базисных) векторов ек и еу при к ф / и k, / — 1, 2, ... . Таким образом, никакая подпоследовательность из {е*} не может быть последовательностью Коши; значит, последовательность {eft} не содержит сходящихся подпоследовательностей. Вывести отсюда, что единичный шар в /2 не может быть компактным.
Утверждение. Единичный шар векторной нормы является выпуклым множеством.
Доказательство. При ||х||^ 1, llyll^ 1 и осе [0, 1] выполнены соотношения
|| ах + (1 — а) ?/|| ^|| ах ||+ ||(1 — а) у || = а || х || + (1 — а)||//Ц^
^ а + (1 — а) = 1.
Значит, точка осх + (1—а)у лежит в единичном шаре вместе с х и у. □
*) Более того, нормированное векторное пространство, в котором какой- либо шар компактен, обязательно конечномерно. — Прим, перев.
Наличие приведенных выше свойств единичного шара оказывается не только необходимым, но и достаточным условием характеризации нормы.
Теорема. Множество В в конечномерном вещественном или комплексном пространстве тогда и только тогда есть единичный шар некоторой векторной нормы на V, когда это множество (I) компактно, (II) выпукло, (III) уравновешено, (IV) содержит 0 в качестве внутренней точки.
Доказательство. Необходимость условий (I) — (IV) уже была отмечена. Убедимся, что выполнения этих условий достаточно, чтобы определить норму. Рассмотрим произвольную ненулевую точку (вектор) хе V и построим отрезок (ах: 0 ^ а ^ 1} луча от начала координат через точку х. Этот луч пересекает границу единичного шара в единственной точке. Длина отрезка луча от начала координат до этой точки служит единицей при измерении расстояний вдоль луча. «Длина» вектора х определяется как длина отрезка луча от начала координат до х, выраженная с помощью такой единицы. Более формально, определим величину ||x|| равенствами
|| х || = 0, если х = 0, '
|| х || = min { -= />0 и /хеВ|, если х #= 0.
Эта функция от х корректно определена, конечна и положительна для каждого ненулевого вектора х, поскольку множество В компактно и включает в себя 0 как внутреннюю точку. Используя предположение об уравновешенности, легко увидеть, что функция || -1| абсолютно однородна. Остается проверить только неравенство треугольника.
Если х и у — заданные ненулевые векторы, то векторы х/||х|| и у/Ну|| будут единичными и попадут на границу множества В. В силу выпуклости множества В вектор
— IIх И х I IIУ Л У1М-ЫЫ1 IHII 1М1 + 1Ы1 11у|1
также должен лежать в В. Следовательно, выполнено неравенство ||z||^ 1, которое, как легко проверить, эквивалентно неравенству ||х + y||^||x|l + ||t/||. □
Упражнение. Провести детальное доказательство теоремы 5.5.8, тщательно указывая, в каких рассуждениях используется каждое из четырех предположений.
Все уже знакомые нам /р-нормы обладают следующим свойством: норма ||х|| зависит только от абсолютных значений ком-
понент вектора х. Кроме того, каждая /р-норма является возрастающей функцией абсолютных значений компонент данного вектора. Эти два свойства связаны между собой.
Определение. Если х = [х,] 7 е Fn (Rn или Сл), то полагаем |х| =[ |х/1 ]г. Говорят, что |х| ^ |1/|, если |xz| ^ |^/z| для каждого 1 = 1, ..., п. Векторную норму IMI на F" называют
монотонной, если неравенство |х|^|1/| влечет за собой неравенство норм ||х||^ Ц1/11 для всевозможных векторов x,yeFn;
абсолютной, если равенство ||х|| = || |х[ || верно для всех векторов х е Fn.
Теорема. Векторная норма [| • || на F" (Rn или Сл) монотонна тогда и только тогда, когда она абсолютна.
Доказательство. Пусть норма || • || монотонна, х е F" и у = \х\. Тогда одновременно | у | + | х | и |х|^|1/|, поэтому ||z/IKI|x|| и || х || + || у ||, следовательно, норма || • || абсолютна. Пусть теперь норма || • || абсолютна. Зададим некоторый вектор х = [xjr е F", натуральное k в пределах l^&^n и число ае|0, 1]. Тогда
II [Х], ... , хА_ь ахь хА+ь ... , х„П =
= |у (!—«)[+, ...,xk_v, —хь хк+1+Г +
+ у(1 —а)х + ах|<у(1 — а)||[Xl ... , хк_ь — хк,
хк+ь ... , ^П + уО — а) II х 11 + а II х || =
= 1(1 -а)||х|| + 1(1-а)||х|| + а||х|| = ||х||.(5.5.11)
Предположение о том, что норма абсолютна, используется только в предпоследнем равенстве. Повторяя выкладки (5.5.11) для различных компонент, можно показать, что абсолютная норма удовлетворяет неравенству
II [“+, •••, «„х„]г [| ^ || [xi, ... , х„]г ||(5.5,12)
при каждом х е F" и всевозможных ак е [0, 1], ^ = 1, ... , п. Наконец, если | х [ ^ [ z/1, то для каждого номера ^ = 1, .. . , п найдутся такие вещественные ак, ак е [0, 1], и 6t, что хк = = аке1бкук. Используя определяющее свойство абсолютной нормы, приходим к соотношениям
II*II = II W%x, .... ane'^Kl^llfa! |1/! I, ..., a„|z/„|]T||<
<ll[|z/ilI У» IГII = IIУII, которые показывают, что норма должна быть монотонной. □
Неравенство в (5.5.11) наводит на мысль о возможности введения несколько более слабого понятия монотонности.
Определение. Векторную норму || • || на F" (R" или С”) называют слабо монотонной, если неравенство
II [М> • .• , хк_х, 0, xft+1, ... , х„]г1К
^Пкь хк_х, хк, xk±x, x„F||
верно для всех векторов x = [xJreF" и чисел ^=1, . . . , п.
Если векторная норма || • || слабо монотонна и а е [0, 1], то
II [м> ..., хк_х, ахк, хк+х, ..., х„]г]| =•
= ||(1—a)[xiхк_х, 0, хк+х, ..., х„]г + ах|К
<(1 —а)||[х1( ..., хк_х, 0, хк+х, ..., х„]г|| + а||х|К
<(1-а)||х|Ц-а||х|| = ||х||.
Таким образом, слабо монотонная норма удовлетворяет также на вид более сильному неравенству (5.5.12).
Следовательно, если у заданной точки на единичной сфере слабо монотонной нормы абсолютное значение одной из координат уменьшать до нуля, то построенный таким способом прямолинейный отрезок должен лежать в единичном шаре. Монотонная норма, очевидно, является слабо монотонной, но обратное неверно, как станет понятно из следующих упражнений.
Упражнение. Доказать, что параллелограмм с вершинами в точках ± [2, 2]г и ±[1,—1]г является единичным шаром некоторой векторной нормы на R2, не обладающей свойством слабой монотонности.
Упражнение. Можно ли считать функцию /(х) = |х;— х2| + -Цхг| векторной нормой на R2? Является ли она монотонной? Слабо монотонной? Изобразить единичный шар этой нормы.
Упражнение. Пусть || • ||— абсолютная норма на R2. Показать, что вместе с точкой х —[xi,x2]7 границы единичного шара на этой границе лежат также точки [±хь ±х2]7 (для всех четырех возможных способов выбора знаков). Проиллюстрировать это геометрическое свойство рисунком. Изобразить единичный шар какой-либо нормы на R2, обладающей свойством абсолютности. Что происходит в R"?
Упражнение. Изобразить многоугольник на R2 с вершинами в точках
±[о, i]r, ±[1, OF И ±[i, 1F.
Объяснить, почему этот многоугольник можно трактовать как единичный шар некоторой слабо монотонной векторной нормы на R2, но не монотонной или абсолютной векторной нормы;
Выпуклость единичного шара векторной нормы — это факт, имеющий многочисленные глубокие, а в некоторых случаях поразительные следствия. Одно из них приводится ниже в виде теоремы двойственности, которая формулируется в общем виде в терминах квазинорм. Ключевые идеи доказательства имеют очень естественный геометрический смысл. А именно, наименьшее замкнутое выпуклое множество, содержащее заданное множество S (замкнутая выпуклая оболочка CoS, см. приложение В), рассматривается как пересечение всех замкнутых полупространств (полупространство — все то, что лежит по одну сторону гиперплоскости), содержащих S. Кроме того, если имеется точка х, лежащая в любом полупространстве, в котором лежит S, то точка х должна принадлежать замкнутой выпуклой оболочке множества S. Эти простые представления непосредственно приводят к важному факту, что двойственная к двойственной векторной норме совпадает с изначальной нормой.
Теорема (двойственности). Пусть f(-)— квазинорма на К = R" или С", Р — двойственная к ней норма и PD — норма, двойственная к Р. Через
B = \xeV; Цх^\}, B" = {xeV: fDD(x)<l) обозначим «единичный шар» квазинормы f и единичный . шар нормы PD соответственно. Тогда
В с= В" = СоВ
и, следовательно, PD (х) ^/ (х) для всех xeV. Если f — векторная норма на К, то В —В" и PD = f.
Доказательство. При заданном векторе xeVb лемме 5.4.13 утверждается, что'
|у* х |</(х)Р(у)
для любого у eV. Следовательно, ^hd(x)= max |z/*x|^ max f (x)P (y) = f (x).1
fDW=lfDw=i
Таким образом, PD(x)^f(x) для всех векторов х е V, что эквивалентно геометрическому утверждению о включении В с В".
Для доказательства равенства В" = СоВ удобно использовать характеризацию (5.4.18) двойственной нормы и то обстоятельство, что множество {/е V: R e Ди ^ 1} яв-
ляется замкнутым полупространством общего вида, содержащим начало координат. Привлекая определение двойственной нормы, заметим, что для заданной точки и е В"
и G {/: Re/*у 5^ 1длякаждогоу,такого,чтоР(а)^1} =
= {/:Re/*y^lдлякаждогоу,такого,чтоRey*ty^l
длякаждогоw,такого,чтоf (ф) ^ 1} =
= {/:Re/*y^lдлякаждогоу,такого,чтоRe ф*у 1
для всех щей}.
Это означает, что точка и лежит в каждом замкнутом полупространстве, содержащем любую точку из В, т. е. содержащем множество В. Поскольку пересечение всех таких замкнутых полупространств образует Со В — замкнутую выпуклую оболочку множества В, заключаем, что и еСо В. Но точка и е В" была выбрана произвольно, поэтому В" сд Со В. С другой стороны, выпуклая оболочка Со В есть пересечение всевозможных выпуклых множеств, содержащих В; тогда Со В cz В". Следовательно, верно равенство В" = Со В.
Если квазинорма ) фактически является нормой, то ее замкнутый единичный шар В есть выпуклое множество, поэтому В = СоВ, и тогда мы получаем В cl В" cl В и В = В". Поскольку единичные шары норм ) и fDD совпадают, то совпадают и сами эти нормы. □
В качестве одного из приложений теоремы двойственности приведем следующий полезный результат. Это частный случай конечномерного варианта важного и весьма общего результата из функционального анализа, известного как теорема Хана — Банаха.
Следствие. Пусть заданы вектор уеС^и векторная норма || • || на С". Тогда существует такой вектор уоеСп, что
I (Уо)* х I ^ IIх II для всех хеС",
Ш* */ = 1Ы|.
Вектор уо удовлетворяет помимо п. (Ь) равенству ||z/ollD=l> «о он не обязательно единствен.
Доказательство. Как известно,
II z/II = (II # llD)D = max \y*z\
И г ||D = 1
по .теореме двойственности. В.- силу компактности единичной сферы векторной нормы || • 11° максимум здесь действительно достигается на некотором (не обязательно единственном) векторе г = уо, для которого ||z/ollD = l- Следовательно, ||z/|| = |у*уо\• За счет умножения вектора уо на подходящее число модуля 1 ска-
лярное произведение у*уо можно сделать положительным. Тем самым приходим к утверждению (Ь). Из леммы 5.4.13 известно, что
1(Уо)*хК1|уо11°1к11 = 1к11 Для всех хеС".
Поэтому для вектора уо утверждение (а) также верно. Заметим, что свойство (а) обеспечивает справедливость неравенства ll</ollD 1, а свойство (Ь) приводит к равенству ||г/о11д = 1- □
Задачи
Показать, что множество S замкнуто тогда и только тогда, когда оно содержит все свои предельные точки.
Показать, что каждую точку из S можно считать предельной точкой этого множества, поэтому замыкание множества просто совпадает с множеством всех его предельных точек.
Привести пример множества, которое открыто и замкнуто одновременно. Привести пример множества, не являющегося ни открытым, ни замкнутым.
Пусть S— компактное множество в вещественном или комплексном векторном пространстве V с нормой || • ||. Показать, что S замкнуто и ограничено. Доказать, что из любой заданной бесконечной последовательности (ra}cS можно выделить подпоследовательность {xaJ с {ха}, сходящуюся к некоторой точке х е S. Показать, что любое замкнутое подмножество компактного множества также компактно.
Что происходит с утверждением 5.5.4 в случае пространства V нулевой размерности?
Как можно было бы определить единичный шар векторной полунормы? Как по виду отличить его от единичного шара нормы? Привести какой-нибудь пример и пояснить его рисунком.
Пусть || • |la и II ' Пр—нормы на векторном пространстве и векторная норма || • || определена равенством
||х || = шах {|| х Ik, ||х||р}.
Показать, что Вн = ВНоЛВмр.
Доказать, что векторная норма || • || на F" (R" или С") абсолютна тогда и только тогда, когда равенство
|| [а^!, а2х2, ... , ct„x„]r || = || [лс!, х2, ... , x„f||
верно для всех векторов [хь х2х„]геР" и всех чисел аь a„eF'1,подчиненных условиям | at | = ... = | а„ | = 1.
В шести оставшихся задачах используются следующие обозначения. Пусть || • ||—векторная норма на вещественном или
комплексном векторном пространстве V и х, у г V. Через
L (х, у) г {z (/) = х + / {у — х)*. О < / < 1}
обозначается обычный (по отношению к линейным алгебраическим операциям) прямолинейный отрезок, между точками х и у, а через
■ С(х, у, IMD^fzeV: |[х — z|| + ||z — у || = ||х — у ||} обозначается выпуклая ^метрическая) оболочка точек х и у относительно нормы || • ||.
Показать, что L(x, у)сС(х, у\ || • ||) для всех х, у g V при любой векторной норме || • ||.
Показать, что для V = С" с /2-нормой С(х, у, II • Ik) = = L (х, у) для всех х, у г Сп, т. е. что
II х + у ||2 = II х — г lb + || z — у |Ь
тогда и только тогда, когда z = x+/(z/— х) при некотором t G [0, 1].
Показать, что множество C(x,z/; ||-||) всегда выпукло (в обычном смысле), т. е. что
/z1 + (l-/)z2eC(x, у, М|)
для всех /g [0, 1], если zv, z^gC(х, у, || • |[)..
Показать, что множество С((1, 0), (0, 1); || • ||t) в пространстве V = R2 над полем R заполняет квадрат с вершинами в точках (0, 0), (0, 1), (1, 1) и (1, 0). Указание. Проверить, что точки (0,0) и (1,1) лежат в этом множестве, и использовать задачу 11. Показать, что, однако, множество С((1,0), (0,1); ll'lloo) совпадает с прямолинейным отрезком L((l,0), (0,1)).
Рассматривая вновь пространство V = R2 над полем R, показать, что множество С((1, 1), (1,—1); |[ • Поо) заполняет на плоскости квадрат с вершинами в точках (0,0), (1, 1), (2, 0) и (1,-1). Указание. Проверить, что точки (0,0) и (2,0) лежат в этом множестве. Показать, что, однако, множество С((1, 1), (1,—1); Il-Hi) совпадает просто с прямолинейным отрезком L((l,l), (1,-1)).
Выпуклую метрическую оболочку множества S g V из к точек, к ^2, можно определить как множество всех таких zgV, что каждая точка z принадлежит выпуклой метрической оболочке двух точек, каждая из которых в свою очередь принадлежит выпуклой метрической оболочке некоторой пары точек из S. Показать, что при 6 = 2 это определение согласуется с приведенным выше. Описать выпуклую /роболочку множества единичных ортонормированных базисных векторов (ер ег, ..., еп}
в Rn. Что представляет собой выпуклая /г-оболочка этого множества? Как выглядит выпуклая в обычном смысле (по отношению к линейным алгебраическим операциям) оболочка этого множества?
'Дополнительная литература
Более подробное обсуждение геометрических аспектов векторных норм имеется в [Нои 64]. Основная идея доказательства теоремы двойственности (отождествление единичного шара нормы, двойственной к двойственной норме, с пересечением всех полупространств, содержащих единичный шар исходной нормы) использовалась фон Нейманом в работе, на которую мы ссылались в конце § 5.4. Детальное обсуждение выпуклых множеств, выпуклых оболочек, полупространств и т.п. можно найти в [Vai].
Матричные нормы
Поскольку множество Мп само является векторным пространством размерности и2, «величину» матрицы можно измерять при помощи любой векторной нормы на С"2. Однако Мп—■ не просто векторное пространство большей размерности; на нем имеется естественная операция умножения, и при выводе оценок часто бывает полезным связать «величину» произведения АВ с «величинами» сомножителей А и В.
функцию II • ||: Mn-^-R называют матричной нормой, если для всех матриц А, ВеМп она удовлетворяет следующим пяти аксиомам *):
II А ||^ 0(неотрицательность);
(1а) || А || = 0 тогда и только тог
да, когда А = 0(положительность);
|| с А || = | с III А || для всех комп- (абсолютнаяоднород-
лексных чисел сность);
|| А + ВЦ ^11А || + II ВЦ(неравенствотреуголь
ника);
|| АВ || ^ || А ЦП В ||(кольцевое свойство).
Заметим, что свойства (1) — (3) идентичны аксиомам векторной нормы из определения 5.1.1. Векторную норму на множестве матриц, т. е. функцию, удовлетворяющую (1) — (3) и не обяза-
') В оригинале используется обозначение || - || для векторной нормы и HI • (У для матричной нормы на Мп. Мы использовали привычное обозначение ||-|| в обоих случаях, поскольку это не приводит к путанице. Обозначения некоторых конкретных норм в переводе также приведены в соответствие с традицией. — Прим, перев.
тельно (4), часто называют обобщенной матричной нормой. Отбрасывая аксиому (ia), можно также определить понятие матричной полунормы и обобщенной матричной полунормы.
Поскольку || Л21| = || Л Л ||^|| ЛIHI Л || = || Л ||2 Для любой матричной нормы, то неравенство ||Л||^1 должно быть выполнено для любой ненулевой матрицы Л, такой, что Л2 = Л.
В частности, ||/||^1 для любой матричной нормы. Если матрица Л обратима, то / = ЛЛ-1, поэтому ||/|| = || ЛЛ-11| ^ ^ || Л |||] Л-1||. Приходим к нижней границе
для любой матричной нормы || - ||.
Упражнение. Доказать справедливость неравенства ||ЛА||^ ^||Л||А при любом 6 = 1, 2, ... и произвольной матрице Л е Мп, где || • || — матричная норма. Показать на примере, что это, вообще говоря, неверно для векторных норм на множестве матриц.
Некоторые из векторных норм, введенные в § 5.2, являются матричными нормами в применении к векторному пространству МП, а некоторые — нет. Наиболее известны примеры /p-норм при р=1,2, оо. Мы уже знаем, что это векторные нормы, поэтому проверки требует только аксиома (4).
Пример. Для матрицы Л G Мп 1гнорму определим равенством
IIЛ ||, ^ £ |a„[;
1 г, /=1
это матричная норма, поскольку
-MHZ II в II,. ч ч
Первое неравенство вытекает из неравенства треугольника. Второе неравенство объясняется тем, что к сумме добавляются новые неотрицательные слагаемые.
Пример. Для матрицы А е Мп евклидову норму или 12-норму определим равенством
/ пХ'1а
цлц£= £ ++2 .
V /=1/
Это матричная норма, поскольку
Данное неравенство—просто неравенство Коши—Шварца. В применении к матрицам такую норму иногда называют нормой Фробениуса, нормой Шура или нормой Гильберта — Шмидта. Если записать матрицу
А = \аха2 ... аД е Мп
через ее векторы-столбцы а/ е Сп, то
ЦЛ||^ = ||а1 Щ+ +11 аЛ].
Поскольку /2-норма на С-’ унитарно инвариантна, приходим к следующему важному утверждению:
[[ С7Л Hl = II t/«s Щ+ ... +11/7^111 = 1+! 1Ц+ ... +1+Л1 = ||Л|Ц
где U е Мп может быть произвольной унитарной матрицей. В силу равенства || В* ||г = || В ||£ для всех В г Мп эго влечет за собой утверждение
|| UAV ||£ = || AV ||Е -1| V*A* ||Е = || А* ||Е = || А ||Е,
где матрицы U, Ve Мп унитарны. Таким образом, /2-норма на Мп будет унитарно инвариантной матричной нормой.
Пример. Для матрицы А е Мп определим Ш-норму равенством
IIА || = шах \аИ\.х К*.
Это векторная норма на векторном пространстве Мп не является матричной нормой. Рассмотрим матрицу / = [[ [] —+г и проведем следующие вычисления:
Г2 = Ш, ||7||. =1, Ц/2^ =||27||z = 2||7||z =2.*ооОО‘ооОО
В этом случае неравенство ||72||z ^||/||z неверно и поэтому норма || • ]|z не обладает кольцевым свойством. Однако если
ПОЛОЖИТЬ
М||=п|Щ , АеМ;,1ОО
то получим ■пп
||ЛВ|| = п max X ФкЬм <« max X I a< А/КKi,/<n k-YY^ia^nk-Y
^n max XlMlb IIS||, = п||Л|| n||S|| =Х<Л1Спк = \00000000
= M Illi 5II;
таким образом, требуется только незначительная модификация, чтобы превратить векторную норму || • ||, в матричную.
С каждой векторной нормой || • || на С" связана естественная матричная норма || • ||, «индуцированная» нормой || • || па Мп. Матричная норма || • || строится на основе векторной || • ||; процесс такого построения дополняет перечень способов конструирования одной нормы из другой.
Определение. Пусть || • || — векторная норма на С". Определим матричную норму || • || на Мп формулой
|| А || = max || Лх||.
11х!|=1■
В данном определении оправдано употребление символа «тах» (вместо «sup»), поскольку функция ||Лх|| непрерывно зависит от х и единичный шар Sg. g является компактным множеством (см. приложение Е).
Упражнение. Показать, что матричную норму из определения 5.6.1 можно также вычислить при помощи следующих эквивалентных формул:
|| А || = max || Ах || = max || Лх || = max== max-у—, llxll-l!|х||<1х^ОПхП = 1 IIх"
где || • || — любая векторная норма.
Теорема. Функция || • || из определения 5.6.1 является матричной нормой на Мп, || Лх||^|| А ||||х|| для всех матриц А е Мп и всех векторов х е С" и ||/||=1.
Доказательство. Аксиома (1), приведенная в начале данного -параграфа, вытекает из того, что величина ||Л|| определена как максимум функции с неотрицательными значениями. Аксиома (1а) следует из того, что равенство Лх = 0 верно для всех век-
торов х тогда и только тогда, когда А = 0. Аксиома (2) подтверждается следующими выкладками ‘)
с А || = шах || с Ах || = max | с 1|| Ах || = | с | max || Ах || = | с 1|| А ||.
Аналогично неравенство треугольника (3) унаследовано от векторной нормы, поскольку
П А + В || = шах || (А + В) х || = шах || Ах + Вх ||
< шах (|| Ах || + || Вх || X max || Ах || + шах || Вх || = || А || + || В ||.
Наличие кольцевого свойства (4) обусловлено тем фактом, что
||Л^|| max I|x|| max ||Дх||
< max max = ц д ц ц в ||.
II У IIII Л II
Здесь предполагается без потери общности, что максимум берется только по векторам х, не входящим в ядро матрицы В.
Переходя к обоснованию следующего утверждения теоремы, заметим, что при х^О имеет место неравенство ||Ах/||х|||Х ^|| А ||, поскольку данная норма определялась как максимум отношения из левой части. Привлекая свойство абсолютной однородности векторной нормы, получаем неравенство ||Ах|Х ^ || А || || х ||, которое также верно при х = 0. Наконец,
|| Z || = max || Zx || = max || х || = 1. □
Цх|| = 111Х|| = 1
Определение. Матричную норму || • || из определения 5.6.1 называют матричной нормой, подчиненной данной векторной норме ||-1|. Иногда употребляют также название операторная норма или индуцированная норма по отношению к векторной норме || • ||.
Доказательство того, что операторная норма является матричной нормой, основано на общих свойствах всех векторных норм. Поэтому одна из возможностей убедиться, что некоторая функция на Мп задает матричную норму, заключается в проверке того, что данная функция индуцирована некоторой векторной нормой. Мы будем придерживаться такой стратегии при изучении одной важной матричной нормы, а именно так называемой спектральной нормы.
Неравенство из теоремы 5.6.2 означает, что подчиненная матричная норма ||-|| является согласованной с соответствующей векторной нормой ||-||. Из теоремы следует, что любой векторной норме на С" соответствует согласованная матричная
*) Здесь и далее в доказательстве максимум берется на множестве {х е С" : || х || = 1). — Прим. перев..
норма на Мп. Кроме того, в ней дается необходимое условие ||/|| = 1 того, чтобы матричная норма || • || могла быть подчинена некоторой векторной норме. К сожалению, это необходимое условие не является также достаточным.
Теперь приведем несколько важных примеров матричных норм, подчиненных известным /р-нормам. Мы получим явные формулы для этих норм, позволяющие вычислить их непосредственно, не прибегая к определению 5.6.1. В каждом случае считаем, что задана матрица А = [аД е Мп.
Матричная норма Ц-lli, которую будем называть максимальной столбцовой нормой, определяется на Мп формулой
|| A Ih = max X I «ц I-
1 < / < П 1=1
Норма || • ||| подчинена векторной /,-норме и поэтому должна быть матричной нормой. Докажем это следующим образом. Запишем матрицу А е Мп через ее столбцы: A = [at . .. a„V Тогда 11/1^= max ||az||i. Для вектора х = [хг]г получаем соот- I ^ I ^П ношения
|| Ах II! = II x^i + . .. + хпап II, С X II ха II, = S I Xi | II at ||t i-ii-i
<£|xj( max II aJIO = £ | xj||/11|! = i = l 1 < k ^n1 = 1
= 11-Vil! || Л Ih.*
Таким образом, maxB x ih-i II Ax 1^ ^ || А1Ф Если теперь выбрать x = ek (^-й координатный вектор), то при любом к = 1, 2, . .. , п имеем
max || Лх ||! >|| la* Hi = || a* Hi
и, следовательно,
max ||/lx||i> max П ад ||t = || Л ||t.I|x|h = l1<Л<п
Поскольку мы доказали, что матричная норма, подчиненная векторной /i-норме, служит одновременно верхней и нижней границей для нормы Mlh, приходим к требуемому утверждению.
Упражнение. Проверить непосредственно из определения, что функция ||-||1 является матричной нормой.
Матричная норма || • ||оо, называемая в дальнейшем максимальной строчной нормой, определяется на Мп формулой
IML = max Zla^l. ■l<i<n i-l
Норма ||-|L подчинена векторной /oo-норме и поэтому должна быть матричной нормой. Доводы аналогичны приведенным выше в доказательстве для максимальной столбцовой нормы. Проведем выкладки
II Лх Ц^, = max1 < i < пII Лх Ц^, = max1 < i < пZ CtijXj/-iZ CtijXj/-iп
II Лх Ц^, = max
1 < i < п
II Лх Ц^, = max
1 < i < п
Z CtijXj
/-i
Z CtijXj
/-i
< max X I ацХ] | <
< «/=1
maxmaxZKIIIxlLMMiuixlL. /=iZKIIIxlLMMiuixlL. /=i
max
max
ZKIIIxlLMMiuixlL. /=i
ZKIIIxlLMMiuixlL. /=i
Приходим к неравенству тзхц^н „11| Лл:Ц^ ^]| Л П^. Случай Л = 0 тривиален, поэтому далее можно принять Лч^О. Допустим, что /г-я строка матрицы Л ненулевая, и определим вектор 2 = [zjr Е С" равенствами
z= = -—если т,,=Д0,.
zz=l,если «^ = 0.
шах || Ах 1^ > || Аг ||,шах || Ах 1^ > || Аг ||,Тогда ||z||M —1, a^Zj = | akl | для всех / = 1, 2, . .. , п и
шах || Ах 1^ > || Аг ||,
шах || Ах 1^ > || Аг ||,
max £ аиг; >
Ci ^п / = 1
пп
Е aMzs = £ 1^/1.
/=1/-1
max 2 I ащ1 = || Л L,max 2 I ащ1 = || Л L,Таким образом, max || Лх||
max 2 I ащ1 = || Л L,
max 2 I ащ1 = || Л L,
что и доказывает требуемое.
Упражнение. Проверить, исходя непосредственно из определения, что функция II • Цоо действительно является матричной нормой на Мп.
Спектральная норма Ц-Ц2 определяется на М„ формулой
|| А ||2 г max {V^: А — собственное значение матрицы А*А},
Отметим, что в случае, когда А*Ах = Хх и х^О, справедливы равенства х*А*Ах = || Ах ||^ = А || х |||, из которых следуют неотрицательность чисел А и тем самым существование неотрицательных квадратных корней VА.
Упражнение. Для нормальной матрицы В, такой, что В = = U*MJ, где U унитарна и A = diag(A1, ..., А„), показать
справедливость неравенства
| х*Вх |^ max {| Л |: Л — собственное значение 5} ||х||^
Упражнение. Доказать равенство || Ах ||j = х*А*Ах для всех векторов хе С" и, используя предыдущее упражнение, показать, что функция ||-1|2 является матричной нормой, подчиненной евклидовой векторной норме || -||2. Вывести отсюда, что спектральная норма — действительно матричная норма.
Упражнение. Показать, что ||UA 1/||2 = ||Л||2 для любой матрицы А еМ^ и произвольных унитарных матриц U, V е /И„. Таким образом,спектральная норма является унитарно инвариантной матричной нормой.
Теперь докажем, что при помощи фиксированного подобия одну матричную норму можно преобразовать в другую.
Теорема. Если || ■ ||— матричная норма на Мп и если матрица S е Мп невырожденна, то формула
|| Л ||5 = || ЗЛЗ~‘||, АеМп, задает матричную норму.
Доказательство. Аксиомы (1), (1а), (2) и (3) для нормы II-Ils проверяются непосредственно. Кольцевое свойство для нормы ||-||s следует из соотношений
|| АВ Us = ||3^'ЛВЗ || = I! (3“'АЗ) (S-1BS) || ^ || 3~1ЛЗ |||| S~XBS || = = II A Us || В ||5. □
Теорема 5.6.7 может широко применяться для выбора матричной нормы в конкретной ситуации. Некоторые применения такого рода рассматриваются далее в этом и следующем параграфах.
Одна важная область использования матричных норм — определение границ спектра матрицы.
Определение. Спектральным радиусом р(Л) матрицы А е М„ называют число
р(Л) = шах {| л |: А — собственное значение матрицы Л}.
Заметим, что любое собственное значение X матрицы А удовлетворяет неравенству |Х| ^ р(Л); кроме того, имеется по меньшей мере одно собственное значение X, для которого |А| = р(Л).
Пусть Ах = Хх, х =# 0, и |Х| = р(Л). Рассмотрим матрицу X е Мп, все столбцы которой равны собственному вектору х;
тогда справедливо равенство ЛХ = ХХ. Если || • ||—произвольная матричная норма, то имеют место соотношения
|A|H|| = lim = || лл^илнш
и, следовательно, |Х| = р(Л) ^||Л ||. Это доказывает следующую теорему.
Теорема. Для любой матричной нормы ||-|| и любой матрицы Л е Мп выполнено неравенство р(Л)^||Л||.
Упражнение. Привести пример векторной нормы || • || па множестве матриц и такой матрицы Л е Мп, чтобы выполнялось строгое неравенство ||Л||<;р(Л). '
Упражнение. Пусть || • ||—матричная норма на МП. Рассмотрим отображение F; Сп->~Мп, определенное равенством F^^ — [хх ... х], где [хх ... х]—матрица, все столбцы которой просто совпадают с вектором х. Показать, что функция || • II, заданная на С" формулой ||х|| —Н/Лх) ||, является нормой на С" и что справедливо неравенство ||Лх|| ^ ||Л ||||х|| для всех векторов х е С" и всех матриц Л е М„. Это неравенство означает, что матричная норма || • || согласована с векторной нормой ||-||. Данное упражнение показывает, что для любой матричной нормы на Мп можно найти согласованную с ней векторную норму на С':.
Спектральный радиус как функция от матрицы сам не может служить матричной или векторной нормой на M.t (см. задачу 19). Однако спектральный радиус каждой фиксированной матрицы Л е Мп оказывается точной нижней гранью значений всех матричных норм этой матрицы.
Лемма. Пусть ЛеМ, и задано число е > 0. Существует по крайней мере одна матричная норма ||-||, для которой имеют место оценки р(Л) Д || Л || Д р (Л) + е.
Доказательство. В силу теоремы Шура 2.3.1 об унитарной триангуляризации найдутся такая унитарная матрица U и верхняя треугольная матрица А, что Л = UMJ*. Положим Dt s = diag(/,/2,/3, ,.., /") и вычислим
/ di2
г2 d„ ..
/ — п+1 j
/«ш
0
^2
Z d^ ..
у—п+2 <
/ d2n
Dt^D?^
0
0
А3 ..
i—п+3 *
/«Зп
0
0
0..
t”Xdn_x,n
_0
э
0..
Таким образом, можно быть уверенным, что сумма модулей всех наддиагоиальиых элементов матрицы Dt М)?1 при достаточно большом / > 0 не будет превосходить е. В частности, при достаточно большом t, несомненно, выполнено неравенство НА АО^* Hi ^ р (Л) + е. Определим матричную норму || ■ || при помощи формулы
IIВ |MI DtU*BUD?x И, = || (UD?V В (UDT1) Ц, В е Мп.
Таким образом, выбирая значение / достаточно большим, полу- । чаем матричную норму, для которой ||Л||^ р(Л)+е. Поскольку неравенство ||Л||^р(Л) верно для любой матричной нормы, утверждение теоремы полностью доказано. □
Упражнение. Объяснить, почему из предыдущей леммы следует, что р (Л) = inf {]| Л ||: || • || — матричная норма}.
Интересно дать полное описание всех матриц Л, для которых Л* —>- 0 при к -*- оо. Чтобы атаковать эту проблему, осталось пополнить наш арсенал следующим результатом.
Лемма. Пусть задана матрица Л е Мп. Если существует матричная норма || • ||, для которой || Л || < 1, то Hindoo Л*=0, т. е. все элементы матрицы Ль стремятся к нулю при к->оо.
Доказательство. Если || А || < 1, то || Л* ||^|| Л ||* —> 0 при к —> оо. Это означает, что Л*—>0 по норме || • |!. Однако в силу эквивалентности всех векторных норм на пространстве Мп размерности п2 отсюда следует, что Л*—>0 по векторной норме || • ||^. □
Упражнение. Подобрать матрицу Л и две матричные нормы II ' На и II ■ Пр так, чтобы одновременно выполнялись неравенства || Л IL < 1 и IIЛ Пр > 1. Вывод?
Матрицы Л е Мп, для которых Нт Л* = 0, называют сходящимися. Они играют большую роль во многих приложениях, например, при анализе итерационных процессов. По этой причине важно найти описание сходящихся матриц.
Теорема. Пусть Л е Мп. Тогда Нт Ль = 0 в том и к-> оо
только в том случае, когда р(Л)< 1.
Доказательство. Пусть ЛА—>0. Рассмотрим собственный вектор х^О, такой, что Ax — Lx-, тогда Акх — ^х -* 0 только при
| Л | < 1. Поскольку это неравенство должно выполняться для каждого собственного значения матрицы Л, заключаем, что р(Л)< 1. В обратную сторону, если р(Л)< 1, то по лемме 5.6.10 существует некоторая матричная норма || • ||, такая, что || Л || <1. Тогда Л* —>0 при к -* оо по лемме 5.6,11. □
Упражнение. Для матрицы Л = [ q2 ^Je^ явно вычислить Л* и р (Л*) для 6 = 2,3, .... Показать, что р (Л*) = [р( Л)]*. Что происходит при к->оо с элементами матрицы Ак и величинами ||Л6||1, ЦЛА, II Лй||2?
Упражнение. Пусть Л = [_^д ^J и последовательность векторов {х<<:>} g С2 задана рекуррентным соотношением x<<:+|) = = Ах№\ к = 0, 1, .... Показать, что xw —>0 при к —> оо независимо от выбора начального приближения Д01.
Иногда требуется знать границы значений элементов матрицы Ак при /г—>-оо. Одна полезная оценка является непосредственным следствием предыдущей теоремы.
Следствие. Пусть зафиксирована матрица А е Мп и задано число е > 0. Тогда существует такая константа С — = С (Л, е), что
I(A/I^c(pM) W
для всех k=Y, 2, 3, ... и всех i, / = 1, 2, 3, ... , п.
Доказательство. Поскольку спектральный радиус матрицы А = [р (Л) + е]-1 А строго меньше единицы, она является сходящейся; таким образом Л6—>0 при к-*оо. В частности, элементы последовательности {Л*} ограничены, поэтому найдется такая конечная константа С > 0, что | (Д”)^ | ^ С для всех к = = 1, 2, 3, ... и всех i, j = 1, 2,. ... , п. Последнее неравенство эквивалентно требуемому. □
Упражнение. Пусть А — [“ „]. Вычислить Л* явно и показать, что в неравенстве из следствия 5.6.13 не всегда можно положить е = 0.
Утверждение, что геометрическая прогрессия р(Л)* при к оо в точности определяет порядки величин конкретных элементов матрицы Ак, неверно, однако аналогичное утверждение об асимптотическом поведении последовательности {||Х6||} справедливо для любой матричной нормы ||•||.
Следствие. Пусть ||-||—матричная норма на Мп. Тогда р (Л) = Jim || АкГ
для всех матриц Л е Мп..
Доказательство. Из соотношений р(Д)* = р(Д6) ^|| Д*|| вытекает неравенство р (Л) ^ || Л* ||1/ft при всех ^ = 1, 2, .... Если задано число в > О, то спектральный радиус Л = [р(Л) + в]-1 А строго меньше 1; значит, эта матрица сходящаяся. Таким образом, || Ак ||-> 0 при 6->ос и существует такой номер N = = N (в, Л), что неравенство || Ak || < 1 верно для всех степеней k^N. Это просто означает, что || Д* ||^[р(Л) + в]* для всех k^N или, эквивалентно, || Д* ||1/ft ^ р (Д) + в Для всех k^N. Поскольку величина в>0 произвольна, вспоминая неравенство р(Л) ^|| Л*||1/й, приходим к заключению, что предел Нт ||Л*||1/А
А -> ОО существует и равен р(Д). □
Вопросы сходимости последовательностей или рядов матриц можно изучать при помощи векторных норм по аналогии со случаем последовательностей или рядов векторов.
Упражнение. Пусть {ДА} с Мп — заданная последовательность матриц. Показать, что ряд X Ак сходится к некоторой к-0
матрице в пространстве Мп, если найдется такая векторная норма ||'|| на Мп, что числовой ряд £||ДА|| сходится (док-0
статочно предположить, что частичные суммы этого последнего ряда ограничены в совокупности). Указание. Установить, что частичные суммы матричного ряда образуют последовательность Коши.■
Один частный случай для матриц, который не имеет аналогов в теории векторных рядов, — это случай степенных матричных рядов. Однако, привлекая кольцевое свойство матричных норм, легко дать простое достаточное условие сходимости таких матричных рядов.
Теорема. Степенной ряд ^акА\ где АаМ„, схо* ■ fe-o
дится, если существует такая матричная норма || • || на Мп, что числовой ряд £ | щ. 11| Д ||* сходится или хотя бы его частичные к-0
суммы образуют ограниченную последовательность. .
Упражнение. Доказать теорему 5.6.15.
Упражнение. Показать на примере, что ряд ^ акАк может 6=0
сходиться, в то время как ряд У | ак ||| ЛИ* расходится. В теории числовых рядов в такой ситуации говорят об условной сходимости (когда сходящийся ряд не является абсолютно сходящимся).
Упражнение. Пусть функция /(г) определена степенным рядом / (г) = У, akzk с радиусом сходимости /? > О, и пусть к='3
|| • ||—матричная норма на Мп. Показать, что матричная функция / (А) = У, акАк корректно определена для всех матриц АеМ„, таких, что ||Л||<Д. В болез общей формулировке показать, что функция /(Л) корректно определена для всех матриц АеМп, таких, что р(Л)<Д.
Упражнение, Если матрица А диагонализуема иЛ = 5 'ЛЗ, то иногда полагают HA) = S-XHA3S, где f (Л) = diag (f(лО, НМ, ••• , НМ). Показать, что это определение функции / (Л) согласуется с определением на основе степенных рядов из предыдущего упражнения, если матрица А диагонализуема. Является ли одно из этих двух определений более общим по сравнению с другим?
Упражнение. Показать, что матричная экспонента, задаваемая степенным рядом
еА = У 4г Л\6=0
корректно определена для каждой матрицы А е Мп.
Упражнение. Как можно было бы определить функцию соз(Л)? Для каких матриц А это возможно?
Следствие. Матрица АеМп обратима, если существует такая матричная норма || • ||, что ||/ — Л||< 1. При этом условии
А-1 =Х(/~ А)\
6=0
Доказательство. Если ||/— Л||< I, то ряд
X (/ - Af
сходится к некоторой матрице С, поскольку радиус сходимости числового ряда ^г^равен 1. Учитывая соотношение
Л'N
А X U-А)к = [/-(/-Л)] ^ U - A y1 == i - U - А Г'1I
при N—><x>, выводим, что С = А~\ □
Упражнение. Показать, что предыдущий результат эквивалентен следующему утверждению. Если ||-||—матричная норма и если ||.4||< 1, то матрица / — А обратима и
U - -4Г‘ = £ А\
Упражнение. Пусть IML—матричная норма на Мп. Предположим, что заданная матрица A е Мп имеет «приближенно обратную» матрицу ВеМ„ с тем свойством, что ||ВД— /||< 1. Показать, что обе матрицы Л и 5 обратимы.
Упражнение. Пусть матричная норма || • || обладает свойством ||Z|| = 1 (которое обязательно бы имело место в случае операторной нормы). Для матрицы А е М„, такой, что ||Л||< 1, доказать справедливость неравенств
1 + М||(/ ~ Л) II" 1 -||Л|| 1
Указание. Чтобы получить оценку сверху, использовать нера
венство || (/ — Л)-11|^ X II Л Н*. Для вывода оценки снизу прив- 6=0
лечь неравенство типа ||5-,|1^ 1/11^11 и неравенство треугольника.
Упражнение. Для произвольной матричной нормы || • || имеет место лишь неравенство ||/||^ 1. Показать в этом случае, что
II/II ||,, _l|Z|| — (||/|| — 1) ||Л||
Ц/il + Mll1-ЦЛ11
всякий раз, когда ||Д||< 1.
Упражнение. Пусть А, В^Мп, матрица А обратима и матрица А А* В вырожденна. Показать, что справедливо неравен-
ство ||S|| ^ 1/ЦЛ-Ч1 с любой матричной нормой ||-||. Таким образом, имеется естественный предел возможности хорошей аппроксимации невырожденной матрицы вырожденной матрицей. Указание. Использовать соотношение А + В = А (I + Д-’В). В случае ||Л~1В||-< 1 матрица / + Д-1В была бы обратимой, следовательно, верно противоположное неравенство ||Л-1В||Дэ 1.
Основываясь на предыдущем следствии, нетрудно предложить одни полезный и просто проверяемый критерий обратимости матрицы. ■
Следствие. Пусть А = [ощ] е Мп, и предположим, что выполнены условия
1«н1> Е IL <=1, 2, . .. , п
Тогда матрица А обратима.
Доказательство. По условию все элементы а» на главной диагонали ненулевые. Если положить D = diag(an, «лД, то диагональная матрица D будет- обратимой и матрица £Н,4 на главной диагонали будет иметь только единицы. Тогда у матрицы В = \Ьч\ = I— ЕНА на главной диагонали стоят только нули и Ьц =—ац/ап прн /^ /. Рассмотрим норму НВ]^ этой матрицы. Из условия на элементы матрицы А вытекает, что IIВ||со < 1; следовательно, матрица / — В = D-1A обратима в силу следствия 5.6.16. Поэтому и матрица А обратима. □
Матрица, удовлетворяющая условию из следствия 5.6.17, называется матрицей со строгим диагональным преобладанием. Приведенное достаточное условие обратимости известно как теорема Левн — Деспланка и может быть несколько усовершенствовано (см. § 6.1, 6.2, 6.4).
Теперь рассмотрим более детально подчиненные матричные нормы нз определения 5.6.1. Это одни из самых известных классов матричных норм с важным свойством минимальности. Чтобы установить, что данная матрица А является сходящейся, часто используется критерий ||Д||< 1, в котором естественно отдать предпочтение таким матричным нормам, которые равномерно принимают как можно меньшие значения. Как мы убедимся, каждая подчиненная матричная норма обладает этим желательным свойством, н это свойство характеризует весь класс подчиненных матричных норм.
Любые две нормы на конечномерном пространстве эквивалентны, следовательно, для каждых двух матричных норм |Ы1а и II'Ир существует наименьшая конечная положительная кон-
станта См(а, Р), такая, что неравенство ||Д||а ^ См(а, р) ЦЛЦр справедливо для всех матриц АеМп. Эту константу можно определить равенством
г г ах
См(а- р) = тах —ту-.
Если аир поменять ролями, то получим аналогичное определение наименьшей конечной положительной константы См(Р, а), такой, что неравенство ||Д|| р ^ См (Р, «) ||Д ||а имеет место для всех матриц ЛеЯ» Связь между этими константами См(а, Р) и См(Р,а), вообще говоря, неочевидна. Однако, рассматривая таблицу задачи 23 в конце настоящего параграфа, можно убедиться, что ее верхний левый угол, отвечающий всевозможным парам из трех матричных норм Ц-Ц], II'Нг, II •!!«>, симметричен, т. е. См(«, Р)= См(р, а) для каждой пары указанных норм. Все эти три матричные нормы являются подчиненными, и такая симметрия оказывается свойством всех подчиненных норм.
Теорема. Пусть |Ы1а и 1Ы1р— 5se заданные векторные нормы на пространстве Сп. Эти же обозначения сохраним для соответствующих подчиненных матричных норм на Мп, т. е.
IM^IIaМХНЙ
|| Л ||а = шах у ■,[| Л ||р = max-л—.
х^О IIх На1 х^О
Определим константы
Ra» = тах-т-т-,R„a = max—л—.(5.6.19)
p x^O IIх Up p x^J IIх Ha
Тогда
тах1^ = ЯарЯра.(5.6.20)
л^о MHp 1 p
В частности, MilaMHp D D
Доказательство. Пусть A e Mn и x е С". Предположим, что x=#0 и Ax=/=0. Тогда имеем
IMxlla Mxlla ||Дх||р Ikllp^n Mx UpIIх Ila ~ Mxllp IIх lipIIхlip
Это неравенство верно и при Ах = 0. Таким образом,
Мх11аМх11й
И А [[а = max |1х||а < V?ap max ^^ R^a = ЯарЯра IIА Ц&.
Следовательно,
МПа
.W<VP«(5.6.22)
для всех ненулевых матриц А е Мп.
Каждый из двух максимумов в соотношениях (5.6.19) достигается на некотором ненулевом векторе, т. е. найдутся такие векторы у, zgC, что || у ||2 = || z ||2 = 1, || у ||а = /?кр || у ||р, || 2 ||р = = ^ра11211а- В силу следствия 5.5.15 существует вектор z0 е С", такой, что
| z*x | <||х||₽ для всех хеС";
z*z = i|z||p.
Введем в рассмотрение матрицу A0 = yz*0. Используя свойство (Ь), получаем
II Л0г ||а|| Уг0г L _ 11 U Па | 2ог | _ И У На И г Ир .
Цг||а ~ ||г||а—||г||а||г||а’
поэтому имеем оценку снизу
„ . „ . IIУ Ila IIZ lip п п „
■'П^оПа^ ||г На —Ra^Ryi IIУ Пр-
С другой стороны, можно использовать свойство (а), чтобы получить, что
II Лах Пр II yzg.tr ||@ _ II у Пр I ZgX III у Ир и X Пр
IIMp ~ IMp ’ llxllp1И|р
Таким образом, приходим к оценке сверху
МоПр <11//Пр.
Учитывая обе полученные оценки, получаем неравенство iMolla ^ ^ap-^pa IIУ Прп п
iiTiTp
которое показывает, что в соотношении (5.6.22) возможно равенство. Тем самым утверждение (5.6.20) доказано. Второе утверждение теоремы (5.6.21) вытекает из первого, поскольку аир входят в правую часть равенства (5.6.20) симметрично. □
Могут ли две различные векторные нормы на Сп индуцировать одинаковые матричные нормы на Мп? Согласно приведенному ниже следствию, это может произойти в том и только в том случае, когда одна из этих векторных норм получена из другой умножением на некоторый скаляр..
Следствие. Пусть ||-||а “ II'Ир— векторные нормы на Сл. Для соответствующих подчиненных матричных норм на Mn сохраним те же обозначения. Тогда равенство ЦЛ||а = ||Л||р для всех матриц A g Мп имеет место в том и только в том случае, когда имеется положительная константа с, связывающая кормы векторов равенством ||х||а = с||х||р для всех векторов хеСл.
Доказательство. Заметим, что
пIIHIp Г . ||^На у1 Г ||х||а1
к», = тгх-—п— = 1mm-—п—mdXni—= n—•
^х#=0 И-*• На Lx#=0 11А'11р J L хЕО ||х|1р J Ro^
Таким образом,Таким образом,/?ар/?ра ^ 1/?ар/?ра ^ 1(5.6.24)(5.6.24)
Таким образом,
Таким образом,
/?ар/?ра ^ 1
/?ар/?ра ^ 1
(5.6.24)
(5.6.24)
когдакогдаminхе иminхе иII х Ид 1И|рII х Ид 1И|р= max хЕО= max хЕОЭто неравенство обращается в равенство тогда и только тогда,
когда
когда
min
хе и
min
хе и
II х Ид 1И|р
II х Ид 1И|р
= max хЕО
= max хЕО
Последнее имеет место в том и только в том случае, когда функция ||х||а/||х||р принимает постоянное значение для всех векторов х=Л=0. Следовательно, при ||х||а = с||х|| р, несомненно, выполнено равенство /?ар/?ра = 1, и тогда из (5.6.21) заключаем, что ll^lla ^||Л||р и ЦЛЦр^ЦЛ На для всех АеМ„, т. е. ||Л||а = = ||Л ||р для всех матриц Л еМ„. В обратную сторону, если две подчиненные матричные нормы совпадают, то Лар =/?ра = 1 в силу (5.6.20). Значит, в соотношении (5.6.24) имеет место равенство. В этом случае отношение ||х||а/||х||р постоянно, как уже отмечалось ранее.
Следствие. Пусть || ■ |1а и II'Ир — векторные нормы на Сп. Эти же обозначения сохраним для соответствующих подчиненных матричных норм на Мп. Тогда ||Л ||а ^ ||Л ||р для всех АеМ„ в том и только в том случае, когда ||Л||а =||Л||р для всех матриц Л е /4„.
Доказательство. Если || Л ||а ^ || Л ||@ для всех матриц Л е Мп, то R^R^, ^ 1. Вследствие (5.6.24) это влечет за собой равенство Ra?R£a— 1. Следовательно, в силу (5.6.21) для всех матриц Л е Мп справедливы неравенства IIЛ ||а ^|| Л ||р и |1Л||р^ <11М- □ ‘
Последнее следствие показывает, что ни одна подчиненная матричная норма не может равномерно превосходить другую. Что произойдет, если допустить сравнение с не обязательно подчиненными матричными нормами?
Теорема. Пусть на Мп заданы матричная норма || • || и подчиненная матричная норма |Ы1а- Тогда■
существует подчиненная матричная норма N(•) на Мп, такая, что У(Л)^||Л|| для каждой матрицы А е М„;
неравенство М||^||Л||а верно для любой матрицы АеМ„ тогда и только тогда, когда ||Л||=||Л||а для любой матрицы А е Мп.
Доказательство. Определим векторную норму || • || на С" равенством
|Щ = Ш1, Х = \хх ... х]еМ„ (5.6.27)
и рассмотрим матричную норму )V(-) на МП, которая подчинена норме ||-1|. Для любой матрицы А еМ„
iv \т11 111 а л .. и шалг11—
11*11!! И • • • И!!
= maxmax = А ||(5.6.28)
(где неравенство справедливо потому, что || • ||—матричная норма), что приводит к утверждению (а). Чтобы доказать (Ь), предположим, что ||Л||^||Л||а для всех А е Мп. Тогда из (а) вытекают неравенства
^(Д)<||Л|1<||Л||а
для всех А еМЛ. Однако обе нормы Af(-) и ||-||а являются подчиненными, поэтому из следствия 5.6.25 заключаем, что N (Л) ^ = ||Л||а. Таким образом, ||Л|| = ||Л||а для всех матриц АеМп. □
Предыдущий результат побуждает ввести следующее определение.
Определение. Матричную норму || • || на Мп называют минимальной матричной нормой, если единственная матричная норма N (•) на Мп, удовлетворяющая неравенству М(Л)^||Л|| для всех матриц А е Мп,— это данная норма, т. е. М(-)=||-||.
Утверждение (Ь) теоремы 5.6.26 гласит, что каждая подчиненная норма на Мп минимальна. Из утверждения (а) непосредственно вытекает, что каждая минимальная норма является подчиненной. Таким образом, если хотят использовать матричную норму, которая не может быть улучшена (в смысле равномерного уменьшения значений на всех матрицах), то берут подчиненную норму, и любая норма с этим свойством оптимальности должна быть подчиненной нормой.
Векторная норма (5.6.27) представляет собой лишь одну из целого семейства векторных норм, которые можно построить,
исходя из заданной матричной нормы. Пусть заданы матричная норма ||-|| на Мп и ненулевой вектор у е Сп. Положим
(|х||у=||ху*||, уеС", у^О.(5.6.30)
Тогда функция || • Цу является векторной нормой на С'! и обладает следующим свойством:
II Ах ||у = || А (ху^ || <|| А ЦП ху* || = || А ЦП х ||у
для всех матриц A е Мп. Если выбрать у = [ 11 ... 1 ]г, то формула (5.6.30) переходит в (5.6.27). Обозначим через ^^(•) матричную норму на Мп, подчиненную норме || • ||у; тогда из последнего неравенства следует, что
||Ar|L . Million,,
Ny (Л) » max ^ max = А ||, ЛеМ„. (5.6.31)
Это утверждение, очевидно, обобщает утверждение (а) теоремы (5.6.26).
Если данная матричная норма || • || минимальна, то (5.6.31) влечет за собой равенство ||Л|| = ^(Л) для всех матриц Аемч. Поскольку вектор у, используемый в этих рассуждениях, может быть произвольным ненулевым вектором, то должны выполняться равенства Nu (•) =|| • ||= Мг( •) для всех ненулевых векторов у, z г Сп.
Теорема. Пусть || • ||—матричная норма на Мп, и пусть Nti^-^ — подчиненная матричная норма, определяемая соотношениями (5.6.31) и (5.6.30). Следующие условия эквивалентны;
|| • || — подчиненная матричная норма1,
и • || — минимальная матричная норма1,
II • || = Ng (•) для всех ненулевых векторов игС.
Доказательство. Утверждение, что (а) влечет за собой (Ь), просто совпадает с частью (Ь) теоремы 5.6.26. Как уже было отмечено, если норма || • || минимальна, то || • ||= Ny (•); поэтому из (Ь) следует (с). В предположении (с) норма || • || будет подчиненной, потому что норма NH(-') является подчиненной по определению. □
Из этих утверждений можно почерпнуть нечто большее. В самом деле, если NM (•) =|| • || для всех ненулевых у G Сп, то равенство ПДД= Пг(Д верно для всех ненулевых у, z е СА. Но в следствии 5.6.23 утверждается, что векторная норма, которой подчинена заданная матричная норма, является единственной с точностью до скалярного множителя; следовательно, имеет место равенство || • Цу = cyz\\ • ||z с некоторой положительной константой cVi,
Упражнение. Пусть матричная норма || • || на Мп подчинена векторной норме || • || на С". Показать справедливость равенств II ух* || = || у || || z |р, II • IL = II • IIII z |р, cyz = ||z/||D/||z|p для всех векторов у, zeC". Векторная норма || • |р является двойственной к векторной норме || • || в смысле определения 5.4.12.
Теорема. Пусть на Мп задана матричная норма ||-||, и пусть векторная норма П-Пу на С" определена формулой (5.6.30). Тогда следующие два утверждения эквивалентны: '
для каждой пары ненулевых векторов у, zeC’1 существует такая положительная константа cMZ, что
IIх Пу — cUz IIх Иг для всех векторов х е С'г;
,.,II *11 II *Z* IIIIZ II-.
равенство |||| = -—уру— верно для всех векторов х,
у, ze С" при z =# 0.
В случае подчиненной матричной нормы || • || равенство (Ь) выполнено, и векторные нормы, построенные в соответствии с (5.6.30), обладают свойством (а).
Доказательство. Если предположить, что (а) выполнено, то II XX* || || zy* || = II X ||г II Z ||у = (l/CyZ) II X ПуСуг || Z Ц, = M*llyl|z|lz==ll^*||||zz*||.
В обратную сторону, в предположении (Ь) утверждение (а) имеет место с константой суг = || zy* |[/|| zz* ||. При Ny (•) = !! • II мы уже обосновали (а) (следовательно, и (Ь) также должно выполняться). По теореме 5.6.-32 так будет в случае, когда ||-||—• подчиненная матричная норма. □
Упражнение. Любая матричная норма, отличающаяся от подчиненной матричной нормы лишь постоянным положительным множителем, удовлетворяет (Ь) из теоремы 5.6.33. Показать, что каждая из матричных норм || • ||; и || • ||£ удовлетворяет этому условию, хотя ни одна из них не входит в указанный класс матричных норм.
В теореме 5.6.2 для подчиненной матричной нормы ||•|| доказана справедливость равенства ||/||=1. К сожалению, наличие этого равенства для некоторой матричной нормы еще не означает, что это подчиненная матричная норма. Легко видеть, что функция
MII = max{|[M, IMHJ(5.6.34)
определяет матричную норму на Мп, для которой выполнено равенство ||/|]=1. Но поскольку ||Д|11^||Л]| для всех А е Мп
и неравенство || А ||, < || А || при Л —[[°] строгое, норма || ■ || не является минимальной и, следовательно, не может быть подчиненной матричной нормой.
Упражнение. Проверить, что (5.6.34) определяет матричную норму. В более общей формулировке, показать, что для заданных матричных норм || • Цд,|| • ||(/с, на формула
|| Л ||= max {|| Л ||(1), ... , || Л Ik,}
определяет матричную норму на /И„.
Подчиненные нормы являются минимальными среди всех матричных норм. Рассмотрим важный класс унитарно инвариантных матричных норм, т. е. матричных норм || • ||, удовлетворяющих равенству ||Л || = || UA V'|| для всех матриц А е Мп и всех унитарных матриц U, V е NVn. В этом классе оказывается только одна минимальная матричная норма — спектральная норма.
Следствие. Если || • ||— унитарно инвариантная матричная норма, то для всех А е Мп справедливо неравенство 1|Л||2 ^||Л||. Спектральная норма ||--||2 является единственной подчиненной унитарно инвариантной матричной нормой на Мп.
Доказательство. Пусть задана унитарно инвариантная матричная норма ||-||. Из части (а) теоремы 5.6.26 известно, что N(Л) ^||А|| для всех матриц А е Мп, где матричная норма А7(Л) подчинена векторной норме || • ||, определенной формулой (5.6.27). В случае произвольной унитарной матрицы U е Мп имеем равенства ||t/x|| = ||t/X|| = ||X|| = ||x||; следовательно, векторная норма ||-|| оказывается унитарно инвариантной. Если задан ненулевой вектор хе Сл, то существует унитарная матрица U, для которой Ux = ||x||26i. Таким образом, ||х|| = || ||x||2t/*eil| = =||х||2|Щ*е1||=||х||2||б1|| для всех векторов хеЕ. Это означает, что векторная норма || • || отличается от евклидовой нормы лишь скалярным множителем. Тогда следствие (5.6.23) показывает, что норма А^-) (матричная норма, подчиненная норме ||-||) совпадает со спектральной нормой ||-||2 (матричной нормой, подчиненной норме ||'||2). Итак, || • ||2 = А(Л) ^||Л || для всех матриц АеМп. Если норма || • || предполагается подчиненной, то она будет минимальной, и тогда ||Л||2=||Л|| для всех матриц Л е Мп. □
Если ||'||—матричная норма на М„, то функция П - II*, определенная формулой
IIА ||* = || А* II,
также является матричной нормой на М„. Прямые вычисления показывают, что
п а п;.. = о л* ц,г=и а цр и а и; = и л * nZi=и л nZi
для всех матриц АеМп. Однако не каждая матричная норма обладает подобным свойством, например || А ||* = || А Ц^ ^ || А ||г Матричную норму, такую, что II • II* = || • II, называют самосопряженной. Евклидова матричная норма и матричная /j-норма самосопряженные. В силу равенств
|| Л* |Q = р(ЛЛ*) = р(Л*Л) = || Л Щ
спектральная норма также будет самосопряженной. На самом деле все унитарно инвариантные нормы на Мп оказываются самосопряженными (см. § 7.4, задача 2).
Выясняется, что спектральная норма — единственная самосопряженная норма среди подчиненных матричных норм.
Теорема. Пусть на Мп задана матричная нормой || -1|. Тогда
норма ||-||* является подчиненной тогда и только тогда, когда [| • ||—подчиненная норма;
если матричная норма || • || подчинена векторной норме 11'11, то норма ||'||* подчинена двойственной норме 11-11°.
спектральная норма ||'[|2 является единственной матричной нормой на Мп, одновременно подчиненной и самосопряженной.
Доказательство. Если для некоторой матричной нормы M(') справедливо неравенство N ^ ^||Л||* = ||Л*|| для всех матриц ЛеМ„, то N(Л) * = N(А*') ^||Л|| для всех А ее Мп. В случае минимальной матричной нормы || • || имеем равенство N (_•)* = =11 • II и, следовательно, М(•) =11 • II*. Поэтому матричная норма II-II* будет также минимальной. Утверждение (а) следует из теоремы 5.6.32.
Теперь предположим, что матричная норма ||-|| подчинена векторной норме ||'||. Используя теорему двойственности 5.5.14, приходим к соотношениям
II Л ||* —1| А* [| = max|| А*х || = шах (-Ц А*х |p)D 11*11=1ii*ll=i
= max max | (Л*х)* 2 | = max maxIxMzI 11*11=1 ||гр=1||гвд-1 11*11 = 1
= max || Az |р, llz^-l
показывающим, что матричная норма || • ||* Подчинена векторной норме || • |р.
Для доказательства последнего утверждения отметим следующее обстоятельство. Если матричная норма || • || подчинена векторной норме || -1| и имеет место равенство II • ||=|| • II*, то норма ||'|| также подчинена векторной норме ]] -11°, как установлено в (Ь). Однако в следствии 5.6.23 утверждается, что векторная норма, которой подчинена заданная матричная норма, определяется единственным образом с точностью до положительного постоянного множителя. Следовательно, существует некоторое число О О, при котором II • II° = с|| • ||. Тогда по теореме 5.4.16 обязательно выполнено равенство II • II = II • H^Vc • Поскольку данная векторная норма пропорциональна евклидовой норме, соответствующие им подчиненные матричные нормы совпадают, т. е. ||-||=||'||2. □
Упражнение. Показать, что норма II -||* будет матричной, когда ||-||—матричная норма.
Упражнение. Показать на примере, что самосопряженная матричная норма не обязана быть унитарно инвариантной.
Из векторных норм наиболее широко применяются абсолютные и монотонные векторные нормы, определенные в § 5.5. Имеется простая и полезная характеризация матричных норм, подчиненных монотонным векторным нормам.
Теорема. Пусть || • ||—векторная норма на Сп, которой подчинена матричная норма || • || на Л1„. Следующие условия эквивалентны;
|| • || — абсолютная норма, т. е. || | х 11| = || х || для всех векторов хе Сп;
норма || -|| монотонна, т. е. ||х||^||у|| для всех |х|^|у|;
для любой матрицы Z) = diag(d[, d2, ... , dJ e Л4„ справедливо равенство
||О||= max | dt |.
s^i <fl
Доказательство. Эквивалентность (а) и (b) составляет содержание теоремы 5.5.10. Пусть норма ||-|| монотонна. Положим
d = max | di |, d = | dk |.
1 < i ^ n
Тогда |£)x|^|dx| и, следовательно, || £)x||^d|| x||, где равенство достигается при х = ек. Таким образом,
JJOJJ = max^ = d,■
т. е. условие (Ь) влечет за собой (с).
Теперь предположим выполненным (с). Пусть заданы векторы х, уеСп, удовлетворяющие неравенству |х|^|у . Существуют такие комплексные числа dk, что \xk\ = dfeyk, d*|^l, k= 1, ..., п. Таким образом, полагая D = diag(di, ..., dn^, приходим к соотношениям £)у=|х| и ||£)||^1. Поскольку
111x111 = 11 Pi/IKIIPHUIKII//II, норма || • || должна быть монотонной. □
Задачи
Привести пример обобщенной матричной нормы, для которой ||/||< 1.
Матрицу Д, совпадающую со своим квадратом Д2=Д, называют идемпотентной. Привести пример идемпотентной 2 X 2-матрицы, отличной от / и 0. Показать, что только числа 0 и 1 могут выступать в качестве собственных значений идемпотентной матрицы. Показать, что идемпотентную матрицу Д всегда можно привести к диагональному виду и что для нее справедливо неравенство ||Д||^1 для любой матричной нормы II • ||, если только Д =/= 0.
Пусть ||-||—матричная норма на Мп. Показать, что функция с||-|| является матричной нормой для всех значений с^ 1, однако функции с||-|| или с|| • ||Zi не будут матричными нормами, каково бы ни было значение с < 1.
В определении 5.6.1 одна и та же векторная норма играет две разные роли. Можно дать более общее определение нормы II • На, р, а именно
II Д Па. в = maX IMx|L»xlla=1
где ||-||a и ||-||р — две (возможно различные) векторные нормы. Будет ли такая функция || • ||а, р матричной нормой? Какими интересными свойствами может обладать эта функция? Заметим, что это понятие нормы ||-||а, р может быть применено в случае m X п-матриц, поскольку норму || • ||а можно выбрать как векторную норму на Ст и норму ||-||р можно выбрать как векторную норму на С\ Какие свойства в этой ситуации имеет функция Ц-lla, р, рассматриваемая как аналог подчиненной матричной нормы?
Показать, что евклидова норма ||-||е и спектральная норма ||-Цг — унитарно инвариантные нормы на Мп, т. е. нормы матриц Д и UAV совпадают, каковы бы ни были унитарные матрицы U и V. Сравнить матричные нормы ||-||Е и || • Иг по всем возможным признакам. Проверить равенство ||Д||е = — [tr ДМ]1/2.
Убедиться, что наличие аксиом (1) — (3) для нормы || • || наследуется функцией [[-Us из теоремы 5.6.7. Таким образом, в условиях и заключении теоремы 5.6.7 можно заменить термин «матричная норма» на «обобщенная матричная норма».
Если ||-||—подчиненная матричная норма на Мп и матрица 5 G Мп невырожденна, показать, что матричная норма II "Ils (определенная в теореме 5.6.7) будет также подчиненной матричной нормой. Если матричная норма || • || подчинена векторной норме ||'||, показать, что матричная норма IHls будет подчинена векторной норме ||'||s (определенной в теореме 5.3.2).
Доказать, что множество невырожденных матриц из Мп плотно в Мп, т. е. что каждая матрица в ЛД является пределом некоторой последовательности невырожденных матриц. Будет ли также плотным в АД множество вырожденных матриц?
Убедиться, что множество векторных норм на Ст выпукло для всех m ^ 1, но множество матричных норм на М„ не выпукло ни для какого и ^ 2. Показать, что матричные нормы УД-) и ЛД-) на Мп определяют при помощи формулы Nt,-)^ = [У] (■) + У2( ■)]/2 матричную норму в том и только в том случае, когда
[У 1 (Л) - У2 (Л)] [У, (В) - У2 (В)] < 2 [У, (Л) У, (В) — У, (ЛВ)] +
+ 2[У2(Л)У2(В)-У2(ЛВ)1
для всех матриц А, В е Мп. Указание. Рассмотреть нормы А\(-)= 1|- llZ1, У2(-) = 11 • 11в и матрицы Л = [“ }], В — Ат. В примере 7.4.54 указывается важное подмножество матричных норм, которое является выпуклым.
Проверить, что на пространстве Мп векторная /[-норма
|| Л ||, = X I Чц | оказывается матричной нормой, но не подчи-
I, /=1
пена никакой норме на С".
Показать пригодность всех последующих выражений для вычисления спектральной нормы 5.6.6:
||Л||2= max || Лх||2= max || Лх||2 =
1|х||, = 1||х||г<1
= max лт-д,'2 ■ = max \у*Ах\ =х=^0llxlb-llyfc-l
'= max \,у*Ах\.
II х ||2<1
U у Ih <1
Используя эти соотношения, убедиться в справедливости равенства || А ||2 = || А* ||2 для всех матриц АеМп. Затем доказать равенства || АА* ||2 = || А* А ||2 = || А ||2, основываясь на том, что II • 1,2 — матричная норма и матрица А*А эрмитова.
Установить в случае р(Л)< 1, АеМп сходимость ряда I + А + А2 + ... к матрице (/ — Л)-1.
Доказать справедливость неравенства Ц/— Л||^1 для любой матричной нормы П • Ц в предположении, что матрица A g М„ вырожденна.
Пусть на Мп заданы матричные нормы Ц-lla и 11 *11(3. Показать, что формула ЦЛ||= шах{ЦЛ||а, ЦЛЦр} определяет матричную норму на Мп. Когда эта норма будет подчиненной?
Привести пример матрицы А, удовлетворяющей строгому неравенству р(Л)<||Л|| для' каждой матричной нормы ||-Ц.
Пусть А = [ц/;] е М^. Проверить, что функция || • Ц, определенная на М„ формулой ||Л|| = п max |az/l, является мат-
1 < i, j ^п
ричной нормой, но не подчинена при ц^2 никакой векторной норме.
Применить результат задачи 12 к вычислению обратной для матрицы
'Г 1 -2 1 "
О 13.
-00 1-
Указание. Только три первых члена соответствующего ряда ненулевые.
Обобщить методику, примененную в задаче 17, на случай вычисления обратной к произвольной невырожденной верхней треугольной матрице A е Мп. Указание. Выбрать диагональную матрицу D так, чтобы матрица DA на главной диагонали имела только единицы.
Показать, что спектральный радиус является непрерывной и абсолютно однородной функцией на Мп, но не будет1) пи матричной, ни обобщенной матричной нормой на Мп, поскольку
для некоторых матриц А ^ 0 имеет место равенство рИ) = о,
может выполняться неравенство р (А + В) > р (Л) + р (5),
неравенство р (Л5) > р (Л) р (5) может быть справедливо даже при ненулевых значениях р(Л) и р (5).
Указание. Рассмотреть матрицы [„ q], [“ °], [” *], [„ *].
Показать, что Ц АВ Ц£ <|| А Ц2Ц В Ц£, || ЛВ||в<|| А ||£ ||В|Ь для всех матриц А, В е Мп.
Доказать неравенство || А ||] ^Ц А ||] М Ц^ для всех А е Мп. Как этот результат согласуется с оценкой, которую можно получить непосредственно из таблицы в задаче 23? Почему имеется различие? Указание. р(Л*Л) ^|| А* А ||,, || А* ||, = || А Ц».
_’) При л ^ 2, — Прим. Перее.
Пусть на Сл задана векторная норма || ■ Ца и определена двойственная к ней норма II • ||р = (II • ||«) °. Эти же обозначения сохраним для соответствующих подчиненных матричных норм на Мп. При помощи теоремы 5.6.36 установить равенства ||Л*||р=: =М11а Для всех А еМ„. Вывести заключение о справедливости неравенства ||Л||| ^||Л||а||Л||р для всех А е Мп. Объяснить, почему этот результат обобщает соответствующий результат задачи 21. Как данное неравенство соотносится с утверждением леммы 5.4.13 при х = у?
Проверить, что элементы следующей таблицы представляют собой наилучшие значения констант См, удовлетворяющих неравенству ||Л||а ^ СмНЛЦр для всех матриц А е Мп. Все указанные в таблице нормы являются матричными. Каждое указание, приведенное вслед за таблицей, пронумеровано индексами (/,/) и отвечает соответствующему неравенству с константой, расположенной в /-й строке и /-м столбце таблицы. Указание завершается ссылкой на одну из тех матриц, для которых неравенство 1И||а С.м|И||р обращается в равенство при данном значении константы См.
Н • Иа \ II -11@
II -II,
II • II,
и • L
II • II/,
1МЕ
Я II • llZoo
11-1^
1
Vп
/г
1
V п
1
II • ||2
а) п
1
а] п.
1
1
1
n-L
п
Vп
1
1
а] п
1
Ь L
п
пж
п
1
п
п
II • Ид
а] п
а/ п
а] п
1
1
’ 1
"И-П/^
п
п
п
п
п
1
Используются следующие обозначения для матриц из множества Мп:
I— единичная матрица,
J— матрица, составленная только из единиц,
Av ■— матрица, у которой первый столбец образован только из единиц, а все остальные элементы нулевые,
А2—матрица, единственный ненулевой элемент которой расположен в верхнем левом углу и равен единице.
Указания
вытекает из (2,1) в силу соотношений (5.6.21).
MII^Mll^rtMHj Аг'
Д.
(1,5)(1,5)[пз 2П Г ПX |а,/1 < X X I “и I1 = 1J/=1 L/=i[пз 2П Г ПX |а,/1 < X X I “и I1 = 1J/=1 L/=i12 г п л г плiс Is1 ][/.?=? а"р]12 г п л г плiс Is1 ][/.?=? а"р](неравенство Коши — Шварца); Лр(неравенство Коши — Шварца); Лр
(1,5)
(1,5)
[пз 2П Г П
X |а,/1 < X X I “и I
1 = 1J/=1 L/=i
[пз 2П Г П
X |а,/1 < X X I “и I
1 = 1J/=1 L/=i
12 г п л г пл
iс Is1 ][/.?=? а"р]
12 г п л г пл
iс Is1 ][/.?=? а"р]
(неравенство Коши — Шварца); Лр
(неравенство Коши — Шварца); Лр
(1,6) max XlQz/l^^ max I an 11 I* i</ <« /-ii < t /<«
(2,1) следуетиз(2,5)и(5,1); Лр
следуетиз(2,5)и(5,3); Лр
следуетиз(2,5)и(5,4); Л2.
|| Л|^ = р(Л*Л)^Х\(Я*Л) = 1гЛ*Л = ||Л||^; Лг
следуетиз(2,5)и(5,6); I.
следуетиз(1,3)всилу (5.6.21);Л*.
следуетиз(2,3)всилу (5.6.21);Л*.
л;..
аналогично (1,5); Л*.
аналогично (1,6); I.
X Xlaz/K« max X I az/1; I.
/=1 t = 11 ^ j < п i= 1
вытекает из неравенств, соответствующих константам с индексами (4,5) и (5,2); каждое из этих двух неравенств обращается в равенство при следующем выборе матрицы: положим
п— 1
а = е2л//п и заметим, что (а)* = а_* и что сумма У, ак!
4=0
равна нулю при j N= 0 и равна п при / = 0; тогда в качестве (й, /)-элемента матрицы Л выступает число ак‘ и справедливы равенства А*А = п1, || А ||2 = -х] п, ||Л||л = п2, ||Л||£ — п.
аналогично (4,1); /.
+ |аРФ|2] (неравенство между арифметическим и геометрическим средними); J.
У, |a17Kn2 max |az/|; J. i, i=i!</,/<«
п пп г п~|2 гп -12
У £|az/l2<X X |az/l <n max Х|п;/| ;Д
/ = 1 i = l/=1L/-1 JLK/<ni = lJ
£ |а</р = 1гЛМ = ХМ^М)</гХтах(Л*Л); /.
/-1'i-i.
(5,3) аналогично (5,1); /.(5,3) аналогично (5,1); /.(5,4)(5,4)Л2.Л2.
(5,3) аналогично (5,1); /.
(5,3) аналогично (5,1); /.
(5,4)
(5,4)
Л2.
Л2.
(5,6) У, |at7|2^«2 max \аи^; J.
/=1Ко 1 <п
max |а;, |^ max У | аи |; /, К Л К ЛК К" 1-1
max |ао-|2< max У J atj J2 = max (Л*Д),, ^ р(Л*Л);7.
аналогично (6,1); /,
max |а;/|^ У l^v к А2.
1 < Д Кл I, /—1
max |аг/|2< У | аИ |2; Л2.
К «. К»Л
Показать, что оценку (5,2) в задаче 23 можно заменить на лучшую || Л Ils ^ [rank Л]|/2|| Л ||2. Указание. Величина rank Л равна числу ненулевых собственных значений матрицы Л*Л.
Пусть задана матрица А е Л1«. Как гласит лемма 5.6.10, для любого е > 0 существует некоторая матричная норма || • ||, удовлетворяющая неравенствам р(Л) <_ ||Л || < р (А) -|- е. Показать, что существует невырожденная матрица С — C(s) G Л1,,, такая, что р(Л) <ИСЛС-ЧЬ < р(Л) + е. Указание. Провести рассуждение по аналогии с доказательством леммы 5.6.10 и обосновать возможность представления ||СЛС-1 Цг = [р(Л)]2 + + 0(e) при е—>0. -
Показать, что для всех А ед Мп справедливо неравенство II Л ||^ ^ У I Z, |2, в котором равенство имеет место тогда
В связи с этимВ связи с этими только тогда, когда матрица А нормальна.
В связи с этим
В связи с этим
фактом величину
иногда называют дефектом нормальности. Указание. Использовать теорему Шура об унитарной триангуляризации и унитарную инвариантность евклидовой нормы.
Теорему 5.6.9 можно применять для определения границ корней многочленов с вещественными или комплексными коэффициентами, если привлечь понятие сопровождающей матрицы. Каждый многочлен f(z) степени не меньше первой можно запи-
сать в виде Л2) = Czkp(z), где С —ненулевая константа,
р (2) = zn + an_xzn-x + an_^zn-’2 + ... + avz + aQ (5.6.38)
и а0+= 0. Решения уравнения р(г) = 0 совпадают с ненулевыми решениями уравнения /(г) = 0. Именно для этих чисел можно предложить различные оценки.
Убедиться в точном совпадении многочлена р^ с характеристическим многочленом сопровождающей матрицы
" — 0,2-1
0«-2 •
. . — 0!
0Q
1
0.
.. о
0
с^-
0
1
0
0
•(5.6.39)
_ 0
0
• 1
0 _
Следовательно, решения уравнения /?(2) = 0 равны собственным значениям матрицы С(р). Указание. Вычислить det [2/— С(/?) ] при помощи разложения по первому столбцу и использовать соображения индукции.
Применить теорему 5.6.9 для проверки неравенства \z\^||С(/?) ||, в котором 2 — решение уравнения р(2) = 0 и || • ||— произвольная матричная норма на МГ1.
В последующих пунктах через z обозначается любое решение уравнения р(2) = 0.
Используя норму Ц-Ill, показать, что
|z|<max{|a0|, 1 + | av |l+|a»-il}<
< 1 + max {I а01, | ^ || an_v |}.(5.6.40)
Это неравенство для корней многочлена известно как оценка Коши.
При помощи нормы || • Ц^ доказать оценку Монтеля
|2 |^ max {1, | а0| + | «11 + ... + K-il}<
<l+|0ol + |0il+ ... +K-1I.(5.6.41)
Показать, что этот результат слабее оценки Коши.
Привлекая норму || • Ц^, убедиться в справедливости неравенства
'|2|<(п—1) + ! 00 1 + 1041+...+1ап-11,
которое обеспечивает худшую границу по сравнению с (5.6.41) для всех значений п >2.
Употребляя норму || • Пд, получить оценку
•I^l^[« + Iaol2 +l«i 12+ ... +|a„-i l2Jl/2,
менее точную, чем оценка (5.6.42) Кармайкла и Мейсона.
Применяя норму п|| • II/ , прийти к оценке
| z|<nmax(l, |йо I. I «11, • ■ • , I an-i I},
которая является более грубой, чем (5.6.41).
28. Результат п. (f) в задаче 27 можно улучшить в тех же самых терминах. Запишем сопровождающую матрицу в виде С(р)= S + R, где
0 0"о о о о0 0"о о о о1 о1 о■ О О
0 0"
о о о о
0 0"
о о о о
1 о
1 о
1 о
О I
о о
— йп-\о— йп-\ооо— Яд-2 • • • — Я[ До
— йп-\о
— йп-\о
о
о
О ...00
О ...00
Проверить равенства S*R = R*S = 0, || 5*5112=1, ||/?*/?lb = = I Яо I2 + I «1 I2 + • • • + I «n-i I2- Показать, что
|| C (p) ||| = || C W C (p) ||2 = || (5 + RY (5 + R) ||2
= || 5*5 + R*R lb < || 5*5 lb + II R*R lb,
и вывести оценку Кармайкла и Мейсона
I z |<[1 +1 «о р + | ах I2 + ... +1 ап_х I2]1/2.(5.6.42)
Применяя оценку (5.6.41) к многочлену
р (г) (г — 1)р (г) =
= 2"+1 + (д„-1 — I)z" + (ап_2 — an_x)z"-1+ • • • + (До —Д1)г —До,
получить неравенство
| г | ^ шах { 1,1 До I +1 ®о — ai I + • • • +1 я„_2 — Яд-1 I +1 я„_! — 1 [}.
Показать, что второе выражение под знаком максимума не меньше единицы, и вывести другую оценку Монтеля
12К|а0| + |а0 — а, | + ... + | ап_2 — ап_х |+ | ап_х — 1 |. (5.6.43)
При помощи оценки Монтеля (5.6.43) доказать теорему Какея: если задан многочлен f(z) = ап2п + ап-х2п~х + ... ... + axz + aQ с неотрицательными коэффициентами ах, удовлетворяющими неравенствам
яп>яп-1 > • • • >ai>a0,
то все решения уравнения f(z) = O лежат в единичном круге, т. с. I z { ^ 1.
Все четыре предыдущие задачи связаны с определением верхних границ абсолютных значений корней многочлена р(г), однако аналогично можно получить и нижние границы. Если многочлен р(г) задан формулой (5.6.38) с коэффициентом а0 У= 0, то функция
q (2) — 2пр (—) = 2" + — 2п~Х + — 2Л~2 + . . . + а"~‘ z + -^- 4 ' а0 \ 2 71 д0 1 д0а0 ар
будет многочленом степени п, корни которого в точности обратны к решениям уравнения p(z) = 0. Используя соответствующие оценки сверху для решений уравнения <7(2) = 0, получить следующие оценки снизу для решений 2 уравнения р(г) = 0: Оценка Коши;
Х/ max (1, | а0 | + | a„_] |, | а0 | + | а„_21, ..., | а0 | + | О! |}
>I Др I
| До | + max (1, | д„_1 |, | д„_2 |, ..., | Д1 |} *
Оценка Монтеля-,
I 2 1>>
Х/ max {I д0 I, 1 + | д, I + | а2 | + ... + | д„_, |} I Др I
1 + I Др I + I а1 I + — + | Дгг-i |
Оценка Кармайкла и Мейсона:
I 2 I.
^[l + laoP+la.^-p ... + I а„_1 |2]1/2
Комбинируя нижние границы из задачи 31 с верхними границами из задач 27—30, можно локализовать корни многочлена р^г) в кольце {2: гх ^|г|^ г2}. В качестве примера рас-
смотрим многочлен
f(2) = ^2" +4-122 + 2+1
— п-ю частичную сумму степенного ряда для экспоненты е2. Показать, что все решения 2 уравнения /(2) = О подчиняются неравенствам
у<|2|<1 +«!
Применяя теорему Какея к многочлену znf(l/z), убедиться в том, что все решения фактически удовлетворяют даже неравенству |г| 1.
Поскольку справедливо равенство р(Л) = p(D~'AD) с любой невырожденной матрицей D, использованные в задаче 27 методы можно применить к матрице D~'C(р) D, чтобы получить другие границы корней многочлена р^ в (5.6.38). Для вычислений удобен выбор матрицы D = diag(pi, pi, ... ..., рА, где все величины р, > 0. Обобщение оценки Коши (5.6.40) приводит к неравенству
+ i-.-'i+t}-<5А44>
Проверить, что оно действительно имеет место .для произвольных положительных параметров р\, р2, ..., рп.
Предполагая, что все коэффициенты ак в (5.6.38) ненулевые, положить pk = P1/I cin-k+\ |, k = 2, 3, ..., п, и вывести из неравенства (5.6.44) оценку Кодзима для корней z многочлена р(г):
| 2 | ^шах 11 аа |, 2 I ■—I, 2 I|(5.6.45)II а2 I I й3 |I ЙП I J
Теперь выбрать рк = г!, ft = 1,2, ..., и, с некоторым числом г > 0 и показать, что утверждение (5.6.44) влечет за собой оценку
| 2 | ^ max {| tia I rn~x, I «i I г"-2 + г-1, | н21гП~3 + r-1i • ■ •
.. К-гк + гЛ K-il + ^'X
— + шах {| ак |гга-6-1},(5.6.46)
г 0<К«-1
где величина г > 0 может быть произвольной.
36. Заданной матрице А е Мп можно поставить в соответствие эрмитову матрицу
А —
" О
. А'
А
О
2п*
Показать, что у этих матриц спектральная норма II ■ Иг совпадает. Указание. Напомним общее определение спектральной нормы: || Л ||2 = р(Я*Л)'/2.
Пусть А, Be Мп, матрица А невырожденна, матрица В вырожденна, п пусть задана произвольная матричная норма II-||. Установить справедливость неравенства ||Д—5||^ 1/||А~Ч1. Указание. Матрица В=А— (Л—5) = Л[/ — Л-1 (Л — В)] вырожденна, поэтому ||Л-'(Л — В)||^1. Какова геометрическая интерпретация этого факта в пространстве М„? Насколько точно невырожденную матрицу можно аппроксимировать вырожденной? Дополнительные сведения по этому, вопросу см. в примере 7.4.1. '
Дополнительная литература
Константы таблицы в задаче 23 заимствованы из статьи: Stone В. J. Best Possible Ratios of Certain Matrix Norms. — Nu- merische Math., 1962, v. 4, p. 114—116, где также содержатся некоторые другие оценки и дополнительные ссылки. Дальнейшее обсуждение применения матричных норм для локализации корней многочленов (задачи 27—35) и дополнительная библиография имеются в работе: Fujii М., Kubo F. Operator Norms as Bounds for Roots of Algebraic Equations. — Proc. Japan Acad., 1973 v. 49, p. 805—808. Более общие рассуждения в задаче определения констант, связывающих подчиненные нормы (теорема 5.6.18), можно найти в работе: Schneider Н., Strang W. G. Comparison Theorems for Supremum. Norms. — Numerische Math., 1962, v. 4, p. 15—20. Минимальные матричные нормы рассматриваются в [Wie],
Векторные нормы на матрицах
Все аксиомы векторной нормы необходимы для содержательного определения понятия «величины» матрицы. Однако в некоторых важных приложениях кольцевое свойство (4) матричной нормы не существенно. Например, в очень полезном следствии 5.6.14 предельное соотношение фактически имеет место не только для матричных норм, но и для функций из класса даже более общего, чем векторные нормы. По этой причине в данном параграфе мы заострим внимание на векторных нормах матриц, т. е. на векторных нормах (которые могут не обла*
13 Р* Хорн. Ч. Джонсон
дать кольцевым свойством) на линейном пространстве М„. Такие нормы часто называют обобщенными матричными нормами^. Векторную норму на Мп в общем случае будем обозначать символом ||-|| или G(-). Начнем с некоторых примеров векторных норм на Мп, которые могут быть или не быть матричными нормами.
Пример 1. Если G(-)—векторная норма на Мп и матрицы 7. S е Мп невырожденны, то функция
0Л5(Л) = G(TAS), АеМи(5.7.1)
оказывается векторной нормой на Мп. Даже в случае матричной нормы G(.) кольцевое свойство для нормы Gr, $(■) не обязано сохраняться.
Упражнение. Показать, что функция GT, s(-) в (5.7.1) — действительно векторная норма на Мп.
Упражнение. Пусть S=T = I/2, и пусть G (•) =|| • II/ - Показать, что норма Gr]s(1) не является матричной.
Упражнение. Убедиться, что матричная норма G(-) при Т = 5-1 порождает матричную норму GT, s(-).
Пример 2. Произведение Адамара двух матриц А=[ан] и В =\bi^ одинаковых размеров определяется просто как их поэлементное произведение А ° В = [ai/bi/]. Если задана матрица Н г Мп с ненулевыми элементами и G(-) — произвольная векторная норма на Мп, то функция
GH (Л) = G (Н о Л)(5.7.2)
будет векторной нормой на Мп. Даже когда G(-)—матричная норма, норма Gw(-) может не обладать кольцевым свойством.
Упражнение. Показать, что функция Gh(-) в (5.7.2) — действительно векторная норма.
Упражнение. Удостовериться, что норма Gw(-) (см. (5.7.2)) может быть или не быть матричной в зависимости от выбора Н. Рассмотреть матричную норму G(-)=||-||i и матрицы
Г 1 1 1Г 2 Г1 .
Нх = [ 1 j ],^2 = [ , 2](5.7.3)
*) Кольцевое свойство нормы иногда называют мультипликативностью или субмультипликативностью и в связи с этим матричную норму называют мультипликативной, а обобщенную матричную норму — аддитивной (подчеркивая наличие лишь неравенства треугольника). — Прим, перев.
в качестве сомножителей в произведении Адамара. Нарушение кольцевого свойства можно проследить на примере матриц
ГО 1 IГО 01
=0].= | 1 о] и АВ' ^7Л)
Отметим неравенство Ghx (С) ^ Gh, (С), справедливое для всех матриц С G Л12.
Пример 3. функция
GGасасb 1।, ^ ‘-[|а + ^| + |а-^Ц-|6Ц-|С|] tZ Jb 1।, ^ ‘-[|а + ^| + |а-^Ц-|6Ц-|С|] tZ J(5.7.5)(5.7.5)
G
G
а
с
а
с
b 1।
, ^ ‘-[|а + ^| + |а-^Ц-|6Ц-|С|] tZ J
b 1।
, ^ ‘-[|а + ^| + |а-^Ц-|6Ц-|С|] tZ J
(5.7.5)
(5.7.5)
является векторной нормой на М2.
Упражнение. Показать, что функция G(-) в (5.7.5) является векторной нормой, но не матричной. Можно привлечь к рассмотрению матрицы (5.7.4).
Пример 4. Для заданной матрицы А г Мп множество А (Л) == {х'Ах: хеС\ х*х=1} называют числовой областью или числовым образом этой матрицы. Функцию
г(Л) = шах |х*Ах| = шах |z|(5.7.6)
х*х<1геГ(А)
называют числовым радиусом матрицы А.
Упражнение. Показать, что числовой радиус г(Л) задает векторную норму на М„. Указание. Трудно проверяется лишь аксиома положительности (1а), см. § 4.1, задача 6. Числовой радиус, однако, не определяет матричную норму, см. задачу 10 далее.
Пример 5. Векторная Д-норма на Мп определяется формулой
^11'00= таХ 1Д/1-^11'00= таХ 1Д/1-(5.7.7)(5.7.7)
^11'00= таХ 1Д/1-
^11'00= таХ 1Д/1-
(5.7.7)
(5.7.7)
В § 5.6 мы видели, что || • ||z — векторная норма, но не матричная норма на Мп, однако «II • II/ —уже матричная норма.
Предыдущие примеры убедительно показывают, что, действительно, существует много векторных норм па ЛД, которые не являются матричными нормами. Для некоторых из этих норм, однако, справедлива часть утверждений, которая в случае матричных норм обусловлена наличием кольцевого свойства; для других векторных норм это не так. В то же время каждая векторная норма на Мп эквивалентна любой матричной норме (в том смысле, что понятия сходимости последовательности в
этих нормах совпадают). Из теоремы 5.4.4 непосредственно следует фактически даже несколько более общий результат.
Теорема. Пусть f— квазинорма на Мп, т. е. вещественнозначная функция на Мп, которая является положительной, абсолютно однородной и непрерывной, и пусть задана матричная норма П • || на М„. Тогда существуют такие конечные положительные константы Ст и См, что неравенство
Ст||Л||<НЛ)<См||Л||
справедливо для всех матриц А е Мп. В частности, это утверждение верно для любой векторной нормы f(-) на Мп.
Наличие неравенств (5.7.9) часто бывает полезным для обобщения фактов о матричных нормах на случай векторных норм пли, еще шире, векторных квазинорм на матрицах. К примеру, предельное соотношение из следствия 5.6.14 допускает обобщение в этом смысле.
Следствие. Если f— квазинорма на Мп, то предел lim [/ (Ak)]lik существует для всех матриц Ае.Мп и
lim [f (Л^Г-рМ)
для всех А е Мп. В частности, это предельное соотношение имеет место для произвольной векторной нормы f(-) на Мп.
Доказательство. Пусть ||-||-—матричная норма на М„. Неравенства
влекут за собой
c'^UT^\fWk^c^\\AT
для всех й = 1, 2, 3 . .. . Однако в последних неравенствах Cmfc-^1, Смк—»Х, || Ак ^ik р (Л) при ^-*оо. Отсюда заключаем, что предел lim [f (М*)]1/А существует и принимает требуемое £->оо значение. □
Можно говорить об эквивалентности векторных и матричных норм на МП в несколько ином смысле, иллюстрируемом в примере 5 выше. Векторную норму || • |lz можно умножить на константу п и получить тем самым матричную норму. Это не случайность: каждая векторная норма допускает подобную модификацию.
Теорема. Для каждой векторной нормы G(-) на Мп существует такая конечная положительная константа c(G), что произведение c(G)G(-) является матричной нормой на Мп.Если ||-||—матричная норма на Мп и выполнены неравенства
Ст||Л||<С(Л)^СЛ1||Л||, АеМп, (5.7.11а) то справедлива оценка
С..
с№)^.
Более того, существует матричная норма, для которой указанная верхняя граница для c(G) точна, поэтому
/ С
c(G) = min j —^-: || • || — матричная норма и выполнены
неравенства (5.7.11а)|.
Доказательство. Для любого сомножителя с > О функция cG(-) удовлетворяет всем аксиомам матричной нормы, быть может, за исключением кольцевого свойства. Однако непрерывность нормы G(-) и компактность единичного шара этой нормы позволяют легко убедиться в конечности и положительности величины
c(G)= maxmax G(AB).
Тогда
G (Л5) < cG (Л) G (S), cG (AB) < cG (Л) cG (B)
для всех матриц А, В e Mn (последнее неравенство означает наличие кольцевого свойства у произведения cG(-) в случае выбора c = c(G).— Перее.). В соответствии с условиями теоремы пусть || ■ ||— матричная норма на Мп и справедливы неравенства (5.7.11а) эквивалентности норм G(-) и ||-||. Тогда
С(ЛВ)^СЛ1||Л5||<СЛ1||Л|П|5||<-^-С(Л)С(Д),
и приходим к оценке
Осуществляя конкретный выбор матричной нормы [| • || = = с (G) G (•), получаем равенства CM = c(G) и Cm=ljc(G); таким образом, СмЮ2т = с (G). □
Упражнение. Показать, что при k ^ с (G) произведение &G(-) будет матричной нормой. В частности, норма CMG (^/С^ всегда будет матричной.
Упражнение. Вывести результат следствия 5.7.10 для векторных норм прямо из теоремы 5.7.11.
Одним из следствий кольцевого свойства матричной нормы является тот факт, что каждой матричной норме на Л1„ можно поставить в соответствие некоторую согласованную с ней векторную норму на С". Именно поэтому для любой матричной нормы || • || справедливо неравенство ||Л||^р(Л). Векторную норму на Мп, удовлетворяющую этому неравенству для всех матриц Л е Мп, называют спектрально преобладающей. Интересно отметить следующее. Для одних векторных норм на М„ имеются согласованные с ними векторные нормы на Сл, а для других — нет. Среди последних некоторые нормы являются спектрально преобладающими, а некоторые — нет. Наконец, векторная норма на С" может быть согласована с векторной нормой на ЛД, не являющейся матричной нормой.
Определение. Векторную норму || ■ || на С" и векторную норму G(-) на Мп называют согласованными, если неравенство
|| Ах ||<С(Л)||х||
выполнено для всех векторов х е Сл и всех матриц Л е Мп. Это понятие уже затрагивалось в предыдущем параграфе (см., 1 а тример, (5.6.27), (5.6.30)). Выделим утверждения, относящиеся к понятию согласованности.
Теорема. Если || • ||—матричная норма на Мп, то существует некоторая согласованная с ней векторная норма на С1.
Доказательство. Если положить ||х|| = ||[х00 ... 0] ||, то будут выполнены соотношения || Ах || = || [Ах 0 ... 0] || = = Ц Л [хО ... 0]|К||Л||||[х0 ... 0] II = IIЛ Illi X ||. □
Обратное утверждение нам уже известно. В теореме 5.6.2 утверждается, что любой заданной векторной норме || ■ || на С" соответствует согласованная с ней матричная норма (подчиненная норма из определения 5.6.1).
Упражнение. Показать, что согласованная векторная норма на С”, наличие которой гарантируется теоремой 5.7.13, может быть не единственной. Действительно, подходят также и норма ||х|| = ||[хх ... х]||, и норма || х || = || х*у || при любом ненулевом векторе у е С".
Теорема. Пусть G(-)— векторная норма на Мп, для которой имеется согласованная векторная норма || • || на Сл. Тогда О(Л)^р(Л) для всех матриц АеМЛ. В более общей формулировке,
(5.7.15}(5.7.15}G(AJG(A2) ... О(Л,)>р(Л1Л2 ... л.)
(5.7.15}
(5.7.15}
для всех матриц А^ Л2,..., Л4 е Мп и всевозможных k = 1,2, ...
Доказательство. Положим к = 2 и возьмем такой ненулевой вектор хе СУ, что АхА2х = Хх, где |^| = р(Л1Л2). Тогда имеют место соотношения
р (Л,Л2) || х || = || Хх || = || Л, А2х || = || А1 (А2х) || < <О(Л1)||Л2х||<О(Л1)О(Л2)||х||.
Поскольку ||х||=^=0, выводим, что р (Л [Л2) ^ G (Л^ G (Л2). Общее утверждение проверяется аналогично при помощи индукции. □
Когда для заданной векторной нормы на МЛ найдется согласованная с ней векторная норма на СУ? Условие (5.7.15) является необходимым; чтобы показать его достаточность, потребуется следующая вспомогательная лемма.
Лемма. Пусть G(-)— векторная норма на МЛ, удовлетворяющая неравенству (5.7.15), и через ||• ||2 обозначена спектральная норма на Мп. Тогда существует такая конечная положительная константа с = c^G^, что неравенства
С(Л,)С(Л2) . .. G (ЛА) ^ с || Л,Л2 ... Л,||,
справедливы для всех матриц Аь А2, ..., Ah е Мп и всех k = 1, 2, .. ..
Доказательство. В силу следствия 5.4.5 найдется такая конечная положительная константа 6 = 6(G), что ||Л ||2 ^ bG (Л) для всех А е МЛ. Пусть заданы натуральное число к и матрицы Л], Л2, ..., АДеМЛ. По теореме 7.3.5 о сингулярном разложении существуют унитарные матрицы V и W и диагональная матрица S = diag(oi, о2, ..., о„), где все о, ^ 0, такие, что
А,А2 ... Ak = VW,
p(S) = max{o1, о2сг„} = || Л^ ... Л6у,2. Из неравенства (5.7.15) имеем
G (Г) G (Л,) G (Л2) ... G (Л6) G (Г) > р (ГЛ,Л2 ... А^) = р (2) =
= 112113 = 11^-^^2 ... Л6и/||2 =
= 11 ли2... лА||з.
Последнее равенство объясняется унитарной инвариантностью спектральной нормы. Значит,
G (ЛО G (Л2) ... G (Л&) > -^,’0^) IIЛ1Л2 ... Ак ||2 >
II У‘Нг II ^Ih‘ 1 Из =
-ЛЛ^ ... Л^Ь-
Полагая с = Ь2, приходим к утверждению леммы. □
Теорема. Пусть G(-)— векторная норма на Мп. Векторная норма ||-|| на Сп, удовлетворяющая неравенству ||Лх||^ ^ С(Л)||х|| для всех xeGu всех А^Мп, существует в том и только в том случае, когда для исходной нормы выполнено неравенство
G^GUj G^J^p^Ms Л.)
для всех Ai, Л2, ..., Л* е Мп и всех k = 1, 2, ...
Доказательство. Необходимость уже была доказана в теореме 5.7.14. Чтобы проверить достаточность, убедимся в существовании матричной нормы Ц • Ц на Мп, удовлетворяющей неравенству О(Л)^||Л|| для всевозможных матриц А е Мп. Пусть ||.||—векторная норма на С”, согласованная с нормой || ■ || на Мп (наличие такой нормы обеспечивается теоремой 5.7.13), и пусть заданы вектор хе С" и матрица А еМ„. Тогда ||Лх|| ^ ||Л ||||х||^ ^ G (Л) ||х||; поэтому требуемое утверждение действительно будет доказано, если мы сможем построить матричную норму, не превосходящую нормы G(-).
Заданная матрица А е Мп мириадами способов может быть представлена как произведение матриц или как сумма произведений матриц. Определим функцию
1|Л|| = т1|2с(Лл) ... G (Л^): 2 Ап ... AU. = A, Alk/^Mn\.
Учитывая равенство 2 Лд ... Aik; = А и используя лемму 5.7.16 и неравенство треугольника для спектральной нормы, имеем
. 2с(лп)... с(лгг;.)>2с||лп ... л^.ц^
>с|2 ли ... л^£||2илц2.
Это неравенство влечет за собой положительность функции Ц-Ц, предлагаемой в качестве нормы. Свойство абсолютной однородности непосредственно вытекает из того же свойства для нормы G(-). Неравенство треугольника и кольцевое свойство для
функции || • || следуют из ее определения как точной нижней грани суммы произведений. □
Упражнение. Провести подробное обоснование того, что функция ||-||, построенная в доказательстве предыдущей теоремы, подчиняется неравенству треугольника и обладает кольцевым свойством. Указание. Если С = А + В или С = АВ, то каждое представление матриц А и В (независимо) в виде суммы произведений дает представление матрицы С в виде суммы произведений, однако подобным образом нельзя получить все такие представления матрицы С.
Упражнение. В предположении, что для векторной нормы (5.7.5) на Мп найдется согласованная с ней векторная норма || ■ || на С2, доказать соотношения
которые влекут за собой неравенствокоторые влекут за собой неравенство11о 111о 1
которые влекут за собой неравенство
которые влекут за собой неравенство
11о 1
11о 1
и, следовательно,
1<G1<GО 1о оО 1о оо оо о
1<G
1<G
О 1
о о
О 1
о о
о о
о о
Показать, что последнее утверждение неверно, и вывести отсюда, что для рассматриваемой векторной нормы G(-) иа ЛИ нельзя найти согласованную с ней векторную норму на С2.
Упражнение (продолжение). Непосредственно убедиться, что векторная норма (5.7.5) на М2 является спектрально преобладающей, хотя ей не соответствует ни одна согласованная с ней векторная норма на С2. Обсудить этот факт в свете теоремы 5.7.17.
Теперь нам известны полезные необходимые и достаточные условия существования для векторной нормы на М„ согласованной векторной нормы на Сп. Мы также знаем, что какова бы ни была векторная норма на Сп, подчиненная матричная норма из определения 5.6.1 согласована с ней и может рассматриваться как векторная норма на М„, обладающая кольцевым свойством, Когда для векторной нормы на С" существует согласо-
ванная векторная норма на Мп, не обладающая кольцевым свойством? Всегда.
Теорема. Пусть задана векторная норма ||-|| на С". Существует векторная норма G(-) на Мп, не являющаяся матричной нормой и удовлетворяющая неравенству
II Дх||^С(Д)||х||
для всех векторов х е Сп и всех матриц А е Мп.
Доказательство. Пусть Р г Мп— произвольная матрица перестановки с нулевыми элементами на главной диагонали, например пусть Р = [р,/], где ри = 1 при / = t + 1 или при i = п, /= 1, и ри = 0 в противном случае. Символом || ■ || также обозначим матричную норму на Мп, подчиненную (в смысле определения 5.6.1) векторной норме || • || на Сп. Определим функцию G(A на Мп формулой
G (Д) = || А || + || Р||||РГ || шах \аи\.
1 < i<n
Ясно, что эта функция является векторной нормой на Мп, и справедливы неравенства С(Д) ^||Д|| для всех А е Мп и
1Мх||<||Д||||х|КС(Д)||х||
для всех А <= Мп и всех х е С". Однако
g m=gu)=u ii+о р и о рт и = 1+о р и и рт и, G(/>)=imi,
G(P^ = ||pq, G (PPT) >G^G ^PTY
Таким образом, норма G(-) на Мп согласована с данной векторной нормой ||-|| на С", но не обладает кольцевым свойством.
Упражнение. Пусть А = [а,,] е Мп. Рассмотреть следующую модификацию матричной нормы Ц-Ноо:
II ДII = II а + diag (ан, а^, ..., апп) IL-
Показать, что эта функция допускает представление (5.7.2) в виде нормы, задаваемой произведением Адамара, и, следовательно, является векторной нормой на Мп. Доказать, что эта норма согласована с векторной нормой Ц-Ноо на С”. Вычислить величины
IIГ О 1] [ГО 1+11
IL 1 0 ] ' I [ 1 О ] I
и убедиться, что данная норма не обладает кольцевым свойством.-
Задачи
Пусть G(-)—векторная норма на М„, и пусть задан ненулевой вектор уЕ Сл. Показать, что функция
||x||=G(x/)
будет векторной нормой на С". Что она собой представляет, когда
t/= [1, 1, .... 1]г или t/ = [l, 0, 0Of?
Пусть || • ||—произвольная векторная норма на М,„ и пусть заданы матрица АеМп н число е > 0. Доказать, что существует такое число К = /((е, А) >■ 0, что
[р(Л)-8]6^|| Л6Ц^[р(Л) + е]6
для всех степеней k> К.
Пусть ||-||—любая векторная норма на Мп, и пусть задана матрица A е Мп.
Используя результат задачи 2, убедиться, что если р(Л)< 1, то ||Л*||—>0, когда А-^оо. С какой скоростью?
Доказать обратное утверждение: если ||ЛА||->0 при й->оо, то р(Л)<1. Указание. Рассмотреть поведение величин ||ЛА [х ... х] ||, если Ах = Хх и х =^ 0.
Что можно сказать о сходимости степенных матричных рядов в терминах векторных норм?
Пусть задана векторная норма G(-) на М„. Определим функцию G': M„->R формулой
G'(S) = max G^BAY
G(A) = l
Доказать, что функция G'(-) всегда будет матричной нормой на Мп, удовлетворяющей равенству G' (/) = 1,н что при G (/) = 1 неравенство G' (В)^ G(B) выполнено для всех матриц В е Мп. В следующих задачах развиваются результаты задачи 4.
Обосновать неравенство G'(B)^G(B) для любой матрицы Be Мп в случае матричной нормы G(-) на МП и равенство G' (•)=6(-) прн дополнительном условии G(/)= 1.
Показать, что всегда выполняется равенство G" (■) = G'( •).
Предполагая, что векторная норма G(-) на Мп подчинена условию G(/) = 1, доказать, что эта норма будет матричной тогда и только тогда, когда G'(B)^ G(5) для всех В е Мп.
Убедиться, что в определении нормы G' (•) нз задачи 4 можно изменить порядок сомножителей А и В н получить тем самым другую матричную норму. Показать на примере, что эта новая норма может не еовпадать с G'(•).
Проверить, что множество всех векторных полунорм на С", согласованных с заданной векторной нормой на Мп, выпукло—фактически это конус.
Удостовериться, что числовой радиус г(-) не задает матричную норму на Мп, привлекая матрицы (5.7.4) и сравнивая величину г (Л В) с произведением г(Л)г(В).
Неравенство ЦЛЦ^р(Л) из теоремы 5.6.9 является следствием аксиомы (4)(т. е. кольцевого свойства) матричной нормы II-||. Однако векторная норма на Мп может удовлетворять этому неравенству (т. е. быть спектрально преобладающей), не будучи матричной нормой. Обосновать неравенство г(Л)^р(Л) для произвольной матрицы А е Мп. Установить более общий факт:
сг (Л) сд \х*Ах; х*х — 1}.
Убедиться, что для векторной нормы || • ||Zqo на Мп нельзя найти никакой согласованной с ней векторной нормы на С". Указание. Рассмотреть величины1) H/nlL и р(7„). Показать, что функция п || • Ц^, однако, будет матричной нормой на Мп и поэтому имеется согласованная с ней векторная норма на С".
Для матрицы Л = [nzJ <= Мт, п обозначим транспонированную z'-ю строку через гг(Л) = [а41, ап, ..., сцп^ и /-й столбец через с/(Л) = [а1/, а2/, . .., amjf. Пусть || ■ ||а и || • ||р — векторные нормы на пространствах С" и Ст соответственно. Тогда определим функцию Ср-а: Mmin->R формулой
Ор, а (Л) ^ II [ II г, (Л) ||а, II г, (Л) ||а, . .., II гт (Л) 1Л]Г ||р.
Аналогично, определим функцию Ga,₽: Л1т n->R:
G“’ Р (Л) ^ || [ || щ (Л) ||р, || с2 (Л) ||р, . . ., || сп (Л) ly7 |а.
Доказать, что каждая из функций Gp, а(-‘ и Ga,|3(-) является векторной нормой на Мт, п, однако эти нормы не обязаны совпадать. Таким образом, имеется возможность определять естественным образом векторные нормы на пространстве прямоугольных матриц. .
Сопоставить норму Gp>a(-) из задачи 13 с нормой || • Па, р, дпределенной в задаче 4 § 5.6, и показать на примере, что даже при пг = п (и даже когда II • Ik = II • Пр) норма G^a не обязана быть матричной нормой на Мп.
Что представляет собой норма GpiO в задаче 13, когда II • Ila = 11 ■ 1,2 = 11 • 11р? А норма Ga'4-P ’
’) Здесь Jn есть п X n-матрица, все элементы которой равны 1.— Прим, перев.
Что представляет собой норма Gpa(-) в задаче 13, когда II • ||а = || • 111 и II • ||р = || • IL? Что можно сказать о функциях G@’a(-), GM(.), Ga p (•)?
Если G(-) — векторная норма на /И„, спектральная характеристика нормы G(-) определяется формулой
m(G)= шах р(Л).
G (ЛХ1
Убедиться, что норма G(-) является спектрально преобладающей тогда и только тогда, когда m(G)^ 1. Показать, что произвольную векторную норму на Мп можно превратить в спектрально преобладающую норму посредством умножения на некоторую константу, причем минимальная величина константы равна m(G). Норму G(-) на Мп называют минимально спектрально преобладающей, если выполнено равенство m(G)=l.
Установить, что каждая подчиненная матричная норма является минимально спектрально преобладающей в соответствии с определением из задачи 17. Показать, что не все минимально спектрально преобладающие нормы подчиненные. Проверить, что числовой радиус г(Л) удовлетворяет условию минимального спектрального преобладания.
Доказать, что спектральная характеристика является выпуклой функцией на конусе векторных норм на Мп и, следовательно, множество всех спектрально преобладающих векторных норм на ЛД выпукло.
Убедиться, что векторная норма G(-) на Мп является спектрально преобладающей тогда и только тогда, когда для каждой матрицы А е Мп найдется константа уд (зависящая только от нормы G(-) и матрицы Л), такая, что для всех натуральных k справедливо неравенство
g^CnaQ (А
Доказать справедливость следующих утверждений:
Числовой радиус г(-) удовлетворяет равенствам г(Л) = = р(Л) = ||Л||2 для произвольной нормальной матрицы Л, од- иако в общем случае справедливо лишь неравенство г(Л)^ ^||Л1|2. Привести пример матрицы Л е Мп, удовлетворяющей строгому неравенству г(Л) < ||Л ||2. Указание. Проверить равенство r(U*AU) = г(Л), где U Е Мп—.любая унитарная матрица, и учесть возможность приведения матрицы А к диагональному виду унитарным преобразованием. Для общего случая обосновать соотношения
г (Л) — шах | х'Ах | ^ шах || Ах ||2|| х ||2 = || А ||2.
1*12-11* 1,2-1
Для произвольной матрицы АеМ„ справедливо равенство г(Л) = г(Л*).
Неравенство ЦЛИ2 < 2г(А) верно для всех матриц А е Мп. Указание. Записать разложение
Л = (Л + А^2 + (Л - Л‘)/2 = Ах + Л2
и заметить, что матрицы Ах и А2 нормальны. Теперь проверить соотношения
II А ||2 < || Ах ||2 + || А21|2 = г (ЛО + г (Л2) < г (Л) + г (Д‘) = 2г (Л).
Оценки.
у||Л||2<г(Л)^||Л||2,(i)
указанные в пунктах (а) и (с), точны. Указание. Построить подходящие /г X «-аналоги матриц [д о] и [о о]-
Используя неравенства п. (d) задачи 21 и оценки величины с (г') из теоремы 5.7.11, доказать, что функция 4г(-) будет матричной нормой на Мп. Продемонстрировать равенство с(/) = = 4, рассматривая матрицы А= „ ‘ , А*, АА*.
венстввенствПри помощи неравенств i) п. (d) задачи 21 и нера
венств
венств
(ii)(ii)(iii) .(iii) .4-1|Л||г^||Д||2<||Д||я
(ii)
(ii)
(iii) .
(iii) .
V П
из задачи 23 § 5.6 получить оценки
т4=-||Л||£<г(Л)<||Л||£,
2 У п
справедливые для всех А е М„, и убедиться в неулучшаемости верхней границы. Проверить, что выбор А = 1 и Л = [дд] приводит к равенствам в левых неравенствах из (1) и (ii) соответственно и что в случае выбора А= g д] равенства достигаются в правых неравенствах из (i) и (ii). Объяснить, почему отсюда следует неулучшаемость верхней границы в (iii), но нельзя сделать никаких выводов о точности нижней границы в (iii). Почему существует конечная максимальная положительная константа сп, при которой неравенство г(Л) ^ с„||Д ||£ верно для всех матриц ЛеМА Неравенства (iii) обеспечивают оценку снизу сп ^(2 V«) • Получить оценку сверху сп ^ ^ («— 1)1/2/«, вычисляя величины /"(Д) и H/ziIIe, где /п = [ац] суть жордановы n X «-матрицы с элементами ац = 0, за исключением а^ z-ц = 1 для i — 1, 2, ..., п—1, Из этих оценок еле-
дует, что сп = О ^\] л/ п^ при п-^оо; точное значение величины сп, по-видимому, неизвестно.
Показать, что функция [ЛВ] = !гЛВ* определяет скалярное произведение на пространстве Мп и это скалярное произведение порождает /2-норму на Мп, т. е. ||Л||£ = [Л, Л]1/2 для всех A G Мп. Проверить, что норма эрмитовой матрицы X = хх* ранга 1 равна || X ||£ = || х Ц2. Доказать, что числовая область заданной матрицы А г Mrt просто является совокупностью проекций (в скалярном произведении [•, ■]) этой матрицы па множество эрмитовых матриц единичной нормы ранга 1 и справедливо представление г (Л) = тах{ | [Л, X] |: X— эрмитова матрица ранга 1 и ||Х||£=1}. Используя неравенство Коши — Шварца, получить оценку г(Л)^||Л||£.
Понятие числового радиуса связано с одной естественной задачей аппроксимации. Пусть задана матрица 4еЯп, и мы хотим приблизить ее как можно точнее в смысле наименьших квадратов на классе матриц, отличающихся лишь скалярным,! множителями от эрмитовых матриц ранга 1. Каждая матрица из этого класса представима в виде X = схх*, сеС, ||х||£=1. Показать, что квадрат величины отклонения допускает оценку снизу
|| Л — X ||£ = || Л — схх* ||£ ^ || Л ||£ — 21 с [Л, хГ] | + И2
и принимает минимальное значение, когда с = [А,хх*] их— единичный вектор, на котором достигается максимум в (5.7.6). Вывести отсюда, что необходимое условие минимума отклонения ||Л — сХ||£ по всем скалярам с и всевозможным эрмитовым матрицам X = хх* ранга 1 с ||Х|]£=1 задается равенством И = ДЛ).
Анализ двух предшествующих задач наводит на мысль о возможности естественного обобщения понятий числового радиуса и числового образа матрицы. Пусть Ф с Мл — непустое множество матриц, удовлетворяющее следующим условиям:
если X е Ф, то аХ се Ф для всех а е С;
последнее из равенств [Л, X] = tr АХ* = 0 справедливо для всех матриц ХеФ тогда и только тогда, когда А =0;
множество Ф замкнуто.
Для матрицы А г Мп определим величину
ф(А^= max | [Л, X] | = max | tr АХ* |.
ХеФхеФ.
И1|£<1ЦХ||£<1
Показать что функция ^>(-) корректно определена, является векторной нормой на Мп и удовлетворяет неравенству |^И)|^,
^ЦЛЦе. Доказать, что для каждой матрицы А еМп существует такая матрица А'.^еФ, что ЦУдИв =1 и справедливо представление ^(Л) = | [Л,Уд ] |.
Задача иаилучшего приближения заданной матрицы А е Мп матрицами из Ф состоит в определении матрицы X е Ф, для которой минимально отклонение ||Л—■A'Us. Убедиться, что иаплуч- шее приближение задается матрицей ф(А^Хд, где ф(А') = = |[Л,Уд]|, а для ошибки аппроксимации матрицы А произвольной матрицей X е Ф справедлива точная оценка
|| Л У1^ > || Л Це — I [Л, Уд] |2>0.
Если Ф—-множество всех-матриц, отличающихся лишь скалярными множителями от эрмитовых матриц ранга 1, то ф^А") = = г(Л). В примере 7.4.6 обсуждается использование в качестве Ф множества всех матриц, только скалярными множителями отличающихся от унитарных матриц; тогда величина ^(Л) оказывается средним сингулярных чисел матрицы А. Другой любопытный случай выбора в роли Ф множества всех вырожденных матриц рассматривается в примере 7.4.1; тогда получается величина ^(Л), совпадающая с наименьшим сингулярным числом матрицы А. Вызывают интерес как кандидаты па роль Ф также множества всевозможных матриц, кратных положительно определенным, эрмитовым или нормальным матрицам фиксированного ранга, либо кратных всевозможным матрицам, унитарно подобным данной матрице. В каждом из перечисленных случаев в качестве аналога числового образа матрицы выступает множество {[Л, У]: УеФ).
Хотя числовой радиус г(Л) ие задает матричную норму, он все же подчиняется неравенству для степеней г(Лт)^ <5: [г(Л) ]т для всевозможных значений т = 1, 2, ... и всех матриц А е Мт Доказательство разбивается иа следующие этапы:
Показать, что исходное утверждение эквивалентно тому, что г (Лm) ^ 1 для всех m = 1,2, ..., если г (Л) 1.
Пусть задано натуральное т^2, фиксированное в последующих рассуждениях. Через {щД = {е2л‘&,-т}™=1 обозначим множество корней степени т из единицы. Отметим, что множество {щД можно рассматривать как конечную мультипликативную группу и что {Щ/Щ^}^! = ^WkY^ для каждого /=1, 2, /72.
При помощи разложения »
1 — 2т = П (I — Wk2)
доказать тождество т т
рУ^^"^ Д (1-^Л) = 1 Для всех геС.
/ = 1 к = \ к /
Указание. Убедиться, что p(z)—многочлен степени не выше т — 1 и допускает представление
, .1 v 1 — zm
Р^ т £—1 1 — w .г/=•11
Тогда р (г) = р (ш^) = ... = р (wmz) для всех г е С. Следовательно, р (z) = const = р (0) = 1.
Проверить равенства
ттт
7-Дт = П U-wk<1 = ^J]^-^
к=1/=1к-1
Пусть х g С" — произвольный единичный вектор, ||xj|2 = 1 * и пусть АеМп. Убедиться, что
1 - х*Атх = х*У- Ат) х = ^хУ (/ - Лт) х =
WfcA^XWfcA^X- т
WfcA^X
WfcA^X
Д (J-w^x
-к— 1
оо77//
о
о
7
7
/
/
т
где z= ^ П (/ - wkA> х. к i
Теперь заменить в соотношениях из п. (d) матрицу А на матрицу ешА и получить тем самым равенство
1 _ е1т9х*А!пх =
1 — е‘° (-—-
которое верно для любого вещественного 0. В предположении г(А)^1 показать неотрицательность вещественной части правого выражения в этом равенстве при любом Ое R; следовательно, вещественная часть левого выражения также должна быть неотрицательной для всех Ое R. Убедиться, что этот факт влечет за собой неравенство |л*Атх|^1 и, следовательно, г(Лт)^ 1.
Числовой радиус подчиняется неравенству для степеней г (Am)^r (А)т, однако несколько более общее неравенство г(д*+">)^г(д*)г(дт) уже не всегда верно. Проверить, что в качестве контрпримера можно рассмотреть матрицу А = 74(0) (жорданов 4 X 4-блок) и значения степеней & = 1 и m = 2. Указание. Используя неравенство между средним арифметическим и средним геометрическим, установить равенства г(Л2) = г (Я3) = = 1/2. При помощи неравенства Коши — Шварца показать, что г(Л)<1.
Можно ли придать смысл понятию «минимальная векторная норма» на Мп, ориентируясь на определение 5.6.29 минимальной матричной нормы?
Дополнительная литература
Вопрос о неравенствах, связанный с числовым радиусом, более подробно обсуждался в статье: Goldberg М. Tadmor Е. On the Numerical Radius and Its Applications. — Lin. Alg., 1982, v. 42, p. 263—284. Доказательство неравенства для числовых радиусов степеней, указанное в задаче 27, заимствовано из работы: Pearcy С. An Elementary Proof of the Power Inequality for the Numerical Radius. — Michigan Math. J., 1960, v. 13, p. 289—■ 291. Часть материала этого параграфа изложена в статьях: Johnson С. R. Multiplicativity and Compatibility of Generalized Matrix Norms. — Numer. Math., 1977, v. 27, p. 391—394; Power Inequalities and Spectral Dominance of Generalized MatrixNorms.— Linear Alg. Appl., 1979, v. 28, p. 117—130, где можно найти также дополнительные результаты.
5.8. Ошибки в обратных матрицах и решениях линейных систем
В качестве приложения матричных и векторных норм рассмотрим задачу оценивания ошибок, возникающих при вычислении обратной матрицы и при решении систем линейных уравнений.
Пусть задана невырожденная матрица А е Мп. Можно считать, что в принципе осуществимо точное нахождение обратной матрицы Л-1; однако, если вычисления проводятся на цифровом
компьютере с конечным машинным словом, неизбежно возникают ошибки за счет округления и усечения. Более того, даже если все вычисления были бы выполнены с предельной точностью, элементы матрицы А могут являться результатами некоторых экспериментов или некоторых предварительных вычислений, вносящих ошибки; таким образом, погрешность имеется уже в исходной информации. Как влияют округления и неточности в начальных данных на фактически найденную обратную матрицу?
Оказывается, что во многих широко используемых алгоритмах эффект ошибок округлений при вычислениях можно смоделировать при помощи возмущений лишь начальных данных. А именно, пусть задана невырожденная матрица А е Мп и мы хотим вычислить обратную к ней А-1, однако в действительности вычисляем матрицу (АД-Е)-1, где возмущение Е е Л1„ достаточно «мало», так что матрица А + Е обратима. Тогда ошибка равна А-1 — (А + Е)-1 = А^1—(/ + А-^)-^-1. Если р(Л”|Е)<; 1, то матрица А + Е будет обратимой и можно записать матрицу (У + Д-'Е)-1 в виде ряда по степеням матрицы А~!Е. Это дает
А"1 — (А + ЕГ' = А-1 - £ (-1/ (А^'е/ А-1 =к=9
= 2 (—l)ft+l(A-lE)ft А-1.
Таким образом, имеем точную формулу для ошибки
А-1 — (А + Е)-1 == X (-1)А+1(А"‘е)а А-1,(5.8.1)
если р (А^'е) < 1.
Теперь пусть имеется матричная норма ||-|| и выполнено предположение ||A~‘E||< 1, так что, в частности, р(Д-‘Е)< 1 и справедливо равенство (5.8.1). Тогда
Цд-'-М + ^ГНЬ £ (-D^^A-^yA"1
А—I
6=16=1IU^aIHa-I-IU^aIHa-I-JHZkL1 -ЦГТ11JHZkL1 -ЦГТ11
6=1
6=1
IU^aIHa-I-
IU^aIHa-I-
JHZkL1 -ЦГТ11
JHZkL1 -ЦГТ11
(5.8.2)(5.8.2)и мы получаем верхнюю границу относительной ошибки, совершаемой при вычислении обратной матрицы:
(5.8.2)
(5.8.2)
U-‘||1 -|| А-‘Е|Г
если |А ‘е|]<1.
Считая дополнительно матрицу Е настолько «малой», что ||£ || < 1/|| Л-1 II, приходим к неравенствам
р (Л-1£) ^|| Л'~1£|| ^|| Л-11||| £|| < 1
и получаем оценку
MZizJi±+^lZ!l < _!L£1^
ЦЛ-'Ц 1 - liar'll IIЛ 1 — II Л-1 IIIIЛ N (!|£-||/!| Л||) '
Величину
/дх f М^ЦНЛЦ, если Л невырожденна, -
X == S(и.о.и^
I оо,если Л вырожденна,
называют числом обусловленности матрицы А по отношению к матричной норме || -Ц. Заметим, что
х(Л)-=Ц л-11||| Л II ^11 л-^й^н 1 для любой матричной нормы.
Используя это обозначение, можно переписать последнюю оценку в виде
II Д"1-(Д II <„(Л)||£||8 ,
|| .4-! ||1 -х(Д)([[ЕЦ/[1ДЦ) ' 11ЛЦ ’. ‘ ‘ '
если ||£|| 11Л-1|| < 1. В этом неравенстве относительная ошибка в обратной матрице оценивается через относительную ошибку в исходной матрице. При малых значениях нормы ЦЕЦ правая часть в (5.8.4) эквивалентна выражению х(Л) НЕП/НЛП; таким образом, есть все основания считать, что относительная ошибка в обратной матрице имеет одинаковый порядок малости с относительной ошибкой в начальных данных прн условии, что величина х(Л) не слишком велика. Имея в виду задачу обращения, прн больших значениях х(Л) говорят о плохой обусловленности матрицы Л (по отношению к матричной норме || • II). Когда величина х(Л) мала (близка к единице), говорят о хорошей обусловленности матрицы Л (по отношению к матричной норме ||-||). Наконец, прн х(Л)=1 матрицу Л называют идеально обусловленной (по отношению к матричной норме ||-||).
В наиболее важном случае, когда используется спектральная матричная норма, имеется интересное геометрическое описание числа обусловленности. Пусть 0(Л) обозначает наименьший угол между векторами Ах и Ау для всевозможных пар ортонормнро- ванных векторов хну. Число обусловленности по отношению к спектральной норме равнох(Л) — ctg[0(Л)/2]. Следовательно, для унитарной матрицы А имеем 0(Л) = л/2 и ctg(n/4)=l = = А(Л). Если матрица А «близка к вырожденной», то найдется
некоторая пара ортонормироваиных векторов х, у, такая, что векторы Ах и Ау «почти параллельны». Тогда угол О (Л) будет мал и число обусловленности и (А) = ctg [О (А)/2] будет большим. Более подробно см. пример 7.4.26.
Упражнение. Показать, что для обратимой матрицы А е М„ справедливо равенство х(Л) = х(Л~!).
Упражнение. Пусть заданы унитарные матрицы U, V еМг1 и в определении числа обусловленности участвует спектральная норма (или любая другая унитарно инвариантная норма). Убедиться, что имеет место равенство
х (Л) = х (ПЛ) = х (ЛУ) = х (UAUY
Таким образом, унитарное преобразование дайной матрицы ие ухудшает ее обусловленности. Это наблюдение лежит в основе многих устойчивых численных алгоритмов линейной алгебры.
Упражнение. Обосновать неравенства х(АВ) ^ х(Л)х(5). Является ли функция х(-) матричной или векторной нормой на Мп?
Эти же соображения можно использовать для вывода априорных оценок точности решения системы линейных алгебраических уравнений. Пусть решению подлежит система уравнений
Ах — b, АеМп, Ьге,(5.8.5)
но вследствие ошибок в вычислениях или неопределенности в начальных данных фактически решается система
' (Л + EU = b, А, ЕеМт bee. (5.8.6)
Что можно сказать о величине ошибки х — х?
Если матрица Е настолько «мала», что р(Л-1£')<1, то в силу (5.8.1) имеем
х - X = А"ХЬ - (Л + ЕГХ ь = [л-1 - (Л + И)-1] b =
= Z (-П^С^П)^1^ £ (-l)ft+1^_I£)Ax. к=16 = 1
Пусть || ■ ||— матричная норма, в которой имеет место неравенство ||Л-1£'||< 1. Обозначение П-П сохраним и для согласованной с ней векторной нормы иа С". Тогда норма ошибки допускает оценку сверху
11*-Л<£ l^-^hlxlI^-M^jL-HxH.
1 -Нл^дЦ ’1 -Нл^дЦ ’В терминах относительных ошибок это означает, что
1 -Нл^дЦ ’
1 -Нл^дЦ ’
(5.8.7)
если ПЛ^ТЦ-С 1 и если векторная норма || • || на Сл согласована с матричной нормой ||-||. Отметим аналогию с оценкой сверху (5.8.2) относительной ошибки в обратной матрице и тот факт, что правая часть b рассматриваемой системы линейных уравнений не входит в верхнюю границу относительной ошибки в (5.8.7), Привлекая рассуждения, подобные приведенным выше при выводе неравенства (5.8.4), приходим к оценке относительной ошибки в решении системы (5.8.5) с участием числа обусловленности и(Л) матрицы А:
IH — ^11 х (Л) ||£||,г л
11*111 -хинцгил!!) ми ’
которая имеет место, когда | А-1|||| £|| < 1 и векторная норма || • || на С" согласована с матричной нормой || • ||. Какой бы метод ни применялся для решения системы линейных уравнений (5.8.5), относительная ошибка в решении оценивается сверху той же величиной, что и относительная ошибка в матрице, обратной к матрице коэффициентов данной системы.
На практике возмущению могут подвергнуться не только элементы матрицы коэффициентов А идеальной системы линейных уравнений (5.8.5), но и элементы вектора 6, правой части этой системы. Таким образом, оправдано желание заменить систему (5.8.6) на следующую:
(Л + £)^ = ^ + е,(5.8.9)
где матрицу £ еЛ4п и вектор е е Сп можно трактовать как «малые» ошибки в начальных данных.
Проводя аналогичные выкладки, получаем (при Ь У=0) оценку относительной ошибки в решении системы (5.8.9) по сравнению с решением системы (5.8.5):
IIX — ^ ||х (Л)||£|| ,X (Л) II е II ,
Й*И 1 -х(Л)(||£||/||Л||) || Л ||1 -х(Л)(||£||/||Л||) ||И1’
(5.8.10)
она верна при тех же предположениях, что и (5,8.8). Таким образом, граница для относительной ошибки определяется двумя слагаемыми, одно связано с относительной ошибкой в коэффициентах А, а другое — с относительной ошибкой в правой части 6. Число обусловленности х(Л) вновь играет решающую роль и определяет чувствительность оценки ошибки в решении к погрешностям в начальных данных.
Все оценки ошибок, полученные нами до сих пор, были априорными: в выражения для границ ошибок не входят ни само вычисленное решение, ни какие-либо величины, связанные с этим решением. Предположим, однако, что было найдено некоторое приближенное «решение» х системы (5.8.5). Точное равенство Ах = b в этом случае может быть нарушено. При помощи вектора невязки г = b—Ах можно оценить, насколько вектор х близок к истинному решению х. В силу равенств А~‘г = = А-1 [6 — Ах] = А-1Ь — х = х — х имеем простую оценку || х — х || < || A'V 1|. Вводя матричную норму || • ||, согласованную с векторной нормой || • ||, приходим к соотношениям ||6|| = = || Ах || <|| А |1|| х ||, или 1 < || А |||| х ||/|| b || при 6^0. Следовательно,
||x--x||<h~l|r||<-^^M~4iM
Итак, при замене точного решения X (удовлетворяющего равенству Ах = Ь) на. приближенное решение х (такое, что Ах = = b — г) получаем при b 0 оценку
II X X || — £ д IIЛ II /coin -^-^„(Д).^, (5.8.11)
в которой матричная норма, используемая в определении числа обусловленности х(Д), предполагается согласованной с нормой векторов ||-||. Относительная ошибка решения системы с хорошей обусловленностью сравнима с относительной величиной невязки. В случае плохо обусловленных систем приближенное решение даже с малой невязкой может очень существенно отличаться от истинного решения:
В качестве заключительного замечания о применении норм для оценивания ошибок обратим внимание на то, что оценки сверху, полученные в этом параграфе, — всего лишь оценки сверху. Верхняя граница может быть велика, а фактическая ошибка может, тем ие меиее, быть небольшой. Для всех таких оценок характерен консерватизм: оии приводят к чрезмерно завышенным границам ошибки для многих задач. Одиако если среднего размера матрица А с элементами умеренной величины плохо обусловлена, то в матрице А-1 обязательно будут присутствовать большие элементы. В этой ситуации следует соблюдать особенную осторожность по следующей причине.
Пусть Ах = Ь и С — [cf/] ^ Д-1. Дифференцируем равенство х — СЬ по элементам Ь,, что приводит к соотношениям
= Ц / = 1, 2, ..., п. (5.8.12)
Кроме того, если рассмотреть матрицу С = Д-1 как функцию от матрицы А, то ее элементы являются просто рациональными функциями элементов матрицы А и, следовательно, их можно дифференцировать. Запишем равенство СА = 1 поэлементно:
^ip^pq ^iqi 91 > • • • ,
р = 1
и возьмем производную по переменной а^. Получаем
+ ^qkcij = 0,+ ^qkcij = 0,
+ ^qkcij = 0,
+ ^qkcij = 0,
или, эквивалентно, 11 д'"
2 "dajh aPq ~ ~^qk^il> h h k, 7 = 1 > p-1
Дифференцируя теперь x = Cb также по aJb, приходим к равенству
иХ[уч иС£руч уч иС[р
да,-кL да^ Р 2-i 2-1 да,^ аРЧХЧ
р-1р-1 q=Y
4 = 1 Lp-1J4 = 14 = 1 Lp-1J4 = 1
4 = 1 Lp-1J4 = 1
4 = 1 Lp-1J4 = 1
что эквивалентно соотношению
д^” Сц^скрЬр.д^” Сц^скрЬр.(5.8.13)(5.8.13)
д^” Сц^скрЬр.
д^” Сц^скрЬр.
(5.8.13)
(5.8.13)
Если в матрице С = А-1 имеются относительно большие элементы, то в силу соотношений (5.8.12) и (5.8.13) некоторые компоненты решения х могут обладать неминуемо большой чувствительностью к возмущениям в некоторых компонентах правой части бив элементах матрицы коэффициентов А.
Задачи
Показать, что число обусловленности невырожденной нормальной матрицы по отношению к спектральной норме задается формулой
х (Д) = р (Д) р (Д- *) = I Лтах (Д)Ат!п (Д) |.
(Здесь и далее под максимальными и минимальными собственными значениями понимаются максимальные и минимальные по
абсолютной величине. — Перее.)
Вычислить собственные значения матрицы
Г 1—1 ]
Л =, е > 0,
[ —1 1 + ej
и обратную к ней. Убедиться, что при е->0 отношение максимального собственного значения матрицы А к минимальному будет порядка е-1. Используя результат задачи 1, вывести отсюда, что число обусловленности по отношению к спектральной норме представимо в виде х(Л) = О(е-1). Обосновать справедливость равенства х(Л) = О(е-1) по отношению к произвольной норме н тем самым убедиться в плохой обусловленности матрицы А при е->оо. Привлечь явный вид матрицы Л-1, чтобы проверить справедливость соотношения х(Л) = О(е-1) для любой матричной нормы.
Найтн собственные значения и обратную для матрицы
Показать, что отношение максимального собственного значения матрицы В к минимальному прн е->0 будет порядка единицы. Убедиться, однако, что х(В) = О(е-1) по отношению к произвольной матричной норме и, следовательно, матрица В плохо обусловлена прн е->0. Приходим к выводу, что отношение максимального собственного значения к минимальному не обязано совпадать с числом обусловленности, если матрица не является нормальной.
Величина числа обусловленности х(Л) зависит от матричной нормы, используемой в его определении. Показать, однако, что различные нормы приводят к эквивалентным определениям числа обусловленности в следующем смысле. Пусть
ха(Л)^|| Л-1 Щ Л ||а, Хр = ||Л-Ч1р1|Л||р,
тогда существуют конечные положительные константы Ст н См, связывающие эти числа неравенствами
Стха(А) ^ хр(Л) ^ Смха(Л) для всех матриц А е Мп.
Показать, что любая унитарная матрица U идеально обусловлена (х(П)=1) по отношению к спектральной норме. Однако в случае /2-нормы число обусловленности х(П) каждой унитарной матрицы U еМп равно п.
Вывести неравенство х (Л) ^ | Zmax (Л)/Ат1П (Д) | для произвольной невырожденной матрицы А е Мп н любой матричной нормы. Следовательно, если отношение соответствующих собственных значений велико, то матрица обязательно будет плохо обусловленной, является лн она нормальной нлн нет. Матрица, не являющаяся нормальной, может быть плохо обусловленной
даже при небольшом разбросе собственных значений, как видно из примера в задаче 3.
Провести детальное доказательство оценки (5.8.10), которая обобщает оценку (5.8.8) и совпадает с ней при е = 0.
Пусть х — единичный вектор в пространстве С", и пусть X > 0. Показать, что матрица Д = / + Ххх* эрмитова, ее собственные значения равны единице (кратности п—1) и 1 + 7 и число обусловленности (по отношению к спектральной норме) есть х(Д) = 1 + 7. Это позволяет просто строить примеры обратимых матриц с ограниченными элементами и сколь угодно большим числом обусловленности. Каким образом?
Пусть матрица В из задачи 3 играет роль матрицы коэффициентов системы линейных уравнений Вх = [1,1]г с точным решением х — [1,0] г, и пусть задано приближенное решение х = [1 + е~1/2, е~1/2] г. Проверить, что для относительной величины невязки имеем выражение ||г||/||6|| = О (е1/2)-* 0 при е->0, в то же время для относительной ошибки в решении ||х— х||/||х|| = О (е_1/2)-> оо при е—>0. Таким образом, малая невязка может соответствовать весьма грубому приближенному решению. Объяснить этот факт, опираясь на оценку (5.8.11).
Если величина определителя А мала (или велика), должно ли число обусловленности х(Д) быть большим? Указание. Рассмотреть матрицы вида А = XI еМ„.
Утверждение (5.8.4) слабее, чем (5.8.2), уже потому, что предположение ||Д-1||||£|| < 1 более ограничительно по сравнению с |1Л-1£|1< 1- Кроме того, даже в условиях более сильного предположения в (5.8.2) может получиться все же лучшая верхняя граница, чем в (5.8.4). Пояснить это на примере возмущения Е — еЛ, 0 < е < 1.
Получить аналоги оценок (5.8.7) и (5.8.8), когда уравнения (5.8.5) и (5.8.6) заменяются на матричные уравнения
АХ = В, (А + Е)Х = В,
в которых А, ЕеМп, X, ВеМ^. Рассмотреть частный случай к = п и В = Е Помогает ли это «объяснить», почему правые части в неравенствах (5.8.2) и (5.8.7) совпадают?
Все оценки ошибки в обратной матрице мы получали, исходя из разложения в (5.8.1), которое имеет место при условии р(Д-1£)-< 1. Доказать, что в случае обратимых матриц А и А + Е справедливо неравенство
|| Д~* - (Л + ЕГ1 II < II А"11| || (Л + ЕГ1 IIII Е ||
для любой матричной нормы || • || независимо от величины спектрального радиуса матрицы А-1Е. Указание. Использовать представление Д-1— (Л + £)~* = (4 + Е^ЕА-1. .
Возможно, одним из самых упоминаемых примеров плохо обусловленной матрицы является, матрица Гильберта Нп = = \htj\G:Mn с элементами Иц = \ / ^i-V 1—1). Проверить, что число обусловленности матрицы Нл по отношению к спектральной норме дается формулой |XmaxAmin|. Известно, что число обусловленности матрицы Гильберта асимптотически совпадает с экспонентой есп, где константа с равна примерно 3.5, а для спектрального радиуса справедливо представление р(Яп) = л + + О [l/(log п) ] при п -> оо. Например,
х(Я3)~5-102, х(Я6)~ 1.5-107, х(Я8) 1.5 • 1010.
Чем объяснить столь плохую обусловленность матрицы Гильберта Нп, ведь элементы матриц Нл все равномерно ограничены и спектральный радиус р(Яп) не очень большой?
Обосновать равенства х (Д*Д) = х (ДД*) = [х(Д!]2, в которых число обусловленности измеряется по отношению к спектральной норме. Объяснить, почему задача А*Ах = у в силу своих особенностей может оказаться более трудной для численного решения, чем задача Ах = z.
Пусть матрица А е Мп иевырожденна. При помощи неравенства из задачи 37 § 5.6 показать, что х(Д) ^||ДЦ/ЦД— ВЦ для любой вырожденной матрицы В е Мл, где 11 -1|—произвольная матричная норма и х(-) — соответствующее ей число обусловленности. Эта оценка снизу может быть полезна, когда требуется установить плохую обусловленность данной матрицы А.
Пусть А =[«//] еМ„— верхняя треугольная матрица, у которой все диагональные элементы ненулевые: а,/^0. Используя результат задачи 16, убедиться, что для числа обусловленности по отношению к максимальной строчной норме справедлива оценка снизу
minl<^| аИ | '
Дополнительная литература
Проблема априорного оценивания ошибок при решении систем линейных уравнений является одной из центральных в численной линейной алгебре, см. [Ste].
Глава 6
ЛОКАЛИЗАЦИЯ И ВОЗМУЩЕНИЯ
СОБСТВЕННЫХ ЗНАЧЕНИЙ
Собственные значения диагональной матрицы указать очень легко. Учитывая, что собственные^зна^ения непрерывно зависят от элементов матрицы, естественно задаться вопросом: можно ли сказать что-нибудь полезное о собственных значениях матрицы, внедиагональные элементы которой «малы» по сравнению с элементами главной диагонали. Матрицы этого рода встречаются в приложениях; такими могут быть матрицы больших систем линейных уравнений, к которым приводит численная дискретизация краевых задач для эллиптических уравнений с частными производными.
При изучении долгосрочной устойчивости колебательной системы, описываемой системой дифференциальных уравнений, нередко приходится доказывать, что все собственные значения Xi соответствующей матрицы принадлежат левой полуплоскости, т. е. Re л.- < 0. А в статистике или численном анализе часто требуется доказывать положительную определенность эрмитовых матриц, т. е. свойство Xi > 0.
Иногда бывает желательно локализовать собственные значения матрицы в некотором ограниченном множестве, которое можно легко охарактеризовать. Мы знаем, что все собственные значения матрицы А расположены в круге комплексной плоскости с центром в нуле и радиусом |ИII; матричная норма здесь произвольна. Нельзя лн усилить это утверждение путем более точного описания областей, содержащих все собственные значения нли, наоборот, не содержащих ни одного собственного значения матрицы А? Мы увидим, что это возможно.
Наконец, предположим, что собственные значения матрицы А известны точно, но затем А подвергнута возмущению: А ->■ ->А + Е- Как при этом изменятся собственные значения? Поскольку они непрерывно зависят от элементов матрицы, есть основания полагать, что прн достаточно малой матрице возмущения Е собственные значения не должны изменяться слишком сильно. Но нужны точные оценки, чтобы знать в каждом случае, насколько малы должны быть «малые» матрицы. Основной вопрос здесь тот же, что в § 5.8, где обсуждалась чувствительность решения системы линейных уравнений к возмущениям входных данных.
Круги Гершгорина
Матрицу A s Мп всегда можно представить в виде А = = D А-В, где D = diag(an, ..., апА— просто диагональная часть матрицы А, а у В главная диагональ нулевая. Если положить Ак = D + eS для произвольного е е С, то Ао = D и Aj = А. Собственные значения матрицы Ао = D локализовать легко: это точки ап, ..., апп на комплексной плоскости. Естественно предположить, что при достаточно малом е собственные значения матрицы Ае будут находиться в некоторых малых окрестностях точек ац, ..., апп. Следующая теорема (часто называемая теоремой о кругах Гершгорина) придает этому предположению точную форму: действительно, существуют легко вычисляемые круги с центрами в точках ап, заведомо содержащие собственные значения.
Теорема (Гершгорин). Пусть A = \aii\eMn, и пусть символы
Н'М=^\аИ\, Y^i^n,'
обозначают строчные почти-нормы матрицы А. В таком случае все собственные значения матрицы А заключены в объединении п кругов
U Ue С: |2-аг;1^^и)} = С(Л).(6.1.2)
Кроме того, если объединение k из этих кругов есть связная область, не пересекающаяся с остальными п — к кругами, то в ней находится ровно k собственных значений матрицы А.
Доказательство. Пусть X— собственное значение матрицы А, и пусть Ах = Хх, х = [х,]=#0. Пусть хр—компонента вектора х с наибольшей абсолютной величиной: |хр|^|хг|, t= 1,2, .,. ..., п; хр N= 0. Равенство Ах = Хх подразумевает, что
^Хр [^х]р [Ах]р =: ^ аР]Х},
а это эквивалентно равенству
Хр (Л ^ppY== ^j ^pj^j*
i^p
Но тогда, пользуясь неравенством треугольника, заключаем, что
I хр 11X — арр [ =I хр 11X — арр [ =S aP1Xji^pS aP1Xji^pпп
I хр 11X — арр [ =
I хр 11X — арр [ =
S aP1Xj
i^p
S aP1Xj
i^p
п
п
Пп
^ 2 I ар} 11X] | ^ | хр I ^ I ар] I — I Хр I Rp.
i-V/ = 1
i^pi+p
Итак, | Л — aPp\^Rp Для некоторого р, т. е. X находится в замкнутом круге с центром арр /и радиусом Rp. Поскольку мы не знаем, какое р соответствует данному X (разве что известен соответствующий собственный вектор, но в этом случае мы знали бы X точно и не нуждались бы в его локализации), то можно лишь утверждать, что X принадлежит объединению всех таких кругов, т. е. области (6.1.2).
Чтобы доказать второе утверждение теоремы, положим А = D + В, где Z) = diag (ап, ..., апп) и Ае = D + еВ. Отметим, что Ri Ме) — Ri (еВ) — eRi (Л) ). Удобно считать, что именно первые к кругов
и {геС: |г —azz|</?z} z=i
составляют связную область Gk, не пересекающуюся с допол- н отельной областью G0^ образованной прочими п — к кругами, (т. е. Gh — G (И) \ G^. Заметим, что объединение первых к кругов матрицы Ае
Gt(e)S (J Ье С: | г - аи | < Rt (Ле) = eRi (Л)} i=i
при всех е е [О, 1] содержится в связном множестве Gk = Gk (1), ю само Gk^ не обязано быть связным для всех е. Кроме того, никакая из дополнительных областей Gk (е) = Gn (е) \ Gk (е) не может пересекаться с Gk. Рассмотрим собственные значения ХДА^ — аи и Х,(Ае), е > 0, для /—1, . ..,к. Поскольку собственные значения непрерывно зависят от элементов матрицы А (см. приложение D) и для всех е е [0, 1] справедливы включения Х; (Ле) е Gk (е) cz Gk, то каждое Хг(Л0) соединено с некоторым X; MJ = Xz (Л) непрерывной кривой, принадлежащей Gk и образованной точками {Х,(Ле): O^e^l). Итак, при каждом е е [0, 1] в G^e) содержится по крайней мере к собственных значений матрицы Ле. Но больше, чем к, и не может быть, так как остальные п — к собственных значений матрицы ЛЕ выхо-
дят (при е = 0) нз точек, расположенных вне связного множества Gh, н описывают непрерывные кривые, которые должны оставаться в дополнительной области GL Вследствие соображении непрерывности и связности (конкретней, речь идет о свойстве непрерывных функций принимать промежуточные значения) онн не могут преодолеть, разрыв между Gck н Gk. □
Область1) G (Л) в определении (6.1.2) часто называют (строчной) областью Гершгорина, отдельные круги в С(Л)— кругами Гершгорина, а их границы — окружностями Гершгорина. Поскольку Л и Ат имеют один н те же собственные значения, то можно получить столбцовый вариант теоремы Гершгорина, применяя теорему 6.1.1 к матрице Ат. В результате получится область, содержащая собственные значения матрицы А и описываемая в терминах столбцовых почти-норм
с;(л)=х । «^ и
Следствие. Все собственные значения матрицы Л =» = [а,/] е Мп принадлежат объединению п кругов
(6.1.4) /-i
Кроме того, если объединение к из этих кругов есть связная область, не пересекающаяся с остальными п — к кругами, то в ней находятся ровно к собственных значений матрицы А.
Упражнение. Показать, что все собственные значения матрицы А принадлежат пересечению областей (6.1.2) и (6.1.4), т.е. множеству G (Л) Г| G (Лг). Проиллюстрировать это на примере матрицы порядка 3 с элементами а,, = L/j.
Поскольку все собственные значения матрицы А находятся в каждой из областей (6.1.2) н (6.1.4), там же находится и собственное значение с наибольшим модулем. Точка z-ro круга области С(Л), наиболее удаленная от начала координат, имеет модуль
\au\-V К'» = ^\аИ.\.
Наибольшая нз этих величин должна быть верхней оценкой для наибольшего модуля собственного значения матрицы А. Разумеется, такое же рассуждение можно провести для столбцовых норм.
Следствие. Для матрицы А = [аД е М„ справедливо неравенство
( п п
р (Л) ^ min ч max X I ai I, max X I ац I г •
I i 1=1i i=l )
Этот результат неудивителен, ведь он говорит, что р(Л)^ стЛЛЦсо и р (Л) ^ЦЛ7!^ (напомним, что эти символы обозначают матричные нормы, называемые соответственно максимальной строчной нормой и максимальной столбцовой нормой), а такое соотношение выполняется для любой матричной нормы. Но интересно, что этот факт л^ожно получить по существу из чисто геометрических соображений.
Для любой обратимой матрицы 3 матрица 3-1ЛЗ имеет те же собственные значения, что и Л. Поэтому теорему Гершго- рина можно применить к 3-1ЛЗ; возможно, что при подходящем выборе 3 удастся получить более точные оценки для собственных значений. Особенно удобен выбор S = D = diag(pi, р2, рД, где все pi > 0. Легко вычислить, что D"XAD = = Хр^ы/рЛ ■ Теорема Гершгорииа, записанная для D"XAD и для транспонированной к ней матрицы, дает такой результат.
Следствие. Пусть А=[ац]^Мп, и пусть рх, р2, ... ..., рп — положительные числа. В таком случае все собствен-
Рис. 6.17.Рис. 6.17.
Рис. 6.17.
Рис. 6.17.
ноле значения матрицы А принадлежат каждой из двух областей и LsC: |г —X Д, ct4 |l = G (D~XAD), t=iPi /=i4
Ч1*1'
Матрица A = [02] имеет собственные значения 1 и 2. Прямое применение теоремы Гершгорииа дает грубые оценки собственных значений (см. рис. 6.1.7а). В то же время гибкость,
обеспечиваемая дополнительными параметрами, введенными в следствии 6.1.6, позволяет получить сколь угодно точные оценки (рис. 6.1.7b).
Упражнение. Рассмотреть матрицу
7-168'
А = -167 -8 .
8-8 —5-
Извлечь из теоремы Гершгорина максимум информации о расположении собственных значений и величине спектрального радиуса этой матрицы. Затем рассмотреть матрицы вида D~'AD, где D = diag(pi, р^, р3), и выяснить, можно ли улучшить локализацию собственных значений. Наконец, вычислить собственные значения матрицы А и прокомментировать качество полученных оценок.
Упражнение. Показать, что каждое собственное значение матрицы А принадлежит множеству П G(D~1AD'), где пересече- D
ние берется по всем диагональным матрицам с положительными диагональными элементами.
Идею введения свободных параметров можно использовать и для того, чтобы получить более общую форму оценок (6.1.5) для спектрального радиуса.
Следствие. Пусть А [а;/] е М„. Тогда
1 п
р(Л)^ min шах —
Р,Р„>0 1</<п Pi 1-11
п
р(Л)< min max
рр ...,р„>0 1</<ЛPi
Упражнение. Доказать следствие 6.1.8.
Упражнение. Пусть a, b, с, d— положительные числа и А =
Прямым вычислением найти диагональную матрицу D, такую, что ||5""1ЛД||оо = т!п||£)-1ЛО||оо. Минимум берется по
■D
всем диагональным матрицам D с положительными диагональными элементами. .
Вычислить ||O~M5 ||то = г.
Вычислить р(Л).
Обратить внимание на то, что г = р(Л).
14 Р. Хорн, 4. Джонсон
Позже мы покажем, что для любой положительной (или, более общо, неразложимой неотрицательной) ц X ^-матрицы Л минимум нормы П^-’ДДЦоо по всем диагональным матрицам D равен спектральному радиусу Л. В случае матрицы общего вида такое утверждение неверно.
Упражнение. Рассмотреть матрицу Д = [_*5 ’]. Показать, что р (Л) < mini, D~lAD Ц^; минимум берется по всем D = = diag(pb р2) с положительными рх, р2.
Если относительно матрицы имеется некоторая дополнительная информация, в силу которой собственные значения принадлежат (или не принадлежат) каким-то конкретным множествам, то в сочетании с теоремой Гершгорина эта информация может привести к более точной локализации собственных значений. Например, собственные значения эрмитовой матрицы А вещественны, а потому должны принадлежать множеству RBG(/1), представляющему собой конечное объединение замкнутых вещественных интервалов.
Упражнение. Что можно сказать о расположении собственных значений косоэрмитовой матрицы? Унитарной матрицы? Вещественной ортогональной матрицы?
Матрица обратима тогда и только тогда, когда 0 не является ее собственным значением. Поэтому интерес представляет вывод условий, которые бы исключали нуль из области, содержащей все собственные значения.
Определение. Пусть / = [аь] е Мп. Говорят, что А — матрица с диагональным преобладанием, если
|а»1> Е|а;/1 = ^> <=1п.
i*t
Говорят, что А — матрица со строгим диагональным преобладанием, если
|а«|> Е |а,7| = Т?ц 1 = 1п.
Геометрия ситуации ясно показывает, что для матрицы А со строгим диагональным преобладанием 0 не может принадлежать никакому гершгоринскому кругу. Если при этом все диагональные элементы ац вещественны и положительны, то каждый круг в действительности принадлежит открытой правой полуплоскости; если А вдобавок эрмитова, то все ее собственные
значения должны быть положительными. Суммируем эти замечания в следующей теореме; ее часть (а) в качестве самостоятельного утверждения известна как теорема Леви—Деспланка (см. следствие 5.6.17).
Теорема. Пусть Л = [ац]е Мп — матрица со строгим диагональным преобладанием. Тогда
Л обратима;
если диагональные элементы матрицы Л положительны, то все ее собственные значения имеют положительную вещественную часть;
если Л эрмитова и все ее диагональные элементы положительны, то все ее собственные значения положительны.
Упражнение. С помощью матриц [} }], [^ ,] показать, что простое диагональное преобладание не гарантирует обратимости, а строгое диагональное преобладание не является ее необходимым условием.
Используя дополнительные параметры следствия 6.1.6, можно несколько ослабить требование строгого диагонального преобладания как достаточное условие обратимости.
61.11. Теорема. Пусть у матрицы Л = [az/] е Мп все диагональные элементы ненулевые и она является матрицей с диагональным преобладанием, причем для всех, кроме одного, значений ( = 1,2, ..., п это свойство выполняется в сильной форме, т. е. | аи | > Ri. В таком случае Л обратима.
Доказательство. Предположения теоремы означают, что \акк \ = Rk для некоторого к, а для i^k справедливо неравенство |a;J>^/. В следствии 6.1.6 положим pt = \, 1т^к; pk = = 1 + е, е > 0. Тогда
£ Pi I ам | = R'k < | ahk I, Рк 1 1 1 e
— X рДаи ! = /?( + e\atk |, 1=^к,
Pi j-i 1 1
i^i
для любого положительного e. Так как /?><|a/J для всех i^k, то можно выбрать настолько малое е > 0, чтобы одновременно для всех 1^=к было Ri + е| а1к | < | аи |. Согласно следствию 6.1.6, точка 2 = 0 внешняя для соответствующей области G^D-VAD^, поэтому Л должна быть обратимой. □
■ Теорема Гершгорина и ее вариации дают области включения для собственных значений матрицы А, зависящие только от ее диагональных элементов и абсолютных величин внедиагональных элементов. Основываясь на совпадении собственных значений матриц S-MS и А, мы пришли к следствию 6.1.6 и заключению о том, что замкнутое множество
QG(D-MD), D = diag(pb .... р„), VPi>0, (6.1.12)
содержит все собственные значения для A е Мп. Понятно, что мы могли бы получить еще меньшие области включения для собственных значений, если допустили бы более сложные преобразования подобия, чем диагональные. Однако если все же ограничиться только диагональными подобиями и использовать исключительно диагональные элементы и модули внедиагональных, то можно ли уменьшить области (6.1.12)?
Ответ оказывается отрицательным по следующей причине. Пусть г — произвольная точка границы множества (6.1.12). Согласно теореме, доказанной Р. Варгой, существует матрица В = = [б.,] е Мп, такая, что ba = ап, i = 1, ..., п, 16/, | = | «//1 Для i, j = l, ..., п и г есть собственное значение матрицы В. -
Задачи
Рассмотреть следующий итерационный алгоритм решения системы линейных уравнений Ах = у порядка п, с заданными А и у:
положить В = 1 — А и переписать систему в виде х = = ВхА-у;'
выбрать произвольное начальное приближение х№ к решению;
для m = 0, 1, 2, ... вычислить x,m+I) = Bxw + у,
проверить, будет ли последовательность ^ сходиться к решению х.
Обозначить через e<m’ = x<m) — х ошибку m-го приближения к решению; показать, что е(т) = Вт (х(0) — х).
Вывести отсюда, что если р(/— Л)<1, то этот алгоритм работает, т, е. х(т)->х при т->оо независимо от выбора начального приближения х№.
Используя теорему Гершгорина, получить простое достаточное условие для А, обеспечивающее, что алгоритм будет работать.
Показать, что П G (S_MS) = с (Л), где пересечение берется s
по всем невырожденным матрицам S.
Используя следствие 6.1.5, доказать для произвольной матрицы А е Мп неравенство
I det Л |^n(S 1^/1)
н аналогичное неравенство для столбцов. Указание. Если матрица А содержит нулевую строку, то доказывать нечего. Если все ее строки ненулевые, то обозначим через В матрицу, получаемую из А делением строк на соответствующие строчные нормы (суммы модулей элементов). Тогда, согласно 6.1.5, p(S)^ 1, откуда [detB|^ 1. Это означает, что
I det Л ft lla(- Пь
«=1
где в качестве векторов а, берутся строки (илн столбцы) матрицы А. Справедливо ли аналогичное неравенство для других норм? Указание. См. следствие 7.8.2.
В основном тексте теорема 6.1.10(a), т. е. теорема Левн — Деспланка, была получена как следствие теоремы Гершгорныа. Показать, что, наоборот, первую часть теоремы 6.1.1 (а именно, то, что область (6.1.2) заключает в себе все собственные значения матрицы А) можно вывести нз теоремы 6.1.10(a). Указание. Применить теорему 6.1.10(a) к матрице 7./— А.
Пусть А е Мл— вещественная матрица, все круги Герш- горина которой попарно не пересекаются. Показать, что все ее собственные значения вещественны. Более общо, показать, что то же самое верно н по тем же причинам, для комплексной матрицы А е Мп с вещественными диагональными элементами и характеристическим многочленом, имеющим только вещественные коэффициенты.
Пусть для матрицы А = [а<;]еМ„ справедливо неравенство | аи | > Ri для & различных значений I. Показать, что k rank А.
Предположим, что матрица АеМп ндемпотентна (т. е. А2 = А), по А =# I. Показать, что А не может быть матрицей со строгим диагональным преобладанием (нли быть 1. d. d.-матрицей; см. 6.2.25 и 6.2.27).
Предположим, что А е М„ — матрица со строгим диагональным преобладанием, т. е. | аи | > Ri для всех i = 1п. Показать, что | акк | > Сь хотя бы для одного значения к = = 1, . .., п.
Пусть матрица А = [а;Д е Мп имеет строгое диагональное преобладание, и пусть Z> = diag(aH, а^, ..., апп\ Показать,
что D обратима и р(/— D *Л)<1, Указание. Использовать следствие 6.1.5.
Пусть А = [а,/] е Мп, и пусть Rt = Ri + | аи | обозначает сумму модулей элементов Z-й строки А. Показать, что
rank А>У
Ki
1 = 1
если считать нулями слагаемые вида 0/0. Указание. Умножение всех элементов строки на одно и то же ненулевое число не меняет ранга. Поэтому достаточно рассмотреть случай, когда все ац неотрицательны, a Rt равны 0 либо 1. Все собственные значения такой матрицы А принадлежат единичному кругу, и нужно показать, что
rank А > X Оц.
1 = 1
Проверить, что X ан = tr А =Х«Х| Л( | ^ (число ненулевых собственных значений Л) 5/ rank А.
Пусть А = [а,Д = \aYa2 ... ап]^Мп. Доказать, что
Слагаемые вида 0/0 считаются нулями. Указание. Как и в задаче 10, достаточно ограничиться частным случаем, а именно когда все столбцы А имеют единичную евклидову длину, т. е. НагПз = 1 для всех L Тогда нужно проверить неравенство
rank А > X I du |2 = X I e'iUi | ,i=11=1
где (еь е2, ..., еп] — естественный ортонормированный базис пространства С". Пусть k = rank А. Показать, что существует ортонормированная система векторов иь ..., vk г С”, такая, что Span(vb ..., v6} = Span (аь . ,.,ап]. Отсюда
at = X (^() V/, eiat = X (v/«<) (ещ,) /-1/-1at = X (^() V/, eiat = X (v/«<) (ещ,) /-1/-16 П266 П26кк'
at = X (^() V/, eiat = X (v/«<) (ещ,) /-1/-1
at = X (^() V/, eiat = X (v/«<) (ещ,) /-1/-1
6 П26
6 П26
= X X WiVj I = х 1 = ^ = rank л-
/-1 i-г * i-i
Дополнительная литература
Обсуждение теоремы Гершгорина и относящихся к ней численных примеров можно найти в книге [Ste]. Исходной публикацией является статья: Gersgorin S. Uber die Abgrenzung der Eigenwerte einer Matrix. — Изв. АН СССР, 1931, т. 7, с. 749— 754. Существует обобщение теоремы Гершгорина, дающее области включения для спектра матричного пучка Ах = ХВх, в том числе и для случая, когда матрица В вырожденца; см. работу: Stewart G. W. Gerschgorin Theory for the Generalized Eigenvalue Problem. — Math. Comput., 1975, v. 29, p. 600—606. Доказательство свойства оптимальности области (6.1.12), указанного в последнем абзаце параграфа, дано в статье: Varga R. Minimal Gerschgorin Sets. — Pacific J. Math., 1965, v. 15, p. 719—729.
Круги Гершгорина — более пристальный взгляд
Мы видели, что строгое диагональное преобладание достаточно для обратимости матрицы, но это не относится к простому диагональному преобладанию. Рассмотрение некоторых примеров 2-го порядка наводит на мысль, что диагональное преобладание плюс строгое неравенство
(6.2.1)(6.2.1)|a»l> Ela//I
(6.2.1)
(6.2.1)
хотя бы для одного значения « = 1, ..., п могли бы уже обеспечивать обратимость. К сожалению, это не так, как показы
вает матрицавает матрица
вает матрица
вает матрица
(6.2.2)(6.2.2)"421"0 1 1-011-
(6.2.2)
(6.2.2)
Но что же тогда происходит на самом деле?
Если А — матрица с диагональным преобладанием, то нуль не может быть внутренней точкой области С(Д), а лишь, в худшем случае, ее граничной точкой. Однако он может находиться на границе более чем одного круга Гершгорина. И если даже нуль лежит на границе области С(Д), он не обязан быть собственным значением матрицы А. К счастью, внимательный анализ доказательства теоремы 6.1.1 проясняет, что в действительности происходит с граничным собственным значением.
г не является внутреннейi = 1, ..., п.г не является внутреннейi = 1, ..., п.Упражнение. Показать, что если точкой для С(Л), то
г не является внутренней
i = 1, ..., п.
г не является внутренней
i = 1, ..., п.
п
I z — аи\> R'i=y,\ а^ |,
/=1i^i
Лемма. Пусть собственное значение X матрицы Л = = [а1(]еМ„ находится на границе области G(A). Пусть Ах = Хх, x = [xJ=t^0, и пусть индекс р таков, что |хр|= шах 1^,1 =
= 11^11^=5^0. Тогда"
если для индекса k справедливо равенство | хк | = | хр |, то
I X — акк | = Rk, т. е. к-я окружность Гершгорина проходит через X",
если для некоторого к = 1, ..., п выполняется | хк | = | хр | и при этом ак!=#0 для какого-то j=#k, то верно и равенство \Xj\ = \xp |.
Доказательство. Так же как в доказательстве теоремы Гершгорина,
(A — auVi= S ^Хр
/=1
откуда
= Ё |а;/Н^/К X|ai7'll^l = ^l^l- (6.2.4)
/ ¥= i/ * i
Итак, если для индекса к выполняется | хк | = | хр |, то должно быть
I X — акк |<Rk.
С другой стороны, из предположения о том, что X находится на границе области О(Л), вытекают неравенства | X — аи | ^ Ri для всех z = 1п. Отсюда выводим, что при i = к в обоих неравенствах (6.2.4) в действительности должно иметь место равенство, т. е.
[А — акк\\хк\= £ | aft/ ||лг, |= £ | ам 11 хк | = Rh | хк |.(*)
Поскольку | xk | = || х j^ > 0, то утверждение (а) следует из равенства
П 1 = /?й| |.
Утверждение (Ь) получаем из центрального равенства в (*):
п £ |a6/|(|xfc| —|х/|) = 0, /=1
учитывая, что каждый член этой суммы неотрицателен. □
Эта лемма кажется чисто технической, но из нее немедленно вытекают полезная теорема 6.2.5 и ее следствие.
Теорема. Пусть собственное значение X матрицы Л еМ„ является граничной точкой области О(Л). Предположим, что все элементы матрицы А ненулевые. Тогда
каждая окружность Гершгорина проходит через X;
если Ах = кх, х = [xj ^ 0, то | xt | = | х, | для всех I, j = = 1, ..., п.
Упражнение. Вывести теорему 6.2.5 из леммы 6.2.3.
Следствие. Пусть A=[aij]^Mn, причем все ее элементы ненулевые. Если А—матрица с диагональным преобладанием и хотя бы для одного значения ; = 1п выполняется неравенство | а{11 > Ri, то А обратима.
Доказательство. Если бы А не была обратима, то опа имела бы собственное значение 0. Вследствие диагонального преобладания нуль не может быть внутренней точкой области О (Л) и, следовательно, должен быть ее граничной точкой. Согласно теореме 6.2.5, каждая окружность Гершгорина должна проходить через 0. Однако Гя окружность Гершгорина проходить через 0 не может, поскольку | а^ | > Ri. □
Этот результат и полезен, и интересен; но мы можем значительно усилить его (в смысле отказа от требования, чтобы все элементы матрицы были ненулевыми), если более полно используем информацию, заключенную в лемме 6.2.3.
Определение. Говорят, что матрица А = \а.{Де М„ обладает свойством SC, если для любой пары различных целых чисел р, q, 1 ^ р, q ^ п, найдется последовательность различных целых чисел ki = р, кг, ка, ..., km-\, кт = q, 1 ^ т ^ п, таких, что все элементы последовательности аь ь , аь,ьз, ... ..., аьп1_1кт не равны нулю.
Например, матрица (6.2.2) свойством SC не обладает, потому что для пары (2,1) нужной последовательности ненулевых матричных элементов нет. В то же время для пары (1,2) такая последовательность имеется.
Используя введенное понятие и лемму 6.2.3, можем получить следующее усиление теоремы 6.2.5.
Более сильная теорема. Пусть собственное значение X матрицы А = [а,,] е Мп является граничной точкой области О(Л). Если А обладает свойством SC, то
каждая окружность Гершгорина проходит через X;
если Ах=Лх, х = [xJ#=0, то |xj = |x/| для всех i, j — = 1п.
Доказательство. Пусть Ах = Кх и | xt | ^ | хр | = || х IL > О, Z=1п. По лемме 6.2.3 [X — aPP\ = Rp. Пусть q— любой другой индекс, l^^^n, q=A=p. Поскольку А обладает свойством SC, существует последовательность различных индексов k{ = p, k2, k3, ..., km = q, которой соответствуют ненулевые элементы а*^, ..., йкт_хкт. Из условия akxk2 = aPk2 #=0, согласно утверждению (Ь) леммы 6.2.3, выводим, что | хр\ =|x^J. Но тогда из ak.k^Q следует | Хк, | = | Хкг | = | хр |. Продолжая таким образом, заключаем, что [ Хк( [ = | хр | для BcexZ=l, ... . ...т. Значит (см. 6.2.3(a)), | X — akmkm | = | X — aqq | = RV, таким образом, q-я окружность Гершгорина проходит через X и |х^| = |хр|. Но индекс q взят произвольно, поэтому через X проходит каждая окружность Гершгорина и для всех Z = 1п, справедливо |x;| = |xp|. □
Из этой теоремы по аналогии со следствием 6.2.6 можно вывести полезное достаточное условие обратимости.
Более сильное следствие. Пусть матрица А = [а;,] е Мп обладает свойством SC. Если А — к тому же матрица с диагональным преобладанием и хотя бы для одного значения i = = 1п выполняется неравенство \ аи\> Rt, то А обратима.
Упражнение. Вывести следствие 6.2.9 из теоремы 6.2.8.
Упражнение. Показать, что матрица (6.2.2) не обладает свойством SC.
Откуда взялось это странное свойство SC? Заметим, что оно связано только с расположением ненулевых внедиагональных элементов матрицы А —диагональные элементы и точные значе-
ния внедиагональных несущественны. Опираясь на это наблюдение, определим для А две родственные матрицы.
Определение. Пусть А = [a,J е Мт, п. Положим | А | = = [|а17|], М (Л) = [ц;/], гДе Ш/=1> если ац^. и цо = 0 при а^ = 0. Матрица М (Л) называется индикаторной матрицей для А.
Упражнение. Показать, что если А с Мп, то свойством SC обладают или не обладают все три матрицы А, |Л| и М(Л) одновременно.
Последовательности ненулевых элементов матрицы А, участвующие в определении свойства SC, можно сделать наглядными, пользуясь путями в ассоциированном с А графе.
Определение. Ориентиробанный граф матрицы А еМ. обозначается через Г(Л) и представляет собой ориентированный граф с п узлами Рг, Р^, ..., Рп, в котором дуга из Pi в Р, присутствует тогда и только тогда, когда йц ф 0 (или pz/^O).
Примеры
4 24 2А = 0 1А = 0 10 10 1Г1 ;1Г1 ;1
4 2
4 2
А = 0 1
А = 0 1
0 1
0 1
Г
1 ;
1
Г
1 ;
1
Определение. Ориентированным путем у в графе Г называется последовательность дуг PixPi„ PiJ*u, PuPiv •••• Ориентированному пути у соответствует упорядоченный список
узлов Pi,, Ри, .... Длина ориентированного пути — это число дуг в нем, если оно конечно; в противном случае говорят, что путь имеет бесконечную длину. Циклом называют ориентированный путь, начинающийся и кончающийся одним н тем же узлом; этот узел должен ровно два раза входить в упорядоченный список узлов пути; никакой другой узел не может встречаться в списке цикла более одного раза. Некоторые авторы используют для этого понятия термин простой ориентированный цикл. Цикл длины 1 называется петлей или тривиальным циклом.
Определение. Ориентированный граф Г сильно связен, если в нем любые два различных узла Pt, Pj соединены ориентированным путем конечной длины, начинающимся в Р, и кончающимся В Pj.
Теорема. Матрица A е Мп тогда и только тогда обладает свойством SC, когда ориентированный граф Г (Л) сильно связен.
Упражнение. Доказать теорему 6.2.14.
Упражнение. Показать, что граф Г сильно связен, если любые два его узла принадлежат хотя бы одному общему циклу, и что обратное утверждение неверно. Указание. Рассмотреть матрицу
ГО 1 о*
10 1.
-0 1 0-
Два узла ориентированного графа могут быть соединены более чем одним путем. Однако два таких пути с различными длинами могут по существу не различаться; каждый может содержать повторения некоторых подпутей. Ясно, что если при следовании вдоль ориентированного пути какой-то узел встречается дважды, путь можно укоротить (с сохранением конечных точек), убирая дуги, пройденные между первым н вторым посещениями этого узла (они составляют нлн содержат цикл).
Утверждение. Пусть Г — ориентированный граф с п узлами. Если между двумя узлами графа Г имеется ориентированный путь, то между ними имеется и ориентированный путь длины ^п — 1. .
Как проверить, обладает ли матрица А свойством SC? Это эквивалентно проверке графа Г(Д) на сильную связность. Если п невелико нлн Л1(Д) имеет специальную структуру, то можно
проследить пути между всеми возможными парами узлов, изучая граф Г(Л) визуально. Однако в общем случае этот способ непрактичен, и мы нуждаемся в четком вычислительном алгоритме. -
Теорема. Пусть задана матрица АгУ,. и пусть Pi и Р, — заданные узлы графа Г (Л). Ориентированный путь длины m из Pt в Pj существует в Г (Л) тогда и только тогда, когда [|Л|№];/^0 или, что эквивалентно, когда [Л1 (Л)т];/^0.
Доказательство проведем по индукции. При m = 1 утверждение тривиально. Для m = 2 вычисляем
п п
[| Л 1% - X [I Л Ik ПЛ Иб/ - X I aih II ам |.
6=1 6=1
Поэтому соотношение [|Л2|]17=И=0 равносильно тому, что хотя бы для одного значения к оба элемента aik и ак, ненулевые. Но последнее имеет место тогда и только тогда, когда в Г(Л) существует путь длины 2 из Pt в Р;. В общем случае предположим, что утверждение доказано для m — q. Тогда соотношения
[I A r+'L/ = £ [| Л ГЪ [| A |]ft/ = £ [I л fLl ам I ^ О6-1 6=1
равносильны тому, что найдется хотя бы одно к, для которого и [|Лр]м, и }ак/1 ненулевые. Это, в свою очередь, равносильно тому, что имеется путь из Pi в Рк длины q и путь из Рк в Pj длины 1. Но для этого необходимо и достаточно, чтобы существовал путь из Р, в Pj длины q-\- 1. То же рассуждение применимо к М(Л). □
Определение. Для матрицы А=[ац]еМп запись А ^ О (Л > 0) означает, что все элементы ац неотрицательны (положительны). Такая матрица А называется неотрицательной ^положительной^.
Следствие. Для матрицы А<=Мп условие |/I j ^ > 0 равносильно тому, что для каждой пары узлов Pi, Pj графа Г (Л) существует ориентированный путь из Pi в Р; длины ровно пг. Это же верно для матрицы М(А)т.
Следствие. Матрица АеМп тогда и только тогда обладает свойством SC, когда (/+ |Л | )л~1 > 0 или, что эквивалентно, когда [/ + М(Л)]л-*Д>0. '
' Доказательство. Из тождества
(/ + |уц)"-1 = /+(п-1)|Л| + ( 2
вытекает, что условие (/+ I Л 1)" '>0 равносильно тому, что для каждой пары индексов (t, /), i^j, хотя бы в одной из матриц | Л |, | Л |2, •••> I Л р-1 элемент (i, /) положителен. Но согласно теореме 6.2.16, это может иметь место тогда и только тогда, когда в Г (Л) существует ориентированный путь из Pi в Pj. Последнее означает сильную связность графа Г (Л), т. е. Л обладает свойством SC. □
Упражнение. Доказать то утверждение в следствии 6.2.19, которое относится к матрице Л1(Л).
Следствие. В графе Г (Л) тогда и только тогда имеется путь из Pi в Pj, iV=j, когда [ (/ +1Л |) ] ц ¥= 0.
Упражнение. Опираясь на следствие 6.2.19, сформулировать вычислительный алгоритм для проверки свойства SC, который требовал бы лишь примерно log2(n—1) матричных умножений (а не п — 2). Указание. Рассмотреть матрицу (/+]Л|)2, возвести ее в квадрат и т. д.
Прежде чем оставить эту тему, познакомимся с еще одной эквивалентной характеризацией свойства SC. Она основана на том, что сильная связность графа Г (Л) есть чисто топологическое свойство, никоим образом не зависящее от способа, которым помечены его узлы. Если изменить нумерацию узлов, то граф останется, как был, сильно связным или несвязным. Заметим, что результатом перестановки в матрице Л строк i и / и одноименных столбцов является обмен номерами между узлами Pi и Pj графа Г(Л); верно и обратное.
Напомним, что матрицей перестановки Р называется квадратная матрица, все элементы которой равны 0 либо 1; в каждой строке и каждом столбце матрицы Р должна быть ровно одна единица. Ясно, что такая матрица должна быть унитарной, а следовательно, ортогональной, т. е. Рт — Р~\ В простейшей матрице перестановки рц = р,, = 1 для некоторой фиксированной пары индексов (i,/); все прочие внедиагональные элементы нулевые. Преобразование подобия1) РТАР вызывает транспозицию /-го и /-го столбцов и i-й и /-й строк матрицы А.
’) С простейшей матрицей перестановки Р. — Прим, перев.
Любую перестановку строк и столбцов матрицы Л можно получить последовательностью таких транспозиций, и всякая матрица перестановки есть конечное произведение простейших матриц перестановок. Итак, если Р— матрица перестановки, то РТАР получается из Л надлежащей перестановкой строк и столбцов. Важно знать, существуют ли перестановки строк и столбцов матрицы Л, приводящие ее к специальной блочной форме.
Определение. Матрица Л е Мп называется разложимой, если либо.
п = 1 и Л = 0, либо
п^2и существуют матрица перестановки РеМп и не которое целое число г, 1 ^ г ^ п — 1, такие, что
РТАР =РТАР ="В С1.0 OJ"В С1.0 OJ
РТАР =
РТАР =
"В С1
.0 OJ
"В С1
.0 OJ
Здесь ВеМп DeMn_n СеМг „_г и 0 е Мп_г< г — нулевая матрица. ’ ’
Подчеркнем, что мы не требуем, чтобы блоки В, С и D имели ненулевые элементы. Нужно лишь, чтобы при помощи некоторой последовательности транспозиций строк и столбцов можно было получить нулевой блок размера (п— г)Хг. Если | Л | > 0, то понятно, что А не является разложимой; разложимая матрица должна иметь по крайней мере п— 1 нулевых элементов.
Замечание. Предположим, что нужно решить систему линейных уравнений Ах = у, и пусть матрица А разложима. Если положить
то Ах = РАРтх = у или А (Ртх) = Рту. Введем новый вектор неизвестных PTx = x=\zT • £7]7 и новый вектор правых частей Рту = у = [to7 • со7']7'; здесь z, уеС'; £, иеС”-''. Исходная система уравнений будет эквивалентна системе
т. е. системе
Bz + Ct, = w, Dt, = со.
Если сначала разрешить уравнение Dt, = и относительно £, а затем подставить t, в первое уравнение и решить систему Bz = = w — Ct, относительно z, то тем самым исходная задача окажется разложенной на две задачи меньшего порядка, которые
в принципе должны решаться проще. Именно это обстоятельство стоит за термином «разложимая».
Определение. Неразложимой называется матрица А е М„, не являющаяся разложимой.
Теорема. Матрица А г Мп тогда и только тогда неразложима, когда (/ + | А |)п~1 > 0 или, что эквивалентно, когда [ t-mW'x).
Доказательство. Мы будем доказывать в действительности, что для разложимости матрицы А необходимо и достаточно, чтобы (I -(-1А |) "-1 имела хотя бы один нулевой элемент. Предположим вначале, что А разложима и для некоторой матрицы перестановки Р
г в С] .
А = Р I 0 D Рг = РАРТ.
Здесь В, С, О, D — те же матрицы-блоки, что в определении 6.2.21. Заметим, что | А | = | РА1РТ ] = Р| А | Рт, так как единственным результатом действия Р будут перестановки строк и столбцов. Заметим еще, что каждая из матриц | А |2, ( А |3, ... . . ., IXf2-1 имеет такой же нулевой блок размера (п — г)Хг в левом нижнем углу, как и матрица А. Итак,
(/ + I А I)"-1 = (/ + Р| А |PTy-v = (Р[/ + | А |] ^Г"1 =
^(Z + IAir-^^ply + tn- 1)| А~| +
/ п — 1 \ _„/ п — 1 \ , „ . 1 т
+ ( 2 )|А|2 + ...
и все слагаемые внутри квадратных скобок имеют один и тот же нулевой блок в левом нижнем углу. Поэтому матрица (/ 4* + |А|)'1-1 разложима, и среди ее элементов должны быть нулевые.
Обратно, предположим, что для некоторой пары индексов р, q, где p^q, элемент матрицы (/ + |Л|)П-1 в позиции (.р, q) равен нулю. Тогда, как мы знаем, в графе Г (А) нет ориентированного пути из Рр в Pg. Определим множество узлов
Sx = ^Pt; Pl — Pq или в Г (А) имеется путь из Pt в Pq^,
и пусть S2—множество всех остальных узлов графа Г (А). Заметим, что SiUS2 = {^i, «...Р^ и Pq^Sx=^ 0, так что ^^{Л, •■•»PnV Если бы существовал путь из некоторого
узла Pt множества S2 в какой-то узел Pj множества S1( то (см. определение множества SJ Pt и Pq были бы связаны путем, а тогда Pt должен был бы принадлежать S^ Поэтому не может быть никаких путей, ведущих из узлов множества S2 в узлы множества Sp Перенумеруем теперь узлы таким образом, чтобы было Sj — {Р^ ..., РД, S2 = {Рг+у, ..., РД. Видим, что
Л = РМР = [0 ВеМг, OeMn.r,n
т. е. Л разложима. Для случая [/ + М (Л)]л-1 > 0 рассуждения проводятся таким же образом. □
Подведем итоги.
Теорема. Для матрицы АеМп следующие утверждения эквивалентны'.
А неразложима',
U + \A I)”'1 > 0;
[/ + М (А)]п~‘ > 0;
граф Г (Л) сильно связен и
А обладает свойством SC.
Определение. Матрица АеМ„ называется i. d. d.-матрицей '), если
А неразложима;
А — матрица с диагональным преобладанием, т. е. | аи | ^ ^ДДА), /= 1, ..., п',
хотя бы для одного значения / справедливо строгое неравенство | аи | > РДА\
Упражнение. Построить пример, показывающий, что матрица может быть неразложимой и с диагональным преобладанием, но не быть i. d. d.-матрицей.
На введенном нами языке нашу «более сильную теорему» 6.2.8 и ее следствие можно переформулировать таким образом.
Теорема. Пусть А е Мп— неразложимая матрица. Граничная точка X области Гершгорина О(Л) может быть собственным значением матрицы А лишь в том случае, если каждая окружность Гершгорина проходит через X.
_ *) В оригинале irreducibly diagonally dominant matrix. Нам не удалось найти удобочитаемый русский эквивалент этой конструкции. — Прим, перед.
Следствие (Таусски). Пусть А = [а,/] е Мп есть i. d.d.- матрица, Тогда-
А обратима;
если все а» >■ 0, то ReX; >■ 0 для всех собственных значений X; матрицы А;
если А эрмитова (или, более общо, если А имеет только вещественные собственные значения) и все диагональные элементы ап строго положительны, то все собственные значения матрицы А строго положительны.
Следствие. Пусть матрица А е Мп неразложима, и пусть хотя бы для одного значения I
^=Х W<IMIL,/-1
т. е. не все строчные нормы равны максимальной. Тогда р(Л)< < || А IL. Более общо, если рх, .. ., рп > О,
Z) = diag(pb р2, ..., рп)
рмхно-мж.рмхно-мж.и Ri(D MZ))<||Z) MOIL хотя бы для одного значения I, то
рмхно-мж.
рмхно-мж.
Доказательство. Всегда имеет место неравенство р(Л)^ ^IMIloo; равенство достигается тогда и только тогда, когда jZXIMHoe для некоторого собственного значения X матрицы А. В последнем случае по теореме 6.2.26 каждая окружность Герш- горипа должна проходить через X. Однако этому препятствует предположение R; <||Л||оо. Применяя то же рассуждение к матрице D~XAD, получим второе утверждение. □
Задачи
Показать, что неразложимая матрица не может иметь нулевых строк и столбцов.
Показать с помощью примера, что предположение о неразложимости в следствии 6.2.28 необходимо.
Предположим, что А = [а,/] е Мп, что X— собственное значение матрицы |Л| и что существует вектор х = [х/] е R" с положительными компонентами Xi, для которого |Л х = Хх. Пусть D = diag(xb Xg, .... хп). Показать, что каждая окружность Гершгорина матрицы О-1|Л|£) проходит через X. Нарисовать картинку. Что можно сказать о строчных нормах матрицы d-xad?
В гл. 8 будет доказано, что квадратная матрица с положительными элементами всегда имеет положительное собствен-
ное значение и ему отвечает положительный собственный вектор. Из этого факта и предыдущей задачи вывести, что ■
р(Л)<р(|Л|),
если все элементы матрицы Л ненулевые. Пользуясь соображениями непрерывности, показать, что последнее требование может быть опущено, т. е.
р (Л) ^ р ([ Л |) для любой матрицы Л е Мп.
Используя следствие 6.2.28, показать, что оценку Коши (5.6.40) для корней многочлена
р(г) = г4 4-a^z^1 + ... +a1z + a0> ао=#О,
можно несколько улучшить, а именно
|z| < max {| а01, |щ |+ 1, |а2|+ 1, .. ., | ап-1 | + 1}.
Предполагается, что в цепи равенств
I а0 I I #1 I + 1 I а2 I + 1• • • = I an-1 I + 1
хотя бы одно нарушено. Указание. Показать, что при ао #= 0 сопровождающая матрица С(р) в (5.6.39) неразложима. Какие улучшения можно внести в оценки (5.6.41) — (5.6.43) и (5.6.45)?
Дополнительная литература
Обсуждение теоремы Леви — Деспланка и богатая библиография имеются в статье Taussky О. A Recurring Theorem on Determinants. — Amer. Math. Monthly, 1949, v. 56, p. 672—676.
Теоремы о возмущениях
Пусть D = diag(ZI, Z2, . .., KJ и £ = [еп] — матрицы из Мп; рассмотрим возмущенную матрицу D + Е. По теореме 6.1.1 собственные значения для D + Е заключены в кругах
LeC: |z-^.-ezJ<R<(£)= tlez/|L /=1, Щ
которые содержатся в кругах
С: |z —ZzKRz(£)=XleZz|k /=1, I/-1)
Таким образом, если К — собственное значение матрицы D + Е, То среди собственных значений Kt матрицы D найдется такое, что |Л—М Halloo. К сожалению, эта простая оценка не
распространяется на обший (недиагопализуемый) случай. Однако с ее помощью можно получить простую границу для произвольной диагонализуемой матрицы.
Утверждение. Пусть АеМп — диагонализуемая матрица: A = SAS-X, A = diag(XiХл). Пусть ЕеМп. Если X — собственное значение матрицы А + Е, то найдется собственное значение Xi матрицы А, для которого
I X - Xi КIISILIIS-1 LIIЕ L = х^ (S) IIЕь
Через Хоо(-) обозначено число обусловленности по отношению к матричной норме ]] ■ ||оо.
Доказательство. Матрицы А + Е и S~*(^ + E)S = A + S~XES имеют одинаковые собственные значения, причем А — диагональная матрица. Согласно сказанному выше, найдется Xi, такое, что |Х— Х£ |^||S-1ES||00. Отсюда и следует нужное неравенство, поскольку 11-Цоо — матричная норма. □
Немного изменяя технику доказательства, можно обобщить этот результат на другие матричные нормы. Главное требование, которое будет предъявлено к матричной норме, удовлетворяется для всех подчиненных норм, индуцированных монотонными или абсолютными векторными нормами (см. 5.6.37).
Теорема. Пусть АеМп— диагонализуемая матрица: A=SAS-X, D = diag(Xi, ..., Х„). Пусть ЕеМ«, и пусть матричная норма || • || такова, что || D || = max | dt | для всех диаго- 1 < ;<п
нальных матриц D = diag(di, .... d„)eMn. Если X—собственное значение матрицы А + Е, то найдется собственное значение X: матрицы А, для которого
I х - Xi КIISIIIIS-1 II || ЕII = х (S) || ЕII.(6.3.3)
Через х(-) обозначено число обусловленности по отношению к матричной норме || • ||.
Доказательство. Как и в предыдущем случае, достаточно рассмотреть собственные значения матрицы S-1(A + ^)S = = А + S-1£S. Если X — собственное значение матрицы А + + S~lES, то матрица XI— А — S-1£S вырожденна. Если при этом вырожденна и XI — А, то X = XZ для некоторого (, и оценка (6.3.3) выполняется тривиальным образом. Будем считать поэтому, что XI — А невырожденна. Тогда вырожденна матрица
(XI - А)-1 (XI - А - S-1ES) = I-(XI- A)-1S-1ES.
Отсюда следует (см. 5.6.16), что ||(V— A) S £S||^1. Используя предположение о поведении матричной нормы ||-|| на диагональных матрицах, получаем
II s-‘ss IImin I Л — Л, IК i ОII s-‘ss IImin I Л — Л, IК i О1 ^||(V- Ar1S-1£SKh~1£S|hl(V-Ar1|| =
II s-‘ss IImin I Л — Л, I
К i О
II s-‘ss IImin I Л — Л, I
К i О
= ||S”‘£S|| max | Л — Л, Г1 =
1 С I С «
Следовательно,
min |A-AzK|iS-1£S||^||S-1H||£||||S|| = x(S)||£|i. □
Упражнение. Показать, что предположение теоремы 6.3.2 о поведении матричной нормы на диагональных матрицах выполнено для норм ||-Иг, 1Ы1=, ||-Hi. Привести пример хотя бы еще одной матричной нормы, удовлетворяющей этому предположению.
Упражнение. Привести пример матричной нормы, для которой предположение теоремы не выполнено.
Упражнение. Показать, что для всякой унитарной матрицы U справедливо равенство ||£||2 = 1.
Хотя число обусловленности и(-) впервые появилось в § 5.8 в контексте оценивания ошибок при решении линейных уравнений, мы видим, что теперь оно участвует в (6.3.3) как верхняя граница для отношения ошибок
11£||
при вычислении собственных значений диагонализуемой матрицы. Если и(5) мало (т. е. близко к 1), то малые возмущения коэффициентов могут изменить собственные значения, но эти изменения будут ограничены величиной того же порядка, что и изменения коэффициентов. Если же и(5) очень велико, то малые возмущения коэффициентов, вообще говоря, приводят к сравнительно большим изменениям в собственных значениях.
В отличие от ситуации § 5.8, где рассматривалась задача решения линейных уравнений, теперь значение имеет не и (А), a x(S), где через S обозначена матрица, столбцами которой являются собственные векторы матрицы А; тогда А = SAS-1. В примере 7.4.26 мы увидим, что число обусловленности по отношению к спектральной норме допускает следующую геометрическую интерпретацию: x(S)= ctg(6/2), где 6 — наименьший угол между Sx и Sy, когда х и у пробегают всевозможные пары
ортогональных ненулевых векторов (см. пример 7.4.26). Поэтому независимо от обусловленности матрицы А, если у нее имеется пара почти параллельных, хотя и линейно независимых собственных векторов, то два столбца S (скажем, p-и и у-й, рф q) могут быть почти параллельны, а потому угол между Sep и Seq будет мал, хотя единичные базисные векторы ер и eq ортогональны. В этом случае спектральное число обусловленности x(S) будет велико, и задача вычисления собственных значений матрицы А может быть плохо обусловленной.
Если S — унитарная (или почти унитарная) матрица, то пары ортогональных векторов отображаются в ортогональные (или почти ортогональные) векторы и спектральное число обусловленности матрицы S будет мало (если S унитарна, то оно равно 1). В этом случае задача вычисления собственных значений матрицы А должна быть хорошо обусловлена. Напомним, что матрица (точно) диагонализуется унитарным преобразованием, если и только если она является нормальной. Поэтому теорема 6.3.2 дает для всего класса нормальных (и, в частности, эрмитовых или вещественных симметричных) матриц результат столь же простого вида, как наше исходное замечание о диагональных матрицах. Нормальные матрицы, таким образом, идеально обусловлены по отношению к вычислению собственных значений.
Следствие. Пусть А еМ„ — нормальная матрица с собственными значениями Xi, ..., Лп, и пусть Е е Мп. Если X — собственное значение матрицы А + Е, то найдется собственное значение Xi матрицы А, для которого | X —X, |^|| Е||2.
Отметим, что ни матрица возмущения Е, ни возмущенная матрица А + Е не обязаны быть нормальными. Чаще всего следствие 6.3.4 применяется в случае вешественной симметричной матрицы А.
Упражнение. Восполнить детали доказательства следствия 6.3.4.
Упражнение. Если известно, что обе матрицы А, Е эрмитовы, то с помощью теоремы Вейля 4.3.1 можно получить более сильный результат, чем следствие 6.3.4. Пусть в этом случае Л] ^ Хг ^ ... ^ Хп — упорядоченные собственные значения матрицы A, Aj^^^ ... ^ Хп— упорядоченные собственные значения матрицы А + Е и Ai(E)^ ... ^ХпЦ^— упорядоченные собственные значения матрицы Е. Используя неравенства (4.3.2), показать, что для всех k= 1, 2, ..., п справедливы соотношения
. XAE)<Xfc-Xfc<Xn(E),
откуда
I ^-Zfc|<p(£) = ||£||2.
Объяснить, почему верхние оценки лучше, чем в следствии 6.3.4. Какую информацию можно извлечь из оценок, если известно, что все собственные значения матрицы Е неотрицательны?
В вычислительных приложениях исходная матрица А и матрица возмущения Е нередко бывают вещественными и симметричными. В этом случае, а также в более общей ситуации, когда обе матрицы А и А + Е нормальные, имеется коллективная оценка возмущений собственных значений.
Теорема (Виландт — Хофман). Пусть А, ЕеМп, причем обе матрицы А и А 4- Е нормальные. Пусть {М, ..., Zn} — собственные значения матрицы А в произвольном заданном порядке, а {А.ь ..., А.„}—собственные значения матрицы А + Е, также произвольно упорядоченные. Тогда существует перестановка <з^ чисел 1, 2, ..., п, такая, что
[Sl^-X/I2] <И1!л.(6.3.6)
Доказательство. Положим A = diag(Zb ..., К^, А = = diag(Zb ..., Z„), и пусть V, W е Мп — унитарные матрицы, для которых соответственно А = ИЛИ* и А + Е = 1ИЛ1И*. Поскольку евклидова норма унитарно инвариантна, то
|| Е |£ = || (А + £) - А ^ = || ГАГ* - ИЛИ* ||2 =
= || V*WXW*V - Л |£ = || ZXZ* - Л ||2£ :
= tr (ZAZ* - Л) (ZAZ* - А)’ =
= tr (АЛ* + АЛ*) - tr (ZAZ’A* + AZA*Z*) =
= Z (IM2 + IM2)-2Retr(ZAZ*A*). <=i
Здесь мы положили Z = И*1И. Из этого представления следует, что
II flfe^ Z (I ^ч I2 ~Н ^ I2) — 2 max (Re tr ((7Л(7*Л*): U унитарна}.
(6.3.7)
Покажем, что если подставить в (6.3.7) точное значение максимума, то будет получена желаемая оценка (6.3.6). Для матрицы
U = [ui/leMn легко проверить равенство
Re tr (UXU'X*') = Z I uu p Re ДД,).
Нам нужен максимум этого выражения, когда U пробегает компактное множество унитарных матриц порядка п. Если положить cij=\uij\2 и С = [с1;], то матрица С се Мп будет неотрицательной и суммы ее элементов как по строкам, так и по столбцам будут точно равны 1 (поскольку UU* = U*U = /). Таким образом, всякой унитарной матрице U отвечает двоякостохастическая матрица С. Если изменить нашу экстремальную задачу, допуская все двоякостохастические матрицы, выигрыш будет в том, что экстремум вычисляется на выпуклом компактном множестве, структура которого известна. Максимум над этой большей областью может, разумеется, возрасти:
max {Re tr (UXU*X*): U унитарна} =
n
= max= maxz i, j-1z i, j-1Z I «г/l2Re (^Др: t/унитарна г ^
= max
= max
z i, j-1
z i, j-1
ctiRe(ktXjy. С двоякостохастическая kctiRe(ktXjy. С двоякостохастическая ki-v)
ctiRe(ktXjy. С двоякостохастическая k
ctiRe(ktXjy. С двоякостохастическая k
Однако целевая функция у нас линейна, а множество выпуклое и компактное, поэтому максимум достигается в одной из крайних точек (см. приложение В; нужно учесть, что линейная функция выпукла). Согласно теореме Биркгофа 8.7.1, крайними точками множества двоякостохастических матриц являются матрицы перестановок. Следовательно, существует матрица перестановки Р се Мп, такая, что
( п
max] Z сц Re (^Д С двоякостохастическая г =
= Re tr (РЛРГЛ*).
Поскольку матрица перестановки унитарна, то верно также, чтоmax {Re tr (UXU*X‘y. U унитарна} = Re tr (PXPrX‘).
Если Pet = ea(i), i=i, 2, ..., n, to
Retr <PXPTX*^= Z Re(Xa(zM
z=i
Подставляя в (6.3.7), имеем
IIЕ|£ > X [I Ло(0р + I ^ Р - 2 Re (Х„(fA,)] =
= El^«)-^il2. □
i = l
г Теорема 6.3.5 указывает, что множество собственных значений нормальной матрицы обладает сильной глобальной устойчивостью; однако она не говорит о том, при каком упорядочении собственных значений неравенство, содержащееся в ней, будет выполнено. Разумеется, годится не всякое упорядочение; действительно, существует по меньшей мере одно такое, что знак неравенства (6.3.6) заменяется на противоположный (см. задачу 7 в конце данного параграфа). Но в важном частном случае эрмитовых матриц можно взять естественное упорядочение собственных значений.
Следствие. Пусть А, Ее Мл, причем А эрмитова, а А + Е— нормальная матрица. Пусть собственные значения матрицы А расположены по возрастанию1. Xi ^ Х2 ^ ... ^ Хп, а собственные значения матрицы А + Е упорядочены так,, что Re £( Re Х2 Re Х„. Тогда
Доказательство. По теореме 6.3.5 существует некоторая перестановка а исходного порядка (по возрастанию вещественных частей) собственных значений матрицы А + Е, для которой
ElW-^-P 1=1ElW-^-P 1=11/21/2<1|£||д.<1|£||д.(6.3.9)(6.3.9)
ElW-^-P 1=1
ElW-^-P 1=1
1/2
1/2
<1|£||д.
<1|£||д.
(6.3.9)
(6.3.9)
Если в списке ХО(1), ■••, Ха^ собственные значения по-прежнему упорядочены по возрастанию вещественных частей, то доказывать нечего. В противном случае в списке найдется пара соседних собственных значений, для которой этот порядок нарушен, т. е. для некоторого k, 1 k <_ п,
-Re да > Re (6+1).
Так как, однако,
I А0(б) — Хи |2 + | Х0(й+1) — ^ft+i Р = | ^а(б+1) — Xk Р +
'4* |Хо(б) — Аб+1|2 +2(Л,й — ^ft+i)(ReXo(ft+i) — Reio(ftj)
по предположению Х^— ^*+1^0, то
I ^а№ — Хк |2 + | X>(fe + 1) — Xfe+i |2 ^ | Ха(&+1> — Хк |2 + | Х<цк> — Afe+i |2.
Следовательно, собственные значения Ха^ и Aa(fc+i) можно переставить, не увеличивая сумму квадратов. Конечной последовательностью таких транспозиций список X0(ijХО(П) преобразуется в список Ab Х2Хп, в котором вещественные части возрастают; для него имеет место указанная в формулировке оценка. □
На практике это следствие чаще всего применяется в случае, когда обе матрицы АиА-VE эрмитовы или вещественные и симметричные.
Упражнение. Пусть А, В г Мп— эрмитовы матрицы и собственные значения обеих упорядочены по возрастанию или убыванию. Доказать неравенство
G
n\1/2
Е [X, (Л) — X, (S)]2) <||Л-ВЬ
Упражнение. Показать, что утверждение теоремы 6.3.5 может потерять силу, если одна из матриц А, В = А + Е не является нормальной. Указание. Рассмотреть матрицы Л = [^ ° °4J, В = [~{ ~}] и показать, что при любом упорядочении собственных значений
2
•Е[^И)-Л,.(В)]2=16.
Если А не днагонализуема, то не известно столь же простой оценки, как в теореме 6.3.2. Однако можно вывести явную формулу, показывающую, как меняются алгебраически простые собственные значения (т. е. собственные значения с алгебраической кратностью 1) при возмущении элементов матрицы. Прежде всего нам потребуется лемма о неортогональности левого и правого собственных векторов, отвечающих простому собственному значению.
6.3.10. Лемма. Если X— алгебраически простое собственное значение матрицы А е Мп, ахи у — соответствующие X правый и левый собственные векторы, то у*х =й 0.
Доказательство. Мы можем применить процедуру, использованную в доказательстве теоремы Шура 2.3.1. Построим упи-
тарную матрицу U с первым столбцом х/НхНг; для нее
Г АU*AU = \ -LoГ АU*AU = \ -Lo*В-Г*В-ГBeM,_vBeM,_v
Г А
U*AU = \ -
Lo
Г А
U*AU = \ -
Lo
*
В-Г
*
В-Г
BeM,_v
BeM,_v
Поскольку X— простое собственное значение матрицы А, оно не может быть собственным значением для В. Собственным лектором матрицы U*AU, соответствующим X, будет единичный базисный вектор ер Рассмотрим матрицу
WAUV = U*A‘U =WAUV = U*A‘U =X = О* ; В*X = О* ; В*
WAUV = U*A‘U =
WAUV = U*A‘U =
X = О
* ; В*
X = О
* ; В*
Пусть LTA'Uz = \z, z=N 0. Если 2* = [0 i Г], то £ 56= 0 и £ — собственный вектор матрицы В*, соответствующий собственному значению X. Но тогда X — собственное значение матрицы В, что невозможно. Отсюда заключаем, что z не может иметь нулевую первую компоненту, т. е. z*ex ^0. Следовательно, (t/2) *(t/ei) = = 2*е1У=0. Векторы Uz и Uex— это левый и правый собственные векторы матрицы А, соответствующие собственному значению X. Так как для X левое и правое собственные подпространства матрицы А по предположению одномерны, то y = aUz для некоторого а У= 0. Но х =||x||2^^i, поэтому должно быть z/*x^0. □
Уприменение. Показать на примере матрицы Д = [^ {], что лемма неверна, если опустить предположение о простоте собственного значения.
Пусть X — алгебраически простое собственное значение матрицы А. Тогда X соответствуют однозначно (с точностью до скалярного множителя а, |а|=1) определенный нормированный1) правый собственный вектор х и однозначно определенный левый собственный вектор у, нормированный условием у*х=\. Рассмотрим дифференцируемую параметризацию Д(/), такую, что А (0) = А (например, А (!) = А + /Е при фиксированной матрице возмущения Е). Тогда у матрицы Д(/) для всех достаточно малых / существует однозначно определенное простое собственное значение Х(/), такое, что Х(0) = Х. Имеются также соответствующие Х(/) правый собственный вектор х(/), однозначно (с точностью до множителя а, как и прежде) определяемый условием х*(/)х(/)=1, и левый собственный вектор #(/), однозначно определяемый условием y*(t)x(t) s 1.
Дифференцируя это последнее условие, получаем тождество . у'ЧПх^ + утхЦП = 0. (6.3.11) ' ') Имеющий евклидову длину 1, — Прим, перев. . -
Так как А (/) х (/) = А (/) х (/) для всех малых /, то верно и тождество у* (/) А (?) х ^ = А (?) у* \^ х (?) = А (/). Дифференцирование его дает
А' ^ = у'* ^ А (?) х (?) + У* (О А' (?) х (?) + у* (?) А (?) х' Ц\
Используя равенства Д (?) х (?) = А (?) х (?) и у* (?) А (?) = X (?) у* (?), приходим к соотношению -
Г (?) = А (?) ^ (0 х (?) + у* ^ х' (0)+у* (/) А' ^ х (Н* ^ А' ^ х (0.
Здесь учтено тождество (6.3.11). При ? = 0 имеем формулу АДО) = г/*Д'(О)х; подразумеваются условия нормировки х*х = 1 и у*х = \. Если х и у — правый и левый собственные векторы, не обязательно нормированные указанным образом, то можно заменить х на х/(х*х)1/2, а у на (х*х) х^у1у*х; тогда получится более общая формула А' (0) у*х = у*А' (0) х. Итак, для матрицы А, которая не обязана быть диагопализуемой, установлен следующий результат.
Теорема. Пусть матрица Д(?) дифференцируема в точке ? = 0, и пусть А — алгебраически простое собственное значение матрицы А (0), а х и у — соответствующие X правый и левый собственные векторы. Предположим, что Х^— это то собственное значение матрицы Д(?), для которого А(0)= А. Тогда
"Упражнение. Положить Д(?) = А + tE, где матрица возмущения Е фиксирована, и показать (в условиях теоремы 6.3.12), что в точке t = 0
dx у*Ех
"ИГ у*х •
Упражнение. В условиях теоремы показать, что для всех I, / дХщх,
да,,у*х "
Эта формула устанавливает связь между изменением произвольного коэффициента матрицы А и соответствующим изменением собственного значения. Указание. Взять в качестве Е матрицу Ец, в которой единственный ненулевой элемент стоит в позиции (t, /) и равен 1.
Упражнение. Рассмотреть матрицу Д = [* j^] и собственное значение А= 1, которое будет простым при е =/= 0. Для всех пар I, j вычислить дХ/дау. Как ведут себя эти производные при
е —> О? Сделать вывод о том, что при почти ортогональных х и у собственное значение X может быть очень чувствительным к некоторым возмущениям в Л.
В отличие от собственных значений собственные векторы даже диагонализуемой матрицы могут претерпевать радикальные изменения при очень малых возмущениях элементов матрицы. Пусть, например, Л = [у °], £ = [оо]‘ Собственные значения матрицы А + Е суть числа 1 и 1 + е; при е6=#0 соответствующими нормированными собственными векторами будут
1 г -61Г 1 ]
(62 + б2)1/2 [ е ] .[ Q ] •
При надлежащем выборе отношения е/6 можно придать первому собственному вектору любое желаемое направление, как бы малы ни были 8 и 6 по отдельности.
Если положить е =0, то у возмущенной матрицы А + Е при любом 6 =# 0 будет только один, с точностью до скалярного множителя, собственный вектор; сама же А имеет два линейно независимых собственных вектора.
Все полученные до сих пор оценки были априорными границами для возмущений в собственных значениях; они не используют вычисленные приближения к собственным значениям, собственным векторам или каким-то другим связанным с ними величинам. Предположим теперь, что тем или иным способом найдены «приближенный собственный вектор» х^Ои «приближенное собственное значение» X. Маловероятно, что вектор Ах будет в точности равен вектору Х^. Для оценки расстояния от X до тонного собственного значения в случае диагонализуемой матрицы А можно использовать вектор невязки r — АН — КН.
Положим Л = 5Л5-1, и пусть X не совпадает ни с одним собственным значением матрицы А. Тогда
г = АН — КН = SIN — КГ) S-XH,
так что Н = 5(Л — КГ)~Х S~’r. Отсюда
IIн II = ||s (Л - X/)-1 $ЛII < IIs (Л - Х/)-^'1 |ц г нс
< II5IIIIS’1 IIII (Л - X/)-1 IIIIГII = X (S) II (Л - V)"1 IIII г II =
= x(S)( min |Л, —X|)-1||r||.
Таким образом, .
PH min |^-X|^x(S)||r||.
Ясно, что это неравенство будет выполнено и в случае, когда Х = Хг для некоторого I, В проведенном рассуждении мы предполагали, что
(а)
|| • || — векторная норма на С";
(Ь)
матричная норма || • || на Мп согласована
(с)
с векторной нормой || ■ ||;
||£>Ц= max | di | для любой матрицы
1 < 1 < п
£> = diag(d1d^..
■ (6.3.13)
Число обусловленности x(S) порождается матричной нормой II -II, Если А— нормальная матрица, то можно выбрать унитарную матрицу S. Если взять евклидову векторную норму и спектральную матричную норму, то x(S) = 1. Условие (с) эквивалентно требованию, чтобы матричная норма ||-|| была подчинена монотонной векторной норме (теорема 5.6.37). Итак, все условия (6.3.13) будут удовлетворены, если векторная норма И • || на С" монотонна, а матричная норма || ■ || на М„ подчинена ей. Мы получили апостериорные оценки такого же внешнего вида, как в теореме 6.3.2 и следствии 6.3.4.
6.3.14. Теорема. Пусть A е Мп— диагонализуемая матрица, А = SA.S-1, A = diag(MХп). Пусть векторная норма ||-|| на Сп и матричная норма || ■ || на Мп удовлетворяют условиям (6.3.13). Пусть хеС”— заданный ненулевой вектор, X—заданное комплексное число и г = Ай— Хй. Тогда найдется собственное значение Xi матрицы А, для которого
|X-M<||S||||S-1||jy- = x(S)^-.(6.3.15)
II * IIII л II
Если А — нормальная матрица, то для некоторого ее собственного значения X/ '
Этот последний результат нужно сопоставить с аналогичной апостериорной границей для относительной ошибки приближенного решения системы линейных уравнений. Если матрица коэффициентов системы плохо обусловлена, то смысл оценки (5.8.11) состоит в следующем: малая величина невязки не обязательно влечет за собой малую величину относительной ошибки приближения. В то же время для нормальной матрицы А (на практи- кеА обычно бывает эрмитовой или вещественной симметричной) неравенство (6.3.16) означает, что если невязка, соответствующая приближениям к собственному значению и собствен-
ному вектору, мала, то абсолютная погрешность приближенного собственного значения гарантированно будет малой; в оценке нет никакого числа обусловленности.
Этот приятный результат для собственных значений не сопровождается столь же приятным результатом для собственных векторов. Даже для вещественной симметричной матрицы малость невязки не гарантирует, что приближенный собственный вектор будет близок к точному. Рассмотрим, например, при е > 0 матрицу А = [ ® J. Если взять Л = 1, .6 = [1, О]7", то невязка имеет вид г = [0, е] т. Собственными векторами матрицы А для любого е > 0 будут [1,1] 7 и [1,—1]г. Вектор х не будет приблизительно параллелен ни одному из них, как бы мало ни было е.
Упражнение. Показать, что собственные значения матрицы А в только что рассмотренном примере — это числа 1 + е и 1 —е. Проверить для них оценку (6.3.16).
Задачи
Пусть X, р— собственные значения матрицы А и X #= ц. Показать, что всякий левый собственный вектор матрицы А, соответствующий р, ортогонален всякому ее правому собственному вектору, соответствующему X.
Используя предыдущую задачу, дать другое доказательство леммы 6.3.10 для случая, когда все собственные значения матрицы А различны.
Проверить утверждение, сделанное в конце первого абзаца данного параграфа1), рассматривая матрицы Ай = [° g] е Мг, Ло = [о о] и считая е малым положительным числом. Показать, что матрица Ае диагонализуема при е > 0 и минимальное расстояние между собственными значениями матриц Ае и Ло равно Ve"- Представляя А6 в виде Ле = Л0 + ^, показать, что при е-> 0 справедливы соотношения
Таким образом, оценка типа | X — Хг I^HEU для матриц общего вида не может быть верной. Вычислить для этого же случая оценки теоремы 6.3.2 и объяснить полученный результат.
Пусть р(х)—многочлен степени я > 2 с двойным корнем в точке Хо, т. е. р (хо) = р' (х^) = 0, но р"(хо)=0=О. Показать, что
многочлен р(х)— е имеет вблизи хо два корня вида х0 ± с Vе + (члены более высокого порядка). Указание. Разложить р(х) в ряд Тейлора относительно точки х0. Смысл задачи состоит в том, что изменения порядка е в коэффициентах многочлена могут повлечь возмущения в его корнях порядка Vе. Для многочлена отношения возмущений корней к возмущениям коэффициентов могут быть неограниченными.
Согласно следствию 6.3.4, для эрмитовой (а более общо, для любой нормальной) матрицы отношения возмущений собственных значений к возмущениям матричных элементов ограничены. Поскольку собственные значения матрицы суть корни ее характеристического уравнения, объяснить, как эта благоприятная ситуация может сочетаться с выводами задачи 4. Мораль настоящего задания состоит в том, что с практической точки зрения очень неразумно вычислять собственные значения эрмитовой (так же как и любой другой) матрицы путем построения ее характеристического многочлена и вычисления его корней. Этот способ потенциально чреват опасностью превратить хорошо обусловленную задачу в плохо обусловленную!
Гивенсу принадлежит пример вещественной симметричной 2 X 2-матрицы А = / и ее вещественного симметричного возмущения
[
е cos (2/е) е sin (2/е) 1 е sin (2/е) — е cos (2/е) J ’ 6 > О-
По определению Е (0) = lim Е (е) = 0. Показать, что собствен- иые значения матрицы A -j-E(e) равны 1 + е и 1 — е, а соответствующими (определенными с точностью до знака) нормированными собственными векторами будут [cos(l/e), sin(l/e)]r и (sin(l/e),—cos(l/e)]r, е > 0. Показать, что при е-> 0 каждый собственный вектор будет бесконечное число раз принимать произвольно заданное направление. Таким образом, даже если ограничиться вещественными симметричными матрицами, отдельный собственный вектор может изменяться очень быстро, если соответствующее ему собственное значение плохо отделено от остальных.
Используя такой же метод рассуждения, как в теореме 6.3.5, показать, что в условиях этой теоремы существует перестановка т чисел 1, 2, ..., п, такая, что
(
П X 1/2
Sl^(0-^d2) >115 b f=I /
Указание. Рассмотреть величину
{
n1
У, с//Ре(хД/): C = [cz/] двоякостохастическая ?.
Пусть АеМп — заданная нормальная матрица с собственными значениями {Х/(Л)}, г > 0 — заданное число. Определим множество
5(Л, г) = ^В е Ма: В нормальна и ||S — Л||2^г}.
Показать, что числа {^Л„} тогда и только тогда соста
вляют множество собственных значений матрицы Ве5(Дг'), когда
С п
mins У, | Ki (Л) — Кащ Р: ° — перестановка чисел 1, 2, ..., п?^г2.
I i=i)
Этот результат дает.полное описание возможных спектров нормальных матриц, находящихся в окрестности фиксированной нормальной матрицы. Указание. Для доказательства необходимости использовать теорему 6.3.5. В части достаточности представить матрицу Л в виде A = UMJ‘, Л = diag (^ (Л), ..., Л„(Л)), и положить В = иАи*, где A = diag(^KnY
В доказательстве теоремы 6.3.5 использовано то обстоятельство, что для унитарной матрицы U = [и;/] g Мп матрица Л = [|щ/|2] двоякостохастическая. Показать, что не всякая двоякостохастическая матрица может быть получена этим путем из некоторой унитарной матрицы. Указание. Рассмотреть пример
■Г110"
^10 1.
L0 1 1 -
Пусть АеМз — заданная эрмитова матрица, и пусть каким-то способом найдена унитарная матрица U, такая, что
- 3.05UAU* = -0.06- 3.05UAU* = -0.06-0.06 0.02'-6.91 0.07-0.06 0.02'-6.91 0.07
- 3.05
UAU* = -0.06
- 3.05
UAU* = -0.06
-0.06 0.02'
-6.91 0.07
-0.06 0.02'
-6.91 0.07
L 0.020.07 8.44-1
Получить возможно более точные оценки для собственных значений матрицы А.
И. Для матриц, не являющихся нормальными, нет надежды получить оценку типа указанной в следствии 6.3.4. Рассмотреть
15 Р. Хорн, Ч. Джонсон
Показать, что все собственные значения матрицы А равны нулю, а собственными значениями матрицы А 4-Е будут п различных значений V^6"'1- Каково бы ни было е > 0, все собственные значения матрицы А + Е можно сделать сколь угодно большими, подбирая соответствующее а. Как обстояло бы дело в случае нормальной матрицы А?
Дополнительная литература
Впервые теорема 6.3.5 была доказана в статье: Hoffman A. J., Wielandt Н. The Variation of the Spectrum of a Normal Matrix.— Duke Math. J., 1953, v. 20, p. 37—39. Элементарное доказательство этого результата в вещественном симметричном случае дано на с. 105—109 книги [Wil]1).
Другие области локализации
Мы довольно подробно обсудили круги Гершгорина. Они представляют собой конкретный класс легко вычисляемых областей комплексной Плоскости, с гарантией содержащих в себе все собственные значения данной матрицы. Многие авторы, привлекаемые, по всей видимости, геометрической элегантностью теории Гершгорина, распространили ее идеи и методы на области локализации других типов. Мы приведем несколько результатов этого ряда, чтобы у читателя создалось некоторое впечатление о том, что было сделано.
Первый результат, принадлежащий Островскому, дает область локализации собственных значений в виде объединения кругов, как это было и в случае области Гершгорина. Однако радиусы кругов теперь зависят и от строчных, и от столбцовых
’) Страницы указаны по русскому переводу, — Прим, перед.
почти-норм. Два варианта теоремы Гершгорина с раздельным использованием строчных и столбцовых сумм получаются как предельные случаи теоремы Островского; можно считать, что последняя указывает континуум областей локализации, интерполируя между (6.1.2) и (6.1.4).
Теорема (Островский). Пусть А = [az/] е М„, а —заданное число из отрезка [0, 1], a R't и C't — соответственно строчные и столбцовые почти-нормы матрицы А:
(6.4.2)(6.4.3)(6.4.2)(6.4.3)Ri=
(6.4.2)
(6.4.3)
(6.4.2)
(6.4.3)
1*1
С\ = X \аи |.
Тогда все собственные значения матрицы А принадлежат объединению п кругов
иДгеС: [z-^^^c;1-”}.(6.4.4)
Доказательство. Будем считать, что 0 < а < 1, так как случаи а = 0 и а = 1 соответствуют теоремам Гершгорина для столбцовых и строчных сумм. Далее, можно считать, что R't > О для любого I. В противном случае можно было бы возмутить А внесением малых ненулевых элементов в те строки, для которых R't = 0. Для возмущенной матрицы область локализации (6.4.4) больше, чем область локализации для А, и нужный результат получится в пределе при возмущении, стремящемся к нулю.
Предположим теперь, что Ах = Хх и х = [х/] #= 0. Тогда для каждого t = l,2, ..., п имеем
п
X ОцХ,
п
а г па г пil— а
а г п
а г п
1/а1/а-.1 -а Д-ЮТ
1/а
1/а
= Rt
-.1—а 1/(1-а)
(6.4.5a)
Так как R't > 0, то это эквивалентно неравенству
Следовательно,
(6.4.5b)
В выкладках (6.4.5а) использовано неравенство Гёльдера (см, приложение В) для р=1/а и q — p/^p—1)—1/(1—а). Суммируя по I неравенства (6.4.5b), получим
п пп
^ZlU-r-^i-r’1. (6-4.6)f=l /=1/=1
/ чЬ I
Если для каждого I, такого, что х, =# 0, будет
откудаоткуда\X-ai[\^R'iaC'[1"a. □\X-ai[\^R'iaC'[1"a. □
откуда
откуда
\X-ai[\^R'iaC'[1"a. □
\X-ai[\^R'iaC'[1"a. □
то неравенство (6.4.6) не может выполняться. Поэтому хотя бы для одного из указанных значений I
Ср
Упражнение. Для матрицы Л = [* д] сравнить строчную и столбцовую области локализации Гершгорина с областью Островского для а—1/2. Какую оценку дает теорема Островского для спектрального радиуса матрицы Л? Сравнить ее с оценками Гершгорина из следствия 6.1.5.
Упражнение. Что соответствует следствию 6.1.6 в теории Островского?
Следующий результат, полученный Брауэром, также является обобщением теоремы Гершгорина, но теперь одновременно
берутся пары строк. Геометрически области локализации будут уже не кругами, а множествами, называемыми овалами Кассини. Доказательство параллельно доказательству теоремы Гершгорина в том отношении, что выбираются (правда, две, а не одна) наибольшие по модулю компоненты собственного вектора.
(6.4.8)(6.4.8)Теорема (Брауэр). Пусть А = '^,,]еМ„. Все собственные значения матрицы А принадлежат объединению п(п— 1)/2 овалов Кассини
(6.4.8)
(6.4.8)
Д^С: |г —а„||г —a^l^T?'^'}.
' 'Доказательство. Пусть X — собственное значение матрицы А, и пусть Ах = Хх, где х = [х<] =# 0. Пусть хр— компонента с наибольшим модулем, так что |хр|^:|Х(|, Z = 1, ..., п, и хр ч^ 0. Если все остальные компоненты вектора х нулевые, то из условия Ах = лх вытекает арр = X. Поскольку все диагональные элементы матрицы А включены в область (6.4.8), то всякое собственное значение, отвечающее собственному вектору с единственной ненулевой компонентой, попадает в эту область.
Предположим поэтому, что собственный вектор х имеет по крайней мере две ненулевые компоненты, и пусть xq—компонента со вторым по величине значением модуля, т. е. 1хР(^ ^lxql^lxi\, i= 1, •• •, П1 i^ Pl И xPi Xq=#0. Условие Ах = 7.x дает
Хр (А, ^рр) Е ^pjxji
/-ii р
откуда
ИЛИИЛИI ^р 11 ^рр 1I ^р 11 ^рр 1< Е I аР11| х/ К /“1/ + Р< Е I аР11| х/ К /“1/ + РуЕ apjxii Ф руЕ apjxii Ф р(6.4.9)(6.4.9)
ИЛИ
ИЛИ
I ^р 11 ^рр 1
I ^р 11 ^рр 1
< Е I аР11| х/ К /“1
/ + Р
< Е I аР11| х/ К /“1
/ + Р
уЕ apjxi
i Ф р
уЕ apjxi
i Ф р
(6.4.9)
(6.4.9)
Аналогичным образом из равенстваxq (^ ^qq^ ^u ^qIXIi * q
ВЫВОДИМ
i * чi * ч
i * ч
i * ч
/ * ч
< Z Ы|^|=^Ы:
i * ч
или
(6.4.10)
Перемножение неравенств (6.4.9) и (6.4.10) позволяет исключить неизвестные отношения компонент вектора х; в результате получим
Таким образом, собственное значение X принадлежит области (6.4.8). □
Упражнение. Какова столбцовая версия теоремы Брауэра?
Из всякой теоремы об областях локализации собственных значений можно вывести связанную с ней теорему об обратимости (верно и обратное). Нужно всего лишь, опираясь на результат о локализации, сформулировать условия, которые исключали бы точку z = 0 из соответствующей области.
Следствие. Пусть Л — [а,,] е Мп. Каждое из следующих условий достаточно для того, чтобы матрица А была обратима.
при некотором а е [0, 1] и всех /=1, . .., п справедливы неравенства | аи | > R^C^-0, (Островский);
для всех I, j — 1, ..., п, i #= j, выполняются неравенства -МЫ > R'iR'i (Брауэр).
Упражнение. Вывести следствие 6.4.11 из теорем 6.4.1 и 6.4.7,
В теореме Брауэра участвуют попарные произведения строк. Привлекательная возможность дальнейших обобщений связана с идеей брать тройные и еще более длинные произведения и рассматривать при каждом т = \, ..., п объединения множеств вида
zeC; П lz-а 1<П/?; к А = [а^еМ„. (6.4.12)
/ П \
Для каждого т имеется I I таких множеств; случай т = 1
дает п кругов Гершгорина; при т = 2 получаем п(п—1)/2 овалов Кассини. К сожалению, при т^З множества (6.4.12) не обязаны быть областями локализации собственных значений, что показывает пример матрицы
- 1 1 0 0-1
А =А =(6.4.13)(6.4.13)110 0
А =
А =
(6.4.13)
(6.4.13)
0 0 10
-0001-
Все множества (6.4.12) для т = 3 и т=4 состоят из единственной ТОЧКИ Z = 1.
"Упражнение. Показать, что собственными значениями матрицы (6.4.13) являются числа X = 0,1,1,2. Изобразить множества (6.4.12) для т = 1, т=2 и т = 3,4. Показать, что те же неприятности возможны при любом m ^ 3. Для этого рассмотреть матрицу
(6.4.14)
где 1п е Мп — единичная матрица, а / = [{ J]^^.
Хотя этот пример опровергает наиболее очевидный способ обобщения теоремы Брауэра, он показывает заодно, что именно плохо и как поправить положение. Проблема с областью (6.4.12) состоит в том, что для нее требуется слишком много произведений, причем некоторые могут быть равны нулю из-за нулевых строчных почти-норм. Разумеется, это невозможно для неразложимой матрицы А; для нее все Р' > 0.
Однако и при неразложимой матрице А область (6.4.12) может не быть областью локализации собственных значений; в ней может все еще участвовать слишком много произведений. Рассмотрим наряду с матрицей (6.4.13) возмущенную матрицу вида
1 1 е е -I
110 0е 0 1 0110 0е 0 1 01 > е > 0.1 > е > 0.(6.4.15)(6.4.15)
110 0
е 0 1 0
110 0
е 0 1 0
1 > е > 0.
1 > е > 0.
(6.4.15)
(6.4.15)
Le 0 0 1
Ориентированный граф Г(Ле) матрицы Ле выглядит так:
При е=0 пунктирные линии отсутствуют. Если е У= О, граф Г(Ле) сильно связен и матрица Ле неразложима. При этом
/?, = 1 + 2е, /?2=1, ^з = е’ ^4=8’
а собственными значениями матрицы Ле будут числа
Ле=1, 1, 1 + (1 + 2е2)1/2, 1 - (1 + 2е2)1/2.
Упражнение. Проверить выражения для строчных почти-норм и собственных значений матрицы Ае.
Так как произведение любых трех (или всех четырех) величин R\ содержит по меньшей мере один множитель е (число е считается малым и положительным), то множества (6.4.12) не могут быть областями локализации собственных значений ни при tn = 3, ни при т = 4.
Упражнение. Рассматривая возмущения матрицы (6.4.14) того же типа, что в (6.4.15), показать, что аналогичный вывод справедлив для всех m 3.
С каким же внутренним свойством матриц (6.4.13) и (6.4.15) связано то, что для них значения т = 1 и т = 2 приемлемы в (6.4.12), а значения т = 3 или т = 4 — нет? Ричард Бруалди заметил, что ориентированные графы обеих матриц содержат циклы длины 1 и 2, но не содержат циклов длины 3 и 4. Это оказывается ключевым обстоятельством при формулировании правильного обобщения теоремы Брауэра.
Напомним, что сильно связным называется ориентированный граф Г, в котором из каждого узла идет ориентированный путь в любой другой узел (а из него в свою очередь в первый).
Назовем Г слабо связным графом, если из каждого его узла идет ориентированный путь в некоторый другой узел, а из того в свою очередь в первый. Это эквивалентно требованию, чтобы каждый узел графа Г принадлежал некоторому нетривиальному циклу (тривиальный цикл, или петля, — это ориентированный
путь длины 1, начинающийся и кончающийся в своем единственном узле).
В матричных терминах, как мы знаем, сильная связность графа Г(Д) равносильна неразложимости матрицы Л. Будем говорить, что А слабо неразложима, если Г (Л) слабо связен. Слабая неразложимость, по-видимому, не допускает такого наглядного описания, как обычная неразложимость (т. е. на языке перестановочных подобий; см. определение 6.2.21(b)). Однако с точки зрения распределения в Л нулевых и ненулевых элементов ясно, что слабая неразложимость матрицы Л эквивалентна следующему свойству: для каждого t = 1, ..., п в j-й строке матрицы Л имеется хотя бы один ненулевой внедиагональный элемента^., такой, что существует последовательность ненулевых элементов аь ь , аь ь , . .., аь ь , в которой = и и кт = 1. Это громоздкое условие составляет приблизительно половину требования 6.2.7, определяющего свойство SC. Для вычислительных целей, вероятно, более удобна его переформулировка, сходная по виду с теоремой 6.2.23.
Лемма. Слабая неразложимость матрицы Л е.М„ равносильна тому, что любая из матриц
В = [/ + | Л | ]и-1 или
В^/Ч-АШ)]^1
обладает следующим свойством: для каждого i = 1, ..., п в 1-й строке есть хотя бы один ненулевой внедиагональный элемент Ьц, такой, что элемент Ьц тоже не равен нулю.
Упражнение. Доказать лемму 6.4.16. Указание. Использовать идеи доказательства следствия 6.2.19.
Упражнение. Пусть А е Мп, и пусть матрица В е Мп определена формулой (а) или (Ь) леммы 6.4.16. Показать, что слабая неразложимость матрицы А равносильна тому, что каждый узел графа Г (В) принадлежит циклу длины 2. Каково соответствующее свойство для неразложимой матрицы? Какое из этих свойств слабее? Напомним, что по определению циклы являются простыми; только начальный узел (совпадающий с конечным) может повториться в списке узлов цикла.
Упражнение. Показать, что для слабо неразложимой матрицы A е Мп все В; > 0 и все C't > 0.
Предпорядком на множестве S называется отношение R, определенное для всех пар точек этого множества, причем для каждой пары элементов s, t е S верно либо sRt, либо tRs, либо и то и другое. Требуется также, чтобы предпорядок был рефлек-
сивным (sRs для любого s е S) и транзитивным (если sRt и tRu, то sRu). Предпорядок не обязан быть симметричным (sRt влечет за собой tRs и обратно); возможно к тому же, что sRt и tRs, хотя s ^ t. Точка х подмножества Soc S называется максимальным элементом подмножества, если sRx для всех s е So.
Упражнение. Пусть S — произвольное непустое множество комплексных чисел. Показать, что отношение между комплексными числами х, w е S, определяемое правилом.
zRw, если | х |^| w |,
есть предпорядок на С.
Лемма. Пусть S— непустое конечное множество, на котором определен предпорядок. Тогда оно содержит хотя бы один максимальный элемент.
Доказательство. Расположим элементы в произвольном порядке Si, ..., s^. Положим s = si. Если s2Rs, то s не изменяется; в противном случае полагаем s = S2. Повторяем этот процесс с прочими элементами. Окончательное значение s дает максимальный элемент. □
Пусть Г — ориентированный граф и Pi — узел графа Г. Обозначим через Гощ(Л) множество узлов, отличающихся от Pi и таких, что их можно достичь из Pi по ориентированным путям длины 1. Заметим, что если граф Г слабо связен, то множество Гощ(Л) непусто для любого узла Pi е Г.
Обозначим через С(Л) множество нетривиальных циклов у ориентированного графа Г(Л). Напомним, что нетривиальным называется цикл, содержащий по меньшей мере два различных узла, т. е. (простой ориентированный) цикл, не являющийся петлей. Для матрицы (6.4.13) множество С (Л) состоит из единственного цикла у = PiP2, Р^Ръ в то время как матрица (6.4.15) имеет три разных нетривиальных цикла, каждый длины 2.
Теорема (Бруалди). Если матрица А = [а<;] е Мп слабо неразложима, то каждое ее собственное значение заключено в области
и | z е С: п |z-a..l< П R'iV (6.4.19) уеС(Л)(r*isV “ Р^Ч J
Эта запись означает, что если y = Pi,Pi РиРи, — нет ри- виальный цикл, в котором Р1к+1" Рц» то соответствующее произведение в (6.4.19) содержит ровно А сомножителей и индекс i принимает к значений ц, la, ..., in.
Доказательство. Предположим, что X— собственное значение матрицы Л, причем X равно некоторому диагональному элементу а». Ясно, что такое X принадлежит области (6.4.19). Так как все R\ > 0 в силу слабой неразложимости матрицы Л, то в действительности X в этом случае является внутренней точкой области. Если каждое собственное значение матрицы равно некоторому диагональному элементу, то все собственные значения находятся внутри области (6.4.19), и доказательство закончено.
В оставшейся части доказательства будем считать, что собственное значение X не равно никакому ан, i = 1, ..., п. Пусть Лх = Хх, где x = [Xi]eCn их^О. Определим следующий пред- порядок на множестве узлов графа Г(Л):
PlRPl^\xl\^\xi\. (6.4.20)
Покажем, что в Г(Л) существует цикл у' с такими тремя свойствами:
V = p,pl Pi Р.,..., PibPib,, — нетривиальный (простой ориентированный) цикл длины W (Р^ = Р^
(6.4.21)(6.4.21)для каждого /=1,...,/г узел Pij+1 максимален в множестве rOut(P^), т. е. |х//+1|^ >|хт| для всех tn, таких, что Pm г Fout (Р^У
(6.4.21)
(6.4.21)
все Xi. ^ О, ]= 1, ..., /г.
2 ai-пгХтэ рт = Tout (?i Л '2 ai-пгХтэ рт = Tout (?i Л 'Пусть у'—цикл, удовлетворяющий условиям (6.4.21). Для каждого / = 1, ..., /г равенство Ах = Хх дает
2 ai-пгХтэ рт = Tout (?i Л '
2 ai-пгХтэ рт = Tout (?i Л '
(A ai^yxi-— ^ tti^Xm — т * ij
откуда^-^/11^1 =откуда^-^/11^1 =L Q-1 .т^т Рщ s rout У i j^L Q-1 .т^т Рщ s rout У i j^^ Zu I ^i11 Xm I^ Zu I ^i11 Xm I
откуда
^-^/11^1 =
откуда
^-^/11^1 =
L Q-1 .т^т Рщ s rout У i j^
L Q-1 .т^т Рщ s rout У i j^
^ Zu I ^i11 Xm I
^ Zu I ^i11 Xm I
(6.4.22)(6.4.22a)(6.4.22)(6.4.22a)
(6.4.22)
(6.4.22a)
(6.4.22)
(6.4.22a)
^P ^.(р. J a//m I I ^Z/+l I
1 out (Pij)
= R', lx, I.
'/I '/+il
Беря произведение неравенств (6.4.22) по всем узлам из у', получим
Hi^-^iH'd^S^/i^.i-<w-23)
Но
кк
и так как Pi.,=Pl, то хи, = х>. Следовательно, кк
Пр-,|-Пр1/+,|^0.(6.4.24)
Деля (6.4.23) на (6.4.24), приходим к неравенству
ПП Рр(6.4.25)
Поскольку у'—нетривиальный цикл графа Г (Л), то собственное значение X должно принадлежать области (6.4.19).
Теперь нужно показать, что цикл у', удовлетворяющий условиям (6.4.21), действительно существует. Пусть i—произвольный индекс, для которого xt #=0. Левая часть равенства
(X — а^ Х( = £ W =£ ад
Pf = V0ut(Pi)
не равна нулю, так как х; ^ 0 и X — аи ^= 0. Поэтому среди узлов множества Tout (Л,) [т. е. узлов Pj, таких, что j =£ i и ам ^= 0; множество Гощ(А) непусто, так как граф Г (Л) слабо связен] должен быть хотя бы один, для которого соответствующая компонента х; собственного вектора не равна нулю. Положим Pu^Pi, а в качестве Ри возьмем максимальный среди узлов множества rout (^zj, т. е. ^хЦ ^ 1 хт I для всех т, таких, что Рт е Гощ (Pi^- Заметим, что неравенство xi2 ^= 0 обеспечено.■
Предположим, что, продолжая указанное построение, мы получили ориентированный путь PixPi^ Pi^1»’Р^-^^
длины /—1, который удовлетворяет условиям (Ь) и (с) в (6.4.21); для j — 2 рассуждения были описаны только что. Левая часть соотношения
(Л — ai iЛ xi =2 ai.mxm
х 11,1 Pm^^0Ut(Pil) 1
не равна нулю, поэтому в множестве rout (^/у) [непустом, поскольку граф Г(Л) слабо связен] имеется хотя бы один узел, которому соответствует ненулевая компонента собственного вектора. Выбор в качестве Ptj+t максимального узла в Гош^) га* рантирует, что х;/+1=#0.
В графе Г(Л) лишь конечное число узлов, а потому наше построение рано или поздно натолкнется в первый раз на максимальный узел Pi г rout (Piq_t), уже встречавшийся в качестве узла Pip на одном из предыдущих шагов (1 ^р <q — 1). Тогда V = PipPlpJrV Pip + 1Pip+2* Ptq_xPiq И бУД6Т ИСКОМЫМ ЦИКЛОМ из Г (Л), удовлетворяющим всем трем условиям (6.4.21). □
Теорема Бруалди имеет более сильную форму, если Л неразложима в обычном смысле. В этом случае она дает обобщение брауэровского варианта 6.4.7 теоремы 6.2.26.
6.4.26. Теорема (Бруалди). Пусть А = [а£,]еМп— неразложимая матрица. Граничная точка X области (6.4.19) тогда и только тогда является собственным значением матрицы А, когда через X проходит граница каждого множества
(геС: П ,2 — аи1< П R't\, (6.4.27) е у Р^ е у J
каков бы ни был нетривиальный цикл уеС(/1).
Доказательство. Если X = ац для некоторого I, то X не может находиться на границе области (6.4.27),так как все Ri > 0. Поэтому можно считать, что X 5^ ац, i — 1, ..., п, и повторить рассуждения предыдущей теоремы 6.4.18, пользуясь теми же обозначениями. Нужно лишь помнить, что собственное значение X теперь принадлежит границе области (6.4.19). Как и в доказательстве леммы 6.2.3, X должно удовлетворять неравенству
для всех нетривиальных циклов уеС(Д), причем хотя бы для одного у в действительности достигается равенство. Сравнивая данное неравенство с (6.4.25), видим, что равенство
П H-a,.z|= IT R'i (6.4.28)
выполняется для специального цикла у', построенного в доказательстве теоремы 6.4.18. Поэтому соотношение (6.4.23) должно быть равенством, и это же верно для обоих неравенств (6.4.22) при всех j — 1,2, ..., k. В частности, равенство достигается
в (6.4.22а), а потому | xm | = |xZ/+11 = cZ/+1 =const для каждого Ptj е у' и для всех т, таких, что Рт е Гощ^у). Этот вывод справедлив для любого цикла, удовлетворяющего условиям (6.4.21). .
Определим теперь множество
К ^ \Pt @ Г (Л): | хт | = с{ = const для всех т, таких, что Pm @ Tout (PiYV
Множество К непусто, так как содержит все узлы цикла у'. Покажем, что в действительности все узлы графа Г(Л) принадлежат К.
Предположим, что имеется не принадлежащий К узел Pq. Поскольку Г (Л) сильно связен, то для каждого узла из К найдется хотя бы один ориентированный путь в этот внешний узел Pq. Если из такого рода путей выбрать путь наименьшей длины, то его первая дуга обязательно идет из некоторого узла, принадлежащего К, в некоторый узел Pf, не принадлежащий К. Используя тот же предпорядок на узлах графа Г(Л), что и в доказательстве теоремы 6.4.18, мы можем провести такое же, как там, построение: начать с узла Р^^Р^, выбрать максимальный узел Р/ ePout^/ ), выбрать максимальный узел Pj3 е ГОц1 (Р/2), и так далее. На каждом шаге множество Г out (P/J непусто вследствие слабой (и даже сильной) связности Г (Л), и максимальный узел удовлетворяет условию (с) в (6.4.21) по тем же, что и прежде, причинам.
Если на некотором шаге построения возникнет выбор между максимальными узлами, один из которых принадлежит множеству К, а другой — нет, мы всегда разрешаем его в пользу узла, который не входит в К. Если же все максимальные узлы данного шага принадлежат К, мы выбираем произвольный из них и проводим из него кратчайший ориентированный путь к какому-либо узлу не из К; после этого выбор максимальных узлов идет прежним образом. Любой ориентированный путь, проходящий в К, обладает следующим свойством (вытекающим из определения множества Ку каждый его узел является максимальным в множестве Pout предыдущего узла (условие (Ь) в (6.4.21)). Поскольку дополнение к К содержит конечное число узлов, то наше построение рано или поздно натолкнется в первый раз на максимальный узел из дополнения, который уже встречался на одном из предыдущих шагов. Ориентированный путь, связывающий первое и второе появления этого узла, может не быть простым циклом вследствие способа, которым мы вынуждали путь покидать множество К в тех случаях, когда по-
строение приводило к его узлам. Часть пути, попадающая в К, содержит лишь конечное число циклов; отбрасывая их, получим простой ориентированный цикл у", удовлетворяющий условиям (6.4.21) и содержащий по крайней мере один узел не из К.
Так как для цикла у" условия (6.4.21) выполнены, то в доказательстве теоремы 6.4.18 можно взять у" вместо у'. Рассуждения, изложенные в первой части доказательства, позволяют установить, что | хт | = щг = const для всех Рт е rout (Р/г) и всех Pi g у". Но тогда каждый узел в у" принадлежит К, а это противоречит более раннему утверждению о том, что у" содержит хотя бы один узел не из К. Противоречие показывает, что в Г (Л) не может быть узлов, не входящих в К.
Если у — произвольный нетривиальный (простой ориентированный) цикл в Г (Л), то он автоматически (поскольку все узлы принадлежат К) удовлетворяет условиям (6.4.21). Мы можем подставить его вместо у' в доказательство теоремы 6.4.18, а затем в вывод равенства (6.4.28). Это и дает желаемый результат: граница каждого множества (6.4.27) проходит через X. □
Следствие. Пусть Л е Мп. Каждое из следующих условий достаточно для того, чтобы матрица Л была обратима:
Л слабо неразложима и
п |а„|> п ц
для любого нетривиального цикла у е С (Л);
Л неразложима и
п |а„|> п
для любого нетривиального цикла уеС(Л), причем хотя бы для одного цикла неравенство должно быть строгим.
Задачи
Пусть матрица Л=[ац] удовлетворяет условиям Брауэра следствия 6.4.11(b) для обратимости. Показать, что |аи |>/?, для всех / = 1, ..., п, кроме, быть может, одного значения. Таким образом, условия Брауэра лишь немногим слабее условия (а) теоремы Леви — Деспланка 6.1.10, требующего строгого диагонального преобладания. В какой связи это находится с теоремой 6.1.11?.
Показать, что обратимость матрицы Л = [,д] можно установить с помощью любого из условий (6.4.11), но ни условие (а) теоремы Леви— Деспланка 6.1.10, ни теорема 6.1.11 для
этой цели неприменимы. Что можно сказать о столбцовом варианте последней теоремы?
Показать, что всякая неразложимая матрица А е Мл (п ^ 2) слабо неразложима. Привести пример слабо неразложимой матрицы, не являющейся неразложимой.
Доказать следствие 6.4.29. Указание. Использовать те же рассуждения, что обосновывают теоремы 6.1.10 и 6.2.6.
Показать, что матрица А е Мп тогда и только тогда слабо неразложима, когда ее нельзя привести к блочно-треугольной матрице, среди диагональных блоков которой есть блок порядка 1, посредством одновременной перестановки строк и столбцов.
Дополнительная литература
Более подробно об областях локализации собственных значений можно прочесть в статье: Brualdi R. Matrices, Eigenvalues, and Directed Graphs. — Lin. Multilin. Alg., 1982, v. 11, p. 143—165. Там же даны многочисленные ссылки на основную литературу по данному вопросу.
Глава 7
ПОЛОЖИТЕЛЬНО ОПРЕДЕЛЕННЫЕ МАТРИЦЫ
7.0. Введение
Многие приложения приводят естественным образом к классу эрмитовых матриц со специальным свойством положительности. Эрмитовы (и, в частности, вещественные симметричные) матрицы с этим свойством дают к тому же одно из возможных обобщений на матричный случай понятия положительного числа. Это обстоятельство часто позволяет предугадать свойства и применения положительно определенных матриц. Ниже приведены примеры ситуаций, в которых возникают эти специальные эрмитовы матрицы.
Гессианы, минимизация и выпуклость
Пусть f(z) — гладкая вещественнозначная функция, определенная на некоторой области D cz Rn. Если у = [уг]— внутренняя точка этой области, то, согласно теореме Тейлора, для точек х е D, близких к у, справедливо равенство
I >9
+ 2 ^-у^-у,)i, j-11'+ 2 ^-у^-у,)i, j-11'
+ 2 ^-у^-у,)
i, j-11'
+ 2 ^-у^-у,)
i, j-11'
Если у — критическая точка функции f, то все частные произ* водные первого порядка обращаются в этой точке в нуль, и поведение функции вблизи у описывается выражением
п
f to - / W = ^2 (х, - у^ (х, - У^ ^^ + • • • =
= kx-yYH<h yHx-yW ....
»«'• ^№L1»«'• ^№L1Матрица порядка п
»«'• ^№L1
»«'• ^№L1
называется гессианом функции f в точке у. Эта матрица симметрична вследствие равенства смешанных частных произвол-
ных1). Если квадратичная форма
гтНф у) 2, 2^=0, ге^,(7.0.1)
всюду2) положительна, то у — локальный минимум для f. Если эта квадратичная форма всюду отрицательна, то у — локальный максимум для f. Разумеется, квадратичная форма (7.0.1) может не сохранять знак для разных 2 е Rn; в таком случае природа критической точки у не определена. Если п = \, то указанные критерии превращаются в обычную проверку второй производной, устанавливающую наличие локального минимума или максимума. Третья возможность реализуется при п = 1 только в точке перегиба; если же п > 1, то картина может быть значительно сложнее.
Если квадратичная форма (7.0.1) неотрицательна во всех точках области D (а не только в критических точках функции f), то f—выпуклая функция в D. Это прямое обобщение известной ситуации при п = 1.-
Ковариационные матрицы
Пусть Ху, Х2, ..., Хп — вещественные или комплексные случайные величины с конечными вторыми моментами на некотором вероятностном пространстве с функционалом ожидания Е, и пусть Ц4 = Е(.Х^ — соответствующие средние. Ковариационной матрицей случайного вектора Х = (Х[, ..., Xay называется матрица Л = [с,у] с элементами
й,/ = £'[№ — Ц;)(Ху — Цу)], I, /=1, . .., П.
Очевидно, что Л—эрмитова матрица; легко проверить, что для любого вектора z = [г,] е С" справедливы соотношения
z'Az = El 51- Li. /=1z'Az = El 51- Li. /=12у (Ху — Цу) 2] (X, — Цу)2у (Ху — Цу) 2] (X, — Цу)пп= Е £ z^Xt — Цу)= Е £ z^Xt — Цу)
z'Az = El 51
- Li. /=1
z'Az = El 51
- Li. /=1
2у (Ху — Цу) 2] (X, — Цу)
2у (Ху — Цу) 2] (X, — Цу)
п
п
= Е £ z^Xt — Цу)
= Е £ z^Xt — Цу)
В приведенных выкладках использованы линейность, однородность и неотрицательность функционала ожидания и только эти свойства. Неотрицательность означает, что Е[У]^0 для всякой неотрицательной случайной величины У.
К тому же результату можно прийти, не прибегая к языку теории вероятностей. Пусть на вещественной прямой заданы семейство комплекснозначных функций fi, f2, •■•, fn и веществен
') Функция f предполагается по крайней мере дважды дифференцируемой. — Прим, перев.
а) То есть при всех г э£ 0. — Прим, перев.
позначная функция g. Если все интегралы
^,= h W fi W£W dx- l- i=v> •••■ n-
имеют смысл и сходятся, то матрица А = [а,,], очевидно, эрмитова. Несложно проверить, что
2*Аг = У j zJ^xVih^g^dx^i i, / = 1 —ОО
Следовательно, эта квадратичная форма будет всюду неотрицательна, если g(x)— неотрицательная функция.
Алгебраические моменты неотрицательных функций
Пусть Цх)— абсолютно интегрируемая на отрезке [0,1] вещественнозначная функция. Рассмотрим числа
1
ak = J xkf (х) dx, 6 = 0, 1, 2, ....(7.0.2)
о
называемые моментами Хаусдорфа. Последовательность ай, а^ а2, ... очевидным образом связана с вещественной квадратичной формой
Пп 11 . п . 2
£ al+kzf2k = £ j xi+^J (х) dx = И £ 2fex4 f (х) dx.
j, 6=0/,6-0 00 \4 = 0/
(7.0.3)
Положим /ls[az+/]. Эта матрица вещественна и симметрична, причем если f^^O для всех хе[0, 1], то zTAz ^ 0, каков бы ни был вектор ге Rn+1. Это верно при каждом п = 1, 2, ... . Матрица такой структуры, как у А (элементы ац суть функции только от суммы индексов /' + /)> называется ганкелевой матрицей независимо от того, будет или нет неотрицательна ассоциированная с ней квадратичная форма. См. раздел 0.9.8,
Тригонометрические моменты
Пусть f(x) — абсолютно интегрируемая на отрезке [0,2л] вещественнозначная функция. Рассмотрим числа
2Л
^^^ е™^^£ = ±1, ±2, ...,(7,0.4)
о
называемые моментами Теплица. Последовательность По, а\, а_х, а2, а-г, ... очевидным образом порождает квадратичную форму
У zkeik9 6=0У zkeik9 6=02f^W2f^WПп 2л2Л
У zkeik9 6=0
У zkeik9 6=0
2
f^W
2
f^W
У. ^2^ = У j(9)d9 = j
I, k=01, 6=0 00
(7.9.5)
Положим A = (ai-j]. Эта матрица эрмитова, и если f(x)^0 для всех хе [9,2л], то z*Az 22$ 9, каков бы ни был вектор геСл+1. Это верно при каждом п = 1, 2, ... . Матрица такой структуры, как у А (элементы ац суть функции только разности индексов I — /), называется тёплицевой матрицей независимо от того, будет или нет неотрицательна связанная с ней квадратичная форма. См. раздел 9.9.7. Согласно теореме Бохнера, неотрицательность квадратичной формы (7.9.5) есть необходимое и достаточное условие для того, чтобы числа ак могли генерироваться по формуле (7.9.4) или по слегка измененной формуле (7.9.4) (где неотрицательная мера dp замещает произведение /(9)d9).
Дискретизация и разностные схемы для численного решения дифференциальных уравнений
Пусть имеется двухточечная краевая задача вида
0<х<1,0<х<1,— у" (х) + а (х) у (х) = f (х), У(0) = а, </(1) = р.
0<х<1,
0<х<1,
Здесь а, 0 — заданные вещественные константы, a f(x) и и(х)— заданные вещественнозначные функции. Дискретизуем эту задачу, рассматривая только значения y(kh) = yk, А = 9, 1, .,. ..., « + 1, и заменяя производную разделенной разностью
n№ + l)h)-2y№ + i/((k-l)h) Ук+{ — 2Ук +Ук_х
У W см^—А2
Тогда мы получим систему линейных уравнений
— Уь+уА-^Ук Ук\— Уь+уА-^Ук Ук\Л5Л5"Ь акУк — /а>"Ь акУк — /а>к = 1, 2, ..., п,к = 1, 2, ..., п,
— Уь+уА-^Ук Ук\
— Уь+уА-^Ук Ук\
Л5
Л5
"Ь акУк — /а>
"Ь акУк — /а>
к = 1, 2, ..., п,
к = 1, 2, ..., п,
Уо = а,
Уп + У — ^'
В ней используются обозначения h = 1/(п + 1), ук = у ^kh), ak = o(kh), fk — f(kh). Если включить краевые условия в пер-
вое (й = 1) и последнее (k = п) уравнения, то придем к системе
(2 + hra^ ух—у^ = НЧХ + а,
— t/fe-i +(2 +ЛМ^ — yk^ = h2fk, fe = 2, 3, .... п-1,
— Уп-i + (2 + А2<т„) уп = КЧп + Р,
о ~о ~которую можно записать в более компактной форме Ay = w, где у = VUfA е R\ w = Цг2Ь + а, №к ..., /г2/,^, h?U + №' е R", а А е Мп — трехдиагональная матрица
о ~
о ~
" 2 + А2^— 1
— 12 + №о2
(7.0.6)
2 + №оп_х-12 + №оп_х-12 4- №оп2 4- №оп
2 + №оп_х
-1
2 + №оп_х
-1
2 4- №оп
2 4- №оп
Заметим, что А будет вещественной симметричной трехдиагональной матрицей независимо от того, какие значения принимает функция о(х). Однако если требуется сохранить разрешимость системы А у = w для произвольной правой части, то нужно наложить на о^ некоторые условия, обеспечивающие невырожденность матрицы А.
Легко построить ассоциированную с А вещественную квадратичную форму [п-1тп
х-хА-Ц (xt — xi+1)2 + х^ + № х
1 = 1J1"=1
Выражение, взятое в скобки, неотрицательно и равно нулю лишь тогда, когда все компоненты вектора х нулевые. Если о(х)^0, то последняя сумма неотрицательна и
(7.0.7)(7.0.7)хт Ах > х2 + X (х£ — xi+1)2 -|- х2 0.
(7.0.7)
(7.0.7)
1 = 1
Если А вырожденна, то существует ненулевой вектор х г R", такой, что Лх = 0 и, следовательно, хГАх=0. Но тогда средняя группа членов в (7.0.7) должна обращаться в нуль, откуда следует, что х = 0, Итак, если о(х)^0, то матрица А невырож- денна и дискретная краевая задача разрешима при любых краевых условиях аир.
Рассмотренная ситуация типична при численном решении дифференциальных уравнений, обыкновенных или с частными производными. Из соображений численной устойчивости жела-
тельио строить метод дискретизации дифференциальной задачи таким образом, чтобы он приводил к системе линейных уравнений Лу = а с положительно определенной матрицей Л. Если дифференциальные уравнения эллиптические, то обычно это удается сделать.
Матрицы со специальным свойством положительности, иллюстрируемым этими примерами, являются предметом исследования в дайной главе. Эти матрицы возникают в многочисленных приложениях: в гармоническом анализе, комплексном анализе, теории колебаний механических систем и, кроме того, во многих разделах самой теории матриц, например при сингулярном разложении матрицы или решении линейных задач метода наименьших квадратов.
Задачи
Пусть последовательность {я6} генерируется формулой (7.0.2), причем функция / неотрицательна. Показать, что обе квадратичные формы
Г «z+z+AZ/, 2 (аг+/ —«z+z+ij^z,, z = [zi]ER'*, i, /-1 и i=\
неотрицательны.
Сделать рисунок, показывающий, какие диагонали ганке- левой матрицы постоянны. То же задание для тёплицевой матрицы.
Показать, что матрица Л формулы (7.0.6) всегда неразложима, а если ст(л)^0, то это матрица с диагональным преобладанием. Из следствия 6.2.27 вывести, что в этом случае Л иевырожденна и все ее собственные значения положительны.
Дополнительная литература
Краткий обзор фактов, относящихся к вещественным положительно определенным матрицам, можно найти в статье: Johnson С. R. Positive Definite Matrices.— Amer. Math. Monthly, 1970, v. 77, p. 259—264. Два других обзора, трактующие различные приложения положительно определенных матриц и содержащие богатую библиографию — это работы Ольги Таусски: Taussky О. Positive Definite Matrices.— In: Inequalities (ed. O. Shisha). — New York: Academic Press, 1967, p. 309—319; Taussky O. Positive Definite Matrices and Their Role in the Study of the Characteristic Roots of General Matrices. — Advan. Math., 1968, v. 2, p. 175—186.
Определения и свойства
Эрмитова п X «-матрица А называется положительно определенной, если
х* Ах > 0 для любого ненулевого вектора х е С". (7.1.1)
Если ослабить (7.1.1) заменой знака > на ^, то А будет называться положительно полуопределенной. В сами определяющие неравенства (7.1.1) уже неявно заложено требование, чтобы А была эрмитовой, поскольку левая часть должна быть вещественным числом при всех х. Разумеется, если А положительно определена, то она будет в то же время положительно полу- определениой.
Упражнение. Что означают свойства положительной определенности и полуопределенности при и = 1?
Упражнение. Пусть АеМп, и пусть произведение х*Ах вещественно для любого хеС", Доказать, что А — эрмитова матрица. Таким образом, вводя свойство положительной определенности,, можно не требовать, чтобы матрица А была эрмитовой. Тем не менее, этого обычно требуют. Указание. Представить А в виде А = В + iC, где В и С эрмитовы.
Упражнение. Пусть А — вещественная матрица из ЛД, и пусть произведение хтАх положительно для любого ненулевого вектора xeR". Показать, что матрица А не обязана быть симметричной и, следовательно, положительно определенной. Указание. Рассмотреть вещественную кососимметричную матрицу А и вычислить утАху. Чему в этом случае равно хМх? Что можно сказать о х*Ах, если х— комплексный вектор?
Упражнение. Показать, что матрица [, {] положительно полуопределена, но не является положительно определенной.
Упражнение. Показать, что если А = [ац]еМп положительно определена, то это же верно для матриц А = [а,-/], Ат, А* и А-1. Указание. Если Ау = х, то х*А~'х = у*А*у.
Аналогичным образом можно ввести термины отрицательно определенная и отрицательно полуопределенная матрица: достаточно изменить в определении (7.1.1) знак неравенства на противоположный или, что эквивалентно, потребовать, чтобы матрица —А была соответственно положительно определенной или положительно полуопределенной. Таким образом, всякое утверждение относительно отрицательно определенных матриц отражает зеркальным образом утверждение относительно положительно определенных матриц. Если эрмитова матрица не принадлежит ни одному из указанных выше классов (т. е.
левая часть (7.1.1) может принимать и положительные, н отрицательные значения), то ее называют незнакоопределенной.
Из свойства матрицы быть положительно определенной сразу вытекает несколько следствий; каждое из них имеет аналог для положительно полуопределенных матриц.
Утверждение. Всякая главная подматрица положительно определенной матрицы сама положительно определена.
Доказательство. Пусть S— собственное подмножество множества {1,2, ..., л). Обозначим через Л(5) матрицу, полученную из положительно определенной матрицы Л е М„ удалением строк и столбцов с номерами, дополнительными к S. Тогда Л(5)—главная подматрица матрицы Л, н все главные подматрицы могут быть получены этим путем. Напомним, что число detH(S) есть главный минор матрицы Л. Пусть хе Сл— ненулевой вектор, в котором компоненты, индексированные множеством S, произвольны, а остальные компоненты нулевые. Пусть x(S) — вектор, получающийся нз х удалением (нулевых) компонент с номерами, дополнительными к S. Заметим, что
x(S)* A (S) х (S) — х*Ах > 0.
Поскольку x(S) — произвольный ненулевой вектор, это означает, что матрица Л(5) положительно определена. □
Упражнение. Показать, что диагональные элементы положительно определенной матрицы суть положительные числа.
Утверждение. Сумма любых двух положительно определенных матриц одинакового порядка является положительно определенной матрицей. Более общо, любая неотрицательная линейная комбинация положительно полуопределенных матриц сама положительно полуопределена.
Доказательство. Пусть А и В положительно полуопределены, н пусть числа а, b неотрицательны. Заметим, что для любого хеС" справедливо х*(аА + ЬВ)х — а(х*Лх) + b ^х*Вх^ ^ 0. Случай большего числа слагаемых рассматривается аналогичным образом. Если коэффициенты положительны, матрицы А и В положительно определены и вектор х ненулевой, то каждый член указанной выше суммы положителен. Таким образом, положительная линейная комбинация положительно определенных матриц сама положительно определена. □
Итак, множество положительно определенных матриц есть положительный конус в векторном пространстве всех матриц.
Утверждение. Каждое собственное значение положительно определенной матрицы положительно.
Доказательство. Пусть А положительно определена, X е о(Л) и х — собственный вектор матрицы А, отвечающий X. Тогда х*Ах = х*Хх = Хх*х. Поэтому собственное значение Х = = (хМх)/х*х положительно как отношение двух положительных чисел. □
Следствие. След, определитель и все главные миноры положительно определенной матрицы положительны.
Доказательство. След н определитель являются соответствен* но суммой н произведением собственных значений. Остальное следует из утверждения 7.1.2. □
Упражнение. Показать, что собственные значения, след, определитель и главные мнноры положительно полуопределенной матрицы суть неотрицательные числа.
Упражнение. Показать, что собственные значения и след отрицательно определенной матрицы порядка п отрицательны, а определитель отрицателен для нечетных п н положителен для четных.
Упражнение. Показать, что если матрица А = [а,/] е М2 положительно определена, то аиа22 > | <2!2|2. (Указание. Воспользоваться свойством бе1Л>0.) Вывести отсюда, что для положительно определенной матрицы А е Мп прн всех /,/=1,2, ... ,.., п
анан > i alj I2-
Показать, что в случае, если А лишь положительно полуопре- делена, знак > в этом неравенстве нужно заменить на ^.
Утверждение. Пусть матрица АеМ„ положительно определена. Если С еМг„ т, то матрица С*АС положительно по- луопределена. Кроме того, rank (СМС) = rank С, так что С*АС положительно определена тогда и только тогда, когда С имеет ранг т.
Доказательство. Прежде всего заметим, что матрица С*АС эрмитова. Для любого х е Ст имеем х*С*АСх = у*Ау ^ 0, где у = Сх, а неравенство есть следствие положительной определенности матрицы А. Итак, матрица СМС положительно полу- определена. Далее замечаем, что, поскольку А положительно определена, неравенство х*СМСх>0 равносильно условию Схт^О. Утверждение относительно ранга (тем самым и относительно положительной определенности матрицы СМС) было бы доказано, если бы мы могли утверждать, что равенства С*АСх= = 0 н Сх — 0 эквивалентны. Действительно, это означало бы, что матрицы СМС и С имеют одно и то же ядро (а следова-
тельно, одинаковый ранг). Если Сх = 0, то, очевидно, С*АСх — = 0. Обратно, если С*АСх = 0, то х*С*АСх = 0, откуда, снова используя положительную определенность матрицы А, получаем Сх = 0. □
Упражнение. Пусть матрица А е Мп положительно полуопре- делена, но не является положительно определенной, и пусть С — произвольная матрица из Мп. Показать, что матрица С*А С также положительно полуопределена, но положительно определенной не будет. Для случая С Е М„, т, где п ф т, построить пример, показывающий, что С*АС может быть положительно определенной даже при вырожденной матрице А е Мп.
Упражнение. Показать, что конус положительно (полу) определенных матриц инвариантен относительно преобразования эрмитовой конгруэнтности. См. определение 4.5.4.
Упражнение. Пусть матрица А е Мп эрмитова. Показать, что она тогда и только тогда будет положительно (полу)опреде- ленной, когда существует невырожденная матрица С Е Мп, такая, что СМС положительно (полу)определена.
Что произойдет, если опустить в определении (7.1.1) требование, чтобы матрица А была эрмитовой, и использовать только вещественные векторы? Если А — вещественная матрица, а хе R", то произведение хМх вещественной можно, как прежде, рассматривать матрицы, для которых хМх > 0 при всех х =# 0 (даже если А несимметрична). Если А — комплексная матрица либо допускаются векторы хеС", то можно заменить (7.1.1) условием
Re(xMx)>0 для любого х^ОеС". (7.1.Г)
Определим эрмитову компоненту матрицы А как матрицу
Д(Л) = 1(Л +Л*). (7.1.7)
При п = 1 это попросту вещественная часть комплексного числа А.
Упражнение. Показать, что условие (7.1.Г) равносильно тому, что матрица Н(Л) положительно определена.
Упражнение. Показать, что для любой матрицы А е Мп справедливо представление А = Д(Л)+ 5(Л), где 5(Л) — = (Л— Л*)/2— матрица, называемая косоэрмитовой компонентой матрицы А.
Задачи
Пусть матрица Д е Мл положительно полуопределена, а х е Сл. Показать, что х*Ах = 0 тогда и только тогда, когда Ах = 0. Вывести отсюда, что ранг положительно полуопределенной матрицы А еМ„ равен п в том и только в том случае, если А положительно определена. Указание. Рассмотреть квадратный многочлен р (/) = (х + iy) *А (х + ty), te R. Если х*Дх = 0, то показать, что р^^О при всех /, р(0) = 0 и dp/dt = O при / = 0. Вывести из этого, что у*Ах = 0 для всех у е Сл и, следовательно, Ах = 0.
Показать, что если в положительно полуопределенной матрице некоторый диагональный элемент равен нулю, то нулевыми будут все элементы соответствующих строки и столбца.
Пусть все диагональные элементы положительно определенной матрицы равны +1. Показать, что тогда все вообще элементы матрицы ограничены по абсолютной величине единицей. Может ли1) достигаться равенство?
Доказать, что ранг положительно полуопределенной матрицы А тогда и только тогда равен 1, когда А представима в виде А = хх* для некоторого ненулевого вектора хе Сл.
Пусть матрица А=[аг,]еМп положительно определена. Доказать, что матрица [az//(azza/y)1/2] также положительно определена, все ее диагональные элементы равны 4-1 и все вообще элементы ограничены по абсолютной величине единицей. Такую матрицу называют корреляционной. Указание. Найти преобразование конгруэнтности с подходящей вещественной диагональной матрицей.
Показать, что для вещественной матрицы А выполнение требования хтАх'> 0 при всех ненулевых х е R" зависит только от эрмитовой компоненты Д(Л).
Построить и доказать утверждения, аналогичные 7.1.2, 7.1.3, 7.1.4 и 7.1.6, для матрицы 4еА1г,(С), такой, что Д(Л) положительно определена.
Функция у. R-*C называется положительно определенной, если матрица VHxi— х/)]еМп положительно полуопределена, каковы бы ни были пе{1,2, ...} и точки {ащ х2, . .. ..., x„}cR. Показать, что /(—x) = f(x) для любого xeR. Опираясь на неотрицательность определителя положительно полуопределенной матрицы, доказать, что для положительно определенной функции f
/(0)^0, п = 1;
/ — ограниченная функция и |/(х)|^/(0) для всех х е R, п = 2;
') Для какого-либо внедиагонального элемента. — Прим, перев.
если / непрерывна в нуле, то она непрерывна всюду, п = 3.
Пусть /Дх), ^(х), ..., /п(х)—положительно определенные функции, «1, а2, ..., ап— неотрицательные числа. Показать, что функция f(x)= оц/Дх)-}- ...+ал/п(х) также положительно определена.
Показать, что функция eltx положительно определена для каждого заданного г е R. Используя задачу 9, показать, что функция /(х) = а1е,<1* + ...-\-aneltпХ положительно определена при любом выборе точек tx, ..., !„eR и любых неотрицательных коэффициентах ах, ..., ап.
Доказать, что функция cosx положительно определена, Указание. cos х = (е‘х + е-‘х) /2.
Будет ли положительно определенной функция sinx?
Пусть g(x)—неотрицательная функция, интегрируемая на R. Показать, что функция
fW = $ eitxglf)dt
положительно определена. Указание. Воспользоваться определением.
Доказать, что функция /(х)=1/(1— tx) положительно определена. Указание. Положить в задаче 13 gM^ = e-t ПРИ t > 0, ^(/) = 0 при / ^ 0.
Показать, что из положительной определенности функции f вытекает положительная определенность функций f(x) и |/(х)|2. Используя последний результат, вывести из задачи 14 положительную определенность функции 1/(1 -фх2).
Используя (7.0.2) и (7.0.3) для /(х)= 1, показать, что матрица А = \ац] е Мп с элементами а,/ = l/(i + j—1), t, / = = 1, ..., п, положительно определена при всех п = 1,2, ... .
Показать, что матрица А =\ац\еМп с элементами ац = = l/(t -j-/), I, j = 1, 2п, положительно определена при всех /1 = 1, 2, ... . Указание. Для любого x = [xi]eR/i
Вычислить этот интеграл.
Используя утверждение 7.1.6, показать, что матрица А = = [ац]гМп с элементами ait = min{t,/} положительно определена. Указание. Выяснить устройство этой матрицы, выписывая ее явно для п = 4. Затем рассмотреть С*АС, где С — веще-
-1 -1 ... -1"1 О ... О-1 -1 ... -1"1 О ... О• еМп.• еМп.ООственная матрица вида
-1 -1 ... -1"
1 О ... О
-1 -1 ... -1"
1 О ... О
• еМп.
• еМп.
О
О
о
1
Будет ли С невырожденной? Заметить, что в результате первая строка (и столбец) матрицы А вычтется из всех остальных строк (и столбцов). Теперь нужно учесть вид нижней угловой подматрицы порядка п— 1 в С* АС и выполнить с ней подходящее преобразование конгруэнтности, изменяющее ее таким же образом. Вывести отсюда, что А эрмитово конгруэнтна единичной матрице Л
Используя задачу 18 и операцию предельного перехода, показать, что ядро K(s, t) = min {s, /} положительно полуопре- делено на отрезке [О, М] при любом N > 0. Это означает, что
N N
(7.1.8)(7.1.8)К (s, t) f (s) f (t) dsdt^Q
(7.1.8)
(7.1.8)
о 0
для любой комплекснозначной функции /(■), определенной и непрерывной на [0, jV] . Указание. Трактовать интеграл как предел римановых сумм для разбиений отрезка [0, jV] равноудаленными узлами.
Доказать, что для любой комплекснозначной функции /(■), определенной и непрерывной на [0,7V], справедливо равен
ствоствоN NNmin {s, /} f (s) / (/) ds dt =CO0N NNmin {s, /} f (s) / (/) ds dt =CO0Nt^ds tNt^ds tdt.dt.
ство
ство
N NN
min {s, /} f (s) / (/) ds dt =
CO0
N NN
min {s, /} f (s) / (/) ds dt =
CO0
N
t^ds t
N
t^ds t
dt.
dt.
Построить на его основе другое доказательство утверждения задачи 19. Это доказательство дает более сильный результат: ядро К (s, /) = min {s, /} положительно определено, т. е, равенство в (7.1.8) имеет место тогда и только тогда, когда /(/) —0. Указание. Заменить двойной интеграл повторным и проинтегрировать по частям.
Характеризации
Существует несколько простых и полезных характеризаций положительно определенных матриц.
Теорема. Эрмитова матрица АеМ„ положительно по- луопределена в том и только в том случае, если все ее собствен-
ные значения неотрицательны. Она положительно определена в том и только в том случае, если все собственные значения положительны.
Доказательство. Поскольку все собственные значения матрицы А положительны, то для любого ненулевого вектора хеС"
п п
VAx = x*U* DUx = y* Dy^^ d^^ = X ^ I Pt I2 > 0. г = 1 i=1
Здесь D = diag(^i, d2, ..., dn)— диагональная матрица, составленная из собственных значений матрицы А, у = Ux и U — унитарная матрица. Обратное утверждение содержится в утверждении 7.1.4. Случай положительно полуопределенной матрицы рассматривается аналогичным образом. □
Упражнение. Показать, что невырожденная матрица А е Мп тогда и только тогда будет положительно определенной, когда положительно определена Д-1.
Упражнение. Пусть матрица A s Мп положительно полуоп- ределена. С помощью теоремы 7.2.1 показать, что А тогда и только тогда будет положительно определенной, когда rank А = = п. Сравнить с задачей 1 из § 7.1.
Следствие. Если матрица А г Мп положительно полу- определена, то положительно полуопределены и все степени Д*, k = 1, 2, ... .
Доказательство. Если Xj, ..., Хп— собственные значения матрицы А, то собственными значениями матрицы Ah будут числа Х^, ..., Хк. □
Следствие. Если А г Мп — эрмитова матрица со строгим диагональным преобладанием и положительными диагональными элементами, то А положительно определена.
Доказательство. Это утверждение есть частный случай теоремы 6.1.10. Из сделанных предположений вытекает, что каждый круг Гершгорина матрицы А принадлежит открытой правой полуплоскости. Поскольку все собственные значения эрмитовой матрицы вещественны, они должны быть положительными; следовательно, по теореме 7.2.1 А положительно определена. □
Упражнение. Пусть эрмитова матрица А эрмитово конгруэнтна матрице с положительными диагональными элементами и строгим диагональным преобладанием. Показать, что А положительно определена.
Следующая характеризация не слишком практична при реальной проверке матрицы на положительную определенность, однако может быть полезна с теоретической точки зрения.
Следствие. Пусть А^Мп — эрмитова матрица с характеристическим многочленом
= / -\-ап_х1 + ••• + an_mt
Предположим, что О^т^м и ап_т#=0. Матрица А тогда и только тогда будет положительно полуопределенной, когда ак=^б для всех k от п — m до п и akak+\ <_ 0 для k = = п — пг, ..., п — 1. Мы полагаем ап = 1.
Доказательство. Утверждение следствия состоит в том, что все старшие коэффициенты ак ненулевые и имеют строго чередующиеся знаки. Если это условие выполнено, то у р* (t) не может быть отрицательных корней; следовательно, все собственные значения матрицы А должны быть неотрицательными. Обратно, пусть А положительно полуопределена. Обозначим ее положительные собственные значения через Xi, Х2, • •, Хт (остальные п — m собственных значений равны нулю). По индукции можно доказать, что все коэффициенты многочленов t — Xi, (t — М) U — ^2), •••, U — Ан) (t—■ А2) ••• V — Ат) ненулевые и имеют чередующиеся знаки. Умножение на tn-m дает Ра(0- □
Чтобы упростить формулировку следующего утверждения, обозначим через Ai ведущую главную подматрицу матрицы А, определяемую первыми i строками и столбцами: Ai = А ({1,2, ... ..., 0), i= 1, .... п. Мы уже отмечали, что в положительно определенной матрице А все главные миноры положительны. В действительности, для эрмитовой матрицы А верно и обратное. Однако можно доказать более сильное утверждение. Заметим, что поскольку А эрмитова, эрмитовы и все Ai, а потому каждая матрица А; имеет вещественный определитель.
Теорема. Эрмитова матрица А е Мп тогда и только тогда будет положительно определенной, когда det/4;>0 для i=l, 2, ..., п. Более общо, положительность любой последовательности из п вложенных главных миноров матрицы А (а не только последовательности из ведущих главных миноров) необходима и достаточна для положительной определенности этой матрицы.
Доказательство. Из следствия 7.1.5 известно, что для положительно определенной матрицы A det Ai > 0 при всех./ =
= 1, 2, ..., п. Обратное утверждение докажем, пользуясь индукцией и разделительными неравенствами, справедливыми для всякой эрмитовой матрицы (см. (4.3.8)). Для матрицы Ai порядка 1 условие det^i >0 означает, что Л1 положительно определена. Если для некоторого к •< п матрица Ак положительно определена, то все ее собственные значения положительны и, как следует из разделительных неравенств, положительны все собственные значения матрицы Ак+\, исключая, возможно, наименьшее. Но произведение собственных значений матрицы Aw равно числу det^A+i, по предположению положительному, поэтому Ак+\ не может иметь только одно отрицательное собственное значение. Отсюда заключаем, что наименьшее собственное значение этой матрицы также положительно; следовательно, Aw должна быть положительно определенной. Поскольку АГ1 = А, то доказательство закончено. В случае произвольной последовательности вложенных миноров нужно рассмотреть матрицу, получаемую из А надлежащими перестановками строк и столбцов. □
Согласно определена, (и только вСогласно определена, (и только втеореме 7.2.5, эрмитова матрица положительно если ее ведущие главные миноры положительны этом случае). Учитывая теорему 7.2.1, видим, чтотеореме 7.2.5, эрмитова матрица положительно если ее ведущие главные миноры положительны этом случае). Учитывая теорему 7.2.1, видим, чтолюбое из двух ассоциированных с А числовых множеств можетлюбое из двух ассоциированных с А числовых множеств можетбыть использовано для проверки ности.Упражнение. Используя теоремубыть использовано для проверки ности.Упражнение. Используя теоремуположительной определен-положительной определен-А =А =5-135-13-12-2-12-27.2.5, показать, что матрица31-23-7.2.5, показать, что матрица31-23-
Согласно определена, (и только в
Согласно определена, (и только в
теореме 7.2.5, эрмитова матрица положительно если ее ведущие главные миноры положительны этом случае). Учитывая теорему 7.2.1, видим, что
теореме 7.2.5, эрмитова матрица положительно если ее ведущие главные миноры положительны этом случае). Учитывая теорему 7.2.1, видим, что
любое из двух ассоциированных с А числовых множеств может
любое из двух ассоциированных с А числовых множеств может
быть использовано для проверки ности.
Упражнение. Используя теорему
быть использовано для проверки ности.
Упражнение. Используя теорему
положительной определен-
положительной определен-
А =
А =
5
-1
3
5
-1
3
-1
2
-2
-1
2
-2
7.2.5, показать, что матрица
31
-2
3-
7.2.5, показать, что матрица
31
-2
3-
положительно определена.
Упражнение. Показать, что ведущие главные миноры сим- метричнои матрицы [0 _!] неотрицательны, но матрица не является положительно полуопределенной.
Упражнение. Пусть АеМп— эрмитова матрица, и пусть det Д1 > 0, det Д2 > 0> •••, det^„_i>0 и det^„^O. Показать, что А положительно полуопределена. Указание. Какую информацию о собственных значениях матриц Ап и An-i дают разделительные неравенства?
• Упражнение. Предположим, что эрмитова матрица А е Мп имеет положительные диагональные элементы и положительный
определитель. Рассматривая матрицу
" 1 2 1 '
2 1 1- 1 1 t -
для подходящих значений t, показать, что эти условия сами по себе не обеспечивают положительную определенность. Однако если предположить дополнительно, что некоторая главная подматрица порядка п—1 является матрицей с диагональным преобладанием, то отсюда уже следует положительная определенность.
Упражнение. Пусть А е Мп— эрмитова матрица. Показать, что положительная полуопределеиность матрицы А равносильна существованию последовательности эрмитовых матриц Ае, сходящейся к А при е->0 и такой, что в каждой матрице Ае всякая главная подматрица имеет положительный определитель. Вывести отсюда такое следствие: если все главные миноры матрицы А неотрицательны, то А положительно полуопределена.
Каждое положительное число имеет единственный положительный корень 6-й степени, где 6 = 1, 2, ... . Аналогичное утверждение справедливо для положительно определенных матриц.
Теорема. Пусть А^М:г — положительно полуопределенная матрица, а к^ 1—заданное целое число. Тогда существует единственная положительно полуопределенная эрмитова матрица В, такая, что Вк = А. При этом
ВА = АВ и существует многочлен рУУ такой, что В = = Р1Ау
rank В = rank А уаким образом, матрица В положительно определена, если положительно определена А);
В вещественна, если вещественна Л.
Доказательство. Мы знаем, что эрмитову матрицу А можно диагоиализовать посредством унитарного подобия: А = UMJ*, где A = diag(Xh .. .,Х„) и все Xt ^ 0. Положим B = UMlkU‘; здесь Л1/4 = diag (Х1/*, ..., Хх^ и в каждом случае берется единственный неотрицательный корень 6-й степени. Ясно, что Вк = А, причем В эрмитова и положительно полуопределена, Поскольку все ее собственные значения неотрицательны. Имеем, кроме того, AB = UMJ*UM'kU* = U\M'kU* = UM'kMJ* = = UMikU*U MJ* = ВА. Ранг матрицы В совпадает с числом ненулевых X/, т. е. с рангом матрицы А. Если А — вещественная положительно полуопределенная матрица, то, как мы зиаем,
16 ₽.’ Хорн, Ч. Джонсон
можно выбрать вещественную ортогональную матрицу U. Понятно, что в этом случае н В может быть взята вещественной. Остается рассмотреть только вопрос о единственности.
Прежде всего заметим, что существует многочлен р(/), такой, что р^А^= В. Нужно лишь в качестве р^ взять интерполяционный многочлен Лагранжа (см. (0.9.11)) для множества {(\, ^1/A)’ (^ Ч6)}; тогда рЩ = А1/аи р<А^ = p^UMJ*^ = = Up(A) U* = UXX!,iU* = В. Если С — произвольная положительно полуопределенная эрмитова матрица, такая, что С* = А, то В = р(Л)= р(Ск). Тогда СВ = Ср(Ск) = р(Ск)С = ВС. Поскольку В и С— коммутирующие эрмитовы матрицы, то их можно диагонализовать одним преобразованием унитарного подобия, т. е. существуют унитарная матрица V и диагональные матрицы Л], Л2 с неотрицательными диагональными элементами, такие, что В= EAiE* и С = VA2P. Подставляя эти выражения в равенства Вк = А = Ск, получаем Л? = Л2. Так как неотрицательный корень к-й степени из неотрицательного числа определен единственным образом, заключаем, что (Л?)|/г = Л1 = = Д2 = (Л^)1М и В = С. □
Наиболее полезный случай доказанной теоремы соответствует значению к = 2. Единственный положительно (полу) определенный квадратный корень из положительно (полу)определенной матрицы А обычно обозначается через А1/2. Точно так же АХ1к обозначает единственный положительно (полу)определенный корень к-й степени из матрицы А, к = 1, 2, ... .
Упражнение. Вычислить [® з]'/2.
Упражнение. Показать, что для положительно определенной матрицы А справедливо соотношение (А1/2) ~* = (А-1) */2.
Теорема. Матрица В е Мп положительно определена тогда и только тогда, когда В = С*С для некоторой невырожденной матрицы С е Мп.
Доказательство. Если В можно представить в таком виде, то В положительно определена (см. утверждение 7.1.6). Если же В положительно определена, то нужное разложение можно получить, полагая С = В1/2; при этом С даже эрмитова.
Следствие. Эрмитова матрица А тогда и только тогда положительно определена, когда она эрмитово конгруэнтна единичной матрице.
Доказательство. Это утверждение — всего лишь переформулированная теорема 7.2.7. □ .
Упражнение. Пусть АгМп— положительно определенная матрица, и пусть Д = С*С1, Д = С*С2, где Ср С2 е Мп. Показать, что Сг = VC), где V—унитарная матрица. В частности, показать, что любое решение уравнения А = С*С имеет вид С = УД1/2 для некоторой унитарной матрицы V. Указание. Показать, что
A^C'CA-1'2 = (СД"1/2)‘ (ОС1") = /.
Иногда полезно знать, что разложение А = С*С положительно полуопределенной матрицы может быть несколько конкретизировано. Всякая матрица С допускает Q^-разложение (С = QR), где Q унитарна, a R— верхняя треугольная матрица такого же ранга, как С (см. (2.6.1)). Но тогда А = С*С = = (QR)*QR = R*Q*QR = R*R. Если С невырождеина, то матрицу R можно выбрать так, чтобы ее диагональные элементы были положительными ((^-разложение этого типа единственно), а если С вещественна, то можно взять вещественные О и R. Мы установили существование разложения Холецкого матрицы А. Оформим этот результат в виде следствия.
Следствие. Для положительной определенности матрицы А е Мп необходимо и достаточно, чтобы существовала невырожденная нижняя треугольная матрица L е Мп с положительными диагональными элементами, такая, что A = LL*. Если А вещественна, то вещественна и L.
Пусть {уц ..., и^—система из к заданных векторов пространства V со скалярным произведением <•,■)• Матрицей Грама векторов {оц ..., ик\ относительно скалярного произведения <•, •> называется матрица G = [gMeMk с элементами gii = <иь иД. Последняя характеризация, которую мы даем для положительно полуопределенных матриц, описывает их как матрицы Грама (см. следствие 7.2.11).
Теорема. Пусть G е Мк— матрица Грама векторов {куц ..., гуй}сдСл относительно заданного скалярного произведения <•,•), и пусть W = [Ш1Ш2 ■•■ Wk\^Mn, к. Тогда
G положительно полуопределена;
для невырожденности матрицы G необходимо и достаточно; чтобы векторы wi, ..., Wk были линейно независимы;
существует положительно определенная матрица АеМп, такая, что G = W*A W;
rank G = rank W = максимальное число линейно независимых векторов в системе {куц ..., WkV
Доказательство. Матрица G — [gi/J с элементами ga = f= <Wj, wf) эрмитова вследствие эрмитовости скалярного пронз-
ведения. При этом
Itкк
XGx = У giiXlXj= У (tl)j, W^XiXj— У ^XjW], xtw^ = i, / = 1г, /=1i, / = 1
/ кк\II к |р
= ( У XjWh У xtWt / = У X.Wt > 0.
\/=1Z-1/||/=1
Норма ||-|| порождена данным скалярным произведением. Вследствие положительной определенности нормы равенство нулю возможно, лишь если
к
У Х£Ш£ = 0.
1 = 1
При нетривиальном наборе коэффициентов Xi это означает, что заданные векторы {да,} линейно зависимы. Если матрица G вы- рожденна, то найдется ненулевой вектор х, такой, что Gx = Vi; следовательно, x*Gx = Q и система {да,} линейно зависима. Обратно, если хцщ + . .. +хАдал=0 *) и х = [х,], то, как показано выше, x*Gx = 0, так что матрица G должна быть вырожденной.
Если {б]е„}—естественный ортонормированный базис
пространства Сп, то матрица Д=(<е/, е,)) положительно определена согласно (а) и (Ь). Для любых векторов х, уе.Сп имеем
(У, я)=\Уу/е/, У х;еЛ = У <еь е^х^ = х* Ау.
\/-1<=i/ I, j=i
Отсюда glj = (wj, w^ = w*tAw;, а потому G = W*AW.
Наконец, если Gx = 0, то x*Gx = х* W*A Wx = (Wx) М (IEx) = = 0, значит, Wx = 0, поскольку матрица А положительно определена. Обратно, Wx = 0 влечет за собой Gx = W*A (Wx) = 0; поэтому G и W имеют одно и то же ядро, а следовательно, одинаковый ранг. Но столбцовый ранг матрицы W есть максимальное число линейно независимых векторов в системе {даь ... ..., wk). □
Упражнение. Чаще всего теорема 7.2.10 применяется в случае обычного евклидова скалярного произведения <х, у") = у*х. Показать, что в этом случае А = 1; вывести отсюда, что максимальное число линейно независимых векторов в заданной системе {даь ..., »6}с С" в точности равно рангу матрицы 0 = №/]еЛ16.
Следствие. Пусть А^.Мп — заданная матрица. Для того чтобы А была положительно полуопределенной и имела
ранг г ^ п, необходимо и достаточно, чтобы существовала система векторов S ={щ>1, ..., wn^c.Cn с максимальным числом линейно независимых векторов, равным г, для которой А есть матрица Грама относительно евклидова скалярного произведения.
Доказательство. Достаточность условия установлена в теореме 7.2.10. Для доказательства необходимости представим А, пользуясь теоремой 7.2.6, в виде А = В2, где В положительно полуопределеиа. Ранги матриц В и А одинаковы, и А = В2 = = В*В является матрицей Грама системы столбцов матрицы В относительно евклидова скалярного произведения. □
Задачи
Пусть А — эрмитова матрица. Показать, что матрица А2к положительно полуопределеиа для всех Л = 1, 2, ..., а матрица еА положительно определена. См. упражнения, сопровождающие теорему 5.6.15.
Пусть матрица А положительно полуопределеиа, и пусть р^— произвольный многочлен, такой, что p(t)>0 для всех t ^ 0. Показать, что матрица р(Л) положительно полуопредс- леиа. Указание. Каковы собственные значения матрицы р(Л)? Каким образом данный результат обобщает утверждение задачи 1?
Используя теорему 7.2.5, показать, что матрица А = = [ац]еМп с элементами ац == min{/, /} положительно определена. Указание. Вычислить det Л;, вычитая первую строку из всех остальных, а затем проделав то же самое со столбцами. Что можно сказать о матрице с элементами ац е= шах {/,/}?
Пусть матрицы А и В положительно определены. Показать, что их прямая сумма, т. е. матрица [ов]> также положительно определена. .
Привести пример вещественной квадратной (иеэрмито- вой) матрицы с положительными ведущими главными минорами, среди собственных значений которой есть имеющие отрицательную вещественную часть.
Восполнить пропущенные рассуждения в общем случае теоремы 7.2.5, т. е. доказать, что положительности любой последовательности из п вложенных главных миноров (необязательно ведущих; вложенность понимается как включение подматриц) достаточно .для положительной определенности эрмитовой п X n-матрицы А.
Сформулировать необходимые и достаточные условия отрицательной (полу)определенности эрмитовой матрицы А в терминах знаков ее миноров.
Существуют ли «квадратные корни» из положительно по- луопределенной матрицы Л, отличающиеся от Л1/2? Сколько их? Имеются ли корни А-й степени, отличающиеся от Л1/*? Возможны ли неэрмитовы квадратные корни? Указание. Рассмотреть матрицу [ ~* } ] .
Пусть матрица В е Мп положительно полуопределена и имеет ранг т. Показать, что существует т X «-матрица С ранга т, такая, что В = С*С. Отметить частный случай этого утверждения: положительно полуопределенная матрица ранга 1 всегда может быть представлена в виде хх*, где х— некоторый вектор из С".
Предположим, что матрица Л е Мп положительно полуопределена и имеет ранг г < п. Показать, что у Л найдется положительно определенная главная подматрица порядка г.
Пусть Л е Мп — эрмитова матрица. Показать, что Л тогда и только тогда будет положительно определенной, когда бе1Л>0 и положительно определена присоединенная матрица adj Л [см. (0.8.2)]. В общем случае det adj Л — (det Л) «—’; поэтому при четном п предположение относительно определителя не является необходимым. Если Л положительно полуопределена, рассмотреть матрицы Ле = Л 4- е/ и показать, что adj А также положительно полуопределена. Будет ли справедливо обратное утверждение, если А вырожденца? Указание. Рассмотреть матрицу А = diag(0, —1, —1).
Пусть г — заданное число из интервала (0,1); рассмотрим вещественную симметричную тёплицеву матрицу Л = [a,/] s е Мп с элементами atj = г't-i''. Доказать, что А положительно определена, придерживаясь следующей схемы рассуждений: (а) Если A,j — минор, дополнительный к элементу ац, то показать, что det Ац = 0 при | z — /| ^ 2. Указание. Если z = I, / > 2, то, как можно заметить, первый столбец минора Ац есть кратное второго столбца. (Ь) Пусть Z)n = deM. Показать, что D2 = = 1-г2 и Dn+, =Dn-r2Dn=(l-r^Dn=U-r2V~V Воспользоваться при этом п. (а) и разложением определителя по первой строке, (с) Вывести положительную определенность матрицы А из теоремы 7.2.5.
Показать, что матрица А задачи 12 имеет вещественную симметричную трехдиагональную обратную матрицу; при этом в матрице (1—г2)Л-1 диагональные элементы равны 1, 1 + г2, .., ..., 1 + г2, 1, а каждый элемент наддиагонали и поддиагонали равен —г. Указание. Трехдиагональность матрицы Л-1 вывести из п. (а) задачи 12. Почему Л-1 должна быть симметрична? Элементы матрицы Л-1 вычислить, пользуясь соотношениями лл-1 = л-м = /.
Пусть <•, •>— заданное скалярное произведение на С", ^ = {ci, ..., ел)—стандартный ортонормированный (по отношению к обычному евклидову скалярному произведению) базис пространства С" и G е Мп— матрица Грама системы ^ относительно заданного скалярного произведения <•,•>. Показать, что
(х, y)=yGx(7.2 12)
для всех х, у е С". Вывести отсюда такое утверждение: функция (•,•>: С"ХС"^-С тогда и только тогда является скалярным произведением, когда для некоторой положительно определенной матрицы G выполняется (7.2.12).
Вспомним введенное в определении 5.4.12 понятие двойственной нормы. Пусть (•, •> — заданное скалярное произведение на С", а || ■ II—заданная норма на С". Эта норма необязательно порождена данным скалярным произведением. В таком случае определим норму, двойственную к || ■ || относительно скалярного произведения (•,•), посредством формулы
1И1° = max|(x, z/> |.
’11911 = 1
Отметим, что для евклидова скалярного произведения <■,•> это обычная двойственная норма. Позволяет ли это обобщение понятия двойственной нормы получить какие-либо векторные нормы, которые не были найдены ранее другими средствами? Указание. Пользуясь результатом задачи 14, представить <х,у> в виде (,х, у") = y*Gx и показать, что
lkl^.) = ||G-1A;||D = (||A;||G-1)D.
Пусть дана матрица А е М„. Доказать, что р(Д)< 1 в том и только в том случае, если существует положительно определенная матрица В е Мп, такая, что В — А*ВА положительно определена. Указание. Если В положительно определена, положим С = 51/2, Если матрица
В - А* В А = С*С - (СД)* (СД)
положительно определена, то для любого ненулевого вектора х* [С*С - (СД)* (СД)] х > О,
или ||Сх||2 > ||СДх||2. Полагая у = Сх, показать, что ЦуЦг^’ > || СД C-*z/||2, каков бы ни был ненулевой вектор у е С"; отсюда вывести, что ||СДС—11|2 < 1. Тем самым р(Д) = р(СДС-1) ^||СДС-1||2 < 1. Обратно, если р(Д)< 1, то существует невырожденная матрица СгМ., такая, что ЦСДС-Ч|2 < 1 (см. § 5.6,
задача 25). Поэтому проведенное рассуждение можно обратить, полагая В = С*С.
Пусть матрицы А, В^Мп положительно полуопределены и хотя бы одна из них невырожденна. Показать, что ||А— ВНг^ ^||А2— В2Ц2/ [^min (А) + Xmin (В) ]. Указание. Положим Е = = А — В, и пусть хе Сп— нормированный собственный вектор матрицы Е, т. е. Ех=Хх, причем | X] = р (£) =||£||2. Тогда А2 — В2=АЕ + ЕА — Е2 и ||А2 — 52||2 > |х*И£ + ЕА — Е2)х| = = I X I (х*Ах + Х*Вх) 5s I ^ I (^min (А ) + Xrnln (В) ) ,
Пусть матрицы A, Be Мп положительно полуопределены, причем А положительно определена. С помощью результата задачи 17 доказать, что
II Ахр - В421|2 < II Д-1/2||2 II А - В ||2.(7.2.13)
Объяснить, почему из этого неравенства следует, что функция /: С-^Сх;2, определенная на множестве положительно полуоп- ределенных матриц из Мп, непрерывна на внутренности этого множества, т. е. на открытом множестве положительно определенных матриц. Выписать и дать прямое доказательство неравенства для обычной скалярной функции /: t-*Ajt (0 ^1 < < со), которое получается из (7.2.13) при п=1.
Полярная форма и сингулярное разложение
Теперь мы введем два важных и связанных между собой разложения комплексных (необязательно квадратных) матриц, существенно опирающиеся на понятие положительной определенности.
Лемма. Пусть АеМт.п, причем т ^ п и rank А = = к ^ т. Существуют унитарная матрица X е Мт, диагональная матрица X е Мт с неотрицательными диагональными элементами ?ч Х2 ... ^ кк > X*+i = ... =кт = 0 и матрица У е Мт, п с ортонормированными строками, такие, что A = ХХУ. Матрица А всегда определена однозначно, и {х?Х^}суть
собственные значения матрицы АА*. Столбцы матрицы X являются собственными векторами матрицы АА*. Если все собственные значения последней матрицы различны, то матрица X определена с точностью до правого диагонального сомножителя D = diag (е1®1, ..., е‘®п), где все 0г е R; другими словами, если А = А1АУ1 = Х2ЛУ2, то Х2 = X;D. При фиксированной матрице X матрица У однозначно определена, если rank А = т. Если А — вещественная матрица, то X и У могут быть выбраны вещественными... .
Доказательство. Пусть Л = ХЛУ — разложение описанного типа. Тогда АА* = XAYY’KX* = ХМ КХ* = ХК2Х*, т. е. произведена унитарная диагонализация эрмитовой матрицы АА*. Пусть X = ^! х2 .. • хт] и К2 = diag (Xi, ..., X2,?); тогда АА'х, = = МХЬ j=Y 2, . .., m, причем векторы {х/} составляют орто- нормированную систему. Поскольку диагональные элементы матрицы Л должны быть неотрицательными и упорядоченными по невозрастанию, то Л однозначно определяется матрицей АА*. Если все числа {Л/} различны, то нормированные собственные векторы матрицы АА* определены каждый с точностью до комплексного скалярного множителя с модулем 1. Поэтому если Хх и Х2 — унитарные матрицы, столбцами которых служат собственные векторы матрицы АА*, то должно быть Х2 = Х)О, где D = diag(di, ..., dm) и |Д| = 1, t = 1, ..., m.
Собственные векторы матрицы АА*, отвечающие кратному собственному значению, определены неоднозначно. Однако если они выбраны и ортонормированы и тем самым зафиксирована унитарная матрица X, то матрица Y = МД* А определяется единственным образом в случае невырожденной матрицы Л, что имеет место пои k = rank А = пт. Легко проверить, что YY* = = Д-’Д* (АА *Х) Л-1 = Д-^ДЛ^Х-1 = Д-1Л2Д-1 = /, т. е. эта матрица У имеет ортонормированные строки.
Остается рассмотреть только случай гапкД = й<т. Когда все к, были ненулевыми, мы определяли Y формулой Y = — Д-'ДМ Д-1 (Д*Д) *. Поэтому и теперь в качестве j-й строки матрицы У возьмем вектор-строку у/, у, == XJx (А*хjY j=i, • • • ..., к. Тогда
[V (Л*Х/)]* [хг1 (Д’х6)1 = х.ААЧкКХМ =
= XjX^x^XjX^ = XjX^kJXj.
Это скалярное произведение равно 0 при / ^ к и 1 при / = к в силу ортонормированности векторов {ху}. Векторы {уь ..., у6} образуют ортонормированную систему в пространстве С", и так как п ^ пт > к, то найдутся m — к дополнительных (конечно, неоднозначно определяемых) векторов ук+х, ..., ут, таких, что матрица У* = [У1У2 ••• УьУк+\ ... ут\^Мщт имеет т ортонор- мированных столбцов.
Заметим теперь, что Х*А = ДУ. Действительно, первые к строк в обеих матрицах равны согласно определению векторов Уу Остальные т — к строк в правой матрице нулевые, потому что соответствующие диагональные элементы в Л равны 0. В левой матрице те же строки нулевые, поскольку из AA*Xj = 0 следует, что ^x*iAA*xi = ^A‘xiy А*х^ = 0, т. е. Л’х^О.
«-—— ... ..-. .... —
' Наконец, при вещественной матрице Л матрица ЛЛ* вещественна и имеет вещественные собственные значения. Следовательно, собственные векторы, образующие матрицу X, могут быть взяты вещественными. Первые к строк матрицы Y, определяемые матрицей X, вещественны по построению, и добавляемые пг— к ортонормированных векторов также можно выбрать вещественными. Таким образом, в случае вещественной матрицы Л все сомножители разложения можно считать вещественными. О
Всякое ненулевое комплексное число ж имеет единственное «полярное представление» z = ри, где р— положительное число, а и — комплексное число с модулем 1. В самом деле, р = =а]г|, и = p~xz = г/|г|, если г 5^= 0. Если г = 0, то г все же может быть записано в полярной форме с р =0, но и теперь определено неоднозначно: оно может быть произвольным комплексным числом с модулем 1.
Как обобщить эти факты на комплексные матрицы из М^ Один из возможных ответов такой: матрицу Л е Мп можно представить в виде Л —PU, где Р— положительно (полу)определенная, a U — унитарная матрицы. Более того, разложение этого вида можно обобщить на случай неквадратной матрицы Л.
Теорема. Пусть Л е Мт, п, причем т ^ п. Тогда Л представима в виде
A = PU,
еде матрица РеМт положительно полуопределена, rankP = = rank Л и матрица U е Мт, п имеет ортонормированные строки (т. е. UU* = 1). Матрица Р всегда определена однозначно, а именно, Р = (ЛЛ*)*/2. Матрица U определена однозначно, если rank Л = пг. Для вещественной матрицы Л и Р, и U можно выбрать вещественными.
Доказательство. Используя лемму 7.3.1, запишем А в виде А = ХАУ = XXX*XY и положим Р = ХА.Х*, U = XY. Тогда Р положительно полуопределена и UU* = XYY*X* = XIX* = «= XX* = /, так что U имеет ортонормированные строки. Из леммы 7.3.1 следует, что матрица Р равна (ЛЛ*)1/2, но и в общем случае, если А = PU, то ЛЛ* = PUU*P — Р2, и Р всегда должна быть (единственным) положительно полуопределенным квадратным корнем из ЛЛ*. Если rank Л=т, то Р невырож- денна, и матрица U =Р~ХА определена однозначно. Однако, как мы видели в лемме 7.3.1, при rank Л «< пг строки матрицы Y, соответствующие нулевым собственным значениям матрицы Р, допускают неединственный выбор; поэтому и U = XY в этом случае определена неоднозначно. □
Из доказанного немедленно вытекает важный результат для квадратных матриц.
Следствие. Матрица А е Мп может быть представлена в виде
A — PU,
где Р— положительно полуопредвленная, a U— унитарная матрицы. Матрица Р всегда определена однозначно, а именно, Р =$ = (АА*) ХР. Если А невырожденна, то U определена однозначна формулой U = р-хА. Для вещественной матрицы А и Р, и U, можно выбрать вещественными.
Упражнение. Проверить, что доказательство теоремы 7.3.2 можно построить, опираясь на идею предельного перехода, еле" дующим образом. Если А невырожденна, то положить Р а = (ЛЛ*)1/2> затем U = Р-ХА и убедиться, что UU* — !. Таким образом, в этом случае Р и U определены однозначно. Если А вырождеина, рассмотреть последовательность матриц Ле = Л + + е/, е > О, и сформировать разложения Аг = Рбиг с однозначно определенными сомножителями. Используя принцип выбора 2.L8, найти бесконечно малую последовательность {е*}, такую, что последовательность {^е<.} при А-> оо поэлементно сходится к унитарной матрице U. Поскольку Р= ^e^t^ то одновременно РЕ^ —> Р, причем А = PU. Заметим, что хотя это доказательство теоремы 7.3.2 короче первоначального, оно не дает в случае вырожденной матрицы А конструктивной процедуры получения множителей Р и U.
Разложение, из теоремы 7.3.2 называют полярной формой или полярным разложением матрицы А. Отметим, что для матрицы полного ранга оба сомножителя определяются единственным образом.
Упражнение. Показать, что матрицу А е Мт, п, где т ^ п, можно представить в виде
A = WQ,
где матрица W е Мт, п имеет ортонормированиые столбцы (т. е, W*W = I^, а матрица Q е Мп положительно полуопределена. Указание. Разложить А* в соответствии с теоремой' 7.3.2.
Упражнение. Пусть хеС”— заданный ненулевой вектор; положим А = х е Мп, ь Показать, что полярное разложение 1акой матрицы А имеет вид Л = х=||х||2и, где и = х/||х||2. Таким образом, полярное разложение можно трактовать как рас*
пространение на матрицы разложения указанного типа для ненулевых векторов.
Упражнение. Показать, что квадратную матрицу А можно представить двумя разложениями: А = PU, где Р — (ЛЛ*)1/2, и А = WQ, где У=(Л*Л)1/2. Их называют иногда «левым» и «правым» полярными разложениями матрицы А. Показать, что выбираемые единственным образом положительно полуопреде- ленные матрицы Р и Q равны тогда и только тогда, когда А — нормальная матрица. Оказывается, что для невырожденной матрицы А однозначно определяемые унитарные матрицы U и W равны всегда (см. упражнение, предшествующее теореме 7.3.6).
Упражнение. Не всякая квадратная матрица является нормальной, т. е. не всегда верно, что АА* = А*А. Однако матрицы АА* и Л*Л всегда унитарно подобны. Доказать это, пользуясь полярным разложением из следствия 7.3.3.
Теорема. Пусть А = PU есть полярное разложение матрицы А е М„. Для того чтобы А была нормальной матрицей, необходимо и достаточно, чтобы PU = UР.
Доказательство. ЕслиP»U коммутируют, то АА* = PUU*P* = =РР = р\ А*А = U*P*PU = U*P2U = UW = Р2; следовательно, матрица А нормальная. Обратно, для нормальной матрицы А справедливо равенство Р2 = U*P2U. Замечаем, что обе матрицы Р2 и U*P2U квадратные и положительно полуопределенные, а положительно полуопределенными квадратными корнями из них, очевидно, будут Р и U*PU соответственно. Согласно теореме 7.2.6, положительно полуопределенный квадратный корень единствен, поэтому Р = U*PU, или UP = PU. □
Наша следующая цель — вывести из леммы 7.3.1 сингулярное разложение произвольной (необязательно квадратной) матрицы.
Теорема. Матрица А г Мт, п ранга k может быть представлена в виде
A = V^W\
де VeM„ и W е Мп —унитарные матрицы. Матрица 2 = = [од] е М^, „ такова, что си = 0, i ^ j; оп^а22> . . .^ акк > > Qb*v,b+X= .. .=nqq = 0, с/= min (m, гс). Числа (од) ^ {or,} суть неотрицательные квадратные корни из собственных значений матрицы АА* и, следовательно, определены единственным, образом. Столбцы матрицы V суть собственные векторы мат* рицы АА*, а столбцы матрицы 117 — собственные векторы матч
рицы Д*Л; обе системы векторов упорядочены в соответствии с расположением собственных значений а. Если m ^ п и все собственные значения матрицы ЛЛ* различны, то матрица V определена с точностью до правого диагонального сомножителя D = diag (е1®1, . .., е18"), где все 6; е R; другими словами, если А = Kj^W7] = V^W*, то V2 — VlD. Если m < п, то матрица W, всегда определена неоднозначно; если п = ш и матрица V фиксирована1), то выбор матрицы W однозначен. При п^т утверждения относительно единственности матриц V и W можно получить, применяя сказанное выше к матрице А*. Для вещественной матрицы А все три матрицы V, ^ и W могут быть взяты вещественными.
Доказательство. Не ограничивая общности, можем считать, что т^п (в противном случае, нужно заменить А на Л*). Пользуясь леммой 7.3.1, запишем А в виде Л=ХЛУ, где X, Л е Мт, а У е Мт, п. Положим V = X, возьмем S = [Л i 0] е EAf„;„ и определим W как матрицу вида [УД S’] ^Мп, столбцы которой должны быть ортонормированным базисом пространства С". Столбцы матрицы У* уже ортонормированы, поэтому при т<п можно подобрать (хотя и неединственным образом) столбцы матрицы 5* е Мп, п-т так, чтобы матрица W была унитарной. Очевидно, что VXW* = ХЛУ = А. Утверждения относительно единственности вытекают из соответствующих утверждений леммы 7.3.1. □
«Диагональные элементы»2) Ci = Оц (/=1, ..., q, q = — min{m, п}) матрицы 2 называются сингулярными числами матрицы А г Мт, п (иногда этот термин применяют только к ненулевым диагональным элементам). Столбцы матриц V и 1У7 называют соответственно левыми и правыми сингулярными векторами матрицы А. Разложение из теоремы 7.3.5 называют сингулярным разложением матрицы А. Полярная матрица Р есть единственный положительно полуопределенный квадратный корень из матрицы АА*, а сингулярные числа а, суть неотрицательные квадратные корни из собственных значений матрицы АА*. Поэтому сингулярные числа матрицы А совпадают с собственными значениями полярной матрицы Р. Хотя удобно располагать сингулярные числа в порядке убывания, это соглашение относительно сингулярного разложения не является общепринятым; матрица А однозначно определяет лишь множество сингулярных чисел ).
') И, кроме того, матрица А невырожденна. — Прим, перев.
Отметим, что сингулярное разложение дает естественное обобщение на матрицы общего вида спектрального разложения нормальных матриц. По этой причине многие факты, относящиеся к собственным значениям нормальных матриц, могут быть переведены в правильные утверждения о сингулярных числах произвольных матриц.
Упражнение. Пусть х е С" — заданный ненулевой вектор; положим АгхеМП1Х. Показать, что сингулярное разложение матрицы А имеет вид А = х = V'£W*) где W = [l]s.W|, S = = [ II х |b, 00]г е МП),; в матрице У = [щ .. . и„] е Мп пер
вым столбцом является вектор щ = x/Hxlb; остальные столбцы составляют произвольную ортонормнрованную систему, ортогональную к х.
Если A g Мп, то все трн множителя V, S, W в сингулярном разложении суть п X «-матрицы. Пусть А = PU — полярное разложение матрицы А, и пусть Р = УАУ* — спектральное разложение матрицы Р, причем такое, что ее (обязательно неотрицательные) собственные значения упорядочены по невозрастанию. Тогда равенство А = PU = VW*U = (У)(А)(У*£7) = = УЛЕ'* дает сингулярное разложение матрицы А; в нем У = U, S = Л, IE = U*V. Заметим, что АА* = = Е21Е*1Е2Е* = У52У*, т.е. столбцы матрицы У суть собственные векторы эрмитовой матрицы АА*, отвечающие собственным значениям ст2, ..., о2. Аналогично А*А = IESE*ES IE* = IES2IE*, поэтому столбцы матрицы IE суть собственные векторы матрицы А*А.
Упражнение. Пусть матрица A е М„ невырожденна. Показать, что сингулярное разложение А = VSIE* можно получить посредством следующей процедуры:
Сформировать положительно определенную эрмитову матрицу А А* и вычислить ее спектральное разложение АА* = = UAU*; для этого найтн {положительные) собственные значения {/.,} матрицы АА* и соответствующую систему {щ} орто- нормированных собственных векторов.
Положить S = Л1/2, V = U = \щ ... ип\.
Положить IE=A’ES-1.
Проверить, что IE — унитарная матрица и что А = ESIE*. Указание. Вычислить матрицу IE* IE.
Упражнение. Пусть A g Мп — заданная матрица, необязательно невырожденная. Показать, что сингулярное разложение А = ES1E* можно получить посредством следующей процедуры;
Найдется такое с = с(Л)>0, что матрица Ле = Л + е/ невырождеина для всех положительных е, меньших, чем с. Пусть 0 < е < с.
С помощью процедуры из предыдущего упражнения построить сингулярное разложение Ле= 1/еЕе1Е*.
Использовать принцип выбора из леммы 2.1.8 и устремить е к нулю вдоль последовательности положительных значений е*, таких, что существуют оба предела limVe =Е, lim lFe = $7.
Показать, что A = V2W*, где X = limSe. 8->0
Это рассуждение можно применить для доказательства общего случая теоремы 7.3.5. Оно гарантирует существование сингулярного разложения для матрицы общего вида, но не дает конструктивной процедуры вычисления его сомножителей, когда Л не является матрицей полного ранга.
Упражнение. Предположим, что матрица АеМп невырож- денна, и пусть Л = РВ, Л = WQ суть левое и правое ее полярные разложения; матрицы Р, Q е Мп положительно определены, а матрицы U, 1Ё е Мп унитарные. Показать, что U = W всегда, но Р = Q тогда и только тогда, когда Л— нормальная матрица. В случае вырожденной матрицы Л показать, что существуют ее левое и правое полярные разложения, для которых U =£ W. Указание. Если Л = ЕЕ W*— сингулярное разложение матрицы А, то ни V, ни IE не определены однозначно; в то же время Л = (Е1Е*) (1Е21Е*) = (Е2Е*) (Е1Е*); применить теперь утверждения о единственности из следствия 7.3.3. Рассматривая Л = О, убедиться, что для вырожденной матрицы Л унитарные сомножители в полярных разложениях не обязаны совпадать.
Пусть А е Мп — нормальная матрица с сингулярным разложением А = ESIE*. Поскольку АА* = А*А, то собственные векторы у матриц АА* и А*А одни и те же. Однако отсюда не следует, что в сингулярном разложении V = W. Действительно, равенство Л=Е2Е* означало бы, что А — эрмитова (и даже положительно полуопределенная) матрица. Пусть А = UAU*— спектральное разложение матрицы А; в матрице Л = diag^j,.... Л„) представим каждый элемент ЛА в виде ЛА = |ЛА|е<8*, 0* е R; если ЛА = 0, то считаем 0fe = 0. Если положить D = diag (е‘9‘, . .. ..., е9п\ | Л | = diag(| Л! |, .. ., | Л„ |),_то Л = | Л |О и равенства А = UMJ* = t/| Л | DU* = (£7) (I Л |) (UDy ^ VSW* приводят к син-
гулярному разложению матрицы А, в котором V = U, 2 = | А |, W = UD.
Итак, сингулярными числами нормальной матрицы А являются модули ее собственных значений, столбцами матрицы V—собственные векторы матрицы А; столбцы матрицы IE можно взять те же, что у V, но при этом умножить каждый на комплексное число с модулем 1,определяемое соответствующим собственным значением. Если А эрмитова, то все ее собственные значения вещественны, D — D и D = diag(sgn(Xj), ... ..., sgn(Xn)), где считается, что sgn(0) = 1. Если А эрмитова и положительно полуопределена, то D = I, V = IE = U и А = 2.
Одним из полезных приложений теоремы Шура 2.3.1 об унитарной триангуляризации было представление произвольной квадратной комплексной матрицы в виде предела последовательности матриц, у каждой из которых все собственные значения различны. С помощью сингулярного разложения можно показать, что любую комплексную матрицу (квадратную или прямоугольную) можно представить как предел последовательности матриц с различными сингулярными числами. Польза такого представления состоит в том, что сингулярное разложение матрицы, все сингулярные числа которой различны, в значительной мере определяется единственным образом.
Следствие. Пусть А е Мт, п— заданная матрица, а || • ||— заданная норма на Мт, п. Для всякого е >> 0 найдется матрица ДеЕЛ1т, „ с различными сингулярными числами, такая, что 1И — Ае||< 6.
Доказательство. Предположим, что m ^ п. Пусть А = Е21Е* есть сингулярное разложение матрицы А. Рассмотрим матрицы
26 s [diag (oj + 6, о2 + 26, ..., om + m6) i 0],
где 0 е Мт, rt_m. Если все сингулярные числа матрицы А совпадают, то диагональные элементы матрицы 56 разлчны при любом 6 >> 0. В противном случае выберем 6 > 0 так, чтобы тб было меньше наименьшей разности соседних сингулярных чисел. Тогда диагональные элементы матрицы 26 снова будут различными. В обоих случаях 26->2 при 6->0. Положим А6 s ез E26VE*; тогда ||А — Д6||£ = ||S — S6||£->0 при 6->0 вследствие унитарной инвариантности евклидовой нормы. Поскольку все нормы на Мт, п эквивалентны, доказательство закончено, При пг~> п рассуждения аналогичны. □
Существует простой прием, позволяющий переводить результаты относительно собственных значений эрмитовых матриц в утверждения о сингулярных числах произвольных матриц,
Теорема. Пусть А е Мт, п и q — min^m, п^. Определим матрицу А е Мт+п формулой
ОА*ОА*А 1О _ГА 1О _Г(7.3.7)(7.3.7)
О
А*
О
А*
А 1
О _Г
А 1
О _Г
(7.3.7)
(7.3.7)
Если оь аз, ..., Од — сингулярные числа матрицы А, то собственными значениями матрицы А являются числа Oi,a2, ..,, Од, —Оь —а2, ..., —Од и | пг — п | нулей.
Доказательство. Предположим, что пг-^ п. Пусть А = = VSW* — сингулярное разложение матрицы А. Представим S и V в виде
Г S "I,
S = Q j S n>V = [V! : У2].
Здесь S = diag(ah а2, . ..,а„), УгеМт1П, V2eMm,m_n. Положим Р = У [/V2, W sW/V2. Тогда матрица
ООs ^m + n>s ^m + n>О е Мп, т_п,О е Мп, т_п,
О
О
s ^m + n>
s ^m + n>
О е Мп, т_п,
О е Мп, т_п,
вычислением можно проверить равычислением можно проверить рабудет унитарной, и прямым
вычислением можно проверить ра
вычислением можно проверить ра
венство
Диагональный нулевой блок имеет размер (т — «)Х(т — nj. Рассуждения в случае т < п аналогичны.
Упражнение. Пусть А — заданная матрица из Мт, п. Показать, что матрицы А*, АТ и А имеют те же сингулярные числа, что и А. Показать, что сингулярные числа матрицы UAV, где U и V — унитарные матрицы, совпадают с сингулярными числами матрицы А. Показать, что для произвольного комплексного числа с сингулярные числа матрицы сА получаются из сингулярных чисел матрицы А умножением на |с|.
Теорема 7.3.7 дает возможность непосредственно получить результаты о возмущениях сингулярных чисел произвольных матриц из соответствующих результатов для эрмитовых матриц. Они показывают, что всякая матрица идеально обусловлена относительно задачи определения сингулярных чисел. Этот вывод нужно сравнить с теоремой 6.3.2 и следствием 6.3.4, а также с сопутствующим обсуждением чисел обусловленности. Обобще-
ние следующих результатов на случай произвольных унитарно инвариантных норм дано в теореме 7.4.51.■
Следствие. Пусть Л, В еМт, п. Положим Е=В — А, и пусть q = min{m, /г}. Обозначим через av ^ а2 ^ ... ^ оч сингулярные числа матрицы А, а через п ^ тг ^ • ■ ■ ^ Tq сингулярные числа матрицы В. Тогда
., q;., q;(а) I ^ — т,1 < || Е ||2, / = 1, 2,
., q;
., q;
[
ат1/9
S^-tJ2 <||£||£.
Доказательство. Эти результаты являются аналогами соответственно неравенств Вейля (теорема 4.3.1) (см. также упражнение, предшествующее теореме 6.3.5) и теоремы Виландта — Хофмана для эрмитовых матриц. Они непосредственно вытекают из теоремы 7.3.7 и названных прототипов. □
Упражнение. Провести подробное доказательство следствия 7.3.8. Что касается утверждения (а), см. задачу 36 из § 5.6.
Для сингулярных чисел верны также разделительные неравенства, вытекающие из разделительных свойств собственных значений эрмитовых матриц.
Теорема. Пусть задана матрица А е Мт, „; обозначим через А матрицу, полученную из А удалением произвольного столбца. Пусть {о,}—сингулярные числа матрицы А, а {о,}— сингулярные числа матрицы А, причем оба множества упорядочены по невозрастанию. В таком случае
если т^ п, то о^^ д^^ а?^ д2^ ... ^ 6^-1 О <гп О 0;
если m <_ п, то Oi^ д\^ а2^ а2^ ... ^ ат^ д,п^ 0.
Если вместо столбца удаляется строка матрицы А, то соответствующие утверждения получатся, если сформулировать указанные утверждения для сопряженной матрицы А*.
Доказательство. Квадраты сингулярных чисел матрицы А суть собственные значения эрмитовой матрицы А*А е М„; квадраты сингулярных чисел матрицы А—это собственные значения матрицы А*А е Мп_ь которая (при удалении в А столбца) является главной подматрицей в А*А. Разделительные неравенства следуют непосредственно из принципа вложения 4.3.15, Если в А удаляется строка, а не столбец, то нужно рассматривать матрицы АА* и АА*. □
В качестве заключительного примера сходства между свойствами собственных значений эрмитовых матриц и свойствами
сингулярных чисел приведем следующий аналог теоремы Куранта— Фишера 4.2.11.
Теорема. Пусть А^Мт,п. Положим 7 = min{m, п}, и пусть ffi ^ »2 ^ • ■ • ^ о<? суть упорядоченные сингулярные числа матрицы А, а к— заданное целое число из промежутка [1,7]. Тогда
IM2IM2Ok-Ok-minmax
IM2
IM2
Ok-
Ok-
Wb_1GCn х*0. хеС™
* 1 ®1®fe.
WVWVmaxmin, tv„ ьес" x 5* 0, x e Cn»i»!™n-kmaxmin, tv„ ьес" x 5* 0, x e Cn»i»!™n-kMx||2 _IWIsMx||2 _IWIsOfc.Ofc.
WV
WV
maxmin
, tv„ ьес" x 5* 0, x e Cn
»i»!™n-k
maxmin
, tv„ ьес" x 5* 0, x e Cn
»i»!™n-k
Mx||2 _
IWIs
Mx||2 _
IWIs
Ofc.
Ofc.
Доказательство. Эти формулы прямо вытекают из (4.2.12) и (4.2.13), поскольку сг^Л) есть собственное значение матрицы А*А. Если Я, ^Я2^ ... ^Я,л— это упорядоченные собственные значения эрмитовой матрицы А* А, то п^ (Л) = Лп_й+1 (Л’Л), и (4.2.12) дает
aHA) = X„_ft+1(A*A) =tvaHA) = X„_ft+1(A*A) =tv.хММхminmax1—-7—, tilt . Е С^ хе С™. X Е^ ОХ1®1®к-1.хММхminmax1—-7—, tilt . Е С^ хе С™. X Е^ ОХ1®1®к-1
aHA) = X„_ft+1(A*A) =
tv
aHA) = X„_ft+1(A*A) =
tv
.хММх
minmax1—-7—
, tilt . Е С^ хе С™. X Е^ О
Х1®1®к-1
.хММх
minmax1—-7—
, tilt . Е С^ хе С™. X Е^ О
Х1®1®к-1
minmax
tv,, .... tvb , g Cn x + 0. x e CnXltvttV^,
Таким же образом доказывается второе равенство. □
Задачи
Пусть РеМ,— положительно полуопределенная матрица. Показать, что Р может быть представлена в виде многочлена от Р2; поэтому если заданная матрица U коммутирует с Р2, она должна коммутировать и с Р. Вывести отсюда, что для нормальной матрицы А е Л4Л полярные сомножители Р и U перестановочны.
Показать, что всякую матрицу А е Мп можно записать в виде А = Ре‘н, где Р, Н е Мп, Р положительно полуопреде- лена, а Н эрмитова. Если А — вещественная матрица, то Р и Н могут быть выбраны вещественными и симметричными. В какой степени определяет А матрицы Р и Н? Указание. Если U е Мп — унитарная матрица и U = ИЛИ* — ее спектральное разложение, то Л = eiD, где D — диагональная матрица с вещественными диагональными элементами. Какова будет матрица eiVDV‘?
Показать, что матрица Д е Мп тогда и только тогда имеет сингулярное число 0, когда она имеет нулевое собственное значение.
Пусть АеМт.п, и пусть </= min {/я, и}. Показать, что наибольшее сингулярное число матрицы Д равно спектральной норме этой матрицы. Показать, что для евклидовой нормы матрицы А справедлива формула
0
7 \1/2
Показать, что О] ^|| А ||£ ^ п аь и охарактеризовать случаи равенства. Вывести отсюда, что для всех ЛеМл верны соотношения
М112<М11д<7п||Л||2.
Рассматривая матрицы / и [^ °], убедиться в достижимости этих границ.
Пусть /г ^ min{m, /г}, и пусть ид обозначает ^-й столбец матрицы V, a wk есть ^-й столбец матрицы W, где V и W взяты из сингулярного разложения (7.3.5) матрицы А. Доказать равенства (а* есть /г-е сингулярное число матрицы Д)
A‘ufc = »М, Awk = скик.
Как следствие, u*kAwk = ак.
Пусть дана большая матрица А. Как подойти к задаче определения ее ранга в условиях реальных вычислений? Заметим, что ранг матрицы А равен количеству ненулевых сингулярных чисел этой матрицы. Поэтому одним из способов определить численно ранг матрицы является вычисление сингулярного разложения и подсчет количества сингулярных чисел, превышающих некоторый установленный уровень. Почему следует ожидать, что численное определение ранга матрицы проще и надежнее, если отношение ее наименьшего и наибольшего ненулевых сингулярных чисел не слишком близко к 0?
Пусть матрица А е Мт> „ имеет сингулярное разложение А = VSR7*. Положим Д+= №S+V*; матрица S+ получена из S транспонированием и заменой положительных диагональных элементов обратными величинами. Показать, что
t (а) АА+ и А+А— эрмитовы матрицы;
(Ь)'ДД+Д = Д;.
(с) Д+ДД+ = Д+.
Показать, что Д+ = Д-1 в случае квадратной невырожденной матрицы А. Матрица Д+ называется псевдообратной или обобщенной обратной матрицей Мура — Пенроуза для матрицы А.
Она существует для любой матрицы А, в том числе для квадратной вырожденной или даже прямоугольной матрицы. Показать далее, что матрица Л+ однозначно определена требованиями (а)—(с). Указание. Выписать сингулярное разложение матрицы Л+ и показать, что его сомножители по существу единственным образом определяются требованиями (а)—(с). Другой, менее вычислительный способ доказательства: предположить, что каждая из матриц В, С удовлетворяет условиям (а) —(с), и показать, что В = В (ЛВ)‘ = ВВ*А* = В (АВ)" (ЛС)* = = В АС = (ВЛ)* (СЛ)* С = А*С*С = (СЛ)* С = С.
Нормальным псевдорешением системы линейных уравнений Ах=Ь называется вектор х, имеющий наименьшую евклидову длину средн всех векторов, приносящих минимум величине \\Ах—-бЦг. Показать, что вектор х = А+b является нормальным псевдорешением системы Ах = Ь.
Показать, что Л+ — Пт А* (ЛЛ* + Н)~1. Матрица Л+ опрело
делена в задаче 7.
К сингулярному разложению из теоремы 7.3.5 можно прийти, не используя явным образом собственные значения и собственные векторы. Сингулярные числа и (левые и правые) сингулярные векторы могут быть получены непосредственно из вариационной характеризации спектральной нормы. Рассмотрим матрицу АеМ,.; вариационная характеризация ее спектральной нормы имеет вид
|| Л ||2= max {|| Лх ||2: ||х||2=-1}.(**)
Пусть п ^ 2, и пусть Be Мп имеет специальную форму
п Гст1
s 10 X J’
где о1 = || В ||2, w г С"-1 и X е Мп_1. Показать, что w = 0. Указание. Если о1 > 0, рассмотреть вектор £ = (о| + w*wyv,:2 Щ. Показать, что ||Bg П2 > Oy+w*w, и воспользоваться соотношением (**).
Пусть А е Мп. Положить о1=||Л||2 и с помощью (»») показать, что существует нормированный вектор Х), такой, что [j Ахх ||2 = Ор Положим ух = q^xAxv
Пусть I^p У[ — унитарные матрицы с первым столбцом соответственно xi и у\. Показать, что матрица VXAWX имеет спектральную норму oj и форму матрицы, описанной в п. (а). Сделать отсюда вывод, что
, Г ffi 0 1
Сформулировать индуктивную процедуру понижения порядка матрицы А, в которой внедиагональные элементы очередных строки и столбца аннулируются посредством левого и правого умножения иа унитарные матрицы. Получить этим путем сингулярное разложение матрицы А.
А что, если матрица A g Мт, п ие будет квадратной?
Пусть A = VSW*—сингулярное разложение матрицы A g Мщ, „. Предположим, что rank Л = k, и пусть q = minfm, n}. Показать, что последние п — k столбцов матрицы W образуют ортоиормироваиный базис ядра матрицы А, а первые к столбцов матрицы V — ортоиормироваиный базис ее образа (области значений).
Пусть АеМт>п, ВеМр-п и пусть ESU7* — сингулярное разложение блочной матрицы [^ ] е Л1т + Р1 „. Показать, что ортоиормироваиный базис пересечения ядер матриц А и В дается несколькими последними столбцами (сколькими именно?) матрицы W. ^Указание. Когда для вектора хе С” справедливо равенство д]х = 0?). Как найти ортоиормироваиный базис пересечения ядер к матриц Ai, А2, ..., Л*, имеющих одинаковое число столбцов?
Показать, что полярное разложение из теоремы 7.3.2 и сингулярное разложение из теоремы 7.3.5 эквивалентны в том смысле, что каждое из иих легко получить из другого. Указание. Применить к Р спектральную теорему.
Показать, что для диагонализуемости матрицы A G Мп необходимо и достаточно, чтобы существовала положительно определенная эрмитова матрица Р, такая, что Р-1АР— нормальная матрица. Указание. Если А = SAS-1, то использовать полярное разложение матрицы S.
Используя сингулярное разложение (7.3.5) (особенно утверждения, касающиеся единственности разложения) и следствие 7.3.6, вывести представление Такаги (4.4.4) для комплексной симметричной матрицы. Указание. Если матрица А = АТ е е.М_п имеет различные сингулярные числа и A=Vi.W*, то А=АГ= = WSV7’. Но тогда существует диагональная унитарная матрица D = diag (е1®1, . . ., е1 п\ такая, что W = VD, откуда А = ESft7* = = VWDy = Vy.DVr = (VDU2)WDW UW. В общем случае использовать следствие 7.3.6, принцип выбора 2.1.8 и операцию предельного перехода.
Пусть А, Ве.Мт,п и ^ = min{m, п); упорядоченные сингулярные числа матрицы А обозначим через о^А)^ .., ... ^о9(А)^0; аналогичные обозначения применяются для В нАрВ. Пусть А, В, АА-ВеМт+п — эрмитовы матрицы, определенные в соответствии с (7.3.7а). Показать, что о*(А) =
= Хт+„_й+1 (А), k = 1, 2q; аналогичные утверждения справедливы для В и А + В. Помните: сингулярные числа упорядочены по убыванию, а собственные значения эрмитовой матрицы А—по возрастанию. Использовать это тождество и теорему Вейля 4.3.7 для доказательства неравенств
o^/.^AH-ВХст,(Л) +Ст/(В), 1 <г, /<?, / + /^7+1.
В частности, oi(A + B)^ о^Л)^- Oi(B) (почему этот результат не является неожиданным?) и о,(Л + В) пип^^Л)^- ffi(B), oi (Л) + 0,(6)}.
С помощью матриц Л = [‘д], В = [^ °] показать, что неравенство at (Л + В) ^ о; (Л) + at (В), вообще говоря, верно не для всех t = 1, 2, ... . Здесь {о,(Л)} и {о,(В)}—сингулярные числа соответственно матриц Л и В, упорядоченные по убыванию.
Пусть Л, В —заданные матрицы из Мт, „и q = min(m, п}. Пусть Oj (Л) ^5 ... ^ о,(Л) — упорядоченные сингулярные числа матрицы А и аналогично обозначены сингулярные числа матриц В и АВ* е Мт. Показать, что
о;+/_1(ЛВ*)^о/(Л)о/(В), 1<г, /<7, Х/Х^+Е
Эти соотношения можно рассматривать как мультипликативный аналог аддитивных неравенств задачи 16, а также как обобщение кольцевого свойства спектральной нормы в случае т = п. Почему? Указание. Пусть AB* = WQ— левое полярное разложение матрицы АВ*, IE е Мт— унитарная и Q е Мт — положительно полуопределенная матрицы. Показать, что (x'Qxp — = (хЖЛВ*х)2 = [(Л*и7х)*(В*х)]Х11 Л*Гх||}||В*х|Ц = V(Wxy АА* • • (W х)) (х* В В* х) для любого х е Ст. Пусть гь ..., z;_I — — ортонормированные собственные векторы матрицы АА*, соответствующие I—1 старшим собственным значениям о^(Л)о^ (Л), а ух, .. . , у^{ — ортонормированные собственные векторы матрицы ВВ*, соответствующие /—1 старшим собственным значениям о2(В)o-j_x(B).Положим
Xi = U7*zb x2=W*z2, ..., хг_х = \V*Zi_x, xt=yx, xi+x = y2, ... , xl+j_2 = у,_х. Если вектор х ортогонален каждому из векторов xk, k= 1, 2, . .. , z-|- / — 2, то одновременно выполняются неравенства (1Ех)* ЛЛ*(1Ех) ^от(Л)||х|!}, и х*ВВ'х <.<5^6) ||х||2, поэтому для такого х должно быть (x*Qx)2 ff^ (Л) сг2(В) || х II}. Используя теорему Куранта — Фишера 4.2.11, заключаем, что
^+/_1 ИВ*) = ( Vz-/+2 ([(ЛВУ (Л В-)] V2) )2 < о2 (Л) о2 (В).
Хотя для матриц А, ВеМп собственные значения матриц АВ и ВА всегда совпадают, такое же утверждение может
быть неверно в отношении сингулярных чисел этих последних матриц. Проверить это на примере, рассматривая матрицы Д = [° *], В = [° “J. Показать, однако, что сингулярные числа у матриц АВ и В* А* всегда одни и те же.
Пусть X есть n-мерный случайный вектор, компоненты которого имеют нулевые математические ожидания и конечные дисперсии. Положим 2 = Cov(X) = Е(ХХ*) [см. (4.5.3*)]; матрицу 2 считаем невырожденной, полагаем /3=Е1/2, и пусть А, В — заданные матрицы из Мп. Случайные векторы АХ и ВХ имеют одно и то же математическое ожидание (нулевой вектор); однако нет оснований думать, что совпадают и соответствующие ковариационные матрицы. Показать, что для равенства Соу(ДА) = Cov(BA) необходимо и достаточно, чтобы А = В (PUP-1), где U г Мп— некоторая унитарная матрица. Указание. Если A2A* = В2В*, то (АР) (АР) * = (ВР) (ВР) *. Пусть BP = RW— полярное разложение матрицы ВР с унитарной матрицей IE; показать, что полярное разложение матрицы АР имеет вид AP = RV, где V е Мп— некоторая унитарная матрица. Что можно сказать об R"? Из доказанного вывести, что А = В (PWWP~V) = В (PUP-'). В какой степени определена матрица Й? Что происходит, если 2 = /? А если В = /?
■ 21. Рассмотреть матрицу АееМп следующего вида:
”0 1
0 "
д=
, е > 0.
о '
. ‘1
_е о ,
.. 0
Показать, что характеристическим многочленом этой матрицы будет многочлен И — е. (Указание. Вычислить det(Z/— АЕ) разложением по первому столбцу.) Показать, что собственными значениями матрицы Ае являются все п значений Ve. Показать, что сингулярные числа матрицы Ае равны 1 (с кратностью п— 1) и е. Пусть теперь п = 10, е = 10“10. Мы видим, что возмущение А0->Ае приводит к возмущениям собственных значений, по абсолютной величине равным 0.1, в то время как сингулярное число1) изменилось всего лишь на 10-10. Чему равно спектральное число обусловленности матрицы Ае? Этот пример подтверждает высказывание, сопровождающее теорему 7.3.7: всякая матрица хорошо обусловлена относительно задачи определения сингулярных чисел, хотя при этом может быть плохо обусловлена в отношении вычисления собственных значений.
Наименьшее, Сингулярные числа, равные 1, не меняются, — Прим, перев.
Пусть A=[ai;]— заданная матрица из Мп. Показать, что если у А имеется «малая строка» или «малый столбец», то у нее должно быть и «малое» сингулярное число. Более точно, пусть А = ^^2 ... гп]г, г(еСп, г Г есть z-я строка матрицы А. Расположим евклидовы длины строк {||rt||2: /=!,...,«} по возрастанию; упорядоченные значения обозначим через R\ ^ ^ R2 ^ • • ■ *С Rn. Показать, что
кк
6 = 1. 2"•
1=11=1
и что справедливы аналогичные верхние оценки через нормы столбцов. Надо помнить при этом, что сингулярные числа упорядочены: On^On-i^ ... ^ аь Указание. Квадраты сингулярных чисел суть собственные значения эрмитовой матрицы АА*. Чему равны диагональные элементы матрицы АА*? Использовать соотношения мажоризации и теорему 4.3.26. Чтобы получить неравенства для столбцовых норм, рассмотреть матрицу А*А. Сравнить с задачей 19 из § 4.3.
Имеется естественный аналог сингулярного разложения, в котором унитарные сомножители заменяются комплексными ортогональными. Однако в отличие от сингулярного такое разложение можно построить не всегда; вспомним (задача 7 из § 2.3), что и ортогональный аналог унитарной триангуляризации Шура не всегда осуществим. Предположим, что матрица AeMm,n может быть представлена в виде A = PA.QT, где РеМт, Q^Mn — комплексные ортогональные матрицы, а Л = [Х,у] е Мт, п «диагоиальна» в том смысле, что Хц = 0 при i=#j. Показать, что матрица ААТеМт диагонализуема и rank А = rank ААТ. В то же время эти два условия достаточны для существования указанного разложения A = PA_QT. Что можно сказать о случае, когда А вещественна? Привести пример матрицы А гМ2, которую нельзя представить в виде А = = PAQT с комплексными ортогональными матрицами P,QgM2 и диагональной матрицей Л е М2.
Объяснить, почему сингулярное разложение можно рассматривать как обобщение спектральной теоремы для нормальных матриц.
Теорема 2.5.5 об одновременной унитарной диагонализации семейства нормальных матриц имеет аналог, относящийся к сингулярным разложениям. Пусть ^* = {А,-: /Е^}сА1т,л; предположим, что существуют унитарные матрицы V е Мт и W е Мп, такие, что каждая матрица У*ААУ «диагоиальна» в смысле задачи 23, т. е. элемент (/, /) равен 0, если z =# /. Показать, что (а) каждая матрица А\А} е Мп нормальна и семей-
ство ^ = {AZA*: I, }е^сМт коммутативно; (b) AtA*Afe = = АкА*А1 для всех i, j, кеЗ. Каждое из этих необходимых условий в то же время достаточно для того, чтобы семейство#" допускало одновременное сингулярное разложение.
Отыскание одновременного сингулярного разложения для двух заданных матриц А, В еМт,п представляет собой интересный частный случай предыдущей задачи. Показать, что для существования унитарных матриц V е Мт, W е Мп, таких, что А = PS И7*, В = VAU7* и матрицы 2, Ле Мт, „ «диагональны», необходимо и достаточно, чтобы оба произведения АВ* и В*А были нормальными матрицами. Указание. В части достаточности показать, что рассмотрение общего случая можно свести к ситуации, когда Д = 5 — неотрицательная и «диагональная» матрица. Группируя1) равные диагональные элементы матрицы S, показать, что из нормальности произведений SB* и B*S вытекает, что В — блочно-диагональная матрица, все диагональные блоки которой (за возможным исключением одного блока, если А вырожденна) нормальные. Чтобы получить нужное утверждение, применить к каждому блоку спектральную теорему для нормальных матриц либо сингулярное разложение.
Предположим, что желательно иметь унитарные матрицы V е Мт и We Мп, такие, что каждую матрицу семейства ^~ = {Ai; i е #}с Л1т, п можно представить в виде А; = VZfW* с «диагональной» матрицей 5/. Показать, что для этого необходимо, но (если в семействе три или более матриц) не достаточно, чтобы матрицы А1А‘1еМт и А^А; г Мп были нормальными при любых i, j е 9. Указание. Рассмотреть семейство
Объяснить, какая именно часть рассуждения для двух матриц не срабатывает в случае, когда матриц больше двух.
Дополнительная литература и комментарии
Сингулярное разложение вещественных квадратных матриц было введено и обосновано Сильвестром в 1889 г. Первое доказательство возможности сингулярного разложения в случае произвольных комплексных m X n-матриц было дано, по-видимому, в работе: Eckart С., Young G. A Principal Axis Transformation for Non-Hermitian Matrices. — Bull, Amer. Math. Soc., 1939, v. 45, p. 118—121. В этой же статье доказано, что, для того
]) То есть помещая их в последовательные диагональные позиции.— Прим, перед.
чтобы две матрицы А, В е Мт, п допускали одновременное сингулярное разложение, в котором «диагональные»сомножители ве- сцественны, необходимо и достаточно, чтобы обе матрицы АВ* и В*А были эрмитовыми. Обзор результатов об одновременном сингулярном разложении для семейств матриц, а также дополнительную литературу по этому вопросу можно найти в статье: Gibson Р. М. Simultaneous Diagonalization of Rectangular Complex Matrices. — Linear Algebra Appl., 1974, v. 9, p. 45—53.
Примеры и приложения сингулярного разложения
Полярная форма и сингулярное разложение имеют многочисленные приложения. Некоторые из них указаны в задачах; еще несколько обсуждается в следующих примерах.
Пример. Пусть дана обратимая матрица А еМп. Тогда все достаточно близкие (в смысле произвольной нормы) к А матрицы также обратимы. В некоторых задачах статистического моделирования требуется найти «ближайшую к А (в смысле наименьших квадратов) вырожденную матрицу». Другими словами, мы хотим найти матрицу В, такую, что А -|- В вырож- денна и при этом величина ЦВ1Д имеет наименьшее возможное значение.
Фиксируем некоторую матричную норму ||-||. Предположим, что матрица А + В вырожденка, и запишем ее в виде А + В = = A (/ + А-1В). Если бы было ||А~'В|| < 1,то матрица lA-A-'B, а значит, и А + В, была обратима согласно следствию 5.6.16. Итак, 1 ^IIA-'BII^HA-'IIIIBH, т. е. если А обратима, а А-)-В вырожденна, то должно быть ||В|| 1/ЦА-Ч1. Возьмем в качестве нормы || • || спектральную норму, и пусть А = V^W* — сингулярное разложение матрицы А. Тогда ||Л—Ч|2 =11IES-1 Иг = = ||S-11,2= W°ri, где Оп — наименьшее сингулярное число матрицы А. Следовательно, всякая матрица В, для которой матрица А + В вырожденна, должна удовлетворять неравенству ЦВЦ2 ^ Оп(А). Но если взять B=VEW*, где £sdiag(0, 0, ... . ..,0, —о„), то ||В||2 =||£||2 = а„ =||£||£ =||В||£, и матрица А + В вырожденна (причем имеет ранг п— 1).
Более общо, если мы хотим найти для заданной матрицы А, вырожденной или невырожденной, «ближайшую в смысле евклидовой нормы матрицу ранга А», то можем взять матрицу А + В, где, как и прежде, В = VEW*, но £ = diag(0, ..., 0,—a6+i, ... . .., —On) • Доказательство этого утверждения предлагается провести в задаче 1 в конце данного параграфа, а его обобщение на произвольную унитарно инвариантную норму обсуждается в примере 7.4.52. ' ■ '
Специального упоминания заслуживает случай А = 1, часто встречающийся в приложениях. Наилучшее среднеквадратичное приближение заданной- матрицы Л = VS1Г* е Мп матрицей ХеМ„ ранга 1 имеет вид X = А + В V(2 + f) 117* = = V diag(oj, 0, ..., 0) W* = a^uw*. Здесь щ— наибольшее сингулярное число матрицы А, и и w— первые столбцы в унитарных матрицах V и W сингулярного разложения. Говоря о векторах и и w, полезно иметь в виду, что они являются нормированными решениями пары эрмитовых спектральных задач
АА*и = о^и, A*Aw = a^w,
в которых о^—наибольшее собственное значение положительно полуопределенной матрицы А*А (и матрицы АА*). Разумеется, это замечание не определяет у и w однозначно; одна из трудностей состоит в том, что собственные подпространства, отвечающие о^, не обязаны быть одномерными. Однако если gj— простое собственное значение матрицы А*А (а следовательно, и матрицы АА*), то собственные векторы у и w определены с точностью до скалярного множителя с модулем 1; поэтому они1) лишь множителями отличаются от первых столбцов унитарных матриц V и Ц7 в сингулярном разложении А = VZW*. В этом случае при фиксированном выборе нормированных собственных векторов о и ® наилучшее одноранговое приближение к матрице А должно иметь вид e'^a^w*, где 0 — некоторое вещественное число. Скалярный множитель е‘е нужно выбрать так, чтобы минимизировать величину || А — e^c^uw* ||^ = || А Н^— — 2<TiRe [tr e-i6A (va*)*] + п^Ц у ||^|| w |||, что эквивалентно максимизации функции Re [tr e-i8A (uw*) *] = Re [e~‘6u*Awl. Ho Aw = = VSW*w = e'^Oiu для некоторого <p e R (cm. задачу 5 из § 7.3); следовательно, |vMzw| = ai > 0. Итак, оптимальный скалярный множитель равен е‘6 = u*Aw/\u*Aw | = и*А w/ai, а наилучшим одноранговым приближением к А будет матрица
eaxuw* = (и* Aw) uw*.
Все это показывает, что если старшее собственное значение матрицы А*А простое, то наилучшее среднеквадратичное приближение к А ранга 1 может быть без дополнительных усилий построено по решениям двух эрмитовых спектральных задач, Условие простоты старшего собственного значения матрицы А*А выполнено, например, для неотрицательной матрицы Аа
eM„(R), такой, что ААТ положительна или, более общо, неразложима (см, задачу 17 из § 8.4),
Пример. В теореме 5.7.17 было доказано такое утверждение: для того чтобы векторная норма G(-) на Мп удовлетворяла условию
g(W2) ... ои^рМ,д,)
для любых Ai, А2Ак е Мп и всех к = 1, 2, .,., необходимо и достаточно, чтобы для нее существовала согласованная векторная норма на С". Критическое место в этом доказательстве следующее: из указанного неравенства для нормы G(-) и спектрального радиуса вытекает существование положительной константы с, такой, что С(Д1)С(Дг) ... G (Л*) с||Д\А2 ... ... Д^Пг- Чтобы обосновать это утверждение, требуется сингулярное разложение произведения ДИг .., А^. Детали можно найти в лемме 5.7.16.,
Пример. Предположим, что нужно решить систему линейных уравнений Ах = Ь, где А е Mm, п и 6 G С'" заданы и А имеет ранг к. Пусть А= VEW* — сингулярное разложение матрицы А. Тогда VhW*x = b, или_ -
2 (W*x) = Vb.(7.4.4)
Если пг "> к, то последние т — к строк матрицы S нулевые. Поэтому для существования решения необходимо (и достаточно), чтобы последние т — к компонент вектора V*b равнялись нулю. Итак, при т > к система Ах = b разрешима в том и только в том случае, если вектор b ортогонален последним т — к левым сингулярным векторам матрицы А. Пусть b удовлетворяет ЭТОМУ УСЛОВИЮ СОВМесТНОСТИ, И ПУСТЬ V = [U1 . .. Um], |^ = [Ш1 ... щп]. Тогда из (7.4.4) следует, что ■■
, Г Ь‘у,Ь'и.1*
Wx = —*-, 0, ... , 0 .
Таким образом, вектор
X=^ — Wi{7 А.5)
есть решение данной системы. Поскольку Аш, = V(ZW*Wj) = 0 для всех / > к, то любая линейная комбинация последних п—- к :(если п > k) правых сингулярных векторов матрицы А принадлежит ядру этой матрицы, а потому вектор к «п
2
г-1 1г=гж
будет решением системы Ах — Ь при любых с6+ь ..., с„еС; разумеется, при п = к эта последняя сумма отсутствует. Поскольку векторы {ш,} ортонормированы, решение с минимальной евклидовой длиной получается, когда все с, равны 0. Отметим, что последние т — к левых сингулярных векторов матрицы А образуют базис ядра матрицы АА, совпадающего с ядром матрицы А*. Поэтому требование, чтобы вектор b был ортогонален к последним m — к левым сингулярным векторам матрицы А, равносильно тому, чтобы потребовать ортогональности b к любому решению системы А*х = 0.
Упражнение. Если не все из последних m — к компонент вектора V*b равны нулю, то система Ах = b несовместна, и решений нет вообще. Однако для ряда целей можно удовлетвориться нормальным псевдорешением, т. е. вектором хе С", минимизирующим ]]Дх— Ь||2 и при этом имеющим наименьшую возможную евклидову длину. Показать, что формула (7.4.5) дает нормальное псевдорешение.
'7.4.6. Пример. Пусть Д е Аф,— заданная матрица. Каково
будет наилучшее среднеквадратичное приближение к А среди матриц, отличающихся от унитарных разве лишь скалярными множителями? Вспомним, что /2-норма на Мп порождается скалярным произведением [Л,В] = trАВ* и что для унитарной матрицы U
П^П1, — ^, U\ = \t UU* = \r 1 = п.
Если се С и Ue Мп — унитарная матрица, то
^A-cU\^ = YA-cU, Л-с(/] = ||Л||^-2Ке{сМ, П]} + и|с|2.
Минимум этого выражения1) достигается для c = \A,U\/n и, следовательно,
■ ПД — с£7||2 ^[[ Д[[^ —-1-КД, <7]]2.
Если положить
и(А) = max ЦД, В] |,(7.4.7)
и ^мп унитарна
то получим величину, аналогичную численному радиусу г(Л), только максимум скалярного произведения в последнем случае брался не по унитарным матрицам, а по всем эрмитовым матрицам ранга 1, имеющим единичную евклидову норму. Однако
в отличие от численного радиуса функция и (Л) является матричной нормой на Мп (см. задачу 5 и пример 7.4.54).
Легко определить значение и (Л), а также экстремальную унитарную матрицу. Пусть А = VSW*— сингулярное разложение матрицы Л. Тогда'
и(А) = max j [Л, t/] j = max | [I/SIE*, t7] |
U унитарнаU унитарна
= max |trES№77’| = max | trS (W*U‘V) |
U унитарнаU унитарна
пmax I tr St7 [ = max У, atuit
U унитарна^“["х/]
унитарна
ггп
< max Е at | аи | < Е Oz-
унитарна
Если А = PU — полярная форма матрицы А, то
[Л, (/] = tr PUU* = tr Р = Е а$.z=i
Таким образом, полученная нами верхняя оценка для и(Л) достижима и и (Л) = ст, (Л) + ... 4-ст„(Л), а наилучшее среднеквадратичное приближение матрицы Л кратным унитарной матрицы дается формулой
^(ст,++o„)t7.
Здесь U — унитарная матрица из полярной формы А = PU матрицы А, а ст,, ..., ст„— сингулярные числа матрицы А. Если известно сингулярное разложение А = VSW7*, то U = VW*. Ошибка приближения равна
п/ п х 2
||Л-^-у|2 =||Л||2 - —| [Л, У]|2=Уст2- — ( У ст(.)
и обращается в нуль только тогда, когда неравенство Коши —< Шварца'
z п \2 z п \ z п \(Еог1) ^(Е 12)(Е^)
на самом деле является равенством. Итак, матрица А может быть идеально аппроксимирована кратным унитарной матрицы
лишь в том случае, если все ее сингулярные числа равны между собой.
Пример. Пусть заданы матрицы А, ВеМт,п и желательно выяснить, нельзя ли получить А посредством «вращения» матрицы В, т. е. не будет ли А = UB для некоторой унитарной матрицы U е Мт? Более общо, если рассмотреть всевозможные «вращения» UB заданной матрицы В, то насколько хорошо ими можно аппроксимировать матрицу А в смысле наименьших квадратов? Эта задача известна в факторном анализе как задача отыскания «прокрустова преобразования» матрицы В.
Вычисления очень схожи с тем, что было в предыдущем примере. Нужно выбрать U так, чтобы минимизировать IIЛ — UB\\E; как и выше, находим, что
\\A-UB\^=YA-UB, Л — <7S] = ]| Л |]^ —2 Ке[Л, УВ] + ||В|||.
Таким образом, следует искать унитарную матрицу U, максимизирующую функцию Re [Д, С1Щ = Re tr AB*U*. Если AB* = = RSIE* — сингулярное разложение матрицы АВ*, то
Re tr AB*U* = Re tr V^TU* = Re tr
i = \
Здесь T = [^Z/] = W*U*V—унитарная матрица. Максимум этой суммы достигается, когда все tn = 1, т. е. когда U = VW*. Матрица VW* — это просто унитарный сомножитель в полярном разложении матрицы АВ*.
Итак, для матрицы А г Мт, „ наилучшее среднеквадратичное приближение вида UB, где ВеМт, п, a UeMm— унитарная матрица, определяется формулой UB =(VW*') В. Матрицы V, W входят в сингулярное разложение матрицы АВ*; можно использовать и полярное разложение АВ* = Р (VW*); таким образом, знать V и IF по отдельности нет нужды. Ошибка аппроксимации равна
min {|| А — UB\\E: И е Мт унитарна } = ]] Л — (FiF*)В||£ = [т-11/2'
II ДЩ + l|S||2-2g<TzMS*)j ,
где {о,(ДВ*)}—множество сингулярных чисел матрицы АВ*, Пусть нужно выяснить, будет ли А точным вращением матрицы В. Очевидно, что необходимым условием этого является равенство ||Д||г =||В||£; необходимые и достаточные условия имеют вид (снова (о^ДВ*)} обозначает множество сингулярных
чисел матрицы АВ*) т
ЦЛ|6 = ||В|6= ^ а((ЛВ*).
г Рассмотрим в заключение частный случай пг = п и В = 1. Тогда получим следующий результат: наилучшее среднеквадратичное приближение заданной матрицы Л е Мп унитарной матрицей U г Мп выражается формулой U = VW*, где V, W — матрицы из сингулярного разложения А = V^W*. Иначе говоря, А = PU = P(VW*) есть полярное разложение матрицы А. Ошибка аппроксимации равна
IIЛ - 1/1Г |6 = || А |^ + ||/|6 - 2 £ <т, (Л) =
= Z <7? (Л) + п - 2 2 О( (Л) = 2 (ог (Л) -1 )2. х = 1х = 1х = 1
Через щ(Л) обозначены сингулярные числа матрицы А.
Попутно с обсуждением предыдущего примера, мы нашли решение задачи о максимизации функции RetrAf/ на множестве всех унитарных матриц U. Для удобства последующих ссылок оформим этот результат как теорему.
Теорема. Пусть А е Мп— заданная матрица с сингулярным разложением А = VSU^*. Тогда (а) задача
max{RetrX^: UeMn унитарна}
имеет решение U = VW*, а значение максимума равно <Т1(Л)+ ... +<т„(Л), где {щ(Л)} — множество сингулярных чисел матрицы А; (Ь) существует унитарная матрица U е М„, такая, что AU е. Мп — эрмитова положительно полуопределенная матрица. Унитарная матрица U тогда и только тогда является решением экстремальной задачи п. (а), когда матрица AU положительно полуопределена; если А невырожденна, то U определена однозначно. Собственные значения матрицы AU совпадают с сингулярными числами матрицы А.
Доказательство. Имеем
Re tr AU = Re tr VWU = Re tr 2 <W*UV) = £ Re az <W*UV)U.
Максимум этого выражения достигается, если все диагональные элементы матрицы 1^*^1/ равны 1. Поскольку матрица W*UV унитарная, это означает, что W*UV =/, или U = WV*. При таком выборе матрицы U получим AU = V2W*WV* = RSR*; эта матрица эрмитова и положительно полуопределенная, поскольку
17 Р. Хорн, Ч. Джонсон
2 — diag(orh ..., огл) и все щ неотрицательны. Если U\G.Mn — произвольная унитарная матрица, для которой матрица AUt положительно полуопределеиа, то собственные значения последней должны (в силу инвариантности сингулярных чисел) совпасть с сингулярными числами матрицы А. Единственность в невырожденном случае вытекает из утверждений о единственности в теореме 7.3.3. □
Для произвольной матрицы АеМт>п обе матрицы ЛЛ* и А*А положительно полуопределены и tr ЛЛ’= о^ (Л) + ... • ••+ormin(m П}М)1 правую часть этого равенства можно рассматривать как сумму произведений сингулярных чисел матриц Л и А*, учитывая, что сингулярные числа матрицы А* совпадают с сингулярными числами матрицы А. Это простое замечание допускает обобщение на любую пару матриц А, В, для которой оба произведения АВ и ВА имеют смысл и к тому же положительно полуопределены. Это обстоятельство полезно при решении матричных оптимизационных задач нескольких типов.
Теорема. Пусть Л е Мт, п, В е Мп_ т и q = min {т, п}. Обозначим через сгДЛ), ..., сгДЛ) и сгДВ), ..., oq(B) сингулярные числа соответственно матриц А и В, пронумерованные по невозрастанию. Если обе матрицы АВеМт и ВА^Мп положительно полуопределены, то найдется перестановка т целых чисел 1, 2, ..., </, такая, что
о
tr AB = trBA = X Oi(A)aut)(B). (7.4.11) i=l
Доказательство. Если m = п, матрицы Л и В коммутируют и при этом каждая из них положительно полуопределеиа, то обе матрицы можно диагопализовать одним унитарным преобразованием: A = UAU*, В = UMU*, U ^ Мт — унитарная матрица, A = diag(Xb ..., Xm), M = diag(pi, ..., pm) и все числа Хе, неотрицательны. Но тогда
tr АВ = tr (UAU*) (UMU*) = tr UAMU* = tr AM = £
Поскольку собственные значения Xi, щ являются в то же время сингулярными числами матриц А, В, то в этом частном случае теорема доказана.
Без ограничения общности, можно считать, что т ^ п: если т > п, то можно просто поменять местами Л и В в формулировке теоремы. ■ . '
Мы утверждаем, что для доказательства теоремы в общем случае достаточно показать следующее: для любой пары мат-
риц АеМт,п, ВеМп,т (т^п), такой, что оба произведения АВ и ВА положительно полуопределены, найдутся унитарная матрица V g Мп и матрица У g Мт, п с ортонормирован- ными строками, для которых п X «-матрицы
Д = ГДВ, B = V*BY(7.4.12)
коммутируют и положительно полуопределены. Если это так, то, согласно сказанному выше, -
tr АВ = tr ABYY* = tr Y*ABY = tr (УДЕ) (Е*ВУ) = тт
£ а, (УДЕ) ат w (VBY) Е at (Д) ах W (5).
/ = 1i”l
Заметим, что Д‘Д = Е*Д*УУ ДЕ = Е*Д*ДЕ = (ДЕ)‘(ДЕ), поэтому сингулярные числа матрицы А совпадают с сингулярными числами матрицы ДЕ, а те в силу равенства (ДЕ) (ДЕ)* = АА*—• с сингулярными числами матрицы А, Таким же образом показываем, что сингулярные числа матрицы В равны сингулярным числам матрицы В; следовательно,
tr ДВ = ЦаЛА^ахиАВУ
что и утверждалось. Доказательство существования преобразования (7.4.12) с нужными свойствами разобьем на три этапа.
Пусть Д и В удовлетворяют условиям теоремы. Вспомним (см. теорему 1.3.20), что собственные значения матрицы ВА— это собственные значения матрицы АВ (с учетом кратностей) и дополнительно п — m нулевых собственных значений. Пусть Xj, ..., Хт— собственные значения матрицы АВ; положим A = diag(ZjZm). Так как обе матрицы АВ и ВА по предположению эрмитовы, то найдутся унитарные матрицы U е Мщ и Ее Мп, такие, что
AB = UMT, ВД = е[Л °1е*.L0 о]
Представим матрицу V в виде E = [EJE2], где E^Af^m, V2e МП)П.-т- Матрица Е] имеет ортонормированные столбцы, так что V*Vj = I е Мт. Поскольку Л. = U*ABU и ВА = EjAE*, то В А = (Е^’) АВ (ДЕ*). Положим Y = UV'^ Мт п и заметим, что YY* = HE'EjH* = UU* = I, т. е. У имеет ортонормированные строки и BA — Y*ABY. Определим Д и В формулами А га sY'AsMm B = BYeMn; тогда AB = Y*ABY = BA и ВА = = BYY*A = BA. Произведение В А положительно полуопреде- лено по предположению. Итак, существует преобразование вида
(7.4.12), где V = I, приводящее к коммутирующей паре п X п- матриц с положительно полуопределенным произведением. Сами же матрицы А и В могут не быть положительно полуопределен- ными; чтобы добиться их положительной полуопределенности, может потребоваться еще одно преобразование вида (7.4.12).
Не ограничивая общности, можем теперь предполагать, что т = м, А и В коммутируют и произведение АВ положительно полуопределено. Если (А5)х = Хх, где х =# О, то (АВ) (Ах) = АВАх = ААВх = А (АВх) = А (Lx) = Х(Лх). Таким образом, каждое собственное подпространство эрмитовой матрицы АВ инвариантно относительно А. Аналогичным образом показываем, что каждое из этих собственных подпространств инвариантно относительно В. Отсюда следует, что если Хь .., ..., Кг — все различные (неотрицательные) собственные значения положительно полуопределенной матрицы АВ с кратностями соответственно k\, ..., kr (Ai + ... + hr = и), a U = = [ui ... ип] — унитарная матрица, столбцы которой являются собственными векторами матрицы АВ, причем собственные векторы, отвечающие одному и тому же собственному значению, расположены подряд, то обе матрицы UAU и U*BU должны быть блочно-диагональными:
А = W*AW = diag(Ab Л2Аг),B = W*BW = diag(Bb В2BJ;
здесь А[, В^ЛЬ. и AtBL = BtAt = KJ е Мь„
■ (3) Не ограничивая общности, можем теперь считать, что т = п, А, Be М», А и В коммутируют и АВ = XI, где К 0. Если К > 0, то А и В невырожденпы и В = КА-1. В соответствии с теоремой 7.4.9 найдем унитарную матрицу б/ е Ма, такую, что матрица А = AU положительно определена. Но тогда матрица В = U*В = XU*A~x = L (А £7)—1 также положительно определена в силу положительности X и положительной определенности матрицы (AU]-1. Далее, (U*B) (AU] — U*XIU = XI = АВ = = (AU] (U*B), т. e. А и В коммутируют. Данное преобразование1) имеет вид (7.4.12), поэтому в случае Х>0 доказательство закончено.
Если X =0, то А В = В А = 0. Снова выберем унитарную матрицу U так, чтобы матрица A U была положительно полуопределе- на. Тогда 0=AB=(AU] (U*B) = (U*B] (AU)=U*0U=0, т. е. AU и U*B коммутируют, а потому каждое собственное подпространство эрмитовой матрицы AU инвариантно относительно U*B. Пусть L, Хъ ..., К, — все различные (неотрицательные) соб-
ственные значения положительно полуопределенной матрицы AU и U7 = [&vt ,.. шп^ — унитарная матрица, столбцы которой являются собственными векторами матрицы AU, причем собственные векторы, отвечающие одному и тому же собственному значению, расположены подряд; тогда обе матрицы W*(,AU')W1 и W*(U*B) W блочно-диагональные:
W* (AU) W = diag (Ль ... , ЛД Г’ (t/’B) W = diag (ВВ^.
рдноименные матрицы Л/, Bi имеют одинаковый порядок и Ai = Xd, i=l,2, ..., г. Для всех t = 1, ..., г справедливы равенства AiBi = BiAi = 0. Если Xt ^ 0, то Ai = XJ, Bi = 0 образуют требуемую коммутирующую пару положительно полуопре- деленных матриц. Если Xi = 0, то матрица Bi не обязательно нулевая, но тогда должна найтись унитарная матрица Ui, такая, что U\BL положительно полуопределена (нужно применить теорему 7.4.9 к В^). В этом случае матрицы Л^г = 0 и f7*Bz составляют коммутирующую положительно полуопределенную пару, получаемую преобразованием вида (7.4.12). Тем самым завершено исследование всех возможных случаев. □
.13. Пример. Рассмотрим следующий вариант задачи о вращениях 7.4.8. Пусть заданы матрицы А, В g Мт, п, и нужно определить, не может ли А быть получена двусторонним «вращением» матрицы В, т. е. не будет ли А = UBV для некоторых унитарных матриц U G Мт, V G Мп. Более общо, если рассматривать всевозможные двусторонние «вращения» UBV данной матрицы В, то насколько хорошо можно ими аппроксимировать А в смысле наименьших квадратов?
Как и прежде, будем искать унитарные матрицы U g Мт и V g Мп, минимизирующие функцию ||Л — UBV\\e- Как и прежде, находим
\\A-UBVVe = \A-UBV, A-UBV] =
= || А |РЕ -2 Re [Л, £/ВГЛ-ПВП>.
Итак, нужно найти унитарные матрицы UeM», V g Мп, максимизирующие функцию Ке[Л, UBV] = Retr AV*B*U*. Оптимизирующие унитарные матрицы Uo, Vo для этой задачи должны существовать (хотя и необязательно определяются единственным образом), поскольку множества унитарных матриц в Мп и Мт компактны и декартово произведение компактных множеств также компактно. Оптимизирующие матрицы Uo, Vo обладают тем свойством, что
Re tr (Л^В*) U*o > Re tr (ЛК*В') U
для любой унитарной матрицы U е Мт. Это означает, согласно теореме 7.4.9, что матрица AV*0B*U*0 положительно полуопреДе- лена. Но и. ,
Re tr AV*0B*U*0 = Re tr (B*U*A) VJ > Re tr B*U*0 AV,
какова бы ни была унитарная матрица V е Мп. Снова по теореме 7.4.9 заключаем, что матрица B*U*0AV*0 положительно полуопределена. Итак, матрицы AVgeMmn и B*U*0 е Мп m удовлетворяют предположениям теоремы 7.4.10. Поэтому, полагая q = min{m, и), имеем
max {Re tr AV*B*U*\ UeMm и V e Mn унитарны} =
= Re tr AV*0B4T0 = £ », (^) oxW (В^Д = £ ot (Л) at(Z) (B).
Здесь использована унитарная инвариантность сингулярных чисел и через т обозначена перестановка множества {1, ..., qY Не ограничивая общности, можно считать, что сингулярные числа Qi (Л),..., Qq (Л) и аДВ), ..., Од^В^ пронумерованы по убыванию. Если перестановка т не совпадает с тождественной, то найдутся индексы h, i2, такие, что 1 ^ z'j «< i2 ^ q, но Ox(h) (В) Oniq (В). Легко проверить, что сумма
а
ЦоДА^ДВ)
z=i
не уменьшится, если изменить перестановку т так, чтобы эти два сингулярных числа поменялись местами. Действительно, разность между новым и старым значениями суммы равна
[а<, (Л) — а;ДЛ)] [at(za(B) — о^иДВ^>0.
Таким образом, максимальное значение суггмы достигается для тождественной перестановки т; поэтому
max {Re tr AV*B*U*: UeM^, VeMn унитарны)= q
= ZazM)az(B). (7.4.14)
Сингулярные числа обеих матриц А и В упорядочены по убыванию.
Используя этот результат в нашей исходной экстремальной задаче, получаем, что для А,Ве Мт, п и q = min{m, n)
min {|| A — UBV ||£: U e Mm и V e Mn унитарны) =
[
q41/2
IM||2-2Ea;(X)a(-(B) + ||B||d =
= 1J
[
qq<7*11/2
Е^И)-2 2аг(Л)аг(5)+2^(5)=
i=ii=ii=iJ
[
q""11/2
E [о, (Л) - a, (B)]2.(7.4.15)
i=iJ
В частности, А тогда и только тогда будет «двусторонним вращением» матрицы В, когда А и В имеют одно и то же множество сингулярных чисел. □
Упражнение, К чему сводится (7.4.15) при В = I? Сравнить с результатом, указанным в конце разбора примера 7.4.8. Что дает (7.4.15) в случае диагональной матрицы В ранга А? Сравнить с комментариями в примере 7.4.1.
Пример. В качестве еще одного примера использования сингулярных чисел рассмотрим вопрос о характеризации введенных в § 5.6 унитарно инвариантных матричных норм.
Определение. Векторная норма || • || на Мт, „ называется унитарно инвариантной, если
IIUAV || = || А ||
для всех А е Мт, п и любых унитарных матриц U е Mm, V е Мп.
Пусть матрица АеМт, п имеет сингулярное разложение А = VS1F». Тогда ||Л||=||VS 11^*11=IIS|| для всякой унитарно инвариантной нормы ||-||. Таким образом, на пространстве матриц с фиксированными размерами унитарно инвариантная норма зависит только от множества сингулярных чисел матрицы.
Двумя хорошо известными примерами унитарно инвариантных норм являются евклидова норма (или норма Фробениуса) и спектральная норма. Обозначим через О\ ^ Oi ^ ... ^ п? сингулярные числа матрицы X = [хц] е Мт, п (.q = min{m, n}). Тогда1
О
пт\1/2/ q \1/2
|| X ||2 = max = [р (ГХ)]1'2 = a, = max (а,tqY
' Пусть теперь ||’||—произвольная унитарно инвариантная норма на Мт, л. Природу ее зависимости от сингулярных чисел
матричного аргумента определить нетрудно. Будет удобно считать, что т п. Положим Л = diag(x1, хг, ,.., xm^ Е Мт и введем блочную матрицу
* = [Л10], АеМт, OeMmi„_m.
Так как XX* = diag (| хх |2, | хг |2, ... , | хт |2), то | хг | суть сингулярные числа матрицы X. Определим функцию g: Cm->R+ формулой
g(*) = g(ki*,,/) — IIX ||.
От нормы ||-|| функция g(-) наследует такие свойства: '
g(x) ^ 0 для всех х е С"1, поскольку 1Ш| ^ 0 для всех X е Мт, п.
g(x) = 0 тогда и только тогда, когда х = 0;это следует из того, что 11^11=0 тогда и только тогда, когда X = 0.
g(ax) = |a|g(x) для всех х е С"1 и всех а е С, поскольку jjаХ|[ = | а Ц|Х|| для всех «еС и всех ХгМт,п.
g (х + у) ^ g (х) + g (у) для всех х, у Е С"1, поскольку ||Х + У|1<||Х|| + 1|У|| для всех X, УеМт,п.
Эти четыре свойства означают, что g(-)—векторная норма на Ст; но g(-) имеет два дополнительных свойства:
g(-) — абсолютная норма на Ст, как она определена в (5.5.9). Таким образом, если х = [х,] Е С"1, у = [у,] = [ |х,| ] е е С"1, то g(x) = g(y). Это равенство вытекает из того, что g(x) =11^11 зависит только от сингулярных чисел матрицы X, а ими являются числа о/=|х;|.
Если Р е Мт— матрица перестановки, то g(Px) = = g(x) для всех xsCm. Действительно, множество сингулярных чисел матрицы X = [Л i 0] совпадает с множеством сингулярных чисел матрицы [РЛРг:0], так как (РАРТ) *(РАРТ) = = РА*АРТ. Функция g(x) зависит от множества абсолютных величин компонент вектора х, но не от его упорядочения.
Упражнение. Для обсуждаемой матрицы X = [Л; 0] е Мт,п, Л = diag(x1, ... , хт), вычислить сингулярное разложение в явном виде.
- Упражнение. Если т^п, полагаем Л’ = [Л|0]7', где А — = diag(xjхп) е Мп, и определяем функцию g(x) = ||X||, х е С". Показать, что если || • || — унитарно инвариантная норма на Мт)П, то g(-) — абсолютная векторная норма на С",
Причем g (Рх) = g (х) для всех х г С" и любой матрицы перестановки Р е М№.
Упражнение. Проверить непосредственно, что векторные нормы §■(•), получаемые из евклидовой и спектральной норм, обладают всеми шестью свойствами (7.4.17) — (7.4.22).
Определение. Функция g(-): С17R+ называется симметричной калибровочной функцией, если она удовлетворяет требованиям (7.4.17) — (7.4.22), т. е. если она является абсолютной векторной нормой, инвариантной относительно перестановок компонент своего векторного аргумента.
Мы видели, что всякая унитарно инвариантная норма на Мт, п порождает симметричную калибровочную функцию; более интересно, что верно и обратное. Следующая теорема утверждает, что функция N(•) на Мт, п тогда и только тогда будет унитарно инвариантной нормой, когда N(Д') есть симметричная калибровочная функция сингулярных чисел матрицы А.
Теорема. Пусть || • ||— унитарно инвариантная норма на МИ]П, ^ = min(m, п^, х = [х,] е Сд, Хх = diag (х^ ..., хчЦ и пусть X = [Л\ 10] е Мт, „, если т^п, или X = [Л\ 10]г е Мт; п, если т ^ п. Определим функцию g: С’ -> R+ формулой g (х) = в||2Г||. Тогда §■(•)— симметричная калибровочная функция. Обратно, если g*. C'7->RI—заданная симметричная калибровочная функция и отображение || • ||: Mmjft->R+ определено формулой || А || = g ([аь ... , о9]г), где о^ .. . , oq — сингулярные числа матрицы А, то || • || является унитарно инвариантной нормой на Мт>п.
Доказательство. Первая часть утверждения уже доказана. Переходя ко второй части, заметим, что функция || • || определена корректно, так как g^-^ инвариантна относительно перестановок компонент аргумента. Поскольку множество сингулярных чисел матрицы не меняется при унитарных преобразованиях, то ||(7ЛИ|| = ||Л|| для любых унитарных матриц UeMm, V е М„. Так как g(-)—векторная норма, то ЦДЦ^О для всех А е Мт, п. Равенство ||Д|| = 0 равносильно тому, что ^([оц ... ..., aJ7) = 0, а это возможно в силу (7.4.18), лишь если все oi = 0. Но нулевая матрица — единственная, чьи сингулярные числа все равны нулю, поэтому функция || • || положительна (см. 5.1.1а). Она также однородна, поскольку оДсА) — |с|щ(Л), а потому ||сД||= ^([|с|оь .... |с|о9]г) = |с|^([оь ..., ojr) = ~|с|||Д||. То, что было сказано до сих пор, означает, что всякая функция ||-Ц, порождаемая данным способом посредством симметричной калибровочной функции, является квазинормой на Мт, п (см. § 5.4). Остается показать, что функция || • || удов-
летворяет неравенству треугольника. Для этого мы докажем, что она двойственна к некоторой квазинорме и, следовательно, в действительности будет нормой.
Рассмотрим двойственную функцию gD(-) для нормы g(-) на О:
gD (у) =: max Re у* х.(7.4.25)
gto-i
Функция gD(-)— всегда норма, так как g(•)—(квази)норма; более того, она является симметричной калибровочной функцией. Действительно,
(7.4.2Р) если Е — diag (е'6', ..., е16ч\ где все 0, е R, то
gD (Еу) = max Re (Еу)’ х = max Re у* (Ex') =g(*)=igto-i
= max Rey*x = max Re y*x = gD (y);
g(Ex)=lgto-l
здесь использовано свойство (7.4.21). Итак, gD(-) тоже удовлетворяет требованию (7.4.21). Аналогичное рассуждение показывает, что
(7.4.22/) если Р е Mq— матрица перестановки, то
gD (Ру) = max Re (Ру)* х = max Re у*Ртх =g(x)=lg(*)-l
= max Re y*x = max Re y*x = gD(y), g(Px) = tg(x)=l
поскольку для g(-) выполнено (7.4.22).
Таким образом, на Mm, п можно задать функцию || ■ IP, ассоциированную с симметричной калибровочной функцией gD(-):
Л л 11" = gr" ([<7!(Т.П,
где т, ..., а, — сингулярные числа матрицы А. (Здесь мы умышленно нарушаем соглашение об обозначениях: символ Н -||° обычно используется для нормы, двойственной к |Ы|, мы же пока не знаем, будет ли || -{] нормой. Однако мы покажем, что это действительно так и что ||-|Р, определенная посредством симметричной калибровочной функции g°(-)> двойственна к ||-1|.) То, что эта функция ||-|Р есть квазинорма на Мт, п, следует, согласно сказанному выше, из того, что она порождена симметричной калибровочной функцией gD(-)-
Вычислим теперь функцию, двойственную к ||-|Р; в соответствии с определением 5.4.12 она обязательно будет нормой на Мт, п. Заметим, что матрица В е Мт, л тогда и только тогда удовлетворяет условию ||В|Р = 1, когда в ее сингулярном разложении B = VSU7* матрица S = diag(ort, ..., Qq) такова, что
gD([oiQjr)=l. Фиксируя матрицу АеМт,п, получаем (|| A ||D)D = max Re [Л, S] = max Re tr AB*
l|S||O=i||B||D=1
= max {Re tr A (/£№’)*; R e Mm и W e M„ унитарны, S = diag(sis9) и gD([siS(?]7’)=l}.
Для каждой диагональной матрицы S, подчиненной указанному условию, можно с помощью (7Л.14) найти максимальное значение по всевозможным выборам унитарных матриц V, W:
(|| Л ||D)D= max] X «Т/М) |sz 1= gD([sisj7)^- 1>.
Так как все о,(Л)^0, то из определения 5ЛЛ2 очевидно, что этот максимум в точности равен значению нормы, двойственной к gD(-), на векторе [О1(Л)о, (Л)]7. Теорема двойственности 5.5.14 гарантирует, что вторая двойственная норма совпадает с исходной, поэтому
(ЦЛП° = (^([сг1(Л)а.(Л)П = = g(ki (Л)о.^п^цлц.
Итак, M|| = (M||D)D для любой матрицы A е Мт, п, откуда следует, что функция ||-|| действительно является нормой, а потому удовлетворяет неравенству треугольника. Этот вывод заодно оправдывает употребленное нами обозначение, поскольку по теореме двойственности (||Л||)D = ((||Л||D)D)D =||Л||D. Итак, функция ||-||D, определенная посредством симметричной калибровочной функции gD(-), на самом деле двойственна к норме II-II- □
Важный и хорошо известный пример симметричных калибровочных функций на Сп дает семейство /р-норм (см. 5.2.4),
/ П\ 1/р
g([xiл:„]г) = ||х||р = I Z I ^ 1Р ) , 1<р<°о.\/-1/
Применяемые к сингулярным числам матрицы, как это описано в теореме 7.4.24, /„-нормы порождают на Мт, п унитарно инвариантные нормы, называемые р-нормами Шаттена. Случай р = 2 соответствует евклидовой норме
М11в = [2сг/ «|1/2.
предельный случай (при р->оо)—спектральной норме
|| Л ||2 = max {ст, (Л)},
случай у = 1—следовой норме _ ■ ■■... .
IMH^E^H).
Следовая норма естественным образом появилась в примере 7.4.6, когда рассматривалась задача аппроксимации данной квадратной матрицы скалярным кратным унитарной матрицы.
Другое семейство симметричных калибровочных функций на С", также включающее в себя следовую норму и спектральную норму, указано в (7.4.44).
Пример. Сингулярные числа играют важную роль в выводе неравенства Виландта, дающего геометрическое истолкование числа обусловленности квадратной невырожденной матрицы относительно спектральной нормы.
Пусть АеМп — невырожденная матрица; положим В = = А*АеМ„ и обозначим сингулярные числа матрицы А через о, ... ^ ап. Собственные значения положительно определенной матрицы В (расположенные, как обычно, в порядке возрастания) суть а2 ^ а^_х ^ . .. ^ сг2. Пусть х,уеСл — произвольная ортонормированная пара векторов; определим матрицу С = [х у] *В [х у] G Мг, и пусть ее собственными значениями будут 0 < yi ^ у2. Теорема Пуанкаре 4.3.16 при г = 2 дает ,
^д (5) = сг2_й+1 ^ Лд (С) = уд Лп+Й_2 (В) == o^_&, й = 1, 2,
или
Для наших целей интерес представляет лишь такое следствие этих неравенств:
^<V1<Y2<4(7.4.27)
Крайние соотношения превращаются в равенства, если в качестве х и у взять ортонормированные собственные векторы матрицы В, отвечающие собственным значениям, которые совпадают с квадратами соответственно наибольшего и наименьшего сингулярных чисел матрицы А.
Теперь вычисляем■
_ **ДУ I2 _ д (УВД (у* By} — | х*Ву Р
(х*Вх} ^у'Ву}4 <х*Вх + у'Ву}1 - <х*Вх - у* By}1
4 det С
— (tr С}1 — (х*Вх - у*By}1 —
4у1Уг_ 4у1уг
(Yi + Уа)2 — кх*Вх — у'Ву}1 '-' (У1 + у2)2 '
.(7.4.28)
В последнем переходе равенство имеет место тогда и только тогда, когда для ортонормированных векторов х, у е О справедливо соотношение х*Вх = у* By. Преобразуем полученное неравенство в эквивалентное:
I х*Ву |2_ . _4у!у2_ / yi — у2 V _ / у2/У1 — 1 у
(х'Вх) (у*Ву)(yi + у2)2 I Yi + у2 / I у2/Т1 + 1 /
(7.4.29)
Верхняя граница в (7.4.29) является монотонно возрастающей функцией отношения у2/?1 (как легко показать, замечая, что производная функции f(/) = (/— 1)/((4~1) положительна при />0). Согласно (7.4.27), это отношение ограничено сверху величиной of/o2; следовательно,
| х*Ву |2/ of/o2 - 1 У / и2 - 1 У
(х*Вх)(у*Ву)J1
Здесь введен положительный параметр х = х (Л) = aj/a^ = = II А ||2Ц Л"112 > 1, представляющий собой число обусловленности матрицы А относительно спектральной нормы (или спектральное число обусловленности). Пусть uv, ипеСп— ортонормиро- ванные собственные векторы матрицы В, отвечающие соответственно собственным значениям а^ и а^. Если положить х = = («[ + Un)/V2, y = kuv— UJ/V2, то система {х, у) ортонор- мирована, х*Вх = у*By = (of'+ ^l^ и Х*^У = (of — о^)/2, поэтому в (7.4.30) достигается равенство.
Определим угол 0 из первого квадранта формулой ctg (0/2) = = х; тогда
х2 — 1 ctg2 (6/2) — 1 cos2 (6/2) — sin2 (6/2) „ х2 + 1 — ctg2 (6/2) + 1 cos2 (6/2) + sin2 (6/2) — C0S U’
ii (7.4.30) можно переписать в виде
I х*Ву I2<х*Вх) (y*By)I х*Ву I2<х*Вх) (y*By)COS20.COS20.(7.4.31)(7.4.31)
I х*Ву I2
<х*Вх) (y*By)
I х*Ву I2
<х*Вх) (y*By)
COS20.
COS20.
(7.4.31)
(7.4.31)
Замечая, что левая часть этого соотношения есть однородная функция степени 0 от каждого из аргументов х и у, мы можем, наконец, сформулировать неравенство Виландта. Приведем две его эквивалентные формы.
Теорема. Пусть A s М„ — заданная невырожденная матрица со спектральным числом обусловленности х, и пусть угол 6 из первого квадранта определен формулой ctg (0/2) = х. Тогда для любой пары ортогональных векторов х, уе Сп справедливо неравенство
ЦЛх, Лу > | ^ cos 01| Лх ||21| Лу ||2. (7.4.33)
Символ (и, п> = и*и обозначает евклидово скалярное произведение; через ЦиНг = (u*u)1/2 обозначена евклидова норма. Кроме того, существует пара ортонор мированных векторов х, уе С”, для которой в (7.4.33) достигается равенство.
Теорема. Пусть ВеМ„— заданная положительно определенная матрица с собственными значениями Xi ^ Х2 ^ ... ... ^ Хп. Тогда для любой пары ортогональных векторов х, у е С" справедливо неравенство
| х'Ву |2 < У <х‘Вх^ (у-Ву\ <1А.^
Кроме того, существует пара ортонормированных векторов х, у е Сп, для которой в (7.4.35) имеет место равенство.
Доказательство. Неравенство (7.4.33) получается из (7.4.31) подстановкой В = А*А. Неравенство (7.4.35) получается из (7.4.30), если подставить о2 = Хп_;+1 и вспомнить, что всякую положительно определенную матрицу В можно записать в виде В — А* А для некоторой невырожденной матрицы А е Мп; можно, например, взять А = В1/2. Мы уже отмечали, что для некоторой ортонормированной пары в (7.4.30) может достигаться равенство. □
Упражнение. Показать, что (7.4.35) есть усиление обычного неравенства Коти — Шварца, имеющего в данном случае вид |х*Ду| = |<0/, Сх>\ ^IICxIlsllCyKz, где С = В'/2. Однако неравенство Коши — Шварца приложимо ко всем парам х, у, в то время как (7.4.35) — только к ортогональным парам. Что случится, если 2Ч = Хп?
Неравенство Вилапдта в форме (7.4.33) сразу приводит к полезной геометрической интерпретации спектрального числа обусловленности. Для произвольной ортонормированной пары х, у е С" левая часть неравенства
II Лх||21| Ду Ц2II Лх||21| Ду Ц25:7 cos 95:7 cos 9(7.4.36)(7.4.36)
II Лх||21| Ду Ц2
II Лх||21| Ду Ц2
5:7 cos 9
5:7 cos 9
(7.4.36)
(7.4.36)
есть обычный косинус меньшего евклидова угла между ненулевыми векторами Ах и Ау. Смысл данной оценки: меньший угол между Ах и Ау ограничен снизу числом 0 = О(Д), определяемым соотношением ctg[0(Д)/2] = х(Д). Поскольку эта граница может достигаться, установлена геометрическая интерпретация числа 0(Д) как минимального угла между Ах и Ау, когда х и у пробегают всевозможные ортопормировацные пары векторов. Эта точка зрения на число обусловленности обсуждалась в § 5.8 и 6.3.
Из неравенства Виландта легко получить хорошо известное неравенство Канторовича. Пусть х—произвольный вектор из С”; положим
у = || х ||| (В"1х) - (х*В”хх) х(7.4.37)
и заметим, что х*у = 0. Тогда
Ву = \\х\^х — <х‘В~хх) Вх,
■X Ву = \\х\\)—(х*В-Хх)^Х*Вх),
у*By = — ^х*В-хх) (у*Вх).
Так как матрица В, а следовательно, и В-1 положительно определены, то должно быть y*By~^Q, а потому у*Вх — х*Ву ^.0. Перепишем неравенство (7.4.31) в виде
| х'Ву р cos2 0 • (х’Вх) (у* By).
Подставляя значения, соответствующие конкретному выбору (7.4.37) для пары х, у, получим
| х*By р^ cos20 (х’ Вх) (х*В~хх) (— х*By).
В любом из двух возможных случаев х*Ву < 0 или х*Ву = О это означает, что
— х‘By = — [||х||г — (х*В-хх) (х Sx)] ^ (cos20) (х*Вх) (х*В-хх)
или
(sin2 0) ^х* Вх) U*B-Xx) < IIX 111(7.4.38)
для всякого вектора хе Сп. Отметим, что (7.4.38) превращается в равенство, если х=щ + ип есть сумма ортонормированных собственных векторов матрицы В, отвечающих наименьшему и наибольшему собственным значениям. Это приводит к двум эквивалентным формам неравенства Канторовича, соответствующим двум формам неравенства Виландта.
7.4.39. Теорема. Пусть А е Мп— заданная невырожденная матрица со спектральным числом обусловленности х. Определим угол 0 из первого квадранта формулой ctg(0/2) = x.Тогда для
любого хеС" справедливо неравенство■
IH^sinO^^T^.(7.4.40)
Кроме того, найдется нормированный векторх,длякоторого
превращается в равенство..
Теорема. Пусть ВеМп — заданная положительно определенная матрица с собственными значениями Xi Х2 .. *
(.. ^ Кп. Тогда
IIх Из >^Вх^ ^В-^)
(7.4.42)
для любого х е С". Кроме того, найдется нормированный вектор х, для которого (7.4.42) превращается в равенство.
Доказательство. Оба результата вытекают из (7.4.38), если подставить туда В = А* А и учесть, что
Тот факт, что в обоих случаях возможно равенство, следует из возможности равенства в (7.4.38). □
Пример. Иногда удается доказать соотношения между нормами матриц, выполняющиеся для всех унитарно инвариантных норм. Средство вывода таких соотношений мы получим, если осознаем фундаментальную роль, которую играют конкретные симметричные калибровочные функции g*([xi, ..., xn]r). Эти функции вводятся на С" формулами
gk (х) = max { [ xZ| | + .. . + I xt J: 1 < h < C < • • • < Ц < »},
A = 1, .. . , n. (7.4.44)
Применяемые к сингулярным числам матрицы, как это описано в теореме 7.4.24, симметричные калибровочные функции данного семейства порождают семейство унитарно инвариантных норм на Мт, п, называемых k-нормами Фань Цзы. Случай k = 1 соответствует спектральной норме, а случай £ = min(m, п}—следовой норме.
Теорема. Пусть х [х,], у = \уЛ— фиксированные векторы. из С". Для того чтобы неравенство g^^ g{y) было справедливо при любой симметричной калибровочной функции g(-) на С", необходимо и достаточно, чтобы оно выполнялось для конкретных симметричных калибровочных функций gk(-), к = = 1,2,..., п, определенных в (7.4.44).
Доказательство. Поскольку каждая из функций gkV^— симметричная калибровочная функция, то необходимость условия ясна. Для доказательства достаточности предположим, что неравенства gk (х) ^ gk (у) выполнены для k = 1, 2, ..., п, и пусть g^-')— заданная симметричная калибровочная функция. Так как симметричная калибровочная функция не меняется при перестановках компонент своего аргумента (см. свойство. (7.4.22)), то мы не потеряем общности, если будем считать (это удобно для дальнейшего), чтр компоненты векторов х и у пронумеро-
ваны в соответствии с возрастанием абсолютных величин:
n, становит-n, становит-I^KI^K ... d*J> |z/il^|z/2|^ ... ^|z/„|.
n, становит-
n, становит-
Теперь предположение gk (х) ^ gk (z/), k = 1,2, ся эквивалентным системе n неравенств
UJCIM
I xn-\ I + I X„ |^| yn_\ | + | yn J, • (7.4.46)
I X2 I + . • • + I X„ I ^ I Z/2 I + . . . + | Уп I,
I X1 | + I X2 I + . . . + I Xn I ^ I у I | + I уй | + ... +1 yn |.(*)
Сходство между этими неравенствами и неравенствами из определения 4.3.24 для мажоризации не является чисто внешним.
Если последнее из неравенств (7.4.46) строгое, изменим вектор у, уменьшая абсолютную величину компоненты ух, пока неравенство (*) не обратится в равенство (случай (а)), либо ух не станет нулем (случай (Ь)). В случае (Ь) повторим этот процесс со следующей компонентой у2 и так далее, пока не будет достигнут случай (а). В результате будет получен измененный вектор у' = [г/,], такой, что | y't | ^ | yt j для z = 1, ..., п, gk(x') ^gkU/') Для всех ^ = 1> ••., п и соотношение (*) является равенством. Поскольку абсолютная норма в то же время монотонна (см. теорему 5.5.10), то g(y') ^ g(y). Таким образом, если мы сможем показать, что g(x')^ g(y) для произвольных х, у г е Сл, удовлетворяющих неравенствам (7.4.46) с равенством (*), то можно будет утверждать справедливость соотношения g(x)^ ^g(y) и для любых х, у е С", связанных неравенствами (7.4.46), в общем случае.'
' Предположить, что имеют место неравенства (7.4.46), причем в (*) достигается равенство, — это все равно, что предположить, что вектор —|х| = [—|x(-|]eRrt мажорирует вектор —11/1 = [— \уА 1 G R" (см- определение 4.3.24). В этом случае, согласно теореме 4.3.33, найдется двоякостохастическая матрица SeMR, такая, что —|х| = S( — | z/|), или |х| = S|z/|. Поскольку всякая двоякостохастическая матрица представима выпуклой комбинацией конечного числа матриц перестановок (см. теорему 8.7.1), то можно записать S в виде S = ахРх + ... + «.nPn, где а,-^ 0, «1 + ... + “zv = 1 и каждая Pi е Мп—матрица перестановки. Отсюда выводим■
5И = 5(|х|) = ^(5|г/|) =/ Nхпп
= Z а/ЛЫ)< £ £(а,ЛШ)= S azg(ll/l) =Xi-1/i = lz=r
= g (I У I) = g (У).
Здесь использовано то, что £(•)— абсолютная векторная норма, инвариантная относительно перестановок компонент своего аргумента. □
Значение этой теоремы состоит в следующем: для того чтобы неравенство ||Л||^||В|| выполнялось при любой унитарно инвариантной норме ||-|| на Мт, п, необходимо и достаточно, чтобы оно имело место для fe-норм Фань Цзы, k = 1, 2min{m, n}.
Следствие. Пусть А, В — заданные матрицы из Mm, п 'с сингулярными числами соответственно оДЛ)^ ... ^ оДЛ) и оДВ)^ ... ^ Oq(By где q = min{m, пУ Для того чтобы при любой унитарно инвариантной норме ||-|| на Мт, п выполнялось неравенство ЦЛЦ^ЦВЦ, достаточно выполнения неравенств
оДАХо^ВУ i=l, 2, ... , q.(7.4.48)
Необходимыми и достаточными являются неравенства,
аДЛХаДВ),
<71 (Л) + аДЛ)^^ (В) + а2(В),(7 4 49)
оДЛ) + а2(Л) + ... + аДЛ)<оДВ) + а2(В) + ... + аДВ).
Доказательство. Решающее соображение заключается в том, что унитарно инвариантная норма на Мт-п есть симметричная калибровочная функция сингулярных чисел своего матричного аргумента (см. теорему 7.4.24). Достаточность неравенств (7.4.48) опирается лишь на тот факт, что симметричная калибровочная функция является монотонной нормой (см. теорему 5.5.10), в то время как более тонкое утверждение относительно неравенств (7.4.49) составляет содержание предыдущей теоремы. □
При применении следствия (7.4.47) к доказательству соотношений между нормами часто бывает полезна приводимая ниже переформулировка известного нам факта: вектор собственных значений суммы эрмитовых матриц мажорирует сумму векторов, составленных из упорядоченных собственных значений складываемых матриц.
Лемма. Пусть А, ВеМ,—эрмитовы матрицы с собственными значениями соответственно ХДЛ)^ ... ^ ХП(Л) и ЛДВ)^ ... ^Хп^Ву Через АДЛ— В) ^ ... ^Х„(Л — В) обозначим собственные значения матрицы А — В. Тогда вектор
мл)-цв)=[;ш)-М5)1
мажорирует вектор X (Л — В) = [X; (Л — В)], т» е.
min I Е [X,. (Л) — K^ (В)]: 1 < ц < /2 < ... < ik < п| >
к
^^(А-В) 1
'для k = \,2, ..., п, причем при к = п достигается равенство.
Доказательство. Согласно теореме 4.3.27, вектор Х(Л) = = Х((Л—В) 4* В) = [X,((Л— В)4*В)], образованный собственными значениями матрицы Л=(Л — В) + В, мажорирует вектор Х(Л — В) + Х(В) = [Х,(Л — В) + X, (В) ], а это равносильно тому, что вектор Х(Л)—Х(В) мажорирует вектор Х(Л— В). □ Используя следствие 7.4.47 и лемму 7.4.50 часто удается обобщить аппроксимационные теоремы или неравенства, полученные для евклидовой или спектральной нормы, на весь класс унитарно инвариантных норм.
Пусть, например, заданы матрицы Л, ВеМт,п с сингулярными числами соответственно 01 (Л )^ ... ^о,(Л) и оДВ)^ ... ... ^ Од (В), и пусть q = min {m, п}. Согласно (7.4.15), справедливо неравенство
/ qX И2
цл-вц£> Е к/(Л)-о(-(В)|Ч .
\1=1/
Иначе эту нижнюю оценку можно записать как
|| Л — BII^^IIS (Л) — S(B)||s,
подразумевая, что в сингулярных разложениях A = V15l(A)Wr* и B = lzc2(B)n7* сингулярные числа расположены на «диагоналях» матриц 5(Л) и S(B) по убыванию: от наибольшего к наименьшему. Аналогичный смысл, но для спектральной нормы имеет неравенство (7.3.8а). Именно в этой форме соотношения 7.4.15 распространяются на все унитарно инвариантные нормы.
Теорема. Пусть А, В — заданные матрицы из Мт%п с сингулярными разложениями А = 7^ (Л) W*v В = V2S (В) U7*, где Уь ^2 g Мщ и U7h U72 г А4„ — унитарные матрицы и «диагональные элементы» матриц 2(Л) и 2(B) расположены в порядке убывания. Тогда ||Л — В||^||2(Л) — S(B)||, какова бы ни была унитарно инвариантная норма Ц-Ц на Мт,п.
Доказательство. Положим q = min ^m, п}. Используя теорему 7.3.7, сопоставим сингулярные числа матрицы Л
.а1(Л)>...>а,(Л)
с первыми q неположительными собственными значениями эрмитовой матрицы
~ ГО Д1
■^ д’ 0 _]^т+а1
Общий список из т + п собственных значений матрицы А, будучи упорядочен, выглядит так:
-а1(Л)<-а2(Л)<...<-а,(Л)<0= ...
... =0<а.(Д)<...<(71(Д);
аналогично выглядит список для В и А — В. Разностями упорядоченных собственных значений матриц А и В будут числа ± [o'! (Д) — О! (В)], . . ., ± [о9 (X) — Oq (В)] И НуЛЬ, ВЗЯТЫЙ | ГП — П | раз. Хотя неясно, как упорядочить эти числа в целом, q наименьшими среди них являются {— |ог(Д) — <тг (В) |}, г = 1, ...,q. Лемма 7.4.50, примененная к А, В и А— В, дает
кГ к
2 — а. (Д — В)< min ] 2 ~ I от (Д) — от (В) I: 1 < ix < . ..
"<1к<:ЧУ ^ = 1, .... q,
2 | crZ/ (Д) — а.ДВ) |: 1 ^ < ... < t^q2 | crZ/ (Д) — а.ДВ) |: 1 ^ < ... < t^qчто равносильно неравенствам к
2 | crZ/ (Д) — а.ДВ) |: 1 ^ < ... < t^q
2 | crZ/ (Д) — а.ДВ) |: 1 ^ < ... < t^q
X С/ (Д — В) max 1=1
к = 1, . .., q.
Поскольку {[аДД) — от(В)[} есть множество сингулярных чисел матрицы Х(Д) — 2(B), то следствие 7.4.47 обеспечивает неравенство ||Д — В||^||Х(Д)— 2(В)|| для любой унитарно инвариантной нормы || • ||. □
Пример. Одно из следствий теоремы 7.4.51 состоит в том, что можно обобщить задачу о наилучшем (в смысле наименьших квадратов, т. е. в смысле евклидовой нормы) приближении ранга к для заданной матрицы АеМ„. Эта задача рассмотрена в примере 7.4.1. Пусть || • |]—унитарно инвариантная норма; если В е Мп имеет ранг к, то oi (В) ^ ... "5= а к (В) > > 0 = afc+1(B)= ... = сгл(В). Следовательно,
||Д-В||>||2(Д)-Х(В)|| =
= Цdiag(сг!(Д) — от (В), ..., ст6(Д) —ст6(В), сгй+1(Д), . .., ст„(Д)) ||> >||diag(0, .... 0, сг*^, (Д), .... сгп(Д))||.'
Здесь использовано то обстоятельство, что унитарно инвариантная норма, рассматриваемая на множестве диагональных матриц, монотонна, будучи симметричной калибровочной функцией диагональных элементов. Далее, если А = ЕЕ (Л) И7* — сингулярное разложение матрицы А, то в последнем переходе достигается равенство в случае матрицы B=VEW*, где Е = = diag[tri(Л)оДЛ), 00].
Итак, для произвольной матрицы А е Мп и всякой матрицы В е Мп, имеющей ранг к, справедливы оценки'
IM-B||>||diag(0, ..,, О, оА+1(Л)о„(Л))||>
^=а„(Л)|| diag(O, .... 0, 1, .... 1)||
г(в последнем выражении диагональ содержит к нулей), какова бы ни была унитарно инвариантная норма. В первой оценке может достигаться равенство; для второй это, вообще говоря, не так. Вторая оценка тривиальна для вырожденной матрицы А и следует единственно из свойства монотонности симметричных калибровочных функций, если А невырожденна. Она имеет то достоинство, что в ее правой части сомножитель, зависящий от нормы, есть функция только от к, но не от А. Из наших оценок, в частности, вытекает, что для любой невырожденной матрицы А г Мп и любой унитарно инвариантной нормы || • || справедлива и достижима оценка
|| А - В || > вп (Л) || diag (00, 1) ||(7.4.53)
для расстояния от А до произвольной вырожденной матрицы В. Другими словами, минимальное (в смысле унитарно инвариантной нормы || -II) расстояние от А до замкнутого множества вырожденных матриц равно о„(Л) ||diag(O, .... 0, 1)||.
Пример. Опираясь на свойства симметричных калибровочных функций, можно дать простую характеризацию тех унитарно инвариантных норм на Мп, которые являются матричными нормами. Если ||-||—унитарно инвариантная матричная норма на Мп, то, как мы знаем из следствия 5.6.35, ||Л||^ оДЛ) для всех А е Мп. Используя теорему 5.6.9 и тот факт, что всякая унитарно инвариантная норма на Мп самосопряжена (см. задачу 2), мы можем доказать это и непосредственно. Действительно, |оДЛ)]2 = р(Л*Л)^||Л*Л||^||Л*|| ||Л|| = ||Л||2. С другой стороны, пусть ||'||—унитарно инвариантная норма на Мп, такая, что ||Лll^oi(Л) для всех АеМп, и пусть g— симметричная калибровочная функция на Сл, порождаемая нормой || • ||. Применяя указанные в задаче 18 из § 7.3 неравенства для сингулярных чисел, представляющие собой мультипликативный аналог обобщенных неравенств Вейля, а также учитывая моно-
тониость нормы g, получаем
IIДВII = g (о^ (ДВ), а2(ДВ), .... а^АВ)^
< g (а, (Д) а, (В), а, (Д) а2 (В), ..., а, (Д) а„ (В)) =
= а, (Д) g (а, (В), с2 (В), ..„с* (В)) = а, (Д) || В || < || А || Ц В Ц.
Итак, унитарно инвариантная норма || • || тогда и только тогда является матричной нормой, когда ||Д|| ^ Oi (Д) = ||Д||2 для всех АеМ,„ В частности, все А-иормы Фань Цзы (k = 1,2, ..., п) и все р-иормы Шаттеиа для р ^ 1 (порождаемые симметричными калибровочными функциями соответственно семейств (7.4.44) и (5.2.4)) суть матричные нормы. Еще одно следствие этой характеризации: множество унитарно инвариантных матричных норм на Мп выпукло. Множество всех матричных норм на Мп невыпукло (см. задачу 9 из § 5.6).
Задачи
Пусть ранг матрицы АеМт,п равен k > 0. Предположим, что нужно найти матрицу А\е.Мт>п меньшего ранга 7] >0, которая была бы иаилучшим приближением к Д в евклидовой норме. Показать, что эта задача может быть решена следующим образом. Пусть A = V5W* — сингулярное разложение матрицы А. Пусть Si совпадает с S в первых &i «диагональных» позициях; остальные п— 7ц «диагональных» позиций в Si нулевые. Тогда матрица А = ES1U7* имеет требуемые свойства. Указание. Использовать (7.4.15). Отметим, что, как следует из примера 7.4.52, полученное приближение будет «наилучшим» ие только для евклидовой, ио и для любой унитарно инвариантной нормы.
Норму Ц-H на Мп называют самосопряженной, если ||Д|| = = ||Д*Н для любой матрицы А е Мп. С помощью теоремы 7.4.24 показать, что всякая унитарно инвариантная норма на Мп самосопряжена. Привести пример самосопряженной нормы, ие являющейся унитарно инвариантной.
Опираясь иа теорему 7.4.10 и методы примера 7.4.6, определить наилучшее среднеквадратичное приближение заданной матрицы АеМт_п (считая т^п) скалярным кратным матрицы УеМт>п с ортонормированными строками. Указание. Показать, что матрица У представима в виде У = VDW, где V еМт и И7 еМп — унитарные матрицы, D = [/ j0] е Мт>п, I е Мт, 0eMmi„_m. Задача минимизации функции || Д — сУ ||Е сводится к минимизации || А ||Е — (Re tr AY’yjm. Пусть Д = И jSUZj — сингулярное разложение матрицы А. Показать, что последняя за-
дача минимизации требует определения числа
maxRe tr {2IFDV: IF G Мп и V еМт унитарны}.
Для решения этой задачи использовать теорему 7.4.10 по аналогии с примером 7.4.13. Показать, что для значения погрешности приближения в данном случае справедливо то же выражение, что в примере 7.4.6.
Рассматривая диагональные матрицы А, ВеМ„, показать, что в (7.4.11) возможны любые перестановки т.
Рассмотрим введенную в (7.4.7) функцию и (Л). Показать, что и (Л) ^ Vn II Л ||в для всех Л е Мп. Используя определение, доказать непосредственно, что и (Л)— векторная норма на Мп. Объяснить, почему в действительности и (Л) является даже матричной нормой на Мп. Указание. См. пример 7.4.54.
Пусть матрица Л е МП невырожденна и х(Л) = Е=ПЛ ||2,1 Л —11|2 — ее число обусловленности относительно спектральной нормы. Показать, что х(Л) равно отношению oi/on наибольшего и наименьшего сингулярных чисел. Сравнить с оценкой х(Л) |Xi/X„|.
Показать, что константа в неравенстве Канторовича (7.4.42) есть квадрат отношения среднего геометрического чисел Xi и Хп к их среднему арифметическому.
Пусть Л е Мп — невырожденная эрмитова матрица. С помощью неравенства Канторовича (7.4.40) показать, что
||Дх|| || Д~'х ||2а?+а„1 Г а1 , апЛ
)|х|||2aiO„2 \an 1/
Здесь Oi ^ ... ^ Стл — сингулярные числа матрицы А. Показать, что Hi и Оп суть наибольший и наименьший из модулей собственных значений матрицы А и что
где х — спектральное число обусловленности матрицы А. Указать вектор х, для которого достигается максимум. Исходя из определения спектрального числа обусловленности и его связи с определенным выше максимумом, объяснить, почему должно быть■
2 \. о„ щ / <тп
Дать прямое доказательство этого неравенства. Указание. Показать, что функция f(x) = x— [х + (1/х)]/2 возрастает при
Пусть М, Х2, •••, ^п— заданные положительные числа. С помощью неравенства Канторовича (7.4.42) доказать, что
( V п 7 V / (^max + Amin)
х J4Л1пахЛт1п ’
если числа «■, ..., ап неотрицательны и их сумма равна I,
Доказать следующее обобщение неравенства Канторовича (7.4.42) (Грэйб, Рейнболдт): пусть В, СеМп— коммутирующие положительно определенные матрицы с собственными значениями соответственно Ki ^ ... ^ Хп и pi ^ ... ^ рл. Тогда
(хВСхУ ^(х*В2х) (хСЧ)
(.Alp-i ^пРп)
для всех хе О. Указание. Для матриц S и С можно найти унитарную матрицу U е Мп, такую, что В = UMJ* и С = UMU*X^. Переписать доказываемое неравенство, вводя вначале вектор у = U*x, а затем вектор г = (ЛЛ1) х!1у. Далее, применяя теорему 7.4.41, показать, что требуемое неравенство выполняется (и достижимо) с константой вида
t^/ + ЧМ2
при некотором выборе индексов 1 ^ / Ф к ^ п. Показать, что наименьшая из таких констант соответствует выбору / = I, к = п. Это последнее неравенство2) может, однако, уже не быть достижимым.
Показать по контрасту с неравенством Канторовича (7.4.42), что для положительно определенной матрицы В е ЛД справедливо неравенство
(х‘Вх) (х*В~'х) ^51| х Ц^
при любом векторе хе С". Более общо, доказать, что при любых х, у е О-
(ЛМ (/B-^XxV.
если матрица В е Мп положительно определена. Для вектора х = В^у здесь достигается равенство. Сделать окончательный вывод о том, что для любого хе О одновременно выполняются неравенства
(х'х)2 < (х*Вх) (х^В^х) <(х*х)2.
’) Где A = diag(Ap ..., Лп), М = diag (р.^, ..., Ц<л). — Прим, перез.
Указание, С помощью неравенства Коши — Шварца показать, что
п 2 п_п 2 п_
п 2 п_
п 2 п_
если все X/ > 0, и использовать представление В = UKU*. '
Пусть В е Мп— положительно определенная матрица, а УеС"—произвольный ненулевой вектор. Определим функцию f(5, y) = min {-^^: х е Сп и х*у =& о}.
Показать, что функция f(B, у) определена корректно; используя задачу И, получить соотношение ЦВ, у) = \/(у*В~}у), Показать, что / обладает свойством супераддитивности
ЦА + В, y)>f(A, y) + f(B, у)
для любых положительно определенных матриц А, В е Мп и всякого ненулевого вектора у е С". Беря в качестве у i-й вектор естественного базиса, вывести неравенство Бергстрёма
det (Л + В)det А , det В . .
det (Ai + В;)det At + det Bt * I—H,
в котором A, В — произвольные положительно определенные матрицы, a Ai е Mn-i обозначает главную подматрицу, получаемую из А удалением i-й строки и i-ro столбца (аналогичный смысл имеет символ В^. Этот подход к доказательству неравенства Бергстрёма может служить примером применения очень полезной техники, называемой квазилинеаризацией: нелинейная функция интересующего нас аргумента представляется как экстремальное значение (при возможном наличии ограничений) другой функции, которая от того же аргумента зависит линейно (или, может быть, только аддитивно). В теореме 7.4.24 критический шаг (доказательство того, что квазинорма па Мт-п, определяемая симметричной калибровочной функцией от сингулярных чисел, в действительности является нормой) был выполнен посредством квазилипеаризации (см. (5.4.12)).
Если г — комплексное число, то для любого вещественного х выполняется неравенство |z—Rez|^|z— х|. Правдоподобное обобщение этого неравенства на квадратные матрицы /1 е Мп имеет вид
Ь-4(л + л*)|<ул-дц,
zII
где Н<=Мп— произвольная эрмитова матрица. Доказать, что такое обобщение действительно справедливо для всякой уни-
тарно инвариантной и даже, более общо, всякой самосопряженной нормы || • ||. Вывести отсюда, что расстояние (в смысле нормы ||-1[) от заданной матрицы А е Мп до замкнутого множества эрмитовых матриц из Мп равно (1/2) ||Л—Л*||. Указание. А— — (1/2) (А + Л*) = (1/2) (А — Н) + (1/2) (Н — Л»), поэтому ||Л — (1/2) (Л + Л*) ||^ (1/2)||Л —/7||+(1/2) Ц/7 —Л*||.
Для любого комплексного числа z выполняется неравенство |Rez|^|z|. Доказать, что его тривиальное обобщение || (Л-|-Л*)/2||:<^||Л || справедливо для всех А е М„ и всякой унитарно инвариантной (даже просто самосопряженной) нормы 11-11.
Пусть А — заданная матрица из Мп с упорядоченными сингулярными числами щ ^ ... ^ ап, и пусть Xi ^ ... ^ Хп суть упорядоченные собственные значения матрицы (1/2)(Л + Д-Л*). Объяснить, почему неравенства
^п-А+1 ("2 И + ^*1) ^ ^k И)> А = 1, ..., п,
можно интерпретировать как обобщение неравенства Rez^|z| для комплексных чисел. Обобщение утверждает: й-е по порядку сингулярное число матрицы А не меньше, чем А-е по порядку собственное значение матрицы (1/2) (Л + Л*). Указание. Если у— вектор единичной евклидовой длины, то
у У* (Л + Л’) у = Re у* Ay < || Ау ||>.
Представляя Хл-б+1 с помощью теоремы Куранта — Фишера, использовать данное неравенство, а также теорему 7.3.10, чтобы ПриЙТИ К Oft.
Пусть задана матрица А е Мп, и пусть ||-||— унитарно инвариантная норма на Мп. Посредством теоремы 7.4.51 показать, что ||Л — (/||^||2(Л)— /|| для всякой унитарной матрицы U g Мп и что это неравенство достижимо. Сделать отсюда Вывод о том, что ||2(Л)— /|| есть расстояние (в смысле нормы ||-1|) от Л до компактного множества унитарных матриц из М„.
Пусть Ле;И, имеет сингулярное разложение А = = У2(Л)1Г*, и пусть || • || — унитарно инвариантная норма на Мп. Показать, что для любой унитарной матрицы U G Мп справедливы неравенства
||2(Л)-/|К||Д-[/|К||2(Л) + /||.
Указание. Показать, что 2(П) = / в любом сингулярном разложении любой унитарной матрицы U; поэтому нижняя оценка сразу следует из теоремы 7.4.51. Что касается вывода верхней оценки, то нужно использовать неравенства для сингулярных чисел (аналоги аддитивных неравенств Вейля для собственных
значений) из задачи 16 § 7.3 для доказательства соотношений о,-+/_](Л +(—L/)) ^ а,(Л) + а/(—U). После этого применить (7.4.48).
Руководствуясь как образцом неравенством (7.4.53), где Л была невырожденна, найти достижимую нижнюю оценку для ||Л — ВЦ, считая АеМп заданной матрицей ранга А], В е Мп произвольной матрицей меньшего ранга к, а || • || унитарно инвариантной нормой.
Дополнительная литература
Впервые теорема 7.4.24 (для случая m = п) была доказана фон Нейманом; см. статью, цитированную в § 5.4. Изложение вопроса о неравенствах Виландта и Канторовича есть адаптация фрагмента из книги [Нои 64], где даны многочисленные ссылки на оригинальные работы. Обобщение этих неравенств и дополнительную библиографию можно найти в статье: Clausing A. Kantorovich-type Inequalities—Amer. Math. Monthly, 1982, v. 89, p. 314—320. Подход к доказательству неравенства Бергстрёма, продемонстрированный в задаче 12, заимствован из [ВВ]. В этой книге имеется большая глава (со многими литературными справками), посвященная неравенствам для положительно определенных матриц; приведено также обсуждение (с рядом примеров) метода квазилинеаризации. О неравенствах, справедливых для всех унитарно инвариантных норм, можно прочесть в работах: Mirsky L. Symmetric Gauge Functions and Unitarily Invariant Norms. — Quart. J. Math. Oxford, 1960, v. 11, N2, p. 50—59; Fan K-, Hoffman A. J. Some Metric Inequalities in the Space of Matrices. — Proc. Amer. Math. Soc., 1955, v. 6, p. Ill —116. Пример того, как эти результаты применяются в статистике, и указания на соответствующую статистическую литературу даны в работе: Rao С. R. Matrix Approximations and Reduction of Dimensionality in Multivariate Statistical Analysis.— Multivariate Analysis — V, Proceedings of the Fifth International Symposium on Multivariate Analysis, P. R. Krishnaiah, Amsterdam; North-Holland, 1980, p. 1—22. .
Теорема о произведении Шура
Особенно простым (и на первый взгляд наивным) способом композиции матриц является поэлементное умножение.
Определение. Пусть даны матрицы А = [пщ] е Мт, п, В — [b,j]^ Мт, п- Произведением Адамара (адамаровым произведением) матриц А и В называется матрица А о В = [апЬц] е ^ Мт, п< . .
Адамарово произведение часто называют еще произведением Шура. Подобно сложению матриц, адамарово умножение коммутативно, и оно значительно проще обычного правила матричного умножения.
Имеется несколько различных ситуаций, естественным образом приводящих к адамарову произведению. Пусть, например, f(6) и g(0)— непрерывные периодические функции с периодом 2л, и пусть
2л2л
ак = ^ elkef (0) dQ, Ьк = ^ elk6g (6) d0, к = 0, ± 1, ± 2 оо
Свертка
2л
h^\ f{Q-t)g(t)dtо
имеет тригонометрические моменты
2лск=\ eik6h(e)de,
о
для которых верны равенства ск = акЬк, к=0, ±1, ±2, .., , Поэтому тёплицева матрица тригонометрических моментов функции 6(0) есть адамарово произведение тёплицевых матриц тригонометрических моментов для /(6) и g'(O);
[с,-/] = [<?,-/] ° [6/-/].
Если обе функции /(0), ^(0) принимают только вещественные неотрицательные значения, то это же справедливо в отношении их свертки 6(0). Следовательно, как показано в (7.0.5), матрицы [a/-/], [6z-/l и [с*-/] положительно полуопределены. Это частное проявление теоремы о произведении Шура: адамарово произведение двух положительно полуопределенных матриц само положительно полуопределено.
В качестве еще одного примера рассмотрим интегральный оператор ь
К^Цк(х, уИШу,
ядро К(х, у) которого непрерывно на квадрате [a, b] X1», 6]; кроме того, feC[a,i], Если имеется второе ядро Н{х,у), то можно рассмотреть (поточечное) произведение L^x, у^ =
== К(х, у)Н(х, у) и связанный с ним интегральный оператор ьь
Uf)^L(x, y)f(y)dy=\K(x, у) Н (х, y)f(y)dy. аа
'Линейное отображение f-^Кф есть естественный предел матрично-векторных произведений (получаемых при аппроксимации интеграла конечными суммами Римана), поэтому многие свойства интегральных операторов могут быть получены надлежащим предельным переходом из результатов, известных для матриц. Поточечное произведение интегральных ядер приводит к интегральному оператору, который с этой точки зрения является естественным непрерывным аналогом адамарова произведения матриц.
Если для интегрального ядра /((х, у) при всех / е С [а, 6], верно неравенство
ь ь
^/<(х, yWVU^dxdy^, а а
то К(х, у) называют положительно полуопределенным ядром. Согласно классической теореме Мерсера, для положительно по- луопределенного ядра /((х, у), непрерывного на квадрате [a, b] X М, &L найдутся положительные числа {XJ (называемые собственными значениями') и непрерывные функции {(рДх)} (называемые собственными функциями), такие, что
причем ряд сходится абсолютно и равномерно на [а, 6]Х[о, 6].
Если оба ядра К(х,у) и Н(х, у) непрерывны и положительно полуопределены на одном и том же квадрате [а, 6]Х[Щ 6], то РЦх,у) также имеет представление ‘
Щх, у)='£^М1М)i=I‘
абсолютно и равномерно сходящееся на [а,6]Х[«,Ь], причем все щ > 0. Прямое перемножение соответствующих рядов приводит к представлению на [а,6]Х[а,Ь] (поточечного) произведения ядер L (х, у)= К (х, у) Н (х, у):
V
°° Ф< (х) Ф/ (х) Ф, (у) Ф/ (у)
<-7—1
оно снова сходится абсолютно и равномерно. Тогда
ь ьь ььь22^L (x, y)f(x)f(y)dxdy = £ л^Г ^^i^^i^H W dx >0, a ai, J—X 1 1 а^L (x, y)f(x)f(y)dxdy = £ л^Г ^^i^^i^H W dx >0, a ai, J—X 1 1 аа аа а
ь ь
ь ь
ь
ь
2
2
^L (x, y)f(x)f(y)dxdy = £ л^Г ^^i^^i^H W dx >0, a ai, J—X 1 1 а
^L (x, y)f(x)f(y)dxdy = £ л^Г ^^i^^i^H W dx >0, a ai, J—X 1 1 а
а а
а а
т. е. L(x, у) также положительно полуопределено. Это опять- таки проявление теоремы о произведении Шура.
"Упражнение. Показать, что адамарово произведение эрмитовых матриц А и В всегда эрмитово, в то время как обычное произведение эрмитовых матриц будет эрмитовым тогда и только тогда, когда сомножители коммутируют.
Упражнение. Проверить, что матрицы ^ = [^j], 5 = [2з] и их адамарово произведение А°В положительно определены, тогда как обычное произведение АВ не будет положительно по- луопределенной матрицей. Показать, что, тем не менее, собственные значения матрицы АВ положительны.
Основной причиной введения адамарова произведения является для нас то обстоятельство, что оно (в отличие от обычного способа перемножения матриц) оставляет инвариантным конус положительно полуопределенных матриц и дает еще один пример аналогии между положительно полуопределенными матрицами и неотрицательными числами.
Нам потребуется в дальнейшем следующее замечание, имеющее и самостоятельное значение.
Всякая матрица А может быть представлена в виде суммы матриц ранга 1 с числом слагаемых, равным рангу А. В случае положительно полуопределенной матрицы А все слагаемые тоже можно выбрать положительно полуопределенными.
Теорема. Положительно полуопределенная матрица А е Afn, имеющая ранг к, может быть записана в виде
А = У1о;-^и2и*-^ -^vfcv*fe.
где {щ, ..., щ}—ортогональная система ненулевых векторов из С".
Доказательство. Пользуясь спектральной теоремой, представим А в виде А = ПАП*, а затем возьмем в качестве щ умноженный на Я/2 t-й столбец матрицы [/. □
Основной результат данного параграфа часто называют тео- ремей о произведении Шура.
Теорема. Если А, ВеМ,— положительно полуопре- деленные матрицы, то матрица А ° В также положительно полу-
определена. Если А и В положительно определены, то положительно определена и матрица А ° В.
Доказательство. Опираясь на теорему 7.5.2, представим А и 5 в виде А = Vjvj + ■ ■ • + у^у^, В = ш^* + • • • + wmyu*rn‘, здесь k = rank A, m = rank В. Заметим, что
A, m
А°В= ^и.^,
где иц = и, ° Wj. Таким образом, будучи суммой положительно полуопределенных матриц (ранга 1), матрица А=В сама будет положительно полуопр ед елейной.
Если А и В положительно определены, то к = пг = п, и системы {yj, {tyj суть ортогональные базисы пространства С". Из предположения о вырожденности матрицы А ° В следовало бы, что существует ненулевой вектор х, для которого (Л °В)х = = 0. Тогда.
к' mk, m
х* (Л = В) х = ^ X* (и^ х = t X 11 x*ut! |2 = 0.
Каждое слагаемое суммы должно обращаться в нуль; поэтому
| X*UU |2 = | V (Ui ° Шу) |2 = | (х ой;У wf |2 = 0
для всех i и j. Это означает, что для каждого I вектор х ° vt ортогонален ко всем векторам zyb w2, ..., wn; следовательно, х о и, = 0, z = l,2, ..., п. Но отсюда вытекает, чтоо,х = 0для всех i = l, ..., п. Таким образом, х ортогоналей ко всем векторам базиса, а потому х=0. Это противоречие доказывает, что матрица А о В невырожденна. □
Упражнение. Пусть А, В — положительно полуопределенпые матрицы из Мп. Используя прием из теоремы 7.5.3, обосновать неравенство гапк(Л = В) ^ (rank А) (rank В). В частности, показать, что в случае (rank Л) (rank В) С п матрица А=В должна быть вырожденной.
Упражнение. Показать, что утверждения предыдущего упражнения верны и тогда, когда матрицы Л и S эрмитовы, но не обязательно положительно полуопределеиы ■).
Упражнение. Рассматривая матрицы Л = [д°], В = [д°], убедиться, что ранг матрицы А =В может быть равен нулю, хотя обе матрицы А, В имеют положительный ранг.
') Очевидно, что не нужна и эрмитовость матриц А, В. — Прим, перее.
Упражнение. Показать, что если А положительно определена, а В отрицательно определена, то А = В отрицательно определена.■.
Следствие (теорема Фейера). Пусть А = [a,,] s Мп. Для положительной полуопределенности матрицы А необходимо и достаточно, чтобы
хаИЬИ>0,
какова бы ни была положительно полуопределенная матрица В = [&,7] е М„.
Доказательство. Пусть матрицы А и В положительно полу- определены. Возьмем в качестве х вектор из С", все компоненты которого равны 1. Выписанная в формулировке теоремы сумма есть х*(Д°В)х для этого специального выбора вектора х. Так как матрица А°В положительно полуопределена, то сумма неотрицательна. Пусть, обратно, ^ацЬц^О для любой положительно полуопределенной матрицы В. Каждому вектору № С" сопоставим матрицу В = [^z/] = [х;х/1. Поскольку В положительно полуопределена, то
Z ачЬц = £ аиХ^^ х* Ах"^0.
i-XI, /-1
Вследствие произвольности вектора № Сп делаем вывод о положительной полуопределенности матрицы А. □
Приложение. Пусть D cz R”—открытое ограниченное множество. Линейный дифференциальный оператор L второго порядка, задаваемый на C2(D) формулой
пп
Lu = 2 аИ ^ "дх"^' + 5 bi ^ "1Т + с ^ и’ (7-516) I, j-i11i=\‘
называется эллиптическим в D, если матрица Д (х) = [ац(х)]| положительно определена для всех х г D. Предположим, что существует функция иеСЧд), непрерывная на замыкании D и удовлетворяющая в D уравнению Lu = 0. Что можно сказать о локальных максимумах или минимумах функции и, достигаемых в точках области D? Пусть yeD есть точка локального минимума функции и. Тогда-
ди
dxt
для t=l, 2, ..., п и гессиан
положительно определен в точке у. Следовательно, в этой точке
Е
д^и .
йи л5Г CU
ч ОХ. ОХ, 1
i = x
и по теореме Фейера 7.5.4 сумма членов со вторыми производными должна быть неотрицательна. Поэтому слагаемое с (у) и (у) обязано быть неположительно. В частности, если с(у)<0, то неравенство u(z/)<0 невозможно. Аналогичное рассуждение показывает, что при с(г/)<0 значение и (у) во внутренней точке локального максимума не может быть положительным. Эти простые замечания составляют суть следующего важного принципа.
Слабый принцип минимума. Пусть оператор L, задаваемый формулой (7.5.6), эллиптичен в области D, и пусть с(х)< 0 в D. Если функция и е C2(D) удовлетворяет в D уравнению Lu = 0, то и не может иметь ни отрицательного внутреннего локального минимума, пи положительного внутреннего локального максимума. Если, вдобавок, функция и непрерывна на замыкании области D н неотрицательна на ее границе, то и должна быть неотрицательной всюду в D.
Из принципа минимума вытекает одна из фундаментальных теорем единственности для уравнений с частными производными:
Теорема единственности (Фейер). Предположим, что оператор L, задаваемый формулой (7.5.6), эллиптический, и пусть с(х) < О в области D. Рассмотрим следующую краевую задачу.
Lu = f в D, где f— заданная функция;
и = g на dD, где g— заданная функция;
и дважды непрерывно дифференцируема в D;
и непрерывна на замыкании области D.
Тогда имеется не более одного решения этой задачи. -
Доказательство. Если щ н н2— два решения данной задачи, то функция и = и\ — ы2 есть решение задачи того же типа, но с нулевыми краевыми условиями, и Lv = 0 в D. Согласно слабому принципу минимума, и должна быть неотрицательна в D. Применяя аналогичное рассуждение к функции —и, установим, что и в то же время должна быть неположительной в D. Следовательно, v = 0 в D.
18 Р» Хорн, Ч. Джонсон
Упражнение. Продемонстрировать применение слабого принципа минимума и теоремы единственности 7.5.8 на примере уравнения с частными производными ^и — Хи = 0, где X— положительный параметр, DcR".
Приведем в заключение еще одно легко доказываемое следствие теоремы о произведении Шура. Если А=[ац)еМл— положительно полуопределенная матрица, то матрица Д°Л = [а?/] также положительно полуопределена. По индукции можно показать, что положительно полуопределены все натуральные ада- маровы степени [а^], ^=1, 2, ... . Поскольку любая неотрицательная линейная комбинация положительно полуопределенных матриц сама положительно полуопределена (см. утверждение 7.1.3), то матрица
m раз .Г
CIqI -J- СЦ /4 -J- а2А ° A(lmA ° • • • ° A
= W'/ + “^a + a#M + ... + а^Д = [p (a.,)]
положительно полуопределена, если все az ^ 0; здесь р^ = = «о + «1х+ ... + атхт— многочлен с неотрицательными коэффициентами. Более общо, если в разложении аналитической функции f(2) в степенной ряд
f (z) = S а/
к-0
с радиусом сходимости R > 0 все коэффициенты ah неотрицательны, то простым рассуждением, основанным на предельном переходе, устанавливается положительная полуопределенность матрицы [f (a,/) ] е Мп в случае, когда все ац по модулю меньше R. Вероятно, простейшим примером является функция /(г) = е2: представляющий ее степенной ряд сходится для всех 2 g С и все коэффициенты а^ = \/к\ положительны. Согласно доказанному, матрица [е“б] положительно полуопределена, если положительно полуопределена матрица А = \ац^ е Мп. Этот результат можно усилить; существуют более слабые условия на А, обеспечивающие положительную полуопределенность поэлементной экспоненты от А (см. [HJ]).
Следствие. Пусть матрица А = [н,/] е Мп положительно полуопределена. Тогда
матрица [a£J положительно полуопределена для всех к=\Л, ..,
если функция f (2) = а0 + арг + a^z2 + ... аналитична в круге (г] <7? и все коэффициенты разложения неотрицательны, то матрица [/(а;/)] положительно полуопределена, если jai/l<R для всех I, [,
Задачи
■ 1. Показать, что если матрицы Н(А) (эрмитова часть матрицы А) и S положительно определены, то положительно определена и матрица Н(А ° В).
Пусть A=[aifleMn — положительно полуопределенная матрица. Показать, что матрица [|йц|2] также положительно полуопределена. Указание. Рассмотреть произведение А ° А.
Пусть А = [а,,-] е Мп — положительно полуопределенная матрица. Показать, что матрица [efi 4'^7j положительно полуопределена для любого X е R.
Если матрица А = [ац] е Мп положительно полуопределена, то все натуральные адамаровы степени AW и адамарова матрица квадратов абсолютных величин А°Д также положительно полуопределены. А что можно сказать об адамаровой матрице абсолютных величин | А | = [ | ац | ] ?
Пусть матрица АеМп положительно определена. Пользуясь детерминантным критерием (теорема 7.2.5), дать для п = = 1, 2, 3 прямое доказательство положительной определенности матрицы |А|. Доказать при тех же п аналогичное утверждение для положительно полуопределенной матрицы А, используя предельный переход.
Используя то обстоятельство, что функция f(x) = cosx положительно определена *) (пли же представляя cos х в виде cos х = ^eix + e~ix)l<2 и вычисляя квадратичную форму явным образом), показать, что матрица A=[cos(x,— х,)] положительно полуопределена для любого выбора точек хь х2, ... ..., хп е R и для всех п = 1, 2, ... .
Пусть п = 4; положим Xi = 0, х2 = л/4, х3 = л/2, x^ = = Зл/4. Вычислить для этого случая указанную в (Ь) матрицу А (обязательно положительно полуопределенную) в явном виде. Обратить внимание, что она будет тёплицевой матрицей. Вычислить |А | и det|A |; показать, что матрица |А| не может быть положительно полуопределенной.
Для матрицы |А | из задачи 4 проверить, что матрица В = |А|°|А| дает пример положительно полуопределенной матрицы, неотрицательный «адамаров квадратный корень» которой незнакоопределен. Сопоставить это с ситуацией для обычного квадратного корня В|/2.
Рассмотреть следующую матрицу A'eMi".
"10 3-2 1"
3 10 0 9
—2 0 10 4 ’
_ 1 9 4 10_
. ’) Определение см. в задаче 8 из § 7,1.— Прим, перев.
Показать, что Л положительно полуопределена, но это неверно в отношении матрицы |Л|.
Пусть /((х, у)— интегральное ядро, непрерывное на квадрате [а, 6] X [я, 6]. Показать, что для положительной полуопределенности ядра Ккх,у) необходимо и достаточно, чтобы матрица [/((х,, ху) ] е Мп была положительно полуопределениой при любом выборе точек {хг}"=1 с [а, 6] и всех п — 1, 2, ... . Указание. В доказательстве достаточности матричного условия использовать приближения интеграла римановыми суммами:
b bп
\\Kkx, уМ W f (у) dxdy^ £ К (хг, х}) f (х^ f kx^ ^xi ЬХ].
a ai, j=l
В доказательстве необходимости матричного условия рассмотреть функцию
/ (*) = £ «Д kx — X;),'
г=1
где 6е(х)—«приближенная дельта-функция», т. е. б8(х) непрерывна и неотрицательна, тождественно равна нулю вне промежутка [—6, е] и удовлетворяет требованию
de (х) dx = 1.
Исследовать ситуацию при е->0.
Используя задачу 7 и теорему о произведении Шура, показать, что (поточечное) произведение положительно полуопре- деленных интегральных ядер само положительно полуопреде- лепо. Этот способ доказательства сравнительно элементарен и не требует применения теоремы Мерсера из теории интегральных уравнений.
Показать, что для положительной определенности функции феС(К) (см. определение в задаче 8 из § 7.1) необходимо и достаточно, чтобы интегральное ядро Ккх, У^= ф(х— у\ было положительно полуопределено.
Показать, что произведение Ф1(х)фг(х)' положительно определенных функций ф[(х), фг(х) будет положительно определенной функцией.
Объяснить, почему функции
. т
Л!77£ = 2Г S e“^* Т>0*
-т'
е-^ = —( е~№еих dt;
2 у л J
е-1^1 = — \ dt
' 'Л J 1 + г
и всевозможные их попарные произведения положительно определены.
Используя результат задачи 11(c), дать другое доказательство положительной определенности матрицы из задачи 12 § 7.2.
Показать, что для положительно полуопределенной матрицы А = [а,/] е Мп матрица [az//(t + /)] также положительно полуопределеиа. Указание. Использовать задачу 17 § 7.1.
Пусть А е М„— положительно полуопределенная матрица. Показать, что для вектора х е С" равенство х*Лх = 0 равносильно тому, что Ах = 0. Привести пример незнакоопреде- ленион эрмитовой матрицы А н вектора х, таких, что х*Лх = 0, но АхфО. Указание. Если привлечь спектральное разложение матрицы A: A = UMJ*, то равенство х*Ах = 0 переходит в £ XzI 2; I2 = о, где 2 = Wx.
Выпуклым конусом, (с вершиной в точке 0) называется выпуклое множество S, содержащее вместе с каждым х е S весь луч {Хх: Х^О}. Луч {Хх: X ^ 0} называется крайним, если представление х = ау + (1 — а) 2, где 0 < а < 1 и у, z е S, возможно лишь для у и 2, лежащих на том же луче; другим!! словам!!, луч выпуклого конуса является крайним, если при его удалении оставшийся конус сохраняет выпуклость. Показать, что в выпуклом конусе положительно полуопределенных матриц из Мп луч {ХЛ: X ^ 0} тогда н только тогда является крайним лучом, когда матрица А имеет ранг 1. Теперь теорему 7.5.2 можно переформулировать так: всякая положительно полуопределенная матрица есть выпуклая комбинация матриц, лежащих на крайних лучах. Указание, (а) Пусть х— ненулевой вектор из Сп, и пусть хх* = аЛ + (1 — а) В для некоторого числа s e(0J) и положительно полуопределенных матриц А, ВеМ., Пусть {xj, ..., хп}сС" — ортонормированный базис, в котором x*xk = 0 для к = 2, ..., п. Тогда 0 = х*ьЛхь = х\Вхь, т. е., согласно задаче 14, каждый вектор Xk, к = 2, ..., п, принадлежит и ядру матрицы А, и ядру матрицы В. Вывести отсюда, что обе матрицы А, В имеют ранг 1 и являются положительными кратными матрицы хх*. (Ь) Если А е М„ — положительно полуопределенная матрица ранга к ^ 2, то, пользуясь теоремой 7.5.2,
представить ее в виде А — В + С, где В = си*, и ^0, rank С ^ 1 и Си = 0. Сделать отсюда вывод о том, что С не кратна В и, следовательно, А не принадлежит крайнему лучу.
Конгруэнтность: произведения и одновременная диагонализация
. В отличие от умножения положительных чисел обычное матричное умножение не всегда сохраняет положительную определенность. Произведение двух эрмитовых матриц может даже не быть эрмитовым (эрмитовость сохраняется тогда и только тогда, когда сомножители коммутируют), и квадратичная форма, порождаемая произведением, может не быть неотрицательной. В данном параграфе главный упор сделан на положительно определенные матрицы; более общие результаты об эрмитовых матрицах указаны в § 4.5.
Пример. Матрицы А = _9 ~i], B = [i } ] положительно определены. Однако АВ = _з_1], Д(ДВ) = [о _“], так что матрица АВ несимметрична, и ее эрмитова часть незнако- определена.
И все же по меньшей мере одно свойство положительности сохраняется обычным произведением положительно определенных матриц. Следующее обсуждение продемонстрирует некоторые полезные приемы работы с произведениями и суммами матриц.
Определение (повторное). Матрицы А, ВеМп называются эрмитово конгруэнтными, если В = С*АС для некоторой невырожденной матрицы С е Мп.
Заметим, что, как и подобие, эрмитова конгруэнтность является отношением эквивалентности. Чтобы отличать ее от вещественной конгруэнтности, иногда в комплексном случае используют термин «конъюнктивность».
Теорема. Произведение положительно определенной матрицы А е Мп и эрмитовой матрицы В е Мп есть диагонали- зуемая матрица, все собственные значения которой вещественны. Матрица АВ имеет такое же число положительных, отрицательных и нулевых собственных значений, как и матрица В. Обратно, всякая диагонализуемая матрица с вещественными собственными значениями может быть представлена в виде произведения положительно определенной и эрмитовой матриц.
Доказательство. Для первого утверждения теоремы воспользуемся равенством Д-^ДВД1/2 = ДЧ^йД'/2; матрица в правой .части подобна матрице АВ и, следовательно, имеет те же соб-
ственные значения. Поскольку Д1/2— эрмитова матрица, то матрицы Л1/2ВД1/2 и В эрмитово конгруэнтны. Согласно закону ннерцин (закону Сильвестра 4.5.8), собственные значения матрицы В имеют те же знаки, что и собственные значения матрицы А1/2ВА1/2, т. е. собственные значения матрицы АВ. Кроме того, матрица А1/2ВА1/2 эрмитова, а потому диагонализуема, но тогда н АВ должна быть днагонализуемон. Переходя к последнему утверждению, предположим, что матрица С G М„ диаго- налнзуема и имеет только вещественные собственные значения: С = SDS-1, где D — вещественная диагональная матрица. Тогда С = S (S*S*-1)DS~1 =(SS*) (S-^DS-1) = АВ; здесь матрица А = SS* положительно определена, а матрица В = S-^DS-1 эрмитова. □
Одновременная днагоналнзуемость двух наугад выбранных матриц посредством преобразования подобия — редкое событие, требующее для своей реализации сильного свойства коммутативности. Но для диагонализуемости двух эрмитовых матриц одним и тем же преобразованием эрмитовой конгруэнтности нужно гораздо меньше. Одновременная диагонализуемость посредством преобразования эрмитовой конгруэнтности соответствует преобразованию двух эрмитовых квадратичных форм в линейную комбинацию квадратов посредством одной н той же линейной замены переменных. Приведем классический результат на эту тему; относительно его обобщения см. теорему 4.5.15.
Теорема. Пусть А, ВгМп — эрмитовы матрицы, и пусть существует их вещественная линейная комбинация, являющаяся положительно определенной матрицей. Тогда найдется невырожденная матрица СеМп, такая, что обе матрицы С*АС и С*ВС диагональны.
Доказательство. Предположим, что матрица Р = аА + рВ положительно определена для некоторых а, рЕ R. Хотя бы одно нз чисел а, р должно быть ненулевым; предположим, например, что р=#0. Так как в этом случае В = р-|(Р— ссЛ), то, доказав одновременную диагонализуемость посредством преобразования эрмитовой конгруэнтности матриц Л н В, мы установим тем самым одновременную днагоналнзуемость А н В. Согласно теореме 7.2.7, Р эрмитово конгруэнтна единичной матрице, т. е. С\РСх — 1 для некоторой невырожденной матрицы Ci е Мп. Поскольку матрица С'АС, эрмитова, найдется унитарная матрица U, такая, что U,C*AC1U = D— диагональная матрица. Полагая С = C\U, получаем C*PC — I, С*АС = D; следовательно, С*ВС = ^-Щ — аО)— также диагональная матрица. □
Чаще всего этот результат применяется в классической (идущей из механики) ситуации, когда заданы две вещественные симметричные квадратичные формы, одна из которых положительно определена.
Следствие. Если матрица A е М„ положительно определена, а матрица В е М„ эрмитова, то найдется невырожденная матрица СгМп, такая, что С*ВС — диагональная матрица, а С*АС — единичная.
Упражнение. Найти замену переменных, превращающую обе квадратичные формы 5х2 — 2ху + у2 и х2 + ^ху— у2 во взвешенные суммы квадратов.
Аналогичный результат имеется для пары матриц, одна из которых положительно определена, а другая — комплексная симметричная. Этот результат также обобщается в теореме 4.5.15.
Теорема. Если матрица А ^ Мп положительно определена, а Be Мп — комплексная симметричная матрица, то найдется невырожденная матрица С, такая, что обе матрицы С*АС и СТВС диагональны.
Доказательство. Выберем невырожденную матрицу Ct е Ма так, чтобы CjACj = I. Матрица С1, ВС, симметрична, и из разложения Такаги (4.4.4) следует существование унитарной матрицы U, для которой матрица UT (С}ВС,) U = D будет диагональной. В то же время U* (С, АС,) О = Г, поэтому можно положить с = с^и. □
Этот результат имеет приложения в теории функций комплексного переменного; так, неравенства Грунского для однолистных функций суть соотношения между квадратичными формами, порождаемыми соответственно положительно определенной эрмитовой матрицей и комплексной симметричной матрицей.
Следующее утверждение непосредственно вытекает из следствия 7.6.5.
Теорема. Функция f (А) = log det А, рассматриваемая на выпуклом множестве положительно определенных эрмитовых матриц из Мп, строго вогнута.
Доказательство. Для любых двух заданных положительно определенных матриц А, Be Мп нужно проверить справедливость неравенства
f (аА + (1 - а) В) > а/ (А) + (1 - а) f (В)(7.6.8)
при всех «е(0, 1); при этом равенство должно достигаться ' только в случае А = В. Опираясь на следствие 7.6.5, найдем
невырожденную матрицу СеАТ, такую, что А = CIO, В = — САС* и A = diag(Xb ..., Хя), причем все X,-> 0. Теперь
/ («А + (1 - а) В) = f (С [а/ + (1 - а) Л] С*) =
= /(СС') + /(а/+(1-а)Л) = /(Д) + /(а/ + (1 - а) Л), а/ (А) + (1 — а) / (В) = af (А) + (1 - а) f (САС') =
= а/(А)-Н1 -аНЖП + НЛ)]-
= а/ (A) J- (1 - а) / (А) + (1 - а) / (Л) =
'= /(А) + (1 -аШЛ).
Таким образом, достаточно показать, что для любой диагональной матрицы Л с положительными диагональными элементами и для всех а е (0, 1) справедливо неравенство / (а/ + (1 — а)Л) ^ 7>(1—а)/(Л). Но это легко следует из строгой вогнутости самой логарифмической функции:.
(а/ + (1 — а)Л)= logll [а + (1 — а) AJ =
1=1
= £ log [а + (1 — а) ?J>/=1
> ^ [аlog 1 + (1 — а) lDg AJ = i = l
= (1 — а) X log Лг = (1 — a) log П Xt =
_= (1 — a) log det Л — (1 — а)/(Л)..
Равенство в среднем переходе достигается тогда и только тогда, когда все Xi равны 1, т. е. только для Л =/, что соответствует В = С1С*=А. □•
Теорема 7.6.7 часто используется в другой форме, получаемой потенцированием неравенства (7.6.8). В этой форме она дает количественное выражение того факта, что выпуклая комбинация положительно определенных матриц сама положительно определена и, следовательно, должна быть невырожденной.
Следствие. Пусть матрицы А, В е Мп положительно определены, и пусть 0 <; a < 1. Тогда
det [aA + (1 - а) В] > [det А]а [det В]1 -а.
Равенство достигается в том и только в том случае, если А = В.
Задачи
Пусть матрица А е Мп удовлетворяет соотношению А* = S-^AS, где матрица S е Мп положительно определена. Показать, что А диагонализуема и все ее собственные значения вещественны. Указание. Рассмотреть равенство XS = ЗЛ*. Показать, что ЛЗ — эрмитова матрица, и применить теорему 7.6.3.
Показать, что на множестве положительно определенных матриц функция f(X) = trX-1 строго выпукла. Указание. См. доказательство теоремы 7.6.7.
Какую форму примет обобщение теоремы 7.6.3 на случай положительно подг/определенной матрицы А е Мп? Показать, что собственные значения матрицы АВ все еще являются вещественными и положительных (отрицательных) среди них не больше, чем у В. Однако число нулевых собственных значений матрицы АВ может возрасти по сравнению с В.
Можно ли обобщить теорему 7.6.3 на случай неэрмитовой матрицы Be ЛК?
Показать на примере, что две эрмитовы матрицы могут быть одновременно диагонализованы преобразованием конгруэнтности, хотя условия теоремы 7.6.4 нарушены.
Пусть А, 5 —эрмитовы матрицы из Мг. Что можно сказать о знаках вещественных частей собственных значений матрицы АВ, если известны знаки собственных значений матриц А и В? Обобщаются ли полученные результаты на матрицы из ЛК?
Пусть А, В е Мп — эрмитовы матрицы и А положительно определена. Используя следствие 7.6.5, показать, что для положительной определенности матрицы А + В необходимо и достаточно, чтобы каждое собственное значение матрицы А-1В было больше, чем —1. Указание. А + В = А (7 + А-1 В).
Представим эрмитову матрицу Н е МП в виде Н = А + iB, где А, В еЛК(И). Проверить, что А симметричная, а 5 — кососимметричная матрицы; таким образом, собственные значения матрицы В чисто мнимые и расположены сопряженными парами. Показать, что для положительной определенности матрицы Н необходимо и достаточно, чтобы А была положительно определена и каждое собственное значение матрицы iA-1B превосходило — 1. ^Указание. Использовать то, что х*Нх = х*Ах для всех xgR”; применить результат задачи 7. В случае положительно определенной матрицы А показать, что если X — собственное значение матрицы 1А-1В, то —X— также собственное значение. Вывести отсюда, что положительная определенность матрицы Н равносильна тому, что А положительно определена и все собственные значения матрицы 1А-1В находятся в интервале (—1,1), причем расположены парами {—X, X}.) Затем вывести неравенства 0 5^ det Л-1В < 1 и как следствие det В <
-<detA (Робертсон). Пользуясь представлением Н = А + 1В = = А (/ + iA-1 В) и его следствием det Н = det A det(/ + iA-'B), показать, что для положительно определенной матрицы Н выполняются неравенства 0 < det(/ + iA-'B) ^ 1. Сделать отсюда вывод о справедливости неравенства det//^ det А (Таусски). В теореме 7.8.7 и задаче 7 § 7.8 дан вариант этих неравенств, справедливый для любых комплексных матриц НеМп.
В теореме 4.1.7 было установлено, что матрица А г М„ тогда и только тогда представима в виде произведения двух эрмитовых матриц, когда она подобна вещественной матрице. Пользуясь теоремой 7.6.3, показать, что матрица А а Мп тогда и только тогда является произведением двух положительно определенных эрмитовых матриц, когда она диагонализуема и имеет только положительные собственные значения. Указание. В доказательстве достаточности условия использовать равенства А = SAS-1 = 55 (S-'^AS-1.
Если матрицы А, Be Мп положительно определены, то, как мы знаем, для положительной определенности матрицы АВ необходимо и достаточно, чтобы она была эрмитовой. Показать, что это же верно для произведений трех положительно определенных матриц, т. е. для положительной определенности произведения 8 = АвС положительно определенных матриц А, В, Се Мп необходимо и достаточно, чтобы 5 была эрмитовой матрицей. Указание. Представить 5 в 'виде 5 = (АВ) С = ЕС; согласно задаче 9, все п собственных значений матрицы Е положительны. Из теоремы 7.6.3 вывести, что в случае, когда матрица 5 эрмитова, число положительных собственных значений у 5 и у Е = 5С-1 одинаково.
Заполнить пробелы в следующем эскизе другого доказательства утверждения задачи 10. Пусть 5(a) s[(l— a)C + + aA]BC, O^a^l. Если матрица 5 = 5(1) эрмитова, то и все матрицы 5(a) эрмитовы, поскольку эрмитовость матрицы 5(0) = СВС очевидна. Из невырожденности матриц (1—а)С + '+а А вывести невырожденность матрицы 5(a). Собственные значения последней непрерывно зависят от а; при а = 0 все они положительны, и ни одно не может обращаться в нуль1) вследствие того, что 5(a) невырожденна. Сделать отсюда вывод о положительности всех собственных значений матрицы 5(1).
Дополнительная литература
Другие результаты о произведениях матриц из различных классов положительности и ссылки на более ранние результаты, относящиеся к произведениям нескольких положительно опре
деленных матриц, можно найти в статье: Ballantine С. S., Johnson С. R. Accretive Matrix Products. — Lin. Multilin. Alg., 1975, v. 3, p. 169—185.
Упорядочение, индуцированное положительной полуопределенностью
Эрмитовы матрицы суть обобщения вещественных чисел, а положительно определенные матрицы — обобщения положительных чисел. Естественно задаться вопросом, имеется ли удовлетворительное понятие неравенства или (частичного) порядка для эрмитовых матриц.
Определение. Пусть А, ВеМп — эрмитовы матрицы. Будем писать А >= В, если матрица А—В положительно полу- определепа. Точно так же запись А )> В означает, что матрица А— В положительно определена.
Упражнение. Показать, что введенное понятие неравенства согласовано с определением равенства между матрицами. Другими словами, показать, что из А > В ц В^-А следует, что А = В.
Упражнение. Показать, что отношение X транзитивно и рефлексивно, но не является линейным порядком, т. е. существуют эрмитовы матрицы А, В ед Мп, такие, что не выполняется ни А >= В, ни В ^ А. Такой порядок называют частичным.
Частичный порядок на вещественном линейном пространстве часто задают, указывая конкретный замкнутый выпуклый конус: один элемент считается большим или равным другому, если их разность принадлежит этому конусу. В данном случае вещественным линейным пространством является множество эрмитовых и X «-матриц, а замкнутым выпуклым конусом — множество положительно полуопределенных матриц. Понятно, что это обобщает знакомую ситуацию, когда в роли вещественного пространства выступает R, а замкнутый выпуклый конус образован неотрицательными числами. В случае. R мы получаем «обычный» порядок (причем линейный, а не только частичный).
Аналогичным образом можно ввести другие определения «неравенства» между матрицами (наиболее важное из них — поэлементное доминирование для вещественных матриц): указывают конус матриц, обобщающий множество неотрицательных чисел, и говорят, что матрица А «больше или равна» матрице В, если разность А— В принадлежит этому конусу. Вообще говоря, контекст может подсказывать различные определения «не- . равенства»; полезность конкретного определения зависит от того, как далеко можно распространить аналогию с веществен-
ными числами н насколько учитываются другие относящиеся к делу неравенства (например, между собственными значениями, определителями и т. д.).
Обратим внимание, что положительная (полу)определенность матрицы А эквивалентна неравенству А "> О (Л ^= 0); здесь 0 — нулевая матрица того же порядка, что и А.
Упражнение. Подтвердить примером, что частичное упорядочение, индуцированное положительной полуопределепностью, отличается от линейного упорядочения вещественных чисел в следующем отношении: если Л>5 и Л не равна В, то это не значит, что А^ В.
Теперь мы продемонстрируем некоторые свойства упорядочения, индуцированного положительной полуопределенностью; каждое нз них можно рассматривать как обобщение соответствующего свойства обычного упорядочения вещественных чисел. Сходство между этими упорядочениями, вообще говоря, довольно сильное.
Утверждение. Пусть А, В е Мп — эрмитовы матрицы. Для любой матрицы Т е МП) m из А^ В следует ГАТ ^ ГВТ. Если т^п и Те М„ т имеет ранг т, то из А^ В следует ГАТ > ГВТ. ’
Доказательство. Если матрица А — В положительно полу- определена, то у* (А — В) у 0 для всех у е С". Поэтому х*У*АТ — ГВТ) х = (Тх)* (А — В)Тх^0прн любом хеСт, что в свою очередь означает положительную полуопределенность матрицы ГАТ — ГВТ; следовательно, Г АТ ^ ГВТ. Заметим, что данное утверждение обобщает утверждение 7.1.6, да и доказательство по существу то же самое. □
Упражнение. Завершить доказательство проверкой второго утверждения.
Теорема. Пусть А, ВеМп— эрмитовы матрицы, причем А положительно определена, а В положительно полуопре- делена. Тогда неравенство А"^ В эквивалентно условию р^Л-1)^ 1, а неравенство А "> В — условию р(В7Н)< 1.
Доказательство. Согласно следствию 7.6.5, найдется невырожденная матрица С е Мп, такая, что А = CIC*, В — CDC*, где D = diag(di, d^, ..., dn^. Поэтому неравенство А >= В равносильно положительной полуопределенностн матрицы С(/ — — D^C*, для чего необходимо и достаточно, чтобы dz^ 1 для всех / = 1,2 ... . Так как ВА~Х = CDC*C*-XC~X = CDC-X, то собственные значения матрицы ВА-1 суть в точности числа
di, d2, ..., dn. Согласно теореме 7.6.3, все они неотрицательны, и требование, чтобы все di не превосходили 1, равносильно условию р(ВД~*)^1. Второе утверждение устанавливается путем тщательного исследования использованных неравенств. □
Следствие. Пусть матрицы А, ВгМп положительно определены. Тогда.
А^-В в том и только в том случае, когда В"1 ^ А"1;
если Д ^ В, то det А ^ det В и tr А ^ tr В;
более общо, если А^В и упорядочить собственные значения обеих матриц А и В одинаковым образом {по возрастанию или убыванию), то ^(Д)^ ХДВ) для всех k = 1, 2, .. ., п.
Доказательство. Мы знаем, что неравенство А ^ В равносильно условию р(ВД-1)^1. Но р(ВД*‘)= р(Д*‘В), и теперь теорема 7.7.3 говорит, что условие р(Д-1В)^1 равносильно неравенству В~Х">А~\ .
Если А ^ В, то р(ВД-1)^1; так как, согласно теореме 7.6.3, все собственные значения матрицы ВА~Х неотрицательны, они должны принадлежать интервалу (0,1]. Но тогда их произведение не превосходит 1, т. е. беЦВД*1)^!, а потому detД^ ^ det В. В доказательстве теоремы 7.7.3 были использованы представления А = СС*, В = CDC*, где С = [с(/] е ЛК, D = = diag(dh d2, ..., dn) е Мп, 0 ^ di ^ 1 для всех i = 1, 2, ..., п. Легко проверить, что .
tr Д = КСС* = ^ |с„|2I,/=1
и
пп
tr B = trCDC* = trDC*C = X d/knl2< S !cul2 = trA.
/ = 1i. / = 1
Последнее утверждение (содержащее в себе неравенства для определителей и следов, которым мы дали независимые доказательства) является прямым следствием вариационной характеризации Куранта — Фишера для упорядоченных собственных значений эрмитовой матрицы. Оно покрывается следствием 4.3.3. □
Упражнение. Пусть А^В^О. Показать, что det Д > det В и tr А > tr В.
Представление (0.7.3) для матрицы, обратной к блочной матрице, будучи специализировано для эрмитова случая, приво-
дит к следующей полезной формуле:
А В 1~В* cjА В 1~В* cj<А-ВС~хВ*уХ Л^В^'Л^В-С'Г’1 (В’А^В-СУ1 В'А-1 (С-В’А^ву1 J
А В 1~
В* cj
А В 1~
В* cj
(7.7.5)
Здесь предполагается, что матрицы А и С квадратные и все обращаемые матрицы невырожденны.
Если матрица [д. с] положительно определена, то обратная к ней существует и тоже положительно определена. Тогда из (7.7.5) и утверждения 7.1.2 следует, что матрицы (Л— ВС^В*)-1 и Л—SC-*S* положительно определены. Точно так же положительно определены матрицы С — В*А~ХВ, А и С. Таким образом, если рассматриваемая блочная матрица положительно определена, то
Л)>0, С>О, А>ВС-ХВ\ С>В*А~ХВ.
Теорема. Пусть эрмитова матрица Н представлена в блочном виде;
= [ В’ С J .
причем матрицы А и С квадратные. Для положительной определенности матрицы Н необходимо и достаточно, чтобы А была положительно определенной и выполнялось неравенство С )> В*А~ХВ. Это условие равносильно тому, что р(В*Л-1ВС-1) < < 1.
Доказательство. Необходимость условия теоремы уже установлена. Пусть теперь А положительно определена и С )> )^ В*А-'В. Полагая Х =—А~ХВ, находим
I 01Г Л Sir I XI Г А О
X* /Л В’ С JLO / J = LO С — В*А-ХВ
Поскольку правая часть положительно определена, то положительная определенность матрицы Н вытекает из свойства выписанной конгруэнтности и утверждения 7.1.6 или 7.7.2. Доказательство завершается применением теоремы 7.7.3 к неравенству С )> В*А~ХВ. □
'Упражнение. Пусть [у. с]/*0. Показать, что detC> > det(BM-1S) и det Л > det (ВС^В*). Что можно сказать о случае BeMrt)l? Показать, что det A det С ^ | det В |2, если В — квадратная матрица. -
Упражнение. Пусть А е Мп, Се.Мт, ВеМп, m и матрицы А, С положительно определены. Показать, что неравенство[ g. д]^0 равносильно условию р (В'Л 'ВС^1) 1.
Блочная положительно определенная матрица из теоремы 7.7.6 связана с некоторыми билинейными неравенствами, возникающими в теории функций комплексного переменного и в гармоническом анализе; эти неравенства разделяют отдельные свойства частичного упорядочения, индуцированного положительной определенностью.
Теорема. Пусть матрицы A е М„ и С е Мт положительно определены, и пусть В е М„, т. В таком случае следующие утверждения эквивалентны'.
(х*Л.г) (z/*Cz/) ^ j x*Bz/12 для всех х е С" и всех у^СД
х*Ах + у*Су Дг 21 х*By | для всех х е С" и всех у е Ст;
(с) pfB^r^C^1)^ 1;
(d) [в- с] >°.
' Доказательство; Покажем, что из (а) следует (Ь), из (Ь) — '(с) и из (с) — (а). То, что (с) и (d) эквивалентны, мы уже знаем. Если выполнено (а), то, используя соотношение между арифметическим и геометрическим средними, получаем
у (х*Ах + у*Су) > (х*Ах)у2 куПу^12 Д? | х*Ву |,
т. е. как раз неравенство (Ь). Если предположить (Ь), то
хАх + y*Gy = (Л1/2х)‘ (Л1/2х) + (C1/2z/)* (C1/2z/) > 21 хВу |.
Таким образом, для любого х е С" и любого у е Ст
х*х + у у ^ 2 I (Л-1/2х)’ В (C-li2y) I = 2 I хА^ВС"^ [.
Полагая в этом неравенстве х = А у2ВС №у, получим у^С'^В'А^ВСГ^у + у*у > 21 у-СТ^А^ВСГ^у |.
Поскольку матрица С-Х^В*А”ХВС~Х<2 положительно полуопреде- лена, это равносильно тому, что для любого у е С"
у у > уС~у2В*А~хВС~у2у.
Л. v/X, х 1 1 Ху il v^ 1 kJ LV1 j ri 11 v IX 1 ^J d v 1 D ГТ DI л! ^v Cl Дк ^Т j К^ ГТ С kJ VJv 1 D ■ * * С L ^ 1 • ^«-1 ^ р(С-х/2В*А-хВС-х/2) = р(5*Л~*ВС-1), и (с) доказано, Нако-Л. v/X, х 1 1 Ху il v^ 1 kJ LV1 j ri 11 v IX 1 ^J d v 1 D ГТ DI л! ^v Cl Дк ^Т j К^ ГТ С kJ VJv 1 D ■ * * С L ^ 1 • ^«-1 ^ р(С-х/2В*А-хВС-х/2) = р(5*Л~*ВС-1), и (с) доказано, Нако-Если в качестве у взять произвольный собственный вектор матрицы С~Х/2В*А-ХВС~Х/2, то придем к выводу: соответствующее (обязательно неотрицательное) собственное значение не превосходит 1; поэтому и спектральный радиус не больше 1, т. е.
Л. v/X, х 1 1 Ху il v^ 1 kJ LV1 j ri 11 v IX 1 ^J d v 1 D ГТ DI л! ^v Cl Дк ^Т j К^ ГТ С kJ VJv 1 D ■ * * С L ^ 1 • ^«
-1 ^ р(С-х/2В*А-хВС-х/2) = р(5*Л~*ВС-1), и (с) доказано, Нако-
Л. v/X, х 1 1 Ху il v^ 1 kJ LV1 j ri 11 v IX 1 ^J d v 1 D ГТ DI л! ^v Cl Дк ^Т j К^ ГТ С kJ VJv 1 D ■ * * С L ^ 1 • ^«
-1 ^ р(С-х/2В*А-хВС-х/2) = р(5*Л~*ВС-1), и (с) доказано, Нако-
нец, если выполнено (с), то для любого х е С" и любого у е Ст имеем
| х\а^2вс-^ Г < п х |Г2|| а-№вс-Ч2 -
- (х*х) (у-С-^В-А-'ВС^д") ^ (х'х) кууУ
Напомним, что символ НхНг обозначает евклидову длину (х*х)1/2 вектора х. Делая подстановку х->Л1/2х, у^>-СР,2у, получим
\х*Ву\2«х*АхКУ*Су^
для всех хе С' и всех у е Ст. □
Чтобы сформулировать неравенства другого сорта, также ведущие происхождение от представления (7.7.5), рассмотрим две операции, применимые к положительно определенным матрицам: обращение и выделение главной подматрицы при заданном множестве индексов. Мы знаем, что обе операции сохраняют положительную определенность, но есть ли какое-нибудь соотношение между результатами применения обеих операций в том и другом порядке к одной и той же матрице? Весьма интересно, что эти две операции «коммутируют с точностью до неравенства».
Теорема. Предположим, что матрица РеМп положительно определена, и пусть Scz{l,2, .... и} — фиксированное множество индексов. Тогда
P~'(S)^[P(S)]~l.
Левая часть неравенства есть главная подматрица матрицы Р~1, определяемая множеством S; правая часть — это обратная для соответствующей подматрицы матрицы Р.
Доказательство. Поскольку множество положительно определенных матриц замкнуто относительно преобразований конгруэнтности, осуществляемых матрицами перестановок, можно считать, что
и PtS^A. Но тогда P-1(S) = (А - ВС-1 В*) ' и [Р(S)]-1 = Л”1.
Так как С>-0 (потому что Р )> 0), то BC-VB* ^0 и A>A — BC”vB*>0.
Требуемое неравенство вытекает теперь из 7.7.4(a). □
Словами теорему 7.7.8 можно сформулировать так: в случае положительно определенной матрицы «обратная для главной
подматрицы меньше или равна соответствующей подматрице обратной матрицы».
Одно из приложений теоремы 7.7.8 соответствует специальному выбору главной подматрицы, выделяющему адамарово произведение из кронекерова (см. [HJ]). Если Л, В е Мп и S ={], п + 2, 2/г + 3, 3/1 + 4, ..., н2}, то А о В = (А 0 В) (S). Для обратимых матриц А и В матрица А® В также обратима и (Л 0 В)-1 = А-1 0 В-1. Поэтому если Л и В положительно определены, то, применяя к матрице Р = А®В теорему 7.7.8, получим
А-1 о В’1 = (Л-1 0 В-1) (S) = (А 0 В)-1 (S) >
>[(Л0В) (ВЛ’^ИоВ)-1.
Если положить В= А, это неравенство дает Л-1 о Л-1 ^(Л ° Л)-1. В случае В = А-1 (А положительно определена) имеем Л”1 о А > (Л о Л”1)"' = (Л-1 о Л)"1.
Смысл последнего неравенства: матрица А"1 о А доминирует над собственной обратной. Какую информацию это дает относительно А-1 о А? Пусть С — положительно определенная матрица со спектральным разложением С = UA.U*, A = diag(Xi, ... ..., Хл), все Х< > 0. В таком случае неравенство С^С-1 равносильно тому, что все Х,^1; следовательно, С^/^С""1. Суммируем эти замечания в следующей теореме.
Теорема. Пусть матрицы А, Be Мп положительно определены. Тогда-
(а) Л-'оВ^'ХЛоВ)"1;
. (Ь) Л”1 о л-1 >(Ло Л)"1;
(с) Л-1 о Л>/>(Л“1о л)“'.
Поскольку Л-1 Л = I, то левую часть утверждения (с) можно переписать как Л-1оЛ^Л-1Л; таким образом, в этом случав адамарово произведение доминирует над обычным.
Задачи
Пусть А, ВеМ„— эрмитовы матрицы с упорядоченными собственными значениями соответственно Xi ^ Х2 ^ ••• ^Ап и pi р.2 ^ ... Цл. Если Л ^ В, то X, pi, 1 = 1, 2, ..., п. Показать на примере, что утверждение, обратное этому, не всегда верно.
Пусть Ль Л2, Вх, В2 е Мп — эрмитовы матрицы. Показать, • что из Л1 ^ Вх и Л2 В2 следует Ах + Л2 ^ Вх + В2.
Пусть А, В, С е-Ил — эрмитовы матрицы, причем А"> В и С ^ 0. Показать, что А °C В °C.
Пусть А, В, С, ОеМл- эрмитовы матрицы, и пусть А^В^О и C^D^O. Используя предыдущую задачу, показать, что AoC^BoD^O.
Пусть А, Be Мп — эрмитовы матрицы, причем А ^ В. Пусть J с{1,2, ..., л}—произвольное множество индексов. Показать, что A (У) ^ В ЦУ
Показать, что теорема 7.7.6 есть обобщение теоремы 7.2.5 для п = 2. '
Что дает теорема 7.7.6 в случае С еЛК? Как окаймить положительно определенную матрицу строкой и столбцом и при этом сохранить положительную определенность?
матрица. Показать, что иера- что все собственные значениядать другое решение задачи что если В )> 0, то1 > 0.матрица. Показать, что иера- что все собственные значениядать другое решение задачи что если В )> 0, то1 > 0.Обозначим через P(S, S') подматрицу, получаемую удалением из Р строк и столбцов, номера которых принадлежат соответственно множествам S и S'. Показать, что неравенство (7.7.8) тогда и только тогда будет строгим, когда P(S, S') имеет полный строчный ранг; равенство в теореме 7.7.8 имеет место только в случае P(S, S') = 0. Указание. Показать, что rank [Р-1 (S)— P(S)-4 = rank Р (S, S').
матрица. Показать, что иера- что все собственные значения
дать другое решение задачи что если В )> 0, то
1 > 0.
матрица. Показать, что иера- что все собственные значения
дать другое решение задачи что если В )> 0, то
1 > 0.
Пусть А е М„— эрмитова венство I ^ А равносильно тому, матрицы А не превосходят 1.
Используя теорему 7.7.7, 11 из § 7.4. Указание. Показать,
Г В I
I/ В-1
Положим в теореме 7.7.7 А = С. Показать, что следующие утверждения эквивалентны:
(х^Ах) (у*Ау) У? | х*Ву |2 для всех х, уеСп;
(х*Ах) 4-(у*Ау)^ 21 х*Ву I для всех х, у еСп;
р (В*А~1ВА~1) ^ 1;
х*Ах ^1 х*Вх I для всех геС".
Пусть А г Мп — обратимая симметричная матрица. Показать, что все строчные суммы матрицы Л-1оЛ равны 1. (Указание. Использовать формулы, выражающие элементы матрицы Л-1 через алгебраические дополнения элементов матрицы Л.) Вывести отсюда, что для вещественной и положительно определенной матрицы А неравенство A^oA^I не может иметь места, хотя A^cA^I.■
Пусть Л<6> обозначает Д-ю адамарову степень матрицы А. Показать, что в случае положительно определенной матрицы Л е МП справедливы неравенства (Л-1/^ ^ (Л(А)) 1 для всех k = 1, 2 .
Дополнительная литература
О происхождении теоремы 7.7.7 можно прочитать в работе: FitzGerald С., Horn R. On the Structure of Hermitian — Symmetric Inequalities. — J. London Math. Soc., 1977, v. 15, N2, p. 419—430; там же даны ссылки на соответствующую литературу. В статье: Johnson С. Partitioned and Hadamard Product Matrix Inequalities. — J. Research NBS, 1978, v. 83, p. 585—591, есть библиография по тематике теорем 7.7.8 и 7.7.9.
Неравенства для положительно определенных матриц
Теперь мы обсудим неравенства для величин, ассоциированных с одной или несколькими положительно определенными матрицами. Их следует отличать от матричных неравенств предыдущего параграфа, хотя те и другие нередко связаны между собой. Например, из Л ^В^О вытекает det Л ^ det В. Случай положительно определенных матриц богат неравенствами, относящимися к определителям, собственным значениям и тому подобным величинам. В этом параграфе будут исследованы некоторые из таких неравенств, не обязательно проистекающие из матричных.
Основное детерминантное неравенство для положительно определенных матриц — это неравенство Адамара. Многие другие неравенства суть его обобщения в том или ином направлении.
Теорема (неравенство Адамара). Если матрица Л = = [ощ] е Мп положительно определена, то
п
det Л < П аи.
Равенство здесь достигается тогда и только тогда, когда Л —- диагональная матрица.
Доказательство. Положим d.t = aY^2, и пусть D = diag(d1, d2dnY Неравенство det А^.апа22 .. . апп равносильно условию det DAD ^ 1, и в дальнейшем достаточно рассматривать матрицу А, все диагональные элементы которой равны 1. Если X), ..., Хп — собственные значения матрицы А (обязательно положительные), то
а=1л-П1,<(1^ A =(±tr4)’-i.
Z=1'Z=1'
Нужное неравенство вытекает из соотношения между арифметическим и геометрическим средними неотрицательных чисел*
Равенство средних имеет место тогда и только тогда, когда все X, = 1. Так как А эрмитова и, следовательно, диагонализуемая матрица, это равносильно тому, что А = 1. Итак, равенство в исходном неравенстве достигается тогда и только тогда, когда А — диагональная матрица. □
Существует еще одно детерминантное неравенство для произвольных квадратных матриц, эквивалентное неравенству из теоремы 7.8.1 и также называемое неравенством Адамара. Геометрически число |detA| есть объем «-мерного параллелепипеда, образующими ребрами которого являются строки (или столбцы) матрицы А. Этот объем будет наибольшим, когда образующие ребра попарно ортогональны, в последнем случае он равен произведению длин ребер. Неравенство Адамара — это алгебраическая формулировка указанного геометрического факта.
Следствие (неравенство Адамара). Для любой матрицы В = [б,Д е М„ справедливы неравенства
п / п\ 1/2
IdetBKlI ZlM2 ,
п / п\1/2
IdetSl^n ZlV .
7 = 1 Xf-=1' /
Равенство в них достигается тогда и только тогда, когда строки (соответственно столбцы) матрицы В попарно ортогональны.
Доказательство. Если В вырожденна, то доказывать нечего. В случае невырожденной матрицы В нужно применить неравенство из теоремы 7.8.1 к положительно определенной матрице А = ВВ* и извлечь квадратный корень из обеих частей. Правая часть доказываемого неравенства есть квадратный корень из произведения диагональных элементов матрицы А, а левая часть — квадратный корень из определителя этой матрицы. Строки матрицы В попарно ортогональны тогда и только тогда, когда А—диагональная матрица, а это и есть случай равенства в теореме 7.8.1. Второе доказываемое неравенство получается применением первого к матрице В*. □
Упражнение. Следствие 7.8.2 мы вывели из теоремы 7.8.1. Показать, что, наоборот, теорема 7.8.1 вытекает из следствия 7.8.2. Указание. Если матрица А положительно определена, то существует единственная положительно определенная матрица В, такая, что В2=А. Применить следствие 7.8.2 к В и обе части полученного неравенства возвести в квадрат.
длядляУпражнение. Используя неравенства Адамара (и приводимые ниже их обобщения), дать по возможности лучшие оценки
для
для
- 11
det 1 — 1
Ll -1 1J
Два усиления неравенства Адамара для положительно определенных матриц связаны с именами Фишера и Саса. В неравенстве Фишера роль, какую в неравенстве Адамара играли диагональные элементы, выполняют дополняющие друг друга главные подматрицы.
Теорема (неравенство Фишера).Пдеть блочная матрица
Г А ВЗР =
L в* с I
положительно определена, и пусть блоки А и С непустые и квадратные. Тогда
det Р< (det A) (det С).
Доказательство. Полагая X =—А-1В, находим
det-P — detdet-P — det"I 01.X* I J"I 01.X* I JГ А В 1 Г I X 1 Г А.В* С J L 0 / J ~ det L 0Г А В 1 Г I X 1 Г А.В* С J L 0 / J ~ det L 00С —В* А-1 В0С —В* А-1 В
det-P — det
det-P — det
"I 01
.X* I J
"I 01
.X* I J
Г А В 1 Г I X 1 Г А.В* С J L 0 / J ~ det L 0
Г А В 1 Г I X 1 Г А.В* С J L 0 / J ~ det L 0
0
С —В* А-1 В
0
С —В* А-1 В
= (det A) (det [С - ВТ’в]) < (det A) (det С).
Последний переход основан на следующем рассуждении: по теореме 7.7.6 С ^С — В*А-1 В ^ 0, а тогда, согласно следствию 7.7.4(b), detC^ det (С —S*A-‘S).
Упражнение. Вывести неравенство Адамара (теорема 7.8.1) из неравенства Фишера. Кроме того, сформулировать неравенство Фишера для разбиений матрицы Р, более мелких, чем в теореме 7.8.3 (где две главные подматрицы), и менее мелких, чем в теореме 7.8.1 (п главных подматриц). Отметить, что в этом случае правая часть неравенства Фишера не превосходит правой части неравенства Адамара. Таким образом, для последовательности вложенных измельчающихся разбиений неравенство Фишера дает монотонно неубывающую последовательность верхних оценок определителя матрицы Р.
Есть и другое неравенство, также приводящее к последовательности верхних оценок определителя, которая включает в себя оценку Адамара. Пусть РДА^ обозначает произведение всех главных миноров матрицы А, имеющих порядок к (их чисч
ло равно (2))- Заметим, что РП(Л) = det Л. и Pi (Л) = «пОгг ... • • * CIrr.
Теорема (неравенство Саса). Если матрица АеМ» положительно определена, то
для всех к = 1, 2, ..., п — 1.
-74r = detA-*< det А-74r = detA-*< det АРп-1(Л)(det Л)"Рп-1(Л)(det Л)"т. е.т. е.Доказательство. Диагональные элементы матрицы Л-1 суть отношения главных миноров матрицы Л, имеющих порядок п—1, к ее определителю. Поэтому применение теоремы 7.8.1 к положительно определенной матрице Л-1 дает
-74r = detA-*< det А
-74r = detA-*< det А
Рп-1(Л)
(det Л)"
Рп-1(Л)
(det Л)"
т. е.
т. е.
Р„(Л)""1 = (ае1Л)п-1<Р„_1(Л).
Извлекая из обеих частей этого неравенства корень (и—1)-й степени, получим неравенство Саса для к = п—1. Для остальных случаев можно использовать рассуждение по индукции. Пусть, например, к = п— 2. Рассматривая каждую главную подматрицу порядка п—1 как самостоятельную матрицу и применяя обоснованное выше неравенство, получаем, что
р„-1ИГ2^р„_2(Л)2.
Здесь учтено, что всякая главная подматрица порядка п — 2 ровно два раза выступает в роли главной подматрицы в некоторой главной подматрице порядка п—1. Извлечение из обеих частей корня степени (и—1)(п— 2) дает неравенство Саса для к = п— 2. Таким же образом доказываются оставшиеся неравенства. □
Упражнение. Показать, что из неравенств Саса вытекает неравенство Адамара (теорема 7.8.1). В каком случае достигается равенство?
Утверждение. Пусть Л е Мп — положительно полуоп- ределенная матрица. Положим
Г det Л„п
.1—• если Лн положительно определена,
а(Л) = < t.0 в противном случае.
'Здесь А и — главная подматрица порядка п—1 матрицы А, получаемая вычеркиванием из А первой строки и первого столбца.
Пусть Ец^Мп — матрица, единственный ненулевой элемент которой находится в позиции (1,1) и равен 1. В таком случае матрица А— tE\\ положительно полуопределена для всех ^^а(Л); в частности, положительно полуопределена матрица А— а (Л) Ец. При любом Оа(А} матрица Л— (Еп не будет положительно определенной.
Доказательство. Достаточно рассмотреть случай положительно определенной матрицы А. Применим теорему 7.2.5 для случая последовательности нижних угловых миноров. Заметим, что первые п— 1 из этих миноров у матриц Л— 1Е\\ и А совпадают; кроме того, det(Л — ^£,ц) = йе1Л — ^е!Лц.
Упражнение. Восполнить пропущенные детали в доказательстве утверждения 7.8.5.
Упражнение. Доказать неравенство Адамара из теоремы 7.8.1 по индукции, опираясь на утверждение 7.8.5.
Неравенству Адамара можно еще придать форму, использующую адамарово произведение:
(det Л)П 1 <det Ло/./=1
Неравенство, доказанное Оппенгеймом и усиленное Шуром, обобщает неравенство Адамара, показывая, что в последнем совсем не обязательно брать именно единичную матрицу.
Теорема (неравенство Оппенгейма). Если матрицы Л, В е Мп положительно полуопределены, то
(det Л) ft bu С det А о В.i=i
Доказательство проведем индукцией по п. При п = 1 утверждение очевидно. Пусть п ^ 2, и пусть для всех матриц, порядок которых не превосходит п—1, утверждение справедливо. Тогда
(det Л11)П^^^det ЛиоВп1 = 2
согласно предположению индукции. Обозначения здесь те же, что в утверждении 7.8.5. Заметим, что Ли ° Вц = (Л ° 5) ц. Так как матрица А—а£ц положительно полуопределена, то положительно полуопределена и матрица (Л— аЕ^оВ. Следовательно,;, ,
О < det (Л — аВи) о В = (det Л о В) — а6п (det Лп о ВпУ
Отсюда вытекает, что-
det Ao В^ abvv det Ди о Ви ^ пп
> а6и (det Ди) п ьи = (det Д) П Ьи. □1-2<-1
Упражнение. Пусть Д, В г Мп— положительно определенные матрицы. Показать, что
(det Д) (det B)<det А» В.
Обосновать всю цепочку неравенств
(det Д) (det В) ^ (det Д) Ц bu ^ det А о В ^ Ц аи Ц Ьи. i-ii-i i=i
Упражнение. Для положительно определенной матрицы А е Л1Л показать, что detД °Д-* ^ 1.
Для неэрмитовой матрицы А с положительно определенной эрмитовой частью Н^А) имеется неравенство-совершенно иного рода. Его можно рассматривать как обобщение следующего свойства комплексных чисел: |z|^|Rez|.
Теорема (Островский — Таусски). Если матрица А е Мп такова, что матрица Н(А) = (Д + Д*)/2 положительно определена, то
det/7HX|det А |.
Равенство достигается тогда и только тогда, когда А — положительно определенная эрмитова матрица.
Доказательство. Пусть 5(Д) = (Д—Д*) /2, так что А = = Н(Д) -|- S(Д). Доказываемое неравенство эквивалентно такому;■
|det [/ + Я(Д)-15(Д)]|>1.
Но матрица В’(Д)~1В(Д) подобна косоэрмптовой матрице /7(ДГ*/2.5(Д)Я(ДГ1/2
и, следовательно, имеет только чисто мнимые собственные значения. Заметим, что для любого вещественного числа t справедливо неравенство |l + zt|^l. Если Их, И2, .... Ип— собственные значения матрицы //(Д)-1В(Д), то
Не1[/ + Д(Д)-15(Д)]| = ПН + ^1^1./=1
Для равенства необходимо и достаточно, чтобы все // = 0, а это вследствие диагонализуемости косоэрмитовой матрицы равносильно тому, что 5(Л) = 0.
Важное детерминантное неравенство для суммы двух поло- ' жительно определенных матриц принадлежит Минковскому. Его доказательство сходно с доказательством предыдущего результата.
Теорема (неравенство Минковского). Если матрицы А, В е Мп положительно определены, то
[det (Л + В^,п > (det Д)1/п + (det ВУ‘\
Доказательство. Заметим, что обе части доказываемого неравенства однородны и имеют одинаковую степень однородности. Умножая при необходимости неравенство слева и справа на (det Л-1/2)1/п, можем считать, что А = I, и это не приведет к потере общности. Теперь нужно доказывать, что
[det(/ + B)]1/n>l + (detB)1/n.
Пусть ^i^ ...Хп — собственные значения матрицы В,
Требуемое неравенство эквивалентно такому:
п/ п\ л
П (1 + ^j) ^ \ 1 + VM •••.
i=l
Это неравенство допускает прямую проверку явным перемножением в обеих частях и почленным сравнением, использующим соотношение между арифметическим и геометрическим средними. □
Упражнение. Заполнить пробелы в доказательстве неравенства (7.8.8). Показать, что равенство в нем имеет место тогда и только тогда, когда В =сА для некоторого неотрицательного числа с.
Задачи
Согласно неравенству из следствия 7.8.2, абсолютная величина определителя ограничена произведением /2-норм его строк. Сравнить это утверждение с результатом задачи 3 из § 6.1: абсолютная величина определителя не превосходит произведения /i-норм его строк. Каков геометрический смысл каждой из этих оценок? Существуют ли другие оценки такого рода? Проверить случай /оо-нормы.
Левая часть неравенств из следствия 7.8.2 инвариантна относительно умножения В слева на унитарные матрицы, левая часть неравенства из теоремы 7.8.1 инвариантна относи-
тельно преобразования унитарного подобия матрицы А, однако правые части соответствующей инвариантностью не обладают. Когда достигаются минимумы правых частей? Когда максимумы? Нельзя ли этим путем получить лучшие оценки?
Используя неравенство Фишера, проверить следующее блочное обобщение неравенства Адамара из следствия 7.8.2: пусть А=[а;)]— комплексная матрица порядка nk, разбитая на блоки таким образом, что каждый блок А^ имеет размер k X k. В таком случае
г п / пх1/2чй
I det А К (ХОЛ/У J-
/Ложно ли здесь вместо спектральной брать другие матричные нормы?
Охарактеризовать случаи равенства в неравенстве из теоремы 7.8.6.
Пусть матрицы А, Be Мп положительно определены. Доказать, что
det А о В + (det Л) (det В) > (det Л) П bu + (det В) П аи. i=ii=i
Показать, что это неравенство усиливает неравенство из теоремы 7.8,6. Указание. Показать, что
а (Л о В) ^а(Л) Ьп + а (В) ап — а (Л) а (В),
и применить это соотношение в доказательстве по индукции.
Показать, что неравенство предыдущей задачи допускает дальнейшее усиление:
det Л = S + (det Л) (det 5) (>
XdetЛ)П^ + (detB)Пaи +1 = 11=1.
+ (det Л) bn (det BH) (-^j^- - 1) +
+ (det B)au (det Л „) (^3^ - 1) •
J. Пусть матрица’Ле АД имеет положительно определенную эрмитову часть Н (Л р= (Л + А *) /2, и пусть п > 1. Показать, что неравенству (7.8.7) можно придать более сильную форму
d&tZfH) + |detSH)K|det Л |. ~
В каком случае достигается равенство? Указание. Нужн@ показать, что
I det [/ + В'1 (A) S (А)] | > 1 + | det Н (A)"1 S (А) |,
а это эквивалентно неравенству
Пн + ^|>1 + П1^ I. /=1/=1
Показать, что
Ппп
П11 + щ I" = 1 + 2• + П й -у
i-vi=vj=i
п/ п \2/п \2
+ ^ПИ/1 + (П^/) (1 + ПI• /-I '\/=i V\/=1 ' /
Можно ли еще усилить это неравенство? Замечание. Естественным прообразом доказываемого неравенства для определителей можно было бы считать следующее неравенство для комплексных чисел: I г | ^ | Re г | + | Im г |; однако это неравенство неверно (показать!), отсюда условие /г>1. Таким образом, де- терминаитное неравенство следует оценить как довольно неожиданное.
Пусть матрицы А, В е Мп положительно определены. Показать, что det (А + В) ^ det А + det В.
Вывести неравенство Фишера из неравенства Минковского. Указание. Применить неравенство Минковского к двум положительно определенным матрицам,
Г АВ]Г/0 1ГАВ1Г/01 ГА — В1
[в*СJ’[ 0-I JLв* сJ[о—zJ= L -в* с J■
Положительно определенная матрица Р е Мп может быть представлена в виде P = LL\ где L— нижняя треугольная матрица с положительными диагональными элементами (см. следствие 7.2.9). Использовать этот факт для доказательства неравенства Фишера.
Пусть А, Be Мп — положительно полуопределенные матрицы. Показать, что если А и В невырождениы, то матрица А°В также невырожденна (и положительно определена). Если матрица АВ вырожденна, то хотя бы одна из матриц А, В тоже вырожденна. Как связаны эти утверждения с неравенством гапкА = В ^(гапкА) (гапкВ) из § 7.5?
Показать, что для матрицы А=[аи]еМ3 с вещественными элементами, удовлетворяющими ограничениям |п;/|^1.
для любых i, j, выполняется неравенство | det А | ^ 3 -а/з. Показать, кроме того, что эта оценка никогда не достигается, Указание.
<^(det Л) = (—1/+/At/, ^L(detA) = 0.
Здесь Ац— определитель матрицы, получаемой из А удалением Ай строки и /-го столбца. Если Л,/ = 0, то det Л не зависит от значения ац, которое поэтому может быть взято равным + 1. Если Aij^O, то при 0 < ац <_ 1 определитель det Л как функция от ац не может иметь экстремума. Итак, ^е1Л| достигает своего максимального значения при указанных ограничениях, когда все Ш7 = ±1. Матриц порядка 3 с такими значениями элементов лишь конечное число. Каким будет результат для произвольного п > 3? В случае матрицы Л с комплексными элементами использовать принцип максимума (теорема о максимальном модуле) для аналитических функций, чтобы показать, что I det Л | не может достигать максимального значения внутри множества {Л еМп-. все |<2Z/|^1}.
Пусть Л = [а;/]е Мп и К ~ max {[ atf|]. С помощью неравенства Адамара показать, что | det Л | ^ KV/2.
Пусть матрица Л е Мп положительно определена, и пусть aS.V={l, ..., п}—некоторое множество индексов, а а' — дополнение множества а в N. Неравенство Фишера можно записать как det Л ^ det A (a) det Л (а'). Его обобщение, часто называемое неравенством Адамара — Фишера, имеет вид
det Л (a U РХ^^^2-. (7.8.9)
Оно выполняется для всякой положительно определенной эрмитовой матрицы А и любых множеств индексов ос, 0 s N. По определению det Л (0)^1. Доказать неравенство Адамара — Фишера, используя только неравенство Фишера и вторую формул'/ из п. 0.8.4. Указание. Без ограничения общности можно считать, что aUP = jV; применить неравенство Фишера к Л-Дсс'ир'), а затем (0.8.4) к каждому минору.
Использовать тот факт, что положительно определенная эрмитова матрица Л может быть представлена в виде Л = LL*, где L— невырожденная нижняя треугольная матрица (см. следствие 7.2.9), для прямого доказательства неравенства Адамара— Фишера (7.8.9). Указание. Не теряя общности, можно считать, что «={!,...,&} и 0 = {1, ..., /, k + 1, ..., п}, где 1 ^ j < к < п. Рассмотреть одинаковое блочное ЗХ 3-разбиение матриц А и L. . ’
■ 16. Пусть А е Мп— положительно определенная матрица. С помощью неравенства Адамара —■ Фишера показать, что ,
П —1
П det А W, i + 1})detX^^L__.
Ц ац
1=2
Пусть матрица А е М„ положительно определена. Показать, что
det А = min \ П щАц,-: (щ, ..., у„}— ортонормированный базис
пространства С"^.
Указание. Положить P = [ui ... ип] е М„ и применить теорему 7.8.1 к матрице A s V*AV.
Пусть А е Л1п — положительно определенная матрица, и пусть {щ, ..., u.jsC”— ортонормированная система. Опираясь па задачу 17, показать, что {ць ..., ип)—система собственных векторов, а числа {и‘Аиь ..., и^Аи^ суть соответствующие собственные значения матрицы А, если
det А = П UiAut■1=1
и только в этом случае.
Пусть матрица А е Мп положительно определена. Показать, что
п (det А)1,п — min {tr АВ: ВеМ„— положительно определенная матрица и det 5=1}.
Указание. Представить А в виде А = t/At/*, где Л = diag(M,... ..., Л,„), все /., > О и U е М„— унитарная матрица; тогда tr АВ = tr (At/*Bt/). Использовать неравенство между арифметическим и геометрическим средними н неравенство Адамара из теоремы 7.8.1 для обоснования соотношений
п/ п\1/^/п \ 1/П
X \Ьи > П ^Ьи = det А П bu ) > [det А],/п.
Равенство в ннх возможно.
Квазилинеаризацню, полученную в задаче 19, использовать для доказательства неравенства Минковского из теоремы 7.8.8.
Представим положительно полуопределенную матрицу. А е Мп в следующей блочной форме:
[
ан х* 1
'а I •X Л J
Используя задачу 18 из § 7.2 и формулу приведения для опре* делителя из задачи 15 § 4.1, показать, что
det А = аи det А — х* (adj А)х ^йц det А.
Рассуждая по индукции и привлекая это неравенство, дать другое доказательство неравенства Адамара из теоремы 7.8.1.
Дополнительная литература
По поводу добавочной информации относительно теоремы 7.8.7 см. работу: Ostrowski А. М., Taussky О. On the Variation of the Determinant of a Positive Definite Matrix. — Proc. Kon. Nederl. Acad. Wetensch. Amsterdam. Ser. A, 1951, v. 54, p. 383— 385. В статье: Schur I. Ober endliche Gruppen und Hermitesche Formen. — Math. Z., 1918, B. 1, S. 184—207, можно познакомиться с классом неравенств, связывающих определитель матрицы А с другими обобщенными матричными функциями (см. 0.3.2) в случае положительно определенной матрицы А; эти неравенства также обобщают неравенство Адамара из теоремы 7.8.1.
Глава 8
НЕОТРИЦАТЕЛЬНЫЕ МАТРИЦЫ
0. Введение
Предположим, что имеется и >2 городов Сь ..., Сп и между ними население мигрирует следующим образом: для всех IФ j одновременно в 8 часов каждое утро одна и та же часть ац населения города / переезжает в город I, а часть ар населения города / остается в городе /. Таким образом, если Р;т) обозначает население1) города I на m-й день, то мы имеем рекуррентное соотношение
М"14-0 = a^Pi7” + .. . + «г/гР^’, 1=1,...,п, m = 0, 1, ....
связывающее распределения населения иа m-й и т+ 1-й дии. Из коэффициентов миграции составим п X «-матрицу А = = [аг/], образуем также вектор распределения населения р(т} = = [хт,1- Тогда
pVmW = Apw = ААри =...= А-'^\ т = 0, 1, ..., где //°> — начальное распределение населения. Поскольку коэффициенты ац указывают доли населения, 0 X «и ^ 1 и ^ аи = i=\
= 1 для всех / = 1, ..., п.
Чтобы строить разумные долгосрочные планы развития городского сервиса и капитальных вложений, органам управления хотелось бы зиать, каким образом общее число жителей гг
р = ^ р^ будет распределено в достаточно далеком будущем; другими словами, представляет интерес асимптотическое поведение вектора р№ при больших т. Так как pW = Атр№, очевидно, нужно исследовать асимптотическое поведение матрицы Ат.
В качестве примера рассмотрим детально случай п = 2.
Имеем оц + «21 = 1 = 012 + ^22 и, положив 021 = а и а12 = р, получаем
Г 1 -а р 1
Д =„1 R Ь
L а1 — р J
Нас интересуют степени Д'" при больших т. Если матрица А диагонализуема, то матрицу Ат можно найти в явном виде. Начнем с того, что вычислим для А собственные значения: А2 = 1 и А! = 1 — а — р. Так как 0 ^ а, р ^ 1, то А2 1 5s ^|Ai| = |l — а—р|, так что 1=|А2| = р(Д), т. е. спектральный радиус матрицы А равен ее собственному значению. Более того, за исключением тривиального случая а = р = 0 (когда А" разложима), собственное значение Аг = р (Д) является простым.
Если а + р =А 0, то матрица А имеет собственные векторы х = [Р, а] 7 и 2 = [1,—1] г, отвечающие соответственно Аг = 1 и Аь Понятно, что А в этом случае диагонализуема. Получаем Д = SAS-1, где
Г 101 ГР1! ,1 Г 1 1 1
LOl-a-pJ’ [a — 1« + P\.a-pJ‘
Заметим, что компоненты собственного вектора х неотрицательны, а если А неразложима, то они положительны.
Если а и Р не равны одновременно 1, то | А! | = | 1 — a — Р|< 1 и потому АГ~*О при т-*со. Таким образом, в этом случае
Г1,
а + Р L a a J ’а + Р L a a J ’Пт Дт —S(lim A^S^ — S о Р = пг->ооm->coL v U J
а + Р L a a J ’
а + Р L a a J ’
и как следствие равновесное распределение населения имеет, вид
г И 1 М НГ'’1"]- 1 Р1
Обратим внимание на то, что равновесное распределение совершенно не зависит от начального распределения. Матрица Дт стремится к предельной матрице со столбцами, пропорциональными собственному вектору х, отвечающему собственному значению 1 (которое равно спектральному радиусу матрицы Д), и предельное распределение пропорционально тому же самому вектору.
Два особых случая, не разобранные выше, легко анализируются по отдельности. Если а = Р = О, то A = I, Пт Дт = / т->оо
и lim pW = pW, так что предельное распределение оказы- т->оо.
вается зависящим от начального распределения.
19 Р. Хорн, Ч. Джонсон
Если а = р=1, то '4 = [°i] и Два города каждый день обмениваются всеми своими жителями. Степени матрицы А не стремятся ни к какому пределу, то же относится и к распределению населения, если с самого начала города имели разное число жителей. Однако достигается в некотором смысле «среднее равновесие», а именно
Г 0,5 0,5 1 ^Ч/^М hm — > А = „ - „- , hm — > , ч->оо "^ L 0,5 0,5 J т->оо —^ 2 [_ 1
Итак, в этом примере мы выяснили, что р(Л)=1 и справедливы следующие предложения:
Спектральный радиус р(Л)=1 равен именно собственному значению матрицы А, а не просто модулю какого-то ее собственного значения.
Собственный вектор х, отвечающий собственному значению р(Л), можно выбрать так, чтобы у него были неотрицательные компоненты, которые будут положительными, если А неразложима.
Если все элементы матрицы А положительны, то р(Л) является простым собственным значением, строго большим по модулю, чем остальные..
Если все элементы матрицы А положительны, то lim [Л/р (Л)]"1 существует и это есть матрица ранга 1 со столбцами, пропорциональными собственному вектору х. ' т
Во всех случаях существует Игл (1/т) 2 (Л/р(Л))\
т-> оо •А = 1
В действительности эти выводы в основном остаются в силе и при и ^ 2, но общий случай уже не удается исследовать с помощью той простой техники, которая применялась выше. При п ^ 2 диагонализуемость матрицы А совсем не обязательна, даже если все элементы в А положительны. Необходима новая техника исследования, которая и будет развита в этой главе.
Задачи
Показать, что для матрицы А = [J °] спектральный радиус равен I, но степени Ат не ограничены при т^-оо.
Рассмотреть матрицу
114-ев8114-ев8114-е1114-е1е > 0.е > 0.
1
14-ев8
1
14-ев8
1
14-е1
1
14-е1
е > 0.
е > 0.
(а) Доказать, что Х2 = 1 есть простое собственное значение для Ле, р(Л)= Х2 = 1 и 1 > |Xi|.
_ (Ь) Доказать, что векторы
1 Г 1 11 + в Г 8 1
1 + е [ 8 J И 28 [ 1 J являются собственными векторами соответственно для Ле и Л1, отвечающими собственному значению X = 1.
Найти Л" в явном виде (т=1, 2, ...).
Показать, что
Вычислить хут и прокомментировать.
Что будет при е ~> О? Указание. Образовать матрицу Ве =(1 + е)Ле и диагонализовать ее по аналогии с тем, как это делалось в тексте.
Что означает неразложимость матрицы коэффициентов междугородней миграции? Рассмотреть общий случай и интерпретировать неразложимость в терминах свободы передвижений для населения.
Показать, что для рассмотренного в этом параграфе слу- / 1 m \
чая двух городов предел lim I — У, Л6 ) существует, если а = Р = 0 либо а + Р#=0. Каким он будет в каждом из этих двух случаев?
Дополнительная литература
■ Весьма обширный материал о свойствах положительных и неотрицательных матриц вместе с многочисленными указаниями по вопросам теории и приложений см. в [ВР1] и [Sen]. В [Var] есть обзор результатов, относящихся к неотрицательным матрицам,— с особым акцентом на применениях в численном анализе.
Неотрицательные матрицы — неравенства и общие замечания
Пусть В = [В£/] е Мп>г и А = [аг/] е МП1 г. Будем писать В^О, если Ь^^О для всех I, j;
В > 0, если Ь^ > 0 для всех I, j;
А^В, если Л —В^О;
А > В, если Л — В > 0.
Противоположные отношения ^ и "< определяются сходным образом. По определению |Л | = [| ае/| ]. Матрица А назы-
вается неотрицательной, если Л ^ О, и положительной, если Л > 0. Ниже приводятся простые факты, немедленно вытекающие из определений.
Упражнение. Пусть А, В^МПгГ. Доказать следующие предложения:
|Л|^0 для всех А; |Л| = 0 тогда и только тогда, когда Л — 0.
|аЛ [ = |аП Л ] для всех йеС.
| Л + В|<| Л | + |В|.
Если А ^ 0 и Л =/= 0, то это еще не означает, что Л > 0, если хотя бы одно из чисел п или г больше 1.
ЕслиЕслиЕслиЕслиЕслиЕслиЛ^О, В^О и а, Ь^О, то аА А- ЬВ"^О.
Если
Если
Если
Если
Если
Если
А>В и C>D, то A-VOB-Y D.
Л ^ В и В As С, то Л > С.
Упражнение. Теперь предположим, что А, В, С, DeMn и х, у е Сл. Доказать следующие предложения:
| Лх |^[ Л [[ х |.
| ЛВ|<| Л || S [.
|Лт|^|Л|т для всех т=1, 2, . ...
Если 0<Л<В и 0<С^В, то 0<ЛС<ВО.
Если О^Л^В, то 0^Л"‘^В"‘ для всех т = = 1, 2
Если Л^О, то Л^^О; если Л > 0, то Ат > 0 для всех m = 1, 2, . . ..
Если Л > 0, х^0 и х#=0, то Ах > 0.
Если Л^0, х > 0 и Ах — 0, то Л=0.
Если |Л|<|В|, то ||Л||£<||В||£.
|| Л ||£ = ||| Л ]]]£.
Очевидно, что последние два утверждения имеют место по отношению к любой абсолютной норме, и евклидова норма, или норма Фробениуса (/2-норма) есть только один из примеров. Первое приложение этих простых соотношений — получение неравенств, оценивающих спектральные радиусы.
и (8.1.12), для всех пг =Далее, в силу (8.1.16) ии (8.1.12), для всех пг =Далее, в силу (8.1.16) иТеорема. Пусть А, В^Мп. Если |Л|^В, то р(Л)^ ^р(|Л|)^р(6).
и (8.1.12), для всех пг =
Далее, в силу (8.1.16) и
и (8.1.12), для всех пг =
Далее, в силу (8.1.16) и
Доказательство. Согласно (8.1.10) = 1, 2, ... имеем |Лт| | A [m Вт. (8.1.17)
М'"11£<|||ЛГ|)£<||В'"||£,
II^II^^HrfCII^H^, m=l, 2, ....
В пределе при т-^оо, используя (5.6.14), получаем р(Л)^ ^р(И1)^р(5). □
Следствие. Пусть Л, В е Мп. Если 0 ^ А ^ В, то р(Л)^р(5).
Следствие. Пусть А е Мп и А ^ 0. Если Л— произвольная главная подматрица в А, то р(А)^р(Л). В частности, max ап<р(Л).
Доказательство. Пусть 1 ^ г ^ п и А обозначает какую-то главную г X r-подматрицу в А. Рассмотрим также матрицу А—■ ее размер п X и и она получается из А заменой на нули всех элементов, не входящих в А, причем элементы, принадлежащие Л, остаются неизменными на своих местах. Тогда р(Л)=р(Л) и О^Л^Л; стало быть, р (Л) = р (Л) ^ р (Л) в силу следствия 8Л. 19. □
Нижняя оценка а((^р(Л), установленная этим следствием,— это первая нетривиальная оценка спектрального радиуса не обязательно эрмитовой матрицы. Впрочем, неотрицательность матрицы А существенна.
Упражнение. Построить матрицу, которая подобна матрице [° q] и не имеет нулевых элементов. Каков ее спектральный радиус? Будет ли она неотрицательной? Как это связано с последней частью следствия 8.1.20?
Упражнение. Показать, что если Л, 8е Мп и 0 ^ А •< В, то р(Л) < p(S). Указание. Существует а > 1, такое, что 0 ^ Л ^
аЛ < В. Далее при р(Л)#=0 использовать следствие 8.1.19, а при р(Л) = 0 — следствие 8Л.20, примененное к матрице В.
Мы скоро получим довольно хорошие верхние оценки для спектральных радиусов неотрицательных матриц, и тогда теорема 8.1.18 позволит установить верхние оценки спектральных радиусов для произвольных матриц.
Лемма. Пусть А^Мп, и предположим, что Л ^ 0. Если строчные суммы для А постоянны, то р(Л) = ||Л||оо. Если для А постоянны столбцовые суммы, то р(Л)=||Л||1.
Доказательство. Как известно, р(Л)^||Л|| для любой матричной нормы 1Ы1- Если же строчные суммы постоянны, то х = [1, ..., 1]г есть собственный вектор, отвечающий собственному значению ||Л||оо, и потому р(Л)=||Л ||оо. Рассматривая столбцовые суммы, можно использовать те же доводы, примененные по отношению к Ат, □
Теорема. Пусть А^Мп, и предположим, что Д^О. Тогда
пп
(8.1.23)(8.1.24)(8.1.23)(8.1.24)min У, аи ^р (Д) ^ max ^ аи, 1<;<п / = 11</<п /=1
(8.1.23)
(8.1.24)
(8.1.23)
(8.1.24)
min £а1/<р(Д)< max ^аИ.
К/<п 1 = 11</<л 1=1
Доказательство. Положим a — min У аИ и построим новую 1<1<П /-1
матрицу В, такую, что Д^В^О и У, Ьи = а для всех i = l,
..., п. Например, при а = 0 полагаем В = 0, а если а > О,
/ П \-1
то можно взять Ьи = ааи1 У, аи I . По лемме 8.1.21 р(В) = а X /=17
и р(В)^р(Д) согласно следствию 8.1.19. Верхние оценки устанавливаются в том же духе. Оценки со столбцовыми суммами для матрицы А вытекают из оценок со строчными суммами для матрицы Ат. □'
Упражнение. Доказать верхние оценки теоремы 8.1.22.
Следствие. Пусть А е Мп. Если Д ^ 0 uY.au>0 для всех 1 = 1, 2, ..., п, то р(Д)>0. В частности, р(Д)>0, если Д > О или если Д неразложима и неотрицательна.
Упражнение. Показать, что неразложимая матрица не может иметь нулевую строку или нулевой столбец.
Поскольку р (В-1ДВ) = р (Д) для любой невырожденной матрицы S, полученную выше теорему можно обобщить за счет введения некоторых свободных параметров. Если S = = diag(xiхп) и х, > 0 для всех I, то 5-1Д5 ^ 0 при Д ^ 0. Теорему 8.1.22 применим к матрице В-1ДВ = ^а^х?'! и получим следующий более общий результат.
Теорема. Пусть АеМп, и предположим, что Д ^ 0. Тогда для любого положительного вектора хеС" справедливы неравенства
nt п
min — Уmax— £ auxh(8.1.27)
1<1<п Х1 /-11<1<ДXi/ = 1
min х, У —-<р(Д)< max х, V-—.(8.1.28)
Следствие. Пусть АеМч, xeR", и предположим, что А ^ 0 и. х > 0, Если числа а, р ^ 0 таковы, что ах ^ Ах ^ рх, то а^р(Л)^р. Если ах < Ах, то а<р(Л); если Ах < рх, то р(Л) < р.
Доказательство. Если ах^Лх, то а^ min Xi 1 Z аахь и по 1<е'<п /=1
теореме 8.1.26 а ^ р(Л). Если ах < Ах, то для какого-то а' > а имеем а'х^Лх. В этом случае р(Л) ^ а' > а, так что р(Л)> > а. Верхние оценки проверяются аналогично. □
Упражнение. Завершить доказательство следствия 8.1.29.
Следствие. Пусть А е Мп, и предположим, что матрица А неотрицательна. Если А имеет положительный собственный вектор, то отвечающее ему собственное значение есть р(Л); другими словами, если Ах = Кх, х>0 и Л ^ 0, то Х = р(Л).
Доказательство. Если х>0 и Ах = Хх, то Х^О и Хх ^ Лх Zx, но тогда, согласно следствию 8.1.29, Х^р(Л)^
Следствие. Пусть АеМп, и предположим, что матрица А неотрицательна. Если А имеет положительный собственный вектор, то
р(Л) = тах min — У, ацХ, = min max — ^йцХр (8.1.32) х>0 l<i<n х‘ ] = 1 х>0 l<i<n xi j=l
Упражнение. Доказать предыдущий результат. Использовать неравенства (8.1.27), записанные для положительного собственного вектора х.
Следствие. Пусть АгМп. Предположим, что матрица А неотрицательна, и рассмотрим степени Ат = [а1//1^. Если А имеет положительный собственный вектор х, то для всех m = 1, 2, ... и для всех i = 1, ..., п
■ min '■ min 'maxL 1<А<п■maxL 1<А<п■" max Xf, 1<й<пminL 1<й<л" max Xf, 1<й<пminL 1<й<лпп(8.1.34)(8.1.34)P^r^Zn^./-1P^r^Zn^./-1
■ min '
■ min '
max
L 1<А<п■
max
L 1<А<п■
" max Xf, 1<й<п
min
L 1<й<л
" max Xf, 1<й<п
min
L 1<й<л
п
п
(8.1.34)
(8.1.34)
P^r^Zn^.
/-1
P^r^Zn^.
/-1
В частности, если р(Л)>0, то элементы матрицы [р(Л)-1Л]т равномерно ограничены при tn — 1, 2, .., ,
Доказательство. Пусть Ах = р(А)х. Тогда Атх = р(А)тх. Если А ^ 0, то и Ат ^ 0. Для всех i = 1, 2п
р (A)m max > р (/Г) Xi = [А^х^ = 2 а^х, X min х^ £ а^. 1<А<п/=11<А<п/ = 1
Чтобы получить искомую верхнюю оценку, нужно выполнить деление, и это можно сделать, так как х > 0. Аналогично для всех i = 1, ..., п
рСД^) min xA<p(A)mxz = [Amx]z= £ a^r^O-max x^^a^. l^A<n/=1l<£^n/=1
Так как x > 0, можно выполнить деление, после чего получаем искомую оценку.
Задачи
Доказать, что если А ^ 0 и А* >• 0 для некоторого к, то р(А)>0.
Привести пример 2 X 2-матрицы А, такой, что А ^ 0 и А2 > 0, хотя А не является положительной.
Предположим, что А ^ 0 и А ^ 0. Доказать, что если А имеет положительный собственный вектор, то р(А)>0.
При р(А)< 1, как известно, Ат->-0 при щ->оо. Используя следствие 8.1.33, доказать, что если А ^ 0 и А имеет положительный собственный вектор, то |Am| ^ р(А)тС(А) для всех т = 1, 2, ..., где С(А) есть постоянная матрица. При этом условие насчет существования положительного собственного вектора не может быть опущено — показать это, рассмотрев матрицу А = [q []. Оба этих результата обсудить в свете следствия 5.6.13.
Доказать, что если матрица А ^ 0 имеет положительный собственный вектор, то она подобна какой-то неотрицательной матрице с одинаковыми строчными суммами. Чему равны эти суммы? Указание. Использовать замечания, предваряющие теорему 8.1.26.
В § 8.4 будет доказано, что у любой неотрицательной неразложимой матрицы обязательно найдется положительный собственный вектор. Показать, что неотрицательная матрица, будучи разложимой, также может иметь положительный собственный вектор.
Пусть матрица A = [ai,]eM, неотрицательна и обладает положительным собственным вектором лг = [л:1]. С помощью
следствия 8.1.33 доказать следующие соотношения:
Г min х& (а) -р(Л)Ч ‘^ х ' п г 4 ' I max х^Г min х& (а) -р(Л)Ч ‘^ х ' п г 4 ' I max х^шах а$\ г = 1, 2.шах а$\ г = 1, 2.п1.п1.
Г min х& (а) -р(Л)Ч ‘^ х ' п г 4 ' I max х^
Г min х& (а) -р(Л)Ч ‘^ х ' п г 4 ' I max х^
шах а$\ г = 1, 2.
шах а$\ г = 1, 2.
п1.
п1.
(Ь)-(Ь)-п.п.[п11М
(Ь)-
(Ь)-
п.
п.
= р(Л), z = 1, 2,р —1-1
Здесь используется обозначение Ат = [а<ц)]> т=1, 2, ....
Положительные матрицы■
Теория неотрицательных матриц приобретает простейшую и наиболее элегантную форму для положительных матриц. Именно к этому случаю относятся фундаментальные результаты, полученные в 1907 г. О. Перроном.
Лемма. Пусть А^Мп, и предположим, что А > 0, Ах = Хх, х=#0 и |Х| = р(Л). Тогда А |х[ = р (Л) |х| и |х|>0.
Доказательство. Находим
р (Л) |х| = |Л||х| = |Лх| = |Лх|^|Л||х| = Л|х|,
так что у = А\х! — р(Л)|х|^0. Поскольку |х|^0 и х =# 0, согласно (8.1.14), Л|х|>0. Следствие 8.1.25 также гарантирует, что р(Л)>0. Поэтому если у = 0, то Л|х| = р(Л)|х| и | х | = р (Л)—'Л | х | > 0. Если у ^= 0, положим 2 = Л|х|>0 и, вновь согласно (8.1.14), получаем
0 < Ау = Az — р(Л)2, или Az>p(A)z,
откуда, опираясь на следствие 8.1.29, выводим неравенство р(Л)>р(Л), которое выполняться не может. Значит, у = 0, что и требовалось доказать. □
На базе этого утверждения технического характера мы легко установим первый принципиальный результат, относящийся к положительным матрицам.
Теорема. Пусть А е Мп, и предположим, что А положительна. Тогда р(Л)>0, р(Л) — собственное значение для А и существует положительный вектор х, такой, что Лх = р(Л)х.
Доказательство. Рассмотрим собственное значение X, такое, что |Л| = р(Л)>0, и отвечающий ему собственный вектор х ф 0. По лемме искомым вектором будет [х|. □
Упражнение. Используя следствие 8.1.31, доказать, что если А е Л1„ и Л > 0, то
1 "1 п
р(Л) = тах min —X anxi = min max— X anxi‘A>0 K«<n xi /=1x>0 1</<л xi /-1
Несколько усилив утверждение леммы 8.2.1, можно продвинуться в изучении расположения собственных значений матрицы А.
Лемма. Пусть А е Мп, и предположим, что А > О, Ах = кх, хч^О и |^| = р(Л). Тогда для некоторого 9eR имеем е~тах = | х | > 0.
Доказательство. Согласно условиям леммы, |Лх| = |Хх| = = р(Л)|х| и по лемме 8.2.1 А |х| = 'р(Л) |х| и |х|>0. С учетом этих двух равенств и неравенства треугольника для всех k = 1, ..., п находим . ,
pH)|xd = |A||xd = |Axd =pH)|xd = |A||xd = |Axd =п2 &hpxpР-1п2 &hpxpР-1
pH)|xd = |A||xd = |Axd =
pH)|xd = |A||xd = |Axd =
п
2 &hpxp
Р-1
п
2 &hpxp
Р-1
пп
< X 1 aftp И Хр|= х ^р|хр|=р(Л)| xk |. р-1Р=1
Таким образом, в неравенстве треугольника достигается равенство, и, следовательно, комплексные (ненулевые) числа акрхр (р = 1, ..., и) расположены в комплексной плоскости все на одном и том же луче. Обозначив их общий аргумент через 0, получаем е-^а^Хр > 0 для всех р = 1, ..., п. Поскольку йкр > 0 для всех к, р, имеем e~iOx > 0. □
Теорема. Пусть матрица АеМп положительна. Тогда любое собственное значение Х=#р(Л) удовлетворяет неравенству ] X | < р(Л).
Доказательство. По определению |Х|^р(Л) для всех собственных значений к матрицы А. Предположим, что |Х[ = р(Л) и Ах = кх, хч^б. Согласно лемме 8.2.3, Aw = kw, где w = = е~‘ех > 0 для какого-то 9 s R. Отсюда, опираясь на следствие 8.1.30, получаем к = р(Л). □
Теперь мы знаем, что если Л > 0, то р(Л) является собственным значением для матрицы А, которое по модулю строго больше, чем любое другое ее собственное значение. Следующий результат утверждает, что р(Л) есть собственное значение геометрической кратности 1 (т. е. собственное подпространство, отвечающее р(Л), имеет размерность 1). В действитель-
ности вскоре мы увидим, что и его алгебраическая кратность Также равна 1.
Теорема. Пусть A G Мп, и предположим, что Л > 0 я векторы w, z ненулевые и такие, что Aw = р(Д)гу, Az = р(Д)2. ‘Тогда для какого-то а е С имеем w = az.
Доказательство. Согласно лемме 8.2.3, существуют вещественные числа 6[ и 62, такие, что р = e~iO z > 0 и q = e"t0-w > 0. Положим р^тт^цГ* и образуем вектор r = q — $p. Заме- l<i<n
тим, что г >0 п хотя бы одна из координат вектора г равна О, так что г не является положительным вектором. В то же время Ar=Aq— $Ap = p(A)q— 0р (Д)р = р (Д)г, поэтому если r#=0t то, согласно (8.1.14), г = р(А)-1Аг > 0. Поскольку это неверно, заключаем, что г = 0, и, следовательно, q = рр и w = = ре-^6--6^. □'
Следствие. Пусть А е Мп, и предположим, что А > 0. Существует единственный вектор х, такой, что Ах=р(А)х, х > 0 и £ х,- = 1.
■ f = l
Упражнение. Доказать следствие 8.2.6.
Единственный нормированный собственный вектор, определенный в следствии 8.2.6, часто называется перроновым вектором матрицы А, а число р(Д)—перроновым корнем матрицы А. Конечно, матрица Ат будет положительной, если А положительна, и поэтому все полученные выше результаты справедливы и по отношению к Ат. Перронов вектор для Ат называется левым перроновым вектором матрицы А.
Упражнение. Пусть А е Мп и Д > 0. Доказать, что если для какого-то вектора хеС" справедливы соотношения х 0, х у= 0 и Ах = Хх, то х есть кратное перронова вектора для А и Х = р(Д).
Мы заинтересованы в изучении поведения степеней Ат при пг-*- оо, потому что эти степени приходится рассматривать в связи с вопросами численного анализа и теории цепей Маркова (в теории вероятностей). В следующей лемме выделяются требования, существенные для различных предельных теорем, относящихся к неотрицательным матрицам. Заметим, что все эти предположения выполняются в случае Д>0 и Х = р(Д).
Лемма. Пусть заданы матрица АеМ« и число Хе С. Предположим, что векторы х и у удовлетворяют условиям
Ах = Хх;
Агу = Ху;
хту=1.
Образуем матрицу L = хут. Тогда
Lx = х, yTL = ут;
Lm = L, m = 1, 2, . ..;
AmL = LAm— XmL, m=Y, 2, .
L(A — Щ = 0\
(A - XL)m = Am - XmL, m=l, 2, .
всякое ненулевое собственное значение для А—XL является также собственным значением для А.
Пусть к томи же выполняются условия
" (4) X ^ 0;
X есть собственное значение для А геометрической кратности 1.
Тогда
Л не является собственным значением для А — XL, так что матрица XI— (А— XL) обратима.
Наконец, пусть
|Х| = р(Л)>0;.
X— единственное собственное значение для А с модулем рИ).‘
Упорядочим собственные значения матрицы А таким образом, что | 7; |<| Х2 К ... <| А,„_! | < | Хп | = р(Л). Тогда
рИ-М^^КрИ);
(VM)m = Z, + (Л, ’Л — L)m-> L при m—»oo;
если r — любое число, удовлетворяющее неравенству [| Лп_! |/р (Л)] < г < 1, то для некоторого С = С(г, Л) имеем [I (Х-1Л)т — L\\Loo < Crm при всех пг=\, 2, . ...
Доказательство. Утверждения (а), (Ь), (с) вытекают непосредственно из предположений (1), (2), (3); согласно (3) оба вектора х и у ненулевые. Предложение (d) следует из (Ь) и (с). Утверждение (е) доказывается по индукции с использованием (Ь) и (с). Если матрица А — XL имеет собственное значение ц v-0 и (А — ZZ,)ty = pw для некоторого w =^= 0, то L\A — — XL) w = 0w = 0 = pLw и, следовательно, Lw = 0. Таким образом, (Л — XL) w = A w = рщ, т. e. p является также собственным значением для А, и мы установили предложение (f).
Теперь, если привлечь предположение (4) и взять р = X, то это рассуждение показывает, что если бы вектор го был собственным вектором матрицы А — XL, отвечающим собственному значению X, то он был бы также собственным вектором матрицы А, отвечающим X. Далее, опираясь на предположение (5), мы должны заключить, что ш=ах для какого-то а=Д0. Но
тогда p.to = Xw=(A— XL^w =(А — XL)ax = aXx— Хах О, что невозможно, так как Х#=0 и w =# 0. Это противоречие доказывает предположение (g). Вследствие утверждения (!) или р(Л— XL) = |X^| для некоторого собственного значения Х^ матрицы А, или р(Л— XL) = 0. Однако собственные значения матрицы А упорядочены по неубыванию модулей и |ХЛ| = |Х| = = р(Л). Поэтому в обоих случаях с учетом (g) находим р(Л— XL)^|Xn-i|. Таким образом, неравенство в (h) есть прямое следствие предположения (7). Комбинируя (h) и (е), легко вычислить, что (Х-'Л— Цт = (X~M)m— L-> 0 при т-*оо, так как р (X-*Л — L) = р (Л — ХЛ)/р (Л) ^ | Хл_11/р (Л) < 1. Оценка скорости сходимости в (j) непосредственно вытекает из следствия 5.6.13, примененного к матрице Х-1Л— L с выбором такого числа е, что р(Х-1Л— L) + е ^ [ | Хл_ i | /р (Л) ] + е <_ г < 1.
Упражнение. Продумать детали доказательства предложений '(а), (Ь) и (с).
Теорема. Пусть А е Мп, и предположим, что Л > 0. Тогда
lim [р (Л)"1 Л]т = Е,т-> оо
где L = xyT, Ах = р(А)х, Ату = р(А).у, х > 0, у > 0, хг</=1.
Доказательство. Если Х = р(Л), х— перронов вектор матрицы А и у = ^zV^^, где z — перронов вектор матрицы Ат, то для них выполняются предположения (1) — (7) леммы 8.2.7. Предельное соотношение следует из утверждения (i). □
Следствие. Если А^Мп и Л > 0, то L= lim [р(Л)-1Л]71— m-> оо положительная матрица ранга 1.
Теорема. Если АеМп и А > 0, то р(Л) есть собственное значение алгебраической кратности 1; другими словами, р (Л) — это простой корень характеристического уравнения рл (/) — 0.
Доказательство. Согласно теореме Шура о триангуляриза- ции (теорема 2.3.1) запишем А = UMJ*, где U — унитарная, а А — верхняя треугольная матрицы с диагональными элементами р, ..., р, Хй+1, ..., Хл, где р = р(Л) — собственное значение алгебраической кратности k ^ 1; при i = ^+l, ..., п собственное значение Xi по модулю строго меньше р(Л). В этом
случае получаем
L = lim [р(Л)-‘Л]т = т-»оо
"11
'= U lim'= U lim1
'= U lim
'= U lim
_^+1р
”1”1оор -р -
”1
”1
о
о
р -
р -
где в последних двух выражениях диагональный элемент 1 повторяется к раз, а элемент 0 на диагонали в последнем выражении повторяется п — к раз. Верхняя треугольная матрица в последнем выражении имеет ранг не меньше к, и, так как для L ранг равен 1, случай й> 1 невозможен. □
Теперь соберем вместе основные факты, установленные в этом разделе в отношении положительных матриц.
Теорема (Перрон). Если Л е Мп и Л > 0, то
р(Л)>0;.
р(Л) есть собственное значение матрицы Л;
для какого-то хеС" имеем х >0 и Ах = р(А)х;
р(Л) есть алгебраически (а значит, и геометрически) простое собственное значение для А;
| Л| «< р(Л) для всякого собственного значения Х=#рИ); другими словами, только одно собственное значение, равное именно р(Л) имеет максимальный модуль-, •
если ш->оо, то (р(Л)-1 AYn—>-L, где L = хут, Лх = р(Л)х, Ату = р(А)у, х> 0, у> 0 и хГу = 1.
Теорема Перрона имеет много приложений. Одно из них — элегантное и полезное — связано с указанием области, содержащей собственные; значения матрицы А, с использованием спектрального радиуса и диагональных элементов некоторой оценивающей сверху неотрицательной матрицы.
Теорема (Фань Цзы). Пусть А = [а,/] е Мп, и предположим, что матрица В = [6;,]е Мп имеет неотрицательные элементы и В ^|Л|. Тогда любое собственное значение матрицы А принадлежит области
(J {2еС: |2-azz|^p(5)-6zz}. z-i
Доказательство. Будем считать, что В > 0. Если какие-то элементы в В равны нулю, то можно рассмотреть матрицу Ве = \Ьц -|- е], где е > 0. При этом Ве>|Л| и р(Ве)— — (Ьц + е)->- р(В) — Ьц при е —- 0. По теореме Перрона для какого-то положительного вектора х имеем Вх = р(В)х и, следовательно,
пп
| аи | Xj С £ bijXj = р (В) xt — buxu z = 1п.
Таким образом,
S |a,/l^/<P(5) — bu, z=l, 2, ...,п хг11
и остается обратиться к следствию 6.1.6 с pi = Xi. □
Утверждение (f) из теоремы 8.2.11 гарантирует существование определенного предела, а утверждение (j) из леммы 8.2.7 дает верхнюю оценку скорости сходимости
|![p(X)-M]m-LL<Crm,
где С — некоторая положительная постоянная, зависящая от А и г, и при этом
I ^п-1 I / - / 1р(Л)
где Хп-1 — второе по величине модуля собственное значение матрицы А. Даже в том случае, когда р(А) известно или легко оценивается, может оказаться неудобно или невозможно вычислить или оценить | %„_][, для того чтобы получить приемлемую оценку отношения |7я_1|/р(А). В такой ситуации полезно иметь в виду легко вычисляемую оценку, предложенную Хоп-
фом и справедливую для любой положительной матрицы А = = [аг/] s Мп, а именно
< 1,< 1,|Хга-11 / М —цр (Д) М-р ц
< 1,
< 1,
где Л1 = max {аг7: г, / = 1, 2, ..., п} и p = min{a;/: i, j = = 1, 2, ..., п).
Задачи.
Пусть Л > О, х— перронов вектор матрицы А и z— перронов вектор матрицы Ат. Доказать, что xTz > 0.
Доказать, что если А г Мп—верхняя треугольная матрица, имеющая fe ненулевых диагональных элементов, то rank А ^ к. Показать на примере, что при этих условиях ранг может быть и больше чем к.
Теорию, развитую в этом параграфе, применить к матрице
Г 1 — и Р 1
А =„ , 0 < а, р < 1,
La 1 — р J
и сравнить с выводами, полученными в § 8.0.
Рассмотреть модель миграции населения, описанную в § 8.0, в общем случае п > 2 городов. Пусть все коэффициенты миграции ац положительны. Каково асимптотическое поведение вектора распределения населения р^ при m-э- оо?
Пусть Л > 0. Подробно описать асимптотическое поведение матрицы Ат при т-><х>. Указание. Есть три случая: Ат ->0, Ат расходится и Лт сходится к какой-то положительной матрице. Охарактеризовать и исследовать каждый из этих случаев.
В упражнении после следствия 6.1.8 рассматривается некоторая положительная 2 X 2-матрица. Обсудить этот пример в свете упражнения, следующего за теоремой 8.2.2.
Пусть Л, В г Мп и А > В > 0. Используя минимаксную характеризацию р(5), доказать неравенство р(Л)>р(5). Указание. Если х — перронов вектор для А, то Ах > Вх.
Доказать, что если Л>0 и х— перронов вектор для А, то'
п
РМ) = £ ацХр
i.i=\
Напомним, что по определению xf+ ... +хл = 1.
Показать, что если положительная матрица невырожден- на, то обратная к ней матрица не может быть неотрицательной. Доказать, что если неотрицательная матрица А невырож- денна, то обратная к ней матрица может быть неотрицатель-
ной только в том случае, когда в А имеется в точности по одному ненулевому элементу в каждой строке и в -каждом столбце. Каким образом такая матрица связана с матрицей перестановки?
Продумать детали следующего иного доказательства теоремы 8.2.10. Если р = р(А) имеет алгебраическую кратность к > 1 и у и х — соответственно левый и правый перроновы векторы матрицы А, то для какого-то ненулевого вектора г имеем х = (А— р/)г. Но тогда утх = ут^А— р/)г = 0г2 = 0, что невозможно, так как утх > 0. Указание. Поскольку р имеет геометрическую кратность 1, жорданова форма для А — р/ обладает в точности одним нильпотентным блоком, и его порядок не меньше 2. Показать, что любая нильпотентная матрица BgM, (k >1) ранга к—1 такова, что если Ви = 0 для некоторого и G Сй, то найдется вектор и е С*, для которого Ви = и.
Дополнительная литература
Унифицированное изложение семейства оценок, включающего оценку Хопфа, упомянутую в последнем разделе этого параграфа (и обширную библиографию), см. в работе: Roth- blum U., Tan С. Upper Bounds on the Maximum Modulus of Subdominant Eigenvalue of Nonnegative Matrices.— Linear Algebra Appl., 1985, v. 66, p. 45—86. См. также теорему 2 из гл. II в [Kei].
Неотрицательные матрицы
На практике приходится встречаться и с неотрицательными матрицами, не являющимися положительными. Поэтому теорию, развитую в предыдущем параграфе, необходимо попытаться распространить на случай, когда не все элементы матрицы строго положительны. Вообще говоря, можно рассчитывать на то, что это удастся сделать с помощью подходящего предельного перехода. Для отдельных результатов так оно и есть, однако, увы, таким величинам, как ранг или размерность, непрерывная зависимость не свойственна, и поэтому возможности предельного перехода оказываются ограниченными. Те утверждения теоремы Перрона, которые сохраняют силу при переходе к пределу, содержатся в следующей теореме.
Теорема. Если АеМп и А ^ 0, то р(А)— собственное значение для А и существует неотрицательный вектор х ^ 0, х ■=/= 0, для которого Ах = р (А)х.
Доказательство. Для любого е > 0 определим матрицу А(е) = [а,/+ е] > 0. Обозначим через х(е) перронов вектор
для Л (в), так что х(в)>0 и 2^(6)i=l- Так как множество /=1
векторов (х(е): в > 0} содержится в компактном множестве {х: хе С", ||Х|| !< 1}, для некоторой монотонно убывающей последовательности Bi, 82, ... имеем Нт еА = 0 и при этом суще
ствует предел limx(eft) = x. Вследствие неравенства х(ед)>0, выполняющегося для всех к = \, 2, ..., х= Нт х(вА)^0; равенство х = 0 невозможно, потому что
£ xt = Hm £ х(еД- = 1.
А->оо /=1
Согласно теореме 8.1.18, для всех ^ = 1, 2, ... получаем р(Л (еА))^р(Л(еА+1))^ ... ^р(Л), т. е. последовательность вещественных чисел {р (Л (eA))}*=i, 2,... является монотонно убывающей. А это обеспечивает существование предела р = s Нт р(Л(еА)) и неравенство р ^ р(Л). Теперь примем во вни
мание, что х^О и
Ах - Hm А (еА) х (еА) = Нт р (Л (еА)) х (еА) == к~^ ОООО
= Пт р(Л(вА)) Нт х(еА) = рх. к -+ ооА -> оо
Следовательно, р есть собственное значение для А. Но тогда р^р(Л). Поэтому р не может быть ничем иным, кроме р = = р(Л). □
Теперь рассмотрим некоторое частичное обобщение вариационной характеризации (лемма 8.1.31) спектрального радиуса на случай произвольных неотрицательных матриц и неотрицательных векторов.
В доказательствах, однако, не будет ничего общего.
Теорема. Пусть А е М„, Л ^ 0, хеС” и хV= 0. Если
Ах ^ ах для некоторого а е R, то р(Л) ^ а.
Доказательство. Пусть Л=[а,/]. Возьмем е>0 и определим матрицу Л (в) = [а;/+ е]. Тогда Л (е) > 0 и Л(е) имеет положительный левый перронов вектор г/(е), т. е. i/(e)M(e) = = р (Л (е))(/(е)7'. По условию Ах — ах^О и, стало быть, Л(в)х — ах > Ах — ах ^ 0. Следовательно, у (е)т [Л (е) х — ах] = = [р(Л(е))— а]у(е.)тх > 0. Так как ^(е)7х>0, то р(Л(е)) — ■—а>0 для всех е > 0. Далее, р(Л(е))^-р(Л) при е^-0; по- етому р (Л) а. □ "
Следствие. Если АеМ„иА> 0, то
• р(Л)=тах min —У, auXi.
х>0 Ki<n xi i = \ х^О х^О
'Доказательство. Если А ^ 0, х ^ 0, х ^ О и если мы возьмем
то Ах ^ ах и по теореме 8.3.2 будем иметь а ^ рИ). В качестве х можно выбрать собственный вектор — тот самый, существование которого устанавливается теоремой 8.3.1. В этом случае, как мы видим, верхняя оценка достигается для а = р(Л). □
Упражнение. Рассмотреть ^ = [*°] и х = [ц] и показать, что верхняя оценка из следствия (8.1.29) не обязательно выполняется, если вектор х не является положительным. Показать, что в общем случае теряет силу и минимаксная характеризация (8.1.32). Однако, согласно предыдущему результату, поддается обобщению максиминная характеризация.
При дополнительном предположении теорему 8.3.2 можно несколько усилить за счет уточнения свойств вектора х.
Теорема. Пусть A g Мп и А ^ 0. Предположим, что А имеет положительный левый собственный вектор. Если х ^ 0, х #= 0 и Ах р(Л)х, то Ах = р(Л)х.
Доказательство. Пусть у > 0 и Ату = р(А)у; предположим, что х^О, х^А) и Ах — р(Л)х^0. Тогда
ут [Ах — р (Л) х] = р (Л) утх — р (Л) угх = 0,
откуда и вытекает равенство Ах— р(Л)х = 0. □
Без каких-либо дополнительных предположений при обобщении теоремы Перрона 8.2.11 на неотрицательные матрицы мы не продвинемся дальше того, что уже установлено теоремой 8.3.1. • Если А g М„ и А ^ 0, то неотрицательное собственное значение р(^4) называется перроновым корнем матрицы А. Вследствие неоднозначной определенности собственного вектора, отвечающего перронову корню неотрицательной матрицы, — в отличие от случая положительной А—для произвольной неотрицательной матрицы нет корректно определенного понятия пер- ронова вектора. Например, для неотрицательной матрицы А = 1 всякий неотрицательный вектор является собственным вектором, отвечающим перронову корню р(Л) = 1.
Задачи
Показать на примерах, что утверждения теоремы Перрона 8.2.11, за исключением того, что вошло в теорему 8.3.1, в общем случае неверны для произвольных неотрицательных матриц. Указание. Рассмотреть матрицы [„ 0], [0 °] и [° *].
Доказать, что если А ^ О и Аь > 0 для какого-то k ^ 1, то А имеет положительный собственный вектор.
Пусть матрица А ^ 0 имеет неотрицательный собственный вектор, в котором г ^ 1 компонент положительны и п— г равны нулю. Доказать, что А перестановочно подобна матрице вида [у д], где В е Mr, С е Mr, n-r, D е ЛД_Г; при этом матрицы В, С, D неотрицательные и В имеет положительный собственный вектор. Отсюда следует, что при г <п матрица А разложима.
Рассмотреть такое обобщение следствия 8.1.30: если А ^ 0 имеет неотрицательный собственный вектор х ^ 0, х^О, то Ах = р(А)х. Показать на примерах, что это неверно.
Рассмотреть матрицу А = [„ [] и вектор х = [1,2]г. Показать, что теорема 8.3.4 потеряет силу, если в ней ограничиться только условием А ^ 0. Каковы левый и правый перроновы векторы для Л?
Доказать, что если А ^ 0, то положительная матрица В, коммутирующая с А, существует в том и только в том случае, когда А имеет левый и правый собственные векторы, причем оба положительные. Указание. Если х и у — положительные правый и левый собственные векторы для А, то положить В=хут. Обратно, если х^0 и Ах = р(Л)х, то рассмотреть соотношения ВАх = АВх = Др(Л)х > 0.
Показать, что если матрица А = [щ,] е Мп неотрицательная и трехднэгональная, то все ее собственные значения вещественны. Указание. Сначала убедиться в том, что если все элементы, соседствующие с главной диагональю, положительны, то с помощью некоторой диагональной матрицы D с положительной диагональю от А можно перейти к симметричной матрице D-1AD. Затем показать, что наличие нулей по соседству с главной диагональю не имеет вредных последствий для вещественности собственных значений.
Пусть задана неотрицательная матрица А е Мп. Показать, что либо А неразложима, либо существует матрица перестановки Р, такая, что
Г Ау * ""
РТАР =
Ю Afc
где для всех i = 1, ..., к матрица At либо неразложима, либо это есть нулевая матрица размера 1X1. Такое представление называется неразложимой нормальной формой матрицы A. Safe
метим, что <7 (Л) = U <7 (А,) и для А нормальная неразложимая г = \
форма не обязательно единственна.
Матрицу Л = [а17] е Aln(R), в которой все внедиагональные элементы at,, i V= j, неотрицательны, назовем неотрицательной в главном. Показать, что если А неотрицательна в главном, то для некоторого X > 0 получим X/ + Л ^ 0. Используя это наблюдение и теорему 8.3.1, доказать, что А имеет вещественное собственное значение г(Л) (его часто называют доминирующим собственным значением), обладающее тем свойством, что г(Л)^КеХ; для всех собственных значений X, матрицы А. Показать, что собственное значение г(Л) является не обязательно наибольшим по модулю. Однако если Л ^ 0, то г(Л) = р(Л). Указание. Матрица V + Л имеет собственные значения X Xz.
Теорема 8.1.18 утверждает, что если матрица АеМ„ неотрицательна, то р(Л + В)^р(Л) при условии, что матрица ВеЛ1п тоже неотрицательна — это свойство типа монотонности, относящейся к спектральному радиусу. Показать, что если матрица А е Мп неотрицательна в главном (см. задачу 9), то матрица А + D будет неотрицательной в главном для любой диагональной матрицы DeM„(R). Известно, что если А—заданная неотрицательная в главном матрица и D — переменная матрица, принадлежащая классу вещественных диагональных матриц, то доминирующее собственное значение r^A + D) является выпуклой функцией диагональных элементов матрицы D.
Дополнительная литература
Важная тема, а именно особенности спектров неотрицательных матриц, освещается в работах: Johnson С., Kellogg R., Stephens A. Complex Eigenvalue of a Nonnegative Matrix with a Specified Graph 11. — Lin. Multilin. Alg., 1979, v. 7, p. 129—143; Johnson C. Row Stochastic Matrices Similar to Doubly Stochastic Matrices. — Lin. Multilin. Alg., 1981, v. 10, p. 113—130. Там можно найти ссылки на классическую работу Н. А. Дмитриева, Е. Б. Дынкина и Ф. И. Карпелевича и на работы, относящиеся к обратной проблеме собственных значений для неотрицательных матриц. Эта проблема (требуется охарактеризовать множества комплексных чисел, которые могут составлять спектры неотрицательных матриц) является нерешенной. Дополнительные сведения, связанные с задачей 10, см. в. статье:
Cohen J. Convexity of the Dominant Eigenvalue of an Essentially Nonnegative Matrix. — Proc. Amer. Math. Soc., 1981, v. 81, p. 657—658. См. также задачу 15 § 8.4. -
Неразложимые неотрицательные матрицы .
Полезно иметь в виду следующий эвристический принцип! если какой-то результат установлен для матриц с отличными от нуля элементами, то он обычно обобщается на неразложимые матрицы. Мы уже сталкивались с действием этого принципа— при обобщении основной теоремы Гершгорина (см. гл. 6), а теперь мы увидим другие возможности его применения. Основная идея — это то, что уже было доказано в теореме 6.2.24. Воспроизведем ее часть, необходимую для дальнейшего.
Лемма. Пусть АеМп и А ^ 0. Тогда матрица А неразложима в том и только в том случае, когда (/-t-A)"-1 > 0.
Упражнение. Доказать что неразложимость матрицы А е Мп равносильна неразложимости матрицы Ат.
Нам понадобятся также следующие простые утверждения.
Лемма. Пусть Ае.Мп и Хц ..., Хп— ее собственные значения (с учетом кратностей). Тогда числа Xj + 1, ..., Хп + 1 являются собственными значениями матрицы / + Аир(/ + А)^ ^ 1 + р (А). Если А ^ 0, то р (/ + А) = 1 + р (А).
Доказательство. Пусть Хео(А) имеет кратность к, т. е. X есть корень характеристического уравнения рА (f) = det (// — А) = = 0 и притом корень кратности к. Но тогда X + 1 есть корень уравнения pA+i (s) = det [s/ — (A+/)] = 0, имеющий кратность к, вследствие того, что det(f/ — А) = det [ (f + 1 )/ — (А + /) ]. Поэтому Xi + 1, ..., Хп + 1—собственные значения для А + I. Следовательно, р(7 + А) = max | Х; + 1 I ^ max I ^, I + 1 = 1 +
+ р(А). Однако по теореме 8.3.1 число 1 + р(А) будет собственным значением для I 4- А, если А ^ 0,— в этом случае р(/ + А)=1 +р(А). □
Упражнение. Объяснить, почему неполны следующие доводы в пользу первой части предыдущей леммы: если А имеет собственное значение X, то для некоторого вектора х ^= 0 имеем Ах=Хх; тогда (А + I)x = (X + 1 )х, т. е. X + 1—собственное значение для А + I.
Лемма. Если А еМп, А>0и А6 >0 для некоторого k ^ 1, то р(А) есть алгебраически простое собственное значение матрицы А. ■
Доказательство. Если Хь ..., Л„— собственные значения матрицы Л, то Лр ..., Л*— собственные значения матрицы Л*. Согласно теореме 8.3.1, число р(Л) является собственным значением матрицы Л, и если бы оно было кратным собственным значением, то р(Л)* = р(Л*) было бы кратным собственным значением матрицы Ак, что невозможно, так как р(Л*) должно быть простым собственным значением для Ак в силу теоремы 8.2.10. □
Теперь посмотрим, в какой мере теорема Перрона обобщается на неотрицательные неразложимые матрицы. Этот переход от положительных матриц к неотрицательным связан с именем Фробениуса.
Теорема. Пусть А е Мп, и предположим, что А неразложима и неотрицательна. Тогда
р(Л)>0;
р(Л) — собственное значение матрицы А;
для некоторого положительного вектора х имеем Ах — = рМ)х;
р(Л) — алгебраически (а значит, и геометрически') простое собственное значение для А.
Доказательство. Следствие 8.1.25 показывает, что (а) имеет место при условиях даже более слабых, чем неразложимость. Утверждение (Ь) справедливо по отношению ко всем неотрицательным матрицам в силу теоремы 8.3.1; согласно этой же теореме, существует неотрицательный вектор х =# 0, такой, что Лх = р(Л)х. Но тогда (/+ Л р-’х = [ 1 + р (Л) ] "-‘х и вследствие положительности матрицы (/ + Л)л-1, вытекающей из леммы 8.4.1, вектор (/ + Л),1-1х должен быть положительным согласно (8.1.14). Поэтому х = [1 + р(Л)] ^(I + Л)п-‘х > 0. Чтобы установить (d), применим лемму 8.4.2, из которой сл-е- дует, что если р(Л)—кратное собственное значение матрицы А, то 1 + р(Л) = р(/ + Л)— кратное собственное значение матрицы / + Л. В силу леммы 8.4.1 получаем / + Л^0 и (/ + Л)п-1> > 0, а стало быть, согласно лемме 8.4.3, число 1 + р(Л) должно быть простым собственным значением матрицы / + Л. □
Эта теорема гарантирует одномерность собственного подпространства, отвечающего перронову корню неразложимой неотрицательной матрицы. В случае произвольной неразложимой неотрицательной матрицы ее единственный положительный собственный вектор с суммой координат, равной 1, называется пер- роновым вектором.
Поскольку любая неразложимая неотрицательная матрица имеет положительный собственный вектор, к этому классу мат-
риц применимы результаты, полученные в конце разд. 8.1. Особое значение имеет вариационная характеризация 8.1.32 спектрального радиуса. Далее, Ат неразложима тогда и только тогда, когда А неразложима. Поэтому любая неразложимая неотрицательная матрица обладает также положительным левым собственным вектором. Таким образом, теорема 8.3.4 в действительности справедлива для неотрицательных неразложимых матриц. Именно это наиболее важно для следующего расширения теоремы 8.1.18.
Теорема. Пусть А, ВеМп. Предположим, что матрица А неотрицательна и неразложима и А^\В\. Тогда р(А)^р(В). Если р(Л) = р(В) и Х = е‘фр(В) является собственным значением, матрицы В, то существуют числа 6Ь ..., 9„sR, такие, что B = ei4*DAD"v, где D = diag (eze', ..., ею^.
Доказательство. Из теоремы 8.1.18 мы уже знаем, что если Л^|В|, то р(Л)^р(5). Если р(Л) = р(В), то для какого-то х^О имеем Вх = Хх, где | А | = р(5) = р(Л), и поэтому
р (Л) |х| = |Ах| = |5х|^|й||х|^Л|х|.
Согласно теореме 8.3.4, неразложимость матрицы А позволяет заключить, что А | х | = р (Л) | х | и, следовательно, | Вх | = = |5||х| = Л|х|. Более того, | х | > 0 в силу утверждений (с) и (d) теоремы 8.4.4, и, поскольку |5|^Л, вследствие (8.1.15) и равенства | S ]| х| = Л ] х| находим |В| = Л. Для ^ = 1, ..., п определим 64 е R с помощью соотношения etoft + xk(\ хк |, положим А = е1фр(Л) и D = diag (е1®1, ..., е19"). Тогда x = D\x\ и Ах = е1фр (Л)/)| х | — BD\ х | = Вх. Таким образом, e~l tD^[BD | х |= = р (Л) | х | = Л | х |, вследствие чего, так как |х|> 0 и \е-1Ч,В~гВВ | == А, получаем e'^D^BD = А. □
Упражнение. Продумать детали последней части этого доказательства. Указание. Положить С = e~l'9D~xBD и заметить, что
Л|х| = С|х| = |С|х|К|С||х| = Л|х|,
т. е. неравенство обращается в равенство, arg ctj | Xj | = const, cu>Q и сИ = ач.
Если Л >- 0, то, как мы знаем из теоремы Перрона, число р(Л) является единственным собственным значением матрицы А с максимальным модулем. Если Л ^ 0, то собственных значений с максимальным модулем может быть больше чем одно. Однако в этом случае матрица А должна иметь специальную форму и эти собственные значения располагаются весьма регулярным образом.
Следствие. Пусть А е Мп, и предположим, что матрица А неотрицательна и неразложима и множество S = {Л„ = = р(Л), Хп-ь ..., ^л-А+1} собственных значений с максимальным модулем р(Л) содержит в точности к различных элементов. Тогда кратность любого собственного значения Xi е S равна 1 и v
S = {е2лгр/*Р (Л): р = 0) к- 1), "
т. е. максимальные по модулю собственные значения — это не что иное, как к корней из единицы степени к. Более того, если X— произвольное собственное значение матрицы А, то е2я‘р^Х тоже будет ее собственным значением для всех р = 0, 1, 2, .., .... к— 1.
Доказательство. Для каждого собственного значения из S запишем Ап_р = егфрр(Л) (р = 0, 1, ..., к — 1), т. е. фр = arg (А„_р). Предположим, что к > 1, и, если потребуется, перенумеруем собственные значения и переопределим аргументы таким образом, что 0 = q>0 < q>1 < q>2 < ... < ф&-1 < 2л. В силу теоремы 8,4.5 при В = А и Х = Хп_р находим А = В = el^pDpADp 1 (р = 0, 1, ... ..., к— 1). Поскольку матрицы DpADpX и А подобны, они имеют одни и те же собственные значения, и установленное выше соотношение показывает, что множество собственных значений для А переходит в себя при повороте в комплексной плоскости на угол фр для всех р=0, 1, ..., к — 1, — получаем последнее утверждение из тех, что требуется доказать (при условии, что будет показано, что фр = 2np/k). Далее, Хп = р(Л) является, как известно, алгебраически простым собственным значением для А (вследствие неразложимости Л), поэтому последовательно рассматривая р = 1,2, ..., к — 1, мы можем убедиться в алгебраической простоте всех собственных значений Хп—в.
Однако удается доказать несколько большее. Имеем S — = {АП, ^-ь .... е^рХп_„ .... Ал„_6+1} для любого р = 0, 1, ..., к — 1. Поэтому должно найтись q = q (р), такое, что р (Л) = Хп = е^РХ^-, другими словами, для любого р существует q = q(.p), такое, что фр = 2л — фр (т. е. фр = = — ф7 (mod 2л)) и, значит, е~ефрр (Л) g S. Далее, если мы повторно применим теорему 8.4.5, взяв В = e‘VrDrAD7l и А = = Хп_т = е‘Фтр (Л) для произвольных г, т, где 0 ^г, т^А—1, то получим для Л представление
Л = e^D, Ve^D^D^ D71 = е1 ^«^од^д (DrDm)~\
так что по аналогии с предыдущими рассуждениями множество собственных значений матрицы А переходит в себя при повороте комплексной плоскости на угол фт + фг. В частности, ЧИСЛО 'кпе V^mA^A = е‘ (Фт + Ч>г)р (^) должно быть собственным значением матрицы А (с максимальным модулем), так что для какого-то / = /(т, г) мы должны получить фт + фл = — ф/(тоб 2л).
Рассмотрим множество G = {ф0 = 0, фь ..., ф„_6+1}с: [0,2л). Предыдущий абзац содержит информацию о том, что (a) OeG; (b) если ф,, ф, s G, то ф/+ ф/(тоб 2л) s G; (с) если ф, е G, то —ф; е G. Кроме того, очевидно, что (d) если ф/, ф/е G, то Ф< + ф/= ф/+ ф< (mod 2л). Таким образом, G есть абелева группа, содержащая ровно к элементов, с групповой операцией «сложение по модулю 2л». Так как порядок любого элемента в конечной абелевой группе является делителем порядка группы, каждое число е'41"1 должно быть корнем из единицы какой-то степени р, где р = р^т^)— делитель числа к. Мы можем также доказать это — и нечто еще — без какого-либо применения теории групп.
Поскольку для любых г, т и какого-то / имеем фт + фг = = Фу (mod 2л), по индукции (возьмем г = т=\ и т. д.) находим, что гф[ (mod 2л) s G для всех r = 0, 1, 2, ...; значит, е'^ф (Л) s S для всех г = 0, 1, 2В тоже время, если бы число е'ф| не было корнем из единицы, то в S входило бы бесконечно много различных элементов, чего быть не может. Таким образом, для некоторого р, 1<р^к, имеем el'w=l; будем считать, что р обозначает наименьший индекс с таким свойством. Напомним, что 0 < ф, < ф2 < ... < ф„_6+, < 2л и, зафиксировав какое-то т, рассмотрим фт. Интервал [0, 2л) разбивается щ точности на р полуоткрытых подынтервалов (открытых справа) длиной 2л/р с помощью точек 0, фь 2фь ... ..., ^Р— Офь РФ1 = 2л, и точка фт должна лежать на одном из них. Значит, для некоторого q, О^^^р—1, имеем ^ф, ^ ^Фт<(7+0ф1, или 0^фт — 7ф[ < фи Следовательно, для какого-то / = j (ni) мы должны получить фт — ^ф1 = ф/, потому что, как уже установлено, если е;ф1р(Л) является собственным значением, то собственным значением будет е-'^'р^), так же как и е^'^'р (Л) и е-‘ТО1+1^тр (Л). Но тогда 0^фт — ^ф, = ф;- < фь а ф[ было выбрано как наименьший ненулевой аргумент; значит, фт — ^ф! = 0. Как видим, всякий аргумент фу есть какое-то кратное числа ф, и должно быть р = к, т. е. ф, = 2л/А, поскольку в случае р < к мы получили бы меньше чем к различных элементов в множестве {е‘ч’,р(Л), е2гч,,р(Л), ^^(Л), ...}, которое, тем не менее, должно совпадать с S. Наконец, так как всякое фт — кратное числа ф! = 2л/А и существует к различных чисел фу
и к различных кратных числа ф^ приходим к заключению, что Фт = тф] (т — О, 1, ..., к — 1).
Мы полностью изучили случай й> 1; для /г = 1 то, что здесь утверждается, тривиально. □
Замечание. Если матрица /1^0 неразложима и имеет к > 1 собственных значений с максимальным модулем, то всякое ненулевое собственное значение матрицы Л лежит на какой-то окружности .с центром в 0 (в С), проходящей в точности через к собственных значений матрицы Л, которые образуют на ней равномерную сетку. В частности, к должно быть делителем общего числа ненулевых собственных значений для Л. Поэтому если п X n-матрица Л невырожденна, неотрицательна и неразложима, то в случае простого п может быть одно либо п собственных значений с максимальным модулем и ничего другого.
Следствие. Предположим, что матрица Л е Мп неотрицательна и неразложима. Положим Лт = [п/7)], где m= 1, 2, .. .. Если имеется ровно к > 1 собственных значений матрицы Л с максимальным модулем, то (^^ = 0 (/=1, 2, ..., п), если m не есть целое кратное числа к. В частности, аи = 0 для всех i.
Доказательство. В силу следствия 8.4.6 число X = е'фр(Л), где ф = 2лД, является собственным значением для Л, имеющим максимальный модуль. Чтобы е‘тч> было вещественным и положительным, целое т должно быть кратным числа к. Используя теорему 8.4.5 в случае В = А и Х = е/фр(Л), находим A^e^DAD-1, вследствии чего Ат = е‘тф DAmD-1 и а^ = е1:пфа^ для всех 1 = 1, ..., п и для всех т=1, 2, ... . Если е*тЧ) не есть вещественное положительное число, то такое равенство при аЦ > 0 невозможно. Поэтому, если т не делится на к, тоа^ = = 0 для всех 1=1, .. ■, п. □
Упражнение. Предположим, что матрица А s Мп неотрицательна и неразложима. Показать, что для того, чтобы р(Л) было единственным собственным значением матрицы А с максимальным модулем, достаточно выполнения условия а» =# О для какого-то L Вместе с тем рассмотреть матрицу
"0 1 1 '
1 0 1
- 1 10-
и установить, что это" условие не является необходимым. Можно ли такой же пример найти среди матриц порядка 2?
Замечание. Справедлив результат, более тонкий, чем следствие 8.4.8. А именно, если матрица А ^ 0 неразложима и максимальный модуль имеют & > 1 ее собственных значений, то для некоторой матрицы перестановки Р .
~ 0
^12 0 .
0 ■
РАРТ =
6
•
• ^fe-l,6
- ^а, 1
0.
• • 0 _
где к нулевых блоков на главной диагонали квадратные и показанные в формуле блоки Ац единственные, которые могут быть ненулевыми. В частности, равны нулю все диагональные элементы ан [Var, р. 28].
Регулярное расположение максимальных по модулю собственных значений, описанное в следствии 8.4.6, существенно связано с предположением о неразложимости. Тем не менее, некоторую информацию можно получить в общем случае.
Следствие. Пусть А е М,ъ А ^ 0 и р(А)>0. Если X—собственное значение матрицы А, такое, что |Х| = р(А), то Х/р(А)= е'ч* есть корень из единицы, е'*4’= 1 для некоторого k, 1 ^ k ^ п, и егртр(Д) — собственное значение матрицы А для всех р = 0, 1к — 1.
Доказательство. В случае неразложимой матрицы А эти утверждения вытекают из следствия 8.4.6. Если А не является неразложимой, то она перестановочно подобна блочной верхней треугольной матрице
А^*
-ОАг_
где для любого / блок А, есть квадратная матрица и она либо неразложимая, либо нулевая. Собственные значения матрицы А получаются объединением собственных значений диагональных блоков А], ..., Аг, а для каждого блока А; структура собственных значений с максимальным модулем описывается следствием 8.4.6. □
•Упражнение. Рассмотреть матрицу
Г Л, *А L О АГ Л, *А L О Ае ЛД,е ЛД,
Г Л, *
А L О А
Г Л, *
А L О А
е ЛД,
е ЛД,
гдегдеL1 ОL1 О
где
где
L1 О
L1 О
О' 1 0-
и убедиться в том, что в общем случае для неотрицательной матрицы А ее собственные значения с максимальным модулем не исчерпываются только числом р(Л) вместо со всеми его поворотами при помощи умножения иа степени какого-то одного корня из единицы.
Задачи
Показать иа примерах, что утверждения теоремы Перрона 8.2.11, ие включенные в теорему 8.4.4, в общем случае ие верны для неразложимых неотрицательных матриц.
Показать иа примерах, что равенство р(/+ Л) = 1 + р(А не имеет место одновременно для всех АеМп. Придумать необходимое и достаточное условие на матрицу А, обеспечивающее справедливость этого равенства.
Для того чтобы неотрицательная матрица А имела положительный собственный вектор, неразложимость достаточна, ио не является необходимой. Рассмотреть матрицы [о о] и [fg] и убедиться в том, что разложимая неотрицательная матрица может иметь, а может и ие иметь положительный собственный вектор.
Доказать, что если матрица А ^ 0 неразложима, то элементы матриц [р(Л)-*Л]'” равномерно ограничены при т—>-оо.
Как было установлено, неразложимая матрица обладает положительным перроновым вектором. Предположим, что И ^ О, р(Л) > О, х ^ 0, х ф 0 и Ах = р(Л )х. Доказать, что если вектор х не является положительным, то матрица А разложима. Если вектор х положительный, то должна ли матрица А быть неразложимой?
Предположим, что матрица /1^0 неразложима и матрица S^O коммутирует с А. Доказать, что если х— перронов вектор матрицы А, то Вх — р^В^х. Указание. Использовать утверждение (d) теоремы 8.4.4.
Доказать, что сопровождающая матрица многочлена хк—1=0 представляет собой пример неотрицательной мат-
рицы порядка к, имеющей к собственных значений с максимальным модулем. Обрисовать расположение этих собственных значений на комплексной плоскости,
Пусть заданы положительные целые к\, к2, ..., кр. Показать, каким образом строится неотрицательная матрица, для которой собственные значения с максимальным модулем — это в точности к\ корней из единицы степени ki, к2 корней из единицы степени к2, ..., кр корней из единицы степени кР.
Объяснить, почему неразложимую неотрицательную матрицу А называют циклической индекса к, если она имеет к ^ 1 собственных значений с максимальным модулем,
Доказать, что если неразложимая матрица А ^0 является циклической индекса к ^ 1, то ее характеристический многочлен имеет вид рЛ (/) =/г (/* — р (Л)4) (/* — р*) ... ^tk — ц^), где г, т— какие-то целые неотрицательные числа и щ— комплексные числа, удовлетворяющие условию |щ|<р(Л) (i = = 2т). Прокомментировать расположение нулевых и не
нулевых коэффициентов многочлена PaW и сформулировать критерий, когда матрица А имеет только одно собственное значение с максимальным модулем, базируя его на форме характеристического многочлена. Указание. Из доказательства следствия 8.4.6 получаем, что если ф = 2лД и X — собственное значение матрицы А, то для г = 0, 1,2, ,.. число е‘г^Х будет также собственным значением для А.
Пусть число п > 1 простое. Доказать, что если матрица АеМп неотрицательна, неразложима и невырожденна, то либо р(Л) есть единственное ее собственное значение с максимальным модулем, либо одинаковый модуль имеют все ее собственные значения.
Рассмотреть Л = [° J] и показать, что следствие 8.4.8 нельзя усилить в том смысле, что в общем случае нельзя утверждать, что главная диагональ всех степеней матрицы А состоит из нулей.'
Пусть Л ^ 0. Доказать, что неразложимость матрицы А определяется только расположением ее нулевых элементов и не зависит от значений ненулевых элементов.
Если А, В е Мп, то АВ и ВА имеют один и тот же набор собственных значений. Рассмотреть [о J ] и [° ,] и устано> вить, что даже в случае неотрицательных Л и В возможно, что АВ будет неразложимой, а ВА — разложимой. Этот пример показывает, что неразложимая матрица может быть подобна (и даже унитарно эквивалентна) разложимой матрице. Объяснить, почему. Мы также видим, что никакое условие, использующее только собственные значения, не может служить тестом, однозначно выясняющим неразложимость,
Пусть задана неразложимая неотрицательная матрица Л е Мп. Показать, что матрица А + В неразложима, если матрица Be Мп неотрицательна, и что р(Л + В) > р(Л), если В ^ 0 и В =7^0. Это некоторое усиление теоремы 8.1.18 в сторону строгой монотонности — правда, при дополнительном предположении о неразложимости. Указание. Согласно теореме 8.1.18, р(Л + В) ^ р(Л). В случае равенства, используя теорему 8.4.5, показать, что В = 0.
Показать, что лемму 8.4.1 можно уточнить следующим образом. Пусть матрица А е Мп неотрицательна и ее минимальный многочлен имеет степень т. Доказать, что А неразложима в том и только в том случае, когда (/ + А)т~1 > 0. Указание. Рассмотреть 1 + А + Л2 + ... + Ат-1 + Ат + ... -(-Л"-1 и с помощью минимального многочлена выразить Ат и более высокие степени через I, А, ..., Л"1-1.
Пусть задана неотрицательная матрица АеМп и рассматривается проблема ее аппроксимации матрицей ранга 1 в смысле метода наименьших квадратов, а именно 'надо найти матрицу ХеМп ранга 1, такую, что ||Л — Х||Б = min{||A— У||е1 Y е Мп — матрица ранга 1}. Предположим, что для ААТ перронов корень простой; так будет, если хотя бы одна из матриц ААТ, АТА неразложима. Почему? Доказать, что искомая матрица X неотрицательна, единственна и определяется формулой X = Vry^r, гДе г = р(ЛЛг) — перронов корень для ААТ и и, w е Rn— неотрицательные единичные собственные векторы соответственно для ААТ и АТА, отвечающие собственному значению г. Указание. Использовать характеризацию наилучшего однорангового приближения, установленную в примере 7.4.1, Заметить, что обе матрицы ААТ и АТА вещественны, симметричны и положительно полуопределены, так что вычисление г, и и w — в принципе не очень трудная задача.
Используя задачу 17, найти наилучшее среднеквадратичное одноранговое приближение для каждой из матриц
Г 1 1 1 г 1 11 Г о 0 1
L1 1 J’ L о 1 L г 1 ]*
Показать, что наилучшее среднеквадратичное одноранговое приближение для матрицы А = I е Мп неединственно — таковым будет X = ии* для любого единичного вектора и е Сл,
Примитивные матрицы
Из всех результатов, отмеченных в теореме Перрона, наиболее часто применяемым на практике можно считать предельное соотношение из теоремы 8.2.8. Анализ теоремы 8.4.4 пока-
зывает, что есть только одно препятствие, не позволяющее применять лемму 8.2.7 к любым неразложимым матрицам, а именно отсутствие свойства, что спектральный радиус — это единственное собственное значение с максимальным модулем. Так, матрица Л = [° „] служит примером неотрицательной неразложимой матрицы, имеющей два собственных значения с максимальным модулем (ПтЛш не существует). Как видим, необходимы какие-то дополнительные ограничения класса неразложимых матриц; наиболее простой выход — потребовать именно то, чего нам недостает.
0. Определение. Неотрицательная матрица Л е Мп называется примитивной, если она неразложима и обладает только одним собственным значением с максимальным модулем.
Понятие примитивности принадлежит Фробениусу (1912 г.). Теперь предельное соотношение вытекает сразу же из леммы 8.2.7 — с тем же доказательством, что и для теоремы 8.2.8.
Теорема. Если матрица Л ее Мп неотрицательна и примитивна, то
Игл [р^г1 лГ = т >0,
где L = xyT, Лх = р(Л)х, Л7у = р(Л)у, х > 0, у > 0, хту=\. Более того, если собственное значение Хп-\ таково, что |Х|^ ^|X„_i| для всех собственных значений Х=т^р(Л) и pvn-i |/р(Л) < г < 1, то для некоторой постоянной С = С(г,А) имеем II [р(Л)-1Л] m — L\\!od^. Crm для всех m = l, 2, ... . □
Теперь все пункты теоремы Перрона, сформулированной для класса положительных матриц, обобщены на класс примитивных неотрицательных матриц. На практике, однако, еще требует решения вопрос о проверке примитивности для заданной неотрицательной матрицы; в идеале можно рассчитывать на то, что это удастся сделать без явного вычисления собственных значений. Следующая характеризация примитивности не является сама эффективным для вычислений тестом, но приводит к нескольким полезным критериям.
Теорема. Пусть матрица AeNT неотрицательна. Тогда А примитивна в том и только в том случае, когда Ат > 0 для некоторого m ^ 1.
Доказательство. Если /1 >0 и Ат > 0, то из каждой вершины Pi ориентированного графа Г (Л) матрицы А в каждую другую вершину Р] должен вести направленный путь, длина которого в точности равна т (см. следствие 6.2.18). Поскольку
это более сильное свойство по сравнению с неразложимостью, Л должна быть неразложимой. Так же как в лемме 8.4.3, применим утверждения (d) и (е) теоремы Перрона 8.2.11 к Лт. Таким образом, устанавливается примитивность матрицы Л. Обратно, если Л примитивна, то Нт [р (Л)-1 Лт] = L > О, согласно теореме 8.5.1, и поэтому для какого-то m ;> 1 [р (Л)-1 Л]* > 0. □
Эта характеризация вместе с уже имеющейся очень тонкой информацией о максимальных по модулю собственных значениях неотрицательных неразложимых матриц позволяет получить графовый критерий примитивности, сходный с графовым критерием неразложимости. Напомним, что наибольший общий делитель (НОД) последовательности положительных целых чисел kt, кг, ... —это наибольшее целое к ^> 1, такое, что к является делителем для всех къ к^, ... .
Теорема. Пусть матрица Л ^ Мп неотрицательна и неразложима и (Р;} обозначает множество вершин ориентированного графа Г (Л). Обозначил! через Lt — (&(il), kV\ ...) множество длин всевозможных ориентированных путей в Г (Л), начинающихся и заканчивающихся в вершине Р, (t = 1, 2, ..., nV Обозначим через gt наибольший общий делитель для всех длин из Lt. Тогда матрица Л примитивна в том и только в том случае, когда gt = 1 для всех 1 = 1,2, ..., п.
Доказательство. Заметим, что в силу неразложимости . матрицы Л ни одно из множеств Lt не будет пустым; для каждого i и для всякого j=^i в Г (Л) есть путь, соединяющий Pt с Рр так же как и путь, соединяющий Pj с Рр Если матрица примитивна, то по теореме 8.5.2 для некоторого т Y> 1 имеем Лт > 0 и, следовательно, Л* > 0 для всех к ^ т. Но тогда т, т + 1, т + 2, ... ^ Lt для всех i = I, ..., п, и поэтому gt — 1 для всех i — 1, ..., п.
Теперь предположим, что матрица А = [аг/] не примитивна. Если А имеет ровно к > 1 собственных значений с максимальным модулем, то, согласно следствию 8.4.8, а^ = 0 для всех i = 1, ..., п и для всех т, не кратных к. Итак, Lt ст \к, 2k, 3k, ...(' и, следовательно, gt ^> к > 1 для всех i = 1, ..., п. □
Замечание. Справедливо нечто большее по сравнению с тем, что утверждается в теореме 8.5.3; в действительности всегда gi = gi = ... = gn, и это общее значение величин gt в точности равно числу собственных значений матрицы А с максимальным модулем. Это теорема Романовского.
Следующий результат полезен во многих ситуациях; в частности, он показывает, что любая неразложимая неотрицательная матрица с положительной главной диагональю обязана быть примитивной.
Лемма. Если матрица Л £ Л4П неотрицательна и неразложима и все ее диагональные элементы положительны, то Л«-> > 0.
Доказательство. Если а = min (аи, а22, ..., апД и
В = Л — diag (аи, а22, а^),
то матрица В неотрицательна и неразложима (так как Л неразложима) и Л а/ + В = а Ц + (1/а)В), а стало быть, Л""1 а"-1 (/ -]- (1/а) ВУ"Х > 0 по лемме 8.4.1. □
Упражнение* Если неотрицательная квадратная матрица с положительными диагональными элементами возводится в степень, то любой элемент, став положительным, остается таковым для всех более высоких степеней.
В то время как неразложимая матрица может иметь разложимую степень, все степени любой примитивной матрицы остаются примитивными.
Лемма. Пусть матрица Л £ Мп неотрицательна и примитивна. Тогда матрица Ак неотрицательна, неразложима и примитивна для всех k = 1, 2, ... .
Доказательство. Поскольку все достаточно большие степени матрицы Л положительны, то же верно по отношению к Л6 для любого к. Если матрица Ак разложима для какого-то к, то все степени матрицы Ак будут разложимыми, а значит, они не могут быть положительными. Получаем противоречие с тем, что все достаточно большие степени матрицы А положительны. Значит, никакая степень матрицы А не может быть разложимой. □
Теорема 8.5.2 характеризует примитивность, но она — если ограничиться только тем, что в ней утверждается, — не может служить сколько-нибудь эффективным вычислительным тестом, потому что в ней не указывается никакой верхней оценки для степеней, требующих вычисления. Если найдено т, такое, что Ат > 0, то Л примитивна; однако когда следует остановиться, если положительная степень еще не получена? В следующей теореме устанавливается конечная оценка, отвечающая на этот вопрос.
Теорема. Пусть матрица А ^ Мп неотрицательна. Если А примитивна, то Ак > 0 для некоторого положительного целого к (п — 1) пп. '
Доказательство. Вследствие неразложимости матрицы А существует ориентированный путь, исходящий из вершины Рг в Г (Д) и возвращающийся в вершину Рг; пусть кратчайший такой путь имеет длину ^ <; п. Следовательно, матрица Ак> в позиции (1,1) содержит положительный элемент, и он остается положительным для всех степеней матрицы Ак>. Так как А примитивна, Д*1 должна быть неразложимой по лемме 8.5.6 и, значит, существует ориентированный путь, начинающийся в вершине УД графа Г (Д*>) и заканчивающийся также в вершине Р2; пусть кратчайший такой путь имеет длину k2 <1 п. Тогда в матрице (А^уч = Ак'к» будут положительными элементы в позициях (1,1) и (2,2). Этот процесс можно продолжить, просматривая главную диагональ сверху вниз до тех пор, пока не будет получена матрица Д*А ■■ Д (^. ^/г), которая является неразложимой и обладающей положительными диагональными элементами. Поэтому в силу леммы 8.5.5 имеем (Д^2 кпу-х > 0 и при этом
ДД ^п (« — 1) <^ н-н- •■• •« (« — 1) = пП (п — 1), что и требовалось доказать. □
Для любой заданной примитивной матрицы А наименьшее &, такое, что Ак > 0, называется ее индексом примитивности и обычно обозначается через у (Л). Мы уже знаем, что у (Л) <; Д п — 1, если А имеет положительную диагональ, и у (Д) <1 <' пп (п — 1) в общем случае. Последнюю оценку можно значительно улучшить.
Теорема. Пусть А^Мп— неотрицательная примитивная матрица, и предположим, что кратчайший простой ориентированный цикл в Г (Д) имеет длину s. Тогда X«+s («-2) > д, и, значит, у (Л) <п + $(п — 2).
Доказательство, Так как А неразложима, всякая вершина графа Г (Л) принадлежит какому-то циклу и самый короткий цикл, начинающийся в ней и возвращающийся в нее же, должен быть простым циклом длины не более п. Можно считать — этого можно добиться с помощью перестановок, — что вершинами такого самого короткого цикла являются Рг, Р2, ..., Ps. Заметим, что п + s (п — 2) = п — s + s (и — 1), и рассмотрим Д п—$+$ щ—о = An"s (As)n—^ Запишем А"—5 в блочном виде:
Дп-sДп-s^11^12. Х21 Х22 .^11^12. Х21 Х22 .
Дп-s
Дп-s
^11^12
. Х21 Х22 .
^11^12
. Х21 Х22 .
где Хп g Ms и Хм £ Мп_3. Тогда в каждой строке матрицы Хп есть хотя бы один ненулевой элемент — вследствие того, что*
вершины Рг, ..., Р, образуют в Г (Л) цепь и, следовательно, в графе Г (Лл-$) из каждой вершины Р, какая-то дуга ведет в какую-то вершину Pj (возможно, Pj = Р^; это верно при 1 i, / <С s. В каждой строке в Х21 тоже существует по меньшей мере один ненулевой элемент — потому что для каждой вершины Р8+1, ..., Рп, не входящей в рассмотренную выше цепь, в Г (Л) должен найтись ориентированный путь длины не более п—s (число вершин, не входящих в цикл), ведущий в какую-то вершину этой цепи. Понятно, что с помощью достаточного числа дополнительных обходов цикла в графе Г (Л) от любой вершины, не входящей в цикл, можно провести ориентированный путь в какую-то вершину этого цикла, и он будет иметь длину, в точности равную п — s.
Теперь запишем (Л5)л~1 в блочном виде:
где Уц £ Als, YM £ Afn_s. Так как в графе Г (Л) вершины Рг, ..., Ps образуют цйкл, в графе Г (Л5) в каждой вершине Рь ..., Р, есть петля. Поскольку Л примитивна, Л5 тоже примитивна и, значит, неразложима. Каждая из вершин Рг, ..., Ps графа Г (Л5) соединена с любой другой вершиной этого графа путем длины не более п— 1. Всегда можно построить такой путь, имеющий длину, в точности равную п — 1, —за счет добавления достаточного числа обходов по петле в начальной вершине. Это показывает, что Уп > 0 и У12 > 0.
Чтобы завершить доказательство, запишем
Лл-$(Л5)п-1 =Лл-$(Л5)п-1 =К 22 _К 22 _^21^21^12\У 22 _^12\У 22 _КцУц XyiYll X^Y 11 К21У22 .КцУц XyiYll X^Y 11 К21У22 .
Лл-$(Л5)п-1 =
Лл-$(Л5)п-1 =
К 22 _
К 22 _
^21
^21
^12\
У 22 _
^12\
У 22 _
КцУц XyiYll X^Y 11 К21У22 .
КцУц XyiYll X^Y 11 К21У22 .
Вследствие того что в каждой строке блоков Хи и Хм есть хотя бы один ненулевой элемент и каждый из блоков Уц и ¥12 положительный, последняя блочная матрица является положительной, т. е. Л”-5 (Л5)"-1 > 0. □
Одно из следствий теоремы 8.5.8 — это знаменитый результат Виландта, устанавливающий точную верхнюю оценку индекса примитивности для произвольной примитивной матрицы.
Следствие. Если матрица Л £ Мп неотрицательна, то Л примитивна тогда и только тогда, когда Лп!”2,1+2 > 0.
Доказательство. Если какая-то степень матрицы Л положительна, то Л примитивна; поэтому интерес представляет лишь
обратное утверждение. При п = 1 результат тривиален, так что будем считать, что га > 1. Вследствие своей примитивности матрица А неразложима и в графе Г (Л) есть циклы. Если самый короткий цикл в Г (Л) имеет длину га, то длина любого другого цикла делится на га, и, следовательно, по теореме 8.5.3 матрица А не может быть примитивной. Таким образом, длина самого короткого цикла в Г (Д) меньше или равна га — 1, и, значит, в силу теоремы 8.5.8
у (Д) ^ га ф- s (га — 2) < га 4* (га — 1) (га — 2) = га2 — 2га + 2. □
Виландт привел пример (см. задачу 4 в конце этого параграфа), показывающий невозможность улучшения оценки у (Д) <( га 2 — 2га + 2 для класса матриц, в которых все диагональные элементы нулевые. Как мы знаем, если все элементы главной диагонали положительны, то А примитивна тогда и только тогда, когда А""1 > 0. Следующий результат Холидея и Варги использует те же идеи, которые уже применялись в доказательстве теоремы 8.5.8, и устанавливает верхнюю оценку индекса примитивности в тех случаях, когда некоторые, но, возможно, не все элементы главной диагонали являются положительными.
Теорема. Пусть матрица А ^Мп неотрицательна и неразложима, и предположим, что она имеет d положительных элементов главной диагонали, где 1 <^d ^ п. Тогда A2n”d"v > 0 и, значит, у (Д) 2га — d— 1.
Доказательство. Согласно условиям теоремы, матрица А должна быть примитивной 1), а в Г (Д) минимальная длина циклов равна 1. В действительности имеется d таких циклов. Выполнив, если нужно, перестановки, можно считать, что Ръ ... .... Pd — это вершины графа Г (Д), имеющие петли. Рассмотрим Д2”-4—1 = Дп—d (Д1)п—1 и запишем
где Хи, Уп £ Md и Х22, У22 € Mn_d. Те же доводы, которые уже использовались по отношению к соответствующим блокам в An~s и (Д5)""1 при доказательстве теоремы 8.5.8, теперь показывают, что каждая строка блоков ХИ и Х21 содержит хотя бы один ненулевой элемент, а блоки Уи и У12 положительные. По той
х) Если бы А не была примитивной, то, согласно следствию 8.4.8, она имела бы нулевую главную диагональ.—Прим, перев.
же причине, которая уже отмечалась в теореме 8.5.8, произведение Ar*-dAri-v будет положительным. □
Упражнение. Установить примитивность матрицы А = [ ° * . Каковы ее собственные значения? Вычислить оценки для у (Л), устанавливаемые следствием 8.5.9 и теоремой 8.5.10. Каково точное значение индекса у (Л)?
Сделаем заключительные замечания. Проверку заданной неотрицательной матрицы на примитивность можно проводить, выясняя неразложимость этой матрицы и выполнение условия Виландта (лемма 8.5.9). Матрицы, возникающие на практике, часто имеют специальную структуру, позволяющую довольно просто узнать, будет ли соответствующий ориентированный граф сильно связным. Далее, если хотя бы один диагональный элемент положителен, то матрица непременно примитивна. Однако, если матрица большая и не обладает какой-либо спецификой или симметрией, а также если все ее диагональные элементы нулевые, то может оказаться необходимым для проверки неразложимости или примитивности использовать именно лемму 8.4.1 или следствие 8.5.9. В обоих случаях требуемое число матричных умножений значительно сокращается, если интересующая нас матрица последовательно возводится в квадрат, до тех пор пока не будет получена степень, превышающая критическое значение, соответственно равное п—s или п1— 2п + 2. Например, при п =• 10 для проверки неразложимости достаточно вычислить (7 + Л)2, (7 + Л)4, (7 + Л)8 и (7 + Л)16, т. е. нужно выполнить 4 матричных умножения вместо 8 в случае прямого применения леммы 8.4.1. Аналогично, если А неотрицательна, то для проверки ее примитивности достаточно вычислить Л2, А4, Л8, Л16, Л32, Л64 и Л128, т. е. нужно выполнить 7 матричных умножений вместо 81. Заметим, что в этих рассмотрениях мы "неявно использовали задачу 3.
Задачи
Записать доказательство теоремы 8.5.1.
Показать, что если матрица А £ Мп неотрицательна и примитивна, то lim «W'm = Р И) Для всех I, / = 1, ..., п. Сравнить этот результат со следствием 5.6.14. Нельзя ли опустить какую-либо часть из условия задачи?
Доказать, что если Л > 0 и Л6 >0, то Ат > 0 для всех т ^ k. Доказать, что если А примитивна, то Ак примитивна для любого положительного целого к. Если А и В обе примитивные, то АВ может, однако, и не быть примитивной. Рассмотреть [иьг:1-
Рассмотреть матрицу Виландта
О”
ЕМп
и, анализируя Г (Л), установить ее неразложимость и примитивность при всех п ^ 3. Затем убедиться в том, что позиция (1,1) в Л"2—2"+1 содержит нуль и в то же время Л"2-2"+2 > 0. Указание. Рассмотреть Л как линейное преобразование, действующее на стандартный базис {elt ..., еп|. Далее, А: е{ -> ?, Л"-1: е;-> ?, Л (п-1) (п-1). 61 _► ?
Пусть матрица А £ Мп неотрицательна и неразложима. Доказать, что А примитивна, если хотя бы один ее диагональный элемент положителен. Показать, что это достаточное условие является необходимым при п = 2 и не является таковым при /г 3.
Пусть матрица А = [a;j-l £ Мп неотрицательна и ahh > 0 для какого-то k = 1, 2, ..., п. Показать, что, какой бы ни была степень матрицы Л, в ее позиции (к, k) находится также положительный элемент. Если ahh = 0 и в Л2 позиция (к, k) содержит положительный элемент, то будет элемент в этой позиции положительным в Л3?
Разобраться в деталях метода сокращения вычислительных затрат, предложенного в конце этого раздела.
Для любой идемпотентной матрицы А имеем А = Игл Ат.
Доказать, что если А неотрицательна, неразложима и идемпо- тентна, то она является положительной матрицей ранга 1.
Привести пример, с тем чтобы показать возможность существования предела Игл (р (Л)-1 Л)т и в том случае, когда матрица Л ^ 0 не является примитивной. На самом деле А может быть разложимой, а также у нее могут быть кратные собственные значения с максимальным модулем.
Доказать следующее частичное обращение теоремы 8.5.1: если для неотрицательной неразложимой матрицы А £ Мп существует lim (р(Л)-*Л)т, то А примитивна. Указание. Если
| р | = р (Л), ц ^ р (Л) и Аг = pz, г ^ 0, то (р (Л)-1 А)тг —► ?
Показать, что матрица А = [, q] неразложима, но А2 разложима. Противоречит ли это лемме 8.5.6?
Привести пример неразложимой неотрицательной матрицы Л ^ Мп, для которой не существует Нт (р (Л)-1 Л)т.
Доказать, что если е > 0 и матрица Л £ Мп неотрицательна и неразложима, то матрица Л + е/ примитивна.
Неотрицательная матрица Л = [ао] называется комбинаторно симметричной, если ai} > 0 тогда и только тогда, когда ал > 0 (i, / = 1, ..., п). Доказать, что если Л комбинаторно симметрична и примитивна, то Л2л”2 > 0. (Указание. Рассмотреть Л2 и использовать лемму 8.5.6 и теорему 8.5.10.) Можно ли усилить оценку для у (Л), учитывая дополнительную информацию о структуре циклов в Г (Л)? Указание. Использовать теорему 8.5.8.
Показать, что если матрица Л £ Мп неотрицательна, неразложима и невырожденна и число п. простое, то либо Л примитивна, либо все собственные значения матрицы Л имеют одинаковый модуль и Л подобна сопровождающей матрице многочлена хп — р (Л)" = 0.
Перронов вектор и спектральный радиус неотрицательной матрицы Л с Мп можно вычислить с помощью степенного метода, а именно:
х№ — произвольный положительны?! вектор, такой, что i=i
y<m + D = Дх^, m = о, 1,2,.. .;
X^+D = -Д', m — О, 1,2,....
Е -/Г+1>
Доказать, что если Л примитивна, то последовательность векторов х№ сходится к (правому) перронову вектору матрицы Л, а последовательность чисел Е г/;^1* сходится к перронову кор- i=i
ню матрицы Л. Какова скорость сходимости? Необходимо ли предположение о примитивности?
Показать, что примитивность неотрицательной матрицы Л ^ Мп зависит лишь от расположения ее нулевых элементов, а не от того, каковы значения ненулевых элементов.
Доказать, что если матрица Л £ Мп неотрицательна, неразложима и симметрична, то Л примитивна тогда и только тогда, когда Л + р (Л) I невырожденна. В частности, это условие имеет место в случае положительно полуопределенной матрицы Л. Симметричные неотрицательные матрицы с элементами, равными 0 или 1, возникают естественным образом как матрицы смежности неориентированных графов.
Доказать, что если матрица A £ Мп примитивна и к >.
у (Л), то Ак > 0.
Продумать детали доказательства теоремы 8.5.10.
Вычислить собственные значения и собственные векторы для каждой из следующих матриц и расклассифицировать их в соответствии с ключевыми понятиями этой главы (неотрица
тельность, неразложимость, примитивность, положительность . г 1 1 ] гом г * о 1 Г 1 01 Г 1 01 Г о 1 1 Г° °1
ит-Д-):4 [о .]- [ о о], [о о J. [о oj- 9™ оро
шая иллюстрация возможностей, которые могут встретиться.
Доказать, что каждый столбец в Хи и Х12 (см. доказательство теоремы 8.5.8) содержит хотя бы один ненулевой элемент. Доказать, что У21 > 0.
Дополнительная литература
Доказательство теоремы Романовского, упомянутой в разделе 8.5.4, см. в статье: Romanovsky V. Recherches sur les Chaines de Markoff. —Acta Math., 1936, v. 86, p. 147—251.
Общая предельная теорема
Для произвольно взятой неотрицательной и даже неразложимой матрицы А ее нормированные степени могут и не иметь никакого предела — это показывает с очевидностью пример матрицы
Тем не менее, в некотором вполне, точном смысле в среднем этот предел существует.
6.1. Теорема. Пусть матрица А ^ Мп неотрицательна и неразложима и Ах = р (А)х, АТу = р (А) у, хту = 1 uL = хут. Тогда
N
Ит 4"У (РИГ1 A^ = L.
N-oo Л
т=1
Более того, для некоторой положительной постоянной С = С (А) для всех N = 1, 2, ... выполняется неравенство
N.
4-2 (р (A)-1 A^-Lm=l
Доказательство. Положим X = р (А) и возьмем векторы у и х — соответственно левый и правый перроновы векторы матрицы
А. Тогда условия (1)—(5) леммы 8.2.7 выполнены и, следовательно, матрица
/ - (р (Л)-1 А - L) = р (Л)-1 [р (Л) / — (Л — р (Л) Л)]
будет обратима. Используя утверждение (е) леммы 8.2.7 и равенство из задачи 1 в конце этого параграфа, находим
N
т=1■
NN
= 4-2 № (AVA-Lr-VD = L^-L^ [р (А)-1 А - Ы = m=lт=1
= Л + 4 ^Р^Г1 А - ЦЦ - [р (Л)”= А - ЬП •
^/-[р(Л)-1 А-£]}-> =
= L + 4- (р (^ А - L\\I - [р (Л)-1 А]" + L\.
.^I-Vp^A-MV.
В последнем выражении рассмотрим второе слагаемое. В его составе зависят от N только множитель 1/N и член (р (Л) "1 A)w, но в последней матрице все элементы равномерно ограничены при N -* оо в силу следствия 8.1.33. Таким образом, второе слагаемое при N -* оо имеет порядок О (1/п) и поэтому равномерно стремится к нулю. □
Анализ предположений, используемых леммой 8.2.7 и следствием 8.1.33, показывает, что совершенно такие же аргументы приводят к более общему (но уступающему в краткости формулировки) результату.
6.2. Теорема. Пусть матрица А £ Мп неотрицательна, и пусть х и у — неотрицательные векторы, такие, что Ах = р (А) х и АТу = р (А) у. Предположим, что выполнены следующие условия:'
Р (Л) > 0;
хТу > 0;
матрица I — [р (А)-1 А — (хТуу-1 хут] обратима;
матрица (р (Л)—1 Л)т равномерно ограничена при т-* оо.
Тогда
N
т=1т=1Нт 4" 2 [р А1т = (хТУГл хут. '
т=1
т=1
Более того, для некоторой положительной постоянной С = С (Л) при всех N = 1, 2, ...
(ХТу)~Х хуТ(ХТу)~Х хуТN
(ХТу)~Х хуТ
(ХТу)~Х хуТ
-X- ^2 (р (Л)-1 Л]- т=1
Задачи
Доказать, что если В £ Мп и матрица /—В обратима, то N
2 вт = в (I — в^) и — в)-1. т=1
Указание. Умножить обе части на I — В.
Доказать теорему 8.6.2.
Сравнить скорости сходимости в теоремах 8.5.1 и 8.6.1. Привести примеры, показывающие неулучшаемость оценки скорости сходимости в теореме 8.6.1.
Предположим, что матрица А £ Мл неотрицательна и неразложима, и запишем Ат = [й^*], где т = 1, 2, ... . Используя теорему 8.6.1, доказать, что для каждой заданной пары (i, /) неравенство а^ > 0 выполняется для бесконечно многих значений т. Этот результат можно считать обобщением теоремы 8.5.2. Привести пример, в котором имеется также бесконечно много значений т, для которых а^ = 0.
Доказать, что в условиях теоремы 8.6.2 а^'1 > 0 для бесконечно многих значений т и таких пар (i, /'), для которых xty5 =^ 0. Почему этот результат включает в себя задачу 4?
Показать непосредственно, что теорема 8.5.1 влечет за собой теорему 8.6.1, если матрица А примитивна. Указание. Здесь требуется доказать следующий результат из анализа: если последовательность сходится к конечному пределу, то и последовательность средних по Чезаро имеет тот же 'предел.
Рассмотреть матрицу А = [, о] и явно вычислить
'N
Нт АН1 ^ (р (Л)"1 А)т.
N-*-ao т=1
Найти значение этого предела, используя теорему 8.6.1, и сравнить.
Стохастические и двоякостохастические матрицы
Неотрицательная матрица А £ Л4П, в которой все строчные суммы равны +1, называется (строчной) стохастической матрицей — по той причине, что каждую строку можно рассматривать как распределение вероятностей на дискретном вероят-
ностном пространстве из п событий. Столбцовая стохастическая матрица — это транспонированная к строчной стохастической матрице. Такие матрицы возникли естественным образом в модели междугородней миграции населения, обсужденной в § 8.0. Стохастические матрицы возникают также при изучении цепей Маркова и в самых различных проблемах, связанных с моделированием в таких областях, как экономика и исследование операций.
Множество стохастических матриц в Мп — это компактное выпуклое множество с одним простым, но важным свойством. Обозначим через е £ Rn вектор со всеми координатами, равными + 1; тогда неотрицательная матрица А £ Мп будет стохастической в том и только в том случае, когда Ае = е. Таким образом, стохастические матрицы образуют в Л1П легко распознаваемое семейство матриц, имеющих некоторый общий положительный собственный вектор. Неотрицательные матрицы с положительным собственным вектором обладают многими специальными свойствами (см. разд. 8.1.30, 8.1.31 и 8.1.33), которые, конечно, присущи всем стохастическим матрицам.
Стохастическая матрица А £ Мп, для которой АТ тоже стохастическая, называется двоякостохастической; для нее все строчные и столбцовые суммы равны +1. Множество двоякостохастических матриц также является компактным выпуклым множеством в ЛД, и неотрицательная матрица А £ Мп, очевидно, двоякостохастическая тогда и только тогда, когда Ае = е и еТ А = ет. Один тип двоякостохастических матриц нам уже встречался в теореме 6.3.5 — это ортостохастическая матрица А = = 1| мг; ]2], отвечающая унитарной матрице U = [и,-;] £ Мп. Строчные и столбцовые суммы для А равны +1 вследствие того факта, что строки и столбцы в U представляют векторы единичной евклидовой длины.
Другой пример двоякостохастических матриц — это множество (группа) матриц перестановок. В действительности матрицы перестановок являются фундаментальными прототипами двоякостохастических матриц — в силу теоремы Биркгофа любая двоякостохастическая матрица есть выпуклая комбинация конечного числа матриц перестановок. Излагаемое ниже доказательство теоремы Биркгофа основывается на том факте (см. приложение В), что всякая точка выпуклого компактного множества S является выпуклой комбинацией его крайних точек. Мы покажем, что крайние точки множества двоякостохастических матриц — это не что иное, как матрицы перестановок.
Теорема (Биркгоф). Матрица А £ ЛД является двоякостохастической в том и только в том случае, когда для некоторого N < оо существуют матрицы перестановок Ръ ..., PN £ Мп
и положительные числа ап ..., aw С R, такие, что aj 4- ... ... + aN = 1 и А = а^ + ... + aNPN.
Доказательство. Достаточность очевидна, поэтому требуется установить именно необходимость. Пусть задана двоякостохастическая матрица А = [ai;-] £ Мн. Если А — матрица перестановки, то в каждой ее строке и в каждом столбце в точности один элемент равен +1, а остальные элементы нулевые. Если бы можно было записать А = а^В + а2С, где 0 < an а2 < 1, «1 + а2 = 1 и S, С — двоякостохастические матрицы, то элементы в В и С, отвечающие нулю в А (т. е. элементу аи = 0), должны были бы удовлетворять соотношению 0 = a-l3 = а^, + + а2с^, откуда Ь^ = си = 0, так как числа ах и а2 оба отличны от нуля, а Ьц и Сц неотрицательны. Поскольку матрицы В и С двоякостохастические, их строчные суммы равны +1 и, следовательно, ненулевые элементы должны быть равны +1 и занимать те же позиции, что и ненули в А. Итак, А = В = С. Это доказывает, что любая матрица перестановки является крайней точкой множества двоякостохастических матриц.
С другой стороны, если А не является матрицей перестановки, то по меньшей мере одна ее строка, скажем ^-я, содержит по меньшей мере два ненулевых элемента. В этой строке возьмем ненулевой элемент atili. Должны выполняться неравенства 0 < ац(з < 1, так как в ti-й строке не меньше двух ненулевых элементов и сумма всех ее (неотрицательных) элементов равна +1. Поскольку 0 < aili2 < 1 и сумма всех (неотрицательных) элементов столбца с номером /2 равна +1, в этом же столбце должен найтись еще один ненулевой элемент а^,,,, /3 ^ /2> для которого 0 < atltl < 1. По той же причине в одной строке с элементом а1>{1 имеется другой ненулевой элемент а^, Ц^Дг. и для него 0 < aiiti < 1. Пусть этот процесс продолжается, и последовательно выбираемые элементы как-то помечаются. Тогда после какого-то конечного числа шагов обязательно возникнет ситуация, когда мы выберем элемент, который ранее уже выбирался. Последовательность элементов от первого до второго появления элемента а13 (включаем первое, но не второе появление) — это конечная упорядоченная последовательность элементов матрицы А, в которой любая пара соседних элементов находится попеременно то в одном столбце, то в одной строке; пусть а^р обозначает наименьший (положительный) элемент в этой последовательности. Построим матрицу В £ Мп, в которой в позиции, соответствующей первому элементу ai3 рассмотренной последовательности, поставим +1, в позиции второго элемента поставим —1, в позиции третьего элемента— вновь +1 и т. д., с поочередным выбором ±1. Все остальные элементы в В положим равными нулю. Заметим, что
все строчные и столбцовые суммы матрицы В равны нулю. Положим Лц. = Л + di'j'B и А_ = А — а^^В. Заметим, что обе матрицы А+ и А_ неотрицательные (в силу минимальности элемента at',') и их строчные и столбцовые суммы равны +1 (потому что строчные и столбцовые суммы для В равны 0), так что матрицы А+ и А_ двоякостохастические. Имеем А = (1/2) А + + (1/2) А_ и А+ =# А_, а это означает, что матрица А не является крайней точкой для множества двоякостохастических матриц.
Проведенное рассуждение показывает, что матрица является крайней точкой компактного выпуклого множества двоякостохастических матриц в том и только в том. случае, когда она есть матрица перестановки. Утверждение теоремы вытекает из того факта, что любая точка произвольного выпуклого компактного множества есть выпуклая комбинация его крайних точек. □
Поскольку в Мп имеется ровно п! различных матриц перестановок, в силу теоремы Биркгофа любая двоякостохастическая матрица может быть выражена выпуклой комбинацией самое большее N = пД матриц перестановок. Более глубокий анализ показывает, что этих матриц не потребуется больше, чем N = /г2 — 2/г + 2.
Задачи
Пусть Л £ Мп — неотрицательная ненулевая матрица с положительным собственным вектором х = [хг 1 и D — = diag (хь ..., хп). Доказать, что р = р (Л) > 0, Ах = рх (согласно лемме 8.1.30) и ADe = рОе, где е £ R" — вектор, в котором все координаты равны + 1. Отсюда вывести, что А подобна (и подобие осуществляется диагональной матрицей с положительной главной диагональю) положительному кратному (с коэффициентом р (Л)) стохастической матрицы. Это наблюдение позволяет многие вопросы относительно неотрицательных матриц с положительным собственным вектором сводить к аналогичным вопросам относительно стохастических матриц.
Доказать, что множества стохастических и двоякостохастических матриц в Мп компактные и выпуклые.
Показать, что каждое из множеств стохастических и двоякостохастических матриц в Мп образует полугруппу относительно умножения матриц; другими словами, если матрицы А, В £ £ Мп стохастические (двоякостохастические), то и матрица АВ будет стохастической (двоякостохастической).
Доказать, что неотрицательная матрица А £ Мп является стохастической тогда и только тогда, когда Ае = е.
Доказать, что двоякостохастическая матрица порядка 2 симметрична и ее диагональные элементы равны.
Используя идеи, заложенные в доказательстве теоремы 8.7.1, придумать другое непосредственное доказательство, не опирающееся на результаты из приложения В, и построить алгоритм представления двоякостохастической матрицы в виде выпуклой комбинации матриц перестановок. Указание. Если А не является матрицей перестановки, то, используя последовательность элементов, отмеченных в доказательстве теоремы 8.7.1, построить такую матрицу перестановки, что после вычитания ее положительного кратного из А остается неотрицательная матрица с равными строчными и столбцовыми суммами; при этом в новой матрице по сравнению с А ненулевых элементов меньше по крайней мере на один. Далее продолжать по аналогии.
Показать, что запись в виде выпуклой комбинации, устанавливаемая теоремой 8.7.1, неединственна.
Доказать, что если двоякостохастическая матрица А разложима, то на самом деле А перестановочно подобна матрице вида [ 0* л ]• Что можно сказать относительно Ат и Л2?
Дополнительная литература
Идея доказательства теоремы 8.7.1 взята из работы: Saun- der В., Schneider Н., Application of the Gordon — Stiemke Theorem in Combinatorial Matrix Theory. —SIAM Rev., 1979, v. 21, p. 528—541; там же можно найти смежные факты. По поводу возможности записи любой двоякостохастической матрицы в виде выпуклой комбинации не больше чем и2 — 2п + 2 матриц перестановок см. работу: Marcus М. Ree R. Diagonals of Doubly Stochastic Matrices. — Quart. J. Math. Oxford, Ser. 2, 1959, v. 10, p. 296—302. -
КОМПЛЕКСНЫЕ ЧИСЛА
Комплексное число имеет вид
2 = а Д ib,
где а и b — вещественные числа и формальный символ i удовлетворяет соотношению i2 = —1. Вещественное число а называют вещественной частью числа 2 и обозначают Re 2; вещественное число b называют мнимой частью г и обозначают Im 2. Комплексные числа г = а Д ib и z = а — ib называют комплексно-сопряженными, переход от числа 2 к z называют комплексным сопряжением, Для пары комплексных чисел гх = ахД ibx и г2 = а2 Д ib2 естественным образом (в терминах операций с вещественными числами) определяются бинарные операции сложения и умножения:
Д Д £2= (дД а2) + i (bi Д Ь^, 2^= ахаг— ЬгЬ2+ i (о^Д а<А)-
Таким образом, комплексное сложение является результатом сложения вещественных частей и сложения мнимых частей операндов. Формула для комплексного умножения получается в результате алгебраических преобразований с учетом соотношения I2 = —1. Противоположным к числу 2 = а Д ib является комплексное число —2 = —а Д i (—b^. При 2 Д= 0 = О Д iO формулой
а — ib _ а । . / —bТ — аг—' 1 \"о2 Д о2 /
определяется обратное к 2 число. Вычитание и деление задаются следующим образом:
„*~ I / ~ \Z1 * / I ^ Z1Z2
г1 — 22 — 2Х Д (—22),— — 2Х ( —— I•
z2\ z2 / Z2Z2
Множество всех комплексных чисел обозначается символом С. Это множество, наделенное указанными выше операциями сложения й умножения, является полем с вещественным числом О = О Д Ю в качестве нуля (аддитивной единицы) и вещественным числом 1 = 1 Д iO в качестве - (мультипликативной) единицы. Операции сложения и умножения коммутативны и ассо-
циативны, связаны соотношением дистрибутивности и для них определены обратные операции вычитания и деления соответственно. Множество вещественных чисел R образует подполе в С. Неотрицательное число z = + (zz)1/2 называется модулем или абсолютной величиной комплексного числа z. Выражение для частного zi/z2 можно записать, используя понятие модуля, в виде (1/|z2|2)ziz2, если z2^=0. Легко проверить, что операции умножения и комплексного сопряжения коммутируют: ziz2 = = ziz2, и что комплексное сопряжение, примененное дважды, оставляет число неизменным. Поскольку Rez = (1/2) (z + z) и Im z = (1/2Z) (z— z), вещественные числа — это в точности все комплексные числа zeC, для которых Imz = 0 или, что эквивалентно, z = z(=Rez).
В геометрической интерпретации комплексные числа из С можно представить векторами на плоскости с началом координат в точке 0 и (ортогональными) «вещественной и мнимой осями». Таким образом, число z = a-Vib можно отождествить с упорядоченной парой чисел (а, Ь). Вещественная ось (z: Imz — 0} есть просто обычная вещественная прямая. Мнимую ось (z: Rez = 0} можно трактовать просто как умноженную на I вещественную ось или как множество всех «чисто мнимых» чисел. Проекцией числа геСна вещественную (мнимую) ось является число Rez (соответственно tlmz). Комплексное сопряжение есть отражение числа относительно вещественной оси. Модуль |z| совпадает с евклидовым расстоянием от точки z до начала координат комплексной плоскости. Множество (zeC: Rez>(^)0} составляет открытую (замкнутую) правую полуплоскость в С, аналогично (геС: Imz>(^)0}—это открытая (замкнутая) верхняя полуплоскость в С. Единичный круг в С есть множество (zeC: |2|^ 1}, тогда как множество (zsC: [z — а|^г} является кругом радиуса г с центром в точке a sC.
В последнем абзаце комплексная плоскость С описана в терминах прямоугольных координат. На ней полезно также ввести полярные координаты, в которых местоположение точки zs С на плоскости определяется радиусом г окружности с центром в начале координат, на которой лежит точка z, и углом 0 между положительным направлением вещественной оси и направлением от начала координат к точке z (угол измеряется в радианах против часовой стрелки). Тогда полярные координаты точки z — это пара чисел (г, 0). Используется запись z = re*6, в которой е‘е = cos 0 + t sin 0. Таким образом, переход от представления в полярных координатах z = re16 к представлению в декартовых координатах z = а + ib осуществляется по формулам
a = rcos0; 6 = rsin0.
Обратный переход задается соотношениями (при гэ^О)г = | z | = (а2 + &2)1/2, 6 = arcsiny,
в которых обычно угол 6 выбирается так, чтобы 0 ^ 6 ^ 2л. Многие объекты на комплексной плоскости проще описываются в полярных координатах. Например, единичный круг в С есть множество {ге10: 0 ^ г ^ 1, 0 ^ 9 < 2л}.
ВЫПУКЛЫЕ МНОЖЕСТВА И ФУНКЦИИ
Через V обозначим векторное пространство над некоторым полем, содержащим поле вещественных чисел. Выпуклая комбинация набора У1vk элементов пространства V есть линейная комбинация с неотрицательными коэффициентами, сумма которых равна единице:
й
0^,+ ... +айу6; аь ..., а6>0, £az = l.
4 = 1
Множество К г V называют выпуклым, если любая выпуклая комбинация каждого набора элементов из К принадлежит К. В эквивалентной формулировке множество К выпукло, если все выпуклые комбинации каждой пары точек из К также принадлежат К. На языке геометрии это означает, что в К должен целиком лежать любой отрезок с концами из К, т. е. множество не имеет «выбоин» или «дыр». Выпуклое множество К называют выпуклым конусом, если ах е К для любых a > 0 и х е К (эквивалентно, положительные линейные комбинации элементов из К принадлежат К). Прямая проверка показывает, что и объединение, и пересечение двух выпуклых множеств (соответственно выпуклых конусов) — опять выпуклые множества (соответственно выпуклые конусы).
Элемент замкнутого выпуклого множества К называют крайней точкой, если он может быть представлен в виде выпуклой комбинации точек из К только тривиальным образом, т. е. равенство г = ах + (1—а^у, 0 < а < 1, х, уеК, влечет за собой x = y = zxY Замкнутое выпуклое множество может иметь конечное число крайних точек (например, многогранник), бесконечно много крайних точек (например, замкнутый круг) или не иметь их вовсе (например, замкнутая верхняя полуплоскость в R2). Однако компактное выпуклое множество всегда имеет крайние точки. Символом Co(S) обозначают выпуклую оболочку множества S точек из V, которая является просто множеством всех выпуклых комбинаций всевозможных наборов точек из S,
*) В геометрической интерпретации крайняя точка не является внутренней ни для одного отрезка из множества К. — Прим, перед.
или, эквивалентно, «наименьшим» выпуклым множеством, содержащим множество S (т. е. пересечением всех таких выпуклых множеств). В теореме Крейна — Мильмана утверждается, что компактное выпуклое множество совпадает с выпуклой оболочкой множества своих крайних точек. Компактное выпуклое множество с конечным числом крайних точек называют конечно порожденным, а сами крайние точки называются базисом данного множества.
Теперь предположим, что пространство V наделено вещественным скалярным произведением <•, •>. В теореме о разделении гиперплоскостью устанавливается, что для любых двух (непустых) непересекающихся выпуклых множеств Ki s V и 7(2 s V существует гиперплоскость Н в V, разделяющая Ki и Кг, т. е. множество Ki лежит в одном замкнутом полупространстве, определяемом гиперплоскостью //, а множество Кг — в другом. Гиперплоскость Н в пространстве V определяется просто как сдвиг на вектор р подпространства, ортогонального к вектору q, т. е. H=^xgV: <х— р, <?>=0} для заданных векторов р, qeV, q =/= 0. Она определяет два открытых полупространства
Н + = {х е V: (х — р, q-) > 0}, Н~ = {х е V: (х — р, q) < 0}
и два соответствующих замкнутых полупространства Но = = H+\JH и Но = Н~ (J Н. Таким образом, гиперплоскость разделяет множества Ki и Кг в том смысле, что К\ G Но и К? ^НГ для некоторой пары векторов р, q. При дополнительных предположениях о двух выпуклых множествах можно говорить о разделении их гиперплоскостью в более сильном смысле. Например, если не пересекаются замыкания множеств Ki и Кг, то можно добиться строгого разделения, т. е. Ki S Н+, Кг ^ Н-. Замыкание выпуклой оболочки любого ограниченного множества S cz V можно получить как пересечение всех замкнутых полупространств, содержащих S.
В случае когда V есть векторное пространство Сл с комплексным скалярным произведением <•, •>, гиперплоскости и полупространства определяются аналогично, следует лишь рассматривать пространство Сл как 2п-мерное вещественное пространство К2л и перейти от <•, •> к вещественному скалярному произведению Re<-, •> следующим образом. Сопоставим друг другу элементы х + iy еСл и [у]^Н2л и заметим, что в силу аксиом комплексного скалярного произведения справедливо равенство Re<xi + ii/i, х2 + 1угУ = <Xt, х2> + <у\, уг>. Следовательно, выражение <хь х2> + <у\, уг) задает (вещественное) скалярное произведение элементов [^ ] и [*’]. Гиперплоскости
и полупространства из R2n имеют подходящую геометрическую интерпретацию в С".
Вещественнозначную функцию Д определенную на выпуклом множестве К s V, называют выпуклой, если для всех а, таких, что 0<а<1, п всех х, у^К, х^У, выполнено неравенство
f(ox + (l—a)yXaf(x) + (l — a)f(y). ()
Если это неравенство всегда строгое, говорят о строгой выпуклости функции f. Если выполняется противоположное неравенство, функцию f называют вогнутой (или строго вогнутой, когда, кроме того, неравенство строгое). Эквивалентным образом вогнутая (соответственно строго вогнутая) функция есть просто взятая со знаком минус выпуклая (соответственно строго выпуклая) функция. В геометрическом представлении хорда, соединяющая два произвольных значения f(x) и/(у) выпуклой (соответственно вогнутой) функции, расположена над (соответственно под) графиком этой функции. Линейная функция будет одновременно выпуклой и вогнутой. В случае V = R^ и открытого множества К для выпуклой функции f почти всюду в К существует гессиан ')
который является симметричной матрицей из M^R1) и положительно полуопределен (в тех точках множества К, где он задан). Для строго выпуклой функции имеет место положительная определенность. Обратно, если всюду в выпуклом множестве гессиан некоторой функции положительно полуопределен (соответственно положительно определен), то эта функция выпукла (соответственно строго выпукла). Аналогично, отрицательная определенность гессиана соответствует вогнутости функции.
' Задачам оптимизации для выпуклых и вогнутых функций присущи некоторые приятные особенности. На компактном выпуклом множестве максимум (соответственно минимум) выпуклой (соответственно вогнутой) функции достигается в крайней точке. С другой стороны, на выпуклом множестве локальный минимум (соответственно максимум) является глобальным минимумом (соответственно максимумом) выпуклой (соответственно вогнутой) функции и множество всех точек локального минимума (соответственно максимума) само является выпуклым. Например, строго выпуклая функция на выпуклом множестве принимает свое минимальное значение не более чем в одной точке, и критическая точка обязательно будет точкой минимума.
Выпуклые комбинации вещественных чисел подчиняются не
которым простым, но часто используемым неравенствам. Если задан набор вещественных чисел хь ..., хк, то для любой их выпуклой комбинации с коэффициентами «ь .... а* 0, ai + ... + а» = I имеют место оценки
min xL ^ X Qz^i ^ max xt- '!<<<&i-11<<<6
Различные классические неравенства можно вывести, рассматривая некоторые простые выпуклые функции f(.) от одной переменной на интервале. Двухточечное неравенство (*) по индукции влечет за собой «-точечное неравенство
f f£ aj (xj, л = 2, 3, ...,(**)
M = 1/1=1
в котором а, ^ 0, ai + ... + а„ = 1 и все точки Х[ принадлежат интервалу выпуклости функции f(-).
Применение неравенства (*•») к строго выпуклой функции f(x) =—logx на интервале (0, оо) приводит к неравенству между арифметическим и геометрическим средними с весами:
Пп
Еа^^П^, ^>0.
-i = li — 1
Когда все а; равны \[п, приходим к неравенству между арифметическим и геометрическим средними:
п, п V V"
Это неравенство обращается в равенство, только когда все числа X; совпадают между собой.
Применение неравенства (»») к функции f(x)= хр, р > 1, на интервале (0, оо) приводит к неравенству Гёльдера: ■
n/ п \Цр / п Х1/Ф
где х;, yt>Q, P> 1 и l/p+ Vq = 1. Равенство здесь имеет место только для линейно зависимых векторов [xf] и [z/f]. Выбирая р = q = 2, получаем один из вариантов неравенства Коши—Шварца:
nz п х\р / п \l/i
s^U^) (й»?) ■
Равенство здесь выполняется только для линейно зависимых векторов [х<] и [у»]. Из неравенства Гёльдера можно вывести
неравенство Минковского:
г п"\Мр Z п \Чр / п \ЧР
[Е(^ + ^)₽] <(2^) +С?Лм •
где xi, yt > 0 и р ^ 1. Как и ранее, только для линейно зависимых векторов [xz] и [у,] получается равенство.
Дополнительная литература
Более обширную информацию о выпуклых множествах и геометрии можно найти в книге [Vai], Сведения о выпуклых функциях и неравенствах имеются в [ВВ].
Приложение С ОСНОВНАЯ ТЕОРЕМА АЛГЕБРЫ
Исторически причиной для введения комплексных чисел послужило то обстоятельство, что многочлены с вещественными коэффициентами могут не иметь вещественных корней. Например, формула для корней квадратного уравнения х2— 2х + 2 = О приводит к решениям {1+/, 1—/}. Все корни любого многочлена с вещественными коэффициентами принадлежат, однако, множеству комплексных чисел С. В действительности если расширить область коэффициентов до поля С, то по-прежнему все пули всевозможных многочленов с комплексными коэффициентами остаются в С. Таким образом, С является примером алгебраически замкнутого поля. Это означает, что нет такого расширения F поля С, чтобы некоторый многочлен с коэффициентами из С обращался в нуль на элементе из F, не входящем в С.
Основная теорема алгебры гласит, что любой многочлен р(х) степени не ниже первой с комплексными коэффициентами имеет по крайней мере один корень (т. е. существует хотя бы одно решение г уравнения р(х) = 0) в поле комплексных чисел. Используя деление многочленов, можно установить, что х— г делит р(х), если число г — корень многочлена р(х). Таким образом, справедливо представление р(х) = (х — z)^(x), в котором ^(х) есть многочлен с комплексными коэффициентами на единицу меньшей степени, чем многочлен р(х). Множество корней многочлена р(х) состоит из корней многочлена q^ и числа г. Из основной теоремы алгебры вытекает следующее утверждение.
Теорема. Многочлен степени п^ I с комплексными коэффициентами имеет в точности п, учитывая кратности, корней в поле комплексных чисел.
Кратность корня г уравнения р(х) = 0 есть наибольшее целое к, при котором степень (х— z)* делит многочлен р(х); таким образом, это число указывает, сколько раз z появляется в качестве корня уравнения p(z) = 0. Если корень г имеет кратность 3, то он учитывается трижды при подсчете числа п корней уравнения р(х) = 0. Следовательно, многочлен с комплексными
коэффициентами всегда можно разложить на линейные множители над полем комплексных чисел.
Если многочлен с вещественными коэффициентами имеет несколько комплексных (невещественных) корней, то они обязательно образуют сопряженные пары, поскольку равенство 0 = = p(z) влечет-за собой 0 = 0 = р^ = p(z). В силу соотношения
(х — г) (х — z) = х2 — 2 Re (z) х +1 z |2
любой многочлен с вещественными коэффициентами можно разложить в произведение линейных и квадратных сомножителей с вещественными коэффициентами. Каждый неразложимый квадратный сомножитель отвечает сопряженной паре комплексных корней.
Дополнительная литература
Элементарное доказательство основной теоремы алгебры приводится в [Chi].-
НЕПРЕРЫВНАЯ ЗАВИСИМОСТЬ КОРНЕЙ МНОГОЧЛЕНОВ ОТ ИХ КОЭФФИЦИЕНТОВ
Имеется важный факт, который проще всего доказать при помощи методов теории функций комплексного переменного, что п корней многочлена степени n^ 1 с комплексными коэффициентами зависят от этих коэффициентов непрерывно.
Пусть хеС" и f(x) = [A(x), .... fm(x)]r, где fz:Cn->C, z = l, ..., п. Функция f: Сл -> Cm непрерывна в точке х, если каждая функция ft, /=1, ..., т, непрерывна в точке х. Функция fp. Сл —> С непрерывна в точке х, если для любого е>0 найдется такое б > О, что из || у — х || < б следует | /z (у) — fz (х) | < < е, где || • || — векторная норма на пространстве Сл. ■
Результат о непрерывной зависимости корней интуитивно можно было бы сформулировать следующим образом: функция j; Сл-> Сп, осуществляющая отображение п коэффициентов (при старшей степени коэффициент считается равным единице) многочлена степени п в п корней данного многочлена, является непрерывной. Однако для этой функции трудно дать точное определение, поскольку нет естественного способа упорядочения множества из п (комплексных) корней. Строгое утверждение о непрерывной зависимости корней многочлена от его коэффициентов мы сформулируем следующим образом.
Теорема. Пусть п^ \ и задан многочлен
р (х) = апхп + ап_{хп-1 + ... +aix + aQ, ап^0
с комплексными коэффициентами. Тогда для любого е>0 существует такое б > 0, что для произвольного многочлена
q (х) = Ьпхп + Ьп_ххп~х + ... + Ь^х + Ьй
с ненулевым коэффициентом Ьп ¥= 0, такого, что шах | а, — bt | < б,
выполнено неравенство
min max I А/— Цтц) I < в,
где Хц .... ^-п — корни многочлена р(х) и ць .... ця — корни многочлена q(x), записанные в произвольном порядке, с учетом
кратности, и минимум берется по всем перестановкам т индексов 1,2п.
Таким образом, достаточно малое изменение коэффициентов многочлена может привести только к малому изменению каждого из его корней. Этот принцип играет фундаментальную роль в матричном анализе, поскольку коэффициенты характеристического многочлена рл^) матрицы А е Мя являются непрерывными функциями (в действительности многочленами) от элементов матрицы А (см. (1.2.11)) и корни многочлена рд(/) суть собственные значения матрицы А. В силу непрерывности композиции непрерывных функций заключаем, что достаточно малые изменения элементов матрицы А будут вызывать только малые изменения в коэффициентах многочлена рд(/), что влечет за собой лишь малые изменения в собственных значениях. Таким образом, собственные значения квадратной вещественной или комплексной матрицы непрерывно зависят от ее элементов.
Дополнительная литература
Явные границы уклонения е между корнями многочленов р^ и q(x) в терминах разделения коэффициентов 6 и величины коэффициентов имеются в статье: Elsner L. On the Variation of the Spectra of Matrices. — Linear Algebra Appl., 1982, v. 47, p. 127—138.
ТЕОРЕМА ВЕЙЕРШТРАССА
Пусть V — конечномерное вещественное или комплексное векторное пространство с нормой И-Н. Определим шар радиуса е с центром в точке х равенством Ве(х) = (у е V: Цу— х|| ^ е}. Множество S s V называют открытым, если для каждого элемента xeS существует такое е > О, что имеет место включение В^^гЗ. Множество TsV называют замкнутым, если дополнение множества Т в пространстве V открыто. Множество SsV называют ограниченным, если найдется число г > О, при котором SsBr^O) (т. е. S содержится в некотором шаре конечного радиуса). Эквивалентным образом множество Т замкнуто тогда и только тогда, когда предел любой сходящейся (по норме ||-||) последовательности элементов из Т также принадлежит Т. Одновременно замкнутое и ограниченное множество S s V (в конечномерном пространстве V) называют компактным1).
Заданная функция f: S-R, Ss V может достигать или не достигать своих (глобальных) максимального и минимального значений на S. Однако часто имеются некоторые обстоятельства, при которых можно быть уверенным, что функция f принимает свои экстремальные значения на множестве S.
Теорема (Вейерштрасс). Пусть S — компактное множество в конечномерном вещественном или комплексном векторном пространстве V. Если функция f; S -*- R непрерывна, то существует такая точка xmm е S, что
f Umin) ^ / (х) для всех xeS, и существует такая точка xmax е S, что'
f (х) ^ f (хтах) для всех x^S.
Это означает, что функция f достигает своего минимума и максимума на S. Конечно, функция f может принимать каждое из значений max f (х) и minf(x) более чем в одной точке. Если xeSxeS
хотя бы одно из ключевых допущений (компактность S или непрерывность f) теоремы Вейерштрасса не принимать во внимание, то заключение теоремы становится, вообще говоря, неверным. Однако предположение о включении S как подмножества в конечномерное вещественное или комплексное векторное пространство является несущественным. Теорема Вейерштрасса верна и для непрерывной вещественнозначной функции на компактном множестве произвольного топологического пространства, если подходящим образом обобщить понятие компактности.
[Ait][Ваг 75] [Ваг 79] [Ваг 83] [ВВ][Bel][Boa][BPI] [BSt] [Gate][Chi] [Cui] [Don] [Fad] [Fan][Fie][Fra] [Gan][Ait][Ваг 75] [Ваг 79] [Ваг 83] [ВВ][Bel][Boa][BPI] [BSt] [Gate][Chi] [Cui] [Don] [Fad] [Fan][Fie][Fra] [Gan]
[Ait]
[Ваг 75] [Ваг 79] [Ваг 83] [ВВ]
[Bel]
[Boa]
[BPI] [BSt] [Gate]
[Chi] [Cui] [Don] [Fad] [Fan]
[Fie]
[Fra] [Gan]
[Ait]
[Ваг 75] [Ваг 79] [Ваг 83] [ВВ]
[Bel]
[Boa]
[BPI] [BSt] [Gate]
[Chi] [Cui] [Don] [Fad] [Fan]
[Fie]
[Fra] [Gan]
ЛИТЕРАТУРА
Aitken A. C. Determinants and Matrices. 9th ed. — Oliver and Boyd, Edinburgh, 1956.
Barnett S. Introduction to Mathematical Control Theory. — Clarendon Press, Oxford, 1979.
Barnett S. Matrix Methods for Engineers and Scientists. — McGraw- Hill, London, 1979.
Barnett S. Polynomials and Linear Control Systems. — Dekker, New York, 1983.
Beckenbach E. E., Bellman R. Inequalities. — Springer-Verlag, New York, 1965. [Имеется перевод: Беккенбах Э., Беллман Р. Неравенства.— М.: Мир, 1965.]
Bellman R. Introduction to Matrix Analysis. 2d ed. — McGraw-Hill, New York, 1970. [Имеется перевод: Беллман P. Введение в теорию матриц. — М.: Наука, 1969.]
Boas R. Р., Jr. A Primer of Real Functions, 2d ed. — Carus Mathematical Monographs, No. 13. Mathematical Association of America, Washington, D. C., 1972.
Berman A., Flemmons R. Nonnegative Matrices in the Mathematical Sciences. — Academic Press, New York, 1979.
Barnett S., Storey C. Matrix Methods in Stability Theory. — Barnes & Noble, New York, 1970.
Carpenter J. A., Lewis R. A. KWIC Index for Numerical Algebra. — U. S. Dept, of Commerce, Springfield, Va. Microfiche. and printed versions available from National Technical Information Service, U. S. Dept, of Commerce, 5285 Port Royal Road, Springfield, VA 22161.
Childs L. A Concwete Introduction to Higher Algebra. — Springer- Verlag, Berlin 1979.
Cullen C. G. Matrices and Linear Transformations. — Addison-Wesley, Reading, Mass., 1966.
Donoghue W. F., Jr. Monotone Matrix Functions and Analytic Continuation.— Springer-Verlag, Berlin, 1974.
Фаддеев Д. К., Фаддеева В. Н. Вычислительные методы линейной алгебры, —М. — Л/. Физматгиз, 1963.
Ку Fan. Convex Sets and Their Applications. — Lecture Notes, Applied Mathematics Division, Argonne National Laboratory, Summer 1959.
Fiedler M. Spectral Properties of Some Classes of Matrices.— Lecture Notes. Report No. 75.01 R. Chalmers University of Technology and the University of Goteborg, 1975,
Franklin J. Matrix Theory.—Prentice-Hall, Englewood Cliffs, N. J., 1968.
Гантмахер Ф. P. Теория матриц. Часть I, Основы теории. — M.j Наука, 1966.
[Gant] Гантмахер Ф, Р, Теория матриц. Часть II. Специальные вопросы и приложения. — М.: Наука, 1966.
[GKr] Гантмахер Ф. Р., Крейн М. Г. Осцилляционные матрицы и ядра и малые колебания механических систем. — М.: Гостехиздат, 1950.
[GLR 82] Gohberg I., Lancaster Р., Rodman L. Matrix Polynomials. Academic Press, New York, 1982.
[CLR 83] Gohberg I., Lancaster P., Rodman L. Matrices and Indefinite Scalar Products. Birkhauser-Verlag, Boston, 1983.
[Grab] Graham A. Kronecker Products and Matrix Calculus with Applications.— Horwood, Chichester, U. K., 1981.
[Gray] Graybill F. A. Matrices with Applications to Statistics. 2d ed. — Wadsworth, Belmont, Calif., 1983.
[Gre] Greub W. H. Multilinear Algebra. 2d ed. — Springer-Verlag, New York, 1978.
[GVI] Golub G., VanLoan C. Matrix Computations. — Johns Hopkins University Press, Baltimore, 1983.
[Hal 58] Halmos P. R. Finite-Dimensional Vector Spaces. — Van Nostrand, Princeton, N. J., 1958. [Имеется перевод: Халмош П. Конечномерные векторные пространства. — М.: Физматгиз, 1963.]
[Hal 67] Halmos Р. R. A Hilbert Space Problem Book. — Van Nostrand, Princeton, N. J. 1967. [Имеется перевод: Халмош П. Гильбертово пространство в задачах. — М.: Мир, 1970.]
[HJ] Horn R., Jonhson С. Topics in Matrix Analysis. — Cambridge University Press, Cambridge, 1988.
[HKu] Hoffman K., Kunze R. Linear Algebra. 2d ed. — Prentice-Hall, Englewood Cliffs, N. J., 1971.
[Hou 64] Householder A. S. The Theory of Matrices in Numerical Analysis.— Blaisdell, New York, 1964.
[Hou 72] Householder A. S. Lectures on Numerical Algebra. — Mathematical Association of America, Buffalo, N. Y., 1972.
[HSm] Hirsch M. W., Smale S. Differential Equations, Dynamical Systems, and Linear Algebra. — Academic Press, New York, 1974.
[Jac] Jacobson N. The Theory of Rings. — American Mathematical Society, New York, 1943. [Имеется перевод: Джекобсон H. Теория колец,— М.: ИЛ, 1947.]
[KapJ Kaplansky I. Linear Algebra and Geometry": A Second Course. — Allyn & Bacon, Boston, 1969.
[Kar] HarEn S. Total Positivity. — Stanford University Press, Stanford, Calif., 1960.
[Kei] Kellogg R. B. Topics in Matrix Theory. — Lecture Notes, Report No. 71.04. Chalmers Institute of Technolgy and the University of Gdteborg, 1971.
[Kow]Kowalsky H. Lineare. Algebra, 4th ed.—deGruyter, Berlin, L969.
[LaH]Lawson C., Hanson R. Solving Least Squares Problems.— Prentice
Hall, Englewood Cliffs, N. J., 1974. [Имеется перевод: Лоусон Ч., Хенсон Р. Численное; решение задач метода наименьших квадра- ■ тов. — М.: Наука, 1986.)
[Lan] Lancaster Р. Theory of Matrices. — Academic Press, New York, 1969. [Имеется перевод: Ланкастер П. Теория матриц. — М.: Наука, 1978.)
[LaTiJ Lancaster Р., TismenetskyM. The Theory of Matrices With Applications. 2d ed. —Academic Press, New York, 1985.
[Mac] MacDuffee С. C. The Theory of Matrices. — Chelsea, New York, 1946
[Mar] Marcus M. Finite Dimensional Multilinear Algebra. 2 vols. — Dekker, New York, 1973—75.
[Mir] Mirsky L. An Introduction to Linear Algebra. — Clarendon Press, Oxford, 1963.
[MMi] Marcus M., Mine H. A Survey of Matrix Theory anf Matrix Inequalities.— Allyn and Bacon, Boston, 1964. [Имеется перевод: Маркус M., Миик X. Обзор по теории матриц и матричных неравенств. — М.: Наука, 1972.]
[MOI] Marshall A. W., Olkin I. Inequalities: Theory of Majorization and Its Applications. — Academic Press, New York, 1979. [Имеется перевод: Маршалл А., Олкин И. Неравенства теории мажоризации и ее приложения. — М.: Мир, 1983.]
[Mui] Muir Т. The Theory of Determinants in the Historical Order of Development. 4 vols. — MacMillan, London, 1906, 1911, 1920, 1923; Dover, New York, 1966. Contributions to the History of Determinants, 1900—1920. — Blackie, London, 1930.
[Ner] Nering E. Linear Algebra and Matrix Theory. 2d ed. — Wiley, New York, 1963.
[New]Newman M. Integral Matrices. — Academic Press, New York, 1972.
[Nob]Noble B. Applied Linear Algebra. — Prentice-Hall, Englewood
Cliffs, N. J., 1969.
[Per] Perlis S. Theory of Matrices. — Addison Wesley. Reading. Mass., 1952.
[Rog] Rogers G. S. Matrix Derivatives. — Lecture Notes in Statistics, Vol. 2. Dekker, New York, 1980.
[Rud] Rudin W. Principles of Mathematical Analysis. 3rd ed. — McGraw- Hill. New York., 1976. [Имеется перевод: Рудин У. Основы математического анализа.—М.: Мир, 1976.]
[Sen] Seneta Е. Nonnegative Matrices. — Wiley, New York, 1973.
[Ste] Stewart G. W. Introduction to Matrix Computations. — Academic Press, New York, 1973.
[Str] Strang G. Linear Algebra and Its Applications. — Academic Press, New York, 1976. [Имеется перевод: Стренг Г. Линейная алгебра и ее применения. — М.: Мир, 1980.]
[STy] Suprunenko D. A., Tyshkevich R. I. Commutative Matrices. — Academic Press, New York, 1968.
[Tod] Todd J. (ed.) Survey of Numerical Analysis. — McGraw-Hill New York, 1962.
[TuA] Turnbull H. W., Aitken A. C. An Introduction to the Theory of Canonical Matrices. — Blackie, London, 1932.
[Tur] Turnbull H. W. The Theory of Determinants, Matrices and Invariants.— Blackie, London, 1950.
[Vai]Valentine F. A. Convex Sets. — McGraw-Hill, New York, 1964.
[Var]Varga R. S. Matrix Iterative Analysis. — Prentice-Hall, Englewood
Cliffs, N. J., 1962.
[Wed] Wedderburn J. H. M. Lectures on Matrices. — American Mathematical Society Colloquium Publications XVII. American Mathematical Society, New York, 1934.
[Wie] Wielandt H. Topics in the Analytic Theory of Matrices. — Lecture Notes prepared by R. Meyer. Department of Mathematics, University of Wisconsin, Madison, 1967.
[Wil] Wilkinson J H. The Algebraic Eigenvalue Problem. — Clarendon Press, Oxford, 1965. [Имеется перевод: Уилкинсон Дж. Алгебраическая проблема собственных значений. — М.: Наука, 1970.]
F F"F F"Мт,п№) Мт, п MttА, В, С и т. д. х, у, г и т. д. / 0^ ААТ А* А~х А^Мт,п№) Мт, п MttА, В, С и т. д. х, у, г и т. д. / 0^ ААТ А* А~х А^adj А58®1яД7^adj А58®1яД7^Ра^ «И)Ра^ «И)det Лdet Лполе вещественных чисел вещественное векторное пространство, состоящее из п- членных наборов с вещественными компонентами, Мп, i(R) поле комплексных чисел комплексное векторное пространство, состоящее из п-член- ных наборов с комплексными компонентами, М„, 1(C) поле (обычно R или С)
F F"
F F"
Мт,п№) Мт, п Mtt
А, В, С и т. д. х, у, г и т. д. / 0^ А
АТ А* А~х А^
Мт,п№) Мт, п Mtt
А, В, С и т. д. х, у, г и т. д. / 0^ А
АТ А* А~х А^
adj А
58
®1
яД7^
adj А
58
®1
яД7^
Ра^ «И)
Ра^ «И)
det Л
det Л
векторное пространство (над F), состоящее из п-членных наборов с компонентами из F
множество m X матриц с элементами из F множество комплексных zn X «-матриц, Мт, „(С) множество комплексных я X n-матриц, Af„(C) матрицы; А = [йц] е Mm, n(F) вектор-столбцы; х = [x,j s F” единичная матрица
нулевой скаляр, нулевой вектор, нулевая матрица
матрица, составленная из комплексно-сопряженных к элементам матрицы А „(С) транспонированная к матрице A sMm,n(F). ■ -
сопряженная к матрице A еМ™. п(С), АТ обратная к невырожденной матрице A sAf„(F) единственный положительно полуопределенный квадратный корень из положительно полу определенной матрицы АеМ, матрица абсолютных значений элементов матрицы АеМт, « обобщенная обратная матрица Мура — Пенроуза для матрицы A S Мт, „ классическая присоединенная матрица для матрицы AeAl.(F) базис векторного пространства
1-й вектор естественного базиса в F" (обычно) координатное представление вектора у в базисе $ представление линейного преобразования Т в паре базисов
биномиальный коэффициент
характеристический многочлен матрицы А е Afn (F) число обусловленности невырожденной матрицы А е Мп по отношению к данной матричной норме определитель матрицы A eAf„(F) прямая сумма ориентированный граф матрицы AeMn(F) двойственная норма к норме
РИ X[Л, (А)]; а (А)я!6(A) GL (я, F) А«В Т(Л) Af (А) к (Л)РИ X[Л, (А)]; а (А)я!6(A) GL (я, F) А«В Т(Л) Af (А) к (Л)II* lipII* lipМ5М5г (Л)г (Л)per Л sgn №>]per Л sgn №>]»i (Л^ SpanSР(А)А (а, Р)»i (Л^ SpanSР(А)А (а, Р)trA rank АtrA rank Адвойственная норма к полунорме
РИ X
[Л, (А)]; а (А)
я!
6(A) GL (я, F) А«В Т(Л) Af (А) к (Л)
РИ X
[Л, (А)]; а (А)
я!
6(A) GL (я, F) А«В Т(Л) Af (А) к (Л)
II* lip
II* lip
М5
М5
г (Л)
г (Л)
per Л sgn №>]
per Л sgn №>]
»i (Л^ SpanS
Р(А)
А (а, Р)
»i (Л^ SpanS
Р(А)
А (а, Р)
trA rank А
trA rank А
собственное значение матрицы А е Мп (обычно) множество собственных значений (спектр) матрицы AeMnj если А эрмитова, то обычно полагают Ai ^ Л2 ^ ... ^Л» я факториал, я(я — 1) (л — 2) ... 2-1 область Гершгорина матрицы А е М„ группа невырожденных матриц в M„(F) произведение Адамара матриц А, ВеМ„, „(F) индекс примитивности примитивной матрицы А индикаторная матрица для А е Мт, „
жорданов блок размера А X * с собственным значением X минимальный многочлен матрицы AeM„(F)
Zi-норма на С"; максимальная столбцовая норма иа /Ил /s-норма (евклидова норма) на С"; спектральная норма на Мп
/„-норма на С"; максимальная строчная норма на М„ /р-норма иа С"
/j-норма на Мп
/2-норма (евклидова норма) на Мп
/„-норма на Мп
числовой радиус матрицы А е М„ (обычно)
ортогональное дополнение
перманент матрицы AeAf„(F) знак перестановки
множество сингулярных чисел матрицы А е Мт, „; обычно полагают а( > а,> ... >omIn <m, „, наибольшее сингулярное число матрицы А е М„, „, ||АЦ£ линейная оболочка подмножества S векторного пространства
спектральный радиус матрицы А е М„
подматрица матрицы А е Мт, n(F), лежащая в строках е номерами из подмножества айв столбцах с номерами из множества 0 след
ранг матрицы А е Мт, „(F)
абсолютная векторная норма (absolute vector norm) 345
— величина (absolute value) 625
— однородность (homogeneity) 313, 327,351
аддитивность (additivity) 314
алгебраическая кратность (algebraic multiplicity) 76
алгебраически замкнутое поле (algebraically closed field) 56, 632
— простое собственное значение (simple eingenvalue) 442
алгебраическое дополнение (cofactor) 30
0/?-алгоритм (QR algorithm) 142
ассоциированная матрица (compound matrix) 32
базис векторного пространства (basis of vector space) 14
•— выпуклого множества (generators of convex set) 628
бесконечномерное векторное пространство (infinite-dimensional vector space) 15
блочно-диагональная матрица (block diagonal matrix) 38
блочное разбиение (partition) 30
вектор (vector) 13
— невязки (residual) 407
векторная норма (vector norm) 312
порожденная скалярным произведением (derived from inner product) 316
— полунорма (seminorm) 313
векторное пространство (vector space) 13
верхняя блочно-треугольная матрица (block upper triangular matrix) 39
— полуплоскость (upper half-plane)
— строго блочно-треугольная матрица (strictly block upper triangular matrix) 39
треугольная матрица (strictly upper triangular matrix) 39
— треугольная матрица (upper triangular matrix) 38
— хессенбергова матрица (upper Hes- senberg matrix) 43
форма (form) 43
вершина (node) 201
вещественная жорданова каноническая форма (real Jordan canonical form) 184
— ортогональная матрица (orthogonal matrix) 85
— ось (axis) 625
— часть (part) 624
внутреннее произведение (inner,' scalar product) 27
— точка (interior point) 341
вогнутая функция (concave function) 629
в основном треугольная матрица (essentially triangular matrix) 40
выпуклая комбинация (convex combination) 627
— оболочка (hull) 627
— функция (function) 629
выпуклое множество (convex set) 627
выпуклый конус (convex cone) 549, 627
вырожденная матрица (singular matrix) 26
вырожденное отображение (singular transformation) 26
ганкелева матрица (Hankel matrix) 42, 243, 467
геометрическая кратность (geometric multiplicity) 76
гессиан (Hessian) 200, 465
Гиперболический оператор (hyperbolic operator) 288
гиперплоскость (hyperplane) 628
главная подматрица (principal submatrix) 30, 55
главный минор (principal minor) 30
граница множества (boundary of а set) 341
группа (group) 88
— изометрий (isometry group) 321
двойственная норма (dual norm) 332, 487
— пара по отношению к норме (pair with respect to a norm) 335—336 двойственное множество к вектору (dual of a vector) 335
двоякостохастическая матрица (doubly stochastic matrix) 236, 620
дефектная матрица (defective matrix) 77
дефект нормальности (defect from normality) 380
диагонализуемая матрица (diagonalizable, diagonable matrix) 62
диагональная матрица (diagonal matrix) 37
длина пути (length of a path) 428
доминирующее собственное значение (dominant eigenvalue) 597
дополнение по Шуру (Schur complement) 35
евклидова векторная норма (Euclidean vector norm) 319
— длина (length) 27
— матричная норма (matrix norm) . 352
единичная матрица (identity) 17
единичный вектор (unit vector) 27
— круг (disc) 625
— шар (ball) 340
естественный базис (standard basis) 18
жорданов блок (Jordan blok) 148 жорданова каноническая (нормаль
ная) форма (Jordan canonical (normal) form) 148
— клетка (block) 148
— матрица (matrix) 148
задача интерполяции (interpolation problem) 44
закон инерции Сильвестра (Sylvester’s law of inertia) 268'
— обращения порядка (reverse-order law) 18
замена базиса (change of a basis) 48
замкнутое множество (closed set) 341, 636’
замыкание (closure) 341
идеально обусловленная матрица
(perfectly conditioned matrix) 404 идемпотентная матрица (idempotent
matrix) 53, 179, 375
изометричное линейное преобразование (isometry) 87
изометрия для векторной нормы (isometry for a vector norm) 321
изоморфизм (isomorphism) 15
изоморфные векторные пространства
(isomorphic vector spaces) 15
Л-инвариантное подпространство (Л- invariant subspace) 68
^-инвариантное подпространство (^*- invariant subspace) 68
инвариантные множители (invariant factors) 186
инварианты подобия (similarity invariants) 61
индекс нильпотентности (index of nil- potence) 53
— примитивности (of primitivity) 66
— собственного значения (of an eigenvalue) 170, 179
индикаторная матрица (indicator matrix) 427
индуцированная матричная норма
(induced matrix norm) 353
инерция (inertia) 266
интерполяционная формула Лагранжа
(Lagrange interpolation formula) 45
исчерпывание (diflation) 82
квадратная матрица (square matrix) 16
квадратный корень (square root) 72
квазилинеаризация(quasi-lineariza
tion) 537•
квазинорма (pre-norm) 328■
(классическая) присоединенная матрица (classical adjont) 33
ковариационная матрица (матрица ковариации) (covariance matrix) 466-
кольцевое свойство (submultiplicati- vity) 351'
комбинаторно симметричная матрица (combinatorially symmetric matrix) 616
коммутативное кольцо (commutative ring) 120
— семейство матриц (commuting family of matrices) 68
коммутатор (commutator) 123
компактное множество (compact set) 342, 636
комплексная ортогональная матрица (complex orthogonal matrix) 92 комплексное число (complex num
ber) 624
комплексно-сопряженные числа (complex conjugate numbers) 624
конгруэнтные матрицы (rcongruent, tea-congruent matrices) 265
гконгруэнтные матрицы (Congruent matrices) 265
•конгруэнтные матрицы (*congruent matrices) 265
конечномерное векторное пространство (finite-dimensional vector space) 15
конечно порожденное выпуклое множество (finitely generated convex set) 628
координатное представление вектора (coordinate representation of a vector) 45
координаты (coordinates) 45
корреляционная матрица (correlation matrix) 475
косоортогональиая матрица (skew- orthogonal matrix) 92
кососимметричная матрица (skew- symmetric matrix) 261
косоэрмитова матрица (skew-Hermi- ten matrix) 125, 203
косоэрмитова часть (компонента) матрицы (skew-Hermitian part of a matrix) 136, 474
крайний луч (extreme ray) 549
крайняя точка (extreme point) 627
кратность (multiplicity) 76
круг Гертгорина (Gersgorin disc) 415
левый собственный вектор (left eigenvector) 77
линейная оболочка (span) 14
— функция (linear function) 27
линейно зависимое подмножество (li
nearly dependent subset) 14
— независимое подмножество (independent subset) 14
линейное отображение (linear transformation) 16
— преобразование (transformation) 16
мажоризация (majorization) 231 максимальная столбцовая норма (maximum colomn sum matrix norm) 356
- строчная норма (row sum matrix norm) 356
максимальный элемент (maximal element) 458
манхеттен-норма(Manhatten-norm)
320
матрица (matrix) 16
ассоциированная (compound) 32
блочно-диагональная (block diagonal) 38
блочно-треугольная (block triangular) 39
Вандермонда (Vandermonde matrix) 43
вещественная ортогональная (real orthogonal) 85
в основном треугольная (essentially triangular) 40
— вырожденная (singular) 26
— ганкелева (Hankel matrix) 42, 243, 467
— Гильберта (Hilbert matrix) 411
— Г рама (Gram matrix) 483
— двоякостохастическая (doubly stochastic) 236, 620
— дефектная (defective) 77
— диагонализуемая (diagonalizable, diagonable) 62
— диагональная (diagonal) 37
неотрицательная (nonnegative) 37
положительная (positive) 37
— единичная (identity) 17
— жорданова (Jordan matrix) 148
— идеально обусловленная (perfectly conditioned) 404 .
— идемпотентная (idempotent) 53, 179, 375
— индикаторная (indicator) 427
— инерции (inertia matrix) 267
— квадратная (square) 16
— (классическая) присоединенная (classical adjoint) 33
— ковариации (или ковариационная) (covariance matrix) 264, 466
— комбинаторно симметричная (combinatorially symmetric) 616
— комплексная ортогональная (complex orthogonal) 92
— корреляционная (correlation matrix) 475
— косоортогональная (skew-orthogonal) 92
кососимметричная (skew-symmetric) 261
косоэрмитова (skew-Hermitian)
■ 125, 203
коэффициентов (coefficient) 24
Мура — Пенроуза обобщенная обратная (More—Penrose generalized inverse) 500
невырожденная (nonsingular) 26
недефектная (nondefective) 77
незнакоопределенная (indefinite) 472
неотрицательная (nonnegative) 429, 580
в главном (essentially) 596
неразложимая (irreducible) 432
нильпотентная (nilpotent) 53, 169
нормальная (normal) 125
обратимая (invertible) 2, 6
обратная (inverse) 26
— ортогональная (orthogonal) 91,92
— ортогонально диагонализуемая (orthogonally diagonalizable) 126
ертостохастическая (orthostochastic) 236
отрицательно определенная (negative definite) 471
— полуопределенная (semidefinite) 471
перестановки (permutation matrix)
■ 39, 430
— основная циркулянтная (basic circulant) 41
перехода от ^2 к ^(^1-^2 change of basis) 47
перъеднничная (backward identity) 42, 250
— плохо обусловленная (ill (poorly} conditioned) 404
— положительная (positive) 429, 580
положительно определенная (positive definite) 302, 471
полуопределенная (semidefinite) 218, 471'-
представляет линейное отображение (represents a linear tranefor- matior) 16
приводящаяся к диагональному виду псевдоподобием 294■
-^ — треугольному виду псевдоподобием- 294-
—- примитивна* (primitive) 608
— простая (noneerogatdry) 77, 166
веевдо-диагонализуемая (condiago- nalizable) 294-
вее-вдотриаягуляризуемая (contria- gularizable) 294
— псевдообратная 500
— разложимая (reducible) 431
расширенная (системы уравнений)
(augmented (of a linear system)) 24
с диагональным преобладанием (diagonally dominant) 418
симметричная (symmetric) 49,200
скалярная (scalar) 18, 37
слабо неразложимая (weakly irreducible) 457
смежности (adjacency) 202
сопровождающая (companion) 178, 181, 381
сопряженная (Hermitian adjont) 18
— со строгим диагональным преобладанием (strictly diagonally dominant) 365, 418
стохастическая (stochastic) 619
строго блочно-треугольная (strictly block triangular) 39
треугольная (triangular) 38
субперестановки (sub-permutation) 198
сходящаяся (convergent) 167, 360
— тёплицева (Toeplitz matrix) 41, 468
— транспонированная (transpose) 18
— трансформирующая (similarity) 61
— треугольная (triangular) 38
— трехдиагональная (tridiagonal) 43
трипотентная (tripotent) 179,
унитарная (unitary) 85
унитарно диагонализуемая (unitarily diagonalizable) 126
псевдодиагонализуемая (con- diagonalizable) 294
псевдотриангуляризуемая (con- triangularizable) 294
хессеибергова (Hessenberg matrix) 43
хорошо обусловленная (well eon- ditioned) 404
циклическая (cyclic) 606
циркулянтная (circulant) 40
— эрмитова (Hermitian) 53, 203
1,бД-матрица (irreducibly diagonally dominant) 433
матрицы (вещественно) ортогонально эквивалентные ((real) orthogonally
• equivalent matrices) 93-
конгруэнтные (Tcongruent, tea-con
' gruerrt) 265
гконгруэнтиые ^congruent) ■ 265
’конгруэнтные (’congruent) 265 -
одновременно диагонализуемые
(simultaneously diagonalizable) 66
— перестановочно подобные (permutation similar) 183
— подобные (similar) 48, 58, 61
—- псевдоподобные (consimilar) 294
— унитарно подобные (unitarily similar) 93
— — псевдоподобные (consimilar) 294
— — эквивалентные (equivalent) 93 — эквивалентные (equivalent) 199 — эрмитово конгруэнтные (* congruent, star-congruent) 265
матричная норма (matrix norm) 290 — — подчиненная векторной норме (induced by a vector norm) 355
метод Гивенса (Givens’s method) 97
— Хаусхолдера (Householder) 99
— Якоби (Jacobi) 97
минимальная матричная норма (minimal matrix norm) 369
минимально спектрально преобладающая норма (minimally spectrally dominant norm) 397
минимальный многочлен (minimal polynomial) 112, 174
минор (minor) 30
мнимая ось (imaginary axis) 625
■— часть (part) 624
многочлен, аннулирующий матрицу (annihilating polynomial for a mat" rix) 173
•— от матрицы (polynomial in a matrix) 51
модифицированный процесс Грамма— Шмидта (modified Gram — Schmidt process) 144-
модуль комплексного числа (absolute value of a complex number) 625
моменты собственных значений (moments of eigenvalues) 59
—"Тёплица (Toeplitz moment sequence) 468. --
— Хаусдорфа (Hausdorff moment sequence) 467. .
монотонная векторная норма (monotone vector norm) 345
невырожденная матрица (nonsingular matrix) 26• . .:
невырожденное отображение (nonsingular transformation) 26-
недефектная матрица (nondefeetive
matrix) 777.
незаакоопределенная матрица (inde- - finite matrix) 472 .. ....
неотрицательная в главном матрица essentially nonnegative matrix) — диагональная матрица (nonnegative diagonal matrix) 37
— матрица (nonnegative matrix) 429, 580
неотрицательность (nonnegativity) 312, 314, 351
непрерывная функция (continuous function) 634■
непрерывность (continuity) 327
неравенство Адамара (Hadamard’s inequality) 565.
— Адамара—Фишера(Hadamard—
Fischer) 573
— Виландта (Wielandt’s) 425, 426
— Гёльдера (Holder) 332, 630
— Грунского (Grunsky) 342
— Коши—Шварца (Cauchy—Schwarz) 314, 630
— между арифметическим и геометрическим средними (с весами) ((weighted) arithmetic-geometric mean) 630. .
— Минковского (Minkowski’s) 320, 570, 631
— Оппенгейма (Oppenheim’s) 568 ■
— Островского — Таусски (Ostrowski—Taussky) 569
— Робертсона (Robertson’s) 555 . ,
— Саса (Szasz’s) 567? ■
—- треугольника (triangle) 313, 351
— Фишера (Fischer’s) 566;,
неразложимая матрица (irreducible matrix) 432
— нормальная форма (normal form) 597■
нижняя блочно-треугольная матрица (block lower triangular matrix) 39;
—,строго блочно-треугольная матрица (strictly block lower triangular matrix) 39 •:.
треугольная матрица ; (strictly ■ lower triangular matrix) 38; . .
■—треугольная матрица (tower triangular matrix) 38,.
—. хессенбергова матрица (lower Hes- senberg matrix) 43,:\
нильпотентная матрица ■ ■ (nilpotent
matrix) 53, 169
норма векторная (vector norm,) ,312
—— абсолютная (absolute): 345: -
Гёльдера (Holder) 320
двойственная (dual) 332. 487
евклидова (Euclidean) 319
манхеттен-норма (Manhatten- norm) 320
минимально спектрально преобЛадающая (minimally spectrally dominant norm) 397
монотонная (monotone) 345
полиэдральная (polyhedral) 341
— — порожденная скалярным произведением (derived from an inner product) 316
равномерной сходимости 322
самосопряженная (self-adjont) 534
—слабо монотонная (weakly monotone) 346
спектрально преобладающая
(spectrally dominant) 390
унитарно инвариантная (unitarily invariant) 519
— матричная (matrix) 290
— — Гильберта—Шмидта (Hilbert- Schmidt) 291
евклидова (Euclidean) 353
индуцированная (induced) 354, 355
— — максимальная столбцовая (maximum column sum) 356
строчная (row sum) 356
минимальная (minimal) 369
— — обобщенная (generalized) 352, 386.
операторная (operator) 355
подчиненная векторной норме (induced by a vector norm) 355
самосопряженная (seff-adjont) 373
спектральная (spectral) 357
.унитарно инвариантная (unita
. rily invariant) 372
— ■— Фробениуса (Frobenius’s)
Шура (Schur)
A-норма Фань Цзы (Ky Fan к norm) 528'
Li-норма (Li-norm) 322
Zi-норма (Zi-norm, sum norm) 320, 352
Е2-норма (L2-norm) 322
/2-норма (Z2-norm) 319, 353
Lp-норма (Lp-norm) 322
/p-норма (Zp-norm) 320
Loo-норма (Lo=-norm) 322
/„-норма (Zoo-norm, max norm) 320, (Zoo-norm) 353
р-норма Шаттена (Schatten p-norm) 523
нормальная матрица (normal matrix) 125
нормальное псевдорешение (least squares solution) 501, 510
нормированный вектор (normalized vector) 27
— многочлен (monic polynomial) 173 нормы согласованные (compatible, consistent norms) 355, 390
— эквивалентные (equivalent) 329
нуль-пространство полунормы (null space of a seminorm) 316
— матрицы (of a matrix) 17
область Гершгорина (Gersgorin region) 415
— значений (range) 17
— определения (domain) 17
обобщенная матричная норма (generalized matrix norm) 352, 386
функция (function) 20
— обратная матрица Мура—Пенроуза (Moore — Penrose generalized inverse) 500
обобщенное собственное значение (generalized eigenvalue) 256
обратимая матрица (invertible matrix) 26
обратная матрица (inverse) 26
— подстановка (back substitution) 193
обычное скалярное произведение (usual, standard scalar product) 27
овалы Кассини (ovals of Cassini) 453 ограниченное множество (bounded set) 341, 636
одновременно диагонализуемое семейство (simultaneously diagonalizable family) 69
— диагонализуемые матрицы (diagonalizable matrix) 66
однородность (homogeneity) 314
окружность Гершгорина (Gersgorin cirde) 415
оператор сдвига (shift operator) 53 операторная норма (operator norm, lub norm) 355
определитель (determinant) 19
ориентированный граф (directed graph) 427
— путь (path) 427
ортогональная группа (orthogonal group) 88
— матрица (martix) 91, 92
ортогонально диагонализуемая матрица (orthogonally diagonalizable matrix) 126
— эквивалентные матрицы (equivalent matrices) 93
ортогональное дополнение (orthogonal complement) 29
■— множество (set) 27, 85
ортогональные векторы (orthogonal vectors) 27
ортонормированная система (ortho
normal system) 28
ортонормированное множество (ort
honormal set) 85
ортонормированный базис (orthonormal basis) 27
ортостохастическая матрица (orthostochastic matrix) 236
основная теорема алгебры (fundamental theorem of algebra) 56, 632
— циркулянтная матрица перестановки (basic circulant permutation matrix) 41
открытое множество (open set) 341, 636
отношение Рэлея—Ритца (Rayleigh— Ritz ratio) 211
— эквивалентности (equivalence relation) 61
отрицательно определенная матрица (negative definite matrix) 471
-— полуопределенная матрица (semidefinite matrix) 471
оценка Кармайкла и Мейсона (Carmichael and Mason’s bound) 382, 383
— Коши (Cauchy’s) 381, 383
— Монтеля (Montel’s) 381, 383
перестановочно подобные матрицы (permutation-similar matrix) 183 перманент (permanent) 20.
перронов вектор (Perron vector) 587, 599.
— корень (root) 587, 595
перъединичная матрице (backward identity matrix) 42, 250
петля (loop) 428
плоское вращение (plane rotation) 94 плохо обусловленная задача (ill conditioned probrem) 24
матрица (ill, poorly conditioned matrix) 404
подматрица (submatrix) 16
подобие (similarity) 60
подобные матрицы (similar ' matrix) 48, 58, 61
подпространство (subspace) 13
— инвариантное относительно А (Д- invariant) 68
— — — 9е"(^'-invariant) 68
полилинейная функция (multilinear function) 23
полиэдральная норма (polyhedral norm) 341
полная линейная группа (general linear group) 27
полное векторное пространство (complete vector space) 331
положительная диагональная матрица (positive diagonal matrix) 37
положительная матрица (positive matrix) 429, 580.
положительно определенная матрица (positive definite matrix) 302, 471 ■функция (function) 475
■— полуопределенная матрица (semidefinite matrix) 218, 471
— полуопределенное ядро (semidefinite kernel) 541
положительность (positivity) 312, 324, 327, 351
полулинейное преобразование (anti- linear transformation) 302
полуторалинейная форма (sesquili- пеаг form) 202
полярная форма (polar form) 490, 491
полярное разложение (polar decomposition) 190, 490, 491
полярные координаты (polar coordinates) 625‘
понижение порядка (deflation) 82
последовательность Коши (Cauchy sequence) 330
— Крылова (Krylov) 139
правая ■ полуплоскость (right halfplane) 625
правило Крамера (Cramer’s rule) 34
правый собственный вектор (right eigenvector) 77'
предел последовательности (limit of a sequence) 325.
предельная точка (limit point) 341
предпорядок (preorder) 457
представление линейного преобразования (basis representation) 46
преобразование подобия (similarity transformation) 61
— Хаусхолдера (Householder transformation) 95
— эрмитовой конгруэнтности (’congruence) 84-
зримитивная матрица (primitive matrix) 608
принцип биортогональности (principle of biorthogonality) 78
—■ вложения (inclusion principle) 227
— выбора (selection) 89 произведение Адамара (Hadamard product) 386, 539
— Шура (Schur) 540
простая матрица (nonderogatory matrix) 77, 165
простой ориентированный цикл (simple directed cycle) 428
процесс ортонормирования Грамма— Шмидта (Gram—Schmidt ortonor- malization process) 28
прямая подстановка (forward substitution) 193
— сумма матриц (direct sum of matrix) 38
прямоугольные координаты (rectangular coordinates) 625
псевдодиагонализуемая матрица (con- diagonalizable matrix) 294 псевдообратная матрица 500 псевдоподобные матрицы (consimilar matrices) 294
псевдособственное значение (conei- . genvalue) 295 псевдотриангуляризуемая матрица (contriangularizable matrix) 294
равносильные системы уравнений (solution equivalent systems) 23 ■ разложение Лапласа (Laplace expansion) 19
— Такаги (Takagi’s factorisation) 246
— Холецкого (Cholesky factorisation, decomposition) 141, 483
Q/^-разложенне (Q7?-factorisation) 139 разложимая матрица (reducible mat- ■ rix) 431--
размерность (dimension) 15'
ранг (rank) 24 расширенная матрица (augmented matrix) 24/ ”
рациональная каноническая форма (rational canonical form) 189 рациональная форма (rational form) ’ 187'"
ребро (edge) 201 семейство матриц (family of matrl- . - ces^ 68, ■ _ .. ,
самосопряженная норма (seif-adjont norm) 373,534. < ,
свойство полноты (completeness property) 331
-- L 125.-..
— P 125
— SC 425
связанная система уравнений (coupled system of equations) 162
сдвиг вперед (forward shift) 42
— назад (backward) 42
сигнатура (signature) 266
сильно связный ориентированный граф (strongly connected directed graph) 428, 456
симметричная жорданова каноническая форма (symmetric Jordan canonical form) 251
— калибровочная функция (gauge function) 521
— матрица (matrix) 49, 200
сингулярное разложение (singular value decomposition) 190, 492, 493
— число (singular value) 256, 493 сингулярный вектор (singular vector)
493
скалярная матрица (scalar matrix) 18, 37
скалярное произведение (scalar, inner product) 27, 314,
слабо монотонная норма (weakly monotone vector norm) 346.
— неразложимая матрица (irreducible matrix) 457
— связный ориентированный граф (connected directed graph), 456
слабый принцип минимума (weak, minimum principle) 545
след (trace) 55
слово (word) 96 ,, .-
сложение (addition) 13.
собственная пара (eigenvalue, eigenvector pair) 49
собственное значение (eigenvalue) 49, 50.
— подпространство (eigenspace) 75 собственный вектор (eigenvector) 49,
50. .
совместная система (consistent system) 24,
согласованные блочные разбиения (conformal partitions) 30. .
— нормы (compatible, consistent norms) 355, 390..
сопровождающая матрица (companion matrix) 178, 181, 381.
сопряженная матрица . (Hermitian adjoint) 18- ...
сопряженно линейная, функция (conjugate linear function) 27
спецтр (spectrum) 50.
спектральная норма (spectral norm), 357
— теорема (theorem) 126, 129
характеристика (characteristic) 397 спектрально преобладающая норма (spectrally dominant norm) 390 спектральное разложение 127
■— число обусловленности (condition number with respect to the spectral norm) 425
спектральный радиус (spectral radius) 50, 358
стандартное скалярное произведение
(standard, usual scalar product) 27 стандартный базис (standard basis) 15
степенной метод (power method) 82 степень слова (degree of a word) 96 столбцовая почти-норма (deleted absolute colomn sum) 415
стохастическая матрица (stochastic matrix) 619
строго вогнутая функция (strictly concave function) 629
— выпуклая функция (convex function) 629
строчная почти-норма (deleted absolute row sum) 413
— ступенчатая форма (row-reduced echelon form) 22
сходящаяся матрица (convergent mat
rix) 167, 360
— последовательность (sequence) 325
теорема Биркгофа (Birkhoff theorem) 620, 621
— Брауэра (Brauer’s) 453
— Бруалди (Brualdi’s) 458, 461
— Вейерштрасса (Weierstrass) 636
— Вейля (Weyl’s) 218, 221
— Виландта (Wielandt’s) 612
— Гершгорина (GerSgorin) 413
— двойственности (duality) 347
Крейна — Миль мана (Krein — Milman) 628
Куранта — Фишера (Courant — Fischer) 215
Кэли — Гамильтона (Cayley—Hamilton) 109
Леей — Деспланка(Levy — Des-
planques) 419
— Маккоя (McCoy) 118
— Мерсера (Mercer’s) 541
о возмущениях (perturbation) 237
— жордановой канонической фор
ме (Jordan canonical form) 154
— кругах Гершгорина (GerSgorin disc) 413
минимаксе (min-max) 215, 582, 586
монотонности (monotonicity) 219
Произведении Шура (Schur po- duct) 542
разделении (interlacing) 219
гиперплоскостью (separating hyperplane) 628
— Перрона (Perron’s) 590
Фробениуса (Frobenius) 599
— Пирси (of Pearcy) 96—97
Пуанкаре о разделении (Рошсагё separating) 228
Романовского (Romanovsky’s) 609
Рэлея — Ритца (Rayleigh — Ritz) 211
— Таусски (Taussky’s) 434
— Фань Цэы (Ку Fan) 591
— Фрейера (Fejer’s) 544, 545
Хоффмана—Виландта (Hoffman— Wielandt) 439
— Шпехта (of Specht) 96
Шура об унитарной триангуляри- зации (Schur’s unitary triangulari- zation) 101
тёплицева матрица (Toeplitz matrix) 41, 468
тождество Ньютона (Newton’s identity) 60
— поляризации (polarization) 317
— параллелограмма (parallelogram) 317
— Сильвестра (Sylvester’s) 35
транспозиция (transpositison) 40
транспонированная матрица (transpose) 18
трансформирующая матрица (semf- larity matrix) 61
треугольное разложение (triangular factorization) 190
трехдиагональная матрица (trldiago- nal matrix) 43
тривиальный цикл (trivial cycle) 428
трипотентная матрица (tripotent matrix) 179
угол (angle) 27
унитарная группа (unitary group) 88
— матрица (matrix) 85
унитарно диагоналиэуемая матрица (unitarily diagonalizable matrix) 126
— инвариантная векторная норма (invariant vector norm) 320, 519
матричная норма (matrix norm) 372
— подобные матрицы (similar matrices) 93
— псевдотриангуляризуемая матрица (condiagonalizable matrix) 294
— псевдоподобные матрицы (consimi- lar matrix) 294
— псевдотриангуляризуемая матрица (contriangularizable matrix) 294
— эквивалентные матрицы (equivalent matrices) 93
упорядоченный список узлов (ordered list of nodes) 428
уравновешенное множество (equilibrated set) 342
формула Коши — Бине (Cauchy—Binet formula) 36
характеристический многочлен (characteristic polynomial) 54
характеристическое уравнение (characteristic equation) ПО
хорошо обусловленная матрица (well
' conditioned matrix) 404
цикл (cycle) 428.
циклическая матрица индекса к (cyc
lic matrix of index A) 606
циркулянтная матрица (циркулянт) (circulant matrix) 40
числовая область (tied of value) 387
числовой образ (numerical range) 387
— радиус (radius) 387
шар (ball) 347, 676
эквивалентные матрицы (equivalent matrix) 199
— нормы (equivalent norms) 329
— системы уравнений (solution-equivalent systems) 23
элементарная симметрическая функция (elementary symmetric function) 57
элементарное преобразование (elementary transformation) 20
элементарный делитель (elementary divisor) 188
— лагранжев интерполяционный многочлен (special Lagrange interpolating polynomial) 44
эллиптический оператор (elliptic operator) 288, 544
эрмитова компонента (часть) (Hermitian part) 135, 474
— матрица (matrix) 53, 203
эрмитово конгруэнтные матрицы
(star congruent, *congruent matrices) 265
эрмитовость (Hermitian property) 314
частичный порядок (partial order) 556
число обусловленности (condition - number) 404
ядро матрицы (null space of a matrix) 17
— полунормы (of a seminorm) 316
якобиан (Jacobian) 263
4 ?• Хорн, Ч, Джонсон
*) Из этого условия на самом деле вытекает эрмитовость матрицы,—? Прим, перев. -
*) И вызвано тем, что в определении (5.4.12а) двойственной нормы под знаком модуля стоит выражение у*х— евклидово скалярное произведение векторов х и у. Таким образом, это определение двойственности относительно евклидова скалярного произведения. В более общем определении двойственности под знаком модуля можно поставить скалярное произведение (х, У) = У*Кх, где К = К* > 0, Кг Мп. Тогда двойственной к себе окажется Норма || • || s < >, • >02, порожденная этим скалярным произведением. — Прим, перев. '
*) Число е сейчас считается неотрицательным. — Прим, перге.