Книга
← К списку книгЗагрузка разделов…
активнаАктивные записи участвуют в каталоге и синках. Неактивная книга скрыта, но не удалена из базы.
Книга
ПРЕДИСЛОВИЕ
Исходным материалом книги послужили лекции, прочитанные мною летом 1967 г. сотрудникам отдела 1215 Телефонной лаборатории Белла в Мюррей Хилл, Нью-Джерси. Рэм Гнанадеси- кан, работающий в этом отделе, посоветовал мне оформить записки лекций для печати. Во время моей работы в Лаборатории были подготовлены многие из приведенных в книге примеров; для расчетов применялась ЭВМ GE 645, снабженная устройствами графического представления результатов.
Этот же курс был прочитан вновь, но в более элементарной и описательной манере в течение зимнего и весеннего семестров 1968 г. старшекурсникам Университета штата Калифорния в Беркли, специализирующимся в области статистики, а затем в весеннем семестре 1969 г.— студентам отделения статистики и эконометрики Лондонской экономической школы. Окончательный вариант рукописи был подготовлен к середине 1972 г. Хочется надеяться, что библиография почти полностью отражает работы, появившиеся до этого времени.
Мне кажется, что книга будет полезна и как учебник по анализу временных рядов для студентов старших курсов, и как справочник для научных работников, интересующихся частотным анализом временных рядов. Всюду, где возникает такая необходимость, приводятся точные определения и формулировки нужных условий. Благодаря такой форме представления материала читатель получает прочные основы для решения практических задач. Приведенные здесь результаты, как правило, не являются наиболее общими, однако имеют то преимущество, что все они по существу вытекают из одного важного условия перемешивания, которое вводится на раннем этапе изложения и связывает всю книгу.
Многие теоремы нашей книги содержат только утверждения об асимптотиках, так как более детальная информация попросту не известна. Это обстоятельство не должно отпугивать специалистов в прикладных областях математики.‘Теоремы такого рода приводятся
в расчете на то, что указанные в них асимптотические моменты и распределения могут служить разумным приближением к результатам, основанным на конечных выборках, которые представляют особый интерес. К сожалению, проверке точности асимптотических приближений посвящено очень мало исследований, однако несколько ссылок на такие работы даны.
Читатель обратит внимание на тот факт, что рассматриваемые здесь различные статистики являются простыми функциями дискретных преобразований Фурье, вычисленных по отрезкам наблюдений временных рядов. Может быть именно эта особенность точнее всего характеризует настоящую книгу. Предпочтение, отданное дискретному преобразованию Фурье, обусловлено его важными математическими и эмпирическими качествами. К тому же, благодаря работе Cooley, Tukey (1965), его можно быстро вычислять. Определения, методы, техника и статистики, обсуждаемые в этой книге, во многих случаях оказываются простыми обобщениями известной техники множественной регрессии и многомерного статистического анализа. Столь удачное положение дел указывает на большую проникающую способность методов, важных для статистики и анализа экспериментальных данных.
Вся книга разделена на два тома. Данный том в основном посвящен различным аспектам линейного анализа стационарных векторных временных рядов. Во втором томе, который еще подготавливается к печати, освещаются вопросы нелинейного анализа и обобщаются результаты первого тома на стационарные векторные ряды, случайные поля и на векторные точечные процессы.
Д-р Колин Мэллоуз из Телефонной лаборатории Белла сделал целый ряд замечаний к рукописи настоящей книги. Профессор Инграм Олкин из Стэнфордского университета просмотрел рукопись первых глав, а г-н Джостейн Лиллестёль прочитал всю верстку. Их замечания оказались в высшей степени полезными.
Анализу временных рядов я учился у Джона У. Тьюки, которому весьма признателен за всю оказанную помощь и поддержку.
Беркли, Калифорния июнь 1974Беркли, Калифорния июнь 1974Д. Бриллинджер
Беркли, Калифорния июнь 1974
Беркли, Калифорния июнь 1974
1
ПРИРОДА ВРЕМЕННЫХ РЯДОВИ ИХ ЧАСТОТНЫЙ АНАЛИЗ
Введение
В этой книге мы будем изучать вектор-функции
гх.т
(i.i.i)
LXr(0J
все компоненты ХДС), j=L ..., г, которых действительны, a t принимает значения 0, ± 1, ±2, ... . Такую совокупность функций назовем r-компонентным векторным временным рядом (г-мерным временным рядом). Переменная / обычно соответствует времени выполнения или регистрации наблюдений и измерений.
Таблица 1.1.1
Данные о наблюдениях температуры (метеостанции и периоды наблюдений), использованные при построении примеров
Номер
Город
Период {годы)
1
Вена
1780-1950
2
Берлин
1769-1950
3
Копенгаген
1798-1950
4
Прага
1775-1939
5
Стокгольм
1756-1960
6
.Будапешт
1780-1947
7
Де-Билт
1711-1960
8
Эдинбург
1764-1959
9
Гринвич
1763-1962
10
Нью-Хейден
1780-1950
11
Базель
1755-1957
12
Вроцлад
1792-1950
13
Вильнюс
1781-1938
14
Трондхейм
1761-1946
Рис. 1.1.1. Средние месячные температуры в °C на 14 метеостанциях за период 1920—1930 гг.
1.1. Введение
9
Рис. 1.1.2. Расположение метеостанций (за исключением Нью-Хейвена, США).
В качестве примера векторного временного ряда рассмотрим набор средних месячных температур, зарегистрированных разными метеостанциями. На рис. 1.1.1 приводится такой ряд, построенный по данным для городов, перечисленных в табл. 1.1.1. Географическое расположение соответствующих метеостанций показано на рис. 1.1.2. Такие данные можно найти в World Weather Records (1965). Указанный ряд построил J. М. Craddock (Meteorological Office, Bracknell). Другим примером векторного временного ряда является совокупность сигналов, записанных разными сейсмографами после землетрясения или ядерного взрыва. Об этом см. работы Keen и др. (1965), Carpenter (1965). На рис. 1.1.3 представлен пример записей такого рода.
Приведенные примеры относились к естественным наукам, однако общественные науки также нуждаются в рассмотрении векторных временных рядов. Графики, изображенные на рис. 1.1.4, показывают изменения объема экспорта из Великобритании на различные рынки за период 1958—1968 гг. Излагаемая в книге техника исследований будет полезна и для анализа подобных рядов. Но следует иметь в виду, что получаемые при этом ре-
Рис. 1.1.3. Сигналы, записанные группой сейсмографов во время события.
зультаты, как правило, нельзя считать окончательными в силу нехватки данных, а также из-за того, что при исследовании делаются предположения, которые могут нс соблюдаться в реальных процессах такого типа.
Внимательно изучив предлагаемые рисунки, можно заключить, что отдельные компоненты рядов сильно связаны друг с другом. Поэтому в дальнейшем мы уделим значительное внимание исследованию взаимных связей компонент векторных временных рядов. В некоторых случаях представляют интерес и однокомпонентные ряды. Такие примеры можно найти в работе Singleton, Poulter (1967), изучавших сигналы самцов дельфина- касатки, а также у Godfrey (1965), занимавшегося изучением количества наличных денег Федеральной резервной системы США, предназначенных для сбалансирования ежемесячных межбанковских платежных обязательств. Еще один пример приведен на рис. 1.1.5, где показан график среднегодовых чисел солнечных пятен за период 1760—1965 гг. [Waldmeir (1961)].
Этот ряд часто рассматривался статистиками; см., например, Yule (1927), Whittle (1954), Brillinger, Rosenblatt (1967 b). Понятно, что однокомпонентные ряды можно рассматривать как частный случай r-компонентных векторных рядов, соответствующий г=1. Однако стоит подчеркнуть, что анализ векторных рядов, содержащих несколько компонент, обычно дает больше информации, чем анализ однокомпонентных рядов. Поэтому ра-
I1I1IL..^^ . III1II - 195819601962196419661968
Год
Рис. 1.1.4. Объем экспорта Великобритании (стоимость в миллионах фунтовстерлингов) на различные рынки с 1958 по 1968 гг.
Рис. 1.1.5. График солнечной активности (среднее годовое число солнечных пятен) за период 1760—1965 гг.
зумно отыскивать и включать в рассмотрение дополнительные ряды, связанные с каким-либо процессом, описываемым однокомпонентным рядом.
Основания для применения гармонического анализа
Главным методом, который будет использоваться при анализе временных рядов, является гармонический анализ. Объясняется это тем, что в дальнейшем мы будем рассматривать только ряды, описывающие результаты экспериментов, не привязанных к конкретному началу отсчета времени. Другими словами, мы намерены ограничиться экспериментами, инвариантными по отношению к временным сдвигам. Отсюда следует, например, что доля значений X (t), t> и, попавших в некоторый интервал /, должна быть примерно такой же, как доля значений X(f), t>u + v, попавших в интервал / для всех и.
Можно считать, что типичные физические эксперименты обладают свойством временной инвариантности. Так, для многих практических целей неважно, в какой именно день начата серия измерений силы тяжести. Беглый анализ рядов, упоминавшихся в предыдущем параграфе, показывает: температурный ряд на рис. 1.1.1 вполне приемлемо считать обладающим таким свойством инвариантности во времени; отрезки сейсмических наблюдений тоже кажутся на первый взгляд стационарными; ряды, описывающие объем экспорта, заведомо не похожи на стационарные, и с меньшей уверенностью это можно сказать про ряд, изображающий число солнечных пятен. Поведение рядов, описывающих объем экспорта, является типичным для большинства рядов, связанных с социально-экономическими процессами. Поскольку люди извлекают уроки из прошлого и соответственно изменяют свое поведение, ряды, относящиеся к человеческой деятельности, вообще говоря, не являются инвариантными во времени. Позднее мы обсудим методы, позволяющие выделить стационарную компоненту из нестационарных рядов, однако тех-
ника этой книги главным образом нацелена на анализ стационарных процессов.
Потребовав, чтобы при сдвигах аргумента поведение интересующих нас функций было в некотором смысле элементарным, можно получить определенные аналитические следствия. Пусть /(/)—действительная Или комплексная функция, определенная при t = 0, ± 1Если потребовать, чтобы
/(/ + «) = /(/) для t, и = 0, ±1,... ,(1.2.1)
то, очевидно, /(/) будет постоянной величиной. Поэтому для отбора функций, имеющих простое поведение при временных сдвигах, придется накладывать менее жесткие ограничения. Потребуем вместо (1.2.1) выполнения условия
f (ty-u) = Caf (/) для t, и = 0, ± 1, ... , где С, 5^0. (1.2.2) Подставив и = 1, получаем после нескольких шагов при t ^ 0
У + 1) = CJ W = су <1-1) = ... = СУЧ (0),(1.2.3)
или в случае /^0
(0 = C^f (/ + !) = C^t (t + 2) = ... = C‘f (0).(1.2.4)
В обоих случаях, положив С1 = ехр{а), где а — действительное или комплексное число, мы видим, что общее решение уравнения (1.2.2) можно записать в виде
f(Z) = f(O)exp{a/}(1.2.5)
и что Си = ехр{ам}. Ограниченные решения уравнения (1.2.2), как видно, получаются при a=i'X, где X действительно, 1 = = V — 1. Таким образом, поиски функций, просто изменяющихся при сдвигах аргумента, приводят нас к гармоникам ехр \ikt\ с действительным параметром X. Этот параметр X называется частотой гармоники. Если же оказывается, что
(1.2.6)’ i
то
f(Z + u)=Sc/exp{iXyu}exp{iXy/} = SCy exp {iX/Ь (1.2.7)
где Cj — Cj exp \iX^u\. Другими словами, если интересующая нас функция является суммой гармоник, то ее поведение при сдвигах аргумента также легко описывается. Поэтому если в результате инвариантного во времени эксперимента получаются детерминированные функции времени, то естественно рассматривать функции, представимые в виде (1.2.6). Изучение таких функций является предметом гармонического анализа или фурье-анализа [Bochner (1959), Zygmund (1959), Hewitt, Ross (1963), Wiener (1933), Edwards (1967)].
В § 2.7 мы увидим, что фильтры — важный класс операций над временными рядами —также проще всего описываются и исследуются средствами гармонического анализа.
Требование временной инвариантности применительно к экспериментам, результаты которых описываются случайными (стохастическими) функциями X (/), приводит к рассмотрению специального класса экспериментов. Для них семейства случайных величин {Х^ + и), ..., Х(1к + и)\ и {Х(^), ..., X^t^ имеют одинаковые распределения при всех и и tv ..., tk. Результаты таких экспериментов называются стационарными стохастическими процессами [Doob (1953), Wold (1938), Хинчин (1934)].
Перемешивание
Второе важное требование к временным рядам состоит в том, что они должны иметь короткий промежуток времени зависимости. Иначе говоря, измерения X (/) и X (s) становятся несвязанными или взаимно статистически независимыми при t — s—>-оо.
Это требование получит далее формальное выражение в виде условий 2.6.1 и 2.6.2 (/); оно позволит определить существенные параметры генеральной совокупности и заключить, что различные полезные оценки являются асимптотически гауссовскими в смысле центральной предельной теоремы.
По-видимому, многие ряды, которые можно считать стационарными, удовлетворяют требованию такого типа. Возможно, это свойство объясняется тем, что с течением времени ряды подвергаются случайным возмущениям, не связанным с их предысторией, и эти случайные толчки в конечном счете формируют основное содержание процессов.
Выдвинутое здесь требование к временному ряду — обладать слабой „памятью" — обычно именуется условием перемешивания. [Rosenblatt (1956b).]
Исторический обзор
Основной инструмент, который мы будем использовать при анализе временных рядов,— это конечное преобразование Фурье отрезка временного ряда, доступного наблюдениям.
Для отыскания скрытых периодичностей Stokes (1879) предложил подвергать преобразованию Фурье эмпирически найденные функции. Желая избежать неудобств, связанных с рассмотрением относительных фаз, Schuster (1894, 1897, 1900, 1906 а, b) предложил рассматривать квадрат модуля конечного преобразования Фурье. Он назвал эту статистику периодограммой, поскольку занимался и исследованием скрытых периодичностей.
Рассмотрение периодограмм для общих стационарных процессов было начато Слуцким (1929, 1934). Он выявил многие статистические свойства периодограмм, налагая условия нормальности и определенные условия перемешивания. Одновременно с ним Wiener (1930) предложил очень общую схему гармонического анализа временных рядов и начал изучение векторных процессов.
Впоследствии изучение скрытых периодичностей уступило место другому, гораздо более важному приложению гармонического анализа, который стал применяться для изучения зависимостей между временными рядами [Wiener (1949), Press, Tukey (1956)]. Важной статистикой в этом случае является кросс-периодограмма— произведение конечных преобразований Фурье двух рядов. Она используется в работах Wiener (1930), Goodman (1957), а сам термин появился в работе Whittle (1953).
Периодограмма и кросс-периодограмма являются статистиками второго порядка и поэтому они особенно важны при рассмотрении гауссовских процессов. Аналогичные статистики более высокого порядка требуются для изучения различных свойств негауссовских рядов. Периодограмма третьего порядка — произведение трех конечных преобразований Фурье—введена в работе Rosenblatt, Van Ness (1965), а периодограмма А-го порядка — произведение к конечных преобразований Фурье —в работах Brillinger, Rosenblatt (1967 а, b).
Неустойчивость статистик типа периодограмм немедленно проявляется, как только они вычисляются по эмпирическим функциям, см. Kendall (1946). Wold (1965) и гл. 5 настоящей книги. Наличие такой нестабильности и заставило Даниеля [Daniell (1946)] предложить численное сглаживание периодограммы, которое теперь стало основным приемом частотного анализа.
Важную роль в истории развития математических основ гармонического анализа временных рядов сыграли следующие статьи и книги: Слуцкий (1929), Wiener (1930), Хинчин (1934), Wold (1938), Колмогоров (1941а, b), Cramer (1942), Blanc-Lapi- ere, Fortet (1953), Grenander (1951a).
Список статей и книг, игравших важную роль в истории развития эмпирического гармонического анализа временных рядов, включает работы: Schuster (1894, 1898), Tukey (1949), Bartlett (1948), Blackman, Tukey (1958), Grenander, Rosenblatt (1957), Bartlett (1966), Hannan (1960), Stumpff (1937), Chapman, Bartels (1951).
Книга Wold (1965) содержит библиографию статей по анализу временных рядов. Burkhardt (1904) и Wiener (1938) дают обзор очень ранних работ в этой области. Simpson (1966) и Robinson (1967) приводят много полезных при анализе временных рядов программ для ЭВМ.
Применение частотного анализа
Настоящий параграф содержит краткий обзор некоторых областей, в которых применялся спектральный анализ. Имеются три главных аргумента в пользу его применения: (I) спектральный анализ позволяет получить полезные описательные статистики, (II) служит орудием диагностики, указывая, какой дальнейший анализ может быть полезен, и (III) применяется для проверки постулируемых теоретических моделей. Степень успеха, который достигается при использовании этой техники, по-види- мому, прямо пропорциональна длине отрезка ряда, доступного для анализа.
Физика. Если под спектральным анализом понимать изучение индивидуальных частотных компонент интересующих нас временных рядов, то можно считать, что первое серьезное применение этой техники состоялось в 1664 г., когда Ньютон расщепил солнечный свет на отдельные компоненты, пропустив его через призму. Из этого эксперимента вырос предмет спектроскопии [Meggers (1946), McGucken (1970), Kuhn (1962)], в которой изучается распределение энергии поля излучения как функция частоты. В дальнейшем эта функция будет называться спектром мощности. Физики применяли спектроскопию для распознавания химических элементов, для определения направления и скорости движения небесных тел и для проверки общей теории относительности. Спектр является важной характеристикой цвета [Wright (1958)].
Частотный анализ света подробно обсуждается в книге Born, Wolfe (1959); см. также Schuster (1904), Wiener (1953), Jenni- son (1961), Sears (1949).
Спектр мощности часто применялся при изучении турбулентности и в гидромеханике [Meecham, Siegel (1964), Кашрё de Feriet (1954), Hopf (1952), Burgers (1948), Friedlander, Topper (1961), Batchelor (I960)]. Обычно при этом строилась модель, приводящая к теоретическому спектру мощности, который затем сравнивался с эмпирическим. Ссылки на ранние работы можно найти в статье Wiener (1930).
Электротехника. Электротехников давно интересовала проблема измерения мощности электромагнитных сигналов в разных полосах частот [Pupin (1894), Wegel, Moore (1924), Van der Pol (1930)]. В дальнейшем изобретение радиолокации стимулировало изучение проблемы детектирования сигналов, и в этих исследованиях частотный анализ зарекомендовал себя как эффективный инструмент [Wiener (1949), Lee, Wiesner (1950), Солодовников (1952)]. Частотный анализ теперь прочно вошел в кодирование, теорию информации и связи [Gabor (1946), Middleton (1960),
Пинскер (I960)]. При изучении многих из этих проблем на основе уравнений Максвелла строились полезные модели явлений.
Акустика. Важные применения нашел частотный анализ в акустике. Здесь спектр мощности обычно играл роль описательной статистики [Crandall, Sacia (1924), Beranek (1954), Majewski, Hollien (1967)]. Частотные характеристики процессов получаются с помощью технических устройств, среди которых следует отметить звуковой спектрограф, позволяющий рассматривать спектры, зависящие от времени [Fehr, McGahan (1967)]. Другой интересный прибор описан в работе Noll (1964).
Геофизика. Подробно описал применения частотного анализа в геофизике и снабдил это описание библиографией Tukey (1965а); см. также работы Tukey (1965b), Kinosita (1964), Sato (1964), Smith и др. (1967), Labrouste (1934), Munk, MacDonald (I960), Ocean Wave Spectra (1963), Haubrich, MacKenzie (1965), Various Authors (1966). Недавний сенсационный пример — исследование структуры Луны посредством частотного анализа сейсмических сигналов, вызванных деятельностью человека на Луне [Latham и др. (1970)].
Другие разделы техники. Помимо ' электротехники, гармонический анализ использовался, например, в космической технике [Press, Tukey (1956), Takeda (1964)], военно-морской [Yamanouchi (1961), Kawashima (1964)], в гидравлике [Nakamura, Murakami (1964)] и в механической технике [Nakamura (1964), Kaneshige (1964), Grandall (1958, 1963)]. Гражданские инженеры считают спектральные методы полезными для исследования поведения сооружений при землетрясениях.
Медицина. Разнообразные медицинские данные собираются в виде временных рядов, например электроэнцефалограммы и электрокардиограммы. Частотный анализ таких данных имеется в работах: Alberts и др. (1965), Bertrand, Lacape (1943), Gibbs, Grass (1947), Suhara, Suzuki (1964), Vuzuriha (1960). Корреляционный анализ энцефалограмм обсуждает Barlow (1967), а также Wiener (1957, 1958).
Экономика. О приложениях частотного анализа к временным рядам, возникающим в экономике, появились две книги: Granger (1964) и Fishman (1969). Кроме того, упомянем работы: Beveridge (1921, 1922), Nerlove (1964), Cootner (1964), Fishman, Kiviat (1967), Burley (1969), Brillinger, Hatanaka (1970). Биспект- ральный анализ применял Godfrey (1965).
Биология. Частотный анализ использовался для исследования ритмов, присущих поведению некоторых растений и животных; например, см. Aschoff (1965), Chance и др. (1967), Richter (1967). Частотный анализ также полезен при конструировании моделей человеческого слуха [Mathews (1963)].
Психология. Частотный анализ данных, получаемых при психологических тестах, содержится в работе Abelson (1953).
Численный анализ. Спектральный анализ применялся для исследования свойств независимости псевдослучайных чисел, порождаемых различными рекуррентными схемами [Jagerman (1963), Coveyou, MacPherson (1967)].
Заключительные замечания
Цель этого параграфа —отметить факт, который читатель, работающий с данной книгой, вскоре заметит и сам: теория и техника, применяемые в статистике временных рядов, по существу элементарны. Основным способом построения оценок является метод моментов. Для обоснований широко привлекается асимптотическая теория. Многое из изложенного в книге связано с теорией моментов второго порядка и поэтому наиболее пригодно для гауссовских процессов. Достаточные статистики, статистики максимального правдоподобия и другие важные понятия математической статистики упомянуты лишь вскользь.
Было сделано несколько попыток распространить понятия и методы современной статистической теории на стационарные временные ряды [Bartlett (1966), Grenander (1950), Slepian (1954), Whittle (1952)]. Отношение правдоподобия рассмотрено в работах: Striebel (1959), Parzen (1963), Гихман и Скороход (1966). Описание общих схем применения анализа временных рядов привели Rao (1963, 1966), Stigum (1967), Hajek (1962), Whittle (1961), Arato (1961).
Следует указать, что исторически имели место два довольно обособленных направления в исследовании временных рядов: частотный (гармонический) подход и подход, связанный с анализом зависимости от времени. В этой книге рассматривается первый подход, а второй представлен работами Mann, Wald (1943), Quenouille (1957), Durbin (1960), Whittle (1963), Box, Jenkins (1970). Различия между этими двумя методами анализа обсуждаются Вольдом [Wold (1963)]. Однако с появлением алгоритма быстрого преобразования Фурье может оказаться, что вычисления эффективнее проводить, пользуясь частотными переменными даже в том случае, когда избран подход; связанный с анализом временного аргумента, см., например, § 3.6.
Упражнения
Докажите, что если /(•)-—комплексная функция и /(/3 + иъ .. . . .., 1к+ик) = СП1 и^Уу, ^) при tp и^О, ±1, ±2, ..., /= 1, то Ц1Ь ..., ^) = /(0, ..., 0)ехр{2а/^} для некоторых аь ..., а^; см. Aczel
Докажите, что если /(^ — непрерывная комплексная функция и / (^+п) = Сы/(/) при —оо </, и < оо, то / (^) = /(0) ехр {а/} для некоторого а.
Докажите, что если f (/)— векторная функция с г комплексными компонентами, такая, что f (/+w) —Caf (/), где t, и = 0, ± 1, ±2, а Сй есть г X г-матричная функция, то f (Z) = Cif (0), если Det {f (0), ..., f (г — 1)}0,
причем Са = ехр{Ац}, A = lnCi. См. Doeblin (1938) и Kirchener (1967).
Пусть W (а), —оо < а < оо,— абсолютно интегрируемая функция, удовлетворяющая условию
Пусть / (а), — оо <а< оо, — ограниченная функция, непрерывная при а = Х. Покажите, что е-1 J W [в-1 (X — a)] da= 1 и
lime-1 С f (a) W Ге-1 (X—a)] da = f (X).
£->0
cos-Tj— coscos-Tj— cosДокажите, что для X ^ 0, ± 2л, ...
cos-Tj— cos
cos-Tj— cos
Т
2sln"22sln"2(а) ^ sin А =
2sln"2
2sln"2
/=1
Гsin т+ X
(с) ^2 exp {—ГК ft =^_J_
i=-Tsin у
Пусть Хь ..., Хг— независимые случайные величины с ЕХу = ру и DXy = o/. Рассмотрим линейные комбинации Y = 2 ауХу. 2^/ = 1- Тогда .//
ЕУ = 2 а№* Докажите, что DY минимизируется при выборе aj=oj2l^oJ2 , J=l, г.'
Т-1
Докажите, что сумма 2 охр {i (2n/s)/T} равна Т, если s = 0, ±Г, / = о
±2Т, ..., и равна 0 при других целых значениях s.
Докажите, что если X—действительная случайная величина с конечным вторым моментом и 0—действительное число, то Е (X—0)2 = DX4- + (EX —0)2.
Пусть / обозначает пространство бесконечных в обе стороны последовательностей x = ^xt, / = 0, ±1,±2, ...}. Пусть 31 обозначает линейную операцию на I [91 (ax-j-$у) = a9l (х) + р91 (у) для чисел а, р и для х, у^Ц, которая инвариантна во времени [91г/ =Y, если 9(х = Х, yt — xt4-u, Yt = Xi+a для некоторого ц = 0, ±1, ±2, ...]. Докажите, что существует функция А (X), такая, что (9Ix)^= А (X) х/, если х^ = ехр {iX/}.
Рассмотрим последовательность с0, съ с2, ..., ее частные суммы т
Sy= ^ с/ и средние в смысле Чезаро
/=о
^УУ^-^-УтУУ
Докажите, что если S^—>S, то о^—> S при Г —> ос; см. Knopp (1948).
Пусть j —векторная случайная величина, где К—действительная величина, такая, что ЕУ2 <ос. Докажите, что величина ^(Х), у которой Е^(Х)2<оо, минимизирующая Е [У—^(Х)]2, задается формулой 0(Х)= — Е {У | X}.
Покажите, что для п=\, 2, ...
п- 1
„ ) ехр V—IXU^=—„ ) ехр V—IXU^=—* . пХ ~|2 5Ш 2~ Г,sinTJ* . пХ ~|2 5Ш 2~ Г,sinTJи выведите отсюда, чтои выведите отсюда, что* . ПК 12* . ПК 12smTsmT. хSm 2. хSm 2JX = 2nn.JX = 2nn.Еи— -п +1
„ ) ехр V—IXU^=—
„ ) ехр V—IXU^=—
* . пХ ~|2 5Ш 2
~ Г
,sinTJ
* . пХ ~|2 5Ш 2
~ Г
,sinTJ
и выведите отсюда, что
и выведите отсюда, что
* . ПК 12
* . ПК 12
smT
smT
. х
Sm 2
. х
Sm 2
JX = 2nn.
JX = 2nn.
1.7.13.1.7.13.Покажите, что справедливо тождество
1.7.13.
1.7.13.
пп-1
2 ukyk = 2 икУк—У» + 1) — Um-iVm+Unvn, k=mk=m
где Q^m^n, U ^ = u^-V ...-\-и^ (^^0), U .^^ (преобразование Абеля).
(а) Пусть функция /(х), O^x^l, интегрируема и имеет интегрируемую производную /<1) (х). Покажите, что
mi1
т£44) = ?ж^+^(/(0)+/(|))+т1 (^-["4-41/(1) w*.
/=0 Хоо
где [//] обозначает целую часть числа у.
(Ь) Пусть f^ (х), O^x^L обозначает ^-ю производную функции / (х). Предположим, что f^ (х), O^x^l, интегрируема для ^ = 0, 1, ...,/<. Покажите, что
К
тИ^(тМИх)<1х+1у (0)+ £ 1-УЧЗк (0) п-к U*-v (1)_ ;=о 4 ' ок = 1
1
„/(Й-1) (0))+(-1)К+1 ^ вК (nx-[nx])f^(x)dx, о
где В^ (у) обозначает Л-й полином Бернулли (Эйлер—Маклорен).
2
ОСНОВНЫЕ понятия
Введение
В этой главе приводятся некоторые сведения об основах статистического и детерминистического подходов к анализу временных рядов. Мы увидим, что предположения, которые делаются в каждом из подходов, приводят к определению близких по своему смыслу параметров; одинаковыми обычно оказываются и практические выводы. Фактически будет показано, что эти два подхода в определенном смысле эквивалентны. Важным в настоящей главе является параграф, посвященный изучению тех свойств интересующих нас параметров, которые инвариантны относительно фильтров—специального класса преобразований временных рядов. Доказательства теорем и лемм вынесены в конец книги.
На. протяжении всего текста матрицы обозначаются буквами А, В, набранными жирным шрифтом. Если матрица А имеет элементы Ajk, то иногда пользуемся и другим ее обозначением: [Л/е]. Для г х s-матрицы А ее транспонированную sxr-матрицу записываем как Ат; А—матрица, элементы которой комплексносопряжены с элементами A. Det А обозначает детерминант матрицы к, trA—след матрицы А и |А|—сумму модулей элементов А. Единичную матрицу обозначаем через !. Всякий г-компо- нентный вектор является г х 1-матрицей, т. е. столбцом.
Символы ЕХ и DX обозначают соответственно математическое ожидание и дисперсию случайной величины X. Для пары случайных величин (X, У) будем записывать их ковариацию как cov{X, У}, а коэффициент корреляции как сог{Х, У}.
Если г — комплексное число, то Re г и Imz означают соответственно его действительную и мнимую части. Таким образом, г можно представить в виде
z = Rez + Hmz. (2.1.1),
Будем обозначать через |z| модуль числа г, равный [(Rez)2 + (Imz)2]1/2, и через argz его аргумент, т. е. tg arg 2= Im 2 /Rez.
Для действительных чисел х, у будем писать
(2.1.2)(2.1.2)х = i/(moda),
(2.1.2)
(2.1.2)
если при делении х—у на" а получается целое число.
В дальнейшем окажутся полезными следующие функции: дельта-функция Кронекера, определяемая равенствами
( 1, если а = 0,
6{а} = < п(2.1.3)
1 ’(0 в противном случае,''
и „гребень" Кронекера
если а = О (mod 2л), в противном случае.если а = О (mod 2л), в противном случае.(2.1.4)(2.1.4)( 1, П{«}={ 0
если а = О (mod 2л), в противном случае.
если а = О (mod 2л), в противном случае.
(2.1.4)
(2.1.4)
Столь же полезны будут следующие обобщенные функции: дельта-функция Дирака 6(a), —оо<а<оо, обладающая свойством
p(a)6(a)da = f (0)p(a)6(a)da = f (0)(2.1.5)(2.1.5)
p(a)6(a)da = f (0)
p(a)6(a)da = f (0)
(2.1.5)
(2.1.5)
для всех функций /(а), непрерывных в нуле, и „гребень" Дирака
т](а)т](а)6 (а—2л/),6 (а—2л/),— оо— оо< а << а <оо,оо,(2.1.6)(2.1.6)
т](а)
т](а)
6 (а—2л/),
6 (а—2л/),
— оо
— оо
< а <
< а <
оо,
оо,
(2.1.6)
(2.1.6)
для которого•
$ / (a) 13(a) da = 5 /(2л/)(2.1.7)
при всех допустимых функциях /(а). Эти функции рассматривают Lighthill (1958), Papoulis (1962), Edwards (1967). Вупр. 1.7.4 показано, что функции е-11Г (е-1а) при малых е аппроксимируют дельта-функцию Дирака.
Стохастические процессы
Иногда имеет смысл считать конкретный r-компонентный векторный временной ряд X (/) элементом набора векторных временных рядов, который возникает из некоторой случайной схемы. Мы можем обозначить такой набор рядов через (Х(/, 0),0^0 и / = 0, ±1, ...}, где 0—случайная величина, принимающая значения в множестве 0. Если X (/, 0) окажется измеримой функцией 0, то X (/, 0) при каждом t является случайной величиной, и можно говорить о конечномерных распределениях. Они задаются следующим образом: .
Fан (^1,. . . , Хд; /1, • • • , ^) — Р {X. (^n^)^-^,, . . , Xa^tks 0)^ХА}, av ..ак^ 1, ..., г, к = 1, 2, ... . (2.2.1)
Можно затем рассмотреть такие функционалы, как
ЕХЙ (/, 0) = J xdFa(x; f) = са (t),(2.2.2)
DXa (L 6) = J [x-ca (О]8^й (x; 0 = caa (t,t),(2.2.3)
cov {x0 (/i; 9), x6 (/2; 9)}=
= 5 $ ^x c« (^i)l 1^2 сь (^2)] dFab (x^ x2; ^, ^2)~
= cab^i, <2) ДЛЯ a, b = 1, ..., r, .(2.2.4)
если выписанные интегралы существуют. Каждому значению, которое (в соответствии со своим вероятностным распределением) принимает 9, соответствует функция Х(/, 9) с фиксированным 9; она будет именоваться реализацией, траекторией или выборочной функцией временного ряда.
Поскольку, вообще говоря, необязательно включать 9 специальным аргументом в X (/, 9), мы будем далее писать X (/) вместо Х(/, 9). Функция Х(^) будет называться временным рядом, случайным процессом или случайной функцией.
Интересующийся читатель может найти изложение основ вероятностной теории временных рядов в книгах: Cramer, Leadbetter (1967), Яглом (1952) или Doob (1953). Функция со^, определенная равенством (2.2.2), называется функцией среднего для временного ряда Хй(/). Функция саа^г, /2), определенная согласно (2.2.4), называется (авто)ковариационной функцией Ха^, и функция сй6(<1, /2), введенная в (2.2.4), называется кросс-ковариационной функцией Ха (/) и Xb (t). Функция са (t) существует тогда и только тогда, когда Е|ХЙ(О|<°°- По неравенству Шварца
|са&(^1> ^2) |2 ^ саа (^1’ ^1) cbb Vai ^г)>(2.2.5)
и сй6(/п t^ существует, если coo(tv t,), cbb<ty t^ <oo. Функция
PaaVl’ ^а) = саак^1> t^,kkcaaktv ^caak^i' ^г)}1^2 называется (авто)корреляционной функцией Xa^t\. Наконец,
Раб (^1> ^ =^аък^1' ^1{саак^1> ^^bbkfl' У}1/2
называется кросс-корреляционной функцией Xa(t^ и Хь(/2).
Говорят, что ряды Хй(/) и Хь^ ортогональны, если cabktv /2)=0 для всех tv ty
Кумулянты1*
Рассмотрим теперь случайный вектор (Pv ..., У,) с действительными или комплексными компонентами У,-, для которого Е|Уу|г<оо, / = 1, .... г.
Определение 2.3.1. Совместный кумулянт r-го порядка cum (У^, ..., Уг) вектора (Уп ..., Уг) задается формулой: сит(У1,...,Уг) = 2(-1У'-1(р-1)!/ЕЩУ/\у../Е/^^
V \/€Vi//\ Xie-Vp
(2.3.1) где суммирование ведется по всем разбиениям (vn ..., vp, р = 1,... .... г, множества(1, ...,г).
В важном частном случае Уу = У, /=1, ...,г, приведенное определение задает кумулянт r-го порядка одномерной случайной величины У.
Теорема 2.3.1. Кумулянт сиш(У1, . ,.,УГ) является коэффи- /п\
циентом при(ty tv. Лг в разложении функции log( Е exp i2УЛ. ) X1=1/
в ряд Тейлора в окрестности начала координат.
Утверждение этой теоремы иногда принимается за определение сит(Уп ..., YrY Перечислим ряд свойств кумулянтов:
cum (a^v ..., цгУг) = ах.. .ar cum(Уп ..., Уг) для всех постоянных ах, ..., а/,
cum (Yv ..., Уг)—симметричная функция своих аргументов;
(ш)еслй некоторая группа величин из Уп ..., Уг независима от остальных величин в наборе, то cum(yv ..., Уг) —0;
cum (У, +Zi, У2Уг) = cum (Уи ..., У,) + cum (Zv У2, ... ..., Уг) для случайных величин ^Zv Yv ..., Уг);
для постоянной р и г —2, 3, ...
сшп^ + р, У2, ...,Уг)=сит(У1,У2, ...,YrY (2.3.2)
если случайные величины (Yv ..., Y^ и (Zv ..., Zr) независимы, то
cum (Y1 + Z1, .... Yr + Zr) = cum (Ух, ..., Y^ 4-cum (Zn ...,Zr);
(2.3.3)
ситУу = ЕКу для / = 1, ..., г;
cum (Уу, Ру) = DPy для / = 1, ..., г;
cum (Ру, PA) = cov (Ру, Y^ для /, ^ = 1, ..., г.
х) В отечественной литературе более распространен термин „семиинварИ' анты“, который мы также используем в настоящем издании.—Прим, перев.
Кумулянты, являющиеся полезной мерой статистической зависимости случайных величин (см. (iii) выше), представляют собой средство определения интересующих нас параметров, а также удобный аппарат для доказательства теорем. Кумулянты часто называют семиинвариантами, они рассматривались в работах: Dressel (1940), Kendall, Stuart (1958), Леонов и Ширяев (1959).
Стандартная нормально распределенная величина имеет характеристическую функцию ехр{—/2/2}. Из теоремы 2.3.1 следует, что ее кумулянты порядка выше 2 равны 0. Из (Hi) вытекает также, что все совместные кумулянты набора независимых величин равны нулю. Многомерная нормально распределенная величина определяется как вектор, компоненты которого являются линейными комбинациями независимых нормальных величин. Согласно (1) и (vi), все кумулянты порядка выше 2 равны нулю и для многомерного нормального распределения.
Нам часто придется использовать совместные кумулянты полиномиальных функций от случайных величин. Прежде чем привести выражения для совместных кумулянтов таких величин, введем некоторые обозначения, восходящие к работе Леонов, Ширяев (1959). Рассмотрим (необязательно прямоугольную) таблицу.
(1, !)...(!, Л)
::(2.3.4)
и разбиение ^ U Р2 U • • • U Р м множества ее элементов. Мы скажем, что принадлежащие разбиению множества Рт-, Рщ- зацепляются, если существуют (iv j^^Pw и (i2, j^Pm", такие, что t1 = i2. Будем говорить, что Рт- и Рт- сообщаются, если существует последовательность множеств Рт,~Рт', Рт PmN=Pm"> такая, что Ртп и Ртп+1 зацепляются для м = 1, 2, . ,.,N — 1. Разбиение называется неразложимым, если все множества Рт сообщаются. Пусть Rv ...,Ri обозначают строки табл. 2.3.4. Разбиение Рг, ..., Рм является неразложимым тогда и только тогда, когда не существует множеств Рт„ .. • ? PmN (N <М) и строк R,,, ..., Ri6 (0 < 7), таких, что
PmiU...UPm7V=-R;1U...U7?lo.(2.3.5)
Следующая лемма дает критерий неразложимости разбиений.
Лемма 2.3.1. Рассмотрим разбиение РИ ..., Рм, М > 1., табл. 2.3.4. Для элементов таблицы г^ и заданных чисел sm, j = = 1Ji, i = 1, ..., I, m = 1, .. .,M, положим Ф(г{^ = 8т, если
(i»/)^^- Разбиение неразложимо тогда и только тогда, когда все элементы множества {s„—sm-; \^т, т' ^.М} являются суммами и разностями величин Ф(г,у)—Ф^/д), l^/i, ii^Jf, t = 1, ...,/. Возможна и альтернативная формулировка. По набору чисел tj, t = 1/,определим функцию ф(г(7) = tb j = 1,...
..., J р, Z = l, ...,L Разбиение неразложимо тогда и только тогда, когда сложение и вычитание чисел ‘'Нг^ — ^Ц-егУ (Z, /), (i'J')€Pm, т=\, ..., М, порождает все элементы множества {Z;— tv-, l^Z, Z'^/}.
Заметим, что множество Ц;—Z,-; 1 ^ i, V ^/} порождается I— 1 независимыми разностями, такими, как tx — t,, ..., t]_v—Zz. Отсюда следует, что в случае неразложимого разбиения можно найти /—1 независимых разностей среди ф(г;/) — ф(П'/')1 У» 1У (У, П^Рт; т=1,...,М.
Теорема 2.3.2. Рассмотрим набор случайных величин Х^; j=l, ..., J (, Z —1/. Введем I случайных величин
Yi^IXy, Z = l, ...,/.(2.3.6)
Тогда совместный кумулянт cum (И1, ..., Y ^ задается формулой 2cum(X,v; ц^У . .cum(X,7; Ц^рУ (2.3.7) V
где суммирование ведется по всем неразложимым разбиениям v — Vj и ... и vp табл. 2.3.4.
Эта теорема представляет собой частный случай результата, полученного Леоновым и Ширяевым (1959).
Коротко упомянем один из примеров использования этой теоремы. Пусть (Хп ..., Х4) — 4-компонентный нормальный вектор. Его кумулянты порядка выше 2 будут равны нулю. Допустим, нас интересует cov \ХгХ2, Х3Х4}. Доказательство теоремы 2.3.2 показывает, что
cov {Х4Х2, Х3Х4} = cov {Xn Х3} cov {Х2Х4}
‘+ cov{X1, X4j cov {Х2, Х3}.(2.3.8)
Это выражение получил Isserlis (1918).
Закончим этот параграф определением, которое обобщает определения функции среднего значения и автоковариационной функции, приведенные в § 2.2. Для векторного временного ряда X(Z), Z = 0, ±1, ..., с компонентами Xa^ty а—1,...,г, Е | Ха (/) Iй < оо положим
Cax...akVv ...,1^ = cum {Хй1 ^Xak(tky = Схй1 ...X^Y, ..., tky
.(2.3.9)
где av ..., ак = 1, ..., г и tv ..., <ft = 0, ±1, ... . Эта функция будет называться совместной кумулянтной функцией порядка к ряда X (^), t = 0, ± 1, ... .
Стационарность
Временной ряд X (/), / = О, ± 1, ..., с г компонентами называется стационарным в строгом смысле, если все семейство его конечномерных распределений инвариантно по отношению к общему сдвигу временного аргумента или, другими словами, если совместное распределение Хй1 (^ + /), ..., ХОк Ци + 0 не зависит от t для всех t, tt, ..., tk = 0, ±1, ... ийр ..., ак=Д,... ..., г, к=\, 2, .... .
Примерами строго стационарных рядов служат г-компонент- ный ряд e(t), t = 0, ±1, ..., состоящий из независимых одинаково распределенных векторов, а также ряд, который является детерминированной функцией от таких величин:
X(Q = f[e(Q, е(/ —1), е(/+1), ...], / = 0, ±1, ... . (2.4.1)
Другие примеры строго стационарных рядов встретятся позднее.
В этом параграфе, как и на протяжении всей книги, аргумент временного ряда будет принимать значения t — 0, ±1, ... . Заметим, что если /—любой конечный отрезок в последовательности целых чисел, то временной ряд X(Z), t^I, являющийся строго стационарным на /, может быть расширен до строго стационарного ряда, определенного на всех целых числах. (Стационарное расширение ряда, определенного и стационарного на конечном интервале, рассматривается в работе Parthasarathy, Varadhan (1964)). С точки зрения практики важно, чтобы исследуемые временные ряды являлись приблизительно стационарными в период времени наблюдения.
Векторный ряд Х(/), / = О, ±1, ..., имеющий г компонент, называется стационарным второго порядка или стационарным в широком смысле, если
са^ = ЕХа^ = са,Cab V + u,t) = COV \Ха (t + u), Xb (/)} = cab (u)
для t, u = 0, ±1, ... и a, b— 1, ..., r.
Отметим, что этим свойством обладают строго стационарные ряды с конечными вторыми моментами.
Иногда ковариационная функция ряда, стационарного в широком смысле, записывается в несимметричной форме:
саЬ^=саЬ^> 0) = ^ь^ + «> и), « = 0, ±1 (2.4.2)
Обозначим rXr-матричную функцию с элементами саЬ(и) через схх(н) и назовем ее автоковар иационной функцией ряда X (/), / = О, ±1, ... • Если мы распространим определение ковариации на случайные векторы X, Y, полагая
cov{X, Y} = Е {[X —Е (X)][Y- Е (¥)р},(2.4.3)
тогда можно определить автоковариационную функцию ряда, стационарного в широком смысле, формулой
Схх (u) = cov{X (/ + «), Х(0}'(2.4.4)
для t, и = 0, ±1, • • • .
Если векторный временной ряд Х(/), t — О, ±1, ..., строго стационарен и Е |Ху (<) |6 <°°, / = 1» ..., г, то
catak (ti + U, . . . , tk + U) =C010& (Zv . . . , t^)(2.4.5)
для tv ..., tk) u = 0, ±1, ... . В этом случае мы будем использовать и несимметричную запись, подчеркивающую зависимость от меньшего числа переменных:
catвк ^v • • • > ^й-1) = саи .... ак (^1> • • • > ^Л-1> ^).(2.4.6)
Указанное предположение о конечности моментов не приведет к потере общности рассмотрения, поскольку на практике все доступные анализу временные ряды являются ограниченными, т. е. | Ху (/) | < С, / = 1, ..., г, для некоторой конечной постоянной С и, таким образом, существуют моменты всех порядков.
Спектр второго порядка
Предположим, что ряд Х(/), / = 0, ±1, ..., является стационарным, и, как говорилось в § 1.3, зависимость его членов мала в том смысле, что Хо (/) и Xb (/ + м) становятся все менее зависимыми при | м |—> оо для а, Ь=1, ..., г. Разумно потребовать, чтобы
2 1саб(ы)1<°° Для а,ь=1Г. (2.5.1) U — - СО
В таком случае мы определим спектр второго порядка рядов Ха (О и Хь (f) как функцию
fab^^^)-1 2 с«ь(и)ехр{—Ди\
и=— ОО
для —оо < X < оо, a, b = 1, ..., г. (2.5.2)
При условии (2.5.1) функция fob(K) ограничена и равномерно непрерывна. Если компоненты ряда X (/) действительны, то значит fab W =7ab (- *) = ка (- *) =7ba W •(2-5.3)
Из выражения (2.5.2) также видно, что fab (X) как функция X имеет период 2л. _
Действительный параметр X, появляющийся в (2.5.2), называется радианной или угловой частотой в единицу времени, либо просто частотой. Если Ь = а, то ка (X) называется спектром мощности ряда Ха (t) на частоте Х..Если Ьч^а, то kbW называется кросс-спектром рядов Ха (/) и Хь (/) на частоте X. Заметим, что если с вероятностью единица Ха (t) = Xb (t), / — 0, +1, ..., то кросс-спектр fab (X) в действительности является спектром мощности fa<2(X). Re/a6(X) и 1т/йЬ(Х) называются соответственно коспектром и квадратурным спектром. Функция Фйь (X)=argfab(X) носит название фазы спектра, а | fab (X) | называется амплитудой спектра. ■
Пусть автоковариационные функции саЬ (и), u = Q, ±1,..., объединены в одну матричную функцию схх(м), и = 0, ±1 имеющую саЬ(и) элементом, стоящим на пересечении а-й строки и 6-го столбца. Допустим также, что спектральные функции второго порядка kbW, — °о<Х<оо, объединены в одну матричную функцию fxx(X), — оо<Х<оо, таким же образом, как это описано выше для схх^и). Тогда определение (2.5.2) может быть переписано в виде
^хх (Х) = (2л)-1 2 схх(«)ехР{—iXw} Для —оо<Х<оо. (2.5.4) и= - 00
Матричная rxr-функция fy^W- — оо<Х<оо, называется матрицей спектральной плотности ряда X (/), / = 0, ±1, ... . При условии (2.5.1) соотношение (2.5.4) можно обратить и получить представление
Л
СуХ(ы)— ^ exp {iXu^fyX(^)dX для и = 0, ±1(2.5.5)
' -л
Теорема 2.5.1 покажет нам, что матрица fyx(M эрмитова и неотрицательно определенная, т. е. fxxW=^xx(^)XHa^xxWce^O для всех векторов а с г комплексными компонентами.
Теорема 2.5.1. Пусть Х^, / = 0, ±1, ..., — r-мерный временной ряд с автоковариационной функцией схх (и) = cov {X (t + u), Х(0}. Л u = 0, ±1, ..., удовлетворяющий условию
J2jcxx(«)| < оо.(2.5.6)
Тогда матрица спектральной плотности
^xx^^^Y1 S схх(г/)ехр{—Ли} (2.5.7)
U = - ОО
эрмитова и неотрицательно определенная.
Для г = 1 отсюда вытекает, что спектр мощности будет действительным и неотрицательным.
В свете этой теоремы и с учетом свойств симметричности и периодичности, указанных выше, спектр мощности может рассматриваться как неотрицательная функция на промежутке [0, л]. Свойства спектра мощности мы детально исследуем в гл. 5.
В случае когда векторный временной ряд X (/), / = 0, ± 1, ..., имеет конечные вторые моменты, но необязательно удовлетворяет некоторым свойствам перемешивания типа (2.5.1), мы все же можем получить спектральное представление, аналогичное (2.5.5). А именно, справедлива
Теорема 2.5.2. Пусть Х(/), / = 0, ±1, ..., — r-мерный временной ряд, стационарный в широком смысле и имеющий конечную ковариационную функцию схх (и) = cov{X (/ + «), Х(/)} для t, и = 0, ±1, ... . Тогда существует rxr-матричная функция FM (X), — л < X ^ л, элементами которой являются функции ограниченной вариации и приращения которой неотрицательно определены, такая, что
л
cxxW = $ exp{tzA}dFxx(X) для « = 0, ±1, ... . (2.5.8) -л
Эта функция задается формулой
т
^хх^= lim (2л)-1 S cxx(u)[exp{— iXu\ — 1]/(— iu) Т -> сюи = — Т
для —л<Л^л. (2.5.9)
Функция Fxx(X) называется спектральной мерой ряда Х(/), ^ = 0, ±1, ... . В случае когда выполнено (2.5.1),, она записывается в виде
Fxx W = txx(а)da, —л<Х^л. (2.5.10) о
Представление (2.5.8) получили Herglotz (1911) для одномерных действительных функций и Cramer (1942) в векторном случае.
Кумулянтные спектры порядка к
Допустим, что ряд Х(/), / ~ О, ±1, ..., стационарен и зависимость его членов достаточно мала, а именно
21са1,..„а(и1«»-1)|<оо.(2.6.1)
В этом случае кумулянтный спектр k-го порядка, обозначаемый fatak (^i,^k-1) ^ fxat, ...» Ха^ОЧл ^к-1)’ ОПреДеЛЯСТСЯ
выражением
falt ак (^1,^А-1)
оо{к-1
= (2л)~*+12 с<най(«й ...» «ft-i)exp< —t 2 «Ар
“1 “й-1=-”V/ = 1 J
(2.6.2)
где —<х> < Ху < оо, аг, ..., ай = 1, ..., г, ^ = 2, 3, ... . Распространим определение (2.6.2) на случай k— 1, полагая fa = ca= = ЕХа(/), а = 1, ..., г. Иногда, чтобы сохранить симметрию, мы будем добавлять символический аргумент Хк у функции, определяемой формулой (2.6.2), записывая ее как fa,а (^1> . . . , Х^.
к
При этом Хк связан с другими Ху соотношением 2^ = 0 (mod 2л).
Заметим, что f0,ак(К» •••. М является, вообще говоря, комплексной функцией. Она ограничена и равномерно непрерывна на многообразии 2^/ — 0 (mod 2л). Имеет место следующая формула обращения:
catak(«i> «6-1)
— 5 • • • 1 $ еХР |*2 ^/«/ } fa,ак А» • • •, ^£-1). . ., dX^_f,
-я -л \1)
(2.6.3) или в симметричном виде
зт зт С\
Catаи (Ui, . . ., tift) - jj . . . J exp ] i 2 ^jUj | fa,au 0-ъ . . . A^
X i) (Xj -|- ... -|-X^) dXj ... dXk. (2.6.4) Здесь
n(X)= 2 6(Х4-2л/)(2.6.5)
/=-00
— „гребень" Дирака (2.1.6).
Мы часто будем предполагать, что для рассматриваемого ряда выполнено
Условие 2.6.1. X (Г) —строго стационарный векторный временной ряд с г компонентами Xj (t), j — 1, ...» г, все моменты которых существуют, и, кроме того, при av ..., ak—\, ...» г и & = 2, 3, ... выполняется (2.6.1).
Отмстим, что для рядов, .удовлетворяющих условию 2.6.1, существуют кумулянтные спектры всех порядков. Для гауссовских процессов это условие сводится к требованию 2К» («)|< °°. a, b = 1, ..., г.
Кумулянтные (семиинвариантные) спектры определяются и рассматриваются в работах: Ширяев (1960), Леонов (1964), Brillinger (1965), Brillinger, Rosenfilatt (1967а, b). Идея фурье анализа старших моментов временных рядов содержится в книге Blanc- Lapierre, Fortet (1953).
Спектр третьего порядка для одного ряда получил название биспектра [Tukey (1959), Hasselman, Munk, MacDonald (1963)]. Спектр четвертого порядка был назван триспектром.
В некоторых случаях окажется - полезным
Условие 2.6.2(Z). Для векторного стационарного процесса X(Z) с компонентами X^(t), j = \, ..., г, существует Z ^ 0, такое, что
S .{1+1^/141^0,ак(УИ . ... Uft-i)|<OO (2.6.6)
V1,^_1=-оо-
при j = 1, ..:, к — 1 и любом наборе а±, ..., ак, где к = 2, 3, ... .
Из этого условия вытекает, что для / > 0 зависимость достаточно удаленных по времени значений процесса еще слабее, чем при выполнении условия 2.6.1. Степень зависимости определяется величиной /. Соотношение (2.6.6) обеспечивает существование всех производных порядка, нс превосходящего /< функций fatа^п Ч), и эти производные ограничены и равностепенно непрерывны.
Если вместо (2.6.1) или (2.6.6) потребовать лишь, чтобы EJ Xa(t) Iй < ОО, а=\, ..., г, то fa,a^v М» фигурирующие в (2.6.4), представляют собой распределения Шварца, порядок которых не превосходит 2. О распределениях или обобщенных функциях см. монографии Schwarts (1957, 1959). В случае 6 = 2 теорема 2.5.2 показывает, что эти обобщенные функции являются мерами.
В последних главах нам понадобится следующее условие, которое сильнее обычно используемого условия 2.6.1.
Условие 2.6.3. Векторный ряд Х(/), / = 0, ±1, ...,с г компонентами удовлетворяет условию 2.6.1, и, кроме того, величины
Ck= sup 2 ро,«k(Uv(3.6.7)
°*akv'.
таковы, .что для г из некоторой окрестности нуля
^C^lk\<oo.(2.6.8)
Это условие позволит в дальнейшем получить оценки с вероятностью единица для различных интересующих нас статистик. Если Х(/), 1 = 0, ±1, ..., —гауссовский ряд, то требования 2.6.3 сводятся к суммируемости его ковариационной функции. В упр. 2.13.36 указана конкретная форма условия 2.6.3 и для других полезных примеров.
Фильтры
При анализе временных рядов мы часто имеем возможность применять к ним некоторые преобразования. Важный класс преобразований составляют линейные операции, инвариантные во времени. Рассмотрим операцию, определенную на г-компонентных векторных рядах Х(/), / = 0, ±1, . .., и сопоставляющую ряду X (/) векторный ряд Y (/), t = 0, ±1, ..., с s компонентами. Ряды X (Q составляют область определения, а ряды Y (Z) — область значений операции. Результат операции будем записывать следующим образом:
.Y(0 = Sl[X](0.(2.7.1)
Операция называется линейной, если для любых рядов X, (0> Х2(/), 2 = 0, ±1, . ,.,к которым применима эта операция, и для любых постоянных alf a2 выполняется
' 91[а1Х1 + а2Х2](0=аД[Х1](0+а231[Х2](0.(2.7.2)
Далее, пусть TUX (t), t = 0, ±1, ..., для данного и обозначает ряд X(t + u), t = 0, ±1Операция называется инвариантной во времени, если
9l[T“X](/) = 9I[X](Z + «) Для t, и = 0, ±1, ... . (2.7.3)
Теперь можно дать следующее определение: операция 91, переводящая r-компонентные ряды в s-компонентные и обладающая свойствами (2.7.2) и (2.7.3), называется sх r-линейным фильтром.
Область определения sx г-линейного фильтра можно расширить, включив в нее г х r-матричные функции U (/), t — 0, ±1, ... .
Обозначим столбцы U (О через Uy (^), /=1,..., г, и положим St [U] (0 = [St [UJ (0.. Л [Ur] (0].(2.7.4)
Область значений этой .расширенной операции состоит из sxr- матричных функций.
Важным свойством фильтров является способность преобразовывать гармоники в гармоники, а именно справедлива
Лемма 2.7.1. Пусть 91 —линейная операция, инвариантная во времени, область определения которой включает гхг-матричные ряды
e(f) = exp{iXOl,(2.7.5)
t = 0, ±1, ...; — оо < X < оо, а 1 —единичная матрица порядка г. Тогда существует sxr-матрица А(Х), такая, что
91[е] (/) = exp{iX/} А (X).(2.7.6)
Другими словами, линейная операция, инвариантная во времени, переводит комплексную экспоненту частоты X снова в комплексную экспоненту той же частоты. Функция А (X) называется передаточной функцией операции. Заметим, что А(Х-)-2л) = А(Х).
Важный класс sx г-линейных фильтров имеет вид
Y(0= 2 a (.t — и) X (и) = 2 а (и) X (t — и),(2.7.7)
Ы = - 00U = - CD
Z = 0, ±1, ..., где X (0 есть r-компонентный векторный ряд, Y (/) есть s-компонентный векторный ряд, а (и), и = 0, ±1, ..., является последовательностью sxr-матриц, удовлетворяющих условию ■
2 |а(й)|<оо..(2.7.8)
U= - CD
Мы называем такой фильтр суммируемым и обозначаем его {а (и)}. Передаточная функция фильтра (2.7.7) задается формулой
А(Х) = 2 а(ы)ехр{—iXu} для —оо<Х<оо. (2.7.9) 'и= — ао..
Принимая во внимание (2.7.8), видим, что А(Х) является равномерно непрерывной функцией X. Функция а (и), «=0,±1, ..., называется импульсным откликом фильтра, так как если область определения фильтра расширить до г х r-матричных функций и на вход фильтра подать импульс
■f I для ^ = 0,
Х(0=< А , ,п(2.7.10)
'' ( 0 для t Ф 0,v 1
то на выходе получится ряд а(^), / = 0, ±1, ... .
Назовем sxr-фильтр {а (и)} реализуемым или физически осуществимым, если а(м)=0 для и =—1,—2,—3, ... .Из (2.7.7) следует, что такой фильтр имеет вид
Y(0= 2и),(2.7.11)
■u=0
так что для определения Y (Z) требуются значения X (/) лишь в настоящий и прошлые моменты времени. В этом случае область определения А (X) может быть расширена до множества — оо < <ReX<oo, ImX^O.
Иногда нам понадобится применять целую серию фильтров к одному и тому же ряду. В этой связи приведем такую лемму.
Лемма 2.7.2. Если {at (/)} и |а2(<)} являются s X г-суммируе- мыми фильтрами соответственно с передаточными функциями А^Х), А2(Х), то {aj (0+ а2 (/)} представляет собой sxr-сумми- руемый фильтр с передаточной функцией At (X) + А2 (X).
Если {bj (/)} есть rxq-суммируемый фильтр с передаточной -функцией В^Х) и (Ь2(/)} есть sxr-суммируемый фильтр с передаточной функцией В2(Х), то фильтр (b2*b1(Z)}, получающийся в результате применения сперва фильтра {bj (/)}, а затем {b2 (/)}, является sxq-суммируемым фильтром с передаточной функцией В2(Х)В1(Х).-.
Вторая часть этой леммы показывает, что наряду с коэффициентами фильтра, зависящими от времени, бывает удобнее рассматривать его передаточную функцию. Выражение для свертки
^«b^O^Mt-tOM»)(2.7.12)
и
заменяется произведением функций B2(X)Bi(X), зависящих от частоты X."
Пусть {a (Z)} —гх г-суммируемый фильтр. Если существует rxr-фильтр {b(Z)}, такой, что •'
1 1 для Z = 0,'
b*a(Z) = { п(2.7.13)
х ’| 0 для Z#=0,v '
то {a(Z)} называется невырожденным или несингулярным. Фильтр {b.(Z)} называется обратным к фильтру (a (Z)}. Обратный фильтр существует, если, матрица А (X) невырожденна при — оо < X < оо; передаточная функция обратного фильтра равна А (X)-1.
Иногда мы будем иметь дело с l-суммируемым фильтром. Так называется суммируемый фильтр, удовлетворяющий условию
2 [1+1 «|г]]а (й) | < оо для некоторого / > 0. (2.7.14) Ц= - GO-
Приведем два примера /-суммируемых фильтров. Операция, задаваемая формулой
м
У (0 = (2Л1+1)"1 5 *(* + «).(2.7.15)
и=-М
является /-суммируемым фильтром для всех / > 0 и имеет коэффициенты
(2.7.(2.7.(2Л1+1)~1 при м = 0, ±1, .... ±7И,
(2.7.
(2.7.
О в противном случае,
а передаточная функция фильтра имеет вид sin (2Л4+1)А
А (X) = (2M +I)-1——- для — оо <Х< оо. (2.7.17)
График этой передаточной функции будет дан в § 3.2. Для М. не слишком малых А (X) является функцией, грубо говоря, сосредоточенной вблизи частот Х = 0 (mod 2л). Общий эффект воздействия такого фильтра состоит в сглаживании функций, к которым он применяется.
Точно так же операция, которая X(/) переводит в
У(/) = Х(/)-Х(/-1),(2.7.18)
для всех /-является /-суммируемым фильтром с коэффициентами
«(«) = >«(«) = >—1О—1Одля « = 0, для и = 1, в противном случаедля « = 0, для и = 1, в противном случаеи передаточной функциейА (X) =2/ехр j^^lsiny.и передаточной функциейА (X) =2/ехр j^^lsiny.(2.7.19)(2.7.20)(2.7.19)(2.7.20)
«(«) = >
«(«) = >
—1
О
—1
О
для « = 0, для и = 1, в противном случае
для « = 0, для и = 1, в противном случае
и передаточной функцией
А (X) =2/ехр j^^lsiny.
и передаточной функцией
А (X) =2/ехр j^^lsiny.
(2.7.19)
(2.7.20)
(2.7.19)
(2.7.20)
Эта передаточная функция, грубо говоря, сосредоточена в окрестностях частот Х=±л, ± Зл, .... В результате применения этого фильтра пропадает медленно меняющаяся часть функции X (/) и выделяется ее быстро меняющаяся составляющая.
Мы часто будем применять фильтры к случайным процессам. В этой связи отметим следующую лемму.
Лемма 2.7.3. Если Х^ — стационарный г-компонентный векторный ряд с Е | X(/) | < оо и {а(/)} — суммируемый sxr-фильтр, то
¥(/)= 2 а(/-«)Х(«)
и= - 00
для t = 0, ± 1, ... существует с вероятностью 1 и является стационарным рядом с s компонентами. При этом если Е|Х(016<°°. ^ > 0, то E|Y(Z)|*<oo.
Эта лемма находит важное применение, позволяя получать новые стационарные ряды из уже имеющихся. Например, если 8(f)— последовательность независимых, одинаково распределенных r-компонентных векторов и {а (/)} — sx r-фильтр, то s-компонентный векторный ряд
Х(0= 2 а(/-п)8(м)(2.7.22)
и=- 00.
строго стационарен. Он называется линейным процессом.
Иногда нам придется сталкиваться с линейной операцией, инвариантной во времени, для которой передаточная функция А (X) не обязательно является преобразованием Фурье абсолютно суммируемой последовательности. В случае когда
$ А(Х) M^dK< оо,• (2.7.23)
-Л
функцию на выходе такого фильтра возможно определить как предел в среднем квадратичном. Точнее, справедлива
Теорема 2.7.1. Пусть Х(/), / = 0, ±1, •..,—г-компонентный векторный временной ряд с абсолютно суммируемой автоковариа- ционной функцией. Пусть А (X) —sx г -матричная функция, удовлетворяющая (2.7.23). Положим
л(и) = (2п)~^ J А (X) exp {itzX} dX, (2.7.24) -л
м = 0, ±1, ... . Тогда при / = О, ±1, ... существует
'т'
Y(0 = l.i.m. 2 а(<-м)Х(и).(2.7.25)
..7 -> оо и= - Т
Результаты такого рода рассматривались в работе Rosenberg (1964) В предположении, что, кроме условий теоремы 2.5.2, выполнено еще
J А (X) dFxx (X) A^ < оо.
Особенно важны для нас в дальнейшем будут два lx 1-фильтра, удовлетворяющих (2.7.23). Назовем 1 х 1-фильтр (а (и)} фильтром с полосой пропускания ширины 2Д, центрированной на частоте Х^,
г) Будем использовать также термин полосно-пропускающий фильтр,— Прим, перев.'
если его передаточная функция в области — л < X < л имеет вид
Д(Х) =Д(Х) =1 для |Х±Х0|^А,1 для |Х±Х0|^А,О в противном случае.О в противном случае.(2.7.26)(2.7.26)
Д(Х) =
Д(Х) =
1 для |Х±Х0|^А,
1 для |Х±Х0|^А,
О в противном случае.
О в противном случае.
(2.7.26)
(2.7.26)
Обычно А является малой величиной. Если Хо = О, фильтр называется низкочастотным,. При передаточной функции (2.7.26) в результате фильтрации ряда
к
X W = 2 Rj cos %-t + ф/),(2.7.27)
где Rj, Фj, к—постоянные, получается ряд
2 R, cos (Х/+Фу);(2.7.28)
здесь суммирование ведется по всем j, удовлетворяющим неравенству |Ху±Х0|^А. Другими словами, те составляющие X(t), частоты которых близки к Хо, остаются без изменений, в то время как другие составляющие устраняются при фильтрации.
Второй полезный 1 х 1 -фильтр называется преобразованием. Гильберта. Его передаточная функция чисто мнимая, она имеет вид — i sgn X, т. е.
' — i
при
о<
:х<
л,
Д(Х) = <
0
при
х=
о,
(2.7.29)
i
при
— л <
:х<
:о.
Если на вход фильтра с такой передаточной функцией подается ряд Х^, определяемый формулой (2.7.27), то на выходе получается ряд
к
2 #> sin (Ху< +фу).(2.7.30)
Ряд, который получается из X (/) с помощью преобразования Гильберта, будет обозначаться Хн^, £ = 0, ±1, ... .
Лемма 2.7.4 показывает, как процедура комплексной демодуляции [Tukey (1961)] может быть использована для получения из низкочастотного фильтра новых фильтров с полосой пропускания, центрированной на произвольной частоте Хо, а также для получения аналогов преобразования Гильберта.
В процессе комплексной демодуляции сначала мы образуем пару действительных рядов
VY ^ = cosX6tX^,¥г ^ = s\nKtX^
для t = 0, ± 1, ..., а затем пару
ИМО = £«(<—«) Л («).
(2.7.32)(2.7.32)и
(2.7.32)
(2.7.32)
^2 ^-T^t-u^ У2 (м),
где {а (/)} —низкочастотный фильтр. Ряды ^(0, ^(О называются составляющими комплексной демодуляции ряда X (/). Они, как правило, будут существенно глаже, чем сам ряд X (/), поскольку \а (/)}, — оо <1 < оо,—низкочастотный фильтр. Если затем составить ряды
V1(0 = cosM^1(0 + sinM^2(0. ,97Чох
У2 (0 = sinM ^1 (0 + cos Xet W2 (0 v ’
для — оо < t < оо, то, как показывает следующая лемма, ряд VT (t) по существу совпадает с выходом фильтра, пропускающего некоторую полосу частот, на вход которого подается X (f), а У2 (/), по сути дела, получен из преобразования Гильберта Хн (t).
Лемма 2.7.4. Пусть {а (t)} — фильтр с передаточной функцией Л (X), — оо < X < оо. Операция, переводящая ряд X ^, — оо < /<; < оо, в ряд Vi (/), задаваемый формулой (2.7.33), линейна, инвариантна во времени и имеет передаточную функцию
(2.7.34)(2.7.34)А (X—Ао) Ц—у! (X—}— Хо)
(2.7.34)
(2.7.34)
2
Операция, переводящая ряд X{t) в ряд V2(t), определяемый формулой (2.7.33), также линейна и инвариантна во времени. Ее передаточная функция равна'
Л (X—Хо)—Л(Х-)--Хо)/9 7 ТО
2/•(2.7.35)
В частности, если
( 1 при 1X1^ А,
Л(Х) = { п(2.7.36)
( 0 в противном случае, '’
где —л < X < л, а А —малая величина, то функции (2.7.34) и (2.7.35) имеют вид
f 1/2 при |Х±Х0|^А,
) п•(2.7.37)
( 0 в противном случае,''
— л < X, Хо < л, и соответственно
(
—xkiпри |Х —Х0|^Д,
V2iпри |Х + Х0|^А,(2.7.38)
О в противном случае.
Интерпретация и применение таких фйльтров рассматриваются в работах: Бунимович (1949), Oswald (1949), Dugundji (1958), Deutsch (1962). *
Инвариантные свойства кумулянтного спектра
Основными величинами, используемыми при частотном анализе стационарных временных рядов, являются кумулянтные спектры. Мы часто будем подвергать ряды прохождению через фильтры и рассматривать результаты этих операций. Поэтому важно понять, какое влияние оказывает фильтрация на кумулянтный спектр. Этот эффект имеет Простую алгебраическую природу.
Теорема 2.8.1. Пусть Х(^ —г-компонентный* векторный ряд, удовлетворяющий условию 2.6.1 и Y(/) = Sa(^—и)Х(«), где и
{а(0} — суммируемый sx г-фильтр. Тогда Y (/) также удовлетворяет условию 2.6.1 и его кумулянтный спектр.
gbt, .... b^ (^i, • • • ," 1 > • • •» $» ^ = 2, 3, ...,
задается формулойv
gbtьк(\> • ••» А^)■•
= .55 ^.(М -...Ab^Mkifekv ЧУ (2.8.1)
Некоторые частные случаи этой теоремы особенно важны.
Пример 2.8.1. Пусть X (t) и У (t) действительны и имеют спектры мощности соответственно fxx(4 и fyy(K)- Тогда
fyrtHWfnW.(2.8.2)
где Л (X) — передаточная функция фильтра.
Пример 2.8.2. Пусть fxx (X) и f/z (X) обозначают соответственно гхг- и sX s-матрицы спектра второго порядка для X (/) и Y (f). Тогда.*
frr(X) = A(X)fxx(X)A<T.(2.8.3)
Если s=l, то спектр мощности У (t) равен .
2 2 АДЧМЧЫЧ.(2.8.4)
/ =1к=\
Поскольку спектр мощности неотрицателен, мы можем заключить на оснфвании (2.8.4), что
2 2лД(Х)>0(2.8.5)
/=1к=\"
для всех комплексных Лп ..., Аг. Таким образом, рассматривая г=1, получаем, что матрица ^(^ — неотрицательно определенная (результат теоремы 2.5.1).
Пример 2.8.3. Пусть Х(/), Y (/), / = 0, ±1, ...,— два г-ком- понентных векторных ряда и Y выражается через X следующим образом:.
Vj^ =^bj(t —и^ХДи^ i=\, .... г. (2.8.6) иJ
Тогда кумулянтный спектр Y (/) дается формулой
Вв1 ^ ...Вак М f=tак 0-v • ■ • . М> (2-8.7)
где Bj (X) обозначают передаточные функции фильтров \ЬДи^\.
Позднее мы увидим, что примеры 2.8.1 и 2.8.3 помогают интерпретировать спектр мощности, кросс-спектр и кумулянтные спектры высших порядков.
Примеры стационарных временных рядов
Определение стационарного ряда и несколько элементарных примеров были даны в § 2.4. Поскольку стационарные ряды являются главным объектом нашего исследования, желательно иметь как можно больше их примеров.
Пример 2.9.1 (белый шум). Пусть в(/), / = 0, ±1,...,— последовательность независимых одинаково распределенных г-ком- понентных векторных величин. Такая последовательность, очевидно, образует стационарный временной ряд.
Пример 2.9.2 (линейный процесс). Пусть е(/), f = 0, ± 1,...,— белый шум, рассмотренный в предыдущем примере. Положим
Х(0 = 2а(/ —u)e(u), .(2.9.1)
и
где (а(и)} —суммируемый sxr-фильтр. Согласно лемме 2.7.3, этот s-компонентный ряд является стационарным. ■
Если лишь конечное число членов а(ы) в выражении (2.9.1) отлично от нуля, то ряд X (t) называется процессом скользящего среднего. Говорят, что процесс имеет порядок т, когда а(0), а(т)#=0 и а(«) = 0 для и > т и и < 0.
Пример 2.9.3 (косинусоида). Предположим, что X (0— векторный ряд с компонентами.
. Xj <O = Rj cos (toyt +Фу), / = 1, .г, (2.9.2) где Rv ..., Rr — постоянные, а ФР ..., Фг_т — равномерно распределенные в интервале (—л, л) случайные величины, такие, что фх+ • • • +ФГ = 0. Тогда этот ряд стационарен, поскольку его конечномерные распределения инвариантны относительно временных сдвигов.
Пример 2.9.4 (стационарный гауссовский ряд). Ряд Х(/), / = 0, ±1, ±2, ... называется гауссовским, если все его конечномерные распределения являются гауссовскими (нормальными). В случае когда ЕХ(О^М'»И ЕХ (/) X (иу = R (t — и) для всех /, и, ряд Х(0 стационарен и полностью определяется свойствами моментов первого и второго порядков. ,-
Заметим, что если X (0 —стационарный r-компонентный век-' торный гауссовский ряд, то .
.У(0 = 2а(^-«)Х(ы)(2.9.3)
и
для любого sxr-фильтра (а(/)} образует s-компонентный стационарный гауссовский ряд.
Подробное рассмотрение стационарных гауссовских рядов содержится в книгах: Blanc-Lapierre, Fortet (1965), Loeve (1963), Cramer, Leadbetter (1967).
Пример 2.9.5 (стационарные марковские процессы). Ряд X(f), t = 0, ±1, ±2, ... с г компонентами называется г-ком- понентным марковским процессом, если условные вероятности
P{X(0<X|X(s1) = x1, .... X(s„) = x„, X(s) = x} (2.9.4)
для любых Si < s2 <... < s„ < s равны следующим условным вероятностям:
Р {X (0 ^ XI X (s) = х} = Р (s, х, t, X), s < L (2.9.5)
Функция Р (s, х, t, X) называется функцией переходной вероятности. Она и начальное распределение Р{Х(О)^хо} полностью определяют вероятностную структуру процесса. Марковские процессы и, в частности, стационарные" марковские процессы исследуются в книгах: Doob (1953), Дынкин (1963), Loeve (1963), Feller (1966).
Важный пример представляет гауссовский стационарный марковский процесс. Когда этот процесс принимает действительные значения, его автоковариационная функция очень просто описывается.
Лемма 2.9.1. Автоковариационная функция невырожденного гауссовского марковского стационарного процесса X (t), t = 0, ±1, ±2, ..., принимающего действительные значения, имеет вид Схх(О)р|ы| для некоторого р из интервала (—1, 1).
Другой класс примеров действительных стационарных марковских процессов дает Wong (1963). Бернштейн (1932) рассматривал марковские процессы, возникающие при решении стохастических разностных и дифференциальных уравнений.
Примером стационарного марковского процесса X (1) с г компонентами служит решение уравнения
' Х(0 = аХ(/-1) + е(/), (2.9.6)
где е(/)—r-компонентный белый шум и а является гхг-матри- цей, все собственные значения которой по модулю меньше единицы.
Пример 2.9.6 (схема авторегрессии). Уравнение (2.9.6) наводит на мысль рассмотреть r-компонентные процессы X (/), удовлетворяющие- более общим условиям вида
X(tHa^X(t-\H • ••+a(m)X(t-m') = e^, (2.9.7)
где е (()—r-компонентный вектор белого шума и а (1), ..., а (/и) — матрицы порядка г х г. Если корни уравнения Det А (г) = 0 лежат вне единичного круга, а
A (z) = 1 +а (1) z + ... -j-a(m) г”, (2.9.8)
то можно показать (см. § 3.8), что (2.9,7) имеет стационарное решение. Такое решение X (/) называется r-компонентным авторегрессионным процессом порядка т.
Пример 2.9.7 (смешанная схема скользящего среднего- и1 авторегрессии). Иногда мы будем комбинировать схемы скользящего среднего и авторегрессии. Рассмотрим r-компонентный векторный процесс X(t), удовлетворяющий уравнению
X^Ha^X^t-lH'-'+a^X^—m^ '
= e(O + b(l)e(t-l)+...+b(n)e(t-n), - (2.9.9)
где 8(/) — s-компонентный белый шум; а(/), /=1, ..., т, Ь(А), ^=1, ..., п,—соответственно г X г-и г X s-матрицы. Если существует стационарный процесс Х(/), удовлетворяющий уравнению (2.8.9), то он называется смешанным процессом скользящего среднего и авторегрессии порядка (т, п).
- Если корни уравнения .
Det[I + a(l)z+... + a(m)z"] = 0 (2.9.10)
лежат вне единичного круга, то X(J, удовлетворяющий (2.9.9), представляет собой линейный процесс
X(J= 2с J—и)е(и),(2.9.11)
и=0
где с(Х) = А(Х)'1 В(Х); см. § 3.8.
Пример 2.9.8 (функции от стационарного процесса). Располагая стационарным рядом (таким, например, как белый шум), мы можем рассмотреть инвариантные во времени функции от этого процесса и в результате получить другой стационарный ряд. Например, допустим, что X (<) —стационарный ряд и Y (/)=; =2а(/- и)Х(и), где {а (г/)}— некоторый sxr-фильтр. Мы уже и
видели (лемма 2.7.1), что при условиях регулярности Y (0 также будет стационарным рядом. С другой стороны, можно рассматривать Y (0. полученные с помощью нелинейных функций, скажем,-
Y(/) = f[X(O, ХЦ — 1)],(2.9.12)
где f[xn х2] — некоторая измеримая функция [Rosenblatt (1964)]. В действительности всем стационарным функциям можно придать форму выражения (2.9.12), если применять также функции f от бесконечного числа- аргументов. Любой стационарный ряд может быть записан в виде
'Y^f^'G),(2.9.13)
где U — сохраняющее меру преобразование и 6 —точка вероятностного пространства [Doob (1953)]. Часто можно считать 9 точкой единичного интервала [Choksi (1966)].
К сожалению, работать с соотношениями типа (2.9.12) и (2.9.13) в общем случае не легко. В надежде получить более обозримые результаты некоторые исследователи [Wiener (1958), Balakrishnan (1964), Ширяев (1960), McShane (1963), Meecham, Siegel (1964)] перешли к рассмотрению рядов, порожденных нелинейными преобразованиями вида
У (0 = 5й1(/ —«JX^uJ + SS^U —«v t — u2) X (mJ X (н2)
+ 222аз U — uv t—п2, /—и3) X (uj X (nJ X (и3)+ • • •• (2.9.14) Ut и2 и3
Nisio (1960, 1961) исследовал У (t) указанного выше вида в случае, когда XJ) —белый гауссовский шум. Meecham (1969) рассматривал случай, когда Y (J является почти гауссовским процессом.-
Будем ссылаться на выражение вида..(2.9.14) как на функциональное разложение Вольтерра [Volterra (1959), Brillinger (1970а)].
В связи с рассмотрением соотношения (2.9.14) приведем следующую теорему.
Теорема 2.9.1. Если ряд ХЦУ t—0, ±1удовлетворяет, условию 2.6.1 и
L
Y(t)='2l2 aj^-utt-uj)X ^... ХЦиУ (2.9.15)
J = 0 ut1 ..., иj
где aj—абсолютно суммируемы и L<eo, то ряд Y (/), t = 0, ±1, ..., также удовлетворяет условию 2.6.1.’
Мы видим, например, что "ряд X ЦУ, / = 0, ±1, ..., удовлетворяет условию 2.6.1, когда этому условию удовлетворяет X Ц\ Теорема обобщается на r-компонентные ряды и в таком виде является обобщением леммы 2.7.3.■
Пример 2.9.9 (решения стохастических разнЬстных и дифференциальных уравнений). Ограничимся ссылками на литературу, посвященную стационарным процессам, которые удовлетворяют стохастическим разностным и дифференциальным уравнениям, см., например, Каире de Feriet (1965), Ito, Nisio (1964), Mortensen (1969).
В некоторых случаях [Ito, Nisio (1964)] решение стохастических уравнений может быть выражено в форме (2.9.14).
Пример 2.9.10 (решение функциональных соотношений Вольтерра). В ряде задач нам может быть известен ряд Y Ц) и требуется определить X (/) как ряд, удовлетворяющий соотношению (2.9.14). При решении мы столкнемся с явлением, обратным к умножению'частот, и с появлением гармоник низших порядков.
Примеры кумулянтного спектра
В этом параграфе приводятся примеры кумулянтного спектра порядка к для r-компонентных стационарных временных рядов.
Пример 2.10.1 (белый шум). Предположим, что е(/) — белый
•шум с компонентами ea(ty а=\, ..., г, и пусть существует
Ка,.....aft = cum{e01(<). •••>8aft(0}-
Тогда со,ak<uv . • .,uk_^ = Kavak^ W • • • 6{«*-i}> где 6 (х)— дельта-функция Кронекера. Непосредственно видно, что
fa,, .... (^ц ...,^) = (2л) 6+1 Ло,ак- (2.10.1)
Пример 2.10.2 (линейный процесс). Допустим, что
Х(/)= S а(/-«)е(«),(2.10.2)
где {а(()} —sxr-фильтр и е(/)—r-компонентный белый шум. Из теоремы 2.8.1 вытекает, что
fat, .... а^ (^i> • • • , ^)
= (2л)-*« ^.. . ^Даи,^)... A4ik М К,ik. (2.10.3)
Результаты этого и предыдущего примеров могут быть использованы для получения спектров процессов скользящего среднего и авторегрессии.
Пример 2.10.3 (стационарный гауссовский ряд). Характеристическая функция многомерной гауссовской величины с вектором математического ожидания р, и ковариационной матрицей 2 задается формулой
exp jt>Tt — у tTSt|.(2.10.4)
Отсюда следует, что для гауссовских рядов все кумулянтные функции порядка выше 2 равны нулю, поэтому все кумулянтные спектры порядка выше 2 также обращаются в нуль.
Мы видим, что кумулянтные спектры порядка выше 2 представляют в некотором смысле меру негауссовости ряда.
Пример 2.10.4 (косинусоида). Пусть X (/) —векторный процесс с компонентами Ха (/) = Racos(toat + фа), а— 1, ..., г, где Ra — постоянные, со^ ... 4-cor = O (mod 2л); фт, ..., фг.1 независимы, равномерно распределены в промежутке (—л, л] и выполнено условие фх+ ... +фг = 0 (mod 2л). Тогда X (^ — стационарный процесс. Заметим, что элементы любого истинного подмножества множества фп ..., фг независимы в совокупности и, следовательно, совместные кумулянты набора таких величин обращаются в нуль. Таким образом,
cum {Хх (М- ..., Хг (/r)) = Е ^ (^) х ... х Xr (Q)
= Rx...Rr cos (ю^ + ... + tortr^ 2-r+1. (2.10.5)
Эта функция зависит от tx— tr, ..., tr_x— tr, поскольку ®i+... ... 4-o)r = 0(mod2n). Далее,
ci,...,Auv ur_x) = Rx .. . Rrcos(toxux-V-- • -+tor_xur_x)2-r+1, .(2.10.6)
и потому
fi, (^M=^ fii • • • Rr h (M+®i) • n (Vf+®r-d '
+ p(^i-®i)n(4-i-“r-i)]; (2.10.7)
здесь т] (X) определяется формулой (2.1.6), см. также упр. 2.13.33.
В случае г = 1 для спектра мощности ряда X (/) R cos (tot + ф) получается выражение
кх W =4 Я2 [п (^-®) + П (^ + ®)].(2.10.8)
Последняя функция имеет пики на частотах Х= ± со (mod 2л). В этом одна из причин называть переменную X частотой. Очевидно, (о/(2л)—число полных циклов изменения косинусоиды соз(со/+Ф), проходимых ею при изменении аргумента / на единицу. Поэтому Х/(2л) называется циклической частотой в единицу времени, обратная к ней величина 2лД носит название периода, а X —угловая частота, выраженная в радианах в единицу времени.'-
Пример 2.10.5 (функциональное разложение Вольтерра). Возвращаясь к примеру 2.9.8, сформулируем следующую теорему.
Теорема 2 Л 0.1. Пусть Y (I), / = 0, ±1, ..., определяется формулой (2.9.15), где ^\aj (и^, uj)\<oo и
AjikХД = 2 • • • 2 «J («1. •••,«,) exp {—.'.. +Х,иД}
••для 7=1, ...,' L. (2.10.9)
Тогда для кумулянтного спектра I-го порядка ряда У (t), / = 0, ±‘1, ..., справедливо уравнение
J Л (^1 + • • • 4*^Д fy... у(^1> • • • ’ ^Д ^i • • •
= S X • • • 2 $ • • • $ Л (Xai/ ^i^А1(а1/-; j = 1, Jx) ...
м>1 л j, J \ i 7/J ■
• • • n (2°v- (l'- /) € R^ • • • n (2«,v; (f> /) ^ рл)
Xfx...x Oi/- (hi)GPi) fx...x kij\ <i, /) € ^Af) dalx ... dani,
(2.10.10).
где внешняя сумма берется по всем неразложимым разбиениям \Pv .-..Рм^ М=1,2табл. 2.3.4.
В уравнении (2.10.10) для кумулянтного спектра использована симметричная запись. Теорема 2 в работе Ширяева (1960) дает сходный результат.
Функциональный и стохастический подходы к анализу временных рядов
При исследовании временных рядов широко применяются два различных подхода, а именно стохастический и функциональный. Первый из них, обычно используемый вероятностниками и статистиками [Doob (1953), Cramer, Leadbetter (1967)], изложен в § 2.2. Данный временной ряд при таком подходе рассматривается как результат случайного выбора из- некоторой совокупности возможных рядов. Пусть в нашем распоряжении имеется множество 0 векторных функций 0 (/) с г компонентами. После того как на 0 определена вероятностная мера, мы - получаем случайную функцию X (/, 6), значениями которой являются заданные функции 0(/). С другой стороны, для данной X (t) можно взять в качестве индекса 6 = X (•) и считать 0 состоящим из таких элементов 6. Затем можно положить X(t, 0) = X(t, Х(-)). Но в любом случае придется иметь дело с теорией меры и вероятностными пространствами.
Во втором подходе r-компонентный временной ряд интерпретируется как неслучайная функция из основного множества функций вида {Х(/, у) = X (t 4-у) | у = 0, ±1, ±2, ...}, где X (/)— заданная векторная функция с г компонентами. Этот подход, носящий название обобщенного гармонического анализа, изложен, например, в работе Wiener (1930).
С точки зрения теоретиков различие указанных подходов состоит в том, какие математические средства используются и какие предельные процессы вовлекаются в рассмотрение.
Допустим, что Х(/) имеет компоненты Ха^, а=1, ..., г. При функциональном подходе мы предполагаем, что существуют пределы вида
limS, Т->ооlimS, Т->ооТ-\t=-sS + TТ-\t=-sS + Tта.та.т-\2 xawxbvt-v^Нт „ . ~‘ ^ab V^*S, Т-Жт-\2 xawxbvt-v^Нт „ . ~‘ ^ab V^*S, Т-Ж(2.11.1)(2.11.2)(2.11.1)(2.11.2)
lim
S, Т->оо
lim
S, Т->оо
Т-\
t=-s
S + T
Т-\
t=-s
S + T
та.
та.
т-\
2 xawxbvt-v^
Нт „ . ~‘ ^ab V^*
S, Т-Ж
т-\
2 xawxbvt-v^
Нт „ . ~‘ ^ab V^*
S, Т-Ж
(2.11.1)
(2.11.2)
(2.11.1)
(2.11.2)
Свойство стационарности в этом случае будет выглядеть как существование пределов
Т-1
lim=та.(2.11.3)
S, Т->ос Т-1 •2 Хау + ^ХЬ (<+»+«)
s lim * Ы= таЬ ^,(2.11.4)
не зависящих от и при и = 0, ±1, ±2, ... . Определим теперь кросс-ковариационную функцию формулой
саЬ(и) = таЬ(и) — тать.(2.11.5)
Если
5 \са‘^\<оо,(2.11.6)
то, как в § 2.5, можно определить спектр второго порядка fab (X). Предположим, что функции Ха(0, о=1, . ...г, таковы, что (1) для действительных xv ..., хк и ^, ..., ^ функция Ea7,S^aft(^i, •••, ^; tv ..., tk), т. е. доля тех / в промежутке [—S, Т1), для которых
М + *1)<*1« . .., Xa^t + tfc^Xfe, (2.11.7) стремится к пределу FQ1ak(xv ..., хк\ tv ..., t^ (в точках непрерывности этой функции) при S, Т->-оо и
(И) выполнено условие компактности, имеющее вид
Т-1 -
(S+T)-1 2 |Х,(0|“<М(2.11.8)
t=-s
для всех S, Г и некоторого и > 0.
В этом случае FQxak(xv .... хк; tlt ..., t^ представляет собой симметричное и согласованное семейство конечномерных распределений, и по теореме Колмогорова это семейство можно связать с распределениями некоторого случайного процесса [Doob (1953)]. Предел в (1) зависит лишь от tx — tk, ..., ik_t— tk, и потому случайный процесс X (/) с такими конечномерными распределениями является строго стационарным. Если в (11) будет u^k, то
= lim (S+T)-1 S X^tf + O ... Xa^ + t^Xa^t),
S,T-*«t=-SR 1к
(2.11.9)
т. е. имеет смысл вводить в рассмотрение Х(0- Этот процесс будет удовлетворять условию 2.6.1, если функции кумулянтного типа, полученные для X (0. удовлетворяют (2.6.1).
Другими словами, если функция (при функциональном подходе] удовлетворяет определенным условиям регулярности, то имеется строго стационарный процесс, анализ которого будет эквивалентен исследованию указанной функции.
Обратно", если X (/) эргодичен (метрически транзитивен), то с вероятностью 1 любая выборочная функция обладает требуемыми предельными свойствами и может быть взята за основу при функциональном подходе1).
. Таким образом, имеет место
Теорема 2.11.1. Если векторная функция с г компонентами удовлетворяет приведенным выше условиям (i) и (И), то с ней может быть связан стационарный случайный процесс, обладающий теми же предельными свойствами. Обратно, если стационарный процесс эргодичен, то с вероятностью 1 любая его выборочная функция может быть взята за основу при функциональном подходе. .
Эти два подхода прямо сопоставимы с двумя подходами к статистике, где за основные объекты рассмотрения выбираются либо коллектив [Von Mises (1964)], либо измеримые функции [Doob (1953)], см. также Von Mises, Doob (1941).
Условие, что процесс X (/) эргодичен, не окажется чрезмерно ограничительным для целей нашего исследования, поскольку процесс будет эргодическим, если он удовлетворяет условию 2.6.1 и определяется своими моментами; см. Леонов (1960). Заметим также, что общий стационарный процесс является смесью эргодических процессов (Розанов (1963)); ассоциированный с семейством конечномерных распределений стационарный процесс (процедура получения которого описана выше) будет соответствовать некоторой компоненте смеси. Пределы в (i) будут существовать с вероятностью 1; однако они, вообще говоря, являются случайными величинами. .
Wold*(1948) рассматривал соотношение между функциональным и стохастическим подходами в случае конечных моментов второго порядка. .
Ч Процесс X (7) эргодичен, если для любой действительной функции f [X], такой, что Е | / [X (/)] | < оо, с вероятностью 1 имеем
Г-1■
’Мт Г-1 5/[Х(<)1 = Е/[Х(<)].
Т */ = 0
[Cramer, Leadbetter (1967), Wiener и др. (1967), Halmos (1956), Billingsley
(1965) и Hopf (1937).]
Заметим также, что соотношения (2.11.1) и (2.11.2) вытекают при определенных условиях из существования пределов в (i); см. Wintner (1932).
Мы вернемся к рассмотрению функционального подхода к анализу временных рядов в § 3.9.
Тренды
С одной из разновидностей отклонения от стационарности можно познакомиться на примере ряда X (О, ^ = 0, ± 1, ..., являющегося суммой стационарного ряда e(i), £ = 0, ±1, ..., и детерминированной функции т (^), t = 0, ± 1, ..., отличной от постоянной:
Х(0 = т(0 + е(<). ^ = 0, ±1 (2.12.1)
Если, кроме того, т^ не удовлетворяет условиям типа рассмотренных в § 2.11, то X (<) нельзя подвергнуть непосредственному гармоническому анализу. Наш метод исследования таких рядов будет состоять в попытке разделить и изучать порознь эффекты .влияния т^ и е(() на поведение Х(/).
Если функция m^V / = 0, ±1, •••, изменяется медленно, то будем говорить о наличии тренда. Похоже, что многие ряды, возникающие в практических задачах, обладают такой состав-' ляющей. Приведенным на рис. 1.1.4 рядам, изображающим экспорт Великобритании, по-видимому, это свойственно. В § 5.11 будут рассмотрены оценки тренда достаточно простого вида.
Упражнения
Пусть X (/) =cos (Х<4-0), где 6—случайная величина, равномерно распределенная в промежутке (—л, л]. Определите конечномерные распределения процесса, функцию среднего значения су(0 и автоковариационную функцию cxxVi, t^). ■
Докажите, что если для случайного вектора (Гу, ..., Y ^ существуют кумулянты cum (Ку,Y ^ при }г; ..., js=l, .... г, то для Zji = ^lafeYj, к=\, ..., s справедлива формула cum (Z^, ..., Zk^ i
= 2 ... 5 а^ ... ак$и cum (УА, ..., Y UY kt, ..ks=l, ..s.
и is
Обозначим cum (^ Ym^ раз], . <., Yr [mr раз]), cum (Zi [nt раз], ... ..., Zs\ns раз]) соответственно через K^mnW 'и ^щ...., п5 (z)’ а акторы с такими компонентами обозначим как К^ (Y) и /<^ (Z), т = /П1+ ♦.. . .. + ^r> п^п^ ... Jrns- Запишем преобразование упр. 2.13.2 в виде Z = A Y, где А есть («Хг)’Матрица. Докажите, что /<^1 (Z) = А^/С^ (Y), где А ^ есть п-я симметрическая степень Кронекера матрицы А [Ниа (1963, стр. 10, 100).]
Определите передаточную функцию фильтра, задаваемого формулой (2.9.6).
Покажите, что для (стационарного в широком смысле) ряда X (/) = ^ cos (в)/ + Ф), где R—постоянная, со — случайная величина с непрерывной плотностью / (со) и Ф—независимая от со величина, равномерно распределенная на (—л/л], спектр мощности задается формулой
R1 5 [/(Х + 2л/) + /(-Х+2л/)]/4.
/=- 00
Докажите, что для передаточной функции (г X ^-фильтр а, определяемого формулой.
N
Y (0=(2^+О"1 5 X (<-«),u= — N
недиагональные элементы равны 0 и диагональные равны [sin (2^+1) Х/2]/ /[(2^+1) sin Х/2].
Пусть У1(/) = 5иац(^-«)^1(«). K2(0=S«a22 ^-^ Хг^, где {Xi (/), Х2(/)} удовлетворяет условию 2.6.1 /Допустим также, что передаточные функции ЛП(Х), Л22(Х) отличны от нуля. Обозначим спектры второго порядка {Х1(/)> Х2(/)} и {Ki (/), У ^t^ соответственно через fjk(M и Sy^W» /» ^=1, 2. Докажите, что.
1/12 M P |gl2 (Х) |2
[ЫМ^М tell W 5^22 W] *
* 2.13.8. Докажите, что 6 (х)= lim nW (пх), если функция W такова, что
J | W (х) | dx < оо и J W (x)dx=l.
Пусть X (/), У (0—независимые r-компонентные векторные ряды с • кумулянтными спектрами fa(X)=/aiак^г' ^ И ^(М^ —^aiак (Xlf .Х^) соответственно. Докажите, что кумулянтный спектр X (0+ У (О равен fa(l) + ga(X).
Докажите, что если X (0 и а (0 принимают действительные значения, У (/) = 2“ а V™и^X (и) и X (0 имеет кумулянтный спектр fxt... ,х (fa •••>**), то кумулянтный спектр процесса У (I) равен Л (Х0 ... Л (X*) fx x(^i, • • М
Докажите, что 7fli^(Хь ..., fa = fai^(-^•••> -fa для векторного ряда с г действительными компонентами."
Докажите, что если X (/)—стационарный гауссовский марковский векторный процесс с г компонентами, для которого
Е(Х(ц)-^)(Х(0)~^)т = с^(М), И=ЕХ(ц), то.
_cxxGO = [cyy(l) (схх(О))"1^^ м^О
и ^хх(и) = ^хх(— ^х > 'и < 0.
Докажите, что спектр мощности действительного стационарного гауссовского марковского процесса имеет вид
о2/(1+р2—2pcosX)2n,—л<Х^л, —1 < р < 1.
Приведите пример, показывающий, что процесс X (/), определенный в § 2.11, не обязательно является эргодическим.
Пусть Х(^ (/), / = 0, ±1,...; Х=1, 2, ...,—последовательность рядов, удовлетворяющих условию 2.6.1. Предположим, что
| cum {XW (/+«!), .... Х^^+^-х), Х<")(0} | '
< £atОд (ul> • • • > UA-1)
для t, Ui, ... , uk-i = 0, ±1, ...; X=l, 2, ... , где
2 Sa,a (“1ИЛ-1) < oo.
Предположим еще, что при N —у оо все конечномерные распределения процесса Х(^ (/), t — 0, ± 1, ... , сходятся по распределению к конечномерным распределениям процесса Х(/), Z = 0, ±1, ... . Требуется показать, что
2 |CUm {Xai (Z + “l)’’ Xak_1 (< + «»-]). Х^ (0} | < 00.
U1, ... > uk-\
Покажите, что для фильтра ,
. Y (0 = X (О—2 cos соХ (/ — 1) + X (/—2)
передаточная функция обращается в нуль при Х=±со. Рассмотрите результат воздействия этого фильтра на ряд
X (f) = 7? cos ((0/+Ф ) +е (/), / = 0, ±1, ....
Пусть X (/) = 1 для (2/ —I)2 < / ^ (2/)2 и — (2/)2 < Z <—(2/—I)2, /=1, 2,..., и пусть X (/) = — ! для (2/)2 < / < (2/+1)2 и—(2/+1)2 < / <—(2/)2, /=0, 1, 2,• Докажите, что функция X (/) удовлетворяет
условиям из § 2.11, и определите ассоциированный с ней случайный процесс.
Положим X (/) = /? cos (со/+ ф), где R, со и ф постоянные. Докажите, что функция X(t\ удовлетворяет условиям §2.11, и определите ассоциированный с ней случайный процесс.,
Пусть X (/), / = 0, ±1, ..., и У (/), / = 0, ±1, ...,-—независимые ряды с нулевым средним и спектрами мощности соответственно/^(X) и fYу (X). Покажите, что спектр мощности ряда X (/) Y (/), / = 0, ±1, ... , задается формулой
л
txxO^—a)fyy(a)da.
-Л
Пусть Х(/), / = 0, ±1, ...,—■ гауссовский ряд с нулевым средним и спектром мощности fxxW* Покажите, что спектр мощности ряда X (/)2, / = 0, ±1, ..., определяется выражением ,
л
2 J fxx^—«) fxx («) d«--л
Докажите, что если X (/)—действительный ряд, удовлетворяющий условию 2.6.1, то [X (Z)]2 также удовлетворяет условию 2.6.1; определите его кумулянтный спектр.*
Докажите, что если при некотором / ряд X (/) удовлетворяет условию 2.6.2 (Z) и Y (/) =%и а ^ —и) X (и), где а (и) есть sXr-фильтр, такой, что
У 1 и |z I ajk W I < 00 > / = Ь ••* > s> &= L • • • , r> to Y (/) удовлетворяет условию 2.6.2 (/).
Говорят, что sXr-фильтр а (ц) имеет ранг I, если А (X) имеет ранг t при каждом X. Докажите, что в этом случае действие а (и) эквивалентно применению сначала / Xr-фильтра, а затем sX/-фильтра.
Докажите, что если Х(/) = 2«=оа(/— и^г^и^ где е (/)—векторный r-компонентный белый шум и {а (и)}—суммируемый sX г-фильтр, то функция fxx (X) может быть представлена в виде Ф (еа) Ф (eiA,)^, Где ф (z) есть sXr-матричная функция с элементами, аналитическими в круге [z|^l.
Докажите, что еслй Х(/)=2~=о a (t — и) е (ц), где е (и)—действи-, тельный белый шум и ^аЦи) < оо, то кумулянтный спектр ^-го порядка fx... x(^i> • • • > ^л) имеет вид Ф (е^1) ... Ф (^^), Х,+ ...+ Хд, = О (mod 2л), где Ф (z)— аналитическая функция в круге | z | ^ 1.
Докажите, что если X (/)— процесс скользящего среднего порядка т, то cyx(w) = 0 при | и | > т.
Покажите, используя функциональный подход к анализу временных рядов, что Y ^ = ^и а VI — и^ X (ц), 2-00 I я (и) | < о° определяет фильтр. Укажите связь между спектрами ¥ (/) и X (t).
Покажите, что Ух^> Уг(/)> определяемые формулой (2.7.33), получаются из X (/) с помощью фильтров с коэффициентами {а (и) cos Хо и}, {a (w) sin Хоц} соответственно.'
Докажите, что 6 (ах) — / а |-1 6 (х).
Пусть X (/)—стационарный векторный ряд с г компонентами, такой, что Ху (/) = руХу(/—1) + еу (/), | ру | < 1, / = 1, ...» г, где е (/) есть r-компонентный белый шум. Докажите, что
Ч«/<1^)=^.а7п Р//-Т) / (- П р/) :
вв \/еа '// \ /еа /
здесь T=min (^/*),a = (aJt ..., ак) и KOli . ,^-cum {еО1 (/), ..., e^t^.
Пусть Ф(Т), Т=1, 2, ...,—последовательность положительных чисел, обладающая свойствами: Ф (Т)—> оо и Ф(Т+1)/Ф(Т)—>1 при Т —> оо. Пусть X (/), / =0, ± 1, ..., есть r-компонентная функция, такая, что
Т-|«|■
Um Ф(Г)-1 2 Х(/ + И)Х(/Л = тхх(«) .
для u = 0, i 1, ... . Покажите, что существует гXr-матричная функция GxxW> —л < Х^л, такая, что*
Шхх(«)= ^ exp {ZwX} dGxx(X) при w = 0, ±1, ... .
-л
Указание. Определите ^хх^Ю как в доказательстве теоремы 2.5.2 [Boch-
пег (1959), стр. 329), Grenander (1954)]. Докажите, что ^ A(a)I^(a)da—►
-л л
—► \ A (a) dGxx(а) для функций А (а), непрерывных на [-—л, л].
-л
Пусть X (О, / = 0, ± 1, ...,—векторный стационарный ряд с ку- мулянтным спектром fa^ . , akQ\' ^кУ Определите кумулянтный спектр ряда X (— t^ t = 0f ± 1, ..., с измененным направлением времени.
Покажите, что
(2л)-1 2 ехр{—iX«} = 2 6 (X—2л/) = т| (X) «=-<ю/ = -«>’
при —оо < X < оо (формула суммирования Пуассона, Edwards (1967)).
Покажите, что функция cxxW не может быть автоковариацион- ной функцией, если суу(«)=1 при |н|^/п.и cxxW — ^ Для остальных и.
Рассмотрим J независимых реализаций стационарного процесса
Ху (0> /==о, ± 1, .... /=0, ..., J— 1. Введем
Y (sJ-VD^Xj (s) при / = 0, ..., J —1; s = 0, ±1, ... .
Покажите, что У (О, / — О, ±1, ..., — стационарный ряд и его спектром мощности является fxx№)'
Пусть X (О, / = 0, ± 1, ...,—линейный процесс х(о=2а(<—«)е(“)> и
2 I а («) i < СО, Ко*. Oft-cum {е^ (0),(°)}-
Покажите, что условие 2.6.3 удовлетворяется, если для г в некоторой окрестности нуля
Фильтр называется устойчивым, если поступающий на вход ограниченный ряд он преобразует в ограниченный ряд. Покажите, что суммируемый фильтр устойчив.
Пусть х СО, / = 0, ± 1, ..., —процесс авторегрессии порядка 1 и 8(0» / = 0, ± 1, ..., — белый шум. Положим X (0 = х (0 + е (О- Покажите, что X (0, ^ = 0, £ I, ...,—смешанный процесс авторегрессии и скользящего среднего порядка (1,1).
. 2.13.39. Сформулируйте и докажите обобщение теоремы 2.9.1 в том случае,* когда ряды X (0 и Y (О принимают векторные значения.
3
АНАЛИТИЧЕСКИЕ СВОЙСТВАПРЕОБРАЗОВАНИЯ ФУРЬЕИ КОМПЛЕКСНЫЕ МАТРИЦЫ
Введение
Преобразование Фурье будет нашим основным аналитическим средством при изучении временных рядов. В этой главе излагаются те разделы фурье-анализа, которые понадобятся в дальнейшем; рассматриваемые здесь функции чаще всего предполагаются детерминированными. Изучение стохастических свойств преобразований Фурье временных рядов мы отложим до следующей главы.
Ниже обсуждаются такие вопросы, как степень аппроксима* ции функции частными суммами ее ряда Фурье, увеличение точности этой аппроксимации с помощью улучшающих сходимость множителей, преобразование Фурье конечных последовательностей и способы быстрого вычисления таких преобразований Фурье, спектр матрицы и его связь с аппроксимацией одной матрицы другой матрицей меньшего ранга, свойства функций от преобразований Фурье и, наконец, спектральное или гармоническое представление некоторых функций.
Начнем с рассмотрения ряда Фурье функции А (А).
Ряд Фурье
Пусть А (А), —оо<А<оо,— комплексная функция, имеющая период 2л, такая, что
Л
(3.2.1)(3.2.1)$ | А (А) | dX < оо.
(3.2.1)
(3.2.1)
-л
Коэффициенты Фурье функции А (А) задаются .формулой
Л
а(ы) = (2л)-1 $ ехр {шА} A (A)dX, u = 0, ±1(3.2.2)
-Л
Тогда ряд
(3.2.3)(3.2.3)2 ехр {— iXu)j а (и) и— - со
(3.2.3)
(3.2.3)
называется рядом Фурье функции А (X). Имеется обширная литература, посвященная рядам Фурье и свойствам коэффициентов Фурье (например Zygmund (1959) и Edwards (1967)). Значительное внимание в литературе уделяется исследованию частных сумм
Л<П,(Х) = 2 ехр {—1Хи\а(и), п = 0, 1, 2, ... . (3.2.4) и= -п
В этой книге нам много раз придется оценивать близость Л(п> (X) к А (X) при больших п. Прежде всего заметим, что из (3.2.2) и упр. 1.7.5 вытекает следующая формула:
Л . / . 1 \Р sin I n-V-^- I аА^ (X) = I \А (X - а) da.Л . / . 1 \Р sin I n-V-^- I аА^ (X) = I \А (X - а) da.(3.2.5)(3.2.5)Графики функцийГрафики функцийJ 2л sin -л2J 2л sin -л2(3.2.6)(3.2.6)
Л . / . 1 \
Р sin I n-V-^- I а
А^ (X) = I \А (X - а) da.
Л . / . 1 \
Р sin I n-V-^- I а
А^ (X) = I \А (X - а) da.
(3.2.5)
(3.2.5)
Графики функций
Графики функций
J 2л sin -л2
J 2л sin -л2
(3.2.6)
(3.2.6)
изображены на рис. 3.2.1 для и=1, 3, 5, 10. Отметим, что функция Dn(a) знакопеременна и при больших п она, так сказать, все более сосредоточивается в окрестности точки а = 0. При этом, как следует из упр. 1.7.5,
р Sin л + тГ ) а
I ^±2—da=l.(3.2.7)
J2л sin -у
Эти свойства Dn (а) показывают, что Л(п) (X) является взвешенным средним функции Л(Х—а) с весом, сосредоточенным в окрестности а = 0. Если функция Л (а) достаточно регулярна, то было бы естественно ожидать, что Aw (X) близки к А (X) при больших п. Можно, например, доказать, что, если Л (а)—функция ограниченной вариации, Л(л) (X) стремятся к А (X) при п—>оо; Edwards (1967 стр. 150).
Налагая дополнительные условия регулярности, можно оценить скорость приближения Л'л)(Х) к А (X) при п—*оо.
Допустим, что-
2 |и|*|а(«)|< оо при некотором Л^О. (3.2.8) и=-со_-
Это условие связано со степенью гладкости А (а). При выполнении такого условия функция А (а) имеет ограниченные непрерывные производные вплоть до порядка к. Тогда
Л(Х)-Л(П)(Х) = 2 ехр{— Ли} а (и)(3.2.9)
|к| > П.
и, следовательно,
|Л(Х)-Л‘"'(Х)|< 2 |а(«)|
I М I > п
^n-ft 5 |м|*|а(м)| = о(п~*)). (3.2.10)
..I и I > п
Таким образом, степень аппроксимации А (X) суммами А^ (X) оказывается тесно связанной с гладкостью А (X).
я) Мы будем использовать символы* Ландау о, О, записывая ап = о(рп), когда а„/р„—>о при п—> оо, и записывая ап=О(Р„), когда отношение
Предостережем читателя, что, вообще говоря, Aw (X) не обязательно стремится к А (X) при п —► оо даже в случае, когда А (X) является непрерывной ограниченной функцией X; Edwards (1967, стр. 150). Однако связь между функциями Л(Х)и Д<П)(Х) хорошо отражается формулой (3.2.5). «Регулярное» поведение разности Л(Х) — A^QA особенно сильно нарушается в окрестностях точек разрыва функции А (X). При этом может иметь место явление Гиббса, когда превышение уровня Л(Х) значениями функции A(n) (X) не уменьшается с ростом п; Hamming (1962, стр. 295) или Edwards (1967, стр. 172).
Множители, улучшающие сходимость
Fejer (1900, 1904) обнаружил, что даже непрерывные функции могут плохо приближаться частными суммами рядов Фурье. Поэтому вместо частных сумм (3^2.4) он предложил рассматривать следующие:
■L^-) а(м) ехр{—iXu}.■L^-) а(м) ехр{—iXu}.(3.3.1)(3.3.1)
■L^-) а(м) ехр{—iXu}.
■L^-) а(м) ехр{—iXu}.
(3.3.1)
(3.3.1)
Используя выражение (3.2.2) и упр. 1.7.12, можно переписать (3.3.1) в виде'
Л
С 1 Г sinna/2 12
\ACk—aAda.(3.3.2)
J 2лп [ sina/2 J v 7v '
-л
График функции.
0 ^a ^ л,0 ^a ^ л,(3.3.3)(3.3.3)1 Г sin na/2 12 2лп [ sina/2 J
0 ^a ^ л,
0 ^a ^ л,
(3.3.3)
(3.3.3)
изображен на рис. 3.3.1 при п = 2, 4, 6, И. Легко видеть, что эта функция неотрицательна, сосредоточена в окрестности точки а=0 и, согласно упр. 1.7.12, такова, что '
Л *
(3.3.4)(3.3.4)С 1 Г sin na/2 12
(3.3.4)
(3.3.4)
J 2лп [ sin a/2 J
-л
Она более плавно изменяется, чем функция (3.2.6), и ее график меньше „пульсирует**. Эта большая регулярность приводит к тому, что функции, задаваемые формулой (3.3.2), сходятся к Л(Х), когда Л (а) непрерывна, хотя в то же" самое время (3.2.5) может и не сходиться к А (X); Edwards (1967, стр. 87). Введение в выражение (3.3.1) множителя 1 — |u|/n привело к расширению
класса функций, которые могут быть хорошо представлены тригонометрическими рядами.
В общем случае мы можем рассматривать выражения вида-
(3,3.5)(3,3.5)У, ехр {—iku\h ( —) а(м),иХ '
(3,3.5)
(3,3.5)
где h(х) — некоторая функция, такая, что Zt(0) = 1 и/i(x) = 0 при |х|>1. Множитель h^uln\ появляющийся в (3.3.5), называется множителем сходимости; Мооге (1966). Положим
Hw^ = ^^,hMexp\-iuXV(3.3.6)
и х
тогда (3.3.5) можно переписать как
Hw (а) А (к —a) da, -лHw (а) А (к —a) da, -л(3.3.7)(3.3.7)
Hw (а) А (к —a) da, -л
Hw (а) А (к —a) da, -л
(3.3.7)
(3.3.7)
т. е. как взвешенное, среднее интересующей нас функции.
Было предложено очень много различных множителей сходимости h^ujny Некоторые из них вместе с соответствующей функцией Н^ (X) приведены в табл. 3.3.1. Типичное поведение h(u/n) таково: максимум, равный 1, при и = 0, а дальше неуклонное убывание к 0 при возрастании | и | от 0 до п. Множители сходимости также назывались окнами просмотра данных и коэффициентами сглаживания; Tukey (1967).
Таблица 3.3.1
Некоторые множители, улучшающие сходимость
А (u/л), 0 < | и | < пН^ (X), -л <еХ < лАвторы
. / ,1V
Sin п+*тг X
1п21Дирихле
1„ .1,[Edwards (1967)]
^Л Sin “2“ К
j 1«1 п
1 Г sin пХ/2 12ФейеР. ,БаР™ет
"о —/а[Edwards (1967)1
2лп L sin Х/2 J[Parzen (1963)]
2^1L^-V А<|и|<п
Vп J 2
О 11 Г ♦1 /л -1Де ла Валле-Пуссен
2+cos X Г sin пХ/4 14Джексон, Парзен
4лп3 L sinX/4 J[Ахиезер (1947),
Parzen (1961)]
1 /\
1 + cos
2 \п )
■^Dn(X)+l.Dn(x—^ Хэмминг, Тьюки
1/~ \[Blackman,
+^D„^+±JTukey (1958)]
J I и I А ли 1 — -—L cos \п )п
. 1 . л 1 и Г + — Sin ! L 1 лп
• м9л ^ ~bc°s пХ)Бохман
(n2X2—л2)2[Bohman (I960)]
р|и|/л о^|и|^п
1 P Пуассон
0 < р < 1
2л 1—2p1/ncosX+p2/n [Edwards (1967)]
. и sin — п
и п
= "K 1^1^”-Риман, Ланцош
2n[Edwards (1967),
— 0 в противном случаеLanczos (1956)]
(U2 )
еХ₽1 2nJ
.n/)Гаусс
=г-— exp<>Вейерштрасе
К 2лД)[Ахиезер (1947)]
1—— п»
Рисе, Бохнер
О' 1 d2£)nWПарзен
1 п2 ^2[Bohner (1936),
Parzen (1961)]
Продолжение
h OU nV 0 < | и | < п
H(n) (X), —л <
- Z <
: л
Авторы
10 ^ | и | ^ fn
1 ^l+cosn [-^ — фо — /) fn ^ | и | ^ п,
где О < } < 1
Тьюки
[Tukey (1967)] -
Характерный вид весовой функции Т/1^ (X) таков, что она становится все более сконцентрированной в окрестности нуля при п—>оо. Как и следовало ожидать, из (3.3.6) вытекает
(3.3.8)(3.3.8)$ Я(и) (a)da= 1.
(3.3.8)
(3.3.8)
-Л'
Рассмотрение выражения (3.3.7) наводит на мысль, что для некоторых целей желательно выбирать Я(П)(Х) неотрицательной. Функции, фигурирующие во второй и третьей строках табл. 3.3.1, обладают этим свойством. Функция Нп (X) получила название частотного окна или ядра. Из (3.3.7) мы видим, что близость функции (3.3.5) к А (X) связана со степенью сосредоточения //"(а) в окрестности а = 0. Предлагались различные меры этой концентрации, т. е. ширины полосы пропускания. Press и Tukey (1956) предложили использовать ширину полосы, отвечающей половинной мощности, равную а£ —а^ где а£ и а^—соответственно первая положительная и первая отрицательная точки, в которых Н{п} (а) = Н^ (0)/2. Grenander (1951) предложил в качестве такой меры величину•.
’ Л11/2
$ a2//(n)(a)da(3.3.9)
_-л_.
1 2л1 2лЭто не что иное, как среднеквадратическая ошибка, или отклонение от нуля, если Я*"’ (а) рассматривать как плотность вероятностного распределения на (—л, л). Parzen (1961) предложил такую меру концентрации:
1 2л
1 2л
(3.3.10)
Это ширина, прямоугольника, имеющего ту же высоту, что и максимум Я(и) (а), и площадь, равную 1.
Особенно удобная в обращении мера задается формулой
(1 — cos а) Нк1Й (а) da(1 — cos а) Нк1Й (а) da1/21/21/2
(1 — cos а) Нк1Й (а) da
(1 — cos а) Нк1Й (а) da
1/2
1/2
J 2sin2-^-7/(ra)(a)da- -Л'
= [1 -\h (-\+h (— —)1/211/3.(3.3.11)
L V \ п /\ п J Г 3V 7
Среди ее свойств отметим, в* частности, следующее: если h (и) обладает второй производной h" (0) в точке и^О, то
Р" ~ 2 Г "^Ш1/2 2 [1 С a2//(a) dal1/2,(3.3.12)
п п L 2 J п [ 2 J ' J х
что показывает связь этой меры с мерой Гренандера (3.3.9). С другой стороны, если ядро "является сверткой ядер Gln) (a), Hw (а), то можно показать, что при больших п ■
^*Я~№)2 + №]1/2- ■ (3-3'13)
Отметим также, что если для некоторого q > 0, как предполагал Parzen (1961), существует■
/гв= lira(3.3.14)
91«1в
то
PM^'T'2'(3.3.15)
В табл. 3.3.2 приведены значения р^ и XlH^ (0) для ядер, рассмотренных в табл. 3.3.1. С помощью этой таблицы можно составить представление об относительной асимптотической концентрации различных ядер.
Следующая теорема дает другое средство исследования степени приближения функции Л (X) суммами вида (3.3.5).
Теорема 3.3.1. Предположим, что Л (X) имеет ограниченные производные вплоть до порядка Р и функция
Н (а)= (2л)-1 ^ й(х)ехр {—iax\dx (3.3.16)
такова, что для некоторого конечного К
J|a|p|H(a)|da^/<.J|a|p|H(a)|da^/<.(3.3.17)(3.3.17)
J|a|p|H(a)|da^/<.
J|a|p|H(a)|da^/<.
(3.3.17)
(3.3.17)
Тогда
^,ехр {— /Хм} h ^^ а (и)—§ пН (па) А (X —a)da
р =Л(Х)+^ p=iр =Л(Х)+^ p=i■тЦ» > ? ^Н (a) da •р\ пР г J ' '■тЦ» > ? ^Н (a) da •р\ пР г J ' 'dpA(^ ,dXP 'tdpA(^ ,dXP 'tО (п-р). (3.3.18)Таблица 3.3.2О (п-р). (3.3.18)Таблица 3.3.2
р =Л(Х)+^ p=i
р =Л(Х)+^ p=i
■тЦ» > ? ^Н (a) da •
р\ пР г J ' '
■тЦ» > ? ^Н (a) da •
р\ пР г J ' '
dpA(^ ,dXP 't
dpA(^ ,dXP 't
О (п-р). (3.3.18)
Таблица 3.3.2
О (п-р). (3.3.18)
Таблица 3.3.2
Концентрация //"(а) в окрестности а=0 для различных ядер
Ядро
р«
1///{ZZ) (0)
Дирихле
0
я/п .
Фейер
1//л ,
2я/п
Де ла Валле-Пуссен
У^/п
4 л/Зп
Хэмминг
я/2п
2я/п
Бохман
л/У2п
я^п
Пуассон
Vlogl/p/y п
л (log 1/р)/п
Риман
УУбп
Ш
Гаусс
У У2п
Угк!п
Коши
1/п
1/лп
Рисе
1/п
Зл/2п
Тьюки•
0
2л/(п+/п)
По формуле (3.3.18) можно судить о том, как близость (3.3.5) к А (X) зависит от применяемого множителя сходимости. Желательно по возможности выбрать h так, чтобы интегралы
f^(a)da = z-F-^#l(3.3.19)
J v 'dxP |х=о'
равнялись нулю для р = 1,2, ... . Если А (х) = А (—х), то так будет для всех нечетных р. Требование обращения в нуль для четных р эквивалентно тому, чтобы график h (х) был очень плоским в окрестности х = 0. В этом отношении примечательна последняя функция табл. 3.3.1.
Вообще говоря, выбор оптимальной функции h(ulri) зависит от конкретного вида интересующей нас функции А (X). Имеется развитая математическая теория наилучшего приближения функций тригонометрическими полиномами, см., например, Ахиезер (1947) или Тиман А. Ф. (1960). Bohman (1960) и Akaike (1968) исследовали множители сходимости, пригодные для приближения широкого класса функций, см. также Тиман М. Ф. (1962), Shapiro (1969), Hoff (1970), Butzer, Nessel (1971).
Wilkins (1948) привел асимптотические разложения вида (3.3.18), которые справедливы при менее ограничительных условиях.
В качестве применения материала, изложенного в этом параграфе, обратимся к задаче конструирования фильтра. Допустим, мы хотим определить-зависящие от времени коэффициенты а(и\ и = 0, ±1, • • • , фильтра, имеющего заданную передаточную функцию Л(Х). Связь между а (и) и Л (X) выражается формулами
а(^) = (2л)~1 ехр {шХ}Л (X) dX,(3.3.20)
Л(Х) = 2 ехр {—iXu\a(u).(3.3.21)
= - ОО
Фильтр, как мы знаем, имеет вид
'^(0= 5 a(t-u)X(u),.(3.3.22)
и= - ОО
где Х(/), / = 0, ±1, ... ,— исходный ряд. Вообще говоря, коэф* фициенты а (и) не обращаются в нуль при больших |^|, в то время как практически нам доступен лишь конечный отрезок наблюдений X(t). Это создает трудности для применения формулы (3.3.22). Можно поэтому поставить такую задачу: построить фильтр конечной длины, использующий конечное число наблюдений X (/) и имеющий передаточную функцию, близкую к Л(Х). Ее можно переформулировать как задачу отыскания таких множителей h^uJnY что сумма
. У ехр{—(3.3.23)
и=-пх 7
близка к А (X). Именно этот вопрос обсуждался выше.
Допустим, мы хотим аппроксимировать низкочастотный фильтр с усечением частот, превышающих по модулю Q < л, т. е. желаем аппроксимировать передаточную функцию
Л(Х) =Л(Х) =1 при | X | ^ Q,1 при | X | ^ Q,0 при остальных X,0 при остальных X,(3.3.24)(3.3.24)
Л(Х) =
Л(Х) =
1 при | X | ^ Q,
1 при | X | ^ Q,
0 при остальных X,
0 при остальных X,
(3.3.24)
(3.3.24)
— л<Х<л. Коэффициенты этого фильтра
й-а ^ = 2л У СХР ^U } ^ =* -йй-а ^ = 2л У СХР ^U } ^ =* -йЯлЯлпри и — 0,при и — 0,I sin Qu,[-тг-пРи u^°-I sin Qu,[-тг-пРи u^°-
й-
а ^ = 2л У СХР ^U } ^ =
* -й
й-
а ^ = 2л У СХР ^U } ^ =
* -й
Я
л
Я
л
при и — 0,
при и — 0,
I sin Qu,
[-тг-пРи u^°-
I sin Qu,
[-тг-пРи u^°-
Предыдущие рассуждения подсказывают, что имеет смысл рассмотреть фильтр, например, такого вида:Предыдущие рассуждения подсказывают, что имеет смысл рассмотреть фильтр, например, такого вида:пY^ = 2 hи= — ппY^ = 2 hи= — пsin Qu ияsin Qu ияX(t-U),X(t-U),(3.3.26)(3.3.26)где Л («/«) —некоторый множитель сходимости.Предположим теперь, что мы хотим практически реализовать вычисление преобразования Гильберта, введенного в § 2.7. Передаточная функция этого фильтра такова:где Л («/«) —некоторый множитель сходимости.Предположим теперь, что мы хотим практически реализовать вычисление преобразования Гильберта, введенного в § 2.7. Передаточная функция этого фильтра такова:О < X < л,Х = 0,— л < X < О,О < X < л,Х = 0,— л < X < О,(3.3.27)(3.3.27)и, следовательно, коэффициентами фильтра будути, следовательно, коэффициентами фильтра будута (и) =а (и) =О, если и четно, 2—, если и нечетно лиО, если и четно, 2—, если и нечетно ли(3.3.28)(3.3.28)
Предыдущие рассуждения подсказывают, что имеет смысл рассмотреть фильтр, например, такого вида:
Предыдущие рассуждения подсказывают, что имеет смысл рассмотреть фильтр, например, такого вида:
п
Y^ = 2 hи= — п
п
Y^ = 2 hи= — п
sin Qu ия
sin Qu ия
X(t-U),
X(t-U),
(3.3.26)
(3.3.26)
где Л («/«) —некоторый множитель сходимости.
Предположим теперь, что мы хотим практически реализовать вычисление преобразования Гильберта, введенного в § 2.7. Передаточная функция этого фильтра такова:
где Л («/«) —некоторый множитель сходимости.
Предположим теперь, что мы хотим практически реализовать вычисление преобразования Гильберта, введенного в § 2.7. Передаточная функция этого фильтра такова:
О < X < л,
Х = 0,
— л < X < О,
О < X < л,
Х = 0,
— л < X < О,
(3.3.27)
(3.3.27)
и, следовательно, коэффициентами фильтра будут
и, следовательно, коэффициентами фильтра будут
а (и) =
а (и) =
О, если и четно, 2
—, если и нечетно ли
О, если и четно, 2
—, если и нечетно ли
(3.3.28)
(3.3.28)
Допустим п нечетно. Тогда мы приходим к рассмотрению фильтров вида
И04{л(|)[ХМ-Х(Ж)]4а(^
... + lft(l)[X(f-n)-X(Hn)]^ (3.3.29)
На рис. 3.3.2 изображены для 0 < X < у мнимая часть идеальной функции А (X), задаваемой формулой (3.3.27), и мнимые части приближений к А (X), вычисленных, согласно (3.3.29), при п = 7 для различных множителей сходимости, взятых из табл. 3.3.1. В силу симметрии рассматриваемых функций достаточно изображать их лишь в указанной частотной области. Приведенные графики показывают важность введения множителей сходимости, а также и то, каким образом различные коэффициенты сглаживания влияют на результат.
Вопросы построения численных методов для нахождения фильтров рассматривались в работах: Kuo, Kaiser (1966), Wood (1968); см. также IEEE Trans. Audio Electro. (1968). Goodman (I960) исследовал численные реализации преобразования Гильберта и фильтров, пропускающих определенные полосы частот. В § 3.6 мы обсудим способы быстрого вычисления профильтрованного ряда ¥(Ь- Различные аспекты вопросов, разобранных в этом параграфе, рассмотрел Parzen (1963).
0°г
*2
-.2
-.4
-.6
-.8
-1.0
О
т2
-.4
-.6
-.8Н
-1.0
Множитель Дирихле
1.0
7Т
О
-.2
-.4
-.6
-.8
-1.0
- Идеальное преобразование
о
-.2
-.4 к
6 -
-8 -
^ Множитель Фейера
- Множитель Бохмана
Рис. 3.3.2. Мнимая часть передаточной функции преобразования Гильберта и ее различные аппроксимации, построенные с помощью множителей, улучшающих сходимость, при п = 7.
Конечные преобразования Фурье и их свойства
Для данной последовательности а (и), и = 0, ±1, .... в предыдущем параграфе приходилось рассматривать выражения вида
2 ехр {—1-Хи}а(н).(3.4.1)
. и= - п
Последнее при фиксированном п называется конечным преобразованием Фурье набора чисел а (и), и = 0, ±1, ... , ±п. При анализе временных рядов такие преобразования будут представлять собой важные статистики.
Прежде чем двигаться дальше, целесообразно слегка изменить обозначения, а также рассмотреть общий случай векторных последовательностей. А именно, рассмотрим последовательность r-мерных векторов Х(0), Х(1), . ..,Х(Т—1), определенную на числах 0, 1, ..., Т — 1, в отличие от прежнего выбора в качестве области определения чисел —п, —п+1, ... , — 1,0, 1, ..., п. Определим конечное преобразование Фурье этой последовательности формулой
т-\
dx-X = 2 X (0 ехр {— 1ХЦ, —оо < А < оо. (3.4.2) ;=о
В случае когда Т = 2n +1, где п — целое, можно записать
dx * (X) = ехр {— /Ал) 2 X (м + л) ехр {— iku^.
U—— П
Понятно, что единственная разница между определениями (3.4.1) и (3.4.2) состоит в наличии множителя, равного по модулю единице. Какое из двух определений более удобно, зависит от конкретной ситуации.
Среди свойств определения (3.4.2) выделим следующее:
d(P(A + 2n) = d#>(A)'(3.4.3)
если же компоненты X (t) принимают действительные значения, то
d^ = d<xr>(-X).(3.4.4)
Из этих двух свойств вытекает, что в случае действительных компонент в качестве основной области определения функции dx^A) может быть взят отрезок О^А^л. Далее заметим, что для данных X (/), Y(/), / — О, ..., Т — 1, и постоянных аир выполняется соотношение
dax+pr (X) = adx ’ (А) + pd(yr> (X).(3.4.5)
Иногда требуется сравнить конечное преобразование Фурье свертки двух последовательностей с преобразованиями Фурье самих этих последовательностей. Справедлива
Лемма 3.4.1. Пусть Х(^), / = 0, ±1, ... ,— равномерно ограниченная последовательность r-мерных векторов, и пусть а (/), / = 0, ±1, • •• ,— такая sx г-матричная функция, что
5 {1 +1«1}| а(и)| <оо.(3.4.6)
к= -<ю
Положим.
и/
Тогда существует такое конечное К, что
\d^(X)-M^dlP М<К, —оо<Х<оо,(3.4.8)
где
А(Х) = 2 а(«)ехр{— 1ХиУ(3.4.9)
U= -00
Мы видим, что конечное преобразование Фурье профильтрованного ряда приблизительно равно произведению передаточной функции фильтра и конечного преобразования Фурье исходного ряда. Этот результат в дальнейшем позволит осуществлять фильтрацию интересующих нас рядов с помощью численных методов; см. также лемму 6.3.1.1
Приведем теперь несколько примеров конечного преобразования Фурье. В рассматриваемых случаях проще воспользоваться симметричным определением
2 X(0exp{— iXty(3.4.10)
t— -п
Пример 1 (постоянная). Пусть Х(/) = 1, / = 0, ±1, ... ; тогда выражение (3.4.10) обращается в
"sinfn+l^X
L ехр {— Ш}= —^—vJ— = ^Dn W-(3.4.11)
t--nsin —Z
График этой функции приведен на рис. 3.2.1, 0<Х<л. Заметим, что функция имеет пики при Х = 0, ±2л, ... .
Пример 2 (гармоническое колебание). Пусть Х^ = ехр {/со/}, / = 0, +L ... , где (о—действительное число, тогда (3.4.10) об-
ращается в
п
^ ехр{—ЦХ—to)t\ t=- п
sin fn-|-y J (X—со)
1 „Silly (X —to)
2nD„(X-to). (3.4.12)
Эта функция совпадает с преобразованием из примера 1, если сдвинуть аргумент на со. Она имеет пики при Х = со, ©±2л, ... .
Пример 3 (комплексный тригонометрический полином). Пусть Х(0 =2йРйехР Vto^V Из предыдущих рассмотрений ясно, что (3.4.10) совпадает с
sin fn+v) (^—<о»)
Ур»V х(ЗЛ.13)
кsin у (X—coft)
и у этого преобразования большая амплитуда при Х = соЛ±2л/, / = 0, ±1
Пример 4 (моном). Допустим X^ = tb, Z = 0, ±1, ... , где к — натуральное число. Тогда (3.4.10) примет вид
^ Zftexp{-iW} = (i)-^^ Zftexp{-iW} = (i)-^(3.4.14)(3.4.14)
^ Zftexp{-iW} = (i)-^
^ Zftexp{-iW} = (i)-^
(3.4.14)
(3.4.14)
Это выражение ведет себя подобно производной преобразования, рассмотренного в примере 1. Заметим, что при больших п наше преобразование сконцентрировано в окрестности Х = 0, ±2л, ... .
Полином ^как1к будет вести себя как линейная комбинация функций вида (3.4.14).
Sin — (Л —to)Sin — (Л —to)(3.4.15)(3.4.15)Пример 5 (колебание с мономиальной амплитудой). Положим Х^ = ^exp {цо£}; тогда (3.4.10) обращается в
Sin — (Л —to)
Sin — (Л —to)
(3.4.15)
(3.4.15)
п
£ ^Аехр{—ЦХ-со) t} = i~b ^ t=-n
т. е. в рассмотренную выше функцию примера 4, сдвинутую по частоте на величину (о.
Общее содержание этих примеров таково: в случае, когда X^t)—постоянная или медленно меняющаяся по t функция, амплитуда ее преобразования Фурье сосредоточена вблизи точек ^ = 0, ±2л, ... . Если X (/)— гармоническое колебание частоты (о или гармоническое колебание частоты (со), умноженное на поли-
(3.4.21)(3.4.21)
(3.4.21)
(3.4.21)
ном по ^, то бе преобразование Фурье сосредоточено в окрестности X = со, со ± 2л, ... .'
Преобразование (3.4.2) можно обратить с помощью интегрирования:
■ X (0 = (2л)-1 $ ехр \ИЦ d^1 (X) dX, t = 0, ... , Т - 1. (3.4.16) О■
С другой стороны, обратное преобразование получается и суммированием:
X^^T-^exph^Xd^^A , / = 0, ... , Т — 1. (3.4.17) S=0 I
Набор Т векторов d^7’^ns/T), s = 0,'. ..,Т—1, размерности г иногда называют дискретным преобразованием Фурье функции Х(/), / = 0, ...,Т—1. В следующих двух параграфах мы рассмотрим способы его вычисления, а также ряд его свойств.
Дискретное преобразование Фурье можно представить в матричной форме. Пусть £ обозначает rxT-матрицу со столбцами X (0), ..., X (Т — 1), расположенными в таком порядке, и пусть © обозначает г х Т-матрицу со столбцами d^7)(2ns/T), s=0, ..., Т—1. Пусть также $ есть ТхТ-матрица с элементами ехр {—i (2ns//T)} ж (s+l)-fi строке и (/4-1)-м столбце при s, / = 0, . ..,Т— 1. Тогда нетрудно видеть, что
. Ф^Ж(3.4.18)
В случаях Т = 1,2, 3, 4 получаются соответственно следующие матрицы:
(3.4.19)
(3.4.20)
Общее исследование дискретного и конечного преобразований Фурье проводится в работах: Stumpff (1937), Whittaker, Robinson (1944), Schoenberg (1950), Cooley, Lewis, Welch (1967). Дальнейшие сведения даны в упражнениях к этой главе.
Быстрое преобразование Фурье
Для построения интересующих нас статистик в этой книге применяется, главным образом, дискретное преобразование Фурье. Поэтому важно уметь быстро вычислять дискретное преобразование Фурье данного набора чисел Х(0, О^^^Т —1..
Заметим, что если вычислять это преобразование по формуле
d^ (^) = £ехр{-^)-Х(0, / = 0, ...,Т-1, (3.5.1)
т. е. по определению, то требуется произвести Т^ операций умножения комплексных чисел. В случае когда Т —составное число (произведение нескольких целых чисел), был предложен ряд простых процедур, сокращающих необходимое число умножений [Cooley и др. (1967)]. Недавно появились формальные алгоритмы, сокращающие число умножений почти до минимума [Good (1958), Cooley, Tukey (1965), Gentleman, Sande (1966), Cooley и др. (1967), Bergland (1967), Bingham и др. (1967), Brigham, Morrow (1967)]. О формулировках в терминах композиционных рядов конечной группы см. Posner (1968), Cairns (1971).
Укажем вначале вид алгоритма быстрого преобразования Фурье в двух элементарных случаях. "Идея этих алгоритмов — сократить число операций при преобразовании длинного ряда наблюдений, сводя задачу к последовательному вычислению преобразований Фурье более коротких наборов данных.
Теорема 3.5.1. Пусть Т = ТгТ2, где 7\ и Т2 —целые числа; тогда.
Ti-l
dx’(2лТ"1[/1Т2 + /3]) = 52 ехр{— i^nTr^Jexp]— ^nT-t/Vj t=°i
X 2 exp {—i2nT21j2t2}X(t1 + /2Л)> /2=0
(3.5.2)
0 /1 7\1, 0 < /2 < Т2 1 •
Заметим, что /1Т2 + /2 пробегает все целые значения /, 0 ^ / ^ 7 — 1 при 0 ^ /1 ^ Л — 1 и 0 ^ /2 ^ Т2 — 1. Заметим так-
же, что требуется (Т1 + Т2)Т1Т2 умножений комплексных чисел для вычисления дискретных преобразований Фурье порядков Tt и Т2 в формуле (3.5.2). Некоторое определенное число дополнительных операций будет затрачено на введение множителей ехр{—i2rtT-1jV,}. -
Другой алгоритм дается следующей теоремой, в которой X (/) обозначает периодическое продолжение , X (0), ..., X (Т— 1), с периодом Т. *
Теорема 3.5.2. Пусть Т = ТгТ^ где Т^ и Т2 взаимно простые числа. Тогда для j = j, (modT J, /=/2 (mod T2), 0 ^ jt ^ Tt — 1, 0 ^ j2 ^ T2 — 1, имеем
dT (2nT^j) = T^ ^ exp {- I2n (T^tJ, + T2"42j2)|. ^=o /2=o -
хХ^Л + ОТ- (3.5.3)
Отметим, что необходимое число умножений комплексных чисел опять равно (Тг + Т2) Т^. Здесь для каждого j мы должны определить /\ и /2, фигурирующие выше, и подсчитать соответствующий коэффициент Фурье. При этом отсутствуют члены вида ехр{—^лГ-1/^^}, входящие в (3.5.2), и результирующее выражение симметрично по Тг и Т2. Good (1971) сравнил эти два алгоритма быстрого преобразования Фурье.
Расширение теоремы 3.5.1 на случай, когда Т = Тг...Тк при некотором & и числа Tv ..., Тк—целые, очевидно. В формуле (3.5.2) 72 теперь является составным числом и - поэтому внутреннее преобразование Фурье по аргументу t2 само может быть записано в виде повторной процедуры (в виде (3.5.2)). Продолжая таким образом, мы видим, что d(/} (2л7-1/), j = 0, ... ..., Т — 1, мбжет быть получено последовательным применением А дискретных преобразований Фурье порядков 7\, ..., Тк. Для этого понадобится произвести (7\ + ... + Тк) Т умножений комплексных чисел. Некоторые формулы, касающиеся этого случая, можно найти в работе Bingham и др. (1967).
Справедливо следующее обобщение теоремы 3.5.2.
Теорема 3.5.3. Пусть Т = Тг.. .Т к, где Tv ..., Тк—взаимно простые числа. Пусть j=jl (mod Tz), 0^ jz^7z—l, /=1, ... ..., к. Тогда
Ti-l Тк”х
^(МГ^П- 2 ... 2 ехр{-»2л(Тг1/1/1+...+7’г1Ш} #i=0 ik=0 ■
X X^TT^+.-.+t^T^), i = 0, .... Т-1. (3.5.4)
Здесь X (О означает, периодическое продолжение X (/) с периодом Т. .
Поясняя этот результат, заметим, что числа ^Т/Т^... ...+^777^, взятые по модулю Т, пробегают все целые значения t, O^t^T—1, при О^^^Т,— 1, 0^/й^7\—1. При каждом j необходимо определить фигурирующие выше jv ..., jk и выразить соответствующий коэффициент Фурье через те, которые предварительно были вычислены. Это можно сделать, составляя таблицу остатков от деления j, 0 ^ / ^ Т — 1, на Т(, /= 1, ..., к.
Для вычисления результата по формуле теоремы 3.5.3 также необходимо произвести (Т, + ... + Т^ Т умножений. Отсюда видно, что наибольшая выгода получается, когда Tj малы. Если Т = 2", то в сущности необходимо выполнить 2Т log2 Т умножений. В конце § 3.4 приводились дискретные преобразования Фурье для Т = 1, 2, 3, 4. Изучение этих примеров показывает, что может понадобиться даже меньшее-число операций, чем указано выше. Случаи Т =4 и Т = 8 представляются особенно важными. Дополнительный выигрыш может быть достигнут при учете свойств X ^ или за счет преобразования нескольких рядов; см. Cooley и др. (1967), а также упр. 3.10.30.
Часто случается, что Т не разлагается на большое число множителей, и нас не интересуют значения dx’W на частотах вида 2njlT, j = 0, ..., Т—1. Если это так, то можно выбрать такое 8>Т, которое разлагается на большое число множителей, и добавить S — T нулевых значений к набору X (t). Преобразование с^ЦХ) теперь получается при Х = 2л//5, / — 0, 1, ... .... S—1.
Совершенно очевидно, что мы можем комбинировать технику, предоставляемую теоремой 3.5.3, когда Т разлагается на взаимно простые множители, с предыдущей процедурой, имеющей дело с произвольными множителями. Таким образом может быть сокращено число умножений на экспоненты. Подробности о случае Т = 12 см. в книге Hamming (1962, стр. 74). Программу на языке Фортран для вычисления быстрого преобразования Фурье приводит Singleton (1969).
В заключение заметим, что быстрое преобразование Фурье— это прежде всего эффективный численный алгоритм. Используется такое преобразование или нет —на основных выводах статистического исследования это не скажется. Цель этого преобразования—радикальным образом сократить количество вычислений при эмпирическом анализе временных рядов.
Применения дискретного преобразования Фурье
Допустим, нам известны значения ХЦ\ V (t), t = 0, ...
..., Т— 1. Иногда бывает необходимо рассматривать свертку
5х(н«)^(0, «=о, ±1,....(зтб.1)
О < f, t+u<T-\
Если
dPW^ X(t) ехр{—iXt},
^Л(3.6.2)
dp (X) = 2 V (t) exp {— ikt\,/=о
то сразу видно, что свертка (3.6.1) представляет собой коэффициент при ехр {— ГКи\ в тригонометрическом полиноме dP (X) dpO^ и, следовательно, свертка задается формулой
'2л
(2л)*1 J ^’(XJdVWexpltuXJdX, « = 0, ± 1, ... . о
(3.6.3)
Этот случай подсказывает, что свертку (3.6.1) можно вычислять, применяя дискретное преобразование Фурье, и тем самым использовать преимущества быстрого преобразования Фурье.
S-1S"1 Е dps = 0S-1S"1 Е dps = 0Лемма 3.6.1. Для данных XUY Y Р), ^ = 0, ..., Т— 1, и целого 8>Т свертка (3.6.1) задается формулой •
S-1
S"1 Е dp
s = 0
S-1
S"1 Е dp
s = 0
/2л$\ Z2ns\ ( . 2л$и 1
("У ) “У ( "S" ) еХР 1 1 "7$|
при и = 0, ±1, ..., ±(S-T). (3.6.4)
В общем случае (3.6.4) обращается в
(3.6.5)(3.6.5)2ХН<(0 7^Л
(3.6.5)
(3.6.5)
0 s + и Т — 1
Взяв S достаточно большим, мы можем получить нужное значение свертки из (3.6.4). Если S выбрано разлагающимся на большое число множителей, то дискретные преобразования Фурье, используемые в (3.6.4), могут быть вычислены при помощи алгоритма быстрого преобразования Фурье, обсуждавшегося в предыдущем параграфе. Таким образом, свертка (3.6.1) быстрее вычисляется указанным методом, нежели прямо по определению (3.6.1). Этот факт подметил Sande [Gentleman, Sande (1966)],
а также Stockham (1966). Из формулы (3.6.5) видно, что при S—Т < | и | ^ Т— 1 выражение (3.6.4) дает (3.6.1) плюс дополнительные члены. Для не слишком больших значений | и | оно будет примерно равно (3.6.1), и это справедливо для всех и, если взять S ^ 2Т.
Знание свертки (3.6.1) требуется, например, при оценке моментов /п12 (zz) = Е [Хх (/+ ы) Х2 (<)] стационарного двумерного ряда. Несмещенная оценка т12(и) задается формулой
(Т-Н)"1 S X^t-V^X^Y (3.6.6)
0<t Uu<M
имеющей вид (3.6.1). Из упр. 3.10.7 видно, как можно изменить результат леммы 3.6.1, чтобы построить оценку для с12(и) = = cov^! (/ + «), Х2(0}.
Результат леммы 3.6.1 оказывается также полезным при вычислений значений профильтрованного ряда
Т-1
V^ = 5 «V — и)Х(и) для t = 0, ± 1, ...,(3.6.7)
м = 0
где величины X (f), / = 0, ..., Т— 1, известны. Пусть Л(Х)— передаточная функция фильтра {а(и)}. Тогда леммы 3.4.1 и 3.6.1 подсказывают, что стоит вычислить
s-Г
S1 2. d^ ( у A I у) ехр<1^-У для ^ = 0, ± 1, ... .
(3.6.8)
Эти значения должны быть близки к значениям профильтрованных величин. Непосредственная подстановка показывает, что (3.6.8) принимает вид
(3.6.9)
и поэтому, если коэффициенты а (и) быстро убывают при | и | —► оо и 0^(^Т—1, выражение (3.6.8) будет близко к выражению (3.6.7). В случае когда S разлагается на большое число множителей, вычисления по формуле (3.6.8) могут быть сокращены при помощи алгоритма быстрого преобразования Фурье. Можно было бы, кроме того, ввести в рассмотрение и множители сходимости.
Заметим, что лемма 3.6.1 допускает следующее обобщение.
Лемма 3.6.2. Для данных Xy(Z), f = 0, ..., Т — 1, j = 1, ..., г и целого S>T выражение
s x^+^.-.x^^+^-^xat) (3.6.10)
0 < /, t + u,. < Т - 1
равняется s-i S-1
. £ dV> №) ... dVT2t (^^)
Si = Osr_i=0
lsl + • • • + sr-ll\ J ; 2Л [S!Ui+ .. . + sr-l“r-l] 1 /х к5/ vAp \ t,
u,=0, ±1,±(S—T), j = l, ...» r—1.
В заключение этого параграфа укажем некоторые применения конечного преобразования Фурье. Допустим, что
2лХ (/) = 7? cos (at + Ф), —л < ю < л, (3.6.12)
тогда, согласно примеру 2 из §3.4,
£ X (t) exp (^-Ш^ Re'*D„(X - Ю) +1 Re-‘*D„(X-H»). (3.6.13) t = -n
Проверка показывает, что амплитуда функций, задаваемой формулой (3.6.13), велика лишь для X, близких к ± со (— л < X < л). Следовательно, конечное преобразование Фурье (3.6.13) должно быть полезно при практическом определении заранее неизвестной частоты гармонического колебания. Об этом см. Stokes (1879).
Заметим, что если X (0 содержит две неизвестные частоты, т.е.
2лХ (<) = ^1соз(ю1^-|-ф1) + 7?2соз((о2/ + Ф2),(3.6.14)
то близкие частоты Wj и <о2 трудно разрешить (т. е. различить), так как
У X (0 ехр {— iX^} = у Rt exp {t^J Dn (X — ©J t= -n
+ у R2 exp {1ф2} Dn (X - <o2)
+ y Rj exp{—1Ф^Оп (X+®f)
+ у R2 exp {— (ф^ Dn (X + w2).’(3.6.15)
Очевидно, эта функция не будет иметь заметных пиков на частотах Х = ± го,, ± о)2, ..., если Wj и <о2 так близки, что всплески соответствующих функций Dn гасят друг друга. Трудность эту можно преодолеть, если ввести в преобразование Фурье множители сходимости. А именно, используя (3.3.6) для ряда, зада-
ваемого формулой (3.6.14), получим п
+ 4^2ехр{1ф2)Я(”,(Х —со2)
+ 4 ^i ехР {— ^i} HW (^ + wi)
+ 4 ₽2ехр {- 1ф2} Н™ (Х + ю2)-(3.6.16)
Если множители сходимости h(ulri) выбраны так, что Н{п} (X) сосредоточена в некотором интервале, например в интервале | X | < Д/л, то амплитуда функции, определяемой формулой (3.6.16), будет иметь отчетливые пики в случае | «х — со21 > 2Д/п.
Отметим также ряд других применений конечного преобразования Фурье. Оно используется при вычислении собственных значений интересующих нас матриц [Lanczos (1955)], при оценке распределений, являющихся смесями [Medgyessy (1961)], при определении кумулянтной функции распределения по ее характеристической функции [Bohman (I960)].
Комплексные матрицы и их экстремальные значения
Переходя к рассмотрению матриц с комплексными элементами, заметим, что примером такой матрицы является матрица спектральной плотности, введенная в § 2.5. Начнем с нескольких определений. Если Z = [Z^] — матрица размера JxK, у которой на пересечении j-й строки и ^-го столбца стоит комплексное число Zjk, то обозначим через Z^[ZyA] матрицу, состоящую из элементов, комплексно-сопряженных к соответствующим элементам матрицы Z. Пусть Z^^y] —матрица, транспонированная к Z. Говорят, что Z — эрмитова матрица, если ZT = Z. Эрмитова матрица Z размера JxJ называется неотрицательно определенной, если
S <^*>0(3.7.1)
Л k=\
для всех комплексных чисел ау., / = 1, ..., J. Квадратная матрица Z называется унитарной, если Z"1 = ZT, или, что эквивалентно, ZZT = I, где 1—единичная матрица. Комплексное число Н называется собственным значением или характеристическим
80
(3.7.2)(3.7.2)числом J х J-матрицы Z, если 'Det (Z —р.1) = 0,
(3.7.2)
(3.7.2)
где I —единичная матрица той же размерности, что и Z. Поскольку Det(Z—pl) является полиномом от р порядка /, уравнение (3.7.2) имеет не более J различных корней. Для любого собственного значения р всегда существует /-компонентный вектор а, такой, что
Za = pa. (3.7.3)
Это — классический результат [MacDaffee(1946)]. Такой вектор а называется собственным вектором матрицы Z. Если Z—-эрмитова матрица, то все ее собственные значения действительны [MacDaffee (1946)], Упорядочив собственные значения в порядке возрастания, обозначим j-e из них через ру. или ру (Z), / = 1, ...,/, а соответствующий собственный вектор через «у или а: (Z). .Набор собственных чисел квадратной матрицы называется ее спектром. Кратко обсудим связь между спектром матрицы и ранее определенным спектром второго порядка стационарного ряда.
Заметим, что для каждой матрицы Z матрицы ZZT, ZXZ всегда будут эрмитовыми и неотрицательно определенными. Согласно теореме 2.5.1, если Х(0> ^ = 0, ±1, ...,—векторный стационарный ряд с г компонентами, имеющий абсолютно суммируемую ковариационную функцию, то матрица его спектральной плотности f^x(X) является эрмитовой и неотрицательно определенной. Отметим, что если ‘
$ = [ехр{-^1‘2л//?/Т}] (3.7.4)
— матрица дискретного преобразования Фурье, рассмотренного в § 3.4, то матрица Т-1^ будет унитарной. Ее собственные значения приведены в упр. 3.10.12.
В ряде случаев оказывается полезным сводить вычисления, связанные с комплексными матрицами, к вычислениям, вовлекающим только действительные матрицы. Приводимая ниже лемма 3.7.1 устанавливает важный изоморфизм между комплексными и действительными матрицами. Предварительно для матрицы Z — [Z/ft] с элементами Zjk = ReZjk + i Im Zjk введем следующие обозначения:
(3.7.5)(3.7.5)ReZ = [ReZ/t],Im Z = [Im Z;k\.
(3.7.5)
(3.7.5)
Лемма 3.7.1. Каждой комплексной J хК-матрице Z соответствует действительная ^2^х^2КУматрица ZR, такая, что
если Z = X + Y, то Z^X^ + Y*;
если Z = XY, то ZR = XRXR;
если Y = ZI, mo Y^Z^/1;
Det Z* = | Det Z |2;.
если Z эрмитова, mo ZR симметрична;
если Z унитарна, mo ZR ортогональна;
если собственными значениями и собственными векторами матрицы Z будут соответственно ру, ау., /= 1, ..., J, то для матрицы ZR собственными значениями и векторами будут соответственно
Rea/ Im ayRea/ Im ayР/’Р/’Im ау. Reay.Im ау. Reay./=1./=1.J. (3.7.6)J. (3.7.6)
Rea/ Im ay
Rea/ Im ay
Р/’
Р/’
Im ау. Reay.
Im ау. Reay.
/=1.
/=1.
J. (3.7.6)
J. (3.7.6)
Подразумевается, что все складываемые и перемножаемые матрицы имеют подходящие размеры.
Действительно, соответствие между матрицами, о котором идет речь, может быть задано следующим образом:
ZR =ZR =Re Z Im Z— Im Z Re Z "Re Z Im Z— Im Z Re Z "(3.7.7)(3.7.7)
ZR =
ZR =
Re Z Im Z— Im Z Re Z "
Re Z Im Z— Im Z Re Z "
(3.7.7)
(3.7.7)
Оно рассматривалось в работах: Wedderburn (1934), Lanczos (1956), Bellman (1960), Brenner (1961), Good (1963), Goodman (1963). Это-соответствие чрезвычайно полезно при вычислениях с комплексными матрицами. Однако Ehrlich (1970) указывает, что в некоторых случаях удобнее иметь дело непосредственно с комплексными матрицами.
Собственные векторы и собственные значения играют важную роль, когда мы представляем матрицы с помощью более элементарных матриц. Для эрмитовых матриц верна
Теорема 3.7.1. Если Н является эрмитовой J х J-матрицей, то j _
■н.= 2 MyUyU/'(3.7.8)
где ^ — это j-e собственное значение Н и Uy-—соответствующий собственный вектор.
Следствие 3.7.1. Эрмитова У х/-матрица Н может быть записана в виде UMUT, где М = diag {|лу.; j = 1, ..., /}х), а матрица
и *) Так обозначена матрица М, ненулевые элементы которой стоят на главной диагонали и Mjj = ру. — Прим, перев.
U = [Uj, ..., Uj] унитарна. Если к тому же Н—неотрицательно определенная матрица, то ру^О, /=1, ..., J.
Приведенная теорема иногда называется спектральной теоремой. Для матриц произвольных размеров справедлива
Теорема 3.7.2. Для J хК-матрицы Z имеет место представление
z= 2 ^иу¥7, (3.7.9) j<J,K
где р) есть j-e собственное значение матрицы 11х (или матрицы ZTZ), Uy есть j-й собственный вектор матрицы 11х и Nj есть j-й собственный вектор матрицы ZTZ; при этом ру^О.
Следствие 3.7.2. Каждая JxK-матрица Z может быть записана в виде UMVT, где JхК-матрица M=diag{py; j= 1, ...,/} диагонально, JxJ-мат.риид U = [U1, ..., U7] унитарна и КхК- матрица ¥ = [¥п ..., ¥^ также унитарна.
Эту теорему установил Autonne (1915). Структурные теоремы для матриц обсуждаются в книгах: Wedderburn (1934) и Ниа (1963), см. также Schwerdtfeger (1960). Представление Z=UMUT* называется разложением Z по сингулярным значениям. Программа вычисления такого представления на ЭВМ приведена в работе Businger, Golub (1969).
С точки зрения анализа временных рядов важный класс матриц представляют конечные теплицевы матрицы. Говорят, что С = [Суй] является конечной теплицевой матрицей, если ее элементы Cjk зависят только от /—к, т. е. CJk = c(j—к) для некоторой функции с (-у Эти матрицы рассмотрены в работе Widom (1965), где можно найти дальнейшие ссылки. При изучении временных рядов конечные теплицевы матрицы важны по следующей причине. Если X (t), t = 0, ±1, ....—действительный стационарный ряд с автоковариационной функцией схх (и), и = 0, ± 1, ..., то ковариационная матрица отрезка этого ряда X (/), / = 0, ... ..., Т — 1, является конечной теплицевой матрицей с элементами cxx(j—к), стоящими на пересечении /-й строки и к-то столбца.
Иногда нас будут интересовать собственные значения и собственные векторы ковариационной матрицы для X (t), t = 0, ... ..., Т — 1, где X (t) — стационарный ряд. Имеются различные результаты об аппроксимации этих величин при больших Т. Перед тем как привести некоторые из них введем важный подкласс конечных теплицевых матриц. Квадратная теплицева матрица Z = [Zyfc] называется циклической порядка Т, если Z/k — z(k—/) для неко-
торой периодической функции г^ с периодом Т, т. е.
-z(0)
Z(l)
... 2(7—1)"
z(7-l)
z(0)
2(7-2)
z(7-2)
2(7-1)
2(7-3)
z=
(3.7.10)
•
* * **
1
_ 2(1)
2(2)
2(0) _
Используя это понятие, сформулируем теорему.
Теорема 3.7.3. Пусть Z = [z(£ — /)] является циклической Т у. Т-матрицей, тогда ее собственные значения задаются выражениями
Г-1
5 z(/)exp{— i2njk!T}, h = 0, ...» Т-Х. (3.7.11) /=о
Им соответствуют собственные векторы
T-i/2[exp{— i2njk!T}‘, j = 0Т — lj, А = 0, .... Т — 1.
(3.7.12)
Как видно, собственные значения представляют собой дискретное преобразование Фурье последовательности z (/),/ = О, ... ...., 7— 1. Матрица, составленная из собственных векторов, пропорциональна матрице ^ из § 3.4. Теорему 3.7.3 можно найти в работах: Aitken (1954), Schoenberg (1950), Hamburger, Grimshaw (1951, стр. 94), Good (1950), Whittle (1951).
Теперь вернемся к рассмотрению квадратных конечных теплицевых матриц общего вида C=[c(j—Л)], /, ^=1, ..., Т. Пусть Z —соответствующая циклическая матрица, у которой 6-й элемент первой строки равен с(1—6) + с(1—6 + 7), при этом мы считаем с(7) = 0. Согласно теореме 3.7.3, собственными значениями Z будут числа
Т-1
^ (Z) = S [с (— 1) + с (— / + 7)] ехр {— 1‘2л/6/7}
(3.7.13)
= 2 с (и) exp {i2nuk!T}, k = 0, .. .,7 — 1. u=-T+l
Этот набор чисел образует дискретное преобразование Фурье от с^и), и = 0, ±1, ..., ± (7—1). Пусть $г обозначает 7x7- матрицу, столбцами которой являются векторы, определяемые формулой (3.7.12), и пусть Мг обозначает диагональную матрицу
(3.7.14)(3.7.14)ЕслиЕсли2.Г-1^ 2 |«1Н«)|2-и— — 7'4-1(3.7.16)2.Г-1^ 2 |«1Н«)|2-и— — 7'4-1(3.7.16)| U 11 с (ы) I? <| U 11 с (ы) I? <ОО,ОО,(3.7.17)(3.7.17)
(3.7.14)
(3.7.14)
Если
Если
2.Г-1
^ 2 |«1Н«)|2-
и— — 7'4-1
(3.7.16)
2.Г-1
^ 2 |«1Н«)|2-
и— — 7'4-1
(3.7.16)
| U 11 с (ы) I? <
| U 11 с (ы) I? <
ОО,
ОО,
(3.7.17)
(3.7.17)
с элементами |xft(Z). Тогда z=^rMr^.,
и можно рассматривать приближение С с помощью $rM7$T = Z. Имеет место следующая оценка разности:-
|]С_Zjp= S1C/A—Z/A|== S1 |«||с(ц)Г(3.7.15)
i, ku=-t*\
Эта оценка может быть использована для получения оценок разностей между собственными числами и между собственными векторами матриц С и Z. Например, согласно теореме -Вейланда- Гофмана [Wilkinson (1965)], существует такая нумерация ре, (С), ..., pt-r (С) собственных значений ^(С), ..., рг(С) матрицы С, что
Т-Г-1
2 Pu (Q— 5 с(«)ехр{М«/Т}
к-\R и=-Т+1'
то распределение собственных значений матрицы С при Т —> оо стремится к дискретному преобразованию Фурье от с (и), и = 0, ±1, • • •, ± (Г—1). Большое количество результатов такого характера можно найти в книге Grenander, Szego (4958); см. упр. 3.10.14. Результаты такого типа указывают связь между спектрам мощности стационарного временного ряда (этот, спектр определяется как преобразование Фурье автоковариационной функции ряда) и спектром (т. е. набором собственных значений) ковариационных матриц, отвечающих длинным отрезкам этого ряда. Мы вернемся к этому вопросу в § 4.7.
Относительно величины несовпадения собственных векторов С и Z можно рекомендовать работы Гавурина (1957) и Davis, Kahan (1969). Заметим, что приведенные выше результаты могут быть распространены на случай векторных рядов и на блоки теплицевых матриц, см. упр. 3.10.15.
Представление (3.7.9) играет важную роль при приближении одной матрицы с помощью другой, меньшего ранга. В этом направлении отметим следующую теорему.
Теорема 3.7.4. Пусть имеется J хК-матрица Z. Среди всех JxK-матриц А ранга L^-LK минимум величинам
• рД[г-А][г=АГ) (3.7.18)
доставляет матрица
(3.7.19)(3.7.19)A=2^U/VJ;
(3.7.19)
(3.7.19)
/ = 1
фигурирующие здесь р.у, Uy, Vy те же, что и в теореме 3.7.2. При этом минимальное значение выражения (3.7.18) равно p.y+i..
Таким образом, мы построили А из слагаемых в сумме (3.7.9), соответствующих L наибольшим значениям р.у. Случай действительных симметричных Z и А разобран в работе Okamoto (1969).
Следствие 3.7.4. Указанный выше выбор К позволяет также минимизировать ■j к.
||Z—А||2= 2 2|^-Лу*]\(3.7.20)
/ = 1 Л= 1
когда минимум ищется среди всех А ранга L^J, К. Минимум этот равен'
2(3.7.21)
i>L_
Для действительных Z и А результаты, подобные этому следствию, имеются в работах: Eckart, Young (1936), Kramer, Mathews (1956), Rao (1965).
Функции от преобразования Фурье
Пусть X (/), t = 0, ± 1, ..., — интересующий нас векторный временной ряд. Для того чтобы рассматривать статистические свойства некоторых рядов, полученных в результате применения операторов к ряду Х(0. нам необходимы некоторые сведения об аналитических свойствах функций от преобразований Фурье. Дадим следующее
Определение 3.8.1. Пусть С обозначает поле комплексных чисел. Функция f (z), принимающая комплексные значения и определенная для z = (Zi, ..., z^^D, где D—открытое подмножество из Сп, называется голоморфнойeD, если каждая точка w = (ф^ ... ..., av„) ^D имеет окрестность U, такую, что f (z) допускает разложение в степенной ряд
fW =2o»,...t„(Zi-a'i)*‘...(2„—(3.8.1)
***»=°
для всех z^U.
Иногда для определения голоморфных функций бывает полезна
(3.8.2)(3.8.2)Теорема 3.8.1. Допустим, что Fj^yv ..., ут; zlt ..., zn), j = 1, ..., т,—функции отт^п переменных, голоморфные в окрестности точки ^uv ..., ит\ uv ..., оп)^ Ст+п. Если Fj (и^ ... ..., ит; vv..., и„) = О, / = 1,.. .,т,а детерминант матрицы Якоби
(3.8.2)
(3.8.2)
д (^1> •... Ут)
отличен от нуля в точке ^и^, ..., ит; vtу„), то уравнения
Fj^v Ут, егz„) = 0,т, (3.8.3)
имеют единственное решение yj = yj(z1, ...,z^, j=\, .... т, которое голоморфно в окрестности точки (у,, ...,у^.
Эта теорема содержится в книге Bochner, Martin (1948, стр. 39). Из нее, например, вытекает, что нули полинома являются голоморфными функциями от коэффициентов полинома в области, где полином имеет различные корни. Из этого в свою очередь следует, что собственные значения матрицы являются голоморфными функциями от ее элементов в области различных собственных значений, см. упр. 3.10.19.
Обозначим символом У+ (/), /^0, пространство функций z(X), —оо <Х < оо, преобразование Фурье которых имеет вид
z(X) = £a(u)exp{— 1иЦ,(3.8.4)
н=0
где а^и) принимает действительные значения и удовлетворяет условию
2[1 + |»И|а(«)|<оо.(3.8.5)
м=0
При выполнении условия (3.8.5) область определения z (X) может быть расширена до множества комплексных X, таких, что — оо < <ReX<oo, ImX^O. Тогда справедлива '
Теорема 3.8.2. Если функции Zj (X) принадлежат классу V+ (/), /=1, ..., п, и f (zt, ..., zn)—голоморфная функция в области значений {zt (X), ..., z„(X)}; —oo<ReX<oo, ImX^O, то f (Zj (X), ..., zR (X)) также принадлежит V+ (/).
Эту теорему можно вывести из результатов Гельфанда и др. (1960). Первые теоремы такого типа получили Wiener (1933) и Levy (1933).
Приведем пример использования последней теоремы. Пусть (а (и)}, и = 0, 1, 2, ..., является реализуемым /-суммируемым rxr-фильтром .с передаточной функцией А(Х), такой, что Det А (X) #= 0, — оо < Re X < оо, Im X ^ 0. Из последнего условия
вытеКает, что элементы матрицы А-1 (X) суть голоморфные функции от элементов матрицы А (X) в окрестности области значений А(Х); см. упр. 3.10.37. Применение теоремы 3.8.2 показывает, что элементы матрицы В(Х) = А(Х)-1 входят в V+ (/) и, следовательно, В(Х) оказывается передаточной функцией реализуемого /-суммируемого rxr-фильтра {Ь(и)), м = 0, 1, 2, ... . В частности, если X (/), / = 0, ±1, ...,—стационарный г-компонентный ряд с Е | X (/) | < оо, то соотношение
Y(/) = Sa(u)X(/ — и)и=0Y(/) = Sa(u)X(/ — и)и=0(3.8.6)(3.8.6)
Y(/) = Sa(u)X(/ — и)и=0
Y(/) = Sa(u)X(/ — и)и=0
(3.8.6)
(3.8.6)
можно с вероятностью единица обратить и получить, что
(3.8.7)(3.8.7)Х(/) = 2 b (u) Y(t —и).ы=0
(3.8.7)
(3.8.7)
Здесь b(zz), и = 0, 1, 2, ...,—некая функция, для которой
(3.8.8)(3.8.8)S [1 Ч-|« М] I Ь («) | < оо. и=0
(3.8.8)
(3.8.8)
Заметим, что условие DetA(X)^=0, —oo<ReX<oo, ImX^O эквивалентно такому условию: функция
DetDetУ a (u) zu и=0У a (u) zu и=0(3.8.9)(3.8.9)
Det
Det
У a (u) zu и=0
У a (u) zu и=0
(3.8.9)
(3.8.9)
не имеет корней в единичном круге | z | ^ 1. В том случае, когда Y (/) = е(/), т. е. является белым шумом с конечным средним, из этих рассуждений вытекает, что если
(3.8.10)(3.8.10)Det [I + а (1) z + ... +а (т) гт]
(3.8.10)
(3.8.10)
не имеет корней в единичном круге, то схема авторегрессии
Х(/) + а(1)Х(/ —l)+...+a(m)X(/-m) = e(/) (3.8.11)
имеет с вероятностью единица стационарное решение вида
00
(3.8.12)(3.8.12)Х(/) = 2b(/-u)e(u),и=0
(3.8.12)
(3.8.12)
где
5 [1 + И]|Ь(м)|<оо(3.8.13)
и = 0
для всех /^0.
Иногда оказываются полезными иные результаты той же природы. Дадим следующее
Определение 3.8.2. Функция f (г), принимающая комплексные значения и определенная для z = (z1, ..., zn)£D, где D—открытое подмножество Сп, называется голоморфной в действительном смысле, если у каждой точки vi = ^t, ..., w^ £ D имеется окрестность U, такая, что в этой окрестности f (z) представляется сходящимся степенным рядом, т. е. для всех z£U
fto =2 •2»„; Л. -(21-^1)^ к?1 — ^и • • •
(3.8.14)
Введем далее пространства V (/), /^0, функций г (X), — оо < < X < оо, имеющих преобразование Фурье вида
z(X) = 2 а («) exp {—iuX\,(3.8.15)
U= - ао
где а(м) принимает действительные значения и удовлетворяет условию
2 [1 +1 м |г] |а (г*) | < оо.(3.8.16)
Тогда верна
Теорема 3.8.3. Если функции гДХ) принадлежат !/(/), / = 1, .. •, п, и ^zv ..., z^—функция, голоморфная в действительном смысле в окрестности области значений \zx (X), ... ..., z„ (X); — оо < X < оо}, то f (zx (X), ..., z„ (X)) также принадлежит V (/).
Эта теорема снова вытекает из результатов Гельфанда и др. (1960). Сравнивая последнюю теорему с теоремой 3.8.2, мы видим, что требуемая здесь область регулярности функции /(•) меньше, а принимаемые ею значения могут быть более общими.
Укажем одно из применений теоремы 3.8.3. Пусть {а(м)}, и = 0, ±1, ±2, будет /-суммируемым rxr-фильтром с передаточной функцией А(Х), удовлетворяющей условию DetA(X)=^O, — оо< Х <оо. Тогда существует /-суммируемый фильтр (Ь(«)}, и = 0, ±1, .. .,.с передаточной функцией В (Х) = А(Х)-1. Или еще можно сказать, что существует /-суммируемый фильтр (с (и)}, и = 0, ±1, ..., с передаточной функцией С (X) — (А (X) А (X))-1.
В качестве примера совместного использования теорем 3.8.2 и 3.8.3 отметим следующий результат, полезный при линейном прогнозе действительных стационарных рядов.
Теорема 3.8.4. Пусть Х^, / = 0, ±1— ряд, принимаю
щий действительные значения, имеющий среднее нуль и ковариационную функцию cov (X (/ + «), X (/)} = схх(и), t, и = 0, ±1, ... .
Предположим, что
У, [1 + |ы 101схх (ы) | < оо для некоторого I ^ 0 (3.8.17) и= - 00
и fxx W^O) — оо < X < оо. Тогда
X (t)= ^ bfu)e(t—u) для / = 0, ±1,(3.8.18)
« = 0
аде ряд
в(0 = 2 a(u)X(Z-u) '(3.8.19)
и-0
имеет нулевое среднее и автоковариационную функцию сы(и) = = 8 {и}. При этом коэффициенты удовлетворяют условию
2 [1 +1 и Ю | а (и) |, 2 [1+1 и |z] | b (и) |,<оо. (3.8.20)
Коэффициенты {а (и)}, {&(«)} определяются здесь неявным образом. Если рассмотреть функции
Л (X) = У а (и) ехр {— /Хи},
■“:°(3.8.21)
В(Х) = 2й(и) ехр {— iXu},
и = 0
то для них справедливы соотношения
В(Х) = Л(Х)-!,(3.8.22)
- /УНМ-0ад|-|4(Х)|^,(3.8.23)
log fxx W = log В (X) + log В (X).(3.8.24)
Если выполняется условие (3.8.17) и fxx(X) не обращается в нуль, то можно записать
log fxx W = 2 g (и) ехр {—iXu}, (3.8.25)
U= - co где■
£(и) = (2л)-1 ^ exp {iXu} log fxx (X) dX (3.8.26) -Л
U= - GOU= - GOИ
U= - GO
U= - GO
согласно теореме 3.8.3. Опираясь на выражение (3.8.24), определим
В(Х) = exp | jg(0) +£ g(«)exp {— /Хм}) .(3.8.28)
Соответствующие последовательности {а (и)}, {6 (и)} удовлетворяют условию (3.8.20) в силу теоремы 3.8.2.
Теоремы 3.8.2 и 3.8.3 впервые были использованы при анализе временных рядов в работе Hannah (1963). Библиография к этим теоремам—книги Arens, Calderon (1955) и Гельфанд и др. (1960). Baxter (1963), используя эти процедуры/ получил неравенство, которое может быть полезно при оценке ошибки конечных аппроксимаций некоторых преобразований Фурье.
Спектральные представления при функциональном подходе к анализу временных рядов
Как мы уже видели в § 2.7, эффект воздействия линейных инвариантных во времени операций на временные ряды X (0. / = 0, ±1, .... легко описывается, если ряд является суммой гармонических колебаний, например,
X(0 = 2exp{iX,0z(j),(3.9.1)
i
где z(/) суть г-компонентные векторы. В этом параграфе мы рассмотрим представления ряда Х(/), близкие по своей природе к (3.9.1), но применимые к более широкому классу рядов. Такие представления будем называть спектральными1, они имеют вид
(3.9.2)(3.9.2)Х(0~ $ e>p(tX/}dZx(X), /=0, ±1
(3.9.2)
(3.9.2)
-Л
Здесь Zx(X)—некоторый r-компонентный ряд. Начнем с рассмотрения следующей теоремы.
Теорема 3.9.1. Пусть r-компонентная векторная функция Х^, Г=0, ±1такова, что для t, и = 0, ±1, ... существует
s
lim (2S+1)-15 X(^ + u + s)X(Z + s)T = mxx(«)- (3.9.3) S —> соs=-S
Тогда существует предел
и
GxxW= Ит (2л)-1 У Шхх (и) [ехр {— iuk} —1]/(— Си), и -> 00u=-U
— л<Х^л. (3.9.4)
Существует также г-компонентная векторная функция Z^ (X; s), — л<Х^л, s = 0, ±1такая, что
X(^ + s)~ exp {iX/} dZx (X; s), s, t = 0, ±1, .(3.9.5)
в том смысле, что,
s 6Л2
lim (2S +I)"1 2 IIX Ct + s) - $ exp {iX/} dZx (X; s) || = 0,
S —> cos=—S— л
/ = 0, ±1(3.9.6)
Функция Zx(X; s) удовлетворяет также соотношениям
lim lim (2S + 1)"1
T-> oo S -> co
ST•
x 2 ||Zx(X; s)-^)/* 2 X(/ + s)[exp{— itk} —1]/(— it)^ = 0, s=-St--T
—л<Х^л, (3.9.7) и
s
lim (2S + 1)”^ 2 ^x (^> s) ^x (и» s)T ~ ^xx (min {X, ji)), S -> cos= —S
O^X, ц<л. (3.9.8)
Матрица Gxx(X), фигурирующая в (3.9.4), является ограниченной неотрицательно определенной неубывающей функцией от X, О^Х^л, и такой, что G^(—X) = Gxx(X)T. Можно сравнить ее с матрицей, определенной в упр. 2.13.31.
Выражение (3.9.5) представляет X(^ + s) в виде суммы гармоник с различными фазами и амплитудами. Предположим, что {а(м)}, м = 0, ±1, ...,—фильтр, коэффициенты которого обращаются в нуль при достаточно больших значениях | и |, и пусть А(Х)—передаточная функция этого фильтра. Тогда если ввести
Y (0 = 2a(/-ti)X(u), ^ = 0, ±1, ....(3.9.9)
и
то профильтрованный ряд будет иметь представление
Y(Hs)^ $ exp{iXOA(X)dZx(X; s), s, / = 0, ±1, ... . (3.9.10) -л
Гармонические колебания, составляющие X (< + $), теперь домно- жаются на передаточную функцию фильтра.
■Вариант теоремы 3.9.1 приведен'в работах Bass (1962 а, b), однако сама теорема вытекает из теоремы о представлении, предложенном в работе Wold (1948).
Другую форму спектрального представления получил Wiener (1930). Справедлив следующий вариант этой теоремы для-векторных рядов с дискретным параметром. •
Теорема 3.9.2. Пусть X(t), / = 0, ±1, ...,—такая г-компонентная функция, что -
2 (i + ^llx^lMv.t= - 002 (i + ^llx^lMv.t= - 00(3.9.11)(3.9.11)
2 (i + ^llx^lMv.
t= - 00
2 (i + ^llx^lMv.
t= - 00
(3.9.11)
(3.9.11)
Тогда существует г-компонентная функция Zx(k), —л <А^л, такая, что Zx (л)—Zx (— л) = X (0) и
Х(0~ $ exp{iX/}dZx(X), / = 0, ±1 (3.9.12)
-Л
Выражение (3.9.12) справедливо в смысле формального интегрирования по частям:•
л-
X(/)=e‘^(n)-e-‘"'Zx(— я) + И $ ехр {Ш} Zx (X)dX. (3.9.13) -Л
lZx(X)-^X(0)-AlZx(X)-^X(0)-AФункция Zx (X) удовлетворяет соотношению
lZx(X)-^X(0)-A
lZx(X)-^X(0)-A
У Х(/) exp {iX/}/(— ii) dX = O. 1<1<т
(3.9.14)
Если Х(/) также удовлетворяет (3.9.3) и Gxx(X) дается формулой (3.9.4), то.•
х
Hm 1 f [Zx (а + е)—Zx (а—е)] [Zx (а + е)—Zx (а—e)]Tda=Gxx(X) 800
(3.9.15) в точках непрерывности GXXQ^, О^А^л.
Теорема Винера [Wiener (1933, стр. 138)] позволяет показать, что соотношение (3.9.11) выполняется, если
т
lim sup (2Т-|-I)-1 2 1|Х(01|2< о».
Г-»®t=-T
Ясно, что выражение (3.9.12) может быть использовано для описания действия линейного фильтра на ряд Х(/).
Другой способ получения спектрального представления детерминированного ряда Х(/), / = О, ±1, ..., основан на применении теории распределений Шварца [Schwartz (1957, 1959), Edwards (1967, гл. 12)]. В § 4.6 будет получено спектральное представление стохастического ряда. Bertrandias (I960, 1961), как и Henin- ger (1970), также рассматривал случай детерминированного ряда.
Упражнения
Предположим, что Л(Х) = 1 для | X ± со | < Д при малом Д и Л (Х) = 0 для остальных X из промежутка —л < X < л. Покажите, что
./ \ _/ 2Д/лпри и —0,
— [ 2 cos wu sin &и/(пи) при и ^ 0.
Пусть Л (X) — передаточная функция фильтра. Покажите; что фильтр оставляет инвариантными полиномы, степени к тогда и только тогда, когда Л (0) = 1, ЛО')(0) = 0, 1^/^^ (здесь ЛО') (X) обозначает /-Ю производную функции Л (X)) [Schoenberg (1946), Brillinger (1965а)].
Покажите, что если1
1
Н (а) = (2л)-1 ^ h (х) ехр {— tax) dx
,-1
допускает оценку | Я (а) | ^К 0 + ! а |)-2, то № (X), фигурирующая в (3.3.6), задается формулой
п ^ Н (п [X—2л/]), —- оо < X < оо.
■/=-00
Покажите, что если $ обозначает матрицу, у которой на пересечении /-й строки и ^-го столбца, 1 ^/, к^Т, стоит элемент ехр {— 1'2л (/—1)Х Х(к— 1)/Т), то 55т = Т1 и 54 = ТЧ.
Докажите, что если Dn (X) задается выражением (3.2.6), то (2n+ l)”1^ (X) стремится к ч {Х}/2л при п-^оо.
Докажите, что при п -> оо функция, определяемая формулой (3.4.14), стремится к 2л (— Цк - ^ —.
Пусть с(х\ с^ обозначают соответственно средние значения X (/), Y (/), / = 0, ..., Т — {.Покажите, что
о</, t + u< Г-1
равняется
s-i—:
S"X Л^’ (¥)(¥) ехР {£2"s«/s)
S=1
при U —± 1, . ; ,, ± (S-j-T),
Пусть ЯдГ), / = 0, ..., Т—1, обозначает Т-периодическое продолжение Xj\tY / = 0, ..., Т — 1, для /=1, ..., г. Получите формулу т-1
2 x1(/+«1)...x,_I(/+«,-i)xr(o
t=0
Т-1Т-1
(^Л [Sl + • • • + sr —11 A PYn J ; 2л [$!«!+ . . . +sr_1«r_1] 1
, А «г 11 exp < I>
при иъ ..., ur.1 = 0, ± 1, .•
* 3.10.9. Пусть' •
T-l
Y ^ = 2 a(<—u)X(u) для / = 0, ±1
u=0
Покажите, что dy^ (X) = A (X) d(/} (X), — oo < X < oo.
Пусть n^^ui, ..., ^r_x) обозначает выражение (3.6.10). Пока
жите, что
7=0
Т-1Г-1Т-1Г-12л [sx+. . .+$г х2л [sx+. . .+$г хТТ
Т-1Г-1
Т-1Г-1
2л [sx+. . .+$г х
2л [sx+. . .+$г х
Т
Т
Покажите, что если W = Z~1, то
Re W = (Re Z + (Im Z) (Re Z)-1 (Im Z)}-\
Im W = — (Re W) (Im Z) (Re Z) -4
Пусть g—та же матрица, что и в упр. 3.10.4. Покажите, что ее собственные значения равны Т1^, —iT1^, —Т1^, iT1^2 соответственно с кратностями [Т/4Ц-1, [(Т + 1)/4], [(Т + 2)/4], [(Т+3)/4]—1. (Здесь [W] обозначает целую часть N?) См. Lewis (1939).
Докажите, что если эрмитова матрица Z имеет собственные значения р-1, ..., р,г и соответствующие собственные векторы Ux, ..., Ur, то у матрицы Z—p,iU1Ul собственными значениями будут 0, р2, •••> Нг’ а собственными векторами — Ux, ..., Ur. Покажите, как этот результат может быть использован для сокращения количества вычислений при определении собственных значений и собственных векторов матрицы Z по собственным значениям и собственным векторам матрицы Z^.
Используя неравенство (3.7.16), докажите следующую теорему. Пусть
fQ^ = 2 с («) exp {&«},
U= -со,
где —oo < X < ео и 21 и 11 CW I2 < °0- Пусть также С(Г) = [с (/—&)], /, и'
^=1, ..., Т. Если Г[-]—функция, производная которой равномерно ограни-
чена на области значений f (X), —оо < X < оо, то
2л
г--ТJ
Теоремы такого типа имеются в книге Grenander, Szego (1958).
Матрица Z размера (Тг)Х(Тг) называется блочно-периодической, ' если она составлена из rXr-матрицы Zy^ = z(^—/), где z(-)— некоторая г Xr-матричная функция периода Т. Докажите, что собственные значения матрицы Z выражаются через собственные значения
7-1
5 z (/) ехр {-»2л/^/Т},k=0Т — 1,(*)
/=о
и соответствующими собственными векторами окажутся
[ехр {— i2njklT} u^; / = 0, ..., Т — 1],
где uZk—собственные векторы для (*) [Friedman (1961)]. Покажите, как этот результат можно использовать для нахождения матрицы, обратной к блочнопериодической.
Пусть JxJ-матрица Z эрмитова. Докажите, что
xTZx
py(z) = inf sup ——,D Dx=0 XX
где x—вектор c J компонентами, a D—матрица, имеющая J строк и ранг которой не превосходит j—1. Это утверждение, именуемое теоремой Куранта — Фишера, можно найти в работе Bellman (1960).
Докажите, что если белый шум е (/), / = 0, ± К • имеет моменты всех порядков, то авторегрессионная схема (3.8.11) с вероятностью 1 имеет решение X (/), для которого выполнено условие (2.6.1), если полином (3.8.10) не имеет корней в единичном круге.
Докажите, что если F (В; А) = ВА, где А, В суть комплексные rXr-матрицы, то детерминант матрицы Якоби dF/dB равен (Det А)г; см. Deemer, Olkin (1951), Khatri (1965а).
Пусть комплексная rXr-матрица Z имеет различные собственные значения ру, / = 1, ..., г. Докажите, что ру являются голоморфными функциями от элементов матрицы Z. Указание: величины ру являются решениями уравнения Det (Z—р1) = 0; применить теорему 3.8.1 [Portmann (I960)].
Пусть комплексная rXr-матрица Zo имеет различные собственные значения. Покажите, что существует невырожденная матрица Q, элементы которой являются голоморфными функциями от элементов Z для всех Z в окрестности Zo и при этом Q-1ZQ будет диагональной матрицей в этой окрестности. [Portmann (I960)].
Покажите, что если матрицы Zo, Z, фигурирующие в упр. 3.10.20, эрмитовы, то столбцы Q ортогональны. Выведите отсюда, что унитарная матрица U, элементы которой являются действительными голоморфными функциями от элементов Z, может быть определена так, что UTZU окажется диагональной матрицей.
Докажите, что если для реализуемого rXr-фильтра {а (и)}, « = 0, ±1, ..., существует обратный {Ь (//)}, то b (и), ц = 0, 1, ..., задается
как а (0) b (0) = I, а (0) b (1) + а (1) b (0) = 0, а (0) b (2) + а (1) b (1) + а (2) b (0) = ='0, ... ..
Выполните упр. 2.13.22, используя результаты § 3.8.
Пусть р (S)—монотонно возрастающая функция, такая, что lim р (S + 1)/р (8) = 1, и пусть функция X ЦУ ^ = 0, ± 1, ..., такова, что S -> ОО.
существует S
lim [p(S)]-i У X (< + «+$)X (<■+$) .Sсо ■ s=-S
для /, ^==0, ±1, ... . Выясните, какой вид примет теорема 3.9.1 для таких рядов ХЦУ'
Примем обозначения теоремы 3.9.1. Докажите, что если моменты mav ..., аьЦч» ..., u^_i) выражения (2.11.9) существуют и представляют собор! преобразования Фурье—Стильтьеса функций Affll ... аЛ(Хх, ..., Х^_х), — Л < Ху ^ л, то
lim (2S+1)*1 V dZ^^ s)...dZak(4\ s) S-*oos=-S
= 1] (Хх+... +Х^) dMat.. .ah (Xf, ..., X^_x)dX^.
Пусть Xf, ..., Xj—упорядоченный набор собственных векторов эрмитовой JX/-матрицы Z. Покажите, что_
xTZxру (Z)=max —— ,-. х х х-
где максимум берется по всем х, ортогональным к xf, ..., ху_х, и максимум достигается при х=ху.
Пусть А есть эрмитова rXr-матрица, собственные значения и векторы которой будут соответственно ру и Vy, /=1, ..., г. Зададим отображение ф действительной прямой в себя и определим г Xr-матричную функцию ф(А) формулой
ФСА^ф^ХуХ?.
Покажите, что ф (А)^ = ф (А^).
Покажите, что существуют постоянные К, L, такие, что 2л2л
.^ |A<r>(a)lda<KlogT, $ | A<D(a)|/>da < LTP^
оо
Т-1
для р, Т > 1, где А<г>(а) = У ехр {— to/}. - /=о
Предположим, кроме выполнения условий теоремы 3.3.1, еще непрерывность P-и производной функции А (а) при а = Х. Покажите, что последний член в выражении (3.3.18) можно заменить величиной
р
Р=1.
Пусть известны действительные числа X (/), К (/)> 2 = 0, ..., T — L Положим Z^=X (/)+У (/). Покажите, что
Re ^ (X) = {Re ^ (X) + Re Й1 (- Х)}/2, Im d£> (X) = {Im dp (X) — Im dz * (- X)} /2, Re dyr> (X) = (Im dp (X) + Im dp (- X)}/2, Im dP (X) ={- Re dp (X) + Re dP (- X)}/2.
Это упражнение показывает, как преобразования Фурье двух действительных наборов данных наблюдений могут быть найдены применением преобразования Фурье к комплексным наборам данных [Bingham и др/ (1967)].
Докажите, что для целого S ООS-1
2 a(Sv)=S~1 2 Л(2л$/5),ys=-oes = 0*?
где а (и) и Л (X) связаны между собой формулой (3.2.2).
Покажите, что если а есть r-компонентный вектор и Z есть эрмитова rXr-матрица, то
атАа=рЧ^.
где
э=ГК"1.
Будем применять обозначения следствия 3.7.2. Положим M+=diag{p/, /=1, ..., /}, где р+ = 1/р, если р/0 и р+=0, если р = 0. Тогда КХ/-матрица Z+=VM+UT называется обобщенной обратной к Z. Проверьте, что
ZZ+Z = Z,
Z+ZZ+ = Z+,
(ZZ+)T = ZZ+,
(Z+Z)T = Z+Z. '
Покажите, что для S^T
S-1
d^r,(X) = S-l^ №\^T> (х-^), s=0
2л
dP(X) = (2л)-1. ^ d(x’ (а)Д(Г)(Х — а) da. ' о
Покажите, что если Л<"> (X) задается выражением (3.2.4), то для т^п
2m-1 s=0 2л4
(b) AW (X) = ^ AW (a) D„ (X—a) da. о
ЗЛ0.36. Используя разложение через сингулярные значения, покажите что /ХХ-матрица А ранга L может быть записана, как А=ВС, где В—матрица размера JXL и С—размера LxK.
G.37. Пусть rxr-матрица Zo имеет DetZo^O. Покажите, что элементы матрицы Z“i являются голоморфными функциями от Z в окрестности Zo.
4
СТОХАСТИЧЕСКИЕ СВОЙСТВАКОНЕЧНОГО ПРЕОБРАЗОВАНИЯ ФУРЬЕ
Введение
Рассмотрим последовательность r-мерных векторов X (0. / = 0, ± 1. • •. . В предыдущей главе мы изучали различные свойства конечного преобразования Фурье
Т-1
d*x ЦК) = 2 Х(0 ехр {— iXt^, — оо <Х < оо, (4.1.1) / = о
предполагая X (/) заданной неслучайной функцией. В этой главе приводятся разнообразные свойства величин d^’ (X), соответствующих стационарным временным рядам X (/),/ = 0, ±1, ... . Кроме того, для таких X (/) будут рассмотрены асимптотические распределения, оценки с вероятностью 1, свойства сверток, а также выведено представление Крамера.
Мы уже упоминали, что преобразование Фурье обладает рядом ценных свойств; например, в гл. 3 было показано, что дискретное преобразование Фурье можно легко подсчитать с помощью алгоритма быстрого преобразования Фурье. Теперь нам предстоит проверить, что это преобразование обладает полезными и элементарными статистическими свойствами. По всем этим причинам преобразование Фурье играет основную роль при анализе временных рядов.
Однако прежде чем излагать статистические свойства преобразования (4.1.1), определим два типа комплексных случайных величин. Эти величины будут важны при исследовании распределений различных статистик, связанных с временными рядами.
Комплексное нормальное распределение
Если X —случайный вектор с г действительными компонен- тамц, имеющий нормальное распределение со средним gx и ковариационной матрицей 2ХХ, то условимся писать, что X имеет распределение Nr{,p.x, Sy^). На протяжении всей книги нам часто придется рассматривать случайные векторы X, имеющие г
комплексных компонент. Мы скажем, что такой вектор X имеет распределение Ncr (gx, Sxx), если сопоставленный ему вектор с 2г действительными компонентами . '
имеет распределениеимеет распределение"ReX 1.ImX J"ReX 1.ImX J(4.2.1)(4.2.1)
имеет распределение
имеет распределение
"ReX 1.ImX J
"ReX 1.ImX J
(4.2.1)
(4.2.1)
R e u, Im цхR e u, Im цх(4.2.2)(4.2.2)1 Re^xx-Im^xx
R e u, Im цх
R e u, Im цх
(4.2.2)
(4.2.2)
2 ImSxx ReSxx .
где fix—'некоторый r-компонентный комплексный вектор, a Sxx — эрмитова неотрицательно определенная г х г-матрица. В этом случае говорят также, что X является комплексной многомерной нормально распределенной величиной со средним рх й ковариационной матрицей ^Хх-При этом
ЕХ = Нх,(4.2.3)
Е {(X-их) (Х-Нх)Ч = 2ух(4.2.4)
ИЕ{(Х-нх)(Х-Нх)т}= 0.(4.2.5)
Отметим, что для класса комплексных векторных случайных величин, действительная и мнимая части которых имеют совместное многомерное нормальное распределение, справедливо свойство: если матрица (4.2.4) диагональна, то компоненты вектора X будут статистически независимы, см. упр. 4.8.1. Различные свойства нормального распределения рассмотрены в статьях: Wooding (1956), Goodman (1963), James (1964); см. также *упр. 4.8.1—4.8.3. Упомянем следующее свойство. Если матрица 2Хх не вырождена, то дифференциал распределения вероятности вектора X дается формулой
л-г (Det Sxx)-1 exp {- (X - to)т 2^ (X - Px)}. . ’
. xH^ReXa^ImX/) (4.2.6) i
для —oo<R'eXy, ImX/ < co. В случае r=l, если X имеет распределение N£ (рх, охх), то величины ReX и ImX независимы и имеют соответственно распределения У/ (Repx> axxl^ и ^1 (I™ Их» ахх^-
Переходя к другому классу величин, предположим, что Хп . ,.,Х„ независимы и имеют распределение УДО, ^хх\ Тогда говорят, что rxr-матричная функция
■ W=S1X/XJ (4.2.7)
:Г
имеет распределение Уишарта размерности г с п степенями свободы. Это условие записывается так: W имеет распределение Wr(n, Sxx). С другой стороны, если Xif ..., Х„ —независимые величины с распределением N, (0, Sxx), то говорят, что гхг-мат- ричная случайная величина - •
п _
(4.2.8)(4.2.8)w= 2 x,xj
(4.2.8)
(4.2.8)
имеет комплексное распределение Уишарта размерности г с п степенями свободы. В этом случае пишем, что X распределена как W^n, Sxx). Комплексное распределение Уишарта ввел Goodman (1963). Свойствам этого распределения посвящены упр. 4.8.4—4.8.8; см. также Srivastava (1965), Gupta (1965), Kabe (1966, 1968), Saxena (1969) и Miller (1968, 1969). Плотность этого распределения имеет вид
п1-1
^(r-D/aJJ Г(п-/ + 1) (DetSxx)-”(DetW)"-' /=iJ
хехр{—trSxxW};(4.2.9)
здесь п ■> г и W ^ 0. В числе других свойств отметим следующие:
W = WT,(4.2.10)
EW = nSxx(4.2.11)
и'
соу{Г/а, Wlm} - Е WWjk-n^ ^„-п^ = ti^. (4.2.12)
Комплексное распределение Уишарта будет полезно при построении аппроксимаций для распределений оценок матрицы спектральной плотности. •
В последних главах книги нам понадобится понятие асимптотической нормальности. Говорят, что r-компонентная векторная последовательность t,T, Т = 1, 2, ..., имеет асимптотически нормальное распределение Nr(pT, 2Г), если последовательность Зт1/2 (Sr-Мт) сходится по распределению к МДО, I). Говорят также, что r-компонентная векторная последовательность £г, Т= 1,2, ....имеет асимптотически нормальное распределение ЛГ^ (рг, Sr), если последовательность ^1/4 (Sr-Мт) сходится по распределению к. N, (О, I).
Стохастические свойства конечного преобразования Фурье
Рассмотрим векторный r-компонентный стационарный ряд X (/), t =0, ±1, ... . В этом параграфе будут выведены асимптотические выражения для кумулянтов конечного преобразования Фурье отрезка наблюдений указанного ряда. В § 3.3" мы видели, что некоторые преимущества по сравнению с обычным конечным преобразованием Фурье можно получить, вводя в определение преобразования множители сходимости. Будем использовать множители сходимости и ■ здесь, тогда результаты для обычного конечного преобразования Фурье получатся как частный случай. Нам понадобится
Условие 4.3.1. Функция h(u\—oo<u<oo, ограничена, имеет ограниченную вариацию и обращается в нуль при |u| > 1.
Предположим, что /го (и) удовлетворяют этому условию для а=1, ...,г. Конечное преобразо'вание Фурье, которое мы рассматриваем, определяется формулой
d^ (X) = [2 ha (t/T) Ха (О exp {-.
= Yd^ (X)j для — oo < X < oo, а = 1, ..., г. (4.3.1) В данном контексте функция ha\t/T) будет называться окном просмотра данных или сглаживающей функцией. Преобразование вовлекает только члены ряда Х(0 с t — 0, ±1, . *, ± (Т — 1). Если ho (щ\= 0 при и < 0, тогда в преобразование войдут лишь значения Х(/) при ^ = 0, . ..,Т— 1. Таким образом, асимптотические результаты мы сможем применять как к двусторонним, так и к односторонним статистикам. Если не известен некоторый отрезок наблюдений внутри периода наблюдений ряда, то можно оперировать только имеющимися в распоряжении данными, выбрав функцию h (t/T), обращающуюся в нуль на этом отсутствующем отрезке. Если компоненты ряда наблюдались на разных временных промежутках, то можно взять ha(t/T), не обращающейся в нуль на этих промежутках.
И"\..И"\..Положим ’
И"\..
И"\..
ехр {— 1М)
Если .же
для — оо < X < оо и av ..., ak= 1,
г.
(4.3.2)
(4.3.3)
и если допустимо применение формулы суммирования Пуассона [Edwards ^1967, стр. 173)], то
Н^. ,.ак^ = Т ( j^ На,... ак (Т [X+2л/]).(4.3.4)
Рассмотрение множителей сходимости в § 3.3 наводит на мысль, что значения HOl... ак будут велики только для X, близких к 0. Отсюда последует, что функция (4.3.2) будет принимать большие по величине значения только для X, близких к кратным 2л.
Напомним, что
Со, ... вк (Ui, . . ., WA_j) = CUm {Хо, (/+«1), . . . Хак_г (<+«»-!>, XOfe (/)}
(4.3.5) и что при
2 • • • S I са, .. .ак (^j, • • • >| < ОО (4.3.6)
“‘ ик-1
определялась функция
fat ... ак (^i> • • • > ^Л-1).
= (2л)~а+15 ... 2 ехр {— i (Ха+ • • • 4Л-A-i)} .“1 ик71
XCQ1 ... ак^1' ^k-iV(4.3.7)
Используя эти функции, сформулируем следующую теорему.
Теорема 4.3.1. Пусть X (/), / = 0, ± 1, ..., —стационарный векторный г-компонентный временной ряд, для которого выполнено (4.3.6). Предположим, что ha (и), — оо < и < оо, удовлетворяет условию 4.3.1 для а= 1, ..., г. Тогда
сшп^Ш ...^W
^(2л)»-1Я<Р... 0^2^)/01 ...ак(^ .... Ч-1) + о(П (4.3.8)
причем оценка порядка ёстаточного члена равномерна по Xt, ... ,Xk.
Если Xi + ... +Xft = 0(mod2n), то
cum{<’М,...,d^ (X»)}оо (W-xTHai ...„, (0)
X fa, ... ak (Xf, . . ., XA_$).(4.3.9)
Если же Xi 4-... -|-XA^0 (mod 2л), то кумулянт будет иметь меньший порядок роста по Т. Упражнение 4.3.9 позволяет предположить, что при оценке кумулянтного спектра (4.3.7) можно
исходить из . величин d(0P (Ю> • • •, ^* (Х^ у которых . ... -|-Xfc = 0 (mod 2л).■
. В некоторых случаях остаточный член в выражении (4.3.8) имеет порядок меньший, чем о(Т). Допустим, что вместо (4.3.6) выполнено условие'
5... 2 [l + |u/|]k01 ...а^Щ, ..., Ыд-JKOO,
/=1, ...Д-1.(4.3.10)
Тогда справедлива
Теорема 4.3.2. Пусть Х(/), t =0, ±1, ....—векторный стационарный r-компонентный ряд, удовлетворяющий условию (4.3.10). Предположим также, что для ha (и), — оо < и < оо, выполнено условие 4.3.1 'при а=1, ...,г. Тогда
cum^M ....d^^
= w^h^...Ц2 ^)b,...ak(^, ...,4-1) +-0(1), (4.3.11) причем оценка порядка остаточного члена равномерна по ^i, * • •, ^-•.
С качественной точки зрения результаты теорем 4.3.1 и 4.3.2 одинаковы. Однако последняя показывает, что ослабление меры зависимости внутри рассматриваемого ряда, о чем свидетельствует замена условия (4.3.6) на (4.3.10), приводит к уменьшению асимптотического остаточного члена. Согласно упр. 4.8.14, остаточный член можно сделать еще меньше путем выбора таких множителей ha(u), для которых преобразование Фурье быстро обращается в нуль с ростом | X |.
Множитель сходимости
(‘ 1 при < 1,
Ци)Ц п Р(4.3.12)
( 0 для остальных их ’
представляет особый интерес. В этом случае преобразование Фурье имеет вид
Т-1•.
■d^’(X)= 5 Х(0ехр{—Ш} для — оо <Х<оо. (4.3.13)
/=о
Из выражения (4.3.2) получаем
Н^_.. ». (X) = S ехр {- Ш} = А(Г) (X).(4.3.14)
Л / = 0
Функция Д(Г)(Х) обладает следующими свойствами: Д(Г)(Х) = 7' при Х = 0(mod2л), Д(7)(2л5/7') = 0 для целых s^O(modT). Справедлива также оценка | Д(Г) (X) |^ 1^| sin у X |, показывающая, что при X, не являющихся близкими к кратным 2л, значения Д<Г)(Х) не слишком велики. В нашем случае выражение (4.3.11) примет вид
cum^M.
-/к \
...,Xfc-1)+O(l).(4.3.15)
"Этот совместный кумулянт принимает большие по величине значения, когда сумма X, + ... + ХА близка к некоторому кратному" 2л. Заметим, что первый член в правой части выражения (4.3.15) обращается в нуль для Ху = 2л5у/Т, где Sy —целые числа, такие, что S1+ ... + sft^0 (mod ТУ
Выражение (4.3.15) выведёно в Brillinger, Rosenblatt (1967а); укажем также другие работы, посвященные этой теме: Davis (1953), Root, Pitcher (1955), Kawata. (1960, 1966). Согласно упр. 4.8.21, в некоторых случаях для введения коэффициентов сглаживания эффективнее проводить вычисления не с функциями времени, а с функциями частоты.
Асимптотическое распределение конечного преобразования Фурье
В предыдущих параграфах были получены асимптотические выражения для совместных кумулянтов конечного. преобразования Фурье стационарных временных рядов. В настоящем параграфе мы используем найденные выражения при выводе предельного распределения этого преобразования. Введем обозначение сх=ЕХ(/). Имеет место.
Теорема4.4.1. Пусть г-компонентный ряд X^ty t = 0, ±1,..., удовлетворяет условию 2.6.1. Пусть зДТ) —такое целое число, что Ху (Т) = 2л$у (jyT —► Ху при Т —► оо для j=l,..., J. Предположим, что *&.ДТу Ху (71) ± ХА(Г)^0(mod 2л) для 1^/ <k<J. Полагаем.
Т-1’
dx ’ (X) = 2 X (/) exp {— iX/} для — оо < X < оо. (4.4.1)
Тогда случайные величины dx’ (Ху (Т)), / = 1, ...,/, асимптотически независимы и соответственно имеют распределение
Nr (0, 2лПхх(Ху)). Кроме того, если Х = 0, ± 2л, ..., то dx ’ (X) является . величиной, асимптотически распределенной как Nr(Tcx, 2лТ1хх(Х)) и не зависящей от предыдущих величин, если же Х = ±л, ±3л, ..., то d^p (X) является-величиной, не зависящей от предыдущих величин, и распределенной как Nг (0, 2лТ1хх (X)).
В случае Х = 0 имеем
d<?(0)= Г2Х(/) (4.4.2) • < = о
и наша теорема представляет собой центральную предельную теорему для ряда Х(<). Другие варианты центральной предельной теоремы для стационарных последовательностей -приводятся в работах: Rosenblatt (1956, 1961), Леонов и Ширяев (1960), losifescu, Theodorescu (1969, стр. 22), Philipp (1969). Условия асимптотической нормальности коэффициентов Фурье исследованы Kawata (1965, 1966). . •
Если выполнены условия теоремы и Ху = Х, / = 1, ...,J, то д^’ (Ху- (7)), /= 1, ...,/, ведет себя примерно как выборка объема- J из распределения N, (0, 2л7Тхх(Х)). Последнее замечание будет полезно позднее, когда появятся оценки fxx(X) и аппроксимации к интересующим нас статистикам.
Если при вычислении конечного преобразования Фурье ряда X (/), t — 0, ± 1, ... , применяются множители сходимости, то справедлив следующий альтернативный вариант центральной предельной теоремы. ’
Теорема 4.4.2. Пусть r-компонентный векторный ряд Х(/), / = 0, ± 1, ..., удовлетворяет условию 2.6.1. Предположим, что 2Ху, Ху ± Хк ф 0 (mod 2л) для 1 ^ / < & ^ Л Пусть
• T-L
* «^(тк^хрНИ. (4.4.3)
где ha (/) удовлетворяет условию 4.3.1, а=\, г. Тогда dx’ (Ху), Ху^0(mod2л), j = i, ...,J, являются асимптотически независимыми величинами с распределением Ny (0, 2яТ^НаЬ (0) fab (Ху)]), Если X = 0, ± 2л, ..., то д^' (X) имеют асимптотически распределение N r (Т \саНа (0)], 2лТ [ЯаЬ (0) fab (X)] и независимы от предыдущих величин-, если' X = ± л, ± Зл, ..., то d‘x * (X) имеет асимптотически распределение Nr (0, 2лТ \НаЬ (0) fab (X)]) и не зависит от предыдущих величин.
Если сглаживание всех компонент X (^) производится с помощью одного и того же множителя h^, то асимптотическая ковариационная матрица d‘x’ (X) такова:
2лТ ^ h (t)2 dttxx (X) для — оо < X < оо. (4.4.4)
Налагая дополнительные условия регулярности на Аа(0. а= 1, . ...г, можно получить теорему, описывающую поведение d(x* (Ху (Т)), когда последовательности частот Ху (Г) стремятся к пределам ky,j = l, ...,J; см. Brillinger (1970) и упр. 4.8.20. Величины dx’(Ху (Т)) оказываются асимптотически независимыми, если только Ху (Т), hk(T) не слишком близки друг другу по mod2л для l^j<A^J. В упр. 4.8.23 определено асимптотическое поведение преобразований Фурье, построенных по непере- секающимся отрезкам данных.
Предположим, что спектр мощности fxxW действительного стационарного ряда X(t), / = 0, ±1, ..., приблизительно равен постоянной, скажем, с^/^л), —оо<Х<оо. Согласно теореме 4.4.1, значения d(x’(2л8/Т), s= 1, ..., (Т—1)/2, являются приблизительно независимыми величинами с распределениями N^ (0, Та2), и, следовательно, значения Re.d(x ’ (2лз/Т), Im d^ (2ns/T), s = 1, ..., (Т —1)/2, будут почти независимыми NT (0, Та2/2)-величинами. Займемся теперь частичной эмпирической проверкой этого заключения.
Рассмотрим ряд V (t), t = 0, 1, ..., средних месячных температур в Вене за период с 1780 по 1950 г. Этот ряд, отрезок которого изображен на рис. 1.1.1, обладает ярко выраженной годовой периодической компонентой. Для того чтобы получить ряд с почти постоянным спектром мощности, мы попытались убрать эту периодическую компоненту, вычитая из каждого значения месячной температуры среднюю температуру для данного месяца, вычисленную по всему отрезку данных. А именно,, был составлен ряд
' X(/+12&) = R(j + 12&)-S^(j+12^S 1(4.4.5)
для / = 0, ..., 11 и ^ = 0, 1Затем мы вычислили преобразование Фурьеd'x' (2л$/Т), s=1, ..., (Т —1)/2, взяв Т=2048 = 2п, так что можно было использовать алгоритм быстрого преобразования Фурье.’
На рис. 4.4.1 . и 4.4.2 представлены кривые вероятностных распределений соответственно для
■ Red^ ^^) , s= 1 1000,
Im dx' ^^) , s=l 1000.
Способ построения таких графиков изложен в работе Chernoff, Lieberman (1954). Оцениваемый спектр мощности этого ряда (явное выражение для спектра приведено в § 7.8) медленно меняется с ростом X и остается практически постоянным. Если кажда/ переменная имеет одно и то же маргинальное нормаль-
Рис. 4.4.1. График действительной части дискретного преобразования Фурье ряда среднемесячных (без сезонной составляющей) температур в Вене с 1780 по 1950 г., построенный на нормальной вероятностной бумаге. .
ное распределение, то их значения на плоскости будут лежать вблизи прямой. Полученные нами графики отличаются от прямых, по сути дела, лишь на концах. Это подтверждает заключение теоремы 4.4.1 по крайней мере для таких рядов.
Теоремы, приведенные в этом параграфе, оправдывают замечание, которое часто встречается в литературе по теории связи: ряд, получающийся на выходе фильтра с узкой полосой пропускания, является приблизительно гауссовским; см. Rosenblatt (1961). Рассмотрим передаточную функцию фильтра с узкой полосой пропускания, центрированной на частоте Хо:
А(К)= 1 при 1^±^о|<7г, —л<Х<л, (4.4.7) (О в противном случае.
Если на вход этого фильтра подается ряд Х(7), 7 = 0, ± 1, ..., то выражение (3.6.8) предыдущей главы показывает, что на выходе получится ряд, который аппроксимируется следующим образом:
/ = 0, ±1 (4.4.8)
Упорядоченные. наблюденияУпорядоченные. наблюденияКвантилиКвантилиРис. 4.4.2. График мнимой части дискретного преобразования Фурье ряда среднемесячных (без сезонной составляющей) температур в Вене с 1780 по•1950 г., построенный, на нормальной вероятностной бумаге.Рис. 4.4.2. График мнимой части дискретного преобразования Фурье ряда среднемесячных (без сезонной составляющей) температур в Вене с 1780 по•1950 г., построенный, на нормальной вероятностной бумаге.
Упорядоченные. наблюдения
Упорядоченные. наблюдения
Квантили
Квантили
Рис. 4.4.2. График мнимой части дискретного преобразования Фурье ряда среднемесячных (без сезонной составляющей) температур в Вене с 1780 по
•1950 г., построенный, на нормальной вероятностной бумаге.
Рис. 4.4.2. График мнимой части дискретного преобразования Фурье ряда среднемесячных (без сезонной составляющей) температур в Вене с 1780 по
•1950 г., построенный, на нормальной вероятностной бумаге.
Здесь s—целая часть от Т^/^л), поэтому 2л§/Тл=Х0. В случае когда X0^0(modn), согласно теореме 4.4.1, величина (4.4.8) будет иметь асимптотически распределение N (ОДлТ-^хх (Ч))- По этому поводу см. также Леонов и Ширяев (1960), Picinbono (1959), Rosenbratt (1956с). Полезный результат содержится в упр. 4.8.23, которое показывает, что конечные преобразования Фурье, построенные по последовательным отрезкам данных, будут при некоторых условиях асимптотически независимы и одинаково распределены. ‘.
Оценки, имеющие место с вероятностью 1
■ Иногда бывает полезно иметь оценки конечного преобразования Фурье
dTW = ^h (^Х(ПехрНм\ (4.5.1)
как функции X и объема выборки Т. Отметим следующий результат. •‘-'
Теорема 4.5.1. Пусть ряд ХЦУ / = 0, ±1, ..., с нулевым средним, принимающий действительные значения, удовлетворяет условию 2.6.3. Пусть также НЦ) удовлетворяет условию 4.3.1 и d^W задается формулой (4.5.1). Тогда с вероятностью единица
"НиГ sup | dp ^ |/(Т log Ту^ ^ 2 {2л J № (0 dt sup fxx W}1/2 .
.(4.5.2)
Это означает, что с вероятностью 1 для любого К>\ произойдет лишь конечное число событий
sup I dp (X) I > к (Т log ту/* 2 {2л $ № (t) dt sup fxx (X)}1/2
'7=1, 2 (4.5.3)
Из выражения (4.5.2) видно, что при "указанных условиях преобразование Ф}фье имеет порядок роста не более (TlogT)1/2. Если значения X (/) ограничены постоянной, скажем М, то элементарное неравенство
sup Jd^tX)|< МТ(4.5.4)
х
дает порядок роста не выше чем Т. С другой стороны, если рассматривать ^‘/’(Х)! Для фиксированной частоты, то можно применить закон повторного логарифма; Maruyama (1949), Parthasarathy (1960), Philipp (1967), losifescu (1968), losifescu, Theo- dorescu (1969). Закон повторного логарифма приводит к заключению о скорости роста порядка (Tloglog7)1/2; другие результаты типа (4.5.2) можно найти в работах: Salem, Zygmund (1956), Whittle (1959), Kahane (1968).
Из теоремы 4.5.1 немедленно вытекает, что при сформулированных условиях регулярности
sup |d<? (Х)|/Т^ 0(4.5.5)
X#
с вероятностью 1 при Т—>оо. В частности, полагая Х = 0, полу6 чаем, что с вероятностью 1 при Г —* оо■
\ Т-1
.2 ХЦУТ-^О, *(4.5.6)
" 1 = 0.
т. е. справедлив усиленный закон больших чисел. Подобные результаты содержатся в работе Wiener, Wintner (1941).
Продолжая рассмотрение различных асимптотических результатов, предположим, что s-компонентный векторный ряд Y ЦУ t = 0, ± 1, ..., представляет собой профильтрованный ряд
H{t). т. е.
Y(O= 5 а(/ —u)X(u)(4.5.7)
и= - ОО
для некоторого sxr-матричного фильтра {а(ы)}. В некоторых случаях будет представлять интерес связь конечного преобразования Фурье ряда Y (/) с конечным преобразованием Фурье для ряда X(ty Согласно лемме 3.4.1, если ряд Х(/), ^ = 0, ±1, ..., ограничен и -
5 (1+|н|)|а(ы)| < оо,(4.5.8)
• и= - 00
то существует постоянная К < оо, такая, что.
sup | d^ (X) - А (X) d^* (X) | < К,(4.5.9)
где■.
dV’ (X)J “ Д [ Y (J еХр^-5,10^
и
А(Х) = 5 а(и)ехр {—iXn}.(4.5.11)
И= - 00
В случае когда X(t), ^ = 0, ±1, ..., является г-компонентным стохастическим рядом, справедлива
Теорема 4.5.2. Пусть г-компонентный векторный ряд X(t), / = О, ±1, ..., удовлетворяет условию 2.6.3 и имеет нулевое среднее. Пусть У (<) задается формулой (4.5.7), где {а(и)} удовлетворяет условию (4.5.8). Тогда существует такая постоянная L, что с вероятностью 1.
Tim"supId^X)—A(X)d<P(X)|/(logT)V2 <£. (4.5.12) 'Г ~> оо X
Выражение (4.5.12) показывает, что порядок возможной скорости роста для
sup | dV* (X)—А(Х) d**’ (Х)|X
не превосходит (log?)1/2. В теореме 4.5.3 продемонстрировано, что эта оценка скорости сходимости может быть доведена до порядка Т-Ч1 (logT)1^, если в преобразование Фурье предварительно ввести множитель сходимости.
Теорема 4.5.3. Пусть г-компонентный векторный ряд Х(/), / = 0, ± 1, ..., имеющий нулевое среднее, удовлетворяет условию
и пусть Y (0 задается формулой (4.5.7), где {а (и)} удовлетворяет. условию (4.5.8). Пусть также. ■
d(xr,W]V. 7/аГХ(/)1 / -ш и = ^ dV4A)J ~ < хт/ LY(oJехр tW ’(4-513)
где h (и) имеет равномерно ограниченную производную и 11^ = 0 при |м|>1. Тогда существует постоянная L<oo, такая, что с вероятностью 1 ч
"НиТsup | d^ (X) —А (X) dT (X) | T^^Oog Ту^ < L. (4.5.14) Т -> со X
В случае когда Х(0, / = 0, ±1, ...,— ряд, состоящий из независимых величин, ряд Y (/), определяемый формулой (4.5.7), представляет србой линейный процесс. Выражения (4.5.12) и (4.5.14) показывают, как можно изучать выборочные свойства преобразования Фурье линейного процесса с помощью выборочных свойств преобразования Фурье ряда из независимых величин. Такой подход применялся Бартлетом (1966, § 9.2).
В ряде случаев представляют интерес грубые оценки роста sup | d% > (X) |, когда ряд X (/), t = О, ± 1, ..., удовлетворяет более слабому условию 2.6.1.
Теорема 4.5.4. Пусть ряд Х(/), / = 0, ± 1, ..., принимающий действительные значения, имеет нулевое среднее и удовлетворяет условию 2.6.1. Пусть функция h(t') удовлетворяет условию 4.3.1 и d^(X) задается формулой (4.5.1). Тогда для любого е > О
T-V2-eSupl dkn JX) 0 (4.5.15)
с вероятностью Т при Т —► оо.
Представление Крамера
В § 3.9 были получены два спектральных представления для временных рядов, рассматривавшихся в рамках функционального подхода, а в этом параграфе мы получим спектральное представление при стохастическом подходе к анализу временных рядов. Это представление было введено Крамером [Cramer (1942)].
Пусть Х(/), / = 0, ±1, • ••, есть r-компонентный ряд. Рассмотрим множитель сходимости •
h (и) =h (и) =1 при | и | ^ 1, О при остальных и
h (и) =
h (и) =
и соответствующее конечное преобразование Фурье
• т
'd^T)(X)= 5 Х(0ехр{—Ш}-(4-6-2)
Это преобразование будет играть основную роль при выводе нужного нам представления. Положим
2nZx ’ (X) = $ dx ’ (a) da.(4.6.3)
О
Тогда.
т
2л2р(Х)= 2 Х(/)[1 — ехр {—tX/}]/(—it),(4.6.4)
t=-T.
если считать, что
[1—ехр{—Ш}]/(—И) = Х при /=О.(4.6.5)
Пусть
т|(Х)= 2 6(Х + 2л/)(4.6.6)
будет 2л-периодическим расширением дельта-функции Дирака. После введения этих обозначений мы можем сформулировать следующую теорему.
Теорема 4.6.1. Пусть ряд X(t), / = О, ± 1, .... удовлетворяет условию 2.6.1, и пусть Zx^X), —оо<Х<оо, задается формулой (4.6.4). Тогда существует Zx(X), —оо<Х<оо, такая что Z^P (X) сходится к Zx (X) в. среднем порядка v для любого положительного V. Кроме того, Zx (Х+2л)=2х (X), Zx (X)=Zx (—X) и cum {Za, (XJ, ..., Zak (Хл)} =
м 4 / k \■
= \---\ Л 2»/V“i-^(ai> • ••, a^-!)^...^ (4.6.7) о 0\ 1 V'■
для at, ..., afe=\, ..., r; ^ = 2, 3, ... .
Соотношение (4.6.7) можно переписать в дифференциальной форме:.
cum \dZa, (XJ, ..., dZak (X6)} = ~.
.-п(2Ь/ fa....»^, .... Х^Ж ... dXk. (4.6.8)
\ i /к
Выражение (4.6.8) показывает, что
.cov{dZx(X), dZx (р)} = т] (X—p)fxx(X)dXdp,- (4.6.9)
где fxx М обозначает матрицу спектральной плотности ряда Х(0- Приращения ZX(A) ортогональны, кроме тех случаев, когда А = р(mod2л). Далее, совместные кумулянты приращений будут очень малы, кроме случаев 20 (mod 2л). Приращения ZX(A)
ведут себя примерно так же, как величина d^ (А), рассмотренная в § 4.3.
В теореме 4.6.2 нам встретится стохастический интеграл вида
$*(A)dZx(A).(4.6.10)
о *'
Если•
2л
$ *(Wx(^)*W^X<oo,(4.6.11)
о .,
О N”xО N”xто этот интеграл определяется как предел в среднеквадратическом:'
О N”x
О N”x
2л(я4-1)\ у { 2лмД "|/л А 1
n ;-Zx(—Л’ (4,6Л2)
Cramer, Leadbetter (1967, § 5.3). Теперь мы можем ввести представление Крамера ряда Х(/), / = 0, ±1, ... .
Теорема 4.6.2. При выполнении условий теоремы 4.6.1 с вероятностью 1-
2л,’
' Х(0 = $ exp {iA/}dZx (A), / = 0, ±1, ...;(4.6.13)
о
при этом Тх (X) удовлетворяет условиям и обладает свойствами, указанными в теореме 4.6.1.
Иногда бывает удобнее переписать (4.6.13) в виде, использующем переменные с действительными компонентами. Положим
(4.6.14)(4.6.15)(4.6.14)(4.6.15)■ их (А) = Re Zx (А), .VX{A) = — Im Zx (А).
(4.6.14)
(4.6.15)
(4.6.14)
(4.6.15)
Для этих функций■
их(А + 2л) = их(А), ¥х (А + 2л) = Vx (А) и_
Ux (—А) = Ux (А), ¥х (—А) = — ¥х (А).
Если воспользоваться равенствами
Ux(X) = [Zx(X) + Zx(-X)]/2,
VjHp)=-[Zx(p)-Zx(-p)]/(20,(4‘ ' '
то из формулы (4.6.8) получим
cum {dt/ai (XJ, • • •» dUak 0^, dVbl (Pi), ..., dVb( (pz)}
=i<2~*~< S • • • 2 2 • • • 2 л (eA + • • • + eA+YiHi + • • •
814 V1 vz
•••+Yz^)Yi...Yjel...aft6,...61(eA. •••• *
YiPi, •••• Yz-iHz-i)A • •• dXkd\x,x ... dpz, (4.6.18)
где суммирование ведется по всем е, у = ± 1. В случае к + у = 2 из этих соотношений вытекает
cov {dUx(X), dUx(p)}=^-{T] (X—p) + n(X + p)}Refxx(X)dXdp,
(4.6.19)
cov{dUx(X), d¥x(p)}=y {л(Х—р) —n(X + p)} Imfxx(X)dXdp,
(4.6.20) cov |dVx (X), d Vx (p)} = -^ {л (X— p) — ri (X+p)} Refxx (X) dXdp.
(4.6.21)
Представление Крамера (4.6.13) можно тогда записать в таком виде:
2л
Х(0 = $ [cosX/dUx(X) + sinX/dVx(X)],‘ < = 0, ±1, .... (4.6.22) о
Преобразование Крамера особенно удобно использовать для того, чтобы понять, каков эффект применения той или иной операции к интересующему нас ряду. Рассмотрим, например, профильтрованный ряд
У(0 = 2а(^—«)Х(«)А = 0, ±1,(4.6.23)
и
предполагая, что для ряда X (/) справедливо представление Крамера (4.6.13). Если для функции
A(X) = Sa(“)exp{—tXu}, —оо<Х<оо, (4.6.24) и
существует интеграл
2л
$ А А ^х A AW dX < 00,(4.6.25)
о
ТО 2л
Y(0 = $ exp{M[A(X)dZx(X), / = 0, ±1 (4.6.26)
о
В дифференциальной форме последнее соотношение можно записать так:
dZK(X) = A(X)dZx(X), —оо <Х< оо. (4.6.27)
В качестве примера применения формулы (4.6.27) отметим, что она вместе с равенством (4.6.9) сразу дает соотношение
tYY(X) = MXVxx(X')MXy,(4.6.28)
полученное в § 2.8.
Предположим, что к каждой компоненте ряда Х(/), / = 0, ± 1, ..-., применяется фильтр, пропускающий определенную полосу частот, который имеет передаточную функцию
( 1 при IX ± (1)1 < А,
А(Х) = < п(4.6.29)
' '[ 0 в противном случае
(здесь —л < X^ л).е
Пусть, далее, преобразование Крамера ряда X (/) можно записать в виде
Л.
(4.6.30)(4.6.30)X (0= $ exp{iM}dZx(X).
(4.6.30)
(4.6.30)
-Л
Тогда профильтрованный ряд можно представить следующим образом: f-®+д ®+д
exp {iX/} dZx(X)exp {iX/} dZx(X)Y(0 =$ + $
exp {iX/} dZx(X)
exp {iX/} dZx(X)
у-о-Д о-Д
л. exp {но/} dZx (го) + exp {—йо/} dZx (—co)
^ 2 [cos co/ dUy (co) -|-sin «/dVx (co)];(4.6.31)
подразумевается, что приближенное равенство имеет место при малых А. Результат воздействия фильтра, пропускающего указанную полосу частот, состоит в выделении из преобразования Крамера гармонических колебаний, имеющих частоты, близкие к ±<о. При малых А ряд Y (/) иногда называют компонентой частоты со для ряда X (/) и обозначают как X (/, со), подчеркивая тем самым зависимость от го и игнорируя зависимость от А. Рассмотрим полный набор фильтров с взаимно исключающими полосами пропускания, имеющих следующие передаточные функ-
ции:-
■( 1 при ГХ ± 2/АI < А, . л
Л,(Х)=< п 11 1(4.6.32)
у (0 в противном случае,
j = 0, 1, ..., / и (2J + 1) А = л. Тогда ряд Х(/), / = 0, ±1, ..., может быть представлен в виде суммы своих частотных компонент:
j
Х(0=2Х(/, 2/Д), / = 0, ±1 (4.6.33)
/—о .
В дальнейшем мы увидим, что многие полезные статистические процедуры имеют характер элементарных воздействий на отдельные частотные компоненты изучаемых рядов.
Рассмотрим теперь результат применения преобразования Гильберта к каждой компоненте ряда X (i), f = 0, ± 1, • • • • Передаточная функция преобразования Гильберта, как мы знаем, задается формулой
Л(Х) =— tsgnX, —л<Х^л.(4.6.34)
Если преобразование Крамера ряда Х(/) записать в виде
Х(0= $ [cosX/dUx(X) + sinX<dVx(X)],(4.6.35)
то сразу видно, что
X(0H= J [sinXMUx(X)—cosX<cfVx(X)].(4.6.36)
-Л
Гармонические колебания в этом представлении изменили фазу на л/2. Для X (/, со)—компоненты частоты со ряда X (/)—из равенства (4.6.36) получаем, что
‘Х(/, co)H^2[sin(o/dUx (ю) —cosco£dVx(^ - (4.6.37)
и поэтому .
X (t \») + iX (Л со)" Л= 2 exp {tV} dZx (co).(4.6.38)
Выражение (4.6.38) позволяет дать другую интерпретацию дифференциала dZx(co), появляющегося в представлении Крамера.
Рассмотрим далее ковариационную матрицу 2г-компонентного векторного ряда'
[X У, со) "1[X (t, со)"]
Элементарные выкладки показывают, что в случае со ^ 0 (mod л)
онаонаи ви вимеет видRefxx(m) ImfxxMl—ImfxxMRefxxMслучае со = 0 (mod л) будет"RefxxM" Imfxx(co)l—Imfxx((o)Refxx(to)J 'имеет видRefxx(m) ImfxxMl—ImfxxMRefxxMслучае со = 0 (mod л) будет"RefxxM" Imfxx(co)l—Imfxx((o)Refxx(to)J '4A = fxx(o>)MA4A = fxx(o>)MA2A = fxx(o))/?2A.2A = fxx(o))/?2A.(4.6.40)(4.6.40)(4.6.41)(4.6.41)
она
она
и в
и в
имеет вид
Refxx(m) ImfxxMl
—ImfxxMRefxxM
случае со = 0 (mod л) будет
"RefxxM" Imfxx(co)l
—Imfxx((o)Refxx(to)J '
имеет вид
Refxx(m) ImfxxMl
—ImfxxMRefxxM
случае со = 0 (mod л) будет
"RefxxM" Imfxx(co)l
—Imfxx((o)Refxx(to)J '
4A = fxx(o>)MA
4A = fxx(o>)MA
2A = fxx(o))/?2A.
2A = fxx(o))/?2A.
(4.6.40)
(4.6.40)
(4.6.41)
(4.6.41)
Эти соотношения полезны для интерпретации действительной и мнимой частей матрицы спектральной плотности временного ряда. - В качестве другого примера использования представления Крамера рассмотрим, какой вид можно придать с его помощью конечному преобразованию Фурье. Пусть
d^ W^^h (-^) X(t) expHW (4.6.42) t
где /г (и)—некоторый множитель сходимости. Прямая подстановка показывает, что
d^ (X) = J Нт (%—a) dZx (а),(4.6.43)
О
где
Нт^ = ^к^Ухр\—1Му(4.6.44)
Из проводившегося ранее обсуждения свойств множителей сходимости можно заключить, что при больших Т функция Нт (X—а) сконцентрирована 'в окрестности Х = а(шоб2л). Следовательно, из формулы (4.6.43) получаем, что при больших Т функция dxn (X) несущественно отличается от dZx(X). В заключение отметим также, что формулы (4.6.8) и (4.6.43) влекут за собой точное равенство
cum(4P(M. 4?М} 2л2л
= $...$ Hm (X, -aj ... Нт (Х6-ай) т, (а. + ... +а.) оо
Х/01...аА(а1, ..., a^-Jdaj.. ,daft. (4.6.45)
Полезно сравнить это равенство с асимптотическим выражением (4.3.8).''
В действительности Сгашёг (1942) получил представление (4.6.13) при выполнении условий теоремы 2.5.2. В этом более
общем случае функция Zx(X) удовлетворяет соотношению
cov |dZx (X), dZx (р)} = т) (X—р) dFxx (X) dp, (4.6.46) где Fxx(X) обозначает г х r-матричную функцию, существование которой вытекает из теоремы 2.5.2. Но интегральное представление в этом случае справедливо, только если интеграл понимается в среднеквадратическом смысле; можно получить этот результат, модифицировав доказательство теоремы 3.9.1. -
Анализ главных компонент и его связь с представлением Крамера
Пусть Y есть /-компонентная векторная случайная величина с ковариационной матрицей Syy. Если компоненты вектора Y коррелированы и их число J больше двух или больше трех, то часто бывает трудно понять существенную статистическую природу Y. Рассмотрим поэтому задачу нахождения величины £ более простой, чем Y, но которая содержала бы почти всю статистическую информацию, заключенную в Y. Будем искать £ вида
5 = AY,5 = AY,(4.7.1)
5 = AY,
5 = AY,
где А—некоторая К X /-матрица, такая, что/<</. Требование, чтобы величина £ содержала большую часть статистической информации, имеющейся в Y, формализуем следующим образом: $ должна минимизировать функцию
minE {(Y —В—Cg)T(Y—В—Cg)), B/xl, С/хК. (4.7.2) В, С ’ ■
Справедлива
Теорема 4.7.1. Пусть Y есть. J-компонентная величина с ковариационной матрицей 2УУ. Матрица А размера KxJ, которая задает £ по формуле (4.7.1) и минимизирует функцию (4.7.2), имеет вид■
.г и? "1
(4.7.3)
U^j
где Uy есть j-й собственный вектор матрицы 2УУ, /=1/.
При этом минимальное значение (4.7.2) равно
где jiy есть j-e собственное значений SrK. Экстремальными матрицами В, С будут
е С = А\
-.В = Е {Y}—САЕ {Y}.(4,7-5)
Компоненты величины £ называются главными компонентами Ч.
Они имеют вид ^=UJY, и для них
■./^1 Л(4.7.6)
cov^y, Ц = 0 при 1=#к.1'7
Величина &, следовательно, проще устроена, чем Y.
Эта теорема приводит к рассмотрению аппроксимации /-компонентной величины Y посредством выражения
В + ^...U^]?(4.7.7)
и ее j-й компоненты посредством выражения'
Bj-V^U^. -(4.7.8)
Ошибка при такой аппроксимации величины Y с помощью (4.7.7), как показывает (4.7.4), зависит от величины собственных значений с номерами / > К. Если К = /, то ошибка равна 0 и выражение (4.7.8) дает представление Y через некоррелированные величины ^.
Мы подробно изучим свойства главных компонент в гл. 9. Главные компоненты были введены в работе Hotelling (1933). Теорема 4.7.1 восходит к Kramer Н. Р., Mathews (1956), а также Rao (1964, 1965). ■
Теперь перейдем к случаю, когда величина Y представляет собой отрезок наблюдений некоторого действительного стационарного временного ряда X (/), t =— Т, ..., Т. В этом случае
~Х(—Т)"1
Y= Х(0)• .(4.7.9)
ЦЦ-Г) □
Предположим, что схх(м), и = 0, ±1, ...,— автоковариационная
функция ряда X^t), / = 0, ±1Тогда k
! СХХ (0)СХХ (1}! СХХ (0)СХХ (1}Схх^Т^Схх^Т^схх ( 0•схх ( 0•(4.7.10)(4.7.10)
! СХХ (0)СХХ (1}
! СХХ (0)СХХ (1}
Схх^Т^
Схх^Т^
схх ( 0•
схх ( 0•
(4.7.10)
(4.7.10)
_ схх ( 2Т) .... схх (0) _
Согласно изложенному выше, главные компоненты вектора (4.7.9) будут выражаться через собственные векторы матрицы (4.7.10). Эта матрица представляет собой конечную теплицеву матрицу, поэтому, как следует из § 3.7, ее собственные значения и собственные векторы будут приблизительно равны соответственно
2Т'
2 Cyv(0exp{i2ns/}/(2T + l)(4.7.11)
f = -2T.
И-
(2T+1)-V2[exp{— /2л$</(2Т+1)}; t = — Т, ..., Т]; (4.7.12)
здесь s = — Т, ..., Т. Главные компоненты вектора (4.7.9) будут, следовательно, примерно равны..
г•
(2Т4-1)~1/2 2 ехр{— i2ns(/(27+1)} X (/), s = — Т, ..., Т. •
(4.7.13)
Если мы вернемся к выражению (4.6.2), то увидим, что выражение (4.7.13) равняется d^ (2ns/(2T +1)), т. е. конечному преобразованию Фурье, на котором было основано преобразование Крамера и которое, как мы уже отмечали, было взято в качестве основной статистики при исследовании отрезков наблюдений временных рядов. "--
Следуя теореме 4.7.1, приходим к такой аппроксимации для
Х^:'
■(2Т+ I)-1 2 dp (2ns/(2T + 1))ехр \i2nst/(2T + 1)},
■s*
■t = — T, ..., T;(4.7.14)
суммирование в выражении (4.7.14) ведется по s, соответствующим К наибольшим значениям величин (4.7.11). Если взять К = = 2Т +1 и устремить Т к бесконечности, то следовало бы ожидать, что значения (4.7.14) будут очень близки к X ((). Действительно, (4.7.14) стремится при Т-»-со к
' 2л'
$ exp {/Xf} dZy (X),(4.7.15)
если в каком-то смысле.
х
'(2л)"1 $ d^ (a)da^Zx(b).(4.7.16)
.о'
Выражение (4.7.15) является преобразованием Крамера ряда X(t). Представление Крамера получается, таким образом, как предельный результат при анализе главных компонент ряда X (0, ^ = 0, +1, ... .
Craddock (1965) провел эмпирический анализ главных компонент для ковариационной матрицы, построенной на основе отрезка наблюдений временного ряда. Полученные им главные компоненты выглядели как сумма гармонических колебаний в (4.7.13).
Набор собственных значений матрицы иногда называют спектром. Спектр матрицы, задаваемой формулой (4.7.10), аппроксимируется, как показывает (4.7.11), числами 2л^х i^us^T + 1)), s =— Т, ..., Т, где fXxW—спектр мощности ряда Х(/),/ = 0, ±1, ... . Таким образом, мы сразу же убеждаемся в связи этих двух разных типов спектра.
Упражнения
Пусть Y = U + ZV, векторы U и V имеют совместное нормальное распределение. Пусть также EY = p, и Е (У—g)(Y— g)T = 0. Докажите, что компоненты вектора Y независимы, если матрица Е (Y — |m)(Y— |ы)т диагональна.
Докажите, что если величина Y имеет распределение Nr (0, 2), то распределением AY будет Ns (О, А2АТ) для любой sXr-матрицы А. Выведите отсюда, что если элементы Y представляют собой независимые Ni (0, о2)-рас- пределенные величины и А есть унитарная rXr-матрица, то элементы AY также будут независимыми величинами с распределением Ni (0, о2). Выведите также, что маргинальное распределение многомерного нормального- комплексного распределения является нормальным.
Покажите, что если X имеет распределение N^ (ji, 2) и Im 2 = 0, то величины Re X и Im X независимы.
Докажите, что если W имеет распределение IW^ (п, 2), то Wjj распределено как 2уух!м/2.
Докажите, что если W имеет распределение Wr ^п, 2), то EW = n2. Докажите также, что Е (Wjk — n^jk^ ^tm—nl^) — п^щЪ^.
Докажите, что е*сли W имеет распределение Wr (и, 2), где 2— невырожденная матрица, то S~1/2W2“1/2 будет величиной с распределением^ (n, I).
Пусть Y имеет распределение Nn (|л, а21) и
YTY = Y^Y + ... + YTA^Y, '
где А^—эрмитова матрица ранга п^. Докажите, что необходимое и достаточное условие, для того чтобы формы YTA^Y были независимы и имели нецентраль-
ное хи-квадрат распределение о2%2пь (м-т|л/о2)/2, состоит в том, чтобы п^... .•.-VnK~n [Brillinger (1973)].
Пусть матрица W, имеющая распределение W^s (п, 2), представлена в виде
W =W =WnW12l W21W22J’WnW12l W21W22J’
W =
W =
WnW12l W21W22J’
WnW12l W21W22J’
где Wu и W22 имеют соответственно размеры rXr и sxs. Допустим также, что 2 представлена аналогичным образом. Докажите, что матрица W22—W2iWii1W12 будет распределена как ’
W^ (n—r, S22-S212u1S12).
Докажите, что если 212 = 0, то величина W2i Wu1W12 имеет распределение
IFf (г, 2И) и не зависит от W*—W^W^W^.■
Пусть Y имеет распределение Nr (0, 2). Докажите, что ^ри j ^ k справедливо равенство*
Erei-..raynt...F6A = 0>
а при j = k эта величина равняется'
^aibi • • e^dt b
где (*) обозначает алгебраическое дополнение размера /X/ [Goodman, Dubman (1969)].
Пусть X (/), / = 0, ±1, ...,—стационарный процесс с конечными моментами, такой, что X (/ + ?) = Х (/), / = 0, ±1, ..., для некоторого положительного Т. В таком случае X (0 называется периодическим процессом. Докажите, что
cum р<,р (2л$1/Т)^^sk/T)^ =0
для целых sb ..., s^ таких, что Si+ ... + ^^0 (mod2л)."
Докажите, что при к > 2 для стационарной гауссовской последовательности X (/), t = 0, ±1, ..., выполняется равенство
сбт ^£ (X,)^(X»)] =0.
Пусть X (/), / = 0, ±1, ..., есть векторный г-компонентный белый шум. Обозначим
cum{XOt(0Хйк^=иа1...ак.
Докажите, что если с^г* [X] задается формулой (4.3.13), то
cum (d<ap (X,)^(Xft)} =^^2 XJpat ...ак-
Пусть X (/), / = 0, ±1, ..., есть векторный г-компонентный стационарный ряд, удовлетворяющий условию (4.3.6). Положим Т = min Tj. Пока-
жите; что для величины d^r) (X), задаваемой выражением (4.3.13),
cum | d^0 (X,), ..., d^ (X»)}
= (2л)»-1Д<пГ ^\fa> ^ ..., XN_i) + o(D,
Предположим, что выполнены условия теоремы 4.3.2 и величина На^Х^ определяемая формулой (4.3.3), допускает при некотором конечном К и v>2, а=1, ..., г, оценку
|//a(X)|<K(l+|Xl)-v.
Докажите, что тогда
cum (d£) (X,),cum (d£) (X,),.. ^)М}=(2л)й-1Я<П ^.. ^)М}=(2л)й-1Я<П ^к \^Уах-а^’ 1 /*к \^Уах-а^’ 1 /*4-0 mini 14-71 2^/~2л/ -4-0 mini 14-71 2^/~2л/ -•Ак-1)\ -V"•Ак-1)\ -V"
cum (d£) (X,),
cum (d£) (X,),
.. ^)М}=(2л)й-1Я<П ^
.. ^)М}=(2л)й-1Я<П ^
к \
^Уах-а^’ 1 /*
к \
^Уах-а^’ 1 /*
4-0 mini 14-71 2^/~2л/ -
4-0 mini 14-71 2^/~2л/ -
•Ак-1)
\ -V"
•Ак-1)
\ -V"
Пусть X (/), / = 0, ±1, ..., есть г-компонентный векторный ряд. Допустим нам известен отрезок наблюдений X (/), /=0, ..., Т — 1. Докажите, что d^ (2л$/Т), s = 0, ..., Т/2 является достаточной статистикой.
Докажите, что при выполнении условий теоремы 4.6.1 величина Z^(X) непрерывна в среднем порядка v для любого v > 0.
Пусть Y является /-компонентной векторной случайной величиной с ковариационной матрицей Syy. Определите, какая линейная комбинация ат¥ с ата=1 имеет наибольшую дисперсию.
Используя 3.10.15, обобщите рассуждение § 4.7 на случай векторных рядов. z .
Докажите, что при выполнении условий теоремы 4.4.2 величина arg ^rf^^ (X)| сходится по распределению при Т —► оо к величине, равномерно распределенной в интервале (0, 2л), если Х^О (mod л). Каким будет предельное распределение в случае Х = 0 (mod л)? ’
Предположим, что выполнены условия теоремы 4.4.2. Допустим также, что функция На(к), определяемая формулой (4.3.3), при некотором конечном К,у>2иа=1, ..., г допускает оценку
|Ha(MKK(i + l^l)"v.
Предположим еще, что Ху (Т)—Ху при Тсо и min Т | Ху (Г)—2л/1, mm Т | Ху (Т) ± Хд (Г)—2л/1 —► оо при Т —+ оо, 1 ^ j < к ^ J. Докажите, что тогда к d^ (Ху (Г)), / = 1, ..., J, применимо заключение теоремы 4.4.2.
- г-1
Пусть d^ (X) = 2 X (/) exp {—/X/}. Покажите, что справедливо г=о .
равенство
^h0 Ш Х(0ехр {-Ш}^-1 £ н^ ^- \Ш № ,/'s=0'/\/
где Нр (X) задается формулой (4.3.2).-
Пусть X (/), / = 0, ..., Г—1, — последовательность независимых нормально распределенных величин с нулевым средним и дисперсией о2. Положим,-
.~г-1*
^Г)М= 2 Х(Оехр{-Ш}--
/=о•
Покажите, что для таких целых s, что 2л5/Т^0 (mod л), величина dp (2лs/T) имеет распределение Ni (0, То2).*
Найдите распределение величины
Найдите распределение для arg
Пусть X (/), /=0, ±1, ..., есть r-компонентный векторный ряд, удовлетворяющий условию 2.6.1. Пусть функции ha(u), —оо < и < оо, удовлетворяют условию 4.3.1. Положим-
V -1
и=0'«
где —оо<Х<оо; / = 0, ..., L— 1; а=1, ..., г. Покажите, что d^ (X, /) = [da (X, /)], /=0, ..., L—1 являются асимптотически (при V —► оо) независимыми Хг (0, 2лV [НаЬ (0) fab (Х)])-распределенными величинами, если Х^О (mod л) и асимптотически Nr (0, 2л V \Hat> (0) fab (Х)])-распределенными величинами, если Х = i л, ± Зл, ... .•
ч Указание. Этот результат немедленно вытекает из теоремы 4.4.2, если X (/) и ha (и) переопределены надлежащим образом.
Покажите, что если X имеет распределение М^ (0, S) и Аг—эрми- ■г
това rXr-матрица, то ХТАХ распределено как ^ ру (и/ + и/)> где pi, ..., рг —• v/ = 1
собственные значения матрицы-.
З^гд^т/г
и иь *..., иГ) иг ..., vr — независимые N (0, ^-распределенные величины.
Пусть Х1? ..., Х„ —независимые А7^ (р., 2)-распределеиные величины. Покажите, что р. = ^Х;-1п и S = 2 (ху — Му) (Х7 ~^)Х!п являются //
оценками максимального правдоподобия для р и S [Giri (1965)].-
Покажите, что W^ (п, ^-распределенная величина, для которой Im 2=0, может быть представлена в виде ^ {Wu + W22 + i(W12 — W21)}, где
WnW12lW21W22JWnW12lW21W22Jимеет распределение W2rимеет распределение W2rnns о i \0 sj/s о i \0 sj/
WnW12l
W21W22J
WnW12l
W21W22J
имеет распределение W2r
имеет распределение W2r
n
n
s о i \
0 sj/
s о i \
0 sj/
Выведите отсюда, что действительная часть такого комплексного распределения
Уишарта имеет распределение — №2(2м, 2).*
Используя функцию плотности (4.2.9), покажите, что W^ (п. ^-распределенную величину W можно представить как (Х4~гУ) (X + ^Y)T, где X, У —нижние треугольные матрицы, т. е. имеющие одни нули над главной диагональю,- a Xj^ У^ 1^^ < /^г,—независимые Wf (0, ^-распределенные величины и Хц, Уц — независимые Хя-/+граспределенные величины.
При тех же условиях, что и в упр. 4.8.25, покажите, что З2 = ДТ2~1|1 имеет распределение X2r (2п|шт2~1 |ш) Хг (п-о, где Х2г(6> обозначает нецентральное хи-квадрат распределение с 2г степенями свободы и параметром не-» центральности 6, а Хзт-п обозначает независимое от него центральное хи- квадрат распределение с 2(п — г) степенями свободы [Giri (1965)].
Покажите, что при выполнении условий теоремы 4.4.2 предельное распределение d^ (X) не изменится, если опустить любое конечное число величин из ряда X (/).
Пусть IT имеет распределение V? (п, 2). Покажите, что
cum |№а1Ь1, ...» ^я/^^^^ ^Saifrp/’-S^
где суммирование ведется по всем таким перестановкам Р множества {1; ...,£}, что Р не оставляет на месте никакое собственное подмножество множества {1# ..., ку Покажите также, что число таких перестановок будет (к—1)!.
Пусть Ц7 имеет распределение Wr^n, 2). Покажите, что cum 1^6,^!, .^а^ь^
= n'2il’2ialbD---’2iabbD +(2ft~1 —1) аналогичных членов,
получающихся в результате всех замен aj^bj при / = 1, ..., к—1 j> , здесь Р— перестановки, описанные в предыдущем упражнении. Покажите, что общее число слагаемых будет равно 2Л“Х(^—1)!.
Пусть W имеет распределение F2 ^п, ^ ^]) • Покажите, что функция плотности величины x = W\2 задается формулой
|у|(^ —^)/^
/пГ (и/2)ехр{рх/( 1 — p2)} ^(«-D/2 (I х I/O -Р2)).
где К^ — модифицированная функция Бесселя второго- рода v-ro порядка [Pearson и др. (1929), Wishart,' Bartlett (1932)].
Пусть W имеет распределение W^ ( п, | 1 Y
,(а) Покажите, .что плотность величины x = U712 (по отношению к Re jc, Imx)
задается формулой,
„Г(„)2.^-1,!. «г »• (V'O -I Р W. - < < И'О -1Р Г»-
{ау/(1-|р|2)}{ау/(1-|р|2)}Покажите, что плотность величины y = Re№12 задается формулой
{ау/(1-|р|2)}
{ау/(1-|р|2)}
}/лГ(п) 2Л~1/2 (У 1— ра)”-1/2 ’е*Р
ХКп-Цг (|«/| /Т^р/(1-|р|2)),
где a=Rep, 0=lmp.
Покажите, что величина z=Iml^12 имеет плотность
КлГ (п) 2" ~1/2 (V 1—а2)" ~1 /2КлГ (п) 2" ~1/2 (V 1—а2)" ~1 /2•exp {₽г/(1-|р|2)}•exp {₽г/(1-|р|2)}
КлГ (п) 2" ~1/2 (V 1—а2)" ~1 /2
КлГ (п) 2" ~1/2 (V 1—а2)" ~1 /2
•exp {₽г/(1-|р|2)}
•exp {₽г/(1-|р|2)}
ХК„_1;, (И /1-а2/(1-|р|2)).
Покажите, что плотность величины ф = аг§и^12 имеет вид
(1-1 р|Ул Г (п)(1-1 р|Ул Г (п)
(1-1 р|Ул Г (п)
(1-1 р|Ул Г (п)
где <^0 = argp.'
Покажите, что плотность величины ^=|1Г12| равняется
Г ^-х 1» ^ | Р 1/(1 - I Р I2)) K.-xW -I р I2)),
где /0—модифицированная функция Бесселя первого рода нулевого порядка.
Все плотности, приведенные в этом упражнении, получены в работе Goodman (1957).
Пусть Х(/)^ = 0, ±1, ...,—стационарная гауссовская последовательность с нулевым средним и спектром мощности fxx(M> — оо <Х < оо. Покажите, что представление Крамера можно записать в виде
Х^ = $ exp ^-HOVfxx^dB(X\ ( = 0, ±1,
-Л
где В (X), О^Х^л—комплексный процесс броуновского движения, такой, что cov {В (X), В (р)} =min {X, р) и В (— Х) = В (X).
Предположим, что ряд К (0> /=0, ±1, .. ., задается формулой (2.9.15). Покажите, что его можно записать, используя представление Крамера ряда ХЦУ ^=0, ±1, ..., следующим образом:
L
Г(0 = s V• • \ ехР V^1 + • • • + ХЛ0 А,(ХхмdZx(Хх)...azxм
J=0 . J'
(а) Пусть W имеет распределение Wr (п, S) и а, 0, у, 6 суть г-компонентные векторы. Покажите, что•
cov {aTwp, yTW6} = п {ах^) (рт2б) + п (aT26) (рт2у). .
(b) Пусть W имеет распределение W^ (п, S) и а, р, у, 6 суть комплексные г-компонентные векторы. Покажите, что
cov{aTwp, yTW6} = n(aTSy) (бт20}.
Пусть X (0, /=0, ±1, ... ,—действительный ряд с нулевым средним, удовлетворяющий условию 2.6.1. Пусть и — неотрицательное целое число. Тогда теорема 2.9.1 показывает, что ряд Y у^ — Х (/ + “)Х (/) также удовлетворяет условию 2.6.1. Используя это, а также теорему 4.4.1, покажите, что
Т-1-и
т^№=Т-1 2 Х(Н«)Х(0
•./ = 0 -
"2л 2 л С Т J L0"2л 2 л С Т J L0является асимптотически нормальной величиной со средним схх W и дисперсией
"2л 2 л С Т J L0
"2л 2 л С Т J L0
(1 + cos 2ua) fxx (a)2 da
exp Vй (a—P)}fxxxx(a, -a, P)dad₽
5
ОЦЕНКА СПЕКТРА МОЩНОСТИ
Спектры мощности и их интерпретация'
Пусть Х(/), ^ = 0, ±1, ...,— действительный временной ряд со средним значением
ЕХ(0 = сх, / = 0, ±1, ....(5.1.1)
и ковариационной функцией'
cov {X (/ + «), X(0} = Cxx(«), t, и = 0, ±1 (5.1.2)
Предположим, что для ковариационной функции выполняется неравенство'
2 |^х(«)1<оо.(5.1.3)
и= - 00.
тогда спектром мощности ряда X (<), / = 0, ±1, ....назовем преобразование Фурье.
/хх (X) = (2л)-1 2 ехР {—*Хы}схх(м), —оо<Х<оо. (5.1.4) и= - 00
Как было отмечено в § 2.5, спектр мощности есть неотрицательная четная функция от Х .с периодом 2л. Из четности и периодичности следует, что в качестве основной области определения fxxW можно, если это нужно, взять отрезок [0, л].
Если выполнено условие (5.L3), то /хх(Х) есть‘ограниченная равномерно непрерывная функция. Обращая соотношение (5.1.4), получаем для ковариационной функции выражение
Л
сХх^ = $exp{iau}/xx(a)da, и —О, ±1, ... .(5.1.5)
-Л*’
В частности, полагая ы = 0, получаем
Л
DX(0 = Sfxx(«)da.(5.1.6)
-Л
Как было показано в § 2.8 и 4.^, если ряд фильтруется линейно и инвариантно по времени, то спектр мощности преоб’ разуется элементарным образом. Пусть, в частности, Y (/), / = 0, ±1, ..., есть результат фильтрации ряда Х(/), / = 0, ±1, ..., с передаточной функцией Л(Х), —оо <Х < оо. Тогда, согласно примеру 2.8.1, для спектра мощности ряда Y (/), / = 0, ±1, . выполнено соотношение
'fvvW = IА (X) \Мхх W> —оо<Х<оо. (5.1.7)
Из соотношений (5.1.6) и (5.1.7) следует, что
DYW=^AWfxx^da.(5.1.8)
— Л
Из (5.1.8) вытекает одна из возможных интерпретаций спектра мощности. Пусть для —л<а<л и достаточно малого Д
| (4Д)-1/2 при |а±Х|<Д, Л(а) = <_'(5.1.9)
(О в противном случае,
а вне интервала (—л, л] эта функция продолжена периодическим образом. Такая передаточная функция соответствует фильтру, пропорциональному полосно-пропускающему (см. § 2.7). Таким образом, ряд Y (t), t = 0, ±1, •.., пропорционален X (/, X)— компоненте частоты X ряда X (t), t = 0, ±1, ... (см. § 4.6). Из выражений (5.1.8) и (5.1.9) следует, что
Dy(0=Lfxx(X), t = 0. ±1, ... .,(5.1.10)
Это означает, что fXx W можно интерпретировать как величину, пропорциональную дисперсии компоненты X (/, X) частоты X ряда Х(/), / = 0, ±1, ... . В частности, заметим, что
ЕУ(0 = Л(0)сх.(5.1.11)
Это среднее равно нулю, если X отстоит от 0, ±2л, ... дальше, чем на Д; точно так же.
Ey(03Afxx(X), Х^=0, ±2л, ...; / = 0, ±1, ... . (5.1.12)
Пусть теперь У (/)— напряжение, приложенное к участку изображенной на рис. 5.1.1 электрической цепи, содержащей сопротивление 1 Ом; в таком случае мгновенная рассеиваемая энергия равна У Ц.У- Равенство (5.1.12) показывает, что /хх W можно интерпретировать как ожидаемое количество мощности, рассеиваемое в электрической цепи компонентой ряда X (/) частоты X. Это вскрывает причину того, почему fxxW часто называют спектром «мощности».
Рис. 5.1.1. Простейшая электрическая цепь, к которой подводится зависящее .от времени / напряжение V (t).
из трубы, обдуваемой с одного конца потоком воздуха.
Для иллюстрации спектра мощности Roberts, Bishop (1965) рассматривали колебательную систему в виде цилиндрической медной трубы, обдуваемой потоком воздуха на своем открытом конце; эту систему можно рассматривать как процесс X'(t\ Выходным сигналом является давление у закрытого конца трубы, а передаточная функция напоминает представленную на рис. 5.1.2. Пики передаточной функции находятся в точках
^=(2^,(5МЗ)
где /—длина трубы, с —скорость звука и п=1, 2Таким образом, давление на дне трубы будет пропорционально
2/хх(^п)>(5.1.14)
где Х„ задаются формулой (5.1.13). Для получения выходного сигнала у закрытого конца трубы устанавливается микрофон.
В заключение этого параграфа продемонстрируем некоторые примеры ковариационных функций и соответствующих им спектров мощности (рис. 5.1.3). Например, если функция схх(ы) сконцентрирована в нуле, то fxx (X) близка к константе. Если схх (и) медленно убывает, когда и возрастает, то fxx (X) концентрируется
1.0-1.0-ЮтЮтЮтЮтРис. 5.1.3. Некоторые ковариационные функции cvxM и соответствующие им спектры мощности fxxW-Рис. 5.1.3. Некоторые ковариационные функции cvxM и соответствующие им спектры мощности fxxW-
1.0-
1.0-
Ют
Ют
Ют
Ют
Рис. 5.1.3. Некоторые ковариационные функции cvxM и соответствующие им спектры мощности fxxW-
Рис. 5.1.3. Некоторые ковариационные функции cvxM и соответствующие им спектры мощности fxxW-
около Х = 0, ±2лЕсли схх1^ осциллирует около нуля, когда и возрастает, то fxx(ty несет существенную массу вне точек Х = 0 (mod 2л).
Теперь мы переходим к рассмотрению оценок ^х(Х), —оо < <Х<оо, и их различных статистических свойств. При желании читатель может обратиться дополнительно к некоторым из следующих работ, касающихся оценок спектров мощности: Ти- key (1959а, b), Jenkins (1961), Parzen (1961), Priestley (1962а), Bingham и др. (1967), Cooley и др. (1970).
Периодограмма
Пусть X (/)— стационарный ряд со средним сх и спектром мощности fxx (X), —°° < X < оо. Предположим, что имеются значения Х(0), ..., Х(7 —1) и нужно построить оценку fXx(M- Прежде всего мы можем вычислить конечное преобразование Фурье.
т
d^ (X) = 2 ехр {— Ш\X (0.(5.2.1)
<=о
Из теоремы 4.4.2 следует, что эта переменная имеет следующее асимптотическое распределение:'“
X? (0, 2nTfxx (X)), X 0 (mod л),
- XJTcy, 2лТ/хх(Х)), Х = 0, ±2л," ....(5.2.2)
■ Nt (0, 2лТ/хх(Х)),Х=±л, ±3л, ... .
ЭтиЭтираспределения предполагают рассмотрение статистики
Эти
Эти
I^x^^T)-1 dT№ .
Г-12
(5.2.3)(5.2.3)= (2лТ)-1 2 ехр {— Ш) X (0
(5.2.3)
(5.2.3)
как оценки fXx(^) в случае X^0(mod2n).
Статистика /хх(Х), задаваемая равенством (5.2.3), называется периодограммой второго порядка, или, более кратко, периодограммой величин X (0), ..., X (Т — 1). Эту статистику ввел Schuster (1898) для отыскания скрытых периодичностей случая
' Х(0 = 5р/соз(<о/ + Ф/), / = 0, .... 7-1, (5.2.4)
когда /хх(Х) имеет пики в точках X=±toy(mod2n).
Заметим, что /хх(Х), заданная формулой (5.2.3), имеет те же свойства симметрии, неотрицательности и периодичности, как и fXx^-
На рис. 5.2.1 представлена диаграмма ежемесячного количества осадков в Англии за период с 1920 по 1930 г.; конечное преобразование Фурье dx* (X) значений за 1780—1960 гг. было вычислено с использованием алгоритма быстрого преобразования Фурье. Вычисленная после этого периодограмма Ixx (X) приводится на рис. 5.2.2. Она выглядит довольно нерегулярной функцией X. Эта нерегулярность появляется также на рис. 5.2.3 и 5.2.4, где представлены соответственно нижние и верхние частоты рядов ежемесячных средних чисел солнечных пятен; они содержат каждый по 100 ординат периодограмм (см. рис. 1.1.5 для зна-
8040804000192619271928 19291930192619271928 19291930192019211922 192319241925Год192019211922 192319241925ГодРис. 5.2.2. Периодограмма составного количества осадков для Англии и Уэльса за 1789—1959 гг. (логарифмический масштаб). (По горизонтали—частоты в цикл/месяц.)Рис. 5.2.2. Периодограмма составного количества осадков для Англии и Уэльса за 1789—1959 гг. (логарифмический масштаб). (По горизонтали—частоты в цикл/месяц.)
80
40
80
40
0
0
192619271928 19291930
192619271928 19291930
192019211922 192319241925
Год
192019211922 192319241925
Год
Рис. 5.2.2. Периодограмма составного количества осадков для Англии и Уэльса за 1789—1959 гг. (логарифмический масштаб). (По горизонтали—частоты в цикл/месяц.)
Рис. 5.2.2. Периодограмма составного количества осадков для Англии и Уэльса за 1789—1959 гг. (логарифмический масштаб). (По горизонтали—частоты в цикл/месяц.)
чений среднегодовых чисел). Wold (1965) приводит некоторые другие примеры периодограмм. В каждом из этих примеров /xxW крайне нерегулярна по X, несмотря на тот факт, что /хх (%) предположительно достаточно регулярная функция X. Из этого заключаем, что /хх W является неэффективной оценкой fxxWi п0' этому мы вынуждены перейти к рассмотрению некоторых других оценок. Чтобы попытаться понять причины нерегулярности и таким образом построить лучшие статистики, прежде всего приведем несколько теорем относительно статистического поведения ^хх W.
Рис. 5.2.3. Нижние частоты десятичного логарифма периодограммы месячных средних чисел солнечных пятен за 1750—1865 гг. (По горизонтали—частоты в цикл/месяц.)
Рис. 5.2.4. Верхние частоты десятичного логарифма периодограммы месячных средних чисел солнечных пятен за 1750—1865 гг. (По горизонтали—частоты в цикл/месяц.)
Рассмотрим математическое ожидание*периодограмм.
Теорема 5.2.1. Пусть Х^, < = 0, ±1, ..., есть временной ряд с EX (t) — сх, cov {X (t-V-u), X (t)\ = cxx (и), t, и = 0, ±1, ... . Предположим, что
2|схх(«)1<°°.(5.2.5)
> и
тогда
E/S (I) - (2ПТ)- у [^^]’/и («) da
—л
+(5.2.6)
В случае когда Х^О (mod2л), последний член в (5.2.6) исчезающе мал, и мы видим, что Е/хх W по существу является взвешенным средним интересующего нас спектра мощности с весом, сконцентрированным в окрестности точки X. Переходя к пределу, получаем
Следствие 5.2.1. При выполнении условий теоремы /хх (А) есть асимптотически несмещенная оценка fxxW пРи ^^0 (mod2л).
Следующая теорема дает асимптотику смещения /хх(^)-
Теорема 5.2.2. Пусть выполнены все условия теоремы 5.2.1 и
S|u|kxx(“)l<°°>(5.2.7)
и
тогда
Е;^(Х) = ^(Х) + (2лТ)^ [^^у^ + ОСГ-1). (5.2.8) Член О (Т-1) равномерен по X.
Заметим, что в том случае, когда Х = 2л8/Т,'s — целое, s^O (modT), второй член в правой части выражений (5.2.6) и (5.2.8) обращается в нуль, что ведет к полезному упрощению резуль- тов. Если рассматривать 1м (X) только в точках 2ms/T, s—целое, s^O (modT), то множество периодограмм Тмс^, х-с^ХМ» п0" строенных по выборочным значениям X (#), / = 0, 1, ..., Т— 1, со средним
Т-1
сТ = Т-у 2 X(t),(5.2.9)
/=о
значительно сокращается ввиду равенства
,(Т)/2л$\,(Т) /2л$\,- - п
ах-сх(.Т) I -у I — их \~f 1.(D.2.1U)
для з^О (mod Т). С точки зрения основного определения спектра мощности, использующего ковариационную функцию, инвариантную по отношению к среднему, ограничение рассмотрения /&(2ns/T) только для целых s, s ^ О (modT), выглядит вполне оправданным. Мы вернемся к этому ниже в теореме 5.2.4.
В § 3.3 и 4.6 мы могли видеть, что временное сглаживание по краям наблюдаемых величин, предшествующее вычислению их преобразования Фурье, дает некоторые преимущества. Вернемся к построению модифицированных периодограмм, соответствующих рядам со сглаженными значениями. Рассмотрим
d1? (X) = 2> (у) X (О ехр {- iXt^ (5.2.11)
для некоторого временного окна h^, удовлетворяющего условию 4.3.1. В таком случае из теоремы 4.4.2 следует, что распределение величины dp (X) асимптотически равно '
N^Q^T^WVdt^xx^' (5.2.12)
если X ^ О (mod л).. Следовательно, для случая временного сглаживания мы можем- рассматривать статистику
iTx (X) = (2л£ h ^V ।d^ ^ Is
^^к^У 1 Цк^хЦ)ехр\—1ХЦ 2 (5.2.13)
в качестве оценки для fxxW-
Мы заменили T^h,(t)^dt суммой квадратов значений временного окна, так как последняя легко вычисляется. Положим
(5.2.14)(5.2.14)(5.2.15)(5.2.15)Н (X) = J h (и) ехр {— iXu} duНт {X^^h^exp V-iM\.
(5.2.14)
(5.2.14)
(5.2.15)
(5.2.15)
Применим, если это возможно, формулу суммирования Пуассона; тогда последние два выражения связаны соотношением
Нт^^т 2 Я(Т[Х4-2л/]),Нт^^т 2 Я(Т[Х4-2л/]),(5.2.16)(5.2.16)
Нт^^т 2 Я(Т[Х4-2л/]),
Нт^^т 2 Я(Т[Х4-2л/]),
(5.2.16)
(5.2.16)
откуда HmQ^ имеет значительную величину, только если Х=0 (mod 2л), что будет существенно для нас при рассмотрении выражения (5.2.17). Справедлива
Теорема 5.2.3. Пусть X (/), t = 0, ±1, ...,— ряд с действительными значениями, удовлетворяющий условиям теоремы 5.2.1, Н(у) удовлетворяет условию 4.3.1, а /хх W задано выражением (5.2.13). Тогда справедливо соотношение
-1 л
ЕСхх W = ( $ | Нт (а) р da ) J| нт (а) р fxx (X - a) da
+ ( J | Нт («) pda ) | Нт (X) р с\, — оо < X < оо. (5.2.17)
Если Х^О (mod2л), то последний член формулы (5.2.17) достаточно мал по величине. Первый член правой части (5.2.17)
является взвешенным средним с весовой функцией, сконцентрированной *в окрестности, точки к, интересующего нас спектра мощности с учетом относительного веса временного окна. Это выражение полезно сравнить с формулой (5.2.6), соответствующей несглаженному случаю.
Если fxxW имеет значительный пик в окрестности точки а, то математическое ожидание, задаваемое выражениями (5.2.6) и (5.2.17), может значительно отличаться от fxxW- Отсюда очевидны преимущества в применении сглаживания, с помощью которого можно уменьшить влияние пика в соседних частотах.
Продолжая исследования статистических свойств периодограмм как оценок спектра мощности, приведем теорему 5.2.4, которая описывает ковариационную структуру iSPx W в точках 2л5/Т, s —целое, для несглаженного случая..
Теорема 5.2.4. Пусть Х^, / = 0, ±1, ...,— действительный случайный ряд, удовлетворяющий условию 2.6.2(1). Пусть I^xxW задано выражением (5.2.3), г, s —целые, г, s г ± s ^ 0(mod Т) и ^ = 2лг/Т, Х = 2лз/Т. Тогда'
D/S (X) = fxx W + О (Т-1),(5.2.18)
cov да (X), /й (и)} = о (Т-1),(5.2.19)
где член О(Т^), равномерен по всем рассматриваемым % и р.
Заметим, что, согласно условиям теоремы, /хх(2лг/Т) = = /хх(2л5/Т), если r + s, г — s = 0 . (mod Т), т. е. оценки идентичны._
Эта теорема имеет решающее значение для статистической практики. Из нее следует, что, каким бы большим мы не брали Т, дисперсия /хх (М будет стремиться к постоянному уровню fxx (X)2- Если мы желаем получить оценку с меньшей дисперсией, то добиться этого простым увеличением длины выборки, по которой строится периодограмма, невозможно. Теорема также вскрывает причины нерегулярности диаграмм 5.2.2 и 5.2.4: а именно, близкие ординаты периодограмм, по всей вероятности, имеют относительно малую ковариацию по сравнению с их дисперсией. Как мы увидим из теоремы 5.2.6, различные ординаты периодограммы асимптотически независимы., .
Теорема 5.2.5 описывает асимптотическую структуру ковариаций периодограммы, когда X не обязательно вида 2л5/Т.
' Теорема 5.2.5. Пусть Х^, / = 0, ±1—действительный
ряд, удовлетворяющий условию 2.6.2(1). Пусть /хх(Х) задано
выражением (5.2.3) и X, ц^О (mod2л). Тогда
+ [г^^Я^^т' + О^-). (5-2.20)
причем для данного е > 0 член О (Т-1) равномерен по X, р, отличающихся от всех чисел, кратных 2л, по крайней мере на е.
Заметим, что выражение (5.2.20) более информативно, чем (5.2.19): в (5.2.20) можно проследить переход cov {/^ (X), Грх (р)} в D/xx(X), когда р—^Х. Оно также объясняет, почему малы ковариации в случае, когда X, р принимают частные значения, равные 2ns/T и 2пг/Т с целыми s и г.
Мы заканчиваем исследование элементарных асимптотических свойств периодограмм отысканием их асимптотического распределения в условиях регулярности. В теореме 4.4.1 доказана асимптотическая нормальность dxr)(X) для X вида 2л$/Т, s —целое, из которой следует
Т-1Т-12(5.2.21)2(5.2.21)Теорема 5.2.6. Пусть X(t), / = 0, ±1, ...,— действительный ряд, удовлетворяющий условию 2.6.1. Пусть вДТ)—целое, такое, что Ху (Т) = 2л$у (Т)/Т стремится к Ху, когда Т —> оо для всех /—1, ...,/. Предположим, что 2Ху(Т), Х(Т) ±Xk(T) ^0 (mod 2л) для 1 ^ / < к ^ J и Т = 1, 2, ... . Пусть
Т-1
Т-1
2
(5.2.21)
2
(5.2.21)
/®(Х) = (2лТ)-1 2Х(0ехр{-Ш}/=0
для всех—оо < X < оо. Тогда переменные /хх (Ху (Т)), /= 1,..., J,— асимптотически независимые УххО^хИ^-величины. Если Х=±л, ±3л, ..., то /хх (X) асимптотически не зависит от предыдущих величин и имеет закон распределения txxWXv
В теореме 5.2.6 Xv означает случайную величину, распределенную по хи-квадрат с v степенями свободы. В частности, xi/2 соответствует экспоненциальному распределению со средним 1.
Практический вывод теоремы состоит в доказательстве того, что ордината периодограммы /хх (X) приблизительно есть произведение распределений х!- Некоторое эмпирическое подтвержде7 ние этого заключения дает рис. 5.2.5, на котором приводится множество значений /^(2л$/Т), s— Т/4, ..., 772, ежемесячных средних чисел солнечных пятен, распределенных по хи-квадрат с двумя степенями свободы. Мы выбрали указанные частные значения s потому, что из рис. 5.2.4 и 5.4.3 следует, что fXxW приблизительно постоянна на соответствующем интервале частот. Если величины, наносимые на данный график, имеют в дейст-
Рис. 5.2.5. Множество распределенных по х2 500 ординат верхних частот периодограммы ежемесячных средних чисел солнечных пятен за 1750—1965 гг.
вительности распределение Ха, то наносимые точки должны лечь примерно вдоль прямой линии. Именно это с очевидностью демонстрирует рис. 5.2.5. Аналогичные графики приводят Wilk и др.
Теорема 5.2.6 подтверждает высказанное при обсуждении теоремы 5.2.4 предположение о неэффективности периодограммы как оценки спектра мощности. Для больших Т ее распределение будет приблизительно произведением х! с двумя степенями свободы и, следовательно, будет крайне неустойчивым. В § 5.4 мы займемся проблемой построения достаточно устойчивых оценок.
Среднее и дисперсия асимптотического распределения /$ (2ns/T), как видно, находятся в соответствии с выборочными средним и дисперсией Ixx(2ns/T), задаваемыми выражениями (5.2.8) и (5.2.18) соответственно.
Теорема 5.2.6 не дает описания асимптотического распределения 1*хх(М> когда Х = 0 (mod 2л). Теорема 4.4.1 отмечает, что таким асимптотическим распределением будет fxx (X) %f, когда EX^) = сх = 0. В случае когда сх#=0, теорема 4.4.1 показывает, что приближением выборочного распределения будет fxx(%)Xi2> где %(2 обозначает нецентральное распределение с одной степенью свободы и параметром нецентральности |сх|]/Т/(2л/хх (X)).
В случае сглаженных временных рядов справедлива
Теорема 5.2.7. Пусть Х(/), / = 0, ±1, ...,— действительный ряд, удовлетворяющий условию 2.6.1. Предположим, что 2^, Xy±Xft^O (mod 2л) для \<j<k<J. Пусть h (и) удовлетворяет условию 4.3.1 и ~
для —оо < X < оо. Тогда /хх (Ху), / = 1, • • •, J, асимптотически независимы и распределены как f^^ill^- Если Х=±л, ±3л, ... , то 1x^0^ асимптотически независимы от предыдущих переменных и распределены как fxx (X) %2.
Как видно, предельное распределение Ixx (X) не изменилось от процедуры сглаживания временного ряда. Однако мы надеемся, что оценки сглаженных рядов при больших выборках будут давать меньшее смещение. Продолжение теоремы 5.2.5 на случай сглаженных рядов дает,
Теорема 5.2.8. Пусть Х^\ / = 0, ±1, есть действи
тельный ряд, удовлетворяющий условию 2.6.2(1), со средним 0. Пусть h (и) удовлетворяет условию 4.3.1 иЧ^ (X) задано формулой (5.2.22). Тогда-
cov U$c (X), 7$ (р)} = | Н?^ (0) |-2 {IН^ (X- р) |2
.+|^r>(X + p)|2}/xxW + O(T-i) (5.2.23)
для —оо < %, р < оо, и ошибка равномерна по X, ц.
Здесь
H^'^^^h^yexp^-iXtV '(5.2.24)
Очевидно, зависимость Ixx (X) и Ixx (р) исчезает, как только функция Н^ становится достаточно малой.
Bartlett (1950, 1966) получил выражение среднего и ковариации периодограммы в условиях регулярности, ему также принадлежит идея аппроксимации распределения многомерным %|-рас- пределением с двумя степенями свободы. Материал этого пара-
графа построен также на следующих работах: Слуцкий (1934), Grenander, Rosenblatt (1957), Kawata (1959), Hannan (I960), Akaike (1962b), Walker (1965), Olshen (1967).
Дальнейшее изучение периодограммы
Спектр мощности fxxW РяДа ^ W> / = 0, ±1, ..., был определен как.
(5.3.1)(5.3.1)fxxW = (2л)"^ 2жexp {— iXu\ схх(и),
(5.3.1)
(5.3.1)
где схх(и), и = 0, ±1, ...,— корреляционная функция временного ряда. Это приводит нас к новой оценке fxxpy Мы можем оценить сы(и) следующим выражением:
с^хки^Т-^ 2(Х^ + ^-^^Х^-сР),-
0</, t + u< Т-1'
.^ = 0, ±1,(5.3.2)
где '
с^-Т^ 2 Х(0,(5.3.3)
и затем, принимая во внимание (5.3.1), оценим fxxP) выражением
(5.3.4)(5.3.4)(2л)-12 ехр {—- 1Хи\с(хх W-и
(5.3.4)
(5.3.4)
Подставим выражение (5.3.2) в (5.3.4), тогда эта оценка примет вид-
Г-1 т-1
(2л?)-1 2 2 ехр {tsi—itX}{X(s)-c^)(X(t) —с(хп) ■ s = 0 / = 0•
mW, (5.3.5)mW, (5.3.5)Т- 12
mW, (5.3.5)
mW, (5.3.5)
= (2лТ)-1= (2лТ)-12 exp {-i71} (Х^—с^ / = 0
= (2лТ)-1
= (2лТ)-1
что является периодограммой отклонений наблюдаемых величин от их среднего. При обсуждении теоремы 5.2.2 отмечалось, что ',5'3'6)
для 1 = 2л5/Т, s^O (modT), поэтому теоремы 5.2.4 и 5.2.6 отно
сятся и к оценкам вида (5.3.5).'
В случае использования временного окна
получим.
Ed^’ (X) = с^ h у/Т> ехр {— Ш) = схНт <К\(5.3.8)
что предполагает использование статистики с нулевым средним dp (1)—срнт (X) = dp (X) -dp (0) нт (К)/нт (0), (5.3.9) где
cP = 2 А ОТ X (t)/2 h (t/T) = dP ^!Нт (0). (5.3.10)
Таким образом, нам нужно рассмотреть преобразование Фурье d^\m (X) =dP W-dP (0) нт (Ц/нт (0),(5.3.11)
л-сх
основанное на использовании величин с исправленными средними значениями. Заметим, что в терминах представления Крамера из § 4.6 последнее выражение может быть записано в форме
dx-cm W = 5\Рт (К—а)—нт (X) нт (—а)/Нт (О)]dZx (а), ~Сх-л
-(5.3.12)
показывающей ослабление частотных компонент для X, близких к 0, ±2л. Кроме того, изложенное выше делает теперь вполне оправданным использование видоизмененной периодограммы
1?ст х MH2"2^TI&N (5-злз) л СХ ' А СХ \ t/ I х I
для спектральных оценок в сглаженном случае. Математическое ожидание этой статистики дает решение упр. 5.13.22.
• Касаясь некоторых дальнейших свойств периодограмм, отметим, что ординаты периодограмм IpQ^jV j = \J, асимптотически независимы для различных Ху, j= 1, ..., J. Теорема 5.3.1 показывает, что ординаты периодограмм одной и той же частоты, но построенные по непересекающимся отрезкам данных, тоже асимптотически независимы.
Теорема 5.3.1. Пусть X(t), t=?0, ±1, ...,— ряд с действительными значениями, удовлетворяющий условию 2.6.1. Пусть h (и) удовлетворяет условию 4.3.1 и обращается в нуль при и<0. Пусть
Ip(h, l) = (2^h(^VYx
V-12
(5.3.14)(5.3.14)XXS h Ш X (о+IV) ехр {- /X (и+IV)) у=0 Х J
(5.3.14)
(5.3.14)
X
X
Зля —оо < X < оо, I = 0, ..., L—1. Тогда при V —* оо величины Z^(X, М=А • • •> L — 1, асимптотически назависимы и имеют асимптотическое распределение fxxWx№» если Х^О (modл), и асимптотически независимы с распределением fxxWXi если X ^ -4- л, Ч^Зл, ... .
Этот результат будет использован позднее для построения статистики спектральной плотности. Интересно отметить, что асимптотическая независимость периодограмм достигается или путем разделения данных, согласно последней теореме, на непе- ресекающиеся сегменты, или путем их вычисления по соседним частотам, как это делается в теореме 5.2.7.
В заключение данного параграфа отметим некоторые свойства периодограмм, которые выполняются с вероятностью 1. Начнем с того, что приведем верхнюю границу IxxW как функцию X и Т.
Теорема 5.3.2. Пусть Х(/), / = 0, ±1, ...,— действительный временной ряд с нулевым средним, удовлетворяющий условию 2.6.3. Пусть h(u) удовлетворяет условию 4.3.1 и, кроме того,
(5.3.15)(5.3.15)
(5.3.15)
(5.3.15)
Тогда с вероятностью 1 выполняется неравенство
IE sup ® (X)/log Т < 2 sup kx(5.3.16)
T ->CD XX
Другими словами, порядок скорости роста периодограммы не превышает logT, причем в указанных предположениях это выполняется равномерно по X. Практическим следствием этого результата является тот факт, что максимальное отклонение 1хх(Х) от fxxW как функции X становится неограниченно большим, когда Т—*оо. Это является еще одним подтверждением того, что Тхх (X) не может быть хорошей оценкой fxx W •
Изучим в общих чертах действие линейной фильтрации ряда на периодограмму. Пусть
Y^^^a^t-u^X^(5.3.17)
для некоторого фильтра {а (и)}, удовлетворяющего
2(1 + |и|)1«(«)К°о(5.3.18)
и
и имеющего передаточную функцию Л(Х). Теорема 4.5.2 показывает, что в условиях регулярности с вероятностью I выполняется
sup|4r) (k>—A^d.T (X)| = O(/IogT). (5.3.19)
Путем элементарных алгебраических преобразований получаем с вероятностью 1
/$ (X) = IЛ (X) Р 7$ (X) + О (Г - */= log Г),(5.3.20)
откуда остаточный член равномерен по X. Другими словами, фильтраций приводит - приблизительно к умножению периодограммы на квадрат модуля передаточной функции фильтра. Аналогичное действие фильтрации на спектр мощности приводится в выражении (5.1.7).
Сглаженная периодограмма
В этом параграфе мы делаем первый серьезный шаг для получения оценки спектра мощности. При обсуждении теоремы 5.2.4 отмечалась неэффективность периодограммы как оценки спектра мощности fxx (X) ввиду того, что дисперсия этой оценки в некоторых вполне приемлемых условиях регулярности асимптотически равна fxx (X) даже при сколь угодно большой длине выборки. Во многих ситуациях мы требуем от используемых нами оценок гораздо большей точности и надеемся, что такие оценки существуют. Теорема 5.2.6 намечает путь построения улучшенной оценки.
Пусть s(T)—целое число, такое, что 2л$(Т)/Т близко к X. Тогда по теореме 5.2.6 2m+1 прилежащих значений периодограмм Грх (2л [s (Т) + /]/Т) / = 0, ± 1, ..., ± т, асимптотически независимы с распределением fxx (X) xi/2, если 2[s(T) + /]^0 (modT), j =0, ±1, .....+ m. Таким образом, мы имеем (2m+l) асимптотически независимых оценок fxxW, что приводит нас к оценке вида
т
®(X) = (2m+l)-i £ 7&№1£Ш1), (5.4.1) i=-m х '
если X =£ 0 (mod л), что есть просто осреднение ординат периодограммы в окресдщости точки X. Дальнейшее исследование теоремы 5.2.6. приводит к рассмотрению оценки
/ -1 т х
грх^=«-ц 22 +22№(х+у) Ч=-т j=U x'
m
= m-152Ixx (x,(5.4.2)
Рис. 5.4.1. Графики ядра Атт(Ц для Т = 11 и т = 0, 1, 2, 3.
если Х = 0, ± 2л, + 4л, ... или Х = + л, + Зл, ... и Т — четное, и
т
№х (X) = (2m)—1 £//Й (х1Тх (х +у-^) } /=1 "'/\/ )
т°
= m-^Fpx(x-^V4V' (5-4.3)
/=i х 11
если Х = ±л, ±3л, .и Т—нечетное.
Легко видеть, что оценка (5.4.1) — (5.4.3) имеет те же свойства
неотрицательности, периодичности и симметрии, что и сама функция /ы(^)- Основу этой статистики составляют' выражения dx* (2ns/T), s = О, ..., Т — 1, которые при достаточно больших Т могут быть вычислены посредством алгоритма быстрого преобразования Фурье. Исследуем кратко статистические свойства последнего выражения.
Для теоремы 5.4.1 нам понадобится ядро Фейера
(5.4.4)(5.4.4)р /1\/0ггТ\-1 Г sin Т^/Ч ^
(5.4.4)
(5.4.4)
^rW=(2nT) Чщ^]
введенное в § 3.3. Положим
m
Дгй(1) = (2т+1)-1 £ FT(x—^l\ (5.4.5) j=-nr'
и пустьи пустьВтт ^ = ^т^Втт ^ = ^т^/ -1 m х\j=-mj=\/ x*/ -1 m х\j=-mj=\/ x*CT™ (X) = (2m)-1 £^г (k-^V^ + FT (x + y-^) }(5'4'6) 3=1 t x.
и пусть
и пусть
Втт ^ = ^т^
Втт ^ = ^т^
/ -1 m х
\j=-mj=\/ x*
/ -1 m х
\j=-mj=\/ x*
.ДЛЯ — ОО < X < OO.
Принимая во внимание выведенные в § 3.3 свойства, получим, что Атт (К), Втт (К) и Стт (X) являются неотрицательными функциями с периодом 2л, интеграл от которых по периоду равен единице. Практически они сосредоточены на интервале (— 2пт/Т, 2лт/Т) для —л<Х<л. На рис: 5.4.1 график Атт (X) приводится для значений Т = 11, т = 0, 1, 2, 3. Как видно, эта функция приближенно имеет прямоугольную форму, что можно было ожидать исходя из ее определения (5.4.5). На рис. 5.4.2 график ВТ. (к) приводится для значений Т = 11, m = 1, 2, 3. Здесь также видно, что эта функция имеет приближенно ту же форму, что и Атт (X), за исключением того, что в непосредственной окрестности нуля она сама близка к нулю.
Математическое ожидание оценки /хх (X) дает ,'
Теорема 5.4.1. Пусть X(t), / = 0, ±1, ..., — действительный ряд, такой, что ЕХ(/)=сх, и cov|X (/ + «), X (^} = схх (и) для и = 0, ± 1, ... . Предположим, что
2(5.4.7)
и= -00
Пусть f$(X) задается выражениями (5.4.1) — (5.4.3). Тогда
Ef^ (X) = j АТт (a) fxx р^П-а) da, -Л'
если X ^ 0 (mod 2 л), Л
Ef$ ^ ~ $ ®тт (°0 fxx (^ а) ^а>
-л.
если Х = 0 (mod 2л) или Х = ±л, ±3л, ... и Т —четное. л
Efxx W " \ ^jm (а) fxx (^ а) ^а> -л•
если Х=±л, ±3л, ... и Т—нечетное. (5.4.8)
Взвешенная сумма интересующего нас спектра мощности с весом, сконцентрированным в полосе шириной 4пт,Т с центром в точке X,
Х^О (mod л), является математическим ожиданием величины fxx (X). В случае Х = 0 (mod 2л) математическое ожидание Е/й (X) остается взвешенной суммой fxx(a) с весом, сконцентрированным в окрестности .точки X, с той разницей, что значения fxx(a>) в не* посредственной окрестности 0 частично исключаются, Это связано с тем, что нам неизвестно значение EX (Z). Если т не слишком велико по сравнению с Т и fxx (а) достаточно гладкая, то Ef$(X) окажется достаточно близким к fXx(M в обоих случаях. Сравнение выражений (5.2.6) и (5.4.8) позволяет сделать вывод о том, что смещение /хх(Х), как интеграл, взятый по существенно большему промежутку, вообще говоря, будет больше, чем смещение 7хх W • Подробно смещение будет рассматриваться позднее.
Из последней теоремы следует
Следствие 5.4.1. Дополнительно предположим, что X — 2л$ (Т)/Т = О (Т~г) и m является константой по отношению к Т. Пусть также
2Ыкхх(«)1<°°.(5-4-9)
и
тогда
Ef^W = fxx(X) + O(T-i)(5.4.10)
для — оо < X < оо. В пределе fxx (X) есть асимптотически несмещенная оценка fxxW-
Таким образом, рассматривая первый момент при т не слишком большом по сравнению с Т, мы получим, что fxx(X) является вполне приемлемой оценкой fxx(X). Оценка приемлема даже в том случае, когда ЕХ (/) неизвестно и Х=0 (mod 2л). Относительно второго момента этой оценки справедлива
Теорема 5.4.2. Пусть X(t), t = 0, ±1, ... . — действительный ряд, удовлетворяющий условию 2.6.2 (1). Пусть fxx (X) задано выражениями (5.4.1) — (5.4.3) с ,k — 2ns(vT) = O(<T-1). Пусть X±p^0 (mod 2л) и т не зависит от Т. Тогда
Df^^ = .Df^^ = .+ 0 (Т-1), если X^O(modn),(5.4.11)^-^^- + 0(7-1), если X^O(modn),
Df^^ = .
Df^^ = .
и
cov ^ (X), ® (р)} = О (7-1).(5.4.12)
В случае Х^О (mod2л) осреднение 2/п+1 ординат соседних периодограмм привело к уменьшению дисперсии такой оценки в 2т 4-Г раз по сравнению с дисперсией периодограммы. Таким
5. г
4. -
3. -
2. -
0.500
0.375
0.250
0.125
Х/2я
Рис. 5.4.3. Десятичный логарифм оценки спектра /^ (X) для месячных средних чисел солнечных пятен за 1750—1965 гг., с осредненными 2/n+1 ординатами периодограммы. (По горизонтали—частоты в цикл/месяц.)
К/2лК/2л
К/2л
К/2л
Рис. 5.4.4. Нижние частоты десятичного логарифма f*^ (X) для месячных средних чисел солнечных пятен за 1750—1965 гг. с осреднением пяти ординат периодограммы. (По горизонтали—частоты в цикл/месяц.)
образом, предполагаемый выбор величины т должен быть столь большим, чтобы был достигнут необходимый уровень устойчивости оценки. Однако при обсуждении теоремы 5.4.1 было показано, что смещение оценки fix (X) может возрастать с возрастанием параметра т, следовательно, в качестве т должно быть выбрано некоторое промежуточное значение.
Дисперсия величины fxx(K) в случае Х = 0 (шобл) приблизительно удваивается по сравнению со случаем Х^О (mod л). Это является отражением того факта, что в первом из этих случаев оценка использует вдвое меньше независимых переменных. Асимптотическое распределение для fxx W в некоторых условиях регулярности дает
Теорема 5.4.3. Пусть J¥(/), / = 0, +1, ...,—действительный ряд, удовлетворяющий условию 2.6.1, и величина flxW определяется формулами (5.4.1) —(5.4.3), причем 2ns(T)/T —>-Х, когда Т—*оо. Пусть Ху±Хй^О (шоб2'л) для 1^/<k^.J. Тогда /хх(М» •••ЛххОЛ асимптотически независимы и fx^W име- ет асимптотическое распределение fxx (X) Х4т+г/(4т + 2), если
X^O(modn), и асимптотическое распределение fxx (A) XlnJW, если Х = 0 (mod л). -
• Эта теорема будет особенно полезной позднее для нахождения доверительных границ оценки fxxW-
На рис. 5.4.3 представлен десятичный логарифм от /хх(Х), полученной по формулам (5.4.1)— (5.4.3) для рядов ежемесячных чисел солнечных пятен, периодограммы которых были даны на рис. 5.2.3 и 5.2.4. Статистика ®(Л) вычислена для О^Х^л, т = 2, 5, 10, 20. Хорошо видно, что.с.возрастанием т устойчивость оценок возрастает. Из рисунка видно также, что значительная масса fxxW сосредоточена в нуле. Это означает, что соседние значения ряда имеют тенденцию сосредоточиваться в кластеры. Это замечание подтверждается исследованием самого ряда (рис. 1.1.5). Периодограмма и графики, соответствующие т = 2, 5, 10, указывают на возможный пик в спектре в окрестности частоты 0.015л. Эта частота соответствует одиннадцатилетнему циклу солнечной активности, упоминаемому Швабе в 1843 г. [Newton Н. W. (1958)]. Рассматриваемый пик исчезает в случае т = 20, что указывает на тот факт, что смещение становится значительным. Так как этот пик представляет особый интерес, изобразим график $xQ^ в случае т = 2 в увеличенном масштабе на рис. 5.4.4. На этом рисунке можно также различить пик около частоты 0.030л, что является первой гармоникой частоты 0.015л.
Рисунки 5.4.5 —5.4.8 представляют спектральные оценки рядов ежемесячных средних количеств осадков, периодограммы которых были приведены на рис. 5.2.2. Статистика вычислена при т = 2, 5, 7, 10. Как и прежде, увеличение параметра т ведет к повышению устойчивости оценки. Значительный пик соответствует частоте один цикл в год, что вполне оправдывается сезонной природой ряда. Для других значений X величина /хх(Х) близка к константе, из чего можно заключить,^ что ряд приблизительно представляет собой годовую компоненту, наблюдаемую на фоне белого шума.
График на рис. 5.4.9 является эмпирическим подтверждением справедливости теоремы 5.4.3. Это график значений /хх (2л$/Т), Т = 2592, s = T/4, ..., (Т/2) —1, ежемесячных чисел солнечных пятен, распределенных-по xio- Величина fxxW была образована сглаживанием 15 прилегающих ординат периодограмм. Если fXxW близка к константе для л/2 < X < л, что предполагается в исследуемом случае, и, согласно теореме 5.4.3, величину $х (X) можно приблизить распределением %|0, то предлагаемый график значений должен быть близок к прямой линии. Это- можно наблюдать на рис. 5.4.9. Правая часть графика, однако, обладает некоторой
Х/2л
Рис. 5.4.5. Оценка ^рх (X) составного ряда осадков для Англии и Уэльса за 1789—1959 гг. с осреднением пяти ординат периодограммы (логарифмический масштаб). (По горизонтали—частоты в цикл/месяц.)
Рис. 5.4.6. Оценка /^ (X) составного ряда осадков для Англии и Уэльса за 1789—1959 гг. с осреднением одиннадцати ординат периодограммы (логарифмический масштаб). (По горизонтали—частоты в цикл/месяц.)
Х/2л
Рис. 5.4.7. Оценка /^ (X) составного ряда осадков для Англии и Уэльса за 1789—1959 гг. с осреднением пятнадцати ординат периодограммы (логарифмический масштаб.) (По горизонтали —частоты в цикл/месяц.)
Рис. 5.4.8. Оценка /^ (X) составного ряда осадков для Англии и Уэльса за 1789—1959 гг. с осреднением двадцати одной ординаты периодограммы (логарифмический масштаб). (По горизонтали—частоты в цикл/месяц.)
Рис. 5.4.9. График распределенных по Хз0 ^0 верхних оценок спектра мощности со сглаживанием пятнадцати прилегающих ординат периодограмм для средних месячных чисел солнечных пятен за 1750—1965 гг.
кривизной. Направление этой кривизны указывает на то, что действительное распределение убывает на бесконечности быстрее теоретического.
Важно отметить, что вычисление fxx (^) для последовательности значений т дает нам гораздо большую информацию о спектре, чем вычисление при одном единственном значении т. Графики оценок спектральной плотности при малых значениях т помогают раскрыть почти периодические компоненты спектра и их местоположение, в то время как графики при больших значениях т дают гладкие кривые спектров и могут быть полезны в вопросах выбора модели. В том 'случае, когда значения Ixx^ns/T), s= 1, 2, ..., уже получены (возможно вычислены посредством быстрого преобразования Фурье), не составляет большого труда вычислить оценки спектра для нескольких значений пи
Предложение об использовании сглаживания периодограмм для улучшения свойств спектральных оценок внес Daniell (1946); см. также Bartlett (1948b, 1966), Jones (1965) и письмо Tick (1966). Bartlett (1950) использовал ^-распределение для оценок сглаженных периодограмм.
Общий класс спектральных оценок
Спектральные оценки предыдущего параграфа осредняли ординаты периодограмм в окрестности точки X равномерным образом. Если /хх(сс) близка к константе для а, близких к X, тогда это, несомненно, правильная процедура, однако, если /^(а) меняется значительно, то, возможно, лучше осреднять ординаты периодограмм с большим весом в непосредственной окрестности точки X, чем на некотором расстоянии. Обобщим построение оценки на различные весовые функции.
Пусть Wp j = 0, ±1, ..., ± т,— веса, удовлетворяющие условию
2 IFy=l.(5.5.1)
i=-m
Пусть s(T) —такое целое число, что 2ns (Т)/Т близко к X и 2 [s (Т) + /] й 0 (mod Т), / = 0, ± 1, ..., ± т. Рассмотрим оценку
т
если Х^ 0 (mod л),если Х^ 0 (mod л),(5.5.2)(5.5.2)ттj=-m
если Х^ 0 (mod л),
если Х^ 0 (mod л),
(5.5.2)
(5.5.2)
т
т
* т
если X = 0 (mod 2л) или если X = ± л, ± Зл, ... и Т четно, (5.5.3)
Гт '
/^ (X) = 2 w,® ^+^-^) 1|2 ^],
здесьздесьесли Х=±л, ± Зл, ... и Т нечетно;если Х=±л, ± Зл, ... и Т нечетно;Т-1Т-1Ixx (X) = (2лТ)-1 2 X (/) ехр {— iX/}/ = 0Ixx (X) = (2лТ)-1 2 X (/) ехр {— iX/}/ = 022(5.5.4)(5.5.5)(5.5.4)(5.5.5)
здесь
здесь
если Х=±л, ± Зл, ... и Т нечетно;
если Х=±л, ± Зл, ... и Т нечетно;
Т-1
Т-1
Ixx (X) = (2лТ)-1 2 X (/) ехр {— iX/}/ = 0
Ixx (X) = (2лТ)-1 2 X (/) ехр {— iX/}/ = 0
2
2
(5.5.4)
(5.5.5)
(5.5.4)
(5.5.5)
для — оо < X < оо.
Для вычисления математического ожидания определим несколько функций. Положим
(5.5.6)(5.5.7)(5.5.8)(5.5.9)(5.5.6)(5.5.7)(5.5.8)(5.5.9)frW = (2„T)->[^J, -оо<Л<=.
(5.5.6)
(5.5.7)
(5.5.8)
(5.5.9)
(5.5.6)
(5.5.7)
(5.5.8)
(5.5.9)
Пусть также
4rW = Е W,.FT(x-2-y.\,
Из свойств функций FT(X) следует, что ЛГ(Х) и ВГ(Х) будут весовыми функциями, сконцентрированными в основном в интервале (—2л/п/Т, 2лт/Т) для —л<Х<л. Функция ВТ(К) отличается от ЛГ(Х) тем, что она имеет исчезающе малую массу для — 2л/Т <Х<2л/7\ В случае равных весов ЛГ(Х) и ВТ(Х) прямоугольны по форме. В общем случае форма ЛГ(Х) повторяет форму Wj, j =— tn, .... О, ...,m.
Приступим к исследованию свойств этой оценки.
Теорема 5.5.1. Пусть X(t), t — 0, ±1, ..., —действительный ряд, причем 'ВХ^=сх и cov{X(/ + «), X (t)\ = cxx(u) для t, и —О, ±1Предположим также, что
2 |схх(и)|<оо.(5.5.10)
. U= —00-
Пусть fxx(X) задается выражениями (5.5.2) —(5.5.4). Тогда
(X) = j Лг (a) ^хda,
-Л
если Х=^0 (modл), (5.5.11) л
E/^W= $ BT(aHxP-a)da, -Л
если Xs0 (mod2л) или Х=±л, ± Зл, ... и Т четно, (5.5.12)
Е/& (X) = J СТ (а) fхх (X-a)da,
-Л.*
..если Х=±л, ±3л, ... и Т нечетно. (5.5.13)
Математическое ожидание оценок (5.5.2) — (5.5.4) отличается от математических ожиданий аналогичных оценок § 5.4 использованием взвешенного среднего спектра мощности fxx(aV В том случае, когда fxx(a) меняется достаточно сильно в окрестности X, мы можем, выбирая должным образом Wp воздействовать на характер взвешенного среднего, в результате чего можно получить оценку со смещением меньшим, чем в § 5.4.
.Следствие 5.5.1. Если в дополнение к условиям теоремы предполагать, что X—2ns(T)lT = 0 (Г-1) и
2|«||^у(«)1 < °°,(5.5.14)
и'
то
' E^(X) = fxx(X) + O(T-!) для — оо<Х<оо. (5.5.15)
В пределе fxx Q^ есть асимптотически несмещенная оценка для fxx W.
Относительно структуры моментов второго порядка справедлива'
Теорема 5.5.2. Пусть Х^, £ — О, ±1, ...,—действительный ряд, удовлетворяющий условию 2.6.2 (1). Пусть fxxW задается, формулами (5.5.2) —(5.5.4), причем X — 2ns(T)/T = 6(T~V). Тйгда, если Х±рЙ0 (mod2n), ' -
Dfxx (X) = fxx W2 2 Wf +0 (Т-1) при Х^ 0 (mod л), (5.5.16) j = -m
, litА•Df^W^fxxW ^Wfi 2^ приХ^О(тобл) (5.5.17) '/=i L i, litА•Df^W^fxxW ^Wfi 2^ приХ^О(тобл) (5.5.17) '/=i L iШШ22
, litА•
Df^W^fxxW ^Wfi 2^ приХ^О(тобл) (5.5.17) '/=i L i
, litА•
Df^W^fxxW ^Wfi 2^ приХ^О(тобл) (5.5.17) '/=i L i
Ш
Ш
2
2
и
cov(f$(X), $Ц^ = О(Т-Ч.(5.5.18)
Очевидно, дисперсия оценки пропорциональна 2 ^/ Для больших Т. Заметим, что■
2^ — 2^^» 2m+l J + 2m+l *(5.5.19)
поэтому 2/ ^1 минимальна при условии 2/^/ = 1> К0ГДа
W/ = ^+T’ / = 0, ±1, .... ±m.(5.5.20)
Отсюда следует, что дисперсия величины fxx (X) при больших выборках минимальна, если используются оценки § 5.4. Как еле-
дует из обсуждения теоремы 5.5.1, возможны ситуации, при которых оценка §5.4 имеет большее смещение по сравнению с оценкой (5.5.2), использующей подходящий выбор Wj.
Исследование предельного распределения дает
Теорема 5.5.3. Пусть X(t), t = 0, ±1, ...,—действительный ряд, удовлетворяющий условию 2.6.1. Пусть fxlW задается формулами (5.5.2) —(5.5.4), где 2ms(T)/T -*Х, когда Т->-оо. Предположим, что Xj±Xk=£Q (mod2л) для \<.i<k<_J. Тогда fxx kW • • • > fxx {Xj) асимптотически независимы и величина fxx (X) асимптотически равна
(5.5.21)(5.5.22)(5.5.21)(5.5.22)тj=-m
(5.5.21)
(5.5.22)
(5.5.21)
(5.5.22)
если Х^О (mod л), и
'*т 1 / Гт 12
kxW S^xi(/)/2 . S.^L/=i ■ J L i J
если X = 0 (mod л), причем входящие в разные слагаемые переменные х2 статистически независимы. '
Как видно, асимптотическое распределение fxx (К) является взвешенной суммой независимых распределений хи-квадрат. Эту аппроксимацию на практике использовать трудно, однако в стандартных статистических процедурах [Satterthwaite (1941), Box (1954)] переменные аппроксимируются наборами 6х2. средние и числа степеней свободы которых можно определить, приравняв первые и вторые моменты. В данном случае мы получим следую-
щие соотношения:
6v = 2 ^ = 1,(5.5.23)
1=-т
62v = 2 ^п(5.5.24)
i=-m
т. е.
v = -^ -,(5.5.25)
2
и
6 = 1.(5.5.26)
спектра мощности наборами распределений хи-квадрат предлагал Тьюки (1949J. Некоторые другие аппроксимирующие распределения рассматривались в работах: Freiberger, Grenander (1959), Slepian (1958) и Grenander и др. (1959).
В этом параграфе мы получили достаточно гибкую оценку спектра мощности, использующую схему взвешенных ординат периодограмм. Мы рассмотрели асимптотические свойства оценки, включающей 2m+1 взвешенных ординат периодограммы, когда Т —>оо. Для некоторых целей такая процедура может предполагать прямую аппроксимацию по большим выборкам, в других случаях имеет смысл предположить, что т растет вместе с Т. Эту вторую возможность, позволяющую доказать асимптотическую нормальность и состоятельность оценки, мы рассмотрим в следующем параграфе.
Если поведение функции fXxW различно в разных интервалах, то возможно применение различных весов Wj и различных т для этих интервалов частот. *
Состоятельные оценки
В этом параграфе мы будем рассматривать оценки вида
Т-1
/^ (X) = — S ^‘П (*“¥) /& ^ , - ОО < X < оо, (5.6.1)
где 1Г(Г) (а), —оо<а<оо, Т=1, 2, ...,—семейство весовых функций с периодом 2л, таких, что оценка (5.6.1) по существу включает 2/иг4-1 ординат периодограмм в окрестности X. Для того чтобы получить оценку с дисперсией, стремящейся к нулю при Т—юо, мы будем требовать, чтобы тт—* оо в противоположность постоянному т из § 5.5. Интервал частот, используемых оценкой (5.6.1), имеет длину 2л (2/пг+1)/Т, таким образом, для того чтобы получить асимптотически несмещенную оценку, мы будем требовать, чтобы тТ/Т —► 0 при Т —* оо. Оценка наследует, свойства гладкости IFm (а).
Удобным способом построения используемой в оценке (5.6.1) весовой функции IFtn со всеми нужными свойствами является введение масштабных множителей Вт, Т = \, 2, ..., таких, что Вт>0, Вт->-0, ВтТ—ьоо, когда Т-^-оо, и
00
№<Г)(а)= 2 B^W (Вт1 [а + 2л/]), — оо <а< оо, (5.6.2) /=-ао
где W (р), —оо<р<оо,—заданная функция, для которой выполнено
Условие 5.6,1. Функция W (Р), где — оо<р<оо, есть действительная четная функция ограниченной вариации, причем,
$ ^0)^ = 1(5.6.3)
и
$|№(Р)|дР<оо.(5.6.4)
Если мы выберем функцию W (р) так, что для |Р|>2л она принимает значение 0, то оценка (5.6.1) включает только те из 2ВТТ +1 взвешенных ординат периодограмм, частоты которых попадают в интервал (X— 2лВт, Х + 2лВг). Следуя введению к этому параграфу, положим тт = ВтТ.
Ввиду того что Wm (а) имеет период 2л, то же самое будет справедливо и для fxxW- Аналогичным образом из соотношения 1Г'Г> (— а) = Wm (а) следует fxx (— X) = fxx (X). Согласно условию 5.6.1, оценка (5.6.1) может иметь отрицательные значения, однако если мы дополнительно предположим, что W (Р) ^ 0, то будет 2л
выполнено fxxW^O. Ввиду (5.6.3) справедливо $ 1Г(Г)(а)да = 1. о
Из (5.6.2) для fxxW получим выражение
f^(X)-£ В^^Вт1 [x-^])/$(^-)
s ^ 0 (mod Т)
= f 8,-117 (в^Тх-У)/^,,, ,.^,^), (5.6.5) S= - GO'z X \/
которое лучше объясняет структуру fxxW-
Для больших Т сумма весов выражения (5.6.1) ввиду (5.6.3) должна быть близка к 1. Исследователь может потребовать от выражения (5.6.1) равенства суммы весов в точности 1. Это не изменит асимптотических выражений, приведенных ниже.
— Исследование математического ожидания величины /$(Х) по большим выборкам дает
Теорема 5.6.1. Пусть X(t), / = 0, ±1, ..., — действительный ряд, причем ВХ^ = сх и cov {X (/ + «), ХЦ^ = схх^ для t, и — 0, ±1, ... . Предположим, что
Пусть fxx(X) задается формулой (5.6.1). Тогда
EfPx (X) =-у-$) fxx ^ + О {Т~^
= $ W^Hxx^-B^d^ + O^T1?-^(5.6.7)
для — оо < X < оо, где W ф) удовлетворяет условию 5.6.1. Остаточный член равномерен по X.
Как видно, математическое ожидание величины fxx (X) является взвешенным средним функции fXx(a)> —оо<а<оо, с весами, сконцентрированными в интервале, содержащем X- и имеющем длину, пропорциональную ВТ. Справедливо
Следствие 5.6.1. Если выполнены условия теоремы и ВТ—*0 при Т—^оо, то /хх(Х) является асимптотически несмещенной оценкой для fXxW- т- е-
(5.6.8)(5.6.8)lim Efxx (Х) = /хх(Х), — оо<Х<оо. Г -* да
(5.6.8)
(5.6.8)
Свойством асимптотической несмещенности обладала также и оценка § 5.5. Свойства моментов второго порядка оценок по большим выборкам выясняет
Теорема 5.6.2. Пусть Х^, 1 = 0, ±1, ...,—действительный ряд, удовлетворяющий условию 2.6.2 (1). Пусть fP(X) задается формулой (5.6.1), где W ф) удовлетворяет условию 5.6.1. Тогда
cov{^(X), ^Ф)}
= (^)2 У ^-^ г(г> (p-^-s) kx (у-$У
^^X^W^(X—^\ №(Г>(р+у^) fxx№V + O(T-i)
= 2лТ-1 J W^ (X—a) Wm (p-a) f^da 0
2л
+ 2лТ-1 J Wm (X - a) Wm (p + a) hx (a) ■ da о
+ O(Br271-3) + O(T-i)(5.6.9)
для — oo < X, p < oo,
Ниже, в следствии (5.6.2), мы будем использовать функцию
^Но^Но(5.6.10)(5.6.10)если Х = 0 (mod 2л), в противном случае,
^Но
^Но
(5.6.10)
(5.6.10)
которая является периодическим продолжением дельта-функции Кронекера
(5.6.11)(5.6.11)( 1, если Х=0,6{Х} = { о
(5.6.11)
(5.6.11)
1 '( 0 в противном случае.
Следствие 5.6.2. Если выполнены условия теоремы 5.6.2 и ВТТ —* оо при Т оо, то
lim ВтТ соч^ЦХ), ®(^ Т оо
= 2л[т]{Х-р}4т]{Х + р}]^х(Х)2 $ №(|3)2ф. (5.6.12)
Из этого выражения при р=Х следует, что
оШ(%)=^оШ(%)=^B^T-^nfxxW J Г(р)МрприЛ^О(тодл), 7(5.6.13)
оШ(%)=^
оШ(%)=^
B^T^AnfxxW $ IF(P)2dp при XsO (mod л).
Таким образом, в каждом из этих случаев DfxxW стремится к нулю при ВтТ -^оо. В следствии 5.6.1 мы видели, что если Вг — О при Т —* оо, то и EfxxW —> fxxW- Поэтому оценка (5.6.1) при выполнении условий теоремы 5.6.2 обладает свойством
(5.6.14)(5.6.14)lim E|/^(X)-fxx(X)i2 = 0,
(5.6.14)
(5.6.14)
Т -> 00
если Вг-+0 и ВтТ —► оо. Такую оценку называют состоятельной в среднеквадратичном.
Заметим, что согласно выражению (5.6.13) дисперсия удваивается в точках Х = 0, ± л, ± 2л, ... . Еще более информативно выражение (5.6.9). Оно показывает, что этот асимптотический эффект сохраняется в окрестностях точек Х = 0, ± л, ±2л, ..., размеры которых имеют порядок ВТ.
. Из (5.6.12) следует, что fxx(E) и fxx (и) асимптотически не- коррелированы при Т -*оо,если X—р, X-j-p^O (mod 2л). Асимптотическое распределение fxx W исследует
Теорема 5.6.3. Пусть Х^, / = 0, ±1, —действительный ряд, удовлетворяющий условию 2.6.1. Пусть fxx (X) задается фор-
мулой (5.6.1), где IF ф) удовлетворяет условию 5.6.1. Предположим, что /хх(М^®» /“^ •••, ^- Тогда величины ^хх^),.,. ..., f(xx(^j) асимптотически нормальны и имеют ковариационную структуру, задаваемую формулой (5.6.12) при Т-»-оо и ВтТ —> оо, Вт —► 0.
Оценка, рассматриваемая в § 5.4, имела асимптотическое рас-, пределение, пропорциональное %2 в условиях осреднения по конечному числу ординат периодограммы. В данном случае число осредняемых ординат периодограммы возрастает до оо вместе с Т, что, естественно, ведет к асимптотической нормальности оценки. Одним из интересных следствий теоремы является асимптотическая независимость fxxW и f^(p), когда X ± ц#0 (mod 2л). Из теоремы вытекает ■
Следствие 5.6.3. В условиях теоремы 5.6.3 и в предположении, что fxxW^^« величина Igfxx(X) имеет асимптотически нормальное распределение, дисперсия которого задается формулами
^\gf№~^^\gf№~^(5.6.15)(5.6.15)В^Т-1 (Ige)2 2л J №ф)2<ф,если Х^ 0 (mod л),В^Т-1 (Ige)2 4 л J №ф)2<ф,если X = 0 (mod л).
^\gf№~^
^\gf№~^
(5.6.15)
(5.6.15)
Из этого следствия вытекает, что дисперсия log fxx (^) слабо зависит от величины fxxW И от X при больших Т. Таким образом, график значений logfxxW может быть более показательным, чем график ^^ХУ В действительности это часто применяется в инженерной практике и было сделано для различных оценок спектра этой главы.
Состоятельные оценки спектра мощности были получены в работах: Grenander, Rosenblatt (1957), Parzen (1957, 1958). Эти же авторы, а также Blackman, Tukey (1958) исследовали асимптотическое среднее и дисперсию. Асимптотическую нормальность изучали в различных ycлoвияx.Rosenblatt (1959), Brillinger (1965b, 1968) Brillinger, Rosenblatt (1967a), Hannan (1970), Anderson (1971). Представляет интерес работа Jones (1962a).
В случае когда наблюдаемые величины предварительно сглаживаются во времени, аналогично теореме 5.6.3 справедлива
Теорема 5.6.4. Пусть X^ty ^ = 0, ±1, ...,—действительный ряд, удовлетворяющий условию 2.6.1, a h (t), — оо < t < оо, —временное окно, удовлетворяющее условию 5.6.1. Пусть также W (а),
— оо<а<оо, удовлетворяет условию 5.6.1. Положим
^Х-с^, Х-с^1 W^Х-с^, Х-с^1 W(X (0 —сх *) ехр {— 1ХЦ(X (0 —сх *) ехр {— 1ХЦ(5.6.16)(5.6.16)
^Х-с^, Х-с^1 W
^Х-с^, Х-с^1 W
(X (0 —сх *) ехр {— 1ХЦ
(X (0 —сх *) ехр {— 1ХЦ
(5.6.16)
(5.6.16)
где
ПоложимПоложим<Lt<Lt(5.6.17)(5.6.17)
Положим
Положим
<Lt
<Lt
(5.6.17)
(5.6.17)
fPx W =^^ ^<Г) (x-^-s) 7^ с^ х_с^ ^ . (5.6.18)
Пусть ВТ—*О, ВтТ —► оо при Т—*оо.Тогда fp(^i), • • •»tP(^j) имеют. совместное нормальное распределение, причем
Иш EfP^=fxxWТ -> ооИш EfP^=fxxWТ -> оо(5.6.19)(5.6.19)
Иш EfP^=fxxW
Т -> оо
Иш EfP^=fxxW
Т -> оо
(5.6.19)
(5.6.19)
и
lim ВтТ cov^P^, fP^
Т -> со
= 2л [t] ^Х — р} + т] {Х + р}] ^ h (tydtx[$/i(02^]~? $ Г(а)Ча/хх(Х)2 (5.6.20)
для — оо < X, р < оо.
По сравнению с выражением (5.6.12) предел дисперсии в сглаженном случае отличается от несглаженного случая множителем
1Г 11-
(5.6.21)(5.6.21)$ h^ydil J h^tydt-1L-i.
(5.6.21)
(5.6.21)
По неравенству Шварца этот множитель больше или равен 1. В случае когда мы используем сглаживание с помощью косинуса по первым и последним 10-процентным временным интервалам, величина этого множителя равна 1,116. Есть основания надеяться, что в большинстве ситуаций значительное уменьшение смещения в сглаженном случае будет с запасом компенсировать это возрастание дисперсии. В табл. 3.3.1 приведены некоторые полезные временные окна.
Доверительные интервалы
Для того чтобы получить представление о возможной близости оценки к параметру, часто желательно по имеющейся оценке иметь доверительные интервалы для параметра. В этой связи могут использоваться асимптотические представления, полученные в предыдущем параграфе для различных спектральных оценок. Прежде всего введем некоторые обозначения. Пусть z(a), Xv(a) обозначают числа, такие, что '
(5.7.1)(5.7.1)Р [z < z (a)] = a
(5.7.1)
(5.7.1)
P[Xv<Xv («)] = «,P[Xv<Xv («)] = «,(5.7.2)(5.7.2)
P[Xv<Xv («)] = «,
P[Xv<Xv («)] = «,
(5.7.2)
(5.7.2)
где 2—величина co стандартным нормальным распределением, а %v—величина, имеющая распределение хи-квадрат с v степенями свободы.
Рассмотрим сначала оценку § 5.4
+£ 7$ (2п№+Л)(5.7.3)
/= -т
(4m+2)/^(X)Мт+й ~~q— )(4m+2)/^(X)Мт+й ~~q— )< fxx W< fxx W(5.7.4)(5.7.4)(4m+2)/<^(X)(4m+2)/<^(X)для числа 2л5(Т)/Т, близкого к Х^ 0 (mod л). В теореме 5.4.3 предлагалось аппроксимировать распределение этой оценки распределением fxx (X) X4m+2/(4m + 2). Такая аппроксимация приводит к следующему 100у-процентному доверительному интервалу для fxx W:
(4m+2)/^(X)
Мт+й ~~q— )
(4m+2)/^(X)
Мт+й ~~q— )
< fxx W
< fxx W
(5.7.4)
(5.7.4)
(4m+2)/<^(X)
(4m+2)/<^(X)
что после логарифмирования дает
logfxx W—log^xL+2 (Ц^)/(4^ + 2)} <logfxri(M<logmW-log|xU2 (^)/(4m + 2)}. (5.7.5)
В случае X = 0(modn) число степеней свободы и множители перед х2 изменятся в. соответствии с теоремой 5.4.3.
’ На рис. 5.7.1 приведены 95-процентные границы около оценки, соответствующей случаю т = 2 на рис. 5.4.4. Эти границы можно установить двумя способами. В верхней части рис. 5.7.1 действуем в соответствии с выражением (5.7.5). В нижней части рисунка устанавливаем границы около сильно сглаженной спек-
О .005 .010 .015 .020 .025 .030 .035 .040 .045Х/2Я
Рис. 5.7.1. Два способа построения 95-процентных доверительных границ около приведенной на рис. 5.4.4 оценки спектра мощности. (По горизонтали-частоты в цикл/месяц.)
тральной оценки; такая процедура имеет свои преимущества при- наличии больших пиков.
В § 5.5 мы рассматривали оценку
т
X ^ 0 (mod л),(5.7.6)
включающую взвешенные ординаты периодограмм. Было найдено, что ее асимптотическое распределение является взвешенной суммой экспоненциальных величин. С таким распределением, вообще говоря, неудобно работать, однако при обсуждении теоремы 5.5.3 предлагалось приближать его распределением fxx(MXv/v, где
(5-7.7)
j=-m
в случае X^O(modn). Выбрав такое значейие для v, мы приходим к следующему ЮОу-про- центному доверительному интервалу для logf^xW:
logfx^W —log{xv(^)/v| <10gfxxW <l°g^(X) -^{xvf^/vL (5.7.8)
Если Wj = l/(2m+1), / = 0, ±1, ..., ±m, то интервалы (5.7.8) и (5.7.5) совпадают.
Если v велико, то lg{Xv/v} имеет асимптотически нормальное распределение со средним 0 и дисперсией, равной 2 (0.4343)2/v. Поэтому для асимптотического распределе-
ния logfjyW мы приходим к следующим границам для дове
рительного интервала:
log/®- (4^) (0.4343) ]/j^ Г/ < log fxx (X)
<log^(A)-2to)(0.4343)l/ 2 Wy (5.7.9)
\ z /T j=-m
Из последних непосредственно получаем приближение, предлагавшееся в § 5.6. Оценка, рассматривавшаяся там, имела вид
®W = ^ Ё Wm^-^I^(^^ .(5.7.10)
Следствие 5.6.3 приводило нас к таким границам для ЮОу-про- центного доверительного интервала:
,/11, хт/ 2л t ^(ррар
Igf® ^-г (ш) (0.4343) V < lg fxx W
‘/ 2л ( Г ф)2йр
<lgf$(X) + 2(^p) (0.4343) |/. (5.7.11)
Ввиду
^r^^^rm^-^j^^Jr^dp (5.7.12)
интервалы (5.7.11) и (5.7.9) необходимым образом согласованы. Интервалы (5.7.9) и (5.7.11) соответствуют случаю Х^О (mod л).
В случае X = 0 (mod л) дисперсия оценки приблизительно удваивается, что указывает на необходимость расширения интервалов в К2 раз.
В том случае, когда можно ожидать, что fxx(a) достаточно гладкая в некоторой окрестности точки X, возможны некоторые 1 дополнительные процедуры. Мы можем оценить дисперсию величины f(xx (X) по изменению fxx (а) в окрестности точки X. Такая процедура, например, может быть использована в интервале частот л/2 < X < л для ранее рассматривавшегося ряда ежемесячных средних чисел солнечных пятен.
В этом параграфе были построены доверительные интервалы для оценки спектра мощности в заданной точке X. Вне этих пределов могут оказаться только (1—у) 100% всех значений изучаемых величин. Иногда могут представлять также интерес Доверительные области для целого диапазона частот. Woodroofe, Van Ness (1967) рассматривали асимптотическое распределение
переменнойпеременной(5.7.13)(5.7.13)
переменной
переменной
(5.7.13)
(5.7.13)
когда NT—*oo при Т —>оо. Доверительную область для fxxW> О < К < л, можно определить, исходя из этого асимптотического распределения.
Смещения и предварительная фильтрация
В этом параграфе мы займемся более детальным анализом смещения предлагаемых оценок спектра мощности. Мы выясним, каким образом, используя элементарную операцию под названием „предварительная фильтрация**, можно уменьшить смещение. Начнем с рассмотрения периодограмм сглаженного ряда. Предположим для удобства, что ЕХ(/) = 0, хотя ice основные выводы останутся в силе и в общем случае.
Пусть
^x,W=E^f^')^(0exp{—Ш}, — оо<Х<оо, (5.8.1) t х '
где /г (и) —временное окно, обращающееся в нуль при и < О, и > 1. Тогда соответствующая периодограмма имеет вид
1^^=( 2л^/г (4-)2уХ ИхЧ^) I2-(5.8.2)
\ i/
Определим ядро
^г> (а) = | Нт (а) р/ $ | Нт (а) р da, (5.8.3) — Л
где
Нт (а)=£ ft Ш ехр {- ita\.(5.8.4)
t
В этих терминах утверждение теоремы 5.2.3 имеет следующий вид:
Л
(5.8.5)(5.8.5)Е/Ш) = $ Кт^хх^-^а.
(5.8.5)
(5.8.5)
-Л
Рассмотрим это математическое ожидание более подробно. Поло-
ЖИМл
&(7) (и) = Кт (а) ехр {—ша} da-л
<5-s-6>
Как и следовало ожидать из § 3.3, верна
Теорема 5.8.1. Пусть X (7), / = 0, ±1, ...,— действительный ряд со средним 0 и ковариационной функцией, удовлетворяющей условию
(5.8.7)
для некоторого Р^\. Предположим, что временное окно h (и)— такое, что кт(и), задаваемое (5.8.6), может быть представлено в виде
kkT} ^=\+Ь^А-1г^+...+1гР-1^гЛ-О^^-^
+ О(Т-р) при \и\^Т.(5.8.8)
Пусть FxxW задается формулой (5.8.2). Тогда
Е7$ (X) = $ Кт (a) fxx ^ -«) da-л
= fxx W + S ipT-Pk/& WW”),(5.8.9)
Р=1
где fxx (X) обозначает р-ю производную fxxW- Остаточный член равномерен по X.
Из определения следует, что ккТЦи^ = ккТЦ—и), откуда кр = О для нечетных р в формуле (5.8.8). Таким образом, главный член смещения по формуле (5.8.9) равен
-T-»k2d21^.(5.8.10)
Как видно, этот член зависит как от применяемого ядра, так и от исследуемого спектра. Мы будем стараться выбирать сглаживающую функцию такой, чтобы | к.21 было по возможности меньше.-® самом деле, если мы используем определение (3.3.11) ширины окна, то ширина ядра Кт (а) равна К| к2 |/Т, что также делает предпочтительными малые |&2|. Ширина ядра—важный параметр в определении величины смещения. Так, например, в спектре трудно различить пики, расстояние между которыми меньше, чем V| к2 \/Т. Это тесно связано с выводами теоремы 5.2.8,
из которых следует, что 1хх (X) и 1x1 (и) сильно зависимы, когда X близко к р.. Выражения (5.8.9) и (5.8.10) показывают, что смещение будет исключительно мало в том случае, когда fxx(a) близка к константе в окрестности X; это замечание подтверждает необходимость предварительной фильтрации, что будет обсуждаться позднее.
Рассмотрим оценку -.
т
fW^= ^^1^1№У^^(5.8.11)
j=-mх'
в которой 2лs (Т)/? близко к X и
2 №, = 1.(5.8.12)
/= -т ‘
Ввиду 'т
EfTx^ = £ ГУЕ/^(^Р±Д)(5.8.13)
j=-mх'
остаются справедливыми замечания к теореме 5.8.1 о том, что смещение (5.8.11) будет меньшим для меньших &2 и для fxx (а), близких к константе. Это подтверждает также и выражение
л
- Е® (X) = J ^ WjK^ («-У) fxx р^-а) da, (5.8.14) -л /
которое вытекает из (5.8.5). Ядро
'- .^W;.Km^a—^(5.8.15)
/
интеграла (5.8.14) повторяет форму функции, задающей величины Wj для а, близких к 2л//Т, / = 0, ±1, ..., ±т. Грубо говоря, ширина этого ядра в т раз превышает ширину K^ Q^, так что смещение (5.8.11) должно быть больше, чем смещение для /xxW, если fxx(a) отличается от константы. С помощью статистики (5.8.11) будет трудно различать пики /М(Х), расстояние между которыми меньше, чем mVkjT. Сглаживание с весами Wj приводит к уменьшению разрешающей способности статистики Ixl $V Необходимо помнить, однако, что сглаживание было введено для увеличения устойчивости оценки, есть также основание полагать, что в некотором более общем смысле сглаженные оценки будут лучше.
Вернемся к детальному исследованию состоятельной оценки, введенной в § 5.6. Напомним ее вид:
^ГМ=-^Ё(5.8.16)
s= 1-747
где 1^ (А) задается формулой (5.8.2), а 1Г(Г) (а)—формулой (5.6.2).
Теорема 5.8.2. Пусть Х^, t = 0, ±1, ...,— действительный ряд со средним 0 и ковариационной функцией, такой, что
1«1Р1^(«) К оо1«1Р1^(«) К оо(5.8.17)(5.8.17)
1«1Р1^(«) К оо
1«1Р1^(«) К оо
(5.8.17)
(5.8.17)
для некоторого Р ^ 1. Пусть временное окно h (и) таково, что km (к) из формулы (5.8.6) может быть представлено в виде (5.8.8) для |ы|^Т. Пусть fxx (X) задается (5.8.16), причем V (а) удовлетворяет условию 5.6.1. Тогда
2л$\ ,/2лз\у-"у IXX у’т" у2л$\ ,/2лз\у-"у IXX у’т" у
2л$\ ,/2лз\
у-"у IXX у’т" у
2л$\ ,/2лз\
у-"у IXX у’т" у
Р-1Т-1
+-^ S Т-Ркр1Р 2 wm lk-^\ f^lyUo(T-n
Р=15=147 Х 7
Л
(5.8.18)(5.8.18)— оо < X < оо.— оо < X < оо.*= J W^ (a) fxx (X—а) da + О ^Т"^, -Л'
(5.8.18)
(5.8.18)
— оо < X < оо.
— оо < X < оо.
Остаточный член равномерен по X. .
' Выражение (5.8.18) показывает преимущества сглаживания и в этом случае. Как видно из (5.8.18), математическое ожидание приблизительно равно взвешенному среднему интересующего нас спектра мощности с ядром 1Г(Г)(а). Эффективная ширина ядра имеет порядок 0(Вг), поскольку
ЛА 1/2г00\ 1/2
$ [1—cosa]№<r> (a)da> ~ В J у $ аЧР (а) da > .(5.8.19)
-Л)к —00/
Для следствия 5.8.2 введем величину
Wp= $ p^^dp.
-СО
- ■ Следствие 5.8.2. Предположим в. дополнение к условиям теоремы 5.8.2, что
$ IP'll^(W|3<o°;(5.8.21)
тогда'-
р-1'
Ef& (X) - kx (X) + Е ^=^ ^РМ Q^ + О (В^ + О (ВуТ-г)
Р~1.(5.8.22)
для — оо < X < со.
Ввиду того что №(Р) = Ц7(—р), члены выражения (5.8.22) с нечетными р обращаются в нуль. Мы видим, что, выбирая W (Р) так, чтобы ^ = 0, р = 1, ..., Р—1,мы можем уменьшить смещение до порядка Вт-1. Такое W (р), очевидно, должно принимать кое-где отрицательные значения, что в некоторых ситуациях может привести к определенным сложностям. Для Р = 3из ,(5.8.22) следует
Е/^(Х) = kx (X) +1BW.d^^ + О № + О (В^Т-1). (5.8.23)
Как следует из выражения (5.8.19), эффективная ширина ядра Wm (а) равна ВгКИ72/2, что еще раз подчеркивает зависимость смещения от ширины ядра и гладкости кх (а) в окрестности точки X.
В § 3.3 обсуждался вопрос о том, какое ядро W*7"1 (а) более выгодно применять при сглаживании периодограммы. В большинстве случаев этот вопрос может быть решен путем разумного выбора, фильтра, применяемого перед оценкой спектра мощности. Как было показано, главный член Е/хх (X) равен
f W<r> (X—a) fXx («) da.(5.8.24)
-Л
Если кх№ не зависит от а и кх (а) = кх> то выражение (5.8.24) равно кх- Отсюда следует, что чем ближе /хх(а) к константе, тем меньше смещение. Предположим, что ряд X (t), t = 0, +1, • • •, подвергается действию фильтра с передаточной функцией Д (X). Обозначим ряд на выходе через Y (t), / = 0, ±1, ... .Из упр. 2.8.1 следует, что спектр мощности этого ряда задается выражением
ЫХ) = М(Х)р/хх(Х),(5.8.25)
или, после обращения,
Пусть fvv (^) является оценкой спектра мощности ряда Y (/). Из соотношения (5.8.26) следует, что в этом случае выражение
MWM&W(5.8.27)
будет оценкой для fxxW- Математическое ожидание этой оценки, как уже отмечалось выше, равно
IЛ (X) j-2 $ ^”ЦХ—ау¥У^^
-Л
= | Л (X) | -2 f №1Г> (%—а) I А (а) I2 fxx (а) da. (5.8.28) -Л
Если Д(Х) выбрано так, что | А (а) |2 fxx (а) — величина постоянная, то (5.8.28) будет в Точности равно fxx(^Y Отсюда следует, что в том случае, когда /хх(а) отличается от константы, мы можем попытаться найти передаточную функцию А (X), такую, чтобы спектр фильтрованного ряда Y (<) был близок к константе; тогда в качестве оценки для /ух(Х)мы возьмем | А (X) V^fvvW- Такая процедура, предложенная в работе Press, Tukey (1956), называется оценкой спектра с помощью предварительной фильтрации или приведения к белому шуму. Обычно фильтр определяется из некоторых частных соображений, однако Парзен и Тьюки предложили общую процедуру, которая состоит в определении фильтра по авторегрессионной схеме. Для. некоторого т определим а(П(1), ..., а(П(т) так, чтобы минимизировать выражение
Т-1
5 ^Х^—а^ЦХуХЦ — Х^—.-.—а^Цт^ХЦ—т^ (5.8.29) t=m
при ЭТОМ •-ч
¥^ = Х^—атХХ^ХЦ — Х^—... —а"' (т) ХЦ—т\
t = m,...,T — X, (5.8.30)
удовлетворяет изложенным выше соображениям. В случае когда ряд X Ц) является приблизительно авторегрессионной последовательностью порядка т (см. § 2.9), эта процедура будет близка к оптимальной. Она дает неплохие результаты также и в других случаях.
Аналогичным образом для ряда Y (t), полученного из X (t) фильтрацией с передаточной функцией А (%) по формуле (5.3.20), имеем
1\ГИ^\А№Г£№(5.8.31)
откуда Т-1
/% w=^ Е ^(П (ь-^-5) /% (y-s) s = 147
(5.8.32)(5.8.32)=~ У W^) (x—^) I А (у?) Гs=l4/ II
(5.8.32)
(5.8.32)
Это обсуждение приводит к следующей оценке для fxx^Y
IА (X) |-2 ^ 2 Г<г> (Х-у-$) | А ^) |2/^ ^) , (5.8.33)
причем функция А (X) выбрана так, чтобы | Л (а) |2/хх(а) было по возможности близко к константе. Эта оценка, основанная на дискретном преобразовании Фурье значений X (/), t = 0,..., Т — 1, включает сглаживание взвешенных ординат периодограммы. В том случае, когда txx(a) имеет острый пик около точки 2л8/Т=£Х, мы можем выбрать Л (а) такой, чтобы Л(2л8/Т)=0. После _этой процедуры сумма (5.8.33) не будет содержать ординат периодограммы Ixx^SjTy Заметим,, что ордината 7хх(0) была опущена еще в оценке (5.8.16). Согласно обсуждению теоремы 5.2.2, это эквивалентно изучению периодограмм значений
гдегдеХ^—с{Р при / = 0, ..., Т — 1,(5.8.34)
где
где
Т-1
(5.8.35)(5.8.35)с^т-' 5 x<tyt = о
(5.8.35)
(5.8.35)
Аналогмная ситуация возникает в том случае, когда удаляется из оценки ордината I(Xx (2nS/T). Если значения с/1^ (2ns/T), s = 0, ..., S—1, S+l, ..., T/2, не меняются при умножении ряда на exp {± t^nSZ/T), / = О, ..., Т—Г, то устранение ординаты периодограммы /хх(2л8/Т) эквивалентно изучению периодограмм значений X (/), t = 0, ..., Т — 1, из которых вычтена синусоида наилучшего вложения частоты 2л8/7\ Идею исключения некоторых частот при сглаживании периодограмм рассматривали Priestley (1962b), Bartlett (1967), а также Brillinger, Rosenblatt (1967b). Некоторые свойства предварительной фильтрации обсуждались в работе Akaike (1962а). Иногда мы настолько хорошо можем представить себе функцию Л (X), что из ее вида можно непосредственно делать вывод относительно спектра ряда Y kt\ не производя его деления на | Л (X) [а.
Другие оценки спектра мощности
Рассматриваемые до сих пор оценки спектров являлись взвешенными средними значениями периодограмм частот 2л$/Т, 8 = 0, ..., Т — 1. Использование такой оценки оправдывается тем, что при больших Т эти частные значения периодограммы могут быть вычислены с помощью алгоритма быстрого преобразования Фурье (§ 3.5), а их совместное распределение при больших выборках довольно элементарно (теоремы 5.2.6 и 4.4.1). В этом параграфе мы рассмотрим некоторые другие оценки.
Рассмотренная в § 5.6 оценка спектра имела следующий вид:
Г-1
2 л ' пт?(тх (*12л$\ .(Г)/2Л5\', л/с л <\
^Ъ^— °о<Х<оо. (5.9.1)
5=1.'
Если дискретное среднее в (5.9.1) заменить непрерывным, то оценка будет выглядеть следующим образом:"
$ Г(Г,(Х-а)7х1с<т) x_c(T)(a)da ох х
= В^ $ Г ^В^ I?_cm х_с<р (Х-а) da. (5.9.2)
В этом случае
1х-<ф. х_с(Т)(а) = (2л)-1 2 c^Mexpl— IW(, (5.9.3) А ли--Т+\
где
^Ш»^-12 VXlt + uWPUXltWTl. (5.9.4)
0< f, t + u< Т-1
Произведя такую замену в формуле (5.9.2), мы придем к выражению
Т-1
(2л)-1 2 w (Вти) с^х (“) ехр {—- iXu),(5.9.5)
,и=-Т+1
где
sy(u) = J W (a) exp {tua} da.(5.9.6)
Оценку (5.9.5) исследовали в общей форме Grenander (1951а), Grenander, Rosenblatt (1957) и Parzen (1957); некоторые частные случаи этой оценки рассматривали Bartlett (1948b), Hamming, Tukey (1949), Bartlett (1950). Оценка (5.9.5) широко использовалась до появления алгоритма быстрого преобразования Фурье.
В действительности оценки (5.9.1) и (5.9.2) имеют в основном одинаковый характер и почти совпадают. Например, в упр. 5.13.15 показано, что оценка (5.9.5) может быть представлена как среднее дискретных значений периодограммы для любых целых S ^ 2Т — 1 в следующей форме:
S-1S-1(5.9.7)(5.9.7)
S-1
S-1
(5.9.7)
(5.9.7)
см. также Parzen (1957). Выражение (5.9.7) использует в два раза больше значений периодограмм, чем выражение (5.9.1). В случае когда S очень велико, оно может быть вычислено с помощью быстрого преобразования Фурье ряда
(5.9.8)(5.9.8)( Х(0 при ^ = 0, ..., Т — 1,
(5.9.8)
(5.9.8)
Л W ( 0при t = T, .... S-1,
или получено вычислением с помощью быстрого преобразования Фурье, согласно упр. 3.10.7, величин Cyx(u), и = 0, ±1, ..., с последующей оценкой выражения (5.9.5) также с помощью быстрого преобразования Фурье. Обратно, оценка (5.9.1) может быть представлена, как показывает упр. 5.13.15, в форме непрерывного среднего значений периодограммы
2л /7_1\
f* 2лw(б 2л5 \ т-х f 2л$\ I г(Г)? \ #/г* л
\ ^тУ^ ’ Х— -4r\DT-i [^a)VxVp,x-M«W. (5-9.9)
05=1/
где
^Т-1 (а)^Т-1 (а)2л sin -^ а2л sin -^ а(5.9.10)(5.9.10)
^Т-1 (а)
^Т-1 (а)
2л sin -^ а
2л sin -^ а
(5.9.10)
(5.9.10)
Равномерную оценку разности двух статистик даст
Теорема 5.9.1. Пусть W (а), —оо<а<оо, удовлетворяет условию 5.6.1 и имеет ограниченную производную. Тогда
Т -1л
^w^ (х-^) /rn (^-s)_ j Wm^X-a)^ x.c^da
s= 1-л
2л
WT-^B^ + logT) $ 1?.й x_cm^da 0 A A
LB^T^ № + log n cTx (0)(5.9.11)
для некоторого конечного Lu —oo < X < <ю.
Очевидно, что в том случае, когда ВТ стремится к 0 не слишком быстро, асимптотическое поведение этих двух оценок практически совпадает.
При обсуждении интерпретации спектра мощности, приведенном в §5.1, была предложена некоторая спектральная оценка. Так, пусть А (а) означает передаточную функцию узкополосного фильтра, такого, что
Л (а) Л-О при |а±Х|>Д,(5.9.12)
— л < а, X < л, Д мало и
$ |Л(а)|Ма=1.(5.9.13)
-Л
Свойства таких фильтров обсуждались в § 2.7, 3.3 и 3.6. Пусть Х(/,Х), ^ = 0, ±1 означаетвременной ряд на выходе та
кого фильтра; тогда
Л
EX (t, X)* = $ | А (а) р txx («) da +1 Л (0) I* А
= fxxW> если Х^0(mod2л).(5.9.14)
Это приводит к рассмотрению в случае X^0(mod2n) оценки
т-1
Т-^^Х^АУ.(5.9.15)
< = о
В действительности эта оценка была первой спектральной оценкой, использовавшейся на практике; см. Pupin (1894), Wegel Moore. (1924) Blanc-Lapierre, Fortet (1953). Такая оценка является одной из общеупотребительных во временных процессах. Обсудим свойства этой оценки, предположив, что
л(а) =л(а) =г 4л(2/п+1)г 4л(2/п+1)■, л । 2л /। 1 \при |а±Х|<-у ^m + yj ,■, л । 2л /। 1 \при |а±Х|<-у ^m + yj ,ч 0 в противном случае, —л < а < л.ч 0 в противном случае, —л < а < л.(5.9.16)(5.9.16)
л(а) =
л(а) =
г 4л(2/п+1)
г 4л(2/п+1)
■, л । 2л /। 1 \
при |а±Х|<-у ^m + yj ,
■, л । 2л /। 1 \
при |а±Х|<-у ^m + yj ,
ч 0 в противном случае, —л < а < л.
ч 0 в противном случае, —л < а < л.
(5.9.16)
(5.9.16)
Если d£>._ м (2л$/Т) обозначает дискретное преобразование Фурье значений Х(/, X), /=0, ..., Т— 1, выхода фильтра и ^ЦТуТ^К то
жт,(2л [scn + sj) . V Т лт ^ 2л [s(T)+$n
Х(,'м \ Т ) = V 4л(2т+1)°х Т )’
dm/2л [Г—s(T)—s)\ . 1 / Т жт> /2л [Г —s(T)—sj\
Х(-х>^ т ) = V 4л(2т+1)^х \ Т )
для s = 0, ± 1, ..., ±т и асимптотически равно 0 в противном случае. Из равенства Парсеваля следует, что
11хи,Х)4=Т-г^\аТ<.,м(^ф^^ (5.9.18)
/ = 0s'1
и поэтому асимптотически равно
m
(5.9.19)(5.9.19)(2/n+l)-1 Е Z^f-2-^^51).s= -m x
(5.9.19)
(5.9.19)
Таким образом, оценка (5.9.15) имеет ту же форму, что и оценка (5.4..1).
Из теоремы 5.3.1 следует, что ординаты периодограмм одинаковых частот Х^ 0 (mod л), вычисленные • по различным временным интервалам, асимптотически независимые fM (X) xl/2-пере^ менные. Этот результат дает возможность построить оценку путем осреднения по различным временным интервалам. В самом деле, справедлива
2(5.9.20)2(5.9.20)Теорема 5.9.2. Пусть ХЦ), 7 = 0, ±1, ... ,—действительный временной ряд, удовлетворяющий условию 2.6.1. Пусть
2
(5.9.20)
2
(5.9.20)
iTxlk 0Н2ЛЮ-1iTxlk 0Н2ЛЮ-121X(v + /V)exp{-iA(y + ^)} у = 0
iTxlk 0Н2ЛЮ-1
iTxlk 0Н2ЛЮ-1
для — оо < X < оо, / = 0, ... , L — 1. Пусть также
= L-1 5* /^ (X, /),(5.9.21)
1=0
где Т — LV. Тогда fxx (X) имеет асимптотическое распределение IxxQ^tXlI$L\ если X^O(modn), и асимптотическое распределение txxWlXiL, если Х=±л, ±3л, ... и V—юо.
Оценку (5.9.21) предложил Bartlett (1948b, 1950), ее исследовали также Welch (1967), Cooley, Lewis, Welch (1970). По сравнению с другими эта оценка имеет преимущества ускоренных вычислений, особенно, когда V достаточно велико. Кроме того, она позволяет изучать ряд на стационарность. Welch (1967) предложил использовать периодограммы, вычисленные по пересекающимся временным интервалам. Спектральные оценки, основанные на преобразовании Фурье, рассматривали Akcasu (1961) и Welch (1961). На основании приведенной теоремы можно построить доверительные границы для fxxW> если ^хх^' П« / = 0, ..., L—1, считать L независимыми оценками fxxW-
Как отмечалось в предыдущем параграфе, для оценки спектра мощности может быть использована также авторегрессионная
схема. Оценку спектра мощности ряда остатков У (t) для последовательности значений т рассматривал Parzen (1964) в том случае, когда эта оценка близка к постоянной; в качестве оценки мы можем принять
Г-1
1 Д(п|-2Г-1-5 у^ (5.9.22) t = о
где А(Г> (^) есть передаточная функция фильтра, переводящего основной ряд в ряд остатков. Естественно, что эта процедура тесно связана с предварительной фильтрацией. Некоторые статистические свойства этой процедуры рассматривали Kromer (1969), Akaike (1969а); рассматриваются они также в § 8.10.
В процессе работы над данной главой мы пришли к важному выводу о существенном влиянии параметров" эффективной ширины т или ВТ на статистические свойства оценки. В самом деле, выбор формы весовой функции используемой оценки становится несущественным, если мы приводим к белому шуму исходный ряд. Существенной будет только ее эффективная ширина. Параметры т или ВТ мы надеялись определить из ожидаемой статистической устойчивости. Если же у нас не было четкого представления об этой устойчивости, мы использовали последовательность предлагаемых параметров. Leppink (1970) для выбора необходимой оценки предлагал оценивать Вт на основании исходных данных, см. также Picklands (1970). Daniels (1962) и Akaike (1968b) предлагали процедуру для модификации оценки.
В случае когда X(Z), t = 0, ±1, ..., является гауссовским рядом с нулевым средним, оценку, основанную на величинах
K(0 = sgnX(0, t = O,...,T-\ (5.9.23)
(где sgnX=l, если Х>0 и sgnX = —1, если X < 0), предложил Гольдштейн; см. Rodemich (1966); обсуждение этой оценки можно найти в работах: Hinich (1967), McNeil (1967) и Brillin- ger (1968). Rodemich (1968) рассматривал оценку для fxxW» построенную по сгруппированным значениям ряда X (/).
Jones (1962b) и Parzen (1963а) предложили оценки для случая, когда "имеются систематические пропуски значений X (/), / = 0, ..., Т — 1. Brillinger (1972) рассматривал оценку, когда X (/) наблюдается в моменты тп ..., т„, являющиеся значениями точечного процесса. Akaike (1960) изучал процесс Х(/), наблюдаемый для значений t, близких к точкам 0, 1, ..., Т—1; такие Наблюдения мы будем называть возмущенными выборками.
Писаренко (1972) был предложен некоторый класс нелинейных оценок. Предположим, что ряд наблюдений разделен на L сегментов. Пусть с'хх(«,/). « = 0, ±1, ...; / = 0, ..., L— 1, озна-
чает оценку ковариационной функции, построенной на сегменте /. Пусть p'n, U^', / = 1, ..., J, означают собственные значения и векторы матрицы ^Л-1 2схх(/ —^> 0; /, & = 1, . •., Jj.В таком случае предлагаемая оценка имеет следующий вид:
hh^H^^JV1^H^^JV12 U$expV— i^hi = v2 U$expV— i^hi = v22(5.9.24)(5.9.24)
h
h
^H^^JV1
^H^^JV1
2 U$expV— i^h
i = v
2 U$expV— i^h
i = v
2
2
(5.9.24)
(5.9.24)
где H(x), 0<x< oo,— строго монотонная функция и h(•) —обратная к ней. Эта оценка основана на определении матричной функции 3.10.27. В случае Н^ = х оценка (5.9.24) представляется в виде'
£-1J
L-^^^Y1 У (1 — -Ц^СхНы, /)ехр{— шЦ, (5.9.25)
что совпадает с оценкой (5.9.21), если J = V. В случае Н (х) = х~х оценка представляется в виде
*ji-i
'(2л/)-1 2 С$ехр^—1МНЬ) ,(5.9.26)
-7» ^=1-
где [С/Р] —матрица, обратная матрице, собственные значения и векторы которой вычислены. Оценку (5.9.26) с высокой разрешающей способностью рассматривал Capon (1969). Писаренко (1972) показал, что для нормального ряда с J, L—»оо, когда Т-^-оо, оценка (5.9.24) будет асимптотически нормальной с дисперсией
^OT + W(5.9.27)
Capon, Goodman (1970) приближали распределение (5.9.26) с помощью fxx^xlt-u+i^L, если 1=^=0 (mod л), и fxxWxt-J+i/L, если Х= ± л, ±3л
Иногда нас может интересовать оценка спектра мощности с помощью параметрической модели. Полезные общие замечания в этом направлении содержатся в работах Whittle (1951, 1952а, 1961). Некоторые частные модели рассматривали Box, Jenkins (1970).
Оценки спектральной меры и ковариационной функции
Пусть X (/), / = 0, ±1, ...,— действительный ряд с ковариационной функцией схх(и), и = 0, ±1, .... и спектральной плотностью fxxW» — оо<Х<оо. Во многих ситуациях интересно
знать оценку спектральной меры .
(5.10.1)(5.10.1)^хх W= $ fxx (°0 ^а>
(5.10.1)
(5.10.1)
-.о
введенной в § 2.5. Точно так же во многих ситуациях интересно оценить ковариационную функцию.
2Л
cxxW = $ exp {ша} fxx (a) da,(5.10.2)
о
а также широкополосную оценку спектрального среднего
2Л
(5.10.3)(5.10.3)J IF (А—a) fxx (а) da, о
(5.10.3)
(5.10.3)
где IF (а)—весовая функция с периодом 2л, сконцентрированная около точек a = 0 (mod 2л)..
Выражения (5.10.1), (5.10.2) и (5.10.3) являются частными случаями более общего: ’
J (Д) = $ A (a) fxx (a) da(5.10.4)
о
для некоторых функций А (а), 0^а<2л. По этой причине мы займемся кратким иссдедованием оценки (5.10.4) для заданных функций Д(а). Эту задачу рассматривал Parzen (1957).
В качестве первой оценки рассмотрим статистику
£ А (^) 1Тх (^) .(5.10.5)
где ГРЖ — оо < А < оо,— периодограмма, построенная по значениям X (£), / = 0, ..., Т—1. Применение в качестве статистики дискретной суммы со значениями в точках ^as/T дает возможность использовать для вычислений алгоритм быстрого преобразования Фурье.
Положим
Д(а) =Д(а) =1, О^а^А,1, О^а^А,0 в противном случае,0 в противном случае,(5.10.6)(5.10.6)
Д(а) =
Д(а) =
1, О^а^А,
1, О^а^А,
0 в противном случае,
0 в противном случае,
(5.10.6)
(5.10.6)
что приводит к следующей оценке спектральной меры ^^(А):
ПоложимПоложим
Положим
Положим
(5.10.8)(5.10.8)А (а) = exp {iua}, 0^а<2л,
(5.10.8)
(5.10.8)
что приводит, согласно упр. 3.10.8, к оценке схх(и) круговой ковариационной функцией
^ W =2* [X (/ + «)-c^l [X W-cT ]. (5.10.9)
/ = 0.
(Здесь Х(0, < = 0, ±1, . ..,— периодическое продолжение Х^ с .периодом Т.) Выбор функции
(5.10.10)(5.10.10)А (а) = W (X—а),0 ^ а ^ 2л,.
(5.10.10)
(5.10.10)
приводит нас к рассмотрению спектральной оценки вида
' .т-1‘
fi№=^ S ^-^) 1Тх(^ .(5.10.11)
s= 147
В упр. 5.13.31 приведена статистика, которая иногда используется в стационарных гауссовских рядах для проверки гипотезы о наличии у ряда спектра мощности fxx(K). Справедлива
Теорема 5.10.1. Пусть X (^), / = 0, ±1, ... ,— действительный ряд, удовлетворяющий условию 2.6.2 (1). Пусть функции А Да), 0^а<2л, ограничены и имеют ограниченную вариацию для / = 1, ..., J. Тогда ■ .
ептЧА^=^^аД2-^Агхх(^Но^^ ■
5=1474
2Л
= ^A/^fxx^da+O(T"^ j = lt...,J, (5.10.12) о
Далее,
еоДП^АД П^А^ 2Л2Л
=^ С Ау(2л-а)А^хх(«)8^ + -Г j А, (а) "АДа) fxx Wda оо
2Л 2Л2Л 2Л++■у У J 4/ (а) ^А (Р) fxxxx■у У J 4/ (а) ^А (Р) fxxxx(а, р, -a)dadp + O(T-2).(а, р, -a)dadp + O(T-2).(5.10.13)(5.10.13)0 00 0
2Л 2Л
2Л 2Л
+
+
■у У J 4/ (а) ^А (Р) fxxxx
■у У J 4/ (а) ^А (Р) fxxxx
(а, р, -a)dadp + O(T-2).
(а, р, -a)dadp + O(T-2).
(5.10.13)
(5.10.13)
0 0
0 0
Кроме того, Jm(Aj), j=l, ..., J, асимптотически имеют совместное нормальное распределение и указанную выше структуру первых и вторых моментов. ’
Из выражения (5.10.12) видно, что Jm(A/) является асимптотически несмещенной оценкой для J (Ау). Она является также и
состоятельной оценкой ввиду того, что ее дисперсия стремится к 0, когда Т —>■ оо."
Если Л (а) выбрать согласно (5.10.6), то формула (5.10.13) приводит к следующему выражению для оценки спектральной меры FXX(K):
lira Tcov№xW, F^f т -> »
min (Я, ц)X ц
= 2л $ fxx (a) da + 2л $ $ fxxxx (а, р, — a) dadp, О0 0
'0<Х, р<л. (5.10 14)
В случае оценки ковариационной функции схх(и) с Л (а), заданной выражением (5.10.8), из (5.10.13) следует
lim Т cov {с^ (X), Схх (р)} Т-> 00.
2Л
= 2л ^ ехр {— I (и + у) a} fxx (a)1 da о
2л
+ 2л J exp V^u — у) a} fxx (a)2 da . о
2л 2л
4-2л ^ J exp {i (иа—уР)} fxxxx (а, р, — a) da dp, о о
и, у = 0, ±1 1 (5.10.15)
В случае широкополосной спектральной оценки (5.10.10) из (5.10.13) следует
lim Tcov№W, fPx^ Т -> 00
2Л
= 2лW (X + a) IF (р—a) fxx (a) da
о."
2Л
+ 2лW (X—a) IF (р—a) fxx (a)2 da
о-
2л 2Л
+ 2л J J IF(X—a)IF(p—p)fMXX(a, р, — a)dadp.(5.10.16)
Рис. 5.10.1. График ^хх^'^хх^ для сРеДнемесячных чисел солнечных пятен за 1750—1965 гг. (По горизонтали—частоты в цикл/месяц.)Рис. 5.10.1. График ^хх^'^хх^ для сРеДнемесячных чисел солнечных пятен за 1750—1965 гг. (По горизонтали—частоты в цикл/месяц.)
Рис. 5.10.1. График ^хх^'^хх^ для сРеДнемесячных чисел солнечных пятен за 1750—1965 гг. (По горизонтали—частоты в цикл/месяц.)
Рис. 5.10.1. График ^хх^'^хх^ для сРеДнемесячных чисел солнечных пятен за 1750—1965 гг. (По горизонтали—частоты в цикл/месяц.)
дисперсии Jm (Лу). Если при этом использовать асимптотическую нормальность этой оценки, то можно получить приближенные доверительные границы для этого параметра.
В некоторых ситуациях предпочтительнее использование оценки с непрерывной весовой функцией
2лГ-1’
\ А (0)1x1^, х_ст (a) da = 2л,-15 a Wxx W. (5.10.17)
0XXи=-Т+1
где Схх(и)—выборочная ковариационная функция, определенная выражением (5.9.4) и
2Л
(5.10.18)(5.10.18)a (iz) = J ехр {— 1иа\ А (а) da.о
(5.10.18)
(5.10.18)
Так, например, в случае А (а) = ехр {ша} мы получйм выборочную ковариационную функцию dxkW в отличие от круговой функции, полученной ранее.
Оценка (5.10.17) ненамного отличается от оценки (5.10.5); справедлива
Теорема 5.10.2. Пусть Л (а), 0^а<2л,— ограниченная функция, имеющая ограниченную вариацию. Пусть X (t),
( = 0, ±1, ... «удовлетворяет условию 2.6.2 (1). Тогда
Г-1 .2 л
2л Л /2л5\ т<Тх /2ns\ С Я / X т^/ \ J
ЕЕт L л (ту 1хх \Т)\ л (а) 1х-^х- х-сТ(а)da s= 10
Е
Е
= 0<Г-хУ (5.10.19)
Как видно, эти две оценки близки для больших Т и их асимптотические распределения совпадают.
Приведенная в (5.10.7) оценка спектральной функции FxxW иногда может оказаться очень полезной для обнаружения периодических компонент ряда и для оценки достоверности предлагаемой модели, в особенности модели белого шума. На рис. 5.10.1 даны значения FXx (^/Fxx (л), 0<Х^л, ежемесячных средних чисел солнечных пятен. Периодограмма этого ряда была приведена в § 5.2. График спектральной функции исключительно сильно растет в низких частотах и несколько слабее в верхних. Если ГххМ постоянна в некотором интервале, то FXX(K) растет линейно в этом же интервале. Этого нельзя сказать о графике на рис. 5.10.1, за исключением разве лишь частот выше л/2.
Выборочная ковариационная функция CxxW, и = 0, ±1, ..., также может оказаться весьма полезной при изучении структуры ряда. На рис. 5.10.2 и 5.10.3 представлены графики c(Xx W Для рядов соответственно ежегодных и ежемесячных средних чисел солнечных пятен. Хорошо видна заметная корреляция значений ряда с расстояниями, кратными приблизительно 10 годам. Пик в нуле на рис. 5.10.3 указывает на присутствие ошибки измерений.
Асимптотические свойства ковариационной функции рассматривались Слуцким (1934) для случая гауссовских процессов с нулевым средним. Bartlett (1946) распространил асимптотическую теорию моментов второго порядка на случай линейных процессов- с нулевым средним. Вопросы асимптотической нормальности рассматривали Walker (1954), Lomnicki, Zaremba (1957b, 1959), Parsen (1957), Rosenblatt (1962), Anderson T. W., Walker (1964). Как отмечал Akaike (1962a), иногда удобно рассматривать с(хх(иу и —0, ±1, •.., как стационарный временной ряд со спектром мощности 2n.T-1fXx^y. Это соответствует сохранению только второго члена в правой части (5.10.15). Brillingen (1969с) указал две формы сходимости с вероятностью единица и вывел слабую сходимость оценки к гауссовскому процессу.
14. -
12.
Рис. 5.10.2. Оценка с(^х (и) ковариационной функции для среднегодовых чисел солнечных пятен за 1750—1965 гг. (По горизонтали—запаздывание в годах.)
Рис. 5.10.3. Оценка ^^(и) ковариационной функции для среднемесячных чисел солнечных пятен за 1750-1-965 гг. (По горизонтали—запаздывание в месяцах.)
Отступление от принятых предположений
В этом параграфе мы обсудим действие некоторых элементарных отступлений от принятых в данной главе предположений. Одним из важных допущений является
ЕХу)=сх, f = 0, ±1 (5.11.1)
и
5 \схх («)|<оо,(5.11.2)
и= -со
где схх(^ = соч \Xlt-Vu\ X (0} для t, « = 0, ±1, ... .
Прежде всего рассмотрим случай, когда условие (5.11.2) не выполняется: Пусть
j
X(f)= 2 fycosOByf + t^ + etf), ^ = 0, ±1, ... , (5.11.3)
где Rj, &j постоянны, Фу. равномерны на (—л, л), / = 1J, а ряд 8(f) удовлетворяет условию 2.6.1. В таком случае ковариационная функция ряда (5.11.3) представляется в виде
схх (ы) = 4" 52 ^/cos toju + сю («),(5.11.4)
/=i
откуда следует, что условие (5.11.2) не выполнено. Заметим, что спектральная функция Fxx(X), существование которой доказывается в теореме 2.5.2, представляется в виде
Fxx(b) = 4£K/H(b-®/) + $fee(a)da, 0^Л<л, (5.11.5) /=*о
где
( 1 при а^О,
17(a)- п(5.11.6)
х '(0 при а < 0,'’
a fee(^) означает спектральную плотность ряда 8(f), f = 0. + 1Обобщенная производная выражения (5.11.5) равна
^^/б^-^ + ^е^),(5.11.7)
где О^Х^л, а 6 (X)—дельта-функция Дирака. Функция (5.11.7) имеет бесконечные пики в точках юу, /—1, ... , J, над ограниченной непрерывной функцией feeW- Говорят, что ряд, задаваемый выражением (5.11.3), имеет смешанный спектр.
Для рассматриваемого ряда из выражения (5.11.3) следует, что
Т-1
2>(0ехр{-Ш} / = 0
= S R/ [ехР WА(Г) (х - ®j)■
^ехИ-^у} Am(X + <оу)Л-d<r> (X),(5.11.8)
где А<7>(Х) определено в формуле (4.3.14). Функция А<7> (X) имеет большую амплитуду только для Х=0 (mod 2л). Это означает, что
dp W^dp W^RyT ехр {/фу} при Хд.й>у,-
dp W^
dp W^
।(5.11.9)
у RjT exp {—/фу} при Xjl—toy,
в то время как
d<x7>(X)=d<r>(X) + 0(l)(5.11.10)
для | X ± ©у | > 6/Т, —л < X^ л. Как следует из формулы (5.11.9), изучая значимые пики периодограммы ГХх W, можно оценить значения toy. Значения Rj можно оценить с помощью выражения
21 dp (о)у)|/Т = К8л/<Л(Юу)/Т.(5.11.11)
По существу эту процедуру использования периодограмм предложил Schuster (1898) для отыскания скрытых периодичностей ряда. Формула (5.11.10) показывает, что мы можем оценить fte(K) сглаживанием периодограммы, избегая при этом частот в непосредственной окрестности Юу. Равномерно осредняя v ординат периодограммы Грх^дз/Т) (s целое), из теоремы 4.4.1 и выражения (5.11.10) получим, что эта оценка асимптотически равна fxxWxiv/(2v) в случае X^O(modn); случай Х = 0(тобл) рассматривается аналогично.
Приведенную выше простую модификацию сглаживания периодограмм, устраняющую пики, изучали Bartlett (1967), Brillinger, Rosenblatt (1967b). Это близко связано с техникой предварительной фильтрации, обсуждаемой в § 5.8. Читатель может обратиться также к работам: Hannan (1961b), Priestley (1962b, 1964) и Nicholls (1967). Albert (1964), Whittle (1952b), Hext (1966) и Walker (1971) рассматривали проблему построения более точных оценок Гоу из выражения (5.11.3).
Обратимся к ситуации, в которой нарушено условие неизменности среднего (5.11.1). Следуя § 2.12, будем изучать модель
с трендом
Х(0=2еуФу(0 + е(0,(5.11.12)
/=1
где t = 0, ±1, ... , Ф1 (О, ... , Фу (/) —известные функции, 0П ...
...., 0У—неизвестные постоянные и е (/), /=0, ±1, ... .—ненаблюдаемый ряд с нулевым средним, удовлетворяющий условию 2.6.1. Такие модели рассматривал Grenander (1954). Эта модель позволяет построить по методу наименьших квадратов оценки 9<1Г>,... ... , О/* параметров 0V ... , 0У, минимизируя сумму
S^x^-oaw-.. -О/МО]2,(5.П.13)
t=o
и оценить затем /Е8(Х) из ряда остатков
е ф> = X ^ - 67’ф, (0 - ... - Wj ^,(5.11.14)
t=0, ... , Т — 1. Займемся исследованием асимптотических свойств такой процедуры. Введем некоторые условия относительно функций Фг (/), . . . , фу(/).
Условие 5.11.1. Для заданных действительных функций ФД^, t = 0, ±1, ... , j = 1, ... , J, существует последовательность NT, Т = 1, 2, ... , такая, что NT—* со, NT+1/NT—* 1 при Т со и
Т-|«|
ИтЛГг1 2 Фу (< + «) Фа (0 = /»»(«)(5.11.15)
Г^-оо /=0'
для и = 0, ±1, ... и j, k= 1, ... , J, причем члены последовательности
Г-1
МД 2j l^o, (^1 + ^1). • -Фа^-з. (^ + ыА-1)Фо^)1’
7=1,2,..., ограничены в совокупности для а^, ... , ак= 1, ... , г; Щ, ,.. , ик_ j = 0, i 1, А = 1, 2, ... .
В качестве примера функций, удовлетворяющих этому условию, рассмотрим
Фу (О = ^у cos (®/ + Фу)(5.11.16)
для постоянных R.-, со,, ф.-, j = 1, ... , J. Нетрудно видеть, что при NT = T
m;1(U)-(^°s™,“”P"<-6.(5.11.17)
(Опри j^=k.
Некоторые другие примеры приводятся в статье Grenander (1954).
Пусть m/ft (и) —элемент матрицы m**(«), находящийся на пересечении строки j и столбца £, /, h= 1, ... , J. Как следует из упр. 2.13.31, существует г х r-матричная функция ^(Л), —л<Л^л с элементами ограниченной вариации, такая, что
т** («)= $ ехр {1иХ\ <Узфф (X)(5.11.18)
-Л'
для и = 0. Справедлива
Теорема 5.11.1. Пусть е (Z), t = 0, ± 1, ... ,— действительный ряд, удовлетворяющий условию 2.6.2 (Z), имеющий нулевое среднее и спектр мощности f№(X), —оо<Х<оо. Пусть также ФД1\ 1~ 1> • • • > ^- Z = 0, ±1, удовлетворяют условию 5.11.1, причем матрица т^(0) несингулярна. Предположим, что ряд Х^ задан формулой (5.11.12) для некоторых постоянных 9,, ... ... , 9,. Пусть 9р, ... , 6(/’—оценки параметров 9П ... , 97, полученные методом наименьших квадратов. Если ряд e(t) задан формулой (5.11.14), причем
т-х Vla^^^W^^X-^I^^Y(5Л1Л9>
S= 1Х4
где ТГ(Г)(а) = 2^г1^(^г1[а + 2л/]) и W (а) удовлетворяет условию 5.6.1, то переменная 0<г) = [9|г>Э*/-*] имеет среднее
0 = [0Ь ... , 0J и ковариационную матрицу, такую, что
lira NTE {0<г> - 9)Т (0<г> — 9)} = Г-*ао
Л
= 2nm^(0)-1 ^ /ее (а)сЮфф(а)тфф(0)-1, (5.11.20) '-Л
причем последнее выражение асимптотически нормально. Если ВТТ -* оо при Т —>оо, mo fePW асимптотически не зависит от №> и имеет математическое ожидание'
Ef^(X) = $ W^-aM^da^B^ (5.11.21) -Л
Ковариационная функция этой переменной удовлетворяет условию'
limBrTcov{/^*(X), Ш>(Х)}'•
Т-^ао
= 2л J Г (а)2 MeР) [П {^-Н} + П {А + И}]» (5.11.22)
причем конечный набор оценок /^Р (М> • • • , ГеРСМ имеет асимптотически нормальное совместное распределение.•
Как видно, в приведенных условиях асимптотическое поведение APW совпадаете поведением оценки ДР (А,), вычисленной непосредственно по ряду e(Z), t — Q, ±1, .... Этот эффект мы уже наблюдали для временного ряда с неизвестным средним, что соответствует случаю 7 = 1, Ф^—Л, ^—Сх, б^^Сх^Т-1 S ХЦУ /=о
Из теоремы вытекает
Следствие 5.11.1. При условиях теоремы 0<г> и bPW являются состоятельными оценками для 9 и fee(M соответственно.
Более подробные результаты, аналогичные теореме 5.11.1, приводятся в гл. 6. Этой теме посвящены статьи Grenander (1954), Rosenblatt (1956а), Hannan (1968), представляет также интерес статья Koopmans (1966). На практике часто используется процедура построения спектральных оценок по первым разностям е (t) = X (t)~X (< — 1), t = 1, ,..., Т — 1. Эта процедура непосредственным образом устраняет линейный тренд (см. упр. 3.10.2).
Возможна более сложная по сравнению с разобранной в настоящем параграфе ситуация, в которой cov{X(^ + u), Х(^\ зависит от обоих параметров t и и. Выражаясь точно, спектр мощности в этом случае вообще неопределен, см. Loynes (1968); однако, в том случае, когда cov{X (/ + «), X (0} достаточно слабо зависит от 1, вычислениями спектрального типа можно накопить полезную информацию об отрезке ряда. Все предлагаемые в данной главе спектральные оценки мы можем также строить по укороченным отрезкам ряда, для которых предположение стационарности можно приближенно считать выполненным. К этой ситуации скорее всего хорошо будет подходить спектральная оценка, построенная путем осреднения квадрата выхода узкополосного фильтра (см. §5.9). Такие ситуации обсуждаются в статьях Priestly (1965), Brillinger, Hatanaka (1969).
Интересной может оказаться также следующая ситуация: пусть ряд X (1) определен для-всех действительных чисел t, —co<t<oo. (До сих пор мы рассматривали X (/) определенным только для * = 0, ±1, ...). Предположим, что
cXx(«) = cov {%(/ + «), Х(/)}(5.11.23)
определена для —оо < /, и < оо и удовлетворяет условию
5 sup kxx(v)|<oo;(5.11.24)
«= - СО и<о<«+ 1
тогда определены как
fnW = (2”)"1 2 ^(u)exp{—iXu},(5.11.25)
U= - 00
так и
&xW = (2n)"1 $ схх(«)ехр{—iXu\du(5.11.26)
для —oo < X <oo. Функция ^(X) называется спектром мощности дискретного ряда ХЦ\ 1 = 0, ±1,'... , в то время как gXxW« —oo < X <оо,'называется спектром мощности непрерывного ряда X (/), —oo < t <оо. Спектр gxxW чаще всего имеет тот же характер, что и спектр fxx(X). Э™ Два спектра, согласно (5.11.26), связаны следующим соотношением:
cXxW = 5 exp{tuX}gxx(X)dX
00 2л (/+1)
= 2$ exp{ZuX}gM(X)dX
i=-®2 л/
2лад
= \exp{t«X} 2 &rx(^ + 2n/)dX(5.11.27)
о/ = -»
для и = 0, ±1, ... . Из (5.11.25) имеем
Схх (“) = $ exp (i wX} fxx (Ц dx,(5.11.28)
О
что дает
fxxW = 2 ехх^+2яП-(5.11.29)
/= - *
Как видно из соотношения (5.11.29), частота X дискретного ряда ХЦ), ^ = 0, ±1, ..., связана с частотами X, Х±2л, ... непрерывного ряда X Ц), —oo < t < оо, а также с частотами —X, —X ± 2л, ..., ввиду того что fxx (X) = fxx (—X). Согласно Тьюки, частоты
Х4-2л/, —Х+2л/, / = 0, ±1,(5.11.30)
называются сопутствующими, а сам эффект—подменой частот. Эти частоты невозможно различить с помощью одной единственной функции fXxW- В качестве подтверждающего примера рассмотрим ряд
Х(/) = ^С05(й>/ + Ф),Х(/) = ^С05(й>/ + Ф),(5.11.31)(5.11.31)
Х(/) = ^С05(й>/ + Ф),
Х(/) = ^С05(й>/ + Ф),
(5.11.31)
(5.11.31)
—оо < / <00, где величина<#>распределена равномерно на(—л, л).- Для этого непрерывного ряда имеем
схх (и) = cov {X (t + u), X (1^ = ^ R^costou, (5.11.32)
—oo<u<oo, и из определения (5.11.26) —
gxx W = ^яч6 (^-^ + 6 (Х+<0)].,(5.11.33)
Эта функция имеет бесконечные пики в точках X = ± ю- Рассматривая теперь функцию (5.11.32) для / = 0, ±1, ..., из (2.10.8) или (5.11.29) мы имеем
txx W = IR" И ^- ®) + П (^ + “)]•(5-11.34)
Последняя функция имеет бесконечные пики в точках Х = ±а> + 2л/, / = О, ±1, ... , так что го не может быть точно определено, о нем можно сказать лишь, что оно совпадает с одной из этих частот. В практической ситуации мы не можем знать наверное, какая из частот ±ю + 2л/, / = О, ±1, ... , реально соответствует пику, если оценка спектра мощности /^(Х), вычисленная для О^Х^л, дает пик в точке со.
Однажды автор столкнулся с подобной ситуацией; производился периодический отсчет числа электронов, попадающих в коническое отверстие вращающегося вокруг своей оси спутника серии Explorer (Зонд). Измерялось остронаправленное поле электронов, так что поступающие данные должны были иметь периодическую составляющую, соответствующую периоду вращения спутника. Планировалось, что частота отсчета данных и скорость вращения спутника будут связаны между собой так, что частота вращения X попадает в интервал—0 < X < л. В действительности скорость вращения спутника оказалась выше планируемой, так что частота вращения попала вне интервала 0 < X < л. Исследованный спектр, в самом деле, содержал значимый пик, и нужно было решить, какая из сопутствующих частот дала этот пик. В данном случае это оказалось возможным только благодаря наличию оптической информации, давшей грубую оценку этой частоты.,
Предварительная фильтрация данных иногда может уменьшить трудности, вызываемые подменой частот. Предположим, что непрерывный временной ряд X (/), —оо</<оо, фильтруется с помощью фильтра с полосой пропускания [—л/ —л, —л/], [л/, л/ + л] и после этого записывается в точках / = 0, ±1
В таком случае из (5.11.29) следует
fxx W = 8хх О'* + я/) •(5.11.35)
что значительно упрощает исследование.
Мы закончим этот параграф обсуждением свойств выборки из временного ряда X (/)> —°о<^<°о, через равные промежутки времени h > 0. Таким образом, в промежутке времени [0, Т) теперь записываются значения X(uh), и — 0,..., U — 1, где U — T/h. €сли ряд стационарен и имеет ковариационную функцию cov {X(uh), Х(0)} = cxx(uh), и = 0, ±1, ... , причем
2 |схх(иЛ)|<оо,(5.11.36)
W= - 00
то мы определим спектр мощности fxx(ty> —oo<Z<°°, формулой
fxx^ = ^; fl Схх^ех'рК—ГКиЦ(5.11.37)
U= — GO
или в обращенном виде'
Л/Л
cXx(uh) = $ fxx (ty exp {iXuh}dX. (5.11.38)
Из приведенной формулы видно, что спектр мощности fXx(X) имеет период 2л/А. А так как fxx(—X) = fXxW> то в качестве основного частотного интервала можно выбрать [0, л/К\. В этом случае выражение (5.11.29) представляется в виде
00
fxx^) = Е to^^)-(5.11.39)
/= -00
Верхний предел интервала [0, л/Л], а именно л/Л, называется частотой Найквиста или частотой свертки. Если ряд X (0, —оо < t < оо, не имеет компонент с частотами, большими, чем частота Найквиста, то выполняется равенство
txx^ = gxx^(5.11.40)
для |Х|^л/А и не возникает никаких подмен частот.
Чтобы построить оценку fXx(^ по ряду X(иЛ), и = 0, ... ..., U — 1, Т = uh, определим •
■U-1
■ dx'(X) = 2 X(uA)exp{—iXuh}, (5.11.41) и=0
lTxW = ^\dT№(5.Н.42)
Использование анализа .спектров мощности 195 и затем, можем, например, воспользоваться сглаживанием периодограммы Ixx^Y
Проблему подмены частот обсуждали Beveridge (1922), Press, Tukey (1956), Blackman, Tukey (1958).
Использование анализа спектров мощности
Различные области прикладных исследований, где частотный анализ может оказаться крайне полезным, уже упоминались в первой главе. В данном параграфе мы обсудим некоторые примеры практического использования спектров мощности.
Описательная статистика. Функция fxx W часто вычисляется просто как описательная статистика наблюдений X (t), t = 0, ... , Т — 1. Она дает некоторую общую информацию о всей совокупности данных. В случае стационарного ряда она обладает хорошими выборочными свойствами. Обычно эта функция гораздо удобнее для исследования, чем основной ряд. Такое исследование опирается также на использование внутреннего механизма генерации данных. Таким образом Wiener (1957, 1958) изучал -биотоки мозга. Спектр мощности вычислялся также как непосредственная мера мощности в ваттах различных частотных компонент электрического сигнала; см., например, Bode (1945). В оптике [Wright (1958)], спектр мощности рассматривается как основная характеристика цвета объекта.
Как уже отмечалось, спектр мощности меняется элементарным образом при фильтрации ряда. Это использовали Nerlove (1964), Godfrey, Karreman (1967), чтобы вскрыть сезонную природу экономических временных рядов с помощью различных процедур. Cartwright (1967) с помощью таких процедур изучал приливы.
Некоторые другие примеры приводят Condit, Crum (1964), Haubrich (1965), Yamanouchi (1961), Manwell, Simon (1966), Plageman и др. (1969).
Неформальные критерии и различение гипотез. Использование спектра мощности для различения гипотез и построения критериев примыкает к использованию описательных статистик. При изучении цветов было замечено, что спектры объектов разных цветов изменяются определенным образом [Wright (1958)]. Carpenter (1965) и Bullard (1966) по наблюдаемым записям сейсмических колебаний изучали их спектры мощности, надеясь отличить на этой основе землетрясения от подземных ядерных взрывов. Точно так же сравнивались спектры сигналов биотоков мозга, полученные от здорового и 'психически больного пациентов, в надежде получить способ диагностики; см. Bertrand, Lacape W), Wiener (1957), Yuzuriha (1960), Suhara, Suzuki (1964), Alberts и др. (1965), Barlow (1967).
Как мы видели, спектр мощности белого шума постоянен. Таким образом, этот спектр можно использовать как неформальный критерий статистики белого шума [Granger, Morgenstern (1963), Press, Tukey (1956)]. Этот метод особенно эффективен в том случае, когда альтернативный процесс представляет собой некоторую другую форму стационарного процесса. Так, второй процесс может выражаться через первый в некоторой функциональной форме. После того как выбор функциональной зависимости уже сделан, его качество может быть проверено гладкостью спектра мощности остатков [Macdonald N. J., Word (1963)]. Величина спектра мощности остатков может быть использована в качестве критерия согласия. Частотные границы плохого согласия также могут быть получены из непосредственного рассмотрения спектров.
Изучению экономических рядов через спектральный анализ посвящены многочисленные статьи, см., например, Grander, Elliot (1968), Howrey (1968), Sargent (1968). .
Оценки. Спектры мощности используются для оценок параметров. Внутренняя структура ряда иногда ведет к функциональной форме зависимости спектра от неизвестных параметров. В таком случае параметры могут быть оценены из экспериментального спектра; см. Whittle (1951, 1952а, 1961), Ибрагимов (1967). Линейные процессы являются моделями со многими неизвестными параметрами [Ricker (1940), Robinson (1967b)]. Для их исследования используются спектры. Сдвиг пика в наблюдаемом спектре с места его обычного расположения используется астрономами для определения направления движения астрономического тела; Bracewell (1965). Перемещение пика в спектрах наблюдений использовали Munk, Snodgrass для определения возможных штормов в Индийском океане. '
Исследование скрытых периодичностей. Измерение частоты возможно периодического явления явилось первоначальной проблемой, приведшей к определению периодограммы второго порядка [Schuster (1898)]. Пики функции fxx W сразу же попадают в поле зрения, а ширина их может служить мерой точности определения скрытых частот. Определение главной частоты биотоков мозга является важным шагом в исследовании пациента с возможными психическими отклонениями [Gibbs, Grass (1947)]. Bryson, Dutton (1961) исследовали периоды солнечной активности по кольцам на срезе дерева. .
Сглаживание и прогнозы. Точное исследование спектра мощности является важным этапом при определении формулы Колмогорова и Винера; см. Колмогоров (1941а), Wiener (1949), Whittle (1963а). К этой же области относится проблема усиления сигналов и построения оптимальных передаточных устройств для сигналов гармонической природы (например, человеческой речи). ■
Упражнения
Пусть X (/)—■ стационарный ряд с нулевым средним, У (/) ^^а^ — и) X (и), У ^ = ^tta<t — u^x\uy Докажите, что
л
E/W (К) = (2лГ)-1 j [™^^у|Л
-Л •
л
Е/<Л (X) = | Л (X) |« (2лГ)-1 'У [^Х^Ч ^^ ^
-Л
Докажите, что
•другими словами, при равномерном сглаживании /^(2л//Г) по всей области мы получаем значение т^ (0). (Этот результат можно-рассматривать в качестве проверки точности вычислений.) Получите аналогичный результат для
Пусть задай действительный стационарный в широком смысле процесс X (0, / = 0, ± 1. ± 2, ..., с абсолютно суммируемой автоковариациойной функцией cxxW и спектром мощности txxW Ф 0, —л < Х^л. Покажите, что при этих условиях существует суммируемый фильтр b (и), такой, что ряд aw= 2« ЬЦ — и^Х<и^ имеет постоянный спектр. Указание*, в качестве передаточной функции возьмите [fxxMl-1/2 и воспользуйтесь теоремой 3.8.3.
Докажите, что ехр { —Z^ (Х)//^у (X)} является в условиях теоремы 5.2.7 при Т —► оо асимптотически равномерной случайной величиной, распределенной на (0, 1).
Докажите, что в условиях теоремы 5.2.7 статистики (лТ^х [Re dp (X)]2 и (лТ)-1 [Im dp (X)]2 являются асимптотически независимыми величинами, распределенными как fxxM^*
Пусть /^(Х) означает меньшую и /<У^ (Х)-~большую из двух величин, рассматриваемых в предыдущем упражнении. В условиях предыдущего упражнения докажите, что Y^xx (X), Кхх W1 является приблизительно 42-процентным доверительным интервалом для fxxW- См. обсуждение работы Дурбина в статье Наппап (1967 Ь).
Докажите, что результат теоремы 5.2.6 становится точным, а не асимптотическим, если X (0), . ..,Х(Г—1) являются нормальными независимыми величинами с нулевым средним и дисперсией а2.
Пусть W (а)=0 при а < Л, а > В, В > Л, где А и В конечны. Докажите, что асимптотическое выражение для дисперсии, приведенное в (5.6.13), будет минимальным при IF (а) = (В —Л)-1 для А^а<^В.
Докажите, что периодограмма в условиях регулярности является состоятельной оценкой для fxxM» если fxxW”^*
Пусть заданы ряд YW со спектром /и^Х) и независимый ряд ^W со спектром fxxW- Пусть XW = YW Для °Ш<^ и XW^W
для Г/2 < t^T—1. Определите приближенные статистические свойства периодограммы 1(хх W*
Докажите, что
Г-1
^хх C^s/T) = (2л)~1^ exp J — £ ~^\ т^ (и), где s—целые»и=о ' Т '
Покажите, что
л
тХХ (“) = $ ехР {’«“} ^хх (“)da*
-л
Покажите, что
л
схИ^ = J ex^VaiA Ix-^PxX-cW^^
-Л
Докажите, что в условиях теоремы 5.6.2
* 2лЛ-1
lim Т т-*«lim Т т-*«$ W^(a)2^ уаг/^(Х) = 2л[1 + г){2Х}] [/ху(Х)]’. .о
lim Т т-*«
lim Т т-*«
(а) Докажите, что
2л
I^xx W ^ 5 ^Г-1 (^—а) ^ХХ (а) ^а# о
где Dr-i (а) задается формулой (5.9.10). Указание: воспользуйтесь выражением (3.2.5).
(Ь) Докажите, что
S-1
/<г> (%)=^L V дг_£ А /<п »
ЛА х '^ м*41 х I £ у A A I ^ у
5=0'/\/
для S^2T— 1.
Покажите, что
2л min txx W < схх (0) < 2л max fxx ^\XX
Докажите, что если для ряда 'г(о=2а(<-“)^(«) и
выполнено условие 2.6.1, то равномерно по Л
Eld'/’W-AWd'/’ (X) |2
= J {[sin Т (%-a)/2]2/[sin (X-a)/2]2} | А (X)-A (a) Р fXX№ da -л
= о(Т).
Если Л (а) имеет ограниченную первую производную, то это выражение равно 0(1) равномерно по X.
Пусть X (0 = Я cos (о^ + Ф) + е (/), t = 0, ..., Т — 1, где 8 (/) — независимые переменные с распределением N (0, а2). Покажите, что оценка максимального правдоподобия а приблизительно совпадает со значением X, на котором достигается максимум 1хх (X), см. Walker (1969).
Пусть X (0, / = 0, ± 1, ...,—действительный ряд со средним 0, удовлетворяющий условию 2.6.2 (Z). Пусть для № (а) выполнено условие 5.6.1. Если ВтТ—>оо при Т—>-оо, то
Г 2л у т/(Л
ЕV т / 1хх \Т )
L s=0
22= 0 (В^Т”2).= 0 (В^Т”2).2л
2
2
= 0 (В^Т”2).
= 0 (В^Т”2).
-J Г<г>(Х-а)/^(a)da
О Покажите это.
Пусть задан действительный ряд X (/), / = 0, ± 1удовлет- т-1
воряющий условию 2.6.1. Пусть, далее, с^ = Т~г 2 ^ W- Покажите, что
V? ^р—^х) асимптотически не зависит от V"t (схх(и)-схх(м)).которая является асимптотически нормальной величиной с нулевым средним и дисперсией 2л2л 2л
2л ^(1 + со$2ма)/хх(а)2^а+2л J exp {iu (а—Р)} fxxxx(a* Р,—a) da dp. ооо
Покажите, что в условиях теоремы 5.6.3 У*Т ^р —сх^ У ВтТ X xVf^xx to~ ^хх (X)] асимптотически нормальны и независимы.
Покажите, что математическое ожидание видоизмененной периодограммы (5.3.13) задается выражением
/ лх -1
f J |№(a)|2da \
/ х л
х J | №> (Х-a)-Я(Т> (X) № (_ а^/Н^ (0) р fxx («) da
-Л
и стремится к fxxW для Х^0(шоб2л).
Докажите, что в условиях теоремы 5.2.6 при Т —> оо
Р supl£HWWfxxQV)<xР supl£HWWfxxQV)<x(1—е-^)<(1—е-^)<
Р supl£HWWfxxQV)<x
Р supl£HWWfxxQV)<x
(1—е-^)<
(1—е-^)<
Пусть fxxW задается формулой (5.6.1), причем № (Р) ограничена. Допустим, что
Покажите, чтоПокажите, чтоSl“llcxx(“)l < *•
Покажите, что
Покажите, что
Esup|f<&(X)-E/m(X)|<^
Для некоторого конечного К* Установите, что supa I j^TL (Х)— to 1 стре- мится по вероятности ко. если ВгТ-> оо. ''
Покажите, что в условиях теоремы 5.4.3 распределение величины
стремится к /-распределению Стьюдента с 2т степенями свободы. (Этот результат может быть использован для указания приблизительных границ доверительных интервалов для Сх4
Пусть X (/), / = 0, ± 1, ...,—действительный ряд, причем ЕХ (/)=0 и cov{X (/+«), X (/)} = cxxW Для и = 0, ± 1, .... Предположим, что
Skxx(«)l < 00•и
Докажите, что существует конечное К, такое, что
Е{,с(хГх(“)-тхх(“)!} <4*
для u = 0, ± 1, ... и Т = 1, 2
Пусть действительный ряд Х(/), / = 0, ± 1, ... , получен из авторегрессионной схемы
X (/) + а (1) X (/- 1)+ ... + а (т) X ^-т^г^
для / = 0, ± 1, ..., где е (/)*— последовательность независимых одинаково распределенных случайных величин со средним 0 и конечным моментом четвертого порядка. Допустим, что корни уравнения
rm + a (1) aw“x-|- ... + a(m) = 0
таковы, что | z | > 1. Пусть а(Г>(1), ..., aST^ (т) —оценки для а (1), ..., а^т), полученные методом наименьших квадратов и минимизирующие выражение
г-1
2 IX (/)4-а<г> (1) X (t-1) +... +а<г> (m) X (t—m)]4.
t= tn
Покажите, что У? [а^) (1)-— а (1), ..., а(т^ (m) — а (т)] стремится по распределению к N^^, IcxxU”*^-1) ПРИ Т—^ °0- Этот результат получили Mann, Wald (1943).
Докажите, что если функцивЦ^ на [0, 1] удовлетворяет для некоторого а, 0 < a s^ 1, условию | g (х) —^(^) | ^ G | х—у |а, то
Gп»Gп»С*( It \
Gп»
Gп»
j 5(x)dx—n-i У. »(—)
0А= 1
Покажите, что для функции fxxW> заДанн°й формулой (5.6.1)» выполнено•
2л х
^ tx^^W=c^x^\ о
Пусть помимо условий теоремы 5.2.1 выполняется с^=0. Покажите, ЧТО
Вт T[E/^W-/xx(M ’’
=(4л)-1 J Vxx^^-^xxmtxx^-aW^^^^
“Л
Покажите, что в условиях теоремы 5.10.1 величина
асимптотически нормальна, причем EG^(X) = ^+O(T-i) и
cov {^хх W> ^хх (и)}
2л ,2л
— — min(X, и) + у J j fxxxx(^ ₽, —,aHxx(aV4xx$Vx dad^- •о 0
Пользуясь результатом упр. 2.13.31, покажите, что выражение
(5.11.20) может быть записано в виде'
Е {(©т _ в)т (0<Г)_0)} ~ лг^глш^ (0)-1 5 и (а) ^’ (а) dam$ (О)-1.
Покажите, что в обозначениях §5.11 выполняется неравенство fxxW^gxx(K) для всех Л.
6
АНАЛИЗ ИНВАРИАНТНЫХВО ВРЕМЕНИ ЛИНЕЙНЫХ СООТНОШЕНИЙМЕЖДУ СТОХАСТИЧЕСКИМИ И НЕКОТОРЫМИДЕТЕРМИНИРОВАННЫМИ РЯДАМИ
Введение
Пусть У (<) и е(/), / = 0, ±1, .... — стохастические действительные временные ряды, а Х(0,/ = 0, ±1—фиксированный векторный временной ряд с г компонентами. В этой главе будут рассматриваться соотношения вида
У(О = ц+ 2 а(^-и)Х(м) + еМ (6.1.1)
W= - 00
где р, —некоторая константа, {а (и)} —линейный 1хг-фильтр. Будем предполагать, что ряд ошибок е,^—стационарный ряд со средним ь0 и спектром мощности fEE (X). Назовем этот спектр мощности спектром ошибок. Он указывает ту степень, в которой ряд У (/) определен линейной фильтрацией ряда X (^). Относительно результирующего ряда У (/) и основного ряда X (/) сделаем допущение, согласно которому значения этих рядов известны при t = 0, ..., Т — 1. Поскольку Ее (/) = 0, то
ЕУ(0 = ц+ 2 a(Z—w)X(w).(6.1.2)
U= - 00
Таким образом, среднее значение ряда У (0 является результатом фильтрации ряда Х(0- Заметим, что, вообще говоря, из (6.1.2) не следует стационарность ряда У (/). Вместе с тем для k > 1 выполняется
cum {УМ, ...,УО = сиш{еМ, ,.„%М.(6-1.3)
поэтому У (/) имеет семиинварианты стационарного ряда, если только порядок их превышает единицу.
Передаточная функция фильтра а (и) задается выражением
А(Х) = 2 а (и) ехр {— (иЦ.(6.1.4)
Ы= - 00
Рассмотрим влияние фильтрации рядов Y (t) и X (/) на поведение этой передаточной функции. Пусть |Ь (и)} — линейный г х г-фильтр, имеющий обратный фильтр (с(ы)}, a {d(и)} —линейный 1x1- фильтр. Полагая
Х1 (0 =
5 c(t—ц)Х(и), 1= - 00
(6.1.5)
получим
х(о =
2 Ь(/-и)Х1(ы).
(6.1.6)
Если, кроме
U:
ТОГО,
УН0 =
= -00
2 akt-^Y^,
(6.1.7)
Р1=
/= - 00
2 а^ и
(6.1.8)
И ■
81(0 =
L«=-00J
2 d(t— u)e(u),
(6.1.9)
М= - 00
то соотношение (6.1.1) примет вид ■
Л(0 = ^i.+ 2 ^-и^хлиН^,
(6.1.10)
где
У =
81 (/
- 00
) = d*a*b (ы).
(6.1.11)
Таким образом, соотношение между фильтрованными рядами Y^t), Х1(<) и е^/) имеет тот же вид, ,что и соотношение (6.1.1). В терминах передаточных функций (6.1.11) .можно переписать в виде
At (X) = D (X) А (X) В (X)(6.1.12)
или
А(Х) = ^§^1.'(6.1.13)
Как видно, передаточная функция, связывающая Y (t) с X (0» может быть определена с помощью передаточной функции, связывающей Yx (/) с Xj (Z) в том случае, когда все необходимые для этого обратные функции существуют.' Заметим, кстати, что такое же соотношение имеет место даже, если 7^(0 из (6.1.7) содержит X в виде
ti=- ООti=- ОО•2 е(<—ы)Х(и) •(6.1.14)
ti=- ОО
ti=- ОО
для некоторого lxr-фильтра {е(и)}. Это замечание будет играть особенно важную роль в дальнейшем при оценивании А (X) предварительным сглаживанием ряда.
На протяжении всей главы мы будем рассматривать случай детерминированного ряда X (/) и стохастического действительного ряда Y (/)• Brillinger (1969а) рассматривал модель
¥(9 = р+ 2 а(/-и)Х(и) + е(0, (6.1.15) и = -оо
/ = 0, ±1, .... в которой ряд Х(0 детерминированный, a Y (<). е(/) —векторные s-компонентные ряды. В гл.8 будет рассматриваться модель (6.1.15), в которой ряд Х(0 — также стохастический.
Метод наименьших квадратов и регрессионная теория
Основу метода наименьших квадратов и линейной регрессионной теории составляют две классические теоремы. Первая из них —теорема Гаусса—Маркова*
Теорема 6.2.1. Пусть
(6.2.1)(6.2.1)Y = aX + e,
(6.2.1)
(6.2.1)
где е есть \хп-матрица случайных величин, причем Ее = 0, Еете = о21, а есть \х к-матрица неизвестных параметров и X есть kxn-матрица известных величин. Тогда •
(Y—aX)(Y-aX)T (6.2.2)
минимизируется при выборе а равным а= YXT(XXT)-1, если матрица ХХТ несингулярна. Этот минимум равен Y (I — Хтх X (XXх)-1 X) YT. Математическое ожидание величины а равно а, а ковариационная матрица а задается выражением Е (а — а)тх X (а — а) = о2 (ХХТ)-1, причем если о-= (п — k)~l Y (I — Хтх X (XXV1 X) YT, то Ёо2 = о2. Кроме того, а является линейной несмещенной оценкой для а с минимальной дисперсией.
Этот результат можно найти, например, в гл. 19 книги Kendall, Stuart (1961). Обратимся к вопросу о распределении величины о1 и а, которую обычно называют оценкой наименбших квадратов величины а.
Теорема 6.2.2. Если в дополнение к условиям теоремы 6.2.1 предположить, что п компонент вектора е являются величинами,
Метод наименьших квадратов и регрессионная теория 205 имеющими нормальное распределение, то ат имеет распределение Nk (ат, о2 (XXт)"1), а ой- имеет распределение огХп-к/(п — к) и не зависит от а.
Непосредственно из теоремы 6.2.2 следует, что величина
/^[(п-^аХХ^И^! —Х^ХХ^Х) YT] (6.2.3) имеет нецентральное /■'-распределение с к и п—к степенями свободы и параметром нецентральности аХХтат/сг2. Как видим, гипотезу а = 0 можно проверить, заметив, что величина (6.2.3) имеет центральное Fk, „.^распределение, когда гипотеза верна. Соответствущую статистику
(6.2.4)
называют квадратом множественного выборочного коэффициента корреляции. Нетрудно видеть, что 0^ #ух ^ 1 • Из (6.2.3) следует также, что ■
RYx^VFkKn — &)]/[! -VFk^n — Л)], (6.2.5) и потому распределение этой величины может быть определено непосредственно из нецентрального ^-распределения.
Пусть й] и й) обозначают /-е компоненты а и а соответственно, а сИ обозначает /-й —элемент диагонали (ХХТ)-1. Тогда доверительные интервалы для aj могут быть получены из рассмотрения центрированной величины
^-аДДс^ (I-X^XX^1 X) YV(n-^)]^2, (6.2.6) имеющей /„_й-распределение.
Эти результаты можно применять для действительных случайных величин и параметров. Однако при анализе временных рядов большинство случаев, представляющих интерес, требуют перехода к комплексным величинам. Верна
Теорема 6.2.3. Пусть •
Y = aX + e, • (6.2.7) где е есть \хп-матрица комплексных случайных величин, причем Ее = 0, Еете = 0, Еет8 = а21, а есть \хк-матрица неизвестных комплексных параметров, X-kxn-матрица с известными комплексными элементами, Y есть 1 х п-матрица с известными комплексными элементами. Тогда
(Y —аХ) (Y —аХ)т
(6.2.8)
минимизируется при выборе а,равным а = YXX (XXх)-1, если матрица XXх несингулярна. Этот минимум равен Y (I — Xх (XXх)-1 X) Yx. Кроме того, Еа = а, Е (а—а)х(а — а) = 0 и Е(а —а)хх X (а-а) = (XXх)’* о2. Если о^п-k^ Y(1 - Хт(XXх)-i X) Yx,то Ео? = о2.
Для распределений величин а и о2 верна
Теорема 6.2.4. Если в дополнение к условиям теоремы 6;2.3 предположить, что компоненты вектора е являются независимыми величинами с распределением N^ (0, о2), то ат имеет распределение N^ (ах, (XXх)-1 а2) и а? имеет распределение o2xi(n—k^ /[2(n—&)] и не зависит от а.
Из этой теоремы можно заключить, что величина
С = [(п —^)аХХтед/[^У (I —Xх (XXх)"1 X) Yx] (6.2.9) имеет нецентральное ^-распределение со степенями свободы 2£ и 2(n — k) и параметром нецентральности аХХтат/о2. Эта статистика может быть использована для проверки гипотезы а = 0. Соответствующее выражение
яХХтят
1^гх|2 = ^-(6.2.10)
является квадратом комплексного множественного выборочного коэффициента корреляции. Нетрудно убедиться, что 0 ^| RYx |2^ 1. Также из (6.2.10) получаем
| R yx ^ = [GM« - *)]/[ 1 + Gh^n - ^)],(6.2.11)
так что распределение этой величины можно определить непосредственно из нецентрального ^-распределения. Сформулированные выше теоремы 6.2.3 и 6.2.4 приведены в работе Akaike (1965). Khatri (1965а) показал, что а и (п—k^o^jn являются оценками наибольшего правдоподобия для а и о2.
Оценка а играет важную роль при прогнозировании математического ожидания уй — переменной, связанной с данным х0. Справедлива
Теорема 6.2.5. Предположим, что выполнены условия теоремы
6.2.4. Пусть также
уй = ах0 + е0,(6.2.12)
где е0 не зависит от е из (6.2.7) и у0 = ах0; тогда у0 имеет распределение Ni (ах0, о2Хо (ХХх)-1х0) и не зависит от о2.
Во многих ситуациях для компонент вектора а из выражения (6.2.7) желательно знать доверительные области. Как мы видели, в случае действительных величин доверительные интервалы могут быть построены, если учесть, что в условиях теоремы 6.2.2 величина (6.2.6) имеет /-распределение. В данном случае возникают осложнения, связанные с тем, что компоненты суть комплексные величины. .
Пусть йу и а} обозначают j-e компоненты а и а соответственно. Пусть также сИ обозначает /-й диагональный элемент матрицы (ХХТ)_\ а w, обозначает
(6.2.13)(6.2.13)(6.2.14)(6.2.14)CyyY (I—ХТ(ХХТ)-! Х)¥т 7 = С.-Л4. n—k»
(6.2.13)
(6.2.13)
(6.2.14)
(6.2.14)
Величина
(^(йу-йу)
имеет вид y^z, где z имеет распределение N^ (0, 1), а о не зависит от z и имеет Ха <«-6)/{2(n—^^-распределение. Тогда
(6.2.15)(6.2.15)ш]1 |йу—йу |2/2
(6.2.15)
(6.2.15)
имеет Р2; 2 („-^-распределение. Доверительная ЮОр-процентная область для Re «у, 1тйу может быть определена из неравенства
(Кейу—Кейу}2 + {1тйу— Imfly}2<2te>yF2; 2 („_6), (Р) (6.2.16)
где F ф) обозначает более чем 100р-процентную точку А-распре- деления. Заметим, что эта область имеет форму круга с центром в Кейу, 1тйу. ■
В некоторых ситуациях предпочтительнее иметь доверительные интервалы для |йу| и argfly. Варианты интервалов можно получить алгебраическим способом из выражения (6.2.16). Пусть
Оу^Кг^; 2(n_t)(P) ,(6.2.17)
тогда область (6.2.16) приближенно может быть представлена следующим образом:
|йу|-Уу^|йу|<|йу|+Уу,
arg йу — arcsin {иу/| оу |} < arg йу ^ arg ау- + arcsin {иу/| a.j Ц.(6.2.18)
Это представление для области приводится в работах: Goodman (1957), Akaike, Yamanouchi (1962).
Границы области (6.2.18) имеют только приближенный характер. Точные 100у-процентные интервалы для | а,-1 могут быть
208 6. Анализ соотношений между стохастическими и детерминированными рядами определены, если заметить, что
ty/-1|a/|a/2(6.2.19)
имеет нецентральное F-распределение со степенями свободы 2 й 2(n— k) и параметром нецентральности |<Zy|2/2. Теперь для построения точных доверительных интервалов можно воспользоваться таблицами для мощностей F-критерия [Pearspn Е. S., Hartley (1951)]. Могут быть использованы также таблицы Fox (1956)..
С другой стороны, для построения приближенных ЮОу-про? центных доверительных интервалов распределение величины (6.2.15) можно определять из центрального F-распределения со степенями свободы
(2 + |a/|W/(2 + |ti/|2)(6.2.20)
и 2(п — к\ Такую аппроксимацию нецентрального F-распределени я приводят Abramowitz, Stegun (1964); см. также Laubscher (1960)..
В случае ■ ф) = arg а; точные границы доверительных 1006процентных интервалов можно определить, заметив, что
{(Im ay cos фу—(Re Су) sin фу} Фу-1/2(6.2.21)
имеет ^(„„^-распределение. Интересно, что эта процедура тесно связана с проблемой Кризи — Филлера [Fieller (1954) и Halperin (1967)]. Описанные выше две процедуры построения точных доверительных интервалов приводят Groves, Hannan (1968).
Если доверительные интервалы требуются одновременно для нескольких компонент а, то можно определять их, исходя из обобщения многомерного /-распределения на комплексный случай. Многомерное комплексное /-распределение обсуждается в работе Dunnett, Sobel (1954); см. также Gupta (1963а), Kshirsagar (1961), Dickey (1967). Тем не менее приведем определение комплексного /-распределения. Пусть г имеет распределение Mf (0, 1), а не зависящая от г величина s2 имеет х^/п-распределение. Тогда z/s имеет комплексное /-распределение с п степенями свободы. Если u = Re/, v=Im/, то плотность этой величины задается выражением
2i/2n-r/2[l +u2 + u2]-1-n/2,(6.2.22)
где — оо<и, и < оо. Здесь мы сошлемся на Hoyt (1947).
Эвристическое построение оценок
Займемся построением оценок интересующих нас параметров. Положим
/?(0 = 2 а(/ —ы)Х(ы).(6.3.1)
Модель (6.1.1) теперь принимает вид
У(0 = р + 7?(0 + е(0.(6-3.2)
Поскольку значения Х(/), / = О, ..., Т — 1, известны, можно вычислить конечное преобразование Фурье
Т-1
d<p (X) = 2 X (0 ехр {— (ХЦ,(6.3.3)
t=o
которое в данном случае представляет собой r-мерную векторную статистику. Определим также
Т-1
d^ (X) = 2 ^ (0 ехр {— iXt}.(6.3.4)
/ = 0
Оценку близости d^ (X) и d‘x ’ (X) дает
Лемма 6.3.1. Предположим, что |Х(0|^М, / = 0, ±1,...,- “ 2|u||a(u)|< оо. Тогда
|d/P (a)—A (a) dx’(а) I ^=4Л4 2lн 11 а(ы) |(6.3.5)
и
U
| d^ (а) - А (а) й*Р (а) | ^ (4М + L) 21«11»(и) |,(6.3.6)
где —оо < а < оо и |а — XI^LT-1.
Пусть s(T) — такое целое число, что 2ns(T)/T близко к X. Положим Т большим. Из выражения (6.3.6) вытекает, что d^ (2л[$(О + $1
А (X) d<p (^Ж1^ +d^> ( 2М1^Ш1) , (6.3.7)
скажем, для s = 0, ±1, ..., ±m. Если е(<) удовлетворяет условию 2.6.1, то, согласно теореме 4.4.1, величины d^ (2л х x[s(^) + s]/T), s = 0, ±1, ±m, аппроксимируются переменными с распределением N? (0, 2лТ/Ее(Х)). Соотношение (6.3.7), как видно, имеет форму соотношения множественной регрессии, содержащего комплексные переменные. Вспоминая теорему 6.2.3,
определим
V^x (X) = (2лТ)-1 d^ (X) d^ (Xf,(6.3.8)
Г& (X) = (2лТ)-1 d^ (X) 5^Ж(6.3.9)
ГЛ (X) = (2m + I)"1 2 W4 (3^M1±£L\ .(6.3.10)
s=-mх'
т•
ЛЙ(Х) = (2т+1)-1 ^ 1^(^ф^-)(6.3.11)
s=-m х,
и предположим, что rxr-матрица fxxW несингулярна. Теперь мы имеем для А(Х) оценку .
А<т> (X) = f Л (X) ® (X)-1,(6.3.12)
а ДЛЯ /ев(Х)—'
^ (X) = 2®™ t^ ^~^х (X) f Л (X)-1 f Л (X)}. (6.3.13)
В теореме 6.^.4 предлагалось в качестве аппроксимирующего распределения для А(Г) (Х)т использовать ^ (А (Х)т), (2т + 1)-1х Xfee(X)f Л(Х))"х, а для g^(X) — распределение [2(2m +1 —г)]’1 X X fee (X) %|(2m+l-r>.
В следующих параграфах оценки (6.3.12) и (6.3.13) будут обобщены и мы уточним предложенные аппроксимирующие распределения.
Для оценки р возьмем
р(Г) = ^ _ А(т> (0) ^р,(6.3.14)
где Су * и Сх’ являются выборочными средними для данных значений Y и X. Ниже в формулировках отдельных теорем будет удобнее пользоваться статистикой р<7> +А(Г) (0) с'х’=сЛ. '
Рассмотренный эвристический подход был предложен в работах: Akaike (1964, 1965), Duncan, Jones (1966), Brillinger (1969a). -
Вид асимптотического распределения
В этом параграфе найдем асимптотические распределения класса элементарных оценок параметров А(Х) и /ее(Х), возникших из эвристических соображений § 6.3. Форма и статистические свойства этих оценок будут зависеть от выполнения условия X = 0(modn). Выделим три случая:
Случай А: для X выполнено Х^О(шобл).
Случай В: для X выполнено Х = 0 (mod 2л) или Х=±л, -Ь Зл,... и Т четно.
Случай С: для X выполнено Х=±л, ±3л,... и Т нечетно.
Предположим, что s(7') —такое целое число, что 2л$(Т)/Т близко к X. (Позднее мы будем требовать, чтобы 2ns (Т)/Т —* X при Т—*оо.) Пусть m—целое неотрицательное число. Пусть также lyx (X) задается выражением (6.3.8). Определим
пг
f^ (Х) = (2/и+I)-1 £ Гуд/ 2я 1^+^ ) в случае А, (6.4.1) s= -пг х
(
-1 m \
£ +£ 11^ (Х+^-) в случае В (6.4.2) s= -m8 = 1/4'
И
пг
№(Х) = W-12 {^ (^-y + -^)
8=1 VX/
+ ГЛ (* + у- ^ } в случае С (6.4.3)
по аналогии с определениями /уу(Х) и f(xx(X). Эти оценки основываются на дискретном преобразовании Фурье и поэтому могут быть вычислены с помощью алгоритма быстрого преобразования Фурье.
В качестве оценок А(Х), fe6(X), ц возьмем
. А(П (X) = фк (X) ^ (X)-1,(6.4.4)
g£>(X) = C(m, ^[/^(^-^(Х)^^)-1^^)], (6.4.5)
где С (т, г)— константа, причем
(6.4.6)(6.4.7)(6.4.6)(6.4.7)q2”^1— в случае А, 2/n+l— гJ
(6.4.6)
(6.4.7)
(6.4.6)
(6.4.7)
С (m, г) = <9
2/п”г ’ в случаях В и С, и, таким образом,
р,(Г) = Су"* — А(Г) (0) с^*
дает выражение для оценки ц. Приведем теорему, показывающую поведение математического ожидания А(Г,(Х) в данном случае.
Теорема 6.4.1. Пусть е(/), / = 0, ± 1, ...,. удовлетворяет условию 2.6.1 и имеет среднее 0. Пусть значения Х(<), ^ = 0, ±1. ...", ограничены в совокупности, ¥^ имеет вид (6.1.1), причем выполнено условие Sl« 11»(“) I < оо. Пусть в задаюидем А(Г) (X) выражении (6.4.4) fyx(^) имеет вид (6.4.1). Тогда вслу-
чае А имеем
ЕА(Г> (Х) =ЕА(Г> (Х) =у д / 2лМТ)-НП jm / 2л[s(T)+s]s=-m 'J •\^
ЕА(Г> (Х) =
ЕА(Г> (Х) =
(
т\ -1
£ Г&(2Мф-+5] И + R(n, (6.4.8) s=-m '' )'
где для конечных К выполняется
\\^ЫКТ-^\\¥РХ(^\\^.(6.4.9)
Такой же характер носят выражения в случаях В и С.
Заметим, что в выражении (6.4.8) для ЕА(Г) (X) основной вклад дает матрица взвешенного среднего передаточной функции А (а). Кроме того, из этого выражения следует, что различие со взвешенным средним тем меньше, чем больше fxx(X). Из теоремы 6.4.1 можно вывести
Следствие 6.4.1. Если в условиях теоремы^АЛ норма ||Гхх(^)-1|] ограничена при Т —+оо, то оценка Am (X) является асимптотически несмещенной.
Вернемся к ■ исследованию асимптотических распределений.
Теорема 6.4.2. Предположим, что выполнены условия теоремы 6.4.1. Предположим также, что 1‘хх (X) несингулярна для достаточно больших Т и 2л$ (Т)/Т —► X при Т —* оо. Тогда Am (X) имеет асимптотическое распределение Nr (А(Х)Т, (2т + 1)-1х X fee (X) fxx (X)-1) в случае А и асимптотическое распределение Nг (А (Х)т, (2/и)-1 fe6 (X) Г/х (X)-1) в случаях В и С. Кроме того, распределение g^ (X) стремится к fee (X) xLm+i-d/P (2m+1 — г)] в случае Кик распределению fee^xlm-rK^m — r^ в случаях В м. С. Предельные нормальное и ^-распределения независимы. Наконец, р/Г) + Кт (0) с(х' имеет асимптотическое распределение ^i(p + A(0)c<P, 2лТ-7ее(0)), не зависящее от А‘Г>(Х), g(eP (X), — оо < X < оо.’".
В случае X^0(modл) из теоремы 6.4.2 следуют приближенные формулы
.Ogee’ (X) = {Dxi<2m+i-n/[2 (2т + 1 г)]} fee (X)2
^(2т+1-г)-^ее(Х)2.'(6.4.10)
В случае Xs 0 (mod л), как это следует из теоремы, дисперсия приближенно равна 2f86(X)a/(2m —г).’
Для поиска предельных распределений амплитуды и фазы можно использовать
Следствие 6.4.2. В условиях теоремы 6.4.2 значения функций от А(Г) (К), gee* (X), р-(Г) + А(П (0) с(Г) стремятся по распределению к значениям тех же функций от пределов переменных, указанных в теореме.
Мы будем пользоваться теоремой 6.4.2 и ее следствием в §6.9 при построении доверительных областей для некоторых параметров. Нередко представляет особый интерес статистика
I Ryx W р = Vyx СЦ f^ W-1 № (W^ ^, (6.4.11) которая дает представление некоторой меры линейного инвариантного по времени соотношения зависимости между рядами У(/), / = 0, ±1, •.., и X (/), t — 0, ±1, ... . Ее распределение при больших выборках дает
Теорема 6.4.3. Предположим, что выполнены условия теоремы 6.4.1 и пусть статистика I^VxWI3 задается выражением (6.4.11). Тогда в случае А при Т —> оо
I R^k (X) |2 = YFr^m +1 -r)]/[l + Frj(2m+ 1 - г)] + оп. н. (1),
(6.4.12) где F — нецентральное F-распределение со степенями свободы 2г и-2(2т+1—г) и параметром нецентральности А (X) f^ (X) х xAW/MW-
Мы вернемся к обсуждению этой статистики в гл. 8. Обозначение опн (1) введено для члена, стремящегося к 0 с вероятностью 1.
Математические ожидания Оценок передаточной функции и спектра ошибок
Вернемся снова к изучению средних значений оценок несколько более общего вида, чем в предыдущем параграфе. Допустим, что нас интересуют оценки параметров модели (6.1.1) с данными значениями Х(/), У ((), / = 0, ..., Т — 1. Пусть 1ух(Х) задается выражением (6.3.8), аналогично которому определяются /уу(Х) и 1хх(Х). Мы построим наши оценки с помощью этих статистик так же, как в (6.3.10); можно, однако, сделать наши оценки более гибкими введением для членов выражения (6.3.10) некоторых весов. Более точно, для весовой функции W (а) будем считать выполненным
Условие 6.5.1. Функция № (а), —оо<а<оо, ограничена, четна, неотрицательна и равна нулю для |а|>л, причем
$ Г(а)с(а=1. (6.5.1)
-Л
Существенными ограничениями на введенную здесь функцию являются, кроме условий 5.6.1, условия неотрицательности и конечности функции.
Чтобы подчеркнуть тот факт, что весовая функция становится более сконцентрированной при возрастании объема выборки Т к оо, введем параметр эффективной ширины Вт, зависящий от Т. Кроме того, периодически продолжим весовую функцию с той целью, чтобы наша оценка обладала необходимыми свойствами симметрии. Таким образом, мы определим функцию '
^‘(a^Bf1 2 №(В?1[а + 2л/])-(6.5.2)
Мы видим, что Wm (а) неотрицательна и
Г(Г)(а + 2л) = 1^(Г)(а),(6.5.3)
причем если Вг—*0 при Т—>оо, то для достаточно больших Т
2л
(6.5.4)(6.5.4)J IF(n(a)da=l. о
(6.5.4)
(6.5.4)
Масса Wm (а) концентрируется в интервале длины 2лВг с центром в точке a = 0(mod2л) при Т—>-оо.
Теперь определим'
^ИХ^лТ-1 ^tt7<n(x-^)im (^.^(6.5>5)
1^(Х) = 2лТ"1 £г<г>(Х—^) Гу^(^) ,(6.5.6)
^(Х^лТ*1 £Г‘Г>(Х—^-) Г/Я^-).(6.5.7)
В качестве оценок дляА(Х), fto(k), р возьмем ^(Х)^^^)^^)-1.(6.5.8)
giP W = f% (X) - № (X) f^ (X)-1 f^ (X)(6.5.9)
и
^ = с^>-Х"ЦО)сТ(6.5.10)
соответственно. Если m велико, то определения (6.5.9) и (6.4.5) по существу совпадают.,1
А(Г) (—Х) = А(Г>(Х).А(Г) (—Х) = А(Г>(Х).Из ограничений на весовую функцию IT (а) видно, что (6.5.11)
А(Г) (—Х) = А(Г>(Х).
А(Г) (—Х) = А(Г>(Х).
Точно так же А(Г) (X) и g^ (X) имеют период 2л и, кроме того, g<p (X) —неотрицательная функция, симметричная относительно 0. Наконец, р(Г) принимает действительные значения как величина, соответствующая изучаемому параметру р.
В дальнейшем нам встретится статистика | Ryx (X) |2, задаваемая выражением
е<т> (М
l^^l^l-^l,(6.5Л2)
имеющим, как это видно, форму множественного коэффициента корреляции, ограниченного 0 и 1. Появляться эта статистика будет главным образом при вычислении дисперсий наших оценок.
Относительно последовательности фиксированных (в противоположность случайным) значений Х(/) мы введем одно важное
Условие 6.5.2. Значения Х(^, / = 0, ± 1, ..., ограничены в совокупности, причем если txx СМ задано выражением (6.5.5), то существует такое конечное К, что
Ilf^WIk Ю^ЦсЯ(6.5.13)
для всех X и достаточно больших Т.
Вернемся к изучению свойств Ат (X) при больших выборках. Верна
Теорема 6.5.1. Пусть e(Z), t = 0, ±/, ..., удовлетворяет условию 2.6.2 (/), а Х(/), / = 0, ±1, ..., удовлетворяет условию 6.5.2. Пусть Y (t), t = 0, ±1, ..., задан выражением (6.1.1), в котором для {а (и)} выполнено условие 21ы 11а (“) I < °0- Пусть также W (а) удовлетворяет условию 6.5.1 и Am (X) задается выражением (6.5.8). Тогда выполнено
= А(Х) + О(ВГ) + О(Т-^), (6.5.14) где остаточные' члены равномерны по X.
Мы видим, что математическое ожидание А‘Г) (X) является по существу (матричным) взвешенным средним функции А (а) с весом, сконцентрированным в окрестности точки X ширины 2лВг. Поскольку это взвешенное среднее представляет собой матрицу, возникают трудности с различными элементами А (а). Если мы желаем уменьшить асимптотическое смещение, то должны пытаться расположить А (а) около константы в окрестности X.
Веса в выражении (6.5.14) зависят от X (/), / = 0, ..., Т — 1. Было бы выгодным сделать Г/х (а), насколько это возможно, близким к константе, так чтобы недиагональные элементы были близки к 0. Последнее выражение в (6.5.14) показывает, что главный член асимптотического смещения АГ(Х) имеет порядок эффективной ширины Вт. Мы имеем
Следствие 6.5.1. Если выполнены условия теоремы 6.5.1 и Вт—*0 при Т—*со, то А<Г) (X) является асимптотически несмещенной оценкой А(Х).
Обозначим элементы А (X) и А<Г) (X) соответственно как А; (X) и А)Г)(Х), /=1, . ••, г. Иногда мы будем интересоваться действительной амплитудой
G; (X) = | А,-(X) |
(6.5.15)
и действительной фазой
Ф] (X) = arg Aj (X).
(6.5.16)
Они могут быть оценены с помощью
G)r>(X) = |Ap(X)|
(6.5.17)
И
Ф^ЦХ)- arg А^ЦХу
(6.5.18)
Теорема 6.5.2. Предположим, что выполнены условия теоремы 6.5.1. Тогда
EG'^ (X) = | ЕЛ/’ (X) | + О (В^Т-^)
-= G, (X) + О (Вт) + О №T-4^, (6.5.19)
причем, если AjO^^^» mo
Е log Gf (X) = log | EA?' (X) | + 0 (B^T-^
- log G, (X) + 0 (BT) + О (T-1/2) + 0 (B^T-1), (6.5.20)
ЕФ^ (X) = arg Af' (X) + О (B^T-^
= Ф/(Х) + О(Вт) + О(Т-^) + О(Вт1Т~1).(6.5.21)
(В этой теореме Е обозначает математическое ожидание, получаемое в виде члена разложения Тейлора, см. Brillinger, Tukey (1964).)
Следствие 6.5.2. Если выполнены условия теоремы 6.5.2 и Вт—*0, ВтТ->-оо при Т—>оо, mo G^' (X) является асимптотически несмещенной оценкой ОДХу
Что касается нашей оценки £мЧ^) спектра ошибок, то мы имеем следующую теорему.
Теорема 6.5.3. Если выполняются предположения теоремы
то
^ (X) = и(X) + о (Вг) + о №VT-^ + О(Т-^). (6.5.22)
Полезно сравнить этот результат с выражением (5.8.22) в случае Р = 1. В пределе мы получим
Следствие 6.5.3. Если выполнены условия теоремы 6.5.3 и ВТ—<-0, ВтТ—>оо при Т—>оо, mo gee^X) является асимптотически несмещенной оценкой ftoW-
Для случая р(Г) мы -можем доказать следующую теорему.
Теорема 6.5.4. В условиях теоремы 6.5.1
(6.5.23)(6.5.23)Ер(Г) = р + О (ВТ) + О (Т-1^).
(6.5.23)
(6.5.23)
Из теоремы 6.5.4 вытекает
Следствие 6.5.4. Если выполнены предположения теоремы 6.5.1 и Вт—>0 при Т—*оо, то р<Г) является асимптотически несмещенной оценкой р.
Асимптотические ковариации предложенных оценок
Чтобы оценивать точность наших оценок, необходимо знать вид их моментов второго порядка. Статистика, которая при этом появляется, определяется выражением
h'xx (X)
= 2лТ-1 I у №«•> <1-J^V \т (^L\ J j «/(Г) (a)2 da
(6.6.1)
Эта статистика имеет такой же вид, как и fxx(X) в выражении (6.5.5), за исключением того, что входящая туда весовая функция W (а) заменена здесь на W (а)2. Обычно последняя более сконцентрированна; однако в том случае, когда № (а) = (2л)-1, Для |а|^л имеем
h</HX) = f^(X).h</HX) = f^(X).(6.6.2)(6.6.2)
h</HX) = f^(X).
h</HX) = f^(X).
(6.6.2)
(6.6.2)
В некоторых случаях мы будем находить оправданным аппроксимацию h*xx (X) функцией Vxx (X). Это дает преимущество сокращения необходимого объема вычислений. Заметим, что если ^хх (X) ограничена, то то же самое справедливо и для h^x (X). Мы можем теперь установить следующий результат.
Теорема 6.6.1. Предположим, что e,(t), / = 0, ±1, ..., удовлетворяет условию 2.6.1 и имеет среднее 0. Пусть X(Z), t = 0, ±1, ..., удовлетворяет условию 6.5.2. Пусть Y (t), t = 0, ± 1,... ..., задается выражением (6.1.1) с таким {а (и)}, что 2|»||а(М)|<оо. Пусть IF (а) удовлетворяет условию 6.5.1. Если ВТ—>-0 при Т—>-оо, то
cov {А<Г) (Х)т, А(Г)(р)т}
= txx (X)-11 (2лТ-*)? У ТГ<Г> (х —^ W"> (ц —^
X т (^) и (^)} ^ М"1+О <т-^
= П {W} Вт1?-^ $ W (а)2 daf^ (Х)-^^ (X) f^ №U (^
+ 0(Т-1).+ 0(Т-1).(6.6.3)
+ 0(Т-1).
+ 0(Т-1).
В том случае, когда выполнено (6.6.2), второе уравнение в (6.6.3) имеет вид
T]{X-p}B?1T-1®(X)-7E8(X)2n $ IF (a)2 da+О (?-*), (6.6.4)
которое можно оценить с помощью
(6.6.5)(6.6.5)Ч {X — р} В^Т-ЧТх ^g^ (X) 2л J IF (a)2 da.
(6.6.5)
(6.6.5)
Из выражения (6.6.3) мы видим, что дисперсия А,Г>(Х) асимптотически имеет порядок BtyT~1, так что справедливо
Следствие 6.6.1. Если выполнены условия теоремы и ВтТ—* оо при Т—юо, то А*Г)(Х) является состоятельной оценкой А(Х). , Заметим также, что из (6.6.3) следует асимптотическая некоррелированность А(Г) (X) и А(П(р) для X^p(mod2n).
На практике мы имеем дело с действительными статистиками. Асимптотическая ковариационная структура ReA(r) (X), ImA(r) (X) приводится в упр. 6.14.22. С другой стороны, мы можем пользоваться статистиками G)T) (X), ф^' (X) и поэтому сейчас изучим их асимптотические ковариации. Определим ТуР (X) как элемент, стоящий- в /-й строке и в А-м столбце матрицы
(6.6.6)(6.6.6)Ч™ (X) = ® (Х)-»ЬЙ (X) f^ (Х)-\
(6.6.6)
(6.6.6)
Теорема 6.6.2. Если выполнены условия теоремы 6.6.1 и Лу(Х), Л^М^0' ^
cov {In Gp(X), In Ср (р)}
= В?Т~* [т| {X - р} + Т] {X + р}] Л $ W (a)2 dafe8 (X)
X Re {Лу ^VW W Ak (X)-i} + О^"1), (6.6.7)
cov (In Gf' (X), Ф^ (p)} = О (Т-Ч,(6.6.8)
cov {Фр (X), Фр(р)}
= Вт1Т-1[п{Х-Н-п{Х + н}]л $ Н7(а)Ча/8Е(Х)
X Re {Лу (Х)-^р (X) ЛЙХр) + О (Т~^ (6.6.9)
для ь к=\, ..., г.
Заметим, что асимптотическая ковариационная структура log СР(Х), такая же, как и Фр (X), за исключением случая Х = 0 (mod л). Мы можем построить оценки ковариаций в теореме 6.6.2, заменив неизвестные Лу (X) и /ее(Х) их оценками. Заметим, что log Gp (X) и ФУ' (р) асимптотически некоррелированны для всех /, к и X, р.
Что касается gP(X), то верна
Теорема 6.6.3. В условиях теоремы 6.6.1
cov{gp(X), gp(p)}
-В^Т-Чт^Х-рН^Х+р^л $№(а)2^^
4-O(T-1) + O(Br1T-?). (6.6.10)
Переходя к пределу, получим
Следствие 6.6.3. Если выполняются условия теоремы 6.6.3 и ВТТ —>оо при Т —>оо, то
Hm BrT cov {gp(X), gp(p)}
- 2л $W(a)Ma[n{X-p} + q{X + p}]fe^ (6.6.11)
и
lim BrTDlngp(X)=2n $ U7(a)Ma[l+i]{2X}]. (6.6.12)
Выражения (6.6.11) и (6.6.12) можно сравнить с выражениями (5.6.12) и (5.6.15). Из этих предельных соотношений видно, что асимптотические свойства моментов второго порядка g^’ (X), такие же, как у gp (X),— оценки спектра мощности, основанной только на значениях е(/), / —0, ..., Т— 1.
В случае р(Г) + А(7) (0) cx1 = Су7* мы имеем следующую теорему.
Теорема 6.6.4. В условиях теоремы 6.6.1
D {р<7> + А(7) (0) <)р} = 2лТ-Vee (0) + о (Т-1).(6.6.13)
Чтобы получить выражение для дисперсии р(П при больших выборках, можно пользоваться приведенным ниже выражением (6.6.15). (См. упр. 6.14.31.) Эта дисперсия стремится к 0 при Т—><х>, поэтому справедливо
Следствие 6.6.4. Если выполнены условия теоремы и ВТТ —► оо при Т'->-оо, то р<7> является состоятельной оценкой р.
Совместное поведение А(7)(Х), g^ (К), р(Г) + А<Г) (0) Сд"* описываетх
Теорема 6.6.5. В условиях теоремы 6.6.1
COV {А<7> (ХГ, g^ (р)} = О (Т.-1),(6.6.14)
cov {А(Г> (Х)т, p^ + A^^c^HOtT-1)(6.6.15)
и,
cov \g£ (X), р<7> + А(7> (0) с<х7>} = О (Т-1).(6.6.16)
Мы видим, что g^’ (р) асимптотически некоррелированны как с А(Г)(Х), так и с р(Г)+ А(П(0)сх*. Асимптотически некоррелированны также А<7> (X) и р(Г) + А,7) (0) с'х'-
Для случая амплитуд и фаз верна
Теорема 6.6.6. В условиях "теоремы 6.6.1
cov {log G‘7>(X), ^>(р)} = О(Т-1),(6.6.17)
cov {фр (X), g<7> (Р)} = О (Т-1),(6.6.18)
cov {logС)7)(X), р(Г, + А(7>(0) с*х,} = О (Т-1)(6.6.19)
и
cov {Ф(7> (X), Р(Г> + А(Г) (О)^*} —О (T~i), / = 1, ...,г (6.6.20)
Асимптотическая нормальность оценок
Теперь обратимся к изучению асимптотических распределений оценок А(П(Х), geP (X), р(7) в предельном случае ВТТ —*оо при Т —>-00.
Теорема 6.7.1. Пусть е,^* 1 = 0, ±1, .••, удовлетворяет условию2.6Л и имеет среднее 0. Пусть также Х(0, 1 — 0, ±1,...,
удовлетворяет условию 6.5.2, и Y (t), /=0, ±1, ..., задается выражением (6.1.1), в котором для {а(и)} выполнено условие 2|u||a(u)|< оо. Предположим, что W (а) удовлетворяет условию 6.5.1. Если ВТ—*0, ВтТ—*оо при Т—*оо, то А^’^), §ееЦМ, •••> А(П(ХД ^’(Xj) асимптотически имеют совместное нормальное распределение с ковариационной структурой, заданной выражениями (6.6.3), (6.6.11) и (6.6.14). Наконец, |1(п_|_А(П(0)сл) асимптотически не зависит от этих переменных и имеет дисперсию (6.6.13).
Из выражения (6.6.14) мы видим, что в указанных выше условиях кт^ и geeXp) асимптотически независимы для всех X и р. Из выражения (6.6.3) видно также, что А<Г)(Х) и Ат(р) асимптотически независимы, если X—p^0(mod2n). Как следует из упр. 6.14.22, ReA<r>(X) и 1тА(Г)(Х) асимптотически независимы. Все эти отдельные случаи асимптотической независимости согласуются с интуитивно подсказанным теоремой 6.2Л.
Теорема показывает, что А(Г> (X) имеет асимптотическое распределение•"
N= (ЕА<П (Х)\ В^Т-^п $ W (a)2 daV™ ^ f№ (X)), (6.7.1)
если Х^ 0 (mod л) и Т(Г) (X) имеет вид (6.6.6). Этим результатом ■мы воспользуемся позднее для получения. доверительных областей А(Х).
Следуя теореме Mann, Wald (1943 а), получим
Следствие 6.7.1. В условиях теоремы 6.7.1 InG'p (X), Фр (X), gee* (X), Су ’ = р<г> + А(Г) (0) ср асимптотически нормальны и имеют ковариационную структуру, заданную выражениями (6.6.7)-(6.6.Ю), (6.6.13) и (6.6.17) —(6.6.20), для / = 1, ..., г.
Заметим, в частности, что в указанных условиях log G)r>(X) и Фр (X) асимптотически независимы..
выполняетсявыполняетсяАсимптотическое распределение А,Г)(Х) в этой теореме становится таким же, как в теореме 6.4.2, как только равенство
выполняется
выполняется
2т + 1 = {2^1П (Х-^) Ч"1 (^У
(6.7.2)(6.7.2)ВТТ
(6.7.2)
(6.7.2)
2л ^ № (a)2 da *
соответствиисоответствииАсимптотическое распределение geP(X) находится ‘в
соответствии
соответствии
с теоремой 6.4.2, поскольку в случае, когда (6.7.2) велико, Х2-распределенная переменная имеет большое число степеней свободы и близка к нормальной.
Оценивание импульсной характеристики
В предыдущем параграфе рассматривались вопросы оценивания передаточной функции А (Л). Теперь мы займемся задачей оценивания соответствующей функции импульсной характеристики (а(ы)}. С использованием А(Х) она задается выражением
- 2л
a(«) = (2n)-JJ А(Х)ехр{ш4<&, м = 0, ±1, .... (6.8.1) о .
Пусть А(Г) (X) является оценкой А(Х) и имеет рассмотренный ранее вид. Пусть также РТ — последовательность положительных целых чисел, стремящаяся к оо вместе с Т. В качестве оценки а (и) рассмотрим рт- 1■
а(Г> (и) = Рт1 У А(Г) {2nplPT) exp \12ири]Рт\, и = 0, ± 1, ... . Р=о' '
(6.8.2)
Заметим, что, пользуясь свойствами симметрии А1П(Х), пределы суммирования в выражении (6.8.2) можно сократить до 0^р^(Рт~1)/2 в членах ImA(T), ReAm. Заметим также, что оценка имеет период Рт и поэтому, например,
ат( —ы) = а(П(Рг—и).(6.8.3)
Может быть доказана
Теорема 6.8.1. Пусть е(/), / = 0, ±1, ..., удовлетворяет условию 2.6.1 и имеет среднее 0. Пусть Х(0, / = 0, ±1, .... удовлетворяет условию 6.5.2. Допустим, что Y (t) задано выражением (6.1.1), в котором для (а(м)} выполнено условие 21“|Х ха(и)|<оо. Пусть далее W (а) удовлетворяет условию 6.5.1, а а^(и) задается выражением (6.8.2). Тогда "
Еа,Г)(и) ‘
рг-1
= Рт1 2 ^ (2лр/Рг) ехр \12лри/РТ\ + О (Вт) + О (Т~ !/2) р=0
=а(м)+ 5 а<и + кРт) + О(ВтНО(.Т-^\(6.8.4)
Жъ\ видим, что при больших Рт и малых Вт математическое ожидание представляет собой по существу желаемое а (и). Из этой теоремы вытекает **
Следствие 6.8.1. Если выполнены условия теоремы 6.8.1 и Вт-^0, Рт—^оо при Т—>оо, mo ат (и) является асимптотически несмещенной оценкой.
Обратимся теперь к изучению моментов второго порядка оценки а(П(«)- Прежде всего определим
У‘л (X) = f^ (X)-1 h& (X) f^ ^ =2= f^ W\ (6.8.5)
а после этого —
Л(Г,(«, У)
рт~х
= РУ 5 ехР {1'2лр(и —У)/^т}/ев(2лр/Рг) Т‘п(2лр/Рг). (6.8.6) р=0
Эго выражение ограничено при тех условиях, которые мы считаем выполненными. Верна
Теорема 6.8.2. Если выполнены допущения теоремы 6.8.1 и Вт^Рт1, Вт—+0 при Т—*оо, то
«я\атки\ ахтЧ^
^РУВУТ-^я^ W (df daA{T> (и, v) + O(T~4 и, о = 0, ±1, ....
(6.8.7)
• Заметим, что из (6.8.6) следует, что асимптотически ковариационная матрица a(J) (м) не зависит от и. Кроме того, асимптотически ковариационная матрица am(u) и а1П(и) зависит от разности и — у и поэтому а(Г)(и), и = 0, ±1, ..., можно рассматривать в некотором смысле как процесс, имеющий ковариации стационарного временного ряда. Переходя к пределу, мы получим
Следствие 6.8.2. Если выполнены условия теоремы 6.8.2 и РтВтТ—► оо при Т—>оо, то а<п (и) является состоятельной оценкой а (и).
Что касается совместного поведения а(Г) (м) и g^ (X), то верна
Теорема 6.8.3. В допущениях теоремы 6.8.1
cov |а(П (иу, g& (X)} = О (Т~1).(6.8.8)
Мы видим, что а(Г> (ы), g^W асимптотически некоррелированны при всех и, X. Для предельного распределения верна
Теорема 6.8.4. Если выполнены условия теоремы 6.8.1 и РТВТ—*0 при Т—*оо, mo a(r> (uj, ..., а(Г)(иД g^ (XJ, ... • • • > See* (Лк) асимптотически нормальны и имеют ковариационную структуру, задаваемую выражениями (6.6.10), (6.8.7) и (6.8.8).
В теореме 6.8.2 мы требовали, чтобы ВТ^ Ру1. Из выражения (6.8.7) видно, что мы должны брать РТВТ столь большим, насколько это возможно. Представляется разумным выбор Рт = В?1, поскольку в данном случае дисперсия а(Г| (и) асимптотически имеет порядок Т-1. Однако при этом мы не сможем из выраже-
ния (6.8.7) выделить главный член. В случае же РТВТ —>-0 npS обладающим в (6.8.7) является первый член. В итоге мы можем асимптотически сравнить порядок этой дисперсии с порядко| дисперсии величины Am (X), т. е. с В^Т^.
Доверительные области
Предложенные в этом параграфе доверительные области буду! основываться на асимптотических распределениях, полученные в § 6.4. Их построение будет согласовываться с асимптотич^ скими распределениями § 6.7.
Предположим, что оценки A,n (X), pm, g^ (X), а(П (м), исполь» зующие весовую функцию W (а), построены так же, как в § 6.5) Сравнение асимптотических распределений, полученных для А(Г,(^| в теоремах 6.4.2 и 6.7.1, приводит к соотношению
(гт+О-^Вт1?-^ J F(a)2da.(6.9.1|
Как следует из теоремы 6.7.1, распределение А<п (Х)т може^ быть аппроксимировано распределением
N= (А (X)t (2m + l)-Vee(X) f & (X)-1) в случае А (6.9.^ или
^ДА(Х)\ (2т)-1/ее(Х))^(Х)-1 в случаях В и С. (6.9.3)
Что касается распределения g^1 (X), то соответствующим аппроксимирующим распределением служит
»“У™ А<6М)
И
/ев (X) Xgzn—гтх/q г\ к\
—2m"r" ' в случаях В и С.(6.9.5)
Таким образом, Юф-процентный доверительный интервал для fee (X). дается выражением
йр(Х)2(2т+1-г)йр(Х)2(2т+1-г)^ fee (X) ^^ fee (X) ^g<T>(X)2(2m+l-r)g<T>(X)2(2m+l-r)•2(201+1-0 ( 2•2(201+1-0 ( 2^2(201+1-0^2(201+1-0(6.9.6)(6.9.6)
йр(Х)2(2т+1-г)
йр(Х)2(2т+1-г)
^ fee (X) ^
^ fee (X) ^
g<T>(X)2(2m+l-r)
g<T>(X)2(2m+l-r)
•2(201+1-0 ( 2
•2(201+1-0 ( 2
^2(201+1-0
^2(201+1-0
(6.9.6)
(6.9.6)
в случае А и подобными выражениями в случаях В и С. Доверительный интервал для log f№ (X) нетрудно получить алгебраически из (6.9.6).
Если теперь Сц обозначает /-й диагональный элемент (2т-Ц)-Ч^(Х)-1 (6.9.7^
и для Cjj^s СМ введено обозначение Wj, то, как следует из рассуждений § 6.2, ЮОр-процентная доверительная ■ область для ReA/n (X), ImA)n(X) может определяться, из неравенства
{Re A, (X)—Re А^ (Х)Н {Im А, (X) - Im Af' (X)}?
^2ШуЁ2; 2(2m+i-r)(Р)- (6.9.8)
Эту область рассматривали Akaike (1965), Groves, Hannan (1968). Если ЮОР-процентные доверительные области требуются одновременно для всех Лу(Х), /=1, ..Г, г, то можно воспользоваться результатом из упр. 6.14.17 и рассматривать область .
| Re А, <М — Re Af> (X) | < (^rWjF2r; 2(2m+l-r) (Р))1/2,
| Im A, (X)-Im Af (X) | < ^Ргг. 2(2m+1_r) (P))1^, (6.9.9) / = 1, r.
Если положить•
'Ы/ = (2гш/2г;2(2т+1_и(Р))1/2,(6.9.10)
то область (6.9.9) приближенно совпадает с областью _ |Лр(Х)|-Н/<|Л/(Х)|^Л^>(Х)| + «/, . '
arg Af1 (X)—arcsin\uj!\ A^ (X) |} < arg A, (X)■
^ arg A^1 (X) + arcsin {«у/1 ЛуГ) (X) |},(6.9.11)
/-1. .... r,
дающей совместную доверительную область для действительных амплитуд и фаз. Области в такой форме рассматривали Goodman (1965), Bendat, Piersol (1966). Точные процедуры, основывающиеся на (6.2.19) и (6.2.21), могут также быть использованы для построения доверительных интервалов отдельных |Ду(Х)| и ФУ(Х). Они включают аппроксимацию распределения
нецентральным /•’-распределением со степенями свободы 2, 2(2т+1—г) и параметром нецентральности | Ду (Х)|2/2, а также . аппроксимацию распределения-
wf1/2 {Im А^ (X) cos фу. (X) — Re А<^ (X) sin Фу (X)} (6.9.13)
- распределением /2 (2m_f_r) с последующим нахождением границ интервалов алгебраическим путем.
Иногда может представлять интерес проверка гипотезы А (Х)=0. Она может проводиться с помощью аналогов статистик (6.2.9) и (6.2.10), а именно:
(2m — 1) А<г> (X) Ях (X) A^X)t■
75^(о.у.и;
И
IRyx WI2=f« (X) f^ (X) -ч^ (Х)//% (X).(6.9.15)
В случае А (X) = 0 статистика (6.9.14) имеет асимптотическое F2; 2(2^+1-г)-Распределение; соответственно последняя статистика имеет вид
Р±7^Л(2,в+1-г>:2г+1]_1.(6.9.16)
Обратимся теперь к задаче определения доверительных границ для элементов а<Г)(и). Подобно тому, как это делалось в § 6.8, вычислим статистику
Ру — 1
Л<г, = р?1.£ g$№Wx №У\.(6.9.17)
р=07
Пусть Л{р обозначает /-й диагональный элемент Л<Г). Тогда теорема 6.8.4 в качестве приближенного ЮОР-процентного доверительного интервала для а;- (и) предлагает
af' (и) - [Рт^Т-^л J Г (a)8 daA'-f]1/2 г (-^) < а, (и)
< а^ (и) + [р^Вт1?*12л J Г (а)2 daA<p]1/2 г (Ц^) . (6.9.18)
Совместные доверительные области для а^и^, ..., а^ (и,) могут быть построены с использованием неравенства Бонферрони; см. Miller (1966).
Рабочий пример
В качестве первого примера приведем исследование соотношения между рядом В^ месячных средних температур в Берлине и рядом V (0 среднемесячных температур в Вене. Поскольку эти ряды обладают выраженной годовой изменчивостью, мы прежде всего посезонно выправим их, вычисляя средние значения для каждого месяца всего периода наблюдений и вычитая затем эти средние из соответствующих месячных величин. Если У (/) обозначает выправленный ряд для Берлина, то
К-1
(6.Ю.1)
/ = 0, .... 11; 6 = 0К—\и А = Т/12.
Пусть X (() обозначает такой же выправленный ряд для Вены. Эти ряды представлены на рис. 6.10.1 и 6.10.2. Исходные ряды .представлены на рис. 1.1.1.
Рис. 6.10.1. Сезонно приведенный ряд среднемесячных температур по Цельсию для Берлина за 1920—1930 гг.
Рис. 6.10.2. Сезонно приведенный ряд среднемесячных температур по Цельсию для Вены за 1920—1930 гг.
Выбранный нами для этих температурных рядов период включает в себя годы 1780—1950. Определим различные статистики таким же способом, как в § 6.4. Выбирая в действительности Т = 2048, можно вычислить необходимые дискретные преобразования Фурье с помощью алгоритма быстрого преобразования Фурье. Для статистики /уу(М> f(YxW' FxxW положим zn=10.
Результаты вычислений приведены на ряде рисунков. Рис. 6.10.3 представляет собой графики \sFyyW и lg See’W, первый из которых представлен верхней кривой. Если мы-воспользуемся выражениями (5.6.15) и (6.6.12), то можем найти асимптотические стандартные ошибки этих величин, равные в обоих случаях 0.095 для XЙ0(modл). На рис. 6.10.4 изображен график величины РеЛ<г>(Х), изменяющейся вблизи значения 0.85; на рис. 6.10.5— трафик величины 1тЛ(П(Х),изменяющейся вблизи 0; на рис. 6.10.6— .график величины GtT)(K), значения которой расположены вблизи 0.9; на рис. 6.10.7 представлен график значений Ф<Г)(X), расположенных вблизи 0; на рис. 6.10.8 —график величины |7?ух(Х)|2, которая изменяется вблизи 0.7. Напомним, что эта статистика указывает ту степень, в которой ряд Y линейно определен рядом X. Hi рис. 6.10.9 изображен график а<Г)(и) для |и|^50. Как следует из (6.8.7), асимптотическая стандартная ошибка этой статистики равна 0.009. Значение а<г> (и) равно 0.85. Другие значения несущественно отличаются от 0. ■
Наши вычисления приводит к соотношению
У(0 = 0.85Д (0+8(0» (6.10.2)
1.0 .8 .6 А .г
о
-2 -А
-6 -.8
Рис. 6.10.3. Оценки спектра мощности для температур в Берлине и спектра' ошибок сезонно приведенного ряда температур в Вене за 1780—1950 гг. (логарифмический масштаб). (По горизонтали — частоты в цикл/месяц.) ,Рис. 6.10.3. Оценки спектра мощности для температур в Берлине и спектра' ошибок сезонно приведенного ряда температур в Вене за 1780—1950 гг. (логарифмический масштаб). (По горизонтали — частоты в цикл/месяц.) ,0 Л.2 Л .4.5х/г«0 Л.2 Л .4.5х/г«-1.0 -1.2 -1.4
Рис. 6.10.3. Оценки спектра мощности для температур в Берлине и спектра' ошибок сезонно приведенного ряда температур в Вене за 1780—1950 гг. (логарифмический масштаб). (По горизонтали — частоты в цикл/месяц.) ,
Рис. 6.10.3. Оценки спектра мощности для температур в Берлине и спектра' ошибок сезонно приведенного ряда температур в Вене за 1780—1950 гг. (логарифмический масштаб). (По горизонтали — частоты в цикл/месяц.) ,
0 Л.2 Л .4.5
х/г«
0 Л.2 Л .4.5
х/г«
Рис. 6.10.4. Оценка действительной части передаточной функции Re Л(г> (X)для приведенного ряда температур Берлина температурами в Вене. (По гори-зонтали-частоты в цикл/месяц.)
О.1О.1
О.1
О.1
.Х/2тГ.
Рис. 6.Ю.5. Оценка мнимой части передаточной функции Im Л<Г) (X) для при-веденного ряда температур Берлина температурами в Вене. (По горизонтали—частоты в цикл/месяц.)
Х/2л
Рис. 6.Ю.6. Оценка амплитуды передаточной функции G<7) (X) для приведен-ного ряда температур Берлина температурами в Вене. (По горизонтали—час-тоты в цикл/месяц.)
Рис. 6.10.7. Оценка фазы передаточной функции ^<^(Х) для приведенного ряда температур в Берлине температурами в Вене. (По горизонтали—частоты в цикл/месяц.)
Рис. 6.10.8. Оценка когерентности | /?^?х (^) I2 температур в Берлине и Вене за 1780—1950 гг. (По горизонтали—частоты в цикл/месяц»)
Рис. 6.10.9. Оценка коэффициентов фильтра а(Г>(«) для приведенного ряда температур в Берлине рядом температур в Вене. (По горизонтали—упреждение или запаздывание в месяцах.)
в котором спектр мощности е (/) имеет вид нижней кривой на рис. 6.10.3. Мы подправили мгновенное соотношение методом наименьших квадратов и пришли к простым регрессионным коэффициентам У (/) и X(t), равным 0.81. Если допустить, что е(/) независимы и одинаково распределены, то соответствующая оценочная стандартная ошибка равна 0.015. Оценочная дисперсия ошибки равна 1.57.
В качестве второго примера приведем результаты частотной регрессии ряда среднемесячных температур, отмечавшихся в Гринвиче по отмеченным среднемесячным температурам в остальных тринадцати местах, указанных в табл. 1.1.1. Мы подвергнем эти ряды предварительной фильтрации, устранив месячные средние и линейный тренд. Исходные данные для этого случая представлены на рис. 1.1.1.
Построим оценки таким же способом, как в (6.4.1)—(6.4.5), полагая в них т — 57. Необходимые для этих вычислений преобразования Фурье мы определим при помощи алгоритма быстрого преобразования Фурье с Т = 2048. Для рассматриваемого случая на рис. 6.10.10 представлены С/7"* (X), Ф)Г)(Х), где / = 1, ..., 13; на рис. 6.10.11 изображен график Iggee’Wl на рис. 6.10.12 представлена величина |^гх(Х)|2, определяемая
G^W
Рис. 6.10,10. Оценочные амплитуды и фазы для сезонно приведенного вычитанием ряда температур в Гринвиче, полученные по подобным рядам температур Других тринадцати станций за 1780—1950 гг.
ф^^
ЭдинбургДе-БилтБудапештСтокгольм
Рис. 6.10.10 (продолжение).
Рис. 6.10.10 (продолжение).Рис. 6.10.10 (продолжение).
Рис. 6.10.10 (продолжение).
Рис. 6.10.10 (продолжение).
l9A.(r)W
Рис. 6.10.11. Логарифм оценочного спектра ошибок для приведенного ряда температур в Гринвиче Igg^W по температурам на остальных тринадцати станциях.
Рис. 6.10.12. Оценка множественной когерентности Ifly^WI2 ряда температур Гринвича и остальных тринадцати станций.
выражением (6.4.11). Спектр мощности для Гринвича приведен на рис. 7.8.8.
В табл. 6.10.1 приводятся результаты мгновенной множественной регрессии для ряда Гринвича по остальным тринадцати рядам. Оценочная дисперсия ошибки такого анализа равна 0.269. Квадрат множественного коэффициента корреляции этого анализа равен 0.858.
Оценочные амплитуды G(^ (X) колеблются как функции от X около горизонтальных уровней. Самые высокие уровни соответствуют Эдинбургу, Базелю и Де-Билту в указанном порядке.. Вместе с тем, как следует из табл. 6.10.1, станции в Де-Билте, Базеле и Эдинбурге имеют наибольшие выборочные коэффициенты регрессии, убывающие в этом же порядке. Каждая из оценочных фаз Ф)Г)(Х), соответствующих данным станциям, близка к константе вблизи нуля, что указывает на отсутствие опережающих или запаздывающих фаз и на мгновенность связей этих станций.- Поскольку оценочные амплитуды остальных станций уменьшаются, функция оценочной фазы, как видно, становится более неустойчивой. Это же можно было предполагать из вида выражения. (6.6.9) для асимптотической дисперсии оценки фазы. Кроме того, наименьшая оценочная амплитуда соответствует Нью-Хейвену, штат Коннектикут, что можно объяснить большим удалением от Гринвича.
Таблица 6.10.1.
Коэффициенты регрессии для ряда Гринвича по рядам для остальных городов
Город
Выборочный коэффициент регрессии
Оценочная стандартная ошибка
Вена
—0.071
0.021
Берлин
-0.125'
0.023
Копенгаген
0.152
0.022
Прага
—0.040
0.010
Стокгольм
—0.041
.0.016
Будапешт
-0.048
0.019
Де-Билт
0.469
0.022
Эдинбург
0.305
0.014
Нью-Хейвен •
0.053
0.009
Базель
0.338
0.016
Вроцлав
0.030
0.017
Вильнюс
^0.024
0.009
Трондхейм
—0.010
0.013
Как можно видеть, оценочная множественная когерентность |/?Й W I2 близка к константе, равной 0.87. Эта константа близка
к величине 0.858, полученной при мгновенной множественной регрессии. Наконец, оценочный спектр ошибок gee^X) постоянно убывает при возрастании X.
Дальнейшие исследования
Вернемся к исследованию природы различных полученных нами результатов для независимых рядов Х(^). Прежде всего рассмотрим смещение оценки А(7)(Х). Как видно из выражений (6.4.8) и (6.5.14), математическое ожидание А(7) (X) является матричным взвешенным средним А (ос) с весами, зависящими от 1хх(а)* Выражения (6.4.8) и (6.5.14) значительно упростятся, если предположить., что функция 1хх (а) близка константе по ос и ее недиагональные члены близки к 0. Приближение к нулю недиагональных членов значительно упрощает вид А (ос). Продолжая исследование остаточного члена (6.4.8), будем предполагать, что главную роль играет член со взвешенным средним в случае, когда ||f(xx (X)"1 II мало или fxxWHe имеет острых пиков. -
Далее мы рассмотрим асимптотические свойства второго порядка А(7)(Х). Как следует из выражения (6.6.4) и теоремы 6.4.2, для того чтобы асимптотически уменьшить дисперсию элементов А(7)(Х), нам следует выбирать X (/)» / = 0, 4^1, ..., таким образом, чтобы диагональные элементы fnW"1 были достаточно большими. Пусть заданы диагональные элементы fflity, /=Д,... ..., г, матрицы f(xx(X). Согласно упр. 6.14.18, .
Е | А^ (X) - А, (X) |3 > ftp (X)-1; (6.11.1) равенство достигается в случае, когда недиагональные элементы равны нулю. Мы опять видим преимущества того случая, когда недиагональные элементы матрицы fxxW близки к нулю, а диагональные достаточно большие.
Из близости к нулю недиагональных элементов можно извлечь еще некоторые преимущества. Согласно (6.6.4), из этого факта следует почти некоррелированность и почти независимость статистик А^' (X), А^.' (X), l^j<^^r, значительно упрощается также их интерпретация и асимптотические свойства.
Для получения приемлемой оценки А(П (X), — оо<Х<оо, следует искать такой процесс Х(/), / = 0, ±1, ..., чтобы матрица f^ (а) была близка к константе по а, имела недиагональные члены, близкие к нулю, и достаточно большие диагональные члены. Позднее мы увидим, что такими свойствами обладает ^хх(а) процесса X(ft, который является процессом белого шума с независимыми компонентами, каждая большой дисперсии.
В большинстве ситуаций процесс X(ft, / — 0, ±1, ..., предстает перед нами как свершившийся факт, однако, согласно § 6.1,
свойства Х(/) легко изменить посредством фильтрации. Можно построить
(6.11.2)(6.11.2)Х,(/) = 2 с(/-ы)Х(м),
(6.11.2)
(6.11.2)
и— - 00
/ = 0, ..., Т—1, для rxr-фильтра {с(и)) и оценить затем передаточную функцию Af (X), переводящую У^ в Х^/), / = 0, ±1, ... • Пусть эта оценка будет А£Г) (X).' Тогда в качестве оценки для А (X) можем рассмотреть
А(Г)(Х) = Ар(Х)С(Х). (6.11.3)
Из (6.1.10) и (6.5.14) следует
Ef^.W^E ^ ^-^ А (у) С (^-s) Ч^^), (6.11.4)
из чего заключаем, что нам нужно искать такой фильтр С(Х), чтобы А(Х)С(Х)-1 было не очень большим по X. Такую операцию называют предварительной фильтрацией. Ее применение весьма существенно даже в простых ситуациях. Рассмотрим общую модель, в которой У (/) связан с X (/) через запаздывающий аргумент и:
У ^=aX^t —vH^Y(6.11.5)
В этом случае
Т-1Т-1S= 1S= 1А(Х) = аехр{—iXv}=acosXu—iasinXv, - (6.11.6) так что
Т-1
Т-1
S= 1
S= 1
EtvztTi ( л2jts\ 2nsv к ту /2л$\
№m X—— 1 cos— 1Чх (у ) • (6.11.7)
В случае когда и достаточно большое, знак cos2nsu/T быстро меняется с изменением s. Ввиду сглаживания выражение (6.11.7) будет гораздо ближе к нулю, чем
Г-1
(6.11.8)(6.11.8)acosXy ^Г‘г> (х—^) 1^х (у) •
(6.11.8)
(6.11.8)
Согласно предыдущему обсуждению, следует использовать предварительную фильтрацию с. передаточной функцией С (X) = = ехр{—iXvY т. е. выполнять спектральные вычисления с рядом Х1(^) = Х(/—у) вместо X (/). Таким образом, оценим А (X)
выражением ехр {— iXv\ №хг Wl^x» W- ЭтУ процедуру предложили Darzell, Pearson W. J. (1960), Yamanouchi (1961) и Akaike, Yamanouchi (1962). На практике предполагается использование запаздывания и перед этими вычислениями. Одной из причин выбора запаздывания является стремление максимально увеличить кросс-ковариацию рядов Y (t) и X^ty
В § 7.7 процедура предварительной фильтрации будет обсуждена в случае векторного ряда Х(/). Она основана на методе наименьших квадратов для выбора предварительной временной модели и последующего спектрального анализа ряда X (/) и остатков.
До сих пор мы говорили о путях улучшения оценки А(Г)(Х). Другие оценки g^ ^У р,(Г), а(Г)(ц) связаны с этой весьма органично. Поэтому можно ожидать улучшения статистики А(П (X) в результате улучшения этих добавочных статистик. В общих словах мы считаем, что лучшей оценкой связи между Y (/) и X(Z), / = 0, ±1, ..., будет соотношение в виде множественной регрессии ¥ (/) по Х(/) с ошибками в виде шума. Для сведения этой оценки к такому виду следует использовать все априорные сведения. ,
Приведем несколько комментариев по поводу вычисления статистик. Оценки основываются на непосредственном использовании дискретного преобразования Фурье рассматриваемых рядов. Это делается для упрощения их выборочных свойств. Естественно, при вычислении дискретного преобразования Фурье имеет смысл пользоваться алгоритмом быстрого преобразования Фурье. Другое важное упрощение результатов следует из того, что оценки §6.4 могут быть получены непосредственно из стандартного множественного регрессионного анализа действительных переменных. Рассмотрим случай X ^ 0 (mod л). Согласно обсуждению из § 6.3, модель (6.1.1) приводит к приблизительному равенству
^(^> ^2л [s (Т)+ s]^ е д ^ dj^ ^2л [s (7) + s]^ _|_^(Г) ^2л [s (7) + s]^ (6.11.9)
s = 0, ±1, ..., ±m, для 2л5(Т)/Т, близких к X.
Для действительных величин это можно записать в следующем виде:
Red^ (2л[$^)-Н) де а (X) Re d<? (^1Пр±5)- Im A(X) Im d£’
Im dy' (Im dy' (2л [s(T)+$]Т2л [s(T)+$]ТA Re А (X) Im dp (?1Шр±^ + Im А (X) Re dp ^я[5-ф^Г + Im dp (*^ШШ2Л ,A Re А (X) Im dp (?1Шр±^ + Im А (X) Re dp ^я[5-ф^Г + Im dp (*^ШШ2Л ,(6.11.10)(6.11.10)
Im dy' (
Im dy' (
2л [s(T)+$]Т
2л [s(T)+$]Т
A Re А (X) Im dp (?1Шр±^ + Im А (X) Re dp ^я[5-ф^Г + Im dp (*^ШШ2Л ,
A Re А (X) Im dp (?1Шр±^ + Im А (X) Re dp ^я[5-ф^Г + Im dp (*^ШШ2Л ,
(6.11.10)
(6.11.10)
s = 0, ±1, ..., ±/n. Ввиду того что Redp (2n[s(T)+s]/T), Imdp (2л [s (T)+s]/T), s = 0, ±1, ..., ±/n,— приблизительно некоррелированные переменные, соотношения (6.11.10) имеют форму множественного регрессионного анализа с матрицей регрессионных коэффициентов .
(ReA(X)ImA(X)](6.11.11)
и дисперсией ошибок л77е8(Х). Поэтому оценки интересующих нас параметров получаются из множественного регрессионного анализа, если за Y взять матрицу
[ П ^(Т\ (^Л [S (Т) Ч” $1 \ Т Л (Г)[s (Т^ + $] \ Л 1 111
Redp ( у ) Imdy (— т ) ’ s==0’ ±1’ •--^^ , (6.11.12)
а за X —матрицу
" Redp (^1ЦР±^ Im dm ^"[^m5^*
- imd? (&№+£!) Redl/, (У£Щ+^ 's-°- ±‘ ±mJ-
(6.11.13)
Оценки в случае X = 0 (mod л) получаются аналогичным образом.
Заметим, что модель (6.1.1) может использоваться даже в том случае, когда Х(/), / = 0, ±1, ..., не являются векторными величинами. Например, если мы желаем исследовать возможность нелинейных соотношений между действительными рядами Y (/) и X(t), t = 0, ± 1, ..., можно положить в (6.1.1) .
(6.11.14)(6.11.14)х.у^х^, x.w-vx №, Х3 (h=X^X(t~l),
(6.11.14)
(6.11.14)
Сравнение трех оценок импульсной характеристики
Пусть модель, рассматриваемая в этой главе, имеет более простой вид.
У(0 = р + 2 а(и)Х(/-«) + е(0, / = 0, ±1,(6.12.1)
. и = - т
для некоторых конечных т, п. Это случай конечной зависимости Y (0 от ряда Х(/), / — О, ± 1, • • • Займемся сравнением трех часто используемых оценок коэффициентов а (—т), ..., а (0), ..., а (п), а именно оценки из § 6.8, оценки наименьших квадратов и асимптотически эффективной линейной оценки.
Для начала заметим, что достаточно рассмотреть простую следующую модель:
У(0 = ^ + аХ(0 + е(0, * = 0, ±1, ....(6.12.2)
В самом деле, (6.12.1) можно представить в виде
V (0 = р + [а(—т) ... а(п)]V (0 = р + [а(—т) ... а(п)]X Ц+т1)"_ХЦ-п)_X Ц+т1)"_ХЦ-п)_+ е(<),+ е(<),(6.12.3)(6.12.3)
V (0 = р + [а(—т) ... а(п)]
V (0 = р + [а(—т) ... а(п)]
X Ц+т1)"
_ХЦ-п)_
X Ц+т1)"
_ХЦ-п)_
+ е(<),
+ е(<),
(6.12.3)
(6.12.3)
что имеет вид (6.12.2) с увеличенным числом измерений.
В § 6.8 была принята следующая оценка а соотношения (6.12.2)
аУ^РУ^А^^У(6.12.4)
Из (6.6.4) следует
cov{A<r>(^),А'г>(М)|
~/в^-^л^сс^ее^)^ P = q, '
0,p#=q,(6.12.5)'
приблизительно равнаприблизительно равнатак что ковариационная матрица ар
приблизительно равна
приблизительно равна
(6.12.6)(6.12.6)ВУТ-12л j Г (a)2 da РУ £ fee (^) f® (^ "1р
(6.12.6)
(6.12.6)
Частный случай модели (6.12.2) предполагает также использование метода наименьших квадратов, минимизирующего
2 [У(/)-Н-аХ(0]2 ( = о
(6.12.7)
(6.12.8)(6.12.8)
(6.12.8)
(6.12.8)
относительно р, и а, что приводит к оценкеа^с^с&ф)-1.
которую можно приблизить следующим образом:
= СЁ' А"'® (^Й ( Е ® (^Й". (6.12.9)
Ь = ох 7 х И ') \р = о х ')
Используя (6.12.5) для ковариационной матрицы (6.12.9), получим следующее приближение:Используя (6.12.5) для ковариационной матрицы (6.12.9), получим следующее приближение:(6.12.10)(6.12.10)
Используя (6.12.5) для ковариационной матрицы (6.12.9), получим следующее приближение:
Используя (6.12.5) для ковариационной матрицы (6.12.9), получим следующее приближение:
(6.12.10)
(6.12.10)
Заметим, что оценки (6.12.4) и (6.12.9) являются взвешенными средними значениями А(Г’ (2лр/Р). Это предполагает использование в качестве дальнейшей оценки наилучшей линейной комбинации этих значений, что, согласно упр.- 6.14.11 и выражению (6.12.5), представляется приблизительно в следующем виде:
(р- 1
Я<Г) _ d3 —Я<Г) _ d3 —£ А(П
Я<Г) _ d3 —
Я<Г) _ d3 —
р = 0
(6.12.11)(6.12.11)
(6.12.11)
(6.12.11)
с ковариационной матрицей
В^Т-^и jr (a)2 daВ^Т-^и jr (a)2 da(6.12.12)(6.12.12)
В^Т-^и jr (a)2 da
В^Т-^и jr (a)2 da
(6.12.12)
(6.12.12)
Учитывая вид выражений а^Г), матричные разности (6.12.6)— (6.12.12) и (6.12.10)—(6.12.12) будут неотрицательно определены. В случае когда g£} (X) близко к константе, что имеет силу, когда ряд ошибок 8 (t) является белым шумом и Т не слишком мало, формулы (6.12.9) и (6.12.11) показывают, что оценка наименьших квадратов а^7’ будет эффективной оценкой аз7). В случае когда ^хх (X)geP (X) близко к константе, формулы (6.12.4) и (6.12.11) показывают, что оценка а^' будет близка к оценке а^7’. Hannan
(1963b, 1967а, 1970) рассматривал оценки а)Г), азГ) для случайного ряда Х(<), / = 0, ±1, ...; Grenandef, Rosenblatt (1957), Rosenblatt (1959) и Hannan (1970) рассматривали эти оценки для фиксированных рядов Х(0, / = 0, ±1, ... .
Использование предложенных методов
Рассматриваемые в данной главе статистики использовались многими исследователями в различных ситуациях. Обычно исследователи рассматривали ряд У (t), / = 0, ±1, ..., полученный из ряда X(t), t = 0, ±1, ..., посредством линейного инвариантного во времени преобразования, что является существенным свойством модели (6.1.1). При этом используются статистики Д(Л(Х), С"ЦК), Ф^(К), ^>(Х), |R^WI2. a"4uY
' Важной областью приложений является геофизика. Robinson (1967а) обсуждал применимость линейной инвариантной по времени модели к изучению сейсмических возмущений X (t), когда У (t) записывается различными станциями. Tukey (1959с) анализировал связь записей сейсмических возмущений на одной станции с записями других станций. Некоторые другие приложения в сейсмологии приводят Haubrich, MacKenzie (1965) и Писаренко (1970). В океанографии Hammon, Hannan (1963) и Groves, Hannan (1968) рассматривали зависимость между уровнем моря и давлением, а также ветровыми воздействиями на некоторых станциях. Groves, Zetler (1964) рассматривали взаимосвязь уровней моря в СанФранциско и в Гонолулу. Munk, Cartwright (1966) рассматривали некоторую математическую модель X (t) по отношению к уровню приливов У (t). Kawashima (1964) с помощью спектрального анализа изучал поведение судна в океане. В метеорологии Panofsky (1967) использовал спектральный анализ для различных рядов, включая скорость ветра и температуру. Madden (1964) рассматривал некоторые данные электромагнетизма. Rodrigues-Iturbe, Yevjevich (1968) рассматривали ряды У (/) количества осадков, записанных некоторыми станциями США, и X (t)—число солнечных пятен. Brillinger (1969а) рассматривал ряды У (t)—ежемесячные осадки в Санта-Фе, Нью-Мексико, и X (t)—соответствующие ежемесячные числа солнечных пятен.
Lee (1960) показал, что многие электронные схемы обнаруживают линейное инвариантное по времени поведение. Akaike, Kaneshige (1964) рассматривали вход X (/) и выход У (/) нелинейной схемы и провели оценку некоторых статистик, обсуждаемых в этой главе. ■
Goodman и др. (1961), Jenkins (1963), Nakamura (1964), Nakamura, Murakami (1964) обсуждали приложения в индустрии.
Takeda (1964) использовал многомерный спектральный анализ в исследовании поведения самолетов.*
В качестве примера приложений в экономике сошлемся на книги Granger (1964) и Fishman (1969). Nerlove (1964) использовал многомерный спектральный анализ для изучения некоторых сезонных эффектов. Neytor (1967) изучал свойства моделей в текстильной промышленности.•-
Результаты Khatri (1965b) могут быть использованы для построения критериев проверки гипотезы 1тЛ(Х) = 0, —оо<Х<оо или а(и)=а(—и\ u = 0, ± 1, ... . Последнее имеет место, если связь У (?) и X (Z) обратима во времени.
Ряд интересных приложений в физике приводит к рассмотрению интегрального уравнения■
g (0 = IV (О + $ b у—, и) f (и) du.(6.13.1)
относительно f(t) при заданных g(t\ |3, b(t). Для приближенного решения этого уравнения можно использовать его дискретный аналог
N
'g(0 = Pm + 5 b(u)Ht-u\ t = 0, ±1, ...; (6.13.2)
и= -N•
последний решается обращением матрицы. Запишем выражение (6.13.2) в виде "-
У W = SX(/-u)a(u) + e(0,(6.13.3)
где ряд 8 (/) может означать ошибку приближения при дискретизации X (0) = р+b (0), X (u) =^b (и), и^О, Y^ = g^tY Система (6.13.3) рассматривалась на протяжении этой главы, так что другой путь решения (6.13.1) — использование многомерного спектрального анализа и выбор ат (и) согласно (6.8.2), как аппроксимации функции /(/).
В этой главе основное внимание уделялось Л (X) и а (и). Однако следует отметить ситуацию, где большой интерес представляет исследование спектра ошибок. Рассмотрим модель
.У(0 = И + 2о(^—«)Х(«) + е(0(6.13.4)
и
с 21 и] |а (и) | < оо. Нас интересует а (/), / = 0, ±1, ..., приводящее к сигналу небольшой продолжительности. Пусть
fl, ^ = 0,
Х(,Но,^О.<6|36>
Выражение (6.13.4) приобретает вид.
У(/)=ц + а(0 + е(0-(6.13.6)
Наблюдаемый ряд Y (Г) является суммой интересующего нас ряда р,.4-б(/) и кратковременного ряда a(t), в котором мы, возможно, не заинтересованы. В этой главе была предложена оценка для f8E(X) изучаемого спектра мощности. Мы просто строили ^Р (X) по наблюдениям У (t), ^ = 0, ..., Т — 1, и X (t) согласно (6.13.5). Эта оценка имеет смысл даже в том случае, когда присутствует нежелательный кратковременный ряд одновременно с интересующим нас рядом. Распределение величины g^ (X) будет приближенно многомерным распределением хи-квадрат с 4/п степенями свободы в случае использования асимптотической процедуры § 6.4. Прямая оценка f^ (X) по сравнению с этим дает 4/и + 2 степеней свободы. Как видно, мы лишь немного проигрываем в устойчивости, выигрывая в робастности оценки.
Упражнения
Пусть выполнены условия теоремы 6.2.1 с Еете = а21, замененным на Еете = 2. Покажите, что Еа = а и
Е (а-а/ (а-а) = (ХХТ)-1 Х2ХТ (ХХТ)-1.
Пусть выполнены условия теоремы 6.2.1 с Еете + сгЧ, замененным на EeTe = o2V. Докажите, что выражение
(Y — bX^V'^Y-bX) минимально при
■b=YV-1XT (ХУ~1ХТ)~1.
Покажите, что b—несмещенная оценка с ковариационной матрицей а2 (ХУ-^Ч-1. Покажите также, что оценка наименьших квадратов a=YXT (ХХТ)-1 остается несмещенной с ковариационной матрицей а2 (ХХ^ХУХ* (XXх)-1.
Сохраняя обозначения теоремы 6.2.3, покажите, что несмещенная линейная оценка ата, минимизирующая дисперсию, где а —вектор размерности к, имеет вид ата.
Пусть X—комплексная случайная величина; покажите, что
D | X |<cov {X, X).'_
Сохраняя обозначения теоремы 6.2.3, положим | R |2 = aXXTa.T/YYT. Докажите, что 0^|7?|2^1. При соблюдении условий теоремы 6.2.4 покажите, что распределение величины (п — к) | R |2/[&(1 — | R |2)] есть нецентральное Г-распределение со степенями свободы 2^, 2 (л — k) и'параметром нецен- тральности аХХтат/о2.
При соблюдении условий теоремы 6.4.2 или теоремы 6.7.1 докажите, что величина Ф^ (X) асимптотически равномерна на (0, 2л], если А (Х) = 0.
Докажите, что следующее определение асимптотической нормальности является состоятельным. Последовательность Хп векторных г-мерных случайных величин асимптотически нормальна со средним O^ + ^jn и ковариационной матрицей S^ + ^S^, если Ч^1 (Х„ — 0Л) стремится по распределению к Nr^, 2), где 0П есть последовательность г-мерных векторов, а Ч^—. последовательность несингулярных гХг-матриц.
Сохраняя обозначения упр. 6.14.2, покажите, что (XXT)"1XVXtX х(ХХт)“1^(XV“1X)~1. (А^В означает, что А—В неотрицательно определена.)
Докажите, что f^х W из (6.5.6) можно записать в виде
Т-1
2 ^т W с^(и) ехр {—/цХ}, и=-т+1
где ^(Г) (X) задано выражением
а с^ (^)~ выражением
Т-12 [ГСО-сРЗЕх^ + ^-^Г.
0< f, t + u < Т-1
Пусть у (0, ^ = 0, ± 1, ..., имеет конечное преобразование Фурье dp (X) — А(Г> (К) др (К). Докажите, что fp(M = gp (X), т. е. оценка спектра ошибок равна спектру мощности ряда остатков.
Пусть Np j = L • ., L есть 1 х r-матричная случайная величина с EYy = 0, E{(Yy-p)4Yt-p)} = 6{/-£} Vy для К/<£< Л Докажите, что наилучшая несмещенная линейная оценка 0 задается выражением
/<= 1L/^.1
Указание*, использовать упр. 6.14.2 и 6.14.8 и упр. 1.7.6 в случае г = 1. Показать, что Е {(р —Р)т (f—₽j} = [S/Vf1]-1.
Пусть выполняются условия теоремы 6.2.4. Покажите, что в случае ортогональности двух столбцов матрицы X соответствующие элементы а статистически независимы.
Покажите, что оценка ^Р (X) спектра ошибок, задаваемая (6.4.5), неотрицательна.
При |#Vx(X)|2, определенном по формуле (6.4:11), покажите, что выборочный спектр мощности ¥ (t) можно интерпретировать как пропорцию, определяемую значениями Х(/).
Покажите, что статистики А<Г) (X), g^ ^ не зависят от значений выборочных средних ёр, ср.
Докажите, что fp (X) ^ ёР (X), используя определения § 6.4.
Пусть а—вектор размерности к. При условиях теоремы 6.2.4 покажите, что
|а«-£а|<(2^2б. 2(„_ft)(P))W («(XXTV)1/2
дает ЮОр-процентную многомерную доверительную область для всех линейных комбинаций элементов вектора а. (Эта область является комплексным аналогом области Шеффе, см. Miller R. G. (1966, стр. 49).)
Сохраним обозначения теоремы 6.2.3 и обозначим /-ю строку в X через Ху, где ХуХ/ = Су, /=1, ..., к» при некоторых заданных Ср ..., С^. Докажите, что-
Е \aj aj |2^
и минимум достигается, когда ХуХ1 = 0, к ■£ j, т. е. строки в X ортогональны. (Этот результат для действительных величин получен в работе Rao (1965, стр. 196).)
Пусть переменная w имеет распределение N? (р,, о2), R = [ty|, р = | р |,'/ = arg су, 0 = argp. Докажите, что функция плотности для R представляется в виде*
2Ro-2 ехр {- (R2 + t2)/o2} /о (2Rp/o2),
где /о (я) есть бесселева функция порядка 0 первого рода. Докажите, что
ERv = ovr(v/2+l)ifi(~v/2; 1; р2/о2)
для v > 0, где iFt^a; b; х)—вырожденная гипергеометрическая функция. Оцените ER, если р = 0. Докажите, что функцию плотности / можно представить в виде.
(2л)-1 ехр {—р2о~2 sin2 (/—Ф)} [^лр^-2 cos (/—Ф)
4-^! (—1/2; 1/2; ~р2а*2 cos2 (/-Ф))];
см. Middleton (1960).
Пусть
y = ax+e<
где е есть s хи-матрица, столбцы которой суть независимые переменные с распределением Ns (0, 2), а есть sxr-матрица неизвестных комплексных параметров, х есть г Хи-матрица известных комплексных элементов и у есть sХи-матрица известных комплексных переменных. Пусть
а = ухт (хР)"1 и-
2 = (и—r)”^ (l —хт (хх^х) ут. '
Докажите, что а имеет распределение N^ (veca, 2 0(ххт)”1) и 2 не зависит
от а и (и—r^Ws (п—г, 2). Операции vec и 0 определены в § 8.2.
Пусть заданы матрицы х и у размеров syn и гуп соответственно с комплексными элементами. Покажите, для заданных с X s-матрицы С, г У и- матрицы U и сХи-матрицы Г, что при ограничении CaU=r, минимизирующем
tr {[у—ах] [у—ах]т},
sXr-матрица а задается выражением
^ = а—С^ (ССП^1 [CaU —Г] [Ш (хх^и]-1 Пт (хх^)*1, где а= ухт (ххт)~г и предполагается существование обратной матрицы.
Докажите при условиях теоремы 6.6.1, что cov{ReA*r>(X)T, Re А*Г) ЮЧ
= 5г 'Т -^ J Г (a)2 da [n {X - ц} + л {X + Д] Re ^^ (X) + О (Г -1), cov{ReA<r>(X)T, Im А<л (^ = 0(7-4, соу{1тА'П(Х)Ч ImA^^}-
= Вт lT - 1л J W (a)2 da [П {X - ц} -Ч {X + ц}] Re V<D (X)+О (Г -i).
При соблюдении условий теоремы 6.4.2 докажите, что
{А(П (X) _ А (X)} fm (X) {Al^> (X) —А (Х)}т
стремится к (2/n+О-1/е£ (X) Х^ независимо от gS (X) для XsO(modn). Получите соответствующий результат для случая X = 0 (шобл).
Пусть в выражении (6.4.2) т = Т — 1. Докажите, что А(Г>(X) есть
гг—1) (Т-0А-1
2 [г<|>-еР][х W-=?p2 Iх <->-?] [x<0-=Sm .
U =оJ U =о)
где с^ и с^— выборочные средние величин Y и X. Найдите связь этого результата с коэффициентом множественной регрессии Y (/) по X (/).
При соблюдении условий теоремы 6.4.2 и А(Х) = 0 докажите, что для X ^0 (mod л),
I Ryx ^ I2 = f^ W 'и W"1 ^ Wily Y w стремится по распределению к
[(2m+l—^r-^+l]"1, где F имеет F-распределение co степенями свободы 2 (2лтг+ 1—г) и 2г.
Пусть Y (t), 8(/) = 0, ±1, ..., суть s-мерные случайные ряды, jii есть вектор размерности s и а (/) есть sXr-матричная функция. Пусть, далее,
У(0 = Н + 2 a(<-u)X(u)+e(0.
U= — 00
Получите оценки А(Г> (X) передаточной функции {а («)} и ggp (X) матрицы спектральной плотности е (/); Brillinger (1969а).
Пусть f ^ W стремится к fxxW равномерно по X при Т—^ оо и IIfyy Will ll^xW"1!! < К, — 00 < Л < 00, для конечных К. Докажите, что условие 6.5.2 выполнено.
Докажите, что величина fxxW* определенная в (6.5.5), неотрицательно определена, если F (а)^0. Докажите также, что ge^ (X), определенная в (6.5.9), неотрицательна при этом условии.
Пусть X! (О = 2«ь (/-—«) X (ц), где {Ь (и)} —суммируемый гХг- фильтр с передаточной функцией В (X). Пусть В (X) несингулярна, — оо < X < оо. Докажите, что X] (/), / = 0, ±1, ..., удовлетворяет условию (6.5.2,если X (/), / = 0, ±1, ..., удовлетворяет этому же условию.
P-2^exp/i ^-(«—v)peeP-2^exp/i ^-(«—v)pee
P-2^exp/i ^-(«—v)pee
P-2^exp/i ^-(«—v)pee
Пусть Y^ и X (/) связаны соотношением (6.1.1). Пусть Xj ^ заменено на Ху(/) + ехр {tM}, остальные компоненты X (/) оставлены без изменений. Какую пользу можно извлечь из этого для интерпретации Aj (X)?
При соблюдении условий теоремы 6.6.1 покажите, что
Dp'r> = в^т-12л J W (a)2 da /ю (0),
X { cx)Tfxx (О)"1 h® (0) ^ (О)"1 с^} +О (T-i).
.6.14.32. Рассмотрим полную модель (6.12.3) вместо упрощенной (6.12.2).
Пусть [а/7) (— ту . .а{7) («)], / = 1,2,3» являются для этого случая аналогами оценок а1Г), а2Г), аз7).из § 6.12. Покажите, что ковариации cov {a;7)(u), а/7) (у)}, / = 1, 2, 3, равны приблизительно величине В^Т-^л^ W (a)2 da, умноженной соответственно на
2лр \ и?) / 2лр V1-р-J Jxx \~Р~/*
7
ОЦЕНКИ СПЕКТРА ВТОРОГО ПОРЯДКАМНОГОМЕРНЫХ ВРЕМЕННЫХ РЯДОВ
Матрицы спектральной плотности
и их интерпретация
В этой главе мы, обобщая результаты гл. 5, будем изучать совместное поведение статистик второго порядка компонент многомерного временного ряда.
Пусть Х(0, / = О, ±1, • ••,— многомерный временной ряд с компонентами Хо(0> < = 0, ±1где а=1, ..., г. Пусть
ЕХ(0-сх,(7.1.1)
Е [X (t + «) ~сх] [X (0 -схр = cov (X (/ + «), X (t)\ = схх (и) (7.1.2)
для t, и<=0, ±1, .... Отдельные компоненты вектора сх обозначим через са, а = 1, ..., г; таким образом, са = ЕХа (/) является средним ряда Ха (0, t = 0, ±1, ... . Элемент в пересечении строки а и столбца b матрицы схх(и) обозначим через саЬ(и), а, 6=1,... ..., г, так что саЬ (и) есть кросс-ковариационнай функция ряда Ха^ и ряда Xb(t). Заметим, что для м = 0, ±1, ...
cXx(u)T = cov{X(0, X (/ + «)} = схх(—«).(7.1.3)
Предположив, что•
2 каь(«)| < оо для a, b= 1, .,., г, (7.1.4) и= - 00
определим матрицу спектральной плотности fxxW частоты К ряда X^t), t = 0, ±1следующим образом:
fxxW^n)-1 2 exp {—iXn} cxx(u). *(7.1.5)
и= - 00
Очевидно, что элемент fab (X) в пересечении строки а и столбца b матрицы. fxx(X) является спектром мощности ряда Xo(t), если а = Ь, и кросс-спектром ряда Ха(0 и ряда Хь^, если а#=Ь. Заметим, что fxx(X) имеет по X период, равный 2л. Ввиду того что компоненты схх(и) действительны, из (7.1.3) следует
М) = f хх (- ^ = txx WT- (7.1.6)
Согласно последнему выражению матрица fxx(M эрмитова. Отсюда следует, что в качестве основной области определения можно выбрать интервал [0, л]. Как видно из теоремы 2.5.1, fxx W положительно определена, fxxW^O» —оо<Х<оо; это означает, в частности, что спектр мощности действительного ряда неотрицателен..
Пример 2.8.2 показывает эффект фильтрации матрицы спектральной плотности. Пусть
Y(0= 2 a(t—м)Х(и), / = 0, ±1, ...»(7.1.7)
U= - 00
для фильтра с матрицей размерности sxr, имеющего передаточную функцию
А(Х) = 2 а(м)ехр{—iku^, —оо<Х<оо; (7.1.8) и= - 00
в таком случае матрица спектральной плотности ряда Y (<) для — оо < X < оо имеет вид .
frrW = A(X)fxx(X)A(Xr-(7-1.9)
Из определения матрицы спектральной плотности следует, что.
Л
■суу(и) = 5 exp {iau} fуу (a) da,(7.1.10)
- -л.
где и —О, ±1Из выражений (7.1.9) и (7.1.10) получим ковариационную матрицу ряда Y (t),
. Суу(О) = cov (Y (0, Y(0}= $ A(a)fxx(a)A(^da. (7.1.11) -л .-
Чтобы дать интерпретацию fxx(X), рассмотрим применение этого результата для 2г-координатного фильтра с передаточной функцией
Г 1 I-
(7.1.12)(7.1.12)i
(7.1.12)
(7.1.12)
—isgnX
{_ —isgnX_
для |а±Х|<А и равной 0 для всех других частот fxx(X). (В (7.1.2) мы использовали определение фильтра по теореме 2.7.1.) Если А достаточно мало, то выход этого фильтра есть 2г-мерный
'Х(/, X) 'Х"(/, X)'Х(/, X) 'Х"(/, X), / = 0, ±1, ...,, / = 0, ±1, ...,(7.1.13)(7.1.13)ряд
'Х(/, X) 'Х"(/, X)
'Х(/, X) 'Х"(/, X)
, / = 0, ±1, ...,
, / = 0, ±1, ...,
(7.1.13)
(7.1.13)
содержащий компоненту частоты X, введенную в § 4.6. Исследуя выражение (7.1.11), получим следующий приближенный результат:
4А4АRefxx (А). Im fxx МRefxx (А). Im fxx МIm fxx WRe fxx (X).Im fxx WRe fxx (X).= 4Afxx(X)R, если X^O(modn),(7.1.14)= 4Afxx(X)R, если X^O(modn),(7.1.14)
4А
4А
Refxx (А)
. Im fxx М
Refxx (А)
. Im fxx М
Im fxx W
Re fxx (X).
Im fxx W
Re fxx (X).
= 4Afxx(X)R, если X^O(modn),
(7.1.14)
= 4Afxx(X)R, если X^O(modn),
(7.1.14)
или
2A2A"fxxW. О 1. 0 fxxW.1"fxxW. О 1. 0 fxxW.1= 2Afxx(X)/?, если X = 0(modn).= 2Afxx(X)/?, если X = 0(modn).(7.1.15)(7.1.15)
2A
2A
"fxxW. О 1. 0 fxxW.1
"fxxW. О 1. 0 fxxW.1
= 2Afxx(X)/?, если X = 0(modn).
= 2Afxx(X)/?, если X = 0(modn).
(7.1.15)
(7.1.15)
Оба этих приближения приводят к полезной интерпретации Refxx(X) как величины, пропорциональной ковариационной матрице x(t, X) (компонента частоты X в Х^, a Imfxx(X) как величины, пропорциональной кросс-ковариации X(t, X) и ее преобразования Гильберта XH(t, X). Коспектр Re/оЬ (X), полученный из Ха (/) и Хь (/), пропорционален ковариации компоненты частоты X в ряде Ха (0 с соответствующей компонентой ряда Xb<t\ Квадратурный спектр Im /а6(Х) пропорционален ковариации гильбертова преобразования компоненты частоты X ряда Ха (t) с компонентой частоты X ряда Xb^t\ Будучи ковариациями, оба приведенных приближения являются мерами линейной зависимости.
Интерпретируя матрицу спектральной плотности fxx(X), полезно также напомнить некоторые свойства второго порядка представления Крамера. Согласно теореме 4.6.2, для X(f) справедливо представление
• 2л
X (0 = J exp {iX/} dZx (X), (7.1.16) о
f = 0, ±1, ..., причем стохастическая функция Zx(X) удовлетворяет соотношению
cov|dZx(X), dZx (р)} — т| (X — р) fxx (X) dX dp, (7.1.17) где т|(-) есть периодическое с периодом 2л продолжение дельтафункции Дирака. Из (7.1.17) следует,'что мы можем интерпретировать fxx(X) как величину, пропорциональную ковариационной матрице комплексного дифференциала dZx(X). Обе эти интерпретации позже будут рассмотрены как достаточно удовлетворительные оценки fxx(X).
Периодограммы второго порядка
Пусть имеется выборка Т последовательных значений г-мерных векторов X (Z), t = 0, ..., Т — 1, из стационарного ряда со средним сх и матрицей спектральной плотности fxx(X), — оо <Х<ео. Допустим, что нас интересует оценка fxx(X). Рассмотрим оценки, основанные на конечном преобразовании ФурьеПусть имеется выборка Т последовательных значений г-мерных векторов X (Z), t = 0, ..., Т — 1, из стационарного ряда со средним сх и матрицей спектральной плотности fxx(X), — оо <Х<ео. Допустим, что нас интересует оценка fxx(X). Рассмотрим оценки, основанные на конечном преобразовании Фурье(7.2.1)(7.2.1)
Пусть имеется выборка Т последовательных значений г-мерных векторов X (Z), t = 0, ..., Т — 1, из стационарного ряда со средним сх и матрицей спектральной плотности fxx(X), — оо <Х<ео. Допустим, что нас интересует оценка fxx(X). Рассмотрим оценки, основанные на конечном преобразовании Фурье
Пусть имеется выборка Т последовательных значений г-мерных векторов X (Z), t = 0, ..., Т — 1, из стационарного ряда со средним сх и матрицей спектральной плотности fxx(X), — оо <Х<ео. Допустим, что нас интересует оценка fxx(X). Рассмотрим оценки, основанные на конечном преобразовании Фурье
(7.2.1)
(7.2.1)
где функция сглаживания ha ^ стремится к нулю при достаточно больших |/|, а=1, ..., г. Согласно теореме 4.4.2, эта переменная имеет асимптотическое распределение
^(0, 2лТ [НаЬ (0) fab (X)]), если Х^О(тобл),
^(ТЕ^СО)^], 2лТ[#аЬ(0)ЫХ)]), если Х = 0, ±2л, ....
ПДО, ^mT^Hab^fab^y*’ если Х = ±л, ±3л, ...,(7.2.2)
где
(7.2.3)(7.2.3)ТНа (0) = Т j ha (/) dt ~ £ ha (4) = ^J' (0)
(7.2.3)
(7.2.3)
и для a, b = 1, ..., г
ТНаЬ (0) = Т j ha (0 hb (tydt ~^ha (4) hb (4) = H<£ (0). (7.2.4)
Эти распределения приводят к рассмотрению статистики ■
1^ (X) = [7<?> (X)] = [{2лЯ<? (О)}-1 d^ (X) ^(Х)](7.2.5)
в качестве оценки fxx(X) в случае Х=£0, ±2л, ... . Координаты вектора 1Хх (X) являются периодограммами второго порядка сглаженных значений /?„ (//Т) А"а (7), 1 = 0, ±1, ... . Эта статистика, очевидно, имеет те же свойства симметрии и периодичности, что и fxx(X). В соответствии с этим справедлива
Теорема 7.2.1. Пусть X^fy t = 0, ±1, ..., есть г-мерный ряд со средним ЕХ (/) = сх и кросс-ковариационной функцией cov (X(/-|-u), X(Q} = cxx(u) для t, и = 0, ±1, ..., причем
5|схх(м)| < оо. (7.2.6) и
Если ha(uy —оо < и < оо, удовлетворяет условию 4.3.1 для о=1, ..., г, IxxW задано выражением (7.2.5), то для — оо<Х<оо,
и а, 6=1, ..., г
ШМ =ШМ =Л
ШМ =
ШМ =
$ Н^Н^Ц-^а
-Л
(
л
$ Я<г> laWk-^tl-^daA-H^^^
-л
(7.2.7)
Функция сглаживания ha (t/T) имеет такой характер, что ее преобразование Фурье Н^ W концентрируется при больших Т в окрестности частот Х=0, ±2лОтсюда следует, что в случае Х^О (mod 2л) последний член формулы (7.2.7) будет исчезающе малым при больших Т. Первый член правой части (7.2.7) является, очевидно, взвещенным средним интересующего нас кроссспектра fab с весом, сконцентрированным в окрестности точки X и определенным функцией сглаживания. Переходя в этом равенстве к пределу, получим
Следствие 7.2.1. Если выполнены условия теоремы 7.2.1 и ^ ha (и-) hb (u) du =^ О для а, 6 = 1, ..., г, то справедливо соотношение
(7.2.8)(7.2.8)lim EI^(X) = fxx(X)
(7.2.8)
(7.2.8)
. У —> 30
при X ^ 0 (mod 2л) или сх= 0.
Оценка будет асимптотически несмещенной, если Х^О (mod2л) илц сх=0. Если с„, сь достаточно удалены от нуля, то смещение в оценке 1хх(Х) может быть значительным, как это явствует из вида члена выражения (7.2.7), содержащего с0 и сь. Этот эффект может быть уменьшен путем вычитания оценки среднего Х(0 перед операцией конечного преобразования Фурье. Так, можно ввести статистику
2Х (-^) {^«(О-^г,}ехр {— Ш}
= d(J> (X)-d^ (0) //<г> (Х)/Я*г> (0), (7.2.9)
в которой для а=1, ..., г выполняется
с^ = ^Но^ХД1^К^(7.2.10)
и статистикуг
1£Дт хдо W = [{2лЯ<Р (0)}-i ДО (X)-d^ (0)Н^ ^/№? (0)}
'х ДО' W-d^ (0) до 0№Т) РЯ (7.2.11)
в качестве оценки f^xW-
Асимптотическое поведение ковариации двух элементов 1хх (X) в случае ряда с нулевым средним дает
Теорема 7.2.2. Пусть X (7), t = 0, ±1, ..., является г-мерным рядом, удовлетворяющим условию 2.6.2(7). Пусть ha(u), а=\, ..., г, удовлетворяет условию 4.3.1, a Ixx (X) задано выражением (7.2.5). Тогда cov^JX), 7$Ди)}
= H^k (Q)-1^^ (О)-1 \ДОа, (X—р) н$ДЬ-^ UAX) Ш-Ъ + Н $, (Х+ р) Я^(Х+р) faibi (X) fbiOi (-Х)}+T^RT (X, р).
.(7.2.12)
где | RT (X, р) |< К, | Н)? (X) 11 H’J> (р) | + К, | Н^ (X) | +К» | Я^ (р) | + ^4 с постоянными Kv ..., К4 и а = а1, ай, bv b2,— оо <
X, р < оо.
Статистическая зависимость 7^, и 1^, как нетрудно видеть, исчезает с убыванием функции Н^. Переходя в утверждении теоремы к пределу, получим
Следствие 7.2.2. При сохранении условий теоремы 7.2.2 для X, р ^ 0 (mod 2л) справедливо соотношение
Hm cov р^ДХ), 7^Др)}
^Ч^-н} faiai (X) fbibi (- X) + n {X+p} faibl(X)faibi(-X). (7.2.13)
Для несглаженных данных, т. е. при ha (и) = 1, если 0 ^ м < 1 и ha(u) = 0 в остальных случаях, из упр. 7.10.14 следует, что СОУ {/aj, (X), 1а32 (р)} = л {X р} fa,a2 (X) f b2b2 ( X)
+ Ч {Х + р} fa,b2 (X) fb,a2 ( X) + -у fatbta2b2 (X, X, р)
+ Ч {X- р} о (Т-1) + n {Х+р} О (Т-1) + О (Т-^) (7.2 Л 4)
для частот X, р вида 2лг/Т, 2л$/Т, где г, s целые и г, ss^O (mod Т).
Мы завершаем это обсуждение асимптотических свойс’гв матрицы периодограмм второго порядка выводом их асимптотического распределения.
Теорема 7.2.3. Пусть Х(/), / = 0, ±1, ...» есть г-мерный векторный ряд, удовлетворяющий условию 2.6.1. Пусть Ixx М задано выражением (7.2.5). Предположим, чтоha (t), а = 1, ..., г, удовлетворяет условию 4.3.1 и что 2Х^, Ху ± ХА^0 (mod 2л) для l^j<^^J. Тогда \хх^й> j^V • • , J, являются асимптотически независимыми величинами с распределением W^ (1, fxx'(M)’ Если, кроме того, Х=±л, ±3л, ..., то IxxM асимптотически имеет распределение U^r(l, fxx W) и не зависит от предыдущих переменных.
Распределение Уишарта было введено в § 4.2, там же были рассмотрены различные его свойства. Как видно, в последней теореме предельное распределение непосредственно зависит от fxxW- Однако распределение Уишарта с одной степенью свободы довольно сильно растянуто относительно ^(М- Поэтому IxxW нельзя рассматривать как удовлетворительную оценку . Интересно отметить, что предельное распределение в теореме 7.2.3 не содержит используемой в статистике сглаживающей функции. Предельное распределение не зависит от сглаживающей функции, однако, как показывает выражение (7.2.7), вид сглаживающей функции влияет на смещение оценки при конечных размерах выборки. Отсюда следует, что наличие близких пиков спектральной плотности fyxW требует использования сглаживания для повышения разрешающей способности.
Рассматриваемые в теореме 7.2.3 частоты не зависят от Т. Приведенная ниже теорема указывает асимптотическое распределение в случае, когда некоторые из частот стремятся к X при Т—+ оо. Вернемся к случаю, когда сглаживание отсутствует.
Теорема 7.2.4. Пусть Х(/), / = 0, ±1. ..., есть г-мерный ряд, удовлетворяющий условию 2.6.1, и для—оо < X < оо выполняется
/т-\\ /7^1\т
1^ W = (2лТ) -1 2 X (0 ехр {— 1ХЦ5 X (t) exp {— iXt} .
V = 0/\/=0/
'(7.2.15)
Предположим, что Sy (Т) — целое число, причем Ху (7) = 2л$у (Т)/Т стремится к Ху при Т оо для / = 1, ..., J, и что 2Ху(Т), Ху (Т) ± X» (7) ^ 0 (mod 2л) для 1 ^ j < k ^ J и достаточно больших Т. Тогда 1®(^/(7)), /=1, J, являются асимптотически независимыми величинами с распределением 1F£(1, ^ХХ (М)’ / = 1, -..., J. Аналогично если Х=±л, ±3л, ..., то IxxW асимптотически имеет распределение IF, (1, f^ (X)) и не зависит от предыдущих переменных. ,
Наиболее важен случай, когда Xj = X для / = 1, ...,</. Здесь теорема указывает источник J асимптотически независимых оценок fxx(X). Справедливость этой теоремы можно было предполагать на основании теоремы 4.4.1, в которой указывалось, что 2<Х (0 ехр {— it\j (Т)}, / = 1J, суть асимптотически независимые переменные, распределенные по У, (О, 2лТ1хх(Ху)).
Мы привели теорему 7.2.4 в случае несглаженных переменных только для того, чтобы избежать некоторых технических трудностей. Случай сглаживания переменных и зависящих от Т частот можно найти в работе Brillinger (1970b) и в упр. 4.8.20. Существенное требование для получения асимптотической независимости состоит в том, что ХДТ) — Хк(Т), 1 ^.j < k^J, не могут стремиться к нулю слишком быстро.
Теоремы 7.2.3 и 7.2.4 дают, в частности, маргинальные распределения, определенные ранее в гл. 5 для периодограммы 1^ W-
Приведенная ниже теорема показывает, как можно построить L асимптотически независимых оценок fxx (X) в том случае, когда данные предварительно сглажены. Мы разделим все * данные на L непересекающихся интервалов, каждый из которых содержит по V сглаженных наблюдений, и построим периодограммы для каждого такого интервала.
Теорема 7.2.5. Предположим, что r-мерный векторный ряд X(t), / = 0, ±1, ..., удовлетворяет условию 2.6.1. Пусть функция ha (и), — оо < и < оо, равна нулю при и <0, u ^ 1 и удовлетворяет условию 4.3.1. Если, кроме того, для 1 = 0, . ..,L— 1 выполняется
1^(^, /) = [{2л//^(0)}-1^>(Х, OWT/)],(7.2.16)
где
W, n=^ha ШхДу + ZV) exp {-1Х(У + /К», (7.2.17) 9=0
mo I^(^, I), 1 = 0, ..., L— 1, при V —> оо являются асимптотически независимыми переменными с распределением W, (1, fxx W» если Х^О(тобл), и асимптотически независимыми переменными с распределением И7Д1, fxx (X)), если Х=±л, ± Зл, ... .
Отметим еще раз, что предельное распределение не содержит Функции сглаживания, несмотря на то что она существенно используется в d^y (X, /) при построении 1хх(Х, /).
Комплексное распределение Уишарта ввел Goodman (1963) как аппроксимацию распределения спектральных оценок в случае многомерных рядов. Brillinger (1969с) получил U7^(l, fxx(X)) как предельное распределение матрицы периодограмм второго порядка.
На рис. 7.2.1—7.2.5 приведены периодограммы и кросс-перио- Дограммы некоторых двумерных рядов. Ряд Хг (/) есть сезонная
Рис. 7.2.1. Периодограмма сезонно приведенных ежемесячных средних температур в Берлине за 1780—1950 гг. (логарифмический масштаб). (По горизон- , тали —частоты в цикл/месяц.)
Рис. 7.2.2. Периодограмма сезонно приведенных ежемесячных средних температур в Вене за 1780—1950 гг. (логарифмический масштаб). (По горизонтали—* частоты в цикл/месяц.)
Рис. 7.2.3. Действительная часть кросс-периодограммы температур Берлина с температурами Вены. (По горизонтали — частоты в цикл/месяц.)
Рис. 7.2.4. Мнимая часть кросс-периодограммы температур Берлина с температурами Вены. (По горизонтали — частоты в цикл/месяц.)
го-го-
го-
го-
выборка ежемесячных средних температур в Берлине за 1780— 1950 гг. Ряд Х2 (/)—сезонная выборка ежемесячных средних температур в Вене за 1780—1950 гг. На рис. 7.2.1 и 7.2.2 приводятся периодограммы /{р (X) и /2р (X) этих рядов. На остальных рисунках представлены кросс-периодограммы Re 1^ Im /i27) РО, arg/i(2r>(^) соответственно. Все эти графики крайне неустойчивы, что находится в полном соответствии с теоремой 7.2.3, согласно которой периодограмма второго порядка не может быть удовлетворительной оценкой спектра второго порядка.
Оценка матрицы спектральной плотности путем осреднения периодограммы
Теорема 7.2.4 наводит на мысль о построении достаточно гибкой оценки для f^(X). Если
1хх W = (2л?)-1 ( 2 х (0 ехР {— ^Е.х (0 ехр {— Ш\ ) ,
\/=о/ \/=о./
(7.3.1)
то из этой теоремы следует, что для целых s(T\ таких, что 2ns(T)/T близко к Х^О(тобл), распределение величин Гхх (2л [s (Г)+ s]/T), s = 0, ±1, ..., ± т, аппроксимируется 2т + 1 независимыми распределениями IFf (1, f^(%)). Следова-
тельно, имеет смысл рассматривать оценкут
f$t (X) = (2/т?+I)-1 £ 1&(^р±^при X^O(modn). (7.3.2) s= —т^
Дальнейшее изучение результатов теоремы приводит к оценке
т
tPx W = (2m)-t S {1^ (х+ ^) + V& (х- ^) }
т= т-1 £ Rel&(x+^_s)т= т-1 £ Rel&(x+^_s)(7.3.3)(7.3.3)
т
= т-1 £ Rel&(x+^_s)
т
= т-1 £ Rel&(x+^_s)
(7.3.3)
(7.3.3)
в случае Х = 0, ± 2л, ... или Х = ±л, ±3л, ...и четного Т;
в случае же Х = ± л, ±3л, ... и нечетного Т приходим к оценке
m•
tTx (X) = (2m)-* £ {1^ (X- ^ + ^) + \Тх (^ +}
m
■= m^ £ ReVPx^X-^-V^y "(7.3.4)
Оценки (7.3.2)—(7.3.4) основаны на вычислении дискретных преобразований Фурье d^ (2ns/T), s^0 (modT), и имеют,-очевидно, те же свойства симметрии и периодичности, что и f^y(X). Относительно этих оценок справедлива
Теорема 7.3.1. Пусть Х(0, /=--0, ±1, ..., есть г-мерный векторный ряд со средним значением с^ и кросс-ковариационной функцией cxx(tz) = cov {X (/+ w), X (/)} для t, u = 0, ± 1, ... . Предположим также, что
2 |схх(и)|<оо, (7.3.5) и= - 00
й txxW задано выражениями (7.3.2)—(7.3.4). Тогда в случае X^feO (mod л)
Л
Eipx (X) = j АТт (a) fM (^1-а) da, (7.3.6)
-Л\
а в случае Х = 0, ± 2л, ... или Х=±л, ±3л, ... и четного Т математическое ожцдание величины fXx (X) равно
Л
(7.3.7)(7.3.7)Ef^W= $ B7-”(a)fxx(X-a)da;
(7.3.7)
(7.3.7)
наконец, в случае Х = ±л, ±3л, ... и нечетного Т имеем для Efxx(X) выражение
Ef^(X) = ^ CT»(a)txx(k—a)da. (7.3.8)
Здесь для — оо < а < оо
^гт(а) = (2т+1)'1(2л7)-1 ^ А<Г)(а+¥) ’ <7-3,9) 5= -т
Втт (а) = (2m)-1 (2лГ)-1 £ | А<п (а+ у-$) |2 +1 Д<г> (а- ^-s) р
(7.3.10)
И
т._. .
СТт (а) = (2m)-1 (2л?)-1 £ | Д<г> (а- ^ + ^) | 4*s= 1
+ |Д(п(а+^_^р. (7.3.11)
Функции Атт (а), Втт (а), Стт (а) являются неотрицательными весовыми функциями. Первая имеет пики в точках а = 0, ±2л, ± 4л, ... и ширину, равную приблизительно 4лт/7\ Вторая и третья приблизительно также сконцентрированы в интервалах ширины Аят/Т около точек а = 0, ±2л, ..., однако имеют провал непосредственно в этих частотах. На рис. 5.4.1 они изображены для Т = 11. Во всяком случае, значение Ef^ (X) будет близко к требуемому fxxW> если fxx(a) близка к константе в полосе ширины ^ят/Т около X. Переходя к пределу, получим
Следствие 7.3.1. Если выполнены условия теоремы 7.3.1 и 2з^ (Т)/Т —► X при Т —► оо, то для — оо < X < оо
lim Ef</>W = fxxW.lim Ef</>W = fxxW.(7.3.12)(7.3.12)
lim Ef</>W = fxxW.
lim Ef</>W = fxxW.
(7.3.12)
(7.3.12)
Как и следовало ожидать,'оценка асимптотически несмещенная. Рассмотрим теперь ее некоторые свойства второго порядка.
Теорема 7.3.2. Предположим, что r-мерный ряд XW 1 = 0, ±1» ..., удовлетворяет условию 2.6.2(/), a txx^ задано выра-
жениями (7.3.2)—(7.3.4), причем X—2л$ (Т)/Т = О (Т-1). Тогда COV^kW» ©М
Ч(^—14 fatatW fb^^-^+^tX-V^ fg^^X) fbiOf(—X) । л /'t-п
'если Х^ 0 (mod л),
П{*-нНа1а2тА(-*) + л{* + нН^^, п,т_1х
если X = 0(modn) при —оо < X, р<оо. (7.3.13)
Нетрудно видеть, что моменты второго порядка убывают по величине, когда т возрастает. Выбирая т, асимптотически можно устранять изменчивость оценки до желаемого уровня. Как видно, статистики будут асимптотически некоррелированными в случае Х± р^О (mod2л). Добавим также, что выражение (7.3.13) имеет особенности в точках X, р = 0; ±л, ±2л, ... . Это происходит по двум причинам: неизвестно среднее значение сх, кроме того, fxx^) принимает действительные значения в этих точках. Заметим, что оценка fxx(^) в условиях последней теоремы несостоятельна, однако в следующем параграфе состоятельные оценки будут построены.'
Вернемся к дальнейшему развитию приближений по большим выборкам распределения ^хх(Х).,
Теорема 7.3.3. Пусть r-мерный векторный ряд X (/), t = 0, ± 1, ..., удовлетворяет условию 2.6Л, а оценка 1хх(Х) задается выражениями (7.3.2)—(7.3.4), причем 2ns(T)/T—>Х при Т—*оо. Тогда ®(Х) имеет асимптотическое распределение (2m+1)-1Х X W^(2m +1, fxx W)>если Х^О (mod л), или (2m)-'1 Wr (2т, fXxW)> если Х = 0 (mod л). Кроме того, ixx(X^, j=l, ..., J, асимптотически независимы при Xj ± Хк ^ 0 (mod 2л) для 1 ^ / < k ^ J.
Как видно, маргинальные распределения диагональных членов fxxW асимптотически совпадают с теми, ч!о были получены ранее. Диагональные элементы Vaa W имеют предельные распределения %2, указанные в теореме 5.4.3. Стандартизированные элементы, стоящие вне диагонали, имеют асимптотические плотности, приведенные в упр. 7.10.15.
Приближение распределения величины fxxW комплексным распределением Уишарта было получено в работе Goodman (1963). Wahba (1968) рассматривал случай гауссовских рядов и т->-оо. Настоящий случай со средним 0 рассматривал Brillinger (1969с).
Результаты, аналогичные теоремам 7.3.1—7.3.3, могут быть также получены для случая сглаженных данных, сгруппированных на L непересекающихся интервалах по V наблюдений в каж-
дом. Положим ДЛЯ — ОО < X < ОО и / ^ О, ..., Л — 1
AT (X, /) = £ ho Ш Ха (и + /V) ехр {- а (V + IV^, (7.3.14) v=o
где ha (и), — оо < и < оо, обращается в нуль при и < 0, и ^ 1. Для / — О, .L— 1, определим
1^ (X, /) = [{2лЯ^ (О)}-1 d'^ (X, /) d^4M)Y (7.3.15)
Как следует из теоремы 7.2.5, оценки 1Хх(Х, /), / = 0, ..., L— 1, являются асимптотически независимыми переменными, распределенными как H7f(l, fxx(X)), если X^O(modn), и распределенными как IFr(l, fXxW)> если Х= + л, ± Зл, ... . Естественно ввести оценку
f^txw-1 2 1Тх<К I),(7.3.16)
/=0
относительно которой справедлива
Теорема 7.3.4. Пусть выполнены условия теоремы 7.3.1, а функция ha ^и^ а^\9 ..., г, равная нулю при и < О, и ^ 1, удовлетворяет условию 4.3.1 и ^ ha(u)hb(u)du^0. Если оценка f%P задана выражением (7.3.16), то при V—> оо
( ”1Ef^(M-l $ №>X4-aN( ”1Ef^(M-l $ №>X4-aN' л
( ”1
Ef^(M-l $ №>X4-aN
( ”1
Ef^(M-l $ №>X4-aN
$ Н^ЦаЛН^Ц-^
< - л
х fab (Х-а) da+H^ (X) Н^ (- X) сась\ fab (X), (7.3.17)
где Х^0 (mod 2л) и a, b— 1, ..., г.
Эта теорема непосредственно связана с теоремой 7.2.1 и является ее следствием. Интересно заметить, что взвешенное среднее величины fab, фигурирующей в выражении (7.3.17), сконцентрировано в интервале ширины, пропорциональной V-1.
Теорема 7.3.5. П редположим, что r-мерный векторный ряд Х^9 ( = 0, + 1. ..., удовлетворяет условию 2.6.1. Пусть функция ha^u\ а^Л, ..., г, равная нулю при и < 0, и^ 1, удовлетворяет условию 4.3.1 и ^ha(u)hb(u)du^09 а оценка fpp (X) задана выражением (7.3.16). Тогда для X, p^0(mod2n) и av а2, bv b2 — 1, ..., г, limjov^^W. ^?Н
_П{Х-ц}/а,а2(Х) /6Л(-Х) + 1]{Х + ц}/а1Ь2(Х) /Мг(Х) —т:: . ( / . d. 1
По сравнению с выражением (7.2.13) в данном случае моменты второго порядка домножаются на величину \]L. В большинстве случаев исследователь имеет возможность выбрать L достаточно большим. Таким образом, справедлива
Теорема 7.3.6. Пусть fxPW задается выражением (7.3.16), тогда при сохранении условий теоремы 7.2.5 оценка Vxx W пРи V—>оо имеет асимптотическое распределение L^W^ (L, ^ХХ W), если X ^ О (mod л) и L-1Wr (L, fxx (X)), если Х = + л, + Зл,... .
Как и прежде, матрица спектральной плотности аппроксимируется распределением Уишарта. Единственная трудность в приведенной выше процедуре оценивания состоит в том, что она неудовлетворительна при Х = 0 (mod 2л). Для этого случая оценка может быть получена экстраполированием по ближайшим частотам. См. также оценку в упр. 7.10.23.t
В упр. 7.10.24 приводится асимптотическое распределение оценки
т
Г& (А) = £ Ш (2лГ$^+$1)(7.3.19)
s=-mх'
для неравномерно взвешенных периодограмм.
Состоятельные оценки матрицы спектральной плотности
Большинство оценок предыдущего параграфа не являлись состоятельными, т. е. в этих случаях fxx (X) не сходилась по вероятности к fxxW ПРИ Т—^°°- Эти оценки зависели, однако, от параметров (т или А), влияющих на их асимптотическую изменчивость. Можно надеяться, что те случаи, в которых эти параметры стремятся к бесконечности при Т—>оо, позволяют получить состоятельные оценки. В этом параграфе мы убедимся, что это действительно верно. Такие результаты важны скорее для возможности аппроксимации моментов и распределения оценки при больших размерах выборок, чем для непосредственных предполагаемых вычислений.
Рассмотрим выборку X (/), / = 0, . .., Т— 1, r-мерного ряда Х(/). Вычислим дискретное преобразование Фурье
Г-1
d
# Т \ (2л5\ X ^ « , .ч (. 2лSt |
х ( у ) = X. X (0 exp < — t —^г- >, s = 0, ±1, ...; (7.4.1)
тогда соответствующую периодограмму второго порядка дает выражение
ЛР (у-$) = (2лТ) -1 d^ (^f) df > (^), s = 0, ± 1, ..., (7.4.2)
где s = О, ± 1, • • • • Образуем оценку fab (X) как взвешенное среднее этой статистики с весом, сконцентрированным в окрестности точки X ширины О(ВТ), где ВТ— параметр ширины окна, стремящийся к 0 при Т—*оо.
Пусть весовая функция Wob(a), —оо <а< оо, удовлетворяет соотношению
(7.4.3)(7.4.3)J ГоЬ(а)^а=1
(7.4.3)
(7.4.3)
и задана последовательность неотрицательных масштабных параметров Вт, Т=1, 2, ... . В качестве оценки для fab(X), — оо<Х<оо, а, Ь=\, ..., г, рассмотрим
Г<$Ц^ = ^-2^(^[Х-^])/^’^). (7.4.4)
s ^ О (mod Г)
Ввиду периодичности /£р (а) с периодом 2л последнее равенство можно переписать в виде
Г-1
(7.4.5)
где
(7.4.6)(7.4.6)№ (а) = Вт1 2 ^аь №г h+2n/]).
(7.4.6)
(7.4.6)
Оценка (7.4.4) является, очевидно, взвешенной периодограммой, сосредоточенной в окрестности точки X ширины О(ВТ). Позднее мы потребуем, чтобы Вт—>0 при Т—*оо.
В качестве оценки для fxxW рассмотрим
f^W = [/^W].(7.4.7)
В случае когда Wab (a) — четная функция, т. е. Wab(—a)= Wab(a), эта оценка имеет те же свойства симметрии и периодичности, что и функция fxx(X). Добавим также, что если матрица (l^at>(a)] неотрицательно определена для всех а, то fJx(X) и fxxW также неотрицательно определены; см. упр. 7.10.26. Справедлива
Теорема 7.4.1. Пусть задан r-мерный векторный ряд X (/), / = 0, ± 1, ..., со средним ЕХ(/) = сх и ковариационной функцией cov{X (/ + “), X (/)} = сХх(«), t, и = 0, ± 1, ... . Допус-
тим, чтотим, что2 I схх(“) I и= - СО2 I схх(“) I и= - СООО.ОО.(7.4.8)(7.4.8)-Л5=1 1-Л5=1 1Х^лТ)-1Х^лТ)-1f«b^da-*fab (X).f«b^da-*fab (X).2 I«11 схх(ы) | < оо,2 I«11 схх(ы) | < оо,(7.4.10)(7.4.10)
тим, что
тим, что
2 I схх(“) I и= - СО
2 I схх(“) I и= - СО
ОО.
ОО.
(7.4.8)
(7.4.8)
-Л5=1 1
-Л5=1 1
Х^лТ)-1
Х^лТ)-1
f«b^da-*fab (X).
f«b^da-*fab (X).
2 I«11 схх(ы) | < оо,
2 I«11 схх(ы) | < оо,
(7.4.10)
(7.4.10)
Если ^(Х) определена выражением ^А.5^ с функцией №аЬ(а); а, 6=1, .... г, удовлетворяющей условию 5.6.1, и ВТ-^0 при Т —* оо, то для а, 6=1, ..., г
(7.4.9)
Если, кроме того, выполняется условие
то для —оо <Х < оо; а, Ь=\, .г, справедливо соотношение
^^=^^ w^ U-^\ fab №+0<Т-^
.^(7.4.11)
= $ W„Mtab^-B^da-VO^T-^ .
с равномерным по X остаточным членом.
Из выражений (7.4.9) и (7.4.11) видно, что математическое ожидание предлагаемой оценки является взвешенным средним функции fob(a)i — оо<а<оо, с весом, сконцентрированным в полосе ширины О(ВГ) около точки X. В случае когда ВТ-^0 при Т —*оо, оценка оказывается асимптотически несмещенной. Аналогично теореме 3.3.1 можно представить асимптотическое смещение оценки (7.4.5) в виде функции от Вт. Таким образом, справедлива
Теорема 7.4.2. Пусть fab(X) имеет ограниченные производные порядка ^Р. Предположим, что
Если ВТ—>-0 при Т —>оо, то для — оо < X < со, а, 6=1, .... г, справедливо
S wob^H«b^-BTaW
р-\
-ит^ 7г в? UpWHdr?-^B + O(BPTY (7.4.13)
При Р = 3 и U7 (— а) = Ц7(а) из приведенной выше теоремы вытекает соотношение,
Е^(Х) = fab W +1 Вт J а2№ (а) da^^ + О (В3Г) + 0 (Вт1 Г"1)
(7.4.14)'
Как следует из выражения (7.4.13), с точки зрения уменьшения смещения оценки f^ (X) оказывается предпочтительным, чтобы функция fab(a) была близка в окрестности X к константе, а величины Вт и ^a?W(a)da, р = 2, 4, ..., были малыми. Следующая теорема показывает, что нельзя выбирать Вт слишком малым, если требовать состоятельности оценки.
Теорема 7.4.3. Пусть r-мерный ряд Х(/), / = 0, ± 1, ..., удовлетворяет условию 2.6.2 (/), а функция Wab (a), — оо < a < со, удовлетворяет условию 5.6.1; а, Ь=\, ...,г. Если оценка f^'O-) определена выражением (7.4.5) и ВТТ —► со, то для аг, аг, Ьп 62 = 1, ..., г выполняется соотношение
cov№(X), 1£Ш\
/Т-Х
/2л\2/^(Т) Л2ns\ тту(Г) ( 2лв\ , /2ns\ ,7 2ns\ I j1 у I 2—а сцЬх Iу" у w azb2 I Иу I ауа2 I у у / bxb2 Iу7"у
Т-1X
-L.V W7<T^2я^ W/m („ lilts') ₽ f^Xtf 2"S\ )
T ^^ "7 aib, I Л j, I W агЬ1 ( P T -p 1 / axb! ( у ) / bia2 I T J I s= 1x4x/
( л
+ о (T-1) = I $ W^ (X - a) W^ (Р-a) fOtbi (a) fOibi (- a) da л\
+ $ Г^ДХ-^ГЙДр + ^^^^Д-а)^
-^0(ВтгТ-гН0(Т-^(7.4.15)
с равномерным no X и p остаточным членом.
Как видно, при заданных функциях И7<7') наибольшее значение ковариации достигается при X ± р = 0 (mod 2л). Средние
в выражении (7.4.15) сконцентрированы в полосе ширины 0(ВТ) около точки X, ц, поэтому ковариация приближенно может быть представлена в виде
(71 {^-р} U,(X) fblbl (- у+п {х+ц} U, W fbia, (- X))
X (^У (g ^^ (х-^) W$2 ^-^)У (7.4.16)
В пределе получаем
Следствие 7.4.3. Если выполнены условия теоремы 7.4.3 и ВТ—> 0, ВтТ —> оо при Т —► оо, то для — оо < X, ц < оо, аг> а2, bv b^Y, г,-*
lim ВтТ cov{^W. &Ш Т OD
= 2л($ V^W.^da)
X (т] {Х-р} raiai (X) /6ib2 (- X) + Л {Х + р} faibi (X) faib, (- X). (7.4.17)
Моменты второго порядка имеют, как нетрудно видеть, величину О(Вг1Т~1), и, следовательно, стремятся к нулю, когда Т—^оо. Мы уже видели, что оценка оказывается асимптотически несмещенной и в то же время состоятельной. Оценки, вычисленные при частотах X, р, Х±р^О (mod 2л), асимптотически некоррелированны..
Первое выражение формулы (7.4.15) можно использовать для получения ковариации по большим выборкам в случае, когда Бг = 2л/Т. Пусть Wab (а) обращается в нуль для достаточно больших |а| и Х=2л5(Т)/Т, где s(T) —целое. В таком случае оценка (7.4.4) для больших Т принимает вид
s ^ О
•=^ X w<^^^-v-vp-^\ адл^
s + ЦТа
При W иЪ (s) = Т/2л (2m + 1) и |s|^m это же выражение дает оценка (7.3.2). Очевидно, в этом случае (7.4.16) приводит к следующей приближенной формуле для ковариации: (^ у (71 {х—и} L161 (X) faibi (- X) 4- 71 {Х+р} faibi (X) fbia, (- X) xSU7eit,,(s)U7a2ba(S). (7.4.19)
Частный случай (7.4.19) был приведен в теореме 5.5.2.
Комбинируя выражения (7.4.17) и (7.4.14), можно для больших выборок и X^O(modn) получить среднеквадратичное от-
клонение %Р (А),
Е|ША)-ЫЬ)1 ‘
- В^Т-^л у Wab (a)2 dafaa (A) fbb (А)
+ 1в»г(7.4.20)
Как отмечается в упр. 7.10.30, порядок убывания ВТ должен быть Т-1^, если мы желаем минимизировать асимптотическое значение среднеквадратичного отклонения.
Для асимптотических распределений справедлива
Теорема 7.4.4. Если выполнены условия теоремы 7.4.1, условия 2.6.1 и ВтТ оо, Вт—^0 при Т —> оо, mo Vxx (М» • • •, ^хх (^j) имеют асимптотически совместное нормальное распределение с ковариациями, заданными выражением (7.4.17).
Из выражения (7.4.17) следует, что оценки VpxW> fSix (и) асимптотически независимы при X ± р ^ 0(mod 2л). В случае Х^ 0 (mod л) оценка fxxW принимает действительные значения и ее предельное распределение будет действительным нормальным.
В § 7.3, исследуя оценку с осреднением по 2т+1 ординатам периодограмм, мы получили в пределе распределение Уишарта с 2т+1 степенями свободы. Этот результат полностью согласуется с результатом теоремы 7.4.4. Оценка (7.4.4) является по существу взвешенным средним ординат периодограммы частот окрестности точки X ширины О^ВТ\ В данном случае таких ординат будет О(ВГТ) в противоположность ранее рассмотренным 2т+1. Распределение Уишарта приблизительно нормально при больших числах степеней свободы. Из предположения ВтТ —оо вытекает, что оба этих распределения по существу одинаковы. Предположим, что во всех оценках используется одна и та же весовая функция Wab^==W^y Для сравнения выражений (7.4.16) и (7.3.13) удобно положить
( Т-\X 2 f Г-1
2т+1 = 1 У, (А—^) } /{ У (х—^V
тотическую структуру моментов первого и второго порядка, а также совместное распределение состоятельных оценок спектра второго порядка рассматривал Rosenblatt (1959). Связь между асимптотической теорией и некоторыми эмпирическими аспектами изучал Parzen (1967с). Развитию асимптотического распределения спектральных оценок, основанных на сглаживании временных рядов, посвящен § 7.7.
Построение доверительных границ
. После того как мы определили некоторые предельные распределения оценок ^' (X) спектра второго порядка, обратимся к построению доверительных границ для величины fab (X) с использованием этих распределений. Начнем с оценки § 7.3. В случае X ^ 0 (mod л) оценка имеет вид
т
® (X) = (2m + 1) -1 L ^ (2Л [$ г^’)' (7.5.1)
s=-m х
для таких целых s(T), что 2ns(T)/T близко к X. К такой оценке мы пришли на основании теоремы 7.2.4, из которой следует, что величины•*
/^(^Р^), s = 0, ±1±m,(7.5.2)
можно рассматривать в качестве 2m+1 независимых оценок для Lb(^)- Имея набор приближенно независимых оценок интересующего нас параметра, не представляет труда построить доверительные границы. Рассмотрим, например, случай 9 = Refab (X). Положим для s = 0, ± 1, ..., ± m
0s = Re/ap
В качестве оценки для 9 Возьмем
0 = Re^>(X) = (2m+l)-1 2 0,.(7.5.4)
s= -т
Положим
^(гт)-^,-6)’-(7.5.5)
■S
Даже в том случае, когда основные переменные 0$ не являются нормальными, статистическая практика показывает (см. гл. 31 в книге Kendall, Stuart (1961)), что распределение переменной
а/ }^2/п +1а/ }^2/п +1(7.5.6)
а/ }^2/п +1
а/ }^2/п +1
может быть аппроксимировано /-распределением Стьюдента с 2т степенями свободы. Это приводит к следующим ЮОР-процентным доверительным границам для 9 = Refo6 (X):
/2^+1 2Ш/2^+1 2Ш0<9 + —2=/2m/2т+1 2m0<9 + —2=/2m/2т+1 2m
/2^+1 2Ш
/2^+1 2Ш
0<9 + —2=/2m
/2т+1 2m
0<9 + —2=/2m
/2т+1 2m
где /V(v) означает ЮОу-процентиль /-распределения Стьюдента с у степенями свободы. В случае Х = 0 (mod л) также воспользуемся теоремой 7.2.4.
Положив" для s = 0, ±1, ..., ± m
e4=Im7^>(^l£p±£l),e4=Im7^>(^l£p±£l),(7.5.8)(7.5.8)
e4=Im7^>(^l£p±£l),
e4=Im7^>(^l£p±£l),
(7.5.8)
(7.5.8)
можно аналогичным образом получить приближенный доверительный интервал для квадратурного спектра Imft6(X).
Тесно связанный с рассмотренным метод построения границ приближенного доверительного интервала следует также из теоремы 7.2.5. В этом случае статистики 1$ (X, I), / = 1, ..., L, для X ^ 0 (mod 2л) дают L приблизительно независимых оценок fo6(X). Поступая как прежде, положим 0 = Reft6(X),.
^ = 1^4^ П, /=1L,(7.5.9)
6 = Re^P(X) = L-1 Sep(7.5.10)
S2^-!)"1^-*(7.5.11)
6-еa !V~L6-еa !V~LПосле этого аппроксимируем распределение величины ,
6-еa !V~L
6-еa !V~L
(7.5.12)
/-распределением Стьюдента с L — 1 степенями свободы и найдем требуемые границы. Приближенные доверительные границы для квадратурного спектра Im fab(X) находятся аналогично.
Результаты теоремы 7.4.4 и упр. 7.10.8 приводят к несколько иному способу построения. Пусть X^O(modn) и оценка fab'W задана выражением (7.4.4). В таком случае согласно упр. 7.10.8 распределение Re ftp (X) будет приближенно нормальным со средним Re ftp (X) и дисперсией
а2 = (ВТТ)-^ $ Г (а)2da [fta (X) fbb (X) + {Re fab (X)}2 - {Im fab (X)}2].
(7.5.13)
Выражение (7.5.13) допускает следующую оценку:
о2 = (ВгТ)-1 л J W W da [® (X) f^ (X)
,+ {ReAp(X)^-{Im^(X)p],(7.5.14)
откуда можно приближенным образом получить 100р-процентный доверительный интервал'
Re® (X) — 02 (1±£) < ReU (X) < Re® (X) + 3z (Ш) ,
(7.5.15)
где 2 (у) означает ЮОу-процентную точку распределения стандартной нормальной величины. Приближенный интервал для квадратурного спектра Imfa6(X) можно получить аналогичным образом.
В заключение отметим, что некоторые полезные способы построения доверительных интервалов для Refab(M и Im/abW можно вывести из приближений, которые рассматривали Freiberger (1963), Rosenblatt (1960) и Gyires (1961).
Оценки родственных величин
' Пусть задан r-мерный стационарный рядХ(/), / = 0, ±1, ... , с ковариационной функцией cxx(w), w=0, ±1, ... , и матрицей спектральной плотности fyy(X), —оо<л<оо. Иногда представляют интерес оценки параметров, процесса
(7.6.1)(7.6.1)Jab И) = S Л ^ fob (“) da
(7.6.1)
(7.6.1)
для некоторой функции Д (а), а, Ь—1, ... , г. Так, например, такими параметрами могут быть ковариационные функции
2л
оили спектральные мерыоили спектральные мерыFOb W = 5 fab (a) da, 0^Х<2л, a, 6=1, ... , г. (7.6.3)FOb W = 5 fab (a) da, 0^Х<2л, a, 6=1, ... , г. (7.6.3)cab(u)= $ exp \iua\ fab (a) da, u = 0, ±1, .(7.6.2)
о
или спектральные меры
о
или спектральные меры
FOb W = 5 fab (a) da, 0^Х<2л, a, 6=1, ... , г. (7.6.3)
FOb W = 5 fab (a) da, 0^Х<2л, a, 6=1, ... , г. (7.6.3)
•о
Пусть 7^* (X) есть периодограмма отрезка данных
^ (X) = (2лТ)-Д £ Ха (/) ехр {- iX7} Д До Хь ^ ехр \-1ХЦ),
(7.6.4)
тогда за оценку для 7а1,(Л), очевидно, можно принять
^ЦА) = ^^А (^Al^ (^-s), a, b=\, г. (7.6.5) s=l х 7 Х 7
Для этой статистики справедлива
Теорема 7.6.1. Пусть r-мерный ряд Х(0, t = 0, ±1,..., удовлетворяет условию 2.6.1. Если функции Л/(а), 0^а^2л, имеют ограниченную вариацию для всех j=l, ... , J, то
ШЦА;)-^!^ fab (^Но(1)
5=1 Х 7 Х 7
2л
= ^Л/(а)/оЬ(а)аа+о(1), j=\, ... , J, о■
(7.6.6) cov pS, (А^, J^AA^
= Т- j л/ ^ ^^ ^*<”(а) ^ (~ а>da О
2л
+ ^ j Aj (а) ЛА(2л-а)7аЛ (а) fMa (-а)da О 2 л 2 лz
+^ j J Лу(а) ^fai6,aa6a(a, -a, ~P)dadp+о (?-*). (7.6.7) . о о
Кроме того, асимптотически J^ (Ду), / = 1, ... , J; а, &=1, ... , г, имеют совместное нормальное распределение с указанными выше моментами первого и второго порядков..
Согласно теореме 7.6.1, статистика J^ (Ду-) является асимптотически несмещенной состоятельной оценкой для Jab(Ajy Она основана на дискретном преобразовании Фурье и поэтому ее можно получить, используя преимущества алгоритма быстрого преобразования Фурье. Если выполняется условие 2.6.2(Z), то остаточные члены, как и в теореме 5.10.1, имеют порядок О (Т-1) и 0<Г-^.
В случае оценки
Р^ЦЦ = ^- ' Е 1^^(7.6.8)
'о<^<л
спектральной мёры Fab(k), соответствующей функции Л(а)=1 при O^a^Z и Л (а) = 0 в остальных случаях, выражение(7.6.7)
для 0 < X, |л < л; аи bit аг, b2 = 1, ... , г дает
min (X. ц)
lim Т cov ^k (X), F^k (и)} = 2л $/„,„, (a) fbibi (— а) da
т-*®о
X ц
+ 2л $ J fatbvaibl (а, -а, —p)dadp. (7.6.9) О о
Вопрос о сходимости F^ (X) мы обсудим несколько позже в этом параграфе. В случае оценки
т -1
Cab Vй) —] 7 |)
s=l'
2 [Х6(< + и)-^’][Хь(0-4Г)](7.6.10)
/=0
ковариационной функции саЬ (и), соответствующей функции А (а) = = exp \iua,\ и в которой Ха (t) обозначает периодическое продолжение последовательности Х(0), ... , X (Т— 1), из выражения (7.6.7) следует, что для и, и = 0, ±1,
lim Т cov \с^к (uV с{атгк(у)} Т-ж
2л
= 2л Jexp{i(u-v)a}/aiaa(a)/Ma(— a) da ' о
2л
+ 2л $ ехр {— i (и + и) a} fOtbl (a) fbxOi (— a) da о
2л 2л
+ 2л$ Jexp{i(tia —vp^/^^Ja, —а, — 0)cta^ (7.6.11) о о
В упр. 7.10.36 показано, что оценка ковариации
^Рх(^=Т^2[х^ + ^-с^ГХ^-с^Г(7.6.12)
ОС/, / + И < Т-\
асимптотически нормальна и имеет ковариационную структуру (7.6.11).
Полезно в качестве параметров ввести следующие величины:
<7-6J3)
где —оо < X < оо; l^a<6^r. Величина Rob(X) называется когерентностью ряда Ха (/) с рядом Хь (t) частоты X. Иногда мы будем называть когерентностью ряда Xa(t) с рядом Хь (<) частоты X также и квадрат модуля этой величины
I Rab W |2- Интерпретация параметра Rab (X) дается в гл. 8. Эта. величина является комплексным аналогом коэффициента корре^ ляции. Ее оценку дает выражение
/(Л
Rab W = ТТп—^Ъ ПТ/Г •(7.6.14);
№W1Zi
В том случае, когда используются приведенные в § 7.4 оценку спектральной плотности, справедлива
Теорема 7.6.2. При соблюдении условий теоремы 7.4.3 для; Rab'W* заданной формулой (7.6.14), справедливы соотношения
ave R^ (X) = Rab (X) + О (В^ + О (В^Т-1),(7.6.15)
cov № (X), R^ (р)}
^Л {^* И} ^R acRdb2 RdcRacRcb 2 RdcRadRdb
"2 RabRacRda-""^ ^ab^bc^db + ^ RabRdcRac^ca +
+ *4* RabRdcRadRda + *4* RabRdcRbcRcb 4” "4" RabRdcRbdRdb^
+ Л {^ + И} ^RadRcb2 ^cdRacRcb ~ "2 RcdRadRdb
2 RabRadRca "2 RabRbcRdb
4~ "4" RabRcdRacRca + *4" RabRcdRadRda
+ "4 RabRcdRbcRcb + x RabRcdRbdRdbj
х2л J W (aydaB^T-HO^T-^(7.6.16)
для a, b, c, d = 1, ... , г. Переменные R^ W> a> 6=1, ... , r, имеют асимптотически совместное нормальное распределение с ковариационной структурой, задаваемой выражением (7.6.16), где для краткости пишется Rab вместо Rab(X), а, 6=1, ... , г.
Асимптотическую ковариационную структуру оценок коэффициентов корреляции рассматривали Pearson, Filon (1898), Hall (1927) и Hsu (1949) для случая векторных переменных с действительными компонентами. Очевидно, можно развить иную теорию предельных распределений, взяв за рснову оценку и предельные распределения Уишарта по теореме 7.3.3. Такое распределение рассматривал Fisher (1962) для случая векторных пере» менных с действительными компонентами. Из теоремы вытекает
Следствие 7.6.2. При соблюдении условий теоремы 7.6.2 выполняются соотношения*
ave | R^ (X) |2 = | Rab (X) |2 + О (ВТ) + О (BfT^),(7.6.17)
cov {I R^ (X) |2, IR^ (p) I2} = h {X - p} + n {X + p}] I Rab (X) |2
X [1 -| Rab WI2]2 4л J W (a)2 daB-^T-1 + О (Вт2Т^),(7.6.18)
и для заданного J переменные R^ (XJ, ... , R^ (X,) имеют асимптотически совместное нормальное распределение с ковариационной структурой, задаваемой формулой (7.6.18). для \ ^а <Ь^.г. -
Дальнейшие вопросы, связанные с асимптотическим распределением величины | R^ (X) |2, будут обсуждаться в § 8.5, построение приближенных доверительных интервалов для j Rab (X) | будет проведено, в § 8.9.•
Введем пространство Z) [0, л] непрерывных справа функций, имеющих левосторонние пределы. В этом пространстве можно так ввести метрику, что оно будет полным и сепарабельным [Billingsley (1968, гл. 3)]. Пусть пространство О^'^О, л] есть пространство г X/'-матричных функций, элементы которых являются комплексными функциями, непрерывными справа и имеющими левосторонние пределы. Это пространство изоморфно Озг2[0, л] и метри- зуемо так, что оно будет полным и сепарабельным. Пусть задана последовательность вероятностных мер РТ, Т - 1," 2, ... , на пространстве Dcxr[0, л]; тогда будем говорить, что эта последовательность слабо сходится к вероятностной мере Р на Х^ДО, л], если
'^hdPT —^hdP(7.6.19)
при Т —* оо для всех действительных ограниченных непрерйвных функций h из D'^ [0, л]. Если в этой ситуации Рт определяется случайным элементом Хг, а Р — элементом X, будем говорить, что последовательность Xr, Т = 1, 2, ... , сходится по распределению к X' " *
Случайная функция F^x (X), очевидно, принадлежит пространству Д^ДО, л] так же, как и функция VT [FxxW-FxxW]. Справедлива '
Теорема 7.6.3. Пусть r-мерный ряд X (/)> t=0, ±1, . •. , удовлетворяет условию 2.6.2(/). Предположим, что оценка Fxx (X) задана формулой (7.6.8). Тогда последовательность процессов {Vt [F(xx (X) — Fxx(X)]; О^Х^л} сходится по распределению к гх r-матричному гауссовскому процессу {Y (X); 0 ^ X ^ л} со сред-
ним 0 и
zmin (X, ц)
cov < Уо,61 (А), Yaabi (р) = 2л $ faiai (a) fbibi (— а) da Iо
X ц
+ 2л $ j faibl01b, (а, —а, — p)dadp, (7.6.20) О о
где 0 ^ X, р ^ л и alf а2, bv Ь2 = 1, ... , г.
Используя результаты гл. 4 книги Cramer, Leadbetter (1967), можно показать, что выборочная траектория предельного процесса {Y (X); О^Х^л} непрерывна с вероятностью 1. В случае когда ряд Х^ гауссовский, спектры четвертого порядка обращаются в 0 и ковариационная функция (7.6.20) упрощается, В этом случае, положив Аг (а) = 1 при р^а^Х^ и Д2(а) = 1 при р2^а^Х2 и приняв обе равными нулю в остальных случаях, из (7.6.7) получим для Pi ^ Хх ^ р2 Х2
cov {Га,ь, M-Yaibi (pj, Yaibi (K)-Yaib2 (p2)} = 0.(7.6.21)
Таким образом, предельный процесс будет гауссовским с независимыми приращениями.
Основным следствием теоремы 7.6.3 является такой факт: если множество точек разрыва функции h на £>схг[0, л] имеет вероятность 0 относительно процесса {¥(Х); О^Х^л}, то hWT^xH-Vxxk•)]) сходится по распределению к h (¥(•)) [Billingsley (1968)]. Используемая выше метрика в О^Хг[0, л] часто бывает неудобна. Если, однако, рассмотренный в теореме предельный процесс непрерывен, то согласно результату М. L. Straf из непрерывности h в метрике
(7.6.22),(7.6.22),2sup|ra6(X)| a. b X
(7.6.22),
(7.6.22),
(7.6.23)(7.6.23)и измеримости случайной функции h Ц^Т [F’J^ (•) — Fxx(-)] следует сходимость по распределению h к h(Y (•)). Так, например,
(7.6.23)
(7.6.23)
Т SUP |F^W—FaaWI
0 < X < л
сходится по распределению к
sup |Ka„(K)|, о < X < л
(7.6.24)
где YObW—гауссовский процесс со средним 0 и
min (X, ц)
cov {Yaa (X), Y аа (и)} = 2л$ foo (аУ da
О
X ц
■ + 2я J j foaoa (а, —а, — р) dad0
0 0
дляО^Х, р^л, а=\,...,г.(7.6.25)
Рассматриваемая в теореме оценка имеет то неудобство, что она разрывна и тогда, когда соответствующие теоретические величины непрерывны и даже дифференцируемы. К непрерывной оценке приводит
х
$ Ix2cmx С(Л (а)^«.(7.6.26)
О X X
Можно показать, что процесс
/ Xч
^ S^^x-cT^(7.6.27)
сходится по распределению к гауссовскому процессу со средним О и ковариационной функцией (7.6.20).
Если г=1 и ряд ХЦУ t = 0, ±1, ... , является линейным процессом со средним 0, то, как показали Grenander, Rosenblatt (1957), имеет место слабая сходимость процесса
х
(7.6.28)(7.6.28)J /хх (a)da-Fxx(X) о
(7.6.28)
(7.6.28)
х>Jm(a)^-^xx(X)о)х>Jm(a)^-^xx(X)о)Они рассматривали также слабую сходимость процесса
х>
Jm(a)^-^xx(X)
о)
х>
Jm(a)^-^xx(X)
о)
(7.6.29)
где f'xx (X) — оценка спектральной плотности с использованием весовой функции. Случай гауссовских процессов со средним 0 и интегрируемой с квадратом спектральной плотности рассматривали Ибрагимов (1963) и Малевич (1964, 1965). MacNeil (1971) изучал двумерные гауссовские процессы со средним 0. Brillinger (1969с) рассматривал случай r-мерных процессов со средним 0, удовлетворяющих условию 2.6.2(/), и доказал сходимость в тонкой топологии. Clevenson (1970) занимался слабой сходимостью непрерывных процессов, рассматриваемых в теореме в случае гауссовских рядов с нулевым средним.
Дальнейшее развитие оценок спектра второго порядка
Начнем этот параграф исследованием асимптотического распределения состоятельной оценки матрицы спектральной плотности 1ух(Х), построенной по сглаженным данным г-мерногс" ряда X(0,V = 0> ±1, с функцией среднего значения сх. Пусть функция сглаживания ha(u), —оо < и < оо, удовлетворяет условию 4.3.1 для а=1, ..., г. Будем анализировать набор сглаженных значений ha (t/T) Ха (/), / = 0, ±1, ... . Предположим, что функция среднего для а = 1, ..., г оценивается выражением
Цка^Ха (0
'77ТГ.(7.7.1)
(т)
Пусть при —оо <Х< оо, а=1, ..., г, с^ЧМ^Н.^ХАПехр^-Ш). (7.7.2)
Наша оценка для fxxW будет основана на преобразовании Фурье сглаженных значений, из которых вычитаются средние, а именно на
С-.т(1) ” £ Ч?) [Х“ Wехр 1
= d?4^-^^(M ,(7.7.3)
где для а = 1, ..., г.
Н^^^УгУ^Ь1^-(7.7.4)
Следуя обсуждению, приведенному в § 7.2/ образуем периодограммы второго порядка
х _ат^=\^Н&Ч^^ cmW, (7.7.5)
Ла са ’ b bАа са ЛЬ СЬ
где
7/«6)W = ^fta(y)/i6(^)exp{-iW}, а, Ь=\, ..., г. (7.7.6)
Из (7.7.3) следует, что (7.7.5) можно переписать в виде
(2л)-1 ^ехр {— 1Хи)с$ (и),(7.7.7)
и
где
с^ = н^ (О)-1 £ на ^уь (у) [Хо (t + u)-^]
‘' х[Хь(0-4пГ (7.7.8)
является оценкой кросс-ковариационной функции соЬ (и).
Пусть весовая функция IFob (а), —оо < а < оо, a, b = 1, ..., г, удовлетворяет условию ^ Wob (а) da = 1. В данном случае, включающем произвольные функции сглаживания, мы не видим никаких преимуществ от осреднения периодограммы по частным значениям частот 2л$/Г, s = 0, ±1, • • • • Поэтому рассмотрим оценку, включающую непрерывную весовую функцию
^W= $ B^Wab(B?^-^hxT>m х cm(»W, (7.7.9)
где a, b = 1, ..., г, а величины BTl Т* = 1, 2, ..., положительны и ограничены. Используя (7.7.7), можно выражение (7.7.9) переписать в виде
fa? W = (2л)-12^ (Вти) с^ (и) ехр {- 1Хи\,(7.7.10)
где
wab(u) — $ Wab (а) ехр \iua\ da, —оо <и < оо. (7.7.11)
Мы будем считать, что для этой функции выполняется
Условие 7.7.1. Действительная функция w(_u), —оо < и < оо, ограничена, симметрична, w (0) = 1 и ■
|да(и)\du < оо, J | и(| w(w) |dw < оо. • (7.7.12)
Как следует из упр. 3.10.7, оценку (7.7.10) можно вычислить, используя быстрое преобразование Фурье. Справедлива
Теорема 7.7.1. Пусть r-мерный ряд X(t), t = 0, ±1, . удовлетворяет условию 2.6.2(Z), функция ha(u), —оо < и < оо, удовлетворяет условию 4.3.1 для а=1, ..., г и, кроме того, ^h.o(u)hb^iT)du#=0. Предположим, что ■ wabVu\ —оо < и < оо, удовлетворяет условию 7.7.1 для а, 6=1, ..., г и ВТТ —>оо при Т —> оо. Тогда справедливы соотношения
Ef^ (X) = у Wab (a) fab Ck-B^ da + О
= (2л)"1 Y^ab (Втй) саЬ (и) ехр {— iku^ + О (В? Т-1)
«(7.7.13)
limBrTcovtf^fX), /ЙЛИ)}
Г-> оо-'
= 2л $ hai (0 hbi ^ dt^ -1 { $ hai (i) hbi ^ dt'
X $ /^ W hai ^ hbv ^ hbi ^ dt h {X-p} faiai (X) fbibi (- X)
+ Tl{X + ^/OiI„(X)fbiaa(-X)] J W^W^da,(7.7.14)
причем переменные f$, (X,), •••> !аТ^ьк^к) асимптотически нормальны с приведенной выше ковариационной структурой.
Сравнение выражений (7.7.14) и (7.4.17) показывает, что асимптотически сглаживание приводит к появлению в выражении для предела дисперсии множителя
(7.7.15)(7.7.15)^„лпНаД^ЬьАПНьЛП dt
(7.7.15)
(7.7.15)
( $ hat (О hbl w dt)^ hai (t) hbl W dt) '
Этот множитель равен 1 в случае отсутствия сглаживания, т. е. htt(t)=\ для 0^/<1 и йа^ = 0 для других 1. Если используется одна и та же функция для всех рядов, т. е. he (f) = 1ЦГ), а=1, ..., г, множитель равен
(7.7.16)(7.7.16)J h(.tydt{J/^a}2’
(7.7.16)
(7.7.16)
Из неравенства Шварца следует, что этот множитель всегда больше или равен 1, так что использование сглаживания приводит к увеличению предела дисперсии. Можно надеяться, однако, что произойдет достаточное уменьшение смещения и оно будет компенсировать увеличение дисперсии. Справедливо
Следствие 7.7.1. Если соблюдаются условия теоремы 7.7.1 и ВТ—^0 при Т —^ оо, то оценка является асимптотически несмещенной.
Исторически первая широко используемая оценка кроссспектра имела вид (7.7.10) [Goodman (1957), Rosenblatt (1959)], хотя сглаживание, как правило, не использовалось. Ее асимптотические свойства совпадали в основном со свойствами §.7.4. Такое исследование провели Akaike, Yamanouchi (1962), Jenkins (1963а), Murthy (1963) и Granger (1964). Freiberger (1963) рассматривал приближения к этому распределению в случае двумерного гауссового ряда.
Обсуждение § 7.1 предлагает иной класс оценок спектра второго порядка /аЬ(Х). Пусть ряд Ya(t) есть результат прохождения ряда Xa(f) через полосно-пропускающий фильтр с передаточной функцией Л (а) = 1 при | а ± X | < Д и Л (а) = 0 в противном случае; — л<а, Х^л. Рассмотрим в качестве оценки для RefabW г ,
' (4ДТ)-1£У«(0Гь(0, WV^YoW«Yb(t)H, (7.7.17) ■ /=оt=o
или среднее этих двух оценок. Для Im fab (X) рассмотрим оценки (4^T)-^Y0^HYb(t), -№^Ув¥ь№ фЛА^ t=o,t=o
или среднее этих двух оценок. Такая процедура оцениваний позволяет нам провести исследование структуры ряда на медленную эволюцию во времени [Brillinger, Hatanaka (1969)]. Этот тип оценок рассматривали Blanc-Lapierre, Fortet (1953). Одним из способов преобразования рассматриваемых рядов является комплексная демодуляция; см. § 2.7 и Brillinger (1964b).
Оценки кросс-спектра от величин sgnX^i), sgnX2(^), ^ = 0, ..., Т — 1, двумерного гауссовского ряда со средним 0 рассматривал Brillinger (1968). Было получено асимптотическое распределение оценки (7.7.10) без сглаживания.
В некоторых случаях может оказаться интересным, насколько f^W может отклоняться как функция X и Т от своего математического ожидания. Начнем с изучения периодограмм второго порядка. В теореме 4.5.1 отмечалось, что в некоторых условиях регулярности для ряда с нулевым средним выполняется с вероятностью 1 неравенство
ПЫ sup |4ГЦ^) |/(Т log Т^^ ^2 (2л) f ha (t^dt sup и (ХЖ,
T->00•UX
(7.7.19) Отсюда следует
Теорема 7.7.2. Пусть r-мерный ряд Х(/), < = 0, ±1, ..., с нулевым средним удовлетворяет условию 2.6.3, а функция haW, —°° < и < оо, удовлетворяет условию 4.3.1, а= 1, ..., г. Пусть Ixx (X) задано выражением (7.2.5). Тогда
JS sup 11$ (X) |/log T < 4 {I $ ha (t) hb (0 dt 1} /->00 Xv'
X { $ НЖ« $ hb ^dlf {supfae (X) sup U (X))1/2 (7.7.20) выполняется с вероятностью 1 для a, b —1, ..., r. ■
Whittle (1959) определил вероятностные границы для периодограмм второго порядка, см также Walker (1965). Parthasarathy (1960) нашел границу вероятности 1 заданной ординаты периодограммы и показал, что такая выделенная ордината может расти как log log Т, а не как log? в (7.7.20). Прежде чем перейти к изучению поведения f$ W — EfaP (X), сформулируем условие, близкое по характеру к условию 2.6.3, относительно ряда Х(7), * = 0, ±1, ... .
Условие 7.7.2. Пусть r-мерный ряд Х(7), / = 0, ±1, .... удовлетворяет, условию 2.6.1. Пусть для величин Сп, заданных выражением (2.6.7), выполняется '
(7.7.21)(7.7.21)
(7.7.21)
(7.7.21)
для г в некоторой окрестности 0. Внутреннее суммирование в (7.7.21) производится по всем неразложимым разбиениям v = (у,, ..., vP) таблицы
12
34
(7.7.22)
2L—1 2L
с vp, состоящим из пр> X элементов, р=Х, ..., Р.
В случае гауссовского процесса имеет место С„ = 0, п > 2, и (7.7.21) обращается в
'^-ЧЬ-Ху.СЬМХ.(7.7.23)
L=1
Этот ряд сходится при 2C2|z|< 1, так что условие 7.7.1 выполняется в этом случае, если только выполнено условие 2.6.1. Справедлива .
Теорема 7.7.3. Пусть r-мерный ряд X (0 удовлетворяет условию 7Л.2; На (и), —оо < и < оо, удовлетворяет условию 4.3.1 для а = Г, ..., г; wab(u), —оо < и < оо, а, Ь—Х, ..., г, удовлетворяет условию 7.7. Г и обращается в 0 для достаточно больших |и ]; оценка fS ОУ определена формулой (7.7.10). Тогда для задан-
кого т] > 0, такого, что ^тВт<оо, выполняется
Ito sup I fT (X) - Ef<r (X) I (BTT / log 1 /Br)1/3'
<[(1 + ^Зл ^ Wab(ayda^ha(t)hbWdt^ 2
x J ha (tyhb (02 dt sup faa (X) sup U (X)]1/2 (7.7.24)
XX J
с вероятностью 1 для a, b=\, ..., r.
Если 21“11са»(ы)1 < °°> и ^ lal I ^аь! < °°’ 70 из теоремы 3.3.1 и выражения (7.7.13) следует соотношение
Е/<Р (X) = fab (X) + О (ВТ) + О (ВУТ^),(7.7.25)
так что с вероятностью 1 выполняется равенство
faP (X) = fab W + О (Вт) + О ([BT7710g 1/Вг]-1/2,' (7.7.26)
в котором остаточные члены равномерны по X.
Как видно из теоремы 7.7.3, оценка f^ (X) в сильном смысле состоятельна. Как показали Woodroofe и Van Ness1 (1967), в некоторых условиях регулярности, включающих линейность процесса X (t), по вероятности выполняется равенство iMB/T/logl/Br)1/2sup^^^'
= [4л $ Г (a)2 da]1/2. (7.7.27)
Здесь рассматривается случай несглаженных данных. Они исследовали также предельное распределение максимального отклонения.
При более слабом условии 2.6.1 справедлив более грубый результат:.
Теорема 7.7.4. Пусть r-мерный векторный ряд X (Z), t = 0, ±1, ..., удовлетворяет условию 2.6.1, функция ha{u), —оо < и < оо, удовлетворяет условию 4.3.1. Предположим, что wab (и), -—оо < и < оо, а, Ь=1, ..., г, удовлетворяет условию 7.7.1 и обращается в 0 для достаточно больших значений |и|, оценка № W задается формулой (7.7.10). Пусть ВТТ-^оо, Вт—>0 при Т оо. Тогда для любого е > 0 при Т —* оо имеет место сходимость по вероятности:
(ВТТу'» Вет sup I f^ (X) - Е& (X) I — 0.(7.7.28)
Если, кроме того, для некоторого m > 0 выполняется условие 2т 5т < оо, то событие (7.7.28) выполняется при Т —> оо с вероятностью 1.
В теореме 7.7.4 вместо множителя (BrT/log \1Вту^ из ра^ венства (7.7.27) использован несколько меньший множитель^ (,ВтТу^ Вет.-
Если мы желаем использовать оценку (7.4.5), и нас устраи^ вает максимум по дискретному множеству точек, то имеет местом
Теорема 7.7.5. Пусть r-мерный ряд Х(/), / = 0, ±1, . ..^ удовлетворяет условию 2.6.1, Wab^ay —оо<а<оо, удовлетворяет условию 5.6.1, оценка fib W определена формулой (7.4.5), и ВТ—+0, Рт, ВтТ оо при Т—^оо. Тогда для-любого е > 6 при Т —* оо имеет место сходимость по вероятности: ,
(ВТТ)^Рге sup |/<р№)-Е^)('^)|-+0. (7.7.29)
Если к тому же ^,тРтт < Ф для некоторого т>0, то событие (7.7.29) выполняется при Т оо с вероятностью 1.
В §5.8 мы обсуждали важность выполненной до построения, спектральной оценки предварительной фильтрации. Выражение (7.7.13) еще раз подтверждает это. Математическое ожидание величины f^b W, вообще говоря, не совпадает с feb(X) и является всего лишь взвешенным средним от fab(ct) с весом, сконцентрированным в окрестности точки X. Если fab (X) имеет значительные всплески или впадины, то взвешенное среднее может Довольно' сильно отличаться от fob(X). На практике часто случается, что кросс-спектры имеют большие значения, чем спектры мощности. Рассмотрим часто встречающуюся ситуацию, когда Х2 (/) является по существу запаздывающей версией ряда Xi (t), например,
'Х2(/)-аХ1(<-у) + е(0,(7.7.30)
t = 0, ±1, ..., величины а, и —постоянные и ряд ошибок e(Q ортогонален ряду ХгЦУ Тогда кросс-спектр задается выражением
/21 (X) = exp {—iXv} afn (X)
= cos {to} afu (X) —- i sin {to} ^И (X).(7.7.31)
Если выбрать должным образом у, то функция /21 (X) будет быстро менять знак при изменении X. Любое взвешенное среднее этой функции, такое же, как (7.7.13), будет близко к 0. Отсюда можно заключить, что между исследуемыми рядами нет никакой связи, в то время как на самом деле имеется сильная линейная связь., Akaike (1962 а, Ь) предполагал, что подобная ситуация возникает при рассмотрении ряда Хх (/) с запаздыванием приблизительно на и временных единиц. Другими словами, вместо исходного отрезка ряда анализируется ряд [ХД/— у*), Х2(/)], ^0, ±1, . .♦, где о* близко к и. Это —один из видов предварительной фильт-
рации. Akaike предполагал, что на практике и* может быть определено как запаздывание, при котором | СзР (и) | максимально. Если оцениваемое запаздывание хоть где-нибудь близко к и, оцениваемый кросс-спектр должен быть гораздо менее быстро меняющейся функцией.•
В § 5.8 отмечалось, что фильтр, приводящий интересующий нас ряд к белому шуму, может быть подогнан по авторегрессионной схеме для этого временного ряда. Nettheim (1966) предложил подобную процедуру при оценках кросс-спектра. Осуществив подгонку модели
Х2 (0 == я (/и) %! (t —; т) 4-... 4-й (0) Xf (t) 4* • • • 4* я (—я) Aj (t 4- и)
■.(7.7.32)
методом наименьших квадратов, оценим кросс-спектр остатков и ХД/)- В более общем случае r-мерных рядов можно определить г векторов а<г> (1), ..., а<Г) (т), минимизирующих выражение
Т-1
5 [Х(0—а(Г> (1)'Х(/— 1) —...— а^Цт)ХЦ-т)¥
х[Х (0 -а(Г> (1) X (t— 1) - .-.. —а(Г> (m) X (m) X Ц—т)]. (7.7.33)
Затем, построив спектральную оценку f^? (X) по ряду остатков
е(0 = X (0 -а(Г) (1) X (/ - 1) - ... —a^ (т) X(t-m), (7.7.34)
для t = m, ..., Т — 1, оценим fxxW посредством
'Ьт (X)-1 <g (X) (А<п (Х)-1^,(7.7.35)
где для — оо < X < оо
Avn (Х)= I — а(П (1) exp {— М} — ... — а(П (т) ехр { — iKm}. (7.7.36)
Обычно для интересующего нас ряда полезно, предложив на основании предварительных сведений статистическую модель, провести ее подгонку, а затем вычислить спектральную оценку по ряду остатков..
В заключение обратим внимание на связанную с подменой частот сложность, встретившуюся в § 5.11. Заметим, что теоретический параметр fyx(A) и его оценки обладают свойствами и периодичности, и симметрии:
^хх (^ + 2л) = fM (X);fxx (— X) = fxx (Х)т,
?хх (X 4- 2л) = f ^ (X);® (- X) = ГЯ (Х)\(7.7.37)
Это приводит к тому, что популяционный параметр и его оценки по существу совпадают для частот
±Х, Ч-Х Ч-2л. Ч-Х Ч-4л. ... .(7.7.38)
Рис. 7.8.1. Оценка f^p (X) для сезонно приведенного ряда среднемесячных температур Берлина за 1780—1950 гг. с осреднением по 21 ординате периодограммы (логарифмический масштаб). (По горизонтали — частоты в цикл/ме- сяц.)
Рис. 7.8.2. Оценка f(2p (X) для сезонно приведенного ряда среднемесячных температур Вены за 1780—1950 гг. с осреднением по 21 ординате периодограммы (логарифмический масштаб). _(По горизонтали — частоты в цикл/ме- сяц.)
Если это возможно, то предварительно ряд подвергают преобразованию с помощью полосно-пропускающего фильтра для устранения тех частотных компонент, которые могут при интерпретации спектральной оценки стать причиной путаницы.
Рабочий пример
Чтобы привести пример полученной в § 7.3 оценки, обратимся к рядам, рассмотренным в § 7.2, где ряд Хг (/) представлял собой сезонную выборку среднемесячных температур в Берлине (1780—1950), а Х2 (/)—сезонную выборку среднемесячных температур в Вене (1780—1950). На рис. 7.2.1—7.2.4 приводились периодограммы и кросс-периодограмма для этих рядов.
На рис. 7.8.1—7.8.4 этого параграфа изображены графики fn> W, АР W> ReAPW> ImAPW> Для построения которых использовались оценки вида (5.4.1) и (7.3.2) при ш=10. Из выражения (5.6.15) следует, что для десятичного логарифма обеих оценок спектра мощности стандартные ошибки равны приближенно 0.095. Интересно сопоставить форму Re/1р (X) и 1шДР(Х); в то время как значения ReflPW всюду положительны и примерно постоянны, за исключением заметных всплесков в нескольких частотах, ImAPW просто колеблется около нуля, наводя на мысль, что fi20^=O- Другие статистики для этого примера приводились в § 6.10.
Мы приведем здесь также оценки авто- и кросс-ковариационных функций этих двух рядов. На рис. 7.8.5 представлена оценка автоковариационной функции для ряда среднемесячных температур в Берлине с исключением сезонных эффектов. Подобная оценка автоковариационной функции для ряда, соответствующего Вене, приведена на рис. 7.8.6. На следующем рисунке (7.8.7) изображен график функции с^ (и) для и = 0, ±1, ... .
Все эти графики согласуются с гипотезой о мгновенности взаимодействия этих двух рядов. (Под мгновенностью здесь подразумеваются малые времена опережения или запаздывания по отношению к одному месяцу, поскольку данные ежемесячны.)
В качестве примера многомерных наблюдений рассмотрим ряд среднемесячных температур, зарегистрированных на станциях, перечисленных в табл. 1.1.1. Этот ряд был предварительно сезонно приведен вычитанием средних месячных температур по различным сезонам. В табл. 7.8.1 приведены значения ковариационной матрицы с нулевым запаздыванием с(/х (0). В табл. 7.8.2 содержатся корреляции с нулевым запаздыванием. За исключением ряда для Нью-Хейвена мы имеем сильно коррелированные ряды.
Рис. 7.8.3. Оценка Ref^^X) для коспектра температур Берлина и Вены за 1780—1950 гг. с осреднением по 21 ординате периодограммы. (По горизонтали— частоты в цикл/месяц.)
Рис. 7.8.4. Оценка Im/<р (%) квадратурного спектра температур Берлина и Вены за 1780—1950 гг. с осреднением по 21 ординате периодограммы. (По горизонтали— частоты в цикл/месяц.)
Рис. 7.8.6. Оценка с^ (и) ковариационной функции для температур Вены. (По горизонтали — запаздывание в месяцах.)Рис. 7.8.6. Оценка с^ (и) ковариационной функции для температур Вены. (По горизонтали — запаздывание в месяцах.)Рис. 7.8.7. Оценка с<р («) кросс-ковариационной функции для температур Берлина и Вены. (По горизонтали—запаздывание в месяцах.)Рис. 7.8.7. Оценка с<р («) кросс-ковариационной функции для температур Берлина и Вены. (По горизонтали—запаздывание в месяцах.)
Рис. 7.8.6. Оценка с^ (и) ковариационной функции для температур Вены. (По горизонтали — запаздывание в месяцах.)
Рис. 7.8.6. Оценка с^ (и) ковариационной функции для температур Вены. (По горизонтали — запаздывание в месяцах.)
Рис. 7.8.7. Оценка с<р («) кросс-ковариационной функции для температур Берлина и Вены. (По горизонтали—запаздывание в месяцах.)
Рис. 7.8.7. Оценка с<р («) кросс-ковариационной функции для температур Берлина и Вены. (По горизонтали—запаздывание в месяцах.)
Рис. 7.8.5. Оценка с<р (к) ковариационной функции для температур Берлина. (По горизонтали—запаздывание в месяцах.)
Матрица спектральной плотности была получена посредством статистики вида (7.3.2) с т = 57. Ввиду многочисленности спектров второго порядка мы представляем лишь некоторые из них.
На рис. 7.8.8 приведены десятичные логарифмы оцениваемых спектров мощности. В основном они носят одинаковый характер. На рис. 7.8.9 приводится выборочная когерентность | RVp (X) |2, где за X, (/) взят ряд наблюдений в Гринвиче и j пробегает оставшиеся номера рядов. Горизонтальная прямая каждой
4.2723.43 8 4.3334.2723.43 8 4.333
4.272
3.43 8 4.333
4.272
3.43 8 4.333
Таблица 7.8Л
Ковариационная матрица для ряда среднемесячных температур
hngHndj wnaxgHodi ошнчупд goy^odg
чуаевд \
«эдлау-отн adfipHngg шупд-ау
штаиодйд
ичиогхошэ
oaodu
иэапгнэиох wnydag пнэд
Рис. 7.8.8. Логарифмы оценочных спектров мощности сезонно приведенных температурных рядов для различных станций при сглаживании по 115 орди
натам периодограммы.
Юг- ■ Эвинбург
Юр Нью-Хейвен
Юр Вроцлав
л
Рис. 7.8.9. Оценочные когерентности сезонно приведенных ежемесячных средних температур в Гринвиче с такими же температурами на 13 других станциях за 1780—1950 гг.
to г Стокгольм
Ш U
.0 г Берлин
1-0 г Копенгаген
10г Прага
Рис. 7.8.9 (продолжение).
Таблица 7.8.2
Матрица выборочных корреляций для сезонно приведенного ряда
12345678910 11 12 13
1 Вени
2 Берлин
3 Копенгаген
4 Прага
5 Стокгольм
6 Будапешт
7 Де-Билт
8 Эдинбург
9 Нью-Хейбен
10 Базель
11 Вроцлав
12 Вильнюс
13 Трондхейм
14 Гринвич
.80
.65 .83
.79.73.63
.48.68.85.45
.92.75.59.72.44
.74.88.77.69^.59.64
.32.50.56.34.48.22.61
.01.08.18.02.19,.00.07.16-
.78.76.59.68.39.72.82-.43.05
.83.90.74.74.59.80.77.36.04.72
.59.68.64.50.63.58.54.20 *.01.40.68
.30.52.69.31.80.25.48.50.17.23.40.43
.57.71.67.53.49.47.86.72.17.78.59.32 ' .41
12345678910111213
диаграммы соответствует квадрату корреляции с нулевым запаздыванием. Как видно, в каждом случае графики расположены около констант и колеблются вблизи горизонтальных прямых. Последнее наводит на мысль о мгновенной зависимости рядов, поскольку, если саЬ(и) = 0 для «=#0, то |^?Об(^)|2= =| саЬ (0) |7| соа (0) сьь (0) | для — оо < X < оо. Небольшая корреляция соответствует, как нетрудно видеть, Де-Билту, следом за ним идет Базель. Наименьшая корреляция соответствует Нью- Хейвену (Коннектикут), расположенному на противоположной стороне Атлантики.
На рис. 9.6.1 изображен график десятичного логарифма оценки спектра мощности, вычисленной по формуле (7.3.2/ с т=25. Эти кривые более изменчивы, чем можно было ожидать из выборочной теории, развитой в этой главе.
Изучение рядов, встречающихся в планировании эксперимента
В некоторых случаях индекс а = 1, ..., г r-мерного векторного ряда Х(/) = [Хо(0], ^=0, ±1, ..., может иметь собственную структуру, как это бывает в случае рядов, встречающихся в планировании эксперимента. Рассмотрим, например, случай
сбалансированной однофакторной классификации, где К рядов распределяются по J классам. Здесь, по-видимому, уместно ввести обозначение Xjk, / = 0, ± 1, ...;&= 1, ..., К; j — 1, ..., J и r = JK для ряда, который может возникнуть, если образовать J групп реализаций и выбрать К реализаций в каждой группе. Если нас интересует однородность реализаций, то можно, обозначив положение от начала, выбранного для всего набора реализаций, буквой t, рассматривать значения Х-й реализации из j-й группы как процесс XJk^ положения t. Модель, которая может оказаться подходящей для этого случая, зададим следующим образом:
Xjk+ ру. (0 + 6jk (0,(7.9.1)
где р — константа; ряд а(/), / — О, ±1, ..., является стационарным рядом с нулевым средним и спектром мощности /аа.(Х); Ру (/), / — О, ±1, . / = 1, .. Л—также стационарные ряды с нулевыми средними и спектрами мощности f^ (X), —оо< X <оо; наконец, е^/) являются для / = 0, ±1, •К;
/ = 1, •••, J стационарными рядами, каждый из которых имеет нулевое среднее и спектр мощности feE(X), —оо<Х<оо. Параметр р соответствует среднему значению всех реализаций. Ряд a(Z), / = 0, ±1, •является общим для всех реализаций, а ряды P7(Z)> Z = 0, ±1, ..., отвечают эффектам /-й группы, если такие индивидуальные эффекты существуют. Они . являются общими для всех реализаций j-й группы. Ряды 6/аЮ. ^ = 0. ±1, ..., представляют собой ряды ошибок. Пользуясь терминологией, принятой для моделей со случайными эффектами в планировании эксперимента [Scheffe (1959)], мы назовем faa(X), ^w, fее W компонентами спектра мощности частоты X. Спектр /рр W может быть назван межгрупповым спектром мощности частоты X, a /Е8(Л) — внутригрупповым спектром мощности частоты X.
Используя введенные предположения, заметим, что ЕХ;Л (Z) = р, Z = 0, ±1, ...» а спектр мощности и кросс-спектр задаются выражениями
fx/k, xjk W = taaW"Vt^ W+fee W,(7.9.2)
hjk, xjk, (ЬИ«а М + /зз W, если кфк\(1^2)
Ujk, x.^W-taa^V если jf, k^k’.(7,9.4)
Как нетрудно видеть, когерентностью между рядами, соответствующими реализациям, выбранным из одной группы, будет служить величина
Ее можно назвать когерентностью между классами частоты Я. Когерентность между рядами, соответствующими реализациям, выбранным из разных групп, как нетрудно видеть, равна
Иногда может быть интересным вопрос о том, в какой мере связаны реализаций из одной группы по частоте X. Одним примером такой меры может служить когерентность (7.9.5). В экстремальном случае, когда а (/) и Ру- (/) тождественно равны нулю, эта мера равна нулю. Другой крайний случай, когда 8/» (0-о, даст для этой меры значение 1. Обратимся к задаче оценивания М^), fppW И и(Ц.
Мы видим, что модель (7.9.1) приводит к соотношению
dm (X) = рДт (X) +dm (X) + d^ (X) +dm (X),(7.9.6)
JRJR
где для — oo < X < oo-
dm W = JS Xjk Ц') exp {- Ш},(7.9.7)
а величины d^r>, d^, d(g' определяются аналогично. Как следует из теоремы 4.4.2, величины d^1 (X) асимптотически распределены как Mf (О, 2лТ/аа(Х)), величины d^T>(X), j=l, ..., J, асимптотически независимы и распределены как Mf (О, 2лТ/вв(Х)) при
X^O(modn); наконец, величины й^^Ц,
/ = 1, ..., J, асимптотически независимы для Х^О(тойл) и имеют предельные распределения Mf (О, 2л77ее(Х)). Таким образом, модель (7.9.6) можно приближенно считать моделью случайных эффектов в дисперсионном анализе при сбалансированной однофакторной классификации; см. Scheffe (1959). Это приводит нас к вычислению статистики
кт-1 / к\
dm (Х^К-1^ dm (Х) = S ( К"1 S Х^ ехр{-Ш} (7.9.8) £=1 /«/=0 \6=1/
и оценке feeW посредством j к
^Х'у-.Г-ЧК-Х'ГД^ (2лТ)-^т (X)-dm (Х)р. (7.9.9)
Мы оценим Kf^ (X) + fe6 (X) посредством
KI& W+/^ (X) = 7-^2 (2ЛТ)-1 | dm (X)-d<£>(X) р (7.9.10)
и, наконец,. JKLaO^-VKUeiQOA-taaO-'I посредством
J№ (X) + КГ® (X) +Г® (X) = (2лТ)-11 а®. (X) Р (7.9.11) в случае Х^ 0 (mod 2л).
Теорема 7.9.1. Пусть JK рядов Х)кЦу / = 0, ±1, ...; h=\, ..., К; ] = Г ■■■, J, заданы выражением (7.9.1), где р—константа, а (7), ^(t), e/k(t), t = 0, ±1, ...; k— 1, .... К; J = l, ..., J, являются независимыми рядами со средним О, удовлетворяющими условию 2.6.1 и имеющими спектры мощности faaWi ftoW- /ее (X) соответственно. Пусть I® (X), КГ®^^ + Г® (X), J КГ® (X) + KI® (X) +1® (X) заданы формулами (7.9.9)— (7.9.11). Тогда при X^O(modn) эти статистики являются асимптотически независимыми величинами с предельными распределениями f8E (X) xli <k-®[2J (К— 1)], [/</рР (X) + fEe (X)] ХхЫ^, №«(Х) + К/РР(Х) + /в8(^ Кроме того, для таких целых s^T), что Xz (Т) = 2tis((T)/T —► Xz при Т —► оо и 2XZ (Г), Xz (Т) ± Xm (Т) ^0 (mod2л) при 1^/ <m^L для достаточно больших Т, статистики I® (XZ(T)), KI® (XZ(T))4-I® (Xz (T)), 1КТаТЖ (T)) + KI® (Xz (T)) +1® (Xz (T)), / = 1L, являются асимптотически независимыми величинами.
Как следует из теоремы 7.9.1, оценка-
К-1 [{КГ® ^-Ц® ^[-1® (X)] .(7.9.12)
спектра f№ (X) распределена асимптотически как, разность двух независимых %2-переменных. Из нее следует также, что отношение
К1® (Х)+1® (%)(7.9.13)
1® Од асимптотически распределено как
^K$-^-A-\\F^^^(7.9.14)
при Т—*оо. Этот последний результат может быть использован для построения доверительных интервалов отношения спектров Ы [ЩиД'Ц.
Как мы видели раньше, часто выгодно пользоваться осреднением периодограмм статистик. То же справедливо и в данном контексте. Для целых s(T), таких, что. 2л5(Т)/Т близка к Х^ 0 (mod 2л), рассмотрим статистики
m
/<Р(Х) = (2/п+1)-1 £ 1® №(£)-sl А (7 9Л5) s=-m х'
И т.
W + ДР (X) = (2 т + 1) -1 £ { KI& (
-Н^^Ц^)}.(7.9.16)
Как следует из теоремы 7.9.1, эти статистики независимы и асимптотически распределены как /ее (X) хЪ <k-d «mwlV^ (X — 1) X X (2т +1)] И [/Cfpp (X) 4-/ее (X)] х^ (3т+1>/[2У (2m + 1)] соответственно.-'
Приступим теперь к обсуждению приложений к временным рядам, встречающимся в более сложных ситуациях при планировании эксперимента. Вычисления и асимптотические распределения получаются аналогично в случаях моделей нормальных случайных эффектов в рассматриваемом планировании. Shumway (1971) рассматривал модель
УДП^з^ТНпДО, / = 1, ...» W, (7.9.17)
где s(T) представляет собой фиксированный неизвестный сигнал и /гу-(^) —ряд, являющийся случайным шумом. Им было предложено рассматривать F отношений, вычисляемых в области определения частот. Brillinger (1973) рассматривал модель (7.9.1) также в том случае, когда ряды а(/) и Ру (/) фиксированы, и случай, в котором задаются кратковременные ряды.
Упражнения
Покажите, что для рядов [Xi(/), Х2^, / = 0, ±1, ..., имеющих абсолютно суммируемую кросс-ковариационную функцию с12 (и) ^covfXj (/+ и)» Х2у^> t, и = 0, ±1, ..., имеет место соотношение /21 (М=/12 (~ М
Покажите, что в условиях предыдущего упражнения коспектр рядов Хз(^н и X2(t) является квадратурным спектром рядов Хх (/) и Х2 (/).
Покажите, что в условиях первого упражнения /12 (М, —-оо< Х<оо, принимает действительные значения, если с12(и)=с21 (и).
Предположим, что авто- и кросс-ковариационные функции стационарных рядов [X] (/), Х2(/)], / = 0, ±1, ..., абсолютно суммируемы. Используя тождество'
имЧМ^пЧМЧР^, • докажите, что
Докажите, что если d^^ (X) = ^^о1 в~^Ху (/), 7<р(Х)==(2лТ)”1 Х^>(Х)4>)и2^||^^ то для X ^0 (mod 2л) выполняется соотношение
E/lP(X)=/la(X)4-O(T-i)
Докажите, что
(a) #Е ^ (^)=4 Е ^^ *2 (0 = тЬП(0),
(Ь)^ У. ОР ^)=^ У № (О-cP] [Х2(0-4г,]=4? (0)
s=l Х 7/ = 0
Предположим, что № (/), Х2(0Ь ^ = 0, ±1, являются стационарными рядами.
Покажите, как коспектр рядов Уг (/) = Хх (t) +Х2 (0> ^2(0 = ^1(0 — Х2 № можно оценить с помощью спектра мощности Уг (0 и У^ (/). *
Покажите, как квадратурный спектр Im/12 (X) рядов Ух^^Хлу-\-
+ 1) — X^ —1) и У2(0 = Х2(0 можно оценить с помощью коспектра Ух (/) и
Покажите, что в условиях теоремы 7.4.4 вектор .
(Втту 'г (2л J F (a)2 da) “1/2 [Re/<p (X), 1m /<р (X)]
имеет асимптотически нормальное двумерное распределение с дисперсиями [1 +П {2Х}] [/n (X) /22 (X) + {Re /12 (X)}2 —{Im /12 (Х)}Д/2, [ 1 -П {2Х}] [/n (X) /22 (X) - {Re /12 (X)}2 + {Im /12 (Х)}2]/2,-
и ковариацией
[1 —Т] {2Х}] [—{Re/12 (X)} {Im/12 (X)}].
Покажите, что в условиях теоремы 7.4.4 |/{р (X) | и I/{Р ф) | асимптотически имеют нормальное двумерное распределение с ковариационной структурой..
lim ВтТ cov {| ^[> (X) |, | /<[> (Ц) |}
Т->а>
= л [т] {Х-|г} + п {Х+И}Н/п (X) /22 (Х)+ I /12 (X) |2] J W (a)2 da.
Покажите, что в условиях теоремы 7.4.4 Ф<р (X) = arg f^ (X) и Ф<р ф) ==arg/<р ф) имеют асимптотически нормальное двумерное распределение с ковариационной структурой
lim ВтТ cov {Ф<Р (X), ф^ ф)}
= л [Т] {X — ^} — ^ {X + ^}] [/п (X) /22 (X) - I /12 (X) I2] I /12 (X) Г 2 J Г (a)2 da.
Покажите, что при условии 2|С12Ф)1 < 00 математическое ожидание величины /<7>(7)(7)(Х) дается формулой
А । — С^ , А 2 ^2 2л.
(2лТ)-1 ^ {| А<П(Х—a)|2-T-i А(П(Х) Д(^)(-а) ^^f—Х + а) о
_Г~1 А(П (-Х) А(П (а) А(Л (Х-а) + Г-21 А<П (X) |21 А(П (а) |2} /12 (а) da.
Пусть [Х^/), Х2(/)], / = 0, ±1, ..., является двумерным рядом, удовлетворяющим условию 2.6.1. Примем обозначения
с<Р(0 =
■ ^’ (01
L с^ (0.
V-1
о=0
"Xi (v+ IV) _X2(v+lV),
для Z=l, ..., L. Покажите, что с^ (Z), Z=l, ..., L, являются асимптотически независимыми величинами с распределением
N^N^ciС2.ciС2.2ЛУ-12ЛУ-1"/и (0) /12 (0)1 \ 721 (0)/22 Wj/1"/и (0) /12 (0)1 \ 721 (0)/22 Wj/1
N^
N^
ci
С2.
ci
С2.
2ЛУ-1
2ЛУ-1
"/и (0) /12 (0)1 \ 721 (0)/22 Wj/1
"/и (0) /12 (0)1 \ 721 (0)/22 Wj/1
Убедитесь, что при T = LV
I
является неплохой оценкой для /12 (0)=
Покажите, что результаты теорем 7.2.3, 7.2.4, 7.2.5 и 7.3.3 дают более точную асимптотику, нежели в случае, когда [^ (Z), Х2(0Ь Z = 0, ±1, ..., представляют собой последовательность независимых одинаково распределенных двумерных нормальных величин.
Предположим, что ряд № (Z), X2(0L Z = 0, ±1, ... удовлетворяет условию 2.6.2(1) и имеет среднее 0. Тогда
COV V^ W' ^12 ’ (И)} = Т^ I Л(Г> (Х-р) I2 /11 (X) /22 (X) +Т-2|Д<П(Х+|г)рЛ2(Х) /21(-Х) + 2nT-Vi2i2(X, —к -у^ + Т-^ЦК р),
где существуют такие К и L, что
|^)(Х, р)|<К{|Д^>(Л+.и)| + |Л^(Х-р)|} + £.
Предположим, что выполнены условия теоремы 7.3.3. Пусть p=/„i(WfMWtoM а^Ь. Тогда х = $? (Х)/К f^WfbP (X) имеет асимптотическое распределение с функцией плотности
exp {Re (хр)/(1 -1 р |2} Кгю (I * I /0 — I Р |2))exp {Re (хр)/(1 -1 р |2} Кгю (I * I /0 — I Р |2))| х |2”» лГ (2m+ 1) 22,”+l /1—|р!2
exp {Re (хр)/(1 -1 р |2} Кгю (I * I /0 — I Р |2))
exp {Re (хр)/(1 -1 р |2} Кгю (I * I /0 — I Р |2))
при X ^ 0 (mod л) и функцией плотности
I у |(2т-1)/2
———L_——= ехр {хр/(1 -р2)} К^т-п/г (I х |/(1 -р2))
лГ (т) 2<2,л“1)/2 У 1 —р2
при Х = 0(тодл). Указание. Воспользуйтесь упр. 4.8.33.
Пусть сух(ц), м = 0, ±1, ..., является автоковариационной матрицей стационарного r-мерного ряда X (Z), / = 0, ±1, ... . Покажите, что матрица сух(0)—^ххМтсух(О)"1 cxxW неотрицательно определена для и = 0, ±1, ... .
Пусть fxx(X), — оо < X < оо, обозначает матрицу спектральной плотности стационарного г-мерного ряда X (Z), Z = 0, ±1Покажите, что fхх W — 0 Для X = 0 (mod л).
Допустим, что автоковариационная функция в упр. 7.10.16 удовлетворяет условию
21 “ iz ic^ (°) I < °°
и
и Detfxx(X) /0, — со < X < оо. Покажите, что существует такой Z-суммируемый rXr-фильтр {а(м)}, что для ряда
Y(0=Sa«-U)X(u)
и
выполняется соотношение tyy (X) = (2л)-11, —оо<Х<оо, и сур(0) = 1, суу (и) = 0 для и ■# 0.
Пусть X (0, / = 0, ±1, ..., является векторным рядом из примера 2.9.7. Покажите, что
f J№ (X) = (2л)-1 А (X) -1 В (X) сее (0) В(Х)т J^it
Покажите, что в условиях теоремы 4.5.2 существует такое конечное L, что с вероятностью 1-
Tim" sup 11% (X)—A (X) Ixx (X)X^X)t | < L.
T—>co X
Покажите, что для случая несглаженных'данных утверждение теоремы 7.2.1 принимает вид
2л •о
Предположим, что r-мерный ряд X (/), Г=0, ±1, ..., удовлетворяет условию 2.6.2(1). Пусть 1^(Х) задано выражением (7.3.1). Пусть также р, = 2лг/Т, Х = 2л$/Т для целых г и s. Покажите, что для X, р^0 (mod 2л)
(aJcov^JX), /оА(р)}'
= Л {Х-р} fOiOi (X) fbibi (-Х) + Ч {Х+ р} fQibi (X) tM1 (-Х) + О (Т-1),
cov{Re/<%(X), Re/^Jp^lfMX-pJ + THX + p}]
х Re VaA (X) fbibi (- X) +fOlb, (X) fbiO, (- X)} + O (7-1),
cov{ReZ^ (X), 1т/Ц(р)}
=-4^ {% —nJ —n {k+pJl
x Im Vata» W tab, (-M~tab, W fbta.(-^ + O(T~^
cov {Im/<Д (X), Im/^Jp)}
= 4[T| ^-Hl-n^+nH '
XRe{/eiaa (X) /61Ьа (-X)-faibl (X) fbta^-^HO (T-i).
Допустим, что выполнены условия теоремы 7.2.5. Положим ( /=о.
Тогда величины
f(^(X) = (L-l)-i 5* [{2лД<^> (0)}-1(X, b-d£4k •)}
/=0
хКЧмй^чС’)}] распределены асимптотически как (L— I)-1 W^L-— 1, fyx(X)), если Х=^0 (mod л), и как (L—1)-11$7г (L—1, f^(X)), если X^0(modл).
Рассмотрим оценку
Л Л ' '° АЛ \уу 7
s= -т
в которой 2ns (Т)/Т —> X ^ 0 (mod я) и 2s 1^=1. Покажите, что в условиях теоремы 7.3.3 fyy (X) асимптотически распределена как
т
s= - т
где W5, s = 0, ± 1, ..., ± m, являются независимыми переменными с распределением W^ (1, ^хх MG Укажите среднее/И ковариационную матрицу предельного распределения.
.7.10.25. Предположим, что оценка.
(2m+l)"i У 1ЩНу)s= -т-
используется в случае четного Т и Х = л. Покажите, что в условиях теоремы 7.3.3 эта оценка имеет асимптотическое распределение (2m + l)”1 Wr (2m + 1, fxxG4))-
Покажите, что оценка (7.4.5) является неотрицательно определенной, если для —оо <а< со неотрицательно определена матрица 1^аь(а)]. Указание. Воспользуйтесь результатом Шура о неотрицательности [АаЬВаь1 в случае, когда неотрицательны [ДаЬ] и [Ваь]; см. Bellman (1960, стр. 94).
Покажите, что матрица [/(ар (X)] оценок (7.7.9) неотрицательно определена, если таковой же является матрица [1Га&(а)], — оо < а < оо, в случае ha (и) — h (и) для a=V. г.
Покажите, что в условиях теоремы 7.3.2 оценка fa1^ (X) является состоятельной, если /дь(Х) = О или fbb(X) — O.
Покажите, что в условиях теоремы 7.3.3 VТ ЦТ-сх) И f& (0) являются асимптотически независимыми величинами с распределениями Nr (0, 2л1уу(0)) и (2m)-1 M7r (2m. fyy (0)) соответственно. Покажите также, что величина 32Л, где•
3= = (2л)-1Т ЦТ-сх^х)*1 (с^-су),~
имеет асимптотическое Fr, 2m-распределение. Этот результат можно использовать при построении приближенных доверительных областей для су.
Покажите, что в условиях теоремы 7.4.3 нужно выбирать Bt =О^Т~Х,Ъ^ чтобы минимизировать среднеквадратичную ошибку Е l/a^) (X) — — fab (X) |2; см. Bartlett (1966, стр. 316)..
Докажите, что R^ (X) и R^ (X) в условиях теоремы 7.6.2 асимптотически независимы, если Rab, Rac, Rod, Rbc, Rbd, Rcd равны нулю.
Покажите, что в случае ряда X (/), / = 0, ± 1, ..., не обязательно гауссовского, ковариация (7.6.21) равна■
Ai X, -
2 лJ taxbxa2b2 (а, —а, —p) dadp.
Hi ц2.
В случае стационарного, действительного гауссовского ряда X У), t = 0, ± 1, ..., докажите, что ковариационная структура предельного, процесса
в теореме 7.6.3 такая же, как и
/2S$fxx(a)dB(a),о
где В (а) есть броуновское движение на [0, л].
Если ряд X (0, / = 0, ± 1, ..., является действительным белым ' шумом с дисперсией о2 и четвертым семиинвариантом х4, то предельный процесс теоремы 7.6.3 имеет ковариационную функцию
(2л)-1о4 min (X, р)-)-(2л)~ 2х4Хр.
Покажите, что для линейного действительного ряда X (0, Z = 0, ± 1, ..., в условиях теоремы 7.6.3
• T^Fx^Fxxvq-FxxWF^^
слабо сходится к гауссовскому процессу, у которого ковариационная функция не содержит спектра четвертого порядка ряда X (Z).
Пусть X (Z), / = 0, ±1, ..., является r-мерным рядом,- удовлетворяющим условию 2.6.1. Покажите, что с^р (и), задаваемая формулой (7.6.10), и с(аР (и), задаваемая формулой (7.6.12), имеют одинаковое предельное нормальное распределение. См. также упр. 4.8.37.
Пусть
где
lab' (X, /)
/V-1\/v-1\
= (2nV)-i ( У Ха (у+ /V) ехр {- zXv} ) ( У Xb (о+ /V) exp {zXv} ), = 0/ \u= 0/
Z = 0, ...,L—I; a, b = 1, .. ., г. В условиях теоремы 7.6.1 покажите, что Ja£ ^А, ly / = 0, ..., L—1, являются асимптотически независимыми нормаль- 2л
ными величинами со средним J А (а) Д^ (a) da при V—> оо. Этот результат о
можно использовать для построения приближенных доверительных интервалов ab М)*
Пользуясь замечанием в § 7.9, докажите следующее тождество:
2 2|<w|!= 2 2|^'w-«> «Г
/=1*5=1 Jk '/=1*=1'1
Положим
Tfl-1
daTa)= 5 Xe (/) exp {-/V}
и
(X) = (2лТяТ6)-1 4Г“> (X) dfb’ (X)
для —оо < X < оо; а, 6=1, v., г. Покажите, что матрица 1^(Х)=р^(Х)] неотрицательно определена.
Пусть ряд X (/), Z = 0, ±1, ..., удовлетворяет условию 2.6.2(Z). Покажите, что выполняется соотношение (7.2.14) с равномерными по г, s^O (mod Т) остаточными членами О^Т~У), О(Т~йУ
Используя результаты предыдущего упражнения, покажите, что в условиях теоремы 7.4.3
«”{/$, (X), /<>)}
/Т-1
/ 2л V/ wz(T) Л 2л$\/2л$\ f /2л$\ f /2&s\
= ( у) \ 2j ^> \Х—т") • ^ И—f'j'ata2 If} '61М - у)
Т-Iх
।f х 2ns \ Ir/(T)/ . 2л$\;/2л$\,/2л«\\
+ Ъ w^(л—у- ) ^М.'( Н+у )'"«6»( у )'»■«■ ( - у ) )
s= 1Х 7Х 77/
х 7 r=l S=1\/\/
f /^ 2ЛГ 2ЛГ 2л$Д । nCD — lm — lX
Xtaxbva^bA—Tp - »у)"Г°\ВТ Т
Пусть ряд X (0, / = 0, ± 1, ...,-удовлетворяет условию 2.6.2(Z). Допустим, что А (а) имеет ограниченную вариацию. Пусть W (а) удовлетворяет условию 6.4.1. Положим Ру = Р—► оо при РТВТ^ 1 и РтВтТ—оо при Т —> оо. Тогда
р = 0
Покажите, что J^ (Л) асимптотически нормальна, 2л
^$(А)= ^A(a.)fab(a)da+O(BT)+O(Pr1)+O(B^T-^ О
и
^Ц^/Ау), J^^A^
-2Л
~[ f (a)2 da] f Л/ (а) fc,a, (a) fblbl (- a) da
2л
+ У Л/ (а) А* (2л—a) f01bl (a) fbl<11 (— a) da
2л 2л
+у J J Л/ (а) ЛИР) fa.b^b, («- — а, — Р) da dp.
Указание. Воспользуйтесь предыдущим упражнением.
8
АНАЛИЗ ЛИНЕЙНЫХ ИНВАРИАНТНЫХВО ВРЕМЕНИ СООТНОШЕНИЙМЕЖДУ ДВУМЯ МНОГОМЕРНЫМИСТОХАСТИЧЕСКИМИ РЯДАМИ
Введение
ряд(8.1.1)s-мерногоряд(8.1.1)s-мерногоРассмотрим (г + 5)-мерный векторный стационарный "XW Л(0Г
ряд
(8.1.1)
s-мерного
ряд
(8.1.1)
s-мерного
/ = О, ± 1, ..., составленный из r-мерного ряда Х(<) и
ряда Y (/). Предположим, что ряд (8.1.1) удовлетворяет условию
и введем средние
ковариации
Е {[X (< + «) — Су] [X (f) — сх]т} = схх (и),
Е {[х (t + и) - сх] [Y (0 - сгр) = сху (и),(8.1.3)
E{[Y(^ + U)-cr][Y(O-crpHcrr(«). м-0, ±1
и спектральные плотности второго порядка
fxx(b) = (2n)-1 2 Сдх (и) exp {— iXu\,
и=-»
^(Х) = (2л)~* 2 cxr(u)exp{—iXu\,(8.1.4)
u = - oo
fyy(X) = (2л)-1 2 c/r(u)exp{—iXu^, — oo<X<oo.
tl= - 00
Задача, которой посвящена эта глава, состоит в выборе такого s-мерного вектора р и такого sxr-фильтра (а (и)}, чтобы ряд
р + 2 а(#—и)Х(и)(8.1.5)
и= - 00
был в некотором смысле близок к Y (/). Мы изучим также статистические свойства оценок искомых р и а (и), основанных на
ии(8.2.2)(8.2.3)(8.2.4)(8.2.5)(8.2.2)(8.2.3)(8.2.4)(8.2.5)
и
и
(8.2.2)
(8.2.3)
(8.2.4)
(8.2.5)
(8.2.2)
(8.2.3)
(8.2.4)
(8.2.5)
конечных выборках значений X(Z), Y (/), / = 0, ..., Т— 1. Главное отличие проблематики, затронутой в этой главе, от материала гл. 6 связано с тем, что основной ряд Х(/), ^ = 0, + 1, ..., мы считаем стохастическим, а не детерминированным.
В следующем параграфе приводится обзор результатов, относящихся к аналогичным задачам для многомерных случайных величин.
Результаты для многомерных случайных величин
Напомним читателю, что в множестве эрмитовых матриц вводится частичное упорядочение
А^В,А^В,(8.2.1)
А^В,
А^В,
означающее, что матрица А — В неотрицательно определена. Это отношение порядка обсуждается, например, в книгах: Bellman (1960), Гельфанд и др. (I960) и Siotani (1967). Среди следствий неравенства (8.2.1) отметим такие:
Det А > Det В,tr A^trB,
Ну (А) > И/ (В),
здесь И/(А), Н/(В) обозначают j-e в порядке возрастания собственные значения А и В соответственно.
Далее, когда в формулировке теоремы речь пойдет о минимизации эрмитовой матричной функции А (0) аргумента 0, под этим будет подразумеваться отыскание такого значения 90, что
А(9)>А(90)(8.2.6)
при всех 9. Значение А(90) называется минимальным значением А (9). Заметим," что если 90 минимизирует А (9), то из (8.2.2) — (8.2.5) вытекает, что 90 минимизирует одновременно функционалы Det А (9), trA(9), АИ (9) и Ц/(А(9)).' •
vecZ =vecZ =Z/Z/_Z/Z/_Введем еще некоторые новые обозначения. Пусть Z — произвольная матрица со столбцами Zn ..., Z/. Тогда вектор-столбец, составленный из столбцов матрицы Z, помещенных один под другим, обозначим' .
vecZ =
vecZ =
Z/
Z/_
Z/
Z/_
Для любых матриц U и V назовем их кронекеровым произведением матрицу U ® V, составленную из блоков по следующему правилу: если V имеет размеры JxK, то .
ruvn ... UV^n
U®¥=’...•
(8.2.8)
lU^.-.U^j
Два вновь введенных объекта связаны важным соотношением
(U ® V) vec Z = vec (UZVT) .(8.2.9)
(предполагается, что матрицы, фигурирующие здесь, имеют надлежащие размеры), см. упр. 8.16.26. Neudecker (1968) и Nissen (1968; рассматривают приложения этих определений в статистике.
Займемся теперь поисками минимума. Пусть случайные векторы X и Y имеют соответственно г и s компонент. Рассмотрим (r + s)- мерный вектор
ГХ] .
v . (8.2.10)
РхРу.РхРу.Допустим, что (8.2.10) имеет среднее значение
Рх
Ру.
Рх
Ру.
(8.2.11)
и ковариационную матрицу
(8.2.12)(8.2.12)^хх ^ху
(8.2.12)
(8.2.12)
^ух SKr
Если мы хотим найти s-компонентный вектор ц и sxr-матрицу а, минимизирующие sx s-эрмитову матрицу
£{[¥-^-аХ][У-р-аХ]Д,(8.2.13)
то решение этой задачи дает
Теорема 8.2.1. Пусть задан (г + s)-мерный случайный вектор (8.2.10) со средним (8.2.11) и ковариационной матрицей (8.2.12). Предположим, что матрица SM невырожденна. Тогда (8.2.13) минимизируют величины'
Р = Ру—^ух^ххРх(8.2.14)
и
a = SKXSxx-a = SKXSxx-(8.2.15)
a = SKXSxx-
a = SKXSxx-
Соответствующее минимальное значение равно
Srr—SyySxx^y.(8.2.16)
Назовем величину а, определенную формулой (8.2.15), коэффициентом регрессии Y на X. Случайный вектор
Цу+SyySxx (X — р,у)(8.2.17)
называется наилучшим линейным прогнозом Y, основанным на X. Указанные в теореме ц и а доставляют также минимум детерминанту, следу, диагональным элементам и собственным значениям матрицы (8.2.13). Дадим библиографические ссылки на эту теорему: Whittle (1963а, гл. 4), Goldberger (1964, стр. 280), Rao (1965), Khatri (1967). При s=l квадрат коэффициента корреляции У с его наилучшим линейным прогнозом, именуемый квадратом множественного коэффициента корреляции, имеет вид
R^x = 2гх^5уу .•(8 2 л 8)
В случае многомерной величины Y рассматривают матрицу Syy22гх2^2хг2уу2; с ней мы встретимся при обсуждении канонических корреляций в гл. 10. Полезными могут оказаться функции этой матрицы, принимающие действительные значения, скажем ее след и детерминант. Эта матрица была введена в работе Khatri (1964). Tate (1966) сделал ряд замечаний о многомерных аналогах коэффициента корреляции, см. также Williams (1967) и Hotelling (1936).•
Определим векторную случайную величину
Y-^-S^x (Х-^)>(8.2.19)
которую будем называть ошибкой. Она представляет собой остаточный член при аппроксимации Y лучшим линейным прогнозом, основанным на X. Ковариационная матрица для 8 задается формулой
2ee = Syy—SyySxxSyy, -(8.2.20)
т. е. совпадает с матрицей (8.2.16). Ковариация величины е,- с гк называется частной ковариацией Yj с Yk, она выступает в качестве меры линейной зависимости величин Y5 и Y к, остающейся после удаления линейного влияния X. Аналогичным образом коэффициент корреляции 8у. и гк называется частной корреляцией Yf с Yk. Эти параметры рассмотрены в книгах: Kendall, Stuart (1961), гл. 27, и Morrison (1967, гл. 3).
В том случае, когда величина (8.2.10) имеет многомерное нормальное распределение, ее прогноз, предлагаемый теоремой 8.2.1, оказывается наилучшим в более широком классе прогнозов.
Теорема 8.2.2. Предположим, что многомерная случайная величина (8.2.10) со средним (8.2.11) и дисперсией (8.2.12) распределена по нормальному закону, и пусть матрица Ъхх невы- рожденна. Векторная s-компонентная функция Ф(Х), имеющая Е {Ф (Х)ТФ (X)} < оо, которая минимизирует
Е{[¥-ф(Х)][¥-ф(Х)р},(8.2.21)
определяется равенством
Ф (X) = р.р+Sy^S^x (X — рх)*(8.2.22)
Минимальное значение (8.2.21) равно (8.2.16).
Для нормально распределенных величин условным распределением ¥ при заданном X будет
^s (Pr+^rx^xx (X — р-х)> ^rr—^rx^xx^xy),(8.2.23)
так что частная корреляция Уу с Yk оказывается условной корреляцией Yj с Yk при заданном X.
Перейдем к некоторым деталям оценки параметров в сформулированных теоремах. Допустим, что мы располагаем выборкой
/ = 1, ..., п, из значений величины, для которой выполнены условия теоремы 8.2.1. Для удобства будем полагать, что Рх~0 и Цу=0. Введем гх «-матрицу х и sx «-матрицу у:
х = №, ..., Х„],(8.2.25)
у = [¥й ..., ¥„].(8.2.26)
Можно оценить ковариационную матрицу (8.2.12), взяв
А ххт
SXy=^,(8.2.27)
и
Коэффициент регрессии ¥ на X можно оценить матрицей а = 2ух2хх.(8.2.28)
а в качестве оценки матрицы (8.2.20) предложим 2е6= (« —O^yfl—ХТ(ХХТ)-1Х] ут =
= («—г)-1« (Syy SyxSxx^xr)»(8.2.29)
причина замены множителя п-1 на (п — г)-1 в этой оценке становится ясной при рассмотрении следующей теоремы.
Теорема 8.2.3. Предположим, что (8.2.24), /, . ..,п, образует выборку из многомерного нормального распределения со средним 0 и ковариационной матрицей (8.2.12). Пусть а определяется формулой (8.2.28), а 2ее — формулой (8.2.29). Тогда каков бы ни был rs-мерный вектор а, величина
a4vec [а—а])
[аЧ^®(ххЧ-1}ар/^
распределена так же, как tn_r. Кроме того, Еа = а, cov{veca, veca} = (n —г—1)-1SBE®S^,(8.2.31)
и при п-^ оо оценка а будет асимптотически нормальной величиной, имеющей такие моменты. Матрица 2В6 не зависит от а и распределена по закону (n — ry^W^n—г, SEB). При s=l величина RyX = "^ух^Ух^ху^уу имеет плотность распределения
(Д-КухЬ ' 2 ’ Т > KxvKvxj Тцп-г]/2) Г (г/2)
Х(ЯухУ~Чх-КухУ"-г-2)/2. (8.2.32)
Появляющаяся в (8.2.32) функция—это обобщенная гипер- гёометрическая функция, см. Abramowitz, Stegun (1964). Процентные точки и моменты RyX приведены в работах: Amos, Koopmans (1962), Ezekiel, Fox (1959) и Kramer (1963). Olkin, Pratt (1958) построили несмещенную оценку для RyX. Распределения других статистик можно определить, пользуясь тем, что случайная матрица
^хх ^хг
JSyyS/r_имеет распределение/ ГТ У 1X
.(8.2.33)
X L-^rx ^rrJ /
Распределение для а приводит Kshirsagar (1961). Плотность этого распределения пропорциональна
{Det [ЕЛ-На-аГ ^ (a-а)]} -vw. (8.2.34)
Такое распределение является разновидностью многомерного ^-распределения, см. Dickey (1967).
Подобно тому как определялись частные корреляции, можно построить их оценки, основанные на элементах S88. Например, оценка частной корреляции величин Yj и Yk при отсутствии линейных изменений X имеет вид
(8.2.35)(8.2.35)и[See 1/6
(8.2.35)
(8.2.35)
Yj’Ykx ц^я^Ы1'4’
где [28е]уй обозначает элемент матрицы S88, стоящий на пересечении /-й строки и А-го столбца.
Эта оценка, как видно из распределения для S88, указанного в теореме 8.2.3, распределена как выборочный коэффициент корреляции бу с бй, основанный на п — г наблюдениях. Функция плотности распределения • квадрата этой величины определяется выражением (8.2.32), если заменить в нем Ryx. Ryx. п и г соответственно на Ryj.y^x, RYpY^Xt n — r, 1. Большая выборочная дисперсия такого R3 приблизительно равняется 4/?2[1—7?8]/п. Найденные в работе Fisher (1962) распределения коэффициентов корреляции можно так модифицировать, чтобы получить совместное распределение всех частных корреляций. Асимптотику совместных ковариаций можно получить, опираясь на результаты работ Pearson, Filon (1898), Hall (1927) и Hsu (1949). Дальнейшие результаты, а также приближения для законов распределения оценок квадратов коэффициентов корреляции содержатся в работах: Kendall, Stuart (1961), стр. 341, Gajjar (1967), Hodgson (1968), Alexander, Vok (1963), Giri (1965) и Gurland (1966).
Рассмотренные выше теоремы имеют аналоги для комплексных случайных векторов. Например, справедлива
Теорема 8.2.4. Пусть комплексный ^r-Ysy мерный вектор
Y(8.2.36)
со средним 0 таков, что
|ГХХТХ¥Т1|(L VXT YYTJj|ГХХТХ¥Т1|(L VXT YYTJj^ХХ "^XV^УХ ^YY^ХХ "^XV^УХ ^YYI ХХТ XYTЕ Ц YXT YYTI ХХТ XYTЕ Ц YXT YYT= 0.= 0.(8.2.37)(8.2.38)(8.2.37)(8.2.38)
|ГХХТХ¥Т1|(L VXT YYTJj
|ГХХТХ¥Т1|(L VXT YYTJj
^ХХ "^XV^УХ ^YY
^ХХ "^XV^УХ ^YY
I ХХТ XYT
Е Ц YXT YYT
I ХХТ XYT
Е Ц YXT YYT
= 0.
= 0.
(8.2.37)
(8.2.38)
(8.2.37)
(8.2.38)
Если матрица Sxx невырожденна, то ц и а, минимизирующие
(8.2.39)(8.2.39)Е {[ Y - р - аХ] [ Y—р - аХр},
(8.2.39)
(8.2.39)
таковы:таковы:
таковы:
таковы:
(8.2.40)(8.2.40)(8.2.41)(8.2.41)ц = 0,
(8.2.40)
(8.2.40)
(8.2.41)
(8.2.41)
а = ^УХ^ХХ»
а само минимальное значение равно
2уГ — ^ух^хх^ху
Назовем а, определенный формулой (8.2.40), комплексным коэффициентом регрессии X на X. Указанные ц и а будут доставлять минимум, следовательно, и детерминанту, и следу, и диагональным элементам матрицы (8.2.39). При s = l выражение для минимума (8.2.41) можно записать в виде
(8.2.42)(8,2.43)(8.2.42)(8,2.43)[1 — | RyX|2] Srr, где по определению
(8.2.42)
(8,2.43)
(8.2.42)
(8,2.43)
ID | 2 _ Sr№xxSxr ■l^rxl^•
Эта величина, очевидно, представляет собой обобщение на комплексный случай квадрата коэффициента множественной .корреляции. Поскольку минимум (8.2.41) должен лежать между "2YY и 0, то, значит, 0^|7?гх|2^1, причем значение 1 соответствует минимуму, равному 0. В ряде случаев удобно расщепить [RyxP, рассматривая порознь
[Re 2уХ15хх [Re SXy],g 2 44)
2уу' ' ‘
И'
[Im 2уХ] Sxx[lm 2ХГ] .(8.2.45)
2уу ’\)
здесь Srx= Re Srx + i Im 2/х. Эти выражения служат мерами линейной связи Y с ReX и ImX соответственно..
Вернемся теперь к случаю векторного Y. Явной мерой степени аппроксимации Y линейной функцией от X служит величина ошибки
s=Y — рг—S/XSXX (X— рх),(8.2.46)
имеющей среднее 0 и такой, что
Ееет= 2ее
= Srr— Srx2XxSxr(8.2.47)
и
Е(88т)-1 = 0. ((8.2.48)
Аналоги частной ковариации и частной корреляции можно немедленно получить, используя матрицу (8.2.47).
Предположим теперь, что в нашем распоряжении имеется выборка
Гх/1
V , /=1, ..., п,(8.2.49)
значений вектора, удовлетворяющего условиям теоремы 8.2.4. Определим матрицы х и у формулами (8.2.25) и (8.2.26). Естественно рассмотреть статистики
-х 5ХЛ7
—- п ’
$хг=^ = -4—.(8.2.50)
И
Ji^^A, _ __(8.2.51)
See = (« — Г)-1У [I — Xх (XXх)-1 х] ух =
= (и — г)-1 и (2уу—Sy^xxSyy).(8.2.52)
Для них справедлива
Теорема 8.2.5. Пусть величины (8.2.49), / = 1п, образуют выборку из многомерного комплексного нормального распределения со средним 0 и ковариационной матрицей (8.2.37). Если а определяется формулой (8.2.51), а 288 — формулой (8.2.52), то для любого rs-мерного вектора а величина
ах (vec [a—a]). _ ,
[^(^©(xD-x)»]1/2
распределена как ^т-п. Кроме того, Ea = a,
cov {vec a, veca} = (n —r)-128e02xx.(8.2.54)
и при n—* oo величина veca распределена асимптотически как jV^(veca, n-1S8E0Sxx)- Далее, матрица 288 не зависит от a и распределена по закону (n — r)~lWs(n — r, 2ее). Наконец, если в =\, то величина \RYxV*='2‘yx^‘x1x^‘xyI^‘yy имеет плотность распределения
(l-l^xl2)^. п; r;|/Wl£yxl2)
ХП^ТТ)1^1^0-1 ^l2)"-'-1. (8.2.55)
Отметим, что распределение |ЛгхР в комплексном случае совпадает с распределением в действительном случае при вдвое большем объеме выборки и одновременном увеличении размерности X вдвое. Объяснение этому обстоятельству предлагает' эвристический подход, описанный в § 8.4. Полезное же следствие заключается в том, что можно будет применять таблицы и результаты, полученные для действительных величин. Плотность (8.2.55) приводится в работе Goodman (1963); см. также James (1964), формула (112), и Khatri (1965а). При |7?ух1- = 0 выражение (8.2.55) превращается в
Г ^г (г) 1^1^ о -I Ягх I2Г(8.2.56)
и совпадает с «нулевым» распределением величины (6.2.10), выведенным при условии, что ряд X фиксирован. Поэтому процентные точки в этом случае можно получить из процентных точек F- закона, как в гл. 6. Amos, Koopmans (1962) и Groves, Hannan (1968) нашли много «ненулевых» процентных точек для |^ух12-
Доверительные области для элементов матрицы а можно построить по выражению (8.2.53), действуя как в § 6.2.
По аналогии с (8.2.34) плотность распределения матрицы а будет пропорциональна
(Det [S^ + fa-aro (а-а)]}"<"^>.(8.2.57)
Wahba (1966) нашел эту плотность в случае s=l.
Иногда представляет интерес рассмотрение следующих комплексных аналогов частных корреляций:
(8.2.58)(8.2.58)Ry y х=^^-
(8.2.58)
(8.2.58)
7 А {12еЕЬ[2ееЫ1/а
(8.2.59)(8.2.59)при l^/=^^^s. Естественной оценкой для (8.2.58) служит
(8.2.59)
(8.2.59)
лу у.-х — —^-т- •
7{[58еЬ7[2ееЬ}1/г
Распределение для See, приведенное в теореме 8.2.5, показывает, что последняя оценка распределена одинаково с- комплексным выборочным коэффициентом корреляции величин еу и eft, основанным на п — г наблюдениях. Квадрат модуля этой оценки имеет плотность распределения (8.2.55), в которой RyX, Ryx> п' г заменяются на RY. y^-x, Ry, YLx,n-r, 1 соответственно. Асимп-
Г kГ к
тотические ковариации пар этих оценок можно вывести из выражения (7.6.16).
Определение оптимального линейного фильтра
Применяя обозначения §8.1, вернемся к задаче построения s-мерного вектора ц и sxr-фильтра {а (и)}, которые обеспечивают близость •
S' a^-«)X(w)(8.3.1)
U=p - 00
к Y (f). Выбрав в качестве меры близости рядов эрмитову sxs- матрицу
Е {[ Y (/) - и - 2 a (t - и) X (и)] [ Y (0 - f* - 2 а (/ - «) X («)]х},
(8.3.2) получаем такое решение:
Теорема 8.3.1. Пусть г + s-компонентный векторный ряд (8.1.1) является стационарным второго порядка и имеет среднее (8.1.2) и автоковариационную функцию (8.1.3). Предположим еи^е, что схх(и)у cYY(u) абсолютно суммируемы, а матрица ^хх W> определенная в (8.1.4), невырожденна при —оо <Х < оо. Тогда минимизирующие (8.3.2) величины и и а (и) имеют вид
ц = сг— ^2a (u))cx=cr—А(0)сг(8.3.3)
и
2Л
а(м) = (2л)-1 j A (a) exp {iua} da,(8.3.4)
о
где
А^Н^Х)^)-1.(8.3.5)
Фильтр {а (и)} — абсолютно суммируемый. Минимальное значение (8.3.2) равно
2Л
$ [fyy(a) *ух(«Ихх(а)'^ху(а)Иа- (8.3.6) о
Функция А (X), заданная выражением (8.3.5), является передаточной функцией того sxr-фильтра, для которого достигается, указанный минимум. Назовем А(Х) комплексным коэффициент том регрессии Y (?) на X (t) на частоте X.
Векторный s-компонентный ряд
e(0 = Y(0—|»-2а(*-и)Х(м), t = 0,±l, .... (8.3.7) и
в котором выражения р и а(м) взяты из теоремы 8.3.1, называется рядом ошибок. Как видно, этот ряд имеет среднее 0 и матрицу спектральной плотности .
fee W = fyr W fra W fra W-1 fra W-(8.3.8)
Матрицу fe8(X) называют спектром ошибок. Можно переписать (8.3.8) в виде ,
feeW-fyyW^I-fyHX)-17^^^
'XfKK(X)-1/8]frK(X)i/8;(8.3.9)
тем самым мы придем к измерению линейной зависимости Y (0 от Х(0 посредством sxs-матрицы
fra W" 1/2fra W fra W"1 fra W fra W'172-(8.3.10)
В случае s=l выражение (8.3.10) называется множественной когерентностью Y (f) с X (/) на частоте X. Обозначим эту величину через |^?гх(Х)Н и запишем
|Дн(1)|._!а«1и№2Цх1й>.(8.з.П)
(В случае г —s= 1 определяем когерентность RrxW — fvxWl /VxxWfYvWiW4-) Множественная когерентность, удовлетворяющая неравенству
0^|7?raWI2<l.(8.3.12)
(см. упр. 8.16.35) выступает в качестве меры того, сколь точно можно определить действительную величину У (t), применяя к r-мерному векторному ряду Х(0 линейные операции, инвариантные во времени. Записав
U W = [1 -1 Ryx W 12] Uy ОЬ (8-3.13)
мы видим, что |7?raWI2 —0 соответствует некогерентному случаю, когда X (0 не уменьшает дисперсию ошибки. Значение |ЯуХ(Х)|2=1 соответствует полной когерентности, в этом случае ряд ошибок сводится к 0. Коэффициент множественной когерентности ввел Goodman (1963); см. также Koopmans (1964а, Ь).
В общем случае, когда s любое, кросс-спектр между а-й и b-й компонентами ряда ошибок еа (0 и ее (£) мы назовем частным кросс-спектром Ya (f) с Уь (<) после удаления линейного воздействия Х(/) и представим его выражением "'
fvoYb x (X) = fyaYb (X) - iYax (X) fxx (X)-1 txyb (X) = feaeb (X), (8.3.14) — оо <X< оо. Когерентность этих компонент назовем частной когерентностью Yo(ty с Уь^ после удаления линейного воздей-
ствия ^(t)\ ее выражение имеет вид RYaYb.x^ = .(8.3.15)
[fY ^ аХ ^ f YbYb X М
(8.3.16)(8.3.16)Последние величины применяют для определения того, в какой мере существование явного линейного инвариантного во времени соотндшения между рядами Уй(0 и Yb^ обязано наличию линейных связей каждого из этих рядов с X (/), см. Gersch (1972). Можно также ввести частный комплексный коэффициент регрессии Ya ^ на Yb (t) после удаления линейного воздействия X (О как .
(8.3.16)
(8.3.16)
fYbYb-x^ '
В соответствии с теми предположениями, которые можно сделать, изучая ситуацию для действительных величин, оказывается, что выражение (8.3.16) является элементом, отвечающим Уь(0 в матричном комплексном коэффициенте регрессии Уй(/) на (r-j-1)- мерный векторный ряд
у» (0‘
Х(0 . *
Тем самым возникает интерпретация отдельных элементов матричного комплексного коэффициента регрессии.
Указанные здесь величины, используемые при анализе частного кросс-спектра временных рядов, , ввели Tick (1963) и Won- nacott, см. Granger (1964), стр. xiii. Более подробно они изучены в работах: Koopmans (1964b), Goodman (1965), Akaike (1965), Parzen (1967c) и Jenkins, Watt (1968).
В качестве примера рассмотрим значения введенных величин для модели.
Y(O = y+Sa(t—и)Х(ц) + е(9,(8.3.17)
и
где X (0 есть r-мерный стационарный ряд с матрицей спектральной плотности fyXW; е (О есть s-мерный стационарный ряд со средним 0, имеющий матрицу спектральной плотности fee(X), не зависящий от X (/) при всех запаздываниях, т. е. сдвигах аргумента в прошлое; ц есть s-мерный вектор, а (а (и)} —абсолютно суммируемый sxr-матричный фильтр. Легко проверить, что комплексный коэффициент регрессии Y (t) на X (/) задается формулой .
А (%) = ^8 а (и) ехр {— 1Хи^.и
Кроме ТОГО,
fYaYb-X^^fe^W,(8.3.19)
и поэтому
Ry^-xW^R^^.(8.3.20)
Если ряд (8.1.1) гауссовский, то ц и а (и), введенные в теореме 8.3.1, можно охарактеризовать и иначе.
Теорема 8.3.2. Если'выполнены условия теоремы 8.3.1 и ряд (8.1.1) гауссовский, то для ц и а(ы), определенных в (8.3.3) и (8.3.4),
E(Y(/)|X(0, v = 0, ±1, ...} = ц+ 5 a(Z—u)X(u).(8.3.21)
U= -00
Далее,
cov{¥(< + «), ¥(0|Х(о), о = 0, ±1, ...} =
2Л
= $ [f rx (X) - frx (X) fxx (X) -Чху (X)] exp {t Xu} dk (8.3.22) о
Библиографические ссылки на изложенный материал для случая r = s=l включают работы Wiener (1949), Солодовникова (1950), Koopmans (1964а) и Blackman (1965). Между подходом, рассмотренным в этом параграфе, и подходом гл. 6 имеется целый ряд связей. Главное же отличие в сделанных предположениях состоит в том, что теперь ряд X (t) предполагается не детерминированным, а стохастическим. В гл. 6 рассматривалась модель связи между рядами
Y(0 = ^ + 2a(^ — и)Х(ы)+е(0,(8.3.23)
и
в которой вектор ft постоянен, а (и) —суммируемый фильтр, а 8 (0 - ряд ошибок с нулевым средним. Упражнение 8.16.33 должно показать, что такая модель осуществляется при условиях теоремы 8.3.1.
Мы закончим этот параграф примером применения теоремы 8.3.1. Допустим, что ц(/) и ¥ (^ — независимые стационарные s-компонентные векторные ряды с нулевыми средними, и рассмотрим ряд
Х(0 = ¥(0+ч(0-(8.3.24)
Можно интерпретировать ряд ¥ (?) как полезный сигнал на фоне шума, описываемого рядом ■*)(/). Предположим, что' нам желательно аппроксимировать ¥ (/) рядом, полученным фильтрацией Х(/). Матрица спектральной плотности Х(/) и ¥ (t) имеет вид
fyrW (X) fyy(X)
^yyW fyyW.
Согласно выражению (8.3.5), передаточная функция наилучшего линейного фильтра, предназначенного для определения Y (0 по Х(/), задается формулой
А (X) = f^ (X) (f r/ (X) + f^ (X)) -1. (8.3.26)
Эта функция А (X) называется избирательным фильтром -для сигнала Y (/), присутствующего в шуме л (0- Как видно, его основное свойство заключается в том, что частотные компоненты X (/) из интервала частот, где значение fnt) (X) очень велико по сравнению с fyy (Х),е этим фильтром не пропускаются, и в то же время пропускаются почти без изменений компоненты из интервалов, где значение ^(Х) мало по сравнению с fyy (X). При s = 1 величина fyy (X)/fnn (X) называется отношением сигнала к шуму на частоте X.
Эвристическая интерпретация параметров и построение оценок
X(f)Y(0X(f)Y(0Пусть г + s-компонентный векторный ряд
X(f)
Y(0
X(f)
Y(0
(8.4.1)
/ = 0, ±1, ..., удовлетворяет условию 2.6.1. Предположим, что нам известны его значения при t = 0, ..., Т — 1. Вычислим конечное преобразование Фурье этих значений:
<8.4.2)
— оо <Х<оо. Согласно теореме 4.2.2, при больших Т распределение этой случайной величины аппроксимируется распределением
N^s ( 0, 2лТN^s ( 0, 2лТ^ххJrx^ххJrx(X) fXy(XH (X) fyy(X) _(X) fXy(XH (X) fyy(X) _(8.4.3)(8.4.3)
N^s ( 0, 2лТ
N^s ( 0, 2лТ
^хх
Jrx
^хх
Jrx
(X) fXy(XH (X) fyy(X) _
(X) fXy(XH (X) fyy(X) _
(8.4.3)
(8.4.3)
если X ^ 0 (mod л).
Сославшись на обсуждение теоремы 8.2.4, можно теперь заключить, что А (X) — комплексный коэффициент регрессии Y (?) на X(Z) на частоте X—можно интерпретировать в некотором приближении как комплексный коэффициент регрессии d*y1 (X) на dxn(X). Поэтому он оказывается полезным при предсказании значения dyf (X) по значению dx * (X) с помощью линейного анализа. Спектр ряда ошибок fee(X) приближенно пропорционален кова-
риационной матрице ошибки, связанной с этим прогнозом. Точно так же и частный-комплексный коэффициент регрессии Ya^ на Yt,^ после удаления линейного воздействия, связанного с Х(<), будет близок к коэффициенту регрессии dy^ (X) на dy^ (X) после удаления линейного воздействия dxr,(X). Теперь предположим, что s=l. Величину | Rух (X) |2 — множественную когерентность Y (t) с Х(<) на частоте X —можно в соответствии с теоремой 8.2.4 интерпретировать как комплексный аналог квадрата коэффициента множественной, корреляции dy^X) с dx’W- Наконец, частная когерентность Yo (/) с Yb (t) после удаления линейного воздействия Х(/) может быть истолкована как комплексный аналог частной корреляции dy^(X) с d?;w после удаления линейного воздействия dxr)(X). В случае когда ряд (8.4.1) гауссовский, эти частные параметры будут приближенно условными параметрами при заданном значении dx1(X). '
Аналогичную интерпретацию можно предложить и при Х = 0 (mod л). В этом случае применяются статистики и распределения, имеющие действительные значения. -
Обратимся далее к построению оценок различных параметров. Предположим, что '8 (Т) —целое число и величина 2лз (Т)/Т близка к X, причем Х^О (modл). Согласно теореме 4.4.1, значения
'^т ^2л [$ (Т)+$]у'^т ^2л [$ (Т)+$]у2л[$(Г)'+$]>т )2л[$(Г)'+$]>т )(8.4.4)(8.4.4)
'^т ^2л [$ (Т)+$]у
'^т ^2л [$ (Т)+$]у
2л[$(Г)'+$]>
т )
2л[$(Г)'+$]>
т )
(8.4.4)
(8.4.4)
s = 0, ±1, ..., ± т, являются приближенно независимыми реализациями величины (8.4.3). Используя выражение (8.2.50), предваряющее теорему 8.2.5, можно ввести статистики
W) fW(X)|_т
& (X)(X) - (2т + 1) (2лТ)
у № (2л [8 (Т) + s]/T)l ^Г,(2л[8(Т) + 8]/Т)Г
^т LdP (2л [s (Т) + s]/T) J d</’ (2л [з (Т) +з]/Т)1 '(8 А5)
А<г> (X) = fyx (X) fxx (X)-1(8.4.6)
и.
бы (X) = (2m +1 — г)-1 (2m +1)
X [fW (X) - f^ (X) f® (X)-1 fW (X)];. (8.4.7)
две последние выступают в роли оценок для А (X) и fee (X) соответственно. Теорема 8.2.5 указывает приближения к распреде-
лениям этих статистик. В § 8.6 мы рассмотрим более гибкий вариант (8.4.5), включив в сумму весовые множители.
Эвристические подходы к линейному анализу многомерных рядов содержатся в работах: Tick (1963), Akaike (1965), Groves, Hannan (1968). Параметры и оценки рассматривал Fishman (1969).
Мы можем также предложить интерпретацию параметров, введенных в § 8.3, основанную на частотных компонентах X (/, X), Y (i, X), / = О, ±1, ..., и их преобразованиях Гильберта XH\t, X), Уя(/, X), Z = 0,\±lРассуждения § 7.1 показывают, что ковариационная матрица величины
(8.4.8)(8.4.8).(8.4.9).(8.4.9)X (/, X) "у а, х)Хн^, X)_NH(t, X).
(8.4.8)
(8.4.8)
.(8.4.9)
.(8.4.9)
приблизительно пропорциональна
Refxx(X)Refyr(X)Imfyy(X)ImfyF(X)~
Refrx(X)RefFF(X)ImfFX(X)ImfFF(X)
ImfxxW- ImfxrWRefyx(X)RefyF(X)
_— ImfFX(X) — ImfFF(X)Refry(X)RefFF(X) _
_ txx W txr WЗух (X) tyy (X)
A(X) = frx(X)fxx(X)-\(8.4.10)
поэтому
-i-i(8.4.11)(8.4.11)[ReA(X) Im A(X)] = [Refrx(X) ImfFX(X)]
-i
-i
(8.4.11)
(8.4.11)
Re tx.X W Im txx W_ Imfxx(X) Refxx(X)
Теперь ясно, что ReA(X) можно интерпретировать как коэффи циент, соответствующий X(t, X), в регрессии Y (/, X) на
(8.4.12)(8.4.12)Х(1, X)
(8.4.12)
(8.4.12)
XH(t, X)
Точно так же Im А (X) можно интерпретировать как коэффициент, отвечающий XH^t, X), в той же регрессии.
Ковариационная матрица для анализа такова:
ошибки этого регрессионного
Re{fKr(X)-[Refra(X) Im fKX (X)]
Refyy(X) Imfxy(M-ч Refxr(X) .— ImfyxW RefxH*)J . Imf^rW = Re{frr(X) f^y (X) fyX (X) 1fyr(X)}
= RefBe(X). -' (8.4.13)
Тем самым оказывается, что действительные части частных когерентностей можно интерпретировать как частные корреляции, фигурирующие в регрессии Y (/, X) на величину (8.4.12). Аналогичное рассуждение для мнимых частей приводит к интерпретации и.х как частных корреляций, фигурирующих в регрессии NHU, X) на величину (8.4.12). .
Если s=l, то квадрат коэффициента множественной корреляции регрессии У (t) на величину (8.4.12) равен
Г Refxx(X) Im fyX (X)l-1 [Ret„WRe,xxW]
■ Re^xr(M I, ...
XL-Imfxr(X)]''rr(
fw (X)
= l^xWI2. (8.4.14)
Поэтому коэффициент множественной когерентности можно интерпретировать как квадрат коэффициента множественной корреляции Y ^ с выражением (8.4.12). ' *
Завершим параграф описанием нескольких полезных параметров. В общем случае величины, являются комплексными, но практически может быть удобно работать с действительными параметрами Re Aab (X), Im Aab (X) или с модулем Gab (X) = | Aab (X) | и аргументом фаЬ (X) = arg АаЬ (X). Рассмотрим случай г = s — 1. Величина G (X) = | А (X) | называется приростом амплитуды Y (/) по сравнению с X (I) на частоте X. Функция G (X) неотрицательна,
иЕслииЕсли(8.4.15)(8.4.16)(8.4.15)(8.4.16)G (— X) = G (X)
и
Если
и
Если
(8.4.15)
(8.4.16)
(8.4.15)
(8.4.16)
G (Х + 2л) = G (X), — оо < X < оо.
У (0 = 2а(^-ы)Х(и),' и
то-
^(Х) = |А(Х)р/хх(Х) =
= GmXxW-(8-4.18)
Выражение (8.4.18) показывает происхождение термина „прирост**. Амплитуда компоненты Y (/) на частоте А отличается от амплитуды соответствующей компоненты X (t) множителем G(X).
Взяв в качестве примера Y (t) — аХ (t — и), получим
G(X) = |a|.(8.4.19)
В данном случае прирост —это абсолютное значение коэффициента регрессии, оно постоянно для всех X.
Функция Ф (X) = arg А (X) называется фазой между Y (f) и X (/) на частоте X. Главной областью изменения функции Ф (X) является промежуток (—л, л]. Поскольку fxxW^^« функция Ф(Х) определяется формулой
ф W — ars frx W •
Так как-
ф(— Х) = — Ф (X),
(8.4.20)
(8.4.21)
то Ф(0) = 0. Кроме того,
ф(Х + 2л) =Ф(Х)
(8.4.22)
Пусть-
к(0 = 2«(^-м)^(«)-
(8.4.23)
И
Применим преобразование Крамера:'
$ ^ dZY (X) = J ^А (X) dZx ^
= J eiMG (X) e^W dZx (X).(8.4.24)
Тем самым ф (X) можно интерпретировать как фазовый угол между компонентой X (/) с частотой X и соответствующей компонентой ряда Y (/).
Если, например, Y (/) —аХ Ц — и), то
ф (X) =— Хи (mod2л) при а>0.(8.4.25)
и
Ф (X) = л — Xu (mod 2л) при а < 0.(8.4.26)
Графики этих двух функций изображены на рис. 8.4.1 и 8.4.2, причем в качестве области изменения Ф(Х) выбран промежуток (—л, л].
Рис. 8.4.1. Фазовый угол Ф (X), соответствующий запаздыванию на и единиц времени, в случае а > 0.
Рис. 8.4.2. Фазовый угол Ф(Х), соответствующий запаздыванию на и единиц времени, в случае а < 0.
В ряде случаев легче интерпретировать функцию
^aWI'(8-4.27)
Она называется групповым запаздыванием Y (/) по сравнению с X (t) на частоте X.
В рассмотренном примере при всех значениях а групповое запаздывание равно и. Иными словами, на такой промежуток времени Y (t) запаздывает по сравнению с X (t).
Отметим, что групповое запаздывание определено однозначно, в то время как Ф (X) определяется только с точностью до слагаемого, кратного 2л.
Предельное распределение оценок
В этом параграфе мы определим предельное распределение оценок, введенных в предыдущем параграфе, при Т —*оо, но при фиксированном т. Пусть
2(0 =
Х(о"
Y
так что
^zz (X) =
^хх(X) ^хг(ХГ f/X (X) fyy(X)
.(8.5.2)
Введем
^zz =
'I^(X) I^(X)" _1Й(Х) 1%(X)_
.(8.5.3)
Пусть m — неотрицательное целое число и s (Т), Т = 1, 2, ..., — такая последовательность целых чисел, что 2л$ (Т)/Т —> X при Т—^оо. Следуя § 7.3, полагаем
f^(X) =f^(X) =f^W f^(X)f(^W fV^W.f^W f^(X)f(^W fV^W.
f^(X) =
f^(X) =
f^W f^(X)f(^W fV^W.
f^W f^(X)f(^W fV^W.
m(2m + l)- £ ig (У£<П±21s = -m xm™-£R=lg(b+2f).s = 1.mm-£Relg(l-S- + ^).s= 1x7m(2m + l)- £ ig (У£<П±21s = -m xm™-£R=lg(b+2f).s = 1.mm-£Relg(l-S- + ^).s= 1x7если X^O (mod л),если X = 0, +2л, ... или если Х = ± л, zb Зл, ... и Т четно, ,если Х= + л, zb Зл, ...и Т нечетно. (8.5.4)если X^O (mod л),если X = 0, +2л, ... или если Х = ± л, zb Зл, ... и Т четно, ,если Х= + л, zb Зл, ...и Т нечетно. (8.5.4)Теперь построим оценкиА<П (X) =f& (X) f® (X)-1,(8.5.5)g£> (X) =С (m, г) [fV7 (X) -f& (X) ® W^XY (X)], (8.5.6)Теперь построим оценкиА<П (X) =f& (X) f® (X)-1,(8.5.5)g£> (X) =С (m, г) [fV7 (X) -f& (X) ® W^XY (X)], (8.5.6)
m
(2m + l)- £ ig (У£<П±21s = -m x
m
™-£R=lg(b+2f).
s = 1.
m
m-£Relg(l-S- + ^).
s= 1x7
m
(2m + l)- £ ig (У£<П±21s = -m x
m
™-£R=lg(b+2f).
s = 1.
m
m-£Relg(l-S- + ^).
s= 1x7
если X^O (mod л),
если X = 0, +2л, ... или если Х = ± л, zb Зл, ... и Т четно, ,
если Х= + л, zb Зл, ...
и Т нечетно. (8.5.4)
если X^O (mod л),
если X = 0, +2л, ... или если Х = ± л, zb Зл, ... и Т четно, ,
если Х= + л, zb Зл, ...
и Т нечетно. (8.5.4)
Теперь построим оценки
А<П (X) =f& (X) f® (X)-1,(8.5.5)
g£> (X) =С (m, г) [fV7 (X) -f& (X) ® W^XY (X)], (8.5.6)
Теперь построим оценки
А<П (X) =f& (X) f® (X)-1,(8.5.5)
g£> (X) =С (m, г) [fV7 (X) -f& (X) ® W^XY (X)], (8.5.6)
гдегдеC (m, г) =C (m, г) =2/71+ 12/71+ 1—г2/712/71 — г2/71+ 12/71+ 1—г2/712/71 — гпри X ^ О (mod 2л),при Х = 0 (mod л).при X ^ О (mod 2л),при Х = 0 (mod л).(8.5.7)(8.5.7)
где
где
C (m, г) =
C (m, г) =
2/71+ 1
2/71+ 1—г
2/71
2/71 — г
2/71+ 1
2/71+ 1—г
2/71
2/71 — г
при X ^ О (mod 2л),при Х = 0 (mod л).
при X ^ О (mod 2л),при Х = 0 (mod л).
(8.5.7)
(8.5.7)
При больших ш выполняется С (пг, г) Л_ 1 и определение (8.5.6) упрощается. Образуем также
<vb.xW<vb.xW[<LW<MX)][<LW<MX)](8.5.8)(8.5.8)
<vb.xW
<vb.xW
[<LW<MX)]
[<LW<MX)]
(8.5.8)
(8.5.8)
при a, b=\s и, если s= 1, введем
I rV>) I2 =
f/^Mf^W-1^^)
Теорема 8.5.1. Пусть (г + замерный ряд (8.5.1) удовлетворяет условию 2.6.1 и имеет матрицу спектральной плотности (8.5.2). Предположим, что в оценке (8.5.4) этой матрицы т и s(T) — целые числа и 2ns(Т)/Т —► К при Т->-оо. Пусть матрица
(8.5.10)(8.5.10)^хх Wxr?W УХ Wyy
(8.5.10)
(8.5.10)
распределена по закону (2m+1)-1IF?+S (2m +1, f^(X)) при Х^О (mod л) и по закону (2т)-1 Wr+s(2m, fzz(X)) при X = 0(modn). Тогда А<г> (X) —А(Х), geP(X) сходятся по распределению kWyxWх\ uWee = С (m,r) (Wyy —Wy^W^W^y) соответственно. Кроме того, Ry^ьх(Ц сходится к W6aE^Ь fe = 1’ •••’s’ и
при s=l величина | Ryx (X) |2 сходится к Vi Yx^x\^ xy№ yy-
Плотность предельного распределения для А<г> (X) можно вывести из (8.2.57) и (8.2.34). Она приведена в работе Wahba (1966) для случая s=l, Х^О (modл). Более полезен результат, основанный на следующем наблюдении: для любого rs-мерного вектора а
ат (vec [а<г* (X) —А (X)]) ^ ^ ^
[(2m+I)"1 аЧбеР(Х) ®.fx^
имеет предельное распределение 1^Йт^_п в случае Х^О (mod л). Аналогичные результаты справедливы в случае X = 0(modn).
Из упр. 4.8.8 вытекает, что при условиях теоремы 8.5.1 величина gee* (X) асимптотически имеет распределение (2m + 1 — г)-1 xlFf(2m + l — г, fEE(X)), если X^O(modn), и распределение (2т—г)-1 Ws (2т—г, fEE(X)), если Х = 0 (mod л). Она также асимптотически не зависит от А*7* (X). Отметим, что, согласно теореме 7.3.3, асимптотическое распределение gH* (X) аналогично по своей сути асимптотическому распределению спектральной оценки, основанной непосредственно на значениях е(/), t = 0, ..., Т — 1, только в нашем случае надо параметр 2m заменить на 2m— г.
Частные когерентности Ry^y^x (X), a, b= 1, ..., s, получаются непосредственно по матрице gEE* (X). Из предыдущих замечаний мы делаем вывод, что при условиях теоремы 8.5.1 их асимптотическое распределение то же самое, что и для безусловных когерентностей, если заменить параметр 2m на 2m —г. Для векторных нормальных величин этот результат отметил Fisher (1928). Распределение для одного RY^Ybx (X) дается формулами (8.2.32) и (8.2.55) при г=1.
Обратившись к асимптотическому разложению коэффициента множественной когерентности в случае s=l, полагаем |/?ух!2 = IRyxWI2, l^rxl^l^yx^)!2- Тогда предельное распределение величины |/?Vx(^) Is будет определяться формулой (8.2.32), где п = 2т, если X = 0(modn), и (8.2.55), где п = 2т+1, если X ^ О (mod л).
Указанное выше предельное распределение для когерентностей обнаружил Goodman (1963); см. также Goodman (1965), Khatri (1965), Groves, Hannan (1968). Enochson, Goodman (1965) исследовали точность приближения распределения величины arth | Ryx (^) I нормальным распределением со средним
arth |Я„ (Ml+ 5(5^7) (8.5.12) и дисперсией 1/[2 (2m —г)]. По-видимому, это неплохое приближение.
Класс состоятельных оценок
В этом параграфе мы построим общий класс оценок параметров, введенных в § 8.3. Предположим известными значения
(8.6.1)(8.6.1)х(о
(8.6.1)
(8.6.1)
Y(0
/ = 0, ..., Т—1. Введем dx* (X), dyr) (X), — оо<Х<оо, согласно (8.4.2). Определим матрицу кросс-периодограмм
1^ (X) = (2л?)-1 d^> (X) d^ (Х)\(8.6.2)
— оо < X < оо, аналогично определяется и 1$ (X), Iyy (X). Пусть W (а) — весовая функция, удовлетворяющая условию 5.4.1.
Оценим матрицу спектра второго порядка
(8.6.3)(8.6.3)^хх М ^хг М fyxW ^кИМ посредством
(8.6.3)
(8.6.3)
f^W fxr(^),№(Х) f%w.f^W fxr(^),№(Х) f%w.(8.6.4)(8.6.4)
f^W fxr(^)
,№(Х) f%w.
f^W fxr(^)
,№(Х) f%w.
(8.6.4)
(8.6.4)
приняв во внимание эвристическую оценку (8.4.5); А (X) оценим величиной.
А(7) (X) = ГД № ® (Х)-Ч(8.6.5)
В общем случае элементы Aob (X) матрицы А (X) будут комплексными. Иногда могут представлять интерес не сами элементы, а их мбдули Gob (X) и аргументы ФаЬ (X). Основываясь на указанной оценке, возьмем .
*^W = arg^>(X)(8.6.6)
И
0£>(Х) = |Л<р(Х)|(8.6.7)
при а=1, ..., s и &=1, ..., г. Оценим матрицу ^(^спектральной плотности ошибки величиной
gLn W=f ^ (X) - f & (X) f$ (X)-1 f ^ (X),(8.6.8)
а частную когерентность R^y ,х (X) оценим величиной
RYlYb.X.W =RYlYb.X.W =(.8.6.9)(.8.6.9)
RYlYb.X.W =
RYlYb.X.W =
(.8.6.9)
(.8.6.9)
При s = l оцениваем | Rух (X) |2 — множественную когерентность Y (t) с X (/) — посредством
I^WP =I^WP =^YX W© (М-И^Х)/^ (X)^YX W© (М-И^Х)/^ (X)(8.6.10)(8.6.10)
I^WP =
I^WP =
^YX W© (М-И^Х)/^ (X)
^YX W© (М-И^Х)/^ (X)
(8.6.10)
(8.6.10)
— оо < X < оо. Различные оценки оказываются выборочными
аналогами соответствующих величин, подлежащих оценке.
Относительно асимптотических моментов первого порядка для различных статистик справедлива .
Теорема 8.6.1. Пусть (г-^замерный ряд (8.6Л) удовлетворяет условию 2.6.2 (1) и имеет матрицу спектральной плотности (8.6.3). Предположим, что матрица tx,x(K) невырожденна. Пусть W (а) удовлетворяет условию 5.6.1, и пусть статистики XmQ^, ^W' GaPW, SePW, R^y .xW определяются формулами (8.6.5)—(8.6.9). Тогда если ВТ—*0, ВтТ-*оо при Т-^-оо, то
ЕА(Г) (X) =
2лX 2л-'
$ Г(Г,(Х—a) A(a)fxx(a)daj | j Wm (Х-а) txx(a)da
A-OfB^T-1),(8.6.11)
ЕФаР (Х) = агё{ЕЛ'Р(Х)}+О(Вт1Т-1),(8.6.12)
EG<P (X) = | EA^P (X) 1 + 0 (B^T-1)(8.6.13)
U
Egg’ (X) = $ №(Т> (Х-а) fr/ (а) da— ($ Г<?> (Х-а) frx(a) da} х{$ Wm (X—a)fxx(a)da}-1 (г(Г> (Х-а) fxr (a) da} + 0(В^7-!).(8.6.14)
Если же s = 1, a fYY W =# 0, то
Е | R^ (М 1? = { $ ^Г) (А - «) f УХ («) da} ( $ W^ (X - a) fxx (a) da} X { $ Г <г> (X - a) fxr (a) da} / J Г <r> (X—a) fYY (a) da 4-0 (В?1?-1). '■(8.6.15)
В каждом случае асимптотические средние различных статистик получаются нелинейными усреднениями параметров, представляющих интерес,. с матричными весами. Асимптотическое смещение поэтому будет зависеть от того, насколько близки к постоянным эти усредненные значения в окрестности X. В пределе имеет место '
Следствие 8.6.1. При выполнении условий теоремы 8.6.1
а при s=lа при s=llim ЕА(Г) (X) = A (X), Г->оо(8.6.16)lim Еф‘р(Х) = ФаЬ(Х), Г->ао(8.6.17)lim EG‘P(X) = Go6(X),(8.6.18)lim Eg'P(X)=gee(X), У™>00(8.6.19)lim ERVVXW = RY (X), T-x»cl bо b(8.6.20)lim E|/?<^WI2 = l^rxWI<T-> 00*(8.6.21)lim ЕА(Г) (X) = A (X), Г->оо(8.6.16)lim Еф‘р(Х) = ФаЬ(Х), Г->ао(8.6.17)lim EG‘P(X) = Go6(X),(8.6.18)lim Eg'P(X)=gee(X), У™>00(8.6.19)lim ERVVXW = RY (X), T-x»cl bо b(8.6.20)lim E|/?<^WI2 = l^rxWI<T-> 00*(8.6.21)
а при s=l
а при s=l
lim ЕА(Г) (X) = A (X), Г->оо
(8.6.16)
lim Еф‘р(Х) = ФаЬ(Х), Г->ао
(8.6.17)
lim EG‘P(X) = Go6(X),
(8.6.18)
lim Eg'P(X)=gee(X), У™>00
(8.6.19)
lim ERVVXW = RY (X), T-x»cl bо b
(8.6.20)
lim E|/?<^WI2 = l^rxWI<
T-> 00*
(8.6.21)
lim ЕА(Г) (X) = A (X), Г->оо
(8.6.16)
lim Еф‘р(Х) = ФаЬ(Х), Г->ао
(8.6.17)
lim EG‘P(X) = Go6(X),
(8.6.18)
lim Eg'P(X)=gee(X), У™>00
(8.6.19)
lim ERVVXW = RY (X), T-x»cl bо b
(8.6.20)
lim E|/?<^WI2 = l^rxWI<
T-> 00*
(8.6.21)
Указанные оценки являются асимптотически несмещенными, т. е. несмещенными в расширенном понимании. Мы можем построить разложения асимптотических средних по степеням Вг, см. упр. 8.16.25. Рассматривая такие выражения, можно сделать важное наблюдение: чем ближе к 0 производные спектров второго порядка генеральной совокупности, тем меньше асимптотическое смещение'. Nettheim (1966) получил разложение по степеням BtvT-1 в гауссовском случае.
Оценки рассмотренных нами параметров изучали Goodman (1965), Akaike (1965), Wahba (1966), Parzen (1967a—c),
Jenkins, Watt (1968). Случай r = s=l рассматривали Goodman (1957), Tukey (1959а, b), Akaike, Yamanouchi (1962), Jenkins (1963a, b), Akaike (1964), Granger (1964) и Parzen (1964).
Асимптотические моменты второго порядка рассмотренных оценок
Займемся теперь некоторыми свойствами моментов второго порядка статистик, описанных в предыдущем параграфе.
Теорема 8.7.1. Если выполнены условия теоремы 8.6.1 ufxx(a) невырожденна в окрестности X или р, то
cov {vec Кт (X), vec Am (р)}
~ t] {х-р} (fee (X)® fxx (X)-1) Вт1?-1 2л $ W (a)2 da, (8.7.1)
~ Е1! и} fsaec W /efred ( X) + Г) {Х + р} fs ed (X) fе е ( X)]
X Вт1?-1 2л $ Г (a)2 da, (8.7.2)
^RVPybXW’ R^.^M- (7.6.16)(8.7.3)
при а, b, с, d = 1, ..., s, где Rn0 = RvnYox (X) для п, О = 1, ..., s. Если s =1, то .■
tov{|^(X)|2, ^(рЩ-Е^-^ + чМ .
XlTWXEptlHflrxWrB^^nJ^ . (8.7.4)
Для того чтобы рассмотреть различные аспекты этих результатов, выпишем соотношения, вытекающие из (8.7.1) и разложений по теории возмущений, приведенных в упр. 8.16.24, обозначив через V(X) матрицу fxx(X)-1:
сот{А<6г>(Х), А<£>(р)}
^{Х-р^^Х^ДХ^Т-^л $№^^^(8.7.5)
cov {log G^ (X), logG'P (р)} ~[т]{Х—p} + ri{X + p}] xRe{Ae6(X)-7eoe/X)TM(X)A^H^ $r<a)2da, (8.7.6) cov^tX), Ф^* (ц))~ E1!^—PE-hE^ + p}] хКе{Ааг,(Х)-7еаес(Х)^м W А^ДК)-^ Вт1?-1^ J 117 (a)2da (8.7.7)
при а, с=1, ..., s; b, d—1, ..., г.
Набор величин Xd, d=l, ..., г, из которого исключена Хь, обозначим ХР Тогда на основании упр. 8.16.37
^ьь(X) = "i— гj_i п п> |211- от >(8.7.8)
fxbxb.x'bM O-'Rxbx'bW'l?xbxbW
f^a W = haYa X W = [1 - I RvaxW |2] ?YoYa (X),(8.7.9)
и поэтому
D Д^Р (X) ~ B^T-^n J W (a)2 da ^'^^'p/^^ ^ ' (8-7J0)
Что касается дисперсии, из формулы (8.7.10) ясно, что оценка ДаР (X) будет наилучшей, если множественная когерентность Y о (t) с X (0 близка к 1 и множественная когерентность Хь (О с X^f), ..., Xb_xktY ХН1(0. ..., Хг(0 близка к 0.
Обратившись к оценке прироста и фазы, сперва отметим соотношения
fy X Х' <Х)Д ^Х — abbabW"fxx Х'^'хьхьхь\tv х -Х'^13 аХЪ ХЬfy X Х' <Х)Д ^Х — abbabW"fxx Х'^'хьхьхь\tv х -Х'^13 аХЪ ХЬYaYaX'b^fXbXbX'b^YaYaX'b^fXbXbX'b^(8.7.11)(8.7.12)(8.7.11)(8.7.12)
fy X Х' <Х)
Д ^Х — abbabW"fxx Х'^'хьхьхь
\tv х -Х'^13 аХЪ ХЬ
fy X Х' <Х)
Д ^Х — abbabW"fxx Х'^'хьхьхь
\tv х -Х'^13 аХЪ ХЬ
YaYaX'b^fXbXbX'b^
YaYaX'b^fXbXbX'b^
(8.7.11)
(8.7.12)
(8.7.11)
(8.7.12)
И
f Ya Ya-Xb W = D ~ I RYaXb.X'b W P] kaYa -X (X).(8.7.13)
Из выражений (8.7.6) —(8.7.8), (8.7.11) и (8.7.13) выводим
D log Gg' (X) ~ B^T^n $ IF (a)2 da
xh{X-p} + n{X+p}][l^yoxb^Wr2-l] (8-7.14)
и
D Ф^Р (X) ~ B^T-^n J W (ay da
x h {X-p} - T] {X + pH l\RYaxb.x'b W Г2 -1]- (8.7.15)
Таким образом, дисперсии величин log G^P(X) и Фаь’^) малы, если частная когерентность Y.a (/) с Xb (t) после удаления линейного влияния Xt(/), ..., Xb-t (t), Xb+1(t), ..., Xr(t) будет близка к 1. В случае г = s = 1 частная когерентность в выражениях (8.7.14) и (8.7.15) заменяется на когерентность |^?ух(Х)|2.
Заметим, что если Х±р^0(шоб2л), то асимптотика ковариаций логарифма прироста и фазы одинакова.
Рассматривая оценку матрицы спектральной плотности для ошибки, отметим, что, как показывают формулы (8.7.2) и (7.4.17), асимптотическое поведение g^p (X) во втором порядке в точности такое же, как если бы эта оценка была прямой спектральной оценкой feP (X), основанной на значениях е(0, ^ = 0, . ..,Т—1.
Из (8.7.3) следует, что асимптотическое поведение оценок частных когерентностей совпадает с асимптотикой оценок когерентностей таких s-мерных векторных рядов, у которых когерентностями генеральных совокупностей являются частные когерентности RvYbxW> а, 6=1, ..., s. Взяв а = с, b=d, можно с помощью (8.7.3) заключить по аналогии со следствием 7.6.2, что
CW{|Rm (X) р, I R$\ х(р) I2}~ [Г]{Х-р} + П{Х + р}1 а о а о
x\RyaYb.x (X) Р[1 - I RYaYb.x (X) ррВ^Т-Чл $ W (a)2 da. (8.7.16)
Асимптотическая структура ковариаций |#УаУь-х(Х)р оказывается одной й той же при всех значениях s, г. Изучение (8.7.16) наводит на мысль рассмотреть преобразование, стабилизирующее дисперсию .
arthj^) х(Х)|. (8.7.17) , а о
Характер этого преобразования иллюстрирует табл. 8.7.1 и рис. 8.7.1. Видно, что значения |7?| вблизи 0 изменяются очень мало, в то время как вблизи 1 значения очень сильно возрас-
Таблица 8.7.1
Значения arthx
X
arth х
.00
.0000
.05
.0500
.10
.1003
.15
.1511
.20
.2027
.25
.2554
.30
.3095
.35
.3654
.40
.4236
.45
.4847
.50
.5493
.55
.6184
.60
.6931
.65
.7753
.70
.8673
.75
.9730
.80
1.0986
.85
1.2562
.90
1.4722
.95
1.8318
1.00
ОО
тают. Далее,
Е arth | R^y ,х(Х)|}
°6 = arth | ЯгЛ-Нх) I+ O(Br) + O(B?^ (8.7.18)
сот {arth | R^^x (x) I- arth I R^y^x (h) |}
= И {^- p} + П {x+И}] Bt1?-^ $ Г (a)?da+О (В?*?-?). (8.7.19)
В случае s=l частная когерентность совпадает с множественной когерентностью ]-/?гх(М Р» и 66 оценкой служит оценка |7?$(х)12- Тем самым выражения (8.7.18) и (8.7.19) будут верны также и для |B^(MI2- Enochson, Goodman (1965) изучали воздействие этого преобразования и предложили такие приближен-
ные выражения:
Е arth | Rm (X) | arth | Ryx (X) |,(8.7.20)
D arth | Ryx (X) |i,(8.7.21)
если г>1, X^O(modn), где
п = ——I. ■ ВтТ.(8.7.22)
2л \ №<г> (a)2 da 2л \ Г (а)2 da
Если привлекаются оценки из § 8.5, то надо взять п = 2/л+1.
Parzen (1967а—с) нашел асимптотическое среднее и дисперсию для А^ЦК), log Gyp (X) и Ф^’(Х) при s=l. Jenkins, Watt (1968, стр, 484, 492) определили асимптотическую структуру ковариаций А<Г) (X) и | Ryx (X) Р- В случаях г = s = 1 Jenkins (1963а) получил асимптотические дисперсии фазы-, прироста и когерентности.
Асимптотическое распределение оценок
Укажем теперь предельные распределения для рассмотренных статистик. Начнем с такого утверждения.
Теорема 8.8.1. Пусть выполнены условия теоремы 8.6.1 и fxx(XU)) невырожденна при /=1, ..., L. Тогда оценки А(Г)(Х(П), gee’(X(Z,)> Ry\ (Хш). а> Ь=1, .:., s, асимптотически нормально распределены, и структура их асимптотических ковариаций определяется формулами (8.7.1) — (8.7.3). Величины А*Г) (X) и g^’ (X) асимптотически независимы.
Эта теорема окажется полезной при построении доверительных областей. Пользуясь теоремой 8.8.1 и выражением (8.7.1), заключаем, что при Х^ 0 (mod л) вектор vecA(n (X) асимптотически имеет распределение
Wfs (vec ЕА,Г) (X), 2r),(8.8.1)
причем
З^Й^Т-^л $ M7(a)2da(fee(X)®f^^(8.8.2)
Из упр. 4.8.2 следует, что отдельные элементы матрицы А(Г)(Х) являются асимптотически комплексными нормальными величинами; такое предположение высказал Parzen (1967а—с). Теорема 8.8,1 имеет
Следствие 8.8.1. При выполнении условий теоремы 8.8.1 асимптотически нормальны те функции от Ат (k), gePW, КФ у (X), для которых невырождены матрицы, составленные из х а Ь
первых производных. '
В частности, можно сделать вывод, что log С^ЧХ) имеет асимптотически нормальное распределение с дисперсией
[1 + П {2Х}] [ | KY . (X) |-*-1] В-?Т-Ы С Г (a)» da. (8.8.3) а о ои
Величина ф^ (X) асимптотически нормальна с дисперсией
[ 1 — П {2Х}] V\RYaxb.x'b W Г - И 5г1 Т^л j W (ay da (8.8.4)
и log Gap (X), Ф^ (К) асимптотически независимы при а= 1, ..., s; 6 = 1, ..., г. Величина arth | К^у ,х (X) | также асимптотически нормальна с дисперсией-
[1 4-ч{2Х)]В?1Т-1л $Г (ay da,(8.8.5)
a, b = 1, .... s, и, если s = 1, arth | Rxy (X) | асимптотически нормальна с той же дисперсией (8.8.5). Рассмотрение преобразований, стабилизирующих дисперсию [Kendall, Stuart (1968, стр. 93)], показывает, что распределение преобразованной величины может быть ближе к нормальному, чем до преобразования. Мы применим преобразованную величину при построении доверительных интервалов для когерентностей в следующем параграфе.
Отметим, что предельное распределение для А(Г)(Х), приведенное в теореме 8.8.1, согласуется с результатом теоремы 8.5.1 при больших т, если отождествить
. 2m + 1 = —-—-= —.(8.8.6)
2л \ №<г> (a)2 da 2л \ Г (а)2 da
Распределения других величин также согласуются, так как распределение Уишарта при большом числе степеней свободы близко к нормальному.-
Доверительные области для предложенных оценок
Асимптотические распределения, рассмотренные в предыдущем параграфе, можно использовать при построении доверительных областей для изучаемых параметров. В этом параграфе мы пользуемся отождествлением (8.8.6).
Начнем с построения приближенной доверительной области для АаЬ(Х). Пусть X# 0 (mod л). Выражение (8.5.11) приводит к тому, чтобы в качестве аппроксимации распределения величины
(8.9.1)(8.9.1)Л (Л ^-Aab (X)[(2m+l)-lg<^(X)^)(X)p/2
(8.9.1)
(8.9.1)
взять распределение 1е(4т+1-п; здесь ЧГ(Г) (К) = fxx W-1- Это приближение может быть использовано, как и в § 6.9, для построения доверительной .области либо для {ReAo6(X), Im АаЬ (X)}, либо для {log Gab (X), • ФйЬ(Х)}. При X = 0(modn) распределение (8.9.1) аппроксимируется t2Um-rV
Если обозначить а-ю строку матриц А<Г) (X) и А (X) соответственно через АаГ) (X), Ао (X), то доверительную область для Аа (X) можно получить, аппроксимируя распределение
{(2m +1) [Af> (X)-Aa(X)]f^ W №’ (Х)-Аа №/2^//^ (X)
• (8.9.2)
распределением F2r; 2 <2m+i -г) в случае Х^ 0 (mod л). В упр. 6.4.17 указывается способ построения приближенных совместных доверительных областей для всех линейных комбинаций элементов из Аа(Х). Тем самым мы приходим к 100|3-процентной доверительной области вида
I А^ (X) - Aab (X) р < 2F2r; 242m +1 -г) (Р) (2m + 1) Ww (X) gm ' (X), • а а
' (8.9.3)
b = l, ..., г, если Х^ 0 (mod л). Ее можно преобразовать в совместную доверительную область для ФаЬ (X), log Gab (X), b = 1, ..., г, по методу упр. 6.9.11. •
Рассматривая fM(X), можно заметить, что параметры feaeb(X), 1 ^a^6^s, алгебраически эквивалентны параметрам fEa*aW, а= 1, ..., s; 7?уоуь.х(Х), 1 ^а <b ^s, для которых мы и укажем доверительные интервалы.
Теорема 8.5.1 предлагает взять в качестве приближения к распределению g^ (X)/fEaEa (X) при X ^ 0 (mod л) распределение %2(2m+i-r)/{2 (2m +1 — г)}, а при X = 0(modn)—распределение Xim-r/{2m—г}. Доверительные интервалы для Д„еа(Х) можно построить с помощью этих приближений по аналогии с выражением (5.7.5).
Рис. 8.9.1. 80-процентные доверительные интервалы для когерентностей.
Индексы у кривых соответствуют числу усредненных периодограмм.
В случае одного RY0Yb-xW рассмотрим, ориентируясь на теорему 8.8.1, 100(1—а)-процентный доверительный интервал:
arth | R^.x W I + (Г1 + Ч {2X}] В^Т-^л у W (a)2 day г (|)
< arth | RvoYbx (X) | ^ arth | R^.x W1 - ([1 + Г) {2X}] B^T-^n
X^W (ayday^z ^ . (8.9.4)
Можно было бы в качестве альтернативы найти распределение комплексного аналога коэффициента корреляции при уменьшенном на г объеме выборки, воспользовавшись таблицами Amos, Koopmans (1962), или построить с помощью этих таблиц кривые рис. 8.9.1 и 8.9.2.
В случае множественной когерентности можно рассмотреть
Рис. 8.9.2. 90'Процентные доверительные интервалы для когерентностей. Индексы у кривых соответствуют числу усредненных периодограмм.
приближенный 100 (1 —а)-процентный доверительный интервал:
arth | R^ (X) | + ([1 + П {2X}] В^Т'^л J W (a)2 da)1/2 z (f) ^arth|BrxW|
C arth | R^ (X) | — ([1 +4 {2X}] В^Т-^л J Г (a)2 da)1/3 z (y) .
(8.9.5)
Имеется и другая возможность — обратиться .к таблицам Alexander, Vok (1963).
Доверительные области, типа рассмотренных выше, определялись в работах Goodman (1965), Enochson, Goodman (1965), Akaike (1965), Groves, Hannan (1968). Если |Brx(X)|? = 0, X^ 0 (mod л), то приближенная 100а-процентная точка |Вух (Х)^ задается элементарным выражением 1—(1—а)1/2"1; см. упр. 8.16.22.
Оценки коэффициентов фильтра
Допустим, что (г + $)-мерный ряд (8.1.1) удовлетворяет соотношению
Y (0 = |ы + S а (^—и) X («) + е(/),(8.10.1)
и
/ = 0, ±1, ..., в котором в(/), / = 0, ±1, ...,—стационарный ряд, не зависящий от Х(/). В соответствии с теоремой 8.3.1 рассмотрим зависящие от времени коэффициенты
а («) = (2л)”1 ^ A (a) exp \iua\ da,(8.10.2)
где A(X) = frx(X)fxx(X)~1.
Пусть А(Г)(Х) — рассматривавшаяся в этой главе оценка А (%). Для оценки a(d) можно использовать статистику
-РТ“Х.
acn^^p-i 2 А(г)(2лр/Рг)ехр{*2лН^ (8.10.3) р=0'
где Рт—последовательность целых чисел, стремящаяся при Т —>оо к ОО.
Можно было бы предположить, что распределение а(Г) (и) центрировано вблизи-
р/Т£№ (2ЛР/РД}-1 {ЕГЯ (2лр/Рг)} exp {i2np/Pr}. (8.10.4) р=0-
Обсуждение результата теоремы 7.4.2 показывает, что распределение э!Ъ сосредоточено вблизи рг-1•
Рт1 2 А(2лр/Рг)ехр {/2лри/Рт},(8.10.5)
'р=о_
если параметры frx(a), fxx(a) мал° меняются на промежутках длины О^Вту Выражение (8.10.5) можно переписать в виде
a(u)+ 5 а(н + ^Рг),(8.10.6)
к ф 0•
тогда оно будет близко к интересующему нас а (и), если коэффициенты фильтра достаточно быстро убывают к 0. Это замечание наводит на мысль, что в данном случае особенно полезной должна оказаться предварительная фильтрация.
Занявшись затем вторыми моментами, можно ожидать на основании (8.7.1), что
cov {vec а(Г) (u), vec а<Г) (и)}'
рг-1
~ РУ 2 ^e.e^^PlP'i^^i^xX^'^'P^г) 1 р=0
х ехр {12лр (и—иуРТ\ ВУТ-^Ы ^ Ц7(а)Ма
~ РУВУТ-1 J №(а)Ма 2л
.X 5 fee(«)® fyx (а)-1 ехр {га(ы — и)}da,(8.10.7)
• о-
при условии, что Рт не слишком велико. В действительности справедлива.
Теорема 8.10.1. Пусть (г + 5)-мерный ряд (8.1.1) удовлетворяет (8.10.1), причем для независимых рядов Х(/), е(/) выполнено условие 2.6.2 (1). Предположим еще, что 1^х(Х) невырожденна и имеет ограниченную, вторую производную. Пусть W (а) удовлетворяет условию 6.4.1. Определим Am (X) формулой (8.6.5) и а<Г)(и) формулой (8.10.3), и = 0, ±1, ... . Если РТ—► оо и РТВТ"^\, Р1УеВУТ-1—*0 при некотором е > 0, то величины ъ.^ (щ), ..., а(Г) (Uj) асимптотически совместно нормальны, имеют средние (8.10.4) и ковариации (8.10.7).
Заметим, что в первом порядке асимптотическая ковариационная матрица для vecam(u) не зависит от и. Можно было бы оценить ее величиной
рг-1
Рт" У g^> №\ ® f^ №V ВУТ-^п f W (ay da, (8.10.8) \ r T /\ r T JJ
где geP (X) определена в (8.6.8). Если Ч^ (%) обозначает Г/х (^)“\ а
"рт~х
^ = Ртх ^^Y^^^\(8.10.9)
р = 0тт
то можно выписать такой приближенный 100(1—а)-процентный доверительный интервал для а^иу
afy (и) + ^РУВУТ-W^ 2л $ Г (а)^а}1/8г (^)
Если положить РТ = Вт\ то асимптотическая дисперсия будет порядка Т~г.
Hannan (1967а) рассмотрел оценку а (и) в- случае, когда а(у)=0 при достаточно больших и, и для ряда ошибок в(/), /=0, ± 1, ..., являющегося линейным процессом. Wahba (1966, 1969) рассматривал гауссовский случай при фиксированном Р.
Представляют также интерес и оценки a (u), z^ = 0, ±1, ..., с наименьшим квадратичным уклонением, полученные минимизацией суммы квадратов
Т-р-1 / (q)
2 trHY(0-H- 2 a(u)X(/-u) .
t=qu=-pJ
(8.10.11)(8.10.11)x! Y (/) — fi— 2 a(u)X(Z — u) ?
(8.10.11)
(8.10.11)
Iu=-pJ
при некоторых p, q^O. К изучению этих оценок приходим, рассматривая модель'
*Y(0 = H + aX(0 4-е(0,(8.10.12)
/ = 0, ±1, ... . Здесь мы предполагаем, что р — неизвестный s-мерный вектор; a — неизвестная sxr-матрица; Х(/), / = 0, ± 1, .. .. — наблюдаемый стационарный r-мерный векторный ряд, а 8(0, / = 0, ±1, ..., —ненаблюдаемый стационарный s-мерный ряд ошибок, имеющий матрицу спектральной плотности f££(A), — оо < А. < оо и Ее (0 = 0. Ряд Y (0, / = 0, ±1, ..., предполагается наблюдаемым. Если в нашем распоряжении имеется отрезок значений
х(0~ Л (0.х(0~ Л (0., / = 0, ..., Т-1,, / = 0, ..., Т-1,(8.10.13)(8.10.13)
х(0~ Л (0.
х(0~ Л (0.
, / = 0, ..., Т-1,
, / = 0, ..., Т-1,
(8.10.13)
(8.10.13)
то возникает задача оценить р, а и f££(A), — оо < А< оо. Рамки модели (8.10.12) шире, чем могло бы показаться на первый взгляд. Например, возьмем модель
q
Y(0 = p+ 2 а (м) £(£-«) 4-е (/),(8.10.14)
U=-P
где Z ~ 0, ±1, ... и X (0 — это стационарный r'-мерный векторный ряд, а ряд е(<) независимый от него и стационарный. Можно придать этой модели форму (8.10.12), полагая по определению
(8.10.16)
t = 0, ± 1, ... . Введенные матрицы имеют размеры s х г' (р + q — 1) и г'^p-Vq — 1)х1 соответственно. Частным случаем модели (8.10.14) является схема авторегрессии -
3c(,t) = a^3c(t-l') + ....+a^X,(t-q)+e(ty -(8.10.17)
в которой s(/), / = 0, ± 1, ..., является процессом белого шума с нулевым средним. Поэтому приведенные ниже результаты можно использовать для получения оценок и их асимптотических свойств для моделей (8.10.14) и (8.10.17).
Располагая набором значений (8.10.13), получаем оценки |ш<п, а(Г) величин р. и а, имеющие наименьшее квадратичное уклонение: с^рЯ’ + а’Г’с^ ■(8.10.18)
и
с%(0) = а*г>с^(0).(8.10.19)
В качестве оценки fee (А) можно рассмотреть
Т-1
gM^E 1^<г> (^—^) 1^ (^),(8.10.20)
s=l4/
где е(0 является остатком, определяемым формулой
е(^ = У(0-Ц<г,-а(ПХ(/), 1=0, ±1, .1. . (8.10.21)
Для этих оценок справедлива
Теорема ■ 8.10.2. Пусть s-мерный векторный ряд У (/), Z = 0, ± 1, ..., представйм в виде (8.10.12), где r-мерный ряд \(t), t = 0, ±1, ..., удовлетворяющий условию 2.6.1, имеет автоковариационную функцию схх (и), и = 0, ±1, ..., матрицу спектральной плотности fxx(X), — оо<Х<оо, и где e(Z), / = 0, ± 1, ..., — независимый с X(Z) s-мерный ряд, удовлетворяющий условию 2.6.1, с матрицей спектральной плотности feew=[Lbm ii и а—матрицы размера sxl и sxr. Пусть рУп и ат определены согласно (8.10.18) и (8.10.19), а f£> (А) = = [/с? (А)] задается формулой (8.10.20), где W (а), — оо < а< оо, — удовлетворяет условию 5.6.1 и ВТТ—*оо при Т —>оо. Тогда ц(Г) распределена асимптотически как Ns(p, Т-^тс^ДОУ; величина месат асимптотически независима и распределена как
N„ (veca, 2л?-1 J f£e (a) ® [exx (О)“ЧХХ(a)cxx (OHjda). Кроме того, g(eeW асимптотически независима и нормально распределена с
Eg£> W = $ ^ (a) feeУК-В^ da + О (Вг) + О ф^Т'^ (8.10.22) и'•.
^inr ВтТ ^='
■ = [2л $ W (а)Ма] [ц {X, - XJ /^ ОМ fbibi (-
-V^^l + ^fa^AkHb^J—^A ари — ОО<Х1,Х2< ОО. (8.10.23)
Асимптотическое распределение для g^’ (X) оказывается тем Же самым, что для f^ (X),’введенной непосредственно по ряду ошибок e(f), / = 0, ±1, .... В случае модели (8.10.14) предельные распределения будут вовлекать параметры
Гсн(0) ... сн(р-\-дП
(8.10.24)(8.10.24)схх (0) ~
(8.10.24)
(8.10.24)
-с$$(— Р-чУ • с$$ (0)-
и
f$$ УМf$$ УМexp (tX) fH (X)exp (tX) fH (X)ехр{—iX) f$$(X)...lехр{—iX) f$$(X)...l
f$$ УМ
f$$ УМ
exp (tX) fH (X)
exp (tX) fH (X)
ехр{—iX) f$$(X)...l
ехр{—iX) f$$(X)...l
f^X УМ —f^X УМ —. (8.10.25)
f^X УМ —
f^X УМ —
Lexp{tX(p + <7)}f $(X)
Если гф, / = 0, ±1, ..., является белым шумом с матрицей спектральной плотности f££ (X) = (2л)-12, — оо < X < оо, то теорема 8.10.2 показывает, что vec[a<n(—р), ..., а(Т) (у)] будет асимптотически нормальным со средним vec[a(—р), ..., а (^)] и ковариационной матрицей Т-12® схх (О)-1. Отсюда получается асимптотическое распределение для оценок параметров в схеме авторегрессии, имеющих наименьшее квадратичное уклонение. В § 6.12 мы рассмотрели соответствующие результаты для фиксированного ряда X (/). Можно было бы рассмотреть здесь и аналог „наилучшей“ линейной оценки (6.12.11).
Sell. Оценки отклонений, имеющие место с вероятностью 1
В § 7.7 мы изучили отклонение спектральной оценки от ее математического ожидания при Т—>оо. Этот результат можно применить при выводе ограничений для отклонения А(П (X) от {ЕГЙ (X)} {Ef(xx (X)}-1. Можно также найти границу отклонения А(Г) (%) от А (%) и оценить отклонение других введенных ранее статистик от соответствующих оцениваемых параметров. Точнее справедлива
Теорема 8.11.1. Пусть (г + замерный векторный ряд (8.1.1) удовлетворяет условию 2.6.1, и выполнены предположения теоремы 8.6.1. Пусть ВТ=фТТу^Вт при некотором е > О и ^Вт < т
< оо при некотором /и > 0. Тогда при Т —> оо почти наверное
А*г> (X) = {Е№ (X)} {Ef^ (X)}-1 + О ф^.(8.11.1)
Кроме того.
К^ф=кф^ОфТНОфт"ь(8.11.2)
W Ф = Ф^ Ф + О фт) + О ф^,(8. Г1.3)
6# (X) = Gjk ф + О фт) +0 ф^,(8.11.4)
g^ ф = gE6 (X) + О фт) + О фт1),(8.11.5)
R^-х (X) = RY.Yk.x ф + о фт) + О ф?),(8.11.6)
I R^ ф |2 -1 Ryx ф I2 + о фт) 4- о ф?)(8.11.7)
почти наверное при Т —> оо для >— оо < X < оо, / = 1, ..., s; 6=1, ..., г. Величины, входящие в О(-), допускают оценки, равномерные по X.
Из этой теоремы вытекает, что если Вт, О^1—>Q при Т —>оо, то рассмотренные статистики являются сильно состоятельными оценками соответствующих параметров.
Дальнейшее обсуждение
Статистики, которые рассматриваются в этой главе, в общем случае комплексные. Поэтому никаких трудностей не возникает, если имеются программы для ЭВМ, рассчитанные на обращение с комплексными величинами. Однако зачастую это не так, поэтому стоит отметить, что можно вычислять статистики с помощью программ, обрабатывающих действительные величины. Например, возьмем оценку комплексного коэффициента регрессии
к^ф^кф^хф"1.
(8.12.1)
Применив операцию, описанную в § 3.7, получим
А<г> ^R = f% (X)R {f^ (XW-(8-12.2)
Взяв первые s строк в (8.12.2), получим набор уравнений, вовлекающих только действительные величины:
[ReA(r>(X) 1шА(Г) (%)]-
= [Refyx(X) Imf&W]Г Ref^W Imf&Wl-1
Х L-Imf^W Ref^H 1 (Ь-12>,5)
Основное усложнение, связанное с такой редукцией, состоит в удвоении размерности вектора X. Другой подход к уравнению (8.12.1) можно предложить на основе упр. 3.10.11.
Можно также выписать статистики — выборочные аналоги выражений (8.4.13) и (8.4.14) —и определить спектральную плотность ошибки, частную когерентность и множественную когерентность.
• Далее упомянем интересные аналоги в частотной области следующих важных проблем, которые можно назвать так: ошибки в исходных переменных и системы одновременных уравнений, тип которых описывается ниже.
Предположим, что ряд Y (/), ^0, ±1, • • •, задается формулой
¥(0 = ц + 2а(/-и)£(м)+е(0, (8.12:4) и
где r-мерный ряд Х(/), / = 0, ±1, •••> непосредственно не наблюдаем, а е(/), / = 0, +1, ..., —ряд ошибок, не зависящий от Ж(/). Будем, однако, считать, что наблюдаем ряд
Х(0 = £(0 + ч(0 (8.12.5)
и ц (t), / = 0, ±1, ..., —это ряд ошибок, не зависящий от ЗД1\ Проблема оценки |ii и {а (и)} в подобной ситуации —это проблема ошибки в исходных переменных. Имеется значительная литература, посвященная этому вопросу для рядов с нулевой сериальной корреляцией; см. например, Durbin (1954), Kendall, Stuart (1961). Если рассматриваемые ряды стационарные, то можно написать
d^ (^^A^d^^ + d^ (^),(8.12.6)
dT (^) =d^n (^) +d^ (^),(8.12.7)
причем указанные величины почти некоррелированны при разных s. Благодаря этой слабой корреляции мы можем теперь
попытаться найти подход к проблеме ошибок в исходных данных, применяя различные классические процедуры. Решение нашей задачи (8.12.4) —(8.12.5) будет связано с нахождением отдельных ошибок в переменных для каждой из частот X, принадлежащих промежутку [0, л].
Пожалуй, самые красивые результаты получаются, когда наряду с рядами Y (/), X (/) доступен анализу r-мерный вспомогательный ряд Z(/), ( = 0, ±1, ... . Этот ряд коррелирован с X(О, ^ = 0, ± 1, ..., но некоррелирован с рядами е(/) и ц(/). В стационарном случае из выражений (8.12.5) и (8.12.4) получаем
•frzW = A(X)fxz(X).(8.12.8)
Статистику
A'^HfyztWzW-1(8.12.9)
можно предложить в качестве оценки для А(Х). Об этой процедуре см. Hannan (1963а) и Parzen (1967b). Akaike (1966) предложил процедуру, полезную, если ряд ц(/) —гауссовский, а £ (0 — негауссовский.
Различные модели в эконометрике приводят к системам одновременных уравнений, имеющих вид
5а(/-ы) Y(M)=Sb(/-M)Z(u) + e(0. .(8.12.10) ии
где Y (Z), е(/) есть s-мерные векторные ряды, a Z(Z) есть г-мер- ный ряд, не зависящий от е(^); см. Malinvaud (1964). Модель вида (8.12.10) называется системой структурных уравнений. Она отличается чрезвычайной общностью, становясь, например, водном случае схемой авторегрессии, а в другом—линейной системой
Y(/) = Sa(/-u)X(u) + s(0(8.12.11)
и
с коррелированными рядами X (/), е,(/). Эта корреляция может быть обязана наличию в системе обратной связи. В эконометрических задачах часто интересуются оценкой коэффициентов отдельного уравнения системы (8.2.10), и целый ряд таких процедур был предложен Malinvaud (1964) в случае отсутствия сериальной корреляции.
В стационарном случае можно выписать выражение
A(X)d^(^-s)^B(X)d^(^-s)+d<r>(^-s), (8.12.12)
взяв 2л5/Т, близким к X, с переменными, почти некоррелированными при разных s. Ясно, что для оценки интересующих нас коэффициентов можно применять к системе (8.12.12) комплексные аналоги различных эконометрических оценок. Процедуры эти
связаны с исследованием системы одновременных уравнений по отдельности в ряде узких частотных полос. Brillinger, Hatanaka (1969) записали систему (8.12.10) и предложили провести ее частотный анализ. Akaike (1969) и Priestley (1969) рассмотрели проблему получения оценок для систем с обратной связью.
Как отметил Durbin (1954), модель для ошибок в переменных (8.12.4) и (8.12.5) с вспомогательным рядом Z(/) может изучаться в рамках одновременных уравнений. Мы просто запишем эту модель в такой форме: '
Y (0-2а(/-и)Х(и) = ц + £(0, (8.12.13) и
X(/) = 2d(t-u)Z(H) + y(0 (8.12.14) U *
и будем рассматривать пару Y (/), X (/) как Y (/) из (8.2.10).
Другие типы оценок
Построенные нами оценки прироста амплитуды, фазы и когерентности в каждом случае являлись выборочными аналогами соответствующих параметров генеральной совокупности. Например, мы определили
С(Х)=1^§У-,(8.13.1)
ixxw7
а потом построили оценку
(8.13.2)
Гхх W
Но в ряде случаев может оказаться предпочтительнее не столь прямой образ действий.
Например, выражения (8.6.11) и (8.6.13) показывают, что асимптотическое смещение имеет место для G^ (%), если спектры fyx№ и fxx(a) будут не слишком мало меняться при а, близких к %. Таким образом, если возможно, то следует предварительно профильтровать Х(/) и У (/), чтобы получить ряды, для которых спектры второго порядка почти постоянны. Следует оценить прирост амплитуды для этих профильтрованных рядов и построить оценку С(Х).
С другой стороны, выражение (8.7.14) показывает, что
DlogG^(X)^[l+n{2X}]•.
XEI^WI-2-!]^^-^ $ W (a)2da + 0(B?2T-2). (8.13.3)
ЧЧ yv yvva V v yr v ЧЦ W—9—Vr V ^ к/
Ai4aA_J!lA1LlA/^^
Рис. 8.13.1. График Ф^ (X)—оценки фазового угла между рядом средних месячных температур (без сезонной составляющей) в Берлине и аналогичным рядом для Вены, умноженным на —1. При оценке усреднено 15 периодограмм.
Тем самым, если | RYX (X) |2 как функция *Х будет близка к константе, можно провести дальнейшее сглаживание и оценить log G (X) величиной
N
(2ЛГ+1)-1 2 log G(r> (Х+пАг)(8.13.4)
n=-N
при некоторых N, Аг, построив Gm (а) по методу § 8.6.
Отметим, между прочим, возможность оценить G(X)2 в соответствии с (8.4.18) величиной
(8.13.5)(8.13.5)tYY (X)
(8.13.5)
(8.13.5)
tTxW '
В упр. 8.16.12 показано, что такая процедура приемлема не всегда.
В качестве оценки фазы Ф (X) мы предложили
Ф<Г) W^arg^W.Ф<Г) W^arg^W.(8.13.6)(8.13.6)
Ф<Г) W^arg^W.
Ф<Г) W^arg^W.
(8.13.6)
(8.13.6)
Выражение (8.6.12) показывает, что Еф(Г)(Х) является главным образом результатом нелинейного усреднения фазы 'с неравными весами. Это обстоятельство побуждает нас проводить, если это возможно, до оценивания фазы предварительную фильтрацию рядов, сглаживающую колебания кросс-спектра.
С другой стороны, можно было бы рассмотреть нелинейные оценки, которые не так чувствительны к изменениям весов. На-
пример, можно работать с оценкой вида
argf(2A^ + l)-1 2 exp{iarg^(X + nAr)}) (8.13.7) \ . n=-N /
или вида N
(2N + 1)-1 £ argf^^ + nA,.). (8.13.8) n—-N
Вычисляя значения arg/yx (^ + ^г) ПРИ построении оценки (8.13.8), необходимо быть внимательным, поскольку фазовый угол определен лишь с точностью до кратного 2л.
Эта неопределенность вызывает трудности и при графическом представлении Ф(Г) (X). Можно получить совершенно неправильную картину, если Ф(Х) быстро меняется или если велика D Ф(Г)(Х). Например, на рис. 7.2.5 показан график оценки фазового угла между рядами средних месячных температур в Берлине (с сезонной поправкой) и Вене, построенный по кросс-периодограмме. Интерпретировать этот график трудно, потому что, когда фаза испытывает небольшой скачок, скажем от л—е к л + е, оценка Ф(Л (X) изменяется от л —е до —л —в, если изображать ее в промежутке (—л, л]. Один из способов уменьшить влияние этого эффекта — рисовать график каждой фазы дважды, выбирая два ее значения в промежутке (—2л, 2л]. Картинка особенно улучшится, если истинная фаза близка к л. Например, на рис. 8.13.1 изображена оценка фазы, соответствующая усреднению 15 периодограмм между средними месячными температурами с сезонной поправкой в Берлине и отрицательными значениями таких средних температур для Вены, когда за область изменения фт (X) принят промежуток (—л, л]. Если, как предлагалось, увеличить эту область изменения до (—2л, 2л], то получится рис. 8.13.2. Tukey рекомендовал строить график для значений в промежутке [0, л] и при этом пользоваться разными значками или линиями для различения фаз с главной областью изменения (л, 2л] и фаз, принимающих значения в [0, л]. Если так изобразить данные, относящиеся к Берлину и Вене, то получится рис. 8.13.3. .
Имеется другая возможность — строить график оценки группового запаздывания, см. выражение (8.4.27). Тогда не возникает затруднений с произвольными добавками 2л. Вообще говоря, выбор лучшего графика, по-видимому, зависит от Ф(Х), находящихся в распоряжении исследователя.
Обратимся теперь к другим оценкам когерентности. Смещение I ^кх (^) I2 можно уменьшить, если провести предварительную фильтрацию фильтруемого ряда, а затем алгебраически вывести оценку когерентности.
1?Г
"27r0
Ф^М
Рис. 8.13.2. Другой способ представить данные, приведенные на рис. 8.13:1 (областью изменения Ф^ (X) служит отрезок [—2л, 2л]).
Но можно использовать свойства преобразования arth, стабилизирующего дисперсию, и по аналогии с выражением (8.13.4) рассмотреть оценку arth | RYX,WI:
N
(2M + l)-t £ arth|№(X + nAr)|. (8.13.9) n= - N
Отметим, что воздействие этого преобразования проявляется в увеличении значений |Ryx(a)|, близких к 1, при малом влиянии на значения, близкие к 0. Высокие когерентности поэтому будут взвешены сильнее, если построить оценку (8.13.9). На рис. 8.13.4 изображен график | ^?ух (X) |2 для упоминавшихся рядов берлинских и венских температур, построенный на основе спектра второго порядка вида (8.5.4) при т = 7. На графике 8.13.5 для (8.13.9) величина | RYx (а) I определена по спектру второго порядка вида (8.5.4) при т = 5, затем положено N = 2. Тем самым для двух последних графиков оказываются сравнимы полосы частот и стабильности. Заметно, что пики кривой на рис. 8.13.5 менее зазубрены, чем пики на рис. 8.13.4. Нелинейная комбинация коэффициентов корреляции рассмотрена в работах: Fisher Mackenzie (1922) и Rao (1965), стр. 365.
Tick (1967) приводит доводы в пользу того, что |/ух(а)|2 может быть близок к константе, в то время как fYX R0 не близок. (Такой случай представится, если Y (f) = X (t — и) при большом и.) Он затем приходит к оценкам вида
(2М + 1) S|№ (Х + «ДГ) р
=" (8.13.10) 2 | fxX (^ + n^r) Р2 НуУ^Л + ^т)^ — N— N
и предлагает также оценки вида
N
{2N+ 1Н2 №^ + пЬт) р, (8.13.11)
если |/?ух(а)|2 близок к константе, а спектр второго порядка не обладает таким свойством.
Jones (1969) рассматривал оценку максимального правдоподобия |7?rxW|2, основанную на маргинальном распределении величин fxx^> fyyW и |fyxW|2, выводя его из предельного распределения теоремы 8.5.1.
Нельзя переоценить важность применения какой-либо из форм предварительной фильтрации рядов до оценки их параметров, рассмотренных в этой главе. В § 7.7 мы убедились в необходимости такой процедуры при оценке кросс-спектра двух рядов. Тем более следует применять ее, оценивая комплексный коэф-
Х/2тг
Рис. 8.13.4. График 17?% W |2—оценки когерентности рядов среднемесячныхтемператур (без сезонной составляющей) в Берлине' и Вене. При оценке усред-нено 15 периодограмм. (По горизонтали — частоты в цикл/месяц.)
Х[2л
Рис. 8.13.5. Оценка когерентности, основанная на выражении (8.13.9), при /п = 5, N = 2 для рядов температур в Берлине и Вене. (По горизонтали — частоты в цикл/месяц.)
фициент регрессии, когерентность и спектр ошибки. Akaike, Yamanouchi (1962) й Tick (1967) выдвинули убедительные аргументы в пользу предварительной фильтрации. В частности, имеется много физических примеров, в которых непосредственная обработка данных приводит к оценкам когерентности, близким к 0, в то время как физические соображения показывают, что соответствующие параметры не близки к 0. Техника предварительной фильтрации обсуждается в § 7.7, простейшим приемом является запаздывание одного ряда относительно другого.
Рабочий пример
В качестве примера, иллюстрирующего вычисление оценок в случае r = s=l, читателю предлагается рассмотреть ряды среднемесячных температур Берлина и Вены, уже фигурировавшие в гл. 6 и 7. Спектры и кросс-спектры этих рядов изображены на рис. 7.8.1—7.8.4. Оценки совпадают с (8.5.4) при т = 10. На рис. 6.10.3 приводится график ge^W* на Рис- 6.10.4 — ReA(r)(X), на рис. 6.10.5-Im Л(П W, на рис. 6.10.6—G^ (X), на рис. 6.10.7—Ф(Г)(Х) и на рис. 6.10.8 — | R^x (X) |2- Наконец, рис. 6.10.9 изображает а^^иУ Оценки стандартных отклонений этих статистик даны в § 6.10.
Пример, соответствующий случаю г =13 и s=l, можно почерпнуть из § 6.10, где представлены результаты частотного анализа, типа того, который обсуждался здесь: ряд Y (/) соответствует среднемесячным (с сезонной привязкой) температурам в Гринвиче (Англия), а Х(/) —таким же температурам в 13 других пунктах. На рис. 6.10.10 изображены приросты G^ (X) и фазы ф^ (X). Рис. 6.10.11 представляет график логарифма спектра ошибки, т. е. IggePW- На рис. 6.10.12 показана множественная когерентность | R^ W I2-
Применения материала настоящей главы
Использование техники этой главы теснейшим образом переплетается с применением анализа, изложенного в гл. 6. Мы уже отмечали, что многие из введенных здесь статистик те же самые, что и в гл. 6, однако главное отличие в сделанных допущениях заключается в том, что ряд X (/), / = 0, ±1, ..., теперь считается стохастическим. Следовательно, статистические свойства, рассмотренные в этой главе, соответствуют средним по пространству всех реализаций Х(/), в то время как в гл. 6 —это свойства конкретных реализаций.
Одной из областей исследований, в которой X (/) желательно считать Стохастическим,—это статистическая теория фильтрации и прогнозирования. См., например, Wiener (1949), Солодовников (1952), Lee (1960), Whittle (1963а) и Robinson (1967b). Оптимальные прогнозы лучше всего строить, используя пространство всех возможных реализаций Х(/), и статистические свойства эмпирических прогнозов связаны с этой обширной генеральной совокупностью.
Читатель может вернуться к § 6.10, где перечислены ситуации, в которых были вычислены различные статистики этой главы. В действительности авторы перечисленных там статей обычно вводили статистики, полагая X (/) стохастическим рядом. Brillinger, Hatanaka (1970), Gersch (1972) оценивают частные когерентности и спектры. *
Очевидно, что выбор X (/) детерминированным или стохастическим связан с выбором генеральной совокупности, на которую мы хотим распространить выводы, основанные на изучении заданной выборки. К счастью, как мы видели, практическая сторона действий в этих двух случаях не слишком различается, если объем выборки велик.
Упражнения
При условиях теоремы 8.2.2 и при s=l докажите, что Ф (X) является функцией с конечными вторыми моментами, имеющей максимальную корреляцию с У; см. Rao С. R. (1965, стр. 221) и Brillinger (1966а).
Докажите, что при выполнении условий теоремы 8.2.2 условное распределение У при заданном X — многомерное нормальное распределение со средним (8.2.14) и ковариационной матрицей (8.2.16).
Пусть Ауу (X). обозначает комплексный коэффициент регрессии У (Z) на ряд X ^, a AxyW обозначает комплексный коэффициент регрессии X (t) на У (Z) при s = r=l. Покажите^ что
АуХ (X) А ХУ ^Х) = 17?рх (X) I2-
Следовательно, Аху (X) = Аух (X)-1 только в том случае, когда когерентность между X (Z) и У (Z) равна 1.
Если А (X)—комплексный коэффициент регрессии У (Z) на ряд X (Z)— постоянен при всех X, то покажите, что он равен обычному коэффициенту регрессии У (Z) на X (Z).
Пусть p(Z), Z=0, ± 1, ..., — белый шум, т. е. стационарный второго порядка процесс с постоянным спектром мощности, а X ^=^иЬ V— м) Р(^), ^(0 = 2^ U —и) р (и). Определите А (X), Ф (X), G (X), RyxM и |/?уу(Х)|2.
При условиях теоремы 8.3.1 и при s= 1 докажите, что | Ryx(M |2=Ь — оо < X < со, тогда и только тогда, когда У (Z) получается из X (Z) применением линейного фильтра.
Пусть выполнены условия теоремы 8.3.1 и s = r — 1. Определите когерентность между У (Z) и его наилучшим линейным прогнозом, основанным на X (Z). Найдите также когерентность между рядом ошибок 8 (Z) и X (Z).
При предположениях предыдущего упражнения докажите, *что RyXW и |Яуу(Х)|2 окажутся преобразованиями Фурье абсолютно суммируемых функций, если fxxW 7= 0, fyy^ ^0, — оо<Х<со.
Если Y^ = XH^ty то докажите, что Ф‘(Х)=л/2. Найдите Ф (X) в случае Y (t) = XH (I— ц), где и—целое.
Докажите, что
[cor { X (О, Y Ш^с¥Х W/VXX (0) Суу (0).]
< $ I R YX (“) I2 fxx («) da/^ fxx («) da <
< sup |/?ух(°0 I2
при Г = S= 1.
Докажите, что |/ух (X) |2 = /хх (X) Iyy (X), и поэтому | Iyx (X) |2/[/хх (X) Iyy (X)] при г — s — 1 не является приемлемой оценкой для |*ух(М|2-
Докажите, что
fxx Wtxxw
так что (fyY QA/fxx (Х)]1^2, как правило, не будет хорошей оценкой для G (X) при г = s= 1.
Выясните, почему X (/) и Y (р могут иметь когерентность 1 и тем не менее при этом не обязательно | Ryx (X) |2 = 1.
вторым выражениемвторым выражениемДопустим, что мы.оценили матрицу спектральной плотности fzz(X) в (8.5.4) при т = Т—1. Покажите, что
вторым выражением
вторым выражением
и если г — s = 1, тои если г — s = 1, тоА(Г)(Х) = сух (0) схх (О)-1,
и если г — s = 1, то
и если г — s = 1, то
I R^'x (X) р=—^4121!—
Схх (0)^(0)
воздействие на эти выражения окажет предварительноевоздействие на эти выражения окажет предварительноеРассмотрите, какое г*™" ■"" *; ~"
воздействие на эти выражения окажет предварительное
воздействие на эти выражения окажет предварительное
запаздывание Y (/) на и единиц времени по сравнению с X (Z).
Если выполнены предположения § 8.6 и l^(a)^0, a r = s=l, то докажите, что | Ryx (X) |2^ 1.
При условиях теоремы 8.7.1 и r = s= 1 докажите, что
lim ВтТ D Re А^ (X) = lim ВтТ D Im Л<П (X) =
Т—>ооТ—> ОО
= [1 +n {2Х} ] tyy ^ fxx М-1 [1-1 Ryx ^ |21 Л J № (a)2 da. в то время как
lim BrTtov {Re Лт(Х), Im Л<П (X)} =0.
Пусть к предположениям упр. 8.16.16. добавлено условие fyX (Х)/:0. Покажите, что
^{G^)(X), ^(^^^{X-^ + nlX + p}]
ХГуу^ИххСМ-^Вт'Т-Ч {wia^da+O^T-^.
Пусть выполнены условия теоремы 8.8.1 и, кроме того, r = s=L Покажите, что Ф^ЦХ) асимптотически равномерно распределена на (—л# л], если fyX (X) / 0.
Получите выборочные аналоги ряда ошибок в (/) и выражения (8.3.8).
При условиях теоремы 8.7.1 покажите, что при r = s=l
cov { Re Ryx (X), Re Ryx (h)} = M {X —14 + 4 {X 4-^)1
X Vl-(ReRyx№U-\RYxQ№ B^T-^^W^dct, cov {Re Ryx (X), Im Ryx (h)} =—h {X—ц}— tj {X + И?!
X[Re Ryx (X) ] [Im Ryx (X)] [1 — I Ryx (X) |2] B^ T~in J IT (a)2 da, cov {Im Ryx (X), ImRyx (и)} = [п{Х —н}—П^ + н)!
X [1 —(Im Rrx(X))2] [1—|RyX(X)|2]BF1T-in J lT(a)2da.
Проверьте, что в отличие от безусловного значения 4Ryx (1 —Ryx)I^ {Hooper (1958)] условная дисперсия квадрата выборочного коэффициента множественной корреляции при заданных значениях X приближенно равна
2Ryx ^-RyxK\-Ryx>
п*
если выполнены условия теоремы 8.2.3.
Для случайной величины с плотностью распределения (8.2.56) проверьте, что Е | Йкх|2 = г/П и
P[|Ryxl2<x] = l-(l-x)”-i ^ ГТ* V(l-x)-'
/ = 0 \ '/
при 0 < х < 1; см. Abramowitz, Stegun (1964, стр. 944). Если г=1, отсюда вытекает простое выражение для 100а-процентной точки |^ух|2:х = = 1 —(1— а)17!"-”.'
Покажите, что множественная когерентность для ряда Y (/) с действительными значениями и векторного ряда X (/) не изменится при невырожденной линейной фильтрации каждого из рядов по отдельности.
Получите следующие разложения по степеням малых параметров а, р, у, е:
ях W)-6 1 6 f Р«1 I
’ (а + а) а а { ba-
arg{е+е} = argу
log|e4-е| = log|е|+у^у+|-|
W) _6 I 6 /Р « V1 i
' К«4-а) (c4-y)]'/2[ас]*/2 ^ [ас],/г I 6 2а 2cf'r"**•
е. I6 + PI2 1И2 , 1ИЧ Р , i-5-lL
(а + а)(с + у) ас ас | b "г 5 а с) ‘
fHc, v) 16+М21Ы2 , I , IH2/Р , Р «П,
f) (с+7)~^+^Г-с-—+^+~ 1т+г“Я+”' °
Пусть временной ряд [X (/), Y (/)1, составленный из двух рядов, удовлетворяет условию 2.6.2 (3) и пусть для W (tx) выполнены условия 5.6.1 и (5.8.21) при Р — 3. Если выполнены остальные условия теоремы 8.6.1, то
ЕЛ<Г) (Х) = А + 1Г2/хх [/ух —Л/хх] Вт!^
+ 0 (Вт) + О (Вт^Т-1),
Еф^ (Л) = Ф + UZ2 Im Uyx [yx} Вт/2
+ 0(5т) + 0(В^Т-1),
EG<r> (X) = G+ W2 Re {/ух [/ух-Л/хх]} Вгт!2
4-0 (By) 4;О (Вг1Г-1),
ER(yx(X) = Ryx+Wx/2 Iyy1 Uyx
— yfxx fyxf'xx — у /уу/ух/уу^ Вт/2 + 0 (Вт) 4-0 (Вт1!’-1), где /" обозначает вторую производную /.
Докажите, что
(А®В)Т = АТ®ВТ,
(А®В)-1 = А-1®В-1,
(А1®В1) (А2®В2) = (А1А2)®(В1В2),
(А®В) vec X = vec (АХВТ);
размеры матриц должны быть правильно выбраны.
Для матрицы, появляющейся в тексте сразу после формулы (8.2.18), докажите, что
0< ^уу2 2г№хх2№ууг <*•
При условиях теоремы 8.2.1 проверьте, что для ошибки (8.2.19) выполнено
Ее = О,
Ее8т = 2у/—2ух2хх2ху,
ЕеХт = О.
Проверьте, что частная корреляция YA с Y^ после удаления линейного воздействия со стороны X не выражается через какие-либо ковариации, связанные с Yj, j > 2.
Докажите, что при а, определенной формулой (8.2.15), достигает максимума квадрат векторного коэффициента корреляции
[Det cov {Y, аХ}]2
[Detcov{Y, Y}] [Det cov {аХ, аХ}] ’
Найдите g и а, которые при выполнении условий теоремы 8.2.1 минимизируют
Е {[Y — ц—аХ] Г [Y —ц—аХ]т},
где Г есть sXs-матрица, Г^О.
Пусть X (0, / = 0, ±1, ..., есть r-мерный векторный процесс авторегрессии порядка т. Докажите, что частная ковариационная функция
SX (0), X (и)-Х0)...Х (м—1)
обращается в 0 при и > т.
При условиях теоремы 8.3.1 докажите, что существуют g, абсолютно суммируемый фильтр {а (и)} и стационарный второго порядка ряд в (/), ортогональный X (0> обладающий абсолютно суммируемой автоковариационной функцией, такие, что
YW-ti+Sa^-^X^+eW'
и
Пусть ряд в теореме 8.3.1 является /л-зависимым процессом, т.е. значения процесса, отстоящие друг от друга более чем на т единиц времени, независимы. Покажите, что а(м) = 0 при | и | > т.
При условиях теоремы 8.3.1 докажите, что | RY Y -xWl2^^ Если s= 1, докажите, что | Ryx (X) |2 ^ 1.
При s=l докажите, что
ID121 fYYX^)
Покажите, что матрица, обратная к матрице (8.2.47) частных ковариаций, будет s:ks-блоком под диагональю матрицы, обратной к ковариационной матрице (8.2.37).
Найдите при s=l когерентность между Y (0 и наилучшим линейным прогнозом, основанным на X (/), / = 0, ±1, ... .
Докажите, что
1 -1 Ryx WI2 = [ 1 -1 Ryxi W Pl 11 -1 R Y хг -x, (4 Pl
ч . [1— I RYxr.x1...xr_1 (X) Pl-
Пусть pyx (О)2 обозначает квадрат мгновенной множественной корреляции К (/) с X (/). Покажите, что
t I Ryx(^) Р Iyy 0^ dX
Pyx (О)2 < р< max | R YX (X) |2.
\ fw (Ч dX х
При условиях теоремы 8.3.2 докажите, что матрицей условной спектральной плотности для Y (0 при заданных Значениях. X (0, t = 0, ± 1,..., будет
fry (X) —tyx (X) tXxtxy W-
Предположим, что весовая функция W (а), применявшаяся при построении оценки (8.6.4), неотрицательна. Покажите, что | R^y . х(Х)|2^1,
Пусть выполнены условия теоремы 8.5.1, и пусть /, (X) =
YaXb*Xb
= 0. Проверьте, что асимптотическим распределением Ф^ (X) является равномерное распределение на (—л, л).
Пусть выполнены условия теоремы 8.3.1. Покажите, что комплексный коэффициент регрессии действительного ряда Ya (О на ряд X (О совпадает с а-й' строкой комплексного коэффициента регрессии s-мерного ряда Y (/) на ряд X (/), а=1, ...$ s. Выясните следствия этого результата.
При условиях теоремы 8.2.Г покажите, 4Toa = SyjS^ доставляет максимум Sr> аХ^аХ, ахГ^^ Y.
'8.16.46. Пусть матрица W распределена по закону ^ (и, S). Покажите,
что vecW имеет ковариационную матрицу nS®ST.
а) Если W имеет распределение Wr (п, S), то покажите, что
EW-l = (n—г-!)-^"1.
b) Если матрица W распределена по закону Wr (п, S), то
EW-^^-r)-^-1..
См. Wahba (1966).
9
ГЛАВНЫЕ КОМПОНЕНТЫВ ЧАСТОТНОЙ ОБЛАСТИ
Введение
В предыдущей главе была рассмотрена задача аппроксимации стационарного ряда при помощи пропущенного через линейный фильтр другого стационарного ряда. В этой главе мы изучим проблему аппроксимации ряда посредством фильтрации нс другого, а того же самого ряда; при этом ограничимся фильтрами, имеющими ранг меньший, чем число компонент ряда.
Уточним постановку задачи. Пусть рассматриваемый векторный ряд X (^), ^ = 0, ±1, ..., с г компонентами имеет среднее
ЕХ(0 = сх, -(9.1.1)
абсолютно суммируемую автоковариационную функцию
E{[X(/ + «)-cx][X(/)-cJ4 = cxH«), « = 0, ±1 (9.1.2)
и матрицу спектральной плотности
' txxW ~ (2л)-1 2 схх(«)ехр{—г'Хы}, —оо<Х<оо. (9.1.3)
W= - 00
Допустим, необходимо передать по каналам связи из одного пункта в другой значения величин X (^), но при этом в нашем распоряжении только q^r каналов. Предположим, что процесс передачи ряда Х(^) по q каналам связи можно описать как фильтрацию, в результате которой получается ^-компонентный векторный ряд
5(0 =2b(/—и)Х^, / = 0, ±1, ...(9.1.4)
и
(здесь {Ь(4/)} есть qx r-матричный фильтр), и собственно передачу. Пусть на выходе каналов связи принимается ряд, который выступает в качестве оценки для Х(/):
Х*(0 = ц + 2с(<-ы)^(ы),(9.1.5)
и
где р,—вектор с г компонентами, а {с(«)} есть гх</-фильтр. Мы ставим себе целью так выбрать ц и фильтры {Ь(и)|, {с (и)}, чтобы ряд Х*(/) был близок к Х(<).
Связь между X* (<) — р и X (/) линейна и инвариантна во времени, она описывается передаточной функцией
А (X) = С (X) В (X),(9.1.6)
если В (X) и С (X) обозначают соответственно передаточные функции фильтров {Ь(м)} и {с (и)}. Теперь ясно, что поставленная задача сводится к определению г xr-матрицы А (X), ранг которой меньше г, так, чтобы величина разности'
X (/)— X* (/) + р = J exp {iX/} dZx (X)— ^ А (X) ехр \Ш\ dZx (X)
(9.1.7) оказалась мала.•
Можно было бы рассматривать эту задачу и как отыскание способа построить такой «/-мерный ряд £(/), который несет значительную часть информации об исходном ряде Х(0- Отметим здесь, что Bowley (1920) однажды сделал такое замечание: „Показатели применяются для того, чтобы измерить изменения величины, не доступной прямому наблюдению, но о которой нам известно, что она оказывает определенное воздействие на другие величины, непосредственно наблюдаемые, причем хотя само это воздействие вызывает либо одновременное увеличение, либо уменьшение всех наблюдаемых величин, его эффект маскируется действием многих других причин, по-разному влияющих на отдельные наблюдаемые". Возможно, что введенный ряд g (t) будет выступать в роли ряда показателей, описывающих воздействие на Х(/) со стороны некоторого скрытого от наблюдателя ряда. Вводя ряд ^(f), условимся считать, что он наилучшим среди ^-мерных рядов образом позволяет восстановить X(t) с помощью линейных операций, инвариантных во времени.
Правомерна и другая точка зрения. Введем ряд е(/), описывающий ошибку или искажение
е(/) = Х(0—Х*(0;(9.1.8)
тогда получим
X(0 = |*+Sc (t-и^ («) + е (0, ^ = 0, ±1, ... . (9.1.9) '. и
Ряд Х(/) оказывается выраженным как профильтрованный вариант ряда £(/), имеющего меньшую размерность, плюсошибка. Приведем пример ситуации, в которой полезна такая модель: пусть ^ (/) представляет собой ряд импульсов, вызванных q землетрясениями, одновременно происходящими в разных местах; пусть X (/) представляет сигналы, принятые г сейсмографами, и
пусть с (и) описывает переходные явления в земной коре, связанные с землетрясениями. Сейсмологов интересуют свойства ряда £(£), ^ = О, ±1...; см., например, Ricker (1940) и Robinson (1967b). .
Существейным моментом решения этих задач является аппроксимация изучаемого ряда другим, имеющим меньшую размерность. В § 9.2 мы приводим обзор некоторых аспектов классического анализа главных компонент векторных переменных.
Анализ главных компонент векторных величин
Пусть X—случайный вектор с г компонентами, имеющий среднее рх и ковариационную матрицу 2ХХ. Займемся задачей одновременной минимизации всех собственных чисел симметричной матрицы .
' Е{(Х —р—СВХ) (X —р —СВХ)Т} . (9.2.1)
за счет выбора вектора per компонентами, ^xr-матрицы В и г х ^-матрицы С. Определив-соответствующие величины р, В и С, можно убедиться, как уже отмечалось в § 8.2, что они доставляют минимум также монотонным функциям от собственных чисел матрицы (9.2.1), таким, Как след, детерминант и диагональные элементы.
Поскольку любая rxr-матрица А ранга ^^г может быть представлена в виде произведения СВ, в котором В имеет размеры qxr, а С—размеры rxq (упр. 3.10.36), то тем самым, отыскивая В и С, мы одновременно найдем матрицу А ранга, не превосходящего q, которая минимизирует собственные числа матрицы
Е {(X—р—АХ) (X—р —АХ)Т}. (9.2.2)
Ответ на поставленную экстремальную задачу дает
Теорема 9.2.1. Пусть r-компонентный случайный вектор X таков, что ЕХ = рх и Е{(Х—рх) (X —рх)т} = 2ХХ. Тогда все собственные числа матрицы (9.2.1) минимальны, если взять
ииC = [V<...VJ = B’C = [V<...VJ = B’Р = Рд—СВрх,Р = Рд—СВрх,(9.2.3)(9.2.4)(9.2.5)(9.2.3)(9.2.4)(9.2.5)
и
и
C = [V<...VJ = B’
C = [V<...VJ = B’
Р = Рд—СВрх,
Р = Рд—СВрх,
(9.2.3)
(9.2.4)
(9.2.5)
(9.2.3)
(9.2.4)
(9.2.5)
где Nj есть j-й собственный вектор матрицы Sxx, /=1, .г. Если соответствующие собственные значения матрицы ^хх обозначить буквами Ру, то при указанном выше выборе jm, В и С матрица (9.2.1) примет вид
2^/VyVJ.(9.2.6)
Теорема 9.2.1 является частным случаем теоремы, доказанной Okamoto и Kanazawa (1968); см. также Okamoto (1969). Тот факт, что указанные р, Ъ и С минимизируют след (9.2.1), установили Kramer, Mathews (1956), Rao (1964, 1965) и Dar- roch (1965).
Величина•
^ = V/X(9.2.7)
называется j-й главной компонентой вектора X, / = 1, ..., г. Отметим результат, относящийся к главным компонентам.
Следствие 9.2.1. При условиях теоремы 9.2.1
( 0, i=^к,cov {V/X, VW=(9.2.8)
V r/> 1 — ^*
Таким образом, главные компоненты X оказываются такими линейными комбинациями составляющих вектора X, которые некоррелированны. Можно было бы охарактеризовать /-ю главную компоненту как линейную комбинацию £у = атХ при ата = 1, которая имеет максимальную дисперсию и некоррелированна с ^, k<i [Hotelling (1933); Anderson (1957, гл. 11), Rao (1964, 1965) и Morrison (1967, гл. 7)}; однако определение (9.2.7) больше подходит для дальнейших целей. .
Покажем теперь, как проводятся оценки упомянутых выше параметров. Для удобства рассмотрения предположим, что рх = 0, тогда формула (9.2.5) дает для рзначение 0. Допустим, что известна выборка Ху, / = 1, ..., п, значений случайного вектора X из теоремы 9.2.1. Введем гхп-матрицу
х = [ХР..Х„].(9.2.9)
В качестве оценки для ковариационной матрицы Sxx возьмем ^хх = ^.(9.2.10)
Далее, в качестве оценки ру выберем р7-—/-е из упорядоченных по возрастанию собственных чисел матрицы 2М, a Vy оценим соответствующим рм собственным вектором Vy матрицы %хх. Тогда справедлива
Теорема 9.2.2. Пусть величины Хр j=l, ..., п, образуют выборку из распределения Nr(0, 2ХХ). Предположим, что матрица 2ХХ имеет г различных собственных чисел р,-, j = 1, .... г. Тогда величина {ру, Vy, / = 1, ..., г} асимптотически нормальна и при этом {ру, / = 1, ..., г} асимптотически независимы от {Np j = X, ..., г}. Асимптотические выражения для моментов этих величин даются формулами
Еру = ру + О (п-1),(9.2.11)
EVy = Vy + a(n-1),(9.2.12)
cov{p.y, pft} = 6 {j —&} 2p2/n-|-O(n~2)(9.2.13)
и.
c^ {Vy, VJ = Щ - 6} Py {2. Hz (hz - Hz) -2 vz V?} /n
—[ 1—6 {/—A}] pApy (py - pA) -2 MkN>+0 (n-2).(9.2.14)
при j, k = 1, ..., r.
Эту теорему установил Girshick (1939). Anderson (1963) получил предельное распределение в случае, когда среди собственных значений матрицы 2ХХ есть совпадающие. Из выражения (9.2.13) вытекает полезный результат:
Dlnpy. = ^ + O(ra-2). (9.2.15)
James (1964) нашел точное распределение рп ..., рг при выполнении условий теоремы; оказалось, что это распределение зависит только от ри ..., рг. Он получил также асимптотические выражения функции правдоподобия для pv ..., рг, более подробные, чем в приведенной нами теореме; см. James (1964), Anderson (1965) и James (1966). Точное распределение векторов, дуальных Vi, ..., Vz, приводит Dempster (1969, стр. 303). Tumura (1965) нашел распределение, эквивалентное распределению величин V1( ..., Vr. Chambers (1967) указал выражения для кумулянтов асимптотического распределения при условии существования у распределений конечных моментов. Эти кумулянты могут быть использованы для построения приближений к распределениям по методу Корниша — Фишера. Поскольку ру будут близки к выборочным дисперсиям, может оказаться полезным приближение их распределений масштабированными х2-распреде- лениями, например, можно взять в качестве аппроксимации ру распределение PyXn/n- Madansky, Olkin (1969) приводят приближенные доверительные границы для набора рп ..., рг, см. также Mallows (1961). Разумеется, мы могли бы применить „процедуру складного ножа“ Тьюки, чтобы определить прибли-
женно доверительные области для собственных чисел и собственных векторов 2ХХ, [Brillinger (1964с, 1966b)].
Sugiyama (1966) вывел распределение наибольшего, собственного числа и соответствующего собственного вектора матрицы 2ХХ. Krishnaiah, Waikar (1970) получили совместное распределение нескольких собственных значений. Вычисления, относящиеся к данному случаю, рассматривает Golub (1969). В нормальном случае асимптотическое распределение для
q
СВ = 5 VyVJ.(9.2.16)
нашел Izenman (1972).
При изучении временных рядов нам понадобятся аналоги рассмотренных результатов, относящиеся к комплексным случайным величинам. Вначале сформулируем следующее утверждение.
Теорема 9.2.3. Пусть X—случайный вектор с г компонентами, у которого EX = jix, Е {(X—|хх)(Х —gx)T} = 2xx. Столбец jut, qxr-матрица В и rxq-матрица С минимизируют сразу все собственные значения матрицы
Е {(X-fx—СВХ) (Х-!х-СВХ)Ч, (9.2.17)
ии_V?J _C = [Vv..VJ = BT_V?J _C = [Vv..VJ = BTp = ftx-CBpx,p = ftx-CBpx,(9.2.18)(9.2.19)(9.2.20)(9.2.18)(9.2.19)(9.2.20)если взять
и
и
_V?J _
C = [Vv..VJ = BT
_V?J _
C = [Vv..VJ = BT
p = ftx-CBpx,
p = ftx-CBpx,
(9.2.18)
(9.2.19)
(9.2.20)
(9.2.18)
(9.2.19)
(9.2.20)
где Vj есть j-й собственный вектор 2ХХ, / = 1, ..., г. Если ^j обозначает соответствующее собственное число, то экстремальное значение (9.2.17) равно
(9.2.21)(9.2.21)2 Wb
(9.2.21)
(9.2.21)
Отметим, что так как 2ХХ — эрмитова и неотрицательно определенная матрица, то все р.у- неотрицательны. Степень аппрок-' симации непосредственно зависит от того, сколь близки к нулю числа ру, ] > q. Мы пришли к аппроксимации X вектором
(9.2.22)(9.2.22)р,х +А (X — рх),
(9.2.22)
(9.2.22)
.где__
А-У^+.-.+^У;.(9.2.23)
Ранее мы сталкивались с подобной ситуацией в теореме 4.7.1.
. В связи с теоремой 9.2.3 приходим к изучению величин ^ = VJX, / = 1, ..., г* Они называются главными компонентами вектора X. Если X имеет распределение N^ (О, 2ХХ), то £ь ^г будут независимыми величинами с распределением Nx№, ^jY j=l, ...» г.
Теперь оценим параметры, характеризующие распределение вектора X. Пусть Ху, j=l, ..., п, образуют выборку из распределения N^ (0, Sxx), а х определяется выражением (9.2.9). Тогда в качестве оценки для 2ХХ возьмем
Syx = ^.(9.2.24)
Матрица Sxx имеет комплексное распределение .Уишарта. Обозначим ее собственные числа и собственные векторы соответственно как ру и Vy, / = 1, ..., г. Эта матрица эрмитова и неотрицательно определена, поэтому р,- неотрицательны. Справедлива
Теорема 9.2.4. Пусть величины X,, ..., Х„ представляют собой выборку из распределения N^ (О, 2ХХ). Предположим, что все собственные значения матрицы 2ХХ различны. Тогда величина {ру, Vy, / = 1, ..., г) асимптотически нормальна и {[у, / = 1, ..., г} асимптотически не зависит от {Vy; /=1, ..., г}. Асимптотические моменты выражаются формулами
Ер/ = ру + О(п-1),(9.2.25)
EVy = Vy + O(n-1),(9.2.26)
cov{py, ^} = 6{/ —Ь}$1п+О(п-*),•(9.2.27)
—if, 17 । ft1/ S Pz (H/~ Hz)~? ViVt/nA-O (п~г), j = k, cov{V/,VA}=™ и \(9.2.28)
O^n-^,"j^k,'
и
^{v.. M -w/(iv-ti-’vev;m+0(«-), i*h
v r M (О(п~^,l=k, v ’
при j, k—\, ..., r.
Теорема 9.2.4 основывается на двух фактах: собственные значения и собственные векторы матрицы 2ХХ являются диффе-
ренцируемыми функциями матричных элементов и при п—*оо 2ХХ асимптотически нормальна; см. Gupta (1965).
Выражение (9.2.27) показывает, что
Dln^ =1 + 0 И.Dln^ =1 + 0 И.(9.2.30)(9.2.30)
Dln^ =1 + 0 И.
Dln^ =1 + 0 И.
(9.2.30)
(9.2.30)
В полной аналогии со случаем действительного X можно рассмотреть аппроксимацию распределения величины ^ посредством
2п2п(9.2.31)
2п
2п
Особенно хорошим приближение (9.2.31) оказывается тогда, когда недиагональные элементы 2ХУ малы, а диагональные элементы заметно отличаются друг от друга. Точное распределение р^, ..., рг в комплексном нормальном случае нашел James (1964). Из выражения (9.2.29) при i^k видно, что асимптотически Nj имеет комплексное нормальное ■ распределение. Кроме того, мы заключаем на основании (9.2.28), что разброс N^ будет велик, если некоторые из ру- очень близки по величине.
Ряды главных компонент
Вернемся к задаче отыскания r-компонентного вектора jut, ^Xr-фильтра {Ь(^)} и гх^-фильтра {с(^)}, таких, чтобы оказался мал по величине r-мерный ряд *
XW-H-Sc(/-u)g(ti),(9.3.1)
и
где ряд
U0 =2Ь(/-ц)Х(И).(9.3.2)
и
Если в качестве меры величины ряда взятьЕсли в качестве меры величины ряда взятьЕЕ(9.3.3)(9.3.3)
Если в качестве меры величины ряда взять
Если в качестве меры величины ряда взять
Е
Е
(9.3.3)
(9.3.3)
то ответ содержит
Теорема 9.3.1. Пусть Х^, / — О, + 1, ..., есть г-мерный ряд, стационарный в широком смысле,, сх — его среднее, схх(^) — автоковариационная функция, являющаяся абсолютно суммируемой, aixx (X), — оо < X < оо, — матрица спектральной плотности. Тогда (9.3.3) минимально при следующем выборе g, {b(^)} и
{с («)}:{с («)}:1* = сх— (2с («)} (Sb (Ы))сх,2л
{с («)}:
{с («)}:
(9.3.4)(9.3.5)(9.3.4)(9.3.5)b (и) = (2л)-1 J В (a) exp {ма} daо
(9.3.4)
(9.3.5)
(9.3.4)
(9.3.5)
и
2л
(9.3.6)
е(ы) = (2л)-1 j 0
C(a)exp{iua}da,
где
и
В(*) =
c(X) = [ViW-
_V9(b)TJ
..¥,(%)] = В (Л)\
(9.3.7)
(9.3.8)
Здесь Nj (X) обозначает j-й собственный вектор матрицы ^хх W* / = 1, ..., г. Если р,у. (Л) —соответствующее собственное значение (/ = 1, ..., г), то минимальное значение (9.3.3) равно
2лЛ
(9.3.9)(9.3.9)$ ] S И/ (а) Па-
(9.3.9)
(9.3.9)
о \i >4 J
Эта теорема содержится в статье Brillinger (1969d).
Пусть А (К) обозначает передаточную функцию фильтра, который эквивалентен последовательному применению фильтра {Ь(«)}, а затем {c(w)}. Заметим, что
А ш=ств(Х) =
'=¥ДХ)¥ЖТ+---+У(/(Х)¥ДХГ(913Л0)
имеет ранг, меньший либо равный q. Допустим теперь, что ряд Х(/), 2 = 0, ±1, ..., обладает представлением Крамера
■X(0 = $exp{iM)dZx(X).(9.3.11)
Тогда указанному в теореме экстремальному выбору соответствует ряд ?(/)> представимый в виде
(9,3.12)(9,3.12)$ (t) = J В (X) exp {Ш} dZx (Л),
(9,3.12)
(9,3.12)
где В(Х) задается выражением (9.3.7). Для j-й компоненты ^КО получается формула
5/ (0 = $ V/W ехР PM dzx W-<9-3-13>
Этот ряд называется рядом j-й главной компоненты. X (tj. Приведем результат относительно рядов главных компонент.
Теорема 9.3.2. При выполнении условий теоремы 9.3.1 ^ДО — ряд j-й главной компоненты —имеет спектр мощности р,(Х), — оо<Х<оо, а ряды ^(t) и ^к0), i^k, для всех частот имеют когерентность 0.
Ряд 5(0 обладает матрицей спектральной плотности .
Hi (X)
(9.3.14)(9.3.14). о
(9.3.14)
(9.3.14)
о
На
Пусть Х*(0, 1 = 0. ±1, ..., —ряд, наилучшим образом аппроксимирующий Х(0, т. е. выбранный в соответствии с теоремой 9.3.1. Определим ряд ошибок формулой
е(0=Х(0-Х*(0. (9.3.15)
Выражение этого ряда через представление Крамера имеет вид J [I - А (X)] ехр {Ш} dZx (X) =
= J j 2 V/ (X) УДХУ|. ехр {tXO dZx (X).(9.3.16)
Мы видим, что среднее е(0 равно 0, а матрицей спектральной плотности служит
fee (X) = 2 Н/ W N} КМ ТДМХ(9.3.17)
Так что степень аппроксимации Х(0 рядом Х*(0 определяется тем, насколько близки к 0 при j > q числа р, (X), —оо < X < оо. Ясно также, что и матрица кросс-спектра е(0 и 5(0> и мат" рица кросс-спектра е(0 и X* (t) тождественно равны нулю.
Упомянем теперь несколько алгебраических свойств рядов главных компонент. Поскольку
fxx (- *) = fxx W = fxx W\(9.3.18)
получается, что
Н/ (— ^) = Н/ W>
(9.3.19)
в то время как
Yy(—X) = VJW, / = 1, .... г.(9.3.20)
Поскольку, кроме того,'
^хх (Х + 2л) = txx (X),(9.3.21)
ясно, что
■ру(Х+2л) = ру (X)(9.3.22)
и
¥у(Х + 2л) = ¥у(Х), /=1, ..., г. (9.3.23) К сожалению, при фильтрации ряда ,Х(/) соответствующее преобразование ряда главных компонент обычно не является элементарным. А именно, пусть к ряду Х(/) применен гхг-фильтр |d(u)} с передаточной функцией D(X):
Y(0 = Sd(Z-M)X(u).(9.3.24)
и
Тогда матрица спектральной плотности результирующего ряда Y (0 будет
. fr/(X) = D(X)fxx(X) ЩХ)"Т. '(9.3.25)
Собственные значения и векторы этой матрицы, как правило, не выражаются простым образом через собственные значения и собственные векторы fxx(X). Имеется, однако, случай, когда эта связь дается удобным соотношением. Если матрица D (X) унитарна, то.
Py(frr(X)) = py.(fxx(X))(9.3.26)
и при этом
Vy (fyr О» = DWT Vy (fxx (X)).(9.3.27)
Наложив дополнительные условия, из теоремы 9.3.1 можно вывести некоторые свойства регулярности фильтров {b(w)}, {с(м)|.
Теорема 9.3.3. Примем условия теоремы 9.3.1 и предположим ешр, что
S[l + |«|p]|cxx(M)|<oo(9.3.28)
и
при некотором Р^О. Пусть также все собственные значения матрицы fxx(X) различны. Тогда фильтры (b(u)} и {с (и)}, выражения для которых даны в теореме 9.3.1, обладают свойством
'2[1+НР]|Ь(ы)|< оо,(9.3.29)
и
С качественной точки зрения этот результат означает, что коэффициенты фильтров тем быстрее убывают к нулю при | и | —>оо, чем слабее зависимость ряда Х(/) от времени. Применительно к ковариационным функциям рядов главных компонент и ряду ошибок в таком случае можно получить
Следствие 9.3.3. При выполнении условий теоремы 9.3.3
2[l+l«lP]|css(«)|<oo.(9.3.31)
и
и•*
S[i+Hp]|cee(u)|<:oo.(9.3.32)
и
Имеется возможность ввести ряд главных компонент иначе, чем указано в теореме 9.3.1.
Теорема 9.3.4. Пусть выполнены условия теоремы 9.3.1, и пусть ряд ^У), / = 0, ± 1, • •., из (9.3.13) принимает действительные значения и имеет вид
2л •.
'$ .By(X)exp{W}dZx(X),' (9.3.33)
•о•
где \хг-матрица Ву (X) такова, что By (X) Ву (Х)т = 1. Ряд ^(t) имеет максимальную дисперсию и когерентность 0 с рядами tkW, k<j, / = 1, ..., г. Эта максимальная дисперсия ряда ^ (/) равна
2л
Ру (a) da. (9.3.34) о
Такой подход применялся в работах: Brillinger (1964а) и Goodman (1967); по сути дела, ряд главных компонент при этом определяется не прямо, а посредством рекуррентной процедуры.
Ряды главных компонент обладают более сильными свойствами оптимальности, чем указано в предыдущей теореме. Для удобства формулировки соответствующего утверждения предположим, что ЕХ (/) = 0.
Теорема 9.3.5. Пусть Х(/), 1 = 0, ±1, ..., есть г-мерный ряд со средним 0 и абсолютно суммируемой автоковариац ионной функцией; fxx(X), — оо<Х<оо,— его матрица спектральной плотности. Тогда j-e собственное значение матрицы спектральной плотности ряда . ~
Х(0—Зс(/-«)£(м), (9.3.35)
построенного попостроенного поg(O = Sb(^-u)X(u) иg(O = Sb(^-u)X(u) и(9.3.36)(9.3.36)
построенного по
построенного по
g(O = Sb(^-u)X(u) и
g(O = Sb(^-u)X(u) и
(9.3.36)
(9.3.36)
(где {Ь (и)} есть qxr-, а {с(и)} есть rxq-фильтр), будет минимальным и равным Vv+qW* если выбрать. (b(u)} и {с (и)} по формулам (9.3.5) и (9.3.6) соответственно.
Собственные значения и векторы матрицы спектральной плотности используются в работах: Wiener (1930), Whittle (1953), Пинскер (1964), Koopmans (1964b) и Розанов (1963). Другой близкий по содержанию результат содержит лемма 11 монографии Dunford, Schwartz (1963), стр. 1341.
Построение оценок
и их асимптотические свойства .
Предположим, что в нашем распоряжении имеется отрезок X(t), / = 0, ..., Т — 1, r-мерного ряда Х(/) с матрицей спектральной плотности fxx(X), и мы хотим получить оценки собственных значений и векторов этой матрицы, т. е. рДХ), Vy(X), j = l, .... г. Существует, очевидно, такой способ оценки: построить оценку Vxx W матрицы спектральной плотности и взять собственные значения и собственные векторы fхх W в качестве оценок для ру (X) и Nj (X) с теми же номерами. Займемся выяснением некоторых статистических свойств получающихся на таком пути оценок.
В гл. 7 обсуждались процедура построения оценок матрицы спектральной плотности и асимптотические свойства этих оценок. Одна из приводившихся оценок имела вид
Т-1
■ f'xxW=2nT-i^ wm ^-^ 1хх(-^) .(9.4.1)
где Vxx W есть матрица периодограмм второго порядка:
1Й(«) = (2лТ)-11Й(«) = (2лТ)-1Т-11 ГТ-1Чт
1Й(«) = (2лТ)-1
1Й(«) = (2лТ)-1
S X (0 ехр {— ia/} 2 МО exp {— ta/} t=oJ L <=o.
.(9-4.2)
а U7(r> (a) — весовая функция, в выражение которой
(9.4.3)(9.4.3)Г<т>(а)= 2 W (ВтЧа+2л/])
(9.4.3)
(9.4.3)
/=-00
входят функция 1Г(а), сконцентрированная в окрестности a = О, и последовательность неотрицательных чисел Вт, Т — 1, 2, ...,—
параметров ширины полосы пропускания. Воспользовавшись этими обозначениями, сформулируем теорему.
Теорема 9.4.1. Пусть X(f), t = 0, ±1, ..., есть г-компо- нентный ряд, удовлетворяющий условию 2.6.2 (1). Пусть VjT’1 (%) и Up(X), / = 1, ..., г,— собственные значения и собственные векторы матрицы 2л
J(9.4.4)
о
a V-T^V ^TW' i=V •••> r,— собственные значения и соответствующие собственные векторы матрицы f^x W из (9.4.1). Предположим, что функция W (а), по которой определяется VxxQ^ удовлетворяет условию 5.6.1. Если ВТТ—>оо при Т—юо, то
ЕрР (X) =v}r) (X) 4-0 (В?1/2Т’1/2).(9.4.5)
Если, кроме того, среди собственных значений tXx(O нет одинаковых, то при всех j=\, ..., г
Epp (X) = vp (X) 4- О (Вт1?-^(9.4.6)
и
EVf' (X) = Up (X) 4- О (Bf^-1).(9.4.7)
При больших значениях ВтТ в силу теоремы 9.4.1 распределения собственных значений рр (X) и собственных векторов ¥р(Х) имеют математические ожидания, мало отличающиеся от соответствующих собственных значений и векторов матричного среднего (9.4.4). А если к тому же Вг—>0 при Т —*оо, то, очевидно,
Ерр(Х), Epp (X) —* ру. (X)(9.4.8)
и
Е¥р(Х) —¥у.(Х) для / = 1, .... г при Т-^оо. (9.4.9)
Собственные значения и векторы матрицы (9.4.4) окажутся близкими к интересующим нас величинам ру- (X), ¥у. (X) в том случае, когда fxx(a), — оо<а<оо, почти постоянна. Это обстоятельство вновь указывает, что прежде чем строить оценки интересующих нас параметров, имеет' смысл профильтровать имеющиеся в распоряжении данные, с тем чтобы получить почти постоянный спектр. Следующая теорема освещает некоторые аспекты связи между vp(X), Up (X) и ру(Х), ¥у. (X).
Теорема 9.4.2. Пусть rxr-матрица спектральной плотности tyxW имеет вид
fxx (^) = (2л)-1 2 cxx(u)exp{— Пл}, (9.4.10) и= — ОО'
где
(9.4.11)(9.4.11)2 |u|3|cxx(u)|< оо/ и= — ОО.
(9.4.11)
(9.4.11)
Пусть функция W (а) в выражении (9.4.3) для Wm (а) такова, что 1Г(а) = 1Г(—а) и
| а|31W (а) \ da, < оо.| а|31W (а) \ da, < оо.(9.4.12)(9.4.12)
| а|31W (а) \ da, < оо.
| а|31W (а) \ da, < оо.
(9.4.12)
(9.4.12)
Предположим, что все собственные значения Р/(Х), / = 1, ..., г, матрицы fxx(X) различны. Если ВТ—>0 при Т—>оо, то для всех / = 1, ..., г ■ ’
v/r> (а) = р,- (%) +4 B^N, ^^^.^
X $ а2Г (а) da + О (В3Г)(9.4.13)
и
& /
X WX)^)-^)].-^(9.4.14)
Теоремы 9.4.1 и 9.4.2 показывают, что асимптотические отклонения оценок р,‘-г> (%), Vp (X) очень тесно связаны со степенью гладкости спектральной плотности fxx (а) при а, близких к X, а также с параметрами Вт, фигурирующими в определении весовой функции W(T> (a).
Обратимся теперь к изучению асимптотических распределений для рр(Х) и Vp(X). .
Теорема 9.4.3. При выполнении условий теоремы 9.4.1, если для каждого т=\, ..., М собственные значения матрицы ixx^m) различны, то величины рр (Хщ), Vp(X„), / = 1, ..., г;
/и — 1, ..., М, асимптотически совместно нормальны. При этом lim ВТТ cov даЧХт), p(kT> (Х„)} =■
Т->°°
(9.4.15)
= /М W (a)Ma[ri{Xm—ln} + r]{Xm + l„}]p,/(XJa, если i = k, (0, если j^k\
lim BTT^v^(Xmy V^(Xny=O(9.4.16)
Г->ОО
lim BTT^W4Xm), VPM-
Т ->оо
' 2л J Г (а)2 da4 {Xm-X„}^ (Xm) (5 И/ (V
= <-если j ^ k,^g^ 17^
—2л J W (а)2 darj (X„ + Хп\ р^ М р,- М
. х [И/ (^) - р* (М-2 V» (М V, (Хту, если j 7^ ^,
j, к=1, ..., г; т, п = 1, .... М.
Эти предельные выражения можно сопоставить с асимптотическими соотношениями в теоремах 9.2.2 и 9.2.4; Асимптотическую независимость величин, зависящих от частот Хт) Хп, таких, что Хт ± Хп ^ 0 (mod 2л), можно было предвидеть, поскольку соответствующие f^ (Xm) и f‘xx (Ю асимптотически независимы. Более неожиданным является утверждение теоремы 9.4.3 об асимптотической независимости разных собственных векторов.
Из выражения (9.4.15) вытекает, что.
(Ige)22л Г (a)2da при X^O(modn), Dlgp^(X)-^J
1^ В^Т-1 (^е)24л j W (a)2da при X^O(modn).
(9.4.18)
Полученная формула является аналогом результата (5.6.15) о дисперсии логарифма оценки спектра мощности. Справедливость этой формулы неудивительна, если вспомнить интерпретацию, данную величинам ру. (X) в теореме 9.3.2: они представляют собой спектры мощности рядов /-х главных компонент. Выражение (9.4.18) позволяет предположить, что в качестве основной статистики имеет смысл взять не рр (X), а logpp(X).
К предельному распределению другого вида можно прийти, рассматривая спектральные оценки § 7.3:
(2т + 1)-<£ ^(^^±£1)s=-m х
2ns (Г) • а , А z 1 х при —Х^О (mod л),
т
Г" (I) -£ {'й (х +(х -т)}
•XX W —S = 1 1 х7х' ’
при X=0(mod2n)
или при Х= ± л, ± Зл, ... и четных Т, tn
Vs J I (Г) /1 л I 2л5 I I (Г) / л । ^$Л5 I
s = 1 XX
при Х=±л, ±3л, ...и нечетных Т. (9.4х. 19)
В теореме 7.7.3 было установлено, что в этих трех различных случаях данная оценка имеет асимптотически при Т —> оо распределение
(2m+I)”1 W^ (2m +1, fXxW)> (2тД^Д2т, tXxW) или
(2m)-1 Wr (2m, fxx(X)).
Последнее сразу же позволяет получить такой результат.
Теорема 9.4.4. Пусть для r-мерного ряда X (/), t = 0, ±1, ..., выполняется условие 2.6. L Пусть т фиксировано, а [2л$(Т)/Т] стремится к X при Т —► оо. Если р/Г) (X), ¥}Г) (X), / = 1, ..., г,— собственные числа и векторы матрицы (9.4.19), то при Х^О (mod л) они сходятся по распределению к собственным значениям и векторам случайной величины, имеющей распределение (2m + I)-1 W?(2m + 1, fyy(X)), а при X = 0(modn) —к собственным значениям и векторам случайной величины с распределением (2m)“xF Д^т, txxWY Оценки на частотах Хп, п=1, ..., N, для которых Хп ± ХП' ^ 0 (mod 2л), асимптотически независимы.
Распределение собственных значений матричных случайных величин с действительным или комплексным распределением Уишарта было получено в работе James (1964).
Распределения, приведенные в теоремах 9.4.3 и 9.4.4, не являются несогласованными друг с другом. Отождествив, как в § 5.7 и § 7.4,
2m+ 19, (9.4.20)
у ^.Ц7(Л fz-^-U 2л fir (a)2 da
мы установим при больших т с помощью теорем 9.2.2 и 9.2.4, что собственные значения и собственные векторы асимптотически нормальны и имеют надлежащие асимптотики первых и вторых моментов.
Результаты этого параграфа можно применить для приближенного определения доверительных границ величин рДХ), VpjW* b‘P=L •••) г- Например, из теоремы 9.4.3 и рассуждений § 5.7 можно получить такое приближенное выражение для доверительного интервала величины lgp,(X) с уровнем доверия 100у%:
, . ,,л / 2л ( № (a)2 da
lgpp(X)-z(-*±l) (0.4343) V — <lgpy(X)
... .1/" 2л С Г (а)2 da ■
< Igpp W + ? f-^) (0.4343) V —^ . (9.4.21)
В то же время результат упр. 9.7.5 показывает, что может оказаться полезной Хг/2-аппроксимация распределения
(9.4.22)(9.4.22)|^/,(Х)-У,/(Х)|2
(9.4.22)
(9.4.22)
ОТ
где
Оу = В^Т-^л J W (а)Ыа^ (X)
X 2 Нр (X) [рр (X) — р)Г) (X)]’21V?? (X) I2.(9.4.23)
Далее, действуя в духе § 6.2, можно было бы использовать эту аппроксимацию при определении доверительных областей для
величин
{Ке^(Х), Iml^X)} или (]V^(X)|, argVp/(X)}.
Большая часть материала данного параграфа взята из статьи Bril linger (1969d).
Дальнейшие свойства главных компонент
Ряды главных компонент, введенные в § 9.3, могут быть истолкованы и в рамках обычного анализа многих переменных как главные компоненты. Возьмем r-мерный стационарный временной ряд Х(/), / = 0, ±1, .... с матрицей спектральной плотности fxx(X), и пусть Х(/, X) обозначает компоненту этого ряда с частотой X (см. § 4.6). Тогда, как показано в § 4.6
и 7.1, 2г-компонентный действительный случайный вектор
(9.5.1)(9.5.1)"X(t, X) "
(9.5.1)
(9.5.1)
X(f, X)"
имеет ковариационную матрицу, пропорциональную матрице
(9.5.2)(9.5.2)R е f хх (X) Im fХх W.— Im ^XX W Re ^XX W.
(9.5.2)
(9.5.2)
Стандартная методика изучения главных компонент величины (9.5.1) приведет нас к рассмотрению собственных значений и векторов (9.5.2). Согласно лемме 3.7.1, эти числа и векторы имеют вид
реУДХП Г-ТтУДХу] [lmVy(X)J ’ [ ДеУДХ)]’ ^5,3)
/=1, ..., г, где рДХ), Уу(Х), / —1, ..., г, являются собственными значениями и векторами матрицы fxxW> фигурирующими в теореме 9.3.1. Таким образом, анализ главных компонент стационарного ряда X (/), который проводится в частотной области,— это обычный анализ главных компонент, примененный к индивидуальным частотным составляющим Х(/) и их преобразованиям Гильберта.
Процедуры, рассмотренные в § 9.3, могут иметь самые разнообразные приложения. Вначале напомним введение к этой главе: пусть нас интересует передача r-мерного ряда по q < г каналам связи. Одно из решений возникающей при этом задачи дает теорема 9.3.1. С другой стороны, часто представляет интерес исследование серии рядов с одной действительной компонентой, содержащих полезную информацию об изучаемом r-мерном ряде, в особенности., если число компонент велико. В такой ситуации теорема 9.3.4 рекомендует сначала рассмотреть ряд, соответствующий наибольшему собственному значению, затем ряд, соответствующий второму по величине собственному значению, и т. д.
Но возможны ситуации, когда, напротив, полезно начать с рассмотрения рядов, отвечающих самым маленьким собственным значениям. Допустим, нам кажется, что ряд Х(/), / = 0, ± 1, ..., может удовлетворять некоторому инвариантному во времени линейному условию вида •
■ . 2Ь(/-«)Х(«) = К, (9.5.4)
где К—константа, а lxr-матрица Ь(«) нам не известна. В таком случае
(9.5.5)(9.5.5)- D^Sb(/-«)X
(9.5.5)
(9.5.5)
и в качестве b (и) имеет смысл выбрать векторный ряд r-й главной компоненты, отвечающей r-му из собственных чисел, занумерованных в порядке возрастания. Такой рецепт есть не что иное, как обобщение предложения Bartlett (1948а) применительно к многомерному случаю.
В некоторых других ситуациях может встретиться одна из разновидностей многофакторных аналитических моделей типа
X(0=^ + Sc(<-u)^(u) + e(0. ^ = 0, ±1, ..., (9.5.6) и
где ^-мерный ряд £(/), < = 0, ±1, .описывает^ q различных „скрытых" факторов, а гхд-фильтр (с (и)} представляет влияние факторов. Пусть нас интересует ряд £(<), / = 0, ±1, ..., который в определенном смысле является содержанием модели. Методы § 9.3 предлагают один из способов определения £(/). Если ряд не автокоррелирован, то процедура сводится к факторному анализу, столь часто применявшемуся психологами при психометрических исследованиях [Horst (1965)]. Обычно тогда интерпретируют отдельные главные компоненты и, пытаясь облегчить задачу интерпретации, совершают преобразования вращения или линейные преобразования над наиболее важными компонентами. Применительно к нашему изучению временных рядов подобная интерпретация чрезвычайно усложняется из-за того, что если Vy (X). является нормированным собственным вектором, отвечающим собственному значению |Л/(Х), то тем же свойством обладает вектор ау-(X) Vy-(X), когда комплексное число ау.(Х) равно по модулю 1.
Другого рода трудность связана с тем, что собственные значения и векторы матрицы спектральной плотности не остаются инвариантными при лйнейной фильтрации ряда. В результате у рядов, которые заметно изменяются во времени, оказываются после фильтрации сильнее взвешены главные компоненты. Если ряды до и после фильтра регистрируются не в сопоставимых шкалах отсчета, то неизбежно возникают трудности. Одним из способов избежать больших сложностей явилась бы схема вычислений, основанная не на оценках матрицы спектральной плотности, а на оценках матрицы когерентностей [₽)Р(Х)].
В заключение этого параграфа напомним читателю, что, как мы убедились в § 4.7, представление Крамера вытекает из своеобразного анализа главных компонент ряда, который проводится во. временной области. Другие применения анализа главных компонент при временном подходе встречаются в работах: Craddock (1965), Hannan (1961а), Stone (1947), Яглом (1965) и Craddock, Flood (1969). ■ '
Рабочий пример
Рассмотрим оценки коэффициентов ряда главных компонент для временного ряда, имеющего размерность 14. Это ряд средних месячных температур, измеренных на одной американской и 13 европейских метеостанциях, упоминавшихся в гл. 1. При обсуждении теоремы 9.4.2 мы подчеркнули, что оценки р)Г)(Х), V)r> (X) могут иметь существенные отклонения, если матрица спектральной плотности ряда как функция X сильно отличается от константы. По этой причине наш ряд был подвергнут предварительной фильтрации, удалившей эффекты сезонного изменения температуры. На рис. 9.6.1 представлены оценки спектра мощности ряда, прошедшего такую обработку; эти оценки рассчитывались по формуле (9.4.19) при т = 25.
На рис. 9.6.2 изображены кривые для 1g р)г> (X), / = 1, ..., 14; по-прежнему цуГ) (X) обозначает собственное значение матрицы f^(X), оценивающей матрицу спектральной плотности. Поскольку мы не располагаем программой для вычислений на ЭВМ собственных значений и собственных векторов комплексных эрмитовых матриц, то практически р}г> (X) и V)r> (X) рассчитывались с помощью леммы 3.7.1 по матрице с действительными элементами:
Ref&W 1т1^(Х)1
-Imf^(X) Re®(X)J-(УЬЛ'
Кривые" на рис. 9.6.2 спадают с ростом X в значительной степени так же, как кривые на рис. 9.6.1, изображающие спектр мощности. Согласно выражениям (9.4.18) и (9.4.20), стандартное отклонение этих оценок приближенно равняется
J8-!-—0.062.(9.6.2)
K2m+1
На рис. 9.6.3 и 9.6.4 представлены величины оценок прироста ^^(Х)! и фазы argVp/* (X) для первых двух главных компонент. Для первой из них поразительным образом постоянны модули как функции X. За исключением Нью-Хейвенской станции, все они не близки к 0. Для большинства рядов фазы близки к 0 или л/2 одновременно. При интерпретации этого явления следует иметь в виду, что собственные векторы определены с точностью до множителя, равного по модулю единице. Именно поэтому на большинстве графиков 4 точки выступают из плавной кривой. Ряд первой главной компоненты, по-видимому, в значительной степени пропорционален усреднению по 13 европейским рядам, которое проводится без всяких временных задержек. Модули и фазы ряда второй главной компоненты содержат
1
р Вильнюс
Беалин _
Вром^в
Прога
0
*1
—
1I
-II
1f
3X Л
0X л I
DX я
(
)X л
1
- Вена
Будапешт
Базель
Де-Билт
0
-1
*2
।।
(
)X Л (
)X К (
) х л с
)X л
1
- Нью-Хейвен
Гринвич
Эдинбург
Трондхейм
0
-1
-2
11
С
IX Л С
। X л 0
" X л 0
X Л
1
- Стокгольм
Копенгаген
ИИбб-2-2ООллООллРис. 9.6.1. Логарифмы оценок спектра мощности, построенных усреднением51 периодограммы, для рядов средних месячных температур (без сезонной со-ставляющей) на разных метеостанциях.
И
И
б
б
-2
-2
О
О
л
л
О
О
л
л
Рис. 9.6.2. Логарифмы оценок спектра мощности рядов главных компонент.
Фаза
Лриа
Стокгольм
Прирост
Фаза
Гринвич
Нью-Хейвен
.6
Базель
Вроцлав
Фаза
Вильнюс
ОХ л
Фис. 9.6.4 (продолжение).
Таблица 9.6.1
Десятичные логарифмы собственныхзначений матрицы С^(0)(см. табл. 7.8.1)
1.591 1.025
.852 .781 .369 .267 .164 .009
-.121 -.276 -.345 -.511 -.520 -.670
более значительную ошибку и их труднее истолковать. Для Нью- Хейвена прирост имеет заметно большую величину при X, близких к 0. Рассуждения, приведенные в конце § 9.4 и упр. 9.7.7, позволяют предложить два варианта определения приближенных стандартных отклонений этих оценок.
В табл. 9.6.1 приведены значения десятичного логарифма собственных значений матрицы с(хх (0), содержащихся в табл. 7.8.1. Соответствующие собственные векторы даны в табл. 9.6.2. Эги величины имеет смысл рассматривать, поскольку две указанные главные компоненты имеют явный характер. Изучая табл. 9.6.2, можно заметить, что первый вектор соответствует простому среднему 13 рядов, когда из общего числа 14 исключается ряд для Нью-Хейвена. Второй же собственный вектор соответствует главным образом данным Нью-Хейвена.
Упражнения
Пусть цу (X), /=1, ..., г, обозначают собственные числа неотрицательно определенной матрицы txx (X)- Пусть vj7*) (X), /=1, ..., г,—собственные числа матрицы
2л_
_• ^(^(Х—a)f^x(a) da,
о
•ебетвевиме векторы ковариационной матрицы С;й(<0
.281
.315
.242
.312
.248
.252
.256
.250
.357
.071
.251
.321
.283
.186
-.173
-.055
.060
-.169
.118
-.194
-.001
-.173
.185
.822
-.061
-.142
-.167
.173
—.129
-.041
-.028
-.098
-.098
—.194
.133
-.129
.441
-.481
.104
—;157
-.393
.018
-.211
.012
.186
-.234
.450
-.205
-.061
-.211
-.200'
-.288
-.307
-.063
.362
.497
-.112
.063
-.081
-.594
-.160
-.088
.117
-.112
.336
.020
.125
.046
.570
-.343
-.018
.082
.138
-.343
.252
.022
.122
-.018
.257
-.050
* .255
.065
-.411
.286
.365
.013
-.047
-.567
-.007
.522
-.136
.365
-.278
.001
-.011
.152
-.193
.061
-.278
.424
.069
-.064
-.091
-.275
№2
-.278
-.195
.011
-.213
' .686
-.233
-.169
-.834
-.126
.366
-.002
.610
.046
-.127
-.034
-.011
-.034
.001
-.067
—.117
-.660
-.095
.230
-.136
-.033
.119
-.227
.112
-.095
-.491
.019
.740
-.177
.029
-.009
.174
.399
.388
-.073
-.204
.023
.507
.174
-.164
.015
-.284
-.482
-.057
-.098
—.367
.052
.633
.013
-.392
.217
-.437
-.367
.003
-.018
.239
-.036
.048
.095
.599
-.302
.368
-.083
-.168
-.571
-.091
.599
-.059
-.001
.102
.174
.020
.034
-.271
-.619
.177
-.004
—.076
.188
.610
-.272
-.197*
.015
.083
.220
.023
.035
1
I
1
Ж i
1 <
t
5
1
I
1 X
Таблица 9.6.2
Главные компоненты в частотной области
где lF<r>(a)^O. Покажите, что
2Я'
♦ 0<vjn (X)< J W> (X—a) ^(a) da.0
Предположим, что выполнены условия теооемы 9.3.1 и пусть с™ (ц)=0 при и Ф 0. Покажите, что фильтры {Ь (и)}» ^(и)^» определенные в этой теореме, обладают свойством b(w)=0 и с(н) —0 при и^О.
Покажите, что при выполнении условий теоремы 9.3.1 когерентность рядов Xj^) и ^у) равна
РлМ1^д(Х)|2//уу(Х).
Докажите, что Ер/= ру+6 (п-1/2), /=1, ..., г, для величии, фигурирующих в теоремах 9.2.2 и 9.2.4..
Пусть выполнены условия теоремы 9.4.3. Покажите, что величина ^рР(Х) распределена асимптотически как N^ (Vpj (X), <з^, где
^т^Вт1?-^ С WW day.,- (X) 2 lizWHH^HIW при Jl* i ■
A p = l, .:., r.■
Воспользуемся оценками теоремы 9.4.3, но предварительно сгладим данные при помощи сглаживающей функции h У/ТУ Покажите, что тогда при выполнении условий этой теоремы в формулы для асимптотических ковариаций (9.4.15) и (9.4.17) надо ввести сомножитель ^hy)4dt ^^ h (/)2 d^J2 .
Покажите, что при выполнении условий теоремы 9.4.3 log | V^ (Х)| и argjFp/^X)} асимптотически распределены как независимые нормальные величины, т. е. соответственно как N ^log | Vpj (X) |, ^^ ar | F^y (X) |-2^ и N ^arg \Vpj (X)}, ^~^ or | F^y (X) |”2^; параметр распределения or тот же, что и в упр. 9.7.5.
а) Покажите, что если оценку (9.4.19) сгладить по всему диапазону частот, то предложенная техника анализа сведется к обычному анализу главных компонент выборочной ковариационной матрицы с^ (0).
Пусть гауссовский ряд X (/), t — 0, ± 1, ..., удовлетворяет у с лов и» 2.6.2 (1), a piy, Vy, /—1, ..., г,— собственные значения и векторы матрицы с® (9), причем все собственные значения различны. Применяя (7.6.11) и разложения, использованные при доказательстве теоремы 9.2.4, накажите, что Ру, Vy, / = 1, ..., г, являются асимптотически совместно нормальными и, креме
того,'
^/=^+0(7-^
EV/ = V/ + O(T-1),
(ц/.~ 6 {/-А}| Vjfxx(a) Nj р м
О
“V {н/. V*} - ^- С Г 52 {(V/fXX(a) Vj
1т*к
'х (vjfxx (- a) V») + (V/fxx (a) VA) (V?fXx (- a) Vm)}
X(gft—Um)-1 v„] da,
{V/, v^-^-^ 2 2 t(V?f^ (“) V-»).
X(fAy — Hz)”1 (НА—Н/я)"1 ^l^mX(fAy — Hz)”1 (НА—Н/я)"1 ^l^mx(v}fxx(-a)VA)+(V?fXx(a) Vft) (v/fxx(-a) Vm)} _
X(fAy — Hz)”1 (НА—Н/я)"1 ^l^m
X(fAy — Hz)”1 (НА—Н/я)"1 ^l^m
da.
10
КАНОНИЧЕСКИЙ АНАЛИЗВРЕМЕННЫХ РЯДОВ
Введение
В этой главе рассматривается аппроксимация одного стационарного, временного ряда другим, прошедшим через фильтр, ранг которого меньше размерности фильтруемого ряда. А именно, пусть Х(0 есть r-мерный, a Y (/)-s-мерный стационарные ряды, так что
(10.1.1)
/ = 0, ±1, .... является рядом размерности r-f-s.
Предположим, что мы заинтересованы в превращении ряда X (/) в 0-мерную вектор-функцию, например, вида
6(0=5Ь(<-«)Х(и),и6(0=5Ь(<-«)Х(и),и(10.1.2)(10.1.2)
6(0=5Ь(<-«)Х(и),и
6(0=5Ь(<-«)Х(и),и
(10.1.2)
(10.1.2)
/=«0, ±1, .... где {Ь(ы)} —некоторый 0Хг-матричный фильтр. Допустим, что в итоге мы хотим получить такой s-мерный ряд
Y* (/) = ц + 2с (/-«)£(«),(Ю.1.3)
и
который мало отличался бы от Y (/) за счет удачного выбора вектора р, sx0-фильтра (с(«)} и фильтра {Ь («)}. Если ряд Y (f) совпадает с Х(0, то приходим к задаче, обсуждавшейся в предыдущей главе, для решения которой матрицу спектральной плотности изучали с помощью главных компонент. Если 0 = min (г, s), то фактически не требуется никакого уменьшения размерности, и тогда имеем дело со схемой множественной регрессии, обсуждавшейся в гл. 8.
Связывающее ряды Y* (0 — Ц и X (0 соотношение линейно и инвариантно во времени, его передаточная функция —
А(Х) = В(Х)С(Х), (10.1.4) где В (X) и С (X)—передаточные функции фильтров (Ь («)} и {с (и)} соответственно. Подчеркнем, что при указанных вначале ограни-
чениях ранг матрицы А(Х) не превосходит q. С другой стороны, если известно, что ранг матрицы А (X) меньше либо равен q, то можно найти такую дхг-матрицу В(Х) и зх^-матрицу С(Х), что выполняется соотношение (10.1.4). Итак, поставленная задача заключается в аппроксимации Y (/) рядом Х(0, пропущенным через фильтр, ранг которого не превосходит ,q.
В следующем параграфе рассмотрим аналогичную задачу не для рядов, а для векторных случайных величин. Основной библиографический источник в этой главе — Brillinger (1969d).
Канонический анализ векторных случайных величин
• Пусть задан (г+ $)-компонентный случайный вектор,
(10.2.1)(10.2.1)гх ■
(10.2.1)
(10.2.1)
Y *
РхРхпричем X имеет г, a Y —s компонент. Предположим, что сред- . нее значение (10.2.1) есть
Рх
Рх
(10.2.2)
а его ковариационная матрица—
(10.2.3)(10.2.3)^х№хг
(10.2.3)
(10.2.3)
.^УХ^УУ .
Поставим такую задачу: определить вектор g размерности $, qхr-матрицу В и sxg-матрицу С так, чтобы оказался мал вектор Y-н-СВХ. '(10.2.4)
В качестве меры величины (10.2.4) выберем действительное число
Е {[Y — р — СВХр Г-1 [Y—р — СВХ]};(10.2.5)
здесь Г—некоторая положительно определенная симметричная матрица. Справедлива
Теорема 10.2.1. Пусть задана (г + з)-мерная векторная случайная величина (10.2.1) со средним (10.2.2) и ковариационной матрицей (10.2.3). Предположим, что матрицы hxx и Г невы-
рожденны. Тогда минимум (10.2.5) обеспечивается выбором.
(10.2.6)
иир = Уу—СВрх,р = Уу—СВрх,(10.2.7)
и
и
р = Уу—СВрх,
р = Уу—СВрх,
(10.2.8)
где Nj это {-й собственный вектор матрицы Г~1/2 SyXSxxSxrr- */2, j = 1, ..., s. Если Цу обозначает соответствующее собственное значение, то величина минимума дается выражением
1г{(2уу-2у^№^^^ S^ = tr(2rrr-i}- 2И/. (10.2.9) !> V / < V
Особенно важен частный случай Г=1. Тогда приходится отыскивать собственные значения и векторы матрицы Sy^S^S^y. Если обозначить их р-у и Vy, то ковариационная матрица ряда ошибок
¥-р-СВХ ' (10.2.10)
при указанном в теореме выборе
В =
-vr
.(10.2.11)
С =
-VJ-
... VJ
(10.2.12)
и
р =
= Цу
—СВрх
(10.2.13)
окажется равной
S уу — S yjf^
хх2;
fy+ 2 Ру V/V/. / > ч
(10.2.14)
Полагая теперь q = r, приходим к схеме множественной регрессии (соответствующие результаты сформулированы в виде теоремы 8.2.1). При s — r и ¥ = Х приходим в сущности к результату теоремы 9.2.1. Близкий по содержанию к теореме 10.2.1 результат приводит Rao (1965, стр. 505).
С этой теоремой весьма тесно связана следующая задача: определить qx 1-матрицу р, <?хг-матрицу D и qx s-матрицу Е
так, чтобы оказался мал вектор
EY-p-DX.EY-p-DX.(10.2.15)
EY-p-DX.
EY-p-DX.
Изучение этого вопроса приводит к такому ответу.
Теорема 10.2.2. Пусть задан случайный вектор (10.2.1) со средним (10.2.2) и ковариационной матрицей (10.2.3). Допустим, что SXX и "Syy невырожденны. Вектор р размерности q, qxr- матрицаDm qxs-матрица Е, удовлетворяющие условию ESriJET= =s I, D2XXDT=I, которые минимизируют
Е {[EY —р —DX]T[EY —р —DX]},(10.2.16)
задаются выражениями
(10.2.17)
(10.2.18)
и
(10.2.19)(10.2.19)р = Еру-Прх',
(10.2.19)
(10.2.19)
здесь V, обозначает j-й собственный вектор матрицы 2y$/2SyXX X SxxSXy2yy2, a Uy обозначает j-й собственный вектор матрицы ^хЧ^ху^ух^хЧ1. Если Ру обозначает j-e собственное число любой из этих двух матриц, то минимальное значение (10.2.16) равно
2q-2 Sp}'2.■ Кв
Далее мы находим, что ковариационная матрица величины
DXEY
имеет вид
(10.2.21)
Это обстоятельство служит основанием для введения канонических переменных (канонических величин)
(10.2.22)(10.2.22)^ = ^Х,
(10.2.22)
(10.2.22)
(WJY;
в данном определении «у и Ру пропорциональны соответственно ^хх2Ч/ и Sy^Vy; Коэффициенты «у, Ру канонических переменных удовлетворяют условиям
2хх2ху2уу2гаау = Ру«у при /=1, ..., г (10.2.23) и
SyyS ух^хх^х/Ру = р-уРу при / = 1, ..., s. (10.2.24)
Мы будем нормировать их так, чтобы
ajay = l, РЖ=Ь /=1. •••• П ^=L s. (10.2.25)
Заметим, что иногда предпочитают нормировку a)Sxxay=l, РР?уР*=1. Однако выборочные свойства эмпирических переменных упрощаются, если применять условия (10.2.25). Введем еще•
I при /=1min (Г, s),|
' ( 0 в остальных случаях.’
Следствие 10.2.2. При выполнении условий теоремы 10.2.2
сог^у, Ц = 6{/ —6} при j, k=\, ..., г,(10.2.27)
сог{£у, <ой} = 6{/—А) ру при j=l, •г; к=\, ..., s (10.2.28) м
■ cor {toy, tok) = b(j — k) при j, A = l, ..., s. (10.2.29)
Величина ру = р}/2 называется /-й канонической корреляцией, это название оправдывается равенством (10.2.28). Подчеркнем,
что введенные нами переменные можно было бы получить и иначе, с помощью теоремы 10.2.1; в которой для этого надо взять Г=2^.
Впервые канонические переменные ввел Hotelling (1936) как линейные, комбинации компонент X и Y, имеющих экстремальные корреляции. К этому направлению примыкают работы: Обухов (1938, 1940), Anderson (1957), Morrison (1967), Rao (1965), Kendall, Stuart (1968). В случае когда вектор (10.2.1) является гауссовским, первая каноническая переменная будет экстремальной в более широком классе величин, см. Lancaster (1966). Канонические переменные весьма полезны при изучении зависимостей между двумя случайными векторами [Hotelling (1936)], при дискриминантном анализе [Glahn (1968), Dempster (1969, стр. 186), Kshirsagar (1971)], при отыскании общих факторов [Rao (1965, стр. 496)], при предсказании значений одних величин по значениям других [Dempster (1969, стр. 176), Glahn (1968)] и при исследовании систем линейных уравнений [Hooper (1959), Hannan (1967с)]. ■
Рассмотрим сейчас некоторые аспекты оценки указанных выше параметров. Для удобства предположим, что ц^ = 0 и Му=0. Пусть в нашем распоряжении имеется выборка
/ = 1, .... п, случайного вектора, удовлетворяющего условиям теоремы 10.2.2. Возьмем в качестве оценки (10.2.3)
2Х/Х7
Sx/V
2xr=-4~ ’(Ю.2.31)
. ^Y/Y'
Syr-—— •
Тогда оценки p7, «у, ру определяются из уравнений
^xx^xy^yySy^ay = ру«у(10.2.32)
и
2уу2гх2^х2хуР/ = М/Р/(10.2.33)
при нормировке_
^«У»!, Р/ру~1.(10.2.34)
Далее, при формулировке теоремы воспользуемся обозначениями
Я/ (а/Зхх«/)1/а *Я/ (а/Зхх«/)1/а *(10.2.35)(10.2.35)h -'‘ №yMIVh -'‘ №yMIV(10.2.36)(10.2.36)
Я/ (а/Зхх«/)1/а *
Я/ (а/Зхх«/)1/а *
(10.2.35)
(10.2.35)
h -'
‘ №yMIV
h -'
‘ №yMIV
(10.2.36)
(10.2.36)
^ХХ^ХУ.^УХ^УУ.^ХХ^ХУ.^УХ^УУ.Nr+SNr+S(10.2.37)(10.2.37)Теорема 10.2.3. Допустим, что величины (10.2.30) образуют выборку объема п из распределения
^ХХ^ХУ.^УХ^УУ.
^ХХ^ХУ.^УХ^УУ.
Nr+S
Nr+S
(10.2.37)
(10.2.37)
Предположим, что r^s и что собственные значения ру, /=1,..., s, различны. Тогда случайный величины {ру, ву, Ру; / = !,...,$} асимптотически нормальны, а {ру, / = 1, ..., s} асимптотически не зависит от {«у, ру; /=1, ..., s}. Асимптотические моменты задаются формулами
Еру^ру + О^-1),(10.2.38)
Еау=а/4-0(п-1),(10.2.39)
Еру = ру+ 0 (п-1),(10.2.40)
cov{py, pN} = 6{/—&}4ру (1—ру)2/« +О(«“’).(10.2.41)
cov {«у, а*} = 6 {/—^ (арххаД (1 — Ру)
X 2 (Р? - Р?)-2 (И + Р^ - 2р,М) ata?/n 4- (1 - 6 {j- A}) (pj - pl) ”
X (—р^ — р/р» + 4р^4-р/ + рб—Р/—Р*) (а*а)/п 4-0 (я*2) (Ю.2.42) при j, k = 1, ..., s, / = 1, ..., г;
COV («у, Р4 = 6 Ц-Ц №хХ«;У'4 №^У'г (1 -И/) х2(р?-р?)-2(2-р)-р?)агЬ7/п + (1-6{/-^) (pf-p?)-2
X («)2хха/)1/2 Ф*2гг₽*)1/2 (—Р/Р* “ Р/Р* + Р/ + Р/Р^ + 2р/р* + 4-2pyp2-p?-pJ)aAbJ/n4-O(n-2)'(10.2.43)
при j, к, / = 1, ..., s;
cov {Ру, Р4=6 {/-л} (р;5ггРу) (1 -ру)
х 2 (p?-p^)-2(p2/ + pJ-2pH bzb?/n + (l -6{й-/})(р?-р$)-2
х (-Р^-РМ + 4рП + Р/ + PJ-P/ -Р*) №п + о ^п-^ (10.2.44) при j, к, 7=1, ..., s. '
(10.2.46)(10.2.47)(10.2.48)(10.2.46)(10.2.47)(10.2.48)предположим, чтоЕпредположим, чтоЕ
(10.2.46)
(10.2.47)
(10.2.48)
(10.2.46)
(10.2.47)
(10.2.48)
предположим, что
Е
предположим, что
Е
Асимптотические выражения для дисперсий рассматриваемых статистик можно теперь получить, пользуясь формулами (10.2.41)— (10.2.44). Отметим, что для Цу
DaHhpV2 = -^- + О(п~2),(10.2.45)
поэтому проще будет рассмотреть преобразованную величину arthp//2. Для практических целей, вероятно, полезнее всего асимптотические оценки моментов второго порядка, которые получаются при помощи „процедуры складного ножа”; см. Brillin- ger (1964с, 1966b). ,
Если s=l, можно заметить, что квадрат канонической корреляции р2 = р1 является возведенным в квадрат коэффициентом множественной корреляции, рассматривавшимся в § 8.2.
Асимптотику ковариации величин ру и pft вывел Hotelling (1936). Hsu (1941) нашел асимптотическое распределение; Lawley (1959) отыскал кумулянты старших порядков; Chambers (1966)
установил вид следующих членов в асимптотическом разложении для средних; Dempster (1966) рассмотрел проблему уменьшения отклонений; Hooper (1958) вывел формулы для асимптотических ковариаций, предполагая фиксированными Ху, /= 1,... ..., п; точное распределение выборочных канонических корреляций, которое зависит лишь от канонических корреляций генеральной совокупности, приведено в работах Constantine (1963) и James (1964). Распределению векторов посвящена статья Ти- тига (1965), а вычислительным аспектам —Golub (1969). В нормальном случае Izenman (1972) нашел асимптотическое распределение оценки для СВ из (10.2.4).
Нам понадобятся аналоги рассмотренных результатов для векторов с комплексными компонентами. Пусть такой вектор
имеет r-j-s компонент; обозначив его среднее через ГЕХ] _ ГЦу 1 .EyJ |_Цу.
и ковариационную матрицу—через .
X р.хY-Цу.X р.хY-Цу.X Рх]Т( Г^хх ^хг]
X р.х
Y-Цу.
X р.х
Y-Цу.
Тогда имеет место
Теорема 10.2.4. Пусть заданы случайный вектор (10.2.46) с комплексными компонентами, его среднее (10.2.47) и ковариационная матрица (10.2.48). Предположим, что Sxx и Г невырож- денны, причем Г>0. Тогда минимум выражения
Е {[ У —р — СВХ]Т Г-1 [Y — р—СВХ]} (10.2.50)
достигается при выборе qxr-матрицы
sxq-матрицы
В =' Т-Ч^ух^х,(10.2.51)
ут
L -и -
C = rv2[V!...V,](10.2.52)
и
jut = Цу—СВц^;(10.2.53)
здесь Vj обозначает j-й собственный вектор матрицы Г-1/22ух2хх2хуГ~1/2, / = 1, ..., г. Если ру—соответствующее собственное значение, то минимум (10.2.50) равен
tr {(Srr-2rx2xx2хг) Г"1} + 5 Ру (Ю.2.54)
Подчеркнем, что Vy определены лишь с точностью до множителя, равного по модулю 1. Далее справедлива
Теорема 10.2.5. Рассмотрим (г + з)-компонентный случайный вектор (10.2.46) со средним (10.2.47) и ковариационной, матрицей (10.2.48). Пусть матрицы 2ХХ и hyy невырожденны. Тогда qx\-матрица р, q х г-матрица D и qx s-матрица Е, для которых ESyyET=l, D2XXDT — I, доставляют минимум выражению
если
Е {[EY—р—DX]T[EY—р —DX]},
(10.2.55)
(10.2.56)
U
р = Еук—Dpx,(10.2.58)
где Vj обозначает j-й собственный вектор матрицы Хуу^’Хух^хх^хг^хУ1 “ Uy—j-й собственный вектор матрицы 2хх 2хк2уу2гх2хх2-'
Как и в случае действительных векторов, мы приходим к величинам_
^=fJX’(10.2.59)
с коэффициентами ау. и Ру, пропорциональными 2xx8Uy и 2yV8Vy соответственно. Выберем нормировку
^«У=1, р^. = 1.(10.2.60)
В таком случае получим
Следствие 10.2.5. При выполнении условий теоремы 10.2.5
cov (Су, У = 6{/ — k) (aj2xxay),
(10.2.61)
cov^y, U = 0
(10.2.62)
для j, k — 1,
.. i, r;
cov ^p ®4 = 6 (j — kj (a)2XKPy),
(10.2.63)
.cov {£/t wA}=0
(10.2.64)
при j — 1, ..
., r; k — 1, ..., s;
cov {toy, ©J = 6 (j—kj (p/2xrPy),
(10.2.65)
cov {toy, юЛ} = 0
(10.2.66)
при j, k = 1,
..., s.
Если j-e собственное значение матрицы 2уу22Гх2хх2хк2уу2 обозначить символом py., то окажется, что
рJ^^M—(10.2.67)
i®j^XX«/) (P/SyyP/)
при / = 1, ..., min (г, s). Величины gy, ©у при j = 1, ..., min(r, s) будем называть j-й парой канонических переменных, а число Ру = Ру/а^О назовем j-м каноническим коэффициентом корреляции. При />min(r, s) полагаем pz = 0 и выберем «у и ру так, чтобы
■р'=6 11V-t10-2'68)
LV^j^XX®)) (Pj^YYPj)l
при / — 1min (г, s)..
(10.2.70)(10.2.70)(10.2.71)(10.2.72)(10.2.73)(10.2.74)(10.2.75)(10.2.76)(10.2.71)(10.2.72)(10.2.73)(10.2.74)(10.2.75)(10.2.76)
(10.2.70)
(10.2.70)
(10.2.71)
(10.2.72)
(10.2.73)
(10.2.74)
(10.2.75)
(10.2.76)
(10.2.71)
(10.2.72)
(10.2.73)
(10.2.74)
(10.2.75)
(10.2.76)
Канонические переменные для комплексных случайных величин встречаются в работе Пинскера (1964, стр. 134).
Предположим теперь, что рх = 0 и рк=0 и что нам известна выборка
Я,(10.2.69)
L Y/J
/ = 1, .... п, значений величины (10.2.46), о которой шла речь ж теореме 10.2.5. Построим оценку величины (10.2.48), взяв
2 xlxi
2V/V7
Тогда оценки ру, ау и 0у определятся из уравнений ^XX^jySy у 2 Y^P*j ~ ^j^j
И
SyyS^Sxx^xrP/ —Н/Р/
при условиях нормировки
5«y=ljjpy=l и
[(e/2xx«/) (?/2уу?у)]1/2
В теореме 10.2.6 будем считать, что
7 (а/Зххо/р/» ’
h -
^“(^SyyP/)1/8 •
Теорема 10.2.6. Предположим, что величины (10.2.69) представляют собой выборку объема п из распределения
. мс (а Г5” ^"W^1 [2^ ^уу_
Пусть все собственные значения ру, / = 1, . ..,s, различны и r^s. Тогда величины (ру, «у, Ру; / = 1, ..., s} асимптотически нормальны и (ру, / = 1, ..., s} асимптотически не зависит от {«у, Ру; / = 1, ..., s}. Выражения для асимптотических моментов имеют вид.
Еру^ру + О^-1),(10.2.78)
Еау = а/ + 0(п-1), ,(10.2.79)
ЕРу = ру + О(п-1),(10.2.80)
cov{Py, ti = 6 (И*}2ру(1 — ^У/п + 0(п-4),(Ю.2.81)
ёоЦ«Р а^ЧН^^^х^^-Рт) .
X S (Р/—Р/)-а (Р/ + pH 2р)р?) aza?/n + О (п~*) (10.2.82) и
cov («у, aj = (1 —6 {/—&}) (pj—pi)-2
X (—P/Pk—P/Pi + 4p2pi + pH pHP/—pl) a^ajm + o (n~2) (10.2.83) при j, & = 1, ..., s; Z = 1, ..., r;
wv {iy, p6) = 6 (/-^ (ajS^y)!/2^^^
X (1 -Py) 2 (рНрН (2-pHp?) ^> + o H2), (10.2.84)
^V(«у, R} = (1 — 6 {/ — ^}) №xxa^ (P|Sri,pft)i/2
. x (pH pi)-2 (—р/р*—р/р!+pH pIpI+2p^+2pzp| - p)
■-р1)алЬ//п + 0(п-2) (10.2.85)
при j, k, Z= 1, ..., s;.■
MV (py, PJ=6 {/-^} (Pjsrypy) (1 -Py) 2 (pHp?)-8 (pHp?
_— 2p?p?)bzbH + 0(n-a), (10.2.86)
cov (Py, J*}=(1 — 6 {/—6}) (p) - pi) -2 (—p^pi — p)pi+4p^pi+pH pi '-pj-pDp^r/n + otn-2) (10.2.87)
при i, k, Z = 1, ..., s.
Отметим также, что асимптотически величины
/ = 1, ..., s, имеют комплексное нормальное распределение. Кроме того,
Darthp/8=^+O(n-8).(10.2.89)
James (1964) приводит точное распределение |ty, / = 1, .... s, и в комплексном случае.
10.3 Ряды канонических переменных
Рассмотрим задачу, которая упоминалась во введении к этой главе: отыскивается вектор pcs компонентами, ^хг-фильтр |Ь(«)} и sx^-фильтр {с(ы)), такие, что если
g(0 = 2b(/—и)Х(и),(10.3.1)
и
то ряд
Y*(0 = p + 5c(^-u)g(W)(10.3.2)
и
будет близок к Y (0, t = 0, ±1Предположим, что степень близости рядов измеряется величиной математического ожидания
Е ([Y (0-V (0J4Y (0-Y* (/)]},(10.3.3)
которое можно представить в виде
2Л
5 М^y-y«, y-y* (а)} da,(10.3.4)
о
если EY(0 = EY»(0-
Теорема 10.3.1. Пусть
vm *(ю.3.5)
# = 0, ±1, ...,— стационарный в широком смысле ряд с r + s компонентами, имеющий среднее
(10.3.6)(10.3.6)сх.Cyd
(10.3.6)
(10.3.6)
абсолютно суммируемую автоковариационную функцию и матрицу спектральной плотности
(10.3.7)(10.3.7)^xxW fyrWfyxW ^/rW
(10.3.7)
(10.3.7)
—оо < X < оо. Предположим, что матрица Vxx (X) невырожденна. Тогда при заданных q, г, s (q^r, s) следующий выбор ц, {Ь(и)} и {с (и)} минимизирует (10.3.3):
р=су— (2С(“)) (2Ь<“))С^
(10.3.8)
Ь (и) = (2л)-1 ^ В (a) exp {tua} da
(10.3.9)
и
0
2Л
с (и) — (2л)-1 ^ С (а) ехР {1иа} ^а>
(10.3.10)
где
Vx<xy 1 в(Х)=: fKX(X)txx(X)-i
(10.3.11)
и
C(X)^[Vt (X)...V9(X)].
(10.3.12)
Здесь Nf (X) есть j-й собственный вектор матрицы fyX(X)fxx(X)-1fxr(X), / = 1, ..., s. Если Ру (X) обозначает соответствующее собственное значение, то минимум (10.3.3), который достигается при указанном выше выборе, равен
2-Л2Л(
$ tr (frr (а) - frx (а) fxx (а)-1 fxr (а)} da + U 2 p,y (а) W (10.3.13) оe V1',q)
В этой теореме приходится рассматривать собственные значения и собственные векторы некоторых матриц, построенных по матрице спектральной плотности. Теорема 10.3.1 представляет собой обобщение теорем 8.3.1 и 9.3.1, которые вытекают из нее, если соответственно взять q — s или Y (/) = X (/) с вероятностью 1.
Нетрудно видеть, что ряд ошибок
e(0 = Y(0— Y*(0(10.3.14)
имеет среднее значение 0 и матрицу спектральной плотности
fee (X) = frr (X)—С (X) В (X) fxy(X) -fyx (X) BWcw7 +
+ с (X) В (X) fxx (X) В (X) с (Ху=
— frr W 2 И/ W У/ (X) V. (X)T=fyy (X)—fyx (X) fxx (X)-1 fXy (Х)+ /=1
+ 2 Н/ W V, (X) Vy (Ху,(10.3.15)
i>q .
—oo<Z<oo. Эта матрица является суммой двух слагаемых, различных по характеру. Первое из них •
f/rW ^?хWfxxW'^xrW (10.3.16)
появлялось в§ 8.3 как матрица спектральной плотности ошибки, связанной с регрессией Y (f) на ряд Х(0. ^ = 0, ±1, ... .Оно представляет собой. нижнюю грань степени аппроксимации, не- улучшаемую посредством выбора q, и одновременно выступает как мера • качества линейной аппроксимации ряда Y (/) рядом Х(0» ^ = 0, ±1, ... . Второе слагаемое
Sp/WVyWV^XjV (10.3.17) />»
при фиксированном q будет мало, если малы собственные значения ру (Л), / > q. Оно является убывающей функцией q, и при q^r или q^s обращается в 0. .
Критерий (10.3.3) выбран так, что различные компоненты Y (Q входят с равными весами. Такое условие.,может оказаться нежелательным в случае, когда дисперсии разных компонент существенно отличаются по величине или когда сложна структура корреляционных связей компонент. Для ряда целей может оказаться полезным критерий достижения минимума выражением
tr {fyy(a)~1/2 ty-v». y-y* (a) fyy(a)~1/2} da. (10.3.18) 0 .
В этом случае получается
Следствие 10.3.1. При выполнении условий теоремы 10.3.1 выражение (10.3.18) будет минимальным, если выбрать фильтры {b(w)} и {с («)} по формулам, приведенным в этой теореме, но только в качестве ¥ДК), 1 = ^, .... s, следует брать собственные векторы матрицы ^уу^У^ухк^ДххХ^Д^ху^ДуДКУ"111-
Процедура аппроксимации, о которой говорится в следствии, обладает тем преимуществом, что она остается инвариантной при невырожденной фильтрации рядов, см. упр. 10.6.5. Упомянутые здесь собственные векторы играют важную роль и в следующем утверждении. -
Теорема 10.3.2. Пусть выполнены условия теоремы 10.3.1, Рассмотрим ряды ^(t), цД!), / = 0, ±1, ..., с действительными значениями, имеющие представления
(0 = J АД^ехр {ia/} dZx (a) (10.3.19)
U
2Л
Ч/(0 = $ By (а)техр {iat}dZy(a). (10.3.20)
О
Предположим, что А,- (а) и Ву(а) удовлетворяют условиям А} (а)тАу (а) = 1, Ву (а)т By (а) = 1, и ряды t,j (t), Лу (0 таковы, что их когерентность | R^ (X) |2 максимальна, а когерентность с рядами t,k (/), т)й (Z), k < j, / = 1, ..., min (r, s), нулевая. Тогда £y (/) и т^Ц являются соответственно решениями уравнений
^хх W"1 fxr W fyr W-1 f/x W Ay (X) =Иу (X) Ay (X) (1.0.3.21) и
- f^X)"1 tyx (X) fxx (X)-1 fxr (X) By(X) = Иу (X) By (X), (10.3.22) j = l, .... min(r, s); здесь ^ (X) ^ p2 (X) ^... . При этом максимальное значение | R^ (X) |2 равно ру (X).
Решение уравнений (10.3.21) и (10.3.22) тесным образом связано с отысканием собственных значений и собственных векторов матрицы, фигурирующей в следствии 10.3.1, которые удовлетворяют соотношению
fry W-1/a tvx W hx W-1 fxy W fyy W-1/2 Vy (X) = Vy (X) Vy (X).
(10.3.23)
Из него вытекают равенства
fxx (^)-1txy(^)fyy(^)-1fyx(^) t^xx W-1 fxrWfyrW-^Vy W] =Vy (X) [fxx (X)-2 txy(X) frr(X)-V2 Vy (X)] (10.3.24) и
f yy (X)-1 f yx (X) fxx (X)-l fxr (X) [fyy (X) - */2 Vy (X)]
= Vy(X)[fyy(X)-V2Vy(X)], (10.3.25)
которые позволяют нам отождествить ру(Х) и vy(X) и взять Ay (X) и Ву(Х) пропорциональными соответственно fxxW^fxyWfyyW^^V/W и frrW1/2Vy(X).
По сравнению со следствием 10.3.1 теорема 10.3.2 выгодно отличается тем, что ряды X (/) и ¥ (/) выступают в ней симметричным образом. Пары рядов £у(/) и Ц/(0> ^ = 0, ±1, ..., введенные в этой теореме, называют j-ми парами канонических рядов. Их когерентность ру (X) именуется j-й канонической когерентностью. Канонические пары можно было бы ввести и по аналогии со способом теоремы 10.2.4.
В том случае, когда автоковариационные функции рассматриваемых рядов быстро убывают при |м|-^оо, коэффициенты соответствующих фильтров тоже быстро убывают. Точнее говоря, справедлива
Теорема 10.3.3. Пусть наряду с условиями теоремы 10.3.1 выполняются следующие:
ЗП+РИЛсхх^Коо(10.3.26)
и
U
2[1+|«|р]|схг(«)|< ~(10.3.27)
при некотором Р ^ 0. Если все • собственные значения матрицы ^yxW^xxW^Xky^ различны, то коэффициенты Ъ(и), с (и) фильтров, определенных в теореме 10.3.1, удовлетворяют условиям
SlU-lMHIb^Kooи"SlU-lMHIb^Kooи"(10.3.28)(10.3.28)2[1+|МП|с(«)|<оо. и2[1+|МП|с(«)|<оо. и(10.3.29)(10.3.29)
SlU-lMHIb^Kooи"
SlU-lMHIb^Kooи"
(10.3.28)
(10.3.28)
2[1+|МП|с(«)|<оо. и
2[1+|МП|с(«)|<оо. и
(10.3.29)
(10.3.29)
Автоковариационная функция ряда ошибок е(/), t = 0, ±1, ..., также удовлетворяет условию
SD+lwniCee^K «о.(10.3.30)
Содержащийся в следующей теореме близкий результат оказывается иногда полезным при упрощении структуры временных рядов.
Теорема 10.3.4. Пусть выполняются условия теоремы 10.3.1 и неравенства
(10.3.31)(10.3.32)(10.3.31)(10.3.32)2[1+|“1р]|схх(«)|< °0, и '
(10.3.31)
(10.3.32)
(10.3.31)
(10.3.32)
SU+lwHIcyrHKoo
при некотором Р^0. Пусть также собственные значения Pi (X),..., р, (X) матрицы frr (X) !/2 fyx(X)fxx(X)-1 fxr(X) fyy (Х)~1/а не совпадают друг с другом и отличны от нуля. Тогда существуют такие г х r-фильтр {а (и)} и s х s-фильтр {Ь («)}, что
2[1+|и|']|а(и)|<
Sn+^nib^K*
ОО,
DO,
(1'0.3.33)
'(10.3.34)
и ряд
'2а(^—«)Х(и)’
Sb(t-u) ¥(и) • и*
(10.3.35)
имеет матрицу спектральной плотности
1 J1 J
1 J
1 J
(10.3.36)
Пинскер (1960) отметил, что, пропустив стационарный ряд через фильтр, можно получить ряд с матрицей спектральной плотности (10.3.36).
Построение оценок и их асимптотические свойства
Допустим, что мы располагаем отрезком
Y^J , / = 0, ...» Г—1,(10.4.1)
стационарного временного ряда с г + s компонентами.
Y(0. * /-0, ^Y(0. * /-0, ^(10.4.2)(10.4.2)
Y(0. * /-0, ^
Y(0. * /-0, ^
(10.4.2)
(10.4.2)
имеющего матрицу спектральной плотности
(10.4.3)(10.4.3)fjtutW fyrWfyjf(X) fyy (%)
(10.4.3)
(10.4.3)
На основании этой информации мы хотим оценить собственные значения ру (X) и передаточные функции Ay (X), By (X), / = 1, 2,..., описанные в теореме 10.3.2. Очевидный способ действий — сна-
чала построить матрицу
(10.4.4)(10.4.4)^хх W ^xr W№(Х) fyTMX).
(10.4.4)
(10.4.4)
т. е. оценку матрицы (10.4.3), а затем в качестве искомых оценок выбрать решения уравнений
f^ w-1^ (X) f^ (Х)-1 f& (X) xp (X) = pp (X) др Wi (10 4 5) f^ W"4^k (X) f^ (X)-1 f& (X) Bp (X) = gp (X) Bp (X),(10.4.6)
подчиняющиеся условиям нормир,овки
ApWTA}r)(X) = l и Вр7^тВ/>(Х)^1.(10.4.7)
Рассмотрим теперь статистические свойства получающихся оценок.
Предположим, что в качестве оценки (10.4.4) выбрана функция
где
1%х (а) 1(ХУ (а)1 1ух (а) 1уу (а)]
=(2лТ)-1=(2лТ)-1(10.4.9)(10.4.9)2 * (0 ехР {— 1а01 2 * (0 ехР {—■ iatY.2 ^ (0 ехР Iе- fo0. .2 ^ (0 ехР {— 1а0.
=(2лТ)-1
=(2лТ)-1
(10.4.9)
(10.4.9)
и что W(Т> (а) с помощью некоторой весовой функции W (а) выражается как
Н7<г>(а)« 2 Г^Еа+гл/р. (10.4.10)
Тогда справедлива
Теорема 10.4.1. Пусть (г+s)-мерный ряд (10.4.2) удовлетворяет условию 2.6.2 (1) и определим vp(K), Bp(k), 5)Г)(Х) как решения системы уравнений
g(& (X)-1 g^ (X) g^ (X)-‘ g^ (X) wp (X) = Vp (X) R)r> (X) (10.4.11) и
^ (X) -1 g% (X) g<^ (X)-» g^ (X) sp (X) - VP (X) sp (X), (10.4.12)
где
gxx W ^xy (А)$№ ^нх)_gxx W ^xy (А)$№ ^нх)_2яО2яО^<т> (X—а)^<т> (X—а)txx(a) ^у(а)_fyx(a) fyy(«)txx(a) ^у(а)_fyx(a) fyy(«)(10.4.13)(10.4.13)
gxx W ^xy (А)
$№ ^нх)_
gxx W ^xy (А)
$№ ^нх)_
2я
О
2я
О
^<т> (X—а)
^<т> (X—а)
txx(a) ^у(а)_fyx(a) fyy(«)
txx(a) ^у(а)_fyx(a) fyy(«)
(10.4.13)
(10.4.13)
Выберем оценку (10.4.4) в виде (10.4.8) и потребуем, чтобы W (а) удовлетворяла условию 5.6.1. Величины рр (X), А)г> (X), В}Г>(Х) определим из соотношений (10.4.5) и (10.4 6). Если ВТТ—*оо при Т—*оо, то
Ец)Г) (X) = vp (X) + О (Вт ^Т-^.(10.4.14)
Если, кроме того, собственные значения матрицы fKr (Х)-^8!кх (X) х xfxxW'^xyW fyyW-1/2 различны, то
WP (X) = Vp (X) + О (Bf1^),(10.4.15)
EA*.r>(X) = R<J">(X) + O(Bf1T-i) (10.4.16) о
ЕВр (X) = Sf> (X) + О (Bf1^)(10.4.17)
при / = 1, 2, ... .
Если ВТ—^0 при Т—*оо, то, очевидно,
Epp (X), Е pf’ (X) И/ (X)(10.4.18)
и
нв;"<>-) - - ву (Л).
Теорема 10.4.1 свидетельствует о важной роли предварительной фильтрации. Распределения р’рСМ, МР(Х), В^ЦХ) имеют своими средними решения уравнений (10.4.11) и (10.4.12), однако последние будут близки к искомым решениям (10.3.21) и (10.3.22) только тогда, когда взвешенное среднее (10.4.13) близко к (10.4.3). Рассчитывать на это можно с большим основанием, если подвергнуть предварительно наш ряд надлежащей фильтрации.
Возвращаясь к исследованию асимптотических распределений рр (X) и Кр(Х), ву^Х),. сформулируем такой результат.
Теорема 10.4.2, Предположим наряду с условиями теоремы 10.4.1, что собственные, значения рДХ^, j=l, ..., min (г, s), различны при.т=1М. Тогда случайные величины рр(Хт), ЬР(М» ВР(Хт), т = 1, ...,М, имеют совместное асимптотически нормальное распределение и обладают следующей асимпто-
тической ковариационной структурой:
lim SrTcwM>(XJ, ^(Х»)}
Г2л $ W (a)2d«h(Xm-X,J + n{4 + MJ2MX^
00при j — k, при j^k,при j — k, при j^k,(10.4.20)(10.4.20)
0
0
при j — k, при j^k,
при j — k, при j^k,
(10.4.20)
(10.4.20)
Кт ВтТcov {ц7> (Хя), А<Р(Х„)} = 0,(10.4.21)
rlim BTTcw^p<Xmy В(Р(Х„^ = О.(10.4.22)
А также (зависимость оцениваемых параметров распределений от Хт опускаем)
lim B^tov^P^, МЧМ =
2п $ №(a)2dar]{X,„-X,J Ajf^A^
х^' + ^-г.^А^^ыА,)-1. при / = £,
~ * 2л J IF (a)8da г) {Хт 4- Х„} (р,—pft)-2 (— р;%—ру^ + 4^ft +
+^+^-И/-^) А^А^А,)-^ №xAa)-V2
при j^=k.
(10.4.23)
Аналогичные выражения для cov\N.p(Xm), В‘Р(!„)}, cov{ву^Хд), В^7* (Х„)} можно вывести из формул (10.2.84) —(10.2.87).
Из выражения (10.4.20) вытекает, что
Darth/рр (X) ~Darth/рр (X) ~X^0(mod л),X = 0(mod л),X^0(mod л),X = 0(mod л),' В^Т^п J №(сс)Мсс приBpT-^m^W (ay da при
Darth/рр (X) ~
Darth/рр (X) ~
X^0(mod л),
X = 0(mod л),
X^0(mod л),
X = 0(mod л),
величины arthl/py^X) асимптотически нормальны.
Используя эти результаты, можно построить приближенные доверительные границы для канонических когерентностей.
Результаты другого рода, касающиеся предельных распределений, можно получить, рассматривая спектральную оценку (8.5.4), соответствующую обычному усреднению фиксированного количества ординат периодограммы.
Теорема 10.4.3. Пусть векторный ряд (10.4.2) с r-{-s компонентами удовлетворяет условию 2.6.1 и обладает матрицей
спектральной плотности (10.4.3). В качестве оценки этой матрицы возьмем (8.5.4), где т, s(T)—целые числа и 2ns (Т)/Т X при Т—*оо. Далее, пусть
(10.4.25)(10.4.25)^ХХ ^ХУ
(10.4.25)
(10.4.25)
JWyx Wrr
имеет распределение (2m+ l)-,IPr+s((2m+1), (10.4.3)) при X=^0(mod л) ы (2m)~l W'r+^m, (10.4.3)) при X = 0(modn). Тогда при Т-*оо величины ц^ЦК), Кр (К), B^’W сходятся по распределению к величинам fly, Ay, бу, которые являются решениями уравнений
W^W^W^yW^Ay^^Ay(10.4.26)
и
W^W^W^W^»^.(10.4.27)
Распределение для ру, / = 1, 2, ..., приводят Constantine (1963) и James (1964). Результаты теорем 10.4.2 и 10.4.3 согласованы. При больших т отождествим, как это делалось в § 5.7,
2m +1 - ^тт-- ",5^ГП•(Ю.4.28)
2 [у- ^,Г) (^-^) ] 2л $ ^ («)2 da
Тогда из теорем 10.2.3 и 10.2.6 вытекает, что p^’W» ^PW и В^^Х) асимптотически нормальны и асимптотическая структура их первых и вторых моментов нам известна.
Дальнейшие свойства канонических переменных
Вначале сопоставим введенные в этой главе канонические ряды с обычными каноническими переменными для векторных случайных величин с действительными компонентами. Пусть X(t, X) и Y(/, X) обозначают составляющие с частотой X соответственно рядов Х(0, ^ = 0, ±1, ..., и Y (t), t — 0, ±1, ,.. . Тогда (см. § 4.6 и § 7.1) векторная случайная величина
(10.5.1)(10.5.1)~X(t, X) "Х^, К)нY(t,X)LYU,X)"J
(10.5.1)
(10.5.1)
имеет ковариационную матрицу, пропорциональную матрице
■ Re fyy (X) Inifjfy(X) Re lyy (X) Im fxr(^)
— ImfxxW Re^xxW Im^xrW Re try W ___ RefyX(X) ImfyX(X) Refyy(X) Imfyy(X)
— Imfrx(X) Ref/x(X) —Imfry(X) Refyy(X)_
(10.5.2)'(10.5.2)'_PxxW* W
(10.5.2)'
(10.5.2)'
"IfyxW* fyy(X)\
При стандартном исследовании канонических корреляций величины (10.5.1) мы стали бы рассматривать собственные значения и векторы матриц, построенных с помощью (10.5.2), точнее говоря, нам понадобились бы собственные значения и векторы матрицы.•
[fyy(Wl/2fyx(X)«[fxx№^•
^yyW-^fyxWfxxW-1^^^(1Q.5.3)
Х(о ¥(0.Х(о ¥(0.В соответствии с леммой 3.7.1 они, по сути дела, представляют собой собственные значения и векторы матрицы ^уу'^ух^хМху^'2- Резюмируя сказанное, можно заметить, что канонический анализ в частотной области ряда
Х(о ¥(0.
Х(о ¥(0.
, t = 0, ±1, .... (10.5.4)
может трактоваться как обычный анализ канонических корреляций для каждой из частотных составляющих рядов Х(/), Y (/) и их преобразований Гильберта.
Возможна и другая точка зрения: считать, что величины, появляющиеся в теореме 10.4.3, получаются в результате канонического корреляционного анализа комплексных случайных величин типа тех, которые рассматривались в теореме 10.2.6. В частности, теорема 4.4.1 позволяет предположить, что если s(T)—целое число и 2лз(Т)/Г~ X^0(mod л), то значения
2л [s (7) + $] Т2л [s (7) + $] Т2л [$ (7) + $]72л [$ (7) + $]78 = 0, ±1,8 = 0, ±1,., ±tn,., ±tn,(10.5.5)(10.5.5)
2л [s (7) + $] Т
2л [s (7) + $] Т
2л [$ (7) + $]7
2л [$ (7) + $]7
8 = 0, ±1,
8 = 0, ±1,
., ±tn,
., ±tn,
(10.5.5)
(10.5.5)
- будут близки к выборке объема 2m +1 из генеральной совокупности
A/£j 0, 2лТA/£j 0, 2лТIxxW fxyWl\JkxW lyyWj/IxxW fxyWl\JkxW lyyWj/(10.5.6)(10.5.6)
A/£j 0, 2лТ
A/£j 0, 2лТ
IxxW fxyWl\
JkxW lyyWj/
IxxW fxyWl\
JkxW lyyWj/
(10.5.6)
(10.5.6)
Следуя указаниям, приведенным перед теоремой 10.2.6, мы пришли бы к величинам типа тех, о которых идет речь в теореме 10.4.3.
Заметим, что читатель, имеющий в распоряжении программу для вычисления на ЭВМ канонических корреляций величин с действительными компонентами, может воспользоваться ею, а не составлять новую программу для комплексного случая, учитывая упомянутое выше соответствие с действительным случаем.
Продолжая наше рассмотрение, мы можем обратиться к статистикам*
аТ (“) = (2л)-1 J А'р (a) exp {ii/а} da (10.5.7) о"
и
Ър (и) = (2л)-1 J Bf- (а) exp {iiza} da, (10.5.8) о
и = 0, ±1, ..., где А*Р (X), Ър (X) суть решения уравнений (10.4.5) и (10.4.6). Эти статистики являются оценками зависящих от времени коэффициентов канонических рядов.
По аналогии с тем, как поступают в многомерном статистическом анализе, мы могли бы заняться определением принимающих действительные значения мер связи между рядами Х(/) и Y (f), таких, как Х-статистика Уилкса
IKl-^/W),(10.5.9)
. i
векторный коэффициент удаленности
2(1-Ру W)(10.5.10)
или векторный коэффициент корреляции
±ПКйй*)-(10.5.11)
Выборочные оценки этих коэффициентов окажутся полезными при проведении оценки степени связи между частотными составляющими рядов X (/) и Y (0 на частоте X.
Miyata (1970) привел пример применения эмпирического канонического анализа к некоторым рядам в исследовании по океанографии.-
Упражнения .
Покажите, что если в теореме 10.2.1 положить q = r, то получаются результаты теоремы 8.2.1, касающиеся множественной регрессии.
Если в теореме 10.2.1 взять Г = 2уу, то критерий (10.2.5) будет инвариантным при невырожденных линейных преобразованиях вектора Y.
Докажите, что при выполнении условий теоремы 10.3.1 справедливо равенство рх (к) = | Ryx М I 2> если s = 1.
Докажите, что при выполнении условий теоремы 10.3.2 справедливо неравенство | р,у (к) |1.
Установите, что при условиях теоремы 10.3.1 канонические когерентности |Лу- (X), /= 1, 2, ..., инвариантны при невырожденных фильтрациях как ряда X (0, / = 0, ±1, ..., так и ряда Y (/), ^ = 0, ±1, ... .
Предположим, что выполнены условия теоремы 10.3.1 и, кроме того, cxxW> cxyW> cYyVu>) — ^ пРи «5^0. Тогда {b (и)} и {с (и)}, указанные в этой теореме, обладают свойством: Ь(м) = 0 и с(и) = 0 при и 0.
Покажите, что когерентность ]7?yxWI2 можно интерпретировать как квадрат наибольшей из канонических корреляций (X (/, X), X (t, к)н} с \¥^ к), ¥(1, к)ну
Докажите, что если сгладить во всей частотной области оценку (8.5.4), применявшуюся в теореме 10.4.3, то предложенный'метод исследования сведется к стандартному анализу канонических корреляций выборочной ковариационной матрицы
СХХ (0) СХУ (0)•
сух (0) cyy (0) J
Допустим, что прежде чем вычислять оцен!Й1 теоремы 10.4.2, ряд домножен на множитель сходимости h(HT). Пусть выполнены условия этой теоремы. Докажите, что возникающие асимптотические ковариации оказываются умноженными на
А (О4 dt^ h^ л]2.
Предположим, что имеется J групп r-компонентных векторов, представляющих данные наблюдений, и каждая группа содержит по К наблюдений. Эти комплексные векторы обозначим буквами Y/^, / = 1, ..., У; 6 = 1, .«.,/(. Пусть
¥у.=/М 2 Yy*.
6=1
.J
2 Yy.,
/ = 1
S^SS^-Yy.) (Yyft-Yy/. / к
Sb = К 5 <Y/--Y") C^T-iM^
Покажите, что линейные дискриминантные функции 0TY, совпадающие с экстремумами отношений 0т8в0/0т8^Р (суммы квадратов, взятых из разных
групп, делятся на суммы квадратов внутри группы), являются решениями определяющего уравнения
(Sb-vS^P^O
при некотором v.
Введем (J—1)-компонентную векторную индикаторную переменную Х = [ХД такую, что Ху=1, если Y входит в /-ю группу, и Ху = 0 в противном случае, / = 1, ..., J — 1. Покажите, что рассмотренный выше анализ эквивалентен каноническому корреляционному анализу величин
Г^'6] , /=1, ..о J; А-1К;
LX/aJ
см. Glahn (1968).
Укажите обобщение этих результатов на случай стационарных временных рядов Nj^y), ^ = 0, ±1, ..♦ .'
ДОКАЗАТЕЛЬСТВА ТЕОРЕМ
■< главе 2
Доказательство теоремы 2.3.1. Следует непосредственно рас- :мотреть соответствующие коэффициенты ряда Тейлора и срав- шть их с выражением (2.3.1). '
Доказательство леммы 2.3.1. Начнем с необходимости усло- шя. Если разбиение не будет неразложимым, то, согласно 2.3.5), разности Ф (г,71)—Ф (r//a), 1 < h =^/2 <//, 1 = 4, -..,1», >удут порождать только величины sm- —sm-, т', т^пц, ..., т№ I не существует способа получить sm’ — sm" при т' = ти ..., mN I т"^тп ..., т№
Теперь о. достаточности условия. Предположим, что Ф(гц) -Ф(г{/), X^k^k^Ji, i = X, ..., I, порождают sm, —sm‘, \ ^.mt^=ma^.M. Но тогда любая пара Pm-, Pm" множеств раз- щения окажется сообщающейся, иначе не порождалась бы разность sm-—sm". Тем самым показана неразложимость.
Продемонстрируем справедливость другой формулировки лем- иы. Если не выполнено свойство неразложимости разбиения, то, з силу (2.3.5), Ф(Г//)-ф(П'/)» (t, П, М-\П^Рт, т = т^ ...,т№ юрождают лишь разности ti — tv, i,V=iv и величины k-tv, i = 4, ..., t0, V =/=4, ..., i0, получить нельзя.
С другой стороны, если ф (г,7) — ф k" г И порождают все вели- гины tj—tv, то должна существовать некоторая последовательность множеств Рт, начинающаяся с I и кончающаяся I'; поэтому все множества сообщаются.
Доказательство теоремы 2.3.2. Проведем индукцию по /. Согласно теореме 2.3.1, имеем при каждом /
'EYi...Yj = '21DVlx...D^, (*)
где Du = cum (Уа1, ..., Ya^. ^=(^1, • • •> ^ и суммирование ведется по всем разбиениям (р^, . ..^^ множества (1, ...,j^^ Кроме того, 1 ‘ '
/ кт
EYv-.Y^EH II x„„ = ScVi...c (**)
т^\ n=\ v
где Cv= cum (Хв1,..., XOm), v= (at, ..., a^ (а обозначают пары целых чисел) и суммирование распространяется на все разбиения множества ^т, п) \т = 1, ...,/;« = !, ..., kmY
Из (*) и (**) видим, что
cum (У\, ..., Уу) =• - Смр 2 ^ц, • •
Здесь 2и берется по всем разбиениям с р^2. Тем самым в этом выражении члены, соответствующие разложимым разбиениям, будут вычитаться, откуда и вытекает утверждение.
Доказательство теоремы 2.5./. Будем писать А^О, подразумевая, что матрица А неотрицательно определенная. То обстоятельство, что fxxW—эрмитова матрица, следует из (2.5.7) и равенства схх(и)т=Схх(—и).
Далее можно предположить, что ЕХ (/) = 0. Рассмотрим
[
т-11 г т-1
2 X (0 ехр {— Ш\ 5 X (0 ехр {— iXt\ . t=oJ L<=о
По построению I‘xx(X)>0, и тем самым EIxxW^O- Математическое ожидание
Т- 1
Е1&(Х) = (2лН ^ (^Т-^ехрЬМсххСл)
«=-т+1
представляет собой среднее Чезаро для ряда fxx(X). Из условий теоремы вытекает, что этот ряд сходится, поэтому из упр. 1.7.10 получаем, что
lim El^(^) = fxxW
Т-с»
и, следовательно, tXxW^^-
Доказательство теоремы 2.5.2. Пусть ЕХ(/) = 0. Рассмотрим
' Т-1
2 Х(0ехр{— 1ХЦ
■ ГТ-1
2о X (0 ехр {— Ш\
при —л^Х<л. По построению 1хх(Х)^0. Далее введем
Т-1
Гхх(Х) = Е1‘хх
1 I м I
1 Т) ехр {-iX«}cXx(«).(*)
Заметим, что и Jxx (X) ^ 0. Из (*) получаем
1
^) схх (u) = j ехр \iXu\ J& (X) dX
-Л
при и = 0, ± 1, ..., ± Т. Последовательность х
$ Ixx^da» —л^Х<л, - -л
матричных мер заключена между 0 и схх(0). Обобщение теоремы Хелли о выборе показывает, что эта последовательность содержит подпоследовательность, слабо сходящуюся к некоторой матричной мере. Обозначим через Fxx (X) предел такой сходящейся подпоследовательности 1(хх (X). Аппроксимируя интегралы конечными суммами, убеждаемся, что
Лл
5 exp {/Хы} J‘xx (X) dX—> J exp{tX«}dFxx(X). -л-л
Помимо этого, из (**) следует, что предел семейства интегралов равен схх Iй)- Отсюда получается (2.5.8).
Выражение (2.5.9) вытекает из обычной формулы обращения преобразования Фурье —Стилтьеса. Приращения Fxx(X) по построению ^0.
Доказательство леммы 2.7.1. Исйользуя свойства линейности и временной инвариантности, получаем
' 31 [Т“е] (0 = exp VM 21 [е] (/) = 91 [е] (t + u).
Полагая / = 0, имеем
91 [е] (и) = ехр \1Хи\ 91 [е] (0),
т. е. (2.7.6), где А (X) = Я [е] (0).
Доказательство леммы 2.7.2. Указанные свойства—это стандартные результаты, относящиеся к преобразованию Фурье абсолютно суммируемых последовательностей; см., например, Zyg- mund (1968).•
Доказательство леммы 2.7.3. Отметим, что
2|а(/-Ы)|Е|Х(и)|<21а(«)|Е|Х(0)|<оо, ии.
следовательно,
E|Sa(Z—u)X(u)]<oo,и
так что сумма 2а(^~м)Х(ы) конечна с вероятностью 1. Стационарность ряда Y (/) вытекает из временной инвариантности операции. '
Далее мы получйм неравенства-
Е | Yb (О р< 2 ... 2 2... 21 «ьл V - «1) •.. »ь, kU - uk) I /1 !k «к икк
xE|X/i(«1)...X/Juft)|'
< sup ЕIX, (0) I* 2 • • 2 2 • • -21 ctbjx Vk)... abj (uA) | <оо, ikк 'к Ul “к'
завершающие доказательство.
Доказательство теоремы 2.7.1. Введем г
Yr(0= 2 a(u)X(Z-u)
.и=-Т
для Т = 1, 2Суммирование слагаемых с Т < | и | ^ Т обозначим символом 2'- Тогда при Т <Т найдется некоторая константа К, такая, что-
E[Yr(0-Yr(0][Yr(0-Yr(0r.
= ^ [2' а (м) ехр {— i'Xu}] fxx (X) [2' a (u) exp {iXu} ] dX
^ к $ [2'а (и) ехР {— ^“П Е2'а (“) ехР {~ *х«}] ^
Выражение справа стремится к Опри Т, Т —> оо согласно (2.7.23). Значит, последовательность Yr(/), 71 = 1, 2, ..., является последовательностью Коши, и предел (2.7.25) существует в силу полноты.
Доказательство леммы 2.7.4. Обозначив
У(0 = ехр{адХ(0,
Н7(0 = 2а(< — u)Y(u),
..V(0=exp{—адч7(о
= 2 ехр {— IX» (t-u)}a(t — u)X (1),и•
видим, что операции действительно линейны и инвариантны во времени. ‘Полагая
Vt^^VliV V2(0 = -ImV(Z), убеждаемся в справедливости (2.7.34) и (2.7.35).
Доказательство теоремы 2.8.1. Векторный ряд Х(/) с г компонентами строго стационарен и имеет кумулянтные спектры !аг--ак0ч»Y(0=2 а(/ —и)Х(и), где а (и) —коэф-
фициенты sxr-фильтра, такого, что 2 (^/(“JIC00» i=Y ••• U--ОО
.. .,s; /=1г. По лемме 2.7.3 ряд Y (/) тоже строго стационарен и существуют его кумулянтные функции d bv. ,bk (on... . ..,yk-iY Тогда
d»,.. ,ьк (yi> • • • > yfc-i)
= cum {У61 (v,), ....Y^^Yb^
= cum< 2 2 «ьи. (yi — ^)xjM^ • » 1/1=1 «!=-оо
22Qbft-Vk-I (vk-i~ uk-i) Xjk-i kak-iV
1к-1=г uk-i=~”
Г oo
. 2 2 a^-u^X,^(*)
<k=x “k=~”
— 2 • • • 22 • • • 2 ^t/t (yi mi) • • •
/1 = 1ik=x“i = -“uk=-<”
^abk-Vh-x (Uk-i — Uk-i) abkjk (— “a)ch- • -ikuk)
= 2 • • • 2 22 y/f.. ./e (“i,m*-i)
/1=1 /ft=lUl=-“
xajv. .^(Ux - Ux, . . . ^k-x — Uk-x),(**)
где
a/i--/A(yi —“iУк-1-«к-1)
= u 2^ “bj, (Vx-Ux-U)... аЬк_ик_г (Pk-i -Uk-x- U) abk/k (— и).
Поскольку аьДй) абсолютно суммируемы, из теоремы Фубини вытекает абсолютная суммируемость ряда a/v. ,jk (ult ...,ик-х)- Следовательно,
2... 2 \aA.../k^-Ui’-»Uk-i — Uk-^C/1-jk^Ux>---«uk-x^<o<=- Ui Uk_t
Оправдано будет и изменение порядка усреднения и суммирования, позволяющее перейти от (*) к (**). Теперь функция d-bv-bk^v • • - 'yk-i) представима как сумма сверток абсолютно суммируемых функций, а потому сама абсолютно суммируема. Значит, ряд Y (/) удовлетворяет условию2.6.1. Выражение (2.8.1) мы получим, применив преобразование Фурье к кумулянтной функции ряда Y (/) и воспользовавшись при этом тем, что рассматривается сумма сверток.
Доказательство леммы 2.9.1. Если X (/)—марковский гауссовский ряд, то X (s +1) — Е IX (s + 0 | X (s)}, t > 0, s ^ 0, не зависит от X (0). Поэтому cov {X (0), [X (s+/)—Е {X ($ + 01X (s)}]}=0, а так как Е{Х (s-H) |Х (s)} = K + X(s)cxx(/)/cxx(0), где К — константа, то
сХх (s + 0 = ^^^р^ при S> * > °’
Это показывает, что
схх (0 = схх (0) [схх 0)/схх (0)У ПРИ ^ > 0.
Для завершения доказательства остается заметить, что Схх^ — —схх ( 0*
Доказательство теоремы 2.9.1. Начнем с того, что при сделанных предположениях Y (0 существует с вероятностью 1, так как'
21 a^t-u^ |Е IХ^) 1+221^ (t-Upt-u^ | ЕI Х;(М1)Х(«2)|+ ...
< Е | X (0 | 21 «1 («т) I + Ё | X (018 21 «2 («1. «,) I + • • • < о» •
ututua
Рассмотрим далее.
cum {У (у,..., Y = 2 • • • 2 2«л («it. • • •. «м) • • •
J1=0 J^u-,
а^ (up,..., u„z) cum {X (it—uu) ...X^- uu), ...,
X^-u^.-X^-u^.
Кумулянты, зависящие от значений X, согласно теореме 2.3.2, являются суммами произведений совместных кумулянтов величин X (t;—uuY Суммы эти берутся по неразложимым разбиениям и имеют вид ■
.' 2 с(Ц-и^; (i, j) ePJ.. .c^i-ии; (i, j) € Рм).
М>1
Поскольку ряд стационарен, куму+янты зависят только от разностей tt—if — Uij + Ui'j'. В силу леммы 2.3.1, среди разностей tt — tf будет I — 1 независимых. Пусть для определенности это tt — tp-.^h-i — tp Полагая fz = 0, мы видим теперь, что 2-2 I cum {У (/,). ..., У (^.j), У (0)} | <.
^ 2 - • • 2 2 - • - 2 21 ал ku\v • • •, ии) • • •
aJ^UI^ • e * ’ ^ZJ/) I 2& (^1 Uij + Uij', . > . , ti-i—-tlI_1j»JrUjj't^1
где g—абсолютно суммируемая функция своих аргументов. Сделав замену переменных
Si=<i — U^ + иц',
убеждаемся, что кумулянты ряда Y (t) абсолютно суммируемы.
Доказательство теоремы 2.10.1. Мы несколько предвосхитим дальнейшее изложение материала. В § 4.6 будет показано, что можно представить ряды в виде 1
X (0 = $ ехр {Ш} dZx (X), У (0 = $ exp {iX/} dZY (X), -Л-л
где
cum \dZx (Х^,..., dZx (X^))
= 'П (^1+ • •• + ^*) fx-• X (^i’ • • - '^kl ^1- • -^Хд, cum \dZy (XJ,..., dZy (Хл)}
= Л (^i + • • • 4- X^) fy... у (Xj, ..., XA) dXi.. ,dXk.
Подстановка этих выражений в (2.9.15) показывает, что
dZy (X) = 2 ^ 1 ‘ * $ Л (ai 4" • • • 4~ ®/—X) Aj (о^, ..., а^)
X ^Zx (ai) -.. dZx («у).
Теперь, применив теорему 2.3.2 и воспользовавшись выписанными выражениями, получаем нужную нам формулу (2.10.10).
К главе 3
Доказательство теоремы 3.3.1. Первое равенство в (3.3.18) получается немедленно. Переписав интеграл в виде
*^Н^А ^X-^da= Уя(а)Г£"да^4-0(п-^)|«г1м
приходим к второму равенству.
Доказательство леммы 3.4.1. Имеем
«ОГТ-1■‘
ДуЧ^= S а (и) 2х(/—м)ехр{— 1ХЦ.
и=- ооL ^ = 0J
оГТ-1 — и —1 Т-Д-и"
= S а (и) ехр {— iXu^ S — 2 + 2
и=~оо]_0=О0 = 0 и=Т
X [X (и) ехр {— tХи}] + 5 а (и) ехр {— 1Хи\
М=1
^A^d^W+e^W,^A^d^W+e^W,[X (и) ехр {— iZv}][X (и) ехр {— iZv}]
^A^d^W+e^W,
^A^d^W+e^W,
[X (и) ехр {— iZv}]
[X (и) ехр {— iZv}]
где | е(Т) (X) | < L У | а («) 11 и | при некотором конечном L, поскольку компоненты Х(0 ограничены. '
Доказательство теоремы 3.5.1. Теорема прямо вытекает из подстановки / = ^Д\ + j2, t = tt + 12Т\ и из того, что ехр {—/2л^}=1 для целых к. '
Доказательство теоремы 3.5.2. См. доказательство теоремы 3.5.3.■
Доказательство теоремы 3.5.3. Прежде всего отметим, что целые числа
^:+...+^, o^/^^-i,(*)
взятые по mod Т, пробегают все целые значения t из промежутка О^^^Т — 1. Поэтому (*) принимает Т1...Тк = Т возможных целых значений. Предположим, что два из них совпадают по mod Т, т. е. при некотором целом /■
4<Г . \tkT TjT . ,ХкТ i im
T, t -Т1 -1- • • • т Тк тц .
Это эквивалентно равенству
(^1—Ti) Т (т2—t») ТTiТ2 ”(^1—Ti) Т (т2—t») ТTiТ2 ”^k-tk>T^k-tk>TТкТкVIT,VIT,
(^1—Ti) Т (т2—t») Т
TiТ2 ”
(^1—Ti) Т (т2—t») Т
TiТ2 ”
^k-tk>T
^k-tk>T
Тк
Тк
VIT,
VIT,
левая часть которого не делится на Tv в то время как правая часть делится. Получено противоречие, следовательно, значения (*) совпадают с целыми t = 0, ..., Т — 1. Утверждение теоремы получается теперь, если рассмотреть по mod Т •
1ДTi1ДTitkT
1Д
Ti
1Д
Ti
Тк •
Доказательство леммы 3.6.1. См. доказательство леммы 3.6.2.
Доказательство леммы 3.6.2. Если подставить в (3.6.11)
Т-1
4Г) (X) = 2 Ху (0 ехр {— t X/},
то получим выражение
^ ... 2 X, М... Xr (Q n.
<1 tr '
- f2л (tr-x—<г + Иг-1)1
• • •1 ( s ; j •
В случае г = 2 отсюда получается (3.6.5), а при |«y|^S—Т имеем (3.6.10).
Доказательство леммы 3.7.1. Утверждение легко проверяется после того, как установлено соответствие (3.7.7).
Доказательство теоремы 3.7.1. См. книгу Bellman (1960).
Доказательство теоремы 3.7.2. Матрица ZTZ неотрицательно определенная и эрмитова. Поэтому ее собственные значения имеют вид р®, причем выберем ру ^ 0. Пусть V обозначает ассоциированную матрицу, составленную из соответствующих собственных векторов; для нее Т?ТМ = VD, где диагональная матрица D = diag{p)}. Допустим, что M = diag{py} имеет размеры sxr. Выберем U так, чтобы UM = ZV. Тогда ясно, что U—унитарная матрица, составленная из собственных векторов ZZT; теорема полностью доказана.•
•е
Доказательство теоремы 3.7.3. Пусть рй обозначает выражение (3.7.11), а ак обозначает (3.7.12). Нетрудно проверить, что Z«ft = №..
Доказательство теоремы 3.7.4. Положим B = Z—А. По теореме Куранта—Фишера [см. Bellman (1960) и упр. 3.10.16]
/ппТх • г ХТВВТХ
где D —произвольная (/ — 1)х J-матрица, а х—любой /-компонентный вектор. Следовательно,
^(ВВт)^(ВВт)^ supDx=0 ATx=0^ supDx=0 ATx=0хтВВтххтххтВВтххтх^ sup^ supхтВВтххтххтВВтххтх^ Н/+£ (ZZT),^ Н/+£ (ZZT),
^(ВВт)
^(ВВт)
^ sup
Dx=0 ATx=0
^ sup
Dx=0 ATx=0
хтВВтххтх
хтВВтххтх
^ sup
^ sup
хтВВтххтх
хтВВтххтх
^ Н/+£ (ZZT),
^ Н/+£ (ZZT),
поскольку ранг матрицыпоскольку ранг матрицыrD 1АтrD 1Ат
поскольку ранг матрицы
поскольку ранг матрицы
rD 1
Ат
rD 1
Ат
не превосходит / + L—1. Проверка показывает, что этот минимум достигается, если взять матрицу А, задаваемую формулой (3.7.19). Таким образом, утверждение доказано.
Доказательство теоремы 3.8.1. См. книгу Bochner, Martin (1948), стр. 39.
Доказательство теоремы 3.8.2. Пространство И+ (/) является коммутативным нормированным кольцом, см. Гельфанд и др. (1960). Пространство 9R максимальных идеалов этого кольца гомоморфно полосе в комплексной области —л<РеХ^л, ImX^O. Если этот гомоморфизм сопоставляет М^ЭЙ число X, то ■
х (М) = 5 о (“) ехр {— /Хм). ■ ■ и=0
Именно так выглядят функции из V+ (/). Наше утверждение вытекает теперь из теоремы 1 книги Гельфанда и др. (1960). Заметим, что можно было бы провести и прямое доказательство.
Доказательство теоремы 3.8.3. Пространство V (/) является коммутативным нормированным кольцом, а его пространство максимальных идеалов гомоморфно интервалу (—л, л] действительной прямой. Соответствие задается следующим образом:
х(М') = 2s(“)exp {— tXw}. U
для всякого максимального идеала М. Величины х (М) являются элементами V (/). Теорема представляет собой следствие теоремы 1 из работы Гельфанд и др. (1964, стр. 82).
Доказательство теоремы 3.9.1. Рассмотрим пространство, состоящее из конечных линейных комбинаций величин X^t-Vs), j = \, ... г, / = 0, ± 1, • • • • Можно снабдить это пространство внутренним произведением, полагая по определению
s .
<ГП У2> = Ит(25+1)-! 2 V^Y^s).
S -> ОО s= —S
Получившееся предгильбертово пространство может быть пополнено. Пусть Н—соответствующее гильбертово пространство. В Н существует такой унитарный оператор U, что
1X^(5) = Xj (/ + $), i = \, ...,r.
Согласно теореме Стоуна (см. Riesz, Nagy (1955)), оператор П обладает спектральным представлением.
U= J exp {iX}dE (X), ' -л
где Е (X)—спектральное семейство проекционных операторов в Н. Это семейство обладает свойствами: Е (X) Е (р) = Е (р) Е (X) = = Е (min{X, р}), Е(—л) = 0, Е(л) = / и Е(Х) непрерывна по X справа. Кроме того, для Kt (0 и У2(/), принадлежащих Н, функция <Е(Х)У1( У2> имеет ограниченную вариацию и
У2> = $ exp {iX} d <Е (X) Ур У2>.(*)
—л
Если ввести Zy(X; s) = E(X)Xy(s), тогда видно, что
Ху(/ + 5) = и(Ху($) = $ exp{iM}dZy(X; s)-Л
в смысле (3.9.6). Из равенства (*) также вытекает, что
тМи) — $ exp {iXu}d<E (X) Ху (s), Xft(s)> -п л .
^ J exp{iXu}d<Zy (X; s), Zft(X; s>.
-Л
Далее, сославшись на теорему Бохнера, мы можем отождествить ОуА(Х), определенную формулой (3.9.4), со скалярным произведением <Zy(X; s), Zk(X; s)>. Остальные утверждения теоремы вытекают из свойств спектрального семейства Е(Х).
Доказательство теоремы 3.9.2. Полагаем
Z5W=^X(0)+2. 2Х (0ехр(-Ш}/(-17), -л<Х<л.
KUKT
В силу (3.9.11) найдется такая Zx(X), что
Л
$ ||Zx(X)|MX<oo “Л
И
Нш J ||zx(X)-zHX)Mx=b.
Г->.00
Возьмем теперь Z (X) так, чтобы выполнялось условие Zx (л) — — Zx(-n)=X(0). Тогда
при / = 0, при /^O.при / = 0, при /^O.г(О
при / = 0, при /^O.
при / = 0, при /^O.
j exp. {Ш} Zx (X) dX = \ exp {in/} ^— X (/)
—51' itit
Отсюда получаем (3.9.13). Обратившись далее к проверке (3.9.15), имеем при и = 0, ± 1, ...
л
Нт ^ Г exp {iua} [Zx (а+е) — Zx (а—е)] [Zx (а+е)—Zx(a— е)]’ da е->0 Z8
= Пт1(2л)-8 f expltua} [ 2бХ(0) + У X (s) exp {- isa}
X [2вХ(0) + У X (/) exp {i/a} ^i^]Tda
= lim (2e)-i (2л)-* ^x (“+ 0 x (0T-—Ду^82^" <s
= тХх(ы),
где mXx(“) задается формулой (3.9.3). Теперь учтем, чтс
Л
Шхх(“) = 5 exp(i«a}dGXx(a),-Л
поэтому (3.9.15) вытекает из теоремы единственности преобразования Фурье—Стилтьеса.
К главе 4
Прежде чем перейти к доказательству теорем 4.3.1 и 4.3.2, установим ряд лемм.
Лемма Д4.1. Если ha(u) удовлетворяет условию 4.3.1 и если ^а' (0 = Ай (//Т) для а = 1г, то
|^ h^IXt + «!)...h^t + ^-J А^ (0 exp {-iX/} - H^..ak (X) | ^^ ( I Mi 1+• • •+| «6-11)
при некотором конечном К.
Доказательство. Рассматриваемая сумма не превосходит
21 h^ (t + «,).. .А^ (* + u^-h?? (О.. .А^ (О 11 h^ (О I
а=Г / ■
при некотором конечном L. Для удобства предположим, что ив > 0. (Другие случаи рассматриваются аналогично.) Тогда, продолжая цепочку, неравенств k-1 иа- 1
<^22 2 1^ + а+1)-А<г,(/ + о)1 a= 1 t у = 0
k — \
^M 2 21 вариация AJ< К (| ut |+ ... + |“а-1 I). 0= 1 D-
получаем нужное выражение.
Лемма Д4.2. Кумулянт, о котором идет речь в теоремах 4.3.1 и 4.3.2, дается выражением'
W-^.a, (2^ + М 2S exp Н (Х1М1 + • • • + Xk_tuk_^ R-S -S
Хса1...аДиг«A-J + sr, где S = 2(T —1) и
I 6r | ^ К 2 • • -2 ( I и11 + • • • + I uk-i I ) I Co ak (ui* MA-1) I -S -Ss
при некотором конечном К.
Доказательство. Кумулянт имеет вид
21 • .2^.’ (^1) • • • ^^(Уехр^ i^Xjtj ^СО|..,а6(^i tk, ..., tk-i — t^
S(k-14
= S._.s.Sexp< — i 2 XjUj ?ca„..aft (Un ..., uk_^
x2^P (/ + uj.. .А^^^ + ы^.,) A^1 (Oexp|—i'2M
Применяя лемму Д4.1, приравняем это выражение sг А-1 ч
2-_. .^ехр| I 2 ^/M/J са1...ак(и1’ • • Ult-x) Н^, ,ак (Xt + . . .
• • • + ^ft) + еТ>'
где ег оценивается указанным выше образом.
Лемма Д4.3. При выполнении условия 4.3.6 ег = о(Т) при Т-^ОО.
Доказательство.
s
Т-Чег|<К2...2Т-Ч1^1 + ...ЧЧ“»-1|)К.^^ -s
Но 7-1(|ы1Ц-...+|иА_1|)—*-0 при Т—юо. Опираясь на (4.3.6), мы можем теперь применить теорему о мажорированной сходимости и убедиться, что У™11 ет | —^ О при 7 —> оо,
Лемма Д4.4. При условии (4.3.10) ег = О(1).
Доказательство очевидно.
Доказательство теоремы 4.3.1. Воспользуемся соотношением /а," • -аь $1, • • • > ^*-1
SГ й-11
= (2n)*-x 2- -Sexp <—i "^XjUj ?с01.. -а^, .. .,uk_^ + o(l);
утверждение вытекает из лемм Д4.2 и Д4.3
Доказательство теоремы 4.3.2. Оно немедленно следует из лемм Д4.2 и Д4.4 и соотношения
t ах...ак0ч»^А-1)
SГ к-\ Л
= (2л)*-*2- ..2ехр<— i 'SAjUj >с а (щ, ...» uH)+O(T-i), -s (1 J я
так как выполнено' условие (4.3.10).
Следующая лемма понадобится нам при доказательстве теоремы 4.4.1.
Лемма Д4.5. Пусть ¥<Г), 7=1, 2, ..., будет такой последовательностью случайных векторов с г комплексными компонентами, что все кумулянты величины {У1Г), Y1^, ..., Y^\ Y^ существуют и стремятся к кумулянтам величины {У^, Yu ... ..., Yr, Yr\, которая определяется своими моментами. Тогда ¥<г> сходится по распределению к величине, имеющей компоненты Yt,...,Yr.
Доказательство. Все сходящиеся подпоследовательности совместных функций распределения ¥<Г) стремятся к совместным функциям распределения с заданными моментами. По предполо-- жению существует только одна функция совместного распределения с такими моментами, отсюда и вытекает указанный результат.
Доказательство теоремы 4.4.1. Вначале отметим, что
Edf ’ (± ^j (Т)) = № (± Х/ (7)) Е Ха (О
г 0при Ху (7)^ О (mod л),
= <• TEXa(t)при Ху(7) = О (mod 2л),
I О или ЕХа (t) при Ху (7) = ± л, ± Зл
Поэтому ясно, что первый кумулянт величины d^ ’ (Ху (Т)) ведет себя требуемым в теореме образом.
Далее отметим, что в силу теоремы 4.3.1
7-i cov ДО (± Ху (7)), dp (± Хк (7))}
= 7_12лД<Г) ( - ^Л.^А^1 .) ?аЬ (± (Т))+о(1).
Выражение в правой части последнего равенства стремится к нулю, если Ху (7) ± Xft (7) ^ (mod 2л). Если же ± Ху (7) = ± ХД7) (mod 2л), то оно стремится к 2л/оЬ (± Ху). Это показывает, что и поведение кумулянтов второго порядка правильно указано в теореме.
Наконец, вновь сославшись на теорему 4.3.1, видим, что
Т-^ cum де (± X/, (7)), ..., dm (± Х,к (7))}
= 7-^2 ^b-^m (± хл (7) ±... ± X/ft (7)) хи^ичт^деде^+о^п-^).
Последнее выражение стремится к 0 при 7 —► оо, если к > 2, поскольку Д<г> (•) ведет себя как 0(7).
Объединяя все эти результаты, мы видим, что кумулянты рассматриваемых величин, а также сопряженных величин, сходятся к кумулянтам нормального распределения. Заключение теоремы вытекает теперь из предыдущей леммы, так как нормальное распределение определяется своими моментами.
Доказательству теоремы 4.4.2 предпошлем лемму.
Лемма Д4.6. Пусть ha(f) удовлетворяет условию 4.3.1, а = = 1, ..., г, и пусть Нт (X) задается формулой (4.3.2). Тогда
при некотором конечном К
если X ^ 0 (mod 2л). .
Доказательство. Предположим для удобства, что h (f) отлична от нуля только при 0^^<7. Используя упр. 1.7.13, получим
Нт „
a^-°h
«=-£д»>(Ч[ЦЧ (^)-ЦЧ(т)
Но | Д^>(Х)|
^l/|sinX/2| и поэтому
1^\(Ч1<щвд?|пЧ (тЬпЧ (4)
к.
| sin Х/21
согласно лемме, применявшейся при доказательстве теоремы 4.3.2.
Доказательство теоремы 4.4.2. Действуя, как в теореме 4.4.1, получим с помощью лемм Д4.6 и Д4.1
Ed^ (± Лу) =£Х (у) ехР {~ ЭД с»
(0(1) при Ху ^ 0 (mod 2л),
I ТНа (0) са + о(1) при Ху = 0 (mod 2л).
Далее из теоремы 4.3.1 имеем
T-icov-ftOiXy), d^ (± Хй)}=Т-12лЯ^(±ХуТХА)/аЬ(±Ху)+о(1), что, согласно лемме Д4.6, стремится к нулю, если Xy±XA^0(mod2n), и стремится к
2л { $ Ад W Нь ^ dt\ fab (± Ху.) = 2пНаЬ (0) U (± Ху),
если ± Ху = ± Xft (mod 2л). Теперь
Т-^ cum {d£> (±ХА), ..., dm (± Х^= T-w W-хнт ^ Xh ±... ±X/ft)xU..flft(±Xyi,...,X/ft_i) + o(T>-^).
Это выражение стремится к 0 при к > 2, так как Hm (X) = 0(Т), и доказатёльство завершается так же, как раньше.
Для доказательства теоремы 4.5.1 мы рассмотрим серию лемм. Обозначим
Я2 = ^h^dt,
от=D Re d^ (X) = 1J | Hm (X - a) + Нт (— X - a) |a f xx (a) da.
Лемма Д4.7. Пусть выполнены условия теоремы 4.5.1, тогда при заданных X, в и достаточно малом a
Eexp^Redx^X^s^expfcArrtl + е)/2).
Доказательство. Первое из выражений, выписанных при доказательстве леммы Д4.2, показывает, что
I cum ^Р (X,), ..., d^ М | ^ 2L4Ck1(*)
где L = sup | h (и) |, a Ck определены в (2.6.7). Тем самым
| log Е exp {a Re d^ (X)} - а2ог/21 < 2 2 L4Ch | а р/&!
Выбрав достаточно малое а, получим нужное неравенство.
Следствие. При условиях леммы ДД.7
Е ехр {а | Re d^ (Ц 1} ^ 2 ехр {а2стг (1 + е)/2}.
Лемма Д4.8. Пусть Xr = ^rlR, г = 0, ..., R — 1, где целое R > 6лГ. Тогда
sup| Red^ (X) |<sup| RedT (X,) | / (1 -^TR-^. Кr
Доказательство. Неравенство следует непосредственно из леммы 2.1 книги Woodroofe,. Van Ness (1967), см. также теорему 7.28 из гл. 10 книги Zygmund (1968).
Лемма Д4.9. При условиях теоремы 4.5.1
Е ехр {asup | Re dx' (X) |} <
^2exp{logR+a22nT t h (и)2 du (1 +e) sup fxx (X)/[2(l—6nTR-1)2].
Доказательство. Интересующее нас математическое ожидание не превосходит
Е ехр {a sup | Red^ (Xr) | / (1—6лТ/?-1)}
<2Еехр{a|Redx’ (Хг)|/(1 - блТЯ"1)}. , г
Отсюда и получается доказываемое неравенство, поскольку сумма содержит R = exp{logR} слагаемых и
or^/sup/:xx(a)l Г |//<r>(a)|2t/a = {supfxx(a))2nT Г h(u)2du. ( a) JJ
Лемма Д4.10. Зафиксируем е,д>0 и обозначим а2 = 2л (14-е) х Х(24-6) T(logT)//2supfxx(X). При выполнении условий тео
ремы 4.5.1 найдется такое К, что
Р [sup I Re<> (X) | > а] < КТ-1"6.
Доказательство. Эта вероятность не превосходит
ехр {—аа} 2 ехр {log R
а22лТ (1 4- в) Н. sup fxx (X) / [2 (1 - 6nTR-‘)2]},
а если взять здесь R = T log Т и
а = а (1 - ^TR-1)2! [2лТ (1 4- е) Н2 sup fxx (X)],
л
то не превосходит
2ехр {— а2 (1 -6nTR-*)2 / [2лТ (1 + е) Я2 sup fxx (Х)Д
х exp {log Т + log log 7}.
Последнее выражение меньше либо равно КТ-1-6 при указанном выше выборе а.
Следствие. При выполнении условий теоремы 4.5.1
iim sup I Re d^ (X) | / (7 log T)1/» ^ (2л $ A. (Z)2dt sup fxx (X))1/1
с вероятностью 1.
Доказательство следует из леммы Бореля — Кантелли [см. Loeve(1963)] ввиду произвольного выбора е и 6 в лемме Д4.10.
' Доказательство теорему 4.5.1. Можно сформулировать следствие, аналогичное только что рассмотренному, и для Imdx^X). Тогда доказательство вытекает из того, что
|d^ (X) |<| Red^ (X) | + | Imd^ (X) |.
Доказательство теоремы 4.5.2 вполне аналогично доказательству теоремы 4.5.3, к которому мы теперь перейдем. Отличие состоит лишь в том, что вместо основного неравенства следующей леммы надо применить такое:
Icum^XJ, .... ^>(Ш<М*СА.
Доказательство теоремы 4.5.3 представим в виде цепочки лемм.
" Лемма Д4.11. Предположим, что функция А (и) имеет конечный носитель и производная ее равномерно ограничена. Пусть
^ (X) = dy * (X) — А (X) d‘x' (X).
Тогда
Icum^fXO, .... ^(X*)H<7-*+W*C* при некотором М.
Доказательство.
dy} (X) — А (X) dx ’ (X). .
= 2 А(Г) (0 2 а ^ ~ и)Х (и) ехр {— iX^} tУ
- 2 Л(Г) (о X (0 ехр {— Ш} 2 а (“) ехР {~ *М
= 2 \Ат («+и)—Л(Г) (и)] а (и) X (и) ехр {— IX (и+и)}. и,У
Поэтому
cum{^>(M. ...» ^>О
= 2 ••• 2 WT4^A-^-hlT4^Y^T4^^
UvVt Uk’yk^
X exp {— i 2 ^j ^ + V/)} 2 • • • 2 Яал (“i) • • • %bk (uk)
XCav..akkVi-Vk> Vk-l—VkY
Ую^лъ этого выражения не превосходит е
222 |«x|7’-1l...|«Jt^
**• Wt uk_i.wk_1 uk. Wk
X2...2I aaibl (Ux).. .a„bk (uk) 11wk_^ [
bk
^ Т-к*гМкСи
при некотором конечном М (здесь L обозначает константу, ограничивающую производную функции Л (и)).
Лемма Д4.12. При достаточно малых а, можно указать такое число L, что
Е exp {a Re ^ (X)} ^ exp {o^L/T}.
Доказательство. Из предыдущей леммы получаем, что при малых | ос | найдется такое конечное L, что
| log Е exp {a Re ^> (X)} | С 2 T-^MkCk | a \k!k\ < Т"11a |8L.
Лемма Д4.13. Пусть Xr=2wlR, г = 0, ..., R— 1, где R— целое число, R > 12лТ. Тогда существует такая константа N, что sup I £? (X) |< sup I ^ (Xr) I / (1 - \2^TR^HNT^ sup I d<p (X) |.
Xr
Доказательство. Пусть
т
A<r> (X)= 2 a(«)exp{—iXuY
u= -T
Тогда из (4.5.8) вытекает, что при некотором К | А(Х)-А<Г> ^ХС.КТ-Ч
Далее можно представить 5<Г) (X) в виде
{d*^> (X) - A<r> (X) d^> (X)} + {A<r> (X) - А (X)} d'P (X).(*)
Первый член этого выражения является тригонометрическим полиномом порядка 2Т. Поэтому, в силу леммы 2.1 книги Wood-
roofe, Van Ness (1967),
supItd^W-A^Wd^WLl
sup I №> (M - NT4Xr) d‘^> (Xr)]81 / (1 - 12лТ/?-1)
< sup I&г> (Xr) I/ (1-12лТЯ-1) + KT-1 sup\dT (X) |/ (1-12лТ^-*).
XX
Отсюда и из.(*) последует указанное в лемме неравенство.
Лемма Д4.14. При выполнении условий теоремы 4.5.3
Eexp{asup|&r>(X,)|/(l-12n7V?-i)}’
< 2 exp {log R-Va^LT-1! (1 - 12л77?-1)2}.
■Доказательство. Достаточно применить лемму Д4.12 и учесть, что sup берется по конечному множеству из R элементов.
Лемма Д4.15. Пусть выбрано число 6>0 и а2 = 4£(2 + 6)х
X log Т/Т, тогда при выполнении условий теоремы 4.5.3
Р [sup I &г> (Xz) I / (1 - 12лТ^-1) > а] < КТ-1 -« Г
при некотором конечном К-
Доказательство. Положим R = Т log Т и .
аТ tX-V^TR-^
Тогда интересующая нас вероятность не превосходит
2 exp {log Т + log log Т -а^ (1 - 12л?/?-1)2 / (4L)}.
< К exp {log Т - (2 Н- 6) log Т} < КТ-1-».
Следствие. При условиях теоремы 4.5.3 найдется такая константа К, что
Пт sup | ^г> (Хг) | /[(1 — 12ЛТ/?"1) Т-1/» (logT)1/2]^
Т-^оо г
с вероятностью 1.
Доказательство теоремы 4.5.3 следует из теоремы 4.5.1, предыдущего следствия и леммы Д4.13..
Доказательство теоремы 4.5.4. Согласно упр. 3.10.34(b),
dx* (X) = (2л)-1 $ dT (а) А<г> (X —a) da.
о
Пусть к — положительное целое число. По неравенству Гёльдера
l^’WI '"2л‘<2л-! J |d(/> (a^da_оl^’WI '"2л‘<2л-! J |d(/> (a^da_о1/2^1/2^"2л'$ d^ (a)Mx’ ^ — a^da-0■,"2л'$ d^ (a)Mx’ ^ — a^da-0■,"2л,J lAm^-a)!2^^-1) da _о"2л,J lAm^-a)!2^^-1) da _о1/2/?1^Тх^к1/2/?1^Тх^к(26- 1) /26(26- 1) /26
l^’WI '
"2л‘
<2л-! J |d(/> (a^da
_о
l^’WI '
"2л‘
<2л-! J |d(/> (a^da
_о
1/2^
1/2^
"2л'
$ d^ (a)Mx’ ^ — a^da
-0■,
"2л'
$ d^ (a)Mx’ ^ — a^da
-0■,
"2л,
J lAm^-a)!2^^-1) da _о
"2л,
J lAm^-a)!2^^-1) da _о
1/2/?
1^Тх^к
1/2/?
1^Тх^к
(26- 1) /26
(26- 1) /26
при некотором конечном К в силу упр. 3.10.28. Из теоремы
2.3.2 и формулы (*), фигурирующей в доказательстве леммы
Д4.7, следует неравенство•
Е]^' (а)|2*<МТ*
при некотором конечном М. Поэтому найдется такое число N, что.
E[sup|dx’ (^) |]2ft^ 7VT*+S.х
Тем самым
Е [T-v.-eSup ^m (X) |р^ NT-We-ч,.
А так как- ^Т-^*8"1) < оо при достаточно больших к, то отсюда вытекает результат теоремы.
Для доказательства теоремы 4.6.1 вначале рассмотрим лемму.
Лемма Д4.16. Допустим, что ряд Х^, / = 0, ± 1, ..., удовлетворяет условию 2.6.1. Пусть также
' 2nZ^> (X) = 2 х (0 ( ехр {—1«0 da.■
t=-T $
Тогда
lim cum № (XJ,ZTQ4Xk)\
Ту-* 00I)
Xi xk k
= $$ n(Saz )/«,...»„(«!, .... ak_x^ dav . .dak
•00\ 1/
при av .... ak=l, r\ к =2, 3, ... .
Доказательство. Кумулянт можно представить как- произведение (2л)-* на интеграл'
X,^к Г,Тк
€2•••2 ^•••о*(^1^к' ^k-i ^к)
оо /.=-Лtk=-Tk
{
к AXt ^к 2л 2л
—t 2“Л р«1 • • • dak = J ... J J ... J fa,...ak$v 1* о о о о
Pa-i)SSexpli^^-aJ+.-.+t^.j^.j—a^.J-
—И Ф1+ • • • +РА+ал)}^а1- • -da^i.. .d^k_v
Указанный в лемме предел получаем, заметив, что чт
Нт (2л)-1 2 ехр {«у/} = г] (у),'
т -* ®t=-T
где т](-) является периодическим расширением 6-функции Дирака; см. упр. 2.13.33.
- к
Следствие. Если 2 Ху = О (m°d 2л), то
lim cum№4^-Z£^Z^^-Z^MX-O.
Доказательство. Кумулянт является суммой слагаемых вида ± cum ^s или л (М, z<s или Л М| , и, согласно предыдущей лемме, каждое из них стремится к одному и тому же пределу (с точностью до знака!). Поэтому сумма имеет* предел 0..
Следствие, limЕIZ ^ (X) - Zf' (X) р* = 0 при к = 1, 2, ... .
Доказательство. Можно записать момент как сумму кумулянтов того же вида, что и в последнем следствии. Каждый из этих кумулянтов стремится к 0, откуда и получается требуемый результат.
Доказательство теоремы. 4.6.1. Последнее следствие показывает, что последовательность Z^'(X), Т=1, 2, ..., является последовательностью Коши в любом пространстве Lv, v > 0. Эти пространства полны, поэтому в каждом из них существует предел Z^Y *.
Для завершения доказательства заметим, что выражение
получается из леммы Д4.16.
Доказательство теоремы 4.6.2. Рассмотрим
М-\
NN- тц^=2п £ exp{i2nn^} [z^> ( ^LMIL)—Z^) (^)]- Тогда
2л
( exp {Ш} dZx (%) = l.i.m. l.i.m. A<w- r> (0- "Л7 -* 00 T -> 00
Кроме того,
E(Xe(OZar>(A)} = 2 саД1 — u) [1 — exp{—iXuYVQ-in) (2л) u=-T
X 2 лу
= $$ faa^) 2 exp {$(Z —u) —tau}da4V(2n)
о оu=-T
X
$ faa (—a) exp ^—iat\da.
0
Отсюда видно, что
' 2л
EE■Xe(0 J exp^OdZJX) о
E
E
= l.i.m. l.i.m.E{Xe(0 А1^ т> (/)}
N —> оо Т —> oo
2 N~\2л(л+1)/М
= lim -^- У, exp {i2nntlN} J faa (—a) exp {—1аЦ da
^ "^ °° n = 0^nnfN
2л
= $ Lak-^ da =EXa (08. о
Аналогичным образом можно показать, что
_2л*12
= ЕХ (О’.= ЕХ (О’.exp \ИЦ dZa (А)
= ЕХ (О’.
= ЕХ (О’.
_о
Из двух последних равенств выводим, что
2=0,2=0,■2л
2
=0,
2
=0,
Е Хй(0~$ ехр\Ш№(Х)о
и, следовательно, с вероятностью 1
2Л
Ха (О = $ ехр {Ш} dZa (X),о
/ = 0, ± 1, ..., т. е. получено нужное представление.
Доказательство теоремы. 4.7.1. Мы можем записать
E{(Y—В —Cg)T (Y-B-Cg)}
= tr [cov {Y—Cg, Y-Cg}] + (EY - B—CEg)T (E Y - В — CEg).
Минимум этого выражения, рассматриваемого как функция В, достигается при
B = EY + CEg/
Но тогда
tr[cov {Y —Cg, Y —Cg}]
= tr [Sy у - CASy у—Sy у ATCT + CASyy ATCT]
= tr [(Syy CASyy) (S& — CASyy)T].
Согласно следствию 3.7.4, минимальным этот след окажется, если положить, используя обозначения из доказываемой теоремы,
кк
с а- 2 p/'UyU^Sy^ = 2 uyuj.
/=1./=1
Тем самым утверждение установлено.
К главе 5
Доказательство теоремы 5.2.1. Мы имеем
EI& (X) = (2ЛТ)-1 cum {d? (X), dT (—X)} + (2л?)-11 Ed}? (X) |а
= (2лТН s’ exp{-iX(S-<)}Cj^s-0 + (2nT)-4Am(X^^ s, /=0
Выражение (5.2.6) получается теперь заменой
Л
сХх№ = $ exp {toetz} fxx (a) da.
-Л
Доказательство теоремы 5.2.2. Поступая так же, как при доказательстве теоремы 4.3.2, получим с учетом (5.2.7) соотношение
cum \d^. (X), d^ (-Х)} = 2nTfxx (X) + О (1),
и (5.2.8) непосредственно следует из приведенного выше выражения (*).
Доказательство теоремы 5.2.3. Прежде всего заметим, что
$ \H<T4a)Vda = 2n^h(^rY.
-Л/,'
Далее, имеем'
cum ^Р W. ^ (~М
= X ехр Н1^ <s ~ ^ h (т) h (т) схх <s - о s, /
= $ £ехр{— iX<s—t^h (^\h (y)exp{ia(s—0}fxx(a)d« - л s, t'
- $ |^)(X-a)Pfxx(a)da.
- Л
Выражение (5.2.17) вытекает из того факта, что
/ гУ1
Wx^A S l^(r)(a)l2d« . cum {^> (X), ^>(-Х)} Х-Л'
+ ( $ | нт (a) р ^ | нт (%) р ^ \-л/
Доказательство теоремы 5.2.4. См. приведенное ниже доказательство теоремы 5.2.5.
Доказательство теоремы 5.2.5. Из теоремы 4.3.2 имеем соотношение.
COV № W <’ (~^ 4Г) (и) ^ (-Н)}
= (2n)3Tfxxxx(X, -X, р) + 0(1)
+ [А<г) (X) fx + О (1)] [(2л)^А(П (_Х) fxxx (-%, р) 4- О (1)]
4-три подобных члена
+ [A(r>(X)fx4-O(l)J[A(r)(p)fx 4-0(1)].
х[2лАт(-Х-р)/хх(-Х)4-О(1)1
4-три подобных члена
4-[2лД(П (Х4-р) Гхх (%)4-0 (1)] [2лД<П(-1_р)^(_%)+0(1)]
[2лД<г> (Х-р) fxx (X) 4-0(1)] [2лД(П (-Х + р) fxx (-Х) 4-0(1)],
дающее нужный результат.
Теперь сформулируем результат, который потребуется в еле. дующем доказательстве, а затем и в других.
Теорема Д5.1. Пусть последовательность r-мерных векторных случайных величин Хг, Т= 1, 2, ..., сходится по распределению к случайной величине X. Пусть g: Rr—*RS является s-мерной векторной измеримой функцией, множество разрывов которой имеет меру X относительно 0. Тогда последовательность s-мерных векторных величин g(X(n), Т=\, 2, ..., сходится по распределению к случайной величине g(X).
Доказательство. См. Mann, Wald (1943а) и теорему 5.1 у Billingsley (1968).
Нам потребуется также и связанная с этой
Теорема Д5.2. Пусть последовательность r-мерных векторных случайных величин рТ^т— ц). Т = 1, 2, ..., сходится по распределению к АДО, 2). Пусть g: Rr—*RS есть s-мерная векторная функция, дифференцируемая в окрестности ц и имекпцая sxr-матрицу Якоби J в р. Тогда последовательность V7 (g(Yr)— — gW) сходится по распределению к Ns(0, J2JT) при Т—^оо.
Доказательство. См. Mann, Wald (1943а, b) и Rao (1965, стр. 321).
Следствие Д5.2 (действительнозначный случай). Пусть VT{NT-p), 7 = 1,2, ..., сходится по распределению к N (0, о2). Пусть g; R—*R в окрестности р имеет производную g'. Тогда при Т —^оа
PT(g(YT)-g(p))-^N(0, [g'^jV).
Доказательство теоремы 5.2.6. Теорема 4.4.1 показывает, что Re dp (Ху (7)), Im dP (_kj (Т)) суть асимптотически независимые переменные с распределением N (0, лТ[хх(ХД). Из теоремы Д5.1 следует, что
iP (Ху (7)) - (2л7Н {[Red^ (Ху (7))]2 + [1т йР (Ху (7))]2}
имеет асимптотическое распределение fxx (Ху) %|/2. Асимптотическая независимость для различных значений j выводится таким же способом из асимптотической независимости dp (Ху (7)), / = Ь ..., J.
Доказательство теоремы 5.2.7. Эта теорема вытекает из теоремы 4.4.2, подобно тому, как теорема 5.2.6 вытекает из теоремы 4.4.1.
Доказательство теоремы 5.2.8. Из теоремы 4.3.2 следует, что cov W (X) d^ (-Х), <> (И) d^ (-р)}
= V№P (Х + р) fxx (X) 4-0 (1)][2лЯ^(-Х-р) fxx (X) + 0 (1)] + [2лЯр (Х-р) fxx (X) + О (1)] [2л/^ > (-Х-р) fxx (X) 4-0(1)] WWT>(0)fxxxx^, -X, Р)4-0(1).
Нужный результат вытекает из соотношения
№> (0) = 2 h (т) г~Т j*h (“)'йа-
Доказательство теоремы 5.3.1. Эта теорема является непосредственным следствием упр. 4.8.23.
Доказательство теоремы 5.3.2 вытекает непосредственно из теоремы 4.5.1 и определения 1хх(Ц-
Доказательство теоремы 5.4.1. Эта теорема прямо следует из соотношения (5.2.6) теоремы 5.2.1 и определений АТт (X), ВТт Q^, СТтЩ. Следствие вытекает из теоремы 5.2.2.
Доказательство теоремы 5.4.2 следует из теоремы 5.2.4.
Доказательство теоремы 5.4.3 следует из теоремы 5.2.6.
Доказательство теоремы 5.5.1. Эта теорема следует из соотношения (5.2.6), теоремы 5.2.1 и определений ДГ(Х), ВГ(Х), СГ(Х). Следствие вытекает из теоремы 5.2.2.
Доказательство теоремы, 5.2.2 следует из теоремы 5.2.4.
Доказательство теоремы 5.5.3 следует из теоремы 5.2.6 и
теоремы Д5.1.."
Нам потребуется при доказательстве нескольких теорем следующая лемма.
Лемма Д5.1. Если на отрезке [0, 1] функция g(x) имеет ограниченную полную вариацию V, то
£п£п1. п
£п
£п
tg(x)dx—n-l£ gto
оk =1
Доказательство. См. Polya, Szego (1925, стр. 37); соответствующая ссылка имеется у Cargo (1966). Если функция g дифференцируема, то правая часть может быть заменена на ^ |g' (х) \dx/n.
Дополнительные результаты содержатся в упр. 1.7.14 и 5.13.28.
Доказательство теоремы 5.6.1. Первое выражение в (5.6.7) следует непосредственно из соотношения (5.2.8) и определения (5.6.1)..
Если мы воспользуемся приведенной выше леммой, чтобы приблизить возникшую сумму интегралом, то увидим, что
2л
Е/m (Х)= $ wm^-aHxx^da + Оф^Т-^о
= J B^W (Bf1^-®]) fxx(a) da+O (Вт1?-1).
Это даст последнее выражение в (5.6.7).
Доказательство теоремы 5.6.2. Пользуясь теоремой 5.2.5, получим для нужной ковариации выражение
№Y Ё Ё Wmk_^\ wmU-^'' r= 1 ks=i\/x/
X [ti {-^ (s + r)} + n ^ (s-r)}] fxx ^ + O (T-1), которое приводит к первому соотношению. Мы получим из него второе соотношение, заменив сумму интегралом и применив лемму Д5.1..
Доказательство теоремы 5.6.3. См. доказательство теоремы 7.4.4.
Доказательство следствия 5.6.3 вытекает из теоремы 5.6.3 и следствия Д5.2.
Доказательство теоремы 5.6.4. См. доказательство теоремы 7.7.1.'
Доказательство теоремы 5.8.1. Ввиду (5.8.7) и того, что | А(Г) (м) |< 1, имеем..
^ К^ (a) fxx (X—a)da= (2л)-1 ^k^ (и) схх (и) ехр {—1'иХ} -я“
■= ^"l |В|< ТСхх^ ехр 4-0 <Т-ру
Это в свою очередь равно
(2л)-1/1+^1Д-+...+^_1^1 + о(М^)1
X СХХ (и) ехр {—1иЦ + О (Т~р),
что приводит к нужному результату, поскольку
(2л)У upcxx (и) ехр {-шХ} = 1р + О <Гр-Ру 1« К т
Доказательство теоремы 5.8.2. Первое из соотношений в (5.8.18) следует непосредственно из определения fxxW и соотношения (5.8.9). Второе соотношение получается из первого, если пренебречь всеми членами, кроме первого, и применить лемму Д5.1.
Доказательство следствия 5.8.2 получается подстановкой разложения Тейлора
p-х р
Гхх (X—«) = hx W + Еf^ (X) + О (I а |Ч
р = 1
во второе соотношение из (5.8.18).
Доказательство теоремы 5.9.1. Ниже мы будем писать X' вместо X—ср. Имеем
Т- 12л
# Е Vm ( X—^ /Л (^ — ( W> (X—а) 1фх, (а) da
sal'О
Г-1 2n[s + l]/T
= Е $-у» (х—^I^f^ — Wm(X-a)I^xAa)\da
s = 1 2ns/T I \/\/J
2л/Т
+ J W<T4X—a)ipxpa)da о
= ЕУ {[^ (^—у^) —^(Г)(^-а)] /$ (^)
+ Г<г)(Х_а) |ут
+ J W4X—aVPxA^da. о
Нужный результат мы получим теперь следующим образом:
^^rVfxx^+0(T"^’
Е J sup|117<n (x-^)-W> (X-a)|da = O№1),
s = 1 2Л5 . . 2л I s+ 1 I'
■T
£[/$(¥) — ^x- («)] = 0 (^-1) для ^ < a < ^'-^И,
D [^(^J-^X'^j^0^*2) для ^-r^^^f^-»
что дает
E\l^^_imxAa^ = 0 ^ для ^<а<*Ц:
и, наконец,
Е/^., (а) = О (7-1) для 0^а^2л$/7.
Доказательство теоремы 5.9.2 получается непосредственно из теоремы 5.3.1. ■
Доказательство теоремы 5.10.1. Как следует из теоремы 5.2.2, для целых s, s^0(mod7),
E/m(^)=/^(^-s)+0(T-i).
Это дает первую часть (5.10.12). Вторая часть следует из леммы Д5.1.
Далее, по теореме 4.3.2 covpm^), J^^
=т~4т^А<^^Ак {[2лЛ<Г) Р^^М^Х00)]
X ^2лА<г> (2^1=^1) }хх ^) + о (1)]
+ [2лА(П (?Ц=£1) fxx ( ^) + О (1)]
X ^2лА(Г> (?^Ы121) fxx ^^ + О (1)]
+ ^»Tfxxxx^, ^, —^) + 0(1)}
Г-1
Т- 1
. / 2л „/ 2лг \ * (^sX г / 2лг 2ns 2лг \
^^J 1.2-лЛ“ЛЧ'ГЛ™ k~’—Т)
-vo<r-^,
что дает соотношение (5.10.13).
Обратимся к семиинвариантам высших порядков. Мы имеем cum 1ЛтЦАи
т-i Т-1
= (^Y E---Z Л.(^)"^//^)(2лП-д
Sj — 1$£= 1
x cum / dsp —L..., L/m _k
= r-^£ ...^Д/, ^y..AiL /2л^\^[(2л)*.-1Д(П
(2n)V1A<n/^L^’±s.yxx/^.; /€v3+0(1)1,
где внутренняя сумма распространена на все неразложимые разбиения таблицы
Принимая во внимание линейные ограничения, введенные для функций ^т\ мы видим, что главный член этого семиинварианта имеет порядок T~L + 1.
Рассматривая теперь переменные ТМ^ (Лу), / = 1, ..., «/, мы видим, что все их совместные семиинварианты, порядок которых выше 2, стремятся к 0. Это означает, что указанные переменные асимптотически нормальны.
Доказательство теоремы 5.10.2 проводится так же, как и доказательство теоремы 5.9.1.
Доказательство теоремы 5.11.1. Чтобы избежать громоздких алгебраических выкладок, проведем доказательство только в случае J = 1. Общий случай рассматривается аналогичным образом.
Моделью здесь является
X(0 = W) + e(0, и оценка наименьших квадратов такова:
6(7) = 2* X (о ф (о / 51 Ф№=е+2 8 (,ПФ(№ ф (О2-
/ = о1 t=о
Поскольку Ее (t) = 0, из последнего выражения видим, что Е6<г> = 9. Кроме того,
D {2 е (О Ф (0} = S S с“ ^1 ~ ^ Ф (W Ф kQtv
Т-\'Т-1 Ml
= 2 с6В(«) 2 Ф(^+«)Ф(О- и=-Т*1/ = 0
Как следует из критерия сходимости ограниченной последовательности,
Nт^О {2 6 (О Ф (0} —► S Сев (и) ГПфф (и) = 2л 5 /ее («) d Оф* (а). и
В то же время
^г-.2ф(08^^(0),
поэтому
^ГD 0<г>^ГD 0<г>2л J fee (а> ^ФФ (а)
^ГD 0<г>
^ГD 0<г>
ГПфф (О)2
как и указано в (5.11.20). Для случая семиинвариантов высших порядков видим, что
cumt {2 8 (0 Ф (0} = 2 • • • Sce...e(0—tL, . . .,О)Ф(О)- • -Ф^д
ft Ч
т-\т-\
^=-7 + 1^=-7 + 1се...е (^i>^£-1)
^=-7 + 1
^=-7 + 1
м£_1=-Т + 1
х 2 Ф kt + «О • • • Ф kt + uL_t) ф (0 = О (NT)
согласно второму из условий 5.11.1. Отсюда вытекает, что для
L>2‘
cum£ ^У^в^} = NL? cum {2 s (О Ф (0/2 Ф ^
= 0(A/t/2+1~L)^0
при Т—*оо, поэтому, как и утверждает теорема, 6(Г) асимптотически нормальна.
Рассмотрим теперь статистическое поведение /£р (X). Поскольку d^ (X) = (0^>— 6) 4Г) (X) + 4П (X),
имеем
№ (X) = (0<г> - О)2 ^ (X) + (о^> _ е) /<р (X)+ кОт-ОМ£ т№ (X).
Далее, для некоторых конечных М и М'
I ft? (X) | < мвтт-» 214Г) (^-s) |а
S
= МВУТ^Т 2 ф (О2 < М^ВУТ"^,
в то время как для некоторого конечного N
а 2лгл ^
s
XX2л (г — s)Т2л (г — s)Т
X
X
2л (г — s)Т
2л (г — s)Т
Таким образом, Е|/^(Х)|С N'T^ByNT
для некоторого конечного N*, поэтому
что с учетом теоремы 5.6.1 дает (5.11.21). Из этих неравенств следует также соотношение
кВтТу^ уЪ (X) = фтту^ ® ^-Vop (1),
показывающее, что асимптотическое распределение ДР (X), такое же,- как и полученное в теореме 5.6.3 распределение Др (X). (Обозначение 0^(1) введено для величины, стремящейся к 0 по вероятности.)
Асимптотическая независимость 0(П и Др (XJ, ..., Др (ХА) получается из рассмотрения совместных асимптотических семиинвариантов.
К главе 6
Доказательства теорем 6.2.1 и 6.2.2. Эти результаты являются классическими. Доказательства можно найти, например, в монографии Kendall, Stuart (1961, гл. 19).
Доказательства теорем 6.2.3 и 6.2.4. Мы получим эти результаты как следствия теорем 6.2.1 и 6.2.2, переписав (6.2.6) в виде
рассмотренной в этих теоремах модели
[Re Y Im Y] = [Rea Ima][Re Y Im Y] = [Rea Ima]‘ReX ImX'— ImX ReX‘ReX ImX'— ImX ReX+ [Ree Ime].+ [Ree Ime].
[Re Y Im Y] = [Rea Ima]
[Re Y Im Y] = [Rea Ima]
‘ReX ImX'— ImX ReX
‘ReX ImX'— ImX ReX
+ [Ree Ime].
+ [Ree Ime].
Доказательство теоремы 6.2.5 непосредственно вытекает из указанных в теореме 6.2.4 свойств а.
Доказательство леммы 6.3.1. Справедливо соотношение
ООГТ-1'4Рф) = 5 8 (u) 2 X (/—и)ехр{—ф/} U = — оо_ / = 0.ООГТ-1'4Рф) = 5 8 (u) 2 X (/—и)ехр{—ф/} U = — оо_ / = 0.О= 5 а(и)ехр{—фи} и= — ООО= 5 а(и)ехр{—фи} и= — ООГТ-1 -«-1 Т-1-ыТГТ-1 -«-1 Т-1-ыТ2- 2+ SU=0 U = 0 UecT2- 2+ SU=0 U = 0 UecT[Хф)ехр{—фи}][Хф)ехр{—фи}]
ООГТ-1'
4Рф) = 5 8 (u) 2 X (/—и)ехр{—ф/} U = — оо_ / = 0.
ООГТ-1'
4Рф) = 5 8 (u) 2 X (/—и)ехр{—ф/} U = — оо_ / = 0.
О
= 5 а(и)ехр{—фи} и= — ОО
О
= 5 а(и)ехр{—фи} и= — ОО
ГТ-1 -«-1 Т-1-ыТ
ГТ-1 -«-1 Т-1-ыТ
2- 2+ S
U=0 U = 0 UecT
2- 2+ S
U=0 U = 0 UecT
[Хф)ехр{—фи}]
[Хф)ехр{—фи}]
+ 2 а (и) ехр {— фи} 2+2—2 [X Ф) ехр {— фф]
U=1L 9=0 У = -и и=Т-и_
= Аф) аРф)+е<г>ф),
в котором | е^ ф) | ^ 4/п 2а I «а (и) | в силу ограниченности значений X (1). Отсюда заключение леммы вытекает непосредственно.
Ниже нам понадобится ,
Лемма Д6.1. Для произвольных 1 х М-матрицы Р и г х М-матрицы Q выполняется неравенство
IIРФ (ОФ)-11|<IIРРТ 111/г IIОФ)-1 IP ■
Доказательство. Прежде всего запишем неравенство Шварца в матричной форме
РРТ>РФ (ОФ^ОР*.
(Это вытекает из достижимости минимума в теореме 6.2.1.) Отсюда получаем
|| РГ || > || Рф (ОФ) -1 QPX || > || РФ (QQX) - ^||\
Далее,
||РФ (ОФ)"1 II<II Р0т (00х)-1/2 НИООТ)-1/2 II,
откуда и следует результат.
Доказательство теоремы 6.4.1. Поскольку Ее(/) = 0, выполняется соотношение ЕА(Г) (X) = fj?x Wf® W-1- Подставим сюда
выражение
л 4* / 2л [s (71)-}-s] \/2л [s (T) + s]\
f& (X) = (2m 4-1)-1 £ A ( -l V T ) V& ("T^~) +G«r>.
s= —m
Здесь по лемме Д6.1
||G<n® (ьг^кт-^^ (X)->||1/2,
поэтому справедливо (6.4.9).
Прежде чем мы приступим к доказательству теоремы 6.4.2, докажем лемму, являющуюся некоторым обобщением результата Billingsley (1966).
Лемма Д6.2. Пусть ТУ1"*— последовательность q-мерных векторов, сходящихся по распределению к Ng (О, 1) при Т—-ео, a Um—последовательность унитарных qxq-матриц. Тогда U(r>Zir) также сходится по распределению к Ncq (0, 1).
Доказательство. Рассмотрим некоторую подпоследовательность Z(7-,) из 2(Г|. Поскольку группа унитарных матриц компактна [Weyl (1946)], U(r'> содержит некоторую подпоследовательность 1Н7""*, сходящуюся к U. По теореме Д5.1 и(Г"> Z<r"> сходится по распределению к LW£ (О, I) = N, (0, 1). Из этого следует, что всякая подпоследовательность U(Z">ZIГ, имеет подпоследовательность, сходящуюся по распределению к N^ (О, I), поэтому UlT)Z(r) также должна сходиться к N^ (0, 1).
Доказательство теоремы 6.4.2. Рассмотрим сначала X, входящие в случай Л. Как следует из леммы 6.3.1, для s = 0, ± 1, ..., ± т выполняется соотношение
dm (?±[£О1+£1) „ д (;^lLL1I2+^ d% • (2л ts^+^
+ d<T) (2л [s (T)+J) +0 (1)
= А (X) dP (2М£ф±£1) +dp (2л[$^)±£]) + 0(1)
с равномерным по s (в силу равномерной ограниченности первой производной А (X) и справедливости соотношения | d^p (а) || = О (Т)) остаточным членом 0(1). Написанное выше выражение полезно сравнить с (6.3.7). Введем обозначение Dr для 1 х (2т +1)-мат- рицы, столбцы которой суть величины (2пТ)~1^ dy^ (2л [s (Т) + s]/T), s = 0, ±1, ..., ±m, и аналогично определим Dx и DE. Теперь полученное выше соотношение можно переписать в виде
D/=A(X)Dx + De + O(T-i/2).
Введем обозначение U(T) для унитарной (2m + 1)х (2m + 1)-мат- рицы, первые г столбцов которой составляют матрицу U{r> = D^[DxDy-1/2. Запишем это так: U(r> = [U[r> U^r’]. Применив U(r) к матричному соотношению, приведенному выше, получим
DzU<r> = А (X) DxU(r> + DgU(r) + 0
Для первых г столбцов это дает
{А(Г> (X) - А (X)} f® (ХД/* (2m +1 )*/= = DeU<r> + О <Г-Ч»У
Для оставшихся мы получим соотношение
DyU^DM’ + Ot?-1/2).
Поскольку матрица Utr* унитарна, имеем
(2m +1) fyy (X) = DzDy
= DrUp U/>T Dy + DKU<2r> U‘2r> xDy
= DzDl (D^)"1 DxDTy + DyUf’Uf* DTy, поэтому
g£ (X) = DyUf’W* Dy = DgU^Uf^ Щ + 0, (T-^), где 0^(1) обозначает ограниченную по вероятности величину.
Теперь применение теоремы 4.4.1 показывает, что поскольку ряд е (/), ( = 0, ±1, ..., удовлетворяет условию 2.6.1, ряд De сходится к Ум+1(0, fee(X)I). Поэтому fee(X)"1/2Dj сходится к A^n+1(0, I). Применение леммы Д6.2 показывает, что fee (Х)-1/2 (DeU<r))T также сходится к N^m+1 (О, I) и потому (DeU(r))T сходится к У?т+1(0, fee(X)I). Указанное асимптотическое поведение А(П(Х) и gee’W следует теперь из полученных для них выше представлений.
Для X, входящих в случай В или случай С, приведенная форма рассуждений проходит с заменой унитарной матрицы ортогональной. Поведение величины р/Г) получается из ее зависимости от А(Т)(0).
Нам понадобится
Лемма Д6.3 [Скороход (1956)]. Пусть Vm, 7=1, 2, ...,— последовательность векторных случайных величин, сходящихся по распределению к V. Тогда, переходя к эквивалентной вероятностной структуре, можно написать
V«-> = V + on.H.(l).
Эта лемма дает нам другое доказательство леммы Д6.2. Мы можем написать
Z‘r> = Z + o„.H.(l),
где Z имеет распределение Nq (О, I), поэтому
U(r>Z(r> = UmZ+on.H. (1)
и U(r,Z имеет распределение N^ (0, 1) для всех Т.
Доказательство теоремы 6.4.3. Последняя лемма показывает, что можно написать
4г>(^№±^)=е, + оя.,.(Кт), 5 = 0, ±1±т.
где ^ являются независимыми переменными с распределением N^ (6, 2лТ/ее(Х)). Пусть X^ = 2n[s(7')+s]/7\ Мы можем совершить замену ^ (X,) = А (X) d^ (X,) + ^ + о„. н. (Кт). Для суммы квадратов имеем тождество
(2лТ)~х21 d^ (X,) р = (2лТ)-х А(Г) (X) 2 d^ (X,) d^ (КГ А1Г) (Xf $S
+ (2лТ)-121 d^ (X,) - А(Г) (X) d^P (X,) К S
Появившиеся члены являются квадратичными формами от ^ степеней 2m + 1, г, 2m +1 — г соответственно плюс стремящийся к нулю с вероятностью 1 член. Из упр. 4.8.7 следует, что первый член в правой части можно записать как f№ (X) Хг2 (А (X) f® (X) xA(X)T/fee(X))/2 + on. н. (1), в то время как второй член может быть записан в виде feeWxwm+i-n^ + o,,. „, (1), где величины х2 независимы. Выражение (6.4.12) получается теперь простыми выкладками.
Доказательство теоремы 6.5.1. Пусть R (t) = ^a(t—u)X(u). и
Далее, поскольку Ее (/) = 0, имеем
ЕА^) (X) = f& (X)fS(X)-1.
Пусть d^* (Р) = А (Р) dxr) (Р) + е|Г| (Р). По лемме 6.3.1 величина ет (Р) равномерно ограничена. Поэтому подстановкой получим
Г-1
a2ns\Г. Z2ns\ ,т /2л5\
f^ (X) = 2л?-1 £ W"> (х -^) (2лТ)-‘ [A ^y-J dK (у-)
s= 1
7-1
E
f a 2ns\ а /2л$\ -г?) /2л5\
Г(Г) ^X-y-J A^J 1Н ^yrj+G12’»,
где, согласно лемме Д6.1, для некоторого конечного К
Здесь мы воспользовались ограниченностью ет ф) и неотрицательностью W (Р). Первое выражение в (6.5.14) следует теперь из условия 6.5.2. Обратимся ко второму выражению и предположим, что 0^Х<2л. Областью, в которой функция W'm не равна нулю, является область | X—(2л$/Т) |^Вгл. В этой области А (2л5/Т) = А (X)+0 (Вг), поскольку по принятым допущениям А ф) имеет равномерно ограниченную первую производную. Доказательство теоремы завершает теперь подстановка этого последнего соотношения в выражение (6.5.14).
Доказательство теоремы 6.5.2. Заметим сначала, что, как следует из (6.6.3),
Е11 А)Г) (X) | -1ЕА^ (X) 11 < Е | А^ (X) - ЕА^ (X) |
СрА/Г> (Х)}1/3 =O(Bt1/4T-i/4),
поэтому справедливо соотношение
| EG^ (X) —| ЕА/Г) (X) 11 = О (В^^Т"1/^,
приводящее к первому выражению (6.5.19). Второе выражение следует из (6.5.14) и того факта, что |а + е| = |а| 4-0 (е).
Для доказательства первых соотношений в (6.5.20) и (6.5.21) воспользуемся разложениями в ряд Тейлора
log ГЕ 4- е | = log | £ | +1 {е/£ 4- ё/& -1 ^+"^\ + . • •,
arg | £4-81 = arg £ 4-^т {е/£-?/£}-2- (е3/£3-е2/£3) 4г ...,
приняв £+ е = Д/7) (X), £ = ЕД/П(Х), и применим (6.6.3). Чтобы доказать справедливость вторых выражений, также воспользуемся этими разложениями, однако на этот раз положим £ + е = ЕД/П (Z), £=Ду(Х) и применим (6.5.14).
Прежде чем перейти к оставшимся доказательствам этого параграфа, необходимо ввести некоторые обозначения и доказать
несколько лемм. Мы положим
Т-1
d^ (^) = 2 8 (О ехР {— *М> /=о
Др (X) = 2лТ-1 У Wm (х-у?) (глТ)-^^ (y-S) |\ s= 1
f^ (X) = 2лТ-1 2 Wm (x-y-s) (2л?)-1 d$P (^) d^> (у5) , g& (X) = /$ (X) - A (X) t$ (X).
Поскольку ряд e(f), / = 0, ±1, ..., ненаблюдаем, эти величины также ненаблюдаемы. Мы увидим, однако, что интересующие нас статистики являются элементарными функциями этих величин. Далее, й-й элемент dx' (X) мы обозначим [dV* (X)]» и подобным же образом будем обозначать элементы fxg (X). Справедлива
т-\У Г<г> (X Г=1т-\У Г<г> (X Г=1Лемма Д6.4. Если функция fxx (X) равномерно ограничена, то выполнено соотношение
т-\
У Г<г> (X Г=1
т-\
У Г<г> (X Г=1
2лг \ Г л(Т) / 2лг Х!
—) [d^> (-yr-)JA==O(T»/»)
с равномерным по X остаточным членом.
Доказательство. Этот результат следует из неравенств
2л?-1 ^F1” (X2л?-1 ^F1” (X
2л?-1 ^F1” (X
2л?-1 ^F1” (X
^^лТ^у Fm (X-^(2лП1/2 ||®(Х)|Г2-
Лемма Д6.5. Если fxx (X) равномерно ограничена, то справедливо соотношение
rf г<" (1--^) »7^ (н-т) И’ (т)]. И^-Ц^)],
-о№т*у
с равномерным по X и р, остаточным членом.
Доказательство. В силу неравенства Шварца абсолютная величина указанного выражения не превосходит
что дает желаемый результат.что дает желаемый результат.
что дает желаемый результат.
что дает желаемый результат.
Лемма Д6.6. При условиях теоремы 6.5.1
cum \gRe (Xj), . . ., gRe (^i)f [fxe (Н1)]^1> • • •» f^e (Нж)]^, gee (vj,
• • •. gS (Vw)}
' O(T-n+1BtN+1YеслиL-VM = 0,
=q\t^-nBtN*vYеслиL = 0, M = l,
= ' 0^w-nBtN+2\еслиL = \, M=0,
o{t-^-w^-nBlt~1\ еслиLA-M>\.
Доказательство. Заметим сначала, что, пользуясь леммой 6.3.1, можно получить соотношение
(X) = 2л?"1 £ 117m (х~^.) (2лТ)-1 [ А (-^) d^1 (^-) q=X
+ о (1) - А (X) dp (^) ] dp (^-) .
Поскольку для | X—(2л^/Т) | ^ Вгл справедливо
а(^-) = А(Х) + О(Вг),
имеем
2nq \-^-) (2лТ)-12nq \-^-) (2лТ)-1т-1
2nq \
-^-) (2лТ)-1
2nq \
-^-) (2лТ)-1
g^(X) = 2nT-i ^W^ (b q=\
x[0(BT)dP(^-)+0(l)]dp(^-).
Рассматриваемый семиинвариант дается выражением
Ч г,rM S,
... £ [о(Br)dST'(^)+о(I)]
X [О (Br) d^ (+ 0 (1)] [dV> (^)]^
. [^(^^ Г(Г> (Xi-^y.-rm^v^-^)
X ^nTy^-^cunujdf’ (^)4Г>(^У [d^ (^Д) |*,
Главный член возникшего в последнем выражении семиинварианта имеет вид
(2л)т+Р‘-1А(П ^. + rM + tx + ... + tP1})
„/2л01 2л/п \/ 2л ,X
X Ь...г (-"У**1 , ..., -^^-). . . (2л)Р^-Рр-1-1Д^X Ь...г (-"У**1 , ..., -^^-). . . (2л)Р^-Рр-1-1Д^где pp = 2N и /х, ..., t^N есть подстановка ($п —sx; ...; sy, — s^, соответствующая некоторому неразложимому разбиению. Мы имеем р^п. Устранив с помощью лемм Д6.4 и Д6.5 суммирование по q и г, увидим, что главный член в А имеет видгде pp = 2N и /х, ..., t^N есть подстановка ($п —sx; ...; sy, — s^, соответствующая некоторому неразложимому разбиению. Мы имеем р^п. Устранив с помощью лемм Д6.4 и Д6.5 суммирование по q и г, увидим, что главный член в А имеет вид= 0 ^T~^l-^m-^nBt-y (T^2>)l+m-2 T3Tp~1Tn~P"v1>),= 0 ^T~^l-^m-^nBt-y (T^2>)l+m-2 T3Tp~1Tn~P"v1>),
X Ь...г (-"У**1 , ..., -^^-). . . (2л)Р^-Рр-1-1Д^
X Ь...г (-"У**1 , ..., -^^-). . . (2л)Р^-Рр-1-1Д^
где pp = 2N и /х, ..., t^N есть подстановка ($п —sx; ...; sy, — s^, соответствующая некоторому неразложимому разбиению. Мы имеем р^п. Устранив с помощью лемм Д6.4 и Д6.5 суммирование по q и г, увидим, что главный член в А имеет вид
где pp = 2N и /х, ..., t^N есть подстановка ($п —sx; ...; sy, — s^, соответствующая некоторому неразложимому разбиению. Мы имеем р^п. Устранив с помощью лемм Д6.4 и Д6.5 суммирование по q и г, увидим, что главный член в А имеет вид
= 0 ^T~^l-^m-^nBt-y (T^2>)l+m-2 T3Tp~1Tn~P"v1>),
= 0 ^T~^l-^m-^nBt-y (T^2>)l+m-2 T3Tp~1Tn~P"v1>),
что дает указанный результат для L + M > 1. Остальные соотношения получаются таким же способом.
Эти оценки порядков совместных семиинвариантов для некоторых целей вполне достаточны, однако они являются довольно грубыми для случая второго порядка. Здесь верна более детальная
Лемма Д6.7, В условиях теоремы 6.5.1
cov^f^(<, [HP(ti)U= (глт-1)8^^ Vx-^ xW^-^U ^ [i& (¥)]й^+°(т"1) = U <*Ц (глТ-1)2^^’ ^k-^Wm
= 0№Т-^,
cov {[ПР(Х)К^<РМ = О(Т-2/2),
cov (HP (X), fS?H = teeW^T-^^W^ (Х-^)
х IFm^ -у-$) + Г <г> (х -^) Wm (н +^) } + 0 (Т"Ч
= О(Вт1Т~1У
Доказательство. Рассмотрим второе из этих выражений. Как следует из первого соотношения в доказательстве леммы Д6.4, искомая ковариация равна
г-4 ^^Г,7)(х--^)гт(н-~) [dPn (^)]6
X {(2л)2 А<Г) (^) /еее (^, yf) +0 (1)| = О (Т~*Т^Т).
Другие ковариации также получаются из этого соотношения, леммы Д6.4 и того факта, что fee(X) имеет равномерно ограниченную производную, а носителем функции W^ (а) является |а| Вти.
В следующей ниже лемме мы положим Ct^Bt-VT-y^.
Лемма Д6.8. Пусть 7? (£) = 2а (^”~^) X (и). Тогда при усло- и
виях теоремы 6.5.1
f®(X) = A(X)f^(X)+O(Cr), f$(X)”f$(X) + HP(X), Ш (X) = А (X) f® (X) А (Х)т + О (Сг),
ПР (X) VPx (X)-1 f£ (X) = О (2 №Р (X)], I2),
g^ (X) = t® W -fS (X) f^ (X)"1 f& w + о (CT) + gRe (^) + geR (^)
=№ W ± 0 (21 [№ W I2) + 0 (Cr)
Доказательство. Первое из этих выражений мы получили в ходе доказательства (6.5.14). Второе получается непосредственно. Для третьего заметим, что
/В(Х)-2п7'-‘2»71Г,(>‘—^) <2п7")-> <*А ^^i) dST> (^?) + 0(1)).
ХрР(^)л(^)+0(1)р,
откуда и выводится указанный результат. Согласно условию 6.5.2, имеем
II fix’ (X) f а (X)"1 fa (X) Ik к tr {fa (X) ti? (X) fa (X)-1} <Ltr{fa(X)f$(X){
при конечных К и L. Для последнего утверждения заметим, что'
^ м=fa (X) - fa (X)+fa (X)+/а (X)
- {fa (X)+fa (X)} ta (X)-1 {fa w+fa w}, и результат вытекает из предыдущих соотношений леммы.
Доказательство теоремы 6.5.3. Мы видим, что по леммам Д6.8 и Д6.7
Е^’ (X) = Ef<? (X) + 0 (2 Е |[f&> (Х)]Ар) + О (CTj= Ef^>(X) + O(Bf1T-1) + O(Cr).
Из теоремы 5.6.1 ясно, что
ед W=U ^+О (ВТ)+О (B^T^,
и мы получаем нужный результат.
Доказательство теоремы 6.5.4. Из (6.3.2) и леммы 6.3.1 видим, что
W (0) = 7р 4- А (0) da (0) + о (1).
Это дает
.Ес<а = 11 + А(0)са + О(Т-1).
Поэтому, используя (6.5.14), получаем соотношение
Ер<г> = Е {с<уг> - КТ) (0) с'?}
= р + А (0) с<хг>- {А (0) + О (Вт) + О (7-1/=)) с<Р + О (Т-^).
Теперь результат доказан, поскольку из указанной ограниченности X (<)> / = 0, ±1,..., следует равномерная ограниченность с'х’.
Доказательство теоремы 6.6.1. Непосредственно из определения А<Г) (X) видно, что
cov {А(Г> (Х)Д А<г> (р)Д = ® (X)-* cov {f® (X) f^ (р)} f& (р)-х,
и (6.6.3) следует из первого выражения леммы Д6.7.
Доказательство теоремы 6.6.2. Как и в доказательстве теоремы 6.5.2, мы имеем разложения Тейлора
log G?> (X) = log I E Ap (X)| +1 {[EA^ (X)]-i [Ap (X) - E Ap (X)] + [EAp^X)]-1 [AP^ - E Ap (X)]} + .. •,
W) = arg EAp (X) +^- {[EAp (X)]-= [Ap (X) - EAp (X)]-[EAW)]-i [aP^-eaTW + ... .
Нужные ковариации получаются теперь из этих разложений и (6.6.3).
Доказательство теоремы 6.6.3. Из леммы Д6.8 видим, что cov{gp(X), gP(p)} = cov {ДР (X), Др (р)} + остаточный член.
Из леммы Д6.6 ясно, что остаточным членом является
О ^Т-^Вт1 + T~^Brl+1 + T~1Bf1+2).
Указанный результат следует теперь из (5.6.12).
Доказательство теоремы 6.6.4. Как видно из (6.3.2) и леммы 6.3.1,
$' = р + А (0) cP + Т-Ч^ (0) + О (Г-^ = р'г> + А(Г> (0) ср.
Соотношение (6.6.13) следует теперь из теоремы 4.3.1.
Доказательство теоремы 6.6.5. Если воспользоваться представлениями леммы Д6.8 и леммы Д6.6, то первой искомой ковариацией будет служить
f^ (X)-i cov {fp (X), g<P (р)} = О <Д-^Втх + 7-1).
Вторая ковариация получается из представления р,(Г), полученного в доказательстве теоремы 6.6.4, и из лемм Д6.6 и Д6.8. Последняя ковариация получается аналогично.
Доказательство теоремы 6.7.1. Ша докажем первую часть этой теоремы, вычисляя совместные семиинварианты А(Г)(р), порядка выше второго и устанавливая сходимость к О этих совместных семиинвариантов при подходящей нормировке. Из леммы Д6.6 видно, что
(BTTyM*N№ cum {[А<г> (И1)]т [А<Т>(|1л1)]тд1(BTTyM*N№ cum {[А<г> (И1)]т [А<Т>(|1л1)]тд1'(ВгТУ^О^-^Вт^1), ^ВТТУ1 + ^ О (T^W-NBfN+1y< (ВтТум*^4 О (T-^^^^Bf1),'(ВгТУ^О^-^Вт^1), ^ВТТУ1 + ^ О (T^W-NBfN+1y< (ВтТум*^4 О (T-^^^^Bf1),g&M, ...,g&M, ...,й'ве’Ы}й'ве’Ы}если М = О, если М = 1, если М > 1,если М = О, если М = 1, если М > 1,
(BTTyM*N№ cum {[А<г> (И1)]т [А<Т>(|1л1)]тд1
(BTTyM*N№ cum {[А<г> (И1)]т [А<Т>(|1л1)]тд1
'(ВгТУ^О^-^Вт^1), ^ВТТУ1 + ^ О (T^W-NBfN+1y
< (ВтТум*^4 О (T-^^^^Bf1),
'(ВгТУ^О^-^Вт^1), ^ВТТУ1 + ^ О (T^W-NBfN+1y
< (ВтТум*^4 О (T-^^^^Bf1),
g&M, ...,
g&M, ...,
й'ве’Ы}
й'ве’Ы}
если М = О, если М = 1, если М > 1,
если М = О, если М = 1, если М > 1,
и каждый из них стремится к 0 при Т —►оо. Вторая часть теоремы доказывается аналогично, вычислением совместных семиинвариантов.
Доказательство теоремы 6.8.1. Из (6.8.2) видно, что
рт-л
Еа(Г> (р) = Рт1 2 Е (А(П(2лр/Рг)}ехр {/2лр«/Рг} р = 0
= Р^ S ^яр/Рт) + О(Вт)+Оф-^ехр^2при/РА
с равномерными остаточными членами. Это дает первое выражение в (6.8.4); второе получается вычислениями.
Доказательство теоремы 6.8.2. Рассмотрим сначала (6.6.3) и заметим, что
cov {А<г> ^р!РТу, кт ^q!PTY\ = О (Т-1)
для p^q, l^p, q^Pf1. поскольку B-r^Pf1, так что в этом случае
WtT)WtT)2лр■р?2лр■р?2л$\~Ту и2л$\~Ту и
WtT)
WtT)
2лр
■р?
2лр
■р?
2л$\~
Ту и
2л$\~
Ту и
Теперь из (6.8.2) и (6.6.3) видим, что'
cov {а<г> (и)х, а<Г) (у)т)
рг-1
=Ртг 2 cov{А<Г)(2лр/Рг)т, А(Г,(2л<7/Рг)т}ехр(12л(ри— qv)/PT}
Р, 9=0
Рт-1
=Рт2 2 В^Т-^л ClF(a)2da¥£U2np/Pr)f^ р = 0
хехр {12лр(и — у)/Рт\-\-0 (Т'1),
и получаем (6.8.7).
Доказательство теоремы 6.8.3 проводится как доказательство теоремы 6.8.2, однако вместо (6.6.3) мы воспользуемся (6.6.14).
Доказательство теоремы 6.8.4. Докажем, что нормированные семиинварианты порядка выше второго переменных, указанных в теореме, стремятся к 0. Мы имеем (PrBrT)(^^cum{[a<r>(«1)]/1[^^(«Д^, g^ М, ..., g&(XK)\
= (РТВТ)Т^^2 Pf^. • .Sexp {(2л (р^ + ... -VPjUjMPt\ pi pj
Xcum {[А<Г) (глр^РД]/,[А(Г> (2лр7/Рг)]/у,
gee* (^1)> • • •, See' (^-к)}
= (РтВтТУ^^1г Рт1О (T-W^-K-iy
Здесь мы воспользовались леммой Д6.6, а также тем замечанием, что доказательство завершает устранение одного суммирования по р. Как видно, этот семиинвариант стремится к 0, поскольку РТВТ—*-0 при Т —»оо..
К главе 7
Доказательство теоремы 7.2.1. Поскольку
.d^(X) = ^ha^Xa(t)exp\-iXt\,
имеем
Е^г> (X) =са^Н^^^ ехр {— 1ХЦ = саН*-Р (0).Кроме того, справедливо представление Крамераdp(X)= J B<Z>(X-a)dZa(a).
Из этого следует, что
cov{d‘r,(X), ^’W} = $ Н^ЦХ-ауН^Ц-Х+ауи^аа -Л
= $ Н^ (a) H^(-a)fab(X-a)da.
-Л
Наконец, по формуле Парсеваля имеем
2л ^ ^ (у) А6 (у) = J Н<? (а) Н^ (-а) da,
-л откуда вытекает (7.2.7).
Доказательство следствия 7.2.1. Положим /ia(u) = 0 для и < 0. (Общий случай доказывается с помощью записи функции ha в виде суммы функции, обращающейся в нуль при и < 0, и функции, обращающейся в нуль при ы^О.) Пользуясь преобразованием Абеля из упр. 1.7.13, мы получим
W = ^ha^expHM\
Если вариацию функции ha (и) обозначить V^ то
IН^ (1)| < Va sup | ^ (Х)| < Va {sin 6/2}-1 для 0 < 6 ^ 111 ^ л. (*) t
В то же время
f//>)//^d« = 2^(4M
-л''''
~2яТ J ha (0 hb (0 dt. (**)
Из соотношений (*) и (**) видно, что сомножители в сась стремятся к 0 при Т—*оо, если Х^ 0(mod2л) или если со = 0 или сь=*0. Далее, рассмотрим
{ $ Н^> (а) Н^ (-a) da} "' $ И?' (а) Н£> ^ Lb ^ - a) da - fab (X)
-Л
= Х^Н^ У^НУ' (—a)da) 1 J //^Г) (а) Д),г>(—а) xlL^-a)HabWW (***)
Разобьем область интегрирования на две: |а|<б и |а|^6. Так как функция fab непрерывна, величина |/^(Х —а)— fab^)\ в первой области может быть сделана выбором 6 сколь угодно малой. Кроме того, здесь
$ | /7^>(а)| | H^X-a^da^ | Н«»\Ма J| Н^НМаУ'"=0(Т). |а| <6
Во второй области fab (Х-а)-fab W ограничена и, как вытекает из (*),
$ |/y<r>(a)||/^>(-a)|da=0(0^
I а | >d
Поэтому из (**) следует, что (***) стремится к 0 при Т~*оо.
Доказательство теоремы 7.2.2. Из теоремы 4.3.2 следует, что
cov (4? (X) d£> (-Х), 4? (н) d^ (-ц)}
=№ (X) ca, + О (1)] [/4? (-и) Саг + О (1)]
х[2лЯ$,(—X+|x)fMt(—Х)4-0(1)] + три подобных члена
+№ (X) сО| + О (1)1 [(2л)» Н^ь, (- X) fbla,b, (X, -X, И) + О (1)] 4-три подобных члена
+[2лЯ^, (X-H)fOia, (Х)+0(1)Ц2лЯа (-Х + н)/м,(-Х)+0(1)| 442лЯа(Х+И)^А(Х)4-О(1)][2л^
+[(2л)»яХл (0) falblQ1b4 (X, -X, н) + О (1)].
Это приводит к нужному результату, если учесть, что Н$, Н^0(Т).
Доказательство следствия 7.2.2. Мы легко получим его, рассмотрев по порядку случаи Х±|л = 0 (mod 2л) и Х±р, ^ 0 (mod 2л).
Доказательство теоремы 7.2.3. В теореме 4.4.2 показано, что dx7) (^i), ..., dxn ^j) являются асимптотически независимыми величинами с распределением N^ (0, 2лТ) \НаЬ (0) fab (X)]. Далее, из теоремы Д5.1 следует, что
V^th^^v1^ ^д^ ед
где / = 1, ..., 7, являются асимптотически независимыми величинами с распределением W^ (1, ^х^/))- Заключение теоремы вытекает теперь из того, что
2Л Е 4 ^гУь^~ ^ТН»Ь (0).
Доказательство теоремы 7.2.4 вытекает из теоремы 4.4.1 так же, как теорема 7.2.3 следовала из теоремы 4.4.2.
Доказательство теоремы 7.2.5. Оно получается непосредственно из упр. 4.8.23 и теоремы Д5.1.
Доказательство теоремы 7.3.1. Из упр. 7.10.21 следует соотношение
EI& (^) = (2лТ)-1 J | Дт (-^—a) f fxx (a) da(*)
-Л
для целых г, r^O(modT). Если X^O(modn), то мы получим соотношение
Ef^W =
=(2m + l)-1 £ (2л?Н у |A<r>(2^ + ^-a)ffxa°0^ s=-m-л
приводящее к (7.3.6). Если X s 0 (mod 2л) или Х = ±л, ±3л, ..., где Т четное, то
Ef® (Х) = (2/п)-^ (2лТН
s= 1
X У ^A<r>(x + ^-a)|2 + |A<r>(X-^-s-a)|2}f^(a)da, -Л
что приводит к (7.3.7). Если же Х=±л, ±3л, ..., а Т нечетное, то
mл
Ef^(X) = (2m)-i^(2nT)-1 У {|Д‘Г> (х-^ + ^-а) ^ +
S= 1-л
+1 Д(Г> (X + ^— ^-а^ |2 f^ (a) da.
и мы получим (7.3.8).
Доказательство следствия 7.3.1. В силу того что fyy (а) является равномерно ограниченной функцией а, выражение (*) из предыдущего доказательства стремится к fyy (X) при Т —> оо, если 2лг/Т X. Это дает нужный результат.
Доказательство теоремы 7.3.2. Если г, s суть такие целые числа, что 2лг/Т, 2л$/Т ^ 0 (mod 2л), то, как следует из упр.
7.10.22(a),7.10.22(a),С учетом того факта, что для (2лг/Т)— Х=О(Т-1)С учетом того факта, что для (2лг/Т)— Х=О(Т-1)
7.10.22(a),
7.10.22(a),
С учетом того факта, что для (2лг/Т)— Х=О(Т-1)
С учетом того факта, что для (2лг/Т)— Х=О(Т-1)
это дает (7.3.13) в случае X^O(modn), поскольку 2лг + 1 членов оценок одинаковы, в то время как другие члены имеют ковариацию О(Т"1). Обратимся к случаю X=0(modл). Из упр. 7.10.22(b) и того факта, что т членов одинаковы, следует, что ковариация имеет вид
Л (Х-Н) (/а102 (X) fbtb2 ^Hfa^ (X) fbta8 (-Х)№),
и, как нетрудно проверить, это приводит к (7.3.13).
Доказательство теоремы 7.3.3. Эта теорема непосредственно вытекает из теоремы 7.2.4 и теоремы Д5.1.
Доказательство теоремы 7.3.4 вытекает непосредственно из теоремы 7.2.1 и ее следствия.
Доказательство теоремы 7.3.5. Псевдосглаживающие множители
^Д (^1 0^Д (^1 0h^u—Z) для 1<.и < 1+\,
^Д (^1 0
^Д (^1 0
0 в противном случае,
обладают для Z, т = 0, ..., L—1 следующим свойством:
Е
,/ /Aift\I Н^(X), если I = т,
h« V> t hb F, т)ехр -‘^ = L
,\у/\ ^/10, если / Ф т.
Далее, основное выражение в доказательстве теоремы 7.2.2 при подходящем изменении определений показывает, что cov|/^,(X, I), 1$>АК гп^\ =
' н^к (0)-1 н^к (О)-1 \н£к (X—р) Н^к (Х-р) /„.„, (X) fblb, (-Х)
= . 4-tf^X4-pMi(X + p)/a^
если I = т,
О (V-1),если 1^=т.
Это приводит к (7.3.18).
Доказательство теоремы 7.3.6 вытекает непосредственно из теоремы 7.2.5 и теоремы Д5.1.
Доказательство теоремы 7.4.1. По теореме 7.2.1 для s=l, ..., Т— 1 выполняется соотношение
л
Е/^^^лТ)-’ J
-Л
Это дает первое выражение в (7.4.9). Приступая к доказательству второго равенства, заметим, что правая часть приведенного выше соотношения имеет вид
^-) саЬ (“) еХР {—<2nSU/T) = fab (^) + О (1),
где в силу упр. 1.7.10 член о(1) равномерен по s. Пользуясь этим, мы получим
Е/^)= ZX?(b-^)/afr^+о(1)
-fab W + ^ Е W^ (Х-^) ^fab (^) -fab W} + О (Г
Второй член в правой части может быть сделан сколь угодно малым с помощью разбиения области суммирования на сегмент, где |(2ns/T) — Х| < 6 и потому \fab^s/T) — ^ь (Х)| < е, и его дополнение, на котором 2 ^<Т) (^ —(2ns/T)) стремится к нулю и ILb (2ns/T)-/a6 (Х)| ограничена. Это завершает доказательство (7.4.9).
Для соотношения (7.4.11) по теореме 4.3.2 имеем
Щ^^аЬ^^ОО'-1), S=l, .Г—1,
с равномерным по s остаточным членом. Это дает первую часть (7.4.11). Вторая следует из леммы Д5.1.
Доказательство теоремы 7.4.2 получается с помощью разложения fab (Х — ВТа) как функции а в ряд Тейлора.
Доказательство теоремы 7.4.3. Из выражения (7.2.14) следует, что для г, s=l, ..., Т — 1
covcovс равномерным соотношениюс равномерным соотношениюCOVCOVАЛ
cov
cov
с равномерным соотношению
с равномерным соотношению
COV
COV
Ог^2
(2л (s— гД f
,/2л (s+r)
‘ ’ I т
по г и s остаточным членом. Это приводит к
2лг
s
s
дающему первое выражение в (7.4.15); второе вытекает из леммы Д5.1.
Доказательство следствия 7.4.3 получается непосредственно из последней части соотношения (7.4.15).
Доказательство теоремы 7.4.4. Нами уже изучалось асимптотическое поведение первых и вторых моментов оценок. Для того чтобы доказать асимптотическую совместную нормальность, остается показать, что в указанных условиях все нормированные совместные семиинварианты порядка выше второго стремятся к 0 при Т —^оо.
Мы имеем
cum {2 (К - 2nst/T) 7$, ^sjT), ...
2 w^bKo.K-^sKrn ^ Р™к/Т)\ =2- • •'S^. (^-гл^/Т).. .W^K(XK-2nsK/T) №-K
X cum {daP ^TtSt/T) db? (—2USJT), ...
..., d^ (2nsK/T) d^ (-2nsK/T)}. (*)
Положим r^i, — s^, r^^—sk> k=\, ...,K. Кроме того, опустим нижние индексы av ..., ак, bv ..., Ьк, не играющие существенной роли. Из теорем 2.3.2 и 4.3.2 следует, что семиин-
варианты в последнем соотношении задаются выражением
S pn)^-i А(Г) (2л Д rjtjT^ f (^rjkn\ jk € vj + о (Г)] ... "(гл)^"1 А(Г> (2л ^2 r/k/T^ f ^rjkn\ jk ^pHo'
где суммирование производится по всем неразложимым разбиениям v = {vn .v^} таблицы
11 12
21 22
К1К2
a т^ обозначают число элементов в v;. Семиинвариант (*) принимает теперь вид
• • 2 w<n (^ - 2jTsi/r) • • • W'T> ^k-^sk/T)
x2A(7V2n 2 ГдДу.Л'ЧЗя 2 r/k/T\o(TP-i).
V \ jkevi )\ psev? /
Наличие функций А<Г) приводит к q линейным ограничениям, если q<K, и к q—1, если q — K. Это количество мы запишем как q — [q/К]. (Здесь [ ] обозначает целую часть.) Таким образом, семиинвариант (*) имеет порядок
max ^yi^q/KlTK-^lKVTqo <Гр-«) = В?ки^ q<p<K
Поэтому
cum ^ВтТ)^ f^k (±М, • • •. Wy/t fQ^ (±^)}
имеет порядок ВтК/2+1Т-к/2+1 и стремится к 0 при Т —*-оо для К. > 2. Нужный результат вытекает теперь из леммы Д4.5.
Доказательство теоремы 7.6.1. Из теоремы 4.3.1 для s=l, ..., Г — 1 следует соотношение
Е7&(у9=^ (¥)+°(1)
с равномерным по s остаточным членом. Это сразу приводит к первому выражению в (7.6.6); второе получается по лемме Д5.1.
Далее, из теоремы 4.3.2 следуют соотношения
COV{J$, (Ду), Л&(4ЛГ- 1 Г- 1COV{J$, (Ду), Л&(4ЛГ- 1 Г- 1
COV{J$, (Ду), Л&(4Л
Г- 1 Г- 1
COV{J$, (Ду), Л&(4Л
Г- 1 Г- 1
X [2лА<г>(^±£1)/Мг (_^) + о(7)]
+ 2лА<Г> (^Н) faibl ^^ +0 (Т)] X [2лА<т> ( 2лЦ^1) fbot (_ 2^.) +о (Г) ]
т-\т-\/ 2л \ з — „/ 2лг \ д (2ns\ п. (2кг\Т~) z . z . ^/ \Т* / ^Н Т") l<h№ibA —r S/ 2л \ з — „/ 2лг \ д (2ns\ п. (2кг\Т~) z . z . ^/ \Т* / ^Н Т") l<h№ibA —r S2лг2лг+ (2л)=Т}а1М2б2(^, —^, _^^о(Т^
т-\
т-\
/ 2л \ з — „/ 2лг \ д (2ns\ п. (2кг
\Т~) z . z . ^/ \Т* / ^Н Т") l<h№ibA —
r S
/ 2л \ з — „/ 2лг \ д (2ns\ п. (2кг
\Т~) z . z . ^/ \Т* / ^Н Т") l<h№ibA —
r S
2лг
2лг
+ о(7'-*),
дающие (7.6.7).
Для семиинвариантов более высоких порядков мы, пренебрегая нижними индексами, получим следующее соотношение:
cumlJ^M/,), ..., М^А,^
= (^)L У ... У A (2nsjT) ... *А (2nsL/T) (2nT)~L
X cum (d(r) (2ns1/T)d(r> ^msjTY ..., d”' (2nsL/T)d^{—2nsL/T)} = T~iL2 ... 2 А (2л$1/Т) ... A (2nsL/T)
xEVxEV(2n)^-iA^> /^l у ± SA f (2л5у/Т; / € vj + »(П
xE
V
xE
V
X j€Vi/
(2л)^-1 A^ ^ у ± sA r ^/T; j € v,) +o (T)
где внутреннее суммирование производится по всем неразложимым разбиениям таблицы
d(n (2nSi/T) d(r> (— глз^Т),
d(r> (2л$£/Т) dlT) (—2л5£/Т).
Принимая во внимание линейные ограничения, обусловленные функциями А(Г), понятно, что главный член этого семиинварианта имеет порядок T-t*x.
Далее, рассматривая переменные Т1^}^ (Ду), j=l, ..., 7, а, b=\, ..., г, можно видеть, что все их совместные семиинварианты порядка выше второго стремятся к 0. Отсюда по лемме Д4.5 следует указанная асимптотическая нормальность этих переменных.
Доказательство теоремы 7.6.2. Воспользуемся разложением в ряд Тейлора
R^ W = Rab W + [{М’ (b)-U ha W-1 № ^-U W} Ц?ЬЬ W"1 US’ ^ -fbb (*)}] / Vfaa W fbb ^ + . . .
для вывода (7.6.15) и (7.6.16) из (7.4.13) и (7.4.17) и применим теоремы из Brillinger, Tukey (1964). Утверждение об асимптотической нормальности следует из теоремы 7.4.4 и теоремы Д5.2.
Доказательство теоремы 7.6.3. Мы уже видели в теореме 7;6.1, что, как и требуется, конечномерные распределения сходятся. Кроме того, равномерно по X
Ef<r6>(X)-Fob(^) = 0(7’-1),
так что достаточно рассмотреть процесс ¥<Г) (X) = K7[Fxx(^)— — EF(x^(X)]; О^Х^л. Таким образом, нужно показать полноту этого семейства вероятностных мер. Как следует из задачи 6 на стр. 41 монографии Billingsley (1968), для этого достаточно показать полноту маргинальных распределений вероятностей. Из теоремы 15.6 Billingsley (1968) вытекает, что в этом случае достаточно показать справедливость для некоторого конечного К неравенства
Е (| У& (X) —У$> (XJ р | Y$ M-Y& (X) р} < КI Х—Х2 р,
где 0^Хх^Х^Х2^л. Для'Х^рГ имеем
У^НШ = Т^ 2(1^ Р^-Ы^^У
м<№т<ьх х ;М
Нетрудно убедиться, что ''.
Из теоремы 7.6.1 видно, что все вторые моменты величин Y^O^—^аьЧМ» ^аб* М —• Y^b W и сопряженных им меньше или равны Л|Х2 — XJ для некоторого конечного L. Нам остается, таким образом, рассмотреть только
cum,. 2\Y$ Q^-Y^ М, Y^ ^-Y^ W}
= Т» ^Ч^-^^ SS cum № &Щ/Т) d?> (-2ЯГ./Т), »Р (2яга/Т) d(bT' (ДягД, dp (2nS1/T) dp H^sjT),
dp(2aSilT)dp{-2nsjT)}, ^
где Xf < 2яг^Т, 2лгг/Т^Х и X < 2nst/T, 2ns2/T ^X2. Поскольку здесь области суммирования не пересекаются, семиинварианты в правой части имеют меньший порядок, и на самом деле выражение (*) имеет вид.
Т»^у (2яТу4SSLS(А<7>(2л[Г1-г2]/Т)О(Т*)
+ А(Г> (2л [si-s2]/T) О (Т2) + О (Т^ = | Х2 —Xt |3 О (1).
Далее, если EU, EV = 0, то
Е {(/V2} = cum2,2\U, V} + 2 (Е {£7V})2 + (Et72) (EV2).
Это дает нужный результат.
Прежде чем мы приступим к доказательству теоремы 7.7.1, отметим, что в силу инвариантности оценки относительно сдвига можно действовать так же, как в случае ЕХ (О = 0. Докажем леммы, показывающие, что исправление среднего значения не приводит к асимптотическому различию со случаем ЕХ (/) = 0.
Лемма Д7.1. Пусть Х^, / = 0, ±1, .... есть г-мерный векторный ряд, удовлетворяющий условию 2.6.2(/) и имеющий среднее 0. Пусть ha{u), — се < ы < оо, удовлетворяет условию 4.3.1, а = 1, ..., г, величина ср(й) задается выражением (7.7.8) и для и = 0, Ч-1, ...,
тр (и) = № (О)}’1 Еha (^) Нь (4) Ха (/ + и) Хь (/).
Тогда равномерно по и'
'Е\с$>Чи')-т2>Чи.Н2 = О<Т-^.
Доказательство. Положим ИУ^ (и) — ha(u/T). Тогда
2 н<? ц+«) ^Г) (0 [ха (Н «) - О [хь (о - ^>]
- 2 ^ (< + и) н^ ^ ХД1А-и^Хь ^
=-^h^ Ц +u) К?' № (0 - ^ 2 h„ (/ + и) К?' (О Ха (I + и)
W2h№uWf). (*)
Теперь из теорем 5.2.3 и 5.2.8 получаем, поскольку са = 0,
Е ^ 'У = Е рл2ЛР (О2 /^ (0) / {2 ^Г) (Ор]2 = О (T-h-
Из рассуждений в этих теоремах следует также, что равномер-
Е(2 W + «) ^гЧ0 ^ь (0)4 = О (2 №? V + м)2 н^ (О2)2'
= О ^h^ W^HSP ^ = О (ТО-
Отсюда вытекает соотношение
Е|(*)р = 0(1), дающее нужный результат.
Лемма Д7.2. Предположим, что выполнены условия теоремы. Допустим, что EX (0 = 0 и
g^ W = (2л) -12 w«b (btU) t^ab («) exp \—iXuy, тогда равномерно no %
EI^’W-^I'WP^ots^T-o.
Доказательство получается непосредственно из леммы Д7.1 и того факта, что
.■ ВТ 2 I ^аь (Вти)\ ~ Г I wab (u) I du.
иJ
Доказательство теоремы 7.7.1. Лемма Д7.2 показывает, что асимптотики для ^ (%) по существу совпадают с асимптотиками ^^(Х). Начнем с рассмотрения Eg),p(X). Мы имеем
g<P(X)= f^>(X-a)/<?>(a)da, о где ■
W$ (А) = 2 «>аЬ (ВТи) ехр {— 1ХЦ.
По теореме 4.3.2
Е/^(а) = /вЬ(а) + О(Т-*), поэтому
^ (М = $ W^^-a-Mab^aa-YO<r-^ О
= 2 ^ab <ВТи) cab (“) exp {—I'M + О (Т*1) и
= В^ J W^T^-^tabko-W^O^,
что дает (7.7.13).
Далее, по теореме 7.2.2
cov^,(l), £$Др)|
= $ J W^ (X-a) W$>t ф-Р) cov №, (a), 1^ (P)} da dp
= H^k (0)-1 H^k (0)-1 $ $ W^k (X-a) W^4 (p-P)
X У^к (« - P) CM fa101 (a) кьг (- a)
+ H^, (a+P) Я $t (a + P) Na (a) ka. (- a)} da dp + О (?-’).
Покажем теперь, что равномерно по a
$ Wv^k (И-Р) Н^а, (a-Р)Я^^Р)Ф
= 2«ПЗ, (р - а) 2 h^ (t) h^ (О С (0 h^ (О + О (В?3). (* *)
Поскольку
Н^ W = 2 ^’ (0 <’ (0 ехр {- iX/},
можно записать (**) следующим образом:
22/^j a<? y^hV? ktXXt^ $ ^S(h-P)
X exp {— i (a — P) tt + i (a — P) Ц dp
= 2 2<’ (^) h^kQ hV? (/2) h^ {Q exp V (p-a) (^ - Q)
x wkBTUi—tiA)
= 2 ^ kBTu) exp V (p — a) и} 2 haTJ (t + u) h^? (i + u) h^ (0 h^ (0
= 2л117<г) (X-a) 2 h^ W ha? W h^P (/) hV? (0 + RT,
тце по лемме Д4.1 для некоторого конечного Н
I ^rl ^ Я2|о» (Вти) 11 и\- НВ?1 ^|и||1У (u) Uu.
Подобный результат справедлив и для второго слагаемого исходного интеграла. Вычисленная таким образом ковариация имеет вид
2л ^h?? Мт? (О}"1 ^XW (О}"1
х 5^(0 4? (ОС ^н^Ч^
X $ ^Й. (^-“) ^^ (и-а) к», (а) kb, (а)
+ W^k^-^W^k (М^ь>)к«А^^
откуда и следует нужное соотношение (7.7.14).
Далее, рассмотрим величины совместных семиинвариантов порядка К» Пренебрегая с этого момента нижними индексами а, 6, имеем
cumfe^), ^г>(%£)}
= ^Н^№г{2лЯ^>(0)}-1
X 22® (^г 1/1 М) • • • ^ кВт [^i-i ^2Z.l)
X exp {— iK [^ - /2] - ... — iXL [^-Лд]} h^ (/J ... h^ {tiL}
X cum {X k) X kQ, ..., X kkt-^ X kt^\.(*)
Далее,
cum{X(yX(f2)XkWXkt^
= 2 cx...x kk j € vi) • • • Cx...x kt A i € vp),
V
где суммирование ведется по всем неразложимым разбиениям v = (vlf ..., Vp) таблицы
12
34
2L-1 2L
Поскольку разбиения неразложимы, в каждом множестве ^р разбиения можно найти такой элемент t*p, что ни одна из разностей tj—Гр, }£^р, Р=1, . •., Р, не совпадает с t^-t—tu, l=\, 2,..., L. Определим 2L — P новых переменных uv ..., u1L_P для ненуле-
вых tj — ip. Семиинвариант (*) ограничен теперь величиной
v t* t*p “1 ^L-P
^ _x + t*^,, - U«4 - ^J) |
u2i-p)|
для некоторого конечного M, где alt ..., а2£ выбираются из 1, ..., 2£, а 0!02£выбираются из 1, ..., Р. Определив
Ф(/у) = /р, /€vi> и применив лемму 2.3.1, мы увидим, что среди разностей ^р,— t^, ..., ^2i_i-^₽21 имеется Р — 1 линейно независимых. Положим для определенности, что это t^ — t*^,... • > ^р-»-1»^ СовеРшив замену
«1 = иа1 + /р, — и», — Ча»
, УР-1 Ма2Р-з+^2Р-3^^2Р—2^2Р-а’
мы увидим, что семиинвариант (*) ограничен величиной
М^-^^^... 2 2-.. 2 ^(В^) ... ty(Brvp_1)|
V G °. Op-j “1 u4L_p
X |А(П№)Цсх...х(ы1, ...) ...Сх...х(..., «2£-р)| ^ №-^12 Вт^+1сП1... сПр
V
= O(7-Z+16-L+1)> p^L.
В предпоследней строке выражения величин С„ задаются соотношением (2.6.7), a rij обозначают число элементов в /-м множестве разбиения v. Как видно, нормированный совместный семиинвариант-
cum {(BrT) V2 gm (М(ZW/a gm (М}
для £>2 стремится к 0 при Y —>-оо. Это означает, что переменные £$, (Ч), •ga^^x) асимптотически нормальны и имеют структуру моментов, указанную в теореме. Согласно лемме Д7.2, то же справедливо и для /(Г), поэтому доказательство завершено.
Доказательство следствия 7.7.1 следует непосредственно из (7.7.13).
Доказательство теоремы 7.7.2 вытекает непосредственно из теоремы 4.5.1.
Доказательство теоремы 7.7.3. Мы докажем эту теорему посредством нескольких лемм, аналогичных .леммам, использованным при доказательстве теоремы 4.5.1. Как следует из леммы Д7.2, достаточно рассмотреть статистику gaP(X), соответствующую случаю с нулевым средним. Ниже, в доказательствах лемм, мы будем пользоваться обозначением
Лемма Д7.3. Если выполнены условия теоремы, то для выбранных X, в и достаточно малом а
Е ехр {а Reg^* (%)} < exp {a2D Re ^> (X) (1 + e)/2}.
|cum {g<r>(X1),|cum {g<r>(X1),Доказательство. При доказательстве теоремы 7.7.1 мы видели, что для некоторого конечного М■
|cum {g<r>(X1),
|cum {g<r>(X1),
gm (XJ} | < МЬТ-ь«Вти1^СП1... C„ 'v
Поэтому
I log E exp {a Re^> (X)} -D Reg<P (X) a2/21
^Т^Вт^М^^Сп, ... C„l ] a |VLL
3 IV)
Теперь указанный результат вытекает из (7.7.21) при выборе . |а| достаточно малым, а также из того факта, что, согласно (7.7.14),
D {Re g# (X)} - В^Т-^я $ ГйЬ (а)Ма {$ ha (t)hb ^ d/} "* X { $ Ай (О2 hb (О2 dz) [1 + П (2Х)] [/йй (X) fbb (X).
+ {Refob(X)}2-{Imfa6(X)}2]/2.
В рассуждениях ниже положим
Ф = 2л J Гаь (a)2 da { $ htt (t) hb (0 <11^ {Ай (О2 hb W Aty
Е ехр {а | Reg^’ (X) |} < 2 exp {a2D Reg<P (X) (1 + в)/2}Е ехр {а | Reg^’ (X) |} < 2 exp {a2D Reg<P (X) (1 + в)/2}Следствие. Если выполнены условия теоремы, то при заданном р'
Е ехр {а | Reg^’ (X) |} < 2 exp {a2D Reg<P (X) (1 + в)/2}
Е ехр {а | Reg^’ (X) |} < 2 exp {a2D Reg<P (X) (1 + в)/2}
2 exp |a2BfT -1Ф sup faa (X) sup f bb (X) (1 +p)}
для достаточно больших T.
Лемма Д7.4. Пусть Xr = 2nr/R, г = 0 .... R — 1, для некоторого целого R; тогда
sup | Re^> (X) |< sup | Reg^ (Xr) |/(1 —KB^R-1) Xr
для некоторого конечного К.
Доказательство. Заметим сначала, что, поскольку функция су (и) равна 0 при достаточно больших значениях |u|, g£P (X) является целой функцией порядка ^КВ?1. Неравенство леммы Д7.4 получается теперь тем же способом, каким доказали следствие 2.1 Woodroofe, Van Ness (1967), используя неравенство Бернштейна для целых функций конечного порядка [см. Тиман А. Ф. (1953)]..'
. Лемма Д7.5. При достаточно больших Т
Е exp {a sup | Re g^ (X) |
< 2 exp |log R-V^B^T-MD sup fea (X) sup fM (X) (1 +0)1 .
XXXXЛемма Д7.6. Пусть a? = (log 1/Вг) ВтгТ-1Ф sup foa (X) sup fbb (X)
X
X
X
X
X 2(l+p)(l + t]) для заданных ц, P>0. Тогда для некоторого конечного N
P[sup|Reg^WI>aJ<VB^.
Доказательство теоремы завершается доказательством аналогичных лемм для Img^X) и применением леммы Бореля — Кантелли.
Доказательство теоремы 7.7.4. Положим wab (w) = 0 для |и|> 1. Тогда fhPW является тригонометрическим полиномом степени В^1 = п Из упр. 3.10.35(b) вытекает равенство
2л
ГаР^-Е^ДХ^ $ [/^ (а) — Е/£р (a)] D„ (X — a) da.
■. о
Пусть k — положительное целое число, тогда
1/2&1/2&Г 2л
1/2&
1/2&
l^,(X)-Ef<P(X)]< $ |^>(а)-Е^>(а)^а
(2£ —1)/2&(2£ —1)/2&L о
(2£ —1)/2&
(2£ —1)/2&
"2л
,х J|D„(X-a)p^-»da.
'L о_
Как следует из упр. 3.10.28, последний интеграл здесь имеет порядок О^п1^). Мы видели при доказательстве леммы 7.7.1,
что E|f^(a) — E^p(a)|2* = O(BffeT”*). Из этого следует, что Е [(ВтТу<» В6Т sup | f£> (X) - ВД (X) |] ^ = О №"^. Выбрав до-. статочно большое к, получим оба результата теоремы.
Доказательство теоремы 7.7.5. Для положительных целых к имеем неравенство
sup | И' (^) - Ей' (^ I” < £ | Й- ^ - ЕЙ’ (^) |2‘.
Из теоремы 7.4.4 следует, что равномерно по X
Е | f^ (X) - Ef^> (X) |« = О ^Т-^.
Поэтому
Е [(ВуТ)1^ Pf8sup|f<p(^)-E/^ ^ ^^О^8).
Выбрав к достаточно большим, мы получим оба результата теоремы.
Доказательство теоремы 7.9.1. Как следует из леммы Д6.3 и теоремы 4.4.2, справедливы соотношения:
d</’>(X) = /2^T1+On.H.(/7;),
4? W= 1^0/(Кт),
42(Х) = /2^^+оп.и. (Ут),
где т] имеет распределение Ni (0, /аа(Х)); 0/, 7 = 1, .... J, являются независимыми величинами с распределением N^ (0, /рр(Х)), a ^jfe, i=V---, J. к=\,..., К,— независимыми величинами с распределением TVf (0, /ее(Х)). Остюда следует, что
J к
(2лТ)-1 2 621 <^к (X) - ^7 (X) Is=s SI ^ - ^. I2+оп.„. (i),
(2лтик2|45~4?|2=кЖ
,/км£Ч2=^..+0. + п|^^^^
Вычислив ковариации, мы убедимся, что ^jk — t,j,, £/. — £.. +6/ —0. и £.. + 0. + ч статистически независимы. Отсюда и следует статистическая независимость статистик, рассматриваемых в теореме.
Справедливо равенство
S|^P = S|^-£/J2+kS|^.
Ь ки кj
В упр. 4.8.7 показано, что SIS/*-^/ |2 имеет распределение fee W Xb (K-d/2. Справедливо также равенство
2l^+0/l = 2l^-e-+0/-0- Н^..+е.|2, ii
и, еще раз обратившись к упр. 4.8.7, заключаем, что 21^/ ~^“ + 0/—0. |2 имеет распределение [fpp (Л) +К"7ее W] Х2и-1>/2- Наконец, величина |С-- + 0- + л|2 распределена какД/^а (А) + J-lfpp(X) +/"^"Vee W] xi/2- Это завершает доказательство теоремы.
К главе 8-
Доказательство теоремы 8.2.1. Можно записать
Е {[Y-g-aX] [Y—ц—аХр}.
|ру—Р—аМу] [Ру—f* ~ аРхР + 2уу —• а^уу—2ууат+а2ххат
[11 у— И — аМу] IP у f1 aji^P + 2 у у 2 /х2ху2хг
(а^уу—^уу) 2хх (а£хх — 2ухГ
^ Syy— 2уу2ху2Ху;
равенство здесь достигается при выборе, указанном в (8.2.14) и (8.2.15).•
Прежде чем обратиться к теореме 8.2.2, рассмотрим лемму, представляющую и самостоятельный интерес.
Лемма Д8.1. Пусть выполнены условия теоремы 8.2.1. Векторная s-компонентная функция Ф (X), для которой Еф (Х)т Ф (X) < оо и которая минимизирует-
E{[Y-*(X)][Y-*(X)p},(*)
представляет собой условное математическое ожидание
*(X) = E{Y|X}.
Доказательство. Мы можем переписать (*) в виде
Е {[Y —Е {Y | X}][Y —Е {Y |Х}р}
+E{[E{Y | X}—* (Х)][Е {Y | X}—* (Х)р}
>E{Y-E{Y|X}][Y-E{Y|X}p},
при этом равенство обеспечивается выбором *(X) = E{Y|X}.
Доказательство теоремы 8.2.2. Если случайный вектор (8.2.20) имеет нормальное распределение, то’
E{Y|X} = nr+2KX2^(X-^).
Это классический результат, приведенный, например, в Anderson (1957). Доказательство теоремы вытекает теперь из леммы Д8.1.
Доказательство теоремы 8.2.3. Читатель может провести его по аналогии с доказательством теоремы 8.2.5, приведенным ниже.
Доказательство теоремы 8.2.4. Доказательство следует из очевидных неравенств, подобно доказательству теоремы 8.2.1.
Доказательство теоремы 8.2.5. Обозначим матрицы (8.2.25) и (8.2.26) через х и у соответственно. Тогда представим у в виде
у = ах + е,
где a = SKXSxx и е = у—ах. Столбцы матрицы е—независимые величины с распределением Ng (0, See). Кроме того, е не зависит от х.
Поэтому при фиксированном х, как показывает упр. 6.12.20, vec(а—а) распределен по закону
N?s (0, See ® (хх*)-1), а See независима и имеет распределение (и— r)-1W£(n — г, See)- Тем самым при фиксированном х (8.2.53) имеет распределение 1^(п_п. Но так как это распределение от х не зависит, оно будет совпадать с безусловным распределением. Далее, Е{а|х} = а, так что Еа = а, как и утверждалось. Кроме того,
cov{veca, veca|x} = Sg8® (ххт)-1.
Поскольку Е(ххт)"1 = (п—г)-1 Egg1 (см. упр. 8.16.47) и cov{Еа|х, Еа|х} = 0, то выполняется (8.2.54). Асимптотическая нормальность а последует из совместной асимптотической нормальности элементов матриц ухт и ххт на основании теоремы Д5.2, так как а является дифференцируемой функцией этих элементов.
Остается показать независимость а и Se6. Пользуясь отмеченной ранее условной независимостью, можно для плотностей распределений написать соотношение
р(а,’ See|x) = p(a|x)p(SEe).
Отсюда вытекает, что
р(а, See, x)=p(a, X)p(See),
и доказательство завершено.
Доказательство теоремы 8.3.1. Пусть А (Л.) — передаточная функция фильтра {а (и)}. Мы увидим, что она корректно опреде-
лена. Выражение (8.3.2) можно записать в виде
Су— Ц— ( 2 а (и) )схСу— Ц— ( 2 а (и) )схс?—,1—( 2 а (“) )схс?—,1—( 2 а (“) )схтт
Су— Ц— ( 2 а (и) )сх
Су— Ц— ( 2 а (и) )сх
с?—,1—( 2 а (“) )сх
с?—,1—( 2 а (“) )сх
т
т
+ У Пгг(а) —^YX (а) ^хх (а) * ^ХГ (а)] da
+ J [А (а) f хх (а)—tyx (°01txx (о^-1 [А (<*) fxx (®) fy^(a)]Tda
У [^У (а)^ух (а) txx (а)-1 ^ХУ (а)] ^а>
причем равенство достигается при выборе, указанном формулами (8.3.3) и (8.3.5).
Поскольку f^xW невырожденна, —оо<Х<оо, то из теоремы 3.8.3 следует, что А(Х), определенная формулой (8.3.5), является преобразованием Фурье абсолютно суммируемой функции..
Доказательство теоремы 8.3.2. Мы видели, что можно записать
Y (0 = Ц + 2 а (<—и) X (и) +е (/),
и
где Ee(/) = 0, cov{X (# + «), е(/)} = 0 при всех и. Поскольку ряды совместно нормальны, из равенства нулю этой ковариации следует независимость Х(^ + “) и 8 (О ПРИ всех и. Поэтому
Е{е(/)|Х(о), о = 0, ±1, .. .} = Ее(/) = 0, Y(0-E{Y(0|X(o), о = 0, ±1, ...} = 8(0,
т. е. получаются соотношения (8.3.21) и (8.3.22).
Доказательство теоремы 8.5.1 следует из теоремы 7.3.3 и теоремы Д5.1.
Доказательство теоремы 8.6.1. При сформулированных предположениях из теоремы 7.4.1 вытекает
Ef^ (Х) = J №m (X-a) f^ (a) da + О (Вт'Т'1),
Ef^ (X) = J №<Г) (X—a) fXK(а) da+О (By1?-!),Ef^ (X) = J 1Г<Г> (X-a) fyy (a) da+О (В^Т^).
Каждая из статистик А(Г>, ф'Р, С/Г, Ry^ xi |₽ух|а является дифференцируемой функцией от f^ (X), fVy (X), tyv (X). Приведенные в теореме выражения выводятся теперь из теоремы статьи Brillinger, Tukey (1964).
Доказательство следствия 8.6.1 следует непосредственно из выражений (8.6.11) —(8.6.15) с учетом теоремы, сформулированной в упр. 1.7.4.
Доказательство теоремы. 8.7.1. Воспользовавшись тем, что А(Г)(Х), gee*(X), Rm ^, |7?<Л(Х)|2—дифференцируемые функции элементов матриц fxx(X), frxW. fry (А), можно записать разложения типа разложения по теории возмущений:
А<л (X) = А (X) + { f^ (X) - f YX (X)} 1ХХ (X)
-А (X) { f^ (X) - fxx (X)} txx (XVH....
Используя их в сочетании с теоремой 7.4.3, можно вывести указанные асимптотические ковариации. Фактически же гораздо удобнее определить асимптотику ковариаций, воспользовавшись результатами § 8.2.
Начнем с того, что, согласно следствию 7.4.3, ковариации величин с частотами X, р имеют порядок о^Вт1Т~1\ если Х±р^ ф 0 (mod 2л). Допуртим, что X — р = 0 (mod 2л) и X ф 0 (mod 2л). Тогда легко видеть, что асимптотически структура ковариаций для
'f^ (X) f^ (X)"
та же самая, что для
fr^J пfr^J п^ХХ W ^ХУ (X) \Л УХ W ^УУ W . / ’^ХХ W ^ХУ (X) \Л УХ W ^УУ W . / ’
fr^J п
fr^J п
^ХХ W ^ХУ (X) \Л УХ W ^УУ W . / ’
^ХХ W ^ХУ (X) \Л УХ W ^УУ W . / ’
гдегде
где
где
Вттп =z—2.
2л ) W (a)2 da
Поэтому с точностью до первого порядка асимптотика ковариаций, полученная с помощью разложений по теории возмущений, окажется совпадающей с ковариациями, построенными по величине (*). Тогда теорема 8.2.5 позволяет заключить, что в данном случае .
cov {vec А(Т> (X), vec А(П (X)} ~ л*1 fee (X) ® txx (X)-1,
а из теоремы 7.4.3 выводим, что
COV {^(Х), ge[em (X) । ~ П-1/еуе; (X)/8дея, (—X).
В случае когда X + p, = 0(mod2n) и Х^ 0 (mod 2л), можно заметить, что
cov {vecAm (X), vecA(r‘(—X)}
= cov {vec А(Г) (X), vec А(Г) (X)} = о (n-1), поскольку предельное распределение, указанное в теореме 8.2.5, является комплексным нормальным. Кроме того,
COV (ge,eft (X), ge^m ( ^)} ~ n~1feJem (X) /е^ ( X).
В случае X, ц = 0(mod2л) статистики принимают действительные значения, так что следует применить теорему 8.2.3. Мы получим
cov {vec А1Г) (0), vecA(T) ^{^п'Чее (0)®^х(0)-1»
^ U%(0), g^O)}-^^^^
Тем самым полностью обоснованы формулы (8.7.1) и (8.7.2). Выражения (8.7.3) и (8.7.4) следуют из теорем 8.2.5 и 7.6.2.
Доказательство теоремы 8.8.1 вытекает из замечания, сделанного в начале доказательства теоремы 8.7.1 и из теорем 7.4.4 и Д5.2.
Асимптотическая независимость А(Г) и g^1 будет следствием обращения в нуль их асимптотической ковариации, вытекающего из теоремы 8.2.5.
Перед доказательством теоремы 8.10.1 удобно ввести ряд обозначений. Если 'Кр = 2пр!РТ, р = 0, ..., Рт_!, определим
А, = Ef^ (X,), А^ + а^ Г(Д ^р),Вр = Е^^р), Вр + ^р = ^^р).
Теперь можно сформулировать лемму.
Лемма Д8.1. Пусть выполнены условия теоремы 8.10.1. Тогда а(Г) (w) = Рт12 А^вр1 ехР {i^«} + Рт12арвргexp {iXpu}
'-Pr1^ АА^А"1 exp VM + ор (Р6тВт ^
при любом 6 > 0.
Доказательство. Рассмотрим тождество
(А+«) (В + Р)-1—АВ-1 —«В-Ч-АВ-^В-1
= (АВ-^В-^—аВ^Р) (В + р)"1.
Норма правой части ограничена, величиной
|Р|]В-Ч(|А||В-^|₽| + |«|)|(В-?)-1|.
если — v^P при у^О. .
По теореме 7.7.5
sup I a I, sup I р„I = ор к№1/2Т-^ рр
для любого е > 0. Следовательно,
| (А^В^В^-а^р,) (В^ + Р,)"11
^|Р^|Вр-1|(|А^|Вр-Ч1Р,Ж«^)[^
что равняется ор {РрВ^^Т-1^} равномерно по р. Отсюда и вытекает утверждение леммы. -
Доказательство теоремы 8.10.1. Необходимо выяснить асимптотическое поведение
^-«„В^-А^В^ВД
р = 0, ..., PT-t- Мы знаем, что
vecgp=[I ® (Bp1)1] vecap —[(А^В”1) ® (Вр *Н vec рг
Вначале отметим, что Evecgp=0. Далее получаем из у пр. 7.10.41 (учитывая, что РТВТ<. 1 и Ц7(а) = 0 при |а|>л):
COV \&Ш’ Ш^}
= [л {^—M ^isi (М ^161 ( М+л {^+М /О162 (М
xUHpWT'^W^
-v^-U^A^* -ч» -x^o^T-^+o^T-i).
Тем самым ковариационная матрица величины
"\есар
'vecpp
состоит из двух частей: одна содержит только спектры второго порядка, а другая—только спектры четвертого порядка.
Изучение А(Г) (X) позволяет нам сказать, что асимптотически вклад члена со спектрами второго порядка в cov{vecgp, vecge}
li {^~ М [fee (М ® Ux ^р)-1] Вт гТ-' 2л $ Г (a)2da.
Условимся обозначать выражение в cov{vecPPvec|L}, содержащее спектры четвертого порядка, как (2л/Т) V^. Поскольку в модели Y(/) = f* + 2a(Z —м)Х(и)-|-8(0 ряд 8(0 не зависит от Х(0» соответствующие члены в cov {vecap, vecpj и cov{vecap, vecag} будут
^[A(Ap)®l]Vp, и ^[A(Ap)®I]V,<[A(Ag)®I].
Следовательно, их вклад в cov {vec £,р, vec ^} равен ^ 1П ® №4 [А (Хр) ® I] Ур4 [А(Ц'® I] [1 ® (В^]
- [I ® (Bp-Tl [А (Хр) ® I] Npq [(W)^® (В^)] - [(А, ® Вр"1) ® (В-ОП Neq [А (ХдГ ® I] [I ® (В;1)] + [(Ар® Bp1)® (Bp-1)'] Vpq[(АдВат® (Вр"1)]} - 0, так как А (Ар) ~ Кр Вр1.
Из всех этих соображений заключаем, что
cov {vec gp, vec ^} ~ n \Xp—Xq^ [fee (А9) ® fxx (Ар)-1] xB^T’^nJ IF(a)ada + O(BrT-1)4-O(B?2T-a), поэтому
cov {Р?15 exp \iXp и} vec ^р1 Рт15 exp {t Agv} vec j>
= Pl^ [fee (М ® fxx (У1] exp \1Хр (U-V)\ р
xB^T-^n^W (^da+ 0(8^-^ +0 (Вт2 Т-2).
На основании упр. 7.10.42 теперь можно заключить, что P^Sexp VXpti} vee^p асимптотически нормален. Сводя все эти рассуждения воедино, получаем нужный результат.
Доказательство теоремы 8.10.2. Подставив су * = g +асх * + с^г>, с(Л (0) = Т S[Y (0 —СуГ>] [X (0 -ckr,jT= агРх (0) +с^> (0), получим
|1<Т) _ ,л = (а _ а(т>) ст+^Д
а<г)_а=с’Р(0)с^(0)-1,(*)
тем самым
VT vec {а(Г)-а} = [l ®с^ (О)’1]/? vec с’2 (0).
Согласно упр. 7.10.36, величина Сех (0) асимптотически нормальна со средним 0 и
COV (с^хб, (0), с^хь. (0)} ~2л Т"* $ feaiea8 (a) fxb,xb2 (—a)da;
поэтому
cov {veccgx (0), vec Cgx (0)) ~ 2лТ~$ J fee (a) ® fxx (~a) da.
Отсюда последует указанное асимптотическое распределение для vecatr>, так как схх(0)-1 сходится по вероятности к cxx(0)-i.
Поскольку ЕХ(/) = 0, Сх1 =0^(1) и имеет мёсто (*), то Кт(^>-н)=Ктср+ 0^(1), так что приведенное предельное распределение р,(Г> вытекает из теоремы 4.4.1. Асимптотическая независимость а(Г> и р,(Г) следует из асимптотической независимости cf> и с$(0)-'
Далее
е (0 = Y (/)—у(Т>—а(Г,Х (/) = у - И(П - (а - а‘г>) X (/) + 8 (О
• - (а —а(Г)) (X (0-cP)+e(0-cf>.
Следовательно,
ПР (X) = (а -а(Г>) f^ (X) (а-а'гу + (a-a<r>) f^ (X)
. + f^(X)(a-a^)+f‘P(X).
Последнее выражение с учетом ранее установленной асимптотики распределений fxx (X), fxe (X) дает
фтту/» ПР (X) = (ВтТ)^ i% mof0),
т. е. указанное в теореме предельное распределение для ПР(Х).
Доказательству теоремы 8.11.1 предпошлем лемму.
Лемма Д8.2. Пусть Хт, Т=1, 2, ...,— последовательность случайных векторов, у—постоянный вектор иаТ, Т = 1, 2, ...,— последовательность чисел, сходящаяся к нулю. Предположим, что с вероятностью 1
lim |ХГ—у|/аг^1.■
Т -> ОО
Пусть f(x) имеет непрерывную производную в окрестности у, и |Г (у) |^=0. Тогда■
firn |f(Xr) —f (у)|/аг^|П(у)|
,Т ->.00'
с вероятностью 1.
Доказательство. С вероятностью 1 вектор Хг при больших Т попадет в упомянутую в теореме окрестность р,. Будем считать, что он попал в эту окрестность. Так как f(x) имеет первую производную, то
f (Хг) = f (р.) + ат <ХГ — р,, f'(g)>
при некотором £ из окрестности р. Непрерывность F (х) означает, что F (5) при 7 —> оо стремится к F (р), и тем самым утверждение доказано. * '
Доказательство теоремы 8.11.1. Теорема является следствием леммы Д.8.2, теоремы 7.7.3 и теоремы 7.4.2.
К главе 9
Доказательство теоремы 9.2.1. Оно проводится точно так же, как приведенное ниже доказательство теоремы 9.2.3.
Доказательство теоремы 9.2.2. См. аналогичное доказательство теоремы 9.2.4.
Доказательство теоремы 9.2.3. Покажем, что /-е собственное значение матрицы (9.2.17) не меньше чем р/+(7, причем равенство достигается при указанном в теореме выборе р, В, С.
По теореме 8.2.4
Е {(X —р —СВХ) (X—р—СВХ)Т} ^Sxx-SxxBT^ (СВ^В^)-1 СВ2ХХ > 2ХХ- D, где
D = SyxBTCT (CBSMBTCT)-i CBSXX.
Ранг матрицы D не превосходит q. Далее
., /v п\ ^ ^хх—О) а
И/ (^ХХ- и) — SUP =т♦
Ьа=оа а
где L—матрица размера (z— 1)хг. Последнее выражение больше или равно■где L—матрица размера (z— 1)хг. Последнее выражение больше или равно■supLa=Da = 0supLa=Da = 0«Т (Syx—D) аах—a«Т (Syx—D) аах—a‘ aTSyva sup - __ЛА La=Da=o a a‘ aTSyva sup - __ЛА La=Da=o a a^ Pg+Z (^xx)»^ Pg+Z (^xx)»
где L—матрица размера (z— 1)хг. Последнее выражение больше или равно■
где L—матрица размера (z— 1)хг. Последнее выражение больше или равно■
sup
La=Da = 0
sup
La=Da = 0
«Т (Syx—D) аах—a
«Т (Syx—D) аах—a
‘ aTSyva sup - __ЛА La=Da=o a a
‘ aTSyva sup - __ЛА La=Da=o a a
^ Pg+Z (^xx)»
^ Pg+Z (^xx)»
L DL D
L D
L D
так как ранг матрицытак как ранг матрицыне превосходит q-Vi— 1. Легко про
так как ранг матрицы
так как ранг матрицы
верить, что при указанных р, В, С получается матрица (9.2.17), имеющая вид (9.2.21). Поскольку z-e собственное значение (9.2.21)
равно р7+/, знак равенства в предыдущем соотношении получается именно при указанном выборе.
Приведенное доказательство является аналогом рассуждений Okamoto, Kanazawa (1968), относящихся к действительному случаю.
Доказательство теоремы 9.2.4. Справедливы следующие разложения в ряд Тейлора:
Р/ = Р/ + Vj {2ХХ — 2ХХ} V/ +...,(*)
V/-V/+ 2 rvj{sxx-sxx}vy.]vz/^^^(**)
t*i
См. Wilkinson (1965, стр. 68).
^aibx^biaП^aibx^biaПCov {SOlO1, SbltlJCov {SOlO1, SbltlJУбедившись, что величина Sxx асимптотически нормальна со средним Зхх и
^aibx^biaП
^aibx^biaП
Cov {SOlO1, SbltlJ
Cov {SOlO1, SbltlJ
приходим к полезному результату упр. 4.8.3(b):
cov {ат2р,ут26} = 2й1й1Ь16аcov {ат2р,ут26} = 2й1й1Ь16а^OiPtiaYbi^ba^flibi^buaiп
cov {ат2р,ут26} = 2й1й1Ь16а
cov {ат2р,ут26} = 2й1й1Ь16а
_ ^ЗххУНб^ЗххР)п
для векторов а, 0, у, 6, имеющих г компонент. Пользуясь этими выражениями, выводим формулы для асимптотических моментов из (*) и (**). Например,
cov^Vy, Vj_ _
= 2 2 №xxvj№xxvy) ^^
l^jm^k
^N^V
= 2. 2 №xxv>)№Jrxvy)v<V5,/[(p/-p,)(pJt-p„)]/n+....
I =^ / m^k
Отсюда получаем требуемые выражения для ковариаций, поскольку собственные векторы Vy- удовлетворяют соотношениям
_и_ при р — а,
^P^XX^q-^ 0 при p^q.
Свойство асимптотической нормальности вытекает из асимптотической нормальности 2.хх и из теоремы Д5.2.
Доказательство теоремы 9.3.1. Можно переписать (9.3.3) в виде
|[cx-|*-(Sc(u))c£y|^-^-(Sc(«)) ч] j.
+ $ tr Я1 - А (a)] ^хх (а) [Ь^АТа)?da,
где А (а) = С (а) В (а). Первое слагаемое можно обратить в 0, выбрав ^ = сх-(2с(«))ч = с^-(2с(«)) (5Ь(и))сх.
Второе же слагаемое будет минимальным, если минимален при каждом а след•
tr Я$хх (a)1/2 - A (a) f,x (a)1/2 ] [fXx (a)^ - A (a) f^ (a)V2D,
здесь A (a) —матрица ранга не выше q. Теорема 3.7.4 показывает, что следует взять'
../=1*
где МДХ^ есть /-й собственный вектор матрицы fyx(X)1/2, а тем самым и собственный вектор матрицы fXx (Х)1/2. Теперь ясно, что при указанном выборе В (X) и С (X) действительно достигается минимум.
Доказательство теоремы 9.3.2. Мы получим утверждение, рассмотрев выражение кросс-спектра ^Д1) и ^k(t):
( и,(Х) при i = k,пРри'^
Доказательство теоремы 9.3.3. Поскольку при любом X матрица fxx(X) имеет простые собственные значения, то, согласно результатам упр. 3.10.19—3.10.21, эти собственные значения и соответствующие собственные векторы будут голоморфными (в действительном смысле) функциями матричных элементов.
Выражения (9.3.29) и (9.3.30) мы получим, сославшись на теорему 3.8.3. Из этих выражений, в свою очередь, выводим (9.3.31) и (9.3.32), привлекая (9.3.28).
Доказательство теоремы 9.3.4. Искомая величина Ву (X) должна быть некоторой линейной комбинацией строк Ук(Х)х, ^=1, ...; пусть это будет
В/ (X) = GiX (XyV^Xy +...+Glr (X) V7WT.
Нужный нам ряд должен быть ортогонален ^k (t), к < /, поэтому при к< j все Gjk (X) = 0. 'Дисперсия величин (9.3.33) может быть
л
представлена в виде
5 ,|ШШ•
где 216]k (К) |2 = 1. Очевидно, что эта дисперсия максимальна, если
f 1 при i = k,
v ' (О при 1=/=к, что и требовалось показать.
Доказательство теоремы 9.3.5. Матрица спектральной плотности ряда (9.3.35) задается выражением
[1-А(Я)Пхх(Я)[1-А(Я)Г,
в котором А (Я) = С (Я) В (Я). Теорема 9.2.3 показывает, что собственные значения минимальны при упомянутом в формулировке утверждения выборе В (Я) и С (Л).
Доказательство теоремы 9.4.1. По теореме» Виланда—Хофф, мана [Wilkinson (1965)],
^f। 2л2
2|pp(^-vp(^2|< 2 f/?(X)-$U7^(A-a)f/ft(a)da .
/=1/, 6=1о .'
Кроме того, из теорем 7.4.1 и 7.4.3 следует, что
2•— О^В^Т-1^2•— О^В^Т-1^2л
2•
— О^В^Т-1^
2•
— О^В^Т-1^
Е ^(ЯН^ЧЯ-р^а)^
О
и так как ■]Е[Ир(Х) —vp (Я)]Ри так как ■]Е[Ир(Х) —vp (Я)]РE[^>(X)-v)rWE| 2|pP W-vf> (Я) pl,E[^>(X)-v)rWE| 2|pP W-vf> (Я) pl,
и так как ■
]Е[Ир(Х) —vp (Я)]Р
и так как ■
]Е[Ир(Х) —vp (Я)]Р
E[^>(X)-v)rW
E| 2|pP W-vf> (Я) pl,
E[^>(X)-v)rW
E| 2|pP W-vf> (Я) pl,
то получается выражение (9.4.5).
Выражения (9.4.6) и (9.4.7) выводим из разложений в ряд Тейлора, употреблявшихся при доказательстве теоремы 9.2.4: |ipW = v<r>W.
(2л\
Vp (Я) = ир (Я)+ S. UpwVp (Я) = ир (Я)+ S. Upwf& W - $ ^<г> (Я —a) fxx (a) da\ Up (Я) + ... ,оJ
Vp (Я) = ир (Я)
+ S. Upw
Vp (Я) = ир (Я)
+ S. Upw
Г Л\
ТТхир(Я)/{^’(Я)-ур(Я)}+... .хир(Я)/{^’(Я)-ур(Я)}+... .f& W - 5 Г(Г> (Я-a) fxx (a) da [ U)r> (Я)о;
Т
Т
хир(Я)/{^’(Я)-ур(Я)}+... .
хир(Я)/{^’(Я)-ур(Я)}+... .
Доказательство теоремы 9.4.2. Формулы (9.4.13) и (9.4.14) получаем из выражений, использованных при доказательстве теоремы 9.2.4:
/2л\
v^-M^+VHxH $ №<r>(X-a)fxx(a)da-fxx(X)^^ ко/
Uf>(X) = V/(X) ' /2л\
+ £ М0Т $ ^<П (Ь-») fxx (a)da-fxx (X) } N, (X)i^i L ко)
xvz(W/W-^W}+.-,
привлекая результат (7,4.13), который при рассматриваемых условиях имеет вид
2л
J H7<r>(X-a)fxx(a)da =
о*
= fxx ^ +4 Вт ^^ ^ «^ («) d«+ О (В}).
Доказательство теоремы 9.4.3 получается, если применить рассуждения теоремы 9.2.4 и выражения, выписанные при доказательстве теоремы 9.4Л.
Доказательство теоремы 9.4.4. Собственные значения и собственные векторы матрицы являются непрерывными функциями ее элементов. Следовательно, наша теорема вытекает из теорем 7.3.3 и Д5.1.
К главе 10
Доказательство теоремы 10.2.1. Пусть А = СВ. Перепишем (10.2.5):
[jny — ц — Ацх]т Г-1 [цу—н — Арх]
+ tr {Г-1 (2уу— ASXK—S/XAT + ASXXAT)}
>tr }Г-1 (SyK—SyXSxx2xy)}
+ tr {Г-1/2 (SyX — A2XX) Sxx (2yx — ^*xx) Г”1/2}-
Согласно теореме 3.7.4, это выражение минимально, если
Г-1/2А5хх = S V/V/r-i/^yxSxx72
ИЛИ
А=р/2 Sv^r-v^s^.
Значение минимума, как легко видеть, совпадает с указанным.
Доказательство теоремы 10.2.2. Пусть сначала матрица Е фиксирована. Тогда теорема 10.2.1 показывает, что минимум рассматриваемой функции р и D равен
tr{E2yrET} — 2 ^(ES^^E').
Положим U = ESyy. Тогда UTU = I; запишем
'tr{U4J}-2 рДиВД^у^Е^^и).
i<q
Далее соответствующие собственные значения будут максимальны, если взять столбцы матрицы U, равными первым q собственным векторам матрицы ^yy^yx^xx^xy^yy14-, cm. Bellman (1960), стр. 117. Отсюда сразу же следует утверждение теоремы.
Доказательство теоремы 10.2.3 проводится так же, как приведенное ниже доказательство теоремы 10.2.6.
Доказательство теоремы 10.2.4 вполне аналогично рассмотренному доказательству теоремы 10.2.1.
Доказательство теоремы 10.2.5 не отличается по существу от доказательства теоремы 10.2.2.
Доказательство теоремы 10.2.6 Пусть Ахх = 2ХХ — 2ХХ, величины А,к и Ьуу определяются по аналогии. Рассуждения, приведенные в Wilkinson (1965, стр. 68), или Dempster (1966), показывают, что справедливы разложения
Р/= Р/ ~Р/ (а/^ххау) -'Р/ (b/Arrb/) + (а/Axrb;) + (Ь/АуХау) + ... , = ay + ^ gjiat +... , №хх»1Г4
лр^гчглтг = ь/ + S ^i + • • • , (P/SyyP/) '
где
8н = (Р/ - Pi) ~l [— Р/ (а?АXxab - Р/Р/ (Ь?А YY^b_
'+ Р/ (а? АХуЬ;) + Р/ (Ь) Ау^а,)]
и
hji= (Р/—Р,)-1 [— рур, (ajA^) -р) (b^Ayyb/)_
+ Pi (a?Axrby) + ру (Ь)АуХау)].
Используя выражения, полученные при доказательстве теоремы 9.2.4, мы видим, что
cov kgji. g^ = (Н/ - ^)"2 (1 - Ру) (Р/ + Pz - 2pyPz), если l = k, 1 = т, и в противном случае равно нулю. Аналогично cov \gjb gkm} = — (Н/ — Pz)-^2^ + Р/Р2 - 4h7Pz - Р/ - Р2 + Р/ + Pz) при j = m, 1 = к и cov(gyz, gkm\ — 0 в противном случае. Далее cov \gn, hkm\ = (ру - pz) -2 (1 - у,,) (2 - ру - рг), если j=k, 1 = т;
cov \gib hkm} = — (р/- Pz)"2 (р-Pz + P/Pz3
- Р/ - Р/Р2 - Wi - 2Р/Р/ + Р/+Р?). если ] = т, 1 = к, и т. д.
Выписанные ранее разложения и эти выражения для моментов позволяют получить требуемые формулы для асимптотических моментов первого и второго порядка. Асимптотическая нормальность оказывается следствием асимптотической нормальности величин Sxx, 2Х/, 2ГГ и свойства, вытекающего из теоремы Д5.2: собственные значения и собственные векторы являются дифференцируемыми функциями матриц.
Доказательство теоремы 10.3.1. Выражение (10.3.3) можно записать в виде
$ tr (fy_y., у_у« (a)} da + {Е [Y (/) - Y* (/)]^ {Е [Y (0 - Y* (0]}. о
Ясно, что следует выбрать р так, чтобы EY (^)=EY* (/). Рассмотрим fу- у*, у-у* (а) = frr (а) — С (а) В (а) fXy (а) — frx (а) В (а)тС (а)т +С (а) В (а)fхх(а) WС^ = ^У¥ (а) ~~ f УХ (а) ^хх (а)-1 ^ХУ (а) +jfyH«)2xxW22z£^^^
х [f УХ (а) fxx (“) "1/2 - с (а) В (а) txx (а)^]\
В силу следствия 3.7.4, выражение (10.3.3) минимизируется указанными в теореме В (а) и С (а).
Доказательство следствия 10.3.1. Этот результат получим, применив теорему 10.3.1 к преобразованному ряду
2Л
Y' (/) = ехр {ша} tYY (а)-1/2 dZy(a),
о заметив, например, что iy'x W^fyyW-^fyjrW.
Доказательство теоремы 10.3.2. Нас интересует когерентность
(А (1) fxx (X) А (Х)т] [В (X) tyY (X) В (Х)т ]
[А' (X) А' (Х)т) [В' (X) В' (Х)т]’
'здесь использованы обозначения
А' (X) = А (X) fxx (X)V2, В' (X) = В (X) f гк(Х)1/2.
Применив неравенство Шварца, видим, что указанная когерентность не превосходит
B4^0fyyOOJl^lfyxj(X)JfxxW212xyl^^
В' (Х)1Г(Х)Т
< ру [fуу (Х)-^ fKX (X) fxx (X)-1 tXK (X) f/г W-1/21
для В'(X), ортогональных Vj(X), ... , Vy_i (X), т. e. первым / —1 собственным векторам матрицы fyy2fyXfxxfxrfyy2; см. упр. 3.10.26. Утверждение теоремы относительно Ву(Х) вытекает из (10.3.25), а относительно Ау(Х) проверяется непосредственно.
Доказательство теоремы 10.3.3. Так как при всех X матрица fyx^xxfxy имеет простые собственные значения, то собственные значения и векторы этой матрицы являются действительными голоморфными функциями ее элементов, см. упр. 3.10.19—3.10.21. Поэтому из теоремы 3.8.3 получаются выражения (10.3.28) и (10.3.29). Выражение (10.3.30) выводится из (10.3.26)—(10.3.29).
Доказательство теоремы 10.3.4. Собственные значения матрицы fyy/2fyxfxxfxyfyy/2 простые при всех X, поэтому и они, и соответствующие им собственные векторы являются действительными голоморфными функциями матричных элементов, см. упр. 3.10.19—3.10.21. Выражения (10.3.33) и (10.3.34) следуют из теоремы 3.8.3. Тот факт, чю спектральная плотность имеет вид (10.3.36) вытекает из теоремы 10.3.1 либо проверяется прямым вычислением. _
Доказательство теоремы 10.4.1. Оно проводится так же, как доказательство теоремы 9.4.1. Единственное отличие заключается в том, что используются разложения теории возмущений, фигурирующие в доказательстве теоремы 10.2.6.
Доказательство теоремы 10.4.2. Оно проводится по аналогии с доказательством теоремы 10.2.6 с привлечением тех же разложений.
Доказательство теоремы 10.4.3. Величины ру, Ау- и Ву являются непрерывными функциями элементов матрицы (10.4.25). Поэтому утверждение вытекает из теоремы 7.3.3 и теоремы Д5.1.
СПИСОК ЛИТЕРАТУРЫ1)
■ ABELSON, R. (1953). Spectral analysis and the study of individual differences, Ph.D. Thesis, Princeton University.к
* ABRAMOWITZ, M., and STEGUN, I. A. (1964). Handbook of Mathematical Functions. Washington: National Bureau of Standards..
ACZEL, J. (1969). On Applications and Theory of Functional Equations. Basel: Birkhauser..
AITKEN, A. C. (1954). Determinants and Matrices. London: Oliver and Boyd.
AKAIKE, H. (I960). “Effect of timing-error on the power spectrum of sampled data.” Ann. Inst. Statist. Math. 11:145-165. .
AKAIKE, H. (1962a). “Undamped oscillation of the sample autocovariance function and the effect of prewhitening operation.” Ann. Inst. Statist. Math. 13:127-144.
AKAIKE, H. (1962b). “On the design of lag windows for the estimation of spectra.” Ann. Inst. Statist. Math. 14:1-21.
AKAIKE, H. (1964). “Statistical measurement of frequency response function.” Ann. Inst. Statist. Math^ Supp. III. 15:5-17;
AKAIKE, H. (1965). “On the statistical estimation of the frequency response function of a system having multiple input.” Ann. Inst. Statis't. Math. 17:185-210.
AKAIKE, H. (1966). “On the use of a non-Gaussian process in the identification of a linear dynamic system.” Ann. Inst. Statist. Math. 18:269-276.
AKAIKE, H. (1968a). “Low pass filter design.” Ann. Inst. Statist. Math. 20:271-298.
AKAIKE, H. (1968b). “On the use of an index of bias in the estimation of power . spectra.” Ann. Inst. Statist. Math. 20:55-69.
AKAIKE, H. (1969a). “A method of statistical investigation of discrete time para- meter linear systems.”. Ann. Inst. Statist. Math. 21:225-242.
AKAIKE, H. (1969b). “Fitting autoregressive models for prediction.” Ann. Inst. ’ Statist. Math. 21:243-247.
г) Знаком * помечены работы отечественных авторов и работы зарубежных авторов, имеющиеся на русском языке. См. список на стр. 526.
AKAIKE, Н., and KANESHIGE, I. (1964). “An analysis of statistical response of backrash.” Ann. Inst. Statist. Math.» Supp. HI. 15:99-102..
AKAIKE, H., and YAMANOUCHI, Y. (1962). “On the statistical estimation of frequency response function.” Ann. Inst. Statist. Math. 14:23-56.”
AKCASU, A. Z. (1961). “Measurement of noise power spectra by Fourier analysis.” J. Appl. Physics. 32:565-568.
* AKHIEZER, N. I. (1956). Theory of Approximation. New York: Ungar.
ALBERT, A. (1964). “On estimating the frequency of a sinusoid in the presence di .. noise.” Ann. Math. Statist. 35:1403.
ALBERTS, W. W., WRIGHT, L. E., and FEINSTEIN, B. (1965). “Physiological mechanisms of tremor and rigidity in Parkinsonism. Confin. Neurol. 26:318-327.
ALEXANDER, M< J., and VOK, C. A. (1963). Tables of the cumulative distribution of sample multiple coherence. Res. Rep. 63-67. Rocketdyne Division, North American Aviation Inc.
AMOS, D. E., and KOOPMANS, L. H. (1962). Tables of the distribution of the coefficient of coherence for stationary bivariate Gaussian processes. Sandia Corporation Monograph SCR-483.
ANDERSON, G. A. (1965). “An asymptotic expansion for the distribution of the latent roots of the estimated covariance matrix.” Ann. Math. Statist. 36:11531173.
* ANDERSON, T. W. (1957). An Introduction to Multivariate Statistical Analysis. New York; Wiley.
ANDERSON, T. W. (1963). “Asymptotic theory for principal component analysis.” Ann. Math. Statist. 34:122-148.**
* ANDERSON, T. W. (1971). Statistical Analysis of Time Series. New York: Wiley.
ANDERSON, T. W., and WALKER, A. M. (1964). “On the asymptotic distribution of the autocorrelations of a sample from a linear stochastic process.” Ann. Math. Statist. 35:1296-1303.- '_.
* ARATO, M. (1961). “Sufficient statistics of stationary Gaussian processes.” Theory Prob. Appl. 6:199-201.-
ARENS, R., and CALDERON, A. P. (1955). “Analytic functions of several Banach algebra elements.” Ann. Math. 62:204-216..
ASCHOFF, J. (1965). Circadian Clocks. Amsterdam: North Holland.
AUTONNE, L. (1915). “Sur les matrices hypohermitiennes et sur les matrices unitaires.” Ann. Univ. Lyon. 38:1-77. -
BALAKRISHNAN, A. V. (1964). “A general theory of nonlinear estimation problems in control systems.” J. Math. Anal. App. 8:4-30.
BARLOW, J. S. (1967). “Correlation analysis of EEG-tremor relationships in man.” In Recent Advances in Clinical Neurophysiology» Electroenceph. Clin. Neuro- • physiol.»Sapp\. 15x161-411.
BARTLETT, M. S. (1946). “On the theoretical specification of sampling properties of auto-cbrrelated time series.” J. Roy. Statist. Soc.» Suppl. 8:27-41.
BARTLETT, M._S. (1948a). “A note on the statistical estimation of supply and demand relations from time series.” Econometric». 16:323-329.
BARTLETT, M. S. (1948b). “Smoothing periodograms from time series with continuous spectra.” Nature. 161:686-687.
BARTLETT, М. S. (1950). ‘Teriodogram analysis and continuous spectra.”
' Biometrika. 37:1-16.<
* BARTLETT, M. S. (1966). An Introduction to Stochastic Processes, 2nd ed. Cambridge: Cambridge Univ. Press.
BARTLETT, M. S. (1967). “Some remarks on the analysis of time series.” Bio* metrika. 50:25-38.
BASS, J. (1962a). “Transformees de Fourier des fonctions pseudo-al&toires.” C. R. Acad. Set 254:3072..
BASS, J. (1962b). Les Fonctions Pseudo-aleatoires. Paris: Gauthier-Villars.
* BATCHELOR, G. K, (I960). The Theory of Homogeneous Turbulence. Cambridge.
Cambridge Univ. Press.4
BAXTER, G. (1963). “A norm inequality for a finite section Weiner-Hopf equation.” III. J. Math. 7:97-103.-
* BELLMAN, R. (1960). Introduction to Matrix Analysis. New York; McGraw-Hill.
BENDAT, J. S., and PIERSOL, A, (1966). Measurement and Analysis of Random Data. New York; Wiley.
BERANEK, L. L. (1954). Acoustics. New York: McGraw-Hill..
BERGLAND, G. D. (1967). “The fast Fourier transform recursive equations for arbitrary length records.” Math. Comp. 21:236-238.
♦BERNSTEIN, S. (1938). “Equations differentielles stochastiques.” Act. Set. Ind. 738:5-31.‘.
BERTRAND, J., and LACAPE, R, S. (1943). Theorie de lElectro-encephalogram. Paris: G. Doin.
BERTRANDIAS, J. B. (1960). “Sur le produit de deux fonctions pseudo-aleatoires.” C. R. Acad. Sci. 250:263
BERTRANDIAS, J. B. (1961). “Sur 1’analyse harmonique generalise des fonctions » pseudo-aleatoires.” C. R. Acad. Sci. 253:2829..
BEVERIDGE, W. H. (1921). “Weather and harvest cycles.” Econ. J. 31:429.
BEVERIDGE, W. H. (1922). “Wheat prices and rainfall in Western Europe,” Л Roy. Statist. Soc. 85:412-459.
BILLINGSLEY, P. (1965). Ergodic Theory and Information. New York: Wiley.
BILLINGSLEY, P. (1966). “Convergence of types in £-space ” Zeit. Wahrschein. 5:175-179.
* BILLINGSLEY, P. (1968). Concergence of Probability Measures. New York: Wiley.
BINGHAM, C, GODFREY, M. D., and TUKEY, J. W. (1967). “Modern techniques in power spectrum estimation.” IEEE Trans. Audio Electroacoust. AU- 15:56-66.
BLACKMAN, R, B. (1965). Linear Data Smoothing and Prediction in Theory and Practice. Reading, Mass.: Addison-Wesley.
.BLACKMAN, R. B., and TUKEY, J. W. (1958). “The measurement of power spectra from the point of view of communications engineering.” Bell Syst. Tech. J. 37:183-282,485-569.
BLANC-LAPIERRE, A., and FORTET, R. (1953). Theorie des Fonctions Aleatoires. Paris: Masson.
BLANC-LAPIERRE, A., and FORTET, R. (1965). Theory of Random Functions. New York: Gordon and Breach. Translation of 1953 French edition.'
BOCHNER, S. (1936). “Summation of multiple Fourier series by spherical-means.” , Trans. Amer. Math. Soc. 40:175-207.
BOCHNER, S. (1959). Lectures on Fourier Integrals. Princeton: Princeton Univ, hress.
BOCHNER, S., and MARTIN, W. T. (1948). Several Complex Variables. Princeton: Princeton Univ. Press.
BODE, H. W. (1945). Network Analysis and Feedback Amplifier Design. New~ York; Van Nostrand.
BOHMAN, H. (I960). “Approximate Fourier analysis of distribution functions.’* Ark. Mat. 4:99-157.
BORN, M., and WOLF, E. (1959). Principles of Optics. London; Pergamon.
BOWLEY, A. L. (1920): Elements of Statistics. London: King.
BOX, G. E. P. (1954). “Some theorems on quadratic forms applied in the study of analysis" of .variance problems.” .Ann. Math. Statist. 25:290-302.
BOX, G.. E.- P. and JENKINS, G.. M. (1970). Time Series Analysis, Forecasting and Control. San Francisco: Holden-Day.
BRACEWELL, JR. (1965). The Fourier Transform and its Applications. New York; McGraw-Hill.
BRENNER, J. L. (1961). “Expanded matrices from “matrices with complex elements.” SIAM Review. 3:165-166.
BRIGHAM, E. O., and MORROW, R. E. (1967). “The fast Fourier transform.” • IEEE Spectrum. 4:63-70.
BRILLINGER, D. R. (1964a). “The generalization of the techniques of factor analysis, canonical correlation and principal components to stationary time series.” Invited paper at Royal Statistical Society Conference in Cardiff, Wales. Sept. 29-Oct. 1.1
BRILLINGER, D. R. (1964b). “A technique for estimating the spectral density matrix of two signals.” Proc. I.E.E.E. 52:103-104.
BRILLINGER, D. R. (1964c). “The asymptotic behavior of Tuke/s_general method of setting approximate confidence limits .(the jackknife) when applied to maximum likelihood estimates.” Rev. Inter. Statis. Inst. 32:202-206.
BRILLINGER, D. R. (1965a). “A property of low-pass filters. “SIAM Review. 7:65-67.
BRILLINGER, D. R. (1965b). “An introduction to polyspectra.” Ann. Math. Statist. 36:1351-1374.
BRILLINGER, D. R. (1966a). “An extremal property of the conditional expectation.” Biometrika. 53:594-595.
BRILLINGER, D. R. (1966b). “The application of the jackknife to the analysis of sample surveys.” Commentary. 8:74-80.
BRILLINGER, D. R. (1968). “Estimation of the cross-spectrum of a stationary bivariate Gaussian process from its zeros.” J. Roy. Statist. Soc., B. 30:145-159.
BRILLINGER, D. R, (1969a). “A search for a relationship between monthly sunspot numbers and certain climatic series. “Bull. 1SI. 43:293-306.
BRILLINGER, D. R, (1969b). “The calculation of cumulants via conditioning.” Ann. Inst. Statist. Math. 21:215-218.
BRILLINGER, D. R. (1969c). “Asymptotic properties of spectral estimates of second-order.” Biometrika. 56:375-390.
BRILLINGER, D. R. (1969d). “The canonical analysis of stationary time series»” In Multivariate Analysis —• II, Ed. P. R. Krishnaiah, pp. 331-350. New York: Academic. **.
BRILLINGER, D. R. (1970a). “The identification ofpolynomial systems by means of higher order spectra.” J. Sound Vib. 12:301-313."*
BRILLINGER, D. R. (1970b). “The frequency analysis of relations between sta- ' tionary spatial series.” Proc. Twelfth Bien. Sem. Canadian Math. Congr, Ed.
R. Pyke, pp. 39-81. Montreal: Can. Math. Congr..
BRILLINGER, D. R. (1972). “The spectral analysis of stationary interval functions.” In Proc. Seventh Berkeley Symp. Prob. Statist. Eds. L. LeCam, J. Neyman, and E. L. Scott, pp. 483-513. Berkeley: Univ, of California Press. •
BRILLINGER, D. R. (1973). “The analysis of time series collected in an experi-
• mental design.” Multivariate Analysis—111, Ed. P. R. Krishnaiah, pp.241.256. New York: Academic.
BRILLINGER, D. R., and HATANAKA, M. (1969). “An harmonic analysis of nonstationary multivariate economic processes. “Econometrica. 35:131-141.
BRILLINGER, D. R., and HATANAKA, M. (1970). “A permanent income hypothesis relating to the aggregate demand for money (an application of spectral and moving spectral analysis).” Economic Studies Quart. 21:44-71.-
BRILLINGER, D. R., and ROSENBLATT, M. (1967a). “Asymptotic theory of Л-th order spectia?\Spectral Analysis of TimeSeries, Ed. B. Harris, pp. 153-188. New York: Wiley. »*
BRILLINGER, D. R., and ROSENBLATT, M. (1967b). “Computation and interpretation of Л-th order spectra.” In Spectral Analysis of Time Series, Ed. B. Harris, pp. 189-232. New York: Wiley.
BRILLINGER, D. R., and TUKEY,* J.W. (1964). Asymptotic variances, moments, " cumulants and other average values. Unpublished manuscript.
BRYSON, R; A., and DUTTON, J. A. (1961). “Some aspects of the variance
• spectra of tree rings and varves.” Ann. New York Acad. Sci. 95:580-604.
BULLARD, E. (1966). “The detection of underground explosions.” Sci. Am. 215:19.. tiBUNIMOVTTCH, V. L (1949). The fluctuation process as a vibration with random
amplitude and phase.” J. Tech. Phys. (USSR) 19:1237-1259._
BURGERS, J. M. (1948). “Spectral analysis of an irregular function.” Proc. Acad. Set Amsterdam. 51:1073. ..
BURKHARDT, H. (1904). “Trigonometrische Reihen und Integrate” Enzykl.
' Math. Wiss. 2:825-1354.,
BURLEY, S. P. (1969). “A spectral analysis of the Australian business cycle.”
' Austral. Econ. Papers. 8:193-128. •
" BUSINGER, P. A., and GOLUB, G. ЙГ. (1969). “Singular value decomposition of a. complex matrix.” Comm. ACM. 12:564-565..
BUTZER, P. L., and NESSEL, R. J. (1971). Fourier Analysis and Approximations, Vol. 1. New York: Academic.
• CAIRNS, T. W. (1971). “On the fast Fourier transform on a finite Abelian group.” IEEE Trans. Computers. C-20;$69-571.
CAPON, J. (1969). “High resolution frequency wavenumber spectral analysis.” Proc. I.E.E.E. 57:1408-1418.
CAPON, J. and GOODMAN, N. R. (1970). “Probability distributions for estimators of the frequency wavenumber spectrum.” Proc. I.E.E.E. 58:1785-1786.
CARGO, G. T. (1966). “Some extension of the integral test.” Amer. Math. Monthly. 73:521-525.
CARPENTER, E. W. (1965). “Explosions seismology.” Science. 147:363-373.
CARTWRIGHT, D. E. (1967). “Time series analysis of tides and similar motions of the sea surface.” J. Appl. Prob. 4:103-112.
CHAMBERS, J. M. (1966). Some methods of asymptotic approximation in multi- variate statistical analysis. Ph.D. Thesis, Harvard University.
CHAMBERS, J. M. (1967). “On methods of asymptotic approximation for multivariate distributions.” Biometrika. 54:367-384.
CHANCE, B., PYE, K., and HIGGINS, J. (1967). “Waveform generation by enzymatic oscillators.” IEEE Spectrum. 4:79-86.
CHAPMAN, S., and BARTELS, J. (1951). Geomagnetism, Vol. 2. Oxford: Oxford Univ. Press.
CHERNOFF, H., and LIEBERMAN, G. J. (1954). “Use of normal probability paper?’ J. Amer. Statist. Assoc. 49:778-785.
CHOKSI, J; R. (1966). “Unitary operators induced by measure preserving transformations.” J. Math, and Meeh. 16:83-100.
CHOW, G. C. (1966). “A theorem on least squares and vector correlation in multivariate linear regression.” J. Amer. Statist. Assoc. 61:413-414.
CLEVENSON, M. L. (1970). Asymptotically efficient estimates of the parameters of a moving average time series. Ph.D. Thesis, Stanford University.
CONDIT, H. R., and GRUM, F. (1964). “Spectral energy distribution of daylight.” J. Optical Soc. Amer. 54:937-944.
CONSTANTINE, A. G. (1963). “Some noncentral distributions in multivariate analysis.” Ann. Math. Statist. 34:1270-1285.
COOLEY, J. W., LEWIS, P. A. W., and WELCH, P. D. (1967a). “Historical notes on the fast Fourier transform.” IEEE Trans, on Audio and Electroacoustics. AU-15:76-79.
COOLEY, 1W., LEWIS, P. A. W., and WELCH, P. D. (1967b). The fast Fourier transform algorithm and its applications. IBM Memorandum RC 1743.
COOLEY, J. W., LEWIS, P. A. W., and WELCH, P. D. (1970). “The application of the Fast Fourier Transform Algorithm to the estimation of spectra and crossspectra.” J. Sound Vib. 12:339-352.
COOLEY, J. W., and TUKEY, J. W. (1965). “An algorithm for the machine calculation of complex Fourier series.” Math. Comp. 19:297-301.
COOTNER, P. H, (1964). The Random Character of Stock Market Prices. Cambridge: MIT Press.
COVEYOU,R. R., and MACPHERSON, R. D. (1967). “Fourier analysis of uniform random number generators.” J. Assoc. Comp. Mach. 14:100-119.
CRADDOCK, J. M. (1965). “The analysis of meteorological time series for use in forecasting.” Statistician. 15:167-190.
CRADDOCK, J. M., and FLOOD, C. R. (1969). “Eigenvectors for representing the 500 mb geopotential surface over the Northern Hemisphere,” Quart. J. Royt Met. Soc. 95:576-593.
CRAMER, Н. (1939). “On the representation of functions by certain Fourier integrals.” Trans. Amer. Math. Soc. 46:191-201.
CRAMER, H. (1942). “On harmonic analysis in certain functional spaces.” Arkiv Math. Astr. Fysik. 28:1-7.
* CRAMER, H., and LEADBETTER, M. R. (1967). Stationary and Related Sto- chastic Processes. New York: Wiley.
CRANDALL, I. B. (1958). Random Vibration, I. Cambridge: MIT Press.
CRANDALL, I. B. (1963). Random Vibration, IL Cambridge: MIT Press.
CRANDALL, L B., and SACIA, C. F. (1924). “A dynamical study of the vowel sounds.” Bell Sy st. Tech. J. 3:232-237.
DANIELL, P. Jj(1946). “Discussion of paper by M. S. Bartlett,” Л Roy. Statist. Soc., SuppL 8:27.
DANIELS, H.E. (1962). “The estimation of spectral densities.” J. Roy. Statist. Soc., B. 24:1^5-198.
DARROCH, J. N. (1965). “An optimal property of principal components,” Ann, Math. Statist. 36:1579-1582.
DARZELL, J. F., and PIERSON, W. J., Jr. (1960). The apparent loss of coherency in vector Gaussian processes due to computational procedures with applications to ship motions and random seas. Report of Dept, of Meteorology and Oceanography, New York University.
DAVIS, C., and KAHAN, W. M. (1969). “Some new bounds on perturbation of subspaces.” Bull. Amer. Math. Soc. 75:863-868.
DAVIS, R. C. (1953). “On the Fourier expansion of stationary random processes.” Proc. Amer. Math. Soc. 24:564-569. .
DEEMER, W. L., and Olkin, I. (1951). “The Jacobians of certain matrix transformations.” Biometrika. 38:345-367.
DEMPSTER, A. P. (1966). “Estimation in multivariate analysis.” In Multivariate Analysis, Ed. P. R. Krishmaiah, pp. 315-334. New York: Academic.
DEMPSTER, A. P. (1969). Continuous Multivariate Analysis. Reading: Addison- Wesley.
DEUTSCH, R. (1962). Nonlinear Transformations of Random Processes. Englewood Cliffs: Prentice-Hall.
DICKEY, J. M. (1967). “Matricvariate generalizations of the multivariate t distributions and the inverted multivariate / distribution.” Ann. Math. Statist. 38:511-519.
DOEBLIN, W. (1938). “Sur Pequation matricielle A(t + s) = A(t)A(s) et ses applications aux probabilites en chaine ” Bull. Sci. Math. 62:21-32.
* DOOB, J. L. (1953). Stochastic Processes. New York: Wiley.
* DRAPER, N, R., arid SMITH, H. (1966). Applied Regression Analysis. New York: Wiley.
DRESSEL, P. L. (1940). “Semi-invariants and their estimates.” Ann. Math. Statist. 11:33-57.
DUGUNDJI, J. (1958). “Envelopes and pre-envelopes of real waveforms.” IRE Trans. Inf. Theory. IT-4:53-57.
DUNCAN, D. B., and JONES, R. H. (1966). “Multiple regression with stationary errors;” J» Amer. Statist. Assoc. 61:917-928.
* DUNFORD, N., and SCHWARTZ, J. T. (1963). Linear Operators, Part П. New York: Wiley, Interscience.
DUNNETT, C. W,, and SOBEL, M. (1954). “A bivariate generalization of Student’s Г-distribution, with tables for certain special cases.” Biometrika. 41:153-169.
DURBIN, J. (1954). “Errors in variables.” Rev. Inter, Statist. Inst. 22:23-?32.
DURBIN, J. (1960). “Estimation of parameters in time series regression models.” J. Roy. Statist. Soo., B. 22:139-153.
*DYNKIN, E. B. (1960). Theory of Markov Processes. London: Pergamon.
ECKART, C., and YOUNG, G. (1936). “On the approximation of one matrix by another of lower rank.” Psychometrika. 1:211-218.
ECONOMIC TRENDS (1968). No. 178. London, Central Statistical Office.
EDWARDS, R. E. (1967). Fourier Series: A Modern Introduction, Vols. I, П. New York: Holt, Rinehart and Winston.•
EHRLICH, L. W. (1970). “Complex matrix inversion versus real.”- Comm. A. С. M. 13:561-562,-’
ENOCHSON, L. D., and GOODMAN, N. R. (1965). Gaussian approximations ta* the distribution of sample coherence. Tech. Rep. AFFDL—TR—- 65-57, Wright-Patterson Air Force Base.
EZEKIEL, M. A., and FOX, C. A. (1959). Methods of Correlation and Regression . Analysis. New York: Wiley.‘
FEHR, U., and MCGAHAN, L. C. (1967). “Analog systems for analyzing infrasonic signals monitored in field experimentation,” J. Acoust. Soc. Amer. 42: 1001-1007.
FEJER, L. (1900). “Sur les fonctions bornees et integrables.” C. R. Acad. Scl. (Paris) 131:984-987. ’'
FEJER, L. (1904). “Untersuchungen fiber Fouriersche Reihen.” Mat. Ann. 58:501569.,.
♦ FELLER, W. (1966). Introduction to Probability Theory and its Applications^ Vol. 2. New York: Wiley.
FIELLER, E. C. (1954). “Some problems in interval estimation.” J. Roy. Statist. Soc., B. 16:175-185..
FISHER, R. A. (1928). “The general sampling distribution of the multiple correlation coefficient.” Proc. Roy. Soc. 121:654-673. .
FISHER, R. A. (1962). “The simultaneous distribution of correlation coefficients.” Sankhya A. 24:1-8.
FISHER, R. A., and MACKENZIE, W. A. (1922). “The correlation of weekly rainfall” (with discussion). J. Roy. Met. Soc. 48:234-245.
FISHMAN, G. S. (1969). Spectral Methods in Econometrics. Cambridge: Harvard Univ. Press.
FISHMAN, G. S., and KIVIAT, P. J. (1967). “Spectral analysis of time series generated by simulation models. Management Science. 13:525-557.
FOX, M. (1956). “Charts of the power of the F-test.” Ann. Math. Statist. 27:484497.
FREIBERGER, W. (1963). “Approximate distributions of cross-spectral estimates for Gaussian processes.” In Time Series Analysis, Ed. M. Rosenblatt, pp. 244259. New York: Wiley.
FREIBERGER, W., and GRENANDER, U. (1959). “Approximate distributions of ‘ noise power measurements.” Quart. Appl. Math. i7:271-283.
FRIEDLANDER, S. K., and TOPPER, L, (1961). Turbulence; Classic Papers on Statistical Theory. New York: Wiley Interscience.
FRIEDMAN, B. (1961). “Eigenvalues of composite matrices ” Proc. Camb. Philos. Soc. 57:37-49.
GABOR, D. (1946). “Theory of communication,” J. Inst. Elec. Engrs. 93:429-457,
GAJJAR, A. V. (1967). “Limiting distributions of certain transformations of multiple correlation coefficient.” Metron. 26:189-193. _
* GAVURIN, M. K. (1957), “Approximate determination of eigenvalues and the theory of perturbations.” Uspehi Mat. Nauk. 12:173-175.
* GELFAND, I., RAIKOV, D„ and SHILOV, G. (1964). Commutative Normed Rings. New York; Chelsea. ..
GENTLEMAN, W. M., and SANDE, G. (1966). “Fast Fourier transforms—for fun and profit,” AF1PS. 1966 Fall Joint Computer Conference. 28:563-578. Washington; Spartan..
GERSCH, W. (1972). “Causality or driving in electrophysiological signal, analysis.” J. Math. Bioscience. 14:177-196.,
GIBBS, F. A., and GRASS, A, M. (1947). “Frequency analysis of electroencephalograms.” Science. 105:132-134.
* GIKMAN, 1.1., and SKOROKHOD, A. V. (1966). “On the densities of probability measures in function spaces.” Russian Math. Surveys. 21:83-156.
* GINZBURG, J. P. (1964). “The factorization of analytic matrix functions.” Soviet Math. 5:1510-1514.
GIRI, N. (1965). “On the complex analogues of T^ and R2 tests.” Ann. Math. Statist. 36:664-670.'
GIRSHICK, M. A. (1939). “On the sampling theory of roots of determinental equations.” Ann. Math. Statist. 10:203-224. . .
GLAHN, H. R. (1968). “Canonical correlation and its relationship to discriminant analysis and multiple regression.” J. Atmos. Sci. 25:23-31.
GODFREY, M. D. (1965). “An exploratory study of the bispectrum of an economic time series.” Applied Statistics. 14:48-69.'
GODFREY, M. D., and KARREMAN, H. F. (1967). “A spectrum analysis of seasonal adjustment.” In Essays in Mathematical Economics» Ed. M. Shubik, pp. 367-421. Princeton: Princeton Univ. Press.
GOLDBERGER, A. S. (1964). Econometric Theory. New York; Wiley.
GOLUB, G. H. (1969). “Matrix decompositions and statistical calculations.” In Statistical Computation» Eds. R., C. Milton, J, A. Nelder, pp. 365-397. New York: Academic.-
GOOD, I. J. (1950). “On the inversion of circulant matrices.” Biometrika. 37:185186.-
GOOD, I. J. (1958). “The interaction algorithm and practical Fourier series.” J. Roy. Stat. Soc., B. 20:361-372. Addendum (1960), 22:372-375.
GOOD, I. J. (1963). “Weighted coVariance for detecting the direction of a Gaussian source. In Time Series Analysis» Ed. M. Rosenblatt, pp. 447-470. New York: Wiley. ,-
• GOOD, I. J. (1971). “The relationship between two fast Fourier transforms.” IEEE Trans. Computers. C-20:310-317.
GOODMAN, N. R. (1957). On the joint estimation of the spectra, cospectrum and, quadrature spectrum of a two-dimensional stationary Gaussian process. Ph.D. Thesis, Princeton University.
GOODMAN, N. R. (1960). “Measuring amplitude and phase.” J. Franklin Inst. 270:437-450.'
GOODMAN, N. R. (1963). “Statistical analysis based upon a certain multivariate complex Gaussian distribution (an introduction).” Ann. Math. Statist. 34:152177.*
GOODMAN, N. R. (1965). Measurement of matrix frequency reponse functions and multiple coherence functions. Research and Technology Division, AFSC, AFFDL TR 65-56, Wright-Patterson AFB, Ohio.
GOODMAN, N. R. (1967). Eigenvalues and eigenvectors of spectral density matrices. Seismic Data Lab. Report 179.
• GOODMAN, N.R., and DUBMAN, M.R. (1969). “Theory of time-varying spectral analysis and complex Wishart matrix processes.” In Multivariate Analysis II, Ed. P. R. Krishnaiah, pp. 351-366. New York: Academic.
GOODMAN, N. R„ KATZ, S., KRAMER, В. H., and KUO, M. T. (1961). “Frequency response from stationary noise: two case histories.” Technometrics. 3:245-268..
GORMAN, D., and ZABORSZKY, J. (1966). “Functional expansion in state space and the .r domain.” IEEE Trans. Aut. Control. AC-11:498-505..
GRANGER, C. W. J, (1964). Spectral Analysis of Economic Time Series. Princeton: Princeton Univ. Press.
GRANGER, C. W. J., and ELLIOTT, С. M. (1968). “A fresh look at wheat prices ’ and markets in the eighteenth century.” Economic History Review. 20:257-265.
GRANGER, C. W. J., and HUGHES, A. O. (1968). “Spectral analysis of short series — a simulation study.” J. Roy. Statist. Soc., A. 131:83-99.
GRANGER, C. W. J., and MORGENSTERN, O. (1963). “Spectral analysis of stock market prices,” Kykios. 16:1-27.
GRENANDER, U. (1950). “Stochastic processes and statistical inference.” Ark.
Mat. VA%-T11.,
GRENANDER, U. (1951a). “On empirical spectral analysis of stochastic processes.” Ark. Mat. 1:503-531.
GRENANDER, U. (1951b), “On Toeplitz forms and stationary processes.” Ark. MatAxSSVSIX.
GRENANDER, U. (1954). “On the estimation of regression coefficients in the case of an autocorrelated disturbance.” Ann. Math. Statist. 25:252-272.
GRENANDER, U., POLLAK, H. O., and SLEPIAN, D. (1959). “The distribution • of quadratic forms in normal variates: a small sample theory with applications to spectral analysis.” J. Soc. Indust. Appl. Math. 7:374-401.
GRENANDER, U., and ROSENBLATT, M. (1953). “Statistical spectral analysis of time series arising from stochastic proc’esses.” Ann. Math. Stat. 24:537-558.
GRENANDER, U., and ROSENBLATT, M. (1957). Statistical Analysis of Stationary Time Series. New York: Wiley..)
♦ GRENANDER, U., and SZEGO, G. (1958). Toeplitz Forms andTheir Applications.
Berkeley: Univ, of Cal. Press.1
GROVES, G. W., and HANNAN, E. J. (1968). “Time series regression of sea level ' on weather.” Rev. Geophysics. 6:129-174.
GROVES, G. W., and ZETLER, B. D. (1964). “The cross-spectrum of sea level at San Francisco and Honolulu.” J. Marine Res. 22:269-275.
GUPTA, R. P. (1965). “Asymptotic theory for principal component analysis in the complex ca^e.” J. Indian Statist. Assoc. 3:97-106.
GUPTA, S. S. (1963a). “Probability integrals of multivariate normal and multivariate t." Ann. Math. Statist. 34:792-828.
GUPTA, S. S. (1963b). “Bibliography on the multivariate normal integrals and related topics.” Ann. Math. Statist. 34:829-838.
GURLAND, J. (1966). “Further consideration of the distribution of the multiple correlation coefficient.” Ann. Math. Statist. 37:1418._
GYIRES, B. (1961). “Uber die Spuren der verallgemeinerten Toeplitzschen Ma- trize.” Publ. Math. Debrecen. 8:93-116.•
HAJEK, J. (1962). “On linear statistical problems in stochastic processes.” Czech. Math. J. 12:404-443..
HALL, P. (1927). “Multiple and partial correlation coefficients.” Biometrika.l9*. 100-109.'■
* HALMOS, P. R. (1956). Lectures in Ergodic Theory. Tokyo: Math. Soc. Japan.
HALPERIN, M. (1967). “A generalisation of Fieller’s theorem to the ratio of complex parameters.” J. Roy. Statist. Soc., B. 29:126-131.
HAMBURGER, H., and GRIMSHAW, M. E. (1951). Linear Transformations in n-dimensional Vector Space. Cambridge: Cambridge Univ. Press.•
HAMMING, R. W. (1962). Numerical Methods for Scientists and Engineers. New York: McGraw-Hill.
HAMMING, R. W., and TUKEY, J. W. (1949). Measuring noise color. Bell Telephone Laboratories Memorandum.
HAMbN, В. V., and HANNAN, E. J. (1963). “Estimating relations between time series.” J. Geophys. Res. 68:6033-6041.
* HANNAN, E. J. (1960). Time Series Analysis. London: Methuen.
HANNAN, E. J. (1961a). “The general theory of canonical correlation and its relation to functional analysis.” J. Aust. Math. Soc. 2:229-242.
HANNAN, E. J. (1961b). “Testing for a jump in the spectral function.” J. Roy.
Statist. Soc., B. 23:394-404.
HANNAN, E. J. (1963a). “Regression for time series with errors of measurement.” Biometrika. 50:293-302.
HANNAN, E. J. (1963b). “Regression for time series.” In Time Series Analysis, Ed. M. Rosenblatt, pp. 17-37. New York: Wiley.
HANNAN, E. J. (1965). “The estimation of relationships involving distributed • jags.” Econometrica. 33:206-224.
HANNAN, E. J. (1967a). “The estimation of a lagged regression relation.” Bio' metrika. 54:409-418.
HANNAN, E. J. (1967b). “Fourier methods and random processes.” Bull. Inter.
' Statist. Inst. 42:475-494.
HANNAN, E. J. (1967c). “Canonical correlation and multiple equation systems in
• economics.” Econometrica. 35:123-138.
HANNAN, E. J. (1968). “Least squares efficiency for vector time series.” J. Roy.
• Statist. Soc., B. 30:490-498.
* HANNAN, Е. J. (1970). Multiple Time Series. New York: Wiley.
K HASSELMAN; K., MUNK, W., and MACDONALD, G. (1963). “Bispectrum of ocean waves.” In Time Series Analysis» Ed. M. Rosenblatt, pp. 125-139. New York: Wiley.
HAUBRICH, R. A. (1965). “Earth noise, 5 to 500 millicycles per second. 1. Spectral’ stationarity, normality, nonlinearity.” J. Geophys. Res. 70:1415-1427.
HAUBRICH, R. A., and MACKENZIE, G. S. (1965). “Earth noise, 5 to 500 milli- cydes per second. 2. Reaction of the earth to ocean and atmosphere.” J. Geophys. Res. 70:1429-1440.
HENNINGER, J. (1970). “Functions of bounded mean square and generalized Fourier-Stieltjes transforms.” Can. J. Math. 22:1016-1034.
HERGLOTZ, G. (1911). “Ober Potenzreihen mit positivem reellem Teil im Ein- heitskreis.” Sitzgsber. Sachs Akad. Wiss. 63:501-511.
* HEWITT, E., and ROSS, K. A. (1963). Abstract Harmonic Analysis. Berlin: Springer.
HEXT, G; R. (1966). A new approach to time series with mixed spectra. Ph.D. Thesis, Stanford University.
HINICH, M. (1967). “Estimation of spectra after hard clipping of Gaussian processes.” Technometrics. 9:391-400.
HODGSON, V. (1968). “On the sampling distribution of the multiple correlation coefficient.” Ann. Math. Statist. 39:307.
HOFF, J. C. (1970). “Approximation with kernels of finite oscillations, I. Convergence.” J. Approx. Theory. 3:213-228.
HOOPER, J. W. (1958). “The sampling variance of correlation coefficients under assumptions of fixed and mixed variates.” Biometrika. 45:471-477.
HOOPER, J. W. (1959). “Simultaneous equations and canonical, correlation theory.” Econometrica. 11x2^5-256.
HOPF, E. (1937). Ergodentheorie. Berlin: Springer.
HOPF, E. (1952). “Statistical hydromechanics and functional calculus.” J. Rat. Meeh. Anal. 1:87-123.
HORST, P. (1965). Factor Analysis of Data Matrices. New York: Holt, Rinehart and Winston.
HOTELLING, H. (1933). “Analysis of a complex of statistical variables into principal components.” J. Educ. Psych. 24:417-441,498-520.
HOTELLING, H. (1936). “Relations between two sets of variates.” Biometrika. . 28:321-377.
HOWREY, E. P. (1968). “A spectrum analysis of the long-swing hypothesis.” Int. Econ. Rev. 9:228-252.
HOYT, R. S. (1947). “Probability functions for the modulus and angle of the normal complex variate.” Bell System Tech. J. 26:318-359.
HSU, P. L. (1941). “On the limiting distribution of canonical correlations.” Biot metrika. 33:38-45.
HSU, P. L. (1949). “The limiting distribution of functions of sample means and application to testing hypotheses'.” In Proc. Berkeley Symp. Math. Statist. Prob.» Ed. J. Neyman, pp. 359-401. Berkeley: Univ, of Cal. Press.
*HUA, L. K. (1963). Harmonic Analysis of Functions of Several Variables in Classical Domains. Providence: American Math. Society.
* IBRAGIMOV, I. А. (1963). “On estimation of the spectral function of a stationary Gaussian process.” Theory Prob. Appl. 8:366-401.,
* IBRAGIMOV, I. A. (1967). “On maximum likelihood estimation of parameters of the spectral density of stationary time series.” Theory Prob. Appl. 12:115-119.
^lOSIFESCU, M. (1968). “The law of the interated logarithm for a class of dependent random variables.” Theory Prob. Appl. 13:304-313.
IOSIFESCU, M., and THEODORESCU, R. (1969). Random Processes and Learning. Berlin: Springer.
ISSERLIS, L. (1918). “On a formula for the product moment coefficient of any order of a normal frequency distribution in any number of variables.” Bio- metrika. 12:134-139.
ITO, K., and NISIO, M. (1964). “On stationary solutions of a stochastic differential equation.” J. Math. Kyoto. 4:1-75. .
IZENMAN, A. J. (1972). Reduced rank regression for the multivariate linear model. Ph.D. Thesis, University of California, Berkeley.
JAGERMAN, D. L. (1963). “The autocorrelation function of a sequence uniformly distributed modulo 1.” Ann. Math. Statist. 34:1243-1252.
JAMES, A. T. (1964). “Distributions of matrix variates and latent roots derived from normal samples.” Ann. Math. Statist. 35:475-501.
JAMES, A. T. (1966). “Inference on latent roots by calculation of hypergeometric * functions of matrix argument.” In Multivariate Analysis, Ed. P. R. Krishnaiah, pp. 209-235. New York: Academic.
JENKINS, G. M. (1961). “General considerations in .the analysis of spectra.” Technometrics. 3:133-166. •
JENKINS, G. M. (1963a). “Cross-spectral analysis and the estimation, of linear open loop transfer functions.” In Time Series Analysis, Ed. M. Rosenblatt, pp. 267-278. New York: Wiley.
JENKINS, G. M. (1963b). “An example of the estimation of a linear open-loop transfer function.” Technometrics. SxITI-TAS.
* JENKINS, G. M., and WATTS, D. G. (1968). Spectrum Analysis and Its Applications. San Francisco: Holden-Day.
JENNISON, R. C. (1961). Fourier Transforms and Convolutions for the Experimentalist. London: Pergamon.
JONES, R. H. (1962a). “Spectral estimates and. their distributions, II.” Skand. Aktuartidskr .45:135-153.
JONES, R. H. (1962b). “Spectral analysis with regularly missed observations.” Ann. Math. Statist. 33 *.455-461.
JONES, R. H. (1965). “A reappraisal of the periodogram in spectral analysis.” Technometrics. 7:531-542..
JONES, R. H. (1969). “Phase free estimation of coherence.” Ann. Math. Statist. 40:540-548.
KABE, D. G. (1966)., “Complex analogues of some classical non-central multivariate distributions.’’ Austral. J. Statist. 8 *.99-103.
KABE, D. G. (1968a). “On the distribution of the regression coefficient matrix of a normal distribution.” Austral. J. Statist. 10:21-23.
KABE, D. G. (1968b). “Some aspects of analysis of variance and covariance theory ' for a certain multivariate complex Gaussian distribution.” Metrika. 13:86-97#
* KAHANE, J. (1968). Some Random Series of Functions. Lexington: Heath.
KAMPE de FERIET, J. (1954). “Introduction to the statistical theory of turbu- _ lence.” Z Soc. Ind. Appl. Math. 2:244-271.
KAMPE de FERIET, J, (1965). “Random integrals of differential equations.” In Lectures on Modern Mathematics, Ed. T. L. Saaty, 3:277-321. New York: Wiley.
KANESHIGE, I. (1964). “Frequency response of an automobile engine mounting.” Ann. Inst. Stat. Math., Suppl. 3:49-58.
KAWASHIMA, R. (1964). “On the response function for the rolling motion iof a fishing boat on ocean waves.” Ann. Inst. Stat. Math., Suppl. 3:33-40.
KAWATA, T. (1959). “Some convergence theorems for stationary stochastic processes.” Ann. Math. Statist. 30:1192-1214.
KAWATA, T. (1960). “The Fourier series of some stochastic processes.” Japanese J. Math. 29:16-25.
KAWATA, T. (1965). “Sur la serie de Fourier d’un processus stochastique sta- tionaire.” C. R. Acad. Sci. (Paris). 260:5453-5455.
KAWATA, T. (1966). “On the Fourier series of a stationary stochastic process.” Zeit. Wahrschein. 6:224-245.
KEEN, C. G., MONTGOMERY, J., MOWAT, W. M. H., and PLATT, D. C. (1965). “British seismometer array recording systems.” J. Br. Instn. Radio Engrs. 30:279.
KENDALL, M. (1946). Contributions to the Study of Oscillatory Time Series. Cambridge: Cambridge Univ. Press.
* KENDALL, M. G., and STUART, A. (1958). The Advanced Theory of Statistics, Vol. I. London: Griffin.
* KENDALL, M. G., and STUART, A. (1961). The Advanced Theory of Statistics, Vol. II. London: Griffin.
* KENDALL, M. G., and STUART, A. (1968). The Advanced Theory of Statistics, Vol. III. London: Griffin.
KHATRI, C. G. (1964). “Distribution of the ‘generalised’ multiple correlation matrix in the dual case.” Ann. Math. Statist. 35:1801-1806.
KHATRI, C. G, (1965a). “Classical statistical analysis based on a certain multivariate complex Gaussian distribution.” Ann. Math. Statist. 36:98-114.
KHATRI, C. G. (1965b). “A test for reality of a covariance matrix in a certain complex Gaussian distribution.” Ann. Math. Statist. 36:115-119.
KHATRI, C. G. (1967). “A theorem on least squares in multivariate linear regression.” J. Amer. Statist. Assoc. 62:1494-1495.
*KHINTCHINE, A. (1934). “Korrelationstheorie der stationaren Prozesse.” Math. Annalen. 109:604-615.
KINOSITA, K. (1964). “On the behaviour of tsunami in a tidal river.” Ann. Inst.
Stat. Math., Suppl. 3:78-88.K
KIRCHENER, R. B. (1967). “An explicit formula for exp At." Amer. Math. Monthly. 74:1200-1203.
KNOPP, K. (1948). Theory and Application of Inf nite Series.. New York: Hafner.
* KOLMOGOROV, A. N. (1941a). “interpolation und Extrapolation von stationaren zufalligen Folgen.” Bull. Acad. Sci. de IU.R.S.S. 5:3-14.
KOLMOGOROV, A. N. (1941b). “Stationary sequences in Hilbert space.” (In Russian.) Bull.' Moscow State U. Math. 2:1-40. [Reprinted in Spanish in Trab. Estad. 4:55-73, 243-270.]
KOOPMANS, L. H. (1964a). “On the coefficient of coherence for weakly stationary stochastic processes.” Ann. Math. Statist. 35:532-549.
KOOPMANS, L. H. (1964b). “On the multivariate analysis of weakly stationary stochastic processes.” Ann. Math. Statist. 35:1765-1780.
KOOPMANS, L. H. (1966). “A note on the estimation of amplitude spectra for stochastic processes with quasi-linear residuals.” J. Amer. Statist. Assoc. 61: 397-402.
KRAMER, H. P., and MATHEWS, M. V. (1956). “A linear coding for transmitting a set of correlated signals.” IRE Trans. Inf. Theo. IT-2:41-46.
KRAMER, К. H. (1963). “Tables for constructing confidence limits on the multiple correlation coefficient.” J. Amer. Statist. Assoc. 58:1082-1085.
KRISHNAIAH, P. R., arid WAIKAR, V. B. (1970). Exact joint distributions of few roots of a class of random matrices. Report ARL 70-0345. Aerospace Res. Labs.
KROMER, R. E. (1969). Asymptotic properties of the autoregressive spectral estimator. Ph.D. Thesis, Stanford University.
KSHIRSAGAR, A. M. (1961). “Some extensions of the multivariate /-distribution and the multivariate generalization of the distribution of the regression coefficient.” Proc. Camb. Philos. Soc. 57:80-85.
KSHIRSAGAR, A. M. (1971). “Goodness of fit of a discriminant function from the vector space of dummy variables.” J. Roy. Statist. Soc., B. 33:111-116.
KUHN, H. G. (1962). Atomic Spectra. London: Longmans.
KUO, F. F., and KAISER, J. F. (1966). System Analysis by Digital Computer. New York: Wiley.
LABROUSTE, M. H. (1934). “L’analyse des seismogrammes.” Memorial des Sciences Physiques, Vol. 26. Paris: Gauthier-Villars.
LAMPERTI, J. (1962). “On covergence of stochastic processes.” Trans. Amer. Math. Soc. 104:430-435.
LANCASTER, H. O. (1966). “Kolmogorov’s remark on the Hotelling canonical correlations.” Biometrika. 53:585-588.
LANCZOS, C. (1955). “Spectroscopic eigenvalue analysis.” J. Wash. Acad. Sci. 45:315-323.
LANCZOS, C. (1956). Applied Analysis. Englewood Cliffs: Prentice-Hall.
LATHAM, G., et al. (1970). “Seismic data from man-made impacts on the moon.” Science. 170:620-626.
LAUBSCHER, N. F. (1960). “Normalizing the noncentral t and F distributions.” Ann. Math. Statist. 31:1105-1112.
LAWLEY, D. N. (1959). “Tests of significance in canonical analysis.” Biometrika. 46:59-66.
LEE, Y. W. (1960). Statistical Theory of Communication. New York: Wiley.
LEE, Y. W., and WIESNER, J. B. (1950). “Correlation functions and communication applications.” Electronics. 23:86-92.
LEONOV, V. P. (1960). “The use of the characteristic functional and semi-invariants in the ergodic theory of stationary processes.” Soviet Math. 1:878-881.
. * LEONOV, V. Р. (1964). Some Applications of Higher-order Semi-invariants to the _ Theory of Stationary. Random Processes (in Russian). Moscow: Izdatilstvo, Nauka. *
* LEONOV, V. P„ and SHIRYAEV, A. N. (1959)._“On a method of calculation of semi-invariants/’ Theor. Prob. Appl. 4:319-329.
* LEONOV, V. P., and SHIRYAEV, A. N. (I960). “Some problems in the spectral theory of higher moments, II.” Theory Prob. Appl. 5:460-464.
LEPPINK, G. J. (1970). “Efficient estimators in spectral analysis. “Proc. Twelfth Biennial Seminar Can. Math. Cong.» Ed. R. Pyke, pp. 83-87. Montreal: Can. Math. Cong.
LEVY, P. (1933). “Sur la convergence absolue des series de Fourier.” C. R. Acad. Sci. Paris. 196:463-464.
LEWIS, F. A. (1939). “Problem 3824.” Amer. Math. Monthly. 46:304r305.
LIGHTHILL, M. J. (1958). An Introduction to Fourier Analysis and Generalised Functions. Cambridge: Cambridge Univ. Press.
* LOjEVE, M. (1963). Probability Theory. Princeton: Van Nostrand.
LOMNICKI, Z. A., and ZAREMBA, S. K. (1957a). “On estimating the spectral density function of a stochastic process.” J. Roy. Statist. Soc.» B. 19:13-37.
LOMNICKI, Z. A., and ZAREMBA, S. K. (1957b). “On some moments and distributions occurring in the theory of linear stochastic processes, I.” Mh. Math. 61:318-358.
LOMNICKI, Z. A., and ZAREMBA, S. K. (1959). “On some moments and distributions occurring in the theory of linear stochastic processes, П.” Mh. Math. 63:128-168.'.
LOYNES, R. M. (1968). - ’On the concept of the spectrum for non-stationary processes.” J. Roy. Statist. Soc., B. 30:1-30.
MACDONALD, N. J., and WARD, F. (1963). “The prediction of geomagnetic- disturbance indices. 1. The elimination of internally predictable variations.” J. Geophys. Res. 68:3351-3373.
MACDUFFEE, С. C. (1946). The Theory of Matrices. New York: Chelsea.
MACNEIL, I. B. (1971). “Limit processes for co-spectral and quadrature spectral distribution functions.” Ann. Math. Statist. 42:81-96.
MADANSKY, A., and OLKIN, I. (1969). “Approximate confidence regions for constraint parameters.” In Multivariate Analysis^W, Ed. P. R. Krishnaiah, pp. 261-286. New York: Academic.
MADDEN, T. (1964). “Spectral, cross-spectral and bispectral analysis of low frequency electromagnetic data.” Natural Electromagnetic Phenomena Below 30 kc/s, Ed. D. F. Bleil, pp. .429-450. New York: Wiley.
MAJEWSKI, W., and HOLLIEN, H. (1967). “Formant frequency regions of Polish vowels.” J. Acoust. Soc. Amer. 42:1031-1037.
* MALEVICH, T. L. (1964). “The asymptotic behavior of an estimate for the spectral function of a stationary Gaussian process.” Theory Prob. Appl. 9:350-353.
* MALEVICH, T. L. (1965). “Some properties of the estimators of ihe spectrum of a stationary process.” Theory Prob. Appl. 10:447-465.
MALINVAUD, E. (1964). Statistical Methods of Econometrics. Amsterdam: North- Holland.
MNLVyNS, С. L. (1961). “Latent vectors of random symmetric matrices?* Bio* metrika. 48:133-149.<
MANN, H. B., and WALD, A. (1943a). “On stochastic limit and order relation" ' ships.” Ann. Math. Statist. 14:217-226.
MANN, H. B., and WALD, A. (1943b). “On the statistical treatment of linear stochastic difference equations.” Econometrica. 11:173-220.
MANWELL, T., and SIMON, M. (1966). “Spectral density of the possibly random fluctuations of 3 C 273.” Nature. 212:1224-1225.
MARUYAMA, G. (1949). “The harmonic analysis of stationary stochastic processes.” Mem. Fac. Sci, Kyusyu Univ. Ser. A. 4:45-106.
MATHEWS, M. V. (1963). “Signal detection models for human auditory perception.” In Time Series Analysis, Ed. M. Rosenblatt, pp. 349-361. New York: Wiley.
MCGUCKEN, W. (1970). Nineteenth Century Spectroscopy. Baltimore: Johns Hopkins.
MCNEIL, D. R. (1967). “Estimating the covariance and spectral density functions from a clipped stationary time series.” J. Roy. Statist. Soc., B. 29:180-195.
MCSHANE, E. J. (1963). “Integrals devised for special purposes.” Bull. Amer. Math. Spc. 69:597-627.
MEDGYESSY, P. (1961). Decomposition of Super posit ions ofDistribution Functions. Budapest: Hungar. Acad. Sci.
MEECHAM, W. C. (1969), “Stochastic representation of nearly-Gaussian nonlinear processes.” J. Statist. Physics. 1:25-40.
MEECHAM, W. C., and SIEGEL, A. (1964). “Wiener-Hermite expansion in model turbulence at large Reynolds numbers.” Physics Fluids. 7:1178-1190.
MEGGERS, W. F. (1946). “Spectroscopy, past, present and future.” J. Opt. Soc. Amer. 36:431-448,
MIDDLETON, D. (I960). Statistical Communication Theory. New York: McGraw- Hill.
MILLER, K. S. (1968). “Moments of complex Gaussian processes.” Proc. IEEE. 56:83-84.
MILLER, K. S. (1969). “Complex Gaussian processes.” SIAM Rev. 11:544-567.
MILLER, R. G. (1966). Simultaneous Statistical Inference. New York: McGraw- Hill.
MIYATA, M. (1970). “Complex generalization of canonical correlation and its - application to sea level study.” J. Marine Res. 28:202-214.
MOORE, C. N. (1966). Summable Series and Convergence Factors. New York: Dover.
MORAN, J. M., et al. (1968). “The 18-cm flux of the unresolved component of 3 C 273.” Astrophysical J. 151 :L99-L101.*
MORRISON, D. F. (1967). Multivariate Statistical Methods. New York: McGraw- Hill.
MORTENSEN, R. E. (1969). “Mathematical problems of modeling stochastic non-linear dynamic systems.” J. Statist. Physics. 1:271-296.
MUNK, W. H., and CARTWRIGHT, D. E. (1966). “Tidal spectroscopy and prediction.” Phil. Trans., A. 259:533-581.
*MUNK, W. Н., and MACDONALD, G. J. F. (1960). The Rotation of the Earth. Cambridge: Cambridge Univ. Press.
MUNK, W. H., and SNODGRASS, F. E. (1957). “Measurements of southern swell at Guadalupe Island.” Deep-Sea Research. 4:272-286.
MURTHY/V. K. (1963). “Estimation of the cross-spectrum.” Ann. Math. Statist. 34:1012-1021.
NAKAMURA, I. (1964). “Relation between superelevation and car rolling.” Ann. Inst. Stat. Math., Suppl; 3:41-48.
NAKAMURA, H., and MURAKAMI, S. (1964). “Resonance characteristic of the hydraulic system of a water power plant.” Ann. Inst. Stat. Math.) Suppl. 3:65-70.
NAYLOR, T. H., WALLACE, W. H., and SASSER, W. E. (1967). “A computer simulation model of the textile industry.” J. Amer. Stat. Assoc. 62:1338-1364.
NERLOVE, M. (1964). “Spectral analysis of seasonal adjustment procedures.” Econometrica. 32:241-286.
NETTHEIM, N. (1966). The estimation of coherence. Technical Report, Statistics Department, Stanford University.
NEUDECKER, H. (1968). “The Kronecker matrix product and some of its applications in econometrics.” Statistica Neerlandica. 22:69-82.
NEWTON, H. W. (1958),. The Face of the Sun. London: Penguin.
NICHOLLS, D. F. (1967). “Estimation of the spectral density function when testing for a jump in the spectrum.” Austral. J. Statist. 9:103-108.
NISIO, M. (1960). “On polynomial approximation for strictly stationary processes.” J. Math. Soc. Japan. 12:207-226.
NISIO, M. (1961). “Remarks on the canonical representation of strictly stationary processes.” J. Math. Kyoto. 1:129-146.
NISSEN, D. H. (1968). “A note on the variance of a matrix.” Econometrica. 36:603- 604.
NOLL, A. M. (1964). “Short-time spectrum and ‘cepstrum’ techniques for vocalpitch detection.” J. Acoust. Soc. Amer. 36:296-302.
* OBUKHOV, A. M. (1938). “Normally-correlated vectors.” Izv. Akad. NaukSSR. Section on Mathematics. 3:339-370.
* OBUKHOV, A. M. (1940). “Correlation theory of vectors-.” Uchen. Zap. Moscow State Univ. Mathematics Section. 45:73-92.
OCEAN WAVE SPECTRA (1963). National Academy of Sciences. Englewood Cliffs: Prentice-Hall.
OKAMOTA, M. (1969). “Optimality of principal components.” In Multivariate Analysis — II, Ed. P. R. Krisknaiah, pp. 673-686. New York: Academic.
OKAMOTO, M., and KANAZAWA, M. (1968). “Minimization of eigenvalues of a matrix and optimality of principal components.” Ann. Math. Statist. 39:859- 863.
OLKIN, I., and PRATT, J. W. (1958). “Unbiased estimation of certain correlation coefficients.” Ann. Math. Statist. 29:201-210.
OLSHEN, R. A. (1967). “Asymptotic properties of the periodogram of a discrete stationary process.” J. Appi. Prob. 4:508-528.
OSW ALD, J. R. V. (1956). “Theory of analytic bandlimited signals applied to carrier systems.” IRETrans. Circuit Theory. CT-3:244-251.
PANOFSKY, Н. А. (1967). “Meteorological applications of cross-spectrum analysis.” In Advanced Seminar on Spectral Analysis of Time Series, Ed. B. s Harris, pp. 109-132. New York: Wiley.
PAPOULIS, A. (1962). The Fourier Integral and its Applications. New York: McGraw-Hill.
PARTHASARATHY, K. R. (1960). “On the estimation of the spectrum of a stationary stochastic process.” Ann. Math. Statist. 31:568-573.
* PARTHASARATHY, K. R., and VARADAHN, S. R. S. (1964). “Extension of stationary stochastic processes.” Theory Prob. Appl. 9:65-71.
PARZEN, E. (1957). “On consistent estimates of the spectrum of a stationary time series.” Ann. Math. Statist. 28:329-348.
* PARZEN, E. (1958). “On asymptotically efficient consistent estimates of the spectral density function of a stationary time series.” J, Roy. Statist. Soc., B. 20:303-322.
PARZEN, E, (1961). “Mathematical considerations in the estimation of spectra.” Technometrics. 3:167-190.
PARZEN, E. (1963a). “On spectral analysis with missing observations and amplitude modulation.” Sankhya. A. 25:180-189.
PARZEN, E. (1963b). “Notes on Fourier analysis and spectral windows.” Included in Parzen (1967a).
PARZEN, E. (1963c). “Probability density functionals and reproducing kernel Hilbert spaces.” In Times Series Analysis, Ed. M. Rosenblatt, pp. 155-169. New York: Wiley.
PARZEN, E. (1964). “An approach to empirical-time series analysis.” Radio Science. 68D:937-951.
PARZEN, E. (1967a). Time Series Analysis Papers. San Francisco: Holden-Day.
PARZEN, E. (1967b). “Time series analysis for models of signals plus white noise.” In Advanced Seminar on Spectral Analysis of Time Series, Ed. B. Harris, pp. 233-257. New York: Wiley.
PARZEN, E. (1967c). “On empirical multiple time series analysis.” In Proc. Fifth Berkeley Symp. Math. Statist. Prob., 1, Eds. L. Le Cam and J. Neyman, pp. 305-340. Berkeley: Univ, of Cal. Press.
PARZEN, E. (1969). “Multiple time series modelling.” In Multivariate Analysis— II, Ed. P. R. Krishnaiah, pp. 389-409. New York: Academic.
PEARSON, E. S., and HARTLEY, H. O. (1951). “Charts of the power function for analysis of variance tests derived from the non-central F distribution.” Bio- metrika. 38:112-130.
PEARSON, K., and FILON, L. N. G. (1898). “Mathematical contributions to the theory of evolution: IV. On the probable errors of frequency constants and on the influence of random selection on variation and correlation.” Phil. Trans., A. 191:229-311.
PEARSON, K., JEFFERY, G. B., and ELDERTON, E. M. (1929). “On the coefficient of the first product moment coefficient in samples drawn from an indefinitely large normal population.” Biometrika. 21:164-201.
PHILIPP, W. (1967). “Das Gesetz vom iterierten Logarithrhus fur stark mischende stationareProzesse.”Ze/L Wahrschein. 8:204-209.
PHILIPP, W. (1969). “The central limit problem for mixing sequences of random variables.” Z. Wahrschein. verw. Gebiet. 12:155-171.
PICINBONO, В. (1959). “Tendence vers le caracteregaussien par filtrage selectif.” C. R. Acad. Sei. Paris. 248:2280.
PICKLANDS, J. (1970). “Spectral estimation with random truncation.” Ann. Math. Statist. 41:44-58.
♦PINSKER, M. S. (1964). Information and Information Stability of Random Variables and Processes. San Francisco: Holden-Day.
* PISARENKO, V. F. (1970). “Statistical estimates of amplitude and phase corrections.” Geophys. J. Roy. Astron. Soc. 20:89-98.
♦PISARENKO, V. F. (1972). “On the estimation of spectra by means of non-linear functions of the covariance matrix.” Geophys. J. Roy Astron. Soc. 28:511-531.
PLAGEMANN, S. H., FELDMAN, V. A., and GRIBBIN, J. R. (1969). “Power spectrum analysis of the emmission-line redshift distribution of quasi-stellar and related objects.” Nature. 224:875-876.
♦ POLYA, G., and SZEGO, G. (1925). Aufgaben und Lehrsatze aus der Analysis I. Berlin: Springer.
PORTMANN, W. O. (1960). “Hausdorff-analytic functions of matrices.” Proc. Amer. Math. Soc. 11:97-l01.
POSNER, E. C. (1968). “Combinatorial structures in planetary reconnaissance.” In Error Correcting Codes, Ed. H. B. Mann, pp. 15-47. New York: Wiley.
PRESS, H., and TUKEY, J. W. (1956). Power spectra! methods of analysis and their application to problems in airplane dynamics. Bell Telephone System Monograph 2606.
PRIESTLEY, M. B. (1962a). “Basic considerations in the estimation of spectra.” Technometrics. 4:551-564.
PRIESTLEY, M. B. (1962b). “The analysis of stationary processes with mixed spectra.” J. Roy. Statist. Soc., B. 24:511-529. •
PRIESTLEY, M. B. (1964). “Estimation of the spectra density function in the presence of harmonic components.” J. Roy. Statist. Soc., В. 26:123-Ц2.
PRIESTLEY, M. B. (1965). “Evolutionary spectra and non-stationary processes.” J. Roy. Statist. Soc., B. 27:204-237
PRIESTLEY, M. B. (1969). “Estimation of transfer functions in closed loop stochastic systems.” Automatica. 5:623-632.
PUPIN, M. I. (1894). “Resonance analysis of alternating and polyphase currents.” Trans. A.LE.E. 9:523.
QUENOUILLE, M. H. (1957). The Analysis of Multiple Time Series. London: Griffin.
RAO, C. R. (1964). “The use and interpretation of principal component analysis in applied research.” Sankhya, A. 26:329-358.
♦ RAO, C. R. (1965). Linear Statistical Inference and Its Applications. New York: Wiley.
RAO, M. M. (1960). “Estimation by periodogram.” Trabajos Estadistica. 11:123- 137. .
*RAO, M. M. (1963). “Inference in stochastic processes. I.” Teor. Verojatnest. i Primemen. 8:282-298.4
RAO, M. M. (1966). “Inference in stochastic processes, II.” Zeit; Wahrschein. 5: 317-335.
RAO, S. Т. (1967). “On the cross-periodogram of a stationary Gaussian vector process.” Ann. Math. Statist. 38:593-597.
RICHTER, С. P. (1967). “Biological clocks in medicine and psychiatry.” Proc.
Nat. Acad. Sci. 46:1506-1530.,
RICKER, N. (1940). The form and nature of seismic waves and the structure of seismograms.” Geophysics. 5:348-366.
♦RIESZ, F., and NAGY, B. Sz. (1955). Lessons in Functional Analysis. New York: Ungar.
ROBERTS, J. B., and BISHOP, R. E. D. (1965). “A simple illustration of spectral density analysis.” J. Sound Vib. 2:37-41.
ROBINSON, E. A. (1967a). Multichannel Time Series Analysis with Digital Computer Programs. San Francisco: Holden-Day.
ROBINSON, E. A. (1967b). Statistical Communication and Detection with Special Reference to Digital Data Processing of Radar and Seismic Signals. London: Griffin.
RODEMICH, E. R. (1966). “Spectral estimates using nonlinear functions.” Ann. Math. Statist. 37:1237-1256.
RODRIGUEZ-ITURBE, I., and YEVJEVICH, V. (1968). The investigation of relationship between hydrologic time series and sunspot numbers. Hydrology Paper.
. No. 26. Fort Collins: Colorado State University.
ROOT, W. L.‘, and PITCHER, T. S. (1955). “On the Fourier expansion of random functions.” Ann. Math. Statist. 26:313-318.
ROSENBERG, M. (1964). “The square-integrability of matrix-valued functions with respect to a non-negative Hermitian measure.” Duke Math. J. 31:291-298.
ROSENBLATT, M. (1956a). “On estimation of regression coefficients of a vectorvalued time series with a stationary disturbance.” Ann. Math. Statist. 27:99-121.
ROSENBLATT, M. (1956b). “On some regression problems in time series analysis.” Proc. Third Berkeley Symp. Math. Statist. Prob., Vol 1. Ed: J. Neyman, pp. 165-186. Berkeley: Univ, of Cal. Press.
ROSENBLATT, M. (1956c). “A central limit theorem and a strong mixing condition.” Proc. Nat. Acad. Sci. (U.S.A.). 42:43-47.
ROSENBLATT, M. (1959). “Statistical analysis of stochastic processes with stationary residuals.” In Probability and Statistics, Ed. U. Grenander, pp. 246-275. New York: Wiley.
ROSENBLATT, M. (1960). “Asymptotic distribution of the eigenvalues of block Toeplitz matrices.” Bull. Amer. Math. Soc. 66:320-321.
ROSENBLATT, M. (1961). “Some comments on narrow band-pass filters.” Quart. Appl. Math. 18:387-393.
ROSENBLATT, M. (1962). “Asymptotic behavior of eigenvalues of Toeplitz forms.” J. Math. Meeh. 11:941-950.
ROSENBLATT, M. (1964). “Some nonlinear problems arising in the study of ran- ‘ dom processes.” Radio Science. 68D:933-936.
ROSENBLATT, M., and VAN NESS, J. S. (1965). “Estimation of the bispectrum.” ’ Ann. Math. Statist. 36:1120-1136.
* ROZANOV, Yu. A. (1967). Stationary Random Processes. San Francisco: Holden' Day. .
SALEM, R., and ZYGMUND, A. (1956). “A note on random trigonometric fpolynomials. In Proc. Third Berkeley Symp. Math. Statist. Prob., Ed. J. Neyman,
pp. 243-246. Berkeley: Univ, of Cal. Press.
SARGENT, T. J. (1968). “Interest rates in the nineteen-fifties.” Reu. Econ. Stat. 50:164-172.
SATO, H. (1964). “The measurement of transfer characteristic of ground-structure systems using micro tremor.” Ann. Inst. Stat. Math., Suppl. 3:71-78.
SATTERTHWAITE, F. E. (1941). “Synthesis of variance.” Psychometrica. 6:309316.‘'
SAXENA, A. K. (1969). “Classification into two multivariate complex normal distributions with different covariance matrices.” J. Ind. Statist. Assoe. 7:158-161. *SCHEFFE, H. (1959). The Analysis of Variance. New York: Wiley.
SCHOENBERG, I. J. (1946). “Contributions to the problem of approximation of equidistant data by analytic functions.” Quart. Appl. Math. 4:45-87, 112-141.
SCHOENBERG, I. J. (1950). “The finite Fourier series and elementary geometry.” Amer. Math. Monthly. 57:390-404.-. ~
SCHUSTER, A. (1894). “On interference phenomena.” Phil. Mag. 37:509-545.
SCHUSTER, A. (1897). “On lunar and solar periodicities of earthquakes.” Proc. ' Rpy. Soc. 61:455-465.
SCHUSTER, A. (1898). "On the investigation of hidden periodicities with application to a supposed 26_day period of meteorological phenomena.” Terr. Magn. 3:13-41.'..'
SCHUSTER, A. (1900). “The periodogram of magnetic declination as obtained from the records of the Greenwich Observatory during the years 1871-1895.” • Camb. Phil. Trans. 18:107-135.
SCHUSTER, A. (1904). The Theory of Optics. London: Cambridge Univ. Press.
SCHUSTER, A. (1906a). “The periodogram and its optical analogy.” Proc. Roy. • Soc. 77:137-140.•*
SCHUSTER, A. (1906b). “On the periodicities of sunspots.” Philos. Trans. Roy. Soc.; A. 206:69-100.'
SCHWARTZ, L. (1957). Theorie des Distributions, Vol. I. Paris: Hermann.
SCHWARTZ, L. (1959). Theorie des Distributions, Vol. II. Paris: Hermann.
SCHWERDTFEGER, H. (1960). “Direct proof of Lanczos’s decomposition theorem.” Amer. Math. Mon. 67:856-860.
SEARS, F. W. (1949). Optics. Reading: Addison-Wesley.
SHAPIRO, H. S. (.1%^., Smoothing and Approximation of Functions. New York: _ Van Nostrand.
* SHIRYAEV, A. N. (1960). “Some problems in the spectral theory of higher-order, moments, I.” Theor. Prob. Appl. 5:265-284."
♦ SHIRYAEV, A. N. (1963). “On conditions for ergodicity of stationary processes in terms of higher order moments.” Theory Prob. Appl. 8:436-439.
SHUMWAY, R. H. (1971). “On detecting a signal in N stationarily correlated noise series.” Technometrics. 13:499-519.
SIMPSON, S. M. (1966). Time Series Computations in FORTRAN and FAP. Reading: Addison-Wesley.
SINGLETON, R. C. (1969). “An algorithm for computing the mixed radix fast Fourier transform.” IEEE Trans. Audio.Elec. AU-17:93-103.
SINGLETON, R. С., and POULTER, T. С. (1967). “Spectral analysis of the call I of the male killer whale.” IEEE Trans» on Audio and Electroacoustics» AU-15: 104-113.
SIOTANI, M. (1967). “Some applications of Loewner’s ordering of symmetric matrices.” Ann» Inst. Statist. Math. 19:245-259.
*SKOROKHOD, A. V. (1956). “Limit theorems for stochastic processes.” Theory Prob. Appl. 1:261-290.
SLEPIAN, D. (1954). “Estimation of signal parameters in the presence of noise.” Trans. I.R.E. PGlT-3:82-87.
. SLEPIAN, D. (1958). “Fluctuations of random noise power.” Bell Syst. Tech. J. 37:163-184.
* SLUTSKY, E. (1929). “Sur Textension de la theorie de periodogrammes aux suites des quantity dependentes.” Comptes Rendues. 189:722-733.
* SLUTSKY, E, (1934). “Alcuni applicazioni di coefficienti di Fourier al analizo di: sequenze eventuali coherenti stazionarii.” Giorn. d. Institute Italiano degli- Atuari. 5:435-482.
SMITH, E. J., HOLZER, R. E., MCLEOD, M. G., and RUSSELL, С. T. (1967). “Magnetic noise in the magnetosheath in the frequency range 3-300 Hz.” J. Geophys. Res. 72:4803-4813.
* SOLODOVNIKOV, V. V. (1960). Introduction to the Statistical Dynamics of Automatic Control Systems. New York: Dover.
SRIVASTAVA, M. S. (1965). “On the complex Wishart distribution.” Ann. Math. Statist. 36:313-315.
STIGUM, В. P. (1967). “A decision theoretic approach to time series analysis.” Ann. Inst. Statist. Math. 19:207-243.
STOCKHAM, T. G., Jr., (1966). “High speed convolution and correlation.” Proc.
Spring Joint Comput. Conf. 28:229-233.
STOKES, G. G. (1879). Proc. Roy. Soc. 122:303.
STONE, R. (1947). “On the interdependence of blocks of transactions.” J. Roy. Statist. Soc., B. 9:1-32.
STRIEBEL, C. (1959). “Densities for stochastic processes.” Ann. Math. Statist. 30:559-567.
STUMPFF, K. (1937). Grundlagen und Methoden der Periodenforschung. Berlin: Springer.
STUMPFF, K. (1939). Tafeln und Aufgaben zur Harmonischen Analyse undPeriodo-, grammrechnung. Berlin: Springer.
SUGIYAMA, G. (1966). “On the distribution of the largest latent root and corre-. spending latent vector for principal component analysis.” Ann. Math. Statist.- 37:995-1001.
SUHARA, K., and SUZUKI, H. (1964). “Some results of EEG analysis by analog type analyzers and finer examinations by a digital computer.” Ann. Inst. Statist. Math., Suppl. 3:89-98.
TAKEDA, S. (1964). “Experimental studies on the airplane response to the side
• gusts.” Ann. Inst. Statist. Math., Suppl. 3:59-64.
TATE, R. F. (1966). “Conditional-normal regression models.” J. Amer. Statist. Assoc. 61:477-489.
TICK, L. J. (1963). “Conditional spectra, linear systems and coherency.” In Time Series Analysis, Ed. M. Rosenblatt, pp, 197-203, New York: Wiley.
ЛСК, L. J. (1966). “Letter to the Editor.” Technometrics» 8:559-561.
ЛСК, L. J. (1967). “Estimation of coherency.” In Advanced Seminar on Spectral Analysis of Time Series, Ed. B. Harris, pp. 133-152. New York: Wiley.
*TIMAN, M. F. (1962). “Some linear summation processes for the summation of Fourier series and best approximation ” Soviet Math. 3:1102-1105.
*TIMAN, A. F. (1963). Theory of Approximation of Functions of a Real Variable., New York: Macmillan.
TUKEY, J. W. (1949). “The sampling theory of power spectrum estimates.” Proc, oh Applications of Autocorrelation Analysis to Physical Problems. NAVEXOS- P-735, pp. 47-67. Washington, D.C.: Office of Naval Research, Dept, of the Navy.
TUKEY, J. W. (1959a). “An introduction to the measurement of spectra.” In Probability and Statistics, Ed. U. Grenander, pp. 300-330. New York: Wiley.
TUKEY, J. W. (1959b). “The estimation of power spectra and related quantities.” In On Numerical Approximation, pp. 389-411. Madison: Univ, of Wisconsin Press.
TUKEY, J. W. (1959c). “Equalization and pulse shaping techniques applied to the determination of initial sense of Rayleigh waves.” In The Need of Fundamental Research in Seismology, Appendix 9, pp. 60-129. Washington: U.S. Department of State.
TUKEY, J. W. (1961). “Discussion, emphasizing the connection between analysis of variance and spectrum analysis.” Technometrics. 3:1-29.
TUKEY, J. W. (1965a). “Uses of numerical spectrum analysis in geophysics.” Bull. LSI; 35 Session. 267-307.
TUKEY, J. W. (1965b). “Data analysis atid the frontiers of geophysics.” Science. 148:1283-1289.
TUKEY, J. W. (1967). “An introduction to the calculations of numerical spectrum analysis.” In Advanced Seminar on Spectral Analysis of Time Series, Ed. B. Harris, pp. 25-46. New York: Wiley.
TUMURA, Y. (1965). “The distributions of latent roots and vectors.” TRU Mathematics. 1:1-16.
VAN DER POL, B. (1930). “Frequency modulation.” Proc. Inst. Radio. Eng. 18: 227.
VARIOUS AUTHORS (1966). “A discussion on recent advances in the technique of seismic recording and analysis.” Proc. Roy. Soc. 290:288-476.
VOLTERRA, V. (1959). Theory of Functionals and of Integrals and Integro-differ- ential Equations. New York: Dover.
VON MISES, R. (1964). Mathematical Theory of Probability and Statistics. New York: Academic.
VON MISES, R., and DOOB, J. L. (1941). “Discussion of papers on probability theory.” Ann. Math. Statist. 12:215-217.
WAHBA, G. (1966). Cross spectral distribution theory for mixed spectra and estimation of prediction filter coefficients. Ph.D. Thesis, Stanford University.
WAHBA, G. (1968). “One the distribution of some statistics useful in the analysis of jointly stationary time series.” Ann. Math. Statist. 39:1849-1862.
WAHBA, G. (1969). “Estimation of the coefficients in a distributed lag model.” Econometrica. 37:398-407.
WALDMEIR, M, (1961). The Sunspot Activity in the Years 1610-1960. Zurich:" Schulthess.
WALKER, A. M. (1954). “The asymptotic distribution of serial correlation coefficients for autoregressive processes with dependent residuals.” Proc. Camb. Philos. Soc. 50:60-64.
WALKER, A. M. (1965). “Some asymptotic results for the periodogram of a stationary time series.” J. Austral. Math. Soc. 5:107-128.
WALKER, A. M. (1971). “Qn the estimation of a harmonic component in a time -series with stationary residuals.” Biometrika. 58:21-36.
WEDDERBURN, J. H. M. (1934). Lectures on Matrices. New York: Amer. Math. Soc.
WEGEL, R. L., and MOORE, C. R. (1924). “An electrical frequency analyzer.” BellSyst. Tech. J. 3:299-323.
WELCH, P. D. (1961). “A direct digital method of power spectrum estimation.” IBM J. Res. Per. 5:141-156.
WELCH, P. D. (1967). “The use of the fast Fourier transform for .estimation of spectra: a method based on time averaging over short, modified periodograms.” IEEE Trans. Electr. Acoust. AU-15:70.
* WEYL, H. (1946). Classical Groups. Princeton: Princeton Univ. Press.
* WHITTAKER, E. T., and ROBINSON, G. (1944). The Calculus of Observations. Cambridge: Cambridge Univ. Press.
WHITTLE, P. (1951). Hypothesis Testing in Time Series Analysis. Uppsala: Alm- qvist.
WHITTLE, P. (1952a). “Some results in time series analysis.” Skand. Aktuar. 35: 48-60.-
WHITTLE, P. (1952b). “The simultaneous estimation of a time series’ harmonic and covariance structure.” Trab. Estad. 3:43-57.
WHITTLE, P. (1953). “The analysis of multiple stationary time series.” J. Roy. Statist. Soc., B. 15:125-139.
WHITTLE, P._(1954). “A statistical investigation of sunspot observations with special reference to H. Alven’s sunspot model.” Astrophys. J. 120:251-260.
WHITTLE, P. (1959). “Sur la distribution du maximim d’un polynome trigono- metrique a coefficients aleatoires.” Colloques Internalionaux du Centre National de la Recherche Scientifique. 87:173-184.
WHITTLE, P. (1961). ‘Xlaussian estimation in stationary time series.” Bull.Int. Statist. Inst. 39:105-130.
WHITTLE, P. (1963a). Prediction and Regulation. London: English Universities Press.
WHITTLE, P. (1963b). “On the fitting of multivariate auto-regressions and the approximate canonical factorization of „a spectral density matrix.” Biometrika. 50:129-134.
WIDOM, H. (1965). “Toeplitz matrices.” In Studies in Real and Complex Analysis» Ed. 1.1. Hirschman, Jr., pp. 179-209. Englewood Cliffs: Prentice-Hall.
WIENER, N. (1930). “Generalized harmonic analysis.” Acta. Math. 55:117-258.
)к WIENER, N. (1933). The Fourier Integral and Certain of its Applications. Cambridge: Cambridge Univ. Press.
WIENER, N. (1938). “The historical background of harmonic analysis.” Amer. Math. Soc. Semicentennial Pub. 2:56-68,
WIENER, N. (1949). The Extrapolation, Interpolation and Smoothing of Stationary Time Series with Engineering Applications. New York: Wiley.
WIENER, N. (1953). “Optics and the theory of stochastic processes.” J. Opt. Soc. Amer. 43:225-228.
WIENER, N. (1957). “Rhythms in physiology with particular reference to encephalography.” Proc. Rud. Virchow Med. Soc. in New York. 16:109-124.
эк WIENER, N. (1958). Non-linear Problems in Random Theory. Cambridge: МП
WIENER* N., SIEGEL, A., RANKIN, B., and MARTIN, W. T. (1967). Differential Space, Quantum Systems and Prediction. Cambridge: MIT Press.
WIENER, N., and WINTNER, A. (1941). “On the ergodic dynamics of almost periodic systems.” Amer. J. Math. 63:794-824.
WILK, M. B., GNANADESIKAN, R., and HUYETT, M. J. (1962). “Probability plots for the gamma distribution.”-Technometrics. 4*A~2Q,
WILKINS, J. E. (1948). “A note on the general summability of functions.” Ann. Math. 49:189-199.
WILKINSON, J. H. (1965). The Algebraic Eigenvalue Problem. Oxford: Oxford Univ. Press.
WILLIAMS, E. J. (1967). “The analysis of association among many variates.” J. Roy. Statist. Soc., B. 29:199-242.
WINTNER, A. (1932). “Remarks on the ergodic theorem of Birkhoff.” Proc. Nat. Acad. Sci. (U.S.A.). 18:248-251.
WISHART, J. (1931). “The mean and second moment coefficient of the multiple correlation coefficient in samples from a normal population.” Biometnka. 22:353-361.
WISHART, J., and BARTLETT, M. S. (1932). “The distribution of second order . moment statistics in a normal system.” Proc. Camb. Philos. Soc. 28:455-459.
WOLD, H. O. A. (1948). “On prediction in stationary time series.” Ann. Math. Statist. 19:558-567.
WOLD, H. O. A. (1954). A Study in the Analysis of Stationary Time Series, 2nd ed. Uppsala: Almqvist and Wiksells.
WOLD, H. O. A. (1963). “Forecasting by the chain principle.” In Time Series Analysis, Ed. M. Rosenblatt, pp. 471-497. New York: Wiley.
WOLD, H. O. A. (1965). Bibliography on Time Series and Stochastic Processes. London: Oliver and Boyd.
WONG, E. (1964). “The construction of a class of stationary Markov processes.” Proc. Symp. Applied Math. 16:264-276. Providence: Amer. Math. Soc.
WOOD, L. C. (1968). “A review of digital pass filtering.” Rea. Geophysics. 6:73-98.
WOODING, R. A. (1956). “The multivariate distribution of complex normal variates.” Biometrika. 43:212-215.
WOODROOFE, M. B., and VAN NESS, J. W. (1967). “The maximum deviationof sample spectral densities.” Ann. Math. Statist. 38:1558-1570.
WORLD WEATHER RECORDS. Smithsonian Miscellaneous Collections, Vol. 79 (1927), Vol. 90 (1934), Vol. 105 (1947). Smithsonian Inst. Washington.
WORLD WEATHER RECORDS. 1941-1950 (1959) and 1951-1960 (1965). U.S.
Weather Bureau, Washington, D.C.
WRIGHT, W. D. (1906). The Measurement of Colour. New York: Macmillan.
*YAGLOM, A. M. (1962). An Introduction to the Theory of Stationary Random Functions. Englewood Cliffs: Prentice-Hall.
♦YAGLOM, A. M. (1965). “Stationary Gaussian processes satisfying the strong mixing condition and .best predictable functionals.” In Bernoulli, Bayes, Laplace, Ed. J. Neyman and L. M. LeCam, pp. 241-252. New York: Springer.
YAMANOUCHI, Y. (1961). “On the analysis of the ship oscillations among waves—I, II, III.” J. Soc. Naval Arch. (Japan). 109:169-183; 110:19-29; 111: 103-115.
YULE, G. U. (1927). “On a method of investigating periodicities in disturbed series, with special reference to Wolfer’s sunspot numbers.” Phil. Trans. Roy. Soc., A. 226:267-298.
YUZURIHA, T. (1960). “The autocorrelation curves of schizophrenic brain waves and the power spectra.” Psych. Neurol. Jap. 62:911-924.
ZYGMUND, A. (1959). Trigonometric Series. Cambridge: Cambridge Univ. Press.
*ZYGMUND, A. (1968). Trigonometric Series, Vols. I, IL Cambridge: Cambridge Univ. Press.
СПИСОК РАБОТ ОТЕЧЕСТВЕННЫХ
И ЗАРУБЕЖНЫХ АВТОРОВ НА РУССКОМ ЯЗЫКЕ
АБРАМОВИЦ, СТИГАН (ABRAMOWITZ М., STEGUN I. А.)
Справочник по специальным функциям. Пер. с англ.—М.: Наука. АНДЕРСОН (ANDERSON Т. W.)
Введение в многомерный статистический анализ. Пер. с англ.—М.: Физматгиз.
Статистический анализ временных рядов. Пер. с англ.—М.: Мио. АРАТО (ARATO М.)Р
О достаточных статистиках стационарных гауссовских случайных процессов. Пер. с венг.— Теория вероятн. и ее примен.. 6. 2. с. 216-218.
АХИЕЗЕР Н. И.
Лекции по теории аппроксимации.—М.: Наука.
БАРТЛЕТТ (BARTLETT М. S.)
Введение в теорию случайных процессов. Пер. с англ.—М.* ИЛ БЕЛЛМАН (BELLMAN R.)
Введение в теорию матриц. Пер. с англ,—М.: Наука.
БЕРНШТЕЙН С. (BERNSTEIN S.)
См. Bernstein S. (1938).
БИЛЛИНГСЛИ (BILLINGSLEY Р.)
Эргодическая теория и информация. Пер. с англ.—М.: Мир.
Сходимость вероятностных мер. Пер. с англ.—М.: Наука
БОКС, ДЖЕНКИНС (BOX G. Е. Р., JENKINS G. М.)
Анализ временных рядов. Прогноз и управление, вып. 1, 2.' Пер. с англ.—М.: Мир.
БОХНЕР (BOCHNER S.)
^лЛ196^Лекции об интегралах Фурье. Пер. с англ.—М.: Физматгиз.
БОРН, ВОЛЬФ (BORN М., WOLFE Е.)
Основы оптики, изд. 2-е—М.: Наука.
БОХНЕР, МАРТИН (BOCHNER S., MARTIN W. Т.)
Функции многих комплексных переменных. Пер. с англ.— М.: ИЛ. БУНИМОВИЧ В. И.
Флюктуационный процесс как колебание со случайными амплитудой и фазой.—Журнал техн, физики. 19, 11, с. 1231 — 1259.
БЭТЧЕЛОР (BATCHELOR G.)
Теория однородной турбулентности. Пер. с англ.— М.: ИЛ.
ВЕЙЛЬ (WEYL Н.)
Классические группы, их инварианты и представления. Пер. с англ.— М.: ИЛ.
ВИНЕР (WIENER N.)
Нелинейные задачи в теории случайных процессов. Пер. с англ.— М.: ИЛ.
Интеграл Фурье и некоторые его приложения. Пер. с англ.—М.: Физматгиз.
ГАВУРИН М. К.
Приближенное розыскание собственных чисел и теория возмущений.-УМН 12, 1, с. 173-175.
ГЕЛЬФАНД И.М., РАЙКОВ Д. А., ШИЛОВ Г. Е.
Коммутативные нормированные кольца.—М.: Физматгиз. ГИНЗБУРГ Ю. П.
О факторизации аналитических матриц-функций.—ДАН СССР, 159, 3 с. 489492.
ГИХМАН И. Й., СКОРОХОД А. В.
О плотностях вероятностных мер в функциональных пространствах,—УМН 21, 6, с. 83-152.
ГРЕНАНДЕР, СЕГЕ (GRENANDER U., SZEGO G.)
Теплицевы формы и их приложения. Пер. с англ.—М.: ИЛ.
ДАНФОРД, ШВАРЦ (DUNFORD N., SCHWARTZ J. Т.)
Линейные операторы, т. 2. Пер. с англ.—М.: Мир.
ДЖЕНКИНС, ВАТТС (JENKINS G. М., WATTS D. G.)
1972) Спектральный анализ и его приложения, вып. 1, 2. Пер. с англ.—М.: Мир.
ДРЕЙПЕР, СМИТ (DRAPER N. R., SMITH Н.)
Прикладной регрессионный анализ. Пер. с англ.— М.: Статистика. ДУБ (DOOB J. L.)
Вероятностные процессы. Пер. с англ.—М.: ИЛ.
ДЫНКИН Е. Б.
Марковские процессы.— М.: Физматгиз.
ЗИГМУНД (ZYGMUND А.)
Тригонометрические ряды, т. 1, 2. Пер. с англ.—М.: Мир.
ИБРАГИМОВ И. А.
Об оценке спектральной функции стационарного гауссовского процесса.—Теория вероятн. и ее примен., 8, 4, с. 391—430.
Об оценке методом максимума правдоподобия спектральной плотности стационарного процесса.— Теория вероятн. и ее примен., 12, 1, с. 128—134.
ИОСИФЕСКУ (IOSIFESCU М.)
Закон повторного логарифма для одного класса зависимых случайных величин. Пер. с рум.— Теория вероятн. и ее примен,, 13, 2, с. 315-325.
КАХАН (KAHANE J.)
Случайные функциональные ряды. Пер. с англ.—М.: Мир.
-КЕНДАЛЛ, СТЬЮАРТ (KENDALL М. G., STUART А.)
Теория распределений. Пер. с англ.—М.: Наука.
Статистические выводы и связи. Пер. с англ.—М.: Наука.
Многомерный статистический анализ и временные ряды. Пер. с англ.— М.: Наука.
КОЛМОГОРОВ А. Н.
(1941а) Интерполирование и экстраполирование стационарных случайных последовательностей.— Изв. АН СССР, сер. матем., 5, с. 3—14.
(1941b) Стационарные последовательности в гильбертовом пространстве.— Бюлл. МГУ, 2, 6, с. 1—40.
КРАМЕР, ЛИДБЕТТЕР (CRAMER Н„ LEADBETTER М. R.)
Стационарные случайные процессы. Пер. с англ.—М.: Мир.
ЛЕОНОВ В. П.
Применение характеристического функционала к эргодической теореме.—ДАН СССР, 133, 3, с. 523—526.
Некоторые применения старших семиинвариантов в теории стационарных случайных процессов.—М.: Наука.
ЛЕОНОВ В. П., ШИРЯЕВ А. Н.
К технике вычисления семиинвариантов.— Теория вероятн. и ее примен., 4, 3, с. 342—355.
Некоторые вопросы спектральной теории старших моментов II.— Теория вероятн. и ее примен., 5, 4, с. 460—464.
ЛОЭВ (LOEVE М.)
Теория вероятностей. Пер. с англ.—М.: ИЛ.
МАЛЕВИЧ Т. Л.
Об асимптотическом поведении оценки спектральной функции стационарного гауссовского процесса.— Теория вероятн. и ее примен., 9, 2, с. 386—390.
Некоторые свойства оценок спектра стационарного процесса.— Теория вероятн. и ее примен., 10, 3, с. 500—509.
МАНК, МАКДОНАЛЬД (MUNK W. Н., MACDONALD G. J. F.)
Вращение Земли. Пер. с англ.—М.: Мир.
ОБУХОВ А. М.
Нормальная корреляция векторов.— Изв. АН СССР, сер. матем., 3, с. 339—370.
Теория корреляции векторов.—Ученые записки МГУ, сер. матем., 45, с. 73-92.
ПАРЗЕН (PARZEN Е.)
Об асимптотически эффективных состоятельных оценках спектральной плотности стационарного процесса.— Математика, сб. перев. 6:
6, с. 130-150.
ПАРТАСАРАТИ, ВАРАДАН (PARTHASARATHY К. R., VARADAHN S.R.S.) (1964) Продолжение стационарных стохастических процессов.— Теория вероятн. и ее примен., 9, 1, с. 72—78.
ПИНСКЕР М. С.
Информация и информационная устойчивость случайных величин и процессов.— М.: АН СССР.
ПИСАРЕНКО В. Ф.
См. Pisarenko F. (1970).
См. Pisarenko F. (1972).
ПОЛНА, СЕГЁ (POLYA G., SZEGO G.)
Задачи и теоремы из анализа, ч. 1—2. Пер. с англ.—М.: Гостех- издат.
РАО (RAO С. R.)
Линейные статистические методы и их применения. Пер. с англ.— М.: Наука.
РАО (RAO М. М.)
Статистические выводы о случайных процессах I.—Теория вероятн. и ее примен., 8, 3, с. 282—298;
РИСС, СЕКЕФАЛЬВИ-НАДЬ (RIEZ F., NAGY В. SZ.)
Лекции по функциональному анализу,—М.: Мир.
РОЗАНОВ Ю. А.
Стационарные случайные процессы.—М.: Физматгиз. СКОРОХОД А. В.
Предельные теоремы для случайных процессов.—Теория вероятн. и ее примен., 1, 1, с. 289—319.
СЛУЦКИЙ Е. Е.
См. Slutsky Е. (1929).
См. Slutsky Е. (1934).
СОЛОДНИКОВ В. В.
Введение в статистическую динамику систем автоматического управления.—М—Л.: ГИТТЛ.
ТИМАН А. Ф.
Теория приближения функций действительного переменного.—М.: Физматгиз.
ТИМАН М. Ф.
Отклонение гармонических функций от их значений на Границе и наилучшее приближение.—ДАН СССР, 145, 5, с. 1008—1009.
УИТЕККЕР, РОБИНСОН (WHITTAKER Е. Т., ROBINSON G.)
Математическая обработка результатов наблюдений, изд. 2-е. Пер. с англ.—М—Л.: ОНТИ.
ФЕЛЛЕР (FELLER W.)
Введение в теорию вероятностей и ее приложения, т. 2. Пер. с англ.—М.: Мир..
ХАЛМОШ (HALMOS Р. R.)
Лекции по эргодической теории. Пер. с англ.—М.: ИЛ»
ХЕННАН (HANNAN Е. J.)
Анализ временных рядов. Пер. с англ.—М.: Наука.
Многомерные временные ряды. Пер. с англ.— М.: Мир.
ХИНЧИН А. Я.
См. Khintchine А. (1934).
ХУА ЛО-КЕН (HUA L. К.)
Гармонический анализ функций многих комплексных йеременных в классических областях. Пер. с нем.—М.: ИЛ.
ХЬЮИТТ, РОСС (HEWITT F., ROSS К. А.)
Абстрактный гармонический анализ, т. 1—2. Пер. с англ.— М.:Мире ШЕФФЕ (SCHEFFE Н.)
Дисперсионный анализ. Пер. с англ.—М.: Физматгиз.
ШИРЯЕВ А. Н.
Некоторые вопросы спектральной теории старших моментов I.— Теория вероятн. и ее примен., 5, 3, с. 293—313.
Об условиях эргодичности стационарных процессов в терминах старших порядков.— Теория вероятн. и ее примен., 8, 4, с. 470-473.
ЯГЛОМ А. М.
Введение в теорию стационарных случайных функций,— УМН, 7(5), с. 3-168.
См. Yaglom А. М. (1965).
УКАЗАТЕЛЬ ОБОЗНАЧЕНИЙ
а (и) 35
a<D (и) 341
А (X) 35, 317
А<П (X) 322, 327, 329, 348
АГ(Х) 156
АГЮ(Х) 146, 262
ave(=E) 216
arg z 22
d^ (X, /) 257
Det A 22
EX 22
e( =ave ) 216
f YaYb-X M 318
Вт 159
Вт(к) 156
ВГт(Х) 147, 262
fai...ak^i^k-1) 32, 102
fO1...ak^bM 33
fa 32
fab (X) 30
са 28
4Г) 254, 280
сх 104, 128, 250
ср 93, 135, 141, 164, 174, 199
саЬ(ы) 28,
схх(и) 29, 30, 128, 250
схх(и) 175, 198, 275
сТх (и) 182, 183
сххкш 1) 180
с*& (и) 275
СГ(Х) 156
Сгт(Х) 147, 262
cov 220
cov{X, Г} 22, 25, 100
cov {X, ¥} 29
cor (X, Y} 22
сит (Гг, .... Гг) 25
cai...akVv .... 4-1) 29, 102
cax...akVi4)27
4? (X) 266 , 281
fxx^ 30, 128 , 250
/*^(X) 144, 155, 159, 160, 164, 178,
261, 266, 304
fTx^ 211
fPx W 169
' ^>(X)274
FxxW 32, 181
/■^(X) 181, 182 207
G (X) 324, 349
gxxtti 192
gW (X) 212, 322
H^(k) 136
H?'^ 140
Н^?...ак^ 101
i 14
I 22
DX 22, 25
D( = vaD 163, 219
D„(a) 58, 176
D [0, л] 277
dx’(X) 69, 101, 132, 135, 253
7xx(M 132, 197
.1^ (X) 253
i^x(X, /) 178
1^ (X, /) 257
1m г 17
ImZ 81
V (Z) 88
V+ (Z) 86 vec 247,
/<Г>(Л) 181
J«b (А) 273
Jab* (А) 274
vaZHD) 163, 219
W<T4a) 159
' W(aTb (a) 266
УТЧ^ 169
К^Ч») 169
Wr (n, 2) 100
W?(n, 2) 100
Йт 109, 143
ХЦ, co) 115, 177
mab («) 49, 77, 189
mxxW 55, 90, 190
mTxW 127, 197
ay (Z) 80 pn 64 6 (a) 23 6 {a} 23
Nr (g, 2) 98
Ncr (g, 2) 99
A<D (a) 96, 104
■n(a) 23, 32 , 55, 112 r]{a} 23
o(P«) 59
O(p„) 59 0,(1) 456 on h. (1) 213
gy(Z) 80, 95, 96, 308
2 311
Ф (A) 96
ФаЬ OA 30
Ф (X) 325
Ryx 310
Ryx 205 l^rxl2 314 |/W 315 Rab W 275
R^ (X) 276 ^yx(^) 318 |/?yxWI2 318 krxMl2 213, 215,
Re г 22 ^YQYb-xM 319
ReZ 80
Xv 138
Xv(a) 165
%;2 (a) 125, 140
® 247, 309
2s 245, 308
= (приближенно сравнимо с) 132, 136
т (транспонирование) 22, 79
~ (комплексная сопряженность) 22, 79
| | (сумма абсолютных значений матрицы) 22
[д] (матрица) 22, 79
* (свертка) 36
+ (обобщенная обратная) 97
sgnX 39, 179
= (сравнимо с) 23
[ ] (целая часть) 21, 94
Я (действительная матрица) 80)
T 34
Zv 312
Zv(y) 272
Zv 315, 328
tr (A) 22
| | (модуль) 22
|| || (норма матрицы) 84
н (преобразование Гильберта) 39, 116
~ (периодическое продолжение) 74, 182
(процесс ассоциированный) 50
Белый шум 42, 46
Биспектр 33
Вектор г-компонентный 22
Выборки возмущенные 179
Временной ряд 24
Гармонический анализ обобщенный 49
Главные компоненты 119, 368
Гребень Дирака 23
— Кронекера 23
Дельта-функция Дирака 23
— Кронекера 23
Демодуляция комплексная 39, 40
Дисперсия 22
Запаздывание групповое 326
Импульсный отклик фильтра 35
Канонические переменные (величины) 399
Квадрат множественного коэффициента корреляции 310
выборочного коэффициента корреляции 205
Классификация сбалансированная однофакторная 297
Ковариация частная 310
Когерентность 275, 318
— каноническая /-я 410
Когерентность между классами частоты X 298
— множественная 318
— частная 318
Коллектив 51
Комплексная многомерная нормально распределенная величина 99
Компонента главная /-я 365
— частоты о 115
Компоненты главные 119, 368
— спектра мощности частоты X 297
Корреляция каноническая /-я 399
— частная 310
Косинусоида 43, 47
Коспектр 30
Коэффициент корреляции векторный 418
канонический /-й 404
— регрессии 310
комплексный 314, 317
частный 319
— сглаживания см. Окно просмотра данных
— удаленности векторный 418
Кросс-ковариационная функция 24
Кросс-спектр 30, 250
— частный 318
Кросс-периодограмма 16
Кумулянт 25—26
— г-го порядка совместный 25
Математическое ожидание 22
Матрица 22
— блочно-периодическая 95
— единичная 22
— обобщенная обратная 97
— спектральной плотности 30
частоты X 250
— теплицева конечная 82
циклическая 83
— транспонированная 22
— унитарная 79
— эрмитова 79
неотрицательно определенная 79
Матрицы детерминант 22
— след 22
— собственное значение 79 — 80
— собственный вектор 80
— спектр 80
мера спектральная 31
множества зацепляющиеся 26
— сообщающиеся 26
множители сходимости 61
Обобщенный гармонический анализ 49 Окно просмотра данных (временное) 61, 101 — частотное см. Ядро Операция инвариантная во времени 34 — линейная 34
Отношение сигнала к шуму на частоте X 321
Оценка наименьших квадратов 204
Оценка состоятельная в среднеквадратичном 162
— спектра с помощью предварительной фильтрации 173
Ошибка 310
— в исходных переменных 347
Пара канонических переменных /-я 404, 410
Переменные канонические 399
Период 48
Периодограмма 16
— второго порядка 132, 253
— третьего порядка 16
— k-го порядка 16
Подмена частот 192
Подход стохастический 49
— функциональный 49
Представление Крамера 113
Преобразование Абеля 21
— Фурье быстрое 73
— — дискретное 72
— — конечное 69
Прирост амплитуды 324
Прогноз линейный наилучший 310
Произведение кронекерово 309
Процесс авторегрессионный порядка т 44
— линейный о8, 42, 47
— марковский стационарный 43
г-компонентный 43 .
— периодический 122 х
— скользящего среднего 42
и авторегрессии смешанный 44
— случайный см. Временной ряд
— стационарный стохастический 15
— эргодический 51
Разбиение неразложимое 26
Разложение по сингулярным значениям 82
Распределение асимптотически нормальное
100
— Уишарта 100
комплексное 100
Распределения конечномерные 23
Реализация 24
Ряд временной 24
— вспомогательный 348
— гауссовский стационарный 43, 47
— основной 202
— ошибок 202, 318, 371
— результирующий 202
— стационарный в строгом смысле 28
широком смысле 28
— Фурье 58
— /-и главной компоненты 371
Ряды ортогональные 24
Семиинварианты см. Кумулянты
Системы одновременных уравнений 347 Случайный процесс см. Временной ряд Спектр второго порядка 29 — квадратурный см. Коспектр — кумулянтный k-го порядка 32 — матрицы 80 — мощности 30 ряда 128 частоты X внутригрупповой 297 межгрупповой 297 Спектр ошибок 202, 218 — смешанный 187 Спектра амплитуда 30 — фаза 30 Спектральные представления 90
Стохастические разностные и дифференциальные уравнения 46
— стационарные процессы 15 Стохастический подход 49 Схема авторегрессии 44 Сходимость по распределению 277 — слабая 277
Условие перемешивания 15
Фаза на частоте X 325
Фильтр избирательный 321
— невырожденный (несингулярный) 36
— низкочастотный 39
— обратный 36
полосно-пропускающий см. Фильтре полосой пропускания 2Д, центрированный на частоте Хо
реализуемый (физически осуществимый) 36
— с полосой пропускания 2Д, центрированный на частоте Хо 38
Фильтр суммируемый 35
— устойчивый 56
— /-суммируемый 36
— sXr-линейный 34
Фильтра импульсный отклик 35
— ранг 55
Фильтрация предварительная 168
Функции линейные дискриминантные 419
— от стационарного процесса 45
Функциональное разложение Вольтерра 46, 48
Функциональный подход 49
Функция айтоковариационная 24
ряда 29
— автокорреляционная 24
— выборочная см. Реализация
— голоморфная 85
в действительном смысле 88
— Дирака
— ковариационная см. Функция автокова- риационная
— корреляционная см. Функция автокорреляционная
— Кронекера 2 3
периодическое продолжение 162
— кросс-корреляционная 24
— передаточная 35
— переходной вероятности 43
— сглаживающая см. Окно просмотра данных
— случайная см. Временной ряд
— совместная кумулянтная порядка & 28
— среднего 24
Характеристическое число см. Матрицы собственное значение
Частота Найквиста 194
— радианная 30
— свертки см. Частота Найквиста
— угловая 48
— циклическая в единицу времени 48
Частоты сопутствующие 192
Ядро 63Ядро 63Д-статистика Уилкса 418Д-статистика Уилкса 418
Ядро 63
Ядро 63
Д-статистика Уилкса 418
Д-статистика Уилкса 418
Теорема Гаусса—Маркова 204 — спектральная 81—82 Траектория см. Реализация Тренд 52 Триспектр 33
ОГЛАВЛЕНИЕ1)
Предисловие...»5
Природа временных рядов и их частотный анализ . . . .7
Введение 7
Основания для применениягармонического анализа 13
Перемешивание 15
Исторический обзор 15
Применения частотного анализа 17
Заключительные замечания 19
Упражнения 19
Основные понятия . .22
Введение 22
Стохастические процессы 23
Кумулянты 25
Стационарность 28
Спектр второго порядка, 29
Кумулянтные спектры порядка к 32
Фильтры 34
Инвариантные свойствакумулянтногоспектра 41
Примеры стационарныхвременныхрядов 42
Примеры кумулянтногоспектра 46
Функциональный и стохастический подходы к анализу временных рядов 49
Тренды 52
Упражнения 52
Аналитические свойства преобразования Фурье и комплексные матрицы 57
Введение 57
Ряд Фурье 57
Множители, улучшающие сходимость 60
Конечные преобразования Фурье и их свойства 69
Быстрое преобразование Фурье•. . . .73
Применения дискретного преобразования Фурье 76
Комплексные матрицы и их экстремальные значения79
Функции от преобразования Фурье 85
Спектральное представление при функциональном подходе к анализу временных рядов 90
Упражнения . . . .< 93
Стохастические свойства конечного преобразованияФурье98
Введение 98
Комплексное нормальное распределение 98
Стохастические свойства конечного преобразования Фурье . . .101
Асимптотическое распределение конечного преобразования Фурье 104
Оценки, имеющие место с вероятностью 1: 108
Представление Крамера 111
Анализ главных компонент и его связь с представлением Крамера 118
Упражнения 121
х) Перевод предисловия, гл. 1—4 и 8—10 выполнен А. В. Булинским, гл. 5—7 перевел И. Г. Журбенко.— Прим. ред.
Оценка спектра мощности 128
о Спектры мощности и их интерпретация 128
Периодограмма 132
Дальнейшее изучение периодограммы 141
Сглаженная периодограмма. . . . 144
Общий класс спектральных оценок 155
Состоятельные оценки 159
Доверительные интервалы 165
Смещения и предварительная фильтрация 168
Другие оценки спектра мощности 175
Оценки спектральной меры и ковариационной функции . . . .180
Отступление от принятых предположений 187
Использование анализа спектров мощности 195
Упражнения 197
Анализ инвариантных во времени линейных соотношений между стохастическими и некоторыми детерминированными рядами 202
Введение 202
Метод наименьших квадратов и регрессионнаятеория ., . . . .204
Эвристическое построение оценок . . .209
Вид асимптотического распределения 210
Математические ожидания оценок передаточной функции и спектра ошибок 213
Асимптотические ковариации предложенныхоценок 217
Асимптотическая нормальность оценок 220
Оценивание импульсной характеристики 222
Доверительные области 224
Рабочий пример 226
Дальнейшие исследования 237
Сравнение трех оценок импульсной характеристики 241
Использование предложенных методов 243
Упражнения 245
Оценки спектра второго порядка многомерных временных рядов , .250
Матрицы спектральной плотности и их интерпретация,#,«250
Периодограммы второго порядка 253
Оценка матрицы спектральной плотности путем осреднения периодограммы 260
Состоятельные оценки матрицы спектральнойплотности....265
Построение доверительных границ 271
Оценки родственных величин♦...273
Дадьцейщее развитие оценок спектра второгопорядка....280
Рабочий пример 289
Изучение рядов, встречающихся в планировании эксперимента296
Упражнения 300
Анализ линейных инвариантных во времени соотношений между двумя многомерными стохастическими рядами. . , 307
Введение.307
Результаты для многомерных случайных величин 308
Определение оптимального линейного фильтра 317
Эвристическая интерпретация параметров и построение оценок 321
Предельное распределение оценок 326
Класс состоятельных оценок 329
Асимптотические моменты второго порядка рассмотренных оценок 332
Асимптотическое распределение оценок 336
Доверительные области для предложенных оценок 337
Оценки коэффициентов фильтра 341
Оценки отклонений, имеющие место с вероятностью 1 346
Дальнейшее обсуждение 346
Другие типы оценок. 349
Рабочий пример 355
Применения материала настоящей главы 355
Упражнения 356
Главные компоненты в частотной области 362
Введение 262
Анализ главных компонент векторных величин . ♦ 364
Ряды главных компонент 369
Построение оценок и их асимптотические свойства 374
Дальнейшие свойства главных компонент 379
Рабочий пример 382
Упражнения; 391
Канонический анализ временных рядов 395
Введение 395
Канонический анализ векторных случайных величин396
Ряды канонических переменных 407
Построение оценок и их асимптотическиесвойства 412
Дальнейшие свойства канонических переменных 416
Упражнения 419
Доказательства теорем 421
К главе 2 . 421
К главе 3 . ,* 427
К главе4 . 432
К главе5 444
К главе6 453
К главе7 466
К главе8 484
К главе9 492
К главе10 496
Список литературы 500
Указатель обозначений•• •530
Предметный указатель 532
Д. Бриллинджер
ВРЕМЕННЫЕ РЯДЫ ОБРАБОТКА ДАННЫХ И ТЕОРИЯ
INTERNATIONAL SERIESIN DECISION PROCESSES
TIME SERIES
DATA ANALYSIS AND THEORY
David R. Brillinger
The University of California, Berkeley
HOLT, RINEHART AND WINSTON, INC.
New York Chicago San Francisco Atlanta Dallas Montreal Toronto London Sydney
1975
Д. Бриллинджер
ВРЕМЕННЫЕ РЯДЫ.ОБРАБОТКА ДАННЫХИ ТЕОРИЯ
Перевод с английского
А. В. Булинского и И. Г. Журбенкопод редакцией
А. Н. Колмогорова
ИЗДАТЕЛЬСТВО «МИР»
Москва 1980
УДК 519.24
Монография посвящена изучению временных рядов, встречающихся в различных областях физики, механики, астрономии, техники, экономики, биологии, медицины. Основная ориентация книги — практическая: методы теоретического анализа иллюстрируются детально проработанными примерами, а результаты наглядно представлены на многочисленных графиках. Вместе с тем теоретический уровень изложения очень высок. Для более глубокого понимания выводов и выкладок приводится большое число упражнений.
Книга рассчитана на математиков и специалистов различных областей науки и техники. Она доступна аспирантам и студентам университетов.
Редакция литературы по математическим наукам
1702060000
20203-500© 1975 by Holt, Rinehart and Winston, Inc.
041 (01)-80© Перевод на русский язык, «Мир», 1980
Давид Р. Бриллинджер
ВРЕМЕННЫЕ РЯДЫ. ОБРАБОТКА ДАННЫХ И ТЕОРИЯ
Научный редактор И. А. Маховая. Младш. научн. редактор Э. Г. ИвановаХудожник М. И. Гочуев. Художественный редактор В. И. ШаповаловТехнический редактор Е. С. Потапенкова. Корректор С. А. Денисова
ИБ № 1608
Сдано в набор 25.01.80. Подписано к печати 23.06.80. Формат 60x90Vie. Бумага газетная. Гарнитура латинская. Печать высокая. Объем 16,75 бум, л.
Усл. печ. л. 33,50. Уч.-изд. л. 31,17. Изд. № 1/9986. Тираж 9 500 экз.
Заказ № 1182. Цена 2 р. 40 к.
ИЗДАТЕЛЬСТВО «МИР» Москва, 1-й Рижский пер., 2.
Ордена Октябрьской Революции и ордена Трудового Красного Знамени ПерваяОбразцовая типография имени А. А. Жданова Союзполиграфпрома при Государственномкомитете СССР по делам издательств, полиграфии и книжной торговли.
Москва, М-54, Валовая, 28
Моей семье