И. И. Гихман, А. В. Скороход

Введение в теориюслучайныхПРОЦЕССОВ

ИЗДАНИЕ ВТОРОВ

Допущено Министерствомвысшего и среднего специального образования СССРв качестве учебного пособиядля студентов физико-математических специальностейвысших учебных заведений

ИЗДАТЕЛЬСТВО «НАУКА»ГЛАВНАЯ РЕДАКЦИЯ

ФИЗИКО-МАТЕМАТИЧЕСКО1 i ЛИ 11.РАТУРЫ

Москва 1977

УДК 519.21

Введение в теорию случайных процессов. Г и х м а н И. И., Скороход А. В. Изд. 2-е, Главная редакция физико-математической литературы издательства «Наука*, М., 1977, стр. 568.

Книга предназначена для первоначального изучения теории случайных процессов на строгой математической основе. Предполагается, что читатель знаком с общим курсом теории вероятностей. Необходимые сведения из теории меры приведены без доказательств. В книге рассмотрены общие положения теории, включая аксиоматику теории вероятностей и основные классы случайных процессов. Первая глава посвящена более элементарному изложению теории. Книга рассчитана на студентов и аспирантов университетов, а также на специалистов-нематемати- ков, желающих ознакомиться с основными математическими методами теории случайных процессов.

Второе издание книги существенно переработано.

Библ. 136.

г 20203-118 —

053(02)-77 1 1

ОГЛАВЛЕНИЕ

Из предисловия к первому изданию5

Предисловие ко второму изданию10

Глава 1. Случайные процессы в широком смыслеИ

Определения И

Гауссовы случайные функции22

Процессы с независимыми приращениями31

Марковские процессы в широком смысле42*

Процессы, стационарные в широком смысле71

Глава II. Аксиоматика теории вероятностей 88

Аксиомы теории вероятностейиосновные определения . ... 88

Построение вероятностныхпространств105

$ 3.Условные вероятности114

Независимость 124

Глава III. Случайные последовательности132

Мартингалы 132

Ряды независимых случайных величин146

Эргодические теоремы151

Процесс восстановления...*163

Цепи Маркова178

Цепи Маркова со счетным числом состояний191

Глава IV* Случайные функции214

Определение случайной функции214

Сепарабельные случайные функции220

Измеримые случайные функции225

Критерии отсутствия разрывов второго рода228

Непрерывные процессы238

Субмартингалы непрерывного аргумента243

Глава V. Линейные преобразования случайных' процессов247

Гильбертовы случайные функции247

Стохастические меры и интегралы259

Интегральные представления случайных функций269

Линейные преобразования274

Физически осуществимые фильтры284

Прогноз и фильтрация стационарных процессов297

Глава VI. Процессы с независимыми приращениями314

Случайные блуждания на прямой314

Скачкообразный процесс с независимыми приращениями. Обобщенный процесс Пуассона329

§ 3. Непрерывные процессы. Винеровский процесс344

§ 4. Строение общих процессов с независимыми приращениями . . . 355

§ 5. Свойства выборочных функций369

Глава VII. Скачкообразные марковские процессы383

Общее определение марковского процесса383

Общие скачкообразные марковские процессы395

Однородные процессы со счетным множеством состояний . . . 406

| 4. Процесс рождения и гибели422

Ветвящиеся процессы431

Глава VIII. Диффузионные процессы449

Стохастический интеграл Ито451

Существование и единственность решений стохастических дифференциальных уравнений 469

Дифференцируемость решений стохастических уравнений по начальным данным481

Метод дифференциальныхуравнений488

Граничные задачи для диффузионныхпроцессов493

Абсолютная непрерывностьмер, отвечающихдиффузионным процессам 501

Глава IX. Предельные теоремы для случайных процессов514

Слабая сходимость распределений в метрическом пространстве 515

Предельные теоремы для непрерывных процессов521

Сходимость сумм независимых случайных величин к процессу броуновского движения525

Сходимость последовательностей цепей Маркова к диффузионному процессу527

Пространство функций безразрывов второго рода539

Сходимость сумм одинаково распределенных независимых слу

чайных величин к однородному процессу с независимыми приращениями 547

Примечания 553

Литература559

Обозначения 665

Предметный указатель566

ИЗ ПРЕДИСЛОВИЯ К ПЕРВОМУ ИЗДАНИЮ

Книга рассчитана на лиц, усвоивших общий курс теории вероятностей и приступивших к изучению теории случайных процессов. Авторы надеются, что она будет полезной для студентов и аспирантов университетов, а также для специалистов-не- математиков, желающих ознакомиться с основными методами и результатами теории в строгом, но не самом общем и исчерпывающем изложении.

Авторы не ставили своей целью осветить все разделы теории, и некоторые вопросы и методы, хорошо освещенные в имеющейся на русском языке литературе, не затрагивались в настоящей книге (полугрупповая теория процессов Маркова, эргодические свойства процессов Маркова, обобщенные случайные процессы).

Теория случайных процессов выделилась из теории вероятностей сравнительно недавно. Она еще настолько тесно связана с другими разделами теории вероятностей, что границу, отделяющую теорию случайных процессов от этих разделов, часто трудно точно определить. Так, например, с теорией суммирования независимых случайных величин теория случайных процессов связана разделом, изучающим процессы с независимыми приращениями, а с математической статистикой — через статистические задачи теории случайных процессов.

Охарактеризуем основные (с нашей точки зрения) задачи в теории случайных процессов.

Первой задачей теории случайных процессов является построение математической модели, допускающей строгое (формальное) определение случайного процесса, а также исследование общих свойств этой модели.

Другой задачей является классификация случайных процессов. Очевидно, что всякая классификация носит отчасти

произвольный характер; поэтому нужно исходить из определенных принципов, указывающих хотя бы «направление», в котором ведется классификация. Существующая классификация в террии случайных процессов заключается в выделении из всей совокупности случайных процессов некоторых классов, допускающих более или менее конструктивное описание. Каждый класс характеризуется тем свойством, что достаточно дополнительно задать лишь конечное число функциональных характеристик, чтобы выделить из всего класса отдельный случайный процесс."

Иногда рассматривают классы процессов, допускающих единообразное решение определенного набора задач. При рассмотрении таких классов, как правило, не интересуются различием между случайными процессами, если только у них совпадают характеристики, нужные для решения этих задач.

Можно отметить следующие широкие классы процессов:

процессы с независимыми приращениями,

марковские процессы,

гауссовы процессы,

стационарные в узком смысле,

стационарные в широком смысле процессы (к последним можно отнести и процессы со стационарными приращениями).

Следующая задача тесно связана с предыдущей. Она заключается в отыскании для различных классов случайных процессов аналитического аппарата, дающего возможность вычислять вероятностные характеристики случайных процессов. Для простейших вероятностных характеристик такой аппарат создан и использует, как правило, или теорию дифференциальных уравнений (обыкновенных и с частными производными), а также интегро-дифференциальные уравнения (в случае марковских процессов и процессов с независимыми приращениями), или теорию интегральных уравнений с симметрическими ядрами (в случае гауссовых процессов), или преобразования Фурье и теорию функций комплексного переменного (для процессов с независимыми приращениями и стационарных процессов).

Следует выделить задачу, сыгравшую важную роль в формировании некоторых разделов теории случайных процессов и имеющую важное практическое значение.

В общем виде задача заключается в наилучшем определении значения некоторого функционала от процесса по значениям других функционалов от этого же процесса. Примером может служить частная задача предсказания: наблюдая процесс в течение определенного промежутка времени, определить значение процесса в некоторый момент времени, не принадлежащий этому промежутку.

Важный класс задач теории случайных процессов — изучение различных преобразований случайных процессов. Эти преобразования используются для того, чтобы с их помощью изучать сложные процессы сведением к более простым. К изучению преобразований случайных процессов можно также отнести теорию дифференциальных и интегральных уравнений, в которые входят случайные процессы. Этот класс задач включает в себя и предельные теоремы для случайных процессов, так как операция предельного перехода является некоторым преобразованием.

Основными областями применения теории случайных процессов в настоящее время являются радио- и электротехника, где применяются главным образом стационарные в широком смысле и гауссовы процессы, кибернетика (в частности, теория информации), использующая стационарные в узком смысле и марковские процессы.

В математической экономике, математической биологии применяются различного рода марковские процессы, в молекулярной теории газов используется процесс броуновского движения, в теории каскадов космических частиц находят себе применения марковские процессы и процессы с независимыми приращениями.

Вообще в последнее время методы теории случайных процессов находят все новые области применения, и сейчас, пожалуй, ни одна из естественных наук не избежала хотя бы в малой степени влияния этой теории.

Охарактеризуем кратко особенности содержания настоящей книги. В книге выделена глава (первая), посвященная случайным процессам в широком смысле. Так мы назвали ту часть теории случайных процессов, которая имеет дело лишь с распределениями конечных наборов значений случайного процесса.

Эта часть очень близка к элементарной теории вероятностей, не требует для изложения сложных математических понятий и часто бывает достаточна для приложений.

Далее рассматриваются общие вопросы теории случайных функций и затем конкретные классы случайных процессов и частные вопросы теории. Из случайных процессов широко освещены процессы с независимыми приращениями (им посвящена одна глава) и процессы Маркова (им посвящены две главы). Стационарные процессы рассматриваются частично в первой главе, частично в пятой главе, посвященной линейным преобразованиям случайных процессов. В этой же главе рассмотрена задача линейного прогнозирования. Целая глава уделена предельным теоремам для случайных процессов, причем в этой главе основное внимание уделяется процессам с независимыми приращениями и марковским процессам.

Большинство построений проводится для того случая, когда случайный процесс принимает значения из конечномерного евклидова пространства, в некоторых случаях рассматриваются комплекснозначные одномерные и многомерные процессы, а также процессы со значениями из полного метрического пространства.

Поэтому предполагается, что читатель владеет основными понятиями линейной алгебры (это особо важно при изучении гауссовых процессов) и теории гильбертовых пространств, используемых при рассмотрении линейных преобразований случайных процессов, а также некоторыми сведениями из функционального анализа (полное метрическое пространство, компакты).

Мы не ставили своей целью давать полную библиографию работ по теории случайных процессов, а в списке литературы, кроме книг, на которые имеются ссылки в тексте, привели лишь основные книги по теории случайных процессов и теории вероятностей, имеющиеся на русском языке, а также статьи, в которых впервые появлялись фундаментальные результаты в данной области.

Книга делится на главы, главы — на параграфы. Основные формулы, а также теоремы, леммы имеют нумерацию внутри каждого параграфа. При ссылках внутри одного параграфа

указывается лишь номер теоремы или формулы, при ссылках внутри одной главы к этому номеру добавляется еще номер параграфа, при ссылках на результаты других глав добавляется еще и номер главы.

АвторыАвторыАвторы выражают свою признательность сотрудникам, аспирантам и студентам кафедры теории вероятностей и математической статистики Киевского государственного университета за помощь в работе над книгой.

Авторы

Авторы

Киев, 21 октября 1963 г.

ПРЕДИСЛОВИЕ КО ВТОРОМУ ИЗДАНИЮ

Во втором издании общий план и целевая установка книги сохранились. Все же книга подверглась значительной переработке. Исключена глава, посвященная теории меры, и некоторые параграфы других глав. В § 1 второй главы без доказательств сформулированы на языке теории вероятностей те результаты теории меры и интеграла, которые в дальнейшем считаются известными и постоянно используются без дополнительных ссылок. Введена новая глава — «Случайные последовательности», куда вошел новый материал: мартингалы, теория восстановления, цепи Маркова. Расширена первая глава, посвященная процессам в широком смысле. Добавлены новые параграфы, в которых рассматриваются случайные блуждания, обобщенный процесс Пуассона, вопросы абсолютной непрерывности мер, порождаемых диффузионными процессами. Внесены и другие изменения.

Киев—Донецк, февраль 1976 г.Киев—Донецк, февраль 1976 г.И. И. Гихман, А. В. Скороход

Киев—Донецк, февраль 1976 г.

Киев—Донецк, февраль 1976 г.

ГЛАВА I

СЛУЧАЙНЫЕ ПРОЦЕССЫ В ШИРОКОМ СМЫСЛЕ

§ 1. Определения

Течение случайного процесса, так же как и детерминированного, описывается некоторой функцией g(9) (принимающей действительные, комплексные или векторные значения), где 9— аргумент функции со значениями из множества в. Функцию £(9), наблюдаемую в некотором опыте, осуществляя определенный комплекс условий У, называют выборочной функцией или реализацией случайного процесса.

Если 9 фиксировано, то значение £(0) является случайным. Для того чтобы иметь возможность применять математические методы к исследуемому кругу вопросов, естественно предположить, что g(9) является случайной величиной (или случайным вектором) в теоретико-вероятностном смысле.

Следовательно, случайный процесс является семейством случайных величин £(0), зависящих от параметра 0, пробегающего некоторое множество значений 0.

Если множество 0 произвольно, то вместо термина «случайный процесс» удобнее пользоваться термином «случайная функция», оставляя название «случайный процесс» для тех случаез, когда параметр 0 интерпретируется как время. Когда аргумент случайной функции является пространственной переменной, эту функцию называют еще случайным полем.

Данное определение случайной функции нуждается в уточнении. Ради простоты будем говорить о случайной функции, принимающей действительные значения. Прежде всего надо выяснить, какой смысл вкладывается в термин «семейство случайных величин, зависящих от параметра 9». Напомним, что в соответствии с принципами теории вероятностей конечная последовательность случайных величин gb g2, • - •, In полностью характеризуется их совместной функцией распределения

F (^Ь ^2> • • •, ^n) == Р {11 < ^Ь |г < -^2> • • • > In ^ -^п}-

При переходе к теоретике-вероятностному описанию случайной

функции возникает вопрос: как описать взаимные связи бесконечного числа случайных величин — значений случайной функции?

Проще всего считать случайную функцию £(0) заданной, если определены всевозможные теоретико-вероятностные соотношения между любым конечным набором значений случайных величин

S(OiU(02),о,sв,(1)

i=l,2, ...,га;га=1,2,

т. е. если даны соответствующие функции распределения. С этой точки зрения случайная функция g(0), 0 е в, определяется семейством распределений

^9Г е2,...,еп (л'р x2> • • •» хп)> ®<s ®»(2)

i = 1,2, ..., га;га = 1,2, ...,

и каждая функция Гв>ве (х,, х2, ..., хп) интерпретируется как совместная функция распределения последовательности случайных величин (1).

Разумеется, для того чтобы такая интерпретация была возможной, семейство распределений (2) не может быть совершенно произвольным. Оно должно удовлетворять следующим очевидным условиям, которые называют условиями согласованности семейства распределений (2):

F»r е,ей+1е„+р (лр .... хп, + со, ..., + оо) = = ^е,, е2е„ (хр х2« • • •» хп)' ^

\е2еп(Л• х2хп) = Felv е,2eln (xi,. xit> • • • • xift)* (4)

где к, кin — любая перестановка индексов 1, 2, ..., п.

Необходимость этих условий обосновывается следующими соотношениями: fm.v».+,+~+”)-

= Р {& (91) < ^ь £ (9г) < ^2> • • • > I (9») < хп>£ (9^+1) < 00 > • • • > I (®n+p) < 00} =

“ Р {6 (91) < ^Ь £ ($2) < ^2> • • • > £ $п) < Х^ =

“^врбг, ...^^(^Р ХУ хп)> ^ег еа,..., е„ (хр х2» • • •» хп) =

= Р {6 (9i) < ^i> I (9г) < х2» • • • > 6 (9«) < ^п) =

- Р {ЦО,,) < xv £(0,,) < хч6 (0,J < x,J =

= fe,i,e,1Ч)-

1313ОПРЕДЕЛЕНИЯОПРЕДЕЛЕНИЯ8 П

13

13

ОПРЕДЕЛЕНИЯ

ОПРЕДЕЛЕНИЯ

Вышесказанное приводит к следующему определению.

Определение. Случайной функцией 6(8), заданной на множестве 0 (0 е 0) и принимающей действительные значения, называют семейство распределений (2), удовлетворяющее условиям согласованности (3), (4).

Набор функций Fe в е (хг х2, .... хп) называется конечномерными распределениями случайной функции.

Приведенное выше определение случайной функции привлекает своей элементарностью и достаточно в тех случаях, когда нас интересуют значения случайных величин 6(8) на конечном множестве значений аргумента 6. С другой стороны, существенный недостаток этого определения состоит в том, что оно не дает возможности рассматривать случайную функцию в целом, т. е. рассматривать одновременно совокупность всех ее значений. Между тем во многих экспериментах наблюдаемая выборочная функция записывается с помощью надлежащего прибора в виде графика некоторой кривой. Приведенное же определение случайной функции не только не дает возможности строить график этой функции, но даже не дает возможности ставить вопросы о таких функциональных свойствах функций 6(9), как их непрерывность, дифференцируемость и т. п. Непосредственно нельзя ставить также вопрос о вероятности события, состоящего в том, что для всех 6 е 0 выполняется неравенство а < 6(0) <. Ь, а •< Ь.

Другие, более гибкие определения случайной функции возникают, если использовать аксиоматический подход к теории вероятностей. Каждая теоретико-вероятностная схема описывает результаты некоторого эксперимента со случайными исходами. Если результат эксперимента описывается одним числом или конечной последовательностью чисел, то говорят, что наблюдается случайная величина или случайный вектор. Если же результат эксперимента описывается некоторой функцией, то мы имеем случайную функцию. Таким образом, случайная функция задается произвольной теоретико-вероятностной схемой, описывающей эксперименты, результатами которых служат случайные функции. Более точный разбор этого определения будет дан в четвертой главе. Определение случайной функции, принятое в настоящем параграфе, условимся называть определением случайной функции в широком смысле.

До сих пор речь шла об одной случайной функции. При решении многих задач приходится иметь дело с несколькими различными случайными функциями. Для того чтобы над ними можно было производить математические операции, недостаточно, чтобы каждая из этих функций была задана в отдельности. Вместо того чтобы говорить о последовательности функций

ЫО), Ь(0), • • •, ът (0), проще говорить об одной векторной функции £(0), компонентами которой служат случайные функции §1(0), §2(0), .|т(0). Тогда предыдущее определение

почти не нуждается в изменениях. Роль распределения последовательности случайных величин (1) играет совместная функция распределения последовательности векторов §(0i), §(02), ... • • •, £(0п), т. е. функция пт переменных ^0Р 02, .... е„ (Х1Р Х12» 1 1 • ♦ Хпт) ~

= Р {£1 (9|) < Хц, §2(01) < Х|2, . . ., §n (6m) < xrrnV

В дальнейшем множество 0 будет главным образом множеством действительных чисел и переменная 0 интерпретируется как время t. В этом случае множество 0 будем обозначать буквой ^" и понимать под этим конечный или бесконечный промежуток (замкнутый, открытый или полуоткрытый). Рассматривают также случаи, когда 9Г состоит из всех неотрицательных или из всех действительных целых чисел. Тогда мы имеем последовательность случайных величин (векторов) §(£) (Л =. = 0,1,2, ... или &=0, ±1, ±2, ...) и называем такой процесс случайным процессом с дискретным временем или случайной последовательностью. Процессы с дискретным временем играют важную роль в общей теории случайных процессов. Во- первых, имеется много теоретико-вероятностных задач, в которых время, по существу, входит дискретно. Во-вторых, изучение процессов с дискретным временем в некоторых отношениях требует более простых средств и в то же время в ряде случаев такими процессами можно аппроксимировать процессы с непрерывным временем.

В настоящем параграфе мы ограничимся преимущественно случайными функциями, принимающими действительные значения. Переход к векторному случаю вызывает только некоторые технические усложнения.

Конечномерные функции распределения однозначно определяют семейство мер 9е,,б2, ...,e w)* п—1>2, ...,0*60, где В—борелевское множество в ^п. При этом значение^ 6 (В) дает вероятность того, что измерение в некотором эксперименте величин §(0i), §(0г)» ..., 6(9п) даст последовательность, попадающую во множество В:

ч»,.„(В)-Р№№)$(У)ЕВ).

Меру q6 в (В) называют распределением последовательности §(01)‘ .. .,"§(0П).

Явные выражения для конечномерных функций распределения случайного процесса часто бывают сложными и неудоб-

ными для применений. Поэтому, в ряде случаев предпочитают задавать конечномерные распределения их плотностями или характеристическими функциями.

Если fe е (хр ..., х„) — плотность распределения функции распределения F^е (х,х„),то

*1 *п

^9,е„ (^р хп) = ^ ... ^ fo,еп(.Уп* • • «Уп)^ ... dyn.

Отсюда, в частности, вытекает формула

1»р... e„(^p хп) =

>вп>вп+16n+p^vХп«Ух» ---'Ур^У! •••'dyP>

"°0(5)

которую можно рассматривать как эквивалент условия согласованности (4) конечномерных распределений. Меры q^ ... 6 (6) связаны с плотностями соотношением

4^v :.ten^” $ * ’ * \ ^Р ...,бл (^р • • м Уп) ^Uv • • •» ^Уп* в

Характеристическая функция конечномерного распределения последовательности (1) определяется формулой

Фее„(«Р «„)=Мехрр £ ^(e.)UJ,

где М — символ математического ожидания, иь ..., ип — вещественные числа. Если существуют плотности конечномерных распределений, то

Фе„...,е„(°1“„) =

я”

т. е. характеристическая функция является преобразованием Фурье плотности распределения.

Возможность задания конечномерных распределений с помощью их характеристических функций связана с тем, что последние однозначно определяют функции распределения. Например, если существуют плотности конечномерных распреде-

лений и они удовлетворяют некоторым аналитическим условиям, подробно рассматриваемым в теории интеграла Фурье, то плотность feв (хр ..., х„) можно восстановить по характеристическим функциям с помощью формулы Фурье:

Аз,е#(х1» • • хп) = ' п

! гг - Е Vs z

“ (2л)" JJ "*^1•и^1’И")^“1‘ ^Un* ^

Подробнее о характеристических функциях см., например, В. Феллер [2] или П. Л. Хеннекен и А. Тортра [1].

Корреляционные функции. Исчерпывающую характеристику случайной функции в широком смысле дает семейство совместных распределений (2). Однако во многих случаях представляет интерес более сжатая характеристика распределений, отражающая некоторые важные свойства случайной функции. Кроме того, решение многих теоретико-вероятностных задач зависит только от небольшого числа параметров, характеризующих входящие в задачу распределения. Наиболее важными числовыми характеристиками распределений являются их моменты. В теории случайных функций роль моментов распределений играют моментные функции.

Определение. Моментными функциями случайной функции £(0), 6е0, называются функции

"М,.....,.^- 6«У-МВАИ'Ш)]'1 ■ КСМ]''

к>0(6 = 1,2s),

если математическое ожидание в правой части равенства имеет смысл при всех 0< s 6, i = 1, 2s. Величина q = ji + /2 +' + ...+/« называется порядком моментной функции.

Определение. Случайная функция £(0), 0е6, принадлежит классу SV(Q) (£(0)е 5^(6)), если М||(0)|р < оо для любого 0 е 6.

Легко заметить, что если g(0)eS’p(0), то моментные функции порядка q конечны для всех q <^. р.

Действительно, из неравенства между средним геометрическим и средним арифметическим:

ssS

ILXk<LpMak, ak>0, рк>0, Lpk=V» 1-й»!

следует

88lfc 88

П^Об)!*-]}1^1’ * <E4^^)I’> *-£/»• 6-16-16-1 46-1

Воспользовавшись неравенством Йенсена Mf(§)^f(M§), имеющим место для любой непрерывной выпуклой функции, получим

888 .q

м П । ^ ^ i,ft < м £ -71 ^ (0б) Г < £ у (м । & (0б) № 6-i6-i6-i

откуда следует доказываемое.

Если известны характеристические функции конечномерных распределений, то моментные функции с целочисленными индексами могут быть найдены с помощью дифференцирования. Действительно, если §(0)е 2^(0), то

^.z,(e.--®.)= (-0»^.z,(e.--®.)= (-0»^Ч,es(“iМди{*, .... ди8®^Ч,es(“iМди{*, .... ди8®»|--.«,-0»|--.«,-0

^.z,(e.--®.)= (-0»

^.z,(e.--®.)= (-0»

^Ч,es(“iМди{*, .... ди8®

^Ч,es(“iМди{*, .... ди8®

»|--.«,-0

»|--.«,-0

при q^p (q = jt + /2 + • • • + h)- Доказательство этой формулы вытекает из возможности дифференцирования по «ь ...

'£М(еб)

.и8 соотношения Фе е (м(и$)= Ме 1под

знаком математического ожидания. В ряде случаев приходится пользоваться обратным утверждением, но последнее имеет место не во всех случаях. Но оно справедливо для моментов с четными индексами.

Кроме моментных функций, часто рассматривают центральные моментные функции

- м fe (0,) - Шх (О,)]'116 (02) - «1 (02)1'я... (6 (0$) - тх ^‘е\ (8) которые являются моментными функциями центрированной случайной функции §1(0)= 5(0)—/П1(0), имеющей при любом 0 е 0 математическое ожидание, равное 0.

Среди моментных функций особое значение имеют функции первых двух порядков:

т (0) = Ш\ (0) = М§ (0),(9)

R (01, 02) = ти (0Ь 02) = М 6 (0J - т (0,)] [§ (02) - tn (02)]. (10)

Функция т(0) называется средним значением, а /?(0ь 82) — корреляционной функцией. При 01 = 62 — 6 корреляционная функция дает дисперсию о2(0) величины |(0), /?(0, 0)= о2(6).

Величину

Р /д gi R (61, 62) R (61 6г)

называют коэффициентом корреляции случайных величин 6(01) и 6(02).

Если 6(01) и 6 (82) независимы, то коэффициент корреляции равен 0. Обратное, вообще говоря, неверно. Все же в важном частном случае, когда случайные величины g(8i) и |(02) имеют совместное нормальное распределение, из равенства 0 коэффициента корреляции или, что то же самое, корреляционной функции /?(8ь 82) следует, что величины 6 (61) и 6(62) независимы. Две случайные величины 6, г] с конечными моментами второго порядка, удовлетворяющие условию

^.ч-МКб-МбХп-МпИ-О,

называются некоррелированными.

В общем случае коэффициент корреляции пары случайных величин является мерой линейной связи между ними, т. е. коэффициент корреляции показывает, с какой точностью одна из случайных величин может быть линейно выражена через вторую.

Часто рассматривают комплекснозначные случайные функции 6(8). Их можно представить в виде 6(8)= 6(8)+tr](8) и рассматривать как двумерные векторные случайные функции.

Для комплекснозначной функции соотношение 6(8)г 32(0) означает, что М|6(8)|2<оо, 0 е 0, т. е. что ^(Qfe^tQ) и i)(8)e ^2(0).

Корреляционная функция комплексной случайной функции определяется равенством

R (0Ь 02) - м (16 (80 - Мб (0,)] 16(02)-М£(02)]),

где черта над скобкой обозначает переход к комплексно сопряженной величине. ,

Отметим некоторые свойства корреляционных функций:

/?(0, 0)^0, причем знак равенства возможен тогда и только тогда, когда 6(8) с вероятностью 1 постоянна;

2)3)2)3)(И)(12)(И)(12)/?(0ь82) = /?(02, 00;

2)

3)

2)

3)

(И)

(12)

(И)

(12)

|/г(е1,е2)|2</?(01,01)/?(02,02);

каковы бы ни были п, Оь 02, •. •, 0п и комплексные числа А»Ь %2э . . • , XПэ

п

^R^b^XfX^O.(13)

Первые два утверждения очевидны; 3) получается как следствие неравенства Коши — Буняковского (М||т)|)2^М|§|2М|т)|2. Для доказательства 4) достаточно заметить, что

Пп П

^R (9/, 9») Х}Хк = М£д (0/) £ (0fc) X,Xfe = М | £ £ (0,)X, I > 0.

Отметим, что свойства 1), 2) и 3) являются следствием свойства 4).-

Функция /?(0ь 0г), заданная на 0 и удовлетворяющая свойству 4), называется положительно определенным ядром на 0.

Если даны две случайные функции Si (0) и &(9), принадлежащие ^2(0), то для характеристики степени линейной связи между ними вводят взаимную корреляционную функцию.

Определение. Взаимной корреляционной функцией случайных функций £1(0) и £2(0) (s^C®)) называется функция

R^ (0b 02) = М [£< (0i) - М£| (0!)] (£2 (02) - М£з №)Ь

Пусть задана последовательность комплекснозначных случайных функций

51 (0), & (0)6г (9) С/ (0) е ^(б),2=1,2,..., г.

Условимся рассматривать ее как одну r-мерную комплексную случайную функцию.

6(9) = {£i(9),£2(0),Сг(О)},6е0.

Если £ и т] — два вектора

6 = £ь& У.

Л —Oh» 42» . .. Чг),

то будем обозначать через £4* матрицу

(

6141 6142 ••• 614г \

6г41 6242 • •. 6г4г I/6 д \

I W1!//!,/-!, .... г’

6r4i 6,42 .6г4г /

Положим

m (0) = М£ (0) = (М£, (0), М£2 (0), ..., М£г (0)}, 2? (0ь 92) = (2?//(01, 02))i,/«i, ...,г =

= М ([£ (ОО - пг (0,)] [£ (02) - tn (02)П =

= (М {[£, (в,) - пн (0OJ [^(Оз)-/»/^}),. /=1,

Функция т(9) является r-мерной комплекснозначной векторной функцией. Она носит название среднего значения векторной случайной функции 5(9). Матрица R$\, 9г) называется корреляционной матрицей 5(9).

Свойствам 1)—4) корреляционных функций соответствуют следующие свойства корреляционной матрицы случайной функции:

₽(9, 9) является неотрицательно определенной матрицей

£ /?м(9,9)^ = М£ /?м(9,9)^ = МГ2

£ /?м(9,9)^ = М

£ /?м(9,9)^ = М

^W >0;(14)

/?(9ь92)* = /?(92,91),(15)

где знак * обозначает переход к комплексно сопряженной матрице;

I Rlk №, 92) р < RH (9Ь 9.) Rfefe (92, 92), /, k = 1, ..., г; (16)

для любых п, 9ь ..., 9П и последовательности комплексных векторов Ai, Аз, ..., Ап

^(RtM^.A^O.(17)

Последнее условие эквивалентно следующему:

4') для произвольной последовательности матриц Ль ..., Лп матрица

п

,2. А,«(е„ ел)л;

неотрицательно определенная.

Свойства 1) и 2) очевидны. Для доказательства свойства 3) воспользуемся неравенством Коши — Буняковского для математического ожидания:

I Ru (9i, 92) р = | М [(5/ (9i) - mj (9i)) (5» (92) - mfe (92))J р <

^R« (9i, 9i) R^ (92, 92).

Чтобы доказать свойство 4), положим Лй = (аь1, .... аьт\. Тогда

пп г

52 (R (6/, 9fe) Aft, Лу) = 52 2 Rpq (3/» ®б) ^kqdfp = /,6-1I, k-\p,q-l

Понятия непрерывности, измеримости и другие понятия анализа непосредственно к случайным функциям в широком смысле неприменимы. В принципе возможно для этих понятий найти

эквиваленты, выражаемые через конечномерные распределения случайной функции. В настоящее время более распространен иной подход к построению анализа случайных функций, принятый и в настоящей книге (гл. IV). Упомянем здесь об одном понятии, выражаемом через распределения пар t(0i), §(0г)-

Пусть |(0)—векторная функция со значениями в й4, в — метрическое пространство с метрикой г(0ь 02).

Определение. Случайная функция & (0), 9 G 0, называется стохастически непрерывной в точке 0о, если Ve > О

P(IS(e0> —6(0)1 > е>-*о при г(0о,0)->О.

Если |(0) стохастически непрерывна в каждой точке некоторого множества В cz 0, то ее называют стохастически непрерывной на В.

Если случайная функция стохастически непрерывна на некотором множестве, то это вовсе не означает, что ее реализации непрерывны на В. В этом легко убедиться на простых примерах (см. § 3).

Определение. Если при N -»- со

sup Р(|§(0) | > ^}^0,

то случайную функцию |(0) называют стохастически ограниченной на В.

Теорема 1. Если в — компакт, случайная функция §(0) стохастически непрерывна на 0, то £(0) стохастически ограничена на 0.

Доказательство. Пусть в — произвольно малое положительное число. Для каждой точки 0 е 0 построим сферу Se с центром в точке 0 такую, что

Р{1£(0)-|(0')1>1}<| V0'eSe.

Из множества всех сфер Se выберем конечное покрытие Se ,... ..., Se множества 0. Пусть а — наибольший радиус сфер Se , ..Se . Тогда

‘" IU0)KIU0)-g(0/)l + maxlg(0/)|,

где 0/ —центр сферы 89,, в которую попадает точка 0. Таким образом, при N > 2

P{lU0)l>^}<P{lU0)-|(0/)l>4} + P{maxIW

<f+ р( шах Ц(0/)1>^к 2 (.К/Цп- )

Величина max|£(0z)| с вероятностью 1 конечна. Поэтому при N достаточно большом, М>АГ0(е), имеем Р( max |£(0/) I > 4г1<-т и Р{|§(0)|>^<е. ■1<,<П'

Определение. Случайную функцию £(0) называют равномерно стохастически непрерывной на в, если для произвольного в > О можно найти такое б >■ О, что

для всех 0 и 0', для которых г (0, 0') < б.

Теорема 2. Если 0 — компакт, случайная функция g (0) стохастически непрерывна на 0, то g(0) равномерно стохастически непрерывна на 0.

Действительно, если бы это было не так, то нашлось бы такое 8>0 и для любого п пара точек 0П, 0',для которых г(0п, 0^) < < -^- и Р {11 (0rt) — ^ (0') | > е) ^ е. Из компактности 0 следует, что можно выбрать подпоследовательность индексов п^, так, чтобы 0П& и 0'* сходились к некоторому пределу 0q. Тогда «<р{1ЧУ-ЧеУМ<р{|Ч%Н(9.)1>-Я +

+ р{|б(6.)-ЧеУ1>1}-

В силу стохастической непрерывности ^(0) правая часть последнего неравенства -> 0 при к -> 0. Мы пришли к противоречию, и тем самым теорема доказана.

§ 2. Гауссовы случайные функции

Важную роль во многих прикладных вопросах играют случайные функции, конечномерные распределения которых являются гауссовыми (нормальными). Приведем прежде всего определение и основные свойства многомерного гауссова распределения.

Определение. Случайный вектор g = (gi, £2£п)

имеет гауссово (нормальное) распределение, если характеристическая функция распределения представима в виде

Ф (и) = Me' (“•» = е1 (т’ “>- ^ ^И>,(1)

где т = (ть m2тп), и = (щ, и2, .... ип)— векторы, R — неотрицательно определенная вещественная симметрическая матрица, R = (rik), i, k = 1, 2, ..., п. Здесь (а, ₽) обозначает

скалярное произведение векторов а и р, так что

(ш, и) = 2 mkuk, (Ru, «) = ,^ rjkUjUk.

Следующая теорема служит формальным оправданием данного определения.

Теорема 1. Для того чтобы функция

ф («) = exp|z (т, «) — у (Ru, u)j

была характеристической функцией распределения некоторого п-мерного случайного вектора g, необходимо и достаточно, чтобы вещественная матрица R была неотрицательно определенной и симметрической. Ранг матрицы R равен размерности подпространства, в котором можно сосредоточить распределение вектора £.

Доказательство, а) Необходимость. Пусть характеристическая функция ф(«) некоторого случайного вектора задается формулой (1). Дифференцируя ее по щ и затем по uh и полагая « = 0, видим, что распределение обладает конечными моментами и

д2Фди, duk Iд2Фди, duk I^\u-0 = iMl, = inth

д2Фди, duk I

д2Фди, duk I

= — М^6 = — mfmk — rlk.(3)

«-о

Из этих формул следует, что матрица R вещественна, симметрична и неотрицательно определена:

О

п\2

В (g/ — m-j^ u,J = D (g, u) > 0.(4>

Если ранг матрицы R равен г(^ п), то с помощью надлежащей п

замены переменных и( = 2* а/бО^ ее можно привести к главным ОСЯМ!

ТГ П П

(Ru, и) - У Xfev| = М I У У (| - m})alkv J .

П

Таким образом, У (^ — /П/)а/б = 0 при k = r "-|- 1, ..., п с вероятностью 1. Эти соотношения показывают, что с вероятностью 1 между компонентами вектора § существуют п — г линейно-

независимых соотношений и, следовательно, его распределение сосредоточено в r-мерной гиперплоскости, задаваемой уравнениями

п^Xi — mi)alfe = 0,п^Xi — mi)alfe = 0,А = г 4-1п.А = г 4-1п.

п

^Xi — mi)alfe = 0,

п

^Xi — mi)alfe = 0,

А = г 4-1п.

А = г 4-1п.

б) Достаточность. Предположим сначала, что R — положительно определенная симметрическая матрица. Функция ф(ы)=ехр|/(т, и)—у(/?м, «)| абсолютно интегрируема и дифференцируема. Следовательно, к ней применима интегральная формула Фурье:

ф(«) = ^ ... J f (х)е^*'"1 dxx ... dxn,ф(«) = ^ ... J f (х)е^*'"1 dxx ... dxn,fW™-^" J ” $ ^Ки)е-1<“-хМих ... dun.fW™-^" J ” $ ^Ки)е-1<“-хМих ... dun.

ф(«) = ^ ... J f (х)е^*'"1 dxx ... dxn,

ф(«) = ^ ... J f (х)е^*'"1 dxx ... dxn,

fW™-^" J ” $ ^Ки)е-1<“-хМих ... dun.

fW™-^" J ” $ ^Ки)е-1<“-хМих ... dun.

Интегралы в правых частях написанных формул являются «-мерными.

Пусть С — ортогональная матрица, приводящая R к диагональному виду, так что ORC = D, где D = (l<6ih), i, k = = 1, ..., п; Xi > О, С* — матрица, сопряженная с С. Так как С вещественна и ортогональна, С* совпадает с транспонированной и с матрицей, обратной к С, С* = С' = С-1. Перейдем от переменных интегрирования Uh к переменным vh с помощью соотношений и = Со или у = С*и, где у = (Уь уз. • • •. Уп). Так как при ортогональном преобразовании элемент объема не меняется, то

f(*)—^pr J •*• \exp^—i<x—m,Co)—^RCo,Co)^dox... dott.

Имеем

(RCo, Со) = ^RCv, о) - £ X6y|,

n

(x — tn, Co) = (С* (x — m), у) = ^ -4^,

где x^ — k-я компонента вектора x* = C*(x — tn). Таким

образом, fW=

^w ) ••• J ^pj-^^-yZvip0! ••• dyn= -00-CO VДв1V

n c

= Hi J exp { - iXk°k ~" ^XkVk } ^ = A*1— oo

A i -*tl*4 ,«x-4/A.V2 -t(o-**•,*•) -П^6= (2я) (Пм 8 2

n

Далее, JI^a = A, где Д — определитель матрицы R, Ф-Хх\ x*) = (jTxC (x - m), C* (x - m)) =

= (CD-XC (x — ni), (x - m)) = ((СДС*)"1 (x - m), (x — m)) = = (/?"' (x — m\ (x — m)), где R~x — матрица, обратная к R. Окончательно получаем

/ ^ = аА^Д еХр ( ”^ ^ * ^ ~ т^ ^ "" ^ =

(6)(6)1(1 A ду to - т^ - т^

(6)

(6)

У(2л)яДР|2 ,^хЛ

где Д^у — алгебраические дополнения элементов матрицы R. Из (6) следует f(x)>0, а из (5) ^ f (х)4х = ф(0) = 1. Таким образом, функцию /(х) можно рассматривать как n-мерную плотность распределения, а ф(ы) является ее характеристической функцией.

Переходя к общему случаю, предположим, что матрица R имеет ранг г (г < п) и С — ортогональное преобразование, приводящее ее к диагональному виду, C*RC = Dr, где DT — диагональная матрица, диагональные элементы которой Хи = 0 при Л = г + 1, ...,пиХЛ>0 при к = 1, 2, ..., г. Пусть Л/«Л/ при / = 1,2, ..., г; Я® = е при / = г + 1, ..., п. Тогда Re = = CDeO — положительно определенная матрица фе — матрица с элементами Х/6/») и

Фе (“) = ехр | i (т, м) — у (Reu, и)}

является характеристической функцией некоторого распределения. При е-* 0 функция фе(«) равномерно стремится к ф(и), и поэтому ф(м) также будет характеристической функцией некоторого распределения. Как было выяснено ранее, это распределение сосредоточено в r-мерной гиперплоскости и поэтому не имеет плотности. Такое распределение называют несобственным гауссовым распределением. ■

Следствие 1. В выражении (1) для характеристической функции гауссова распределения m = (nix, m2, ..., mn) есть вектор математического ожидания, a R — корреляционная матрица:

m = Mg, r/t = М [(gz — m^ (gfe — /п^)].

Это следствие непосредственно вытекает из формул (2) и (3).

Следствие 2. Если корреляционная матрица R гауссова случайного вектора g невырождена, то существует п-мерная плотность распределения f(x), определяемая формулой (6).

Следствие 3. Совместное распределение любой группы компонент гауссова случайного вектора является гауссовым.

Теорема 2. Если случайный вектор g = (gi, ga, .... gn) имеет гауссово распределение, случайные векторы g' = (gi, ... .... gr), g" = (gr+i, ..., gn) (r < ”) некоррелированы, то векторы V и g" независимы.

Доказательство. Из некоррелированности g' и g" вытекает, что

Mg<g/-Mg<Mg/ = O, /=1, .... г, ] = г+1, .... п.

Поэтому

Ф («) = ехр 1I ^т', и') + I (т", и") —

ГпS

-у Е r^jUfe-^ £ Г^иЛ,

гдегдеm'= (mx, та, ..., тг\ и' = (щ, щ,'..., ыг),m'= (mx, та, ..., тг\ и' = (щ, щ,'..., ыг),m" = <mr+x, ...» mn),и" = ^иг+х«„).m" = <mr+x, ...» mn),и" = ^иг+х«„).

где

где

m'= (mx, та, ..., тг\ и' = (щ, щ,'..., ыг),

m'= (mx, та, ..., тг\ и' = (щ, щ,'..., ыг),

m" = <mr+x, ...» mn),и" = ^иг+х«„).

m" = <mr+x, ...» mn),и" = ^иг+х«„).

Предыдущую формулу можно переписать в виде

Ф (к) = Мег ^> б'>+< <“' б’> = Me' <“'• б'> Me' ^, п = ф' („') ф" („"),

где ф'(м') и Ф"(и") являются характеристическими функциями векторов g', g". Это соотношение доказывает независимость g' и g".

Пусть Л = || а,-А || (/ = 1, ..., h, к = 1, ..., п) — произвольная прямоугольная матрица и т] = Л^, т. е.

Л = (Л iПл)» Л/ = X а^Хь / = 1h-

Вектор л является линейным преобразованием вектора g.

Теорема 3. При линейном преобразовании случайных векторов гауссовы распределения переходят в гауссовы.

Доказательство. Пусть фл(Л, .••, М обозначает характеристическую функцию вектора л- Тогда

фп(«1«А)= Мехрфп(«1«А)= МехрI 2 4141 < = Мехр{ I 2/-1)<а-1

фп(«1«А)= Мехр

фп(«1«А)= Мехр

= ехр | i ku, Am) — ^ kARA'u, и)},(7)

т. е. л имеет гауссово распределение с математическим ожиданием Ат и с дисперсионной матрицей /?я = ARA'. ■

Приведем еще некоторые часто используемые формулы для гауссовых распределений.

Пусть g = (gh ..., gn), л = (ль .. •, Лп)— Два случайных вектора, имеющих совместное гауссово распределение. Найдем условное распределение вектора g при заданном векторе л- Не умаляя общности, можно считать, что корреляционная матрица ^22 вектора л невырождена. Действительно, если бы матрица /?22 вырождалась, то это бы означало, что некоторые компоненты вектора л являются линейными комбинациями других, и их можно было бы исключить, понизив размерность вектора л-

Пусть тх = Mg, т2 = Мл, /?ц — корреляционная матрица вектора g, R12 — взаимная корреляционная матрица векторов g и т]:

/?|2 = М (g ~ тх) (ц — т^*.

Заметим, что для любой неслучайной матрицы А и векторов 5 и л

M^g, n) = Sp АК,

где К. — матрица с элементами кц = Mg^j, Sp В — след матрицы В, Sp В = У, Ьц. При этом, Sp АВ = Sp ВА для любых матриц А и В. Возвращаясь к поставленной задаче, положим

t = #Л + /?12/?22* (л —-т^.(8)

Легко проверить, что для любой матрицы А

M(A(i-l), 4-^ = 0.(9)

Действительно,

М (Л (£ — £), ч — m2) = Sp ARii — Sp ARiaR^Raa = 0.

Равенство (9) означает, что любая компонента вектора £— £ некоррелирована с любой компонентой вектора ч— та и, следовательно, эти векторы независимы. Таким образом,

I = £ +1 = £ + mi + ЯнЯггЧч— тг),(10)

где £ и £ — гауссовы случайные векторы, £ не зависит от ч« При этом

М£ = mi — тх = 0,

М££* = М(£-£)(£-£Г =

= М {(£ — mJ (£ — тгу — (£ — тх) (ч — та)* R^Rta —

— R12R22 (ч — та) (£ — mt)* 4- RnRaa (4 — та) (4 — та)' R^R*^* или, так как R*2 = /?2| = М (4 — т2) (£ — т^ и матрица R^ симметрична,

МК* = /?Ц — /?12/?221/?2Ь

Из формулы (10) вытекает, что условное распределение вектора £ при заданном векторе 4 является гауссовым с условным средним

М {£ 1ч} =£ = mi 4-/?12/?й‘(ч — т2)(П)

и условной корреляционной матрицей

м {(£ - &(£ - ir I Ч) = tfll - /?12/?2-2'/?21.(12)

Отметим следующее важное обстоятельство: матрица условных корреляций вектора £ при заданном 4 неслучайна и, в частности, не зависит от значения вектора ч-

Следующее утверждение очевидно, но его полезно иметь в виду.

Теорема 4. Пусть ^ (а = 1, 2, ..., г, ...)— последовательность п-мерных векторов, имеющих гауссовы распределения с параметрами (m^, RW). Последовательность распределений ректоров £<®> (ос = 1, 2, ..., г) слабо сходится (сходится в основном) к некоторому предельному распределению тогда и только тогда, когда

mw^m, RW-*R.(13)

В этом случае предельное распределение также является гауссовым с параметрами (m, R) .

Перейдем теперь к случайным функциям. Векторная s-мерная случайная функция £(0) = di(0), .... Мб)} называется гауссовой, если совместное распределение всех компонент случайных векторов

6(01), 6(02)6(0»)6(01), 6(02)6(0»)(14)(14)

6(01), 6(02)6(0»)

6(01), 6(02)6(0»)

(14)

(14)

является гауссовым.

Корреляционная матрица R совместного распределения последовательности случайных векторов (14) имеет размер sn X sn и может быть разбита на квадратные блоки размера s X s следующим образом:

'/?(e„60 R(9b е2) ... Я(еь е„у R(62. ео же2, е2) ... /?(е2, е„)

же». ео R(%, е2) ... же„, е„).

где ^(01, 02)—корреляционная матрица функции ^(0). Матрица R вещественная и неотрицательно определенная.

Очевидно и обратное предложение. А именно, каковы бы ни были вещественные вектор-функция тп(0) и неотрицательно определенная матричная функция /?(0ь 02), 0< е 0 (t = 1, 2), существует r-мерная гауссова случайная функция (в широком смысле), для которой /п(0) есть вектор математического ожидания, а /?(01,02)—корреляционная матрица.

Моменты гауссовой случайной функции могут быть получены из разложения характеристической функции. Ограничиваясь случаем центральных моментов, положим т(0) = 0. Тогда

/х -4-(Мя)

Фе|е,(«1, .... us) = в 2=

- 1 -l(Ru,u) + ^.(Ru,u)2- ... +(-1)"^-(М«)а+ ...

Отсюда для произвольной моментной функции нечетного порядка получим

т}^(0Р ..., 6$) = 0, если ^ к = 2п+1.

Для центральных моментных функций четного порядка

т<1 /, (бь • • •. б*)=—Tt-77 • 2ЙД- (Ru, of, У к=2п. (15)

”1 ••• т«*-1

Например, для моментных функций четвертого порядка имеем следующие формулы:

т, (0) - 3R2 (0, 0), mg! (0b 02) = 3R (0„ 00 R (0„ 02), /«211(01. 02, 0з) = /?(9ь 81)/? (02. 6з) + 2/?(81, 02) /?(0„ 03). /«1111 (01, 02» 03» 0<) =

= /?(01, 02) /?(0з, 80 + /? (01, 0з)/?(02, 00 + /? (01, 00/? (02, 0з).

В общем случае имеет место соотношение

т1х/,(01, ..., 00 = Z П/?(0р, 00»(16)

структура которого может быть описана следующим образом. Записываем точки 0ь ..., 0$ в последовательность, причем 0» пишем подряд jh раз. Написанную последовательность разбиваем на произвольные пары. Тогда произведение в правой части формулы (16) берется по всем парам этого разбиения, а сумма берется по всем разбиениям (пары, отличающиеся перестановкой элементов, считаются за одну). Это утверждение непосредственно вытекает из формулы (15).

То обстоятельство, что гауссовы случайные функции играют важную роль в практических задачах, часто можно объяснить следующим образом. При широких условиях сумма большого числа независимых и малых по величине случайных функций приближенно является гауссовой случайной функцией, независимо от теоретико-вероятностной природы отдельных слагаемых. Это так называемая теорема о нормальной корреляции, являющаяся многомерным обобщением центральной предельной теоремы.

Определение. Последовательность случайных функций (в широком смысле-^ g„(0), 0 е 6, п=1,2 называют

слабо сходящейся к go(9), 9 ев, если для любых s, 0, (04 г0, s = 1, 2, ...) совместное распределение серии случайных величин (|n(0i), ..., In(0s)) при п-*оо слабо сходится к распределению величин (|o(0i)|o(9s)\.

Теорема 5. Пусть дана последовательность сумм случайных функций

тп

П«(0)=2 «пН8),0е0, л=1,2

ь-\

и выполнены следующие условия;

при фиксированном п случайные величины ап\ (01), ««2(62), • •, аптп^т^ взаимно Независимы при любых 01, 62, • • • , 6тпя и обладают моментами второго порядка, причем

"1^(0) = О,Мс^(9) = ^(0);

при п-»-оо корреляционная функция /?п(0ь Ог) — = М [т]п (01)» Чп(02)] сходится к некоторому пределу

Нт /?„(0ь 62) = /?(0b 02);

П-»оо

тп

суммы г)№(0) = ^ а«й(0) при каждом 0 удовлетворяют условию Линдеберга-. при любом т > О

" 6-1 |Х|>ТВ„

где Ппк(0, х) —функция распределения случайной величины «пб(0),

в£=£ ^б(0) = /?„(0, 0).

-6-1

' Тогда случайная функция т]п (0) при п->оо слабо сходится к гауссовой случайной функции с математическим ожиданием О и корреляционной функцией ^(Оь 02).

Приведенная теорема непосредственно вытекает из центральной предельной теоремы для сумм независимых случайных векторов. При этом ее условия могут быть ослаблены.

§ 3. Процессы с независимыми приращениями

Собственно говоря, именно с изучения процессов с независимыми приращениями возникла теория случайных процессов. Сначала изучался винеровский процесс (или процесс броуновского движения), а затем и более общие процессы с независимыми приращениями. Задача состояла в полном описании этого класса процессов и в изучении его свойств.

В настоящем параграфе будут приведены примеры процессов с независимыми приращениями и найдено общее выражение для характеристических функций конечномерных распределений стохастически непрерывных процессов с независимыми приращениями.

Пусть Т—конечный отрезок Т = [0, а] или Т = [0, оо).

Определение. Случайный процесс {6(0. teT) со значениями в &а называется процессом с независимыми приращениями, если для любых п, 0 ^ t\ <. t2 <....<. tu, случайные векторы |(0), 6(0) — 6(0)6(0i) —£(0i-i) взаимно незави

симы.

Вектор 6(0) называется начальным состоянием (значением1) процесса, а его распределение — начальным распределением

процесса. Чтобы задать процесс с независимыми приращениями в широком смысле, достаточно задать начальное распределение Ро(В) = Р{|(0)еВ} и набор распределений Р(/, к, В) (/^ О, h > О, Ве^), где 3d— о-алгебра борелевских множеств ^d и Р (Л h, В)—распределение вектора ^(t-V к)—|(/), Р(/, А, В) = Р {|(Z + А)— | (0 s В\. Действительно, если эти распределения даны, то любые совместные распределения векторов |(Л), К/2), ..., |(/п) однозначно определяются формулой

р( п ШеВ») -

= $Ро№/о) $ Р(0, A, dy{) ^ Р(/ь 1г — tu dy^ ... В,Bt-y,В,— (j/o+y,)

• •• J Р(А»-1> tn — tn—\> dy^. (1) Bn-(»o+ — +»«)

Здесь В — г обозначает множество {х: х = у — г, у г В}. Что касается начального распределения Ро(В), то оно может быть произвольным. С другой стороны, нельзя гарантировать, что произвольно заданному семейству распределений Р(/, А, В) соответствует некоторый процесс с независимыми приращениями.

Чтобы последнее имело место, необходимо и достаточно, чтобы Р(/, А, В) обладало следующим свойством: при любом п и любых (t\, ..., tn), t = to < Л < ... < tn = t + к, Р(/, A, B) является распределением суммы независимых случайных векторов gi|п, где |ft имеет распределение P(4-i, h — th_b В).

Действительно, если это условие выполнено, то семейство распределений (1) удовлетворяет условиям согласованности.

Процесс с независимыми приращениями называют однородным, если распределение вектора |(/4-А)—|(/) не зависит от t, т. е. Р(/, А, В)= Р(А, В). Для однородных процессов приводимые ниже соотношения и формулы имеют более простой вид. Во многих вопросах, не умаляя общности, можно считать, что §(0)^0. В дальнейшем мы часто будем считать это предположение выполненным.

Приведем сначала несколько примеров процессов с независимыми приращениями.

Процесс броуновского движения. Так называется процесс с независимыми приращениями, для которого распределение Р (/, А, В) является гауссовым.

Как известно, если наблюдать в микроскоп с очень сильным увеличением маленькую крупинку коллоидного размера, погруженную в жидкость, то оказывается, что такая частица находится в постоянном движении и ее путь представляет собой

очень сложную ломаную линию с хаотически направленными звеньями. Это явление объясняется столкновениями молекул жидкости с коллоидной частицей. Коллоидная частица имеет относительно большие размеры ио сравнению с молекулами жидкости и испытывает в одну секунду огромное число соударений с ними. Результат каждого столкновения частицы с молекулами проследить невозможно. Видимое движение частицы называется броуновским движением. В первом приближении можно считать, что смещения частицы под влиянием столкновения с молекулами среды независимы между собою, и рассматривать броуновское движение как процесс с независимыми приращениями. Так как отдельное смещение мало, то можно предположить, что к их сумме применима центральная предельная теорема теории вероятностей, и считать броуновское движение гауссовым процессом.

Сделаем несколько замечаний о корреляционной функции процесса с независимыми приращениями, обладающего конечными моментами второго порядка.

Пусть g(0) = 0. Положим

а (0 = М5 (0,В (0 - М [5 (0 - а (01 6 (0 - a (t)]\

B(t) является симметрической неотрицательно определенной матрицей. Если s < t, то (Д5($)=5(О—£($)> Да($) = а(/)— — a(s))

R(t, з) = М[5(/)-а(/)][6($)-а« =

= В (s) + М Д| (s) (5 (s) - a (s^* = В (s), или

R V, s) = B (min (/, s)).(2)

Отметим еще, что

М (Д6 (s) - Да (s)) (Д5 (s) - Да (s))* =

= B(f) — R(t, s)-R(s, /) + B(s) = В (/) — В (s). (3)

В частности, отсюда следует, что матрица В(/)—B(s) симметрична и неотрицательно определена.

Для однородных процессов функции а(/) и В(/) удовлетворяют следующим функциональным уравнениям:

a (/i + /2) = а (/,) + а (/2),(4)

В^ + ^^ВМ + В^).(5)

Соотношение (5) является непосредственным следствием (3) и однородности процесса, а равенство (4) легко проверяется: '

а (/, + /2) = М (5 (/, + /2) - 5 (/,)) + М5 (4) = а ^ + а (у.

Если предположить, что функция а(/) ограничена, то, как известно, решения функционального уравнения (4) имеют вид a(f)=at, где а — некоторый постоянный вектор. Из неотрицательной определенности матрицы В(/) в свою очередь вытекает, что решения уравнения (5) имеют вид B^=Bt. Итак, для однородного процесса g(/) с независимыми приращениями и конечными моментами второго порядка (g(0) = 0)

Mg(0 = at, Rit, s) = Bmin(/, s).(6)

В частности, одномерный однородный процесс броуновского движения определяется двумя параметрами тио. При этом Mg(/)=m/, Dg(/) = <j2/. При m = 0, о=1 процесс броуновского движения называют винеровским процессом. В многомерном случае винеровским процессом называют однородный гауссов процесс с независимыми приращениями, для которого

g (0) = О, Mg (0 = 0,. Mg (0 g* (/) = И,

тр& I — единичная матрица.

Процесс Пуассона. Стохастически непрерывный процесс с независимыми приращениями называют процессом Пуассона, если для любых s, t > 0 (s < /) распределение величины 5(0—5(s) является пуассоновским. Пусть g(0)=0. Тогда величина g(Z) принимает целочисленные значения и P(g(/)=m} = = -™ у—e-at, причем Mg(/) = аЦУ Но тогда

Р (5 (О - g (s) = т} = [а (/) ~ "(5)Г е- г» <о-а им,т = 0,1, ...

Если процесс g(0 однороден, то в силу монотонности функции а(/)

а ^ = at и

P{5(0-5(O = /n}=-^^-e-=<^), s<t, m = 0,l, ...

В общем случае из стохастической непрерывности процесса g(0 следует непрерывность функции а (0- Действительно, так как g(/)->g(s) по вероятности при 1| s, то Meiu6W-» Mef"6(s) и характеристическая функция ф<(«) величины g(0 непрерывна по t.

С другой стороны, ф((«) = exp (tz(/) (eiu — 1)} и фДы) непрерывна тогда и только тогда, когда непрерывна функция а(/).

Безгранично делимые распределения. Распределение Q в S?d называют безгранично делимым, если для любого целого п Q является n-кратной сверткой некоторого распределения CU: о=о*л

Таким образом, если для любого целого п случайный вектор ^ допускает представление g = g«i + W + .. . + Inn, где {|па, А = 1, ..., «} — независимые одинаково распределенные случайные векторы, то распределение вектора g бегранично делимо.

Безгранично делимые распределения играют важную роль в предельных теоремах теории вероятностей и в теории случайных процессов. С одной стороны, только безгранично делимые распределения могут быть предельными распределениями сумм бесконечно малых независимых слагаемых. С другой стороны, конечномерные распределения стохастически непрерывных процессов с независимыми приращениями являются безгранично делимыми.

Найдем общий вид характеристической функции ф(ы) безгранично делимого распределения. Ее также называют безгранично делимой характеристической функцией.

Из определения следует, что для любого п найдется характеристическая функция фп(«) такая, что

ф(«) = [ф„ «•(7)

Условимся считать, что функция argф(ы) определена однозначно с помощью условий: 1) argф(0) = 0; 2) argф(и) является непрерывной функцией от и (— оо < и <. оо). В этом

1

случае можно однозначно определить In ф(ы) и [ф («)]", положив [ф(«П" = еп |пф(“\ при этом

lim п(ф„(и) — 1) = lim п \[ф («)]" — U = In Ф (м).(8)

П->ооП->оо

' Теорема 1. Пусть q>(h, и), heH,— семейство характеристических функций, Н — монотонно убывающая последовательность положительных чисел, сходящихся к 0, и предел

g(M) = lim Ф^?")-1(9)

существует равномерно в произвольной сфере | и | ^ N, N > 0. Тогда в {S?d, 83d} существуют конечная мера П(В), П{0} = 0, неотрицательно определенный оператор Ь, отображающий 91й в 91й, и вектор а такие, что

g (и) = i (о, «) — у (Ьи, и) +

+(,о>

Доказательство. Пусть QA(-)—распределение, соответствующее характеристической функции ф(й, м). Положим

n»<B)=4$T^wQ»(dz). Вг^* ' В

Ниже будет показано, что семейство мер (ПА(-), h е Н} слабо компактно. Выберем последовательность Ат ф 0 такую, что Плл слабо сходятся к некоторой мере П' на 8d. Далее,-

jH^kJ. = $ (е/ <«. г) _ 1) 1^11 ПА (dz) =

a4

»iAM~^Bk^-¥ \t{u,z)nh(dz), (11)

где

AM” $^f-nA(dz), Bh^ = J^.n»(dz),я4я4

f(u z) = (el z> - 1 - -if^^L Д-1 (“'z)2 ) ±±1^!- /w^ —Vе i i+|zp f 2 1 + |zp J I z P •

Если считать, что f(«, 0)=0, то f(u, z) будет непрерывной и ограниченной функцией. Поэтому

lim f (и, z) ПАд (dz) = ^Ци, z) П' (dz).я4я4

Так как существует предел левой части равенства (11) при h = hn, п -► оо, то существуют пределы

lim Ан (и) = а (и), lim Bhn (и) = В (и),

причем а (и) является линейной функций, а В (и)—положительно определенной квадратической формой, т. е. а (и) = («,«) и В («) = (&'«, и), где Ь' — неотрицательно определенный симметрический оператор. Переходя в соотношении (11) к пределу по последовательности hn, получим

g (и) = г (а, «) — у Vb'u, «) + $ f («, z) П' (dz).(12)

$4

Пусть П(Л)=П'(Л—{0}) ({0} — множество, состоящее из одной точки 0). В интеграле в правой части равенства (12) меру П'(-) можно заменить мерой П(-). С другой стороны, интеграл

я4

существует и представляет собой некоторую квадратическую неотрицательно определенную форму (Ь"и, и). Нетрудно заметить, что (b'u, u^'^\b"u, и). Поэтому b = Ь'— Ь" неотрицательно определенный симметрический оператор. Таким образом,

g"(«) = i (а, и) — ^ (ba, u) + $ (f («, ^) — у П7Т~) П ^- И

Перейдем к доказательству слабой компактности семейства {Пл, Не Н\. Нужно показать, что

а) ПА (^) < L; б) lim 17m Щ (^) = О,

где Kn обозначает замкнутый кубгде Kn обозначает замкнутый кубN->oo h^0

где Kn обозначает замкнутый куб

где Kn обозначает замкнутый куб

KN = ^z = ^x^Y max 12/КАТ"

а К„ = ^\Км.

Пусть |«|^^,Nt произвольно. Из условий теоремы и (11) следует, что для любого б > 0 найдется такое h0 = h0(Nv, б), что для любого с > О

- Re g (ц) + б > ( —ту^ ПЛ (dz),А < Ао,

и при с > 1

— Reg(«)4-6> J(1 — cos (ы, z)) Щ (dz).

№ (13)№ (13)Проинтегрируем эти неравенства по и е Кр и разделим на объем Кр. Получим

№ (13)

№ (13)

-(2pFd ^Reg^du +

кр

И

/ w

Reg(«)d«+6> \(1-TT-MLln^z). (14)

к»кД fe“ У

Воспользуемся тем, что s'"— ^ 1 — -^- для всех х^О и тт

1 — П (1 — afe)^ X «6 — 2 «б«/ Для всех aft е[0,1]. Получим

Полагая р2 = -^-, из (13) будем иметь

пй (К,) < 4dc2 Гб — (2p)-d Г Re §(и) dul 4h е (О, AJ. (15)

nsin pz® pzfe 6-1nsin pz® pzfe 6-1Замечая далее, чтоЗамечая далее, что. 1— ZZ^— при гедс, из нера-. 1— ZZ^— при гедс, из нера-L < J

nsin pz® pzfe 6-1

nsin pz® pzfe 6-1

Замечая далее, что

Замечая далее, что

. 1— ZZ

^— при гедс, из нера-

. 1— ZZ

^— при гедс, из нера-

венства (14) получим при pc > 1

Щ №) <^Т [6 - ^"d $ Re (“) d“]™ e (0. W- (16)

L Kp J

Таким образом, Щ(5?й) = Щ(Кс) + Пл(Кс)С L, где константа L не зависит от Л, h е(0, Ло]. Заметим теперь, что в силу условий теоремы функция g(«) непрерывна и g(0)=0. Поэтому для любого 6 > 0 можно найти такое достаточно малое

рь чтобы

(грО-4 ^ Re g (u) du < б.

4

В силу неравенства (16) при достаточно большом с Щ(ЯС)< < 26 для всех h е (0, Ло]. Компактность семейства мер (Пл, Л е е Н\ доказана. ■

Из доказанной теоремы и формулы (10) непосредственно вытекает

Теорема 2. Характеристическая функция ф(и) безгранично делимого распределения в 91й имеет следующий вид;

Ф(и) = ехр {§(«)},

где g(u) дается формулой (10).

Приведем другой вариант формулы (10). Пусть с > 0. Так как интегралы (Sc — сфера радиуса О0 с центром в начале координат)

$(«, г)П№), J-^n(dz)

SCSe

конечны, то

= J (е< (в, z) - 1 — t (ы, z)) П (dz) + J (е< <“• ®) - 1) П (dz) + i (и, а^, scse

где

а' = $zH(dz)- J -^П^г), П(Л) = J-^^n(dz).

ScscA

Если положить ac = a + a', то для g(«) получаем представление

g (и) = I (ас, и) —± (Ьи, и) +

+ $ (ei («, г) _ 1 _, (и, 2)) п (dz) + J (e< (".« - 1) П (dz).(17)

Мера П(Л), в отличие от меры П(Л), вообще говоря, уже не является конечной, но ff(Sc) <. оо для любого с>0 и П{0) = 0. С другой стороны, как это будет показано в дальнейшем, мера П(Л) имеет более непосредственный теоретико-вероятностный смысл, чем мера П(Л).

Предположим, что распределения Qh(-), соответствующие характеристическим функциям <р(А, м), обладают конечными моментами второго порядка. Вместо мер Пл(В) введем конечные меры

Gh(B) = l\\z\2Qh(dz).в

В силу условий теоремы для любых N^ > 0, б > 0 можно указать такое h0 = йо(^ь б), чтобы при h е(0, й0)

-Reg(«) + d> f-Ll^ZL^^)

для всех и, |ы|^ Ni. Поэтому можно повторить все рассуждения, приведенные при доказательстве теоремы 1, и получить слабую компактность семейства мер Gh(-). Из соотношения

»ы_L=ma(o)_|ba(m)+ J ^и, z)Gh(dz), где.

f (u, Z) = (в' <“.z> — 1 — «(«, Z) + у («, Z)2) -j^p-.

W= $ ^Gh(dz), 6^= J l^LGft(dz),

так же как при доказательстве теоремы 1, получим, что

g (и) = i (а, и) — ± (Ьи, м) + 5 Iе' (“’z) — 1 — < (“. г)] щ; G (dz), (18)

где G(-)— конечная в St4 мера и G {0} = 0.

Мы получили следующее дополнение к теореме 1.

Теорема 3. Если дополнительно к условиям теоремы 1 распределения Од() обладают конечными моментами второго порядка, то для функции g(u) имеет место представление (18).

Применим теоремы 1 и 3 к однородным стохастически непрерывным процессам с независимыми приращениями.

Теорема 4. Пусть ^(t, и)— характеристическая функция вектора |(s + 0— 1($), s ^ 0, / > 0, где £(/)— однородный стохастически непрерывный процесс с независимыми приращениями со значениями в Й4. Тогда

Ф(<, м) = ехр {/§•(«)},(19)

где g(u) дается формулой (10) (млы (17)). Если процесс 1,(1) обладает конечными моментами второго порядка, то функция g(u) представима по формуле (18).

Доказательство. Так как

| ф(/, и) - ф(s, и) |< М | ei(«. б«>-$И) - 11, то из стохастической непрерывности процесса £(/) вытекает непрерывность функции ф(/, и) по t. С другой стороны, в силу однородности процесса |(/) и независимости его приращений

ф (/i + к, и) = М exp {i (и, £ (/1 + /2) — £ W) + i (и, I (/,) — 6 (0))} = = М exp (I (и, | (/2) — 6 (0))} М ехр {/ (и, £ (/,) — 6 (0))} =

. =ф(Л, «)-ф&, и).

Но единственное непрерывное решение уравнения f(t + s) = = f(t)f(s) (/ ^ 0, s ^ 0) имеет вид Ц1) = е®1. Таким образом, т(1,и) = е*&и\ При этом g (и) = Пт ^IbSfkz-L. Отсюда, в силу

теорем 1 и 3, вытекает утверждение теоремы. ■

Укажем некоторые частные случаи формулы (19), принимая для g(u) _выражение (17).

Ь = 0, П( ) = 0.

В этом случае ф(/, и) = е**1а> и\ что соответствует характеристической функции вырожденного распределения, сосредоточенного в точке ta. Таким образом, 6(0 = 6(0) + at и точка ^,(1) находится в равномерном движении со скоростью а.

. П( )^0.

В этом случае приращение §(# + $)—g(s) имеет нормальное распределение со средним at и корреляционной матрицей bt. При g(0)=0 процесс ^t^ является гауссовым, т. е. процессом броуновского движения. _

а = 0, b = 0, мера П сосредоточена в точке Zq, |z0|< с и П {z0} = q.•

В этом случае

Ф (/, u) = exp ^qt (е1 <“•2°> — 1 — I (и, z0))}.

Легко проверить, что приращение g(/) можно записать в виде (1(0) =0)

g(O = zo(v(/) — qt).

где v(/)—однородный пуассонов процесс с параметром q, №?^=qt.__

Пусть b = 0, а мера П такова, что П (Sc) < оо. Формулу (17) можно в этом случае записать в виде

g (и) = I (а, и)+ q j (е1 <“•2) — 1) По (</ы),

где По — вероятностная мера на 3d (^ = n(5?d)). Нетрудно истолковать формулу для ф(/, и) в этом случае. Имеем

Ф (/, и) = ei »} ^ e-qt ML Г J ei („, г)По (dz)l . п-0Х-Я4J

Это выражение представляет собою характеристическую функцию суммы at + gi + ... + gv(t), где gi, ..., gn, ...—независимые и одинаково распределенные векторы в S?d с распределением По(-)»у(О— не зависящий от gi, ..., gn, ... пуассонов процесс с параметром q. Построенный таким образом процесс g(/) называют обобщенным пуассоновым процессом.

Характеристическую функцию одномерного однородного процесса с независимыми приращениями можно записать по формуле Хинчина

М^ w - exp 1t Uu + $ (>* - 1 - -^) -Ц^ dG (х)) 1,

где у — вещественное число, G — неубывающая ограниченная на (— оо, оо) функция, выражение (ez" — 1 —n^i") при х = 0 определено по непрерывности и равно — -^и2.

Для того чтобы получить представление характеристической функции произвольного стохастически непрерывного процесса с независимыми приращениями, воспользуемся следующей известной теоремой А. Я. Хинчина [2].

Теорема 5. Предположим, что распределения последовательности случайных векторов £п = £„] + Е„г + • • • + ^птп. п = = 1, 2, ..., где |„ь •••» ^Птп — независимые ^при данном п) случайные векторы, удовлетворяющие условию

lim max Р {| g„ft | > в) = 0 Ve > О, п->оо \^k^mn

слабо сходятся к некоторому пределу. Тогда предельное распределение безгранично делимо.

Доказательство в одномерном случае можно найти, например, в монографиях Б. В. Гнеденко и А. Н. Колмогорова [1] и В. В. Петрова [1]. Переход к многомерному случаю не вызывает затруднений.

Из теоремы 5 вытекает следующая формула для характеристической функции ф(/, ы) стохастически непрерывного процесса с независимыми приращениями £(/) (g(0) = 0):

Ф (/, и) = exp ^ I (а (0, и) — ^Ь (0 и, и^ +

+ $ [е-<- « - 1 - т^г] -4^ п «, *)],(20)

а характеристическая функция приращения g(/)—6(s), 0 ^, ^ s < /, может быть записана в виде

ф($, /; u) = exp(g(t, и^ — g^s, «)}.(21)

§ 4. Марковские процессы в широком смысле

В основе понятия марковского процесса лежит идея о процессах «без последействия». Представим себе систему (частицу), которая может находиться в разных состояниях. Возможные состояния системы образуют некоторое множество X, называемое фазовым пространством. Примем, что система эволюционирует во времени. Ее состояние в момент времени / обозначим через х{. Если xt г В, где В с. X, то будем говорить, что система в момент времени / находится во множестве В. Предположим, что эволюция системы имеет стохастический характер, т. е. состояние системы в момент времени t, вообще говоря, не определяется однозначно через состояния системы в моменты

времени, предшествующие s, где s < /, а является случайным и описывается определенными теоретико-вероятностными законами. Обозначим через P(s, х, /, В) вероятность события xte ^ В (з <Z t) при условии, что xs = х.

Функцию P(s, х, t. В} называют вероятностью перехода рассматриваемой системы. Под системой без последействия понимают систему, для которой вероятность попадания в момент времени / во множество В при полностью известном движении системы до момента времени s(s</) по-прежнему равна P(s, х, t, В) и, таким образом, зависит только от состояния системы в последний известный момент времени. Полная формализация этого определения будет дана в гл. VII, сейчас же будет приведено простое, но достаточное для ряда задач определение этого понятия.

Обозначим через P(s, х, и, у, t, В) условную вероятность события xt е В при гипотезах xs = х, хи = у (s < и < t). В соответствии с общими свойствами условных вероятностей имеет место равенство

P(s, х, /, В) = j P(s, х, и, у, t, B)P(s, х, и, dy\ (1) х

Для системы без последействия естественно предположить, что P(s, х, и, у, t, В) = Р(«, у, t, В). В этом случае равенство (1) принимает вид

Р (s, х, t, В) = ( Р (и, у, t, В) Р (s, х, и, dy). (2) X

' Соотношение (2) называют уравнением Колмогорова—Чепмена. Его можно положить в основу определения процесса без последействия или, как говорят чаще, марковского процесса.

Пусть {X, ®} — некоторое измеримое пространство. Функцию Р(х, В), х е X, В е Э, удовлетворяющую условиям:

Р(х, В) при фиксированном х является мерой на 9 и Р(х, Х)= 1,

при фиксированном В Р (х, В) является 8-измеримой функцией от х, будем называть стохастическим ядром.

Эта же терминология будет применяться и в несколько более общем случае, когда аргумент х функции Р(х, В) принимает значения из некоторого измеримого пространства №, So)» отличного от {X, 0}.

Пусть / — некоторый конечный или бесконечный полуинтервал (отрезок). Семейство стохастических ядер {PSf(x, ^) = = P(s, х, /, В), s<_t, ^s,t)e I X О» удовлетворяющих

уравнению Колмогорова — Чепмена (2), будем называть марковским семейством стохастических ядер.

Определение. Марковским процессом в широком смысле называется совокупность следующих объектов:

измеримого пространства {X, 8},

полуинтервала 1 (отрезка) действительной оси,

марковского семейства стохастических ядер

{Ps/(x, В), s<t, (s, neixn.

Семейство ядер Ps<(x, В) = P(s, х, t, В) называют вероятностью перехода марковского процесса, пространство {X, $8} — фазовым пространством системы, точки множества / интерпретируются как моменты времени, а величина P$t (х, В) = = p(s, х, t, В)—как условная вероятность того, что система в момент времени t окажется во множестве В, если в момент времени s она находилась в точке х фазового пространства (s < /).

В дальнейшем будем считать, что ядро Ps«(x, В) определено и при s = /. А именно естественно положить, что

Р«(^. В) = х(В, х),

где х(В, х) обозначает индикатор множества В; ^В, х) = 1, если хе В и х (В, х) = 0 при х г В.

Очевидно, что при таком определении ядра Р»(х, В) уравнение (2), в котором положено и = s или и = t, выполняется.

Операторы, порождаемые вероятностями перехода. С вероятностями перехода можно связать два семейства операторов.

Обозначим через ^' = ^(8) множество всех конечных мер на S3 и положим mts = Ttsm, где

mk(B)=$P(s, у, t, B)m(dy>, s<t, BeS. (3)

Если мера m(-)—распределение системы в момент времени s, /п(В)= Р(^еВ}, то формула (3) является «формулой полной вероятности», a mtsV^—распределение системы в момент времени t, mts^B)= Р {xf е В}. Таким образом, оператор Ти выражает распределение рассматриваемой системы в ее фазовом пространстве в момент времени / через распределение в момент времени s, s <_ t.

Очевидно, что Tt$ является оператором, отображающим Ж в Ж. Из формулы Колмогорова — Чепмена вытекает простой закон композиции операторов Tts.

Пусть s <.и <.1. Воспользовавшись уравнением (2) и возможностью изменения порядка интегрирования в кратных

интегралах, получим равенства

mts(B) =\tn (dx) ^ Р(и, у, t, В) Р ($, х, и, dy) = х х

= ^ Г( Р (s, х, и, dy) т (dx)\ Р (и, у, 1, В) = ^ mus (dy) Р (и, у, t, В).

XXX/X

Таким образом,

Т‘и = ГиТ*и$ (s < и < I).(4)

Следовательно, семейство операторов Т?$ как функция от интервала [s, fl, является определенным образом направленной мультипликативной функцией интервала. При этом под направленностью мультипликативной функции интервала следует понимать один из двух возможных порядков расположения сомножителей, отвечающих данному разбиению интервала на части.

Второе семейство операторов, которое сейчас будет введено, действует в пространстве всех ограниченных 8-измеримых функций. Обозначим его через ^(8), а совокупность всех неотрицательных функций этого пространства — через ^(8)+. Положим fst = Tstf, если

fstW=\f (у) Р(s> *> У ЙУ

Функция fst(x) имеет, очевидно, следующий теоретико-вероятностный смысл. Она равна математическому ожиданию случайной величины f(xt) при гипотезе, что в момент времени s (s < /) система была в состоянии х (xs = х). Из 8-измеримости вероятности перехода по х вытекает 8-измеримость функции f$t(x). Далее, введем в ^(8) норму || / Ц = supl/ (х) |. Очевидно, II fst II < II f II-

Таким образом, операторы Tst преобразуют ^(8) и ^(8)+ в себя. Воспользовавшись формулой Колмогорова — Чепмена и перестановкой порядка интегрирования, получим при s< < и < t

fst(x) =^f(y)P (S, X, t, у) = J f (y) j P (s, x, u, dz) P (u, z, t, dy) = = J fut (z) P (s, x, u, dz), или

Tst== Ts^Tuf(s и < fl.(5)

Таким образом, операторы Tst также образуют операторную мультипликативную (некоммутативную) функцию интервала, но

уже направленную иным образом, чем T*Sf Очевидно, Tstl = 1 и TSJ = / или Т88 = /, где / — единичный оператор.

Определение. Марковский процесс называется однородным, если / = [0, оо) и ядра Pst(x, В), как функции аргументов (s, 0, зависят только от разности t — s:

Ps< (х, В) = Р<-s (х, В) (/ > $).

Для однородных марковских процессов уравнение Колмогорова — Чепмена принимает вид

Рм + о (*> В) = 5 Р„ (X, dy) Ро (у, В), и > 0, о > 0.(6)

Семейство ядер {Р<(х, В), /23=0} также называют вероятностью перехода однородного марковского процесса.

В однородном случае операторы Tt+s, s, Ts, s+t не зависят от s и вместо двупараметрических' семейств операторов ^Ти, t>s>OV {Tst, 0<s<t) целесообразно рассматривать однопараметрические семейства (Т*, /^0), {Т/, / > 0}, определяемые с помощью формул

Пт(В)=$ Pt(x, B)m(dx),7Wto=$f(y)Pt(x, dy").

Формулы композиции (4) и (5) принимают следующий вид: Т uA-V^^TuT V)Tu+V = TuTv.

Они означают, что семейства операторов {П, / > 0}, {Л, / > 0} образуют в соответствующих пространствах полугруппу операторов.

Уравнения Колмогорова. Среди наиболее важных задач теории марковских процессов в широком смысле можно назвать следующие:

выделение наиболее важных классов (моделей) марковских процессов, обладающих специфическими свойствами, и их описание в терминах свойств вероятностей перехода;

конструктивное описание вероятностей перехода, соответствующих данному классу марковских процессов;

исследование асимптотических (предельных) свойств вероятностей перехода тех или иных классов марковских процессов.,

Разумеется, приведенные формулировки являются весьма общими и неопределенными, а намеченная программа исследований— очень широкой. В настоящем параграфе приводится лишь ряд предварительных результатов.

Первым шагом на пути классификации марковских процессов является их классификация по фазовому пространству.

С этой точки зрения простейшими марковскими процессами являются процессы с конечным или счетным числом состояний. В последнем случае, налагая на вероятности перехода некоторые аналитические ограничения, можно линеаризировать уравнения Колмогорова — Чепмена, получив из них системы обыкновенных дифференциальных уравнений (прямые и обратные дифференциальные уравнения Колмогорова), в ряде случаев и в определенном смысле полностью определяющих вероятности перехода.

В более общих фазовых пространствах можно определять классы марковских процессов в широком смысле, наделяя их вероятности перехода свойствами, отражающими интуитивные представления о характере движения системы в фазовом про» странстве. В соответствии с этой точкой зрения вводятся, например, следующие классы процессов:

Скачкообразные процессы. Они соответствуют представлениям о системе, которая, попадая в некоторую точку фазового пространства, проводит в ней случайный положительный отрезок времени, после чего скачком случайно попадает в другую точку пространства, в котором она снова проводит случайное время, и т. д.

Процессы с дискретным вмешательством случая. Эти процессы представляют собою динамическую систему, траектории которой в случайные моменты времени терпят разрывы первого рода со случайными скачками.

Диффузионные процессы. Так называют процессы в конечномерных линейных пространствах, которые на малых промежутках времени ведут себя аналогично процессу броуновского движения.

Марковские процессы в конечномерном пространстве, аппроксимируемые на малых промежутках времени произвольным процессом с независимыми приращениями.

При определении различных классов марковских процессов в широком смысле обычно исходят из уже упоминавшейся идеи линеаризации уравнения Колмогорова — Чепмена. Она состоит в том, что на вероятности перехода накладываются условия, позволяющие перейти от нелинейных уравнений (2) для вероятностей перехода к линейным уравнениям. Последние оказываются интегро-дифференциальными уравнениями, либо уравнениями в частных производных параболического типа, либо уравнениями, содержащими как частные производные первого и второго порядка, так и интегральные члены. Приведем общие соображения о способе получения этих уравнений.

Пусть / = [0, /*). Зафиксируем некоторое tel и рассмотрим класс 2) функций из ^(8), для которых при каждом

s s (0, /), х е X существует предел

hm’— Asf (х)

И

lim^-*, J(x) = f(x).

Но

В этом соотношении Л„ есть оператор, зависящий от sg е(0, 0 как от параметра, определенный на 2. Очевидно, что 2 является линейным пространством, а Л, — линейным оператором.

Положим

f (s, x) = Tstf (х),$е[0, fl.

Допустим, что Tstf^e 2. Тогда для левой производной по s функции f(s, х) имеем следующее соотношение:

= _ Пт l^^^bj^il = _ A f (s ху

водной нениюводной нениюВо многих случаях отсюда вытекает существование произ- df(s, л)

водной нению

водной нению

-^, которая, таким образом, удовлетворяет урав-

(7)(7)5U^L=-Asf(s, х),se(0, fl.

(7)

(7)

К этому уравнению, в соответствии с определением множества 2, следует еще присоединить граничное условие

lim f (s, х) = f (х).(8)

'Если %(В, x)eS, то, положив Цх) = %(В, х), получим, что f(s, х) = P(s,x,t,B) удовлетворяет уравнениям

^^51Л [Р ($, X, /, В)], S е [0, fl,lim Р (s, х, /, В) = х (В, х).

Даже в том случае, когда %(В, х)е2, класс функций 2 все же может оказаться настолько широким, чтобы значения Tttf(x) (feS?) однозначно определяли вероятности перехода Р (s, х, t. В). Это будет тогда, когда класс 2) всюду плотен в ^(83) относительно ограниченной точечной сходимости функций. При этом, если для уравнений (7), (8) имеется теорема существования и единственности решения для любой функции f е 2t то они оп-

ределяют вероятности перехода однозначно (на интервале (О, 0) и могут быть использованы для фактического определения функции P(s, х, t, В) или для изучения ее свойств.

Уравнение (7) называют первым (обратным) уравнением Колмогорова.

Аналогичные рассуждения применимы и к семейству операторов {Т<$, />з>0}.

Обозначим через ^ = 'W’^>) пространство всех конечных зарядов на 8, т. е. множество всех конечных счетно-аддитивных функций множеств на 9, а через 3)*— подмножество У, состоящее из тех зарядов q(В), для которых существуют пределы

lim Tt+h tq ^-^ = A*tq (В),

AtOп

\imTs+ltsq(B) = q(B)

для любых (t, B)e[s, /*)Х^о, где So с 5, s фиксировано.

Положим q(t, B) = T*tsq(B). Если заряд q(B) таков, что q(t, В)е®*, то существует первая производная ~^-^-^, причем

дд (/, В) = u gVA-h. в^-ду. В) = н Tt+h tq(t, B)-q(t, В) di й^о^й+о^1

так что q(t, В) удовлетворяет уравнениям

5аЫ. = А^,В),(9)

'\\mq(t, B) = q(B).(10)

tts

Если %(B, х)еЗУ\ то уравнения (9), (10) при q(B) = .= х(В, х) принимают вид

6P(s,x,t,B) = л- [р ($, ^ ^ в)^ Пп| р ($, ^ ti в^ = х ^В, х). tA(S

Уравнение (9) носит название второго (прямого) уравнения Колмогорова. О нем можно высказать соображения, аналогичные тем, которые были приведены в связи с обратными уравнениями Колмогорова."

В дальнейшем вид операторов As и At будет найден для частных классов марковских процессов.

Процессы с конечным или счетным числом состояний. Пусть X — пространство, состоящее из конечного или счетного числа точек, S—класс всех подмножеств X. Точки пространства X в этом случае будем обозначать буквами i, j, к, ... Рассмотрим

марковский процесс в широком смысле со значениями в X» Положим

Pi A8» /)=P(s, i, t, {/}).

Вероятности PiA8, 0, очевидно, определяют вероятность перехода для любого множества ВсХ,

Р (s, I, t, В) = 2 Pit (s, ty

Очевидны следующие соотношения:

Ри (s, 0 > 0, Е^ Ри ($, 0=1, Ри (s, s) = Ьц.

Пусть /(/)—произвольная функция на X. Оператор Ts6 в рассматриваемом случае действует по формуле

М) = W) = 2 Pi As, tHUV

Если tn — произвольная мера на 9 и m(j) = rn({j}), то оператор T*s определяется соотношениями

mis(i) = T*sm({j}) = 2 m^piAs, 0-i^X

Уравнение Колмогорова — Чепмена записывается в данном случае следующим образом:

Pn(s, о = ^ Pit(s> “)Рм^и» о (s<u<fy

Предыдущие соотношения можно записать короче. Предположим, что элементы пространства X каким-либо способом расположены в определенной последовательности. Пусть P(st /) обозначает матрицу с элементами piAs, t), / — вектор-столбец с элементами /(») и, аналогично, т — вектор с компонентами m(i), P*(s, t)—матрица, транспонированная к P(s, /), tn* — вектор-строка (однострочная матрица, транспонированная к матрице т, состоящей из одного столбца). Тогда

Т^ = Р(5, tA,

T*tm — m*P*(s, 0, P(s,t) — P(s, u)P(u, /)(s^M^Z).

Множество SE) состоит из всех последовательностей {/(/), / s X}, для которых предел

(ЛП(0-Ит £

fix 1

существует при любом ie X, s е (0, /) и

Пт Е Pt At — h, tAkb = tUY

НО /еХ

Здесь 6iZ = 1 при i = j и б^ = 0, если i ф Ь

Например, если для каждой пары (t, j^sXXX и se(0, fl существует конечный предел

, х ,.Р</<S — a, s) — 6,,

«и (s) = hm —1т'-,(11)

то Ф содержит все те последовательности f(/), для которых Е if О')| < ОО и при этом

(Л$Л (fl = Е «</($) f(/).(12)

Последнее замечание во многих случаях оказывается недостаточным и нуждается в усилении.

В связи с этим отметим, что если пределы (11) существуют, то

— at (s) = аи (s)< 0,az/(s)>0(i¥=j).

Из неравенства

— Pa<s — h, s) у pM(s — h, s)hh 9

где J — конечное множество индексов и ieJ, вытекает, что LW a^s^aAs),(13)

где S(i> означает сумму по всем /6A\(i}. В достаточно регулярных случаях, например,если ряд

Е

;Ь Рц ($ — h, s) h

t

сходится равномерно по h > 0 при любом s ^ О, неравенство (13) можно заменить равенством

Е(,) «</($) = «/($)•(14)

Лемма 1. Если при любых (I, j'jeXXX и s>0 пределы (11) существуют и выполняется равенство (14), то Ф содержит все ограниченные последовательности Щ.П» f^X}.

Доказательство. Заметим, что в условиях леммы ряд (12) сходится абсолютно. Не уменьшая общности, можно считать,

что sup |f(/) |^1. Рассмотрим разность

Д- Xf«■

jeX(еХ

Возьмем произвольное число е > 0 и найдем такое конечное множество J cz X, что te / и

^ ац^ = —^ам^<^.

ieX\IjeJ

Имеем теперь неравенство

l»l< Xt2^1^1^--/] + X ^“т^Ч- /е//еХ\/

Найдем такое Ло > 0, чтобы первое слагаемое в правой части последнего неравенства было < у для всех Ле (О, Ло). При этом окажется, что

+ «</($))- ^ ^и^Х1 = 1+ «</($))- ^ ^и^Х1 = 1е_2'е_2'

+ «</($))- ^ ^и^Х1 = 1

+ «</($))- ^ ^и^Х1 = 1

е_

2'

е_

2'

Таким образом, при Л е(0, Ло) |Д| < в. ■

ния пределовния пределовЧтобы получить обратные уравнения Колмогорова для рассматриваемых процессов, усилим требования существования пределов (И) несколько более сильным условием существова

ния пределов

ния пределов

(15)(15)..Р</(SP S2) — 6</ „ zx

(15)

(15)

“т XX^Z— «//(»)-

ММ*S2 S>

Заметим, что так же, как лемма 1, доказывается следующее утверждение: если в точке s для всех / пределы (15) существуют и выполнено равенство (14), то ряд

X/еХX/еХРц (sp 5г) ^у$2 — $1Рц (sp 5г) ^у$2 — $1(16)(16)

X/еХ

X/еХ

Рц (sp 5г) ^у$2 — $1

Рц (sp 5г) ^у$2 — $1

(16)

(16)

сходится равномерно по Si и s2, st < s < s2, s2 — $i < Ло.

Теорема 1. Если для любых (i, j, s)e X X ^ X(0, 0 пределы (15) существуют и удовлетворяют равенствам (14), то вероятности Pij(s, t) дифференцируемы по s, 0 < s < /, и удовлетворяют системе дифференциальных уравнений (первая

система уравнений Колмогорова)

— £рц^1 = у a<6 ^ Рм(17)

хеХ

Доказательство. Так как •

^Ри^О_ = Нт рц (sp 0 - Ри (s2- О =

®S$,4$, S1*SS2 51

'ISm V* pift (sp S2) ~~ 6ife

= .hm, AZTTTРм\8г,^ S\^S. S2^S

TO

= J1™ S [’?i^=7:L^--»l.(s )]₽«(% <) +s^s, ^s/eXL52 sJ

+ lim У atk (s) Vpm ($2, 0 — Pm (su 01 = 0

в силу ранее упомянутой равномерной сходимости ряда (16). ■ Переходя к выводу второй системы уравнений Колмогорова, ограничимся случаем конечного числа состояний (X состоит из конечного числа точек). Будем предполагать, что пределы (15) существуют. Тогда соотношения (14) автоматически выполняются..

Пусть

«П) (0 = ^ mkpkl (s, 0, t>s.

Тогда (<!<<< <2)

^<Ы1= Z ma w^Wv^ Z miW keXkeX

Таким образом, = ^mk (0 aM ^, t > s.(18)

keX

В частности,

' -^^-= J p{k(s, йамЦ[\ t>s. (19) keX

В случае конечного числа состояний уравнения (17) или (19) представляют собою систему обыкновенных линейных дифференциальных уравнений, имеющих при весьма широких

предположениях о функции akj(s) единственное решение, удовлетворяющее начальным условиям Phj(s, s) = 6а,. Таким образом, в этом случае каждая из систем уравнений Колмогорова однозначно определяет вероятности перехода.

Скачкообразные процессы в широком смысле. Можно ожидать, что в достаточно регулярных случаях марковский процесс со счетным числом состояний является моделью процесса следующего рода: в течение некоторого случайного промежутка времени движущаяся точка находится в начальном состоянии, после чего с определенными вероятностями переходит в новое состояние, где она проводит случайный промежуток времени, после которого переходит в другое состояние, и т. д. Подобного рода процессы можно рассматривать и в произвольном фазовом пространстве. Их называют скачкообразными марковскими процессами.

Рассмотрим марковский процесс в широком смысле в фазовом пространстве {X, 8} с вероятностью перехода P(s, х, t, В), s <_ t, (s.t^elx I. Будем считать, что о-алгебра 83 содержит одноточечные подмножества X.

Определение. Марковский процесс в широком смысле называется скачкообразным, если для произвольных (8,х,В)г е I X X X S3 существует предел

lim Р ^fl"х (®’-х - = a (з, х, В)(20)

и при фиксированных (s, х) a(s, х, В) являются конечным зарядом на 83.

Скачкообразный марковский процесс в широком смысле будем называть регулярным, если сходимость в формуле (20)’ равномерна по (з, х, В)е[0, /] X X X 8 и функция a(s, х, В)' при фиксированных (х, В) непрерывна по s е [0, /] равномерно относительно (х, В), где t— любое число из I.

Отметим, что функция a(s, х, В) обладает следующими свойствами:

a(s, х, X) = 0,

а (з, х, В) = lim Р ^* -•-’—1 ^ о, если х е В, t*s t — s

a (s, х, {х}) = — a (s, х, X \ {х}) = lim ^СЬ_^А^1к=_1 ^ о, где (x) — множество, состоящее из одной точки х. Эти соотношения можно объединить в одной формуле, положив

a (s, х, В) = — а (з, х) % (В, х) + а (з, х, В), где

а (s, х) = — a (з, х, {х}), а (з, х, В) = а (з, х, В \ {х}),

причем a(s, х, В) является конечной мерой на 9 и a(s, х, (х}) = = 0.

Для регулярного скачкообразного процесса то обстоятельство, что a(s, х, В) является конечным зарядом на S3, вытекает из требования равномерной сходимости в соотношении (20).

Действительно, из определения функции a(s, х, В) непосредственно следует, что она является неотрицательной аддитивной функцией множеств на 8. Пусть теперь Вп с Вп+Ь Вп е 3, В = J Вп и х s В. Тогда п-1.

a(s, х, В) = lim-^-^-^ = lim lim ^J^AJl^

= lim lim ^ {% ^j-= lim a (s, x, Bn\

П-»оо t-VS 1 SП-»оо

причем изменение порядка предельного перехода возможна в силу предполагаемой равномерной сходимости относительно Ве8 в соотношении (20). Таким образом, счетная аддитивность функции a^s, х, В) доказана.

Отметим еще следующее свойство регулярного скачкообразного процесса: для каждого tel найдется такая постоянная К, что

| a(з, х, В^\<_К для всех (з, х, В) е[0, /] X X X23.

В оставшейся части настоящего пункта рассматриваются только регулярные скачкообразные процессы в широком смысле. Положим,

| _«(А х^В). Q ^ ^ > о П(/, х, В) = <Р Х ’

[ %(В, х) при а(/, х) = 0.

При фиксированных (/, х) П(/, х, В) является вероятностной мерой на 8. Легко указать для нее теоретико-вероятностную интерпретацию. Из (20) следует

Р (/, х, t + Ы, {х}) = 1 — (a (t, х) + е) Ы, где в-*0 при Д/—*0. Таким образом, с точностью до бесконечно малых высшего порядка малости a(t, х^М есть вероятность того, что движущаяся точка, находящаяся в момент времени t в состоянии х, в момент времени / + Д/ уже не будет в нем. Далее, при а(/, х) ф 0

тт // у д\ нт Р (^ х, / + ДА В \ {х}) П (t, х, В) - hmQ р ((, Х(, + д<> х х {х}) .

так что П(/, х, В) можно рассматривать как условную вероятность системе, находящейся в момент времени / в состоянии х

и в этот же момент времени покидающей это состояние, оказаться в результате скачка во множестве В. Эта интерпретация функции П(/, х, В) будет доказана в дальнейшем (см. § 1 гл. VII).

Соотношение (20) можно переписать в виде

Р (s, х, t, В) = (1 — a (s, х)) (/ — $)% (В, х) +

+ (a (s, х, B) + r (s, х, /, В)) (/ — s), (21)

где r(s, х, t, В)—некоторая функция, равномерно по (s, х, В), s е [0, Л» стремящаяся к 0 при t| s.

Из последнего соотношения, в частности, следует, что для ■любого ml

| Р (5, х, t, В) - % (В, х) | <Kt(.t - s),(22)

где Ki — некоторая постоянная, не зависящая от (s, х, I, В) е е [0, ы] X X [0, и] X е.

Перейдем к выводу уравнений Колмогорова для скачкообразных процессов. Начнем с вывода второго уравнения.

Пусть s фиксировано, t "> s, т — произвольная вероятностная мера на 53 и mt(В) — T*lsm(В), где ^ — оператор, введенный ранее. Если t2"> tx "> s, то

mt, (В) — mtl (В) = J mt. (dx) [P (/b x, 4, B) — % (B, x)],x

откуда, в силу неравенства (22),

sup | mt2 (В) — mt. (В) | < Kx (t2 — /,).В

Далее, из (21) следует, что

mt, (В)—mt, (В) = (/2—Л) ^ Iй (^» *, В) 4- г (/ь х, /2, В)] mt, (dx). (23) х

Пусть теперь /2 ^» Л t Тогда

sup<*. в) Isup<*. в) Iхх^1«^—^d£l _ ( a (t, х. В) mt (dx) < sup | г(/ь х, /2, В) | + ?2 — ‘1J(Х,Д)

sup

<*. в) I

sup

<*. в) I

х

х

<Х,<Х,+ sup \ [а (/ь х, В) — a (t, х, В)] mt. (dx) +(х, В) J

<Х,

<Х,

4- sup (*,в)4- sup (*,в)a (t, х, В) [mt. (dx) — mt (dx)] ^

4- sup (*,в)

4- sup (*,в)

«^ 4-62 4-Д'sup | m#, (B) — mt (B) |, В

где

^ = sup |r (Zb х, f2, В) |-*0 при tx\t,tAt, (х,В)

82= sup I «(<!, X, В) — Й(/, X, В)|->0 при f|ft. '(х, В)

Из (23) вытекает также, что sup | mtl (В) — mt (В) | -► 0 при ^ft в

Таким образом, доказана следующая теорема.

Теорема 2. Функции Т^т(В) аргумента t в случае регулярного скачкообразного процесса при t>s дифференцируемы, и

■^-лХт,(24)

где

Х$пг^ = \а^, у, B)m(dy) = -^alt,y)m<dy)-\- \a(t,y,B)m(dy). хвх

Формулу (24) можно записать еще следующим образом;

—^- = — $ с (/, у) mt (dy) + ^ а (Л у, В) mt (dy).(25)

вх

Положив т(В)= %(В, х), получим т<(В) = P(s, х, /, В), в из теоремы 2 вытекает следующее

Следствие. Вероятности перехода р(s, х, t, В) регулярного скачкообразного процесса дифференцируемы по t при t > > S, и

дР (s, х, t, В) dt "

= — ^ а (/, у) Р (s, х, t, dy) + ^ a (t, у, В) Р (s, х, t, dy). (26) вх

Из соотношения (20) вытекает следующее начальное условие для дифференциальных уравнений (25) и (26):

lim mt (В) = ш (В), lim Р (s, х,/, В) = %(В, х).(27)

Если уравнение (26) при соответствующем начальном условии имеет единственное решение, то, решая это уравнение, найдем вероятности перехода рассматриваемого процесса.

Перейдем к выводу первого уравнения Колмогорова. Пусть / фиксировано, f (х) е ^ (8), II f II = sup | f (х) | и

"X

fe (х) = Tstf (х) = J f (у) Р (s, х, t, dy), s<t.

X

Положим st < s < s2 <t. Тогда

fS2to-fS1to= J[fs,to-f,,to]P(Sp X, s2, dy) =

= (s2 - S1) J [f$2 to - L, to] (a (SP x, dy) + r(sp x, s2, dy^.

Из этого соотношения следует, что

sup I fS1 to — fSl to I < 21| f || (s2 - s.) | [K + 2 sup I r (s,, x, s2, B) | ].

Далее, учитывая, что a(s, x, Z) = 0, получим неравенство

LW-fs.W I f , , x-z .JI/

I77^+ J f» to a to X, dy) | <

<|$[fsto-fs,to]dto <to| +

+1 j fs, (У) [a to x, dy) — d to, x, dy)] J +

+ |J[^to-^to]r(Sp x, s2, ^)|.(28)

Правая часть неравенства в силу (28) не превосходит

2II f II (s2 — s) [К + 2 sup | г (sb x, s2, В) |] + (x, fl)

4-1| f || 2 sup | a (s, x, В) — a (sb x, B) | + 21| f || • 2 sup | r (sb x, s2, B) |. (X, fl)(X, fl)

Из предположения регулярности скачкообразного процесса следует, что полученное выражение стремится к 0 при s1 f s, s2 | «• Тем самым доказана

Теорема 3. Для регулярного скачкообразного в широком смысле процесса функция fs(x)= Tstf(x), s <_ t, дифференцируема no s (равномерно no x), удовлетворяет уравнению

■^^ = - $ to «(s. x, dy) =

= a (s, x) [fs (x) — J fs (у)n to x, dy)], s < t, (29) и граничному условию

limfs(x) = f(x).(30)

Уравнение (29) является первым уравнением Колмогорова для регулярных скачкообразных процессов, а оператор Ае, введенный ранее, в данном случае имеет вид

Asf (х) = а (s, х) [— f (х) + J / (у) П (s, х, dy)].

Следствие. Вероятности перехода P(s, х, t, В) регулярного скачкообразного процесса дифференцируемы по s, s< t, удовлетворяют уравнению дР (s, х, t, В).

ds

= a (s, х) [₽ (s, х, t, В) — ^ Р (s, у, t, В) П (s, х, dy^ (31) и граничному условию

limP(s, х, t, В) = х(В. -*)•

Покажем теперь, что при определенных условиях функции a(t, х) и a(t, х, В) однозначно определяют регулярный скачкообразный марковский процесс в широком смысле. Речь идет в первую очередь о решении уравнений (26) или (29) при соответствующих граничных условиях.

Пусть / = [0, /*). В соответствии с требованиями регулярности скачкообразного процесса наложим на функции a(t, х) и а(/, х, В) следующие условия:

при фиксированных (t, x^elXX функция a^t, х, В) является мерой на 8, a^t, х, {х}) = 0 и а(/, х) = a(t, х, X);

при фиксированных (х, В) функция a(t, х, В), t^I, непрерывна по t равномерно по (х, В), а при фиксированных |(/, В) она ©-измерима, как функция от х.

Введем пространство Ж = Ж (©) всех конечных вполне аддитивных функций (конечных зарядов) о,(В), заданных на измеримом пространстве {X, ©}. В >® определим расстояние р(а>ь ^г) с помощью соотношения

Р (^1, ^г) = II ^ i (В) — w2 (В) ||,»< е Т,

где

|| w (В) || = sup (| w (В) I, В е 23).

Нетрудно убедиться, что Ж7 является полным линейным нормированным пространством. Будем понимать уравнения (25) и (27) как уравнения в пространстве W и соответственно интерпретировать понятие производной в левой части равенства (25).

Введем еще пространство ^^[s, t*) непрерывных функций & = wt = wt(B), / е [s, /*], со значениями в Ж и нормой ■HI й HI = шах {|| wt II, t е [s, Г]}.

Теорема 4. Если функция a(t, х, В) удовлетворяет условиям а) и б), то система уравнений (25) и (27) имеет в fa* единственное решение. Это решение является мерой, если т(В) является мерой.

Доказательство. Заметим, что из условия б) вытекает, что функция a^t, х) равномерно ограничена по (/, х), ау, х)^'

^ К < со. Введем функцию qt (В) в ^[s, /*], положив

At (В)At (В)о(0, x)d0о(0, x)d0Если функция mt дифференцируема в Ж, то таковой же будет и qt, и обратно, причемЕсли функция mt дифференцируема в Ж, то таковой же будет и qt, и обратно, причемdqt (В) _ Г dt J Вdqt (В) _ Г dt J ВttSCdm*exp \ а (0, х) d^ —^ (dx).SCdm*exp \ а (0, х) d^ —^ (dx).ввSSmt (dx).

At (В)

At (В)

о(0, x)d0

о(0, x)d0

Если функция mt дифференцируема в Ж, то таковой же будет и qt, и обратно, причем

Если функция mt дифференцируема в Ж, то таковой же будет и qt, и обратно, причем

dqt (В) _ Г dt J В

dqt (В) _ Г dt J В

t

t

SCdm*

exp \ а (0, х) d^ —^ (dx).

SCdm*

exp \ а (0, х) d^ —^ (dx).

в

в

S

S

dm.

Подставляя в эту формулу вместо -^- выражение из уравнения (25), получим'

^Г" = J J exp { J [а (0, х) — а (0, у)] d0 } а (/, у, dx) qt (dy) = В X

— J И» у, B)qt(dy\ х

где

b(t, у, B)= ( exps ( [а (0, х) — а(0, y)]d0 г а (f, у, dx).в*

Таким образом, уравнения (25), (27) эквивалентны уравнению

q, (В) = т (В) + $ \b (0, у, В) q6 (dy) d0, t e [s, Л, (32) s X

где b^t, у, В) равномерно ограничена, b(t, у, B)^Ki и, как функция от В, является мерой. Оператор Q* в ^,*‘, определяемый равенством

W (B) = m(B)+\\b (0, у. В) w» (dy) dS,

s X

удовлетворяет соотношениям

|| №)( - №% II < 2К1 (t - s) III &' - Й)" л,

|| <Q*nxb'\ - №п^ IKOT"-Ц^-1| ^' - Й)" ||,

где Q*n обозначает n-ю степень оператора Q*. Таким образом, некоторая степень оператора Q* является сжимающим оператором и, в силу принципа сжатых отображений, уравнение (32) имеет в ‘g’^ единственное решение. Это решение может быть получено с помощью метода последовательных приближений,

и поэтому, если т^В) является мерой, то таковой будет и qtkBY И

Аналогично можно рассмотреть уравнение (29). Подстановка

t)

f$(x) = expf$(x) = exp— J а(9, x)d9 ?gs(x)S'

f$(x) = exp

f$(x) = exp

приводит уравнение (29) к эквивалентному, несколько более

простому уравнению

a(s, х, dy),a(s, х, dy),•^^ = — J 8$ {У} ехр! ( [а (9, х) — а (9, у)] dO X( s

a(s, х, dy),

a(s, х, dy),

(s < /) с граничным условием gt(x) = f(x). В свою очередь это уравнение эквивалентно уравнению

gsW = Hx)"V

+ 55 g0 (у) exp I 5 la (9» х) — a (9, у)] dO 1 a (о, х, dy) dv. (33) s Xи'

' Введем пространство ^® (S) [0, /] непрерывных функций f = = fs = fs(x) аргумента s со значениями в ^(8) и с нормой infill = SUP il^W I» (s« х)®1°» flXfl. Линейный оператор Q в Ф**>[0, /], определяемый формулой

" =f^+5 S^-p IS s XI о" =f^+5 S^-p IS s XI оа (9, у)] dO f а (о, х, dy) dv.а (9, у)] dO f а (о, х, dy) dv.

" =f^+5 S^-p IS s XI о

" =f^+5 S^-p IS s XI о

а (9, у)] dO f а (о, х, dy) dv.

а (9, у)] dO f а (о, х, dy) dv.

отображает множество неотрицательных функций пространства ^(*>[0, /] в себя, причем

II ЮП - WYII < ^ а - s) «IГ - Г III.

II «т - kW. II <^Ц^ Ш 6' - §" III •

где Кг = KeKt. Таким образом, некоторая степень оператора Q является сжимающим оператором и уравнение (33), а вместе с ним и уравнение (29) при граничном условии (30) имеют в ^<®>[0, Z] единственное решение.

Теорема 5. Если функция a(t, х, В) удовлетворяет условиям а) и б), то уравнение (29)—(30) имеют единственное решение. В частности, в рассматриваемом случае вероятности перехода соответствующего процесса определяются функцией a(t, х, В) однозначно.

Замечание. Решение уравнения (33) может быть получено методом последовательных приближений. В соответствии с этим решение уравнений (29) — (30) можно представить в виде

п-0 где

f(o} (х) = ехр | — J а (0, х) d0 г f (х),

f^+0(*)= t /^(^exps — ( а(0, x)d0 ?а(р, х, dy)dv.

В частности, для вероятностей перехода Р (s, х, t. В) получаем следующие выражения:

Р (s, х, t, В) = 2 Р(л> (s, х, t. В),(34)

п-0

где

Р(о) (s, х, /, 6) = exp j — J а (0, х) d0 ? % (В, х),(35)

Р("+1)(э, х, Z, В) = /ГVч

=$ S р<п) ^ У' ^ ^ ехр ।—$ ° сз»x) ^® г ° с°»х» ^) ^°* (36) s X(s'

Функции P<”)(s, х, t, В) имеют простую теоретико-вероятностную интерпретацию. Она будет приведена в § 2 гл. VII, где будет также показано, как по заданной функции a(s, х, В) можно построить марковский процесс при условиях более широких, чем рассматриваемые здесь.

Полученные результаты могут быть применены к процессам со счетным числом состояний. В этом случае пространство X состоит из счетного числа точек и достаточно рассматривать вероятности перехода в одноточечные множества. Пусть Pa(s, /)= P(s, i, t/tA), i, j e X. Вместо функции a(s, x, B\ рассмотрим функцию a(s, t, /):

a (s, i, /) = Hm "' i hсовпадающую с ранее введенной функцией «^(s). Условия а)’и б) для нее принимают следующий вид: а) a (t,i)— S аЦ,1Л\где a (s, Z) = lim (1 — рн (s, Z))(Z —s)~; 6) a(Z, Z, /) непре-t^S

рывны по t на [0, f] равномерно относительно (i, /). Если эти условия выполнены, то первое и второе уравнения Колмогорова для марковских процессов со счетным числом состояний имеют единственные решения, которые могут быть получены по ранее указанным формулам. Например,

Ри^, 0= Lp^^s, 0.n—О

где

( *

р^ (s> 0 = ехр 1 ~' $ °< (0) ^ f ^ih

*/ ОЧ

Р$+» (S, 0 = $ 2 Р$ ^* ^ еХР | ~ $ Ot ^ d9 | Qifc (°) d°’s keXs'*

n = 0, 1, 2, ...

Процессы с независимыми приращениями. Эти процессы являются частным случаем марковских процессов. Пусть X —- векторное метрическое пространство, 8 — а-алгебра борелевских множеств X. Через В 4- х (В с X, х е X) обозначим параллельный сдвиг множества В на вектор х: В 4- х {у: y=z + х, г г В}.

Рассмотрим семейство вероятностных мер Pst(-) на 59 (s > 0, t ■> s), удовлетворяющих следующим условиям:

P$t(B — х) является ©-измеримой функцией от х при любом В г 59;

если s <. и <. t, то

Р^ (В) = J Р«# (В - у) Р$„ Цу\(37)

х

Нетрудно проверить, что для произвольной ограниченной ©-измеримой функции f(x) имеет место равенство

J f (* + у) Ps( (dy) = J f (у) Р4< (dy — х) XX

(для индикаторов ©-измеримых множеств оно тривиально)". Поэтому из (37) следует

■Рst ^ х) = PHt (В у) Р$и {dy х).

х

Следовательно, если положить Р (s, х, t, В) = ps( (В — х), то функция P(s, х, t. В) будет вероятностью перехода. Она обладает пространственной однородностью. Это означает, что

Р ($, х + у, t, В + у) = Р ($, х, t. В)

для всех уеХ. Обратно, если вероятности перехода обладают этим свойством, то P(s, х, t, В) = Pst(B— х).

Зададим на {X, 8} произвольную вероятностную меру и рассмотрим семейство распределений {₽< о«.< ■■■ <<-

/1=1,2,...}, где р<tnw есть распределение на (X”, 83”}, определяемое формулой (В<"> е 83")

Р/р.... tn (В<">) = И J Р (0, хо, tX1 dxi) Р (<„ xb /2, dx^ ...

X lB(n)

• • • Р ^n~h Хп—b ^п» ^п)^ Я (.dxo).

Нетрудно проверить, что введенное семейство распределений определяет процесс с независимыми приращениями.

В § 3 была полностью выяснена структура семейства мер Р$ь удовлетворяющих равенству (37), в случае, когда пространство X конечномерно (X = ^d), а процесс с независимыми приращениями стохастически непрерывен и однороден во времени (т. е. Ря(В)= Pts(B)). При этих предположениях характеристическую функцию <р(/, м) распределения Pt (В) можно представить в виде,

Ф (/, и) — ^ е‘ <“• ^P# (dx) = exp Л f t (a, u) — ± (bu, a) +

я*X I

^/...г,-!--^]!^^)}}, (38) где a e 3?d, b — некоторое линейное неотрицательное определенное симметрическое отображение № в ^d, П — конечная мера на 83 и П {0} = 0.

Положим

fsW = ^ f (У) р(«» х» ^ ^У) — $ f (х + у) Р^ (dy), s<t.

Очевидно, что если f(x)—дважды непрерывно дифференцируемая функция, ограниченная вместе со своими частными производными первого и второго порядка, то этими же свойствами обладает функция /«(х). Имеем

fs-6(z)-fs(x)= J vUx + z^-Mx^^Ps-Mtidz^

НА,, Vf$(x)) — у (BAV, Vf,(x)) + J[f(x + z)-f(x)~

(z.V)fHx) . 1 (Z, Vfs(x))2-| I+l?l2 ,, ,.X l + |zp "^ 2 1+lzp J IzH uhV°6h

где мера ПА (dz) определяется из (10) § 3 и (a, V)f$(x) =

Л = $ -^к^п1№), 51= J k^i»ln„(&).

Из результатов § 3 (см. доказательство теоремы 3) следует, dfs (я) что существует производная ■ ^т^» удовлетворяющая уравнению

^^-(а, V)fs(x)-y(W,

+ $ [b (х+2) - h (X) - <*» g j;^ ] -Ш211П (dz), (39) где

d

0V, V)f$(x) = £ bM^^-.

ft, 1-1* 1

Последнее уравнение может быть преобразовано к виду (см. формулу (17) § 3)

-^- = (а, V)fsW + |(&V, V)f,(x) +

+ J [f,(x + z)-f,(x)]n(dz) +

+ $ lf$ <x + z) - f. (x) - (z, V) f, (x)] П (dz), (40)

где Se — сфера в $d с центром в начале координат радиуса с, мера П теперь не обязательно конечна, но по-прежнему П {0} = = 0 и

^|zpn(dz)<oo, n^XS^X оо.

Слабо дифференцируемые марковские процессы в широком смысле. При изучении марковских процессов в конечномерном пространстве 91й представляется естественным рассмотреть класс процессов, имеющих такую же локальную структуру, что и процессы с независимыми приращениями. Можно дать следую* щее определение процессов подобного рода.

Введем характеристическую функцию распределения P(s,x, t, В)-..

ф($, х, t,u) = e^^Pto х, t, dy), s <t, ф(а, x, s, «) = 1.

Назовем марковский процесс в широком смысле слабо дифференцируемым, если функция ф(з, х, I, «) дифференцируема по s в точке s = t равномерно в конечной области изменения и, т. е. если предел-

,,х v I ^8, X, t, и) — 1

g(t, х, и) = hm > * ' ' s*t 15

существует равномерно по и при |«|^Af, где N произвольно, для всех х е 91й, t е (0, /*).

Из результатов теоремы 1 § 3 следует, что если марковский процесс слабо дифференцируем, то существует вектор a(s, х), a (s, х) е 91й, неотрицательно определенное симметрическое отображение b^s, х)е 91й в 91й и мера qy, х, В) на 53 такие, что для произвольной дважды непрерывно дифференцируемой функции f(x), х е 91й, ограниченной вместе со своими частными производными первого и второго порядка, имеет место равенство

АЛ to = Нт—

= (a(s,xy^tto + у (6 to х)V, V)f (х) +

+ J [f(x + z) — f (x)l^to X, az) + ^xs

+ J [f (X + 2) - f to - (2, V) f to] q (S, X, dz), (41) s

причем q (s, x, {0}) — 0, q (s, x, ^ \ S) < oo и

^|z|2^(s, x, dz) < oo. s

В частности, если q(s, x)=q(s, x, $d)< oo, то предыдущую формулу можно записать в виде

Ast to=(a (s, х), V) f to + у (6 (S, х) V, V) f to -

— L(s, x)f(x)— 5 Hx-V-z)q(s, x, dz)1. (42)

L9CdJ

Если a(s, х)ввО, b(s, х)=0, то соответствующий марковский процесс является, как следует из предыдущего, скачкообразным процессом.

В общем случае соотношение (41) можно интерпретировать следующим образом. Обозначим через 5(0 состояние системы, характеризуемой рассматриваемым марковским процессом. Допустим, что ^(s)=x. Тогда A5(s) = 5(s + As) — х с точностью до бесконечно малых высшего порядка можно представить в виде A5(s) = A5i + Д5з + А5з, где A5i соответствует неслучайной составляющей смещения A5(s) и может быть представлено в виде A5i = a(s, x)As, Ag2 соответствует смещению винеровского процесса с дисперсионной матрицей b(s, x)As, а А5з равно 0 с вероятностью 1 —^(s, x)As, а с вероятностью q(s, х) совпадает со случайным вектором, имеющим распределение •^^Т^р" • При этом Д5г и Д5з независимы.

Если в формуле (41) q(s, х, В)=0, то соответствующий марковский процесс называется диффузионным. В этом случае главная часть смещения A5(s) состоит из неслучайного слагаемого a(s, 5s) As (вектора переноса) и из флуктуационного члена, имеющего d-мерное гауссово распределение со средним значением 0 и корреляционной матрицей b(s, 5s) As.

Диффузионные процессы играют важную роль в теории и в применениях марковских процессов и подробнее рассматриваются в гл. VIII. Здесь же ограничимся тем, что приведем несколько иное определение диффузионного процесса и уточним для него вывод дифференциальных уравнений Колмогорова.

Определение. Марковский процесс в широком смысле называется диффузионным, если выполняются следующие условия-. ,

для произвольного x^9ld, е>0 равномерно по t <. s

Р (s, х, t, SM = o(t — s), (43) где Se (x) — дополнение к сфере St (x) радиуса e с центром в точке x;

существует такая функция a(s, х) со значениями в %d и линейный симметрический неотрицательно определенный оператор b (s, х), отображающий № в № ((s, х) е [0, /*] X ^0» что для произвольного хеХ и е 2> 0 равномерно по s,s < t,

J (у — х) Р (s, х, t, dy) = a (s, x) (t — s) + о (t — s), (44) Se(x)

( (z, у — x)2 P (s, x, t, dy) = V> (s, x) z, z) (/ — s) + о (/ — e). (45)

Вектор a(s, х) называется вектором переноса, а оператор b(s, х)— оператором диффузии марковского процесса.

Выберем в St4 некоторый базис и обозначим через аДз, х), i = 1, ..., tn, компоненты вектора a(s, х), а через b^s, х), I, / = 1, ..., пг, элементы матрицы оператора b(s, х) в этом базисе.

Теорема 6. Если функции a^s, х), b^s, х) непрерывны, a f(x) непрерывна, ограничена и такова, что функция

u(s, х) = ( / (у) Р (s, х, t, dy)

du (s, x) d2u (s, x) e имеет непрерывные частные производные —~—-, ■"

ОХ^OXj

то и (s, х) имеет производную ^-, удовлетворяет уравнению

_ ди^А = (в (5> xY ^ц8, X) + у (6 (S, х) V, V) и (s, х) (46)

и граничному условию

Пт и (s, х) = f (х).(47)

S t

Доказательство. Пусть $i < s ^ s2 < t. Так как функция u^s, х) ограничена, то

n(sb х) — и ($2, х) =[«($2, у) — u(s2, x)]P(s„ х, s2, dy) =

я4

= J [«(s2, y) — U (s2, X)] P (s„ X, S2, dy) + o8 (s2 — sj, Sg(x)

где °в(»2 —»i) ^q При любом фиксированном e > 0. Из фор- мулы Тейлора вытекает, что

и ($2, у) — и (s2, х) =

= (у — х, V) u (s2, х) + у (у — х, V)2 и (s2, х) + г (х, у, s2),

причем при у г Se (х) | г (х, у, s2) К | у — х |2 ®8, где

„ _ с11П I д2и (s2, х + 0 (у — х)) д2и (s2, х) | п

8/, /, s2, yeS8(x) IdXjdXjdxtdXj [

при в-*0. Отсюда следует равенство u(sb х) —u(s2, х) =

='[(« (,sa, х), V) и (s2, х) + у (6 ($2, х) V, V)«(s2, х) + ^'] (s2 — Si), (48)

где lim Нт R'=0. Разделив полученное соотношение на s2—Su 8->0 St-S^o

перейдя к пределу при sa | s, Si f s и учитывая непрерывность первых трех слагаемых в правой части формулы (48) по $2, получим уравнение (46).

Граничное условие (47) вытекает из равенства

«($, х) —f(x) = J If (у) — / (^)] Р (s, х, t, dy) + oe(t — s),

Sgto

в котором e > 0 — произвольно малое число, и из непрерывности f(x). ■

Допустим теперь, что существует плотность вероятностей перехода, т. е. такая функция p(s, х, t, у), что для любого бо- релевского множества В

Р (з, х, t, В) = J р (з, х, t, у) dy,в

где интегрирование производится по лебеговой мере в Я4. Уравнение Колмогорова — Чепмена в этом случае можно записать в виде

p(s, х, t, у)= ^ p(s, х, и, z)p(u, z, t, y)dz, s<u<t. (49)

Если p(s, x, t, у), как функция от (/, у), достаточно гладкая, то она удовлетворяет второму уравнению Колмогорова, носящему еще название уравнения Фоккера — Планка.

Теорема 7. Если соотношения (43), (44), (45) выполняются равномерно по х и существуют непрерывные производ-

др (s, х, /, у) д (а, (/, у) р (s, х, t. у)) д2 (Ь,. у. у^ р (s, х, t, у)) atдх{дх{ dXj

то функция p(s, х, t, у) при (t, y)^(s, t*YX&a удовлетворяет уравнению др (s, х, t, у) dt —

= —(V, a(t, y^p^s, x, t, y)) + y(V, V6(f, y)p(s, x, t, y)). (50)

Доказательство. Пусть g(x)—произвольная дважды непрерывно дифференцируемая функция, обращающаяся в 0 вне некоторого компакта. Так же как и при доказательстве предыдущей теоремы, можно убедиться, что равномерно по х

Используя условия теоремы и последнее равенство, получим 4t $P(S> х» у)8^у)4У =

= lim leL \ Ip Is» х* ^ у^ — р ($, х> ^> у)] g (у) dy =

= lim \p(s, х, t,, уНр^ \ p^.y.^.z)^)^—g(y)ltZy ==

= Jp(s, x, t, y)[(a(t, y), V)g(y) + l(6(t, y)V, V)g(y)]dy. Интегрируя последнее выражение по частям, найдем, что $-^P(s» х» *• У)е(у) dy — — ^[(V, p(s, х, t, y)a\t, у))+

+ y(v. W5- x’ ^ vW y))]s(y)^y.

Учитывая произвольность функции ^(y), из последнего равенства получим уравнение (50). ■

Замечание. Если марковский процесс g(t) удовлетворяет условиям

(у — х) Р (s, х, t, dy) = a(s, x)(t — s) + o(t — s),(51)

»d

(z, у — x)2 P (s, x, t, dy) ~(b(s, x) z, z) (/ — s) + о (/ — s) (52) si4

и для некоторого б > 0

5 | у - X г6 Р (s, х, t, dy) = о (At),(53)

$,d

то он является диффузионным. Действительно,

P (s, x, t, Se (x)) < -^5 ( | у — X |2+6 P (s, x, t, dy),

(у — x) P (s, x, t, dy) = a (s, x) (/ — s) + о (t —■ s) —

— J (y — x)P(s, x, t, dy),

Se<*>

J (г, у — х)2 Р (s, х, t, dy) = se«)

= (6(s,x)z, z)(/-s) + o(/-s)- J (z, y —x)2P(s,x,/, dp),

Se(x)

причем при a < 2 + d

J I у — x Г P (s, x, t, dy) <-e2V<j2a $ IУ — *12+6 P (s. x, t, dy). 38ws8m

Таким образом, при любом фиксированном в > 0 условия (43)—(45) выполняются и процесс ^(0 — диффузионный.

Процессы, стационарные в широком смысле

Важный класс случайных процессов образуют стационарные процессы. Так называют процессы, теоретико-вероятностные характеристики которых не меняются со временем. Можно еще сказать, что стационарные процессы — это процессы, протекающие в не изменяющихся во времени условиях. Более точно это означает следующее. Пусть Т — конечный или бесконечный отрезок времени.

Определение. Случайный процесс (в широком смысле) £(/), teT, со значениями в ^4 называют стационарным, если для любого п и любых tx, t2< ..., tu таких, что t 4-theT (6 = = 1, .... п), совместное распределение случайных векторов

1(^ + 0£&+ 0(О

не зависит от L

Условие независимости распределения последовательности (1) от t эквивалентно требованию, чтобы для любой ограниченной непрерывной функции f(xx, ..., xn), xk е 914, величина

Mf^^ + O, UkM))

не зависела от /. В частности, если компоненты £*(0, / =ж L м# ..., к, вектора ^t) обладают конечными моментами второго Порядка, то величины

тЧй”^1^,j=Y,...,d,

не зависят от t, т?^) = т!, а величины

b,k{t, s) = Mg'(0 6* (s),/, к = \, ..., d,

t^s, зависят только от разности t — s, bi^t, s) — b^k(t— s).

Имеется обширный круг вопросов, относящихся к теории стационарных процессов, решение которых может быть

выражено через моменты первого и второго порядка рассматриваемых процессов. Поэтому целесообразно выделить класс процессов, моменты первого и второго порядка которых обладают свойством стационарности. Этот класс процессов был впервые определен и изучен А. Я. Хинчиным [3].

Определение. Случайный процесс £(/) = (g1 (/), ... ..., VW)» t ^ 0, со значениями в SV называют процессом, стационарным в широком смысле, если М|^(^)|2< со и

M£(/) = m = const, МВ(/)-т][|($)-тГ = /?(/-$)(^>s),

где R(_t)— непрерывная матричная функция.

Функцию RW называют корреляционной (матричной) функцией процесса 5(0- В некоторых случаях целесообразно рассматривать комплекснозначные случайные векторные процессы ^,W = WW, ..., ^(/)),где^(0=^(0+^(0.^(0,Пй(/)- действительные случайные процессы. Чтобы задать процесс 5(0> нужно задать 2й-мерный векторный процесс 6(t)=. = (5’(0, •••» %dW> лЧО» •••♦ 4d(0)- Распределения всевозможных характеристик процесса 5(0 тогда легко выражаются через совместные распределения векторов 0(/).

В качестве примера стационарных в широком смысле процессов рассмотрим колебания со случайными параметрами. Будем рассматривать скалярные процессы 5(0-

Введем некоторые термины, оказывающиеся полезными при физической интерпретации случайных процессов. Если |(/) обозначает силу тока в момент времени t и имеется в виду энергия, рассеиваемая этим током на единичном сопротивлении, то естественными являются следующие определения.

Энергией, переносимой случайным процессом 5(0 в течение промежутка времени (#i, ta), называется величина

полной энергией, переносимой процессом 5(0 (— оо < t •< оо), называется интеграл ^(f)dt, если он существует.

Средней мощностью случайного процесса называется пределтНт 4- \V(ML

Если процесс 5(0 является комплексным, то вместо VW в предыдущих выражениях следует писать ]5(0Р»

В том случае, когда процесс имеет иную физическую интерпретацию, принятая терминология может ей не соответствовать. Все же в дальнейшем эта терминология будет использована.

Во многих вопросах случайные процессы моделируются суммами гармоник с заданными частотами и случайными амплитудами и фазами. Иными словами, рассматриваются процессы вида

п

5 (О = Е «6 COS (ufet + ф6),6-1

где uh — заданные числа, а величины а» и фд случайны. Теоретико-вероятностная структура этого процесса полностью определяется совместным распределением случайных величин аь, фь (& = 1, 2, ..., п). При этом под процессом, определенным формулой (1), следует понимать случайный процесс, конечномерные распределения которого могут быть вычислены исходя из формулы (1) и совместного распределения величин аь ..., ап. фЬ • • • > фп»

Случайный процесс £(/) представляет собой сумму п гармоничных колебаний с амплитудами | ос* | и частотами «д.

Во многих случаях целесообразно рассматривать комплекснозначные случайные процессы колебательного характера

п

^=^4^.(2)

6-1

где комплексные амплитуды уб являются случайными величинами:

Уб = «6 + Фб!

«6, Рб> & = 1, 2п, вещественны. При этом совокупность всех частот {«л}, к = 1, 2, ..., п, рассматриваемая как множество точек на прямой (— оо < м < со), называется спектром случайной функции ^ty

Процесс ((О можно расщепить на вещественную и мнимую части:

где

п

(3)(3)6 (0 = Е «6 COS ufet — Рб sin ufet,k~l

(3)

(3)

n

n (0 = E «6 Sin Ufet + p* cos Ufet.£■1

среднюю мощность, переносимую про*среднюю мощность, переносимую про*Нетрудно вычислить цевсом 5(0- Имеем

среднюю мощность, переносимую про*

среднюю мощность, переносимую про*

тг *

■^ J 15 (О I2 ^ = ^ J £ ^“ ^-°^ di = -Т-Т Л, г-1

Y^YrY^Yrsin 7 («6-и,)r(“fc-“r)sin 7 («6-и,)r(“fc-“r)

Y^Yr

Y^Yr

sin 7 («6-и,)r(“fc-“r)

sin 7 («6-и,)r(“fc-“r)

При Т->оо получаемптГ->СОПри Т->оо получаемптГ->СО$ ^(OP^^IYaI2.-Г^=1$ ^(OP^^IYaI2.-Г^=1

При Т->оо получаем

птГ->СО

При Т->оо получаем

птГ->СО

$ ^(OP^^IYaI2.

-Г^=1

$ ^(OP^^IYaI2.

-Г^=1

Таким образом, средняя мощность, переносимая колебательным случайным процессом Ц1), равна сумме средних мощностей, переносимых каждой гармонической составляющей процесса.

Аналогично вычисляется среднее значение случайной функции 5(0 за бесконечный промежуток времени. Имеем

хstn Till,

"ST J C(O^=^Yfe Tu .

-т »-i

причем если точка 0 есть точка спектра случайного процесса, то значение функции -^"и в этой точке (и = 0) считается равным 1. Таким образом,

г-

Нт ^г ( 5(0^ = То,т->« 41 JT

где у0 — амплитуда, соответствующая частоте ы = 0.

Распределение величины 5(0 даже при специальных предположениях о распределении величин у^ является весьма сложным. Все же простейшие характеристики распределения случайной величины 5(0 получить нетрудно. Предположим, что комплексные амплитуды уь имеют математические ожидания, равные 0, и между собой не коррелированы, т. е.

Муй = 0, Мубуг = 0, к =# г.

Тогда

М5(0 = 0.

Заметим, что если 0 не есть точка спектра случайного процесса, то математическое ожидание функции 5(0» т-е- ее среднее значение в теоретико-вероятностном смысле, совпадает со средним

значением по бесконечному отрезку времени (— оо, оо)’. Если же 0 является точкой спектра процесса, то среднее значение выборочной функции по времени является случайной величиной. Для корреляционной функции процесса ^(0 имеем следующее выражение:

/?№, 4) = М [№)№)] = [пт п

к, г-1Jk—Y

где 4 = M]v*p. Таким образом, корреляционная функция процесса £(/) зависит только от разности /1 — fo

/?(/1,/2) = /?(/1-/2),(4)

п

R(t)=LcWu<(5)

6-i

Следовательно, если в процессе (2) величины ул некоррелиро- ваны и имеют средние значения, равные 0, то процесс Ц^) является стационарным процессом в широком смысле и его корреляционная функция дается формулой (5). Эта формула называется спектральным представлением корреляционной функции. Она определяет спектр случайного процесса, т. е. совокупность частот («л}, 6=1, 2, ..., п, гармонических колебаний, составляющих процесс £(/), и математические ожидания с^ средних мощностей, переносимых соответствующими составляющими процесса. Величину с| можно называть средним значением мощности гармонической составляющей процесса с частотой «л- Она получается путем усреднения мощности по времени и затем усреднения в теоретико-вероятностном смысле. В связи с этими энергетическими представлениями введем следующую важную характеристику стационарного процесса, называемую спектральной функцией процесса.

Спектральная функция F(u) процесса (2) определяется соотношением

W = £ с^ик<и

Это означает, что F^u) равна средней мощности, переносимой гармоническими составляющими процесса tW» частоты которых менее заданного значения и. Она полностью характеризует как среднюю мощность каждой гармонической составляющей процесса £(/), так и суммарную среднюю мощность гармонических составляющих процесса, частоты которых лежат в любом

заданном интервале. Действительно,

«5 = F (»» + 0) - F (“«). Е ci - F to ■- F («,).

С помощью спектральной функции корреляционная функция процесса £(/) может быть записана в виде

RV) = \ela,dF(u).(6)

С математической точки зрения спектральная функция является неотрицательной неубывающей непрерывной слева функцией, постоянной всюду, кроме конечного числа точек, в которых она имеет скачки величиною с\. Оказывается, что понятие спектральной функции может быть введено для произвольных стационарных в широком смысле процессов. Этот вопрос, так же как и вопрос об обобщении представления (6) на произвольные стационарные процессы, рассматривается ниже.

Особый интерес представляют случайные процессы, которые могут быть получены из процессов вида (2) с помощью предельного перехода. Сущность этого предельного перехода состоит в том, что число слагаемых в сумме (2) неограниченно возрастает при убывании комплексных амплитуд у^, а спектр процесса, т. е. совокупность всех частот «й, все плотнее заполняет прямую (—со, со). В пределе получается некоторый случайный процесс, о котором следует говорить, что он имеет непрерывный спектр. Более точный смысл последнего термина и вопрос об аналоге представления (2) для получаемых таким образом случайных процессов рассматриваются ниже и в гл. V. Здесь же ограничимся рассмотрением предельных распределений.

Теорема 1. Пусть аПк, Р«а (Л = 1, ..., п; п = 1, 2, ...) — две последовательности серий взаимно независимых (в каждой серии) случайных величин,

Мяпа = Мрпй = 0, ОаПй = Dpn^ == 2~ < 00 и п

in (0 = X Хпке1“пк1 — In (0 + 1Чп (0» YnA = «nA + $пк1

Допустим, что при п—* оо выполнены следующие условиям

спектральные функции Fn (и) процессов £„ (/) при п-*оо сходятся на некотором всюду плотном множестве значений на

прямой (—оо, оо) к функции F(u), причем

F (— оо) = 0,В(+ оо) = а’ = Нт 2< 00;

*=i

случайные величины {аПА, 0пл} удовлетворяют условию Линдеберга (теорема 5 § 2).

Тогда при п—* оо случайный процесс £п(0 слабо сходится к стационарному процессу ^Ц, ^(0= 1(0 + ^(0- Характеристическая функция совместного распределения величин

КА)№. т)(О, .... ПМ(7)

дается выражением

ф(“1us, ob .... 0$) = ехр{ — у В2}, где

S

В2 = у ^ ^^l — t^ZjZb Zj^Uj — iVi, /=1, s, Ь £-1

R^ = J eiB<dF {u}.(8)

Заметим, что в условиях сформулированной теоремы можно получить в качестве функции F(u) произвольную ограниченную монотонно неубывающую функцию.

Сформулированная теорема является частным случаем теоремы 5 § 2. При этом следует считать, что в есть множество пар 0 = (t,q), —оо < t < оо, q = 1, 2, апл(0) = апкЦ. qV где

«пь U, О = Re Хп^*, »nk U» 2) = Im y^"^.

Легко проверить, что если a„j, р„^ удовлетворяют условию Линдеберга, то ему удовлетворяют и величины о^(0) при любом О.Пусть RW^V Q^R^^, Ц, е, = (/„ qt), R^^, /2) = -М^)!,,^), RWQV t^ = Мт^ххД^ RWQv /2) = = M^(/1)i)„(/2). В силу формул (3)

Rli* А, /2) = R^ (/i, t^ = у S cos 1(4 - /l) wl dFft ^

R^ (/i, t^ = у J sin [(/2 - /,) a] dFn («).

Принимая во внимание теорему Хелли, из условия а) при п -> оо получим существование пределов

Rq ^ = Um RT? (т, т + 0,/,/=1,2,

П->00

#11(0 = ^22(0=4" 5 COSVu)dF(u),

#12(0 = 4 $ sin (to) d/7 (и).

Таким образом, условия теоремы 5 § 2 выполнены. Из этой теоремы следует, что характеристическая функция совместного распределения величин (7) равна

—L ф(«ь .... us, vb .... 0^=6 2 , где

В2 = ^ Ru^tj — t^UfcUj + 2R\sVj— t^UfeOj-V

+ #22(0 —^)ffcy/ = 4 2 RVi™f^zl2k» !,k-X

Zj — Uj — iVj,/=1s. ■

Доказанная теорема приводит к примеру стационарного процесса, корреляционная функция которого дается формулой (8), где F^—произвольная неотрицательная ограниченная монотонно неубывающая функция, непрерывная слева.

Оказывается, что соотношение (8) является общим для всех стационарных в широком смысле процессов. Именно, имеет место следующая теорема.

Теорема 2 (теорема Хинчина). Для того чтобы непрерывная функция R(t) (—00 < t <_ 00) была корреляционной функцией стационарного в широком смысле процесса, необходимо и достаточно, чтобы она допускала представление (8).

Доказательство. Необходимость. Корреляционная функция стационарного в широком смысле процесса положительно определена, т. е. п

Е д^к-1ЬхкХ)>о

при любом выборе чисел п, 0, ..., tn, XiХп (п — целое, tk — действительные, а Хк — комплексные числа). Из теоремы

Бохнера — Хинчина следует, что /?(/) допускает представление (8). Достаточность условия теоремы вытекает из предыдущей теоремы. ■

Впрочем, можно значительно проще построить стационарный в широком смысле процесс, корреляционная функция которого выражается формулой (8) с наперед заданной спектральной функцией Р(и).

Пусть F(-|-oo)=a2 и 5— случайная величина с функцией распределения-^-F (х). Положим

где ф и 5 независимы и ф равномерно распределена на интервале (0, 2л). Тогда

ОО 2л

Mg(O = <r J Jе1 «“+»>-LdF^-^-= О

и■

R(t + h, К) = M{sa + /ОЁ(й)} =

оо 2лоо

=^ 5VUBdFw-

— ОО 0—оо

Определение. Функцию Р^и), фигурирующую в представлении (8) корреляционной функции стационарного (в широком смысле) процесса, называют спектральной функцией. Если F(u) абсолютно непрерывна,

F(u) = J f(u)du,то f(u) называют спектральной плотностью процесса.

Напомним физический смысл спектральной функции. Если под случайной функцией 5(0 понимать электрический ток, то функцию Р^и) можно интерпретировать следующим образом: процесс 5(0 представим в виде «континуальной суммы» простых гармонических колебаний со случайными амплитудами, и приращение Р(и2)—Р^щ) (щ <. и2) равно средней мощности, рассеиваемой гармоническими составляющими процесса, частоты которых лежат в полуинтервале [«ь и2).

Отметим, что функцию R-1(O)R(t), где R(0) = F(+ со), можно рассматривать как характеристическую функцию функции распределения (F(+ oo))~lF(x). Отсюда следует, что спектральная функция однозначно восстанавливается по корреляционной. Если а и b — точки непрерывности функции распределения Р^и), то, как известно из теории характеристических

функций,

F (6) - F (а) - J -2^R (0 dt, (9)

где интеграл справа понимается в смысле главного значения. В точках разрыва функции Г(м) формула (9) останется справедливой, если в ее левой части вместо F(u) подставить F(« + 0) + F(«)

21

Если корреляционная функция R^t) абсолютно интегрируема на интервале (—оо, оо), т. е. ^ I ^ (О I ^ < °°» то правая часть равенства (9) дифференцируема по параметру Ь. Таким образом, из абсолютной интегрируемости функции R(f) вытекает существование спектральной плотности и равенство

т. е. /(«) есть обратное преобразование Фурье корреляционной функции R (/).

Теорема 2 допускает обобщения в разных направлениях. Во-первых, можно рассматривать векторные стационарные процессы (в широком смысле), а во-вторых, стационарные функции (скалярные или векторные) нескольких аргументов. Остановимся сначала на векторных стационарных в широком смысле процессах с комплексными компонентами. Пусть W)™

Теорема 3. Для того чтобы непрерывная матричная функция R(t) = (RjhW), j, k = 1, ..., d, была корреляционной матричной функцией некоторого стационарного в широком смысле процесса t,^, необходимо и достаточно, чтобы ее можно было представить в виде

J(10)

где Р(1Г) = (Р5н(и')'), j, к = 1, .... d, — матричная функция со следующими свойствами:

для любых щ и щ, и\<.щ, матрица AF(m)=F(«2)—F^U\Y неотрицательно определена;'

Sp{F(4-oo)—F(— оо)}< оо.

По поводу условия б) заметим, что в силу а) диагональные элементы матрицы F(u) являются монотонно неубывающими

функциями и. Таким образом, условие б) эквивалентно требованию ограниченности вариации на прямой (— оо, оо) каждого диагонального элемента г«(«) матрицы F(u).

Далее, из положительной определенности матрицы AF(«) следует, что

|AF/6(«)|2<AFz/(«)AFtfe(n), откуда

•Г 81~Г 81™

Е | AF/6(«,)|< £ AF„ (ир) Е AF66(«p) ,р-1l,p-lJ Lp—1J

где AF(ир) = F(ыр)—F(«p-i), р = 1,2, ..., s, и0 < «1 < ... ... *С Ms-

Отсюда вытекает, что недиагональные элементы Fjk(u) матрицы F(u) также будут функциями ограниченной вариации. Без ограничения общности можно считать, что F(—оо) = 0.

Теорема 3 вытекает из матричного варианта теорему Бохнера— Хинчина. Его можно получить в качестве следствия из теоремы Бохнера—Хинчина. Приведем соответствующее доказательство для того, чтобы проиллюстрировать, как из «одномерных» теорем можно получить их многомерные аналоги.

Доказательство теоремы 3. Пусть R(t)—непрерывная корреляционная матричная функция стационарного в широком смысле d-мерного векторного процесса ?(0 с комплексными компонентами. Для любого d-мерного комплексного вектора с введем случайную величину

М-(Ш» с).

Тогда ^(t)—стационарный в широком смысле случайный процесс с непрерывной корреляционной функцией:

ше = М^ (/) = (М? (t), с) = const,

Rc ®ваМ< & (/ + $)- тД fcc (s) -тД) = c*R (t) с,f>0.

В силу теоремы 2 корреляционная функция Rc(t) может быть представлена в виде

Re(t) = $ eUadFc(u),

где Fe(u)— монотонно неубывающая функция от и и Fc(u)<_ со.

Пусть е№ — d-мерный вектор, у которого Л-я компонента равна единице, а остальные нулю:

Р^к, р = к.Р^к, р = к.

Р^к, р = к.

Р^к, р = к.

Тогда Rew (/) = Rkk (0 является корреляционной функцией й-й компоненты векторного процесса ^(t). Положим

е^, п = e<ft) 4. ew,ё^ ^ = 1^ + е°>.

Имеем

Revk h (О = Rkk (О + Rkl (О + Rlk (О + Rn (t),к ^ i,

R^. n (0 = Rkk Ф + IRM (0 - tR1k (0 + RH (0, откуда

Rkf (0 = ——§ ” ^®W — Reth)-

Если ПОЛОЖИТЬ

Fki («) = -^2—^-V- (F^ («) - FeW («)), W,

F kk V^ = F ^K) (ti), то получим

RklW = \eltadFkl(u), kj=\,...,d.

При этом

Rc^= £ ckRklct= $ e“"d( 2 6kFkf^cX

Из единственности спектральной функции Fc(u) следует d

FAu^= T.^Fki^Ci-d

Отсюда вытекает, что ^Fc(^= X ёь AFk#(u) c^ 0, так что матрица ДГ(и) неотрицательно определенная и Fkft(4-oo) < оо. Теперь остается показать, что для любой матричной функции F(u), обладающей свойствами а) и б) теоремы 3, можно построить векторный стационарный в широком смысле процесс с корреляционной функцией (10). С этой целью сначала введем 2</-мерный действительный гауссов процесс (6(0, Л(0)> гДе 6(0 и л(0—d-мерные действительные гауссовы процессы, определив его следующим образом. Пусть «а = (°».4). ^ = (ЬУ И). к = х* «. — Две по

следовательности векторов в 91й. Определим характеристичен

скую функцию совместного распределения векторов ($(6)» ••• . . . , g(/m), П(М» • • •• М*»)) с помощью формулы

Ф?г....tn(^h •••» 5п, 5i5л) =

= exp { — У К (а(ап, 5„ ..., 5„), где п

К(3У 5,г^-^аХ^-уа^

+ t_v №" h - у ь,+ьу (/, - у у + £_ ьу (1, - у 5,,

R'(l)=l ( cos(ta)dF(u), R"wУ ( sin(tu)dF(я), — CO—co

R'(t) - iR"^=^R^=^ $ ett0dFku\

Для того, чтобы это определение имело смысл, т. е. чтобы функция ф^... t (а, ... 5„, 51 ... 5„) действительно была характеристической функцией совместного распределения 26п случайных величин, необходимо и достаточно, чтобы функция К (61 ... о„, Б\ ... Бп) была неотрицательно определенной квадратической формой своих аргументов. Как нетрудно увидеть,

К(оь ..., а„, 5Ь .... bn^^Re^ZfeRUfe—ti)zb

где zk = ak — ibk, k=ln. С другой стороны, oo / nX/ nX

£w.-yz,= J (Z«",,ex) dF(«)(z«-"‘%)>o.

Таким образом, ф^... tn действительно является характеристической функцией. Легко убедиться, что семейство распределений {ftp..., <„}, соответствующих характеристическим функциям ф<] ...#„, удовлетворяет условиям согласованности (§ 1), так что оно определяет гауссов случайный процесс в широком смысле. При этом

М| (0 = Мп (0 = О, Mg (0 g (s) = Мп (О П (s) = Rf (f, 5),

Mg(0n(«) = ^«-s).

Положим g(0 = £(0+. ^(О- Процесс g(/) является векторным гауссовым процессом с комплексными компонентами. Имеем

Mg (/) = 0, Mg (О g* (s) = М [g (О г (s) + п (О п* (5)1 -

- zM 6(0Т)• (5) + П (ОГ (S)l = 2R(t- s) - 21R"(t-s) = R«-s).

Итак, g(/)—гауссов стационарный в широком смысле процесс с корреляционной матричной функцией R(t— s). И

Понятие стационарности в широком смысле может быть обобщено на случайные функции нескольких аргументов. Пусть g(x) = (g’(x), ..., gd(x))—векторная случайная функция в широком смысле, возможно с комплексными координатами, определенная для всех хе 5?™. Будем называть ее случайным полем. Случайное поле g(x) назовем однородным, если

Mg (х) = т = const, М (g (х) — m) (g (у) — т)* = R (х — у), где R(x)—Непрерывная матричная функция. Ее называют корреляционной функцией однородного поля. Матричная функция /?(х) неотрицательно определена. Это означает, что для любых d-мерных комплексных векторов Zh, точек хь е ^т, 6=1, .... п, и любого целого п п

Теорема Бохнера—Хинчина легко обобщается на неотрицательно определенные функции аргумента х г №. Так же как и теорему 3, можно доказать следующую теорему.

Теорема 4. Для того чтобы матричная функция R(x), х е №, была корреляционной функцией однородного поля, необходимо и достаточно, чтобы она допускала представление

R^= \e^x-^F(du),(11)

где F(A)—матричнозначная комплексная счетно аддитивная функция множеств, определенная на борелевских множествах №, такая, что ^F{A)z ^ 0 для любого комплексного вектора г и любого множества А е Sm. При этом ^Р^№^<. оо.

Случайное поле g(x) называют однородным и изотропным, если его корреляционная функция /?(х) зависит только от длины вектора х. Таким образом, для однородного и изотропного случайного поля

М (g (х) — m) (g (у) — т)* =/? (р), где р = р(х, у)—расстояние между точками х и у.

Найдем представление корреляционной функции однородного и изотропного поля. С этой целью рассмотрим выражение для корреляционной функции однородного поля

/?(р) = ( e£^^FW

и проинтегрируем его по поверхности сферы Sp радиуса р. Меняя порядок интегрирования, получим

г(—)

R (р) -V И $е< <х’ “’ds 1F kduY (12>

2л2рт~* amlsp)

Пусть /(х)—произвольная интегрируемая функция в йт, Ур — сфера радиуса р с центром в фиксированной точке. Тогда

VaVa. dxm = J f (х) ds,. dxm = J f (х) ds,

Va

Va

. dxm = J f (х) ds,

. dxm = J f (х) ds,

где интеграл справа взят по поверхности Sp сферы Ур. Применим эту формулу к вычислению внутреннего интеграла в правой части формулы (12). Переходя к сферическим координатам в n-мерном пространстве (см. Г. М. Фихтенгольц, Курс дифференциального и интегрального исчислений, т. 3, «Наука», М., стр. 484), приняв за ф1 угол между векторами х и и.

получим

р Л л 2л

el <*» “'dx1 ... dxm = ^ $ • • • ^ е/г 1 “1 cos ^r"1-1 sin"1-2 ф] X

Vp0 00 0

Xsinm-3q)2 ... sin фт-2 dr </ф, ... </фт_2 =

_р__^ I I eir I „I созф,гт-1 sinm-2(pi dr d<p^

Г ( — 2 Joo

Далее,

ЯОО Л

81пт“2ф1 </ф1 =81пт“2ф1 </ф1 =е<и«1 COSф|sin”-^^ф! = ^ J Orlttlcos»,)6 оA-о о

81пт“2ф1 </ф1 =

81пт“2ф1 </ф1 =

иР Яу = ^$ е‘г i«i c°s *»г”,-,81п”-2ф| dvi = о оиР Яу = ^$ е‘г i«i c°s *»г”,-,81п”-2ф| dvi = о о”/2й+1\ (т-\\

и

Р Я

у = ^$ е‘г i«i c°s *»г”,-,81п”-2ф| dvi = о о

и

Р Я

у = ^$ е‘г i«i c°s *»г”,-,81п”-2ф| dvi = о о

У, п»у~2~)

“ Li ' (2Л)1(2* + т) „ f 2^ + т \*

б-ок 2 J

ГГУл Г (2fe)Ул Г (2fe)226-1226-1Получим// fitПолучим// fitrwrwт , т2 р2т , т2 р2I V6+-tI V6+-tЛЛтI 2тI 2А-ОА-Оттт2/m (pl«l),т2/m (pl«l),Воспользуемся формулой удвоения в теории гамма-функции:

Г

Г

Ул Г (2fe)

Ул Г (2fe)

226-1

226-1

Получим

// fit

Получим

// fit

rw

rw

т , т

2 р2

т , т

2 р2

I V6+-t

I V6+-t

Л

Л

т

I 2

т

I 2

А-О

А-О

т

т

т

2/m (pl«l),

т

2/m (pl«l),

т2 /m_(pl«l).2т2 /m_(pl«l).2где /пМ—функция Бесселя первого рода n-го порядка. СледО' вательно,

т

2 /m_(pl«l).

2

т

2 /m_(pl«l).

2

е1 <х> “>dx* ... dx"

Отсюда вытекает, что

^<(x,u)ds = (^ 2 |И|/^(Р|И|).

SP2

В частности, рассматриваемый нами интеграл зависит от |«|. Введем положительный параметр X и положим

gW = F<V0,Х>0.

Тогда последняя формула и формула (12) дают

ГО-2 ,^^М

(13)(13)/?(р) = 2 2 г(у)\2m_2 dg(X),(

(13)

(13)

0 (Хр) 2

где g(X)—монотонно возрастающая функция, g(—0)=0 и g(+ eo^F^^R^Xoo.

Мы получили, таким образом, следующую теорему.

Теорема 5. Для того чтобы R^ (0 ^ р •< оо) была корреляционной функцией однородного и изотропного случайного поля, необходимо и достаточно, чтобы ее можно было представить с помощью формулы (13), где g(X)—ограниченная монотонно неубывающая функция.

При /и = 2 формула (13) принимает следующий простой вид:

/?(p)=$/o(Xp)dg(X),(14)

о

а при т = 3

А(р)-2$-^е_^(Х).(15)

ГЛАВА II

АКСИОМАТИКА ТЕОРИИ ВЕРОЯТНОСТЕЙ

§ 1. Аксиомы теории вероятностей и основные определения

В настоящем параграфе вводится ряд основных понятий теории вероятностей и приводятся, в основном без доказательств, их наиболее важные свойства, непосредственно вытекающие из теории меры. Доказательства приводимых утверждений можно найти в учебниках по теории меры (см., например, А. Н. Колмогоров и С. В. Фомин [1]).

События. Допустим, что при выполнении определенного комплекса условий У имеется возможность производить некоторые эксперименты. Назовем их допустимыми (относительно заданного комплекса условий У). Наблюдая результаты данного эксперимента, можно утверждать, что какие-то события в этом эксперименте осуществились, а иные не осуществились. В теории вероятностей каждый эксперимент полностью характеризуется этими событиями, т. е. непустым множеством событий, о каждом из которых можно сказать, осуществилось ли оно в эксперименте или нет. Условимся называть соответствующие события наблюдаемыми (в данном эксперименте).

Для большей наглядности изложения целесообразно воспользоваться теоретико-множественной интерпретацией вводимых понятий и соотношений. В этой интерпретации исходят из некоторого множества £2 и каждое событие, наблюдаемое в каком-либо допустимом эксперименте, отождествляется с некоторым подмножеством множества £2. При этом алгебраическим соотношениям и действиям над событиями соответствуют аналогичные соотношения и действия над множествами. Например, если из события А следует событие В (А с: В), то множество А содержится во множестве В. Событию «или А, или В» соответствует сумма множеств А и В (A U В), совмещению событий А и В — пересечение множеств (А Л В), событию противоположному А (Л) — дополнение к А в £2, т. е. множество всех точек £2, не входящих в А. Если два события несовместимы, то соответствующие им множества не имеют общих точек.

В свою очередь каждое подмножество Q называют событием, но оно не обязано быть наблюдаемым для какого-либо из рассматриваемых экспериментов.

Точки из Q называют элементарными событиями, само £2— достоверным событием, так как оно соответствует событию, происходящему в любом эксперименте. Пустое подмножество £2 называют невозможным событием.

Мы будем пользоваться еще следующими обозначениями и определениями:

и Ла — сумма множества событий Аа, перенумерованных «С!

с помощью индекса а, пробегающего множество I.

П Ла — совмещение множества событий Аа, где а прини- ае!

мает значения из I.

Л\В— разность событий А и В (событие «А, но не В»).

AkB— симметрическая разность событий Л и В (событие «или А, или В, но не их совмещение»).

Иш Л„ — верхний предел последовательности событий Лп (п=1,2, ...)—событие, происходящее тогда и только тогда, когда осуществляется бесконечная последовательность событий Ап (ИтАп = {б. мп. Лп}).

Игл Л„ — нижний предел последовательности событий Ап (n = 1, 2, ...)—событие, происходящее тогда и только тогда, когда осуществляются все события Ап, начиная с некоторого номера. Нетрудно заметить, что

НтЛ„ = П 0 Ап, ПтЛ„=и, П Л„.(1)

1 п=тп=т

Например, событие, написанное в правой части первого равенства, происходит тогда и только тогда, когда для любого т найдется такое п ^ пг, что событие Лп осуществляется. Последнее равносильно тому, что существует бесконечная подпоследовательность осуществляющихся событий Ап.

В дальнейшем часто применяются следующие формулы, выражающие соотношение двойственности операций суммирования и совмещения событий:

л\ и Ва= П (Л\В0) (или [Гвв= Пв»),(2)

ое!ае!ае!ае!

Л\ п В«= Иихв,) (или ГГв«= и вв). (3) ае!ас!ас!ас!

Проверка этих формул не составляет затруднений, причем одна из них следует из другой.

Эксперимент. Как было сказано ранее, каждый допустимый при данном комплексе условий У эксперимент полностью описывается некоторым классом (совокупностью) событий, наблюдаемых в этом эксперименте. Условимся классы событий (классы подмножеств множества Q) обозначать готическими буквами «, в, 8, ...

Пусть 5 — класс событий, наблюдаемых в данном эксперименте. Если Лпе8 (п = 1,2, ...), то, очевидно, событие (J Д» 4а

(оно осуществляется тогда и только тогда, когда осуществляется одно из Лп), событие ПЛ„ (оно осуществляется тогда п_

и только тогда, когда осуществляются все Лп) и событие А» (оно осуществляется тогда и только тогда, когда не осуществляется Лп) также являются наблюдаемыми.

Определение. Класс событий (множеств) 91 называется алгеброй, если 91 содержит Л U В, Л Л В, Л\В, каковы бы ни были Л и В из 91.

Алгебра событий (множеств) называется с-алгеброй, если (J Ая е 91 для любой последовательности (Ап, п = 1, 2, ...}, л-1 Аде91.

События из а-алгебры 91 называются ^-измеримыми.

Из определения сг-алгебры следует: если Апе%, п= 1, 2,..., 91 — а-алгебра, то f] Л„ е 91. Это вытекает из формулы (3): Пл„= 0л„. л-1п-1

В соответствии с предыдущим замечанием условимся считать, что класс наблюдаемых в данном эксперименте событий является а-алгеброй.

Множество экспериментов можно упорядочить. А именно, если экспериментам Э\ и Э2 соответствуют о-алгебры 8i и 8г наблюдаемых событий и 81 с 82, то будем говорить, что эксперимент Эг более информативен, чем Э\. С другой стороны, если дано некоторое множество экспериментов (Эа, а е 1} и 8а (а е el)— соответствующие а-алгебры наблюдаемых событий, то множество (Эа, ае!} можно рассматривать как один составной эксперимент, если считать наблюдаемыми в этом эксперименте события из минимальной a-алгебры, содержащей все 8а, ael. Такую минимальную a-алгебру условимся обозначать <7 {8а, a el}. Ее существование вытекает из следующего предложения:

Пусть Э1 — произвольный класс подмножеств Q. Всегда существует минимальная с-алгебра множеств, содержащая ЗЯ.

Действительно, всегда существует о-алгебра, содержащая SL Таковой является, например, о-алгебра всех подмножеств £2. Рассмотрим пересечение всех о-алгебр, содержащих ЭЯ. Оно является о-алгеброй, и притом, по построению, минимальной, содержащей ЗЯ.

Минимальную о-алгебру, содержащую класс множеств ЭЯ, обозначают о {ЭЯ} и называют о-алгеброй, порожденной классом ЭИ.

В ряде случаев требуется установить, что некоторый класс событий содержит данную о-алгебру. Следующий результат при этом часто бывает полезным.

Теорема 1. Если класс множеств ЭН содержит некоторую алгебру Я и монотонен, т. е. если вместе с произвольной монотонно возрастающей (убывающей) последовательностью множеств ЛпеНЯ он содержит и U АЛ П Л) • то ЭИ содержит о- И—1 ХП-1 / алгебру о {Я}.

Вероятность. Пусть ©— о-алгебра всех наблюдаемых событий в данном множестве допустимых экспериментов. Вероятность Р(Л) события Л, Л е@, характеризует связь между комплексом условий У и событиями из ©, не зависящую от производимого эксперимента. Естественнонаучная интерпретация этой связи достаточно хорошо известна, и мы о ней не напоминаем. Аксиоматически понятие вероятности вводится следующим образом (А. Н. Колмогоров [2], [7]).

Определение. Вероятностью Р (•) называется числовая функция, определенная на ©, обладающая следующими свойствами:

Р(Л)>0, P(Q)=1,

pfD^-ZPW

\п = 1/п=1

для произвольной последовательности попарно несовместимых событий Ап, п = 1, 2, ... (Ап Л Аг = 0 при п ^ г, Апе ©).

Таким образом, функция Р является мерой, заданной на ®, удовлетворяющей условию нормировки Р(£2) = 1 (вероятностной мерой).

Определение. Множество £2 с выделенной в нем о-алгеброй © всех наблюдаемых событий и вероятностной мерой Р, заданной на ®, называется вероятностным пространством {£2, ©, Р}.

Вероятность обладает следующими свойствами:

Р(А= 1 — Р(Л). В частности, Р(0) = О.

Если Ас В, то Р(В \ Л) = Р (В) — Р(Л). В частности, если Ас В, то Р(Л)^Р(В).

Если ЛясЛя+1, п = 1, 2то р(0/я) = НтР(Ля).(4)

) = ПтР(Ля).(5)) = ПтР(Ля).(5)Если Л„=)Ля+1, п=1, 2, ..., то 'СО/.

) = ПтР(Ля).(5)

) = ПтР(Ля).(5)

В частности, если Л„=>Ля+|, Д Ли==0, то

Р(Л„)->0.(6)

Эти свойства вероятности хорошо известны из теории меры.

В ряде случаев бывает целесообразным расширить область определения вероятности Р с помощью следующей операции, которую называют пополнением вероятностного пространства.

Обозначим через 91 класс всех наблюдаемых событий N вероятности 0, 91 = ^N: P(JV) =0, ^G@}, а через К — класс всех событий Л, для которых существует N е91 такое, что AczN, 91= {Л: AczN, Ne$), Пусть ©— класс событий S вида S = S U Л, Sg6, Л е 91. Нетрудно проверить, что © является о-алгеброй событий.

Определим на © вероятность р, положив P(S U Л) = P(S), если S е © и Л е 91. Это определение однозначно и Р — счетно аддитивная функция на ©. Таким образом, {Q, ©, Р} является вероятностным пространством.

Операцию перехода от {й, ©, Р} к {Q, ©, Р} называют пополнением вероятностного пространства. Если 91 с: 91, то © = © и вероятностное пространство называется полным. Очевидно, что {Q, ©, Р} является полным вероятностным пространством. В полном вероятностном пространстве произвольное подмножество наблюдаемого события вероятности 0 само является наблюдаемым событием.

Случайные элементы. Во многих случаях класс наблюдаемых в данном эксперименте событий задается следующим образом. Принимают, что результат эксперимента описывается точкой некоторого множества X. Например, если эксперимент состоит в измерении в данный момент времени и в данной точке пространства скорости ветра, то в качестве X можно принять трехмерное векторное пространство. Если же скорость ветра измеряется непрерывно в течение некоторого промежутка времени [^о, 6] и предполагается, что соответствующая функция непрерывна, то в качестве X можно взять пространство непрерывных функций

на отрезке [/о, Л] со значениями в трехмерном векторном пространстве.

Определение. Множество X с выделенной в нем о-алгеб- рой подмножеств 23 называется измеримым пространством {X, 8).

Точку х, характеризующую результат эксперимента, обозначим через £. Предположим, что наблюдаемыми событиями являются события вида {^гВ}, Be 8. Из исходных предположений следует, что событию {£ е В} соответствует в Q некоторое множество S = SbG©. Таким образом, рассматриваемый эксперимент определяет некоторое отображение g о-алгебры 8 в о-алгебру ©. Это отображение обладает следующими свойствами:

gW =Q;

если В] Л В2 = 0, Bt е 8, то

g(B1)ng(B2) = 0;

g( (J Be)= U g(Ba), где I —• произвольное множество хае! / asl

индексов, Baе 8.

Из а) — в) легко вытекает, что

g(0) = 0;

Д) g(B) = g(B);

g(B2\B!) = g(B2)\g(Bt);

g( П А)” П ЯА). Хае/ / ае/

Будем говорить, что отображение g а-алгебры 8 в ©, обладающее свойствами а) —в), порождает в ^Х, 8} некоторый случайный элемент £.

Положим т(В) = P(S) (Be 8). Очевидно, что т(В) является вероятностной мерой и {Х,8, т} — вероятностным пространством. Меру пг называют распределением случайного элемента t,. При этом m(B) = Р{£еВ). В некоторых случаях удобно пользоваться обозначением

m = Pg(Р5(В) = Р&(В))).

Если 8 содержит одноточечные множества (т. е. множества {х}, состоящие из одной точки х, хеХ), то отображение g можно описать следующим образом.

Пусть g^ = SX. Заставляя х пробегать X, получим разбиение пространства Q на семейство ©-измеримых множеств {Sx, х е X) попарно без общих точек:

Sxi П 8^ = 0 при х, х2, U Sx = Q.

*еХ

Определим отображение / множества й в X, положив /(«») = = х, если юе5я. При этом SB = g(B) = {<в: ^(ю)еВу Таким образом, g(B) является прообразом множества В при точечном отображении f пространства й в X, g(B) = f~l(B). С другой стороны, пусть / — произвольное отображение й в X. Тогда f-1 (В) обладает свойствами а) — в), и если для любого В е 3

ГЧ^-^: f^eB^e®, (7)

то /~’ является случайным элементом в {ЛГ, 3).

Определение. Отображение f пространства Q в X, удовлетворяющее (7), называют измеримым отображением {й, ©} в {X, 3).

Из предыдущего следует: произвольное измеримое точечное отображение / {й, 0} в \Х, 3} определяет случайный элемент g = f(®) в {X, 3}. Обратно, если одноточечные множества X 3-измеримы, то произвольный случайный элемент в {X, 3} задается с помощью измеримого точечного отображения f:Q-*X. В частности, последнее имеет место, если X— метрическое пространство, 3— о-алгебра его борелевских множеств.

Проверка выполнения условия измеримости (7) в ряде случаев облегчается следующим предложением.

Теорема 2. Пусть 3 = о{ОТ}. Для того чтобы f было измеримым отображением {й, ©} в {X, 3), достаточно, чтобы условие (7) выполнялось для произвольного Be®.

Действительно, класс множеств, для которых (7) имеет место, является о-алгеброй. Поэтому, если равенство (7) выполняется для всех В из ®, то оно выполняется и для всех В е ео{®}. ■

Пусть t,— произвольный случайный элемент в {X, 3). Из свойств а) — в) отображения g вытекает, что класс событий

<тШ=={5: S-g^, ВеЗ} (8)

является о-алгеброй. Она называется о-алгеброй, порожденной случайным элементом £, и является классом событий, наблюдаемых в том эксперименте, возможные исходы которого описываются случайным элементом £.

В дальнейшем рассматриваются главным образом случайные элементы, определяемые точечным отображением Й в X, т. е. элементы £ = f (®).

Пусть дана последовательность случайных элементов ^ = = /а(<о), £= 1, .... п со значениями соответственно в (Хд, 3fe}. Эту последовательность можно рассматривать как один случайный элемент ^ со значениями в измеримом пространстве {У, 3), определяемый следующим образом. Пусть У — множество всех упорядоченных последовательностей у = (хь ха, ... .... хп), где ХнеХк. Пространство У называют произведением

п'

пространств Х\, .... Хи и пишут У = Цх* или У = Xi X 6-1

X Х2 X • • • X Хп. В У рассмотрим класс множеств В вида В = п

= ПВб, Вке%к, т. е.

В = {у ^ (X|, Xg, • • •, хп): хк g Вк, к = 1, • • •, я}.

Множества этого вида будем называть кирпичами в У. Минимальную о-алгебру 93, содержащую все кирпичи, называют произведением о-алгебр 23* и пишут 8 = о {93*, к = 1, 2, .... я}, а п

измеримое пространство {У, 8} = П{^&, 93*}— прямым произ.k ■ 1

ведением пространств {X*, 9*}.

Рассмотрим отображение f й в У, определяемое соотношением У = f(ro) = (fi(<о), М®), .f*(®)). Если В = Дв*. то 6-1 п

Г' (В) = ПГ* (В*)е®. 6-1

Класс Я множеств А, для которых f-1 (Д) е ©, является о- алгеброй (в силу того, что прообраз суммы, пересечения и разности множеств равен, соответственно, сумме, пересечению и разности прообразов). Так как 91 содержит кирпичи, то он содержит и минимальную о-алгебру 9, порожденную кирпичами. Итак, f есть измеримое отображение {Q, ©} в {У, 9}. Будем говорить, что случайный элемент £ = f(®) является прямым произведением случайных элементов ^* = /*(ю) (к = 1, 2я).

Случайный элемент £ = /(®), принимающий действительные значения (X = 91х, 9 = 9*—о-алгебра борелевских множеств на действительной оси), называют случайной величиной. Случайный элемент £ со значениями в я-мерном действительном пространстве 91й называют случайным вектором (при этом 23 = 23"—о-алгебра борелевских множеств я-мерного пространства).

Случайные величины. Произвольная случайная величина ^ задается некоторой действительной функцией /(®), обладающей свойством f~* (В) е © для любого борелевского множества Ве91х. Так как о-алгебра борелевских множеств на прямой порождается системой бесконечных интервалов {(—со,а), аг e9lxY то для измеримости f достаточно, чтобы при любом а f~x (— со, а) = {©: f (ю) < а} е ©. Последнее требование обычно фигурирует в определении действительной ©-измеримой функции, заданной на измеримом пространстве {&,©}. Таким образом, понятие случайной величины совпадает с понятием действительной ©-измеримой функции и общие свойства случайных

величин совпадают с общими свойствами действительных измеримых функций.

Заметим, что в некоторых случаях приходится рассматривать случайные элементы со значениями из расширенной числовой прямой 91х = [— оо, + оо]. Такие случайные элементы называют обобщенными случайными величинами. При этом роль о-алгеб- ры 23 играет о-алгебра S1, состоящая из множеств вида

В, ВЩ-оо), BU{+oo}, BU{+oo}U{-oo) (Ве23').

Отметим некоторые свойства случайных величин.

Теорема 3. Борелевская функция r) = g(g1( ..., gn) = = ^(А(®)fn(®)) случайных величин ^ = /к((о), 6=1,...

..., п, также является случайной величиной, а gi/g2, sup gn, inf gn, limgn, limgn ~ обобщенными случайными величинами.

При этом частное двух случайных величин условимся считать равным 0, если числитель и знаменатель одновременно равны нулю.

Указанные свойства случайных величин (измеримых функций) хорошо известны из теории меры.

Важным примером случайных величин являются индикаторы измеримых событий. Индикатор %(Л) = х(Л,ш) события Л определяется следующим образом.

Определение. %(Л, со) = 1, если ыеА.и %(Л, со) = О, если со е Л.

Алгебраическим действиям над событиями соответствуют аналогичные действия над их индикаторами. Действительно, x(Q^)=n%w.

X (D А.) = £ X(А). если Л„ Л Ат = 0 при п^ т,

Х(Л\В) = х(Л) —х(В), если ВсА,

Х(НтЛ„) = ПпГх(Л,,),

Х(1ппЛ„) = Нтх(Л„).

Случайная величина, принимающая только конечное или счетное множество значений, называется дискретной. Если (сп, п = = 1,2, ...} — множество возможных значений случайной величины g, Лй —событие {g = c„}, то g — EceXGQ- п

Теорема 4. Для произвольной случайной величины g существует последовательность дискретных случайных величин gn,

принимающих только конечное число различных значений и сходящихся к | при каждом со. Если g неотрицательна, то существует монотонно неубывающая последовательность дискретных случайных величин g^ таких, что O^g— ^п^^г при любом со.

/1—1 п

Действительно, если положить g„ = X ЕО+^)Х }—-П к=Л

{

Ь — 1ь

®: / + —— <l<i+ -), то при |g|<n

будем иметь 0<g — ^п^^’ Положив ^= ^-^-ХМ*»), где 6-0

Апк = {а: -^< I < -^— ], получим 0<g — g^ < -^- для всех со, при которых g^O, причем последовательность g« монотонно не убывает. ■

Пусть значение случайной величины g можно определить по некоторому эксперименту, результаты которого описываются случайным элементом £ со значениями в измеримом пространстве {.¥,©}. Естественно ожидать, что £ является ©-измеримой функцией от случайного элемента £. Точная формулировка этого соображения содержится в следующем предложении.

Теорема 5. Если g — случайная величина, измеримая относительно о-алгебры 8g, порожденной случайным элементом £ = /(со) на измеримом пространстве {^, ©}, то найдется такая ^-измеримая функция g(x), хеХ, что g = g(£).

Доказательство. Допустим сначала, что g принимает конечное или счетное множество значений а„, п= 1, 2, ... Положим Д„ = {о: g = a„}. Так как g ^-измеримо, то Апе^ и, следовательно, найдется такое Впе98, что f~' (Вп) = Ап. Пусть С„= п—\

= в„ \ U Bfe. Тогда Сп е 93, Сп Л Ст = 0 при п^т, Г1 (С„) =

71—1П— 1Zoo X оо

=Г'^\ ^ГЧвк)=А„\ ул4=л„ иГ\у^ = ул=о,

т. е. f (Q) с U сп. Положим g (х) = 2 «„х (С„, х\ Тогда g=g (£)= 1

= g(f(®)). Перейдем к общему случаю. Существует последовательность дискретных случайных величин g„, ^-измеримых и сходящихся к g при каждом ®. По предыдущему ^n = gnM^> где g„(x) — ©-измеримая функция. Множество точек S, в которых g„(x) сходится к некоторому пределу, ©-измеримо, содержит f(Q) и при каждом x = f^ = t, существует limg„(x)=g. Положим g (х) = lim gn (х) при х е S и g (х) = 0 при х е= S. Тогда g (х) — ©-измеримая функция и g(£) = g. ■

Определение, о-алгебра 5 называется простой, если она

состоит из 0 и всех множеств вида F = X ЕПр г^е {Дп, п = = 1,2,...}—счетная (или конечная) последовательность попарно несовместимых событий и (J Еп = Q. Множества Еп бу-

п дем называть атомами о-алгебры 8. Теорема 6. Если случайная величина т) измерима относительно простой о-алгебры 8, то она постоянна на атомах 8:

n = ZanX(^„).

п

Действительно, случайную величину т] можно аппроксимировать сходящейся при каждом © последовательностью случайных величин т]п, постоянных на атомах Еп (теорема 4). Отсюда следует постоянство т] на множествах Еп. Л

Говорят, что некоторое утверждение или свойство, относящееся к вероятностному пространству {&, ©, Р}, имеет место с вероятностью 1 или почти наверное, если событие, состоящее в том, что оно выполняется, ©-измеримо и имеет вероятность, равную 1. Если В = л с вероятностью 1, то случайные величины В и п называются эквивалентными. Пишут также, что В = = H(modP).

Теорема 7. Если Bn = Лп (mod Р), п = 1,2, ..., и h(tx, ... -.., tn) — борелевская функция в 52", то следующие равенства выполняются с вероятностью 1:

h(h. ..., U = Mni, ПЛ supBn = sup^„,inf В„ = inf т)„, ПтВп=ЙтПп, lim В„ = Итл„.

Это предложение показывает, что обычно аналитические операции преобразуют системы эквивалентных случайных величин в эквивалентные, так что можно говорить об операциях над классами эквивалентных величин.

Сходимость с вероятностью 1. Пусть В«, п=1, 2, ...,— последовательность случайных величин. Событие S = {lim В» существует} ©-измеримо.

Действительно, S = Q J Q { ©: (Вт, — B™21 < у}.

&=1 n=\ mu m2>n

Определение. Последовательность Bn, n=l,2, ..., сходится с вероятностью 1 или почти наверное, если

Р (lim В„ существует} = 1.

Для доказательства сходимости с вероятностью 1 в конкретных задачах бывает полезным следующий критерий.

Теорема 8. Если найдется такая последовательность чисел гп, что

^п > ®> 2 ^п < 00 > 2 Р { I ^п+1 ^п I > ^п) < 00> и=1/г=1

то с вероятностью 1 существует lim £г.

Если для любого е > О

Ер{н-^1>*}<«>.

то §п почти наверное сходится к £,

Доказательство. Пусть Лп = {со: |gn+i — £п| > 8п}. Тогда

Р(ПтЛ„) = р(П U Лт) = lim PfLM,^^ Пт £ет = 0.

Поэтому с вероятностью 1 существует такое п0 = п0(®), что 1ln'+i — In | ^ еп дЛя всех п ^ п0. Отсюда следует, что ряд ^i + Е (Вл+i —В») сходится с вероятностью 1, что и доказывает п-1

первое утверждение. Пусть теперь ANn = {<о: I £ — £„| >-^ }. Имеем

P{lim|^ —^„|>0}= р{ U П U ^„}< kN— 1 m—1 n—m )

<lim lim E Р(ЛЛГт) = 0. ■

N->oo m-¥co n—m

Сходимость по вероятности.

Определение. Последовательность случайных величин g„, п = 1, 2, ..., называется сходящейся по вероятности к случайной величине g (P-lim gn = В). если для любого е > О

Р{||„ — gl>e)-+O при п-*оо.

Она называется фундаментальной по вероятности, если для любого е > 0 можно указать такое п0 = п0(е),' что для всех пь п^ ^ «о

Р { I Вл, ” |л2 | > в} < 8.

Понятие сходимости по вероятности соответствует понятию сходимости по мере в общей теории меры. Из результатов последней вытекает

Теорема 9. а) Если r]i = P-lim gn, i = 1, 2, то тр = = r)2(modP).-

Для того чтобы последовательность случайных величин ^„ сходилась по вероятности к некоторому пределу, необходимо и достаточно, чтобы она была фундаментальной по вероятности.

Если последовательность £п сходится с вероятностью 1, то она сходится по вероятности. Обратное, вообще говоря, неверно. Но из последовательности случайных величин, сходящейся по вероятности, можно выделить подпоследовательность, сходящуюся с вероятностью 1.

Пусть T]W = P-lim§W (fe = ld\ tn = g^,^)

где g(ti, .... t^—действительная функция, непрерывная в Ял, исключая, быть может, множество D такое, что Pff^1^ • •• ..., ц®) е D} = 0. Тогда

P-lim П(Ч

В частности, одновременно с последовательностями {^} сходятся по вероятности последовательности gm + g^\ gm • gm и 1^1^\ последняя — при условии, что Р {t)<2> = 0} = 0 и

P-lim (gm + &2>) = П(|) + П(2), P-lim0m • gm) = п(1) • П(2),

$<о„(О

P-lim т^г = ТйГ’S/гч

Математическое ожидание. Математическое ожидание дискретной случайной величины g = У, спх (Л„) определяется фор- п

мулой

Mg=Z^P{&=^}>

п

если сумма ряда, стоящего в правой части равенства, имеет смысл. Это выражение представляет собою интеграл в абстрактном пространстве с мерой {Q, ©, Р} от простой функции f(co)= У с„хИп):

М£=$/(<о)Р(Жо).(9)

Q

Последнюю формулу будем считать определением математического ожидания в общем случае при условии, что интеграл в правой части равенства (9) определен. Последнее означает, что по крайней мере один из интегралов

J f+ (ф) Р (</<о), $Г(«0Р(Ж») аа

конечен (здесь f* = max {Д 0}, f- = max {—f, 0}). Если один из них бесконечен, то М£ = + оо или — оо соответственно. Если

математическое ожидание величины g конечно, то будем говорить, что величина § интегрируема.

Будем пользоваться также обозначением

Mg = $gdP.

Положим

$ ИР = р (ф) Р (<fo) = Мх(Л) §. АА

Из общих свойств интеграла вытекают следующие свойства математического ожидания.

Теорема 10. а) Неравенство

J ИР> J Ч^Р А.4

тогда и только тогда выполняется для всех Л е 0, когда

g > г) (mod Р);

^dP=$4dP

АА

для всех А, тогда и только тогда, когда g = t](modp);

если Mg и Мт, конечны, то

М (ag + ^п) — #Mg + 6Мц

для всех постоянных а и Ь.

Отметим ряд часто используемых неравенств.

Неравенство Чебышева. Если /(х)>0 (х>0) и монотонно не убывает (х ^ 0), то Ча > 0

Неравенство Йенсена. Если g(x)—непрерывная выпуклая ■функция на (а, Ь), — oo^a-<6^ + oo, wa-<£-< b (mod р), то

g(Mg)<Mg(g).(10)

Напомним, что функция g(x) называется выпуклой на (а,Ь), если для любых двух точек Xi и х^, из (а, 6) и любого Хе(0, 1)

g (XXl + (1 - %) Х2Х xg (хО -ь (1 -1) g &),

т. e. если любая точка дуги графика кривой y=g(x) хе^,^) лежит не выше отрезка, соединяющего концы этой дуги. Из определения вытекает, что для каждой точки Q = (х0, g(x0)) графика выпуклой кривой существует опорная прямая, т. е.

прямая, проходящая через точку Q и такая, что все точки графика кривой лежат не ниже опорной прямой. Это означает, что для любого Хое(а, Ь) найдется такое а, что

g(x) — g(x0)>a(x — x0)

для всех хе (а, 6). Полагая здесь хо = М^, х = g и беря математическое ожидание от обеих частей неравенства, получим неравенство (10).

Следствие. |Mg|r С М|£|р при р~> 1 и

(MlglV <(Mim' при 0<q<p.(11)

Неравенство Гёльдера.

М|^К(М|^)^-(М|пГ)^ где 7 + 7 = 1, р> 1. (12) Частным случаем неравенства Гёльдера является неравенство Коши — Буняковского

(Mgr))2 ^ Mg2 • Мг)2. С помощью неравенства Гёльдера легко получить неравенство Минковского

[М|£ + пН~<[М|т~+[М|т]1рРг,Р>\.(13)

В разных вопросах часто используется возможность предельного перехода под знаком математического ожидания.

Теорема И. а) (Теорема о монотонной сходимости.) Если 0 < Bn < |n+i (п = 1, 2, ...), то

limMg„=M(limg„).

(Лемма Фату.) Если gn ^ 0(mod Р), то М Ит g„ < Ит Mg„.

(Теорема Лебега о мажорируемой сходимости.) Если |gn|^r)(mod Р), limgn = g(mod Р) и Мт) < оо, то

Ит Mg„ = Mg.

Положим

Ф(Л) = JgdP = MgxH), AeS.(14)

А

Определение. Действительная функция множества ф(Л), определенная на некоторой о-алгебре ®, называется зарядом, если она может принимать бесконечные значения только одного знака и если для произвольной последовательности не-

пересекающихся множеств Ап (Ап е ©, Ап ПАГ = 0 при п =/= г, п= 1,2,...)

ф( U л) = 2 фШ-

Если случайная величина £ имеет математическое ожидание (конечное или бесконечное), то функция множеств ф, определяемая формулой (14), является зарядом.

Следующая формула соответствует правилу замены переменных в теории интегрирования.

Теорема 12. Пусть £ = g(£), где £ =/(<о)—случайный элемент в {X, 8}, g— действительная ^-измеримая функция на X, пг = pf-1 — распределение, случайного элемента t,. Тогда

Ml = ^g(x)m(dx),(15)

если одна из сторон этого равенства определена.

Допустим, что на {X, 8} задана конечная или о-конечная мера q. Напомним, что мера q называется a-конечной, если существует последовательность множеств Вп, Вп е 8, таких, что № = Х и q^<oo.

” Определение. Мера m на (X, 8} называется абсолютно непрерывной относительно меры q i(m <С q), если существует ^-измеримая функция р(х) такая, что

пг (В) = ^ р (х) q (dx) для всех Be 58.(16)

в

Теорема 13 (теорема Радона — Никодима). Для того чтобы мера m была абсолютно непрерывна относительно меры q, необходимо и достаточно, чтобы U3'q(B) = Q следовало m(B)=Q.-

Пусть пг — распределение случайного элемента t, = /(со) (пг = pf-1) на {X, 8} и пг с q.

Определение. Функция р, определяемая соотношением (16), называется плотностью распределения случайного элемента £ относительно меры q. Плотность распределения обладает следующими свойствами:

p(x)>0 (mod Р), J p(x)^(dx)= 1.х

Если распределение обладает плотностью, то математическое ожидание величины £ = /(£) можно вычислить по формуле

М£ = ^ f (х) р (х) q (dx).(17)

X

Пространство SEP. Класс случайных величин g, для которых M|g|p<oo (р > 0), обозначим через $р = ^(Q. S, Р). Этот класс линеен: если ^t е^р (i = 1, 2), то cg( eS1, и ^ + ^ g Sp. Первое из этих утверждений очевидно, а второе при р ^ 1 вытекает из неравенства Минковского (13), при р е (0, 1) — из неравенства

1|1 + |21р<1ё11р + 1521р(0<Р<1),(18)

следующего из того, что (1 + х)р < 1 + ХР (* > 0, 0 < р < 1). Если в $р (р ^ 1) ввести норму

II Нр = (М | ^ П"^, то оно будет полным линейным нормированным пространством. Сходимость в Sp последовательности |п к пределу £ означает, что

M|g —|п|р->0 при п->со.

Из полноты пространства S’p следует, что для сходимости последовательности gn необходимо и достаточно выполнение условия Коши:

М|5Я1-<„,|р->0 при пр п2^оо.

Последовательность случайных величин, удовлетворяющая этому условию, называется фундаментальной в $р. Из фундаментальности (а следовательно, и сходимости) в $р следует фундаментальность (сходимость) по вероятности. Это вытекает из неравенства Чебышева

Равномерная интегрируемость. Семейство случайных величин {£(/), ^gT} (Г — некоторое множество) называют равномерно интегрируемым, если для любого е > 0 можно указать такое N = М(е), не зависящее от t, что

МХ(Ш(01>М})1^)1<8 ХНеТ.

В следующем утверждении указываются свойства, эквивалентные равномерной интегрируемости.

Теорема 14. Семейство {£(/), /е7] равномерно интегрируемо тогда и только тогда, когда

М|^(0КС VteT;

для любого е > 0 найдется б > 0, не зависящее от t, такое, что для всякого измеримого А, для которого Р(Д)<6, имеем М%И) |6(0 | *£ е.

Заметим, что одна или конечное число интегрируемых случайных величин образуют равномерно интегрируемое семейство

и если объединить два или конечное число равномерно интегрируемых семейств, то снова получится равномерно интегрируемое семейство.

Следующие признаки равномерной интегрируемости бывают полезными в конкретных случаях.

Теорема 15. а) Если семейство {$(/), /еТ} мажорируется интегрируемой случайной величиной т) (IgfOl’C ц (mod Р), Мг) < оо), то оно равномерно интегрируемо.

Пусть g^, хе(—оо, оо), — неотрицательная борелев- ская функция такая, что g(x)/x -* оо при |х|—*оо, и

*8Ш<с V/eT,

где с не зависит от t. Тогда сем-ейство {£(/), t г Т} равномерно интегрируемо.

С помощью понятия равномерной интегрируемости легко сформулировать критерий сходимости в $\.

Теорема 16. Для того чтобы последовательность {gn, и= = 1, 2, ...} сходилась в $\, необходимо и достаточно, чтобы она сходилась по вероятности к некоторому пределу и была равномерно интегрируемой.

Аналогично формулируется критерий сходимости в 9? р (р^1). Вместо равномерной интегрируемости самой последовательности |п в этом случае следует потребовать равномерную интегрируемость {|gn|p, п= 1,2, ...}. По поводу доказательств сформулированных утверждений см. А. Н. Колмогоров й С. В. Фомин (1], Ж. Неве (1], П. Л. Хеннекен и А. Тортра (1].

§ 2. Построение вероятностных пространств

Вероятностное пространство является довольно сложным математическим объектом, и во многих задачах его нельзя считать первоначально заданным. Поэтому важно уметь конструировать вероятностные пространства. В наиболее простых случаях нужно построить конечномерное вероятностное пространство по заданной функции распределения. Рассмотрим сначала некоторые свойства функций распределения.

Функции распределения. Пусть g — случайный вектор со значениями в Si4, g = (g1, g2gd), где gA его компоненты. Положим

F(x^ = F(x\ х2, .... xd) = P{g‘ <х', g2<xS, .... V<x4Y

Определение. Функция F(x) называется функцией распределения случайного вектора g (или совместной функцией распределения случайных величин g1, g2, ..., gd).

Пусть а, be Я.4, а={а>, ..., я4), b = (Ь1, .... &d). Условимся писать а ^ Ь (а < Ь), если ак ^ bk (ак < Ь11) для всех к = 1, ..., d.

Назовем множество /[а, Ь) = {х: а ^ х < 6} d-мерным интервалом {интервалом в ^d). Аналогично определяются замкнутые интервалы / [а, Ь] = {х: а ^ х ^ 6} и открытые интервалы 1{а, Ь) = {х: а < х < Ь}. Нетрудно выразить вероятность попадания случайного вектора § в d-мерный интервал через функцию распределения. С этой целью положим {I <. s)

A^f (х1, х2,..xd) = f(x’, х2, ..., х*_|, s, xk+l, ..., xd) —

— f (x1X*-1, /, X*+l, . . ., X4).

Очевидно,

и нетрудно убедиться, что

F {I [a, 6)) = A[ai 6i)A;a2> 62) ... A|ad ^F (x) = P (| e I [a, b». (1)

Теорема 1. Функция распределения F(x) обладает следующими свойствами:,

0 < F{x)^ 1;

если х ^ у, то F{x) ^ F{y);

Ma'.b’^la2,^)^“.b^F^^0 для любых а<Ь;

функция F {x) непрерывна слева, т. е. F (х — 0) = F (х);

Г(х)-*0,если minx* —> — оо, и F{x')-> 1, если minx*-* + оо.

6к

Доказательство, а) — очевидно. Если х ^ у, то F (у) — F (х) = = Р ({£ < у) \ {£ < х}), откуда следует б), в) вытекает из (1). Пусть х„^х„+1^х и limx„ = x. События Ап = {£^х}\{£ <х„) образуют монотонно убывающую последовательность, и П^„=0. и-1

Поэтому (см. (6) § 1) F (х) — F (х„) = Р (А„) -* 0 при n^-оо, что доказывает г). Далее, если minx*-* — оо, то существует такое /, что х/-* —оо. Положим zn = sup{x£, k = n, n-M, ...}, тогда zn-* —оо, zn монотонно не возрастает и f]U/<z„}=0. Поп-1

этому F(х„) ^ Р {^ < z„)-*0. Аналогично доказывается вторая часть утверждения д) (следует заметить, что 1 — F (х) = = р(и^>^0)-и

Произвольную функцию в %d, удовлетворяющую а) —д), будем называть функцией распределения (в ^%d); если же она удовлетворяет только условиям б), в), — монотонно возрастающей функцией в ЗУ1. Монотонно возрастающую функцию в ^d следует отличать от функции d переменных, монотонной по каждому аргументу, — удовлетворяющей только условию б).

Сделаем следующее замечание о возможных разрывах функции распределения F^xy Как функция от одной фиксированной координаты хк, она монотонная, и поэтому пределы ^(х'+О, х2 + 0,..., Xй + 0) в каждой точке х существуют.

Рассмотрим гиперплоскость Я* = (х: х* = с}. При с| ф сг Нс. и Нс, не пересекаются. Поэтому существует не более чем счетное множество значений с^, г=1, 2, ..., таких, что /7(+ оо,..., + оо, с + 0, + оо, ..., -f- оо) —

— F (— оо, . .., — оо, с, — оо, . . ., — оо) =0 для всех с ф с^.

Назовем Н^ гиперплоскостями разрыва функции F(x\ ТаГ

ким образом, если xsH°, где Я0— J И Н^, то F(х) непре- 6-1 г=| г

рывна в точке х, а если as Н° и b°s Н°, то F (/ [а„, &„)) -> -*Р(Да, Ь)), если ап-*а и Ьп—>а.

Конечномерное вероятностное пространство. Пусть (5^, ©, Р}— вероятностное пространство, ©:z>8d, где 83d — о-алгебра борелев- ских множеств в 3ld. Если положить

F (х) = Р (7 (—оо, х)),

то F^ будет функцией распределения.

Теорема 2. Пусть в 31й задана произвольная функция распределения F(x). Тогда можно определить вероятностное пространство {3ld, Ь, Р) так, чтобы © zd 53d ы р{(—оо, х)} = = F^xy При этом вероятность Р на с-алгебре ^ определяется однозначно.

Доказательство этого предложения основано на общих теоремах о продолжении мер. Приведем соответствующие формулировки.

Определения. 1. Нетривиальный класс множеств 9% называется полукольцом, если для любых А, s ЗЯ, i = 1, 2,

А,ПА2е2«, Д1\Д2=НД\ где Д6<=ЭД.

а-i

Неотрицательную аддитивную функцию множеств пг, определенную на полукольце ЗИ, называют предмерой {ЗИ, т).

Функцию множеств in', определенную на классе множеств ЭД', называют продолжением функции множеств пг, определенной на ЭД, если ЭД' zd ЭД и пг'^А)= пг (А) при А е ЭД.

Предмера называется о-конечной на X, если найдется та

кая последовательность Ah, что X = Н Ah, Ake 2Я.

6-1

Теорема 3 (теорема о продолжении меры). Предмера пг тогда и только тогда имеет некоторое продолжение {©, <7}, где ©— о-алгебра, q— мера на ©, когда она полу аддитивна, т. е.

если из (J А»13 А следует

m(AXZm(A6)(2)

для любых А и Аь из ЭД. При этом, если пг а-конечна, то q на а {ЭД} определяется однозначно.

Теорема 4. Класс / полуинтервалов I[a, b), a,be ^d, образует полукольцо, a F(/[a, 6)) — предмера на J.

Действительно, / [a, b) А 1 [с, d) = I [f, s), где t = (f, ..., t4)» s = (s1, ..., sd), tk = max (oft, ck), sk = min (bk, dk) и I [/, s) = 0, если условие i^s не выполнено. Далее, /[а, 6)\/[с, d) = = {х: xi ^[ai, bi)\[ci, di), j = 1, ..., d), что представляет собою сумму не более чем 2d интервалов. Покажем теперь, что F(Да, Ь)) является аддитивной функцией на J. Если интервал / [а, Ь) разбить на два: / (a, Ci) и I [сь Ь), где ci = (с1, Ь2,..., И), а1 < с1 < Ь1, то

F V [а, Ь)) = Д[а1( ci)A[o2 62) • • • А^д ^F (х) +

■■■ 4ww-f№.^»))•

Такое же равенство имеет место, если /[а, Ь) разбить на два интервала с помощью деления любой из сторон [aft, bk) на две части. По индукции аддитивность функции F(I) доказывается для произвольного разложения / на сумму интервалов. ■

Перейдем к доказательству теоремы 2. Остается показать, что функция F(T) обладает свойством полуаддитивности (2).

Пусть / = /[а0, М. In = Il<in, bn) и/с J/». в СИЛУ не" 1

прерывности функции F(x) слева можно найти такое в = = (ед, ..., ед), ей > 0, что

0^FUYafe-8h,bh))-FVlUh.bk))<^, п>0 (Л=1,2, ...).

Открытые интервалы I(а^ — ед, Ь^ покрывают замкнутый интервал /[а0, Ьо — е]. В силу теоремы Гейне — Бореля из них можно выделить конечное подпокрытие, например {/(ад — ед, Ь^, к = 1,..., п}. Тогда последовательность интервалов /[ад— ед, Ьд), к = 1, ..., п, покрывает интервал / [ао, Ьо — е). Непересекаю- щиеся множества (6 = 1,2, ..., п)

Д-1

/ [Оо, ьо — е) п/ [Оо, ьо — е) п/ 1«д — е6, Ь6) \ U / k — 8Z, Ь^

/ [Оо, ьо — е) п

/ [Оо, ьо — е) п

I =1

являются суммами непересекающихся полуинтервалов U5 у = п dk

= 1, ..., d). Таким образом, /[а0, &0 — е) = U U Ui и к-\ /=1

п dkп

FVla0.bQ-e)) = L ZFUkf)<ZF(I[ak-ek, Ьд))< £—1 /—1

<£f№-86, М)< Е^^ + п- &=1^*1

Переходя к пределу при е->0, получим /^(/[ао, ^о)Х Z ^(4)+Л» или, в силу произвольности Г),

Д-1

Теорема Колмогорова. Рассмотрим следующую задачу. Пусть дано некоторое множество измеримых пространств {Xs, 8$}, seS, и совокупность вероятностных мер {/п$|)$2>...,$„; n= 1 2,...; 5де5}, где т$1,$2,...,$„ — мера на прямом произведении п п (л,. ®$д}- Требуется построить вероятностное пространство {Q, ©, Р} и семейство {^, se.S}, где £в — случайный элемент в {Xs, 53s}, так, чтобы произвольная последовательность (gS1, Ц£$„) (п —любое) имела на П{^$6. ^д} заданное распределение т$х$„.

Прежде всего, ясно, что совокупность мерт51,...>5пне может быть совершенно произвольной. Действительно, если задача имеет решение и

то, очевидно, /»+г X/ п X

"Ч *п+г Щ BSk) = т,р$а Щ BSfe) ,(4)

если BSj = XSf при / = n + 1, • • •, га + гаг и

ms>s« (Й В$0 = mshsin (Й Bs^ ’(5)

где (/ь /2, ...,/«)— некоторая перестановка чисел (1, 2, ..., га). Соотношения (4) и (5) называют условиями согласованности семейства распределений ^mS)$„, га = 1,2,..., s^eS}.

Теорема 5 (теорема Колмогорова). Пусть Xs — полные метрические сепарабельные пространства, 8а — о-алгебра боре- левских множеств Xs. Для произвольного согласованного семейства распределений {ms„...,sn', га =1,2,...; s6eSj можно построить вероятностное пространство {й, ©, Р} и семейство случайных величин {^s, s е 5} так, чтобы mSi,...,sn было распределением последовательности {£$1, ..., £$п}.

Прежде чем перейти к доказательству теоремы, приведем ряд нужных для дальнейшего замечаний и построений.

Пусть й— пространство всех функций со = <»($) аргумента seS, принимающих при каждом s значения из Xs (Q = П ХЛ.

X seS /

Определение. Множество C$ts^B^1s"0 вида

С.,$n(S^’--$")) = {<o: (<o(s,)

где B^v",,s^eo^6Sl[, ft = 1,2n}, называют цилиндриче

ским или, подробнее, цилиндрическим множеством в й с основанием В^1^ над координатами st,..., sn.

При фиксированных точках sb s2, ..., sn между цилиндрическими множествами С$|s^B^1s"0и множествами из

о(53$д, ft = l,..., га} существует изоморфизм: каждое множество В 6 a {S$fe, k = 1, ..., га} определяет цилиндрическое множество С$|$„(5),Для которого оно служит основанием;

разным основаниям соответствуют разные цилиндрические множества; сумме, разности или пересечению оснований соответствует сумма, разность или пересечение цилиндрических множеств. Это непосредственно вытекает из определения цилиндрического множества.

Рассматривая действия над цилиндрическими множествами в общем случае, нужно иметь в виду, что одно и то же цилин-

дрическое множество может задаваться над разными наборами координат.

Так, очевидно, что

с... № - С.„.,^,(В X х ... ХХ..1Г>

Легко видеть, что любые два цилиндрических множества CS). . $ (S) и С- /(В) всегда можно рассматривать как ци- линдрические множества над одной и той же последовательностью координат s" s", ..., s", содержащей как sb .... sn, так и Sp ..., s'p. Отсюда следует, что, рассматривая алгебраические действия над конечным числом цилиндрических множеств, можно считать, что они заданы над фиксированной по-- следовательностью координат. Таким образом, класс всех цилиндрических множеств образует алгебру множеств.

К этому можно добавить, что если S — бесконечное множество, Xs имеют по крайней мере две точки, то класс цилиндрических множеств не является о-алгеброй.

Действительно, множество [J CS]t ( {х$п} ), где х$п — одноточечное множество, Xsn е XSn, не является цилиндрическим.

Пусть Х^ — полное метрическое пространство, р* — соответ- п ствующая метрика, k = l,2, ..., п. В пространство Y = Д Xk введем метрику р (уь у2) = aJ£ р| (х*, х^ , где yt = (х{,..., х"),

Точки х^ (6 = 1, ..., п) будем называть координатами точки Уг е У. Нетрудно увидеть, что последовательность точек уп сходится к некоторому пределу тогда и только тогда, когда координаты точек уп сходятся в соответствующих пространствах к некоторому пределу. Отсюда следует, что У — полное метрическое пространство. Оно сепарабельно, так как счетное множество точек вида fx!, х; , ..., х" Y х^где Zk —

\ Г1 г2тп) rk к

счетное всюду плотное множество в Хк. образует в У всюду плотную сеть.

При доказательстве теоремы Колмогорова мы используем следующую теорему.

Теорема 6. Если X — полное метрическое сепарабельное пространство, m — вероятностная мера на о-алгебре борелев- ских множеств пространства X. то для любых е > О и Вей найдется такой компакт К» К ей, что т(В\К) < е.

Доказательство теоремы Колмогорова. Введем ранее определенное пространство й функций ® = co(s), (o(s)eXSl s е S, и для произвольного цилиндрического множества С = С$1s^B^i*’"’5’^') положим P'(C) = m$ls„(B^‘s"0- Из условий согласованности мер вытекает, что Р'(С) определено однозначно. Пусть Ck, k = 1, ..., п, ... — некоторая последовательность цилиндрических множеств. Не уменьшая общности, можно считать, что они заданы основаниями В^1*'*'’^ над одной и той же последовательностью координат («ь ... ..., sp, ...). Учитывая существующий изоморфизм между цилиндрическими множествами над фиксированной последовательностью координат и их основаниями, видим, что Р'(С) является конечно аддитивной мерой. Покажем, что она может быть продолжена до некоторой меры р на {Й, 0}, где © — о-ал- гебра. В силу теоремы о продолжении меры для этого достаточно проверить, что Р' полуаддитивна, т. е. если Со с: J С„, то /1=1

P'(Q<£P'(Q.Л-1

Пусть Со= J С„ (С^ПСГ= 0 при к ф г). Докажем, что П-1

P'(Q= Е Р'(с„).(6)

/1=1

п Отсюда будет вытекать требуемое. Положим С„ = Со \ U С».

1 Множества С„ образуют монотонно неубывающую последовательность цилиндрических множеств с пустым пересечением. Так как

P,(Co)=EP,(Cfc) + P'(C;),л-1

то для доказательства (6) достаточно показать, чтоИт Р'(С£) = 0.

Допустим противное, т. е. что Иш Р'(С«) = а > 0. Обозначим через Вп основание цилиндрического множества С«, и пусть С^ расположено над координатами sb s^ .... sTn. Без умаления общности можно предположить, что при увеличении и набор соответствующих точек (sb s2, ..., srf^ не убывает. В силу теоремы 6 найдется такое компактное множество Кп> Кп а Вп. что

,rtsi8Гп ^п \ Кп^ < ^+т » п = 1,2, ...

Пусть Qn — цилиндрическое множество над координатами п

Si, ..., s. с основанием Кп, Fn = П Qr и ^п — основание мно- "г-1

жества Fn. Очевидно, что Dn есть компакт в Ц Х$. так как Dn является пересечением замкнутых множеств, среди которых по крайней мере одно, Кп, компактно.

Так как множества Fn монотонно убывают, то из to(s)eFn-, п' > п, следует © (s) е Fn. Поэтому, если (х$|, х$2, ..., х$г , ...

Х%+Р) S ^п+р’ Т0 (**>’ Х^> Xsr^eDn‘

Множества Fn, очевидно, непустые. Более того, так как

■C;\F„= U (C'nXQ^c U (C;\QZ), то /“1/-1

пп

Р' (с; \ Fn) < £ Р-(с;\ Q,) = £ /П$1... , (В,\К,)<^, откуда следует, что

lim Р' (F^ = limР' (С^) - limР'(с'п\Fn)>^.

Из каждого множества Dn выберем какую-либо точку ^Хр ..., х" у При любом 6 последовательность точек х^, п — 1, 2, ..., принадлежит компактному множеству в XSfe, а последовательность ^+/, ..., x"+zy / = 0,1,2, ..., лежит в Dn. С помощью диагонального процесса найдем последовательность индексов п, таких, что при каждом к последовательность xj сходится к некоторому пределу х^. Из замкнутости множества Dn следует, что при любом п (х®, х®, ..., x®rt) е Dn.

Определим функцию ©($), положив «>(«*) = xj, к = 1, 2, ..., и доопределив ее в остальных точках произвольным образом. Тогда при любом п имеем © (s) ® Fn с с'п- Следовательно, Q С» п=1 непусто, что противоречит первоначальному допущению. Отсюда вытекает, что lim Р' (Сп) = 0 и предмера Р' допускает продолжение до некоторой меры Р на о-алгебре в, содержащей все Цилиндрические множества пространства. Вероятностное пространство {О,©, Р} построено. Положим теперь ^ = §»(©) = ©($).

Тогда

pfcW^1'

— Р {(» (S|)»($„)) G В'='«>) =

= Р' (С,,„ (В^'-))) - ™.(вс■

§ 3. Условные вероятности

Элементарная формула для условной вероятности события А при гипотезе В

Р(Л|В) = ^а^. Р(В)>0, (1)

показывает, как следует определять вероятность, если определенным образом меняется класс допустимых экспериментов или комплекс условий У, при которых проводятся эксперименты. А именно, к У добавляется следующее требование: рассматриваются только те эксперименты, в которых В обязано происходить.

Поставим вопрос шире. Допустим, что производится некоторый эксперимент Э. Как следует определить вероятности событий, наблюдаемых в других экспериментах, если предположить результат эксперимента Э фиксированным?

Прежде чем дать формальное определение, обсудим и рассмотрим поставленный вопрос в частных случаях. Поскольку эксперимент Э полностью описывается о-алгеброй 5 наблюдаемых в Э событий, обозначим вероятность, которую желательна определить, через Р{Л|5} и назовем ее условной вероятностью события А относительно а-алгебры 8- Если Л е §, то естественно положить Р{Л|8} = 1 или 0 в зависимости от того, произошло ли событие А или нет.

Пусть теперь 8 является простой а-алгеброй, Еи — ее атомы и Р(£п)>0. Если А — произвольное событие на ©, то положим

' Р{Л|^} = 2 PMI £-п)х(^«), (2) П <

где р(Л|£п) определяется по формуле (1).

Отметим существенную особенность данного определения: условная вероятность является случайной величиной, зависящей от результата соответствующего эксперимента. Последнее формально означает, что условная вероятность является 5-измери- мой случайной величиной.

Введем понятие условного математического ожидания М{£|5) случайной величины g. Естественно положить

М(^§}=^Р№19)

ИЛИ

M{^=E£whdP- (3)

При этом предполагается, что Mg конечно. Если в последней -формуле положить g = х И) > то получим условную вероятность события Л:

М{Х(Д)|5}==£Х(£^^^ = Р{Л|5), п

так что условная вероятность является частным случаем условного математического ожидания.

Пусть т] — произвольная ограниченная ^-измеримая случайная величина. Тогда т) = У, ап%(Еп\ Умножая равенство (3) на п

Т), получим

М(ЧМШ}) = £а„ $ ^Р = Х $^р« Д„п Еп

ИЛИ

M(nM{g|5}) = Mng.(4)

Последнее соотношение полностью определяет условное математическое ожидание случайной величины g. Действительно, пусть g — ^-измеримая случайная величина такая, что для любой ограниченной ^-измеримой случайной величины г) имеем М (т)|) = М (r)g). Так как g—постоянная на Еп, то g= сп при <о е £„. Пусть т) = ikEnY Тогда

М(пЬ = с„МХ №^ = с„ Р (£„) = $ g dP,

Еп

т. е. g совпадает с правой частью формулы (3).

Воспользуемся равенством (4) для определения условного математического ожидания в общем случае. Если в (4) положить t) = x(F), то оно примет вид

( М{g|8}dP = ^dP.(5)

гF

Определение. Условным математическим ожиданием M(g|5} случайной величины § (Mg существует) относительно

о-алгебры 8 называется ^-измеримая случайная величина, удовлетворяющая равенству (5) для каждого F е 8-

Теорема 1. Условное математическое ожидание произвольной случайной величины (Mg определено) существует и (mod Р) единственно.

Доказательство. Правая часть формулы (5) является о-ко- нечным зарядом <p(F) на 8. абсолютно непрерывным относительно меры Р. В силу теоремы Радона — Никодима сущест* вует 8-измеримая функция g(u) такая, что

ф(^)= Jg(M)P(d«).F

Остается положить M(g|8} — g(u). Покажем единственность (mod Р) условного математического ожидания. Если существуют две случайные величины g, и g2, удовлетворяющие определению условного математического ожидания, то для любого Ее8 § (11 — £2)dP = 0, что в силу 8-измеримости величины

g] — g2 возможно тогда, когда gj = g2 (mod Р). ■

Определение. Условной вероятностью события А относительно о-алгебры 8 называют случайную величину

Р{Л 15} = м (х(Л) IS}-

Прямое определение Р(Л|8} можно сформулировать так:

Условная вероятность Р{Л|8} есть ^-измеримая случайная величина, удовлетворяющая для каждого Е е 8 равенству

JPMlS}dP = PUHF).(6)

F

Из теоремы 1 следует, что Р (Л 18} существует и при каждом А (Ле@) определяется (mod Р) единственным образом.

Очевидно, что для любой 8-измеримой случайной величины выполняется равенство (4), если только величина r)g интегрируема. Соотношению (4) можно придать следующую важную интерпретацию. Предположим, что Mg2 <. <». Будем рассматривать случайные величины как векторы в гильбертовом пространстве ^(й, ©, Р). Положим для краткости g = M{g|8}, и пусть Н обозначает подпространство S?a(Q, 8, Р) всех 8-из- меримых случайных величин с конечным моментом второго порядка. Н является линейным замкнутым подпространством ^(й, ©, Р), g е Н, и для любого т) е Н Mt](g—g)=0. Это равенство означает, что вектор g—g ортогонален подпространству Н, т. е. что g является проекцией вектора g на Н. Итак,

если М|2 < оо, то условное математическое ожидание M{g|$} является проекцией | на подпространство всех ^-измеримых случайных величин с конечным моментом второго порядка.

Приведем ряд свойств условных математических ожиданий. Условимся, что все рассматриваемые ниже случайные величины имеют конечное или бесконечное математическое ожидание, а все написанные равенства понимаются как равенства с вероятностью 1.

Если случайная величина | ^-измерима, то М{^} = £.

Действительно, условие (5) выполняется тривиально, если положить М{£|$} = |. В частности, если Л eg, то

Р{Л|§}=х(Л).(7)

Если gi, £2 принимают значения одного знака или имеют конечное математическое ожидание, то

М& + £21т = ми,18} + М&|8}.

Положимiz =M{|i|3).Для любогоFe^

Uh+ ^dP- $1^+ $l2dP =

FFF

= ^P +J;2dP= $&+&)dP.

FFF

Учитывая единственность (mod P) условного математического ожидания, получим требуемое.

Следствие. Если А П В = 0, то

PMUBIS}-PMIS) + P{5|S)(mod Р).

Если l^i)» то

MUI8}<M{nl8),

когда хотя бы одна из сторон неравенства имеет смысл.

Если ч ^ 0, то J М (n 18} dP > О для любого F е 8. Следо-

F

вательно, М (т) 15} ^ 0. В общем случае, положив т) = & 4* + (Л — £) и воспользовавшись б), получим

М(п18}==М{||8} + М{п-£|8}>М{£18}.

Если £„, п = 1, 2, ..., — монотонно неубывающая последовательность неотрицательных случайных величин, то

limM{|„l8) = M{lim^|8}.

Действительно, в силу теоремы об интегрировании монотонных последовательностей

^ lim М {§ft !8}dP = lim J М U„ 15} dP <lim ^„dP = $limg„dP. FF' FF

Следствие. Если Лп, n = 1, 2, ..., попарно несовместимы, то

p[U^i4 = 2p{^|5}.(8)

I 1 J П=1

Важное замечание. Условные вероятности Р{А 15} = Р${А, ©} являются функциями двух аргументов — Лию (Ле®, юей). Равенство (8) имеет место только с вероятностью 1, причем исключительное множество N тех со, для которых (8) не выполнено, зависит от последовательности Ап. Поэтому, вообще говоря, нельзя утверждать, что Pg (Л, со) для каких-либо со является мерой.

Если математические ожидания ^ и а£ имеют смысл, а — ^-измеримая случайная величина, то

М{а||5} = аМ{^15}.(9)

В силу б) при доказательстве можно ограничиться предположением, что g > 0 и а ^ 0.

Для дискретных а и g равенство (9) было установлено ранее, хотя и записывалось в другой, но эквивалентной форме (4). В общем случае построим монотонно возрастающую последовательность неотрицательных дискретных случайных величин £„, сходящуюся к § при каждом ю, и монотонно возрастающую последовательность ^-измеримых неотрицательных дискретных случайных величин ап. сходящуюся к а, подставим в (9) а=ап, £ = gm и перейдем к пределу, положив сначала tn—>оо, а затем п-* оо. Используя г), получим требуемое. ,■

Следствие. Если F е $, то

PMQFIS^x^PUIS}.(10)

Повторное применение операции вычисления условного .математического ожидания обладает важным и часто применяемым свойством «поглощения».

Теорема 2. Если 51 с: 8г» то

М {M{^I52}|8i} = M(6I5J-

Доказательство. Из F е Si следует F е 5г, и поэтому $М(М(£152}181МР= $M{|l52}dP= JUP= $M{^|5i}dP. 3FFF

Сопоставляя крайние части полученных равенств, получим требуемое. Заметим, что равенство M{M(t|5iJ |8г} = M{j|5j ($с%) тривиально. Действительно, величина M(||$i} 8г. а тем более и 82-измерима. Написанное равенство тогда вытекает из а). ■

Пусть рассматривается некоторый эксперимент, описываемый случайным элементом ^, t, = б(ю), со значениями в (X, 53}. Условное математическое ожидание М{§|У случайной величины g относительно случайного элемента £ — это то среднее значение £, которое оно имеет при фиксированном значении £. В соответствии с предыдущими рассуждениями примем следующее

Определение. М{^|У= М{||5(}, где 5^— о-алгебра, порожденная случайным элементом £.'

Если исходить из первоначального определения условного математического ожидания, то это определение эквивалентно следующему:

МШ является ^-измеримой случайной величиной, удовлетворяющей при любом В е 93 соотношению

J M{g|g}dP = gdP.(11)

в-1 (В)g"1 (В)

Теорема 3. Условное математическое ожидание М {§ | £} является ^-измеримой функцией от £, т. е. найдется такая ^-измеримая действительная функция h(x), хеХ, что М{^|У = = h&) и УВ^Ъ

h (х) Pg-1 (dx) = $ g dP.

вg-1 (В)

Первая часть утверждения вытекает из теоремы 5 § 1, а вторая— из правила замены переменных (теорема 12 § 1). ■

Отметим следующие свойства условных математических ожиданий относительно случайных величин, непосредственно вытекающие из предыдущего:

Если ^, = h(t^, где h(x)—^-измеримая функция, то- М(6|Е>= 6-

Если (;,• — случайные элементы в {Хй 93,}, t = 1, 2, (£1, £2)—«я прямое произведение, то M{M{g|(Si, ?2)}Ki} = = M{s|U-

Утверждение е) следует из д), ж)—из теоремы 2.

Регулярные условные вероятности. Положим Р {Л123} = = Р8(Л, со). При каждом Ле© условная вероятность Р6 (Л, со) определена однозначно, но только с вероятностью 1.

Определение. Если существует функция р(А, ю), Ле е ©, со е □, такая, что

почти для всех го р(Л, и), как функция от множества Я, является вероятностной мерой,

при фиксированном А р(А, ш) ^-измерима и

р (Л, о) = Р3 (Я, (о) (mod Р),.

то р(А, (о) называют регулярной условной вероятностью.

Можно привести примеры, когда регулярные условные вероятности не существуют. Если же они существуют, то условные математические ожидания выражаются через них с помощью интегрирования.

Теорема 4. Если р (Л, to) = Р3 (Я, <о) — регулярная условная вероятность, то

ма18)-$/(®эР(м<»).(12)

Доказательство. Класс случайных величин g, для которых эта формула справедлива, линеен, замкнут относительно предельного перехода по монотонно возрастающим последователь- йостям неотрицательных случайных величин (в силу теоремы об интегрировании монотонных последовательностей) и содержит индикаторы %(Л), Ае®. Отсюда формула (12) следует для всех g, для которых Mg конечно. ■

Поскольку регулярные условные распределения не всегда существуют, введем видоизменение этого понятия, достаточное для решения ряда задач, возникающих в приложениях.

Пусть {X, 8}—измеримое пространство, g— случайный элемент в {X, 53}, 5 — сг-алгебра, 5с0.

Определение. Если существует функция Q^B, ш), определенная на^Х& и такая, что

при фиксированном Вг8 Q(B, ®) ^-измерима,

с вероятностью 1 Q(B, ю) при фиксированном с» является вероятностной мерой на 8,

при каждом Ве8 Q(B, ю)= P((gе 8) |8} (mod Р), то Q (В, го) называют регулярным условным распределением случайного элемента g относительно о-алгебры 5.

Условие в) эквивалентно требованию: для всякого F е 5jQ(B,«>)P(d<o) = P({geB}nF).

F

Теорема 5. Пусть X — полное сепарабельное метрическое пространство, 8 — о-алгебра борелевских множеств X, g — случайный элемент в {X, 8}. Тогда g обладает регулярным условным распределением относительно произвольной о-алгебры 8 (5с@).

Доказательство. Пусть q — распределение случайного элемента g. Можно построить монотонно возрастающую последо-

вательность компактов Кп в X такую, что (см. теорему 6 § 2) q (Х\Кп) < еп и еп-*0. Пространство всех ограниченных непрерывных функций на метрическом пространстве X обозначим через ^(.Х) и введем в ‘бЦХ) метрику p(f, g), положив r(f, g) = — Ilf — ST IL Ilf 11= sup | f (x) |. Пространство ^kKn) является

x e X '

сепарабельным. Пусть (kkM, & = 1, 2, ...}—счетная всюду плотная сеть в ^(Кп). Продолжим fnit(*) на все X так, чтобы sup I tnk (х) | = sup | tnk (х) |.

хе КпхеХ

Положим Хп = Х«(?), Хп(^) = х(^п, *)• Из свойств условных математических ожиданий вытекает, что можно найти такое Do, что Р (Do) = 0 и при щ ё Оо выполняются следующие соотношения:

если fnk>0, то

М kU (?) х J 8} > о,М (rf nk (?) х„ 18) = гм (f „й (?) х„ 18};

если | f„ft — fn/1 < г, то

|М{(^-^)х„15}1<г,

М UU (?) + и (?)) х J 8} = М {f „й (0 х„ 18) + М {f „/ (?) х» 18} для всех п, k, j и рациональных г. С другой стороны, j (М {f (?) х„ 18) - М VU (?) х J 8}) х„ (?) dP | <

< $ Ifto — fnk(xHq(dx),

так что если II Х« (f — L/) II ~* О, то

М {f (?) xJ 8} = lim М {f ^у (?) х„ 18) (mod P),(13)

причем предел справа не зависит от выбора аппроксимирующей последовательности.

Так как условное математическое ожидание не определено на множествах вероятности 0, то можно воспользоваться соотношением (13) для определения M{f(?)xn|8} в случае произвольной f, непрерывной на Кп, где fnkj—некоторая последовательность элементов всюду плотной сети такая, что IKf — fnAy)Xnll-*0. При таком определении условных математических ожиданий для всех ю ё Do и для всех непрерывных на Кп функций f(*), g(x) и любых действительных с и d

М(/(?)Хп|5}> 0, если f>0,

М (cf ® х„ + dg\^ х J8} = сМ {f (У х„ 18) + dM kg (?) Х„ 18},

т. е. с вероятностью I M{f(£)XnJ$} оказывается положительным линейным функционалом на ^(КпУ Согласно одной теореме из теории меры такой функционал допускает представление

М (f © %„ 18} = ( f W Яп (dx, о»), е» ё Do,

где <7» (В, го)—меры определяемые на борелевских подмножествах Кп однозначно. Для произвольного В е 8 положим .

^(В, to) = lim^n(B Л^п, со), ®ёВ0,

Я (В, <в) = <7 (В),с»еВ0.

Нетрудно проверить, что при фиксированном го я (В, <о) является мерой. Действительно, во-первых, q(B, ©) конечно аддитивна (это вытекает из аддитивности ЯпУ Далее, если В =

— U Вп, ВПД\ВП1=0 при «1^/12, то (юёВ0) п=\

11я(вк, <о) = 9(ув6, to)<7QBft, ©) =

= lim qn (0 Bk, to ) = lim £ Яп (Bk П Кп, <й)<11 я (Bfe, <в). П->оо \ 1/ rt->oo 11

Заставляя N-* со, получим q (j В6, <в) = 2 Я(В», <о), т. е. q(В, со)

■счетно аддитивна. Из равенства

J f Wqn(dx, со) = J f(x)q(dx, <в), юё2>0. K,iKn

следует (©ёВо)

J f (x) q (dx, m) = J f(x)q (dx, ©) = lim J f (x) qn (dx, to)

для любой ^-измеримой неотрицательной функции f. Поэтому, если f — непрерывная и ограниченная, то

■ м (f 13) = lim М (fx„ 15} = ( f (x) q (dx, to) (mod P).(14)

П-*ооJ

Так как произвольную ограниченную ^-измеримую функцию /(х) можно аппроксимировать последовательностью ограничен-

НЫХ непрерывных функций fn(x) так, чтобы\|f(x)—fn(x) lq(dx)->-

X

—>0, то из неравенства—>0, то из неравенстваM{f(C)l8)dP- $M{f„(C)|5)dP|<.

—>0, то из неравенства

—>0, то из неравенства

^ J I f 00 — fn^ l?(dx) вытекает, что равенство (14) имеет F

место и для произвольной ©-измеримой ограниченной функции. В частности, Р{В|5} = q^B, и) (mod р). ■

Рассмотрим случайные элементы ^ и ^ в {Уь ©J и (Уг, ©2} соответственно, где {У<, ©J удовлетворяют условиям теоремы 5.. Положим У<>-2> = У, ХУ2, ©(|’2> = о (®д, ^=1,2). Побледователь- ность С<Ь2) = (5ь &) можно рассматривать как случайный элемент в {У(|-2), 9У*,2>), а У<и 2> — как полное метрическое сепарабельное пространство. Пусть qt обозначает распределение Сс 0=1, 2), <7<u2> — распределение С<1-2>, а у*211) — регулярное- условное распределение Сг относительно о-алгебры ^5,, порожденной случайным элементом Сь Так как ^(21 ° является ^.-измеримой функцией, то qe 1 n (В2, со) = q (В2, СО, где В2 е ©2, и функция q(B2,y) ©i-измерима. Из определения условных вероятностей следует

J <7(B2,C0dP = <7<'-2)(BlXB2), <77* (В,)

где Bi — произвольное множество из ©1 и С1 = 91(<о)- В соответствии с правилом замены переменной это равенство можно записать в виде

^‘•^(Bt X В2) = ^(В2, yx)dyxв,

или

qW. 2> (Вх X В2) = $ Х0> (5ь Ут) $ -Х<2) (В2, у2) q ^уг, у^ qx (dyx), (15> У. • У,

где х<{> — индикаторы множеств в пространстве Yt. Из последней формулы вытекает

Теорема 6.

J f(yi,yi)dq<l’2> = ^ A f(yx,y2)q(dy2, yx)\qx(dyx) (16> у(Ь2)уДу2)

для любых ^^-измеримых неотрицательных функций.

Действительно, класс функций f, для которых формула (16) верна, линеен и замкнут относительно предельного перехода по монотонным последовательностям. Так как он в силу (15) со-

держит функции вида х(|)Х<2)> т0 он содержит и их линейные комбинации. С другой стороны, произвольную ^’^-измеримую функцию можно аппроксимировать монотонно возрастающими последовательностями линейных комбинаций функций вида Х(1)Х(2). Д

Заметим, что формула (16) верна и для знакопеременных функций f, если только одна из сторон равенства (16) имеет смысл. Из формулы (16) вытекает

Следствие.

М V (Si, &) I Зе,} = $ f (Si, it) q (dy2, &).(17)

Y,

Полученным результатам можно придать следующую более общую форму. Пусть &— случайные элементы в {Yk, 8h}, Yh— полные сепарабельные метрические пространства. Положим

ум-ПП, 2У'.») = а{93ь Л=1$},

Th = (Sb S2, •••. Ss), ^ — распределение элемента S* в (Уь ^}, ^ = q^4Bs, ^, ..., Ss-i) — регулярное условное распределение элемента Ss относительно а-алгебры Зч$_| — З^, е2 С»_О* Из формулы

повторно применяя соотношение (17), получим

M{f(S„ SJI3e,} =

= S“ $ (V^b У2’y^^"4dyn, Si, Уъ • ••, Уп-i^X

У2 yn-i Yn

X^Hdyn-i. Si. У2. • • •• Уп-1) • • • <^4dyi, Si), (18)

M{f(s,S„} =

= S “ $ (\fkyu---»y^q'-n4dyn,y\z/„-i))x

X <7(rt-1) Цуп-\. У1. • • •. Уп-1) • • • q® (dy2, yt) qx (dyi). (19)

Независимость

Пусть {£2, ©, P)— фиксированное вероятностное пространство. Под событиями будем понимать, если не оговорено иное, ©-измеримые подмножества Q.

Два события А и В называются независимыми, если Р(ЛПВ)= р(Л)Р(В). В случае Р(В)>0 это условие эквива-

лентно следующему: р(Л|В)=Р(Л). Из определения непосредственно следует:

Q и Л, где Л—произвольное событие, независимы;

если p(V)=0, Л—любое, то N и Л независимы;

если Л и 6г (f = 1, 2) независимы, Вх зэ В^, то Л и ВХ\В2 независимы. В частности, Л и В| независимы;

если Л и Bi независимы, i = 1, 2, ..., п, причем Вь В2,... п

..., Вп попарно несовместимы, то Л и U^z также независимы. ।

Заметим, что без оговорки о попарной несовместимости событий Bt последнее утверждение, вообще говоря, не имеет места.

А не зависит от А тогда и только тогда, когда Р(Д) = О или Р(Л) = 1.

Пусть / — некоторое множество, $и, 1^1}—множество классов событий.

Определение. Классы событий {ЭЯ/, I е /} называются независимыми (или независимыми в совокупности), если для произвольных попарно неравных Ц, ..., i„ (ih е !) и произвольных Aik, Aik^3Rik, ^=1, 2, ..., п,

Р(Л,,ПЛ,П ... ПЛ,,)-Р(Л,,)Р(Л,)... Р(Л„).

Заметим, что для бесконечного множества классов событий определение независимости эквивалентно требованию, чтобы произвольное конечное подмножество классов событий состояло из независимых классов событий.

Назовем класс событий л-классом, если он замкнут относительно операции пересечения событий (т. е. если из А е ЭЯ, В е ЭЯ следует А П В е ЭЯ).

Теорема 1. Пусть {ЗЯ/, 1^1)—совокупность независимых п-классов событий. Тогда минимальные о-алгебры о {9Яг}, / е /, независимы.

Доказательство. Можно ограничиться конечным числом классов ЗЯ/, ..., 9ЯП. Достаточно показать, что если один из классов, например ЭМ,» заменить на о{9Я1}, то новая последовательность классов событий также независима.

Обозначим через 91 класс всех событий, не зависящих от ЗйгЭЯП. По определению ЭЯ1 с: 91 и 91 обладает свойствами: он замкнут относительно суммирования счетной последовательности непересекающихся событий и образования разности В2\ВХ прц условии, что В2 =) Вх. Теорема 1 теперь вытекает из следующего предложения.

Теорема 2. Если класс событий % содержит п-класс ЭГО и обладает свойствами:

из Av с А2, А{ ей, i = 1, 2, следует Дг\Д1 ^ %;

из Ап е ^,п = 1, 2, ..., Аи П Ат = 0 при п ^ т следует илле?1, ।

то 91 содержит ст {Эй}.

Доказательство. Обозначим 91] минимальный класс событий, содержащий Эй и обладающий свойствами а) и б) (91] есть- пересечение всех классов, содержащих Эй и обладающих свойствами а) и б)). Покажем, что 91] = о {Эй}. Пусть 91] (В) обозначает класс всех событий А из 91], для которых А П В е 91]. Легко проверить, что 91] (В) обладает свойствами а) и б). Далее, если Be Эй, то 91] (В) =) Эй, так как Эй — л-класс. Поэтому 91] (В) = 91] (если Be Эй). Но это означает, что 91] (Л) Z) Эй для любого Ле 91], т. е. 91] (Л) = 91] теперь уже для любого Ле Я]. Таким образом, 91] является л-классом. Но л-класс событий, одновременно обладающий свойствами а) и б), очевидно является ст-алгеброй. Итак, 91] = ст {Эй} и 91 zd а (Эй). ■

Теорема 3. Пусть {Эй], t е /}— множество независимых п-классов событий, Z = Л U /2 (/] П/2 = 0), 83а = о {Эй], / е I^v к = 1,2. Тогда 931 и 93г независимы.

В силу теоремы 1 можно ограничиться предположением, что- Эй] — ст-алгебры. Рассмотрим классы 91а (k = 1, 2), состоящие из всевозможных событий вида Л^ЛЛ^Л ••• ПЛ]я, п— любое, ir е /а. Они замкнуты относительно пересечений, 91а содержит все Эй], ielh, и 9ti и Sts независимы. В силу теоремы 2 ст{Я]} = = о{2й], i е/]} и <у{912}= о{9й], t е/2} независимы. ■

Следствие. Если I разбить на произвольную совокуп- кость подмножеств, 1 = J /6 попарно без общих точек, т» keQ

о-алгебры ^ = о {SI,, iel^, кг Q, независимы в совокупности.

Независимые случайные элементы. Пусть ^ = ft (со) —случайный элемент в ^Хь S3, i г I.

Определение. Случайные элементы {^, i г /} называются независимыми (независимыми в совокупности), если для любого п и произвольных Вк е 93^ ik г I»

О

ПX п

Более общим является определение независимости семейства множеств случайных элементов. Рассмотрим некоторое семейство множеств ^, iel^, реЛГ, случайных элементов со значениями в {-^ь 93^}.

Определение. Множества случайных элементов {g^, 7е е 7^} (ц е М} называются независимыми (взаимно независимыми}, если независимы классы событий {Sl^.p еЛ1), где 9Яц состоит из всевозможных событий вида

п к? еВ*Ь=1,2ч^к, 8$е®.

6JV 1ъ,а ‘аг > >.> * и’ Ч Ч

Пусть о{^, ie 7и} = 8ц обозначает о-алгебру, порожденную множеством случайных элементов $, i е I , т. е. минимальную о-алгебру, относительно которой измеримы все случайные величины $, I е^, р фиксировано.

Теорема 4. Множества случайных элементов {g^, I е 7Ц} (реМ) независимы тогда и только тогда, когда независимы о-алгебры 5ц, р, е М.

Доказательство вытекает из замечания, что классы событий, введенные в определении независимости множеств случайных элементов, являются л-классами, и из теоремы 1.

Следствие. Пусть (gy, ..., g^), р е М, — множество независимых последовательностей случайных элементов, ^(Хр ... ..., xS(J — о {^, А = 1, ..., зи]-измеримые функции (реЛ1). Тогда случайные величины

^» = 8,рсу.

взаимно независимы.

Замечание. Случайные величины {g^, р е М} взаимно независимы тогда и только тогда, когда для любого п, любых ра, Р2, . • •, р« из М и любых действительных а^ ..., ап

п

рк^ ^ ^ь • • 6ii„ < ^n}== jt р к^й < ®i$v

Необходимость тривиальна, а достаточность вытекает из того, что о-алгебра, порождаемая событиями вида {gu < а}, совпадает с о-алгеброй {^еВ, Ве^1}, 8*—о-алгебра боре-

.левских множеств на прямой.

n)jvn)jvПусть ^k, А = 1, 2, ..., п, — последовательность независимых случайных элементов (на {Xh, 8ft} соответственно), qk — распределение ^к на 8*, ф1- п) — совместное распределение по

n)jv

n)jv

следовательности (gi, ..., gn) в {jl^b <?№&, A: = l,

Из определения независимости следует, что

?<>."> (5, ХВ2Х ... ХВ„)=Ц^(ВД В.еП- (1)

Очевидно и обратное: если выполняется (1) для всех Вк е 8д, то величины {ga, к = 1, ..., л} независимы.

Пусть g(xb х2)— о{®ь i= 1> 2}-измеримая функция, gi и g2--независимые случайные элементы и Mg(£i, £г)< °°. Из правила замены переменной и теоремы Фубини тогда следует, что Mg(xb g2) является ^-измеримой функцией, конечной для gi-почти всех Хь и

Mg (gb g2) = 5 <7i № $ 8 (*ь *г) <72 (dx2).(2)

Z X,

В качестве следствия отсюда вытекает формула

Mg(wgfe) = Mg($,)Mg(:2),(3)

справедливая, если Mg(^i) конечны.

Следующее предложение можно рассматривать как усиление предыдущего.

Теорема 5. Если случайная величина g с конечными математическими ожиданиями и о-алгебра 5 независимы, то

M{g|g)=Mg.

Доказательство. Независимость случайной величины g от о-алгебры 8 означает, что независимы о-алгебры 5 и 5$ = o(g}. Поэтому для любого Fe^ случайные величины § и %(В) независимы. Следовательно,

( g dP = Мх (В) Mg = J (Mg) dP. FF

Так как Mg — постоянная, то она 8-измерима. Поэтому

Mg = M{g|5}. ■

Закон «О или 1». Пусть Ап, и=1, 2, ...,— некоторая последовательность событий.

Теорема 6 (теорема Бореля — Кантелли). ЕслиЕ Р(лх П=1

< оо, то событие Ит Ап = (Лп бесконечно часто} имеет вероятность 0. Если же события Ап, п = 1, 2, ..., независимы, то вероятность события Ит Ап равна 0 или 1 в зависимости от того, сходится ли ряд 5 Р (Л„) или расходится.

/1=1

Доказательство, а) Так как ПтЛ„ = П J Лй, то п=1 к=п

Р{Л„б. ч.} = lim pf 0 лЛ< lim £ Р(Л6) = 0,П->оо \к = П ✓ п-^оо к=П

что доказывает первую часть утверждения.

Пусть теперь события Лп независимы. Нужно доказать только, что если ^Р(Лп) = оо, то Р{ИтЛ„}=1. Пусть А* = П-1

= ПтЛ„, тогда

Й\Л* = U П (Й\Л)п = 1 к=п

И

Р(Й\Л*)= lim pfn №\л6))= lim П Р(й\л*) = п->оо \к=п/ /г->оо к = п

= Нт П(1-Р(Л)) = 0 «->оо к = п

в силу расходимости ряда 5 р(Л). ■

6=1

Рассмотрим теперь произвольную последовательность независимых о-алгебр gn. » = 1, 2, ... В силу теоремы Бореля — Кантелли событие Л* = ИтЛ„, где Ап — произвольная последовательность такая, что Ап е 5П, имеет вероятность 0 или 1. Этот результат может быть обобщен на произвольные события, порождаемые совокупностью всех о-алгебр ^п, п = 1, 2, ..., и не зависящих от произвольной конечной последовательности о-алгебр 5ь 5г, ..., 8«- Уточним это утверждение.

Пусть Эй = o($j, j = к, к + 1, ...}, 8й образуют монотонно убывающую последовательность о-алгебр. Их пересечение 23 = = П ®б есть снова о-алгебра. Положим по определению t=i

23 = ih^„ = П o^j, 1 = к, А-Ц,£-1

Очевидно, что о-алгебра lim^» не изменится при замене любого конечного числа о-алгебр $ь 5г,...»5« другими.

Теорема 7 (общий закон «О или 1» Колмогорова). Если 5П| л = 1, 2, ..., — взаимно независимые а-алгебры, то всякое событие из limgR имеет вероятность 0 или 1.

Действительно, пусть А е Нт §„. Тогда Л г 8а при любом А, следовательно, А и о {Si, ...» Sa-i} независимы. Поэтому независимы А и a {Sb ..., Sn, • • .}• Так как А е a {Sa, к = 1, 2, ...}, то А не зависит от А. Это возможно только тогда, когда Р(Л)= 0 или Р(Л)= 1. ■

Теорема 8. Пусть {£n, п = 1, 2, ...}— последовательность независимых случайных элементов в фиксированном метрическом пространстве {X, 8}, S«— о-алгебра, порожденная £п, « 8П = о {Sa, k = п, п -|- 1,...}. Тогда

предел последовательности {^n, п = 1, 2, ...} существует с вероятностью 1 или с вероятностью 0;

если X сепарабельно и полно, то предел последовательности {£„, п= 1, 2, ...}, если он существует, с вероятностью 1 постоянен;

если z = f(xb х2, .... хп, ...) — функция бесконечного числа аргументов хпеХ, n = 1, 2, ..., и f(£t, ..., gn, ...) ^„-измерима, каково бы ни было п, то она с вероятностью 1 по

стоянна.

Доказательство, а). Если р(х, у)—расстояние в X, то множество точек, в которых ^„ сходится, можно записать в виде

П {| ^' £«" । < А} п\ пГ^пП {| ^' £«" । < А} п\ пГ^пD = Q |J Q {о: I £»'— ?п» I <-£■}. Так как события Ап = £-1 п«1 п', п" >п

П {| ^' £«" । < А} п\ пГ^п

П {| ^' £«" । < А} п\ пГ^п

монотонно возрастают, то U^ns^« п-1

при любом пг, так что и 5 е 8т при любом tn и можно применить общий закон 0 или 1.

Fa}],Fa}],Пусть F — замкнутое множество, F с: X; через Fh обозначим открытое множество Fa = {x: р (х, F) < -^}. Тогда событие D П {lim £n е Г} можно представить в виде

Fa}],

Fa}],

ДЛ(НтСпеВ} = ДП П U П ^

L&=1 n»i к^п

что принадлежит 8m, m= 1,2, ..., в силу тех же соображений, что и при доказательстве а). Таким образом, для любого замкнутого F выполняется соотношение P{lim£,nsF} = 0 или 1. Но класс множеств 8, для которых аналогичное заключение имеет место, является о-алгеброй. Следовательно, Р {lim £п е В) = 0 или 1 для любого В е 8. В случае сепарабельного и полного пространства X отсюда нетрудно получить, что мера q, индуцируемая на 8 случайным элементом lim£n, сосредоточена на одном атоме. Действительно, так как q(X) = 1, то найдется сфера Si радиуса 1 такая, что q^S^ = 1 (если бы такой сферы

не нашлось, то все сферы в X радиуса 1 имели бы меру О, что невозможно, так как X покрывается счетным числом таких сфер). Аналогично, найдется сфера S2 радиуса у, S2 с Si и </(S2) = 1. Продолжая это рассуждение, получим последовательность вложенных друг в друга сфер Sn радиуса -^-, мера которых равна 1. Эти сферы имеют только одну общую точку* и ^{х} = lim^(Sn) = 1.

События А = {со: f(gi,&, ..., ^)<а}е$п по условию. Поэтому АеИш^п и А имеет вероятность 0 или 1. Таким образом, функция распределения случайной величины £ = = f(£i, ..., ^п. •■•) принимает только два значения 0 или 1 и величина £ с вероятностью 1 постоянна. ■

ГЛАВА III

СЛУЧАЙНЫЕ ПОСЛЕДОВАТЕЛЬНОСТИ

Мартингалы

Определение и простейшие свойства. Мартингалом называют семейство случайных величин £(/), teT (Т—множество действительных чисел), обладающих некоторым «безразличием к прошлому». Это «безразличие» состоит в том, что условные математические ожидания приращений mti)—^(^i) (^</2) при заданных значениях |(s), s ^ /, независимо от этих значений равны нулю. Если предположить, что эти условные математические ожидания неотрицательны (неположительны), то §(0 называют субмартингалом (супермартингалом).

Перейдем к точным определениям. В настоящем параграфе в основном рассматриваются последовательности случайных величин. Но сначала мы приведем общее определение. Пусть {£2, ©, Р}—фиксированное вероятностное пространство, Т— множество действительных чисел. Будем интерпретировать значения teT как моменты времени проведения некоторых экспериментов. Совокупность событий, наблюдаемых до момента времени t, "обозначим через 8<. Естественно, что 8/, с: ^t» если t\ < /2- Рассмотрим семейство случайных величин WV teT, обладающих тем свойством, что значения g(I) точно определяются совокупностью экспериментов, производимых в моменты времени s, s ^ /. Это означает, что величины £(/) должны быть St-измеримы при любом teT. Чтобы описать эту ситуацию формально, введем следующие определения.

Определение. Монотонно неубывающее семейство о-ал- гебр {S(, teT) (8t, с §/„ если t\ < t^ St с S) назовем потоком о-алгебр. Семейство случайных величин {!(/), teT) называют подчиненным потоку {St, teT), если £(/) при любом teT ^t-измеримо.

(1)(1)Определение. Семейство {!(/), ^t", teT), в котором случайные величины £ (/) подчинены потоку о-алгебр {St, teT) и MR(/)| < 00, t е Т, называют мартингалом, если при s <_t, s, teT

(1)

(1)

М{£(Ш$) = £($),

суб мартингалом, если

(2)(2)M(|(OI&}>£(s),

(2)

(2)

и супер мартингалом, если

ма«> 1^л <s(s>- (з)

Из определения следует, что а-алгебра o{g(s), s ^ t, seT^ содержится в St. В ряде случаев можно считать, что St = = o{g^s), s^/, se Г), но часто под St следует понимать более широкую о-алгебру. В тех случаях, когда понятно, о каком потоке о-алгебр идет речь, мартингалом (или субмартингалом) будем называть семейство {£(/), /еГ}.

Так как при умножении на —1 супермартингал переходит в субмартингал, то свойства, установленные для субмартингала, легко переформулировать для супермартингала.

Из определения условных математических ожиданий вытекает, что семейство {£(/),5г, t е Г} будет мартингалом (субмартингалом) тогда и только тогда, когда оно подчинено потоку St, te Т, М|£(01 < оо и для любых s, /, Л е S« (s <. t, s, t e T)

^(s)dP = ^(/)dPAA^(s)dP = ^(/)dPAA(4)(4)(5)(5)

^(s)dP = ^(/)dP

AA

^(s)dP = ^(/)dP

AA

(4)

(4)

(5)

(5)

В частности, в случае мартингала М§(0 = const, а для субмартингала Mg(s) ^ Mg(t) при s < 1.

Очевидно, что если |(0, л(0—Два субмартингала, а > 0, b > 0, то a^t^ 4-6т)(0 также является субмартингалом. С другой стороны, линейная комбинация двух мартингалов всегда является мартингалом.

Теорема 1. а) Если {£(0, 5г, teT)—мартингал, f(x)— непрерывная выпуклая функция и M|f(§(0) | < °°, то {f(i(t))« St, fe?)—субмартингал, б) Если же {£(/), 5г, te Г)—субмартингал, a f (х) — непрерывная монотонно неубывающая выпуклая функция, M|f(g(/))|< оо, то (f(g(O). 5г, t е Г} — также субмартингал, в) Если ЦЬ> ЛЮ, ^е(0, Л>— субмартингалы, то ^W V п(0— также субмартингал.

Эти утверждения легко вытекают из неравенства Йенсена. Действительно, если функция f выпукла, a g(/)—мартингал, s < /, то

м {/ (g (0) I &} > f (М и (01&}) = f (6 (s)),

т. e. f(g(O)— субмартингал. Если |(/) — субмартингал, а функция /(x) выпукла и монотонно не убывает, то

м {/ (6 (0) 18Л > f (М и (01 &» > f a (S)).

Пусть S (/) = &(/) V т)(0« Процесс S(0 подчинен потоку 8< и интегрируем. Для любого А е Ss, где s е Т, s < /, учитывая, что события Л1 = А Л {g(s) < 4(s)} и Лг = Л Л (|(s) ^ r|(s)} Si- измеримы, имеем

$ S(«MP = $ П(s)dP + ^(s)dP <

АА,А,

< $t]0dP + ^(OdP< Je(OdP. ■ AiA,A

Следовательно, S(0— субмартингал. ■

Следствие. 1) Если §(/), /еТ,— субмартингал, то и аУ ^W, teT, — также субмартингал, где а — постоянная.

Если £(/), t е Т,— мартингал, то |£(/) |—субмартингал и M|S(Ol— монотонно неубывающая функция. Если р > 1 и М|6(0|р<оо, то Ц(0|р — субмартингал. Если же £(/)—субмартингал, то S+(/)—также субмартингал. При этом, если р>\ и М(£+)р < оо, то (£+)р— также субмартингал.

Примеры, а) Пусть Sa> 6 = 0, 1, ..., п, .... —независимые случайные величины с конечными математическими ожиданиями, 5„ = о (Si, ..., S*L £n = Si + & + ... + Sn- Если MSn = 0 (MSn > 0) Vn, то {gn, Sn, n = 1, 2, ...} является мартингалом (субмартингалом).

Действительно, при tn -< п

п

M{S„l5m} = Mart-Sml3m) + U = U + Е MS».

А-ш+1

Аналогично, если MSn = 1 (MSn ^ 1) Vn, то последовательность п

{In, ^п, п = 1, 2, ...}, где ^=П Sa, является мартингалом (субмартингалом). Действительно (m<n),

( пп

м а„ 18m} = и м 4 п Sa 18m = и п м Sa-km+1 /m+1

Пусть {Sn, n = l, 2, ...} — некоторый поток а-алгебр, 5nc=®, © — о-алгебра подмножеств множества Q, Р и Q—две вероятностные меры на ©, Рп и Qn — сужения мер Р и Q на Sn. Предположим, что Qn абсолютно непрерывна относительно Рп Vn. На вероятностном пространстве (Q, ©, Р} рассмотрим последовательность случайных величин £п:

6« ~ dPn ’

ra=l, 2;

где -^р^ — производная Радона — Никодима меры Q„ по Рл. Тогда при A s 5т> т < п

^„^р=а„(л) = от(л) = \мр. АА

т. е. {|„, 8„, Р} — мартингал.

В частности, пусть тр, ..., т]п, ... — последовательность случайных векторов со значениями в 5?d, fn(xi,x2, ..., хп), х^е e$d, й = 1, ..., п,— совместная плотность распределения векторов (яь ..., Яп) относительно некоторой ст-конечной меры ^п, определенной на борелевских множествах S2dn. Предположим, что g(x\, ..., хп)—некоторая другая плотность относительно qn такая, что

из ^fndqtt = O следует ^gndqn = 0. АА

Тогда последовательность

gn (Л1Ил) я_ 1 п

/п (Ль • • •• *1»)

является мартингалом относительно потока §п, где 5„ = = сг{т)1, .... Пп}.

Марковские моменты времени. Пусть {5ь / е 7} — некоторый поток о-алгебр.

Определение. Марковским моментом времени х на потоке о-алгебр {5г, / е Г} называют случайную величину, принимающую значения из Т или значение -f- со « такую, что при каждом teT {т Г} е 5ь

Если т — марковский момент времени, то ^teT события {т > Т), {т < Г}, {т = Г} 5г измеримы.

Каждому марковскому моменту времени т сопоставим о-ал- гебру событий 5ь о которых можно сказать, произошли ли они до момента времени т или нет. Будем называть ее о-алгеброй, порожденной марковским моментом времени т. Формальное определение следующее.

Определение, о-алгеброй 5т, порожденной марковским моментом времени т, называют о-алгебру всех ©-измеримых событий В, удовлетворяющих условию; для каждого teT

В П (т С 0 <= 5,.

Пример. Величина т = to, где /0 не зависит от случая, to е Т, является марковским моментом времени, а порожденная им о-алгебра 8т = о#,.

Действительно, в рассматриваемом случае {т ^ /}= 0 е&, если t < t0, и (т ^ /} = Q е 8/, если to ^ t, так что т = to — марковский момент времени. Далее, В Л (т ^/} s 5< We Г тогда и только тогда, когда В е 8л,-

Отметим два простых свойства марковских моментов времени (на одном и том же потоке о-алгебр (5<, teT^).

Теорема 2. а) Если tj < тз, то 8т, с 8Тг.

Если Ti и тг — два марковских момента времени, то ti V т? и Ti А Тз — также марковские моменты времени.

Действительно, пусть В е 5тг Тогда В П {ti ^ /} е 8^. Поэтому

В П {^^O^BHlij^/Hnb^OeS/- t е Т

Следовательно, Ве^,. Это доказывает утверждение а). Далее, пусть т* = ti V тз- Тогда (т* ^.t^ = (п ^ /} П (тз ^. t^e St- Если т* = т1 А тз, то

K<Z} = {T1</}U{T3<0s8f WeT. В

Марковские моменты времени вводятся для того, чтобы иметь возможность рассматривать значения случайного процесса в эти моменты времени. Предположим, что Т— счетное множество, (|(Л, ts "П— процесс, подчиненный $t, te1),« т-мар- ковский момент времени со значениями в Т.

Теорема 3. Случайная величина £т ^-измерима.

Действительно, для любого а

{|т<а}П{т<0= U U(s) <а}Л(т = $}.

seT

Так как при s < t ^(s)<a}e5sc5t, (т = s} е gs с: §;, то Rt<a}n{x<0^S«- В

Рассмотрим конечную последовательность {g/, t = 1,2 ,..., N} и предположим, что она является ^-субмартингалом. Введем монотонно неубывающую последовательность ^-марковских моментов времени ц ^ т2 ^ ... ^ тр и положим Чй = 1т ,

Т е о р е м а 4. Последовательность {r)ft, 81» 6=1, ..., р} является субмартингалом.

Доказательство. Мы уже знаем, что величины щд ^-измеримы. Кроме того, М|т)а| < оо. В самом деле,

N

M|nd<MEl6(m<<».

А-1

Остается показать, что М {т]А+ ] |8*} ^Л». Можно ограничиться тем случаем, когда ta+i — тд принимает два значения: 0 и L

Действительно, если это не так, то введем новую последовательность марковских времен ai = та, <j2 = ta+i A (ai4-l). ... ..., aN = тй+1 = Th+i А (оя-1 4-1). Тогда {оА,& = 1, ..., N) образуют монотонно неубывающую последовательность марковских времен, для которых разности »a+i — ок принимают только значения 0 или 1. Если показать, что последовательность {£а6, ^ = 1, .... N} является субмартингалом, то отсюда будет следовать, что М{1]й+^8й} = М{у5;}>Ц. ==i]ft, и тем самым теорема будет доказана.

Итак, пусть тд+1 — тб = 0 или 1. Тогда для любого Be 8л (Пл+i — П^^Р =$ (Пл+i — Пл) dP =

5ВПр6+1-т6-1}

N

=Е $&.н-^р.

r-!Bn{Tft-r}n{tfe+l-r+l)

Но событие ВЛ{тА = г)е8г. {тН1=г+ 1} = {т6+1 >г}е§г Поэтому ВП{т6 = г}Л{т*+1 = г4- 1}е^г и

J(Ui-£rMP>0.

5Л{тй-г)Л{т6+1-г+1}

Следовательно,

$(Ч.«-Ч«)-1Р>О VBeg;, в

что эквивалентно неравенству М {т)й+1|8й}^Нб' ■

Следствие. Если {^, 8ь / = 1, ..., N} — мартингал, Т] ^ ... ^ тр — последовательность 8гмарковских моментов времени, то {|т6, 8тй, ^ = 1, 2, ..., р) —■ мартингал.

Некоторые неравенства.

Теорема 5. Пусть {£n, 5n, п = 1, ..., N)—субмартингал. Тогда

М$+

Р{ sup |„>С}<-^, ОО.(6)

Если же {|n,5n, п = 1, ..., N)—супермартингал, то

2 sup М | g„ |

Р{ sup g„>C}<-^^.(7)

1<n<NL

Доказательство, а} Пусть т = k, если &1^ С, j = = 1, ..., к— 1, a gfc > С. Если же |а ^ С для к = 1, ..., N, то полагаем т = N. Величина т является марковским моментом

времени и т ^ N. Следовательно, пара (£t, ^n) образует субмартингал. Поэтому

СР{ sup £„>С}< ( ^dPC, ( ^dP<M^.(8)

|<п<лг pt>q {ет>с)

б) Если последовательность gn— супермартингал, то

М^о > М£т > СР {sup £„ > С) +

+$ ^dP>CP{supg„>C) — М^,

{sup Ц < С}

откуда следует

CP{sup^„>C)<2 sup М|g»|. ■ 1 <n<№

Следствие 1. Если £n — мартингал и р ^ 1, то

Р{1Р{1sup<n<Nsup<n<N|^|>С}<|^|>С}<М1^ГсрМ1^Гср

Р{

1

Р{

1

sup

<n<N

sup

<n<N

|^|>С}<

|^|>С}<

М1^Г

ср

М1^Г

ср

Следствие 2 (неравенство Колмогорова). Если ^, &, ... ..., t^r— независимые случайные величины, MU = О, А=1, ... ..., N, то

N

Р{ sup 1^ + 62+ ... +?а1>П<тгУ DU- (9)

KKNL f-1.

Неравенство (6) часто называют неравенством Колмогорова для субмартингалов.

Далее, если ^п — произвольный супермартингал, то в силу неравенства (6) СР {inf &„^ — С} ^ М | ^ I» что вместе с нера- п

венством (6) дает

з sup M|g„|

Р{ sup ||„|>С}<-^^.(10)

l<n<WG

В пространстве случайных величин, заданных на {й, ®, Р), введем нормы, соответствующие пространствам $р = $р {Й, ©, Р). Положим

1

II IU={м 161'p"=| JI g (Ю) Г dP}₽.

Теорема 6. Если £» — субмартингал, то при р > 1

U

• 1,™р<„$:1<2('+мб:опйГ><12»

Доказательство. Пусть G(x), х^О,— произвольная монотонно неубывающая непрерывная функция и 6(0) =0, *) — некоторая неотрицательная случайная величина с функцией распределения г(х). В силу формулы интегрирования по частям

MG (n) = ^ G (х) dF (х) = J (1 - F (х)) dG (х).(13)

оо

Пусть л = max it. В силу (8)

хР(ч>х}< ^dP Vx>0.

{ч>*>-

Поэтому l-F(x) = P{n>xX-i- IwdP и

(П>х}

мо^х^тГ $ МР)<к?(х)<$ Mxfo-x)#-^,о \{п>4/о

где х(х)=1 при х^Ои xW = 0 ПРИ ^<0. Таким образом,

мб(чхм^$-^.-о

Полагая здесь 6(х) = |х|р и воспользовавшись неравенством Гёльдера, получим

откуда и вытекает неравенство (11).

Перейдем к случаю р = 1. Снова воспользуемся неравенством (8). Имеем

2СР{г)>2СХ $ l«dP< $ ^dP +

(1) ^ 2С}^^ ^ Cj

+$ WP< $ ^dP + CP(4>2C),

{6W<C.n>2C}{^>0}

так что

CP(n>2CX $ ^dP.

Воспользуемся равенством (13) для величины -у. Так как в этом случае

l-F(x) = p{A>x}<±$^р.

то

мсЙ^м^Й-»)^о

Положим G(x) = (x—1)+. Получаем

VI

м(д-1)+<мй$^=м^(1пЕ;)*.

Так как М^ — 1) >Му — 1, то Мт}<2(1 + М^(1п|+))+. ■

Определение. Числом пересечений v [а, Ь) полуинтервала [а, 6) (а < 6) сверху вниз семейством случайных величин {£(/), t е Г) называется точная верхняя граница чисел s таких, что существует последовательность {/,, i=l2s}, /{</j+ь it е Т, для которой

I (/i) > b, § (f2) < а, I (/3) > b§ (t^ < а.

Теорема 7 (неравенство Дуба). Если £п, п = 1, ..., N,— субмартингал, то

М!,[а,6)|81)<М№"|»'1.(14}

Доказательство. Без умаления общности можно предположить, что а = 0 и gn ^ 0. Действительно, общий случай сво^ дится к этому, если заменить £» на (|п—а)+. Определим последовательность марковских моментов времени ть т2, ... (ti ^т2< ... ^tn) следующим образом: ti— это наименьшее / такое, что ^(/)>6, если такое / существует, и Т] = N, если такого / нет. Далее, т2— наименьшее такое /, что / > Ti и g, = 0, если такое / существует, и тг = N, если такого нет; тз равно наименьшему j, для которого gj >6, j "> тг, или Тз = N, если такого j нет, и т. д. В силу теоремы 1

м (а (т2) - ^ (та)+6 (т4) - § (т3)) +... । за > о.

С другой стороны, сумма, стоящая под знаком математического ожидания, содержит v [а, Ь) слагаемых, меньших чем —Ь, и, быть

может, только одно, не превосходящее величины (^(N)~ Ь)+» Таким образом,

-Z>M{v(0, 6]|^} +M^^-^+lgJ^O. В

Полученные неравенства легко обобщаются на бесконечные последовательности. Так, если и = 1,2, ..., неравенство (6) принимает вид

sup М|+ (и)

Р{ sup g(n)>c}<-^^.(15)

1<П<ооu

Доказательство вытекает из того, что sup ^„= lim sup £„, l^n<oo N->co \^n<N И поэтому

Р( sup |„>C)=limP{ sup ln>cy \<n<ooN->oo KnCN

Аналогично, если vn(а,Ь] обозначает число пересечений сверху вниз полуинтервала (а, Ь] урезанной последовательностью ^(1)|W, a Voo(o, 6] — всей последовательностью,

то из того, что vw(a, &] при возрастании N монотонно не убывают и vm (а, 6] = lim v„ (а, 6], следует

N->oo

(b — а) Мую (а, 6] < sup М (£„ — ti^. 1<П<оо

Несколько иначе обстоит дело, если последовательность значений п не имеет наименьшего, но имеет наибольшее значение. Пусть п = ... —к, —к + 1, ..., —1 (^ > 0). Правые части рассматриваемых неравенств достигают максимума при п = —1. Таким образом,

Р{ sup g„>C}<-^,(16)

(17)

Существование предела. Важную роль в дальнейшем играют теоремы о существовании предела субмартингала.

Нам понадобится следующая лемма.

Лемма 1. Для того чтобы ограниченная числовая последовательность {сп, п=1,2, ...} сходилась к некоторому пределу, необходимо и достаточно, чтобы для любой пары рациональных чисел а и b (а<Ь) число пересечений сверху вниз отрезка (а, 6] этой последовательностью было конечным.

Обозначим соответствующее число пересечений через v (а, 6]. Если для какой-либо пары (a.b) v(a, 6] = ею, то последовательность сп не может удовлетворять критерию сходимости. С другой стороны, если си не имеет предела, то с — Пт с„ > Пт сп = с. Если а и b рациональны, с < а < b < с, то найдется бесконечно много п, и п'р для которых сп < а, c'ni> Ь, т. е. v(a, 6] = оо. д

Теорема 8. Пусть {|n, п = 1, 2, ...} — субмартингал. Тогда:

если supM|+<oo, то |00 = lim|n существует с вероятностью 1 и М|бо»|.< оо;

если последовательность {|n, n = 1, 2, ...} равномерно интегрируема, то ^ = lim |п существует с вероятностью 1 и в $х и

^<M{UI&},а=1, 2,

Доказательство. Покажем сначала, что последовательность {|п} ограничена снизу. С этой целью заметим, что {|, > Ь, inf |„ = —оо}с J^ (v(— N, &] > 0}. С другой стороны,

IVIV^b + N ->и

при N-*oo. Следовательно, с вероятностью llimv(—N, Z>] = О, атак как v(a, 6] — целочисленная величина, то v(—N, b] = 0 с вероятностью 1 при достаточно большом N. Таким образом, при любом b P{|i > b, inf |п = —оо} = 0. Поэтому Р {inf |п =

= — оо} ^ ^ Р {|, > —• k, inf £_ = — оо} = 0. Ограниченность 6-1

снизу последовательности |п доказана. Аналогично устанавливается, что она ограничена сверху. Последнее вытекает также из неравенства Колмогорова

P{s„p6>C}<2^,

в силу которого Р {sup |„ = + оо} = lim Р {sup |+ > С} = 0. Таким образом, последовательность {|n, п = 1, 2, ...} ограничена с вероятностью 1.

Из неравенства Дуба вытекает, что Mv(a, &]<оо для любых а и Ь, так что Р (Лаь) = 0, где Лаь = {со: v(a, Ь] = оо}. Следовательно, если Л = U Ло6, где суммирование распространяется

a, b

на все рациональные а и b, b > а, то Р(Л) = 0. В силу леммы 1

при ©ёЛ lim gn = g„ существует. При этом | g„ | = 2g* — g„, М | g„ | = 2Mg+ — Mg„ < 2 sup Mg+ — Mg, < oo, так что

Mlgool^MlimlgnKlimMlgnK oo,"

и утверждение а) теоремы доказано.

Предположим теперь, что последовательность {gn, и = 1,2,...} равномерно интегрируема. Тогда Mjgn|^C, с вероятностью 1 существует предел goo = lim gm и M|g« —gn|->0. Отсюда следует, что в неравенстве

gm dPgn dP»/И < П, 5т>

ВВ

можно перейти к пределу при п -> оо под знаком интеграла, так что

^gmdP<lim Jg„dP = ^gocdP. в ввв

Следствие. Если gn, п = 1, 2, ..., — неотрицательный супермартингал, то предел goo = lim gn существует с вероятностью 1.—

Теорема 9. Пусть {gn, 5п, п = 1, 2, ...}—мартингал и 5ое — минимальная а-алгебра, содержащая все а-алгебры 5».

Если supM|gn|< оо, то limgn = goe существует с вероятностью 1.

Для того чтобы последовательность gn, п = 1,2, ..., была равномерно интегрируемой, необходимо и достаточно, чтобы нашлась такая интегрируемая случайная величина я, что

6п = М{п15Л(18)

Если это условие выполнено, то можно положить т) = goo и в классе ^-измеримых случайных величин я определяется однозначно (mod Р).

Доказательство. Утверждение 1 вытекает из теоремы 8. Если последовательность gn, и =1,2, ..., равномерно интегрируема, то в силу теоремы 8 g«> = lim gn существует с вероятностью 1 и в $\ и gn ^ M(goo|8n). Применяя это неравенство к последовательности —gn, получим gn = M{goo|5n}, n = 1, 2,... .. . , M|goo| < ОО.

Пусть t)—произвольная интегрируемая случайная величина. Покажем, что последовательность gn = M{i]|§n} является равномерно интегрируемым мартингалом. Во-первых,

р {I In I > С) < -?^- <-^ ->о

при С-*оо равномерно по п. Далее,

$ 1б„ИР= $ lttdP- ( ^dP =

{1м >ч{5n>q{ц<-с}

= J т) dP —^ ц dP ^^ | т) | dP -* 0 при С ->• оо

($» >4(^>-с){|5„|>с}

равномерно по п, так как Р{Цп|>С}->0 при С->оо равномерно по п. Таким образом, последовательность £п, п= 1,2, ..., равномерно интегрируема. Из равенств

м (£„+118J = м {М {Л 18„+1} 15„} = М (Т) 1&} = L

следует, что £п— 5п-мартингал. Остается показать, что я в классе 8оо-измеримых случайных величин определяется единственным образом.

Так как M(i)|5n} = М{|«>|5п} для любого п, то $T)dP=$§codP(19)

АА

для любого множества А, принадлежащего какой-либо а-ал- гебре Sn- Но класс множеств А, для которых имеет место равенство (19), является монотонным и содержит алгебру мно

жеств U 8п- Поэтому он содержит и а-алгебру as U Sn

П-I(.л-1

Таким образом, (19) выполнено для любого А е8о». Тем самым, если т) — 5оо-измеримая величина, то 1)=!» (mod Р). ■

Следствие. Пусть 5П — поток о-алгебр, 5« = a{gn, п = = 1,2, ...}, л — ^«.-измеримая случайная величина, Ле^. Тогда с вероятностью 1 и в &\

limM{n 18„}=П, ИтР{Л|5„) = Хл(<о). В

Рассмотрим субмартингал

• • • £_„> §-п+1£-1(S-n с 8-л+1 с • • • с(20)

Обозначим §-оо = П З-п- Результаты, получаемые в этом случае, несколько сильнее предыдущих.

Теорема 10. Если inf Mgn > —°® и последовательность (20) является субмартингалом, то она равномерно интегрируема, предел lim g_n = £_« существует с вероятностью \ и в $\ и

M{U|8-4>*—(20

Доказательство. Докажем сначала, что последовательность g_n, п = 1, 2, ..., равномерно интегрируема. Так как последо-

вательность М£_п монотонно не возрастает, то существует lim Mg-n = / > — оо. Для любого е > 0 найдется такое по, что 0<MU -MU, < е, n^n,.. Заметим, что

Mx(|U|>c)|u|-

= — М|_„ + Мх 0_„ > — С) £_„ + Мх 0_„ > С) Х_п» где хН)—индикатор события А. Из определения субмартингала следует, что при и > п0

Мх (L„ > - С) Е_„ < Мх(Е_„ > - С) Е_», Мх(Е_„>С)Е_„ <Мх(Е_„>С)Е.„, Таким образом,

Мх(|Е_„|>С)|Е_,|<

< « - ML,. + Мх (L„ > - С) Е.^ + Мх (Е_„ > С) Е^ <

<« + Мх(|Е.„|>С)|Е.„|.

С другой стороны, Щ = 26t„ — Е_„, М|Е_„|<2МЕ* —/=6, так что в силу неравенства Чебышева

Р(|£ |>С1<2Удд1<1

т. е. величина P{|g_n| > С}->0 при С->оо равномерно по п. Поэтому найдется такое С = С(е), не зависящее от п, что Мх(|Е_„| > C)|E_„,| < о. Таким образом,

Мх(|Е-.|>С)|Е_„|<2е Мп>п,

Равномерная интегрируемость последовательности U, п = 1» 2, ..., доказана. В частности, M|g_n|^^- Существование с вероятностью 1 предела §_«> последовательности ^-п вытекает из неравенства Дуба и доказывается точно так же, как доказательство существования предела в теореме 7. Из равномерной интегрируемости последовательности Vn тогда вытекает сходимость в $\. Кроме того, в неравенстве

$LndP<$L^P, п>к, Be^_w, зв

можно перейти к пределу при п -* со. Получим

вВ

откуда вытекает неравенство (21). Ц

Следствие. Если {..., g_n, ^_„+i6-1}— мартингал,

то 6-» — lim £_„ существует с вероятностью 1 и в ^ь последовательность ^-п равномерно интегрируема и g-» = М{|_п|8-<»}.

Действительно, если |_п — мартингал, то и |-п и —j_n являются субмартингалами. Кроме того, M|_n = const. Применяя теорему 10 к последовательностям |-п и —|_п, получим требуемое.

Ряды независимых случайных величин

В настоящем параграфе рассматриваются условия сходимости с вероятностью 1 рядов с независимыми случайными членами.

Пусть дан ряд

61 + 1г + • • • + 6» + • • •(О

Теорема 1. Если существует последовательность чисел еп > 0, n = 1, 2, ..., такая, что

Е е„ < со, Е Р {||„ I > е„} < ОО,(2)

п—1п—1

то ряд (1) с вероятностью 1 сходится абсолютно.

Доказательство. Пусть Ап = (| |п | > еп). Из сходимости второго ряда в (2) и теоремы 8 § 1 гл. II следует, что Р(НтЛ„) = = 0, т. е. с вероятностью 1 наступает только конечное число событий Ап. Таким образом, существует такое N = N(to'), что прип>А/((о) |6п|<епи ряд (1) сходится. ■

Более сильные результаты имеют место для полумартингалов. Положим

6n = 6i + 62+ ••• +бп» 6о = О> 8n= u{6i • • •» Ini'

Теорема 2. Пусть £« интегрируемы, и = 0,1, ... Тогда;

если M{6n|8rt-i}^0 и supM^ <00, то ряд (1) сходится с вероятностью 1;

если М {&„ 18п-1) — 0 и при некотором р^ 1 supM| £„ |р< со, п

тэ ряд (1) сходится с вероятностью 1 и в $р.

Условие а) равносильно предположению, что {6п, $п}—субмартингал. Соответствующее утверждение является поэтому следствием теоремы о сходимости субмартингала. Условие б) означает, что {^п, 8п}—мартингал. Поэтому |£п|р— субмартингал и М sup | tn lP ^ Qp sup М | Zn 1Р- Таким образом, величина пп

|6п|р равномерно интегрируема и £п сходятся к некоторому пределу с вероятностью 1 и в $р (теорема 16 § 1 гл. II, теорема 9 § 1). ■

Следствие 1. Если M{£n|$n-i} = 0 и 5^М^<оо, то №1

ряд (1) сходится с вероятностью 1 и в 5? 2-

Доказательство вытекает из того, что при к =£ п

MU»”M{^M{6»I §»-,» = О,

G

n \2 пп пп

S ь) = Г М й + 2 Е Е ми, - Е Mg, =■1 /

и из утверждения б) теоремы. ■

Для рядов с независимыми членами последний результат известен как теорема Колмогорова.

Следствие 2 (теорема Колмогорова). Если {%п,п = = 1, 2, ...} — независимые случайные величины, М^ = 0 и ряд

Eog<оо, то ряд (1) сходится с вероятностью 1.

6-1

Это утверждение вытекает из следствия 1, если под 5П понимать а-алгебру, порожденную случайными величинами gi, $2, •.., £п, и принять во внимание, что в силу независимости случайных величин |п

■M{^|g„-1} = Mg„=O.

Остановимся подробнее на сходимости рядов с независимыми слагаемыми. Как следует из закона «О или 1», такие ряды сходятся или с вероятностью 0, или с вероятностью 1.

В дальнейшем понадобится одна оценка для распределения максимума сумм независимых слагаемых.

Теорема 3. Если {^, к = 1,2п} независимы, М&, = О у | & | < с с вероятностью 1, где с — некоторая постоянная, то

Р{ max IkK^-i2^.(3)

1<6<пЛ »

° к6-1

где о\ = М^.

Обозначим через Е„ события { шах IUK0, «=1, 2, ...

Они образуют монотонно убывающую последовательность. Имеем

п

Mx(£„)g-;E м №)« - X(^-,)S-,! = пп

- Е Мх(Е,.,) № - С,-,) - Е М х(Е,_, \E,)g. (4)

Далее,

МХ (Е,., \ Е») й = Мх (В,., \ Е,) (£,_,+ Е,)= <

5 Мх№., \ В,) S < « + =)= t Мх(Е,_, \ В,) -

= (/ + с)«[1-Р (£„)].(5)

Кроме того,

Мх (Е,-,)(5 -«_,)- Мх (£»_,) (2Е»_,Е. + © -

= 2Мх(Е,_,) ;,.,МЕ, + Мх(в._,) МЦ - а|Мх(Е,_,). (6>

Соотношения (5) и (6) дают

п

№ (В„) > Мх (В.) й> Z „;мх (В,.,) - «+ cf (1 - Р (В,)) >

>Р(£„){ Z<ri+(/ + c)2|-(Hc)2,

илиилии + су > Р (£„) ££ ^ + с2 + 2d },и + су > Р (£„) ££ ^ + с2 + 2d },(7)(7)

или

или

и + су > Р (£„) ££ ^ + с2 + 2d },

и + су > Р (£„) ££ ^ + с2 + 2d },

(7)

(7)

откуда следует (3). ,Я

В общем случае рядов с независимыми слагаемыми вопрос о сходимости ряда (1) полностью решается следующей теоремой.

Теорема 4 (теорема Колмогорова о трех рядах). Для того чтобы ряд (1) независимых случайных величин сходился с вероятностью 1, необходимо, чтобы для каждого с >• 0, и достаточно, чтобы для некоторого с > 0 сходились ряды

(8)(9)(Ю)(8)(9)(Ю)ЕР{||й|>с}, п*1

(8)

(9)

(Ю)

(8)

(9)

(Ю)

2 me;.

№l

где !'=£„ при |^„|<с и ^ = 0 при ||„|>с.

Доказательство. Достаточность. В силу следствия 2 теоремы 2 с вероятностью 1 сходится ряд У, 0' — М^), откуда, при-

нимая во внимание сходимость ряда (9), вытекает, что сходится ряд У Vn- Из условия (8) и теоремы Бореля — Кантелли слеп— 1

п?1^" ^ от'п?1^" ^ от'дует, что только конечное число членов ряда

п?1^" ^ от'

п?1^" ^ от'

лично от нуля. Поэтому ряд (1) сходится с вероятностью 1.

Необходимость. Пусть ряд (1) сходится с вероятностью 1. Тогда его общий член с вероятностью 1 стремится к нулю, так что лишь конечное число членов ряда превосходит по абсолютной величине с (с>0). Поэтому с вероятностью 1 сходится.

ряд ^ ^ Обозначим через {^п}, п=1,2, ..., последователь- п-1

ность независимых случайных величин, не зависящих от последовательности {£'},» = 1,2и имеющих такие же распре

деления, как и g'. Положим in = g„— i)„. Тогда ряд У, g схо

дится с вероятностью l,Mg„ = О, |gn|^2c, D|„ = 2D^. Из схо

димости ряда 2 tn следует, что п-1

РРп2 te6-1п2 te6-1

Р

Р

п

2 te

6-1

п

2 te

6-1

Поэтому при некотором /

sup Ktt< СОsup Ktt< СО= а > 0.= а > 0.

sup Ktt< СО

sup Ktt< СО

= а > 0.

= а > 0.

Из неравенства (3) следует при любом п

пп

6-16-1

что доказывает сходимость ряда (10). Из следствия 2 теоремы 2" вытекает тогда, что с вероятностью 1 сходится ряд £(g'— Mg')..

n-r " п/ Отсюда в свою очередь следует сходимость ряда (9). Сходимость ряда (8) вытекает из теоремы Бореля — Кантелли, так как если ряд (1) сходится, то с вероятностью 1 найдется только конечное число членов ряда (1) таких, что ||п|>с- ■ Следствие. Для сходимости ряда (1) независимых неотрицательных случайных величин необходимо, чтобы для любого

0-0, и достаточно, чтобы для некоторого с "> 0 сходились ряды

Действительно, для неотрицательных величин £п имеем М^'2^сМ|' так, что из сходимости ряда (9) вытекает сходимость ряда (10).

Из теоремы о сходимости рядов с вероятностью I при помощи простого преобразования можно получить теоремы типа усиленного закона больших чисел, т. е. теоремы о сходимости с вероятностью 1 некоторых средних от случайных величин. "Приведем пример такого рода.

Лемма 1. Если ряд £zn сходится и ап — монотонно воз- п-1

растающая последовательность, ап > 0, ап -* оо, то п

п

Доказательство. Пусть So = 0, S„ = ^ zk и | S„ | ^ с, п = — 1, 2,..., где с—некоторая постоянная. Положим а^ —at-i = = ДА, k= 1, 2,..., ао = О. Тогда

ппп

Sa6zfe = E(A, + A2+ ... +A6)zfe = EA6(S„-Sfe_1). 6-i6-i6-i

'Поэтомуn'ПоэтомуnП»П»тУад < -Ly^Sn-Sb_x> + sup ^„-S^K °» ^°” Mn,<6<«тУад < -Ly^Sn-Sb_x> + sup ^„-S^K °» ^°” Mn,<6<«6-16-16-16-1

'Поэтому

n

'Поэтому

n

П»

П»

тУад < -Ly^Sn-Sb_x> + sup ^„-S^K °» ^°” Mn,<6<«

тУад < -Ly^Sn-Sb_x> + sup ^„-S^K °» ^°” Mn,<6<«

6-1

6-1

6-1

6-1

<2C^-+ sup |$,-$н1« a” n,<6<n

.для любого e > 0, если n и «о выбраны достаточно большими. ■

Из доказанной леммы и теоремы Колмогорова (следствие 2

-теоремы 2) вытекают следующие утверждения.

Теорема 5. Если {|п, п = 1,2, ...} независимы и

X „г Dg„ < оо,

п*1

то с вероятностью 1 п “т^Е^-М^-О. fc-i

Для одинаково распределенных случайных величин £п более сильные результаты будут получены в дальнейшем как следствия общих эргодических теорем.

Эргодические теоремы

Рассмотрим стационарную случайную последовательность. {§(0* ^Л> Т = У: ^ = 0, ±1, .... ±п, ...}, со значениями в некотором измеримом пространстве {X, Э}. Стационарность последовательности означает (см. гл. I, § 5), что совместное распределение последовательности {^А + 0» £(^ + 0«--- .... 10п + 0} не зависит от /, каковы бы ни были п, t, ti, ... ..., tn (t eT, n> 0). Это определение равнозначно тому, что для любой ограниченной ^"-измеримой функции f(xi, .... Хп), х^еХ, величина М/(^(Л + 0* •••• i(^n + 0) не зависит от t для любых п, ti, .... tn.

Пусть Хт обозначает пространство всех последовательностей « = {..., х-п, х-п+1, .... Хо, Хь .••> хп, ...}, © — минимальная а-алгебра, содержащая все цилиндрические множества Хг, Р$— мера, индуцируемая на 6 последовательностью {|(0. teTy. Таким образом, вероятностное пространство VXT, ^, Pj} является естественным представлением процесса {!(/), /еТ}. Через {Аг, В, Р$} обозначим пространство с пополненной мерой. В Хт введем операцию сдвига времени S: и' = Su, если- х'п = хп+х, пеТ, где и=уп,пеТу и' = {х'п, пету Операция S имеет обратную S-1, причем если и" = S~xu, и" = = ус", пеТу то х" = хп_х. Условие стационарности последовательности |(0 означает, что для произвольного цилиндрического^ множества С

P6(C) = Ps(SC).(1>

Поскольку мера на цилиндрических множествах однозначно определяет меру на ® и на ее пополнении 6$, то равенство (1) сохраняется для произвольного А е 6$:

Р6(Л) = Р6(5Л),Ле6$.(2).

Определение. Пусть {U, 5, р) — некоторое пространство с мерой, S — измеримое отображение {U,^} в (U, 8}. Преобразование S называется сохраняющим меру, если для любого Л е 8г

р(5-*Л) = р(Л),

где 5-,Л — полный прообраз множества А.

Преобразование S называется обратимым, если существует такое измеримое преобразование S-1, что SS-1 = S_,S = 1,1— тождественное преобразование. В этом случае преобразование S" называется обратным к S. Определение стационарной после- дова'1 ельности эквивалентно следующему: последовательность {£ (/), t е Т} стационарна, если оператор сдвига времени S в Хт сохраняет меру Pg.

Задача изучения стационарных последовательностей является частным случаем задачи изучения сохраняющих меру обратимых преобразований (автоморфизмов) некоторого пространства с мерой.

Рассмотрим вопрос об асимптотическом поведении при n^-оо среднего

П-1

тУД^’(3)

6-0

где Sk— k-я степень преобразования S, /(ы)—произвольная '^-измеримая функция, {U, 5, р}—некоторое пространство с мерой р и р(6/)^ оо. Чтобы понять смысл этой задачи, рассмотрим тот случай, когда {(/, 5, р) совпадает с (Хт, 6, Pg}, aS — оператор сдвига времени. Пусть |б = ^(6, и) = х^, f(u) = %s(^o). где хв(х)—индикатор множества Be S3. Тогда f(Sku) = = Хв№) = хв(Ш)) и

Deg. Отсюда следует, что формула (5) верна для произвольных g-измеримых неотрицательных и р-интегрируемых функций. И

Докажем сейчас одну лемму арифметического характера. Пусть аь а2> . ., «п — последовательность действительных чисел, р— целое число. Назовем член последовательности ак р-от- меченным, если в последовательности сумм

ок, a-к + a*+i, ..., о» + a»+i + ... + вл+р-1

по крайней мере одна неотрицательна (ак 1-отмечен тогда и только тогда, когда он неотрицателен).

Лемма 2. Сумма всех р-отмеченных элементов неотрицательна.

Пусть а»,— р-отмеченный элемент последовательности с наименьшим номером и ^,4-06,4-1+ ••• + ок,+г (г ^ р—1) — неотрицательная сумма с наименьшим числом слагаемых. При h < г Ок, + ок,+1 4- ... + ак,+к < 0, следовательно, Ofc.+k+i 4- ... 4* Ок,+г ~> 0, т. е. все члены последовательности ак_, ак,+ь ...» Ок.+г р-отмечены и их сумма неотрицательна. Можно продолжить это рассуждение, рассматривая последовательность, начиная с члена a^+r+i Таким образом, вся последовательность разбивается на части, каждая из которых кончается группой р-отмеченных членов, и сумма р-отмеченных элементов каждой части неотрицательна. Множество р-отмечен- ных элементов всей последовательности совпадает с суммой множеств р-отмеченных элементов таких ее частей, что и доказывает лемму. ■

Следующая лемма является основным этапом в доказательстве теоремы Биркхофа — Хинчина.

Лемма 3. Пусть f(u)—^-интегрируемая функция, S — измеримое, сохраняющее меру ц отображение {(/, g} в {У, g} и

Е = U f«: S f(Sfe~‘u)>oj.п=\ к £=1)

Тогда ^f(u)ix(du)>0.(6)

Е

Доказательство. Рассмотрим последовательность Ци^ f(Su)/(S^?-^) и обозначим через $(ы) сумму всех р-отмеченных элементов этой последовательности. В силу леммы 2 s(u)^O. Пусть Dk = {«: f(Sh«) есть р-отмеченный элемент), Хь(ы)—индикатор множества Dk. Заметим, что

Do = {«: sup f (S6-i (»))^ О} и Dlk = S-'Dk-x при k^N, 1 ^ А^р

•откуда Dk = S kD0 (k^N). Отсюда

N+p—1

0<js(«)p(du) = j £ f(S6«)x»(«)p№) = UU k-0

N+p—I

- £ \f(Sku)t(du).

6-0 Dfe

В силу леммы 1

J / (Sft«) ц (du) = J f (S6«) ц (du) = J f (u) ц (du), k^N.

DkS~kDaDo

Следовательно,

JV+p-l

AT $f(u)p(du)+ £ $f(S‘«)|i(d«)>0.(7)

Doк-N+l Dk

Так как

J f (Sku)^ (du) < J | f (Sku) I p(du)= J | f (u)\p(du) < OO, DkиU

то, разделив неравенство (7) на N и устремив N к оо, получим $f(u)p(du)>0.(8)

О,

Множества Do = D0(p) (р = 1, 2, ...) образуют монотонно возрастающую последовательность, и

Игл D0(p) = U D0(p)=E.р->оор*\

Переходя в (8) к пределу при р-*оо, получим (6)..И Лемма 4 (максимальная эргодическая теорема). Пусть

/(«) ^.-интегрируема, К — действительное число и ОО /ПЧ

^=U)“:4-E^sft_‘“)>xrп-1А-1)

Тогда

Jf(«)p(d«)>^(EO.(9)

Доказательство получим, если к функции f(u) — X применим лемму 3.

Теорема 1 (теорема Биркхофа — Хинчина). Пусть (U, 5, ц)— пространство с мерой, S — измеримое, сохраняющее меру

р отображение {U, 5} в {U,^} и /(«) — произвольная ^-интегрируемая функция. Тогда p-почти всюду в U существует предел

п—1

lim Т S f ^ = Г М <mod н),(Ю>

6-0

функция f*(u) S-инвариантна, т. е.

Г (Su) = Г («) (mod р),(ПУ

и интегрируема. Если p(U)<, оо, то

^f(u)ii(du)=^f(u)vi(du).(12)

ии

Доказательство. Не уменьшая общности, можно считать, что функция f(u) конечна и неотрицательна. Положим

П—1п—1

g*(«)=ib^£f(S6M), g^-lVm-L^f^u).6-06-0

Нужно установить, что g*(u) = g#(u) (mod ц). Пусть

К«6 = (и: g*(u)>P. g,(u)<a),0<о<р.

Достаточно показать, что МЛар) = 0. (Действительно, (и: g*(u)>g.(u)) = U Кав, где R — множество неотрицатель- а<р р

а. ЗеЯ

ных рациональных чисел.) Заметим, что f

g* (Su) = IIS j -^ -^U £ f (Sku) -l^A = g*(u)6-0'

и, аналогично, g»(Su) = g»(u). Это означает, в частности, что S~lKap = Kap. Поэтому можно применить лемму 4 к пространству с мерой {Квр, ®ПКае» и}- Отсюда следует, что

( f(u)tl(du)>^(Kai).(13)

кор

Применяя лемму 4 к функции —f(u), получим

J f(u)n(du)<an(Kos).(14>

Так как Р > 0, то из (13) следует, что р(Кар)< °°, но тогда (14) возможно лишь, когда ц(Кар) = 0- Итак, существование

(mod р) предела (10) доказано. Положим /*(ы)=5*(ц). Тогда выполняется (10) и /*(ы) S-инвариантна почти всюду в U.

Для доказательства формулы (12) положим Л*„ = {ы: -^г^

<Г(«)<-^-}. имеем U= Q Л„, 5"^ = {и: -А^ '£=-ооI

^f*(Su) <—^— | = Л6„. Применим к множеству Afen лемму 4.

Для любого в > 0 получим, что ^ / («) р (du) ^ (^ — е) И ^А^, Акп

откуда при в-> 0 получаем неравенство j f (я)р№)>-^-ц(Л6„).

Акпf (и) ц (du) <-И (^J, откуда следуетАкп

$ Ци^^- $ ГМи№) АкпАкп$ Ци^^- $ ГМи№) АкпАкп1 /Л X ^ 2П Н х^^п)*1 /Л X ^ 2П Н х^^п)*

$ Ци^^- $ ГМи№) АкпАкп

$ Ци^^- $ ГМи№) АкпАкп

1 /Л X ^ 2П Н х^^п)*

1 /Л X ^ 2П Н х^^п)*

<4г^^<4г^^Суммируя эти неравенства по всем А, получим

<4г^^

<4г^^

j f (и) р №) — )/•(«) n(d“) ии

Принимая во внимание произвольность п в случае, когда р(17) < оо, получим формулу (12). Ц

Некоторые следствия теоремы Биркхофа — Хинчина.

Следстви е 1. Пусть р((/)< оо, f(u) е ^P^U,^, р}. Тогда

п—1Р

j -^-^f (Sku) — f*(u) p(d«)-»-0 при n->oo. (15)

U fe-0

Для доказательства возьмем какую-либо ограниченную функцию /о(«), и пусть ||/(ы) — /о(м)11р = б, где ||/||Р — норма элемента / в $р {U, $, р}. Тогда

++П-1III п-1

+

+

^ J f (SM - г («) < Ц- £ [f (sft«) - /0 (SM]

А=1Op I6-0

| +|f,-M-f(«)|,.

В силу неравенства Йенсена и леммы 1

Л "~:

Н1>Л)-ь($Ч]

(f(S^)-/0 (S^m))(f(S^)-/0 (S^m))п-1п-1рp(du)рp(du)fo(Sku) l"p(du)fo(Sku) l"p(du)

(f(S^)-/0 (S^m))

(f(S^)-/0 (S^m))

п-1

п-1

р

p(du)

р

p(du)

fo(Sku) l"p(du)

fo(Sku) l"p(du)

Используя лемму Фату, получим

|№-П<-

(Г(Л)-МЗ‘«)|(Г(Л)-МЗ‘«)|4-£[н$м-м$М]4-£[н$м-м$М]

(Г(Л)-МЗ‘«)|

(Г(Л)-МЗ‘«)|

4-£[н$м-м$М]

4-£[н$м-м$М]

Далее, так как функция f0(w) ограничена, то и в:*) ее средние ограничены одной и той же константой. Поэтому в выражении

f0(S*«)-Wf0(S*«)-Wрр (ЛОрр (ЛО

f0(S*«)-W

f0(S*«)-W

р

р (ЛО

р

р (ЛО

при п->оо можно перейти к пределу под знаком интеграла в силу теоремы Лебега. Следовательно, оно стремится к нулю и при достаточно больших п становится меньше 6. Таким образом,

п— III

±£f(SM-f(«) <36, п>п» = пЖк=3||р

причем число 6 может быть выбрано сколь угодно малым (6>0). Таким образом, (15) доказано. В

Определение 2. Множество Л eg называется S-инвариантным, если ц((5~*Л) АЛ) = 0.

Здесь А — символ симметрической разности множеств.

Легко проверить, что класс всех S-инвариантных множеств образует о-алгебру ^-измеримых множеств. Далее, если ^(и) — S-инвариантная функция, то множества (и: g(u}^ с),

{u:g(«)=c} S-инвариантны. С другой стороны, если А S-инвариантно, то %a(u) — S-инвариантная функция. Обозначим о-ал- гебру S-инвариантных множеств через 3. Пусть ц(6/)= 1. Будем считать {(/, $, ц} вероятностным пространством и символом М обозначать интегрирование по мере ц (математическое ожидание).

Следствие 2. /*(ы) = М{/(ы) |3) (modp).

Очевидно, что М(/(ы) |3} является S-инвариантной функцией. Поэтому для доказательства следствия 2 достаточно проверить, что для произвольной ограниченной S-инвариантной функции

Мг(«)(Г(«)-М{/(ц)|з))=о

или что M(g(u)f*(u)—§(«)/(«)) = 0; но последнее вытекает из (12), так что

(g (u) f («))* = lim-^- £ g (Sku) f (Sku) = g (и) г («) (mod у). ■ 6-0

Эргодические стационарные последовательности. Возвратимся к стационарным последовательностям.

Пусть {5(0, ^еЛ—стационарная последовательность и {Хт, 6, Р}—ее естественное представление.

Следствие 3. Если f— измеримая функция в {Хт, S3m} и Mf(5(0), 5(1), ..., 5(m—!))¥= оо, то с вероятностью 1

П-1

^Yj^’ 6(6+1), .... 5(6 + m-l))->

А-0

-М(f(5(0), 5(1)5(т-1))13)при п-оо,

где 3— о-алгебра событий из 5, инвариантных относительно сдвига времени.

Рассмотрим произвольное событие А е ^ и последовательность событий, получаемых из А «сдвигом времени» — A, S^A, S±2A,... Если Хп — индикатор события SM, то %« (п = 0, ± 1,...) образуют стационарную последовательность случайных величин П-1

и "л" 2 ^ есть частота наступления события А, вычисленная по к-0

одной реализации последовательности {£(/), / = 0, 1, 2, .. Ja

n—1

Yv =

к-0

В силу теоремы Биркхофа — Хинчина с вероятностью 1 существует предел

Ит^Ь = л(Д) = М{хл13) и Мл(Д) = Р(Д). П->ОО П

Величину л(Д) можно назвать эмпирической вероятностью события А. Она является случайной величиной. Естественно, возникает вопрос: когда эмпирическая вероятность л(Д) не зависит от случая и совпадает с вероятностью Р(Д)?

Стационарные последовательности, обладающие этим свойством, называются эргодическими.

Более общим является следующее определение.

Определение. Пусть {U, 5, р} — вероятностное пространство, S — сохраняющее меру преобразование U в себя, Vn(Д) = = vn (Д, и)— число членов последовательности {и, Su, ... ..., Sn-1«}, попадающих во множество А. Преобразование 5 называют эргодическим, если для любого Д е 5

Нт --" - — “-- = р (Д) (modp).

Преобразование S называют метрическим транзитивным, если любое S-инвариантное множество имеет меру 1 или 0.

Теорема 2. Чтобы преобразование S в вероятностном пространстве (U, 5, р} было эргодическим, необходимо и достаточно, чтобы выполнялось одно из двух условий:

S метрически транзитивно-,

для любой ^-измеримой р-интегрируемой функции Ци)

функция

п-\

Пи) = Пт -^ЦЗ^

с вероятностью 1 постоянна.

Доказательство. Пусть А— S-инвариантное множество и Ю<р(Д)<; 1. Множества A, SA, S2A, ... отличаются друг от друга на множества меры 0 и vn(A) = пхА(и) (modp). Следовательно, lim v"(— Не может быть постоянной (mod р) величи- П->со П

ной. Таким образом, из эргодичности следует метрическая транзитивность. Пусть теперь S метрически транзитивно. Так как функция f*(u) S-инвариантна, то симметрическая разность множеств

S-1 {«: г (и) < х} = {«: Г (Su) < х} и (и: Г (и) < х)имеет р-меру 0. Отсюда вытекает, что р{«: /*(«)< х}= 0 или 1для любого действительного х, т. е. /*(«)= const (modp). Та-ким образом, из а) вытекает б). Наконец, условие эргодичности

является частным случаем условия б), а именно когда /(м) есть индикатор некоторого события. И

Приведем несколько следствий из эргодичности.

Пусть {X, б, Р}—естественное представление стационарной последовательности g(n), 3—преобразование сдвига времени в Хт, $г = VXT, @, Р}.

Из следствия 1 теоремы 1 вытекает, что для произвольных функций /(«) и g^u) из З'г

НтП->ооНтП->оо(16)(16)$^ £ f ^ 8 ^ Р W = J г («) g № р (d«). хт *-охт

Нт

П->оо

Нт

П->оо

(16)

(16)

Будем говорить, что последовательность {^(п), и = 0, ±1, ...} эргодична, если эргодическим является преобразование 3. Положим g(u') = г), /(Sftti) = Eh и предположим, что исходная стационарная последовательность {^(n), п = 0, ±1,...} эргодична. Соотношение (16) принимает вид

п-1Ит 4 Z ^ = M^oMti.п-1Ит 4 Z ^ = M^oMti.(17)(17)

п-1

Ит 4 Z ^ = M^oMti.

п-1

Ит 4 Z ^ = M^oMti.

(17)

(17)

Пусть g(u)= Хв(«)> /(“) = Ха(“), А и Веб. Из (17) следует.

что

П-\

Птrt->ooПтrt->oo(18)(18)(19)(19)4-^Р(3-6ЛПВ) = Р(Д)Р(В)

Птrt->oo

Птrt->oo

(18)

(18)

(19)

(19)

6=0

или (если Р (В) ^ 0)

п-1

Нт^УР(3-йД|В) = Р(Д),6^0

где Р(3-М|В)—условная вероятность события 3~М относительно В.

Лемма 5. Равенство (18) ^или (19)), для любых А,Ве^ эквивалентно эргодичности.

Достаточно показать, что из (18) следует эргодичность. Пусть С —любое S-инвариантное событие. Положим в (18) А = В = С. Тогда оно переходит в следующее: Р(С)= Р2(С), откуда Р(С)= 0 или 1, и лемма следует из теоремы 2. ■

Равенство (19), имеет следующий теоретико-вероятностный смысл. Пусть А и В — два события из б. Если событие А неограниченно сдвигать во времени, то в среднем события 3~ПЛ и В становятся независимыми, каково бы ни было событие В.

Условие (19) является частным случаем более жесткого требования:

lim Р (5~"Л | В) = Р (Л),(20)

П->оо

которое называется условием перемешивания. Условие (20) является частным случаем равенства

Нт М^„ц = M£0Mii, »->ооНт М^„ц = M£0Mii, »->оо(21)(21)

Нт М^„ц = M£0Mii, »->оо

Нт М^„ц = M£0Mii, »->оо

(21)

(21)

где £п =/(£"«), ц = g(u), f(u) и g(u)—произвольные функции из 2?a. С другой стороны, из (20) следует (21) для простых функций / и g. Аппроксимируя произвольные Ци) и g^ из $г последовательностями простых функций fn(u) и gn(“), сходящихся в $2 к f(u) и g^ соответственно, нетрудно убедиться, что условие перемешивания эквивалентно условию (21) (f(«), g(u)—произвольные функции из S^)- С другой стороны, условие (21) достаточно проверить для некоторого множества функций, линейная оболочка которых всюду плотна в З’г- В качестве таковой удобно принимать индикаторы цилиндрических множеств.

Рассмотрим последовательность {|п, п = 0, ±1, ...} независимых одинаково распределенных случайных величин, и пусть M|g„|<oo. Она является стационарной последовательностью. В силу теоремы Биркхофа — Хинчина

Случайная величина g*, очевидно, не зависит от любого конечного числа величин go, gi, • • •, W Поэтому g* измерима относительно lima{gfe) и на основании «закона 0 или 1» постоянна, g* = с (mod Р), причем с = Mg. Таким образом, мы получаем следующую теорему.

Теорема 3 (усиленный закон больших чисел). Если {gn, га = 0, ±1, ...} — последовательность независимых одинаково распределенных случайных величин и M|gn|< °о, то с вероятностью 1

л-1

Нт1£^ = М|0. (22)

Доказанная теорема является следствием эргодичности независимых одинаково распределенных случайных Величин. Но можно доказать большее, а именно, что оператор сдвига времени в Хт_ является перемешиванием. В свою очередь это вытекает из более общего утверждения. Пусть (gn, га = 0, ±1,...} —

стационарная последовательность случайных элементов в {X, 6}, §п — а-алгебра, порождаемая случайными элементами §П, £п+ь .• .,8оо = П5n = HmS„. Будем говорить, что к последо- п

вательности {gn, п = О, ±1, ...} применим «закон 0 или 1», если а-алгебра 5» содержит только события вероятности О или 1.

Теорема 4. Если последовательность {gn, п = О, ±1,...} удовлетворяет «.закону 0 или 1», то преобразование сдвига времени является перемешиванием.

Положим £_п = Р{В|8„}. Последовательность {£„, Sn, л = = ...—к,—£ + 1, ..., 0}, 5-п = 5п, является мартингалом, и Р{В|8„} является его замыканием слева. Так как а-алгебра S~ тривиальна, то Р {S |5<»} = const = Р(В) (mod Р). В силу теоремы о сходимости мартингалов (теорема 1, следствие, § 1) limR{B|Sn}= Р(В) с вероятностью 1. Пусть А— цилиндрическое множество над координатами п = 0, 1,2,... Тогда S~M е е 8П. Поэтому при п оо

Р(ВП5""Л)= J Р{В|8„}Р(<?Ы)->Р(В)Р(5-"Л) = Р(В)Р(Л). 3-пА

Очевидно, что это соотношение имеет место и для любого цилиндрического А. Отсюда вытекает, как было замечено ранее, соотношение (21). ■

Другим примером процесса, удовлетворяющего условию перемешивания, может служить стационарная гауссова последовательность, коэффициент корреляции которой стремится к нулю. Пусть {gn, п = 0, ±1, ±2, ...}—стационарная гауссова последовательность, Mgn = m, М (gn — #0 (|0 — m) = Rn, f(u) = f(x0,xt, .... Xp), g(u) = g(xo,xi, ..., Xp) — ограниченные достаточно гладкие функции р + 1 переменных, имеющие абсолютно интегрируемые преобразования Фурье /*(Х0Хр), g*(X0, Др)-Тогда'

М/(^я> 1п+ь •^п+р)я(^о>•••> ^р)=

= М \ ... \ в ®^~®' х

X f (А-о> • • • > ^р) g (Но, • • •, Ир) ^о • • • ^р ^^о • • • ^р ~ 1 Г °"

= i\v

Х1ЧХОМгЧио,-

• • > Ир) ^^о • • • ^^р ^Но • • • ^*

Если lim /?„ = 0» то, переходя в написанном соотношении к пре- П-*оо

делу при п —♦ оо, получим

Пт М/(5п, Sn+ь 5п+р)^(^о» 1ь •••» $р)== П-»оо

= Mfa0, b.-.,|P)Mg(U Вр). (23)

Так как класс функций fug, для которых доказано последнее соотношение, всюду плотен в З’з, то соотношение (23) имеет место для произвольных f и g из 3^.

Таким образом, доказан следующий результат.

Теорема 5. Стационарная гауссова последовательность, коэффициент корреляции которой Rn—*0 при п —► оо, удовлетворяет условию перемешивания.

§ 4. Процесс восстановления

В общих чертах процесс восстановления может быть описан следующим образом. Рассматривается работающий прибор, который время от времени выходит из строя (отказывает). В момент отказа прибор немедленно заменяется новым. Будем считать, что продолжительность исправной работы n-го прибора тп является случайной величиной, причем все величины тп, п = = 1, 2, ..., независимы и одинаково распределены. Моменты времени, когда один из приборов выходит из строя, называют моментами восстановления. При этом считают, что 0 является моментом восстановления. Положим

5п = 'г1 + т2-Ь ... +т„,' п=1,2 1о= О.

Величина |п является моментом n-го восстановления, а всего промежуток времени [0, £„] имеет п 4- 1 восстановление (считая восстановление в момент времени 0).

Пусть F(x) = Р{тп ^ х} (в настоящем параграфе удобней пользоваться таким определением функции распределения случайной величины вместо обычного Г(х) = р{тп < х}). Тогда Г(х)=0 при х < 0, Г(0)^0. Будем считать,-что F(0)< 1. Тогда Мт„ > 0.

Лемма 1. С вероятностью 1 £п—>оо при п-*оо.

Действительно, Р(|п^с) = равенство Чебышева, получимДействительно, Р(|п^с) = равенство Чебышева, получимРРССп1п1^ e~cJ. Используя не-^ e~cJ. Используя не-

Действительно, Р(|п^с) = равенство Чебышева, получим

Действительно, Р(|п^с) = равенство Чебышева, получим

Р

Р

С

С

п

1

п

1

^ e~cJ. Используя не-

^ e~cJ. Используя не-

(1)(1)P(|„<c)<ec^”, где <7 = M<TV

(1)

(1)

Таким образом, P(lim ^п ^ с) = Пт Р(|п ^ с) = 0. ■

Из леммы 1 следует, что для любого / ^ О найдется такое v = v(/), что gv-i ^ t < gv. Величину v(/) называем числом восстановлений на промежутке времени [0, /]. Так как {v(/) = = n} = {^n—1 < 0\ Un < О, ТО■

р (V (о=и}=р и»., < о - р а» < о.

При этом |п — сумма п независимых одинаково распределенных величин. Следовательно, P(gn ^ 0= F*W(f), гДе F*W(T)— n-кратная свертка функции распределения Fix'):

ООt

F*w^ = J рЦп-п^ — s)dF(s) — ^F*tn~'4t — s)dF(s), — oo0

причем F*(n)(/) = 0 при t < 0, P№(t) = I(t) (I(t)=l при t > 0 и /(0= 0 при t < 0), PW = F.

Положим

Я(0 = Му(/), />0, Я(/) = 0 при /<0.

Функция H(f) играет в дальнейшем важную роль. Ее называют функцией восстановления. Она монотонно не убывает и непрерывна справа. Покажем, что она конечна V/ ^ 0. Пусть Хп(0— индикатор события {gn ^ /). Тогда

я(0=м*(0=м Zx„(0=Zp(^</).

/1=0/1=0

Таким образом,

(2)(2)Я(0=Е F*w(t),п^0

(2)

(2)

и в силу неравенства (1) ряд в правой части равенства сходится равномерно в любом конечном отрезке / е [0, 7]. Из равномерной сходимости ряда (2) следует ^F^ (t')=F*(^1 У7**"-‘^(Z) = п-1\п—1/

= Г*Я(/), где F*G обозначает свертку двух функций F и G, обращающихся в 0 для отрицательных значений аргумента: F*Q^= f G(.x-s^dF^ = ^Gkx-s^dFks\ — со0

Следовательно, функция Я(/) является решением уравнения t

H^ = Ht^\Hkt-s^dFks\(3)

о

Более того, если z(/)—произвольная измеримая ограниченная функция на каждом компакте (0, 71,2 (0 = ^ z (/ — s) dH (s) = о

— H*z(f), то

t

(4)t^fdF мы(4)t^fdF мыZy^z^-V^Zy — s^dF^, />0.о

(4)

t

^fdF мы

(4)

t

^fdF мы

При этом следует иметь в виду, что под интегралом

в настоящем параграфе будем понимать интеграл по замкнутому отрезку [0, /] и в нем нужно учитывать значение меры, порождаемой функцией F, сосредоточенной в точках 0 и t. Уравнение (4) называют уравнением восстановления. Оно имеет решение для любой измеримой локально ограниченной функции z(/) (т. е. ограниченной на всех конечных отрезках). Нетрудно убедиться, что в классе локально ограниченных функций решение уравнения (4) единственно.

Действительно, разность V(/) между двумя решениями уравнения (4) (при заданных z(/) и Ру)) удовлетворяет уравнению V = F * V. Следовательно, для любого п V = F*w* V. Но тогда max УУ)^ max V y)F*w (T) ->0 при n-*oo, так что / е [0, Г]f е (0, Г]

Исследуем асимптотическое поведение функции Я(/) при i —* оо.

Лемма 2. Функция H(i) полуаддитивна, т. е.

Я^ + ^ХЯМ + Ж^).

Доказательство. Имеем

я Ух + у - нуу = s р (А < In < /1 + /2) - П-0

Так как £„ —£* не зависит от £* и £ft-b то

P(^t-X^l < 6»<<1+<Ь £я^#1 + У =

= MP & - ^ «! +12~ 6*1 Ых^-1«! < 6ft «1 + 4),

где % (Л) обозначает индикатор события А. Далее,

5 Р (U - Ik < 114- /2 - I» IUX H & + /2 - &), п=к

X Х(^-1<#1<£а</1 + ^)<1, Jfe-1

поэтому

нах+^-нахх

<M gHtm-til^itUUCMtm ■

Лемма 3. Для произвольной неотрицательной локально ограниченной полуаддитивной функции H{t) предел 1= lim -^ ■■ /->оо Г существует.

Доказательство. Пусть с > 0, t = kc + h, й @ [О, с) и к — целое число. Тогда

Л (ОH(kc + h> ^ kH(c) + If(h)

t kc + h ^ kc-V h '

откуда

Найдем значение предела lim -^-.

Теорема 1 (элементарная теорема теории восстановления).

(^^=Ж" (w = 0, если Мт1 = о°)-(5>

Доказательство. Рассмотрим преобразование Лапласа ^(0. функции H(t):

Имеем

fГ^(—)

^Н^еАе-" —~— udu>

У L 7 -

Так как

\ е"и '■ и udu=sA e-stH (0 dt < seH (у) -► О osо

при 8 -* О И Н (yj (уJ -> / при s —► О и любом и ^ О, то

lim s2H (s) = s->0lim s2H (s) = s->0e~ulu du = /. оe~ulu du = /. о

lim s2H (s) = s->0

lim s2H (s) = s->0

e~ulu du = /. о

e~ulu du = /. о

С другой стороны, переходя к преобразованиям Лапласа в равенстве (3), будем иметь

Я (s) = J e~st dt + J J H (t — Г) e-s«-#')-sr dF (Odt 00 0

oooo

= у + $ e~sV dF (П J H (u) е-«* du=у + H (s) F (s), оо

где F(s)—преобразование Лапласа — Стилтьеса функции F(t)i

F(s) = ^e~stdF(f).оТаким образом, для функции Я (s') имеем следующее жение:Если величина Mti конечна, тоF(s) = ^e~stdF(f).оТаким образом, для функции Я (s') имеем следующее жение:Если величина Mti конечна, то(6)(6)выра-выра-(7)(7)

F(s) = ^e~stdF(f).о

Таким образом, для функции Я (s') имеем следующее жение:

Если величина Mti конечна, то

F(s) = ^e~stdF(f).о

Таким образом, для функции Я (s') имеем следующее жение:

Если величина Mti конечна, то

(6)

(6)

выра-

выра-

(7)

(7)

ооМт, *Мт, *

о

о

Мт, *

Мт, *

nml^^^LzfldFV). s+o s о

В этом случае

I = lims2^ (s) = lim ^—- '«->os->o 1 — F (s)

Если же ^tdF(f) = oo, то, как нетрудно видеть, о

SfO 5

Полученный результат можно было предвидеть: среднее число восстановлений в единицу времени равно величине, обратной среднему времени непрерывной работы прибора.

Более точные результаты в теории восстановления зависят от природы функции распределения F(/).

Предположим, что продолжительность работы прибора может иметь только значение вида т = nh, п = О, 1, ... В этом случае говорят, что величины тд имеют решетчатое распределение. Не умаляя общности, можно считать h = 1. Пусть рп — = Р (тд = п). Положим

G (п) = 1 + Р (Ti = п) + ... + Р (т, + - . . Тд = п) "Ь ...

Из предыдущего следует, что G (п) •< оо (если тй > 0 с вероятностью 1, то G(n)^ 2). Пусть d— наибольший общий делитель тех п, для которых рп > 0. Если d = 1, будем называть процесс восстановления апериодическим; если d > 1 — периодическим, ad — периодом восстановления. В случае апериодического процесса восстановления G(n)>0 для всех п, начиная с некоторого п = п0. Если же d > 1, ю при всех достаточна больших А, 6 ^ ко, G (Ы) > 0. Эти утверждения вытекают из. следующей элементарной теоретико-числовой леммы.

Лемма 4. Пусть d — наибольший общий делитель последовательности положительных целых чисел гц, п^ns. Существует такое число т0 > 0, что для всех целых m ^ ш0 неопределенное уравнение

8md = ^ CjUj

имеет решение в целых неотрицательных числах Cj.

Доказательство. Пусть А — множество всех чисел, предста- вимых в виде х = У а^, где а,- — целые (положительные, отрицательные или 0). Каждое х делится на d. Пусть d0 — наименьшее положительное число из А. Так как х — kd0 е А при любом целом к, то, каково бы ни было х, найдется такое к, что х = kdo (в противном случае нашлось бы такое к\, что хх = = х — kid0 удовлетворял бы неравенствам 0 < хх < do, что противоречит определению do). Итак, do есть наибольший общий делитель чисел из А. Пусть теперь В = ^х: х = ^6/И/^ >- 41s

где Ь^ — целые неотрицательные числа, и dt = 2 «/• Число d» можно представить в виде do-N^— Nx, где Nx s В. Пусть С — наибольший из целочисленных коэффициентов при «j, вхо-

дящих в N2. Для любого целого m > О положим т = kdx'+ ^ь тде 0 ^ mi «< dx. Тогда md0 = kdQ-dx 4- mxd0 e В, если kdo > > mxc, что наверное будет выполнено, когда к > -^- или когда

т>77^'1

Рассмотрим апериодический процесс восстановления и докажем существование предела Gw = lim G(ra).

П-^со

Лемма 5. Пусть т — случайная величина, принимающая значение п (п = 0, ±1, ±2, ...) с вероятностью рп, ф(и)—- характеристическая функция величины т. Если d = 1, то <р(и) ^= 1 при |и|< 2л, и =f= 0.

доказательство. Имеем

ф(и) = Мег“т = У*, р№е1ип.

Пусть ф(«о) = 1, |ио1<2я, иоЧ^О. Имеем

0 = 1 — Реф(и0) = ^ (1 —со5пи^рп.

Поэтому cos пи0 = 1 для всех тех п, для которых рп > 0, или пи0 = 2лй. Выберем последовательность целых чисел пх, пг,... ..., «$, для которых рПг> 0 и наибольший общий делитель которых равен единице. Тогда nru0 = 2nkr (г = 1, 2, .... s).

С другой стороны, уравнение 22 агпг = 1 имеет решение в це- г—1

лых числах От. Следовательно, .9S

«о = 52 агпгио = 2л 2 йЛг = 2л£0,г-0г-1

тде ко — целое число, что противоречит условию |и0|<2л. ■ Лемма 6. Если восстановление апериодично, то предел

Gx = lim G (га) существует.

«-►ОО

Доказательство. Положим

G (z, га) = 22 ^рп (^),га ^ 0, 0 ^ z < 1,

к«0

где pn(k)= Р{^й = га}, gft = Т! +'... + тц. Из теоремы Абеля о степенных рядах следует, что

G(n) = limG(z, га).

г^1

Так как характеристическая функция случайной величины ^. равна [ф(м)]\

Л-1

где <р (ы) = Ме/ит*, то

Л

р» ^=i Sе-1п* ^ ^*du-

-я

Поэтому

л1 f p^lnu dllс^ЧЛт=^’ »><>•-я

При п < 0 интеграл в правой части последней формулы равен нулю. Следовательно,

Л

^ /„ „х 1 с cos пи du

—Л

Положим A(z,«) = ^-Re(l-гф(ы))"'. Так как G(z, и)— вещественная функция, то

Л

G (z, n) = ^h (z, и) cos пи du.—л

Ядро h^z, и') (z е [0, 1], 0<|«|<2л) положительно и непрерывно в силу апериодичности восстановления и леммы 5. Поэтому при любом е > 0

8

G(n) = !im ( h (z, ы) cos пи du +(h (1, и) cos пи du. (8)

г*‘ -88<1а|<Л

Полагая здесь п = 0, видим, что существует предел

8

h6 = lim \ h (z, ы) du

-8

и йе ^ 0(0). Так как h6 убывает при е | 0, то предел lim Ае = Zt» 8->0 '

также существует. Следовательно, существует

е

lim lim \ h (z, ы) cos nudu = h.

8-Ю 241 _J

Возвращаясь к формуле (8), видим, что й(1, и) является интегрируемой (в смысле Коши) функцией на отрезке (—л, л) и

G(n) = h-V Л(1, и) cos nudu.

—я

Так как Л(1, га) интегрируема, то по теореме Римана — Лебега я

lim \ А(1, и) cos пи du = 0.п-froo

Таким образом, доказано, что lim О(п) = й существует. ■

П->ОО

Теорема 2. Если восстановление апериодично, то

limG(ra)= —,т = Мтй,

причем если Мт6 = оо, то lim G(n) = 0.

П-> ОО

Доказательство. Так как предел lim G(«) = ft существует П-*оо

в силу предыдущей леммы, то, используя теорему Абеля о степенных рядах, получим

A = limfl +Ez"[G(n)-G(n-l)]) =

2 1 1 \ П—1/

= Пт ^ zn (1 — $ G (га) = lim (1 — z) Ф (z), 2ф1 П-0211

где Ф (z) = 2 Z"G W — производящая функция последователь- п—О

ности (G(ra), п = 0,1, ...}. Из независимости и равнораспределенности величин Та следует, что G(n) удовлетворяет уравнению

G(ra) = 6(n) + £ G(n — k^pfe, я>0(9)

fe-i

(6(га)=0 при га > 0, 6(0)= 1). Умножая это соотношение на zn и суммируя по всем га ^ 0, получим

Ф(z) = l + F(z)Ф(z),|z|<l,

где F(z) = ^ p„z". Таким образом, п-1

Ф(г) = [1-Г(г)Г* И

А-ИтГЛ^Г'.

Если т = оо, то для любого ^ > О

lim z^llim z^l1-F(2)1 — 21-F(2)1 — 2NN1 — 2П1 — 21 — 2П1 — 2N

lim z^l

lim z^l

1-F(2)

1 — 2

1-F(2)

1 — 2

N

N

1 — 2П

1 — 2

1 — 2П

1 — 2

= ^РпП,n-1

откуда следует, что h = 0. Если же m < оо, то, учитывая не- 1\<п при |2| < 1, получим

Нт 1 ”1У = Пт Рп = ^РпП = т. ■

241241"1 z “

Следствие. Если восстановление имеет период d, то

lim G (nd) = m = Мт^.(10)

П->ооm

Действительно, если данное восстановление периодично и d — его период, то новое восстановление, в котором длительность восстановления Tn = '^L. является апериодичным. Если G'^—его функция восстановления, то G'(n)= G^ndy С другой стороны, Мт' ==~^5- — ^ • Из доказанной теоремы теперь следует (10). ■

Рассмотрим функцию восстановления в нерешетчатом случае. Исследование будет основано на уравнении восстановления (4). Нам понадобятся следующие леммы.

Лемма 7. Пусть ^, §2> ... — одинаково распределенные независимые случайные величины, ^n — fn(^\ £п), где

fn(Xi, ..., хп)—симметрическая функция своих аргумента» (f(xb •••• *„) = Н*^ xjn)для любой перестановки

(й, ..., in) индексов (1,2, ..., п)). Если £ = Р. lim£n, то величина £ не зависит от случая.

Доказате л ь с т в о. Можно предположить, что I f„ К t (если бы это было не так, то можно было бы заменить величины £ и $„ величинами — arctg£, — arctg£n)- Тогда Ml&n™ £nl2_>0- Но величина ^2п — ^п имеет то же распределение, что и ?2„ —^. где g; = f„0n+I, ...» U)- Поэтому lim М^ —^)2 = 0 и, как следствие, lim М (£п — £')2 = 0. Из независимости величин £п и £' вытекает М (£„ — ^)2 = = (МС„ — М?')2+Dg„+D£'-»0. Отсюда следует Dg = = lim D^„ = 0. ■

Лемма 8. Если функция 0(0 непрерывна, ограничена и удовлетворяет уравнению

e(f)=\e(t-s)dF(s),(П)

о

то 0(0= const..

Доказательство. Уравнение (11) можно записать в виде 0(0= М0(/— т*). Пусть 5„ — а-алгебра, порожденная случайными величинами ть ..., тп. Тогда М {0(/ — |„) I §„_]} = = М (0« - ^_! - т„) l^-,} = М0« - у - т„) \д=^п_х = 0(/ - !„_,). Следовательно, последовательность 0(/— gn) является ограниченным мартингалом. Поэтому с вероятностью 1 и в 3\ существует предел Нт 0 (/ — &„) = 0 (/). Так как 6(0 является преде- П->оо

лом симметрических функций от одинаково распределенных случайных величин, то 6(0 не зависит от случая (лемма 7). Поэтому 0(/) = lim М0 (t — U = 6 (0 • Итак, 0 (0 = Нт 0 (/ — g„) Для «-►оо

любого /. Так какИт0(1—1„) = Hm0(t — Tj — (т2+... + тп)) = «-►оо

= 0(/ —Т]), то 0(0= 0(^— т0 с вероятностью 1. Из непрерывности функции 0(0 следует, что Р (sup| 0(t — g() — 0(/) I > 0)= = 0. Таким образом, можно найти такое множество А (Лс(—оо,со)), что 0(0= 0(^ — я) для всех /е(—оо, оо) и всех хеД. Так как распределение величины ti нерешетчато, то в Л содержатся либо две несоизмеримые точки, либо пары точек со сколь угодно малым расстоянием. Следовательно, непрерывная функция 0(0 либо имеет два несоизмеримых периода, либо обладает сколь угодно малыми периодами. В обоих случаях оно константа. ■

Следующая теорема носит название основной теоремы теории восстановления.

Теорема 3. Если распределение величин тд нерешетчато, то для любого с > 0

Нт [Я (t + с) — Н (01 = c/m, m = Мт* /-►оо

(при m = со полагаем elm, = 0).

Доказательство. Пусть z(0—непрерывная функция, равная 0 вне некоторого отрезка, и 2(0 = Н *z(t). Функция 2(0 ограничена. Действительно, если z(0=0 при |/|^Л и |z(0|<C, то |2(0|< С[Я(/4-Л)— H(t — Л)]. С другой стороны, в силу полуаддитивности функции Я(0 H(t-\-A)— — Я(t— Л)^Я(2Л). Очевидно, что функция 2(0 непрерывна. Таким образом, она является единственным решением уравнения (4). Рассмотрим семейство {Я($ + 0—И (s'), $ ^ 0} моно-

тонно неубывающих функций аргумента t. Из равномерной ограниченности этого семейства (Я($ + /)—Я($)^Я(/)) на произвольных отрезках /е[—Л, Л] вытекает, что из любой последовательности значений s можно выбрать подпоследовательность $д —* оо такую, что H^Su-Vt^—H(Sk) сходятся на всюду плотном множестве значений / к некоторому пределу v(t). Но тогда

Z(sfe + 0 = $ 2(/-s)d^(s6 + s)-> J z(/-s)do(s),(12)

так как z(t) отлична от нуля только на конечном интервале.

Положим 0 (/) = ^ z (t — s) do ($). Перейдем в равенстве

Z(Sft + #) = z(sft + /)+ Jz(^ + Z-s)dF(s)о

к пределу при $а —* оо. Учитывая, что lim z(sk + /) = 0, получим

0(0 = Jo(t — s)dF(s).о

В силу леммы 8 0(0 = const. Таким образом, для любой непрерывной функции z(0 (z(0=0 при |/|>Л для некоторого Л) функция 0(0 = ^z(t — s)dv(s) не зависит от t. С помощью о

предельного перехода получаем, что о(0)—о(0) зависит только от разности О — 0. Положим v(/ + s)—o(s)=/t(O. Тогда й(0 + O)=v(O + О + s)— о(0 + s)+ о(0 + s) — o(s) =й(/2)+’ + й(/(). Функция h^ монотонно не убывает, поэтому решения уравнения й(0 + 0) = А(0)+ ^(0) (0. 0 > 0) имеют вид й(О=аО Мы получили, что o(/4-s)—o(0=as. Таким образом,

Z ($6 + 0 -* a z (/ — s) ds.

При этом константа а не зависит от выбора последовательности $к, ни от функции z^ty Так как в последнем соотношении Sk — подпоследовательность любой последовательности чисел s'—> оо, то мы видим, что предел Z(f) при /-*оо существует и

HmZ(0 = a ( z^ds.(13)

С другой стороны, из предыдущих соображений вытекает, что lim \Н (s + 0 - Н (01 = as(14)

<->оо

для счетного всюду плотного множества значений $. Из непрерывности правой части равенства (14) следует, что равенство (14) выполняется для всех значений s. Напомним, что (13) доказано для всех непрерывных функций z(Z), отличных от О на конечном отрезке, а равенство (14) можно рассматривать как частный случай (13) при z(s), равном индикатору полуинтервала (/, / + s]. Отсюда вытекает, что равенство (13) имеет место, например, для функции z(f) = 1 — F(f) при / ^ О, z(/) = О при / < 0, если•

т = ^ (1 — F(t))dt = Мт] < оо.о

t

В этом случае Z (/) = Н * z (t) = j (1 — F (t — s)) dH (s) = 1 и pao

венство (13) дает 1 = am, a = 1/m. Тем самым, для случая т < оо теорема доказана. Пусть теперь т = оо. Тогда

= $ (1 - F (/ - s)) dH (s) > lim J [1 - F (s)] dH (t - s). о

При / —► оо получим для любого с > 0

1>а J(1 — F^ds.о

Но интеграл справа стремится к оо при с—► оо. Следовательно, а = 0. И

Замечание. При доказательстве теоремы формула (13) была применена к функции z^ = 1 — F^, / ^ 0, в то время как непосредственно она была доказана для непрерывных функций, равных 0 вне некоторого компакта. Введем следующее условие.

Пусть h > 0 и с.п, сп обозначают минимум и максимум функции z(t) на интервале (п — l)/i ^ х ^ nh.

Условие А: ряды а, = й £ с«п, а* = А 2 с*п сходятся абсолютно и о* — а» 0 при h —> 0.

Нетрудно проверить, что если функция z(/) удовлетворяет условию А, то к ней применима формула (13). Покажем это. Пусть сначала функция z(/) ступенчатая, z (/) = У, anzn (t), Xn(t)~^ при h^n — l)sC t < hn и zn(f)=O при других зна-

чениях t, Zn = H*zn. В силу (14) Zn(f)= H(t—(n — 1)А) — — Н (t— nh)-*ah, причем Zn(Z)^AfA для всех п, где Mh — некоторая постоянная. Пусть а„^0, £ ап < оо. Тогда

пПОО

(Z = H*z) Е^(/)<2(/)<Еа^И0 + ^л 11п+1

Переходя здесь к пределу при t -* со, получим

lim Z (t) = ah / ak = а \ z^ dx.

Пусть теперь z(Z) — произвольная функция, удовлетворяющая условию А. Применяя полученный выше результат к ступенчатым функциям У, c«nzn (Z) и У с*пЯп VtV получим, что все предельные точки Z^ (при t—»оо) лежат между ао* и аа*. Поэтому (13) верно для любых z(Z), удовлетворяющих условию А. Очевидно, что z^= 1—^(Z), Z>0, удовлетворяет условию А, если т = Мт, < ОО. я

Введем теперь еще две важные характеристики процесса восстановления. Если £а-1 ^ Z < ^а, то положим

v,+=^-z, V^Z-^.

Процессы у/", у^ кусочно линейны. Процесс у+ убывает на каждом промежутке времени [£а-ь £а) от тА до 0, а у,™ — возрастает от 0 до хь. Величина у,+ показывает, сколько еще времени будет работать прибор, если он работает в момент времени Z, a Ч? — сколько он уже проработал. В некоторых вопросах представляет интерес величина У, = У<" + У7> равная общей продолжительности работы прибора, работающего в момент времени Z. Так как величина у, совпадает с одной из величин та, то может показаться, что распределение величины у, совпадает с распределением величины та. На самом деле это не так. Дело в том, что у, совпадает с величиной тй, взятой в случайный момент времени ^ = v(Z)4-l, y(Z)=tV(t^i> где v(Z)—число восстановлений в момент времени Z. Поэтому распределение у, может не совпадать с распределением та. Это обстоятельство известно под названием парадокса теории восстановления.

Найдем предельное распределение величину,, у+ и у,-. Введем функцию

V,(x) = P{y+>4

Событие {у^ > у} П {у+ > х) происходит тогда и только тогда, когда в промежутке времени [Z — у, Z 4-x] нет ни одного вое-

становления, т. е. когда Y?Ly > я + У* Поэтому р {тг > У, Y#+ > х} = VtLv (х + у).

Таким образом, совместное распределение величин у^ и VT (а следовательно, и распределение величин у^ + у^, у(-) выражается через функцию У<(х). Заметим, что

{т/" > х} =Д (£й-1 < 0 № > t + х).

Следовательно,

У/М^Р^СЛ &*+.>' + *).

6-0

При этом

Р(Ь<Л Ь+1 >< + *)-(

= Мх6б<0Р<Тб+1 >/ + х — g6||ft} = ^ [1— FU-Vx — s^dFfAs) о

где Fk(s)—функция распределения величины g», Fkls) = = Р(^$). к1 и Fols)—распределение, сосредоточенное

в точке s = 0. Так как . £ Fk (s) = Н (s), то

6-3

Vtlx) = ^(\ — F It + х — s))dH (s).(15)

о

Теорема 4. Если величины, тн имеют нерешетчатое распределение и Мт» <_ со, то

НтУ^х)= м^Дц-Лз + х)]^.(16)

t->ooJ

Доказательство теоремы непосредственно вытекает из соотношения (13), если положить г(/)= 1—f(/4-x), / ^ 0 и заметить, что так как zlt) удовлетворяет условию А замечания к теореме 3, то формула (13) к ней применима. ■

Аналогично в решетчатом случае получим следующее утверждение.

Теорема 5. Если Тб имеют решетчатое распределение,

vt (6) = Р (у; = А), р (k) = Р (Т| = А),

ТО

limoz(A) = -J—Ур(^ + /).(17)

/„►со

Рассмотрим теперь совместное распределение величин у^ и у^. Имеем

{vf=/} П {у/ = Ц = D^ = t - П П U„+i = / + ^} =

= 0{^=^-j}n{T„+1 = ^+/}.

п=0

Поэтому Р {уг = /, у+ = £} = £ pt_, (п) р (k + /)• На основании теоремы 2 получаем

ДтР(у~ = /, y^fe^^p^ + j).

Отсюда также следует, что

HmP{Y< = 0 = -^.(18)

f->OC

В формуле (18) отражается парадокс теории восстановления: вообще говоря, Р (yt = /) ^ р (/).

Цепи Маркова

Общее понятие процесса Маркова в широком смысле было введено в § 4 гл. I. В настоящем параграфе рассматриваются цепи Маркова — процессы Маркова с дискретным временем. Речь" идет о стохастической системе, состояния которой описываются точками некоторого измеримого пространства {X, 8}, называемого фазовым пространством системы. Система может менять свои состояния в момент времени /= 1, 2, ... Вероятностью перехода P<m’n>(x, В) называют условную вероятность системе, находящейся в момент времени tn в состоянии х е X, оказаться в момент времени n > m в одном из состояний множества В, В е 8. Предполагается, что р<т> п>(х, В) при фиксированном х является мерой на 8, p(ro>n>(x, Х)= 1, а при фиксированном В — 8-измеримой функцией от х. Основное предположение о характере теоретико-вероятностной эволюции рассматриваемой системы — это отсутствие последействия. Формально это выражается в требовании, чтобы вероятность перехода удовлетворяла уравнению Колмогорова — Чепмена:

P(Z> ") (х, В) = ^ Р(т> "> (у, В) P<z> т) (х, dy), l<m<n, х

для всех 0 < / < т < п, х е А', В е 8.

В случае дискретного времени уравнение Колмогорова — Чепмена показывает, что вероятности перехода Р<т’ п> (*. В)

индуктивно определяются через вероятности перехода за один шаг Р„(х, В) = p<n>n+i)(x, В). При этом

Def

p(m, n+1) (x? В) = $ Pn ^y^ ft} p<m, n) (X( ДууX

Покажем, что для любого измеримого пространства {^, 8}, нормированной меры m на 9 и последовательности стохастических ядер Р„(х, В), п = О, 1, ..., можно построить цепь Маркова, для которой вероятности перехода за один шаг равны Р„(х, В), а начальное распределение состояния цепи задается мерой т.

Для этого рассмотрим задачу о построении с помощью данных стохастических ядер меры в произведении пространств.

Пусть К — некоторый класс действительных функций. Напомним, что К называется конусом, если одновременно с парой функций f и g из К ему принадлежат и все функции вида •af + bg, где а и b—неотрицательные числа. Класс К называют монотонным, если из того, что fn eKJn^ fn+t, п = 1, 2, ..., вытекает lim fn е К.

Лемма 1. Пусть 2U — полукольцо множеств из X, St— «□-алгебра, порожденная ЭД, К — некоторый класс функций, определенных на X, обладающий следующими свойствами-.

он является конусом и монотонным классом-,

из 0 ^ fi ^ fi вытекает f2 — fi еК;

1 е К;

он содержит индикаторы множеств из SW.

Тогда К содержит все неотрицательные ^-измеримые функции.

Доказательство. Пусть $ обозначает класс всех подмножеств X, индикаторы которых входят в К. Тогда: а) Хе2; б) если А е $, Ве$ и А а В, то В\Д е $ и Я\Д е $\ в) если А е $ и В е 9?, то АПВеЗ” и AUBES’. Таким образом, 9? является алгеброй множеств. Из монотонности класса К вытекает, что 9? — а-алгебра. Итак, К содержит индикаторы всех St-измеримых множеств. Поэтому К содержит все простые St-измеримые функции и пределы монотонно неубывающих последовательностей простых функций, т. е. все неотрицательные St-измеримые функции. Я

Лемма 2. Пусть f^x, у)— неотрицательная a {St X ^-измеримая функция и р(-, •)—стохастическое ядро на {X, S3}. Тогда функция

g^ = ^fkx, z/)P(x, dy)

X ^.-измерима.

Доказательство. При фиксированном х функция f(x, •) 5Э-из- мерима, так что интеграл в правой части равенства имеет

смысл. Класс К неотрицательных функций /(х, •), для которых лемма верна, является конусом и, в силу теоремы Лебега, монотонным. Кроме того, К содержит разность двух своих элементов и f(x, у) = 1 е К. Так как он содержит индикаторы множества вида А X В, где Л е 91, В е S3, то он содержит все неотрицательные о {91 X 83}-измеримые функции. ,■

Следующие предположения можно рассматривать как обобщение известной теоремы Фубини.

Теорема 1. Пусть м, 91}, {У, 93}, {Z, 6}—измеримые пространства, Qi(x, В), Ог(У, С)—стохастические ядра на {X, 83}, {У,6} соответственно. Существует, и притом единственное, стохастическое ядро Qs(x, D) на {X, <т{83Х®}} такое, что

Q3 (х, В х С) = J Q( (х, dy) Q2 (у, С).(1)

в

При этом для произвольной неотрицательной о {83 X 6} -измеримой функции f(_y, z) имеем

$ f (у, z) Q3 (х, dy X dz) = A f ky, z) Q2 (y, dzA Ch (x, dy). (2) YXZY \Z/

Для доказательства первой части теоремы достаточно показать, что формула (1) определяет на полукольце прямоугольников в У X Z полуаддитивную предмеру. Пусть Dx = В, X Ci, D2 = В2 X С2 и В2 с Dx. Тогда В2 с Вх, С2с.Сх и Dx = D2Ui U D' U D", где D' = В2Х (Ci\C2), D" = (BAB,) X С,.

Множества D2, D', D" попарно без общих точек. Если применить формулу (1) последовательно к множествам D2, D' и D", то получим

Оз (*, D^ + Q3 (х, D') + Q3 (я, D") —,

= J Qi (x, dy) Q2 (y, C2) + J Qi (x, dy) Q2 (yi, Cx \ C2) + BiB2

+ J Qf (x, dy) Q2 (у, C) = J Q( (x, dy) Q2 (у, C) = Q3 (y, Dx). Bi\BiBi

Таким образом, функция Qs(x, D) аддитивна на рассматриваемых специальных разбиениях множества D. В частности, если D3 = Dx UD2, где Dx — прямоугольники и DXC\D2 = 0, то

Q3(^ Dl)+Q3(x, D2)=Q3(x, D3) и Q3 (x, YXZ)=L

Аддитивность функции Qa(x, -)на полукольце всех прямоугольников в общем случае нетрудно получить по индукции.

Пусть D = J Дь где Dk — прямоугольники попарно без об- 6-1 п—1

щих точек. Тогда D \ Dn = D' U D" = U Dkl где D' и D" опре- fe-i

деляются только что использованными формулами. Как уже доказано,

Q3 (х, D) - Оз (х, D„) + Оз (х, D') + Оз (X, D"). Используя предположение индукции, получаем

Оз (х, D^ = Q3 (х, D' Л (d Рб)1 = S Оз (х, D' п D^ и аналогичное выражение для Оз(х, D"Y Таким образом,

Оз (х, D) = Оз (х, Д.) + £ [Оз (х, D' Л D^ + Оз (х, D" Л Д)].

Так как D' и D" — прямоугольники без общих точек, в сумме покрывающие Dk, то D' Л Dk и D" Л Dk — также прямоугольники и (D' П Dk) U (D" Л Dk) = Dk. Поэтому Оз(х, D' Л D^ + + Q3(x, D" Л Dk^ = Q3(x, Dk) и, следовательно,

Оз(х, D) = Z Q3(x, Dk\л-1

Таким образом, аддитивность Оз(х, •) доказана. Докажем теперь свойство полу аддитивности для Q3(x, •). Пусть Ро s|J Dky i

Dk = BkXCk, А = 0, 1, ... Тогда х»0(У, z)<6Zxofe(y, z). Так. как Xofe(^, z) = xBfe(!/)%cft(z), то

Ив» (У) Хсв (z) < ft£ Хвк (У) Хск (z).

Интегрируя обе части этого неравенства по мере Ог(у, •) по- пространству Z, получим

Хв,(у)О2(у, Со)<Дхвй(у)02(у. Сб).

Еще раз интегрируя полученное соотношение по мере Qi(x, •), придем к неравенству

Оз (-^» ^о) ^ ^1^ Оз (х, Dfc),

доказывающему, что Оз(х, Од) счетно полуаддитивна. Отсюда вытекает, что Оз (я, BXQ допускает единственное продолжение на о{©Х®}- Чтобы доказать формулу (2), заметим прежде всего, что в силу леммы 2 внутренний интеграл в правой части равенства (2) является ©-измеримой функцией, так что двукратный интеграл в правой части формулы (2) имеет смысл. Далее, класс функций f (f ^ 0), для которых формула (2) верна, удовлетворяет условиям а)—в) леммы 1. Кроме того, в силу формулы (1) он содержит индикаторы прямоугольников. Поэтому он содержит все о{© X ®}-измеримые неотрицательные функции. ■

Точно так же доказывается следующая

Теорема 2. Пусть {X, 9}, {Уь ©J, ..., (У$, ©J — измеримые пространства и Q i (х, ВО)), О2 (</ь В<2)),..., Qs(ys_x, B<s>) — стохастические ядра, уьеУь, №e^h (А = 1, .... s). Существует единственное стохастическое ядро Qd.s)(x,D) на {Х,ф}, где 2) = o{©i X ©2 X ... X ©s}, такое, что

О<'- »>(х, В“>Х ... ХВ^ = $ Q] (х, dy^ $ Q2(y„ dy^ ... В»)b<2)

$ Qs(^s—ь B^1) Qs-। (y$—2, dys_ [).(3)

При этом для произвольной неотрицательной Sb-измеримой функции f(.yx, у2,..., ys)

$ f (У1У,)Q0,s) (х, dyx X ... X dy^ =

TjX ... ХУ,

= J Qi (x, dyv) ... ^f (yxy^) CU(ys-b dys\ (4)

Замечание. Формулы (2) и (4) доказаны для неотрицательных функций. Но они, разумеется, верны для произ- 'вольных f, если только одна из функций f+ или f интегрируема. Аналогичное обстоятельство будет иметь место и в других теоремах, в которых ради краткости упоминаются только неотрицательные функции.

Ядро QO-s) называют прямым произведением ядер ОьОг,...

..., Q, и пишут Q<*’s) = Qi X Ог X • • • X Qe-

Если в (3) положить В0)=У1, ..., В<в-’> = У,_ь то полу- •чаем новое вероятностное ядро в {X, Эф

Q*(l s> (х, B(s)) - Q0’ $) (х, Yx X У2 X ... X У,-1 X В^У (5)

ЦЕПИ МАРКОВАЦЕПИ МАРКОВА18$18$§ 5]

ЦЕПИ МАРКОВА

ЦЕПИ МАРКОВА

18$

18$

Его называют сверткой ядер Qi, Q2, ..., Qs и пишут q*°'s>=q1*q2* ... «а,.

Применим формулу (4) к функции Кух.уа, .... у8) = НУз) = = Xs(s) (^*0 и сопоставим ее с (5). Получим

$1 (у.) Q0,s> (х, dyvXdytX...X dys) =

У,ХУ2Х ... ХУ#

= $Ж)а*<1,$)(х, dys). (6).

Y3

Так как класс неотрицательных функций, для которых формула (6) имеет место, удовлетворяет условиям леммы 1, то (6) имеет место для произвольной неотрицательной 88-измеримой функции. Отсюда в свою очередь вытекает, что для произвольной неотрицательной <т {93m, X 33m2 X •• • X %mr X ^-измеримой функции г + 1 переменных /(ym,, ym2, ..., уmr, Уз)(Ут^Ут»

О ^/П1 < та < ... < mr < s) имеем

f (Утр Утг» Утг« Уз^Х.

у,ху2х ... ху$_,ху5

X Q(1-$> (х, dyxXdy2X ... X dys) =

- J СН1-^^, dym^ J QW-^^^ dy^) ...

• . . $ f (Ут., • • •, Утг, Уз) Q* (^+'’ S) ^Утр dy,).(7)

Y3

Частным случаем формулы (7) является соотношение

Q* <*• $> = Q* (*• mi) * СТ (mi+1- ms) * ... * Q* (V’s),

означающее, что операция свертки ядер является ассоциативной. Рассмотрим бесконечные произведения стохастических ядер.

Пусть (Xn,S3n}, п = 0,1,2, ..., — бесконечная последовательность измеримых пространств и Рп(•,•), п = 0,1—после

довательность стохастических ядер, определенных на {Xn, 8n+i}. В соответствии с теоремой 2 построим прямые произведения, ядер

р(°,П) = роХР1х ... ХР„,

р(о, ») = р(о, «> (Хо> D^ Хо G Xq> D G 6„+1, где ®п — минимальная о-алгебра, содержащая прямоугольники S1XB2X ... ХВи (Вье^Лп = о^хХ^Х ... Х$п}.

Введем пространство Х°° = Цлп, элементами которого слу- n—1

жат бесконечные последовательности ю = (хь Х2, ...» хп, ...), х^ е Хп. Через 6° обозначим алгебру цилиндрических множеств Х”. Определим на 6° семейство функций множеств Р^»*, зависящих от параметра Хо (хоеХо) следующим образом: если С — цилиндрическое множество,

С = {®: (X!хп, ..ДеDY Dе6„, то полагаем

Р(*.>(С) = Р<о«")(хо, О).

Это определение однозначно. Действительно, если

С = {®: (хь ..., х„, .. .)eS'}, D'

и, например, т > п, то D' = DXXn+vX ...ХХт и

Р(о> m4xQ, D')= J • • • 5 Ро^о» rf^l) Pl (*b ^Х2) • • •

Х| х ... ххт■

... Рт— 1 ^т— b ^т)Хо' С^Ь • • •» Х^, тде xD' (хь ..., хт)—индикатор D'. Учитывая, что Хд' C^t *«)= —Хд№, • • •• хп) и что Pfe-i(x, Х6)=1, из последнего выражения получаем.

Р<°-«>(х0, D,) = P<°'">(x0, О).

Аддитивность функции Р(Х1) на 6° очевидна.

Теорема 3. На {X”,6), где 6 — о-алгебра, порождаемая цилиндрическими множествами пространства X”, существует единственное семейство мер Р(Хо) такое, что

рм {о: х6 е 56, k = 1«}= ^ Ро (хо. dxj J ?! (xb dx^ ...

В!в2

Р»—2(ХП—2» dxn— 1) Ря—1 (х„—1, Вп) .

ВП-1

Доказательство. Достаточно показать, что введенная на ®° тиера Р^ удовлетворяет условию непрерывности: для любой монотонно убывающей последовательности цилиндрических множеств Сп, для которой ЛС„ = 0, имеем Р^ (С„)-* 0. Допустим обратное: РМ (С„) ^ в при некотором х0; основания цилиндрических множеств Сп обозначим через Dn, индикатор Dn — через "Х(£>„; хь х2, ..., xm/i) = х (Dn), и пусть Dn расположено над координатами (1, 2, ..., тп). Определим последовательность

множеств из 8

Bn == J ^Г«Х^, ^Ъ ^29 Хт^^

X PC* "^ (xb dx2 X •.. X dx^ > |}, где №•”*) обозначает произведение пространств JGX^G+iX • •• ... X Хт.

Из того, что Сп убывают, следует, что В}» также монотонно убывают. Далее, если х^п”) ~ индикатор В*^ и x(Sn0) = el~*%W)’ то 8<pw(c„)=5 $ (хда+хгоэх

X, ^(2, т„)

X х №.) Р. к. ад Р’’- "”’ (х„ dx, X ... X Л4,) <

<р.к. »,'>)+■?$Ж")Мл. ^«р.^.. в!;’),+т-

Поэтому Р0(х0, В^)>е/2. Так как Ро(Хо, •) является мерой^ то отсюда следует, что f] В^^О. Пусть х,еВ<“,п= 1,2,... Тогда

$ х(^и; хь *2. • • •. *т„) P(Umn) (*ь dx2 X ... X dx„n) > у. х(2, m„)

Приведенные только что рассуждения можно применить к ядру Р(2,m”)(x2, dx3X ... Xdxm^ и мере Pi(xlt dx^. Тогда будет доказано существование такой точки х2, что для любого D^

Х(^п» Х\, Ха, Хд*mn) X л!31 т»)

X Р(2‘ ^ (х2, dx3X...X dxm^ > |.

Таким образом, строим последовательность (хь х2х„, .. •)> в которой хп е Хп и при любом s, Dn

Х(^п» ^1» х2, .х$, х$+х, ..., хт(^Х

Л(«+1, т„)

ХР(я,т")(54. dxrtXX ... Xdxmn)>-^.

Возьмем произвольное множество Ch. Допустим, что его основание Dh расположено над координатами (1, 2, ..., s). Последнее неравенство показывает, что (хь х2, .... х$)е Dk (в противном случае было бы х(рк; хь х2, ..., х$, х$+1, ..., х^ = 0 при всех (х$+ь ..., хт)). Поэтому (хь х2, ..., х„ ...)^Ск, ка

ково бы ни было Си, и, значит,что противоречит

лервоначальному допущению. ■

Следствие. Пусть дана счетная последовательность вероятностных пространств {Хп,Эп, ^n), n = 1, 2, ... Пусть X — пространство всех последовательностей 6> = (xi,x2, ..., хп, ...), хп е Хи, и 6 — c-алгебра, порождаемая цилиндрическими множествами X”. На {X”, 6} существует единственная вероятностная мера Q такая, что

Q{®: х6еВ6, 6 = 1, 2, .... п} = П<7а№). Вк г 236. k-V

Иными словами, если задана некоторая последовательность ■вероятностных пространств {^п,8П, ?п}» « = 1,2, ..., то всегда существует вероятностное пространство {й, ©, Q) и последовательность отображений /п пространства Й в Хп таких, что слу- -чайные элементы £п =/«(©) имеют заданные распределения qu на S3n и {£„, п = 1,2, ...} независимы в совокупности.

Замечание. Доказанная теорема, в отличие от теоремы Колмогорова (гл. II, §2, теорема 5), не использует каких-либо топологических предположений о природе пространств Хи. С другой стороны, она является менее общей, чем теорема Колмогорова, так как относится к специальной конструкции мер в произведении пространств.

Возвратимся к цепям Маркова.

Определение. Цепью Маркова с фазовым пространством {X, 83} называется семейство мер Р<т)(-), заданных на {X X Х00,^, зависящих от произвольной меры tn на {X, 53} как от параметра, частные распределения которых определяются формулой

Р<т> (®: х6 е Bt, k = 0п) =

= J т (dx) J Ро (х, dy^ ... J Р„_, (ул-ь В„),(8)

воsiВП-1

-где (Рп(х,В), п = 0„1, ...} — некоторая система стохастических ядер на {X, У}.,

Стохастические ядра Р„(х, В) называются вероятностями перехода за один шаг, а мера йг— начальным распределением щепи. Фиксируя меру ш, получим случайную последовательность

со значениями в X, которую будем называть марковским процессом, соответствующим начальному распределению т.

Конечномерные распределения этого процесса будем обозначать через Р,р #2,.... <„» а операцию вычисления математического- ожидания некоторой функции от процесса по вероятностной мере Р<т> обозначим символом Мт-

Если мера т сосредоточена в фиксированной точке х фазового пространства, то х будем называть начальным состоянием процесса, а конечномерные распределения, меру в {X00,6} и математическое ожидание некоторой функции от процесса по соответствующей мере будем обозначать через Р^*#2,..., tn. Р<х) и' Мж соответственно. Положим (А < г)

Р (А, х, r,B} = \j Р* (х, dyfe+l) J Pfe+i (у6+1, dyb+^ ...

XX

• • 5 ^Г—2(^-2» dyr—l) Pfl (Z/r~b ^)*- X

С аналитической точки зрения P(A, *,r,.) — стохастическое ядро, являющееся сверткой вероятностей перехода Рл * Рд+2 * ... ... *РГ_Х. Оно также называется вероятностью перехода. Точнее, Р(А, х, г, В) есть вероятность перехода из состояния х за промежуток времени (А, г) в множество В. Из ассоциативности свертки ядер вытекает равенство

Р (А, х, s, В) = ^ Р (А, х, г, dy) Р (г, у, s, В), А < г < s, (9) х

т. е. уравнение Чепмена — Колмогорова, а формула (7) дает мтН5(/1), m1(У)=

= j m(dx) ^ Р (0, х, tb dyx> ^ Р (/lt ух, t2, dy2) X ...

...X $ f (Уь Уъ • • •, У$> p (O-i, ys-\. is. dy$Y (10>

Обозначим g(m) = |(m, <o) координатную функцию на XXX”:^(m, to) = xm, m = 0, 1, ..., to = (x0, xx, ...).

Формула (10) позволяет уточнить теоретико-вероятностный смысл вероятностей перехода. Для этого вычислим условное математическое ожидание функции f (g(s), |(s + 1), ..., £($4-n)) Щуо.У1Уп) — неотрицательная борелевская функция n-f-I переменных) относительно а-алгебры Йо, *], порожденной величинами ^(0),|(1), ..., g(0, t^s. Соответствующее условное математическое ожидание обозначим через V. По определению У есть единственная йо, tj-измеримая случайная величина такая,.

•что для любой неотрицательной функции g(xo, %ь ..., Xt) выполняется равенство

Mm5(g(o), Ki)mt№. h^+d. ...л ($+«»=

=Mm^a(o), но..... но)^.

С другой стороны, из (10) следует, что

Mmg(H0), id)Ш1№, l($ + DHs + n)) =

= Mmg(H0), Hl)Hn))f, где

/ = f 6 (0) - $ p (Л I (0, s, dy^ J Ps (y0, dyx) x ...

■ • X ^ f^®’ ^** ’ ■ ’’ У*^ Ps+n—i (.Уп~ь dynY

Таким образом, V = f.

Полученная формула приводит к следующим выводам.

Теорема 4. Условное математическое ожидание произвольной неотрицательной функции f(^(s), Н5 + 0> •••, !(« + «)) относительно 5(о, л (^ ^ $) не зависит от начального распределения т, от вероятностей перехода, предшествующих моменту бремени I, и от значений |(0), £(!),...,£(/— 1). Оно дается выражением

М.АШ Hs+1), .... Hs + n))|S[ot<I}='

= $ Р (/Л (0, s, dy0) J Ps (y0, dyx) ...

• • J f (Уо. Ух» • • •» Уп) P$+n—i кУп—х» dy^).(11)

Условное распределение величин Hs).£(s+ О, •••> £($ + «) в {Xn+I,8n+i} относительно ftto, л совпадает с прямым произведением ядер

P(U(0, S. •), Ps(-> •)...., Ps+n-^-. •).

В частности, вероятность перехода Р(/, l(t),s,B) совпадает с условной вероятностью попасть системе в момент времени s в множество В, если известны состояния £(0), НО» •••• 6(0- Эта вероятность зависит только от состояния 6(0 в последний известный момент времени и не зависит ни от значений 6(0), ■6(1), ..., 6(^— О. ни от т» ни от вероятностей перехода Pi(*, •), Р2(•,’)>•••> Pt(*. •)• Последнее свойство марковской цепи, как упоминалось ранее, называют отсутствием последействия, и оно является основной качественной характеристикой марковской цепи.

Замечание. Пусть дано измеримое пространство {X,8} и на нем система стохастических ядер Рп (х. В), п = 0,1, ... Тогда

189189ЦЕПИ МАРКОВАЦЕПИ МАРКОВА«51

189

189

ЦЕПИ МАРКОВА

ЦЕПИ МАРКОВА

существует марковская цепь, для которой Рп(х, В) являются вероятностями перехода за один шаг. Доказательство этого утверждения и конструкция соответствующего вероятностного пространства даются теоремой 3.

Марковская цепь называется однородной, если вероятности перехода за один шаг не зависят от времени:

pt (х> В) = Р (х, В).

В этом случае вероятности перехода за промежуток времени (/, $) зависят только от длины этого промежутка:

Р (/, х. s. В) =

= ^ р (х, dyt) ^ Р (yb dy^ .. • 5 Р Vtis-ъ В) Р (у$-2. dys-x) = XXX

^Р^^^^ Ву

Для однородной цепи уравнение Чепмена — Колмогорова принимает следующий вид:

Rs+m>(x, В)=$ р(5)(х> йу^Р^Чу. BYX

Пусть марковская цепь однородна. Формула (10) показывает, что ,

MmfU^+l), £($ + 2), .... Us + n» =

= Mm$f№), g(2)£(n)),(12)

где

ms (B) = J P (0, x, s, B) m (dx) = J P(s) (x, B) m (dx).

Если величина (12) не зависит от s, какова бы ни была функция /(♦), то однородный марковский процесс, соответствующий заданному начальному распределению т, называется стационарным. Для стационарности процесса необходимо и достаточно, чтобы мера т удовлетворяла условию

m (В) = ^ P(s) (х, B)m(dx).(13)

Это условие эквивалентно более простому:

m (В) = J Р (х, В) т (dx\(14)

Действительно, (14) является частным случаем (13). Если же (14) выполнено, то

т (В) = Р (х, В) Р (у, dx) т ^dy^ =

= $ Р<2> (у, В) m (d^) = ... = J РО (уА В>т №.

Вероятностные меры т, удовлетворяющие уравнению (14), называются инвариантными или, подробнее, инвариантными мерами, соответствующими данному стохастическому ядру.

Таким образом, если для данного стохастического ядра существует инвариантная вероятностная мера, то существует такое начальное распределение для однородной цепи Маркова, которому соответствует стационарный марковский процесс. Вероятностью перехода за один шаг этого процесса служит данное ядро.

Пусть St обозначает минимальную о-алгебру, относительна которой измеримы 5(0)» |(1), .... 5(0 (/ = 0,1,2, ...), т — марковский момент на {St, / = 0,1, ...}, принимающий, возможно, значение т = со.

Рассмотрим следующий вопрос. Пусть £(/)— однородная марковская цепь. Как ведет себя процесс 5т(0= 5(/ + т) при т < оо? Естественно ожидать, что при гипотезе 500 = х, т < оо, случайный процесс gT(Z) ведет себя точно так же, как марковский процесс 5(0 при гипотезе 5(0) = х. Уточним и докажем эта утверждение. Выраженное им свойство называется строгой марковостью. Обозначим йт = {со: т < со}. Положим Р<т>(х, Л) = = Р<я>{ЙсП (Ит)еЛ)}. Имеем

pm(х, Л) = S PW {[т = s] л К(О е Л]}. s=l

Отсюда вытекает, что РГО(х, Л) является мерой на 53 и

PW(x, X) = P<X>{QT)<1.

С другой стороны, существует такое множество В^ е 8(s), что событие (т = s} эквивалентно событию (5(0), 5(1), ..., |(s)} е BW. Следовательно,

Р(х) {[Т = s] Л [5 (О е Л]} = Р« {(6 (0), 5 (1), .... 5 (з)) е В^ л Л*»)}, где AW = XX^X • •• XX ХА ($—1 сомножителей, равных X), и из предыдущего вытекает, что эта вероятность, а также и Р№(х,Л) являются 5Э-измеримыми функциями.

Обозначим о-алгебру, индуцируемую случайным временем т, через St.

Теорема 5. Если De^x и DczQx, то рм|ол(П[5(о+т)ел^=

= $ PW ( П [5 ^ е А1) Р«) (х, D, dy), (15) где PW(x, D, Л) — Р<*> (D Л [| (т) г Л]).

Доказательство. Так как DcQx, то

Р<*> { D Л (Д К & + т) е Лй]) } =

= Е Рw { ^ Л (Д (К & + т) е А1) },

где Ds = D f) [т = s]. Пусть х (SJ— индикатор события Ds. Имеем, учитывая свойства условных вероятностей для марковской цепи (теорема 4):

рДЦ{Ш + т)е^])} =

= МД х (Ds) PW (Д К & + s) е Л»] I &) } =

= мх { X №) р^ (Д [6 & + S) S Л6]) }.

В силу однородности цепи правая часть последнего равенства равна

$Р(8){ Пй^е^ррго»

о$ 4-1

= $ PW ] П 6 ^ ^ лЛ Р (s, х, D, dyV (16) х Ц-1)

где P(s, х, D, •) есть мера, определяемая на {X, 23} соотношением

Р (s, х, D, Л) = pw {D л [Т = S] n [g (S) ® Л]}.

Если еще ввести меру

Pro (х, D, Л) = Pro VD Л К (т) е Л]} = £ Р (s, х, D, Л)S=1

и просуммировать равенства (16) по s, то получим требуемое. Д

Цепи Маркова со счетным числом состояний

Приводимость и неприводимость. Пусть X — счетное или конечное множество. Под о-алгеброй измеримых множеств X в этом случае условимся постоянно понимать совокупность всех подмножеств X. При этом измеримыми оказываются произвольные функции на X.

Точки пространства X будем обозначать буквами i, j, ... Рассмотрим однородную марковскую цепь со значениями в X. Она задается вероятностями перехода за один шаг р(1,П» i, jeX, в одноточечные множества /. Вероятность перехода за один шаг в произвольное множество В выражается через p(i,i) очевидной формулой'

ро; в)= Ер о; 7),jeB

а интегрирование по мере, соответствующей стохастическому ядру P(Z, В), превращается в суммирование:

$ / (7) Р U.7) 7 (7).

Xjex

Выражение для вероятности перехода за п шагов в одноточечное множество / принимает вид

?(«)(/, 7)= Е pU. h)p(iu 7г) • •• рап-ъ 7). (О Ip i2> • ••> /„_, еХ

Если ввести матрицу Р<п> (с конечным или бесконечным числом"1 строк), элементами которой служат вероятности перехода за п шагов, Р(п) = {Pw (/, /)}, /еХ, то из формулы (1) следует, что

р<") _ р^

где Рп — n-я степень матрицы Р = Р<*>—матрицы вероятностей перехода за один шаг. Матрица P={p(i,/)} обладает свойствами:

а) рЦ, j)>0; б) Е рУ, j)=l.(2)

/еХ

Матрица Р со свойствами а) и б) называется стохастической. Из равенства р«+т = рпрт следует, что

р^+т) (,; j) = £ pW (/, ^ pW ^ j^(3)

кеХ

С другой стороны, формула (3) является записью уравнения Чепмена — Колмогорова ((9), § 5) в рассматриваемом случае.

Определение. Состояние jеХ достижимо из состояния i, если вероятность перехода из i в j за некоторое число шагов положительна. Если j достижимо из i, а г достижимо из j, то состояния i и j называют сообщающимися. По определению состояние I всегда сообщается с I.

Тот факт, что i и / — сообщающиеся состояния, условимся записывать символом i *-> j. Если j достижимо из I, а к — из j, то к достижимо из I. Это вытекает из неравенства p^+m) (у, 4) ^ pW ({, j) pW (j, ^).

Отношение *-* является отношением эквивалентности:

I ц

если 1**ь то j *-*i;

из i *-► / и j -«-»- к следует I *-* к.

Действительно, а) следует из того, что р^Ц1, i) = 1, б) вытекает из симметрии i и / в определении сообщающихся состояний, и, наконец, в) вытекает из того, что

р^+т> ^ц £) ^ pW (/, /) р(т) (/, £) > О,

p(ni+«i) ^^ рМ (Д, j) p(m,) у, у) > Q,

если р№ (/, /) > 0, p<mi) (/, i) > 0; р^ (j, 6) > 0, рм (к, j) > 0.

Произвольная цепь Маркова может быть разложена на не- пересекающиеся классы Ха сообщающихся состояний. Это разложение можно осуществить следующим образом. Выбираем произвольное состояние Л и обозначаем через Хц совокупность всех состояний, сообщающихся с q. Из свойства в) отношения ■*-* вытекает, что любая пара состояний из Х?г сообщается между собой. Если Xi, не исчерпывает X, выбираем состояние iaeXt, и, аналогично предыдущему, строим класс Xiv Так как ii и i2 не сообщаются, то классы X/, и Xi, не имеют общих элементов. Продолжаем построение множеств Xifc до тех пор, пока не будет исчерпано все X. Построенные классы Ха обладают следующими свойствами:

число классов Ха не более чем счетно;

каждый элемент X попадает в один и только один класс Ха;

любая пара состояний из Ха сообщается между собой;

любая пара состояний из разных классов между собой не сообщается.

Последние два свойства могут быть сформулированы еще так: из любого состояния I данного класса Ха можно за некоторое число шагов с положительной вероятностью попасть в любое другое состояние этого же класса. Не исключена возможность того, что система, находясь в данном классе, выйдет из него когда-либо, но вероятность того, что она, покинув данный класс, вернется в него когда-нибудь, равна нулю.

Определение. Марковская цепь называется неприводимой, если она состоит из одного класса сообщающихся состояний. Если любое состояние j, достижимое из г, сообщается с I, то состояние I называется существенным. В противном случае оно называется несущественным.

Нетрудно заметить, что из существенного состояния достижимы только существенные состояния. Действительно, пусть I существенно и j достижимо из I. Если к достижимо из j, то к

достижимо из i и (в силу существенности состояния i) i достижимо из к. Но тогда и / достижимо из к, т. е. / существенно.

Отсюда вытекает следствие: в классе сообщающихся состояний или все состояния существенны, или все они несущественны.

Возвратность. Пусть ^п^—состояние марковской системы в момент времени п. Обозначим через т, = т,(п) число шагов, которые затрачивает марковская система, начиная с момента времени п, чтобы впервые попасть в состояние /. Таким образом, т,(п) определяется цепочкой соотношений

g(n+l)#=/^(п + т/— 1)=#/, |(га + т/) = /.

Введем семейство Огалгебр {$[«,<], / = 0,1, ...}, где 5[п,и— минимальная о-алтебра, относительно которой измеримы 6(и), g(n+l), .... §(« + /).

Величина тДп) является марковским моментом на этом семействе. Положим

W, J) = P(T/(») = s|g(n) = Z), s = l, 2, h = o-

При этом

/(!)(/, j) = p‘i>(Z, j^p^i, j).

Из однородности цепи следует, что вероятности f^HU П не зависят от п. При i =# j они называются вероятностями первого попадания в состояние /, а при i = j — вероятностями первого возвращения в состояние L

Сумма

F(i, h-Lf<‘4i. j), d^D.

s-1

есть вероятность того, что система, выйдя из Z-ro состояния, когда-нибудь попадает в /-е состояние. Аналогично F(i,i) есть вероятность того, что система, выйдя из Z-ro состояния, за конечное число шагов возвратится в /-состояние. При /•'(Z,/)<1 случайная величина т,- является несобственной.

Определение. Состояние i называется возвратным, если /•■(Z, Z) = l, и невозвратным, если F(i,i)<.\.

Нетрудно установить связь между вероятностями перехода и вероятностями первого попадания. Она дается соотношением

pw а, п=Z fw а, /) р^-$) и. h. »> 1.(4)

S-1

При этом полагаем p^HL j) = 6ц = 0. Действительно, пусть т>— время первого попадания в /, отсчитываемое от начального

момента времени. Тогда

Р(п)(Я /) = Р<4 J [T/ = slnK(rt) = /]l = к S-17

= Е Р(0 (▻/ = 4 П К (П) = Я} = Е Р(0 (Т/ = s) PW {I (n) = Я = S-1

п•

-ЕРЧЯЯР^О,/).

S-1

Формула (4) доказана. Отметим ее частный случай:

р^ У, Я - Е f(s> (Я Я Р^ V. Л.(5)

S=1

что можно также переписать в виде

п—\

W, i) = Pwy, Л-^РЧЛ fyp^-s4i, Я-s-1

Последнее соотношение позволяет последовательно вычислить вероятность возвращения, если известны вероятности перехода. Заметим, что для вычисления вероятностей возвращения в 1-е состояние достаточно знать только вероятности перехода в то же состояние.

Введем производящие функции Pt A2). Ft А2) последовательностей {p^HY SA п = 0, 1, 2, ...}, Vfw(i,iY я = О, 1, 2, ...}:

Ри {г)-Е pw а, п2П, Fu (z) = Е fw а, л2".

Из формулы (5) следует, что

Ри (z) = Р(0) (Я Я + Е Е f16) (Я Я гкр^п-1^ (i, f) zn-k = /1=1 /?=1

= 1 + E E РЧЛ i)zkp^-k4i, i^-k =ft»! n=fe

= 1+бЕР)(Я Л2кРи^ или

Pu^ = \-VPH^FtA2Y

Изменение порядка суммирования в проведенной выкладке законно, так как рассматриваемые ряды сходятся абсолютно при |z| ^ 1. Последняя формула может быть записана также в виде ^«-т=^й-<6>

Аналогично из (4) вытекает равенство

Рц^ = Рп^Рмкг\ i^b(7)

Пусть теперь 2 — действительное число и zfl. Функции Рп(г) и Рц^ представляют собой монотонно вазрастающие функции, причем в силу теоремы Абеля Пт Еи (г) существует и lim Fu (z)= = F{i(\) = F(i, i). Положим lim Pu (z) = G (i, z') = P/z(l). Из соотношения (6) следует

Теорема 1. Состояние I возвратно, если G li, f) = = У, pw (z> i) = 00, и невозвратно, если G It, О = У pwli. z) < 00. В невозвратном случае

ОЦ, 0 = ч—х 71 — F (г, О

Теорема 2. Если состояния i и j сообщаются. то они возвратны или невозвратны одновременно.

Доказательство. Так как I <->- /, то найдутся пг\ и т2 такие, что p^Hi, /) > О, р^ЧЬ 0 > 0. Так как

pt^+z^+n) (Д у) ^ р(т2) (Д ^ pW (^ /) р№ (^ jy то

Z pw U, h > ^ U, i) p(m'} It, h У р(п) (*, 0 п—тхА-Шгп=0

и ряд ОЦ.П расходится, если расходится ряд G(i. i). Меняя роли I и /, получим, что G^jJ) и G(i. 1) конечны или бесконечны одновременно. Н

Таким образом, свойство возвратности для марковской цепи является не столько свойством состояния, сколько характеристикой класса сообщающихся состояний.

Интуитивные соображения подсказывают, что возвращения в течение неограниченного промежутка времени в возвратное состояние происходят бесконечно много раз, а в невозвратное состояние— только конечное число раз. Это нетрудно доказать.

Пусть Qj^m) — событие: система попадает в /-е состояние по меньшей мере т раз, а т^ — число шагов до первого попадания в состояние /. Тогда

Q/ (m) = U <2/ (т) П (т/=д).

Пусть ^t, (m)— вероятность события фДт), если g(0) = I. Имеем

4г/(т) = S P(Qi(m) П[т/ = n] IВ (0) = z) = п=\

- f P(Z) (Q/ М | Т/ = П) Р^> (т, = n I g (0) = 0 = п=1

= ^fwV, DPw^^h,»^.

Нетрудно проверить, что

P(i) (О/ (m) I т/ = n) = Р</> (Q, (m - 1)) = qn (m - 1).

Таким образом,

Я и(m) = F(i, hqn(m—iy(8)

Пусть qlj = qli(oo) — вероятность того, что система, выйдя из z'-ro состояния, попадает в j-e состояние бесконечно много раз. Так как qtl = Пт^г/(т), то из (8) следует т-^оо

qtf = FU, hqn-(9)

Теорема 3. Если /— возвратное состояние, то qa = F(i,j) и, в частности, qjj=l; если же j невозвратно, то qij = O для любого L

Доказательство. Если F(j, j) •< 1, то, положив в (9) i = /, получим q^ = 0 и из того же равенства имеем q^ = 0. Если F(j, /)=1, то из (8) вытекает qatm) = [F(j, j)]m-1 = 1, откуда qji=l. Из (9) тогда следует, что qi} = F(i,j). ■

Пусть F(i,j) = 1. Из свойства строгой марковости (см. § 5, теорема 5) получаем

P(i) (в п ( П U (Т/ + /а) = /а})) = p(i> (В) Р</> ( П U (4) = /а}) \\fe = l/

для любого Вг^^ Из этого соотношения вытекает

Теорема 4. Если F(i,j) = 1, то случайный процесс 6'(0 = = 6(tj + 0 (6(0) = 0 стохастически эквивалентен 6(0 с начальным состоянием 6(0) = / и не зависит от о-алгебры ^^.

Следствие. Пусть 6(0) = I, I — возвратное состояние, 61 — число шагов до первого возвращения в I, 62 — число шагов между первым и вторым возвращением в i и т. д.

Случайные величины 6ь 62, ..., 6п, ... одинаково распределены и независимы.

Теорема 5. Если состояние i возвратно и F (i, /) > 0, то система, выйдя из состояния I, посетит j бесконечно много раз \qa = 1) и РЦ, i) > 0. В частности, РЦ, j)= 1.

Из теоремы 3 следует, что число возвращений в состояние i бесконечно. Пусть Сд обозначает событие: между (к— 1)-м и к-м посещениями состояния I система зайдет в состояние /. В силу строгой марковости процесса события Си независимы между собой и имеют одну и ту же вероятность. Так как (J Сд й-1 есть вероятность того, что система вообще когда-либо посетит

/, то Р(Сд)>0 и £P(Cft) = oo. Из теоремы Бореля — Кан- А-1

телли следует, что с вероятностью 1 осуществляется бесконечно много Ch. Более того, система, попав в j-e состояние, беско.нечно много раз посетит i-e состояние. ■

Следствие 1. Из возвратного состояния достижимы только возвратные состояния. Возвратные состояния существенны.

Это следствие уточняет теорему 2, полученную ранее с применением производящих функций.

Следствие 2. В классе сообщающихся состояний, содержащем возвратное состояние, все остальные состояния также возвратны, и система, находящаяся в этом классе, с течением времени с вероятностью 1 попадает во все остальные состояния класса, и притом бесконечно много раз.

Класс возвратных сообщающихся состояний будем называть возвратным классом.

Положим

оц, п= ^Рма, п.п-0

Смысл этого ряда был выяснен для случая i = j. В общем случае установим следующее соотношение:

N

Ё п

lim-2^= F U,b.(10)

n=0

Доказательство основано на формуле (4). Полагая в (4) п = = 1, 2N и суммируя полученные равенства, будем иметь

NN п-1

Е pwH, /) = £ Z fn's4i. Ьр^Чк п= п=1п=1 з=0

АГ—1 NN—1

= Ы fn"4t, 1VS>U, h=L Ah №-,, s-0 n-з-Нs-0

N-s

где Fn-s= £ fW(i, Г) и FN-^F<i,h при N-> оо. Таким образом, п—1

N

Ё р№ и. п п-1

N

У р№ a, i) п=0

р —Р—ЛЛ— * N~s м

У Р№ и. i) п-0

Справедливость формулы (10) теперь вытекает из следующей леммы.

Лемма 1. Если bn, п = 0, 1, ..., —последовательность не* отрицательных чисел и >0, то для произвольной сходя*

bss—0

имейся последовательности сп, п = 1, 2, ...,

Нт

N

£ bkcN-k

^Нт сп

£ ьк к-й

Доказательство. Если с = Нт сп, то

N

£ bkcN~k k-N-n+\ N Ё bfe 6-0

(Н)

Если номер п выбран так, что при п'"^ п имеем |с— сП'|<е, где е > 0 произвольно, то первое слагаемое в правой части равенства (11) меньше е. При фиксированном п второе и третье слагаемые также стремятся к 0 при N -> оо, так как сп ограничены. Это доказывает лемму и вместе с тем равенство (10), так как условия леммы всегда применимы к рассматриваемому случаю, ибо p^Hh 0 ограничены. ,■

Из формулы (10) вытекает

Теорема 6. Внутри возвратного класса G Ц, j) = +. оо; если же j невозвратно, то G(i,/)< оо при всех I.

Действительно, если / — невозвратное состояние, то знаменатель в левой части соотношения (10) стремится к конечному пределу, а поэтому и предел числителя конечен. Если же / возвратно, то предел знаменателя равен со; если F(i, /) > 0, то и предел числителя также равен оо. g

Периодичность. Заметим, что если р<”> (i, i) >0, то также p(An)(i,i) >0. Действительно, p<*")(i,i')^ p<n> (i, j) р<п> (/,/).. ,p<n)(i,i). Обозначим через d(D наибольший общий делитель всех' п, для которых pW(i, 0>0. Если р<п>(», 0 = 0 для всех п^1, то будем считать d(f) = со.

Теорема 7. Если i ■*-*■ /, то d(i) = d(f).

Доказательство. Во-первых, если i-^-*j, то d(i) и d(/) конечны. Пусть р^Ч. Ч > 0. Найдутся некоторые п > 0 и m > О такие, что р^Ч. /) > 0 и p^m4b 0 > 0, так что p^n+m+s4j, j) ^ ^ Р^ЧЬ ПР^ЧЧ i)p^n4i> j) > 0- Аналогично рОЧ-т+А»)^, ^ > 0. Поэтому d (/) делит (п -j- т 4- 2s) — (п + т + s) = s. Отсюда вытекает, что d(j) ^ d(i). Из симметрии ролей i и j вытекает d(i) = dU). .■

Следствие. В каждом классе сообщающихся состояний величина d(i) постоянна.

В частности, для неприводимой цепи Маркова величина d = d^ не зависит от состояния.

Определение. Если в неприводимой цепи d = 1, то цепь Маркова называется апериодичной; если d"> 1, цепь называется периодической, а число d — ее периодом.

Теорема 8. Если d(i)<Zoo, то найдется такое по, что при п> п0

рМ^Чч 0>0-.

Доказательство. Пусть Пк (6 = 1,2, .... s) — последовательность чисел таких, что р^ {I, 0 > 0, и наибольший общий делитель чисел п\, пг, ..., ns равен d(0- В силу леммы 4 § 4 найдется такое по, что при п > п0 будем иметь nd (i) = У, cfenk. Сле- 6-1 довательно,

р^ w> (i, I) > [р<” > (i, 0]С* [р^ Ч, 0Р • • • [р("$) Ч, оР > 0. И

Следствие. Если р^(j, Г) > 0, то для всех достаточно больших п

p(m+nd (<)>(/, j) > 0.

Действительно,

pw-ndwy, i)>p<m>U, С^р^^ЧЧ Ч-

При изучении цепей Маркова во многих случаях удобнее сначала рассматривать апериодические цепи, а затем обобщать полученные результаты на периодические.

Покажем еще, что период состояния может быть вычислен по вероятности первого возвращения.

Лемма 2. Период i-го состояния совпадает с наибольшим общим делителем тех п, для которых fw(i,i)>0.

Доказательство. Пусть Zn и ^—-множества тех n,n^.N, для которых р№Ц» Z) > 0 и соответственно fw(A 0 > 0, a dN и <1'n — их наибольшие общие делители. Очевидно, ZncZn и, следовательно, d'N">dN- При этом di = dx. Пусть существует N такое, что d'n — dn при n^^, a d^+1 > йм+ь Тогда P^tj, Z) = 0, a p<v+1)(Z, Z) > 0. Из равенства р'-м+'Ц1, 0 = fXN+l4i> 0 +

А’

+ S f^Hi, i)pw+x-fe4i> 0 вытекает при некотором s, 0<s^N, *=i

соотношение рЦг, i)p<w~s> (/, Z) > 0, t. e. s и N + 1 — s делятся на dN и, следовательно, 2V+ 1 делится на dH, что противоречит соотношениям d^+i < dN+x = du. И

Теорема 9. Каждый класс К сообщающихся состояний периода d (d < со) можно разбито на d подмножеств Ко, Кх, .... Кл-\ попарно без общих элементов так, чтобы за один шаг из Ks ($ < d — 1) можно было перейти только в Ks+X, а из Кд-i — только в Ко- При этом, если ieKr, j е Ks, то найдется такое N — N(i, j), что pnd+s~rU, /) > 0 при п>М.

Доказательство. Пусть Ко — множество всех состояний j, для которых хотя бы при одном положительном целом к имеем pw* У, j) > 0, где Z — произвольно выбранное состояние из К. Тогда is Ко- Так как Z и / сообщается, то найдется такое ш, что р<т)(/> 0 > 0- Число пг кратно d. Действительно, p(W+m)(Z, Z)^ ^ р^ (Z, /) pw U, I) > 0, и, следовательно, kd + tn делится на d. Так как пг делится на d, то если вместо состояния Z в определении Ко взять любое /, для которого p^^l, /) > 0 при некотором к, то Ко не изменится. Теперь определим Кх как множество тех j, j е К, для которых 2 Р Ц» Г) > 0, Kt — как множество всех тех /, для которых ^ Р (Z, j) > 0, j еК, и т. д.

Из определения множества К$ вытекает: Krd+s^^s при любых г и s. С другой стороны, если j е К$, то найдутся такие /0, К, .. .

•.h=L что jr^Kr, r<s, и р Ur_b ir) > 0, т. е. pXs-r4jr,h > 0. Верно и обратное: если p(s“r> (jr, j) > 0, jr e Kr, j e К, to j s Ks (из /г^/r+i,/г+i-*/ и jr^i следует /,+1 jr). Теперь убедимся, что классы Кг и К$, 0 ^ г < $ < d, не имеют общих элементов. Действительно, пусть jeKr, jeKs. То^да найдутся такие Zi и i2eK0, для которых p^(ix, /) > 0 и ри' Ц2, j) > 0. Так как Z2 и j сообщаются, то pw (j, i^ > 0 для некоторого пг. Следовательно, p<m+s> (z2, Z2) ^ р^ (j, j) р^ (j, <г) > 0; поэтому m + s делится на d, т. е. tn = kd — s, где s — некоторое целое

число. Но тогда

0<P^4h, hpwU, i2)^P^M-t+r4h, У, а это, как было показано выше, невозможно, так как переходы из q в ц, 1Х, 12еК0, возможны только за число шагов, кратное d. Далее, пусть 1еК, и /гKs. Найдется такое т, что р^ (/, /) > 0. Тогда tn имеет вид т = k^d + (s — г). С другой стороны, в силу теоремы 8 p<"d> (Z, t) > 0 для всех п^по(0- Следовательно, р«"+м<<+»-г) (^ /)^p'"d)(/, /) ^>-й (t-, j) > q при всех n> nQ4Y ■

Условимся множества Ко, Ki, ..., Ка-\ называть подклассами периодического класса сообщающихся состояний.

Предельные теоремы для вероятностей перехода.

Теорема 10. Пусть pwt.i. j) — вероятности перехода неприводимой возвратной апериодической цепи Маркова. Обозначим через ггц среднее число шагов до первого возвращения в 1-е состояние;

mi=Ti nf™ i).

п-1

Тогда для любого j

lim pwy,(12)

rt->oo

Доказательство. Пусть то — число шагов до первого возвращения в t-е состояние, т> — число шагов между вторым и первым возвращением в это состояние и т. д. В силу следствия теоремы 4 величины то, ть ..., тп, ... взаимно независимы, одинаково распределены и принимают целые значения, не меньшие единицы, причем

Р {т^ = п} = fw (i, i), У, fм (ц 0 = 1, Мт, = mz.

п-1

Рассмотрим процесс восстановления, в котором тп является длительностью n-го восстановления. Роль величин рп и G (п) теперь играют ^"Чм) и p<n4i,i) соответственно. Так как цепь апериодическая, то в силу леммы 2 восстановление также апе

риодично.

Из теоремы 2 § 4 следует равенство lim p^4i. 0 = -^"

что является частным случаем (12) при j = I. Нетрудно перейти к общему случаю. Воспользовавшись формулой (4), получим

-Р^-ЕГ’и. пГ1^. о. Г'и, о- Г»-1' .

fc-1A-l

Замечая, что U» О-^О, У, fw(j, 0->1 при п-*оо (в силу fe-i■

неприводимости и возвратности цепи), и применяя лемму 1, получим равенство (12) в общем случае. ■

Доказанную теорему часто называют эргодической теоремой для цепей Маркова.

Теорема 11. Если неприводимая возвратная цепь Маркова периодична с периодом d, то

lim^f, 0 = 4--(13)

П-*ооmi

Если Ks — подклассы, введенные в теореме 9, и ie Kr, j г Ks, то ( -^-, l = s — г (mod d),

lim р'^^^Ц, 0 = { mi(14)

I 0, l^s — r (modd).

Доказательство. Из леммы 2 следует, что период неприводимой цепи Маркова совпадает с периодом процесса восстановления, введенного при доказательстве предыдущей теоремы. Поэтому равенство (13) непосредственно вытекает из следствия теоремы 2 § 4. Из теоремы 9 имеем: p^nd+,4i, j) = 0 при ieK„ jeKs и I =# s— г (modd). Следовательно, если, например, г <. 8, то

pW+s-r)^ ^ = £j^p^d(j, j>.

£=•0

Доказательство формулы (14) завершается ссылкой на лемму 1, точно так же как доказательство теоремы 10. ■

Определение. Возвратное состояние j называетсянулевым, если lim р^1^ (j, j) = 0,положительным, если lim p^fi (j, j) > 0.

В возвратном классе состояний все состояния одновременно либо положительны, либо нулевые. Действительно, если i ** j, то из неравенства

/)р^(1, ftp™ у, О,

где пг и s таковы, что pt"0 (i, /) > 0, pw (j, 0 > 0, следует lim p^d) & i) > lim p^ (j, j),d = d£ = d}.

Меняя роли l и j, получим доказательство утверждения.

Полученные результаты можно подытожить следующим образом.

Теорема 12. а) Чтобы состояние j было невозвратным, не* обходимо и достаточно, чтобы Gn = X Pin4b j) < 00 - При этом для всех I

Gu = X Pw (i, Ь ^GH<oo, lim р^ (I, j) = 0.rt—1/г->оо

Пусть j — возвратное состояние с периодом d и средним временем возвращения Ш). Если i достижимо из j, тогда i— также возвратное состояние с тем же периодом d, нулевое или положительное одновременно с j, и существует такое к, 0 ^ к <, < d, зависящее только от i и j, что

При Г = К,

lim p^md^r> (/, /) = < mi(15)

I 0 при r^k (modd).

Если i, j принадлежат одному и тому же возвратному классу, то

Й^НУ6^»--^-<16>

л-1'

Последнее утверждение является непосредственным следствием б). С другой стороны, в отличие от утверждения б), формула (16) не отражает различия между апериодическим и периодическим классами состояний.

Условимся называть неприводимую возвратную цепь Маркова положительной (нулевой), если ее состояния положительны (нулевые).

Критерий возвратности. Стационарные распределения. Свойство цепи Маркова быть возвратной (положительной или нулевой) тесно связано с нетривиальными решениями линейной однородной системы

£ p(i, i)X] = xt,IgI,(17)

и ей транспонированной

£ р (j, i)xi = xt,ie I.(18)

lei

Если система (17) обладает неотрицательным и суммируемым решением, т. е. Xf ^ 0, 2хг < со, то можно считать, что 2^ = 1, и такое решение можно интерпретировать как инвариантное начальное распределение Х{ = Р{£(0) = 0 = Р (1(1) = = i) = ..., порождающее стационарный марковский процесс.

С другой стороны, существование стационарного марковского процесса с заданными вероятностями перехода эквивалентно существованию неотрицательного суммируемого решения системы (17).

Что же касается транспонированной системы (18), то существование нетривиального решения Xt = с очевидно. Для возвратной цепи Маркова характерно, что (18) не имеет других нетривиальных неотрицательных решений. Более того, имеет место следующая теорема.

Теорема 13. Неприводимая цепь Маркова возвратна тогда и только тогда, когда система неравенств

£ p{i, iVi^xt, iel,(19)

tel

не имеет неотрицательных решений, отличных от решений вида Xt = с, ie I.

Доказательство. Допустим, что цепь возвратна, х< ^ 0 и xt (tel) образуют решения системы (19). Выберем произвольное xi > 0 (если такого нет, то все Xi = 0). Из (19) следует

Xi> £ ри, D Е pU, k)xk = £ p^v, ibxk,jetkelfeel

и по индукции

Xt> E Р^Чч k>xk.k^I

Для каждого i найдется такое n, что р№Ц, b > 0, следовательно, x^p^i, l)xt>Q. Итак, х( > 0 для всех iel. Положим yt = ^L, где / — произвольно выбранное состояние. Имеем xi.

у^ S рЧ, bPi^pU, 0+ S рЧ, ЬРр Применяя это неравен- jelj^=l

ство к величинам yj, стоящим в его правой части, получим Pi>P U, 0 + Е Р lb Ь Р U, 0 + £ Е Р G, /) Р U, 6) Рк =

/^/W k^l

= tw4, Ь + РЧч 0+ Е iW, k)yk, k^l

где iP^U, ^) = Е pU, i)P U, k) есть вероятность, выйдя из i-ro состояния, на втором шаге попасть в k-e состояние, не заходя при этом в /-е состояние. Повторяя предыдущий прием, приходим к неравенству

Pi> Е f^Hi, 0+ Е iPwHi, 6) Рк,/г=1к^=1

где ipW(i, &)— вероятность перехода за N шагов из i-ro состояния в й-е, не заходя при этом в /-е состояние. Полагая в последнем неравенстве N-*-oo, получим

Pi > 2 f(n)(G Z) = 1,n=l

т. e. Xj 5$ X/.

Так как i и l любые, то Xi = Xi = const, т. e. система неравенств (19) не имеет неотрицательных решений, отличных от х,- = с, i г I.

Пусть теперь цепь имеет хотя бы одно невозвратное состояние (сейчас неприводимость цепи не используется). Положим xi = 1, Х1 = РЦ,Ц при !=/=/, где I— любое невозвратное состояние. Заметим, что не для всех I, i^l, ^(t,/)= 1. Действительно, в противном случае имели быГ(/, /) = У, p(Z, k)F(k, Z)+ к*1

+ р (Z, /)= У, рЦ» k}=\, что противоречит невозвратности кг!

состояния /. Таким образом, определенные выше неотрицательные числа х,- не все равны между собой.* Имеем при i ф Z

x( = F(Z, /)= £ p(i, k)F(й, Z) + p(Z, Z) = У p(l, k)xkWкг!

И xz=l > F (I, П = У РУ, k)xk, кг!

т. е. {xi, i е /} образуют неотрицательное и отличное от постоянной решение системы (19). ■

Перейдем к вопросу о связи между существованием инвариантных начальных распределений и свойствами возвратности марковской цепц, т. е. к вопросу о разрешимости системы (17) для возвратной цепи.

Теорема 14. Пусть цепь Маркова неприводима и возвратна. Система уравнений (17) не может иметь больше одного решения, удовлетворяющего условиям

El xz |< оо, £х, = 1.(20)

1г!1г!

Если цепь возвратна и положительна, то решение системы (17), удовлетворяющее соотношениям (20), имеет вид

N

Xi = vt= lim 4г У р№ и, i).(21)

n—1

Если же цепь возвратна и нулевая, то единственное абсолютно суммируемое решение системы (17) тривиально (Xi = 0).

Доказательство. Сначала докажем единственность решения системы (17) при условиях (20). Пусть такое решение существует. Умножая (17) на p(i, 6) и суммируя по всем I, получим *6= Z xtp (i, £) = У У х,р U. 0 р (i, 6) =

leiiel j€=I

= L XjH pu, i^pv, ^) = У Xjp<4i, ky lei 4eIjel 1

Перестановка порядка суммирования возможна в силу абсолютной сходимости соответствующего двойного ряда. Аналогично получаем

xb = У х^Ч!. kY.(22)

Положим

N

SNU. к^^-^р^ЧЬ kY

n=\ тогда

Xfc = ^iX1sNU, ky

Принимая во внимание, что sN(j, k^->mkv и абсолютную сходимость ряда У, Xj, переходя к пределу в последнем равенстве, получим

xft = ^У^ х.тк1 = mh 1,(23)

что и доказывает единственность решения системы (17), (20). Отсюда вытекает, что если цепь возвратна и нулевая, то хь = О для всех kel.

Докажем теперь, что для положительной возвратной цепи величины (21) образуют требуемое решение системы (17). Пусть Р— произвольное конечное подмножество /. Из неравенства р^^Чк, 0> У Р^Чк, hp(L 0 получаем

8ц+1(к, ^ — 1^р(<к, b>n^T Е Sn^’ Ь Р<Ь 0.ier ,

откуда после перехода к пределу при N->oo вытекает, что»/> У VjpU. 0-

Полагая теперь Г-*1, получим v^ У о,р(/, iy Умножая последнее неравенство на p(i, 6) и суммируя но k, придем к неравенствам о6> Ti^ipV, к)-^ ^Oip^y. к) и, продолжая

этот процесс, к неравенствам о^^ У t)ipw(i, k) при любом / ®1

п^1. Если бы в последнем соотношении хотя бы при одном к имел место знак строгого неравенства, то мы имели бы

Е »а > Z »<■ Е Р^Чк к)= И «ьfeel fel feeliel

что невозможно. Поэтому

Vk = Е v.Pw(<> к^ к el, n = l,2, ...(24)

В частности, величины vt образуют решение системы (17). Из (24) получаем

t>< = Е ViSN Ч. k).(25)

lei

Заметим, что из неравенства У, p(n)(i, k) ^ 1 вытекает kel'

Е sN(t, М< 1 и У о» ^ 1 при любом конечном Г с: /. Отсюда kelrkeV

22 ^^ 1. Поэтому в (25) можно перейти к пределу при N -> оо, feel

после чего получим иА = У, ozu6, откуда Еу, = 1. Таким leiiel

образом, решение oz системы (17) удовлетворяет условиям (20). ■ Замечание. Если цепь Маркова произвольна, (х,, iel}— абсолютно суммируемое решение системы (17), к — невозвратное состояние, то Хк = 0.

Это утверждение следует из возможности перехода к пределу прип —> оо в равенстве (22) и из соотношения

lim pw (/, k) = 0, имеющего место для произвольного невозврат- П-Юо него к.

Следствия.

Для того чтобы неприводимая цепь Маркова была положительной возвратной, необходимо и достаточно, чтобы система (17) обладала нетривиальным абсолютно суммируемым решением ^x^i^IY При этом Xi = ci)i, где с — постоянная, Vi > 0.

Неприводимая цепь Маркова имеет инвариантное начальное распределение тогда и только тогда, когда она положительная возвратная.

Если цепь неприводима, положительна и апериодична, то единственное решение системы (17), удовлетворяющее (20), имеет вид'

Xi = vt = lim pw (j, I).(26)

П->оо

Последнее утверждение вытекает из того, что для положительной апериодической цепи пределы lim pw (j9 i) существуют, П-^оо

так что (17) следует из (21).

Из предыдущей теоремы вытекает, что для нулевой возвратной цепи система (17) не может иметь нетривиального абсолютно суммируемого решения. Однако она обладает важным неотрицательным несуммируемым решением. Чтобы получить это решение, введем вероятности перехода с запрещениями (табу-вероятности). Это понятие является обобщением понятия вероятности первого попадания. Оно уже встречалось при доказательстве теоремы 13. Табу-вероятность ip(n4i> 1) есть вероятность попасть на п-м шаге в состояние / из начального состояния I, не посещая при этом в моменты времени 1, 2, ..., п— 1 состояния /. Таким образом,

iP(n4b Ь =£ PV. h)p(h, lb • • • PUn-i, b, n> 1.

/, /2* •••» in-\'ir^Lr-\n—\

Очевидно,

iPv 1 * (i. /) = P (b b. iPw (b /) = f<n) V. b-

Положим еще

iP«4b b=6U, h.

Аналогично вводятся табу-вероятности нри,5\ когда запрещенным является некоторое множество состояний Н. Если запрещены два состояния /, /, то табу-вероятность у,^пЧЬ Ь логично обозначить через ibnHbb- Это есть вероятность, выходя из начального состояния I, впервые попасть в состояние / на п-м шаге, не заходя до этого в состояние /.

Отметим следующие два равенства:

ipw У. Ь = £ if(k4b iW*"k4h h,(27)

fe=l

iP№ (Ь b = L iPw (b b У, t^n"k> (b b-(28)

В частности, из формулы (28) следует (при 1 = Ь п

ь^ и, ь = L fPw (ь о tf^-k^ а, ь. (29)

Введем производящие функции .

Л/(г) = 2 iPwkb Ь*п, п=0

iFM (z) = £ ^ а, п 2% ^ ц, h=o.

п»0

Правые части равенств (27) и (29) представляют собой свертки двух последовательностей, поэтому

А/^-Л/^Р/Дг), Рц^-^и^Рц^.(30)

Заметим, что ряды (Рц!/) сходятся при 2 = 1, причем если состояния i и / сообщаются, то гРо(1)>0. При этом предположении второе из равенств (30) показывает, что существует конечный предел ,Ph(z) при 2-*1 и, следовательно, jP^lX' < оо. Положим

fid, п= Е ^d, h.(3i)

rt=0

Таким образом, если состояния i и / сообщаются, то

jG^i, Z) = tp^^ < 00•(32)

С другой стороны, первое из соотношений (30) дает

iG(iJ) = iFuWiG U»l\ откуда

/G(f, IXiGU» П<оо.(33)

Возвращаясь к решению системы (17), докажем следующую теорему.

Теорема 15. Пусть I— произвольное состояние неприводимой возвратной цепи Маркова. Система (17) имеет неотрицательное решение

Я/ = 1, xt = tG (Z, 0 (f ^= Z) Is L

Доказательство. Положим

wz = l, M/ = zG(Z, i) Ц*1\(34)

Имеем при i^l

Е ufpU, 0 = p(M) + E гб(Л DpU, 0 = i^ii^i

= pd, 0 + E E ipwd, bpti, 0 =i=#l n=\

=p(/, 0+ E iPw4i, Г) = № i)=ur, n=l

если же i = l, то

£ и1РЦ, n = pU,b-vi. bn+1Hl-, b= S bn4l. b = i=ut.W i^In=in=i

Рассмотрим вопрос о единственности решения системы уравнений (17), удовлетворяющего условиям щ = 1, «, ^ 0. С этой целью применим прием, связанный с введением обращенной цепи Маркова.

Предположим сначала, что цепь положительно возвратна, и пусть {и,,/е/}—инвариантное начальное распределение.

Рассмотрим стационарный марковский процесс, соответствующий начальному распределению {uj,/е/}. Пусть P<v> — вероятностная мера, соответствующая этому процессу. Введем условные вероятности

qt (/ь /г, • • • > 1п) =

= рмй(/_1) = /ь g(/-2) = /2g(/-n)-/BIU0 = 0,

где t> п; имеем

,. .. х °/„рVn- WрMn-v W --рVp о

(/ь и,i«) = —25=

= qki, idqUi, h) • • • q kin-i, in), где q(i, i) = pu, i)^~-

Таким образом, в стационарной положительно возвратной цепи Маркова условные вероятности перехода, получаемые при изменении направления отсчета времени (от настоящего к прошедшему), также соответствуют некоторой цепи Маркова. При этом следует заметить, что все о,- > 0, и поэтому

qkk /)>0, ^q(i, O^-L^yjpU, l^^L^l.tel1 iel1

Аналогичное построение можно осуществить не только для положительной, но и для нулевой возвратной цепи. С этой целью возьмем произвольное положительное решение кхь /s О системы (17) (ниже будет показано, что такое решение существует) и положим

q{i, b = PU» l)^--(35)

Так же как и выше, q{i, i)>0, Lqki,i)=).

Цепь Маркова с переходными вероятностями (35) будем называть обращением исходной цепи (обратной цепью).

Отметим формулы для вероятностей перехода за п шагов в обращенной цепи. Имеем

qw U, j) =2q ^ ^ q (/1 • и)... q Un-ъ i) =

4* к^n-\

= X pUi, АрМъ hA... pU.M^-»

t. e.

(36)(36)?<"Ч/, ;) = -^-p<">(/, iy

(36)

(36)

Отсюда вытекает: если исходная цепь неприводима, возвратна, положительная или нулевая, то такой же будет обращенная пепь.

Применяя предельную теорему для отношений (10) к возвратной цепи, получим

£ qw а, пlim^= 1.

Е q^Hbh

Воспользовавшись формулами (36), будем иметь

(37)(37)2 pw и. пlim ^= ^

(37)

(37)

^” t^u.n х'

п=0

Отсюда вытекает

Теорема 16. Для неприводимой возвратной цепи неотрицательное решение системы (17) такое, что xi = 1, единственно. При этом Xi = iG (I. 0 “

Ё PW и. Я

lim-2=1= }GU, 1У(38)

/V-*oo(nA/- -x

n=0

Формула (38) следует из единственности решения системы (17) и теоремы 15, а единственность — из формулы (37) в предположении, что X, > 0 для всех j. Таким образом, в силу теоремы 15 достаточно показать, что если (х,, j ^ 1}—неотрицательное нетривиальное решение системы (17), то Xj > 0. Послед-

нее можно получить следующим образом. Для неотрицательного решения системы (17) имеем

XiXi= Е XjP и» 0 = 2 Е xfep (k, и р U» О =

Xi

Xi

= Е хк X р {k, f) р Ц, Z) = £ х6р<2*(^> z).

По индукции легко получить. ЧТО X; = Е Xfepw (&, {)• Пусть feel

Хг > 0; для любого I найдется п такое, что р^Ц, Z) > 0; поэтому Xi ^ Xzp(”>(Z, Z) > 0. Построив для данного решения системы (17) обращенную цепь и положив Xi = 1, из (37) получим единственность xt, iel. В силу теоремы 15 xt = iG(l, i). g

Замечание. Формула (37) является обобщением соотношения lim N 1 ^ pw (j, Г) = х>ь где (иЛ—инвариантное на’№-»со

чальное распределение, имеющего место для неприводимой положительной возвратной цепи.

Теорема 16 может быть усилена.

Теорема 17. Для неприводимой возвратной цепи Маркова система неравенств

(39)(39)х^^ х.р(j, I), х, > 0, х, = 1, lei

(39)

(39)

имеет единственное решение, и при этом х( = ^ xtp (j, Z), I е /.

В силу теоремы 16 достаточно доказать единственность решения системы (39). Введем обращенную марковскую цепь.

с вероятностями тельное решение вратной. Имеемс вероятностями тельное решение вратной. Имеемсистемы (17). Она будет неприводимой и воз-системы (17). Она будет неприводимой и воз-Ui перехода ^(Z, /) = р(/, ^чг« гДе “«— положи- ui

с вероятностями тельное решение вратной. Имеем

с вероятностями тельное решение вратной. Имеем

системы (17). Она будет неприводимой и воз-

системы (17). Она будет неприводимой и воз-

£=1.

I1 IIII

Но в силу теоремы 13 система неравенств

’E.qU.bViCyb У1=Х,

имеет единственное неотрицательное решение у г = 1. Следовательно, xt = Ui для всех Z е /. Д

ГЛАВА IV

СЛУЧАЙНЫЕ ФУНКЦИИ

Определение случайной функции

В главе I случайная функция была определена как семей- ство случайных величин, зависящих от параметра. Там же указывались затруднения, связанные с пониманием этого определения в широком смысле, т. е. как набора конечномерных функций распределения, удовлетворяющих условиям согласованности. Аксиоматика теории вероятностей непосредственно подсказывает, что под случайной функцией естественно понимать произвольное семейство случайных величин, заданных на одном и том же вероятностном пространстве.

Определение. Пусть {Q, ©, Р)—некоторое вероятностное пространство. Функция двух переменных g^, со) = 6(0), определенная при 0 е 0, со е Q, принимающая значения в метрическом пространстве X, ©-измеримая, как функция со при каждом 0 60, называется случайной функцией. Множество 0 называется областью определения случайной функции, а X — ее областью значений.

Представляет интерес следующий частный случай общего определения. Предположим, что Q является функциональным пространством, со = о» (0), 0 е 0, о-алгебра © содержит все множества пространства Q вида

{со: со (0) е А), каково бы ни было 060 и борелевское множество А е X, Р — произвольная вероятностная мера на ©. Естественно сопоставить с таким вероятностным пространством случайную функцию 5(0, со) = со(0). В некоторых задачах удобно отождествлять случайную функцию 5(0, со) = со (0) с вероятностным пространством {Q, ©, Р) описанного типа.

Легко заметить, что общее определение случайной функции можно свести к только что описанному частному случаю. Действительно, если случайная функция 6(0) задана как функция .двух переменных, 6(0) = g(0, ©), то, положив u = g^, <о), где

® фиксировано, щей, и обозначив через U множество всех функций u = g(Q, со), получаемых, когда со пробегает й, получим некоторое отображение Т множества й на U. При этом о-алгебра © множеств й отображается в некоторую о-алгебру 5 множеств U, а вероятностная мера Р на © отображается в вероятностную меру Р' на 5 (см. § 6 гл. II). Для любого фиксированного 0 множество {и: и = g(0, со) < х) принадлежит 5, так как Т-1 {«: и = g (0, е») < х) = {с»: g (0, со) < х) е ®.

Таким образом, получено вероятностное пространство!!/, 5, РЗ, где U — некоторое множество функций « = «(0), причем для любых п, 0Ь 020П (0А е 6, к = 1, ..., п) распределение последовательности случайных величин на {й, S, Р}

g(0i, ®), g(02, <»), - -, g^n. «>)совпадает с распределением последовательности

«(91), «(9г),“(0J

случайных величин, заданных на вероятностном пространстве (U.8. РЗ-

Сформулируем теперь принципиально важную для дальнейшего точку зрения об эквивалентности случайных функций. При решении многих задач нет оснований различать случайные функции, получаемые друг из друга преобразованиями вероятностного пространства. В этом направлении можно пойти еще дальше. С практической точки зрения эксперимент позволяет различать только гипотезы, относящиеся к конечномерным распределениям случайной функции. Поэтому принято считать, что опытные данные не позволяют различать две случайные функции ^(0) и £'(0), у которых совпадают все конечномерные распределения, т. е. совместные распределения последовательностей

6(61), б(62)Ж(1>

И

6'(01), 6'(02),Г(0„)(2>

для любых целых n ^ 1 и б^ЕЙ, к = 1, ..., п. В соответствии с этим примем следующее определение.

Определение. Две случайные функции £(0) и ^(0) с одной и той же областью определения 0 называются стохастически эквивалентными в широком смысле, если для любого целого* п^А и любых 0ftе0, k= 1,2, ..., п, совместные распределения последовательностей случайных величин (1) и (2) совпадают.

В дальнейшем часто применяется понятие стохастической эквивалентности случайных функций в более узком смысле.

Определение. Две случайные функции gi(0, со), g2(0, (о) (6g9, coeQ), заданные на одном и том же вероятностном пространстве {Q, ©, Р), называются стохастически эквивалентными, если для любого 0 G 0

Р (51 (0, to) g2 (0, to)} = 0.

Очевидно, что если Sfi (0, о>) и g2(0, со) стохастически эквивалентны, то они стохастически эквивалентны в широком •смысле.

Рассмотрим несколько примеров случайных функций.

Случайное колебание ЦО (—оо</<оо), рассмотрен- .ное в § 5 гл. I,

£ (0 = Zу» = aft + <0ft,

fe-i

«ь, 0л (6=1, 2, ..., п) — случайные величины, можно представить в виде £(/) = g(/, со), где со = (ось а2, ..., а„, 0ь 02, .. • ..., 0П)—точка в 2п-мерном вещественном пространстве 5?2п и g(t, со) при фиксированном / является линейной функцией от со, а при фиксированном со — суммой тригонометрических функций от t. Вероятность Р в S22n задается совместным распределением случайных величин ось а2, • • •, ап, 0ь 02, • • •, 0n- С другой стороны, процесс £(/) можно рассматривать как вероятностное пространство {(/, ®, Р'}, где U — пространство всех комп

лтлекснозначных функций вида и= У, y^e'"^ с заданным бази- л-i

сом показателей («ь и2«п).

Мера р' в U индуцируется мерой Р посредством отображения о» —► и = g(t, со).

Рассмотрим процесс ЦО, выборочные функции которого постоянны на промежутках времени [А — 1, ^] и принимают на них значения 0 и 1 с одинаковыми вероятностями, не зависящими от значений £(/) на предшествующих отрезках времени. . Между выборочными функциями процесса ЦО и бесконечными двоичными дробями можно установить взаимно однозначное соответствие. Его можно реализовать схемой

^(0->ю = 0, х^ ... х„ ...,(3)

тде хп— значение £(/) на отрезке времени [п—1, п]. Каждой бесконечной двоичной дроби со соответствует некоторая точка -отрезка [0, 1]. Взаимная однозначность этого соответствия нарушается только для дробей, у которых все двоичные знаки, начиная с некоторого места, совпадают. Двум таким различным дробям соответствует одна и та же точка отрезка [0, 1] (исключение составляют только точки 0 и 1, имеющие единственную

запись в виде бесконечной двоичной дроби: 0 = 0,00 ... 0 ..., 1 =0,11 ... 1 ...). Выборочные функции, соответствующие подобным бесконечным двоичным дробям, становятся постоянными, начиная с некоторого момента времени. Обозначим это множество функций 91, а через 91п обозначим событие, состоящее в том, что случайная функция 6(0 окажется постоянной,, начиная с момента времени п. Тогда 91 = (J 91„. Пусть еще %пт п=»\

означает, что функция 6(0 постоянна на отрезке времени [n, п + т]. События 91пт (m = 1, 2, ...) образуют монотонно- убывающую последовательность, 9l„ = f] 91„т и т—\

Р(Я„) = lim Р (9Г„т).т->оо

Так как Р (91„т) = ^^г»т0 Р ($Q = 0 и Р (91) = 0. Следовательно,, если пренебречь случайными функциями |(0 из множества 91, имеющего вероятность 0, то между точками отрезка [0, 1] и случайными функциями £(/) существует взаимно однозначное соответствие.

Пусть А — отрезок с двоично-рациональными концами длиною 1/2", т. е. отрезок, записываемый в двоичной системе счисления в виде [0, /1 ... /п; 0, /1 ... /п + 1), где Д принимают значения 0 и 1, к = 1, 2,..., п.

Множество А случайных функций ЦГ), соответствующих точкам со е А, состоит из функций, удовлетворяющих условиям

6(0) = /„ 6(1) = /26(«-!) = /„.

Вероятность того, что |(/)еЛ, равна 1/2", что совпадает с длиною отрезка А. Отсюда следует, что если В — любое борелев- ское множество точек на отрезке [0, 1], а В' — множество функций £(0, соответствующее в силу (3) числовому множеству В, то Р(В') совпадает с лебеговой мерой В. Таким образом, выбор случайной функции 6(0 эквивалентен случайному выбору точки со на отрезке [0, 1] с заданной на нем лебеговой мерой. Подробнее это означает, что случайный процесс полностью описывается следующим образом. Производится случайный выбор' точки из отрезка [0, 1]. При этом вероятность того, что точка юе В, где В — борелевское множество отрезка [0, 1], равна лебеговой мере В. Координата точки ю записывается в двоичной системе счисления: ю = 0, *ix2 ... хп ... Тогда значеиие- функции 6(0 на отрезке [(п—1), п] равно хп. В соответствии, с этим случайную функцию 6(0 можно записать в виде

6 (/) = /(/, о»),

"218 СЛУЧАЙНЫЕ ФУНКЦИИ [ГЛ. IV где f(t, с»)—вполне определенная неслучайная функция двух переменных /ио (0 ^ / < оо, 0 ю 1).

Рассмотрим произвольную случайную функцию в широком смысле со значениями в метрическом полном и сепарабельным пространстве X и с областью определения 6. Как показано в § 2 гл. II, всегда можно построить вероятностное пространство {й, 6, Р}, где Й— множество всех отображений о = <о (в) множества 0 в X такое, что распределение последовательности {©(01), ..., <о(0п)} в Xй при любых л, 0д е 0, Jt = 1, ..., п, совпадает с соответствующим распределением заданной случайной функции в широком смысле. Иными словами, для произвольной случайной функции в широком смысле можно построить стохастически эквивалентную в широком смысле случайную функцию (представление в терминологии § 2 гл. II).

К сожалению, представление случайной функции, даваемое теоремой Колмогорова, не может нас вполне устроить. Элементарными событиями построенного вероятностного пространства являются произвольные функции <о = <о (0) переменной 0, и мы лишены возможности говорить о таких свойствах функций ю(0), как их непрерывность, интегрируемость, дифференцируемость и т. п. (при этом мы, конечно, считаем, что 0 и X таковы, что соответствующие понятия имеют смысл).

Далее, в построенном вероятностном пространстве нет возможности рассматривать важные при решении многих конкретных вопросов события вида

(о» (0) е А для всех 0 е Q), ' (4)

где Q — несчетное подмножество из 0 и А с X. Действительно, событию

(to: «> = с» (0) е А для всех 0 е Q) = ["] {©: ю (0) е Л) 6eQ

в й соответствует множество, являющееся пересечением несчетного числа множеств из 6, и, следовательно, оно не обязано принадлежать о-алгебре 6. Эти соображения подсказывают, что при построении представления семейства распределений (1) желательно, чтобы пространство Й было как можно более узким, т. е. чтобы функции из й обладали возможно лучшими аналитическими свойствами.

Например, для возможности решения только что упомянутой задачи о вычислении вероятности события (4) желательно, чтобы случайная функция g(0, ю), являющаяся представлением семейства распределений (1), обладала следующим свойством:

с) Для достаточно широких классов множеств 31 из X и О из 0 существует счетное множество S точек 0, (е 0) такое, что

для любого Л ей и Q еО множество точек

{со: g (0, <о) е Л для всех 0 е Q), Ае%, Q е й, (5) отличается от множества

{<о: g (0Z, <о) е Л для всех 0/ е S П Q}(6)-

только на подмножество некоторого фиксированного множества N р-меры 0, не зависящего от Л и Q.

Так как множество (6) является пересечением не более чем. счетной последовательности измеримых множеств, то оно сам» измеримо и вместе с ним измеримо множество (5) (в силу полноты меры Р). При этом вероятности событий (5) и (6) равны между собой.

Случайная функция, удовлетворяющая условию с), называется сепарабельной (относительно класса множеств &).

Заметим, что если 0 — сепарабельное метрическое пространство, О — класс открытых множеств, % — класс замкнутых множеств пространства X, а функция g(0, го) почти для всех ю является непрерывной функцией аргумента 0 при фиксированном <о, то случайная функция g(0, го) сепарабельна относительно класса замкнутых множеств %.

В задачах, связанных с интегрированием случайных величин относительно некоторой меры {т, Я) на 0, желательно, чтобы функция g(0, го) была ^-измеримой как функция от в1 при фиксированном го P-почти для всех го.

В других случаях необходимо найти представление заданной в широком смысле функции, при котором почти все выборочные функции непрерывны, или имеют только разрывы первого рода, или к раз дифференцируемы и т. п. Конечно, следует ожидать, что возможность получения представления, обладающего специальными свойствами, определяется конечномерными распределениями случайной функции.

Аналогичные задачи возникают не только для случайных функций в широком смысле. Случайная функция g(0, го) может обладать «патологическими» свойствами, но для нее может существовать стохастически эквивалентная «сглаженная» функция g*(0, го), P{g(0, ©)¥=g*(0, го)} = 0, которая уже не «патологична». В соответствии с принятой точкой зрения на стохастически эквивалентные функции при решении интересующих нас задач допустима замена такой функции на стохастически эквивалентную регулярную функцию g*(9, го).

Приведем один пример. Пусть А — множество рациональных чисел на прямой (—оо, оо), х(0—индикатор множества А и го — равномерно распределенная на [0, 1] случайная величина.

Положим g(f, ю) = х(/+ го). При любом фиксированном <о функция g(t, to) всюду разрывна. С другой стороны, при

фиксированном t функция g(/, со) равна 0 с вероятностью 1. Таким образом, с вероятностью 1 всюду разрывная случайная функция g(<, со) стохастически эквивалентна функции 5*(t со) = О.

В настоящей главе рассматриваются различные условия, при которых для данной случайной функции существует стохастически эквивалентная (или стохастически эквивалентная в широком смысле) функция, обладающая определенными свойствами регулярности.

Сепарабельные случайные функции

Идея сепарабельной случайной функции была уже введена в § 1. Оказывается, что свойство сепарабельности не является жестким ограничением на случайную функцию. При достаточно широких предположениях, относящихся только к природе области определения 6 и области значений X случайной функции, существует сепарабельная случайная функция, стохастически эквивалентная данной. Следует, однако, заметить, что при построении эквивалентной сепарабельной случайной функции иногда приходится расширять область значений функции, превращая ее в компактное множество.

В настоящем параграфе постоянно предполагается, что О и X— метрические пространства с расстоянием г(0ь 02) и p(-ti, х2) соответственно, причем 0 сепарабельно. Роль классов множеств 91 и О из определения сепарабельности играют замкнутые множества в X и открытые множества в 0. Таким образом, сепарабельность случайной функции в дальнейшем понимается в следующем смысле.

Определение. Случайная функция g(0, со) называется сепарабельной, если существуют в 0 всюду плотное множество точек {0,}, / = 1, 2, ..., и в £2 множество N вероятности 0 такие, что для любого открытого множества G с 0 и любого замкнутого множества FaX два множества

{со: g(9h q^eF, 0/eG},

(co: g (0, e) 6 f для всех 0 e G) отличаются друг от друга только на подмножество N.

Счетное множество точек 0,-, фигурирующее в этом определении, называют множеством сепарабельности случайной функции.

Теорема 1. Пусть X и 0 — метрические пространства, X компактно, 0 сепарабельно. Произвольная случайная функция 5(0, со), заданная на 0 со значениями в X, стохастически эквивалентна некоторой сепарабельной случайной функции.

Докажем сначала три леммы. Пусть 5(0, го)— сепарабельная случайная функция, / — множество сепарабельности и N — соответствующее исключительное множество точек го.

Обозначим через V класс всех открытых сфер пространства 0 с рациональными радиусами и с центрами в точках фиксированного счетного всюду плотного множества в 0. Класс V счетен. С другой стороны, произвольное открытое множество G из © может быть представлено как сумма (счетного числа) сфер из V.

Пусть Л(О, м)— замыкание множества значений функции 5(0, го), когда 0 пробегает множество / П G, а

Л (О, ©) = П Л(5, о)

Sey

есть пересечение всех Л (S, со), когда S пробегает совокупность сфер из V, содержащих точку 0 в качестве своего элемента. Семейство замкнутых множеств Л (S, ю) (0 е S) является центрированным, т. е. любое конечное число множеств этого семейства имеет общие точки, и в силу компактности X их пересечение Л(0, ю) непусто. Кроме того, Л(0, ш) замкнуто. Из сепарабельности функции 5(0, со) следует (при o^N)

5(0, to) г Л (0, го).(1)

Обратно, если (1) выполняется для всякого to^N, Р(У) = 0, то 5(0, со)—сепарабельная случайная функция. Действительно, если 5(0, со) е F для всех 0е/ПЗ, где F — некоторое замкнутое множество в X и S g V, то Л (9, ю)с Л (S, ю)с f для всякого 9eS и, следовательно, 5(0, со)е F для всех 0 из S.

Если G — произвольное открытое множество в 0, то достаточно представить его в виде суммы G = ys* множеств из V, чтобы убедиться на основании только что сказанного, что из

5(0, го)еГ для всех 0 Z П G, a^N, следует

5 (0, to) g F для любого 6 е G.

Таким образом, доказано следующее утверждение.

Лемма 1. Для того чтобы случайная функция g(6, с») была сепарабельной, необходимо и достаточно, чтобы существовало множество N, Р(N) = 0, такое, чтобы при ®^N выполнялось (1).

Следовательно, чтобы построить для 5(0, го) сепарабельную стохастически эквивалентную функцию, достаточно найти функцию 5(0, и), удовлетворяющую (1) и такую, что для любого 9е8

Р {5 (6» ®) ^ £ (9> «>)} = 0.

Лемма 2. Пусть В — произвольное борелевское множества в X. Существует конечная или счетная последовательность точек 01,02, ... такая, что множество А^(0, В) = {®: g(0fc, ®)е В. к = 1,2, .... g^,to^B^ имеет вероятность 0 при любом 0G0.

Доказательство. Пусть 01 — любое. Если 01,02, ..., 0л построены, то полагаем

mft = sug P{g(0b ®)еВg^k, ^еВ; g^, ®)^В).

Последовательность nth монотонно убывает. Если /и^ = 0, то соответствующая последовательность построена. Если пг^ > 0, то пусть 0М — такая точка, что

P{g(0b в)еВ,..„ g^k, <о)еВ, g(0ft+b ®) ^В}>-^-.

Так как множества

U = t«>- £(вь ^gB- i=l, 2k, g(Qk+i, ®)^В} не имеют общих точек, то

1>£Р(1„)>|£Я».k-1fc-1

Следовательно, Шк->0 при к-* со. Таким образом, при любом 0

P{g(0A, ®)еВ, к = 1, 2g(0, ®) ^ В} < Нттк = 0. ■

Из доказанного нетрудно вывести следующее утверждение.

Л е м м а 3. Пусть ЗНо — счетный класс множеств, а ЗЯ — класс, состоящий из пересечений всевозможных последовательностей множеств из т0. Существует конечная или счетная последовательность точек 01,02, .. •, 0п, • • • и для каждого 0 такое множество N^, что

P{jV(0)} = 0 и

{®: g^№ Ц^В, п= 1, 2g^, ®)^В}с JV(0)

для любого ВеЗЯ.

Для доказательства поступим следующим образом. Пусть / — счетное множество точек из 0, являющееся суммой последовательностей {0п,п=1, 2, ...}, построенных для каждого В е ®1о в соответствии с леммой 2, и ^ (0) = |J N (0, В). Если

Вези

В'еЗЯ и В о В', В еЗЯо, то

{®: g(0„, в^еВ', 9nel, g(Q, ®)^В)с:{ф: g(0„, ®)еВ,6пг1, g{e, to)^B}cjV(0, B^N(9).

Далее, если В' = Вк, Вке Эйо, то

й-1

{®: 8(0л,«>) ^ В', 9nel, g(0, о)^ В') с

<= 0 {®: 2(0». <i>)GB', 9nsl, g(9, а>)фВк}а

-с 0 ^(0, Bt)cN№,

что и доказывает лемму. Д

Теперь нетрудно доказать теорему 1.

Фиксируем некоторое счетное всюду плотное множество точек L в X и под ЭДо понимаем класс дополнений к сферам рационального радиуса с центрами в точках L. Тогда ЗЯ— класс пересечений множеств из ЗЯо содержит все замкнутые множества. Далее, для каждого Se V рассматриваем случайную функцию g(9, го) как заданную только для 6е$ и строим последовательность I = Ц5) и множества N(0) = Ns(,9) в соответствии с леммой 3. Пусть

J= U /(S), N6 = U ^(0).

Положим

8(9, to) = g(0, ©),

если 0е/ или g (9, го) г Ne; если же g(9, го) г Ne, O^J, то определим g(0, и) любым способом, так чтобы g(9, го) г А(0, го). Так как для точек 0 е / значения функций ^(0, с») и g(9, го) совпадают, то множества Д(0, го), построенные для функций g(9, го) и g(0, с»), также совпадают. Из определения следует, что

g (0, го) е Д (0, о)

для любого 0 и и. Так как {го: g(9, го) N= g(0, ю)} с Ne, то P{g(0, ю) = £(0, го)} = 1. ■.

Теорема 1 непосредственно обобщается и на случайные функции со значениями в сепарабельных локально компактных пространствах.

Теорема 2. Пусть X — сепарабельное локально компактное пространство и 0 — произвольное метрическое сепарабельное пространство. Для любой случайной функции g(9, го), заданной на & и со значениями в X, существует стохастически эквивалентная сепарабельная случайная функция g(9, с»), принимающая значения на некотором компактном расширении X пространства X, X т> X.

Доказательство вытекает из того факта, что всякое локально компактное сепарабельное пространство X можно рассматривать как подмножество некоторого компакта X. Например, если

5(0, со)—случайная функция со значениями в конечномерном пространстве X, то, дополняя X одной «бесконечно удаленной» точкой оо, легко получить компактное пространство X = XU U {00} с новой метрикой, такой что каждое замкнутое ЕсХ (в топологии пространства X) является также замкнутым в X (по отношению к новой метрике). При построении сепарабельной реализации случайной функции ей, возможно, придется приписывать дополнительное значение «оо»; но, очевидно, при фиксированном 9 вероятность этого равна 0. В

Во многих вопросах бывает важным знать, какое множество J может играть роль множества сепарабельности.

Теорема 3. Пусть 0 — сепарабельное пространство и 5(0, со)—сепарабельная стохастически непрерывная случайная функция. Тогда любое счетное всюду плотное множество точек из 0 может служить множеством сепарабельности случайной функции 5(0, со).

Доказательство. Пусть У = {5}—счетное множество сфер в О, введенное в доказательство теоремы 1, / = .{0а, k = 1,2, ... ..., п, ...}— множество сепарабельности случайной функции 5(0, со), ^— исключительное множество значений со, фигурирующих в определении сепарабельности, и Л — произвольное всюду плотное множество точек в 0. Пусть В (S, со) обозначает замыкание множества значений 5(0, со), когда точка 0 пробегает Л П S, a N(S,k) — событие, состоящее в том, что 5 (0й, со) ё ёШ5, со), если OfeeS. События N^SA) имеют вероятность 0. Действительно, пусть уг, г =1,2, .... п—произвольная последовательность точек из Л П S, сходящаяся к 0А. Тогда

Р{5(6б. <й)^В(3, со)) < Р { Пт р(5(©ь ®), g^n со)) > 0}<

Г->оо

< Пт Р{ Пт р(5(6», ®), 5(уг, ®))> ^}< п-^оо Г->0О

с lim Пт Р { р (5 (06, со), 5 (yr, со)) > 1} = 0.

Пусть N' = U (J N (S, k), тогда Р (N'^ = 0. Если со ф N (J N' S O^eS

и 5(У» и)ер для всех уеЛПС, где G—-некоторое открытое множество, a F с X замкнуто, то для любого 0^ е G и S такого, что 0t е ScG, имеем

5(06, e)SB(S, K^cF.

Из определения множества {0й} отсюда вытекает, что 5(0, со) е eF для всех 6еС и ю^МММ'. Таким образом, множество Л удовлетворяет условию определения множества сепарабельности случайной функции. Ц

ИЗМЕРИМЫЕ СЛУЧАЙНЫЕ ФУНКЦИИИЗМЕРИМЫЕ СЛУЧАЙНЫЕ ФУНКЦИИ225225

ИЗМЕРИМЫЕ СЛУЧАЙНЫЕ ФУНКЦИИ

ИЗМЕРИМЫЕ СЛУЧАЙНЫЕ ФУНКЦИИ

225

225

$ 3]

Измеримые случайные функции

Пусть 0 и X по-прежнему обозначают метрические пространства с расстояниями г(0ь 0г), p(xi,x-2) соответственно, 5(0, со)— случайная функция со значениями в X и с областью определения 0, со — элементарное событие вероятностного пространства {Q, ©, Р}.

Допустим, что на 0 определена о-алгебра множеств ^, содержащая борелевские множества, и на St— некоторая полная мера т. Через о{№ X ®} обозначена наименьшая о-алгебра, порожденная в 0 X 52 произведением о-алгебр № и ©, а через б^Х®}—ее пополнение относительно меры т X Р (см. гл. II, § 2).

Определение. Случайная функция 5 (0, с») называется измеримой, если она измерима относительно д^Х©}.

По определению случайная функция 5(0, го) при любом 0 е 0 ©-измерима. Если же случайная функция измерима, то в силу теоремы Фубини 5(0, со) ^-измерима, как функция от 0 P-почти для всех ©. Иными словами, ее реализации ^-измеримы с вероятностью единица.

Рассмотрим теперь условия, обеспечивающие существование для данной случайной функции стохастически эквивалентной, измеримой и сепарабельной функции.

Теорема 1. Пусть 0 и X — компакты и мера m конечна. Если для m-почти всех 0 случайная функция 5(0, со) стохастически непрерывна, то существует измеримая сепарабельная случайная функция 5*(0, (о), стохастически эквивалентная функции 5(9, <о).

В силу теоремы 1 § 2 для функции 5(0, и) существует стохастически эквивалентная сепарабельная случайная функция 5(0, го). Пусть I — множество сепарабельности функции 5(0, со). Как прежде (§ 2), A(G, ю) обозначает замыкание множества значений 5(0, со), когда 0 пробегает множество G П/, и Д(0, го)— пересечение всех множеств вида Д(5, го), где S — произвольная открытая сфера из V (§2), содержащая 0. В силу сепарабельности 5(0, ®)е А (0, со) почти наверное (т. е. при to^N, где P(IV) = 0). С другой стороны, если функция 5'(0, го) такова, что 5/(0, ®) = 5(0, ®) при бе/ и 5'(0, ®)еД(0, со) (гой^', Р(А/') = 0), то 5'(0, со) — также сепарабельная случайная функция (лемма 1 § 2). Построим функцию 5*(0, со), обладающую только что указанным свойством, стохастически эквивалентную функции 5(0, ю) и измеримую относительно о-алгебры о{$ X ©}• Расположим точки / в последовательность (0ь 02, ..., 0П, ...}, и пусть ги = min (г (хь, xs), k, s = 1, ..., n). Для каждого n построим конечное покрытие множества 0 сферами S", ..., S" , радиус которых равен гп/п, с центрами в точках 0". При этом

предполагается, что 0" = 0/ при / = 1, ..., и, а остальные точки 0” (j = n+l/„) выбраны из / произвольно, лишь бы соответствующие сферы образовывали покрытие 6.

Положим g„$, ®) = §^ь ®) при /eSt, 6 = 1, 2, ...,п (эти сферы не пересекаются, так что приведенное определение корректно), и g„(0, ®) = g(0", ю), если 0eS"\|JS?, j = = «+ 1Г„. Заметим, что gn+p$n, ®) = g(0„, co), gn(0, ©) —

борелевская функция аргумента 0 при фиксированном го и о{ЯХ®)‘Измеримая функция по паре аргументов (0, го). Кроме того,

Р Ш»(9, о), g$, to)] = p[g(0g, <о), g(0, <o)], причем

r (eg, 9)<^.(1)

Если положить

О„р(0) = Р{®: p[g„(0, о), £п+рФ, ®)1 > e},

то в силу условий теоремы m-почти для всех 0 G„p(0)-*O при л-*оо для любого е>0. Поэтому

(m X Р) {(9, ю): р [g„ (0, ю), gn+p (0, со)] > в} =

= ^ GnP(0)m(d0)-»O при п->оо е

для всех е > 0, т. е. последовательность gn (0, со) фундаментальна по мере zn X Р- Из нее можно выделить подпоследовательность gnfe$> ю), сходящуюся т X P-почти всюду к некоторой о{Я X ©}-измеримой функции g(0, го). Множество точек {0, го), где эта сходимость не имеет места, обозначим через А'. Из построения следует, что можно считать (0,-, со) ^ К. Очевидно, что при (0, го)^К ^(0, го) г А(0, со). Далее, если L — множество точек 0, в которых функция g(0, ю) не является стохастически непрерывной, то из (1) следует, что при 0 ^ L

P{g(0, co)^g(0, го)} = 0.(2)

Положим теперь

g*^, (o) = g(0, о»), если 6eL или если (0, q)gK;

g*(9, (o) = g(0, с»), если 0^L и (9, ю)^А'.

Функция g*(0,ro) совпадает с g(0, ю) m ХР-почти для всех (0, го), и поэтому она 5{ЯХ®)-измерима. Далее, g*(0, ©) = g(0, ю) при 0е/, так что Л*(0, ©) = Д(0, о), где Д*(0, ©) — ранее определенное множество А (0, го), построенное по функции g^Q,©)

ИЗМЕРИМЫЕ СЛУЧАЙНЫЕ ФУНКЦИИИЗМЕРИМЫЕ СЛУЧАЙНЫЕ ФУНКЦИИ227227$ 3]

ИЗМЕРИМЫЕ СЛУЧАЙНЫЕ ФУНКЦИИ

ИЗМЕРИМЫЕ СЛУЧАЙНЫЕ ФУНКЦИИ

227

227

и множеству /, и g*(0, ®) еЛ(0, ю) = Л’(0, ю). Таким образом, функция g*(0, го) сепарабельна. Учитывая (2), получаем Р {g* (9. ®) ^ § (0, ®)} = О для всех 0 е 0, т. е. g* (0, ®) и g (0, ®) стохастически эквивалентны. ■

Приведем ряд замечаний, обобщающих теорему 1.

Замечание 1. В теореме 1 требование компактности пространств в и X может быть заменено требованием локальной компактности и сепарабельности. Действительно, компактность пространства X нужна была только для возможности сослаться на теорему 1 § 2. Теперь можно ссылаться на теорему 2 § 2. При этом сепарабельное и измеримое представление g*(0, ®) функции g(9, ®) принимает, вообще говоря, значение из некоторого компактного топологического расширения пространства X. Далее, если пространство в локально компактно и сепарабельно, то его можно представить в виде суммы счетного числа компактов. К каждому такому слагаемому в отдельности применимы предыдущие рассуждения, откуда следует утверждение теоремы и для объединения. Более того, при этом мера т не обязана быть конечной, достаточно, чтобы она была о-конечной.

Замечание 2. Утверждение теоремы 1 имеет место для того случая, когда 0 и X — евклидовы конечномерные пространства и мера {m, S'} есть лебегова мера в 0.

Заметим теперь, что доказательство теоремы 1 упростилось бы, если не требовать сепарабельности измеримого представления заданной случайной функции. Множество I при этом не привлекалось бы к рассмотрению. Из свойств пространства X использовалась бы только полнота пространства.

Замечание 3. Если X — полное метрическое пространство, 0 — локально компактное сепарабельное пространство, т— оконечная мера на о-алгебре, содержащей борелевские множества 0, то случайная функция g(9, ю) со значениями в X, 0G0, ые й, стохастически непрерывная m-почти для всех 0, стохастически эквивалентна измеримой случайной функции.

Следующий результат, имеющий важное значение, непосредственно вытекает из теоремы Фубини.

Теорема 2. Пусть g (0) = g (0, ®) — измеримая случайная функция, принимающая действительные значения. Если

J M|^(0)|/n(d0) < оо, е

то для любого множества В еК

J M|(0)m(d0) = M ^(0)m(d0). вв

Последнее равенство означает перестановочность знака математического ожидания и интеграла по параметру.

Критерии отсутствия разрывов второго рода

Функции без разрывов второго рода. Пусть g(/), t е[а, 61— случайный процесс со значениями в полном метрическом пространстве X.

Определение. Если с вероятностью 1 выборочные функции процесса для каждого t^(a,b) имеют пределы слева и справа, а в точке а (Ь) предел справа (слева), то говорят, что процесс не имеет разрывов второго рода на отрезке [а, 6].

В настоящем параграфе постоянно предполагается, что процесс ^(/) сепарабелен. Множество сепарабельности процесса обозначим через /.

Определение. Функция x=f(t), х е X, имеет на отрезке [а, 6] не менее m е-колебаний (е>0), если существуют точки t0, .... tm, а ^ t0 < t\ < ... < tm ^ b, такие, что p(Htk-v),f(tk))>e, k=\,2, m.

Лемма 1. Для того чтобы функция y = f(t) не имела на отрезке [а, 6] разрывов второго рода, необходимо и достаточно, чтобы для любого е>0 у нее было только конечное число е-колебаний на [а, 6].

Доказательство. Достаточность. Докажем существование предела f(t — 0) для любого te(a, 6]. Пусть (tn)— произвольная последовательность tn f t. Может найтись только конечное множество чисел tnfe (nk < n6+i) таких, что p(f (tn^, fQnk+xY) > e. Следовательно, начиная с некоторого m, p(f(tn), f (tn+k))<126 для всех n^m, k > 0, т. e. последовательность f (tn) сходится. Отсюда вытекает существование f(t—0) = lim/(s). Аналогично

доказывается существование f(/ + 0) на [а, Ь).

Необходимость. Пусть в некоторой точке to не существует одностороннего предела (например, предела слева). Тогда найдется последовательность tn f t0 такая, что для любого п sup р (f (tm), f (tn)) > е, т. е. число е-колебаний неограни- т>п ченно. В

Заметим, что определение числа е-колебаний тривиально переносится на случайные функции, рассматриваемые на произвольном множестве действительных значений t.

В дальнейшем, рассматривая функции без разрывов второго рода, мы не будем различать две функции, имеющие в каждой точке t е (а, 6] одинаковые пределы слева и справа. Поэтому естественно принять какое-либо стандартное соглашение о значениях этих функций в точке разрыва. Обозначим через 2>[а, b] = S>[a, b; X] пространство функций, заданных на [а, 6], со значениями в X, не имеющих разрывов второго рода и в каж-

дой точке t г [а, 6] односторонне непрерывных. Положим

Л, kt) = sup (min [р (f (f), f (t)), P (f kt"), f (0)];

/ —c<f</<f'</4-c, f, t, Г'е(а, &]} +

-j-sup {p (f (/), f(a)); a<t<a + c} +

+ sup {p (f (/), f (6)); b-c<t<b}.(1)

Лемма 2. Для того чтобы функция х = f(t) не имела разрывов второго рода, необходимо и достаточно, чтобы

ИшДе(/) = 0.(2)

£-►0

Доказательство. Необходимость. То, что два последних слагаемых в правой части (1) стремятся к нулю при с->0 для каждой функции f е 2D [а, о], вытекает из определения.

Пусть условие (2) не выполнено. Тогда найдутся такие последовательности /„, /п, tn, что tn<tn<tn, in— tn -> 0 И pCfto. fktn))>e, p(f(tn), f(tn))>e для некоторого e > 0. Можно считать, что tn сходится к некоторому t0 (если это не так, то можно заменить последовательность tn некоторой сходящейся подпоследовательностью). Из трех последовательностей Ю» (М> К) п0 крайней мере две имеют бесконечно много точек, лежащих по одну сторону от to. Если, например, {^} и {/»} лежат слева от t0, то fktn)->tkt— 0) , f (t'n)->f (t — 0), что противоречит условию p(f(tn), f (tn)) > в. Аналогичен случай, когда {/п} и 0^} имеют бесконечно много значений, лежащих правее to. Остальные случаи сводятся к этим двум.

Достаточность. Из условия (2) следует, что /(/) непрерывна справа в точке а и слева в точке Ь. Если бы при некотором /оЕ(а, 6) не существовало f(/o + 0), то нашлась бы последовательность tn 11 и е > 0, для которых pklkM, fktn+i))> е, что противоречит (2). Таким образом, существует /(/о + О) при любом /0 ^ [а, Ь). Аналогично существует f(t0— 0). Из соотношения (2) следует также, что либо f(/0) = fkto — 0), либо /(/о) = == f (t0 4-0). Лемма доказана. ■

Некоторые неравенства.

Лемма 3. Пусть^,(t),te [0, Т], — сепарабельный стохастический непрерывный процесс со значениями в X и существует такая неотрицательная монотонно возрастающая функция g(h) и функция q(C, h)^0, h^0, что Pkkpklkt),lkt-h))>Cg(h))n

П [p (I kt + h), & (t)) > Cg (A)] } < q (C, h)(3)

a

G= £ g(T2-n)<oo, Q(C)= £ 2"q(C,r2-")<oo.(4)

/1=0№1

Тогда для всех N > 0

р V. й?.. „р й т-5 w <р {р е «>и mi > -й-}+q G£).

Доказательство. Положим

4а = {р(|(^-г), Ц^гТ))<С£(Г2-")},

6 = 0,12"—1, п = 0,1,2 оо 2т-1

Bnk = Anh —1 U ^пй, D„ = П П ^mh (Л^1), m—n й-|

Do= ^оо П Di.

В силу стохастической непрерывности можно считать (см. теорему 3 §2), что множеством сепарабельности / процесса 1(f) является множество чисел вида 6/2”, 6 = 0, 1, ..., п = = 0,1, 2, ... Имеем

_оо 2т-1_СО

р W < Е Е Р {Bmk} < Е ^q (С, T2-m) = Q (л, С),(5)

т*п ^=1т—п

где Q(n,C) = Е 2mq(C,T2"m\ т—п

Из Do вытекает, что р(|(Т), |(0))^Cg(T), и выполнено одно из событий: или pam.UO^CCg^-1), или же р(|(Т),|(Г2'‘)) < ^Cg(T2-x\ В обоих случаях

р а (0), | (Г/2)) < Cg (Т) + Cg (Т2~1\

р (^ (Г/2), 1 (Г)) < Cg (Т) + Cg (Т2~1).

Воспользуемся теперь методом индукции. Допустим, что неравенство

m

р (l (^ Г), Ц-^ г)) < Cg (Г) + 2С £ g (Т2-$)(6)

5 = 1

доказано для m = п и для к, / = 0, 1, ...» 2П при предположении, что Do имеет место. Докажем, что аналогичное неравенство имеет место и для m = n+ 1. Пусть к и / — нечетные числа: к =2^1 + 1, / = 2/1 + 1- Так как из Drt+i следует, что по крайней мере одно из неравенств

р0(£-г)' 6(-^r-r))<csfr2"'”").

p(8(2li-L7')’ t(^jrLr))<cg(r2-|"+")

выполняется, то,

р($(^"г)‘ е(5-г))<с$(г2"''*")' где к' равно или к\, или &i + 1. Аналогично найдется целое j' такое, что

рО(ттгг). е(£г))<сНг2-<"").

Учитывая теперь предположение индукции, получим

р0(^г)' ^^^«сяо+гс^гСгг-). 5=1

Аналогично рассматривается случай, когда к или / могут быть четными. Таким образом, неравенство (5) доказано для всех m^l. Из сепарабельности процесса тогда следует, что если событие Do происходит, то

sup {р (6 (П, 6 (П), t', t" е [О, Т] } < 2CG

с вероятностью 1. Отсюда следует, что

Р{ sup оШт>^<

t\ r'slO, T]

<0(-^) + р{р(6(0И(П)>15-}. ■

Лемма 4. Пусть выполнены условия предыдущей леммы. Тогда

Р{-МУ>СС([1йу)}«?([1й£|. С).(7)

где

G(«)= Е g(T2-,n). Q(n,C) = 2 2mq(C,2T-m). m=nm=n

Доказательство. Продолжим ход рассуждений предыдущей леммы. Пусть событие Ьп имеет место. Воспользовавшись индукцией, докажем, что для любых к и m найдется такое целое 1пт (0 < jnm < 2m+'), ЧТО n-Vm

^sAl^T> Ч^-^]7))^/^ <8>

n-Vm

<C^g(T2-s), (9)

причем, как функция от т (и и А фиксированы), величина /пт2~<п+т) монотонно не убывает. При т = 0 в качестве /последует выбрать нуль, если р(£(£Г2~п), |((^ + О^З-"))^ ^ С^(Г2-п), и единицу, если р(|((&— 1)Г2~п), g(^r2~n))s< ^С^(Т2~п). При предположении Ьп одно из этих двух неравенств обязательно имеет место. Пусть jnm уже выбрано. В качестве jnm+i следует взять 2/nm, если

₽(Н[^+^]4 $([^+W?))<

<Cg (Т2~<п+т+'лх и 2/„m+ 1, если

г-0([^+МРР([^+^Р))<

<Cg(T2<Cg(T2-(п+т+1))-(п+т+1))

<Cg(T2

<Cg(T2

-(п+т+1))

-(п+т+1))

Такой выбор возможен, так как одно из этих неравенств, если происходит Dn, обязательно имеет место; если же выполнены оба неравенства, то выбор между указанными значениями jnm + 1 произволен.

Переходя в соотношениях (8) и (9) к пределу при /п-^-оо, получим, что для каждой выборочной функции, для которой Оп имеет место, найдется такое т = т(о), 0 ^ г ^ Т2~^п-1\ что

ожг(‘(л^7')- еСтг+О)*^

tel

и

($ (^г+0 ■6 (^ И) < с0<">-

tel

Пусть е е [2-<п+*)Г, 2~пТ] и 0 < t" — Р < е. Найдется такое к, что (к—l)2~nT ^ t'<_t" <. (k + 1)2-пТ. Если te[f,f'], то либо (Z'.Oct^— 1)2-"Т, (к— 1)2-”Т + т], либо Ц.Иа с[(&— 1)2-пТ4- т, (&+ 1)2-пТ]. Если при этом f, t и t" взяты из /, то выполняется по крайней мере одно из неравенств

Р (6 (П. 6 (0) < 2CG (п), р а (0, 6 (П) < 2СС (п).

Из сепарабельности процесса вытекает, что одно из этих неравенств будет иметь место с вероятностью 1 для всякой выборочной функции процесса. Поэтому из Dn вытекает, что с вероятностью 1

Ae(|)<2CG(n).

В силу неравенства (5)

Р {Дв ® > 2CG (га)} < Р (D„) < Q (п, С),

или, учитывая, что е ^ 2~<п+1>Т, и монотонность функций g(h) и q(h), окончательно получаем,

р {ма>са([ig,у)}<е([1&у.С). ■

Условия отсутствия разрывов второго рода, использующие частные распределения процесса. Из последней леммы сразу вытекает следующая

Теорема 1. Если ^(0, /е[0, Г],— сепарабельный стохастически непрерывный процесс со значениями в X, удовлетворяющий условиям

р I ip и ю. 6 а - л)) > с§ (Л)] п [р (5 ^+h\ ^ (о) >

>Cg(h)]}^q(C,h),(10)

где

§g(T2-")<oo,2 2^(С,Т2"")<оо,(11)

n—1п-1

то g(/) с вероятностью 1 не имеет разрывов второго рода.

Доказательство. Положив в неравенстве (7) С = 1, увидим, что в условиях теоремы Де(£) -*0 по вероятности при е->0. Но Де(£), как функция от е, монотонно убывает при е|0. Поэтому ИшДе(§) при е->0 существует с вероятностью 1 и равен нулю. ■

Следствие. Пусть на [0, 7] задан стохастически непрерывный случайный процесс в широком смысле со значениями в полном сепарабельном локально компактном пространстве X, «трехмерные» частные распределения которого удовлетворяют условиям (10), (11). Тогда существует некоторое представление этого процесса, не имеющее разрывов второго рода.

Условия отсутствия разрывов второго рода, использующие условные вероятности. В предыдущей теореме условие отсутствия разрывов второго рода выражалось через свойства частных («трехмерных») распределений случайного процесса. Приведем результаты несколько иного характера. Они используют предположения, относящиеся к условным вероятностям, и применимы тогда, когда имеется важная информация о свойствах условных распределений процесса.

Пусть {St,/е [0,7]}—некоторый поток а-алгебр. Предположим, что процесс £(/) подчинен потоку а-алгебр {St, / е [0, Г]}, т. е. при каждом /е[0, 7] случайный элемент |(/) St-измерим.

Введем величину

а (е, 6) = inf sup [Р (р (g (s), 6 (/)) > е | &}; s, t

0<$<(<Н6<Л ИЕЙ'], (12) где inf берется по всем подмножествам Q' (Q'ев), имеющим вероятность 1. Нетрудно заметить, что существует такое Й°, Р(£2°)== 1, Q°s©, на котором рассматриваемая точная нижняя граница достигается так, что

a(s,6) = su^{P{p(g(s),g(/))>e|8J; 0<s</<s + 6<Г, «ей0}.

Покажем, что для сепарабельных процессов условие а(е, 6) ->0 при б->0 и любом е > 0 обеспечивает отсутствие разрывов второго рода. Пусть [с, d] — фиксированный отрезок, [с, d] с [0,'7} и / — произвольная конечная последовательность моментов времени /1, #2, . . ., /п> $ ^ с ^ Л < t2 < ... < /п ^ d. Через Л(е, Z) обозначим событие: выборочная функция случайного процесса £(/) на [с, d]DZ имеет по крайней мере одно е-коле- бание.

Л е м м а 5. С вероятностью 1

Р{Л(е,Ша<2«(-|-Х-с).(13)

Доказательство. Заметим прежде всего, что в силу свойств условных математических ожиданий при s <.1 <.и

Р(р(6(0, Uu^> е15Л =

= М {Р {р 6(О, I («)) > е I &} I8J <а (е, и - s).(14)

Введем теперь события

В6 = {р№, ШКр < = 1,2,..., 6-l,pm&(W)>f}. Ct-fpttM.EM»!}. Dk = BknCk, 6=1,2,...,/г, C0 = {p(IM,|(d))>|}.

n

События Bk несовместимы, и если положить D— И Dk, то fe-i

А (е, /) с Со U D. Действительно, если А (е, /) имеет место, то при некотором 6 впервые выполняется неравенство р (£ (с), g (tk)) "^ у, т. е. осуществляется одно из событий Вк (6 = 1,..., п). Если при этом D не имеет места, т. е. если р (| (tk), 1(d)) < ^, то Р (I (с), I (d)) > р (| (с), | (tk)) — р (g (tk), g (d)) > ^, т. e. имеет место

событие Со. Таким образом, Л (в, Z)c:CoU£- Имеем теперь с вероятностью 1

р {D61 зл—М {Хо& 18s} = М {М {ХВбХс,1 8,ft} 18s} =

= м {xB6P {С61 & J18s} < а (|, d - с) М {ХВЛ18s},

где Хд» как обычно, обозначает индикатор события А. Отсюда следует

P{BI8s} = SP{^l8s)<a(f,d-c)M]£x^

к~\^6=1'

< а (^, d — с^ (mod Р).

Вейлу (14) Р(Со18s}^«("I"• d —с). Таким образом,

Р {Л (е, 7) 18s} < Р VD18s} + Р (Со 18$} < 2a (|, d - c) (mod P),

что и доказывает лемму.

Лемма 6. Пусть Лк(е, 7) обозначает событие; ^(/) имеет на 1 по крайней мере к е-колебаний. Тогда

Р {Л6 (8, 7) 18s} < [2a (y . d - c)]6 (mod P).(15)

Доказательство. Пусть Br(e,I) обозначает событие: на множестве (/i, ..., /г) выборочная функция процесса ^(f) имеет не менее А—1 е-колебаний, но на (/ь ..., tr-\) число е-коле- баний менее к — 1. События Вг(е,1) г=1, .п) несовмести- п

мы, и J Вг(в, 7) = Л*~‘(е, 7) zo Л*(е, 7). С другой стороны, из Г=1

Л^е, 7) Л Вг(е, 7) следует, что на множестве (4, ^г+ь • • •, ^п) имеется по крайней мере одно е-колебание. Следовательно,

п

АЧе, 7)с [J (В, (е,7) ПСГ (е, 7)),

Г-1

где Cr(e, Z) означает, что ^(/) на (/г, ^г+ь ..., #п) имеет по крайней мере одно е-колебание. Поэтому

а

PU6(8,7)|8s}<ZP{Br(8,7)nCr(e,7)|8s) (modP). (16) г—1

Используя свойства условных математических ожиданий, получим

р КВГ (8, /) П ст ^ /) I &} = М {М {хВг(е. /)XCr(e. п I &r} I 8,} < ^M{xSr(e/)P{Cr(e'/)l&J|^}<

< 2а (|, d - с) Р {В, (в, /) | &} (mod Р).

Из полученного неравенства и (16) следует, что

Р (Л* (8, /) 18,} < 2а (|, d - с) £ Р (Вг (е, /) | 8,) =

Г=1

(mod Р).(mod Р).= 2а(|, d-C)PM»-'(e, /)|8Л

(mod Р).

(mod Р).

откуда и вытекает доказываемое. И

Теорема 2. Если ^(0—сепарабельный процесс и при любом е > 0

Нт а (в, 6) = 0,(17)

б-*о

то процесс £(/) не имеет разрывов второго рода.

Достаточно доказать, что с вероятностью 1 каждая выборочная функция g(/) имеет только конечное число е-колебаний. Пусть / — множество сепарабельности процесса |(0- Представим его в виде 7 = (J 7„, где 1и — монотонно возрастающая поп—1

следовательность множеств, состоящих из конечного числа элементов. Пусть дано е > 0. Разобьем [0, 7] на m отрезков Аг, г = 1, ..., пг, одинаковой длины так, чтобы 2а ^ > "^ ) = Р < Ь Тогда ■

Р {Л” (8, 7 Л Дг) |8Л < Р {Лй (8, 7 n АЛ I 8Л =

- Пт Р{Лй(в,7„ЛАЛ18Л<Р\

П-Юо

откуда Р(Л”(8,/ЛА,)|&} = 0 (mod Р) и Р (Л“ (в, IП А,)} = 0.

Следовательно, Р (Л00 (в, /)} = 0. И

Приведем некоторые важные следствия из доказанной теоремы.

Теорема 3. Сепарабельный стохастически непрерывный процесс £ (#), te. [0, 7], с независимыми приращениями и со

значениями в линейном нормированном пространстве X не имеет разрывов второго рода.

Действительно, из определения процессов с независимыми приращениями имеем

P{ll(s)-UOI>e|^} = P{|g(s)-UOI>e) (mod Р).

С другой стороны, из свойства равномерной стохастической непрерывности (см. теорему 2 § 1 гл. I) вытекает, что

a(e,6) = sup{P[|^(s)-^(0l>e]; 0<s<t<s + 6 < T) ■

стремится к нулю при 6-* О и любом е > 0. Таким образом, условия теоремы 2 выполняются. ■

Теорема 2 дает сильные результаты и для марковских процессов.

Теорема 4. Если £(/), /е[0, Т], — сепарабельный марковский процесс со значениями в метрическом пространстве X и с вероятностью перехода Р(/, х, s, Л), удовлетворяющей условию

а(е, 6) = sup[Р(s, х, t, Se(х)}; хеХ, O^s^/^s + d^TJ^O

при 6-> 0, где Se(x)—сфера радиуса е с центром в точке х, Se(x)—ее дополнение, то процесс £(/) не имеет разрывов второго рода.

Последнее утверждение непосредственно вытекает из теоремы 2 и определения марковского процесса.

Регуляризация выборочных функций процесса без разрывов второго рода. Ранее уже отмечалось, что, рассматривая функции без разрывов второго рода, отождествляют функции, имеющие в каждой точке одинаковые пределы справа и слева.

Напомним, что если процесс сепарабелен, то значения выборочных функций £(/) с вероятностью 1 являются предельными значениями последовательностей £(/,) при tt-*t и Ц из множества сепарабельности. Если при этом процесс не имеет разрывов второго рода, то с вероятностью 1 £(/) при каждом t равно ^<t — 0) или g(Z-f-O).

Теорема 5. Если £(/)— стохастически непрерывный справа процесс без разрывов второго рода со значениями в метрическом пространстве X, то существует эквивалентный ему процесс V (/), выборочные функции которого непрерывны справа (mod Р).

Доказательство. Событие А: предел limg(/+ —) суще- п->оо х п;

ствует для каждого /е[0, Г]—имеет вероятность 1. Положим |'(0 = lim £ (t ) в случае А и g'(/)==g(O в случае А.

П->оо V П '

Имеем

{Г (О ^ 6 (0) = и { Р (5 (О, Г (О) > ^} п л, р Н' (О * Ш - Н^Р {(р (6 (О, Г (О) > тг) Л Л }.

С другой стороны,

Р{р(КОЛ'(О)>^} =

-р{и м^о+^мрг-

' 1 л=/г/

р{ П {р(г«. Ц'+т))>1}1<4 п=*кV

Ч'^/ИМ^))^}-

ТаКим образом, РЙЧО^ ъ(О) = О- Остается заметить, что на множестве Л функция £'(/) непрерывна справа. ■

Непрерывные процессы

Условия непрерывности процесса без разрывов второго рода. Как и в предыдущем параграфе, предположим, что X — полное метрическое пространство, g(0, t г [О, Г],— случайный процесс со значениями в X.

Определение. Процесс ^(t), I е [О, Ц называется непрерывным, если почти все выборочные функции процесса непрерывны на [0, 7].

Для процессов, не имеющих разрывов второго рода, можно указать простое достаточное условие непрерывности.

Теорема 1. Пусть {tnk, ^ = 0,1, ..., m„), n=l,2,...,— некоторая последовательность разбиений отрезка [0, Г], 0 = /„э< <t„i< ... <tnm =Т ukn= max (/„* —/„,6-i)->0 npun-*oo.

"Kk<mn

Если процесс £ (/) сепарабелен, не имеет разрывов второго рода и

тп

(1)(1)2 Р (р [»(/„ft)> 6 (/«6—1)1 > ®J ~0 при Хп —*■ 0, fe-i

(1)

(1)

то процесс £(/) непрерывен.

Доказательство. Обозначим через v8 (0 ^ v8 ^ оо) число тех значений /, для которых p[g(/ + O), g(Z— 0)] > 2е, а через Ve(«) — число таких индексов к, что р[^(/«й), §(/„^-1)] < в. Очевидно, что ve< lim vW. С другой стороны, п->оо

тпMv<">= ZP(pB(UU(U-i)]>e).&=1

В силу леммы Фату Mve ^ М lim v<"> ^ lim Mv^L Итак, Mv8 = 0, rt -> ооn-> оо

т. e. ve = 0 с вероятностью 1 при любом е > 0. Следовательно, с вероятностью 1 &(/— 0) = £(t + 0) при любом t. В силу сепарабельности процесса 6(0= 6(^ — 0) = £(^ + 0), т. е. процесс непрерывен. ■

Применим теорему 1 к процессам, удовлетворяющим условиям теоремы 2 § 4. Пусть а(е, 6) определяется соотношением (12) §4.

Теорема 2. Если процесс £(/) сепарабелен и

ljmMa^). = 0(2)

6->0 6'

при любом е > 0, то процесс £(/) непрерывен.

Так как при выполнении условия (2) процесс |(/) не имеет разрывов второго рода, то достаточно проверить соотношение (1). Учитывая, что Р(рК(<па), g(^nA-i)] > е}^ Ма(е, Мп^, где Ыпк = tnk — tnh-\. получим

g р (Р (I(^), гИпк-1)1 > 8} <(b - а) 1 max, “”(£^.-*0

при Хп —> 0. ■

Применяя теорему 2 к марковским процессам, получаем следующее условие непрерывности марковского процесса.

Теорема 3. Если §(/)—сепарабельный марковский процесс и

lp(s, у, #,S8(y))-*0

при б —* 0 и любом фиксированном е > 0 равномерно по у, s, t, 0 < / — s ^ б, то процесс £(/) непрерывен.

Здесь S8(x)— дополнение к сфере Se(x) с центром в точке х и радиуса в.

Процессы с независимыми приращениями. Теорема 1 дает только достаточные условия непрерывности случайного процесса. Оказывается, что для частного случая процессов с

независимыми приращениями условия теоремы 1 являются также и необходимыми.

Теорема 4. Если процесс £(/) с независимыми приращениями непрерывен, то условие (1) выполняется для произвольной последовательности {/пд, к = 0, ..., m^, п = 1, 2, ..., разбиений отрезка [0, Г], для которой Хп —► 0.

Доказательство. Положим ДА = sup РЁ(Л), К^)]- Вейлу непрерывности процесса £(/), ДА—>0 ПРИ h-*0 с вероятностью 1. Поэтому lim Р {Д„ > в) = 0. С другой стороны, если Х„ < h, то й->0

Р {Ад > е} > Р {sup р Ё (М. I (U-i)J > е} =

= Р (Р [I (^i), I (U1 > е} + Р {р К (U, а Ы < е) X

т„-1

ХР{РЁ(^),^Ы>8}+ ... + п PfpUO.K^-OKeJx

Й=1

X Р {р [^ (^пт^. & (^п, т„-1)] > е} >

т„

> Р {Ад < е} Z Р {р В (^д), I (U-i)] > е}, й-1

откуда £Р{рК(/„*), l(U-i)l>8)<-^^j->0 при А->0 и Д-1

любом е > 0. ■

Следствие. Случайный процесс £(/) с независимыми приращениями непрерывен тогда и только тогда, когда £(/) является процессом броуновского движения с непрерывным средним a(/) = Mg(0 и непрерывной дисперсионной матрицей B(t).

Это следствие вытекает из теоремы 4 и теоремы 1 § 3 гл. I.

Условие Колмогорова непрерывности случайного процесса. Докажем одно удобное прямое (т. е. не использующее предположения об отсутствии разрывов второго рода) достаточное условие непрерывности случайного процесса. Оно основывается на упрощенном варианте лемм 3 и 4 § 4.

Лемма 1. Пусть £(/), / е [0, Г],— сепарабельный процесс, удовлетворяющий условию; существуют неотрицательная монотонно неубывающая функция g(h) и функция q^c, h), А ^ 0, такие, что

Р {р (6 « + Л), В (0) > Cg (h)} < q (С, А)(3)

и

G=£g(2""T)<oo, Q(C)= E2nq(C,2-nT)<oo. (4) П=0№1

Тогда

р( sup »т m>^<Q®(5)

(о<г<гстх /

и

p{l^WJ,mm,>c^

«з([1&у. с), (6) где

GH = Е g(2-nT\ Qlm, С)= £ 2nq^C, 2"пТ\(7)

n—mn—m

Для доказательства этой леммы достаточно повторить в упрощенном виде рассуждения из доказательств лемм 3 и 4 § 4. Ограничимся самыми краткими указаниями. Вводим события

Л„й = {р(Ц-^1г), б(р-т))<Сг(2-',т)}.

^ = 0,1,2"—1, и = 0,1,2,...,

ОО 2П-1

и полагаем Dm = Q f] Anh- Тогда n=m k=0

P{Dn}^Q(n,Q.

Из Dn вытекает, что для любых f и t" из J

ртКП)№

если же, кроме Dn, выполнены неравенства O^t" — t'^2~nT, то р(£(/'), £(<"))<: 2CG(n). Рассуждая так же, как и при окончании доказательства упомянутых лемм § 4, получим требуемое. При этом следует иметь в виду, что из условий (3) и (4) вытекает стохастическая непрерывность процесса £(/). В

Теорема 5. Пусть выполнены условия леммы 1. Тогда процесс £(/) непрерывен,-

В качестве частного случая, когда условия (3) и (4) оказываются выполненными, рассмотрим процесс, удовлетворяющий условию

Мр^ШП Ю<£|/"-/'!,+г,(8)

где р > 0, г > 0. Положим g(h) = hr’lr, где 0 < г' < г. Тогда ^(D^-sr]) ^^.ег /р* а ^СО^Й.^СС-^-^, где Кх и /<2 •— некоторые постоянные. Из теоремы 5 вытекает

Следствие 1. Если сепарабельный случайный процесс £(/) удовлетворяет условию (8), то он непрерывен.

Приведем еще одно условие, обеспечивающее выполнение предположений (3), (4), более общее, чем (8). Пусть

р <г.р <г.(9)(9)

р <г.

р <г.

(9)

(9)

Если положить 5(A) = |lg2lAII г1р, где р<г' <г, то получим

6 = 2>|2-"|Г'/Р<оо, Q(C)<-L-L

«-о5; с» । ig212-"т । Гг r

Следствие 2. Если сепарабельный процесс g(^) удовлетворяет соотношению (9), то он непрерывен.

Гауссовы процессы. Применим предыдущие результаты к одномерному сепарабельному вещественному гауссовскому процессу §(0, ^е(0, Г], с корреляционной функцией R^ и средним значением 0. Разность g(/+ Л)—|(/) имеет дисперсию

с2^, h) = R(t-Vh, t-Vh)-2R(t, i + h) + R(i, ty

Поэтому

2 f

Р{ца + Л)-^(О1>CgW\ = ^y 2 at,

где a = Cg(h)<j~' (t, h). Воспользовавшись неравенством

(10)(10)Xe-^at^ — e-^,Ja ’

(10)

(10)

a

которое нетрудно получить, применяя к левой части неравенства интегрирование по частям, получим

»c"s2(А)

P^Wl(tM>Cg(HK^^ (П)

V2л Cg (/г)

Теорема 6. Если гауссов процесс удовлетворяет условию

<12>

то он непрерывен.

Доказательство. Положим g (h) — | In | h | Г^, где р' — любое число, удовлетворяющее неравенству 1 < р' < Р ^ 1 • Тогда

можно принять

_ К'-^ tlnlhll^2^

С I In I А | l^-P' е’

и ряды (4) будут сходиться. Отсюда вытекает утверждение теоремы. ■

Субмартингалы непрерывного аргумента

Субмартингалы (супермартингалы, мартингалы) были введены в § 6 гл. III. В настоящем параграфе будет показано, что при весьма широких предположениях субмартингалы (а следовательно, супермартингалы и мартингалы) обладают непрерывными справа модификациями. При этом теоремы о существовании сепарабельной модификации не будут использованы.

Отметим сначала, что установленные в § 1 гл. III неравенства для субмартингалов последовательностей без труда переносятся на субмартингалы £(/), заданные на произвольном счетном множестве S с [0, оо).

Пусть (8ь / е S} — некоторый поток а-алгебр, С > 0.

Если {|(/), 5«, t г S) — субмартингал, то

sup М^ (/)

Р (supI(0 > С} < ^^;(1)

teSи

пусть v([a, 6], S)—число пересечений отрезка (а, Ь] сверху вниз функцией f(t) = £(/, <о) на множестве (eS. Тогда

sup М (g (0 - б)+

Mv([a, b\, S) <5;(2)

если при некотором р > 1 М |£* (/)]р < со, то

М sup [Г (ОГ < qp sup М [|+ (Of.(3)

teSteS

Доказательство такое же, как и в случае, когда S — последовательность S = (1, 2,..., п, ...}.

Рассмотрим субмартингал {£(/), 8ь t е [0, оо)}. Предположим, что So содержит все множества вероятности 0. Покажем, что при довольно широких условиях существует модификация процесса §(<), выборочные функции которой с вероятностью 1 имеют пределы слева (/ > 0) и непрерывны справа для любых / > 0.

С этой целью выберем некоторое счетное всюду плотное на [0, оо) множество S и рассмотрим сужение ^(0. на S.

Положим

Nnab = {<»: v «а, Z>], S f| [0, п]) = оо},

£« = {<»: sup £(/) = +со, /е5Л[0, п]},

Ln = {о: inf £ (/) = — оо, / е S П [0, п]}.

Из неравенства (2) следует, что р (МпоЬ) = 0 для любых и, а, Ь. Так как

Р (Ln) < f М lim v ((- к, - m], S П [0, п]),т»1£->оо’

то в силу того же неравенства (2)

*—l A->oo R т т=^ к>т

Наконец, из неравенства (1) следует, что и P(L„) = O. Пусть

^=^(Pz>^mOul"ul")-

где а и b пробегают множество рациональных чисел. Тогда р (N) = 0. Нетрудно теперь увидеть, что если ю ё= W, то в любой точке / £($), seS, имеет пределы слева g(f—0) и справа £(/ + 0). Действительно, если бы при некотором t хотя бы один из этих пределов не существовал бы, например ^t— 0), то величины b' = limg(s), а' = lim g (s) были бы конечными и не

s<< S<t

равными друг другу. Но тогда для произвольной пары рациональных чисел (а, Ь) таких, что а' < а < b <_ Ь', число пересечений отрезка (а, 6] процессом |(s), seS, s < /, было бы бесконечным, что противоречит условию го ^ N. Положим для любого / ^0 т](0= 1(^ + 0), если го ^ N, и т)(0 = 1(0 ПРИ to s N. Тогда при © ^ N функция т)(0 при каждом /^0 непрерывна справа и имеет предел слева (т](/— 0)=|(/— 0)).

Введем о-алгебры $(+, ^ ^ 0, положив §t+ = П &. Оче- s>t

видно, что (3t+, / ^ 0} образуют поток о-алгебр, 8<+ содержат все подмножества вероятности 0 и т] (О §(+-измерима. Покажем, что {т)(0,5ж ^ ^ 0} — субмартингал.

Так как последовательность g(sn), st ^ s2 ^ ... ^ sn ^ 5s-.., s„ | s, равномерно интегрируема и сходится к r](s) в S’i.to в неравенстве

( 6 (s„) dP c\U0 dP, sn<t, В eg5+, в в

можно перейти к пределу при п —* оо. Получим ^r)(s)dP < $|(/)dP. вв

Аналогично убеждаемся, что в правой части последнего неравенства можно заменить £(/) на т](0- Получим

^(s)dP< Ji|(OdP.(4)

вв

Это доказывает, что {ц(0> 5ж ^ ^ 0} — субмартингал.

Теорема 1. Пусть {£(/), ’St, t > 0}—субмартингал, ^t+ = ^t и функция а(/)=М§(/) непрерывна справа для всех t > 0. Тогда существует модификация {q (/), 8ь t^ 0} процесса 1(f),.-выборочные функции которой с вероятностью 1 при каждом t непрерывны справа и имеют пределы слева.

Доказательство. ■ Достаточно показать, что ранее построенный процесс {т) (/), %ь t ^ 0} является модификацией заданного процесса. Аналогично неравенству (4) получаем h(s)dP<^(0dP V(/,B), t>s, Be^s1 вв

или £($)^ М{г)(0 |Ss}, s <. t. Так как величина т) (/) Неизмерима, то

|(0<М{т](018а = П (0 = ^ + 0) (modP).

В силу равномерной интегрируемости последовательности g(/n) при 1« 11

М (6 (/ + 0) - ^ (0) = Hm М (^ (/„) - 6 (0) = Ит (а (/„) - а (0) = 0, что вместе с предыдущим неравенством дает

Ut-Vty=VA (modP).

Замечание. Условие St+ = St было использовано только для того, чтобы иметь возможность утверждать, что т](0 — St-измеримая случайная величина. Поэтому теорема 1 остается в силе, если заменить условие St = St+ следующим: случайная величина g (t + 0) = lim £ (s„) ^-измерима.

Следствие. Пусть | (/), / ^ 0, — субмартингал относительно потока о-алгебр {Hz, / ^ 0), где Ht— пополнение о-ал- гебры, порожденной случайными величинами (g(s), s ^ /), стохастически непрерывный справа;

НтР{||(0-6« + й)1>е} = 0V(e>0,/>0).

6*0

Тогда существует субмартингал {г)(0, St. / ^ 0}, стохастически эквивалентный процессу §(0. ^ ^ 0, выборочные функции которого с вероятностью 1 непрерывны справа и имеют пределы слева.

Для доказательства нужно проверить, что из условия стохастической непрерывности вытекают условия теоремы 1. Так как £(/ + ft) при й|0 сходятся по вероятности к ^(t), то для каждого / найдется последовательность /п, tn | /, tne S, такая, что i(/) = lim g(Zn) (mod Р). Следовательно, £(/ + 0) ^-измеримо. Из равномерной интегрируемости семейства |(/п), п = = 1, 2, ..., следует, что a(() = M^t) = Mlimj(Zn) = = lim Mg(^n) = Hm a(/n), t. e. аЦ -f- 0) = a(t). Учитывая замечание к теореме 1, получаем, что процесс {ц(0, St, / > 0} ■является субмартингалом с требуемыми свойствами. Н

Из теоремы 1 § 5 вытекает следующая теорема.

Теорема 2. Пусть {£(/), t е [а, й]}— субмартингал, удовлетворяющий условию

п-1

, Нт ,SP(l^„fe+i)-6(U)l>8} = 0,

"“I'nft+i-'nftl-*06-0

где а = tn0 < ini <•• < tnn — b. Тогда он обладает непрерывной модификацией.

ГЛАВА V

ЛИНЕЙНЫЕ ПРЕОБРАЗОВАНИЯ СЛУЧАЙНЫХПРОЦЕССОВ

В настоящей главе рассматриваются линейные операции над. случайными процессами. Примерами таких операций являются дифференцирование и интегрирование процессов, преобразования с помощью дифференциальных и интегральных уравнений. Задача прогноза значения случайной функции или задача выделения полезной компоненты из наблюденных значений случайной функции, представляющей собою сумму передаваемого сигнала и искажающего «шума», часто решается в рамках теории линейных преобразований случайных процессов.

Для изучения возникающих при этом проблем рассматривается гильбертово пространство случайных величин, что позволяет в ряде случаев получить законченные и удобные для применений решения. Предполагается, что читатель знаком с элементарными понятиями теории гильбертовых пространств.

§ 1. Гильбертовы случайные функции

Пусть {Q, ©, р) — вероятностное пространство.

Определение 1. Гильбертовым пространством 9? г — = ^(й, ®, Р) случайных величин вероятностного пространства (Q, ©, Р) называют множество комплекснозначных случайных величин £ = /(cd), to е Q, для которых М|£|2-< со.

Скалярное произведение в Зг определяется формулой

(£, т|) = М£т),

В соответствии с этим определением норма || £ II случайной величины £ равна

пеп=(М| С 12>,/2-

Две случайные величины ^ и т] ортогональны, если

(5, л) = М?п = 0.

Для действительной случайной величины S квадрат нормы || S II2 совпадает с моментом второго порядка, || S ||2 = MS2, а при MS = О — с дисперсией. Если S и ^ действительны и MS = = Мт) = 0, то их ортогональность означает некоррелированность.

Определение. Комплекснозначная случайная функция £(0) (0 е 0) называется гильбертовой, если

M|S(0)P<oo,9 = 0.

Гильбертову случайную функцию можно рассматривать как заданную на 0 функцию со значением в гильбертовом пространстве $г\

0-> S (8) = f (0, ю) е 2?2.

В частности, когда 0 есть промежуток действительных чисел (а, Ь), гильбертову случайную функцию следует рассматривать как некоторую линию в гильбертовом пространстве 2г и запись S = S(8), 6 s(а, b) является параметрическим уравнением этой линии. В настоящей главе рассматриваются только гильбертовы случайные функции, поэтому слово «гильбертова» часто будет опускаться.

Пусть на 0 задана неотрицательная функция ф(0), принимающая сколь угодно малые положительные значения.

Определение. Случайная величина ц G 22 называется среднеквадратическим пределом (кратко — с. к. пределом) гильбертовой случайной функции S(0) при ф(0)-*О, если S(0)~*'П при ф(0)-»О в смысле сходимости в гильбертовом пространстве ^2, т. е. если для любого е > 0 найдется такое 6 > 0, что

M|n-S(6)l2<e2

для всех 0 таких, что 0 < ф(0) < 6.

В частности, если 0 — метрическое пространство с метрикой г(01, 0г), то функция S(6) называется среднеквадратически непрерывной в точке 0о е 0 (с. к. непрерывной), если

M|S(6i)-S(0(,)l2 —О при г(Оь0е)-»О.(1)

Определение. Ковариацией В(0Ь 02), (01, О2)е02, -гильбертовой случайной функции S(8) называется величина

В (0,, 02) = Ms (0,) Ж) = (S (81), S (02)).(2)

Лемма 1. Для того чтобы случайная функция S(0) имела с. к. предел при ф(0)~>0, необходимо и достаточно, чтобы существовал предел НтВ(0ь 02) при ф(01) +ф(02)-*О. Если это условие соблюдается и ц = l.i.m. S(8), то ф(6)-*0

М|т]|2= Нт В(0Ь02).(3)

Ф(0>)+Ф <е,)-*о

Доказательство этой леммы несложно и может быть опущено.

Следствие. Для с. к. непрерывности £(0) в точке 0О необходима и достаточна непрерывность ковариации В(0Ь 02) в точке (Оо, Оо).

Необходимость вытекает из леммы 1, а достаточность проверяется простым подсчетом.

Замечание. Из с. к. непрерывности £(0) в точке во вытекает стохастическая непрерывность £(0) в той же точке. Действительно, в силу неравенства Чебышева

Р {15(8) - С(Оо) I.

Если £(8) с. к. непрерывны на О (т. е. в каждой точке 0), то это не означает, что выборочные функции с вероятностью 1 непрерывны на 0. Действительно, для процесса Пуассона имеем М|^(# + й)—^(0 |2= ^+(^)2> но выборочные функции £(/) с положительной вероятностью разрывны.

Исследование гильбертовых случайных функций с общей точки зрения является задачей исследования функций в обычном смысле со значениями в гильбертовом пространстве. Использование ковариации, рассмотрение различных типов сходимости, применение специфических теоретико-вероятностных понятий придает задачам анализа случайных функций некоторые особенности.

Интегрирование. Пусть {0, Я, т}—полное сепарабельное метрическое пространство с о-конечной полной мерой, {£(8), 8 е 0} —гильбертова случайная функция. Если ковариация В (81, 8г) непрерывна в точке (8, 8) m-почти для всех 8, то, в силу леммы 1 и теоремы 1 § 3 гл. IV, для £(8) существует стохастически эквивалентная, измеримая и сепарабельная случайная функция. Это замечание показывает, насколько ограничительно принятое выше допущение. Из теоремы 2 (гл. IV, § 3) непосредственно вытекает следствие.

Теорема 1. Если

$В(8, 6)m(d8)<oo,(4)

е

то с вероятностью 1

^IC(8)pm(d8)<oo е

и

M^(8)|2m(de)=^B(e, ^m(d9Y(5)

ее

Следствие. Пусть ft^)» i = 1, 2, —функции из Ш Я, т) и выполнено условие (4). Тогда с вероятностью 1 существуют интегралы

4i = \tA^WmW

причем в силу теоремы Фубини

Мшп2 = М И fi (01) /Ж 5 (81) Ж m W m Ж = 0 0

= $ $ f 1 (01) В (0„ 02) № W m Же е

Сделаем несколько замечаний по поводу определения интегралов от случайных функций.

Замечание 1. Пусть выполнено условие (4) и т(0)< оо.

Тогда интеграл

$Ц0)тИ)(6)

е

для измеримой случайной функции 5(8) определен и конечен с вероятностью 1 для каждой реализации 5(8). При определении интеграла (6) можно поступить несколько иначе. Интеграл (6) можно определить как с. к. предел лебеговых интегральных сумм для 5(9)- Нетрудно убедиться, что это определение совпадает с обычным. Для доказательства достаточно ограничиться неотрицательными случайными величинами. По определению интеграл (6) есть предел при п -* оо

е

где 5п(9)—монотонно неубывающая последовательность случайных функций, принимающих конечное число значений и таких, что Нт 5п(9) = 5(0) V0 е 6. Имеем

М ( 5 (8) m (d0) - J 5» (d0) т (d0)2 < М J | g (0) - Ь» (0) Р т (d0). еее

Так как 0 ^ 5(9)—5п(9)^ 5(9), то в силу теоремы Лебега

( 5 (8) m (d0) = l.Lm. J gn (0) tn (d9). ee

Замечание 2. e[a, £>]}. ИнтегралЗамечание 2. e[a, £>]}. ИнтегралРассмотрим случайный процесс (5(0.» t®

Замечание 2. e[a, £>]}. Интеграл

Замечание 2. e[a, £>]}. Интеграл

J 5(0 di

часто определяют как с. к. предел интегральных сумм

п

Л-1

ktnk ==: tnk ~ ^пк—Ъ ^ 5=5 ^пО < ^nl < • • • < ^пп = ^*

Для существования с. к. предела этих сумм в силу леммы I необходимо и достаточно существования предела

пт п т

м Тл^Ьи ^^t^ Mmfe = Z Z В(/„ь tmr^tnkMmr 6-16-16-1 г-1

при п, /и—>оо, т. е. интегрируемости по Риману функции- В(/, s) (а ^ t, s ^ Ь). Таким образом, данное определение интеграла является более узким по сравнению с первоначальным, но зато оно не связано с понятием измеримости процесса. Легко убедиться, что, когда применимо последнее определение интеграла, оно приводит (mod Р) к тому же результату, что и исходное.

Действительно,

bпаЛ-1bпаЛ-1

bп

аЛ-1

bп

аЛ-1

л п ^пк ^пг

=££ S $ [B(/,S)-B(/,/„r)-B(us)+ п п ^B^t^dtds^^ 2^пкг ~* О»- 6-1 г-1

где Q„v — колебание функции В (/, s) в прямоугольнике tn k-i ^ <«U ^П, Г—1 ^^ S ^ tnr.

Замечание 3. Под несобственным с. к. интегралом

$ ^dt$ ^dt(7>(7>

$ ^dt

$ ^dt

(7>

(7>

условимся понимать предел

N

Li.m. ( 2(0^

Для существования этих интегралов в силу леммы 1 необходимо и достаточно существование пределов

lim N.N'-»»lim N.N'-»»N N'J j B(t, s)dids-N -N'N N'J j B(t, s)dids-N -N'. N N,.

lim N.N'-»»

lim N.N'-»»

N N'

J j B(t, s)dids

-N -N'

N N'

J j B(t, s)dids

-N -N'

lim \ \ B(t, s') di ds N, N'-^co J J ‘a a4

Это определение несобственных интегралов в некоторых случаях оказывается более широким, чем понимание интегралов (7) как интегралов Лебега от функций Ц^ при фиксированном (0.

Закон больших чисел. Пусть {£(/), t ^ 0}—измеримый гильбертов процесс с интегрируемой ковариацией на каждом конечном промежутке. Будем говорить, что {£(0, ^ ^ 0} удовлетворяет закону больших чисел, если в определенном смысле

гпри Г-хю.

о

Из леммы 1 вытекает, что для существования среднего

г

l.i.m. -4- ( С (0 dtoJ

необходимо и достаточно существование предела ГТ'Т Т

ПтПт 4=г ( ( В(/, s)dtds.

Далее, для выполнения равенства тт

оо

необходимо и достаточно, чтобы выполнялось соотношение

Т Г

Нт -4г R (t, s) dt ds =₽ 0,(8)

г,г*« it J J

где R(t, s)—корреляционная функция процесса. Нетрудно заметить, что

г г^ R (t, s) dt ds о ог г^ R (t, s) dt ds о о2 Т ТГ Г

г г

^ R (t, s) dt ds о о

г г

^ R (t, s) dt ds о о

^ ^ R (t, s) dt ds ^ J R (t, s) dt ds.

0 00 0

Поэтому равенство (8) имеет место тогда и только тогда, когда т т

lim ( R (t, s) dt ds = 0.(9)

Для стационарного процесса в широком смысле /?(/, s) = = R^t — s). Так как

г гт

4г$$Я«-$)^=4" J ^О -"44^' .0 0-г

то получаем следующий результат.

Теорема 2. Если £(0— стационарный в широком смысле процесс, то для выполнения равенства

т

1Л.т.4-^(0Л = МС(0(10)

необходимо и достаточно, чтобы

т

lim 4" ^(0(1--^l^^O.(Н)

Т-^оо 1Х17

В частности, условие (11) выполняется, если среднее значение корреляционной функции равно нулю:

т

lim\ /?(s)ds = 0.

Т-*ооJT

Выразим условие (11) через спектральную функцию процесса. Имеем

ТооГ

4 J # ^ (i - -4-)dt= $F w-т $ е“в С1 -"4")dt»

откуда

Тоо

1 С 1 IС 2 (I — COS Ти) г х

— } R (0 [1 — -^) dt= J ■ > Г2ц2’- F (du) = ~т-ОО

= /7{0}+ ^lAL=^lELp(du),

где Г(Д) = Г(Д\{0}), {0} — множество, состоящее из одной точки и = 0. Нетрудно видеть, что при Г —♦ оо последний интеграл стремится к нулю. Поэтому

т

Иш ^ (/?(/)(1--4")^ = f (0).(12)

т-»оо 1/

Таким образом, имеет место

Теорема 3. Для стационарного в широком смысле процесса равенство (10) имеет место тогда и только тогда, когда его спектральная функция непрерывна в точке и = 0.

Дифференцирование. Пусть {?(/), te(a, 6)}, —оо ^ а « < d «S 4- оо, — гильбертов случайный процесс.

Определение. Случайный процесс {£(0, te.(a,b)), с.к. дифференцируем в точке to (дифференцируем в среднем квадратическом), если существует

V (to) = l.i.m. l^.^-WL, to> /0 + ft s (a, b).

Случайная величина £ (t0) называется с. к. (среднеквадратической) производной случайного процесса в точке to.

Легко найти необходимые и достаточные условия с. к. дифференцируемости случайного процесса. Так как

fthi

= -^ {В (t0 + h, to + hi) - В (t0, to + hi) - В (to+h, to) + В (to, /0)}, то в силу леммы 1 для с. к. дифференцируемости процесса £(/) в точке to необходимо и достаточно, чтобы существовала обобщенная смешанная производная

д^ви.Л I _

_ lim 8 «о + ft, /о + Л,) - В (/о, /о +hd-B (to + h, /о) + в (/„ /о) h, h,-*0h^*

Из с. к. дифференцируемости процесса в точке t и неравенства

I м (г<0 -| < {м | г(0 - WLB-.W |= f

следует

МС'(0 = 4М^,(13)

причем производная справа существует.

Если процесс t,(t) с. к. дифференцируем в каждой точке интервала (а, Ь), то производная ^ (t) образует гильбертов случайный процесс на (а, Ь).

Теорема 4. Пусть {£(/), te(a, b)}—гильбертов случайный процесс и обобщенная производная

д2В (/, Г)dtdt'

существует при каждом значении t^(at b). Тогда процесс £(/) с. к. дифференцируем на (а, Ь) и

Bvvv,t)дГдГ-1(14>

(15)

где В^ (t, f)= Mt,'(t)t,'(?)— ковариация процесса t,'(f), a B^ (^ О = Mg' (0 g (?) — взаимная ковариация процессов t? (0 и Ш

В доказательстве нуждаются лишь формулы (14) н (15). Имеем Sc'tfc Г) = МПЙ:'(0 =

= Ит МПЙ (-Н^-^ = lim WV^l.

-дВ (/, Г')

Следовательно, производная ~—L существует и взаимная

ковариация процессов VU) и £(0 дается формулой (15). Далее,

Bvv(t,n= lim MlUt' + H-tO^^

ь 6 '’h,h'-*oh A

— lim S (/ + A, /' + А') - В (t, f + A') - В (f + h, f) + в (t, Г) M™ohh'’

Отсюда вытекает существование обобщенной второй производной

дгв a, f)

dt dt'

(в условии теоремы предполагалось только, что эта производная существует при / = ^) и формула (14). Д

Если процесс ^(0 стационарен в широком смысле, то B^t, f) = R(t — f) и из теоремы 4 вытекает

Следствие 1. Для с. к. дифференцируемости стационарного в широком смысле процесса ^(^) (I г Т) необходимо и достаточно существование обобщенной второй производной корреляционной функции R^ при 1 = 0. Если это условие выполнено, то существует обобщенная производная —^^ и

Rvv (to, t0 + t) = --^^~,

Rt'dto+t, t0)=R^(t)=-^-.

Аналогичные результаты имеют месте и для с. к. производных высших порядков.

Следствие 2. Если £(/), /е(—оо, оо),— процесс, стационарный в широком смысле, и

u2F (du) < оо,

где F — спектральная мера процесса, то процесс t>(t) с. к. дифференцируем, процесс (VW» £(0) стационарен в широком смысле и его матричная корреляционная функция R(t) имеет вид

J eUttu2F{du)j eituiuF {du)

- e~ituiuF {du)J eituF {du)

Разложение случайного процесса в ортогональные ряды. Пусть {£(0, i ^ [а, 6]} —измеримый с. к. непрерывный гильбертов процесс. Его ковариация B{tv, t2) является непрерывным неотрицательно определенным ядром в квадрате [а, 6] X l«, Н Согласно теории интегральных уравнений ядро В{1г, t2) может быть разложено в равномерно сходящийся ряд по своим собственным функциям фп(0:

В (/ь /2) = Е Кч-п (6) фЛу, п=1 где

^Фп (0 = $ В {I, s) ф„ (s) ds, J ф„ {t) <$m{t) di = 6„m, aa

причем собственные числа %„ положительны. Положим

ь

"^=^{t)^)dt.

a

Этот интеграл существует (теорема 1), и в силу следствия из теоремы 1

ь ь

M£ntm = В (I» s) <prt (/) фт (s) dt ds = Xn&nm, a a

ГИЛЬБЕРТОВЫ СЛУЧАЙНЫЕ ФУНКЦИИГИЛЬБЕРТОВЫ СЛУЧАЙНЫЕ ФУНКЦИИ

ГИЛЬБЕРТОВЫ СЛУЧАЙНЫЕ ФУНКЦИИ

ГИЛЬБЕРТОВЫ СЛУЧАЙНЫЕ ФУНКЦИИ

257257$ 11

257

257

т. е. последовательность случайных величин gn (n= 1, 2, ...) является ортогональной. Далее,

ь

М2 (0 In = $ 5 (/, s) фп (s) ds = Мп (О*а

Отсюда следует, что

I

n2

п п

=B^^-^L^ (О М2 (0 I» + S а» IФ» (0 р =

Д-1Д-1

п

Л-1

при п -♦ оо равномерно по t в силу теоремы Дини.

Теорема 5. Измеримый с. к. непрерывный гильбертов процесс 2(0, t е [а, 6], может быть разложен в ряд

2 (0=5 МИО,(16)

л-i

сходящийся в $г при каждом t е [а, Ь]. В этом разложении 2а — ортогональная последовательность случайных величин, М|£л|2 = Ал, Ад — собственные числа, <рь(1)—собственные функции ковариации процесса.

Замечание. Если процесс 2(0 гауссов, то его с. к. производная и интегралы вида ^/(02 (0 dt являются гауссовыми а

случайными величинами. Поэтому, если 2(0—вещественный гауссов процесс и М2(0= 0, то коэффициенты 2л ряда (16) являются независимыми гауссовыми величинами и ряд (16) сходится с вероятностью 1 при каждом t.

Действительно, независимость величин 2а вытекает из их ортогональности и гауссовости. Для сходимости ряда (16) с вероятностью 1 достаточно, чтобы сходился ряд 2 М (Мл (О)2 = Л-1

= 2 А»|фа(012. Но уже упоминалось, что этот ряд сходится

(и его сумма равна В(/,/)).

В качестве примера рассмотрим разложение в ортогональный ряд процесса броуновского движения на отрезке [0, 1]. При этом 2(0)= 0, М2(0=0, D2(0=f, B^t, s)=M2(O2(s) = = min(/, s). Собственные числа и функции ядра B^t, s) легко

находятся. Из уравнения

11!

Хпфп(0 = § min (t, s) Ф„ (s) ds = ^ $Ф„ (s) ds + ^ /ф„ (s) dsо0t

имеем ф„ (0) — 0. Дифференцируя no t получим Х„ф' (/) = 1

= ^ фп (s) ^s, 0ТКУДа Ф« (В = 0. Повторно дифференцируя, придем t

к уравнению Хпф" (0 = — ф„ (0- Нормированные решения последнего уравнения, удовлетворяющие граничным условиям Ф#(0) = 0, Ф^(1) = 0, имеют вид

Ф„(/) = V2sin(n 4—) nt, Х„1 = (п+уУл2, n = 0, 1, ...

Таким образом,

где |п — последовательность независимых гауссовых случайных величин с параметрами (0, 1). При фиксированном t этот ряд сходится с вероятностью 1.

Другое разложение процесса броуновского движения может быть получено следующим образом. Положим |(t) =|(0—/^(1). Тогда |(t) — гауссов процесс с ковариацией Bi (t, s) = = min (t,s)—is и M|(t)=O. Собственные числа и функции ядра Bi (t, s) находятся так же, как и в предыдущем случае. Мы приходим снова к уравнению ХлФп(0 = —Ф„(0 с граничными условиями фп(0)= фп(1) = 0, решения которого имеют вид

ф„(0 — V2 sinnnt, Хп* = п2л2, n=l, 2, ...

Таким образом,

л-1

где |n (п = 1, 2, ...) —нормированная последовательность независимых гауссовых случайных величин, причем

1

In = V 2 КО sin nnt dt.

о

Так как M$(l) = l, М?2(1) = 1,

1

MU (1) = V 2 $ М (с (0 - ^ (1)) 5 (1) sin nut dt - О, о

ТО, ПОЛОЖИВ ^0 = 5(1), получим

$(O = ^o + V2 2^2^.(18)

п-1

где |о. Si* • • • ♦ Sn, •. • независимы и имеют нормальное распределение с параметрами (0, 1). Характер сходимости ряда (18) таков же, как и у ряда (17).

Стохастические меры и интегралы

В ряде вопросов важную роль играют интегралы, записываемые в виде h ^HtWf),(1)

а

где /(/)—заданная неслучайная функция, a 5(0—случайный процесс. Реализации процесса 5(0> вообще говоря, являются функциями неограниченной вариации, и интеграл (1) нельзя понимать как интеграл Стилтьеса или Лебега — Стилтьеса, существующий почти для всех реализаций ЦГ). Все же и в этом случае интеграл (1) можно определить таким образом, чтобы он обладал свойствами, присущими обычному интегралу.

В настоящем параграфе дается определение и рассматриваются свойства интеграла, соответствующего интегрированию по случайной мере. Такие интегралы называются стохастическими.

Пусть {й, ©, Р} — вероятностное пространство, 5*2 = = ^(й, ©, Р), Е— некоторое множество и ЗЯ — полукольцо подмножеств Е. Предположим, что каждому АеИ поставлена в соответствие комплекснозначная случайная величина 5(A), удовлетворяющая следующим условиям:

1)С(Д)е<?2, 5(0) = О;

5 (A, UA2) = 5(A|) + S(A2) (mod Р), если А1ЛА2 = 0;

М£(А1)5(А2) = т(Д1ПА2),

где tn (А)— некоторая функция множества на SL

Определение 1. Семейство случайных величин (5(A), Де ЗЯ), удовлетворяющее условиям 1) —3), будем называть элементарной ортогональной стохастической мерой, а т(Д)— ее структурной функцией.'

Свойство ортогональности стохастической меры выражается условием 3): если Д1 Л Д2 = 0, то величины £(Д1) и £(Д2) ортогональны.

Из определения т(Д) следует, что она неотрицательна: т(Д) = М|^(Д)Р>0,т(0) = О,

и аддитивна; если Д1 Л Д2= 0, то

= т (AJ + т (Д2) + 2т (Ai Л А2) = т (ДО + т (А2).

Таким образом, т(А) является предмерой (гл. II, § 2) на ЗЯ. Обозначим через ^о(2Я} класс всех простых функций /(х):

п

f М = 22 <?6Хд6 to, Aft е 2%, k = 1, 2п, (2)

где п — любое число и хд(х)—индикатор множества Д.

Определим стохастический интеграл от функции f(x)s е S'otSR} по элементарной стохастической мере £(Д) формулой

п

n-$f(x)№)”2>»C(A»).(3)

6-1

Так как ЗЯ — полукольцо, то любую пару функций из S’ofSR} можно представить как линейные комбинации индикаторов одних и тех же множеств из ЗЯ. Поэтому, если f, g е ^{ЗЯ}, то п

положим, что f(x) дается формулой (2) и g(х) = 52 dfcXA (х), 6=16

причем ДдПДг = 0 при к ф г.

Из ортогональности ^(Д) следует, что

п

м ( ( f (х) с (dx) $ itoTw) = 2 с^'to

6-i

Предположим, что предмера т удовлетворяет условию полуаддитивности и поэтому может быть продолжена до полной меры {Е, 8, т). Тогда ^{ЗЯ} является линейным подмножеством гильбертова пространства 2^(7»}= 2^(2?, 9, т). Обозначим 22{ЗЯ} замыкание ^{ЗЯ} в ^2{/п}.

Равенство (4) может быть переписано в следующем виде:

М ^ f to $ (dx) J g(x)£(dx) = J f (x) g (x) m (dx) (5)

для любой пары функций f(x), g(x) из S’oto}.

Введем теперь линейную оболочку S’otS} семейства случайных величин Й(А), АеЗЯ}, т. е. множество случайных величин.

представимых в виде (3), и пространство $»^* являющееся замыканием 2’о{£} в гильбертовом пространстве случайных величин 2?i{£l, ®, Р}. Заметим, что соотношение (3) устанавливает изометрическое соответствие л = Ф(/) между 2?о{®^ и 2*о{У. Это соответствие может быть продолжено до изометрического соответствия -ф между 2*2 {24} и 2*2 Ю- Если л “Фи)» / е 2'г{24}, то полагаем по определению

Ч-*Ш-^!^^(6)

и называем случайную величину т] стохастическим интегралом функции / (х) по мере £. Отсюда следует

Теорема 1. а) Для простой функции (2) значение стохастического интеграла дается формулой (3);

для любых Цх) и g(x) из ^г{Е, 9, т} имеет место равенство (5);

Slafto + ltetxHCW-atfto^^(7)

для произвольной последовательности функций /С”)(х)е е 2г {Е, 9, т} такой, что

^|f(x) —f(")(x)P/ra(rfx)-*O, п-*оо,(8)

выполняется соотношение

^ЦхК (dx) = l.i.m. J f^ (x) £ (dx).

Замечание. В частности, если /<п)(х)—простые функции,

fw (X) = £ сЮхд^ (х)1 до») s g», n = 1, 2,...,

и (8) выполнено, то

\f(x)^dx)=lAxn.£cW(^a-i

" Существование последовательности простых функций, аппроксимирующих произвольную функцию /(х)е2*2{Е, 8, т}, вытекает из общих теорем теории меры. Таким образом, стохастический интеграл можно рассматривать как с. к. предел надлежащих интегральных сумм.

Обозначим через 9о класс всех множеств А е 9, для которых т(Д) <^ оо. Определим случайную функцию множеств $(Л):

ёИ)=$Хл(х)№)=$№).(9)

Она обладает следующими свойствами:

£(Д) определена на классе множеств Эо;

если Ап е80, n = 0, 1, 2, ..., Ло = (J Апэ Afe П Аг = 0 при п-1

к ф г, к>0, г > О, то ё (Л) = Е £ Ш в смысле с. к. сходи- п-1

мости;

Мё (Л) с (В) - m (Л п В), Л, В е 2%;

ё(Д) = £(Д) при АеЗИ._

Определение 2. Случайная функция множеств ё, удовлетворяющая условиям а), б), в), называется стохастической ортогональной мерой.

Свойство г) означает, что ё (А) является продолжением элементарной стохастической меры $(Д). Таким образом, мы имеем следующую теорему.

Теорема 2. Если структурная функция элементарной стохастической' меры £(Д) полуаддитивна, то ^(Д) может быть продолжена до стохастической меры ё (Д).

Замечание. Так как 2?»^ = ^{ёЬ то

^UxWx>=\UxWxY

В соответствии с этим равенством условимся в дальнейшем отождествлять стохастический интеграл по элементарной ортогональной мере £(Д), структурная функция которого полуаддитивна, со стохастическим интегралом по стохастической мере ё» определенной соотношением (9).

Сделаем несколько замечаний по поводу определения стохастического интеграла на отрезке прямой. Пусть £(/) (а ^ t < b)—процесс с ортогональными приращениями, т. е.

м (6 (/2) -1 о МНУ-о

для любых ti е [а, 6), Л < 4 < ^з < it. с. к. непрерывный слева:

М | £ (0 — £ (s) F 0 при s 11 Положим

F(t) = M|£(0-£(a)p.

Из ортогональности приращений процесса £(/) следует, что при t4 > t\

F (У = М16 (/2) -1 W + 6 &) -1 (а) р = В ^ + М11 (/2) - £ (/,) р.

откуда F(/2)^ ^(^1) и F (t) = lim F (s). Таким образом, F(f) — S ^ f

монотонно неубывающая непрерывная слева функция. Пусть SW — класс всех полуинтервалов А = [Л, /2), о < Л < ^2 ^ Ь, £W, t2U=№-№. m([tu W-Fte)-/7^). Тогда «Dl- полукольцо множеств,

М$(Д1)П^) = т(Д1ПД2).

5(A)— элементарная ортогональная стохастическая мера, структурная функция которой допускает продолжение до меры. Таким образом, можно определить стохастический интеграл Стилтьеса с помощью равенства

ьь

\f(t)d^ = ^f(tHW, аа

в котором £(/)—процесс с ортогональными приращениями. Этот интеграл существует для произвольной борелевской функции /(/), / е [а, Ь), для которой

6

J|f(0l2F(dl)<oo, а

где Г (Л)—мера, соответствующая монотонной функции F(t^. Аналогично определение стохастического интеграла по всей прямой (— оо, оо).

Докажем несколько предложений о стохастических интегралах.

Пусть £(•)—ортогональная стохастическая мера со структурной функцией т, являющейся полной мерой на {Е, 8}, и g(x)е ^{^J- Положим

МЛ)= $Хд(*)£(*К^х), ЛеЭ.

Тогда

МА,(Л)Л(В)= J%x(x)xB(x)|g(x)|2m(dx)= ^ | g (х) Р tn (dx). лпа

Если на 23 ввести новую меру

J (Л) = j I g (х) Р m (dx),А

то видим, что А (Л) будет ортогональной стохастической мерой со структурной функцией /(Л).

Лемма 1. Если f(x)e ^{/J, то f(x)g(x)s ЗДт\ и

. J f (х) X (dx) =^f(x)g (х) $ (dx).

Доказательство. Утверждение леммы очевидно для простых fW» f (х) = ^слхЛм(х), Ле®* Далее, если fft(x)—фундаментальная последовательность простых функций в ^jp}, то | $ f „ (х) % Wx) - J fn+m (x) k (dx) f = $ I f„ (X) - Um (X) P / W -

= $ I fn (x) — Um (x) PI g (x) p tn ^dx), т. e. fn(x)g(x) является фундаментальной в S^mY Переходя в равенстве

J f n (х) X (dx) = $ f« (х) g (х) £ (dx)

к пределу при п-*оо, получим утверждение леммы в общем случае. ■

Лемма 2. Если А е So, то

M=$-^£y-Mdx).

Заметим прежде всего, что g(x) = 0 на множестве Z-меры 0; таким образом, •^у ^ 00 (mod Z). Далее,

S TgwTz ^= $ TFW"18^ Р т^=т<л) < 00 •

Следовательно, можно воспользоваться леммой 1:

$7^Ха(х)М^х) = $-^Ха(х)£(х)№) = £(Л). ■

Пусть Т — конечный или бесконечный отрезок на прямой линии, S*— о-алгебра подмножеств Г, измеримых по Лебегу, I—- мера Лебега.

Допустим, что g(t, х) 8* X S-измерима, g(t, x)g 2?» (I X m}j и g(t»x^^2'aVfn^ ПРИ произвольном teT. Рассмотрим стохастический интеграл

Vfi = \gy. х)№).(10)

При каждом t он определен с вероятностью 1.

Лемма 3. Стохастический интеграл (10) можно определить как функцию от t таким образом, чтобы процесс £(/) был измерим.

Доказательство. Если

g У, х) = £ с6Хв6 (0 Хд6 (х),(11)

Bh е В1, Л6 е 8, то g (0 = 2 с^вь (0 $ (Л*) является 8* X ©-измеримой функцией переменных (t, ю), teT, соей. В общем случае можно построить последовательность простых функций gn(^,x) вида (11) и таких, что

^|g(f, я) —g„(t, x)pm(dx)df->0 при п-*оо.

" Пусть &п(0 — последовательность процессов, построенных по формуле (10) при g = gn. Тогда существует процесс £(0 такой, что

J M|i(0 — М0М<-*0 при п^оо

и |(0 является 8* X ©-измеримой функцией от (/, со). С другой стороны,'

м I (0—tn (О Р ^ = S S15(/* х) - 8»^ ^M^at->^

откуда следует, что М|6(0—t(0l2 = 0 почти для всех I. Положим

(0 = Р(0’если Р {^ ^ * ^(/)*= °’

1 U(0, если P(^(0^f(0}>0.

Процесс ^(0 измерим (так как gz(0 отличается от-Э* X ©-измеримой функции f (0 на множестве меры 0) и стохастически эквивалентен £(0- ■

В дальнейшем, рассматривая процессы, определяемые стохастическими интегралами вида (10) и удовлетворяющие ранее перечисленным условиям, будем предполагать их измеримыми.

Лемма 4. Если g(t,s) и КЦ^—борелевские функции,

I £ & s) I2 dfm (ds) < °°» JI h (0 р dt < оо,(12)

а —ооа

X—ортогональная стохастическая мера на {52*, ©’}, то

\h^ J g «, s) С (ds) dt = J gx (s) $ (ds),(13)

a —oo—oo

где

gi(s)= J/t(Og(/, s)dt.

Доказательство. Математическое ожидание квадрата модуля интеграла в левой части равенства (13) равно

b b/ оох

^h (^) h {t2) ( J g (/i, s) g(/2, s) tn {ds) J dtx dt2 = a aoo.'

b2

^ h (/) g {t, s) dt tn {ds) C

bcob

<J|/i(0M- J ^\g{t,s)Vdtm{ds). a—ooa

Для математического ожидания квадрата модуля в правой части равенства (13) имеем неравенство, указанное во второй строчке последнего соотношения. Следовательно, правая и левая части равенства (13) непрерывны относительно предельного перехода по последовательностям gu{t, s), сходящимся в ^{Ф}» где Ф — прямое произведение лебеговой меры на меру tn в полосе [а, 6] Х(—°0,00). Далее, множество функций g{t, s), для которых (13) верно, линейно и содержит все функции вида У.ckxAk{t)XBk{s)- Следовательно, оно содержит все функции из ^{Ф}. ■

Замечание. Если условия леммы 4 выполнены для каждого конечного отрезка {а, Ь) и существует интеграл

соb

[ h{t)g (/, s) dt = lim ( й (0 g {t, s) dt

J—oo J

~°°b->-V«>a

в смысле сходимости в 9?^VmY то

ООСООО

\ h{f) ^ g{t, s)^{ds)dt= J fi{sK{ds), (14) — ОО—ОО—oo

где

fi(s)= J h{t)g{t, s)dt.

Доказательство непосредственно вытекает из того, что левая часть равенства (14) является с. к. пределом левой части равенства (13), и из возможности перехода к пределу под знаком стохастического интеграла в правой части формулы (13). ■

Рассмотрим теперь обобщение предыдущих результатов на векторные стохастические меры. Ограничимся простейшим случаем интегрирования скалярных функций, мало чем отличающимся от интегрирования по числовым стохастическим мерам.

Пусть Z обозначает некоторое комплексное векторное пространство размерности р. Для простоты будем считать, что некоторый базис в этом пространстве фиксирован. Допустим, что каждому Де Ей поставлена в соответствие векторная случайная величина £(Д) со значениями в Z», £(Д) = К*(А), £2(А), ... ..., £р(Д)}. Через |£(А)| обозначим норму вектора £(Д),

iWF-El^tA)!2.

А-1

Предположим, что

М|£(Д)Р<оо, £(0) = О;

€(AiUA2) = ?(Ai) + ?(A2) (modP), если Д1ПД2 = 0;

Af(*(A,)e/(A2)=-m»(A1 П^), Д^еЗЙ, /=1, 2; к,/ = = 1, ..., р.

Семейство случайных векторов (£(Д), Де ЭТО} будем называть элементарной векторной стохастической (ортогональной) мерой, а матрицу m (Д) = ^пг^ (Д)) = М$ (Д) С* (А) — структурной матрицей.

Отметим, что, как функция от Д1 и Д2, матрица т(Д1ЛД2) обладает свойствами корреляционной матрицы векторной случайной функции. Кроме того, если Д1Л Д2 = 0, то

m (Ai U А2) = m (Ai) + m (Д2).

Отсюда следует, что диагональные элементы матрицы т(Д) являются предмерами. Кроме того, из неравенства

| /и* (А) | < /^/т^(Д)т[(Д)(15)

следует

51Ц (М | < {S mi (Л,) X т} (Дг) }'«.(16)

и, значит, функции множеств т^ (k, j = lр) имеют ограниченную вариацию на Д.

р

Положим то(Д) = 8рт(Д)=^/п*(Д). Из (16) следует также, mNmN

что если Zm0(A^)->0 при N-*oo, то и Е | W/(А") |-* 0. Отсюда вытекает, что функции /и* (А) могут быть продолжены до счетно аддитивных функций множеств на 93, если функция то (А) полуаддитивна на ЭГО.

В дальнейшем матричные функции, полученные путем такого продолжения из структурной функции элементарной

ортогональной стохастической меры, будем называть положительно определенными матричными мерами.

Выше © обозначало пополнение a{SR} относительно продол* женной элементарной меры /п0(Д). Простоты ради для продол* жений функций пг1,, т0 и матрицы m на 8 сохраним первоначальные обозначения, причем в дальнейшем будем считать, что /Ио(Д) полуаддитивна на ®1.

Определим на ^о{2Я} стохастический интеграл с помощью формулы

п

4 = $fto№) = 2>№),(17)

Д-1

п

если f (х)—^ ск^к ^ А6е$№ (Л=1, .... п). Значением этого интеграла является случайный вектор (столбец) со значениями в Zp. Через $^ ^ обозначим совокупность всех случайных п

векторов ц вида (17). Если g(x) =^ ^л%д* М» то

п

М (JЦх^^^\gto№^-^cfeakm(.M,к-1

что можно записать в виде

М ($ t^H^^ g^Wxiy) = \f^i^mW (18)

Отсюда следует равенство

М| J fW^dx)^ ^\Hx^m<Adx).(19)

Введем в S'ot®!} скалярное произведение

(f, g) — J f W№m»(dx).

Формула (17) устанавливает изометрическое отображение ц = = ф(?) пространства S’oflW} на 2о{£}» если в ^oto скаляр» ное произведение элементов т)1 и т)з определяется как Мц^Ч^ Замыкание пространства случайных величин 2*0 (О обозначим через 2*2 {2}» а пополнение SofSH} — через 2*2 (ЭД).

Аналогично неравенству (16) выводится неравенство

Jlf(*)l|m?|(dx)<{J|f(x)|m»^^(20)

где | т^ | (А) — абсолютная вариация функции т*. Из неравенства (20) вытекает существование и непрерывность интеграла $/(*)?(*)'”/(dx)

как функционала от / и g в S^tmo}.

Исходя из этого, изометрическое соответствие я = ф(/) пространства S’of®!) на 3^(9 может быть продолжено до изометрического соответствия ^{ЗИ} на $ъ {£}. При этом случайный вектор ц называют стохастическим интегралом и пишут

П = Jf (x)6(dx), где/(х)е5’2(т0).

Аналогично понятию стохастической меры в скалярном случае может быть определена векторная стохастическая мера £ (А).

§ 3. Интегральные представления случайных функций

Используя результаты предыдущего параграфа, можно получать различные представления случайных функций с помощью стохастических интегралов.

Предположим сначала, что р-мерная векторная случайная функция |(0), 0 е 0, может быть представлена в виде

6(0) = Jg(0, x^WY(1)

где 6 — стохастическая мера на измеримом пространстве {X, 9} со значениями в 2Р и структурной матрицей т(А) (мы используем здесь обозначения предыдущего параграфа), g(0, х)— скалярная функция и при каждом 0 е 0

g (0, х) е $г {/Ид} — $г {X, 93, /Ид},т» (А) = Sp т (А).

В силу формулы (18) § 2 ковариационная матрица случайной функции 6(0) имеет вид

B(0b 02) = M6(0i)6*(e2)= J g(0b x)g(0^7)m(dx),(2)

а из (19) § 2 следует, что

Мб* (02) 6 (ОО = J g (01, х)Ж^^ ^.(3)

Напомним, что (X, 8, т0} — пространство с полной мерой, ^{/По}—гильбертово пространство 8-измеримых комплекснозначных функций с mo-интегрируемым квадратом.

Через S’2(g) обозначим замыкание в З’г^о} линейной обо* лочки, порожденной системой функций {5(6, х), 8 е 0). Тогда S^tg} есть линейное замкнутое подпространство S>2{m0}. Если S,2{g}= ^{то}, то система функций {5(8, х), 8 е 0} назы* вается полной в ^{^о}-

Пусть {^(6), 8 е 0}—гильбертова случайная функция со значениями в Zp, S’q®— множество всех случайных векторов

1|=Е^(6б).п=1, 2 86е0,(4)

6-1

где Ск — произвольные комплексные числа, и З'а^ — замыка* ние So® в смысле средней квадратической сходимости слу* чайных векторов.

Определение. Семейство случайных векторов {т)а, ае еЛ}, i^eS^Q, ®> Р). называется подчиненным случайной функции {|(8), 8 е О), если т)а е S2®, а е А.

Теорема 1. Пусть ковариационная матрица случайной функции {§(6), 8 е 6} допускает представление (2), где т — положительно определенная матричная мера на {X, 9}, 5(8, х)е S2{m0}, 8 е 0, и семейство {5(8, х), 8 е.0} полно в 5*2 № S, ^о}- Тогда ^(8) представима по формуле (1), где {^(В), Be 9}—некоторая стохастическая ортогональная векторная мера, подчиненная случайной функции §(8) со структурной функцией т(-), и равенство (1) выполняется с вероятностью 1 при каждом 8.

Доказательство. Каждой линейной комбинации

п

f W = Z Ckg (86, х),9» е 0,(5)

6-1

поставим в соответствие случайный вектор ц, т) = ф(/), с по* мощью соотношения (4). Через 3?o^g) обозначим множество функций вида (5). Определим в So {5} скалярное произведение с помощью соотношения

(fв fa) = J fi (x) f2(x) mo (dx).(6)

Соответствие rj = ^(f) является изометрическим отображением So{5} на So®. Следовательно, оно может быть продолжено до изометрического отображения й’гШ на S2®. Если В г 9, то %B(x)eS2{»to} = S2 {5} в силу полноты семейства функций {5(8, х), 9е8}. Положим С(Д)=Ф(Ха). Тогда ^(А) является векторной стохастической мерой и ее структурная функция совпадает с т:

М£ (Д,) г (Д2) = $ ХЛ1 (0) V8) т (dQ) = т(А^ Л2).

Определим теперь случайную функцию |(0) с помощью стохастического интеграла

't(9)=$g(0, х)№).

Так как

М^ (в) f (Д) = $ g (е, х) Хд (х) т (dx),

то из изометричности соответствия ti = tp(f) следует равенство M6(e)f(e)= J 2(0, x)F№)m (dx).

Отсюда получаем

М|6(в)-!(О)Р =

= МГ (6) $ (в) - М f (0) 6 (0) - МГ (0) | (0) + мг (0) f (0) = о

что и доказывает теорему. ■

Приведем ряд примеров на применение доказанной теоремы. Ради краткости условимся до конца настоящего параграфа писать «стационарный процесс» вместо «стационарный в широком смысле».

Корреляционная матрица стационарного и с. к. непрерывного процесса может быть представлена в виде (см. § 5 гл. I)

R^.t^-RUi-t^ — \е1"^Р^и\(7)

где F(-) — неотрицательно определенная матричная мера (спектральная матрица процесса). Выражение (7) является частным случаем (2), в котором функции g(0, х) соответствуют eiut, 0 -*-* t, х—♦ и, причем совокупность функций ^etut, — оо < < и < оо) является полной в ^{^о}, где тй — любая ограниченная мера на прямой. Таким образом, применима теорема 1 и мы получаем следующий результат.

Теорема 2. Векторный стационарный с. к. непрерывный случайный процесс £(/) (— со < t < оо), М£(0= 0, допускает представление

6(0 = J(8)

где ^(Л)—векторная ортогональная стохастическая мера на S3, подчиненная 6(0- Между ^(У и S’ztFoJ, где Fo(-)= Sp F(-), существует изометрическое соответствие, при котором

^**еив, i^Aj^y^uy,

если ч* ч-* gt ^ (Z = 1, 2), то

4t = \gM^W)•

и

Mil ,1)^ = J g, (u) g^) F (“)•

Формула (8) носит название спектрального разложения стационарного процесса, а мера ^(Л)—стохастической спектральной меры процесса. Из теоремы 2 следует, что

М^Л)Г(Л2)= $ F^-FUmA), (9)

АПЛ,

т. е. Ft/') является структурной функцией векторной стохастической меры ^У).

Замечание 1. Для любого ц е 2М$ имеем Мц = 0. В частности, для любого Л е 9 будет М£(Л) = 0.

Замечание 2. Если M£(Z) = а ^ о, то предыдущую теорему можно применить к процессу g(Z)—а. С другой стороны, представление (8) можно сохранить и в общем случае, если к ?(Л) добавить меру, сосредоточенную в точке и = 0, по величине равную а.

В качестве примера применения теоремы 2 выведем формулу Котельникова — Шеннона для одномерного случайного процесса, спектральная мера которого сосредоточена на конечном интервале [— В, В]. Разложим функцию eiut на интервале [—В, В] в ряд Фурье. Имеем

е<«<_ у* sin (St —лп) с1^и

£—* Bt — ин*

П- -<х>

Ряд в правой части последней формулы сходится равномерно по и во всяком отрезке [—В', S'], В' •< В, и имеет ограниченные частные суммы, а потому сходится и в 2?а{тоУ В силу изоморфизма пространств S'gf^o} и З’гШ имеем (в смысле с. к. сходимости)

(10)(10)„ /л V* s|n (Bt — яга) „ Г яп X

(10)

(10)

^>W= Ъ Bt — яп Цт[

Таким образом, значение случайной функции ^(Z) в любой момент времени t однозначно восстанавливается по ее значениям в равноотстоящие моменты времени яп/В, п = 0, ±1, ±2, ...

Для стационарных векторных последовательностей gn, п = = 0, ±1, ±2, ..., можно сформулировать теорему, полностью аналогичную теореме 2. Отличие состоит в том, что спектраль-

ная мера последовательности сосредоточена на полуинтервале [—л, л), а не на всей вещественной прямой, как в случае процесса с непрерывным временем (см. теорему 1 § 2)._

Из теорем 1 и 2 § 2 вытекает следующее обобщение теоремы 2 о спектральном разложении однородного с. к. непрерывного поля.

Теорема 3. Векторное однородное с. к. непрерывное поле §(х), х е ^т, может быть представлено в виде

£(х) = а+ еЦх’“Х^1и\ а = М£(х),

где £ — векторная ортогональная мера на 9т, подчиненная полю $(х). Между З’зШ и $ДР^, Fo(.) = SpF(-), существует изометрическое соответствие, при котором

^х^**е1''*‘*\

если 4i*~* giW. п/ е $г {£}, gt (и) е $г (Fob * = 1,2, то П< = $ gM(M

'я”

Следствие. Если однородное поле £(х) (М£(х) —0) ’^скалярное) имеет ограниченный спектр, т.е.'

®i ®т

R(x) = $ ... J e«*«>F(du),

-si-вт

то оно однозначно определяется своими значениями в точках (/ яп1 яп2nnm \ е п , 1 ,п )

решетки |х„ = (^-, -^-~в^")‘ « =°. ±1» ±2, ... j/ю

формуле

П^ЛВ^х^-^иг^ Bkxk - л/г* П*) «-4П^ЛВ^х^-^иг^ Bkxk - л/г* П*) «-4кп2В2 9кп2В2 9~\ (11)"т /~\ (11)"т /

П^ЛВ^х^-^иг^ Bkxk - л/г* П*) «-4

П^ЛВ^х^-^иг^ Bkxk - л/г* П*) «-4

кп2

В2 9

кп2

В2 9

~\ (11)"т /

~\ (11)"т /

в которой суммирование производится по всевозможным целочисленным векторам п и ряд в правой части при каждом х сходится в среднем квадратическом.

Рассмотрим еще спектральное разложение с. к. непрерывного изотропного двумерного случайного поля. На основании формулы (10) § 5 гл. I корреляционная функция поля имеет

вид

R (xi, x2) = R (р) = ро («р) g (du),(12)

о

где xi и х2 — точки плоскости, р — расстояние между ними. Если Vb 9<)—полярные координаты точки xt (t = 1, 2), то

р = V'T+'1F:~2v7co?(^^

Используя формулу сложения для функции Jo:

/0(ыр)= X h(uri) Ife(ur^eu^-^,fe=—ОО

перепишем формулу (12) в виде

R (р) = J ^ Д’ (ыг>)еМ'^ (ur^ e^’g (du) в (dV), О —Х>

где e(dv)— мера, сосредоточенная в точках к = 0, ±1, ±2, ..., причем е({/е})= 1. В силу теоремы 1 плоское, изотропное, однородное и с. к. непрерывное поле |(х), х = rei6 (М£(х)=О) допускает представление вида

6М = 5 etto^Jfe(ur)U(du),(13)

к——оо О

где ^ — последовательность ортогональных между собой стохастических мер на прямой [0, оо).

Линейные преобразования

Представим себе некоторую систему 2 (прибор или устройство), предназначенную для преобразования сигналов (функций) x^t), зависящих от времени L Функция, которая должна быть преобразована, называется функцией на входе системы.; преобразованная функция — функцией ни выходе или реакцией на входную функцию. Математически всякая система задается классом 3D «допустимых» функций на входе и соотношением вида

z(/) = T(x|O,

где х = x(s) (— оо < s < оо)— функция на входе, x(s)eS, a z(/)—значение функции на выходе в момент времени t.

Система 2 называется линейной, если: а) класс допустимых функций 3) линеен; б) оператор Т удовлетворяет принципу су-

лерпозиции

Т (ахх + РХ21 О = ат (х, Ю + РГ (х2 U).

Введем операцию сдвига времени ST (— оо < т < оо) с помощью соотношения

хт(/) = ST(х Ю = xU + т).

Она определена на множестве всех функций переменной / '(— оо •< t < оо) и линейна. Система 2 называется однородной во времени (или просто однородной), если класс допустимых функций Ф инвариантен относительно операции сдвига Зт, 5ХФ = 3D и

Г(хт|/) = Т(х|/ + т) или r(Stx|O = S«r(x|O,

т. е. если преобразование Г перестановочно с операцией сдвига времени ST (— оо < т < оо).

Простейшим примером линейного преобразования может служить преобразование вида

z(/)= ^ hU, s)x(s)ds,(1)

для которого класс допустимых функций S> зависит от свойств функции hU, s). Пусть на вход системы поступает функция 6K_S, где 6, — функция Дирака. Тогда z(t) = h(t, s). Таким образом, функцию h(t, s) следует интерпретировать как реакцию системы на б-функцию в момент времени $. В соответствии с этим h(t, s) называется импульсной переходной функцией системы. Если система S однородна во времени, то формально

hU, a-c) = T<btt-c\t) = T(Sc6e\t) = ScT^e\t) = hU + c, а), или, заменив а на с и t на t — с, получим

пи — с, 0) = ПU, с).

Функция h(t) = hU + с, с) называется импульсной переходной функцией однородной системы.

Таким образом, для однородной системы уравнение (1) принимает вид

z U) = ^ h U — s)x (s) ds.(2)

Операция в правой части соотношения (2) называется сверткой функций Л (/) hxU)-

Если функция на входе системы отличается от функции на выходе только скалярным множителем (преобразование Т не

меняет формы сигнала)

T(f^ = Xf^ (—оо</<оо),

то f(0 называется собственной функцией, а X—собственным значением преобразования Т. Для однородных во времени систем с интегрируемой импульсной переходной функцией функции ei,u (и — любое действительное число) являются собственными. Действительно, все ограниченные измеримые функции являются допустимыми и

J h (t — s) etus ds = J h^e1*1^-^ ds = Htju)elttt, — oo—oo

ГД6

НЦи^ = J h^e-^ds(3)

— преобразование Фурье импульсной переходной функции, является собственным значением преобразования.

Таким образом, отношение реакции системы на простую гармоническую функцию etut к этой функции

не зависит от времени. Функция H(iu') называется частотной характеристикой системы или коэффициентом передачи.

Можно несколько иначе интерпретировать частотную характеристику системы (2), рассматривая иной класс допустимых функций. Пусть x(f) интегрируема. В силу теоремы Фубини J|z(/)|^< f J |A(/-s)|\x^\dsdt =

— OO—00 —00

= |*(s)|ds| h (t) | dt < oo,

т. e. функция z(/) также интегрируема. Рассмотрим преобразование Фурье функции z(t). Применяя теорему Фубини, получим

z(u) = e-Uttz^dt = — ОО'

= $ $ e~iu^~a}h(t —s)e~iMx{,s)dsdt= Н{iu)^(u)t — 00 —00

5с М = J e,e#x(s)ds.

—00

Следовательно, отношение преобразования Фурье функции на выходе к преобразованию Фурье функции на входе не зависит от функции на входе системы и равно ее частотной характеристике:

' В формуле (1) реакция системы в момент времени / зависит от значений функции на входе как в моменты времени s < /, так и в моменты времени s > t. В физических устройствах, однако, нет возможности предвосхитить будущее. Поэтому для них

h (.i, s) = О при / < s.(4)-

Соотношение (4) называется условием физической осуществимости системы. Для систем, удовлетворяющих условию (4), формула (1) принимает вид

t

z^= J htj, s)x(s)ds,(5)

а если система однородна, то

tОО

2(0= J hit — s)x(s)ds = Jh(s)x(t — s)ds. (6) —co0

Если на вход системы подается функция, начиная с момента, времени 0 (х (s).= 0 при s < 0), то

t

z(0=^A(/ — »)*($) ds.(7}

о

Изучая такие системы, вместо преобразования Фурье удобно пользоваться преобразованием Лапласа

5(р) = ^e-ptz^dt.(8>

о

Из формулы (7) следует, что

со

(р) = Н (р) х (р), х (р) = J с-рЧ (0 dt(9>

о

при Rep^a, если функции e~ath.^ и er«tx^ абсолютно ин* тегрируемы.

Перейдем к основной теме настоящего параграфа — к линейным преобразованиям случайных процессов. В основном

рассматриваются однородные во времени преобразования стационарных процессов. По поводу более общего случая мы ограничимся простыми замечаниями.

Пусть 5(0—измеримый гильбертов процесс (—оо</< оо) с ковариацией B^t, s), причем функция B(t, /) интегрируема по t на каждом конечном интервале, так же как и функция J ft (s, /)|2 при фиксированном $. Тогда с вероятностью 1 при любых а и b существует интеграл

6

^=^hV,s)^ds. (10) а

Определим несобственный интеграл от — оо до оо как с. к. предел интегралов по конечным промежуткам интегрирования:

J h(t, s)^(s)ds —J h(t, s)^(s)ds —НЦ, s)l(s)ds.НЦ, s)l(s)ds.

J h(t, s)^(s)ds —

J h(t, s)^(s)ds —

НЦ, s)l(s)ds.

НЦ, s)l(s)ds.

.Для существования этого предела необходимо и достаточно, чтобы интеграл

J ft (f, $0 В (si, s2) h (О s2) ds\ ds2

■существовал как несобственный интеграл Коши на плоскости. Если он существует для teT, то 5(0 является гильбертовым ■случайным процессом на Г с ковариацией

В^ь 0)= ) ) h(tb s^B^St, s2)h(t2, s2)dslds2.

Предположим теперь, что 5(0—стационарный процесс в широком смысле со спектральной мерой F(du) и М5(0=0. Это предположение будет сохранено до конца настоящего параграфа. Интеграл

П(О= $ h(t — sH(s)ds(11)

■существует (в ранее определенном смысле) тогда и только тогда, когда существует интеграл

h(t — Si)/?(si — s2)h(t — s^dst ds2 =

h (sj R (s2 — sj h ^ ds\ ds2,

где 7? (О—корреляционная функция процесса. Для этого, в свою очередь, достаточно, чтобы функция й(/) была абсолютно интегрируемой на (—со, со). В этом случае, воспользовавшись спектральным представлением корреляционной функции /?(/)» получим следующее выражение для корреляционной функции. RnVi»t^ процесса »](/):

Дц(/ь Q— ) ) h(tx —sx)R(sx—s^h(t1 —s^dsxdsa =

= ^ J J Л (/] — «0 ettt ^-^h (f2 — s2) dsx ds^F (du) = — OO — OO —00

= $ (#,-6)«IH (iu) F F (du) = R^ (tx - /2).

Таким образом, процесс t](/) также является стационарным- в широком смысле.

Определение. Для процесса 1(f) преобразование Т называется допустимым фильтром (или, проще, фильтром), если- оно задается формулой (11), где h(t) абсолютно интегрируема на (— оо, со) и интегрируема в квадрате на любом конечном интервале или является с. к. пределом последовательности таких преобразований (в S^®)-

Условие сходимости последовательности преобразований (11) т|п(0 = ^n(t|O с импульсными переходными функциями hn(t) и частотными характеристиками Нп(1и) состоит в следующем:

M|TU(0-«lm(0F= $ \Hn(iu)-Hm(iu)pF(du)->0 (12)'

при п, т-><х>.

Это означает, что последовательность Hn(iu) фундаментальна в $ДР). Но тогда существует предел H(iu) = l.i.m. Hn(iu) (в ^{R))- который называют частотной характеристикой предельного фильтра, и если т] (0 = l.i.m. t]n(0. то

/?„(/)=$ е»“| Н (iu) fF (du).(13)

Обратно, какова бы ни была функция Н(1и)е$»^Е\, ее можно аппроксимировать в смысле сходимости в ^(F) функциями, являющимися преобразованиями Фурье абсолютно^

-интегрируемых функций. Таким образом, фильтры удобно задавать частотными характеристиками.

Теорема 1. Для того чтобы функция Н (iu) была частотной характеристикой допустимого фильтра для процесса ^,(1) -со спектральной мерой F, необходимо и достаточно, чтобы H(iu)e2i(F). Корреляционная функция процесса на выходе фильтра с частотной характеристикой Н(1и) дается формулой (13).

Если вспомнить энергетическую интерпретацию спектральной функции, то из формулы (13) следует, что |Я(«ы)|2 показывает, во сколько раз увеличивается энергия простых гармонических составляющих процесса с частотами в интервале (ы, и 4- du) при прохождении через фильтр.

Теорема 2. Если процесс |(0 на входе фильтра с частотной характеристикой H(iu) имеет спектральное представление

^t)=\e'a,t(du),(14)

то процесс г) (0 на выходе фильтра имеет вид

Ч^=\е1и,Н^1и)№\(15)

Действительно, если фильтр имеет абсолютно интегрируемую импульсную переходную функцию, то

nW = J h(t — s)X(s)ds — J elutH(lu)^(du).

Доказательство в общем случае получается с помощью предельного перехода по последовательностям Нп(1и), сходящимся к H(iu) в 2MF}. Ц

Пусть т)к(/)—процесс на выходе фильтра с частотной характеристикой Hh(iu), Мцк(<)=0 (k = 1, 2). Найдем взаимную корреляционную функцию процессов i>i(0 и Л2(0- Из изоморфизма пространств 2*2 {£} и S^F) непосредственно следует, что

/?|2 (0 = Мщ (/ + $) п^) = | elo<Hx Qu) H^Qu) F (du).(16)

рактеристик.рактеристик.Приведем несколько примеров фильтров и их частотных ха

рактеристик.

рактеристик.

Полосовой фильтр пропускает (не изменяя их) только гармонические составляющие процессов с частотами и, для которых о<1«|<6, а > 0. Частотная характеристика фильтра равна Я (ш) = %(а, ь)(“)+Хн>,-«)(“), и фильтр является допустимым для произвольного процесса. Импульсная переходная, функция находится по формуле Фурье:

Фильтр высоких частот подавляет низкие частоты, не изменяя высоких. Его частотная характеристика Я(iu) — Х(|И| >а!(«), а импульсная переходная функция не существует.

Рассмотрим операцию с. к. дифференцирования стационарного в широком смысле процесса. Для существования с. к. производной процесса ^(/) достаточно существования Л"(0) (§ 3, следствие 1). Это условие эквивалентно требованию (теорема 4 § 5 гл. I)

$ u2F№)<oo.(17).

С другой стороны, если это условие выполнено, то при А —► 0 (в ^{F}) и в соотношении

можно перейти к пределу при h -+ 0 под знаком стохастического- интеграла. Следовательно,.

^ (0 = $ eluiu№\(18>

Таким образом, операции дифференцирования соответствует фильтр с частотной характеристикой iu, который является допустимым для всех стационарных процессов, удовлетворяющих условию (17). Импульсная переходная функция не существует, но фильтр можно рассматривать как предельный (е-*0) для фильтров с импульсными переходными функциями ht^=<y при |/|^ е и ^(^““••^^ ПРИ Р1<е» которым соответ

. , , «е

ствуют частотные характеристикиствуют частотные характеристикиiue? *iue? *4 9,1,1 Т

ствуют частотные характеристики

ствуют частотные характеристики

iue? *

iue? *

Операция сдвига времени. Так как g(/ + s)= J eta,elttWu),

то операции сдвига времени Т8, Т8(£|/)=§(# + s), соответст- .вует частотная характеристика Н (iu') — eius. Импульсная переходная функция не существует.

Дифференциальные уравнения. Рассмотрим фильтр, определяемый линейным дифференциальным уравнением с постоянными коэффициентами

1л\ = М^(19)

-где , dn .d"-1 ,.

ь = ао "^г+°* 5ё~" ‘^On,

dmdm-l

dt"*dtm-1

Уравнение (19) имеет смысл только тогда, когда процесс 5(<) пг раз с. к. дифференцируем. Тогда мы ищем п раз с. к. диф- •ференцируемый стационарный процесс «|(0» удовлетворяющий (19). Предположим, что (19) имеет стационарное решение. Его можно представить в виде

П(О= j eutH<iuWu\—ОО

Применяя к процессам §(/) и т) (О операции М и L (соответственно), получаем

J ешЦш№Ш^ = J elutM(iu)^du), — ОО—ОО

где L(Z«)= 2 Об0“)"-6> M(iu)= 2 bk(iu)m~k, откуда, если L^iu) 6-06-0

не имеет вещественных корней.

Обратно, если процесс £(0 пг раз с. к. дифференцируем, JH^iu^eS^F}, L(iu)^Q ^—оо<и< оо), то процесс

n(/)= ( eutMMw

га раз с. к. дифференцируем и удовлетворяет уравнению (19). Таким образом, при условии M(iu)^ ЗгЮ» Ь^и)=#0 существует единственный фильтр, соответствующий дифференциальному уравнению (19). Заметим, однако, что можно определить решение уравнения (19) и в более общих случаях. Допустим, что многочлен L(iu^ не имеет вещественных корней. Фильтр с частотной характеристикой Af(Zu)/L(Zu) существует и без требования M^iu^e^a^» достаточно требовать только, чтобы •^^ е ^2 ^* Последнее выполняется всегда, когда степень га- многочлена L не меньше т. Таким образом, при га ^ m фильтр, с частотной характеристикой (20), знаменатель которого не обращается в нуль при действительных и, является допустимым для произвольного процесса на входе, и процесс на выходе фильтра мы отождествляем со стационарным решением уравнения (19). Ограничиваясь по-прежнёму дифференциальными уравнениями, для которых многочлен L(x) не имеет чисто мнимых корней, выделим из дробно-рациональной функции At(x)/L(x) целую часть Р^х) (она отлична от нуля, если т ^ га) и остаток разложим на простые дроби. Тогда

MUu>MUu>п'п'чч-p(w+£2 к»\ $-1-p(w+£2 к»\ $-1гскзQu - раУгскзQu - раУ

MUu>

MUu>

п'

п'

ч

ч

-p(w+£2 к»\ $-1

-p(w+£2 к»\ $-1

гскзQu - раУ

гскзQu - раУ

ии1(<« — p)s1(<« — p)s1(s— Dt1(s— Dt0Vu-рУ J (s— 1)! 6 6 Qt0Vu-рУ J (s— 1)! 6 6 Qt(Rep>0),(Rep>0),

и

и

1

(<« — p)s

1

(<« — p)s

1

(s— Dt

1

(s— Dt

0

Vu-рУ J (s— 1)! 6 6 Qt

0

Vu-рУ J (s— 1)! 6 6 Qt

(Rep>0),

(Rep>0),

т—п

где Р(lu) = £ dkЦи^ (т^г^ и Р(Zu) = 0 (m < га), Rep'fe < 0 w Rep£>0, p'fc и р^ являются корнями многочлена L(x) —0. Так как

СООО

-1—. \ epze-i«z dt=\ —ер^-1"1 dt

V"x$J («-1)1

(Rep<0)

представить в видепредставить в видето процесс *1(0 на выходе фильтра можно

представить в виде

представить в виде

т—ПОО00

П(0 = £ ^(О+^-Об^тИт + ^ + т^^ л-ооо

гдегде(/>0),(/>0),(«0).(«0).

где

где

(/>0),

(/>0),

(«0).

(«0).

Заметим, что если многочлен L(x) имеет корни с положительной действительной частью, то соответствующий фильтр -физически неосуществим.

Физически осуществимые фильтры

В настоящем параграфе рассматривается следующий вопрос: какие спектральные функции могут быть получены на выходе физически осуществимого фильтра? При этом на входе фильтра рассматривается в некотором смысле простейший случайный процесс.

Процессы, рассматриваемые в настоящем параграфе, неизменно предполагаются одномерными и стационарными в широком смысле. Поэтому слово «стационарный» иногда, а слова «в широком смысле» постоянно будут опускаться.

Начнем с рассмотрения стационарных последовательностей. Мы не будем переносить на последовательности всех определений и эвристических соображений, приведенных для процессов с непрерывным временем, хотя будем пользоваться соответствующей терминологией. Представим себе систему, у которой состояние на входе и выходе регистрируется только в целочисленные моменты времени t = 0, ±1, ±2, ...

Пусть на вход системы в момент времени 0 поступил единичный импульс. Реакцию системы на этот импульс в момент времени t обозначим через а(. Если система не предвосхищает будущего, то at = 0 при t < 0. Если система однородна во времени, то реакция системы на единичный импульс, приложенный к системе в момент времени s, равна at_s. Реакция линейной ■однородной и физически осуществимой системы в момент времени / на последовательность импульсов £п (— оо <_ п <. оо) будет '

»1(0 = 5 а«-№) = L a,&(t — fi). (1) П=-~ оо n=o

Процесс, определяемый формулой (1), называют процессом скользящего суммирования.

Предположим, что ^(п)—некоррелированная последовательность случайных величин и

Ms (л) = О, М£ (л) ^(m) = d„m(— со < л, /л < оо).

Назовем ее стандартной. Она имеет постоянную спектральную плотность.

Для с. к. сходимости ряда (1) необходимо и достаточно, чтобы

Zlo»P<«>.(2)

п*0

Если это условие выполнено, то процесс ц(0 также стационарен и

Мп (0 = о,Дп (о = Е an+ta„.(3)

п-о

Какие же последовательности могут быть таким образом получены?

Лемма 1. Для того чтобы, стационарная последовательность п (^) была реакцией физически осуществимого фильтра на стандартную последовательность случайных величин, необходимо и достаточно, чтобы последовательность т](^) имела абсолютно непрерывную спектральную меру и ее спектральная плотность f(u) допускала представление

f («) = | g (е10) Р,Е|М2<оо. (4)

п-0п-0

Доказательство. Необходимость. Пусть последовательность представима в виде (1). Положим

g^“) = -U Yaneino.(5)

О

Тогда по формуле Парсеваля

ооЯ

#п (0 = 2 “"+<“« = $ е<<“ • 8 ^tn) Р du.'п-0—л

т. е. последовательность г) (л) имеет абсолютно непрерывный спектр с плотностью f(u) = | g(eiu) |2.

Достаточность. Пусть ц (л) — последовательность с корреляционной функцией

Я

М)= $ е“Ч (и) du

и f (и) = |g(elu) |2, где g(eiu) определяется соотношениями (4)* Последовательность т|(п) имеет спектральное представление

л

т)(и) = ^ etnu^(du).

-л

На а-алгебре борелевских множеств отрезка [—л, л) построим стохастическую меру

Л

Тогда я

MS (Л) Пв) - J Хл М X, («) 2-T~r f Md“” £ J, d“’

т. е. £(Л) является ортогональной мерой со структурной функцией /(Лf|В), где / — мера Лебега. Используя леммы 2 и 1 § 2, получим

Лл

11 (п) = $ е,пи^ (du) = J etn“ л^й "sVF) I (du) = -л-л

= ^V2«6feel<n-^“^(du) = ^ak%(n — к),

A—0—л6*0

где л

ап = л/^йЬп, l(n)= eian^(du)—лИл

MS (п) №)=4Де‘ <""m) “du ” ^-Л

Таким образом, ^(п) является стандартной последовательностью. ■

Доказанная лемма дает простой ответ на поставленный вопрос. Но этот ответ в общем случае недостаточно эффективен, так как остается неясным, когда спектральная плотность может быть представлена формулой (4).

Найдем условия, при которых /(и) допускает представление (4). Обозначим через На множество всех функций f(z).

аналитических в круге D = {2: 121 < 1} и таких, что

|| f ^ IP = lim \ |f (ге‘е) Р dO < оо.

Если f (z) = J2 ^п?п« т0 f U-^ = 52 апгпе1пй, т. е. а„г" являются п=0п=0

коэффициентами Фурье функции f (ге‘е). В силу равенства Пар- севаля

j |f(re<e)pdO = 2n£|a„Pr2".

—лп=-0

Отсюда видно, что f(z)^H2 тогда и только тогда, когда

£|а„Р< оо.

п-0

Следовательно, для каждой функции j^eH2 можно опреде

лить ряд / (е<е) = £ Япе*"8, сходящийся в ^(О, где / — лебе- п=0

гова мера на [—л, л). Функция f^z) (|z|< 1) восстанавливается через функцию f(e'e) по формуле Пуассона

Л

f W = ^ $ f W Р (г, 0, и) du,(6)

—л

где

П= — ОО

Доказательство этого утверждения непосредственно вытекает из равенства Парсеваля.

В теории функций доказывается (см. И. И. Привалов [1]), что если в формуле (6) функция f(e’0) интегрируема по Лебегу, то почти для всех 0 существует

lim f (ге‘е) = f (е<е).

Функцию f(ei0) называют граничным значением функции f(z)

(И<1).„ t

Теорема 1. Пусть f(u) — неотрицательная и интегрируемая по Лебегу функция на (—л, л). Для того чтобы существовала функция g\z\e Нг такая, что

f(u) = \ g(^“)p,(7)

необходимо и достаточно. чтобы

л

j | In / (и) | du <00.(8)

— Л

Доказательство. Необходимость. Пусть g (2) = У, anzneH.

П-0

и (7) имеет место. Можно считать, что g(0)=^=0 (в противном случае вместо g^z) можно рассмотреть z~mg(z), где m— кратность нуля 2 = 0 функции g(2), и положить J g (0) | = 1). Пусть 0<г<1 и Л = (u: |g(rf ") | ^ 1}, В=(и: |g(re'“) | > 1}. Тогда

( | In | g (reiu) 11 du = J In | g (ге‘“) I du —

-лВ

— $ln|g(r?“) I du = 2^ In | g (re'“) | du — ( In | g (re'") I du. ав-я

Из формулы Йенсена вытекает, что при f(0) = 1 сп

А $ mifir^idu-mn^iSo,

где Zh — нули функции /(2) внутри круга |г|<г. Следовательно,

( |ln|g(re'“)||du<2$ ln| g(re<e)|du^(|g(re'“)Pdu< -явВ

•< $ |g(r?“)Pdu<2«£|anP.

-лп«0

Применяя лемму Фату, получим

( | In |g(е,е)||du = ( lim|In |g(r?“)11du<

<lhn ( I In |g(re'“)11du<2л У | a„P,

- Я

что и доказывает необходимость условия (8).

Достаточность. Пусть условие (8) выполнено. Функция

Я-

X>V, 0) = 37 J lnf(u)P(r, 0, u)du .-л

является гармонической в круге D = {z: |z|< 1). Из неравенства Йенсена следует

z Я

v (г, exinj ^ J /(u)P(r, 0, u^du' “Я

Обозначим через ф(г) аналитическую функцию в D с действительной частью и (г, 9). Положим g(z) = e2 ф^. Тогда

Я

|g(reie)p = eRe<p(Z) = e0(r, Ф^Х J /(М)Р(Г, 0, u) du

-л илл

5 I g{rei9) pd0< | / (и) | du < оо.

—л—л

11m о (г, 6)

Таким образом, g(z)E//,ji limlgtre'^p™^1 =f(0) r^l

почти всюду. Теорема доказана.

Замечание 1. Как вытекает из доказательства теоремы, функция g(z) может быть выбрана так, чтобы при z = О она была положительной и не имела нулей в Р.

Замечание 2. Функция g(z), существование которой установлено теоремой 1, определяется не единственным образом. Но если g(z) удовлетворяет условиям

a) g(z)^0, zeP, б) g(0)>0, то она единственна и, следовательно, совпадает с найденной нами.

Действительно, если gt^ (i = 1, 2) — две такие функции, то 4>(z) = -|i-^|y аналитична в Р, не обращается в нуль и на границе Р по модулю равна единице. Функция 1пф(г) является аналитической в Р, и на границе Р ее действительная часть равна нулю. Следовательно, In-ф (z) = t'A, где к вещественно. Так как 1пф(0) вещественно, то 1пф(г) = 0.

Сопоставляя лемму 1 и теорему 1, получим следующее утверждение.

Теорема 2. Для того чтобы последовательность т) (/) могла быть представлена в виде

n(0=Z anUt — n\Z|a„P<oo,

п—0п=0

где ^— некоррелированная последовательность, необходимо и достаточно, чтобы ц(/) имела абсолютно непрерывную спектральную меру, а ее спектральная плотность f(u) удовлетворяла

требованиютребованиюл

требованию

требованию

Xnf^du > — оо.

—л

Пусть £i(x)» ^W, хеХ,— две гильбертовы случайные функции. Ч^рез Si {Ц обозначим замкнутую линейную оболочку системы случайных величин {?<(-*), х е X} в Si.

Определение. Если S^tEOc ^(Ь), то случайная функция Si (^) называется подчиненной 5г (*)• Если же 2,г(£1) = = ^2(52), то 51 (х) “ £2 (я) называются эквивалентными.

Замечание. Как вытекает из доказательства леммы 1, последоватеЛьности ^W и *) (п) эквивалентны.

Покажем, как можно выразить коэффициенты ап в операции скользящего суммирования через спектральную плотность f(u) последовательности t] (/).

Введенная при доказательстве теоремы 1 функция ф(г) является аналитической функцией в D, действительная часть которой имеет- граничные значения lnf(u). Следовательно, по формуле ШваРИа

Л

Ф^)=^ pnf(«)-^7^. О)

—л

Разлагая функцию g (z) = exp { -у ф (z) } в степенной ряд

5(z)=2^„A получим следующие значения для коэффи- п=0 П

циентов ап:

ап = л/2п Ьп.

С другой стороны, выражение для g(z) можно преобразовать следующим образом. Так как

=1+т52-^—i+2 £ zke"tku-

j —z1 — ze и“

ТО

Г^00

Ж=ехР] 1^ ) Xnf^du+-^T.d^k L

^-яft—I '

ГДел

dk= ^ elku In f (ы) du.

-л

Полагая

(ЛООX ОО

Р = ехр I i J 1п ^ ^ duv ехр 1 К 2 dk^ I = S Ск%к <с°= ^

V -лV х &=1)6=0

получим

ТО = Р Z Ск2к.к-0

Таким образом,

ап = ^2яРсп.(10)

Перейдем к процессам с непрерывным временем. Обобщением операции скользящего суммирования на случайные процессы с непрерывным временем может служить операция, ставящая в соответствие случайному процессу ^^ процесс т)(0> /е(— оо, со), по формуле

i\^=^a^d^t — s\(11)

о

Будем называть процесс с ортогональными приращениями |(/) стандартным, если

М^(0 = 0, М | ^(/+ А) — ^(012 = й.

В соответствии с тем, что было сказано в § 4 о стохастическом интеграле Стилтьеса, процессу £(/) соответствует некоторая стохастическая ортогональная мера |(Л) на о-алгебре множеств, измеримых по Лебегу. Эту меру также будем называть стандартной стохастической мерой. Для существования интеграла (11) необходимо и достаточно, чтобы а (Г) была измерима по Лебегу и

I а(012 dt < оо. о

Заметим, что стандартный процесс |(/) не с.к. дифференцируем. Однако отношения

s-z /4 \£ (^А+1 4* A) £ Vk) л 44

Savvд ’ д — **+**к'

при всех 1к и сколь угодно малых А ортогональны. Таким образом, фиктивную производную £ (Г) следовало бы рассматривать как процесс, значения которого в любые два момента времени ортогональны, а их дисперсия бесконечна. Этот фиктивный процесс часто вводят в рассуждения и называют белым шумом.

Точное определение белого шума дается в рамках теории обобщенных случайных процессов (И. М. Гельфанд и Н. Я. Виленкин [1]). Символически формулу (11) можно записать в виде

t

Л (О — J а (/— s) ^ (s) ds

и интерпретировать л (0 как реакцию физически осуществимого фильтра на белый шум. Импульсная переходная функция этого фильтра равна нулю при / < 0 и а(/) при t > 0. Отметим, что все допустимые для процесса £'(/) физически осуществимые фильтры исчерпываются формулой (И). Действительно, всякий допустимый физически осуществимый фильтр по определению или имеет вид (11) или является предельным для фильтров такого вида. Условие с. к. сходимости фильтров вида (11) с импульсными переходными функциями ап^ состоит в следующем:

^ | an (s) — а„'(s) Р ds-* 0 при п, п'-*оо. о

Нр если это условие выполнено, то существует l.Lm. ап (0 =: = а^ (относительно лебеговой меры на (0, оо)) и

.Lm. i)n (0 = LLm. | а„ (s) dg (/ — s) = ^ а (s) dg (/ — s).оо

Таким образом, предельный переход в фильтрах вида (11) не расширяет класса фильтров.

* Формулу (И) можно переписать следующим образом:

Л(0 = ^ a{t — s)d£(s), а(0 = 0 при /<0.

Следовательно, корреляционная функция процесса т)(0 равна

R (0 = J a (t + s — о) a (s — и) du, или

R^ = \a<t-Vs)a(s)ds.(12)

о

Лемма 2. Для того чтобы стационарный (в широком смысле) процесс ц (0 являлся реакцией физически осуществи-

лого фильтра на подчиненный процессу белый шум, необходимо и достаточно, чтобы процесс ri(Q обладал абсолютно непрерывной спектральной мерой и его спектральная плотность f(u) допускала представление

(13) где

h(iu) = ^b(s^e-ius ds, J | b (s) ^ds < co. (14) о0

Доказательство. Необходимость. Пусть процесс т](/) допускает представление (11). Положим h (iu) = у^- ^ a (s) e-Uu ds. В силу равенства Парсеваля

/? (/) = ^ a (Z + s) a (s) ds = J etut | h (iu) |2 du, 0— oo

т. e. спектр процесса абсолютно непрерывен и спектральная плотность имеет вид (13), (14).

Достаточность. Пусть выполнены условия леммы. Рассмотрим спектральное представление процесса т)(0:

П(О= J

и стохастическую меру

^л>=J<15>

Стохастический интеграл (15) имеет смысл для произвольного ,Лхд («)

ограниченного борелевского множества А, так как д (z^y s ^S^t^L где F— спектральная мера процесса

FM) = ^|A(t«)|2d«.’

А

Легко заметить, что р(Л) является ортогональной мерой, причем

Мц (Л) ц (В) = ( du.лпл

Положим

1 С-lut\

(16)(16)№-№—^= J i—r£—»w-

(16)

(16)

Очевидно, что стохастический интеграл (16) существует. Случайная функция интервала £(Д)=£(0)—£(М» А = (О, 0), является элементарной мерой, соответствующей стандартному процессу. Действительно, М£(Д)=0. Далее, используя равенство Парсеваля для интегралов Фурье, получим

м^(а1)^(д2)=^. Jм^(а1)^(д2)=^. Je-iuti _ e-lut\ giutf _ glut»e-iuti _ e-lut\ giutf _ glut»— iu— iudu =du =

м^(а1)^(д2)=^. J

м^(а1)^(д2)=^. J

e-iuti _ e-lut\ giutf _ glut»

e-iuti _ e-lut\ giutf _ glut»

— iu

— iu

du =

du =

= $ хД1(0Хд2(0^ = Ча1ПА2),

где Д1 = [0, О), Да = Ra, t^, I — лебегова мера на прямой. На бсновании леммы 1 § 2 и формулы (15) получаем

11(0= ^ ^^(ЭДР^и)-11(0= ^ ^^(ЭДР^и)-(17)(17)

11(0= ^ ^^(ЭДР^и)-

11(0= ^ ^^(ЭДР^и)-

(17)

(17)

Заметим теперь, что если

(18)(18)^ h(iu)ц(du) = ^ а(— s)%(ds).

(18)

(18)

Действительно, так как пространства ^{р} и 2г® изоморфны пространству SaRL где / — лебегова мера на прямой (— оо, со), и преобразование Фурье не меняет скалярного произведения в 2*2(0. т0 формулу (18) достаточно проверить для простых

lubfe _ luafelubfe _ luafeфункций. Пусть а(0 = ^с6Хдй(0» гДе Ал — интервал (или полуинтервал) (Uh, Ьь). Тогда

lubfe _ luafe

lubfe _ luafe

a(-s)^(ds) = -^==r J £с6-иГV-W),

что является частным случаем (18). Итак, формула (18) установлена. Из (18) вытекает, что

J eiuth(iu) du = J a(s)dl(t — s),(19)

так как умножение меры £(•) на eiut в силу формулы (16) приводит к сдвигу аргумента функции £(•) на L Из (17) и (19) получим

Я (0 = ( a (s) dg (/ — s), где a (t) = I— \ h (tu) e-lttt du. В 0— co

Пусть задана спектральная плотность /(ы) процесса ц(0» Возникают следующие вопросы. Когда спектральная плотность допускает представление (13), (14) (или, как говорят, факторизацию)? Как найти по функции /(«) функцию КЦи^ (а следовательно, и функцию о(0)? Ответы на эти теоретико-функциональные вопросы можно получить, сведя их к уже решенным вопросам для случая факторизации функций на окружности. Введем преобразование со = уЗ.™ > отображающее круг D=^z: |z|< 1} в правую полуплоскость П+= {со: Reco>O}. На границе соответствующих областей (со = Си, г = е,е) это преобразование имеет вид u = ctgy. Пусть f^u) допускает факторизацию (13), (14). Положим

г(г) = (1+<о)/1(ю)=2А/1^х

1 2 v 1 2 7(20)

f(0)=f(M)(l+«2).,

Функция 7(0) допускает факторизацию |7(0) | = (^(e’0) [2, где g^z) аналитична в D и интегрируема на (—л, л),

J f(0)d0 = 2 J f(u)du<oo,

—Л—ОО

т. е. g(z)e Н2. В силу теоремы 1

ЛОО

— оо< J lnf(0)d0 = 2 J ±Lim±^

—Л—ОО

откуда

S

in f (и),9П

| | и200 •

Допустим теперь обратное. Пусть /(и) неотрицательна, интегрируема и удовлетворяет соотношению (21). Определим 7(0) с помощью (20). Тогда 7(0) интегрируема и

Л

Inf (0)d0 > — оо.

-Л

Из теоремы 1 следует, что 7(0) допускает факторизацию

f (0) = IS(ei6)P, g^ = ^,a^, £|а„|2<°о.Оn-0

Положим

Л (со)Л (со) 1 у / 1 — ® \"l+<oZja"ll+ti>^ ’

Л (со)

Л (со)

n-0

Тогда функция Л (со) аналитична в правой части полуплоскости и /(м) = \h(iu) |2,

А («0 = £ «п "^т^+Г •<22>

/1=0''

Учитывая, что функции -^=-ein^ образуют полную ортонор- мированную последовательность в 5*2 (—л, л), нетрудно увидеть, что последовательность —7= — -ту является полной

V2n (1-H‘«)rt+ ортонормированной последовательностью на ^(—°°> <») относительно лебеговой меры. Поэтому ранее написанный ряд для Ц1и) сходится в среднем квадратическом. Заметим теперь, что

л+1

(1 — ш)пу Л»

(l+i«)"+1Z^l-H»)*

= У —d»_ \ e-O+w </<»-» dt=\ e^B^dt, £(*-1)'?-о3

так что

h (Zu) = ^ e~ittib (t) dt, где b (t) = У attBn (t).оn-0

При этом надо иметь в виду, что частные суммы ряда (22) представляют собой преобразование Фурье (с точностью д»

N

множителя) функций, равных Е^Вп(Z) при Z ^ 0 и равных

нулю при t < 0. Так как преобразование Фурье не меняет нормы функции в 2?Д—оо, оо), то из с. к. сходимости ряда (22) следует с. к. сходимость ряда для b (f) и

^ | 6 (0 12^ < 00. о

По поводу единственности полученной факторизации функции /(«) можно сделать замечания, аналогичные тем, которые были сделаны о факторизации функций на окружности. Выражение для й(©) можно получить из формулы (9), заменив z на © и произведя соответственную замену переменных под знаком интеграла:

, Z х _ 1 1 f In f (и) / +«® . I /лпхй(©) — exp I 2я ) J + „2 # + to du J. (23)

Теорема 3. Для того чтобы, неотрицательная интегрируемая функция f(u) (—оо <_и < оо) допускала факторизацию (13), (14), необходимо и достаточно, чтобы

f Inf (и)J 1 +и2f Inf (и)J 1 +и2du >du >— оо.— оо.(24)(24)

f Inf (и)

J 1 +и2

f Inf (и)

J 1 +и2

du >

du >

— оо.

— оо.

(24)

(24)

При дополнительных условиях ft(©)=^0 (Re©>0), А(1)> О функция Цю) единственна и определяется формулой (23).

Теорема 4. Для того чтобы стационарный процесс Tj(f) (—оо < t < оо) допускал представление (11), необходимо й достаточно, чтобы он имел абсолютно непрерывный спектр и его спектральная плотность удовлетворяла условию (24).

Прогноз и фильтрация стационарных процессов

Одна из важных задач теории случайных процессов, имеющая многочисленные практические применения, заключается в следующем: требуется наилучшим образом оценить значение случайной величины £, наблюдая некоторое множество случайных величин {|а, аеАу Таким образом, нужно найти функцию /(gala е Л) от множества переменных ga, аеЛ, с наименьшей ошибкой, удовлетворяющей приближенному равенству

С«е-/€«|а®Л). (1)

Примером такой задачи является прогноз (экстраполяция) случайного процесса. В этом случае требуется оценить значение случайного процесса в момент времени t* по его значениям

на некотором множестве моментов времени, предшествовавших /*.

Другим примером является задача фильтрации случайного процесса. В простейшем случае она состоит в следующем: в моменты времени t' еГ сТ наблюдается процесс 6(0 = л(0+: Н"5(0, представляющий собой сумму «полезного» сигнала £(/) и «шума» т|(0; требуется отделить шум от сигнала, т. е. для некоторого I* cz Т нужно найти наилучшее приближение £(0 вида

Постановка задачи пока еще не закончена, так как не указано, что означает «наилучшее приближение». Разумеется, критерий оптимальности зависит от практического характера рассматриваемой задачи. Что же касается математической теории, то в ней преимущественно развиты методы решения поставленной задачи, основанные на среднем квадратическом уклонении как на мере точности приближенного равенства (1).

Величина

д = {МК-Ш«еД)Р},/2(2)

называется средней квадратической погрешностью приближенной формулы (1). Задача состоит в определении функции f такой, что (2) принимает минимальное значение. В том случае, когда Д— конечное множество, под /(£а|аеД) мы понимаем измеримую по Борелю функцию аргументов £а, ае Д. Если же Д бесконечно, то этот символ обозначает случайную величину, измеримую относительно о-алгебры 5 = о{£в, ае Д), порожденной множеством случайных величин {ga, а е Д}.

В дальнейшем предполагается, что и £ и /(§а|аеД) обладают моментами второго порядка.

Положим

у = МС|§).(3)

Тогда

д2 = М{£-и2--М(£-у)2 + 2М(?-у)(¥-£)+М(у-Ь2.

Так как величина у-€ 8-измерима, то

M(?-y)(y-t) =

= ММ{(£-у)(уЧ)18} = М(у-£)М{(£-у)|8} = 0.

Таким образом,

б^м^-уу+мсу-С)2,

откуда следует

Теорема 1. Приближение случайной величины £, имеющей конечный момент второго порядка, с минимальной средней

квадратической погрешностью при помойки $ = о{|а, а е Д}- измеримой случайной величины | единственно (mod Р) и дается формулой

6=М{£|5}.

Замечание. Оценка £ = у случайной величины £ является несмещенной, т. е.

MY = MMU|§} = MS,

и величины £ — Y и 6а ПРИ любом а е Д не коррелированы:

м (5- у)6а = мм {(с- Y)M 8} = ММ* {(6 - V) 18) = о.

К сожалению, практическое применение теоремы 1 для получения эффективных формул приближения бывает весьма трудным. В случае гауссовских случайных величин, однако, можно пойти дальше. Заметим, прежде всего, что более простой постановкой задачи, приводящей в ряде случаев к законченным и аналитически доступным решениям, является задача отыскания оптимального приближения не в классе всех измеримых функций от заданных случайных величин, а в более узком классе линейных функций. Более точно это означает следующее. Пусть {Q, ©, Р) — основное вероятностное пространство. Предположим, что величины £а и £ имеют конечные моменты второго порядка. Введем подпространство З’гЦа. а е Д} гильбертова пространства ^{Й, в, Р}, являющееся замкнутой линейной оболочкой величин |в, а е Д, и константы. Можно рассматривать подпространство ^{la, «е Д} как множество всех линейных (неоднородных) функций от |а с конечными дисперсиями. Наилучшим линейным приближением | к случайной величине £ является тот элемент ^{ба- аеД}, который находится от £ на кратчайшем расстоянии, т. е.

д2=м|ё—е P^Mie'—$12

для любого £' е S'zlla» a s М- Из теории гильбертовых пространств известно, что задача отыскания элемента £ из подпространства Яо. который находится на кратчайшем расстоянии от заданного элемента 5, всегда имеет единственное решение. А именно, £ является проекцией $ на Яо. Элемент £ может быть определен, и притом единственным образом, из системы уравнений (£—£, £") = 0 Для любого X," е S^da, а е Д). В нашем случае эта система уравнений сводится к уравнениям

МШ=МШ(4)

и поскольку в $2{6a. аеД) включена единица, то

М£ = М£,

так что оптимальные линейные оценки t, обязательно не смещены. Можно считать, что М6а = 0 для любого а. Поэтому в дальнейшем мы ограничимся рассмотрением подпространства случайных величин из ^{й, 0, Р) с математическим ожиданием 0.

Разумеется, не всегда есть основания считать, что линейная оценка величины 6 является приемлемой. Например, если 6(п) = е<<у«+Ф), где v равномерно распределена на (—л, л), то М{6(п)бИ} = 0 (п ф т) и наилучшая линейная оценка величины 6(т) по значениям всех ^(п) (п^т) имеет вид|(т)=0, т. е. не использует значений величин 6(n)- С другой стороны, достаточно произвольной пары наблюдений 6№ и 6(^ + 1), чтобы определить всю последовательность g(n) точно, а именно MW*

Допустим теперь, что все конечномерные распределения системы (6, 6а, а е Л} нормальны и Мба = 0, Мб — 0. В этом случае из некоррелированности величин 5 — £ и 6а следует, что они независимы. Поэтому £ — £ не зависит от о-алгебры 8 и

М{£|8} = М{£-£ + £|§} = М(£-£) + £ = £.

Теорема 2. Для системы, гауссовых случайных величин <6, ^, а е Л} наилучшая (в смысле среднего квадратического отклонения) оценка величины I с помощью o{6a, a s А)-измеримой функции совпадает с наилучшей линейной оценкой в S2{la, а^А}.

В дальнейшем рассматривается ряд частных задач на построение оптимальных линейных оценок.

Число случайных величин £а конечно (а = 1, 2, ..., и). Задача имеет простое решение, хорошо известное йз линейной алгебры. Предполагая, что £а линейно независимы, можно представить проекцию £ величины £ на конечномерное пространство Но, натянутое на величины la (a = 1, .... п), с помощью формулы

(61, 11) • • • (6», 61) 11

(6», 61)

(6, 61)

(6п, 6п) 6п

(6, 6») 0

где Г = Г (61, 62, • • торов 61, la, .... 6п=

Г (61, 62,

» 6п)—определитель Грама системы век-

.... 6») =

(61, 60 • • • (6ь 6„)

(6п» 61) • • • (6п» 6п)

и (£, т])=М(5л)- Средняя квадратическая погрешность б приближенного равенства £>«Х равна длине перпендикуляра, опущенного из конца вектора g на пространство Но, и дается формулой

л» _ Г (ё„ Ъ1п, О

0— Г(5„1

Б) Рассмотрим задачу об оценке случайной величины g по результатам наблюдения с. к. непрерывного случайного процесса |(/) на конечном промежутке времени Т = [а, 6]. Пусть R^t, s)—корреляционная функция процесса £(/). В силу теоремы 5 § 1 процесс £(/) может быть разложен в ряд

(0 = 2 V^аФа (0 ^а»

А—1

где <рл(/)—ортонормированная последовательность собственных функций, Ад — собственные значения корреляционной функции на (а, б):

Ма (0 = $ Я (Л s) Фа (s) ds,а

£ь — нормированная некоррелированная последовательность, М^г = Ькг.

Очевидно, что {^}, к = 1, 2, ..., образуют базис в ^ШО» / е (а, Ь)У Поэтому

2 == 2 С^п»п-1

где

ь

^^•п^п == J 6 (0 Фп (0 ^>/1—1, 2, .

а

b*

С„ = Met» = J R» (0 Ф (0 dt,R» (0 = ма (/).

Средняя квадратическая погрешность б оценки может быть найдена по формуле оо 62

^„Mlgp-Mlgp-Mlgp-^ \Rtt^Vn^dt

n-0 а

Практическое применение этого метода затруднено сложностью вычисления собственных функций и собственных значений ядра R(t. s).

Метод Винера. Пусть £(7) и Щ), teT,— две гильбертовы случайные функции. Допустим, что процесс 5(7) наблюдается на некотором множестве Г* значений аргумента t. Ставится задача об определении оптимальной оценки значения 5(7о), to^T, по наблюденным значениям 5(7), teP. Если предположить, что искомая оценка имеет вид

5(7О)= ^(s)5(s)m(ds), , (5)

где т — некоторая мера на Г* и выполнены условия, при которых этот интеграл имеет смысл, то уравнение (4) принимает вид

5 с ($) #66 (s, 7) т (ds) = 7?^ (70, 7), 7 е Т, (6) т*

где /?5$ — корреляционная функция 5 (7), а Я& — взаимная корреляционная функция ^(t) и 5(7). Уравнение (6) является интегральным уравнением Фредгольма первого рода с симметричным (эрмитовым) ядром. Далеко не всегда оно имеет решение. Однако если

М | ^ (/) J2 m (d/) < оо, г

то интегральное уравнение (6) имеет решение c(s)e 2?i\tn^ тогда и только тогда, когда оптимальная линейная оценка 5(7о) величины 5(7) имеет вид (5).

Пусть Т — ось действительных чисел, Р = (а, Ь), процессы 5(7) и 5(7) стационарны и стационарно связаны (в широком смысле), а в качестве меры m взята лебегова мера. Тогда уравнение (6) принимает вид

с ($) #66 (s — t)ds = R^ (70 — Й, te (a, b). (7) a

Если 5(7)= 1(7) (—oo < 7 < oo) и to > b, т. e. если задача состоит в оценке величины ^(to) по значениям 5(7) в прошлом, то задачу будем называть задачей чистого прогноза.

Остановимся подробнее на задаче прогноза величины 5(7 + <7) по результатам наблюдения процесса 5($) до момента времени t, t "^ s. При этом будем предполагать, что процессы 5(7) и 5(7) стационарны и стационарно связаны (в широком смысле). Прогнозирующую величину 5(7) будем рассматривать как функцию от 7 при фиксированном q.

Положимtш= J с As) Us) ds.

Легко заметить, что процесс |(/) является стационарным. Действительно, уравнение (7) в рассматриваемом случае имеет вид t

J ctks)Ruks — u)ds = R^kt-Vq— и), u^t.

Замена переменных t — u = о, t — s = 0 преобразует последнее уравнение в следующее:

^Ctkt-^R^-^dQ^R^kqA-d), »>0.(8)

о

Отсюда мы видим, что функция ct (t — 0) не зависит от t. Положим с(0) = с((/—0). Уравнение (8) запишется теперь так:

$ с(s)/?$$kt — s)ds = Rrkq +1),/>0,(9)

0

а формула (5) для прогнозирующей функции имеет вид

Uf) = J ckt — s)Us)ds = ^cks)Ut — s)ds. (10) — oo0

Таким образом, процесс £(0 = ?e(0 стационарен. Из формулы (10) следует, что с А) является импульсной переходной функцией физически осуществимого фильтра, преобразующего наблюдаемый процесс в оптимальную оценку величины ?(/ + ^).

Легко указать выражение для средней квадратической погрешности б прогнозирующей функции |(/). Так как б2 есть квадрат длины перпендикуляра, опущенного из конца вектора W + 9) на З'а^к8'). s < 0> т0

д^=м|^(/+ ^) I2—mi ё(о 12=

= ^«(0) — ^ ^TkT)R%kt-s)cks)dsdL (11) о о

Полагая R^ (0) = о| и переходя к спектральному представлению корреляционной функции #$$ kt\ получим

62 = о2- J \ckiu)№Uu),(12)

где F$$ (и) — спектральная функция процесса £(/) и

с Ци^ = J с (0 e~lttt dt.о

Изложим кратко метод решения уравнения (9), предложенный Н. Винером. Допустим, что спектр процесса £(/) абсолютно непрерывен и спектральная плотность ^(м) допускает факторизацию (см. теорему 3 § 5).

hl (“) = IА (ш) Р, h (z) = у^_- ( a (t) e~zt dt. Re z ^ 0.

V2n J

Из равенства Парсеваля для преобразования Фурье следует, что

R«(0 = ^ eu“\h(iu^ du= ^ a(t + s)a(s)ds.— оо0

Предположим еще, что взаимная спектральная функция процессов t(0 и £(/) абсолютно непрерывна и ее плотность fuM удовлетворяет условию

(13) h (ш)

Тогда

^И (0 — J elUHl W du = $ е"“/г (&) * ^ du = b (t + s) a (s) ds, —оо—оо0

гдето

b(t)=-j=- $ k(iu)eltadu.

С помощью полученных выражений уравнение (9) может быть переписано следующим образом:

([б(? + <+а)—Jc(O)a(t —0 + s)del^ds = O, t>0. (14)

О LОJ

Чтобы (14) имело место, достаточно, чтобы функция с(0 удовлетворяла уравнению

ООк

Ь(9 + х)= Jc(0)a(x — 0)dO,х>0.(15)

о

Уравнение (15) того же типа, что и уравнение (9), с тем лишь существенным различием, что функция a(t) обращается в нуль для отрицательных значений L Записав (15) в виде

(<7 + х) = ^ с (9) а (х — 0) dO, х>0, (16) о

мы можем непосредственно решить это уравнение с помощью преобразования Лапласа. Умножая равенство (16) на е-®* и интегрируя от 0 до оо, получим

B,(z)==C(z)ft(z), где

Bq (z) = —1=- ь (q + х) е-« dx, С (z) = -^=- ( с (0 е"1* dt.

•oJV2” o’

Таким образом,

С(2) = -^L vz' h (z) ’С(2) = -^L vz' h (z) ’причем выражение для в видепричем выражение для в виде(17)(17)c^ = 4= ( elBt^-du,V2n J h 0«)

С(2) = -^

L vz' h (z) ’

С(2) = -^

L vz' h (z) ’

причем выражение для в виде

причем выражение для в виде

(17)

(17)

duduh Ци) z — iuh Ци) z — iu(18)(18)B,(z), Rez>0, может быть записано

du

du

h Ци) z — iu

h Ци) z — iu

(18)

(18)

Формулировка предположений, при которых выведены формулы (17), (18), весьма громоздкая. Проще при решении конкретных задач непосредственно проверять законность предлагаемых преобразований, приводящих к решению задачи.

Г) Метод Яглома. В методе Яглома, в отличие от метода Винера, отыскивается не импульсная переходная функция оптимального фильтра, которая может и не существовать, а частотная характеристика. Не даются общие формулы решения задачи, а предлагается только метод подбора искомой функции, исходя из тех требований, которым она должна удовлетворять. Во многих важных случаях этот подбор довольно просто осуществим.

Пусть двумерный стационарный процесс (£(/), t>(t)) допускает спектральное представление

U0 = J etttS (du), £ (0 = $ (du)— ОО —ОО

с матрицей спектральной плотности

Г hi (“) hi (“) А\ hi (“) hi (“) / '

По-прежнему рассматривается задача оптимальной оценки величины £(^ + <7) по значениям процесса g(s), s ^ t. Прогнозирующий процесс £(/) подчинен £(/). Поэтому

|(/)= elutc (iu) V! (du), J | c (iu) ^hi(u)du < oo. (19)

Уравнение

MC(/ + q№) = M^(0№s<0

определяющее процесс ^(0, принимает вид

s > 0.(20)s > 0.(20)$ eius (e‘“qhi («) - с (iu) hl (и)} du = 0,

s > 0.(20)

s > 0.(20)

Кроме условий (19) и (20), мы имеем еще требование, чтобы c(i“) была частотной характеристикой физически осуществимого фильтра. Эти условия будут выполнены, если

функция hl(u) ограничена;

c(iu) является граничным значением функции c(z)e$h

i^(iu) = eioqhi(u) — c(iu) hl(u) является граничным значением функции ф(г) из 3^2.

Здесь ЖК^Г) обозначает пространство функций h(z), аналитических в правой (левой) полуплоскости, для которых интеграл

| h (х + iu) Р du

равномерно ограничен при х > 0 (х < 0).

Действительно, из б) следует, что J | c(iu) ^ du < со, а это вместе с а) обеспечивает выполнение условия (19). Кроме того, из б) следует, что c(iu) есть частотная характеристика физически осуществимого фильтра. Из условия в) следует, что eUqhl(u)-c(iu)hl(u) является преобразованием Фурье функции, равной нулю при положительных значениях аргумента.

Заметим, что, ограничив себя условием б), мы отбрасываем' фильтры, частотные характеристики которых на бесконечности могут возрастать. Такие частотные характеристики соответ-

ствуют операциям, связанным с дифференцированием процесса КО, и часто встречаются при построении оптимальных фильтров. Поэтому условие б) желательно заменить менее ограничительным. Предположим, что c(z)—функция, аналитическая в правой полуплоскости, и |c(z)|—*оо при |z|->co не быстрее, чем некоторая степень z (например, r-я). Функция

(,+О

Так как | cn(z) |^|'с(0 I, то

Нт \ | с„ (ш) — с (iu) |2 fjj (и) du = О, n->oo

■если условие (19) выполнено. Таким образом, сЦи} является пределом в ^а^Е^ частотных характеристик допустимых физически осуществимых фильтров, а поэтому c(i«)—также частотная характеристика такого фильтра. Мы получили следующий результат.

Теорема 3. Если спектральная плотность fa (и) процесса КО ограничена, то условия;

^\ckui}?faWu<oo,

сЦи^ является граничным значением функции c^z), аналитической в правой полуплоскости и возрастающей при |z|-* оо не быстрее некоторой степени |z|,

ф Ци^ = eioi,fa (и) — с (iu) fa (ы) является граничным значением функции ф(г) из 361, однозначно определяют частотную характеристику c(iu) оптимального фильтра, оценивающего величину К^ + 4V

Средняя квадратическая погрешность 6 оптимальной оценки равна

^^tMlK^ + ^P-Ml^OP^^

= |а£— | |<?(w)Pfu(«)d«| .(21)

Пример 1. Рассмотрим задачу чистого прогноза процесса КО (К0=К0) с корреляционной функцией R(t) = о^-®^' (а > 0). Спектральная плотность легко находится: fu(“) = = "^~ И2 + а2 - Аналитическое продолжение функции ф(ш) имеет

ВИДВИД

ВИД

ВИД

(г + а) (2 - а) л •

Функция ф(г) имеет единственный полюс в левой полуплоскости 2 = — а. Для того чтобы его нейтрализовать с помощью функции c(z), аналитической в правой полуплоскости, достаточно положить c(z) = const = е-ач. При этом условие а) теоремы 3 выполняется. Итак,

с(1и) = е-а^, 1(0 = J eiuie~aqv (du),

т. е. наилучшей формулой оптимального прогноза величины ^(t + q) является следующая формула:

^(t + q)«e-^(t), зависящая только от значения ^,(t) в последний наблюденный момент времени. Средняя квадратическая ошибка экстраполирования равна

6 = 03/1 — е-2а».

Пример 2. Снова рассматривается задача чистого прогноза процесса |(0, т. е. оценки ^(t-)-q) по наблюденным величинам £(s), s < t. Если спектр процесса £(/) абсолютно непрерывен и выполнено условие (24) § 5, то спектральная плотность процесса допускает факторизацию: fa (и) = | h (iu) Р, где h (z) е 96> и не имеет нулей в правой полуплоскости.

Рассмотрим тот важный для практики случай, когда h,(z\ является дробно-рациональной функцией:

'W Q (2) '

где P(z)—многочлен степени т, Q(z)—многочлен степени п (т<_п). Допустим еще, что спектральная плотность f$g(u) ограничена и не обращается в нуль. Тогда нули многочленов P(z) и Q(z) лежат в левой полуплоскости. Пусть

рР (г) = Л П (z — z,)”/,/-1рР (г) = Л П (z — z,)”/,/-1<2(г) = вП(г-2/)Ч7-1<2(г) = вП(г-2/)Ч7-1

р

Р (г) = Л П (z — z,)”/,/-1

р

Р (г) = Л П (z — z,)”/,/-1

<2(г) = вП(г-2/)Ч7-1

<2(г) = вП(г-2/)Ч7-1

ррПоложимПоложимS ?/=«• 7-1S ?/=«• 7-1

р

р

Положим

Положим

S ?/=«• 7-1

S ?/=«• 7-1

Р1(2) = (-1)”ЛП(г + 21)в/,7-1Р1(2) = (-1)”ЛП(г + 21)в/,7-101(г)-(-1)"^П(г + 2/)в/.01(г)-(-1)"^П(г + 2/)в/.

Р1(2) = (-1)”ЛП(г + 21)в/,7-1

Р1(2) = (-1)”ЛП(г + 21)в/,7-1

01(г)-(-1)"^П(г + 2/)в/.

01(г)-(-1)"^П(г + 2/)в/.

Аналитическое продолжение функции ^(.ш) имеет вид

^(г) = (егч — c(z))^(г) = (егч — c(z))Р^ Р,(г) Q (z) Qi (z) *Р^ Р,(г) Q (z) Qi (z) *

^(г) = (егч — c(z))

^(г) = (егч — c(z))

Р^ Р,(г) Q (z) Qi (z) *

Р^ Р,(г) Q (z) Qi (z) *

Функция c(z) должна быть аналитической в правой полуплоскости, a ф(г)—в левой. Поэтому с (г) должна быть аналитической во всей плоскости комплексной переменной и может иметь полюсы в нулях многочлена P(z), причем порядок полюса не должен превосходить порядка соответствующего нуля P(z). Поэтому

где M(z)—аналитическая функция в плоскости г, не имеющая особенностей при конечных z. Так как c(z) имеет не выше чем степенной порядок роста, M(z) является многочленом. Ввиду интегрируемости квадрата модуля функции

с (iu)с (iu)Р (iu) = М (iu)Q (iu) Q (iu)

с (iu)

с (iu)

степень mi многочлена M(iu) не выше n—1, mi ^ n—1.

С другой стороны, указанный выбор функции c(z) обеспечивает выполнение условий а) и б) теоремы 3. Остается подобрать многочлен М (г) так, чтобы функция

lhM_ [W (z) - Л1 (z)l P,(z)

w~ Q(z) Qv(z)

или, что то же самое, функция

Ф1(г) —Ф1(г) —^Р (z) - м (z)Q(z)^Р (z) - м (z)Q(z)

Ф1(г) —

Ф1(г) —

^Р (z) - м (z)

Q(z)

^Р (z) - м (z)

Q(z)

не имела полюсов в левой полуплоскости. Для этого необходимо и достаточно, чтобы выполнялись равенства

(22)(22)diM(z) I d* (е^р (Z)) I

(22)

(22)

^ L-sfe ^ 'z*5fc

/ = 0, 1, ...» p6-l, k = \r.

Задача построения многочлена M(z), удовлетворяющего условиям (22), является обычной задачей теории интерполяции и всегда имеет единственное решение в классе многочленов степени п—1. Найдя многочлен M(z), мы тем самым найдем частотную характеристику оптимального прогнозирующего* фильтра

,. x M(iu)c^— p^ •

Можно предложить еще следующую методику определения функции с (г). Разложим функции P(z)Q-'(z) и M(z)Q~l(z) на элементарные дроби. Пусть

г

Р (z)уч уч ckj М (z)у* у* Уб/ Q^ ~^ ^ U-&V * QH £х fa и-^У '

Для того чтобы функция ф1(г) не имела полюсов в точках zk, k = 1,..., г, необходимо и достаточно, чтобы

"причем"причем-^-(г-г^фЛг)!=0,/ = 0, 1р6-1,

"причем

"причем

(z — 2кУ(z — 2кУг 6^^<2)=Ё £6-1 /-1

(z — 2кУ

(z — 2кУ

.Простой подсчет показывает, что

Уб/ рб/+-ffСб/+1+"2fС6/+2+ ••• + ^_^[ ск^кJе .

:3ная коэффициенты у6/, мы можем написать выражение для cliuY

г ₽6г ₽66-1/-16-1/-1

г ₽6

г ₽6

6-1/-1

6-1/-1

Пример 3. Предположим, что наблюдается процесс £(s) (s^/), но результаты измерений величины £(s) искажаются различными помехами, так что наблюденные значения дают некоторую функцию ё($), s ^ t, отличную от £(s). Примем, что величина помехи (или, как говорят, шум) т)(<) = |(0— £(0 является стационарным процессом со средним значением 0. Желательно по результатам наблюдений процесса g(s)=^(s)-f-' + т) (s), s ^ t, оценить значение £(/ + qY

Такие задачи называются задачами фильтрации или сгла- .живания (говорят, что от процесса £(/) нужно отфильтровать шум т)(0 или что процесс |(/) нужно «сгладить», т. е. вычесть из него нерегулярный шум). При этом для q > 0 мы имеем за- .дачу фильтрации с прогнозом, а при q < 0 — задачу фильтрации -с запаздыванием.

Предположим, что шум т)(0 и процесс £(/) не коррелиро- ваны и имеют спектральные плотности f$$(“) и f^uV Тогда

*« (0 = R^ (0 + Ra (0. fit («) = U («) + fee («).

Так как RaW — RaUV то существует взаимная спектральная плотность процессов £(0, £(0 и fe$(«) = fee(“)-

Пусть fa^ = "tt4£^’ f<m^ = -^7p-- ТогДа

£ / х ^з («2 + V2)i 2 c2a2 + ciP2

fll(«) — („2 + a2) („2 + p2) • C3 — Cl + e2, V— C|+c2•

Для функции ф(г) мы получаем выражение

А м _ - c'eZq (^2 - Р2) + сзе (г) (г2 - у2)

*—(г2 - a2) (г2 - Р2)’

Пусть q > 0. Функция ф(г) должна быть аналитической в левой полуплоскости и принадлежать 36^. Для этого нужно, чтобы числитель обращался в нуль в точках 2 = — а и г = = — 0. Это приводит к равенствам

с(-₽) = 0, ск-^ = ^е^^1.(23)

Кроме того, с (г) должна быть аналитической в левой полуплоскости (и по условию б)—в правой), за исключением точки 2 = —у, где она может иметь простой полюс. Таким образом,

где ф(г)—целая функция. Из условия конечности интеграла

J I с Ци> |2 f«(ы) du

следует, что ф(г)— линейная функция, ф(г)= Аг + В.

Из (23) получаем

сМ— л±±Р Л—С| Р + аг-^с(2) —Лг + у, А — Сз? + ае .

Поэтому формула оптимального сглаживания с прогнозом имеет вид

М-А jv,№).

Вспоминая, что (tu + y)-1 является частотной характеристикой физически осуществимого фильтра с импульсной переходной

■функцией е-^, получаем

^^ = 777$Те’О?Ь^ + ^-^ S ‘’^W • (24)

При 9 < О формула (24) неверна. Формально это связано с тем, что функция ф(г) в этом случае не ограничена в левой полуплоскости. Функция ф(г) при q <. О может быть определена из следующих соображений. Пусть ф^г) =— Ciez»(z8— Р2)+ + c3c(z) (z2 — у2). Тогда c(z) должна быть аналитической в левой полуплоскости, кроме точки z=—у, и ф1(—а)=ф1(—0)=О. Так как

_ (,хФ1 (z) + cie2’ (z2 — Р2)

ССз ^-У2)

и с^г) аналитична в правой полуплоскости, то ф1(г)—целая ■функция и

Ф1 (Y) = — ^е™ (y2 — Р2)-(25)

Положим

Ф1 (z) = A (z) (z + a) (z + р).

•Функция Л(г) должна быть целой. Из условия а) теоремы 3 следует, что A (z) = const = А. Значение А определяется из уравнения (25):

Отсюда

„ о,л _ (« + У) (м2 + Р2) еич - (- у + Р) Ци + а) (»« + Р) ,ofix с W — 77(а + у)(«2 + у2)*(20)

Для прогноза и фильтрации стационарных последовательностей применимы методы, аналогичные тем, которые были изложены для процессов с непрерывным временем. Ограничимся одним примером.

Пример 4. Рассмотрим стационарную последовательность К0> удовлетворяющую простейшему уравнению авторегрессии

^(0 + ^-1)+ ... +а^(/-р) = г)(0.(27)

где *](/)—стандартная некоррелированная последовательность и £(/) подчинено т)(0- Пусть

П(0 = $ e^dUu)

-я

— спектральное представление последовательности т](0> ^(“) — процесс с некоррелированными приращениями и структурной

функцией-^ / (Л П В), где I—мера Лебега. Спектральное представление. последовательности XW должно иметь вид

^(/)=е““ф(и)^(и), где J |ф(«)М«< оо. (28)

-л—л

Подставляя (28) в (27), получим

J ек“Р(?5ф(ы)^(ы) = J eltud^> -Л-л

где Р (z) = У, сц^. Отсюда следует, что 6-0

ф (м) = _L— (mod /).

Р (е*1)

Предположим, что функция P(z) не имеет нулей в замкнутом круге | z | ^ 1. Тогда, если

6-0 то

£ (0 = Z М V — «).п=0

и мы получили представление последовательности 6(0 в виде реакции физически осуществимого фильтра на некоррелированную последовательность ^(О- Так'как

6(0” " Н« ~ 0 + • • ♦ + а^« - р) + П (01,(29)

то оптимальный прогноз 6(0 по данным 6(/ — п) (п = 1, 2, ...) имеет вид

Ё(0 = -^[^(/-1) + а2б«-2)+ ... +<Ц«-р)].

Минимальная средняя квадратическая погрешность прогноза равна

6(,) = {MhlWy» 1I I «о Г J| «о I

Повторное использование формулы (29) позволяет получить оптимальный прогноз на несколько шагов вперед.

ГЛАВА VI

ПРОЦЕССЫ С НЕЗАВИСИМЫМИ ПРИРАЩЕНИЯМИ

Процессы с независимыми приращениями уже рассматривались в § 4 гл. I.

В настоящей главе будут исследованы свойства выборочных функций таких процессов, а также рассмотрены различные функционалы от процессов с независимыми приращениями. Начнем с простейшего примера — однородного процесса с дискретным временем — случайного блуждания.

1. Случайные блуждания на прямой

Пусть |ь §2> . • • — последовательность независимых одинаково распределенных случайных величин. Под случайным блужданием понимают последовательность сумм

= 0, S„ = ^+ ... + g„ (п=1, 2, ...).

При этом tn называют положением блуждающей частицы в момент п, In — tt-м шагом блуждания. Иногда рассматривают блуждание, начинающееся в точке х, тогда go = х, tn = х + + £1 + • • • + 5п- Мы в этом параграфе будем рассматривать лишь блуждания, начинающиеся в точке 0. Будет также предполагаться, что величины tk целочисленны. Тогда и блуждание называется целочисленным.

Максимальное целое число h, при котором величина -^gt также целочисленна, называется шагом решетки блуждания. Если h = 1, то блуждание называется нерешетчатым. Очевидно, что Л совпадает с наибольшим общим делителем тех Л, для которых P{gi = 6} > 0.

Обозначим через tp(z) характеристическую функцию вели-

■чин tk-

Лемма 1. Если Zq— минимальный положительный корень . уравнения 1 —ф(х) = 0, то hzo = 2л, где h — шаг решетки блуждания.

Доказательство. Обозначим Ра = Р {£1 = &}, 6 = 0, ±1» '±2, ... Тогда

0 = 1 — ф(20) = ^Ра(1 — е1кг^ =

= ^ Ра (! — cos ^ = ^ Р*2 sin2 S*

Пусть N' = {6: ра>0). Тогда при ке№ число -^— целое. Если h — наибольший общий делитель чисел из N', то •^— также целое число, поскольку А представимо в виде

А = /п|61 +4-т„6„,

где т{ —целые числа, Ь^М'. Значит, ■^•^L 2о^7^"- С другой стороны,

k^N'k^N'

поскольку ^ — целое число при 6 е N'. Поэтому -^ — поло- жительный корень уравнения 1—ф(х) = 0. Значит, z0^ —. В

Следствие. Если блуждание нерешетчатое, то существует- такое а > 0, что

Re(1 — ф(2)) ^az2,ге[-л, л].

Пусть pt^O. Тогда

Re(1 - Ф(z)) >2pz sin2 -^>2pz (|)2 (4)2,

— |<у- А ПРИ 7<|г|<л функция Re(1 _Ф^ непрерывна (в силу леммы 1 знаменатель не обращается в нуль) и,, значит, ограничена.

Легко видеть, что достаточно изучать нерешетчатые блуждания, так как таким будет последовательность |у$пг п = 0, 1, ...}, где h — шаг решетки блуждания. Поэтому в дальнейшем блуждание будет предполагаться нерешетчатым.

Введем случайную величину v* (х— целое число) — момент первого попадания случайного блуждания в точку х:

vx = inf [п > 0: ?„ = х]

(если £п¥=х Vn, считаем v*=+oo). Блуждание называется возвратным, если P{vo < + <»}= 1. Исследуем условия возвратности случайного блуждания. Для этого нам понадобится преобразование Лапласа величины м$.

Лемма 2. При | X | < 1

МХ^ = Z VP (vx = А) = ( f ГР= х}) ( Z ГР- 0}) '

(Х+“ считаем равным 0). Доказательство. Имеем

Р= х) — Р {£„ = X, Vx п) =

= £ Р {£„ = X, vx = Л) = £ Р &„ - ^ = 0, vx = k\

Очевидно, что $п — ^ не зависит от события {vx = kY Поэтому Р &.=*}=£ P(vx=fc}P{£„-£ft=0}=£ P(Vx=£)P{^^ k«\k»\

Умножая это равенство на X" и суммируя по п, получим

S ГР {£„=х}=z VP (vx=6}. z VP {£„=0). ■ n=lk—\n=0

Следствие. Для возвратности блуждания необходимо и достаточно, чтобы

Zpu„=0} = + oo.

П-0

Действительно,

P(v0<+oo} = lim УхАРЬ = ^ =

M1 fc-i

= 1 _ пт—!= 1 _ _—1.

И1 £гр&, = о}2рКп = о}

п=0п-0

Сформулируем условие возвратности случайного блуждания через характеристическую функцию одного шага.

Теорема 1. Для того чтобы нерешетчатое случайное блуждание было возвратным, необходимо и достаточно, чтобы п

\^T=Wdz-+”-0)

Доказательство. Достаточность. Имеем

со0°лл 00

£vpu„ = 0} = £v^ $ We^dz-^ $ ^V^dz- л=0п=0-л-п п-0

лл

“ 2л J 1 - Лф (2)— 2л J 1 - Аф (г) аг —

-л-л

л

= 2л 5 Re 1 - Аф (г) dz‘ -Л

В силу теоремы Фату

£р& = 0) = |1т£1"Р&-0)=11т^ J te-r-^dZ> п*оп-от -л

лл

^тт- \ Пт-;—^—-dz = -^~ \ Re-;—Ц-rdz.2л J ха, 1—Аф(г) 2л J 1— ф(г)

-я 1-я

Из (1) и следствия леммы 2 вытекает возвратность случайного блуждания.

Необходимость. Будем доказывать от противного. Предположим, что блуждание возвратно, но

(2)(2)\ Re -;—L— dz < со.

(2)

(2)

J 1-ф(г)

-Л

Пусть х Ф 0. Рассмотрим при 0 < К < 1 выражение

2 X Р (£п — 0, vx > п) — п—о

= Е х"Р {:„=о) - S х"р {?„=о, vx < п) = П-0п-0

ОО00п

: £ Х”Р {£„ - 0} - Е X" 2 Р {V, = 6} Р &п-кX) = п-0п-0к*1

= £ Х"Р {:„=0} - Е Х6Р {vx = й} Е Х"Р {?„ — х). п-0fe—1п—1

В силу леммы 2 последнее выражение имеет вид

£ ГР {£„ = 0}(1 - MXVxMlv-*) = л—0

= Z ьч* (е„=о) (2 - mVx - mxv~x - (i - мГх) (i - мГ~х)Х п—0

Поскольку МА?* < 1, MXV-X < 1, то

f ГР {£„ = 0, vx > и) < £ VP {£„ = 0} (2 - МА> - MXV’X) = п-0п-0

= £ г [2Р tin = 0} - Р tin=*} - Р R» = - *11 п-0

(мы снова использовали лемму 2). Поэтому

ОООО

£ Хп Р{£„ = о, vx > п) < 2^ J <2 “ e'Ux - ^ Ф" ^ dz = п—0п—0 —л

Л

= 1 $ (1 - cos zx) ,_^ dz. (3> -Л

Из следствия леммы 1 вытекает, что функция

1 — cos zx

1 — ф(з)

ограничена. Кроме того, функция "j—F^^y огРаничена ПРИ O^X^l и ?е[-л, л], поскольку |ф(з)|^1, а функция -^ ~^ц ограничена, если к е [0, 1], а и меняется в единичном круге комплексной плоскости, так как она непрерывна, если ее положить равной 1 при Х= 1, «=1. Поэтому в (3) можно перейти к пределу при Х| !•

2Р^" = 0» vx>«}< п=0 лл

<— \ (1 — COSZX)-:—(1 — coszx) Redz, л J х7 1 — Ф (г) л J v71 — ф (г)

-л-л

Из (2) вытекает, что

lim \coszxRe-;— dz = 0

Х->оо J* Ф (г)

в силу теоремы Римана — Лебега. Далее, поскольку vx->oo При х->оо, то

Нт Р{£„ = 0, vx > п} = Р{£„ = 0}.

Х->оо

Значит, для всякого т mmл

lira £Р&-0, v,>„}-£P{C.-0)< $ Rey^dz. n—Оn=0—л

Поэтому и DOЛ

У Р{^ = 0}^1 ( Re r I>;;xd2<oo n=0-Л

(в предположении (2)), что противоречит возвратности блуждания. В

Пусть х^О. Обозначим через тх момент первого попадания в множество (х, оо):

Tx = inf[n: £„>х]

{если ^п^х для всех х, полагаем тх = + оо). Если тх конечно, положим ух = $Тх — х. Будем искать совместное распределение величин тх и ух. Пусть |Х|< 1, ze[- л, л]. Положим

uAX.z^W^X^ го^ =£ etkzXmP ^, = т, ух = /г}.

1 х 16-1. т-1

Пусть pt = Р {51 = /}. При т > 1 имеем

Р{тх = т, Ух = ^} = Р{$1<^U-i<*, 5т=^4-х} =

== Z Р {51 ^ X, ^.m—l^^X, ^т = к ~Ь X, 51 = /) =

К.х

=== 2 Pl^ {& ^1 ^-^ Ц • • • > ^*л —1 — $1 ^-^ — I» Zm ?1== Кх

= k + x — l}= Z PiP^x-i = m—\, Nx-i = kY Кх

Кроме того,

Р{тх=1, ух = А:} = Р{51 = 6 + х} = р6+х.

Таким образом,

£ XmelfezP (тх = т,мх = ^ =

W = l, ^=*1

= xi.elfezpfe+x-V- Lpi Z Хте,кгР^х-1 = т-1, y,-z = ^, й=1Kx т-2, к-1

ИЛИ

«х (X, 2) = Xgx (г) + X 2 PlUx-i {X, 2),(4)

Кх

ГД6

Sxk^= Е е1к=рк+х.к-1

Покажем, как можно решить систему уравнений

^х == ёх 4" ^ 2 Pi^x—i>(5)

Z^x

где их и gx определены для х^О и ограничены. Положим их = 0, gx = — X У, piux-t для х < 0. Тогда (5) запишется в виде /<х

Ux = gx4rX^lpiUx-b — ОО<Х<ОО.(6)

Нам потребуется следующее вспомогательное предложение.

Лемма 3. Пусть числа с к определены из равенства

ОО/ ОО0Ч

£ске^ = ехр\^ £ P^-*}^}.(7)

—оок- —оо*

Тогда с^ = 0 при k>Q, ^ I Са I < j~Z~[% [ и

Си== ^ Е PiCk—ь к ^ 0.(8)

Доказательство. Поскольку степенной ряд относительно еи в правой части (7) под знаком ехр{•} сходится абсолютно, если вместо еи подставить и при |н|^1, то левую часть (7) можно получить, разлагая ехр {•} в степенной ряд и собирая коэффициенты при одинаковых гармониках. Отсюда видно, что коэффициенты при eUz для к > 0 будут равны 0 и что

/соочГ 00

£=х —ОО/>П»1'

Далее, 0/ оооо\

£ Ck^-expU^ £ Р{Ь-*А)^|х к-— ОО^П—1к—- оо/

xMPL2^2pi$„=t|e“=Uk rt=el fe»x

=-р{Ё^Ьхр|-Ё^£р&-м«'“1-

1 — Лф (2) r IпI

к rtej к-х/

Значит,

(1 -X Pie“z) £ cketkz = exp { - f V Z Р ^ = ^| • <9>

Точно так же как и выше, можем установить, что выражение в правой части разлагается в ряд Фурье лишь по е1кг при положительных к. Поэтому при к < О

Ск — X Е PiCk-i = О

(это коэффициент левой части при elkz\ ■

Замечание. Из соотношения (9) вытекает, что при 6^0

Ск — X^ptck-i = bk,(10)

где Ь^ определяются из соотношения ООZООООS

£ bketk2 = exp ] - £ ^ X Р ^п = ^ etkz к(11)

к=\п=16 = 11

Вернемся к уравнению (6). Имеем

S Ск^х—к = 5j ^кёх—к “Ь ^ S Р/ S ^б^х—/—6>

ИЛИ

Е ckgx-k = 2 (с» — Е PlCk-l^ их-к.

Из леммы 3 и замечания к ней вытекает, что

Е ckgx-k= 2 bkux-k.(12)

к-—оо6=0

Заметим, что при х<0 правая часть обращается в нуль, значит, и левая также обращается в нуль. Пусть теперь х^О.

О

Тогда в Е ckgx-k входят лишь g с неотрицательными ин- к» —оо

дексами, которые нам известны. Умножая соотношение (12) на рх, где | р | < 1, и суммируя по х, получим

ООООООО

Е рх Е ckgx_k = Е ркьк Е рхих. х=06=-оо6=0х* 0

Следовательно,

Х«0\6=0/Х«06=—СО

Заметим теперь, что функция ечЛ-ЁН^М V П-16—1)

аналитична при |р|<1 и непрерывна при |р|^1. Так как при р = еи

£Л.=ехр|-£^£Р(и-4)^*к.

к»0> п—1к — 1'

ТО ОО/ОООО\

£р^ = ехр]-£2£.£Р& = ^Л (13) к=0> л—16—1'

Таким образом, ОО/ ООООЧОООО

£ рхих = ехр < £ -^ £ Р {£„ = /г} рЧ £ рх ^ cfegx-k. (14) х*0П’1к—\'х=-0к=-оо

Из этой формулы определим Uq. Для этого нужно положить р=0:

«о = У, ckg_k. Для того чтобы найти «о (Л, z), нужно вместо g_k подставить Kg_k (z):

м0(Х, z) = X £ ck £ Pl-fee118, к—— оо /—i

Введем операцию [ ]+, ставящую каждому тригонометрическому

№№РЯДУ £a»e<tzB соответствие тригонометрический ряд ^ a6e'*zj = = £ аке1кг. Тогда 6>0

№

№

Wq (X, z) —— X

= -[Sc*eUz(l — X»(z))J , поскольку ££c»e,ftzJ =0. Используя соотношение (9) и равенство

п-1к>\+

V П-1к>\)

находим

м0 (X, 2) = 1 - exp j -£ р & = ^} elkz }О5)

'п=\к>\'

Полагая в (15) 2 = 0, найдем производящую функцию т0:

MXT‘=l-expl- Svp^>°4-(16)

X п-1'

Теорема 2. Для того чтобы блуждание было ограничено сверху, т. е. чтобы

Р (sup £„ < + оо) = 1,(17)

п

необходимо и достаточно, чтобы

£7Р{^>0)<оо.(18)

п-1

Доказательство. Из (16) вытекает, что

Р (т0 = + о°) = 1 — Нт MV1 = И1

-11техр1-У-£р(С#>0}|-ехр1-£1р^ V п*\/К п*\2

(считаем е-°° = 0). Значит, если выполнено условие (17), то

P{sup£„<4-oo}>P{T0= + oo}>0. п

Но в силу закона 0 или 1 Колмогорова (см. гл. II, § 4, теорема 7) Р (sup £;„ < + °о) может принимать лишь значения 0 п*

или 1. Поэтому в этом случае выполнено (17).

Пусть Р(т0 = + оо) = 0. Это эквивалентно соотношению

^РК.>0) = + ~. п-1

Если Р {§10} = 1, то

(19)(19)P{sup£n = -f-oo} = l,

(19)

(19)

так как с вероятностью 1 2^ = + оо. Предположим, что »=i

Р (Si < 0} > 0 и т < 0 таково, что рт > 0. Тогда для всех п имеем

P{gi = m, .... U = m, sup (£„+ft — у< — пт} <

4>о

<P(sup ^^0} = Р{т0 = + оо} = 0.

Но левая часть этого соотношения равна (pm)"P{sup^< — пт}.

Поэтому для всех га P{sup^ <п} = 0. Значит, выполнено (19). ■ к

Используем теперь соотношение (14) для определения распределения величины

£+ = sup£„.

п>0

Очевидно, что

Р{?+=/га} = Р{тто_1 < оо, тт= + оо) =

= Р {tm-l < °°} — Р {Tm < оо}.

Поэтому

Р{^+ = т}=ит-, (1, 0) —ыт(1, 0).

Пусть 0 < р < 1. Тогда

Z pve=m}pm= I P^m-iU, 0)-«m(l, 0)] + Р {g+ = 0} = m*0m=\

= 1 — P{t0< oo} — 2 pmuro(l, O) + pf ртитЦ, 0) =m—\m=0

= l+(p-l) fpm«m(l,O). (20) m-0

Воспользуемся теперь формулой (14), учитывая, что для получения У, ртитЦ, 0) нужно в правую часть подставить z = 0, т=0

а затем перейти к пределу при % f 1. Числа gx в силу определения при этом будут равны

gx = Х ^^ Рк*х*

Поэтому

ОО/ ООООЧ

(р-1) 2 РОТ«Ж 0) = ехр] £-££ рС»-^Р* (X

т—0м=1 к—1'

ОООО/ ООООЧ

x£(p*+i — Р*) £ cftg,-6 = expj £-^-£Р(£„ = 6}рЧхх—0* к=-—оо'/г—1к=\1

[

ОООООО*1

— Е М-а+£<>* X сб(£х-6-1-£х-б) =к= — ооХ—1 к=- — ооJ

=ехр|£-т2р&«=^р4><

XI—Ио(А, 0)4-А£рх 2 СкР*~к

LХ—1к=- —ОО

Воспользовавшись замечанием к лемме 3 и формулой (11), можем записать

Х2рХ Z сьРх-и = -^Ь^Х = 1 -ЦьхРК =

#«■! к* —оох»1х—0

(поскольку формула (11) верна при |р|= 1, она верна и при

JpKI).

Следовательно, учитывая (16), получим

(р-1) ^ pm«m(^0) = m=0

Теорема 3. Если Р {sup$„ < 00} = 1, го распределение п

величины £+ = sup £„ определяется соотношением п ОО/ ОООО\

2 РтР &+ = 4 = ехр ] £ 1 £ Р {?„ = Л) (pft - 1) к (22)

Для доказательства достаточно перейти к пределу при 1 f 1 в (21) и воспользоваться формулой (20). Возможность перехода к пределу вытекает из теоремы 2. ■'

Замечание. Формула (22) справедлива и при |р|=1, поскольку обе части этого равенства определены и непрерывны при |р|<1.'

Следствие. В условиях теоремы 3

Р (sup £„ = 0} =

1

= exp{-^P{^>O)l[l-expl-f;lpa„ = O}ll. (23) IIV11I 4а*М IV||

V7 LчV J

• Действительно,

PbuP:„=o} = f pj?ve=k\ =

ЯОО

= ^ $ ф(г)ХР{?+ = ^}^^ =—л £—0Я/ ООООX

= 2^ ( ф(з)ехр{ У-^Z р{?» = ^}(^г— 0 (dz =

-л4=1 ft»!*

™ $[^expff ^£Pfc„=6)ea+ T —л un=l fe»l

+ | pZexp]-XvP^>°4-

Воспользовавшись соотношениями (9) и (7), можем записать

Поскольку

в (24), получаем (23).

Подставляя это выражение Замечание. Ряд

(25)

п*\

сходится.

Пусть |1 — |2 имеет решетчатое распределение с шагом h, тогда | ф (г) |2 = Me<z й1-^ — функция периодическая с периодом 4. Поэтому лJtlh

Р{^=о}=^ \^^аг<-^ j |Ф(г)№

-л-л/Л

Используя следствие из леммы 1, убеждаемся, что существует такое а>0, что |ф(г) Р^е-"22 при |г|^л/й. Поэтому

Л/Лоо

hГ_"Я z, лГ _ "Я z. г

р(г = 01 С —\е2 dz^.-—\е 2 dz<_ —-

rife,, и/^2л3с2л3еVn'

—Л/Л—оо

где С — некоторая постоянная. Из этой оценки и вытекает сходимость ряда (25).

Выше мы нашли лишь совместное распределение величин т0 и у0. Для нахождения совместного распределения тх и ух можно использовать следующее рекуррентное соотношение:

Р(т, = т, Ух = ^} = Р{т0 = т, у0 = х + &} +

+ Z Р (т0 = п. То = О Р Kt-/ = пг — п, \x-t = к\ 0<п<т 0</<х

Умножая это соотношение на Л”1, е1хк и суммируя по m и к от 1 до оо, получим

“х(^, ^= Z Р (т0 = /п, уо = х + ^}XmeUfe + m, Л-1

+ Е ux-t {X, г) 5 Р (то = п, уо — ОХп. 0<Г^яп-1

Умножим теперь это равенство на р* (I р I < 1) и просуммируем по х от 0 до оо (при х = 0 вторая сумма в правой части пропадает). Тогда получим

У р*мх (X, г) = 2 Р* Е Р (т0 = т, у0 = х + &} ^е1^ + х*0х—0 т, k=l

+ У 9хиДК z) Е Р(т0 = п, Yo = O^V- (26) х-0n,t»l

В силу формулы (15)

У ^"р'Р fro = n, Yo = /} = п, t-1

= 1 —expl — У^ У P{?„ = Ai}p4 (27) п=\k^\

(поскольку эта формула верна при р = е1г, она верна и при IРI < 1). Далее,

У У Р{т0 = т, y0 = ^+&}^'”etoV = ) *0 m, fe=l

- у ^P{To = m, уо = О У ellV = т, /“1k-Vx»t

fe>\tx>0

= У ХтР{т0 = /п, Vo = O ~и<^г =» .1 — pe

mj=l

11 — ре“/г11 — ре“/г«p|-Z^Zp^=6iP*n»\k>\

1

1 — ре“/г

1

1 — ре“/г

^n-1»>1

(мы воспользовались формулой (27)). Таким образом, из (26) получаем после несложных преобразований следующую формулу:

У 9хих (X, z) =

= 7rb«(l-«p{ZvZ Pfc-MIP1-^))- (28)

Скачкообразный процесс с независимыми приращениями.Обобщенный процесс Пуассона

Пусть 5(0 (^^0) — стохастически непрерывный процесс с независимыми приращениями со значениями в 5?т. Такой процесс будем называть скачкообразным, если для каждого t существует конечное число точек 0 < Si < ... < sn ^ t таких, что |(s)—постоянная величина на интервалах [0,si), ($ь$г), ... .... (sn, 0- Будем считать, что процесс непрерывен справа, g(s) = j(s + 0). Из стохастической непрерывности g(s) вытекает, что вероятность того, что в точке s g(s) имеет разрыв, равна 0 для всех s ^ 0.

Теорема 1. Для того чтобы сепарабельный стохастически непрерывный процесс с независимыми приращениями был скачкообразным, необходимо и достаточно, чтобы для всякого t > 0

lim Е Р{£ (/&)—£ (^-1)^=0) .< оо,

^^*^0 Л—1

0 = /0< ... <tn = t, X„ = max(/6+1 — 4).

Доказательство. Пусть процесс является скачкообразным. Обозначим через v(/) число скачков процесса g(f) на отрезке [0,/]. Очевидно, что v(/)—также стохастически непрерывный процесс (поскольку вероятность того, что t — точка разрыва v(f), равна 0 в силу совпадения точек разрывов g(0 и v(/)). Кроме того, v(/)—процесс с независимыми приращениями: v(/ + /t)—v(Z)—число точек разрыва g(s) на [/, / + Л]— не зависит от поведения |(s) (а значит, и v(s)) на [0,/]. Заметим, далее, что

р (I (/») - i ^-о * о} < р tv (4) - v^-a ^ о)

(если l(tk) =# ^(^a-i), то на отрезке [/й_ь /й] g(s) имеет хотя бы один разрыв). Поэтому для доказательства необходимости условия теоремы достаточно показать, что для всех / > 0

Пт Е Р {v (4) — v (4-i) ф 0} < оо, Хп^ к=\

„0 = #0< ... <tn = t, Х„ = тах(/6+1 —/6).

Но

п

- Е P[v(y-v(/fe-,)¥=0]

п

> П (1 - Р {V &) - v &_,) # 0}) - Л-1 п

= П р {v &) - v (/6-0 = 0} = Р (V (0 = 0}.

То, что P{v(0 = 0} > 0, вытекает из того, что v(s) равномерно стохастически непрерывна на [0, /] и, значит, при некотором 6>0

P{v(Si) —v(s2) = 0}> 1 — в при |s1 — s2|<6> но п

р {V (0 = 0} = П Р {V (s6) - V (s6_,) = 0} >(1 - 8)",

где O = so<Sj < ... <sn = t и Sfe — Sfe-x <6. Значит, n

2 Р {v М - v (4-а #= 0} < - In Р {v (0 = 0} < 00. fe-1

Необходимость условия теоремы доказана.

Для доказательства достаточности введем величину ti = = inf [s: ВМ^ 1(0)], Ti — момент первого скачка (он может равняться 4-оо). В силу сепарабельности процесса он не имеет разрывов второго рода (см. гл. IV, § 4, теорема 3). Поэтому

Р {Т, > /} = пт Р {В №) = | (/о), В (4) = В (4)6Ю = В М),

О = /о<6< ... </„ = /, X„ = max(/ft+1 —4), п

Р(т,>0= Нт П(1-Р{6(4)-В(4-1)*0}).

Х„-»0 6-1

Из стохастической непрерывности процесса В(0 вытекает, что maxP{B(^+i) — В(^)^=0}-*0 при Хп-*0. Поэтому

Па-рим-ц^о»-

ft"1п

— expl — Z P{B(M-B(4-!)¥=0}X

I fe-1

X (1 + о (max P ft (4) - в fo-i) * 0))} ~

— expl—Z P{B(4) — B(4-i)¥=0}|>a> 0. l fe-iJ

Оценим теперь вероятность события: B(s) на [0, /] имеет г скачков. Обозначим вероятность этого события pr(t). Тогда (точно так, как при оценке ро(О) имеем

р, (0 = Hm zП р {В ^ Л -1 (^ ) ф 0} х

\<1Х<Ч<-* <1г<п 1=х77

х П Р(Ш-в(^-1)=о},

o = to<tx< ... </„ = /,

Значит, рг(0-Hm ПР{5(4)-5(4-0 = 0)Х \->0 к-1 •

х S np{5(/<z)-5(v.)^°} Klt< <<г<п 1-1' ' 17 х 1 v >

(мы воспользовались тем, что Р{5(4) — 5(4-0 = О}-* 1 равномерно по к при Л„->0),

lim ft Ра(4)-5(4-0 = О} = ро(/) = Р{т,>О>0. А„-*0 А-1

Далее, X ПрЖ)-5(''г')*°}= !«,<... < i^n /=1

= ^(£р$(4)-5(4-0^ ОН + + О (max Р U (4) - 5 (4-0 * 0}) X

х[ХР{5(4)-5(4-О^оА .

\A-1/

Выше было доказано, что

Po (f) = exp I — lim 2 Р (5 (4) — 5 (4-0 ¥= 0} |. Если обозначить

Х(/) = —1пр0(0, то.

И г-0г-0

Это и есть вероятность того, что процесс ^(s) имеет на отрезке [0, /] конечное число скачков. ■

Следствие. Если |($) — скачкообразный процесс с независимыми приращениями, то v(/) — число скачков процесса £($) на [0,/] — является стохастически непрерывным пуассоновским

процессом с независимыми приращениями:

P{v(0 = 6}=-^e-Mf),

где X (/) = Mv (/) — непрерывная функция.

Пусть Ti — величина, введенная при доказательстве теоремы 1. Введем совместное распределение величин ti и £(ti) — -1(0):

Ф (ds, Л) — Р {т, е ds, | (тО - (0) е Л}.

Пусть, далее, л($, Л) — условное распределение величины £(ti)— —1(0) при условии, что ti =s:

л (s, Л) Р {Т! е ds} = Р (Т! е [a, fl, g (та — | (0) е Л) = a ^ s ^ 0

= PU(«) = |(0), и<а, |(та) — |(а) s Л, та < р}.

Здесь T® = inf[s>a: g(s) —£(а) =# 0]. Поскольку P{ti<s} = с= 1—ехр{—X(s)}, то последнее равенство можно переписать так:

л (s, Л) е~х (s> dX (s) = е~х <о)Р {| (т°) - ^ (а) е Л, т° < р), a<s<B

откуда

Р U (т“) — ^ (а) е Л, т° < Р) =^ л (s, Л) е-^ ^~х <°И dX (s).

Последняя формула позволяет найти характеристическую функцию процесса с независимыми приращениями. Заметим, что при zsS2m

Мв‘<z.t «>-$(«)) = МХ{та>р} +

+ М^ ^ 6 (W-5 <a))X(v №)_v (а)-о + о (Р {v (Р) - V (а) > 1}).

Но при условии v(р)-—v(а) = 1 имеем &(Р)~£(а) = £(т°) —£(а) и т“ < р. Поэтому

My, « 1 4- Me* <z« 6 <S)—£ to»v—

|’*Х{та> T mtr*{v (B)-v (a)-0

= 1 + M [e' (z- 6 W-X^ _ 1]X{t0<b} +

4-O(P(v(P)-v(a)>l))=l+. J J(e'(z.*)-l)n(s, dx)X

X e-Vx ^~x ^dK (s) + О ([X (p) - X (a)]2) =

«= exp |J J (s' <z- z> - 1) л (s, dx) dX (s) + О ([X (p) - X (a)]2)}.

Поэтому при и = to < t\ < ... < tn = t

Mexp{z(z, 5(0 —£(“))} =

= exp= expJ J (e< <z> z> — 1) л (s, dx) dX (s) +

= exp

= exp

<ft-i ««6

^(S^O-M^-dF

Переходя к пределу при max(/ft— /ft-i)-»0, получаем следующее утверждение.

Теорема 2. Если ^(t)— скачкообразный процесс с независимыми приращениями, то его приращение 5(0— |(«) (« < 0 имеет характеристическую функцию:

М exp {i (z, 5(0 — 5 (“))} = expМ exp {i (z, 5(0 — 5 (“))} = expHz,x)_ V^dx^dX^Hz,x)_ V^dx^dX^. (1). (1)

М exp {i (z, 5(0 — 5 (“))} = exp

М exp {i (z, 5(0 — 5 (“))} = exp

Hz,x)_ V^dx^dX^

Hz,x)_ V^dx^dX^

. (1)

. (1)

где е~^ = Р {ti > s) — распределение момента первого скачка, а л$(Л) —условное распределение первого скачка при условии, что он произошел в момент s.

Замечание. Из (1) вытекает, что характеристическая функция 5(0 —1(0) имеет вид

ехр | ^ (е<(z- х> — 1)П( (dx)l,(2)

где П# (Л) = J ns (Л) dX (s) — конечная мера на Ят. Покажем, что о

это условие и достаточно для того, чтобы процесс был скачкообразным. Действительно, если величина 5 имеет безгранично делимое распределение с характеристической функцией

е-п W ехр { П ^т) ( е1 t. z> ^^ } = f ^^- e-™ &% № n=0

Ф (0 = "n^m) $ el <z- *>n (dx),

V

to 5 имеет такое же распределение, как 2 Ч», где л* независимы 1

и имеют характеристическую функцию ф(г), a v имеет распределение Пуассона с параметром П(5?т). Значит,

P{^0}^P{v^0}<l-e-n W.

Поэтому, если 5(0—5(0) имеет характеристическую функцию (2), то

Р{Ж-£(4-1)¥=0}<

<1 _ ехр{- П^ОТ + П^_, ^<ПЧ ^ - n(ft_, ^т).

Поэтому выполнено условие теоремы 1.

Рассмотрим теперь однородный скачкообразный процесс 5(0 (см. гл. I, § 3). Очевидно, что в этом случае и процесс v(0 будет однородным. Поэтому функция Х(0 имеет вид Xt, где X— некоторая постоянная. Далее, из (1) вытекает, что

Mexp{i(2:, 6(Л-А) —6(0)} =

t+hj

= ехр= ехрX J (е'^*)-l)ns(dx)ds 1 =

= ехр

= ехр

= exp * X ^ ^ (е/ (z, х) — 1) я$+# ((/х) ds

I о ^

и последнее выражение не должно зависеть от t. Отсюда вытекает, что и л,(Л) от s не зависит. Таким образом, в этом случае величины |(ti)—5(0) и Ti независимы.

Теорем а 3. Если 5(0 (5(0) = 0)— скачкообразный однородный процесс с независимыми приращениями, то процесс 5i(0 = $(^ + Ti)—5(Ti) также является однородным процессом с независимыми приращениями, не зависящим от tj и t]i = 5(^1).

Доказательство. Пусть 0 •< Si < ... < sh, z0, z\Zh г e#™. Тогда_

= lim MexpsГй->0 I= lim MexpsГй->0 IMrh|+'(г” *>i) exp {i 2 (z/> 6 ($/ + Ti) — 5 (t,))} =

= lim Mexps

Гй->0 I

= lim Mexps

Гй->0 I

-Хт^-Н^ ПН + / ^h 5($/ + т№)-5(тЮ)) '(3)

где т^ = nh, если 5 GO — 0 для / = 1, ..., га — 1, 5 («О ^ 0.

Далее, zk\

M exp I — Лт<А> + i (z0, r^W) + i^ ^zh 5 (s, + t<a>) — 5 (t(a>)) J =

= X M exp ( — Xnh + i (z0, 5 (raft)) +n-i <.

+ i S (z/, 5 (s/ + nh) - 5 (raft)) j X^to_nl^ =

= М ехр р S (z,. £ ($/)) f У М ехр {— ХпК + к /=1) п=\

+ i (zq, £ (гай))} Х{т(й)_„й) =

( ь

= Me-XгW+^ <z«- 6 <"А»М ехр 11 У (z/( £ (s/))

Поэтому, переходя в правой части (3) к пределу, получим

Ме-Хт-+‘" <z«- ^ ехр | i Е (Z/, 6 ($/ + тО — £ (tJ) J =

Г 6)

= Ме~ХТ|+< (z«- 1,<>М ехр v У, (з», | ($,)) г. ■ к /-1)

Следствие. Пусть ль Лг, ••• —последовательные скачки процесса £(/), а ть т2, ... —промежутки между моментами, когда они произошли; тогда все эти случайные величины независимы в совокупности.

Действительно, поскольку лг, Лз, • • •, т2, тз, ... полностью определяются процессом gi(/), то ль Ti от этих величин не зависят и, кроме того, независимы между собой.

Так как ^^t) точно так же выражается через т]2, -q3, ..., т2, тз, ..., то т]2, т2 независимы и не зависят от т)зтз, ... Вводя последовательно процессы £п(0=£п-1(^ + тп) — |п_1(тп), убеждаемся, что для всех п величина т]п и т„ независимы и не зависят от Лп+ь тп+ь • • •

Пусть v(/)— число скачков процесса |(s) на отрезке [О,/]. Так как mш+\/ О

v (0 = tn, если У т6 < t < У тй ^2 = О

то процесс v(/) выражается через тй, й=1, .... и, следовательно, не зависит от ла, й = 1, ...

Поэтому

&(/) = £ Ла,(4)

A-l

где г]ь • • • , Ла — последовательность независимых одинаково распределенных величин, a v (/) — не зависящий от них однородный процесс Пуассона. Процесс вида (4) называется обобщенным процессом Пуассона.

Изучим распределение некоторых характеристик для такого процесса в S31. Пусть а — параметр пуассоновского процесса, а Ф(х)—функция распределения величин т)й. Найдем функцию

распределения максимума процесса на конечном отрезке. Обозначим

Q(/, x) = P{supg(s) < х}.

Используя независимость величин тьЦ1 и процесса 5i(0> можем записать при х > О

Q (/, х) = Р {т, > /} + Р { sup I (s) < X, Т! < О =

= Р{Т1>0+Р{Т1<(, Т)1 < х» sup ^(s)<X — Т)1} = 0<$</-т,

t X

= е~0< + \ \ Р {т, е du, -q, е dy} Р { sup ^(s)<x — у) = J J0<s<t—u

0 —oo

tX

= e-at _|_ J e-a« du dФ(1y)Q(lt — U, X — y). 0—oo

При x^O Q(t, x) = 0. Поэтому, полагая ^e-wQ(f, x)dt = q(X, x), о получим

q kk x) =J q (X, x - y) dФ (y)(5)

(q(X, x) = О для x ^ 0). Соотношение (5) выполняется для всех х > 0. Значит, полагая е(х) = 1 при х > О, е(х) = О при х ^ О, (5) можно переписать в виде

^L = e(x) ^q(X, х-^ф^-^^Ф^)].(6)

Покажем, как можно решить уравнение

g(x) = e(x)^(x-y)d[e(y) —-^^- Ф(у)],(7)

</(х) = 0, х^О, где g(x) — некоторая ограниченная функция, g(x) = O при х ^ 0. Пусть 01(f)— некоторая функция ограниченной вариации, для которой Ui (/) = 01 (0) при / >• 0. Из (7) находим ^g(x—0^У1(0 =

= Je(x — t^q(x-t — y)d[e(y) — -^^ Ф(</)]</О1(0.

Если х > 0, то в выражении справа под знаком интеграла можно е(х — /) заменить на е(х), так как интегрирование

ведется на самом деле лишь по отрицательным t. Поэтому 8(х)$&(х — 0^1(0 =

= 8(х)^у(х — t — y)d [е (у) — ^у Ф(у)] dvt (0 = = е(х)^у(х — y^dv^y), где функция ограниченной вариации у2(у) определяется из соотношения

v2(y) = $vi(y — 0<ф(0 — 7^Тф(0]-(8)

Пусть теперь У2(у) таково, что у2(у) = 0 при у ^ 0. Тогда

е (х) $ у (х — у) dy2 (у) = J q (х — у) do2 (у),

так как при х ^ 0

^q^ — y^dv^y^^q^x — y^dvAy^O.о

Значит, в том случае, когда существуют функции У1(х) и у2(х) с указанными свойствами, из (7) получаем следующее соотношение:

е (х) $ £ (х — у) dvx (y) = ^q(x — у) d«i (у).(9)

Последнее уравнение относительно q является уравнением типа свертки и может быть решено с помощью преобразования Фурье. Предложенный здесь метод решения уравнения (7) (такие уравнения называются уравнениями типа свертки на полуоси) принадлежит Н. Винеру.

Покажем, как найти функции У1(х) и у2(х) с требуемыми свойствами. Обозначим

у6 (z) = ^ elzx dofe (х), ф (z) = ^ eUx dФ (х).

Применяя к (8) преобразование Фурье, получим

52(z) = y,(z)[l — 7^7 »(z)].(10)

Но

1 -7J7 Ф(^) = ехр{1п (1 _-А_ф(2))} = вехр|-£т(тЬТф,,(24

Имеем фп (z) — ^ eZzv </Ф„ (х), где Ф„ (х) — функция распределения 1)1 + ... + Пп-

Пусть

б^г) = ехрб^г) = ехр(И)(И)ОО*+0

б^г) = ехр

б^г) = ехр

(И)

(И)

Z-i п \ а + Л / J

П= 1—оо

и2 (z) = expи2 (z) = expаа(12)(12)

и2 (z) = exp

и2 (z) = exp

а

а

(12)

(12)

n—In—I+о+оСоотношение (10) в этом случае выполнено.Соотношение (10) в этом случае выполнено.ПустьПустьа \па \п

n—I

n—I

+о

+о

Соотношение (10) в этом случае выполнено.

Соотношение (10) в этом случае выполнено.

Пусть

Пусть

а \п

а \п

Н- (х) =Н- (х) =п-1п-1Н)“ф-<0>'Н)“ф-<0>'

Н- (х) =

Н- (х) =

п-1

п-1

Н)“ф-<0>'

Н)“ф-<0>'

Тогда

ZtL^-

6-1

- А е(*) + 2.Т^(х) .

где Н^ (х) = Н_ (х), Н^ (х) = j Н^-^ (х — у) dH_ (у). Очевидно, что функция

01(х) = 8(х) + £^-Я^(х)

6-1

имеет ограниченную вариацию и Vi (х) = t)i (0) при х^О. Аналогично устанавливаем, что

V* <-п* Д м »-1

где

0,

х^О,

Н+^ =

, п**1

Я0>(х) = Я+(х),

^)”[Ф„«-Ф.(0)],

Н^=\н^-Чх-МН^.

Функция

МхЬФ) + £ЧЦ>Юй—1

также имеет ограниченную вариацию и иг(х) = 0 при х^О.

Перейдем к определению функции q(X, х). Из (6), (7) и (9) вытекает соотношение

8 ^ $ ^м?" du' ^ = S ^ О. Х — У^dv* ^V 03) Поскольку при х > 0 левая часть совпадает с ■^’^^ . то (13) эквивалентно равенству

J q (X, х — у) dv2 (у).

Переходя к преобразованию Фурье, находим

^-«^^'"dqVX.x).

Учитывая, что Di(0) = Oi(+ °°) = 5i(0),

1 о 4- Л1 о 4- ЛОкончательноОкончательноetz,dq^, х)=1ехр £ 1(etz,dq^, х)=1ехр £ 1(п-1п-1—^—I \(е'гх а + Л 7 J 18о—^—I \(е'гх а + Л 7 J 18о-1)ЙФ„(х) . (14)-1)ЙФ„(х) . (14)

1 о 4- Л

1 о 4- Л

Окончательно

Окончательно

etz,dq^, х)=1ехр £ 1(

etz,dq^, х)=1ехр £ 1(

п-1

п-1

—^—I \(е'гх а + Л 7 J 18

о

—^—I \(е'гх а + Л 7 J 18

о

-1)ЙФ„(х) . (14)

-1)ЙФ„(х) . (14)

Используя представление (4), можем записать

Р {£ (0 < х) = 8 (X) + 2 -Т е'°,ф" М-Л-1

Заметим теперь, что

е-м —-.— e~at dt.ое-м —-.— e~at dt.о1 / а

е-м —-.— e~at dt.

о

е-м —-.— e~at dt.

о

м X. о, 4" X

Поэтому, обозначая Ft (х) = Р {£ (0 < х), будем иметь (в силу того, что j (etex — 1) de (х) = 0) о

J V" J Ketex -\}dFt (х) dt = о о

п=1 0п=1 0ntn~xntn~xпДпД)(^-1)б?Ф„(х)с?/ = о)(^-1)б?Ф„(х)с?/ = о

п=1 0

п=1 0

ntn~x

ntn~x

пД

пД

)(^-1)б?Ф„(х)с?/ = о

)(^-1)б?Ф„(х)с?/ = о

-Zt(ttt) J^'-D^w. л-1О

Следовательно, мы можем выразить правую часть (14) непосредственно через распределение |(/).

Теорема 4. Пусть l(t) — обобщенный процесс Пуассона, F# (х) == Р (^ (^) < х). Тогда для функции

9^. z) = lexp9^. z) = lexpq (X, 2) = ( ( е-м* Ux dP (sup£ (s) < х) di имеет место представление

9^. z) = lexp

9^. z) = lexp

(16)(16)\ ^— )(etox- l)dFt{x)dt

(16)

(16)

oJ о

Следствие. Для того чтобы

P{sup^(/)< + оо}==1,/>0

необходимо и достаточно, чтобы

(17)

о

величинывеличиныЕсли это условие выполнено, то распределение

величины

величины

£+ = sup£(/) определяется характеристической функцией; <>о

Metz$+ = exp j J — J (о о

^-Г^рдх) •.

(18)

Действительно, ( п

Р (sups(0 < 4- 00} = р ) sup 2 Пл = f>0Ч п &=1

А из теоремы 2 § 1 вытекает, что последняя вероятность равна 1 тогда и только тогда, когда

^1(1-ф„(0))<оо.

п=1

Воспользовавшись соотношением (15), убеждаемся, что

00?

21 (I - ф„ (0)) = J1 (1 - ГДО)) dt. п*\О

Формула (18) может быть получена из (16) предельным лере- ходом, законность которого следует конечности меры

J|JdFf(x)di О А

на [0, оо), вытекающей из (17).

Пусть х^О. Обозначим

Tx = inf[Z: 6(0 >х], Ух = £(тх + 0) —£(тх);

г* называется моментом первого перескока через уровень х, ух — величиной первого перескока через уровень х. Если sup6(s)^x, считаем тх = + °°"> У* в этом случае не опреде- $<оо лено.

Найдем совместное распределение величин т* и ух. Обозначим

Nit, у, х) = Р(тх <t, ух>у}.

Очевидно, если ти>х, тх = ть ул = т)1“х* Если *)i^x, то

тх = ^-б- 4-т„ xx = Nx_v

где ту, уу— соответственно момент и величина перескока для процесса 61 (0 = £ (t + tJ — g (ti). Используя независимость ^ (О от т1 и т)ь получаем следующее уравнение:

АГ It, у, х) = Р (tj < О Р (щ >х + у} +

t X

+ ^ ^ ae~asN It — s, у, х — и) йФ (и) ds. (19)

О —оо

Пусть

л (А, У, я) = ^ e~MdtN (t, у, х).о

Применяя к (19) преобразование Лапласа, находим

X

«(X, у, х) = -^у [1 —Ф(* + #)] + у^у $ пкк У, х — и^Ф^и).

(20)

Это уравнение можно рассматривать при фиксированном у. Будем считать, что п(Х, у, х) = 0 для х < 0. Тогда его можно переписать так:

8(х)-^гП-ф(х+у)] =

= е(х) ^ п(к, у, х — w)d[e(u) — т^Ф(«)]«(21)

Это уравнение вида (7). Поэтому для него справедливо соотношение (9):

е (х) J в (х — ы)-^ф^-[1 — Ф (х — и + «/)] d»! (м) =

= п (X, у, х — и) dv2 (а).

Умножая это соотношение на г^ и интегрируя по х от 0 до оо, получаем

j ^ е(х — и)- ^^ [1 — Ф (х — и +y'^e~*du1(u)dx =

О °оооо

= e-vtUdu2^ п(Х, у, x)e~*ut dx. о ■о

Из (12) вытекает, что

«Ооо”)

J e-^dv2 (и) = ехр - 21 (т^т)" J ^ d<I>n ^ | ’

0П«1о)

Поэтому

QO

оо$п(Л, у, x)e~^xdx = exy о

о

о

Воспользуемся теперь тем обстоятельством, что преобразование Лапласа свертки двух функций есть произведение преобразований Лапласа, и равенством

ехрехрЁ^СтттУ^-ч^и n=JОЁ^СтттУ^-ч^и n=JО= Х Je-^CX, х), о= Х Je-^CX, х), о

ехр

ехр

Ё^СтттУ^-ч^и n=JО

Ё^СтттУ^-ч^и n=JО

= Х Je-^CX, х), о

= Х Je-^CX, х), о

которое вытекает из (14); находим

п(Х, у, х) = Хехрп(Х, у, х) = ХехрLa п X а + Л / J П-1оLa п X а + Л / J П-1о

п(Х, у, х) = Хехр

п(Х, у, х) = Хехр

La п X а + Л / J П-1о

La п X а + Л / J П-1о

X S S ТГх [1 - Ф (^ - Z - ы + У)] dvv («) dq (X, z).(22)

Пусть q_ {К, х) определяется равенством

^ etzx dq_ (X, х) = у ехр^ etzx dq_ (X, х) = у ехрЁМтТгУ $(«'"-D^w!.(23)ЁМтТгУ $(«'"-D^w!.(23)

^ etzx dq_ (X, х) = у ехр

^ etzx dq_ (X, х) = у ехр

ЁМтТгУ $(«'"-D^w!.(23)

ЁМтТгУ $(«'"-D^w!.(23)

Легко убедиться, рассматривая процесс — g (/), что

Ч_^.Ч_^.х) = ( е-х'Р (inf | (s) < х) dt.х) = ( е-х'Р (inf | (s) < х) dt.(24)(24)

Ч_^.

Ч_^.

х) = ( е-х'Р (inf | (s) < х) dt.

х) = ( е-х'Р (inf | (s) < х) dt.

(24)

(24)

Функция q_(X, x) выражается через ujx) в силу (11) следую

щим образом:.

| ооО

У1 W-У1 W-^_ (Л, X) = 1 ехр j - X т (ттх У J ^(*>

У1 W-

У1 W-

I п*\— оо

Подставляя выражение ^ (х) через q_ (X, х) в (22) и воспользовавшись равенством

—_ о Ч- Л

а + Х находим окончательно

п(Х, у, х^ = \а ^ [1 —Ф(х + у — и — z)] dq_ (X, г)^(Х, и). (25)

Используя еще раз то обстоятельство, что произведение преобразований Лапласа есть преобразование Лапласа свертки,

можем обратить (25). При этом заметим, что

М- ^. z) = -^Q_ (t, х) de-M =

О

гдегде= Q_ (О, х) + ^ Q. (/, х) е-м dt = е (х) + J e~MdtQ„ (/, х), оо

где

где

Q_ 0\ х) = Р {inf g (s) < х}.

Поэтому ^М_(А, z — u^dq^k, и) является преобразованием Лап- t

ласа функции Q(/, 2) + ^Q_(/ — s, 2 —- и) dudsQ (s, и\ Значит, о

NV, y, x) = a J [1 — Ф(х + У — ^)] d2QV, 2) +

t

+ a [1 — Ф(х +y —2)]dz ^Q_(/ —s, 2 — u)dudsQ(s, u\ (26) 0

§ 3. Непрерывные процессы. Винеровский процесс

В этом параграфе рассматривается непрерывный процесс с независимыми приращениями |(/), определенный на некотором отрезке [О, Г] и принимающий значения из 91™. Будет доказано, что в этом случае приращения процесса имеют гауссовы распределения. Будем обозначать через 2,+ (^т) множество линейных неотрицательных симметричных операторов в 91™.

Теорема 1. Существуют такие непрерывные функции a(t) и B(t) со значениями в 91™ и 9?лД91™^ соответственно, при этом B(t) не убывает (В(/2)— B(ti)^ 2'+(S?m) при ti <L ta^. что характеристическая функция приращения g(/2)—g(/i) (0 < 0) имеет вид

М ехр {/ (z, g (/2) — £ (Ш =

= exp {i (z, a (£>) — afo)) — у ([B (4) — В (Л)] z, z)}. (1)

Доказательство. Для того чтобы установить (1), достаточно показать, что |(/2) — В(Л) имеет нормальное распределение. При этом можно предполагать, что |(0) = 0, /1 = 0 и процесс принимает значения в 521 (вместо процесса g(7) можно рассматривать процесс (|(0,z)). Возьмем последовательность разбиений 0 = = ^о< ••• </пп = / такую, что max(^ —/„fe-J^-O. Из не-

прерывности процесса вытекает, что для всех е > О п

lim ZP{l^(U)-6(^-i)l>e} = 0(2)

п-^оо к=\

(см. теорему 4, гл. IV, §5). Из (2) вытекает существование такой последовательности еп |0, что

Hm ZP{IB(U)-|(U-i)l>««)==0.(3)

П->оо к=1

Положим

Г ^^пк)^(^пб-1)> если I^(^лб)^ (^п л—i) I ^ 8„, U==l 0, если |£(U)-£(U-i)l>e„.

/"пп\

Тогда Р ) 1(0 ^ S ^>пк । ^ 2 Р {I ? Vnk) £ ^пк-\) I > е«} ( и> зна- (к~Х )к=\)

п

ЧИТ, ^1пк сходится по вероятности К g(0. к*\

Из центральной предельной теоремы для схемы серий вытекает, что / nnх I п

( Z Ink - М ^lukj/D Z U Хй-1Л=1 // Л-1

имеет предельное невырожденное нормальное распределение, ' п

если только limD ZU>0. Но тогда и величина

Я->со ^”1

^(0-м Zu)/d Zu

Xл-i // k-i

будет иметь предельное нормальное невырожденное распределение, что возможно лишь в том случае, когда ^^t) имеет нормальное распределение. Если же для некоторой последовательности пг

тотоlim D Z lnrk-*0. r->oo k=*t г

то

то

"гпг

Z %n.k_ м Z §пгл —*■ о

Л-1 гЛ-1 г

по вероятности, поэтому и

uo-м S^r6->0к-Х

по вероятности, что возможно лишь в том случае, когда §(/) с вероятностью 1 постоянна. ■

Если g(/)— однородный непрерывный процесс, то существуют aeSi™ и Ве^^) такие, что функции а(/) и В(/), входящие в формулу (1), имеют вид

а(/)=/а,В(/) = /В.

Однородный процесс w (/), для которого а = О, В = I (7 — единичный оператор), называется винеровским процессом. Если В1'2 обозначает (неотрицательный) квадратный корень из неотрицательного оператора В, то процесс

^(t) = ta-(-BM2w(t), где w(t)— винеровский процесс, будет однородным гауссовым процессом с независимыми приращениями, для которого

М exp {7 (z, g (0)} = exp p (z, a) — у t (Bz, z)}.

Через винеровский процесс можно выразить и процесс с характеристической функцией (1), если только функция B(t) дифференцируема. Для такого представления понадобятся стохастические интегралы по винеровскому процессу вида

т

^Z(t)dw(f),(4)

о

где Z^—некоторая операторная (неслучайная) функция. Выберем в &т некоторый ортонормированный базис (вь ..., ет}. Положим гуд(/) = (е&, ф(7)). Так как

М ехр| iW>k (01 = М exp | i (^ Wk. w(/)) | =

(/ тт\ \гт\

= exps — y(2x6eA- ^xAek)f = exP) — Т^^ I’ А\*-1А-1/ )Ife_i)

то процессы Wk (/)— независимые между собой одномерные винеровские процессы. Каждый из этих процессов является, очевидно, процессом с ортогональными приращениями: при ^ < .< ^2 < ^3-

м (wk (/3) — wk (/2)) (wk (t2) — Wk (/1)) =

= М (wk (<з) — Wk (У) м (w* (t^ — Wk (/1)) — 0,

кроме того, М|ш(4)—wk(ti) |2 = t2 —1\.

Поэтому определены интегралы

т

f ^dwfe (s)

о

для всех f е S’z [О, Л (см. гл. V, § 3).

Интеграл (4) определяется с помощью соотношения

J z (0 dw ф = X (S s(z ^ е>’е^ dwi ^ Гк- (5) оЛ-1 \-i о'

Этот интеграл определен для всех измеримых операторных функций Z(t), для которых

г

$SpZ(/)Z* ^dt<oo о

(здесь Z*— оператор, сопряженный Z, SpZZ* —след оператора ZZ*).

Легко убедиться, используя (5) и независимость процессов а>)(0> ЧТО

г

М $Z(/) dw (/) = 0,

(6)(7)(6)(7)о

(6)

(7)

(6)

(7)

/ ГГX т

М Н Zx ^ dw (0, J Z^ (0 dw (0 ) = J Sp Z! (/) Zj (0 dt,

M0'0

(ГX2Г

J Z, (0 dw (0, z j = $ Z, (0 Z* (0 z, z) dt.

0'0

Кроме того, интеграл (5) имеет гауссово распределение (поскольку он является пределом интегралов от простых функций, которые линейно выражаются через приращения винеровского процесса и поэтому имеют гауссово распределение).

Пусть теперь С(0 = (-^-В(0)1/2- Тогда процесс

t

l(t) = a(t)+\c{s)dw{s}а

будет гауссовским; в силу (6), (7)

М£(/) = а(/),/1х2

М ^ (/) — а (0, з)2 = М Н С (s) dw (s), 2 j =

=i(G<(w^=О

= \^В г> 2) = W 2, 2) - (В (0) 2, 2). О

Следовательно, приращение процесса £(/) имеет характеристическую функцию (1).

Заметим, что всегда можно указать строго возрастающую функцию ХЦ^ такую, чтобы В(/) было абсолютно непрерывно относительно Х(/). В качестве такой функции можно, например, взять X(t) = / + Sp[B(<)— В(0)]. Так как для неотрицательного оператора В выполнено неравенство II В || ^ Sp В, то при Л < /2

IIВ(/2) - В (/t) ||< Sp [В (/2) - В (6)J < X (/2) - X (О-(8)

Если теперь ф(/)—функция, обратная к X(t): Х(ф(/))=/, то процесс |(0 = £(ф(0), будет иметь характеристическую функцию приращения

М exp {* (2, j (/2) — ((/0)} =

= exp {i (2, a (/2) — a ^ — 4 ((S (/2) — В (/,)) z, z)},

где й(0 = о(ф(0), В (/) = В (ф (0), при этом в силу (8)

IIВ (/2) - В (ZDII < X (ф (У) - X (ф (Л)) = 4 - /ь

т. е. В(/) уже абсолютно непрерывно. Так как £(/) = |(Х(0), то можем утверждать, что всякий непрерывный процесс с независимыми приращениями может быть получен из суммы непрерывной неслучайной функции и стохастического интеграла вида (5) с помощью непрерывной монотонной (неслучайной) замены времени.

Винеровский процесс называется также процессом броуновского движения. Это название объясняется следующим обстоятельством. Рассмотрим движение достаточно малой частицы, взвешенной в жидкости, под влиянием соударений с находящи-

мися в хаотическом тепловом движении молекулами жидкости. В физике это явление носит название «броуновского движения».

При вероятностном изучении этого явления естественно считать скорости молекул, с которыми соударяется частица, случайными, причем для однородной жидкости нужно считать, что распределение скорости не зависит от положения молекулы (оно может зависеть лишь от температуры, а она всюду одинакова). Если предположить, далее, что скорости различных молекул независимы между собой, пренебречь инерцией частицы, то тогда смещение частицы из любого положения за некоторый промежуток времени не будет зависеть от положения частицы и ее предыдущего движения. Следовательно, процесс g(Z) в ^3, описывающий положение частицы в момент времени I, будет процессом с независимыми приращениями. Кроме того, из физических соображений очевидно, что он будет непрерывным и однородным по времени, если физическое состояние жидкости не меняется со временем. Но всякий непрерывный однородный процесс с независимыми приращениями будет гауссовым. Будем считать, что в начальный момент времени положение частицы совпадало с началом координат, т. е. |(0) = 0. Пусть М£(/) = = а(/), D (£(/),z) = (Bz,z), a(f)— вектор из З?3, В — симметричный оператор в %3. В случае однородной жидкости при отсутствии течений процесс должен быть изотропным (поскольку распределение проекций скорости молекулы жидкости на произвольное направление не зависит от этого направления), т. е. (a, z) и (Bz, z) при |z| = 1 не должны зависеть от z. Это возможно в том случае, когда (а, г) = 0, (Bz, z)= c(z, г). Так, используя самые общие соображения, мы пришли к определенному выше процессу броуновского движения, рассматривая физическое явление, носящее то же название.

Изучим подробнее одномерный винеровский процесс.

Пусть а#=0 — некоторое число. Обозначим через т0 такой момент времени, что да(/)/а^1 при / ^ т0, а при любом б >0 sup -®l!£L > 1. Если wUUa ^ 1 для всех t, то пола- to««o+6«

гаем т0 =+<». т0 будем называть моментом первого пересечения процессом да (О уровня а.

Пусть теперь .т'— такой момент времени, что да(/)/а<1 при t < т', да (т') = а. т' будем называть моментом первого достижения процессом да (/) уровня а. Очевидно, что т' ^ та. Оказывается справедлива

Лемма 1. Р{т' = tJ = 1.

Доказательство. Ввиду симметрии процесса да(/) (—да(/) имеет такие же распределения) считаем, что а > 0. Событие

{Та < т0) влечет хотя бы одно из событий

{ max t<y(s) = a}, г = 1,2, ..., т = 1,2, ..., г < mt.

0<s < —^

Поэтому для доказательства леммы достаточно показать, что при а > 0

Р{ max t^(s) = a} = 0,о<$</

каково бы ни было /; легко видеть, что при ^ < /

Р{ max ty(s) = a)^P{ max ty(s) = a} + 0<S<<0<S«,

a

+ ( P (гу fo) e dx) P { max ф (s) — ф ft) = a — x).

Ho P { max ty (s) — ty ft) = z) может быть отлично от нуля не более чем для счетного числа различных z, т. е. Р{ max ®(s) — — tyft) = a — х} = 0 почти для всех (по мере Лебега) х. Значит, а

S

P {w ft) е dx) Р { max ф (s) — ф ft) = а — х) = со/j^S^f

"1 f

= —7= \ Р{ max ф (s) — tyft) = а — х)е 2,1 dx = 0, V2m/| _^<,<$«

так как подынтегральная функция равна нулю почти всюду. Таким образом,

Р{ max zy(s) = a)^P{ max £y(s) = a), 0<S</0<S</!

т. е. Р{ max ty(s) = a) не убывает при /|0, и в то же время, 0<$</

ввиду непрерывности ф^1\ Р { max ty (s) > е}->0 при е>0, /—>0. Поэтому

Р{ max ty(s) = а)^limPf max ф(s) > -^-1 = 0. ■0<s</Zi'I'O (o<s</2 J

Эта лемма позволяет нам в дальнейшем не различать время первого достижения и время первого пересечения уровня а. Мы будем и то и другое обозначать та.

Для изучения некоторых характеристик процесса ф^ будет использоваться следующая

Лемма 2. Пусть ф^—процесс броуновского движения, а^О и т0 — момент первого пересечения процессом ф(^

уровня а. Определим процесс Wi(t) соотношениями-. шв (/) = = да(/) при t < т0, и»! (О = 2а — w(f) при t ^ ха. Тогда процесс W\(t) также будет процессом броуновского движения.

Доказательство. Положим wnfe = to (^ — to (^ *) • ^^ (0=

Ww f—'j

= Z ®nk, to^ (/)= Z (—1 )e"ft ^ak. где enk=0, если sup —— <

k^ntk<ntI^k-1 a

^1, и е„й= 1, если sup > 1. Заметим, что величины

/<»-i а

k—X^^Wnfe при ^ = 1, 2, ... независимы между собой и одинаково распределены, причем распределения их совпадают с распределениями величин wnk. Это вытекает из того, что tonk и —wnh одинаково распределены, a tonk не зависит от enk, w^, ... ... , Wnk-ь Следовательно, а>„б(— 1)’п6 имеют нормальное распределение со средним 0 и дисперсией 1/п. Поэтому конечномерные распределения процессов wW^t) и ^(О совпадают. Доказательство леммы получается, если заметить, что ww (/)->«> (0, wV' (/) -> wi (0 с вероятностью 1 ввиду непрерывности процесса броуновского движения.

Используем доказанную лемму для нахождения распределения таких характеристик процесса, как max w(tY min w(tV 0<<<Г o<t<r max | to (t) |.

0<<<r

Теорема 2. При a > 0

P { max to (0 > a, to (T) e [c, d]} = o«<r

1УайТ1УайТdVacVadVacVax2e 27 dx 4x2e 27 dx 41У2яГ1У2яГ(2a~c) Va(2a-d)Va(2a~c) Va(2a-d)Vax2e « dx.x2e « dx.(9)(9)

1

УайТ

1

УайТ

dVacVa

dVacVa

x2

e 27 dx 4

x2

e 27 dx 4

1

У2яГ

1

У2яГ

(2a~c) Va

(2a-d)Va

(2a~c) Va

(2a-d)Va

x2

e « dx.

x2

e « dx.

(9)

(9)

где a V b — max [a, Z>].

Доказательство. Воспользуемся соотношением

P { max to (t) > a, to (T) e [c, d]} = P {ty (Г) e [c, d] f| (a, oo)} + 0^ t ^T

+ P { max to (/) > a, to (T) e [c, d] f) (— oo, a]} . o<«r

(справедливость его вытекает из того, что событие {а>(Т)е е[с, d|n (a, со)} влечет событие { max ty(/)>a}). Найдем те-

•a<t<T

перь вероятность

Р { max to (0 > a, w (Г) ® [с, d] П (— 00, «В- о«<т

Пусть о»! (/) — процесс, определенный так, как в лемме 2. Тогда событие { max хю(^>а, ty(T)e[c, d]n(—оо, а]} совпадает 0<КТ

с событием { max оуt (0 ^ a, ay i (Г) е [2а — d, 2а — с] П [а, оо)}. 0«<Т-

Но событие V®! U3G [2« — d, 2а — с] П [а, °°)} влечет событие { max wt (/) ^ а}, поэтому

0<<<Т•

{ max ay, (/) ^ а, u»i (Г) е [2а — d, 2а — с] П [а, °°)} =

= {t^ (Г) е [2а — d, 2а — с] П [а, °°)}

Значит, на основании леммы 2

Р{ max w^f)> а, ф(Г)е[с, d]f|(—°°, 4} =0<f<r (2a-c)va v2=\ е ^ dx.v (2a~^)VaР{ max w^f)> а, ф(Г)е[с, d]f|(—°°, 4} =0<f<r (2a-c)va v2=\ е ^ dx.v (2a~^)Va(Ю)(Ю)Кроме того,Кроме того,dVadVaР (tw^e [с, d]A [а, со)} = ^с VaР (tw^e [с, d]A [а, со)} = ^с Va1*2-J=e"^dx.-\/2лГ1*2-J=e"^dx.-\/2лГ(Н)(Н)

Р{ max w^f)> а, ф(Г)е[с, d]f|(—°°, 4} =

0<f<r (2a-c)va v2

=\ е ^ dx.

v (2a~^)Va

Р{ max w^f)> а, ф(Г)е[с, d]f|(—°°, 4} =

0<f<r (2a-c)va v2

=\ е ^ dx.

v (2a~^)Va

(Ю)

(Ю)

Кроме того,

Кроме того,

dVa

dVa

Р (tw^e [с, d]A [а, со)} = ^

с Va

Р (tw^e [с, d]A [а, со)} = ^

с Va

1*2

-J=e"^dx.

-\/2лГ

1*2

-J=e"^dx.

-\/2лГ

(Н)

(Н)

Из (10) и (11) и вытекает доказательство теоремы. ■.

Следствие. При а >. 0‘ '

2 C -

P { max ty (/) > a) = —i== \ e 2Г dx.o<t<TV2nr J

Последняя формула вытекает из теоремы 2, если [с, d] = = (00, оо).

Теорема 3. Пусть at <0 < а2 и [с, d] cz [at, а2у Тогда

Р { min w (/) > ab max w (t) < a2, ty(T) e [c, d]} =

0<f<r0<t<T

oo

~VSF S J^pf-^tx + ssto-o,))2}- fee —oo c

— exp | — -^r (x — 2ог + 2Й (a2 — a^)2 j j dx. (12)

Доказательство. Обозначим через Sift* событие, заключающееся в том, что процесс te> (f) на отрезке [0, Т] пересечет уровень Ui раньше, чем уровень Uj (j =# i, i, j = 1,2), и затем не менее ^ раз пресечет отрезок [at, a2] (считается, что функция x(t) к раз пересекает отрезок [ab а2], если функция sgn(x(/) — ai)^ ^f-sgn(x(Z) — а2) к раз меняет знак), и ty(7)e[c,d]. Искомая

вероятность может быть выражена следующим образом:

Р Vw (Г) е [с, d] } - Р {91^} - Р {<>}.

Для подсчета Р {9to*} найдем вероятности

Р {<’} + Р №J = Р {«V’ и «й|} (< ¥= /, Л / = 1,2).

Событие ^°U9lV+i, как легко видеть, заключается в том, что процесс w(t) до момента Т пересечет уровень сц (не обязательно раньше, чем а,), затем не менее к раз пересечет отрезок [аьйг] и при t = Т попадет в отрезок [с, d]. Пусть tz — момент первого пересечения уровня а£, т2 — первый после Ti момент пересечения а,, т3 — первый после т2 момент пересечения сц и т. д. Положим a>i(f)=tw(/) при ^<Ti, ш#1 (<) = 2®(т1)—w^ при t ^ ть ф2(0 = ^1(0 при /<тг, а>2(0 = 2а>(т2)—ач(/) при t > тг, w^t\= w2(t) при /<т3, 1У3(0 = 2гу2(тз)—«МО при / ^ тэ и т. д. Заметим, что процессы Wi(t) будут процессами броуновского движения, так как тг является моментом первого пересечения процессом «^-1(0 уровня

az + (/— !)(«< — afy

Если происходит событие 91* * U 91*+р то процесс wk+1 (/) при t <Т поочередно пересекает уровни

аь at + (az — az), ..., az + к (а£ — a,)

и в момент Т попадает в отрезок [с*, d*], где

с* = с + (^+!)(«, — «/), 1

.. । ,. . 1Х/ х f при нечетном к,

dn^d + ik+iyiai — af) )

ск=2а£ — d + к (а£ — аЛ, )

. n , ., х ( при четном к. dk=2a£ — с -V к\а£ — а}) ) г

Наоборот, если w+I(Z) удовлетворяет перечисленным условиям, то тогда происходит событие 91йг)и^+1- Так как хвкл.\^—непрерывный процесс, обращающийся в нуль при / = 0, то для того, чтобы попасть в промежуток [с*, dj, a>*+i (/) должен последовательно пересечь уровни a,4-/(az—«?), / = О, .... к. Поэтому

Р {М° и «ЙД = р ^wk+i (Г) е [Сй, dft]} = Р {щ (Г) е \ск, dk\}.

Из непрерывности процесса w(t) вытекает, что с вероятностью 1 он пересекает отрезок [(zb аг] конечное число раз, и, следовательно, р №->о при к-* оо. Переходя к пределу при п-*оо

в соотношении

р №п} + р {иН=(-i)"+1 [р №J + р MJ ] +

+ Е (- 1)Чр № + р W} + р WJ + р WJ),

получим

со2

р W)+р W>} = 2 <—1)* 2 (р W) + р №.})= fe-01-1

= j__y Г УЗлГ ^ |_= j__y Г УЗлГ ^ |_2at-c+2fe(a—ах>

= j__y Г УЗлГ ^ |_

= j__y Г УЗлГ ^ |_

$exp^ — -^)dx +

2ax—d*2k^a2—ax)2ax—d*2k^a2—ax)2ai-c*2kkai-ax>d-2(fc+l) (a2-ai)2ai-c*2kkai-ax>d-2(fc+l) (a2-ai)2a2-dA-2kka2~ax)с-2<кА-\Цаг-ах^2a2-dA-2kka2~ax)с-2<кА-\Цаг-ах^d*2(k*n^-ax)d*2(k*n^-ax)

2ax—d*2k^a2—ax)

2ax—d*2k^a2—ax)

2ai-c*2kkai-ax>d-2(fc+l) (a2-ai)

2ai-c*2kkai-ax>d-2(fc+l) (a2-ai)

2a2-dA-2kka2~ax)с-2<кА-\Цаг-ах^

2a2-dA-2kka2~ax)с-2<кА-\Цаг-ах^

d*2(k*n^-ax)

d*2(k*n^-ax)

\ exp | — -^-1 dx c+2(ft+l)(a2~ai)

Поэтому искомая вероятность равна

ууd+2fc(a2-ax)d+2fc(a2-ax)c+2fe(a2-ai)c+2fe(a2-ai)X22ТX22Тdx —dx —

у

у

d+2fc(a2-ax)

d+2fc(a2-ax)

c+2fe(a2-ai)

c+2fe(a2-ai)

X2

2Т

X2

2Т

dx —

dx —

2а2—с-^2к(аг—ах>

exp

2аг—d*2k (a2~a0

Полагая в первом интеграле под знаком суммы х— — 2&(0г— О|) = о, а во втором 2^ (аг— а1)4-2аг — х = и, получим формулу (12). ■

Следствие 1. Совместное распределение величин max w (О о«<г min w (0 при ai < 0, аг > 0 дается формулой 0<t<T

Р{ min ay(f)>Oi, max ау(0<а2} = 0<t<T0<<<Г

ОО ^?

= ^ ^ ^^{-^-(х + г^ог-а!))2}- к=—оо ах

— ехр | — ^г (х — 2а2 + 2^ (аг — а^)21 ] dx. (13)

Следствие 2. При а > 0, [с, d\ cz [— а, а\

Р { шах | w (01 < a, w (Г) е [с, d]} =-

0<(<Т

р 00

= 7^- 5 2 (~ O^pf-^* —26а)2р*- (14) С &=—оо

§ 4. Строение общих процессовс независимыми приращениями

Пусть ^(t) — сепарабельный стохастически непрерывный процесс с независимыми приращениями, определенный при t е [О, Г] и принимающий значения из конечномерного евклидова пространства X. Тогда он на основании § 4 гл. IV с вероятностью 1 не имеет разрывов второго рода.

Для каждого е > 0 с вероятностью 1 будет лишь конечное число таких точек t, для которых ||(/ + 0)—6(f— 0) | > е.

Пусть Хе = (х: |х|>в}, Эе — о-алгебра борелевских множеств, целиком лежащих в Хе. Из сказанного выше вытекает, что для всякого Л е Эе число точек t из [0, 7], для которых £(f4-0)— £(/— 0)еЛ, с вероятностью 1 конечно. Обозначим через v(t, Л) число точек $е[0, /), для которых ^($ + 0) — — £($— 0)еЛ. Процесс v(t Л) имеет независимые приращения, поскольку v(/2, Л) — v(fb Л) при Л < t2 полностью определяются приращениями 6(s) — g(fi) при ss[fi, /2], и, значит, приращения v(f, Л) на непересекающихся интервалах выражаются через приращения 6(f) на непересекающихся интервалах. Кроме того, v(f. Л) будет стохастически непрерывным процессом (если бы при t' —1->0 величина v(f', Л)— v(f, Л) не стремилась к нулю по вероятности, то тогда бы и P(|6(f') — 6(f) I > От^О, а это невозможно ввиду стохастической непрерывности 6(f))-

Поскольку v(f, Л)—стохастически непрерывный скачкообразный процесс, все скачки которого равны 1 (и, следовательно, v(f. Л) есть число скачков этого процесса на отрезке [0, fj), то в силу следствия из теоремы 1 § 2 v(f. Л) имеет пуассоновское распределение.

Положим II(f, Л)= Mv(f, Л). Тогда функция множества n(f, Л) (при фиксированном f) является мерой на Эе-

Действительно, если Л = J Л* и Л* попарно не пересе- 6-1'

каются, то v (f, Л) = £ v V. А^ и, следовательно, 6-1

Mv(f, Л)= £Mv(f, Л6)

6-1

ввиду того, чтоп

0< Zv(f, дй)<у(/, 4).

к-1

Для изучения свойств величины v(/, Л) полезно рассмотреть процесс £(/, Л), определяемый соотношением

I & 4) = Z К (s + 0) - 5 (s - 0)] Хд 6 ($ + 0) - 5 (s - 0)), s<t

где ха(х)—индикатор множества 4. Другими словами, £(/,4) является суммой скачков процесса 5(0, которые произошли до момента t и попали в множество 4. Если 4 е 5Эе, то число таких скачков с вероятностью 1 конечно, так что 5(t4) имеет смысл. Из стохастической непрерывности v(f, 4) вытекает стохастическая непрерывность §(/,4). Кроме того, 5(^,Л) является процессом с независимыми приращениями. Важнейшее свойство процессов 5 (^ 4)—независимость процессов ^1, 4|), ..., |(/,4й) при попарно непересекающихся множествах 4Ь42, ..., 4л— вытекает из следующей теоремы.

Теорема 1. Для всякого Ле$£ процессы £(/,4) и 5(0— — 5 (/, 4) являются независимыми процессами с независимыми приращениями.

Доказательство. То, что 5(0—£(^, Л) является стохастически непрерывным процессом, вытекает из стохастической непрерывности процессов 5(0 и ^t,AY Те же соображения, что и относительно v(f,4), позволяют утверждать, что процесс [£(/,4); 5(0—5(*,Л)] в XXX также будет процессом с независимыми приращениями. Для доказательства независимости процессов 5(^,4) и 5(0—1(^,4) достаточно поэтому установить, что при 21 и z2 е X, s < t будет

М exp {i (2Ь 5 (/, 4) — 5 (s, 4)) +

+ i (z2, 5 (0 - £ V, 4) - 5 (s) + 5 (s, 4))} ='

= M exp {/ (2i, 5 (/, 4) - 5 (s, 4))} X

X M exp V to, 5(0-1 (t, 4) - 5 (s) + 5 (s, 4))}.(1)

Действительно, из независимости приращений процесса (5(/,4);5(0—£(/,4)] вытекает, что для любых 0 < О < ... ... < tn = Т, z\l\ z^ е X выполняется соотношение

С п

м exp i z Е(^&), 6 to Л) - 5 &-ь 4)) +

+ (z^, W-lto л)-5(4-,) + ^^-1, л))]} =

= М exp [ i £ <^\ 5 to 4) - 5 (^_ь 4)) ) Xк &=1)

X м exp р z ^\ 5 ^ - 5 to Л) - 5 (^-1) + ^ (^-1, Л)) !,

а это означает независимость процессов £(/, Л) и |(0— g(t Л). Докажем соотношение (1) сначала для того случая, когда П(Г, Га) = 0, где Га — граница множества Л. Заметим, что в этом случае у процесса £(/) с вероятностью 1 отсутствуют скачки, попадающие на Га- Пусть s = tn0 < tni < ... < ^nn = = t и

lim max (frtfc+i — ^) = 0./l->oo к

Тогда, если XaW — индикатор множества А, то с вероятностью 1 выполняется соотношение

Ut, A) — %(s, А) =

= Пт Z Хд (5 (ink) - § dn. »-i)) 6 (ink) -1 (^. »-i)L(2)

/l->oo &=|

Положим

ink=xa 6 (u) - § (tn. ft_a) ш (t^ -1 (tn. »-i)],

Лпб£ (tnh)6 (tn. k— 1)?»£•

Для доказательства (1), принимая во внимание (2), достаточно показать, что

{

пп

i 5 (2b Ink) + i Z (z2. iw)

fc=l&=1

— Mexpt i Z (Zi, Ink) } M exp { i Z (z2, tint)( »-i)I k-t

Воспользовавшись независимостью пар (^„6, гы) и неравенством (при |aft|<l, |6»К1)

пJL-П ак - П Ькк=\к=\пJL-П ак - П Ькк=\к=\п< Е I ак — Ък |, к-1п< Е I ак — Ък |, к-1

пJL-

П ак - П Ьк

к=\к=\

пJL-

П ак - П Ьк

к=\к=\

п

< Е I ак — Ък |, к-1

п

< Е I ак — Ък |, к-1

убеждаемся, что

ппп

п

п

— М ехр< / Z (zb £nfe) } М exp { I Z (z2, П«б) f =I к=\)I к-\)

п

= П М exp {I (zb ^пк) 4- i (z2, n„ft)} — Jk=l

n

— П M exp {i (zb S„fc)} M exp {/ (za, rj^)} < Jk=l

a *

< Z I M exp {t (zb Ink) + I (Z2, Пп*)} — fc-i

— M exp {i (zb gnft)} M exp {/ fe, t)«J} I-

Так как (2Ь ^)(г2, т)^) = О (т. е. обе эти величины не могут одновременно быть отличными от нуля), то

е'^г^+Ч^ ^ = 1 + £ №.и)-Н^ v\nk))m ^ т=\

= 1 + 2 Р^"т\к^т + ^Т^] =el(z*’^ +е'^""^-1 • т-1

Поэтому

| Mexp{i(zb ^ + i(z2, т^)} — Mexp{f(zb g„fe))Mexp{/(z2, n™*)} 1= = | М exp (i(zb gnft)} — 1||М exp{Z (z2, nnft)} — 1 I- Ho

I М?(г>’^) - 11 < M | e'(z-- 11 < 2P {| UI > 0} =

= 2Р{хл(6(^)-Ц/„,б-!))>0} и для всякого р > 0

I_ 11 ^ sup 11 _ еЧЧ' >=) | _|_ 2Р {| Т)„6 I > р).

1х|<р Следовательно,

{

/ п\✓пXX

Z|zb EuJ + 422, Zn«Jf —

X6=1/X6=1/ J

Г/П-XXГ/ПXX

— Mexpplzb Z£»J f Mexps i tz2, Zn^lf <

XXfe=i/ )xXfe=l/ )

< iim ( sup I e‘^> x> — 1 | + 2 sup P {I n«d > p}) X n-^oo |x|<pк

x ins 2 z p {xa a (#„») - g vtt. ft-i)) > o)= n-^oo k=\

= 2 Hm ( sup |е‘<гь^)— 1 | + 2sup P{|т)пл I > p}) X n-»oo |xKpк

X IIS M Z%4ao-g(^ft-i)).

П-^оо 6=1 Так как при p<e (Ле23е)

P{|WI> p}<P{lt(M-t(^.»-i)l>p}, то из равномерной стохастической непрерывности |(/) вытекает, что lim Р {| T)„ft | > p} = 0. rt->oo

Учитывая то, что.

lim Z Ха(М^й) — 5 (/«.»-i)) = v(Z, 4)-v(s, Л)

П->оо 6=1

с вероятностью 1, точно так, как при доказательстве теоремы 1

§ 2, находим, что

to м Д Хл a ^ - g &, 6_ ах

< - In Р (v (/, Л) — v (s, Л) = 0} = С < оо.

Таким образом,

// п X

lim М ехр 1 И 21> 2бп6 ) + 1

— М exp s i

<2С sup le1^-^— 1 |.

|х|<р

Переходя к пределу при р->0, получим (1), что и доказывает теорему для того случая, когда П(Г, Гд) = 0.

Переходя к общему случаю, заметим предварительно, что совокупность множеств 91, для которых теорема справедлива, образует монотонный класс (см. Халмош [1], гл. 1, § 6), так как для любой последовательности множеств Лп из 8е с вероятностью 1 справедливы соотношения

/ П X

Ц1, 1Ш= Нт ф, U л),' X п / П->оо X 6=1/

п \Л лй)к-1 /п \Л лй)к-1 /|Ц, ГЩ=Ит^,X П / П->оо X

п \Л лй)к-1 /

п \Л лй)к-1 /

и операция предельного перехода не нарушает независимости случайных величин. Легко также обнаружить, что в том случае, когда е > 0 таково, что П(Т, Гхе) = 0, множества Л из Эе, для которых П(Г, Гд) = 0, образуют алгебру множеств. Но всякая монотонная алгебра является о-алгеброй (см. Халмош [1], гл. 1, § 6), так что 91 является о-алгеброй. Наконец, заметим, что в 91 входят сферы с центром в каждой точке со сколь угодно малыми радиусами (поскольку границы сфер SP(x) с одним и тем же центром х, но различными радиусами р не имеют общих точек, то не более чем для счетного множества значений р П(Т, Г5р(х)) > 0). Поэтому в 91 входят все открытые множества, принадлежащие 8е, так что 91 содержит 93Е. ■

Следствие 1. Если Ль Л2, .... ЛА принадлежат 99е пРи некотором в > 0 и попарно не пересекаются, то процессы

Ц^, Л^, £(/, Л2)Ц^Лй) и —независимы

i-v

между собой.

Действительно, процесс

иГк\

£(0-1^,Л/) = К0-ф, U л)• /-1X /-1 V

/, U Л,). Процессы l(i, Л,) полностью

t, U AjJ , поэтому они в совокупности не зависят от процесса & (f) — £ £ (Л Л/). Аналогично совокупность процессов £(/, Л,), / ^ г, |(0 — 2 £(^, Л/) полностью определяется процессом ^(/)—^t, Ai), не зависящим от Ц1, Л,), так что эта совокупность также не зависит от процесса |(/, Ai). Таким образом, среди процессов

к

l{t,Aj), / = 1,2, .... к-, Ш-^t.Ai)

i-v

каждый не зависит от совокупности остальных. Отсюда и вытекает наше утверждение.

Следствие 2. Для попарно непересекающихся множеств Ль Лг, ..., Ан из 8е процессы v(t,A\), .... v(/,Ль) независимы между собой..

Это вытекает из предыдущего утверждения, поскольку процесс v(/, Л) полностью определяется процессом ^(^, Л).

Пусть В*— борелевское множество из [0, Т]ХХЕ. Обозначим через v*(B*) множество тех t, для которых пара (^;^(/ + 0)— — £(/— 0)) принадлежит В*. Легко убедиться, что v* является случайной мерой на о-алгебре 23е всех борелевских подмножеств [0, TJX-Хе. Положим П*(В*) = Mv*(B*); П*(В*)—конечная мера на 23е- Очевидна связь между мерами v(£, Л) и мерой V*:

v‘(MXX) = vfe Л) —v(/b Л).

Аналогично

п* (kb ti X Л) = П V2, A)-n №, Л).

Следствие 3. Мера v* является пуассоновской случайной мерой с независимыми значениями; характеристическая функция величины v*(B*) дается формулой

-MeAv* <в*> = exp {(е^ - 1) П* (В*)}.

Действительно, обозначим через 910 алгебру множеств, порожденную множествами вида [Л, /2] X A, [ft, /г] с [0, Т], А е §ЭЕ.

Если А*, .... А^ —непересекающиеся множества на ^о, то можно указать такие непересекающиеся множества А* = = Рм t^] X-<4р z = lN, что A*j являются суммами А*. При этом множества А* возможно подобрать так, чтобы при различных i как отрезки [/<'>, /^J, так и множества Ai либо не пересекались, либо совпадали. В этом случае независимость v*(A;) является следствием независимости у(/,Л,) при различных А, и независимости приращений v(f, Ai). Из независимости v*(A?) вытекает независимость у*(Л/). Эти величины имеют распределение Пуассона, как суммы независимых пуассоновских величин. Для доказательства остается заметить, что a(9t0) = ^-'

Обозначим через ge(0 процесс, полученный из £(/) после выбрасывания скачков, превосходящих по абсолютной величине е: ge(f) = g(f)— £(/, Хе). Процесс £е(0 будет стохастически непрерывным процессом с независимыми приращениями, скачки которого не превосходят е. Можно ожидать, что при е->0 £е(0 будет сходиться к некоторому непрерывному процессу с независимыми приращениями. Это оказывается верным, если из £е(0 вычитать специально подобранные непрерывные неслучайные функции. Для доказательства этого факта потребуется следующая

Лемма. Пусть £е (0) = 0; тогда М | £е (/) |2 < оо.

Доказательство. Пусть 0 = tn) < tn{ < ... < tnn = t и lim max (U— /„,<,-1) = 0. Положим U = t2e(MU) —M^,ft-»)), п->сю k

где фа(х)=х при |х|^а, фа(х) = 0 при |х|>а. Легко видеть, что с вероятностью 1

М0=Ит EU-(3)

«->сю fe=|

Заметим, что все слагаемые в этой сумме не превосходят по абсолютной величине 2е. Обозначим {хь ..., хг) ортонормирован- п

ный базис в X. Если бы £ D (U, хД была неограничена при некотором i, то можно было бы выбрать такую последователь- п

ность п, чтобы ^ D(U, xt)-^-oo. В таком случае величины„ - (^-м^*а

удовлетворяли бы условиям центральной предельной теоре- п

мы. Тогда сумма У i]^ имела бы нормальное предельное

распределение, так что для любого а

Г п / п п ' lim Р { £ (1пь xt) > а А/ Z D (Ink, Xi) + £ (MU, Xt) п-^оо 4^=1 " fe=l /г=1 .

= -4= \ e-^du, у 2л J

а

/ п/ пп\

Пт Р] У &пь х1)<—а'\/'£ D(U, xt) + 2 (MU, ^)f =

i->oo V&=|v fe=l/г = 1)

— а

1V 2л1V 2лe-"112 du.e-"112 du.Последние соотношения противоречат ограниченности по вероят- пности ^ (U, X,), которая вытекает из соотношения (3). Таким 6-iпобразом, У, D (U, xt) ограничена для всех I.Заметим, далее, что на основании неравенства ЧебышеваПоследние соотношения противоречат ограниченности по вероят- пности ^ (U, X,), которая вытекает из соотношения (3). Таким 6-iпобразом, У, D (U, xt) ограничена для всех I.Заметим, далее, что на основании неравенства ЧебышевапD 2^)к=\L2пD 2^)к=\L2пОтсюда и из ограниченности по вероятности величины Z (U, xt) k-tпвытекает ограниченность М X (U, хЛ. Так как fc-iпОтсюда и из ограниченности по вероятности величины Z (U, xt) k-tпвытекает ограниченность М X (U, хЛ. Так как fc-iММТОТОп2 ^>пк к=\п2 ^>пк к=\2 т / п\2= мЕ(2(и,^)) =2 т / п\2= мЕ(2(и,^)) =г Г п/ п\2т= 2pE(u,Xi)+ м2 (u.xj) ,i = l L А=1\ fe=i/Jг Г п/ п\2т= 2pE(u,Xi)+ м2 (u.xj) ,i = l L А=1\ fe=i/Jп 2п 2ограничено М 2 Ink , а значит, и М|^е(/)|2, а=1ограничено М 2 Ink , а значит, и М|^е(/)|2, а=1посколькупосколькупп22М| U(0 l2^lim м Zu . ■п->оо к=\М| U(0 l2^lim м Zu . ■п->оо к=\Пусть последовательность еп монотонно стремится к нулю. Обозначим через Ад множество тех х, для которых ед < |х|^Пусть последовательность еп монотонно стремится к нулю. Обозначим через Ад множество тех х, для которых ед < |х|^

1

V 2л

1

V 2л

e-"112 du.

e-"112 du.

Последние соотношения противоречат ограниченности по вероят- п

ности ^ (U, X,), которая вытекает из соотношения (3). Таким 6-i

п

образом, У, D (U, xt) ограничена для всех I.

Заметим, далее, что на основании неравенства Чебышева

Последние соотношения противоречат ограниченности по вероят- п

ности ^ (U, X,), которая вытекает из соотношения (3). Таким 6-i

п

образом, У, D (U, xt) ограничена для всех I.

Заметим, далее, что на основании неравенства Чебышева

п

D 2^)

к=\

L2

п

D 2^)

к=\

L2

п

Отсюда и из ограниченности по вероятности величины Z (U, xt) k-t

п

вытекает ограниченность М X (U, хЛ. Так как fc-i

п

Отсюда и из ограниченности по вероятности величины Z (U, xt) k-t

п

вытекает ограниченность М X (U, хЛ. Так как fc-i

М

М

ТО

ТО

п

2 ^>пк к=\

п

2 ^>пк к=\

2 т / п\2

= мЕ(2(и,^)) =

2 т / п\2

= мЕ(2(и,^)) =

г Г п/ п\2т

= 2pE(u,Xi)+ м2 (u.xj) ,

i = l L А=1\ fe=i/J

г Г п/ п\2т

= 2pE(u,Xi)+ м2 (u.xj) ,

i = l L А=1\ fe=i/J

п 2

п 2

ограничено М 2 Ink , а значит, и М|^е(/)|2, а=1

ограничено М 2 Ink , а значит, и М|^е(/)|2, а=1

поскольку

поскольку

п

п

2

2

М| U(0 l2^lim м Zu . ■п->оо к=\

М| U(0 l2^lim м Zu . ■п->оо к=\

Пусть последовательность еп монотонно стремится к нулю. Обозначим через Ад множество тех х, для которых ед < |х|^

Пусть последовательность еп монотонно стремится к нулю. Обозначим через Ад множество тех х, для которых ед < |х|^

^ бй-ь ^ = 2, 3, ..., а через Д1— множество тех х, для которых | х| > вь Заметим, что

т

M + 6.J0

и слагаемые в правой части независимы на основании следствия 1 теоремы 1. Поэтому при любом х

£,D№ Д,),,)< 0(^(1),,),

и, значит, при любом х сходится ряд У, D(|(/, Д6), х). Выберем 6—2

такую последовательность ид (ni = 2), чтобы

2 D(6(Г, A/), xz)<-1- при <=1,2,..., г.

Тогда последовательность

Sl^A^-M^.A/)](4)

будет с вероятностью 1 равномерно сходиться к некоторому пределу при k -* со. Действительно,

(здесь использовалось неравенство Колмогорова, гл. Ill, § 1, замечание к теореме 5).

V"!/*2

Так как ряд > -р- сходится, то по теореме Бореля — Кан- Ы

телли члены ряда

<х> пкА-\

£ S (g(t,Ay)-Mg(/,A/))

ft=i i = nk-v\

с вероятностью 1, начиная с некоторого номера, мажорируются членами сходящегося ряда ^ -р-. Отсюда и вытекает равно- ^=1

мерная с вероятностью 1 сходимость последовательности (4). Поэтому существует процесс go (О» являющийся равномерным пределом последовательности

Так как g(/, А,-) — стохастически непрерывный процесс н M|g(/, Ay) |2 M|g(T, Ду) |2 < оо, то на основании теоремы о предельном переходе под знаком интеграла

lim Mg (/, Ay) = Mg(s, Ду) t-^S

и, значит, Mg(f, Ду) непрерывно по t. Следовательно, процесс пк

^-^^ А/)-м^. Д/Я

с вероятностью 1 не имеет скачков, по абсолютной величине превосходящих гПк, а go (О (равномерный предел таких процессов) с вероятностью 1 непрерывен. Заметим, что ряд

ZE(/,Az)-Mg(Z, Ду)]

сходится по теореме Колмогорова (гл. III, § 2, следствие 2 теоремы 1) ввиду сходимости ряда У, D (g (/, Ду), х) при каждом х. /-2

Сумма ряда У [g(Z, Ду) — Mg(/, Ду)] при каждом / совпадает /-2 оо пк*\

(modP) с суммой ряда У, У [gV, Ду) —Mg(/, Ду)]. Таким 6-1 1-пк+1

образом, справедлива

Теорема 2. Для всякого сепарабельного стохастически непрерывного процесса с независимыми приращениями существует такой непрерывный процесс £о(О> чт0

5 (0 = go (0 + g kt, А.) + £ 6 (/, А/) - М| (/, А/)]./-2

Замечание. Процесс go (О, как предел процессов £е (/) — п

-£[Ц'. д,)- мер, д,)]. не зависит от каждого из процессов |(^, А,), / = 1, 2, ..., п. Так как

go (О + Z (g (/, А/) - Mg (/, А,)) = ^ (О

и Мкв1(02<оо, а слагаемые в правой части независимы, то и М|go(O 2 < оо.

Рассмотрим стохастические интегралы по мере M(j;,AY Как уже отмечалось, v(/, Л) является счетно аддитивной неотрицательной функцией множества А на 8е. Пусть измеримая функция гр(х) ограничена на каждом компакте пространства X и равна нулю при |х| < е (е — некоторое неотрицательное число). Можно обычным образом определить интеграл j <p(x)v(/, dx). Это вытекает из конечности меры ^kt.A) на 8е, а также из того, что v(/, Лр) = 0, где Хр— множество тех х, для которых |х|> р, а

р = max |g(s + O) — g(s — 0)1,

0<s < t

так что на самом деле рассматривается интеграл лишь по множеству {е<|х|^р}, на котором и функция ф(х) ограничена.

Покажем, что"

Ц(, Л) = Jxv(/, dx)..(б)

А

Действительно, если А= U Вк, где Вк— попарно непересе- кающиеся множества, диаметры которых не превосходят б, а xkeBk, то

| g V, Л) - Z xkv kt, 6») | < 111 kt. В^ - xftv kt, Bfe) | <

Cb^vkt, B^C^kt, Л)

k^kt, Bk) представляет собой сумму v(/, Bk) скачков, принадлежащих Bk и, значит, отличающихся от хк не более чем на б). Отсюда и вытекает (5).

Так какТак как

Так как

Так как

м | Ц/, Л) - ^ xftv а, Вк) | < SMv (t, Л),

тотом 1g а, л) - у x6v а, вк) |2 < б2м [v а, ли2,

то

то

Mg (/, Л) = lim М У x.v (f, В^ = ( хП (/, dx),6->° к2

D (g (/, Л), z) = $ (z, х)2 П (/, dx)л

для всякого ограниченного множества Л, лежащего на положительном расстоянии от точки нуль пространства X.

Рассмотрим, далее, случайную функцию множества

v (/, Л) = у(/, Л) —П(/, Л).

Эта функция обладает следующими свойствами:

Mv(/, Л) = 0,

M(v(/, A^t, B)) = Mv(Z, ЛПВ) = П(/, ЛПВ). (6)

Равенства (6) позволяют использовать общую конструкцию стохастического интеграла по ортогональной мере для построения интеграла

f (х) v (/, dx)

для всех измеримых функций f(x), для которых

J |/(х)|2П(/, dx) < со

(см. гл. V, § 3). В предыдущем параграфе было установлено,

что У. D(g(Z, Afe), z) < оо. Так как 6-2

D(g(/,A6),z)= J (x,z)2n(/,dx),дб

то при любом zeX

lim J (х, г)2П(/, dx) < оо. •

e < I x 1<в|

Следовательно, и

lim ( Ixpn^ dx) < oo.

Поэтому существует xv (/, dx\ О < I X I < Bi

Заметим, далее, что п £ а «, А») - Mg (/, Ад)) =$ xv (/, dx),

6-2е„+|<|хКе,

и, значит, ряд Z (I (Л Aft) — Mg (f, Aft)) сходится по вероятности 6-2

к j xv(f, dx). Принимая во внимание равенство

О < I X | < 8, g(/, А0 = xv(t, dx), I X I > 8, получаем из теоремы 2 и замечания к ней следующий результат (для определенности положим Ei = 1).

Теорема 3. Если ^^ — сепарабельный стохастически непрерывный процесс с независимыми приращениями, то существует с вероятностью 1 непрерывный с независимыми гауссовыми приращениями процесс £о(О> не зависящий от меры v{t,A), такой, что имеет место следующее представление*.

1(0=&>(0 + $ xv(/, dx)+ 5 ^(^, dx). (7) Ix I > 1lxKl

Найдем характеристическую функцию процесса g(0- Так как слагаемые в правой части (7) независимы между собой, достаточно найти характеристическую функцию каждого слагаемого. Характеристическая функция процесса go (О определяется формулой (1) § 3. Пусть А — ограниченное множество из Эе. Тогда М ехр {/ (z, g (/, Л))} = lim М exp (z fz, ^x^t, В*)')), X-Ю I X ft/)

n где A= U ^6, ^6 — попарно непересекающиеся множества, 6-i

диаметры которых не превосходят X, точки Хи принадлежат Ви. Величины v(t, В») независимы между собой и имеют пуассоновские распределения с параметрами П(/, Вд) соответственно. Поэтому

М exp р (z, Z XftV (/, Вд)}} = П M exp (i (z, x6) v (Z, Bfe)) = =11 exp {(e4 (z> - 1) П V, В»)} = exp { Z G'(z'Xfe) - 1) П(/, Bk) J. ft=iU-i)

Переходя в последнем соотношении к пределу при X—>0, убеж

даемся, что

(8)(8)М exp V (2, g (/, Д))} = exp / j (el (z» ^ — 1) П (/, dx) 1.

(8)

(8)

Формула (8) имеет место и для неограниченных множеств из ^е, так как такие множества можно представить как суммы монотонно возрастающей последовательности ограниченных множеств Лп, для которых (8) справедливо, и использовать предельный переход по п. Из (8) вытекает, что

М exp {Z (z, I (Z, Л) - М£ (Z, Л))} =

= ехр { (е' (г> — 1 — Z (z, х)) П (Z, dx^,(9)

т. е.

М exp р ^z, xv (Z, dx) )) j. = exp | (е'<г> х) — 1 — Z (z, х)) П (Z, dx)},.

Опять используя операцию предельного перехода по Л, убеждаемся, что формула (9) справедлива для всех множеств Л, для которых правая часть этого равенства имеет смысл. Теперь, учитывая формулы (1) § 3, (8) и (9), можем записать характеристическую функцию процесса ^(Z):

Me' ^. 6ц» = Ме' <*. 6 (о)) ехр {z (a (Z), г) -1 (В (Z) г, z) +

+ j (<?<<*-*>-l)II(Z,dx) +J (e'<z^)-l-Z(z,x))n(Z,dx)l.

0 < | лс j > 1 .0<lx|<lJ

(10)

С помощью этой формулы можно определить распределение £(Z2)—B(Zi), а значит, и все конечномерные распределения процесса g(Z).

Поскольку стохастически эквивалентные процессы имеют одинаковые конечномерные распределения и всякому процессу соответствует стохастически эквивалентный сепарабельный процесс (теорема 2 § 2 гл. IV), то справедлива следующая

Теорема 4. Характеристическая функция стохастически непрерывного процесса с независимыми приращениями имеет вид (10), где

функция П (Z, Л)— непрерывная, монотонно не убывает по t при каждом Л е U 93е и удовлетворяет условию

8

lim ( |х pn(Z, dx) < оо;

e"*°e<lxl«i

а(/)— непрерывная функция, принимающая значения из X;

функция B(t)— непрерывная и ее значениями служат неотрицательные симметрические линейные операторы в X, причем B(t2)—В (Л) также неотрицательны при tx < t2.

§ 5. Свойства выборочных функций

В этом параграфе изучаются некоторые свойства выборочных функций стохастически непрерывных процессов с независимыми приращениями. Заметим, что в § 2 найдены необходимые и достаточные условия, при которых выборочные функции процесса являются ступенчатыми, а в § 3 — непрерывными.

Пусть теперь g(/)— процесс с числовыми значениями, т. е. X является числовой прямой. Исследуем условия, при которых реализации процесса g(/) будут с вероятностью 1 монотонными функциями.

Теорема 1. Для того чтобы реализации числового сепарабельного стохастически непрерывного процесса ^t) с независимыми приращениями были с вероятностью 1 неубывающими, необходимо и достаточно, чтобы характеристическая функция величины ^(t) представлялась следующей формулой-.

Mezx$W = Me^Wexp№(/) + J (eZXjc- 1)П(/, dx)l, (1)

i

в которой мера П удовлетворяет условию ^ хП (/, dx) < со, а о

у(/) является неубывающей функцией.

Доказательство. Необходимость. Если g(/)— неубывающая функция, то процесс g(/) имеет лишь положительные скачки, значит, П(/, Л) = 0 для всякого множества А, лежащего на отрицательной полупрямой. Заметим, далее, что в рассматриваемом случае процесс g(/)— g(/, Хе) также будет неубывающим (выбрасывание скачков не нарушает монотонности). Монотонным процессом будет и процесс g(/, Хе)— £(^,^i), 0 < е < 1, являющийся суммой неотрицательных скачков, причем

О < g (/, Хе) -g(t, XO <|(0- g(0) -g(/, xa.

На основании леммы 1 § 4 M[g(O — g(0) — g(/, Xi)] < co, поэтому

i

M [g (/, Xe) - g (Л X,)] = J хП V, dx) < M [g (0 - g (0) - g (/, XO);

e

переходя к пределу при е->0, убеждаемся в конечности

1

хП (/, dx).

о

Заметим, далее, что величины ^(t)—g(/, Хе) убывают при 8->0 (так как с уменьшением е выбрасываются новые положительные скачки). Следовательно, с вероятностью 1 существует предел lim [g (/)— g(/, je)] = go(O, причем процесс go(O с вероят- е->0

ностью 1 непрерывен. Как было доказано в § 3, приращения процесса go(O будут иметь гауссовы распределения. Но процесс go(O> как предел неубывающих процессов, сам будет неубывающим, так что Р{|о(О— 1о(О)^ 0}= 1. Из последнего соотношения вытекает, что D (g0 (/) — g0 (0)) = 0 (нормально распределенная величина g может быть с вероятностью 1 неотрицательной лишь в том случае, когда Dg = O). Таким образом,

s=o(O=go(O) + Y(O, где Y(0 = M [^,(0 —6о(О)],

и следовательно, не убывает. Формула (1) может быть получена из соотношения

Ме^-ПтМе'^Ме^’Ч

8-Ю

если учесть вид процесса go (О и формулу (8) § 4. Необходимость условий теоремы установлена.

Достаточность. Покажем, что Р{|(^) — g(6) ^ 0} = 1. Для этого достаточно показать, что с вероятностью 1 неотрицательна случайная величина g, характеристическая функция которой имеет вид

Ме^ = ехр И (е<^ — 1) dG (х) |,(2)

где G(x)—монотонная ограниченная функция.

Это вытекает из того, что распределение величины g(^) — — g(/i) является пределом распределений величин с характеристической функцией

ехр{/Х(у(У — v(/i))+ ^ (е,Хх — 1)П(/, dx)

V8.

с = [С(+оо)-О(+0)Г‘.с = [С(+оо)-О(+0)Г‘.при е|0. Положим

с = [С(+оо)-О(+0)Г‘.

с = [С(+оо)-О(+0)Г‘.

F(x) = c[G(x)-G(+0)],

Тогда

М^^ = V -тг ^ ( ( eiKxdF (я)

-эхи

так что характеристическая функция величины | совпадает с характеристической функцией величины Sv, где So = О, Sn = = Bi + • • • +Kl Вь Вг, • • • — последовательность независимых одинаково распределенных неотрицательных величин, имеющих функцию распределения F(x), a v — не зависящая от К К, ... пуассоновская случайная величина. Следовательно, | неотрицательна.

Таким образом,

Р (В (0) > В №)} = 1 при tx < /2.

Из полученного соотношения вытекает, что событие, заключающееся в том, что для всех пар рациональных точек tx, t2, для которых tx < t2, выполняется неравенство КО) ^КО), имеет вероятность 1. Если учесть, что, кроме того, КО с вероятностью 1 не имеет разрывов второго рода и с вероятностью 1 КО совпадает либо с К*— 0), либо с К/ + 0) (ввиду сепарабельности процесса КО), получаем, что с вероятностью 1 К0)^ КО) для всех пар ti, t2, для которых tx < t2. В

Исследуем условия, при которых реализации процесса КО с вероятностью 1 имеют ограниченную вариацию.

Напомним, что вариацией на [а, 6] функции х(0, определенной на [а, Ь] и принимающей значения из X, называется величина varx(0, определяемая соотношением 1а, 6)

П—1

varx(/) = sup £ I -v(^) — x(Z/+i) |, la, &Ji=0

причем точная верхняя грань берется по всевозможным разбиениям отрезка [а, Ь]: а = 0 < 0 <. ... <.tn = b.

Теорема 2. Для того чтобы реализации сепарабельного стохастически непрерывного процесса КО с независимыми при- рагцениями, определенного на отрезке [0, Т], имели на этом отрезке с вероятностью 1 ограниченную вариацию, необходимо и достаточно, чтобы характеристическая функция величины КО определялась формулой (10) § 4, в которой vara(/)<oo, 10, л

В (0 = 0, а мера П(0 Л) такова, что

| х | П (/, dx) < 00.

0<|х|<1

Доказательство. Докажем сначала достаточность условий теоремы. Так как процесс, определяемый соотношением &(tXi) = ^ xv (/, dx), будет с вероятностью 1 кусочно посто- I X Г> 1

янным, то его вариация, совпадающая с суммой абсолютных величин скачков, будет конечной. Функция a^t) по условию теоремы имеет ограниченную вариацию, поэтому для доказательства ограниченности вариации XW достаточно доказать ограниченность вариации интегралаxv(/, dx) как функции t (см. фор-

о < | х к 1

мулу (7) § 4). Рассмотрим процесс

£<е) (/) =$ XV (t, dx).

8 < | X | < 1

Легко подсчитать, что вариация процесса £(Е)(0 на отрезке [О, 7] будет равна

var^(e)(0= var ( xv (/, dx) + var ( xll(/, dx).

10-Г1I0’rl8<Jl<>

Поэтому

var^8’^)^ io, Г]

< J |x|v(T, dx)+sup^ J|x|(II(4,dx)—n(4-bdx))=

в < I x |< 1/г=1 e < | x |< 1

= J| x | v (Г, dx) +J |х|П(Т, dx)<

e<|x|<is<jx|<i

. <lim (|x|v(T, dx)+ (|х|П(Г, dx).

e"*°e<|x|<io<|xl<i

Существование lim \| x | v (T, dx) вытекает из того, что

е-*° e<|xl<l

величина j |x|v(f, dx) монотонно зависит от в и 8<|х|<1

М J |x|v(T, dx)< J |х|П(Г, dx) < оо.

8 < |X I < 10 < I X| < 1

Можно подобрать последовательность e„, стремящуюся к нулю при п-*оо, так, чтобы последовательность процессов ^8"^(/)

с вероятностью 1 равномерно сходилась к процессу ^ xv (/, dx\ о <: । х । < i

Поэтому с вероятностью 1 выполняется соотношение

var xv(/, dx)^ (|x|v(7, dx)+ (|х|П(Г, dx).

* J 0 < | x |< 10 < | x | С 10 < lx К 1

(Легко видеть, что если xnVt)^>-xVt) при каждом t, то

Ё I х (tk+l) — х (/й) | = lim 2 | xn (Z6+1) — xn (tk) | < Tim var xn (0, к=0n->oo k-0n->oo[0, Г]

а значит, varx(/)^lifn varxn(t).) Отсюда и вытекает ограни- [0, Т]п-*оо [0, Т]

ченность вариацииxv^t, dx).

0 < |х|< 1

Докажем теперь необходимость условий теоремы. Пусть вариация ^(t) на отрезке [0, 7] ограничена. Тогда она будет конечной и на каждом отрезке, являющемся частью [0, 7]. Рассмотрим процесс ?(0 = varg(s). io,ti

Этот процесс будет также процессом с независимыми приращениями, так как приращение £(/г)—^(Л) при tx < t2 является вариацией процесса на отрезке [Л, t^ и поэтому зависит лишь от приращений процесса У,!1) на отрезке [Л, ^] и не зависит от значений ^t) при t^tX) а значит, и от значений ЦГ) при / ^/ь ^(0 будет стохастически непрерывным процессом, так как вариация varx(s) функции x(s) может иметь разрывы

10.1]

лишь в точках разрыва самой функции x(s), а процесс §(0 ввиду стохастической непрерывности не имеет фиксированных разрывов. Очевидно, наконец, что t,(t) является неубывающей функцией. Из сказанного выше вытекает, что всегда ^(# + 0) — — ^(t— 0) = |g(# + 0) —£(/— 0)|. Поэтому, если t,№0) представляет собой сумму всех скачков t,(t), превосходящих е и происходящих на [0, t), то

W) = $ |x|v(f, dx).

|x|>e

Из монотонности процесса ЦГ) вытекает, что

6(0= у(0 + Нт$<8)(0 = у(/) + Ит ( lx|v(/, dx)8^°e^'|xi>e

(поскольку £(0) = 0), где y(f)—вариация непрерывной составляющей процесса ^(0. Кроме того,

^ | х IП(^, dx) = М R(0 - :<» (0) < оо. I X | < 1

Наконец, заметим, что если £о(О— непрерывная составляющая процесса ^(0, то

lU0-M0)l<varM0 = Y(0 -Ю. Г)

и, значит, КМО-£о(О),г)Ку(ОИ.

Но нормально распределенная величина с положительной дисперсией не может быть с вероятностью 1" ограничена какой бы то ни было постоянной (не зависящей от случая). Следовательно, при любом z D(z, g0(t)—&о(О)) = О, т. е. В(/) = 0. Таким образом, у(^) является вариацией функции

а (/) = J xll (/, dx).

0<|х|<1

Так как var \хП(#, dx)^ \|х|П(Г, dx) конечна,

* 1 0 < | х I < 10 < | х | < 1

то и vara(0 < оо. ■

[0, Г]

Замечание. Из хода доказательства необходимости вытекает следующее утверждение: если процесс ^(0 определяется соотношением

^(0 = |(0) + a1(0+ $ xv^.dx),

I X । > о то;

5(0 = varg(s) = vara!(s)+ ( |x|v(/, dx)

и характеристическая функция величины ЦГ) дается формулой

^g^C (0 = exp (IX var at (s) +I [о. <1^g^C (0 = exp (IX var at (s) +I [о. <1^^ I ^ I^^ I ^ I— 1)П(#, dx)L— 1)П(#, dx)L1 X | > 01 X | > 0

^g^C (0 = exp (IX var at (s) +I [о. <1

^g^C (0 = exp (IX var at (s) +I [о. <1

^^ I ^ I

^^ I ^ I

— 1)П(#, dx)L

— 1)П(#, dx)L

1 X | > 0

1 X | > 0

Рассмотрим теперь однородный процесс со значениями в Йх. Нас будет интересовать поведение |(^) при / ф 0 и /->оо.

Функцию gW непрерывную и монотонно возрастающую при / > 0, будем называть функцией регулярного роста, если существуют такие функции к\^ и кг^, что &i(A)->oo при А->оо, к» (А) -* 1 при А -> 1 и■

^i(A)g(0<g(A0<^Wg(0.

Функция регулярного роста g(f) называется верхней функцией для процесса |(0 при t f оо (t | 0), если

Р { Игл4->ооР { Игл4->оо(Р {шпШ > 1}= 1),(Р {шпШ > 1}= 1),

Р { Игл

4->оо

Р { Игл

4->оо

(Р {шпШ > 1}= 1),

(Р {шпШ > 1}= 1),

и нижней функцией при t f оо (/1 0), если

р {Пт^< i}=i (р{п^4^-< й=1).

1(4-00 gW )v ItioSW J v

В первую очередь рассмотрим верхние и нижние функции для симметричных однородных процессов с независимыми приращениями. Затем будут рассмотрены верхние и нижние функции для |£(01> гДе 5(0 Уже не обязательно симметричный процесс.

Процесс ^(0 называется симметричным, если процессы &(0 и —1(0 имеют одинаковые конечномерные распределения. Нам потребуется следующая

Лемма 1. Если ^(0— симметричный сепарабельный стохастически непрерывный процесс с независимыми приращениями, то

Р{ sup g(0>c}<2PU(r)>c}. (3) о <t <г

Доказательство. Пусть случайные величины ^, ^> ..., |п независимы и симметрично распределены, Sft = ^ + ... + ^. Тогда

Р {sup S6 > с} ^2Р {S„ > с). (4)

Действительно, так как 2P{Sn— Зд^О}^ 1, то

п

Р {sup 3* > с) =S Р{ sup S^c, Sk>c}^ kk = li<k-\

n

<£P{ sup S(<c, Sk> c}2P{3„ — Sft>0} = fc=l t^k-T

n

= 2^P{ sup S^c, Sk>c, Sn — S6>0). k = I i < к — I

События { sup S^c, Sk>c, Sn — Sk^O} несовместимы, и каждое из них влечет событие {S„ > с). Поэтому

п

2P(S„ > с}>2 У Р{ sup Si^c, Sk >с, Sn — Sk>0^>

>P{supS*>c). к

Формула (4) установлена. Применим теперь формулу (4) к величинам

Ь = Е(4г)-Ц^г), 8,-$(^).

Тогда

р{ sup &№> Л<2Р(£(Г)>Л.

Переходя к пределу при п-*оо и учитывая, что 5(0 с вероятностью 1 не имеет разрывов второго рода, так что

Р{ Нт sup Л^-) = sup 6(0} = 1,

мы получаем (3). ■

Теорема 3. Пусть ^(t)—симметричный однородный сепарабельный стохастически непрерывный процесс с независимыми приращениями, a g(t)— функция регулярного роста, для которой

\тР^>8^}^<°°- ।

Тогда для любого X > 1 функция Xg(f) будет верхней функцией для процесса ^(0 при t-*oo.

Доказательство. Пусть а> 1. Обозначим через Ah событие, заключающееся в том, что sup 5 (0 > ^Г («*+1)- Тогда на осно- 0<t<ak вании леммы 1

PMft}<2PU(aO>g(aft+1)}.

Но при / <= [ай, а*+'] будет g{t) < g(aft+'), 2Р{£(0—5(aft) 5= ^ 0}^ 1, поэтому

P{Л6}<4Pa(a‘) > g(0)P(5(0 -5k^> 0} < 4P(5(0 > g(0).

Следовательно, «6+1aW •

J 1р{Л»И<4 J yP(5(0>g(0}^

.a^a^

И

£P{AKi^J 7РМ>^)И' a-ii

Из леммы Бореля — Кантелли следует, что с вероятностью 1 происходит лишь конечное число событий Ah, т. е., начиная с некоторого (вообще говоря, случайного) номера, события Ан не

происходят. Значит,

lim —т4+|Тlim —т4+|Тsup £(0<Н=1. ak-'<t<ak*sup £(0<Н=1. ak-'<t<ak*

lim —т4+|Т

lim —т4+|Т

sup £(0<Н=1. ak-'<t<ak*

sup £(0<Н=1. ak-'<t<ak*

При /е[а*-1, а*]

7^^^/ 9\ "7 l-i\ SUP £(0^ Z l~4.iV sup £(/). liaU^gW k2(a2)g(ak ') ^-l^^k S как* ) ак-\ ^«t* *

Поэтому Xg(t) при любом а>1 и %>^(«2) будет верхней функцией для £(/). ■

Очевидно, что утверждение теоремы справедливо и для неоднородного процесса |(/), так как при доказательстве теоремы однородность не использовалась.

Теорема 4. Пусть %(t)— симметричный однородный процесс с независимыми приращениями, a g(t)—функция регулярного роста, удовлетворяющая условию-, для всех а > 1 ряд 2 Р {g (ак) > g (а*)} расходится. Тогда Xg^ будет нижней функцией для процесса &(0 для любого Хе(0,1) при t-^-oo.

Доказательство. Рассмотрим два случая.

Пусть

HmP{|U0Kg(m = 0.-

t->oo

Тогда найдется такая последовательность tfe-*oo, что Р{1№1 <£&)}< 2"Л

Следовательно, в силу леммы Бореля — Кантелли

gy^gy^>1} = 1.>1} = 1.

gy^

gy^

>1} = 1.

>1} = 1.

(5)(5)2) Пусть2) ПустьНо тогда, каково бы ни было Ле(0, 1),

(5)

(5)

2) Пусть

2) Пусть

lim P{|g(0<£(0}>6>0.

t-^OO

Тогда для всех достаточно больших t

Р(16(0К 6Г(О} > 6.

Рассмотрим независимые события

Bfc = U (aft+l) -1W > g (ак^) - g (а*)},

где а > 1. Тогда

g(a^)

P(Bft)> J

-g(ak}

e(“ft)

>Р{и^+1)>^И+')} J P(|(aft)edz} =

-g(aft)

= P {6 (aft+1) > g (ak^)} P {|| (a») f< g W >

для достаточно больших к.

Следовательно, ряд У, Р (Bft) расходится, и поэтому на основании леммы Бореля — Кантелли с вероятностью 1 произойдет бесконечно много событий В^. Заметим, что событие Вк влечет одно из событий

{— IW > g^Y (|(aft+1) > g<ak^ — 2g (a6)}.

Поэтому с вероятностью 1 происходит бесконечно много собы-

{ll(aft)l>g(a*)-2g(a*-')}.

Выбирая а так, чтобы

g W - 2g(ak-4 = g (ак) Г1 - УУ"! >

L g(a ) J

>g(«ft)[l - ^y] > Xg^ (0 < X < 1) (возможность такого выбора а обеспечивается регулярностью роста g(0)> убеждаемся, что и в этом случае выполнено (5).

Введем события

Xg (0Xg (0С = { lim Луг > 1),D = I Нт

Xg (0

Xg (0

Тогда из (5) вытекает, что Р (С U D)=l. Из симметрии процесса |(/) заключаем, что Р(С)= P(D). Наконец, из «закона нуля и единицы» (теорема 7 § 4 гл. II) следует, что Р(С) и Р(О) могут равняться лишь нулю или единице. Значит, Р(С) = = Р(В)=1,так как в противном случае Р(С) = 0, а значит, и P(CUD) = 0, что противоречит (5). ■

Замечание 1. Не меняя доказательства теорем 3 и 4, беря лишь а < 1, убеждаемся в справедливости следующих утверждений:

пусть ф(/)—функция регулярного роста*.

если |(/)— симметричный сепарабельный однородный стохастически непрерывный процесс с независимыми приращениями.

1

Jipa(0><p(0}^<oo,

о

МОМО1} = 1;1} = 1;<*о ^Ф(О<*о ^Ф(Ото при Х> 1 функция Xtp(/) будет верхней для процесса ^^ при /10, т. е.

МО

МО

1} = 1;

1} = 1;

<*о ^Ф(О

<*о ^Ф(О

если l,(t) — однородный симметричный процесс с независимыми приращениями, для которого ряд 2 Р {^ (^ > ф(о6)} 6-1

расходится при любом а < 1, то при X < 1 функция Хф(/) будет нижней для £ (/) при 1|0, т. е.

Р < Пт t <-*оР < Пт t <-*оМОИ (ОМОИ (О> 1 } = 1.> 1 } = 1.

Р < Пт t <-*о

Р < Пт t <-*о

МОИ (О

МОИ (О

> 1 } = 1.

> 1 } = 1.

Применим полученные результаты к процессу броуновского движения. Этот процесс является симметричным.

Используя оценки

-4= ( е-^ du ^( ~ е-иЧ2 du = -=- е"^ (г > 0),

V2n JV2n J zN^u z

zz

1V2n1V2nJ e-^du> zJ e-^du> zz+1

1

V2n

1

V2n

J e-^du> z

J e-^du> z

ДД e-*1*11 du>-7^= e-^VR (z>0),V2n JV2n'

убеждаемся в справедливости неравенства

,— expf — Г—4=- + П Д 1 ^ P {® (0 > z) ^ a/-7- — e 2<.

V2« I \V</ 2 JJ V 2л z

Покажем, что (1 + e) V2Hn In/ e г (0, 1) будут соответственно Действительно,Покажем, что (1 + e) V2Hn In/ e г (0, 1) будут соответственно Действительно,и (1 — e)V2/lnlnr при любом верхней и нижней функциями.и (1 — e)V2/lnlnr при любом верхней и нижней функциями.

Покажем, что (1 + e) V2Hn In/ e г (0, 1) будут соответственно Действительно,

Покажем, что (1 + e) V2Hn In/ e г (0, 1) будут соответственно Действительно,

и (1 — e)V2/lnlnr при любом верхней и нижней функциями.

и (1 — e)V2/lnlnr при любом верхней и нижней функциями.

Р {оу (/) > (1 + в) V2/ln In / } <

11V2n(l +e)221n In/V2n(l +e)221n In/(1 +e)221n In/2(1 +e)221n In/2O((ln/)-(1+e>’),O((ln/)-(1+e>’),

1

1

V2n(l +e)221n In/

V2n(l +e)221n In/

(1 +e)221n In/2

(1 +e)221n In/2

O((ln/)-(1+e>’),

O((ln/)-(1+e>’),

а интеграл j%+е)» ПРИ с > 1 сходится. С другой стороны, С t (In

Р {ay (а6) > (1 — е) V2a6 In In а6 }

,2

= -^==-ехр{— (1 — e)2lnlnaft — (1 — е)д/21п!па* }^

>^[Щ акГа = %

V2nka

где Ci — некоторая постоянная, если только

аа2

а

а

In In ак

Очевидно, что для достаточно больших к можно взять а < 1. Следовательно, ряд £ Р {ау(а*) > (1 — е) V2а*InIna*} расходится. Таким образом, доказанаТеорема 5. Если w^—сепарабельный процесс броуновского движения, тоОчевидно, что для достаточно больших к можно взять а < 1. Следовательно, ряд £ Р {ау(а*) > (1 — е) V2а*InIna*} расходится. Таким образом, доказанаТеорема 5. Если w^—сепарабельный процесс броуновского движения, тоРРlim/->ооlim/->ооW (ОV2/ In In tW (ОV2/ In In t= 1 } = 1-= 1 } = 1-

Очевидно, что для достаточно больших к можно взять а < 1. Следовательно, ряд £ Р {ау(а*) > (1 — е) V2а*InIna*} расходится. Таким образом, доказана

Теорема 5. Если w^—сепарабельный процесс броуновского движения, то

Очевидно, что для достаточно больших к можно взять а < 1. Следовательно, ряд £ Р {ау(а*) > (1 — е) V2а*InIna*} расходится. Таким образом, доказана

Теорема 5. Если w^—сепарабельный процесс броуновского движения, то

Р

Р

lim/->оо

lim/->оо

W (ОV2/ In In t

W (ОV2/ In In t

= 1 } = 1-

= 1 } = 1-

Используя замечание 1, можно установить, что справедлива

Теорема 6. Если а>(/)—сепарабельный процесс броуновского движения, то

I hm —-===- = 11 = 1.

Р"*0 д/2/ln in у- J

Теоремы 5 и 6 называют «законом повторного логарифма».

При изучении верхних и нижних функций для |£(0|. где ^Ц — процесс с независимыми приращениями, используются некоторые вспомогательные предложения.

Лемма 2. Пусть ^, ..., £„ — независимые случайные величины, 8^ = &| + ... + ^ и при некоторых a < 1 и с > 0

Р (I S„ — Sk | > с) ^a,6 = 1,2, ...,п.

Тогда при а-> 0

Р {sup | Sfc | > a + с}<-т-!—■ P{|S„|>a).

Доказательство. Имеем

Р (y^suplSJ ^a + с) f| {I Sft I > a + с} f|

"n{|S„-S6|<C}])<P{|S„|>a).

Поэтому

£Р({ sup |St|<a + c}n{|Sft|>a + c})P{|S„-Sft|<c}< к i<.k~\

<P{I$J >а\

[£Р« sup | SJ<a + с} П{| Sk | >a + c})](l- a) <P d S„ | > a}.

В квадратных скобках слева стоит Р {sup | Sk | > а + с}. ■

Лемма 3. Пусть ^(1)— сепарабельный стохастически непрерывный процесс с независимыми приращениями, для которого существует такое а<1, что при Q<s^T Р{|£(7) — g(s) | > > с} ^ а. Тогда для всякого х > О

Р{ sup |g(s)|>c + ^<-L-P{^(T)|>x}.(6)

0<s<T1 а

Доказательство. Из леммы 2 вытекает соотношение

р{ sup |g(Ar)|>x+ a^-jJ-Pd^D^x).

Переходя к пределу при п->оо, получаем доказательство леммы. ■

Теорема 7. Пусть £(/)—сепарабельный однородный стохастически непрерывный процесс с независимыми приращениями и gW— функция регулярного роста такая, что при любом 8 > 0

Ит Р{|^(01>85(0)<1 t-^oo и

$ "T-Pd^OI > §(0)^< °°-

Тогда при любом Х> 1 функция Xg(t) будет верхней функцией для |^(0 |, т. е.

Р{ Пт ^^ 11 = 1.

Доказательство. Выберем ае(1,2) и е>0. Обозначим через Ак событие {sup | ^d) I > (1 + 2e)g (afe+l)}. Из условий теоремы вы

текает, что существуют такие с > 0 и Го, что Рd£(0 I > е^(0)< ^ 1 — с при t > То. Поэтому для достаточно больших 1г при Кс?- Р {I I(aft) — 1 (О I > ®8Г(aft+l)} = P {| X<ak - 01 > eg(ak+1)} <

(sup P{ia(s)|>eg(s))

^ sup P{||(s)|>eg(a»+>)} c’

XS^Tq

так что для всех достаточно больших к на основании леммы 3 Р {да <4 Р {| в w I > (1 + 8) £(а*+')}.

Учитывая, что при /е[а6, aft+l] имеем t — ак^.(а— 1)а*^а% и, значит P{|g{O~l(0*)l>8g(aft)} < 1 — с для достаточно больших к, получаем

рма^Р^^'^+^^'^х

X р {II (0 -IW l<8g(aft+')} < .1Р {| £ (01 > g («*+')} <

<T2P{ll(0l>m так что oft+i

pua^11^ $ -rP{iuoi>g(OHo

2 р w < (in a)-1 с-2 J | р {i а (о । > 5(0) dt k-tei

Значит, с вероятностью 1 происходит лишь конечное число событий Ан. Используя рассуждения теоремы 4, убеждаемся, что функция Х(1 + 2e)^2(a2)s(0 ПРИ А > 1 будет верхней для ||(0|. Так как к2(а)-* 1 при a-+ 1, то из того, что а— 1 и е > 0 могут быть сделаны сколь угодно малыми, и вытекает утверждение теоремы. ■

Анализируя доказательства теоремы 4, нетрудно убедиться, что справедлива

Теорема 8. Пусть 5(0— однородный процесс с независимыми приращениями. Если функция регулярного роста такова, что при любом а > 1 расходится ряд

Z P<l6(aft) I > sr(«A)}> ft-i

то при всяком 0 < X < 1 функция Xg(t) будет нижней функцией для |^(0 |, т. е.

Результаты теорем 7 и 8 можно переформулировать для того случае, когда t -* 0, аналогично тому, как это сделано в замечании 1.

ГЛАВА VII

скачкообразные марковские процессы

г § 1. Общее определение марковского процесса

В § 4 гл. I уже рассматривались марковские процессы в широком смысле. Там же были введены вероятности перехода марковского процесса P(s, х, t, Л)—вероятность находиться процессу в момент t во множестве состояний А при условии, что в момент s он находился в состоянии х. Вероятности перехода позволяют построить при помощи теоремы Колмогорова (гл. III, § 2) целое семейство вероятностных мер в пространстве функций Р8,к, задаваемых на цилиндрических множествах пространства Ft», оо) всех функций, определенных на [s, оо), равенствами: при $ < h < ... < th

Р».«{*(•): x^gA\, .... x(tk)^Ak} =

= J P(s, x, t\, dx^... J P&-b xfe-b th, dXhY (1) Ак

Меры Р8,» естественно трактовать как условные распределения марковского процесса, рассматриваемого на промежутке [s, оо), при условии, что в момент s он находился в состоянии х. Таким образом, в отличие от обычного определения случайного процесса, когда имелось лишь одно вероятностное пространство, при рассмотрении марковских процессов мы будем исходить из некоторого семейства вероятностных пространств, которые будут различаться как о-алгебрами, так и мерами.

В гл. IV было показано, что во многих случаях удается построить меру, согласованную с конечномерными распределениями процесса, на более узком функциональном пространстве, чем пространство всех функций. Процессы, выборочные функции которых обладают определенными свойствами регулярности, представляют собой более богатый объект для изучения, и для приложений они более важны. Поэтому мы будем предполагать, что выборочные функции процесса при условии, что он начинается в момент s, принадлежат некоторому функциональному

пространству Fs (s^O). Функциональные пространства F, согласованы следующим образом: для всех х(-) eFs ограничение функции х(-) на [и, оо) (и > s) принадлежит Fu.

Наконец, при изучении марковских процессов очень существенную роль играет такое понятие, как «прошлое». Если процесс начался в момент s, то «прошлое» в момент t определяется теми событиями, которые можно наблюдать на промежутке времени [s, /]. Множество таких событий обозначим ©®. Естественно предположить, что ©® есть некоторая а-алгебра, причем @®, с: с©®2 при t\<ti, и что значение процесса в момент t измеримо относительно ©® (это означает, что значение процесса в данный момент может быть наблюдаемо).

Итак, будем говорить, что задан марковский процесс, если заданы следующие объекты:

измеримое пространство {X, 8}—фазовое пространство процесса;

семейство функциональных пространств F, (s ^ 0) функций со значениями в X, удовлетворяющих условию согласования: ограничение функции из F8 на [ы, оо) принадлежит Fu при и > s;

измеримое пространство {й, ©}, совокупность а-алгебр ©| с <5, определенных при 0 ^ s ^ / < оо, таких, что ®®'с ©f2 при [$ь 6] с: [S2, У;

семейство вероятностных мер Ps,x, ss[0, оо), хеХ, определенных на о-алгебрах ©s = |J®t;

t

функция xsV, со), определенная на [s, оо) и удовлетворяющая условиям:

xs(-,o))eFs при со ей;

xs^t, со) измерима относительно ©“, каковы бы ни были s ^ и ^ t;

Ps, х({со: x8(s, со)= х)) = 1;

при 5 е 8, $ < и < #

Ps, X ({со: Х5 (/, со) е В) | ©0 =

= Ри, х$(и. й» ({со: Х« (t, ю) е В}) (mod PS( х). (2)

Марковский процесс, определяемый перечисленными объектами, будем обозначать {х$(/, со), ©?, Р$, х}; х$(-, со) —выборочные функции процесса; Sf — о-алгебра событий, наблюдаемых на [s, /]; Ps, х — распределение вероятностей для процесса, начинающегося в момент s из точки х; (2) определяет основное свойство марковости (марковское свойство) — независимость от прошлого при заданном настоящем.

Переходные вероятности процесса теперь можно ввести соотношением

Р (s, х, t, В) = Р$, х ({о: xs (t, to) e B}).(3)

Будем предполагать, что всегда выполнено условие

переходная вероятность измерима по х относительно а-ал- гебры 8.

Тогда из (2) легко получаем уравнение Колмогорова — Чепмена: при s < и < t

Р (s, х, /, В) = Ps, х ({го: xs (/, го) s В}) =

=Ms,xPs,x({®:xs(/,©)eB) |<50 = Ms,xP«, х$(«,<»)({©: xu(t, м)еВ})=

= М$, хР(«» xs(u, го), t, B)= ^ P(s, x, и, dy)P(u, у, t, BY Здесь и в дальнейшем через М$,« обозначается математическое ожидание по мере Р$,ж для ©8-измеримой величины £(и)

М$,^(ю)=^(го)Р5,х(^ГО).(4)

Соотношение (2) можно записать в терминах математических ожиданий: при s < и < t

, х (g (^s (^> ©)) I ®«) == Mu, xs(u. <»)g (xu (t, ro)) (mod Ps, x) (5) для любой ограниченной S-измеримой функции g. Действительно, взяв g(x) = %в(х), где %в— индикатор В, из (5) получим (2). С другой стороны, из (2) вытекает справедливость (5) для индикаторов измеримых множеств, а значит, и для простых функций, являющихся линейными комбинациями индикаторов; остается заметить, что любая ограниченная измеримая функция является равномерным пределом простых. Заметим также, что М8, х£ (-М/, <о)) является S-измеримой функцией по х для всех неотрицательных S-измеримых g. Это вытекает из измеримости Мв,х%в(Хв(Л го)), а значит, измеримости указанного выражения при простых g и g, являющихся пределами простых.

Пусть s < ы < Л < ... < tu, gi, g2, ..., gn — ограниченные S-измеримые функции. Тогда

мДпг.(г,(<,,.«.)ж)-

п

= М«, х^и. ^ П gk (хИ (t„ Го)) (mod Р,, ху (6)

Действительно, используя повторные условные математические ожидания, получим

м„„(й/.к('..«>))1®0=

- м, ,(м,, (ц ,, (х, (/„ .)) I е;# J | е;) -

-"...(В^Ж^-М^,^

Теперь под знаком математического ожидания стоит произведение уже п — 1 функций, если считать последнюю функцию равной

^-iW^.pAh..^ ®))-

Поэтому, воспользовавшись индукцией, найдем м„,(йг.к«,»»|®:)-

= М$, X (81 (хз Ср “)) М#,, ,,(#,. «^ (х(| С2, «)) X

X ^<2- */, (/2,®)^з (xt2 Оз» “)) X . . •

•••хм^_2^^

" ^u, Xs(u, ш)^1 (ХвСр ®)) ^tvxttVvto^2(X,t О2’ ®)) X • • •

XIVrX_2(M^^(modP^>

Полагая в последней формуле s = u, находим

М„, х(Й 8к (х„ (/, «>))) = М„, Xgx (х„ У, со)) X

^MtpX^.^Q^Oa’ ®)) ••• ^tn-v^Vn-i-^^tn-A^* ®))*

(8)

Если в (8) вместо х подставим xs(u, ю), то получим выражение для правой части (6). Поскольку оно совпадает с правой частью (7), (6) доказано.

Введем о-алгебры Э^/ — это о-алгебры событий, порожденная величинами xu(f, со) при и ^ s, fe[s,/]. 91? — о-алгебра событий, порожденных процессом, наблюдаемым на отрезке [s,/]. Так как в силу условия д, 2) xu(t', ©) ^-измеримо при

и ^ s ^ t' eg: t, то 91? с S?. ст-алгебры 91? удовлетворяют всем условиям, которые налагались на о-алгебры ®? при определении марковского процесса (это условия б), д 2) и д 4)). В проверке нуждается лишь условие д 4). Но по формуле повторных условных математических ожиданий

М$, х (g кх, kt, со)) 1912) - Ms. x (Ms, x (g (x, kt, «>)) I ®0 1910 =

= M$, x (M„, x$(a, ©)g kXu kt, to)) I 9lB) = M„, x$(u, e>)g (Xa kt, to))

(modPs.x), s^u^/, так как 9lB G ®a и xs ku, ю) — 91а-измеримая величина, а функция Mu, xg(x„(Z, о»)) — 23-измерима. Мы показали, что (5) имеет место, если ®« заменить на 91а-

Таким образом, если^ [х/(s, ю), <5?, Р$. х} — марковский процесс, то и {х, (s, <в), 91®, Ps. х}, где Р$, х — ограничение меры Р$, х на 9ls== U 9!?- также является марковским. Очевидно, что 91? — семейство минимальных ст-алгебр, относительно которых xtks, о») может быть марковским.

Приведем, наконец, соотношение, обобщающее (6) и выражающее марковское свойство в самом общем виде. Пусть £(©) является ограниченной 91(-измеримой величиной. Тогда при s ^ eg: и eg: /

Ms, х Q (to) | ®u) = Мц, x$(u, <»)^ (to) (mod Ps, x)-(9)

) вытекает из (6), так как всякая ограниченная ^'-измеримая величина представима как предел по вероятности Р8,$ сумм вида

пт

Пусть, далее, т) (©) — ®?-измеримая величина. Из (9) вытекает Ms. х|(«>) Ms, x(n (co) | 91') = Ms, хП (to) £ (to) = Ms, XT) (to) М/, xs(/,o»£(®) =

= Ms, x (М/, xs (/, <0)1 M) Ms, x (% I 91') = MSi ^ (to) Ms> , (T) (to) I 91?) .

Значит,

MS)X(n(to)|9l') = MsXn(to)|9l?).

В силу (9) и Ms x (| (to) 191?) = Ms x (^ (©) 19i?). Поэтому, какова бы ни была ограниченная измеримая функция g(x),

Ms, х1! И 8 (xs kt, <о)) I (m) = Ms XT] (to) g$ (x$ kt, «>)) Ms x (g (to) 19i?) = = Ms X8S <xs kt, to)) Ms x (I (to) 191?) M$) x (П (to) 19i?).

Отсюда вытекает равенство

М$ х (П ((О) 6 (®) |Я*) = М$ х (n (®) | ^ М$ х (I (ю) 191*),(10)

выражающее независимость прошлого от будущего при заданном настоящем.

Укажем сейчас некоторые полезные расширения а-алгебр 91®, относительно которых марковость будет сохраняться. Обозначим 91®’* пополнение и-алгебры 91< по мере Р$,х, Р5|Ж — пополнение меры,

^=п^,х*X

Тогда {х<($, со), 91®, Ps,4 (мы будем обозначать сужение меры на меньшую о-алгебру тем же символом, если это не вызывает путаницы) также является марковским процессом. Чтобы убедиться в этом, достаточно проверить, что выполнено (5), если <$1 заменить 911. Пусть £ (со) — ограниченная 911-измеримая функция. Тогда она и 911’*-измерима. Поэтому существует такая ^ (со), измеримая относительно 911, что

Р$, х (К®) = 61(®)} = 1.

Значит, при s < и < t (обозначая М интеграл по Р) будем иметь

Ms, xg (xs (f, ®)) | (to) = M$, *g (^ & «>)) 6i (m) =

= Ms, *61 (to) Ms, X {g (Xs kt, to)) | si) =

= Ms, 41 (to) M„, xs («, a)g (x„ (t, to)) = Ms, A (to) M„, xs (u, Bi)g {xu (t, to)).

Из этого соотношения и вытекает (5).

Пусть теперь X — метрическое пространство, с-алгебра 23 содержит все сферы. Обозначим

91|+= П 911-и > /

Теорема 1. Пусть о-алгебра 23 порождается множеством непрерывных функций, а вероятность перехода P(s, х, t, В) непрерывного справа марковского процесса {х5(/, ю), 91®, Р$ *} удовлетворяет условию; для всех $ и t и ограниченной непрерывной ^-измеримой функции g (х) функция

gs{x) = Ms<xg(xs{t, ю)) непрерывна по х и удовлетворяет условию lim I gs+h (х) — gs+lt (у) | = 0. hfO

Тогда процесс {х$(/, ю), 91®+, Р$, х} также является марковским.

Доказательство. Достаточно проверить соотношение (5), если ®? = 91®+ для непрерывных функций gkx\ Пусть ^ (©) — 91?+-из- меримая ограниченная функция. Тогда для любого h >• 0 она Э^и+л-измерима. Следовательно,

Ms,х£(®)g(XsIt, to)) = Ms,^(to) Ms, X(g(Xskt, ®)) 1^m+a) =

== M$, x| (to) Мц+й, x$ (u+h, tofg k^uA-h kt, to)) =

= Ms, x£ (to) gu+h (xs (u + h, to)). (11)

Заметим, что функция gu(xa(«,©)) является ограниченным мартингалом, так как при «1 < и

М.,. к к (“. -)) IУ - м.,, [ [м,. ,g (х,«, «)) I «ж -

-=м., .[«(•».('. »))|^,]=г.,к(“г “)).

Поэтому существует с вероятностью 1 предел (см. § 6 гл. IV)

Hmg«+A(xs(« + A. »)). А-Ю

Так как в силу условия теоремы и непрерывности процесса справа с вероятностью 1

Hm [ga+ft (х5 (и + Л, ©)) — ga+A kxs (и, ©))] = О, а+о

то \ш\ gu+h(xs (и + h, ©)) = lim gu+k kxs ku, ©)). Пусть т] обозначает А^ОА>|гО

общее значение этих пределов. т] совпадает с ^“-измеримой величиной (как предел таких величин) и, следовательно, имеет вид X(xs(u, ©)), где Х^у-)—некоторая Э-измери- мая функция. Переходя в равенстве (11) к пределу при Л ф О, находим

Ms,xt(®)gЫ, ©)) = М$,,|(®)Мх$(ы, ю)).(12)

Если 6 (to) ^-измерима, то левая часть этого равенства совпадает с выражением

Ms, х| (to) Мв, xg (u, (Ag (xs (t, to)).

Поэтому

Ms xS (to) M«, Xg (u, <»>g (x$ (t, to)) = Ms, x^ (®) X (xs (u, to))

для всех ^„-измеримых ограниченных величин |(ю) и, значит,

' X (Xs (м, ю)) = Mu, XgU. ®\g (Xs (/, to)).

Подставляя выражение для к в (12), убеждаемся в справедливости (5) при <5® = 91®+. ■

Замечание. Используя марковость процесса {х$(/, ю), 91?+, Р$,х}» можем точно также, как (10), установить аналогичное равенство, если г] (©) 91®+-измерима. Пусть В г 91^.. Тогда хв является 91?+-измеримой и ^-измеримой. Значит,

^.xW = M,(X(X^|9l')==

= M$J, (хв I 91') м х (хв 191') = Pi,, (В 191').

Поэтому в условиях теоремы 1 Р$,х(5|91?) может равняться или 0, или 1 для Be9Vt+. Это утверждение носит название «закона 0 или 1» для марковских процессов.

В дальнейшем мы будем использовать понятие стохастической эквивалентности марковских процессов. Пусть имеется_два марковских процесса {х$(/, со), <5?, Р$, х} и {х$(/, to), Sf, Р$,х} с одним и тем же фазовым пространством (X, 8) и заданных на одном и том же пространстве элементарных событий (й, ©}. Они называются стохастически эквивалентными, если существует такой же марковский_процесс {х$ (/, ю^ S<, Ps> х}, для которого: a) S?c<3?, <»?c:S?; б) меры PS)X, Рз, х, Рз. х совпадают на ®5; в) для всех t

Рз, X {^3 (^» ®) == ^S ^» ®)} == 1 » Рз, X {^3 (^> ®) == ^S (^> ®)} == 1 •

Очевидно, стохастически эквивалентные процессы имеют одинаковые вероятности перехода.-

Пусть {х$(/, со), <5?, Ps, х} — марковский процесс. Неотрицательная случайная величина т называется марковским моментом для этого процесса, если при / > 0 событие {т > /} е <S?, т. е. наблюдая процесс на отрезке времени [0,1] мы можем судить, наступил момент т или нет. Вообще говоря, будут рассматриваться моменты, могущие принимать значение + оо. Кроме марковских моментов будем рассматривать s-марковские моменты (s ^ 0); в этом случае т ^ s и при / ^ s событие (т > 1} е <5?. 0-марковские моменты являются просто марковскими. Пусть т — s-марковский момент. Совокупность событий из ©*, для которых

ДП{т<0 <=<$?,

обозначим ®?. Очевидно, что <5? является о-алгеброй. Очевидно, что т измеримо относительно <5?.

Лемма 1. Если X — метрическое пространство, 9 порождено некоторым классом непрерывных функций и xs(t, со) непрерывно

справа, то х5(т, со) также ^-измеримо для любого s-марковского момента т.

Доказательство. Имеем для любой непрерывной измеримой функции g(x)

2"'

sk(T,«))x^,<t<^,j.

Следовательно, g(xs(x, <о))Х(Т<<} является ©’-измеримой величиной. Поэтому это справедливо и для любой измеримой функции g, в частности для 58-измеримых В:

ХВ(ХЛ^ (О))%(т<о

©’-измеримо, значит, {xs (т, со) е В} П (т ^ /} е ©’, (х$ (т, со) е е В) е ©’. ■

Наиболее интересными примерами марковских моментов являются моменты первого достижения некоторого множества (или выхода из некоторого множества).

Пусть X—метрическое пространство, х5(/, со) непрерывно справа. Пусть G — открытое множество. Тогда величина т = = sup [Л хДи, со)^ G, и ^ /], называемая моментом первого попадания в G, будет s-марковским моментом. Действительно,

(t>O = Q{®: xsVh, co)^G)n{®: xs(t, co)^G), где {^}—всюду плотное множество на [s, /], а множества в правой части этого равенства принадлежат ©’. Если тп f т и тп— s-марковские моменты, то и т — s-марковский момент;

{т > 0 = (J {т„ > О-п

Поэтому для всякого множества F = f] G„, где Gn — монотонно п

убывающая последовательность открытых множеств, r = sup[t: xsVu, to)^F, ы^/]

будет также s-марковским моментом, так как

т = sup т„,п

где тп — момент первого попадания в множество Gn. В частности, момент первого попадания в замкнутое множество также является s-марковским моментом.

Очень важный класс процессов — это такие марковские процессы, у которых марковское свойство сохраняется и в

марковские моменты. Такие процессы называются строго марковскими. Приведем точное определение этого понятия.

Определение. Процесс {х$(/, ю), ®<, Р$,J называется строго марковским, если выполняются следующие условия:

Для любого s-марковского момента т величина хДт,«Л является ©’-измеримой.

Для / > О и ^-измеримой функции g^x)

Ms. X (gМ* + t, to)) I<50 = Mt, xs (T, «^g (хт (т-Н, (0)) (mod PSlx). (13)

Правую часть (13) нужно понимать как результат подстановки и = Т, X = Xs(t, to) в функцию Mu, xg(xu (и + t, to) ). Чтобы результат такой подстановки был случайной величиной, будем требовать еще выполнения следующего условия:

Для всякой измеримой ограниченной функции g функция Mu,xg(xu(a +1, го)) измерима по совокупности переменных и,х относительно произведения о-алгебр 91X 93, где 91 — о-алгебра борелевских множеств на [0, со).

Л е м м а 2. Соотношение (13) выполняется для любого s-марковского момента т, принимающего счетное множество значений.

Доказательство. Пусть /ь t2, ..., /„, ...—все возможные значения т. Тогда {т = /6)е®?6. Пусть Ле^. Тогда ЛП П(т = ^)е<5^. Значит,

Ms, x^g (Xs (Т + ®)) = £ М$ xXAXkt=t^g (Xs (т + ®)) =

= 5 Ms, x^aX^-#^ (xs Qk + t, to)) =

= Z m$i ,x{T=(ft) n A, x (s (a Qk +1. «)) | ®У =

= X M., WM,t(I11 „^ (t„ +1, »))=

= 5 M*. -Mp.yM,,., в. *e (*, (t +1, «>)) -

= Ms, ,ХЛМТ Xs (T> ^g (XT (T + t, to)).

Из этого равенства и вытекает (13). ■

Приведем одно достаточное условие строгой марковости.

Теорема 2. Пусть X — метрическое пространство, 93 — о-алгебра, порожденная некоторым классом непрерывных функций, и марковский процесс {-^ (Л ®), ©’, Р», 4 удовлетворяет условиям:

xs(f, ю) непрерывно справа по t;

для всякой измеримой ограниченной непрерывной функции f(x) функция

Rd (s, *) = ^ е~м Р (s, х, s +t, dy) f (у)(14)

о удовлетворяет условию

lim Rd (s + А, у) = RJ (s, х).

у~>х

Тогда процесс {х$(/, ®), ©с, Р$, х) является строго марковским. Доказательство. Пусть т — некоторый s-марковский момент.

Положим т„ = —-—, если — < т^ -^ . Очевидно, т„^т и {Tn<0 = {T„<-^-} = {T<-^-|e<5%q с©’ (здесь [х] обозначает целую часть х). Значит, т„ —также s-марковский момент. Поэтому в силу леммы 2

МсМ+'.-Ж)-

= ^ xs (^ ^8 (ХЧ ^п + ^ ®)) <mod Ps xV <15)

Левая часть (15) совпадает с

Ми. х£ (*«(« + <, <о)),(16)

если положить и = т„, х = х5(т„, со). В силу непрерывности хи(« + /, со) по t справа при непрерывных g выражение (16) также непрерывно по t справа и, значит, интегрируемо. Поэтому и функции, стоящие в равенстве (15), интегрируемы по t. Следовательно,

J e-wMs, х (g (xs (т„ +t, со)) | @r„) dt = 0

= J e-wMrn, xs (t„, <^g (xXn (%n +1, о)) dt (mod Ps, J. (17) 0

Пусть /IsSv Тогда

ЛП{т„<0 = ^п{т„<-^} = Л п{т<М}е®?.

Значит, Л е®®„- Умножая (17) на Хл и беря М$1Х, получим

^ e"wMs, xg (х$ (т„ +1, со)) Xa dt = M$, xRkg (т„, xs (т„, ю)) хА- о

Переходя к пределу при п->оо и учитывая, что т^^т, т„->т, а ^(^4-^ ©)->^(т + ^ (о), и условие 2) теоремы, находим

ОО -

$ e-uMs, xg (х$ (т +1, го)) Ха di = М$, xRxg (т, xs (т, о»)) Хд = О

= М», х $ е~х<Мт. х$ (х, ^g (хт (т +t, со)) Хд di =О

= J е-х<М$, xMt, х$ (х, ^g (Хх (т + I, со)) хд di.

О

Из того, что две непрерывных справа функции имеют одинаковые преобразования Лапласа, вытекает совпадение этих функций. Поэтому

М$, хб (XS (т + ^ ®)) Хд = М5, хмт х$ (т w)g (хт (т +t, со)) Хд (18) для всех Дг<5^. Значит, (13) выполнено для ограниченных непрерывных измеримых g, а следовательно, и для всех ограниченных измеримых g. ©^-измеримость х8(т, со) вытекает из леммы 1. ■

Соотношение (13) для строго марковских процессов может быть обобщено следующим образом.

Пусть 6 </2, g\^ и gi^—две ограниченные измеримые функции, а т — s-марковский момент. Тогда т-Ь^ также является s-марковским моментом: при «><i4-s

(т + /1 <и) = (т <u — 6) е©2-(, с©^.

Легко убедиться, что ©?+«,:□©?. Запишем соотношение (13) для функции g2 и момента т +t\:

Ms, х (§2 (Xs (Т + ty ®)) | ®т+<1) = Mt+t„ xs (t+f ^82 (xv+tt (т + ty to)).

Умножив это равенство на g\ (xs(t + ii, co)) и беря условное математическое ожидание относительно ©т, получим

Ms, х (gl (Xs (т + tx, ю)) §2 (xs (т + i2, <о)) I ©т) =

“ Ms. x(g, (xs (т + /„ to)) MT+(1> x$ (T+(p ^g2 (xT+#| (t +12, to)) I ©Q. Используем теперь следующее равенство: если f(x,s) — ограниченная S3 X St-измеримая функция, т — s-марковский момент, то Ms, X (/ (Xs (т + t, (О), т) I ©0 =

= Мт, xs (т, <4 (хт (т +1, с»), т) (mod Ps, х) (18)

(правая часть (18) есть результат подстановки и = х, х = = х,(т, с») в функцию Mu>xf(xu(u +1, у), «)). Равенство (18) очевидно, если f (х, ы) = fi (x)gi (ы) в силу ©^-измеримости величины т и соотношения (13). Далее можно воспользоваться тем, что функция f(x, ы) является пределом по любой мере на 6 X ^-последовательности функций вида

Используя (18), можем записать

M(g, (х$ (т + /Р ©)) Мт+/р х$ (т+/р ^g2(xT+#i (т + t2, <»)) | ®0 =

= ^T, Xs (T, <8)^1 (XT (T + ^P ®)) ^T+ip Xt (x+tv <8)^2 ^°x+tx (T + 4» ®))’

Таким образом,

M$, x (gi (xs (t +tx, ю)) g2 (xs (t + /2, to)) | 50 = = Mt, XS (T, <8)^1 (XX (T + 'p ®)) X

x Mt+G> ^ (T+()1 ^g2 (хт+<1 (t +12, to)) (mod PS) x).

Аналогично устанавливается следующая формула: для 0 < fi < </2 < ••• < ^а, ограниченных измеримых функций gi(x), ... .... gh(x) и s-марковского момента т

М$, * (П 81 (*» (т + th to)) 1

= МТ1Я$ (.,<„)§! (хт(т + /„ to)) Мт+<1 X^t+tv^82(xx+ti (т-М2, ®)) • • • ... Mt+<6_„ Xx+t^t + ^-1. ®) 8ft (Xx+tk^ (t+"^. ®)) (mod Ps,x). (19) Из (19) с помощью (8) и (6) получаем следующую формулу: М$, х (П 81 (xs (т + tb <о)) | <5т к

= Mr, х8 (г, <8) П 81 ta (т + if, «>)) (mod PS| x). (20)

§ 2. Общие скачкообразные марковские процессы

(1)(1)Пусть (X, S3) — произвольное измеримое пространство, а а-ал- гебра S3 содержит все одноточечные множества. Марковский процесс {xs(f, ю), 5/, Р$) х} называется ступенчатым, если для всех s и х

(1)

(1)

НтР. х({ю: х4(/, ю) = х, s<<<s + 6)) = l. 6*0

Если выполнено условие (1), то для всех s определена положительная случайная величина т^

T1 = sup[/: xs^u, ю) — xs(s, 6»), s^u^Z], называемая моментом первого выхода из начального состояния. Очевидно, что эта величина является s-марковским моментом.

Заметим, что го — множество, стоящее под знаком вероятности в (1)—не обязано быть событием, так как оно является пересечением континуума событий. Чтобы оно было событием, будем рассматривать лишь процессы, выборочные функции которых сепарабельны в следующем смысле: если х«(/, го) = х при (е(а, 0) ПА, где А — некоторое счетное плотное на [0, оо) множество, то х5(/, го) = х для всех / е [а, 0).

Из условия (1) вытекает, в частности, условие

lim Ps, х ({го: xs (/, го) = х}) = lim Р (s, х, t, {х}) = 1(2)

/fst~Vs

({х}—одноточечное множество, состоящее из одной точки х). Процессы, вероятности перехода которых удовлетворяют условию (2) для всех s, х, называются стохастически непрерывными.

Лемма 1. Если процесс стохастически непрерывен, то существует стохастически эквивалентный ему сепарабельный процесс.

Доказательство. Построим процесс xs(/, ю) следующим образом: х8Ц, го) = х, если существует такое 6 > 0, что xs(u, го) = = х при и е (/, t4- 6) ЛА; х8(/, го) = х8(/, го) в остальных случаях. Обозначим через 91д событие xs (t,, to) = xs(t}, го), tb t} е е (/, ^ + у)> А = {/ь /2> • • •}• Выберем последовательность tnk е А такую, чтобы t < tnk < t + ~. Тогда

{х$ (/, <о) ^ Х$ V. “)} <= U ^Ь-к

Значит,

Ps, * ({^s (<, ®) N= Xs (/, го)}) < Jirn Ps,, ({xs (/, to) N= Xs (t, to)} n М6) <

< Дт P$, x ({xs Qnk, <o) ^ xs (/, ©)} П Sift) ^

< Jim P$, x (xs Qnk, ®)¥= xs (t, ©)) =

= Jirn Ms, xMt, xs (t, <»)X {** (Л to) ¥= Xt Qnk, to)} =

= lim P (s, x, t, dy^ P U, y, tnk, X — {y}) = 0, k-^QO Jк/

так как tnk 11 и Р (/, у, t„k, X — {у}) -> 0 для всех у. Очевидно, х$(/, <о) будет измеримо относительно а-алгебры <&®-событий, порожденной событиями из <5® и П^ ь где Nl i порождена т ^т^т~

также является марковским процессом.Пусть | — произвольная (^/-измеримая ограниченная величина. Так как S® содержится в пополнении 3® по мере Р$, х» то существует такая ^-измеримая величина |, что Р$, ж {&=t}= 1. Поэтому при и > t ’также является марковским процессом.Пусть | — произвольная (^/-измеримая ограниченная величина. Так как S® содержится в пополнении 3® по мере Р$, х» то существует такая ^-измеримая величина |, что Р$, ж {&=t}= 1. Поэтому при и > t ’множеством %т П Л^, Л^ с 91^, tk е (/, t-V6). Поскольку <ё® с<5®, то мера Р$, х определена и на S®. Покажем, что {xs (/, ю),<В®, Р$, х}

также является марковским процессом.

Пусть | — произвольная (^/-измеримая ограниченная величина. Так как S® содержится в пополнении 3® по мере Р$, х» то существует такая ^-измеримая величина |, что Р$, ж {&=t}= 1. Поэтому при и > t ’

также является марковским процессом.

Пусть | — произвольная (^/-измеримая ограниченная величина. Так как S® содержится в пополнении 3® по мере Р$, х» то существует такая ^-измеримая величина |, что Р$, ж {&=t}= 1. Поэтому при и > t ’

Ms, х^Хв fo («, “)) = Ms. xIxb kxs (и, 6»)) =

Ms, xM, x$«, Ш)%в (,xt (u> ®)) Ms ^M^ x$ (/> ^g (x/ (м, со)).

Отсюда вытекает равенство

Ps, x ({xs («. o>) e В) | <s®) = P<, xs «, ®) ({x, (u, го) e B}).

Но тогда, учитывая равенство Ps,ж{х5(м, to) = xs(«, ©)} = 1, убеждаемся, что последнее соотношение выполнено, если х3(-, •) заменить на xs(-, •). ■

Будем предполагать, что все рассматриваемые далее процессы стохастически непрерывны и сепарабельны. Найдем условие, при котором выполнено (1).

Теорема 1. Для того чтобы сепарабельный марковский процесс в фазовом пространстве (X, S3) был ступенчатым, необходимо и достаточно выполнения условия: для всех se[0, оо), хеХ

Нт Пт2Р(^"),х,^|,Х-{х})=0, (3)

6,1,0 max (^-/^-Ю s<tW<...<tW-s+6

какова бы ни была последовательность разбиений s = t^ < ... ... < tn”1 = s + 6, для которой max (^ — Z^!) -> 0.

Доказательство. Необходимость. Пусть выполнено условие (1). Тогда

Р$, х ({<в: х$ (Z, ®) = х, s < t < s + 6}) =

= lim P$, x{x$(/k\ to) = x, k = 1, n) = max (<ft"L<A-|)-»0

— lim Пр№» x, tT, W) =max (^-^"IJ-X* 6=1

= lim П (1 - Р №, х, $\ X - {х})) < max^-tg’li)-*» 6-1

<ехр{ — Нт У Р(4-ь х, $\ X — {х})1.

[ max (^-^l^-X*J

Значит,

lim ZP№,i.f,I-W)<

■■■«ЧУ-

< — In Ps, x ({©: xs (/, о) = x, s ^ / ^ s + 6}).

Переходя к пределу при 6|0, из (1) получим (3).

Достаточность. Пусть выполнено (3). Выберем последовательность разбиений s = ^ < ^ < ... < /„ * = s + 6 так, чтобы .множества Л„ = {/|"), ..., 4”2i} монотонно возрастали спи ул„ = ЛП(5, s + б). Тогда

Р$.х({^(^, ®) = х, s</<s + 6)) =

= Р$, х (VxsV, to) = x, t e Л П (s, s + 6)}) =

= lim P,(, ({xs (/, to) = x, / e Л„}) = П->со

= lim Пр№, X, 4n), {x}) =

П-^оо fe = |

= lim П (1 - P x, tT, X - {x})) = ^-►oo /г = |

= lim exp | ^ In (1 — P (/("2b x, t^\ X — {x})) j .(4)

Если б выбрано так, чтобы

lim У Р (/("2ь х, t(k \ X — {х}) < е, — fe-i

то и lim sup Р (4-ь х, 4п>, X — {х}) < е и, значит,

lim Z 1п(1 - РО^ь х, t^, X - {х)))>

П->со fc”1

>[1+О (е)] lim У Р (4"2,, х, tT, X - {х}). П->оо ^”1

Поэтому, учитывая (3), из (4) получаем (1). ■

Рассмотрим в X дискретную топологию, при которой {*} является наименьшей окрестностью точки х. Всякая функция на X тогда будет непрерывной. Из соотношений

P(s, х, / + Л, Л) = Р (s, х. t, dy) Р (/, у, t + h, Л) и

ПтР(/, у. t + h, А)=Хл(у),

Р (s, х, s + h, {х}) Р (s + h, х, t, Л) +

+ ( Р (s, х, s + h, dy) P (s + h, y, t, Л) = P (s, x, t, Л) x-w

вытекает, что для стохастически непрерывного процесса P(s, х, t, Л) непрерывна справа и по $ и по Л Поэтому и функция

j p(s> х t^Si dy)g(y)dt о

непрерывна справа по s. Из того, что процесс ступенчатый, вытекает, что каждое свое значение он принимает на некотором интервале, при этом этот интервал можно считать замкнутым слева (таким будет процесс, построенный в лемме 1). Однако это не гарантирует непрерывности процесса справа, как показывает пример

х^) = к при -^-<^<^г, х(0) = 0.

Непрерывные справа в дискретной топологии процессы будут обязательно ступенчатыми. Они образуют более узкий класс, чем ступенчатые процессы. Их мы и будем называть скачкообразными. В силу теоремы 2 § 1 скачкообразный процесс является строго марковским.

Рассмотрим марковские моменты тд— моменты k-го скачка процесса х3 (/,©). Они определяются рекуррентно следующим образом. Ti — это момент выхода из начального состояния, он уже определен выше. В силу строгой марковости определена величина х$(ть го). Из скачкообразности процесса вытекает существование такого интервала (ть Ti + б), что xs(/, ю) = xs(ri, ю) при t е (ть т, + 6). Пусть т2 = sup[Z: xs(u, ©) = х$(ть ю), ti ^ ^и<<]. Легко проверить, что т2— также s-марковский момент. Очевидно, Ti •< т2. Если определен момент тд-ь то тд определяется так:

T6 = sup[f: хЛи, го) = х$(тд-ь ю), тд_] <«</].

Может оказаться, что при некотором к тд — + оо. Тогда tj при

/ > к не определены. Не определено также и х5(та, со). Чтобы построить процесс (его выборочные функции) на интервале [s, sup тд], достаточно знать последовательности пар

{(ta,xs(ta, со)), к = 1,2, ...}.

Теорема 2. Последовательность (та, xs(ta, ю)}, ^=1,2 образует, вообще говоря, обрывающуюся однородную цепь Маркова в фазовом пространстве ([0, со)ХХ, 91X8), где 91 — о-ал- гебра борелевских множеств на [0, оо), с вероятностью перехода за один шаг, определяемой из соотношения

Р (тт < t, xs(xm, С») е В |тт-ь Xs(Tm-b со)) =

= Р«,х(т1 <Л х„(ть <o)eB)|u=tm i , t>s, Ве%. (5) x=xs ^m—v ^

Доказательство. Для доказательства теоремы достаточно показать, что правая часть (5) совпадает с

Ps. х ({^m ^ А, хДхт, со) е В) 1®гт_,)-

Но в силу скачкообразности процесса имеем

{Tm < Xs^tmt to) S} = (J U [ П {+ "2" > to) ==

п т +— < t * = 1

= xs(tm-b <о)}]п{х$(тт-1+^-, ®)eB\{xs(Tm_b со)}}.

Для всякой ®тт_/измеримой ограниченной величины g в силу соотношения (18) § 1 можем записать

к-\.

М$, хВ ^ JJ X | ^s ^m-1 4" *^п > to) = Xs k^m-1, to)| X

T^-J +pf < t

Xx{xs (тт-! + -^-, co) eB\{xs(Tm-b <o))} =

= Ms,x|MXm_1,Xj(Tm_,(<»))2 П X {^m-i (^"*-1 +-^-» to) =

= А:5{тП1-ь(о}}х{хтт_|(тт-14-^-, co) GB\{xs(Tm-b co))}. (6)

Переходя к пределу при и->оо слева, получим М$, .к^Х^т < t» ^s^mi ^) ^ ^}*

Заметим теперь, что

n*i^M„,x У, ПхЫ«+зМ = *}Х

Хх{^« (« +jr> ю)еВ\{х}^ =

= M„.xXfai<^ х„(ть (о) г В) = Р„, х {т, < t, х0(ть ®)еВ}. Таким образом, М», х^Х ^т < ^ ^s fam, ®) ® Л} =

= Ms. xi [Р„, х fa, < t, хи fab (О) е В}]„_х. ■

X-Xs^m-V^

Скачкообразный процесс называется регулярным, если sup th = + со с вероятностью р5, х = 1, каковы бы ни были s, х. Приведем одно достаточное условие регулярности.

Лемма 2. Пусть существует такое б > 0, что для всех s, х

Ps.xfal >s + 6}>6.

Тогда процесс является регулярным.

Доказательство. Используя теорему 2, можем записать, что для всех п

Р {т„ - Т„-! > б I = Р„, х fa, > и + 6} |„_Хп_1> б. (7)

x-xs(.xn-V®)

Положим £„ = т„ —т„-ь Из (7) вытекает, что

Р{?„>6|£„ .... S„-,}>6, PU„<d|g„ .... ^-J^d-d).

m

Для каждого из событий Л,1<т= П {?'h^^} имеем оценку

Далее, событие {£, + • • • + ?«^ ^6} влечет одно из событий Atv— ln-fe* ^h< ••• <1п-к<п- Поэтому

PU1+ +^<^}<d(l-d)"-ft-*0

при п-*со, каково бы ни было к. Значит, Ps.xfan^O^O ПРИ п-*оо. ■’

Выведем одно интегральное уравнение для вероятностей перехода скачкообразного процесса. Обозначим л($, х, Л, В) = = Р«,х(т1 е Л, хя(ть со)е В) совместную функцию распределения и хя(ть со). Имеем

Р (s, х, I, В) = Р$, х ({хя (л ю) <= В}) =

= РЛ * ({^s V, to) s В) л {т < 0) + Ps, X ({^ (t ®) е В) Л {т > 0) =

= Хв W Ms, хХ(х > I) + MS, xX(t «)ХВ (^ U, .to)) =

= Хв(*)Мя,хх{т>04- M$ ^<OMS,^^^ ®))|$Э =

Хв 00 ^«, xX(t>0 4” ^в, хХ(т<0^т, х$ (т, о)Хв (^ ^' ®))

= Хв ^ М$ ,Х(Т > о + Ms ,Х{Т<ОР (Т, х$ (т, to), t, В).

Таким образом,

Р($, х, t, В) = Хв 00 л ($, х. It °°)> Х) + t

+ ^ л($, х, du, dy^P^u, у, t, В).(8)

S

Рассмотрим теперь однородный скачкообразный процесс. Для такого процесса вероятность перехода P(s, х, t, В) зависит лишь от разности t— s, которую будем обозначать Р(/— s, х, В). Условие стохастической непрерывности теперь имеет вид

lim Р(/, х, {х}) = 1.(9)

НО

Из теоремы 1 вытекает, что для того, чтобы сепарабельный однородный процесс был ступенчатым, необходимо и достаточно, чтобы выполнялось условие

— Р (А, х, {х}) .

Но

Если это условие выполнено, то величина ti—s-момент выхода из начальной точки процесса х8^» со) — имеет показательное распределение, т. е. существует такое Л(х), что

Ps, X {^1 > 14- $} = exp {— X (х) 0-

Необходимость условия (10) • вытекает из того, что при s = ^</">< ... </<">=s + d, h = t^-t^x=bln

hhИгл ^ PG»--, x, t^, X \ {x}) = lim (1 - P (|, x, X \ {x})) =

h

h

Ho

Из этого соотношения можем получить и достаточность условия (10), учитывая то обстоятельство, что в качестве множества сепарабельности можно взять множество всех двоично-рациональных чисел. Далее,

Р5.х{т1</ + $} = 1-г1кп (р(^г, х, М))*Я =

'= l-lim(l+[p(jr,x,{x})-1])*" =

= 1 — exp | lim -^-(Р (-^г. х, (х)} — 1)} = 1 — ехр{— Л (х)},

где X (х) = lim ^ -^ ^ , 6„ = [Й" — 1] + 1,[ • ] — целая

й*о часть числа.

Пусть теперь процесс xs(t, со) скачкообразный. Тогда

Ps,x(ti < Z + s, xs (т1; со) е В) = limП->ооPs,x(ti < Z + s, xs (т1; со) е В) = limП->ооZ p.„Й<С2ПZ p.„Й<С2П{Xs(S + 2n{Xs(S + 2n“)=“)=

Ps,x(ti < Z + s, xs (т1; со) е В) = lim

П->оо

Ps,x(ti < Z + s, xs (т1; со) е В) = lim

П->оо

Z p.„

Й<С2П

Z p.„

Й<С2П

{Xs(S + 2n

{Xs(S + 2n

“)=

“)=

= x, / = 1, ..., k— 1, x$(s + ^r, to) eB\{x)} =

~~„^ 2 [P(2n-X>W)] P (2" ' X’ B X w) — fe<<2"

= lim P (-Л-= lim P (-Л-

= lim P (-Л-

= lim P (-Л-

причем этот предел существует. Значит, существует и предел

llm z&^m^= llm .^^^ "-*” 1 - Р (jr, X, w) "-*“ Р (-^, х, X - {х})

Обозначая этот предел л(х, В), получим

Р», х Ьй < t + s, xs (ть со) е В) = л (х. В) (1 — е~1к ^). (11)

Таким образом, Т! и х5(ть ®) независимы.

Заметим, что ^^ = М$,, [tj — s] — среднее время пребывания в состоянии х. Если А(х) = 0, то Р«,${ti >/-|-s}= 1 для всех s, т. е. процесс никогда не покинет состояния х, если только он был в этом состоянии в настоящий момент. Такое состояние называется поглацающим.

Рассмотрим величины (тп, х8(тп, со)} в однородном случае. Формула (11) позволяет с помощью теоремы 2 получить здесь более сильное утверждение, чем в теореме 2.

Теорема 3. Если у процесса отсутствуют поглоицаюгцие достояния, то последовательность (xn (со) = xs(%n, со), п = 1, 2, ...} образует однородную цепь Маркова с вероятностью перехода л(х, В):

Р {х„ (со) е В | х„-! (со)} |, = л (x„-i (со), В),

а величины £1 = ti — s, £2 = Т2 — ть ... условно независимы, если заданы (лгп(о)), п = 1, 2, ...}, и имеют показательное распределение:

Р {Sa > < I ^-1 (©)} = ехр {— tk (х6-, (to))}.

Доказательство. В силу теоремы 2 и формулы (11)

Р«, * {?А > Л (®) ^ ^ I Sb • • • > Sa-Ь -^1 (®)> • • •, ^А—1 (®)} =

= Р«, X {Т1 > t + и, Х„ (т, (to)) 6= В} |„=

х-хк~\ №

= л (xft-i (со), В)ехр{— tk (xfc_t (to))}.

Следовательно, совместное распределение величин ^ь • • •. Sa, Х1(со), .... ха (со) задается формулой

Ps. X {?! > ^1,> ^2, • • •, Sa > ^А, X! (to) G ВхXk (to) S Bft) =

= $ л(х, dxt) ... J л(х^ь dxft)expj — £/Д (х,-! (со)) | (12)

в,Bfe<1-1)

(хо(со) = х). Из этой формулы, полагая ^=0, находим

Р$, х {^1 W е 5Ь ..., хк (е») е В*} = ^ л (х, dxi) ... ^ л (хд-ь dx^, 51ЙА

откуда следует, что ха(со) образуют однородную цепь Маркова с вероятностью перехода л(х, В). Кроме того, из (12) можно найти условное распределение величин ^, .... ^а:

Р8> х {$1 >• • •, Еа >(®), • • •, ^А (®)} "

(к)

= ехр{ — Z ttk^x,-x^ L ■

Цепь Маркова {хл(со)} называется вложенной цепью Маркова для данного процесса.

Замечание. Если х — поглощающее состояние, то £i = = -|- оо, xt (со) не определено. Положим для такого х л(х, В) =^ = %в(х) и будем считать, что Хл(и) = xft_i (и), ^ = + оо, если Л’й-1(ю) попало в поглощающее состояние. Тогда {xh(w)} по- прежнему будет однородной цепью Маркова с вероятностью перехода л(х, В).

Если переписать соотношение (12) в виде

Ps. х {£1 < ^ь • • •, ^ < ^, *1 (®)е Вь ..., х6 (со) е В*} =

= $л(х, dx^ ... J л(х6-ь dxk) Ц(1 — ехр{— ^(х^С©))}), в,вкi-\

то оно будет справедливо и при наличии поглощающих состояний.

Отметим еще, что уравнение (8) для вероятностей перехода в однородном случае имеет вид

Р (/, х, В) = %в (*) ехр {— IX (х)} +

+ X (х) e-sX <*> ds ^ л (х, dy) Р (f — s, у. В). (13) о

Если Х(х) ограничено, то методом последовательных приближений устанавливается существование и единственность решения (13). Как вытекает из леммы 2, при этом предположении процесс будет регулярным, так как

Ps. х {tj > s + 6} = е~6Х <х> > е-6с._

Приведем общее условие регулярности процесса.

Теорема 4. Для того чтобы однородный марковский процесс был регулярным, необходимо и достаточно, чтобы для всех s, х

где хк (о) —- вложенная цепь Маркова.

Доказательство. Так как

Ms, Ae'^Vk-1(®)) =

- («) Л=.

JЛ 4-Л (*ft-JO?)

ТО

М>Ж"“1 *.(<»)*.(■»)) = Д t ДДД «-1*- (15)

Поэтому, если т* = зирт„, то п

М e-xt« _ е-х$м ГТ х(Л-1 ^0

(е-°° = 0). Переходя к пределу при Я | О, получаем

^*, х%{т*<о»} = М$ , Нт Д л + л^.,^)) *66)

Но легко видеть, что

Цщ И Х(Л-!<«>))”™ ib + M^-ii”»)Цщ И Х(Л-!<«>))”™ ib + M^-ii”»)1,1,еслиесли^ Чл-i (ю0 <00 *^ Чл-i (ю0 <00 *О,О,еслиесли^МЛ-1(Ю)) + °0,^МЛ-1(Ю)) + °0,

Цщ И Х(Л-!<«>))

”™ ib + M^-ii”»)

Цщ И Х(Л-!<«>))

”™ ib + M^-ii”»)

1,

1,