Книга
← К списку книгЗагрузка разделов…
активнаАктивные записи участвуют в каталоге и синках. Неактивная книга скрыта, но не удалена из базы.
Книга
ОТ РЕДАКЦИИ
В соответствии с постановлением Президиума АН СССР первая книга избранных трудов академика А. Н. Колмогорова «Математика и механика» (М.: Наука) вышла в свет в 1985 г. Запланированную к изданию вторую книгу трудов А. Н. Колмогорова редакционная коллегия сочла целесообразным разбить на две: в первой из них собраны труды по теории вероятностей и математической статистике, во второй — по теории информации и теории алгоритмов. В списке трудов А. Н. Колмогорова, помещенном в первой книге, отмеченные двумя звездочками работы естественным образом должны быть разделены на помещенные в настоящей второй книге и подготовленные к опубликованию в третьей книге. .
Подготовка второй и третьей книг избранных трудов А. Н. Колмогорова осуществлена Ю. В. Прохоровым и А. Н. Ширяевым.
НЕСКОЛЬКО СЛОВ ОБ А.Н.КОЛМОГОРОВЕ
П. С. Александров
Необыкновенная широта творческих интересов А. Н. Колмогорова, огромный диапазон и разнообразие тех областей математики, в которых он работал в различные периоды своей жизни, выделяют Андрея Николаевича среди математиков не только нашей страны, но и всего мира, и можно прямо сказать, что в отношении этого свойства своего дарования он не имеет себе равных среди математиков нашего времени. При этом во многих математических дисциплинах, в которых работал А. Н. Колмогоров, им получены действительно основополагающие, принципиально важные результаты, доказательство которых часто требовало преодоления больших трудностей и поэтому было сопряжено с большим творческим напряжением. Это относится уже к результатам, полученным Андреем Николаевичем в совсем молодые годы, по теории множеств и функций, как дескриптивной, так и метрической, например к построенной им теории операций над множествами и к его знаменитому примеру расходящегося ряда Фурье.
Далее последовали работы по общей теории меры, как абстрактной, т. е. «собственно общей», так и геометрической, а затем начались и фундаментальные работы А. Н. Колмогорова в различных направлениях теории вероятностей, поставившие Андрея Николаевича бесспорно на первое место среди представителей этой дисциплины во всем мире.
Рано возникли и первые работы А. Н. Колмогорова, посвященные математической логике и основаниям математики. В значительно более поздние годы к этим работам присоединились исследования по теории информации.
Очень велик вклад, сделанный Андреем Николаевичем, в топологию. Достаточно напомнить, что одновременно с выдающимся американским топологом Александером и совершенно независимо от него А. Н. Колмогоров пришел к понятию когомологии и основал теорию когомологических операций, т. е. получил результаты, существенно преобразовавшие всю топологию. Общеизвестны глубокие связи топологии с теорией обыкновенных дифференциальных уравнений, небесной механикой и, далее, общей теорией динамических систем. Эти связи возникли при первых же работах Пуанкаре. Идеи А. Н. Колмогорова во всей этой огромной математической дисциплине, далее развитые в работах его многочисленных учеников, в значительной степени определили ее состояние в настоящее время. Необходимо, наконец, указать на исследования А. Н. Колмогорова, относящиеся собственно к механике, в частности на его знаменитые работы в теории турбулентности, уже непосредственно переходящие
в область экспериментальных наук о природе. Все сказанное, а сказано далеко не все, что можно было бы сказать об А. Н. Колмогорове как об ученом, делает очевидным, что в его лице мы имеем одного из самых выдающихся представителей современной математики в самом широком смысле этого слова, включающем и прикладную математику. Это положение Андрея Николаевича в науке пользуется бесспорным признанием в международном научном мире и находит свое внешнее выражение, в частности, в том, что А. Н. Колмогорову принадлежит первое место среди всех советских математиков по числу иностранных академий и научных обществ, избравших его своим сочленом, а также университетов, сделавших его своим почетным доктором. Среди них находим: Парижскую академию наук, Лондонское королевское общество, Академию естествоиспытателей «Лео- польдина», Нидерландскую академию наук, Польскую академию наук, Академию наук ГДР, Польское математическое общество, Лондонское математическое общество, Национальную академию наук США, основанное Б. Франклином Американское философское общество, Парижский, Берлинский, Варшавский университеты и др.
А. Н. Колмогоров родился 25 апреля 1903 г. в Тамбове, в котором его мать Мария Яковлевна Колмогорова задержалась по пути из Крыма. Мария Яковлевна умерла при самом рождении ее сына, и все заботы по его воспитанию взяла на себя ее родная сестра Вера Яковлевна Колмогорова, которая действительно заменила мать Андрею Николаевичу. А. Н. Колмогоров в соответствии с этим и относился к Вере Яковлевне, как к своей матери, до самой ее смерти (В. Я. Колмогорова умерла в 1950 г. в Комаровке в возрасте 87 лет). Ио материнской линии А. Н. Колмогоров был дворянского происхождения: его дед со стороны матери^ Яков Степанович Колмогоров, был угличским уездным предводителем дворянства. Отец Андрея Николаевича был сыном священника. Он был агрономом с высшим специальным образованием или, по тогдашней терминологии, «ученым агрономом».
Моя дружба с А. Н. Колмогоровым занимает в моей жизни совершенно исключительное, неповторимое место: эта дружба перешагнула в 1979 г. через свое пятидесятилетие и за весь.этот полувековой период не только ни разу не дала никакой трещины, но не сопровождалась даже никакой ссорой, не было у нас за все это время и какого бы то ни было взаимного непонимания по вопросам, сколько-нибудь важным для нашей жизни и миросозерцания; даже тогда, когда наши взгляды на какой-нибудь из этих вопросов бывали различны, мы относились к этим взглядам друг друга с полным пониманием и сочувствием.
Как уже упоминалось, у А. Н. Колмогорова было много учеников в различных областях математики, некоторые из которых сами сделались крупными представителями своей специальности. Старшими учениками А. Н. Колмогорова являются ставшие потом действительными членами АН СССР Сергей Михайлович Никольский
(род. 1905 г.) и ныне покойный Анатолий Иванович Мальцев (род. 1910 г.). Следующими по возрасту являются Борис Владимирович Гнеденко (род. 1912 г.), действительный член Академии наук УССР, видный всемирно признанный специалист по теории вероятностей, действительный член АН СССР Михаил Дмитриевич Миллионщиков (род. 1913 г., скончался в 1973 г.) и Израиль Моисеевич Гельфанд (род. 1913 г.), член-корреспондент АН СССР, избранный иностранным членом Национальной академии наук США и Парижской академии наук. Значительно моложе, но все же принадлежат к старшему поколению учеников А. Н. Колмогорова действительный член АН СССР Александр Михайлович Обухов (род. 1918 г.), член-корреспондент АН СССР Андрей Сергеевич Монин (род. 1921 г.).
Далее идут: Владимир Андреевич Успенский, Владимир Михайлович Тихомиров, Владимир Михайлович Алексеев, Яков Григорьевич Синай, Владимир Игоревич Арнольд.
Особенно обширна группа учеников Андрея Николаевича, посвятивших себя работе в теории вероятностей и математической статистике. Среди них — действительный член АН СССР Юрий Васильевич Прохоров, член-корреспондент АН СССР Логин Николаевич Большев, действительный член АН УзССР Сагды Хасанович Сираж- динов, действительный член АН УССР Владимир Сергеевич Миха- левич, Борис Александрович Севастьянов, Юрий Анатольевич Розанов, Альберт Николаевич Ширяев, Игорь Георгиевич Журбенко. Разумеется, этот список ни в какой мере не является полным, да и по самому заглавию моей статьи ясно, что она, не будучи юбилейным обзором жизни и деятельности А. Н. Колмогорова и вообще не будучи в каком бы то ни было смысле традиционной «юбилейной статьей»,, не претендует на полноту ни в каком отношении1.
Март 1981 г.
м. Гельфанд и вУсТ^Шх^Академии наук СССР избраны
СССР — В. II. Арнольд и Б. А. Севастьянов?—/Ур^ч^^ Академии наук
1
О СХОДИМОСТИ РЯДОВ,ЧЛЕНЫ КОТОРЫХ ОПРЕДЕЛЯЮТСЯ СЛУЧАЕМ*
Совместно с А. Я. Хинчиным
Рассмотрим ряд
+ У 2 + • • • + Уп + • • .,(1)
члены которого являются случайными величинами; обозначим при этом значения (их конечное или, возможно, счетное число), принимав' мые уТИ через у£\ Уп\ • • ., Уп\ • • ., а соответствующие вероятности через р^\ Рп\ • • ., Рп\ • • • с ^ р^ = 1. Далее, обозначим i через
ап Уп Рп
математическое ожидание величины уп и через
bn = X — a^V-p^
математическое ожидание квадрата отклонения уи — ап.
Сначала мы докажем, что в предположении сходимости рядов ^сп и Ж вероятность Р сходимости ряда (1) равна 1. Частный случай этого утверждения (а именно когда каждое уп принимает только два значения + сп и —сп с одинаковой вероятностью /2) был установлен Радемахером в теоретико-функциональных терминах1. В § 1 мы дадим доказательство общей теоремы, пользуясь обобщением метода, предложенного Радемахером. В § 2 мы передокажем ее другими средствами, которые приведут быстрее к цели. В § 3 установим, что для одного важного и очень широкого класса случаев сходимость рядов 1^Ъп является не только достаточным, но и необходимым признаком для справедливости равенства Р = 1; именно таковым является случай, когда значения, принимаемые упг ограничены в совокупности. Наконец, в § 4 укажем одновременно необходимый и достаточный признак справедливости соотношения Р = 1 в общем случае.
1 принадлежит А. Я. Хинчину, § 2, 3 и 4 — А. Н. Колмогорову.
Приведем задачу в более удобную для наших целей теоретикофункциональную форму. Для этого построим систему функций
Ф1 Ф2 ^^ • • ч фи (Ж), • • •
посредством следующего рекуррентного определения: допустим , не ограничивая этим общность, что
<г)(г+1)
Р пРп
для всех п и г; разделим отрезок О С х ^ 1 слева направо на части длины
1)(^<г)
Р1 1 Р1 1 • • ч Р1 » • • •
и положим (pt (ж) равной постоянной на каждом из этих частичных интервалов, а именно
<Р1 (ж) = z^ = у^ — av
в t-м интервале. Тогда имеем 11
5 Ф1 (^) dx = 0,§{ф1 (x)}dr — 61.
оо
Если функция ф,г-! (ж) уже определена, то функция ф№ (ж) определяется в общем случае так: каждый интервал постоянства б функции ф,^ (ж) делится на интервалы, длины которых (слева направо) пропорциональны величинам
Рп 1 Рп 1 • • -7 Рп 7 • • •
и на f-м частичном интервале полагаеми на f-м частичном интервале полагаемФп (ж) = Z,^ = тогда1фп (./;) dx = О, оФп (ж) = Z,^ = тогда1фп (./;) dx = О, оО)Уп . ~ ап,О)Уп . ~ ап,1^{фпС^)}2^^—^О1^{фпС^)}2^^—^О
и на f-м частичном интервале полагаем
и на f-м частичном интервале полагаем
Фп (ж) = Z,^ = тогда
1
фп (./;) dx = О, о
Фп (ж) = Z,^ = тогда
1
фп (./;) dx = О, о
О)
Уп . ~ ап,
О)
Уп . ~ ап,
1
^{фпС^)}2^^—^
О
1
^{фпС^)}2^^—^
О
Значения функций фа (ж) в концах частичных интервалов не играют роли и могут быть взяты произвольно.
В предположении, что ряд ILan сходится, вероятность сходимости ряда (1) совпадает с вероятностью сходимости ряда
. (2). (2)Ф1 (Ж) + ф2 М + - • • + фп (^ + • •
. (2)
. (2)
которая при нашем понимании задается мерой (в смысле Лебега) того точечного множества, на котором сходится этот ряд. Следовательно, наш главный результат можно толковать так 2: сходимость
ряда lLbn является достаточным признаком сходимости почти всюду ряда (2).
Нижеследующее доказательство обобщает данное Радемахером доказательство для частного случая .
Положим
Л„(х)= п {1 + фДж)}, /„(j;)= 5яп(0^ •А'=1О
Имеем
I Mi (ж) — k W | - - | ^ {лп+1 (г) — лп ^ at | = I ^ лп (() фп+1 (0 л I. 1 о1 о1
Пусть 6 U, 6) — тот интервал постоянства функции фп (2), который определяется как а <, х < Ъ. Очевидно, что
\ лп(^)фп+1(^)^ = 0 о
и, следовательно,
|М1Щ —4(Щ=^к(ЩпЧя(0^|ЩлпР)|- |$фп+1(0^ |.(3)
так как лп (£) постоянно в интервале (а, х\ Из условий 34^1° = О (я = 1,2,...)
получим
| 4Я Р^ I = I 2 ^ Рп | (га, / = 1, 2, . . .)
и из неравенства Шварца
I ।, / у /~М2П(О V n0) / Vb" У1 — nu)
V i^3w
Итак, если на интервале (а, Ь)
Ф/г (^) = 4^^ (fc = 1, 2, . . ., п), то
К(о|=| п {1 + Лк Ц 1+ У^ —4^\*(4)
Рк
С другой стороны, имеем
ххЪ
|^p,^i(P)A|<^|cpn+i(i)|^ <$| фп+1 (01dt =
1п
= Р11>Р^- ■ . рУ § | фм+1 w I dt < П Рк^(5)
07г=1
и еще
I С <р7|„! tp dt | < | х - а | • | г^Л | < П Pkk) У6„+1т^'
аК=1Рп+1
где 1 4^+1 | — наибольшее значение | <рп+1 (£) | на а < t ^ х. Если / \ ^п+1^•-
фп+1' ^П+17 1пЛЛ
то согласно нашему предположению выполнено Р^^ ^ р^п значит, тем более имеем
Ц фп+1(0^ < Hp^Vb^i——(6)
Из (5) и (6) вытекает
j фп+i atоп^ рг р^— рп+1 ?
так как при р^1^ > г/2 это следует из (6), а при р^^ < 72 из (5). Теперь (3), (4) и (7) влекут за собой
I | I /п+1 (^) /п (^) I
< 2f ТТДр" п ^ + у^ /1 - Р^х
или с подстановкой 1 — pVk) ™ irl
I ^т, (^) | ^ 21^bTl+xWn+x П {1 — z^/t 4~ У Ь^
Если еще принять обозначения
П (1 + &л) = В, -Г wk =
то
п
\M^\<Bbwl + 2Bvu.t П(1-^).(8)
к=1,
Поскольку для каждого целого положительного N и и0 = О справедливо соотношение
NnN-4-1
— 2 упг1 П (1 — ик)= П(1 — ик)>о, о—О к=1к--1
то в правой части (8) стоит общий член сходящегося ряда. Следовательно, существует
lim /п (^(ж)..
В частном случае, рассмотренном Радемахером, / (я) оказалась монотонной функцией, что не обязательно имеет место здесь в общем случае.
Но монотонность служила лишь для доказательства дифференцируемости / (ж), поэтому достаточно обнаружить, что / (х) представляет собой функцию ограниченной вариации. Это легко получается следующим образом. Полная вариация функции / (^)во всяком случае не превышает верхней грани полных вариаций всех функций /п ^ и, следовательно, она не больше
1
lim sup ^ | лп(^) \dt. о
Но
1Пп1
$ I ЛП (О I ^ ~ ^ I Ц {1+ ф/f (£)} Idt =ПI + ^& ^ I ^
оо 1 /i=i1к=оо
П1
<пу ^|1 + фИ№ = У П(1 + ^)<УЖ
где допустимость замены порядка взятия произведения и интегрирования непосредственно вытекает из специальной структуры функции (ж). Этим желаемое установлено.
Итак, функция / (я) имеет почти всюду производную f (х). Если ^ произвольная точка отрезка (0, 1), отличная от точек разбиения и в которой существует /' (х), а через (ап, 6П) обозначен тот интервал постоянства функции фп ^xY в который попадает х, то в силу
f («п) = /п («п), / (^п) = к Фд получим
f U^ = V\m-^Zll^L = ит ^= Итлп(я:),
П-*ооn ПTt-*oon Пn^oo
так как из-за постоянства функции л^ (х) в («п, Ь^ справедливо
b -а—
Следовательно, lim лп (ж) существует почти всюду. С другой стороны, ряд
5 ФИ^)}2
сходится почти всюду, ибо в противном случае расходится ряд
S $knkw^ = 2 ь^ к =1 ок=х
что противоречит предположению.
Но из сходимости почти всюду последовательности лп (ж) и ряда 2 {фпМ}2 вытекает сходимость почти всюду ряда 2срп (х^ что и требовалось доказать.
.§ 2.
Сейчас мы собираемся установить данное утверждение другим и к тому же намного более простым путем. Положим^
§ 4>кк') = 8пк)-.
Если бы ряд (2) оказался расходящимся в каждой точке некоторого множества положительной меры, то должны были бы существовать множество Е положительной меры тЕ и положительная постоянная А, что для каждого целого положительного числа п и каждой точки ж множества Е при подходяще выбранном р = р ^ж. п) > п выполнялось неравенство
| Sp (ж)8^ (^) | > А.
Так как разность sp (ж) — sn (ж) остается постоянной на каждом интервале постоянства функции фр (я), то отсюда в силу способа
построения наших функций следует, что можно найти конечное число непересекающихся интервалов 6 со следующими свойствами:
26 (сумма длин всех 6) больше ^J^mE,
каждый 6 является интервалом постоянства функции фр (я) kpY^ nY^ справедливо неравенство
| Зр (ж) — 3„ (ж) I > А в 6.
Если теперь к — наибольшее из указанных чисел р (их конечное'число) и 6 —" интервал постоянства для зр (ж) (р ^ к^ то из способа построения наших функций вытекает
\ Vsк (^)— s^x^dx = ^ Vs^Y-s^^dx + ^ Vsr (^) — Sp^x^dx ^ Л26 б66
и, следовательно, к1
У, ^ = $ <sfr ^ — Sn кР№ > 42 У 6 > А- А^тЕ,
7 ,=214-1о
что влечет за собой расходимость ряда 26я вопреки предположению. -§ 3
Итак, сходимость ряда 2&п является достаточным признаком сходимости почти всюду ряда 2фп (х). Этот признак, вообще говоря, не является необходимым, что легко можно показать на примере.
Именно если фп (^) равняется соответственно 0, +еп, —сп на х- множествах меры 1 — тп, VgT^, 1/2т71 и ряд 2тп сходится, то почти всюду фп (я) отлична от нуля только для конечного числа значений п и поэтому ряд 5фя (х) почти всюду сходится, каковыми бы ни были числа сп. Так как &n = <tTn, то после подходящего их выбора можно сделать 26я расходящимся.
Для соответствующего ряда (1) имеем, очевидно, Р — 1, поэтому условие сходимости ряда 2ЬП не необходимо для выполнения равенства Р = 1. Так же легко показывается, что условие сходимости ряда 2ап не обязательно для сохранения этого равенства. Для этого можно положить у^ = сП1 у^ = 0, р^ = ^ Р^ = 1 — тя, причем 2тп следует выбрать сходящимся, а 2сптя расходящимся.
Имеется, однако, важный частный случай, в котором наш признак будет и необходимым. Действительно,1 если функции фя (х) по абсолютной величине ограничены в совокупности, то из сходимости почти всюду ряда 2фя (х) вытекает сходимость ряда 26п. Соответственно обстоит дело с рядом (1): если Р = 1, а случайные величины ^ (^ ^ 1, 2, . . .) ограничены в совокупности, то обязательно должны сходиться оба ряда 2^ и 2ЬЯ.
1тобы доказать последний, общий результат, сначала установим следующее: если фп (^) равномерно ограничены и существуют
множество Е положительной меры и константа К со свойством
I sk fo) — sk (х2) I < К,■(9)
выполняющимся для любого к и всех пар точек (^, гг2), принадлежащих множеству Е. то обязательно сходится ряд 56^.
Обозначим через Еу объединение тех интервалов постоянства функции фк (а:) (и, значит, суммы sk (я)), внутри которых содержатся точки из Е. Очевидно, что Е^ содержит Е и Е^. Также ясно, что (9) остается справедливо для любой пары точек множества Е^. Если положить
Е /сЕу+г = Fk,
то
{S/t+i (^1) — $?г+1 (я^5 S {^+1(^’1) —
Ек-п Ек+1Еу Ек
— s^yx^dxidx^ — 2 ^ ^ {Sfc+i (^i) — sfr+1 (ж2)}2 М М —
— ^ ^ {^»i (^i) ~(^з)}2 dx^x^.
Но Фй-ч-1 (х) на Ек ортогональна к sk (х) и к 1, и, следовательно, имеем
$$ ^кн(А) — 8к^1^^ $ {sk(x1)—sK(x^2dx1dx^+
Ek+i Ek+iEk Ek
+ S $ {фкчДЖ1)—фИ(х2)}2ММ~
— 2 ^ {s^Xi) —s^x2) +Ф/^жх) —фк+1(х2)}2г/х^^
— § J (St^) — Sfc^ + Vt+i^i)-- 4>mi^V dxidx2>
> 5 $ {^(^1) — St (Жо)}2 &! (Zz2 + 2bk+ymEkf—-
- (К + 2My ^mEk^. mFk + (m^.)2},
где M есть верхняя грань для | фп (х) |, а тЕ обозначает меру множества Е. В полученном неравенстве положим к = 0, 1, . . ., п — 1, сложим и заметим, что.
3 \2mEwmFk + (m^)2} < 1.
В результате имеем n—1
5 5 ^n (^ — Sn (жг)}2 ^ М > 2 2г,кт1 ^Еку — (К + 2М)2,
следовательно, в силу | sn (х,) — sn (ж2) | < К получаем
2 2bk+^mEky<2(K + 2My
и тем более
<тпЕ^ bkvl«K^2Mf,
что, очевидно, доказывает сходимость ряда 2&п.
Пусть сейчас значения случайных величин уп ограничены в совокупности и пусть выполнено Р = 1, откуда вытекает сходимость почти всюду ряда 2 (ап + фп (х)). Поскольку ап не зависит от х, то для ряда 2фп (ж) выполнены предположения только что доказанного вспомогательного утверждения . Следовательно, ряд 2ЬП является сходящимся и согласно § 1 или 2 тогда 2фп (^) сходится почти всюду. Но это влечет за собой сходимость ряда hani чем все доказано.
. Рассмотрим наряду с (1) второй аналогичный ряд
^i + ^2 4* • • • 4* ип + . . . ,(10)
обозначим через Q вероятность его сходимости и через тп вероятность события
Уп Т^ ^п»
В случае, когда 2тп сходится, ряды (1) и (10) назовем эквивалентными . Легко видеть, что в этом случае Q — Р.
Теперь мы утверждаем, что необходимое и достаточное условие справедливости равенства Q = 1 для ряда (10) состоит в существовании эквивалентного ряда (1), для которого 2ап и 2&п сходятся. Очевидно, что в доказательстве нуждается только необходимость условия.
Итак, допустим, что Q = 1 и определим ряд (1) следующим образом. Положим уи = если | ип | «< 1, и уп = 0 в противном случае. Величина тп совпадает здесь с вероятностью выполнения соотношения | и^ ^ | > 1. В силу Q = 1 это дает немедленно схо-
димость ряда 2тп, так что ряды (1) и (10) на самом деле эквивалентны. Построенный таким образом ряд (1) является уже равномерно ограниченным, поэтому согласно § 3 соответствующие ряды San, S6n сходятся и все доказано.
Отметим еще, что наш способ доказательства выясняет не только существование ряда (1), но и дает крайне простое правило построения этого ряда.
Москва, 3 декабря 1925 г.
2
О ЗАКОНЕ БОЛЬШИХ ЧИСЕЛ*
Пусть ЕХ1 Е21 . . ., Е^ . . . — последовательность независимых испытаний. Приводимые ниже рассуждения справедливы только в случае конечного числа различных возможных исходов Е^\ Е^\ . . . испытания Е^. Однако доказываемая теорема остается верной и в общем случае.
Пусть Fn — величина, зависящая от первых п испытаний. Если при любом положительном е вероятность неравенства
I Fn — Dn | < s,
где Du — математическое ожидание Fni стремится к единице при неограниченном увеличении п, то говорят, что Fn удовлетворяет закону больших, чисел или же что Fn устойчиво.
Наиболее простые совокупности условий, достаточные для устойчивости Fn, состоят в ограничениях, налагаемых на дисперсию Fn. В качестве дисперсии Fn относительно Ек естественно рассмотреть верхнюю грань разности
P (p^k-d p^Jt^ p^k+дp^n\
когда ix, i^ . . ., ia и fa независимо пробегают все возможные значения. Обозначим эту дисперсию Q^. Используя это определение, мы можем сформулировать следующую теорему.
Теорема. Если сумма
О/м —О;12 "Т* . .-4- о2
чисел. ° 1 К пулю с Рост-ом п, то Fn удовлетворяет, закону больших
р. 9Ь 91*1. Щн^чавлепо э.'в™^1927, vol. 185,
Следствие. Для устойчивости F^ достаточно также условия
&пк = о (1//пУ(1)
Доказательство теоремы. Обозначив Вп математическое ожидание квадрата уклонения Fn — Drn для устойчивости Fn имеем известное условие
вп -*0.(2)
Чтобы воспользоваться этим условием, нужно для Вп дать более эффективное выражение. С этой целью обозначим D^ математическое ожидание Fn при условии, что известны результаты первых к испытаний. Обозначим также Zn-K разность D^ — D^-v Таким образом, Zn^ есть приращение математического ожидания Fni когда становится известным результат испытания Е^. Очевидно, имеем
Dn ~ D^q^ Fn = Dnm(3)
FnОп Zni ^n2 4~ • • • 4~ Znn.
Можно доказать, что математическое ожидание ZniZnli (I ^ к) равно нулю.
Пусть к^> г. Предположим, что результат Еъ Е2, . . ., Е^ известен. При этом предположении математическое ожидание D^ равно D^,^ таким образом, математическое ожидание Z^ равно нулю и, поскольку Z^ — постоянная, математическое ожидание ZuiZnlt также равно нулю. Этот факт имеет место при любых результатах испытаний ЕХ1 Е21 . . ., E^. Следовательно, и само математическое ожидание Z^Z^ тоже равно нулю..
Итак, обозначив рп/- математическое ожидание Z^ получим
Вп = Pnl + Рп2 + • • * + Рпп-(4)
Можно доказать, что
Рп?1 1/4 ^пк. Вп ^ 1/4 (^Щ 4~ ^П2 + • • • + ^пп)‘(5)
Неравенство (5) позволяет вывести нашу теорему в силу условия (2).
Замечание. В классическом случае Чебышева испытание Ек состоит в определении величины Х^ и F^ равно среднему арифметическому Хъ Х2, . . ., Хп. Обозначив d^ математическое ожидание п Ь^ математическое ожидание (Хп — d,^ будем иметь Pm* = bK!nv Qnli = (max Х^ — min X^ln.
^ словие (1) преобразуется в известное условие
шах | Хп | = о (/ну
Вышеизложенное представляет обобщение случая Чебышева в котоРом Fn является суммой независимых случайных величин
поскольку касается сумм зависимых величин. Очень часто слагаемые этих сумм суть функции некоторых других независимых величин. Мы думаем, что в таком случае метод произвольных функций независимых величин, предложенный здесь, был бы очень естествен. 31 октября 1927 г.
3
ОБ ОДНОЙ ПРЕДЕЛЬНОЙ ФОРМУЛЕА. ХИНЧИНА
Пусть
z17 z2, . . ., Zn, . . .(1)
— последовательность независимых в совокупности случайных величин. Без ограничения общности можно предполагать, что математическое ожидание zn равно нулю. В этом случае обозначим Ьп математическое ожидание квадрата zH1 a Sn и Вп обозначим суммы
sn= S вп = 2 Н- к=1к=1
Хинчин [1] предположил, что при широких предположениях вероятность соотношения.
, •S
lim sup п = 1(21
равна единице. Сам Хинчин доказал эту формулу для некоторых важных частных случаев [2]. Наша цель — сформулировать достаточно общие условия, при выполнении которых эта формула остается справедливой. Вот эти условия:
Ви ->оо,
тп-ограничено сверху, | z„ | = о ( ^^ ^" в j .
Легко видеть, что первое условие является необходимым, если исключить случай zn = 0. Если величины zn равномерно ограничены, то второе условие вытекает иа первого и в этом случае это условие необходимо и достаточно.
Если желать использовать лишь вероятностные соотношения, которые могут быть эффективно наблюдаемы, то можно пояснить смысл формулы (2) следующим образом:
1°. Каковы бы ни были положительные числа ц и 6, существует целое п такое, что вероятность выполнения всех неравенств
SK < У 2Sk log log Вк (1 + 6) (fc = п,' п + 1, . . ., п + р)
не меньше 1 — ц, каково бы ни было р.
2°. Каковы бы ни были ц, б и т, существует целое р такое, что вероятность одновременного выполнения неравенств
5/с < V2^^ log log Вк (1 — 6) (к = т, т + 1, . . ., т + р) не превзойдет ц.
Полное доказательство утверждений 1° и 2°, использующее только условия (I) и (II), будет опубликовано \
В задаче о повторных испытаниях из нашей теоремы можно извлечь такое следствие: пусть рп — вероятность осуществления события 8 при п-м испытании, и пусть р (п) — число осуществлений события £ за п первых испытаний. В этой ситуации вероятность соотношения
hm sup~^^-п= 1(3)
1/2 2 ^И1-^)10^ 2
r А-1k=i
равна единице при условии, что ряд
^Рть (1 Рп)
расходится.
ЛИТЕРАТУРА
ХинчинА. Я. Основные законы теории вероятностей. М., 1927.
Khintchine А.— Math. Ann., 1928, Bd. 99, S. 152.
См. работу № 5 наст, изд.— Примеч. ред.
4
О СУММАХНЕЗАВИСИМЫХ СЛУЧАЙНЫХ ВЕЛИЧИН
§ 1
ОБОЗНАЧЕНИЯ
Р (Л) — вероятность события Л;
Рв (Л) или Р (Л | В) — условная вероятность события Л относительно В;
Mg — математическое ожидание случайной величины g;
^вс или М (g | В) — условное математическое ожидание g от- осительно события В;
М (g; В) = Р фуЬЛ (g | 5), или то же, что интеграл Лебега
в
по множеству В;
Dg — дисперсия случайной величины g, Dg = М (g — Mg) 2. Если gn . . ., gn — случайные величины, то положим
к
Sk^^li, S = Sn; р= max |^|; 1=11СА’<п
1=1
u = max | Т^ |, М = sup | U |, D = МГ = D52. 1^А:^?гк
(Предполагается, что математические ожидания Mg^ и Mg| существуют, 1 к ^ п.) Очевидно, что Mg7. = 0, Т^ = S^ — MSV Если величины gx, . . ., ^ взаимно независимы, то
D5fc = 2 D^.
г=1
§ 2
НЕСКОЛЬКО ТЕОРЕМ О КОНЕЧНЫХ СУММАХ
Будем предполагать, что величины g19 . . ., g^ взаимно независимы»
Теорема 1. Пусть В^> 0. Тогда
Р {max | ТК | > В) < ЬМ^ПЧ
Х^к^п
Теорема 2. Пусть е > 0, т — натуральное число и
R = eD + М.
Тогда
Р { max | 7\ | > mR} ^ е'2т.
Теорема 3. Пусть R ^> 0. Тогда
Р { max | 8к [< R} < 4 (М + R^/D2.. l<fc<n
Теорема 4.
Р17" "> 0}~ М
Теорема 5.
Р {Т > - ЗЛО > ^g.
Теорема 6.
Р { | 8 | > R} > х/18 [1-4 (4М + R^D4.
Доказательство теоремы 1. Пусть событие
А, = { ( Tt | < R, I < к, || > 7?}
и А = 2 Ак. Тогда
Р{тах|ТИ>Д} = Р(Л)= S PW КА’=1
Поскольку величины ^t с I ^> к не участвуют в определении события Ain то, учитывая предположение о взаимной независимости £i> • • ., ^п, находим, что
М(^2; А) = М(^.; Л,)+ 3 М(^;Л,)>М(П;Ла>№(М г—к—1
откуда МТ2 > R2P (Л), что и доказывает требуемое неравенство.
Замечание. Доказанное неравенство превращается в равенство, например, в следующем случае: п = 1 и
Р{^ = д> = ^==Р^1 = 0) = 1-5-.
Доказательство теоремы 2. Обозначим
Ай -U Т3 | < Ш. j <к; | 7\ | > 1Щ и
At= 2 А^.
На множестве А ^
\Tk\<iR + M.
Очевидно, что
У5 (Лг+11 Лгк) = Р> (^max | 2 ^А> ^ .
кД-хСр^п з—кД-1
Как и в случае доказательства теоремы 1, заметим, что величины £j для 7 )> к не входят в определение событий Aik. Поэтому
Р (Ла1 | Л^) < D^l^ = 1/е2
и, следовательно,
Р (А i+1 ] А г)< 1/е2, Р {u > тВ) = Р(Ат) =
= Р (Ат-х | Лт) Р (Ат-х | А^ ...Р (XJ < 1/е2’",
что и доказывает теорему 2.
Доказательство теоремы 3. Пусть
Вк — { I St | "С Ri ^ ^Ь
В - Ви - ^ < 7?},
С к " Вк_^ \ в^.
Очевидно, что
^(£) + Sm)=i-(1)
к=1
Обозначим
aft = М (^ I Вк).
На множестве Вк
I Тк - ак I I Sk - м (Sk I Вк) I < 2В,.
| ак - ак-х || М ^ | В^ | < М.
Рассмотрим теперь выражение
м ЦТк - акд, Вк-х] =■
= М 1(Тк — ак)2; Вк] + М UJVi — ak-i — (ак ~ ®fc-i) +
+ № Ск) < М [(^ - aK)h Вк) + Р <Ск)А ^В + М)Ч (2)
С другой стороны,
М [(^ - а,)2; Вк-хА =
= М [((7'^_1 — О-к-х) (ак ак-х) + С/г)2; ^)с-11
= м [(Г^ - ak-xf + («к - «к-1)2 + Ск; St_J >
> М 1(П_Х - ак-хУ; Вк-х] + р (В) М й.(3)
Сравнивая (2) и (3), получаем
М ЦТк,г - ^-J2; Bk_J + Р (S) М^ <
<М [(7, - akY; Вк] + Р (Ск)Л (В + УИ)2.
Полагая в этом неравенстве к = 0, 1, . . ., п и суммируя соответствующие неравенства, получим с учетом (1), что
P^D^^T^-a^B^-V ^ P{C^R + M)^
к=1
<P(Bk4R2+ 2 P(Cky4YR + M^<4(R + My, /f=l
что и доказывает теорему 3.
Замечание. Если вместо ^ взять хк1 то утверждение теоремы будет верным с заменой и на и.
Доказательство теоремы 4. Обозначим
Ст = (^ < 7 < (m + 1) Д},
где В = 8D + М и положим
вт= 2 Cv к^т
Очевидно, что
В» = (7>0).
В силу теоремы 2
Р (Вт) < 1/82”1;
М (7; Во) = У М (7; Ст)< ^ (тп + 1) RP (Ст)
771=0771=0
ОООО
= Д^Р(В„)<В[р(Во) + ^11;г]<
771=0771=1
<я[р№) +
С другой стороны, легко доказать, что
М (7; Во) > 4.D.
Таким образом,
4-D <в [р (So) + ^-] = (8S + М) [ Р (So) + 4]:
S(So)<1 D-M
V 2(8£>+Л/)3216 D^-M ’‘
что и требовалось доказать.
Доказательство теоремы 5. Пусть
D > Ч2М.
Тогда в силу теоремы 4
р ту \ 0) > -А_ ^Л™_L
Г u16 D +м48 .
Если
D > 3/2М.
то по теореме 1
Р {| Г К ЗЛЛ < D^NF < Vv
В обоих случаях эти оценки доказывают требуемое утверждение» Доказательство теоремы 6. Обозначим
W = max 15 — 3 ^ | •
Тогда из теоремы 3
Р {W > R + ЗЛ/} >1 — 4 <4М + НУ/D2
71
и, применяя теорему 5 к сумме 2 £ь находим, что
Р {^ > Д | PF > Д + ЗМ} > v^.
Отсюда непосредственно следует требуемое утверждение.
СХОДИМОСТЬ РЯДОВ
Здесь будут рассмотрены необходимые и достаточные условия сходимости рядов из независимых случайных величин, ранее установленные другими методами в нашей совместной статье с А. Я. Хинчи ным (см. № 1 наст. изд.).
Рассмотрим две последовательности случайных величин
Я = hi, Лг, • • ., Г)», . . .), Я = hi, Яг, . • •, Чп, . . •).
Будем называть последовательности ц и ц эквивалентными, если 1
^3 Р{Пг¥=ЯЗ <(4)
°Удем пРеДполагать, что каждая из последовательно- it ц к q состоит из взаимно независимых случайных величин.
Это определение принадлежит А. Я. Хпнчину.
Теорема 7. 1) Вероятность Р сходимости ряда
S Лг'(5)
1=1
равна единице^ когда для последовательности ц = (т]п) существует эквивалентная ей последовательность fj = (цп), для которой сходятся ряды
S М^(6)
1=1
(7)(7)и
(7)
(7)
где С; = Л/ — ^Лг-
Вероятность Р равна нулю, если не существует эквивалентной последовательности, для которой одновременно сходятся ряды (6) и (7).
Доказательство. 1) Согласно теореме 1 для каждого положительного у
Так как ряд (7) сходится, то для всякого 8 > О найдется такое, быть может, большое т, что для п ^ т правая часть в (8) будет меньше 8.
Согласно определению
Р= lim lira lim Р { max | 5 Лк I <^?/} •
I/—О ?2—ОО N—ОО H^p^N fc—H
Поэтому из (8) следует, что вероятность сходимости ряда
равна единице. Таккак'ряд (6) сходится, то то же верно и для рядаравна единице. Таккак'ряд (6) сходится, то то же верно и для ряда
равна единице. Таккак'ряд (6) сходится, то то же верно и для ряда
равна единице. Таккак'ряд (6) сходится, то то же верно и для ряда
(10)(10)2 1k-
(10)
(10)
77=1
Поскольку в конечном счете вероятности сходимости эквивалентных рядов совпадают, то Р = 1.
2) Положим
Лп, I Лп | 1?°, Ы>1.Лп, I Лп | 1?°, Ы>1.(И)
Лп, I Лп | 1?
°, Ы>1.
Лп, I Лп | 1?
°, Ы>1.
(12>(12>Предположим сначала, что последовательности ц = (цп) и ц = (qn) эквивалентны, что равносильно тому, что
(12>
(12>
S р{|Пп|>1}<°°-
В этом случае должен расходиться один из рядов (6) или (7). Если не сходится ряд (7), то по теореме 3 получим, что для любого у и всякого п
к=п
при N —>- оо. Это означает, что вероятность сходимости ряда (10) равна нулю. Из эквивалентности последовательностей ц = (т]п) и Т] = (qn), отсюда следует, что Р = 0.
Если сходится ряд (7), то вероятность сходимости ряда (9) согласно первой части теоремы равна единице. Поэтому если ряд (6) расходится, то Р = 0.
Рассмотрим теперь случай, когда 2jP{l4nl^l}“°°- 74=1
В этом случае мы непосредственно имеем, что для всякого п
N
Р{тахШ<1} = П [1~Р{Ы>1}Н°.
N оо и, следовательно, Р = 0.
Таким образом, наша теорема доказана для всех возможных случаев..
Замечание. Если известно, что существует некоторая последовательность ц = (цп), удовлетворяющая условиям теоремы, то тогда последовательность, определяемая формулой (11), также будет удовлетворять условиям этой теоремы.
§ 4
ОБОБЩЕННЫЙ ЗАКОН БОЛЬШИХ ЧИСЕЛ
Рассмотрим систему случайных величин 411? 412? • • •? 417711? 421? 422? • • •? 42т2?
4п1? 4п2? е • е? 477771^?
кратко обозначаемую как || ц^ ||. Будем предполагать, что в каждой строке величины независимы между собой, тогда как в разных строках они могут быть и зависимыми.
Мы говорим, что средние
О» = (Пп1 + • • • + %mft)/mn, П > 1, устойчивы, если существует такая последовательность чисел dn d2l . • ЧТО для любого 8 > О
Р { 1 оп — dn I > е} -> 0, . п -> ОО.
Дадим одно необходимое и достаточное условие для устойчивости средних. Будем говорить, что системы || T]nZf || и || rjn^ || эквивалентны, если
тн = ^п и
Р {оп Ф Оп} -> о, п -> ОО.
Очевидно, что эквивалентные системы или одновременно обладают свойством устойчивости средних, или же этим свойством не обладают.
Теорема 8. Необходимое и достаточное условие для устойчивости средних оп, п^ 1, заключается в существовании некоторой системы || pnJf |[, эквивалентной || т^Ц, для которой
тп
Л-У м&-^о,(13)
Доказательство достаточности. Из теоремы 1 следует, что для любого 8 > О
тптп
р (I о» — М5„ I > е} = р || У Сп& | > т»4 < "^г У м&- к—1п к=1
Поэтому из (13) следует, что
р { I — м 5n I > 8} О,
и из эквивалентности систем || %7f || и || т^ || получаем
р { I — м о„ I > 8}0,(14)
что и доказывает достаточность..
, Доказательство необходимости. Пусть средние оп, п ^ 1, устойчивы. Для любой случайной величины т]п^ найдется константа /п^ такая, что
р Ow > Ы < Vz, р {п„. </„»}< V2.(15)
(16)(16)(17)(17)324т^324т^2 М&'И) - /с=12 М&'И) - /с=1/I /C# <IV I //I /C# <IV I /
(16)
(16)
(17)
(17)
324т^
324т^
2 М&'И) - /с=1
2 М&'И) - /с=1
/I /C# <IV I /
/I /C# <IV I /
Легко доказать, что для любого положительного 8 > О
S Р {| HvX’ /n/с | X5 ^п^} > 6, /i-l
п -> ОО.
Положим теперь
Пп^ если | Т]п/. — fnk | < тп, fnK’i если | т]п^ fnk | ^> inni Ппь если ^K — tniA^iri^ fnkl если | т]пА. — fnk | > т^г.
Согласно (16) системы || ^ ||, || ^пк || и || к\пк (е) || эквивалентны, а также устойчивы средние оп и оп (е). Заметим, что
I ^д/г (е) | ^ 28771п.
Поэтому по теореме 6
Для всякого 8^>0 левая часть этого неравенства сходится к нулю. Следовательно,
тп
(18)(18)limsup -4- У,м(&(е)Х 324е2.
(18)
(18)
п тп к==1
Для 8^1
| ^(,«1= — M^lt (е) I < 8m„ Р (| t]nk — /п61 > ет„}
и согласно (16)
тп
-^г^\^-^пк^\-^о.
п /t=l
Поэтому условие (13) следует из (18).
Замечание. Если существует некоторая система || р^ [(, удовлетворяющая условию теоремы, то в качестве таковой может быть взята система, определяемая формулами (17) и (15).
Будем говорить, что средние on, п ^ 1, обладают свойством нормальной устойчивости^ если для любого е ^> О
Р { I On — M»n I > е} 0, п оо.
Т е о р е м а 9. Необходимое и достаточное условие нормальной устойчивости средних аП1 п > 1, состоит в существовании эквивалентной системы || т^ 1[, для которой справедливо (13) и
Моп — Моп -> 0, п -> оо.
Доказательство теоремы следует непосредственно из формулы (14), установленной для любой устойчивой системы.
Замечание. В случае нормальной устойчивости вместо системы || гп/. ||, определяемой в (17), (15), можно взять систему с
_ _ I Ппк, если l^kKmn,
~ | Mt]nk. если 1|
§ 5ЗАКОН БОЛЬШИХ ЧИСЕЛ .
Условие устойчивости средних
°п = (П1 + • • • +
где т)п ц2, . . . — независимые случайные величины, является специальным случаем теорем 8 и 9, если положить тп = п. цпк = ц^.
Нормальная устойчивость таких средних обычно именуется законом больших чисел. В этом случае справедлива следующая
Теорема 10. Для того чтобы для каждого е ^> 0
р { I Оп ~ Моп | > 8}0, п оо,(19>
необходимо и достаточно существование такой системы || rnk ||, что:.
0. ти — п.
^J Р {'ПпК0.
п
2-
7c=i
Замечание. Если имеется система || цпй. ||, удовлетворяющая вышеизложенным условиям, то в качестве таковой может быть
взята система
_ ( Лк, если |Ск|<», Лпк— I Мт]^ если j^l^^.
Теорема 11. Для того чтобы Р { | ап — Мап | ^> с} -> О, п оо, необходимо и достаточно, чтобы*.
SР{|:к|>п}-»о.
п
4ЕМ(^;|?,с|<7г)“>0-
3' А^М(е‘;Кк1<и)-0.
Москва, 24 декабря 1927 г.
ЗАМЕЧАНИЯ
Целью данных замечаний является, с одной стороны, уточнение и усовершенствование некоторых результатов (§ 1, 2), а с другой — исследование одного важного специального случая закона больших чисел (§ 3).
§ 1
Я обязан замечанием В. В. Немыцкому о том, что в доказательстве теоремы 4 использовалось неравенство
М (Т; 50) > ^2D, которое неверно. На самом деле, легко доказать, что
М (Г; В^ = V2M I Г К Ч^ У*^= ^
е. имеет место прямо противоположное неравенство.
В этой связи теоремы 4, 5 и 6 указанной работы надо заменить на следующие.
Теорема 4*. Пусть М ^ D. Тогда
Г V д I - 2 J 1600 е
Теорема 5*.
Р{|616()0пг
Теоремы 7—11 остаются без изменения.
Теорема 6, использованная только для доказательства теоремы 8> должна быть заменена на теорему 6*.
Доказательство теоремы 4*. Пусть
Е - { | 5 |7
и £ — дополнительное событие. Тогда если | MS| 2> 2D, то D2 > М (Г2; Е) > М ^2D - £/2)2; £) > 9/4£ (£)-£2, Р (£) < V2,
что и доказывает требуемое утверждение.
Если же | MS | < 2D, то введем событие
Ет ^D < | Т | < 3 (т + 1) D, | 5 | > DI2Y
В силу теоремы 2 имеем
Р (^т) < ^7 , М (52; Ет) <. 257)2.
На множестве
£ — 2 Ет т=0
имеем
| Т | < 18£, | 5 |< 20£.
Отсюда
М (52; Е^ < 400£2Р (£).
Поскольку
М (52; £) < ^UD2,
то
D1 < М52 < М (52; Е + Е' + У Е^ <
т—6
< 4-7)2 ^№р (£)+5 ^W^"2502
<3/4№ + 4007)2Р(£), т *
откуда
что и доказывает теорему 4*.
Доказательство теоремы 5*. Если М ^> D или R > xkD, то требуемое неравенство справедливо, поскольку тогда его правая часть отрицательна.
Если же М ^ D и R ^ ^IJ^ то требуемое неравенство следует из теоремы 4*.
§ 2
При доказательстве теоремы 8 я использовал формулу
S Pfhnfc — кк\>т,№-п^^..(16)
6
Для строгого доказательства этой формулы нужна следующая Теорема 6*. Пусть Еъ . . ., Еп— последовательность неза
висимых событий и U есть событие, состоящее в том, что
Р ^U | Е^ >и, Р (ET + . . . + Еп)>и.
Тогда
Р ф) > Vg U4
Доказательство. Если существует к такое, что для него
Р (Ек) > ^и, то
Р (U) > Р ^ЕкуР (U | Ек) > Ч.и\
что и доказывает требуемое утверждение."
Пусть теперь для всех к
Р (Ек) < V3k.
Покажем, что тогда найдется такое к, что
гки С Р (Ег + . . . + Е^ < ^и.
С этой целью обозначим
Ft = Ех + • • • + Е^
и пусть Ft — дополнительное событие. Поскольку Ft и Et взаимно независимы, то для г <^ к
Р (J^ \Е^ = Р (F^ < Р (Fk) < ^зи,
Р ^UF, | Е^ > Чзи,
P.^UFiE^ > ЧзиР (Е^, кк
Ркщ>^р {UFXi) >4-иИр <Е^ >AruP <F^ > 4-u3’ 2=12=1
что и требовалось доказать.
Доказательство формулы (16). Обозначим
и = { I On — dn I > е/2},
^К {I Лик" fiiK I ^ ^^п}7
Очевидно, что
Р (U I
Для достаточно большого п в силу устойчивости средних
Р (^) < V4.
и, значит,
р й\) < v2.
Если событие Е^ выполнено, а Еу нет, то событие U выполняется. Следовательно,
Р ^Fy \Ey}+P{U \ Еу) > 1.
Но события Е^ и Е^ независимы, поэтому для достаточно большого п
Р (F, | Ек) =Р (Fk) < V2,
Р ф | Е^ > V2.
Согласно теореме 6*
р^^/звР2 (^+... +s,U
и так как при п -> оо Р ((7) -> 0, то
Р (^ + . . . + Ету) О,
тп
к=1
что и требовалось доказать. .§ 3
Здесь мы хотим исследовать один особый случай закона больших чисел, а именно тот, в котором независимые случайные величины Ль Л2, • • • имеют одно и то же распределение Р {лх < я} = F ^х). В этом случае имеет место
Теорема 12. Для устойчивости средних оп = = (г|1 + • • • + Чп^Ьг, ^ > 1» необходимо и достаточно^ чтобы
/гР { | г]1 | ^> п^ 0, п -> оо.■
Доказательство. Положим
_( %, если |Пп|< Ki
Vnk - ( 0, если I T]n | > К.
А. Н. Колмогоров•
Легко видеть, что при выполнении условия пР{ | т^ | )> п^ -> -> 0, п -^ оо, системы (rj^) и (т]п) эквивалентны и что
пи
^^-Ум^<~ У,м^к—ла, zz—> оо. 7г=1fc=l
Следовательно, согласно теореме 8 средние on, п ^ 1, устойчивы. Обратно, если средние оп, тг > 1, устойчивы, то, как было показано, имеет место формула (16). В рассматриваемом случае эта формула принимает вид
т Р { | T]i — / | > ьп\ ->- О,
где / — некоторая константа. Из этой формулы непосредственно следует доказываемое условие.
Если случайные величины т]п имеют конечное математическое ожидание
| х | dF ^ < оо,
то условие теоремы 12 выполняется, поскольку тогда
«Р {| Л11< ( $ + $ ) М dF 0.
— оо П
Можно показать, что в этом случае устойчивость является нормальной. Итак, имеет место
Теорема 13. Для нормальной устойчивости средних оп = = (^i + • • • + Лп)/^, ^ > 1, последовательности независимых одинаково распределенных случайных величин th, г]2, . . . с собственным распределением необходимо 2 и достаточно, чтобы М | лг | < оо.
Последнее утверждение ранее было установлено А. Я. Хинчи- ным (С. г. Acad. sci. Paris, 1929, vol. 188, p. 477).
8 февраля 1929 г.
5
О ЗАКОНЕ ПОВТОРНОГО ЛОГАРИФМА
Мы рассматриваем последовательность взаимно независимых случайных величин
^1» ^2» • • ч 2л> • • • 1(1)
2 Необходимость тривиальна и следует из того, что определение нормальной устойчивости имеет смысл только в случае существования математического ожидания.
математические ожидания которых Mzn равны нулю. Пусть далее
п•п
Ьп 3=2 ^^nj Ви == S ^ki ^п :== 3 ^к*
Л-1Л:=1
Вместе с А. Хинчиным скажем1, что последовательность (1) подчиняется закону повторного логарифма в том случае, когда вероятность соотношения
S
lim sup •—Г — — 1(2)
равна единице. В одном важном частном случае этот закон был установлен самим А. Хинчиным 2; мы доказываем, что он применим при следующих условиях:
5П-^ оо,
]zn| ^ГОП = О ^р^ lniuBn)-
Легко выводится необходимость первого условия, если только исключить случай zn = 0. Если все величины &п ограничены в совокупности по абсолютной величине, то второе условие следует из первого, которое в этом случае является необходимым и достаточным.
Без использования вероятностей соотношений, которые не могут быть наблюдены непосредственно, например таких, как событие (2), закон повторного логарифма может быть сформулирован следующим образом.
1°. Для произвольных положительных чисел т] и 6 найдется натуральное число п такое,' что вероятность выполнения хотя бы одного из неравенств
> УЗ^ In In Bk (1 + 6) (k = n, n + 1, . . ., n + p) при любом p остается меньше- гр
2°. Для произвольных т], 6 и т найдется натуральное число р такое, что вероятность одновременного выполнения (всех) неравенств
Sk <( V2S& In In Bk (1 — 6) (k = m, m + 1, . . , m + p) будет меньше гр .
§ 1ЛЕММЫПусть
Mn = щах тк, Un = max Sk, l^k<ni^k^n
1Гп(х)=Р{5п>ж},ТГп(ж) = Р^п>ж}.
^ См. его кн.: Основные законы теории вероятностей. М., 1927.
2 Math. Ann., 1928, Bd. 99, S. 152.
В нижеследующих леммах х означает положительную величину. Так как п в этом параграфе будет предполагаться фиксированным, то в обозначениях мы будем его опускать.
Лемма I. Если хМ ^ В. то
W (ж) < ^(^Bxi-e)^ ' 0 = ХМ!2В.
Лемма II. Если хМ ^ В, то
W (х) < е-^м.
Доказательство лемм I и II. Пусть а > О, аМ ^1. Тогда
M6az» = Ml + М(azfc) + М (-уЧ + М Г —g2-J + +—^ + — + -тт- +
й26,. / аМ \Г1+1
(3)(3)(5)(5)<1 +—А (1 + ^1) <е 2 Г • 2 )
(3)
(3)
(5)
(5)
пагВ / аМ \
MeaS — П Meazk/e 212 '
к=1
W (ж) еаж < М е«8.
Из (4) и (5) следует тВ ( аМ \
WIiKe^ 2 ( + 2 ). '
При хМ ^ В мы полагаем в последующей формуле а = х/В, и получаем лемму I; при хМ )> В мы полагаем а ^ ММ и получаем
W (ж) < г“ М + ЖГ (1+*/г) ^ е- "ш.
В обоих случаях условие аМ ^ 1 выполнено. Из леммы I непосредственно следует Лемма III. Если хМ <^ В, то
W (я) < e-^W.
Лемма IV. Если
(6)(6)(7)(7)хМ/В-= (0 < V256
(6)
(6)
(7)
(7)
х2/В = X > 512,
то
W (ж) >
где е означает наибольшее из чисел 32 У (In Х)/Х и 64 У о.
Доказательство. Пусть 6 = Vg 8, тогда
62 = max ^64 о, 16-12^,(8)
а также вследствие (6) и (7)
62 < V4,(9)
< V2,(Ю)
> 262.(И)
Мы полагаем далее а = х/В (1 - 6).
Очевидно, х = аВ (1 - 6),(12)
х!В<а< 2х/В,(13)
аМ < 2(о < V128,(14)
а-В > X > ,512.(15)
Так как для каждого положительного и выполняется неравенство
1 + 'U > е^1-^,
то наряду с формулой (3) мы имеем и следующую:
а26^ / , аМ \а26^ / , аМ \.--г^-м\ (16).--г^-м\ (16)
а26^ / , аМ \
а26^ / , аМ \
.--г^-м\ (16)
.--г^-м\ (16)
Подразумеваемое при этом условие аМ <1 в нашем случае выполнено вследствие (4). Далее, согласно (4) мы имеем
bkeaS \ ^(а2В/2) (1-аМ)#
В силу (14) и (8)
аМ < 62/4,
так что окончательно мы получаем а2 В /62 \
(17)(17)(18)(18)M^bS ^ е 2 X1 4 \
(17)
(17)
(18)
(18)
Мы имеем, с другой стороны,
MeaS = — ^ е°^ dW (у) — а ^ ea^W (у) dy =
О аВ (1—6) аВ (1+6) saB оо
—оо оаВ (1—6) аВ (1+6) 8уВ
^^(«Л+А + ^з+А+А)-(19)
Так как W (у) ^ 1, то о
aJi^a ^ са^йу^1.(20)
По лемме II и формуле (14) для всех у *> В!М выполняется неравенство
w^< е-у[ьм ^ е-ад.
По лемме III мы имеем также при 8аВ ^ у ^ В/М W (у) < rW ^ е-аде
Стало быть, мы получаем
aJ5<^a § е-аМу<Ч.(21)
SaB
Так как вследствие (18), (9) и (15)
М eaS > 8,.
то из (20) и (21) следует неравенство
а^ + aJ, < V4M ^s.(22)
Для оценки величин aJ^ и aJ^ мы применим лемму I. Вследствие (6) и (8) мы имеем при у ^ 8аВ неравенства
0<(О<Ч8б2,
W<y)<e 25 1•
Поэтому мы получаем
аВ(1-6) 8аВг/2 z j \
й(Л+Л)С^( $ + $ )5<ZZ/ 2В 1 % 6 dy.
0аВ(1+6)
В обоих интервалах интегрирования величина
и^) = ау-Д^-А^
М(«В(1 + 6))=а25(1 + 6)М(«В(1 + 6))=а25(1 + 6)-^(1 + 6/(1-4б2) =-^(1 + 6/(1-4б2) =не превосходит границы
М(«В(1 + 6))=а25(1 + 6)
М(«В(1 + 6))=а25(1 + 6)
-^(1 + 6/(1-4б2) =
-^(1 + 6/(1-4б2) =
= ^_ Ь-б2 +±62(1+6)2"|<^./'1_ 1 62).
Следовательно, мы имеем
8аВa (J 2 ~Н J4) "\ & ^О8аВa (J 2 ~Н J4) "\ & ^Ое 2е 2Ду = ЫВе 2 '2Ду = ЫВе 2 '2
8аВ
a (J 2 ~Н J4) "\ & ^О
8аВ
a (J 2 ~Н J4) "\ & ^О
е 2
е 2
Ду = ЫВе 2 '2
Ду = ЫВе 2 '2
Так как в силу (7), (8) и (15)
In (32%) < 2 in % < Vs%62,
(23)(23)In (32a2B) < (a2B/8) б2,
(23)
(23)
то в конце концов мы получаем из (18) неравенство s!£/о/\
а (Л + Л) < V4 е2 1< V4 Ме«8.(^)
Из (19), (22) и (24) следует
aJ^l^e^V^e^.(25)
С другой стороны, так как W (у) монотонна и не возрастает, то вследствие (12)
аВ (1+6)
aJ3 = a $ eayW(y')dy<2a2Bett$B<i^W <х\(26)
аВ (1—6)
Из (25) и (26) выводим
Так как наряду с (23) и по аналогичным причинам имеет место формула
In (W5) < ^В!2^ 6,
то окончательно
а^Вд’2л*
^ >е"~ (Н46) >2В(1-б?(1+4б) > е" (1+8б) = 1в (1+е).
Лемма V.
W (^) < 2W^x - УШ.
Доказательство. Обозначим буквой Е событие
U х
и буквой Е^ событие St<U, г<к, S^ — U ^ х.
Очевидно ,
Е = Ег + Ег + • • • + Еп, W = Р {£}.
Так как величины &г с г > к не входят в определение события Еь то мы имеем
МЕ (ау = М 2 zj ^ = 2 ^<В,
Так как 5 = U + о^ то выполняются также неравенства
РЕк {S> f2B) > V2,
W ^ - /25) = Р (S > х - /25} >
> PF (ж) Рв {5 > U — /25} > 1/2TF (ж). Этим наше утверждение доказано.
§ 2ДОКАЗАТЕЛЬСТВО ПЕРВОЙ ЧАСТИОСНОВНОЙ ТЕОРЕМЫ (1°)
Достаточно рассмотреть случай
6 < Ч2.(27)
Очевидно, что в силу условий I и II возможно найти п0 такое, что
В., > е,(28)
/in In 5„о > 4/6(29)
и что для каждого п"^= п0
М^/Вп < 6/16,.(30)
Мп |/Л^<-|-.(31)
После того как п0, пъ . . ., пк_г определены, мы выбираем пк так, что
^./^<1 + 6/4,(32)
Вп^ВПк_х> 1 + 6/4.(33)
В силу (30) и (32) мы имеем.
и, следовательно, по (28)
’ В„к > (1 + 6/8)\(34)
Пусть далее
X (0К2^ In In ^’
Вследствие (32) мы имеем
7ДВПк)МВ^ <1 + 6/4.(35)
Из осуществления хотя бы одного из неравенств Sn > X Ф.Д (1 + 6) (п^ < п < П^ вытекает неравенство
Unk > X <BnhJ (1 + 6).(36)
Обозначим Vk вероятность неравенства (36). Тогда очевидно, что сходимость ряда
S V.(37)
достаточна для справедливости утверждения 1°. Вследствие (35) мы имеем
У < Р ^Ч > X (B^l 1 + 6/2)},(38)
а по лемме V последняя вероятность не превосходит
2^4 tx №fc) (1 + 6/2) - /25^].
Отметим, что из (29) следует неравенство
< (6/4) х (ВПк), так что мы получаем ^ < 2W„k (х 1ВП)) (1 + 6/4)]
и по лемме I
%2(БП?) /§ \8
где вследствие (31)
*4 1/ ,П“'Ч
2 V B„t В ■ Отсюда следует
Тогда вследствие (27) и ^/^<32/6, Положим° k =— ^"к-Гтогда из (41) следуетPt > Вп (1 - 6/4),Тогда вследствие (27) и ^/^<32/6, Положим° k =— ^"к-Гтогда из (41) следуетPt > Вп (1 - 6/4),(40)(41)(42)(43)(44)(40)(41)(42)(43)(44)
Тогда вследствие (27) и ^/^<32/6, Положим
° k =— ^"к-Г
тогда из (41) следует
Pt > Вп (1 - 6/4),
Тогда вследствие (27) и ^/^<32/6, Положим
° k =— ^"к-Г
тогда из (41) следует
Pt > Вп (1 - 6/4),
(40)
(41)
(42)
(43)
(44)
(40)
(41)
(42)
(43)
(44)
что доказывает сходимость ряда (37).
§ 3ДОКАЗАТЕЛЬСТВО ВТОРОЙ ЧАСТИОСНОВНОЙ ТЕОРЕМЫ (2°)
Пусть, как и раньше, выполнено (27). Вследствие условий I и II и только что доказанной первой части основной теоремы возможно найти такое п0, что, во-первых, имеет место (28), во-вторых, для каждого п п0
Мп/Вп < V2(39)
и, в-третьих, вероятность осуществления всех неравенств I ^n I < 2% Ф^, Ф = n0, n0 + 1, . . Пу + р) для каждого р больше 1 — ^/2.
Выберем п^ таким образом, что
(39) имеем
ВПк<Вп.(ЗД\
Р& = Мо^ — £}п^ Bnk_v
% (Pt) > Хфпк) (1 - 6/4),
%№■)(! - 6/4) > х фПк) (1 - 6/2).
С другой стороны, из (41) следует также
"^Вп^-х ^ *4" V^^ X Ф^ ^ "4” X (^п^),
X (Вп*) (1 - 6/2) - 2х (В^ > х фп.) (1 - 6).(45)
Так как SU]f = ок + SUK_V то в случае, когда выполняется (40)й из неравенства
Ок > X №) (1 - 6/4)(46)
вследствие (44) и (45) вытекает неравенство
^^^^^-б).(47)
Мы докажем теперь, что при достаточно большом р вероятность осуществления хотя бы одного из неравенств (46) с & = 1, 2, . . , р будет больше 1 — ц/2. Отсюда будет следовать, очевидно, что аналогичная вероятность для неравенств (47) будет больше 1 — ц, и вторая часть основной теоремы будет доказана.
Так как величины о^ взаимно независимы, то для указанной цели достаточно доказать расходимость ряда
§ vl;(48)
вероятностей неравенств (46).
Для оценки вероятностей Т^ мы применим лемму IV, полагая
в = р„ м = мПк,
® = 1 (РО (1 — 6/4).
Для достаточно больших к выполняются условия (6) и (7), так как вследствие (43)
и потому
, X^Wn /in In В \
1 in, —< П,„ ^М,, у= О,
lim> lim(4-in In Вп Л = ос.
Р&\ 2М
Из последних формул мы усматриваем, что е стремится к нулю при к -> оо. Итак, для достаточно больших к мы имеем
(1 + е) (1 + 6/4) < 1
вследствие (42)вследствие (42)=(inp,a1 4j>(usnk) ^>ck 4=(inp,a1 4j>(usnk) ^>ck 4
вследствие (42)
вследствие (42)
=(inp,a1 4j>(usnk) ^>ck 4
=(inp,a1 4j>(usnk) ^>ck 4
И
чем доказана расходимость ряда (48).
Москва, 24 ноября 1927 г.
6
О ЗАКОНЕ БОЛЬШИХ ЧИСЕЛ
В математической теории вероятностей под законом больших чисел обычно понимают либо теорему Пуассона, либо теорему Чебышева с их обобщениями на случай зависимых испытаний. Однако этому закону можно дать более широкую интерпретацию, которая более согласуется с его натурфилософской трактовкой, если использовать это понятие всякий раз, когда можно утверждать с вероятностью, близкой к единице, что некоторая величина лишь немного отличается от некоторой априори заданной постоянной <2\ В предыдущей заметке <3> я привел теорему, которая, как мне кажется, наиболее отвечает этой интуитивной концепции. В настоящей работе я хочу вернуться к этой теме и сформулировать несколько более общее утверждение, а также пояснить некоторые возникающие здесь вопросы.
Для точной постановки задачи мы рассмотрим последовательность действительных чисел (4)
ХХ1 X2l ...Дп...
в которой значение Хп зависит от результата последовательных испытаний <5)‘
Условимся говорить, что Хп устойчиво^ или же что Хп подчиняется закону больших чисел, если существует последовательность постоянных
c?i, d2, . . ., dn, . . .
такая, что для каждого положительного ц
р { I Хп - dn I > ц} » 0.'(1)
В большинстве важных случаев в качестве dn можно брать математическое ожидание Е (Хп). Если окажется, что
Рп (п) = Р < I ^n - Е (Х„) I > п} -> 0'(2)
для каждого положительного ц, то будем говорить, что устойчивость Хп нормальна. Можно доказать, что если Хи — Е (Хп) равномерно ограничено, то соотношение (2) является следствием соотношения (1), т. е. в этом случае устойчивость может быть лишь нормальной.
Согласно Чебышеву имеем
Рп (п) < в^\^
где положено
= Е [^ — Е (XJJ2.
Таким образом, условие
Вп -> 0 (условие Маркова)(4)
является достаточным условием нормальной устойчивости Хи. Если Хп — Е (Х^ равномерно ограничены по абсолютному значению постоянной М, то, как нетрудно доказать,
(5)(5)ЭД = (^ - n2)/(^ - п2).
(5)
(5)
Следовательно, в этом случае условие Маркова не только достаточно, но также и необходимо для устойчивости Хи1 которая, как уже отмечалось, в рассматриваемой ситуации может быть лишь нормальной.'
Формулируя условие Маркова, мы касались только определения нормальной устойчивости. Однако интерес этого условия зависит от того факта, что вычисление Вп в большинстве случаев проще, чем вычисление Рп (ц).
В общем случае, обозначив Efr (Хп) математическое ожидание Хп в предположении, что известны результаты к первых испытаний 8^1 ^\ • • •, 8^' будем иметь следующую фундаментальную формулу:
п
Вп= s EtEtW-E^M.(6)
/с=1
В самом деле, очевидно,
ЕО(ХП) = Е(ХП), Еп(Хп)=Хп, поэтому, обозначив
^пк = ^к(Хп) — Еи (Х^,
имеем
Е (Хп) = Znl+... + Z^.
Вообще, обозначив Е^ (У) математическое ожидание У при условии, что известны результаты испытаний $^\ . . ., ^\ получим
Е/с-1 (Zn^)= b-i [Е^ ^Х^Е^—! (^^J = E/f—i. (Xn) E^ (Xn) = 0.
Поскольку Z^ при i << k является константой, если фиксированы результаты к — 1 первых испытаний, то имеем также
E/c-i (ZniZn^) = 0
и, наконец,
E(ZniZnh) = E[E,_1(ZniZn,)]-O.
Из этого последнего равенства немедленно следует формула <7>
Bn = Pnl + Рп2 + • • • + Pnn, Pnfc = V"Е ^Д(7)
отличающаяся от (6) только обозначениями.
Обратим внимание на смысл Р^. Это есть среднее квадратичное уклонение математического ожидания ХП1 когда известен результат испытания ^. Поэтому pnk является естественной мерой зависимости Хп от результата испытания <8) $^\ Это согласуется с формулированной в начале заметки концепцией закона больших чисел. Однако сейчас мы измеряем зависимость Хп от каждого испытания 8^ с помощью моментов ^к и доказали, что закон больших чисел эффективно применим к ХН1 если сумма квадратов Pn/f бесконечно мала. Это имеет место, в частности, если
pnk = о (1//Й).(8)
Рассмотрим теперь случай, когда испытания S^\ определяющие значение ХП1 независимы- в совокупности. Обозначим Е^ (У) математическое ожидание У, если известны результаты всех испытаний $Т\ за исключением ^V В рассматриваемом случае независимых испытаний имеем
&<апй = Е[Х„-Е(^„)],(9)
Вп < ^П = а»1 4* an2 + • • • + О^т-(10)
Таким образом, для нормальной устойчивости Хи достаточно условие (9)
лп^0.(11)
Доказательство формулы (9) можно провести следующим образом:
В общем случае зависимых испытаний первая из этих формул неверна.
Пусть М^ (Хп) — верхний предел возможных значений ХП1 если известны результаты всех испытаний 8^ за исключением 8^а\ и пусть т^ (Х^ — соответствующий . нижний предел. Обозначим = sup I М^ QQ - т№ (Хп) |.
Таким образом £1и1£ — максимальное уклонение ХН1 если неизвестен лишь результат испытания й’^^ Можно видеть, что
°^пК "^^2^n-/ci(12)
A?t < V4 (Qnl + Йп2 + • • • + EM-(13)
Отсюда следует условие для устойчивости Хп в случае независимых испытаний, приведенное в моей предыдущей работе:
^п + Й22 + . . . + Й^ -> 0.(14)
В заключение отметим еще, что в случае, рассмотренном Чебышевым,
Хп = (^1 + ^2 + • • • + ^In,'
где х^ зависит от испытания 8^ и эти испытания независимы в совокупности, имеем
- А Е [Хп - Е (Xn)]2^AL
и приходим к классическому условию для устойчивости Хи:
ацХ1) + ^(х2) + ... + <1Цхп)
ПРИМЕЧАНИЯ
Представлена 3 марта 1929 г.
См.: Бернштейн С. Н. Теория вероятностей, с. 142, где приводится еще более широкое определение.
С. г. Acad. sci. Paris, 1927, vol. 185, p. 917.
Можно получить аналогичные результаты, рассматривая векторы. В. Гливен- ко сообщил мне, что аналогичные рассмотрения могут быть проведены даже для векторов в функциональном пространстве Гильберта.
Мы постоянно предполагаем, что эти испытания независимы в совокупности. Относительно этого определения устойчивости см. мою статью: Ueber die Summen durch den Zufall bestimmter unabhangiger Grossen.— Math. Ann., 1928, 7 Bd. 99, S. 309.
В моей цитированной заметке эта формула доказана только в случае независимых в совокупности испытаний.
Предполагается, что испытания 58^ осуществляются в соответствии с поряд- д ком их индексов к.
Это условие особо интересно, поскольку в определение моментов ап^ не входит порядок испытаний ^^\
7
ОБЩАЯ ТЕОРИЯ МЕРЫИ ИСЧИСЛЕНИЕ ВЕРОЯТНОСТЕЙ
Возникающий в современной математике интерес к теории вероятностей обусловлен не только растущим значением ее в математическом естествознании, но и постепенно обнаруживающейся глубокой связью этой теории со многими вопросами различных областей чистой математики. Получается впечатление, что формулы исчисления вероятностей выражают одну из основных групп наиболее общих математических закономерностей.
Тем не менее было бы неосторожным утверждать, что эти факты указывают на зависимость понятий чистой математики от понятия случайности, с которым имеет дело теория вероятностей. Например, тот факт, что распределение знаков десятичного разложения ирра- ционалов может изучаться при помощи формул исчисления вероятностей, отнюдь не обязательно толковать, как указание на зависимость этого распределения от случая.
Мы полагаем, напротив, что подобные факты намекают на возможность построения некоторой весьма общей и чисто математической теории, формулы которой могут быть применены как к исчислению вероятностей, так и ко многим другим областям чистой и прикладной математики. Чтобы наметить содержание такой теории, достаточно выделить из изложения теории вероятностей те элементы, которые обусловливают ее внутреннюю логическую структуру и совершенно не связаны с конкретным значением теории.
Прежде всего мы приходим таким образом к общей теории меры. Общее понятие меры множества охватывает как частный случай понятие вероятности. Множество произвольных элементов, рассматриваемое с точки зрения меры его подмножеств, мы будем называть чисто метрическим пространством, хотя, быть может, это и является злоупотреблением термином «пространство». В частности, в исчислении вероятностей мы будем говорить о пространстве элементарных случаев данной проблемы и о вероятностях различных множеств этих случаев.
Дальнейшим развитием общей теории меры является теория функций в чисто метрических пространствах. Эта теория занимается изучением тех свойств функций, которые зависят только от меры множеств, на которых функции принимают ту или иную совокупность значений. Таковы, например, свойства ортогональности двух функций или полноты системы ортогональных функций. Если рассматривать величины, зависящие от случаев (случайные величины), как
функции, определенные в пространстве элементарных случаев, то все относящиеся к ним предложения теории вероятностей окажутся частными следствиями предложений такой общей теории.
Сила методов теории вероятностей в применении к вопросам чистой математики в значительной мере основана на употреблении понятия независимости случайных величин. Это понятие не получило до сих пор явной чисто математической формулировки, хотя дать ее и не представляет больших затруднений. Мы определяем далее «независимость» системы функций, причем независимость оказывается чисто метрическим свойством. ‘
Свойства множеств, на первый взгляд совершенно различных, когда их рассматривают только со стороны установленного для их подмножеств мероопределения, часто оказываются тождественными. .
Так, например, элементарно доказывается, что куб любого числа измерений может быть обратно однозначно отображен на отрезок прямой таким образом, что все измеримые (Л) множества точек куба переходят в множества линейной меры, равной мере начальных множеств. Мы говорим поэтому, что куб любого числа измерений метрически эквивалентен отрезку. Кроме понятия метрической эквивалентности, мы определяем более общее понятие изометричности двух пространств.
Трудно предвидеть, потребуется ли немедленное действительное развитие намеченных теорий или достаточно будет ограничиться указанием на принципиальную их возможность. Последнее во всяком случае необходимо для установления правильного взгляда на связь различных областей математики. Кроме того, это доставляет метод перенесения рассуждений из одной области в другую из числа тех, в которых могли бы найти применение предложения общей теории. *
АБСТРАКТНОЕ МЕРООПРЕДЕЛЕНИЕ
Рассмотрим множество А элементов а. Мы говорим, что для множества А дано некоторое мероопределение М, если некоторым определенным его подмножествам Е приписана определенная мера М (Еу Множество А вместе с мероопределением М мы будем называть метрическим пространством. Мы должны дать теперь аксиомы, которым будут удовлетворять все рассматриваемые нами мероопределения. ,
Прежде всего мы предполагаем, что мера множества является действительным числом, положительным или равным нулю.
Аксиома!. '
М (Е) > 0.
Во-вторых, мы допускаем, что если два множества не пересекаются, то мера их суммы равна сумме мер.
Аксиома II. Если
Ех X = 0, .то
М (Ег + Е^ = М ^ + М (Я2).
При этом предполагается, что существование мер для двух из рассматриваемых множеств влечет за собой существование меры третьего.
Можно доказать на основании этой аксиомы общую формулу
М {Er + Е^ = М (Е^ + М{Е2- Е^.(1)
Но при этом отнюдь нельзя предполагать, что существование мер .для двух множеств, если они пересекаются, влечет за собой существование меры для их суммы или разности: существуют важные мероопределения, не обладающие этим свойством.
Так как произведение двух множеств может быть определено так:
ЕгЕй = Ег- №-£2),(2)
то формула (1) служит для вывода всевозможных соотношений между суммами, разностями и произведениями конечного числа множеств.
Для удобства мы вводим в число рассматриваемых множеств пустое множество, которое будем обозначать через 0. Если в некотором мероопределении хотя бы одно множество имеет меру, то из аксиомы I следует, что
М (0) = 0.(3)
Наконец, третья аксиома вводит совершенно произвольное ограничение рассматриваемых мероопределений: мера всего пространства ^принимается равной единице.
А к с и о м а III.
М (А) = 1.
Это сильно упрощает изложение, общий же случай легко может *быть изучен на основании этого частного. Во многих же применениях, в частности в исчислении вероятностей, это ограничение вызывается существом вопроса.
Рассмотрим теперь некоторые примеры мероопределений, удовлетворяющих приведенным аксиомам.
Лебегово мероопределение для множеств точек тг-мерного куба со стороной, равной 1.
Плотность линейных множеств в точке 0 может рассматриваться как их мера.
Если множество А состоит из натуральных чисел, то в качестве меры множества может рассматриваться его плотность, т. е. предел отношения числа элементов множества, не превышающих п, к п при п -> оо.
Если А есть множество элементарных случаев проблемы исчисления вероятностей, то за меру множества элементарных случаен принимается вероятность появления хотя бы одного из них.
ЗАМКНУТОСТЬ МЕРООПРЕДЕЛЕНИЯ
Данному мероопределению М соответствует вполне определенная система (Е) множеств Е. имеющих меру. Относительно этой системы нам известно пока только, что в нее входят пустое множество 0 и все пространство А, а также, что если
Ег + Е^ = Е^ Е^Е^ = О,
то из вхождения в (Е) двух из этих множеств следует принадлежность к (Е) и третьего. Очевидно, что, в частности, дополнение множества, входящего в (Е), входит в (Е^ так как
Е + Ё - А. Е-Ё = 0. ’
Мероопределение называется полным, если состоит из всех подмножеств пространства А.
Нам неизвестно ни одного полного мероопределения, в котором все множества из одного элемента имели бы меру, равную нулю. Доказать существование таких мероопределений без помощи принципа произвольного выбора представляется нам задачей большой трудности.
Мы говорим, что мероопределение М заключает в себе мероопределение М'. данное для того же множества А, если (£) заключает в себе (Е'), и для множеств, принадлежащих к (Е'), меры в обоих мероопределениях совпадают.
Отнюдь нельзя предполагать, что всякое мероопределение заключается в каком-либо полном; противоречащие примеры элементарны. Впрочем, ни про одно из обычно употребляемых в математике мероопределений не доказана невозможность рассматривать их как заключающиеся в полных мероопределениях. Напротив, Банах доказал при помощи принципа произвольного выбора, что линейное лебегово мероопределение содержится в некотором полном . В силу метрической эквивалентности пространств любого числа измерений то же верно и для ^-мерного лебегова мероопределения. Но уже в трехмерном случае в полном мероопределении, заключающем в себе лебегово, не может быть выполнен принцип равенства мер конгруэнтных множеств, что доказывается данным Хаусдорфом примером разложения сферы на три множества, из которых каждое конгруэнтно сумме двух других с точностью до счетного множества.
Даже в случае счетности основного множества А построение полного мероопределения наталкивается на большие трудности. Так, например, проблема обобщенной плотности последовательностей на-
туральных чисел, т. е. нахождения полного мероопределения, заключающего в себе мероопределение 3 предшествующей главы, представляет трудности, подобные построению точечного множества, неизмеримого (Л).
Соответственно с этим и при постановке проблем исчисления вероятностей следует требовать, чтобы было указано, для каких случаев вероятности предполагаются существующими. Очевидно, например, что в случае геометрических вероятностей было бы неосторожным, предполагать существующими вероятности попадания точки на каждое множество точек пространства.
Но в большинстве случаев можно предполагать систему (£) обладающей некоторыми свойствами замкнутости. Мы будем говорить, что система (Я) конечно замкнута, если в нее входят все суммы пар принадлежащих к ней множеств. Очевидно, в силу формулы
Ег - Я2 - £~ЬЁ2 №
в замкнутую систему входят все разности, а в силу формулы (2) и произведения принадлежащих к ней множеств.
Для каждой системы ^Е^ существует определенная минимальная система F (Е), замкнутая и содержащая в себе (Е). Если можно приписать меру всем множествам системы F (Е), совпадающую с данной для множеств системы (Е) и удовлетворяющую нашим трем аксиомам, то мы говорим, что начальное мероопределение допускает замыкание.
Неизвестно, всякое ли мероопределение допускает замыкание. Если замыкание возможно, то не обязательно единственным способом; примеры последнего элементарны.
Отыскание мероопределения, замыкающего данное выше под № 3, представляется нам задачей большой трудности.
Точно так же спорен вопрос, обязательно ли мероопределение, связанное с каким-либо вопросом исчисления вероятностей, должно быть замкнутым.
Система (Е) называется счетно замкнутой, если в нее входят всевозможные счетные суммы ее элементов. В счетно замкнутую систему входят и счетные произведения ее элементов, так как
П£П=Ж (л = 1, 2, . . .). (5)
Но изучение счетной замкнутости тесно связано с понятием нормальности мероопределения и, собственно, только для нормальных мероопределений имеет смысл.
НОРМАЛЬНОСТЬ МЕРООПРЕДЕЛЕНИЯ
Мероопределение нормально, если для множеств, имеющих меру, из
Е — ^.Е
"Б Е -0 Um' (^=1-2,...)
следует, что
М(£) - ^М^ (^ - 1, 2, . . .).
Из приведенных выше мероопределения 2 и 3 не являются нормальными. Мероопределения, соответствующие проблемам исчисления вероятностей, также не обязательно нормальны.
В случае конечно замкнутого нормального мероопределения легко доказать формулы
М^Е^-^М^-^ ЕД.(6)
//С”!
-п
м(Пя„) = ИтМ(П Е^, п=1,2,._,(7)
верные при единственном условии, чтобы множества Еп и их сумма или произведение имели меру.
Кроме того, для конечно замкнутых нормальных мероопределений верно следующее предложение о счетных покрытиях*. если
Ed ^Еп (п - 1, 2, . .), то
М (£)< 27И(£П) (^ - 1, 2, . . .).
В самом деле, положим
Е; = еДеп-3 Е^ (и = 1,2,...);
очевидно, тогда
Еп-Ет = 0, п ^= т;л
е = ^е;,
^М (JE^ > ^М ^ = М (Е) (п - 1, 2, . . .).
Будем называть множество Е измеримым при мероопределении М, если для любого наперед заданного е существуют две последовательности множеств системы (£)
Ец Е^ . . ., Еп, . . .Е^, Е^, . . ., ЕП1 . . .
такие, что
Е CZ ^Еп, Е CZ ^Еп,
^М (£n) + М (Е^ < 1 + 8 (п - 1, 2, . . .).
Будем называть обобщенной мерой измеримого множества Е нижний предел сумм
^М^ (п - 1, 2, . . .)
для его покрытий, состоящих из множеств системы (£*).
Мы получим таким образом некоторое новое мероопределение L (М), придающее меру каждому измеримому относительно М множеству. Если М конечно замкнуто и нормально, то L (М) удовлетворяет аксиомам I—III, нормально и счетно замкнуто. Методы доказательства этих фактов совпадают с применяемыми при исследовании обычной лебеговой меры. Таким образом для всякого нормального конечно замкнутого мероопределения существует заключающее его в себе счетно замкнутое.
Мероопределение L (М) не является минимальным счетно замкнутым мероопределением, заключающим М. Не составляет большого труда определить такое минимальное мероопределение В (М), которое содержится в L ^М\*
Но мероопределение L (М) обладает другим замечательным свойством: измеримое относительно М множество во всяком нормальном мероопределении, заключающем в себе М, имеет ту же меру, что и в L (М).*
В частности, в исчислении вероятностей, если система случаев, имеющая определенные вероятности, конечно замкнута и нормальна, то можно без противоречия и единственным образом определить, что следует понимать под вероятностью счетного произведения или счетной суммы, имеющих вероятность случаев. Мы полагаем, что только после этого можно считать прочно обоснованными рассуждения о вероятностях таких событий, как сходимость ряда случайных величин и пр.
МЕТРИЧЕСКАЯ ЭКВИВАЛЕНТНОСТЬИ ИЗОМЕТРИЧНОСТЬ ПРОСТРАНСТВ
Два метрических пространства называются метрически эквивалентными, если они могут быть поставлены в обратно однозначное соответствие таким образом, что множествам, имеющим меру, будут соответствовать множества того же рода и меры соответствующих множеств будут равны.
Куб любого числа измерений со стороной, равной 1, рассматриваемый вместе с лебеговым мероопределением для его подмножеств, метрически эквивалентен отрезку длины, равной единице тоже с лебеговым мероопределением. Доказательство элементарно.
Два множества ^ и £2 в метрическом пространстве обладают одним и тем же метрическим типом, если
М [№ - Е^ + (Я2 - ^)] = 0.
Во многих вопросах, в которых можно пренебрегать множествами меры нуль, можно вводить в рассмотрение только метрические типы, а не сами множества 3.
Если мероопределение конечно замкнуто, то тип суммы, произведения или разности двух имеющих меру множеств зависит только от их типов и, следовательно, можно говорить о суммах, произведениях и разностях самих типов.
Если мероопределение счетно замкнуто и нормально, то то же имеет место для счетных сумм и произведений.
Два конечно замкнутых пространства называются изометрическими, если между метрическими типами их имеющих меру подмножеств можно установить обратно однозначное соответствие таким образом, чтобы суммам двух типов соответствовали суммы соответствующих типов и чтобы меры соответствующих типов были равны.
Очевидно, что произведениям и разностям двух типов будут также соответствовать произведения или разности соответствующих типов. Если же оба мероопределения нормальны и счетно замкнуты, то то же будет верно и для счетных сумм и произведений. Но при этом надо заметить, что счетно замкнутое и нормальное мероопределение может быть изометрично ненормальному.
Мероопределение обладает счетным базисом, если в системе (S') имеется счетная система (Z) (базис) такая, что каждое множество системы (Я) измеримо при базисе (Z), т. е. и оно и его дополнение допускают покрытие множествами системы (Z) с суммой мер, сколько угодно мало превышающей их меру. Конечно, это определет ние интересно только в случае нормальности пространства.
Лебегово мероопределение на отрезке имеет счетный базис, состоящий из отрезков с рациональными концами. Нам неизвестно ни одного нормального пространства мощности континуума, не имеющего счетного базиса (если не считать определяемых с помощью принципа произвольного выбора). Но подобное пространство мощности 2е легко построить.
Мероопределение М, нормальное, конечно замкнутое и обладающее счетным базисом, обязательно изометрично мероопреде- Г^ заключающемуся в лебеговом мероопределении отрезка
Укажем в заключение, что так как многие свойства чисто метрических пространств зависят только от соотношений метриче-
Конечно, все дальнейшее можно изложить и не вводя понятия метрического типа, как основанного на аксиоме «разбиения», пользуясь вместо этого понятием метрического «равенства» множеств.
ских типов их подмножеств, которые могут быть тождественны у самых различных пространств, даже у пространств различной мощности, то заслуживала бы внимания попытка изложить теорию таких пространств, если рассматривать их как систему метрических типов, которые могут быть складываемы, умножаемы и т. д., и не предполагая существования «элементов» пространства. ,
ЧИСТО МЕТРИЧЕСКАЯ ТЕОРИЯ ФУНКЦИЙ
Мы будем рассматривать только функции, принимающие в каждой точке чисто метрического пространства определенное вещественное значение. Такая функция называется измеримой, если множество точек, в которых она принимает значения, принадлежащие какому-либо интервалу, всегда имеет меру.
Очевидно, множество, на котором функция принимает определенное значение а, также имеет меру, так как
Е [6 < / < а\ + Е [/ - аА + Е \а < / < d - Е [6 < / < с].
Если мероопределение в рассматриваемом пространстве счетно замкнуто, то множество, на котором измеримая функция принимает измеримое (В) множество значений,, имеет меру, так как оно может быть получено посредством счетных сложений и умножений из множеств, заведомо имеющих меру. Но, конечно, нельзя утверждать того же в случае измеримого (^L) множества значений функций, даже если рассматриваемое мероопределение будет типа L (711).
Множество функций [/] называется измеримым в совокупности, если множество, на котором значение каждой функции попадает в определенный соответствующий ей интервал, имеет меру при любом выборе интервалов'.
В случае конечно замкнутого мероопределения конечная группа измеримых функций измерима в совокупности. В случае счетно замкнутого мероопределения то же верно для счетного множества функций.
В случае счетно замкнутого мероопределения множество, на котором значения последовательности функций определяют точку измеримого (S) множества в счетномерном пространстве, имеет меру. Таково, например, множество точек сходимости ряда функций.
Все сказанное непосредственно применяется к рассмотрению случайных величин в теории вероятностей.
Интеграл функции / по множеству Е может быть определен в чисто метрической теории только по Лебегу как предел выражения
т—— х)
пои п 00 7 если входящий в него ряд абсолютно сходится и самый предел существует. При рассмотрении вопросов, связанных с поня- иеМ интеграла, мы будем предполагать пространство нормальным.
Обычным методом доказывается, что для ограниченной измеримой функции интеграл существует.
Для определенного таким образом интеграла имеют место следующие соотношения:
(А + А) — ^ А + ^ А»
ЕЕЕ
^cf = c^f.
ЕЕ
^ / = У / + j /, если ЕуЕ» = 0.
^х4~-^2 Е^ Ег
lim ^fn=^ f, e9™ A<A<Л
E E
В теории вероятностей давно употребляется близкое к понятию лебегова интеграла понятие математического ожидания. Если рассматривать вероятность как меру множества элементарных случаев, то математическое ожидание случайной величины Z будет равно
£(z)= jz,
А
а ее математическое ожидание при гипотезе Е равно
Е•
По аналогии с понятием относительной вероятности введем обозначение^'
МЕ1 (£2) = М (Е^/М (£1), тогда
AE(Z) = Iim V A-Me\2?L<z<;21±AY
На основе данного определения интеграла может быть развита теория ортогональных функции в чисто метрических пространствах. Так, например, для того чтобы система ограниченных ортогональных функций не могла иметь мощности выше счетной, достаточно, чтобы рассматриваемое мероопределение имело счетный базис.
Интересно, в какой мере возможно изложить чисто метрическую теорию функций в терминах, инвариантных для изометричных пространств. Уже самое определение функции должно получить для этого другую формулировку.
VI. НЕЗАВИСИМОСТЬ
• § 30. Два разбиения пространства А на множества непересекаю- щихся частей
А = ^F', А - ^F"
называются независимыми, если для всяких двух измеримых множеств Е' и Е", состоящих первое из некоторых F', а второе из некоторых F", имеет место соотношение
М (Е'-Е^ = М ^E'YM ^EnY
Произведением разбиений [7] в конечном или бесконечном числе называется разбиение пространства на произведения элементов данных разбиений по одному из каждого.
Разбиения [7^1 в конечном или бесконечном числе взаимно независимы, если любые два произведения из них, не имеющие общих элементов, независимы. Из попарной независимости разбиений не следует их взаимная независимость.
Установленные общие определения допускают в частных случаях ряд упрощений. Так, например, если мероопределение конечно замкнуто и разбиения (7') и ^F”^ состоят из конечного числа имеющих меру элементов, то для их независимости достаточно, чтобы
М (F'-F") = M(F')-M (F")
для каждой пары F' и F”.
В случае нормальности мероопределения то же самое верно для разбиений на счетное множество частей.
Каждая функция определяет разбиение пространства на множества, на которых она принимает то или иное значение. Функции называются взаимно независимыми, если соответствующие разбиения независимы.
Точно так же определяется независимость разбиений множества (1?) и независимость функций на множестве.
Для функций Д, /2, . . ., /п, независимых на множестве Е, имеет место соотношение
DE^...W = DEyi)DEU2)...DEen).'
8
ОБ УСИЛЕННОМ ЗАКОНЕ БОЛЬШИХ ЧИСЕЛ
Пусть
Х^ Х^ • • *7 ^П1 • • •(1)
. - последовательность независимых в совокупности случайных величин с равными нулю математическими ожиданиями £ ^Лп). Следуя Кантелли и Хинчину, будем говорить, что последовательность (1) удовлетворяет усиленному закону больших чисел (у.з.б.ч.), если вероятность того, что средние
_ 8П _+ • • • +.
Gnп
сходятся к нулю, равна единице.
Мы сейчас докажем, что у. з. б. ч. имеет место, если вторые моменты Е (жп) = Ьп существуют и ряд
сходится. Это условие не может быть заменено другим, менее сильным условием: если для некоторой последовательности постоянных Ьп ряд (2) расходится, то можно построить последовательность (1) независимых случайных величин, удовлетворяющих равенствам Е (^п) = О, Е (^п) = Ъп и таких, что они не удовлетворяют у. з. б. ч- Для доказательства можно воспользоваться леммой, которая выражается формулой
Р{тахЫ*2>/?}<А.^\(3)
и которая была нами доказана в другом месте (для R ^ 0) г. Очевидно, согласно (3)
Pm = р {max I оп |”^m+1 > е} <
^<2^1+1
<P{max|SJ“<r+1>2me}C^j^ V Ъа,
Но вероятность Р не изменится, если конечное число первых членов последовательности (1) заменить нулем. Если ряд (2) сходится, то последний член в неравенстве (4) можно сделать сколь угодно малым. Следовательно, вероятность Р равна нулю. Поскольку это выполняется для всякого е^>0, то в рассматриваемой ситуации имеет место у. з. б. ч.
Для доказательства второй части нашего утверждения предположим, что ряд (2) расходится.
Пусть в случае bjn^ ^1 хп = п, хп = —п, хп = 0 с вероятностями, равными соответственно
bj^, Ъ^.1 - bjn\
в случае bjn2 ^ 1 положим
^n V ^л ^ ^U V Ьп
с вероятностями V2 и 1J2- Легко проверяется, что Е ^х^ = 0, £ (р^) = = Ьп и что у. з. б. ч. для' построенной последовательности не имеет места.5
9
ОБ АНАЛИТИЧЕСКИХ МЕТОДАХВ ТЕОРИИ ВЕРОЯТНОСТЕЙ*
ПРЕДМЕТ ИССЛЕДОВАНИЯ
Физический процесс (изменение некоторой физической системы) называется стохастически определенным, если из знания состояния Хо системы в некоторый момент времени £0 следует также знание функции распределения вероятностей для возможных состояний. X этой системы в момент t^>t0. *
Автор систематически рассматривает простейшие случаи стохастически определенных процессов и в первую очередь — процессы непрерывные во времени (в этом заключается существенная новизна метода: до сих пор стохастический процесс рассматривался обычно как дискретная последовательность отдельных «событий»).
Если множество 91 различных возможных состояний системы конечно, то стохастический процесс может быть охарактеризован с помощью обыкновенных линейных дифференциальных уравнений (гл. II). Если состояние системы определяется одним или несколькими непрерывными параметрами, то соответствующий аналитический аппарат приводится к дифференциальным уравнениям с частными производными параболического типа (гл. IV). При этом мы приходим к различным функциям распределения, среди которых нормальное распределение Лапласа выступает как естественный простейший случай. .
ВВЕДЕНИЕ
Желая подвергнуть математической обработке явления природы или социальной жизни, необходимо предварительно эти явления схематизировать: дело в том, что к исследованию процесса изменения некоторой системы математический анализ применим лишь в том случае, если предположить, что каждое возможное состояние этой системы мож^т быть вполне определено с помощью известного математического аппарата, например, при помощи значений, принимаемых известным числом параметров; такая математически определимая система есть не сама действительность, но лишь схема, пригодная для описания действительности.
Классическая механика пользуется лишь такими схемами, при которых состояние у системы для момента времени t однозначным образом определяется ее состоянием х в любой предшествующий момент £0; математически это выражается формулой
У = / (ж, #0, ty
Если такая однозначная функция / существует, как это всегда предполагается в классической механике, то мы говорим, что наша схема есть схема вполне детерминированного процесса. К числу вполне детерминированных процессов можно было бы отнести, кроме того, процессы, в которых состояние у не вполне определяется заданием состояния х для единственного момента времени t, существенным образом завися еще от характера изменения этого состояния х перед моментом t. Однако обычно предпочитают избегать такой зависимости от предшествующего поведения системы, для чего расширяют самое понятие состояния системы в момент времени t и соответственно этому вводят новые параметры .
Вне области классической механики наряду со схемами вполне детерминированных процессов часто рассматривают и такие схемы, где состояние х системы в некоторый момент времени £0 обусловливает лишь известную вероятность для наступления возможного состояния у в некоторый последующий момент £ > £0. Если при любых заданных tQl t > t0 и х существует определенная функция распределения вероятностей для состояний у, мы говорим, что наша схе- .ма есть схема стохастически определенного процесса. В общем случае эта функция распределения представляется в виде
Р (£0, х, t, @),
причем 6 обозначает некоторое множество состояний у, а Р есть вероятность того, что в момент t окажется реализованным одно из состояний у, принадлежащих этому множеству. При этом возникает одно затруднение, заключающееся в том, что, вообще говоря, невозможно определить эту вероятность для всех множеств @. Строгое определение стохастически определенного процесса, устраняющее указанное затруднение, дается в § 1.
Как и в случае вполне детерминированного процесса, мы могли бы рассматривать здесь также схемы, в которых вероятность Р существенным образом зависит не только от состояния х, но и от всего предшествующего поведения системы. Однако от такого влияния предшествующего течения процесса можно освободиться при помощи того же метода, что и в случае схемы вполне детерминированного процесса.
Заметим еще, что возможность применения схемы вполне детерминированного или только стохастически определенного процесса при исследовании какого-либо действительного процесса ни в какой мере не связана с вопросом о том, является ли самый этот действительный процесс в конечном счете детерминированным или случайным.
Обычно в теории вероятностей рассматривают только такие схемы, при которых изменения состояния системы возможны лишь в определенные моменты времени ^, t2l . . ., tn, . . ., образующие дискретный ряд значений. Башелье впервые, насколько нам известно, занялся систематическим изучением схем, в которых вероятность Р (£0, х, t, 6) изменяется непрерывно с течением времени t. К тем случаям, которые были исследованы Башелье, мы еще вернемся в § 16 и в заключении. Здесь же мы только заметим, что построения Башелье ни в какой мере не отвечают требованиям необходимой математической строгости.
В предлагаемой работе, начиная со второй главы, мы главным образом рассматриваем упомянутые выше непрерывные относитель-
но времени схемы. С математической стороны такие схемы имеют то важное преимущество, что позволяют ввести в рассмотрение дифференциальные уравнения для Р относительно времени и приводят к простым аналитическим выражениям, которые в обычной теории получаются лишь как асимптотические формулы. Что касается приложений, то, во-первых, новые схемы могут быть непосредственно применены к реальным процессам, а, во-вторых, из решений дифференциальных уравнений непрерывных во времени процессов можно вывести новые асимптотические формулы для прерывных схем, как это будет показано в § 12.
Мы не исходим из полной системы аксиом теории вероятностей; однако мы отметим теперь же все те предпосылки, которыми в дальнейшем нам придется пользоваться. Относительно множества 91 возможных состояний х мы не делаем никаких специальных предположений: математически можнд рассматривать 91 как произвольное множество, состоящее из произвольных элементов. Все предположения, касающиеся системы множеств % и функции Р (tOl х, t, 6), приведены в § 1. В дальнейшем вся теория развивается нами как чисто математическая.
ОГЛАВЛЕНИЕ
Глава первая. Общие положениях
1. Общая схема стохастически определенного процесса. § 2. Оператор Fi (х, 6) * F2 (х, &). § 3. Классификация специальных случаев. § 4. Эргодический принцип.
Глава вторая. Конечные системы состояний;
5. Предварительные замечания. § 6. Дифференциальные уравнения непрерывного стохастического процесса. § 7. Примеры.
Глава третья. Счетные системы состояний^
8. Предварительные замечания. Прерывные схемы. § 9. Дифференциальные уравнения непрерывного во времени процесса. § 10. Однозначность решений и их вычисление для случая однородного во времени процесса.
Глава четвертая. Непрерывные системы состояний, случай одного параметрах
П. Предварительные замечания. § 12. Метод Линдеберга. Переход от прерывных схем к непрерывным. §13. Первое дифференциальное уравнение Для непрерывных во времени процессов. §14. Второе дифференциальное уравнение. § 15. Постановка вопроса об однозначности и существовании решений Для второго дифференциального уравнения. § 16. Случай Башелье. §17. Об одном способе преобразования функций распределения. §18. Стационарные Функции распределения. §19. Другие возможности.
Заключение
Глава I
ОБЩИЕ ПОЛОЖЕНИЯ
§ 1ОБЩАЯ СХЕМАСТОХАСТИЧЕСКИ ОПРЕДЕЛЕННОГО ПРОЦЕССА
Пусть © — некоторая система, которая может находиться в состояниях х, у, z, . . ., и § — система множеств @, образованных мз элементов х, у, z, . . . Мы называем процесс изменения системы © стохастически определенным по отношению к $, если при любом выборе состояния х, множества 6 и моментов времени tx и £2 (^ < £2) существует определенная вероятность Р (t^ х, t^ 6) того, что при наличии состояния х в момент tx в момент £2 осуществится одно из состояний 6. Если вероятность Р (Ч, хп t2l 6) определена лишь для ^2 > Ч > ^07 мы говорим, что процесс изменения стохастически определен при t^ tQ..
Что касается системы $, то мы предполагаем, что она, во-первых, аддитивна (т. е. содержит все разности, равно как и конечные или счетные суммы своих элементов) и, во-вторых, содержит в себе нулевое множество, множество У всех возможных состояний х, у, z, . . . п все множества, составленные из одного элемента каждое. Если множество 91 конечно или счетно, то § состоит, очевидно, из всех подмножеств множества 91. Но в наиболее важном случае, когда множество 91 несчетно, предположение, что ^ охватывает собой все подмножества из 91, не выполняется ни для одной из известных в настоящее время схем.
Мы, разумеется, предполагаем, что
Р (Ч, х. t2l 9() - 1(1)
и для нулевого множества $
Р (Ч7 х, t2l $) = 0.
Далее мы предполагаем, что Р (Ч, х, t2l 6) как функция множества 6 аддитивна, т. е. что для любого разложения множества 6 на конечное или счетное число слагаемых @п без общих элементов имеет место равенство
S р (^, ж, /2, ^п) р (^ ^, z2, @).(2)
71
Для формулировки дальнейших предположений относительно Р (Ч7 х, t2l 6) нам необходимы понятия измеримости функции / (ж) по отношению к системе $ и определение абстрактного интеграла Стилтьеса. Эти понятия мы дадим здесь в форме, отвечающей нашим целям ..
Мы называем функцию / (ж) измеримой по отношению к системе $, если при любом выборе действительных чисел а и Ъ множество Зда < / (ж) < ^ всех ^» ПРИ которых / (ж) удовлетворяет указанному в скобках неравенству, принадлежит к системе §. Легко показать, что если система § аддитивна, а / (ж) измерима по отношению к $, то множество 6 всех тех ж,: при которых / (#) принадлежит к данному измеримому по Борелю множеству, всегда также содержится в системе §. •
Пусть теперь / (ж) измерима по отношению к системе § и ограничена, и пусть ф ((g) обозначает некоторую неотрицательную аддитивную функцию множеств, определенную на §; тогда, как известно, сумма
т
при п —> оо стремится к определенному пределу. Этот предел мы назовем интегралом
$ / (ж) Ф (d3().
Предлагаемое обозначение отличается от обычно употребляемого только тем, что в нем специально указана переменная интеграции и знак дифференциала стоит внутри скобок.
В дальнейшем мы будем предполагать, что Р (^, ж, t2l @) как функция состояния х измерима по отношению к системе ^. Наконец, для произвольных t^ t2, t3 (^ < £2 < ^з) Р (^i, х, t2l 6) должно удовлетворять -фундаментальному уравнению
Р (ti, х, t2) ^= Р (t2, у, t3l @) Р (^i, х, t2l d,^?).(3)
у
Если 91 состоит из конечного или счетного множества элементов х^ ^ . . ., хп, . . ., то
5 Р (<2, у, h, @) Р {ti, X, ts, d^ — ^P (tn, X„ /3, ®) P (<i, X, t2, x^
и в правой части мы имеем выражение полной вероятности Р (^, х, t3l @); тем самым для этого случая формула (3) доказана. В случае же, когда множество 9(j несчетно, мы принимаем соотношение (3) за новую аксиому.
Сформулированные выше требования вполне определяют понятие стохастически определенного процесса: элементы х, у, z, . . . произвольного множества 91 можно рассматривать как признаки, определяющие состояние некоторой системы, а произвольную функцию Р (^1» х, t2, @), удовлетворяющую указанным требованиям, как соответствующую функцию распределения вероятностей.
3 А. Н. Колмогоров
Неотрицательную функцию F (€)Л определенную на системе §s аддитивную и удовлетворяющую, кроме того, условию
^(90 = 1,(4)
мы будем называть нормальной функцией распределения. Все требования, наложенные нами на Р (£ь ж, £2> @)> мы можем теперь высказать следующим образом: Р ((17 х, 1^ @), как функция от @, есть нормальная функция распределения, как функция от х, измерима по отношению к системе ^, и, наконец, удовлетворяет интегральному уравнению (3).
Пусть теперь мы для момента времени t = t^ имеем нормальную функцию распределения Q (£0, @), дающую вероятность того, что система в в момент £0 находится в? одном из состояний, принадлежащих к 6. Функцию' распределения Q (^, 8) для момента времени t?> t^ мы определяем с помощью второго фундаментального уравнения
Q ^ €) = $ Р (^о, х, t, 6) Q (^о, й^р(5)
Мы имеем, очевидно,
Q^^Qkt»,a^ = Q^^ = i.(6)
аг
\р(^ х, t», ^Q(H, ^) =
= 5 р(*ь х, t2, 6) ^ P(f0, у, k, d^Q^, d^ =
= 5 $ р №ь х, tz, @) р ((о, У, tx, d%) Q (<0, d^ =
= $ р (to, у, A, S) Q (to, d^ = Q (t», 6).(7)
Формулу (5) мы рассматриваем как определение функции Q (£, @), а не как новое требование, налагаемое на систему ®; заметим, однако, что (5) содержит в себе соотношение (3) как частный случай.
§2
ОПЕРАТОР Fx (х, 6) * F^ (х, 6)
Пусть Fx (х. @) и F2 (xt @) — две нормальные функции распределения, которые, рассматриваемые как функции от х, измеримы по отношению к системе g. Мы положим
F (х, 6) = Fx (ж, ^>F2 (ж, 6) = Fx*F2 (х, @) = ^ F2 (у, 6) Fx {х, dW)\
как легко видеть, F (ж, €) удовлетворяет тем же условиям измеримости и аддитивности, что и функции Ег (ж, S) и Fa (ж, €); равенство (4) также оказывается выполненным:
F(x, 9Q = $ Л (У, 91) Л (ж, ^')= $ Ft (ж, ^') = 1,
следовательно, F (ж, @) также является нормальной функцией распределения.
Далее, оператор Fx * F^ подчиняется сочетательному закону:
Fx * (F^ * F^) = (^i * F2) * F3l(9)
в чем легко убедиться с помощью следующего несложного вычисления:
Fi*(F2*^3) (я, 6) = J $ F^ ^ @) Fz {у. ^') F\ (ж, d^ =
= J Fs(z, 6) J Л (у, d^Fx^x, d^ — ^F^F^x, S).
Напротив( переместительный закон для оператора FT * ^2, вообще говоря, не имеет места.
Мы определим теперь единичную функцию р, (ж, 6), которая для всякой нормальной функции распределения F (х, 6) удовлетворяет уравнению
р. * F (ж, @) = F * р, (ж, €) = F (х, 6).(10)
Для этой цели достаточно^ положить р, (ж, @) = 1, когда х содержится в @, и р, (ж, 6) = 0 в противном случае; тогда мы, действительно, имеем
Н*^ (я, S) = ^F (у. @) И (ж, d^ = F (х, @), у
F*n (ж, 6) = $ ц (у, @) F (х, d^=\F (х, d^) = F (ж, S).
Вероятность Р ^г, х, ^ ^ была определена пока лишь для *2 / ii; примем теперь для любого t
Р & Хг t, @) = |Х (Ж, @).(Н)
Это новое определение в силу формулы (10) не противоречит фундаментальному уравнению (3), поскольку это последнее может быть написано в виде
р (ti, X, Н, @) * Р (f2, ж, ts, е) = Р (^, ж, ts, €).(12)
§ 3КЛАССИФИКАЦИЯ СПЕЦИАЛЬНЫХ СЛУЧАЕВ
Если изменения состояния системы © наступают лишь в известные моменты времени, образующие дискретный ряд
^0 < ^1 <^ ^2 < • е • < ^п ^^ • • • “^ 00, то, очевидно,
Р <t\ х. Г, ^ = Р (t^ х. tn, @)(13)
для всех моментов времени f и £", удовлетворяющих неравенствам
Вводя обозначения
Р Цгт X. tn, @) = Ртп (х, 6),(14)
Рп-1,п (X, 8) = Рп (X, @),(15)
будем иметь
Ртп (X, @) = Рт+1*Рт+2* • • • *РП (х, @).(16)
Следовательно, в данном случае процесс изменения системы © вполне определяется элементарными функциями распределения Рп (х, @).
Пусть теперь РТ (х, @), Р2 (х, @), . . ., Рп (я, @) — произвольные нормальные функции распределения, которые как функции от х мы предполагаем измеримыми; пусть, далее, ^о < ^i < • • • <С ^п<С < . . . — некоторая последовательность моментов времени. Определяя Ртп (х, @) и Р (f, х, Г, @) посредством формул (16), (14) и (13), мы получаем также нормальные функции распределения, удовлетворяющие уравнениям
Ртп (X, ^Рпр(х, 6) Ртр(ж, @) (^О<р),'(17)
а, следовательно, и уравнению
Р ^ х. ^ ^>Р (Г, х. i\ ^ = Р (f, х, t\ @) ^<t" < г у
Но это последнее представляет собой не что иное, как фундаментальное уравнение (12) или (13). Мы видим, таким образом, что всякая последовательность произвольных нормальных функций распределения Ри (х, @), измеримых как функции от х, характеризует некоторый стохастически определенный процесс.
В теории вероятностей обычно и рассматривают только определенные выше схемы с прерывным временем. Если все функции распределения Рп (х, @) между собой тождественны:
рп (Xi @) = р (Xi @),J(18)
то мы имеем однородную схему с прерывным временем; в этом случае мы получаем на основании (16)
PiMi^lx, ^) = Р(х, ^Р(х9 ^..^Р^х, ^)=[Р(Х, ^ = рР^ЛУ ^Р раз —>/ЛОХ
Еще в 1900 г. Башелье занимался рассмотрением непрерывных во времени стохастических процессов , и существуют все основания к тому, чтобы схемы с непрерывным временем заняли центральное положение в теории вероятностей. Наиболее важными представляются здесь однородные во времени схемы, в которых Р (£, ж, t + + т, @) зависит лишь от разности £2 — *г
Р (Z, х, t + т, @) * Р (т2, х. @) = Р (т, х, @).(20)
фундаментальное уравнение для этого случая напишется в виде
Р (?!, X, @) * Р (т2, X, @) = Р (Т! + Т2, X, @).(21)
Другой ряд специальных случаев мы получаем при введении специальных предположений относительно множества 31 элементарных состояний х. Здесь различают случаи конечных или счетных множеств 31; в непрерывном случае классификация производится по числу параметров, определяющих состояние системы. На разграничении таких отдельных случаев и основано подразделение дальнейшего материала.
§ 4ЭРГОДИЧЕСКИЙ ПРИНЦИП
Не прибегая к специальным предположениям относительно множества 31 всех возможных состояний х, мы можем доказать лишь несколько общих теорем, а именно теоремы, связанные с эргодическим принципом. Говорят, что стохастический процесс подчинен эргодическому принципу, если для любых t<°\ х, у и @
lim [Р ^\ х. t^- Р ^\ у, t. @)] = 0.(22а)
Для схемы с прерывным временем условие (22а), очевидно, эквивалентно следующему:
1™ [?mn (х,- Ртп <у, S)] = 0;(226)
в этом последнем случае имеет место следующая
Теорема I. Если для любых х, у и 6
р^хлуЖрЛуЛУ КЖ(23)
и ряд '
S К(24)
И=1
Расходится^ то эргодический принцип (226) выполняется и в формуле (226) мы имеем равномерное относительно х^ у, 6 приближение к пределу.
Доказательство. Пусть будет
sup Рйп (ж, 6) = Mto (g), inf Pftn (^ 6) = mkn (€). ОСОС
Для i<_k имеем, очевидно,
®) = $ р^. ^Ри^ ^Х^®) $ Лй(х, d^-M^
(25) и аналогично
X (х, 6) > т^ (@).(26)
В силу неравенства (23) для любых х и у имеем
Рй ^ @) - W (У, @) > 0,
Рк-1, Дх, @) = $ Рй„ (z, 6) ps (*, ач^ =
= S X к^ @) [^ (ж, ащ - xkpk ку, ^)] +
+ ^ $ р^, ^Р^у, а^>
> тКп(®) $ [Рй (х, <Ю() - М\ (у, ДИ)] + Vt-info, 6) =
= ™йп (®) (1 — К) +п {у, @),
Рк-1,п.кУ» ®) — Pk-l.nk"®» ®) ^(^'^k^ VPk-l,nky> ®) — mfcn(®)]i
отсюда в силу (25)
Рк-г.п^У» ®) — -Pfc-l, п(^, ®) ^ (^ —^kll ^ltn^) ^kn^l* (27) Поскольку (27) справедливо при любых х и г/, мы имеем также
Mk-1,n(S) - тк-х,п^ < (1 - М [Мкп (6) - 7Пй„(6)].(28)
Полагая в (28) последовательно к = т + 1, т + 2, . . ., п и перемножая затем все полученные неравенства, находим
^m„(@)-mmn(@)< П (1-М.(29)
7с=т+1
Правая часть в формуле (29) при п -^ оо стремится к нулю; тем самым наша теорема доказана.
В случае однородной схемы с прерывным временем имеет место следующая
Теорема II. Если для любых х, у и$
Р (х, @) > ХР (у, @) (X > 0),(30)
тпо Рп (%, @) равномерно сходится к некоторой определенной функции распределения Q (S).
Доказательство. В настоящем случае имеем
Мп, w (@) = sup Рр (ж, @) = Мр (@),
тп, п+р (@) = inf Рр (х, @) = тр (@),
Хп = X,
и на основании неравенства (29)
^p(S)-^(@)<(1-Х)*(31)
Но из (25) и (26) вытекает, что для q ^> р имеют место неравенства
ра (х, 6) = Poq (х. @) < MWt q (@) = Мр (@),(32)
Р< (ж, S) > тр (@);(33)
поэтому
Мр (@) > MQ (@) > mq (@) > тр ^.(34)
Из неравенств (31) и (34) непосредственно вытекает справедливость доказываемой теоремы.
Важные частные случаи теоремы II были доказаны Гостинским и Адамаром . Функция распределения Q (@), как показано в этих частных случаях Адамаром, удовлетворяет интегральному уравнению
9(6) = J Р(х, <^Q(dW .(35)
В случае наиболее общей стохастически определенной схемы имеет место
Теорема III. Если для некоторой последовательности
и любых хп у и @
Р (#„_!, X, tw ^ > Х^Р (£„_,, у, tn, §), Хп > 0,(36
и ряд 2 Хп расходится, то эргодический принцип (22а) виполняет- п=1
ся и сходимость в формуле (22а) равномерна относительно х^ у, 6.
Доказательство. Пусть при данном tW'
sup Р ^6\ х, 1Л) = М (i, @),
inf Р (^°), х, t, 6) = т (i, 6).
Если
то таким же путем, как при доказательстве теоремы I, мы получаем аналогичную (29) формулу
п
Дад-ЩЛК П (1-М-
fc=m4-l
Так как п безгранично возрастает вместе с I, то разность М (t, @) — — т (£, @) стремится к нулю при £ -^ оо, что и доказывает нашу теорему.
Наконец, в случае однородной во времени схемы справедлива аналогичная теореме II
Теорема IV. Если существует такое а, что при любых х, уД
Р (о, х. @) > ХР (о, у. @) (X > 0),(37)
то Р (т, х. 6) при т -^ оо равномерно сходится к некоторой определенной функции распределения Q (@).
Глава II
КОНЕЧНЫЕ СИСТЕМЫ СОСТОЯНИЙ
ПРЕДВАРИТЕЛЬНЫЕ ЗАМЕЧАНИЯ
Мы будем теперь предполагать, что множество 91 образовано из конечного числа элементов
В этом случае полагают
Р (^1» ^ь ^^ Xj) = Рij (Ч> ^)«(38)
Так как для любого множества 6 будет, очевидно,
P(ti,Xi,ta,^') = 5 Лк(Н, ^),(39)
то мы можем ограничиться рассмотрением вероятностей Ptj (^, ^2)* Фундаментальное уравнение (3) принимает теперь вид
Ру ^, h) Pjk (t„ t^ = Pu (tX) t9\- (40)
тогда как уравнение (1) представляется в форме
^Р^Л^=^(41)
3■
Любые неотрицательные функции Pij ^t^ t^, удовлетворяющие условиям (40) и (41), определяют некоторый стохастически определенный процесс изменения системы ©.
Оператор определяется в данном случае следующим образом:
Fi1; = F^w = 2 ^Ж(42)
3
вследствие чего фундаментальное уравнение (40) приводится к виду
Р ik (^1> У * Р гк fei ^з)Рik (^ь *з).(43)
В случае схемы с прерывным временем полагаем
fo, ^ = Р^\ Рр &i, ^ = Р^.
Вероятности Р^ удовлетворяют при этом уравнению
2^ = 1.(44)
3
и, обратно, произвольные неотрицательные величины Р^, удовлетворяющие этому последнему уравнению, можно рассматривать как соответствующие значения вероятностей в некотором стохастически определенном процессе. Вероятности Р^ при этом вычисляются по формуле)
_ р^*р«*%.. ,*р$..(45)
В случае однородной схемы с прерывным временем имеем
рp(Pq)г n -xQ-P pq-P г3• it ij •
Если все величины Рц положительны, то, очевидно, выполняются условия теоремы II § 4 и, следовательно, Р^ стремится к некоторому пределу Qh когда q->- 00. Интегральное уравнение (35) в нашем случае преобразуется в систему уравнений
*?i=S№ G =(46)
3.
Эти результаты были получены Гостинским и Адамаром Л
См. сноску 5.
ДИФФЕРЕНЦИАЛЬНЫЕ УРАВНЕНИЯНЕПРЕРЫВНОГО СТОХАСТИЧЕСКОГО ПРОЦЕССА
На основании формулы (11) имеем
Ри (f, 0 = 1, Ри (t, 0 = 0, i j.(47)
Если изменения нашей системы ® возможны в любой момент времени t, то естественным является предположить, что
Иш Рц (#, t + А) = 1, lim Ptj (f, t + A) = 0, i =A j, (47a)
Д—»ooA->0
т. e. что для малых интервалов времени и вероятность изменения состояния системы мала. Это предположение содержится в гипотезе непрерывности функций Ptj (£ь £2) относительно tx и £2.
Допустим теперь, что функции Pi5 (s, t) непрерывны и при t =^ з допускают производные по t и $. Дифференцируемости этих функций при I = з мы не требуем. Было бы неосторожным предполагать a priori существование производной в этих особых точках .
Для t^> з имеем
^оьо. = пт Ja^lI+J^Ja'^^ =
9t д->0д
= Нт 4- Щ ри (s, t) Pjk (t, t + A) - P№ (s, o] =(48)
Г V-1^ii, (С ^ H- А)(i> t + A) — 1 i
= 1^ E Pi^S* ^ "—A~ + ^ ^’ ^ A] '
з^к.
Если определитель
В = | Рц (s, 0 |
отличен от нуля, то уравнения
piAs» t) ■ ' -™д + puAs, t) -^д= aifc
(Z — 1,..., тг)
могут быть разрешены:
Так как ailc на основании (48) стремятся к предельным значениям dPik (s, tydt, когда А -^ 0, то и величины (49) будут при этом стре-
миться к определенным пределам
р_ (t, t + Д) - 1
lim= а№ ^,(50а)
lim L = Ajk (?), у ^ к.(506)
Что определитель Е при надлежащем выборе s < £ действительно может быть отличен от нуля, видно из соотношения
(51)(51)lim В = 18
(51)
(51)
которое выполняется в силу равенства (47) и непрерывности В.
Из (48) и (50) непосредственно получается первая система дифференциальных уравнений для функции Pik (s, ty.
дР.ъ (s, t\
*= У АЙ (0 Pt/(S, t) = Pt< (s, 1>Ахи (t).(52)
При этом в силу (47) и (50)
Ajk ^ 0, у у= &, Акк ^ 0,(54)
а в силу (41) и (50)
2^ = 0.(55)
к )
Уравнения (52) были установлены лишь при гипотезе s < 2; однако формулы (47) и (53) показывают, что эти уравнения сохраняют силу также и для t = з.
Для s << t мы имеем, далее,
^ifc (?» 01 . ^i/f (s + А» 0 ~ ^ih (s’ 0
= limт= dsА
= lim4" fр* (s + АЛ) — У ра ($, $ + А) Pte (s + А. О] =А-»0 аJ
3
ГР.Лз, s + Д) — 1
= - Ит "д' Р№ (» + А, 0 + д-*о L а
yi р^ (s, s + Д)3^iyi р^ (s, s + Д)3^iРЭк (s + Д>РЭк (s + Д>(56)(56)
yi р^ (s, s + Д)
3^i
yi р^ (s, s + Д)
3^i
РЭк (s + Д>
РЭк (s + Д>
(56)
(56)
и получаем в силу (50) вторую систему дифференциальных уравнений
lkas = - У, Лу (8) Pjk (8, 0 = - Aik (s>Pik (s, tY (57) 3
Если функции А^ (s) непрерывны, то уравнения (57) имеют место, очевидно, и для s = t.
Положим теперь, что для момента времени t0 известна функция распределения
Q (Аь ^) = Qk (М?^Qk (^о) = 1»
к
вероятностей того, что система ® в момент t0 находится в состоянии х^. Уравнение (5) в данном случае принимает вид
Qk W = ^Qi (^о) Ргк (^07 ^Y
На основании (52) функции Q^ (t) будут удовлетворять дифференциальным уравнениям
^1=^А^3^ (к = !,...,»).(58)
3
Если функции AUt (0 непрерывны, то функции Pik (s, t) образуют единственную систему решений уравнений (52), удовлетворяющую начальным условиям (47); следовательно, рассматриваемый стохастический процесс вполне определяется заданием всех Ai1t (£). Реальный смысл функций All£ (£) можно пояснить следующим образом: для i Ф к A ik (£) dt представляет вероятность перехода из состояния Xt в состояние х^ за время от момента t до момента t + dt, в то время как
^кк (О =3 ^kj (t).
З^к
Можно также показать, что если заданы какие угодно непрерывные функции А^ (0, удовлетворяющие условиям. (54) и (55), то решения Pik (s7 0 дифференциальных уравнений (52) при начальных условиях (47) будут неотрицательны и удовлетворяют условиям (40) и (41), т. е., другими словами, определяют некоторый возможный стохастический процесс.
Действительно, в силу (52) и (55) мы имеем
^^ Р,к (», 0 = ^ [^ ^(0] ^ ($’ Z) = 0’(М)
кк
а так как на основании (47)
5РгНМ)=1, к
то из (59) следует соотношение (41).
77
Положим, далее, для tT < £2
Ра (^ О = p«t (^ О, если ^ < t < t2,(60)
Pit (h, i) — ^ PH Pb Ц P3k (<2, 0. если <2 < t.(61)
функции P^- (^i, 0 непрерывны и удовлетворяют дифференциальным уравнениям (52), следовательно, равенство (60) справедливо для всякого t, а не только для t ^ t^ но тогда формула (61), если положить в ней t = ^з, совпадает с (40).1
Остается показать, что решения Pi1c (£n t) неотрицательны.
С этой целью полагаем, что при фиксированном s
ф (0 = min Рг1г (s, £).|
При надлежащем выборе г и к мы будем, очевидно^ иметь дР.к (s, t)
D^ (0 = at ■ ’ р» ($« 0 = ^ ^
и если ф (£) ^ 0, то на основании (54)!
(0 Р гк (s> О > 0,
Ajit (0 Рц (s> 0 ^ Aj^ (^) ф (^), 7 ^ ^»
дР.. (s. tAх—i
^ = 9\ = У,л^ (0 Ру ($’ 0 >
Так как ф (s)^ 0, то легко видеть1 что ф (^) будет больше любого отрицатсльного рсшсния уравнения
dy/dt = R (^) у,
а, следовательно, само не должно быть отрицательным.
§ 7ПРИМЕРЫ
В схемах, однородных во времени, коэффициенты А^ (t) представляются независимыми от времени t; процесс в этом случае вполне определяется п^ постоянными величинами А^. Уравнения (52) принимают при этом вид
^1 = ^А1кр„^(62)
3
решение этих уравнений не представляет затруднений. Если все величины Ail£ отличны от нуля, то имеют место условия теоремы IV
§ 4 и, следовательно/ Р^ (£) стремится к определенному пределу Qb когда t->- оо. Величины QK удовлетворяют уравнениям
Х&=1,ЗА^=о (* = !,...,»).
к3
Пусть, например,*
И = 2, А^ = -^21 = ^1-^11 = -^22 = —^1
т. е. вероятности перехода из состояния хг в состояние х^ и обрат* ного перехода из х^ в хг одинаковы. Дифференциальные уравнения (62) для нашего случая дают
Р» = Ри (О = V2 (1 - ^),
Рц (О = Ри (0 = V2 (1 +
Мы видим, что Pi1c (£) при t -> оо стремится к предельному значению Qk = V2.
Следующий пример показывает, что приближение к пределу может сопровождаться затухающими с течением времени колебаниями:
И = 3,Л12 ” Л 23 = ^431 " А$
Л 21 ” Л32 = ^13 = О,; Аг1 = Л 22 = А33 = — А; •
Ри (0 = Ри ^ = Рзз (0 = -у- e-,/*At cos at + -у-,
Ри (0 = Ри {t) = Psi (f) = е-*!^ ( -^=- sin at1- cos at) + у-.
P2i (<) = P32 = Pis (0 = — e-*!*At (“/j sin a# + -|- cos a#) + у-.
a = -y-A
Аналогичные затухающие колебания для схем с прерывным временем были обнаружены Романовским.
Глава III
СЧЕТНЫЕ СИСТЕМЫ СОСТОЯНИЙ
§ 8ПРЕДВАРИТЕЛЬНЫЕ ЗАМЕЧАНИЯ.ПРЕРЫВНЫЕ СХЕМЫ
В случае, когда 31 состоит из счетного множества элементов
^1, #2» • • м ^п» • • м
сохраняют силу все обозначения и все результаты § 5 прошлой главы. Сходимость рядов
^Ргк^ ^) = 1> 5j^ik=l кк
при этом предполагается, а отсюда уже выводится сходимость рядов (40), (42), (46); напротив, мы не требуем, чтобы ряд
3 Ргк (^Ъ ^2) г
был сходящимся.
• Мы сделаем теперь лишь несколько замечаний по поводу схем с прерывным временем, и именно однородных. Условия наших теорем, касающихся эргодического принципа, для схем со счетным множеством состояний в большинстве случаев не выполняются, но, несмотря на это, самый принцип зачастую оказывается выполненным.
Рассмотрим, например, игру, исследованную недавно С. Н. Бернштейном: в каждой отдельной партии игрок выигрывает один рубль с вероятностью А и проигрывает такую же сумму с вероятностью В ф > А, А + 5^ 1) — последнее, однако, лишь при том условии^ что его денежная наличность не равна нулю; в противном случае он не проигрывает ничего.
Если через хп обозначить такое состояние, в котором капитал нашего игрока составляет п — 1 рублей, то условия игры запишутся следующим образом:
^,n+i = А, Рп+1п = В (тг = 1, 2, 3, . • .),
РП = 1~Л, Рпп = 1 — А — В (n = 2, 3,4,...),
Рц = 0 во всех остальных случаях.
Легко доказать, что(
hm = (1 -1,
откуда и следует выполнение для данного случая эргодического принципа.
Заметим, что из факта существования пределов
lim Р^ = А3
р—ОО
лишь в том случае вытекает эргодический принцип, если сумма
2л;=л
равна единице. Можно было бы показать, что всегда Л ^ 1 и что в случае Л < 1 эргодический принцип не может иметь места.
Если все Л; существуют и равны нулю, то возникает вопрос об асимптотическом выражении для Р^ при р -> оо. Если такое выражение возможно независимо от и.
РРц = Ц + о
то говорят, что выполняется локальный эргодический принцип. Этот последний должен иметь, по-видимому, большое значение для случая счетного множества возможных состояний.
Пусть теперь возможные состояния х будут перенумерованы с помощью всех целых чисел (— оо <; п <; 4* °°)- Все обозначения и формулы § 5 при этом сохраняются с той разницей, что знаки суммирования распространяются теперь на все целые числа. Рассмотрим подробнее случай
Очевидно, что в этом случае будет также
Р^5 = PU^Г1 ” 5 №,Р^=2 РЖ-V
iг
Если ряды
a=^kPbb2=^k2pk
кк
абсолютно сходятся, то возникает вопрос об условиях приложимости обобщенной формулы Лапласа'
_ (Е-Уа)2
Рк =7= е ^ + О I 4=- I •(63)
б/2лр
Мы знаем только, что она имеет место для случая Бернулли, когда
Р0 = 1~Л, Рг = А,(64)
а все остальные Рк обращаются в нули.' Теорема Ляпунова для нашей проблемы не дает ничего, как это можно заключить из следующего примера:
Р+1 = Р-! = V2, Pft = 0t к =/= ± 1,
в котором формула (63) неприменима. Для действительности формулы (63) вообще необходимо , чтобы для всякого целого т существовало такое к, при котором выполнялись бы условия
к ф 0 (mod m), Р^ ф 0.
(65)*(65)*Заметим еще, что только в случае а = 0 формула (63) при заданном к действительно дает асимптотическое выражение для Р^. В этом случае из (63) вытекает, что при заданном
(65)*
(65)*
Рк=7= + <>
b V2np v V Р
и при заданных г и /
3 b ^2пр \ VР
В силу (66) в рассматриваемом'случае мы получаем эргодический принцип.
Приближенные формулы совершенно особого рода мы получаем для Р^ в том случае, когда вероятности PUl т. е. вероятности неизменяемости состояния системы в каждый отдельный момент, весьма близки к единице. Например, в случае Бернулли (64) при малых значениях А может быть применена приближенная формула Пуассона к
^-т^-(67>
Общий метод для вывода подобных формул получается путем применения дифференциальных уравнений непрерывных во времени процессов, как это будет показано в § 10 для формулы (67).
§ 9ДИФФЕРЕНЦИАЛЬНЫЕ УРАВНЕНИЯНЕПРЕРЫВНОГО ВО ВРЕМЕНИ ПРОЦЕССА
Как и в § 6, мы предполагаем, что функции Рг5 (s, 2) непрерывны и при t ф s имеют производные по t и $. Формулы (48) и (56) в рассматриваемом случае счетного множества возможных состояний остаются по-прежнему справедливыми; но чтобы доказать возможность перестановки в этих формулах операций суммирования и предельного перехода и прийти таким путем к дифференциальным уравнениям (52) и (57), нам придется ввести новые ограничительные усло- ния, а именно предположить:
Существование предельных значений (50).
Равномерность сходимости в (506) относительно / при заданном к.
Равномерность сходимости ряда
V у^_ 1 -р„kt, t + Д)
ZjдД<68)
по отношению к Л (что этот ряд сходится, следует непосредственно из (41)).
В § 6 для случая конечного числа состояний мы доказали условие, основываясь на свойстве дифференцируемости функции Ргз (s, 0 при t ^ $; напротив, в случае счетного множества состояний это условие, по-видимому,; из указанного свойства функции Ptj еще не вытекает. По поводу условия В заметим, что равномерность сходимости в (506) по отношению к к при заданном / следует из очевидного неравенства
Р^ (М + А) < 1 - Рп ^ t + Л).
Заметим, далее, что мы не требуем равномерности сходимости в (506) для любых / и к, равно как и равномерности сходимости в (50а) по отношению к к; такие требования были бы неудобны для приложений.
Поскольку множители Р^ (s, 0 в формуле (48) образуют абсолютно сходящийся ряд, мы можем на основании условий А и В произвести в этой формуле перестановку знаков Пт и 2 и получить таким путем дифференциальные уравнения (52). При этом, очевидно, величины А^ (£) удовлетворяют формулам последнего условия, а также из равномерной ограниченности множителей Р^ (s + Д, t) следует возможность перестановки знаков суммы и предела в формуле (56), что является достаточным для вывода дифференциальных уравнений (57).
§ 10ОДНОЗНАЧНОСТЬ РЕШЕНИЙИ ИХ ВЫЧИСЛЕНИЕ ДЛЯ СЛУЧАЯ ОДНОРОДНОГОВО ВРЕМЕНИ ПРОЦЕССА
В данном случае уравнения (52) принимают вид
dP
—=2j (о=р^<69)
причем А^ — постоянные. Мы докажем$ что в случае сходимости рядов.
'.(70)
М^л^-яГ», '
3-
ппи при наличии Ри (0) = 1,и при наличии Ри (0) = 1,(71)(72)(71)(72)-4 лиоat-4 лиоatDk ,Dk ,(73)(73)
п
п
и при наличии Ри (0) = 1,
и при наличии Ри (0) = 1,
(71)
(72)
(71)
(72)
-4 лио
at
-4 лио
at
Dk ,
Dk ,
(73)
(73)
^=1, 2,..., и<б(>0),
начальных условий
Л;(0) = 0, г^ь
уравнения (69) допускают единственную систему решений Р1К (#), удовлетворяющую условиям нашей задачи.
Действительно, поскольку всегда Ptj (#) < 1, мы получаем из (69) и (70) неравенство
^P^dt^B^;
следовательно, уравнения (69) можно дифференцировать почленно::
_ V A ^^ - 4 Р н\м А
5<5/ 1 at at Р* ^ *
Аналогичным образом получаются общие соотношения
(74)(74)п+1лп
(74)
(74)
^г ^гК ^ ~ -Т/а ^гк ^ * ^ik-
+at
Из (73) и предположенной сходимости рядов (71) следует, что» функции Pi1t аналитические. Далее, на основании (69) и (74) мы находим
(75)(75)(76)(76)^ЛН0=ЛИ0*ЬЫ;;
(75)
(75)
(76)
(76)
at
в частности, для t = 0 имеем на основании (72)
-^гЛк^НЛ»]”
откуда следует, что аналитические функции PiK (t) определяются однозначным образом при помощи постоянных А^. Формулы (76) и (75) служат вместе с тем и для вычисления решений системы (69) с помощью рядов Тейлора.
Например, если
^-i, i+1 = -^ >? * Л^ = Л,
Л^- = 0 во всех остальных случаях,
мы легко получаем
Ртп^ = 'Т—-—м"е""А\ П^т, х 7 (п — т,у.
Ртп (0 = 0, т > п,
т. е. формулу распределения Пуассона; для к = п — т, р = t полученная формула совпадает с формулой (67).
Если имеет место эргодический принцип и Pik (f) при t -> оо стремится к ^, то, очевидно, постоянные Q^ будут удовлетворять уравнениям
(77)(77)Ж = 1,5^=о (Д = 1, 2,...).
(77)
(77)
кг
Если, например, ^1, г+1 ” ^» ^i+l.i " В^ В > А.
Лп = —А, Ац = - (Л + 5), г > 1,
Ац = 0 во всех остальных случаях, то из уравнений (77) без труда найдем
(?n = (1 - A/В) (А/ВУ1.
В качестве второго примера положим
^z,z+l = A, -^f+1,1 ~ ^В,
Аи = -А-^- 1)5,
А и - 0 во всех остальных случаях. Уравнения (77) дают здесь
т. е. опять формулу Пуассона.
Глава IV
НЕПРЕРЫВНЫЕ СИСТЕМЫ СОСТОЯНИЙ,СЛУЧАЙ ОДНОГО ПАРАМЕТРА
§ и
ПРЕДВАРИТЕЛЬНЫЕ ЗАМЕЧАНИЯ
Пусть теперь состояние рассматриваемой системы определяется значением некоторого действительного параметра ж; в данном случае буквой х мы обозначаем как самое состояние системы, так и соответствующее этому состоянию значение параметра. Если @у — множество всех тех состояний х, при которых х ^ у, то мы полагаем
В (^1» #, ^2» ®у) = В Ц^ Ж1 ^2» У)*
F (£i, ж, t^ у) как функция от у представляется монотонной и непрерывной справа и, кроме того, удовлетворяет граничным условиям
F (^, ж, t2l— оо) = О, F (^, х, t^ + оо) = 1.(78)
для функции F (^, ^, t^ у) фундаментальное уравнение (3) преобразуется в следующее:
F (t^ х, t3l 2) = ^ ^(^2, У, *з, ^dF^ х, t^ уУ(79)
Мы возвращаемся, таким образом, к пользованию интегральными функциями распределения случайных величин и к интегралам Стилтьеса в обычном смысле.
Интеграл (79) по Лебегу 10, наверное, существует, если F (£2, у, t^ z) измерима относительно у в смысле Бореля. В дальнейшем мы будем предполагать, что система 5 (см- § 1) совпадает с системой всех борелевских множеств, откуда вытекает измеримость по Борелю F (^, х. t2, у) как функции х. При этом, как известно, аддитивная функция множеств Р (^, ж, £2, ®) Для всех борелевских множеств 6 однозначно определяется с помощью соответствующей функции F (^, х. t^ уУ
Мы назовем нормальной функцией распределения монотонную и непрерывную справа функцию F (уУ удовлетворяющую условиям
F (- оо) = О, F (+ оо) = l.r
Если Fx (ж, у^ и F^ (х, у) как функции х измеримы по Борелю, а как функции у являются нормальными функциями распределения, то то же самое имеет место и для функции
F^. ^ = Fikx^ МШ у)= ^ F^^, y^dFi^ z).(80)
Этот оператор ®, подобно *, подчиняется сочетательному закону; пользуясь им, можно фундаментальное уравнение (79) изобразить в виде
р (<1, ж, t3,\y) = F (t^ х, #2, у) ф F (t3, х, t3, у).(81)
Если F^x, у) = Vi (у — х), Fa (х, у) ~ V2(y — х), то будем иметь, как легко вычислить,
Л (я, у) ® Л (ж, у) = V (у — ж) = Уг (у — х) О V2 (у — х),
(82) где
V (ж) = Vi (x)0V3 (х) = $ V2 (х - z) dVi (z).(83)
Для оператора О также имеет место сочетательный закон, а в случае нормальных функций распределения, кроме того, и закон перемес- фран°^М^г^* Интегрирование и отыскание примитивных функций/Пер. с
тигельный; если рассматривать Ух (ж) и У2 (ж) как функции распределения для двух независимых случайных величин Хг и Х2, то Ух (ж) Q О ^2 (^), как известно, представляет функцию распределения для суммы П.Х = Хг + Х2.
В том случае, когда F (^, ж, £2, у) как функция у абсолютно непрерывна, мы имеем
у.
F^i, я, 1^ у) = § /(h, х, /2, y)dy.(84)
Неотрицательная функция / (^, я, £2, у) при этом измерима в смйсле Бореля относительно аргументов х, у и удовлетворяет уравнениям
J /(^1, х. t^ у) = 1.(85)
/№, х. t^ z)= ^ f^ x, ^ nW У^ ^ ^dy.(86)
И обратно, если указанные условия для / (^, ж, Z2, У) выполняются, то функция F (tu х, t^ у), определяемая формулой (84), удовлетворяет соотношениям (78) и (79); следовательно, такая функция / (^, я, ^2> У) определяет схему некоторого возможного стохастического процесса. Эту функцию / (^, ж, £2, у) мы назовем дифференциальной функцией распределения для случайной величины у.
Мы отметим еще следующие смешанные формулы:
^1, ж, t3, z)= j F(ta, у, ta, zMVh x, k, ЗА&Ь(87)
/№. x, ts, z)= § /(#2, y, ts, z)dF(ti, x, #2, У).(88)
В случае прерывной во времени схемы рассматривают функции ^тп (^» У) = Р l^mi *^» ^п» У^1 Ри кхч У^ = Pu-liu kxi У^
которые удовлетворяют уравнениям
Pjn,n+1 {х, у) = Fтп (х9 у) ® Рп+1 кЖ1 у)»(89)
Рш (^, у) = Ркт (ж, у) ф Ртп (ж, у) (к < Ш < п).(90)
Если
Ртп(*^) У) = ^ ^mn kxi У}^У<, fnkxt У) = fn-lt п{^у У)^
11 См., например: Levy Р. Calcul des probabilites. Paris, 1927, p. 187.
т0 имеем, кроме того,
(91)(92)(91)(92)/m,n+i(®. z)= $ Шх, уИп*1(У, z)dy, f^x, z)= S W$i уМпиЛу, z)dy ^k<m<n\
(91)
(92)
(91)
(92)
§ 12МЕТОД ЛИНДЕБЕРГА.ПЕРЕХОД ОТ ПРЕРЫВНЫХ СХЕМ К НЕПРЕРЫВНЫМ
Как было отмечено в § 3, теория вероятностей обычно,занимается лишь схемами, прерывными во времени. В случае таких схем основная задача заключается в нахождении приближенных выражений для распределений FmTk (х, у) при больших значениях разности п — — т или, что по существу одно и то же, в построении асимптотических формул для Fmu (х, у) при п~^ оо. Важнейшим результатом, достигнутым в этом направлении, является теорема Лапласа—Ляпунова. Мы рассмотрим теперь подробнее данное Линдебергом доказательство этой теоремы , имея в виду выяснить в возможно более общей форме основную его мысль и получить таким путем общий метод построения асимптотических выражений для Fmn (х, у).
Пусть будет
^«(ж, y) = Vn{y~ ж),
а»(ж) = $ (У — x)dFn(x, у) = ^ ydV4y) = O, —ОО ОО
ОООО
&«(») = $ (У — x^dFn(x, у)= ^ yadVu(y) = ba, — ОО—ОО
8^ = Ът+1 + 6^+2 + • • • + йт
теорема Лапласа—Ляпунова утверждает, при известных дополнительных предположениях, что при неизменном т и неограниченно растущем п имеет место равномерно относительно х и у соотношение
^ти кЖ1 У) = Ф f ^Ъ) 4" 0 (1)>
где
Ф(г) = -1=- e-^dz.
у 2л J
Наряду со стохастическим процессом с прерывным временем, определяемым функциями Fn (х, у), мы будем рассматривать еще и другой — с непрерывным временем; пусть он характеризуется функцией
Р^, х, Г, г/)= Ф Г) •
Положим, далее,
£0 = О, ^п ” Вуп.)
^тп^ У)= F (tmi х, tni уУ Рп(х, у) = Fn-i^n^x, у).
Мы имеем, очевидно,
Р^х, У^^^^Т^} ’
<Мя) = ^ (У — x)dPn{x, у)=0,
$„(») = 5—x)2dFn(x, y) = bl;
при этом первый и второй моменты ап (ж) и 5„ (ж) распределения ^п (х, у) совпадают с соответствующими моментами On (ж) и 6„ (ж) распределения Fn (х, у). Основываясь на этом последнем обстоятельстве, Линдеберг доказывает, что разность
Fтп (^, I/) Fmn (х, у)
стремится к нулю, когда п -> оо, после чего теорема Лапласа—Ляпунова непосредственно вытекает из очевидного равенства
Fmnk^l У) == Ф ( —) • \ тп /-
В общем случае произвольных функций F^ (х, у) мы можем также применить метод Линдеберга, если только нам будет известна такая функция F (t\ х, t", у), которая характеризует непрерывный стохастический процесс и для некоторой последовательности моментов времени
^0 < ^1 < ^2 < • • • < ^п < • • •
дает моменты ап (х) и Ьп (я), совпадающие с ап (х) и Й ^ или близкие к ним. Общий метод для построения таких функций F получается применением дифференциальных уравнений непрерывных процессов, которые будут рассмотрены в следующих параграфах. Для перехода от Р к F может служить следующая_
Теорема перехода. Пусть функции Fn (х, у) и Fn (х, у) определяют два стохастических процесса с прерывным временем.
Если
5 (у — x)dFn(x, у^ = а^х\
^ (у — x)dFn(x, y) = aw(x\
J.(93)
5 {У — x^dFntx, y) = bl(ж),
$ (У — xfdF^x, у") = Ри^х\
”(94)
5 \У — x\3dFn(x, у) = сп(х),
5 Jy — x\3dPu^x, у) = c^x),
(95)
| ап ^х^ап ^ | ^ ри1 | 6n (я) 6П ^х^ | ^ 7п>
^п (^) ^ ^п, ^п (#) ^ ^п>(96)
и если существует такая функция R (х) , что
R (х) = 0, когда х ^ О,
(97)(97)О ^ R (я) ^ 1, когда О < я < Z,
(97)
(97)
R (ж) = 1, когда I ^ х,
и для
17&п(ж, z)= ^ R ^ — У) ^РКп (ж, у)(98)
выполняются неравенства
|^^п(ж, z)^^,^U^x, z)|<^2),(99)
| ~ U^x, z) | < Я® (* = О, 1, • •«).
то имеет место соотношение
РоДх, у — l) — 4<Fe»<x, у)<Роп(х, У + О + еп,(100)
где
ппп
=„=к® ^ Рк+4-к^ 5?к+4-к^ У, 7f=lfc=l7f=l
Для применения этой теоремы к тому случаю, когда моменты а (^), b (х), с (а;) при возрастающем х не ограничены, часто оказывается возможным устранить эту неограниченность путем введения новой, надлежащим образом выбранной переменной х* = ср (^).
Доказательство теоремы перехода. На основании формулы (98) мы имеем
П^.п^, у) = Л-1,п(^, У) Ф R (.У — х) =
= ^л(«> у)®^^, уШ • • - ©Р^Лх, уШR(y — x) =
= F1M y)®Ukn(x, у)(101)
и в силу (93) — (95), (99)
Uk-i,n(x, У)= ^ U^z, y}dFk(x,z) =
= ^ [^kn^, y) + -^7Ukn(x, у)-^^ 4-
+ -^Ukn(ж, у) 2J- + -^ Ukn(£, у) 6 ^-J dFk (х, z) =
= Ukn^x, y) + -^-Ukn(x, y)dk(x) +
+ -£■ U,„ (г, rt^M +I 6 К 1.(102)
Полагая
^6-1, n (ж, у) = Fk (ж, у) ф Ukn (х, у),(103)
получим аналогичную (102) формулу
^-1, п(х, y) = Uk^x, y)+^U^{x, у^ак^А*
+ -^Uk^x, у)^- + е^ -^-, 101 < 1.(104)
Из (102) и (104) на основании (96) и (99) следует", что
| Uk_ki п (ж, у) — V к_г< п ^$^ у) | ^ К^рк 4- 11»К'?ук + Ve-^n* (г& + ^к)-
(105)
Пусть теперь
Wkn (х, у) = Fok (х, у) ф U^ (ж, у) ='
= Fx (х, у) ф F2 (х, у) ф . . . ф Fk (х, у) ф UkTl (ж, у) =
= Гол-х (х, у) ф Vk-lltl (х, у)^(106)
тогда в силу неравенства (105) мы будем иметь
1^кп(х, y) — Wk-i,n(x. у)| =
= ] Fe, к_1 (ж, у) Ф Vk-1, „ (ж, у) — Fo, k-i (ж, у) Ф ик-1, „ (ж, у) | <
< ^ IVk-i,n(2, y) — Uk-i,n(z, у) | dF^ k-i (х, z)<
<sup 17k-i, „ (z, y) — Uk-1, n (Z, у) I < K^p* + ^К^Ук +
+ */e^3)(rft + r&).(107)
I^M^ у) = Ж0„(ж, y)|<
^'"). ^+ ЧГ ^' Vi^ + "(Г^"> ^ (r» + ^k) = en« K==1&=!fc=l
Ho
W^x, y') = FOn(x, y)®R(y — x) = ^ R (y — z) dFOn (x, z)
WO l(x, y) = FOn(x, y)®R(y — x) = ^ R (y — z) dFOn (x, z);
принимая во внимание формулы (97), мы получаем
у
Wnn(x, у) < ^ dForAx, z) = FOn(x, у),
У
(108)(108)Wm(x, y + l)^ 5 ^Оп(ж, Z^FonC.X, у),
(108)
(108)
y-l
W0n(x, у)> 5 dRon(X, z) = Fon(X, У— I),
Won^ y + Z)< j dFon^x, z) = FOn(x, y + l).
Из (107) и (108) непосредственно следует формула (100). По поводу деталей доказательства см. указанную выше работу Линдеберга.
§ 13
ПЕРВОЕ ДИФФЕРЕНЦИАЛЬНОЕ УРАВНЕНИЕЩЛЯ НЕПРЕРЫВНЫХ ВО ВРЕМЕНИ ПРОЦЕССОВ
Если для нашей системы ® изменение состояния возможно во всякий момент времени t, то естественным является предположение, что значительные изменения параметра х в течение малых промежутков времени будут встречаться лишь очень редко или, точнее, что для
любого положительного е будет
Р (t, х. t + А, | у — х | > е) О, А -> 0.(109)
По большей части можно предполагать, что и более узкое условие
(t, я, А) = ^ | у — х\р dF (t, х, t + А, у) —> 0, А—> 0, (110)
выполняется по крайней мере для первых трех моментов тпР\ т^ и т^. Общее исследование тех возможностей, которые возникают при этих предположениях, представляло бы значительный интерес; некоторые замечания по этому поводу читатель найдет ниже, в § 19.
В ближайших параграфах мы, кроме того, предполагаемого выполняется следующее важное условие:
> о, Д"-^ 0,
7П<2^ (£, Х^ А)"
Выполнение этого условия будет наверное обеспечено, если в определении т^ (£, х, А) по формуле (110) существенную роль при бесконечно малых А играют лишь бесконечно малые значения разности у — х или, точнее, если
J I у — X р dF (t, X, t + А, у)
^И, А->0.(112)
IZ/— x^dF^t^ х, t + А, у)
Только в этом случае, строго говоря, наш стохастический процесс будет непрерывным во времени. Из (111) вытекает также формула
А--> O.jА--> O.jmF^ (^, х^ A) q тп(1^ (i, х^ А) '
А--> O.j
А--> O.j
Наконец, мы будем еще предполагать, что для s ^ t существуют все частные производные функции F (s, х, t, у) до четвертого порядка и что эти производные при неизменных t, у равномерно ограничены относительно s и х для t — s > k > 0. Из формул (78) и (110) мы заключаем, что при s = t функция F (s, х. t, у), напротив, необходимо разрывна. Функция
[(ИЗ)[(ИЗ)/(S, X, t, y^-Lp^S, X, t, у),
[(ИЗ)
[(ИЗ)
очевидно, удовлетворяет уравнениям (84)—(86) и при заданных t, у допускает для значений t — $ > к > 0 равномерно ограниченные относительно $ и t производные до третьего порядка. Все дальнейшие
вычисления мы ведем применительно к этой дифференциальной функ- дни распределения / ($, ж, t, у).
Положим
a^t, х, А) = $ (у —^W, х, Z + A,y)dy,(114)
b2V^ я, А)= § (у — x^f^t, х, < + Д,у) dy = т® (t,х,А),(115)
с(/, х, Д)= § \у — ж|3/(/, х, # + Д,у)dy = т®(/,х,А).(116)
На основании (85) и (86) мы имеем
/ (s, X, t, у)= ^ /($, х, $ + Д, z)/(s, A, z, t, y)dz =
= J /(s, X, s + &, z)p(s + A, X, t, y) +
+ -^-/(s + A, x, t, yHz — x) +
+ -^-f(s+^ж’^ y^zV? +
+ ^-/($+Д, g, t, y)±^-]dz =
= /(s + A, x, t, y) + -^-/(s + A, x, t, y)a(s, x, A)+
+ -£-/(s + A, x, i, у)-^1^1 + е2И^1, |6|<C,
(H7)
причем С длй) s + Д <; т <; t может быть выбрано независимо от Д> Из (117) непосредственно находим
/(s + A, х, t, у) —/(s, xs t, у) A—
= -^«"+д' *. ^‘к^а) -
_^./($ + д,-е С<’^А> .(118)
Теперь мы предварительно докажем, что если определитель ■
^(s, х, t', у\ Г, у”) =^(s, х, t', у\ Г, у”) =(119)(119)
^(s, х, t', у\ Г, у”) =
^(s, х, t', у\ Г, у”) =
(119)
(119)
■^f^> ж' е> у')
-£-/(8, X, f, V)
"ахН8» Ж1 *"> У')
-^ / (s, х, t", V")
чгри заданных х и s не обращается в нуль тождественно для любых ^'> У' > ^, у"» то отношения
a (s, ж, А)/А и № (s, х, А)/2А
стремятся к определенным предельным значениям A (s, х) и В2 (s, ж), когда А -> 0.’
В самом деле, пусть f, у', t”, у" выбраны так, что определитель ^119) отличен от нуля; в таком случае для любого достаточно малого А имеем также
D (s + А, х, t', у', t", у”) ^ 0, так что уравнения
х(Д)А/($ + д, ж, г, у') + ^8/^ ^1„,0,
QiQi(120)
Х(Д)^-/($ + Д, х, Г, у’) + р(Д)^/($ + Д, х, t\ ^ = 1
допускают единственное решение. При этом X (А) и р (А) при А -> 0 стремятся к пределам X (0) и р (0). Далее, на основании (118) мы получаем
^ (д) /($Н-А, ®, t', y')~f(s, х, е, у')।
, м/ЛХ /(s + A, х, t”, у^-Цз, х, f, у") _
+ И (л)△=
= -- Ч^— <6' + ") ""’ei Л) •(121)
Левая часть формулы (121) при А -> 0 имеет пределом
fi-X(0)4-/(s, х, t\ у'Н^-^Цз, X, г, уу,
в правой же части в силу условия (111) второй член бесконечно мал по сравнению с первым, и, следовательно, этот член стремится к определенному пределу]
Так как 8f ($, я, t, у)1дх не равно нулю тождественно при любых ^ и у» Т° будет существовать также предел
л s, ж) = 1mV^ =
Л-0.
— 8f (s, х, t, y^Se — В» (s, x) d^f (s, x, t, у^вх»М24У dt (s, x^ t, y)!dx*''
Из (118), (122), (123) и (124) путем предельного перехода получается первое основное дифференциальное уравнение'
4г f (s> ж, £, у) = — Л ($, ж) 4г^’ ж’-’ ^ —
-ВЦв.х^^.х.МУ(125)
Когда определитель D (s, х, f, у', 1"^ у") обращается в нуль при любых значениях f, у', t", у", то пределы A (s, х^ и Б2 (s, х^ вообще говоря, не существуют, как это можно видеть на следующем примере:
/ (s, х, t, у) = 7^= е^^Н(126)
Здесь для х = 0 имеем
Ь2 (s, х^ Д)/2Д -> + оо, Д 0.
Впрочем, можно было бы показать, что такие особые точки (s, х^ образуют на плоскости s, х нигде не плотное множество.
Реальное значение этих очень важных величин A (s, х) и В (s, х^ таково: A (s, х) есть средняя скорость изменения параметра х в течение бесконечно малого промежутка времени; В (s, ж) есть дифференциальная дисперсия процесса. Дисперсия разности у — х для интервала времени Д будет
Ъ (s, X, А) = В (s, ж) /2Д + о (/А) = О (/А);(127)
математическое ожидание этой разности таково:
a (s, х, А) =^А. (s, ж,) А + о (А) = О ^. (128) Стоит еще отметить, что математическое ожидание mW (f, х, А) величины | у — ж | подобно дисперсии b (s, х, А) есть величина порядка Уд. •
Как будет показано в следующем параграфе, функции A (s, ж) и В (s, ж) в некоторых случаях определяют однозначным образом нашу стохастическую схему.
§ 14 ВТОРОЕ ДИФФЕРЕНЦИАЛЬНОЕ УРАВНЕНИЕ ■
водные до четвертого порядка. Тогда из (120) легко следует, что если определитель (119) не равен нулю, то X (0) и р, (0) имеют непрерывные производные по s и ж до второго порядка; в силу (122) и (124) то же самое имеет место также для S2 (s, ж) и Л (s, xY
Пусть теперь для определенного значения t нам задан интервал а ^ у ^ Ъ такой, что ни в одной из его точек определитель D (£, у^ и ^ z , и”\ z") не обращается в нуль тождественно для любых u', z', и", z". Пусть, далее, R (у) — некоторая функция, отличная от нуля лишь на отрезке а < у < Ь, неотрицательная и имеющая ограниченные производные до третьего порядка. В таком случае мы имеем
ЪЪ'
$ ~5Г^8’ х’ ^ ^н^аУ= ^Г^8’ Ж’ ^’ У^П^ЛУ = аа
=lim 4- ^ t/(s, ^ < + А, у) — f(s, х, t, y)]Rky)dy =
А-0 ——СО
= lim-4{ ( R^ V f {s, x, t, z^fkt, z, t + Д, y)dzdy — A—0 • A
— ^ /(s, ж, 7, y)T?(y)dy} = hjn4-X
X { $ /(s, x, t, z) J /(£, z, < + A, y) [j?(z) Л-К'Шк — z) +
+ R" (z) ^~^ + R” ® 4^L] Ay az -
— ^ /(s, x, t, z)7?(z)dz} = lim-^- ^ /(s, x, t, z) X
X [fl' (z) а (t, z, Д) + R" (z) ^JlAL + 0 Д1^1_^.] dz =
— ^ / (s, x, t, z) [7?' (z) A (t, z) + R" (z) S2 (<, z)] dz = ъ
= $ / (S, x, t, y) [Rr (y) A kt, y) + R" (y) s2 kt, y)] dy,(129)
| 0 | < sup | Rw I-
Предельный переход по Л, совершенный нами при этом выводе, оправдывается тем, что а (t, z, Л)/Л, №(t, z, Л)/2Л и с (£, z, Л)/Л равномерно стремятся соответственно к пределам A (Z, zY В2 (Z, z) и 0 и что множитель /(s, х, t, z) имеет конечный интеграл по аргументу z.
Интегрируя по частям, мы находим
( / (s, х, t, у) В' (у) А (f, у) dy = — ^ -^- [/ (s, х, t, у) А (<, y)AW) Й» а■ а
(130)
ььточно так же с помощью двукратной интеграции по частям получаем
ь
ь
(Z, ?/) dy = J -21 [/ (s, х, t, у) в- (Z, у)] В (у) dy,
(131)
поскольку R.^ = R (Ъ) = R' (а) = R' (6) = 0. Из формул (129)— (131) непосредственно следует равенство
ьь
S"^'^s’ ж’ l' y}R^dy=^[-- ^М^. УН^, X, I, у)] 4- аа
+(t, У) / (s, х, t, у)]} В (у) dy.(132)
Но так как функция R (у) при соблюдении лишь указанных выше условий может быть выбрана произвольно, то мы легко убеждаемся, что для точек (£, у) с не равным тождественно нулю определителем D (^ у, и', z', и", т^ имеет место также второе основное дифференциальное уравнение
4^Ш X, I, у^-А-^А^, уН^з, х, t, у)] +
(133)
Это второе уравнение мы также могли бы получить, не прибегая к первому, применяя непосредственно методы § 13; однако при этом на функцию / (^ х. t, у) пришлось бы наложить новые, более тяжелые ограничения, которые мы здесь не будем приводить. Мы исходили бы в таком случае из аналогичной (118) формулы
4" V ^? ^» ^ У) — / (s> зсЗ — ^ У)] =
= f(s, X, t —^ /(< — A, z, t, y)dz — lj 4-
+ -^-/(s, x, t — ZX, y)-^- f(t — A, z, t, y^z — y^dz 4-
4 A. H. Колмогоров
+ ^/(s>—A, Z/)-^- § /(£ — A, Z, t, y)(z — y)2dz +
+ 1Т $ f^ — A, z, t, y)|z — у\4 dz,(134)
затем мы доказали’ бы/ что
lim-i- Ц1— A, z, £, y)|z— ?у ]3 <Z^ = О
а-о_с»''
и что существуют пределы
lim-A ^ /(< — A, Z, Л ?/) I г — ?/12 dz = В2 (Л у\(135)
Л-О
lim 4- ^ / {t — A, z, t, у) (z — г/) dz — A (t, у),(136)
А-0
lim -/( I / (^ — A, z, t, y)dz — / = ;V (/, у),(137)
' Л"*°
и таким образом получили бы наше второе уравнение в такой форме:
4^8' х' ^ y) = N{^ УШ8» ^ ^ у) +
+ ^ ^’ ^ ~Sf 1 (S’ Ж' 1< ^ + 52 К1’ ^"^if Is’ х' (’ «V (138)
Чтобы обнаружить тождественность этого уравнения с найденным ранее, нам пришлось бы еще доказать, что
52 G, у) - 52 (^, yY(139)
А^л^-А^уН-^-ВЧ^У^,(140)
^ V' ^=4g-А V* ун4?В2 ^' yV<141>
§ 15
ПОСТАНОВКА ВОПРОСА ОБ ОДНОЗНАЧНОСТИ
,, И О СУЩЕСТВОВАНИИ РЕШЕНИЙ
ДЛЯ ВТОРОГО ДИФФЕРЕНЦИАЛЬНОГО УРАВНЕНИЯ
‘ Для того чтобы с помощью дифференциальных уравнений (125) и (133) определить функцию / (s, ^, t, у) однозначным образом, следовало бы, разумеется, установить те или иные начальные условия.
Иля второго уравнения (133) можно поступить следующим образом: согласно формуле (85) функция / (s, х, t, у") для всякого t ^ s удовлетворяет условию
Hs, х, t, y)dy = l,(142)
а на основании (110) мы, кроме того, имеем
(z/ — x)2f(s, х, t, y)dy->0, t-+s.(143)
Основной вопрос относительно однозначности решений состоит в следующем: при каких условиях можно утверждать, что при заданных sr х может существовать лишь единственная неотрицательная функция / (s, х, t, у) переменных t, у, определенная для всех значений у и t > 6? и удовлетворяющая уравнению (133) и условиям (142), (143)? В некоторых важных частных случаях на этот вопрос может быть дан положительный ответ; такими являются, например, все случаи, рассматриваемые в ближайших двух параграфах.
Пусть теперь функции A (t, у) и В2 (£, у) будут нам заданы наперед; можно поставить вопрос о том, существует ли такая неотрицательная функция / ($, х, t, у), которая, с одной стороны, удовлетворяла бы уравнениям (85) и (86) (как было выяснено в § 11, эти требования необходимы для того, чтобы / (s, х, t, у) могла определять стохастическую схёму), а, с другой стороны, после предельных переходов по формулам (122) и (124) приводила бы к этим заданным функциям A (t, у) и В2 (^, у).
Для решения подобной задачи можно, например, сперва определить какое-либо неотрицательное решение нашего второго дифференциального уравнения (133), удовлетворяющее условиям (142), (143), а затем исследовать, является ли оно действительно решением нашей задачи. При этом возникают следующие два общих вопроса:
1)Апри каких условиях существует такое решение уравнения (133^?
при каких условиях можно утверждать, что это решение действительно удовлетворяет уравнениям (85) и (86)?
Существуют все основания полагать, что эти условия имеют достаточно общий характер.
§ 16СЛУЧАЙ БАШЕЛЬЕ
Мы примем теперь, что / (s, х, t, г/) произвольным образом зависит от s и ^ в остальном же является функцией разности у — х, т. е. что наш процесс является однородным относительно параметра:
/ (5> t, у) = у (s, t, у — х\(144)
В этом случае, очевидно, Л ($, £) и В ($, ^) зависят только от s, так что дифференциальные уравнения (125) и (133) напишутся теперь в виде
~ = - А (0 -^- + В2 (0 ^ .(146)
dt• х 7 ду 1 х 7 ду2х 7
Для функции V (s, t, z) из (145) и (146) получаются уравнения
<- = А^-В2^,С147)
^ = -А^А-В2^.(148)
Уравнение (148) было найдено Вашелье , но, строго говоря, не было им доказано.
Если имеем тождественно Л (^ = 0 и В (0 = 1, то уравнение (133), соответственно (146), обращается в уравнение теплопроводности
dj!8t = 82jldy2,‘(149)
для которого единственное неотрицательное и удовлетворяющее условиям (142), (143) решение дается, как известно, формулой Лапласа
/ (s, X, t, у) = — - 1(150)
VW — s)
В общем случае мы полагаем st
х — х — ^ Л (zz) du, У = У — § Л (и) du,
s' = ^ Б2 (u) du,Г —^В2 (и) du.
Тогда уравнение (146) преобразуется в
aflat’ = ач!ду\
а условия (142), (143) сохраняют для новых переменных s', х, t', у' тот же вид, что и для переменных s, x,t, у. Следовательно, в общем случае функция .
I^nt^ — s')|Аф
tt
^Р = В2 (и) du, а = х + ^ Л (и) du)(151)
есть единственное решение уравнения (146), удовлетворяющее нашим условиям.
§ 17ОБ ОДНОМ СПОСОБЕ ПРЕОБРАЗОВАНИЯФУНКЦИЙ РАСПРЕДЕЛЕНИЯ
Пусть будет
s' = Ф (s), tr — ср (Г), х — ф (s, хУ у' = ф(^ уУ
/ (s, X. У у) = (^ (^ у^ду) f (s', X. t\ у'У(152)
причем мы предполагаем, что ф (£) — непрерывная и нигде не убывающая функция, в то время как ф (£, z/) относительно t произвольна, а по у допускает непрерывную положительную производную. Если / (s, х, t, у) удовлетворяет условиям (85) и (86), то то же самое имеет место, как легко проверить, и для функции /' по отношению к новым переменным s', х\ t', у'; другими словами, наше преобразование приводит к новой функции f (s', х\ f, у'У которая подобно / (s, х, t, у) определяет некоторую стохастическую схему.
Если ф (0 и ф (^, у) допускают соответствующие производные, то уравнения (125) и (133) при переходе к новым переменным преобразуются к виду
,Г(153)
(151)
где положено
j'//' ,/\_ W^ yWWt. y)4-W«, у^ли, у) + 5ЧЧС y^t И , у )’
В'2 kt’, V) = МММ5^(155)
При помощи только что рассмотренного преобразования можно получить решения уравнения (133) для многих новых типов коэффициентов А (£, у) и В2 (f, у). Пусть, например,
А (^ У) = a (/) у b (t), В2 kt, у) = С (t);(156)
мы полагаем
Ф(0= \скПе~^ uWdldt, е,<157)
kt, у) = ye- J aWt - $ b kt) е" J a'VA1 dt
и получаем для новых переменных s\ х\ t', уУ f простейшее уравнение теплопроводности:
dfldt' = O^flay^.(158)
При этом начальные условия (142) и (143) остаются справедливыми и для f (s', х , t', у') и, следовательно, формула
/' =1(159)
V я (^ —'
совместно с (157) и (152) дает единственное удовлетворяющее нашим условиям решение / (s, х. t, у) уравнения (133) с коэффициентами вида (156). Легко видеть, что в этом случае функция / (s, х, t, у) необходимо будет иметь вид
_L_e4y^w,(160)
где ос и р зависят только от s, х и ^, но не от у.
Одной из важных задач является отыскание всех возможных типов коэффициентов А (£, у) и S2 (^, у), для которых при любых s, tvx всегда получается функция вида (160), т. е. функция распределения Лапласа.
В качестве второго примера рассмотрим случай
А (<, у) = а (0 (у — с),52 (<, у) = Ь ^ {у — с)2.(161)
Полагая теперь
Ф W J & (0 ^i ф (0 = 1п (^/ — ^) + j 1^ (0 “ а (01 ^^ (162) мы снова получаем для f (s', х . t', у') уравнение (158), решение которого (159) нам уже известно. Заметим, что здесь достаточно рассматривать лишь значения х > с, у ;> с, так как при изменении х или у в пределах от с до + оо переменная х (и соответственно у'^ пробегает все значения от — оо до + оо. Некоторые затруднения, возникающие в связи с этим обстоятельством при переносе условий (142) и (143) на функцию /', легко могут быть устранены.
В частности, для случая
A у) = 0, В2 V, 1» = У2(163)
мы имеем формулу
\1Г(In и 4- t — In X —1
— к (164) у у л о — s)IJ
Для приложений наиболее важным является случай, когда Л (t,y) и S2 (/, у^ зависят только от у, не завися от времени t. Ближайшим шагом в этом направлении было бы решение нашей задачи для случая коэффициентов вида
4 (у) = ay -V Ь, В2 (у) = су2 + dy + е.(165)
§ 18СТАЦИОНАРНЫЕ ФУНКЦИИ РАСПРЕДЕЛЕНИЯ
Если для момента времени £0 известна дифференциальная функция распределения вероятностей g (£0, уУ то аналогично общей формуле (5) функция распределения g (£, у) для любого t ^> t0 определяется формулой
g(f, у) — $ S^o, X)f(to, ac, t, y)dac.(166)
функция g (t, у), очевидно, удовлетворяет уравнению
> = -М(*> У)W У) gj.(167)
Мы будем предполагать теперь, что коэффициенты Л (£, у) и В2 (£, у") зависят только от у (однородность процесса во времени), и исследуем, какие функции g (t, у) остаются в этом случае неизменными в течение времени. Ясно, что для такой функции мы имеем
-Ag + (B2g)' - С.(168)
Если предположить, что g и g' для у = ± оо стремятся к нулю и притом настолько быстро, что то же самое имеет место и для всей левой части равенства (168), то, очевидно, должно быть С = 0, и мы имеем
g'ig = [Л - ф2УА!В\(169)
Помимо того, функция g (у)> должна еще удовлетворять условию
\ gdy^V(170)
В большинстве случаев оказывается возможным доказать, что если существует стационарное решение g ^хУ то / (s, х. t, у) при t оо и произвольных постоянных 5 и х стремится к g (у); таким образом, g (у) оказывается не только стационарным решением, но так- >ке и предельным решением.
Если коэффициенты А и В2 имеют вид (165), то (169) обращается в Уравнение Пирсона
(171)(172)схемы,(171)(172)схемы,~Р
(171)
(172)
схемы,
(171)
(172)
схемы,
" 9о + Q1U + q^ ’ причем
п d — b _е ~ d в
а — 2с1^а — 2с’^1а — 2с’^2 а — 2с *
Мы можем, следовательно, построить такие стохастические
Для которых стационарным решением является любая из функций Распределения Пирсона.
§ 19
ДРУГИЕ ВОЗМОЖНОСТИ
Изложенная в § 13—18 теория в существенной мере обусловлена сделанным нами предположением (111). Если отказаться от этого предположения, то даже при сохранении условия (110) возникает ряд новых возможностей. В качестве примера рассмотрим схему, определяемую функцией распределения
у
(173)(173)F (s; х, t, у) = (у — х) + (1 — е-а^~5^ и ^ dz,
(173)
(173)
где о (z) = 0 для z < 0 и о (z) = 1 для z ^ 0, а и (z) — непрерывная неотрицательная функция, для которой
^ u^dz= 1
и моменты
n(s)|zp^n(s)|zp^(Z=l, 2, 3)(Z=l, 2, 3)
n(s)|zp^
n(s)|zp^
(Z=l, 2, 3)
(Z=l, 2, 3)
конечны. Легко проверить, что функция F (s, х, t, у) удовлетворяет требованиям (78) и (79), равно как и (110).
Эту схему можно истолковать следующим образом: в течение бесконечно малого промежутка времени (0 t + dt) параметр у или остается неизменным с вероятностью 1 — adt, или переходит к значению yf, z < у' < z + dz, с вероятностью аи (z) dtdz. Таким образом, в каждом интервале времени возможен скачок, причем функция распределения для значений параметра после скачка не зависит от предшествовавшего скачку значения этого параметра.
Приведенную схему можно было бы обобщить еще следующим образом: представим себе, что за бесконечно малый промежуток времени (/, t + ^) параметр у с вероятностью 1 — a (t, у) dt сохраняет прежнее значение и с вероятностью и (£, у. z) dtdz переходит в у', z < у' < z + dz. При этом, конечно, предполагается, что
u(t, у, z)dz = a^t, у). (174)
В этом случае для g (t, у) должно, по-видимому, иметь место интегро- дифференциальное уравнение.
-^-?(<. г/) = —а(^, J/)g(^. Z/)+ ^ g(t, z)u(t, zry)dz.(175)
Если мы хотим рассматривать не только скачки, но и непрерыв- ное изменение параметра у, то естественно ожидать для g (t, у) уравнение
-^-g(^)== —а (*,!/)£(*> У) + J g(/, z)uC, z, y)dz —
[Л (Z, у) g (t, у)] + -^ [£2 (t, y^g^t, p)],(176)
причем предполагается выполненным условие (174), а коэффициенты A (f, у) и В2 (£, у) имеют значения, указанные в § 13.
ЗАКЛЮЧЕНИЕ
Если состояние рассматриваемой системы определяется при помощи п действительных параметров хТ1 х21 . . ., хН1 то при известных условиях, аналогичных установленным в § 13, мы будем иметь следующие дифференциальные уравнения для дифференциальной функции распределения / (s, ^1? . . ., хП1 t, уТ1 . . ., у^);
17 = — ^2 ^{^’ Ж1’ • • • ’ ж^ 177 - У, Jj B2S, ^1, • . . , ^п) 6а.дж , г=Л1-1=1 j=l1 J
(177)
n
IT = "ду71^*^ ■; ■ ’ ^ +
п п
-^\В^,уъ ..^у^р.(178)
1^1 ,=1 г 3
Для случая, когда Лг (i, ух, . . ., ри) и Btj (t, ух, . . ., у^ зависят только от t, эти уравнения были открыты и разрешены Башелье . Решения, удовлетворяющие условиям нашей задачи, в этом случае будут вида
/ = -Рехр {— -^-^Рц{Уг — жг — 9гЧУз — хз — У^},(179)
причем Р, Q1 р^ и qt зависят лишь от s и L
Можно было бы рассматривать также смешанные схемы, где состояние системы определяется с помощью параметров, частью прерывных, частью непрерывных.
Москва, 26 июля 1930 г.
10
ПРОБЛЕМА ОЖИДАНИЯ*
Цель этой статьи состоит в том, чтобы показать несколько применений общих уравнений, которые я исследовал в моем мемуаре, сданном в печать в журнал «Mathematische Annalen» (см. № g наст. изд.). С этой целью я даю новое решение «проблемы ожидания», которой посвящен обширный мемуар М. Полячека .
Суть задачи состоит в следующем. (Та же математическая задача естественно может возникнуть при изучении других реальных явлений, поэтому такие выражения, как «телефонные линии», «разговор», употребляются здесь только для наглядности изложения.)
Предположим, что на телефонной станции имеется п линий, которые могут быть заняты обслуживанием телефонных разговоров. В каждый момент имеется т клиентов, ведущих телефонный разговор или же ожидающих своей очереди; последний случай имеет место только при т^> п, когда длина очереди равна m — п. Теоретически число тп может принимать все целые неотрицательные значения:
тп — 0, 1, 2, : . .
Мы обозначим
Qo W, Qx (Ц, Q^ (t), . . ., Qm (Ц, . . .
вероятности этих значений в момент t. Очевидно,-
S Ст (0=1-(О
т—0
Если в момент /0 нам известно значение тп, то
Qm (^о) = ^> Qi (^о) “0,ТП.(2)
Первая решаемая нами задача состоит в том, чтобы вычислить вероятности Qm ^ для t^t^, если известны их начальные значения Qm kt^ которые, в частности, могут иметь вид (2). Вторая задача заключается в том, чтобы определить математическое ожидание и закон распределения продолжительности ожидания для клиента, прибывающего в момент t.
Мы будем исходить из следующих двух допущений относительно характера изучаемых случайных событий.
* Sur la probleme d’attente.— Мат. сб., 1931, т. 38, № 1/2, с. 101—106. Перевод Б. А. Севастьянова.
каждый бесконечно малый интервал времени (^ t + df) с вероятностью а (£) dt на станцию прибывает новый клиент. Более точно, в любой интервал (t, t + А) вероятность прибытия нового клиента равна
а (0 д + ° (А)>
в то время как вероятность прибытия более одного клиента равна
о (А);
как обычно, о (А) означает здесь бесконечно малую величину, имеющую порядок малости выше А; мы предполагаем, что функция а (^) непрерывна по t. Вероятности, относящиеся к интервалу (£, t + А), не зависят от числа клиентов, прибывших ранее и от моментов их прибытия.
Вероятность окончания разговора в интервале времени (^, t + d^Y ведущегося клиентом в момент £, равна ^dt; она не зависит от продолжительности разговора до момента t. Это приводит к показательному закону распределения продолжительности разговора: вероятность, что эта продолжительность заключена между t и t + dt, равна
р (t) dt = ^e^dt.(3)
В этом случае математическое ожидание продолжительности разговора равно
D ==(4)
О
Вместо закона распределения (3) М. Полячек предполагает, что продолжительность разговора всегда равна некоторой константе D; это предположение столь же произвольно, что и наше.
Обозначим Qmp (£, t + А) условную вероятность того, что в момент t + А на станции имеется р клиентов при условии, что в момент t там находилось т клиентов. Вероятность того, что в интервале времени (£, t + А) прибудет более одного клиента или закончится более одного ведущегося разговора, равна о (А). Поэтому
Qтр (^? t + А) < со (А) - о (А), I р - т | > 1,(5)
где со (Д) не зависит от т и р. Для | р — т | ^ 1 имеем
^m,m+i (^7 t 4“ Д) = ОС (^) А 4" О (А),(6)
Qm, m-i (t, t + А) = игр А + о (А), если т ^ п,(7)
Qm, m-i (t, t + А) = прД + о (А), если т > п,(8)
поэтому
Q тт (Z, Z + А) = 1 — (a (Z) Н- т^ А +-о (А), если m < п, (9)
Qmm V' t + А) = 1 — (а (Z) 4- тг|3) Д т о (А), если т ^ п. (10)
По формуле полной вероятности имеем
QPV + А)= § Qm{t)Qmp(t +(Ц)
т—О
Подставляя в (И) значения Qmp (t, t + Д) из формул (5) — (10), доказываем, что предел
е>=1к„_А^±^±(12)
0
всегда существует и имеют место уравнения
Qo W = P(?i (0 - а (0 Qo (0.(13)
Qi (Z) = (i + 1) p Qm ^ - (a (Z) + ip) Qt (Z) + a (Z) Q^ ^, l^Kn, ,(14)'
Qi (Z) = ир(>т (Z) — (a (Z) + nP) Qt (Z) + a (Z) Q^ (Z), n < i.
(15)
Таким образом, для функций Qt (t) мы получили счетную бесконечную систему дифференциальных’ уравнений. Достаточно найти решение Q-J^ (t) с начальными условиями типа (2). Общее решение можно получить тогда с помощью формулы полной вероятности ^QmMQF(t).(16)
Рассмотрим наиболее простой и важный случай, когда функция ос (^) константа:
ос (/) = ос.(17)
В этом случае система уравнений (13) — (15) имеет постоянные коэффициенты. В упомянутой выше работе я доказал для таких систем существование и единственность решения (в предположении, что Qm (0 неотрицательны и удовлетворяют условию (1), как это и имеет место в нашей задаче). Поэтому функции Qm (t) однозначно определяются уравнениями (13) — (15) и их на^алцными значениями . Qm (t^. Нахождение приближенного решения таких уравнений не представляет большого труда; один метод получения такого решения дан в упомянутой выше моей работе. Но с практической точки зрения предпочтительнее прямо переходить к предельному решению.
gT0 решение существует только в случае
тгР > а-(18)
Если выполняется обратное соотношение
пР < ^(19)
то очередь на станции бесконечно растет. Случай .
«Р = а](20)
имеет только теоретическое значение, поэтому мы ограничимся изучением случая (18).
Найдем сначала константы Qm (t) = Qmt удовлетворяющие уравнениям (13) — (15) и (1). В этом случае
P<?i - aQ. = 0.(21)
G + 1) P(2?+1 — (а + pi) Qt + acQ^ = 0, 1 < г < п. (22)
^РСм — (а + ^Р) Qi + a(^-i = 0, п < 7,(23)
(1)
Из (21) — (23) легко получить,
Qi = ^iQftt,
^=МтЬ °<f<"’<24>
откуда в силу (1) имеем
(26)
г=0
га,.1 / ОС1
- —№о + ®1 + . ,.+Юп_1 + —1_п-1(а/р) •(27)
Формулы (24) - (27) дают единственное стационарное решение нашей задачи..
Можно доказать, что в любом другом решении функции Qm (0 при t -> оо стремятся к пределам Qmi т. е. стационарное решение является также предельным.
Сделаем еще следующее замечание относительно формул (24) — (27). Условимся говорить, что распределение вероятностей {^т 00}
превосходит распределение {(7™ (0}, если для каждого тп
(28)(28)(29)(29)Rm ^ > Rm ^,
(28)
(28)
(29)
(29)
где
Rm= S Qi- i=0
Если начальные условия {^п? (^0)} превосходят ^Q™ (£©)}, то это отношение сохраняется в любой момент t )> £0. Пусть Qm (t) — решение нашей задачи с начальными условиями
Со (^о) ” 1» Qm (^о) ” 0? 771 ^ 0. (30)
Эти начальные условия превосходят все возможные другие условия. Поэтому решение Qm (£) в любой момент превосходит любое другое решение и, в частности, превосходит стационарное решение.
Таким образом, мы видим, что если коэффициенты аир достаточно долгое время остаются постоянными, то искомые вероятности даются формулами (24) — (27). Например, если п = 3, а/р — 2, то
m
0
1
2
3
4
5
6
Qm
1/9
2/9
2/9
4/27
8/81
16/243
32/729
Rm
1/9
1/3
5/9
19/27
65/81
211/243
665/729
Мы видим, что в этом случае, когда из трех линий в среднем занято две, с вероятностью R2 = 5/9 имеется свободная линия, в то время как вероятность тп > 6, т. е. вероятность того, что более трех клиентов ожидают своей очереди, равна 1 — RQ = 64/729 ~ 1/11.
Если принять предельное распределение за точное, то можно просто вычислить математическое ожидание Е длительности ожидания в очереди. Для этого надо среднюю длину очереди
\11/ a Wi/41 а \-2
v1тт)(31)
m>n
разделить на п^>:
Е = а/пр.'(32)
Таким образом, в нашем примере при п = 3, а/р = 2 находим
8Z7_ 88 _ 8 П
9 ’9.3|3 ~ 27р ~ 27
Это означает, что среднее время ожидания равно 8/27 от среднего времени разговора.
Для того чтобы иметь возможность вычислить закон распределения времени ожидания, нам остается только решить следующую задачу: в предположении, что в момент t0 на станции имеются т клиентов и в этот момент появился новый клиент А, вычислить для этого клиента закон распределения времени ожидания. Нас интересует только случай т > п, так как в противном случае имеются свободные линии. Положим т = п + р и обозначим Pq (t), q = 0, 1, . . .
р, вероятность того, что в интервале (£0, f) окончилось ровно q разговоров, и через Р (£) вероятность того, что это число больше р. В момент f0, очевидно:
Р. (t0) = 1, Pq (t0) = 0. q > 0, Р (t0) = 0.(33)
Функции Ро, Pv . . ., Рр, Р удовлетворяют уравнениям
Ро (^ = — «Р^о W,
pq W = «Р (Р^ W - Pq (t)), q = 1, 2, . . ., р,(34)
Р' (t) = n$Pq(j?).
Таким образом, мы нашли конечную систему линейных уравнений, которую легко решить. Отсюда получаем вероятность Р (t) того, что время ожидания клиента А не более t — £0.
Париж, 24 ноября 1930 г.
и
МЕТОД МЕДИАНЫ В ТЕОРИИ ОШИБОК
При допущении нормального закона распределения ошибок метод средней арифметической, как хорошо известно, является наилучшим для вычисления истинного значения наблюдаемой величины. Метод медианы в этом случае хуже, хотя, как показал Хааг, и незначительно. Однако, если гипотеза нормального распределения не удовлетворяет фактам, встает вопрос об отыскании наилучшего метода, соответствующего данному закону распределения. В частности, во многих случаях, в которых считается необходимым исключение «анормальных наблюдений», было бы методологически более правильно исследовать общий закон распределения и найти наиболее соответствующий ему метод вычисления истинного значения.
В этой статье я хочу указать, как, зная закон распределения ошибок, определить степень точности метода медианы и сравнить ее с точностью метода средней арифметической. Какой из двух методов окажется предпочтительней, зависит от характера принятого закона
распределения; однако в силу теоремы II при совершенно неизвестном и могущем сильно уклоняться от нормального законе распределения надежнее употреблять метод медианы.
Метод исследования в существенных чертах принадлежит Хаагу [1], применившему его, однако, только в случае нормального закона распределения.
Пусть вероятность ошибке отдельного наблюдения лежать между х и х + dx равна / (x^dx. Мы будем предполагать, что j^ непрерывна и / (т) =# 0 для медианы т\
/ (a;) dx = -^- •
Пусть, далее,
а= ^ xf(х)dx
— математическое ожидание ошибки. Обозначим через ^, х^ . . . . ... хп результаты п последовательных наблюдений, через ап их среднее арифметическое и через тп их медиану. Мы ограничимся случаем нечетного п = 2k + 1, когда тп = х^^ предполагая, что xt занумерованы в порядке их возрастания. Разности (ап — а) и (тп — т) будут (как это следует из дальнейшего) порядка 0(1/J^n), поэтому естественно положить
«п = ^П — а) Уп,ра = (тп — т) ^п
и исследовать законы распределения ап и рп. Для ат как известно, имеем непрерывный закон распределения: вероятность ап лежать между а и а + da равняется фп (a) da, где фп (а) вычисляется по хорошо известным формулам. Если дисперсия,
+оо.
а2 = ^ (х — a)2 f (х) dx
существует, то фп (а) сходится к нормальному закону распределения
с дисперсией а*
Вероятность т^ лежать ^между ^ и^ + ^ равняется
(2& + 1)! / V-^40\k ,иха.
и«^ "ЛМХ4) Н1)41’
где
1
0(0 = 2 V^ds- т
Вероятность же рп лежать между р и р, + с/р равна
Фп(Р) = “п(0^=.
Н = (*“ т)У2*ТТ,t = mA-yj= .
Т е о р е м a I. xpn (р) с увеличением п стремится к нормальному закону распределения
111и1е-^
V 2,1 °т
с дисперсией
От = 1/2/ (т).
В самом деле,
Ч’,.<Ю =
По формуле Стирлинга
/2Л 4- 1 (2*)! i/T
(W)24k* г л *
Далее ясно, что
/ (0-*/ (т).
Остается рассмотреть множитель {1— 02 (0}'« Во-первых, имее.ч
9(f) = m + -? и , =-Д^(1 4-е), Уи 4-1 К^А +1
где е стремится к нулю с возрастанием п. Следовательно,
62(0 = -^У-те) (14-е'),
{1 - е2 ^)У = е-В2Лт)/2 (1 4- е"),
где б' и б" тоже стремятся к нулю. Сопоставляя полученные выра- женин, получаем
фп (и) ->У-^Цт) e-W^y
что и доказывает нашу теорему.
Мы видим таким образом, что при неограниченном возрастании ^ разности ти — т и ап — а имеют бесконечно малые дисперсии. Следовательно, систематической ошибкой в методе медианы будет т а в методе средней арифметической а. Что же касается сравнительной точности обоих методов, то все решается отношением
X = ^ml^ — ^^f (т) о.
В случае нормального распределения / (ж) отношение X вычислено еще у Хаага и равно
Xg = V^^ ~ 5/4-
Легко построить примеры законов распределения, для которых К принимает любые значения между 0 и оо. Однако имеет место следующая
Теорема II. Для законов распределения с одним максимумом отношение X может принимать любые значения в промежутке
о < х < у з;
но не может быть больше УЗ.
Максимальное значение УЗ достигается, если
/ (ж) = а. ж 1/2а,/ (ж) = О, х^> 1/2а,
но’этот закон распределения уже не удовлетворяет условию непрерывности: X = 0, если о — оо.
ЛИТЕРАТУРА
Haag /С. г. Acad. sci. Paris, 1924, vol. 179, p. 1388.
Borel E. Traite du calcul des probabilites et de ses applications. Paris, 1924.
12
■ОДНО ОБОБЩЕНИЕ ТЕОРЕМЫ
ЛАПЛАСА - ЛЯПУНОВА
Пусть xv х^ . . . — независимые случайные величины с математическими ожиданиями
= 0, N^xX = 2ЬП, М | ха | 3 = й^
при этом отношения dnlbn меньше некоторой фиксированной константы:
dxJbn |i.(1)
Положим
5П = #1 + • • • + Аг» tn = Ьх + . . . + Ьп.
Одна из важных задач теории вероятностей состоит в следующем: исследовать поведение при п ~> оо сумм Su в зависимости от свойств величин tH при ц 0. На основе уже ставшего классическим закона Ляпунова 1 вероятность
ь
♦ Pla<Sn<b^—^\e-s^ds + 9R(^^ |9|<1,(2)
a В. (tn, р) стремится к нулю равномерно по р, если tu больше некоторой константы I.
Итак, при фиксированном п имеем формулу асимптотического поведения для Su. Рассмотрим следующую проблему. Пусть a (t) и Ь (0 — функции параметра t. Спрашивается, с какой вероятностью выполняются все неравенства вида
а(У<^<Ш к = 1» 2, . . ., п.(3)
Предположим, что а (£) и Ъ (£) непрерывно дифференцируемы и что а (0 < b (0, а (0) < 0 < b (0).
Тогда можно получить асимптотическое решение поставленной задачи, аналогичное (2).
Все последовательности 51? 52, . . ., Sn (до 5П) можно разбить на следующие три класса:
К содержит те последовательности, для которых выполнены все неравенства (3);.
Кг — такие последовательности, для которых существуют такие к^ что выполняются все неравенства
а (С) < St < b г - 1, 2, . . ., к - 1.
S"k & (^:)>
К^ — такие последовательности, для которых существуют такие к, что выполняются неравенства
< Si<b (ti), i = 1, 2, . . ., к — 1, ь Gk) s^.
Обозначим вероятности, соответствующие этим множествам, через ^пч Рп\ Рп^- Наконец, обозначим через Ри ^ у) вероятность события
а М < Sk < b (^), к = 1, 2, . . ., п — 1,
< Su <^ у.-
Liapounoff А. М.— Bull. Acad. sci. St.-Petersb., 1900, vol. 13, p. 359.
Очевидно, что
Рп = Ри {a (tn), Ъ (£„)}.
Неравенства
t > 0, a (t) < 5 < b (£)
выделяют в плоскости (s, f) область G. Обозначим через g (s0, t0; s, /) функцию Грина для уравнения теплопроводности
of/at = a^ias^
для области G и положим
g (s, 0 = g(0, 0; s, £), dg (s, f)/ds = и (s, t),
vT (t) = —u \a (£), d, ^2 (0 = u,\b (t^ t].
Теорема. Имеют место следующие асимптотические формулы*.
Pn^,y) = ^g(s,tn>)<ls + 9R(tn,p.’),(5)
р®=^ v^^dt + ^Rx^,(6)
.0
Р^ = ^ MWWA(7)
I о I <1, |9Т | <1, |е21.
где R. R^ R2 стремятся к нулю равномерно по ц; при этом для R (^^эта сходимость равномерна по t^ если t больше некоторой константы.
Если вместо (3) имеем односторонние неравенства, например
а (£к) < ^fc, k = 1, 2, . . ., п.(8)
то справедлив аналогичный результат, который, впрочем, легко может быть получен из предшествующего предельным переходом.
Гёттинген, 20 января 1931 г.'
13
ОБ ОБЩЕЙ ФОРМЕ СТОХАСТИЧЕСКОГООДНОРОДНОГО ПРОЦЕССА (Проблема Бруно де Финетти)
Пусть X (X) — действительная переменная, которая меняется случайным образом как функция времени X, точнее таким образом, что распределение вероятности
Фд W = Р {^ М - X М < я} (Х2 > М
зависит только от Л — Z2 — ^ и не зависит ни от Z1? ни от X (Х^, ни от поведения X (X) при X < ХР Символ Р, как обычно, обозначает вероятность соотношения в скобках. Тогда, как известно, функция распределения Фд (ж) удовлетворяет функциональному уравнению 1
Фд1+д2Ц) = $ Фд,Ц — У^Ф^у).(1)
В настоящей работе мы дадим, обобщая некоторые результаты Бруно де Финетти 2, решение уравнения (1) при единственном предположении, что конечны первый и второй моменты
т^ = ^ xd-ф^ (ж),а а = ^ (ж — 77? А)'2 e/Фд ^х\
Заметим для неспециалистов, что функция Фд (г) не убывает, непрерывна слева и Фд (—оо) = О, Фд (оо) = 1.
Пусть
(О = J е’^Фд
— характеристическая функция Фд (г). На основании известных свойств характеристических функций имеем
%м (О = tyi 0)l1/ra,^/n (t) = Ыч (Щ/п-
Так как -фд (£) непрерывна по А, то '
■фд ^ = [^ (ОР.(2)
И поскольку распределение Фд ^ однозначно определяется фд (<), то для его описания достаточно найти общую форму ф^ (£).
Согласно Финетти имеем
*ф1(0 = 11т^Л №л(/) 1],log; тр1 (^) =-= 1 im —^- [фд (Z)— 1], А—» 0.
Кроме того,
4 [Фа (0 - М = 4 [ $ с’^йФд ^ - 4 =
= 4[^ ^ ^ФИ^Ф- ^‘ pite — 1 — г^)^Фд (я)^ — — ОО—ОО
= -|- ^тд + ^ ^eitx — 1 — itx^ с?ФА (^)J =
= Unix + ”5~ ^ k^ — 1 — ^^) ^Фа (^)-
Пусть теперь
Рл СО = 4 S ^ ЙФА W(3)
Функция F^ (^) не убывает по х и обладает свойствами
^а (— оо)= 0 и
• ^д (оо) = 4 ж2 t/фд (ж) = 4^ + ад) —Ami + at
Для каждого интервала (а. 6), не содержащего нуля ни внутри, ни на концах, имеем
ъь
_ I ^itx — I — ^^ ^фд ^ __ р ^х^ ^ ДРА ^ж^
где
р (я, #) = (е*^ — 1 — Их^х2 при х ^ О,z
р (х, t) = —12/2 при х = 0.
Так как для каждого заданного t функция р (ж, t) конечна и непрерывна (в том числе и при х = 0), то
ОООО
-А- ^ (с^— 1 — Пх^ с2Фд (х) — ^ р (х, t) di\ (х).
Выберем теперь последовательность положительных величин Дп Д2, . . ., Л/П . . ., стремящихся к нулю. Из последовательности функций
F^ ^ F^ (х^ . . F^ (я), . . .
можно, как известно, выбрать подпоследовательность
^АП1 (^;),^А/12 00 > • • ^Anv (^)i • •
сходящуюся к некоторой функции F (ж) во всех точках, в которых она непрерывна. Функция F (я) будет, конечно, неубывающей и с крайними значениями
F (- оо) > lim F^ (- оо) = О,
F (оо) < lim F^ (оо) = Qi,'
Принимая во внимание то, что функция р (х, f) стремится к нулю при фиксированном t и х-^ + оо, мы окончательно получаем
5 р (х. t) dFN (ж) р^х, t^dF Vx\
ОО1оо
log гр! (f) = lira Л- [-фд (/) — 1] =
itmi -(- ^ (eitx — 1 — ax') <1Фд (ж) j =
Д->0;
(<‘>)(<‘>)log ф! (<) — Z7mi 4- ^ р(^х, t)dF(x').
(<‘>)
(<‘>)
Так как второй момент ^ конечен, то log фг (t) = imit -~j-t2 + o ^t2Y
Кроме того, из (6) имеем
log тр! (/) = итг + ^ (г + 0 ^) ^ ^ "
= «гщ - ^ [^ (оо) - F (- оо)] + о ^\
откуда следует, что
F (оо) - F (- оо) = о^
и поэтому с учетом (5)
F (- оо) = 0, F (оо) - о?.
Будем считать, что F (я) непрерывна слева (впрочем, значения F (х) в точках разрыва несущественны). То что F (х) не убывает, мы уже отметили.
Формулы (6), (4) и (2) вместе с известной формулой
со
4 р 4 л~Их
Фа (*) - Фа (0) =фд (0 dt(7)
дают общее решение поставленной проблемы.
Функция F (х) полностью определяется функцией распределения Фд (^)- Действительно, интеграл
§ р ^х, t) dF (^) = log ф1 (0 — itmi
можно дважды продифференцировать по t и получить с учетом равенства
ЧТО
^ eitx dF (х^--^- log т|н (t) = х (0»
СО
Последнее равенство позволяет определить F (х) с точностью до аддитивной константы, которая, в свою очередь, определяется условием F (— оо) = 0.
Мы уже говорили, что из всякой последовательности F^^ (х), когда Лп стремится к нулю, всегда можно извлечь подпоследователь-
ность Едп (х), сходящуюся к F (ж). Отсюда вытекает, что Ед (х) при д О стремится к F (х):.
(8)(8)/’(ж)=Пш/'д (ж) = Ит4" ^ y2dфд(yУ
(8)
(8)
Однако (8) верно вообще только в тех точках, где F ^ непрерывна.
При х < 0 из (3) следует равенство
4~Фд(ж) = ^' у^йЕд (у).
Далее, в силу (8) имеем в каждой точке непрерывности х < 0 функции F (ж):-.
X
Pi (ж) = lim 4" Фд (ж) = ^‘ у-2 dr (г/).(9)
Аналогично получаем при х ^> 0:
4- [1—Фд («)]=4- гфд (°°)—Фд (^i=§ у-2 ^ (у),
р2 (х) = lim — [1 — фд (ж)] = ^ У2 dF (у).(10)
Объяснить действительный смысл функций Рг (ж) и Р» (ж) можно следующим образом. В общем случае функция X (А) не обязана меняться непрерывно по времени А, она может иметь и цкачки. Величина Р^ (ж) dk представляет собой вероятность того, что за приращение времени dk имел место положительный скачок, больший чем х. Аналогично Рг (ж) dk есть вероятность появления отрицательного скачка с абсолютным значением, большим чем | х |.
Из (9) и (10) следует, что
Е^—y2dP1(y), х <0,(И)
Q\_F^ = F^-E^=^y2dP^yy ж>0.(12)
Понятно, что справедливость этих формул, как и всех других, кУДа входят Рг (х) и Р2 ^х), ограничена точками непрерывности F (х).
Таким образом, поведение F (ж) вне точки х — 0 полностью определяется распределением вероятностей скачков функции X (А). Вместе с тем разрыв F (х) в начале координат связан наоборот с непре-
рывной вариацией X (X). Чтобы пролить свет на это обстоятельство положим’
Q ^ = F (ж), х С О,
Q (ж) - F ^ - о^, х > О,
где через Oq обозначен скачок F (х) в точке х = 0. Вне окрестности начала координат очевидно, что dF (х) = dti (х). Мы можем записать формулы (11) и (12) следующим образом:
^(^)= ^ У2<1Р1Ш ^'<0,(13)
02 — Щх) = ^ у2 dP^y), х*>0, .(14)
где Оз = Ор — о^. Так как Q (х) должна быть непрерывна в начале координат, то О2 = Q (оо) и, следовательно, функция Q (ж) полностью определяется функциями Рг (х) и Р^ (ж). Имеем
р (х, t) dF (х) = OqP (0, t) 4- ^ р (х, t) dQ (х).
Поскольку р (О, 2) = —£2/2, то в результате получается в ее окончательном выражении следующая
ОСНОВНАЯ ФОРМУЛА
log^i ^ — imit^"^2+ \ p^M^^^Y(15)
Если Q (х) = 0, т. е. когда X (X) может меняться лишь непрерывно как функция времени, то Оо = Ор Имеем
Iа2 1 .'
Фа (О = exp unit^- t2 ,
, х1 С ( ку — 7П1Д)2 ) 7
фд\ exp JI dy.
А V 7 С1К2лА Г I 2Ас>2 j У
Покажем в заключение, что формулы (7), (6) и (2) при любом выборе функции F (х) (неубывающей, непрерывной слева и со значениями F (— оо) = О, F (оо) = Qi «< оо) дают решение рассматриваемой проблемы.
Другими словами, речь идет о доказательстве того, что при упомянутых условиях функция Фд ^х), задаваемая (7), представляет при всех А > 0 настоящую функцию распределения.
С этой целью рассмотрим прежде всего ступенчатую функцию Т ^х\ которая только в конечном числе точек xv х^ . .х^, имеет
скачки
(Ок = Т (х^ + 0) Т (^),
сумму которых обозначим через Oi = сог + <о2 + . . . + соп, и которая постоянна в каждом интервале, не содержащем ни одной из точек хк. Условимся также, что между точками хк нет начала координат х = 0. Тогда
^ р (х, t) ДТ (ж) = 2 Ри ^tx^ — 1 — ltxk\
—сюк
log $1 (0 = itP + 5 Рк [х& (0 — 1], k
T"1top
Р = Ш1 — ^Рь Pk = ^-, X» (t) = exp (itXkY
Фд to = 1% WP = exp U-tPb + 3 ^Pk [Xk (0 — 1]L
Функции Xk (0 = exp (itxk) и exp (itPk) являются, очевидно, характеристическими функциями (это означает, что они порождают с помощью (7) функции распределения). Из результатов де Финетти следует, что в этом случае характеристическими функциями являются exp ^рк [Хк (0 — 1]} и функция фд (£), представляющая собой произведение характеристических функций.
Выбрав t0 и 8 > 0, можно всегда аппроксимировать любую функцию F (г) посредством ступенчатой функции Т (х) таким образом, чтобы неравенство
| $ p(x,t)dF (х) — ^ р^х, t)dT (^)|<е(16)
выполнялось для всех | t | < £0. Образуем теперь последовательность Тп (х) функций Т (х) таким образом, чтобы разность (16) стремилась к нулю для всех t и притом равномерно для каждого ограниченного интервала. Тогда соответствующие им функции фд) (£) сходятся к фА (£), откуда следует, что фд (^), будучи пределом характеристических функций, сама является характеристической функцией.
14
К ВЫЧИСЛЕНИЮСРЕДНЕЙ БРОУНОВСКОЙ ПЛОЩАДИ
Совместно с М. А. Леонтовичем
В настоящей работе будет решена следующая задача, поставленная перед нами С. И. Вавиловым. Требуется определить среднее значение (математическое ожидание) площади, покрываемой за заданное время проекцией на плоскость движущейся броуновской частицы конечного размера. Элементы площади, которые эта проекция проходит несколько раз, должны засчитываться только единожды. Решение этой задачи будет нами сведено к решению следующей более общей задачи: определить вероятность того, что при броуновском движении в области G плоскости бесконечно малой частицы, находящейся в момент t = 0 в заданной, точке (#, у^ эта частица за время t по крайней мере один раз достигнет границы R данной области. В разделе 1 будет разъяснен метод решения этой последней задачи, а в разделах 2 и 3 она будет применена к расчету средней броуновской площади. Разделы 1 и 2 статьи принадлежат А. Н. Колмогорову, а раздел 3 — М. А. Леонтовичу.
Рассмотрим прежде всего движение бесконечно малой частицы в плоскости с декартовыми координатами х и у. (Аналогичная трехмерная задача может исследоваться точно таким же образом.) Обозначим через Р ^х, у; £) вероятность того, что находившаяся в момент ^ = 0 в точке (ж, у) области G частица за время t по крайней мере один раз достигнет границы R этой области. Пусть далее PL (х, у; t) — это вероятность того, что находившаяся в точке ^х, у) частица за время t по крайней мере один раз достигнет границы R и притом так, что первое достижение границы частицей будет иметь место на части L этой границы. Ясно, что при этом
Pl (ж, у; t) < Р (х, у; t).
Обозначим теперь через р (х, у; |, щ; t) rf^T] вероятность того, что находившаяся в момент t = 0 в точке ^х. у) частица в момент t окажется в области (£, £ + й£; Л> Л + ^ц), причем за время t она ни разу не достигнет границы. В таком случае, очевидно,
§ Р (^, у; I, л; 0 d^dq + P (х, у; /) = 1#(1)
G’
Кроме того, легко видеть, что,
Р (ж, уЛ + т) = Р (х, у; т) + 5 р (х, у; g, в; т) Р (£, q; t) dl d^,(2)
G'
Рь^У'Л + т) = PL(x,y;x) + ^p(x,y;l, ^^Рь^чЛ^дп- (3)
G
Примем теперь следующие предположения.
функции Р (х, у; t) и PL (х, у; t) в окрестности каждой внутренней точки области G могут быть разложены в ряд Тейлора, так что
х 9Р (х,,с. х , ЭР (х. у. t) , х ,
р (I л; t) = P (г, улн4г^ (£ - ^ + —-^2- (п - у) +
+ ^44^ <’i_ ^“J +6 ® - ’X+(ч - »№-(4)
_ЭРТ (х. у;дРт у; t)
Pl (I, чЛ) = Рь (г, у; t) Н—- (В — ж) ч(п — У) +
1 ( д2Рг (х у; t)д2Рг (х, у; t)
+ -М~^£ - ^а + 2^—(^ - ^Хп - у) +
д2Рт (х у; t)]'
+™9у2(^ - У)2} + 9' «^ - ж)2 + (^ - у№ (5)
где | 0 | ^ М, | 0' | ^' М\ причем М и М' не зависят от ^ и ц (но могут зависеть от х, у и t).
В каждой внутренней точке области G выполняется соотношение.
lim^L^iZl = о.(6)
т^о т
В силу неравенства PL ^ Р отсюда также вытекает, что
] . PL (ж, У, Т)
1 ин —i— о.
Функция р^х^у; £,ц; ^) удовлетворяет следующим условиям: lim 1”Г р (ж’ у; ^’ tl; ТХ£ — ж) dl ЙТ]| = Аг (х, у), (8) Т-»0 I 1 J J
lim
т—0
Г I Г1
(т J РСг> У; ^> п; тХ1! — y^d^,dx\\ = А^^Х, у), ■ G.
(9)
lim ■
т—0
{27 ^ Р (х, у; £, 1]; т)(^ — xy ^dqj = Вг1 (х, у\
(Ю)
(11)(12)(13)(11)(12)(13)1 im ("^ \ р ^' У' ^ л; тХл — уУ ^ ^i I = ^22 (ж, у\
(11)
(12)
(13)
(11)
(12)
(13)
т-0 Т G
1™ (^\ Рк^У' & п;тХ? —^Xn —z/)^^|- = 5i2(^ уУ Т-0j
lim |^-п; т)[(^ — ж)2 + (П — ?/)2Г/г ^ё ^л| = О,
Т—О t ь JJ
где Лп 42, Bw BV21 S22 — некоторые функции, определяемые эти ми соотношениями..
При условии, что справедливы предположения I, II и III, функции Р (х, у; £) и PL (х, у; t) будут решениями следующего дифференциального уравнения:.
^_в"+2В„-^ + в" + л"+л"(14)
dtдх2 1дх ду 1 ду2 1 дх 1 ду х '
Доказательство мы приведем для функции Р (х, у; t), так как в случае функции Pl (х, у; t) доказательство проводится совершенно аналогично. В силу (2) и (4) мы имеем
тт
=L + — ^ р (А у; Т]; т) Р (£, т]; 0 dg ЙП -= G
= р ^Л’т) . + _L р(ж, у; ^, т]; т)^с7ц — 1| Р(х, у; t) + . G
+ —) р (ж, у; ^, п; тХ? — ж) d^ d^ —^^—^ +
G•
+ -4" ^ Р (ж- У' ^ Л! тХП — У) d^dq ^J^Ml 4. G
+ 27 ) P k$i У^ n; tXI — ж)- d^ dq^’- +
+ 2? !i P (C’ y: ^’ n; ^^-^Hn — y") dl dq ^^^-L + G
+ 4? $ p У’ ti; ^(ч — уУ d^ dy\ +
G•
+ 4" ^ p (ж’ у-' £> ti; т) K^ ~ $y+(’i—yyvk d^d^ (15) G
где I частигде I части0" | ^ М". В силу (6) и (13) первый и последний члены правой равенства (15) при т-> О стремятся к нулю. Но так как в силу (1)
где I части
где I части
1 — ^ р (ж, у; ^ л; ^) ^ </n = р (ж, у; О, G
то при т 0 стремится к нулю также и второй член правой части Но). Коэффициенты при производных Р по х и у имеют предельные значения Л17 А2, Ви, 2В12, В22; поэтому правая часть (15) при т -> О стремится к правой части (14). Левая часть (15) также имеет предельное значение, которое равно dPIdt. Тем самым справедливость уравнения (14) нами доказана.
Уравнение (14), которому удовлетворяет вероятность Р, сопряжено к уравнению Фоккера. Это уравнение можно также вывести при значительно более слабых предположениях (ср. [1—4]).
Допустим теперь, что, помимо условий I—III, выполняются также следующие два условия IV и V:
При фиксированном t (где t > 0) вероятность Р (х, у; t) стремится к единице, когда точка (х, у) неограниченно приближается к границе области G. При t 0 для любой внутренней точки области G выполняется тождество Р (х, у; t) = 0.
При фиксированном t (где £ > 0) вероятность PL (х, у; t) стремится к единице, когда точка (х, у) стремится к какой-либо внутренней точке части L границы, но она стремится к нулю, когда (^, у) стремится к какой-либо точке границы, лежащей вне части L. При t = 0 для каждой внутренней точки (х, у) области G выполняется тождество PL (х, у; t) = 0. *
Принимая во внимание, что и Р, и PL ограничены (а именно, неотрицательны и не превышают единицы), легко показать, что Р и Pl однозначно определяются уравнением (14) и условиями IV и V.
Вычисление площади, описываемой броуновской частицей конечного размера. Предположим теперь, что проекция броуновской частицы может быть представлена в виде круга единичного радиуса (при соответствующем выборе единицы длины). Так как мы ниже будем рассматривать только такие проекции, мы будем именно их Для простоты называть частицами. Отметим, впрочем, что соответствующую трехмерную задачу вычисления объема, описываемого броуновской частицей, можно исследовать совершенно аналогично.
Центр частицы будет подчиняться законам, сформулированным в разделе 1. Из соображений симметрии естественно принять, что ^i = А2 ~ В12 = Ои 5ц = В22 = D. При этом уравнение (14) принимает следующий вид:
~ /_^ 1 92р\ ‘
\ + ду* / *
В силу (10) коэффициент диффузии D определяется соотношением
Е (£ —.. Е (?] — у)2
= lira —= hm v ‘ 7
T—о ^T0 2T
где Е — символ математического ожидания. Нетрудно убедиться, чТо значение D совпадает со значением аналогичной же постоянной ддя трехмерного броуновского движения.к
Наша задача заключается в определении математического ожидания площади, которую покроют последовательные положения частицы за время от t = 0 и до заданного t. Выберем в качестве начала координат точку, совпадающую с центром частицы в момент t = о. Обозначим через W (х, у; t) вероятность того, что в течение времени t заданная точка (х, у) будет по крайней мере один раз покрыта частицей. В случае, когда расстояния от точки (х, у) до начала координат не превосходят единицы, очевидно, W (х, у; t) = 1. Если же это расстояние превосходит единицу, то тогда точка (х, у) будет хоть раз покрыта частицей в том и только в том случае, если путь центра частицы по крайней мере один раз достигнет окружности единичного радиуса с центром в точке (х, у). В силу соображений симметрии вероятность такого события равна также вероятности того, что центр броуновской частицы, находившийся в момент t = 0 в точке (х, у), за время t по крайней мере один раз достигнет границы круга 5 единичного радиуса с центром в начале координат. Эту же последнюю вероятность можно вычислить с помощью соображений, содержащихся в разделе 1 нашей статьи.
Таким образом, внутри круга 5 должно выполняться равенство
W (х, у; t) = 1,(16)
а вне этого круга функция W ^х, у; t) должна удовлетворять дифференциальному уравнению
—n(a'w
dtдх2 • ду* ) еk ;
Кроме того, на границе круга 5 должно выполняться граничное условие
W (ж, у; t) = 1(18)
и должно быть справедливым также начальное" условие
W (х, у; 0) = 0.(19)
При нахождении математического ожидания броуновской площа- ди^можно рассуждать следующим образом. Пусть § — область, покрытая частицей за время t, a F — площадь этой области. Примем, что 6 (х, у; §) = 1 при (х, у), расположенном внутри $, и 6 (х, у\ 5) — 0 в противоположном случае. Ясно, что
Е {6 (х, у; 5)} = W ((г, у; I),
а броуновская площадь F может быть определена соотношением
F = П 6 (ж, у; 9) dxdy.
Отсюда вытекает, что
Е (Л = И Е (6 Iх* У’ 9)} ^dy = И W (х, у; t) dxdy. (20)
Решая нужную нам задачу с граничными условиями, перейдем к полярным координатам (г, ф). Ясно, что функция W будет зависеть только от радиус-вектора г, но не от угла ф. Выберем теперь так единицу времени, чтобы D приняло значение 1. В таком случае интересующая нас задача с граничными условиями для W (г, t) принимает
.1 dW+ Г дг 1:Ж(оо,£) = 0;г > 1..1 dW+ Г дг 1:Ж(оо,£) = 0;г > 1.вид
.1 dW
+ Г дг 1
:Ж(оо,£) = 0;
г > 1.
.1 dW
+ Г дг 1
:Ж(оо,£) = 0;
г > 1.
(51)(22)(23)(51)(22)(23)dW d^W
(51)
(22)
(23)
(51)
(22)
(23)
~didr68-
ж(1, 0 = 1;
w И = о,
Для решения этой задачи мы воспользуемся преобразованием Лапласа. А именно умножим обе стороны (21) на е“г* и проинтегрируем результат по t в пределах от 0 до оо. Применив интегрирование по частям и используя также начальное условие (23), для величины
(24)(24)и (г,у)= ^(r, tv^at о
(24)
(24)
можно получить следующее дифференциальное уравнение:
d^U 1 dUdr* ' г drd^U 1 dUdr* ' г drvU = 0.vU = 0.(25)(25)
d^U 1 dUdr* ' г dr
d^U 1 dUdr* ' г dr
vU = 0.
vU = 0.
(25)
(25)
Из граничных условий (22) для функции W вытекают следующие условия для Uг
U (1, р) = 1/р; U^oq^ = 0.(25')
Решение уравнения (25) при условиях (25') имеет вид
U kri у) гдеU kri у) где_ 1 ^(г/Г)—£(/7) ’_ 1 ^(г/Г)—£(/7) ’
U kri у) где
U kri у) где
_ 1 ^(г/Г)
—£(/7) ’
_ 1 ^(г/Г)
—£(/7) ’
К^=^-Н^Чгх\
а Н® — первая функция Ганкеля нулевого порядка (см. [5, раздел 17.71}).
В силу (24) для того, чтобы найти функцию W (г, t), нам надо только решить линейное интегральное уравнение первого рода
\W(r,t)e-^dt= — -^£D_.(26)
5 А. Н. Колмогоров
Правая часть этого уравнения при Re и )> 0 представляет собой целую функцию переменного и. В самом деле, в силу известной теорем^ (см., например, [6, раздел 15.7]) функция К (ж) не имеет нулей при I arg х I ^ л/2. Решение интересующего нас интегрального урав, нения в случае, когда правая часть удовлетворяет указанному условию, хорошо известно (см., например, [7, раздел 6.7]) и имеет следую, щий вид:
a+ioo „,
W (г, А =\k Л„ ■ dv,(27^
Х 7 2ш J V к (V и А.V J
a—iooxy '
где интегрирование проводится по прямой, параллельной мнимой оси, а a )> 0. Тем самым мы нашли решение нужной нам задачи с граничными условиями. Выражение (27) справедливо при г ^> 1; если же г ^ 1, то в силу (16) - ■
(27')(27')W (г, f) = 1.
(27')
(27')
Для математического ожидания Е (F) в силу (20)—(23) и (27') мы получаем
Е (F) = 2л W (г, t) г dr = л + 2л W (г, t)rdr = 01
оо ttОО
-^-rdrdt = л + 2л^сЙ уйт\-а^"А- — -э;) = 1001
Q Р 6W (1, £)
= л — 2л \а ■ dt.(2о)
J 4 от
причем в силу (27)
OC-f-iooa—tooOC-f-iooa—tooК' (Vy K(V«)К' (Vy K(V«)dy + Zo,dy + Zo,(28')(28')
OC-f-ioo
a—too
OC-f-ioo
a—too
К' (Vy K(V«)
К' (Vy K(V«)
dy + Zo,
dy + Zo,
(28')
(28')
где
i (1A^)p8^ к (/57)i (1A^)p8^ к (/57)dv.dv.a+ioo
i (1A^)p8^ к (/57)
i (1A^)p8^ к (/57)
dv.
dv.
Zo = л — t
(X—loo
Найдем асимптотическую формулу для Е ^F^ справедливую длЯ больщих t. Известно (см. [5, раздел 17.71]), что
К ^ = — Jo (^) In -^- + х2Р ^х\
К- ^ =^£h _ i In ^ л Н + ж 1^Р (.г) + хР* (ж)].
y = ес, С — постоянная Эйлера (так что у = 1,7810...), а Р (ж) — целая функция. Следоватедьно,
?+ xR (ж);
К^ я1п(уя/2) 1 v 7
, i In (ух{2) Jq (t^)/2 — 2Р (х) — Р' (х) х + Р (я)/1п (у^/2)
(^)'70 (ix) In (ух/2) — х^Р (ж)*
Так как К'^/К^х) не имеет особенностей при | arg х | < л/2 (за исключением точки х = 0), а при | х | -> оо эта функция стремится к нулю (что следует из известных асимптотических формул К (х) ~ ^lYf'^e^lx1^ и К' (ж) ~ —(л^^е-х/дЛ/г), то R (ж) не имеет в этой же области других особенностей, кроме особенности в точке х = 2/у. При стремлении х к нулю
1 f А I в
2 -р 1п(та./2) In (7^/2) ’
так что | R (ж) | при этом остается ограниченным. .
В силу (28') мы можем положить
Е (F) = Iq + I1 + /2,*(29)
где
e^dv
K = 2i \ ~ ,Т 1М ,I2 = t \ ^—R^v^av.
J у2 In (у2р/4) ’6 J v v г /
а—гооа—гоо
Для того чтобы избежать особенности функции R (jAу) в точке и = 4/у2, мы выберем в качестве пути интегрирования прямую, пересекающую вещественную ось между значениями 0 и 4/у2; иными словами, мы примем, что а < 4/у2. В таком случае интеграл I^ легко оценить. Полагая ^ — ^, получаем
J vJ ч \ ' г /
a—iooat—гоо
3+гоо
= г ^ ^-R
(3—гоо
ГДе |3 можно считать независимым от t. Выражение
при любом t будет ограниченным. В этом легко убедиться, применяя к его вещественной и мнимой частям вторую теорему о среднем значении.
Таким образом, мы убедились, что
Л = О (1).(30)
Интеграл /0 не зависит от I, так что
/0 = 0(1).(31)
Остается только оценить интеграл а+<соai+гоо
т С е аио • / У2 \ С е dz
J valn(v3p/4) \ 4 / J z2lnz ’ а—tooа2—too
где положено z = z;y2/4, т = 4г/у2, ах = yW4. Преобразуя подынтегральную функцию интеграла 1г с помощью тождества
^Z 1
-л— = iH-j — —2 \ e-2“inzda+ -Г—- ,
z2lnzInzIn ZJInz ’
0
мы получим 1• 0Ct+iooai+ioo
Л = — {da ( e^ ^^dz + t•
r• 2 J in z
0. at—ioo«i—ioo
В слагаемом, пропорциональном \ —^ ^ , интегрирование можно вести вдоль мнимой оси. При этом легко показать (например, при-, лагая вторую теорему о среднем значении к вещественной и мнимой
6
частям интеграла), что это слагаемое имеет порядок О (1). В выражении j e~2a ln z+zx^g путь интегрирования можно деформировать таким образом, чтобы он совпал с петлей ®, охватывающей отрицательную часть вещественной оси (см. рисунок), после чего можно преобразовать это выражение следующим образом:
$ е-2а in z+zt ^ = T2a-1 ^ ^-^ ^^ = ZT.
Воспользуемся соотношением (см. [5], раздел 12.22])
r(2a)j ,
в силу которого
1
p z»2a In T
'--^^ТЧЯГ^ + ^Ю-
0
Интеграл в правой части последнего соотношения равен
i Л2а In тГ2Оi Л2а In тГ2ОГ е-У1пт^J Г (2-у) оГ е-У1пт^J Г (2-у) оТ2 fP е'У^о'у , 2 W Г(2-у) +оТ2 fP е'У^о'у , 2 W Г(2-у) +о
i Л2а In тГ2
О
i Л2а In тГ2
О
Г е-У1пт^
J Г (2-у) о
Г е-У1пт^
J Г (2-у) о
Т2 fP е'У^о'у , 2 W Г(2-у) +
о
Т2 fP е'У^о'у , 2 W Г(2-у) +
о
(1 - у) е-У 1п т Г (2 - у)(1 - у) е-У 1п т Г (2 - у)
(1 - у) е-У 1п т Г (2 - у)
(1 - у) е-У 1п т Г (2 - у)
Отсюда в силу (29), (30) и (31) следует, что
S
1 р-У In т a t^W).
О
При больших значениях In т имеет место асимптотическое соотношение
е ^1ПТ^ _1 _1
j Г (2 — у) In т In (4f/y2) о
и, следовательно,
E(f)~E(f)~4л£In (4£/у2) ’4л£In (4£/у2) ’(32)(32)
E(f)~
E(f)~
4л£
In (4£/у2) ’
4л£
In (4£/у2) ’
(32)
(32)
При 0 < у < 1 выполняются неравенства
1 / 1
Г (2 — у) 0,88 ’
и поэтому
1р е^тт^1
In т J Г (2 — z/)0,881п т *
о
Желая получить асимптотическое разложение для Е (7^), мы можем при помощи последовательных интегрирований по частям представить последний интеграл в виде
С _£У^У _1Ji 1 _L
J Г (2 -у) —" 1пт-Г(2) [1пт Г (2)
о
1Т2(2)-Т'(2)Г(2)1
"^ДпзтГ (2)
гДе V (ж) = Г' (ж — 1)/Г(ж — 1). Подставляя сюда числовые значения функций Г и Т, получаем
Еф) = . 4л<v 1 lnl,26tЕф) = . 4л<v 1 lnl,26t0,423In 1,26<0,423In 1,26<0,4671п2 1,26<0,4671п2 1,26<
Еф) = . 4л<v 1 lnl,26t
Еф) = . 4л<v 1 lnl,26t
0,423
In 1,26<
0,423
In 1,26<
0,4671п2 1,26<
0,4671п2 1,26<
В случае, когда времена и длины измеряются в произвольных еда. ницах, t должно быть заменено на Dt/ci2, a F — на Flo1, где о радиус частицы. Таким образом, окончательно мы получаем
с/г\_4п5< L ,°,4230,4671
L v>— In (l,26Dt/o3) t1+ In (l,26Dt/o3) In3 (l,26Di/a3)+
+ 0(1).'
Эта формула и представляет собой асимптотическое решение постав» ленной задачи.
ЛИТЕРАТУРА
Kolmogorofj A. N. Ueber die analytischen Methoden in der Wahrscheinlich- keitsrechnung.—Math. Ann., 1931, Bd. 104, H. 3, S. 415—458. Pyc. nep.: УМН, 1938, ВЫП. 5, c. 5—41.
Kolmogoroff A. N. Zur Theorie der stetigen zufalligen Prozesse.— Math. Ann., 1933, Bd. 108, H. 1, S. 149—160.
Kolmogoroff A. N. Eine Verallgemeinerung des Laplace—Liapounoffschen Satzes.— Изв. АН СССР, OMEH, 1931, c. 959—962.
Kolmogoroff A. N. Ueber die Grenzwertsatze der Wahrscheinlichkeitsrech- nung.— Изв. АН СССР, OMEH, 1933, c. 366-372.
Whittaker E. T., Watson G. K. A course of modern analysis. Cambridge: Univ. Press, 1927. 608 p. Рус. пер.: Уиттекер Э. T., Ватсон Г. H. Курс современного анализа. М.: Физматгиз, 1963. Ч. 1. 343 с. Ч. 2. 515 с.
Watson G. N. A treatise on the theory of Bessel functions. Cambridge: Univ. Press, 1922. 804 p. Рус. пер. 2-го англ, изд.: Ватсон Г. Н. Теория бесселевых функций. М.: Изд-во иностр, лит., 1949. Ч. 1. 799 с. Ч. 2. 219 с.
Fowler R. Н. Statistical mechanics. Cambridge: Univ. Press, 1929. 864 p.
.15
ОБ ЭМПИРИЧЕСКОМ ОПРЕДЕЛЕНИИЗАКОНА РАСПРЕДЕЛЕНИЯ
Рассмотрен вопрос о возможности определения закона распределения на основании конечного числа испытаний.
Пусть ХХп X2l . . ., Хп — результаты п взаимно независимых наблюдений, расположенные в порядке возрастания, Хх ^ Х^ < . . . < Хп, и пусть.
F ^ = Р {X < я}
— закон распределения, соответствующий этой последовательности наблюдений. Эмпирическим законом распределения называется
функция Fu (ж), определяемая соотношениями
Fu (ж) = 0, х< Хг;
F^ (х) = k/n, Xft < ж < Xk+1, k = 1, 2, . . ., п — 1;
Следовательно, тгЕи (ж) представляет собой число значений Х^, не превосходящих х. Естественно, возникает вопрос: приближается ли Fn (я) ^ F (^ когда п очень велико. Теорема, относящаяся к этому вопросу, была сформулирована фон Мизесом [1] под названием метода о)2. Однако фундаментальное утверждение о том, что вероятность выполнения неравенства
D = sup | Fu (ж) — F ^ | < 8
стремится к единице при п -> оо для любого е, на мой взгляд, до сего времени не было ясно сформулировано, хотя его было бы можно доказать различными простыми способами.
Я получу это утверждение как непосредственное следствие доказываемой ниже теоремы. Должен добавить, что постановка рассматриваемого вопроса мотивирована недавними исследованиями Гли- венко [2].
Теорема I. Вероятность Фп (X) неравенства
D = sup | Fu (ж) — F ^ | < Х!Уп
стремится, при п —> оо равномерно по X к
ФМ = S (-1)^"(1)
для любой непрерывной функции распределения F (ж).
Ниже приводится таблица некоторых значений Ф (X), вычисленных Н. Кожевниковым.
X
Ф (X)
X
Ф(М
X
Ф(М
0,0
0,0000
1,0
0,7300
2,0
0,99932
0,2
0,0000
1,2
0,8877
2.2
0,99986
0,4
0,0028
1.4
0,9603
2,4
0,999973
0,6
0,1357
1,6
0,9888
2,6
0,9999964
0,8
0,4558
1,8
0,9969
2,8
0,99999966
Из этой таблицы видно, что неравенство Р^2,4/]Лп может Рассматриваться как практически достоверное. Кроме того, оказывается
Ф (0,83) ~ 0,5.
Если X мало, то ряд (1) сходится очень медленно; в этом случае можно использовать асимптотическую формулу
ф (X) ~,
При X = 0,6 эта формула дает
Ф (0,6) - 0,1327
вместо значения
Ф (0,6) - 0,1357,
вычисленного посредством точной формулы (1).
Лемма. Функция вероятности Фп (X) не зависит от функции распределения F (ж), если последняя предполагается непрерывной.
Доказательство. Пусть X — случайная величина с непрерывным законом распределения F (ж); случайной величине У = = F (X) соответствует, очевидно, закон распределения F^ (ж), такой, что
F^ ^ = 0, х < 0;
F^ (х) = х, 0 ^ х ^ 1;•
М°>(я) = 1, ж>1.
Если Fn (х) и F^ (х) представляют эмпирические законы распределения X и У по п наблюдениям, то верны следующие равенства:
Fu И) -F^ = F^ [F (ж)] - F^ [F (ж)] = F^ (у) - F^ (у),
sup |Fn(») — F^ |.= sup | ^0) (у) - ^<°> (y) |.
Отсюда вытекает, что функция Фп (X)., соответствующая произвольной непрерывной функции распределения F (ж), идентична той, которая соответствует функции F<°) (ж). Поэтому при доказательстве нашей теоремы можно ограничиться случаем F (х) = F<0>> (ж).
В дальнейшем вместо F^ (х) будем писать Fn (х) и ограничимся значениями х в отрезке 0 ^ х ^ 1, где F^ (х) = х. Тогда наша задача сводится к нахождению вероятности Фп (X) неравенства
sup | Fn (ж) — х | < Х/У п^ 0 ^ х ^ 1.(2)
Пусть X имеет вид
X = |л/"Уп,
где ц — целое число. Подставляя в (2), получаем
OnW^Pfsupl^^-^K^-}, % = -^.(3)
функция F^ (х) принимает лишь значения, кратные Мп; пусть^ например, F^ (я) = Ип и х = jin + s (0 < 8 < Мп\ Принимая во внимание, что Fu (ж), будучи функцией распределения, является монотонной функцией, получаем немедленно
^ (4г) “ "Г < ^- (Ж - 8) =^ (4г) “ "Г < ^- (Ж - 8) =i — i пi — i п
^ (4г) “ "Г < ^- (Ж - 8) =
^ (4г) “ "Г < ^- (Ж - 8) =
i — i п
i — i п
Поэтому для выполнения неравенства
17?п(ж) — ж | — |~ 81 > 4г
необходимо, чтобы выполнялось по крайней мере одно из следующих неравенств:
г / / \/1 - // И*
Г т,
п\ п / п пп ’
F + 1 _ / + 1 > ^ - / - 1 > п\ п / ПпП '
Отсюда следует, что формулу (3) можно заменить следующей:
Фп (X) = Р {шах | F„ (4-) - 41 < 4} , i = 0,1,..., п. (4)
Пусть теперь Pi1t — вероятность события EiKl состоящего в одновременном выполнении соотношений
I Fn kih^ — 7'/^ I < |1М, 7 = 0, 1, . . ., к;
I Fn (к/п) — к/п | = t/п.’
Заметим, что
Фп ^ = Роп. .<6)
При к = 0, очевидно, имеем
^00 = 1,Ри-о ki^^Y(7>
Вообще
Рп. - 0(8)
пРи | / | > р,, цоскольку в этом случае неравенства (5) противоречиВЫ- Далее,
Лн1=5^<2^, ПКи,(9)
где Q^ обозначает вероятность события £^+1 при условии, что выполнено событие Е^, т. е. вероятность равенства
(Ю)(Ю)
(Ю)
(Ю)
при условии
(Н)(Н)Еп (k/п) = (£ + ]>•
(Н)
(Н)
Соотношение (11) означает, что из результатов п наблюдений Хъ Х2, . . ., Хп ровно п — к — / попадают в промежуток к/п<^ <^ х ^ 1; равенство (10) может поэтому выполняться только в том случае, когда i — / + 1 из указанных п — к — / результатов наблюдений находятся в промежутке к!п < х ^ (А + 1)М.
При условии, что Хт имеют равномерное распределение, получаем следующее выражение для искомой вероятности:
(12)(12)
(12)
(12)
Формулы (7)—(9), (12) и (6) позволяют найти вероятность ФП(А) в случае X = ji/l^n.
(13)(14)(15)(13)(14)(15)Эти формулы можно заменить другими, более удобными. Для этого положим-
(13)
(14)
(15)
(13)
(14)
(15)
Условия (7) и (8) переходят в следующие: 7? о о = 1» ^io = 0,, I =И=0;
Rut = 0| I И,
Соотношение (9) после элементарных вычислений сводится к формуле
Щи = XRjk (;-/+■!)! е 4(16)
Наконец, из (6) и (13) получаем
■ Фп(Х) = 4-е”7?оп.(17)
Формулы (14)—(17) также позволяют найти Фп (А,) в случае А, =
Пусть теперь У17 Y2l . . ., Yn — последовательность взаимно независимых случайных величин с законом распределения, характеризующимся формулой
(18)(18){7 „
(18)
(18)
Yk = -—- =-Le-\ i = l,2,...
Если положить
Sk = ^1 + ^2 + • • • + Yk,
т0 легко убедиться, что вероятность Rik одновременного выполнения соотношений
I Sj | < И» 70, 1, . . ., к,(19)
Sk = ^/р»
удовлетворяет тем же условиям (14)—(16), что и R^; другими словами, Rut = Rut- Это позволяет дать асимптотическое выражение для Rut при п -> оо. Для достижения этой цели может служить следующая общая
Теорема II. Пусть Yln Y^, . . ., Yu — последовательность, взаимно независимых случайных величин, принимающих лишь кратные постоянной е значения.
Пусть
Е (У.) О, Е (У,2) = 26ь Е ( | У3 | ) ^ dk,
- Ут + У2 + . . . + Уь
^ — ьТ + 62 + ... + bk
и a (t), b (£) — непрерывно дифференцируемые функции, удовлетворяющие неравенствам
a^<b (t), а (0) < 0 < b (0).
Обозначая Rin вероятность одновременного выполнения соотношений
а (^) < Sk < b (tk), k = 1, 2, . . ., п,
и и (о, т, s, ^) функцию Грина уравнения теплопроводности
djldt = д^/дз2
в области G, определяемой неравенствами a(t)<s<b (t),
имеем
Rtn = в* Vй (0, 0, is, ^) + A},
где Д равномерно стремится к нулю вместе с г, если выполняются следующие условия*.
a (t) и b (£) остаются постоянными, a tu ограничены фиксированными пределами
°<T1<tu<T2;■
существует постоянная С > 0 такая, что
d^/b^С8^
существует постоянная К )> 0 такая, что для любого к можно найти i^, для которого удовлетворяются неравенства '
р {Ук = ^} > К, Р {^- = кН + 1) 8} > К;
существует постоянная А такая, что
а ^ + А <is<b (£п) — А.
В остальном величины Y^, а также их количество п и целое г могут произвольно зависеть от 8.
Эта теорема относится к тому же кругу идей, что и теорема, изложенная в моей заметке [3].
Впрочем, утверждение сформулированной выше теоремы является более точным: теорема в указанной заметке позволила бы утверждать лишь, что
2 Rin = $ “ (0, 0, Z, tn) dz + А’,
i=Pре
где Д' стремится к нулю вместе с 8 при выполнении условий а) и Ь). Условие с), являющееся существенной частью нашей новой теоремы, уже использовалось фон Мизесом в аналогичных рассмотрениях.
В нашем случае
8 = 1/|Л,'
Е kY^ = 0, Е к^ = 2Ьк = 1/р2, Е (У?) = dk = С>\
dk/bk = С/р = Се, tn = n/2p3 = 1А2, а (0 = -1, b (О = +1,
Д№=е{и(0,0,0,-1-) + д},'.
4-оо(s-ik)1
фп(Ь)=Ро»=-^яоп =
= |^ + 6)А{^£(_1)-г.™ + Д} =
= ^(-l)ft ri^+ Л = фрНК-
Остаток R в этой формуле стремится равномерно к нулю при п -> оо в случае, если X больше некоторого определенного Хо > 0.
Действительно, в данном случае s = 1/р = M^Vп) стремится к нулю при п -> оо.
Утверждение теоремы I, таким образом, доказано для значений X вида |л/У ^ и при условии Х>Х0. Поскольку предельная функция ф (X) непрерывна и имеет предельное значение Ф (0) = 0, то легко видеть, что указанные ограничения несущественны. К вопросу доказательства теоремы II мы предполагаем вернуться в следующей заметке.
ЛИТЕРАТУРА
Mises R. von. Wahrscheinlichkeitsrechnung und ihre Anwendung'in der Sta- tistik und theoretischen Physik. Leipzig; Wien: Fr. Denticke, 1931.
Glivenko V. Sulla determinazione empirica delle leggi di probabilita.— G. 1st. ital. attuar., 1933, vol. 6, N 1, p. 92—99.
Kolmogoroft A. Eine Verallgemeinerung des Laplace—Liapounoffschen Sat- zes.— Изв. АН СССР, OMEH, 1931, c. 959—962.
16
0 ПРЕДЕЛЬНЫХ ТЕОРЕМАХТЕОРИИ ВЕРОЯТНОСТЕЙ
Основополагающие идеи П. Лапласа [1] и П. Л. Чебышева [2], как известно, были обобщены после работ А. А. Маркова [3] и А. М. Ляпунова [4] в весьма общем утверждении (так называемая теорема Ляпунова) о пределе распределения вероятностей для суммы большого числа малых независимых случайных величин. В дальнейшем исследования А. А. Маркова [5] и С. Н. Бернштейна [6] показали, что аналогичное утверждение во многих случаях справедливо и для сумм не полностью независимых величин. Эти обобщения в особенности важны для приложений, но принципиально они не идут много дальше: во всех случаях, исследовавшихся этими авторами, лишь мало удаленные друг от друга слагаемые сильно зависят друг От Друга, но если разложить сумму на достаточно длинные частные суммы, то последние будут уже почти независимы. Гораздо дальше идет дву- (и много-)мерное обобщение теоремы Ляпунова на случай сумм случайных векторов, впервые строго обоснованное С. Н. Бернштейном [6].
После всех этих исследований осталось еще определить неизвестные даже в простейшем случае независимых слагаемых предельные значения вероятностей разного рода, связанных со всем набором частных сумм данной последовательности случайных величин.
К этой области во всяком случае относятся старые результаты П. Лапласа и С. Пуассона [7] о вероятности разорения игрока которые нашли продолжение в исследованиях П. Леви [8]. Недавно я опубликовал одно общее утверждение подобного рода [9]. Некоторые частные двумерные проблемы аналогичного типа между тем были исследованы Р. Люнебургом [10]. В обеих из последних работ выяснена связь, существующая между этими проблемами и дифференциальными уравнениями теплопроводности [И].
Несколько месяцев назад И. Г. Петровский в Москве нашел общий метод, который в весьма общей ситуации сводит к соответствующим дифференциальным уравнениям теоретико-вероятностные задачи о суммах малых случайных величин. В настоящей работе этот метод будет применен к доказательству теоремы Ляпунова (§ 1) и моей вышеупомянутой теоремы (§ 2 и 3). Приложения к задаче блуждания можно найти в еще неопубликованной работе И. Г. Петровского, существенно обобщающей постановки задач Р. Люнебурга.
По-видимому, метод может быть также применен, когда закон распределения каждого слагаемого яй+1 зависит от суммы 5^ = ^ + + ^2 + • • • + ^fc всех предыдущих слагаемых. Этот случай является решающим для строгого математического обоснования теории диффузии, когда внешние силы, а также коэффициенты диффузии являются функциями точки. При этом пришлось доказать, что законы распределения сумм могут быть приближенно представлены соответствующими решениями дифференциального уравнения Фоккера—Планка [12, 13].
Пусть
#1» ^2» • • *7 ^п
— независимые случайные величины с математическими ожиданиями
Efe) = 0,Е(^.) = 2Ьь Е (| ^ Р) = ^
и пусть при этом отношения d^ : bk по своей величине равномерно ограничены фиксированной постоянной
«Wb* < ц.(1)
Из (1) в силу хорошо известного неравенства моментов Ь® ^ d2 вытекает, ^ло
Ь» < и2.(2)
Положим, далее,
^1 Н- *^2 + •••“[” ^к — ^, su St
bi + b^ + . . . + bk = t^ tn = T.
Пусть Т фиксировано (а п меняется); тогда теорема Ляпунова утверждает, что
Р {а <8 < 6} = —^ е-^т ds + QR (^ 191 < 1?(3)
где Р обозначает вероятность выполнения неравенства в скобках, а 7? (и) стремится к нулю вместе ср.•
Чтобы доказать это, рассмотрим вероятность
Рк (s) = р {« < 8 — з^ + s < 6}
с тем, чтобы в предположении 5^ = 5 сумма 8 содержалась между а и Ь. Искомая вероятность Р {а < 5 < 6}, очевидно, совпадает с р0 (0). Р^ (s) удовлетворяет уравнению
Рц ($) = J Pfc+1 (s + я) ^+1 (^), к = 0, 1, 2, . . ., п — 1,(4)
где Т^ — функция распределения ^+1, а интеграл берется от — оо до + оо. Кроме того,
Рп (s) = 1, если а < s < Ъ,(5)
Рп (s) — 0, если s ^ а или s > 6.
Начальные условия (5) и уравнение (4)однозначно определяют Рк (s)
для всех к (0 ^ к ^ п).-
Назовем Р* (s) верхней функцией, если выполнены неравенства
р* ($) > У Pti (s + Ж) dT^ (ж),(6)
р* (s) > Рп (s).(7)
Нетрудно проверить, что неравенство
Р* (б) > Р. (8)(8)
сохраняется и при к<п. Аналогично определяются и нижние функции. Мы хотим построить теперь функцию и* (s, t), которая для каждого достаточно малого ц приводит к верхней функции
Р* (s) = и* ($, У-■.(9)
С этой целью сначала мы определим четырежды непрерывно дифференцируемую функцию v (s), которая удовлетворяет следующим неравенствам:
v (s) = 0,s ^ а — е, •0 ^ v (s) ^ 1, Ъ ^ s ^ Ъ + е,
0 ^ v (s) ^ 1, а — е ^ s ^ a,, v (s) = 0,b + е ^ s.
^(s)-l,a<s<6,.-(Ю)
Пусть теперь
“ (»» Z) = 21Лл(Т-<) 5 у (s + ж) e-*WT-t> dx,(Н)
и* (s, t) = й (s, t) + e (T — f).(12)
При этом в (10), как и в (12), 8 > 0. Функциями (s, f) удовлетворяет (при t ^ Т) дифференциальному уравнению
du/dt = —d*u/ds*(13)
и ее производные до четвертого порядка по s и второго до t ограничены. Пусть М— верхняя граница этих производных. Если определить функцию Р* (s) по формуле (9), то получим
Р* (s) = и* ($, П = й (s, Г) = и (s) > Рп (s). .
Таким образом, условие (7) выполнено. Поэтому достаточно доказать (6) для малых ц. С этой целью рассмотрим разность
Д = Pt (s) - J P^i (S + X) dTH1 (ж) = 8 (Г - Z6) + Й (s, t6) -
— e (7 — tk+O — ^ й (s + X, tk+O dTk+i (.oc') = 8 (ffc+1 — tk) +
+ й (s, ^) — ^й(s, 1кл.О + -^- й (s, tk^ i + -^-6(s, tk+i) -£ +
+ 0Л/|ж3 |j dPk+i (x) = sbk+1 + й (s, ^) — й (s, tk-n) —
8^" (S’ ^к*^ ^k+1 +^fc+1’(^^)
|6|<1. I 6' I<1-
Но поскольку
й (s, t^ — “ (s. ^+1) =
=^"Й (s, tk+iX^ln-i — ^s) + 9"-^ (^fc+i — ^k)2 =
= —^* й (s, tk+i) bk+i + 9W Mbk+iV?,
|e'|<i, |ew|<i,
то из (14) с учетом (1) и (13) следует, что
Д = ebk+lL + {— -^"«(s, ^+1) — -^- й (s, ^+i)J bk+1 + eIVA/6fc+iH +
+ e^M^rtH2=bkvi (e + е^л/ц + е^л/ц2),(15)
I oiv । < i.
Из (15) непосредственно следует, что если р. достаточно мало, то
Д > 0,
что и доказывает условие (6). Поэтому для достаточно малого р Р* (s) является верхней функцией, и выполнено неравенство
Р И < Sn < 6} = Ро (0) < Р*о (0) = и* (0, 0) =
ь
= еТ Н^=- и (ж) e-'W dx = —^=- У е'^" dx + 7?, (16)
причем R при соответствующем выборе 8 сколь угодно мало. Рассмотрение нижних функций дает обратное неравенство, и таким образом наша главная формула (3) полностью доказана.
§ 2. Пусть теперь a (t) и b (^) — четырежды непрерывно дифференцируемые функции t, удовлетворяющие условиям
а (0 < Ъ ^а^<0<Ъ (0).а (0 < Ъ ^а^<0<Ъ (0).(17)(17)
а (0 < Ъ ^а^<0<Ъ (0).
а (0 < Ъ ^а^<0<Ъ (0).
(17)
(17)
Спрашивается, какова вероятность Р выполнения всех неравенств
а М < 8К < b (^), к = 1, 2, 3, . . ., п.(18)
Неравенства
0 < t < Т, а^<8<Ь^(19)
определяют в плоскости (s, t) некоторую область G. Пусть и (s, t) — ограниченное решение уравнения
du/dt = —druids2(13)
в этой области G с граничными условиями
и^ Т) = 1, а (Г)<5< Ъ (Г),
и [а (0, ^ = 0, 0 < t < Т,.(20)
и [6 ^. н = о, о < t < т.
Наша цель — установить, что
Р - и (0, 0) + 9Я (р), I 6 |< 1,(21)
причем R (р,) стремится к нулю вместе с р,.
Рассмотрим для этого, общее, вероятность РК (s) того, что неравенства
^^^<81-8к+8<Ь^(22)
выполнены для всех I, к <^ I ^ п. Искомая вероятность равна Ро (0) Если
^ (М <s<b (^э к<п.(23)
То Р/с (s) удовлетворяет тому же уравнению
РК (S) = у Pte+1 (S + х) dTm (х},(4)
что и в § 1. Вместо условий (5) теперь появляются следующие:
Ри (s) = 1, если а (7) < s < 6 (Г),(24)
Ри ($) = 0, если s < а (Т^) или s^ b (Т^.
Уравнения (4) и (24) однозначно определяют Р^ (s) для всех
к (0 ^ к ^ п\
Назовем теперь Р* (s) верхней функцией, если из (23) следует неравенство
Р* (s) > J Pt«. (s + Ж) dT^ (ж)(25)
И
Pt (s) > 1 дляа (Г) < s < 6 (Г),
Р* (») > 0 для s ^ а (Т^ и соответственно's > 6 V^n)-
Как и в § 1, доказывается, что при к < п остается справедливым неравенство
Pt (s) > Р, (s).
Чтобы построить верхнюю функцию, нам потребуется функция й (s, ty
которая определяется в области G как решение дифференциального уравнения (13) со следующими граничными условиями:
u^T^i, ЦТ)<8<ЦТ\
и {а (t), t} = v (t), 0 < t < T,(27)
й {b (^), t^ = v (£), 0 < t < T,
причем и (£) — четырежды непрерывно дифференцируемая функция, которая удовлетворяет условиям
v (f) = 0, 0 ^ t ^ Т — е,
о < V ^t) < 1, Т — 8 < t < Т,(28)
v (^) = 1, v' (Г) = tf (Г) = 0.
Поскольку й (s, ^) (в том числе и на границе G) имеет непрерывные производные до четвертого порядка, то можно так продолжить эту функцию вне G, что производные по s до четвертого порядка останутся ограниченными во всей плоскости (s, t) и всюду
(s, t) ^> — е.(29)
Теперь положим
и* (s, t) = й (s, t) + 8 + в (Т — t),(30)
Pt (s) = и* (s, ^).(9)
Доказательство того, что Р* (s) для каждого достаточно малого । является верхней функцией, остается, если не считать очевидных изменений, тем же, что и в § 1. Таким образом для указанных ц по
лучаются неравенства
Р = Р» (0) < Р* (0) = и* (0, 0).
и* (0, 0) стремится к и (0, 0) при е -> 0. Для завершения доказательства формулы (21) остается провести в целом аналогичные оценки вероятности Р снизу, что достигается с помощью того же метода для нижних функций.
a (tt) <st<b (tt),a (tt) <st<b (tt),t = 1, 2, . . ., к — 1,t = 1, 2, . . ., к — 1,(31)(31)§ 3. Пусть теперь Р1^ и соответственно Р^ обозначают вероятность существования такого к, что ,
a (tt) <st<b (tt),
a (tt) <st<b (tt),
t = 1, 2, . . ., к — 1,
t = 1, 2, . . ., к — 1,
(31)
(31)
Sit ^ ^ (^/r),
и соответственно
a (^) < Si < b (tt),a (^) < Si < b (tt),i - 1, 2, . . .,k — 1,i - 1, 2, . . .,k — 1,b (tn)b (tn)Su,Su,
a (^) < Si < b (tt),
a (^) < Si < b (tt),
i - 1, 2, . . .,k — 1,
i - 1, 2, . . .,k — 1,
b (tn)
b (tn)
Su,
Su,
и наконец, P (ж, у) — вероятность того, что выполнены все неравенства■
а (^) <
С Sit < b (tjt), к = 1, 2, 3, . . .,
п — 1,
(33)
т < sn причем а
Тогда
PW =
< У, (Т)<Ж<у<Ь (Т). выполнены предельные соотношения uW (0, 0) + ^х№ (р), | 0W | < 1,
(34)
Р(2) =
и^> (0, 0) + Q'.^RW (р), | 9(2) |
< 1,
(35)
Р (*, у) = их,у (0,0) + ет? (р), |9|
<1,
(36)
причем RW (р,), д 2) (^ и д (^j стремятся к нулю вместе с р и
uW (S) t), U^ (s, t) и ux, у (s, t)
ограниченные решения дифференциального уравнения (13), которые определены с помощью следующих граничных условий:
и^ (s> Г) _ о, а < S < Ь,
П(1) {а(0,0= 1,о <t <Т,(37)
uW {^(0,0= о,о <t <т,
(8,^ = 0, a<s<b,'
и№ {«(0,0= 0,0 <t <Г,
{Ь(0,0= 1,0 <t <Т,(38)
иХ1 у (s, Т) = О, ^Х, У ($1 Г)1 ,иХ1 у (s, Т) = О, ^Х, У ($1 Г)1 ,а < s < х, х •< s <L У,а < s < х, х •< s <L У,Ux, У {« (О, О = О, О < t < Т,их,у {Ь (О, 0 = О, О < t < Т.
иХ1 у (s, Т) = О, ^Х, У ($1 Г)1 ,
иХ1 у (s, Т) = О, ^Х, У ($1 Г)1 ,
а < s < х, х •< s <L У,
а < s < х, х •< s <L У,
(39)(39)ux,y(s,T) = Q, y<s<b,
(39)
(39)
Доказательство остается тем же, что и в § 2. В моей вышеупомянутой работе [9] для этих же величин и(1) (0, 0), и^ (0, 0) и и^у (0, 0) получены другие выражения .
Днепропетровск, 8 июня 1932 г.
ЛИТЕРАТУРА
Laplace Р. Theorie analytique des probabilite. 3 ed. Paris, 1886.
Tchebycheff P. L. Sur deux theoremes relatifs aux probabilites.— Oeuvres de Tchebycheff. St.-Petersb., 1907, vol. 2, p. 481—491.
Марков А. А. Закон больших чисел и метод наименьших квадратов.— Изв. физ.-мат. о-ва при Казан, ун-те, 1898, т. 8.
Liapounoff А. М. Sur une proposition de la theorie des probabilites.— Bull. Acad. sci. St.-Petersb., 1900, vol. 13, p. 359; Nouvelle forme du theoreme sur la limite de probabilite.— Mem. Acad, sci., St.-Petersb., 1901, vol. 12, N 5.
Марков А. А. Распространение предельных теорем исчисления вероятностей на сумму величин, связанных в цепь.— Зап. Акад, наук, 1910, т. 22.
Бернштейн С. Н. Распространение предельной теоремы теории вероятностей на суммы зависимых величин.— УМН, 1944, вып. 10, с.65—114 (рус. пер. из: Math. Ann., 1926, Bd. 97, S. 1—59).
Poisson S.-D. Recherches sur la probabilite... Paris, 1837.
Levy P. Nuove formule relative al giuoco di testa e croce.— G. 1st. ital. attuar., 1931, vol. 2, p. 3.
Kolmogoroff A. N. Eine Verallgemeinerung des Laplace—Liapounoffschen Satzes.— Изв. АН СССР, OMEH, 1931, c. 959—962.
Luneburg R. Das Problem der Irrfahrt.— Math. Ann., 1931, Bd. 104, S. 700.
Courant R., Friedrichs K.^Lewy H. Uber die partiellen Differenzengleichungen.— Math. Ann., 1928, Bd. 100, S. 32—74.
Fokker A.— Ann. Phys., 1914, Bd. 43, S. 812.
Plank M.— Sitzungsber. Preuss. Akad. Wiss., 1917, 10. Mai.
Kolmogoroff A. N.— Math. Ann., 1931, Bd. 104, S. 415, особенно § 12—14.
17■
К ТЕОРИИ НЕПРЕРЫВНЫХСЛУЧАЙНЫХ ПРОЦЕССОВ
Пусть ® — физическая система с п степенями свободы; это значит, что допустимые состояния х системы в образуют риманово многообразие 91 размерности п. Процесс изменения системы ® называется стохастически определенным, если при произвольном выборе состояния х, области @ (в 91) и моментов времени t' и I" {f < Г) определена вероятность Р ^tr, х, f, @) того, что в предположении состояния х в момент времени V в момент времени £" имеет место одно из состоянии из @. Дальше предполагается, что вероятность Р (tf, х, t", 6) может быть представлена формулой
P(Ax,f,6) = $/(f,a;,r,?/)d71/,(1)
где dVy обозначает элемент объема. Функция / (^’, х, t”, z/) при этом должна удовлетворять следующим фундаментальным уравнениям:
$=(2)
/(<1, х, t3, у) = ^ f(h, X, 1^ гИ^^ ;з, yWzi ti<t4<t3.(3)
Интегральное уравнение (3) было исследовано Смолуховским и затем некоторыми другими авторами х. В работе «Uber die analy- tischen Methoden in der Wahrscheinlichkeitsrechnung» 2 я доказал при определенных дополнительных условиях, что функция / (£', х, Г, у) удовлетворяет определенным дифференциальным уравнениям параболического типа 3. Но в А. М. изложение проводилось полностью только для одномерного случая. Кроме того, в А. М. не был дан ответ на вопрос 4, в какой степени функция / (£', х, t", у) однозначно определяется коэффициентами A (t, х) и В (£, xY В данной работе
теория развивается в общем случае риманова многообразия Ж и вопрос единственности решается положительно в случае замкнутого многообразия 91.
§ 1
ПЕРВОЕ ДИФФЕРЕНЦИАЛЬНОЕ УРАВНЕНИЕ
Итак, пусть 91 — риманово многообразие размерности п. Функция / (f, х. V, у) в силу ранее сделанных предположений определена для t' < t" и любой пары точек х. у. Предполагается, кроме того, что / (f, х. I”, у) имеет непрерывные производные до третьего порядка по всем аргументам (£', I" и координатам xv х^ . . .^ хп, уъ у^ . . . • • •-> Уп точек х и у) и удовлетворяет условию непрерывности
/ Ц, х^ t + A, z) р3 (ж, z) dV^
^_0, Д-*0,(4)
\ / ((, х^ t + А, 2) р2 (ж, z) dVx
где р ^х. z) обозначает геодезическое расстояние 6 между х и z.
Пусть в окрестности 91 точки х выбрана система координат z = = (^, . . ., zn). Мы тогда положим
/ (s, х, s + A, z) (Zj — х^ dVz = а{ (s, х, А),(5)
5 / (s, X. s + A, z)^ — х^ ~ХУ dVz = bq (s, х, A),(6)
§ f(s, xs s + A, z)p2(£, zydVz = P(s, x, A),(7)
/ (s, x, s + A, 2) p3 (ж, 2) dVz = v (s, x, A).(8)
Наша цель — доказать, что отношения
аг (s, х. A)/A,bq (s, х, А)/А
при А -^ 0 стремятся к независимым от окрестности 91 пределам Аг (s, х) и Bq (s, х). Это в дальнейшем доказывается в предположении, что все N = п + п (п + 1)/2 функций
дх^ Jдх^дх. J х
от у и t (при фиксированных s и х) линейно независимы, т. е, что tv yv t^ у^ . . ., ^, у^, . . ., In» ум можно выбрать так, чтобы
определитель
дv
-^-/(»,3-Ль №:)
Dn (s, ж) =
ах^ах. f^^^ У^ г 3
был отличен от нуля.
В окрестности 91 имеем
р3 (ж, z) = 2gU (zf — Xi) (Zj — Xj) + 0p3 (ж, z), | 0 ! < C, а вне окрестности 9( очевидным образом имеет место
р2 (х, z) = 0'р3 (х, z), | 0'| ^ С",
где С", как и С,— константа, не зависящая от z. Следовательно, имеет место
Р (s, х, А) = ^ f(s, х, s + A, z)p2 (г, z)dVz =
= 3 gii 5 7 (», я, s + A, z)(Zj — x^Zj — Xj) dVz + 81
+ § / (s, x, s + A, z) ©p3 (ж, z) dVz +
+ § f(s, x, s 4- A, z) ©'р3(ж, z)dVx =
=5^АД».^Д) + ^($,ж,а), i©’КС’.(io)
Но так как по условию непрерывности (4)
Р (s, ж, А)v (s, х, А)Р (s, ж, А)v (s, х, А)-|- оо,А —^ 0,-|- оо,А —^ 0,(И)(И)
Р (s, ж, А)v (s, х, А)
Р (s, ж, А)v (s, х, А)
-|- оо,А —^ 0,
-|- оо,А —^ 0,
(И)
(И)
из (10) вытекает соотношение
SVi/s,^ A) tv (s, ж, А)SVi/s,^ A) tv (s, ж, А)А-^0.А-^0.(12)(12)
SVi/s,^ A) tv (s, ж, А)
SVi/s,^ A) tv (s, ж, А)
А-^0.
А-^0.
(12)
(12)
Мы теперь рассмотрим при фиксированных х, у, s, т, t, s < т < t только настолько малые А, чтобы было $ + А < т. Тогда функция / (s + A, z, t, у) и ее производные по z до четвертого порядка в окрестности 91 равномерно ограничены и непрерывны (предполагается,
что 31 компактно). Следовательно, для любой точки z из 91 имеет место
/(s + A, z, t, у) — f(s 4- А, ж, #, у) = ^ (z{ — хО-^Цз + МЛзМ
+ "T^Zi — XiXzi — ^j) "8^7 Hs + ^^ У) +
+ 0р3(ж,г), I O|<c,(13)
где константа С не зависит от А и z. С другой стороны, из фундаментального уравнения (3) следует равенство
/ (s, х, t, у) = § / (s, х, s + A, z) f (s + △, z, t, y) dVx = st
= 5 / (s, x, s + A, z) / (s + A, X, t, y) dV z +
+ 5 /(s, x. s + A, z) {/ (s + A, z, t,y) — f(s + A, x, t, y)} dV x +
+ $ /($,£,$ +A, z){/($ + k,z,t,y)~ f(s + \x,t,y^dVz = R-51
= A + A + A«(14) ।
Ho (2)
Л = $ /($, x,s 4- A, z)/(s + A, X, t, y)dVx =
= /(s + A, x, t, y)^ /(s, x, s + A, z)dVx = /(s + A, x, t, y).(15)
Далее, из (13), (5) и (6) следует
Л = ^ /(s, X, s + A, z^j^s + A, z, t.y^ — f^A- А, X, t, у)} dVх ==
= §/($, ж,» +A, z)|^(Zj — Ж^-^-/(5 4-Д, Ж, <, ?/) +
51г
+ 4" У, (Zi — $iXzj — ^) a^Lj ■ / (s + А»х'г’ 2/) +
+ вр3(ж, z)|ЗУг = У «i(s, ж, А) 4;iksA-^^^i^A-
+ 4- У Ь« (s>х'Д) -^7 ^ + А’ ж’1' ^ +
+ ^ / (»,ж,5 + A, z) 0р3 (ж, z) dVx.(16)
Наконец, так как в 91 — 31 всюду
р3 (я, z) )> ^ > О,
где К не зависит от z, то в 91 — 31 можно положить
/ (s + A, z, t, у) — / (s + Л, х, t, у) = 0'р3 (ж, z).
Тогда имеет место
7з = ^ ^’ ^’s + Д’ ^ ^(s + Д’ *’ ^ У) /(s + Д> х' ^ У)> dVz = ft-2I
= J /(5,ж,5 + Д,2)0'р3(ж,г)^, |0'KC' = -^.(17)
ft-я
После подстановки (15)—(17) в уравнение (14) получается, наконец, /($, ж, ;, у) = /($ + Д, ж, Лу)+ У a, (s, ж, Д) ~^f(s + Д, ж, t, у) +
+ 4"^^^’ х' А^цк. ^S + A> ж'г' У) +
+ ^ /(«, Ж, S 4* Д» Z) 0"р8(ж, z)dVz, |0''|<С".(18)
ft
Если учесть еще очевидное равенство;
§ / (s, х, s + A, z) 0"р3 ^х, z) dVz = 0'" ^ / (s, х, s + A, z) p3 (ж, z) dVx = &ft
= 0'v(5,^,A), |0"z|<cw»
то соотношению (18) можно придать следующий вид:
- ^ 1,5 'Yа>-1^ -я»+^ - е" . («)
Левая часть в (19) при А ->0 стремится к -^-/ (s, х, t, у\
Пусть для ^, уъ t^ у^ . . ., tn, yN определитель DN (s, х) отличен от нуля. Тогда при достаточно малом А также и DN (s + А, х) ^= 0. Следовательно, можно найти такие Х^ (А), Д = 1, 2, . . ., N, чтобы было
к (Д) -^- / (S + Д, ж, tk, yk) = “и
k4(20)
Ч (А) -ет“ / (® + А’ х’ ^’ У^ = “ir
1сг 3
Если уравнение (19) для t = t^ и у = ^ умножить на Х^ (Л) и все N возникающих таким образом равенств сложить, получится
У о.- (д)кУ о.- (д)к/ С$ + △, х, t^, у^ — / (s, ж, tk, у^
У о.- (д)к
У о.- (д)к
Д
a^s,^,^у-,Ъ^(8,х, Д) уч ,Axia»v(s, х, Д)
—' ” < 'д / : аУ 2Д / ■ ^^^ Д •
гг, з, к
(21)
Если Д стремится к нулю, величины Х^ (Д) как решения уравнений (20) стремятся к решению Х^ (0) уравнений
у, Н (°) "^Ж ж> ^> №) = а»
к53(22)
У (0) -9^~ / (S. ж, ^. №) = «У
кг 5
Левая часть (21) имеет, следовательно, при Д -> 0 конечный предел
Л0 = У М°)-^-/(5>Мл,М(23)
В частности, если положить az = 0, af7 = gijs то получается
S^yM8-^^ +у Х&(Д)0^^-^L Ло, Д0.(24)
Вейлу ранее доказанного соотношения (12) второй член в (24) бесконечно мал по сравнению с первым (так как Х^ (Д) остаются ограниченными). Следовательно, имеем
(25)(25)(26)(26)^8цЪц ($, х. Д)/2Д -> Ло, Д -> 0.
(25)
(25)
(26)
(26)
Но из (25) и (12) следует
v (s, х. Д)/Д -> 0, Д -> 0.
Если сейчас в (21) все коэффициенты af и а17-, кроме одного, положить равными нулю, то путем аналогичного предельного перехода с использованием (26) получается, что все^пределы
Лг (s, ж) = lim——д, Д —> 0,(20 ■
В^ (s, ж) = lim —^^—^-, Д —> 0,(28)
существуют и не зависят от выбора 7 окрестности 51. Из (27), (28), (26) и (19) уже непосредственно следует первое дифференциальное ■уравнение
4;^s'^) = — ^^Ш ж) Д/(«> ^>z> У) —
— ^ва^х)-а^т!^ х, t, у).(29)
Условие, что Dn (s, я) не обращается тождественно в нуль, можно, конечно, заменить прямым требованием существования пределов (27) и (28), так как из (28) следует существование конечного предела (25) и тем самым соотношение (26).
То, что в некоторых исключительных точках пределы (27) и (28) могут не существовать, в А. М. было показано 8 следующим примером: 91 — обычная числовая прямая, и
, ,, хЗм2Г (и3— я3)2 "I/ол\
/($, ж, t, у) = ——■-.--- : ехру- ;(30)
для х = 0 легко получаем
b (s, х, Д)/2Д —> + оо, Д —> О, так что конечный предел В (s, х) не существует.
§ 2ВТОРОЕ ДИФФЕРЕНЦИАЛЬНОЕ УРАВНЕНИЕ
Теперь мы предположим, что в окрестности 51 точки у0 при заданном t пределы At (£, у) и Btj (£, у) существуют равномерно и что v (2, у, Дуд в 51 равномерно стремится к нулю. Пусть еще В (у) — обращающаяся в нуль вне 51 неотрицательная функция с ограниченными производными до третьего порядка. Тогда для у ЕЕ 51, 2 ЕЕ 51 имеем
R W = R ^ -V^y— ^ 4; R ^ +
+ ” ^ (Уг 2гХУз zj) dz^z- В ^
WM je'KC',(31)
тогда как для у ЕЕ 91 — 51 и z ЕЕ 51
R (у) = R ^ + 0"р3 (у, z), I 0" I < С";(32)
наконец, для у е Si — 9f, z е SI — 31 имеет место
__R^ = о.(33)
’ См. А. М., § 13, формулы (122)—(124).
См. А. М., § 13, формула (126).
Если в соответствующих областях R (у) заменить выражениями (31)—(33), получим
§-R(y)-^/(s, М,У)<^у =
= lit $ R ^ ^ (*’ ж’l’ ^ dVv = 1Г $ R ^ ^ <s’ ж’ *’ 4^11 =
= lim-^- ^ R (у) [/ (з, ж, t + А, у) — / (з, ж, t, у)] dV у =
= lim-i-{^ 7? (у) ^ / (з, ж, t, z)f(t,z, t + A, yWx dVy — №91
— ^ R (у) / (s, ж, t, y) dV^ =
= 1 im -^-1^ / (s, x, t, z) ^ R (y) / (t, z, t + A, y) dVy dVz —
— ^R^j (s, x, t, z) dV^ =
= I im -1-1^ / (s, x, t, z) ^ R (z) / (^, z, t + A, z/) dVy dV^ +
+ ^ / (s, x, t31+ ^ / (s, x, t31’^S rjj^i—^4z r^+a1’^S rjj^i—^4z r^+a1
+ ^ / (s, x, t31
+ ^ / (s, x, t31
’^S rjj^i—^4z r^+a1
’^S rjj^i—^4z r^+a1
+ 4" Z{yi - Z^yj - Zj) -^7 R^"\f(t^,t + A, y)dVy dVx +
4- ^ /(s, x, t, z) 0V (y, z) / (it, z, it + A, y) dVy dVz — 8191
^ 7?(z)/(s, x, t, z)dVz^ = lim-l-K /(s, x, t, z)R(z)dVz +
+ J/(s, ж, t, z)^yat(t,z, A)^-R(z) +
+ 4^buV,^ ^^R^dV.4-
+ 0 ^ / (s, x, t, z) v (^, z, A) dVz — ^ / (s, x, t, z) R (z) dV^ = 3131
= ( / (s, x, t, z) [^ Ai (#, z) A- R (z) + 312
+ 51вчУ, ^-^-R^,.
После замены в правой части этого уравнения z на у получается формул а
( Я (у) -^- / (s, х, t, у) dVy = J / (s, х, t, у) [^ Ai (t, Ч^-^-R кУ> +
»»г
+ Е ^(^у) "^7 R (у)] ^(34>
Теперь пусть предполагается, что Аг (Z, z) и S^ (£, z) два раза непрерывно дифференцируемы в 31. Мы тогда обозначим
Q kt, у) = I gtj (^ у) I
и получим после интегрирования по частям
^/(s, X, t, y^A^t, y^-^-Rky^dVy =
= \f (s. x.t, у) A^t, y)Q(t, у) -£— R (у) dyi dya... dyn =
= — $ -^- If (s, x, t, y) A^ (t, y)Q(t, y)] R (y) dyx dy»... dyn. (35> Я 2
Двукратное интегрирование по частям дает (так как все производные на краю 31 исчезнут)
$ / (8, X, t, у) By (t, у) -^— R (у) dVу =
91э
= 5 "^7 Vf (8, $3,у) вц (t, У) Q {t, у)] R (у) dyi dy2... dyn. (36>
Из (34)—(36) сразу следует
В (У) Q {t, у)-^1 (s, х, t, у) dyi dy2... dyu =
= \в(у) {"^"^7 [Л{^’ ^^^’У)^8’х’1' У)1 +
+ У, "э^-эу. [В a (t,y)Q (t, у) / (s, X, t, у)]} dyi dya... dyn.
Так как R (y^ кроме упомянутых выше условий, произвольно, отсюда легко можно заключить, что для внутренних точек 31 справедливо и второе дифференциальное уравнение
Q kt, У^1 кз, Ж'1’У') = — ^"^". lAi kt» У) Q kt, y)fk$, X, t, у)] +
+ y.^rVBij^y^Qkt^H^xj^^.(37)
Если для момента времени t0 задана дифференциальная функция распределения вероятностей, т. е. неотрицательная функция g Go, У) от Ui удовлетворяющая условию
$ g(to, y)dvv= 1,(38)
то функция распределения g G, у) для произвольного t^t^ дается формулой
g Vi У) = 5 g Go, я) / Go, х, t, у) dV х.(39)
Функция g (^ у) при этом удовлетворяет уравнению
е77 - - £ -^^ + Зт^адй-<40)
§ 3
ЕДИНСТВЕННОСТЬ
При замене системы координат коэффициенты Аг (s, ж) и В^ (s, ж) преобразуются следующим образом:
(41)(41)
(41)
(41)
При^этом всегда
5«= Иш-^^-^- = lim-T ^ f^, х, s + Д, z)(z, — жг)2^г > 0,
(43)
следовательно, квадратичная форма
SB^(44)
неотрицательна. Этот факт — решающий для доказательства следующей теоремы .
Теорема единственности!. Если 91 замкнуто, то уравнение (40) имеет не более одного решения g (t, у) с заданным непрерывным начальным условием g (£0, у) = g (z/).
Доказательство. Очевидно, достаточно рассмотреть начальное условие g (^0, у) = 0 и доказать, что тогда g (t, у) и для t > t0 равняется нулю. Уравнение (40) можно преобразовать к виду
Теперь положим
v (t, у) = g (t, у) e~ct.
функция v (t, у) удовлетворяет уравнению
~ = У В„ + У S^ + Tv-cv.(46)
dtгз ду^ 1дУг
При фиксированных t0 и 1г константа с может быть выбрана настолько большой, чтобы было
Т (t, у) - с < 0
для всех у и t, t0 ^ t С tv При этих условиях функция v (t, у) ни в какой точке (£, у), tQ < t << tv не может иметь положительного максимума, так как в таком максимуме было бы
dtдуггз ду.ду5 ’ V '’
что противоречит уравнению (46). Внутри данных границ также невозможен и отрицательный минимум и (£, уУ Так как при t = t0
v ta, У) = 0,
то, следовательно, мы получаем для tQ < t -< tT v (t, у) < max v (^, у) = e"ct^ max g (^, z/), g (^ У^ <e-^ti-t^ max g (^, z/).
Так как с было произвольно большим, отсюда следует, что
g(t, у) = 0.
Теорема единственности II. Пусть 91 замкнуто; тогда существует не больше одного неотрицательного непрерывногв‘ решения / (s, х, t, у) уравнений (2) и (3), которое удовлетворяет уравнению (29) с заданными два раза непрерывно дифференцируемыми коэффициентами Аг (^, г/) и В^ (^, г/) и условию непрерывности (4).
Условие непрерывности (4) может быть заменено следующим, ^олее слабым;
$ f(s<3c,t1y)^(x,yx)dVy->0, t-^s.(47)
Доказательство. Предположим, что две различные функции fT ($у х, t, у) и /2 (s, х, t, у) удовлетворяют всем нашим условиям..
Тогда можно было бы выбрать s и такую непрерывную функцию ^х\ чтобы функции-—1
gi (^, У) = $ g М /х (*, х, I, у) dV х,
g2 (*, У) = $ g (х) Н (s, X, I. у) dV х
также были различными. В силу условий (2) и (47) gx (t, у) и g^ (^ ^) при t -> s стремятся к g (у). Так как функции gx (t, y)]ig2(t,y) удовлетворяют уравнению (40), это противоречит первой теореме единственности.
§ 4
ОДИН ПРИМЕР
Следующий интересный и для приложений пример показывает, что квадратичная форма (44) не обязательно должна быть положительно определенной: 91 — обычная евклидова плоскость, и
,,,х 21/3f Ьн— #i)2
/ (s, Ху,t, У1, у2) = ^j^ ехр | - ^^^ -
3 [у2 — ^2 — (t— 8)(У1+ж2)/2Р'1/ZqX
(t -spJ •1 ;
Легко вычисляется, что
5ц = 1,5120,В22 = 0, Аг = 0,212 (5, х) = Хр
-§ 5
ПРЕДЕЛЬНОЕ РЕШЕНИЕ
Пусть 91 замкнуто, а / (s, х, t, у) всюду положительна и зависит только от разности t — s:
(49)(49)/ (5, х, t^y) = ф (t — s, x, у).
(49)
(49)
Тогда уже из общих эргодических теорем следует существование предельного распределения вероятностей. Другими словами, для любого распределения g (£, у), определенного равенствами (38) и (39), и любой области S имеет место соотношение
(50)(50)^^(^у)^-*^^), г-^ + оо, «
(50)
(50)
где Р (6) не зависит от выбора функции g (£0, у). Легко доказывает-
ся, что g (t, у) при больших t равномерно непрерывно. Из этого делается вывод, что 12
P(^=-^gWVyi(51)
g (t, У) “> g (У), t-^ + oo.(52)
При этом, очевидно, функция g (у), так же как и Р (6), не зависит от g (^о> #)•
Пусть теперь g (у) — решение уравнений
- Л -^Т Mi (у) Q (у) g кУ^А + £ -^- [Вц (У) Q (У) g (у)А = о,
(53)
$ gky}^y = ^-(53а)
Если положить g (Zo, у) = g (у), то легко убедиться в том, что и для t > t0 остается g (Z, у) = g (у) (см. уравнение (40) и теорему единственности I). Из этого делается вывод, что решение уравнений (53) и (53а) (если оно вообще существует) определено однозначно и совпадает с предельной функцией g (у).
Из (52) следует как частный случай
/ (5, х. М^ g (у), t -> + ОО.(54)
Клязьма под Москвой, 12 апреля 1932 г.
18
К ВОПРОСУ О ПРИГОДНОСТИНАЙДЕННЫХ СТАТИСТИЧЕСКИМ ПУТЕМФОРМУЛ ПРОГНОЗА*
§ 1. Рядом авторов (Экснером, Бауром, Визе) делались попытки посредством статистического анализа данных за прошедшие 30— 50 лет получить формулы, связывающие уклонение Ду того или иного метеорологического фактора у, подлежащего предсказанию, от его многолетнего среднего у с аналогичными уклонениями Д^, ^2, • . ., Д^ ряда факторов, которые могут быть определены заранее. При этом пока употреблялись лишь линейные формулы
ky = а^Дх^ + а2Дя2 + • • • + ^A^fc-(1)
Надлежащим подбором факторов хг, х^ . . ., х^ в числе от трех- нетырех до семи и коэффициентов а1э а^ . . а^ во многих случаях
*2 См.: Hostinsky В. Methodes generales..., § 36.
* Жури. геофиз., 1933, т. 3, с. 78—82.
^ А- Н. Колмогоров
удается достигнуть того, что коэффициент корреляции между фактц- чески наблюдающимся значением Ду и его значением,,вычисленным по формуле (1), вычисленный на основании данных за те же 30— 50 лет, которые служили для построения формулы, достигает 0,60— 0,75. Однако в тех случаях, когда была произведена проверка формулы на основе наблюдений за годы, не входящие в число тех, которые послужили для вывода формулы (Визе), коэффициент корреляции между вычисленными и наблюденными значениями Ду оказался равным 0,30—0,40. Между тем коэффициент корреляции 0,30—0,40 уже не имеет практической ценности, тем более что предсказания этой степени надежности можно получить значительно более простым путем.
Теория получения уравнений регрессии типа (1) основывается на следующих допущениях. Предполагается, что у, ^i, ^2, . . ., ^ суть случайные величины, имеющие определенный, не меняющийся из года в год закон распределения w (у, яд, х2, . . ., ^). Предполагается далее, что вероятности тех или иных значений у, яд, ж2, . . . . . ./яд. на данный год не зависят от значений, принятых этими величинами в предшествующие годы. Без первого условия (устойчивости) задача установления уравнения регрессии вообще не имеет определенного смысла. Если это первое условие выполнено, то существуют определенные коэффициенты яд, а2, . . ., а^ обращающие математическое ожидание *
Е (u2) = Е (Ду — ядДяд — ^2Дж2 — . . . —бдДяд)2
в минимум. Отношение
л __ Е (Ау2) „ Е (^2) ” Е (Д^)
называется истинным коэффициентом корреляции. Второе условие (независимости) существенно для доказательства того, что коэффициенты аг1 а^, . . ., а^ вычисленного на основе наблюдений за достаточно большое число лет п эмпирического уравнения регрессии (1) будут близки к теоретическим коэффициентам ai, а2, . . ., а^, а эмпирический коэффициент корреляции R также при достаточно большом п будет близок к теоретическому 6.
Применимость двух указанных выше условий к метеорологическим явлениям, естественно, может подвергаться сомнениям. Более того, если считать существование вековых, или периодических многолетних, колебаний климата установленным, то уже первое условие заведомо неверно. Именно этим обстоятельством и склонны объяснять указанное в начале статьи расхождение: предполагают, что уравнение регрессии (1) действительно с большой точностью отражает закономерности,- действовавшие в течение изученного периода, но что эти закономерности сами претерпевают изменения в связи с длительными колебаниями климата. Я предполагаю доказать, что появление чрезмерно высоких эмпирических коэффициентов корреля-
и вполне объяснимо и в предположении полной устойчивости и независимости изучаемых факторов от года к году, иначе говоря^ что при употребляемых указанными исследователями методах неизбежно своеобразное «вздувание» коэффициентов корреляции. Этому посвящен § 2. В § 3 разбирается вопрос о том, является ли устойчивость и независимость в метеорологических рядах достаточной для того, чтобы статистическое определение уравнений регрессии было возможным и целесообразным; в § 4 даются некоторые соображения о приемах отыскания уравнений регрессии.
§ 2. Математический аппарат, нужный для решения стоящей перед нами задачи, создан сравнительно недавно Фишером [1] в его исследованиях о законе распределения для коэффициента корреляции при множественной корреляции (см. также обзорную статью Райдера [2]). При этом предполагается, что закон распределения w (у, ^1, х2, . . ., х^ нормален.
Пусть имеется уравнение регрессии для некоторой величины у. Допустим, что у связано с величинами Xi, я2, . . ., х% так, что истинный коэффициент корреляции равен 6. Исследования Фишера дают возможность вычислить по 6 и числу наблюдений (числу лет, данные за которые предполагается использовать) п закон распределения для эмпирического коэффициента корреляции R. Однако непосредственно этот закон распределения еще не дает ответа на стоящий перед нами вопрос. В самом деле, самый выбор величин Xi, х2, . . . . . ., х^ совершается так, чтобы коэффициент корреляции 6 оказался возможно большим; при этом, хотя в уравнение регрессии и не вводится более 5—7 величин, запас величин, из которых эти 5—7 могут быть выбраны, очень велик.
Предположим поэтому, что имеется i групп величин
^\ х^, . . .,
I »• • м,
из к величин каждая. Для простоты допустим, что у связано с каждой из этих групп величин с истинным коэффициентом корреляции 8. Для любого X формулы Фишера позволяют вычислить вероятность того, что в каждом отдельном случае эмпирический коэффициент корреляции R превзойдет X. Пусть эта вероятность будет р. Естественно допустить, что с вероятностью
Р = 1(1 _ ру(2)
неравенство R > X осуществится хотя бы для одной из групп: так будет в предположении независимости уклонений R от 6, соот-
ветствующих различным группам \ Если, например, i = 14
р = 1/20, то ** I
Р = 1 - (1 - V20)14 % Чг.
Значения X, соответствующие р = V20 при данных 6, к и Р, могут быть вычислены при помощи таблиц, приведенных у Фишера. Для этого надо положить
т = п — к — 1,Р = ]An arc th 6,
найти по Р и т по таблицам Фишера соответствующие В и, наконец^ отыскать X по формуле'
В = дГ т arcth X.
Положим для примера п = 42 и к = 5. Тогда после надлежащих вычислений найдем:-
б 0,20 0,30 0,40 0,50
X 0,56 0,61 0,66 0,72
Непосредственное значение полученных результатов таково: вычисляя по 42 наблюдениям пятичленную формулу регрессии, мы при 6 = 0,20; 0,30; 0,40; 0,50 в одной двадцатой доле случаев получим Я, превышающее соответствующее X."
Если же из 14 формул регрессии будет выбираться та, у которой коэффициент В наибольший, то В превзойдет вычисленные нами значения X уже с вероятностью, превышающей 1/2.
В заключение укажем на общие формулы Фишера. Вероятность того, что В2 будет заключаться между v и v + dv по Фишеру равна
_[1/2(тп +&-!)]!(1 -■
— Y4^m-2№ В^-З)]! л Х
X (1 — y)‘/,(m-2) С ^ С sin^epdz d =
К * J Т J (chz-бЯ С08<р)т+к ■о —ОО Х
(тп-У-к — 2)]!,.§2y/,(m+Jc) -v
— Р/з (т — 2)]! р/а (* — 2)]!Л
X F [у(т + i), у (/» + к), у к, 62р1 z/m»-2)(1 — v^^ dv.
где F (р, q, г, х) обозначает гипергеометрическую функцию. Эти выражения могут быть упрощены в частных случаях и заменены асимптотическими по т, но даже и после упрощений они остаются достаточно сложными, чтобы сделать их непосредственное употребление затруднительным.
.§ 3. Установленный факт «вздувания» коэффициента корреляции сам по себе не вызывает необходимости отказаться от пользования найденными статистически формулами регрессии. Необходимо только по возможности ограничить число к величин, входящих в уравнения регрессии, а также запас тех величин, из которых они будут выбираться; в этом случае опасность получить искусственно вздутый коэффициент корреляции может быть значительно уменьшена. "
Более существенно для оценки дальнейших перспектив статистического установления прогностических уравнений выяснить, в какой мере метеорологические ряды могут быть признаны удовлетворяющими условиям устойчивости и независимости. Самое наличие вековых изменений, или периодических колебаний, еще не заставляет отказаться от исследований, исходящих из предположений устойчивости и независимости, если роль этих вековых, или периодических, колебаний в образовании уклонений Аг/, А^, Дж2, • • •, А^ незначительна.
Наиболее простым методом проверки устойчивости ряда и независимости его членов является следующий. Пусть Аг/(г) есть значение уклонения Аг/за Z-й год. Следует вычислить за длительный промежуток из п лет коэффициенты корреляции между Дг/(г> иАг/(г+1), между Аг/*) и Дг/^’+2> и т. д. Если эти коэффициенты корреляции уклоняются от нуля в пределах, соответствующих теоретическим расчетам, сделанным при гипотезе независимости и устойчивости, то это подтверждает названную гипотезу. В самом деле, вековое изменение, или периодическое колебание с периодом в четыре года и больше, неизбежно влечет за собой положительную корреляцию между ky^ и Аг/<г+4). Короткие же колебания в два или три года приведут к положительной корреляции между Аг/(г’) и Аг/(г+2) или Аг/(^ и Аг/<г+3\ В случае устойчивости и независимости математическое ожидание квадрата каждого из рассматриваемых коэффициентов корреляции равно (при не слишком малых /г) приблизительно \Дп — 3).
Соответствующие вычисления были произведены для средних месячных температур в Ленинграде. Для каждого месяца были вычислены коэффициенты корреляции между ^у^ и Az/(i+1\ Аг/(г+2) и Дг/(г+з) на основании данных за сто лет. Среднеквадратичные этих трех коэффициентов. корреляции по двенадцати месяцам оказались равными 0,065, 0,064 и 0,110, что хорошо соответствует теоретическому значению
1/у^ТГз = 1/J<97 = 0,102.
Пусть теперь рассматриваются два ряда yW и ^. Если у связано с х положительной корреляцией, то произведение А у кх имеет положительное математическое ожидание. Для изучения устойчивости корреляционной связи между у^ и х^ следует образовать коэффициенты корреляции между ky^ — АяО) и A^i+1) — Аг/^г+1\ Аж(г+2) — Дг/(г+2) и т. д. В случае устойчивости двойного ряда и неза-
висимости пар у^, х^\ относящихся к различным годам, квадрат этого коэффициента корреляции имеет математическое ожидание равное, как и в первом случае, Ц^п — 3). Таким способом была изучена устойчивость связи между средними температурами соседних месяцев в Ленинграде (как известно, между ними имеется значительная положительная корреляция): среднеквадратичное коэффициентов корреляции между Ny^ — \х^ и Az/^"+1) — Аж(г+1) по двенадцати парам смежных месяцев получилось 0,071, что также хорошо согласуется с теоретическим значением 0,102. Аналогично можно исследовать устойчивость изменяемости величин у, образуя коэффициенты корреляции между (ky^p и (Аг/<г+1>)2, (Az/^’+2>)2 и т. д.
Только такое систематическое изучение устойчивости метеорологических рядов может решить вопрос. Отдельные же замечания о том, что такой-то коэффициент корреляции оказался неустойчивым, могут создать лишь ложное представление о положении вещей. Если какой-либо изолированно взятый коэффициент корреляции между двумя метеорологическими факторами оказался для двух смежных двадцатипятилетий имеющим резко различные значения, то это вовсе еще не доказывает, что во второе двадцатипятилетие изменились общие климатические закономерности, действовавшие в течение первого. Скорее, расхождение может быть признано чисто случайным.
Конечно, нескольких приведенных цифр далеко не достаточно для решения вопроса, но вполне возможно, что и дальнейшие исследования обнаружат довольно полное согласие с гипотезами устойчивости и независимости. Дело в том, что исследования, имеющие целью доказать наличие вековых изменений климата, или многолетних периодических колебаний, обычно ведутся над сильно осредненными величинами, основанными на наблюдениях многих отдельных станций, для которых абсолютные размеры уклонений ^у сравнительно малы, и поэтому более резко выступает роль длительных колебаний.
4. Предположим теперь, что требования устойчивости и независимости для наших рядов выполнены. Если бы число лет наблюдений было достаточно велико, то при сделанном допущении сколь угодно сложные уравнения регрессии, выделенные на основании этих наблюдений, достаточно точно отражали бы закономерности, господствующие во всем ряде. Однако при п, равном 30 или 50 и даже 100, положение существенно меняется: введение чрезмерно большого числа величин, из которых делается выбор величин, входящих в это уравнение, создает опасность возникновения случайных удачных комбинаций, употребление которых для предсказаний будет совершенно необоснованным.
Напротив, если на основании серьезных теоретических наблюдений устанавливается, что подлежащая предсказанию величина у должна в значительной мере определяться величинами xv х^ ^^ например, в числе трех, то вычисленная на основе 50-летних наблюдений формула регрессии вида (1), связывающая ky с Aa;i, А#2 и
д^ должна считаться надежной. При этом мы имеем в виду теоретические соображения, обоснованные динамически, а не «теории», имеющие чисто статистическое происхождение. Однако и чисто статистические приемы могут помочь выяснить, в каком направлении следует искать неслучайные коррелятивные связи. Такая попытка в широком масштабе была предпринята Бауром [3]. Именно им вычислены коэффициенты корреляции между средней месячной температурой в Исландии и давлением за предшествующий месяц в различных точках земного шара. При этом обнаружилось, что для станций южного полушария коэффициенты корреляции по абсолютной величине в среднем (по различным станциям и двенадцати месяцам) не превосходят размеров, предсказываемых теорией в случае полной независимости обоих явлений (температуры в Исландии и давления на данной станции южного полушария). Это заставляет отнестись с большим недоверием и к изредка встречающимся коэффициентам корреляции, значительно превышающим общую норму. Давления на станциях северного полушария в противоположность этому обнаруживают связь с последующей температурой в Исландии, систематически превышающую размеры, которые можно было бы приписать случаю. Правда, Баур замечает, что, быть может, влияние аномалий давления в отдаленных пунктах земного шара сказывается на температурах в Исландии лишь по истечении более длительных промежутков времени, чем один месяц. Достаточных доказательств этой гипотезы Бауром не приведено. Решение вопроса возможно только посредством продолжения систематических исследований Баура над средней высотой коэффициентов корреляции, а не посредством разыскания новых отдельных случаев высокой корреляции.
При этих исследованиях следует пользоваться результатом Фишера, в силу которого в случае независимости величин х и у эмпирический коэффициент корреляции между ними г имеет закон распределения, переходящий после преобразования
= arctg г
в нормальный закон для 2 с центром в начале и дисперсией
о = 1//Я^З,
где п — число наблюдений.
ЛИТЕРАТУРА
Fischer R. A. The general sampling distribution of the multiple correlation coefficient.— Proc. London Roy. Soc. A, 1928, vol. 121, N 787, p. 654—673.
Rider P. R. A survey of the theory of small samples.— Ann. Math., 1930, vol. 31, N 4, p. 577-628.
Raur F. Statistische Untersuchungen liber Auswirkungen und Bedingungen der groBen Storungen der allgemeinen atmospharischen Zirkulation.— Ann. Hydrogr. maritimenMeteor., 1925, Bd. 53, H. 1, S. 1—6; H. 8, S. 241—258.
19*
СЛУЧАЙНЫЕ движения*(К теории броуновского движения)
В двух более ранних работах [1, 2] мною была развита общая теория непрерывных случайных процессов. В этих работах при очень общих условиях было доказано, что в случае, когда состояние физической системы в каждый заданный момент времени полностью определяется ппараметрами ж1? я2,. .., хм причем эти параметры непрерывно меняются со временем £, соответствующие функции распределения удовлетворяют дифференциальному уравнению Фоккера— Планка. В общем случае такого случайного процесса приращения Ах{ параметра xt имеют тот же порядок величины, что и (Д^)^. Отсюда следует, что в общем случае отношение Axt : At неограниченно возрастает при At -►• 0, так что здесь нельзя говорить ни о какой определенной скорости изменения параметра хг. Сейчас мы покажем, как эта общая теория может быть приложена к случайным движениям, в отношении которых предполагается, что не только координаты системы, но и их производные по времени изменяются непрерывно.■
Пусть qu q^, . . ., qn — координаты системы с п степенями свободы. Допустим, что в случае, когда нам известны значения q и q в момент времени t, может быть определена плотность вероятности
G kt, qi, ; • ., 4™ 41, . . ., Чп, t', qi, . . ., qk, 51, • • -, 9^) возможных значений q' и q' координат системы и их производных по времени в произвольный момент времени tr > t. Дополнительно будет также предполагаться, что G не зависит от поведения системы
перед моментом t.
Естественно предположить , что
Е | Д^ — q^t | = о kNt),(1)
Е (Адг)3 = о к^,(2)
где Nt = t' — t, а Е — символ математического ожидания. Из (1) и (2) вытекают соотношения
Е kNqi) = 4tNt + o(Nt^■(3)
Е (NqtNq^ < /Е"(Дда7Д^7 = о kNt).(4)
В [2] при очень общих предположениях было доказано, что, помимо (2)—(4), должны выполняться еще следующие соотношения:
Е (А?{) = h V, q, q^t-V о (AZ),(5)
E (A<h)a = ku (Z, q, q) At + о (AZ),(6)
E (AqtMj) = ku U» 9, q) At + о (AZ),(7)
где / и k — непрерывные функции. Во многих физических задачах предположения (5)—(7) допускают также непосредственную проверку. Из (2) и (6) следует, в частности, что
Е (АдДУ < VЕ (A7i)2E (Д^)2 = о (At).(8)
При физически совершенно естественных дополнительных предположениях из (2)—(8) следует, что G является фундаментальным решением следующего дифференциального уравнения типа Фоккера— Планка:
— ^?i "a78 '^Lt7"^'’ 9'* 5'^} +
+ УУт^^У(<'./. 9')^(9)
dlidq)
В случае n = 1 мы, таким образом, приходим к уравнению
4г = -^-^-^--^{/(^ /. №■§»№ q\ q')g}.
(10)
Если / и к — это две постоянные, то фундаментальное решение уравнения (10) может быть представлено выражением
21/38 — ak*(t’ — t)3 ехр21/38 — ak*(t’ — t)3 ехр[у_Л-/(('-<)р4к (г' — г)[у_Л-/(('-<)р4к (г' — г)
21/3
8 — ak*(t’ — t)3 ехр
21/3
8 — ak*(t’ — t)3 ехр
[у_Л-/(('-<)р4к (г' — г)
[у_Л-/(('-<)р4к (г' — г)
Г<У 4- q"12
(Н)(Н)з [д' —g ——2—0' — <)]
(Н)
(Н)
Легко видеть, что здесь Д^ имеет поядок (Д^)1^, т- е. ведет себя как и Аж в случае общего непрерывного процесса. Однако для Дд мы получаем
(1?)(1?)^q = qМ + О (М)3К
(1?)
(1?)
Можно доказать, что последнее соотношение выполняется и в случае общего уравнения (9).
ЛИТЕРАТУРА
Kolmogoroff A. N. Ueber die analytischen Methoden in der Wahrscheinlich keitsrechnung.— Math. Ann., 1931, Bd. 104, H. 3, S. 415—458. Pyc. nep • УМН, 1938, вып. 5, c. 5—41.•”
Kolmogoroff A. N. Zur Theorie der stetigen zufalligen Prozesse.— Math. Ann
1933, Bd. 108, H. 1, S. 149—160.’
20.'
УКЛОНЕНИЯ ОТ ФОРМУЛ ХАРДИПРИ ЧАСТИЧНОЙ ИЗОЛЯЦИИ
Глубокие математические исследования Р. Фишера [1] и С. Райта [2] относятся к эволюции концентрации гена в популяции, в которой господствует свободное скрещивание. Задачей настоящей заметки является указать метод, при помощи которого можно получить аналогичные результаты в случае популяции, распадающейся на большое число частичных популяций, слабо связанных между собой. Математическому анализу удалось повергнуть следующую схему: популяция с постоянным числом особей N распадается на 5 частичных популяций по п особей (7V = sn); в каждой из частичных популяций происходит свободное скрещивание, кроме того, в каждом поколении из каждой популяции выделяется в среднем по к «странствующих» особей; странствующие особи независимо от их происхождения присоединяются наудачу к любой из частичных популяций, где и участвуют в создании следующего поколения. Схема эта была указана как одна из возможных Н. П. Дубининым и Д. Д. Ромашевым. Ряд других не менее интересных схем ограниченного скрещивания, к сожалению, не поддается пока математической обработке.
Случай отсутствия отбора. Будем обозначать через р концентрацию некоторого гена в большой популяции и через р концентрацию того же гена в частичной популяции.
В этом параграфе мы предполагаем, что изучаемый ген не подвергается отбору. Приводимые далее формулы являются асимптотическими формулами, справедливыми при пр, п/к2 и s, стремящихся к бесконечности. Практически их можно считать применимыми, если величины пр, nlk? и 5 достаточно велики.
Обозначим через ^р приращение концентрации р в некоторой частичной популяции за одно поколение. Следуя Р. Фишеру и С. Райту, мы принимаем, что для математического ожидания ^р и (Др)2 справедливы формулы
А= Е (Др) = А (р - р),В = Е (Др)2 = Г1,
где q = 1 — р. Так как 5 велико, то изменения суммарной концентрации р будут протекать много медленнее, чем изменения частичных концентраций р. Поэтому можно принять на время концентрацию р постоянной. Концентрации р в частичных популяциях будут уклоняться в ту и другую сторону от р. По истечении достаточного промежутка времени колебания р вокруг р приведут к некоторому стационарному распределению вероятностей для концентрации р. Это стационарное распределение и (р) удовлетворяет дифференциальному уравнению*
(Ви)— (Аи) = 0.
2 др2 v ’ др х 1
Решая это уравнение, получаем
U ^ = В (4kp. 4kq) *^9
Формула (1) была получена другим методом С. Райтом. Можно доказать, что (1) не только дает распределение вероятностей для концентрации р, но что при достаточно большом числе 5 частичных популяций фактически наблюдаемое распределение частичных популяций по концентрациям р будет тоже даваться формулой (1).
При сделанных допущениях в каждой частичной популяции осуществляется формула Харди, т. е. концентрации особей тина АА, Аа и аа равны #2, 2pq и рЧ Концентрации особей типа АА, Аа и аа в большой популяции могут быть, следовательно, вычислены по формулам
1
А А = ^ q^u (p)dp, о 1
Аа = 2 ^ pqu (p)dp, о
1
аа = ^ р^и (p)dp. о
Производя вычисления, получаем
1 АЛ*
= 4А+1 ^2 + 4*+Т9, ^Я = 2 4* + 1 Р9,(2*
—4*,1_.
аа = , 7 , г Р + /7 . т* Р •
4k 4- 1 г 1 4k + 1
Формулы (2) решают поставленную в заглавии настоящей заметки задачу.г.
В силу отсутствия отбора математическое ожидание Е (Др) приращения ^сумйарной концентрации гена (в большой популяций) за одно поколение равйо нулю. Интенсивность же случайных коле-
баний концентрации в большой популяции характеризуется вели* чиной Е (Д^)2. Эта последняя величина вычисляется по формуле
11
Л р-л р
Е (Др)2 = — \ Е (Др)2и (р) dp = 2^- \ р> (р) dp.
О 1it J
оо1
Результат вычисления таков:
EW=4^T#-(3)
В случае свободного скрещивания мы имели бы, по Р. Фишеру и С. Райту,
Е (Др)2 = pq^N.,
Действие отбора. Формула (1), формула Харди для частичных популяций и заменяющая ее формула (2) для большой популяции сохраняют силу при наличии отбора в случае, если коэффициент отбора а много меньше, чем Мп. Мы ограничимся рассмотрением именно этого случая: предлагаемые ниже формулы являются в соответствии с этим лишь асимптотическими формулами, справедливыми при па, стремящемся к нулю. Особенно интересен случай рецессивного гена. В этом случае приращение концентрации гена, вызванное отбором, в каждой частичной популяции в среднем равно ap^q. Для суммарной концентрации получаем поэтому
Е ^р) = а У p^ju (р) dp,
О
или
Е <ДЯ = “ тгтжтг И № + *>■(4)
Формула (4) может быть использована для подтверждения в случае изученной нами схемы общего положения о существовании оптимума частичной изоляции для отбора рецессивных генов, выдвинутого и обоснованного с качественной стороны А. А. Малиновским. Легко вычислить, при каком значении к отбор идет скорее всего. При малых концентрациях р такое оптимальное значение к равно
= V, /2 = 0,35.
Институт математики МГУ, 18 июня 1935 г.
ЛИТЕРАТУРА
Д, Fischer R. A. The genetical theory of natural selection. Oxford, 1930. 2. Wrig^h S. Genetics. London, 1931, p. 97—157,.
21
К ТЕОРИИ ЦЕПЕЙ МАРКОВА*
Нижеследующие рассмотрения представляются мне, несмотря на их простоту, новыми и небезынтересными для некоторых физических приложений, в особенности для анализа обратимости статистических законов природы, проведенного Шредингером в одном специальном случае. Всюду далее безразлично, какое из двух следующих предположений делается относительно временной переменной t: либо t пробегает все вещественные значения, либо ограничивается целочисленными значениями. Классическое понимание цепей Маркова соответствует второй возможности.
1
ПОНЯТИЕ ЦЕПИ МАРКОВА
Рассмотрим физическую систему, которая в каждый момент времени t может находиться в одном из состояний конечного набора Еи Е^ . . ., En. При этом предположим, что для каждой пары состояний Е^ и Ej и каждой пары моментов времени t и s, t ^ s, определена условная вероятность Pi5 (£, s) того, что в момент времени s наступит состояние Е3 в предположении, что в момент времени t система находилась в состоянии Ег. Существенное, но не всегда с достаточной ясностью акцентируемое, предположение состоит в независимости условной вероятности Ptj (/, $) от знания предыстории системы до момента времени t. На этом предположении основывается вывод фун
даментального уравнения теории цепей Маркова
Р№ (З, 0 = 2 Pti (S, U) Pj1t (U, f), S < U < t,(1)
3
с условиями
Рц kt, s) > 0,(2)
^Рцк1, $) = 1,(3)
РцкМ^^,k^
где 6Zj- = 0 или 1 в зависимости от того г ^ / или г = /.
* Zur Theorie der Markoffschen Ketten.— Math. Ann., 1936, Bd. 112, S. 155 — 160. Перевод К. И. Осколкова.
2
АБСОЛЮТНЫЕ ВЕРОЯТНОСТИ
До сих пор мы рассматривали лишь условные вероятности перехода Рц (/, s). Возникает вопрос: возможно ли по заданным вероятностям Рц (/, s) указать и абсолютные вероятности появления различных состояний в каждый момент времени £? Если допустить, что процесс изменения нашей системы начинается в некоторый определенный момент времени £0, то можно приписать различным состояниям Еъ Е21 . . ., En в момент времени £0 совершенно произвольные вероятности Qx 0^, Qa (t0), . . ., QN (f0), Qk (f0) > 0, ^Qk (f0) = 1. Для каждого момента времени t ^> t0 получаются следующие выражения для вероятностей Qk (t) появления состояний Ек (к = 1, 2, . . ., N):
Q^O^Qi^PiK^ 0-
Тогда при t0 ^ t ^ s автоматически получается также и формула
Qk (s) = S Qi (0 piK Q» s).■(5)
He столь тривиальным является введение абсолютных вероятностей, если не предполагать никакого определенного начала процесса и, напротив, пытаться найти абсолютные вероятности Qk (f) во все моменты времени t, — оо < t < + оо. Но все же и здесь справедливо следующее утверждение:■
По произвольно заданным при всех t и s (t ^ s) вероятностям перехода Р^ (£, s) можно по меньшей мере одним образом для всех £, — оо < t <2 + оо, определить соответствующие этим вероятностям перехода Р^ (t, s) абсолютные вероятности Qk (0-
Чисто аналитически теорема означает следующее. При каждом выборе величин Ри (£, s), соответствующих условиям (1)—(4), бесконечная система уравнений (5) имеет по крайней мере одно решение, которое удовлетворяет дополнительным условиям
QkW>0, ж (0 = 1-(6)
Для доказательства-теоремы прежде всего заметим, что для каждого tOl как мы уже видели, существует по меньшей мерё одна система величин Qk^^)i которые определены для всех t>t0 и для s^t^ *> t0 удовлетворяют уравнениям (5) и (6). С помощью диагонального процесса можно извлечь из последовательности
to =1, —2, —3, . . .
подпоследовательность -
to = ^1> ^2> ^3> • • •
со свойством \п -> — оо, так что для каждого к и каждого целочисленного t величины Q^ (£), определенные при каждом фиксированном t для всех достаточно больших значений п, стремятся при п _> оо к определенному пределу Q* (t). На основе формул (6) легко доказывается, что и для всех вещественных нецелочисленных значений t существуют предельные значения Q* (£). Эти предельные значения, как это доказывается с помощью предельного перехода, удовлетворяют уравнениям (5) и (6). Тем самым теорема доказана.
В особенности интересен случай, когда абсолютные вероятности единственным образом определяются заданием вероятностей перехода Рщ (£, 5). Для подобной однозначной определенности абсолютных вероятностей необходимым и достаточным является следующее условие:
Для произвольных фиксированных к и s величины Р^ (t, s) при t -^- — оо стремятся к некоторому пределу Q* (s), не зависящему от г. Если это условие выполнено, то упомянутые пределы QX (s) в точности составляют искомую единственную систему абсолютных вероятностей.
Сначала докажем, что условие достаточно. Пусть ^к (^) — некоторые абсолютные вероятности, согласованные с вероятностями перехода РЛ (t, s). Тогда
Qk (s) = 5 Qi (О рт (<, s); (5)
но поскольку при t -> — оо величины P^ (t, s) "стремятся к Q* (s), то при t ->—оо правая часть уравнения (5) стремится к
W^QikQ-Qt^,
откуда следует, что
Qk (s) = Q* (s).
Пусть теперь наше условие не выполнено. Тогда можно выбрать Ч и t2 и две такие последовательности
что PiiK (tn, s) и соответственно Р^ (tn, s) при п -> + оо стремятся соответственно к пределам Q^ (s) и Q^ (s) для произвольных к и < и при этом Q^ (s) и Qk (s) не совпадают тождественно. Тогда легкс Доказать, что Qk (s), как и Q^ (s), могут быть взяты в качестве абсолютных вероятностей, откуда следует необходимость условия.
3
ОБРАТНЫЕ ВЕРОЯТНОСТИ
Предположим теперь, что выбрана некоторая фиксированная система абсолютных вероятностей Q^ (s) и что все Q^ (s) положительны. В этом случае наряду с вероятностями перехода Р^ (£, s) можно определить и обратные условные вероятности. А именно обозначим Hik (^, $) условную вероятность появления состояния Е^ для момента времени t в предположении, что в некоторый более поздний момент
s, s > t, наблюдалось состояние Е^. Очевидно, что
П^» 8) = -^ЛИ^, »)•(7)
Легко вывести следующие формулы, аналогичные формулам (1)—(5):
nto(s, 0 = 3ny(s, u)IW,/),s<u<<,(1*)
Пгб(8, #)>0,(2*)
0=1,(3*)
М, 0 = б.ь(4*)
<2г(8) = Ш(№(8, О,8<г.(5*)
Отметим при этом, что если желать обойти некоторый новый принцип «независимости от будущего», то формулу (1*) следует выводить на основе приведенных выше формул, а не доказывать непосредственно по аналогии с (1). После этого можно доказать этот последний принцип на основе формулы (1*).
-4
- ОБРАЩЕНИЕ ЗАКОНОВ ПРИРОДЫ
Допустим теперь, что вероятности перехода Pi1t (s, t) зависят только от разности t — s:
Р ik ($> 0 ~ Р ik (^$)•
В этом случае, как известно, существует по крайней мере одна система не зависящих от времени t абсолютных вероятностей
Qk W ™ Qk-
Для фиксированной системы таких вероятностей Q^ обратные вероятности nifc (s, t) точно так же зависят лишь от разности t — s:
П{& (s, 2) = Hi& (^s).
Возникает вопрос: при каких условиях справедливо равенство
Hit (г) = Ри (г)?(8>
Так как
. nit = (QJ<M Р» И,
т0 для справедливости равенства (8) необходимо и достаточно следующее условие:
Qi nik (г) = QkPki (г).(9)
Следует при этом, однако, отметить, что необходимые и достаточные условия справедливости равенства (8) можно выразить и бев использования величин Qk чисто в терминах вероятностей перехода pi1t (г). В самом деле, Мизес доказал, что все состояния можно таким образом разбить на классы, что выполнены следующие условия: 1) Р^ И могут отличаться от нуля только тогда, когда Е^ и Ек. принадлежат одному и тому же классу; 2) для каждых двух Ег и Ек- из одного класса отношение Qt : Qk однозначно определяется заданием вероятностей перехода Р^ (г). Из этого вытекает: если Ег и Ек принадлежат одному классу, то справедливость равенства (9) не зависит от выбора абсолютных вероятностей Q^; если же Ег и Е^ берутся из разных классов, то (9) тривиально следует из равенств Л& (г) = Ркг W — 0. Мы также видим, что справедливость условия (9) не зависит от выбранной системы вероятностей Qk.
Можно следующим образом сформулировать необходимое и достаточное условие обратимости (8), не зависящее от величин Qk:
Соотношения обратимости (8) выполнены тогда и только тогдау когда для произвольно выбранных г, q, kv k2) . . ., kq выполняется равенство .
Р^^Г) ^/fi^W • e • Pkq-lkqPkqkx = Pkxkq (r) Pkqkq-i • • • Pk2k2Pk2kx> (Ю)
В дискретном случае (когда t пробегает только целые значения) Достаточно потребовать (10) лишь при г = 1.
В частности, если вероятности перехода симметричны:
Рй (г) = Ри (г),(11>
то условие (10) выполнено. Следовательно, условие симметрии (11) Достаточно для обратимости (8).
ЗАКЛЮЧЕНИЕ
Эти почти тривиальные факты находят много физических приложений. Мы ограничимся здесь примером, отличающимся от первоначального примера Шредингера. Пусть окружность разбита
на очень большое число М одинаковых интервалов. Большое число £ подвижных частиц перемещается по этой окружности и притом так что каждая частица независимо от прочих на каждом шаге переход^ в соседний интервал либо направо, либо налево и обеим этим возможностям соответствует вероятность V2. Имеется всего ML = ^ различных возможных расположений L частиц на М интервалах Абсолютные вероятности Q^ которые соответствуют этим N возможностям, все одинаковы и равны 1/А. Вероятности перехода Pi1t (^ очевидно, симметричны, и поэтому справедливо уравнение обратимости (8). Если рассмотреть «макроскопическое» распределение частиц на окружности, то оно с вероятностью, весьма близкой к единице «будет равномерным. Если же известно (хотя это априори очень маловероятно), что в некоторый момент времени t0 имеет место большое отклонение от этой равномерности, то с вероятностью, весьма близкой к единице, можно утверждать, что эта неравномерность при t ^> t0 будет выглаживаться приблизительно в соответствии с дифференциальным уравнением диффузии. Формула обращения (8) теперь учит нас, что с равной вероятностью вытекает появление равномерности при Z" < tQ с тем же дифференциальным уравнением, но противоположным знаком.временной переменной.
Институт математики МГУ, 20 мая 1935 г.
22
К СТАТИСТИЧЕСКОЙ ТЕОРИИКРИСТАЛЛИЗАЦИИ МЕТАЛЛОВ *
В настоящей работе при некоторых схематических, но все же довольно общих предположениях дается строгое решение задачи о скорости течения процесса кристаллизации.
Для металлургии имеет существенное значение изучение процесса роста кристаллов при случайном образовании центров кристаллизации. Известные затруднения представляет при этом учет столкновений зерен кристаллического вещества, возникающих вокруг отдельных центров кристаллизации. Эти столкновения нарушают правильную форму зерен, прекращая их рост в некоторых направлениях. Опубликованные до настоящего времени работы Ф. Гелера и Г. Закса [1], Г. Тамманна [2], Б. В. Старка, И. Л. Миркина и А. Н. Романовского [3] и других дают лишь грубо приближенные формулы для роста кристаллической массы. В настоящей заметке я даю при некоторых довольно широких допущениях точную формулу для вероят-
ости Р (О, с которой наудачу выбранная точка Р объема, заполненного подлежащим кристаллизации веществом, попадет в течение поомежутка кристаллизации внутрь уже закристаллизованной массы. С вполне достаточным приближением можно считать, что доля вещества, закристаллизовавшегося за промежуток времени t, так- ^е равна р (£). В заключение я определяю число центров кристаллизации, образующихся в течение всего процесса кристаллизации.
Пользуюсь случаем выразить мою благодарность И. Л. Миркину, заинтересовавшему меня решаемой здесь задачей и любезно предоставившему все нужные материалы.
МАТЕМАТИЧЕСКАЯ ПОСТАНОВКА ЗАДАЧИ
Дан некоторый объем V. Вначале (£ = 0) он весь занят «маточной: фазой». Через промежуток времени t некоторая часть Ух (^) объема V занимается кристаллизовавшимся веществом. Рост объема Ух (0 со временем t совершается следующим образом.
В свободной части У — Ух объема У возникают новые центры кристаллизации. При этом для любого объема У' <^ У — Ух вероятность образования в этом объеме за промежуток времени между t и t + kt одного центра кристаллизации равна
а (О V'kt + о (ДО,
а более чем одного центра равна о ^kt^ где о ^М^ обозначает величину^ бесконечно малую по сравнению с Д£. Вероятности эти не зависят от распределения центров кристаллизации, образовавшихся раньше времени t.n если только оно гарантирует (см. далее) свободу объема У' от кристаллической массы к моменту t.
Вокруг новообразованных центров кристаллизации и вокруг всей закристаллизованной массы происходит нарастание этой массы с линейной скоростью
с (^ п) = k (t) с (%),
зависящей от времени t. и направления п. Предполагаем, что концы векторов длины с (п), отложенных в направлении п из начала координат, образуют выпуклую поверхность.
В изложенных условиях существенным ограничением является то, что линейная скорость роста с (^ п) хотя й может зависеть от направления п, но зависимость эта во всех точках должна быть одной и той же. Иначе говоря, выводимые далее формулы справедливы или при упрощенном предположении равномерного роста во всех направлениях, или для случая одинаково ориентированных в пространстве кристаллов произвольной формы.
ОПРЕДЕЛЕНИЕ ВЕРОЯТНОСТИ р(«)
Введем величину с, определяемую равенством
с3=А-^с3(га)^<т,
S
где интегрирование производится по поверхности единичной сферь^ S с центром в начале координат. Очевидно, объем кристалла, растущего свободно вокруг центра, образовавшегося в момент времени tOl достигнет к моменту t > t0 величины
Рассмотрим теперь произвольную точку Р объема У$ лежащую на расстоянии, большем
t
maxc^n^k^dx-
о
от краев объема У.
Для того чтобы точка Р попала внутрь закристаллизовавшейся массы к моменту £, необходимо и достаточно, чтобы в какой-то момент t' < t в какой-то точке Р\ лежащей отР на расстоянии, меньшем
t
с (п) к (т) dx, г
где п обозначает направление Р'Р, образовался центр кристаллизации. При фиксированном t' объем V* (О, занятый точками Р\ которые удовлетворяют выдвинутым условиям, равен
t
V'^ =-^Lc3^(T)dry. t'
Вероятность того, что за промежуток времени Д^' в объеме УЧП образуется центр кристаллизации, равна
а (Г) УЧ^А^ + о (ДО,
а вероятность того, что это не произойдет^ равна s
д^= II {l-a^FWAn + oW.
1-1
Поэтому вероятность того, что точка Р к моменту t не будет вклю- ^ена в закристаллизовавшуюся массу, равна s
9 (0 = П О — а W V' (to At'} + 0(1),(1)
’ i=l
где ^ = sM', tf = IM', а о (1) бесконечно мало при бесконечно малом М .
Логарифмируя (1), получим st
log q (t} = У,«(to V' (to At' + 0 (1) = — ^ a (f) V' (f) df = i=l0
tt
=^-c3(a(f)^ k (t) dr)3 dt'.(2)
ои
Для искомой вероятности
р (t) = 1 — q (О
включения точки Р в закристаллизовавшуюся массу получим, наконец,.
р (£) = 1 — ехр {— 4^-e3Q},(3)
где tt
Q = § a(f) ^ к (т) dT^ di1.(4)
§ 3ВЫВОДЫ
При достаточно большом по сравнению с размерами отдельных зерен объеме V можно положить Уг (£) = Vp (Q, или в силу (3)
V!(/) = У^1 — ехр {—-^-с3йР ,(5)
гДе Q определяется формулой (4). Формула (5) для объема Уг (£) закристаллизовавшейся за время t массы решает первую из поставленных во введении задач. Если а (^) и с (^, п) не зависят от времени, можем положить
a ^) = af k (^) = 1.
В этом случае
Й = а^/4 ’(4а)
и формула (5) дает
Pi (<) .-= у (1 — ехр |с3а^|) .(5а)
Для числа N (£) центров кристаллизации, образовавшихся за вре^ t3 справедлива при достаточно большом объеме V формула
t
(0 = ^а(т)д(т)йт.(6)
При постоянном а (£) = а и k = 1 получаем из (6) t
N (t) = У а ^ ехр { с3ат4} dx,q
о
или
/гм-нуУ^-гь(б,)
О
где
х = у' лс3а/3 t*
При £ = + оо формулы (6) и (6a) дают полное число центров кристаллизации, возникающих в течение всего процесса. В частности, при постоянных а (£) = а и к = 1 получим
N (+ оо) _ V j/^- 5 dl ~ 0,97 (-J-)3/‘..(7a)
о
Отметим еще особый случай, в котором все центры кристаллизации образуются в самом начале в среднем по Р на единицу объема. Соответствующие формулы получаются из общих предельным переходом. Вместо (4) - получаем
t
Q = P ($*(т)йт)3,(4b)
о
формула (5) сохраняется, а формула (6) заменяется при любом £ > 0 тривиальным равенством N = Ур. Если, кроме того, допустить, что к = 1 (т. е. с (£, независимо от 0, то получаем
_ Q = Р*3,.(4с)
71(/) = у(1 — ехр{--^с3Р*3}).(5с)
Институт математики МГУ,* 20 апреля 1937 г.
ЛИТЕРАТУРА
Goler F.^ Sachs G.— Ztschr. Phys., 1932, Bd. 77, S. 281.
Tammann G.— Ztschr. andrg. Chemie, 1933, Bd. 214, S. 407.,
Старк Б. В., Миркин И. Л., Рамановский А. И. Металловедение, и тёрми- ческая обработка.— Тр. Моск, ин-та стали; 1935, т. 7, с. 5—38.
23
ЦЕПИ МАРКОВА СО СЧЕТНЫМ ЧИСЛОМВОЗМОЖНЫХ СОСТОЯНИЙ
В моей статье [1] высказан ряд общих предложений, относящихся к асимптотическому поведению вероятностей перехода из одного состояния в другое при неограниченно возрастающем числе шагов для случая цепей Маркова со счетным множеством возможных состояний.
Предлагаемая сейчас читателю статья содержит расширенное изложение тех же вопросов, пополненное доказательством основных теорем, высказанных мною ранее без подробного доказательства, а также сообщением некоторых новых фактов. Принятая здесь система изложения может иметь известный интерес и для цепей Маркова с конечным числом возможных состояний. На это указано в появившейся в промежутке заметке В. Дёблина [2]. Как мне известно из его письменного сообщения, В. Дёблин доказал независимо некоторые из опубликованных мною теорем о цепях Маркова со счетным числом состояний.
ОБОЗНАЧЕНИЯ -
Различные возможные состояния изучаемой системы обозначаем через Еь где I пробегает все натуральные числа. Впрочем, все дальнейшее изложение пригодно и для случая, в котором г принимает конечное число различных значений; в этом случае ряд дальнейших формулировок может быть очевидным образом упрощен. Вероятности ри перехода из Ег в Ej за один шаг предполагаются, как обычно, подчиненными условиям
Ри > о,(1)
(2) 3
Вероятности Р$ перехода из Ег в Ej за п шагов определяются индуктивно из равенств
^ = 6i;,(3)
-^Ри,(4)
■к
Обозначим, далее, через К^ вероятность перейти за п шагов из состояния Ег в состояние Ej, не попадая за меньшее число шагов в состояние Ej. Очевидно,
= Р^ - КМ"»К^Р^ К^Р®. ' (5) В частности, К$ есть вероятность, отправляясь от состояния Е- впервые вернуться в то же самое состояние через п шагов, Положим еще
^К^ = Ег). (6) п=1
Очевидно, Ltj ^ 1. Если L^ = 1, то, отправляясь от состояния Еи система неизбежно рано или поздно должна попасть в состояние Ej. Математическое ожидание числа шагов, потребного в этом случае для перехода из Ег в Ej, равно
м^ = з п^. (7)
И=1
В частности, Ми есть математическое ожидание числа шагов до первого возвращения в состояние Ег при условии наличия этого же состояния Ег вначале. Mi5 может быть как конечным, так и бесконечным.
§ 2НЕСУЩЕСТВЕННЫЕ СОСТОЯНИЯ,КЛАССЫ И ПОДКЛАССЫ СУЩЕСТВЕННЫХ СОСТОЯНИЙ
Состояние Ег называется 'несущественным, если существуют такие / и п, что Р^ )> 0 и для всех т имеет место Р^ = 0, т. е. из Е^ возможен переход в Ej, не допускающий возвращения в Et. Все остальные состояния называются существенными. Очевидно, что если состояния Ei и Ej существенны и существует п с Р^ > 0, то должно существовать также т с Р^^О. В случае существования таких п ^ т существенные состояния Ег и Ej называются сообщающимися. Если Ег сообщается с Ej и Е3 сообщается с Е^, то и Е^ сообщается с Е^. Поэтому все существенные состояния распадаются на классы S^ так, что состояния, принадлежащие одному классу, сообщаются, принадлежащие же разным классам— не сообщаются. Очевидно, кроме того, что для существенного состояния Ег и несущественного Ej всегда Р^ = 0. Таким образом, изучаемая нами система, попав однажды в одно из состояний класса 5<а), никогда уже не выйдет за пределы этого класса состояний.
Рассмотрим теперь какое-либо существенное состояние Ег. Обозначим через $0?г множество тех чисел п, для которых Р$ > 0. Так как Ег существенно, то множество Й?г не пусто. Если п и^т
входят в ЯК;, то п + т также входит в ®?г. Пусть di есть общий наибольший делитель всех чисел множества ^^ Множество ^i состоит исключительно из чисел, кратных di. Легко установить, что все достаточно большие кратные dt входят в 9Кг. Число с?^ называется периодом состояния Е^
Легко доказать, что все состояния, принадлежащие к одному и тому же классу 8^, имеют один и тот же период, который мы обозначаем через d (а) и называем периодом класса 5<а). В самом деле, пусть для двух состояний Егн Ej одного и того же класса 8^ найдены такие пит, что Р^ )> 0 и P(J? > 0 (такие пит, как указано выше, существуют)*. При достаточно большом к Р^з^ > 0. Следовательно, при достаточно большом к и ‘
(Mj+n+m) (п) (Ы •) (т) ^гг гз 17 33 17 3г
т. е. все достаточно большие числа вида kdj + п + т входят в 9Rb а это возможно только, если dj делится на db Так как и, обратно^ di должно делиться на dj/то dt = dp *
Для двух состояний Et и Е3, принадлежащих одному и тому же классу SW, только в том случае может быть одновременно Р^ > 0 и Р^ > 0, если п и т сравнимы по модулю d (а). Поэтому, выбрав какое-либо определенное состояние Е^ класса 5<а\ для любого состояния Ег того же класса получим вполне определенное число Р (Е^ = 1, 2, . . ., d (а) такое, что Р^ > 0 возможно лишь для п = р (Е^ (mod d (а)). Все состояния Ej с заданным числом р (Ej) отнесем к подклассу 8^\ Таким образом класс 8^ разбит на d (а) подклассов 8^- Наша система с каждым шагом неизбежно переходит из состояний подкласса 8^ в одно из состояний подкласса Зр+и а в случае Р = d (а) — в одно из состояний подкласса 5ia). Таким образом, если Et и Ej принадлежат соответственно подклассам 8^ и 8^\ то Р^ лишь в том случае может быть отлично от нуля, если п = у — Р (mod.cZ (а)). С другой стороны, для всех достаточно больших п, удовлетворяющих последнему сравнению, действительно Р^ > 0.
§ 3ВОЗВРАТНЫЕ И НЕВОЗВРАТНЫЕ КЛАССЫ
Кроме вероятности Ьгз, отправляясь из состояния Et, рано или поздно хотя бы раз попасть в состояние Ej, введем еще в рассмотрение вероятность Q^-, отправляясь от состояния Ei, побывать бесконечное число раз в состоянии Ej. Очевидно, имеет место неравенство
&и < LM. (8)
С другой стороны, мы докажем сейчас следующую лемму.
Лемма I. Из Ьц = 1 вытекает £1ц = 1. (
Доказательство. Обозначим через Т^ вероятность отправляясь от состояния Еь еще не менее к раз побывать в том же состоянии. Очевидно, всегда
Т№ = Ьи, 1\т) = Ty;)Lit, QZi = lim Т^.
/f—>оо
В случае Ьц = 1 из этих формул явствует, что Q^ — 1. .
В этом и следующем параграфах мы будем интересоваться лишь соотношениями, господствующими внутри каждого класса существенных элементов,— иначе говоря, будет предполагаться, что все индексы, относящиеся к состояниям, пробегают лишь значения, соответствующие состояниям одного класса. В формулировках теорем это будет отмечаться словами «в пределах одного класса».
Теорема 1а. В пределах одного класса либо все Q^- < 1, либо все Q^ = 1.
Доказательство. Очевидно, достаточно установить, что при любых i, j, k;
из Q^ = 1 следует Qi1t = 1,
из QjZ = 1 следует = 1.
Если эти два обстоятельства будут установлены, то при любых г, /, V, /из Q^- = 1 будут .следовать й^ = 1 и Q^^ = 1.
Перейдем к доказательству предложения 1). Допустим, что Q^- = = 1, т. е. что с вероятностью единица, отправляясь от состояния Еь мЫ будем возвращаться в состояние Ej бесконечное число раз. Рассмотрим промежуток между 5-м и (5 + 1)-м возвращением в состояние Ej. Так как все рассматриваемые состояния принадлежат одному классу, то событие $81 состоящее в заходе в промежутке между 5-м и (5 + 1)-м посещением состояния Ej в некоторое фиксированное состояние Е^, имеет положительную вероятность. Легко видеть, что эта вероятность не зависит от 5, а сами события $s ПРИ различных 5 независимы между собой. Но из бесконечной последовательности возможных независимых событий $8, имеющих одинаковую положительную вероятность, с вероятностью единица действительно осуществится бесконечное число, т. е. Q^ = 1, что и требовалось доказать.
Остается доказать предложение 2). Для этого мы воспользуемся формулой
к
справедливой при любых I, j, к, п. Так как ^Р$ = 1, то из Qjt 'к
= 1 вытекает ^t = 1 для всех тех к, для которых Р$ > 0. Но для любых / и к (в пределах одного класса) существует такое п. Таким образом предложение 2), а вместе с ним и теорема 1а доказаны.
Если все Q^- = 1, то в силу неравенства (8) и все Егз = 1. Если е все Qij < 1, то в силу леммы I и все Lu «< 1. Отсюда получается
Теорема 1Ь. В пределах одного класса или все Lit < 1, или все Ьц = 1-
Следует заметить, что в случае, когда все Ьц < 1, все же могут иметься некоторые Еи = 1 (/#=/).
Если все Ltj = 1 и все Q^- = 1, то класс называется возвратным. Если, наоборот, все Ьц < 1 и все QZj<l, то класс называется невозвратным. Легко убедиться, что в случае принадлежности состояния Ej к невозвратному классу и любого Ег
lim Р^ = 0.
П->+ОО
§ 4
ПОЛОЖИТЕЛЬНЫЕ И НУЛЕВЫЕ КЛАССЫ
Рассмотрения этого параграфа относятся к явлениям, наблюдающимся внутри каждого возвратного класса. В результате этих рассмотрений возвратные классы будут разделены на положительные и нулевые. Заметим, однако, что в следующих параграфах мы будем относить к нулевым классам также и все невозвратные классы.
Основное значение при изучении возвратных классов имеют математические ожидания Mtj (см. (7)). В связи с ними мы будем рассматривать средние
л£>:=А(р(1)+.р(2)+...(10)
Лемма Па. Для любого Ег из возвратного класса в случае конечности Ми
lim т© = ММи;
в случае же Мц = +оо
lim л^Р = 0.
П—>оо
Доказательство. С вероятностью, равной единице, от- правляясьот состояния Еь мы вернемся в это состояние бесконечное число раз. Пусть первое возвращение в Ег происходит на т^-м шаге, второе — на п2-м шаге, вообще /с-е — на п^-м шаге. Разности -
Ж1 — пъ ж2 — ^2 — ^1, • • м xk — пк — пк-1л • • • образуют последовательность случайных величин, независимых между собой и имеющих одинаковый для них всех закон распределения: ^ — s с вероятностью К^. Очевидно, что Ми есть не что иное как математическое ожидание каждой из величин х^.
Допустим сначала, что математическое ожидание Ми случайных величин х^ конечно. Тогда по теореме А. Я. Хинчина [3] последова-
тельность {^} удовлетворяет закону больших чисел, т. е. для любого 8 > 0 существует такое kOl что при k^kQ вероятность неравенства
к
будет меньше 8. Пусть е < V2 и п ^ п0 = 2к0Мн. Положим
*,=^(1~е)’ F=^(1+s)-
Легко видеть, что к' ^ к01 к» ^ к0. Поэтому с вероятностью^ большей 1 — 8, можно утверждать, что
| n^dk’ — Иц | < 8,
а из этого неравенства следует (так как Мн *> 1)
| щ- — ^ (1 — s) I < к'г ^ пг,
откуда
nv < п.
Аналогично с вероятностью, большей 1 — 8, имеем
| п^ — Ми\ < е/2,| пК. — п (1 + е) | < Fs/2 < п^
пК» > п.
Итак, в случае п ^ п0 с вероятностью, большей 1—2s, будут выпол- йены неравенства
^к' < ^ < Пк»,
т. е. число хрп возвращений в состояние Ег за первые п шагов будет заключено между к' и к". Легко видеть, что математическое ожидание частоты ^Jn возвращения в Ег в течение первых п шагов равно лЙ\ Так как ^Jn при п ^ п0 с вероятностью, большей 1—28^ заключено в пределах кЧп и к"1п\
к1 /Л X ^П1 (1 , х ^
п — М^ t1 ^^ пМи (4 + 8) — п ’
и так как всегда 0 ^ ^Jn ^ 1, a Mit ^ 1, получаем, наконец, при п ^ п0
откуда и-следует, что
lim Лг?} = ММи.
П-*+оо
Рассмотрим теперь случай Ми = +°°- В этом случае, каковы бы ни были М < + оо и е )> 0, существует такое к0) что при к ^ ко
вероятность неравенства
кк
к
к
будет меньше е. Для доказательства этого обстоятельства достаточно' ввести новую последовательность независимых между собой случайных величин хк^ меньших, чем соответствующие величины xr (x'r ^ ^' xr при каждом ку но с математическими ожиданиями, равными^ например, 2М, и применить к этой новой последовательности закон больших чисел в указанной выше формулировке.
Полагая к = YnIMA + 1 > п/М9 мы видим, что при п > к0М будет к ^ к0 и, значит, с вероятностью, большей 1 — е, справедливы неравенства
t )>^» п^^кМ^п, ^n^^^j/+l> п^м+ п"
Следовательно, при п ^ к0М
что и приводит нас к заключению, что в этом случае lim л^ = 0.
Теорема U.S пределах одного класса или все Мц бесконечны^
или все Ми конечны.
Доказательство. Для любых двух состояний Et и Е^ одного и того же класса существуют такие к и т9 что Р^ > 0, > 0. Ясно, далее, что при любом п*
nOri^m) n(m)n(n)n(k)
17 33^ *• 3^ * И * ij *
Из этого неравенства уже легко вывести, что
Иш л^Р^Р^Ит л^.
П-*оо п-*оо
Следовательно, или пределы л(^ для всех £ (соответствующих данному классу) равны нулю, или они для всех г положительны. Поэтому по лемме Па Ми также или все бесконечны, или все конечны.
Остается еще доказать, что из конечности всех Ми вытекает и- конечность всех Мц. Обозначим для этого через R^ вероятность^, отправляясь от состояния Etl за п шагов попасть в состояние-
Ej (j =?££), не побывав в промежутке в Ег. Тогда 1
Ми = 3 тК^ + 3 W Мя + п\ m=lз^г
Но в пределах одного класса для любых i и / можно найти п, для которого R$ )> 0. Мы видим, таким образом, что из Мзг = + оо вытекало бы Мц = + оо. Этим доказательство теоремы приводится к благополучному концу.
Классы, в которых все М^ конечны, называются положительными, а классы, в которых все Ми = + оо, называются нулевыми. Следует заметить, что в нулевых классах некоторые Мг5 (i ^ 7) могут быть конечны.
Теорема III. В нулевом классе вероятность Р^ при п -> +°° стремится к нулю, каковы бы ни были состояния Et и Е^ из данного класса.
Для доказательства теоремы III нам понадобится следующая Лемма ПЬ. В нулевом классе для любого Ej выражение
лЙ' ”° = — (Р--^ + Р»^ + •.. + ^Г,п))(И)
при т -> + оо стремится к нулю равномерно относительно п.
Доказательство. Обозначим черезН^ вероятность того, что при начальном состоянии Ej начиная с (п + 1)-го шага состояние Ej появляется впервые на (п + s)-m шагу (независимо от того, происходило ли возвращение в Ej на протяжении первых п шагов). Тогда
/г
p^Tl*^ г 2 PJ^ Р^~8^
зз S=133
1 В самом деле, при г> п1 В самом деле, при г> п(12)(12)
1 В самом деле, при г> п
1 В самом деле, при г> п
(12)
(12)
К^=^в№к^.
Поэтому ооП
ми= 3 тК^= 3 т^ + 3 г 3 <к^= m—1т=1г>пз-Л
пооп
= 3 тК^ + 3 <’ 3 (” + S) КУ = 2 тк№ + 3 R^M^A- пУ т—1з^ s=lт=1Зт^г
Выберем (что возможно по лемме Па) такое г0, что при г ^ г®
всегда л^ < е; выберем т0 )> г0/е. Пусть, далее, тп ^ т0. Тогда при ^ —- 5 ^ г0 будет (m — s)/m < 8, а при m — s^ г0 будет п^*8^ < е.
Так как всегда \пг — s)/m ^ 1, л^""8) ^ 1,то для всех m ^ т^
будет
771 — Sт771 — Sт(m-s)*^33(m-s)*^338.8.
771 — S
т
771 — S
т
(m-s)
*^33
(m-s)
*^33
8.
8.
Замечая, что
т
5 ^><1,
8—1
мы видим из (12), что л^’т) < е + 1/тп, как только т ^ т0. Так как 8 > О произвольно и не зависит от п, то лемма доказана.
Доказательство теоремы III. Заметим прежде всего, что для полного доказательства этой теоремы достаточно до
казать ее в случае i = /, т. е. доказать стремление к нулю вероятностей Р^ при п -> +оо. В самом деле, выберем такое т, что Р^^ О», Очевидно,
p(n+m) n(™)nOi) г 33гГ Гi-З е
Будем при постоянном т стремить п к + 00; тогда из Р^т^ ->- О будет вытекать Р^ 0.
Допустим теперь, что
lim sup Р^ = X )> 0.
Если из этого допущения будет извлечено противоречие, то теорема III будет доказана. Выберем такое целое число а^ что
К^ = А >0*
Для любого е ^> 0 существует такое п0, что из п > п0 следует
Р^ < X + е.
Выберем, далее, для некоторого 6 ^> 0 такое т0 ^ а, что
S к^<ь.'
m>m0
Тогда из допущений
w > «О + т-0, Р^ > X — Т] (п > 0)
вытекает-
^Га) > X - (1] + 8 + 6)/Л.
В самом деле,
х — и < р^=к^р^ + ^Г1^^ + • • • + к^р^= =к^р^ + 2 ^Г^-Гт)+ 2 к^р^^
a^m<m6тп0^т<д'
<лр^)+(1_л)(х+8) + 6.
В"случае же п ^ nQ + т^ + sa из
г ззN
вытекает
р^ > х - 01 + 8 + б)/л = х - Л1,
Р^ > X - (^ + е + 6)/Л = X - Пз,
Р^ > V- (i^ + е + 6)М = X - ns,
где
П < П1 < П2 < • • • < Ча-
Но при любом s можно подобрать т] > О, 8 > О, 6 > О так, чтобы было т]5 < V2. Подбирая соответствующие п0 и т01 получим для всех п ^ п0 + т0 + sa и таких, что Р^ > ^ — П» неравенства
Р^ > V2, Р^ > М2, . . ., Pg"sa) > М2,
n(n-s«,sa) > (1/sa).s.x/2 = %/2a.
Так как Xl^a постоянно, s сколь угодно велико, а п при фиксированном 5 может принимать произвольно большие значения, получаем противоречие с леммой ПЬ.
§ 5
АСИМПТОТИЧЕСКИЕ СООТНОШЕНИЯВНУТРИ ПОЛОЖИТЕЛЬНОГО КЛАССА
Доказательством теоремы III в первом приближении заканчивается изучение нулевых классов. Что же касается положительных классов, то здесь имеет место следующая общая
Теорема IVa. В положительном классе S^ для любых Ег из подкласса S^ и Ej из подкласса S^. вероятность Р^ стремится п пределу *
р, = a ^!Mih
не зависящему от I, когда п стремится к бесконечностипробегая значения п = у — р (mod d (а)).
Замечай и.е. В случае п ф у — Р (mod d (а)), как уже указывалось, Рг^ = 0.
Доказательство теоремы IV требует ряда лемм.
Лемма III. В положительном классе для любых I. / и е > 0 существует такое т. что при любом п вероятность. отправляясь от Ei. посетить хотя бы раз Ej в промежутке между п-м и (п + тУм шагом будет больше 1 — 8.
Доказательство. Вероятность, отправившись из Et. не посетить Ej за указанный промежуток времени равна
—ООп—1со
р= 3 к®+^р8 3 К® =
p^n-V-mk=i p=n-V-m—k
ооn-f-m—1п—1
= 3 К'$+ 5 Klg з ^’’ +
p=n4-mp=m+iк=п-^-т—р
ооп—1ОООО
+ 3 <3^’< 3 «Й’+ 3 рК$ = и*.
р=п*^тk—1р=тр=т+1
Но если
конечно, то № при т —>- +оо стремится к нулю. Так как U^ не зависит от п. то лемма доказана.
Лемма IVa. В положительном классе, состоящем из одного подкласса.
lim inf Р^ ^> 0.
П-Н-оо
Доказательство. Если класс состоит из одного подкласса, то существует такое к0. что при k^ kQ всегда Р^ > 0. Выберем по лемме III такое т. что при заданных i и / число 8 леммы III можно принять равным 1/2. Обозначим
х = inf ^^-^..., р^о+т)у
Очевидно, % ^> 0. Пусть теперь п*^ т + к0. Положим п' — п -У + т + к0. Вероятность, отправляясь от Ег. посетить между n-м и (^ + тп)-м шагом состояние Ej больше 1/2.
Пусть в промежутке между n-м и (п + т)-м шагом первое посещение ^произошло после (п + $)-го шага (s < тУ Условная вероятность при этой гипотезе вернуться в Ej по окончании n' = п + + rn + kQ шагов равна р^о+пг-5) ^ %. Это неравенство справедливо при любом s (1 ^ s ^ т). Поэтому полная вероятность Р^ \ выйдя из Еь прийти через п' = п + т + kQ шагов в Ej удовлетворяет неравенству
"^ ^« Н. Колмогоров
чем в силу произвольности п и заканчивается доказательство леммы. Лемма IVb. В положительном классе, состоянием из одного подкласса,
lim Р^ = ИМи. .
Доказательство. Сначала докажем самое существование предела Р$ при п-> + оо. Обозначим
lim inf Р$ = a, lim sup Pt? = b. - П-*+оо71—»+oo
В силу леммы IVa имеем b ^ a > 0. Пусть s > 0. Выберем m, удовлетворяющее условиям леммы III при / = i. Выберем, далее, такое k0, чтобы при k^ kQ имели место неравенства
а - г<Р^ <Ь + е.'
Пусть п^ т + к0 таково, что Pt? < а + 8, a п' )> п + к$ таковог что РЙ^ > Ъ — 8 (такие п и п' всегда найдутся). Обозначим п' — п = к. Тогда
Р^ = Р^Р^ + Л^"^ 4- А^Р^. + • • • + А№Р^,
где 4W есть вероятность при условии начала в Et после А-го шага впервые попасть в Ег лишь на (А + s)-m шаге. Очевидно,
Ри + § Л(8)<1.
s=l а
Кроме того, по лемме III
т
Р$+ S A> 1-8. .
8=1
Из этих двух неравенств вытекает, что
Так как а > 0, а 8 > 0 произвольно, то Ъ — а = 0, что доказывает существование предела Р$\ равного b = а. Из леммы Па непосредственно вытекает, что этот предел равен ИМ^.
Доказательство теоремы IVa. Рассмотрим рядом с заданной нам цепью Маркова новую цепь, определяемую элементарными вероятностями перехода
Рлэ "
где d есть период рассматриваемого класса. Очевидно, в пределах состояний нашего класса
р^ = р^>
Относительно новой цепи Маркова наш класс состояний образует один-единственный подкласс. Поэтому по лемме IVb
Пш РЙ«= lim ==
П—4-00- П—4-00гг
Таким образом теорема IVa в случае г = / доказана. Чтобы доказать ее в общем случае, обозначим через q минимальное число шагов, в которое может совершиться переход из Е^ в Е^ (очевидно f q = у ~“ Р (modd)). Тогда
п
p(rid-Vq) ^ j^md+q) p(nd-md) m—О
При этом
m=l
a p(nd-md) При постоянном т и _j_ оо стремится К d[Mjj. Из этого вытекает, что
lim р^ = a!Mn.
П-Н-оо
Существенным дополнением к теореме IVa является
Теорема IVb. В положительном классе сумма пределов Р) по всем состояниям каждого подкласса равна единице.
Теорема IVb непосредственно вытекает из следующей леммы.
Лемма V. В положительном классе имеется для любого 8 ^> О такая конечная система состояний Е^ Е^ . . ., Е^, что при любом Et из того же класса для всех достаточно больших п
к
S=1 s
Доказате л|ь с т в о. Выберем произвольное г0. По лемме III существует такое т^ что при любом п вероятность, отправляясь из
Eio, посетить хотя бы раз Eio в промежутке между /г-м и (п + ту^ шагом будет больше 1 — е/З.
Очевидно, всегда можно выбрать такую систему состояний Ejo Ejz, . . ., Ej^ что при любом г ^ т
к
£<>i-l- 8=1
Мы докажем, что выбранная система состояний удовлетворяет условиям леммы. Для этого зафиксируем какое-либо г и выберем такое q, что
Q
£<>1-1-
Пусть теперь п > т + q. Положим п — q -\- пг^ q > q. С вероятностью, большей 1 — е/З, мы за первые q' шагов, отправляясь из Е^ попадем в Eio. На каком бы шагу ^^' мы ни попали впервые в Eio1 с вероятностью, большей 1 — е/З, мы вернемся в Eia между q'-м и (д' + тУм шагом. Если же это случится на каком-либо (q‘ + т — г)-м шагу, то с вероятностью, большей 1 — е/З, мы окажемся после q + т шагов в одцом из выбранных состояний Ejge Таким образом, с вероятностью, большей (1 — е/З)3 > 1 — в, отправившись из Ег, мы придем через п = q' + т шагов в одно из выбранных состояний Ejs. Тем самым лемма доказана, а с ней доказана и теорема IVb.
Замечание. Из теоремы IVa следует, что не только л^ стремится к 1/Ми (лемма Па), но и л^ при любом Ej из того же класса, что и Еь стремится к тому же пределу. В силу же теоремы IVb сумма 2 (1/Мп), распространенная на состояния одного подкласса, равна 1/й(где d—период класса), а распространенная на все состояния одного класса, равна единице.
§ 6АСИМПТОТИЧЕСКОЕ ПОВЕДЕНИЕ ВЕРОЯТНОСТЕЙВ ДРУГИХ СЛУЧАЯХ
Мы оставим в стороне такие комбинации состояний Et и Е^ для которых Р^ = 0 при всех п в силу рассмотрений § 2, и заметим, что если Ej несущественно, то всегда Р^ стремится к нулю при п-> + оо. Разберем здесь наиболее сложный случай: Ег несущественно, а Е3 существенно и принадлежит некоторому классу S^X Обозначим для несущественного состояния Ег через N^ вероятность, отправляясь от состояния Еь рано или поздно попасть
в одно из состояний класса 5<а). Очевидно,
5^а)<1, (Z
так как, попав в одно из состояний класса S^\ уже нельзя выйти за пределы этого класса. В случае попадания при начальном состоянии Et в класс б^) обозначим через по число шагов до первого попадания в одно из состояний Ej класса №> и чэрез [% номер подкласса ^\ к которому принадлежит это первое состояние Ер Обозначим через N1^ вероятность при начальном состоянии Е^ попасть в пределы класса £(°о так, чтобы п0 = ро + у (mod d (а)). Очевидно,
d(a)
^n^=n^.
Y=1
Можно показать, что имеет место следующая
Теорема V. В случае несущественного Et и существенного Е^ из подкласса 8^ вероятность Р^ стремится к N^-^Pj, когда п -> + оо, пробегая значения п = Р (mod d (а)).
Мы видим, таким образом, что при твердых г и / зависимость вероятности Р^ от п во всех случаях (существенных или несущественных состояний) будет асимптотически периодической. Средние же л^ всегда имеют при п -> + оо определенные пределы л^-.
Комаровка, 22 декабря 1936 г.
ЛИТЕРАТУРА
Kolmogorojj А. Anfangsgriinde der Theorie der Markoffschen Ketten mil unend- lich vielen moglichen Zustanden.— Мат. сб., 1936, т. 1, с. 607—610.
Doeblin W. Sur les chaines discretes de Markoff.— C. r. Acad. sci. Paris, 1936, vol. 203, p. 24—26.
KMntchine A. Sur la loi des grandes nombres.— C. r. Acad. sci. Paris, 1928, vol. 188, p. 47 7—479.
24
ОБ ОБРАТИМОСТИ
СТАТИСТИЧЕСКИХ ЗАКОНОВ ПРИРОДЫ *
1
ПОСТАНОВКА ЗАДАЧИ
Рассмотрим ft-мерное дифференциально-геометрическое многообразие R. Обозначим через / (£, ж, у) dy1dy2. . . dyu вероятность перехода за время £ )> 0 из точки х в какую-либо точку ц с координата-
ми т)ь г = 1, 2, . . ., п. удовлетворяющими неравенствам У1<цг < < Ui + dyt. Предположим, что функция / (£, ж, у) имеет все производные вплоть до некоторого достаточно высокого порядка и, кроме того, удовлетворяет следующим условиям:
/ (t, X,, у) > 0,;(1)
$.^. $/(Л ж, y)dyidy2. ..<2Уп=Ь(2)
/($ + (, х, У) = $- -^/(«, ж' ZHV» z> y)<hid^.. ,dzn,(3)
(4)(4)$ ’g'V^’ X’ У^У1^1' * -^n-*l при Z->0,
(4)
(4)
если ж — внутренняя точка области G (ср. [1, 2]). При заданной функции / (£, ж, у) функция р (х) будет определять совместное с / (£, ж, у) стационарное распределение вероятностей в том и только в том случае, когда выполняются условия:•
р(ж)>0(5)
Й
... С р (ж) dxi dx2. .. dxn = 1,(6)
R J .
(7)(7)P G/) = № • • Л P (ж) / (^ ж» у)d^ 5x2... dxn.
(7)
(7)
Стационарное распределение является эргодическим. если при любых ж и у при t -> оо имеет место соотношение / (£, ж, у) -> р (у). Из формулы (7) следует, что эргодическое стационарное распределение всегда является единственным стационарным распределением, т. е. что в случае, когда существует эргодическое стационарное распределение р0 (х). никакое другое, отличное от р0 (х). неэргодическое стационарное распределение р (ж) уже не может существовать. Отметим, что в случае замкнутого многообразия R существование эргодического (и, следовательно, единственно возможного) стационарного распределения непосредственно вытекает из одного только условия, что / (£, ж, у) > 0 для любых ж и у при достаточно большом t (ср. [2, § 5])J
Будем считать, что функция / (£, ж, у), так же как и какое-то стационарное распределение р (ж), заранее заданы. Помимо того, предположим еще, что р (ж) > 0 при любом ж. В таком случае, зная положение у в конце временного интервала продолжительности t. можно также определить условное распределение вероятностей (при заданном у) начального положения ж. Обозначая плотность этого условного распределения вероятностей через h (t. х. у), будем иметь
h & ®. У) Р (У) = Р (ж) / (£, х, у). (8) Равенство (8), очевидно, однозначно определяет функцию h(t. х. у).
Упомянутый в заглавии настоящей работы вопрос об обратимости статистических законов природы может быть сформулирован следующим образом: при каких условиях имеет место соотношение
К (^ хп у) = / (^ у, х)?(9)
Настоящая работа посвящена специальному случаю, когда функция . / (п ^» У) удовлетворяет следующим уравнениям Фоккера—Планка:
(по поводу этих уравнений см. [2]).
Ради простоты мы в дальнейшем ограничимся лишь случаем замкнутого многообразия R. В этом случае из (И) вытекает, что каждое стационарное распределение р (у) должно удовлетворять уравнению
+(,2)
В дополнение к указанным выше предположениям допустим еще, что квадратичная форма Вгз всюду является строго положительно определенной. Случай вырожденной формы Вгз весьма интересен для многих физических вопросов (см., например, [5]), но в настоящей работе мы его не будем рассматривать. Предположение о положительной определенности формы Вгз влечет за собой справедливость соотношения / (ж, у. 0 )> О при любых х. у и t > 0, а, следовательно, также и существование единственного стационарного распределения р (х), где р (х) ^ О при любом х. Это единственное стационарное распределение р (х) представляет собой единственное решение уравнения (12) такое, что
$.. .^ p^dxidx^ ... dxn = 1.(13)
При сделанных предположениях необходимые и достаточные условия справедливости соотношения (9) могут быть непосредственно выражены в виде свойств коэффициентов Лг и Вгз уравнений (10) и (11). А именно при указанных выше предположениях для справедливости соотношения (9) необходимо и достаточно. чтобы определенный ниже вектор а (у)А компоненты которого выражаются через Аг (у) и Вгз (у), был бы градиентом некоторого скалярного потенциала, В случае, когда В13 (z/) = Ьгз. это условие принимает особенно простой вид, так как здесь а (у) — это не что [иное, как вектор с компонентами
Сформулируем теперь еще раз принятые нами предположения.
Функция / (^ х9 у) дифференцируема достаточное число раз и удовлетворяет условиям (1) —- (4), (10), (11).
Многообразие R является замкнутым.
Форма Blj (у) положительно определена .
2ИНВАРИАНТНАЯ ФОРМА УРАВНЕНИЙФОККЕРА—ПЛАНКА
Рассмотрим теперь более общий случай, чем тот, с которым мы имели дело в разделе!. А именно теперь мы предположим, что переходы из х в у в течение промежутка, времени между моментами s и t > $ имеют распределение вероятностей, описываемое плотностью вероятности / (s, t, х9 у). При этом функция / (s, t. х, у) должна удовлетворять следующим условиям (ср. [1, 2]):'
Цз^ з^У^^‘(14)
й" У^’1, х’ У^У^^ - ■ -аУп = ^’(15)
R
f(s, t, x, y) = ^.. -^/(s, u, x, ^f(ut t, z, y^dzi, dz^. . .dzn9 - (16) R
S<^U<49
^.. .^f(s9t9 x, y^dyrdy^- • -dyn->i при £->$(17)
G
и x9 лежащем внутри области G.
Уравнения Фоккера-т-Планка в этом случае будут записываться в следующем виде:
i
- ,£2 уУ (s’х) а№f (s*1’ж* ^(18)
^'Itх*у) = - 5 "57 и< ^*yWt,x’у)} +
+ УУ^ГГ^ (t, УИ($. t, х, у)}.(19)
ду оу3
Коэффициенты В^ (s, ж) образуют контравариантный тензор второго ранга., в то время как коэффициенты Аг (s, ж) преобразуются по следую-
щему более сложному закону:
А — SrА + "Т. 'т Ь ох ох
(начиная с этого места знак суммы всегда будет опускаться).
Будем считать, что квадратичная форма Вгз (s, я) всюду и при любом значении s является положительно определенной, и выберем эту форму в качестве основной метрической формы многообразия R (заметим, что введенная нами метрика зависит от s). Положим далее, что
aj (s, ж) = A* (s, ж) - Г* (s, ж),(20)
где Г? — символ Кристоффеля, соответствующий метрической форме В^ (s, ж). Контравариантный вектор аг представляет собой вектор, который в каждой геодезической системе координат (в точке ж) совпадает с Аг. В выбранной в точке х геодезической системе координат уравнение (18) может быть записано в следующем виде:
df/Os = - с? (s, ж) ^f - Д<жу,(21)
где значок (ж) указывает аргумент, по которому берется производная, Аг означает ковариантную производную, а А — оператор Лапласа, т. е. А = ^t^г.
Последнее уравнение в силу его инвариантности должно быть справедливым также в любой другой системе координат. При изменении координат х функция / (s, tn х, у) не меняется: если, однако, изменяются координаты у, то эта функция преобразуется как скалярная плотность. Положим теперь
/ (8, t, X, У) = VI ВИ (i, У^Ч- (s, I, х, у).(22)
Ясно, что функция ф (s, t, х, у) будет уже инвариантной и относительно замены координат ж, и относительно замены координат у^ причем она также будет удовлетворять уравнению (24):
dy/ds = —а? (s, ж) А?) ф — ф.(23)
Что касается уравнения (19), то оно теперь приобретает следующий вид:
^ = -Д^У,У)фМ-Д(^ + ^^^^(24)
3
РЕШЕНИЕ ЗАДАЧИ
Вернемся теперь снова к случаю, когда выполняются условия, Указанные в конце раздела 1. При этом квадратичная форма В^ (х) уже не будет зависеть от времени, а только от координат точкй х
многообразия R. Положим
а4 (х) = А1^ - Г? (ж),(25)
/ (^ х, у) = У ЖТШ Ф (t, х, у),(26)
Р (х) = ]/" | Ви (ж)| л (х),'(27)
h (t, хг у) = У | Ви (ж)|хр (t, х, у).(28)
В таком случае вопрос об условиях справедливости соотношения (9) сводится к вопросу об условиях, при которых имеет место эквивалентное соотношение
ф (f, X, у) = ф (i, у, хУ(29)
В силу результатов раздела 2 функции ф (t, х, у) и л (ж) удовлетворяют уравнениям
' д^Ю1 = а1 (ж) А^1 ф + Д^ф,■(30)
d^Ot = —Aty) (а1 (у) ф} + А(^ ф,(31)
-А?’ {а4 (ж) л} + А^л = 0.(32)
Так как, кроме того,
ф (*, ж, у) = ф (t, х, у) л (ж)/л (у),
то соотношение (29) можно переписать в виде
ф (t, X, у) л (ж) = ф (t, у, х) л (уУ(33)
Допустим, что соотношение (29), а следовательно и (33), выполняется. Переменив местами х и у и воспользовавшись уравнением (31), можно получить следующее уравнение для ф (£, у, х):
d^ldt = —Дг {агф} + Дф(34)
(здесь и в дальнейшем все встречающиеся производные — это производные либо по t, либо по ж, но никогда не по у, а функции аг зависят лишь от х\ Тому же уравнению должна удовлетворять функция ф (£, ж, у), а следовательно, и ф (£, ж, у) л (у) = ф (£, х, у)п (х):
д (фл)/д^ = — Дг (агфл) + Д (фл),(35)
или
л -^- = — лагД^ — фД| (агл) + лДф + 2 (Дгл) (Дгф) + фДл. (36)
Умножив все члены уравнения (32) на —ф, а все члены уравнения (30) на —л и добавив оба получаемые при этом равенства к равенству (36), будем иметь
0 = —2лагД^ + 2 (Дгл)(Дгф),
ИЛИ
(ДгФ)(-а*л + ^л) = 0.(37)
Легко убедиться, что в любой области многообразия R выражение А;Ф не обращается в нуль тождественно (т. е. при любом t > 0). Поэтому на всюду плотном множестве точек ж, а значит (в силу непрерывности), и всюду
—агл + Агл. = 0,—«гЛ+ А^л = —агл + дп1дхг = 0,(38)
т. е.
at = 8 (log ^!8х\(39)
Обозначая log л = Р, мы видим, что Р — это потенциал а. Тем самым мы доказали необходимость сформулированного в разделе 1 условия.
Пусть теперь, наоборот, известно, что существует Р такоег что аг = 8Р1дхг\
требуется доказать, что в таком случае будет справедливо и соотношение (29).
Легко убедиться, что ер удовлетворяет уравнению (32). Так как, однако, л — единственное решение уравнения (32) такое, что
Й
. . Д л У|5^(я)| dxi dxz... dxn = 1,
то, очевидно,
л = (1/J)^,(40)
где
J =. A ep ]/1 B^ (x) | dxi dx^... dx^.
R О "
Из (40) последовательно вытекают равенства (39), (38), (37), (36) и (35). Из (35) следует, что гр (2, х, у) удовлетворяет уравнению
8^/8t = (аггр) + Агр,(41)
т. е. тому самому уравнению, которое выше было обозначено как уравнение (34), справедливое для ф (£, у, х). Начальные условия для ф (^ У, х) и гр (£, х, у) при t = 0, очевидно, совпадают друг с другом. Следовательно, ф (£, у, х) = гр (£, х, у), что и завершает доказательство нашей теоремы .
Москва, 1 июля 1936 г.
ЛИТЕРАТУРА
Kolmogoroff A. N. Ueber die analytischen Methoden in der Wahrscheinlich- keitsrechnung. — Math. Ann., 1931, Bd. 104, H. 3, S. 415—458. Pyc. neo • УМН, 1938, вып. 5l c. 5-41.
Kolmogoroff A. N. Aur Theorie der steitigen zufalligen Prozesse.— Math.
Ann., 1933, Bd. 108, H. 1, S. 149—160. Рус. пер.: Наст, изд., № 17*
Kblmogoroff A. N. Tait Theorie der Markoffschen Ketten.— Math. Ann., 1936
Bd. 112, H. 1, S. 155-160.’’
Hosttnsky B., Potocek J. Chaines de Markoff inverses.— Bull. Intern. Acad.
tcheqiie set, 1935, vol. 36, p. 64—67.|*
Kolmogoroff A. N. Zufallige Bewegungen.— Ann. Math., 1934, vol. 35, N 1 p. 116—117.’
25
К РЕШЕНИЮ ОДНОЙБИОЛОГИЧЕСКОЙ 'ЗАДАЧИ*
Р. А. Фишер [1] дал интересное приложение теории итераций к вопросу о законах размножения нового гена в неограниченной популяции. Ж. Ф. Стеффенсен недавно [2] дал подробное изложение этого метода в применении к вопросу о вероятности гибели всего потомства одного индивида. Однако оба эти вопроса математически тождественны. Кратко изложив постановку вопроса и известные результаты, мы намерены дополнить результаты Фишера и Стеффен- сена в некоторых направлениях.
1
МАТЕМАТИЧЕСКАЯ ПОСТАНОВКА ВОПРОСА
Следующие предположения существенны для наших математических рассуждений. Пусть FOl FXl . . ., FU1 . . . будет последовательность поколений. В поколении Fo имеются Ко индивидов с признаком М (М-индивиды). Скрещивания между М-индивидами ис- клкщаются. Всякий Af-индивид из F^x происходит от определенного М-индивида из Fu. Даны вероятности р^ что некоторый М-индивид поколения Fu будет иметь ровно к Af-потомков в F^Xt и эти вероятности независимы от судьбы других ветвей Af-потомства.
Наша задача заключается в том, чтобы определить вероятности Р^ (п ^ 1) того, что число Кп Af-индивидов в /г-м поколении равно к. При этом Р^ есть вероятность гибели М-потомства. Вероятность P^i очевидно, вместе с сможет только возрастать. Главный результат настоящей работы состоит в определении асимптотического течения Р^4 при больших п.
* Изв. НИИ мат. и мех. Томск, ун-та, 1938, т. 2, вып. 1, с. 7—12.
Мы предполагаем, что три первых факториальных момента а = Pi + 2^2 + . . . + kpk + . . .
b = 2р2 + 6р3 + . . . + к (к — 1) рк + . • .
с = 6т?3 + 24/?4 + . . . + к (к — 1)(Л — 2) р^ + • • ••
конечны.
2'
БИОЛОГИЧЕСКИЕ ОБЪЯСНЕНИЯ
Ки означает число тех М-индивидов в /г-м поколении, которые достигли определенного возраста. В предполагаемые заданными вероятности р^ включается, следовательно, и влияние отбора. Если, например, у взрослого М-индивида всегда бывает очень большое число т M-потомков следующего поколения, имеющих, однако, очень небольшую вероятность alm достигнуть возраста, намеченного для определения КП1 то получим
Pk = Ст (1 — а/т^^ ^a!m^s
или приближенно по формуле Пуассона
В этом случае легко , вычисляется t что
6 = я2, с = а3.
Величина, имеющая наибольшее влияние на судьбу М-поколе- ния, это первый момент а, т. е. среднее число М-потомков одного М-индивида в последующем поколении. Если Кп очень велико, то мы приближенно имеем
^п+1 ~ аКп,
Следует различать три случая,существенно отличных друг от друга, в зависимости от того, будет ли а больше, меньше или равно единице.
Если а < 1, то без всякого вычисления ясно, что в конце концов М-потомство должно исчезнуть. Мы далее доказываем, что этот результат остается в силе еще и при а = 1, 6 > 0. Если а > 1, то мы имеем отличную от единицы вероятность Ро вымирания М-потомст- ва (Ро = lim Р^ при п -> оо). Вероятность того, что потомство не погибнет, а размножится неограниченно, равняется 1 — Рй.
Исключение а = 1, 6=0 возможно лишь в том случае, если Pi = 1, рк = 0 (k ^ 1). В этом случае Ки1 очевидно, всегда равняется К0 и, следовательно, Р^ всегда равно нулю."
Конкретная задача, которая привела к исследованиям Фишера, состоит в следующем..
В очень большой стационарной популяции, состоящей исключительно из индивидов типа ВВ, появляется небольшое количество Ко индивидов типа ВЪ (поколение FqY Если в дальнейших поколениях 517 52, • • • 56-потомство остается сравнительно немногочисленным, то Bb X 56-скрещения практически исключаются. При этом предположении наша схема применима к 56-потомству.
Если а = 1, то 56-индивиды обладают той же жизнеспособностью, что и 55-индивиды. Однако вследствие случайных колебаний числа К^ они непременно должны вымирать (случай а = 1, 6 = 0 здесь невозможен). Тем более исчезают 56-индивиды, если а <^ 1. Если а> 1, то имеется положительная вероятность 1 — Р01 что 56-индивиды размножатся неограниченно (неравенство а^ 1 соответствует предположению, что 56-индивиды обладают большей жизнеспособностью, чем 55-индивиды). В действительности же случайные колебания Ки и при а = 1 могут оказаться столь большими, что скрещения 56 X 56 получают неисчезающую вероятность. Тогда приходится принимать в расчет и жизнеспособность 66-индивидов.
ОБЩАЯ ТЕОРИЯ
Главный результат Фишера и Стеффенсена состоит в сведении вычисления вероятностей Р^ к определению коэффициентов известных степенных рядов. С этой целью полагают
9 (ж) = Ро + Р1Х + Рг^ 4- . . . + Р^ + ...,_(2)
Qw (ж) = Р^ + Р^х + Р ^х* +'... + №ч + ...(3)
Так как р^ ^ 1, P>tn) ^ 1, то q (х) и QW (ж) при | х | <^ 1 — аналитические функции. Пусть будет qn (х) п-й итерацией q (х):
q1 (ж) = q (х),q^1 (ж) = q (ж)).
Главной формулой всей теории является следующая :
Q^ ^ = [^ (ж)]Ков(4)
В частности,
Р^ = QW (0) и, следовательно,
Р^ =(0)]к-,(5)
Ро = lim P^ = Пт [^) (0)И» = п -* со.(6)
Предел
X = lim q^ (0), я —> оо,
определяется из общей теории итераций. Доказывается, что X равняется наименьшему неотрицательному корню уравнения
g (X) - X = 0.(7)
Такой корень существует, так как
q (1) = Ро + Pi + • • • + Л + • • • = 1, Ч (1) — 1 = 0.
Далее доказывается, что в случае а > 1 искомый наименьший корень X меньше единицы. В этом случае мы имеем, следовательно, положительную вероятность.
1 - ро = 1 - №'
неограниченного размножения Л/-потомства. Если, напротив, а <^ 1 (и в случае а = 1 еще и & > 0), то необходимо X = 1 и, следовательно, Ро = 1. ТИ-потомство в этом случае с необходимостью должно вымирать. Поэтому желательно исследовать асимптотический ход вероятности
7?^ = 1 __ р^_
выживания до n-го поколения. Ни Фишер, ни Стеффенсен этого не сделали при общих предположениях.
4
. АСИМПТОТИЧЕСКИЙ ХОД Rw В СЛУЧАЕ
Пусть будет•
rn = 1 - ^ (0),
ги при п -> оо в нашем случае сходится к нулю. Следовательно, при п —> оо асимптотически имеется
Я<п)=1_[9"(0)]К«=1_(1_гЛк’~/^(8)
Остается исследовать асимптотический ход гп. Заметим прежде всего, что
q’ (1) = а,
а при 01
0 < q" (я) < q" (1) = 6,0 < qrn (rr) < ^ (1) = с.
Теперь пусть будет а < 1. Если разложить q (1 — у) в строку Тейлора, то получится
q (1 — у) = q (1) — q' (1) у + ° W = i — ау + о ^у
Положим у = r^ — 1 — qn-1 (0), тогда получится
Гп = 1 — 9** (0) = 1 — q [<?П-1 (0)J = 1 — q (1 — т^ = ar^ + О (r^ rjr№_t = a [1 + О (r^)].(9)
Из (9) после некоторых простых рассуждений следует, что асимптотически
гп — Са\(10)
причем С — подходящая постоянная. Вследствие (8), наконец, имеет место формула'
R^ ~ СКоап.(И)
Мы, таким образом, видим, что в случае а < 1 вероятность R^ асимптотически убывает по геометрической прогрессии со знаменателем а.
, Пусть будет а = q* (1) = 1. В таком случае
^(1 - у) = q(V) - q'Wy + xkl4^ f -VP ^ = 1 - у + W + О (y^ rn = 1 — qn (0) = 1 — q (1 — Гп-i) = rn-i — Va^rLi + О (rLi),
rjr^ = 1 - Ч»^ + О (rLi).(12)
Из (12) вытекает, что асимптотически (при 6 > 0)
rn - 2/пЬ.(13)
Вследствие (8), наконец, будет*
R^ ~ 2К0!пЬ.(14)
Таким образом, мы видим, что в случае а = 1 R^ приближается к нулю существенно медленней. Формула (14) показывает, что в случае а = 1 при большом п вероятность R^ выживания до n-го поколения обратно пропорциональна второму моменту Ь. В частности, в случае применимости для вероятностей р^ формулы Пуассона (1) Ъ = а? = 1 и, следовательно,
RW - 2К0/п.
Эта формула указана у Фишера. В качестве второго примера мы рассмотрим случай, в котором каждый Sb-индивид дает после скрещивания Bb X В В ровно два потомка. Здесь будет р0 = V4, рг = = ^2, Р^ = 41, Рк = 0 (к> 2), откуда b = V2 и R^ = 4К01п.
5ПРИБЛИЖЕННАЯ ФОРМУЛА
. Теперь вернемся к случаю а > 1. Но предположим, что
со = а — 1.
абсолютно и по’отношению к Ь > 0 мало. В этом случае и
р = 1 — X
мало и можно положить приближенно
q (X) = q (1 — н) ~ 1 — Ч' (1) И + гкч" (1) |Л2 = 1 — <^|Л +
+ XW-
Уравнение (7) дает
g (X) — X ~ 1 — яр, + V26p2 — 1 + р = —сор + V26p2 = 0,
р - 2со/6,(15)
X - 1 - 2со/6.(16)
Если со в сравнении с Ко мало, то из (15) и (16) следует приближенно
— Ро ~ 2К^1Ь,
т. е. вероятность 1 — Ро неограниченного размножения M-потомства прямо пропорциональна коэффициенту отбора и обратно пропорциональна второму моменту 6.
ЛИТЕРАТУРА
Fischer R. A. The genetical theory of natural selection. Oxford, 1930.
Steffenson J. F. Deux problcmes du calcul des probabilites.— Ann. Inst.
H. Poincare, 1933, vol. 3, p. 331—334.
26'-
ОБ ОДНОМ НОВОМ ПОДТВЕРЖДЕНИИЗАКОНОВ МЕНДЕЛЯ
В происходившей осенью 1939 г. дискуссии по вопросам генетики много внимания уделялось вопросу проверки состоятельности законов Менделя. В принципиальной дискуссии о состоятельности всей менделевской концепции было естественно и законно сосредоточиться на простейшем случае, приводящем, по Менделю, к расщеплению в отношении 3: 1. Для этого простейшего случая скрещивания А а X X Аа при условии доминирования признака А над признаком а мен- делевская концепция приводит, как известно, к выводу, что в достаточно обширном потомстве (безразлично, составляющем одно семейство или объединяющем много отдельных семейств, полученных от различных пар гетерозиготных родителей типа Ля) отношение числа особей с признаком А (т. е. особей типа АА или Ля) к числу особей с признаком я (типа яя) должно быть близким к отношению 3:1. На проверке этого простейшего следствия из менделевской концепции и сосредоточили свое внимание Т. К. Енин [1, 2], Н, И. Ермблаева
и Э. Кольман [4]. Между тем менделевская концепция не только приводит к указанному простейшему заключению о приближенном соблюдении отношения 3:1, но и дает возможность предсказать, каковы должны быть в среднем размеры уклонений от этого отношения. Благодаря этому как раз статистический анализ уклонений от отношения 3 : 1 дает новый, более тонкий и исчерпывающий способ проверки менделевских представлений о расщеплении признаков. Задачей настоящей заметки является указание наиболее рациональных, по мнению автора, методов такой проверки и их иллюстрация на материале работы Н. И. Ермолаевой [3]. Материал этот, вопреки мнению самой Н. И. Ермолаевой, оказывается блестящим новым подтверждением законов Менделя х.
§ 1
ОБЩИЕ ЗАМЕЧАНИЯ О РОЛИ СЛУЧАЯ
-В ЯВЛЕНИЯХ НАСЛЕДСТВЕННОСТИ
Станем сначала на точку зрения, независимую от менделизма. Пусть в результате скрещивания двух особей аир получается потомство из п особей. Обычно при этом каждая из двух особей аир производит число гамет значительно большее, чем число потомков п. Пусть а производит гаметы
а Р — гаметы
Р1> ₽2, • • •> Pfc2-
Какие именно из весьма большого числа kv к^ возможных пар гамет будут действительно использованы для получения потомства, зависит от многих обстоятельств. Эти обстоятельства законно разделить на внутренние, определяемые биологическими свойствами особей а и Р и гамет аг и Р^, и на внешние, независимые от этих биологических свойств. Например, при опылении у растений решение вопроса о том, какие именно из пыльцевых зерен попадут на рыльце, а какие нет, или о том, каково будет расположение на рыльце попавших на него зерен, зависит от бесчисленного множества факторов совершенно внешнего по отношению к биологическим закономерностям характера. При изучении биологических закономерностей следует считать эти внешние для них обстоятельства оплодотворения случайными и применять к ним аппарат теории вероятностей.
Выбор п пар
(аЩ Pji)’ (аг2> Pja)» • • •> (агп) Pjn) возможен .
5 п\ (ку — п)! ^ — п)!
На работу Н. И. Ермолаевой обратил мое внимание А. С. Серебровский.
различными способами. В соответствии со сказанным выше дальнейшее исследование должно исходить из предположения, что биологическими факторами определяется для каждого из этих возможных способов выбора лишь некоторая вероятность его действительного осуществления.
Вывод менделевских законов основывается (см. далее § 2) на простейшем допущении, что вероятности, соответствующие любому из этих s возможных способов выбора, одинаковы (и, следовательно,, все равны 1/s). Биологически это допущение означает равную жизнеспособность гамет, отсутствие селективного оплодотворения и равную жизнеспособность (по крайней мере до момента подсчета потомства) особей, получающихся от любой парной комбинации аь [^ гамет. Назовем эту простейшую гипотезу для краткости гипотезой независимости (вероятности того или иного набора гамет, используемых для получения потомства, от их биологических особенностей).
Как и всякая другая гипотеза о независимости одних явлений от других, интересующая нас гипотеза, взятая в виде абсолютной догмы, не допускающей никаких коррективов, неверна: существует целый ряд твердо установленных примеров уклонений от этой гипотезы, иногда количественно незначительных, а иногда и очень крупных.
Ясно, сколь неосновательной была бы точка зрения, пытающаяся вовсе отрицать роль внешних с биологической точки зрения случайных обстоятельств в подборе гамет, участвующих в оплодотворении.
Серьезный спор может идти между такими двумя точками зрения.
Гипотеза независимости в большинстве случаев является хорошим первым приближением к действительному положению вещей (сторонники менделевской и моргановской генетики).
Селективное оплодотворение и неравная жизнеспособность играют всюду столь решающую роль, что рассмотрения, опирающиеся на гипотезу независимости, для биологии бесплодны (школа акад. Т. Д. Лысенко).
РАСЩЕПЛЕНИЕ В ОТНОШЕНИИ 3 : 1
Вернемся теперь к более специальным менделевским допущениям для случая скрещивания Аа х Аа и доминирования признака А. В этом случае принимается, что каждый из родителей образует столько же гамет типа Л, как и гамет типа а, пары гамет типов А А и А а дают потомков, обладающих свойством Л, а пары гамет типа аа — потомков, обладающих свойством а. Из этих предположений в соединении с допущением, что кх и к^ несравненно больше, чем и, и с гипотезой независимости получается вывод:
Вероятность того, что в группе из п потомков окажется ровно ^ особей с признаком А (остальные же с признаком а) равняется
Пусть теперь произведено большое число г скрещиваний А а X X Лаи от каждого из них получено по семейству из
nv п^ . . ., пТ
особей, из числа которых соответственно
т^ т^ . . ., тг'
обладают признаком А. Спрашивается, как возможно полнее проверить, согласуется ли такой результат опыта с менделевскими допущениями или нет?
Если число особей в каждом семействе очень мало (например, меньше 10), то целесообразно непосредственно проверять формулу (1) при помощи %2-критерия Пирсона.
Если каждое семейство сравнительно многочисленно, то целесообразнее другой метод. В этом случае из (1) вытекает:
Нормированные уклонения
А = (т/п — 3/4) : ап,
где
оп = У 3/4 У п,
подчиняются приближенно закону Гаусса с единичной дисперсией, т. е. вероятность неравенства
А ж
приближенно равна
Р(®) = -^ (.(2)
V 2л J
Здесь оп — ^ 3/4 Vn есть среднеквадратичное уклонение частоты mln от 3/4. Мы видим, что это среднеквадратичное уклонение пропорционально 1/|Лп. Следовательно, только в случае очень больших семейств менделевская теория предсказывает большую близость частоты т/п к 3/4. Например, чтобы с вероятностью 0,99 можно было бы утверждать, что
| т/п — 3/4 | < 0,01,,
п должно быть больше 12 000.
Зато рассмотрение большого числа семейств средней величины дает возможность гораздо более тонкой проверки менделевских допущений при помощи рассмотрения распределения уклонений А. В частности, из формулы (2) вытекает, что вероятность неравенства | А | ^
приблизительно равна 0,68. Следовательно, по менделевской теории среди достаточно большого числа семейств должно быть приблизительно 68% с А ^ 1 и приблизительно 32% с | А | > 1. В работе
Ц. И. Ермолаевой [31 для проверки этого следствия менделевской теории пригодны серия из 98 семейств с расщеплением по окраске цветка и пазухи листа (табл. 4 работы Ермолаевой) и серия из 123 семейств с расщеплением по окраске семядолей (табл. 6 работы Ермолаевой). Остальные серии содержат слишком мало семейств (или групп семейств) для надежной проверки. Результаты приведены в следующей таблице .
Число семейств
Расщепление (по окраске) цветка и пазухи листа
Расщепление (по окраске) семядолей
Теоретически, %
Общее
98 100%
123 100%
100
с |Д|С
1
. 66
67%
85
69%
68
С |Д|>
1 *
32
зз%
38
31%
32
При указанном числе семейств в серии совпадение с теорией следует признать очень хорошим. В силу странного недоразумения сама Н. И. Ермолаева утверждает в своей работе, что наличие заметного процента семейств с | А | > 1 опровергает менделевскую теорию. ‘
Можно было бы провести аналогичную проверку совпадения с теорией процента семейств, для которых | А | ^ а при каком-либо а ^ 1. Например, теория предсказывает, что приблизительно у 50% семейств должно быть | А | ^ 0,674. Однако лучше всего сразу произвести полную проверку близости фактически наблюдаемого распределения уклонений А к теоретическому гауссовскому. Для этого вычерчиваем на одном и том же чертеже теоретическую кривую у = Р (я) в соответствии с формулой (2) и эмпирическую ступенчатую кривую .
У = q (x)lr,
где г обозначает общее число семейств в данной серии, a q (х) — число семейств в серии, для которых А ^ я. Результаты такой проверки для двух интересующих нас серий Н. И. Ермолаевой показаны на рис. 1 и 2. Как видно, совпадение эмпирической и теоретической кривой в обоих случаях получается достаточно хорошее. Чтобы оценить, является ли наблюдаемое между ними расхождение допустимым при данной численности серий, следует воспользоваться выведенными мною ранее формулами (см. [5]). Для случаев, изображен-
ных на рис. 1 и 2, находим по этим формулам
Хх = 0,82, Х2 = 0,75,
ф ^ = 0,49, Ф (Z2) = 0,37, что вполне удовлетворительно.• *
Мы видим, таким образом, что большей близости частот mln по отдельным семействам к их среднему значению 3/4, чем получилось у Н. И. Ермолаевой, при данной численности семейств и нельзя было бы ожидать по менделевской теории.
Если бы в какой-либо достаточно обширной серии семейств уклонения т!п от 3/4 были бы систематически меньше, чем требует теория, то это в такой же мере опровергало бы применимость к этой серии семейств сформулированных выше допущений, как и систематическое превышение теоретически предсказываемых размеров этих уклонений. Намек на такую' систематическую чрезмерную близость частот min к 3/4 имеется в материалах работы Т. К. Енина [1]. Однако материалы этой работы недостаточно обширны (25 семейств по сравнению с двумя сериями в 98 и 123 семейства у Н. И. Ермолаевой) и возбуждают ряд других сомнений (сам автор считает их не вполне однородными). Поэтому в детальное их рассмотрение мы входить не будем.
Из упомянутых в начале заметки работа Э. Кольмана, не содержащая нового фактического материала, а посвященная анализу материалов Т. К. Енина, целиком основана на непонимании изложенных в нашей заметке обстоятельств.
20 февраля 1940 г.
ЛИТЕРАТУРА
Енин Т. К.— ДАН СССР, 1939, т. 24, с. 176-178.
Енин Т. К.— Докл. ВАСХНИЛ, 1939, № 6.
Ермолаева Н. И.— Яровизация, 1939, т. 2 (23), с. 79—86.
Колъман Э.— Яровизация, 1939, т. 3(24), с. 70—73.
Романовский В. Математическая статистика. М.; Л., 1938, с. 226.
27
СТАЦИОНАРНЫЕ ПОСЛЕДОВАТЕЛЬНОСТИВ ГИЛЬБЕРТОВОМ ПРОСТРАНСТВЕ
ВВЕДЕНИЕ
Определение 1. Последовательность {ж (0} элементов ком- ллексного гильбертова пространства Н, где t пробегает все целые значения от —ос до + оо, называется стационарной, если скалярные произведения
вта ^ = (X G + ку х (0)(0.1)
не зависят от t.
Определение 2. Две стационарные последовательности {ж (^)) и ^у (£)} называются стационарно связанными, если скалярные произведения
вух (к) = (у (t + к), х (0)(0.2)'
не зависят от t.
Из определения величин] Вух (Д) и Вхх (Д) непосредственно вытекает, что
Вху (А) = Вуж ку(0.3)
вхх (к) = Вхх (- ку(0.4)
Такого рода стационарные и стационарно связанные последовательности имеют большое значение в тео*рии вероятностей и математической статистике. В терминах теории вероятностей они подвергнуты подробному изучению в книге X. Волда [1] и в статье X. Крамера [2].
Мы излагаем основные результаты X. Волда и X. Крамера в терминах геометрии гильбертова пространства в § 3 и в § 7.
Все новые проблемы, которые изучаются и решаются в настоящей работе, тоже возникли на почве теории вероятностей и математической статистики. Применения полученных нами результатов к задачам экстраполирования и интерполирования стационарных рядов случайных величин подробно освещены в моей статье [7].
Следующая теорема показывает очень простую связь, которая существует между стационарными и стационарно связанными последовательностями и унитарными операторами.
Теорема 1. Пусть последовательности
{жг (<)}, {«2 (()},. . {хп (0}.
стационарны и попарно стационарно связаны и пусть НХ1Х23С есть минимальное линейное замкнутое подпространство пространства Н, содержащее все элементы этих последовательностей. Тогда равенства
Ux^ (t) = х^ (t + 1), р = 1,2,. . .^ п, —оо < £ < 4-оо, однозначно определяют унитарный оператор
U = иХхХ^х^
отображающий пространство НХхХгх^ на самого себя.
Эта теорема позволяет получить ряд основных свойств стационарных и стационарно связанных последовательностей в качестве непосредственных следствий известных результатов спектральной теории унитарных операторов. Таков характер всех теорем § 3—6.
Более своеобразными и существенно новыми представляются нам результаты § 8—10, § 1—2 имеют вспомогательный характер.
Теорема 1 непосредственно вытекает из определений 1 и 2 и леммы 1, доказанной в § 1..
§ 1
ДВЕ ЛЕММЫ
Пусть на каком-либо подмножестве М пространства Н определен оператор
Тх = у
со значениями из Н. Оператор Т называется изометрическим, если для любых х и у из М
(Ж, у) = ах ту). .(1.1)
Пусть Нм есть минимальное замкнутое линейное подпространство пространства Н, содержащее М. Тогда имеет место следующая
Лемма 1. Оператор Т может быть продолжен с сохранением изометричности на все пространство Нм. Такое продолжение единственно.
Для доказательства леммы выберем в М всюду плотную последовательность элементов
^1» ^2» • • ei %т • • •(1*2)
Из этой последовательности выкинем все элементы 2П, которые линейно зависят от предшествующих им 2^. Получится последовательность
^п1? 2Пз, . . ., ^п^,. . .,(1.3)
для которой множество! R всех элементов 2 вида
2 = ^1^П1 -]- а2^п2 4“ • • • + ^p^rip(1*^)
содержит все элементы последовательности (1.2) и всюду плотно на Нм- Так как элементы множества R представимы в виде (1.4) единственным образом (в силу линейной независимости элементов последовательности (1.3)), то формула
T*z = ajz^ + a^Tz^ + . . . + dpT^(1.5)
однозначно определяет некоторый оператор Г* на R. При этом для любых z' и z" из R-
(/, z") = (Z*z', T*z"),
т. е. оператор Т* изометрический на R. По непрерывности его можно продолжить с сохранением изометричности на все пространство Нм*
Так как все элементы последовательности (1.2) входят в R, то из формулы (1.5) вытекает, что для всех элементов (1.2)
T*zn = Tzn;
по непрерывности это равенство соблюдается и на всем множестве М. Существование требуемого продолжения доказано.
Любое другое изометрическое продолжение оператора Т в силу формулы (1.5) совпадает с Т* на множестве R. По непрерывности такое совпадение сохраняется и на всем Нм- Следовательно, изометрическое продолжение Т на все пространство Нм единственно. Лемма доказана.
Лемма 2. Для того чтобы в пространстве Н существовала последовательность элементов
^1> ^2, • • « г ^п» • • •« удовлетворяющая условиям
^ms ^п) ™ ^тиш ^» ^i= 1> 2, . . .,(1*6)
необходимо и достаточно, чтобы при любых Д, т^, т^, . . ., т^ матрица || ст^т. || была эрмитовой неотрицательной, т. е. чтобы было
% 3—13
для любых комплексных ^ £2> . . ., ^.
Чтобы доказать необходимость условия (1.7), рассмотрим элемент пространства Н
^ ” ^l^mi 4" ^2^m2 4* ^fc^m^e Легко вычислить, что
II и II = (к, и) = S.-(1.8)
- Так как всегда || и ||2 ^ 0, то из (1.8) вытекает (1.7).
Переходим к доказательству достаточности условия (1.7). Предположим в соответствии с этим условием, что при каждом п
п
^П— 3 сг^&з^^*
4 3=1
Найдем преобразование
та
ni = 3 а^Чр
3=1
которое приводит форму Sn к виду т
^=Ж1.
Выберем в Н ортогональную нормированную систему векторов (п)(п)
» ^2 i • • ч
И ПОЛОЖИМ
т
^ = 5 ^^— 1> 2,. . . , П.
3=1
Легко вычислить, что тогда
К\ ^>) = си.
П/роизведя это построение для всех положительных целых п, построим последовательность
^ь ^2, • • ч иП1 . . .
следующим индуктивным процессом:
положим
ОПЕРАТОРНОЕ ИСЧИСЛЕНИЕ В ПРОСТРАНСТВЕ Н
В соответствии с теоремой 1 обозначим через Нх минимальное замкнутое линейное подпространство пространства Н, содержащее все элементы стационарной последовательности {ж (£)}, и рассмотрим унитарный оператор UX) определяемый равенствами
U, ж (о = Ж (< + 1).(2.1)
Пусть
Л
их= $ еЧЕ,(М(2.2)
—Л
есть спектральное представление 2 оператора Ux. Положим для — Л+ л
Fxx (X) = ц | Ех (X) х (0) |2.(2.3)
Следуя изложению М. Стоуна.([3, гл. 6, § 1]), обозначим через Z^ класс всех измеримых относительно Fxx (X) комплексных функций, определенных на отрезке —л ^ X ^ л, для которых интеграл
я
S IvMI2^^)(2.4)
—Л
конечен. Две функции фг и ф2 класса Lx будем считать тождественными, если
Ф1 (К) = ф2 (%)
ПОЧТИ ВСЮДУ относительно Fxx W-
ЩКаждой функции ф класса Lx соответствует (см. [3, теорема 6.11) оператор
T^=^<pOWx^,(2.5)
—Л
2 См. по поводу спектральных представлений линейных операторов книгу М. Стоуна [3]. Заметим здесь, что во всем дальнейшем употребляются лишь разложения единицы Е (X), соответствующие унитарным операторам, для которых Е (—л) = 0 и Е (Ц-л) = 1. К ним применимы все теоремы книги М. Стоуна, употребляемые далее, которые сформулированы в этой книге для более общего случая разложений единицы, соответствующих спектральному представлению самосопряженных операторов в виде
4= $ Xd£(X).
область определения 6 (ф) которого состоит из всех тех элементов z пространства НХ1 для которых интеграл
$ |ф(Л)рМ|адз|2(2.6)
—Л
конечен. Из конечности интеграла (2.4) вытекает, что х (0) принадлежит 6 (ф) для любой функции ф из класса Lx. Поэтому каждой функции ф класса 1Л соответствует определенный элемент
зф = 71(ф)ж(0) = $ ф(Х)й£ж(Х)ж(0)(2.7)
—Л
пространства Нх.
Введенные обозначения позволяют сформулировать следующие две леммы, которые являются почти непосредственными следствиями теорем 6.1 и 6.2 М. Стоуна [3].
Лемма 3. Отображение
Ф “> Т (ф)
отображает класс Lx взаимно однозначно на класс ИГХ всех операторов Т, представимых в виде (2.5), где ф принадлежит Lx.
При этом
«Ф -> аТ (ф),<?(За)
Ф1 + ф2 -> Т (ф^ + Т (ф2);(ЗЬ)
если фхф2 принадлежит LX1 то
Ф1Ф2 Т (ф^ Т (ф2) = I (ф2) Т (ф^,(Зс)
е^ tf^(3d)
если хх (и) = 1 пРи I1 ^ и хх (и) = 0 при ц > X, то
Хх -> Ех (X).(Зе)
Лемма 4. Отображение
Ф -> 2ф
отображает класс L^ взаимно однозначно на все пространство Нх. При этом
«Ф -> ^ф,(4а)
Ф1 + Ф2 -* 2ф, + зф1;(4Ь)
если фхф2 принадлежит L^, то
Ф1Ф2 Т (ф^ =[Г (ф2) Zq,,,(4с)
Л
(г,,,,zvj= ^ Ф1(4ф2(^)^**(4(4f)
—Л
(^(^)3ф,,3ф,) = 5 ф1(^)ф2(М^«(^)-(4g)
. —л
Свойства (За), (ЗЬ) и (Зс) отображения ф -> Гф вытекают из теоремы 6.2 М. Стоуна [3]. Свойства (3d) и (Зе) можно вывести из сравнения формулы (2.5) с формулами
Ux=^ e^dEx(K),(2.8)
—Л
ЕХ(Ц= $ 5Еж(у?) = ^ Х%(и)^^х(и)*-(2-9)
—л—л
Взаимная однозначность отображения ф -> Т (ф) вытекает из того, что при фх ^ ф2 (в смысле определения1 тождества, принятого в L^ разность
7(ф1):г(О)~7(ф2):^^ $ [фт^-фг^)]^^)^^)
—л
имеет норму, лл
$ |Ф1(^-Ф2(^|Ях(^(0)|2 = $.|Ф1(Х)-ф2(Х)|2^(Х)^0 —л—л
и, следовательно,
Т (<рх) Ж (0) ^ 7* (ф2) Ж (0).
Для доказательства леммы 4 заметим следующее: множество 50? всех элементов Нх, представимых в виде (2.7), где ф принадлежит Ус, является по теореме 6.2 М. Стоуна [3] замкнутым линейным подпространством пространства Нх; так как]
X(0 = 77^(0) = $ e^dExQC\x^(2.10).
—Л „
и функция' е^ принадлежит L,, то Ж содержит все х (^), откуда вытекает, что
^ = Нх.
После этого замечания лемма 4 в части однозначности соответствия ф -> иф и его свойств (4а), (4Ь) и (4f) становится непосредственным: следствием теоремы 6.2 М. Стоуна [3].
Свойства (4с), (4d) и (4е) соответствия ср -> гФ вытекают из соответствующих свойств (Зс), (3d) и (Зе) отображения ф-> Т (ф). Наконец, из (4е) и (4f) вытекает (4g):
(£ж(Х)2ф1, 2ф,)= J [Хх(^)<Р1(|1)]ф2(^)^Хх(Ц) = ■—Л *
= 5 фимф»^)^*»^)*
—я
Таким образом, леммы 3 и 4 доказаны.
ОСНОВНЫЕ СПЕКТРАЛЬНЫЕ СВОЙСТВА
Теорема 2. Для любой стационарной последовательности , {ж (£)} величины Вхх (к) можно представить в виде
л
в^- $ ^архх(ц,(3.1)
—лt
где Fxx есть действительная непрерывная справа неубывающая функция, определенная на отрезке —л ^ X ^ л, для которой
Fxx (- Л) = 0.(3.2)
Функция Fxx (X), удовлетворяющая перечисленным условиям^ определяется однозначно по величинам Вхх.
Заметим здесь же, что функция Fxx (X), которую будем называть в дальнейшем спектральной функцией последовательности {ж (£)}, как явствует из дальнейшего, совпадает с функцией, определенной в § 2 формулой (2.3).
Теорема 3. Если две стационарные последовательности {х (£)} и {у (£)} стационарно связаны между собой, то
л'
5ЖУ№= $ eMdFxy^t(3.3)
—Л
где Fxy (X) есть (вообще говоря, комплексная) непрерывная справа функция с ограниченным изменением, определенная на отрезке — л ^ X ^ л, для которой
Fxy (- Л) = 0.(3.4)
Функция Fxy (X), удовлетворяющая перечисленным условиям, определяется однозначно по величинам Вху..
Так как каждая стационарная последовательность стационарно связана сама с собой, теорема 2, за исключением утверждения о том, что функция Fxx (X) является действительной и неубывающей, может рассматриваться как частный случай теоремы 3.*
Для доказательства теоремы 3 рассмотрим спектральное представление
Uxy = $ e^dExy^(3.5)
—Л
оператора Uxyi существование которого вытекает из теоремы 1 при п = 2, хх = х, х2 = у., .
Положим для — л ^ X ^ л:
(Еху (X) х (0), у (0)) = Fxy (X).(3.6)
Как известно (см. Стоун] [3, с. 177]), Fxy (X) есть непрерывная справа функция с ограниченным изменением. Из
Еху (- л) = 0. (3.7)
вытекает, что
Fxy (— л) = 0.
Наконец,
Вку ^ = (ж ^. у (0)) = ^х (0), у (0)) = ( $ е*х dE (Х)ж(0), у (0)) = —Л
= $ e^d^EQ^x^ у(0)) = $ eMdFxy(k\ —Л—л
Таким образом, функция Fxy (X), определенная формулой (3.6)^ удовлетворяет всем требованиям теоремы.
В частном случае одной последовательности {ж (£)} = {у (£)} функция
Fxx (X) = <ЕХ (X) X (0), X (0)) = I Ех ^ X (0) |2. (3.8)
будет действительной и неубывающей (см. М. Стоун [3, с. 189]). Этим оправдывается соответствующее утверждение в формулировке теоремы 2.
Из элементарных свойств ряда Фурье для функций с ограниченным изменением (см., например, А. Зигмунд [4, с. 131) вытекает, что
^) = ^-И^(Ь + 0) + С,(3.9)
где
^W = ^„(0)X-^-MLe-ie\■(з.10>
а константа С .вычисляется из условия
Fxy(- л) -0.(3.11/
Формулы (3.9) и (3.10) показывают, что функция Fxy (К) однозначно определяется по величинам Вху. Таким образом, теоремы 2 и 3 доказаны полностью.
Заметим еще, что из (3.8) непосредственно вытекает
Fyx (^ = Fxy (X).(3.12)
Теорема 4 (X. Крамера). Если последовательности
{^1 (£)}, {х2 (£)}> • • • , {^п (0} •
стационарны и стационарно связаны, то при любых —л ^ а ^ р ^ л приращения
^Fx^ = Рх^ (Р) Fx^x^ (а)(3.13)
образуют неотрицательную эрмитову матрицу, т. е.
5 A^Vvyv>0,(3.14)
(1,V=1 и
каковы бы ни были комплексные ^, £2, • . ., £п.
Обратно, если непрерывные справа функции
F^ (X), ц, v = 1, 2, . . ., п,
определенные на отрезке — л^ X ^ л, удовлетворяют условиям
S ад»>0,(3.15)
Ц V=1
^(-л) = 0,(3.16)
то в Н существует система стационарных и стационарно связанных последовательностей *
для которой
F^^F^).(3.17)
Для доказательства первой части теоремы рассмотрим спектральное представление
и= $ е^ДЕ^
—Л
оператора
U = UX^X^...XU
-теоремы 1 и, положив
(0),
U=1
рассмотрим на отрезке — л X С л выражение
Ф (М = IЕ (X) z |2 = (Е (X) z, z) = (Е (X) 2 ^ (0), 3 ^ (0)) .= '(1=1V=1
= 2 (^(Х)хи(0),^(0)) = 2 yv(E(X)^(0),^(0)) = p,V=lU,v=l
= 2 fv>№-
a,V=l
Так как функция <p (X) действительная и монотонно неубывающая
(см. М. Стоун [3, с. 189]), то при а < Р
ф(Р) —ф(а) = Дф = 2 А^ц^Вц^>0,
что и требовалось доказать.
Переходя к доказательству второй части теоремы, положим
5^) = $ e^dF^X).
По лемме 2, для того чтобы в пространстве Н существовали элементы х^ (^), соответствующие любому целому t и любому ц = 1, 2, . . . ...,%, при которых .'
fcn XV xv (£")) = В^ (Е — i"),
достаточно, чтобы было
г, g=i у
каковы бы ни были г, р^, tpi ^р. Это требование всегда выполняется, так как, полагая
где 5<в) распространяется на все р, для которых p,p = ц, имеем
в силу неравенств (3.15)-
глгл
В= 2 $ ^WdF^m^ 2 Vp№^aFb^ =
р, g=l —лр, <7=1 — Л
= $ 2 wWw^w>o.
—л Ц, V=1
Для элементов х^ (t) пространства Н, существование которых таким образом установлено,
b>v?m W = (^ (z + ^ х^ W)= в^ VX
8 А. Н. Колмогоров•
Поэтому последовательности
К (i)}, {ж2 (i)}, • • W>
стационарны и стационарно связаны. Легко видеть, что при этом
^v W = ^‘
Теорема 4 полностью доказана.
В случае п = 1 из второй части теоремы 4 вытекает
Теорема 5. Для любой действительной непрерывной справа неубывающей функции F (X), определенной на отрезке — л ^ X <^ л и удовлетворяющей условию F (— л) = 0, существует стационарная последовательность {ж (£)} с
Fxx (X) - F (X).
В случае п = 2 условие (3.15) равносильно совокупности условий
х 0, ЬЕХпХ О, Iх I2 ^Fx х AFX х
(см. X. Крамер [2, с. 227]). В этом случае теорема 4 дает:
Теорема 6. Если последовательности {ж (£)} и {у (t)} стационарны и стационарно связаны, то при любых — л ^ ос < |3 <^ л
| \F_ | 2 < ^Fxx \F^.(3.18)
Обратно, если функции Егг (X), F^ (^) и F-^ W, определенные на отрезке — л ^ Z л, непрерывны справа и удовлетворяют условиям
Д^н > О, Д^22 > 0,| Д^12 |2 < AFnAF22,(3.19)
Л1 (— 31) = ^22 (— ^ = ^12 (— Л) = °,
то существуют стационарные и стационарно связанные последовательности (х (0} и {у (0}, для которых Fxx (X) = FT1 (X), F^ (X) = = ^22(Х), FxyW-F^XY•
Дальше нам понадобится следующее усиление теоремы 6.
Теорема 7. Если функции Fxx (X), F^ (X) и ^12 (Z) удовлетворяют всем условиям второй части теоремы 6, стационарная последовательность {х (^)} такова, что
Fxx W = ^11 (^)
и ортогональное дополнение Н Q Нх пространства Нх до пространства Н бесконечномерно, то в Н существует стационарная и стационарно связанная с {х (^)} последовательность {у (^)}, для которой
Fm (X) = F^ (X), ¥хч ^ = ^12 W-
Чтобы доказать теорему 7, заметим, что по теореме 6 из принятых условий относительно функций /^ (X), F22 (?0 и F12 (X) вытекает существование стационарных и стационарно связанных последова-
тельностей {г* (£)} и ^У* (0L Для которых
Fx*x* (М ~ ^И (^)>^у*у*(^) = -^22 (^),^х*у*(^) = ^12 (^)*
Положим для всех целых t
Тх* (^ = х (/).
Легко проверить, что оператор Т изометричен на множестве {ж* (£)}. По лемме 1 оператор Т с сохранением изометричности продолжается на все пространство Нх*. Очевидно, при этом
ТНХ* — нх.
Так как ортогональное дополнение Н Q Нх бесконечномерно, то оператор Т может быть продолжен с сохранением изометричности с Нх на все] пространство Нхг! (см. М. Стоун [3, теорема 2.49]). Выбрав такое продолжение, положим
Ту* ^ = у (t).
Последовательность ^у (£)} обладает, как легко видеть, всеми требующимися в теореме 7 свойствами.
§ 4
ПОДЧИНЕННЫЕ ПОСЛЕДОВАТЕЛЬНОСТИ
Определение 3. Стационарная последовательность ^у (£)} называется подчиненной стационарной последовательности {ж (£)}, если последовательности {ж (£)} и \у (t)} стационарно связаны и все элементы последовательности {у (^} лежат в пространстве Нх.
Очевидно, если последовательность ^у (£)} подчинена последовательности {.т (0}, то
Нх. = НХ1(4.1)
иху - их.(4.2)
Пользуясь понятиями, введенными в § 2, мы докажем следующую теорему.
Теорема 8. Каждой последовательности {у (£)}, подчиненной {х (£)}, соответствует одна-единственная функция (р^ (X) класса LXl для которой
(4.3)(4.3)(4-4)(4-4)Fyu^= $ HVlRUM,
(4.3)
(4.3)
(4-4)
(4-4)
—л
М^ = $ <(Х)^жя(х).
—л
Отображение
{у (0} ф^ (/■)
отображает взаимно однозначно класс Yx всех последовательностей, {z/ (0}, подчиненных {х (£)}, на класс 7^ функций ф (X). При этом для двух последовательностей ^уг (£)} и {у2 (£)} из Yx
х
F W = $ Ф^ W Фь^ (^) dFxx (ЛУ(4.5)
—л
Утверждение о единственности функций фуХ) (X) понимается в тес- реме 8 в смысле, соответствующем данному ⑧ 2 определению тождества для функций ф (X) класса Lx. Однозначность вытекает из формулы (4.4), в силу которой
^ (X) = dFyx ^/dFxx (X).(4.6)
Существование функций q?^1 (X) для любой последовательности ^у (£)} класса Yx мы докажем наосновании леммы 4 из § 2. Если {у (£)} входит в Yx, то у (0) принадлежит Нх и по лемме 4 существует такая функция ф^ ? (X) класса Lx, для которой
У (0) = ^ (Ху(4.7)
Чу
По формуле (3.6) и утверждению (4g) леммы 4 имеем, каковы бы ни были последовательности ^ух (f)} и ^у2 (t)} из Yx:
Fyiy2 W - (^ W У1 (0), У. (0)) = (Ех (X) уг (0), у, (0)) =
= S «Ч^архх^,
что доказывает формулу (4.5). В частном случае Ух = у, Уъ = % получаем (4.4), а при уг = у^ — х формулу (4.3).
Взаимная однозначность соответствия между ^у (^} п фуХ) (X) также вытекает из леммы 4.
Существенным дополнением к теореме 8 является
Теорема 9. Если последовательности {х (t)) и {у (t)} стационарны и стационарно связаны, то для того, чтобы последовательность {у (£)} была подчинена последовательности {^ (0}, необходимо и достаточно существование такой функции <у (X) из Lx, для которой
х
Fyy^ = $ |ф(Х)№ЛХ),(4-8)
—л
X
Fyx^)- $ Ф(Х)^(Х).(4.9)
—л
Необходимость условия вытекает из теоремы 8. Докажем его достаточность. Если функция ф (X) из L^X1 удовлетворяющая равен-
ствам (4.8) и (4.9), существует, то по теореме 8 существует подчиненная последовательности {х (t)} последовательность ^у* (£)}, для которой
(X) = ф (X)
и, следовательно,
Fy*y* (X) = Fyy (X), Fy*x (X) = Fyx (X).
По лемме 1 на Нху* можно определить изометрический оператор Т, для которого при любом целом t
Тх ^ = х (О, Ту* (t) = у (t).
Очевидно, что
Тфхг^-Нху1 Т(НХ) = НХ.(4.10)
Так как ^У* (0} подчинена {ж (0}, то
Нху* - Нх.(4.11)
Из (4.10) и (4.11) вытекает
Нху = Нх,
что и означает, что ^у (t)} подчинена {х (t)}.
Определение 4. Стационарные последовательности {х (t)} и {у (t)) называются эквивалентными, если каждая из них подчинена другой, т. е. если они стационарно связаны и
Нх - Ну.
Теорема 10. Для того чтобы последовательность {у (£)}, подчиненная {х (t)}, была эквивалентна {^(0}, необходимо и достаточно, чтобы функция t^ (X) была отлична от нуля почти всюду относительно Fxx Q^. Если это условие выполнено, то
АХ) = 1/ф<ж) (X)(4.12)
почти всюду относительно Fxx (X) и относительно Fyy (X).
1°. Докажем необходимость условия. Допустим, что ^у (£)} подчинено {ж (0}, а {х (t)} подчинено {у (t)}. Тогда из формулы (4.3) и из получающейся перестановкой индексов формулы
^(Х) = $ ^^(Х)^^^)(4-13)
—л
вытекает, что функции Fxx (X) и Fyy (X) абсолютно непрерывны друг относительно друга. Поэтому понятия «почти всюду относительно
Fxx» и «почти всюду относительно Еуу» совпадают. В силу (4.3) и (4ЛЗ)
XX
Fxx^= $ WW«W = $ |Ф.^(М|2|<(М12^Ж(М
—л—л
и, следовательно, почти всюду относительно Е^
(4.14)
Формула (4.14) показывает, что ^(^ (А) ^ 0 почти всюду относительно ЕХХ1 что и требовалось доказать.
2°. Докажем достаточность условия. Допустим, что {у (£)} подчинено {^ (£)} и фуЛ) (А) =/= 0 почти всюду относительно Fxx.
Так как по формуле (4.3) функция Еуу (А) абсолютно непрерывна относительно Fxx (А), то (^ (А) также абсолютно непрерывна почти всюду относительно Еуу (А). Поэтому законно писать
х
--л
х
Iq^WM
X
- $ dFxx^ = Fxxp\ (4.15)
A CW
cr^W
- ^ CdFx$W =
—Л
— Фг/\A) йЛхх (A)— Fyx (A) — Fxy(A).
—Л
(4.16)
Формулы (4.15) и (4.16) показывают, что функция
Ф (А) - 1/ф^ (А)
(4.17)
удовлетворяет требованиям
х
F* $ |ф(Х)|М/от(^
—Л
FXy (А) — ^ Ф (A) dFyy (\у—л
(4.18)
(4.19)
По теореме 9 следует отсюда, что последовательность {ж (0} подчинена {у (£)}, что и требовалось доказать.
3°. По теореме 8 из формул (4.15) и (4.16) вытекает, что
С (X) - ф (X) = 1/<р^) (X).
§ 5РАЗЛОЖЕНИЕ СТАЦИОНАРНЫХ ПОСЛЕДОВАТЕЛЬНОСТЕЙНА ОРТОГОНАЛЬНЫЕ СЛАГАЕМЫЕ
Определение 5. Две последовательности ^Уг (£)} и {z/2 (0} называются ортогональными друг другу, если
(i/i kt + X), Уг (0) = 0.(5.1)
для всех целых к nt. .
Очевидно, что для того, чтобы две стационарные и.стационарно связанные последовательности {уг (t)} и ^у2 (t)} были ортогональны ДРУГ ДРУГУ7 необходимо и достаточно условие
В№ W = 0,(5.2)
или равносильное ему условие
FM, (X)0.(5.3)
Теорема 11. Если две последовательности {yr ^t)^ и {у2 (0} стационарны и ортогональны друг другу, то*.
последовательность
{X kt^> = кУх (0 + Уг (0}
стационарна;
последовательности {yr (t^ и {у2 (t)} стационарно связаны как между собой, так и с последовательностью {ж ^\.
(cj Вхх (k) = BMv (к) + ВГ1Уз кк),
(«г) В3№ (к) = ByiV1 (А),
(с3) В№Х^ = Вуг„Дк\
(dj Fxx (X) = FyiVl (X) + F1№ (X),
(<Ы FU1S ^ = Fyvil (X),
(ds) Fyix^) =Fy№kXY
Доказательство теоремы 11 осуществляется при помощи простых вычислений на основании формул (0.2), (3.9) — (3.11).
В условиях теоремы 11 в силу формулы (dj и неотрицательности приращений ^FXX, &ЕШУ1, кЕУ2У2 (при неотрицательных ДХ)
I ^FyYyY|^Fxx |< 1, | ^Fy1yJ^Fxx | < 1.(5.4)
Поэтому функции
/АХ йРУгУг^г i
ограничены и однозначно определены (в смысле, принятом в [3]) равенствами*
FVM= $ C^dF^,
—Л
,(5.6)
—л
Теорема 12. В условиях теоремы 11 ил и обе последовательности {yr (Z)} и [у2 (0} подчинены {х (£)}, или обе не подчинены {ж (£)}. Для того чтобы имел место первый из этих двух случаев, необходимо и достаточно соблюдение условия
С W ^^ (X) = О(5.7)
почти всюду относительно Fxx.-
Доказательство. 1°. Если ^ух (£)} подчинено {ж (£)}, то в силу соотношения
Уг (О = х (О — Ух (t).
и {г/2 (0} подчинено х (£). Точно так же если ^у2 (0) подчинено (х (£)}, то и ^уг (£)} подчинено {ж (0}«
2°. Если обе последовательности ^уг (£)} и {z/2 (0} подчинены ^х (0}, то из сравнения (5.6) с (4.3) вытекает, что почти всюду относительно Fxx’
С = I С I3, С = I Ф^ I2,(5.8)
если же принять во внимание равенства (d2) и (d3), то из сравнения (5.6) с (4.4) вытекает, что почти всюду относительно Fxx
С-С. < = ч£-■(5.9)
Сопоставление равенств (5.8) и (5.9) приводит к выводу, что почти всюду относительно Fxx функции ф^/ и ф^ равны нулю или единице. Так как, кроме того, почти всюду относительно Fxx
C + C-^ + ^-^-l,(5.Ю)
XXXXXX'
то отсюда и вытекает справедливость условия (5.7).
3°. Пусть условие (5.7) выполнено, тогда в силу (5.10) функции ф^} и ф^ почти всюду относительно Fxx равны нулю или единице.
Следовательно, почти всюду относительно Fxx справедливы равенства
(5.И)(5.И)< - I *5? I’,« = I С 1=.
(5.И)
(5.И)
Из (5.11), (5.6), (d2) и (d3) вытекает, что
—л
Fу,Х (^) = 5 ^2 (М ^Рхх (^)>
—л
X
S l<W«(5.12)
—л
—л
В силу теоремы 9 из существования функций ф^ и ф^, удовлетворяющих равенствам (5.12), вытекает, что последовательности <уг (0) и {^ (0} подчинены {ж (^)).
Теорема 13. Пусть для стационарной последовательности {ж (0} ортогональное- дополнение Н © Нх пространства Нх до пространства Н бесконечномерно. Тогда любому представлению FXXQ^) в виде суммы
Fxx W - FT (X) + Р2 (X)(5.13)
двух действительных неубывающих непрерывных справа функций Гг (X) и Р2 (X), для которых Рг (— л) = Р2 (— л) = 0, соответствует хотя бы одно представление последовательности {х (0} в виде
,(0 = У1 (О + у-t (О,(5.14)
где последовательности {уг (Z)} и ^у2 (Z)} ортогональны друг другу и обладают спектральными функциями
FViyi С) = Ег (X), Ешш ^ = F2 (X).(5.15)
Для доказательства положим
Л1 С) = Fxx (X),Е22 (X) = Fx (X),Е12 (X) = Ех (X).
Функции Рг1 (X), Р22 (X) и Р12 (X) удовлетворяют условиям второй части теоремы 6. Поэтому по теореме 7 в пространстве Н существует стационарная и стационарно связанная с {х (I)} последовательность {z/i (£)}, для которой
^ (А) - F22 (X) - Fx (X), Fxyv (X) - F12 (X) = Fx (X).
Положив
У2 (0 - X (Z) - У1 (t),
можно простыми вычислениями убедиться в трм, что последовательности ^уг (Z)} и ^у2 (f)} ортогональны друг другу ц удовлетворяют равенствам (5.15).
В теореме 12 уже установлено, какие условия следует наложить на функции Fv (X) и F^ (X) в представлении (5.13) для того, чтобы последовательности ^ух (£)} и {z/2 (^)) оказались подчиненными {я:(£)},т. е. лежащими в пространстве Нх. При этих дополнительных условиях требование бесконечномерности дополнения Н 0 Нх становится излишним , заключени^же теоремы 13 оказывается возможным усилить в том отношении, что представление (5.14) определяется представлением (5.13) однозначно , и мы получаем такую теорему:
Теорема 14. Какова бы ни была стационарная последовательность {х (£)}, каждому представлению спектральной функции Fxx (X) в виде
FXx (X) - Fx ^ + F^ ^.
-де Fv (X) и F^ (X) — действительные неубываю цие непрерывные справа функции X, для которых Рг (—л) — F2 (—л) = 0 и почти всюду относительно Fxx
(5.16)(5.16)dFx dF^
(5.16)
(5.16)
^^ XX ' ^хх 1
соответствует одно-единственное представление {х (0} в виде
X (0 = Ух (0 + У г (0.
для которого последовательности {у± (£)} и ^у2 (t)} ортогональны друг другу и
Fyiyi ^ = FT (X), Ршш ^ = F. (X).
При этом последовательности ^уг (£)} и {у2 (£)} подчинены {х (£)}.
§ 6
СКОЛЬЗЯЩЕЕ СУММИРОВАНИЕ
Определение 6. Будем говорить, что последовательность {х (t)} получается скользящим суммированием из стационарной последовательности ^и (0), если можно подобрать такие коэффициенты аП1 что
(6.1)(6.1)хЩ = 5 anu(t — п),
(6.1)
(6.1)
где ряд в правой части сходится по норме.
Очевидно, что последовательность {ж (£)}, получающаяся скользящим суммированием из стационарной последовательности ^и (£)}t всегда стационарна и подчинена ^и (£)}. Мы разберем в этом параграфе специальный случай, в котором верно и обратное утверждение.
Определение 7. Последовательность ^и (£)} элементов пространства Н называется фундаментальной, если она стационарна и удовлетворяет условиям
Вии (0) = Г Вии (к) = 0 при к ^ 0.(6.2)
По формулам (3.9) и (3.10) легко вычислить, что для каждой фундаментальной последовательности ^и (£)}
Fuu W - (^ + ^W-(6,3)
Обратно, каждая стационарная последовательность ^и (£)} со спектральной функцией вида (6.3) является фундаментальной.
Элементы фундаментальной последовательности ^и (£)} образуют полную нормированную ортогональную систему в пространстве Ни. Поэтому каждый элемент z пространства Ни однозначно представляется в виде
4-00
2 ctu^Y(6-4)
t——ОО
где
4-00
Коэффициенты ct в формуле (6.4) определяются равенствами
ct = (z, и (£)).(6.6)
Теорема 15. Для трго чтобы стационарная последовательность {^ (£)} могла быть получена скользящим суммированием из фундаментальной последовательности {и (£)}, необходимо и достаточно, чтобы последовательность {х (0} была подчинена {и (£)}. Если это условие выполнено, тр единственное представление {х (£)} в виде (6.1) дается формулой *
Х^= 2 вхи(п) и (t — nY(6.7)
71——оо
Необходимость условия теоремы была уже указана выше. Если же это условие выполнено, то каждый элемент х (^ последовательности ^х (£)} принадлежит Ни и в силу формул (6.4) и (6.6) представим в виде ■
ж(0"= SX Вхи а — s) и (s)
$ —— JO8= — ОО
или, полагая t — s = п, в виде (6.7).
Учитывая однозначность представления любого элемента в виде (6.4), мы убеждаемся в том, что каждое представление последовательности {ж (£)} в виде (6.1) совпадает с (6.7).
Заметим еще, что из сравнения (6.7) с (6.4) и (6.5) вытекает
^l^uWI^kWII^^HO).(6.8)
Из (4.3), (4.4) и (6.3) вытекает х'
^W = ^T $ I^PdX,(6.9)
—л
(6Л0)
—Л
Формула (6.9) показывает, что ф^ (X) есть функция с интегрируемым квадратом. Из (3.3) и (6.10) получается
л
Вхи W = ~ 5е"^ ^ dX-(6.11;
л
Таким образом, величины Вхи (п) являются коэффициентами Фурье функции фхП) (X), т. е.
<* (X) ~ Вхи («) е-^.(6.12)
Заметим по поводу приведенных сейчас формул, что в силу (6.3) «почти всюду относительно Fuu» обозначает просто «за исключением множества лебеговой меры йуль», а класс Lu совпадает с классом L2 функций с интегрируемым квадратом в обычном лебеговом смысле слова.
Теорема 16. Для того чтобы стационарную последовательность {ж (£)} можно было получить скользящим суммированием из какой-либо фундаментальной последовательности, необходимо, чтобы спектральная функция Fxx (X) была^абсолютно непрерывной.
Если ортогональное дополнение Н Q Нх бесконечномерно, то указанное условие является и достаточным.
Необходимость условия ясна из формулы (6.9). Чтобы доказать его достаточность, рассмотрим произвольную функцию у (X) из L^, для которой почти всюду на —лл
I у (X) ।2 = 2л apjax.(6.13)
и определим функции РИ (X), F^ (X) и Т^12 (X) формулами
Fu (X) = Fxx (X), FM (X) = ^ ,F12 (X) = ^ ^ Т (X) dX.
Легко проверить, что эти функции удовлетворяют условиям второй половины теоремы 6. По теореме 7 при условии бесконечномер- цости Н Q Нх отсюда вытекает существование стационарной и стационарно связанной с {ж (£)} последовательности {^ ^Y Для которой
Fuu W = ^22 W = (X + л)/2л,(6.14)
Fsu W = Лг (X) = ^ J V ^ ^(6Л5)
—Л
Формула (6.14) показывает, что {^ (0} есть фундаментальная последовательность. Из абсолютной непрерывности FXx (X) и формулы (6.13) вытекает, что
fxx (X) = Ргх (М - I Y ^ I2 ax.(6.16)
—л
Из (6.15) и (6.16) по теореме 9 заключаем, что последовательность ^х (£)} подчинена последовательности {^ ^Y По теореме 15 отсюда следует, что ^х (0} получается скользящим суммированием из {и (0).
Теорема 17. Для того чтобы стационарную последовательность {х (£)} можно было получить скользящим суммированием из какой-либо фундаментальной последовательности, подчиненной {х (£)}, необходимо и достаточно, чтобы функция Fxx (X) была абсолютно непрерывна, а функция
fxx (X) = dFxx (XVdX(6.17)
почти всюду на —л ^ X ^ л положительна.
Если же эти условия выполнены, то*.
Каждая фундаментальная последовательность, из которой можно получить {х (£)} скользящим суммированием, подчинена {^ (Z)}.
Последовательность {х (£)} может быть получена скользящим суммированием из любой подчиненной ей фундаментальной последовательности.
Для того чтобы последовательность {и (t)Y подчиненная {ж WY была фундаментальной, необходимо и достаточно, чтобыпочти всюду на —л X л был о
I ф?> (X) I2 = 1/2л/хж (X).(6.18)
По поводу формулы (6.18) заметим, что при условиях абсолютной непрерывности Fxx (X) и положительности почти всюду fxx (X) класс множеств меры нуль относительно Fxx совпадает с классом множеств лебеговой меры нуль. Поэтому функции класса L2» в частности функция фи\ определяются с точностью до множества меры нуль в обычном лебеговом смысле слова.
Доказательство теоремы 17.
. Необходимость условия абсолютной непрерывности уже установлена в теореме 16. Докажем необходимость положительности почти всюду функции }хх. Если фундаментальная последовательность {^ (^)) подчинена {ж (£)}, то по теореме 9
А = Лш(Х) = $ 1Ф^(Х)Р^хх(Х),(6.19)
—л
откуда после дифференцирования по X получается, что почти всюду
1/2л = | ф^ (X) |2/хх (X).(6.20)
Из (6.20) ясно, что fxx положительна почти всюду.
2°. Допустим теперь, что функция Fxx абсолютно непрерывна, а функция fxx почти всюду положительна. Уже из одной абсолютной непрерывности Fxx вытекает по теореме 16, что последовательность {ж (£)} может быть получена скользящим суммированием из некоторой фундаментальной последовательности ^и (£)}, лежащей в некотором расширении Н' пространства Нх. По формуле (6.9) имеем почти всюду
|(X) I2 = 2л/хх (X) ^ 0.
По теореме 10 отсюда следует, что последовательность {^ (£)} подчинена {# (^)) (т. е. лежит в действительности в самом пространстве Нх). Мы доказали, таким образом, достаточность условий теоремы и вместе с тем дополнительное утверждение А.
Подчиненная {ж U)} последовательность ^и (£)} в том и только в том случае является фундаментальной, если
X‘X
Рии (X) = J | ф^ (X) I2 dFxx J |(X) р /хх (X) dX =.
т. е. почти всюду
|ф^ (X) р/хх(Х) = 1/2л.(6.21)
Таким образом, доказано утверждение С.
В силу (6.21) для каждой фундаментальной последовательности {^ (£)}, подчиненной {ж (£)}, почти всюду | ф^ (^) |2 Ф 0. По теореме 10 отсюда вытекает, что последовательность {ж (^)) подчинена {^ (^)) и, следовательно, по теореме 15 получается из ^и (£)} скользящим суммированием. Этим доказано утверждение В.
§ 7РАЗЛОЖЕНИЕ ВОЛДА
Для любой стационарной последовательности {ж (£)} будем обозначать через Нх (£) минимальное линейное замкнутое подпространство пространства НХ1 содержащее все х (s), для которых s ^ t, и
через Sx пересечение всех Нх (£). Очевидно, что
' U$HX W = Н$Ц + к\(7.1)
UkSx = Sx.(7.2)
Определение 8. Стационарная последовательность {ж (£)} называется сингулярной, если]
Sx - Нх.(7.3)
Очевидно, что для сингулярной последовательности {ж (£)}
нх (0 - НХ1(7.4)
каково бы ни было t. Обратно, если равенство (7.4) верно для какого-либо одного I, то последовательность {ж (£)} сингулярна. В самом деле, из справедливости равенства (7.4) для какого-либо одного t вытекает в силу (7.1) его справедливость и для всех других t, откуда следует, что 8Х = Нх.
Обозначим через sx (t) проекцию х к^ в пространство Sx. Легко видеть, что {^. (£)} является сингулярной стационарной последовательностью, подчиненной {ж (£)}, для которой
8»x=HSx=Sx.(7.5)
Последовательность {sx (£)} называется сингулярной .компонентой последовательности {ж
Допустим теперь, что последовательность {ж (£)} несингулярна. Тогда х (t) однозначно представляется в виде
х^^ № + A W,(7.6)
где g (£) принадлежит Hx(t — 1), а А (О #= 0 ортогонально HY И — 1). Положим
^ = А ХО/ II а (О 1Ь(7.7)
Легко видеть, что элементы
Чх (О» их (^ — 1), . . ., их (^ — п), . . .
образуют полную нормированную ортогональную систему в пространстве
^« (о е ^.
Так как х ^ принадлежит Нх (t), то х ^ однозначно представляется в виде
хЦ) = 8х^+ ^Спи^-пУ(7.8)
'?г=0
Так как последовательность \их (£)} стационарна и подчинена {ж (0), то коэффициенты
с»’ = (ж (О, их (t — га)) = Вхи (п)(7.9)
в формуле (7.8) не зависят от t. Из (7.6) и (7.7) вытекает, что
с0 = II Д (0 II > 0.(7.10)
Представление несингулярной последовательности в виде (7.8) будем называть разложением Волда. Из предыдущего изложения вытекает, что
4 (0 = Sx (t), и (f) = их (#), Сп = с2
обладают следующими свойствами:
WP Последовательность {$ (£)} сингулярна и подчинена {# (0).
W2. Vй (0} есть фундаментальная последовательность, подчиненная {.г (£)}.'
W3. и (£) лежит в пространстве Нх (£).
W4. Последовательности s (£) и и (£) ортогональны между собой.
W5. е0>0.
Следующая теорема показывает, что разложение (7.8) однозначно определяется перечисленными пятью свойствами.
Теорема 18. Если стационарная последовательность {х (^)} представлена в виде ‘
ж(0 —$(<) + спиЦ— п\(7.11)
п=0
последовательности же {$(£)} ^ Vй (0} и коэффициенты сп удовлетворяют условиям WL—W5, то последовательность {х (£)} несингулярна и *
S (£) = 8Х (£), U (£) — Ux (^), Сп = С^г .
Доказательство. Так как х (t')и все и (tr — п) при п = 0, 1, 2, . . . (по условию W3) входят в Нх (£'), то
S (^') — X^t') — 2 спи (^ — ^) п—0
тоже входит в Нх (t'\Так как Нх Ц') при t' < t лежит в Нх (Ц, то все s (f) при С <L. t лежат в Нх Ц\ Следовательно, Hs (t) лежит в Нх (t). Так как по условию Wx 5S = Hs (£), то 5S входит во все
Нх (О и’ следовательно, в 8Х. Отсюда вытекает, что все s (^') принадлежат Sx и, следовательно, всем Нх (t).,
Перепишем формулу (7.11) в виде
х ^ = : W + 0^,(7.12)
где
£(/) = $(#) + § спи^ — пу П=1
Так как s (0 и все и (t — п) при п = 1, 2, 3, . . . лежат в Нх (£ —1), то £ (0 лежит в Нх (t — п\ Так как все х (^)при^ < t выражаются линейно через элементы s (Г) и и (t") с t' <t, а и (t) ортогонально со всеми s (Г) и с и (t") при t" < t, то и (£) ортогонально всем тем х (t'), для которых t' < t и, следовательно, пространству H* (t — 1).
Из того что £ (г) лежит в Нх (^ — 1), а и ^ ортогонально Нх (t — 1), заключаем, сравнивая (7.12) с (7.6), что
U0 = I W, сои = А Цу(7.13)
Из сравнения (7.13) с (7.7) в силу условия W6 вытекает, что
и ^ = их ЦУ(7.14)
В силу W2 и W4 из (7.11) вытекает
С,г = [ж (0, м (< — и)].(7.15)
Из (7.14), (7.15), и (7.9) получаем
Сп = Сп.(7.16)
Из сравнения (7.8) с (7.11), принимая во внимание (7.15) и (7.16), получаем, наконец,
^ (0 = sx (t).
§ 8РЕГУЛЯРНЫЕ ПОСЛЕДОВАТЕЛЬНОСТИ
Теорема 19. Для того чтобы стационарную последовательность (х (£)} люж но было представить в виде
х^ = 2 спи— nY(8.1)
п—О
еде {и (^)) — некоторая фундаментальная последовательность, необходимо и достаточно условие
Sx (0 = о.’(8.2)
Если х kj^ = 0, то условие sx (t) = 0 выполнено и представление (8.1) возможно (со всеми коэффициентами сП1 равными нулю). Остается рассмотреть случай х (t) ^= 0. Достаточность условия sx (t) =0
в этом случае также ясна: если sx (£) = 0 и х (t) = 0, то последовательность х ^ несингулярна и по формуле (7.8) предыдущего параграфа представима в виде
^(0= %c^ux<t — ny(8.3)
-п—0
Докажем необходимость условия (8.2). Для этого заметим, что в случае существования представления (8.1) пространство Нх (t) содержится в пространстве Ни (t), а пространство Sx — в пространстве Su. Поэтому из равенства
S. = 0,(8.4)
справедливого для каждой фундаментальной последовательности, вытекает, что 8Х = 0 и, следовательно, что sx (£) = 0.
Определение 9. Будем называть стационарную последовательность (х (£)} регулярной, если
х ^ Ф 0, sx (С) = 0.
Если {^(0) — фундаментальная последовательность, то (8.1) есть частный случай представлений, изученных подробно в § 6. Поэтому в соответствии с формулами (6.7), (6.8), (6.12)
Вхи (и) = си при п ^ 0, Вхи ^ = 0 при п < 0,(8.5)
5 Ы2Н*(012 = Д«(0),(8.6)
п—0
(р^ (X) =§ Спе-^.(8.7)
п=0
В силу (8.6) ряд
Г“(С)-§с^п(8.8)
■пО
представляет в круге | £ | < 1 аналитическую функцию. Ее граничные значения при | ^ | = 1 даются в силу (8.7) формулой
Г"^) = ч£°(Х).(8.9)
Из принятого нами условия х (t) ^ 0 вытекает, что Г* (С) не может тождественно равняться нулю. Поэтому почти всюду на Ш = 1
ф»* (X)0.(8.10)
Так как по формуле (6.9) почти всюду
= U (X) = I <plu) (X) I2,(8.11)
то из (8.10) вытакет, что почти всюду
и W > °-(8-12>
По теореме 17 отсюда заключаем, что последовательность ^и (£)} подчинена {^ (О}-•
Теорема 20. Если регулярная последовательность {^ ^t^ представима в виде (8.1) через фундаментальную последовательность {и (t)}, то последовательность ^и (£)} подчинена {х (£)}.
Для того чтобы стационарная последовательность {х (£)}, подчиненная фундаментальной последовательности {и (t)}, представлялась через {и (£)} в виде (8.1), необходимо и достаточно, чтобы функция ^ (С), определенная при | £ | = 1 равенством
^ ^ = Ф<м) (X),(8.13)
совпадала почти всюду на окружности | £ | = 1 с граничными значениями аналитической функции Гхи) (с), определенной при | £ | < 1 формулой
rlu)(^) = -L С,(8.14)
lel-i '
Если это условие выполнено, то коэффициенты сп формулы (8.1) определяются из (8.8).
Первая часть теоремы, необходимость условия второй части теоремы и утверждение о форме зависимости между коэффициентами сп и функцией Г^ (£) уже доказаны выше.
Остается доказать достаточность условий во второй части теоремы.
Если эти условия выполнены, то для граничных значений Fxv) (£) имеем разложение в ряд Фурье
V"’ ^ = ф^’ (7.) ~ § с^.(8.15)
П=:0
Из сравнения (8.15) с (6.12) и (6.7) заключаем, что х ^ представляется в виде (8.1) с коэффициентами си, определенными из (8.15), или, что то же самое, из (8.8). Доказательство теоремы 20 закончено.
Теорема 21. Для любой регулярной последовательно*ги х (£) функция
='(8.16)
не имеет нулей внутри круга | £ | < 1.
Допустим, вопреки утверждению теоремы, что Гх (Q имеет нуль ^07 лежащий в круге | t, | < 1. Построим подчиненную ^их (/)}
последовательность {^ ^t^, для которой
фи (К) =фи (К) =е~й — Гр1 - ^е~й — Гр1 - ^(8-17)(8-17)
фи (К) =
фи (К) =
е~й — Гр
1 - ^
е~й — Гр
1 - ^
(8-17)
(8-17)
Такая последовательность существует в силу теоремы 8, так как функция
ограничена и, следовательно, входит в класс L2„x = L-.
Легко вычислить, что для любого X
| Ф„х* W I2 = 1.(8-18)
Так как
Кхих ^ = "dT ^х^х ^ = И2л- = “ST ’
то по утверждению С теоремы 17 из (8.18) вытекает, что ^и (£)} есть фундаментальная последовательность.*
По формуле (4.5)
Fxx W = ( Ф^ (X)Фиж) WdFu u (X) = 4- ( фГж) (X) ф4 (X)ах.
—Л—Л
(8.19)
Из (4.6) вытекает, что почти всюду
<0?’С) ==^^^ = ^4^44(8.20)
В силу (8.18)
Ф^ (X) = 1/ф^ (X).
Поэтому формула (8.20) может быть записана в виде
Ф?° (X) = ф^ (Х)/ф<^ (X).(8.21)
В силу (8.9) и (8.16) имеем
Ф^(Х) = Г^ (е-А) = Гж (е-»).(8.22)
Из (8.21), (8.22) и (8.17) заключаем, что
Ф^ (X) = гж -4М^- •(8-23)
5— so
Легко видеть, что
т«1 (е-ъ-) = фхи) (X)■
совпадает почти всюду с граничными значениями при | £ | = 1 функции
Г^^Г^Т^-(8-24)
Так как £0 есть нуль функции Гх (£), функция Гхп) (Q является аналитической при | £ | < 1. По теореме 20 отсюда следует, что 7 4-00
х^Л = У cnit(l —тг),(8.25)
п=0
где коэффициенты сп определяются из формулы (8.8). Функция
совпадает почти всюду на окружности | £ | = 1 с граничными значениями аналитической в круге | £ | < 1 функции
Г^(5 = ,-^ .(8.26)
Поэтому по теореме 20
и(0 = 3 ^„иД# —и),(8.27)
п=0
где du суть коэффициенты ряда Тейлора функции Г^ (£). Формула (8.27) показывает, что и (£) лежит в Них (О- Так как по свойству W3 последовательности {нх (£)} (см. § 7), HUx (t) лежит в Нх (t), то и и (f) лежит в Нх (£).
Из только что сказанного вытекает, что все и ^t — п) при п > О лежат в Нх (t — п). Поэтому, сравнивая формулы (8.25) и (7.6), получаем
^о и ^ - Д (О,
а в силу (7.7) и (7.10)
с0 и ^ = 4Х) их (О-
Легко проверить, что последовательности ^и (t)}, определяемой по формуле
И (О = (с^/с^ (t),
Для применимости теоремы 20 существенно, чтобы функция Г^ (£) представлялась в виде интеграла Коши через свои граничные значения у^ (е“г^). То, что это действительно так, вытекает, например, из замечания С на с. 94 работы Ф. Рисса [6], так как, очевидно, функция Г^ (У, как и функция Гх (£), принадлежит классу Нг в смысле этой работы Ф. Рисса.
должна соответствовать функция
(X) = c^ic0.(8.28)
Противоречие между (8.28) и (8.17) доказывает теорему 21.
Теорема 22. Для того чтобы стационарная последовательность ^х (£)} была регулярной, необходимо и достаточно выполнение на — л С А ^ л совокупности условий*.
функция Fxx (X) абсолютно непрерывна]
функция fxx (X) почти всюду положительна]
функция log jxx (X) суммируема.
Если эти условия выполнены, то
= V^teQ^\,(8.29)
М) = 4~ +j^^ + ^V-(8.30)
где коэффициенты а^ и / определяются из разложения
(х)00
4" log hx WV, ^ cos ^ + b*i2 sin fc*)- -(8.31)
Так как каждая регулярная последовательность / (£)} получается скользящим суммированием из подчиненной ей фундаментальной последовательности ^их (£)}, то необходимость условий 1 и 2 вытекает из теоремы 17. Докажем необходимость условия 3. Если последовательность / (0) регулярна, то по теореме 21 функция / (О аналитична и отлична от нуля в круге | £ [ < 1. Будем обозначать через Qx (О то значение log (/ (О/К^^), которое получается по непрерывности из действительного значения
г (0)с(^
log —-^= = log —r= .
/2л/2л
Благодаря отсутствию нулей у функции Гх V^ функция Qx ^ однозначно определяется во всех точках круга | £ | < 1. Для действительной части функции Qx (О имеем в силу (8.29)
(8.32)(8.32)Re Qx (О - log | / (О н V2 log 2л.
(8.32)
(8.32)
Обозначим через Re"^ (О функцию, равную Re (/(О ПРИ Re Qx (О > 0 и равную нулю при Re Qx (0 ^ 0. Так как из (8.32) вытекает
Re+^(0<bg+ 1/(0 К 1/(0 I,
то при любом р < 1
ллл
$ Re*Qx(pe-^dX< $ | Гж (ре-^ | dX < $ | «р.^ (X) | dX = К.
—Л—л—л
Так как
$ Re<2x(pe'ix)^ = 2nRe(?:c(a), —Л
ТО
| Re Qx (pe~u) | dK =[2 Re* (>ж(ре-л) — Re <2ж(рв"^)] dK
< 2£ — 2л Re Qx (0).
Из последнего неравенства вытекает, что граничные значения
Re^Ce-^) = logRe^Ce-^) = logГж^V 2лГж^V 2л= log= logфх х (X)фх х (X)1 , = —log1 , = —logФх WФх W2= -5-10g/xx(X)2= -5-10g/xx(X)(8.33)(8.33)
Re^Ce-^) = log
Re^Ce-^) = log
Гж^V 2л
Гж^V 2л
= log
= log
фх х (X)
фх х (X)
1 , = —log
1 , = —log
Фх W
Фх W
2
= -5-10g/xx(X)
2
= -5-10g/xx(X)
(8.33)
(8.33)
функции Re Qx ^е-1^ суммируемы по X. Таким образом необходимость суммируемости log/vv (X), т. е. условия 3 нашей теоремы, доказана.
Прежде чем переходить к доказательству достаточности условий теоремы, докажем, что для любой регулярной последовательности {я (I)} функция Гх (У определяется формулами (8.29) —(8.31). Так как по доказанному в случае регулярной последовательности {ж (£)} функция V2 log fxx (X) суммируема, то для этой функции существует разложение Фурье (8.31).
Из (8.33) и (8.31) вытекает, что
Re(W>) + У (4x)cos^ —6^sin^). (8.34)
Так как
(8.35)(8.35)qa^=log-^2-=log-^
(8.35)
(8.35)
У 2яV 2л
действительно, то мнимая часть Im Qx (е'х) выражается формулой
(8.36)(8.36)Im Qx (е^) —- 5 (^ sin кХ + Ь^ соз кХ).
(8.36)
(8.36)
К=1
Из (8.34) и (8.36) вытекает (8.30). Наконец, формула (8.29) вытекает из самого определения Qx (^).
Обратимся теперь к доказательству достаточности условий тео-
ремы. Для этого предположим, что эти условия выполнены и положим
Q (£) = 4- + У (4Ж) + <’) ^,(8.37)
Г (0 = VЫ«>,(8.38)
где коэффициенты а-р и Ь*^ определяются из разложения (8.31). Тогда
log *Г ^ ^ = 2 Re Q (pe-iz) = а0 4 2 ^ рА’ (а^ cos кХ к=1
+ b^ sin кк) = ^/яж(р)Рр(р —Х)с/р,(8.39)
—Л де
Р. (0) = 4г-г-^г5" •(8.40)
р х ' 2л 1 4- р2 — 2р соз 6v 7
Из неравенства между геометрическим и арифметическим средним вытекает, что
-^^^ < $ и (н) Рр (Н - X) ф.(8.41)
—л л
Так как функция /хх (X) суммируема и ^ Рр (р — X) dp = 1, то в ‘-л
силу (8.41)
А- $ |Г(ре»)|мх= $ /^(р*) ^ Pp(p-X)dxdn= $ Wi —Л—П™Л™л
(8.42)
Установленная таким образом ограниченность интеграла в левой части равенства (8.42) гарантирует представимость функции Г (О
Б виде интеграла Коши от ее граничных значений
Г е-Л) = Ф (X).
Из (8.38) и (8.31) вытекает что
| Ф (X) р = I Г (е'») |2 = 2ле2К^^-»' = 2л/хх (X).(8.43)
Поэтому
\^хх = 1
J I Ф (а) I21
—л
и, следовательно, функция 1/ф (X) принадлежит классу L^. Найдем подчиненную {ж (£)} последовательность {и (t)y для которой
фи * (X) = 1/ф (X)..
Из равенства .(8.43) и теоремы 17С вытекает, что {и (£)} есть фундаментальная последовательность, эквивалентная {ж (t)}. По теореме 10
ф^ (X) = 1/<р(“> (X) = ф (X) = Г (е-А).
Таким образом, последовательность {и (0} удовлетворяет всем условиям второй части теоремы 20. Следовательно, {ж (^)) представляется через {и (£)} в виде (8.1), что и доказывает достаточность условий теоремы 22. Легко видеть, что построенная нами последовательность {и (£)} совпадает в действительности с ^их (£)}.
Отметим еще в заключение вытекающую из (8.30) и (8.35) формулу .
с^ = У 2л eQx(0) = У2л ехР —^— = |/ 2л exp ^^- ^ log/^ (^dX^ .
Л (8.44)
9
СПЕКТРАЛЬНАЯ ХАРАКТЕРИСТИКАСИНГУЛЯРНЫХ ПОСЛЕДОВАТЕЛЬНОСТЕЙ* И СИНГУЛЯРНЫХ КОМПОНЕНТ
В силу результатов § 7 каждая несингулярная стационарная последовательность {я? (£)} представляется в виде
^ W = §х (£) + rx(t\(9.1)
где
ГХ (0 = § С^их <t — n\(9.2)
п—0
Последовательность {rv (£)} будем называть регулярной компонентой последовательности {ж ^у Очевидно, что она всегда подчинена {^ (f)} И регулярна.
Положим для любой стационарной последовательности
Лх(М = $ Дж(^)^,(9.3)
—Л
Dxx (X) = Fxx (X) - Ахх (X).(9.4)
Будем различать следующих три случая:
fxx (X) = 0 на множестве положительной меры;
fxx (X) — 0 лишь на множестве меры нуль, но функция log/^M несуммируема;
fxx W — 0 лишь на множестве меры нуль и функция log fxx (X) суммируема.■
Теорема 23. В случаях 1)^2) последовательность {х (£)} сингулярна. В случае 3) последовательность {х (0} несингулярна,
FVx (X) . Dxx (X), FVx (X) = Ахх (X)(9.5)
и коэффициенты с^ разложения (9.2) определяются из формулы (8.16), где функция Гт (С) определяется формулами (8.29)—(8.31).
Доказательство. Предположим, что последовательность {х (£)} несингулярна. Тогда в силу регулярности последовательности ^гх (£)} по теореме 22 функция /г^ (X) почти всюду положительна и функция log frxr (М суммируема. Так как последовательности {Sx (г)} и Vx Wf ортогональны между собой (см. § 7), то по теореме 11.
FxxW = F.Vx^ + Frx,.xW(9.6)
и, следовательно, почти всюду
fxx (X) = fVx (X) + frxrx (X).(9.7)
Из (9.7) вытекает, что почти всюду
txx (X) > LxTx (X) > о. '(9.8)
Поэтому каждое множество положительной меры по Лебегу имеет положительную меру и относительно Fxx (X).
Так как {^ (г)} и ^rx (t)} подчинены {х ^)У то по теореме 12 почти всюду относительно Fxx (X), а следовательно, и в обычном
лебеговом смысле имеем dF, s (X) dFr r (X)
X XX X Q
dFxxO) dFxx^ ~ '
Так как в силу (9.8) почти всюду
dFT г (X)/,.(X)
X X X X \ f\
dF^O) —
то почти всюду
dFs s (X) Л s (X) X X X X а
dFxx^ ”’
(9.9)(9.10)(9.9)(9.10)т. е.
(9.9)
(9.10)
(9.9)
(9.10)
!хх (М — frxrx (М-
Из формулы (9.10), положительности почти всюду ^тхтх (X) и суммируемости log fT т (X) вытекает, что для несингулярной последовательности всегда имеет место случай 3).
Покажем, что, обратно, в случае 3) последовательность (х (£)} несингулярна. По теореме 14 в случае 3) последовательность ^х (£)} однозначно разлагается в сумму
х (t) = s (t) + г (t)•
взаимно ортогональных и подчиненных {ж (£)} последовательностей, для которых
^s (М - Dxx (X), FTT (X) - Ахх (X).]
По теореме 22 последовательность {г (£)} регулярна. Поэтому
x^ = s^ ф ^ с^иД1 — п\(9.11)
Формула (9.11) показывает, что пространство Нх (£) лежит
в пространстве Ss ф Нт ^tY Представив х (t + 1) в виде
х ^t ф 1) — осфр,
а = с^и,. (< + 1),а = с^и,. (< + 1),где
а = с^и,. (< + 1),
а = с^и,. (< + 1),
Р — s (^ "г 1) ~Н 2 cn *wr ((— п 4-1),
легко установить, что Р лежит в пространстве Sx ф Ни ^; аа ^ О ортогонально этому пространству. Поэтому х (£ + 1) не помещается в пространстве Sx ф HUr (t) и, тем более, в пространство Нх (^). Отсюда вытекает, что последовательность {х (f)} несингулярна.
Для любой несингулярной последовательности (х (t)) мы доказали выше формулу (9.10). Поэтому функция ГЛ. (£), определяемая в соответствии с (8.29)—(8.31), совпадает с ГГх (£). Чтобы доказать^ что коэффициенты с^ получаются из разложения (8Л6) функции Гх (С)» остается лишь установить, что
с^ = сУ.(9.12)
Для этого достаточно проверить, что разложение (9.2) удовлетворяет условиям WT— W5 (с сингулярной компонентой, равной нулю). Выполнение условий Wn W2, W4 и W5 ясно непосредственно. Докажем соблюдение для разложения (9.2) свойства W3. Для этого- заметим, что в силу (9.8) и теоремы 17А последовательность {их (£)} подчинена {гх (0}. Из (9.1) и (9.2) видно, что Нх (t) содержится в. Sx Ф НТх (JY Так как их (£) содержится в Нх (t) и ортогональна Sx (см. § 7), то их (t) содержится в НГэ? (tY а это и значит, что разложение (9.2) удовлетворяет условию W3.
Формулы (9.5) для несингулярной последовательности вытекают непосредственно из (9.1), (9.10) и абсолютной непрерывности FTxTx (%) (последняя обеспечивается, регулярностью последовательности ^гх (£)} по теореме 16).
-§ Ю
МИНИМАЛЬНЫЕ ПОСЛЕДОВАТЕЛЬНОСТИ
Для любой стационарной последовательности {ж (/)} будем обозначать через Нх ^ минимальное линейное замкнутое подпространство пространства Нхп содержащее все х (s), для которых s ^ t. Так как
UXHX (0 = Нх (t + kY(10.1)
то возможен только один из двух случаев: или все Як (Г) совпадают с НХ1 или все Нх (£) отличны от Нх.
Определение 10. Стационарная последовательность называется минимальной, если
Нх (0 # Нх.(10.2)
Каждый элемент х (t) последовательности {х (0} однозначно представляется в виде суммы
х (t) = и (t) + 6 ^Y(10.3)
где v ^ лежат в Нх (t), а 6 (0 ортогонально Нх (£). Положим
dx | б (<) |.(Ю.4)
Очевидно, условие
dx > 0(10.5)
необходимо н достаточно для минимальности последовательности
U (*)}•..'
Теорема 24. Стационарная последовательность {z (^} в том, и только в том случае минимальна, если функция fxx (X) почти, всюду положительна и интеграл .
JZZ|1м>
конечен.
Если эти условия выполнены, то л
-л-
Докажем сначала достаточность условий теоремы. Пусть
если fxx (X) определена и конечна, и
Ф (М о,
если jxx Q^ неопределенна и бесконечна. Тогда интеграл
—л
конечен. Следовательно, ф (X) входит в класс Ех и равенство
чУ (X) = <р (л)'
определяет некоторую последовательность ^у (t)}, подчиненную {г (£)}, для которой по формуле (4.4)
—Л-—Л
По формуле (3.3) при s #= t
(y(t). x(s)) = Bvx(t-s)= J e^-^dFyx^=Q.
—Л
Следовательно, элемент у ^ ортогонален пространству Нх (£). Так как
лл
1И<)|2 = 5уу(0)= $ dFyu^= $ ^>(X)|Wxx(X)=l#0,
—Л—л
то пространство НХ1 содержа у (t), не может совпадать с Нх (t). Минимальность последовательности {ж (£)} доказана.
Чтобы доказать необходимость условий теоремы, предположим, что последовательность {ж (£)} минимальна. Легко видеть, что последовательность {6 (0} стационарна и подчинена {ж (£)}. При этом
В.х (&) = (6 (^ + к\ х (t)) = 0 при к ^ 0,(10.8)
В6х (0) = (6 (0, X (t)) = I 6 (0 I 2 = dL(10.9)
Отсюда вытекает по формулам (3.9)—(3.11), что
F6x (X) = ^2 (X + л)/2л.(10.10)
В то же время по формуле (4.4)
F6x^= $ t&V^dFxx^.(10.11)
—Л
Из (10.10) и (10.11) вытекает, что
X + л = -^- J ф£> (X) dFxx (X)(10.12)
х —л
и, следовательно, производная
^„^фРМ(ЮЛЗ)
конечна почти всюду относительно Ехх (А). Так как в силу (10.12) X абсолютно непрерывно относительно Ехх (А). то производная dk/dExx (к) конечна почти всюду относительно А, т. е. в обычном лебеговом смысле. Следовательно, производная
- dFxx (А)Ж
почти всюду отлична от нуля. После этого замечания из (10.13) получается, что почти всюду
^ ах_ < . aFxxQ^ _4
” 2л аЕхх^ 2л * dX Wxx(X) '
По теореме 8 интеграл
лл
2л/жж(М $Д }“ WX /ххСЧ2л/жж(М $Д }“ WX /ххСЧ(10.14)(10.14)jj |Ф^(Х)|2^х(Х)= ^
2л/жж(М $Д }“ WX /ххСЧ
2л/жж(М $Д }“ WX /ххСЧ
(10.14)
(10.14)
—л—л
конечен. Необходимость условий теоремы доказана. Заметив, чтол . л
4 = Р(0 ;2 = в№(0) = $ ap№ (М = 5 I Ф^^Х)рapXK р\ (ю.i5>
—л—л
из (10.14) и (10.15) получаем формулу (10.7).
ЛИТЕРАТУРА
Wold Н. A study in the analysis of stationary time series. Uppsala, 1938.
Cramer H.— Ann. Math., 1940, vol. 41, p. 215—230.
Stone M. Linear transformations in Hilbert space.— Amer. Math. Soc. Col- loq. Puhi., 1932, vol. 15.
Зигмунд А. Тригонометрические ряды/Пер. с англ. М., Л.: ОНТИ, 1938.
Привалов И. И. Интеграл Cauchy. Саратов, 1919.
Riesz F.— Math. Ztschr., 1923, Bd. 18, S. 87—95.
Колмогоров A. II.— Изв. АН СССР. Сер. мат., 1941, т. 5, с. 3—14.
28
ИНТЕРПОЛИРОВАНИЕ
И ЭКСТРАПОЛИРОВАНИЕ СТАЦИОНАРНЫХСЛУЧАЙНЫХ ПОСЛЕДОВАТЕЛЬНОСТЕЙ*
Устанавливаются спектральные условия для возможности экстраполировать и интерполировать стационарные случайные последовательности по достаточно большому числу членов с любой заданной точностью.
• ВВЕДЕНИЕ
Пусть каждому целому t (—оо < £ < 4-°с) соответствует действительная случайная величина х (t) с конечным математическим ожиданием квадрата. Последовательность (х (£)} случайных величин х ^ будем называть стационарной, если математические ожидания
т = Мж (г) п.
В (к) = М Цх (7 + к) — т) (х (£) — т)^
не зависят от t. Без ограничения общности можно положить
m = М,т (£) =0.(1)
* Изв. АН СССР. Сер. мат., 1941, т. 5, с. 3-14.
Тогда ■ "
В (k) = М [^ (£ 4- &) х (01-(2)
Так как
В (-к) = В (к),(3)
то достаточно рассматривать вторые моменты В (к) лишь для к ^ 0.
Задача линейного экстраполирования стационарной последовательности, удовлетворяющей условию (1), заключается в подборе при заданных п > 0 и т ^ 0 таких действительных коэффициентов а81 при которых линейная комбинация
L = ахх (t — 1) + а2х (£ — 2) + • • • + яп х (t —л) случайных величин
х 4 — 1), х kt — 2), . . ., х (t — n)
доставляет возможно более точное приближение к случайной величи* не х kt + т). За меру точности такого приближения естественно принять математическое ожидание
о2=М(^ + ^)—L)2=5(0)—2 2 Вкт+ s)a8^ 5 ^(р— q^apaq.
8=1'р=1 9=1
Если вторые моменты В (&) известны, то легко решается задача разыскания таких значений коэффициентов а81 при которых о2 достигает наименьшего значения. Это наименьшее значение о2 будем обозначать через Ое (п, т\
Очевидно, при увеличении п величина Ое (тг, т) не может возрастать. Поэтому существует предел
lim Ое (я, ^) = (Те (т).(4)
Определение этого предела и является первой из решаемых в настоящей работе задач.
‘ Что касается задачи интерполирования, то мы рассмотрим лишь случай оценки х (£) по величинам
х (t + 1), х kt + 2), . . ., х (t + ^),
х kt — 1), х (t — 2), . . ., x kt — n\
Для этого случая обозначим через Hj (?г) минимальное значение математического ожидания
а2 М (х {t) - 02,•
где Q есть линейная форма
Q = ахх (^ + 1) + а^х (^ 4- 2) 4- . . . -V^x kt + ^) 4*
а_гх ^ —- 1) 4- CL-2.X kt — 2) 4- • • • -Vct_nx kt — n)
с постоянными действительными коэффициентами as.
При возрастании п величина О/ (п) не возрастает, ществует предел
lim oi (ft) = <^1- ?г—с»
Поэтому су-(5)Поэтому су-(5)Нашей второй задачей является определение О/. Предлагаемое далее решение двух сформулированных выше задач было сообщено без доказательства в моей заметке [I]. Оно опирается на понятия, относящиеся к спектральной теории стационарных случайных процессов.■
Поэтому су-
(5)
Поэтому су-
(5)
Спектральная теория стационарных случайных процессов была построена А. Я. Хинчиным [2] для случая непрерывного изменения временного аргумента t. Для интересующего нас сейчас случая дискретной стационарной последовательности подробное изложение теории дано в книге Уолда [3]. Основное значение здесь имеет следующая теорема 3.
Теорема 1. Для любой стационарной последовательности {х (0} вторые моменты В (X) можно представить в виде л'
S(/l:)=-L^cos^^(X),(6)
о
где W (X) есть неубывающая действительная функция, определяемая формулой
Ж(Х) = 5(0)Х +2^-^-sinH.(7)
7f=l
Производная
w (X) - dW (Х)Ж
неубывающей функции W (X) существует почти всюду, неотрицательна п суммируема. Так как
log w (X) ^ w (X),.
то из суммируемости w (X) вытекает, что интеграл
Р = ~ ^ log w (X) dX(8)
lim $? (тг) = л: П—»ооlim $? (тг) = л: П—»ооГ dXJ?WГ dXJ?Wо
lim $? (тг) = л: П—»оо
lim $? (тг) = л: П—»оо
Г dX
J?W
Г dX
J?W
либо конечен, либо равен — оо. Далее мы доказываем следующую теорему.
Теорема 2. Если Р = —оо, то Ое (т) = 0 для всех т^ 0. Если же интеграл Р конечен, то
Ое И = ер (1 + А + А + • • • +4),(9)
где г определяются из соотношений
в^^- = 1 + Г1^ + Т^ + . . . ,(10)
а^= -i- cos ДА, log и; (X)c?2v.(И)
о"
Так как w (X) > 0, то интеграл
Й=Т$Т@Г(12>
о
либо конечен, либо равен + оо. Мы докажем далее такую теорему: Теорема 3. Если R = + °°> ^° О/ — 0. Если же интеграл конечен, то
(^ = 1/7?.•.(13)
В моей работе [4] построена теория стационарных последовательностей элементов комплексного гильбертова пространства. В § 1 настоящей статьи я показываю, что стационарные случайные последовательности в определенном выше смысле могут рассматриваться как частный случай стационарных последовательностей, рассмотренных в [4]. Это позволяет получить сформулированные выше теоремы 1, 2 и 3 в качестве простых следствий из результатов работы [4].
В дальнейшем изложении ссылки на формулы с номерами из двух чисел, разделенных точкой (например, (8.44)), относятся к формулам из [4].
1
СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПОСЛЕДОВАТЕЛЬНОСТИИ ГЕОМЕТРИЯ ГИЛЬБЕРТОВА ПРОСТРАНСТВА
Будем исходить из аксиоматики и построения основных понятий теории вероятностей, предложенных в моей книге [5], с тем изменением, что рассматриваемые далее случайные величины могут принимать не только действительные^ но и комплексные значения .
Рассмотрим множество § всех случайных величин х какого-либо борелевского поля вероятностей (7^, РУ имеющих конечное математическое ожидание квадрата абсолютной величины, считая при этом эквивалентные случайные величины (т. е. случайные величины, отличающиеся друг от друга лишь с вероятностью, равной нулю) за тождественные. Введем в § скалярное произведение
(ж, у) = М (жду(14)
Нормы в § определим формулой
|| ^|j2 = (^ ^) = м | ^ |2,.(15)
сложение же элементов § и их умножение на комплексные числа будем понимать в обычном смысле.
Легко проверить, что множество § при установленных сейчас определениях удовлетворяет постулатам А, В и Е книги М. Стоуна [6], т. е. всем постулатам абстрактного унитарного пространства.
Пусть теперь {х (£)} есть стационарная последовательность действительных случайных величин х (t) поля вероятностей (7^, Р^ в смысле, принятом во введении, удовлетворяющая дополнительному условию (1). Тогда в силу (2) и действительности х ^
В (k) = M[x(t + к) х (01 = (^ (^ + ку х ^У
Так как по определению В (&) не зависит от f, то {х (t)) является стационарной последовательностью элементов пространства ф в смысле [4].
В [4] я рассматриваю стационарные последовательности, лежащие в гильбертовом пространстве, т. е. в пространстве, удовлетворяющем, кроме постулатов А, В и Е, еще постулатам С и D книги М. Стоуна [6]. Это ограничение, однако, несущественно. В самом деле, обозначим через Нх минимальное замкнутое линейное подпространство пространства $, содержащее все элементы последовательности {ж (£)}. Легко доказывается, что Нх сепарабельно, т. е. удовлетворяет постулату D. Сепарабельное унитарное пространство или само является гильбертовым (т. е. удовлетворяет, кроме А, В и Е, еще постулату С), или конечномерно и в последнем случае может быть расширено до некоторого гильбертова пространства Н.
Таким образом, к последовательности {х (£)} можно применить, полагая
В W = Вхх (&) = (^ (^ + к), х М),(16)
все результаты, полученные в [4].
2ДОКАЗАТЕЛЬСТВО ТЕОРЕМЫ 1
В силу (3) и (16) в случае действительных случайных величин
Вхх ( к) = Вхх (к).(17)
Поэтому из формулы (3.10) получаем
W хх (X) = Вхх (0) X - У-^- в-^ = Тс^О
= S*„(0)X + 2jr_J^sin£X.(18)'
Из (18) вытекает, что
Wxx (^) = -Жхх (X).(19)
Наконец, из (3.1), (3.9) и (19) получаем 4-я
В ^ = 6^ = ^ ^dFxx^ =
—л 4лл
= Л- $ е^- dWxx (X) = 4 $ cos kX dW^ ^<20)
—л0
Из формул (18) и (3.9) и теоремы 2 работы [4} ясно, что Wxx (2i) есть действительная неубывающая функция. Вместе с равенствами (18) и (20) это показывает, что функция
W (К) = Wxx (X) удовлетворяет требованиям теоремы 1.
3g^eW в ОБЩЕМ СЛУЧАЕ'
• Обозначим, следуя [4], через Нх (t — 1) минимальное линейное замкнутое подпространство пространства НХ1 содержащее элементы
х (t — 1), х (£ — 2), . . ., х (£ — п), . . .
Элемент х (t + ^) при любом т > 0 единственным образом представляется в виде
х (t + т) = ^ (t — 1, т) + Д (t — 1, пг),(21)
где £ (£ — 1, т) принадлежит Нх (I — 1), а Д (t — 1, т) ортогонально Нх (t — 1).
Легко показать, что в случае стационарной последовательности действительных случайных величин
olH = II Д (^ - 1, тп)р.(22)
в общем случае стационарных последовательностей в смысле [4] будем считать (22) за определение величины а^ (т).
Если последовательность {ж (£)} сингулярна, то Нх (£ — 1) = = Нх и, следовательно,
И - 0.(23)
Если последовательность {ж (0} несингулярна, то по формуле (7.8)
т (t + m^s^t + m) 4- 5 ^nUx(t 4- m — n).(24)
n=0-■
Так как sx (i + m) и ux (t + m — и) при n у m лежат в Hx (t — 1),, a ux (i + m — n) при n <^ m ортогональны Hx (< — 1), то сопоставление (21) c (24) дает .
A (t — 1, m) = c^ux (^ + m) + c^ux (t + m — 1) + . . .
. . . +& (t).(25)
Так как.элементы ux (t + z) попарно ортогональны и нормированы, то из (25) вытекает-
o2s И = || A (t - 1) II2 = (с^)2 + ^ + - .. + ^).(26)
о2£ И в действительном случае
Для стационарных последовательностей действительных случайных величин из формулы (26) легко вывести теорему 2. Этому выводу посвящен настоящий параграф.
В силу формулы (3.9) имеем dF W 1^ (X)1
'=“ХМ.(27)
Из (19) вытекает, что .
w (-Х) - w (X).(28)
Пользуясь (27) и (28), получаем
Ч-лл•
^°^fxxWdl= 2^ logir^dX— 2л log 2л.(29)
— лО
всюду плотны на Нх (t — 1), то || A (t — 1, m) || равняется также нижней грани расстояний
|| х (Z 4- т ) — L || = {ЛМ | х (^ + т) — £ |2. (*) Если все х (s) являются действительными случайными величинами, то нижняя грань выражения (*) не изменяется при ограничении одними действительными коэффициентами ак1 в этом же случае она, очевидно, совпадает с оЕ (т).
Формула (29) вместе с теоремой (23) из [4] показывает, что равенство
-i- ^ log w (X) dX —— оо о
необходимо и достаточно для сингулярности последовательности
{ж (£)}. Мы уже видели в § 3, что в этом и только в этом случае
al (иг) - 0.(30)
Если последовательность {ж (Z)} несингулярна, то из (8.44) и (29) вытекает
4"Лл
(со^)2 = 2л ехр ^- ^ log /^ (X) dX^ = exp ^ ^ log wX dX^ = ер.
—ло
(31)
В том же предположении, что последовательность {ж (Z)} несингулярна , из (8.31), (27) и (28) заключается, что при
+лл
а^ = -тг* cos &£ log/xx(A)dX = — cos/гХ log izr(X) (R
JЛ J/€>O\
—ло
+л+л
^X)=”^" ^ Sl'n fe log/xx(X)rfX = -^ ^ sinArXlog^(X)dX = 0.
Из (8.16), (8.29), (8.30) и (32) вытекает, что
У ^ = Г Л) = Гж (0)= Гя (0) eQ^-^ =
71—0
= с^ ехр у а*^ .' (33)
К=1
Положив
ехр ( 3 4”V) = 1 + г^ + г2у + ...,(34)
имеем из сравнения (33) с (34)
c^W = гп.(35)
Из (35) и (26) вытекает
al (m) = ^ (1 + Л + гХ + . . . + ЛхУ(36)
Формулы (30), (31) и (36) полностью доказывают теорему 2.
5
ОПРЕДЕЛЕНИЕ о2
Обозначим, следуя [4], через Нх (£) минимальное линейное замкнутое подпространство пространства НХ1 содержащее элементы
х (t 4* 1), х (^ + 2), . . ., х (t + ^)> • • • >
X — 1), X (t — 2), . . ., х kt — п), . . .
Элемент х (О однозначно представляется в виде (10.3)
X (t) = V (0 + 6 (0,
где v к^ лежит в Нх (£), а 6 (4 ортогонально Нх (£). Легко показать,, что в случае стационарной последовательности действительных случайных величин
4 - || 6 (0 |Р - 4-(37)
По теореме 24 из [4],
'+Л
(38>
причем в случае бесконечности интеграла в знаменателе правой части
4 = о.•
Из (37), (38), (27) и (28) заключаем, что л
2 л2 С ^Х 1
© Т — Л . \ ■ .. •■ л,
О
что и доказывает теорему 3.
МИАН СССР, 26 ноября 1940 г.
ЛИТЕРАТУРА
Kolmogoroff A. Sur Рinterpolation et extrapolation des suites stationnai res.— C. r. Acad. sci. Paris, 1939, vol. 208, p. 2043—2045.
Khlntchine A. Korrelationstheorie der stationaren stochastischen Prozesse.— Math. Ann., 1934, Bd. 109, S. 604—615.
Wold H. A study in the analysis of stationary time series. Uppsala, 1938.
Колмогоров A. H. Стационарные последовательности в гильбертовом пространстве.— Бюл. МГУ. Математика, 1941, т. 2, вып. 6, с. 1—40.
Колмогоров А. И. Основные понятия теории вероятностей. М.: ОНТИ,
Stone М. Linear transformations in Hilbert space.— Amer. Math. Soc. Col- loq. PubL, 1932, vol. 15.
29
О ЛОГАРИФМИЧЕСКИ НОРМАЛЬНОМЗАКОНЕ РАСПРЕДЕЛЕНИЯ РАЗМЕРОВ ЧАСТИЦ
ПРИ ДРОБЛЕНИИ
В недавней заметке Н. К. Разумовского [1] указано много случаев, в которых логарифмы размеров частиц (золотин в золотоносных россыпях, частиц горных пород при их дроблении и т. и.) подчиняются приближенно гауссовскому закону распределения. Задачей настоящей заметки является указать довольно общую схему случайного процесса последовательного дробления частиц, для которой в пределе (при неограниченном продолжении дробления) гауссовский закон распределения для логарифмов размеров частиц может быть установлен теоретически. Возможно, что аналогичные соображения помогут объяснить и применимость гауссовского распределения к логарифмам содержания минералов в отдельных пробах (этому вопросу посвящена в основном цитированная заметка Н. К. Разумовского).”
Будем изучать общее число частиц N ^ и их распределение по размерам в последовательные моменты времени t = 0, 1, 2, 3, . . .
Пусть N (г, £) обозначает число частиц с размерами р ^ г в момент времени t (для дальнейшего несущественно, обозначает ли р диаметр, вес или какую-либо иную характеристику размеров частицы, лишь бы соблюдалось условие, что размеры каждой из частиц, получившихся в результате дробления частицы размера г, не превосходят г).
Обозначим через Q (к) математическое ожидание числа частиц размеров р ^ кг, образующихся за промежуток времени между t и t + 1 из одной частицы, имевшей в момент времени t размеры г, и положим
1о
1
^-^jjOogfr-^WW-(2)
■ о
При некоторых перечисленных далее допущениях можно доказать, что отношение
N (ех, t)/N (t)(3)
при достаточно большом t с вероятностью, сколь угодно близкой к единице, будет сколь угодно мало отличаться от
1|/" 2л7В1|/" 2л7В2ВЧ2ВЧ■}<■}<(4)(4)
1
|/" 2л7В
1
|/" 2л7В
2ВЧ
2ВЧ
■}<
■}<
(4)
(4)
Наиболее существенным допущением, которое мы употребляём при выводе этого соотношения, является независимость вероятностей каждой частице раздробиться за единичный промежуток времени на то или иное число частей тех или иных относительных размеров от размеров исходной частицы.
Чтобы точно сформулировать нужные нам допущения, введем некоторые обозначения. Пусть рп есть вероятность за промежуток времени между t и t + 1 из одной частицы получить при дроблении ровно п частиц, а
(«1, «2, ...,«„)=? {*1 < «1, *2 < «2, • • ^п < «Л
— условный закон распределения отношений кг — rjr размеров получающихся при этом п частиц к размерам исходной частицы. Нумерацию п частиц, получившихся при дроблении, будем считать произведенной в порядке возрастания их размеров: ^ ^ г2 ^ < гз < • • • С гп.
В соответствии с этим функция Fn (а17 я2, . . ., ап) определяется только при О -У аг а21.
Очевидно, что*
<2W= § ^«(МЛ... Л,1) + ^„(М,1,...Л D +
П=1
... + Fn(k, к, к,.. ., к, 1) + Fn(k, к, к,.. . .к, к}}.
Мы допускаем, что
вероятности рп и распределения Fn не зависят от абсолютных размеров частицы, от ее предшествующей истории (т. е. от того, в результате каких предшествующих дроблений она возникла) и от судьбы других частиц;
математическое ожидание Q (1) общего числа частиц, получающихся за промежуток времени между t и t + 1 из одной частицы, конечно и больше единицы;
интеграл
1
5 | log A: Is dZ<2 (А:)(5)
О
конечен;
в начальный момент времени £ = О имеется определенное число частиц N (0) с произвольным распределением по размерам N (г, 0).
При этих допущениях:
математическое ожидание общего числа N (£) частиц к моменту времени t равно
(6)(6)N (t) = N (0) Q (1);
(6)
(6)
отношение (3) при достаточно большом t с вероятностью, сколь угодно близкой к единице, сколь угодно мало отличается от отношения
N (ех1 t)N (ОN (ех1 t)N (ОN (ех, t)N (0) Qt (1)N (ех, t)N (0) Qt (1)Г(х,1)Г(х,1)(7)(7)
N (ех1 t)N (О
N (ех1 t)N (О
N (ех, t)N (0) Qt (1)
N (ех, t)N (0) Qt (1)
Г(х,1)
Г(х,1)
(7)
(7)
соответствующих математических ожиданий Ч
В силу сказанного наша задача сводится к оценке величины Т (х, t). Из допущений (а) и (Ь) вытекает, что
1
N(r,t 4-1) = ^ jv(-^-,z)d<?№.(8)
о
Положив
Q ^ = Q (1) 8 (log kY(9)
получаем из (7) и (8)
о
Г^^ + 1)^ $ ЦхЧ-W •(10)
Из (7) и (9) легко вывести, что функции S (ж) и Т (х, 0) = = N (ех, 0)/N (0) удовлетворяют всём требованиям, предъявляемым к функциям распределения . В силу рекуррентного соотношения (10) то же самое справедливо и в применении к функциям Т (х, t) при любом целом t > 0. Из условия (с) вытекает, что интеграл
J |гг|3^5*(ж)(11)
конечен. В силу (10) и (11) по теореме Ляпунова имеем при Z —> оо
. т (х А >1^ exn-f^—^ДсК.(12)
v , ) V^tB J Р1 ^ч Гё
равномерно относительно ж, где оо
А = $ xdS^, В^ = $ (ж- A^aS^
очевидно, совпадают с определенными формулами (1) и (2).
Было бы интересно изучить математические схемы, в которых скорость дробления частиц уменьшается (или увеличивается) с уменьшением их размеров. Естественно рассмотреть при этом в первую очередь случаи, в которых скорость дробления пропорциональна той или иной степени размеров частицы. Если эта степень отлична от нуля, то, по-видимому, логарифмически нормальный закон будет уже неприменим.
МИАН СССР, 17 декабря 1940 г.
ЛИТЕРАТУРА
Разумовский Н. К.— ДАН СССР, 1940, т. 28, № 8.
•30
к ОБОСНОВАНИЮ МЕТОДАНАИМЕНЬШИХ КВАДРАТОВ
ВВЕДЕНИЕ
С чисто практической стороны общеупотребительная литература по методу наименьших квадратов страдает одним существенным недостатком: в ней не дается указаний о пользовании законами распределения Стьюдента и X2 для оценки надежности получаемых результатов (вычисления вероятности ошибок, превосходящих те или иные пределы). Употребление же вместо этих законов распределения закона Гаусса при небольшом числе наблюдений приводит к очень большой и практически весьма ощутимой переоценке этой надежности (см. далее § 9, 10).
Другой методический недостаток общеупотребительных руководств по методу наименьших квадратов особенно чувствителен при преподавании в университетах и педагогических институтах, где от слушателей законно предполагать знание серьезного курса линейной алгебры. Недостаток этот заключается в том, что обычно все основные результаты теории метода наименьших квадратов получаются весьма громоздким чисто вычислительным путем, в то время как использование надлежащих общих понятий современной линейной алгебры (например, понятия ортогональности) позволяет получить
те же результаты значительно более прозрачным образом. Особенно наглядным получается изложение при употреблении представлений n-мерной векторной геометрии.
Задача настоящей статьи заключается в том, чтобы показать на примере простейшей задачи метода наименьших квадратов в предположении одинакового веса всех наблюдений, как могут быть устранены оба указанных недостатка. У читателя предполагается знание линейной алгебры в векторном геометрическом изложении и основ теории вероятностей. Греческие буквы, за исключением л и Г, обозначают случайные величины.
СВОДКА ОСНОВНЫХ
ПОДЛЕЖАЩИХ ОБОСНОВАНИЮ РЕЗУЛЬТАТОВ
§ 1ПОСТАНОВКА ЗАДАЧИ
Предполагается, что переменные
у, хъ ж2» • • м хп
связаны однородной линейной зависимостью
У== 2 О^з*(О
j=i
Коэффициенты а5 неизвестны. Для их определения экспериментально находятся значения .
Уг= 2 «Аг, Г=1,2,(11)
Предполагается, что коэффициенты а^ однозначно определяются значениями Xjr и уГ) т. е. что ранг матрицы
II ^jr II
не меньше п. Отсюда вытекает, что
N> п.
Экспериментальное определение уг сопряжено с неизбежными ошибками. Вместо истинных значений уг мы получаем из эксперимента значения.,
■Пг = Уг + Ar-(III)
Требуется по заданным xiT и цг определить наиболее рациональные приближенные значения аг коэффициентов (ц.'
§ 2ДОГМАТИЧЕСКОЕ ИЗЛОЖЕНИЕРЕЗУЛЬТАТОВ ГАУССА
Пусть
3(iv)
5=1
8Г - Чг - П?.(V)
По Гауссу dj определяются из условия Nп
[ее]= 2 (Чг—3 aA>)a = min.(VI)
Г—1j—1
Здесь, как и везде в дальнейшем, принято гауссовское обозначение N
№ = 2 атЬт-[*]
Г=1
Требование (VI) равносильно системе уравнений
У [^i^j] °Ч = [^г'П]» i = 1, 2, . . . , П.(VII)
Из этих «нормальных уравнений» и находятся db
Полученные приближенные значения аг не содержат «систематической ошибки», т. е. математическое ожидание dj равно а^
Maj = aj.(VIII)
Оценка точности этих приближений дается формулой для среднеквадратичной ошибки—дисперсии D (а^:
D4p = М {а, - а,}2 = ^s3,l(IX)
где 5 — среднеквадратичная ошибка экспериментального определения величин уг (она предполагается независимой от номера г), a qir определяется из уравнений
3 [ж4ж3]дА = е№; i,fc = l,2,...,n.(X)
При этом, как обычно, ( 0 при i#=k,
СгТ? ( 1 при г —к.
Формула (IX) является частным случаем (при i = /) формулы
м {(а; — а^ (а, — а^ =■ q^s2.(XI)
О практическом значении этой последней будет сказано в § 11.
Если s a priori неизвестно, то оно обычно принимается приближенно равным
а = У"[бе]/(7У — и).(XII)
Этот прием основан на том, что '
Ma2 - s\(XIII)
Do2 = М {о2 - s2}2 = 2^4/(2V - nV(XIV)
Последняя формула показывает, что при больших N — п отношение а : 5
действительно с вероятностью, близкой к единице, близко к единице. Это позволяет в соединении с формулой (IX) рассматривать q-^ как приближенное значение Da/
Day ~ q^.(XV)
Замечание. Если N = п, то система уравнений
цг = 2 OLjX^ г = 1, 2, ..., W = лг
разрешима и из (VI) вытекает, что
[ее] = О)
В этом случае знаменатель в правой части формулы (XII) обращается в нуль, и о становится неопределенным.
§ 3ПРОДОЛЖЕНИЕ ДОГМАТИЧЕСКОГО ИЗЛОЖЕНИЯРЕЗУЛЬТАТОВ ГАУССА
Формулы (VIII), (IX), (XIII) и (XIV) дают лишь грубую ориентировку относительно размеров ошибки, происходящей от замены а5 на а7- и s на о. Окончательное решение задачи должно было бы заключаться в указании законов распределения отклонений а7 — а^ и а — s. Этот вопрос был решен Гауссом (в предположении что ошибки Дг независимы и подчинены гауссовскому закону распределения со средним, равным нулю) для отклонений а7 — aj. Именно, он обнаружил, что величина
(а7- — a^/s'
подчинена нормальному распределению
(XVI)(XVI)—l i U^-2- \ e-^at = Gm. yq,}S J ^2л J
(XVI)
(XVI)
§ 4БОЛЕЕ НОВЫЕ РЕЗУЛЬТАТЫ
Более точная оценка отклонений а5 от а; производится при помощи
Р {(A - п) o2/s2 < Л2} - HN_n (h2),(XVII)
где
Н™ № - -55^7^7 $ ah-(xvm)
Таблицы функции Нт и обратной к ней функции имеют широкое употребление. В § 10 мы указываем на возможное видоизменение этих таблиц, которое кажется желательным с точки зрения практики метода наименьших квадратов.
Оценка ошибки, происходящей от замены а5 на а7-, в случае неизвестного s производится на основании теоремы о подчинении отношения ।
т = (а, — а^/У q^o
закону распределения Стьюдента
Р / <А = SN.n (<),(XIX)
где
Smw_Ui +at.(XX)
ДОКАЗАТЕЛЬСТВА
§ 5ФОРМУЛА VII
Эквивалентность требования (VI) системе нормальных уравнений. (VII) является фактом вполне элементарным, который может быть установлен самыми различными способами. Лишь для сохранения единства стиля мы получим его векторным путем.
С этой целью заметим, что гауссовские скобки [6с] с точки зрения современной линейной алгебры суть не что иное, как скалярное произведение n-мерных векторов
ь = (61, 62, . . ., Ъ^, с = (сп е2, . . ., С„).
272 *
Считая
Uri ^iri Г|г, ^п Л?*» ^г компонентами TV-мерных векторов
У, xtl ц, А, ц*, 8>
запишем соотношения (II)—(V) в виде п
У= 2 а3х5,(1)
3=1
Т] = у + А,(2)
п
П*=2а,^,(3)
;п
Г] = Ц* 4- 8 ~ 2 азХ3 + 8-к^
Так как выбор az принадлежит нам, то (3) обозначает лишь
ц* е L,(5)
где
L = L (^, х^ . . ., хп)\
есть линейное подпространство, порождаемое в Лг-мерном векторном пространстве VN векторами xt.
Требование (VI):
[ее] — min(6)
в соединении с (5) на геометрическом векторном языке обозначает следующее:.
В разложении (4) ц* есть ортогональная проекция ц на L, а г — дополнительный ортогональный к L вектор.
Отсюда вытекает, что
[errj = 0, г = 1, 2, . . ., п.(7)
В силу (7), умножая равенство (4) скалярно на Xt, получим З^ж^а^^!]], i— 1, 2, ..., п.(8)
г
Это и есть нормальные уравнения (VII) для определения 04. Соответствующий детерминант
G = | [хгх,1 |-(9)
есть детерминант Грама системы векторов ^i, х2, . . ., хп. Так как ио предположению § 1 матрица I] xjr || имеет ранг п, то векторы Xi линейно независимы и
G =/= 0.
Поэтому уравнения (8) однозначно определяют а7-.
ФОРМУЛЫ (VIII) - (XII)
Для обоснования формул (VIII)—(XII) необходимы некоторые теоретико-вероятностные предпосылки.
Вот они:
Истинные ошибки \т ъушъ случайные величины,
МДГ = О,
МД^ = s2,
где s2 конечно и не зависит от г,
М {ДГДУ } = 0 при г ^ г .
Определим 6п-ортогональную к системе хх, х2, . . м хп систему векторов
^1» ^2» • • •» ^п,
лежащих в L:
[XjUjl ^ij,(^0)
ujEL(11)
Так как каждая из систем векторов {^, х2, . . ., хп} и ^и^ и^, . * . . . ., и^ является линейным базисом в L, то
3 Oik^kt ^г^2 5j ^ik^k9 k=ik=l
Умножая первое из этих равенств скалярно на Uj, а второе на Xj и пользуясь (10), получим
4ij " [u^Uj], с^ [x^Xjl,(12)
т. e.
»i= x [«^Л xhk13)
^=2НгЫ^-(14)
В силу (13)—(14) матрица || q^ || есть обратная матрица к матрице || [x^Xj] ||, т. е. величины qtj действительно определяются из уравнений (X).
Умножая (1) скалярно на иь получаем
«г = li/uj.(15)
Аналогично из (3) вытекает
«i = [r]*uj.-(16)1
Но так как вектор е ортогонален к L, то
[енг] = О
и из (16) вместе с (4) получается
аг = [циг1.(17)
^15) и (17) дают вместе с (2)
«;=«, + [Аиг],(18)
«откуда в силу (В), (С), (D) получаем
Маг = аь(19)
М {(аг — а^ (а^ — а^)} = М {[Ди^ [Д^]} =
N Nnl
= 5 3 М {AA') Uis^js’ = »2 S 4ls^)> = [MjWj] S2, 8=1 S'=l8=1
t. e. в силу (12)
м {(аг — аг) (а, — а^ = g^s2.(20)
*(19) и (20) суть не что иное, как формулы (VIII) и (XI). Из (XI) при л = /, как уже было сказано, получается (IX).
Обозначим
А* = ц* — ^(21)
Из (2), (4) и (21) вытекает
А = А* + е.(22)
Так как А* вместе с ц* и у лежит в I/, а е ортогонально к L, то (22) представляет собой разложение вектора А на его ортогональную ^проекцию в L и ортогональное дополнение к этой проекции.
Выберем в нашем V-мерном векторном пространстве ортогональный базис из векторов
И(^Л2,..^), Г = 1, 2, ..„V,
[&Г&Г'1 ~ ^ТТ* 1
так, чтобы первые п векторов лежали в L, а следующие N — п были ортогональны к L.
Положив
Аг = [А6Г],(23)
шолучим
N
Д= S ДА.(24)
Г=1 п Д* = S А6П(25)
Г=1
N 1
8= 3 ДД.(26)
Г=п+-1
Легко видеть, что в силу условий (С) и (D) NN
М {ДМ ( 3 ДА 3=
k=lк'=1
к ^^[ s2 при Г = г',
" IpI^^^^ ^W^A при Г#=/.
(27>
Из (26) и условия (В) вытекает
М8 = 0.(28}
Из (26) и (27) вытекает
М [ее] = (W - тг) зЧ(29)
Из (29) и (XII) (эта формула служит просто определением о) непосредственно вытекает (XIII).
§ 7ГИПОТЕЗЫ ГАУССОВСКОГО РАСПРЕДЕЛЕНИЯИ НЕЗАВИСИМОСТИ ИСТИННЫХ ОШИБОК
Для дальнейших выводов допущения (В), (С) и (D), указанные- в начале § 6, должны быть заменены следующими, более сильными:
(G) Ошибки Аг подчинены гауссовскому распределению t
Р {Д < О = - Д ( e-t^dt,
]Л2л s А
где А не зависит от г.
(U) Ошибки Дь Д2,. . ., An образуют систему взаимно независимых случайных величин.
Хорошо известно, что из (G) вытекает (В) и (С), а из (В) в соединении с (U) вытекает (D).
Из (G) и (U) вытекает, что система случайных величин
Ai, Д2, . . ., An
подчинена TV-мерному закону распределения, характеризующемуся плотностью вероятности
N9
/ (^i,. , tN) = П (-^- e^28* } ,(30)
г=1\У2Лв/
или в векторном обозначении
/ (0 = (Г2л5)-№ г^.(31)
Формула (31) выражает плотность вероятности случайного вектора Л, взятую при элементе объема
dv = dtrdt2. . .dt^.(32)
В системе координат
tr = RM,(33)
Ar = [AM, .(34)
тде базисные векторы Ьт подчинены обычному условию ортогональности
[&ГЫ — егт, ч(35)
элемент объема (32) сохраняет вид
dv = dt^t^ . .dtN.(32')
Поэтому / (^) можно рассматривать как плотность вероятности вектора Див этой новой системе координат. Иначе говоря, плотность вероятности случайных величин Д17 Д2, . . ., Л^у имеет вид
N
/(К, ?i,...,М = П (-А-) .(30')
r=l ' У $'
Формула (30') показывает, что случайные величины Дг взаимно (независимы и подчинены каждая тому же закону распределения
Р (Аг < <} =( e-^t/Z,(36)
^12л S v
что и величины Дг.
Важно отдавать себе отчет в том, что взаимная независимость величин Дг выведена нами из совокупности допущений (G) и (U). При замене гауссовского распределения первичных ошибок Дг на какое-либо иное этот вывод теряет силу.
ДОКАЗАТЕЛЬСТВО ФОРМУЛ (XIV) — (XX) .
В силу формулы (18) аг есть линейная функция (с неслучайными коэффициентами) от случайных величин Дг. Поэтому из (G) и (U) вытекает, что af подчиняется гауссовскому распределению вероятностей. Нормируя это распределение в соответствии с (VIII) и (IX), получим формулу (XVI).
Выведем теперь закон распределения величины
(37)(37)%2 = [ss]/s2 = (V — n) в2 Is2.
(37)
(37)
Для этого заметим, что в силу (26)N'
(38)(38)[8r] = X 5, Г—П-Н
(38)
(38)
22(39)(39)Г=п+1Из независимости случайных величин Аг вытекает независимость случайных величин \r!s. В силу (36) каждая из этих последних величин подчинена нормальному закону распределения с плотностью вероятностиV 2лПоэтому их (Д’ — ^г)-мерный закон распределения характеризуется плотностью вероятностиГ=п+1Из независимости случайных величин Аг вытекает независимость случайных величин \r!s. В силу (36) каждая из этих последних величин подчинена нормальному закону распределения с плотностью вероятностиV 2лПоэтому их (Д’ — ^г)-мерный закон распределения характеризуется плотностью вероятностиг—п+1Вероятность неравенстваполучается интегрированием этой плотности по (N — п)-мерному объему, в которомN " № = X €<№.г—п+1Вероятность неравенстваполучается интегрированием этой плотности по (N — п)-мерному объему, в которомN " № = X €<№.г=п+1Таким образом получаем 2Р(Х</0 = (2л)-<к-”)Иг=п+1Таким образом получаем 2Р(Х</0 = (2л)-<к-”)И112(N-n-2)/2r ^N_ ^2)2(N-n-2)/2r ^N_ ^2)I^ ^ ^Н+1 ^П+2 • • • dt^ H»<h* АЙ^-п-1^-/12/2 Д^0I^ ^ ^Н+1 ^П+2 • • • dt^ H»<h* АЙ^-п-1^-/12/2 Д^0(40)(40)Это и есть формула (XVIII).Из (40) можно вычислить, чтоMX2 = V — п,DX2 = М {%2 - (N - п)}2 = 2 (V — п).В силу (37) формулы (41) и (42) равносильны (XIII) и (XIV).Это и есть формула (XVIII).Из (40) можно вычислить, чтоMX2 = V — п,DX2 = М {%2 - (N - п)}2 = 2 (V — п).В силу (37) формулы (41) и (42) равносильны (XIII) и (XIV).(41)(42)(41)(42)2 При выводе формулы (40) следует заметить, что поверхность сферы радиу- €а в m-мерном пространстве равна2лт/2 „.Г (тп/2)’2 При выводе формулы (40) следует заметить, что поверхность сферы радиу- €а в m-мерном пространстве равна2лт/2 „.Г (тп/2)’N
2
2
(39)
(39)
Г=п+1
Из независимости случайных величин Аг вытекает независимость случайных величин \r!s. В силу (36) каждая из этих последних величин подчинена нормальному закону распределения с плотностью вероятности
V 2л
Поэтому их (Д’ — ^г)-мерный закон распределения характеризуется плотностью вероятности
Г=п+1
Из независимости случайных величин Аг вытекает независимость случайных величин \r!s. В силу (36) каждая из этих последних величин подчинена нормальному закону распределения с плотностью вероятности
V 2л
Поэтому их (Д’ — ^г)-мерный закон распределения характеризуется плотностью вероятности
г—п+1
Вероятность неравенства
получается интегрированием этой плотности по (N — п)-мерному объему, в котором
N " № = X €<№.
г—п+1
Вероятность неравенства
получается интегрированием этой плотности по (N — п)-мерному объему, в котором
N " № = X €<№.
г=п+1
Таким образом получаем 2
Р(Х</0 = (2л)-<к-”)И
г=п+1
Таким образом получаем 2
Р(Х</0 = (2л)-<к-”)И
1
1
2(N-n-2)/2r ^N_ ^2)
2(N-n-2)/2r ^N_ ^2)
I^ ^ ^Н+1 ^П+2 • • • dt^
H»<h* А
Й^-п-1^-/12/2 Д^
0
I^ ^ ^Н+1 ^П+2 • • • dt^
H»<h* А
Й^-п-1^-/12/2 Д^
0
(40)
(40)
Это и есть формула (XVIII).
Из (40) можно вычислить, что
MX2 = V — п,
DX2 = М {%2 - (N - п)}2 = 2 (V — п).
В силу (37) формулы (41) и (42) равносильны (XIII) и (XIV).
Это и есть формула (XVIII).
Из (40) можно вычислить, что
MX2 = V — п,
DX2 = М {%2 - (N - п)}2 = 2 (V — п).
В силу (37) формулы (41) и (42) равносильны (XIII) и (XIV).
(41)
(42)
(41)
(42)
2 При выводе формулы (40) следует заметить, что поверхность сферы радиу- €а в m-мерном пространстве равна
2лт/2 „.
Г (тп/2)’
2 При выводе формулы (40) следует заметить, что поверхность сферы радиу- €а в m-мерном пространстве равна
2лт/2 „.
Г (тп/2)’
Нам остается рассмотреть закон распределения величины
Tj = (а, — а^Учпа.(43)
Для этого целесообразно представить т7- в виде отношения
т,- = уД,(44)
где
Чз = /^ _ п (a, — a^lVqii8-(45)
Заметим теперь, что в силу (15), (16), (21) и (25)
“/• —0-3 = [А*^7] = 3 «Д.(46)
г—1 где
^jr = Ь^ЬД.(47)
Сравнивая (46) с (37)—(38), мы видим, что в выражение а7 — а^
входят только те Аг, которые отсутствуют в выражении для X2. Поэтому из взаимной независимости величин Аг вытекает независимость aj — &7 от X. В силу (45) у7 и X тоже независимы. В соответствии с (XVI) плотность вероятности для у7 есть
.1е-с2/2(^тОф
1^2^ (N — п)’
В соединении с (40) получаем отсюда, что двумерная плотность вероятности у7 и X есть
1‘ bN-n-l Г с2 ^2 I
/л (W- n)-2(,v-n”1)/2 Г ^N - n)/2) ехр I 2 (/V — га) Г/ '
Интегрируя эту плотность вероятности по области, где clh<^t7 получим '
11
1
1
" -/я ^N - п) 2^-n-1^2r ((TV - n)/2)
X 5 exp { -de dh.(48)
Произведем теперь замену переменных с и h из с ^. с2 , h2
S==T' U~ 2 (ЛГ — n) + Т •
Так как
9 ($, и) _ d , s8 А2 _2“
. й(с,Д) — r N—n ’1 _|_sa/(Af - ,г) ’
Т0 ИЗ (48) получается
Р И, <0 =
1м Nz^L L S2
" /я (Л - Л) Г ((TV — n)/2) 3 “е у 1 + N _
/n(jV-n)r((JV — ti)/2) J \ N—n)
Формулы (XIX) и (XX) являются не чем иным, как другой записью равенства (49).
III. ЗАМЕЧАНИЯ
О ПРАКТИЧЕСКОМ ЗНАЧЕНИИ УСОВЕРШЕНСТВОВАНИЯОБЩЕПРИНЯТОГО ИЗЛОЖЕНИЯ ТЕОРИИМЕТОДА НАИМЕНЬШИХ КВАДРАТОВ
О ПОЛЬЗОВАНИИ
ЗАКОНОМ РАСПРЕДЕЛЕНИЯ СТЬЮДЕНТА
В соответствии с общими принципами современной математической статистики будем называть «доверительными границами» для а^ соответствующими «коэффициенту доверия» со, такие две величины а} и а;, что при любых допустимых гипотезах о неизвестных величинах
Р {ccj ^ а5 ^ а}} > со.(50)
Если s известно, а неизвестными являются только аъ а2, . . ., aut то этому требованию удовлетворяют в силу (XVI)
aJ = «7 — tVqns, aj = а, + t^q^ s,(51)
где t определяется из
G (0 - (1 + со)/2.(52)
Значения t. соответствующие различным о), приведены в предпоследней строке (т = сю) табл. 1, приложенной в конце статьи.
Если 5 известно, то в соответствии с (XV) принято считать о за приближенное значение s. Однако, для того чтобы доверительные границы
“j = aj — tVqTjG, «j = a-j + tVaijo(53)
удовлетворяли требованию (50), t следует определять не из (52) а в соответствии с (XIX), (XX) из*
Sn-h (0 — (1 + (о)/2.(54)
Значения t, соответствующие различным <о при различных N — /г ~ = m по формуле (54), приведены в той же табл. 1.
При m —> оо £, определенные из (54), сходятся к t, определенным из (52) с заменой s на о, но сходимость эта довольно медленная^ особенно при со, близких к единице. Например, при со = 0,998 по- (52)
t = 3,090, что примерно соответствует классическому правилу «трех сигма», а по (54), например, при ш = 6
t - 5,959.
ОБ ОЦЕНКЕ s ПО о
Удовлетворить равенству
Р (7^0 ^ s ^ Тс2о} = со(55)
проще всего, подобрав кг и к2 так, чтобы
Р (5 <^ Л^о) (1 — <о)/2, Р {к2з ^ s} = (1 + (о)/2. ■(56)
В соответствии с (XVII), (XVIII) это будет достигнуто, если определить кг и к2 из
И ( 1 + СО - tj [ N п \ 1 й)
С точки зрения интересов метода наименьших квадратов, по-ви- димому, было бы желательно иметь таблицу, которая непосредственно давала бы кх и к2 по та = N — п и со. Это сделано в нашей табл. 2 для со — 0,98.
Заслуживает внимания резкая асимметрия верхней и нижней границ в оценке
к^ ^ s ^ к2о.
Например, при со = 0,98 и та = 3
кг = 0,514, к2 = 5,111,
т. е. а, более чем вдвое превышающие s, встречаются лишь с вероятностью 0,01, но s превышает а с вероятностью 0,01 в 5 раз. Поэтому употреблять при небольших та доверительные границы для s вида (1 + к') о было бы нецелесообразно, нижнюю границу часто при-
m
Р
0,75
' 0,90
0,95
0,975
0,99
0,995
0,9975
0,99
0,9995
1
1,000 .
3,078
6,314
12,076
31,821
63,657
127,321
318,309
636,619
2
0,816
1,886
2,920
4,303
6,965
9,925
14,089
22,327
31,600
3
0,765
1,638
2,353
3,182
4,541
5,841
7,453
10,214
12,922
4
0,741
1,533
2,132
2,776
3,747
4,604
5,597
7,173
8,610
5
0,727
1,476
2,015
2,571
3,365
4,032
4,773
5,893
6,869
6
0,718
1,440
1,943
3,447
3,143
3,707
4,317
5,208
5,959
7
0,711
1,415
1,895
2,365
2,998
3,499
4,029
4,785
5,408
8
0,706
1,397
1,860
2,306
2,896
3,355
3,833
4,501
5,041
9
0,703
1,383
1,833
2,262
2,821
3,250
3,690
4,297
4,781
10
0,700
1,372
1,812
2,228
2,764
3,169
3,581
4,144
4,587
И
0,697
1,363
1,796
2,201
2,718
3,106
3,497
4,025
4,437
12
0,69
1,356
1,782
2,179
2,681
3,055 '
3,428
3,930
4,318
13
0,694
1,350
1,771
2,160
2,650’
3,012
3,372
3,852
4,221
14
0,692
1,345
1,761
2,145
2,624
2,977
3,326
3,787
4,140
15
0,691
1,341
1,753
2,131
2,602
2,947
3,286
3,733
4,073
16
0,690
1,337
1,746
2,120
2,583
2,921
3,252
3,686
4,015
17
0,689
1,333
1,740
2,110
2,567
2,898
3,222
3,646
3,965
18
0,688
1,330
1,734
2,101
2,552
2,878
3,197
3,610
3,922
19
0,688
1,328
1,729
2,093
2,539
2,861
3,174
3,579
3,883
20
0,687
1,325
1,725
2,086
2,528
2,845
3,153
-3,552
3,849
21
0,686
1,323
1,721
2,080
2,518
2,831
3,135
3,527
3,819
22
0,696
1,321
1,717
2,074
2,508
2,819
3,119
3,505
3,792
23
0,685
1,319
1,714
2,069
2,500
2,807
3,104
3,486
3,768
24
0,685
1,318
1,711
2,064
2,492
2,797
3,092
3,467
3,745
25
0,684
1,316
1,708
2,060
2,485
2,787
3,078
3,450
3,725
26
0,684
1,315
1,706
2,056
2 479
2,779
3,067
3,435
3,707
27
0,684
1,314
1,703
2,052
2,473
2,771
3,057
3,421
3,690
28
0,683
1,313
1,701
2,048
2,467
2,763
3,047
3,408
3,674
29
0,683
1,311
1,699
2,045
2,462
2,756
3,038
3,396
3,659
30
0,683
1,310
1,697
2,042
2,457
2,750
3,030
3,386
3,646
ОО
0,67449
1,28155
1,64485
1,95996
' 2,32634
2,57582
2,80703
3,09023
3,29053
(0
0,5 ,
0,8
°,9
0,95
0,98
0,99
0,995
0,998
0,999
Таблица 1. Значения t, удовлетворяющие уравнению Sm (t) = Р
30. К обоснованию метода наименьших квадратов.281
Таблица 2. Значения к, удовлетворяющие уравнению Hm(mi к) = Р^кз ^ s^ = р
т
Р1
т
Р
т
Р
0,01
0,99
0,01
0,99
0,01
0,99
1
0,388
79,750
8
0,631
2,204
40
0,792
1,343
• 2
0,466
9,975
9
0,644
2,076
50
0,810
1,297
3
0,514
5,111
10
0,657
1,977
60
0,824
1,265
4
0,549
3,669
15
0,708
1,694
70
0,835
1,241
5
0,576
3,003
20
0,730
1,556
80
0,844
1,222
6
0,597
2,623
25
1,751
1,473
90
0,852
1,207
7
0,615
2,377
30
0,768
1,416
100
0,858
1,195
ходилось бы принимать отрицательной! Только при очень больших т можно считать
кг — 1 — щГЧт, к^ — 1 + t,y 2тп(58)
где t определяется по гауссовскому закону из (52)..
§ И' ЗАМЕЧАНИЕ О ЗНАЧЕНИИ МАТРИЦЫ q^
Значение дисперсионной матрицы
8ц = М {(аг — аг) (а, — а^ = q^(59)
дает значительно более полйую информацию о характере ошибок
«i — »h
чем знание одних ее диагональных элементов
D (aj = Su.(60)
Например, для определения среднеквадратичной ошибки, совершаемой при замене а^ через а^ в выражении
Ь = С-^Cl^ Т" ^2^2 4” • • • 4* Vn,
где коэффициенты сг заданы, недостаточно знания^ дисперсий D (аг)т но вполне достаточно знания дисперсионной матрицы Sq. Полагая
Р = ciai 4- c2a2 4- • • • + ^n, имеем
М(Р — b^^^^StjCiCj.
• i 3
Обычно диагональные элементы матрицы qtj вводятся в рассмотрение в виде обратных значений «весов»
ри = Ши-
Это маскирует существенную роль всей матрицы q^.
ЛИТЕРАТУРА
Нейман Ю. Статистическая оценка в проблеме классической теории вероятностей.— УМН, 1944, вып. 10, с. 207.
Колмогоров А. Н. Определение центра рассеяния и меры точности по ограниченному числу наблюдений.-- Изв. АН СССР. Сер. мат., 1942, т. 6, с. 3-32.''
31
ОДНА ФОРМУЛА ГАУССАИЗ ТЕОРИИ МЕТОДА НАИМЕНЬШИХ КВАДРАТОВ
Совместно с А. А. Петровым и Ю. М. Смирновым
Статья содержит уточнение некоторых оценок из гауссовской теории метода наименьших квадратов..
В § 39 гауссовской «Theoria combinationis observationum erro- ribus minimis obnoxiae» вычисляется среднеквадратичная ошибка^ совершаемая при замене цц на
М _ ЛЛ 4- XX' + W + . , ,л — рл — р*
Гаусс устанавливает, что эта среднеквадратичная ошибка равна
-2(««+(1)
В § 40 Гаусс извлекает из формулы (1) более простые оценки интересующей его среднеквадратичной ошибки. Эти оценки он основывает на неравенствах
рр/л ^ 2 (йа + ^Р + су + . . .)2 <( л.(2)
По какому-то недосмотру Гаусс не заметил, что верхняя из оценок (2) может быть заметно усилена и неравенства (2) могут быть заменены неравенствами
рр/л < 2 (^ + Ьр + су + . . .)2 < р.(3)
Из-за этого недосмотра выводы § 40 оказались неожиданно слабыми: нижняя оценка, предлагаемая Гауссом для исследуемой им
среднеквадратичной ошибки, оказывается в некоторых случаях даже отрицательной.
Нашей задачей является доказательство неравенств (3) и установление того обстоятельства, что они не могут быть усилены.
§ 1ПОСТАНОВКА ЗАДАЧИ
Мы начнем с краткого изложения задачи в современных обозначениях, примыкающих к статье А. Н. Колмогорова [1].
(4)(4)Пусть величины уг, аг и xiri где г = 1, 2, . . ., A; Z = 1, 2, ... я; и < А, удовлетворяют Л7 уравнениям
(4)
(4)
Ur S ^т^гт* г=1
Величины xiT предполагаются известными точно, вместо же величин уг предполагаются заданными величины
Пг Ут + Аг,(5)
где Дг — взаимно независимые случайные величины, для которых
М (Дг) = О, М (Д*) - s\ М (Д*) = /4(6)
(М есть знак математического ожидания). Матрица || xir || предполагается имеющей ранг п.
В указанных предположениях метод наименьших квадратов рекомендует принимать в качестве приближенных значений неизвестных величин сц значения аг, определяемые из условия
Nп2*
(О(О2 (лг— S GArJ =rnin.
(О
(О
Г=12—1
Решение поставленной таким образом задачи, как известно, однозначно и имеет вид
N
(8)(8)^г ==: 3 UirTjr.
(8)
(8)
?—1
Коэффициенты uiT в формулах (8) имеют следующий геометрический смысл: в A-мерном пространстве векторы
иг = (нц, ui2, . . ., utNh г = 1А 2, . . ., п, образуют биортогональную систему к векторам
^i = (^i, xi2l . . ., xiN\ г = 1, 2, . . ., п.'
Это значит, что векторы Ui, u2l . . ., ип однозначно определяются следующими условиями: они лежат в линейном и-мерном подпространстве L, определяемом векторами х-^ x2l . . ., хп, и удовлетворяют
условиям биортогональности:
| 1 при г = г
= при
Полагая
где п
8r T|r — ^j OC^Xjr, i=l
имеем
Mo2 = s2.
(9)
(10>
(И)
(121-
Задача Гаусса, указанная в начале нашей статьи, заключается в определении
Dor2 = М {о2 — s2}2.(13)
Гауссова формула (1) в наших обозначениях записывается так:
Do2 =- -£—^- (и — й),(14)
где
N п
^ = 5 (3 $iruir)2.г—1 г=1
(15)
§ 2ОЦЕНКА Q
Выражение (15) имеет простой геометрический смысл. Именно' если обозначить через
*? = (^, ^2, • • ., ^)
проекцию единичного координатного вектора еТ в пространство Lr то
NN N
Г=1Г=1 /с=1
(16)
В самом деле, проекция z* любого вектора z в пространство L может быть записана в виде
Вычисляя скалярное произведение (гиф получим в силу (9) (zuf) = (^и^ = сь
Если z = еТ1 то последняя формула дает сг = uir. Поэтому
e*=5«iA,(17)
г =1
или в координатной форме
п
ё*к = 3 uiTxik.(18)
г—1
Вполне аналогично получим
6* = 2 ®ir^ii(19)
г=1
elk^^JCtrUft.(20)
Из (18) и (20) вытекает
NN п пи
I е* |2 = 3 (ел)2 = 3 2 2 (Mir^i^,ruA)= 2 u-iTxiT.(21)
/.‘=1К=1 г=1 ;=1г=1
Равенство (21) в соединении с (15) непосредственно приводит к (16).
Введем теперь в нашем TV-мерном пространстве новую ортогональную систему координат, расположив первые п осей в пространстве L, а остальные N — п выбрав ортогональными к этому пространству.'
Пусть в новой системе координат векторы ет представляются в виде
^т = (^гЪ ^т^ • • ч ^tnY
Очевидно, что в этой системе координат
е* = (Qrl, Q^, . . .,Qm, 0, 0, . . .,0).
Поэтому
N п 2
д=2(2^У-(22)
Г—1 k=l
Матрица || Qrfc |] ортогональна. Легко заметить, что никаких других ограничений на вид этой матрицы общая постановка нашей задачи не накладывает: при надлежаще подобранной матрице || х^т || ранга п можно достигнуть того, что матрица || Qr^ || будет произвольной ортогональной матрицей.
Таким образом, проблема оценки возможных значений может быть поставлена так: какие значения может принимать при п <( N выражение (22) Эля ортогональной матрицы N-го порядка! "
Так как пN
Й^=1
то всегда п 2 п
А-1А-1
Поэтому из (22) вытекает N п
Q< S 3 ^.к = п.
r=l K=L
В установленном таким образом неравенстве
Й < п(23)
знак равенства достигается, если матрица |] йгй || единичная:
С другой стороны, так как всегда
N
N
?—1Г=1
то из (22) вытекает
N п
й
t2 п2
В полученном неравенстве
й > n^/N(24)
знак равенства тоже достижим при любых N и п < N, как это было установлено по нашей просьбе А. И. Мальцевым [2].
§ 3ВЫВОДЫ
В § 2 установлено, что
n^!N < Й < п (25) и обе указанные в (25) границы достигаются. Для оценки D2o2 отсюда получаются в силу (14)
/4 -S4 N — п
/4-S4
ТГ-п
п / /4 -- 3s4 \
" N—гГ)
/2 / /4 ~ S4
< и2а2 <
С -4—— , если /4 — 3s4 > О, (26)
3s4 — Л \ если ^43s4 < О N — nJ' 4’
причем указанные в (26) границы достигаются при любых N и п <^ \ N в некоторых частных случаях.
Если /4 — 3s4 = 0, то из (26) получается известная для случая нормального гауссовского распределения ошибок Дг формула
Do2 = 2s4/(7V — nY(27)
Если отношение nIN стремится к нулю и /4 — s4 > 0, то асимптотически
(28)(28)Do2 ~ (f - s4)/^ — nY
(28)
(28)
В мемуаре Гаусса вместо этого при niN, стремящемся к нулю, указаны для Do2 лишь асимптотические оценки
(2/4 — 4s4)/(7V - п) и 2s4/(^ — nY
Заметим еще, что в вырожденном случае /4 = s4 (случай /4 < s4, как хорошо известно, невозможен) из (26) получается '
Do2 < 2ns4N (TV — п).(29)
5 мая 1947. г.
ЛИТЕРАТУРА
Колмогоров А. Н. К обоснованию метода наименьших квадратов.— УМН, 1946, т. 1, вып. 1, с. 57—70.
Мальцев А. И. Замечание к работе А. Н. Колмогорова, А. А. Петрова и Ю. М. Смирнова «Одна формула Гаусса из теории наименьших квадратов».— Изв. АН СССР. Сер. мат., 1947, т. 11, с. 567—568.
32
ВЕТВЯЩИЕСЯ СЛУЧАЙНЫЕ ПРОЦЕССЫ
Совместно с Н. А. Дмитриевым
-§ 1
ПОСТАНОВКА ВОПРССА
Будем рассматривать совокупность объектов (например, молекул) каких-либо п типов TXl T2l . . ., ^ и предположим, что один объект типа Т^ за промежуток времени (^, t^ превращается с вероятностью Р^к (^ ^2) = Р (^ —5а | t^ t2) в совокупность
5а = а,^! + а,2Т2• • • + ^пТm
состоящую из 04 объектов первого типа, а2 объектов второго типа и вообще о^ объектов i-ro типа. Случайный процесс, состоящий из такого рода превращений, называется ветвящимся, если вероятности Рк (^17 ^2) однозначно определяются заданием моментов времени
^ <^^2, номера исходного типа к = 1, 2, . . ., п и тг-мерного вектора а = (а17 а2, . . ., ап) с целочисленными компонентами о^ = = 0, 1, 2, . . .
Существенным здесь является допущение, что вероятности независимы от*..
способа и времени возникновения исходного объекта типа Т^, про который лишь предполагается, что он существует в момент времени ^;
судьбы могущих входить в рассмотрение других объектов типов TXl Т^ч • • -ч ^пч отличных от данного в момент времени 1г объекта типа Т^ и объектов, возникающих из него при t > tT.
Изложенная сейчас теоретико-вероятностная схема может иметь разнообразные применения в биологии, химии и физике элементарных частиц. В частности, в химии под нее могут быть подведены начальные стадии самых разнообразных химических реакций. В самом деле, в начальной стадии химической реакции обычно можно считать концентрации одних типов молекул Тъ T2l . . ., Tm большими, ю приближенно постоянными, концентрации же других типе в ТХп Т^ • • -ч Тп переменными, но весьма малыми. В этих предположениях встреча двух молекул типов Т" практически невозможна, результаты же встреч одной молекулы одного из типов Т" с одной или несколькими молекулами типов Тг в отношении числа возникающих молекул типов Т” приближенно подчиняются сформулированным выше требованиям.
В химических и физических вопросах естественно применять вариант нашей схемы с «непрерывным временем», предполагая вероятности Рк ^ъ t^ дифференцируемыми по tx и £2. Дифференциальные уравнения, которые мы получаем в этом предположении в § 3 этой работы для частного случая «мономолекулярных» реакций (Р“ (^, £2) > 0 только при ах + а2 + . . . + an = 1), были ранее указаны М. А. Леонтовичем [1]. В биологических вопросах естествен другой подход с «дискретным временем», где «время» t принимает лишь целые значения и обозначает номер поколения. В этом варианте излагаемые далее результаты были для случая п = 1 получены Р. А. Фишером [2]. Исследования Фишера были продолжены Ж. Ф. Стеффенсеном [3] и одним из авторов настоящей заметки [4].
§2ОСНОВНОЕ ФУНКЦИОНАЛЬНОЕ УРАВНЕНИЕ
В силу общих принципов теории вероятностей Р^ (t^ t^ подчинены условиям
р” 01, <2) > О,(I)
^Pk^t^-i.(11)
а
10 А. Н. Колмогоров
Считая эти вероятности определенными при любых tT ^ t^ для ^ = £2 естественно принять
Р^1,^ = Е^ =Р^1,^ = Е^ =если ак = а^ = 0, I к,
Р^1,^ = Е^ =
Р^1,^ = Е^ =
’(Ш)
U во всех остальных случаях.х 7
Наконец, в силу сделанных выше допущений вероятности Р^ (£ь £2) удовлетворяют при любых
уравнению
р^ (ti, <з) = 5 Рк (ti, М Р& (^Лз),(IV)
а
где
Ра (^17 ^2) = Р (5а5$ I th ^2)
означает вероятность превращения за промежуток времени (^, £2) совокупности
5а = ^1Т1 + «2^2 + . . . + ^пТ-п. в совокупность
5(з = № + р2Г2 + . .. + №•
Вероятности Р^ (£17 £2) допускают выражение через вероятности Рк* (^7 ^2):
pl №, ^)=2 П П pF- .s) щ, м,о Va)
г=1 s=l
где суммирование распространяется на все такие наборы векторов
Р (i, $) = (Pi (i, s), Pa (i, s), . • P„ (i, s))
с целыми неотрицательными компонентами P^ (f, 5), для которых n аг
S5P(m) = P.(ivb)
2=1 8=1
Формулы (I) —(IV) заключают в себе полный перевод понятия «ветвящегося случайного процесса», определенного в § 1 на языке теории вероятностей, на язык чистого анализа.
Из (IV) и (IVa) вытекает, что вероятности Р« (^ь ^2) удовлетворяют основному уравнению марковских процессов
РЖ^=1дР1щ.^РШМ(1)
Уравнение (1) вытекает непосредственно из теоретико-вероятностных предпосылок § 1. Уравнение (IV) по существу является лишь частным случаем уравнения (1). Это замечание показывает, что наши «ветвящиеся случайные процессы» по существу являются лишь частным случаем марковских процессов со счетным множеством состояний. Для этого частного случая мы получим, однако, аналитический аппарат, значительно более эффективный, чем тот, который может быть развит для общего случая марковских процессов со счетным числом состояний. С этой целью мы введем производящие функции
Ft (/i, «2; тг, ж2, ...,хп^ = ^Р^ (/ъ <2)... х>.(2)
а
Целесообразно п функций F^ записывать как одну векторную функцию
F (^, *2; ж) = (F\ (fn i2; ж), F2 Щ, t2; х), . . ., Fn (^, t2; ж)) векторного аргумента
X " СГЬ ^2» • •Х^.‘
Смысл введения производящей функции F (^ t2; х) заключается в том, что при ее помощи соотношения (IV) записываются в следующей форме:
F (^1, ^3; х) = F (t^ t2; F ^2) t3; х^\(A)
Кроме основного функционального уравнения (А), из (III) для функции F (^, ^2; ж) получается еще граничное условие
F (t, t; х) =voc.(В)
Естественно, что функция F (^, t2; х) считается определенной лишь для tx ^ ^2- Что касается аргумента х, то он имеет чисто формальное значение, однако из (I) и (II) во всяком случае вытекает, что F-^ (^ t2; х) определены и аналитичны по аргументам хх. х2, . . . • . ., х«^ при
| хг | < 1, s = 1, 2, . . ., п.
Особенно интересен случай процессов, однородных во времени,;
е. удовлетворяющих, условию
Рк (^i, ^г) = Рк (^2 — Ч)-(3)
В этом случае для
F^x^^P^VW...®^(4)
а получаем вместо (А) и (В)
F (t + т; ж) = F (f, F (т; ж)),(AJ
F (0; ж) = ж.(Вх)
§ 3ДИФФЕРЕНЦИАЛЬНЫЕ УРАВНЕНИЯДЛЯ СЛУЧАЯ НЕПРЕРЫВНОГО ВРЕМЕНИ
Допустим теперь, что
Р" (t, t + A) = Ек + Ьрак (г) + о (A),(V)
где о (А) бесконечно мало по сравнению с А. В этом случае естественно ввести производящие функции
f^f-x^^p^^x^.. ,х”п.(5)
а
Тогда при | xt | < г < 1, г = 1, 2, ... ., п, получим
F (^ t + А; я) = х + А/ (£; х) + о (А).(6)
Полагая в (A) tT = f, t2 = f + A, t3 = t" и переходя к пределу при А -> О, получим для F (t\ t"; х) при t' < t" дифференциальное уравнение
dF/ЭР = -/ (f; F).(С)
Это дифференциальное уравнение вместе с граничным условием (В) и может быть положено в основу расчета процессов занимающего нас сейчас типа. В самом деле, рк (£) обычно могут быть определены непосредственно из условий задачи, целью же математической теории является определение вероятностей Рк (^, £2), иногда же их асимптотического поведения при £2->+оо. Так как функции /^ легко находятся по заданным pkl а искомые Рк получаются из разложения функций Fk по степеням переменных х-И то определение вероятностей Рк и исследование их асимптотического поведения сводится к решению уравнения (С) при граничном условии (В) и исследованию асимптотического поведения решений.
В однородном во времени случае плотности вероятностей рк постоянны и функции Fk (t; хъ х2, . . ., хп) связаны с функциями
fk(xi, Х.2, .. ., хп)=5РкХ?*х“г.. .х"п(7)
ОС
уравнениями
марковских процессов со счетным множеством состояний, получающихся из (1) при допущениях, подобных (V). Мы ограничимся здесь одним простым примером применения метода (решение той же задачи, методом бесконечных систем см. у Н. Арлея [5]).
п =
р? = a, pl = —(а + 6), pl = b, р[ = 0 при г > 2,
/ (ж) = а — (а + Ъ) х + Ъхг = (1 — ж) (а — Ъх\
dFрв + се^
(i — F) (а — bF)а1’ ГЪА-се^ ’
Ъх — а1 — х ’Ъх — а1 — х ’
Ъх — а
1 — х ’
Ъх — а
1 — х ’
¥ к^ж) = ——^±^5—а) е(“ ^ = Р? (0 + Л1 (0 ж + Р; (0^2+...
Х ’ b (1 - я) + (Ьх - а) е^г1V 71V 7 И 7
Р°1ЩР°1Ща ■ 1 - е<а'ь>1
Р°1Щ
Р°1Щ
^(0 = (1^(0 = (1b 1 — ^(Ь) е^а-ь^
^(0 = (1
^(0 = (1
а Гg / e(a-b)t
ь / [1 — (а/6) е<“-ь>*]*+1'
где к — 1, 2, . . .
20 февраля 1947 г.
ЛИТЕРАТУРА
Леоцтевич М. А. Основные уравнения кинетической теории газов с точки зрения теории случайных процессов.— ЖЭТФ, 1935, т. 5, с. 211—231.
Fischer R. A. The genetical theory of natural selection. Oxford, 1930.
Steffenson J. F. Deux problemes du calcul des probabilites.— Ann. Inst. H. Poincare, 1933, vol. 3, p. 331—334.
Колмогоров A. H. К решению одной биологической задачи.— Изв. НИИ мат. и мех. Томск, ун-та, 1938, т. 2, № 1, с. 7—12.
Arley N. On the theory of stochastic prosesses and their application to the theory of cosmic radiation: Diss. Copenhagen, 1943.
33
ВЫЧИСЛЕНИЕ ФИНАЛЬНЫХ ВЕРОЯТНОСТЕЙДЛЯ ВЕТВЯЩИХСЯ СЛУЧАЙНЫХ ПРОЦЕССОВ*
Совместно с Б. А. Севастьяновым
Настоящая заметка примыкает в отношении терминологии и обозначений к [1]. Мы рассматриваем далее однородную по t дискретную схему: t пробегает только значения 1, 2, 3, ... и может трактоваться как «номер поколения» рассматриваемой частицы. В соответствии
с этим
Р* (О = Р (Тк -> агТг + а2Г2 + . . . + апГп | О(1)
есть вероятность того, что одна частица типа Тк даст через t поколений по а1? а2, . . ., ап частиц типов Tls Т^ . . ., TV В основе всех дальнейших подсчетов лежат производящие функции
Fk^^ = и (ж) = X р^? ... ж"»(2)
а
вероятностей
№=Р?(1)(3)
различных переходов за одно поколение. Через них по индукции определяются производящие функции
Fk(t;x) = '2lP^(it)x?‘x^...xan"(4)
для всех натуральных значений t;
Fk (t + 1; ж) = fk VFi (t; ж), Fa (t; x), . . ., Fn (i; ж)}.(5)
В соответствии с общей теорией, изложенной в [1],
Р^' "^ =А(0,0, . . .,0)(6)
обозначает вероятность того, что частица типа Тк за одно поколение исчезнет, не произведя никаких новых частиц рассматриваемых типов Тъ Т21 . . ., Т^. Для дальнейшего целесообразно избавиться от этой возможности и рассматривать только схемы, в которых
tk (0, 0, . . ., 0) = 0. (7)
Если условие (7) не выполняется в какой-либо схеме, то всегда можно ввести дополнительный фиктивный тип Гп+1 и считать, что исчезновение частицы любого другого типа обозначает превращение ее в частицу типа Т^Х1 частицы же типа Т^ остаются далее неиз-
♦ ДАН СССР, 1947, т. 56, № 8, с. 783-786.
ценными. Аналитически это равносильно переходу от первоначальной системы производящих функций /ь /2, . . ., /п к новой системе
/Тс (^1? • • ч ^т ^п+1) //с (^1» • • •> ^п) ~Н
+ fe+1 - 1) Л (О, О, . . ., 0), к - 1, 2, . . ., п, (8)
/п+1 (^1? • • •> ^п, ^п+1) #п+1« ,
Во всем дальнейшем мы предполагаем условие (7) выполненным уже для первоначальной системы типов Тх, Т^, . . ., Тп и функций Л» /2? • • ч fn- . ■
Группа типов 7\, Тр4, . . ., Т\т называется замкнутой, если частица любого типа группы производит только частицы, принадлежащие типам той же группы. Система всех типов Г^ Т^, . . ., Тп разложима, если ее можно разбить на две замкнутые группы. Естественно ограничиться рассмотрением неразложимых систем типов. Так мы и делаем во всем дальнейшем.
Группа типов называется финальной, если: а) она замкнута; б) каждая частица любого из типов группы всегда производит ровно одну частицу; в) она не содержит в себе никакой меньшей группы, обладающей свойствами а) и б).
Легко видеть, что две финальные группы не имеют общих элементов. Поэтому вся система типов Тх, Т2, . . ., Тп состоит, вообще говоря, из некоторого числа финальных групп 4*7 = {Ль Т№ . . . . . ., 7ГПг}, г = 1, 2, . . ., $ и некоторого числа типов Го1, Т^, . . . . . ., 7ОПо, не принадлежащих финальным группам. При этом по "V Tty -\- . . . -\- ns = п.
МыСбудем считать процесс закончившимся, когда остались лишь частицы типов, входящих в финальные группы. Такое понимание естественно, так как потомство частицы типа, принадлежащего к финальной группе, в любом дальнейшем поколении будет состоять из одной частицы типа, принадлежащего к той же финальной группе, переходы же из одного типа в другой тип в пределах финальной группы управляются хорошо изученными законами так называемых цепей Маркова в их простейшей форме, соответствующей предположению, что все «состояния» «существенны» и образуют один «класс» (см., например, [2]).
Будем обозначать
= р ргк -> № + № + ... + № I оо } (9) вероятность того, что эволюция всего потомства одной частицы типа Тр рано или поздно закончится на том, что останется по рг частиц, принадлежащих типам финальных групп Тг;
^=J^<i ' (Ю)
есть полная вероятность того, что процесс развития потомства одной частицы рано или поздно закончится (в указанном выше смысле).
Введем производящие функции
<pt(“i, uk “•) = S qWu^*..uss.'(11)
В соответствии с двойным обозначением типов частиц функцию Фк, соответствующую типу Т^ = Ттт1 будем иногда обозначать фгт. Так как q^ > 0, то в силу (10) функции (И) во всяком случае определены и аналитичны по всем переменным при
0 ^ ит < 1$ г = 1, 2, . , ,,s.(12)
Когда некоторые из переменных достигают значения 1, то аналитичность может потеряться, но непрерывность сохраняется. В частности,
Ф* (1, !,...,!) = QK.(13)
Из вероятностных соображений легко вывести следующее основное для нас соотношение:.
ф» = А (Фь ф2, • • ., фп), k = 1, 2, . . ., п.(14)
Кроме того, из определения финальных групп можно вывести, что
Фгт = ^г» т = 1, 2, . . ., пт, г = 1, 2, . . ., s.(15)
Уравнения системы (14),для которых номера соответствует типу какой-либо финальной группы, являются следствием уравнений (15). Поэтому окончательно для*определения фЛ имеем систему уравнений
Фот = /от (Ф1, ф2, • • •,: ФпА 7П = 1, 2, . . ., По;(16)
Фгт = ^г» rn = 1, 2, . » ., ПТ1 Г = 1,; 2, • • S.
Младшим из авторов настоящей заметки доказана следующая теорема относительно однозначности решения уравнений (16).
Теорема. Система (16) вместе с ограничениями 0 ^ ф& < 1, к = 1,2, . . ., п, однозначно определяет значения функций
Фь Фг> • • •» Фп при любых заданных 0 ^ иТ < 1, г = 1, 2, . . ., s.
Замечание 1. Доказательство теоремы будет опубликовано в другом месте. Оно опирается на свойства функций /^, вытекающие из предположения о неразложимости системы типов и из определения финальных групп, на допущение (7) и на соотношения
р”>о,3^=1.(17)
а
Последние соотношения, впрочем, используются не полностью аналитичность функций /^ несущественна для доказательства.
Замечание 2. Все изложенное применимо и к вычислению финальных вероятностей q^ для ветвящихся процессов с непрерывным временем. Для этого достаточно вести счет не по времени в буквальном смысле слова, а по «поколениям» частиц. Только для типов, не допускающих совсем дальнейших превращений, надо ввести дополнительные фиктивные превращения частиц этих типов самих в себя (с вероятностью единица). Это замечание будет пояснено на примере в конце настоящей заметки.
Замечание 3. В большинстве применений к химическим цепным реакциям каждая финальная группа состоит из одного типа (конечные продукты реакции). Изложенная теория в этом случае упрощается.
Пример. Пусть в схеме с непрерывным временем и двумя типами Тх и Г2 заданы положительные плотности вероятностей перехода (см. [1, § 31)
остальные же переходы запрещены (в частности, частица Г2 ни во что не превращается). Переходя к счету по поколениям, полагаем
р(2, 0)
р». «=р (л•=р,
б(0, 1)
р»-" = Р (7.27,) == 1 -
и дополнительно
pF ^Р (Т2 -> Т^ = 1
(здесь рк имеют уже смысл вероятностей, введенных в настоящей заметке). Финальная группа в нашем примере одна из одного типа ^i = {72}. Для функций ф! (mJ, ф2 (дх) получаем уравнения
Ф1 = Рф1 + (1 — Р) ф2, ф2 = «1-
Решая эти уравнения, получим формально
(1 ± fl-4p(l-p)M1).(18)
При ограничениях 0 ^ иг < 1, 0 ^ ф! <; 1 остается только одна ветвь кривой (18) (со знаком минус).
Проведем до конца расчеты для случая /? = V2. Для коэффициентов разложения фг (mJ = ^0) + qx^x + ^i2)^i+ • • • получим в этом случае
= 0 (Dх/ 1«3«5...(2тп— 3)
41 — /2, 41 =v8,41 =7m—;»
2
т. е> асимптотически
^ ~ (1/2/ л) пг^.(19)
Отметим, что хотя
Ф1(1)= Мг)=С1=1,.
т. е. процесс непременно заканчивается, математическое ожидание Мг = 3 ^im) числа получаемых из одной частицы Т\ частиц Z2 т
бесконечно. С этим связано своеобразное явление неустойчивости числа частиц Г2, производимых заданным, хотя бы и очень большим числом частиц Tv Чтобы разобраться в этом, обозначим цп число частиц Т^ производимых п частицами Tv Очевидно, ^ = ><1 + + х2 + • • • + кп, где х^ обозначает число частиц Т^ производимых г-й частицей типа Tv Величины хг взаимно независимы и подчинены распределению вероятностей Р {х^ = к} = q^.
Отсюда и из (19) вытекает (см. [3]), что величины
In = Wn№(20)
имеют закон распределения Sn (я) = Р {^ < х}, который при п ^ оо стремится к вполне определенному непрерывному предельному закону распределения
S (х) = s (ж) dx..(21)
о
Предельный закон распределения (21) может быть найден по логарифму своей характеристической функции
log X W = log ^ $ (ж) ettx Ах = ■ 1 ( (eiuf — 1) -^- .(22)
ог о
Таким образом, при больших п число цп будет порядка тг2, но отношение рп/п2 будет колебаться от случая к случаю.
Москва, 12 апреля 1947 г.
ЛИТЕРАТУРА
Колмогоров А. Н., Дмитриев Н. А. Ветвящиеся случайные процессы.— ДАН СССР, 1947, т. 56, № 1, с. 7—10.
Kolmogoroff А. М. Anfangsgriinde der Theorie der MarLoffschen Ketten mit unendlich vielen moglichen Zustanden.— Мат. сб., 1936, т. 1, № 4, с. 607—610.
Гнеденко Б. В. То the theory of the domains of attraction of stable leaws.— Уч. зап. МГУ, 1939, т. 30, с. 61—82.
34
СТАТИСТИЧЕСКАЯ ТЕОРИЯ КОЛЕБАНИЙС НЕПРЕРЫВНЫМ СПЕКТРОМ
Предмет, которому посвящен настоящий очерк, может быть охарактеризован в весьма общих терминах, не связанных с какой- либо специальной областью механики или физики. Для простота мы ограничимся рассмотрением изменения во времени какого-либо конечного числа величин
^ (О, В2 (0, • • -Лз (О-
Аргумент t (время) будет, естественно, предполагаться действительным, а величины £г (£), вообще говоря, комплексными. Если величины Ег (£) изменяются периодически с периодом со, то процесс1 их изменения изучается обычно при помощи математического аппарата рядов Фурье
—(1)
Благодаря этому колебательный процесс изменения величин Ег (£) с периодом со разлагается на гармонические колебания периодов
(О, со/2, (о/З, со/4, . .■.
Естественным обобщением периодических колебаний являются почти периодические колебания вида
W^W(2)
Здесь периоды
^71 — 2л/1 Ху^ | ,
вообще говоря, несоизмеримы между собой. Естественно, дальнейшим обобщением представляется переход в формуле (2) от сумм по последовательности специально выделенных частот Хп к интегрированию по непрерывно меняющейся частоте X
Ш- $ Фг(Х)^чх,(3)
или в совсем общей форме, объединяющей дискретный случай (2) и непрерывный случай (3), к представлению колебательных процессов
в виде интегралов Стилтьеса
$ е^ЧФДХ).(4)
Однако если ограничиться арсеналом средств классического анализа, то на намеченном сейчас пути встретится существенная трудность. Классические интегралы Фурье вида (3) сцособны представлять лишь функции, которые при t -> оо стремятся в среднем к константам. Интегралы вида (4) тоже способны представлять лишь функции, которые разлагаются на две компоненты
ИО = п (0 + £ (0,
где ц (£) — почти периодическая (т. е. имеет дискретный спектр), а £ (0 при t -^ оо в среднем стремится к константе. Таким образом, классический аппарат интегралов Фурье для случаев непрерывного спектра приводит лишь к затухающим колебаниям. Так и говорится в учебниках физики, желающих сохранять математическую строгость Ч
Тем не менее идея о том, что и в случае незатухающих колебаний возможны колебания с непрерывным спектром и что их можно изображать интегралами вида (3), культивируется многими, иногда очень крупными представителями механики и физики. Такого рода исследования, несмотря на отсутствие в них математической строгости, во многих случаях приводят к правильным и полезным результатам.
Предпосылки для строгого математического обоснования теории незатухающих колебаний с непрерывным спектром по существу содержатся в спектральной теории операторов . Математически строгая спектральная теория функций | (£) действительного аргумента £, непосредственно ориентированная на математическое обоснование физических представлений о незатухающих колебаниях с непрерывным спектром, была впервые создана Норбертом Винером в 1925 г. Концепция Винера, однако, не приводит ни к представлениям вида (3), ни к представлениям вида (4). Полную ясность в весь рассматриваемый круг вопросов внесла лишь спектральная теория стационарных случайных процессов, предложенная А. Я. Хинчиным в 1934 г. [1]. Она, в частности, приводит к математически строгому и в то же время физически осмысленному обоснованию представления незатухающих статистически стационарных колебаний в виде (4). Это обоснование обладает, по-видимому, вполне достаточной для применений общностью. Представление же незату-
‘ 1 См., например, [15, § 54].
хающих колебаний в виде (3) и в концепции А. Я. Хинчина не получает строгого математического обоснования. Автору этой статьи представляется, что такое положение вещей следует считать окончательным: в случае непрерывного спектра функциям Фг (X), по- видимому, никаким разумным способом нельзя приписать определенные производные фг (X).
Целью настоящего очерка и является рассмотрение некоторых советских и иностранных исследований, развивающих концепцию А. Я. Хинчина.
Все очень простые и законченные результаты, излагаемые далее, получаются благодаря радикальному изменению точки зрения: величины £г (£) рассматриваются как случайные величины в смысле, принятом в теории вероятностей. Таким образом, основным предметом изучения делается не индивидуальный вполне определенный колебательный процесс, а закон распределения вероятностей в функциональном пространстве различных возможных вариантов течения такого процесса.
Формальное изложение теории может исходить из таких определений 4:
5-мерным случайным процессом называется совокупность комплексных случайных величин £г (£), заданных для всех действительных t и для г = 1, 2, . . ., 5.
Предполагается, что математические ожидания
м [ Ш2
конечны и процесс стохастически непрерывен в том смысле, что
М|^(НА)-^Г (0 |2^0
при А > 0.
Случайный процесс {^(Z), £2 (^), . . ., £s (£)} называется стационар- ным1 если, каковы бы ни были £, ^, t^ . . ., Ц, sn-мерный закон распределения sn случайных величин
51 kt + У, 51 kt + ЦУ . . .Aikt-V ЦУ
5г kt + цу £2 kt + цу ..., ^2 kt + цу
5s kt + цу ь (t + цу ..., gs (t + Ц)
не зависит от сдвига t.
Из стационарности вытекает, в частности, что математические ожидания 5
, BqT (т) = м {^ (t + т) Хг (0}(5)
Употребляемые далее понятия теории вероятностей строго вводятся, например, в моей книге [20].
В равенстве (5) f обозначает величину, комплексно-сопряженную с £.
не зависят от t. Само по себе требование независимости от t математических ожиданий (5) называется стационарностью в широком смысле. Все дальнейшее изложение этого и следующего параграфов основано лишь на гипотезе стационарности в широком смысле.
Основной результат А. Я. Хинчина в форме, приданной ему
Харальдом Крамером [2], таков:
Функции Bqr (т) допускают представление
B4tW= J e^dFyPY(6)
где при любых %! < К2 матрица
II Fqr (Ах) ||
прирагцений
Fдт (^х) " FqT (Х2)Fqт (XJ
является эрмитовой неотрицательной.
Чтобы понять смысл хинчиновских спектральных функций FqT (X), следует обратиться к дискретному случаю,. в котором инте
гралы (6) превращаются в суммы
Sgr(r) = M"VV-(7)
п
Этот случай был исследован Е. Е. Слуцким [3]. Оказалось, что в предположении (7) имеет место разложение
U0~№v.(8)
п
где агП) — некоторые случайные величины, однозначно определяемые по заданным |г (^).^При этом
а^ = М {а^^}.(9)
В частности, aS = М | а'п> р.(9')
Естественно было предположить, что и в общем случае
Fqr(^) = ^ (Фд(Ах)Фг (Ах)},(10)
FTT (Ах) = М | фг (Дх) р,(10')
где Фг (Ах) суть приращения спектральной функции, входящей в представление величин ^Т^ вида (4).
Это предположение оказывается правильным. Соответствующее углубление хинчиновской теории стационарных случайных процес-
сов является почти автоматическим следствием ее сведения к спектральной теории однопараметрических групп унитарных операторов, которое указано в работах [4—7] и излагается в следующем параграфе настоящего очерка.■
Случайные величины £г (£) можно рассматривать как элементы гильбертового пространства, в котором скалярное произведение определено формулой
п) = м №(11)
Легко устанавливается, что любой стационарный процесс-{^ (^), §2 (0> • • -•> ^з(О) в соответствующем гильбертовом пространстве порождает однопараметрическую группу унитарных операторов {?7Т}, которые удовлетворяют соотношению
U% (0 =+ т)(12)
для всех действительных t и т и всех г = 1, 2, * . ., $. Операторы Ux, как известно, допускают представление
Vх = 5 e^dE^,(13)
где Е (X) — «разложение единицы». Положив
ФТ^ = ЕтЛ^(14)
мы и получим (при надлежащем понимании знака интегрирования) основную формулу (4). Теоретико-вероятностная интерпретация формулы (4) более широко, чем в [6] и [7], изложена в новейших работах X. Крамера [8], М. Лоэва [91, А. Блан-Лапьера и Р. Форте 110, И]. Чтобы понять реальный смысл основных спектральных функций Фг (X), естественно рассмотреть их приращения '
Фг (Дх) = Фг (Z2) - Фг (ZJ и скачки
ar (X) = Фг (X + 0) - Фг (Z - 0)
в отдельных точках X. Естественно, что Фг (Дх) и ar (X), как и £г (^), случайные величины, однако в отличие от £г (£) они не зависят от времени t. Если при каком-либо X скачок ar (X) отличен от нуля, то в ^г (0 содержится строго периодическая компонента
lT (t, К) = аг (X) ^.(15)
В частности, аг (0) есть среднее (по времени) значение т
<М°) = lim ( ^r^dt.(16)
Т—оо•
—т
Аналогичен реальный смысл приращений Фг (Ах) для достаточно коротких отрезков ^. Именно компонента
Ш Ах) = $ е^дФ^(17)
Ах
соответствующая участку спектра Ак, на любом конечном участке — 7 ^ £ ^ +Т временной оси в случае достаточно короткого Ах сколь угодно хорошо аппроксимируется выражением
Фг (Ах) в^э(17')
где X — любая точка из Ах. Естественно, однако, что в случае непрерывного спектра компоненты
1т (t, Ах)
ни для какого конечного фиксированного интервала Ах не являются строго периодическими (если только они не равны тождественно нулю). Их временное поведение в случае коротких интервалов Ах аналогично колебаниям маятника со слабым затуханием, возбуждаемого хаотически распределенными малыми случайными толчками.
Компоненты ^т (£, Ах) для непересекающихся интервалов Ах и Ах между собой не коррелированы, т. е.
м {gg (f, Ах) lr (t, Ax)} = 0,(18)
если Al и Ax не пересекаются. Для одного интервала Ах
м {g9 (t, Ax) t (t, Ax)) = Fw (Ax).(19)
В частности,
M I gr (t, Ax) | 2 = FTT (Ax),(19')
t. e. FTT (Ax) есть не что иное, как среднее значение (по вероятности) квадрата спектральной компоненты £г (£, Ах) величины £г (£).
Использование абстрактного аппарата операторов в гильбертовом пространстве могло создать у читателя впечатление, что спектральные компоненты ^т (£, Ах) являются какой-то математической фикцией, далекой от возможностей непосредственного эксперимента. В действительности это не так: с любым заданным приближением они могут быть выделены из любого статистически стационарного колебательного процесса при помощи надлежащим образом устроенных фильтров. Именно в принципе с любым желательным приближением можно осуществить прибор, связывающий с любой заданной случайной стационарной функцией ^ (£) случайную стационарную функцию
W =(20)
о
где s (т) подчинено единственному условию
^ |$(т)I2dr<oo. о
Если положить
(21)(21)1^(т-Т) _ ^Мт-Т)
(21)
(21)
5 (т) = 2л1тр
то при достаточно большом положительном Т
М^Т)М^Т)егХ2т^i^TйттегХ2т^i^Tйтт
М^Т)
М^Т)
егХ2т^i^T
йт
т
егХ2т^i^T
йт
т
будет с вероятностью, сколь угодно близкой к единице4 сколь угодна мало отличаться от
ш мш мS7 $ М-)S7 $ М-)егЦТ^iT~^тегЦТ^iT~^т
ш м
ш м
S7 $ М-)
S7 $ М-)
егЦТ^iT
~^т
егЦТ^iT
~^т
(22)(23)(22)(23)$$\К ^\К ^d^ (X),d^ (X),К (z) = с0 + Ciz + . Л + cnz".К (z) = с0 + Ciz + . Л + cnz".(24)(24)
(22)
(23)
(22)
(23)
$
$
\К ^
\К ^
d^ (X),
d^ (X),
К (z) = с0 + Ciz + . Л + cnz".
К (z) = с0 + Ciz + . Л + cnz".
(24)
(24)
Заметим еще, что приближенно зависимость (20) можно осуществить в виде
^2=L,
где
т / . d . d^( dn
L— Со + С^ + С2 — + . . . + Сп—W
и характеристические числа L все имеют отрицательные действительные части. При сделанных предположениях, если ^ (^) статистически стационарно, то и Н2 (^) будет при t -> +оо стремиться к статистической стационарности. Это предельное статистически стационарное поведение Н2 (£) определяется формулой
Формула (24) имеет самостоятельный интерес независимо от вопроса об экспериментальном определении спектральных компонент Хт (^ А^). Из нее вытекает, что
(23)
^(X)=$W№-(26>
Формулы (24), (25) и (26) содержат в себе обобщение обычной теории резонанса на случай произвольной статистически стационарной внешней силы. Обычное, не статистическое, изложение этой теории применимо лишь к случаю дискретного спектра внешней силы, т. е. к случаю ^ (£) вида (2). Впрочем, естественно, что без строгого математического обоснования соответствующие рассмотрения для случая непрерывного спектра широко употребляются в физической литературе.
В приложениях в случае непрерывного спектра обычно
^gr W = fqr W (27) т. е. формула (6) может быть заменена формулой
^г(т)= J (28)
Этот переход к спектральным плотностям /Qr (X) позволяет в той части теории, которая не связана с функциями Фг (X), обходиться без интегралов Стилтьеса.
Самым простым и наиболее важным в применениях является случай, когда законы распределения любого конечного числа величин £г (^) являются гауссовскими. В этом случае величины Фг (Дх) тоже подчиняются гауссовским законам распределения. Как раз в этих простейших и типичных для случая непрерывного спектра предположениях (применимость формул (27) и (28) и гауссовских распределений) случайные функции Фг (X) оказываются заведомо недифференцируемыми и переход от формул (4) к формулам типаР(3) представляется безнадежным. На тех участках оси X, на которых спектральная плотность /гг (X) непрерывна и отлична от нуля, функция Фг (X) имеет тот же характер изменения, какой имеет зависимость от времени координат частицы, подверженной броуновскому движению в случае пренебрежения силами инерции, т. е. для малых Д = = Х2 — Х^ приращения Фг (X) имеют порядок У Д. Мы имеем здесь новый случай вторжения в математическую физику непрерывных, нигде недифференцируемых функций вейерштрассовского типа. Если в случае броуновского движения более тонкие рассмотрения с учетом сил инерции вновь возвращают нас к дифференцируемым функциям, то здесь недифференцируемость неразрывно связана с самой идеей непрерывного спектра.
За пределами механики и физики колебаний идеи спектрального анализа статистически стационарных процессов находят себе применение (например, в метеорологии) по преимуществу в слегка отличной форме спектральной теории стационарных последовательностей. Этой теории, помимо уже цитированных работ [4, 5], посвящена книга шведского математика Германа Волда [12]. Существенные допол-
нения к теории Волда были сделаны В. Н. Засухиным [13]. Ясное понимание того обстоятельства, что существование спектра является автоматическим следствием статистической стационарности и вовсе не обязательно указывает на реальное возникновение изучаемого процесса из наложения строго периодических компонент, имело большое значение для критической переоценки так называемой периодографии, претендовавшей на основное значение в метеорологии и даже экономике. Ставшие классическими в статистической литературе работы в этом направлении принадлежат Е. Е. Слуцкому (особенно [14]).
ЛИТЕРАТУРА
Khintchine A. Korrelationstheorie der stationaren stochastischen Prozesse.— Math. Ann., 1934, Bd. 109, H. 4, S. 604—615. Рус. пер.: УМН, 1938, вып. 5,. c. 41-51.
Cramer H. On the theory of stationary random processes.— Ann. Math., 1940 T vol. 41, N 1, p. 215-230.
Slutsky E. Sur les fonctions aleatoires presque periodiques et sur la decomposition des fonctions aleatoires stationnaires en composantes.— Actual. sci.r 1938, N 738, p. 35—55. Рус. пер. в кн.: Слуцкий E. E. Избр. труды. M.: Изд-во АН СССР, 1960, с. 252—268.
Колмогоров А. Н. Интерполирование и экстраполирование стационарных случайных последовательностей. — Изв. АН СССР. Сер. мат., 1941, т. 5 № 1, с. 3—14.
Колмогоров А. Н. Стационарные последовательности в гильбертовом пространстве.— Бюл. МГУ. Математика, 1941, т. 2, № 6, с. 1—40.
Колмогоров А. Н. Кривые в гильбертовом пространстве, инвариантные по отношению к однопараметрической группе движений.— ДАН СССР, 1940,. т. 26, № 1, с. 6—9.-
Колмогоров А. Н. Спираль Винера и некоторые другие интересные кривые в гильбертовом пространстве.— ДАН СССР, 1940, т. 26, № 2, с. 115—118.
Cramer Н. On harmonic analysis in certain functional spaces.— Ark. mat.r astron., fys. B, 1942, vol. 28, N 12, p. 1—7.
Loeve M. Analyse harmonique generale d’une fonction aleatoire.— C. r. Acad, sci. Paris., 1945, vol. 220, N 12, p. 380—382.
Blanc-Lapierre A., Fortet R. Sur la decomposition spectrale de fonction aleatoire stationnaire d’ordre deux.— C. r. Acad. sci. Paris, 1946, vol. 222,. N 9, p. 467—468.
Blanc-Lapierre A., Fortet R. Resultats sur la decomposition spectrale des fonctions aleatoires stationnaires d’ordre 2.— C. r. Acad. sci. Paris, 1946r vol. 222, N 13, p. 713-714.
Wold, H. A study in the analysis of stationary time series. Uppsala, 1938. 214 p.; 2nd ed. 1954. 236 p.
Засухин В. H. К теории многомерных стационарных случайных процессов.— ДАН СССР, 1941, т. 33, № 5, с. 435-437.
Слуцкий Е. Е. Сложение случайных причин как источник циклических процессов.— Вопросы конъюнктуры, 1927, т. 3, вып. 1, с. 34—64. Доп. авт. англ. пер. см.: Econometrica, 1937, vol. 5, № 2, р. 105—146. См. также: Избр. тр. М.: Изд-во АН СССР, 1960, с. 99-132.
Шполъский Э. В. Атомная физика. М.; Л.: Гостехиздат, 1944. 675 с.
Плеснер А. И. Спектральная теория линейных операторов.— УМН, 1941у вып. 9, с. 3—124.
Плеснер А. И., Рохлин В. А. Спектральная теория линейных операторов.— УМН, 1946, т. 1, вып. 1, с. 192—216.
Wiener N. The Fourier integral and certain of its applications. New York 1933. 201 p. Рус. пер.: Винер H. Интеграл Фурье и некоторые его приложения. М.: Физматгиз, 1963. 256 с.
Wiener N. The harmonic analysis of irregular motion.— J. Math. Phys 1926, vol. 5, p. 99—122, 158—191.
Колмогоров И. H. Основные понятия теории вероятностей. М.; Л.: ОНТИ 1936. 80 с.; 2-е изд. М.: Наука, 1974. 119 с.
35
О СУММАХ СЛУЧАЙНОГО ЧИСЛАСЛУЧАЙНЫХ СЛАГАЕМЫХ*
Совместно с Ю. В. Прохоровым
В работах Вальда и ряда других американских авторов установлены некоторые интересные теоремы относительно сумм
£v = £1 + ^2 + • • • + ^V
v первых случайных величин из бесконечной последовательности
где само число слагаемых v есть случайная величина (см. [1—ЗЬ где можно найти ссылки на более раннюю литературу). По методу доказательства эти теоремы восходят к работе одного из авторов настоящей заметки [4], где для оценки вероятности
Р {max | Еп — Аи | > А}
Кп<#
рассматривались суммы £v с индексом v, равным первому номеру п-> для которого
|— Лп I > Н.
Доказанное в [4] неравенство (см. о нем также [5, с. 1541) легко вы- водится из теоремы 5 настоящей заметки.
Мы даем далее очень простые доказательства теорем вальдовско- го типа, относящихся к первым и вторым моментам. Условия применимости основных тождеств у нас несколько шире, чем у Вальда и Вольфовица. Достигнутое нами обобщение условий применимости этих тождеств важно для некоторых применений.
Во всем дальнейшем v будет обозначать случайную величину, способную принимать лишь целые неотрицательные значения
п = 0, 1, 2, 3, . . .
'Событие, заключающееся в том, что v = п, будет обозначаться
Sw = {v = и},
вероятность этого события
Рп = Р №
Положим, кроме того,
Рп = Р ^ = П^= 2 Рт- т—п
Математические ожидания случайных величин
М (т]) = ^ т| ^Р и
будут пониматься в смысле абстрактного интеграла Лебега по множеству U элементарных событий. В соответствии с этим математические ожидания, когда они существуют, всегда конечны и из существования М (т]) вытекает существование М ( | т) | ). Условные распределения вероятностей и условные математические ожидания понимаются в смысле, объясненном в [6].
Основное значение для всех теорем вальдовского типа имеет допущение
(w) При п^> т случайная величина ^ и событие Sm независимы.
В соответствии с [6] условие (w) означает, что при п ^ т условное распределение £п при условии Sm совпадает с безусловным распределением £п:
^„МНт)=^М)-
Теорема 1. Если выполнено условие (w) и существуют математические ожидания
М (v) u М (U = М ( |gn| ) = с,
где а и с не зависят от п, то математическое ожидание £v существует и равно
M(^) = eM(v).(1)
Так как
м (v) = 3 Р«п = S Ли п=1П—1
то теорема 1 является очевидным следствием следующего более общего предложения:
Теорема 2. Если выполнено условие (w), существуют математические ожидания
(Л) = »„, М ( | |п | ) = Сп
и ряд
3 Рп^п(I)
72=1
сходится, то математическое ожидание £v существует и равно
М (^v) = 5 РпАт Аи = № (£п) = а^ + а^ + . . . + аи- (П) 72=1
Доказательство теоремы 2. В силу условия (I) ряд в правой части (II) абсолютно сходится. Применяя к нему преобразование Абеля, получим
S РпАп = 2 Рп^п*(2)
72=172=1
Вспомним, что
Рц = ^ b > ^Ь
Событие {v > пД является дополнительным к событию {v < п}, от которого в силу (w) случайная величина £п независима. Но из независимости от некоторого события вытекает независимость от дополнительного события. Поэтому, обозначая М(г||А) условное математическое ожидание т] при условии А. получим .
ООооОО
2 Р,А = 2 p{v>»}an= 2 р^>п)М(Цуп>п) =
72=171=177=1
ОООО ОО
= 2 $ и?=2 2 S р- ■(3>
72=1 {V>/2}72=1 т=П Sm
Так как из независимости от событий {v > и) величины £п вытекает независимость от этого события и величины | £п |, то в силу (I)
ОО ОООО ООQ_оо
2 2 I $ ^р|<2 2 $ 1М^Р= S $ |^„Ир =
72=1 т=п Smn=l т—п Smn=l {V>n}
= 2 р (V > п>м (I ^ 11v лп =
72=1
= 2 p{v>n)M(|^n|)= 2 ^пС„<оо.(4)
71=172=1
Конечность выражения (4) гарантирует законность следующей замены порядка суммирования:
ОО ОООО 7)2ОО
3 3 ?ур= з 3 $ w?= 5 $ и».<5>
П=1 т=п Sm712=172=1 sm171—1 sm
Так как на Sm имеет место равенство £m = £v, то
2 $ ^dR-J:vdP=M(^).(в)
m=l SmU
По поводу последнего равенства заметим, что «необходимое событие» U является соединением событий Smi включая 50, однако пропуск члена с т = 0 в левой части (6) несуществен, так как в соответствии с установившимся обычаем мы считаем сумму £0 пустого множества слагаемых равной тождественно нулю.
Из сопоставления (3), (5) и (6) получается равенство (II), которое и требовалось доказать.
При рассмотрении вторых моментов мы будем считать
&п = (^> ^п)
векторами с двумя компонентами £п и ^- Условие (w) будет теперь пониматься в том смысле, что при п )> т двумерное условное распределение вектора £п при условии 8т совпадает с безусловным распределением того же вектора. В дополнение к (w) мы примем еще условие
(z) Векторы ^, £2» £з» • • •' взаимно независимы.
Зависимость между компонентами одного и того же вектора, наоборот, может быть произвольной. Далее мы рассмотрим частный случай, когда gn = ^.
Теорема 3. Если выполнены условия (w) и (z) и существуют математические ожидания
W м ^ М ((^ - «Ь ^ - а^} = bij; i, / = 1, 2?
где а1 и Ь13 не зависят от п, то существует
Nv^-w^^-^> = btoNv^.(III)
Естественно, что в (III) Cv обозначает
‘ & = & + & + ... + &, г = 1,2.
Теорема 3 легко выводится из более общей теоремы 4, если заметить, что конечность
М (v’A)§ р^^ = 3 Р^ — (п — 1)’А)
П=171=1
равносильна сходимости ряда 2 PnVп* n—1
При формулировке теоремы 4 мы употребляем обозначения
n — а^ + а^ + . . . + ап, ‘ ^ = ^ + ^ + ... + ^.
Теорема 4. Если выполнены условия (w) и (z), существуют математические ожидания
^ (4) = а^ М {(4 - а^ (^ - 4)} = Ь^; ц j = ^ 2, и ряд
ДРп (]/№+]/№)(7)
сходится, то существует
^ {(& - Ai) $ - Ai)} = 3 рЖ-(IV)
п=1
Доказательство теоремы 4. Переходя от величин ^п к величинам *4 = 4 — 4, можно свести общий случай к случаю
М (4) = 4 = 0.(8)
Его мы и будем далее рассматривать. Положив
ф„=^п+ ^п-1 + ^-1,(9)
имеем тождественно
Хп — 44 = Ф1 + ф2 + • • • + фп-(10)
Из (8), (9) и независимости 4 от ^п_г (которая вытекает из условия (z)) получаем
м (Фп) = м (44) = ь1^ М (Хп) = В^.(И)
Подлежащее же доказательству равенство (IV) при условии (8) переходит в
M(Xv)- § РЖ.(12)
п=1
Сравнивая (10), (11) и (12) с формулировкой теоремы 2, мы видим, что (12) есть не что иное, как равенство (II), примененное к суммам
Xv = Ф1 + ф2 + ■ - • + ФУ-!
Остается проверить, выполнены ли условия теоремы 2. Специальных вычислений требует лишь проверка условия (I), которое в применении к суммам Xv пишется в виде
S Р„М(|фп|)<оо.(13)
П=1
При помощи неравенства Буняковского получаем из (9) для М (| <Pn I) оценку
М (I <р„ I) < М (| ^ |) + М (||) <
< / г» + VM + V №о (Уъж + у М).
(14) Сопоставляя (7) и (14), убеждаемся в том, что требование (13) выполнено, чем и заканчивается доказательство теоремы 4.
В частном случае ^ = ^ можно, отказавшись от векторных обозначений, писать
^П ^п == ^П> ^П ^1 Ч~ ^2^"ПЛ
Ви = 61 + Ьа + • • • + Ьи.
Тогда из теоремы 4 получается
Теорема 5. Если для последовательности случайных величин ^п выполнены условия (w) и (z), существуют математические ожидания АЛ (gn) = аП1 М (gn — а^ = Ъп и ряд 2 PnVbnBn сходится г П=1“
то существует
M(^-^v)2= § pn5„.(V)
п=1
ЛИТЕРАТУРА
Wald, A. On cumulative sums of random variables.— Ann. Math. Statist., 1944, vol. 15, p. 283—296.
Wald A. Differentiation under the expectation sign of the fundamental identity in sequential analysis.— Ann. Math. Statist., 1946, vol. 17.
Wolfowitz, J. The efficiency of sequential estimates and Wald’s equation for sequential processes.— Ann. Math. Statist., 1947, vol. 18, p. 215—2 31.
Kolmogoroff A. N. Ueber die Summen durch den Zufall bestimmter unab- hangiger Grossen.— Math. Ann., 1928, Bd. 99, S. 309—319.
Бернштейн С. H. Теория вероятностей. 4-е изд. М.; Л.: ГТТИ, 1946.
Колмогоров А. Н. Основные понятия теории вероятностей. М.; Л.: ОНТИ, 1936.
36
ЛОКАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМАДЛЯ КЛАССИЧЕСКИХ ЦЕПЕЙ МАРКОВА
В работе проводится исследование предельных распределений числа попаданий в различные состояния для цепи Маркова с постоянной матрицей вероятностей перехода.
ПОСТАНОВКА ЗАДАЧИ И ОБЗОР РЕЗУЛЬТАТОВ
Мы будем рассматривать классическую цепь Маркова, т. е. марковский случайный процесс с дискретным временем, конечным числом $ > 1 состояний
£].> ^2» • • •» ^s
и неизменными вероятностями перехода
Ра = р {8 (t 4- 1) = ер| 8 (0 = еа}(1.1)
из состояния 8 (£) — еа в момент времени t в состояние 8 (£ + 1) = ^ в момент времени t + 1. Естественно, что при этом .будут предполагаться выполненными обычные условия
^>о,5^=1.(1.2)
Если считать состояния еа единичными векторами
ех = (1, 0, . . ., 0),
е2 - (0, 1, . . .,0),(1.3)
es - (0,0, . . ., 1)
5-мерного координатного векторного пространства, то компоненты р1, р2, . . ., р8
вектора
р (0 = 8(1) + 8(2) + . . . + 8(0(1.4)
будут равны числу попаданий соответственно в состояния
в моменты времени
t' = 1, 2, . . ., t.
Таких векторных представлений мы будем придерживаться далее. При t = 0 будем считать р (0 равным нулевому вектору
р (0) = 0 = (0, 0, . . ., 0). а(1.5)
Возможными частными значениями вектора р (0 являются исключительно векторы т = (т1, т2, . . ., т8) с целочисленными компонен тами, удовлетворяющими условию
m = ^m^ — t.'(1.6)
Для любого целочисленного вектора т с т ^ 0 мы положим
Wa (т) = Р {р (т) = т | 8 (0) = еа\(1.7)
Таким образом, функция IVa (т) от векторного аргумента т содержит в себе условные распределения при s (0) = еа всех векторов ^ (/) для t = 1, 2, 3, . . . Это возможно потому, что в силу соотношения
й(0 = ХнЧ0=^(Г8)
распределения эти по существу не более чем (s — 1)-мерны. Естественно, что сумма вероятностей W^ (т), относящихся к одной и той же величине р (£), равна единице:
2ад = 1.(1.9)
m=t
В существенном все дальнейшее исследование будет посвящено выяснению предельного поведения вероятностей ТУа (т) при т -> оо. К этой задаче сводится без труда исследование предельных распределений сумм случайных величин, «связанных в цепь» (по терминологии А. А. Маркова).
Основным заслуживающим внимания случаем является тот, когда все состояния еа образуют в терминологии [1] один класс, т. е. когда выполнено условие
Для любых двух состояний еа и е^ существует последовательность состояний (еа, eVl, ^> • • •> ^» ер)> вдоль которой все вероятности перехода р^, р^ . . ., PyLv Р^к положительны.
Самый общий случай может быть редуцирован к случаю (А). Это сделано в §7.
Следующие далее леммы 1—3 верны лишь при условии (А). При их формулировке мы будем обозначать знаком Ма условные математические ожидания при гипотезе s (0) = еа. Доказательство этих лемм можно найти в [1—3]. Леммы 2 и 3, впрочем, заново доказываются в § 2 этой работы.
Лемма 1. Система уравнений
'Si^Pa^q6 (0 = l,2,...,s), q^s^q^l(1.10)
аа
имеет единственное решение.
Лемма 2. При t-^ оо
4?(f)sM,p»(i) = <g« + 0(l).(1.11)
Лемма 3. Вторые моменты
B^t) = N^№{t)-A%(t))W^^^(1.12)
ири t -> оо имеют вид
В^ ^ = t№» + О (1),(1.13)
^де постоянные Ъ^ определяются исключительно матрицей исход» них вероятностей р^
Из общих свойств вторых моментов любой системы случайных величин вытекает, что матрица || 6аР || симметрична, а соответствующая квадратичная форма
6(я) = 5 Ь^ХаХ^.(1.14)
неотрицательна. Из тождества (1.8) легко далее вывести, что
3&aY = S&V₽ = 0.(1.15)
Из (1.15) вытекает, что
ъ (ж) = ъ (^ — xY(1.16)
Поэтому форму Ъ (ж) достаточно рассматривать в (s — 1)-мерном пространстве N векторов х с
х - 0.(1.17)
Общим «невырожденным» случаем для нашей задачи естественно считать случай, когда
Форма b (х) положительна в пространстве N векторов х, Эля которых х = 0.
В силу (1.15) определитель формы Ъ^ всегда равен нулю:
| W | = 0,(1.18)
а все главные миноры матрицы || W || равны друг другу:
All = Д22 = • • • = А„ = А.(1.19)
Из неотрицательности Ъ (ж) вытекает, конечно, что всегда
Л > 0;(1.20)
условие же (В) равносильно требованию
Л>0.(1.21)
При условии (В) форма Ъ (ж) имеет в пространстве N обратную форму c^xY которую можно записать, например, в виде
/ 11
ь11
Ь21(
Ь12. .
£22. .
. bVs-l
. б2-8-1
X1
X2
(1.22)
Ь5'1-1
6s-1'2 ..
. Ъ3"1- «-1
Xs'1
ж1
ж2..
. Xs-1
0
или аналогичным образом, выделив вместо индекса s — 1 какой- либо другой индекс у.
Положив
р (х\ = —1—(1.23)
^(2лГхД
^ = W-tqW't'(1-24)
мы можем формулировать «невырожденную» интегральную предельную теорему.
Теорема 1. При условиях (К) и (В) Эля любого у и любой квадрируемой области G пространства N при £ -> оо
P{^(^)^G|e(O) = eY} —>^ p^dx,(1.25}
G
где
dx = \Г sdxydx^ . . . dx8_T(1.26)
обозначает объем в пространстве N.
Эта теорема доказана в § 4.
Однако, чтобы сформулировать наиболее простую локальную предельную теорему, мы должны еще произвести некоторый дополнительный анализ возможных направлений перехода из состояния в состояние.
Будем называть цепочкой последовательность состояний
(eYo> ^ii • \ ••> e^i(1.27)
для которой все вероятности перехода
№, Р^ Р^ • • •. Р^-г
положительны. Цепочку (1.27) будем называть циклом, если
То = %•(1-28}
Назовем, далее, s-мерный вектор z циклическим, если существует такой цикл (1.27), что
2 = ^ + #у, + • • • + в^.(1.29)
Назовем, наконец, основной решеткой множество всех векторов т, представимых в виде
т = а^ + а^ + . . . + auzu,(1.30)
где zx, z2, . . ., zn — циклические векторы, а аг, аг, . . ., а^ — произвольные целые числа (число слагаемых п тоже произвольно). Основную решетку будем обозначать через Z. Очевидно, что Z состоит исключительно из векторов с целочисленными компонентами и образует группу относительно сложения. Нужное нам дополнительное условие формулируется теперь так:
Основная решетка Z совпадает с множеством Q всех целочисленных векторов s-мерного векторного координатного пространства.
Из результатов § 6 и 7 вытекает, что совокупность условий (А) и (С) необходима для того, чтобы предельное поведение вероятностей W^ (т) не зависело» от индексов у. Таким образом, случай соблюдения обоих этих условий является единственным, в котором можно рассчитывать на получение идеально простой по формулировке локальной предельной теоремы. Это заставляет считать в известном смысле вполне окончательными результаты § 3 и 5:
Следствие 3 леммы 10 (§ 3). Из условий (А) и (С) вытекает условие (В).
Теорема 3 (§ 5). Если выполнены условия (А) и (С), то при т -> оо независимо от выбора индексов у
Wx(m)1е-*М=\(1.31)
/(гл^^д
где
х = (т — mg)/y т.(1.32)
Представляется крайне интересным вопрос, на' который мы не имеем пока ответа: не являются ли в предположении, что условие (А) выполнено, условия (В) и (С) равносильными? Если бы ответ на этот вопрос был положительным, то условия применимости локальной теоремы 3 и приведенной выше интегральной теоремы совпадали бы .
В § 6 полностью разобраны осложнения, возникающие при сохранении условия (А) от нарушения условия (С). Как уже упоминалось выше, в § 7 рассмотрен случай нарушения условия (А). Формулировки результатов этих параграфов несколько сложнее, однако
вопрос о предельном поведении вероятностей W^ (т) по существу разрешен в них в самом общем случае с той же полнотой, как и для случая соблюдения условий (А) и (С).
МЕТОД ДЕБЛИНА
Локальные теоремы, составляющие основное содержание настоя- щей^аботы, будут получены в § 5 и 6 при помощи некоторого усиления метода, который был развит Деблином для доказательства интегральной предельной теоремы в случае бесконечного числа состояний [4]. Для того чтобы сделать ясным развитие метода, мы выделяем в этом параграфе краткое изложение метода Деблина в той его- первоначальной форме, в которой он годен лишь для доказательства интегральных теорем.
Изложение в этом параграфе будет кратким, так как излагаемые здесь результаты можно считать в существенном известными. Условие (А) здесь, как и в § 3 —6, будет предполагаться выполненным без особых о том упоминаний. Кроме того, во всем этом параграфе индекс у будет считаться фиксированным и будет предположено, что
6 (0) = ^.(2.1)
Условные вероятности и математические ожидания при этой гипотезе будут обозначаться через
Р U | 6 (0) — ^Y} - Pv (А), М {£ | е (0) - е^ = М. (Е).
Пусть
0 = т (0) <т (1) <т (2) < . . . <т (п) < . . .
— последовательность всех тех моментов времени t, в которые наблюдается состояние еТ Будем обозначать при п ^ 1
(ft) = ji (т (ft)) — р, (т (ft — 1)),(2.2)
X (ft) = 6 (1) + 6 (2) + . . . + 6 (ft) - ji (т (ft)).(2.3)
При ft = 0 положим
X (0) = 0.(2.4)
Компоненты 6а (ft) вектора 6 (ft) обозначают число попаданий в состояние еа в моменты времени t, удовлетворяющие неравенствам
т (^ — 1) < t < т (ft),
т. е. между (ft — 1)-м и ft-м возвращением в исходное состояние eY (включая самый момент п-го возвращения). Очевидно, что всегда
6? (ft) = 1,(2.5)
а для сумм X (ft)
= ft.(2.6)
В основе метода Деблина лежит простое замечание: случайные векторы 6 (тг) взаимно независимы и одинаково распределены. Благодаря этому обстоятельству к суммам X (тг) можно применять предельные теоремы, установленные для сумм независимых слагаемых. Соотношение же (2.3) позволяет переходить от сумм X (тг) к суммам ц (£). Мы изложим далее два варианта этого перехода: один опирается на лемму 6 и дает наиболее точные результаты при оценке вторых моментов’ В^ (t), второй опирается на лемму 7 и удобен при выводе интегральных предельных теорем. В [1] доказана
Лемма 4. Величины 6а (тг) имеют конечные математические ожидания
а* = Му6« (д) = qa^e
(2.7)
В силу независимости слагаемых 6 (ji) MYXa (п) = па^,
(2.8)
.а в силу тождества
т (%) = X (ji)
(2.9)
из (2.7) и (2.8) получается
(2.10)
Методами [1] легко доказывается
Лемма 5. Существуют такие постоянные С и D ^
> 0, что при
.любом к для 8 (п) = х (п) — т (п — 1) выполняется неравенство
Р {'б (тг) > &} < Се”^.
Из леммы 5 вытекает
Следствие. Вторые моменты
(2.11)
Ъ^ = Mv {(6“ (тг) — а“) (6Р (тг) — а?)} конечны.
Подобно (2.8) для вторых моментов Ха (тг) получаем
(2.12)
м7 {(Х“ (тг) — п^ (ХР (п) — п^ = nb”6.
(2.13)
Пусть т^ обозначает наименьшее из чисел т (тг), которое v (0 — соответствующий номер п.
Положив‘
> #, а
X (Z) = X (vt) = ц (тг) = 2 6 (тг), люлучим
(2.14)
У = V,,
(2.15)
Xf = Т/.(
(2.16)
Вполне аналогично лемме 5 доказывается
Лемма 6. Существуют такие постоянные С и D ^ при любом к выполняется неравенство
> 0t что
PY {| tt — t | > к} < Ce-kD.
(2.17)
Так как всегда
| и« (/) - и« (П |<Н — f |, то из (2.17) вытекает, что
(2.18)
РИН” - И“ W | > к} < Се-№.
(2.19)
К суммам со случайным индексом V/
Х,= 2 6(п) П=1
применимы известные тождества Вальда (об условиях их примени
мости см. [5]), в силу которых справедливы соотношения
MYX“ = a”Mv(v(),
MY {(X? - Mta^ (X? - vz4)) = tf^ ^t\
Из (2.16) й (2.20) получаем
МуТ< = MY (v<) ^ aY = ■ v7' .
(2.20)
(2.21)
(2.22)
В силу леммы 6 при t ->■ оо
Myt( = t + О (1).(2.23)
Из (2.22) и (2.20) получаем поэтому, что при
Mvv, = ф1 + О (1),(2.24)
MYX? = £ + О (1).(2.25)
Неравенство (2.19) позволяет из (2.25) извлечь
М7Иа (() = qat + о (1).(2.26)
Мы получаем новое доказательство леммы 2, сформулированной в 8 1
Заметив, что тождественно
^т^=^ - v,a“) -q^ (X?- v, а^
ф
получаем далее при помощи (2.21)
мН(^-т^)(Х^=
= му (V,) [&“-3 - 3 №^ф + ^bf) + з Wy^l • фф»
(2.27)
(2.28)
Лемма 6 позволяет в (2.28) при £ —> оо с точностью до О (1) заменить левую часть равенства на .
В?^ = ^^^- АМ^^^-А»^(1.12)
Вместе с (2.24) это приводит к формулам
В^ ^ = ^ 4- о (1),(1.13)
где
ЬаВ = ^ [^ _ ^ ^^ _,_ 9аЬФР) + ^(2.29)
фф, ф
Мы доказали, таким образом, лемму 3 из § 1, выяснив дополнительно связь коэффициентов Ъ^ с моментами Ь^ (содержащееся в лемме 3 утверждение о независимости Ьа^ от индекса у надо доказать отдельно, но это в силу принятого нами условия (А) не представляет затруднений).
Отметим здесь, хотя оно и не понадобится нам далее, обращение а формул (2.29):
6“Р = А (Ь^ — а^№ — а^Ъ^ + a”a^vv). -(2.30)
Введем в рассмотрение векторы г П
mm=V4^w-^(»)9]=-A Умм,(2.31)
где
А (п) = Уq^ [6 (п) — 6 (ft) qA.(2.32)
При помощи (2.7), (2.12) и (2.29) получим .
MYAa (ft) = М7т)» = 0,(2.33)
MYAa (л) Д$ (ft) = М^ц» (ft) цР (ft) = Ъа^.'(2.34)
Так как A (ft) независимы и одинаково распределены, то в силу (2.33) и (2.34) векторы ц (ft) в пределе при п -> оо подчиняются гауссовскому распределению, соответствующему матрице вторых моментов || Ьа& ||. Применяя к суммам
SAW
К=п*
известное усиление неравенства Чебышева (см. [2, с. 154]), легко доказать такое предложение..
3 (2.30) можно доказать непосредственно аналогично приведенному в тексте доказательству (2.29), исходя вместо (2.27) из тождества
К? - v, а« = (X? - tg«) - «“ ^-tq»),
которое очевидно в силу (2.15).
Лемма. Если при п -> оо случайная величина vn, принимающая только натуральные значения, удовлетворяет условию
I vn — П I < С/п,
где о — некоторая постоянная, то при любом ^ ^> О
Ру {I Т] (v^) — Г) (тг) I > 7г-} —>-0,(2.35)
когда п-> оо.
Для перехода от векторов ц (п) к векторам
I (О = (н (О - Wi,(1-24)
введенным в § 1, служит теперь
Лемма 7. Если nt есть целая часть от tq^, то при любом Я> О
Р7{1Н0-П(^)|>Я}^0,(2.36)
когда t -> оо.
При доказательстве леммы 7 можно совершить переход от £ (О к 1] (£) через посредство векторов £ (т<) и
4(v<) = К^7?7^(т<)-■(2-37)
Для оценки V; следует при этом использовать соотношение
MY ^t — T^Y)2 = b^t + О (1),(2.38)
которое получается из (2.24) и (2.28), если в (2.28) положить а = = 0 = Т
В силу леммы 6 из (2.28) вытекает, что при достаточно больших С и t вероятность
pv (I vf — nt I > С /nJ
делается сколь угодно малой. Это позволяет применить соотношение (2.35), положив в нем h, = ^дЯ, и написать
py {I П (v<) — ц (п^ | > 1/3Я} -> 0 при t -^ оо.(2.39)
Из леммы 6, (2.38), определения nt и (2.37) вытекает, что
py fl I (т<) — т] ^ | > ^дЯ} -> 0 при t -> оо.(2.40)
Наконец, в силу леммы 6
PY fl £ (0 ~ £ Си) I > ^дЯ} -^- 0 при t-^ оо.(2.41)
Соединяя (2.39)—(2.41), получаем (2.36).
Применение леммы 7 к выводу интегральных предельных теорем будет изложено в § 4.
§ 3ЦИКЛИЧЕСКИЕ ВЕКТОРЫ И ОСНОВНАЯ РЕШЕТКА
Кроме вероятностей PKY (ш), нам понадобятся еще вероятности
W^ (m) = PY {|л (m) = тп, е (m) = еа}.(3.1)
W^ (т) есть условная вероятность при гипотезе е (0) = ^Y совмещения двух событий:
в моменты времени t = 1, 2, . . ., т попасть по тР раз соответственно в состояния (Р = 1, 2, . . ., s) и
в заключительный момент t = т попасть в состояние еа.
Для нулевого вектора т = 0 положим
Очевидно, что вероятности PTY (тп) выражаются через вероятности W^ ^гп) по формуле
W^ — ^W^my(3.3)
а
Специальный интерес имеют вероятности TVY (тп) с совпадающими верхним и нижним индексами. Через них можно выразить распределения вероятностей векторов X (п), рассмотренных в предыдущем параграфе:
PY {X ^т^ — т^ — PKY (тп).(3.4)
Так как всегда
XY (и) = и,(3.5)
то распределение X (и) при гипотезе е (0) = eY полностью определяется значениями И^ (тп) с тУ = п и при любом и > 0
3 ^(тп)=1.(3.6)
т^=п
Очевидно, что для любого циклического вектора z, для которого zY 2> 0, имеет место неравенство
Ж? (z) > 0.(3.7)
Легко видеть, что и обратно: если при каком-либо у имеет место неравенство (3.7), то вектор z циклический .
Особое значение имеют для нас циклические векторы с zY = 1* Они и только они являются значениями векторов б (п), которые (естественно, при гипотезе е (0) = еа) имеют положительную вероятность. К ним относится
Лемма 8. Минимальная аддитивная группа векторов, содер- ^сащст все циклические векторы с ^ = 1, совпадает со всей основной решеткой Z.
Для доказательства леммы достаточно установить, что любой циклический вектор z может быть представлен в виде линейной комбинации с целыми коэффициентами циклических векторов 2 0^ = 1. С этой целью рассмотрим три случая:
если ^ = 1, то наше утверждение уже доказано;
если zY > 1, то порождающий вектор z цикл можно разбить на zY циклов от попадания в е^ до ближайшего (вдоль по циклу) следующего попадания в ^ и вектор z представится в виде
Z = ZT + Z2 + . . . + Z^y, где векторы z^ соответствуют частным циклам;
если zY = О, т. е. порождающий z цикл
(^Yo> ^Yp • • •’ ^Yo)
совсем не содержит е^ то в силу допущения (А) можно найти цепочки
(^у, еа1, е^, ..., eav ^у0)>(^Yo» ^₽i» ^р2» • • •> е^, fy)'
Можно выбрать эти цепочки так, чтобы они содержали е^, только первая — в виде первого элемента, а вторая — в виде последнего., Тогда цепочки
(^Vo» ^Vp е е е> ^Yo» ^₽i> * е е> ^Pj? ^Y> ^«Р • • •> ^«р ^Yo)»
(^Yo» ^Рр е е ’> ^Pj> ^V> ^Otp • • •> ^«p ^y0)
будут циклами, а для соответствующих им циклических векторов zi и z2 получим
21 — Z2 = Z, 4 = 1, Z 2 = 1.
Доказательство леммы, таким образом, закончено.
Обозначим через £ минимальное линейное подпространство s-мерного векторного пространства, содержащее все циклические векторы (а следовательно, и всю основную решетку Z). Размерность г этого пространства будем называть рангом рассматриваемой цепи Маркова.
Пересечение £ с ($ — 1)-мерным пространством N векторов х с ^ = 0 обозначим через £0. Так как £ заведомо не содержится в N (существуют циклические векторы z с z )> 0), то размерность £ рав- на г —- 1.
Лемма 9. Пространство £ совпадает с линейной оболочкой значений векторов 6 (п), имеюгцих (при гипотезе е (0) = е^ положительную вероятность, а пространство £0 — с такого же рода
линейной оболочкой возможных значений векторов
А (?г) = ]Л^ [6 (тг) — б (п) д].(2.32)
Первая часть леммы 9 непосредственно вытекает из леммы 8. Доказательство второй части можно осуществить так:
1. Из леммы 4 и первой части леммы 9 вытекает, что вектор q принадлежит пространству £^
, 2. Легко проверить, что А (п) = 0. Поэтому возможные значения А (п) входят в 2.
3. Так как возможные значения
6^=~j^"A^+5^?
порождают все пространство 2, получающееся присоединением к 20 не лежащего в 20 вектора q, то возможные значения А (п) порождают все пространство g0-
Так как
MVA (и) = 0,(2,33)
MvAa (тг) АР (п) = Ь^,(2.34)
то из леммы 9 почти непосредственно вытекает
Л е м м а 10.
(0 для х F— 2о,
&W п ло(3-8)
х (= и для х^ ортогональных к 2о«
Лемма 10 приводит нас к следующим выводам (некоторые из них уже упоминались в § 1):
Следствие 1. Ранг матрицы 1| Ьа$ || равен г — 1.
Следствие 2. Условие (В) равносильно условию
(BJ г = s.
Следствие 3. Из условия (С) вытекает условие (В).
В заключение этого параграфа мы покажем, что определение основной решетки Z и проверка условия (С) являются чисто арифметическими задачами, допускающими простое алгоритмическое решение. Легко видеть, что при определении циклов достаточно рассматривать вместо матрицы || ра || матрицу || 9а ||, где
е£=е£=1 при Ра>0, 0 при Ра = 0.1 при Ра>0, 0 при Ра = 0.(3.9)(3.9)
е£=
е£=
1 при Ра>0, 0 при Ра = 0.
1 при Ра>0, 0 при Ра = 0.
(3.9)
(3.9)
Последовательность
(^Vo’ в^, • • м б^^^ бу*)
будет циклом в том и только в том случае, если
(ЗЛО)(ЗЛО)Л 71 nV2 __ ПТо А
(ЗЛО)
(ЗЛО)
Уто — UYiиТ^-1 —
Цикл будем называть простым, если он содержит каждое состояние не более одного раза. Соответствующие простым циклам простые циклические векторы характеризуются тем, что для них всё компоненты не превосходят единицы:
zaza(3.11)
za
za
Так как простых циклов конечное число и все они могут быть легко найдены, то следующая лемма делает определение основной решетки вполне эффективным.
Лемма 11. Все векторы т из Z представимы в виде (1.30) с простыми циклическими векторами z^.
Для доказательства достаточно заметить, что любой цикл, в котором какое-либо состояние встречается более одного раза, может быть разбит на два цикла. Повторяя такое разбиение, можно любой цикл разбить на простые циклы.
Пусть
/1» At - • ч fh
есть система всех простых циклических векторов. Из сказанного выше непосредственно вытекает
Лемма 12. Решетка Z есть минимальная аддитивная группа, порождаемая векторами fT, f2, . . ., fn, а пространство 8 есть линейное замыкание этой системы векторов. Ранг г марковского процесса равен рангу матрицы■
а условие (С) равносильно условию
(СЦ Ранг матрицы || fg |] равен s, а общий наибольший делитель определителей s-го порядка, которые можно образовать из ее строк Ugi fg, • - -, fg), равен единице.
Пример . Пусть s = 5 и
Легко проверить, что простые цгклы здесь имеются только из трех или четырех состояний. Вот полная их таблица:
(^1> ^25 ^з» ^1)>(еь е6, е3, е^(^1> ^25 ^з» ^1)>(еь е6, е3, е^h = (11100)А = (10101)h = (11100)А = (10101)
(^1> ^25 ^з» ^1)>
(еь е6, е3, е^
(^1> ^25 ^з» ^1)>
(еь е6, е3, е^
h = (11100)
А = (10101)
h = (11100)
А = (10101)
(^2?
^3>
54,
53)
/з —
(01110)
(^3>
^4»
вы
53)
/4 =
(00111)
(^П
^41
53> ^1)
/б =
(11110)
(^1>
^4,
еб>
«3, 51)
/в =
(10111)
(^1,
561
^2»
53, 51)*
А =
(11101)*
(^2?
^3»
56, 52) *
/з =
(ОНИ) *
Справа приведены соответствующие циклам векторы fg. Так как оп
ределитель
то г = 5 и условие (С) выполнено.
Если в матрице || 0а || этого примера 01 = 1 заменить на 01 = 08 то из простых циклов fg сохранятся только первые шесть и можно будет подсчитать, что ранг понизится до г = 4.
§ 4
ИНТЕГРАЛЬНЫЕ ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ
В силу леммы 10 распределение векторов А (п) и ц (п) полностью сосредоточено на пространстве 8. Так как форма Ъ (я) на этом пространстве положительна, то при п -> оо в пределе ц (п) подчиняется соответствующему форме Ь(^) невырожденному на £0 гауссовскому распределению. Плотность вероятности этого гауссовского распределения мы обозначим через р(х). В силу леммы 7 из сказанного вытекает
Теорема 2. При условии (А) для любого у и любой области в пространстве G, у которой пересечение границы с пространством £0 имеет в £0 меру нуль, при t -> оо
Pv{§(0eG}-» $ p^dx,(4.1)
GA£0
где dx — элемент объема в £0.
В частном случае соблюдения условия (В) пространство £0 совпадает с N и из теоремы 2 получается теорема 1, сформулированная в § 1.
§ 5
ОСНОВНОЕ ТОЖДЕСТВО
И ЛОКАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМАВ НЕВЫРОЖДЕННОМ СЛУЧАЕ
Видоизменение метода Деблина, позволяющее сводить локальные предельные теоремы для цепей Маркова к локальным предельным теоремам для независимых слагаемых, основано на следующем тождестве:
w4^= 3 w^m-w^Ylv=ow4^= 3 w^m-w^Ylv=o(5.1)(5.1)
w4^= 3 w^m-w^Ylv=o
w4^= 3 w^m-w^Ylv=o
(5.1)
(5.1)
Суммирование в правой части распространяется на все целочисленные векторы Z с неотрицательными компонентами, удовлетворяющими условиям
(5.2)(5.3)(5.2)(5.3)I» < тпа, F = 0.
(5.2)
(5.3)
(5.2)
(5.3)
Тождество (5.1) с вероятностной точки зрения очевидно.
Легко подсчитать, что сумма вероятностей W^ (I) по всем векторам I, удовлетворяющим условию (5.3), равна
(5.4)(5.4)5 w4^=^^=-L.
(5.4)
(5.4)
При дополнительном ограничении (5.2) эта сумма может сделаться несколько меньше, но в силу абсолютной сходимости ряда (5.4) такая урезанная сумма стремится к 1/^Y, когда все пг^ неограниченно возрастают.
Если выполнены условия (А) и (С), то в силу леммы 8 минимальная аддитивная группа, порождаемая имеющими положительную вероятность (при гипотезе 8 (0) = eY) значениями векторов 6 (п), состоит при любом у из всех целочисленных векторов. Что касается разностей возможных с положительной вероятностью значений векторов 6 (п), то для них всегда = 0 (так как для самих возможных значений 6 (п) всегда mY = 1), т. е. они содержатся в группе V? всех целочисленных векторов m с ту = 0. Легко видеть, что на самом деле они порождают всю эту группу: если бы векторы
wi — тп0, тп2 — т0, . . ., т^ — т^ . . ., ( .
гДе тп0, щ^ . . ., тп^, . . .— все возможные значения 6 (п), порождали не всю группу QNl а лишь ее собственную подгруппу, то после присоединения одного вектора т0 они не могли бы породить всю гРУппу (2, между тем группа, порождаемая векторами
^О’ 7ПХ — т^ т2 — т0) . . ., т^ — т^ . . .$
очевидно, совпадает с группой, порождаемой векторами
/по, m^ т21 . . ., mKl . . .,
т. е. в силу допущения (С) с полной группой целочисленных векторов Q. В силу сказанного имеет место
Лемма 13, При условиях (А) и (С) минимальная группа^ порождаемая разностями возможных значений векторов 6 (п), совпадает с группой Q^ всех целочисленных векторов т с т^ = 0.
Из леммы 4, следствия из леммы 5 и леммы 13 при помощи локальной предельной теоремы [6], примененной к суммам
X (п) = 6 (1) + 6 (2) + . . . + 6 ^ получается
Лемма 14. Если выполнены условия (А) и (С), то при т^ —> оо
(mv)H/^ (m) = рм (у) + о (1),(5.5)
где
!т — m^qjq^
Рч ^у) — гауссовская плотность вероятностей в пространстве Q^, соответствующая нулевым средним значениям и матрице дисперсий J Ь^11> а оценка остаточного члена действует равномерно при
. [ та — m^g^lg^ | <С Ут^(5.7)
с любым фиксированным С.
. Если обратить внимание на то, что при условии (5.7) и тУ —>оо т^ ~ mq^,
то (5.5) можно записать в виде
(т} 2 ^(m) = (gv) 2 pY(y) + o(l).(5.8)
Эту оценку следует теперь применить к W^ (т — I) в формуле (5.1)# Тдк как в силу сходимости ряда (5.4) в правой части (5.1) можно при т -> оо ограничиться членами, для которых отношения
(та —, 1а)!т*
сколь угодно близки к единице, то из (5.1), (5.4) и (5.8) получаем при m —> оо
• ^v^^^f- '/+1.
■ ^ 2 И\ (т) = (^) 2 pY (у) 4- о (i),(5.9)
где ограничение (5.7) можно заменить ограничением
| та — mq^ | < С Ут. -(5,10)
Так как при т оо и ограничении (5.10)
т— та1,- х
(5.11),
X—1\УУ У),
у^Уч;!<х — x»q!q^,
(5Л2)
то (5.9) можно переписать в виде-
8—1 s+1
тй" Wv (m) = (pv) ~р^ [у дч (^_ x^q/q^ + о (1).
(5.13)
Формула (5.13) действует равномерно при ограничении (5.10). Этого достаточно, чтобы из сопоставления с интегральной теоремой 1 получить 5
Рч [ V^ (ж — ^W)] = /$ р (ж).(5.14)
Окончательно результат проведенных в этом параграфе рассуждений формулируется так:1
Теорема 3i Если выполнены условия (А) и (С), то при f^r* оо для любого у.
(®)(»-1)/2ТРу (w) = уЦ Р (х) 4- о (1)(5.15)
равномерно при условии (5.10).
СЛУЧАЙ НАРУШЕНИЯ УСЛОВИЯ (С)
В этом параграфе мы сохраняем условие (А), но отбрасываем: условие (С). Так как теперь основная решетка Z не совпадает с.нолнрй решеткой Q всех целочисленных векторов, то естественно рассмотреть вычеты Q по Z. Более подробно это означает следующее. Два вектора тг и т2 будем считать .сравнимыми по модулю Z, если
m-L — m^eZ.(6.1)
Все векторы с целочисленными компонентами разбиваются на классы векторов, сравнимых по модулю Z. Эти классы и будут вычетами по Z.
■ Лемма 15. Векторы т, для которых при фиксированный а и р
И(пг)>0,.(6.2И
сравнимы между собой по модулю Z.
‘ Можно высказать лёмму 15 и так:
Равенство (5ЛЗ) можно, конечно, доказать непосредственно из соотношений между моментами Ъ^ и Ъа^. Тогда доказательство формулируемой ниже лог ( кальной теоремы 3 сделалось бы независимым от. интегральных теорем. Такое более, последовательное с алгебраической стороны изложение было бы, (^днако, несколько громоздко. Множитель в (5.14), как уже было указано в § 1,. связан с тем, что • целочисленные ’ точки в - А расположены с йлЫ'йос'тыб1!/^.
Лемма 15'. Все векторы т, для которых имеет место неравенство (6.2), входят в один и тот же вычет по модулю Z. Вычет этот, мы будем обозначать через D^.
Для доказательства леммы 15 допустим, что РК» (т^ > 0 и Wa (^2) ^ 0. Тогда существуют цепочки
(^а, ^фр ^Ф2> • • -1 ^ — £р)>(^а> ^^7 ^гр2» • •е^. = 2(0»
для которых
^ + еФ2 + • • • + ^ = ^1»^г^ + ^г|)2 + .. . + е^ = тй.
В силу условия (А) существует цепочка е^ е^ еъ, . . ., е%к = = еа. Легко видеть, что
(^а> ^фр £ф2> • • •> ^ = ^3> ^х^ ^Х2> • • •> eXk = ea)i
(^аэ ^^j ^-ф2> • • •> е^- = ^ ^Хр еХ2’ • • •’ ^Х^ = ^а)
суть циклы. Соответствующие циклические векторы обозначим через Zi и z2. Так как тх — т2 = ^ — z2 ЕЕ Z, то лемма доказана.
Легко видеть, что всегда 6-
D^ = Z,(6.3)
D»+D1 = DL(6.4)
Из общей локальной предельной теоремы [6] вполне аналогично лемме 14 получается
Лемма 16. Если выполнено условие (А) и г > 1, то при тЛ —оо
—( 0при m^Z,
(mv)2^(m)=Р'(6.5)
кI o)Ypv(</) + о(1) при m^Z,v
ш-mW(5б)
оценка остаточного члена действует равномерно при
\ma — m'iqaITi\<.Cy:m3,(5.7)
Py (у) есть гауссовская плотность, соответствующая в пространстве £Y векторов у ^ 8 с z/Y = 0 нулевым средним значениям и матрице вторых моментов || Ъ^ ||, a o)Y есть плотность расположения точек из Z в пространстве Й^.
Формулу (6.5) можно, подобно тому как формула (5.5) была заменена формулой (5.8), переписать в виде
^^тГуЖ^(7п) = (^)_~р7(у) + о(1)..(6.6)
. 6 Вычеты складываются по обычным в алгебре правилам.
Для каждого вычета D в группе Q по модулю Z обозначим через ^v (D) сумму всех И\ (Z) с V» = 0 и I S D:
= з W^iy(6.7)
В соответствии с (5.4)
Ум^=4г-<6-8>
Так как
и\(0=Зи^(0,(3.3)
то в силу леммы 15 /у (D) положительно лишь для тех D, которые совпадают с каким-либо Dy, т. е. лишь для конечного числа вычетов D.
Из (6.6), (5.1) и (6.7) подобно формуле (5.9) выводится, что при mY-^ оо и условии (5.7) для «г, принадлежащих вычету D,
(6.9)(6.10)(6.11)(6.9)(6.10)(6.11)(т) 2 Wy(m) = ^)2 tov/v(Z))pv(y*) + o(l),
(6.9)
(6.10)
(6.11)
(6.9)
(6.10)
(6.11)
где
m* — m^q!^
”*=
m* — m — Udi
up — некоторый фиксированный вектор D.
Легко проверить, что z/* G Sy. Замена вектора у на этот вектор у* необходима, так как у может не принадлежать Sy и для него плотность р (у) будет тогда не определена.
Из (6.9) вполне аналогично выводу теоремы 3 в § 5 получается
Теорема 4. Если выполнено условие (А) и г > 1, то при m оо для т из вычета D
(т)^™ Wy (^ = ^ (jD) р {х^ + 0 (1),(6.12)
где 7
(6.13)(6.13)ж* = (т* — т^/У" т,
(6.13)
(6.13)
<о есть плотность расположения точек решетки Z в пространстве Йо» р (^) есть гауссовская плотность в £0, соответствующая нулевым средним значениям и матрице вторых моментов || W ||, а оцен- На о (1) действует равномерно при условии
I та — mqa | < С Ут. (5.10)
Определение х* зависит от выбора векторов uD в (5.7), но, так как /Y (D)> 2> 0 лишь для конечного числа вычетов D, этот произвол никак не отражается на предельных теоремах. .
§7■
.СЛУЧАЙ НАРУШЕНИЯ УСЛОВИЯ (А)
В самом общем случае множество состояний еъ е2, . . ., es распадается на некоторое число «классов» КХ1 К^ . . ., Кп «существенных» состояний и на множество R «несущественных» состояний (см. [1]); В пределах каждого класса Ki выполнено условие (А); переходы из состояния еае Кг в состояние ер ЕЕ Kj при г #= / невозможны, так же как и переходы из состояния, принадлежащего одному из КЛ) в состояние из R; из состояний еа ЕЕ R всегда существует возможный переход за какое-либо число шагов в состояние хотя бы одного из классов К^ Переходы последнего ряда, очевидно, безвозвратны: попав в состояние класса К^ рассматриваемая система уже не может выйти из состояний этого класса.
Пусть К есть соединение всех классов К^ Для еа Е ^ обозначим через Qa множество целочисленных векторов иг с неотрицательными компонентами, удовлетворяющими условиям •
та = 1, тР = 0 при р ^ а$ р Е ^.(7.1)
Так как из любого состояния е^ ^ R рано или поздно происходит переход в какое-либо состояние ер ЕЕ К, то имеет место
Лемма 17. Если е^ ЕЕ 7?^ то
5 3 W”(m)=l.(7.2)
аеК mefia
Рассмотрим следующие разновидности векторов т с неотрицательными целочисленными компонентами:
Мг — у вектора т все компоненты та с еа ЕЕ К равны нулю;
М" — у вектора т имеются компоненты та > 0 с е% принадлежащими более чем одному классу К^
Mi — у вектора т имеются компоненты та > 0 с еа ЕЕ К^ но не компоненты 0 с еа Е К^] ^ i.*
Подобно леммам 5 и 6 доказывается
Лемма 18. Существуют такие постоянные С и D > 0, что при любом у и любом т ЕЕ М''
. WN^<Ce^D..(7.3)
Исследование предельного поведения: W^ (т) при т -> оо заканчивается ' теперь без труда:1
Если т ЕЕ М*, то применима лемма 18.
Если т е М", то при любом у
WY (т) = 0.(7.4)
Если т е М^$ то1 т однозначно представляется в виде
т = тг -V m2t(7.5).
где тпх S М', а т2 имеет компоненты т^ > 0 лишь при е“ ЕЕ К^. Тогда
ИД(т) =3 ^(mi + еа) Wa(m2 — еа),(7.6)
аек^ та>0
исследование же предельного поведения вероятностей Wa (т2 — еа) осуществляется при помощи теоремы 4, так как в пределах класса К выполнено условие (А).
15 марта 1949 г.
ЛИТЕРАТУРА
Колмогоров А. Н. Цепи Маркова со счетным числом возможных состояний. — Бюл. МГУ. Математика и механика, 1937, т. 1,вып. 3,с. 1—16.
Бернштейн С. Н. Теория вероятностей. 4-е изд. М.; Л.: ГТТИ, 1946.
Frechet М. Recherches theorique modernes sur la theorie des probabilites.
Paris, 1937.-•
Doebltn W. Sur deux problemes de M. Kolmogoroff concernant les chaines denombrables.— Bull. Soc. math. France, 1938, vol. 66, p. 210—220.
Колмогоров A. И., Прохоров Ю. В. О суммах случайного числа случайных слагаемых.— УМН, 1949, т. 4, вып. 4, с. 168—172.
Мейзлер Д. Г., Парасюк О. С., Рвачева Е. Л. Многомерная локальная предельная теорема теории вероятностей.— ДАН СССР, 1948, т. 60, с. 1127— 1128.
37
РЕШЕНИЕ ОДНОЙ ЗАДАЧИИЗ ТЕОРИИ ВЕРОЯТНОСТЕЙ,СВЯЗАННОЙ С ВОПРОСОМО МЕХАНИЗМЕ СЛОЕОБРАЗОВАНИЯ
А. Б. Вистелиус и О. В. Сарманов обратили мое внимание на одну математическую задачу, которая им встретилась при статистическом изучении мощностей слоев в геологических отложениях. Рассматривавшаяся ими схема слоеобразования может быть понята из примера, изображенного на рис. 1. По горизонтальной оси здесь откладывается время, а по вертикальной — мощность накоплений и размывов. Слой с номером п откладывается в промежуток времени М^п-Б s^ и имеет (до последующих размывов) мощность ^ = gn — — ^-i- В промежутки времени (sn; t^ происходят размывы на глубину Чп =■
В результате такого чередования накоплений и размывов некоторые слои могут размываться несколько раз (слой 1 размывается два раза — при первом и втором размывах), а некоторые могут и совсем
Рис. 1
исчезнуть (слой 2 полностью смывается при втором размыве). Если считать, что в среднем мощности накоплений больше, чем глубины размывов, то каждый слой будет подвергаться значительному риску быть размытым лишь в течение небольшого числа следующих за его образованием чередований накоплений и размывов. Это позволяет говорить о вероятности «окончательного» сохранения слоя и об условном распределении вероятностей «окончательных» мощностей сохранившихся слоев. Именно эти условные распределения и следует сопоставить с фактически наблюдаемыми статистическими распределениями имеющихся в каком-либо разрезе слоев по мощности. По данным А. Б. Вистелиуса, эти последние часто имеют типичную форму распределений резко асимметричных и как бы «урезанных» слева на нулевой абсциссе. *
Обозначим 6П = %п — Чп = Ьп — hn-i разность между первоначальной мощностью n-го слоя и глубиной непосредственно следующего за его возникновением размыва. При дальнейших математических построениях мы будем предполагать заданной бесконечную последовательность случайных величин 61? 62, . . ., 6П, . . . и сделаем следующие допущения: 1) случайные величины бп взаимно независимы и имеют один и тот же закон распределения Р {бп < я} = G(x);
математическое ожидание М = MSn = ^ xdG (х) положительно;
распределение величин 6П непрерывно, т. е. выражается через соответствующую плотность вероятности g (ж) по формуле
G(x) = § g(x)dx.—ОО
Третье допущение могло бы быть совсем снято за счет некоторого усложнения дальнейшего аналитического аппарата. Но ввиду при-
кладного значения задачи мы не сочли уместным загромождать изложение употреблением интегралов Стилтьеса. Второе допущение гарантирует \ что суммы ^ = 6П + 6п+1 + . . . + 6п+г при неограниченном возрастании второго индекса будут стремиться к + оо и поэтому нижние грани фп = inf (^0), ^, . . ., ^\ . . .) будут конечны и будут достигаться при каком-либо (зависящем от случая) конечном номере г.
Легко видеть, что слой с номером п в случае фп ^ 0 полностью размывается, в случае же фп > 0 от него сохраняется окончательная мощность фп. Поэтому задача сводится к определению вероятности р = Р {фп > 0} и условного распределения величины фп при гипотезе фп )> 0. Из допущения 1) ясно, что как вероятность р, так и указанное сейчас распределение не зависят от. номера п.
Из допущения 3) можно вывести, что распределение случайных величин фп непрерывно, т. е. может быть охарактеризовано некоторой плотностью вероятности / (ж). Очевидно, что р — § f (я) dx, а •о
условное распределение фп при гипотезе фп > 0 задается плотностью вероятности
/* (ж) = / L^ip при х > 0,/* (ж) = 0 при х < 0.(1)
Чтобы найти /* (ж) и р, достаточно знать функцию $(#)=/ (х),р.
f* определится тогда формулами (1), а р вычислится по формуле *
р = 1: ^ s^dx.(2)
Теорема. При допущениях 1), 2), 3) функция s (h) — / (x)lp (—оо <; х < + оо) является единственным решением интегрального уравнения
о
$(ж) = ^(ж)+ $ g<x — y^s^dy.(3)
Уравнение (3) очевидным образом равносильно уравнению о
f^ = pg^ + 5 g(x — yM^dy.(4)
Доказательство равенства (4) осуществляется следующим образом. Из определения величин фп легко вывести, что
Фп = 6п, если фп+i > 0; фп = 6п + фп+1, если фп+1 < 0.(5)
В силу известной теоремы А. Я. Хинчина из 1) и 2) вытекает, что наши суммы подчиняются усиленному закону больших чисел, т. е.
p|lim J^L^M^l.
оо Г 4-1 J
В силу допущения 1) величины 6П и фп+1 взаимно независимы. Поэтому, представив / (я) в виде
/ W = Pfi М + (1 — Р) fz ^(6)
где/t (^) щ/г (я) суть условные плотности для фп соответственно при гипотезах фп+1 > 0 и фп+1 < 0 и заметив, что условная плотность для фп+1 при гипотезе фп+1 < 0 есть 2
/** (ж) = / (#)/(! — р) при х <0;/** (ж) = 0 при х 2> 0^ (7)
получим
Л (я) = 8^(8)
ОО0]
/2(ж)= J g^x — y)f**{y)dy ■= J^y J g(x — y)f(y)dy. (9)
Из (6), (8) и (9) непосредственно вытекает (4).
Для полного доказательства теоремы остается установить единственность решения уравнения (3). Рассмотрим итерированные ядра
^1 (ж, У) = g (х — у) при у < 0; Кг (х, у) = 0 при у > 0;
КТ(х, у) — § Ki(x, z)Kr-!(z, y^dz.
Все эти ядра, как и функции
So (ж) = g (х),
SrW = ^ КДх, y)g{y)dy =
=$•••§ g(ui) • • -g(ur)g(x — ui — .. . — ur)dui.. .duTt
uJ+u2+...4-uk<0
fc=l, 2,..., т
неотрицательны. Формальное решение уравнения (3) записывается в виде
$(я)= 3 М^)-(10)
г=0
Чтобы установить, что оно действительно является решением и к тому же единственным, достаточно доказать сходимость ряда
2 1Т> гДе Ir =^ sr (х) dx =$, .. ^g\u,^.. .g (и^ dui... dur.
Г=о—OOu1+u2+...4-uk<0
7f—1, 2,...^
(11)
Здесь мы принимаем p < 1. В случае р = 1, £.(я) = 0 при Х^ / (ж) = g (ж) и равенство (4) тривиальным образом выполняется.
Сходимость ряда (11) можно вывести из вероятностного смысла его членов. Обозначим через А^ событие {фп = ^^ которое может быть записано иначе в виде.
(r)( 6n+k + 5n+?f+i + • • • + 5n+r ^ О, к =s 1, 2,..., г.
: I фп+r+l ^ 0.
Легко видеть, что
Р{^г)} =■.,
= Р (фп+г+1 ^ 0} Р {6n+k + 5n+k+i + ... + 6n+r ^ 0; к = 1,.; .,г} =- = PL-
Так как события А^\ г = 1, 2, . . ., образуют (с точностью да вероятности, равной нулю) полную систему попарно несовместных событий, то
§Л=т5?и?,}=т-(,2)
0 г .
Поставленная в начале заметки задача в принципе решена: формула (10) доставляет нам функцию s (х). Поэтой функции вычисляется'
/* (ж) = s (ж) при х > 0;/* (ж) = 0 при я < 0,(13)
а вероятность р находится по формуле (12). Остаточные члены рядов (10) и (12) можно оценить. Использование этих рядов для получения числовых результатов довольно громоздко, но вполне возможно.
На рис. 2 изображены функции / (ж) и /* (ж) для случая л
= ф (ж — а), ф (ж) = ■■ ■ в“х1/2
V 2л •
при а = 1 (этому значению а соответствует р = 0,82). Получение Функции /*(#) «урезанием» функции s (х) подформуле (13) объясняет отмеченные в начале заметки качественные особенности наблюдаемых в действительности распределений."
2 марта 1949 г.
38
НЕСМЕЩЕННЫЕ ОЦЕНКИ*
В статье рассматривается ряд задач на нахождение несмещенных оценок ф (ж17 ж2, . . ., х^ для различных функционалов / (Р), зависящих от закона распределения Р наблюдаемых величин х-^ х^ . . . . . ., хп. Некоторые из этих задач связаны с вопросами статистического контроля и браковки массовой промышленной продукции.
§ 1
ОБЩИЕ ОПРЕДЕЛЕНИЯ И ТЕОРЕМЫ
Пусть дана система ф «допустимых» распределений вероятностей
Р (Л) = Р {жЕ Л}
для случайной точки х в некотором пространстве X и определенный на ф функционал / (Р).
Определение 1. Заданная на X функция ф (ж) называется несмещенной оценкой для / (Р), если при любом распределении Р из $р выполняется равенство
МРф = f (Р).(1)
Например, если X есть n-мерное пространство точек
х = (ж17 ж2, . . ., жп), .
а ф состоит из распределений Р, задаваемых плотностями вероятностей
Р (ж j а) = (2л)-"/ ехр {^-^ (о* — а)2} ,
fc=l
то общеизвестной несмещенной оценкой для
/ (Р) = а
является среднее арифметическое
= (^1 + ж2 + • • • + Х^1пг
ДЛЯ
/ (Р) = а2 ..
* Изв. АН СССР. Сер. мат., 1950, т. 14, № 4, с. 303—326.
несмещенной оценкой может служить
ф = J2 — Мп'
и т. д.
Мы увидим далее, что во многих важных случаях несмещенные оценки не существуют. В этих случаях полезно
Определение 2. Функции ф+ (ж) и ф_ (ж) называются соответственно верхней и нижней оценкой для / (Р), если при любом распределении Р из ф выполняются неравенства
МРф+>/(Р),(2)
МРФ_</(Р).(3)
С другой стороны, в большинстве задач, в которых несмещенные оценки существуют, их имеется не одна, а много. Так, в рассматриваемом выше примере несмещенной оценкой для а может служить любая линейная форма
ф = С^ + С<^ + . . . + С^
с коэффициентами, подчиненными условию
С1 + с2 + . . . + сп = 1.
Чрезмерное разнообразие несмещенных оценок может быть значительно сокращено, если ограничиться несмещенными оценками, которые выражаются через надлежащим образом выбранные достаточные статистики задачи. Чтобы сформулировать относящиеся сюда общие теоремы, мне придется привести несколько обобщенное определение достаточной статистики. Так как в этом определении достаточная статистика может быть не только скалярной, но и векторной величиной, то отпадает необходимость отдельно вводить понятие «достаточной системы статистик»: при нашем общем определении такая система статистик (%ь %2» • • •» Xs) может считаться одной статистикой
X = (Хь Хг, • • ., X»)-
Нижеследующие несколько абстрактные формулировки будут конкретизированы в § 2 и 3, куда и следует обратиться читателю, которому эти формулировки покажутся трудными.
Пусть % (ж) — заданная на X функция со значениями из некоторого другого пространства Н. Рассмотрим условные распределения вероятностей
Р (4 I h) = Р {ж е А I х (ж) = Ц(4)
и условные математические ожидания 2
М£Ф= ^(^р^^)(5)
_ X
книж Интеграл (5) надо понимать в смысле формул (10) и (И) в § 4 главы 5 моей
при фиксированном значении
X (ж) = к
Определение 3. Функция % (ж) называется достаточной, статистикой для системы распределений ф, если условные распределения вероятностей Р (А | Я) не зависят от выбора Р из ф.
Так как условные вероятности Р (А | /г.) в соответствии с 11] определены лишь с точностью до множества значений h, на которое % (ж) попадает (при распределении Р для ж) с вероятностью нуль^ то точный смысл определения 3 таков: % (ж) называется достаточной статистикой для ф, если существует такая функция Q (А |Я) от Л С X и /i Е Я, которая при любом Р из ф может быть принята за Р (А | И\ ''1
- Теорема!. Если % (ж) есть достаточная статистика для ф, то для любой функции ср (ж) с конечными при всех РЕ^ математическими ожиданиями Мр, условные математические ожидания М£Ф не зависят от Ре $.•
Как и в случае определения 3, точный смысл теоремы 1 нуждается в пояснении. Он заключается в следующем: для любой функции ср (ж) с конечными при всех Р из ф математическими ожиданиями Мрф, существует такая функция М (Я), которая при любом Р е е ф может быть принята за М^ф.'
• Для доказательства теоремы 1 достаточно положить
M(h)= ^(^<№\h\'(6)
где функция Q (Л | Я) взята из пояснения к определению 3, а интеграл понимается в смысле примечания к формуле (5).
Следующие две теоремы являются некоторым обобщением результатов Блеквелла [3].
Теорема 2. Если ф (ж) является несмещенной оценкой для / (Р^ а 1 (х) — достаточной статистикой для ^то3
ф* (ж) = Мх(ж) ф (ж) = М (х (ж)]•(7)
тоже является несмещенной оценкой для / (Р).
Теорема 3. Для любого Р е ф; для которого дисперсия Орф существует^ в условиях теоремы 2 имеет место неравенство
Орф*<0рф.(8)
Для доказательства теорем 2 и 3 достаточно воспользоваться тождествами
М (Мхф) = Мф,(9)
□ф = О(Мхф) + М(ф-Мхф)%(10)
:Верхний индекс Р црй М в формуле (7) опущен j так как в силу;теоремы !
функция ф* может быть выбрана независимой от Р.‘
которые справедливы при любых функциях ф (я) и % (ж), если только Мф и Оф существуют.'
Теоремы 2 и 3 можно рассматривать как обоснование и без того естественной тенденции употреблять только несмещенные оценкив выражающиеся через достаточные статистики задачи: аеорема 2 показывает, что при этом мы не суживаем круга задач, в которых несмещенные оценки существуют, а теорема 3 — что при переходе от произвольной несмещенной оценки ф к осредненной оценке ф*„ выражающейся через статистику %, мы можем только уменьшить дисперсию. Можно было бы показать, что оценка ф* всегда бывает «не хуже» порождающей ее оценки ф и при других способах сравнения «качества» оценки.
Теорема 2, кроме того, как мы увидим, дает сильное средство для нахождения несмешанных оценок с малыми дисперсиями: часто осреднением «плохих», но легко обнаруживаемых оценок ф можно получить «хорошие» оценки ф*. В довольно широком классе случаев несмещенные оценки, выражающиеся через надлежаще выбранную достаточную статистику, оказываются однозначно определенными оцениваемым функционалом / (Р). По этому поводу см. интересную работу Халмоша [4], которая является одной из немногих попыток подойти к изучению несмещенных оценок с достаточно общей точки зрения. Некоторые результаты Халмоша будут приведены в § 10 настоящей статьи.
.§ 2
ОСНОВНЫЕ ФОРМУЛЫДЛЯ ДИСКРЕТНОГО СЛУЧАЯ
Если множество X возможных значений ос конечно:
X {^1» $2» • • м ^п} 7
а распределения Р° системы ф определяются однозначно заданием одного или нескольких параметров 0, то естественно ввести в рассмотрение вероятности
Ри (6) = R9 {ж = ^},
Функционал / (Р) записывать в виде функции / (0) и ввести обозначение
^ = Ф Ы
Для возможных значений оценки ф. Условие того, чтобы ф являлось несмещенной оценкой / (0), запишется тогда в виде
п
ДфеР» = /(9).(1)
Формула (1) показывает, что в случае, когда 0 пробегает бесконечное множество значений, лишь немногие функции / (0), а именно те, которые выражаются линейными формами вида (1), допускают несмещенные оценки ф. Если функции р^ (0) линейно независимы, то для каждой функции / (0), которая допускает несмещенную оценку, такая оценка существует только одна.
Если возможные значения х занумерованы парами индексов:
х = {«h»}, 1 < h < mt 1 < & < пА,
то естественно нумеровать аналогичным образом вероятности рн^ (0) и значения фд^ оценки ф. Первый индекс h будет при этом достаточной статистикой задачи в том и только том случае, если р^ (6) могут быть записаны в виде
Рм (0) = Рн (0) анъ^
где днк не зависят от 0,
Пп
Чни^^ S^ = i»
К=1
m
Ph^>0,2рь(6)=1.
Л=1
В случае (2) из несмещенной оценки
Ф («м) = Фм
для / (0) можно получить в соответствии с теоремами 2 и 3 несмещенную оценку
Ф* («м) = Ф* = 5 9№Ч>М6,(3)
с дисперсией
Оеф* ^ В6ф
при любом 9.
Доказательство теорем 2 и 3, которое в общем случае, хотя и было чрезвычайно просто и кратко, опиралось на несколько трудную общую теорию условных вероятностей и математических ожиданий,; в рассматриваемом частном случае делается чисто арифметическим, так как входящие в рассмотрения математические ожидания и дисперсии выражаются общеизвестными формулами
ш пнm
м6Ф = s 3 Phh (0) Фм, меФ* = S ph (6) ф^,
.А=1 К=1Л=1
m nh
оеф= 2 3 Ph» (0)(ф^-м ф)2,
^=1 к=1
I m
d%* = 3 Ph (6) (Ф* - mV)’-
Л=1
ОСНОВНЫЕ ФОРМУЛЫ В НЕПРЕРЫВНОМ СЛУЧАЕ '
Пусть распределения Р9 из ф заданы плотностями вероятностей р & | е).
В этом случае условие того, чтобы ф ^ являлось несмещенной оценкой для / (0), записывается в виде
j<p(;r)p(a:[e)cta = /(9),(1)
X
т. е. нахождение несмещенной оценки ф (ж) для заданной функции / (0) сводится к решению интегрального уравнения.
Пусть, далее, задана функция X (а;) со значениями из пространства Н. Эта функция порождает разбиение пространства X на цодмно- жества Уд, на которых X имеет постоянное значение
X (ж) = А.
Допустим, что элемент объема dx может быть выражен в виде
dx = dx^dh,
где dh — элемент объема в Я, a dxx — надлежащим образом определенный элемент объемов Vh. Тогда % является достаточной статистикой задачи в том и только том случае, если плотности вероятностей р (ж | 9) могут быть записаны в виде
р (х I 6) = р (h (х) I 6) q ^.(2)
где q (х) не зависит от 6 и
q (х) > 0, У g (ж) dxi = 1, vn
№>0, \p(h\Q)dh = i.
н
В случае (2)’ из несмещенной оценки
Ф = ф (ж)
для / (6) можно получить в соответствии с теоремами 2 и 3 несмещенную оценку
Ф* = ф* ^ = У ф (я) q (я) dxi'(3)
VX(x)
с Дисперсией
О@ф* ^ оеф(4)
при любом 6, которая зависит только от % (ж):
Ф* = $ [% (ж)].
.§ 4■
НЕСМЕЩЕННЫЕ ОЦЕНКИ СЛУЧАЙНЫХ ВЕЛИЧИН
В этом параграфе мы укажем дальнейшее обобщение задачи § 1 которое будет использовано в § 5. Пусть дана система ф допустимых распределений вероятностей
Р (Л) = Р {(Ж, у)Е Л)
для пар, состоящих из «наблюдаемой» точки хеНм ненаблюдаемой непосредственно случайной величины у. Функция ф (а;) называется несмещенной оценкой для у, если при всех Р из ф
Мрф = 1*ру.-(1)
Вопрос о нахождении таких несмещенных оценок для случайных величин не связан с какими-либо новыми трудностями, так как он равносилен нахождению несмещенных оценок для
/ (Р) - ^ру.
Только вместо дисперсии Врф в качестве характеристики точности оценки ф для у естественно рассматривать выражение
Мр(ф~^.*
В случае, когда х и у при любом Р из ф независимы^
Mp(v-y)2l=DpV + Dpy,(2)
и так как Dpy не зависит от выбора ф, то задача нахождения несмещенной оценки ф для у с наименьшим значением Мр (ф — z/)2 равносильна задаче нахождения несмещенной оценки для N\py с минимальной дисперсией Срф.
БРАКОВКА ПО КАЧЕСТВЕННОМУ ПРИЗНАКУНА ОСНОВАНИИ ОДНОКРАТНОЙ ВЫБОРКИ.СЛУЧАЙ РАЗРУШЕНИЯ ИЗДЕЛИЯ ПРИ ИСПЫТАНИИ
Чтобы показать на достаточно конкретном примере значение теории нахождения несмещенных оценок в вопросах браковки массовой продукции по выборочным данным, мы рассмотрим в этом параграфе и в § 7 две задачи из этой области. В детали, связанные с практическим применением предлагаемого метода, мы в настоящей публикации входить не будем. В этом параграфе будет предположено, что испытание изделий приводит к их разрушению и поэтому принципиально может быть только выборочным. Подлежащая нашему рассмотрению система браковки состоит в следующем.
Из партии, содержащей N изделий, производится случайная выборка объема п. Выбранные п изделий испытываются и устанавливается число х «дефектных» изделий в выборке. Если х ^ с, то
^т _ п изделий, не вошедшие в выборку, принимаются. Если х ^ ^ ^ = с + 1, то вся партия бракуется,
Если в партии до испытания имелось у дефектных изделий, то число принятых дефектных изделий будет равно
[ у — X х при X ^ с,
у (0 при х^й. •
Положим
q = y!Nn , q* = y*/N.
Задача браковки состоит в том, чтобы гарантировать достаточно малые значения q*, не вызвав в, то же время без надобности^ т. е. при малых q, чрезмерно частого забракования всей партии и* не увеличивая чрезмерно объем выборки п.
Чтобы удовлетворить этим требованиям, выбирают надлежащие п и с. Основной характеристикой системы браковки с данными п и с является условная вероятность
L (q) = Р {ж < с | q }
при заданном q получить х ^ с, т. е. принять партию. Для вычисления L (q) служат условные вероятности
р (q\ = Р (х = т д} = —г-.— —-q (qX
x (9—• • • (?— m n 1)— g —
^g-1)(i)
появления при заданном q значений x = m. Легко видеть, что
^0)= S Pm (9).(2)
Если признано целесообразным браковать партии с q < q0 и принимать партии с q )> q0, то идеальной оперативной характеристикой ^ (q) была бы функция•
1 при q < g0,
О при q > до,
изображенная на рис. 1. Такой вид функции L (д) мог бы быть достигнут лишь при п = N, что в случае испытания разрушительного характера лишило бы операцию смысла. Однако можно приблизиться к идеальной характеристике рис. 1, если выбрать достаточно большое с и взять
п ~ c/q^
Если N очень велико, то это еще не приведет к чрезмерному увеличению отношения n/N, которое, конечно, должно оставаться достаточно малым. На рис. 2 приведена оперативная характеристика для случая
N = 10 000, п = 1000, с = 20, q0 ~ dn = 0,02.
К сожалению, получение вполне удовлетворительной оперативной характеристики даже при N порядка 1000—10 000 часто оказывается возможным только за счет чрезмерного увеличения отношения n/N. Поэтому часто применяются системы браковки с недостаточно круто падающей при возрастании q оперативной характеристикой.
Рис. 1Рис. 2
В этих случаях приобретает основное значение вопрос о последующей оценке по результатам испытаний доли фактически принятых дефектных изделий. При хорошо налаженном производстве она часто бывает значительно меньше, чем та доля дефектных изделий q0, исходя из которой рассчитана система браковки.
Последующая оценка по результатам испытаний доли дефектных изделий в предъявленной на проверку продукции и доли пропущенных в результате применения данной системы браковки дефектных изделий имеет, конечно, большое значение и при вполне удовлетворительной оперативной характеристике. К решению этой задачи мы и переходим.
Предположим, что система браковки с данными п и с применена к большому числу партий s. Введенные выше отношения q и q* для партии с номером г будем] обозначать через qT и q*. Кроме того, обозначим через sm число партий, при проверке которых число дефектных изделий х оказалось равным т. Очевидно, что
s = s0 + $i + • • • + sn) а
s' = So + S1 + . . . + Sc
обозначает число принятых партий. Общее число изделий в s партиях равно
R = sN, число же принятых изделий равно R' = s' (N — п).
Общее число дефектных изделий равно
Y=tiyr = Ni1gn Г=1Г=1
число же принятых дефектных изделий равно
Y' = 5 y^N^. Т=1Т=1
Успешность всей браковочной процедуры определяется темА насколько отношение
дёр = Y'/R' меньше, чем отношение
Так как
^ср — Qc^RIR ?
где
* Y'1 VI *
Уср— ДтХ^’
Т=1
а отношение RIR' после приемки становится известным и к тому же? при сколько-либо нормальном ходе производства близко к единицеt то мы можем считать, что наша задача состоит в оценке дСр и ^*р-
Если число партий s достаточно велико, а ф (ж) и ф* (ж) являются несмещенными оценками q и соответственно q* по ж, то в силу закона больших чисел для оценки #Ср и q*p можно пользоваться приближенными формулами
s
gCP~Vcp=^-J[>(*r),(3>
Т=1
S
дср~Ф?р=-1-^<р*(жг).(4>
г=1
Точность этих формул определяется обычными стандартными метот дами, так как слагаемые в правых частях равенств
9ср — Фср = 4" У [9г - ф («г)],
Г=1
g
9?р-Фср = -45[9*-ф*(^)] г=1
взаимно независимы. По этому поводу см. конец следующего параграфа.
Несмещенная оценка для q хорошо известна:
<р (х) = х!п.(5)
-Она приводит к оценке
9ср — Фер = ~ У, msm(6)
т=1
ДЛЯ #ср«
Так как всегда
?ср ^ 9ср)(7)
то фСр может служить также и верхней оценкой (см. определение 2 § 1) для q^. Этот общеизвестный способ оценки q^ однако, совсем нечувствителен к уменьшению числа дефектных изделий в результате браковки. Чтобы ориентироваться в возможностях более эффективной оценки ^*р, рассмотрим общий вопрос о том, какие функции / (ж) допускают несмещенную оценку по числу дефектных изделий х в выборке объема п. Вопрос этот решается очень просто в соответствии с § 2. Для любой функции ф (ж)
/(9) = Мдф(ж)= § ФНрт(9)(8)
т=0
есть многочлен от q степени не выше п. Так как при этом n + 1 многочленов рт (д) линейно независимы, то любой многочлен / (q) степени не выше п единственным образом записывается в виде (8). Иначе говоря, многочлены / ^q) степени не выше п и только они допускают несмещенные оценки по х и оценки эти определяются многочленом / (q) однозначно.
Легко проверить, что
Q (9) = ^9* = 51k - Рт (9)(9)
т^с
является многочленом ^п + 1)-й степени. Поэтому точной несмещенной оценки ф* (ж) для ^* по х не существует. Мы увидим, однако,, в следующем параграфе, что поставленная нами задача нахождения такой оценки допускает при довольно широких допущениях очень простое приближенное решение. Кроме того, представляют интерес следующие два замечания. ’
При любом п' < п существует несмещенная оценка по числу дефектных изделий х в выборке объема п для q*, которое получилось бы при браковке по выборке объема п’ (с любым с).
Аппроксимируя Q (q) многочленами <?+ (^) и Q_ (^) степени невыше п, удовлетворяющими неравенствам
Q- to < Q to < С+ to.
можно получить для q* верхнюю и нижнюю оценки ф* (ж) и ф* (ж).
Этот метод обещает дать вполне приемлемые практические результаты для многих случаев, в которых приближенные формулы следующего параграфа неприменимы.
§ 6СЛУЧАЙ c<^n<<N
Если п мало по сравнению [с N, то можно с достаточно хорошим; приближением положить
q при хq при хО при ж > d,О при ж > d,с,
q при х
q при х
О при ж > d,
О при ж > d,
а формулы (1), (2), (9) § 5 заменить формулами
^to — 3 Pm to.
т^с
^V = Qto = gLto-(3)
В предположении законности пользования формулой (1) для дисперсии
О9ф (ж) =(ж/п) = q (1 — q)/n
оценки (5) из предшествующего параграфа получается несмещенная оценка
^2 _ х^п — хГ' Y ^(п — 1)*
найденная Гиршиком, Мостеллером и Сэвиджем [5]. Из нее получается несмещенная оценка
n—1
(5) Ш=1
Л ля дисперсии фср.
При т, малых по сравнению с п, вероятности рт (^) сколько- либо заметно отличаются от нуля лишь при малых q и формула (1) может быть заменена еще более простой приближенной формулой
т
Рт^ = -^-дте-пч.(6)
Так как в силу (6) др™ (д') = m + 1- Pm+i (д'),
то в предположении, что с мало по сравнению с п, из формул (2) и {3) получается
Q(g') = -^^jmpm(,qY (7) m^d
Таким образом, в случае законности применения формул (3), ^6) и (7) функция Q (^) является линейной комбинацией функций Рт (?) и мы получаем возможность в соответствии с § 2 сформировать несмещенную оценку для Q (^) (а следовательно, и для q*) по х. Оценка эта имеет вид
ф* (я) =ф* (я) =х}пОх}пОпри X <Й = с + 1, при x^d-V^-при X <Й = с + 1, при x^d-V^-Для ^ср отсюда получается несмещенная оценка **1 vn *^ср — фср —) т8т.т<ДДля ^ср отсюда получается несмещенная оценка **1 vn *^ср — фср —) т8т.т<Д(8)(9)(8)(9)
ф* (я) =
ф* (я) =
х}пО
х}пО
при X <Й = с + 1, при x^d-V^-
при X <Й = с + 1, при x^d-V^-
Для ^ср отсюда получается несмещенная оценка **1 vn *
^ср — фср —) т8т.
т<Д
Для ^ср отсюда получается несмещенная оценка **1 vn *
^ср — фср —) т8т.
т<Д
(8)
(9)
(8)
(9)
Поучительно сравнить формулу (9) с формулой (6) § 5. Из их сопоставления получается, что разность
(10)(10)*1 V
(10)
(10)
Фср Фср “^7" / , ^^ m>d
при больших s приближенно равна разности ^ср — q*p или (в случае отношения RIR', близкого к единице) разности ^ср — ^ср» т. е. сокращению доли дефектных изделий, достигнутому в результате браковки.
Точность приближенного соотношения (9) может быть достаточно эффективным образом оценена. Из независимости выборок из различных партий (такая независимость входит в понятие «случайной»
(g — ж/n)2приС1(ж/n)2прих =d = c + 1,0прих^d+ 1,(g — ж/n)2приС1(ж/n)2прих =d = c + 1,0прих^d+ 1,(7ср Фер)2(7ср Фер)2сс%■ У, трт (у) + д2 У рт (д),т=1т=0сс%■ У, трт (у) + д2 У рт (д),т=1т=0#) =#) =(И)(12)(И)(12)(13)(14)(13)(14)(15)(15)(16)(16)
(g — ж/n)2
при
С1
(ж/n)2
при
х =
d = c + 1,
0
при
х^
d+ 1,
(g — ж/n)2
при
С1
(ж/n)2
при
х =
d = c + 1,
0
при
х^
d+ 1,
(7ср Фер)2
(7ср Фер)2
сс
%■ У, трт (у) + д2 У рт (д),т=1т=0
сс
%■ У, трт (у) + д2 У рт (д),т=1т=0
#) =
#) =
(И)
(12)
(И)
(12)
(13)
(14)
(13)
(14)
(15)
(15)
(16)
(16)
выборки) вытекает, что
S
м (^ - Фер)2 = ^ ^ М [д* - Ф* (яг)р.
Г=1
Так как
ТО
d
М® (&р — Фер)2 = 4? У, ^Р™ (?) 4
т=1
или после надлежащих преобразований
а
^q (?ср — Фор)2 = ^ [^ тРт ^ + d ^'+ ^ Pd+1 ^] ' 7)1=1
Поэтому несмещенной оценкой М7 (^* — ф*)2 является
х/п?приж ^ d,
d^d-V^l^ при x = d-V^i
О при ж>с? + 2,
а несмещенной оценкой М (^р — ф*р)2 может служить
^ = ^J^1^r) = -^[^7nsm + d(d+ l)s^ = r=lm=l
_ Фер , d(d + l)
ns ‘(ns)2 d+le
При больших s
M №р - Фс*р)2 - a2
и по теореме Ляпунова
P {I Уср - Ф?р |< fA} ~ -4=- ( е-“/2 di. у о
Рассмотрим в заключение численный пример на употребление формул (6) § 5 и формул (4), (9), (15) и (16) этого параграфа. Пусть
N = 1000, п = 50,
s = 200, с == 1, d = 2.
ф*р = 0,0051,^* - 0,0051 + 0,0010,
или при Зо-х пределах
I ^ср фср | <С ЗА, | ^ср фор | <С ЗА,
0,0100 < &р < 0,00166,0,0021 < ^* < 0,0081.
Я думаю, что при выбранных для примера значениях s, N, п, с употребление формул, введенных в предположениях c<^n<^N и большого s, уже законно. Но этот вопрос заслуживает более подробного исследования.
§ 7
БРАКОВКА ПО КАЧЕСТВЕННОМУ ПРИЗНАКУ НА ОСНОВАНИИ ОДНОКРАТНОЙ ВЫБОРКИ.
СЛУЧАЙ ИСПЫТАНИЙ, НЕ НАНОСЯЩИХ ВРЕДА ИЗДЕЛИЯМ
Если испытание изделий не наносит вреда изделиям, то может быть принята система браковки, отличная от рассмотренной в § 5.
Из партии, состоящей из N изделий, производится случайная выборка объема п. Выбранные п изделий испытываются и устанавливается число «дефектных» изделий в выборке. Если х ^ с, то х обнаруженных дефектных изделий заменяются заведомо годными (не «дефектными») и вся партия принимается. Если #>d = c + l, то проверяется вся партия, все обнаруженные при этом дефектные изделия заменяются заведомо годными и только после этого вся партия принимается.
Как и в § 5,
[ q — x/N при ж ^ с,
(0 при x^d,
но теперь величина q* получает более простой смысл: это доля дефектных изделий, остающаяся в партии после описанной выше процедуры. Формулы (1)—(9) § 5 сохраняются. При этом Q (q) получает новый смысл математического ожидания доли дефектных изделий в принятой продукции в предположении, что до браковки в каждой партии доля дефектных изделий была равна q. Поэтому теперь оказывается осуществимой априорная оценка наихудшего возможного среднего качества принятой при данной системе браковки продук-
(1)(1)(2)(2)^^Ц"^^1^’ т = 0,1,...,с.^^Ц"^^1^’ т = 0,1,...,с.(3)(3)
(1)
(1)
(2)
(2)
^^Ц"^^1^’ т = 0,1,...,с.
^^Ц"^^1^’ т = 0,1,...,с.
(3)
(3)
ции: каково бы ни было распределение дефектных изделий по партиям до браковки, в среднем в принятой после браковки продукции дефектные изделия будут составлять долю, не превышающую
QL=max Q(q\ lO^q<1
В обстановке § 5 такая априорная оценка невозможна. На рис. 3 7 дан график функции Q (q) для
N = 1000, с = 1, и = 100,; d = 2.
Максимум Ql = 0,0035 достигается здесь при q = 0,009.
Кроме числа дефектных изделий ж, в выборке в новой обета- 2^) новке становится доступным 4^ - для наблюдения числох
(0 при
Z\qN — х при x>dУ . 1।
дефектных изделий, обнаружен-^
ных при сплошной проверке неРис. 3
вошедших в выборку N — п изделий,если такая проверка производится. Это доставляет новые возможности для получения несмещенных оценок q и q*.
Легко обнаружить, что достаточной статистикой задачи является сумма
ж при ж ^ с, qN при x^d.
Мы увидим сейчас, что при 0 < с ^ п для любой функции / (д) существует несмещенная оценка ф (и) и притом она единственная.
В самом деле, требование
М9Ф (м) = 5 ф (m) pm (д) + <р (g2V) [1 — L (д)] = / (д)
заключает в себе N + 1 уравнений в соответствии с возможными значениями
q - 0, UN. 2/N. . . ., 1.
Так как при q = 0, UN. . . ., c/N множитель 1 — L (g) в (2) равен нулю, то ф (и) для и ^ с однозначно определяется системой d Уравнений
При и > d, положив q = u!N, получаем из (2)
/ WN^ — ^ Ф (m) Рт (u/N)/ WN^ — ^ Ф (m) Рт (u/N)ф(и) =ф(и) =m^c1 - L (u!N)m^c1 - L (u!N)(4)(4)
/ WN^ — ^ Ф (m) Рт (u/N)
/ WN^ — ^ Ф (m) Рт (u/N)
ф(и) =
ф(и) =
m^c
1 - L (u!N)
m^c
1 - L (u!N)
(4)
(4)
В частности, при f (q) = Q (^) формулы (3), (4) приводят к несмещенной оценке для Q (д), т. е. для q*.
§ 8
ОЦЕНКА / (а) В СЛУЧАЕ НОРМАЛЬНОГО РАСПРЕДЕЛЕНИЯС ЗАДАННЫМ о
Пусть ^, % . . ., Жп независимы и подчинены нормальному распределению с плотностью вероятности
4
р (х | а. а) = —_ е^”°^^е(й
у 2л с
Будем считать а известным. Тогда
= (^1 + ^2 + . . • + Х^!п(2)
является достаточной статистикой задачи. Плотность вероятности для X может быть записана в виде
р (X | а, а) = G (X —а, Т^(3)
где
у Tit
(4)
Т = а2/2п.
(5)
Основное уравнение (1) § Зв нашем случае (для несмещенных оценок вида ф (ж) функции / (а)) может быть записано в форме
^^G^X — а, Т^йХ = ^а\ -(6)
Положим при t > — Т
ЧМ = J Ф®е(^ж,Т-0^.(7)
Очевидно, что
Ф (z, 0) = / (z).(8)
Без потери каких-либо решений задачи, имеющих практический интерес, можно ограничиться такими функциями ф (ж), что:
функция ф (ж, 2) аналитична при всех действительных ж и £ > —Т по обоим переменным z и
почти всюду по z у функции ф (z, 0 существуют предельные значения
ф (Z, -Г) = ф (Z).(9)
Как известно, при t"> —Т функция ср (г, /) удовлетворяет тепловому уравнению
dq/dt = д2ф/дг2(Ю)
и при сделанных допущениях однозначно определяется для t > — Т своими значениями / (z) при t = 0. В силу (9) это приводит к тому, что ф (z) однозначно определяется по / (z).
Таким образом, если задача нахождения несмещенной оценки для f(a) разрешима, то при ограничениях 1) ы 2) ее решение единственно.
В силу уравнений (8)—(10), задача нахождения несмещенных оценок для / (а) сводится, к «обратной задаче теплопроводности» которой посвящены, например, работы [6—8]. Мы отметим для дальнейшего лишь следующее связанное с этим обстоятельство. Еслй при некотором TQ ^ Т функция / (z) уже представлена в виде
т = ] G^-z,T0)dF^,(И)
то несмещенная оценка ф (ж) дается формулой
ф (z) = J G (^ - z, То - Г) dF С).(12)
В частности, для самой плотности вероятности
р (х | а, о) = G (х — а, о2/2)(13)
в какой-либо фиксированной точке х мы получаем несмещенную оценку при п )> 1 в виде
ФХ= (1 - АЛо».(14)
у 2л с0' п /
Интегрируя (14), получим при любом фиксированном множестве И, расположенном на числовой прямой ж, для
Р(Л)=Р{х^ А | а» о}= ^ е-^№Чх(15)
А
несмещенную оценку
qA(x) = ———\е°dx.(16)
.у 2л 50 J
Формула (16) применима в случае п > 1. В случае п = 1 вместо нее действует несмещенная оценка для Р (Л) по X = хх вида
(17)(17)[ 1 при xY^A,'Фа (^i) — | о при Xi ё А.
(17)
(17)
По аналогии с (17) можно и в случае п > 1 дать для Р (А) несмещенную оценку
(18)(18)^(«i, Ж2, . . ., Ж„) = А- У ipA^m), .m—1
(18)
(18)
равную 1/п от числа точек хт, попавших на множество А. Эта оценка имеет то преимущество, что она является несмещенной оценкой Р (Л) и в том случае, если класс ф допустимых распределений
Р (Л) = Р {^е А}
расширить до класса всех одномерных распределений Р (Л). Однако в случае нормальных распределений с неизвестным а и заданным о оценка ф! значительно менее эффективна, чем ф^.
§ 9
ОЦЕНКА / (а, а) В СЛУЧАЕ НОРМАЛЬНОГО РАСПРЕДЕЛЕНИЯС НЕИЗВЕСТНЫМИ а и о
Будем исходить из формулы (1) § 8 и сохраним допущение о независимости х^ х^ . . ., хп между собой, но предположим, что оба параметра неизвестны. Из формулы
/'I \1-<(*“а)2+*Ч
р^1,хй,...,хп\а,о)=„ е 20=(1)
( у 2 Л 3)
для n-мерной плотности вероятности видно, что достаточных статистик задачи две: х и
71
з2 = --^хт-5^..(2)
Двумерная плотность вероятности для х и s выражается формулой
(3)(3)(4)(4)р $,8|а,оW""^^е 2о= «
(3)
(3)
(4)
(4)
2 л б)
где
А „-2 — г((п-1)/2)
есть (п — 2)-мерный объем сферы единичного радиуса в (п — 1)- мерном пространстве. Основное уравнение (1) § 3 приобретает теперь
вид
У У ф(£, s)p (£, s \а, o)dsdx = f(a1 о).(5)
Мы ограничимся тем, что при помощи теоремы 2 § 1 найдем решение уравнения (5) для случая
f^a, а) = Р(Л)=У р^х\а, o)dx.(6)
а .
Как уже было указано в § 8, для Р (Л) существует несмещенная оценка
( 1 при Xi^A,
^(^i) (О при Х1ЁА.
Чтобы получить несмещенную оценку для Р (Л) вида ср (Я, s^ нам остается вычислить интеграл
Фд^, ») = j Фд(Ж1)^,(7)
где Vx1S обозначает подмножество n-мерного пространства точек (^и ^2, • • •» хп), определяемое равенствами
»—-=ж’— L(х™ -ж) 8 *
т=1
которое является (п — 2)-мерной сферой радиуса
р = ]/" ns; *(8)
dv обозначает элемент объема в F^, s, а множитель q имеет постоянное значение
U.(9)
При 2
Фа(£, $)= J фж^,(Ю)
А
где фх является несмещенной оценкой по ж и s для плотности вероятности р (ж | а, о) в точке х. Для определения фх рассмотрим объем
qxdxlq
кольца, высекаемого из сферы V^s плоскостями
^i = х, хх = х + dx.
В случае
Т^т(ж-^>Р2
это кольцо исчезает и Ф« = 0.
В случае же
-^(z-^p*
интересующее нас кольцо имеет радиус
(И)(И)
(И)
(И)
ширину
= 1/ZZZ_P_^
V п — 1 р' и объем
^ = Кп_3 (р'У1-3 6 = кп_3 У ^_ р (р' Г4 dx.
Пользуясь формулами (9)—(И), получаем теперь окончательно
ф* =ф* =•^71-311•^71-311^n-2 V п — ^^n-2 V п — ^SSп—41/ X — X \2] 2п-1\ * /J ’п—41/ X — X \2] 2п-1\ * /J ’о,о,I ^^ I 1 Г" ' А *если <_ у п — 1,I ^^ I 1 Г" ' А *если <_ у п — 1,Вводя функциюВводя функциюш=ш=1П — 11П — 1п—42п—42оопри | (| ^ jAi — 1, при 111 > У п, — 1,при | (| ^ jAi — 1, при 111 > У п, — 1,гдеС = Кп-® ^ —Г((п-1)/2)п ^п-2 ” - 11/"2л Г ((« - 2)/2) у^П ’гдеС = Кп-® ^ —Г((п-1)/2)п ^п-2 ” - 11/"2л Г ((« - 2)/2) у^П ’(12)(13)(14)(12)(13)(14)
ф* =
ф* =
•^71-311
•^71-311
^n-2 V п — ^
^n-2 V п — ^
S
S
п—4
1/ X — X \2] 2
п-1\ * /J ’
п—4
1/ X — X \2] 2
п-1\ * /J ’
о,
о,
I ^^ I 1 Г" ' А *
если <_ у п — 1,
I ^^ I 1 Г" ' А *
если <_ у п — 1,
Вводя функцию
Вводя функцию
ш=
ш=
1
П — 1
1
П — 1
п—4
2
п—4
2
о
о
при | (| ^ jAi — 1, при 111 > У п, — 1,
при | (| ^ jAi — 1, при 111 > У п, — 1,
где
С = Кп-® ^ —Г((п-1)/2)
п ^п-2 ” - 11/"2л Г ((« - 2)/2) у^П ’
где
С = Кп-® ^ —Г((п-1)/2)
п ^п-2 ” - 11/"2л Г ((« - 2)/2) у^П ’
(12)
(13)
(14)
(12)
(13)
(14)
можно записать фж в виде
фя= —(15)
При п оо функции fn (£) сходятся к пределу
(16)
1/2л
'§ ю
НЕСМЕЩЕННЫЕ ОЦЕНКИ ХАРАКТЕРИСТИКПРОИЗВОЛЬНОГО РАСПРЕДЕЛЕНИЯПО НЕЗАВИСИМЫМ НАБЛЮДЕНИЯМ
Рассмотренные нами примеры дали читателю некоторое представление о разнообразии конкретных задач, связанных с нахождением несмещенных оценок. Мне представляется, что эта область математической статистики заслуживает большего внимания, чем ей уделяется. В заключение этой статьи, которая и не претендует на большее, чем на демонстрацию на примерах недостаточной разработанности этой области, я хочу указать на связь общего подхода к несмещенным оценкам и достаточным статистикам, изложенного в § 1,; с результатами уже цитировавшейся работы Халмоша [4].
Пусть в некотором пространстве Хо задана система распределений ф0. Допустимыми распределениями в пространстве X упорядоченных систем
х = (а?х, х^ . . ., хп),
где хт ЕЕ Хо (т = 1,2,. . ., %), будем считать те и только те распределения, которые получаются обычным образом из предположения, что все хт независимы и подчиняются одному и тому же распределению 6 Е ф0..
Вопрос о том, какие функционалы / (6), заданные на фо, допускают несмещенную оценку вида
Ф (^, x2l . . ., х^,,
равносилен вопросу о том, какие заданные на ф0 функционалы /(0) могут быть представлены в виде"
/ (9) = j j ... У ф (^1, х^? .хп) 9 (d^) 9 (&2)... 9 (dxn).(1)
Хо Хй X,1.
Функционалы вида (1) естественно называть функционалами степени ^п. Они во многом аналогичны многочленам степени ^тг. Например, легко видеть, что они обладают следующим свойством:
(*) при любых 9Х и 92 выражение
F^=j 1^91 + (1 - W-
для всех тех %, для которых
to 5to 59 = №, + (1 - ’Ц 92 принадлежит фо, может быть выражено в виде многочлена степени "С п от А,.
to 5
to 5
При некоторых ограничениях на систему ф0 верно и обратное: из свойства (*) вытекает представимость в виде (1), т. е. свойство (*) может быть принято за определение функционала степени ^ п (по этому поводу см. определение полиномиальных операций, данное в [9]).
Изложенный очевидный критерий существования несмещенных оценок для / (0) привел Халмоша к некоторым интересным следствиям. Например, если фо состоит из всех распределений 0 на числовой прямой, для которых абсолютный момент
рде)= J \t\«d9
конечен, где s — натуральное число, то центральный момент
М0) = J [< — m(9)pc?9,m(0)= J td9,
имеет несмещенную оценку вида
ф (жх, ^2» • • •> ^п)
в том и только том случае, когда
(несмещенные оценки в случае s ^ % хорошо известны, см. [2, 27.6]).
Легко видеть, далее, что в соответствии с общим определением § 1 для рассматриваемой нами задачи оценки / (0) по значениям хъ х^ . . ^ хи существует достаточная статистика % в виде системы значений (^х, х^ . . м х^, рассматриваемой независимо от порядка нумерации входящих в нее точек хт (но с учетом кратностей в случае, если некоторые хт совпадают). Функции ф (я^, х^ . . ., х^ выражающиеся через эту достаточную статистику %, суть не что иное, как симметрические функции от' хХ1 ж27 • • •> ^п- Это очевидное замечание приводит нас в силу теорем 2 и 3 § 1 к одному из результатов Халмоша: если для / (0) имеется несмещенная оценка вида ф (хъ х^ . . * . . ., х^ то для / (0) имеется и симметрическая несмещенная оценка ф* (^х, х^ . . ., х^ с дисперсией, не превосходящей дисперсию ф (^i, х^ . . ., хп).
Халмошу удалось, однако, пойти и несколько дальше этих очевидных результатов и доказать при некоторых не слишком стеснительных ограничениях на систему ф0 единственность симметричной несмещенной оценки. (По этому поводу см. непосредственно его статью [4].)
30 марта 1950 г.
ЛИТЕРАТУРА
Колмогоров А. Н. Основные понятия теории вероятностей. М.; Л.: ОНТИ, 1936.
Крамер Г. Математические методы статистики/Пер. с англ. М.: Изд-во иностр, лит., 1948.
Blackwell D. Conditional expectation and unbiased sequential estimation.— Ann. Math. Statist., 1947, vol. 18, p. 105—110.
Halmos P. The theory of unbiased estimation.— Ann. Math. Statist., 1946, vol. 17, p. 34—43.
Girshick M. A., Mosteller F., Savage L. J. Unbiased estimates for certain binomial sampling problems with applications.— Ann. Math. Statist., 1946, vol. 17, p. 13—23.
Тихонов A. H. Теоремы единственности для уравнения теплопроводности,— ДАН СССР, 1935, т. 1, с. 294-300.
Тихонов А.Н. Теоремы единственности для уравнения теплопроводности.— Мат. сб., 1935, т. 42, с. 199-216.
Levy Р. Sur un probleme decalcul des probabilites lieacelui du refroidis- sement d’une barre homogene.— Ann. Scuola norm, super. Pisa. Ser. 2, 1932, vol. 1, p. 283—296.
Mazur S., Orlicz W. Grundlegende Eigenschaften der polynomischen Opera- tionen.— Stud, math., 1934, vol. 5, p. 50—68, 179—189.
Halmos P., Savage L. J. Application of the Radon—Nikodim theorem to the theory of sufficient statistics.— Ann. Math. Statist., 1949, vol. 20, p. 225-241.
39
К ВОПРОСУ О ДИФФЕРЕНЦИРУЕМОСТИПЕРЕХОДНЫХ ВЕРОЯТНОСТЕЙ
В ОДНОРОДНЫХ ПО ВРЕМЕНИ ПРОЦЕССАХ МАРКОВА СО СЧЕТНЫМ ЧИСЛОМ СОСТОЯНИЙ
Интересующие нас переходные вероятности р^, (£) определены для всех действительных t > 0 и удовлетворяют соотношениям:
Ра № > 0,(I)
М(0=1.(П)
r - r I 0 при а =/= Р, р₽(0)=4= .1(Ш)
( 1 при а = р,
2^а(^)рр (t ) = Patt + fy(IV)
Кроме этих соотношений алгебраического характера, мы будем считать выполненным условие непрерывности
Р^(0->^(0) = 4 при t^o.(V)
Хотя в условии (V) требуется непрерывность функций р^ (£) Только при t = 0, легко видеть, что из совокупности условий (I)—(IV) вытекает непрерывность этих функций при всех t > 0.
В случае конечного числа состояний, т. е. в случае, когда а, р и у в формулах (I) —(V) пробегают лишь значения 1, 2, . . ., п, из (I)—(V) вытекает (см. [2]) дифференцируемость функций р^ (t) при всех ^ > 0 (при t = 0, естественным образом, только справа), т. е., в частности, существование пределов
*Г ^ а/,\ 11 •^ Pot ^)
«а = ["^"PaW^ = ^ ”Т^" ПРИ ₽^а-(2)
Пределы эти удовлетворяют соотношениям
^а = 2 &(3)
и имеют хорошо известный вероятностный смысл плотностей вероятности выхода из состояния с номером а (в случае аа) и плотностей вероятности перехода из состояния с номером а в состояние с номером [3 (в случае ^)- Сами вероятности перехода р«, (t) однозначно определяются плотностями перехода #а (по которым а^ вычисляются в соответствии с формулой (3)) как решения любой из двух систем дифференциальных уравнений
-£-Ра(Ц=~ «аРа(0 + ^Л^РуЦ),(4)
^-Pa(0= —Ра(0«₽ + ^рХ(04,(5)
удовлетворяющих начальным условиям (III).
После моей работы [1] системы уравнений (4) и (5) сделались основным аппаратом изучения переходных вероятностей ра (£) и в случае счетного множества состояний, т. е. в случае, когда индексы а, Р, у в формулах (I)—(V) пробегают все натуральные значения 1, 2, 3, . . . Однако в общей форме даже предварительные вопросы о существовании пределов (1) и (2), дифференцируемости переходных вероятностей р^ (£) при t > 0 и применимости к ним соотношения (3) и дифференциальных уравнений (4) и (5) долго оставались без ответа^ По-видимому, если ограничиться допущениями (I)—(V) и не вводить никаких дополнительных ограничений, дело обстоит в случае счетного числа состояний так:
Пределы аа всегда существуют, но имеются примеры, в которых они равны оо.
(Б) Пределы а« при Р ^ а всегда существуют и конечны.
Всегда
2 ^а й«э(6)
Р^а
но даже при конечных аа существуют примеры, в которых
^j ^а <С Ла«СО
(Г) При £ > О функции р$ (О всегда имеют конечные производные.
(Д) Если все аа конечны, то для справедливости системы уравнений (4) необходимо и достаточно соблюдение всех равенств (3).
(Е) Существуют примеры, где система уравнений (5) не имеет места, несмотря на то что все аа конечны и все равенства (3) выполнены.'
(Ж) Существуют примеры двух различных систем функций pl (t), удовлетворяющих требованиям (I)—(V) с одинаковыми и конечными аа и al, удовлетворяющими соотношениям (3).
Из перечисленных утверждений остается гипотетическим утверждение (Г). Остальные были частично доказаны Дубом (см. [3, 4]) и полностью устанавливаются в настоящей работе.
Доказательство предложения (А). Существование конечных или бесконечных пределов было доказано Дубом. Мы приведем другое вполне элементарное доказательство (доказательство Дуба использует меры в функциональных пространствах).
Положим
1 —_
^ = lim inf.(8)
Очевидно, что аа > 0. Если аа = оо, то
и аа = аа является искомым пределом.
;< Если аа < оо, то при’ любом £ > 0
(1 - Ра № < ^(Ю)
В самом деле, возьмем произвольное 0 и 0 и выберем такое
• (1 - Ра ШК < аа + е/2,(И)
Ра (s) > 1 — (е/2)£ при s<^H.(12)
Представим t в виде
t = nh + s,
где и > О целое и s < h. Тогда
■ Ра (О > kPa W Ра к^ > {1 - ^а + -у) /г}” (1 - -у *) > > {1 — п (а„ + -у-)й} (1 — у-*) > {1 — (а« + у") *} X X (11-<) > 1 — (а« + е) f,
(13)(13)(1-ра№<6а + 8.
(13)
(13)
Так как е> О произвольно, то из (13) вытекает (10). Из (10) и (8) вытекает (9). Таким образом, существование предела а« = *= —йа = —0а доказано и в случае конечности аа.
Вопрос о возможности случая аа = оо был оставлен в работах Дуба открытым. Положительный ответ на этот вопрос дает
Лемма. Пусть аа > 0 при а ^ 2 конечны и таковы, что
(14)
Тогда существует процесс Маркова, удовлетворяющий условиям (I)—(V), для которого аа имеют заданные значения аа при а > 2,
при а > 2, а ^ 0 > 2епри а > 2, а ^ 0 > 2еr-- #а — ^а
при а > 2, а ^ 0 > 2е
при а > 2, а ^ 0 > 2е
0,1 = ОО0,1 = ОО4 = 1 при р>2, р аа — О
0,1 = ОО
0,1 = ОО
Отвечающие этим требованиям р« (£) можно построить следующим образом. Положив .
Р; (о = Ф (о,(15)
допустим, что при 0 > 2
—аВР1(0.
что вместе с
pl (0) = о
дает
pf(#) = $<p(s)e'°S(t's)ds.(16)
i0
Требование
2p?W = p1W+ Sp?(O=i
РР>2
приводит к уравнению
ф(0 + $Ф($)2 6 °6<< $)^ = Ь(17)
О ₽=2
Условие (14) приводит к томуг что ядро
А: (т) = 2 е "^ ₽=2
имеет конечный интеграл
ОО00
s^dT-J^.
О6=2 Р
Поэтому уравнение (17) имеет непрерывное при £ > О решение ф (2), которое может быть вычислено обычным методом при помощи преобразования Фурье. Легко установить, что это решение непрерывно и удовлетворяет условиям
Ф (0) = 1, ф' (0) = —ОО.
Для окончания нашего построения остается к (15) и (16) присоединить при а > 2 значения ра (£), удовлетворяющие уравнениям ^
“^ Ра (0 = М>1 (0 &аРа (0>
^ Ра (0 = Ра (0 ^аРа (0»
"др Ра (0 — Ра (0 абР« (0»
которые легко интегрируются одно за другим (с начальными условиями (III)). Построенные вероятности ра (£) удовлетворяют всем требованиям (I)—(V).
Доказательство предложения (Б).
Лемма. Пусть при t ^ Н
1-р£(0<е» l-pho<8.(18)
Тогда при
nh ^ t < Н,,
где п > 0 целое,
Ра (0 > пр^ (Ь)(1 - Зе).(19)
Доказательство. Пусть
Л= 5 р^ (Л) рХ ^... р^1 р^ №, з=1,2,..., "к—1
к=1
Qk = т § Р« W рХ Р^Г W • • • pVi
Ki<fc—1
Легко установить, что
- Ра (О > А (0 > 3 М - ^) > (1;- ^Л(20)
к=1
Из (18) и (20) вытекает
Р < в/(1 — е).(21)
С другой стороны,
Q^P^W -^Рг>пW-Р,(22)
1=1
что вместе с (18) и (21) дает
Qk > 1 - е - s/(l — 8).(23)
Наконец,
P^t>>^Qx_xp^№p^t--kK\(24)
откуда вместе с (18) и (23) получается
Р&Ю > пр» № (1 — е — г^) (1 — 8) > пр» № (1 - Зе),
что и требовалось доказать.
Предположим теперь условия леммы выполненными для данного Н и рассмотрим К ^ Н, Пусть п есть целая часть Hlh и t = пИ.
Тогда
п > HI2K
и в силу (19)
> Р^ (0 > npl №^ - Зе),
т. е.
р№ _1,2
h nh{l — Зе) Н (1 — Зе) *
Следовательно,
а^ = limsup —-—оо.(2э)
Для любого t ^ Н выберем такое Hs чтобы
pl № > ^ (1 - 8),(26)
Hit < 8,(27)
и обозначим через п целую часть t!K. Тогда
nh ^ t (1 — s)
и в силу (19) при 8 < 1 tt rl
>а£ (1-48) (1-е).(28)
При любом 8, удовлетворяющем условиям 1 > 8 > О, неравенства (28) доказано, если ^^Я, где Н достаточно мало. Отсюда вместо с (25) вытекает, что
Ра^ -й й
j™—— =^=а^
Доказательство предложения (В) в части неравенства (6) вполне элементарно и может быть найдено в работах Дуба [3, 4].
Вот пример, в котором для а = 1 имеет место неравенство (7)у хотя все аа конечны.
При а > 3 вероятности pa (t), р^ (£) для 3 < р < а и /?а (О определяются из дифференциальных уравнений
4?PW = %^ р^ (0 - «₽^ W, Р = а - 1, а - 2,..., 3,
ЖРа^^^Ра^
(с обычными начальными условиями (III)), где а^^ 0 подобраны так? что-
<29> а=я а
При а > 2 и р = 1 или Р > а
Ра (0 = 0.
рХ (0 = 1.
рХ (t) = e-t.
При 0 > 1 t p^t)= e-sp»(s)ds, о
где
Р* (0 = Иш р^ (t). а-*оо
Так как для построенных р« (t)
а1=-[^р№]^=^
“^["JrPi^Jt,^0 при всех Р^1’ то
S а? < «г
Можно проверить, что условия (I)—(V) в построенном примере выполнены.
Предл о ж е н и е (Д) доказано Дубом (см. [4, VIII]). На только что рассмотренном примере можно непосредственно убедиться, что в нем уравнения (4) неприменимы. В самом деле, в этом примере »! = 1 и »i = 0 при р #= 1. Поэтому при а = 1 уравнения (4) имеют вид
dp^tydt = —р? (о
и вместе с pi (0) = 0 приводят к абсурдному выводу, что pt № = о
при всех Р #= 1.
Доказательство предложений (Е) и ( К) дано Дубом (см. [4, теорема 2.2]).
ЛИТЕРАТУРА
Колмогоров А. Н. Об аналитических методах в теории вероятностей.— УМН, 1938, вып. 5, с. 5—41.
Doeblin W. Sur Fequation matricielle Л(<+8^ = A^A^X — Bull. sci. math., 1938, vol. 62, p. 21—32.
Doob J. L. Topics in the theory of Markoff chains.— Trans. Amer. Math. Soc., 1942, vol. 52, p. 37—64.
Doob J. L. Markoff chains — denumerable case.— Trans. Amer. Math. Soc., 1945, vol. 58, p. 455—473.
40
ОБОБЩЕНИЕ ФОРМУЛЫ ПУАССОНАНА СЛУЧАИ ВЫБОРКИ
ИЗ КОНЕЧНОЙ совокупности
Пусть в урне находится N шаров, из которых М белых и N — М черных. Если из урны вынуть наудачу п шаров, то вероятность получить среди них т белых равна
Ри (m/N, М) = C№"^ICnN. (1)
Несмотря на элементарность формулы (1), вычисления по ней затруднительны и ее заменяют приближенными соотношениями
Pn (m/N, М) ~ Р* (m/N, М),(2>
где Р* является тем или иным выражением, которое легче вычислить или использовать в дальнейших выводах, чем точное выражение Р. Во всем дальнейшем мы будем указывать условия, при которых соотношение (2) делается в пределе точным в смысле
т—п
2 |р_ р*|_>0.(3>
т=о
Чаще всего используют приближение лапласовского типа
Ри (m/N, М) = e^m-awo^Ри (m/N, М) = e^m-awo^(4)(4)
Ри (m/N, М) = e^m-awo^
Ри (m/N, М) = e^m-awo^
(4)
(4)
где
(5)(5)а = пр,
(5)
(5)
а2 = пр (1 - р) <N - n)l(N - 1),(6)
(7)(7)р = MIN.
(7)
(7)
Наиболее широко известные нам условия применимости приближения (4) таковы Ч
X = nlN < Хо < 1, а = пр -> оо, п (1 — р) -> оо, (8)
где Хо предполагается постоянным.
Условие X^Xq^I не является стеснительным, так как при
А > V2 можно перейти к «дополнительной» выборке из остающихся п' = N — п
шаров, для которой X' < 1/2.
Поэтому из всех случаев, в которых
Чг -> оо,
остается рассмотреть лишь случаи ограниченного а — пр ^ ограниченного п (1 — р). Второй из этих случаев сводится к первому при помощи переименования белых шаров в черные, а черных — в белые. Задачей настоящей заметки является указать, что в случае
п-^оо,а = пр^с(9)
законно следующее обобщенное пуассоновское приближение;
Р* (m/N, И) = ° (» - М (« - 2Х).. .Ja - (m - 1) X) ^
где
(И)(И)со = —[log (1 — Х)]/Х.
(И)
(И)
Приближение (10) законно и при более широких условиях. Именно для его применимости в смысле (3) достаточно условия
(12)
При помощи легко проверяемого тождества
а (а — X) (а — 2Х)... (а — (т — 1) X)а (а — X) (а — 2Х)... (а — (т — 1) X)m! (1 — ^т и известной двойственностиPn (m!N, М) = Рм (m/N, п)m! (1 — ^т и известной двойственностиPn (m!N, М) = Рм (m/N, п)е-^ = СмХт (1 — Xf^mе-^ = СмХт (1 — Xf^m(13)(13)(14)(14)
а (а — X) (а — 2Х)... (а — (т — 1) X)
а (а — X) (а — 2Х)... (а — (т — 1) X)
m! (1 — ^т и известной двойственности
Pn (m!N, М) = Рм (m/N, п)
m! (1 — ^т и известной двойственности
Pn (m!N, М) = Рм (m/N, п)
е-^ = СмХт (1 — Xf^m
е-^ = СмХт (1 — Xf^m
(13)
(13)
(14)
(14)
(15)(15)(16)(16)
(15)
(15)
(16)
(16)
вопрос сводится к доказательству того, что биномиальное приближение‘
Р. (m/N, М) = С™рт (1 - Ру-тприменимо в смысле (3) при условии
Х^О.
41
НЕКОТОРЫЕ РАБОТЫ ПОСЛЕДНИХ ЛЕТВ ОБЛАСТИ ПРЕДЕЛЬНЫХ ТЕОРЕМТЕОРИИ ВЕРОЯТНОСТЕЙ
введение
В середине 40-х годов существовало мнение, что проблематика предельных теорем классического типа (т. е. проблематика предельного поведения распределений сумм большого числа независимых или связанных в цепь Маркова слагаемых) в основном закончена. Написанная мной совместно с Б. В. Гнеденко монография [1] имела в виду подведение итогов работы предшествующих лет. В действительности, однако, с конца 40-х годов наблюдается значительное оживление работы именно в этих классических направлениях. Объясняется это несколькими обстоятельствами. Во-первых, стало выясняться, что с практической точки зрения точность оценок остаточных членов, полученных до настоящего времени, далеко не достаточна. Во-вторых, некоторые задачи,, поддававшиеся ранее решению лишь при сложных и весьма ограниченных условиях, неожиданно получили весьма простое и вполне законченное (в смысле необходимых и достаточных условий) решение. К такого рода вопросам относится, например, задача «локализации» предельных теорем, которая оказалась для случая одинаково распределенных независимых слагаемых и для случая распределения числа попаданий в отдельные состояния в однородной цепи Маркова допускающей исчерпывающее решение. •
Естественно, что эти успехи возбуждают желание добиться столь же окончательных результатов и в ряде других случаев. Наконец, сами постановки задач благодаря введению надлежащих расстояний между распределениями и заимствованной из теории наилучших приближений идеи вычисления точных верхних границ остаточных членов получили большую отточенность и прозрачность.
В настоящей статье дается краткое изложение результатов некоторых работ последних лет, которые могут иллюстрировать указанные сейчас новые тенденции. Результаты, изложенные в монографии [1], предполагаются читателю известными, хотя иногда и упоминаются ради связности изложения.
§ 1
ОЦЕНКА БЛИЗОСТИ РАСПРЕДЕЛЕНИЙ
И РАЗЛИЧНЫЕ ВИДЫ СХОДИМОСТИ РАСПРЕДЕЛЕНИЙ
Если £ есть случайный элемент некоторого множества X, то распределением вероятностей случайного элемента £ называется
функция
Р W = Р«Е Л},
определенная для надлежащей системы подмножества А множества X и указывающая вероятность попадания £ на А. В тех случаях, когда X есть метрическое пространство (например, числовая прямая R, координатное тг-мерное пространство 2?п), мы будем считать, что Р (Л) определено для S-множеств и только для них. При этом условии, как известно, в одномерном случае Р (Л) однозначно определяется соответствующей функцией распределения
F (я) = Р {g < ^}.
Наиболее естественно считать два распределения Рг и Р2 близкими, если вероятности Рг( А) и Р2 И) близки для всех входящих в рассмотрение множеств А. Этому пониманию близости соответствует расстояние между распределениями
Pi (Л, Л) = sup I Pt (Л) - Р. (Л) |,
А
где верхняя грань берется по всем Л, для которых вероятности считаются определенными. В одномерном случае рх (РХ) Р^ равно половине полной вариации разности Рг — Р2:
Pi (Рц Pi) = V2 var Ц\ — F^.
Сходимость распределений Рп к распределению Р, определенную требованием
Pi (Рп, Р) о,
будем называть сходимостью по вариации. Эта сходимость является наиболее сильной из сходимостей, имеющих прямой вероятностный смысл: если два распределения достаточно близки в смысле расстояния ри то во всех реальных задачах, имеющих дело с ограниченным (хотя бы и весьма большим) числом испытаний, распределения Pi и Р2 практически равноценны х.
В одномерном случае иногда нас могут интересовать только вероятности Р (Д) для интервалов. Можно было бы определить новое расстояние р' (Ри Р2) формулой
Р' (Ръ Р2) = sup I Рг (А) - Р2 (A) I,
где верхняя грань берется по всем интервалам Л. Легко, однако, доказывается, что всегда
sup I Fx — Fa К р' (Рь Р^ < 2sup I F^ — Fa |.
Поэтому употребление расстояния р' в основном равноценно пользованию расстоянием
р2 (Pv Pa) = sup I Fi — Fa |.
Очевидно, что всегда
р2 (^ 1» ^2) ^ Pi Фи ^2)-
Сходимость в смысле
Р2 (Рт Р) -^ О
мы будем называть сильной сходимостью распределений. Требование -сильной сходимости слабее, чем требование сходимости по вариации.
Практически случайные величины обычно измеряются и бывают интересны лишь с той или иной точностью. С этой точки зрения введенные выше расстояния рг и р2 иногда преувеличивают практическую значимость различия между двумя распределениями. Например^ для вырожденных распределений
. fl, если хЕ Л,
если ^ ^ Л,
при а ^= Ъ всегда
Р1 (^а» ^b) = Р2 ^ал ^b) = ^*
Между тем в случае, когда разность b — а мала, практически распределения еа и 8Ь естественно считать близкими друг к другу.
Можно подойти к уточнению сделанного замечания так. Обозначим через Р ^ распределение величины
П = £ + 6,
где величина £ подчинена распределению Р, а величина 6 (ошибка измерения) независима от £ и подчинена нормальному распределению со средним значением 0 и дисперсией а2. Введем две новые сходимости требованиями:
Р^-^р^ если при любом о > 0
Pi^, P^^Q;
Рп-+ Р, если при любом о ^> 0
Рз^, Р^)-*0.
Эти формально различные сходимости оказываются, однако, в действительности равносильными хорошо известной слабой сходимости распределений.
Мы ограничились распределениями на прямой и несколько произвольно ввели ошибки, подчиненные нормальному распределению вероятностей. Можно, однако, думать, что и в более общей обстановке слабая сходимость хорошо соответствует идее близости распределений, учитывающей практическую равноценность (или неотличимость) близких точек множества X.
Слабая сходимость слабее сходимости по вариации (в любом метрическом пространстве X), а также слабее сильной сходимости в смысле расстояния р2 (на числовой прямой). Слабую сходимость распределений в любом метрическом пространстве можно определить при помощи надлежащим образом введенного расстояния. На числовой прямой для этой цели может служить расстояние Леви L (РП1 Р) (см. [1, § 91). Однако все такие расстояния искусственны и неинвариантны по отношению к простейшим преобразованиям пространства X (например, преобразованиям подобия на числовой прямой). Этим слабая сходимость отличается от сходимости по вариации и определенной выше (для случая числовой Прямой) сильной сходимости, которые связаны с вполне естественными определениями расстояния между распределениями .
§ 2ЗАПАС ВОЗМОЖНЫХ ПРЕДЕЛЬНЫХ РАСПРЕДЕЛЕНИЙ.СЕМЕЙСТВА РАСПРЕДЕЛЕНИЙ,
' ДОСТАТОЧНЫЕ ДЛЯ РАВНОМЕРНОЙ АППРОКСИМАЦИИ
В течение долгого времени общие предельные теоремы находились ощупью. Для какого-либо частного случая удавалось рассчитать предельное распределение, и только после этого ставилась задача нахождения общих условий сходимости к этому распределению. Первым известным мне примером другого подхода к делу является теорема Леви о предельных распределениях для последовательных сумм
= ^1 + ^2 + • • • + ^п членов последовательности
?i> ?2?* • •» ^ri-
независимых одинаково распределенных слагаемых (см. [1,. § 33])» Теорема эта заключается в том, что распределения величин
(^п — Апувп.
могут слабо сходиться только к устойчивому распределению и притом (при надлежащем выборе распределения слагаемых £п) к любому. Только значительно позднее В. Деблин и Б. В. Гнеденко до конца исследовали условия, при которых такая сходимость имеет место вообще или к тому или иному определенному устойчивому закону (см. [1, § 351).
Еще большее значение имеет теорема А. Я. Хинчина, характеризующая класс возможных предельных законов для распределений сумм
^п ^1 “Ь ^2 • • • “Г ^птп
независимых «бесконечно малых» слагаемых (см. [1, § 24]). Класс этот в силу теоремы Хинчина совпадает с классом неограниченно делимых распределений . В теоремах Леви и Хинчина речь идет о слабой сходимости. Ясно, что при переходе к той или иной более сильной сходимости класс возможных предельных законов мог бы только сузиться. В действительности при переходе к сильной сходимости в смысле расстояния р2 или даже к сходимости по вариации он остается одним и тем же.
Существует вполне обоснованное мнение, что для случая сумм независимых слагаемых теорема Хинчина указывает наиболее широкий класс представляющих интерес предельных распределений. Вскоре после установления этой теоремы Б. В. Гнеденко было закончено изучение условий сходимости к любому неограниченно делимому распределению (см. [1, § 25—271), чем вопрос о предельном поведении сумм возрастающего числа независимых слагаемых, каждое из которых «предельно пренебрегаемо», был с точки зрения сходимости в существенном исчерпан.
Для схем с зависимыми испытаниями аналогичные вопросы изучены еще мало. В виде образца вполне законченного исследования для сравнительно частной схемы можно указать на недавнюю работу Р. Л. Добрушина [2]. Здесь исследован случай сумм
£п — 5п1 + £п2 + . . . + ^пп»
где величины £пк принимают только два значения 0 и 1 и связаны в пределах каждой серии в простую однородную цепь Маркова с матрицей переходных вероятностей ■
зависящей только от номера серии п^ но не от номера к испытания в серии. Если бы величины £пк были независимы (т. е. в случае рп = = ^п), в качестве предельных распределений для величин
Лп = (^ - АД!Вп
могли бы появиться только вырожденное распределение еп, нормальное распределение, распределение Пуассона и распределения, которые могут быть получены из этих трех линейными преобразованиями . В случае произвольных ри и qn задача становится много сложнее и перечисление всех возможных предельных распределений величин цп требует для своего решения привлечения ряда новых остроумных соображений.
Исследование аналогичных вопросов для случая цепей Маркова с любым конечным числом состояний (и притом не обязательно однородных) начато в работах Купмена (см., например, [14]). Было бы весьма интересно, хотя бы для однородного случая с любым числом состояний 5, получить столь же законченные результаты, как полученные Р. Л. Добрушиным в случае 5 = 2.
При оценке близости распределений с помощью того или иного расстояния между распределениями р (Рт, Р2) может быть поставлен вопрос о сходимости не к индивидуальному распределению, а к целому классу распределений. Например, можно поставить вопрос о том, обязана ли сумма
5 + ^2 + • • • + 5п
независимых одинаково распределенных слагаемых ^ при п -^ оо приобретать распределение, близкое к неограниченно делимому в смысле какого-либо расстояния р. Более точно вопрос заключается в том, существует ли для каждого 8 > О такое N, что при п^ N для распределения Р суммы £ непременно найдется неограниченно делимое распределение, удовлетворяющее условию 8:
Р(Л 5) <8.
Пока имеется мало работ, в которых подобного рода задачи решались бы в обстановке, существенно несводимой к предельным теоремам обычного типа. Отметим, что в указанной выше работе Р. Л. Доб- рушина вопрос об аппроксимации распределений сумм £п решен для рассмотренного им случая и в смысле такого рода равномерной аппроксимации (при тг оо) для расстояния pv
Результат Добрушина довольно сложен из-за необходимости перечисления большого числа специальных распределений. Его принципиальную сторону можно пояснить на частном случае независимых величин ^, который несколько ранее был рассмотрен Ю. В. Прохоровым [3]. В этом случае речь идет просто о равномерной аппроксимации в смысле расстояния рг биномиального распределения В^ задаваемого формулой
Р {£ = z} = eV (1 - РГХ.
Обозначим через Lnp приближение к Впр, употребляемое в локальной теореме Лапласа, через Рпр приближение к Впр по Пуассону, употребляемое при значениях вероятности р, близких к нулю, и через Рир приближение, которое получится, если приближать по Пуассону величину п — £ (что естественно при р, близких к единице). Разумно пользоваться каждым из этих приближений там, где соответствующее расстояние
pi (^пр> ^Пр\№\Впр, Pupil pl^npi ^пр)
меньше. Теорема Прохорова заключается в том, что
^ир = min {pi (В пр, Lnp\ pi (Bnp, Pnpil pl (Bnp, ^np))
стремится к нулю при п -> оо равномерно по р. Таким образом семейство распределений Lnpi Pup и РПр оказывается достаточным для равномерной аппроксимации распределений Впр при п-^оо.
В более простой обстановке, когда аппроксимирующими распределениями являются линейные преобразования нормального распределения, задаваемого функцией распределения
Ф(л:) = L=-^-х2/2 дх
а в качестве расстояния берется расстояние р2, такого рода теоремы о равномерной аппроксимации по существу не являются новостью (см. § 4). Но сознательныеипоиски семейств, достаточных для равномерной аппроксимации в более сложных случаях, начались недавно и в этом направлении остается еще очень много сделать.
ЛОКАЛЬНЫЕ ТЕОРЕМЫ
И СХОДИМОСТЬ ПО ВАРИАЦИИ
Любое распределение Р (Л) на прямой записывается в виде
р^ = j р(^)^ж +1р(Л),
А
где р (х) — соответствующая плотность вероятности, а ф (Л) — сингулярная часть распределения. Если ф = О, то распределение Р непрерывно. Если хотя бы одно из распределений Рг и Р2 непрерывно, то имеют место неравенства'
рр
т J I Pi — Ра | ^ < pi (Pi, РаХ \ IР1 — Ра | dx.
—ое—оо
Поэтому сходимость по вариации р^Т^, Р)-> 0 в случае непрерывности предельного распределения Р равносильна сходимости
в среднем плотностей:
$ \рп —
Локальными теоремами о сходимости плотностей вероятности к плотности вероятности предельного распределения много занимались . При этом обычно интересовались условиями равномерной сходимости плотностей. Как было отмечено выше, собственно с вероятностной точки зрения это излишне. В работе Ю. В. Прохорова [4] показано, что переход к сходимости по вариации (т. е. в рассматриваемом сейчас случае непрерывного предельного распределения — к сходимости плотностей в среднем) приводит к возможности получения очень простых необходимых и достаточных условий сходимости для случая одинаково распределенных независимых слагаемых. Именно им было показано, что в условиях приведенной выше теоремы Леви для сходимости распределений величин (£п — ЛП)/5П к устойчивому распределению необходима и достаточна совокупность двух требований: 1) должна иметься слабая сходимость к 5, 2) при каком-либо п распределение величины £п должно иметь не равную тождественно нулю непрерывную компоненту.
Рядом с локальными теоремами для плотностей принято рассматривать локальные теоремы дискретного арифметического типа для «решетчатых» распределений (см. [1, § 48—50]). Локальные теоремы этого типа связаны с операцией перенесения непрерывного распределения с плотностью р (ж) на «решетку» точек
х^ = кН + а.*
Операцию эту можно осуществить, например, приписывая каждой точке а^ решетки вероятность yc^+/i/2
Р^ = ^ p^dx.
х^—ЫЪ
Если в обстановке теоремы Леви величины ^п решетчаты с шагом Нп то величины
Пп = (Sn — A^IB^
будут решетчатыми с шагом
И^hl Вп.
Б. В. Гнеденко [5] было показано, что в случае, если шаг Н для величин ^п максимален и распределения величин цп слабо сходятся к устойчивому распределению 5, то расстояние по вариации между распределением Еи величины цп и распределением 5П, получаю-
щимся при перенесении распределения S на решетку возможных значений величины цт, стремится при п -> оо к нулю:
Р ^п) —0.
Теоремы Прохорова и Гнеденко ограничиваются случаем одинаково распределенных слагаемых. Но во всяком случае они показывают, что в направлении «локализации» предельных теорем возможны значительно более общие и законченные результаты, чем это- казалось ранее. В заключение этого параграфа отметим еще работы по арифметическим многомерным локальным теоремам [6—10]. Первые три [6—8] из них посвящены многомерному обобщению изложенного результата Гнеденко. Четвертая [9] исчерпывающим образом решает вопрос об аппроксимации по вариации распределения числа попаданий в отдельные состояния за h, шагов в случае однородной цепи Маркова с конечным числом состояний. Пятая [10] содержит весьма глубокие, хотя и менее окончательные результаты для неоднородных цепей Маркова.
ТОЧНАЯ ОЦЕНКА ОСТАТОЧНЫХ ЧЛЕНОВИ УЛУЧШЕНИЕ ПРИБЛИЖЕНИЙ
В работе Ю. В. Прохорова [3], кроме величины
^пр ^^ min {pi(5np, ^ПР)? pl (^пр» F-npb pi ("®пр» ^пр^ 1 рассмотрена величина
^п Slip ^пр
0<р<1
и доказано, что
8n =4- о (/г'2/»),
где
X = (-I)7,-^ (1 + 4е-'А)2/. e-V. = 0,42...
Таким образом, в смысле расстояния по вариации найдена асимптотически точная оценка наибольшего отклонения (при заданном п и переменном р) биномиального распределения от наиболее подходящего из приближений Lnpi Рпр и Рпр.
Этот довольно узкий результат может служить примером намечающейся в работах последнего десятилетия техники оценки остаточных членов. Для сумм произвольно распределенных независимых слагаемых вполне законченных результатов такого типа пока не существует. Мы рассмотрим те из возникающих здесь задач, которые- связаны с так называемым ляпуновским отношением.
Для простоты обозначений предположим, что сумма
С = L + ^2 + . . . + W
’независимых слагаемых ^ нормирована, т. е. имеет математическое ожидание 0 и дисперсию 1. Тогда «ляпуновское отношение» запишется в виде
L=^ М|^-М^|».
Хорошо известно, что при L -> О для функции распределения F (z)
♦суммы £ имеет место предельное соотношение г
«Введем в рассмотрение величины
р (Z, z) = sup I F (z) — Ф (z) |,|
L=l
p(l) = sup p (Z, z) = sup *p2 (Л Ф)- гL=l
Крамером было показано, что
Сг1 ^С Р (Z) <С ^2^1
где ct и ея — положительные константы. Естественно поэтому рас- -смотреть отношение p(Z)/Z, его верхнюю грань
Р (И'
с = sup
и его верхний предел
* v Р(0
с* = limsup -■■ ■ ..
i-*o 1
Оценки
р2 ^Ег Ф) < cL. р2 (F, Ф) < c*L + о (L)
будут в -отношении множителей при L наилучшими из возможных. Очевидно, что
с* ^ с.
После работы Берри [15], рассмотревшего более специальную задачу, Эссеен [16] доказал, что
1//2л < с < 15/2.
Вопросы возможно более точной оценки или точного вычисления констант с и с* и особенно функций
/ XР z)IF (z) — Ф (z) I
с(z) = sup — ’ ' = sup~,
* / \1 • Р G, z) 1.[ F (z) — Ф (z) I
с* (z) = lim sup -^-V—7 = I im sup J— z-*o 1L
представляются чрезвычайно интересными.
Если на характер слагаемых ^ наложить те или иные дополнительные ограничения, то значения с и с* и функций с^ и с* (z) могут уменьшиться. В предположении симметричных распределений слагаемых и некоторых других ограничений, необходимость которых неясна, 10. В. Линник [11] доказал, что
с* = —г—, с* (z) = — е^^.
Возможно, что эти формулы верны при единственном ограничении симметричности распределений слагаемых |. Что же касается первой из этих формул, то возможно, что она верна и в общем случае» Не опровергнута даже гипотеза
с = 1/У"2ле
Было бы очень важно исследовать с той же точки зрения (получения равномерно действующих точных или асимптотически точных оценок остаточных членов) также и приближения для распределений сумм большого числа независимых слагаемых, использующие поправки к нормальному распределению, зависящие от старших моментов и выражающиеся через многочлены Чебышева-—Эрмита. В этом направлении еще почти ничего не сделано. Зато следует отметить замечательную работу С. X. Сираждинова [13], в которой локальные теоремы с уточнениями, зависящими от старших моментов и дающими остаточные члены порядка Мпа со сколь угодно большим показателем а, распространены на распределение числа попаданий за п шагов в отдельные состояния в однородной цепи Маркова с конечным числом состояний.
3 сентября 1953 г.
ЛИТЕРАТУРА
Гнеденко Б. В., Колмогоров А. Н. Предельные распределения для сумм независимых случайных величин. М.; Л.: Гостехиздат, 1949. 264 с.
Добрушин Р. Л.— Изв. АН СССР. Сер. мат., 1953, т. 17, с. 285.
Прохоров Ю. В.— УМН, 1953, т. 8, вып. 3, с. 135—142.
Прохоров Ю. В.— ДАН СССР, 1952, т. 83, с. 797—800.
Гнеденко Б. В.— ДАН СССР, 1950, т. 71, с. 425—428.
Мейзлер Д. Гм Парасюк О. С., Рвачева Е. Л.— ДАН СССР, 1948, т. 60,. с. 1127—1128.
Мейзлер Д. Гм Парасюк О. С., Рвачева Е. Л.— Укр. мат. журн., 1949,.
с. 9—20.
Рвачева Е. Л.— Тр. Ин-та математики и механики АН УзССР, 1953, вып. 10
1, с. 106—121.
Колмогоров А. Н.— Изв. АН СССР. Сер. мат., 1949, т. 13, с. 281—300.
Линник Ю. В., Сапогов И. А.— Изв. АН СССР. Сер. мат., 1949, т. 13 с. 533—566.’
Линник Ю. В.— Изв. АН СССР. Сер. мат., 1947, т. 11, с. 111—138.
Прохоров Ю. В.— Изв. АН СССР. Сер. мат., 1952, т. 16, с. 281—292.
Сираждинов С. X.— ДАН СССР, 1952, т. 84, с. 1143—1146.
Koopman В. О.— Trans. Amer. Math. Soc., 1951, vol. 70, p. 277—290.
Berry A. G.— Trans. Amer. Math. Soc., 1941, vol. 49, p. 122—136.
Esseen C. G.— Acta math., 1945, vol. 77, p. 1—125.
42
О СХОДИМОСТИ А.В.СКОРОХОДА*
При описании временного течения реального процесса с по- -мощью функции / (^) от времени t, принимающей значения из надлежащим образом выбранного «фазового пространства» X, часто оказывается естественным и законным допущение, что функция / имеет только разрывы первого рода (скачки). Для детального исследования такого рода процессов оказывается полезным введение в множестве D функций с разрывами первого рода (которые для определенности мы будем рассматривать на единичном отрезке 0 ^ t ^ 1) соответствующей топологии.
Топология равномерной сходимости, естественная при изучении ^непрерывных процессов, оказывается при изучении процессов с разрывами первого рода слишком сильной. Например, естественно желать, чтобы последовательность функций
( ^1 при t<tu.
П I ^2 при t > tn,■
где tu £0 при п -> оо, сходилась к функции
f Х1 при t <*
( #2 ПрИ
так как”функцияУп при большом п отличается от функции / лишь малым сдвигом момента скачка из состояния xv в состояние х^. Как известно, в пространстве равномерной сходимости такая сходимость при хг Ф хг не имеет места.
С другой стороны, топология в D не должна быть слишком слабой, так как желательно, чтобы наиболее существенные свойства -^функции f Ez D сохранялись при предельном переходе. Например,
желательно, чтобы в предположений сходимости /п к / из tn ~ts
fn ktn + 0) — /п (^n — 0) -> С 5^= 0 вытекало, что
/ kt + 0) - / kt - 0) - с.
Уже соблюдение высказанных сейчас двух пожеланий требует введения в D новой топологии, специально приспособленной к потребностям исследования процессов с разрывами первого рода. Такого рода топология предложена в работах [1, 2] А. В. Скороходом. В этих работах А. В. Скороход для случая действительных функций / (£) (т. е. для случая, когда X есть действительная прямая) определяет в D некоторую сходимость (мы будем называть ее 5-сходимостью) и отмечает, что эта сходимость превращает множество D в хаусдорфово топологическое пространство. Далее в § 2 дается новое определение 5-сходимости, применимое в предположении, что X есть произвольное метрическое пространство, и обнаруживается, что возникающее таким образом топологическое пространство SD метризуемо. Введенное в § 2 с этой целью расстояние s (/, g) и соответствующая ему равномерная топология представляются мне весьма естественными и удобными в применениях, несмотря на то что даже в случае полного пространства X метрическое пространство sD не полно. В конце § 2 дается одно простое необходимое и достаточное условие 5-компактности.
Результаты § 3 (как и теорема IV § 2) существенно опираются на предположение, что фазовое пространство X полно (для простоты мы ei^o в дальнейшем принимаем с самого начала).
В § 3 пополнение метрического пространства sD получает конкретную интерпретацию при помощи S-кривых в пространстве R = = Т х Т. Эта интерпретация используется для доказательства возможности ввести в D другое расстояние $* (/, g), порождающее ту же самую скороходовскую сходимость и топологию, но превращающее D в полное метрическое пространство s*D. При изложении результатов этой работы в семинаре по теории вероятностей в Московском университете я поставил задачу возможно более простого явного построения расстояния s* (/, g). Эта задача была решена Ю. В. Прохоровым [3].
§ 1 посвящен некоторым вспомогательным рассмотрениям, польза которых обнаруживается в § 3. Содержание § 2 можно было бы с таким же удобством изложить и не вводя множества 0, а пользуясь обычной техникой изображения процессов с разрывами первого Рода, например при помощи непрерывных справа функций
Г (t) = f(t + 0)
Действительного переменного t.
13 А. Н. Колмогоров
•§ 1
КЛАСС ФУНКЦИЙ D = Dx
При описании реальных процессов с помощью функций / ^ с разрывами первого рода обычно можно считать, что реальные явления, происходящие в момент скачка 1, полностью описываются предельными значениями слева и справа: / (^ — 0) и / (t — 0). Только в порядке математической условности само значение / Ц) в точке скачка определяется при помощи одного из соглашений
7 (0 = f (* — 0) или / (0 = / 0 + 0),
или в случае действительных функций соглашением
/(0 = V2 [/ « — 0) +/U + 0)1.
По существу логичнее вообще рассматривать функции / (0) от символов 0 вида t — 0 или t + 0 и лишь в случае / (t — 0) = / (t Л 0) обозначать их общее значение через / (^), считая / (£) неопределенным в случае f (t — 0) Ф / (t + 0). При изложении теории О-кривых,, излагаемой в § 3, такой подход к делу имеет и формальные преимущества: некоторая дополнительная затрата труда в § 1 окупается более сжатым и прозрачным изложением § 3.
Будем обозначать через 0 множество символов 9 одного из двух видов:
9 '= t - 0,0< t < 1,
- 9 = t + 0,0< К 1.
Отношения порядка между элементами 9 ЕЕ 0 устанавливаются при помощи соглашений
t ± 0 < tr + 0, если t < f,
t- 0< t + 0.
Будем считать, что
9n -> t — 0,
если для любого 8 > 0 существует такое п (е), что при п > п (е) выполняются неравенства
t — 8 -j- 0 -еЕ 9n -еЕ t — 0,
и считать, что
9П^^ + о;
если для любого 8 )> 0 существует такое п ^Y что при п п (е) выполняются неравенства
t 4- 0 ^ 9n ^ t 0- е — 0.
Определенная таким образом сходимость превращает множество 0 в бикомпактное топологическое пространство (см. [5]). То обстоятельство, что это пространство неметризуемо, не помешает его употреблению в дальнейших построениях.
Класс Dx по определению состоит из функций / (0), определенных на 6 со значениями из метрического пространства X, непрерывных в том смысле, что из
е,г-*е
вытекает
/ (9п)/ (6)..
Легко доказать, что для любой функции tED = Dx функция
Г (0 = / (^ + 0)
определена при всех t из полусегмента 0 ^ t < 1, непрерывна справа п имеет в каждой точке t полусегмента 0 < t ^ 1 предельное значение слева_
г а - о) = f ^ - о).
Ясно, что соответствие между функциями / ЕЕ D и функциями /\ обладающими описанными свойствами, взаимно однозначно.
Для любого множества М £ 0 определим «колебание» функции / ЕЕ D на М формулой
со/ (Л/) = sup р (^, х'\ х^х'^М
Специальный интерес будут далее представлять «сегменты» пространства 0, т. е. множества
[6', 0'1 - {0; 6' < 0 < 0"},
В частности, сегмент It — 0, t + 0] состоит из двух точек — своих концов t — 0 и t + 0. Для него
со/ It - 0, t + 0] = | / (t + 0) - / (t - 0) |.
Легко доказывается
Теорема I. Для того чтобы определенная на 0 функция f (9) со значениями из X принадлежала классу D, необходимо и достаточно существование при любом s ^> 0 таких
0 = t0 < tr < . . . < tu = 1,
что при всех к = 1, 2, . . ., п выполнено неравенство
toj [^-i0, t^ — 0] <С е.
§ 2S-СХОДИМОСТЬ И РАССТОЯНИЕ s (/, g)
Определение 1. Две функции f ЕЕ D и g ЕЕ D называются &-эквивалентними, если существуют такие г и
О = t0 < tt < . . . < tT = 1,0 = t'o < ty < . . . < tr = 1,
что при k = 1, 2, . . ., г соблюдаются неравенства
I I < 8,
sup р(/(0), g(9'))<8.
0£[^-1+О, о]
е^ L^+o, 4-о]
Е-Эквивалентность далее обозначается символом
f~g.
Определение 2. Последовательность функций fn^D называется S-сходящейся к функции / Е D, если для любого е > О существует такое п (е), что при n > п (е)
/п~/.
S'-сходимость далее обозначается символом
Это и есть сходимость, введенная в случае, когда X есть числовая прямая, А. В. Скороходом.
Положим теперь‘
s (/, g) = inf 8.
Теорема II. Множество D с расстоянием s (/, g) является метрическим пространством.
В самом деле, легко видеть, что s (/, g) для любых t ED й gED действительно и неотрицательно. Из теоремы I вытекает, что
s (/, /) - 0.
Без большого труда можно установить, что
з (.f, g) = 0
только в случае f = g. Симметричность расстояния s (/, g) очевидна в силу его определения. Выполнение неравенства
S (/, Й) < 8 (/, g) + 8 (g, h)
вытекает из следующей легко доказываемой леммы:
Лемма. Если 88'
f~g,g~K
то ' е+е' h.
Очевидна
Теорема III. Для сходимости
необходимо и достаточно выполнение условия
S (/п, /) -> 0.
Если только пространство X содержит две различные точки хг Ф х^ то метрическое пространство sD не является полным, так как при•
tn <^ ^0 ^^ I» tu >- ^о,
последовательность функций
Xi при 0 4- 0 ^ 9 ^ tn —.0,
/п(9) =/п(9) =х^ при tu + 0 ^ 9 ^ to — 0,
/п(9) =
/п(9) =
Xi при ^о + О<9<1-О
удовлетворяет критерию Коши, но не является сходящейся. В связи с этим интересна
Теорема IV. Для того чтобы последовательность функций fn^D^ удовлетворяющая критерию Коши
lim sup s (/п, /п+р) = 0, n-»oo р^о
сходилась к функции / E^D, необходимо и достаточно условие:
(*) для любого 8^0 существует такое 6 )> О, что при каждом п и t (0; 1).
со/п Ю + 0, 6 - 0] < 8, со/п [1-6+0, 1 - 0] < 8,
^fn Vt + 0, t + 6 - 0] < 8, где‘
со*/ [9, 9'1 = inf max {со/ [9, t — 0], со/ (^ + 0, 9')}. t
Следует отметить, что величины со*/ сходны с величинами у^ уже применявшимися при изучении функций класса D Е. Б. Дын- киным в работе [4].
К теореме IV тесно примыкает
Т е о р е м а V. Для того чтобы множество М е D было компактно в пространстве SD скороходовской сходимости, необходимо и достаточно одновременное выполнение двух условий;
существует такой компакт KeD, что все значения /(9) функции t е М в точках 9 ЕЕ 0 принадлежат К;
для любого 8 > 0 существует такое 6 > 0, что из j ЕН М вытекают неравенства
со/ [0 + 0, б - 0] < 8, со/ [1 - 6 + 0, 1 - 0] < 8,
со*/ И + 0, t + 6 — 0] < 8.
§ 3ГРАФИКИ ФУНКЦИЙ КЛАССА D и D-КРИВЫЕВ ПРОСТРАНСТВЕ R = Т X Т
Будем обозначать буквой Т единичный сегмент
Т = Vt; 0< t < 1}
действительной прямой и буквой R прямое произведение
R = Т X Т = {(^ ж); tE Т, хе X}.
Это прямое произведение будем рассматривать как метрическое пространство с расстоянием
р ((^, ж), ^t*, х'^ = max {[ f — t |, p (^, я')}.
Графиком функции }eD будем называть множество Г/ точек пространства R любого из. двух типов:
(^ / (^ — 0)) или (^ / (^ + 0)).
Легко видеть, что определенная на 0 функция
Ф/ (t — 0) = (t, f(t — 0)), ф/ (i + 0) = (t, f(t + 0))
со значениями из R непрерывна в смысле, разъясненном в § 1. Она отображает 0 на Г/, причем порядок, установленный на 0 (отношения неравенства 9 < 9', определенные в § 1), создает определенный порядок пробегания графика Г/.
Будем теперь независимо от графиков функции / из D = Dx рассматривать непрерывные в смысле § 1 отображения 0 в пространство R, т. е. функции ср (9) класса Dr. Назовем две- функции ср е е Dr и ^ е Dr эквивалентными, если существуют такие монотонные, т. е. удовлетворяющие условию
X (9') > х (9)» когда 9' > 9»
отображения хх и Х2 пространства 0 на самого себя, что
Ф (%! (9)) = ^ (х2 (9)).
По этому отношению эквивалентности функции ф GE Dr разбиваются на классы ф, которые естественно называть D-кривыми в пространстве R. Между D-кривыми естественно ввести расстояние при помощи формулы
Р (Ф, Ф) = inf sup р (ф (0), ф (9)).
Теория D-кривых вполне аналогична теории непрерывных кривых. Расстояние р (ф, V) превращает множество Ф всех D-кривых пространства R в полное метрическое пространство. Имеет место
Теорема VI. Функция f ЕЕ D однозначно определяется соответствующей ей кривой.
7 = Ф/.
При этом всегда
s (f, g) = р (7, BY
Теорема VI доставляет нам новую интерпретацию расстояния s (/, g) и 5-сходимости: 5-сходимость последовательности функции fn к функции / оказывается равносильной сходимости в смысле расстояния р (ф, ,ф) кривых ]и к кривой f.
Для дальнейшего целесообразно ввести обозначения тф (0),;
£ф (0) компонент функции•
Ф (9) = (тф (9), ^ (9)).■
Обозначим через Л множество D-кривых /, соответствующих функ” циям / ЕЕ D, а через Л замыкание множества Л в пространстве Ф. Легко доказать, что'
ФЕФЕЛ
в том и только в том случае, если выполнены следующие условия: (XJ тф (6) отображает 0 на все множество Т;
(А2) из 0 < 0' вытекает тф (0) ^ тф (9').
В силу условий (XJ, (Х2) для функции ф Е ф Е А. множества тФ (0 тех 0, для которых
Тф (0) = t,
являются сегментами пространства О:
Е (о = [9ф (о, е; (<)].
Когда параметр 9 пробегает сегмент Тф1 (i), значение тф (0 остается постоянным, а £ф (0) пробегает ту или иную последовательность точек фазового пространства X. Поэтому кривые (р Е Л могут рассматриваться как запись своеобразных обобщенных процессов с разрывами первого рода, поведение которых в момент времени t может
быть, вообще говоря, более сложным, чем простой переход из состояния / (£ — 0) в состояние / (£ + 0). Такие обобщенные процессы могут естественным образом возникать в качестве предельных ограничений, подобных условию (*) в теореме IV, мешающих сгущению в одной точке t нескольких неисчезающе малых скачков. Возможно, что введение такого рода обобщенных процессов окажется полезным в некоторых вполне конкретных исследованиях по предельным свойствам случайных процессов. Не развивая этой идеи дальше, я использую анализ устройства множества А лишь как вспомогательное средство для доказательства возможности введения в пространстве SD расстояния s* (/, gY отличного от s (/, g) и превращающего SD в полное метрическое пространство. С этой целью я докажу такую лемму:
Лемма. Множество А является в пространстве Ф множеством типа G^.
Доказательство. Легко показать, что при заданных Е Т7 и (р Е А величина
<о* [Тф1 (г)]
для всех ф ее Ф одинакова, т. е. характеризует свойства кривой ф, а не ее параметрического представления ср; мы обозначим эту величину через со* (£). Условие
(р,) со* (0 = 0 при всех 1еТ
является необходимым и достаточным для того, чтобы Ф ЕЕ А принадлежала множеству А. Поэтому
A=A\UAn, ‘(1)
п•
где Лп есть множество тех Ф Е Л, для которых
sup cot (Л ;> —
Множество Л замкнуто в Ф по самому определению. Можно доказать, что множества Лп тоже замкнуты в Ф. Из замкнутости множеств Л и Лп и формулы (1) непосредственно вытекает наша лемма.
Из доказанной леммы в силу известной теоремы П. С. Александрова вытекает, что в множестве Л можно ввести новое расстояние р* (f, g), топологически эквивалентное расстоянию p(f, g), но превращающее Л в полное метрическое пространство.
Полагая
S* (/, g) = Р* (f. g)
и вспомнив теорему VI, мы видим, что имеет место
Теорема VII. В множестве D может быть введено расстояние s Mi §Y топологически эквивалентное расстоянию s Mi gY но превращающее D в полное метрическое пространство.
Москва, 25 июля 1956 г.
ЛИТЕРАТУРА
Скороход Л. В.— ДАН СССР, 1955, т. 104, с. 364—367.
Скороход А. В.— ДАН СССР, 1956, т. 106, с. 781—784.
Прохоров Ю. В.— Теория вероятностей и ее применения, 1956, т. 1, № 2, с 175237.
Дынкин Е. Б.— Изв. АН СССР. Сер. мат., 1952, т. 16, с. 563—572.
Урысон П. С. Труды по топологии и другим областям математики. М.: Гостехтеорпздат, 1951. Т. 2. 937 с.
43
ДВЕ РАВНОМЕРНЫЕ ПРЕДЕЛЬНЫЕ ТЕОРЕМЫДЛЯ СУММ НЕЗАВИСИМЫХ СЛАГАЕМЫХ*
Во всем дальнейшем
ф W - Р {^ < xY Fk ^ = Р {^ < xY
где
^ = L + ^2 + • • • + L
и случайные величины ^ взаимно независимы. Через @ обозначается совокупность вырожденных распределений вида
Е^ =Е^ =0 при х ^ а,
Е^ =
Е^ =
при х )> а.
а через 0 — совокупность неограниченно делимых распределений.
Целью работы является доказательство следующих двух теорем.
Теорема 1. Существует такая константа С, что из
Ek (х — I) — & ^ Fk (ж) < Ek <х + Z) + е,
где Ек ее 6, к = 1, 2, . . ., п, при любых е^> 0, L^> 2Z > 0 и
6 = С шах ^-^- "^log -у-, е1/5^
вытекает существование Т Е 9, для которого
^ (^ - L) - 6 < Ф (^)< Т (я + L) + 6.
Теорема 2. Существует такая константа С, что в случае одинаково распределенных слагаемых ^ с произвольным распределением F^ (ж) = F (х) существует Т G 6, для которого при всех х
| Ф (я) - Ф (я) | < Сп~Х
Д о к а з а т е л ь с т в о обеих теорем использует ряд идей^ заимствованных из работ П. Леви (см. [1, § 48]), В. Деблина [2] и Ю.В. Прохорова [3], и основано на следующих леммах, в которых
Go, а (ж) = -^- С e-w/^ йх, Ga = Go у 2л <5
Qf^V) = sup [/^ (ж + I + 0) — F (ж)] есть введенная П. Леви
«функция концентрации» распределения F (х), a Съ С^ C3l C4l Cb1 С6) С-^ С' — абсолютные константы.
Лемма 1. Если
R ^ г, R^ ^ г2 log s,
где
$ = S[l-<2^(r)L
к
то
СФ (R) < CxR/rfs.
Лемма 2.
| F * Go - F | < С2 Qf (о).
Лемма 3.
tG^-G^ |<С3 ^-о^1о\
Лемма 4. Если
ц = C4e-1^.
то
F * G^o (х — Z) — ц < F {х) < F * G0iO (ж + Z) + Ц-
Лемма 5. Пусть
п — И п(/с)а
pmt...mn —LLPm^4mv..mn — LL4m^
кк _
гдегде
где
где
1 — Рк при т = 0т
Рт —Рт —т = О, 1, .. .т = О, 1, .. .Рк при т=1 , 9^= ^- е”^,
Рт —
Рт —
т = О, 1, .. .
т = О, 1, .. .
О при т^ 1
В предположении О ^ р^ ^ 1 справедливо неравенство
3 | Pmv..т gmv..mn |<С63Рк*
mv..muпк
Лемма 6. Если О^р^ 1, то пт
У С^рт (1- р^ -| С6р.
т—о
Лемма 7. Пусть
&к ~ ^^ki ®к ~ ^^к i
a='2iak, о2 = 3 ^, о* = о2 + Оо- кк
Из
1Ы<Л к = 1,2,..., п, вытекает, что при всех х
I Ф * Ga. (х) — Go,o< (х) | < С7 1/о*.
Доказательство леммы 1 будет опубликовано в другом месте . Леммы 2—5 вполне элементарны и их доказательство может быть предоставлено читателю. Лемма 6 принадлежит Ю. В. Прохорову " (см. [3]). Лемма 7 легко получается из известной оценки
IФ (^- Ga,a (ж) | < С' 3^4“^ ,
если дополнительное нормальное слагаемое с дисперсией Од представить в виде суммы нескольких нормальных же слагаемых с достаточно малой дисперсией каждое.
1. Доказательство теоремы 1, общая часть. Достаточно доказать теорему для случая непрерывных и строго возрастающих функций Fk (^)- В самом деле, предположим, что F^ ej и L фиксированы так, что условия теоремы выполнены. Выберем
V и U подчиненными неравенствам
L> U >2V > 2Z
и положим s' = 2е. Легко установить, используя лишь качественное содержание леммы 4, что при достаточно малом s распределения
Fr = Fit * Gs
удовлетворяют условиям теоремы при замене s, Z, L на s', Z', L\ Функции Fl (х), как легко доказать, непрерывны и строго возрастают. Если для соответствующей функции
Ф' = Ф * GsV-
будет доказано неравенство
Т (х - Г) - 6' < Ф' (ж) < Т (х + L^ + 6', где
6' = С' max ^-^7- j/" log -^- , s'1/») ,
то, применяя лемму 4 с о2 = ns2 и Z = L — U, легко обнаружить, что при достаточно малом s и С = 2С' первоначальная функция Ф (ж) удовлетворяет неравенству, являющемуся заключением теоремы.
Будем в соответствии со сказанным считать функции у = F^ (ж) непрерывными и строго возрастающими, что позволяет считать обратные функции х = F^1 (z/) однозначно -определенными для всех у из интервала 0 < у < 1, непрерывными, строго возрастающими и пробегающими все действительные значения х.
Положим
^ (Р) = Fk (1 - Р) - F^1 (Р).
Функции Xr (Р) будут в сделанных предположениях непрерывными и строго убывающими. Они пробегают все положительные значения X, 0 < X < оо, когда Р пробегает интервал 0 < Р < V2. Обратные функции
ek (X) = х^ (X)-
тоже непрерывны и строго убывают: когда X меняется в пределах О < X < оо, они пробегают значения Р, заполняющие интервал V2 > Р > 0. Поэтому если только
.Ses(2Z)>2e-V«
(здесь Z и е — величины, входящие в условие теоремы, причем мы будем далее считать е ^ 1, что, конечно, не нарушает общности),
То уравнение 38fc(^)=28-Vs имеет единственное решение
Хо > 2Z.
Определим теперь величины Л и а0 следующим образом:
А) Если
Set(2Z)>26-v»,(АЛ)
к
то
д = %0, ^о = 2е-^Л.(А.2)
Б) Если
3M2Z)<28-4\(Б.1)
к
то
^ = 2l1а^-^Ь^^у'1.(Б.2)
Чтобы определить нужное нам неограниченно делимое распределение V, положим
8» = 8. (Л) и введем случайные величины
I 0, если F.1(ejt)<^<F.1(l--efr), ( 1 в остальных случаях.
Положим далее
= м {^| ^ = 0}, а£ = D {g. I ИЛ = 0),
a=S(l — 2е.)а6, о2 =5(1 —2е.)а2, кк
FТ = Р (^ < ^ | ^ = 0},
F® (ж) = Р {£/с О | [л* = О-
Легко видеть, что
ф = П* [2e.Fl1’ + (1 - 2е.) F^] = М П* [^.F^ + (1 - ц.) Мо)] = кк
mv..mnкк
где вероятности
Pmv..mu ^^ ^ {^1:= ^1, • • • •) ^п ^^ ^п)
выражаются формулами из леммы 5, если положить
Рк = 28^.
Определив теперь через р^ = 2е& величины qmv..mn формулами из той же леммы 5, положим
Т^ехр^^М1’-Яо)]3 ^...«„П^П*^^
кmv..-mnк
где о£ = о2 + Оо-
В приведенных формулах для Ф и Т через Ео обозначено единичное распределение
[ о при я<;о,
х 7 I 1 при х>0, а степени понимаются в смысле свертывания:
Е° = Ео, F1 = F, F^ = F * F и т. д.
Очевидно, что при переходе от величины Е^ к величинам
^ = ^ ~ ак
величины ^ заменяются на ^ = О, а функции Ф и ¥ на функции Ф' (а;) = Ф (а: + а), Т' (я) = Т (х + а). Поэтому ясно, что можно ограничиться рассмотрением случая
а^ = 0, к = 1, . . ., п\ а — 0.
Нам понадобится еще случайная величина
£=3(1-^Ж к и ее условные дисперсии
Gmv..mn = D {£ I Р1 = mi,..., рп = mn}
при фиксированных значениях величин ц17 . . ., р,п. Очевидно, что
Gmv..m — ZJ (^^к^к-
п к
Положим теперь
Ф^...т„ = IT [Ц0>Ф^...т„ = IT [41* А
кк
(3)(4)(5)(6)(7)(8)(9)неравенство(10)(3)(4)(5)(6)(7)(8)(9)неравенство(10)
(3)
(4)
(5)
(6)
(7)
(8)
(9)
неравенство
(10)
(3)
(4)
(5)
(6)
(7)
(8)
(9)
неравенство
(10)
Отметив, что
Ф —3 Pmv.-m ^mv...m ^Фш^.-т
тх...тпппп
'F= S 9mi...mnOmL..m„*Ga„
введем распределения
Ф1 = Ф * 6^ = 2 Рт^.т^т^.т^* ®mv^^ тх...ти
Ф2 = S Pmv..m Фт\...т * ^0*^а0,
Фз =3 Pmt...mn^mv..mn * ^О*«
т^.т^
Легко видеть, что в силу условия теоремы
M2Z)<8 .
и, так как Л ^ 2Z,
^ = 8^ (Л) < 8.
В обоих случаях А) и Б)
Е^^Ч к
Из (3) и (4) вытекает, что
к
При помощи (5) и леммы 5 получим
| Б —Ф3|< ^J \Pmv..mn 9mv..mn | ^ С 5 5 Рк = mv..mnк
= 4С5^8Х8^1/5. к
В силу леммы 3 в предположении
I От^.^ — а2|<8*М■
имеет место неравенство
|Ga *GO—GO
Поэтому
I ф ф I ^ с/ь + 25', где 2' есть сумма тех рт1.. ,т , для которых нарушено
(7). Очевидно, что.
2' = Р {| р2 — о2 | > 8^0*},
где
Ра = 3(1 — ^к)Ок- к
Легко видеть, что
Мр2=.-5(1-2ей)о2к=о2,
(И)
Ор2 = 2 2ek (1 — 2ek) ок, к
и так как а| А2, е^ ^ 8, то
Dp2 < 2е5 (1 — 2efe) а^ < 2еЛ2 5 (1 — 28fe) о^ = 2еЛ2о2.(12)
кк
Из (10) — (12) по неравенству Чебышева получаем
v'/ 2еА2б2 9 3/ Л2
2 < —тгг < 2s А — .(13)
8 О*б0
Так как всегда о0 > Л, 83/5 ^ 81/б, из (9) и (13) вытекает
I Ф2 ~ Фз I < (С3 + 4) еХ*(14)
В силу леммы 7 и того обстоятельства, что в случае р^ = 1 имеет место неравенство
I < Л,
справедливо неравенство
C?„mi(15)
из которого вытекает неравенство
I Ф1 - Ф21< С7 Л/о0.(16)
Из (6), (14) и (16) получаем
I Т - Фг I < С^ + С7Л/а0,(17)
где
С* = 8С5 + С. + 4.
С л у ч а й А. Окончание доказательства теоремы 1 различно в случаях А) и Б). Займемся сначала случаем А). В этом случае неравенство (17) в силу (А.2) приобретает вид
IT-OJ^C*+С7)еЧ(18)
Напомним, что теперь
Л = Хо > 2Z,.(19)
Зе^ЗМ^о^е^.(20)
к к
Легко видеть, что
1 - 2sfc < QPlt (Л) < 1 - ек(21>
и, следовательно, величина
$= § [1-<?F (Л)] к=1к
допускает оценки
2е-^<$<48-4\(22)
В силу 5 леммы 1 и формул (22) и (А.2)
<2ф(т0)<-^<2С18’/6.(23)
Ays
По лемме 2 из (23) получаем
I Ф - Ф1 I = I Ф - Ф * Ga0 | < С^Ф (а0)Х 2 С.С^к(24)
Из (18) и (24) получаем, наконец,
| Ф - Т | < (С* 4- с7 + <10^ е’\(25)
Из (25) уже непосредственно вытекает (для случая А)) заключение теоремы, причем сдвиги на расстояние L остались неиспользованными: они понадобятся лишь в случае Б).
С л у ч а й Б. В этом случае в силу (Б.2) неравенство (17) приобретает вид
IV - Ф11 < С^ + 23Х -L ]/ log А .(26)
По лемме 4 в силу (Б.2) при
П = С4е'и'м^ = С^°8 WU = С4-Ь-(27)
имеют место неравенства
Фх (х — L) — т] ^ Ф (ж) ^ Фх (ж + Ь) + Л-(28)
Положим теперь
С = С* + 23А С7 + 2С1Сг + C4/log 2.
Так как L > 21, log (L/Z) > log 2, из (26) и (28) получаем при
6 = С max (-^- /log -^-, 8*/’)
6 Легко подсчитать, что в силу (А. 2), (22) и принятого ограничения е ^ 1 Дополнительное условие Л2 ^ г2 log s для R = а0 и г = А выполнено.
неравенства
¥ (ж - Е) - 6 < Ф (я:) < ¥ (ж + L) + 6.(29)
Как видно из неравенства (25), неравенство (29), доказанное сейчас для случая Б), верно и в случае А).. Этим заканчивается доказательство теоремы 1.
Доказательство теоремы 2. Доказательство теоремы 2 по существу не отличается от доказательства теоремы 1 в варианте А, причем полагается
е = с/п.
Естественно, что гк и р^ = 28^ теперь не зависят от к. В силу соотношения'
Х^ = 2е-‘/> к
Рк должны быть равны
р = с'тг1^.
Вводимое построение с переходом от ’ Ф к
Ф' = Ф * Gsy-
делается теперь излишним и даже несколько затруднило бы получение окончательного результата. Ссылку на лемму 5 целесообразно заменить ссылкой на более простую лемму 6. Ввиду возможности указанных упрощений мы даем далее изложение доказательства теоремы 2, независимое от п. 1, 2. Общую функцию распределения слагаемых ^ будем обозначать Е (ж) = Р {^ < ж}.
Условия1
F (у)) < у < F (F^ (у) + 0)
определяют обобщенную обратную функцию Е-1 однозначно, кроме не более чем счетного множества у, соответствующих интервалам постоянства функции Е. Можно без ограничения общности считать^ что
= F"x
где случайные величины ц^ взаимно независимы и распределены равномерно на интервале 0 < у < 1.
Положим
р = 1/2n~,/i,
| 0, если р/2 <^ lit \ 1 — р/2,
LU = { ,
( 1 в остальных случаях,
а = (1 — р) М {£fc | ^fc .= 0}, . , о2 = (1 — р) D {gfc | ^ == 0}, Fo (x) = P {^k < ж | p,fr = 0}, Ft (x) = P {gft < x | ^ = 1}.
Легко видеть, что
ф = М П* [р^ + (1 - pj Fo] = 3 eV (1 - p)"-k 4 *1^.
Искомое неограниченно делимое распределение Y зададим в вида
где о£ = ио2 + (т02, do2 = 2п75А, Л = F-1 (1 — р/2) — F-1 (р/2).
Как и в п. 1, достаточно рассмотреть случай а = 0. Положим
Ф1 = ф * Gao = 2 СУ (1 - РГ^ * F^ * GC1,
Фа=£су <i-P^ fk;*g4*g^ ^=jlzJlo\
ф3=5№(1-Р)п-^*Са..
В силу леммы 6
IV - Фз К С.р = V2 С^.(30)
В силу леммы 3 в предположении
|^-та|<и-/5(31)
имеет место неравенство
I ^°к * ^0 — ^с* | ^ С^п- ^(32)
и, следовательно,
I Ф2 - Ф3 I < С3п-^ + 22',(33)
где 2' есть сумма тех С^р11 (1 — p)n-k, для которых нарушено неравенство (31). Очевидно, что
2' = Р {[ % — n (1 — р) | > и4/=}, где % = S пх- Поэтому в силу неравенства Чебышева
Из (33) и (34) получаем
I Ф2 - Ф3 К (С3 + V5-(35>
В силу леммы 7 так как при [Ль — 1 ПРИ принятом предположении
^ = 0 имеет место неравенство | ^ | ^ Л, то справедливо неравенства
I ^о * Go0 — GOk * GOq I ^ GA/Oo = 1l2Cin~^l^
из которого вытекает -
I Ф1 - ф21 < v2 С,^.(36)
Легко видеть, что
Qf (Л/2) < 1 ~ р/2.
В силу леммы 1 отсюда следует
(37)
Л у пр,2
В силу леммы 2 из (37) вытекает .
| Ф - Ф! | < С^Ф (а0) < 4 CiC2 п-^.(38)
Из (30), (35), (36), (38) получаем •
| Ф - Т |< (С6/2 + С3 + 2 + С7/2 + 4 СА) ^^
чем и заканчивается доказательство теоремы 2.
Москва, 12 ноября 1956 г.
ЛИТЕРАТУРА
Levy Р. Theorie de Taddition des variables aleatoires. Paris: Gauthier — Villars, 1937.
Doeblin W. Sur les sommes d’un grand nombre des variables aleatoires inde- pendantes.— Bull. sci. math., 1939, vol. 63, p. 23—32; 35—64.
Прохоров IO. В. О суммах одинаково распределенных случайных величин.— ДАН СССР, 1955, т. 105, № 4, с. 645-647.
44
СЛУЧАЙНЫЕ ФУНКЦИИ
И ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ*
Совместно с Ю. В. Прохоровым
Не претендуя на полноту охвата литературы вопроса, мы намерены, кроме сообщения некоторых сравнительно новых результатов, осветить первые шаги теории случайных функций, основные возможные способы ее систематического построения и основные вопросы применения функциональных методов к получению предельных теорем.
* Zufallige Funktionen und Grenzverteilungssatze.— In: Bericht liber die Tagung Wahrscheinlichkeitsrechnung und mathematische Statistik. Berlin, 1956, S. 113—126. Перевод авторов.
ПРЕДВАРИТЕЛЬНЫЕ ЗАМЕЧАНИЯО СЛУЧАЙНЫХ ЭЛЕМЕНТАХ ЛЮБОЙ ПРИРОДЫ
Мы будем исходить из аксиоматики теории вероятностей, изложенной в [1]. Полем вероятностей будем называть совокупность {Й, Ф, Р}, состоящую из
множества Q, элементы которого со называются «элементарными событиями»,
а-алгебры Ф подмножеств множества Q,
определенной на Ф меры Р (Л), удовлетворяющей дополнительному требованию
R (Л) = 1.
(Терминология соответствует [2].) Иногда целесообразно принять еще допущение
(со') Мера Р (Л) полна, т. е. из Р (Л) = 0, 5 с Л вытекает
В Е Ф.
Целесообразно при изучении случайных величин, случайных векторов и других «случайных элементов» той или иной конкретной природы оставлять природу основного множества элементарных событий со неопределенной, а конкретные случайные элементы £ считать функциями от со. Например, (действительной) случайной величиной принято называть любую действительную функцию ^Юу удовлетворяющую тому условию, что множество
{^5 ^ю *С ^}
при любом действительном а принадлежит Ф (см. [1]).
Произвольная функция £ю со значениями из множества X определяет поле вероятностей {X, Ф^, Р^, где Ф^ состоит из всех Л Е X, для которых
Г1 М) е Ф,
и на Ф^
р^ (Д) = р {Г1 №
Так как в каждой задаче теории вероятностей основное множество Й считается вполне определенным и в то же время сами его элементы 0) не входят явно в формулировки конкретных задач, то индекс о при ^ю обычно не пишут, говоря просто о «случайном элементе множества X». Заметим, что в предположении (со') автоматически будет выполнено условие
(£1) Если Р^ (Л) = 0, В Е Л, то 5 Е Ф^.
Если X является топологическим пространством, то естественно требовать от случайного элемента £ Е X, чтобы некоторые простей-
шие с топологической точки зрения множества A EL X заведомо входили в Ф^. Если X есть метрическое пространство (этот случай будет для нас иметь основное значение далее), характер целесообразных требований этого рода не возбуждает сомнений. Именно целесообразно ограничиться рассмотрением случайных элементов, подчиненных условию
(£2) Любое открытое множество б с X принадлежит Ф§.
Как известно, из (£2) вытекает принадлежность к Ф^ любого борелевского А С X. Если X есть действительная прямая, то (£2) равносильно высказанному ранее требованию, включаемому обычно в определение случайных величин. Ряд упрощений возникает в случае, когда, кроме того, выполнено условие
(^3) Для любого Л Ф^
Pl И) - inf Р§ (G),
где нижняя грань берется по всем открытым G, содержащим А.
Для того чтобы (g3) имело место для любого подчиненного (£2) случайного элемента | из сепарабельного полного метрического пространства X, необходимо и достаточно, чтобы было выполнено требование *
(со") Мера Р на Q совершенна
(см. [3]).
Вопрос о целесообразности систематического построения теории вероятностей с исключительным употреблением совершенных мер может оставаться дискуссионным до тех пор, пока такое систематическое построение не будет осуществлено. Однако следует отметить, что это ограничение в действительности нисколько не сужает области возможных реальных применений теории вероятностей, так как имеет место такая теорема:1 любая полная нормированная булевская алгебра может быть реализована, как алгебра метрических типов совершенной меры (ср. [4]).
Требования (£2) и (£3) могут обобщаться в различных направлениях для топологических пространств более общей природы (ср. [2, § 52-54]). '
СЛУЧАЙНЫЕ ФУНКЦИИ
Для определенности будем рассматривать комплексные функции х (t) аргумента t ЕЕ Т, где Т, вообще говоря, произвольное множество (наиболее изучены здесь «случайные процессы», когда Т есть действительная прямая). Возможны два подхода к введению понятия «случайной функции» такого рода.
. Случайной функцией £ (£), определенной на Т, называется система комплексных случайных величин £ (£), определенных при каждом t ЕЕ Т. Если при этом основное поле вероятностей {Q, Ф, Р} удовлетворяет условию (со'), то распределения P-^th так же как и
^-мерные распределения Редо, to)Wny удовлетворяют условиям (^i) и О
. Заранее выбирается некоторое функциональное пространство 6, состоящее из функций ж (^), определенных на 7, в котором вводится определенная метрика (расстояние, удовлетворяющее обычным аксиомам метрического пространства). Случайной функцией Е (£) типа 6 называется случайный элемент метрического пространства S, удовлетворяющий условиям (^) и (g2).
Систематическое изучение случайных функций в одном весьма важном частном случае было начато Н. Винером в 1923 г. (см. [5]). Первая из изложенных выше концепций с большой широтой развивалась Е. Е. Слуцким начиная с 1928 г. (см. [6]). Вторая концепция для произвольных банаховских пространств разрабатывалась В. И. Гливенко с 1928 г. (см. [7—9]). С обширной дальнейшей литературой можно познакомиться по современным изложениям вопроса в [10, И].-
Если пространство 6 таково, что при любом ^ Е 7 и любом открытом множестве G на комплексной плоскости множество
{X Ц) : х Цо) EG)(1)
тех функций х (t), для которых х (£0) принадлежит G, является бо- релевским множеством пространства @, то каждой случайной функции в смысле (II) очевидным образом соответствует случайная функция в смысле (I).
Для случайной функции в смысле (I) можно поставить обратную задачу о возможности рассматривать такого рода случайную функцию g (£), как принадлежащую по существу к какому-либо определенному функциональному пространству 6 (например, в случае отрезка \сц Ы в качестве множества Т — к пространству С[а,ь] непрерывных комплексных функций с метрикой
Р (^ (0, У W) = max I X Ц) — у Ц) |).
Можно придать этому вопросу точный смысл при помощи понятия эквивалентности случайных функций в смысле (I). Две случайные функции ^ (£) и ^2 (£) (в смысле (I)) называются эквивалентными, если при любом t 6= Т
р {^1 (0^2 (0) = 0..(2)
Вопрос, поставленный выше, можно теперь интерпретировать так: дана случайная функция ^ (£) в смысле (I) и пространство @, удовлетворяющее требованию борелевской измеримости множеств (I); спрашивается, существует ли случайная функция £2 (0 типа 6, для которой выполнено при любом t ^ Т условие (2). G точки зрения применений такой подход к делу, развитый Е. Е. Слуцким (см. [12, 13]), является, по-видимому, вполне достаточным и позволяет обойти ряд теоретико-множественных сложностей, о которых будет ска-
зано далее в § 3. Практически наиболее интересны вопросы о возможности считать случайную функцию: а) непрерывной, б) имеющей разрывы только первого рода. В первом направлении давно известен (см. [12]) следующий результат А. Н. Колмогорова: для того чтобы заданная па 7 [а, 5] случайная функция £ (£) в смысле (I) была эквивалентна случайной функции £* (£) типа С[а,ьь Достаточно условие
м I + т) - НО Г < I т г (3) при некоторых a > 0, a > 1 и К. При этом функция £* (^) оказывается с вероятностью единица удовлетворяющей при любом 6 >> 0 условию Липшица ‘
|^ + т)-Г(0|<Я*|тГ^~6, (4)
где К* есть случайная величина. (Заметим еще, это будет использовано в § 6, что для любого е > 0 можно найти такое А^о, зависящее только от е, 6, а, а, К, что Р {А* > К*^ < е.)
Условия для возможности представить себе функцию £ (^) как функцию, имеющую только разрывы первого рода, особенно существенны в случае, когда £ (£) есть запись хода марковского процесса. Из новых работ на эту тему укажем работы Дынкина [14] и Кинни [15].
Как известно, ряд важных функциональных пространств имеет своими элементами не индивидуальные функции, а метрические типы х (f) таких функций относительно меры ц, введенной в Т (метрическим типом называется класс всех функций, отличающихся лишь на множестве ц-меры нуль от некоторой фиксированной функции х (£)). Мы будем предполагать, что для функций х ^ разумным образом введено понятие асимптотической непрерывности в точке £0 так, что по метрическому типу х (t) однозначно определяются в почти всех точках t0 ЕЕ Т «истинные значения» функции х ^ по асимптотической непрерывности, причем рассматриваемое пространство <£ таково, что истинные значения случайной функции типа @ в тех точках, где они определены с вероятностью единица, являются случайными величинами. В такой обстановке может быть в несколько видоизмененной форме поставлена и решена та же проблема соотношения между двумя понятиями случайной функции (I) и (II). При подходе (I) естественно требовать теперь задания случайных величин £ (£) лишь почти всюду на Т и считать две случайные функции в смысле (I) ^ (£) и Е2 (0 эквивалентными, если при почти всех I выполняется условие (2). Тогда каждой случайной функции £* (0 в смысле (II) соответствует вполне определенная с точностью до эквивалентности случайная функция £ (£) в смысле (I), равная при почти всех t с вероятностью единица истинному значению £* (0
зв точке t. Полное решение обратного вопроса об условиях, при которых случайная функция в смысле (I) эквивалентна измеримой функции, было дано в работе Амброзе [16] для случая, когда Т — действительная прямая и ц — лебегова мера. Необходимое и достаточное условие состоит здесь в том, чтобы £ (£) была почти всюду (по ц) асимптотически стохастически непрерывна. Если это условие выполнено, то можно перенести рассмотрения в пространство 6 измеримых функций (точнее, в пространство метрических типов) и уже без принципиальных затруднений вычислить вероятность суммируемости функции £ (^), ее суммируемости в квадрате, «существенной ограниченности», и т. п.
КОНЕЧНОМЕРНЫЕ РАСПРЕДЕЛЕНИЯ ЗНАЧЕНИЙСЛУЧАЙНОЙ ФУНКЦИИ
Вернемся к случайным функциям § (£) в смысле (I), определенным при всех tET. Каждая такая функция £ автоматически определяет поле . вероятностей {Qy, Ф^, Pg), где Qt — множество всех комплексных функций, определенных на Т. Формула
а^ = ж (^), k = 1, 2, . . ., п,
определяет отображение л^г2, ...,< ’(ж) множества Вт в п-мерное комплексное векторное пространство векторов
ос = {о^, ос2, • • •, оы}«
Каждой случайной функции g (2) соответствует в силу этого отображения при фиксированных ^, £2> • • •> ^п случайный вектор
Обычно в конкретных задачах о случайных функциях большую роль играют соответствующие распределения
Рк t,tn (S) = P {at tttn E S}.
Так как P^,f2, ...,tn заведомо определено для борелевских множеств В, то Р^ определено для их прообразов в Q^:
B' = ^tЗп (В).
Это так называемые борелевские цилиндрические множества в Qr. Борелевское замыкание системы таких множеств (наименьшую содержащую их о-алгебру) обозначим через Фг. Очевидно, что для любой случайной функции £ (0 имеет место включение
Ф^ 3 Фу.
Значения Р^ (В) для В Е Фг определяются однозначно по конечномерным распределениям. Еще в [1] было доказано, что, об-
ратно, произвольным «согласованным» конечномерным распределе* ниям Р^, t2,tn, заданным для всех конечных систем элементов ^, t^ . . ., tn из Т и определенных на борелевских множествах в n-мерных комплексных векторных пространствах, соответствует поле вероятностей {Qy, Фг, Р*}. Лишь небольшим видоизменением этого результата является такая формулировка: если распределения Ptx, t2, ...,t определены для всех конечных систем элементов из Т^ согласованы и удовлетворяют условиям (£2) и (£3), то существуют случайные функции £ (£) в смысле (I) с
Существенно, однако, что за пределами Фт функция Р^ уже4 вообще говоря, однозначно по конечномерным распределениям ^Ь, <2, ...,<п не определяется. Между тем класс Фу слишком узок для применений: в него не входит в случае несчетного Т множество функций х kt\ которые при всех t El I удовлетворяют условию
| х (ОК к.
или в случае Т = [а, 6] множество С непрерывных функций и т. п.
При переходе к концепции (II) во всех изученных, практически важных случаях однозначность определения Р^ по конечномерным распределениям Ptvty.. .,t восстанавливается (смысл этого утверждения для пространств @, состоящих из метрических типов х (£), а не из индивидуальных функций, требует некоторого уточнения, которым мы здесь заниматься не будем) и в то же время при надлежащем выборе пространства <8 все нужные для конкретных задач множества оказываются принадлежащими Ф^.
СЛАБАЯ СХОДИМОСТЬ РАСПРЕДЕЛЕНИЙ
В настоящем параграфе мы ограничимся рассмотрением случайных элементов £, принимающих значения из полного сепарабельного метрического пространства X и удовлетворяющих,, условиям (£2) и (^3). При изучении последовательностей
^1» ^2» • • м ^п? • • •
случайных элементов из X возникает вопрос о сходимости соответствующих распределений Р^п к некоторому распределению Р в X. Под сходимостью здесь естественно понимать обычную для функционального анализа «слабую сходимость» распределений. Напомним, что последовательность Ри распределений в X слабо сходится к распределению Р, если для любого непрерывного и ограниченного на X функционала / (ж), х 6= X,
$ f^Wn-*^ f^dP.
Если X есть числовая прямая, то слабая сходимость оказывается эквивалентной хорошо известной сходимости «в основном» соответствующих функций распределения. Слабую сходимость распределений мы будем обозначать Рп^Р. Смысл слабой сходимости в достаточной степени поясняется следующими двумя теоремами, из которых первая хорошо известна, а вторая просто доказывается.
Для сходимости Рп =Ф Р необходимо и достаточно, чтобы
Рп (Л) -> Р (Л)
для любого множества Л, P-мера границы которого равна нулю (т. е. для любого множества непрерывности распределения Р).
Для сходимости Рп => Р необходимо и достаточно, чтобы для любого непрерывного почти всюду (по мере Р) функционала / (ж) последовательность функций распределения
Ff1 <^ = ^« W (ж) < а}
сходилась к функции распределения
F} (а) = Р {x:f (х) < а)
в каждой точке непрерывности этой последней.
Пусть теперь
£i £11 £21 • • *1 £пл • • •
последовательность случайных элементов из Хп для которой
Р^^Р^-(5)
Пусть, далее,
п; Пи П21 • • -1 п™...
последовательность случайных элементов из полного метрического пространства У, причем ц = / (g) и цп = fn (£п), где / и fn -— непрерывные отображения пространства X в пространство У. Тогда при достаточно широких предположениях (например, в предположении, что tn”^ f равномерно на каждом компакте К CZ X) из (5) следует РЧп=^Рч. Это простое замечание оказывается полезным при выводе целого ряда конкретных предельных теорем.
Наконец, при изучении предельных теорем для последовательностей случайных элементов известную пользу может принести (см. [17]) теорема:
м III) Для компактности семейства Ж распределений в X достаточно , чтобы при любом 8 > О существовал компакт Ке такой, что Для всех j° Е $
Р (Kq) >1-е.
Рассмотрим пример, иллюстрирующий теорему III). Известно, что для компактности множества A- CZ С, где С — пространство непрерывных на отрезке [0, 1] функций х (^) с х (0) = 0, необходимо и достаточно существование функции ср (т), стремящейся к нулю при т -> 0, для которой '
sup I X (t + т) — X (t) | ^ ф (т).
t,x^K
Используя теперь условия непрерывности случайного процесса с вероятностью единица (см. формулы (3) и (4) из § 2), мы получаем следующее достаточное условие компактности семейства S? распределений в С:■
Существуют постоянные а > 0, а > 1, А > 0 такие, что для всех Р Е Ж
Мр I § (t + т) - ио 1° < К I т |« 1(0) = 0,
где через МР g обозначается
с
Иногда удается сравнительно просто установить, что имеет место сходимость
РП(Л)->Р(4), AeSt(6)
для какой-либо специальной системы S подмножеств множества X. Из сходимости (6) можно выводить слабую сходимость Ри Р, пользуясь, например, следующими теоремами.
IV) Назовем систему S подмножеств X «системой однозначности», если заданием на ней всякое распределение Р в X однозначно определяется.
Для сходимости Ри=^ Р необходимо и достаточно, чтобы выполнялись следующие два условия:
Ри (Л) -> Р (Л) на некоторой «система однозначности» 5;
семейство* ^Ри^ компактно.
Из этой теоремы вытекает, например, что если последовательность определенных на отрезке 1а, 6] процессов {£п (£)} такова, что:
конечномерные распределения процессов £п (£) сходятся к конечномерным распределениям некоторого процесса £ (£);
существуют не зависящие от п постоянные а, а, К (а> 0, а > 1, А > 0) такие, что
м I И (t + т) - ЫО 1а < ЯI т |“,
то для соответствующих распределений в Q^^j имеет место сходимость
Пусть 5 — система открытых множеств A cz X, обладающая свойствами:
S есть базис в X,
из АТ е 5 и Й2Е S следует Й! Q Л2Е 5. Тогда из сходимости
РП(А)->Р(А), Ае 5,
вытекает
Рп => Р.
Примеры, иллюстрирующие применение изложенных выше общих результатов, читатель найдет в заключительном^параграфе работы.
§ 5
ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИОНАЛЫ
Если § есть случайный элемент из банаховых пространств X, то» для соответствующего распределения Pi может быть определен аналог обычной характеристической функции — характеристический функционал. Для любого элемента / пространства X*, сопряженного к X, определим значение характеристического функционала Н формулой
Н у, Р^ = М^(/, £) = J ^(Л х) др^ х
Это определение и основные свойства характеристических функционалов были указаны в заметке А. Н. Колмогорова [18]. В последнее время интерес к распределениям в функциональных пространствах значительно возрос и аппарат характеристических функционалов^ по-видимому, будет находить все более широкие применения как в самой теории вероятностей, так и в некоторых вопросах математической физики (см., например, работу Э. Хопфа [19]). Ввиду этогомы считаем полезным обратить внимание на результаты заметки [18] и отметить некоторые связанные с ней нерешенные проблемы. В [181 установлено, в частности:
Pi по Н (/, Pi) определяется однозначно.
При сложении независимых случайных элементов со значениями из X соответствующие характеристические функционалы перемножаются.
Если
Rn^i = 5 II ^ !ln+1 ^Pi <^ + оо, X
ТО
Я(/, РЕ) = 1— М/+Ам(/,/)+
+ где
X
— полилинейные функционалы, являющиеся естественным обобщением моментов. Очевидно, что функции
М (А, /2, ..., А)
однозначно определяются по Н У, Р0-
Для целей теории вероятностей существенно было бы иметь необходимые и достаточные условия слабой сходимости распределений в терминах соответствующих характеристических функционалов. Однако такого рода условия пока неизвестны. Некоторые возможности использования характеристических функционалов для вывода тех или иных предельных теорем исследованы в работе Р. Форте и Э. Мурье (см. [20—23], а также доклад Р. Форте на настоящей конференции). Здесь мы отметим лишь следующий, вытекающий из .теорем III) и IV) § 4 результат.
Пусть X — сепарабельное пространство Банаха и {Рп} — последовательность распределений в X. Для сходимости
необходимо и достаточно одновременное выполнение двух условий:
Н (f, Рп) ->- Н У, Р) при каждом fEX*;
для любого 8> 0 существует компакт Ке такой, что при всех п
Рп (КЕ) >1-8.
Новые стороны приобретает в бесконечномерном случае и вопрос об условиях, достаточных для того, чтобы функционал Н (/) был характеристическим. Мы ограничимся здесь лишь следующим замечанием. Естественно в соответствии с [18] назвать распределение Р в X нормальным, если его характеристический функционал имеет вид
Н (f) = eimf-1/^^\
где mf — линейный функционал от /, a Q (/) — квадратический.
В случае пространства Гильберта это приводит к формуле
где т — элемент пространства X и 5 — симметрический ограниченный линейный оператор, заменяющий матрицу вторых моментов.
Однако условие неотрицательности
(/, sn > о,
достаточное для получения характеристической функции в конечномерном случае, здесь уже не является достаточным . В частности, получающийся при m = 0, Sf = f функционал Н (/) = е-1^ не является характеристическим. Отметим еще, что приведенные в [23] необходимые и достаточные условия того, чтобы функционал был характеристическим, вряд ли могут считаться окончательными вследствие их значительной сложности.
ПРИМЕНЕНИЯ К ПРЕДЕЛЬНЫМ ТЕОРЕМАМ
.1 Переход от сумм случайных величин к процессам. Представление о том, что предельные распределения для сумм случайных величин являются точными для надлежаще подобранных случайных процессов, сложилось уже давно (см., например, [25—29] и. особенно монографию А. Я. Хинчина [30]). Здесь же будут приведены результаты некоторых более новых работ, примыкающих к этому кругу вопросов. Отметим при этом, что при постановке и решении задач о переходе от сумм случайных величин к процессам в наиболее общей форме использование методов, по существу относящихся к функциональному анализу, представляется неизбежным.
Пусть
— случайные величины с математическими ожиданиями MEnfcT равными нулю, и конечными дисперсиями Dgn^, удовлетворяющими условию
с^пЛ = 1.
Обозначим через
8пЛ — ^n,i + £п,з + • • . + En,k> к = 1, 2, . . ., п,(7)
«накопленные суммы» случайных величин £пд и через tn,ic обозначим
^^пЛ = 5 D^nj.
3=1
Последовательности сумм{$п^}, к = 1, 2, . . ., п, сопоставим случайный элемент £п пространства С непрерывных на отрезке [0, 1] и
равных нулю при £ = О функций х (t\ полагая при tn^ ^. t <. tn^vL
^n ОТ = sn, k + 7— ^, ^+1*
Можно показать (см. [17]), что если суммы snn подчиняются условию Линдеберга, которое встречается в обычной центральной предельной теореме, то при п -> оо
р1п=^рь(8)
где £ (£) есть так называемый винеровский случайный процесс, т. е. непрерывный с вероятностью единица процесс, удовлетворяющий условиям:
£ (0) = О с вероятностью единица.
Приращения g (0на непересекающихся интервалах независимы.
£ (£ + Д) — £ (£) имеет нормальное распределение со средним 0 и дисперсией Д.
Из (8) и теоремы II) § 4 можно вывести целый ряд предельных соотношений. Так, например, рассматривая функционал
/ (ж) = шах х (^), xUA е С,
.мы получаем при а > 0
Р { max ^(t)>а) = Р {max sa к^а^-^Р {max £ (£) > я} = 0^<1l^/f^no^t^l
= 2 flL^^e-^duV
I /2л J J
a
Пусть a (J) и b (Q — заданные для 0 < t < 1 непрерывные функции, для которых а (0) < 0 < Ъ (0), а^^Ъ (^). Рассматривая функционал / (ж), который равен единице, если при всех t a (t) < < х (£) < b (t), и который равен нулю в других случаях, мы находим
Р {при всех t а (^) < £п (^) < Ъ (^)) ->
Р {при всех t a (t) < £ (£) < Ъ (t)}
и, следовательно,
Р {при всех к а (1п, fe)< sn, к < Ъ (^ ^} -> -> Р {при всех t a (t) < g (£) < b (^}.
Последний результат при несколько иных предположениях был получен А. Н. Колмогоровым в 1931 г. (см. [28, 29]). Сделанное замечание позволяет нам получить аналогичные предельные соотношения для совместного распределения любого конечного числа функционалов , например,
Р{ minsn.?f<^, max snj/c <у}Р {min g(0<^, max ^(t^^y). Kk<n1<к<п0^<10^«1
Утверждение (8) содержит в себе в качестве частных случаев теоремы Эрдеша, Каца и Донскера (см. [31—33]) относительно сходимости распределений функций от «накопленных сумм» к распределениям соответствующих функционалов от винеровского процесса. Метод Эрдеша и Каца в окончательной форме, приданной ему Дон- скером [33], сводится к тому, что сначала устанавливается сходимость
(9)(9)IX (А)^Р^А)
(9)
(9)
для «полос», т. е. для множеств А, элементы которых удовлетворяют при всех t неравенствам
ДЕ£)ДЕ£)а (^ < х (О < ^ (О»
ДЕ£)
ДЕ£)
где a t^ и Ъ ^ — ступенчатые функции (см. рисунок). Затем, аппроксимируя надлежащим образом непрерывные почти всюду по мере Р^ функционалы / характеристическими (в смысле теории множеств) функциона-
лами «полос», Донскер уста
навливает сходимость функций распределения Е^ (а) = Р {/ ^^ < < а} к функции распределения Е^ (а) = Р {/ (£) < а}, что в силу теоремы II) § 4 равносильно слабой сходимости (8). Для перехода от (9) к (8) может здесь также служить теорема V) § 4, поскольку система S всех «полос» удовлетворяет условиям этой теоремы. Другой метод доказательства соотношения (8), опирающийся на теорему III) § 4, изложен в [17].
Замечание. Известно, что так называемый метод верхних и нижних функций (см. [30]) для случая, когда процесс gn (^) по
строен по «накопленным суммам» независимых или связанных в цепь Маркова слагаемых, а процесс g (г) — надлежаще подобранный марковский процесс, удовлетворяющий дифференциальным уравнением Фоккера—Планка, позволяет получать утверждения следующего типа: для любых кусочно гладких функций a (t) и & (^)
Р {при всех t a (f) <; £п (^) < Ь (£)} ->
(Ю)(Ю)Р {при всех t a (t) <Z^ (t) <Ъ (t)}.
(Ю)
(Ю)
Очевидно, что применение теоремы III) § 4 позволяет из сходимости (10) заключить о слабой сходимости Pi =Ф Р^ Метод верхних и нижних функций в настоящее время с успехом применяется И. И. Гихманом [34—39], решившим с его помощью ряд задач, относящихся к суммам случайных величин, а также ряд задач математической статистики (см. ниже).
6.2. Приближение эмпирического распределения к теоретическому. Пусть g — случайная величина с равномерным на [0, 1]
14 А. Н, Колмогоров
распределением вероятностей, Fu^ — эмпирическая функция распределения, построенная по п независимым наблюдениям величины L и
Ы^= (М) - О Vn, оо<1.
Обозначим через £ (0 непрерывный с вероятностью единица гауссовский процесс (т. е. процесс, у которого все конечномерные распределения гауссовские) с корреляционной функцией
М {£ (0, g (5)} - t (1 - s), 0 < t С 8 < 1.
Нетрудно показать, основываясь на многомерной теореме Лапласа, что конечномерные распределения процесса Еп (^) сходятся при 72 —>-оо к конечномерным распределениям процесса (О-
Отсюда оказывается возможным вывести сходимость распределений / (£п) к распределению / (£) для широкого класса функционалов. Для этой цели пригодны все методы, излагавшиеся выше в п. 6.1 (см., например, работы Донскера [45], Гихмана[38], Форте и Мурье [23]. В работе [23] используется метод характеристических функционалов, при этом ^п и g рассматриваются как случайные элементы в пространстве L2 [0,1]. Работа Донскера [45] близка к работе того же автора, о которой шла речь в п. 6.1). •
Опираясь на этот результат, можно получить целый ряд новых непараметрических критериев (см., например, [46]), обобщающих известные критерии Колмогорова [42] и Смирнова [43, 44].
ЛИТЕРАТУРА
Колмогоров А. Н. Основные понятия теории вероятностей. М.; Л.: ОНТИ, 1936.
Халмош П. Теория меры/Пер. с англ. М.: Изд-во иностр, лит., 1953.
Гнеденко Б. В., Колмогоров А. И. Предельные распределения для сумм независимых случайных величин. М.: ГТТИ, 1949.
Kolmogoroff A. Algebres de Boole metriques completes.— In: VI Zjazd Mate- matykow Polskich. Warszawa, 1948, p. 22—30.
Wiener N.— Publ. Mass. Inst. Techn., 1923, vol. 2, p. 60.
Slutsky E. E.— C. r. Acad. sci. Paris, 1928, vol. 187, p. 370—372.
Glivenko V. I.— Atti Accad. naz. Lincei. Rend., 1928, vol. 8, p. 480—483.
Glivenko V. I.— Atti Accad. naz. Lincei. Rend., 1928, vol. 8, p. 673—676.
Glivenko V. IAtti Accad. naz. Lincei. Rend., 1929, vol. 9, p. 830—833.
Doob J. L. Stochastic processes. New York, 1953.
Blanc-Lapierre A., Fortet R. Theorie des fonctions aleatoires. Paris, 1953.
Slutsky E. E.— G. 1st. ital. attuar., 1937, vol. 8, p. 183—199.
Слуцкий E. E.— Tp. Среднеаз. ун-та, 1939, т. 31, с. 1—15.
Дынкин Е. Б.— Изв. АН СССР. Сер. мат., 1952, т. 16, с. 569—572.
Kinney J. В,— Trans. Amer. Math. Soc., 1953, vol. 74, p. 280—302.
Ambrose W.— Trans. Amer. Math. Soc., 1940, vol. 47, p. 66—7 9.
Прохоров К). В.— УМН, 1953, т. 8, вып. 3, с. 165—166.
Kolmogoroff A. N.— С. г. Acad. sci. Paris, 1935, vol. 200, p. 1717 — 1718.
Hopf E.— J. Rat. Meeh, and Analysis, 1952, vol. 1, p. 87—123.
Mourier E.— C. r. Acad. sci. Paris, 1950, vol. 231, p. 28—30.
Fortet R., Mourier E.— C. r. Acad. sci. Paris, 1954, vol. 238, p. 1557 — 1559.
Fortet R., Mourier E.— Bull. sci. math., 1954, vol. 78, p. 14—30.
Fortet К., Mourier Е.— Ann. Ecole norm, super., 1954, p. 267—285.
Мои Her E. Elements aleatoires dans un espace de Banach: These Doct. Paris, 1954.
Bachelier L. Les nouvelles methodes du calcul des probabilites. Paris, 1939.
Luneburg R.— Math. Ann., 1931, Bd. 104, S. 700.
7. Petrovsky I. G.— Math. Ann., 1934, Bd. 109, S. 425—444.
Колмогоров A. H.— Изв. АН СССР. OMEH, 1931, c. 959—962.
Колмогоров A. И.— Изв. АН СССР. OMEH, 1933, c. 363—372.
Хитин А. Я. Асимптотические законы теории вероятностей. М.; Л.: ОНТИ, 1936.
Erdos Р., Кас М.— Bull. Amer. Math. Soc., 1946, vol. 52, p. 292—302.
Erdos P.. Кас M.— Bull. Amer. Math. Soc., 1947, vol. 5 3, p. 1011—1020.
Donsker M.— Mem. Amer. Math. Soc., 1951, vol. 6, p. 1—12.
Гихман И. И.— Укр. мат. журн., 1954, т. 6, № 1, с. 28—36.
Гихман И. И.— Мат. сб. Киев. гос. ун-та, 1953, № 7, с. 8—15.
ГихманИ. И.— ДАНСССР,1952,т.' 82,№ 6, с.837—840.
ГихманИ. И.— ДАНСССР,1947,т. 56, с. 961—964.
ГихманИ. И.— Укр.мат. журн.,1953,т. 5, с.413—433.
ГихманИ. И.— ДАНСССР,1953,т. 91,№ 4, с.1003—1006.
Кас М.— In: Proc. Second Berkeley Sympos., 1951, p. 189—215.
Maruyama G.— Nat. Sci. Rept Ochanomicu Univ., 1953, vol. 1.
Kolmogorojj A. N.— G. 1st. ital. attuar., 1933, vol. 4, p. 83—91.
Smirnov N. V.— Rev. Math. Moscow, 1939, vol. 6, p. 3—26.
Смирнов H. В.— Бюл. МГУ. Сер. A, 1939, т. 2, № 2, с. 3—14.
Donsker М.— Ann. Math. Statist., 1952. vol. 23, p. 277—281.
Anderson T., Darlong D.— Ann. Math. Statist., 1952, vol. 23, p. 193—212.
45
О СВОЙСТВАХ ФУНКЦИЙКОНЦЕНТРАЦИИ П. ЛЕВИ *
Всюду далее мы будем обозначать через g =. + gn
сумму независимых случайных величин ^ через Q (Z) - sup Р {ж < g < эс + Z}
функцию концентрации суммы § и (^'функцию концентрации ^. Теорему 48.2 из хорошо известной монографии П. Леви «Теория суммирования независимых величин» можно сформулировать следующим образом:
Каковы бы ни были 1 > е > 0 и р^>0, можно найти две постоянные 6 ^>0 и N > 0 такие, что, как только п*^ N, неравенство
Qk (Z) < 1 - е
* Sur les proprietes des fonotions de concentrations de M. P. Levy.— Ann. Inst. H. Poincare, 1958, vol. 16, N 1, p. 27—34. Перевод В. M. Круглова.
влечет неравенство
Q (Ь1^n) < р.(1)
Недавно мне понадобилось некоторое обобщение неравенства (1), Я смог удовлетвориться следующей теоремой [1].
Теорема. Существует постоянная С такая, что неравенства 2
L > I, P>V log s, где
влекут неравенство
Q (L) < CLUfs.(2)
В настоящей заметке я предлагаю доказательство этой теоремы. Другое уточнение неравенства (1) опубликовано с подробным доказательством В. Дёблиным в его статье [2]. Соответствующее место в [2] не сформулировано в четкой форме и в формуле содержится опечатка 3. Тем не менее кажется очевидным, что, применяя терминологию функций концентрации, результат В. Дёблина может быть сформулирован следующим образом:
Каковы бы ни были е > 0 и (3 > 0, существуют постоянные б > О и N > 0 такие,. что как только выполнено условие
max lk >, L =
так неравенство
Qk (М <1-8 влечет неравенство
Q (6^) < Р.(3)
Было бы интересно найти такие неравенства, которые бы включали (2) и (3) как естественные частные случаи. Вообще я хотел бы отметить, что дальнейшее развитие элементарных методов прямого подсчета вероятностей, столь блестяще развитых во Франции П. Леви и В. Дёблиным, как представляется, продолжает оставаться столь же актуальным, как и развитие классических методов или методов функционального анализа. Во всяком случае, мне не удалось доказать результаты, изложенные в моей цитированной выше статье [1],
Здесь и далее логарифм берется по основанию 2. 2
Вместо ^ ^ напечатано ^1. гг
без использования этих элементарных прямых методов. Весьма вероятно, что математики, которые лучше владеют тонкими свойствами характеристических функций, смогут рано или поздно доказать и даже обобщить теоремы из [1] с помощью чисто аналитических методов, как это уже случалось с результатами, доказанными вначале прямыми методами теории вероятностей. Кажется, однако, что мы сегодня еще находимся в том периоде, когда соревнование этих двух направлений приводит к наиболее плодотворным результатам. Если П. Леви, который равно владеет обоими этими направлениями, реализует эту параллель в своих собственных работах, то следует пожелать, чтобы после преждевременной смерти В. Дёблина вероятно- стники младшего поколения, несмотря на преклонение перед мощью (в конце концов совершенно оправданной) методов, связанных с распределениями в функциональных пространствах, не забывали бы прямых методов.
Воспользуемся следующими обозначениями:
F ^ - Р {g < ^}, а - М^ о2 - Dg.
Следующая лемма известна.
Лемма 1. Существует постоянная Сг такая, что неравенство I It — «fr I < I,
где а^ = М^ (k = 1, 2, . . ., п), влечет неравенство
\F (х) -Са,о(х)\<СгИо,
G^q— нормальная функция распределения с параметрами а, о. Следующая лемма представляет собой обобщение леммы 48.2 из «Теории суммирования независимых величин».
Лемма 2. Существует постоянная С2 такая, что соотношения р {h- = ^} = р {£к = —= ^2, жк > Z (& = 1, 2, . .п),
L ^ lVl°g' п (п ^ ^)
влекут неравенство
Q (L) < C^LUVn.
Для ее доказательства необходимо различать следующие три различных случая:
1°. L > I /п;
2°. L ^_lVni кроме того, существует г > 1 такое, что количест- во пТ чисел х^, лежащих в интервале
¥~Ч < ^ < 4rZ,(4)
удовлетворяет неравенствам
пт ^ nIV, nr ^ п!4 log п;
3°. L ^ 1^п и не существует числа г со свойствами, указанными в пункте 2°.
В первом случае'
Q (£)< 1 < ЫЦГп.
Во втором случае естественно рассмотреть сумму Е* величин Еь удовлетворяющих условию (4). Поскольку все члены этой суммы удовлетворяют неравенствам
I ^ К /* = ^ о* = /С ^ > 4--V УпТ > 4- Vn ,
то для соответствующей функции F* (^) по лемме 1 имеем
I F, (х) - Gao (х) | < Cxl^ < -^ < 8C1^ogR < ^L .(5)
у nr v n lV n
Так как функция концентрации QaiO ^ нормальной функции распределения Gai0 удовлетворяет неравенству
Qa, оQa, оL|/ 2л 5L|/ 2л 5
Qa, о
Qa, о
L
|/ 2л 5
L
|/ 2л 5
мы имеем окончательно во втором случае 4^* (Ь) обозначает функцию концентрации ^):
У(£)<^(Л)<-А-+^<(У4- + 8С'1)74= .(6)
' 2л 5* I V п ' Г Л J ^ V н
Согласно третьему случаю для каждого г > 1 выполняется одно из двух следующих неравенств:
либо пг < п!¥.(7)
либо пт <n!4 log п.(8)
Сумма п' чисел пГ1 удовлетворяющих неравенству (7), не превосходит
Г=1
Поскольку сумма всех пг равна п^ сумма п" тех пг, которые удовлетворяют неравенству (8), немешше г/2п. Ясно, что среди всех таких Пр найдутся по крайней мере 2 log п отличных от нуля чисел. Поскольку количество тех г, которые удовлетворяют неравенству
¥1 < L < IУЙ,
меньше log nn то существует некоторое количество, не меньшее log п^ таких, что
пт > 0, 44 > L.
Выбрав среди этих г только четные или только нечетные числа в порядке возрастания, получим последовательность
^ < г2 < . . . <rs, 5 > l/2 log п, для которой
Т^ L, i+]В2*
Выберем члены В/^, £/-2, . . ., ^s таким образом, чтобы
4Тг-Ч ^ я^ < 4r*Z,
и изучим их сумму £'. Поскольку •
1 Ь, I < 4ТЧ -L^L,4L^ < I ^ I < U
(i = 2, 3, . . ., s),
то более или менее элементарные рассуждения, которые могут быть проведены читателем, показывают, что сумма |' может находиться в некотором отрезке длиной L при одной-единственной вполне определенной комбинации (если n J> 1) знаков членов ^^ другими словами, с вероятностью не больше 2“ < п"г^.
Следовательно, в третьем случае из-за условия L ^ I имеем
Q Щ < Q' (L) < 1/ /п < ЫЦПь$)
Сравнивая неравенства (5), (6), (9) в этих трех случаях, видим, что лемма 2 доказана.
Перейдем к доказательству теоремы. Соотношения
Fy К (z/)) < у < Fk (uk (у) + 0)(10)
определяют функцию ик (у), 0 < у < 1. (Fk (xY будучи функцией распределения случайной величины ^, определяет единственным образом значения функции ик (у) для всех у в интервале 0 < у < 1, кроме, быть может, счетного множества точек у .) Ее можно рассматривать как обратную функцию
ик (у) = Fk1 (у),
определение которой уточняется подходящим образом для тех точек у, которые соответствуют точкам разрыва функции F^ (^). Если предположить, что случайные величины тц. распределены равномерно на интервале (0, 1) и что они взаимно независимы, то величины ^ = ик (щ) будут также взаимно независимы и подчинены распределениям Fk ^xY Очевидно, можно предположить, не умаляя общно-
сти, что первоначально заданные случайные величины ^ выражены таким же образом.
Можно предполагать, что все функции Qk (/) меньше единицы, поскольку, исключив из наших рассуждений те члены, для которых Qk (I) = 1, и получив для суммы всех остальных неравенство (2), можно вновь ввести исключенные члены, что не приводит к возрастанию Q (Л). Положим
4ek = 1 — Q^ (Z),
^ = и^ ^), х'н = ut (1 — е»).
Легко видеть, что
^ — Хк > I.
Обозначим через kTl k^ . . ., km индексы к, для которых
m- < гк или % > 1 — еь
Фиксируем величины
[если
ZT === I 4А
(1 —если % > 1 г бКг.
Легко видеть, что совместное условное распределение случайных величин ^. будет таким, что они останутся взаимно независимыми и каждая из них будет иметь распределение
где
Хр /2 ^kr (1^r) ^kr (^r)^i
ат — V2 Hr (1 — Zr) + ukr (Zr)].
Применяя (при kT и ZT фиксированных) лемму 2 к величинам ^т ^ = ^kT — Ctrl ДЛЯ которых I ^г | > ^ = V2Z, мы получим, когда L ^ > V J/"log nh неравенство
Q (£) < С^ЫГдТт = 2C^LUVm.(И)
Неравенство (11) доказано для условной функции Q (I/) (когда т$ кГ1 аГ1 ZT фиксированы и L ^ V l^log т\ Отсюда немедленно вытекает неравенство
Q Щ< р + 4C2Lfl /5
для абсолютной функции Q (L), Где
р = 1 — Р {V^ «^ 7П ^ s}.
Нам остается только оценить эту последнюю вероятность. Поскольку
Mm = ^2e;i. = ys,Dm = ^ 2е& (1 — eft)< -1 s,
кк
то согласно неравенству Чебышева для к = Ч^
1 — Р U— Мт I~ •
[4-ч1s
Таким образом, мы получим окончательно
<2 (£) ^ — + —7= ДЛЯ $ > 1
.г V 8
или, поскольку всегда Q (L) ^ 1 и по нашим предположениям L ^ 1г Q (L) < CL/qAs,
где С = 8 + 4С2.
ЛИТЕРАТУРА
Колмогоров А. Н. Две равномерные предельные теоремы для сумм независимых слагаемых.— Теория вероятностей и ее применения, 1956, т. 1, № 4, с. 426-436.
Doeblin W. Sue les sommes d’un grand nombre des variables aleatoires inde- pendantes.— Bull. sci. math., 1939, vol. 63, p. 23—32; 35—64.
•46
ПЕРЕХОД
ВЕТВЯЩИХСЯ ПРОЦЕССОВ В ДИФФУЗИОННЫЕИ ПРИМЫКАЮЩИЕ ЗАДАЧИ ГЕНЕТИКИ(Обзорный доклад)
Абстрактная теория «ветвящихся процессов» с «числом частиц», принимающих любые неотрицательные действительные значения (см. [1]), была, следует думать, развита в качестве теории, могущей охватить предельные закономерности обычных ветвящихся процессов при большом числе частиц. Такой реальный процесс, по-види- мому, имеет в первую очередь специальный случай диффузионных ветвящихся процессов. В простейшем однородном одномерном случае соответствующее уравнение Фоккера—Планка имеет вид
= гА b <хи^х — а (хи)х.(1)
Более сложная примыкающая сюда задача была рассмотрена еще Фишером в замечательной книге [2]. В популяции из N особей
ген А может быть представлен в v экземплярах О < v < 2N.
Для
£ = vi2N, О < £ < 1,
(2)(2)Фишер получает уравнение Фоккера—Планка ^т = V2 & [^ (1 — x)uAxx1
(2)
(2)
которое даже при больших N разумно только при х, не слишком близких к 0 или 1. Зато вблизи х = 0 величина v подчинена закономерностям ветвящегося процесса, вблизи же х = 1 такой характер имеет величина 2N — V. Аналогичные задачи могут возникнуть и в физике, и в химии.
Введением в весь круг вопросов может служить статья Феллера [3]. Соответствующие генетические задачи изложены (математически нестрого), кроме [2], в [4, 5]. Основные сведения по ветвящимся процессам, как известно, содержатся в обзоре Севастьянова [6].
Любопытно, что с точки зрения теории диффузионных процессов мы сталкиваемся здесь с вырожденным случаем: коэффициент диффузии Ьх/2 или Ъх (1 — х^Г2 обращается в нуль на естественных границах. Феллер подчеркивает возникающие по этой причине трудности в [3]. Он, однако (примеч. на с. 238), напрасно объявляет лишенными смысла некоторые результаты биологов, которые при надлежащей интерпретации верны. Мне кажется, что в данной области есть много тем, заслуживающих дальнейшей разработки. В нижеследующем я лишь даю примеры диффузионной трактовки некоторых простейших результатов, полученных другими методами, и указываю на правильную интерпретацию некоторых результатов Фишера, отрицаемых Феллером.
Пусть за один шаг процесса одна частица превращается в к частиц с вероятностью р^ (N),.
ЗрИ^-Г 3^W=1 + «W, hk(k-^pk^ = b^, ккк
^k(k-l)(k-2)p^N) = c(N). к
Параметр N будем стремить к бесконечности, предполагая при этомх что
(3)6)(5)(6)(3)6)(5)(6)рк (N) -> рк, Na (N) а, b (N) -> Ь, с (N) -> с,
(3)
6)
(5)
(6)
(3)
6)
(5)
(6)
а, Ь, с конечны.
Суть допущения (4) заключается в том, что при числе частиц порядка N и а порядка 1Ж роль числа частиц в ходе процесса систематического роста (убывания) и роль случайного рассеяния будут одного порядка. Если порядок а больше, то процесс при большом числе частиц делается почти детерминированным, если а будет меньшего порядка, то им можно пренебречь. Изучению «пограничных» явлений при ос, близком к нулю, посвящена работа Севастьянова [7]. Именно здесь от введения диффузионной идеализированной модели и следует ожидать пользы.
Если положить теперь число частиц v равным
V -
то естественным временным переменным для изучения поведения величины £ делается т, связанное с числом шагов процесса t соотношением
t = №.
При сделанных допущениях процесс £ (т) в пределе при 7V —> оо дает диффузионный процесс с уравнением Фоккера — Планка (1).
Уравнение (1) при а = 0 имеет решение
и (т, ^) = (с/т2) e"<2‘xlbT(7)
с особенностью в точке т 0, х 0. Оно и описывает в известном смысле поведение потомства одной частицы, появившейся в момент времени т = 0. Смысл этот таков: если при т0 > 0 подобрать с так, что
м(т0, x)dx — 1, о
то' условное распределение £ (т) при т > т0 в предположении, что £ (то) > 0, сходится при У оо к распределению
Р {£ (т) < ^} = 0, ^ ^ 0,
Р {£ (г) < х^ = Р (т) + ^ и (т, х) dx, ж ^> 0, о
Р (г) = Р {£ (т) = 0} = 1 — ^ н-(т, x^dx. о
Общее решение стационарного уравнения при а = 0, т. е. уравнения
^хх = 0,
имеет вид’
и (х) = cjx + с2.
Это не распределение вероятностей. Однако решение и (ж) = сх!х
имеет такой статистический смысл: если стационарным образом на каждом шагу с вероятностью р возникает новая частица и ц (хь х^ есть число этих исходных частиц, потомство которых в какой-либо фиксированный момент времени t заключено в пределах
Nxx ^ v Nx^
то математическое ожидание Мр, (ж17 х^ при N —> оо стремится к пределу
2 Г dx b j х
Аналогичную интерпретацию имеет решение сх!х + с2/(1 — ж) стационарного уравнения
(ж (1 — х^хх — О
и теории Фишера. Эта интерпретация была даже проверена на опыт" ном материале и оправдались практически.
18 ноября 1958 г. '
ЛИТЕРАТУРА
Иржина М.— Чехословац. мат. жури., 1958, т. 8, с. 83.
Fischer R. A. The genetical theory of natural selection. Oxford, 1930.
Feller W.— In: Proc. Second Berceley Sympos., 1951, p. 227—246.
Malecot J. Les mathematiques de heredite. Paris, 1948.
Wrigth S.~ Bull. Amer. Math. Soc., 1942, vol. 48, p. 223—246.
Севастъянов Б. A.— УМН, 1951, t. 6, вып. 6, c. 37—99.
Севастьянов Б.А.— Теория вероятностей и ее применения, 1959, т. 4, № 2, с. 121-135.
47
О КЛАССАХ Ф'”> ФОРТЕ И БЛАН-ЛАПЬЕРА*
Если для действительного случайного процесса £ (0 существуют непрерывные абсолютные моменты порядка п, подчиненные условию
Mjuoin<c(i + RD,(1)
то при Л ^ п моменты
' ^>(4^) = М [g (О, ...Л ^t^
можно представить в виде
т^ Un ..„^^^.-Л е^^ (^, . . ., М dXt. . . dXb
где р^ — обобщенные функции.
Процесс принадлежит классу Ф(п) (см. [1]), если все ц^ «типа конечной меры», т. е.
где М^ (Л) — конечная комплексная мера в ^-мерном пространстве.
Хорошо известно, что при п = 2 для строго стационарных £ (0 из существования моментов М | £ [ и М | £ |2 вытекает принадлежность к классу Ф<2\
Можно показать на примере, ^го аналогичное утверждение неверно при п > 2.
ЛИТЕРАТУРА
Blanc-Lapierre A., Fortet R. Theorie des fonctions aleatoires. Paris, 1953.
48
ОБ УСЛОВИЯХ СИЛЬНОГО ПЕРЕМЕШИВАНИЯГАУССОВСКОГО СТАЦИОНАРНОГО ПРОЦЕССА
Совместно с 10. А. Розановым
Две о-алгебры событий Ж' и 9R" независимы, если при любых А' е $V и А" (= Ж"
Р <А\ А") - Р (А') Р {А").
М. Розенблатом [1] была предложена естественная мера зависимости двух а-алгебр событий:
сс (€01', ^ = sup | Р (А' П А") — Р (А') Р (А") |.
А'^Г, А'^1"
Для стационарного случайного процесса £ (£)
a(9RL, $1^
(где Ж* означает a-алгебру событий, порожденную величинами £ (и), £ ^ и ^ £) зависит только от т и будет обозначаться а (т). Если а (т) —» 0 при т -^ эо, то говорят, что процесс g (^) обладает свойством сильного перемешивания. В настоящей заметке выясняется для случая гауссовских процессов, какие свойства спектральной функции F (X) процесса гарантируют наличие сильного перемешивания.
Для любых двух систем {£} = 51' и {ц} = 91", имеющих конечные вторые моменты, введем показатель
р(^Г) = 8ир-1^«И1^^ .
£, ч [м м^м (ц - мцХ
Если 91' и 91" являются соответственно совокупностями всех величин с конечными вторыми моментами, измеримых относительно о-алгебр 9)?' и $1", то по определению (см. [2])
р(9К',9К") = р(91'Л")
есть максимальный коэффициент корреляции между алгебрами $t'
Легко видеть, что всегда*
а(Г,Г)<р(Г,Г).(1)
Пусть теперь {Н} и {ц} — две совокупности случайных величин, имеющих (для любого конечного набора ^, . . ., £m, тц, . . ., рп) гауссовские совместные распределения, ®§ и 9КЛ суть о-алгебры, порожденные соответственно событиями (^Е Г) и (ц ЕЕ Г"), где Г' и Г" — произвольные борелевские множества на прямой, Н^ и Ял суть замкнутые линейные оболочки (в среднеквадратичном) совокупностей {£} И {ц}.
Теорема I. Имеет место следующее равенство*.
Т е о р е м а 2. Максимальный коэффициент корреляции удовлетворяет следующим неравенствам*.
а ^ъ ^^ < р ^ ^) < 2лсс ^ ^).(3)
Доказательство теоремы 1. Очевидно, можно ограничиться случаем, когда совокупности {£} и {р} состоят из конечного числа величин.
Далее, в пространствах Н^ и Н^ можно выбрать величины £х, . . . . . ., ^гои т|ь . . ., цптаким образом, чтобы среди них были зависимы лишь величины ^ и ц^ с одинаковыми индексами и каждая из величин g ЕЕ {£}, ц ЕЕ {р} была функцией от £х, . . ., Ет и тц, . . ., цп соответственно; можно считать также, что МЕ^ = 0, Мц^ = 0, D^ — = D?]j — 1, k = 1, m, / = 1, n.
Далее, величины / = / (£х, . . ., Em) и g = g (тц, . . ., pn) можно представить в виде тп
f = '2ifk^i'- • -Лк\ g = ^g)^ Th).
■1
где
А = м(шъ .^)-М(/|^, .
gj = М (g I Т)!, . . ., 1Ъ) - М (g | т^, . .п>-1)-
Заметим, что при к ]
м [М (/ I |ь . . ., ^ | 1]!, . . ., q,] =
= М [М (Шп . .^ I П1, . .4j|
и аналогично при j к
М [М (g | q1T . . nj) |^, . .^] =
= М[М (g | П1,. . q't) |^],
откуда следует, что i^fkgj = 0 при к Ф] и, считая для определенности т ^ п,
^fg = S ^fkgk = S м [М (fkgk I ёь.. •, &-i,1Ъ,. •., П»-1)]•
Величины 5/с и ц^, имеющие гауссовское распределение, не зависят от 51, . . ., Ьк-г1 Цп . . ., ц^ и из, цитированного уже результата Сар- манова [2] выводим, что
I м Ungk Ri, • • ., £k-i, Пь • • •, П1-1) I < рацЪк,
где
Р = Р (Н^, Н^, 4 = М (/£ | ^,. . ., ^-i, qn . .., 1^),
4 = м ^ I ^, . .^-^ т^, . .q^).
Отсюда получаем, что
lM/g|<pS МаД.<Р,
что и доказывает нашу теорему.
Доказательство теоремы 2 . Возьмем произвольное 8 > О И £8 ЕЕ Н^ Це ЕЕ Н^ С Mgs = Мце = о, D^e = ^Ц8 = 1 такие, что г = М^8ц8 > р — е. Рассмотрим события
^4g — {5е /> 0} ЕЕ Ж^ И Bg ^^ {т)е ^х” 0} ^ 95?^.
Имеем (см. [9, с. 321])*
Р(,АвВ^ = -I4-H-arcsinr, Р(Ле)Р(Ве) = 4’
и, очевидно,
arcsinr = Р (Л858) — Р (^s) Р (#8) ^ ос.
Далее, если а )> V4, то неравенство р ^ 2ла тривиально. Если же а ^ 1/4, то
р — е ^ г ^ sin 2ла, р ^ 2ла + е, р 2ла,
что вместе с соотношениями (1) и (2) и доказывает нашу теорему.
Из теорем 1 и 2 вытекает, в частности, что гауссовский стационарный процесс (^) обладает свойством сильного перемешивания тогда и только тогда, когда максимальный коэффициент корреляции р (®Loo, ®нт) —> 0 при т —> ос (в силу теоремы 1 он совпадает с показателем р (т) = р ^HL^, Них), где HL.. и Нит суть линейные замыкания в среднеквадратичном величин £ (и), и ^ t, и ^ (0, ^ > £, соответственно), более того (ср. [4, введение]),
а (т) ^ р (т) <С 2ла (т).~(3')
Пусть ^ (О — стационарный в широком смысле процесс и р (т) = р (Я^, НТ^
(показатель р (т) не зависит от t в силу стационарности).
Если спектральная функция F (X) нашего процесса не абсолютно непрерывна, то р (т) = 1 при любых т (см. [5, 6]).
Пусть F {X) абсолютно непрерывна и / (А,) есть спектральная плотность процесса £ (£), / (А,) = F' (А,).
Теорема 3. В случае целочисленного времени
(4)(4)р (т) = inf vrai sup Г | / (X) — еъ“тф (е~ь) [1 ,
(4)
(4)
где inf берется по всем функциям ф (z), аналитически продолжаемым ф
внутрь единичного круга; в случае непрерывного времени
р (т) =Ь inf vrai sup Г | / (X) — е^<р (X) | -А— 1 ,(4')
фX LJ
где inf берется по всем функциям ф (z), аналитически продолжаемым ф
в нижнюю полуплоскость.
Доказательство этой теоремы основывается на одной общей лемме из функционального анализа.
Лемм а. Пусть L — некоторое банахово пространство, L* — сопряженное к нему.
Пусть Н — некоторое подпространство пространства L и № — совокупность линейных функционалов, обращающихся на Н в нуль.
Для любого 1г* Е L* имеет место следующее соотношение;
sup = inf — №\\.(5)
teH, |]7гЦ=1П^ЬР
Доказательство. Поскольку (Д* — h°) (fc) — А* (А), то при НеН^ || h || — 1 имеем А* (А)|| К* — № ||’ и потому
sup h* (h) ^ inf || К* — ^° IL Далее, по теореме Хана—Банаха heH, ||Л|1=1№^Н«
о продолжении линейного функционала существует функционал Яг^ совпадающий на Я с А*, норма || Я* || которого не превосходит sup Я* (Я). Разность Я* — h* = Я? ЕЕ Н° и
heH, IMH-
||Я* - Я? || = || Я1 II = sup Я* (Я),
teH, ||/г||=1
что и доказывает соотношение (5).
Вернемся к нашей теореме. Очевидно, что
р (т) = sup У е^рг (Х)р2 (X) / (X) dX,
где
р.(Х)= 2 cie^, ^p^f^dX^l
и интегрирование производится в пределах от —л до л в случае целочисленного времени и в пределах от —оо до оо в случае непрерывного времени. Используя некоторые свойства граничных значений аналитических функций, можно показать, что на самом деле
р (т) = sup У еЛт р (X)/ (X) dX,(6)
р
где
р(Х)= 2 с^,$|р(Х)|/(Х)^Х<1.
Возьмем в качестве пространства L пространство функций Я (X),. интегрируемых с весом / (X), || Я || = j I Я (X) | / (X) ЯХ, в качестве подпространства II линейное замыкание функций р (X) вида
PW — 2 c^e"1^.
Каждый линейный функционал Я* на L имеет вид
h* ^ = У к* (X) к (X) / (X) dX,
причем
|| Я* || = vrai sup | Я* (X) ].
Подпространством № будет, очевидно, подпространство линейных функционалов Я0 с соответствующими функциями Я0 (X), для которых j e'^h? (X) f (X) ЯХ = 0 при всех ^ > 0. Отсюда следует, что функция ср (е-1Х) = Я0 (X) / (X) может быть аналитически продолже-
на внутрь единичного круга в случае целочисленного времени, а в случае непрерывного времени ф (X) = h (X) / (X) может быть продолжена аналитически в нижнюю полуплоскость.
Взяв в качестве И* линейный функционал, соответствующий функции К* (X) = с_^т, из соотношения (5) леммы получаем равенства (4) и (4').
Теорема 4. Если существует функция ф0 (z), аналитическая внутри единичного круга в случае целочисленного времени {в нижней полуплоскости в случае непрерывного времени^ имеющая граничное -значение фр {е-0^ {соответственно фр (X)), такая, что отношение j/^Q является равномерно непрерывной функцией от X, причем | //ф0 | > е /> 0 для почти всех X, то при т —> оо
р (т) —> 0. . ■ (7)
Если существует аналитическая функция ф0 (z) такая, что | //ф0 | > е > 0 и производная (//ф0)(А) равномерно ограничена, то
р (т) ^ сх~к.
Доказательство. Пусть ф (z) есть полином степени не выше [т/2] в случае целочисленного времени (аналитическая функция экспоненциального типа с показателем не выше т/2 в случае непрерывного времени).
Имеем
inf vrai sup ГI / — е-^ф I . inf vrai sup I I —е^ЧЬ 1
(pX LJ fpz=q)0-i|)^ LI фоI / J
— inf vrai sup I ^1-^0(8)
при т —> oo, так как отношение //ф0 можно равномерно приблизить функциями ф (z) описанного типа (см. [7, с. 207; 8]).
Например, свойство (7) всегда выполняется, если спектральная плотность / (X) непрерывна и не обращается в нуль ни при каких X, —л </ X <С т (случай целочисленного времени) или если / (X) равномерно непрерывна на всей прямой, не обращается в нуль и при достаточно больших X удовлетворяет неравенству
mnJ: < / (X) < М№~х(9)
при некоторых положительных т, М и целом к > 0 (случай непрерывного времени).
Далее, из работ [5, 6] вытекает, что если р (т) —» 0 при т —>оо, то спектральная плотность не может «очень сильно» обращаться в нуль: именно она должна быть положительна почти всюду и
(10)(10)С log /(X) ,„ .
(10)
(10)
Как следует из теоремы 4, более слабое обращение в нуль спектральной плотности / (X), совместимое с (10), само по себе не противо-
речит свойству сильного перемешивания (эквивалентному (7)). Если у (л) рациональна относительно егК (при целочисленном ^) или относительно X (при непрерывном £), то показатель р (т) убывает экспоненциально быстро; например, в случае / (X) = е/(а2 + X2) (^ (0 есть марковский гауссовский процесс) р (т) = е-ат.
11о-видимому, свойство сильного перемешивания может не выполняться, если спектральная плотность ЦХ) терпит разрыв (даже если она всюду больше положительной постоянной в случае целочисленного t).
Авторы выражают благодарность Ю. В. Прохорову за замечания, сделанные им при просмотре рукописи настоящей заметки, несомненно способствовавшие ее улучшению.•
ЛИТЕРАТУРА
Rosenblatt М. A central limit theorem and a strong mixing condition.— Proc. Nat. Acad. Sci. Wash., 1956, vol. 42, N 1, p. 43—47.
Сарманов О. В. Максимальный коэффициент корреляции.— ДАН СССР, 1958, т. 121, № 1, с. 52—55.'
Сарманов О. В., Захаров В. К. Максимальные коэффициенты множественной корреляции.— ДАН СССР, 1960, т. 130, № 2, с. 269—271.
Волконский В. А., Розанов Ю. А. Некоторые предельные теоремы для случайных функций. I.— Теория вероятностей и ее применения, 1959, т. 4, № 2, с. 186—207.
Колмогоров А. Н. Стационарные последовательности в гильбертовом пространстве.— Бюл. МГУ. Математика, 1941, т. 2, № 6, с. 1—40.
Крейн М. Г. Об одной экстраполяционной проблеме А. Н. Колмогорова.— ДАН СССР, 1945, т. 46, с. 339—342.,
Ахиезер Н. И. Лекции по теории аппроксимации. М.; Л.: Гостехиздат, 1947. 323 с.
Бернштейн С. Н. О наилучшем приближении непрерывных функций на всей вещественной осп.— ДАН СССР, 1946, т. 51, с. 327^-330; 485—488.
Крамер Г. Математические методы статистики/Пер. с англ. М.: Изд-ва иностр, лит., 1948.
49СЛУЧАЙНЫЕ ФУНКЦИИНЕСКОЛЬКИХ ПЕРЕМЕННЫХ,ПОЧТИ ВСЕ РЕАЛИЗАЦИИ КОТОРЫХПЕРИОДИЧНЫ *
Репером в евклидовом пространстве Еп называется набор ■
R = №, . . ., Ц
из п линейно независмых векторов. Функция k (t) от /г-мерного вектора t называется 7?-периодической, если существует репер
R* - Gt . . П
конгруэнтный 7?, для которого
It - № + . . .= / ^\ . .^
и функция / периодична по каждому переменному 2^ с периодом 2л.
Даются необходимые и достаточные условия ^-периодичности почти всех реализаций случайной функции g (£) в терминах «спектральных моментов».
Отсюда, в частности, вытекает, что стационарная изотропная 7?-пе- риодичная случайная функция, не равная константе, не может быть при 7? = 1 гауссовской. Изложенное может иметь интерес при исследовании потенциалов и решений уравнения Шредингера в кристаллах и средах с «близким порядком».
50
ОБ ОЦЕНКЕ ПАРАМЕТРОВКОМПЛЕКСНОГО СТАЦИОНАРНОГОГАУССОВСКОГО МАРКОВСКОГО ПРОЦЕССА*
Совместно с М.Арато и Я. Г. Синаем
Мы будем, рассматривать двумерный стационарный случайный процесс, компоненты которого £ (£) и ц (£) удовлетворяют стохастическим дифференциальным уравнениям
^^ — —ХУЛ — (з^хуЗЛ 4- d^^(1)
dj\\ = о)^ — Xyt + <7ф»
где ф (0 и ф (£) — два независимых винеровских процесса с
АА^ф = М<7ф = О, М (с/ф)2 = М (с/ф)2 — adt.
Полагая
£ = £ + rq, Х фу = X — iwt
-можно записать систему (1) в виде одного уравнения
^ = _да + ах.(1а)
Комплексная корреляционная функция нашего процесса имеет
ВИД
С (т) = А (т) + IB (т) = М [С (О U« + т)1 =
= a2 exp (—X | т | — гсот),(2)
где а2 = а1Х.
* ДАН СССР. 1962, т. 146, № 4, с. 747—750.
Если процесс наблюдается на промежутке [0, 7], то можно определить эмпирическую корреляционную функцию
Т-т
с(т) = а (т) 4- ib(т) = "Y^. t}' ЦЦЦ1 + pdt.(3)
О
Эмпирическая корреляционная функция с вероятностью единица имеет в нуле правую производную
/ 1 2 1 1 2
с (0) = — а— S1 — s2 _ zr,
где а есть введенный выше параметр, характеризующий интенсивность «белых шумов» ср' (£) иф' (^), а
s2 = *4 Ш (0) |2 + ШП I2L
Тт
4=4^W г=4-$№М- Оо
Интегрирование в выражении для г производится по угловому аргументу 0, определяемому из
U0 - I ? (О I е^\
На рисунке изображена эмпирическая корреляционная функция для чандлеровских вариаций координат полюса Земли Ч
Параметр а определяется по реализации точно. Остается рассмотреть задачу оценки параметров X и со. Обозначим через Р вероятностную меру в пространстве реализаций нашего процесса на отрезке [0, 7]. В том же пространстве введем стандартную меру
V - L X W.
где L — обычная лебегова мера на плоскости £ (0), W — двумерная винеровская мера в пространстве приращений ^ ^ — £ (0) с теми характеристиками, которые были приняты для случайного процесса
Мгновенная ось вращения Земли перемещается относительно малой оси земного эллипсоида (так называемая свободная нутация). В этих перемещениях имеется периодическая компонента с годичным периодом. После их элиминации остаются чандлеровские перемещения, имеющие тенденцию к колебаниям с периодом порядка 14 месяцев, но не строго периодические и с большими, в основном плавными (волны порядка 10—20 лет) изменениями амплитуды. Рисунок показывает, что чандлеровская компонента перемещения полюса хорошо удовлетворяет гипотезам, изложенным в начале нашей заметки.
Рисунок получен в результате обработки данных табл. 6 работы А. Я. Орлова [1]. Из координат ^ (^), у (0 табл. 6 выделена компонента с годичным периодом, остаток принят за ^ (t) и ц (0- На рисунке кружками указаны точки, соответствующие приращениям т в 0,1 года. По рисунку можно сразу усмотреть, что период 2л/о) равен приблизительно 14 мес. Правильный характер полученной спирали может привести к предположению, что параметр X тоже поддается очень точной оценке. Это, однако, неверно, как будет объяснено в конце заметки.
X (0- Можно показать, что (ср. [2, 3])
= СХехр Г-— 8? + XT V — ^г] ,(4}
Laa J ’х '
где С — некоторая константа. Формула (4) показывает, что система из трех статистик s^ s^ г является достаточной системой статистик задачи. Дифференцируя . .
L = log^=C'4HogX-2!^T81-+ +
по (о и ^, получаем уравнения
QLдспQLдспт '2 ।Т 18^ Г = 0, а 1а ’т '2 ।Т 18^ Г = 0, а 1а ’9Ь 1 X оОХЛa9Ь 1 X оОХЛa5‘2-i- + т оа5‘2-i- + т оа(5)(6)(5)(6)
QL
дсп
QL
дсп
т '2 ।Т
18^ Г = 0, а 1а ’
т '2 ।Т
18^ Г = 0, а 1а ’
9Ь 1 X о
ОХЛa
9Ь 1 X о
ОХЛa
5‘2
-i- + т о
а
5‘2
-i- + т о
а
(5)
(6)
(5)
(6)
для определения оценок наибольшего правдоподобия ® и X. Из (5) получаем
® = r/st "(*)
Можно показать, что
(& — ю)/о (й), о'2 (со) = а!Т^г
5Гт)
у — 0,1 -п; п = 0,1, ..., 156
распределено (0, 1)-нормалыю (это точный, а не асимптотический результат!). Уравнение (6) всегда имеет единственное положительное решение. Обозначая КТ = х, КТ = х, получим для х уравнение
й2х + (^ — 1) х — 1 = О,
где /^ = s\laT, h2 — ^JaT.
Распределение статистик h4 и h2, а следовательно, и х зависит только от параметра х. Так как распределение х непрерывно, то при любых а, 0 < а < 1, их, 0 < х < оо, можно найти такое ks что
Р (х ^> к | х } = а.(7)
Обращая зависимость
к — /t'a (^Х
получим зависимость
х — ха (к)
(установлено, что функция ка (х) при изменении х от 0 до оо монотонно меняется от 0 до оо, так что обращение возможно и однозначно). Очевидно,
Р {х < ха (х) | х} = а.(8)
Нами организовано вычисление функции ха (х) при а = 0,1; 0,05; 0,025; 0,01; 0,005; 0,001; 0,9; 0,95; 0,975; 0,99; 0,995; 0,999. Результаты будут опубликованы по окончании вычислений.
При малых х (8) эквивалентно соотношению
Р {х < их} = ехр.(—1/м),(9)
т. е. отношение х/х имеет распределение %2 с двумя степенями свободы. При больших х (8) эквивалентно
^ e^^dt,(10)
т. е. оценка х асимптотически нормальна с дисперсией
о2 (х) ~ х.(11)
Для отмеченного в начале заметки случая движения полюса Земли на основе наблюдений за Т = 60 лет получено 2
со = 5,274, х - 3,6, 2л : со — 1,191, о (2л : со) = 0,006.
Асимптотическая формула (11) дает
о2 (х) = 3,6.
Так как х заведомо положительно, а формула (10) при а < 0,03 доставляет отрицательную оценку к^ то ясно, что асимптотика (10) еще непригодна.
Произведенный нами расчет доставляет оценки
Хо,9о — 5,5;Хо,95 — 6,2;хо,975 = 7,8;
Хо,ю = 1,27; Хо,о5 = 0,82;><0,025 ” 0,46,
что соответствует для X оценкам
Хо,9о = 0,09;Хо,95 — 0,10;Хо,975 = 0,13;
Х0,10 = 0,021;Х0,05 = 0,014;Х0,025 = 0,008.
МГУ, 20 февраля 1962 г.
ЛИТЕРАТУРА
Орлов А. Я. Служба широты. М.: Изд-во АН СССР, 1958..
Striebel Ch.— Ann. Math. Statist., 1959, vol. 30, N 2, p. 559.
Apamo M.— ДАН СССР, 1962, т. 145, № 1.
Федоров Е. П.— Тр. Полтав. гравиметрической обе., 1948, т. 2, № 3.
Панченко Н. И.— В кн.: Тр. 14-й Астрой, конф. СССР. М.: Изд-во АН СССР, 1960, с. 232.
Munk W. Н.^ Macdonal G. J. F. The rotation of the Earth. Cambridge, I960, (Monographs on mechanics and applied mathematics).
Jeffreys H.— Mon. Notic. Roy. Astron. Soc. Geophys. Suppl., 1942, vol. 100, p. 139.
Walker A. M., Young A.— Mon. Notic. Roy. Astron. Soc. Geophys. Suppl., 1955, vol. 115, p. 443; 1957, vol. 117, p. 119.
Однако данные из [1] показывают, что значения функций f (I) и g (t) в моменты времени С отстоящие друг от друга на несколько лет, практически независимы между собой, так что замена функций f и g «эквивалентным белым шумом» законна. Ошибка в определении интенсивности а этого эквивалентного белого шума, по-видимому, достаточно мала, чтобы не влиять существенно на результаты оценки параметра X. Значение со вычислено по дискретному аналогу формулы (*), полученному по методу наибольшего правдоподобия для «схемы с дискретным временем».
Об оценке параметров X п со для движения полюса Земли см. также [6]. В [6] приведены результаты, близкие к нашим: X = 1/15, 2л : со = 1,193. Близкие значения были указаны Джефрисом [7], однако в работах [5, 8] указывались резко отличающиеся значения X = 0,3 и X = 0,01.
51
О ПРИБЛИЖЕНИИ РАСПРЕДЕЛЕНИЙСУММ НЕЗАВИСИМЫХ СЛАГАЕМЫХНЕОГРАНИЧЕННО ДЕЛИМЫМИ
РАСПРЕДЕЛЕНИЯМИ
ВВЕДЕНИЕ
На протяжении всей статьи
’£ = £1 +• • •+ |п
— сумма п независимых действительных слагаемых,
Fk М = Р Ш < Л, Нф=Р^< ж},
Go,(xP-=^L- (о>0,'
j 2л <5 J
0 при х <1 О,
при х > О,
Э = {D} — совокупность неограниченно делимых функций распределения D (ж); С17 С2, . . .— положительные константы.
Далее будут доказаны следующие усиленные варианты двух теорем, более слабые формы которых даны в моей работе [1].
Теорема 1. Существует такое С^ что в случае одинаково распределенных ^ каково бы ни было F (ж) = Fy (^), k = 1, 2, . . . . . ., п^ найдется D ЕЕ ©, удовлетворяющее неравенству
I D ^ - Н (х) I < C^-Va(0.1)
при всех х.
Теорема 2. Существует такое С^ что при любых е > 0, L Е> 2/ > 0 из соблюдения для всех х и k = 1, . . ., п неравенств
Е (х - I) - 8 < F* (х) < Е (х 4- о + е(0.2)
вытекает существование D ЕЕ S, для которого при всех х
D (х - L) - 6 < Н (ж)< D (х + L) + 6,(0.3)
где
6 = С^ max ^log -^-j/г, е'/з) .(0.4)
История вопроса такова.
Из замкнутости относительно слабой сходимости класса неограниченно делимых распределений, введенного Б. де Финетти [2], непосредственно вытекает, что в случае, если распределения сумм
£>w = 5п + ^2 + • • • + ^кп^ Ит ^ = оо,(0.5)
независимых и одинаково распределенных внутри каждой серии слагаемых слабо сходятся, то предельный закон распределения неограниченно делим.
Было соблазнительно понимать этот результат так: сумма большого числа одинаково распределенных независимых слагаемых имеет распределение, близкое к неограниченно делимому. Однако до моей работы [1] такое толкование оставалось не вполне убедительным.
Даже в случае схемы последовательности
51» ^2» * * *7 5^17 - • •
независимых одинаково распределенных слагаемых по В. Деблину [31 возможен «вполне расходящийся» случай, в котором ни при какой нормировке
5(Н) - Аи (^ + ... -ш - Вп
и ни по какой последовательности
п^ п^ <С . . . <С п^ <^ . . .
распределения сумм ^(П7г) не сходятся к чему-либо, отличному от вырожденных распределений Е (х — а). Этого последнего, конечно, можно достигнуть, выбирая множители Аи достаточно малыми.
Только в 1955 г. Ю. В. Прохоров [4] показал, что в случае последовательности одинаково распределенных независимых величин £п всегда существует последовательность неограниченно делимых функций распределения
Dx (х), D^ (ж), . . Du (^), . .
аппроксимирующих распределения Ни (а:) сумм
5(П) - 51 + 52 + . - • +5п в смысле
sup I Ни (х) — Du\x) I 0(0.6)
при п —> оо. Работа Прохорова [4] оставляла, однако, открытым вопрос о том, будет ли сходимость в (0.6) равномерной относительно выбора функции распределения F (ж) величин £п.
В терминах равномерной метрики
р (Г, F") - sup 1 F' (ж) - F” (ж) |
вопрос заключается в следующем: будет ли функция
4 (и) = sup р (Яп, ©)
F
стремиться к нулю при и —^ оо? Моя работа [1] дала ответ на этот вопрос: было доказано, что
ф (/г) = О (n~1,5Y(0.7)
В 1960 г. Прохоров [5] усилил этот результат, показав, что
ф (п) = О (п”113 log пУ(0.8)
Наша теорема 1 говорит, что 2
ф (/г) = О (?г-1/3).(0.9)
Было естественно поставить вопрос об оценке функции ф (п) снизу. Такими оценками занимались ученик Прохорова И. П. Цареградский, сам Ю. В. Прохоров и Л. Д. Мешалкпн. Последний результат Л. Д. Мешалкина [6] таков:
ф (/z) > С^п^1" (log ^)~.(0.10)
Для случая сумм
^^ — ^ л. ^3... -4- ^'пк
независимых внутри каждой серии, но различно распределенных слагаемых А. Я. Хинчин в 1937 г. 17] установил достаточное условие для того, чтобы предельное распределение £( о было неограниченно делимым. Это условие бесконечной малости слагаемых: существуют
е^ 0,1^ —> 0,
при которых распределения F^ величин ^ удовлетворяют условию
Е — 10 — е,.. < Е^ (ж) < £ (ж + 10 + ек.
Наша теорема 2 является попыткой придать этому результату Хинчина равномерный характер. Качественное содержание теоремы 2 можно сделать более ясным при помощи «расстояния Леви»:
pL (F\ F’^ - illf 8,
где inf берется по 8, удовлетворяющим условию
F' (х — 8) - 8 С ^ (ж) < F' (х 4- е) + С.
Легко видеть, что из теоремы 2 вытекает такое
Следствие. Если
sup pr, (Fi, Е^ < 1], г
то
Pl (Н, 8)<С4т]1/3.
Как известно, самым мощным средством доказательства предельных теорем о распределениях сумм большого числа независимых слагаемых является аппарат характеристических функций. «Прямые» вероятностные методы сейчас в этой области лишь редко могут выдержать конкуренцию с возможностями аналитического аппарата характеристических функций.
Наши теоремы 1 и 2 являются любопытным примером другого положения вещей. Существенным элементом их доказательства является лемма 1, относящаяся к введенным Леви «функциям концентрации». Теоремы Леви и В. Деблина о свойствах функций концентрации были усилены мною (см. [8]) специально для доказательства первых вариантов теорем 1 и 2, данных в [1]. Дальнейшее продвижение в выводе оценок для функций концентрации принадлежит Б. А. Рогозину (см. [9, 10]). Рогозин тоже пользуется элементарными прямыми вероятностными и теоретико-множественными (теорема Эрдеша о подмножествах конечного множества) методами .
Тем математикам, внимание которых мне удалось привлечь к нашей задаче, пока не удалось доказать теоремы типа 1 и 2 без обращения к указанным сейчас своеобразным средствам.
Во всей данной работе, как и в^работе [1], существенно используются методы рассуждений, введенные В. Деблином (см., например, [3]). Как видно из сказанного выше, переход от показателя V5 к показателю 1/3 в теореме 1 был осуществлен Прохоровым. Изгнание из оценки Прохорова (0.8) множителя log2 п потребовало: а) употребления более точных оценок функций концентрации, полученных Рогозиным; б) некоторых изменений в доказательстве Прохорова, выразившихся во введении лемм 5 и 6 .
При доказательстве теоремы 2 переход от показателя х/5 работы [1] к показателю 4/3 осуществляется близкими приемами, заимствованными из работы Прохорова [5] и связанными с употреблением лемм 5 и 6.
Кроме расстояния
р (Г, F") - sup | F' ^ - F” (ж) | ,
естественно рассмотреть «расстояние по вариации»
ру (Г, F^ - V2 Var [Г (я) - F" (я)] = sup [Г (4) - F" (Л)]?
A
где A — произвольное измеримое по Борелю множество прямой. Как известно,
р (F', F") < р„ (F', F").
Поэтому для функции
% (и) = sup р„ (Fn, ©) F
имеем неравенство
фУ (п) > ф (п).(0.11)
Неизвестно, стремится ли ф^ (/г) при растущем п к нулю.
ВОСЕМЬ ЛЕММ
Следуя П. Леви, для любой функции распределения F (х) введем ее «функцию концентрации»
Qf (Z) - sup [f (х + I + 0) - F (ж)].
ЭС
Лемма 1. Если при к — 1, 2, . . ., п, L > I ^> 0, х^ — хЦ ^> I
Р {Ь < ^} = Р {^ > 41 = Vg,
Qh (L) < Cs (L/l) пЧч
Лемма 2. Если о > 0, Z ^> 0
n = C^l^\
то для любой функции распределения F (^)
F * Gox ^x — Z) — ц ^ F (ж) F * Ga2 ^x + Z) + q.
Лемма 3. Если a > 0, ог )> 0, то
I G 1 (x) — Gqz (ж) I < C7 I Oi/<j2 — 1 | .
Лемма 4. Если
\xF (cZ^) = O, ^x^F ^dx) — o2,h^Q^>k\
mo
5 sup XF^-EVx^C^
r=—oo rh^x^r^l^h
Лемма 5. Если М^ — О, | ^ | ^ ^ D£ = о2, h ^ о > О,; то
IIУ sup
I
I
■р—' r/l^X«r+l)/l
Л е м м а 6. Если МЕк — 0, | ^ | I, В£ = о2, о^ = о2 -р Oq, то
аоаоа1а1^ю^ ^1-^ю^ ^1-
ао
ао
а1
а1
^ю^ ^1-
^ю^ ^1-
Л е м м а 7. При любом натуральном п и О <С Р ^ 1
У I С^р™ (1 - ру— - А^_ e-v | < сир.
Л е м м аЛ е м м а8. Пусть 5 О8. Пусть 5 О■Рк^т^■Рк^т^1 — РкРко1 — РкРкопри т = О,при. m = 1, gk (т) = -^- е”1^-,при т = О,при. m = 1, gk (т) = -^- е”1^-,припритткк?(™)=1к(т4к?(™)=1к(т4к
Л е м м а
Л е м м а
8. Пусть 5 О
8. Пусть 5 О
■Рк^т^
■Рк^т^
1 — Рк
Рк
о
1 — Рк
Рк
о
при т = О,
при. m = 1, gk (т) = -^- е”1^-,
при т = О,
при. m = 1, gk (т) = -^- е”1^-,
при
при
т
т
к
к
?(™)=1к(т4к
?(™)=1к(т4к
Тогда
111 к
Леммы 2 и 3 доказываются простым подсчетом. Лемма 1 является непосредственным следствием теоремы 1 из заметки Рогозина [9]. Лемма 7 доказана в работе Прохорова [11]. Лемма 4 вытекает из оценки (£ имеет распределение F)
а2/х2а2/х2F (z) - Е (х)
а2/х2
а2/х2
(неравенство Чебышева).
(1.1)(1.1)Леммы 5 и 6 примыкают к известной оценке I Н - G^ | < C13Z/o,
(1.1)
(1.1)
.которая вытекает из теоремы Ляпунова в формулировке Эссеена
<[12, с. 2161):1. V
к4к4(1.2)
к4
к4
Лемму 6 можно получить из (1.2), если дополнительное нормальное слагаемое с дисперсией Оо представить как сумму большого числа слагаемых с достаточно малыми дисперсиями.
Несколько сложнее доказательство 6 леммы 5.
ДОКАЗАТЕЛЬСТВО ТЕОРЕМЫ 1
Будем далее считать п > 1. Легко видеть, что это ограничение несущественно.
Кроме того, будем считать, что ^ являются неубывающими функциями
Ь = F; ы
от независимых между собой величин тц. с равномерным распределением на отрезке [0, 1]:
р {nt < у} = У при 0 < у < 1.
Легко показать, что в надлежащем расширении основного поля вероятностей (Q, 9R, Р) такие величины тц существуют 7.
Положим
р = тг-1/з7
О при р/2 < ^ < 1 — р^
в остальных случаях,
а = М ^ | ц^ = 01, о = D {^ | ц^ = 0},
Л (я:) = Р {^ < х | pfc = 0), В (х) = Р ^к < х ( pfc = 1}.
При переходе от величин ^ к величинам
^ = £к — я
все эти построения сохраняются. Только вместо а появляется а‘ ;= 0t а функции А (ж) и В (х) заменяются на "
А' (х) = А (х + а), В' (ж) = В (х + а).
Поэтому можно рассматривать лишь случай
а = 0.
Им мы ограничимся в дальнейшем.
В разложении
F М = Рв М + (1 — Р) А (ж)
распределение А сосредоточено на отрезке Vx", х+],
х" = г**1 (р/2), х+ F^1 (1 - р!2\
длины
X = х^ — х*^
а распределение В — вне этого отрезка, причем каждому из лучей (— оо, х~] и [я:+, оо) в распределении В соответствует вероятность 1/2, JK распределениям Вт (как и всюду далее, степени распределения понимаются в смысле свертки) можно применить лемму 1, что дает «оценку
QBm (X) < С^-.(2.1)
Распределение
Н = VPB + (1 - р) А f = 2 С^рт (1 - ру-^Вт * А п"т
будем приближать неограниченно делимым D по-разному в двух случаях:
А. X ^ У шз. , В. Х<^Уп<з.
Случай А. Положим _, лп
В _ епр(в-Е) _ \е Вт
По лемме 7
| D - Нг | < Сир = Сууп'к(2.2)
В силу леммы 4 и оценки (2.1) при h = X имеем
| вт * Д"-т— Вт |< ^ | Ап"т(х — z) — Е (ж — z) | Bmdz <
<QBm^ sup \А11-т^-Е^\<С5С8пг-,к(2.3)
Т TK^y^tr-yi^x
Поэтому
\Н - Нг I < 3 С™рт (1 - Рут | вт * А^ -Вт\< С6С8п”Ч» + 22', т
где
(2.4)
2'= 32 с^рт^-рГт= р^<х№.
т<г/гп^»
Заметив, что
Мц = пр = п^%(2.5)
Dp, = пр (1 — р) < п^(2.6)
получим по неравенству Чебышева
2' < р { I И ~ п^ | > ^Ln /з) < 4п~2\
что вместе с (2.4) приводит к неравенству
| Я - ^ | < (2С5С8 + 8) п-Х(2.7)
Из (2.6) и (2.2) получаем (0.1).
Случай В. Положим
D = ^ив-е)* Gn(1_p)a,= у _(^ е^Вт * GOT01,
Яг = S W (1 - рГтВт * GMo4
^2 = S С”рт (1 - ру-™Вт * Gn<w.
По лемме 7 имеем
| D - Нг | < С^п-Ч*.(2.8)
Разность Н — Нх оценивается при помощи леммы 5, где полагаем теперь Н = Упо;
| вт * А"-т - Вт » СИа11 < У А п~т (ж - z) - GM № (ж — z) | X
X Вт(dz) < QBm (Ум о) У sup _ | Ап-т(у) — G(n_m)ai(y) | ^
~"^ r/na<i/<(rH-])/no
< С8 т-ЧС. -К. = САт-Чч
ЛУ п 6
Эта оценка вполне аналогична оценке (2.3) случая А. Точно так же® как в случае А, получаем
| Н - Нг I < СьС»п"ш + 2S' < C^n"11.(2.9)
*А15 А, Н. Колмогоров
Разность HY — Н^ оценивается при помощи леммы 3: \нг-на <^6^ + 5", где
2Г =5су^-р^.
I _i К ^
I n(l-p) Vc7
При помощи неравенства Чебышева из (2.5) и (2.6) при п ^> 1 и надлежащем выборе Сю можно получить оценку
2" < С17^1/3, что приводит к
| Ят - Я2 | < (С16 + Сп) я'173.(2.10)
Из (2.8) — (2.10) получаем (0.1), чем доказательство теоремы 1 заканчивается.
•§ 3
ДОКАЗАТЕЛЬСТВО ТЕОРЕМЫ 2•
Будем считать s < 1, что не ограничивает общности результата
Покажем, что достаточно рассмотреть случай непрерывных и строго возрастающих функций F^ (х).
Предположим', что для непрерывных и строго возрастающих функ
ций теорема 2 доказана с константой С2, и рассмотрим сумму
£ = L + • • • + £п
с произвольными F^ (ж), удовлетворяющими условию (0.2). Пусть
L ^> 2Z. Выберем Z' и L* так, чтобы
L > U > 2Z' > 2Z,14U > ^l/L.(3.1)
В силу леммы 2 можно выбрать столь малое о0, чтобы для любой функции распределения F (^) выполнялись неравенства
F * G ^ (я - К) - е < F ^ < F * G 2 (х + X) + е,(3.2)
аоао
. F * ^ ^ ~ Л) 6' < F ^ < F * G^ (^ + Л) + б',(3.3)
где
X - V - Z, Л = L - L\
_ б' = С^ max [ -^т- ^log -у-) /2» (28)^3J е
Положим
■ ^ = F^ ^ G^.
По (0.2) и (3.2) получаем
Е (^ - V) - 2е < Fk (ж) < Е (я + О + 2е.
Так как функции Fk непрерывны и строго возрастают, то существует неограниченно делимое распределение D', для которого
D’ (я - L^ - 6' < Н ^ < D (я + L^ + б'.(3.4)
Замечая, что
Я' - Н *G 2,
из (3:3), примененного к F (ж) = Н (х), и (3.4) получим
D* (я — L) - 26' < Я (ж) < D* Кх + L) + 26'.(3.4')
Так как при надлежащем выборе С2 в силу (3.1)
26' ^ 2^2 max ^-^- (log -^-^/г, (2е),/з j ^ С^ max ^™ (log -^ \ s’^J,
то из (3.4') вытекает (0.3).
В соответствии с п. 2 будем далее считать Fk (а?) непрерывными и строго возрастающими. Тогда функция
Xk (р) = Ft1 (1 - р/2) - R1 (р/2)
будет определенной для всех р, 0<Zp<Zl, непрерывной и строго убывающей. Она пробегает все положительные значения. Поэтому обратная функция рк (X) определена на 0 < % < оо, непрерывна, строго убывает и пробегает все значения в интервале 1 > р > 0.
Функция
Ц^^р,^
тоже непрерывная и строго убывающая. Она пробегает все значения в пределах n > s > 0. Поэтому при 0 < е < 1 существует единственное решение Хо уравнения
s (X) = е*2/3.
Мы положим
( Хо, если Хо > Z,
[ /, если %0 <^ ^,
р^=pt (Л), s=$ (Л)’= 5 pt, к
Хк = Fk1 ^Pkl^Y Хк = Fk1 (X — Pkl^i
_ fo при Хк < ^к < ^г
^|1 в остальных случаях,
ац = М ^Ъ I Рк = 0}, Ок = D {£к | рк = 0}, а2 = 5 (1 — Рк) Ок.
Полагая
Лк (ж) = р {^к < X I pfc = 0}, Вк (ж) = р {Ек < Ж I Рк = 1},
представим F^ (х) в виде
Fk (ж) = ркВк (х) + (1 — Рк) А к (х),
где распределение Лк сосредоточено на отрезке [жк, Жк1, а распреде. ление В к — вне этого отрезка, причем так, что лучам (— сю, ^] и Ixk, оо) соответствует вероятность 1/2.
Применяя обозначения леммы 8 и полагая
В(т) = П*В?, Л(т) = П*лГ\ kК
получим
в = П* [pkBk + (1 — Pk) 4k] = 2 Р (т)в (т)*4 (т). к,т
Построение аппроксимирующего неограниченно делимого распределения будет различно в трех случаях А, В, С.
А"
В
С
Хо ^ Z
Хэ ^ <5
X = Xq 5 = 8“2^3
Хо ^- Z
Хо <С ^
X = Хо
S = е-2/з
Хо <С Z
X = 1
S = 8“2^3
5. Так как всегда A ^ I, то
Рк = Рк (А) < рц (I) < е.
(3.5)
Это единственное в нашем доказательстве обращение к условию (0.2) теоремы. Так как определение р^ (А) и всех прочих существенных для наших построений величин инвариантно по отношению к сдвигам
^к ” ^к £fci
то теперь мы можем ограничиться случаем ак = 0.
Сделаем еще некоторые подсчеты, которые понадобятся в дальнейшем:
т = ЕРь f(m)=2mb Кк
т равно числу величин ^, лежащих в пределах ^ < ^ < хк. Легко подсчитать, что
Мт =5, От = 2 Рк (1 — Р^ < s. к.
Поэтому по неравенству Чебышева
p{|t-s|>C}=£ р^х^.(з.б)
|t(m)—s | ^С
Пусть, далее,
t = S (1 — иО ^- к
Это сумма тех ^, которые лежат в пределах ^ < ^ < x"L В силу допущения ак = 0 при любых m
М^О, М(^|м = т)-0.
Нас далее будут интересовать условные дисперсии
о2 (m) = D (£ | ^ = т).
Для случайной величины р2 - а2 (и) легко подсчитать
Мр2 = о2,
Ер^ЗрИ1 — Ри) о*, к
Так как
V /J \ 222 V
> , (1 — Рк) Ок = О2,»
к
Рк = Рк (Л) < Рк (I) < 8, имеет место неравенство
Dp^ < 1/4о2Х28.
Поэтому
P{|p2-aN>C}=‘ J] р(т)<^.(3.7)
|а2(т)-аЧ>С
Наконец, отметим, что по лемме 1
QBw^CC^LIX^t^Y(3.8)
Переходим непосредственно к доказательству теоремы 2 в случаях А, В и С.
С л у ч а й А. В этом случае
я = IT VpA + (1 - р^ Л»] = 3 q М В (ш)*Л (т) /гт
аппроксимируется
D = ехр 5 Ри (Вк — Е) = 3 g (т) В (т). fcт
Для перехода от Н к D рассмотрим еще
Я1=Зр(т)В(ш). т
По лемме 8 и (3.5)
ID - Я11 < S| Р (т) - q (т) | < См 2 рХ < С12е5 pk < Ci^k (3.9) тКк
С другой стороны, по лемме 4 при h = Л = Хо > а и (3.8)
| В (т)* Л (т) — В (т) | ^ ^ | Л (т) (ж — z) — Е (ж — z) | В (т) (dz) ^
<(WMS sup | Л (т) (у) — £ (у) К С6С8 Г< (т)]-’\ т ть^у^т+гу^
(3.10)
Поэтому
| Н — Hi | ^ 2 Р (т) IВ (т)*Л (т) — В (т) | ^ "^ЗСбСев-’/з _}. 2S', т
(3.11)
где
2'=3р^\
ЦтХУге8/»
В силу (3.6), замечая, что в нашем случае s = е2/з, имеем
2'< 8е~2/з < 4еЧ
е. из (3.11) вытекает
I я - Я, К (V2С6С8 + 8) е1/..(3.12)
Из (3.9) и (3.12) получаем
| Н - D | < C188V..(3.13)
С л у ч а й В. В этом случае полагаем
D = ехр 2 Pit фк — E)*GC1= 2 9 (m) В (m)*^,
Я! = 2 Р (m) В (m)*^^),Ha = 2 P (m) В (m)*GCT1.
mm
Неравенство
\D -H, \<V(3.14)
получается так же, как (3.9) в случае А.
По лемме 5 при А = а^>Х==Хои (3.8) получаем
IВ (т)*Л (т) — В (т)*^^) | <
< ^ | Л (т) (ж — z) — G^m) (л — z) | В (т) ^ <
< <?В(т) (о) У sup I Л (т) — ^(ш) I < *^ га<2/«г+1)а
< -^ [* (т)]-'/^, -^ = СЪС» \t (m)]-V8.(3.15)
Точно так же, как в случае А было получено (3.12) из (3.10), получаем из (3.15)
| Я - ^ | < (С6С9 + 8) 6V.J(3.16)
Остается оценить разность Нг — Нйе По лемме 3
| Ggz — G(ji(m) | ^ Cfge^8, если
| g2 (m)/a2 - 1 | < Ci9/C7.
При помощи (3.7), учитывая, что теперь А < о, получаем оценку
S" = У, р(т)<Сао8'/..(3.17)
I a2(m) I < С19
Поэтому аналогично выводу (2.10) при доказательстве теоремы 1 получаем
| Я1 - я2 |< (С1$ + С^ е*/..
Из (3.14), (3.16) и (3.17) вытекает
| Н - D | < С21еЧ(3.18)
Неравенства (3.12) и (3.18) показывают, что в случаях А и В оценка (0.3), составляющая содержание теоремы 2, может быть
заменена более сильной:
D (ж) — С2281/з ^ Н (ж) ^ D (ж) + С22е1/з.(3.19)
С л у ч а й С. В этом случае получить оценку типа (3.19) не удается. Мы положим
a0 = -^-L(log Ар(3.20)
и введем вспомогательное распределение
Н' = Н * G0o.
В силу леммы 2 при
Т] = С^'^ = UL,(3.21)
Н' (ж - L) - т) < Н ^ < Н' (ж + В) + г].(3.22
Далее мы покажем, что неограниченно делимое распределение
Z> = 3 9 (т) В (m)*G 2, Oi = ст2 + Сто, тal
удовлетворяет неравенству
Вместе е (3.21) и (3.22) из (3.23) получаем (0.3).
Остается доказать (3.23). Для этого вводим распределения
Н^^р^В (m)*G 2 о^ (m) = a2 (m) + Од- m
'Н^р^В^* mal
Доказательство неравенства
J D - Н'г |< C^i-(3.24)
таково же, как доказательство неравенств (3.9) и (3.14) в случаях А и В. Только теперь
$ = 5 Pt < eJ/’’
что приводит к оценке 5jPt<eSpk<e1/». кк
В силу леммы 3
| я; - я; I < С248'/. + 2'" Р (т),(3.25)
где S'" распространена на те р (т), для которых
I О1 (m)/ai - 1 I > С^/Сч.(3.26)
При надлежащем С24 из (3.25) вытекает
I о‘1 (m) — О11 = | ст2 (m) — о21 > о^/з.
Поэтому в силу (3.7) и неравенств
о2 < о?, Л = Z ^ п0,
Таким образом, из (3.25) получается
I н; - н; I < (С24 + 1) sVa.(3.27)
Наконец, по лемме 6 получим в силу (3.20)
IА" G„-lW К с» ^ < /2С„ A(iog
откуда
IН’ -н'г I = /2С10 -L(log 4)1/2.(3.28)
Из (3.24), (3.27) и (3.28) непосредственно вытекает (3.23). Этим доказательство теоремы 2 заканчивается.
Пароход «Сергей Киров»,
Красное море — Персидский залив, 13—24 марта 1962 г.
ЛИТЕРАТУРА
Колмогоров А. Н. Две равномерные предельные теоремы для сумм независимых слагаемых.— Теория вероятностей и ее применения, 1956, т. 1, № 4, с. 426—436.
Finetti В. de. Le funzioni caratteristiche di legge instantanea.— Atti Accad. naz. Lincei. Rend., Ser. 6, 1930, vol. 12, N 7/8, p. 278—282.
Doeblin W. Sur les sommes d’un grand nombre des variables aleatoires inde- pendantes.— Bull. sci. math., 1939, vol. 63, p. 23—32; 35—64.
Прохоров Ю. В. О суммах одинаково распределенных случайных величин.— ДАН СССР,^ 1955, т. 105, № 4, с. 645—647.
Прохоров Ю. В. О неравномерной предельной теореме А. Н. Колмогорова.— Теория вероятностей и ее применения, 1960, т. 5, № 1, с. 103—113.
L\^L\^Мешалкин Л. Д. О приближении распределений сумм неограниченно делимыми законами.— Теория вероятностей и ее применения, 1961, т. 6, № 3, с. 257-275.
L\^
L\^
Khintchine A. Zur Theorie der unbeschranktteilbaren Verteilungsgesetze.— Мат. сб., 1937, т. 2, № 1, с. 79—119.
Kolmogorov A. N. Sur les proprietes des fonctions de concentrations de M. P. Levy.— Ann. Inst. H. Poincare, 1958, vol. 16, N 1, p. 27—34.
Рогозин Б. А. Об одной оценке функции концентрации.— Теория вероятностей и ее применения, 1961, т. 6, № 1, с. 103—105.
Рогозин Б. А. Об увеличении рассеивания сумм независимых случайных величин.— Теория вероятностей и ее применения, 1961, т. 6, № 1, с. Юб- 108..
Прохоров Ю. В. Асимптотическое поведение биномиального распределения.— УМН, 1953, т. 8, вып. 3, с. 135—142.
Гнеденко Б. В., Колмогоров А. Н. Предельные распределения для сумм независимых случайных величин. М.; Л.: Гостехиздат, 1949. 264 с.
52
ОЦЕНКИ СПЕКТРАЛЬНЫХ ФУНКЦИЙСЛУЧАЙНЫХ ПРОЦЕССОВ
Совместно с И, Г. Журбенко
В статье исследуется асимптотическое поведение, эффективной статистики спектральной плотности при растущем объеме выборки. Некоторая новая статистика, введенная А. Н. Колмогоровым, сравнивается с другими, хорошо известными статистиками спектральной плотности, а также с асимптотически наилучшей статистикой с точки зрения среднеквадратичного уклонения. Обсуждается влияние на различные статистики больших выбросов спектральной плотности в соседних частотах. Новый класс статистик получен за счет применения Оператора сдвига к периодограмме, вычисленной на основе сглаженньГх данных.
Пусть X (t), t = 0, ±1, . . .,— стационарный случайный процесс со средним МА (£) = 0, ковариационной функцией С (£) и спектральной плотностью / (X), где / (X),— оо < Х< со,— функция периода 2л. Из соображения размерности в качестве допустимого класса статистик естественно рассмотреть все квадратичные формы
'N
^-^ »№(«)хМ(1)
t=i
с произвольными коэффициентами Ь^. Как показали Гренандер и Розенблатт [1], асимптотическое поведение при оо первых двух моментов не ухудшится, если вместо класса статистик (1) рассмотреть более узкий класс статистик вида
N
^ = -2^ Ц hWy-s^^X^X^,(2)
s, <=1
которые можно представить в виде
N-1
ь^=-^ У. еЫыг)В«^^
где
в^=4- £ x(S)X(S+ifi). S=1
Статистики Зм Oh можно представить также в виде '
In Oh = $ On (ж) In (х + %) dx,(4)
где
Nл
In ^ = "айГI У eU$X W |2. ^n (0 = § On (ж)etedx. t=l—л
При N -> оо асимптотический минимум смещения А/n (X) = M/n (X)— — / (X) и дисперсии, а следовательно г среднеквадратичного уклонения V/n (X) = М Qn (X) — / (X))2 по статистикам класса (2) и (3) согласно [1] не больше чем по статистикам класса (1). Функцию Фд- (#) называют «спектральным окном» статистики In (X), о которой подробнее будет сказано ниже.
Асимптотические свойства оценки Jn (X) зависят от гладкости спектральной плотности / (X).
Будем говорить, что
X (2) ^ х (X, а, С, Сг) = х,
если при любом ц и некоторых заданных X, 0 <^ а ^ 2, С ^ О, Сг ^ ^ 0 выполняется одно из неравенств
|/(Х + ^)-/(Х)|<СЫД 0<а<1,
или если существует f (X),
I /' (X + и) - /' (X) К С I И Г\ 1 < а < 2, а спектральная плотность четвертого порядка /< (^i, х2, х31 х^ про" цесса X (t) ограничена
| /1 (^1? ^2i *^3’ ^) | ^^ ^1«
Будем говорить, что последовательность функций Ф^ (х) принадлежит классу ^, Фм (зс)Е f, если при любом целом N )> 0 Ф^х") является непрерывной четной периодической с периодом 2л функцией такой, что при любом s > 0 равномерно в области s ^ | х | <( л
функция Ф.у (ж) -^ 0 и выполняются следующие соотношения:
лл
\ Ф]у(^)^=1,sup \ |Ф^(^)|^<C °°-
—лN —л
Кроме того, равномерно по классу ^ выполняются следующие условия гладкости:
Для любой интегрируемой функции / (ж) такой, что | / (ж) | ^ ^ | ж |а, 0 < а < 2, выполняется соотношение вида
$ H^Wn (^)(Флг(^ + %) — Ф^ (<^)) dxdz = о ( ^ |^[а|Ф^(^)|^, —л—л
где ядро Фейера ф?у (z) определяется следующим равенством:
2 z \1 sin2 (W2/2)х
Vlv — 2л7У sin2(z/2) ''(4а)
Существует последовательность чисел А — A (jV) > 0, A (N) ->- оо при N —>- оо такая, что при всех | z | < AIN равномерно по всем у выполняется соотношение
л’
5 On (ж) On (ж + у 4- z) dx = —л
лл
= 5 Ф^ (^)Ф^(^ + y)dx + о ( § ф^(л:)й^.
Определим класс F (G) CZ ^ последовательностей функций Ф^ (#) вида
лД^у
ф^ (^) = AnG^Anx) ( ^ G^dx^ \ —л^ж^л,(5)
при некоторых A n > 1 и A n -> 00, An/N ->- 0 при N -> оо. Функцию G (х^ — оо < х <^ оо, будем считать четной, кусочно дифференцируемой и удовлетворяющей условиям
^ G^dx= 1^^ |^|a|G(a:)|^<^ 00(6)
при некотором а ^> 0.
Задача отыскания оптимальной с точки зрения среднеквадратичного уклонения статистики решается при указанных выше естественных ограничениях на гладкость функции Ф,у (^). При этом находится не только вид асимптотики среднеквадратичного уклонения, как это было сделано Е. Парзеном [2], но и значения коэффициента при этой асимптотике, что позволяет провести численное сравнение всех
наиболее часто используемых статистик спектральной плотности,, предлагаемых различными авторами. Существенным ослаблением используемых условий является также требование гладкости спектральной плотности / (X) в одной-единственной точке по сравнению с равномерным условием гладкости
§ \1\»В^<оо, t=*—co
где В (£) — корреляционная функция процесса X (£).*
Заметим, что наименьший возможный порядок среднеквадратичного уклонения оценки /^ (А) есть уу-2сс0/(1+2сс0), где а0 есть максимальное а, при котором выполнено последнее условие. Но, к сожалению,. а0 является характеристикой гладкости / (А) одновременно по всем частотам [3, 4, 7].•
Теорема 1. Если X (£) GE х (А, а, С, С^, Ф\ (я) ЕЕ? ^, то для статистики fN (А) при N -> оо справедливо соотношение
inf sup V/N (A) czd О (а) /2 (А) х
Ф^у^^^ ХЦ)еи(Х, ос, С, со
/ Г2 \тЕ - ——
х Ш *<7>
где
v 7 v 7\ а /’1 v 7(0, A^0(modn)„
(8}
причем минимум в (7) достигается при
Ф^ (ж) = Л^Ф^мж),(9),
где
ос -4- 1 । I . ос -4- 1 I [.
Ф (х) =2а| I I 2а ’ I I
10, Ц|>1,■
и
л /«■NC1\1/(1+2а)
U/2W (! + «)(! +2а)
Доказательство. Выделив главный член среднеквадратичного уклонения V/jv (А) согласно леммам 1 и 2 из [3], приходим к вариационной задаче по отысканию по всем положительным Фд, (^)Е
3* минимума функционала ,
( $ | ^ I^N (^)$ Фк (^) dx.
—Л—л
Решая задачу по отысканию условного экстремума, получим, что решение Фх (ж) должно удовлетворять уравнению
I ж |а I и |аФх ^ dx + —^^ (Фл (^) — С) = О, С = const, —л
из которого следует, что решение надо искать в виде (9). Учитывая начальные условия, получим (10), а вместе с ним (7) и (8).
Теорема 1 дает явный вид спектрального окна, оптимального с точки зрения среднеквадратичного уклонения оценки f^ (X) при заданной гладкости исследуемой спектральной плотности / (X) в точке X.
Сравнить между собой асимптотические свойства различных периодограммных оценок вида (2) или (4) позволяет следующая
Теорема 2. Пусть Фх ^ ЕЕ ? и определяется равенством (5), а функция G (ж) при некотором а таком, что 0 < а ^ 2, удовлетворяет условиям (6). Тогда если X (£) ЕЕ х, то при N -> оо выполняется соотношение
(И)(И)inf sup VfN(X)oo /2(М («/Л )1+2а^ ^“^(а), где
(И)
(И)
(12)(12)5(а) = (^±^)(2аУ1)1+2“(2лУ2)1+2“ ,
(12)
(12)
7i= J \x\aG(x')dx, 72= $ G^^dx, причем асимптотический максимум достигается при
./ aViNCa \1/(1+2а)
Доказательство этой теоремы следует из лемм 1 и 2 из [3].
Функция g (а) по формуле (12) может быть вычислена для различных оценок спектральной плотности: Тьюки, Парзена, Бартле- та и других (см., например, [3]), а также для оптимальной статистики, заданной формулой (10). Результаты вычислений приведены в виде таблиц в работах [3, 7]. Общим недостатком периодограммных оценок спектральной плотности /х (X) является слабое убывание (порядка О (У”1)) зависимости от далеких частот, а также от различных нестационарных явлений. Эти недостатки ранее один из авторов (А. Н. Колмогоров) предложил устранить за счет применения «вре- менндгОдОКна» и последующего осреднения периодограмм по различным временньш интервалам.
Пусть ам (0> ^ = 0, ±1». . ., — неотрицательная функция, равная 0 вне отрезка [0, МА. По выборке {X (0, . . ., X (Q + М)} по-
строим функцию
И^^(Х) = § aM^-Q^X^eiM. t=—ОО
Определим статистику ^n^ спектральной плотности /(X) случайного процесса X (t) следующим образом:
Т-1
jnw=4-5L\w^w
k=o
Она использует N = Т (L — Г) + М + 1 выборочных значений процесса X (t).
Рассмотрим оценку спектральной плотности. Определим «окно данных» следующим образом:
ам^ = Ок.Р^ = ^^К, P)^JL^SL^P-^cK,p(t), (13)
где М = К (Р — 1) и коэффициенты Ск,р определяются из соотношения
К (Р-1)
У1, Z'CK,p(0 = (H-z4-...+^-i)K = t=o
Так как
Фм, р (ж) = Фм (ж) = з ам (() епх, t=—oo
то из выражения (13) следует, что «спектральное окно» рассматриваемой оценки равно
№,р(я)| —Р* (А,12л) \ рз sin2 (х/2) ) ’
где ц (К, Р) 1 при К -> oof Р —>- оо (см. [3]). Из определения спектральных плотностей второгои четвертого порядков вытекают следующие равенства для оценки Jn (А):
△7НХ)= $ |фм(*-Х)|2(/(*)-/(X))dz,(14)
—Л
dJnW = -^- ^ 6* (a?i + ... + ^/i^a, ..., я4)фм(я! + X) X п<
X Фм (ж2 X) фм (^3 X) фм (^4 X) ~^^^^Г^2^~ х
Х sin (L (хз + х^2)
П8
п«sin^TL^^^ dxd„sin2(£ {х + у)/2)^’где П = [— л, л],п«sin^TL^^^ dxd„sin2(£ {х + у)/2)^’где П = [— л, л],х / (у + X) |Фм(ж)Р|Фм(у)Р -^^^у^"йхйУ + +^7 3 /(^/(уЭфмОг+^ФлИ—^+^)фм(у — ^)фм(— У — Х)х
п«
sin^TL^^^ dxd„sin2(£ {х + у)/2)^’
где П = [— л, л],
п«
sin^TL^^^ dxd„sin2(£ {х + у)/2)^’
где П = [— л, л],
(15а)(15а)(15)
(15а)
(15а)
6* (ж) = 5 6 (ж + 2Ал), К=—оо
6 (ж) — дельта-функция Дирака.
Теорема 3. Если X (t) 6= х, то для статистики /n (X) при X ф 0 (mod л) с коэффициентами, определяемыми равенством (13), при длине выборки N = (L (Т — 1) + К (Р — 1) + 1) —>- оо справедливо соотношение
inf sup Vf^)^4^,^ (16)
T, L, К, P X(t)&\ 1 W '
где
кW -1/4 ( ^2-
Za ' о X л3 \//
причем асимптотическое равенство (14) достигается при
глД1-2а)/(1+2а)р
_A—_ow,р>0(1),-^->0(1),
КР^ ( Л^2.4 Г2 (-^ЦШ^^Г27^2^^(17)
к Т/пз/з(Х) \2 J jV /
Доказательство. Непосредственное применение метода Лапласа оценки интеграла в правой части (14) с ядром фк,Р (^), вычисленным по формуле (13а), дает равенство
X(t)ex\/\ z / л
Главный же член дисперсии DfN (А,) дает выражение, которое методом перевала приводится к следующему виду:
= (К, PH2 W J^-£^l1L (1 + о(L„ _) + о Ш).
TLV6 \\^(Р2_1)/\К))
(18)
Разность между (18) и вторым слагаемым (15) оценивается следующим образом:
1-'-^|<^^(*+«Н{-Л^})+°Ш)' a<Y 1.
В случае а )> 1 величина | I — /2 I имеет порядок Р V К уГ1ф"Ч Аналогичным образом показывается, что третье слагаемое формулы (15) имеет меньший порядок. Первое слагаемое формулы (15) в условиях теоремы оценивается следующим образом:
l71!^ TL у1 + 0 ( К (Р-— 1) ) + ^ К ]) •
Положив К (Р2 — 1) = vXv и отыскав минимум VfN (%), получим асимптотическое равенство (16). Теорема доказана.
Как показывают вычисления (см. [3, 71), среднеквадратичное уклонение оказывается наиболее близким к оптимальному в случае статистики Колмогорова f^ (%) по сравнению с оценками Тьюки, Парзена, Бартлета, Абеля и некоторых других. Как следует из теоремы 3, статистика In (А*) по сравнению с остальными нечувствительна к изменению параметров, которые можно выбирать в широких пределах. Степень зависимости от далеких частот в этой статистике имеет порядок А-2К/(1+2а), где К можно выбрать как угодно большим при N -^ со. Это дает возможность проводить спектральный анализ в нужной полосе частот при наличии сильных шумов и нестационар- ностей, сосредоточенных в других частотах, например в присутствии тренда. Одновременно легко можно проводить проверку на стационарность в исследуемой полосе частот.
Рассмотрим эффект влияния сильного выброса в спектральной плотности / (х) в соседней к X частоте X + А. Предположим, что
/ (ж) = /а (ж) + /б (ж),
где /а (х) — спектральная плотность процесса Ха (£) ЕЕ х, а Д (^) определяется равенством вида
/6 (ж) = 6-6* (ж — X — А) + 66* (ж + X + А), А ф 0 (mod 2л),
(19)
в котором 6 > О — действительное число, а функция 6* (х) дана в формуле (15а). Будем говорить, что X ^Ех (X, А, 6), если спектральная плотность процесса X (£) определена равенством (19), семи- инвариантная спектральная плотность четвертого порядка ограничена и MX (£) = 0.
Асимптотику среднеквадратичного уклонения статистик с оптимальным выбором параметров при наличии 6-выброса в частоте X + А описывает следующая теорема (см. [5—7]).
Теорема 4. Пусть Х^Ех (X, А, 6), ядра Ф^ (ж) ЕЕ 3* определяются равенством (5), а функция G (ж) удовлетворяет условию (6) при а ^ 2, параметр An статистики In (X) выбран согласно равенству (12а). Тогда при N -> оо справедливо
sup VfN^ = fa^ НтТN х
х^е^х, д, о' 1 W /
X (1 + Ч (^))2“/<1+2“^(а) (1 + о (1)) +
+ 2д2^ Ф^(ж)фм{х + A)dx + ^ Ф2у(ж)ф??(ж + 2Х+Д)йж)24-
+ О ^ J ON (ж) ф^ (х + A) dx^ ,(20)
—Л где
( 1, X = 0(modл)>
^ ^(0, X^0(modл),^)
а функции фм (#) и g (а) определены равенством (4а) и (12а) соответственно.
Теорема 5. Пусть X (t) ^% (X, А, 6) а статистика Jn (X) определяется коэффициентами ам (0> вычисленными согласно (13) в условиях (16) при N = L (Т — 1) + М (Р — 1) + 1 -> оо. Тогда справедливо соотношение
SUP^N (X) = К (а)/2 (Ы-^)1/а+2а) X
2Г(Оех(%, а, б)\ / W '
X ДГ2а/<1+2а) (1 + Т) (Х))2^<1+2а> (1 + о (1)) + 262 (| <рм (А) |2 +
+ | Фл (А + 2Х) |2)2 + О ^^ | фм (А) |2),(22)
где | фп (я) |2, К (а) и г] (X) определяются формулами (13a), (16a) и (21) соответственно.
Доказательство теорем 4 и 5 приведено в работах [5—7]
Заметим, что остаточные члены (20) для статистики /у (X) имеют порядок не меньше чем
1 Ф^ (А) | 4 - о(23)
если A J> ДГ-8/(1+2а)(1+е) д в СЛучае статистики In (X) порядок остаточных членов (22) не меньше чем
|Ф^ (А){схоДГ<2^^^
что может быть сделано как угодно малым по отношению к (23) при N -> оо и сравнительно небольшом к. При этом
А > Р'1 ~ С VKN'1K1*la\
Статистики /^ (X) согласно (23) имеют фиксированный порядок зависимости от 6-выброса, который нельзя уменьшить за счет выбора спектрального окна Ф.\ (я).
ЛИТЕРАТУРА
Grenander UM Rosenblatt М. Statistical analysis of stationary time series.
New York: J. Willey, 1957.-
Parsen E. On asymptotically efficient consistent estimates of the spectral density function of a stationary time series.— J. Roy. Statist. Soc. B, 1958, vol. 20, p. 303-322.
Журбенко И. Г. Об эффективности оценок спектральной плотности стационарного процесса.— Теория вероятностей и ее применения, 1980, т. 25, № Зг с. 476—489.
Журбенко И. Г. Исследование статистик спектральной плотности стационарного случайного процесса.— Сиб. мат. журн., 1981, т. 22, № 5, с. 40—65.
Журбенко И. Г. Об эффективности оценок спектральной плотности стационарного процесса. II.— Теория вероятностей и ее применения, 1983, т. 28г № 2, с. 388-396.
Журбенко И. Г. О предельной теореме для статистик спектральной плотности с временным сдвигом.— Укр. мат. журн., 1980, т. 32, № 4, с. 463— 476.
Журбенко И. Г. Спектральный анализ временных рядов. М.: Изд-во МГУ, 1982.
53
О ЛОГИЧЕСКИХ ОСНОВАНИЯХТЕОРИИ ВЕРОЯТНОСТЕЙ
Говоря о случайности в обыденном смысле этого слова, мы имеем в виду те явления, в которых мы не обнаруживаем закономерностей, позволяющих нам предсказывать их поведение. Вообще говоря, нет причин предполагать, что случайные в этом смысле явления подчиняются каким-то вероятностным законам. Следовательно, нужно различать случайность в этом широком смысле и стохастическую случайность (которая является предметом теории вероятностей).
Возникает проблема описания причин применимости математической теории вероятностей к явлениям реального мира. Моей первой попыткой ответить на возникающие в связи с этим вопросы была статья [1] (опубликованная в издании методологического характера).
Поскольку случайность определяется как отсутствие закономерностей, прежде всего следует определить понятие закономерности. Естественным средством для этого служит теория алгоритмов и рекурсивных функций. Первая попытка применить ее в теории вероятностей была сделана Черчем [2].
Цель моего доклада — познакомить слушателей с этой областью хотя бы в первом приближении.
Отдавая' дань традиции, начнем с классического определения вероятности как отношения числа благоприятных исходов к общему числу всех возможных исходов:
Р = mln,
где п — число всех возможных исходов (одного испытания), ат — число благоприятных исходов. Это определение сводит задачу вычисления вероятности к комбинаторным задачам.
Однако во многих практически возникающих ситуациях это определение неприменимо. Это послужило стимулом к появлению так называемого статистического определения вероятности:
Р ^ ^/W, (1) где N — общее число испытаний, предполагаемое достаточно большим, ц — число успехов. Это определение в своей первоначальной форме, строго говоря, не является математическим. По этой причине в формуле (1) стоит знак приближенного равенства.
Первая попытка уточнить определение (1) была предпринята Р. Мизесом. Но, прежде чем описать его подход, обсудим (с точки зрения классического определения вероятности) вопрос о том, почему в природе так часто встречается устойчивость частот.
Рассмотрим все последовательности нулей и единиц длины п, содержащие ровно т единиц, считая их равновероятными. Пусть выбран какой-либо способ деления любой последовательности длины п на две подпоследовательности. Тогда для каждой последовательности важно сравнить частоты единиц в двух ее подпоследовательностях, вычислив разность
I ^1^1 — ^2^2 I
(пг и п2 — длины подпоследовательностей, щ и ц2 — число единиц в них, так что пг + п2 = гц Hi + ц2 — ^)- Хотелось бы ожидать, что эта разность будет почти всегда малой в том смысле, что при любом е > О
^class I < 8|'~1 при Пъ И2-^оо.
Разумеется, чтобы превратить это утверждение в теорему, необходимо ограничить класс возможных правил выбора подпоследовательностей (например, запретить правило: поместить в одну из под- лоследовательностей все нули, а в другую — все единицы). Статья [3] содержит необходимые уточнения понятия допустимого правила выбора подпоследовательности, основанные на идеях Мизеса. Понятие допустимого правила выбора играет решающую роль в мизе- совском частотном подходе к понятию вероятности. Согласно Мизесу бесконечная последовательность Xv Х2, . . . нулей и единиц называется бернуллиевской, если:
существует предел
Р = lim — V Xt;
г<п
этот предел остается неизменным, если мы переходим от всей последовательности к ее подпоследовательности, выбранной с помощью допустимого правила выбора:
lim Л ?Хп. = Р.
Говоря о допустимых правилах выбора, Мизес дал лишь общую их характеристику и привел несколько примеров. Его указания сводятся к тому, что выбор очередного члена подпоследовательности не должен зависеть от его значения, а должен определяться значениями предыдущих членов. Разумеется, это определение не является точным, но точного определения нельзя было и ожидать, поскольку само понятие «правила» не имело в то время математического уточнения. Ситуация существенно изменилась, когда появились понятия алгоритма и рекурсивной функции, с помощью которых Черч [2] уточнил определения Мизеса. В упомянутой выше статье [3] предложен класс допустимых правил выбора, более широкий, чем у Черча. Согласно [3] правило выбора задается алгоритмом (или, если угодно, машиной] Тьюринга). Выбор очередного члена подпоследовательности происходит следующим образом. Входная информация состоит из конечной последовательности чисел пи п^ ..., п^ и значений ХП1, ХП2, . . ., Xnit соответствующих членов исходной последовательности. Выход алгоритма состоит, во-первых, из номера xiM следующего просматриваемого элемента последовательности (который не должен совпадать с пь п2> • • ., тг^; на их порядок ограничений^не накладывается)" и, во-вторых, из указаний, должен ли элемент Х^^ быть выбран лишь для просмотра или он включается в выбираемую подпоследовательность. На следующем шаге работы алгоритма его вход состоит уже из более длинной последовательности п1т п^ • * м n^i; алгоритм] начинает работу с пустого входа*
В сравнении с [2] расширение класса допустимых правил выбора состоите том, что порядок членов'в подпоследовательности не обязан совпадать с их порядком в исходной последовательности. Другое, более важное различие состоит в'строго финитном характере всей упомянутой выше концепции и в количественной оценке устойчивости частот.
Переход к конечным последовательностям неизбежно приводит к необходимости накладывать ограничения на сложность выбирающего алгоритма. Точное определение сложности конечного объекта и примеры его применения к теории вероятностей были предложены в работах [3, 6]. Результаты частотного и сложностного подхода сравниваются в [4].
Теперь вернемся к исходной идее, согласно которой «случайность» состоит в отсутствии «закономерности», и гпосмотрим, как понятие сложности конечного объекта позволяет придать ей точный смысл. Понятию сложности посвящено большое число работ, делящихся на две группы: первые касаются сложности вычислений, а вторые — сложности определений. Мы будем говорить о^последних.
Воспроизведем определение сложности из [6]. Мы определяем условную сложность конструктивного объекта относительно некоторого алгоритма А при условии^ что известен конструктивный алго-
ритм У. Более точно, определим условную сложность Кд (X | У) объекта X при известном У как длину наименьшей программы, с помощью которой алгоритм А может получить X из У:
КА (X | У) = min 0 (р) I А (р, У) - X).
Здесь I (р) — длина последовательности нулей и единиц, рассматриваемой как программы. Существует «оптимальный» алгоритм А, т. е. такой, что для любого алгоритма Аг существует такая константа С, что для всех X и У справедливо неравенство
КА (X | У) < Кд. (X | У) + С.
Если Аг и Л2 — оптимальные алгоритмы, соответствующие функции сложности отличаются не более чем на аддитивную константу (не зависящую от X и У).
Теперь можно определить понятие случайного или, более точно, Д-случайного объекта в данном конечном множестве М (здесь Д — число). А именно: мы говорим, что X ЕЕ АГ является ^-случайным элементом в М, если
КА (X I У) > log2 I М I - Д,
где | М | — число элементов в М. Будем называть случайными в М те объекты из М, которые являются Д-случайными при сравнительно малых Д. Мы получаем определение случайного конечного объекта, которое можно рассматривать как окончательное.
Взяв в качестве М множество Dn всех последовательностей нулей и единиц длины п, мы приходим к условию
КА (X\D^ >п- ^
Можно доказать, что для последовательностей, удовлетворяющих этому условию при достаточно малом Д, справедливо, в частности, свойство устойчивости частот при переходе к подпоследовательностям. Следовательно, требования Мизеса к случайным последовательностям могут рассматриваться как частный случай наших требований.
Дальнейшие результаты в этом направлении могут быть найдены в работах [5, 7,—12].
ЛИТЕРАТУРА
Колмогоров А. Н. Теория вероятностей.— В кн.: Математика, ее содержание, методы и значение. М.: Изд-во АН СССР, 1956.
Church A. On the concept of a random sequence.— Bull. Amer. Math. Soc., 1940, vol. 46, N 2, p. 130—135.
Kolmogorov A. N. On the tables of random numbers.— Sankhya, Ser. A, vol. 25, pt. 4, p. 369—376. Рус пер.: Колмогоров A. H. О таблицах случайных чисел.— В кн.: Семиотика и информатика. М.: ВИНИТИ, 1982, вып. 18, с. 3—13.
Шенъ А. Частотный подход к определению понятия случайной последовательности.— В кн.: Семиотика и информатика. М,: ВИНИТИ, 1982, вып. 18, с. 14-42,
Loveland D. A new interpretation of the von Mises concept of random sequence.— Ztschr. math. Log. und Grundl. Math., 1966, Bd. 12, H. 4, S. 279—294.
Колмогоров A. H. К логическим основам теории информации и теории вероятностей.— Проблемы передачи информации, 1969, т. 5, № 3, с. 3—7.
Solomonoff R. J. A formal theory of inductive inference.— Inform, and Contr., 1964, vol. 7, N 1, p. 1—22.
Martin-Lof P. Algorithms and random sequences. Erlangen: Univ. Press, 1966.
Martin-Lof P. The definition of random sequences.— Inform, and Contr., 1966, vol. 9, N 6, p. 602—619.
Вьюгин В. В. Алгоритмическая энтропия (сложность) конечных объектов и ее применение к определению случайности и количества информации.— В кн.: Семиотика и информатика. М.: ВИНИТИ, 1981, вып. 16, с. 14—43.
И. Chaitin G. On the length of the programs for computing finite binary sequences.— J. ACM, 1966, vol. 13, N 4, p. 547—569.
Звонкий А. К., Левин Л. А. Сложность конечных объектов и обоснование понятий информации и случайности с помощью теории алгоритмов.— У МН, 1970, т. 25, вып. 6, с. 85—127.
КОММЕНТАРИИ
К РАБОТАМ ПО ТЕОРИИ .ВЕРОЯТНОСТЕЙИ МАТЕМАТИЧЕСКОЙ СТАТИСТИКЕ
А* Н. Колмогоров
Приведу некоторую классификацию моих работ по теории вероятностей с учетом как их содержания, так и времени написания.
Предельные теоремы для независимых и слабо зависимых случайных величин, получаемые методами метрической теории функций. Работы № 1—6, 8.
По методам эти работы,; посвященные различным видам законов больших чисел и закону повторного логарифма, примыкают к моим и Д. Е. Меньшова работам по метрической теории функций и велись в тесном контакте с А. Я. Хинчиным. Из примыкающих сюда последующих работ других исследователей следует в первую очередь указать на необходимые и достаточные условия применимости усиленного закона больших чисел для сумм независимых случайных величин, полученные Ю. В. Прохоровым.
Аксиоматика и логические основы теории вероятностей. Работа № 7.
Первым результатом моих размышлений над логической структурой теории вероятностей явилась работа № 7, опубликованная в 1929 г. Здесь теория вероятностей представляется в качестве одной из областей применения общей теории меры. Но развитые концепции еще не раскрывали теоретико-множественного смысла фундаментального в теории вероятностей понятия условной вероятности. Только после преодоления этой трудности и построения теории распределений в бесконечных произведениях оказалось возможным говорить о теоретико-множественном обосновании всей теории вероятностей, которое было дано в моей монографии «Основные понятия теории вероятностей», вышедшей в 1933 г. на немецком языке и в 1936 г. на русском. Модернизированное изложение этих концепций, подготовленное мною совместно с А. Н. Ширяевым, дано во^втором издании этой монографии (М.: Наука, 1974).
Цепи Маркова (марковские процессы с дискретным временем). Работы № 21, 23, 36,
Фундаментальное значение марковского процесса было понято в 1906—1907 гг. А. А. Марковым, Со строго финитной точки зрения существо дела может быть полностью охарактеризовано уже на конечных дискретных цепях Маркова. Для случая однородных цепей с конечным числом состояний А. А. Марков установил фундаментальную теорему о существовании предела у переходных вероятностей. Вся примыкающая сюда проблематика живо заинтересовала В. И. Романовского (Ташкент), а затем и многих представителей московской вероятностной школы. Для случая однородной цепи
с конечным число состояний наиболее исчерпывающие результаты были получены С. X. Сираждиновым — учеником В. И. Романовского и А. Н. Колмогорова. Именно им для этого случая полностью определена асимптотика многомерных распределений числа попаданий в различные состояния.
Марковские процессы. Работы № 9, 10, 13, 14, 17, 19, 24л 39.
В 1929 г. центральной областью моих интересов сделалась теория марковских процессов с непрерывным временем. В мемуаре № 9 (одномерный случай) и в работе № 17 (многомерный случай) эта теория была развита в классических терминах без употребления в явном виде пространств траекторий. Первые варианты современной концепции марковского процесса с непрерывным временем были построены Дж. Дубом и Е. Б. Дынкиным (см. по этому поводу комментарий А. Д. Вентцеля). Различным применениям теории марковских процессов диффузионного типа посвящены работы № 14, 19, 24 (см. комментарий А. М. Яглома). Случаю дискретного множества состояний посвящена работа № 39 (см. комментарий А. А. Юшкевича).
Предельные теоремы о сходимости цепей Маркова к марковским процессам с непрерывным временем. Работы № 9, 12, 16, 41.
Первый замысел такого рода теорем изложен в 1931 г. в § 12 ме- муара № 9. Два примера таких теорем даны в работах № 12, 16. Далее работа в этих направлениях широко развернута другими исследователями (принцип инвариантности). См. обзорную статью № 41.
Стационарные процессы. Работы № 27, 28, 47, 48,, 50, 52.
Мой интерес к спектральной теории стационарных случайных процессов возник в связи с работами А. Я. Хинчина и Е. Е. Слуцкого. Первоначальные представления о проблематике читатель может получить из статьи № 34. Прошедшие почти 40 лет подтверждают гипотезу о представлении колебательных процессов в виде интегралов Стилтьеса (см. формулу (4) в № 34). По-видимому, следует и в преподавании (в частности, для инженеров) более смело подчеркивать то обстоятельство, что спектральная разложимость процесса не допускает в общем случае более конкретного объяснения.
Ветвящиеся процессы. Работы № 25, 32, 33, 46.
Частные виды «ветвящихся процессов» многократно изучались. Обзор старой литературы см. в работе Ж. Стеффенсена, указанной в статье № 25. В известной монографии Р. А. Фишера широко используется тот факт, что эволюция численности гена в популяции, пока концентрация гена мала, происходит в соответствии со схемой ветвящегося процесса. Применение математического аппарата производящих функций было предложено Р. А. Фишером. О дальнейшем развитии теории ветвящихся процессов см. монографию Б. А. Севастьянова «Ветвящиеся процессы» (М.: Наука, 1971).
Различные применения. Работы № 14, 18, 22, 26, 29, 37.
В работе № 14 решена задача, поставленная С. И. Вавиловым,
Разделы 1 и 2 этой статьи написаны мной, раздел 3 — М. А. Леонтовичем. В связи с работой № 18 отмечу, что рассматриваемое «вздувание» эмпирических коэффициентов корреляции при небольшом числе наблюдений является довольно типичным для большого числа прикладных работ (см. также комментарии к этому циклу А. М. Яг- лома).
Математическая статистика. Работы № 11, 15, 30, 31, 38, 50. См. комментарии Э. В. Хмаладзе, М. Б. Малютова, А. Н. Ширяева.
АНАЛИТИЧЕСКИЕ МЕТОДЫ В ТЕОРИИ ВЕРОЯТНОСТЕЙ(к № 9)
(А. Д. Вентцелъ)
Название статьи, которое на современном языке звучало бы, скорее, как «Аналитические методы в теории марковских процессов», может служить названием целого направления в этой теории. Суть этого направления в том, что марковские процессы рассматриваются лишь до тех пор, пока задача, о которой идет речь, не переводится на язык переходных вероятностей Р (s, ж, t, Е) марковского процесса или других аналитических объектов, с ними связанных; а дальше задача решается, как чисто аналитическая. В самой статье (№ 9 наст, изд.) случайные процессы как ансамбли реализаций (траекторий) или как объекты, описываемые системой конечномерных распределений, вообще не входят в рассмотрение явно, но только в виде мотивировок некоторых определений и допущений. Так, после введения предложений (111), (112) говорится: «Только в этом случае, строго говоря, процесс будет непрерывным во времени». На языке современной теории марковских процессов это можно было сформулировать так: (111), (112) близки к условиям на переходную функцию, нужным для непрерывности траекторий соответствующего марковского процесса (точнее, для существования его модификации с непрерывными траекториями).
Основные темы статьи — общее понятие стохастически определенного (марковского) процесса; дифференциальные характеристики марковских процессов и дифференциальные уравнения, связанные с этими процессами; эргодические свойства.
Что касается понятия марковского процесса, то в дальнейшем, по мере накопления методов решения конкретных классов задач, связанных с течением марковского процесса на целом отрезке времени, траектории стали все более явно входить в рассматриваемые схемы. Так, в 1933 г. были опубликованы работы Колмогорова и Леонтовича [1] и Андронова, Витта, Понтрягина [2], в которых выводились дифференциальные уравнения для функций, связанных с диффузионным процессом с наложенным условием отсутствия выхода в течение данного времени из определенной области. Общие теории, включающие не только переходные функции, но и траектории в качестве явного объекта рассмотрения, были изложены в книгах Дуба [3] и Дынкина [4]. Обе теории основывались на понятиях условной вероятности и условного математического ожидания относительно с-алгебры; но в дубовской теории основной объект — случайный процесс па некотором вероятностном пространстве, удовлетворяющий условию
независимости будущего и прошлого при фиксированном настоящем, а в дын- кинской — целое семейство таких процессов, начинающихся в произвольный момент времени в произвольной точке пространства (что выражается рассмотрением семейства вероятностных мер Р8)х и вероятностных пространств (Q, М8* Ps^x))' *
Сначала аналитическое направление в теории марковских процессов было фактически единственно господствующим; в 50-е годы сталд широко применяться прямые вероятностные методы, имеющие дело с построением реализаций одних случайных процессов, исходя из реализаций других более простых: стохастические уравнения, случайные замены времени. Аналитические и прямые методы дополняют друг друга. Возникло направление противоположной ориентации, применяющее теорию марковских процессов к получению чисто аналитических результатов. С 70-х годов, пожалуй, нельзя говорить о чисто аналитическом направлении в теории марковских процессов, а лишь о сильном преобладании аналитических методов в некоторых работах.
Центральный вопрос для аналитического направления в теории марковских процессов с непрерывным временем — дифференциальные характеристики процессов и механизмы, осуществляющие их связь с самими процессами. Дадим обзор эволюции способов ответа на этот вопрос и некоторых достижений аналитического направлении в теории марковских процессов.
В № 9 дифференциальные характеристики вводятся для процессов с дискретным пространством состояний формулами (50) и для непрерывных (диффузионных) процессов на числовой прямой формулами (114), (124), (115), (122). Существование пределов (50), (122), (124) (фактически дифференциальных характеристик при s = f) устанавливается в предположении дифференцируемости переходных вероятностей Р^ (s, t), соответственно плотностей вероятностей перехода / (s, xs t, у) при s <^ t (плюс дополнительное условие необращения в нуль определителя (119)). В обоих случаях выводятся обратные дифференциальные уравнения — с дифференцированием по первому временному аргументу $: (57). 125) — и прямые — с дифференцированием по второму аргументу г. (52), (133), Ставится вопрос о существовании и единственности решения, удовлетворяющего естественным условиям при s = t и условиям (1), (3) (в конкретных случаях (40), (41) и (85), (86)), нужным для существования соответствующего процесса; но в непрерывном случае он решается только тогда, когда уравнение сводится к классическому уравнению теплопроводности. В § 19 выписываются также дифференциальные характеристики для чисто скачкообразного марковского процесса и предположительное прямое дифференциальное уравнение (175) (также уравнение (176) для процесса с диффузией между скачками).
Задача нахождения плотности вероятностей перехода для диффузионного процесса, если ее сформулировать аналитически,— это задача нахождения фундаментального решения параболического дифференциального уравнения. Теоремы существования и единственности при широких условиях были получены еще в 30-е годы (работа Феллера [5]); были получены и теоремы существования и единственности для чисто скачкообразных процессов и процессов с диффузией между скачками.
Дифференциальные характеристики марковских процессов в № 9 вводятся отдельно для разных конкретных классов процессов; эти характеристики —
функции от соответствующих аргументов. Следующий шаг — рассмотрение в качестве дифференциальной характеристики марковского процесса не набора функций, а линейного (иногда неограниченного) оператора — был сделан, когда к марковским процессам была применена теория полугрупп линейных операторов. В качестве характеристики марковского процесса (говоря точнее и уже, его пе реходной функции) вводился инфинитезимальный оператор полугруппы операторов, связанной с процессом. Теория полугрупп позволила установить при очень слабых ограничениях единственность переходной функции, отвечающей данному инфинитезимальному оператору, и найти необходимые и достаточные условия, которым должен удовлетворять такой оператор. Вопрос о существовании дифференциальных характеристик был снят: согласно общей теории инфинитезимальный оператор имеет всюду плотную область определения.
Теория полугрупп непосредственно применяется только к однородным по времени марковским процессам, т. е. процессам с переходной функцией, зависящей только от разности моментов времени:
Р (s, ж, ^, Е^ = Ро (t — s, a:, Е);
для применения ее к неоднородным процессам их можно при помощи введения расширенного пространства состояний свести к однородным.
Первые применения теории полугрупп относились к связанной с переходной функцией полугруппе операторов, переводящих начальные распределения в распределения в последующие моменты времени (ср. № 9 формулу (5)), что связано с аналогами прямых колмогоровских уравнений (см. (52), (133)). Однако более плодотворным оказалось применение полугрупп операторов, действующих не на начальные распределения, а на функции:
^/W = ^(ЛМ^уШуУ
это связано с аналогами обратных уравнений (57), (125).
Существенной для связи между марковскими процессами и их инфинитезимальными операторами, в частности для вывода уравнений для математических ожиданий, связанных с процессом, оказалась возможность рассматривать значения процесса в случайные моменты времени, такие, как момент первого выхода из множества. Эта возможность была обеспечена введением в рассмотрение строго марковского свойства. Используя строго марковское свойство, Дынкин ввел новый вид дифференциальной характеристики марковского процесса — характеристический оператор (см. [4]), т. е., скорее, не новый вид такой характеристики (потому что при естественных широких допущениях характеристический оператор совпадает с инфинитезимальным), а новый аспект связи этого оператора с марковским процессом.
Новые методы дали возможность решить задачу полного описания всех однородных по времени одномерных диффузионных процессов (т. е. строго марковских процессов с непрерывными траекториями). Одновременно были найдены плодотворные постановки новых задач, в частности, о поведении марковского процесса, заданного внутри области, после выхода на ее границу (аналитическая постановка — нахождение граничных условий, сужающих данный линейный
оператор до инфинитезимального оператора полугруппы сжимающих и сохраняющих положительность операторов; см. [6]).
Дальнейшее развитие аналитических методов, последовавшее за работой Ханта [7], было связано с рассмотрением, с одной стороны, общих неотрицательных аддитивных функционалов от марковских процессов, а с другой, аналитической,— эксцессивных функций (неотрицательных супергармонических относительно данной полугруппы операторов функций). С помощью рассмотрения крайних точек множества этих функций были найдены способы построения идеальной границы области, соответствующей данному марковскому процессу внутри области (граница Мартина).
Новый подход к вопросу о дифференциальных характеристиках марковского процесса был начат работами Фукусимы (см. [8]). В этих работах в качестве такой характеристики рассматривается не инфинитезиальный оператор, а соответствующая ему билинейная форма Дирихле. Полная и замкнутая теория здесь получается, однако, только для случая, когда полугруппа состоит из операторов, симметричных относительно некоторой меры (на теоретико-вероятностном языке — для обратимых во времени марковских процессов). Были получены существенные результаты, касающиеся возможных продолжений по выходе из области марковского процесса, заданного внутри области (в частности, построено- броуновское движение с «отражением по нормали» на сколь угодно негладкой границе).
В 60—70-е годы, особенно после работ Струка и Варадана [9], стал широко- использоваться подход к связи между линейными операторами и марковскими процессами, основанный на понятии мартингала и хшартингальной задачи»- Вместо строго марковского, свойства при этом подходе используется сохранение1 мартингального свойства в марковские случайные моменты. (Строго марковское свойство оказывается автоматическим следствием единственности решения мартингальной задачи.) В работах Крылова [10] и Струка и Варадана [9] поставленный в № 9 вопрос о существовании и единственности диффузионного процесса, соответствующего данным коэффициентам диффузии и переноса, был решен без наложения почти никаких ограничений.
Вероятно, теперь аналитическому направлению в теории марковских процессов предстоит подняться на новый, более высокий уровень, связанный с рассмотрением в качестве основных аналитических объектов не переходных вероятностей и связанных с ними операторов, а распределений в пространстве функций;, начало этому положено в работах Струка и Варадана и др. Особенно большие возможности новые аналитические методы открывают для установлени я различных предельных теорем для случайных процессов.
ЛИТЕРАТУРА
Kolmogoroff A. N., Leontovitch М. A. Zur Berechnung der mittleren Broun schen Flache.— Phys. Ztschr. Sow., 1933, Bd. 4, S. 1—13.
Андронов А., Витт А., Понтрягин Л. О статистическом рассмотрении динамических систем.— ЖЭТФ, 1933, т. 3, № 3, с. 165—180.
Дуб Дж. Л. Вероятностные процессы/Пер. с англ. М.: Изд-во иностр. лит.„ 1956.
Дынкин Е. Б. Марковские процессы. М.: Физматгиз, 1963.
Феллер В. К теории стохастических процессов (теоремы существования и единственности).— УМН, 1938, вып. 5, с. 57—96.
Феллер В. Параболические дифференциальные уравнения и соответствующие им полугруппы преобразований.— В кн.: Математика: ("б. пер., 1957, т. 1, № 4, с. 105—153.
Хант Дж. Марковские процессы и потенциалы. М.: Изд-во шостр. лит., 1962.
Fukusima М. Dirichlet forms and Markov processes. Amsterdam: North-Holland Puhi. Go, 1980, p. 196.
StroockD., Varadhan S. Multidimensional diffusion processes. * erlin: Spring.- VerL, 1979.
fO. Крылов H. В. О стохастических интегральных уравнениях.— Теория вероятностей и ее применения, 1969, т. 14, № 2, с. 340—348.
МАРКОВСКИЕ ПРОЦЕССЫСО СЧЕТНЫМ ЧИСЛОМ СОСТОЯНИЙ;(к № Ю)
(Б. А. Севастьянов)
Дается пример применения уравнений для марковских процессов со счетным числом состояний к изучению одной из первоначальных задач теории массового обслуживания, а именно: изучается задача об очереди в системе обслуживания с п приборами при пуассоновском потоке требований с показательным временем обслуживания. Этот ставший классическим результат вошел в учебную литературу (см., например: Феллер В. Введение в теорию вероятностей и ее при- ложения/Пер. с англ. М.: Изд-во иностр, лит., 1964, Т. 1).
ОДНОРОДНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ(к № 13)
(В. М. Золотарев)
Необходймость деления работы на две части (первая заканчивалась формулой (7)) была вызвана формальным ограничением объема публикации в одном номере журнала «Atti della Reale Accademia...».
Краткая предыстория создания работы А. Н. Колмогорова. В 1929—1930 гг, появилось несколько статей известного итальянского математика Б. де Финетти, в которых им было начато исследование свойств случайных процессов X (X) получивших впоследствии название однородных процессов с независимыми приращениями. Оказалось, что при любом Z > 0 имеет место равенство
(t, X) = Е exp ^itX (X)} = [-ф (t, 1)]х.
В связи с этим Финетти в последней из упомянутых статей (она цитируется в работе А. Н. Колмогорова) ставит задачу описания всех распределений, характеристические функции которых ф (г) обладают тем свойством, что [ф (t^ при любом X > 0 является характеристической функцией некоторого распределения. Класс @ таких распределений называется^классом безгранично делимых законов. В той же статье приводятся факты, которые после надлежащего осмысления по-
называют, что в $ входят все распределения, характеристические функции которых имеют вид
ф (*) = exp {^7 — УзО2^2 + с2 S ^Ux — 1) dF (ж)},(*)
где 7, о, с — вещественные постоянные и F (ж) — некоторая функция распределения.
А. Н. Колмогоров, знавший о работах Финетти и находившийся с ним в переписке, заинтересовался задачей описания класса @. В своей работе он дал описание лишь той части класса @, которая соответствует законам с конечной дисперсией. В полном объеме проблема Финетти была решена в 1934 г. французским математиком Леви [1].
Несмотря на, казалось бы, промежуточный характер, результат А. Н. Колмогорова сыграл фундаментальную роль в поиске полного описания класса @.
Прежде всего представление (15), полученное А. Н. Колмогоровым, превратило в уверенность догадку Финетти о том, что описание класса @ следует проводить на языке характеристических функций. Не менее важно и то, что метод доказательства (15), использовавшийся А. Н. Колмогоровым, оказался очень перспективным. В 1937 г. этим методом, несколько его развив, известный советский математик Хинчин повторил результат Леви [2]. Достоинства метода Колмогорова—Хинчина оказались выраженными настолько ярко, что в современных курсах теории вероятностей каноническое представление Леви—Хинчина (вкупе с его модификацией — представлением Леви) доказывается именно этим методом [3]. С успехом он используется и при описании аналогов безгранично делимых распределений в пространствах Банаха и на локально компактных группах [4].
Стоит обратить внимание читателя также и на то обстоятельство, что А. Н. Колмогорову были известны обе используемые ныне формы канонического представления характеристических функций безгранично делимых законов. Действительно, запись представления (15) в точности соответствует каноническому представлению Леви—Хинчина, а каноническое представление Леви получается из него, если использовать выражения (13), (14) функции Q (ж) с помощью функций Рг (я) и Р2 kxY Последние являются не чем иным, как спектральными функциями в представлении Леви.
Работа А. Н. Колмогорова содержит еще один важный результат, который автор не пожелал выделить. Это — истолкование вероятностного смысла спектральных функций Рг и Р2. Здесь стоит, по-видимому, уточнить смысл утверждения о том, что «величина Р2 (^) dX представляет собой вероятность того, что за время dX имел место положительный скачок, больший чем х». Подразумевается, что dX мало и что Р2 (ж) dX представляет указанную вероятность с точностью до о (dX).
ЛИТЕРАТУРА
Levy Р. Sur les integrales dont les elements sont des variables aleatoires inde- pendantes.— Ann. Scuola norm, super. Pisa, Ser. 2, 1934, vol. 3, p. 337—366.
Хинчин А. Я. Новый вывод одной формулы П. Леви.— Бюл. МГУ. Математика, 1937, т. 1, вып. 1.-
Лоэв М. Теория вероятностей/Пер. с англ. М.: Изд-во иностр, лит., 1962.
Хейер X. Вероятностные меры на локально компактных группах. М.: Мир, 1981.
ОДНОРОДНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ(к № 39)
(А. А. Юшкевич)
Рассматриваемая работа А. Н. Колмогорова наряду с цитируемыми ниже статьями Дуба и Леви положила начало разделу теории марковских процессов, посвященному однородным процессам со счетным числом состояний. Возникающие в таких процессах своеобразные эффекты выделили их в самостоятельную главу общей теории. В то же время исследование счетного случая способствовало выработке важных концепций, имеющих более широкую область применения таких, как строго марковское свойство и граничные условия для марковских процессов.
Плотности а^ перехода из ос в Р и плотности аа— —а^ выхода из а, а также прямая и обратная системы дифференциальных уравнений Pr (г) = Р (t) А и Р' (t) = АР ^ для вероятностей перехода р^ (г) однородного марковского процесса с конечным или счетным множеством состояний Е введены Колмогоровым в основополагающей работе [1] (наст, изд., № 9), где предположены дифференцируемость функций р^ (г) и в случае бесконечного Е некоторые условия равно- :мерной сходимости (А и Р (г) обозначают матрицы с элементами ^ и р^ (z), t ^ ^ 0). Если Е конечно, то легко показывается, что act = ^ аа и что ПРИ началь- (3^ ОС
ном условии Р (0) = I (I — единичная матрица) каждая из систем дифференциальных уравнений Колмогорова имеет единственное решение Р (z) = eAt* После того как Дёблин [2] установил, что при конечном множестве Е дифференцируемость переходных вероятностей вытекает из стохастической непрерыв- гности процесса, т. е. условия Р (-(-0) = Z, случай конечного множества состояний по существу был исчерпан.
Процессы со счетным пространством состояний оказались значительно сложнее. Анализ их инфинитезимальных характеристик, гладкости переходных функций, поведения траекторий, возможных «патологий» и т. п. составил заметное в свое время направление исследований.
В появившихся сперва статьях Дуба [3, 4], идейно связанных с принадлежащим ему понятием сепарабельного процесса, изучение переходной матрицы Р (£) основано на рассмотрении скачков траектории. Допуская, что Р (+ 0) = I (это условие считается выполненным и всюду далее), Дуб: 1) доказал существование конечных или бесконечных производных а^ функций р^ (г) в нуле, 2) показал, ■что обратная система справедлива, когда есть первый после 0 скачок, т. е. когда ^а = ^ а^ < оо (как говорят, матрица А консервативна), и нашел аналогич- шую связь между прямой системой и последним перед t скачком, 3) по-разному продолжая процесс пос-е накопчеия скачков, получил примеры неединственности процесса с данной матрицей А.
В комментируемой работе № 39 [5] Колмогоров посредством замечательных тю простоте и краткости чисто алгебраических либо аналитических приемов (за которыми просматриваются вероятностные соображения) сделал следующее: 1) доказал существование конечных плотностей а^ при 0 ф а, 2) доказал сущест-
вование плотностей аа ^ оо, 3) построил пример процесса, в котором ах = оо, 4) построил пример процесса, в котором ^ а^ < а^ < оо (будем обозначать эти примеры К1 и К2). Далее, Колмогоров высказал в [5] гипотезу’о том, что функции р^ (г) при t > 0 всегда дифференцируемы.
В появившемся одновременно мемуаре [6] Леви, интересуясь более всего асимптотикой функций р^ (0 при t —* оо, предпринял классификацию рассматриваемых процессов с точки зрения поведения траекторий, обращаясь с последними на менее формальном уровне, чем Дуб. В частности, Леви обнаружил эффекты, наблюдающиеся в примерах К1 и К2. Леви предложил называть состояния ас да < оо устойчивыми и с а^ = оо мгновенными и привел в своем мемуаре оказавшуюся затем ошибочной теорему о том, что все состояния не- могут быть мгновенными. Леви продолжил свой анализ в [7, 8].
Дальнейшее изучение счетных однородных марковских процессов происходило под влиянием в первую очередь работы и идей Колмогорова. В Московском университете эта тема культивировалась на семинарах Колмогорова и Дынкина. Колмогоров предложил задачу о дифференцируемости функций р^ У) в качестве темы дипломной работы Юшкевичу, которому удалось с помощью анализа траекторий доказать непрерывную Дифференцируемость р^ (£) в предположении, что хотя бы одно из состояний а или р устойчиво, а такжц построить пример процесса с бесконечной второй производной у функции р^ (£) при некотором £>0 (идея примера подсказана Колмогоровым). Публикация этой работы растянулась на шесть лет [9]. Юшкевич же заметил пробел в доказательстве упомянутой выше теоремы Леви о мгновенных состояниях,/ связанный с отсутствием определенного значения траектории в момент разрывов* второго рода (см. [28]).
Рассматриваемые вопросы оказались затронутыми на математическом конгрессе в Амстердаме, где Кендалл и Рейтер [10] выступили с подробным анализом примеров К1 и К2 с точки зрения полугрупп. На конгрессе присутствовал Колмогоров. Из устных бесед некоторые участники вынесли неверное представление,, будто в [9] построен пример, опровергающий гипотезу о дифференцируемости функций р| (^) [12]. Вскоре Остин [11, 12] опубликовал чисто аналитическое доказательство непрерывной дифференцируемости р^ (t) при t > 0 в случае устой-' чивого состояния а. Затем Чжун [13] доказал то же при t 0 вероятностным методом, близким к [9]. Впоследствии Остин распространил свое доказательство на случай устойчивого состояния Р [14]. Усовершенствования этих доказательств предлагались Рейтером [15], развивавшим далее полугрупповой подход, Юрка- том [16], Чжуном [17, 18]. Наконец, полное, чисто аналитическое доказательства гипотезы Колмогорова нашел Орнштейн [19], Смит [20] дал отрицательный ответ на вопрос Чжуна о том, стремится ли производная функция р^ (^ при t —» 0г к своему значению в точке t = 0, равному — оо, когда состояние а мгновенное.. С другой стороны, Ори [21] показал, что полная вероятность ра (^) состояния а в момент t может не быть дифференцируемой при подходящих начальном распределении и моменте £ > 0. Тонкими вопросами строения функций р$ (^) при t —* О занимались также Кендалл [22], Блекуэлл и Фридман [23], Рейтер [24]. Изучение класса возможных функций / (£) = р^ (£) явилось одним из стимулов к созданию Кингманом теории регенеративных событий [25].
Вскоре после появления работы № 39 Кендалл частично распространил результаты Колмогорова о существовании плотностей аа и а^ на скачкообразные марковские процессы с произвольным множеством состояний [26] и, комбинируя идеи примеров К1 и К2, построил пример процесса с ах = оо и а^ = 0 при Р =£ 1 [27]. Положительный ответ на интригующий вопрос о существовании процесса, все состояния которого мгновенны, дали независимо Добрушин [28] и Феллер и Мак-Кин [29]; другие примеры предложили вскоре Кендалл [30] и Блекуэлл [31]. Позднее к исследованию примера К1 вернулся Рейтер [24], показавший, что в этом примере инфинитезимальная матрица А однозначно определяет переходную матрицу Р (£). Описанию всех матриц Л, соответствующих процессам с только мгновенными состояниями, посвящены более поздние работы Вильямса [32, 33].
Подробное изложение результатов о дифференцируемости переходных вероятностей и строении траекторий однородных марковских процессов со счетным числом состояний, детальное описание примеров тех или иных «патологий» имеется в книгах Чжуна [17] и Фридмана [34]. Другая книга Фридмана [35] посвящена исключительно построению примеров с мгновенными состояниями предельным переходом от процессов с конечным числом состояний.
Восходящая к работе Колмогорова № 39 тематика способствовала выработке понятий марковского момента и строго марковского свойства. Это свойство формулировалось и доказывалось Дубом [4], Юшкевичем [9], Чжуном [36, 13] для тех или иных классов встречавшихся марковских моментов в однородных марковских процессах со счетным числом состояний. С другой стороны, при изучении марковских процессов в произвольном метрическом пространстве с помощью характеристических операторов строго марковское свойство потребовалось Дынкину [37,38] и сперва было введено им в качестве весьма правдоподоб" ного предположения [37]. Колмогоров же в устных высказываниях Юшкевичу допускал возможность марковских процессов, не являющихся строго марковски, ми, и последний построил соответствующие примеры, упоминаемые в [37] и вошедшие в [39]. Тогда Дынкин, сравнивая свои результаты с результатами Феллера, полученными чисто аналитическим путем, высказал гипотезу, что всякий феллеровский процесс без разрывов второго рода будет строго марковским [37]. Юшкевич доказал этот результат с заменой второго условия предположением непрерывности траекторий справа [39]. Параллельно строго марковское свойство для частных случаев непрерывных процессов установили Хант [40] и Рей [41], а в общем виде ввел Блюменталь [42]. Чтобы свойство строгой марковости выполнялось в полном объеме для однородного марковского процесса со счетным множеством состояний Е, вообще говоря, пространство Е нужно подходящим образом компактифицировать, вводя фиктивные состояния- Такая конструкция значительно позднее осуществлена Дубом [43].
работа Колмогорова № 39 явилась одним из отправных пунктов и при изучении границ и граничных условий для марковских процессов. Если матрица ’А консервативна, то верна обратная система дифференциальных уравнений 7>' (г) = АР (t), но решение ее при начальном условии Р (0) = 7, вообще говоря, .неединственно. Из общих результатов Феллера [44] следует, что вероятности перехода за конечное число скачков образуют минимальное решение указанной .системы. Возникает задача о построении возможных продолжений минимального
процесса за момент накопления скачков с сохранением марковского свойства а инфинитезимальной матрицы Л, чтобы процесс не обрывался. Предварите”1 ный вопрос о том, когда накопление скачков (иными словами, уход в бесконечность) может произойти за конечное время, вслед за Феллером [44] специально для счетного случая исследовал Добрушин [45]. Дальнейшая конструкция требует построения границы-выхода, границы-входа (если таковая имеется) и «склеивания» выходов со входами либо с первоначальными состояниями посредством граничных условий. Не касаясь обширного круга соответствующих исследований для процессов диффузионного типа и их обобщений, отметим, что для счетного пространства состояний подобная программа была нарисована Дынкиным в докладе на Всесоюзном совещании по теории вероятностей в Ленинграде в 1955 г. Реализовать ее оказалось возможным, по-видимому, лишь для случая, когда число выходов конечно. Не претендуя на полноту, назовем относящиеся сюда работы Добрушина [46], Феллера [47],Рейтера [15,48], Неве [49],Чжуна [50], Вильямса [51, 52], Дынкина [53].'
.ЛИТЕРАТУРА
Kolmogoroff A. N. Ueber die analytischen Methoden in der Wahrscheinlich- keitsrechnung. — Math. Ann., 1931, Bd. 104, S. 415—457.
Doeblin W. Sue 1 equation matricielle A^Us^ = A^A^ ; et ses applications aux probabilites en chaine.— Bull. sci. math., 1938, vol. 62, p. 21—32; 1940, vol. 64, p. 35-37..
Doob J. L. Topics in the theory of Markoff chains. — Trans. Amer. Math. Soc., 1942, vol. 52, p. 37-64./ '
Doob J. L. Markoff chains — denumerable case.— Trans. Amer. Math. Soc., 1945, vol. 58, p. 455—473..< V Ж
Колмогоров A. H. К вопросу о дифференцируемости переходных вероятностей в однородных по времени процессах Маркова со счетным числом, состояний.— Уч. зап. МГУ, .1951, т. 148. Математика, № 4, с. 53—59.
Levy Р. Systemes markoviens et stationnaires. Cas denombrable.— Ann. .sci. Ecole norm, super., 1951, vol. 68, p. 327—381.
Levy P. Processus markoviens et stationnaires du cinqueme type (infinite denombrable des etats possible, parametre continu).— C. r. Acad. sci. Paris, 1953, vol. 236, p. 1630-1632.
Levy P. Remarques sur les etats instantanes des processus markoviens et stationnaires, a une infinite denombrable d’etats possibles.— C. r. Acad. sci. Paris, 1967, vol. 264, p. 844—848.
Юшкевич A. A. О дифференцируемости переходных вероятностей однородного марковского процесса со счетным числом состояний: Дипл. раб. МГУ, 1953.— Уч. зап. МГУ, 1959, т. 186. Математика, № 9, с. 141—159.
Kendall D. G., Reuter G. Е. Н. Some pathological Markov processes with a denumerable infinity of states and the associated semigroups of operators ,on I.— In: Proc. Intern. Congr. Math. Amsterdam, 1954, vol. 3, p. 377—415.
'Austin D.G. On the existence of the derivative of Markoff transition probability functions.— Proc. Nat. Acad. Sci. USA, 1955, vol. 41, p. 224—226.
Austin D. G. Some differentiation properties of Markoff transition probability functions.— Proc. Amer. Math. Soc., 1956, vol. 7, p. 756—761.
Chung K. L. Some new developments in the theory of Markov chains.— Trans. Amer. Math. Soc., 1956, vol. 81, p. 195—210.
Austin D. G. Note on differentiating MarkofP transition functions with stable terminal states.— Duke Math. J., 1958, vol. 25, p. 625—629.
Reuter G. E. H. Denumerable Markov processes and the associated contraction semi-groups on I.— Acta math., 1957, vol. 97, p. 1—46.
Jurkat W. B. On semi-groups of positive matrics. I, IL— Scr. math., 1959r vol. 24, p. 123-131; 207-218.
Chung К. L. Markov chains with stationary transition probabilities. Berlin. 1960.
Chung K. L. Probabilistic methods in Markov chains.— In: Proc. Fourth Berkeley Sympos. Math. Statist. Probab. Univ. Calif. Press, 1961, vol. 2, p. 35—56.
Ornstein D. The differentiability of transition functions.— Bull. Amer. Math. Soc., 1960, vol. 66, p. 36—39.
Smith G. Instantaneous states of Markov processes.— Trans. Amer. Math. Soc., 1964, vol. 110, p. 185—195.
Orey S. Non-differentiability of absolute probabilities of Markov chains.— Quart. J. Math., 1962, vol. 13, p. 252—254.
Kendall D. G. On the behaviour of a standard Markov transition function near t = 0.— Ztschr. Wahrscheinlichkeitstheorie, 1965, Bd. 3, S. 276—278.
Blackwell DFreedman D. On the local behaviour of Markov transition probabilities.— Ann. Math. Statist., 1968, vol. 39, p. 2123—2127.
Reuter G. E. H. Remarks on a Markov chain example of Kolmogorov.— Ztschr. Wahrscheinlichkeitstheorie, 1969, Bd. 13, S. 315—320.
Kingman J. F. C. The stochastic theory of regenerative events.—Ztschr. Wahrscheinlichkeitstheorie, 1964, Bd. 2, S. 180—224.
Kendall D. G. Some analytical properties of continuous stationary Markov transition functions.— Trans. Amer. Math. Soc., 1955, vol. 78, p. 529—540.
Kendall D. G. Some further pathological examples in the theory of denumerable Markov processes.— Quart. J. Math., 1956, vol. 7, p. 39—56.
Добру шин P. Л. Пример счетного однородного марковского процесса, все состояния которого являются мгновенными.— Теория вероятностей и ее применения, 1956, т. 1, с. 481—485.
Feller Ж, McKean Н. Р., Jr. A diffusion equivalent to a countable Markov chain.— Proc. Nat. Acad. Sci. USA, 1956, vol. 42, p. 351—354.
Kendall D. G. A totally unstable denumerable Markov process.— Quart. J. Math., 1958, vol. 9, p. 149—160.
Blackwell D. Another countable Markov process with only instantaneous states.— Ann. Math. Statist., 1958, vol. 29, p. 313—316;
Williams D. The (^-matrix problem for Markov chains.— Bull. Amer. Math. Soc., 1975, vol. 81, p. 1115—1118.
Williams D. The (^-matrix problem. 2: Kolmogorov backward equations.— Leet. Notes Math., 1976, vol. 511, p. 216—234; 505—520.
Freedman D. Markov chains. S. Francisco: Holden-Day, 1971.
Freedman D. Approximating countable Markov chains. S. Francisco, 1972.
Chung K. L. Foundations of the theory of continuous parameter Markov chains.— In: Proc. Third Berkeley Sympos. Math. Statist. Probab. Univ. Calif. Press, 1956, vol. 2, p. 29—40.
Дынкин E. Б. Бесконечно малые операторы марковских случайных процессов.— ДАН СССР, 1955, т. 105, с. 206—209.
Дынкин Е. Б. Инфинитезимальные операторы марковских процессов.— Теория вероятностей и ее применения, 1956, т. 1, с. 38—60.
Дынкин Е. Б., Юшкевич А. А. Строго марковские процессы.— Теория вероятностей и ее применения, 1956, т. 1, с. 149—155.
Hunt G. A. Some theorems concerning Brownian motion.— Trans. Amer. Math. Soc., 1956, vol. 81, p. 294—319.
Ray D. Stationary Markov processes with continuous paths.—Trans. Amer. Math. Soc., 1956, vol. 82, p. 452—493.
В lumentai R. M. An extended Markov property.— Trans. Amer. Math. Soc., 1957, vol. 85, p. 52—72.
Doob J. L. Compactification of the discrete state space of a Markov process.— Ztschr. Wahrscheinlichkeitstheorie, 1968, Bd. 10, S. 236—251.
Feller W. On the intergo-differential equations of purely discontinuous Markoff processes.— Trans. Amer. Math. Soc., 1940, vol. 48, p. 488—515; Errata.— Ibid., 1945, vol. 58, p. 474.
Добрушин Р. Л. Об условиях регулярности однородных по времени марковских процессов со счетным числом возможных состояний.— У МН, 1952, т. 7, вып. 6, с. 185—191.
Добрушин Р. Л. Некоторые классы однородных счетных марковских процессов.— Теория вероятностей и ее применения, 1957, т. 2, с. 377—380.
Feller W. On boundaries and lateral conditions for the Kolmogoroff differential equations.— Ann. Math., 1957, vol. 65, p. 527—570.
Reuter G. E. H. Denumerable Markov processes. II, III.— J. London Math. Soc., 1959, vol. 34, p. 81—91.
Neveu J. Sur les etats d’entree et les etats fictifs d’un processus de Markoff.— Ann. Inst. H. Poincare, 1962, vol. 17, p. 324—337.
Chung K. L. On the boundary theory for Markov chains.— Acta math., 1963, vol. 110, p. 19—77; 1966, vol. 115, p. 111—163.
Williams D. The process extended to the boundary.— Ztschr. Wahrscheinlich- keitstheorie, 1962, Bd. 2, S. 332—339.
Williams D. On the construction problem for Markov chains.— Ztschr. Wahr- scheinlichkeitstheorie, 1964, Bd. 3, S. 227—246.
Дынкин E. Б. Общие граничные условия для марковских процессов со счетным множеством состояний.— Теория вероятностей и ее применения, 196 7, т. 12, с. 222-25 7.
ВЕТВЯЩИЕСЯ ПРОЦЕССЫ(к № 25, 32, 33, 46)
(Б. Л. Севастьянов) i
Общее понятие и сам термин «ветвящегося случайного процесса», сразу ставший общепринятым, впервые были явно высказаны А. Н. Колмогоровым на руководимом им семинаре в МГУ в 1946/47 уч. г. Отдельные задачи, связанные с простыми моделями ветвящихся процессов, рассматривались и раньше. В частности, одна из таких задач решалась А. Н. Колмогоровым в более ранней работе № 25, однако именно с публикацией работ № 31, 32 начинается бурное развитие теории ветвящихся процессов. В настоящее время в мировой, литературе имеется несколько монографий, посвященных ветвящимся процессам (книги Харриса [1], Севастьянова [2], Атрея и Нея [3] и др.). Описанные в работах № 31, 32 модели ветвящихся процессов — это марковские ветвящиеся процессы с несколькими типами частиц и с непрерывным и дискретным временем. Уже эта модель оказалась очень богатой как по количеству полученных результатов, так и по возможным приложениям к биологии, химии, физике, технике. Частным случаем этой модели является ветвящийся процесс с иммиграцией, в котором, кроме размножающихся частиц, появляются и иммигрирующие частицы [2].
Впоследствии появились более сложные модели ветвящихся процессов, в которых учитываются: зависимость размножения от возраста частиц (процесс Беллмана—Харриса), положение частицы в некотором пространстве, зависимость частиц от энергии, зависимость от случайной среды и т. п.
Полученные в № 25 асимптотические формулы вероятности продолжения процесса, а также связанные с ними предельные теоремы, доказанные Ягломом [4], в дальнейшем разными авторами обобщались на другие, в том числе и немарковские, модели. Сходимости ветвящихся процессов к диффузионным, о которой говорится в обзорной работе № 46, посвящены работы [5—7].
ЛИТЕРАТУРА
Харрис Т. Е. Теория ветвящихся случайных процессов/Пер. с англ. М.: Мир, 1966.
Севастьянов Б. А. Ветвящиеся процессы. М.: Наука, 1971.
Athreya К. В., Ney Р. Е. Branching processes. Berlin; Heidelberg; New York: Spring.-Verl., 1972.
Я злом A. M. Некоторые предельные теоремы теории ветвящихся случайных процессов.— ДАН СССР, 1947, т. 56, № 8, с. 795—798.
Jirina М. On Feller’s branching diffusion processes.— Casop. pestov. mat., 1969, sv. 94, N 1, s. 84—90.
Lamperty J. The limit of sequence of branching processes.— Ztschr. Wahrschein- lichkeitstheorie, 1967, Bd. 7, N 4, S. 271—288.
Чистяков В. П. О сходимости ветвящихся процессов к диффузионным.— Теория вероятностей и ее применения, 19 70, т. 15, № 4, с. 727—730.
СТАЦИОНАРНЫЕ ПОСЛЕДОВАТЕЛЬНОСТИ(к № 27)
(Ю. А. Розанов) -
Ставшая классической работа № 27 открыла главное направление в теории Стационарных (и родственных им) случайных процессов, поставив надлежащим образом задачи прогнозирования и решив их для стационарных процессов с дискретным временем (стационарных последовательностей). Эта работа замечательна своими глубокими связями с различными вопросами теории приближений, спектральной теории операторов в гильбертовом пространстве, теории аналитических функций. Центральными в ней являются два новых понятия — регулярность случайного процесса и подчиненность одного процесса другому.
Стационарную последовательность можно рассматривать как
X (t) = еМ, t = 0, ±1, . . .,
в гильбертовом пространстве L^ с мерой F (dX) на отрезке —л ^ X ^ л. Пусть Нх (п) есть замкнутая линейная оболочка всех х (s), $ ^ п, и xn (t) — наилучшее приближение для х (fy функциями из Нх (п); регулярность означает, что ^п (0 —> 0 при п —^ — оо. Широко известный результат работы № 27 состоит в установлении следующего критерия регулярности: F (dX) абсолютно непрерывна и плотность f (X) = F yX)/dX удовлетворяет условию
л*
^ log/(X)c?X>— оо.(*)
—л
Общей моделью стационарной последовательности является
х ^ = Utx (0), t = 0, ±1» • • •> л
где Ut = ^ е^ Е (dX) — группа унитарных операторов в гильбертовом про- —л
странстве. Подчиненность ей у (^), £ = 0, +1, . . ., означает, что последовательность у получается из последовательности х линейным преобразованием
У W AI (t)
с оператором
Л = , <р Q^E
в Нх = Нх (оо). Неожиданным и удивительным здесь оказывается то, что указанная линейная зависимость у и т. может быть выражена в терминах их корреляционной зависимости (ранее в этом роде был известен лишь тривиальный факт о линейной зависимости случайных величин х и у с коэффициентом корреляции 1). Описание спектральной структуры подчиненных последовательностей дает,- в частности, спектральное описание циклических подпространств для унитарной группы Ut в пространстве Нх.
Особую роль играют подчиненные последовательности у с условием не- упреждаемости
Ну w с нх w,
для которых, в частности, попутно решается вопрос о том, когда
Ну (0) = Нх (0)..
Решение этого вопроса, например, для
ж (t) = е1м
в L2 с F (dX^ = dX следующее: равенство Ну (0) = Нх (0) справедливо тогда и только тогда, когда
У W= ^s (X),
где ф (X) есть так называемая внешняя функция известного аналитического класса Я2 = Нх (0) (в самой работе №27
о
ФМ=5 VU=T(e-a)
определяется условием Г (z) ф 0, | z | < 1). Нужно сказать, что многие вопросы для класса Я2 легко решаются в рамках предложенной в № 27 схемы подчиненных последовательностей (и процессов). Скажем, так обстоит дело с известным вопросом об инвариантных подпространствах в Я2, а именно: каждое инвариантное относительно умножения на е-^ подпространство
Я С Я2 = Нх (0)
есть Я = Ну (0) для надлежащей регулярной подчиненной п оследовательности у (^) = е^ф (X), ф г Я2, и
Я = фЯ2,
где так называемая внутренняя функция ф г Я2 задает фундаментальную для у последовательность
и (0 = еш1|) (1)
со спектральной плотностью
1/2л = | ф (X) I2-'
Связанные с работой № 27 исследования подробно освещены, например, в монографиях [1—5]. Укажем лишь на некоторые из них.
Нужно отметить, что работа № 27, по-видимому, на какое-то время оставалась неизвестной многим специалистам, занимавшимся в 40-х годах близкими к ней вопросами, и в связи с этим прежде всего следует упомянуть работы Винера по фильтрации стационарных процессов. Здесь же можно было бы упомянуть проблему Бёрлинга, касающуюся «сдвигов» в аналитическом классе Я2, и др.
Непосредственное обобщение условия регулярности (*) на стационарные процессы с непрерывным временем было дано в 1949 г. Крейном в форме
log / W1 + Х2log / W1 + Х2(Я > —е ОО.(Я > —е ОО.
log / W1 + Х2
log / W1 + Х2
(Я > —е ОО.
(Я > —е ОО.
Позднее Крейном была обнаружена связь задачи прогнозирования и обратной спектральной задачи для уравнения струны. Непосредственное обобщение критерия регулярности на невырожденный многомерный случай было дано в 1941 г. Засухиным в форме
л
log det / (X) d\ > — оо. —л
Важные для приложений задачи прогнозирования процессов с рациональным спектром рассматривались Ягломом. Условие регулярности в общем случае равносильно тому, что спектральная плотность / (X) допускает факторизацию
/ (X) = (1/2л) ф (X) ф (X),
где ф (X) есть операторная функция соответствующего аналитического класса Я2. Задача факторизации матричных (операторных) функций / (X) решалась Розановым, Винером и Мазани, Матвеевым и др. В частности, Лакс показал, что в бесконечномерном случае даже очень сильный вариант обобщения условия (*) в форме л
log / (X) dX > — cl
—л
(где с > 0 есть постоянная, а I — единичный оператор) еще не гарантирует требуемую регулярность / (X). Общий критерий регулярности был предложен Розановым.
ЛИТЕРАТУРА
Розанов Ю. А. Стационарные случайные процессы. М.: Физматгиз, 1963.
Гофман К. Банаховы пространства аналитических функций/Пер. с англ. М.: Изд-во иностр, лит., 1963.
Секефалъви-Надъ Б., Фояш Ч. Гармонический анализ операторов в гильбертовом пространстве. М.: Мир, 1970.
Розанов Ю. А. Теория обновляющих процессов. М.: Наука, 1974.
Dym Н., McKean Н. Р. Gaussian processes, function theory and inverse spectral problems. New York: Acad. Press, 1976.
СТАЦИОНАРНЫЕ ПРОЦЕССЫ(к № 48)
(В. А. Статулявичус)
Авторы статьи решают задачу, когда для гауссовского стационарного процесса X (/) выполняется введенное Розенблаттом [1] условие сильного перемешивания (с. п.). В статье доказывается, что в данном случае функция сильного перемешивания а (т) эквивалентна максимальному коэффициенту корреляции р (т) (а (т) ^ р (т) ^ 2ла (т)) и находят представление (4) для р (т) через спектральную плотность процесса / (X), которая в силу условия с. п. существует. Таким образом задача решается полностью. Например, в случае целочисленного времени процесс Хг обладает свойством с. п. тогда и только тогда, когда
р (Т) = sup I (/ (Л) - е^р (е%) -L | — О р у; ||оо
при т —» оо, где sup берется по всем односторонним тригонометрическим полино- т
мам р (сг^) = 2 cte^tK (^ > °) и II * L является нормой ess sup. Отсюда сле- <=о
дует, что если / (X) непрерывная, / (—л) = / (л) и везде, кроме, может быть, нуля, ограниченная, то Xt обладает свойством с. п. Ибрагимов [2] получил дальнейшие результаты о форме / (X), при которой для Xj выполняется условие с. п. Хельсон и Сарасон [3] заново пересмотрели эту проблему как вопрос гармонического анализа. Получены также обобщения для функций Xt со значениями в пространстве матриц [6]. В случае случайного блуждания на компактной абелевой группе Розенблатт [4] показал, что стационарный процесс обладает свойством с. п. тогда и только тогда, когда
sup ЦгтР 0 <п °°)«
/11 ll/Ua
где Т — оператор перехода случайного блуждания. А. Н. Колмогоровым также была поставлена задача о нахождении эффективного критерия полной регулярности гауссовского стационарного процесса, которая решалась Волконским и Розановым [7,]. Ученик А. Н. Колмогорова Леонов [8] исследовал разные свойства перемешивания случайных процессов с помощью старших семиинвариантов.
ЛИТЕРАТУРА
Rosenblatt М. A central limit theorem and a strong mixing condition.— Proc. Nat. Acad. Sci. USA, 195 6, vol. 42, p. 43—47.
Ибрагимов И. А. О спектральных функциях некоторых классов стационарных гауссовских процессов.— ДАН СССР, 1956, т. 137, с. 1046—1048.
Helson Н., SarasonD. Past and future.— Math, scand., 1967, bd 21, s. 5—16.
Rosenblatt M. Markov processes. Structure and asymptotic behaviour. Berlin etc.: Spring.-Verl., 1971.
Розанов К). А. Стационарные случайные процессы. M.: Физматгиз, 1963.
More I. Н., Page L. В. The class w of operator valued weight functions.— J. Math. Meeh., 1970, vol. 19, p. 1011—1017.
Волконский В. И., Розанов Ю. А. Некоторые предельные теоремы для случайных функций. I. II.— Теория вероятностей и ее применения, 1959, т. 4, № 2, с. 186—207;’ 1961, т. 6, № 2, с. 202—214.
Леонов В. П. Некоторые применения старших семиинвариантов к теории стационарных случайных процессов. М.: Наука, 1964.
СТАТИСТИКА ПРОЦЕССОВ(к № 50)
(А. Н. Ширяев) '
В данной работе методом максимального правдоподобия были построены оценки Хт и сог для параметра X (коэффициента затухания) и со (частоты) в комплексном стационарном гауссовско-марковском процессе. Оказалось, что нормированное отношение
toT — со
не зависит от со и Л и является в точности нормально распределенным с параметрами 0 и 1 (когда а = 1). По поводу доказательства этого интересного факта (не приведенного в работе) см. статью [1] и монографию [2, гл. 17, § 4].
Комментируемая работа представляет интерес и с той точки зрения, как А. Н. Колмогоров физически поставленную задачу (в данном случае задачу изучения перемещений оси вращения Земли) переводит на строгий язык статистики случайных процессов и, основываясь на результатах относительно плотностей одних мер по, другим для процессов диффузионного типа, находит оценки рассматриваемых параметров.
В настоящее время статистика процессов диффузионного типа представляет большую главу статистики случайных процессов. Значительная часть монографии [2] посвящена статистике именно таких процессов. В частности, в ней рассмотрена и задача комментируемой работы, а также ряд родственных задач.
ЛИТЕРАТУРА.
Новиков А. А. Последовательное оценивание параметров диффузионных процессов.— Теория вероятностей и ее применения, 1971, т. 15, X -1 с. 394—396.
Липцер Р. III. 1 Ширяев А. Н. Статистика случайных процессов. М.: Наука, 1974.
СПЕКТРАЛЬНАЯ ТЕОРИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ(к № 34)
(А. М. Яглом)
Опубликованная в 1947 г. статья № 34 А. Н. Колмогорова представляет тобой первый в мире популярный обзор спектральной теории стационарных случайных процессов — одного из важнейших разделов математической теории случайных функций, разработанного лишь незадолго до того (при активном участии самого А. Н. Колмогорова) и в то время мало кому известного за пределами узкого круга специалистов. Отметим, что за рубежом первый аналогичный обзор указанной теории появился лишь на два года позже (см. [1]); в настоящее же время только на русском языке этой теории посвящена научная монография [2], сравнительно элементарная книга [3] и большие разделы во множестве учебных руководств (см., например, [4—7]).
А. Н. Колмогоров начинает свой обзор с изложения классических результатов А. Я. Хинчина [1] х, впервые давшего определение стационарного случайного процеса 5 W и доказавшего, что его корреляционная функция В (т) = = АЛ {g (t + т) £ (£)} всегда может быть представлена в виде интеграла Фурье— Стилтьеса (см. формулу (б); относящуюся к несколько более' общему; случаю многомерного процесса g (О = (^ ^t^ ?2 №> • • •> £s WY); однако основное внимание он уделяет вопросу об обосновании возможности представления в виде интеграла Фурье—Стилтьеса вида (4) самого стационарного процесса g (г) и о физическом смысле такого представления. Автор отмечает, что спектральное представление (4) может быть легко выведено из известной теоремы функционального анализа о спектральном разложении однопараметрических групп унитарных операторов в гильбертовом пространстве и что впервые такой его вывод был указан в 1940 г. в работах [5, 7]; однако ради простоты он не останавливается на том обстоятельстве, что фактически в этих работах была решена сразу более общая (и более сложная) задача о спектральном представлении не просто стационарных процессов, а более широкого класса процессов со стационарными приращениями.
Случайный процесс g (^ называется процессом со стационарными приращениями (в широком смысле), если при любых t, т, s, ^ и т2 математические ожидания
M{g(^ + T)-g(0}=^W, __(О
М {[И* + ^ + Ч) - И* + s)H5 U + т2) - g (01} = D (г, тп т2) существуют и не зависят от t. (Ясно, что любой стационарный в широком смысле процесс всегда является также и процессом со стационарными приращениями, но процесс со стационарными приращениями, вообще говоря, может и не быть стационарным.) Из результатов работы А. Н. Колмогорова [б] вытекает, в част-
ности, что каждый процесс со стационарными приращениями g (г) допускает спектральное представление вида
$ (eiM-l)^W + ^ + ^,(2)
где go, gx — случайные величины, а случайная функция Ф (X) такова, что ее при^ ращения Ф (А^) = Ф (X') — Ф (X') и Ф (А^) = Ф (X") — Ф (X") на непересекаю- щихся интервалах А^ = [X', ^] и А^ = [Л", \] некоррелированы между собой (т. е. М {Ф (А^) Ф (А^)} = 0), а задаваемая равенством М {[ Ф (А^) |2} = = F (А^) вещественная монотонно неубывающая функция F (А) аргумента А при любом 8 > 0 удовлетворяет условию
^ dF^-V- ^ AMF^-^^ dF^<oo.(3)
В частном случае стационарного процесса g (г) (рассматривавшемся, в предположении, что время t дискретно, в частности, в работах А. Н. Колмогорова [^, 5]) gi = 0 и, кроме" того, должно уже выполняться не только условие (3), но и более ограничительное условие
,^ dF^<oo.(4)
В таком случае, очевидно, ^ dФ (А) = ^ — это случайная величина конечной дисперсии; поэтому формулу (2) здесь можно переписать в виде
5(0 = ^ Л^Ф^Х)
(где Фх (А) = Ф (А) + (go — ^) К (А), а К (А) — это «функция скачка», равная 0 при ^<0 и 1 при А ^ 0). Таким образом в приложении к стационарным процессам мы снова приходим к формуле (4) и к результатам, изложенным (в применении к многомерному процессу g (^)) в статье № 34 А. Н. Колмогорова.
Спектральная теория случайных процессов со стационарными приращениями, развитая в работах [5, 7], может быть перенесена также на еще более общий класс случайных процессов g (£), имеющих стационарные приращения некоторого порядка n > 1 (см. [9, 10], где можно найти также и точное определение этого класса случайных процессов). Для таких процессов спектральное представление имеет вид
Ш = ( Геш -1-аг-- Л^ГА.! a<$> (Х) + ^о + ^+ • ••+5
J L\п —*
”(5)
но истолкованы и как некоторые факты, касающиеся случайных процессов g (£) со стационарными приращениями.
где Но, ^, . . ., ^п — случайные величины, и приращения случайной функции ф (X) на непересекающихся интервалах Д^ и Д^ снова некоррелированы между собой, в то время как функция F №), определяемая равенством М (| ф (Д^) |2} = = F (Д^), при любом е > 0 удовлетворяет условию
^ dF (X) + ^ X^dF ^ + ^ dF (X) < оо. (6)
Формулы, описывающие спектральные представления процессов со стационарными приращениями некоторого порядка, могут быть просто выведены, в частности, из результатов, относящихся к совсем другому обобщению понятия стационарного случайного процесса, а именно из спектральной теории обобщенных стационарных случайных процессов. Обобщенным случайным процессом, по аналогии с получившим широкое распространение в современном анализе понятием обобщенной функции, называется случайный линейный функционал £ (ф) (т. е. линейный функционал, значения которого являются случайными величинами), заданный на некотором линейном пространстве D «хороших» (т. е. достаточно гладких) функций ф = ф (г) — скажем, на введенном Л. Шварцем пространстве D^ бесконечно дифференцируемых функций, каждая из которых тождественно обращается в нуль вне некоторого конечного интервала (только случай такого пространства D = D^ и будет рассматриваться ниже). Ясно, что обыкновенному случайному процессу g (г) всегда можно сопоставить обобщенный процесс
Ш= $ Шч^ц (7)
€ этой точки зрения обыкновенные случайные процессы могут считаться частными случаями процессов обобщенных. В принципе, однако, могут существовать и обобщенные процессы g (ф), для которых не существуют «значения в точке» | (£) (т. е. такие, что £ (ф) не может быть описано формулой вида (7)); типичным примером такого процесса £ (ф) является, в частности, часто встречающийся в различных приложениях процесс «белого шума».
Обобщенные случайные процессы были введены в рассмотрение в работах [11, 12] (см. также [13, гл. III]). В [11—13] было определено также понятие стационарного (в широком смысле) обобщенного случайного процесса £ (ф) и была развита спектральная теория таких $ (ф). Для определения обобщенных стационарных процессов надо только рассмотреть действующую в D операцию Т%) задаваемую равенством ^ф (^) = ф (^ + т), а затем потребовать, чтобы при любом т для £ (ф) выполнялись условия
М{НГТФ)}_= М{^ (ф)},
М{ЦТтФ1) !; (Гтф3)} = М {5 (Ф1) с(ф2).}. (8) Будем для простоты считать, что М {£ (ф)} = m (ф) = 0 при всех ф; в таком случае стационарные обобщенные случайные процессы £ (ф) будут допускать спектральное представление вида
Ш = $ Ф М^Ф(Х), (9)
где ф (X) = ^ е^^ (f) dt — преобразование Фурье функции Ф (г), а случайная»
(10).(10).функция Ф (%) обладает теми же свойствами, что и функция Ф (X), фигурирую* щая в спектральном разложении (4) обыкновенного стационарного случайного процесса § (г) с той лишь разницей, что теперь уже функция F (X) такая, что М {| Ф (Ах) |2} = F (Д^ будет удовлетворять условию
(10).
(10).
(1 + V)m
при некотором целом т ^ 0 (в случае обыкновенных^стационарных процессов
(г) всегда ^ dF (X) < оо, т. е. т = 0). Легко видеть, что в частном случае,.
когда процесс £ (ф) является обыкновенным (т. е. задается формулой (7)), из фор* мулы (9) сразу же выводится и более обычное спектральное представление пре* цесса к£ (0 вида (4).
Обобщенные случайные процессы кое в чем являются более простыми, чем процессы^обыкновенные; в частности, в то время как обыкновенный случайный процесс £ (0 будет иметь производную d^ (fyldt = ^ (г) лишь при некоторых специальных условиях, обобщенный процесс 5 (ф) всегда дифференцируем, причем его производная ?' (ф) определяется равенством: ^ (ф) = — £ (ф') (если процесс
| (ф) задается формулой (7) и £' (£) существует, то, очевидно, ^(ф) = ^ ^(У ф(^)*
Дифференцируемость обобщенных процессов позволяет определить обобщенный случайный процесс со стационарными приращениями данного порядка п просто как процесс g (ф) (вообще говоря, нестационарный), п-я производная ^п^ (ф) которого является уже обобщенным стационарным процессом. Это определение позволяет легко вывести из формул (9) и (10) общее спектральное представление обобщенных случайных процессов со стационарными приращениями порядка п, охватывающее формулы (5) и (6) в качестве частного случая (относящегося к процессам g (ф) вида (7)).
Еще одно обобщение спектрального представления стационарного случайного процесса £ (£) в виде интеграла Фурье—-Стилтьеса (4) касается однородных случайных полей в многомерных пространствах R^ т. е. родственных стационарным процессам случайных функций 5 (х), х = fo, . . ., х^ е 7?п, многих переменных. Случайное поле g (х), х е Rn, называется однородным (в широком смысле), если при любом г @Rn
Mg (х + г) = Mg (х), Mg (Х1 + гД (х2 + г) = Mg (xj) g (х5)(И)
(так что Mg (х) = const, Mg (xj) g (x2) = В (x, — x2)); оно допускает спектральное представление вида
g (х) = ^ е1кхФ (dk),(12)
Rn
тде Ф (Ак) — случайная функция n-мерного интервала Ак в пространстве векторов к, значения которой на непересекающихся интервалах Акх и Ак2 являются некоррелированными, а функция F (Ak) = М { | Ф (Ак) |2} интегрируема по всему пространству (так что ^ F (с?к) <оо). Заметим, что, сославшись на работу Вп
А. Н. Колмогорова [5], спектральное разложение (12) однородного случайного поля £ (х) еще в 1941 г. использовал Обухов [14, 15] в своих важных работах по • статистической теории турбулентности; в настоящее время строгое доказательство этой формулы и некоторых ее обобщений (касающихся, в частности, полей с однородными приращениями, а также обобщенных однородных полей) может ►быть найдено, например, в [16] (см. также [13, § III.5]). Ряд дальнейших примеров «обобщенных спектральных представлений» различных классов случайных функций, родственных представлению стационарных случайных процессов | (2) в виде интеграла Фурье—Стилтьеса (4), указан, в частности, в работах {17, 18].
Точная формулировка упомянутых А. Н. Колмогоровым результатов Засу- хина [75] и строгое доказательство этих результатов содержится в книге Розанова [2, гл. II]. По поводу современного изложения и дальнейшего развития выводов, содержащихся в упомянутой статье Слуцкого [74], см. Моран [19, 20], «а также Кендалл и Стьюарт [21, разд. 47.15].
ЛИТЕРАТУРА
Doob J. L. Time series and harmonic analysis.— In: Proc. (First) Berkeley Sympos. Math. Statist. Probab., 1949, p. 303—344.
Розанов Ю. А. Стационарные случайные процессы. M.: Физматгиз, 1963. 284 с.-
Яглом А. М. Корреляционная теория стационарных случайных функций. Л.: Гидрометеоиздат, 1981. 280 с.
Дуб Дж. Л. Вероятностные процессы/Пер. с англ. М.: Изд-во иностр. глит., 1956. 605 с.u
Вентцель А. Д. Курс теории случайных процессов. М.: Наука, 1975. 319 с.
Гихман И. И., Скороход А. В. Введение в теорию случайных процессов. 2-е изд. М.: Наука. 1977. 567 с.
Гихман И. И., Скороход А. В. Теория случайных процессов. М.: Наука, 1971. Т. 1. 664 с.
Neumann J. von, Schoenberg I. J. Fourier integrals and metric geometry.— Trans. Amer. Math. Soc., 1941, vol. 50, N 2, p. 226—251.
Яглом A. M. Корреляционная теория процессов co случайными стационарными n-ми приращениями.— Мат. сб., 1955, т. 37, № 1, с. 141—196.
Пинскер М. С. Теория кривых в гильбертовом пространстве со стационарными n-ми приращениями.— Изв. АН СССР. Сер. > ат., 1955, т. 19, № 5, с. 319-345.
Гельфанд И. М. Обобщенные случайные процессы.— ДАН СССР, 1955, т. 100, № 5, с. 853—856.
Ito К. Stationary random distributions.— Mem. Cull. Sci. Univ. Kyoto (A), 1954, vol. 28, N 3, p. 209—223. Рус. пер.: Математика, 1957, т. 1, № 3, с. 139—151.*
Гельфанд И. М., Виленкин Н. Я. Некоторые применения гармонического анализа. Оснащенные гильбертовы пространства. М.: Физматгиз, 1961. 472 с.
Обухов А. М. О распределении энергии в спектре турбулентного потока.— ДАН СССР, 1941, т. 32, № 1, с. 22—24.
Обухов А. М. О распределении энергии в спектре турбулентного потока.— Изв. АН СССР. Сер. геогр. и геофиз., 1941, т. 5, № 4/5, с. 453—466.
Иглом А. М. Некоторые классы случайных полей в n-мерном пространстве, родственные стационарным случайным процессам.— Теория вероятностей и ее применения, 1957, т. 2, № 3, с. 292—338.
КагКипеп К. Uber lineare Methoden in der Wahrscheinlichkeitsrechnung.— Ann. Acad. sci. fenn. A, 1947, vol. 1, N 37, p. 3—79.
Иглом A. M. Спектральные представления для различных классов случайных функций.— В кн.: Тр. 4-го Всесоюз. мат. съезда, М.: Изд-во АН СССР, 1963, т. 1, с. 250—273.
Moran Р. А. Р. The spectral theory of discrete stochastic processes.— Bio- metrika, 1949, vol. 36, N 1, p. 63—70.
Moran P. A. P. The oscillatory behaviour of moving averages.— Proc. Cambridge Phil. Soc., 1950, vol. 46, N 2, p. 272—281.
Кендалл M. Дж., Стьюарт А. Многомерный статистический анализ и временные ряды /Пер. с англ. М.: Наука, 1976. 736 с.
СПЕКТРАЛЬНОЕ ПРЕДСТАВЛЕНИЕСЛУЧАЙНЫХ ПРОЦЕССОВ(к № 47, 49)
(10. Г. Баласанов, И. Г. Журбенко)
Обозначим Т^ класс случайных процессов g (О, для которых
М | £ U) 1Р < Cfc < оо,
a S^ — класс процессов § (/) е Т^ и таких, что для всех 1 < I < к, — оо <
' Mg (/,), . . . g (t,) = Mg (t, 4- т) . . Л (i? + T).
Тогда пример, построенный в комментируемой работе, показывает, что хотя 5(2) (— ф(2), но ПрИ & > 2 существуют процессы класса S^\ не принадлежащие классу Ф^\
Вопрос о подходящем определении классов случайных процессов, для которых справедливо спектральное представление высших порядков, обсуждался в целом ряде последующих работ различных авторов. Отметим в первую очередь работу [1], где по предложению А. Н. Колмогорова вводятся и изучаются классы ^\ определяемые как некоторые подклассы классов S^ П Ф(/с). Для таких классов оказывается более естественным рассматривать не моментную спектральную меру М^ 0ч->- •» ^ (определяемую соотношением (см. [1, 2, 9])
Тс
mW (tb ..., t^ = Mg M.. ,(^(<6) = ^ exP {‘ 2 ^M ^ ^ 1 • ^l ’ вД ' j=i
а семиинвариантную спектральную меру F^X^, . Л, Х^) (определяемую соотношением (см. [1, 2, 9])
к
S^ (гь • • •, М = 5 exp li 2 ^ J F^ (*&i. • • d4)*
тде
з^ (<i, . . ., 10 = 1 8 In М exp Ji V* и£ (t .)| I У
6 Эиг...8ик I з з J | 0/ 3=1 к
В частности, классы Д^О характеризуются тем, что при В (г) г Д^ семиинвари- янтные меры F^\ 1 ^ Z < /с, абсолютно непрерывны относительно меры Лебега на множествах 2Ч + . . . + Xi = 0 (mod 2л). Изучение классов Д^ было затем продолжено в [2]. Обобщение классов Д^> для векторных случайных процессов получено в [3]. Аналогичные вопросы для случайных полей рассматривались в [4k
Инициированные А. Н. Колмогоровым работы, в которых были определены и изучены классы Д^\ открыли серию исследований в новом направлении, называемом теорией и статистическим анализом старших спектров стационарных случайных процессов. Результаты этого направления носят в настоящее время фундаментальный характер и, кроме того, существенно используются для решения различных прикладных задач в астрономии, геофизике, при изучении турбулентности жидкости и газа и т. д. (см., например [5—8]).
Фундаментальный вклад в дальнейшее развитие спектрального анализа старших порядков был сделан в работе [9], где был разработан математический аппарат старших моментов и семиинвариантов, необходимый во всех дальнейших исследованиях (см. [10, 11] и др.). Спектральная теория старших порядков для однородных случайных полей рассматривалась Я гл омом [12—14]. Оценки сверху для старших спектральных плотностей и их производных в условиях различных видов перемешивания найдены в [11] и существенно используются при статистическом анализе.
Многочисленные работы были посвящены построению и исследованию статистик старших спектральных плотностей (например, [15—17] и др.). Однако до недавнего времени все статистики обладали одним и тем же существенным недостатком; они позволяли построить оценку старшей семиинвариантной спектральной плотности не для всех значений аргумента. Хотя семиинвариантная плотность n-го порядка определена во всех точках вида 2Ч + • • • + Хп = = 0 (mod 2л), предлагавшиеся статистики не давали никакого ответа на подмножествах Х}. + . . . + ХЬ: = 0 (mod 2л), 1 ^ kt < п, i = 1, . . ., р, при р < п. Естественно, что вблизи указанных множеств возникала сильная неустойчивость статистических оценок. Недавно от этого недостатка удалось избавиться благодаря статистике, построенной методом сдвига по времени [18].
ЛИТЕРАТУРА
Ширяев Л. Н. Некоторые вопросы спектральной теории старших моментов. I.—Теория вероятностей и ее применения, 1960, т. 5, № 3, с. 293—313.
Леонов В. П., Ширяев Л. Н. Некоторые вопросы спектральной теории старших моментов. II.— Теория вероятностей и ее применения, 1960, т. 5, № 4, с. 460—464.
Brillinger D. R. An introduction to polyspectra.— Ann. Math. Statist., 1965, vol. 36, p. 1351-1374.
Леоненко Н. Н. Некоторые вопросы спектральной теории старших моментов случайных полей.— ДАН УССР, 1975, № 9, с. 777—782.
Кузнецов П. И., Стратонович Р. Л^ Тихонов В. И. Прохождение некоторых случайных функций через нелинейные системы.— Автоматика и телемеханика, 1963, т. 14, № 4.
Монин А. С., Яглом А. М. Статистическая гидромеханика. М.: Наука 1965. Т. 1.'
Монин А. С., Яглом А. М. Статистическая гидромеханика. М.: Наука 1967. Т. 2.’
Brillinger D. R. Identification of polynomial systems by polyspectra.— J Sound and Vibr., 1970, vol. 2, N 3, p. 301—313.*
Леонов В. П., Ширяев А.Н. К технике вычисления семиинвариантов.— Теория вероятностей и ее применения, 1959, т. 4, № 3, с. 342—355.
Леонов В. П. Некоторые применения старших семиинвариантов к теории стационарных случайных процессов. М.: Наука, 1964.
Журбенко И. Г. Спектральный анализ временных рядов. М.: Изд-во МГУ, 1982.
Яглом А. М. Некоторые классы случайных полей в n-мерном пространстве,, родственные стационарным случайным процессам.— Теория вероятностей и ее применения, 1957, т. 2, № 3, с. 292—338.
Yaglom А. М. An introduction to the theory of stationary random functions. Englewood Cliffs: Prentice-Hall, 1962.
Yaglom A. M. Second-order homogeneous random fields.— In: Proc. Fourth Berkeley Sympos. Math. Statist. Probab., 1961, p. 593—622.
Rosenblatt M. A., Van Ness J. S. Estimation of the bispectrum.— Ann. Math. Statist., 1965, vol. 36, p. 1120—1136.
Brillinger D. R., Rosenblatt M. A. Asymptotic theory of estimates of &-th order spectra.— In: Advances Seminar on Spectral Analysis of Time Series. New York: J. Wiley, 1967, p. 189—232.
Журбенко И. Г., Труш Н, Н. Об оценке спектральных плотностей стационарных процессов.— Литов, мат. сб., 1979, т. 19, № 1, с. 65—82.
Журбенко И. Г. Статистическое оценивание старших спектров.— Теория вероятностей и ее применения, 1985, т. 30, № 1, с. 66—77.
БРОУНОВСКОЕ ДВИЖЕНИЕ(к № 14, 19, 24)
(А. М. Яглом)■
Статьи № 14, 19, 24 непосредственно примыкают к важным работам № 9, 17, в основном посвященным общей теории непрерывных марковских («стохастически определенных» по терминологии А. Н. Колмогорова) случайных процессов. Такого рода процессы, начиная с известных работ Эйнштейна и Смолухов- ског [1, 2], очень широко применяются в физике для описания броуновского движения как отдельных частиц, так и систем со многими степенями свободы; напомним в этой связи, что к некоторым выводам работы № 9, как оказалось, еще раньше пришли физики Фоккер и Планк, исследовавшие броуновское движение. Естественно было ожидать поэтому, что также и результаты работы № 17 могут быть непосредственно приложены ко многим; задачам, касающимся броуновского движения. Некоторые'* конкретные примеры таких приложений как раз и содержатся в работах № 14, 19, 24.
Наиболее физический характер из трех последних работ имеет написанная в соавторстве с М. А. Леонтовичем статья № 14, напечатанная в физическом жур"
нале. В этой статье решается следующая задача теории броуновского движения, поставленная перед авторами С. И. Вавиловым: найти среднее значение Е (F) площади F, покрываемсй на плоскости (я, у^ за данное время t проекцией сферической частицы фиксированного радиуса о, совершающей броуновское движение. Опираясь на уравнения в частных производных для плотности вероятности перехода многомерного непрерывного марковского процесса, найденные в работе № 17, авторы получают для Е (F) весьма точную асимптотическую формулу (пригодную при DtlQ2 ^> 1, где D — соответствующий коэффициент диффузии, который в силу результатов Эйнштейна [1,2] для сферической частицы радиуса -о, погруженной в жидкую или газообразную среду вязкости ц, при абсолютной температуре Т задается соотношением D = Zc07V6nou, где к0— постоянная Больцмана).
Отметим, что приведенное в статье решение задачи опирается на содержащийся там же следующий важный результат. Обозначим через PL (х, у; t) вероятность того, что частица, находящаяся в момент t = 0 в точке (х, у) и совершающая броуновское движение в двумерной плоскости (случай броуновского движения в n-мерном пространстве, разумеется, при любом п может быть разобран совершенно аналогично), за данное в^емя t хоть один раз пересечет границу Г заданной области G (содержащей точку (ж, уУ) и притом так, что первое пересечение придется на заданную часть L всей границы Г (где L может, конечно, и совпасть с Г). В таком случае PL (х, у; t) будет удовлетворять определенному уравнению в частных производных («первому уравнению А. Н. Колмогорова», см. уравнение (14)), а также условиям: PL (х, у; 0) = 0 для любой внутренней точки (ж, у) области G, PL ^х, у; t) —> 1 при любом t >> 0, когда точка (^, у) стремится к какой-либо точке части L границы Г, и PL (х, у; ^) —* 0 при t > 0 и точке (х, уУ стремящейся к точке границы Г, не входящей в L; эти уравнения и условия уже однозначно задают функцию PL (х, у; t). Ясно, что указанный общий вывод представляет значительный интерес и вне зависимости от конкретной задачи броуновского движения, решаемой в статье № 14; он был одновременно с авторами данной статьи получен также Понтрягиным, Андроповым и Виттом [3], и в настоящее время этот и некоторые родственные ему результаты широко используются во многих приложениях и вошли в ряд учебных руководств см., например, [4, § 30; 5, § 1.4; 6, §§ 26, 27]).
Значительно более общий вопрос теории броуновского движения разбирается А. Н. Колмогоровым в небольшой заметке №19. Как хорошо известно, в классической теории броуновского движения, развитой Эйнштейном и Смолухов- ским [1, 2], пренебрегается инерцией броуновской частицы,, т. е. фактически предполагается, что масса этой частицы равна нулю. В связи с этим броуновская частица в теории Эйнштейна и Смолуховского не имеет конечной скорости; так, например, в частном случае броуновского движения свободной частицы Винером было строго доказано (см. [7, гл. IX]), что броуновская траектория с вероятностью 1 является непрерывной, но нигде недифференцируемой кривой. Отметим еще, что в приближении Эйнштейна и Смолуховского моделью броуновского движения физической системы является непрерывный марковский процесс в пространстве ее координат (в случае движения свободной частицы — винеровский случайный процесс).
Ясно, что недифференцируемость броуновских траекторий в теории Эйнштейна — Смолуховского тесно связана с вводимой здесь идеализацией (пренебрежением инерцией), делающей соответствующую теорию непригодной для анализа движения на очень малых интервалах времени М. В применении к простейшему случаю броуновского движения свободной частицы уточненная теория,, учитывающая уже и инерцию частицы, была в 1930 г. развита Уленбеком и Орнштейном [8] (см. также Дуб [9] и Чандрасекар [10, гл. II]); в этой уточненной теории траектории частиц оказываются уже дифференцируемыми (но не имеющими второй производной, так что теперь бесконечным оказывается ускорение частицы). Фактически тому же обобщению классической теории броуновского движения посвящена и статья № 19, где, однако, уже рассматривается не частный случай движения одной свободной частицы, а общий случай броуновского движения произвольной физической системы с п степенями свободы. Учет инерции, согласно А. Н. Колмогорову, достигается просто тем, что состояние системы теперь считается задающимся значениями п коодинат qlv . ., qn и п их производных по времени (скоростей) qXl . . .л qn; в качестве же модели броуновского движения здесь используется непрерывный марковский процесс в 2п- мерном фазовом пространстве координат и скоростей. Основное уравнение для плотности вероятности перехода такого марковского процесса (уравнение (9) работы № 19) оказывается в данном случае вырожденным уравнением параболического типа (так как его правая часть содержит только вторые производные по скоростям, но не по двум координатам или координате и скорости); математическая теория таких уравнений начала разрабатываться вскоре после появления работы №19 учеником А. Н. Колмогорова Пискуновым [И]. Теория Уленбека и Орнштейна одномерного броуновского движения свободной частицы получается из общей теории Колмогорова в частном случае, когда n = 1 (так что основное уравнение теории приобретает вид (10), см. работу № 19), / = = — aq (где а = $1т, т — масса частицы, Р — коэффициент при силе вязкого трения, равный блоц для сферической частицы радиуса о), а к = const = = к^Т/т^.
Наконец, статья № 24 посвящена интересному вопросу о смысле и условиях статистической обратимости броуновского движения. Хорошо известно, что процессы броуновского движения (или диффузии) в термодинамическом смысле являются необратимыми — при наличии большого числа диффундирующих частиц эти процессы практически всегда приводят к выравниванию распределения имеющихся частиц при возрастании времени I, в то время как при убывании t неоднородность распределения возрастает. По-видимому, Шредингер [12] первым обратил внимание на то, что на самом деле существенную роль здесь играет наличие определенного начального условия в момент t = 0 и всегда принимаемого допущения о стремлении распределения частиц к равномерному (в общем случае — к некоторому стационарному эргодическому распределению) при t —* оо, в то время как относительно поведения процесса при t —* — оо обычно никаких предположений не делается. В связи с этим он рассмотрел вопрос о процессе диффузии в течение интервала времени tQ <, t -<_ tx при условии, что фиксировано и начальное распределение вероятностей в момент t — £0, и конечное распределение в момент t = t^ и указал, что при такой постановке задачи диффузия уже будет обладать определенной обратимостью. В частности, если до-
пустить, что диффузия происходит на конечном пространственном интервале (или в конечном объеме) и что как при £ -» оо, так и при £ —> — со распределение вероятностей стремится к одному и тому же равномерному (т. е. стационарному и эргодическому) распределению, то тогда изменения распределения вероятностей при £0 ^ ^ < 00 и ПРИ — оо < ^ ^ ^0, отвечающие заданному значению распределения в момент £0, будут описываться совершенно одинаковыми соотношениями, т. е. диффузия здесь будет строго обратима во времени.
Шредингер рассмотрел в своей статье лишь простейшую одномерную диффузию, описываемую уравнением диффузии с постоянным коэффициентом 2). В работе же № 24 А. Н. Колмогорова изучен общий случай произвольного п-мерного броуновского движения, описываемого непрерывным марковским случайным процессом на некотором n-мерном многообразии В координат (^i, . . ., яп) = х физической системы. Если для этого марковского процесса при всех t задана «абсолютная (безусловная) плотность вероятности» р (х), являющаяся строго положительной плотностью стационарного распределения вероятностей (в случае, когда существует эргодическое распределение, именно его естественно принять за р (ж)), то тогда наряду с обычной плотностью вероятности перехода из заданного состояния в момент t = t0 в какое-то фиксированное состояние в момент t = = ^i >> £0 можно определить также и «обратную плотность вероятности перехода» — условную плотность вероятности состояния в момент t = t0 при условии, что задано состояние в более поздний момент t = ^> £0; после этого естественно поставить вопрос о необходимых и достаточных условиях, при которых эти две плотности вероятности перехода равны друг другу. Такие необходимые и достаточные условия и найдены в работе № 24; при их выводе используется полученная тут же инвариантная тензорная форма указанных в работе № 19 общих уравнений для плотности вероятности перехода n-мерного марковского процесса, которая может быть полезной и вне связи с рассматриваемой задачей о статистической обратимости, а сами искомые условия оказались достаточно общими и, разумеется, выполняющимися и в том частном случае, который рассматривал Шредингер.
Заметим, впрочем, что и в статье № 24 задача о статистической обратимости броуновского движения все же исследуется не в самом общем виде, так как здесь предполагается, что матрица || ВгЭ (ж) || коэффициентов при вторых производных в уравнении для плотности вероятности перехода является строго положительно определенной при всех х. В конце § 1 автор отмечает, что случай вырожденной матрицы || Вг3 ^ || на самом деле представляет значительный физический интерес, поскольку он возникает, в частности, при рассмотрении броуновского движения в фазовом пространстве координат и скоростей физической системы (см. статью № 19); однако тут же оговаривается, что в данной работе вырожденный случай рассматриваться не будет. Позже вопрос об условиях статистической обратимости броуновского движения в фазовом пространстве координат и скоростей был поставлен А. Н. Колмогоровым перед своим аспирантом — автором настоящего комментария. Само определение статистической обратимости в этом случае слегка отличается от определения, имеющегося в работе № 24, так как обращение движения физической системы требует изменения знака всех скоростей на обратный; это отличие (о котором см. [13]), однако, является достаточно простым и оно мало что меняет. Для получения необходимых и достаточных ус-
ловий статистической обратимости теперь снова следует переписать основные уравнения для вероятности перехода (уравнение (9) работы № 19 и сопряженное ему уравнение) в инвариантной тензорной форме (приобретающей особенно ясный физический смысл, если за коэффициенты метрической квадратичной формы в координатном пространстве принять коэффициенты квадратичной формы от скоростей, задающей кинетическую энергию системы). Ограничиваясь далее наиболее интересным случаем, когда коэффициенты при вторых производных по скоростям в уравнении для плотности вероятности перехода зависят только от координат, а силы, воздействующие на рассматриваемую систему, линейно зависят от скоростей, удается показать (см. [13]), что фактически для того, чтобы броуновское движение в фазовом пространстве было статистически обратимым, здесь надо лишь, чтобы соответствующее стационарное распределение вероятностей совпадало по форме с каноническим распределением Гиббса. Таким образом, в данном случае условие статистической обратимости оказывается имеющим ясный физический смысл. Перейдя далее к пределу, отвечающему стремлению к нулю инерции системы (т. е. стремлению к нулю всех коэффициентов квадратичной формы от скоростей, задающей кинетическую энергию), мы снова придем к модели Эйнштейна—Смолуховского броуновского движения как марковского процесса в пространстве одних лишь координат системы; при этом найденные в [13] условия статистической обратимости броуновского движения в фазовом пространстве в пределе снова переходят в условия статистической обратимости, найденные в работе № 24 А. Н. Колмогорова. Последнее обстоятельство проливает дополнительный свет на физический смысл этих последних условий.
ЛИТЕРАТУРА
Эйнштейн А., Смолуховский М. Броуновское движение / Сб. ст. Пер. с нем. М.; Л.: ОНТИ, 1936.
Эйнштейн А. Работы по теории броуновского движения.— В кн.: Эйнштейн А. Собр. науч, трудов. М.: Наука, 1966, т. 3, с. 75—91; 108—127; 149—151; 155-163.
-3. Понтрягин Л. С., Андронов А. Л., Витт А. А. О статистическом рассмотрении динамических систем.— ЖЭТФ, 1933, т. 3, № 3, с. 165—180.
Свешников А. А. Прикладные методы теории случайных функций. 2-е изд. М.: Наука, 1968.
Тихонов В. И. Выбросы случайных процессов. М.: Наука, 1970. 392 с.
Тихонов В. И., Миронов М. А. Марковские процессы. М.: Наука, 1977.
Винер Н., ПэлиР. Преобразование Фурье в комплексной области / Пер. с англ. М.: Наука, 1964. 267 с.
Uhlenbeck G. Е., Ornstein L. 8. On the theory of the Brownian motion.— Phys. Rev., 1930, vol. 36, p. 823—841.
Doob J. L. The Brownian movement and stochastic equations.— Ann. Math., 1942, vol. 43, N 2, p. 351—369.
Чандрасекар С. Стохастические проблемы в физике и астрономии / Пер. с англ. М.: Изд-во иностр, лит., 1947.
Пискунов П. С. Краевые задачи для уравнения эллиитико-параболического типа.— Мат. сб., 1940, т. 7, с. 385—424.
Schrodinger Е. Uber die Umkehrung der Naturgesetze.— Sitzungsber. Preuss. Akad. Wiss., phys.-math. KL, 1931, 12. Marz, S. 144—153.
Иглом A. M. О статистической обратимости броуновского движения.— Мат. сб., 194 9, т. 24, с. 457—492.
ЦЕПИ МАРКОВА
СО СЧЕТНЫМ ЧИСЛОМ СОСТОЯНИЙ(к № 23)
(А . А . Юшкевич)
Краткая заметка А. Н. Колмогорова [1] и ее расширенный вариант [2] (№ 23 наст, изд.) содержат основы теории счетных однородных цепей Маркова; эти работы положили начало систематическому изучению цепей Маркова со счетным и вообще бесконечным множеством состояний. Установленные Колмогоровым классификация состояний и асимптотика вероятностей перехода Р^ при п —* со составляют неотъемлемую часть любого подробного изложения счетных цепей Маркова [5, 8, 12, 31, 39, 40]. В адаптированном виде эти результаты вошли в учебные руководства и для нематематиков.
В названных работах А. Н. Колмогоров доказал, что: 1) счетное пространство Е состояний подразделяется на множество несущественных состояний и классы существенных (сообщающихся между собой) состояний, а классы в свою очередь на периодические подклассы; 2) в пределах класса вероятность бесконечного числа возвращений одна и та же для всех состояний и равна либо 1 (возвратный класс), либо 0 (невозвратный класс); 3) в пределах класса среднее время возвращения Mjj или для всех состояний j конечно (положительный класс), или для всех состояний бесконечно (нулевой класс); 4) в непериодическом классе существует
Иш = М^К(1)
П-оо г333 '' '
причем в положительном классе сумма пределов равна 1; 5) как следствие в общем случае зависимость Р^ от п является асимптотически периодической.
В случае конечного Е все классы возвратны и положительны; для этого случая разбиение пространства Е на несущественные состояния, классы и подклассы и асимптотическую периодичность р№ независимо получил Дёблин [3] (существование не зависящих от г пределов (1) для конечной цепи со строго положительными Р^ очевидно, состоящей из одного непериодического класса, установил еще Марков).
Работы Колмогорова были продолжены во многих исследованиях. Эрдёш, Феллер и Поллард [4], желая «сделать более доступными результаты Колмогорова», доказали соотношение (1) как теорему восстановления, получившую затем ряд обобщений (см. [5, гл. XIII]). Феллер [5] впервые на уровне для начинающих изложил основы теории счетных однородных цепей Маркова, причем отметилг что в положительном классе пределы (1) образуют единственное стационарное распределение. Он же в [6] нашел ряд уточнений формулы (1), например выражение для ^ V^ — ^1^ ПРИ конечном втором моменте М^ времени возвра- о
щения в у, а позднее в [7] дал новое доказательство теоремы восстановления.
Сарымсаков [8], воспроизведя классификацию Колмогорова, предложил матрйчный метод вычисления пределов (1), а также рассмотрел центральную предельную теорему для цепей со счетным пространством Е и с Е = [a, bV
В случае нулевого класса, когда пределы в (1) равны 0, интересно сравнить между собой порядки стремления к 0 переходных вероятностей для разных состояний, а также сравнить далекие будущие распределения при различных начальных состояниях. Дёблин [9] установил, что в пределах одного класса всегда существует конечный отличный от 0 предел
lim 2(2)
П—оо
1 1
(результат Дёблина в действительности важен для нулевого возвратного класса, так как в положительном классе он вытекает из (1), а в невозвратном классе — из сходимости рядов, получающихся заменой в (2) символа п на оо). Чжун [10] обнаружил, что в случае возвратного класса предел (2) равен ц^ц^1, где ц^ — среднее число попаданий в i на протяжении одной экскурсии из фиксированного состояния h в h, а Дерман [11] показал, что при тех же условиях ц = {щ} является единственной с точностью до постоянного множителя о-конечной инвариантной мерой на Е. Эти и примыкающие результаты подробно осветил в своей монографии [12] Чжун.]
Ори [13] доказал, что в возвратном классе при разных начальных состояниях будущие распределения сближаются по вариации:
lim 2 | Р^ _ Р* | = 0;(3)
П—ОО jJ
другое доказательство дали Блекуэлл и Фридман [14] (в положительном классе (3) сразу следует из результата 4) Колмогорова).
Существенное усиление результата Дёблина о пределе (2) получили Кингман и Ори [15], доказавшие «индивидуальную» предельную теорему для отношений: если в непериодическом возвратном классе
Vi(4)
1
при некоторых N и £ > 0, то
р^п+т) lim -22 П-*оо pWр^п+т) lim -22 П-*оо pW(5)(5)
р^п+т) lim -22 П-*оо pW
р^п+т) lim -22 П-*оо pW
(5)
(5)
Как заметил Молчанов [16], условие (4) равносильно более простому условию: > 6 Vt. Молчанов обобщил результат (5) на а-возвратные цепи, т. е. цепи, в которых при некотором а 1
§ аРР^ = оо Vi, /,
П=1
но при каждом положительном Р < а аналогичный ряд сходится: если в такой цепи Р^ > бР^ Vt при некоторых ^>ЛГие>0, то предел в (5) существует и равен a^Hjipiix^q)^1, где ц = ацР и ф = аРф — единственные с точностью до постоянного множителя а-гармонические мера и положительная функция. Доказательство теоремы Молчанова, использующее границу Мартина, имеется в [17].
Асимптотику переходной вероятности Р^ (t) однородного марковского процесса со счетным пространством состояний и непрерывным временем изучил Леви [18].*-
Для несчетного фазового пространства Е колмогоровское разбиение Е на множество несущественных состояний, классы и подклассы проделал Дёблин * [19], усовершенствованные изложения дали затем Дуб [20], Чжун [21], Ори [22]. Принимаемое в этих работах известное условие Дёблина гарантирует наличие стационарного распределения и аналогию со случаем положительных классов. Определение возвратности для случая общего пространства Е предложил Харрис [23]. В возвратных по Харрису цепях существует единственная с точностью до постоянного множителя инвариантная о-конечная мера. Для них справедлив аналог результата о существовании (при i = к) предела (2) и равенстве его Р;^1 (теорема Чакона—Орнстейна [24], усовершенствованная затем рядом авторов). Данный круг вопросов подробно изложен в монографии Ревуза [25].
Работы Колмогорова [1, 2] стимулировали не только дальнейшее изучение вопросов о классификации состояний и асимптотике переходных вероятностей, но в значительной мере развитие и всей теории цепей Маркова со счетным или произвольным фазовым пространством.
Первое из них имеет дело с возвратным прежде всего положительным случаем и состоит в распространении на аддитивные функционалы от рассматриваемых цепей Маркова известных результатов о суммах независимых случайных величин или о конечных цепях. Сюда относятся закон больших чисел и примыкающие к нему эргодические теоремы, центральная предельная теорема и ее уточнения и соответствующие асимптотические разложения, многомерная предельная теорема для чисел попаданий в заданный набор состояний, закон повторного логарифма, сходимость нормированных нарастающих сумм к винеровскому процессу (иначе называемая принципом инвариантности), сходимость к негауссовским предельным законам и т. д. Эргодическая теорема для отношения двух функционалов доказывается и для возвратных цепей, другие результаты требуют более сильных предположений эргодического характера, например конечности вторых моментов М^) или упомянутого условия Дёблина. Первые существенные достижения в указанном направлении принадлежат Дёб- лину [19]. Далеко идущие их уточнения получены Нагаевым [26, 27]. В перенесении результатов на неоднородные цепи ведущую роль сыграли Добрушин [28] и Статулявичус [29]. Более подробные сведения и ссылки можно найти в книге Чжуна [12] (многие указания на работы советских авторов добавлены при переводе) и недавней монографии Сираждинова и Форманова [30], содержащей как некоторые прежние, так и многие новые результаты. Специально для счетных цепей Маркова закон повторного логарифма, принцип инвариантности, эргодические теоремы для отношений изложены в книге Фридмана [31].
Второе направление, возникшее при исследовании невозвратных цепей (и процессов) Маркова,— это теория потенциала и границ Мартина. Давно известна связь задачи Дирихле для уравнения Лапласа в ограниченной области G с винеровским процессом в G, рассматриваемым до момента выхода на границу 3G области G. Эта связь позволяет ввести основные понятия классической теории потенциала g терминах винеровского процесса или его переходной функции. По аналогии понятия гармонической функции, потенциала, функции Грина, эксцессивной (= положительной супергармонической)* функции переносятся на другие невозвратные марковские процессы. Основная заслуга в разработке теории потенциала для марковских процессов принадлежит Ханту [32] и Дын- кину [33]. Изложение теории потенциала для счетных цепей Маркова имеется в книге Хейнекена и Тортра [34].
Граница-выход невозвратной марковской цепи строится для описания возможных способов поведения траектории при м —> оо (с вероятностью 1 траектория притягивается к одной из точек границы). Дуальную роль играет граница-вход. Для счетных цепей Маркова первым построил границу Феллер [35]. Однако признание получила другая, более тощая граница, предложенная Дубом [36] и независимо Ватанабе [37], опирающаяся на теорию потенциала и названная ими границей Мартина (в случае винеровского процесса в плоской области G конструкция Дуба совпадает с построением Мартина [38], позволяющим представлять все гармонические в G функции формулой, аналогичной интегралу Пуассона для круга). Вероятностное построение границы Мартина для невозвратной счетной марковской цепи осуществил Хант [39] и усовершенствовал Дынкин [40]. Теория потенциала и граница Мартина для цепей Маркова с общим фазовым пространством представлена в книге Ревуза [25].
Новый метод изучения возвратных и невозвратных счетных цепей Маркова, основанный на понятии фундаментальной матрицы, предложили Кемени и Снелл. Они же (и независимо Ори) перенесли теорию потенциала и границ на возвратные цепи Маркова. Эти результаты, а также эргодические теоремы и границы Мартина для невозвратных цепей обстоятельно изложены в монографии [41], содержащей подробную историческую справку и библиографию.
ЛИТЕРАТУРА
Kolmogoroff A. N. Anfangsgriinde der Theorie der Markoffschen Ketten mit unendlich vielen moglichen Zustanden.— Mat. сб., 1936, t. 1, № 4, c. 607—610.
Колмогоров A. H. Цепи Маркова co счетным числом возможных состояний.— Бюл. МГУ. Математика и механика, 1937, т. 1, № 3, с. 1—16.
Doeblin W. Sur les chaines discretes de Markoff.— C. r. Acad. sci. Paris, 1936, vol. 203, N 1, p. 24—26.
Erdos P., Feller IP., Pollard H. X theorem on power series.— Bull. Amer. Math. Soc., 1949, vol. 55, p. 201—204.
Feller W. An introduction to probability theory and its applications. New York, 1950. Vol. 1. Рус. пер.: Феллер В. Введение в теорию вероятностей и ее приложения. М.: Мир, 1964, Т. 1.
Feller W. Fluctuation theory of recurrent events.— Trans. Amer. Math. Soc., 1949, vol. 67, p. 98—119.
Feller W. A simple proof for renewal theorems.— Communs Pure and Appl. Math., 1961, vol. 14, p. 285—293.
Сарымсаков T. А. Основы теории процессов Маркова. М.: Гостехиздат, 1954.
Doeblin W. Sur deux problemes de Kolmogoroff concernant les chaines de- nombrables.— Bull. Soc. math. France, 1938, vol. 66, p. 210—220.
Chung K. L. An ergodic theorem for stationary Markov chains with a countable number of states.— In: Proc. Intern. Gongr. Math. Cambridge (Mass.), 1950, vol. 1, p. 568.
Derman C. A solution to a set of fundamental equations in Markov chains.—. Proc. Amer. Math. Soc., 1954, vol. 5, p. 332—334.
Chung K. L. Markov chains with stationary transition probabilities. Berlin, 1960. Рус. пер.: Чжун Кай-лай. Однородные цепи Маркова. М.: Мир, 1964.
Orey S. An ergodic theorem for Markov chains.— Ztschr. Wahrscheinlich- keitstheorie, 1962, Bd. 1, S. 174—176.
Blackwell D., Freedman D. The tail о-field of a Markov chain and a theorem of Orey.— Ann. Math. Statist., 1964, vol. 35, p. 1291—1295.
Kingman J. F. C., Orey S. Ratio limit theorems for Markov chains.— Proc. Amer. Math. Soc., 1964, vol. 15, p. 907—910.
Молчанов С. А. Предельная теорема для отношения переходных вероятностей марковских цепей.— УМН, 1967, т. 22, вып. 2, с. 124—125.
Молчанов С. А. Некоторые задачи теории границ Мартина для марковских процессов: Канд. дис. М.: МГУ, 1967.
Levy Р. Systemes markoviens et stationnaires. Cas denombrable.— Ann. sci. Ecole norm, super. Ser. 3, 1951, vol. 68, p. 327—381.
Doeblin W. Sur les proprietes asymptotiques de mouvement regis par certains types de chaines simples.— Bull. math. Soc. roum., 1937, vol. 39, N 1, p. 57— 115;, N 2, p. 3—61.
Doob J. L. Stochastic processes. New York: J. Wiley, 1953. Pyc. nep.: Дуб Дж. Л.*. Вероятностные процессы. М.: Изд-во иностр, лит., 1956.
Chung К. L. The general theory of Markov processes according to Doeblin.— Ztschr. Wahrscheinlichkeitstheorie, 1964, Bd. 2, S. 230—254.
Orey S. Limit theorems for Markov chain transition probabilities. London, 1971.
Harris T. E. The existence of stationary measures for certain Markov processes.— In: Proc. Third Berkeley Sympos. Math. Statist. Probab., 1956, vol. 2, p. 113-124.
Chacon R. F., Ornstein D. S. К general ergodic theorem.— Ill. J. Math., 1960, vol. 4, p. 153—160.
Revuz D. Markov chains. Amsterdam, 1975.
Нагаев С. В. Некоторые предельные теоремы для однородных цепей Маркова.— Теория вероятностей и ее применения, 1957, т. 2, № 4, с. 389—416.
Нагаев С. В. Уточнение предельных теорем для однородных цепей Маркова.— Теория вероятностей и ее применения, 1961, т. 6, № 1, с. 67—86.
Добрушин Р. Л. Центральная предельная теорема для неоднородных цепей Маркова.— Теория вероятностей и ее применения, 1956, т. 1, № 1, с. 72— 89.
Статулявичус В. А. Локальные предельные теоремы и асимптотические разложения для неоднородных цепей Маркова.— Литов, мат. сб., 1961, т. 1, № 1, с. 231—314.
Сираждинов С. X., Форманов Ш. К. Предельные теоремы для сумм случайных векторов, связанных в цепь Маркова. Ташкент: Фан, 1979.
Freedman D. Markov chains. S. Francisco: Holden-Day, 1971.
Hunt G. A. Markoff processes and potentials.— Ill. J. Math., 1957, vol. 1, p. 44—93; 316—369; 1958, vol. 2, p. 151—213. Рус. пер.: Хант Дж. А. Марковские процессы и потенциалы. М.: Изд-во иностр, лит., 1962.
Дъгнкин Е. Б. Марковские процессы. М.: Физматгиз, 1963.
ХеннекенП. Л., Тортра А. Теория вероятностей и некоторые ее приложения. М.: Мир, 1974.
Feller W. Boundaries induced by non-negative - matrices.— Trans. Amer. Math. Soc., 1956, vol. 83, p. 19—54.
Doob J. L. Discrete potential theory and boundaries.— J. Math. Meeh., 1959, vol. 8, p. 433—458.
Watanabe Т. On the theory of Martin boundaries induced by countable Markov processes.— Mem. Golloq. Sci. Univ. Kyoto (A), 1960, vol. 33, p. 39—108.
Martin R. S. Minimal positive harmonic functions.— Trans. Amer. Math. Soc., 1941, vol. 49, p. 137—172.
Hunt G. A, Markoff chains and Martin boundaries.— Ill. J. Math., 1960, vol. 4, p. 313-340.
Динкин E. Б. Граничная теория марковских процессов (дискретный случай).— УМН, 1969, т. 24, вып. 2, с. 3—42.
Кетепу J. G., Snell J. L., Knapp A. W. Denumerable Markov chains. Princeton: Univ. Press, 1966; New York, 1976.
Ширяев A. H. Вероятность. M.: Наука, 1980.
ТОЖДЕСТВА ВАЛЬДА(к № 35)
(А. А. Новиков)
Комментируемая работа во многом предвосхитила многочисленные иссле- вания по обобщениям тождеств Вальда, которые проводились впоследствии на основе аппарата теории мартингалов.
Вальдом в работах [1, 2] были получены, в частности, следующие соотношения для момента первого выхода v сумм независимых одинаково распределенных случайных величин ^ из конечного интервала (а, Ь). Пусть £п — 2 ^ и к=1
v = inf {n > 1 ; сп ^ (а, Ь)}.
Тогда Му < оо, и если М ] ^ ] < оо, то
^^~v {^ = 0;(1)
кроме того, если М^ < оо, то
м Kv - v (М5Й)]3 = (Мф Mv.(2)
Эти соотношения позволили Вальду получить приближенные формулы для среднего времени наблюдения в задаче последовательного различения двух простых гипотез.
В комментируемой работе была предпринята попытка освобождения от условия одинаковой распределенности случайных величин ^, которое играло существенную роль в методе работ Вальда [1, 2]. Но гораздо более важным было продвижение, состоящее в обобщении соотношений (1) и (2) на произвольные моменты остановки v. Впоследствии такого типа результаты (с произвольными моментами остановки) стали играть фундаментальную роль в различных задачах статистического последовательного анализа [3], теории управляемых случайных процессов [4], граничных задачах для случайных процессов [5, 6] и др.'
Интересно отметить, что в комментируемой работе не использовалось понятие момента остановки (или марковского момента, см. [3]) для последовательности случайных величин и теоремы 1 и 2 справедливы на самом деле и для некоторых немарковских моментов. Однако при доказательстве теорем 3,4
и 5 неявно предполагалось условие, близкое к марковскому свойству момента v. На указанный пробел указа in Сейц и Винкельбауер в [7] (там же приведены уточненные формулировки теорем 3, 4 и 5).
Для случая, когда v — марковский момент^остановки относительно семейства о-алгебр Fn = о (^, ... Дп), Fo = {0, Q} (т. е. событие {v = и} е Fn при любом п = 1, 2, . . . ), можно указать следующие обобщения результатов комментируемой работы. Пусть 5k — последовательность случайных величин с п
конечным математическим ожиданием cv = ^ £к и пусть при некотором а е [1, 2]
Тогда
[
V
2 М (^ | F^) < оо, то
Тождество (4) при условии справедливости (3) с а = 2 доказано Бурк- хольдером и Ганди [8]; его обобщения на случай 1 ^ а ^ 2 приведены в книге Чоу и Тейчера [9]. Аналогичные результаты для случая непрерывного времени получены Новиковым [10, 11]. В работе Холла [12], а также в [10, И] рассматривались тождества с моментами 5П всех порядков.
Тождества Вальда (1) и (2) для случая одинаково распределенных слагаемых являются очевидными следствиями (4) и (5). Однако, как следует из (3), первое из этих соотношений справедливо лишь при выполнении условия
(Mv1/a)-M | gfc |а<оо при некотором а е [1, 2].
ЛИТЕРАТУРА
Wald A. On comulative sums of random variables.—Ann. Math. Statist., 1944, vol. 15, p. 285-287.
Wald A. Differentiation under the expectation sing in the fundamental identity of sequential analysis.— Ann. Math. Statist., 1946, vol. 17, p. 493—497.
Ширяев A. H. Статистический последовательный анализ. M.: Наука, 1976.
Гихман И. И., Скороход А. В. Управляемые случайные процессы. Киев: Наук, думка, 1977.
Боровков А. А. Вероятностные процессы в теории массового обслуживания. М.: Наука, 1972.
Новиков А. А. Мартингальный подход в задачах о времени первого пересечения нелинейных границ.— Тр. МИАН СССР, 1981, т. 158, с. 130—152.
Сейц И., Винкельбауер К. Заметка к статье Колмогорова и Прохорова «О суммах случайного числа случайных слагаемых».— Чехословац. мат. журн., 1953, т. 3, с. 89—91..
Burkholder D. L.n Gundy R. F. Extrapolation and interpolation of quasilinear operators on martingales.— Acta math., 1970, vol. 124, p. 249—304.
Chow Y. S., Teicher H. Probability theory. New York: Spring.-VerL, 1978.
Новиков A. А. О моментах остановки винеровского процесса.— Теория вероятности и ее применения,1 1971, т. 16, № 3, с. 458—465.
Новиков А. А. О разрывных мартингалах.— Теория вероятности и ее применения, 1976, т. 20, № 1, с. 13—28.
Hall W. J. On Wald’s equation in continuous time.— J. Appl. Probab., 1971, vol. 8, N 1, p. 59—68.•
5-СХОДИМОСТЬ(к № 42)
(A. В. Скороход)
В работе № 42 [1] была предложена следующая, более удобная метрика, эквивалентная метрике 5, введенной в § 2:
rD (A g) = inf sup [р (/ (t), g (t)) + X (t) — i],
Хел o«<i
где /, g ^ DXl р — метрика в X, Л — множество всех непрерывных обратимых отображений X [0,1] на себя, X (0) = 0, X (1) = 1. В этой метрике D х сепарабельно, если сепарабельно X, но не полно.•
Биллингсли [2] предложил явный вид метрики, которая, порождая ту же сходимость, превращает Dx в полное пространство (если, естественно, полно X). Она определяется так:
d0(f,g) = inf sup Гр(f (г), g(0) + | In М)™М^
0<s<l
(мы приводим более' простое эквивалентное определение).
Обобщение рассматриваемой сходимости на пространство функций без разрывов второго рода, заданных на [0, оо[, аналогичное равномерной сходимости непрерывных функций на всех конечных интервалах, имеется в [3].
ЛИТЕРАТУРА
Гихман И. И., Скороход А. В. Введение в теорию случайных процессов. М.: Наука, 1965.
Биллингсли П. Сходимость вероятностных мер. М.: Наука, 1977.
Stone С. Weak convergence of stochastic processes defined on semi-infinite time intervals.— Proc. Amer. Math. Soc., 1963, vol. 14, p. 694—696.
РАВНОМЕРНЫЕ ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ(к № 43, 51)
(Т. В. Арак)
Основные теоремы работы № 51 ныне известны как равномерные предельные теоремы Колмогорова. Согласно указанному во введении теорема 1 (или равносильное ей соотношение (0.9)) является уже третьим уточнением соответствующей теоремы из предыдущей работы (№ 43). В дальнейшем, в 1965 г., Ле
Кам [1] показал, что при подходящем центрировании в теореме 1 можно взять D = exp (n(F — ЕУ), Сг = 132. В 1973 г. Ибрагимов и Пресман [2] представили новое доказательство с ^ = 8. Параллельно оценкам, равномерным по множеству всех распределений, исследовались и оценки для разных более узких классов распределений слагаемых. В частности, Мешалкин доказал, что
sup р (В" ®) = О
где Вр — биномиальное распределение с параметрами п и р.
Окончательное решение было получено Араком [3, 4]: найдутся такие положительные (абсолютные) постоянные Си С, что
Хаг-^4 ^ Ф (п) ^ СтГ^а
(ср. с (0.9) и (0.10)).
Используя разработанные в [3] новые методы оценки равномерного расстояния, Зайцев и Арак [5] нашли также окончательное количественное уточнение теоремы 2.
Многомерные варианты равномерных предельных теорем Колмогорова исследовались Сазоновым, Пресманом и Зайцевым.
ЛИТЕРАТУРА
On the distribution of sums of independent random variables.— In: Bernoulli, Bayes, Laplace (anniversary volume) / Ed. L. Le Cam, J. Neyman. Berlin; Heidelberg; New York: Spring.-Verl., 1965, p. 17 9—202.
Ибрагимов И. А.ч Пресман Э. Л. О скорости сближения распределений сумм независимых случайных величин с сопровождающими законами.— Теория вероятностей и ее применения, 1973, т. 18, № 4, с. 753—765.
Арак Т. В. О скорости сходимости в равномерной предельной теореме Колмогорова. I, II.— Теория вероятностей и ее применения, 1981, т. 26, № 2, с. 225—245; № 3, с. 449—463.
Арак Т. В. Уточнение нижней оценки для скорости сходимости в равномерной предельной теореме Колмогорова.— Теория вероятностей и ее применения, 1982, т. 27, № 4, с. 767—772.
Арак Т. В., Зайцев А. Ю. Оценка скорости сходимости во второй равномерной предельной теореме Колмогорова.— ДАН СССР, 4 982, т. 267, № 1, с. 14—18.
ФУНКЦИИ КОНЦЕНТРАЦИИ(к № 45)
(В. М. Круглов)
Эта замечательная работа Колмогорова явилась источником многочисленных глубоких исследований по функциям концентрации. В настоящее время имеется монография [1], специально посвященная функциям концентрации^ Главы, в которых говорится oj неравенствах типа неравенства Колмогорова, составляют ядро этой книги. В ней можно найти многочисленные обобщения и применения функции концентрации Леви, а также довольно подробную библ иографию.[О некоторых результатах, связанных с неравенством Колмогорова, мы скажем несколько подробнее ниже.
Понятие функции концентрации было введено Леви в его известной монографии 1937 г. «Theorie de 1’addition des variables aleatoires», упоминаемой в работе Колмогорова. Там же Леви привел ряд важнейших свойств этих функций. Понятие функции концентрации не сразу заслужило признание и получило достаточную известность. Этим, по-видимому, можно объяснить тот факт, что спустя пять лет оно вновь было введено в качестве одной из характеристик вероятностных распределений Литтлвудом и Оффордом Ч Исследования по уточнению п обобщению неравенства Колмогорова проводились по нескольким направлениям. Два из них были указаны самим Колмогоровым, первое— получение неравенства, объединяющего неравенство Леви и его уточнение, приводимое Колмогоровым, и неравенство Деблина, п второе направление — анализ функций концентрации. Как пишет сам Колмогоров, его интерес к функциям концентрации и их свойствам возник в связи с задачей об аппроксимации сверток распределении безгранично делимыми распределениями.
Ко второму направлению относится один из результатов Колмогорова, не выделенный им специально и пока что не привлекший большого внимания. Тем не менее мы его сформулируем.
Пусть Q — функция концентрации. Определим величину
Q I v
Если Kq = 1, to Q = pE + (1 — p) R, где 0 ^ p ^ 1, E — единичное распределение, сосредоточенное в нуле, R — абсолютно непрерывное распределение. '
Первые обобщения неравенства Колмогорова были получены Рогозиным в 1961 г. В частности, в одной из своих статей он показал, что условие L2 > ^ Z2 log s в теореме Колмогорова можно опустить. Дальнейшим уточнением и обобщением неравенства Колмогорова занимались Зигель, Кестен, Ле Кам, Мирошников, Петров, Постникова, Рогозин, Розен, Сазонов, Севастьянов, Теодореску, Хенгартнер, Энгер, Эссеен и др. Первоначальные обобщения неравенства Колмогорова были получены на пути, указанном Колмогоровым с привлечением комбинаторных методов. Затем наметилась тенденция к преимущественному использованию аналитических методов. В статье Постниковой и Юдина, опубликованной в 1978 г., было доказано одно неравенство типа неравенства Колмогорова аналитическими методами с привлечением некоторых результатов аддитивной теории чисел; их неравенство может быть выведено из неравенств Кестена, доказанных им в 1969 г. с существенным использованием комбинаторных методов.
Последним достижением в этом направлении является неравенство, принадлежащее Мирошникову и Рогозину [2, 3]. Обозначим Q функцию концентрации суммы £ = ^i + * . . + ^п независимых случайных величин, Qj функцию концентрации £; и ^ симметризацию случайной величины ^-.
1 Мы не приводим здесь точных ссылок на их статью и на ряд статей других авторов, о которых мы упомянем. Эти ссылки заинтересованный читатель может найти в монографии [1].
Существует абсолютная постоянная С такая, что
Q (Z)< Ci М (min {] ^р I, 1г.
.4=17
для любых положительных 1Х1 . . ., Zn, L, 2L ^ max 1..
Доказательство этого неравенства осуществлено аналитическими методами. Более того, в той общности, в которой оно доказано, и без учета сравнения абсолютных постоянных неравенство Мирошникова и Рогозина в настоящее время наиболее сильное.
Из многочисленных обобщений понятия функции концентрации Леви мы приведем только одно, указанное Энгером. Пусть Е — выпуклое множество евклидова пространства Rd. Обозначим РЕ (я) функционал Минковского, определяемый по Е. Назовем
U^E)= (‘ ехр{-РЕ(.г)}Р(^)
интегральной функцией концентрации случайного вектора ^, где Р — распределение симметризации ^s\
Недавно Мирошников [4] доказал неравенство для интегральной функции концентрации, аналогичное приведенному выше.
Существует абсолютная постоянная С такая, что
и &, LE) < CL ( 2 М (min (Р£ ^У l^U^ а? ЬеЛ
для любых положительных Z1? . . ., ln, L, 2L ^ max Zj. Здесь под £ и ^ понимаются случайные векторы со значениями в Rd: выпуклое множество Е принадлежит специальному классу множеств, в которой, в частности, входят множества, удовле1воряющие условию
РЕ (*) = 3 1 'V I’ Ж G R<1'
2=1
где Аъ . . ., Ат — некоторые линейные операторы в Rd.
Заметим, что определение интегральной функции концентрации имеет ту же самую природу, что и осредненная функция концентрации Каваты [5}. Надлежаще распространенная с одномерного случая [1, с. 155] на многомерный случай, она и интегральная функция концентрации, с очевидностью, обнаруживают общую природу как интегральных преобразований с определенными ядрами.
ЛИТЕРАТУРА
Хенгартнер В., Теодореску РЛ Функции концентрации/Пер. с англ. М.: Наука, 1980.
Мирошников А. Л.^ Рогозин Б. А. Неравенства для функции концентрации.— Теория вероятностей и ее применения, 1980, т. 25, № 1, с. 178—183.
Мирошников А. Л., Рогозин Б. А. Замечания к одному неравенству для функций концентрации сумм независимых случайных величин.— Теория вероятностей и ее применения, 1982, т. 27, № 4, с. 787—789.
Мирошников А. Л. Неравенства для интегральной функции концентрации.— В кн.: Предельные теоремы для сумм случайных величин: Тр. Ин-та математики СО АН СССР, 1984, т. 3, с. 159—170.
Kawata Т. The mean concentration function of a chance variable.— Duke Math. J., 1941, vol. 8, p. 666—677.
ЭМПИРИЧЕСКИЕ РАСПРЕДЕЛЕНИЯ(к № 15)
(Э. В. Хмаладзе)
Комментируемая статья — это та работа, в которой вводится классическая статистика Колмогорова
оп = лГп sup I ^n (t) — F to I t
и устанавливается ее предельное распределение — распределение Колмогорова.
К 1933 г. функция эмпирического распределения Еи представляла собой привлекательный, но мало освоенный в математической теории* объект. Точных утверждений о сходимости Fn к функции распределения F еще не существовало (см. п. 3), и, конечно, не существовало правильных результатов относительно поведения отклонений Fn от F (см. п. 2), если не относить сюда теорему Пирсона 1900 г. о предельном распределении статистики «хи-квадрат» (см. [1]).
Опишем коротко две очень известные работы Крамера и Мизеса, хорошо иллюстрирующие степень, которой достигала формализация утверждений об отклонениях Fn от F к 1933 г.
В книге [2], вышедшей в 1931 г., Мизес (§ 10, с. 316—327) ввел статистику, названную им «статистика омега-квадрат»:
= SUnto -Ftovat.
Обсуждая «возможный разброс» значений ш^ при больших и, Мизес пишет (см., например, с. 320 в [2]), что теоретическим интервалом значений (theore- tische Wert) для со^ является интервал
= (Е®^- 0,674 f5^, Е®2 + 0,674 ]/Б^),
где, напомним, 0,674 есть квантиль уровня 0,75 стандартного нормального распределения Ф, т. е. Ф(0,674) — Ф (—0,674) = 0,5. За таким утверждением, по- видимому, должно стоять представление об асимптотически нормальной распределенности случайной величины (со^ — Eco^/IAdcd^, которое, конечно, неверно.
Любопытно все же заметить, что для равномерной на [0, 1] функции распределения
lim Р {о^ е Сп^ = 0,60,
П—оо
что не так уж далеко от 0,5.
В статье Крамера [3] 1928 г., где также предлагалось рассматривать статистику со2 для проверки гипотезы относительно F, вовсе не ставится вопрос о предельном распределении статистики ю^, а осуществляется следующий план: предположим, что F близка к функции нормального распределения Ф^ а со средним р, и дисперсией о2, т. е. F представима небольшим, но неизвестным числом членов ряда Шарлье;
Фц,а + ^1(Рц, а + • • • + ^Тц,(г
Как выяснить, сколько членов в этой сумме существенны? Для ответа на этот вопрос предлагалось рассматривать интегралы
Agn = S [Fn «) - Фца (OF dt,
A^n = S [Fn to ~ IV CT № ~ Pi № Фц,о toP dt
и т. д. (в статье Крамера — до четвертого порядка). Если интеграл ^п «сильно» уменьшается в сравнении с Д^ п, то, значит, f-й член в разложении F «существенный». Такой прием применяется в статье ко многим конкретным данным, причем параметры р и о2 оцениваются по этим же данным.
Из теоремы 1 комментируемой работы следует, что sup | Fn (£) — F (t) | —> О по вероятности при п -^ оо. Более сильное утверждение о сходимости sup | Fn (t) — F (t) | к нулю с вероятностью 1 при п —^ сю — теорема Гливен- ко — опубликовано Гливенко одновременно со статьей Колмогорова в том же номере журнала (см. [4]).
Касаясь связи между теоремой Колмогорова и теоремой Гливенко, интересно напомнить, что через 11 лет, в 1944 г., в фундаментальной работе [6] Смирнов доказал для статистики Колмогорова неравенство для больших уклонений
Р {2)п> л} <^ 2с-2^2 [1 + о (1)], А = о \п^^ п —> оо,
. из которого уже следует утверждение теоремы Гливенко.
Как видим, первая таблица значений функции распределения Колмогорова опубликована самим Колмогоровым.
В 1939 г. Смирнов опубликовал шестизначные таблицы функции распределения Колмогорова как приложение к своей статье [7] (см. также [5, с. 117]). В последующем эти таблицы были опубликованы отдельно в 1948 г. в [8], а затем воспроизведены в [9]. Очень подробные семизначные таблицы функции распределения Колмогорова были вычислены в 1965 г. и опубликованы на с. 267—277 в [5]. Шаг в этих таблицах равномерный и равен 0,001, а наибольшее значение аргумента равно 3,000. При этом значении аргумента функция распределения Колмогорова равна 0,999 999 969 5.
Приведенная в статье замечательная лемма о том, что распределение статистики Dn не зависит от F, направила последующее развитие теории непараметрических критериев согласия в соответствии со следующим принципом: выбирать в качестве статистик критериев согласия такие функционалы от Fn и от F, распределение которых уже от F не зависит.
В связи с этим принципом стоит напомнить следующее: в 1900 г. в работе [1] при построении статистики хи-квадрат
Х^-п^ду^to<ti<...<W i=l
Пирсон выбрал коэффициенты 1/AF (^), конечно, целенаправленно так, чтобы предельное распределение этой квадратичной формы не зависело от вероятностей kF (^) = F (^+1) — F (^), тем самым от точек ^ разбиения и от функции распределения F. Позже появилось много работ, в которых устанавливалась асимптотически нормальная распределенность рассматриваемых статистик. Ясно, что такие статистики достаточно нормировать, чтобы получить случайные величины со стандартным предельным распределением. Возможно, под влиянием такой традиции в 1931 г. в книге [2] Мизес, рассматривая статистики
«п w = S и-п to - F (OFX to at,
обсудил лишь два выбора весовой функции 1: ^ (f) = пИ (^), где / — плотность функции распределения F, и Х2 (/)•= 1/Е S VFU ^ — F (t)]2dt. Выбор лх рассматривался как аналогичный случаю статистики хи-квадрат, но неподходящий, так как интеграл ю2 (кг) «обычно» оказывается расходящимся, а выбор Z2 признавался подходящим, так как стандартизовал среднее статистики омега-квадрат. Однако предельное распределение статистики св2 (Х2), конечно, зависит от F.
Затем в 1933 г. была сформулирована комментируемая лемма, а в 1937 г. Смирнов в работе [10], со ссылкой на Гливенко, ввел, наконец, статистику со2 (X), где X (£) = <р [F (/)] / (/), распределение которой от F не зависит. С этого времени, а можно сказать и что с 1952 г., после появления статьи Андерсона и Дарлинга [11], указанный принцип при построении непараметрических критериев согласия стал общепринятым.
В случае, когда статистическая гипотеза фиксирует не конкретную функцию распределения F, а некоторое семейство F функций распределения, осуществление этого принципа столкнулось с затруднениями. Краткое описание работ, посвященных этой проблеме, и библиографию, весьма неполную, к которой следует здесь присоединить статью Гихмана [12], можно найти, например, в п. 1 § 2 рабо" ты [13]. Там же [13, § 2] приведен ответ на вопрос: как строить функционалы от Fn и от F, предельное распределение которых не зависит от F.
В случае, когда F — непрерывное распределение в многомерном пространстве Rm, т *> 1, утверждение леммы уже неверно: неверно, что случайная величина F (АД, . . ., Хт) имеет при всех F одно и то же распределение, если случайный вектор (Х17, . ., Хт) имеет непрерывную функцию распределения F. Поэтому столь же общепринятого способа построения непараметрическпх критериев согласия для распределений в многомерном пространстве, что и в одномерном пространстве, как нам кажется, сейчас нет. Укажем все же две современные работы [14, 15] и одну давнюю работу [16] на эту тему.
Свертка (16) и рекуррентная формула (9) комментируемой статьи в последующем много раз использовались для вычислений при конечных п. В частности, в 1950 г., по-видимому, одним из первых Масси [17], используя формулу (16), вычислил небольшие таблицы для функций распределения статистики Кол-
могорова для и от 5 до довольно больших (до 80). Сравнительно недавно (см. [18]) рекуррентная формула, аналогичная формуле (9), была использована для вычисления вероятностей невыхода Рп за различные криволинейные границы.
Говоря о табулировании Фп, заметим, что современные сборники статистических таблиц содержат обычно таблицу значений функций распределений Фп и их процентных точек для п ^ 100. Впрочем, уже при п ^ 30 с успехом могут быть применены известные асимптотические формулы. Эта сторона дела изложена в пояснительной части в [9], где приведены и необходимые ссылки.
Введем так называемый равномерный эмпирический процесс vUl vn (fl — = Vп VFU ^ — fl, и броуновский мост и, и (fl = w (fl — tw (1), где и? — винеровский процесс, ( е [0, 1], и рассмотрим следующий функционал от эмпирического процесса:
'I у (fl I
К (и ) = sup -Л?
Пусть
ри (^ ^ = р !v< s [0.1]: I Fn w - и < 4= h W iVn
фпк (X, к^ = P {^ Ы < X}.
Очевидно, что Pn (X, /fl = ФпК (^ ^)’ т- e- вычисление вероятностей невыхода эмпирического процесса за некоторую границу и вычисление функций распределений функционалов К (z;n) — эквивалентные задачи. Однако пути, которыми развивалась каждая из этих задач, были различны.
По поводу первой задачи — изучение вероятностей невыхода — см. обзоры Гихмана и Гнеденко [19] и Боровкова и Коро люка [20].
Напомним, как шло развитие второй задачи. В комментируемой рабюте установлен предел для функции распределения статистики Колмогорова: при h = 1 последовательность ФпК => Ф. Однако вероятностная «конструкция» функции распределения Колмогорова Ф, а именно равенство
Ф (X) = Р V£ (fl < X},'(1)
долгое время оставалась многим неясной. Во всяком случае, оставалось неясным, какую пользу такая «конструкция» может принести.
Однако со временем стали появляться другие статистики, которые, как позже было замечено, удобно записать в виде функционалов от эмпирического процесса. В частности, в 1939 г. в статье [22] Вальд и Вольфовитц рассматривали так называемую взвешенную статистику Колмогорова, т. е. функционал К (гп) с весовой функцией h ф 1, а в 1937 г. в [10] Смирнов рассматривал статистику (о2, т. е. функционал 1
0)2 (^n) = $ \%Wt.(2)
о
Стало естественным выделить факт, лежащий в основе сходимости распределений различных функционалов от иП1 а именно сходимость vn к v по распределению.
Однако прояснение того, что различные статистики естественно записывать как функционалы от эмпирического процесса, было лишь одной важной стороной дела. Требовалось и другое — требовалось предвидение, что для доказательства сходимости по распределению процессов и^ к процессу и и вообще для доказательства слабой сходимости в функциональных пространствах могут быть выработаны общие эффективные методы.
И то и другое созрело к концу 40-х годов: 30 ноября 1948 г. (как сообщают «Успехи математических наук» (1949, т. 4, вып. 2, с. 173)) А. Н. Колмогоров сделал в Московском математическом обществе доклад «Меры и распределения в функциональных пространствах», в котором обсуждались проблемы задания и слабой сходимости мер в функциональных пространствах, 29 января 1949 г. Смирнов сделал доклад «О критерии Крамера — Мизеса» [23] (см. также [5, с. 200]), в котором вновь, после 12-летнего перерыва, получил предельное распределение статистики со2, на этот раз пользуясь именно представлением (2) и связанным с ним равенством Парсеваля. Наконец, в сентябре 1949 г. появилась знаменитая заметка Дуба [24]. Вместе с описанием общей точки зрения, что сходимость Фп ^ Ф есть следствие сходимости гп к v по распределению, в этой заметке было доказано равенство (1).
С этого времени началось целенаправленное развитие теории слабой сходимости в функциональных пространствах, которая составляет в настоящее время основу для получения предельных теорем в непараметрической статистике. Для ознакомления с состоянием этой области непараметрической статистики можно предложить небольшую монографию Дурбина [25] и обзорную статью Генслера и Стуте [26]'.
Сделаем несколько заключительных замечаний, не относящихся к какому-нибудь конкретному месту в тексте комментируемой работы.
Статистика Колмогорова, так же как статистики К (vn) (см. п. 7), выделяются среди других статистик непараметрических критериев согласия тем, что приводят к наглядным доверительным множествам. Действительно, например, доверительное множество {7^': п J [Ап (0 — F' (t)PdF' (0 < X}, построенное с помощью статистики со2, ненаглядно и потому неудобно для использования. В отличие от этого доверительное множество ^' *Vnsup 1^(1)-^' («)|<М = =/f' : Fu^ ——^. < F' (f) < F^ (z) -]- JLL построенное с помощью статистики Колмогорова, наглядно и очень широко используется. Такое свойство статистики Колмогорова было замечено быстро — уже в 1939 г. Вальд и Вольфо-
F*: F (f) —• —— 6n (^Fn (£)) < F'<_
< ^п (0 + ~~= ^и ^п (0)1 j связанные со взвешенными статистиками Колмо- п J
горова.
(3)(3)В том же 1939 г. появились две статьи Смирнова [27] и [7]. В этих статьях указаны предельные распределения для статистик D^ = ^ri sup \FU (t) — F (01 и 5ntn2 = V^ sup | F1T4 W — ^2n2 (Oh " = U1U2/(«1 + "2) соответственно:
(3)
(3)
P {»: < M - 1 - P {Pni„2 < M - Ф W-
Здесь Fln и F^ — функции эмпирических распределений, построенные по двум независимым последовательностям независимых одинаково распределенных случайных величин.
Любопытно, что оба утверждения (3) — одни из наиболее известных утверждений непараметрической статистики — были указаны как простые следствия общих теорем о числе пересечений кривых Fn и F 4- Мд/" п и кривых Ft и F^ 4: 4:^/1^^ соответственно. '
В 1944 г. Смирнов в [6] привел распределение статистики D^ при конечных п. В 1955 г. Коро люк в работе [28] получил распределение статистики Dnia^ при конечных пх и ?г2, а в 1962 г. Боровков в работе [29] установил асимптотические разложения для распределений и, в частности, для вероятностей больших уклонений статистик D^^. Конкретное использование некоторых результатов из [29] и [21] продемонстрировано в [9, с. 84]. .
По-видимому, первым табулирование распределений двухвыборочной статистики Смирнова при конечных пх и п2 предпринял Мэсси [30]. Таблицы процентных точек статистики D^^ для ^ < тг2 < 50 опубликовали Боровков, Маркова и Сычева [31].
Замечательный в нескольких отношениях пример применения статистики Колмогорова для проверки гипотезы о функции распределения F привел в 1940 г. сам А. Н. Колмогоров в заметке [32].
ЛИТЕРАТУРА
Pearson К. On the criterion that a given system of deviations from the probable in the case of correlated system of variables is such that it can be reasonably supposed to have arisen from random sampling.— Phil. Mag., 1900, vol. 5, N 50, p. 157.
Mises R. von. Warscheinlichkeitsrechnung und ihre Anvendungen in der Statistikund theoretischen Physik. Leipzig; Wien: Franz Deuticke, 1931. 574 Sw
Cramer H. On the composition of elementary errors. Second paper: statistical applications.— Skand. Aktuarietidskr., 1928, h. 1/2, s. 141—180.
Gltvenko V. Sulla determinazione empirica delle leggi di probabilita.— G. 1st. ital. attuar., 1933, vol. 4, N 1, p. 92—99.
Смирнов H. В. Теория вероятностей и математическая статистика: Избр. тр. М.: Наука, 1970. 290 с.•
Смирнов Н. В. Приближение законов распределения случайных величин по эмпирическим данным.— У МН, 1944, вып. 10, с. 179—206.
Смирнов Н. В. Оценка расхождения между эмпирическими кривыми распределения в двух независимых выборках.— Бюл. МГУ. Математика и механика, 1939, т. 2, с. 3—14.
Smirnov N. V. Table for estimating the goodness of fit of empirical distribution.— Ann. Math. Statist., 1948, vol. 19, N 2, p. 279—281.
Большее JI. H., Смирнов H. В. Таблицы математической статистики. M.: Наука, 1983.
Смирнов Н. В. О распределении со2-критерия Мизеса.— Мат. сб., 1937, т. 2, № 1, с. 973—993.
Anderson Т. W., Darling D. A. Asymptotic theory of certain «goodness of fit» criteria based on stochastic process.— Ann. Math. Statist., 1952, vol. 23, N 1, p. 193.'
Гихман И. И. Некоторые замечания к критерию согласия А. Н. Колмогорова.— ДАН СССР, 1953, т. 91, № 4, с. 715—718.
Хмаладзе Э. В. Некоторые применения теории мартингалов в статистике.— УМН, 1983, т. 37, вып. 6 (228), с. 194-212.
Bickel Р. J., Breiman, L. Sums of functions of neares neighbour distances, moments bounds, limit theorems and a goodness of fit test.— Ann. Probab., 1983, vol. 11, p. 185—214.
Schilling M. F. Goodness of fit testing in Rm based on the weighted empirical distribution of certain nearest neighbour statistics.— Ann. Statist., 1983, vol. 11, N 1, p. 1—12.■
Rosenblatt M. Remarks on multivariate transformation.— Ann. Math. Statist., 1952, vol. 23, N 3, p. 470—472.
Massey F. J., Jr. A note on the estimation of a distribution by confidence . limits.— Ann. Math. Statist., 1950, vol. 21, N 1, p. 116—118.
Котельникова В. Ф., Хмаладзе Э. В. О вычислении вероятности невыхода эмпирического процесса за криволинейную границу.— Теория вероятностей и ее применения, 1982, т. 27, № 3, с. 599—607.
Гихман И. И., Гнеденко Б. В. Математическая статистика.— В кн.: Математика в СССР за сорок лет. 1917—1957. М.: Физматгиз, 1959. Т. 1. 1002 с.
Боровков А. А., Королюк В. С. О результатах асимптотического анализа в задачах с границами.— Теория вероятностей и ее применения, 1965, т. 10, № 2, с. 255—266.-
Королюк В. С. Асимптотический анализ распределений максимальных уклонений в схеме Бернулли.— Теория вероятностей и ее применения, 1959, т. 4, № 4, с. 369—397.
Wald А., Wolfowitz, J. Confidence limits for continuous distribution functions.— Ann. Math. Statist., 1939, vol. 10, N 2„ p. 105—118.
Смирнов H. В. О критерии Крамера—Мизеса.— УМН, 1949, т. 4, вып. 4, с. 196-197.•
Doob J. Heuristic approach to the Kolmogorov—Smirnov theorems.— Ann. Math. Statist., 1949, vol. 20, N 3, p. 393—403.
Durbin J. Distribution theory for tests based on the sample distribution function: Region, conf. Ser. in Appl. Math., 9th issue. SIAM, 1973. 64 p.
Gaensaler P., Stute W Empirical processes: A survay of results for independent and identically distributed random variables.— Ann. Probab., 1979, vol. 7,
' N 2, p. 193—243."
Смирнов H. В. Об уклонениях эмпирической кривой распределения.— Мат. сб., 1939, т. 6 (48), № 1, с. 3—24.
Королюк В. С. О расхождении эмпирических распределений для случая двух независимых выборок.— Изв. АН СССР. Сер. мат., 1955, т. 19, № 1, с. 81— 96.
Боровков А. А. К задаче о двух выборках.— Изв. АН СССР. Сер. мат., 1962, т. 26, № 4, с. 605—624.
Massey F. J., Jr. Distribution table for the deviation between two sample cu- mulatives.— Ann. Math. Statist., 1952, vol. 23, N 3, p. 435—441.
Боровков А. А., Маркова H. П., Сычева H. M. Таблицы для критериев H. В. Смирнова однородности двух выборок. Новосибирск: Ред.-изд. отд, СО АН СССР, 1964, 139 с. *
Колмогоров А. Н. Об одном новом подтверждении законов Менделя.— ДАН СССР, 1940, т. 27, с. 38-42.
МЕТОД НАИМЕНЬШИХ КВАДРАТОВ(к № 30, 31)
(М. Б. Малютов)
Метод наименьших квадратов (МНК) — один из наиболее популярных статистических методов оценивания параметров в приложениях. Достаточно сказать, что специалистами по геодезии, навигации, артиллерии и т. п. вплоть^до настоящего времени создаются свои учебники по этому вопросу, не всегда отвечающие стандартам математической статистики.
В то же время математические изложения метода вплоть до работы № 30 не были основаны на современных геометрических представлениях многомерной геометрии и по существу мало отличались от первоначального способа Гаусса. Именно в работе № 30 впервые отчетливо использована связь метода с ортогональной проекцией на подпространство в BN, выяснено, какие свойства метода зависят от предположения нормальности распределения измерений, а какие справедливы для ортогональных наблюдений. Для приложений важно обстоятельное изложение доверительных интервалов для параметров и неизвестной дисперсии измерений, снабженное таблицами распределений Стьюдента и %2.
Статья № 30 сыграла важную роль в развитии математической теории МНК в нашей стране и упорядочении приложений этого метода. В частности, ее влияние заметно в книгах Линника [1] и Романовского [2]. В последней, в частности, воспроизведен с подробными доказательствами доклад А. Н. Колмогорова «Реальный смысл результатов дисперсионного анализа» (Труды 2-го Всесоюзного совещания по математической статистике), развивающий результаты работы № 30 в сторону теории дисперсионного анализа и содержащий критику некоторых недостаточно точных формулировок Фишера.
За рубежом работа № 30 осталась незамеченной, и современное изложение теории метода наименьших квадратов было опубликовано только в 1959 г. Шеф- фе [3].■
В работе № 31 указано уточнение одной формулы Гаусса из теории метода наименьших квадратов. Гаусс нашел формулу для дисперсии Ds2 стандартной оценки s2 дисперсии о2 независимых измерений у^ в линейной регрессионной модели. В эту формулу входит четвертый момент /о4, поэтому Гаусс получил границы сверху и снизу для Ds2, справедливые для любых /. Однако граница снизу была грубой (иногда даже отрицательной). В работе № 31 найдена неулучшае- мая граница снизу для Ds2.
Изложение существенно опирается на развитую предварительно А. Н. Колмогоровым в работе № 30 геометрическую теорию метода наименьших квадратов (в частности, существенную роль играет ортогональность некоторых матриц). Работа с небольшими изменениями Воспроизведена в упомянутой выше книге Линника. В последующей литературе основное внимание уделено построению асимптотических доверительных интервалов для о2, в которые вместо / подставлена ее оценка по той же выборке [4].
ЛИТЕРАТУРА
Линник Ю. В. Метод наименьших квадратов и основы математико-статистической теории обработки наблюдений. М.: Физматгиз, 1952.
Романовский В. И. Математическая статистика. Ташкент: Изд-во АН УзССР, 1963. Кн. 2.
Шеффе Г. Дисперсионный анализ. М.: Изд-во иностр, лит., 1959.
Drugas Н. Asymptotic confidence intervals for the variance in the linear regression model.— In: Statistics and probability: Essays in Honor of C. R. Rao Amsterdam: North Holland Publ. Go., 1982, p. 233—239.
НЕСМЕЩЕННЫЕ ОЦЕНКИ(к № 38)
(Ю. К. Беляев, Я. П. Лумелъский)
Несмещенность оценок является одним из фундаментальных понятий математической статистики. Хотя это понятие было известно ранее, в статье № 38 впервые систематически рассмотрены свойства несмещенных оценок и различные методы построения таких оценок, выраженных через достаточные статистики.
В комментируемой статье и работе А. Н. Колмогорова [1] выпукло показано прикладное значение несмещенных оценок в задачах статистического контроля. Колмогоров впервые применил несмещенные оценки для определения эффективности реально используемых планов выборочного контроля по альтер- пативному признаку. Построение несмещенных оценок для предъявленного и пропущенного брака, а также для априорного распределения числа дефектных изделий в контролируемых партиях рассматривалось в работах [2—4]. Были получены несмещенные оценки при контроле по качественному признаку с известными ошибками классификации [5]. Вопросы построения несмещенных оценок при контроле по альтернативному и качественному признакам, т. е. при классификации на к групп качества, подробно рассматривались в книгах [3, 4], где приведена обширная библиография. Несмещенные оценки основных показателей контроля включены в ГОСТ 24660-81.
Полученная А. Н. Колмогоровым несмещенная оценка плотности нормального распределения нашла широкое применение в задачах контроля по количественному признаку [6]. В дальнейшем этот результат был обобщен для многомерного нормального распределения [7—9], а также для задач статистической классификации [10].
А. Н. Колмогоров обратил внимание на статью [11], где несмещенные оценки строились для биномиальных случайных блужданий. В последующем задачи несмещенного оценивания и вопросы полноты семейств распределений, порожденных планами первого вхождения при различных схемах случайных блужданий, рассматривались в работах [12—14, 5].
Введенные А. Н. Колмогоровым верхние и нижние оценки могут быть эффективно использованы и в тех случаях, когда несмещенные оценки не существуют. Именно так обстоит дело при оценивании пропущенного брака при биномиальном распределении и плане одноступенчатого контроля. Верхние и нижние оценки для различных функций от неизвестного параметра, а также оценки с минимальным смещением были получены в статьях [15—18].
ЛИТЕРАТУРА
Колмогоров А. Н. Статистический приемочный контроль при допустимом числе дефектных изделий, равном нулю. Л., 1951, с. 1—24.
Сираждинов С. X. Одинарный статистический приемочный контроль.— Тр. Ин-та математики и механики АН УзССР, 1955, вып. 15, с. 41—56.
Беляев Ю. К. Вероятностные методы выборочного контроля. М.: Наука, 1975.
Лумелъский Я. П. Статистические оценки результатов контроля качества» М.: Изд-во стандартов, 1979.
Беляев Ю. К. Последующие оценки при выборочном контроле по качественному признаку с ошибками классификации.— ДАН СССР, 1976, т. 231, № 3, с. 521—524.
Liberman G. J., Resnikoff G. J. Sampling plans for inspection by variables.— J. Amer. Statist. Assoc., 1955, vol. 50, N 270, p. 457—516.
Лумелъский Я. Л. Несмещенные достаточные оценки вероятностей в случае многомерного нормального закона.— Вести. МГУ. Математика, 1968, № 6, с. 14—17.
Лумелъский Я. Л., Сапожников П. Я. Несмещенные оценки для плотности распределений.— Теория вероятностей и ее применения, 1969, т. 14, № 2, с. 372—380.
Ghurye S, G., Olkin J. Unbiased estimation of some multivariate probability densites and related functions.— Ann. Math. Statist., 1969, vol. 40, N 4, p. 1261—1271.
Абусев P. А., Лумелъский Я. Л. Несмещенные оценки и задачи классификации многомерных нормальных совокупностей.— Теория вероятностей и ее применения, 1980, т. 25, № 2, с. 381—389.
Girshick М.А., Mosteller F.^ Sawage L. J. Unbiased estimates for certain binomial sampling problems with applications.— Ann. Math. Statist., 1946, vol. 17, N 1, p. 13—23.
Линник Ю. B.^ Романовский Я. В. К теории последовательного оценивания.— ДАН СССР, 1979, т. 194, № 2, с. 270—272.
Лумелъский Я. Л. Случайные блуждания, отвечающие обобщенным урновым схемам.— ДАН СССР, 1973, т. 209, № 6, с. 1281—1284.
Беляев Ю. К., Мальков А. Я. Полнота семейств вероятностных мер при обследовании по планам первого вхождения.— ДАН СССР, 1975, т. 225, № 1, с. 27-30.
Сираждинов С. X. Об оценках с наименьшим смещением при биномиальном распределении.— Теория вероятностей и ее применения, 1956, т. 1, № 1, с. 168—174.
Большее Л. Я. Об оценках вероятностей.— Теория вероятностей и ее применения, 1960, т. 5, № 4, с. 453—457.
Беляев Ю. К., Лумелъский Я. Л. Оценивание полиномов на основе ограниченных планов в схемах случайных блужданий.— Изв. АН СССР. Техн, кибернетика, 1979, № 1, с. 61—67.
Беляев Ю. К., Дугина Т. Я. Об оценке суммарного числа дефектных изделий, проникших к потребителю при контроле с ошибками.— Электрон, техника. Сер. 8, 1980, № 5(83), с. 24—29,
СТАТИСТИЧЕСКОЕ ПРОГНОЗИРОВАНИЕ(к № 18)
(А. М. Яглом)
Попытки статистического прогнозирования будущих значений тех или иных метеорологических параметров с помощью линейных уравнений регрессии, задающих искомое будущее значение интересующей нас величины Ау в виде простой линейной комбинации некоторых известных из наблюдений величин А^, . . . . ., Дл^, относящихся к прошлому или настоящему времени, получили сравнительно широкое распространение в метеорологии начиная с 20-х годов этого столетия. (В дополнение к указанной А. Н. Колмогоровым статье Баура 1925 г. можно еще сослаться, например, на более поздние работы [1—6], содержащие ряд дополнительных ссылок.) Этот метод прогноза на первый взгляд кажется очень простым: он требует лишь предварительной оценки некоторого числа коэффици-
ентов корреляции, от которых зависят заранее нам неизвестные коэффициенты а^ . . ., а^ уравнений регрессии, и не связан с громоздкими вычислениями типа тех, которые приходится производить при «динамическом прогнозе погоды», опирающемся на численное решение уравнений в частных производных, приближенно описывающих динамику атмосферы. Вся сложность здесь заключается лишь в удачном выборе предикторов А^, . . ., А^, т. е. тех характеристик атмосферы в прошлом и настоящем, значения которых используются для прогноза значения Ау. Оказывается, однако, что выбор предикторов на самом деле представляет собой совсем но простую задачу.
В самом деле, может казаться, что полезно брать побольше предикторов, так как тогда прогноз будет использовать очень большую исходную информацию и поэтому с большой вероятностью окажется достаточно хорошим. К сожалению, однако, используемые при расчете эмпирические значения коэффициентов корреляции rt п г^ между величинами Ау и А^, i = 1, . . ., ^, и между парами А^ и \хр i, j — 1, . . ., к, являются неточными и зависят от объема (и качёства) тех эмпирических данных, которые имеются в нашем распоряжении. Поэтому также и те значения коэффициентов аХ1 . . ., а^ при которых линейная комбинация ^А^ + . . . +а^А^ согласно этим данным лучше всего аппроксимирует значение Ау, не являются точными, т. е. наилучшими для всей генеральной совокупности случайных величин (А^, . . ., А^, Ау), и в применении к последующей независимой выборке эти значения могут уже оказаться заметно менее удачными. Для того чтобы этого не произошло, подбор предикторов должен удовлетворять ряду специальных условий, из которых мы здесь остановимся лишь на двух самых важных. '
Прежде всего для того, чтобы точность определения коэффициентов av . . . . . ., а^ не £ыла бы совсем уж низкой, общее число к предикторов должно быть достаточно малым по сравнению с объемом выборки, используемой для определения коэффициентов-^, г^ и сц; так, например, если объем выборки имеет порядок одной или немногих сотен, то число к не должно превосходить нескольких единиц. Это условие было интуитивно ясно уже первым исследователям в области статистического прогноза погоды (см., в частности, замечание А. Н. Колмогорова о том, что при использовании выборки, включающей 30—50 среднегодовых значений, число к, как правило, выбирается в пределах от трех и до семи); позже известный американский метеоролог Лоренц [4] назвал его «табу статистического прогноза». Однако, помимо того,, имеется еще одно очень существенное требование, разъяснению которого как раз и посвящена статья № 18 А. Н. Колмогорова п которое тем не менее до сих пор далеко не всегда принймается во внимание. Это второе требование состоит в запрещении перебора большого числа систем предикторов (пусть даже каждая из них и содержит лишь по небольшому числу величин) с целью отбора лучшей из этих систем. Дело в том, что если мы перепробуем множество разных систем предикторов, тог с большой вероятностью хотя бы для одной из них эмпирическое значение сводного коэффициента корреляции данных предикторов с величиной Ау окажется сильно завышенным по сравнению с его истинным значением. В таком случае весьма вероятно, что именно эта система предикторов и будет выбрана для целей прогноза; однако в применении к последующей независимой выборке эмпирический коэффициент корреляции величин Ау и Aw — ^А^ + . . . +«fcA^ здесь почти наверное будет
уже значительно меньшим, чем в случае исходной выборки. А. Н. Колмогоров с полным основанием утверждал в своей статье, что подобное «вздувание максимального эмпирического коэффициента корреляции» очень часто будет иметь место при переборе большого числа систем предикторов и что оно вполне естественно объясняет неудачи многочисленных попыток использования линейных уравнений регрессии для целей долгосрочного прогноза погоды; в качестве «модельного примера», допускающего аккуратный расчет, им был проанализирован случай, когда все рассматриваемые величины имеют многомерное нормальное распределение вероятностей, исходная выборка имеет фиксированный объем N и проверяется i независимых систем из к предикторов, для каждой из которых сводный коэффициент корреляции с Ау принимает одно и то же значение р. При этом'значение X такое, что максимальное значение эмпирического сводного коэффициента корреляции для наших ъ групп предикторов превзойдет X с некоторой заранее заданной вероятностью (скажем, равной 1/2), быстро растет с ростом i и уже при умеренно больших значениях ъ оказывается значительно превосходящим р (см., в частности, таблицу, относящуюся^ к случаю, когда N = 42, к = = 5 и i = 14). Отметим еще, что аккуратный вывод результатов Фишера, использовавшихся А. Н. Колмогоровым в его расчетах, в настоящее время может быть найден, например, в известной монографии [7].
Соображения, приведенные в статье А. Н. Колмогорова, делают довольно проблематичными и преимущества некоторых более новых методов статистического прогноза погоды, предложенных заметно позже опубликования рассматриваемой статьи. Типичным примером здесь является так называемый метод просеивания (screening procedure), пропагандировавшийся, в частности, Миллером (см., например, [4, 8]). Метод этот состоит в том, что сперва рассматривается очень большая совокупность предикторов, которая «просеивается» следующим образом. Сперва отбирается тот из предикторов (обозначим его А^), которому отвечает наибольший эмпирический коэффициент корреляции с прогнозируемой величиной Ау; затем тот из оставшихся (скажем, А^2), который дает наибольший вклад в сводный коэффициент корреляции пары (А^, Агг2) с Ау; далее тот из оставшихся (скажем, А;г3), которому отвечает наибольший сводный коэффициент корреляции трех величин (А^17 А;г2, А;г3) с Ау, и т. д. Обычно после нескольких шагов получаемая па следующем шаге добавка к сводному коэффициенту корреляции оказывается уже незначительной, так что процедуру вполне можно прекратить. Число к отобранных предикторов при этом, как правило, оказывается достаточно малым, чтобы не вступить в противоречие с «табу»; однако в силу соображений, опубликованных А. Н. Колмогоровым еще в 1933 г., в случае большой исходной совокупности возможных предикторов весьма вероятно, что для отобранных к из них эмпирическое значение сводного коэффициента корреляции лишь случайно окажется сравнительно большим, так что переход к независимой выборке здесь сразу же приведет к разочаровывающим результатам.
Аналогично обстоит дело и в случае другого широко известного метода отбора лишь небольшого числа наиболее существенных предикторов — метода эмпирических ортогоналных функций, предложенного в работах [9, 10] (см. также [6, И, 12]) и фактически совпадающего с методом главных компонент многомерного статистического анализа (ср. [7, гл. 11]). При применениях этого метода из исходного набора всевозможных «виртуальных предикторов» прежде
всего отбирается их линейная комбинация их = А^, имеющая наибольшую изменчивость (т. е. дисперсию); далее рассматриваются лишь некоррелированные с их линейные комбинации предикторов и из них опять отбирается та комбинация м2 = Ая2, которая имеет наибольшую изменчивость, и т. д. Как правило, после отбора небольшого числа к линейных комбинаций и-^ и21 . . ., up изменчивость всех остальных оказывается уже столь малой, что их вполне можно уже не рассматривать. В случаях, когда исходное число всех допустимых предикторов оказывается сравнительно небольшим (как, например, в работе Обухова [10], где это число равнялось пяти), данный метод приводит к заметному упрощению расчетов (позволяя, например, ограничиться рассмотрением лишь двух наиболее существенных линейных комбинаций пяти переменных); если же, однако, сначала рассматривается очень много предикторов (например, все значения одного или нескольких метеорологических полей на большой сети станций или в узлах правильной сетки), то здесь опять оказываются уже приложимыми соображения А. Н. Колмогорова, заставляющие ожидать, что комбинации ^, . . ., up будут оптимальными лишь для той выборки, по которой они рассчитывались, а при переходе к независимой выборке результаты заметно ухудшатся. Вполне возможно, что именно этим обстоятельством объясняются некоторые разочаровывающие выводы о статистическом прогнозе с помощью эмпирических ортогональных функций, содержащиеся в работе [4].
В заключение подчеркнем, что работа А. Н. Колмогорова ясно показывает, насколько необходимым при разработке любых методов статистического прогноза погоды является тщательное изучение выборочных свойств используемых системщредикторов. Такое изучение и было начато А. Н. Колмогоровым в 1933 г.; к сожалению, оно до сих пор еще включает очень много пока нерешенных вопросов.
ЛИТЕРАТУРА
Baur F. Der gegenwartige Stand der meteorologischen Korrelationsforschung.— Meteor. Ztschr., 1930, Bd. 47, S. 42—52.
Baur F. Einfiihrung in die Grosswetterkunde. Wiesbaden, 1948.
Wadsworth G. P. Application of statistical methods to weather forecasting.— In: Compendium of meteorology. Boston, 1951, p. 849—855.
Lorenz E. N. Prospects for statistical weather forecasting.— Statist. Forecasting Proj. Final Rept. Cambridge (Mass.), 1959.
Иглом A. M. Статистические методы экстраполяции метеорологических полей.— В кн.: Тр. Всесоюз. науч, метеорологического совещ. Л.: Гидроме- теоиздат, 1963, т. 2 (Динамическая метеорология), с. 221—234.
Белов II. Н. Статистические методы численного прогноза погоды.— В кн.: Численные методы прогноза погоды. Л.: Гидрометеоиз дат, 1975, с. 259, 386.
Андерсон Т. Введение в многомерный статистический анализ/Пер. с англ. М.: Физматгиз, 1963. 500 с.
Miller R. G. Statistical prediction by discriminant analysis.— Meteorol. Mo- nogr., 1962. Vol. 4, N 25. 54 p.
Lorenz E. N. Empirical ortogonal functions and statistical weather prediction.— Statist. Forecasting Proj. Sci. Rept N 1. Cambridge (Mass.), 1976. 49 p.
Обухов A. M. О статистически ортогональных разложениях эмпирических функций.— Изв. АН СССР. Сер. геофиз., 1960, № 3, с. 432—439.
Мещерская А. В., Руховец Л. В., Юдин М. И., Яковлева Н. И. Естественные составляющие метеорологических полей. Л.: Гидрометеоиздат, 1970.
Фортус М. И. Метод эмпирических ортогональных функций и его применение в метеорологии. Метеорология и гидрология, 1980, № 4, с. 113—119.
О МЕЖСЛОЕВОМ РАЗМЫВЕ(к № 37)
(А. Б. Вистелиус)
Задача, решенная А. Н. Колмогоровым в комментируемой статье, возникла при изучении продуктивной толщи Апшеронского полуострова и красноцветных нефтеносных отложений на Челекене. Эти толщи целиком сложены терригенными образованиями. Среди них на Апшеронском полуострове содержатся редкие слои конгломератов; на Челекене толща состоит целиком из песков, алевритов и глин. В указанных отложениях видны углубления в нижележащих слоях, заполненные выступами вышележащих. Кроме того, в основании мощных песчаных слоев очень часто присутствуют фрагменты, сложенные глинами, тождественными по внешнему виду глинам подстилающего песчаный слой глинистого слоя. Эти фрагменты округлены и всеми исследователями рассматриваюсь как следы размыва нижележащего слоя при формировании вышележащего. Указанная картина особенно характерна для Челекена.
Отмеченные особенности указанных толщ не оставляют сомнения в том, что при их формировании размыв нижележащих слоев часто имел место при образовании вышележащих слоев («межслоевой размыв»). Таким образом, для постановки задачи, решенной А. Н. Колмогоровым, действительно были серьезные основания и она полностью сохранила значение до настоящего времени. В то же время необходимо иметь в виду, что в период публикации статьи А. Н. Колмогорова среди некоторых геологов было сильно убеждение, что мощности слоев в разрезе не зависят от того, из какого материала эти слои сложены. В общем случае это утверждение оказалось ошибочным. К тому же в момент публикации рассматриваемой статьи в геологических науках практически отсутствовали такие понятия, как случайная величина, функция распределения вероятностей, последовательность значений случайной величины. Это был период начала создания научной базы ряда геологических дисциплин на основе введения в них представления о стохастическом характере изучаемых этими науками величин. Этой принципиальной перестройке, приведшей в дальнейшем к возникновению математической геологии, сильно способствовала не только комментируемая статья, но и личные советы и высказывания А. Н. Колмогорова в период с 1945 по 1950 г.
Для использования работы А. Н. Колмогорова при решении задач, связанных с механизмом слоеобразования, необходимо выполнение трех условий;
уметь находить численные решения предложенного им уравнения,
при изучении конкретных разрезов проверять приложимость аксиоматики, принятой А. Н. Колмогоровым и отнюдь не имеющей, с современной точки зрения, универсального характера и
располагать моделью слоеобразования, дающей G (х). Эта модель для полноценной работы должна выводиться из условий слоеобразования и давать возможность проверки ее непротиворечивости на материале наблюдений.
Условие а) не является сколько-нибудь ограничивающим. Уравнение А. Н. Колмогорова совпадает с уравнением Винера — Хопфа, по численным же методам решения последнего имеется многочисленная литература. Незави-
симо от этого в конце 40-х годов уже имелось достаточное число методов для решения указанной задачи. Соответствующий алгоритм был подобран сразу же после публикации статьи А. Н. Колмогорова, и с его помощью был рассчитан целый ряд примеров. Эти данные не были опубликованы, так как было невозможно соответственно принять ту или иную функцию за G (я).
Аксиоматика, принятая А. Н. Колмогоровым (условие б)), заключается в следующем.
Случайные величины 6П и <рп+1 взаимно независимы и все бп имеют один и тот же закон распределения Р{6П < я} = G (х).
Математические ожидания Мбп = xdG (т) положительны.
Распределение величин 6П непрерывно, т. е. выражается через соответ* ас
ствующую плотность вероятности g (ж) по формуле G (ж) = ^ g (х) dx.
Напомним, что 6П это разность между мощностью накопленного осадка и последующей глубиной размыва этого осадка, непосредственно следующей за окончанием его накопления. Последовательность слоев, наблюдаемая в разрезе, может иметь отдельные слои с мощностями, содержащимися в- последовательности 6П. Как идентифицировать слои с мощностями из последовательности 6П при полевых работах (описании разреза), неясно.
Положения 2) и 3) рассматриваемой аксиоматики не вызывают сомнений с геологической точки зрения. Однако при анализе положения 1) необходимо учитывать следующие факты, полученные после публикации работы А. Н, Колмогорова. При этом, по-видимому, реально считать, что: 1) при изучении конкретных разрезов в них могут доминировать слои, подвергшиеся одному размыву и содержащиеся в последовательности дп, и 2) при отложении пачек песчаных слоев значения тщ играют решающую роль при окончательном определении мощности слоя. При отложении последовательностей глинисты^ слоев во многих случаях Лп = 0. ■
Если сказанное справедливо, то путем изучения разрезов толщ йрй полевых исследованиях можно в какой-то мере оценить пункт 1) рассматриваемой аксиоматики. В этом направлении на основании изучения разрезов красноцветной и продуктивной толщ, а также флиша северо-западного Кавказа, Кахетии и Ю. Урала можно привести следующие данные.
Для слоев различного состава, как правило, средние мощности слоев различны. Так, для красноцветной толщи Челекена установлено ,|что песчаные слои имеют среднюю мощность 84,11 см при оценке стандарта 188,34 и асимметрии +5,0 (при числе слоев и = 318), соответственно алевриты 15,22: 16,93 и +2,7 (п = 471) и глины 27,66; 53,23 и +8,0 (п = 792).
Выборочные корреляционные функции для последовательностей мощностей слоев делятся на два типа Б и Ф (Вистелиус [2]). Тип Б, у которого все коэффициенты автокорреляции положительны и монотонно убывают с ростом расстояния 5 между слоями (в числе слоев). В типе Ф нечетные коэффициенты автокорреляции отрицательны, а четные положительны. С ростом s последовательности как четных, так и нечетных коэффициентов автокорреляции быстро монотонно
убывают цо абсолютной величине. Таким образом, если в разрезе действительно доминируют слои с мощностями из дп, то предположение о независимости 6П может быть поставлено под сомнение.
* . Интересно отметить следующее. Пусть
Е ^+А=г. as+r=p - Е ^slas=i> as+r=j) E (^+rl«S=i, «s+r=j) = °, ' где a — состав слоя, i, / — элементы множества составов слоев, х — мощность слоя, s — номер слоя от подошвы разреза и г — расстояние между слоями. В этом случае у простых цепей Маркова на двух состояниях (скажем, песок и глина), каждому из которых отвечает случайная величина (мощность слоя) с различными математическими ожиданиями для каждого состояния (т. е. средние мощности песчаных слоев отличаются, скажем, от средних мощностей глинистых слоев), возможны только три типа коррелограмм: либо коррелограмма относится к типу Б, либо к типу Ф, либо все ее значения равны нулю (Вистелиус [4]).
Последнее утверждение показывает, что в тех последовательностях слоев, в которых размыв осуществлялся после отложения слоя только один раз и при этом слой- не уничтожался, последовательность состава слоев в которых была неотличима от простой цепи Маркова и коррелограмма относилась к типу Ф можно найти участки, в которых следующие друг за другом слои будут иметь одну и ту же g (ж) и удовлетворять условию независимости 6П. Нечто похожее наблюдалось в разрезе флиша с 10. Урала. Здесь последовательность из 1530 слоев (описание Бежаева) близка к однородной простой цепи Маркова и имеет коррелограмму типа Ф со следующими выборочными значениями коэффициентов автокорреляции
—0,230,17—0,190,07—0,090,050,02
(Вистелиус [3]). В таблице приведены оценки коэффициентов корреляции между мощностями слоев, расположенных рядом (s + 1) и через слой (s + 2) для фиксированных составов слоев:
Значения выборочных коэффициентов автокорреляции между мощностямислоев фиксированного состава
Состав слоя на s7m месте
Состав слоя на s+1-м месте
Состав слоя на s+2-м месте
л
а
Y
л
а
Y
Л
0,22
0,24
—0,04
0,09
0,28
43
153
46
94
57
а
—
—
0,17
0,07
0,18
0,27
543
125
357
61
V
0,3
-0,11
0,35
0,06
-0,01
0,19
195
502
87
21
94
667
где л — песчаные, а — алевритовые и у — глинистые слои, составы которых указаны входами в таблицу. Внутри таблицы в числителе коэффициент автокорреляции между мощностями слоев соответствующего состава, в^знаменателе —
число наблюденных пар слоев. Прочерк в таблице означает, что число сравниваемых пар было меньше пяти.
Из таблицы видно, что слои, сложенные песками и алевритами, в первом приближении дают возможность провести выборку так, чтобы обеспечить независимость 6П, если они слагают подавляющую часть разреза.
Резюмируя, можно отметить, что реально наблюдаемые соотношения между мощностями слоев таковы, что, приступая к анализу последовательности слоев, совершенно необходимо самым тщательным образом проверять условие 1) аксиоматики А. Н. Колмогорова. При этом возможны случаи, как удовлетворяющие аксиоматике (особенно если построить специальную процедуру опробования и отнести вопрос не ко всем слоям, а только к некоторым их типам (скажем, пескам)), так и противоречащие ей. Нужны также специальные исследования робастности модели, т. е. того, как нарушение аксиоматики сказывается на окончательных геологических выводах.
Если проблема выполнения аксиоматики в конце концов сводится к проблеме робастности модели и необходимости разработки специальных процедур отбора слоев для удовлетворения условий А. Н. Колмогорова, то вопрос о выборе g (ж) в конкретных исследованиях значительно сложнее. Поскольку среди 6^ могут быть ненаблюдаемые величины, g (ж) может быть найдена только из модели слоеобразования, построенной на соответствующих литологических (седиментологических) предпосылках. Пока попытки построения такой модели не привели к действительно полноценным результатам.
Статья А. Н. Колмогорова опередила свое время, и только в 1962 г., когда значение математики,для геологии стало пониматься и приобрела права гражданства математическая геология, возник интерес к рассматриваемому исследованию. Оно появилось в списке литературы в первой же книге, посвященной приложению статистических методов в геологии (Миллер и Кан [7]) и затем фигурировало во всех серьезных изданиях подобного рода (Агтерберг [1]). К сожалению, в этих общих руководствах на рассматриваемую статью содержались только общие ссылки. Разбор ее отсутствовал. В 1975 г. вышла монография Шварцахера [8]. В ней впервые приведен разбор статьи А. Н. Колмогорова, Шварцахер рассмотрел соответствующую модель для дискретного случая, используя методы теории случайного блуждания. Были также наложены более жесткие условия на независимость.
В литературе, посвященной конкретным исследованиям, имеются два рода публикаций, базирующихся на комментируемой работе. В одних никакого анализа соответствия аксиоматики А. Н. Колмогорова конкретным условиям формирования разрезов не проводится. Не делается также попытки предметно обосновать ввод плотности g (ж). Иными словами, используется не постановка задачи, а алгоритм, вытекающий из статьи А. Н. Колмогорова. При этом забывается, что использовать этот алгоритм допустимо только после тщательных исследований условий осадкообразования. Среди этих работ имеется, в частности, публикация, рекомендующая для оценки размыва специальный «коэффициент Колмогорова» (Мизутани и Хаттори [6]).
В 1979 г. появилась первая в литературе статья, в которой обсуждается аксиоматика А. Н. Колмогорова и приводятся данные о типе G (х^ возникающем при некоторых специальных условиях (Дасей [5]). Дасей принимает, что 6п
и цп — независимые и одинаково распределенные случайные неотрицательные величины. Кроме того, £п и цп независимы друг от друга. При этих условиях оказывается, что при Еп и цп, имеющих в непрерывном случае показательное (в дискретном соответственно геометрическое) распределение, остатки слоев от размывов, сохранившиеся в разрезе, также подчинены этому распределению. В статье Дасей не приводится никакого геологического материала, и важность для геологии рассмотренного им случая ничем не подтверждается. Однако эту работу следует выделить, так как она содержит сознательный разбор исследования А. Н. Колмогорова.
Статья А. Н. Колмогорова, как мы отметили, сильно опередила время и еще далеко до того, чтобы широкие круги геологов осознали важность этого выдающегося результата, равно как и всего подхода в целом, реализованного в нем. Между тем есть целый ряд разделов седиментологии (литологии), развитие которых невозможно без разработки всего цикла проблем, поднятых рассматриваемой работой. Хотелось бы надеяться, что это будет понято и тем самым обеспечен прогресс в ряде важных разделов геологической науки.
ЛИТЕРАТУРА
Agterberg F. Р. Geomathematics. Amsterdam: Elsevier, 1974. 596 р.
Вистелиус А. Б. Материалы к литостратиграфии продуктивной толщи Азербайджана. М.: Изд-во АН СССР, 1961. 157 с.
Вистелиус А. Б. Красноцветные отложения полуострова Челекен (литология). Л.: Наука, 1966. 304 с.
Вистелиус А. Б. Основы математической геологии. Л.: Наука, 1980. 389 с.
Dacey М. F. Models of bed formation.— Intern. Assoc. Math. Geol. J., 1979, vol. 11, iss. 6, p. 655—668.
Mizutani 8., Hattori I. Stochastic analysis of bed-thickness distribution of sediments.— Intern. Assoc. Math. Geol. J., vol. 4, iss. 2, p. 123—146.
Miller R. L., Kahn J. 8. Statistical analysis in the geological sciences. New York: J. Wiley, 1962. 483 p.
Schwarzacher W. Sedimentation models and qualitative stratigraphy. Amsterdam: Elsevier, 1975. 382 p.
СОДЕРЖАНИЕ
Отредакции 3
П. С. Александров. Несколько слов об А. Н. Колмогорове . . .4
О сходимости рядов, члены которых определяются случаем7
О законебольших чисел 16
Об Одной предельной формуле А. Хинчина 18
О суммахнезависимых случайных величин 20
О законеповторного логарифма 34
О законе больших чисел 44
Общая теория меры и исчисление вероятностей 48
Об усиленном законе больших чисел 59е
Об аналитических методах в теории вероятностей . . . .60
Проблема ожидания Юб
Метод медианы в теории ошибок Ш
Одно обобщение теоремы Лапласа—Ляпунова 114
Об общей форме стохастического однородного процесса (Проблема Бруно де Финетти) 117
. К вычислению средней броуновской площади 124
Об эмпирическом определении закона распределения ...134
О предельных теоремах теории вероятностей 141
К теории непрерывных случайных процессов 149
К вопросу о пригодности найденных статистическим путем формул прогноза 161
Случайные движения (К теории броуновского движения).168
Уклонение от формул Харди при частичной изоляции..170
К теории цепей Маркова 173
К статистической теории кристаллизации металлов ...178
Цепи Маркова со счетным числом возможных состояний183
Об обратимости статистических законов природы . ...197
К решению одной биологической задачи 204
Об одном новом подтверждении законов Менделя . ...209
Стационарные последовательности в гильбертовом пространстве 215
Интерполирование и экстраполирование стационарных случайных последовательностей 255
О логарифмически нормальном законе распределения размеров частиц при дроблении 264
К обоснованию метода наименьшихквадратов 267
Одна формула Гаусса из теории метода наименьших квадратов . . . 283
Ветвящиеся случайные процессы .288
Вычисление финальных вероятностей для ветвящихся случайных процессов 294
Статистическая теория колебаний с непрерывным спектром 299
О суммах случайного числа случайных слагаемых ....308
Локальная предельная теорема для классических цепей Маркова 313
Решение одной задачи из теории вероятностей, связанной с вопросом о механизмеслоеобразования 335
Несмещенные оценки 340
К вопросу о дифференцируемости переходных вероятностей в однородных по времени процессах Маркова со счетным е числом состояний. 363
Обобщение формулы Пуассона на случай выборки из конечной совокупности 371
Некоторые работы последних лет в области предельных теорем теории вероятностей 373
О сходимости А. В. Скорохода 384
Две равномерные предельные теоремы для сумм независимых слагаемых 393
Случайные функции и предельныетеоремы 404
О свойствах функций концентрацииП.Леви 419
Переход ветвящихся процессов в диффузионные и примыкающие задачи генетики (Обзорный доклад) 425
О классах Ф^п^ Форте и Блан-Лапьера 428
Об условиях сильного перемешивания гауссовского стационарного процесса 429
Случайные функции нескольких переменных, почти все реализации которых периодичны 435
Об оценке параметров комплексного стационарного гауссовского марковского процесса 436
О приближении распределений сумм независимых слагаемых неограниченно делимыми распределениями 441
Оценки спектральных функций случайных процессов . .458
О логических основаниях теории вероятностей 467
КОММЕНТАРИИ
А. Н. Колмогоров. К работам по теории вероятностей и математической статистике 472
Аналитические методы в теории вероятностей (Л. Д. Вентцедъ) 474
Марковские процессы со счетным числом состояний (Б. А. Севастьянов) 478
Однородные случайные процессы (В. М. Золотарев) 478
Однородные марковские процессы (Л. А. Юшкевич) . - 480
Ветвящиеся процессы (5. А. Севастьянов) 485
Стационарные последовательности (Ю. А. Розанов) ......486
Стационарные процессы (В. А. Статулявичус) 489
Статистика процессов (Л. Н. Ширяев) 490
Спектральная теория стационарных процессов (Л. М. Яглом) 491
Спектральное представление случайных процессов ^Ю. Г. Балаганов, И. Г. Журбенко} 496
Броуновское движение (Л. М. Иглом} 498
Цепи Маркова со счетным числом состояний (Л. Л. Юткевич} .503
Тождества Вальда (Л. А. Новиков} 508
5-сходимость (Л. В. Скороход} 510
Равномерные предельные теоремы (Г. В. Арак} 510
Функции концентрации (В. М. Круглов} 511
Эмпирические распределения ^Э. В. Хмаладзе} 514
Метод наименьших квадратов (М. Б. Малютов} 520
Несмещенные оценки (Ю. К. Беляев, Я. П. Лумелъский} . . .522
Статистическое прогнозирование (Л. М. Яглом} 523
О межслоевом размыве (Л. Б. Вистелиус} 527
Андрей НиколаевичКолмогоров
ТЕОРИЯВЕРОЯТНОСТЕЙИМАТЕМАТИЧЕСКАЯСТАТИСТИКА
Утверждено к печатиОтделением математики Академии наук СССР
Редактор В. И. Битюцков
Редактор издательства Н. Н. ЛезноваХудожественный редактор С. А. ЛитвакТехнические редакторы 3. Б. Павлюк, Н. Н. ПлоховаКорректор И. А. Талалай
И Б № 31444
Сдано в набор 12.12.85
Подписано к печати 3.04.86
Т-09606. Формат 60X90Vte
Бумага кн.-журнальная*Гарнитура обыкновенная новаяПечать высокая
Усл. печ. л. 33,6. Усл. кр. отт. 34,6. Уч.-изд. л. 35,5Тираж 7000 экз. Тип. зак. 2155
Цена 2 р. 80 к.
Ордена Трудового Красного Знаменииздательство «Наука» 117864 ГСП-7,
Москва В-485, Профсоюзная ул., 90
2-я типография издательства «Наука»,121099, Москва, Г-99, Шубинский пер., 6
В ИЗДАТЕЛЬСТВЕ «НАУКА»ВЫШЛА ИЗ ПЕЧАТИ КНИГА:
Колмогоров Л. Н.
ИЗБРАННЫЕ ТРУДЫМАТЕМАТИКА И МЕХАНИКА
30 л. 3 р. 50 к.
В издание включены основные работы академика А. Н. Колмогорова по тригонометрическим и ортогональным рядам, теории меры и интеграла/ теории. приближений, математической логике, дифференциальным уравнениям, геометрии, топологии, функциональному анализу, суперпозициям функций, дескриптивной теории множеств, теории турбулентности, классической механике и некоторым другим вопросам.
Издание рассчитано на математиков — научных работников, преподавателей, аспирантов, студентов.
Книги можно предварительно заказать в магазинах «Академкнига». Для получения книг почтой заказы просим направлять по одному из перечисленных адресов:
117192 Москва, Мичуринский проспект, 12, магазин «Книга — почтой» Центральной конторы «Академкнига»;
197345 Ленинград,Петрозавод
ская ул., 7, магазин «Книга — почтой» Северо-Западной конторы «Академкнига» ;
252030 Киев, ул. Пирогова, 4, магазин «Книга — почтой» Украинской конторы «Академкнига» или в ближайший магазин «Академкнига».
2 Очевидно, что это утверждение совпадает со сформулированным во вве-
А = Е [Х„ - Ек (Хп)]2 > Е [Е , (Хп) - Е,-! (Xn)]a = p2„fc.
Вй^ ж) = Ит-^^_^_ = -£2.(122)
д—оtza
Из (122) и (111) непосредственно вытекает, что
с ^s, X, А)/А -> 0, А -> 0.(123)
В силу формул (122) и (123) формула (118) при А = 0 переходит в следующую:
Распределения суммы двух независимых величин; см., например: Levy Р., Calcul
des probabilites. Paris, 1927, p. 187.<
5 См. А. М., §13, формула (112).
1 Сделанное допущение достаточно произвольно, однако в действительности число групп, из которых может быть сделан выбор, должно быть еще больше, чем принятое в примерных расчетах г = 14; этим, надо думать, искупается произвольность нашего допущения.
К (А£) при любой сколь угодно большой постоянной К будет меньше любого
фиксированного заранее числа 8 > 0 и притом равномерно по Аг.
числом состояний может быть найдено в работе [3]; ср. также [4].
6 Это вытекает из того, что по теореме 8 функции ф^ = dFjdFxx и ф^ — = dFjdFxx однозначно определяют последовательности {^ (/)} и {z/2 (0}f подчиненные х (<).
s
2 Второе и третье уравнения здесь взяты из системы (5), а первое из системы (4).
ление функций Ф^ в т относится к любым неотрицательным т^.
зультаты, полученные Ю. В. Прохоровым в промежуток времени между его докладом и докладом А. Н. Колмогорова. Ввиду этого авторы сочли уместным
передать для публикации объединенный текст своих докладов. § 4 (без теорем
IV и V) и § 6 воспроизводят доклад Ю. В. Прохорова, а § 1—3, 5 и теоремы IV и V из § 4 составили доклад А. Н. Колмогорова. Теоремы IV и V из § 4 были доказаны Ю. В. Прохоровым после его доклада и перед докладом А. Н. Колмогорова. _
5 Здесь п всюду далее m = G^v • * ^ тп) — n-мерный вектор, ^ обозначает m
суммирование по всем векторам m с неотрицательными целыми компонентами.
при h = 2v ^ VnQ выполнены.
1 Номера в квадратных скобках, набранные курсивом, относятся к списку литературы к статье А. Н. Колмогорова. Номера в круглых скобках, набранные курсивом, означают, что речь идет о соответствующей формуле статьи № 34.
АНДРЕЙ НИКОЛАЕВИЧКОЛМОГОРОВ
30-е годы
ТЕОРИЯВЕРОЯТНОСТЕЙиМАТЕМАТИЧЕСКАЯСТАТИСТИКА
Ответственный редакторакадемик
В. ПРОХОРОВ
в
МОСКВА«НАУКА»1986
УДК 519.2
Колмогоров А. Н. Теория вероятностей и математическая статистика: [Сб. статей].— М.: Наука, 1986.— 535 с.
Настоящее издание представляет собой вторую книгу избранных трудов А. Н. Колмогорова. В ней помещены исследования по теории вероятностей (основания, предельные теоремы, случайные процессы, разнообразные приложения), математической статистике и некоторым другим вопросам.
Редакционная коллегия:
Н. Н. БОГОЛЮБОВ (главный редактор),С. М. НИКОЛЬСКИЙ, А. М. ОБУХОВ,Ю. В. ПРОХОРОВ,
В. М. ТИХОМИРОВ, А. Н. ШИРЯЕВ
Составитель
А. Н. ШИРЯЕВ
Рецензенты:
Б. В. ГНЕДЕНКО, С. X. СИРАЖДИНОВ
1702060000-234042(02)-86
126-86-Ш
© Издательство «Наука», 1986 г.