Книга
← К списку книгЗагрузка разделов…
активнаАктивные записи участвуют в каталоге и синках. Неактивная книга скрыта, но не удалена из базы.
Книга
ВВОДНАЯ ЧАСТЬ
('лава 1. Распределения вероятностей. Случайные величины и математические ожидания 17
Предварительные замечания 17
Меры 20
Совершенные меры 22
Интеграл Лебега 23
Математические основы теориивероятностей 25
Распределения вероятностей вR1 и в Rn 26
Независимость. Композиция распределений 31
Интеграл Стилтьеса 34
^лава 2. Распределения в R1 и их характеристические функции 37
Слабая сходимость распределений 37
Типы распределений 44
Определение и простейшие свойства характеристических функций• 49
Формула обращения и теорема единственности 54
Непрерывность соответствия между распределениями и характеристическими функциями . ..58
Некоторые специальные теоремы о характеристических функциях 61
Моменты и семиинварианты 67
|*лава 3. Безгранично делимые распределения 73
Постановка задачи, случайные функции с независимыми приращениями ’... 7 73
СТТртТГЖТшё и основные свойства 77
Каноническое представление 83
Условия сходимости для безгранично делимых распределений 94
ОБЩИЕ ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ.
лава 4. Общие предельные теоремы для сумм независимых слагаемых101
Постановка задачи, суммы бесконечно малых слагаемых ...101
Предельные распределения с конечными дисперсиями...104
Закон больших чисел 112
Две вспомогательные теоремы 117
Общий вид предельных распределений. Сопровождающие безгранично делимые распределения 119
Необходимые и достаточные условия сходимости124
Глав а 5. Сходимость к нормальному, пуассоновскому и единичному распределениям 133
Условия сходимости к нормальному закону и закону Пуассона 133
Закон больших чисел142
Относительная устойчивость 148
Глава 6. Предельные теоремы для нарастающих сумм154
Распределения класса L151
Каноническое представление распределений класса L . . . . 158
Условия сходимости162
Одновершинность распределений класса L167
ОДИНАКОВО РАСПРЕДЕЛЁННЫЕ СЛАГАЕМЫЕГлава 7. Основные предельные теоремы 175
Постановка задачи, устойчивые законы175
Каноническое представление устойчивых законов ,177
Области притяжения устойчивых законов185
Свойства устойчивых законов196
Области частичного притяжения197
Глава 8. Уточнения теорем о сходимости к нормальному за.кону203
Постановка задачи 203
Две вспомогательные теоремы210
Оценка остаточного членавтеореме Ляпунова215
Вспомогательная теорема 218
Уточнение теоремы Ляпунова для нерешетчатых распределений 223
Уклонения от предельного закона в случае решетчатого рас'пределения226
Экстремальный характер случая Бернулли232
Уточнения теоремы Ляпунова со старшими моментами для непрерывного случая235
Предельная теорема для плотностей238
Глава 9. Локальные предельные теоремы для случая решетчаГлава 9. Локальные предельные теоремы для случая решетчаУточнение предельной теоремы для плотностей243
Глава 9. Локальные предельные теоремы для случая решетча
Глава 9. Локальные предельные теоремы для случая решетча
тых распределений .. . 246
Постановка задачи . . . 246
Локальная теорема для нормального предельного распределения 248
Локальная предельная теорема для устойчивых ненормальных предельных распределений•251
Уточнения предельных теорем для случая сходимости к нормальному распределению256
Литература .. 260
ПРЕДИСЛОВИЕ
1
При формальном построении курса теории вероятностей предельные теоремы появляются в виде своего рода надстройки над элементарными главами теории вероятностей, в которых все задачи Ймеют конечный, чисто арифметический характер. В действительности, фднако, познавательная ценность теории вероятностей раскрывается $рлько предельными теоремами. Более того, без предельных теорем |е может быть понято реальное содержание самого исходного понятая всей нашей науки — понятия вероятности. В самом деле, вся дозн а вательная ценность теории вероятностей обусловлена тем, что Д^ссовые случайные явления „в своём совокупном действии создают не случайные закономерности; само же понятие математй- Жкой вероятностиТГыло~бы бесплодно, если бы оно не находило Дрего осуществления в виде частоты появления какого-либо резуль- W^npH массовом повторении однородных условий (осуществлении $де^да~пр^и не абсолютно достоверном, но при увеличе-
числа повторений, в принципе неограниченно точном и сколь угодно достоверном).
Поэтому элементарные арифметические подсчёты вероятностей, относящихся к азартным играм, в работах Паскаля или Ферма можно рассматривать лишь как предисторию теории вероятностей, а настоянная её история начинается с предельных теорем Бернулли ([3], 1713) It Муавра ([56], 1730). Основное значение результата Муавра было Полнее раскрыто Лапласом ([42], 1812). К предельным теоремам Бернулли и Муавра-Лапласа естественно присоединить в качестве ^сн^^теории вероятностей до Чебышева ещё три
^р€№№иьте теоремы Пуассона1 из которых одна обобщает теорему жрйулли, другая — теорему Муавра-Лапласа, а третья приводит й^ж^назы ваемом/ закону распределения Пудссонаг'Щля ясного понимания дальнейшего полезно привести здесь несколько модернизированные фор^улировки -леречи-Сленных пяти предельных теорем.
Первые четыре из них относятся к последовательности независимых событий.
Sn, $з, • . .
вероятности этих событий мы будем обозначать через
Рп — Р (®n)j
а число фактически появившихся событий из числа первых п событий
— через рп. В первых двух теоремах все рп равны одному и тому же числу р (рфО, рфХ).
Теорема Бернулли. При любом г > О
когда п —> со.
г22 dz.г22 dz.Теорема Лапласа.*
г2
2 dz.
г2
2 dz.
— пр )1
Vnp^X — РН 2/2г
когда я —> сю равномерно относительно zx и 22.
В следующих двух теоремах вероятности рп могут зависеть от п^ но подчинены условию, что ряд
Spn(i —pJ
расходится, В их формулировках приняты обозначения
Pi + Рй + • • • + Рп = Ап,
Р1(Д — PiWPa^ — Р2) + ... +/?„(!—z?n) = 5^.
Закон больших чисел в форме Пуассона. При любом s > О
/1мД I\
\| пп I /’
когда п —> сю.
Основная предельная теорема в форме Пуассона.
^1^1))1 ।/2г J1 ।/2г J2 dz,2 dz,
^1
^1
)
)
1 ।
/2г J
1 ।
/2г J
2 dz,
2 dz,
когда п -> оо равномерно относительно гг и z^.
Пятая из интересующих нас теорем относится к последователь’ ности серий
^21) ^22»
®Щ> ^?i2> ^иЗ’ * * е> ®ПП>
й которой события одной серии взаимно независимы между собой и имеют каждое вероятность pw зависящую только от номера серии. Через у.п обозначается число фактически появившихся событий n-й серии.
Предельная теорема Пуассона для редких событий, Если
прн -> а
при п ~* со, то
Как известно, вводя случайные величины
( 1 в случае появления события S,
у | 0 в случае непоявления события S,
можно представить в теоремах 1), 2), 3) и 4) в виде
= ^1 + ^2 ~Г 1 * + ^^
а в теореме (5) в виде
Уп = ^щ + Чп2 + • • • + ^пн-
Это позволяет получить все перечисленные выше пять предельных теорем как весьма частные случаи предельных теорем, относящихся к суммам независимых случайных величин.
Представление о том, что нормальное распределение вероятностей
р (Г < 2) = * f в~ т dz/2- J
—QO
являющееся предельным в теоремах 2) и 4), должно появляться и в более общей задаче о предельном распределении суммы, большого чцсла независимых слагаемых, каждое из которых играет в формировании суммы лишь малую роль, является одной из существенных идей теории ошибок, развитой Гауссом. Однако в отношении строгих доказательств Гаусс не пошёл дальше результатов, равносильных теореме Муавра-Лапласа.
Эффективные методы для строгого доказательства предельных теорем, относящихся к суммам произвольно распределённых независимых" слагаемых, были созданы во второй половине девятнадцатого века Чебышевым. Его классические работы положили начало новому периоду развития всей теории вероятностей^
2
Все свои усилия Чебышев посвятил решению двух задач. Дана последовательность независимых случайных величин
^1, ^2» • е • i ^т • • • ,
имеющих конечные математические ожидания
^п === М^П и конечные дисперсии
^-Ы„-М($п-ап)2.
Положено
^ = ч+^+---+^
#i 4" ^2 4- • • • 4~ ап>
Первая задача.’ При каких дополнительных условиях имеет место закон больших чисел, т. е. каково бы ни было е > О,
РР\| п\| пО,О,
Р
Р
\| п
\| п
О,
О,
когда п -> оо?
Вторая задача. При каких дополнительных условиях имеет место основная предельная теорема, т. е.
8 ^
^-—jS < Д _> -L f е~ ~dz.
Вп / у 2тс J
когда п -> ро равномерно относительно г?
В при^ен^нии к первой задаче метод, развитый Чебышевым в работе [81] 1867 г., требует лишь условия
Вп= о№У
которое принято называть условием Маркова, так как Марков первый в явной форме указал на эту степень общности рассуждения Чебышева. Закон больших чисел с условием Маркова не только охватывает теоремы 1) и 2) Бернулли и Пуассона, но, вообще, в огромном большинстве применений с достаточной полнотой исчерпывает вопрос для сумм независимых слагаемых.
Решение второй задачи оказалась значительно труднее. Для неё Чебышев создал метод моментов, являющийся одним из самых значительных его достижений в математике вообще. Решение, данное Чебышевым в работе [82] 1887 г., опирается на одну лемму, кота*
g
aa была доказана лишь Марковым (см. его работу [51], 1898). скоре вторая задача Чебышева была решена Ляпуновым в значительно более общих условиях другим методом ([4 9], 1900; [50], 1901). Маркову затем удалось показать, что метод моментов способен дать столь же общий результат, как и полученный Ляпуновым, однако Метод Ляпунова оказался при дальнейшем его развитии значительно Проще и сильнее в применении ко всему кругу задач, относящихся к предельным теоремам для сумм независимых слагаемых. Это и есть Метод характеристических функций, который является основным методом, применяемым в нашей книге.
Решение, данное Ляпуновым,, удовлетворяет всем потребностям рц>омного большинства применений. Мы даём всё же вместо, теоремы Ляпунова решете второй задачи ЧебьГшёЖ^ теоремы 4- § 21,. так как условие Линдеберга
п
lim 5 Р{1^ —= 0
п ~> оо Тс— 1
рри любом е>0, входящее в эту теорему, будучи несколько более широким, чем условие Ляпунова, по своей логической структуре даже эдюйде ляпуновского условия
где
Сп = с^ • • • 4- стc^MI^-atl^.
3
Обратимся к простейшему специальному случаю последовательности
£ц £д> • • • > ^w * • *
независимых одинаково распределённых величин. В этом случае для применимости основной предельной теоремы не требуется никаких дополнительных условий сверх самого существования математических ожиданий
ан = а
И дисперсий
ьп = ь
(см. теорему 4 § 35 этой книги). Было бы, однако, ошибочно сделать отсюда даже для случая одинаково распределённых слагаемых тот
вывод, что никаких реально интересных предельных теорем с предельными законами, отличающимися от нормального, для этого случая не существует.
Чтобы показать на примере, что такое мнение является лишь укоренившимся предрассудком, мы рассмотрим здесь простую и вполне классическую схему блуждания точки по прямой, соответствующую условиям игры в «орёл и решку»:
7)(0)= 0,
|
Т| (/)-}- 1 с вероятностью i ,
ч\(Р) — 1 с вероятностью -9 , независимо от того, каковы
^О), 7](2), . . ., 7](/).
Достаточно общеизвестно, что эта схема является простейшей в длинном ряде схем блуждания, имеющих большое значение в самых различных применениях теории вероятностей, очень далёких of азартных игр.
Занумеруем теперь в порядке возрастания все те значения Z, для которых
7] (0=0.
Получится (с вероятностью единица) бесконечная последовательность
и —\\^п^ • • •
Разности
^п == ^п ’•п -1
образуют последовательность независимых и одинаково распределённых случайных величин. Каждая из величин ^п принимает только положительные чётные значения с вероятностями
Pm Р (^г^ш)•
Так как асимптотически при т -> оо
_1
Pm П V S/o ’
2 V ^ т то математическое ожидание
ОО
М<» = 2 5 трт
т = 1
бесконечно. Тем не менее суммы
s — ^i 4“ ^2 4“ * • • 4~ $п
при надлежащей нормировке подчинены в пределе вполне определённому закону распределения:
НтП-> ООНтП-> ООО при ^<^0, 8 _ 2з
Нт
П-> ОО
Нт
П-> ОО
—Ге 23 z 2 dz при г>0.
о
(См. по этому поводу далее теорему 5 § 35 и конец § 34).
Читатель должен обратить внимание на п? в знаменателе выражения
В случае сумм ^п одинаково распределённых независимых слагаемых С конечной дисперсией знаменатель выражения
в основной предельной теореме имел бы порядок V п. Сопоставление этих двух частных случаев заставляет поставить общую проблему: при каких условиях для сумм одинаково распределённых независимых слагаемых
£р ?2»•
может иметь место предельное соотношение
где Ан и Вп — константы, и какие предельные законы V (г) могут при этом появиться?
Вопрос о классе могущих появиться в указанной обстановке предельных законов был полностью рещёХ А. ^. Хинчиным. Оказалось, чт^"ТГ"то^^линейных преобразований этот класс состоит
ТЧЗЕЕ953- нормального закона, занимающего особое положение, несобственного закона'
{
0 при х<;о,
1 при х>0
и семейства законов распределения с бескрнечными дисперсиями, зависящими от двух параметров (а и ^ в обозначениях гл. 7). Все эттГ^ЖОны распредёления/ называРмые «устойчивыми» в силу обстоятельств, которые объяснены в § 33, заслуживают, как нам кажется, самого серьёзного внимания. Вероятно, круг реальных прикладных Задач, в которых они будут играть существенную роль, окажется ср временем достаточно широким.
4
Предельная теорема Пуассона для редких событий должна была бы уже давно навести исследователей на мысль, что и в случае конечных дисперсий могут существовать вполне содержательные и практически интересные предельные-теоремы, относящиеся к суммам независимых слагаемых и приводящие к законам распределения, существенно отличающимся от нормального. Для того чтобы их получать систематическим образом, естественно обратиться к схеме последовательности серий случайных величин
(’П1> ^П2> • • • > ^пти^ ^=1, 2, 3,...,
где случайные величины одной серии взаимно не зависимы, и рассмотреть суммы
^•п ~ ^1 Н" ^«2 Ч- • •• + чтп •
Простейшим и наиболее важным случаем является тот, когда в одной серии все величины Лпк одинаково распределены. Задача состоит попрежнему в том, чтобы выяснить, при каких условиях возможно предельное соотношение
и какие предельные законы У(г) могут при этом появиться. При этом, конечно, естественно рассматривать только случай, когда
ти—> оо.
Любопытно, что в том случае, когда все случайные величины ^ во всех сериях способны принимать только два не зависящих от индексов п и к значения х’ и х\ единственными возможными предельными законами с точностью до линейного преобразования будут нормальный закон, несобственный закон а(х) и семейство с одним параметром а пуассоновских законов предельной пуассоновской теоремы о редких событиях (см. Козуляев [31]).
Класс возможных в^ такой постановке задачи предельных законов совпадает с классом" безгранично делимых законов распределения, йбтороту'^^ глава 3. Естественно, что он содержит в себе вс^3;сто1^ и закон Пуассона. Соответствующие предельные теоремы доказаны в главе 4. Здесь мы отметим лишь, что для лучшего понимания их наглядного смысла читателю может оказаться полезным ознакомиться с частным случаем этих общих теорем, из-, ложенным под названием «обобщённой предельной теоремы Пуассона», в книге А. Я. Хинчина [71]. Эта элементарная предельная теорема
приводит лишь к специальному классу безгранично делимых законов с характеристическими функциями вида
/(/) = ехр |с J ^eiut— l)^F(rz)
(см. § 16). Законы распределения этого типа имеют столько же конечных моментов, сколько и порождающее их распределение F (и). Можно указать много приводящих к ним физических и Технических задач.
Среди безгранично делимых законов, не принадлежащих ни К числу устойчивых, ни к числу законов только что отмеченного специального типа, отметим ещё хорошо известное в математической статистике семейство распределений, задаваемых неполной ^-функцией:
g
висящее от параметра а>0 (см. пример 4 § 17). В это семейство :одит, в частности (при а = 1), показательное распределение
О при г<^0, 1 g-Z ПрИ ^ > 0.
Если отказаться от предположения совпадения законов распределения всех случайных величин одной серии, то поставленная выше ^дача определения возможных предельных законов V (г) в той её Точной формулировке, которая была нами принята для случая одинаково распределённых слагаемых, делается бессодержательной: предельный закон V (г) может быть совершенно произвольным. Это и Естественно, так как теперь требование ти -> со имеет совершенно Иллюзорное значение: оно не препятствует, например, тому, чтобы р каждой серии доминирующую роль играло одно единственное Слагаемое ^пТе. Содержательные результаты, соответствующие1 первоначальному идейному замыслу классических предельных теорем тео- ?ии вероятностей, получаются лишь при дополнительном требова- ии существования при любом г > 0 таких констант апЪ что
sup Р {| ^п^ апк [ е Вн} —> 0
1 < к < wn1 < к < wnфи м —> со. Это требование «предельной пренебрегаемости» изменчи- юсти каждого отдельного слагаемого но сравнению с выбранным
1 < к < wn
1 < к < wn
масштабом измерения Вп для суммы Сл кажется вполне естественным. В § 20 оно вводится для частного случая Вп=1 под названием «предельного постоянства».
А. Я. Хинчин доказал, что при этом ограничении в качестве Предельных законов в случае произвольно распределённых слагаемых могут появиться только те же самые безгранично делимые законы, которые являются предельными для сумм возрастающего числа одинаково распределённых в каждой серии слагаемых (см. § 24). Поэтому вполне естественно, чго безгранично делимые законы являются центральным понятием всей первой части нашей книги. Нам кажется, что их теория и связанные с ними общие предельные теоремы получат со временем разнообразные применения. Обзор тех применений устойчивых и безгранично делимых законов, которые уже найдены, один из авторов этой книги рассчитывает вскоре опубликовать в особой статье.
5
Во всех практических применениях предельными теоремами пользуются по существу в качестве приближённых формул при конечных, хотя и довольно больших п. Для того чтобы такое применение предельных теорем было вполне обосновано, они должны быть снабжены оценками остаточных членов: Если же остаточные члены, при п -> оо убывают медленно, то становится необходимым вводить при конечных п к предельному распределению V(z) поправки. Наиболее сильным и общим методом нахождения таких поправок является рассмотрение для распределения
V„(«)-P(^<«)
тех или иных асимптотических разложений. Для случая классической основной предельной теоремы такое асимптотическое разложение с членами порядка
было без точного обоснования указано самим Чебышевым. Развитие его идей в новейших работах прослежено в главе 8.
В главе 9 разобраны различные другие направления уточнения предельных теорем. Естественно, что пока большие достижения имеются лишь в направлении уточнения классической предельной теоремы о сходимости к нормальному распределению. Уточнение новых предельных теорем дано только в направлении «локализации» теорем о сходимости к устойчивым законам § 49.
Сказанным выше достаточно точно очерчен круг вопросов, которым посвящена эта книга. В этих пределах мы стремились к исчер-
пикающей полноте там, где достигнутые в настоящее время результаты представляются нам имеющими окончательную ценность. В тех же вопросах, где в настоящее время имеются лишь результаты, которые, вероятно, в ближайшие же годы будут усилены, и где есть основания думать, что ещё не найденные окончательные формулировки будут соединять большую общность с большей простотой, мы ограничивались рассмотрением простейших частных случаев, позволяющих понять общий характер задач. По этой причине мы рассматриваем, например. вопрос об_ уточнении _ предельных теорем и локальные предельные теоремы лишь для случая одинаково распределённых тслагаемь1х, отсылая за дальнейшими сведениями к специальным журнальным статьям/ ~'
"^^’пределами нашей книги остались^ многомерныеобобщения и ^рощсния^иа cyw^2^^ Полное изложение результатов, полученных в этих направлениях Марковым, С. Н. Бернштейном и их последователями, потребовало бы второй монографии такого же объёма, как эта, если отнести сюда полностью предельные теоремы, связанные с цепями Маркова.
Стремление к полной общности и логической законченности, к нахождению ^всГ всех случаях, где это возможно, условий, являю- г№Гся одновременно необходимыми и достаточными, свойственное большинству новейших исследований в избранной нами области, каЗсётся нам вполне. законным ввиду центрального её положения во всИП^тебрЯи^ вероятностей. На почве этих классических проблем и нщЙЯфгедсГО естественных их обобщений естественно оттачивать до полной остроты методы исследования. Книга наша поэтому имеет теоретический характер: избранная нами проблематика обследуется систематически, независимо от того, получили уже сейчас все её разветвления прикладное значение иди нет.
Мы думаем, однако, что очень многие предельные закономерности, которые в нашем изложении кажутся введёнными лишь ради исчерпания всех логических возможностей, получат со временем и разнообразные применения. Некоторые указания в этом направлении были сделаны выше. Во всяком случае несомненно, что арсенал тех предельных теорем, которые должны вводиться в будущие руководства практического характера, должен быть значительно расширен по сравнению с классическим- стандартом. Естественно, что при этом надо делать некоторый выбор. Например, «нормальная» сходимость к ненормальным устойчивым законам (см. § 35), несомненно, уже сейчас должна быть рассмотрена во всяком большом руководстве, рассчитывающем достаточно хорошо вооружить, например, работника в области статистической физики, но рассмотрение «ненормальной» сходимости с неправильной нормировкой даже в случае нормального предельного закона (см. там же) лишь излишне обременило бы такое более практическое руководство.
Отметим ещё, что мы всюду ограничиваемся оценкой порядка остаточных членов или в лучшем случае их асимптотического поведения, не приводя оценок в виде точных неравенств. Выделяя те или иные предельные теоремы в качестве имеющих непосредственную практическую ценность, следовало бы восполнить этот пробел. Но провести такие оценки систематически через всё наше изложение было бы обременительно, и мы предпочли в этой книге на них совсем не останавливаться. •
6
Нам остаётся заметить, что в основу книги легли лекции, читанные нами в Московском и Львовском университетах, а при её окончательном редактировании очень большую помощь нам оказал Ю. В. Прохоров, которому принадлежит очень большое число существенных усовершенствований формулировок и доказательств. Мы выражаем ему нашу благодарность за эту работу.
ВВОДНАЯ ЧАСТЬ
ГЛАВА 1
РАСПРЕДЕЛЕНИЯ ВЕРОЯТНОСТЕЙ.
СЛУЧАЙНЫЕ ВЕЛИЧИНЫ И МАТЕМАТИЧЕСКИЕОЖИДАНИЯ
Предварительные замечания
В основных главах этой книги изучаются исключительно вероятности событий, настучу em^j^^которых однозначно
о’ц^деляется^ значениями конечного числа действительных случайных величин
В такого рода вопросах можно обойтись без’каких-либо более общих основных понятий, чем распределение вероятностей для расположения случайной точки.
вл-мерном координатном евклидовом пространстве Rn. Такое распределение наиболее логичным образом задаётся при помощи функции
Р^ = РЧЧ...Ч (А)
от множества А <= рп^ понимаемой как вероятность события
На эту функцию естественно наложить следующие ограничения:
а) Область определения ©^ функции Р^ (4) есть борелевское поле подмножеств Rn (см. определение в § 2), содержащее в качестве элемента само пространство Rn.
р) Поле ®^ содержит в себе все открытые множества пространства Rn.
у) Функция Р^(А) неотрицательна и вполне аддитивна.
8) Для любого множества А из S^ значение Р^(А) равно нижней грани значений А (О) для всех открытых множеств д, содержащих А.
г\Р^ - Г-'
Первые четыре из этих требований выражают обычные свойства меры в Rn. Пятое требование указывает, что вероятностные меры считаются всегда «нормированными».
Такое . понятие n-мерного распределения вероятностей . выбрано в ка^ётве аксиоматической основы всех дальнейших рассмотрений, например 8 книгах. Крамера [84]. Однако даже в узких рамках исключительного интереса к конечномерным распределениям этот подход не лишён недостатков. В этом можно убедиться, например, прочитав §§ 14.2 и 14.5 упомянутой книги Крамера. Его аксиома 3 заставляет предполагать, что основным объектом, свойства которого должны быть фиксированы при помощи аксиом, является какая-то не названная непосредственно совокупность всех случайных величин. В § 14.5 даже «доказывается», что любая измеримая по Борелю функция случайной величины сама является случайной величиной. Но остаётся неясным, имеются ли при этом в виду те случайные величины, к которым относятся аксиомы 1, 2 и 3 или случайные величины в каком-то новом смысле. Можно было бы, конечно, избежать этих неясностей за счёт ещё более сильного ограничения: всегда отправляться от некоторого исходного распределения вероятностей Р^(Д) для некоторого запаса «основных» случайных величин
и строго отличать от них «производные» случайные величины для которых законы распределения вычисляются, исходя из основного распределения Р^ (А).
Более широкая и естественная перспектива и возможность все рассматриваемые случайные величины считать равноправными открываются лишь при более общем подходе к делу, развитом, например, в книге А. Н. Колмогорова [34]. Этой системе изложения, в которой все рассматриваемые случайные, величины являются функциями от некоторого абстрактного аргумента и^ мы и будем следовать. В §§ 2—4 содержатся все нужные нам сведения из общей теории распределений вероятностей на произвольных множествах. Изложение этих параграфов несколько усовершенствовано по сравнению с [34].
Основное изменение по сравнению с [34] связано с употреблением нового понятия «совершенной» меры, которое вводится в § 3. Это по виду абстрактное понятие введено для приведения общей теории в большее соответствие с обычными представлениями о распределениях в конкретных пространствах (7?1, Rn и т. д.). Доказательства всех предложений, сформулированных в § 3, читатель найдёт в книге [85]. К этой книге читатель вообще отсылается за всеми разъяснениями, относящимися к теории меры и интеграла Лебега.
1919ПРЕДВАРИТЕЛЬНЫЕ ЗАМЕЧАНИЯПРЕДВАРИТЕЛЬНЫЕ ЗАМЕЧАНИЯ§ и
19
19
ПРЕДВАРИТЕЛЬНЫЕ ЗАМЕЧАНИЯ
ПРЕДВАРИТЕЛЬНЫЕ ЗАМЕЧАНИЯ
Наряду с самим распределением
при изучении системы из п случайных величин ^, ^ .. ., ^п часто употребляют так называемую функцию распределения
^1^2* * • ^п (^ ’ ^2’ * ' * ’ ^п^ = Р {51 < ^р 5-2 <С ^21 • • • 5 &п< ан^,
которая есть не что иное, как значение Р^...^ (Л) для части пространства Rn, выделяемой неравенствами
Xk<ak; А = 1, 2, . . ., п.
Употребление таких л-мерных функций распределения можно в основном признать анахронизмом, сохранившимся от времени, когда понятие функции множества не было достаточно разработано.
Однако в одномерном случае пользование функциями распределения
Л(«) = Р (Е < й) = Р; (— ОО ; й)
часто оказывается удобным и естественным. Свойства одномерных функций распределения, известные из элементарных учебников, напоминаются в § 6.
Определением математического ожидания случайной величины $ мы считаем формулу
ме=Jup,
и
где справа стоит интеграл Лебега по множеству U всех «элементарных событий». Отсюда легко выводятся другие формы записи математического ожидания
ME = JхР^ (dx) = J xdF^ (х)
Ri
и в случае $=/(т]), где т;— вспомогательная случайная величина, ME = / /(у) Р^ W = J / <» dF^ (у).
. Употребление общего интеграла Лебега (по произвольному множеству и с произвольной мерой) позволяет обойтись без теории элементарного интеграла Стилтьеса. Это представляет, как нам кажется, большое преимущество, так как полное изложение всех тонкостей этой последней теории, необходимое для действительно корректного обоснования вероятностных применений, очень громоздко (и, насколько нам известно, ещё нигде не было дано). Мы имеем в виду следующие обстоятельства: а) чтобы обосновать формулу композиции функций распределения при сложении независимых слагаемых, обычное,
наиболее распространённое в общих учебниках анализа, определение интеграла Стилтьеса недостаточно (см. по этому поводу §§ 8 и 10 и добавление I в книге [86]); б) в теории вероятностей существенны интегралы с бесконечными пределами, что при элементарном подходе требует дополнительных оговорок; в) равенство
ME = J xdF,(х) = J /О) dF^ (у)
при $=/(т]) доказывается в элементарной теории весьма громоздко, а для того, чтобы из существования интеграла в правой части этого равенства вытекало существование интеграла в левой части, на определение интеграла с бесконечными пределами надо наложить ограничения, по существу чуждые элементарной теории таких интегралов (см. [87]); г) элементарная теория кратных интегралов Стилтьеса мало разработана, и в ней отмеченные сейчас вопросы а), б), в) даже в журнальной литературе не разбирались с должной подробностью. При обращении к абстрактной теории интеграла Лебега необходимость во всех этих утомительных и узко специальных исследованиях отпадает. Так как распределение Р (Д) однозначно определяется функцией распределения F(a) (см. § 6), то по традиции мы сохраняем обозначение
f /(*) Р (dx) = р (х) dF(x).
В § 6 указывается, что этот интеграл является при некоторых условиях пределом стилтьесовских сумм. Для вычисления и оценки интегралов эти суммы часто бывают полезны, но в построении теории интегрирования при нашем подходе к делу они не участвуют.
В § 7 доказывается теорема о композиции законов распределения при сложении независимых слагаемых. Доказательство, основанное на теореме Фубини, применимо без изменений к случаю сложения независимых векторов, а также и в ещё более общих случаях.
В § 8 собраны необходимые сведения об интегралах
ъ jf(x)v(dx) и J/(х)йГФ(х) Аа
при допущении отрицательных значений для © (Д) и немонотонных функций Ф (х).
Меры
В настоящем параграфе мы напоминаем читателю основные определения, относящиеся к теории меры. В соответствии с нашими дальнейшими потребностями мы ограничиваемся при этом конечными мерами.
Определение 1. Система множеств ф называется полем множеств. если 1) существует такое U £ ф, что из Д£ф вытекает А с и* 2) если Д£ф и В^ф, то Д\В£ф.
Легко видеть, что U однозначно определяется полем множеств, это — «единица» поля U^. Во всякое поле входит пустое множество
N=U\U.
Из 1) и 2) вытекает, далее, что сумма и пересечение конечного числа множеств из поля принадлежит полю.
Определение 2. Поле ф называется борелевским, если сумма любой счётной системы множеств из ф принадлежит ф.
Легко доказывается, что пересечение счётного числа множеств из борелевского поля ф принадлежит ф.
Во избежание недоразумений заметим, что, вообще говоря, множества {и}, состоящие из одного единственного элемента
могут и не принадлежать полю ф.
Укажем, наконец, что возможность во многих вопросах вести рассмотрения в борелевских полях основана на том, что для любой системы <5 подмножеств какого-либо множества U среди содержащих её борелевских полей с единицей U существует одно единственное минимальное.
Это минимальное поле
называется борелевским замыканием системы <5 относительно U.
Определение 3. Мерой называется действительная неотрицательная функция множества ^(Д), для которой
(р-1) область определения 9)lw есть борелевское поле множеств;
(р.2) для любых данных в конечном или счётном числе попарно непересекающихся множеств Дп^9№^
^(и л„) =5^(-4й).
(р.3) из р.(Д) = 0 и Вед вытекает В £ Э^.
Множество'
называется носителем меры р».
В теории вероятностей, где самые разнообразные распределения случайных величин, случайных векторов и случайных функций получаются из основного распределения вероятностей Р(Д) на множестве U элементарных событий, имеет основное значение.
Определение 4. Пусть однозначная функция
^ =Ци)
отображает U^ в некоторое множество U'. Мерой в U\ порождаемой отображением $ из меры р., называется функция множества
^(Л) = ^^(Л), для которой
1) область определения SR^/ состоит из всех множеств
A^U7
с полными прообразами ^)
гЧак^Ч-
2.)
н'(Л) = р(Г1(Л)).
Легко доказать, что функция р/ является на самом деле мерой в смысле определения 3, причём
^, = и'.
В том случае, когда множество U' есть метрическое (или топологическое) пространство, особого внимания заслуживают измеримые относительно меры р, отображения 5, т. е. отображения, при которых • все прообразы
открытых множеств G^Ur заведомо входят в 2)^. Таким образом, в случае измеримого отображения $ система множеств ЗМ^ содержит все открытые множества пространства . U^ а вместе с ними в силу, свойства (рД) меры и все борелевские множества этого пространства. Это замечание сделается отправным пунктом рассмотрений следующего параграфа.
Совершенные меры
При изучении мер в метрических (или топологических) пространствах обычно ограничиваются рассмотрением мер, которые кроме свойств (pl), (р.2) и (рЗ) абстрактной меры обладают ещё следующими свойствами:
(р4) все открытые множества пространства Uw входят в 2R^, (р.5) мера р.(Д) любого множества А С®^ равна нижней грани мер р(д) для открытых множеств G, содержащих А.
Оба эти требования лишены смысла в применении к мерам на абстрактном множестве U^. В конце предыдущего параграфа мы видели, однако, что мера р/, порождаемая измеримым относительно р. отображением абстрактного множества U^ в метрическое пространство U\ всегда обладает свойством (р4). Для достижения полной
*) При этом полный прообраз ^“ЧД) множества A^^U^ в которое не отображается ни одного элемента из LJy., считается равнцм пустому множеству N.’
2323ИНТЕГРАЛ ЛЕБЕГАИНТЕГРАЛ ЛЕБЕГА§ 4]
23
23
ИНТЕГРАЛ ЛЕБЕГА
ИНТЕГРАЛ ЛЕБЕГА
гармонии между абстрактной теорией меры и теорией меры в метрических пространствах было бы желательно, чтобы при измеримых отображениях носителя абстрактной меры U^ в метрические пространства в этих метрических пространствах получались меры, обладающие не только свойством (р.4), но и свойством (р.5). Мы сейчас увидим, что при помощи некоторого ограничения класса допускаемых к. рассмотрению абстрактных мер это пожелание выполнимо по крайней мере в применении к отображениям в наиболее обычные и важные в применениях метрические пространства. Требуемое ограничение достигается при помощи следующего определения.
Мера р. называется совершенной, если при любом измеримом отображении $ множества U^ в числовую прямую R1 мера
обладает свойством (<л5).
Разумность этого определения подтверждается следующими двумя теоремами:
Теорема 1. Если U^ есть полное метрическое пространство со счётным базисом и мера р обладает свойством (р4), то она будет совершенной*в том и только том случае, когда она обладает свойством (р-5).
Теорема 2. Любое отображение Н носителя совершенной меры U^ в произвольное множество U' порождает в соответствии с определением 4 совершенную меру р/.
Так как в случае, если отображение £ в метрическое пространство U' измеримо, мера р/ непременно обладает свойством (р-4), то из сопоставления теорем 1 и 2 вытекает
Следствие. Если мера р- совершенна, то любое измеримое отображение $ множества U^ в полное метрическое пространство U’ со счётным базисом порождает в этом пространстве меру р/ со свойствами (р.4) и (р-5).
Теорема 1 показывает, что класс совершенных мер достаточно широк для применений, а следствие из теорем 1 и 2 показывает, что, ограничившись в общей теории совершенными мерами и их измеримыми отображениями, мы в наиболее естественных и простых конкретных случаях будем получать только меры, обладающие обычными свойствами (р.4) и (р-5).
Интеграл Лебега
Измеримые относительно меры р. отображения $ множества U^ в числовую прямую называются обычно измеримыми (относительно меры р) функциями. Мы будем считать известными основные свойства интеграла Лебега
J $(«) p.(d«) . (1) А
от таких функций по множествам Л, принадлежащим семейству 2Л,Л (которые называются обычно измеримыми относительно меры р. множествами). Все нужные далее сведения об интеграле Лебега читатель сможет найти в книге [85]. Здесь же мы напоминаем лишь некоторые из них — менее известные, но важные для теории вероятностей. Заметим, что всюду в дальнейшем имеются в виду конечные интегралы Лебега: если говорится, что интеграл (1) существует, то это значит, что он сам и интеграл
•/ Щи) I И (^и)
А
имеют определённые конечные значения.
Теорема 1. Пусть отображение с? множества U^ в U' порождает в U' меру р/, множество А* с U' принадлежит 9)1р/, действительная функция ^ ^иг>) определена на U' и измерима относительно р/,
^ки?) = ^^и^ и Л = ср-1(Д'\
Тогда
f $(а) [Л (da) = Jv (и') и' (^и'), АА’
причём оба интеграла существуют или не существуют одновременно.
Теорема 2. Если 5 (и) ^ 0 на множестве Uv и интеграл $Ци)^и) ■ существует, то функция множества
'MA^JeGOHda)
А
является мерой с
Любая измеримая относительно ц функция ср (и) измерима и относительно X и
J ср (и) X (du) = J Ци)о (и) pt (du), АА
причём оба интеграла существуют или не существуют одновременно.
Теорема 3. Есди в условиях теоремы 2 всюду на U^ $ (zz) > 0, то'
при любом Д£ 3R;J = 9RX
и М) =
А "
классы функций о (и), измеримых относительно X и относительно у, совпадают и
f ?(«)nW = f -^-X(du), АА
причём оба интеграла существуют или не существуют одновременно. '
Математические основы теории вероятностей
После произведённой в предыдущих параграфах подготовки мы можем очень коротко высказать все те допущения, которые необходимы для развития теории вероятностей:
Вероятность Р (А) есть совершенная мера, удовлетворяющая дополнительному условию «нормированное™»
Р С^7р) = 1.
Эта короткая формулировка заменяет всю «аксиоматику» теории вероятностей.
Элементы основного множества
и=ир
называются в теории вероятностей элементарными событиями, а множества А из системы
S - ®ip
— случайными событиями. Отсюда вытекает, что «элементарные события» не являются «случайными событиями» (даже в том случае, если множество {и} из одного единственного элементарного события и принадлежит системе 7, что тоже не обязательно).
По сравнению с [34] и другими изложениями теории вероятностей, построенными по тому же принципу, установленный сейчас подход к делу содержит два новых ограничения: а) вероятность должна удовлетворять требованию (р.3), включённому в определение меры в § 2, б) вероятность считается совершенной в смысле § 3. Оба эти ограничения полезны при дальнейшем развитии теории и в то же время не суживают области действительно интересных применений.
Условная вероятность случайного события А при условии наступления случайного события В с Р (в)>0 определяется равенством
Легко доказывается (см. [34]), что при фиксированном В условная вероятность обладает всеми свойствами обычной «безусловной» веро
ятности.
Измеримые относительно Р функции 6 (zz) от элементарного события и называются случайными величинами.
По самому определению измеримой функции (см. § 4) случайная величина принимает лишь действительные значения.
Только такие действительные случайные величины и имеются в виду в общих рассмотрениях этой главы. Но перенесение определения и простейших свойств математических ожиданий на комплексные случайные величины, т. с. на измеримые отображения основного множества U, в комплексную числовую плоскость не представляет затруднений.
Математическое ожидание и условное математическое ожидание определяются формулами
= p(«)P(d«), MG|B)=p(«)P(d«|8)
17
Во всём дальнейшем мы будем обозначать случайные величины греческими буквами Е, т), С, опуская при этом аргумент и. Вместо P(z/zz) мы будем писать dP. В соответствии с этим определение математического ожидания запишется в виде
м$ = J up.
и
Вычисления с условными математическими ожиданиями удобнее всего вести на основе легко доказываемого равенства
M^s^-^L-JuP.(1)
7 в
Заметим ещё, что в выражениях
Р ( ...) или J ^dP
(...)
(•. .) всегда будет обозначать множество тех элементарных событий, для которых выполняются поставленные в скобки или под знаком интеграла соотношения между функциями от них. Например,
Jup
1^1 < а
обозначает интеграл $ (и) по множеству тех и, для которых | £ (zz) [<я.
Распределения вероятностей в R1 и в Rn
Любые п случайнык^еличин
^р ^2» • • • > ^п
могут рассьцтридашя как ^-мерный случайный вектор
$ = (^, $2» • е * 1 ^п)-
Очевидно, что n-мерный случайный вектор отображает основное множество U в n-мерное координатное пространство Rn. Возникающая rfT этого отображения в соответствии с определением 4 § 2 мера
р^рГ
называется распределением вероятностей случайного вектора 5, или совместным распределением самих случайных величин $п $2? ;. .Д. В развёрнутой форме её обозначение пишется так:
Р^-Р^...^
Легко доказывается, что каждый случайный вектор отображает U в Rn измеримым образом, т. е. область определения
®: = 9Лр^
распределения вероятностей Р^ содержит все открытые, а следовательно, и все борелевские множества пространства Rn. В соответствии с § 3 отсюда вытекает, что мера Р^ обладает и свойством (р.5). Обратно, любая мера р. с
U^R\
обладающая свойствами (р.4) и (р.5) и удовлетворяющая условию
^(^") = 1,. Г)
может служить распределением вероятностей n-мерного случайного вектора. Для доказательства этого утверждения достаточно выбрать за множество U само пространство Rn и положить
Р = Ь
а за отображение $ принять тождественное отображение
Ци) = и.
Меры в R^ обладающие свойствами (р.4) и (р.5) и удовлетворяющие условию нормировки (*), мы будем называть п-мерными распределениями и обозначать преимущественно буквой Р.
Практически наибольшее значение имеют два специальных класса и-мерных распределений: распределения непрерывные и распределения ди с к р е т н ы е.
Распределение Р в Rn называется непрерывным^ если оно представимо в виде
Р И) = f Р О) dxxd)
28 распределения вероятностей, случайные величины [гл. 1
где знак dx сбозначает интегрирование по обычной лебеговской я-мерной мере, а функция р (х)— суммируемая по Лебегу функция от точки (вектора) х £ RW' Как известно, функция р (х) определяется по распределению Р с точностью до своих значений на множестве меры нуль однозначно. Она называется плотностью соответствующего распределения. Если Р=Р^ есть распределение вероятностей случайного вектора 5, то
Р (х) = р^, (х)
есть соответствующая вектору 5 плотность вероятности. В развёрнутой форме плотность вероятности вектора ^ = (51,52>^п)
пишется в виде
Р^ (*)• ^Х^р х2’“ •’
и называется плотностью вероятности системы случайных величин £п $2, .. ., $п.
Распределение Р называется дискретным, если оно представимо в виде
Р^ = 2 Рю(2)
ж(^) С А
где х^—точки из /?п, данные в конечном, или счётном числе, а рк—неотрицательные числа (сумма их, конечно, должна равняться единице).
Если распределение вероятностей Р^ некоторого случайного вектора 5 дискретно, то все точки х, для которых
Р(£ = х)> О,
называются его возможными значениями. Очевидно, что только эти возможные значения играют существенную роль в формуле (2).
Перейдём теперь к распределениям на числовой прямой R}, т. е. к распределениям вероятностей Р^, отдельных случайных величин 5. К этому частному случаю п = 1 применимо всё, что было сказано о распределениях в Rn для произвольного п. Как уже отмечалось в § 1, в одномерном случае часто оказывается целесообразным специально выделять значение функции Ре (Д) для множеств Д, состоящих из всех точек числовой прямой R1^ лежащих левее какой-либо фиксированной точки а, т. е. (несобственных) интервалов
( — оо ; а).
Рассматривая эти значения как функцию от а, получаем функцию распределения
F^a^ = P^ — оо ; а) *=Р(^< а)
случайной величины В.
В [85] можно найти доказательство следующих двух предложений:
) Одномерное распределение Р(А) однозначно определяется соответствующей ему функцией распределения
F(a) = P^—оо; а).'
Для того чтобы функция F (а) могла быть функцией распределения, необходимо и достаточно, чтобы она была неубывающей при всех а, непрерывной слева и имела предельные значения
F( —оо) = 0,F( + oo) = l.
Очевидно, что в случае непрерывного распределения Р соответствующая функция распределения представляется в виде
а
F (а) = J р (х) dx.(3)
где интеграл надо, вообще говоря, понимать в смысле Лебега.
В случае дискретного распределения, заданного формулой (2),
2 Рк-(4)
о№ <а
Очевидно, что при этом
рк = F ^ + 0)— F<x^y
Для произвольного распределения Р^ (Д) имеет место аналогичная формула '
Р($ = х)=^(х + 0) — F^x).
Так как сумма вероятностей непарно несовместимых событий не превосходит единицы, то число точек, в которых
F(x + 0) — F (х) >0,
т. е. точек разрыва функции F (ху не более чем счётно. Если при некотором х F (х 4~ 0) — F (х) — 1, то распределение называется несобственным. Всякое распределение, отличное от несобственного, называется собственным.
Распределения вероятностей употребляются для вычисления математических ожиданий. Именно, если случайная величина $ представлена в виде измеримой по Борелю функции
■*12* • • Чп)
от других случайных величин тц, т|2, ..., т|п, то в силу теоремы 1 из § 4
MS - f UP - J/ (у) P4Wn ш.(5)
и нп
Если совместное распределение величин т^, т)2, ..., т]^ непрерывно, то (5) записывается в силу теоремы 2 из § 4 в виде)
ме=J / (у)...Чп о) dy.(6)
в".
В случае одномерного распределения Р (Д), которому соответствует функция распределения F (х), ъъ
f/(x)P(dx) = J/(x)dF(x) аа
будет обозначать интеграл
/ f^P<dx>
[а; Ь) по полуинтервалу
[я; ЬА = { а <^Х<Ь }
(если же я =—со, то по интервалу — со < х < by При этом интеграл
ь
всегда оказывается непрерывной слева функцией от верхнего предела b и сохраняется обычное соотношение
Ьсс
J/(х) dF (х) + J/(x) dF (х) = J /(х) dF (х). аЪа
Если функция /(х) непрерывна на сегменте [а; 6], то интеграл ь
7^J/(x)dF(x) а
может быть вычислен при помощи сумм Стилтьеса
Л=1 где
а = а0 ^ хг ^ ах ^ х2 ^ .. . ^ хп <^ ап — Ь.
Именно, при
max^ —^ft_j) -»0
суммы 5 стремятся к интегралу /. Интеграл
f/w р (^)=J / (^ др {х\
если он существует, может быть получен как ъ
lim J /(х) dF^xY а,->—со а b -> -|- со
Этим классическим способом вычисления интегралов
J f^P^dx")
нам иногда придётся пользоваться.
§ 7. Независимость. Композиция распределений
Произвольные функции
^1» ^2» • * • ’ ^1
от элементарного события и называются взаимно независимыми, если при любых
А]^^^ к=1, 2, .. ., и,
имеет место равенство
Г П\ п
Р иМ^) -Пр^М(1)
Это определение применимо к функциям ^ значения, которых имеют любую природу; это могут быть, например, действительные, комплексные или векторные функции аргумента и.
Нас будет специально занимать случай, в котором 5^ являются действительными случайными величинами, т. е. измеримыми отображениями множества U в числовую прямую R1.
Теорема 1. Если случайные величины ^До, . ..,^ взаимно независимы, то их совместное распределение Р^>. . .^п однозначно определяется распределениями
р^ k = i, 2,.п.
Как мера в
Rn=RlXRlX
оно является произведением
Р^ = Р-чХР-«Х..-ХР^(2)
мер Р^к в Р1-
Доказательство. Для любого множества А £ Rn вида
Д = Д1ХЛ2Х ••• ХАп. где
равенство (1) непосредственно доставляет формулу
р^ч- • -ч^=рч^ р№-• Аг^- (3)
К числу этого вида множеств относятся все параллелепипеды в Rn, определяемые неравенствами
ак < хк < Ьк; k = 1, 2, ..., //.
По значениям же Ру . • *\^ (^ для таких параллелепипедов мера P^v . -^п(А) однозначно определяется на всей своей области определения Sy.r • -^ (как всякая мера, обладающая свойствами (р»4) и (р.5)). Формула (2) и является записью изложенного сейчас построения меры Р^- • *^п(А) по мерам Р^. (см. [85]).
Если все распределения Р^к непрерывны, то формула (2) переходит в классическую формулу умножения плотностей
' ^п^Р Х^ ' * * ’ Х^ " П^ Рс,к (xkY(4)
В соответствии с основной темой этой книги особый интерес для нас имеет не n-мерное распределение величин ^, $2, ..., £п, а одномерное распределение их суммы
^ = ^1 + ^2 + * ' * + ^-
Так как в случае взаимной независимости всех слагаемых Еп $2, ..., £п слагаемое Ед+1 независимо от суммы
^ = ^ + ^+.--+^
то вычисление распределения суммы ^п можно производить шаг за шагом при помощи следующей теоремы о распределении суммы двух независимых слагаемых:
Теорема 2. Если случайные величины 5 и^ независимы друг от друга, то распределение их суммы
даётся формулой
Здесь А—у обозначает множество тех х, для которых хЛ-у Е а.
Для доказательства теоремы достаточно заметить, что
p.G4) = P(6+iq€^) = ^(s)>
где В есть множество тех точек (х, jz) плоскости R\ для которыхx + jz^ Д.
По теореме Фубини лав)=^р^р^,е)
В1
где Ву есть множество тех х, для которых
(х, у)^В.
В нашем случае
ВУ = А— У-
Поэтому, из (*) получается (5).
Так как
(—оо; г)—у = (—оо; г—у^
то из (5) для
^ (г) = Рг (—оо; г)
находим
Pc (^) = JP{ (^ —У) dF^ (у).(6)
Если распределения Р^ и Р^ непрерывны, то (6) переходит в
Pt. (*) = j P^z —у) рА О) dy.(7)
Отвлекаясь от сложения независимых слагаемых, мы будем называть операцию
P^-JpjA — y^P^dy),
В1
F(z) = jFt^-y)dF^), Р О) = J* Pt кг —у) p^dy
композицией распределений, функций распределения и плотностей и обозначать её
Р = РР2, F = FX^F^ P = Pi^P^
3 Зак. 5374. Гнеденко и Колмогоров.
Эта операция изучается в анализе и вне связи с теорией вероятностей. Мы будем пользоваться смешанным методом, т. е. выводить различные свойства композиции распределений иногда чисто аналитически, иногда же с привлечением свойств независимых случайных величин. Это законно, так как для любой конечной совокупности распределений
можно ввести распределение в RH
Р = РхХР^Х • •-ХРп*
Как уже отмечалось в § 5, принимая за множество элементарных событий U пространство Rn и полагая
Р = Р,
^к (#1 ^2’ е * • ’ ^п)^к»
мы получим случайнее величины Лх^ •••, ^ с совместным распределением
— Р-
В силу самого определения распределения Р эти случайные величины будут взаимно независимы и будут иметь распределения
р^=рк-
Из сказанного вытекает, в частности, что композиция распределений является операцией коммутативной и дистрибутивной. С вероятностной точки зрения это очевидно. Чисто аналитическое доказательство, впрочем, тоже несложно.
§ 8. Интеграл Стилтьеса
Значительная часть теории интеграла Лебега может быть перенесена на интегралы более общего вида
J /О) ? (^), А
где ср (Л) есть вполне аддитивная функция множества, действительная, но в отличие от меры способная принимать и отрицательные значения.
Обычно предполагают вполне аддитивные функции множества определёнными на некотором борелевском поле множеств ЗЮ^, единицу которого мы будем обозначать U^ (см. [85]). Если для любого множество A^U^ положить
Р1[(л) = SUP ? (5), ^2 (л) = SUP [—®(S)Lь В CZ АВаА
где верхняя и нижняя грани берутся по всем множествам Вед из ®{ф, то эти новые функции множества ^(Д) и р(Д) оказываются всегда конечными, неотрицательными и обладающими свойствами внешней меры *у Если рассматривать их только на соответствующих системах 2Ка1 и SR^ измеримых множеств Д, то они превращаются в меры р^Д) и р2(Д). Всегда
^Е^П 2)^
и на 3R?
? U) = Fi (-4) — М4)-(О
По определению,
J /(х) Ф (</х) = J/ (х) р^ (</х) — J / (х) р2 (dx),(2)
ААА
где pt й р25—меры канонического разложения функции 7, причём интеграл в левой части существует (по определению) в том и только в том случае, когда существуют оба интеграла в правой части. При произвольном разложении (1) формула (2) тоже имеет силу, если существуют оба интеграла в правой части, но интеграл в левой части может существовать и в случаях, когда интегралы в правой части не существуют.
В одномерном случае, когда U^ есть числовая прямая, меры р^ и р2 удовлетворяют требованиям (р4) и (р5), а множество А есть полуинтервал [а; Ь') (или интервал (—оо; Ь) в случае а =— оо.), интеграл (2) пишут в виде
ь У/(х)й?Ф(х), а
где
Ф(х) —<р (— оо; х).
Так как
Ф(х)=М1(х) —М2(х), где
Mt (х) = цг (—оо; х), М2 (х) = р2 (—оо; х)
— монотонные функции с
Mt (— 00) = М2(— оо) = 0, Mj (+ 00) = нД^1)- М2(+оо) = ^(Т?1),
36 распределения вероятностей, случайные величины [гл. 1
то Ф имеет ограниченное изменение на всей числовой прямой, непрерывна слева в каждой точке и имеет предельные значения
Ф (—- оо) = О, Ф (+ оо) = ф (Я1).
Если функция /(х) непрерывна, то интегралы (3) можно вычислять при помощи сумм Стилтьеса, как указано в конце предыдущего параграфа.
В современном изложении кажется целесообразным все интегралыJ /(х)ф (dx),
где ф — мера, т. 'е. неотрицательная вполне аддитивная функция множества, называть интегралами Лебега, а для случая ф, могущей принимать и отрицательные значения, сохранить название интеграла Стилтьеса.
ГЛАВА 2•
РАСПРЕДЕЛЕНИЯ В Я1 И ИХ ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ
.§ 9. Слабая сходимость распределений
Мы уже видели, что с общематематической точки зрения распределение вероятностей (или, как мы будем систематически далее говорить, просто распределение) на числовой прямой Я1 является специальным случаем меры, заданной на R1 и обладающей свойствами (у 1—5). Из числа таких мер распределения выделяются условием нормировки•
Р(^) = 1.
Напомним обычное в функциональном анализе•
Определение. Если меры
Р-1, у2,- • ., Н«). ••
и у определены в одном и том же метрическом пространстве U и обладают свойствами (у 1—5), то говорят, что последовательность уп слабо сходится к у, если для любой ограниченной непрерывной функции /(х), заданной на U, имеет место соотношение
Рп (du) -> J/(и) р (du). . ии
Применяя это определение к распределениям в У?1, мы получим тип сходимости распределений, который играет основную роль в большей части этой книги. Слабая сходимость уп к у обозначается знаком
Рп => Р-
Отметим с самого начала следующее предложение, которое нам понадобится далее:*
Теорема. Если у^ г=> у, функция g(x) ограничена и непрерывна и
Ь» (A) = J g (X) р„ (dx), X (Д) = J g (х) р (dx),.
АА
то Хп =|> X.
Для доказательства заметим^ что при любой ограниченной и непрерывной функции /(х) из р.п => у. вытекает
f / w g (я) н» (^) -► f / w g со ^ w, ии
в силу же теоремы 2 § 4 это обозначает, что .
jf(x)Xtt^jftoXWии
чаще всего вместо них функции распределениячаще всего вместо них функции распределенияВ случае одномерных распределений мы будем рассматривать соответствующие им
чаще всего вместо них функции распределения
чаще всего вместо них функции распределения
F^ = P^—сю; х)
и вместо Рн ^=> Р писать
F ~ > F
1 П 1 •
В этом случае более наглядное представление о том, что представляет собой слабая сходимость, можно получить при помощи следующей теоремы:
Теорема 1. Для слабой сходимости Fn => F каждое из следующих трёх условий является необходимым и достаточным:
Fn(x) —> F^ в каждой точке х. являющейся точкой непрерывности предельной функции распределения F(x);
Fn(x) -> F^x") на некотором всюду плотном множестве С точек числовой прямой^
L(FW F) -* О, где расстояние L(G, F) между двумя функциями распределения О и F определено как нижняя грань таких h, для которых при всех х
F(x — h) — A<O(x)<F(x + ^) + ^.
Расстояние L(G, F) между функциями распределения введено
Черт. 1.Черт. 1.
Черт. 1.
Черт. 1.
П. Леви. На черт. 1 изображена полоса, в которой должен помещаться график G (х) для того, чтобы выполнялось неравенство
L(Q, FX/l
Соверщенно элементарно доказывается, что наше расстояние удовлетворяет аксиомам метрического пространства:
Z(Ff G) в том и только в том случае, когда F — G,
ЦР, G^L^G, F),
£(F, H)<L\F, G)4-L(G, Ну
Доказательство теоремы 1 мы проведём следующим образом: обозначив через (IV) само утверждение о слабой сходимости FH => F, мы докажем, что имеют место такие соотношения между предложениями (I), (II), (III) и (IV):’
Ж
(1)-*(П)<>(1).
Утверждение (1)->(П) очевидно. Поэтому сразу переходим к доказательству утверждения (П)->(Ш). Выберем какое-либо е>0 и найдём такие а^С и Ь^С, что
Разобьём сегмент [a; 6J точками
а = а0<аг< . . . <^а8 = Ь,принадлежащими С, на сегменты [ак_г; ак] длины меньше г и найдёмтакое N, что при n^N во всех точках ак выполнены неравенства
Докажем теперь, что при любом х и n^N
F(x — е) — s < F„ (х)< F (х 4-s) 4~ в.(1)
При доказательстве рассмотрим отдельно несколько случаев. Если
FwVc)<W<F (aJ4-7<F(x + s) + -g-’
F н (х) > Fn <ак_^ > F^k-i) — ^>F^x — a) — ^.
Если
x < a0,
FH(x)^.Fn(a0).^.F(a0)+ ® < e< F(x)4-e,
FH (x) > 0 >7 (aQ) - -J > F (x) - f.
Если
x ?> as,
ТО
Fп (х) ^ 1 ^ ^ (^з)~2 ^ ^ ОО + *2* ’
Fn (х) > Fn («») > F (а8) — у > 1 — $ > F (х) — г.
Так как г>0 произвольно, то из неравенства (1), которое можно переписать в виде
W FHX^ вытекает наше утверждение.
Та же самая конструкция позволяет доказать (II) -> (IV). Обозначим через М верхнюю грань |/(х)| и выберем а^С и Ь^С так, чтобы
F^aX^ 1— F^bX^
Так как на сегменте [а; Ь\ непрерывная функция /(х) равномерно непрерывна, то существует такое подразделение этого сегмента точками а^ из С
а = а0<аг< а^<.. а8 = Ь, для которого всегда
№)—/(«&)! <s при
ак<х < а^+1; А = 0, 1, 2,..., 5’— 1.
Построим вспомогательную функцию
( /(«к) при аК<.х <акл.<, А = 0, 1, 2,.. ., s— 1, / (х) = { л
( 0 при х < я 0 и х^а8.
Очевидно, что для любой функции распределения G (х)
Г Ato dG^ = s'/to) [о (аи t) - G №.
Jfc = 0
Так как Fn (х) -> F (х) при л->оо в точках х = аь то
f A to dFn (х)J А (х) dF (х).(2)
В то же время для любой функции распределения О(х)
а
J |/(x)-/e(x)|dG(x)= J |/(x)-/.(x)|rfG(x) +
+ J I/ М - А (х) | dQ (х) + ( |/(х) —/, (х) | dG (х) <
<AfG(a)4-e[G(»)—0(а)] + Л[1 —0(6)].
Применяя эту оценку к случаям G (х) = F (х) и G (х) = Fn (х) и замечая, что Fu(a) и Fn(b) сходятся к F (а) и F^b)^ легко уста-
новить, что при достаточно большом п
/ |/(х)-/е(х)]^(х)<(2Ж+1)®,
/\№-fAxW^M<^MV^.
Вместе с (2) при достаточно большом п это даёт
| J/ (х) dFAx) -ff(x) dF (х) | С (4Ж + 4) е.
Так как е > 0 произвольно, то наше утверждение доказано.
Докажем, что (III)—>(1). Пусть х0 есть точка непрерывности F (х).
Тогда при любом г > О, ^
существует такое 8 > 0,~—— у
что\
l^to-f^Ke\
при |х— х0|<8.\
Пусть'1*—"I ■■
|H=min(e, 8)^сГ® ^<Т0*6
и п столь велико, что
L (Fn, F) < И. Тогда легко видеть, что
Fn (^о)
>F(x0 — Н)—Н>
Fп (*о) ^
<Г(х0 + Н) + /7<
<F(x0) + 2s.
Ввиду произвольности е наше утверждение доказано.
Докажем, наконец, что (IV) -> (I). Пусть х0 является точкой непрерывности F (х) и
Fn => F.
Возьмём такое 8 > 0, что при | х — х01 < 8
\F^-F(x0)\<b,
и построим функции (черт. 2)
/1 w =
1
XqX
6
О
1
при
при
при
х^х0 — 8,
х0 — 8 ^ х ^ х0,
/a(x) = jl-^Uо
при при при
X ^ Xq,
Легко подсчитать, что
]*Л(х)</Г(х)>У ldf(x) = F(x0 —S)> f (х0)^г,
>(3)
J/2(х) ^(хХ J ldF(x)—F (х0 + о)< F (х^ + г,
J А (х) dFn (х)< J 1 dFn (х) = FH (х0),
(4)
J/2 (*) dFn О) > У 1 dFn W = Fn (^о)-
При достаточно большом п
| JЛ (*) dFn (х) - / А (х) dF (х) | < 6,
| J/2 (х) dFn (х) — J А (*) dF (х) | < е.
Из (3), (4) и (5) вытекает
F Ао) — 2® < ^n X) < F (х0) + 2г.
Так как е>0 произвольно, то утверждение (IV)*->(!) доказано.
Вместе с тем закончено и доказательство всей теоремы 1.
Теорема 2. Метрическое пространство 911 одномерных распределений с расстоянием L(F, G) является полным.
Пусть для последовательности Fv F^ ..., Fn,... выполнено условие Коши
L(Fn,Fm~)-»O(6)
при п-^оо^ т-*оо. Выберем всюду плотное множество
С= { х^» х^, ... , xss • • • }
точек йа числовой прямой. Так как значения Fn^x^ ограничены, то известным диагональным рассуждением доказывается существование подпоследовательности
^п^х), Fu^x\ . .. , Fпк^хУ • • • >
которая сходится в каждой точке х = ху Предел
•уХ) = lim F (х8)■
определён на множестве С и является на нём неубывающей функцией.
Положим теперь
F(x) = sup ^(Ха).
«8<ф
Функция F(x) определена на всей числовой прямой, не убывает и непрерывна слева. Из (6) легко вывести, что
F(— оо) = 0 и F(4~°°) — 1.
В самом деле, при любом е>0 существует такое п, что L (F^ Fm) <е при т^п. Можно найти z, для которого Fn(^)<e. Тогда при Хв<2— г
F»b (ха) < Fn(г) + е< 2а при пк> п и поэтому
?(Ю<25-
Так как е>0 произвольно, то отсюда вытекает, что F(— 00) = 0.
Аналогично доказывается, что F(-\-co) = 1.
Легко видеть, что РПк(Л) сходится к F(x) в каждой точке непрерывности этой последней функции. Поэтому
HmL(F„ , F)-» 0.
А->оо К
Вместе с (6) отсюда вытекает lim L (Fn, F) -> 0.
п->оо
Теорема 3. Для того чтобы множество распределений S было компактно в Э?1, необходимо и достаточно, чтобы в пределах S условия
F(x)->0 при х -* — сю,
F(x)->1 при х—> -|~ сю выполнялись равномерно.
Доказательство. Пусть дана последовательность функций распределения Fn (х) из 5. Так же как в доказательстве теоремы 2, выбираем всюду плотное на числовой прямой множество С, и подпоследовательность
FniW. рп^_..;рпдх\
сходящуюся к некоторой неубывающей, непрерывной слева функции F (х) в каждой точке непрерывности этой последней. Условие теоремы гарантирует, что предельная функция F(x) удовлетворяет требованиям
F( — ^ = 0, F( + od)=l, т. е. является функцией распределения.
Определение слабой сходимости в начале этой главы было дано для мер р без требования нормировки
приводящего к распределениям . вероятностей. Как было отмечено в § 8, любой мере р в /?* соответствует неубывающая, непрерывная слева функция
М (х) = у ( — оо; х),
М( —оо)=0, Mt + oo)^^^1).
В соответствии с § 8 мы будем обозначать
J/(х) р (dx) = J /(х) dM (х)
и вместо слабой сходимости y.Zi ==> у. говорить о слабой сходимости соответствующих функций М(х): Мп => М.
Читатель легко проверит, что теоремы 1, 2, 3 сохраняются в этом случае в следующей форме (см. [85]):
Теорема 1 bis. Для слабой сходимости Mn => М каждое из трёх следующих условий является необходимым и достаточным;
Мп (х) -> М (х) в каждой точнее х, являющейся точкой непрерывности предельной функции М (х) иМп ( + оо) —> М (+ °°);
Mn (х) -> М (х) на некотором всюду плотном множестве С точек числовой прямой и Мп (4~ 00) -> М (+ °°) 5
L (Mn, М) -> 0, где расстояние L (Мп М2) между двумя функциями Mt и М2 определено как нижняя грань таких h, для которых при всех х
М^х — h) — /г<М2 (xXMi (x + /z) + /z.
Теорема 2 bis. Пространство ЭТО1 функций М(х) с расстоянием £(МР М2) является полным.
Теорема 3 bis. Для того чтобы множество S было компактно в 2R1, необходимо и достаточно, чтобы на множестве S предельные значения М (+ сю) были ограничены и условия
М(х) -> Опри х —>— оо,
М (х) —> М (+ оо) при х -> -{- оо
выполнялись равномерно.
§ 10. Типы распределений
Часто бывает полезно наряду со случайной величиной $ рассматривать случайную величину т], связанную с ней линейной зависимостью
-/}= дг£ —
{а > 0 и b— постоянные). Известно, что геометрически это преобразование означает изменение масштаба и начала отсчёта. Функ-
ции распределения величин $ и т;, как легко видеть, связаны между собой равенством
F^-F^ax-Y-b).
Для иллюстрации заметим, что если при решении некоторой задачи мы получили в качестве искомого нормальное распределение
1? (е—ау
=е ^ dz,
то для численных расчётов мы не станем для этой функции создавать специальные таблицы, а используем готовые таблицы функции
ф| е 2 dz,
заметив, что F (х) и Ф(х) связаны равенством
Г(х) = ф(^).
В связи со сказанным естественно ввести в употребление следующее понятие.
Определение. Функции распределения Ft (х) и F^ (х) принадлежат одному типу, если для некоторых постоянных а > 0 и b имеет место равенство
F2(x) = F1 (ах + ^),
или, что то же самое, равенство
Так как свойство однотипности взаимно (симметрично) и транзитивно, то совокупность всех функций распределения разбивается на непересекающиеся между собой типы.
Легко видеть, что все нормальные законы распределения образуют один нормальный тип; все несобственные функции распределения образуют тип несобственных функций распределения.
Всякий тип функций распределения, отличный от несобственного, называется собственным.
Важность понятия типа для излагаемой далее теории выясняется следующей теоремой [73].
Теорема 1. Если последовательность {Fn (х) } функций распределения при п —>оо сходится к функции распределения F (х), отличной от несобственной, то и при любом подборе постоян-
пых вп>0 и Ьп последовательность {Fn(anx~^ bn) } может сходиться к собственному закону только типа F^x\
Доказательство. Предположим, что при п-> соF^x)^F(x) и ^п (апх + Ь^ => Ft (х), причём законы/7 несобственные. Нам нужно доказать, что существуют такие а>0 и Ь, что
Fx^ = F<ax-Yb\(1)
Выберем прежде всего такую последовательность целых чисел пх < п.2< .. .<.пп< ..., чтобы существовали пределы lim апк = а, к оо
lim bftk = b (0 ^ а ^ 4* оо, — оо ^ b ^ 4“ °°)- к-> оо
Будем далее рассматривать только эту последовательность индексов и, чтобы двойные индексы не осложняли обозначений, мы допустим (не ограничивая общности рассуждений), что
lim ак = а, к->соlim ак = а, к->соНт bk = b. к-> ооНт bk = b. к-> оо
lim ак = а, к->со
lim ак = а, к->со
Нт bk = b. к-> оо
Нт bk = b. к-> оо
Докажем, что 0<а<4-оэ. Допустим сначала, что ^ =-^ оо. Обозначим через и верхнюю грань чисел х, для которых
lim ^tnx-Y 6n)<h сю.
11 -> со
Так как при -и<х<и
lim(<z„v+6n)<П -> ООlim(<z„v+6n)<П -> ООlim (-V — х) ап + lim (апх 4- Ь^, 1Ъ-> СОп->оо
lim(<z„v+6n)<
П -> ОО
lim(<z„v+6n)<
П -> ОО
то в силу сделанных предположений при любом ® < и lim (а^ 4 М = — 00
П -> ОО
и, следовательно, F1(,») = 0 при у<м. При у>и
lim (any-Yb^ = сю,п -> ОО
и поэтому Fx (у) = 1 при V > и.
Предположение а = оо противоречит тому, что закон /^(х) собственный, следовательно, его нужно отбросить.
Отсюда немедленно следует, что и b должно быть конечным.
Действительно, предположения
lim(anx4-^n)== + 00 > Hm(anx4-M =— 00
приводили бы к тому, что в первом случае FJx)^!, а во втором ^(х)^0.
Предположим теперь, что а=0. В этом случае для любых х и е > 0 при достаточно больших п
b — е <С анх 4- bn ^ b 4* s*
Отсюда
Fn — Fn (апх + 6J < Fn (b е), и если е выбрано так, что функция F (х) непрерывна в точках b— s И 6-|-8) ТО
' Р(Ь-^<Р^<Р(Ь-уеУ
Так как х произвольно, то должно быть
F(b — е)=0, F(fr-H) = l, т. е. закон F (х) несобственный, что противоречит условию теоремы. Пусть, наконец, х выбрано так, что F ^ непрерывна в точке ах4~£} а Fx^ непрерывна в точке х. Тогда, с одной стороны, limF„(a,iA:4-<>n) = F1(x), П -> ОО а с другой,—
lim Fu (апх + b„) = F (ах + Ь). П-> ОО
Последнее равенство требует пояснения. Так как lim (а)8х -J- bn^ = ax-\-b, H-> co
то при достаточно больших n
ax -\- b — s ^ anx -\- bn^ax-\- b Jr г, где e > 0 выбрано так, что функция F непрерывна в точках ах Ц- b—е и ах 4* b + е. Отсюда
FH (ах + b — г) С Fn (апх -|- bn) <Fn(ax-Vb + г) и в пределе при п -* оо
F (ах 4- b — е) < lim Fn (апх + b^ < limF„ (апх + b,)<.F(ax Н^®)'- n -> ООП СО
Так как ах4~£ — точка непрерывности F (х), а а произвольно мало, мы из предыдущих неравенств получаем (1).
Теорема доказана.
Для дальнейшего нам будет необходимо также следующее предложение [19].
Теорема 2. Для последовательности функций распределения ^nW пРи n-^^o соотношения
^п {ЬпХ 4“ ttn^ ^ (-^) э(2)
Fn (^пх 4- a,J => F (х),(3)
где Ьп>^, Рп > 0, а1П ап — действительные постоянные. йР(х)— собственная функция распределения, выполняются одновременно тогда и только тогда, когда при п-^оо
Ьп ’ ЬпV )
48 распределения в ^ и их характеристич. функции [гл. 2
Доказательство. Докажем сначала, что из (2) и (4) следует (3).
Пусть хп х и х2— точки непрерывности функции F (х), причём xt<x < х2. Тогда в силу (4) при достаточно больших п
т. е.
Ь,А + ап < $пх + ап < Мз +
Отсюда заключаем, что
Fn ^пх1 Н~ ^п) ^ ^? (Рп-^ “Ь ап) ^С Fu (ЬпХ2 “4~ О^*
В пределе это даёт
Г^ХШи F„ (М + я«) ^““/’«(Р^ + ^Х/’М- п -> соп -> со
При х^х, х3-> х только что написанная цепочка неравенств превращается в соотношение (3).
Докажем теперь, что, обратно, из соотношений (2) и (3) вытекают соотношения (4). С этой целью введём обозначения Вп = ^-, Аи = ™ ь йп> Gn (х) = FuVbnx*V ап\ Легко подсчитать, что в этих обозначениях соотношения (2) и (3) переписываются в таком виде: при п -> оо'
<?п (*) ”> F <х\
Gn (BnX + ^)->F(x).
Как и при доказательстве предыдущей теоремы, выберем такую последовательность nv < п^< ... < пк < ..., что при к -♦ оо
^п^ “^ А, Вп?с —> В.
Проведённые там рассуждения доказывают, что А и В должны быть конечными числами (В > 0) и что должно иметь место равенство
F(x)=F(Bx-VA).(5)
Предположим, что Вф1, и рассмотрим два возможных случая.
Случай В <\. л-кратное применение равенства (5) приводит к соотношению
F^ = F {Впх + А (1 + В + ... + Bn-^Y
В силу произвольности п и равенства Иш Вп = 0 мы заключаем от- п -> оо
сюда, что при любом х
Для функции распределения это равенство невозможно.
Случай В > 1 сводится к предыдущему, так как (5) может быть записано в виде
F(x) = f(1x4).
Итак, должно быть В = 1..
Если при этом Д :£ 0, то равенство (5) приводит к следующему: F (х) = F (х + nA),
где п—произвольно. Отсюда находим, что при любом х
F(—оо) = lim F (х -f- nA) = F (х) =
Ап ->— оо
= lim F (х4~ nA) = F (4* °°).
Ап -> 4- оо
Так как эти равенства для функции распределения невозможны, то Д = 0.
Итак, доказано, что при к -> оо
^пн~^^^ Bnk-^V, докажем, что также
Ап -> О, Вп -> 1, (п -> оо).(6)
Предположим обратное; тогда существует такое число о > 0 и такая последовательность индексов п^, что выполнено по крайней мере одно из неравенств
liml#,—1|>^, Ит|Д,|;>о.(7)
к -> со к^-^со к
Без ограничения общности мы можем выбрать эту последовательность индексов так, что при к~>оо
А ' ->А' В г ~>В\п ’ пк
Из предыдущего ясно, что должно быть Д' = 01 Вг = \. Но эти равенства противоречат (7). Соотношения (6), а значит и (4), таким образом, доказаны.
. Определение и простейшие свойства характеристических функций
Из элементарных курсов теории вероятностей известно, сколь большие услуги при изучении сумм независимых случайных величин оказывают их дисперсии
D2S=M(S — MS)2.
Употребление дисперсий (например, при доказательстве теоремы Чебышева) основано на том их основном свойстве, что в случае
4 Зак. 5374. Гнеденко и Колмогопов.
независимых слагаемых ^ их дисперсии складываются:
D2 (^ + *2 + • • • + U = D24 + D2c2+ ... + D4n.
Это свойство дисперсии суммы независимых слагаемых аналогично свойству математического ожидания суммы
м G1 + е2+ •.. +М = М^'ч- ме2+ ... + М?„
(для математических ожиданий, как известно, требование независимости слагаемых излишне). Естественно поставить общий вопрос о нахождении дальнейших характеристик ДЕ случайных величин, которые хотя бы в случае независимых слагаемых обладали свойством аддитивности ’
A G1 + ^2 + • • • + ^п) = ^Ч + ^2 + • • • + ^w
Успех в этом направлении был бы ещё полнее, если бы указанные характеристики имели определённое конечное значение для всех решительно случайных величин (в отличие от математического ожидания и дисперсии, существование которых является дополнительным ограничением).
Ответ на этот вопрос доставляется введением понятия характеристической функции случайной величины ; (см. об этом также §15)
f= (Q = Ме^ = Jе«= dF^xY(1)
Употреблённое здесь перенесение понятий математического ожидания и интеграла на функции с комплексными значениями, конечно, не составляет затруднения: если w (х) = w (х)-|-^ (*), to полагают
J w (х) р (dx) = f и (х) р (tZx) -ф- Z J -и (х) р. ^dx\ АА
Так как
|^1 = 1,(2)
то функция Д(/) определена для всех вещественных t при любой функции распределения F^^x). Функции распределения и соответствующие им характеристические функции мы будем обозначать одними и теми же буквами, но соответственно прописными и строчными.
Теорема 1. Характеристическая функция равномерно непрерывна на всей прямой и удовлетворяет условиям
/(0) " 1, |/(/)j<l (—ОО</< J-00).(^)
Доказательство. Соотношения (3) вытекают непосредственно из определения характеристической функции (1). Нам остаётся доказать равномерную непрерывность функции /(х). С этой целью выведем
§11] ОПРЕДЕЛЕНИЕ И ПРОСТЕЙШИЕ СВОЙСТВА ХАРАКТЕРИСТИК. ФУНКЦИЙ 51 одно неравенство, которое будет нам полезно и в дальнейшем, а и^нно: если
F^ — F(— Л)>1— е,то,
1/(0— /(О|<Л |Г-Г|+2е.(4)
Для доказательства заметим, что при действительных z' и г" справедливы неравенства
р«"— егг' |^|г" — z' |, так как | ^ efe| = l,•pis" — eia' |^2.
Поэтому
/(О—/(01 < J + f \eif"®— eu'®\dF(xX | ж | < А ] ж | > А
< J\U"x — it'x\dF (x) + 2[F(—Д) +1— F (4)]< | ж | < A ''
<Л|/" — Г|+ 2e, ч. T. Д.
Теорема 2. Если rj = ^-|~^, г^е a u ^ — постоянные, mo характеристические функции величин Ч и i\ связаны равенством f^V)=Akat)eiM,
и если а > 0, то их функции распределения удовлетворяют соотношению
F^-F^.y
Доказательство. Действительно,
Д (/) = Ме^ = 1№^+ь) = е^ М^ = ^^ Д (а/), а при а > О
^W-pfaE + K,] = р{е<^}=Ге(^).
Преимущества применения характеристических функций основаны главным образом на следующем их свойстве.
Теорема 3. Характеристическая функция суммы двух независимых случайных величин равна произведению их характеристических функций.
Доказательство. Очевидно, что вместе с $ и ^ независимы также случайные величины ^ и еиК Поэтому *).
Ms^^4"^ = М (^^ • е</7) = м^ . М^7).
Следствие 1. Если $ = Е,4~Еа+ ... +$„, причём каждое слагаемое ^ независимо от ‘ суммы предыдущих слагаемых 51 + ^+ • • • +^-1> то характеристическая функция $ равна произведению характеристических функций слагаемых.
Следствие 2. Квадрат модуля характеристической функции сам является характеристической функцией.
Доказательство. Пусть $ и tj независимы и имеют один и тот же закон распределения с характеристической функцией /(О- Тогда по теореме 2_
/_jo=/(-o=7(o и по теореме 3
А-, (0 =А (0 • Л. ^ =/(0 • Ж= 1/(012, ч. т. д.
Пример 1. Случайная величина $ распределена по нормальному закону с математическим ожиданием а и дисперсией а2. Характеристическая функция величины £ равна
I eitoczz-5 2а2 ОХ.
J V2K
Подстановкой
— its
оо —ita1 f _£Jе 2оо —ita1 f _£Jе 2^^iat^^iat? (0=е? (0=емы приводим Ср (Z) к виду
оо —ita
1 f _£
Jе 2
оо —ita
1 f _£
Jе 2
^^iat
^^iat
? (0=е
? (0=е
но известно, что при любом вещественном а
°° ГИГ
J е = ]/2тг,
следовательно, Ф^) = е 2
Пример 2. Случайная величина £ принимает только неотрицательные целочисленные значения, причём
р {Е = й)=^е-х (7; = о, 1, 2,
где Х>0— постоянная (закон Пуассона).
Характеристическая функция случайной величины $ равна
но=м^« = 2 ^^ р (^=&) = 2eitk ^е-х=
k=0fc=o
Легко найти, кроме того, что
Пример 3. Случайная величина у. равна числу появлений события А при п независимых испытаниях, в каждом из которых вероятность появления события А равна р.
Величина у- может быть представлена как сумма
^ = н+Н2 + •• • +^1
п независимых случайных величин, каждая из которых принимает лишь два значения 0 и 1, с вероятностями, равными соответственно <7 = 1—р и р. Величина у7. принимает значение 1, если событие А в &-м испытании происходит, и значение 0, если событие А в ^-м испытании не происходит.
Характеристическая функция величины ^к равна
/к ^ = Ме^Ч = eit0 q 4- еир = q 4~ ре^.
Согласно теореме 3 характеристическая функция величины у, равна
п/(о= Па(о=(?+^)".
Найдём, кстати, характеристическую функцию величины ij =
= ^—т==г. По теореме 2 она равна
У npq
—it/ t \t
f^t>=e ' 4 /\у^) = е г * 1 <я4-ре{ r^)” —
= (qe~uV iT^pe Г np) .
В заключение этого параграфа заметим, что определение характеристической функции в форме
/(/) = J eitx о (dx) = J eita? dФ (x)
Ri
применяется и в том случае, когда ср (Л) есть произвольная вполне аддитивная функция множества, а Ф (х) — соответствующая ей (см. § 8) функция
Ф (х) = с? (— оо; х).
При этом сохраняется теорема 3, принимающая такую форму:
Теорема 3 bis^ Если
? = ?1*?2» Ф = Ф1*Ф2>Ю
то при всех t
. /(О^ЛСОАСО-(5)
Здесь (4) обозначает, что
® И) = f ®1 И — ^) ?2 («00»
Ф () = J Ф1 (х —j) ^Ф2
Доказательство этой теоремы можно найти в руководствах, посвящённых преобразованиям Фурье. Нам удобнее, впрочем, вывести её из теоремы 3. Для этого достаточно заметить, что любая вполне аддитивная функция множества <?(Л) представима в виде
с?(Д)=^Р(Д) + ^ (Д),
где Р и Q — распределения, а а и b— константы (ср. § 8),
. Формула обращения и теорема единственности
Теперь мы докажем, что установленное в § 11 соответствие между распределениями на прямой и характеристическими функциями — взаимно однозначно.
Теорема 1. Пусть f(t) и F (х)—характеристическая функция и функция распределения случайной величины £. Если ххи х2— точки непрерывности функции F^x), то*)"
с
F^-F^ = lHm(1)
С->ОО1СU
Доказательство. Пусть для определённости хх < х2. Положим*
с
^V "^mdt
/it
—с
Подставляя сюда вместо /(/) её выражение и меняя порядок интегрирования, легко находим*
/. = > f Г«1 aF to =
—c
= 2 J ^2aZI^i2„ s^..4z_-x:^dtdF^0
Но при любых а и с
ССI 1 f sin а/1 тс J tОI 1 f sin а/1 тс J tОatatа при с —► со1 Г sin а/ ,, ——I^ >тс J tа при с —► со1 Г sin а/ ,, ——I^ >тс J tас1тс J зОас1тс J зО-— , если а > О,1— -^, если а < О,-— , если а > О,1— -^, если а < О,(2)(3)(2)(3)
С
С
I 1 f sin а/
1 тс J t
О
I 1 f sin а/
1 тс J t
О
at
at
а при с —► со
1 Г sin а/ ,, ——I^ >
тс J t
а при с —► со
1 Г sin а/ ,, ——I^ >
тс J t
ас
1
тс J з
О
ас
1
тс J з
О
-— , если а > О,
1
— -^, если а < О,
-— , если а > О,
1
— -^, если а < О,
(2)
(3)
(2)
(3)
причём это стремление равномерно относительно а в каждой области а > о > 0 (соответственно а< — 8 < 0).
Выберем теперь 3 столь малым, чтобы было х14”8<х2— 8, и представим 1С в виде суммы пяти, интегралов
а?!—8л"1+о ос—о а?2 + 3 оо
/й= / + / + J + J + J Ф (с. г; xu x^dF<z),
—coocv — о a?i4-8 ос,— 8 a?k4-8
где
с
г; Хр х2) = 1 |*
о
Из (3) следует, что равномерно относительно г при с —► оо
^ (г, г; xv х^ —► 0 при z < хх — 8 и z > х^ -[- 8 и
ф (с, г; хХ1 х2) —► 1 при х1-|-о<г<х2— 8.
В интервалах же (х1— 8, Х!-]-^ и (х2— 8, х24~8) заведомо
I 6 (с, z; xv х^ | С 2.
Полученные соотношения позволяют нам заключить, что при любом 8 > 0
lim/c = F(,v2 — 6) — F(x14-8)+/?(8, xn х8),(4)
С -> ОО
где
IR (§, xv х^ |< 2\F (хх + 8) - F <хх - 8) + F (х2 + 8)- F (х2 - 8)).
Левая часть (4) не зависит от 8, а предел правой части при 8, стремящемся к нулю, в силу выбора точек хх и харавен f(x2) — F(xx), ч. т. д.
Теорема 2. Функция распределения однозначно определяется своей характеристической функцией.
Доказательство. Из теоремы 1 непосредственно вытекает, что в каждой точке непрерывности х функции F(x) применима формула.
с,
• F(x)=l- lim lim fl^?Lf(t)dt,(5)
у>—03 С->оо Jit
— с
где предел по у берётся по множеству точек у, являющихся точками непрерывности для F (у).
Теоремы 1 и 2 сохраняют силу и в случае, когда F (х) является произвольной непрерывной слева функцией с ограниченным изменением, подчинённой условию F (—оо) —0. В самом деле, такую функцию можно всегда представить в виде
F<x) = axFx (х) 4- «2^2 (х),
где Fx и F^ — функции распределения). Для характеристических функций очевидным образом получится соответствующее равенство
/ (х) = ajx (х) + «2/а (х):
Из равенств (1) и (5), применённых к Fx и F^ по отдельности, непосредственно получаются равенства (1) и (5) для F.
Рассмотрим несколько примеров приложения последней теоремы.
Пример 1. Если независимые случайные величины ^ и $2 распределены по нормальному закону, то их сумма g = $1-|--$2 также распределена по нормальному закону.1
Действительно, если M^ — ^J D;^^!; М:2 = л2; D;2 = ^2, то характеристические функции величин ^ и ^ соответственно равны
/1(0 = 52; /2(0 = 52.
Характеристическая функция /(/) суммы 5=514~$2 Равна по теореме 3 § 11
/(0=Л (0-А(0 = 52.
Это — характеристическая функция нормального закона с математическим ожиданием а = ах-\-а2 и дисперсией o2 = oi-}-a2- На основании теоремы единственности мы заключаем, что функция распределения случайной величины $ есть нормальный закон.
Интересно отметить, что верно также обратное предложение: если сумма двух независимых случайных величин распределена по нормальному закону> то и каждое слагаемое распределено по нормальному закону)..
Пример 2. Независимые случайные величины ^ и ^принимают неотрицательные целочисленные значения, причём
х^—^Х^ ^а
Р^ = ^ = -4г и Р{^2 = ^-=-т^к>^
В примере 2 предыдущего параграфа, мы нашли, что характеристические функции величин ^ и $2 равны соответственно
fx (ф^ех,^-!),
Характеристическая функция суммы $ = ^ + ^2 равна /(0=Л(0 V2(0 = ^+M(e«-i),
т. е. является характеристической функцией некоторого закона Пуассона. Согласно теореме единственности функция распределения величины 6 есть закон Пуассона с параметром Х = Х14-^2:
P|i-*)-b±i^t?i(6>0).
Д. А. Райков [58] доказал обратное предложение: если сумма независимых слагаемых распределена по закону Пуассона, то и каждое из них распределено по закону Пуассона.
Пример 3. Характеристическая функция случайной величины $ вещественна тогда и только тогда, когда функция распределения величины 5 симметрична, т. е. если при любом х для неё имеет место равенство
F^ = \ — Г(-х + 0).
Пусть функция распределения симметрична. В этом случае
Ш= J e««dF^= j* e^dF^-^- ^e«=dF^ =
= [ e-^d^l- F(-%)) + J e«®dF(x) =
6о
= P e”Ux dF (x) 4* J citoc dF (x) = 2 J cos tx dF(x).
6о0
Для доказательства обратного предложения рассмотрим случайную величину iq =— 5. Функция распределения величины -q равна
Р h < х] = Р {5 > —х} = 1 — F (- х+ 0).
По теореме 2 § 11 характеристические функции величин £ и т] связаны соотношением
л (о(а
Так как Д (7) вещественна, то Д(/)=Д(/) и, значит,
Из теоремы единственности мы заключаем, что функции распределения величин $ и г; совпадают, т. е. что
F(x)=l— F(-x + O), ч. т. д.
. Непрерывность соответствия между распределениямии характеристическими функциями
В § 9 было установлено, что совокупность одномерных распределений с расстоянием L(F, G) образует полное метрическое пространство. Сходимость Fn ==> F в смысле
получила в § 9 и ряд других определений. В силу теоремы единственности имеется взаимно однозначное соответствие между функциями распределения F и их характеристическими функциями
/(/) = p*dF (х).
Поэтому, положив
р(/. g) = L(F, О),
где F и G— функции распределения, соответствующие характеристическим функциям / и g, мы можем сразу превратить совокупность характеристических функций в метрическое пространство. Сходимость Е f в смысле
р(Л, /)->0,
очевидно, будет тогда равносильна сходимости FH => F соответствующих функций распределения.
Естественно, однако, желание выяснить, каков смысл введённой таким образом сходимости /пг=>/ с точки зрения свойств самих функций /п и /. Ответ даётся следующими теоремами, которые имеют основное значение для всего дальнейшего:
Теорема 1. Если fH (Z) и / (/) являются характеристическими функциями распределения Рп(А) и Р (Д) и Pnz=^p^ та
/„(0-/(0.
равномерно на каждом ограниченном интервале
1Ч<^
Теорема 2. Если fn(f) являются характеристическими функциями распределений Рп{А} и /п(/) при п->оо сходятся при всех t к некоторой непрерывной функции f^ty то распределения рп (Л) слабо сходятся к некоторому распределению Р (Л) с характеристической функцией f^ty
Из теорем 1 и 2 вытекает, что сходимость fHi^>f можно определить как сходимость, равномерную в каждом конечном интервале, но можно определить и как сходимость в каждой точке t без всяких требований равномерности: в пределах класса характеристических функций оба определения эквивалентны ).
Доказательство теоремы 1. Пусть Рп=у>Р. Из определения слабой сходимости следует, что при каждом / fnW^fW Так как Ри=> Р, то Рп образуют компактное в смысле слабой сходимости множество. Из теоремы 3 § 9 и неравенства (3) § 11 заключаем, что соответствующие характеристические функции Jn(f) равностепенно непрерывны. Кроме того/п(/) равномерно ограничены. Поэтому сходимость /п(0~^/(0 должна быть равномерной в каждом конечном интервале (в силу применимости к {/п(0} на любом конечном интвервале теоремы Арцела).
Прежде чем перейти к доказательству теоремы 2, мы выведем одно неравенство.
Пусть т > О, X > 0 и ^ < 1. В этом случаеПусть т > О, X > 0 и ^ < 1. В этом случае-X-X
Пусть т > О, X > 0 и ^ < 1. В этом случае
Пусть т > О, X > 0 и ^ < 1. В этом случае
-X
-X
В частности,к~т; т}>2|к[/(ZK-L (2)
Доказательство.
I ^ j /(O^kk/ (f e«^dpyt\ =
IJ (J k^k^|IJ (J k^k^|I J l + l I ksin^Pk
IJ (J k^k^|
IJ (J k^k^|
I *® I ^ X I I ^ X
<p\-x-, +^} + -^(l-P{-^; +X}) (3)
(при оценке интегралов мы воспользовались неравенствами
(3), как легко видеть, равносильно (1).
Пусть теперь условия теоремы 2 выполнены. Тогда для любого е > 0 найдётся такое *: > 0, что
-и
Следовательно,
-Н4’4т
|_L J^-i^^ J (/j0_/(0)^|+| j_ J/^-i l<
—T—-— Г
4*T<^4^/|Л(0-/(0|^.
Ho fn(t)~+f (/) и |/я(/)—/(0|<^2. Поэтому по теореме Лебега при фиксированных $>0 и ? > О для л^-я(е, -)
4”
I 2? J ^п ^ 1 I ^ "2 + Y ~ 81
Заметив, что с возрастанием X Рп( — X\-VX^ не убывает, мы с помощью неравенства (2) и теоремы 3 § 9 убеждаемся в том, что множество распределений {Рн } компактно.
Для всякой сходящейся подпоследовательности {Рп^\ функции /п сходятся в силу теоремы 1 к некоторой непрерывной функции /*(0-
Тогда /АЬ должна совпадать с /(/). Следовательно, компактное множество {Рп } имеет единственную предельную точку, а это означает, что
Рп zz4> Р (п-> оо).
В качестве примера использования теорем 1 и 2 докажем интегральную теорему Муавра-Лапласа.
В примере 3 § 11 мы нашли характеристическую функцию /п(0 случайной величины т] =
У npq
Воспользовавшись разложением функции ег в ряд Тейлора, находим, что
§ 14] НЕКОТОРЫЕ СПЕЦИАЛЬНЫЕ ТЕОРЕМЫ О ХАРАКТЕРИСТИЧ. ФУНКЦИЯХ 61 где
Я = 2 У — f JL?-2 tiilfc^
S^Vn) VW ’
Так как равномерно в каждом конечном интервале t при п -* оо
то при П-> ОО
к^ = [1-^(1 +^)J =>е з .
В силу теоремы 2 отсюда следует, что при любом х и п -> оо
X gS
рг _L < х}^-^ е Мг.
vy npq I У 2л J
— оо
Очевидно, что это соотношение эквивалентно обычной формулировке интегральной теоремы Муавра-Лапласа,
§ 14. Некоторые специальные теоремыо характеристических функциях
Впоследствии нам понадобится ряд простых свойств характеристических функций; к их выводу мы и приступаем.
Теорема 1. Если f^ — характеристическая функция^ то при любом t
1 — Reel/ (20 < 4 (1 — Reel /(0)•
Доказательство. Действительно,
Reel /(0 = j* cos tx dF (л)
и, следовательно,
1 —Reel/(20 = J (1 — cos2x/) dF(x) = 2 j* sin2xf d/7^) =
= 2 J (1 —cosx0(l + cosx0^(xX 4 J C1 —cosx/) dF ^ =
= 4(1 —Reel/(0).
Заметим, что для вещественной характеристической функции /(f) доказанное неравенство превращается в
1-/(20 <4 (!-/(/)),
откуда для произвольной Характеристической функции *у(0 по следствию 2 теоремы 3 § 11 получим
'1-|^(2/)|2<4(1-|®(O|2).
6262распределения в /г1 и их характеристич. функциираспределения в /г1 и их характеристич. функции[гл. 2[гл. 2
62
62
распределения в /г1 и их характеристич. функции
распределения в /г1 и их характеристич. функции
[гл. 2
[гл. 2
Теорема 2. Если /(/)— характеристическая функция и для некоторой последовательности t1.t2).. e)tnl..., стремящейся к нулю, |Ж)|=1,
то существует такое действительное число а, что £^=е*»\
и значит, /(/) является характеристической функцией несобственного закона распределения.
Доказательство. Предположим обратное, что / (/) = ^ eitx dF (х),
где F (х)— собственная функция распределения. Так как, по предположению,
/(^) = А где ^к — действительные числа, то
=J^t^ е г^к = J* е ^к ^dF^x).
Отсюда заключаем, что
J (1 — cos уКх — д7г)) dF (х) = 0.
Чтобы выполнялось это равенство, очевидно, необходимо, чтобы функция F(x) оставалась постоянной в каждом интервале значений х, в котором cos (tkx— Xfc) отличен от единицы. Иными словами, F(x) может возрастать только в точках вида
v 2ns + Хк
Так как F (х) — собственный закон, то существуют по меньшей мере две точки роста функции F(x")xv и х2. Согласно предыдущему xxtk — ^ = 2^i > х^и — ^ = 2ks2,
где Si и s2 — неравные целые числа. Отсюда
I (Х, —Xg) Zfc I = | 2lt (Sj — Sg) I > 2ir.
Так как tk мы можем по условию теоремы выбрать как угодно малым, то полученное неравенство приводит к противоречию. Таким образом, F (х") может расти только в одной точке. Теорема доказана.
Примечание 1. Условия теоремы, очевидно, выполнены, если |/(0| = 1 в некотором интервале 0<.t<.a (я>0).
Примечание 2. Если/(^)=1 для некоторой последовательности tk, стремящейся к нулю, то /(О — 1 и, значит,
F(x) = s(x)F(x) = s(x)0 для х ^1 ДЛЯ X >0 для х ^1 ДЛЯ X >0, 0.0, 0.
F(x) = s(x)
F(x) = s(x)
0 для х ^
1 ДЛЯ X >
0 для х ^
1 ДЛЯ X >
0, 0.
0, 0.
Теорема 3. Для того чтобы для некоторой последовательности постоянных ап при п-> оо
^п(х—ап)=фе(х),(2)
необходимо и достаточно^ чтобы при п-> оо
1/п№|=>1.(3)
(Здесь FH (х) обозначает функцию распределения и /п (/) — её характеристическую функцию.)
Доказательство. Необходимость условия теоремц почти очевидна. В самом деле, по теореме 2 § 11 характеристическая функция распределения FH (х — а„) равна
Тогда условие
Рп(х— aj ==> е(х)
влечёт (по теореме 1 § 13) а тем самым и
\№\ 1.
Докажем теперь обратное предложение. Из (3) следует, что при п -> оо
1А№12=> 1.
Иначе говоря, характеристическая функция разности независимых величин Еп и 7|w, распределённых по закону ^(х), стремится при п —> оо к характеристической функции закона s(x). Это означает, что при любом е>0
Р {|$»-^|>б}-*0.(4)
Выберем числа ам так, чтобы
Р { ^n2 ^ ^ ^п < ^п *
Тогда при любом е > О
Р { к — Vn > е } = Р { (^ — « J — fan — an) > 3 } >
<^ Р { ^п ап /^ 3, ^п ^п ^> ^ } == Р { ^П ^ ®П 4“ £ } Р { ^п ^ ^п } ^
(5) и точно так же
Р { ^п *Чп ^ с } ^ ^ F^ (an ®)’
Отсюда в силу (4) и (5) при любом г > 0 и п —> оо
. 1 — Fn («П + з) + Fи (an - 8) > р {| ^ - ап | > s }0.
Это соотношение, очевидно, эквивалентно (2).
Теорема 4. Если для некоторой последовательности целых чисел nt<n^,< .. . < пк < ... при к-* оо
(6)
где /(/)—непрерывная функция, a fk(t)(k — \,2, ...)—характеристические функции, то при ^->со
ГИ0=>1(7)
и, значит, при к-^ сю
Fk<X) ==> s (х).
Доказательство. Так как /(0) = 1 и /(/) непрерывна, то существует такое а > 0, что
1/(01 > 0 при j/|<a.
Из (6) ясно, что в этой области
Отсюда и из выведенного в теореме 1 настоящего параграфа неравенства
1 -Reel/»(20< 4 (1 - Reel/»(O) заключаем, что
Reel/& (2/) ~> 1при |/|<^,
а потому
AW^1ПРИ VX^Sa.
Возможность удвоения любого сегмента, где fk (/) -» 1, приводит, очевидно, к заключению теоремы.
Назовём дискретное распределение случайной величины $ решетчатым, если существуют такие числа а и к > 0, что любое возможное значение 6 может быть представлено в виде a -j- kk, где к пробегает целочисленные значения (не обязательно все). Число h мы будем называть тагом распределения.
К числу решетчатых относятся многие важные для теории вероятностей распределения (например, распределения Бернулли, Пуассона).
Если ни при каких значениях b и кх > h нельзя представить вес возможные значения £ в виде Ь~^ккх, то мы скажем, что к есть максимальный шаг распределения.
Условия максимальности шага распределения можно выразить в других терминах. А именно, шаг распределения к будет максимальным тогда и только тогда, когда общий наибольший делитель попарных разностей возможных значений 5, поделённых на к, равен единице. Немного позже мы дадим третье определение максимальности шага распределения, сейчас же перейдём к установлению следующего характеристического свойства решетчатых распределений.
Теорема 5. Для того чтобы случайная величина $ имела решетчатое распределение, необходимо и достаточно, чтобы при
некотором, отличном от нуля, значении аргумента модуль характеристической функции величины $ был равен единице.
Доказательство. Необходимость условия доказывается непосредственным подсчётом. Пусть 6 имеет решетчатое распределение и
Л = Р { ^ = a-\-hh }•
Тогда характеристическая функция $ равна
f ^ = eiat X eiw pk.(8)
Второй множитель представляет собой периодическую функцию с пе- 2 тс
риодом -7-. Так как /(0) = 1, то ясно, что
г \ ^/1
Предположим теперь, что при ^фО
1/('о)1 = 1-
Иначе говоря, предположим, что при некотором вещественном а
В раскрытом виде это равенство может быть записано так:
J eif«^-^ dF (х) = 1, откуда ясно, что
J cos /0 (х — а^ dF (х) = 1.
Для того чтобы это равенство могло иметь место, необходимо, чтобы функция F ^ была постоянна всюду, за исключением тех х, для которых
cos/0 (х— а) = 1.
Все х, для которых имеет место последнее равенство, имеют вид
(9)
где к— целое число. Теорема доказана.
Из доказанной теоремы немедленно вытекает
Следствие 1. Если характеристическая функция ф(/) такова, что для двух несоизмеримых значений аргумента t^ и tx имеют место равенства
I/WI = 1 и 1/М| = 1, то
5 Зак. 5374. Гнеденко и Колмогоров.
В частности, если модуль характеристической функции /(/) в каком-либо интервале a ^.t ^ b равен единице, то он равен единице при всех значениях t.
Теорема 5 даёт нам возможность сформулировать следующий важный результат:
Следствие 2. Шаг распределения к будет максимальным тогда и только тогда, когда модуль характеристической функции 2"2л
величины $ в промежутке 0 < 1t [ < — меньше единицы и при t = ~ равен единице.
2л2лбыла бы тагом рас-была бы тагом рас-Доказательство. Если бы
2л
2л
была бы тагом рас-
была бы тагом рас-
при 0 < |^ | < -^-, то согласно (9) величина пределения. А так как, по предположению,
то к не могло бы быть максимальным шагом.
Отсюда мы заключаем, что, каково бы ни было s > 0, для каждого решетчатого распределения можно найти такое г >0 (c = r(s)\ что если к— максимальный шаг, то при г<1/|<~ — г
V^\<e-«.
Для дальнейшего нам нужно вывести две элементарные формулы. Умножим обе части равенства (8) на e-iat~irtK (г — целое) и проинтегрируем в пределах от — — до ^ . Так как
0 при кфг,
при к = г,
то в результате получаем
pr = ^ ^/(fje-^-^dt.(10)
Полученное равенство даёт возможность записать формулу обращения для решетчатых распределений в несколько ином, чем мы писали раньше, виде. Именно, положим
хх = аф тк—— к, х2 = афпкф — к (пфт)
и докажем, что
Т
F (хе) - F (xj = А / (0 еdt. (11)
J 2Zsiny
Действительно,
it
nnA
F(x^ — F(xx) = ^Р,-^(/(Oe-^-^Mt,
r—mr — w *„
И
ZL—<fmH _ — Щп-VV) h
р _ ita - ilrh — р - if а—
Z^®\-e-tth
т = т
— ithim——)—ith (п-Ь —)• >
_ itae V_ е-ги. _ ^г^
—. th— o . th
sin у2 sin
Из следствия 2 вытекает
Следствие 3. У каждого решетчатого распределения, отличного от несобственного, существует единственный максимальный шаг.
Конечно, следствие 3 легко получить и элементарным арифметическим путём.
§ 15. Моменты й семиинварианты
В силу теоремы единственности § 12 совокупность значений характеристической функции
/(/) = ^ e^dF^x)
для всех значений / полностью определяет функцию распределения F(x). Поэтому естественно ожидать, что все другие числовые характеристики одномерных распределений (или функций распределения) выражаются через их характеристические функции. Например, вскоре мы увидим, что
М^^^(0),(1)
D4 = — Л (0) —гЛ(О)]».(2)
В начале настоящего параграфа мы рассмотрим с этой точки зрения наиболее употребительные числовые характеристики одномерных распределений: моменты и семиинварианты.
Моментом порядка s случайной величины $ называется число а8 = МЕ8=/^^(х).(3)
В соответствии с § 4 для существования момента а8 необходимо и достаточно существование абсолютного момента порядка s:
•?з=М|ЕГ= /|х|»^(х).(4)
Из элементарных курсов теории вероятностей известна
Лемма 1. Если для случайной величины £ существует момент р8, то существуют и моменты рл при к < s и
(5)
Что касается моментов а0 и р0 нулевого порядка, то их считают всегда существующими и равными
■*0=?0=1-(6)
По определению, ^ = ML
Для s > 1 наряду с моментами а8 и Р8 естественно рассматривать центральные моменты
.рв = М (5 - М^)2 = J (х - а^ dF^ (х)(7)
и центральные абсолютные моменты
V8 = M|$ — Мф= J|x — aJMF^x).(8)
Из неравенств
|е— aJ^^dSp+laJ^}
легко вывести, что существование моментрв .р8 и v8 равносильно существованию моментов а8 и £8. Поэтому далее мы будем говорить об условии существования моментов 5-го порядка, не оговаривая, каких именно.
Легко вычислить, что моменты а3 и р8 связаны соотношениями ^0= Ь 14 = О, !^2= «2 —«2, Нз^^ — 3^4-2а®, ^4 = «4 — 48^3 4- 6а2а2 — За»,
Эти соотношения могут быть продолжены до любого s и допускают обращение )
^о =1 >
.(Ю)
«4 = И* + 4^3 4- 6а^2 4- а*,
Связь между характеристической функцией и моментами определяет Лемма 2. Если случайная величина 5 имеет, момент порядка к, то её характеристическая функция /(/) имеет непрерывные производные до k-го порядка включительно и при этом
Доказательство. По определению,
Продифференцируем формально это равенство к раз:
. ^А (0 = ik / dF. (xY(12)
Так как по условию
J |x|MF>(x) < оо,
^о интеграл, стоящий в правой части равенства (12), существует, и равенство (12) может быть доказано при помощи повторного интегрирования по / правой части (с перестановкой интегрирования по t и х в соответствии с теоремой Фубини). Это доказывает законность дифференцирования. Положив теперь в равенстве (12) / = 0, мы приходим к соотношению (11).
Обозначив
получим для центрального момента ps величины ; выражение
и так как
t,x^=e^^ то
(13)
Сопоставление (И) и (13) позволяет вновь, получить соотношения (9) и (10).
При суммировании двух независимых слагаемых
$=td)^$(2)
можно подсчитать моменты суммы
о^ = aW 4- а^),.'
a3 = aW + 2aWa(2>+^
а — a(i)4-3a(i)a(2)_|-3a(i)a(2)_i а(2)( j
3 Т з(15)
^ = ^+6^+^,
Из этих формул мы видим, что
«! = М^ ^2 = Da£ И а3
при сложении независимых слагаемых складываются. В § И уже был поставлен вопрос о том, существуют ли ещё какие-либо числовые характеристики распределений, обладающие этим свойством? Ответ на этот вопрос, по существу, уже содержится в основном свойстве характеристических функций
из которого вытекает, что
наю^^лло+^ало- (16)
Здесь как и всюду далее, log/(/) обозначает главное значение логарифма характеристической функции, т. е. функцию, определённую лишь для тех действительных /, для которых /(О отлично от нуля как в самой точке /, так и между t и нулём, непрерывную и обращающуюся при / = 0 в
log 1=0.
Этими условиями главное значение логарифма f{t\ как легко убедиться, определяется однозначно. В этом параграфе нам понадобятся лишь значения log f^ в окрестности нуля.
В случае, когда 6 имеет момент s-ro порядка, в силу леммы 2 Д(^ и log /4/) имеют при ^ = 0 первые s производных. Обозначив мы можем поэтому написать
^(^-^^(«Г+о^8)-(17)
г = 1
Из (16) и (17) вытекает, что при сложении независимых слагаемых соответствующие им коэффициенты хг складываются
^^^Д^(18)
Коэффициенты хг в (17) называются семиинвариантами случайной величины $ (или её распределения). Семиинварианты до порядка s включительно существуют, если существует момент ps.
Семиинварианты вплоть до s-ro порядка однозначно определяются по моментам до того же s-ro порядка. Положив
= И
и заметив, что в силу (И) при существовании момента as
(19)
г = 0•
мы можем записать соотношения между семиинвариантами и моментами в виде формального равенства между степенными рядами
оо(20)(20)что даётчто даётх^а^М;,.х2=а2 —^ = D$,z3" аз— ^^ЛЧ" 2хр7. = а — За; — 4а а 4- 12а;а„ — 6а* 4421 3 1141,х^а^М;,.х2=а2 —^ = D$,z3" аз— ^^ЛЧ" 2хр7. = а — За; — 4а а 4- 12а;а„ — 6а* 4421 3 1141,(21)(21)
о
о
(20)
(20)
что даёт
что даёт
х^а^М;,.
х2=а2 —^ = D$,
z3" аз— ^^ЛЧ" 2хр
7. = а — За; — 4а а 4- 12а;а„ — 6а* 4421 3 1141,
х^а^М;,.
х2=а2 —^ = D$,
z3" аз— ^^ЛЧ" 2хр
7. = а — За; — 4а а 4- 12а;а„ — 6а* 4421 3 1141,
(21)
(21)
))В силу (5) этот ряд мажорируется рядом 11В силу (5) этот ряд мажорируется рядом 11
)
)
В силу (5) этот ряд мажорируется рядом 11
В силу (5) этот ряд мажорируется рядом 11
и
а,tz.
(22)
,4
1
Из (17) и (19) мы замечаем, что для любого r^s ^ есть коэффи- • 8•
циент при гТ в разложении log (^1 + ^ ^|^) в Деленной ряд по г.
Следовательно,Следовательно,
Следовательно,
Следовательно,
. V 1 кТ^ Гг^г" ZJ £ г! ^ г! '
к = 1
(23)(23)т. е.
(23)
(23)
Для дальнейшего целесообразно воспользоваться тем, что
•8
(24)
г=2
и записать связь между семиинвариантами и центральными моментами
в виде формального равенства
-wr-wr(25)(25)Г = 1 что даётГ = 1 что даёт*1 = at = ME,%2 = у2 = DE,хз = Уз,^б^Уб—10№з,х6 = н6—15№— ю^+ 30^>*1 = at = ME,%2 = у2 = DE,хз = Уз,^б^Уб—10№з,х6 = н6—15№— ю^+ 30^>11(26(26
-wr
-wr
(25)
(25)
Г = 1 что даёт
Г = 1 что даёт
*1 = at = ME,
%2 = у2 = DE,
хз = Уз,
^б^Уб—10№з,
х6 = н6—15№— ю^+ 30^>
*1 = at = ME,
%2 = у2 = DE,
хз = Уз,
^б^Уб—10№з,
х6 = н6—15№— ю^+ 30^>
1
1
(26
(26
Если считать основными характеристиками распределения вероятностей его семиинварианты, то простейшим распределением с заданными
Х1 = ме, -z2=de
следует признать распределение с характеристической функцией /^ = е - ,
1\ е. нормальное распределение с плотностью вероятностей
.(ЭС — Х^
ГЛАВА 3
БЕЗГРАНИЧНО ДЕЛИМЫЕ РАСПРЕДЕЛЕНИЯ
§16. Постановка задачи, случайные функции с независимыми приращениями
Классические предельные теоремы, обобщение и углубление которых составляет главное содержание этой книги, имеют дело с суммами'
возрастающего числа членов последовательности
$1, $2» • • • * ^т • • • независимых случайных слагаемых.
Можно представить себе аналогичную схему, в которой индекс п, принимающий лишь натуральные значения, заменён непрерывно изменяющимся параметром А. Элементарных слагаемых Вп при этом уже не останется, но можно сохранить вытекающее в дискретном случае из независимости величин ^п требование, что приращения
^2 ^Пр ^П3 ^П2) • • • Э ^П-fc ^п^ 1
при пк <п^<. . . <лй всегда взаимно независимы.
Мы ограничимся непрерывным аналогом того случая, когда все элементарные слагаемые ^ имеют одинаковый закон распределения. В этом случае законы распределения приращений ^ — С№ должны зависеть только от числа входящих в них слагаемых, т. е. от значения разности т— п.
Наша непрерывная схема будет выглядеть так: каждому действительному Х^О соответствует случайная величина Сх, причём
Сд тождественно равно нулю;
закон распределения разности Сх2—Cxt при Х2>Х1 зависит только от разности А2—At;
- 3) при At < А3 < .. . < Ак разности
независимы между собой.
Задача нСтоящей главы заключается в изучении тех распределений величин Сх, которые совместимы с изложенной схемой. Из
условий 1), 2) и 3) вытекает, что Сх является при любом натуральном п суммой
£х = 41 + Ча + • • • + Чп
п одинаково распределённых независимых слагаемых
4& = С £ ^ — C^-i х.пп
Это обстоятельство и положено в основу формального определения «безгранично делимых» распределений в § 17.
В главе 4 будет обнаружено, что безгранично делимые распределения играют основную роль и в классической проблематике предельных теорем для дискретных сумм независимых слагаемых. В дальнейших параграфах этой главы свойства безгранично делимых распределений будут изучаться по преимуществу чисто аналитически— при помощи характеристических функций, но в эвристическом порядке почти все результаты этой главы были впервые найдены, исходя из только что изложенной схемы случайной функции Сх с независимыми приращениями от непрерывного аргумента X.
До построения общей теории были известны два основных элементарных типа такого рода случайных функций:
нормальный тип, в котором характеристическая функция /х(0 случайной величины ^, даётся формулой
log /х (О = X (г^ — у /2);(1)
пуассоновский тип, в котором характеристическая функция /х(/) имеет вид
log Д (/) == ас — 1).(2)
Можно показать, что нормальный тип является единственным, который может возникнуть, когда изменение Сх как функции X с вероятностью единица непрерывно (см. § 26) (несколько более слабое предложение доказано в § 22 книги Гливенко [86]). Пуассоновский тип возникает в случае, когда Сх в качестве функции X с вероятностью единица является неубывающей ступенчатой функцией, принимающей только значения, кратные «шагу» h (этот случай дискретного скачкообразного случайного процесса разобран в § 21 книги Гливенко [86]).
Естественно попробовать составить функции Сх, соединяющие оба эти типа изменения, допустив при этом не только скачки фиксированного размера 1ц но самых разнообразных размеров. Если при этом допустить, что на промежутке (X; Х4™^) скачок происходит с вероятностью cdl, а функция распределения размеров скачков есть
P^<u^F<u\
то, комбинируя (1) и (2), мы придём к формуле, предложенной впервые Финетти (см. [65]):
log Л (0 = X ^t - ^3 + с J (е^ — l)dF («)}.(3)
Формула (3), однако, вовсе ещё не даёт общего решения вопроса. Для случая конечной дисперсии Сх общее решение было найдено А. Н. Колмогоровым (см. далее § 18). Для этого пришлось преодолеть две трудности. Прежде всего надо было учесть, что скачки малых размеров могут происходить очень часто, и полная «плотность скачков» может быть бесконечна. Так как большие по абсолютным размерам скачки происходить с бесконечной «плотностью» не могут, то оказалось возможным ввести две функции М (и) и N^u), имеющие такой смысл: на промежутке (X, Х-f-dX) скачки
h < и < О
происходят с вероятностью M(u)dX, а скачки h > и > О
с вероятностью—N(u) d\. При и = 0 обе эти функции могут обращаться в бесконечность. Формулу (3) естественно при этом переписать в виде
о
log Л (О = ^ - у ^ + [_ 1) dM («) +
где интегралы понимаются как пределы*) оа
[ (еш—\)dM^u?)= lim f (eiut— 1) dM (^), а < 0,
Ja->oo
—oo
Г ^ciut— X)dN(u), а > 0.Г ^ciut— X)dN(u), а > 0.oo
Г ^ciut— X)dN(u), а > 0.
Г ^ciut— X)dN(u), а > 0.
Г (eiut—1) dN (#) = lim
*) Кроме того, по поводу интеграла
j(eiut_ \)dN(u),я>0,
а
следует заметить, что он понимается как
|* ^etut—l)[i(du),
гь > а, где мера у. (Я) определяется условием
у. (н; oo) = —N^uY
Другая трудность заключается в том, что возможны такие функции Сх, для которых интегралы
. Оа
f и dM (и) и J « dN (и), а > О, — аО
а следовательно, и интегралы в формуле (4) расходятся. Это означает, что математическое ожидание суммы скачков малых размеров | h \ С а может быть бесконечным. Грубо говоря, такую бесконечность можно компенсировать введением в выражение для log/x(/) члена Xqt с бесконечным значением 7. Формально строго эта компенсация достигается введением членов, пропорциональных it, внутрь тех интегралов, расходимость которых надо компенсировать. Это приводит к формуле
log Л (0 =
= Л < Щ—^- ^-[- | (е<“<— 1 —Z/zz) dM («)+ I (е1'^— 1—itu) dN(u^, (5)
V 2 JJ)
—oo0
которая представляет уже общую форму логарифма характеристической функции в случае конечности дисперсий величин Сх.
Чтобы охватить случай бесконечных дисперсий, поправочный член под знаком интеграла надо вводить с ещё большей осторожностью. Это было сделано П. Леви, который дал для log/x(^) формулу, годную в самом общем случае:
о
logМ) = X | ц1-^ ^ + J ^t _ I _ ^^ dM (zz) +
+ f ^ut - 1 - dN^. (6)
0
Формула Леви-Хинчи на
logA(0 = x{^+ J(>«-1 -J^^dG^(7)
получается из (6), если ввести функцию G(u) со свойствами
^) ^T-dG^ = dM(u^ при м<0;
^^ dG (и) = dN (и) при ы > 0;
скачок G (и) в точке и = 0 равен о2, а подинтегральная функция в нуле определена по непрерывности
Функция G^u) йе имеет простого наглядного смысла, но удобнее функций М (и) и N (и) в доказательствах.
§17. Определение и основные свойства
Мы скажем, что случайная величина $ безгранично делима. если при любом натуральном п она может быть представлена в виде суммы
^1 + ^п2 + * 1 • + ^пп
п взаимно независимых одинаково распределённых случайных величин ^пц ^п2> • • • > ^пп*
Функцию распределения безгранично делимой случайной величины условимся называть безгранично делимой функцией распределения.
Очевидно, что функция распределения F (х) тогда и только тогда является безгранично делимой, когда её характеристическая функция /(/) при любом натуральном п является n-й степенью некоторой характеристической функции /п (/) (естественно, зависящей от п):
т=\ш\».(1)
Формула
Ш = п\/НА
ещё не определяет значения fn(t) по значению /(/) однозначно (корень /г-й степени имеет п значений). Однако дополнительные требования
А(0) = 1,
/п (0 непрерывна позволяют определить /п(0 однозначным образом на любом интервале изменения t. содержащем точку ^ = 0, на котором /(/) не обращается в нуль. С таким главным значением ]//(/) мы только и будем иметь далее дело. Вскоре обнаружится, что характеристическая функция /(^) любого безгранично делимого закона нигде не обращается в нуль (при действительных f). Поэтому /п (/) и соответствующая функция распределения Fn (х) определяются по f^ (или F ^х^ однозначно.
Приведём несколько примеров.
Пример 1. Случайная величина 5, распределённая по нормальному закону, безгранично делима.
Действительно, пусть М£ = я и D? = o2, тогда мы знаем, что характеристическая функция $ равна 0s
-tat ---t1
= е 2 е
Так как при любом я > О
является характеристической функцией нормального закона, то это доказывает наше утверждение.
Пример 2. Случайная величина 5, распределённая по закону Пуассона, безгранично делима.
Пусть возможные значения $ имеют вид а -]- kh (^ = 0, 1,2, ... ), причём
Р{5 = а + М} = ^_(А > 0),
тогда характеристическая функция величины ; равна
Отсюда мы заключаем, что при любом п > О
является характеристической функцией некоторой случайной величины, также распределённой по закону Пуассона. Это доказывает наше утверждение.
Пример 3. Случайная величина, распределённая по закону Коши )
F(x) = -^(-| + arctg^^(а>0),
безгранично делима.
Действительно, можно подсчитать, что для неё
Эго доказывает наше утверждение.
Пример 4. Случайная величина ; с плотностью распределения
О при х^О,
Р (Х) = Ре ,г О
Р (а^"при X и,
где <х)>0, ^>0— постоянные, при любых допустимых значениях параметров распределения является безгранично делимой.
Характеристическая функция 5 равна
При любом натуральном п
(2)
вновь является характеристической функцией распределения того же вида, как и исходное.
Рассмотренное нами распределение входит в систему кривых Пирсона в качестве 3-го и 10-го типов. Это распределение известно в статистике под именем распределения у2, если р = 1 и 2а есть целое число.
Теорема 1. Характеристическая функция безгранично делимого закона не обращается в нуль.
Доказательство. Утверждение теоремы является очевидным следствием формулы (1) и теоремы 4 § 14.
Легко проверить, что существует сколько угодно характеристических функций, не обращающихся в нуль и в то же время не безгранично делимых. Так, например, рассмотрим дискретную случайную величину $, принимающую значения—1, 0 и 1 с вероятно- стями > 4* > з* • Ье характеристическая функция
положительна и, стало быть, не обращается в нуль. Однако величина $ не только не безгранично делима, но не может быть разложена даже на сумму двух одинаково распределённых слагаемых. Действительно, предположим, что
8 = 61+^,
где ^ и $2 взаимно независимы и одинаково распределены. Ясно, что каждое из -слагаемых может иметь только два значения ах и tt2 (tii < а<^ одно с вероятностью р, другое с вероятностью q = 1— р. Возможными значениями S = ;i + $2 являются числа <2.av ах-\-а2 и 2«2- Вероятности этих значений соответственно равны р2, ^pq и ^2. Так как, по предположению, 2аЛ^ — 1, ах -}- а^ = 0, 2а^ = 1, а также 11в==р^э ‘^j^^^pq и 1/8 = ^2, то мы приходим к противоречию, ибо последние три равенства несовместимы.
Теорема 2. Функция распределения суммы конечного числа независимых безгранично делимых случайных величин безгранично делима.
Доказательство. Очевидно, что при доказательстве достаточно ограничиться случаем двух слагаемых $ и vj. Если /(О и
g^t)—характеристические функции этих слагаемых, то по условию теоремы при любом натуральном п имеем'
/(0 = {Л(0Г, ^(^^{^(ОГ,
где /п(0 и £п (0— характеристические функции. Характеристическая функция к^ суммы C“$H-vj при любом п удовлетворяет равенству
которое, очевидно, и доказывает теорему.
Заметим, что обратное предложение неверно, и можно указать примеры не безгранично делимых случайных величин, дающих в сумме безгранично делимую случайную величину. Рассмотрение такого примера мы отложим до следующего параграфа (пример 1).
Теорема 3. Функция распределения, предельная в смысле слабой сходимости для безгранично делимых функций, безгранично делима.
Доказательство. Пусть F^ (х) — безгранично делимая функция распределения и при к-^оо
Fw (х) =£> F (х), где F(x)—функция распределения. Если ^ (/) — характеристическая функция для F^tX), а /(/)— характеристическая функция для F ^х), то
/й)(0 =>/«)•(3)
По условию теоремы при любом п функции
= V7W)
являются характеристическими и притом ни при одном / не обращаются в нуль. Из (3) мы заключаем поэтому, что при каждом, п
В силу теоремы 2 § 13 /п(/) есть характеристическая функция. Так как при каждом натуральном п имеет место равенство
то теорема доказана.
Теорема 4. Если ф^—характеристическая функция безгранично делимого закона распределения, то при любом с> 0 функция {/(0}с является характеристической.
Доказательство. В самом деле, при с = — , где п — натуральное число, это следует из определения безгранично делимой случайной t величины. По теореме умножения характеристических функций это же утверждение верно при любом рациональном г>0. Наконец, при иррациональном с > 0 функция {/(/)}? может быть
равномерно в каждом конечном интервале t аппроксимирована функциями {/(0}% гДе <ч— рациональные числа. Отсюда в силу предыдущей теоремы следует наше утверждение.
Теорема 5. Совокупность безгранично делимых законов распределения совпадает с совокупностью законов, являющихся композициями конечного числа законов Пуассона и предельными для них в смысле слабой сходимости.
Доказательство. То, что композиции конечного числа законов Пуассона и законы, предельные для них, являются безгранично делимыми, следует из теорем 2 и 3. Докажем обратное. Пусть /(/) — характеристическая функция некоторого безгранично делимого закона. По условию
Л (0-too
есть характеристическая функция; таким образом,
/п(0 =/^^„(Х),(4)
где FH(x)— некоторые функции распределения. Имеем)
.«(Л(0—l)==>log/(0 прип->оо (5)
и, стало быть,.
п-^оо.(6)
Представим интеграл (4) в виде предела при т-> сю сумм Стилтьеса:
т
2 eitC4F„^-F^cfc_^=^>Mt\(7)
Обозначим
— zz \Ffl (q.) Fu ^С]._ t)].
Сравнивая (6) и (7), легко находим
2 ak^eUc-k~^ ч. т. д.
Воспользуемся последней теоремой для построения примеров безгранично делимых распределений.
Пример 5. Функция
/^ = (1 —5) . (1 — Ье^ (0 < b < 1) является характеристической функцией некоторого безгранично делимого распределения.'
Прежде всего из равенства
/(0=(1— Ь) 2
п—о
заключаем, что /(/) — характеристическая функция случайной величины 5, принимающей только неотрицательные целочисленные значения с вероятностями
р{? = и} = (1— Ь)Ьп (п = 0. 1, 2, ...),
Легко подсчитать, что
log/(0= 5(^-1) ?.
Так как отдельные слагаемые этой суммы являются логарифмами характеристических функций некоторых законов Пуассона, то требуемое доказано.
Пример 6). Пусть £($) = £ (а + //) — функция Римана, определяемая для а > 1 посредством ряда
С (s) = 2 п-8
или эйлеровского произведения
4s) = П(1-р-я)-\
р
распространённого на все простые числа.
Докажем, что при любом постоянном о > 1 функция
есть характеристическая функция некоторого безгранично делимого распределения. Действительно,
log/(О = J Hog (1- Р~^ — >og(l —р-5-^)] =
Y V LZ^llEZyiziXl = V V p-w4e-<wtlogll — i)
p m*»lp m — 1
где символ 2 означает, что суммирование распространено только на р
все простые числа.
Каждое слагаемое этой суммы есть логарифм характеристической функции некоторого закона Пуассона. Согласно теореме 5 /(f) есть безгранично делимая характеристическая функция.
§ 18. Каноническое представление
Теорема 1. Для того чтобы функция f{t) была характеристической функцией некоторого безгранично делимого распределения^ необходимо и достаточно. чтобы её логарифм мог быть представлен в виде
log/(0 = iV + J { eUu — 1^^ |Ц^ dG {и),(1)
где 7 — действительная постоянная. G (я) — неубывающая функция ограниченной вариации, а под интегральная функция при и = ^ определяется равенством
Г J е«и _ 1 £^ I ^«Ч _ _ А2 [г 1 1 + из| М2 JM = o— 2*
Представление log/(/) формулой (1) единственно.
Доказательство. Необходимость. Предположим, что F (х)—безгранично делимое распределение и /(£)—его характеристическая функция. Тогда при любом п > О
где /П(С—некоторая характеристическая, функция. Так как /(f)z£O, то согласно формуле (5) § 17 имеем
П Vn (0- и = « f 1) dFu^ =ф log/(/), где^Дх)— функция распределения, соответствующая характеристической функции fn(t).
Положим
с» («) = « J (х)
И
W=f <ettu — iV-^dG^uy(2)
Тогда предыдущее соотношение может быть записано в силу теоремы 2 § 4 в виде
4(0=>1о?/(0-(3)
Отсюда мы заключаем, что
Reel 4(0 = J (cos«<—l)^^dG„ («)==>
=> [(cosaf—1) ^-^-dG («) = log|/(0|.
Докажем, что Gn(-roo) ограничены. Для этого рассмотрим выражения
Ап= J dGn(u),Bn = J бЮ„(й),Сп = Л,1+В„= JdG„(«).
|«|<1|«|>1
Будем считать 0<С/<12. Ясно, что для любого s > 0 и п достаточно больших
— log|/(OI+E> J О — costo)^^rfG„(«)
и
— log)/(0| + e> J (1 —costo)l^rfGri(zz).
Так как при | я | ^ 1
1 — cos u J_ > 3 ’
то первое из написанных выше неравенств даёт
-log^(l)! + e>(4)
Беря средние значения в интервале 0 ^/^2 функций, стоящих в правой и левой частях второго неравенства, получим
2
-^ Jlog|/(OI^+®> ( (1-^^о,м>^сп.(5)
о1 I > 1
21
Так как величины log|/(l)| и yjlog*/(01 ^ конечны, то из о
соотношений (4) и (5) следует, что Gn (— э°) ограничены. Докажем теперь, что равномерно относительно п *
J ti?Gn(tz)->0 при Т-» оо. 114) >Т
В самом деле, для любого е > 0 при достаточно больших п
— log|/(0 14-е > J (1—cos to) dGn(я).
\и\>Т
2
Беря средние от обеих частей неравенства в интервале 0^/^у (Т^1), мы получим т/_ . 2и\
т СГrsin-=q|
— 2* I ^|/(01^+г> I
О7\и\>тхи $
но при | а | > Т
Г sin ^1
а при Г ^ То
2
|у [ log[/(01|< max |log[/(^)il<3.°о«<1
Поэтому при Т^ То
J dGn(«X4e.
ИЦ>Т
Теперь на основании теоремы 3 bis § 9 мы можем из последовательности Gn (и) выбрать подпоследовательность
ПоложимПоложимGnk(“)=^> QW-Gnk(“)=^> QW-dGnkW иdGnkW и1+^2 dF»k(xy1+^2 dF»k(xy
Положим
Положим
Gnk(“)=^> QW-
Gnk(“)=^> QW-
dGnkW и
dGnkW и
1+^2 dF»k(xy
1+^2 dF»k(xy
тогда из (3) ясно, что
I,lk ^ = j (1 ~. 1 +«2 }«2 Й0«к ^ + lt^nk ‘
Интеграл, стоящий в правой части этого равенства, сходится при к —> оо к
Itu 1 тт^)Itu 1 тт^)1 4- и"И21 4- и"И2dQ^uydQ^uy
Itu 1 тт^)
Itu 1 тт^)
1 4- и"
И2
1 4- и"
И2
dQ^uy
dQ^uy
Из (3) мы заключаем, что *\п при к -> оо должны сходиться к некоторой величине 7.
Таким образом, первая часть теоремы доказана.
Достаточность. Пусть (1) имеет место. Согласно § 6 интеграл в правой части равенства (1) будет пределом сумм Стилтьеса. ^ мы выбираем все отличными от нуля)
[О(^) — G(Q-i)] ==>[О(^) — G(Q-i)] ==>J ^,и— 1J ^,и— 1Ии \Ии \1 + и21 + и2dQ^uydQ^uy
[О(^) — G(Q-i)] ==>
[О(^) — G(Q-i)] ==>
J ^,и— 1
J ^,и— 1
Ии \
Ии \
1 + и2
1 + и2
dQ^uy
dQ^uy
Каждое слагаемое суммы слева есть логарифм характеристической функции некоторого закона Пуассона.
Применяя теорему 5 § 17, убеждаемся, что /(/) — безгранично делимая характеристическая функция.
Теперь нам остаётся доказать единственность представления логарифма безгранично делимой характеристической функции формулой (1). Из (1) легко вывести, что
— ^^J 10g/(#)^ —21og/(0 =t —1
Положив
V(«) = 2 j (1 -’-ili)±+!i «Ю и,
находим, что
v (/) = j eitud V (и).
Функция V (и) неубывающая, поэтому в силу теоремы 2 § 12 она однозначно определяется своей характеристической функцией ^ (^).
А так как при всех у
sin у \ 1 + у2 п
У / У2 >’
то согласно теореме 3 § 4 функция G(-v) однозначно определяется по функции V (и).
Теорема доказана.
Формулу (1) мы будем, как уже было указано в § 16, называть формулой Леви-Хинчина (см. [44] и [74]).
Следствие. Если логарифм некоторой характеристической функции допускает представление в виде (1), где О (и)— функция ограниченной вариации (не обязательно неубывающая), то такое представление единственно.
Доказательство. Пусть /(/) допускает два представления в виде (1) с функциями Gv(u^ G^u) и константами ^i и Т2 соответственно.
Обозначим через Gi(G2) положительную, через 61 (62) — отрицательную вариацию функции 0х (62) и через h (t, и) подинтеграль- ное выражение в (1).
Тогда получим (ср. (2) § 8):
+ J h(t, и) dG^u) =
— z^Z + J ^(А u)dGi(u) — ^ h^t, u)dGi(u) =
= ^ + / A к*» “) dG2 U1) =
= i^ 4* J hV, u) dGi («) — J h (/, a) dG"> (u), откуда
ill ^ + J A 0. “)d (Gi GO + G2 («)) =
= h^-V ^ A (t, u) d (G^ ku) + 02 ku))-
Но функции Qx (zz) -J- G^ (и) и Gi (и) + G2 (и) — неубывающие, а потому в написанном равенстве, представляющем логарифм характеристической функции безгранично делимого закона, должно быть
Т1 = Т2 И Giku)^G2ku)sGiku)-A-oUu), т. е.
Gj (и)— Gi (и) г Оз (и) — dk (и).
Последнее же равносильно тому, что
О^ = G21
т. д.'
Воспользуемся формулой Леви-Хинчина для построения примеров безгранично делимых функций.
Пример 1. Рассмотрим функцию
V VG 14.3
(О < а ^ р < 1).
Так как эта функция непрерывна, / (0) — 1 и
ОО/W^T^I^-^ + C1 4-^)2^]'
то /(0 является характеристической функцией случайной величину 5, принимающей все целочисленные значения от — 1 до 4~ оо, причём Р^ = -И=-П^«; Р^ = «}-^-(1+«Р)₽” [«=0,1,2,...].
Убедимся, что /(7) небезгранично делимая характеристическая функция:
log/tO-j^-1)"-1^-^-1)^-^ п = 1
где, как нетрудно подсчитать,
S
” ₽» + (—!)» а»
1 +и» п = 1
a G (и)—функция с ограниченным изменением, имеющая скачки в точках
u = ±zlt z±z2, ±3,
причём размер скачков равен
-^трт при “ = +«
И
(—Ц^-^+Т ПРИ « = —
Таким образом, О (и) немонотонна. Поэтому в силу следствия теоремы 1 настоящего параграфа /(/) не может быть характеристической функцией безгранично делимого закона, ч. т. д.
Функция
7м —. 1 + °^.
J V4 — 1 + а \ — ^е-«
— также характеристическая. Для неё
a?iпa?iп^eint — 1^eint — 1ОО
a?iп
a?iп
^eint — 1
^eint — 1
log-Ж = 2 [v ^e’int -!) + (-1)“"1
П = 1
Докажем, что
есть характеристическая функция безгранично делимого закона.
В самом деле,
iog£(/) = j^(?"4V —i)"-1»")^^ n = l
+ f ~ №n + ( - О»’1^) ^ -1) =
n= 1
где G(x) — неубывающая функция co скачками в точках ±1, ±2, ±3, ...; скачки в точках 4"^ и —п равны между собой; их величина есть
Интересно отметить следующее:/(/)— характеристическая небезгранично делимая- функция; её модуль |/(/)| — характеристическая безгранично делимая функция; безгранично делимая характеристическая функция |/(0|2 разлагается на произведение двух небезгранично делимых функций /(/) и /(/).
Заметим ещё, что нашим примером мы доказали и такое утверждение: существуют различные характеристические функции, модули которых тождественно равны.
' П р и м е р 2. Легко построить пример безгранично делимой характеристической функции /(^) с ещё ’более удивительным свойством: функция /(/) разлагается в произведение безгранично делимой характеристической функции и двух характеристических функций, не разлагающихся на множители (А. Я. Хинчин [75]).
Чётная функция
действительного , аргумента t имеет период 2т: и производные всех порядков, поэтому
6 (/) = 2 CLn COS nt, 2 I йп | < " F °°*П — 0П = 0
Так как 6 (0) = 0, то
1l«sl и, следовательно,
^(0 = ^an (cos nt—1).
n = 1
Пусть р^ р^ ..., рь ...—неотрицательные, а —пъ —п^ . .., —пь ... —отрицательные числа ряда аи а^ .... ап. ... В таком случае
2 ^к (cos mKt—1), к = 12 ^к (cos mKt—1), к = 1^(0 = 2 p,£(cos/&<—1) —
2 ^к (cos mKt—1), к = 1
2 ^к (cos mKt—1), к = 1
к = 1
откуда
к = Iк = I5 4-4 cos ^95 4-4 cos ^9JJ ^к (cos шк^ к = 1JJ ^к (cos шк^ к = 1
к = I
к = I
5 4-4 cos ^
9
5 4-4 cos ^
9
JJ ^к (cos шк^ к = 1
JJ ^к (cos шк^ к = 1
Бесконечные произведения, стоящие в правой и левой частях этого равенства, как произведения модулей характеристических функций некоторых законов Пуассона представляют собой безгранично делимые характеристические функции.
В самом деле, если f^f)— безгранично делимая характеристическая функция, то такой же будет и |/(/)|9, а с нею и |/(0|. Остаётся применить теоремы 2 и 3 § 17. Множитель S + ^cqs/ „ =—l——L— является произведением двух характеристических функций, вовсе неразложимых на множители. Итак, можно найти пример безгранично делимой случайной величины, представимой в виде суммы трёх взаимно независимых случайных величин, одна из которых безгранично делима, а две другие вовсе неразложимы на независимые слагаемые.
Определим функции М (и) и N(u) и постоянное число о9, положив
и
М (я) = J U4 ^ (г) ПРИ “ < о,
Г I 2(6)
^(a) = — I 1 ~^г до (г) При и > 0,
32=О( + 0) —G( —0).
Функции ТИ(^) и N^uy
Неубывающие соответственно в интервалах (—оо, 0), (0, +°°)е
Непрерывны в тех и только тех точках указанных интервалов^ в которых непрерывна Q (и).
Удовлетворяют соотношениям
Af (— оо ) = АГ ( + со) = О и Ое
J и? dM (zz) + J uMN (zz) < -]- oo — e0
при любом конечном e > 0.
Обратно, всякие две функции Al (zz) и N (zz), удовлетворяющие условиям 1 и 3, и постоянная а>0 определяют по формуле (6) характеристическую функцию некоторого безгранично делимого закона. Через функции М (zz) и N (и) формула (1) может быть записана, в следующем виде (ср. (6) § 16):
о
10§г/(0 = ht - 5 /2 + / ^ - I - ^) dM (и) +
+(7)
О
Формулу (7) мы будем называть формулой Леви.
Наконец, формуле (1) для логарифма характеристической функции мы можем придать следующий вид:
iog/(0 = ^(-)^—^а+ [ ^^dM^-y
-[_ J ^ — 1) dN (и) + J ^“t — 1 — mt) dM (м) +
4- j* (eiut _ 1 _ tot) dN («),(8)
0
где функции M (zz) и N (zz) сохраняют смысл, приданный им в формуле (6), а т— произвольное постоянное, выбранное так, что т и —т являются точками непрерывности соответственно функций ^(zz) и М (и). Легко найти связь между -[(т) и ^ в формуле (1):
T(O = t+J udG(«)-J ^dG(u).(9)
|u!<?|u|'>t
Формулы Леви и Леви-Хинчина являются обобщением формулы Колмогорова, найденной им ещё в 1932 г. [33] для случая, когда
закон F (а;) имеет конечную дисперсию. Оказывается, что в этом случае закон F (х) является безгранично делимым тогда и только тогда, когда
log/(0 = 'V+J ^«“ — 1 — itu\ 1 dK (и),(Ю)
где 7— постоянное, а К^и^К^— оо) = 0)—неубывающая функция с ограниченным изменением. Представление log /(0 этой формулой единственно.
Формулу (10) мы будем называть формулой Колмогорова. Лёгкий подсчёт показывает, что в этом случае
откуда
7 = МЕ и K( + oo)-Dl(И)
Эти формулы выясн^от вероятностный смысл постоянного 7 и изменения функции К {и) в. формуле (10).
Формула Колмогорова может быть получена или из формулы Леви-Хинчина путём введения в рассмотрение функции
К^ = [ (l^-u^dO^),
или же выведена тем же путём, как и формула Леви-Хинчина.
Для дальнейшего нам важно знать представление нормального закона и закона Пуассона посредством формул (1), (7) и (10). Легко подсчитать, что для нормального закона
я? _ (з—а)2
= е 2’3 dzО2)
в формулах (1) и (10) следует положить
(
0 для и 0,
„(13)
а3 для и > 0,v 7
в формуле (7) .
7 = а, /И 00=0, N^ = 0. а = а.(13')
Для случайной величины, распределённой по закону Пуассона с характеристической функцией
/^) = еХ(е«-1) ,
нужно положить в формуле (1)
XXQ^ =Q^ =в формуле (7)в формуле (7)ОI 2ОI 2дляДЛЯдляДЛЯ« >« >1,1;1,1;(14)(14)
X
X
Q^ =
Q^ =
в формуле (7)
в формуле (7)
О
I 2
О
I 2
для
ДЛЯ
для
ДЛЯ
« >
« >
1,
1;
1,
1;
(14)
(14)
и ^ и >и ^ и >1’; (14'}1’; (14'}(14")(14")X( —X для
и ^ и >
и ^ и >
1’; (14'}
1’; (14'}
(14")
(14")
в формуле (9)в формуле (9)1=2- =-0, M(„)=0, «(«) = [0 для
в формуле (9)
в формуле (9)
г о для « i,
7 = х, К(н) = .,
( X для и > 1.
Заметим, что вид функций О(^) в формуле Леви-Хинчина для нормального закона и закона Пуассона даёт нам право утверждать следующее.
Если композиция двух безгранично делимых законов распределения является нормальным законом (законом Пуассона), то каждая из компонент должна быть также нормальным законом (законом Пуассона).
В самом деле, если Gv(u?) и О2 (и)—две неубывающие функции и.
Gj («) +О2(и) — G(«),
где G (rz) определяется формулой (13) (или (14) для случая закона Пуассона), то каждое из слагаемых этой суммы может расти только в точке и = 0 (соответственно в точке и = 1).
Подсчитаем теперь функцию К (и) в формуле Колмогорова для распределения, рассмотренного в примере 4 § 17. С этой целью проведём для этого примера все расчёты, приведённые при доказательстве формулы (1). А именно, положим
Кп(,х") = п J z^p^z) dz,
—со
где рп^ есть плотность распределения для характеристической функции, определяемой формулой (1) § 17, т. е.
| 0при х < 0,
( спхие при х > 0,
Таким образом,
О при х С О, J г пе~^8 dz при х>0. оО при х С О, J г пе~^8 dz при х>0. о-> а при п -> оо-> а при п -> ооЗаметим теперь, что
О при х С О, J г пе~^8 dz при х>0. о
О при х С О, J г пе~^8 dz при х>0. о
-> а при п -> оо
-> а при п -> оо
и при каждом х>0
Ки (х) —> a J ze*”^8 dz = К (х) (п —> оо). о
Кроме того при п -> со
F 1 + ~Г(2+Й а
^„( + 00) = ^ J z 14 dz=ncH—^ = /<(+-оо).
0р2+ п
Вычислим ещё
-, С н , С Г (а + аТ М $ — с J хе Р dx - ga+l у .
Таким образом, согласно формуле (10) имеем равенство
!og/(0 — — « log^l —у) = 1 J ^+a J VUx — 1 —^Л "Т" dx-
§ 19. Условия сходимостидля безгранично делимых распределений
Теорема 1 *). Для сходимости последовательности {^„(х)} безгранично делимых законов распределения к предельному закону F (х) необходимо и достаточно, чтобы при п^> оо
GnW==>G(x),
Tn Т,
где функции Gn (х) и G (х) и постоянные ^п и у определены формулой Леви-Ханнина соответственно для законов Fn (х) и F (х).
♦) Б. В. Гнеденко [16].
Доказательство. Необходимость. Предположим, что Fn(х) => F (х). Согласно теореме 1 § 13 /п^^>/^), и так как /п (О и /(О ни ПРИ одном t не обращаются в нуль, то при /г -> со
J„to = iW + J («“'-1 —ГТ^)Ч^’^-И^ =>-V+J (««-1—
Отсюда мы заключаем, что
Reel/„(/) = J (cos и/ — 1)1 ^“"dGn (и) ==>
=> J (cosut—l^-^-dG (и).
Теперь дословно так же, как при доказательстве теоремы 1 § 18, выводим, что множество {Gn(x)} компактно.
Возьмём любую сходящуюся подпоследовательность
ТогдаТогда^пк ^^ —^ ^ ^'
Тогда
Тогда
Так как, с другой стороны,
‘W+ / («“ -1 - гтУ Ч^ "Ч <«) =>
то последовательность ^nk имеет предел ^, и в силу единственности представления безгранично делимых законов формулой Леви-Хинчина должно быть =Gx(u)™G(u).
Достаточность. Из условий теоремы сразу следует, что
log /„ (0 -* log/ (/)
при каждом t, т. с.
' №^>RtY
ч. т. д.
Впоследствии нам понадобится теорема 1 в иной форме [16].
Теорема 2. Для сходимости безгранично делимых функций распределения Fn (х) к предельной функции распределения F (х) необходимо и достаточно, чтобы при п~* со
в точках непрерывности функций М (и) и N (и) Nn(u)^N(u),
ТпМ-^тМ.
Ое
lim lim / f a9dAl„(“) 4~®»Jr f “а^п(“)У = е 0 n->oo V JJ)
—еО
Ое
= lim lim / J zz2 <Ш,Дн) + с™ + J zz2 tZA^ (zz)^ e->0 П^э _eо
где функции Mn(u), Nn^u^ и M^uY N(u) и постоянные an и а, Тп (~) и 7 СО определяются формулой (7) § 18 соответственно для функций распределения Fn(x) и F(x\
Доказательство. Пусть Fn =>F.
Необходимость условий 1) и 2) следует из необходимости условия Gn==> G предыдущей теоремы, формул, определяющих М (и), N(u) и 7 (т), и теоремы начала § 9.
Далее, если — е и -{-г—точки непрерывности функций Мп^и)у. М (м), и Nu^uY N^u\ то, полагая Ое
In (®) = Оп (О - Оп (- е) = / ^ dMn (zz) + а= + f ^ dN^,
— 8О
Ое
/ (s) = G(8)-G(-b) = J^^CzO + o^f ^dNW — 6о
имеем 4(e)->Z(s)(n—>oo).(1)
На основании соотношений ooо
уД^ j иММп^< J ^^dM^ < J a9 dMn (u\ —e—e—e
888
уД- J U9 dNn (zz) < f y^ dNn (zz) < J u9 dNn (zz)
00*o’
мы заключаем, что
ое
{ J a9 d.Mn (zz) + a?. + J a9 dNn (zz)} < I№ (e) < —e0
08
<} | zz8rfAl„(zz)4-aai-]- [ u9dNn<u^ .(2)
-69
Наконец, из (1) и (2) мы выводим, что *)
Ое
^liff «2^„(«)+^ + f ^ЛГ„(й)}<7(8)< П —> ОО I V У*))
—еО
О•
<Пт ( Г u^dM^-Y^-V f «2^„(«)|.П -> ООJ)
—еО
При е, стремящемся к нулю, правая и левая части написанного неравенства имеют один и тот же предел, а именно,
Jim /(е) = о2.
8->0
Необходимость условия 3 таким образом доказана. Докажем достаточность условий теоремы. Для этого покажем, что их выполнение влечёт выполнение условий теоремы 1.
В силу теоремы начала § 9 в точках непрерывности Л1(и) (а следовательно, и в точках непрерывности О(и))
ии
GnU0 = J8 [■ _|_ ^2^Мп (^)~J*1 -(-22 ^^^ = ® (tt)>I/д\
—оо—оо■'
U < 0 (п -> оо). ]
Отсюда мы получаем lim lim Оп ( — г) = О( — 0).(33
е-Х) п->оо
В силу (2) имеем
0е
Оп(-®) + п^{ / «2^П(«НЧ+/ "2<W ко„(+е)< —ео
08
<G„(-e)+{ J«2^„(«)+o^4- J uMN^,—eо
откуда в силу (3') и третьего условия теоремы
lim ПБГ Gn(+8) = lim lirn Gn (+ e) = G (— 0) + o2 = G (+ 0).
e->0n->ooe->0n->oo
Так как при любых «t>0 и ий">0, являющихся точками непрерывности функции G(«)
гт-»^„(«)-> vY-^dNUY(4)
J 14- и2 " ’ J 1 + и2 v *х '
пхих
то (е — точки непрерывности N(я))
17m Оп (и) =Jim Нги (Gn (е) + J р-^ dNn (я)) =
и
= Нт Ит(б,6(е)4-. Г ^-^ dNn(я)} = Нт Gn (я) = G (и) (я>0). (5)
в->Оп->оо•**'«->оо
Таким образом, мы доказали, что
Gn (и) -* О(и) (п->оо)
во всех точках непрерывности G (и).
Теперь мы имеем
О» (+ ~) = J ^ ^« («) + J тг^ dN» <“) +
JO8
Ое
+ J TT^i d^n («) + 4 + j T^dNn (я). (6) ■ b
Из равенств 3, 4, 5 и 6 мы заключаем, что при п —► оо G»(+°°)->G(+ оо)-
Наконец, условие (2) теоремы 1 следует из условий теоремы 2 в силу теоремы начала § 9, предыдущих результатов и формулы, определяющей у (т).
Теорема 3. Для сходимости последовательности Fn(x) безгранично делимых законов распределения с конечными дисперсиями к предельному закону и их дисперсий к дисперсии'предельного закона необходимо и достаточно, чтобы при п-> оо
кн => к,
Т» —> Ъ
где функции Кн(и^ и К (и) и постоянные ^п и у определяются формулой Л. Н. Колмогорова (10) §18 для законов Fn(x) и F (х).
Доказательство. Достаточность соотношений 1 и 2 для сходимости ясна из теоремы 2 § 13 и формулы (10) § 18.
Докажем теперь необходимость условий теоремы.
Пусть Fn(x) => F (х). В силу теоремы 1 § 13 это эквивалентно соотношению
/»Ю => /W
и, следовательно, соотношению
log /я (Л = hnt + J { etut —\ — iut^ dKn (я) ==>
=> log/ W = ^ + J I e<ut —1 — lut\ "p dK(я). (7)
По условию теоремы дисперсии функций ^(х) сходятся к дисперсии предельного закона; отсюда на основании формулы (11) § 18 следует, что
к„( + ОО) ->/<( + оо).к„( + ОО) ->/<( + оо).(8)(8)
к„( + ОО) ->/<( + оо).
к„( + ОО) ->/<( + оо).
(8)
(8)
i t^uX Поэтомуi t^uX Поэтомуf ^eM-\-iut>-^dKnWf ^eM-\-iut>-^dKnW
i t^uX Поэтому
i t^uX Поэтому
f ^eM-\-iut>-^dKnW
f ^eM-\-iut>-^dKnW
Очевидно, что при любом Z, отличном от нуля, имеет место соотношение
hn + / { е<«4 — \—iut^ dKn(u) ->
-><т + J \etut — 1— iut\^dK{u) (n->oo).
Пусть теперь t -> 0. Интегралы при этом стремятся к нулю равномерно относительно п *)♦ Мы получаем отсюда, что
Тп*^ Т-
Так же, как при доказательстве теоремы 2 § 9, выберем из последовательности { Кп (я) } подпоследовательность КПк(и), сходящуюся к некоторой неубывающей функции К^и\ в каждой точке непрерывности этой последней.
Установим теперь, что
J { е^ — 1 — /«/ } -1- dKHKW => J { ^ _\—iut\A_ dKW. (9)
Если функция К (и) непрерывна в точках —В и -|- В, то по теореме начала § 9 при фиксированном t и К достаточно большом имеем
I +В
| ^e^-\-iut\^dKnitW-
—В
а-в
_Jl^-l-^}^/^)! <2.,(Ю)
—в
:?) В самом деле, легко доказать, что \е^—1—Ни
Но множители при —^ в правой части ограничены.
С другой стороны,.
^ = | J {^-l-i«/}^^„ft|<2|/| f ^^(«Х |«|>В|«|‘>В'
■<"5-supK„fc(+оо)
И'
£ = | [ ^-x-tui^dwR^KVr^Y
Но К„ (+ оо) ограничены. Поэтому, каковы бы ни были г>0 и /, выбрав В достаточно большим, мы можем сделать
|41<|, И<|-(11)
Из (10) и (И) непосредственно следует (9).
В силу единственности представления формулой Колмогорова мы заключаем, что
К (и) = К(и).
Принимая во внимание (8), мы заключаем также, что
К„к («) => КН
т. е. что любая слабо сходящаяся подпоследовательность Кпк ^ сходится к ОД. Отсюда следует, что и вся последовательность Кп (и) сходится к К (и); это доказывает необходимость первого условия теоремы.
II. ОБЩИЕ ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ
ГЛАВА 4
ОБЩИЕ ПРЕДЕЛЬНЫЕ ТЕОРЕМЫДЛЯ СУММ НЕЗАВИСИМЫХ СЛАГАЕМЫХ
§ 20. Постановка задачи,суммы бесконечно малых слагаемых
Самая общая постановка задачи о природе предельных функций распределения для сумм взаимно независимых случайных величин может быть сформулирована следующим образом: дана последовательность случайных величин Сп С2, Сп, ..., ц^ждая из которых представляет собой сумму некоторого числа взаимно независимых случайных величин
^n “ ^ni 4” ^пй 4“ • • • 4“ ^пкпе
Пусть при надлежащем выборе действительных постоянных Ап функции распределения величин Сп— Ап сходятся к некоторой предельной. Спрашивается, какими свойствами будет обладать эта предельная функция распределения.
Столь общим образом поставленная задача не представляет однако особого интереса, если Enfc не подчинены никаким дополнительным условиям, так как любая функция распределения F(x) может выступать в качестве предельной для функций распределения сумм
^nl 4“ ^п24" • * * 4“ ^пкп ^п' U)
Для этого достаточно, например, первое слагаемое в каждой сумме (1) считать имеющим распределение F(x), остальные считать с вероятностью единица равными нулю и Ап выбрать равными нулю.
Проблемы математической статистики и теоретической физики, сводящиеся в математическом отношении к изучению предельных закономерностей для сумм случайных величин, подсказывают те разумные общие ограничения, которые следует ввести в постановку задачи, а именно, нужно помнить, что специфические свойства предельных функций распределения должны определяться тем, что они являются предельными для сумм возрастающего числа независимых случайных величин, причём роль каждого отдельного слагаемого должна быть прим^с^ исчезающе малой.
При этом дополнительном ограничении (пока сформулированном лишь чисто качественно) только что поставленная нами задача получила исчерпывающее решение в работах Бавли [37] и А. Я. Хин- чина [64]. Указанными математиками было доказано, что каждая функция распределения, предельная для функций распределения сумм (1), является безгранично делимой. Этот центральный результат настоящей главы будет получен нами в § 21 для случая слагаемых с конечной дисперсией и в §24 — в общем случае. Его доказательство опирается на другое основное предложение излагаемой теории, состоящее в том, что при введённом нами ограничении функции распределения сумм (1) сближаются с функциями распределения сумм
^щ +^2+ • • • + ^wkn— Ап специальным образом построенных безгранично делимых слагаемых. Доказательство этой теоремы составляет содержание § 24.
В § 25 приведены различные формы необходимых и достаточных условий существования предельного распределения для последовательности сумм (1). Заметим теперь же, что эти теоремы могут быть использованы и для определения условий сходимости к каждому данному предельному закону.
Более точно идея исчезающе малой роли отдельных слагаемых при формировании сумм ^н может быть выражена таким определением:, величины ^пк называются бесконечно малыми, если
sup P{l^4|>s}-0(2)
1 ^ & ^ Лд
при п-юо для любого 8> 0.
Мы увидим, что для дальнейших выводов достаточно потребовать несколько меньше. То ограничение, которое мы будем использовать, даётся следующим определением:
Определение. Величины ^нк называются предельно постоянными, если можно подобрать постоянные апк таким образом, что для любого 8>0
sup Р {| ^пк апк | ^г г } —> 0(3)
1 < k -С Кп
при п —> оо.
Лемма 1. Если ^пк предельно постоянны, то в (3) можно положить ипк = тнк, где тпк — медиана случайной величины £n1t, т. е. такое число, что
Р { ^nk ^ ^пк } ^2" > Р { £»к ^ ^пк } ^* ^ *)•
Доказательство. Заметим, прежде всего, что если вероятность попадания $ в какой-либо интервал больше х/2, то пй лежит в этом интервале.
Пусть теперь ^ предельно постоянны. Нам достаточно доказать, что '
sup Хт^ — «пй|-*0
1 < & < kft при п ->оо .
Для любого в>0 мы можем*найти такое п^, что при п^п^ sup P{IU — ап1Д>г\< 1,.
-С к -^ к^ т. е.
inf P{|U —«„аКЧ >
^ к -^ к^
Тогда по сделанному вначале замечанию дблжно быть sup |/Япд —^|<а
-^ ^ ^ кп
при п^ п (е), что равносильно требуемому.
Лемма 2. Величины ^ б^д^т бесконечно малыми тогда и только тогда, когда'
sup I0(4)
^ к ^ к-^ &*.
при П-УОО.
Доказательство. Из (2) следует (4).
В самом деле, при любом 0 < s < ~ и п достаточно больших
sup f г^^аМ < sup Г f xadFnlt(x)-V
-^ А" -^ кн J Т1 ^ к ^ kft L J
I х I < s
Обратно, в силу неравенств
1<SAU<A / VV7»dFnlt^X^l<k<l«n J Г+Р^”6^^
I X | >•
>ГП» SUP f dFHkW = T^ sup P{|Erolt|>e} *T£ l<A<A-n J*+6 l<A<An
из (4) следует (2).
Усдоцце предельного постоянства величин ^пк мы можем теперь записать в следующем виде:
sup f dFnk0
1<к<кп J 1+^21 w
при п —> ОО.
Для дальнейшего на^ будет необходима следующая
Теорема 1. Для того чтобы случайные величины 1пк были бесконечно малыми, необходимо, чтобы при п->оо
sup |/nt(0 —1 |=>о.
-^ к «^ кц
Доказательство. Действительно, при любом s>0
sup |/яй(0 — 1 I = sup | Г (е«= — \^dFnk^ |<
-^ k ^ к^1 ^ к -^ кпI
< sup Г I е«х — 1 I</F,lfc(х)4-2 sup Г dFnk(x\ 1<к<кп 1Ш1<,1<к<кп 1а.">е
Или, принимая во внимание справедливое при вещественных z неравенство \е4%— 1 | ^ | z |,
sup |.U(0 — ЧСфЦ-З sup P{IUI>S}-
-С- к -^ кп1 ^ к ^ кп
Отсюда в случае, когда ^нк бесконечно малы, сразу получим требуемое.
Предельные распределения с конечными дисперсиями
В этом параграфе мы рассматриваем последовательность серий
^nl> ^П2’ * • • J ^nkn независимых в каждой серии случайных величин, подчинённых условиям
a) sup Р {IU-—MUl>e }->0
-Ck-С кц
при п —> оо для любого е > 0.
р) $Пк имеют конечные дисперсии и
D(2JQ= 2 DUC с,
к = 1к=1
где С— постоянное, не зависящее от п..
Естественно, что при изучении предельных законов для сумм
^ = ^1 + ^2+ • • • Ч“^кпAw(1)
где Ап — надлежащ^. Подобранные постоянные, а величины ^ имеют
конечные дисперсии, наибольший интерес представляет тот случай, когда не только законы распределения сумм (1) сходятся к предельному, но и дисперсии сумм сходятся к дисперсии предельного закона. Мы ограничиваемся изучением именно этого случая. Отсюда становятся понятными происхождение и смысл условия 0).
Помимо самостоятельного интереса, результаты настоящего параграфа имеют для нас также и ту ценность, что они делают ясной идею доказательства общих теорем последующих параграфов.
Теорема 1 ). Для того чтобы при , надлежащем подборе постоянных Ап функции распределения сумм
^п = ^1 + ^пз+ • • • +^nfcn — Ап(2)
независимых случайных величин, подчинённых условиям а) и р), сходились к предельной, необходимо и достаточно, чтобы к предельной функции распределения сходились безгранично делимые законы ), логарифмы характеристических функций которых определяются формулой
ЫО = - /Л,/+ Д {^М U + J i)dFnk (х + MU)} . (3)
Предельные законы для обеих последовательностей функций распределения совпадают.'
Доказательство. Характеристическая функция Сп равна
к=1
В силу теорем 1 и 2 § 13 для сходимости законов распределения сумм (2) к предельному необходимо и достаточно, чтобы при п -> оо /„(/)==>/(/);(4)
/(Z) при этом оказывается характеристической функцией предельного закона распределения.
Обозначим законы распределения величин ^пк=:^гк— М^ через Fnk(x"), тогда (4) может быть переписано в следующей эквивалентной форме
-1А t-v Е iMU п ,
ПА*(0=>/(0.(5)
Л = 1
Положим•
/пк (О 1 = апк (О = апк*
В силу условия а) и теоремы 1 § 20 sup Kd ^=> °> 1 ^ к ^ к^
поэтому ), рассматривая произвольный, но фиксированный интервал изменения /, можем считать, что, начиная с некоторого п, sup |anfc|<4.
2
Тогда Имеет место оценка
| logAft (/) — «„fcI = |log(1 + a„fc)—a„fcIC2 У1 ^Is 8 = 2
/ A V I « |s.1। anfc I2 / I ~12/'fi\
< 2— '2 1 — |a„6| < I ,l,c‘ 1^
S = 2
Так как
J Х(//чДх) = |\/Кп& = 0, то выражение для anfc может быть записано в виде
«,.& = / <е t$ — 1) dF'nk (х) = J (e<te — 1 — z/x) dF'nk (x).
Но известно, что при любых действительных х
| е«х1 — z/x | <; ^- , поэтому
।«»»। < 4 Ух3 dF'^=4 °^-(7)
Теперь в силу (5), (6), (7) и ^) мы имеем кп
|log/„(0 + M„- 2 {17MU+ f к^” — 1№Нх)}| =
= 2 log/пИО- f(e<to— l)dFnk(x)\ <
22
<У|«п&13<4 sup |anfc|(y DU)<4‘ sup |a„fc|. (8)
^i2Kk<k„ \~72 Kk<kn
Отсюда мы заключаем, что )
log/n(0 — ^(О ==> о,
а так как ен > есть характеристическая функция и, следовательно, не превосходит по модулю единицы, то
/»(0-е" ==>о.(9)
Но (9), очевидно, равносильно утверждению теоремы.
Из теоремы 1 и теоремы 3 § 17 вытекает
Следствие. Предельные законы для сумм (2) независимых случайных величин, удовлетворяющих условиям а) и Р), безгранично делимы.
Преобразуем теперь сумму (3) к форме, обычной для логарифма характеристической функции .безгранично делимого закона. С этой целью мы введём в рассмотрение функции
К„ ОО = 2 I X2 dFnk (х).(10)
-со'
Очевидно, что функции Кп(.и)— неубывающие, удовлетворяют условию Kn(—оо) = 0 и в силу условия Р) Кп(4-оо) ограничены.
Легко подсчитать, что функции ^и^ могут быть записаны в следующем виде:
МО = - ИАп + 42 МЦ + J (е«“ - 1 - to) ± dKn (и). (11)
Примечание. Заметим, что дисперсии сумм (2) и безгранично делимых законов, определяемых формулой (3), равны.
В самом деле, согласно формуле (10) §18 дисперсия безгранично делимого закона (3) равна
кп
(+ ОО) = ^ Г x»dFnk (х + MU) = 2 DU =
Только что доказанная теорема вместе с теоремой 3 § 19 предыдущей главы позволяет установить условия существования предельной функции распределения для сумм независимых случайных величин, удовлетворяющих условиям а) и 0).
Теорема 2). Для того чтобы при надлежащем подборе постоянных Ап законы распределения сумм
независимых случайных величин, удовлетворяющих условию а), сходились к предельному и дисперсии этих сумм сходились к дисперсии предельного закона, необходимо и достаточно^ чтобы суще
ствовала, неубывающая функция К (и) такая» что при п-^ оо Кп (а) ==> К^.
Постоянные Ап можно выбрать по формуде
Ап= 2 М$„к — т + о(1),к = 1
где -у — любое постоянное.
Логарифм характеристической функции предельного закона вычисляется по формуле Колмогорова (9) § 18 с только что определёнными постоянной 7 и функцией К (и).
Доказательство. Из условия Кп (и) => К (и) следует, что
КЛ + ^ = 2 D^nk ограничены; таким образом, мы находимся в условиях а) и р). В силу предыдущей теоремы и примечания к ней мы можем ограничиться нахождением условий существования предельного закона для безгранично делимых законов, логарифмы характеристических функций которых даются формулой (11). Как мы знаем, этот предельный закон также будет безгранично делимым. Наша теорема получается из равенств (10) и (11) как непосредственное следствие теоремы 3 § 19. В самом деле, условие Кп (и) => К (и) настоящей теоремы совпадает с условием 1) теоремы 3 § 19. Условие 2) теоремы 3 § 19 записывается в следующем виде:
г
Тп = —Д»+ 2j \ xdFnk^-^^ (п->оо),
где 7 — постоянное, определённое формулой Колмогорова для предельного закона. Из этого соотношения мы видим, что Ап можно выбрать так, как указано в теореме.4
Примечание. Для сходимости законов распределения сумм ^п = ^п1^П2 + • • е Н" ^nkn
к предельному и дисперсий сумм к дисперсии предельного закона необходимо и достаточно, чтобы кроме условия Кп(и) ==> К (и) теоремы 2 выполнялось ещё следующее условие:
к=1
Необходимо отметить, что предыдущая теорема даёт не только условия существования предельного закона, но также и условия сходимости функций распределения сумм к каждому данному предельному закону, определяемому постоянной ^ и функцией К (я) по формуле Колмогорова.
В качестве приложения только что доказанных общих теорем мы рассмотрим условия сходимости к нормальному закону и закону Пуассона.
Теорема 3. Для того чтобы при надлежащем подборе постоянных Ап функции распределения сумм
--п = ^п! + ^12 + • • • + ^пкп — ^п
независимых случайных величин Еп1, Еп2, ..., ^пкп сходились к нор* мальному закону
их дисперсии стремились к единице и величины \пк— М$п* были бесконечно малы. необходимо и достаточно, чтобы при любом s > 0 выполнялись соотношения
2f ^^пй^ + М^.й)-*0(Я->ОО),
2I+(«->«=).
к = 1./
| ж 1 < s
Доказательство. Из выполнения первого условия теоремы заключаем, что величины ^пк— M5W& бесконечно малы. В самом деле, при любом в > 0 имеем
sup Р {| ^пк M$%& | ^ 8 } — sup I dFnk (я М?п&) ^
<4 sup f xMFHk (x + M;nk)->0 при n-*oo.
8 i<*:<fc J
" I»I > ■
Соотношения 1) и 2) вместе показывают, что выполняется условие Р).
Далее, мы знаем, что для закона (12)
( 0 для и 0,
1 = 0, К(и) = 1
11 Для и > 0.
В нашем случае условие Кп(и) => К (и) теоремы 2 может быть записано в следующем виде:
О 2 f Х2^(х +М$пй) k=l JО 2 f Х2^(х +М$пй) k=l J0 при U1 при и0 при U1 при ио, 0.о, 0.
О 2 f Х2^(х +М$пй) k=l J
О 2 f Х2^(х +М$пй) k=l J
0 при U
1 при и
0 при U
1 при и
о, 0.
о, 0.
) 2 Г хмгп&(х+ми)->1. k»l J
Легко видеть, что эти соотношения эквивалентны условиям теоремы.
Частный случай. Теорема принимает особенно простую форму, если заранее положить, что при всех п
2 DU-1.
При этом условии для сходимости законов распределения сумм{\) к нормальному закону (12) необходимо и достаточно, чтобы при любом е>0
^ J x2rfFnk(^ + MU)^0(п->оо).(13)
Если кроме того, при всех кип
М^пй “ 0»
то соотношение (13) перепишется так.
Ч г
2 I x^dF^^-y^ (п -> оо).
а—1 J
I ®| > 8
В последнем соотношении содержится
Теорема 4 *). Пусть
^1? ^2» е е • > ^п> • • •
последовательность взаимно независимых случайных величин.
Для того чтобы, функции распределения нормированных сумм
^ ^?а)п
^^^ (Sn=2DM(14)
А = 1
сходились к нормальному закону (12) и слагаемые были бесконечно малы, необходимо и достаточно условие Линдеберга*. при любом е>0
п
^2 J ^dF,c(x + M^)^0.
п А=1 |а?| > *Вп
В работе [9] С. Н. Бернштейн предложил иной вывод этого результата Линдеберга-Феллера, показав, что он являетсяследствием классической теоремы Ляпунова. Кроме того С. Н, Бернштейн показал там, что теорема Ляпунова даёт необходимые и достаточные условия сходимости функций распределения сумм (14) к нормальному закону (12)
при дополнительном Требовании сходимости моментов нормированных сумм порядка 2^-2 к соответствующим моментам нормального закона.
Теорема 5*). Для того чтобы, при надлежащем подборе постоянных Ап функции распределения сумм
^п—^1 + ^2+ • • • +^п ^П(1)
независимых бесконечно малых случайных величин ^nk (1 <i#<^n) сходились при п->со к закону Пуассона
рм- 2 5х”О < т < хрм- 2 5х”О < т < х(15)(15)
рм- 2 5х”
О < т < х
рм- 2 5х”
О < т < х
(15)
(15)
и дисперсии сумм (1) сходились к X, необходимо и достаточно, чтобы при любом е>0
2/ %2 dFnk (x + MU)"> О,
I ат—1 I < в
Постоянные An можно определить равенством
ап- 2мЕ„6-х.
Доказательство. Теорема немедленно следует из теоремы 2 и того, что для закона (15) 7 —X, К(^) = 0 при и ^ 1 и К(и)=\ при и > 1.
Как и в случае нормального закона, условия теоремы принимают наиболее простую форму, если заранее предположить, что дисперсии сумм при всех п равны дисперсии предельного закона, т. е. если
2DU = b.
При этих добавочных предположениях для сходимости функций распределения сумм (1) к закону Пуассона (15) необходимо и достаточно, чтобы при каждом е>0 выполнялось соотношение
xMF^x-VW^xMF^x-VW^-4-0-4-0(и -> оо).(и -> оо).
xMF^x-VW^
xMF^x-VW^
-4-0
-4-0
(и -> оо).
(и -> оо).
§ 22. Закон больших чисел
Изучение предельного поведения сумм независимых слагаемых в общем случае мы начнём с закона больших чисел. Найденные нами условия будут положены в основу доказательства дальнейших теорем.
Определение 1. Последовательность случайных величин
^1, ^2» • • • > ^п> • • •
сходится по вероятности к случайной величине 5, если для любого е > О
Р { Нп—5|>s}->0 при п->со.
В дальнейшем сходимость по вероятности мы будем обозначать символом -^ . Предыдущее соотношение может быть, таким образом, записано в виде
Определение 2. Последовательность {Е„} называется устойчивой, если существует такая последовательность постоянных (А^), для которой при п оо
(1)
Повторив рассуждения, проведённые в § 20 (лемма 1), легко обнаружить, что если последовательность {^п } устойчива, то в качестве постоянных Ап, с которыми происходит сближение величин Е^, можно выбрать их медианы тп. Иначе говоря, из (1) следует, что при п оо
^п^ п ?~ ^•
Определение 3. Последовательность серий взаимно независимых в каждой серии случайных величин
^т > ?пз > • • • > ^nfr^ (^ =:= 12,3,...)(2)
подчиняется закону больших чисел, если последовательность сумм
^*н = ^1 + ^2+”* + ^Пкп устойчива.
Наша ближайшая задача состоит в определении ниаболее общих условий, при выполнении которых имеет место закон больших чисел.
Теорема*). Для того чтобы последовательность серий (2) подчинялась закону больших чисел, необходимо и достаточно,
чтобы при п-* оо
к,к,(3)(3)
к,
к,
(3)
(3)
x^dF^ (х + mnlt) ->0.
Доказательство. Достаточность условий теоремы может быть обнаружена совершенно элементарно. С этой целью введём обозначения
^нк — ^& tnnk*
Положим, далее,Положим, далее,F’„k W = Р { ^к <х \ =Fnk(x-V т^У
Положим, далее,
Положим, далее,
если i^k1,
пк | 0, если 15^ I > 1
л„ = 2 0^+ме;6),
к — 1
где
M^= J xdFnk^x).
Пусть, далее,Пусть, далее,“ 2 ^пЬк = 1“ 2 ^пЬк = 1кпк=Акпк=А
Пусть, далее,
Пусть, далее,
“ 2 ^пЬк = 1
“ 2 ^пЬк = 1
кп
к=А
кп
к=А
и Вп есть событие, состоящее в том, что Cn = ^. Если Вп есть событие, противоположное Вп) то ясно, что
к.к.к.к.(4)(4)
к.
к.
к.
к.
(4)
(4)
Очевидно, что при любом е > О
Р{|С„-Л„|>е}=Р{8„}Р{|!;„-Л„|>е|Вп} +
Так какТак как+ Р{В„}Р{Кп-Л„|>е|В„}.(5)
Так как
Так как
Р{|Сп-Л„|>е|В„}Р{В„)<Р{|!:;— M^|>s},
Я Зак. 5374. Гнеденко и Колмогоров.
то согласно неравенству Чебышева
P{Kn-^l>e|Bn}P{Sn}<^D^ =
П»п р
5=5 р 25 ^ ^ ^ ^ £^ ^ J ^^ (Х)- (6)
Л=1А=1А-»1|ж|<1
Из (4), (5) и (6), вместе взятых, находим, что при любом е > О
р{|^-^'|>8}р{|^-^'|>8}к = 1 I ж|<1к = 1 I ж|<1dFпк С^)>dFпк С^)>
р{|^-^'|>8}
р{|^-^'|>8}
к = 1 I ж|<1
к = 1 I ж|<1
dFпк С^)>
dFпк С^)>
чем доказана достаточность условий теоремы.
Для доказательства необходимости условий теоремы мы воспользуемся аппаратом характеристических функций, так как элементарные методы приводят к очень громоздким рассуждениям ).
Если закон больших чисел имеет место, то при некоторых Ан и п -> оо
■^ °-■^ °-
■^ °-
■^ °-
Иными словами, при п -> оо функции распределения сумм ^ — Ап сходятся к единичному закону е(х), или в терминах характеристических функций
е"iyV П^ ^1°0)-
к = 1
Отсюда мы заключаем, что при п-> оо
Ч •П1АЛ01=>1.(7)
к=1
Из формулы (7), в частности, выводим, что при п ~* оо
sup (1— |/пН^)1)==>0.(8)
1<^<кп
Согласно теореме 3 § 14 это означает предельное постоянство величин Чк- Таким образом, если суммы Сп независимых слагаемых устойчивы, то слагаемые предельно постоянны.
Из (7) и неравенства
— log(l —а) *> а (О С а< 1)
легко находим, что при п -> оо
’ Ч
2(1-1/^(91)=$>о.(9)
к — 1
Необходимость условий теоремы мы сначала докажем для частного случая, когда все слагаемые Enfc симметричны, а общий случай несколько позже мы сведём к этому частному.
Пусть /(/)—характеристическая функция симметричной случайной величины Е, Для неё, следовательно, a/z£ = 0 и
/ (0 = J cos tx dp (x).
Имеем
1 J (1 -/(0) dt = J (1 - ^-) dF(x).
Но при | x | > 1 1 sin x 1
а при | x К 1
sinx . x2
X*
Таким образом, i ^\-f^dt>^ J x'-dF^-V^ J dF(x)
—11 ж к 1| ж I > 1
и, значит, 1 kn^n 1
J 2(i-u(0)dt = ^ f (i-/„k(оdt>
Отсюда и из (9) следует необходимость условий теоремы (напомним, что в симметричном случае тмЛ = 0 и f^f) вещественна. В силу (8), начиная с некоторого п, в интервале |£|С1 IА^ (^) | =/п?с(0)-
Переходим к доказательству необходимости условий теоремы в общем случае. Рассмотрим случайные величины т^, независимые между собою и всеми Еп& при каждом п и такие, что ^пк и т\пк имеют одинаковые распределения.
Положим
^пК = ^пк ^пк И
Г**nГ**n
Г*
*n
Г*
*n
Величины ^к симметричны. Их характеристические функции равны 14. (О IV
Следовательно, в силу (7) С* сходятся по вероятности к нулю.
По предыдущему это означает, что при п —>оо кп
J x^lFW -> °
6—1 I X |<1
И
Мы получим отсюда условия (3) с помощью следующей леммы:
Лемма. Пусть случайные величины В и ч\ независимы и одинаково распределены, а функция sx (х) определена равенством
{
Xй при |х|<Д,
1 при | х| > 1.
Тогда
М»! (5 — т)) > j M$i ^ — т), • где т — медиана 6.
Доказательство. Не ограничивая общности, мы можем считать т = 0, так как в противном случае мы бы рассмотрели случайные величины 5— т и ц — т. Очевидно, что при х и у разных знаков $! (х—y)*^sx(x).
Поэтому
Ms^ —iq)=J J s^x — y)dF(x)dF(y)>
J J + J J Si(x— y) dF (x) dF (y)^ {^>0, j/<0}{$<0, y>0 }
/ dF(y) J S1(x)dF(x)+ J dF(y) J st (x) dF (x) > У<^^>0y>0Ш<0
4 J s1(x)dF(x)=lMs1(e).
Замечание. Очевидно, что условия теоремы с помощью функции ^ (х) могут быть записаны в следующей форме: при п ~>оо
2 М»!^ — mnh) 0.
Так как
i+^^iW^r+Ts’
то ясно, что условия теоремы равносильны также условию: при п->оо
X? ^пк mnk^X? ^пк mnk^^ 0.^ 0.(10)(10)
X? ^пк mnk^
X? ^пк mnk^
^ 0.
^ 0.
(10)
(10)
§ 23. Две вспомогательные теоремы
Мы перейдём теперь к общей задаче определения предельных законов для сумм независимых случайных величин. При этом мы ограничимся рассмотрением последовательности серий
mV mV * * * ткп
взаимно независимых (в каждой серии) предельно постоянных величин.
Исследование этой задачи мы начнём с доказательства двух теорем, которые показывают, что в общем случае, когда мы уже не можем требовать от слагаемых существования дисперсий, всё же имеет место неравенство, аналогичное условию Р) § 21. Это обстоятельство позволяет нам, сохранив идею доказательства содержащихся там теорем, распространить их на общий случай.
Теорема 1 *). Если при некотором подборе постоянных Ап функции распределения сумм
^•n = ^ni Ч~ ^пй Ч"" • • • 4" ^пкп ^т
взаимно независимых случайных величин ^пк сходятся к предельной, то существует такая постоянная С<оо, что
SJm^^+^XC.(1)
k=l
Доказательство. Эта основная для всего дальнейшего теорема является простым следствием результатов предыдущего параграфа.
Согласно предположению функции распределения сумм ^п при п->са сходятся к предельной. Отсюда легко следует, что для любой последовательности постоянных
СС^ ~> 0 имеем
^п ^ 0.
Но при 0 < а < 1
М 1 + аЧ2 ” ^ 1+аЧ2^"а3 М Т+Р ’
поэтому для достаточно больших п^пк = ^пк— тпк)
п2мп2м2 ь'2ап^пк1 4" ап ^пк2 ь'2ап^пк1 4" ап ^пк>4 2 мк = 1>4 2 мк = 1^пк1 +^пк^пк1 +^пк
п
2м
п
2м
2 ь'2
ап^пк
1 4" ап ^пк
2 ь'2
ап^пк
1 4" ап ^пк
>4 2 м
к = 1
>4 2 м
к = 1
^пк
1 +^пк
^пк
1 +^пк
и, следовательно, при п->оо кп
an^j У 1 4 а:2 ^пкО*
Если бы суммы (1) были неограничены, то предыдущее равенство не могло бы иметь места для любой последовательности ап —> 0.
Примечание. Можно дать иное доказательство теоремы 1, не использующее результатов предыдущего параграфа. Оно интересно в том отношении, что дальнейшие результаты, в том числе и относящиеся к закону больших чисел, могут быть при этом получены единым методом, не использующим результатов § 22 (см. Б. В. Гнеденко [20]).
Теорема 2*). Если при некотором подборе постоянных Ап функции распределения сумм.
^n ^nl + ^П2 "Т • 1 • + ^пкп^пнезависимых бесконечно малых случайных величин сходятся прип ->оо к предельной, то существует такое постоянное число С, что
2/ n^^nH* + «»t)<c. jfc=l где
ank = $ Х ^^пк С*0 >
<Т-
а т — любое постоянное положительное число.
Доказательство. Отметим сначала, что в силу бесконечной малости величин $пЛ имеют место соотношения )
sup \1Ппк\ -> О■ (и -*оо),
sup | a^ft | -> 0 (п ->со).
1^^^^^
|4а основании элементарного неравенства (а 4~ 6)2 ^ 2 (а2 4~ 62) мы заключаем, что при п достаточно больших
2x2 йР^ (х -|* тп^) i 1 + (х + тпк — аНкР *2x2 йР^ (х -|* тп^) i 1 + (х + тпк — аНкР *1 + (х + m^ - а^ dF^ Iх + "^1 + (х + m^ - а^ dF^ Iх + "^^Д^пк апкУ ^^Д^пк апкУ ^
2x2 йР^ (х -|* тп^) i 1 + (х + тпк — аНкР *
2x2 йР^ (х -|* тп^) i 1 + (х + тпк — аНкР *
1 + (х + m^ - а^ dF^ Iх + "^
1 + (х + m^ - а^ dF^ Iх + "^
^Д^пк апкУ ^
^Д^пк апкУ ^
^^пк ^ 4” ^пк) 4“ 2 (mnfcапкУ •
Оценим теперь разность (jn^— ап&)9. Имеем ;при п достаточно больших
^пк ^пк)^ — ^ J" (^ ^пк) d^nk (^)^ ^пк ^^пк (Я)^ ^
I X | <Т| Ж I > Т
<2^ У \x\dFnk<x-\-mnk^-V
I хДтпк i <"
+ 2 ( У т„к dFnk (х + тнк^ <
<2( J к|</Рп)к(х + тпЛ)У + ■\х\<2х
+ 2тпк{ J dFnk(X^innk)^.
Наконец, применяя неравенство Коши-Буняковского, находим
(“„л — wHkV < 2 У х2 dFпк (х + гптак) 4- 2/и^ У dFnk (х + тпк).
Из полученных неравенств и теоремы 1 следует утверждение теоремы 2.
§ 24. Общий вид предельных распределений.Сопровождающие безгранично делимые распределения
Теорема 1 ). Для того чтобы при некотором подборе постоянных Ап функции распределения сумм
^п = ^п! 4" ^?z2 4“ * * * 4"^пЛп ^п(^)
независимых бесконечно малых случайных величин сходились к предельной, необходимо и достаточно > чтобы к предельному закону
сходилась безгранично делимые законы ), логарифмы 4*ь(0 характеристических функций которых даются формулой
Ф« (0 = — i-M + 2 у^пъ + I Vtix — 1) йр^ (x + ««лЛ,(2)
где
■ank" ^ X ^^k (^b^)
I a? । < т
a t>0 — постоянное число. Предельные функции распределения для обеих последовательностей совпадают.
Доказательство. Для того чтобы законы распределения сумм (1) сходились к предельному, необходимо и достаточно, чтобы
/я(0=г'^ПА(0=>А)А-»оо), (4)
где f^ty— характеристическая функция предельного закона, a fn (7)— характеристическая функция суммы (1).
Введём обозначение
Fпк (^) = Fwfc (^ + ^пк)»
где апк определены равенством (3).
Тогда (4) можно записать в следующей эквивалентной форме,: к
—itA^it 2j ос и
= п 6=1 Пайо ==>/(о а^оо).
к — 1
Положим
/пк (01 = P^fc?
в силу бесконечной малости величин ^пк
sup IPnftHOА->оо), (5)
^ к -^ к^
и мы, следовательно, можем воспользоваться разложением логарифма в ряд:
^ё/пк (0 = log (1 + ^пк) = ^пк ■— ^ ^1?с 4”"^ & — • • • Отсюда при достаточно большом п находим
кП^ПкП ОО
к=1к=1к=1 s—2
кп •кп
S Г=ТТ71 < . ™Р ,<6>
Й=1 IP"fcl 1<к<4^
Но
i^»l = | J (^—1 —«х)^;гй(х)+ J ^-V^iAx^ p|<Tl«1>^
(7)
1
Оценим теперь
У xdF'nk(xy|®| <г
Имеем при п достаточно больших (таких, | ^ xdF^^x^-—^xdFп^ (-^) •
1^|<т1Ж + *ИА;,<Т
^- J dFnk(x)
1 ж^>"^
и
^ (Л апк) dFnk(x) —
^пк^пк7 J dF^xy7 J dF^xy
^пк
^пк
7 J dF^xy
7 J dF^xy
ПоэтомуПоэтому1 г v2 ^Fnk f-^) < С,1 г v2 ^Fnk f-^) < С,(9)(9)
Поэтому
Поэтому
1 г v2 ^Fnk f-^) < С,
1 г v2 ^Fnk f-^) < С,
(9)
(9)
(8)(8)I J xdF^x)] <2? J dFnk(x).
(8)
(8)
1I ® I > 2*
Для доказательства необходимости условий теоремы заметим, что на основании теоремы 2 § 23, если функции распределения сумм (1) сходятся к предельной, то
Мы имеем, следовательно,
fc = l |я?|<тй = 1|ж|<т
кпкп
XI |Ж|>Тл = 1|ж|>т
Стало быть, в силу (7)
7с
где С—постоянное. Таким образом, из (5) и (6) вытекает, что при п -> оо
I Xogfn (О — ^(01 = 11— itAn + и 5 «nS + S 10g/»fc (0) — &=1Й=1
— [— ^Ап “f- It 2 ^пк "Г 5 PtJc] I =
fc=lfc—1
кп ,кп
— I— SPnkl 0’
к—1к = 1
Так как eV^— характеристическая функция и потому не может быть по модулю больше единицы, то мы имеем
■ д^ — Л^^о,(Ю)
что доказывает необходимость условий теоремы.
Для доказательства достаточности условий теоремы нам также нужно оценить сумму
S I ^пк|•
С этой целью мы заметим, что для безгранично делимых законов, определяемых формулой (2), в формуле Леви-Хинчина следует положить
кп и
Qп (^z) =|* Y^^^^nk^x^e
к~Х —оо
Поэтому, если к предельному закону сходятся безгранично делимые законы, определяемые формулой (2), то на основании /теоремы 1 § 19
J dO„(«) = 2 J ^^^(х)-* J dQ^ (л-ооХ
где G(jT)— монотонная функция, определяемая формулой Леви-Хин- чина для предельного закона.
Таким образом, и в случае сходимости функций (2) к предельной мы имеем соотношение (9). Поэтому из (5) и (6) мы опять заключаем, что имеет место (10). Этим доказательство теоремы завершено.
Доказанная теорема представляет значительный интерес, так как она позволяет заменять исследование сумм
Сп = ^щ 4“ $^2 "Т" е • • 4“ ^пкп ^п бесконечно малых случайных величин ^пК с, вообще говоря, произвольными функциями распределения Fnk (х) исследованием сумм
^п = ^nl 4- ^п2 4” • • * 4” ^пкп ^п
безгранично делимых слагаемых £пк. Это обстоятельство, как уже было сказано в § 20, положено в настоящей книге в основу изложения теорем о предельных распределениях для сумм независимых слагаемых.
В качестве первого следствия доказанной теоремы мы укажем на следующий фундаментальный результат, полученный А. Я. Хинчи- ным [76].
Теорема 2. Для того чтобы функция F (х) могла быть предельной для сумм (1), независимых в каждой сумме бесконечно малых слагаемых, необходимо и достаточно, чтобы она была безгранично делимой.
Доказательство. Из предыдущей теоремы мы знаем, что предельная функция распределения для сумм (1) является в то же время предельной для безгранично делимых законов и, значит, согласно теореме 3 § 17 сама является безгранично делимой. Обратное предложение, что каждый безгранично делимый закон является предельным для сумм бесконечно малых слагаемых, немедленно вытекает из определения безгранично делимого закона.
Таким образом, мы доказали, что класс предельных законов для сумм (1) взаимно независимых бесконечно малых величин совпадает с классом безгранично делимых законов распределения.
Когда 5П&(1 ^&^^n> я= 1, 2,...) являются предельно постоянными величинами, тогда величины ^—mnk бесконечно малы. Поэтому класс предельных законов для сумм (1) не только для бесконечно малых, но и для предельно постоянных величин ^пк совпадает с классом безгранично делимых законов распределения,
Необходимые и достаточные условия сходимости
Теорема 1 § 24 даёт возможность найти условия существования предельной функции распределения для сумм (1) § 24.
Теорема 1. Для того чтобы при некотором подборе постоянных Ап распределения сумм
^п == ^1^п2 *4"" • • * *4” ^^п(^)
независимых бесконечно малых случайных величин сходились к предельному, необходимо и достаточно, чтобы существовали неубывающие функции
М^ 0И(—оо) = 0) и N(u) (/V(+oo) = 0),
определённые соответственно в интервалах (—оо, 0), (0, -froo), и постоянная а ^ 0 такие, что
в точках непрерывности Л4 (и) и N(u)
lim 2 Fnk W = М00(« < 0),
n->oo A = 1
lim 2 (F^u) —l) = ^(«),(«>0),
n->oo k = l
lim lim 2{ f x^dFnk(x) — ( Г xdFuk (x)Yl =
= lim lim" 2 { f ^^W —( J «dFnk (x)?} = o\
8->0П->ОО fc = l|Ж|<в
Постоянные An можно выбрать no формуле
An = 2 J xdFnk{x) — -Цт),
где 7 (т) — любое постоянное, а — т и + т являются точками непрерывности функций М (и) и N^u\
Логарифм характеристической функции предельного закона определяется формулой (7) § 18 с только что определёнными функциями М(и) и N(и) и постоянными а и т(т).
Доказательство. Сформулированная теорема является следствием теорем 2 § 19 и 1 § 24, В самом деле, в силу теоремы 1 § 24 мы можем ограничиться исследованием, условий сходимости
положитьи <0,положитьи <0,безгранично делимых законов, определяемых равенством (2) § 24.
положить
и <0,
положить
и <0,
Для этих законов в формуле (7) § 18 мы должны кп "
М„ («) = 2 | dFnk (х + a„fc) для
ОО ^ °°
zz > О,zz > О,N„(u) = — 2 f dFnk(x-Jl-an1c') для
zz > О,
zz > О,
Гкп
^ = 0 и Т»М = —^„+2 f x^nfcW+ 2 f xdF'^xY
Согласно теореме 2 § 19 для сходимости законов распределения (2)
§ 24 необходимо и достаточно, чтобы при и -> оо
кп ”
— 2 I ^F«fc(^ + “nfc)->^(«) («>0);
и
кп 0ё
) lim lim 2 [ $ хй dFn1.(x>)-\- f x2dFnfc(x)l =
4 +;k« +;
= lim lim 2 1 x^dF^tx) = Um lim 2 I л2 dFnk (x) = a2,
e->0n->0fc = le->OnZ^k~l
кп,кп„
3')-Л„+2I xdF^x)-^ 2Г xdF„^x^4^.
Из условий 1'), 2'), 3') мы выведем прежде всего, что Ап можно выбрать так, как указано в теореме 1. С этой целью покажем, что
(2)
Имеем
16 пкп
2 Г xdF'nk^= 2 Г ^ — ank^dFnlt^ =
1®|<гIib-^Kz
кп
'пк
xdFn1t^-V»n1t J
:|«1>т
Согласно теореме 2 § 23 существует такое постоянное С, что
2 f ^^пк (#)2 f ^^пк (#)<с.<с.
2 f ^^пк (#)
2 f ^^пк (#)
<с.
<с.
Отсюда, принимая во внимание, чтоОтсюда, принимая во внимание, чтонаходимнаходим/я= sup |anft|~>0 (/z—>оо), 1 ^ к ^ к^/я= sup |anft|~>0 (/z—>оо), 1 ^ к ^ к^(3)(3)
Отсюда, принимая во внимание, что
Отсюда, принимая во внимание, что
находим
находим
/я= sup |anft|~>0 (/z—>оо), 1 ^ к ^ к^
/я= sup |anft|~>0 (/z—>оо), 1 ^ к ^ к^
(3)
(3)
С другой стороны, при п достаточно большихС другой стороны, при п достаточно больших<S{ J xdFnk(x) + J xdFnk(x)^<<S{ J xdFnk(x) + J xdFnk(x)^<
С другой стороны, при п достаточно больших
С другой стороны, при п достаточно больших
<S{ J xdFnk(x) + J xdFnk(x)^<
<S{ J xdFnk(x) + J xdFnk(x)^<
<2т2| J dFnk (x) + J dFHk(xy^ .
6=1 |* + *1<1%й1|®—:|<|«„fc|
Правая часть этого неравенства в силу 1'), (3) и того, что —т и 4“ч являются точками непрерывности функций М (и) и N(u),
стремится к нулю.
Таким образом, (2) доказано.
Далее, в точках непрерывности функции М (и)
к ^ — 1
(п —> оо),(п —> оо),
(п —> оо),
(п —> оо),
(/г -> со).(/г -> со).п-> оо.п-> оо.
(/г -> со).
(/г -> со).
п-> оо.
п-> оо.
_ ч и+1п
/„=2 I dFnk(x-V-ank)^-M(u)
Но”
н
^п 2 f ^^пк С-^) ^п>
-fc = l J
—оо
следовательно,
2 J dFnk (х) = 2 Fnk (и) ^ М («)
Точно так же доказывается, что при и > О
^п 00^п
- 2 f ^М = S (Fnk^-X)^NH к—1 Jк — 1
Этим мы доказали, что из 1') следует 1). Обратное доказывается столь же просто, и мы не будем на этом останавливаться.
Нам остаётся установить эквивалентность соотношений 2) и 2').
С этой целью прежде всего отметим следующие очевидные соотношения:
п р
S>™2 J xMF^x-V =
б->0 П-^со к 1"
= Пт Пт 2 J x2</F,lft(x + an71.) = е _>о П-> оо к =1| o^-a^l < е
= Нт Пт 2 $ <x—alVkydFn1Ax\ 8->0 П ->ОО к—1 |ж | < 8
Нт Пт 2 j xW„z. (х + ап7с) =
8—> О П->ОО к =1 | □? | < 8
= ИтИт 2 J (х — am^dFnk (х).
® —^0 W —У ОО к ==1 | Q5 | ^ 8
Далее
2/ ^-a^MF^^ { j* xMF^-
— 1 | X I < 6^ —1 I X I < 8
— 2arafc J xdF^^Jfa^—a^ J dFnk(x^ = | Ж | < 8| x | > e.
= 2{ J xMFllk^-^ / xdFttk^\-Y
^ ~1 | X | < e ■I x I < e
+ 2 {( J x dFnk^x^— ank I dFnk(x) |.
fe = 1 I 8 < | X | < T|»|>6
Обозначим последнюю сумму в правой части написанного равенства через <оп..
Легко видеть, что
. ЬК^2' sup JdF пк(х) 4-&). 2 Г dFnk(x).
Первый множитель стремится к нулю при п->оо. Второй множитель ограничен. В самом деле, если функции распределения сумм (1) § 24 сходятся к предельной, то в силу теоремы 1 § 23
J d^nk (х) J ^Р^ ^х-Д-ап1^)
|ж'>е ^У^л
Если же выполнены условия теоремы 1, то, каково бы ни было 8 > О при достаточно большом п,
к
f j* ^»»(х)СЛ! (-s)-2V(8)4-8. ftsl |ж|>е
Таким образом, в обоих случаях
Этим мы завершили доказательство эквивалентности условий Г), 2'), 3') и условий теоремы. Теорема доказана полностью.
Примечание. Теоремы 1 § 19 и 1 § 24 дают возможность сформулировать условия существования предельного закона для сумм (1) § 24 в ином виде.
Для того чтобы при некотором подборе постоянных Ап законы распределения сумм (1) бесконечно малых слагаемых сходились к предельному закону, необходимо и достаточно, чтобы существовала такая неубывающая функция G (и) ограниченной вариации, что при п ->оо
V^ dFnk (я + апк) => 0 (“)•
Функция G{u) определяет предельную функцию распределения по формуле Леви-Хинчина.
Очевидно, что полученные результаты автоматически переносятся на суммы предельно постоянных слагаемых. Мы ограничимся формулировкой только одной теоремы, являющейся почти буквальным повторением теоремы 1.
Теорема 2. Для того чтобы при некотором подборе постоянных Ап законы распределения сумм
^п ^ ^nl “Ь ^п2 Ч” е • * Ч~ ^пкп ^н
независимых предельно постоянных случайных величин сходились к предельному, необходимо и достаточно, чтобы существовали такие функции М^и\ N^u) и постоянная а, что
в точках непрерывности функций Л4 (и) и N^u)
2 dFn1t(x-Vin№A->M (^ (я-» оо) (и < 0), fc=l J
— оо
5 Г dFnk (х + /«„,,.) -» — ZV(zz) (n-^oo) (и> 0);
и
Um Ит j/ J x2dFn1Ax-\-mn1t\-( f x dF^x-i-nink^ =
.e->0n->co К =1 |Ж|<8I ж | <e
= ИтЙпГ^{ j* dF^x-Vin^-t J xdFnk (x-Vm^X = a2.
s->0 n->co "k —1 । x । ^ tI a? j < e
Постоянные An можно выбрать no формуле
^п ГКп
Лп = 2 xdFniAx-ymnkW 2 ^п^тМ,
где т(т) — любое постоянное.
Логарифм характеристической функции предельного закона даётся формулой (7) §18.
Настоящая теорема является следствием предыдущей, так как величины ^пк—тп1€ бесконечно малы.
Мы рассмотрим частный случай последней теоремы, когда
— ^п / С1
Нт Ит У j xdFn1<^x-Y тп1^\ =0.
е->0 n->OOfe=51 уту<в/
Этот случай имеет место всякий раз, как только предельный закон не имеет нормальной компоненты (g = 0) или если величины ^п1г симметричны относительно медиан.
Теорема 3. Если
lim Йш Г xdF^x-ym^ = 0,(4)
8->0 Tt-XDO^^iXiе/
О Чятт tWTA. Гига rrauvn „ Vnur^r-^^^r.
то для сходимости (при надлежащем подборе Ап) законов распределения сумм
^п = $П1 + ^П2 4~ • • • “Ь ^nkn ^пQ)
независимых предельно постоянных случайных величин к предельному необходимо и достаточно^ чтобы существовала такая функция G (и), что при п-> со
g„(«) = 2 j r^^^ + ^^GC")-к =1 —ОО
Постоянные Ап могут быть выбраны по формуле
Г г1
^п У I J ^ d^nk (^ ^пк) 4“ ^nk I •
^—1| зс | < т
Доказательство. Если соотношение (4) выполнено, то в силу предыдущей теоремы для сходимости законов распределения сумм(1) к предельному необходимо и достаточно, чтобы существовали постоянное а и функции М (и) и N (и) такие, что при я-> оо
£ Fnk <х + ™nk) - М (X) (X < 0), к=1
2 (Рпк(х-\-тп^- l)-> N (x)(x > 0),
.k=l
kn r
lim lim V jxMFnk (x + mnk) =
f =limjim_ 2 J x2 dFnk (x + mn^ = o2.
e*^®n->oo k =1 j ж । ^ e
Если ввести функцию G(zz), определяемую равенствами
и
°(“)= I ТТТ^М^ («<0),
—оо
о
G{ + 0) = =8+ j-p—d^Cx),— ООи
G(«) = G( + 0)+ J^-^dAr^)(Я>0),
о
то в силу теорем 1 и 2 § 19 только что выписанные соотношения 1) — 3) эквивалентны условию Gn=>0 рассматриваемой теоремы.
Мы докажем теперь, что если предельный закон не имеет нормальной компоненты (т. е. если а = 0), то
Х( / ^И^™,.))"-».
| X | < •
С этой целью заметим, что если через А^ обозначить тот из ин*
тервалов (—s, 0) и (0, s), для которого интеграл
J xdFnk(xAmnA A
имеет наибольшее• кп■I Ж l< S1;пимеет наибольшее• кп■I Ж l< S1;ппо абсолютной величине значение, то
имеет наибольшее
• кп
■I Ж l< S
1;п
имеет наибольшее
• кп
■I Ж l< S
1;п
7пк (* + '»«»)) < 2 (f xdFnle я/А = 1 V
Ак
АкАкАк
Ак
Ак
f dF^Ax + «nA f x^dF^x-Vm^.
А^| X 1 < 8
Но в силу определения медианыНо в силу определения медианы
Но в силу определения медианы
Но в силу определения медианы
Тепер’ь из неравенства
V 2 f x^dFnAx-VmnA< 2 { f x9dFnk(x-Y-mnk) —
— ( J xdFn1t(x-\-mnk)^
\x\<6 и теоремы 2 следует доказываемое соотношение.
Несколько видоизменив формулировки последних трёх теорем, мы можем получить не только условия существования предельного закона для сумм, но также и условия сходимости к каждому данному предельному закону. Перефразируем, например, теорему 1.
Теорема 4. Для того чтобы функции распределения сумм ^П — ^1 + ^ + • • • +^nfcn — АП
независимых бесконечно малых случайных величин при надлежащем подборе постоянных Ап сходились к функции распределения F (х), необходимо и достаточно, чтобы выполнялись следующие условия*.
в точках непрерывности М(и) и N^u) при п—>оо
2 F»k (^ -* М (х) при х < О, 7; = 1
5 (Fnk (х) — 1) -* N(x) при х > 0;
lim lim 2 I f Xй dFnk(x) — ( Г xdF^(x)Y 1 = \x\<«’
= lim lim 2 { J x»dFnl6(x) — ( f xdFnk(x)X\ = d\ e-> 0 n-> qo Zc—1।। e| ж | < e
где функции M(u), N(u) и постоянная о2 определены формулой Леви для закона F^. Постоянные Ап определяются формулой
^n S f ^F^ (х) ^п (т).
Примечание. Если требуется выяснить условия сходимости функций распределения сумм
^п = ^1 + ^п2 + • * 1 + ^пки(5)
к предельной функции распределения, то к условиям теоремы 4 следует прибавить ещё одно
Нт 2 f xdFnlt(^) = ^^.
П^ю k=1 la/хг
ГЛАВА 5
СХОДИМОСТЬ К НОРМАЛЬНОМУ,ПУАССОНОВСКОМУ И ЕДИНИЧНОМУ РАСПРЕДЕЛЕНИЯМ
§ 26» Условия сходимости к нормальному законуи закону Пуассона
Общие теоремы последнего параграфа мы используем теперь для выяснения условий сходимости функций распределения сумм к различным специальным предельным законам распределения, с которыми имела дело классическая теория вероятностей. При этом почти во всех теоремах мы ограничимся рассмотрением сумм бесконечно малых случайных величин, так как рассмотрение предельно постоянных слагаемых, как мы видели раньше, может быть сведено к рассмотрению бесконечно малых. И только при трактовке теорем типа закона больших чисел само существо задачи заставит нас рассматривать предельно постоянные слагаемые.
Общие задачи, рассмотренные нами в предыдущей главе, были поставлены и разрешены лишь в последние годы. Основной же интерес классических исследований сводился к выяснению условий сходимости функций распределения сумм к нормальному закону и определению наиболее широких условий, при которых имеет место закон больших чисел. Интересно отметить, что в сущности классическая теория вероятностей изучала лишь один собственный предельный закон распределения — нормальный закон. Изучение закона Пуассона ограничивалось только элементарными исследованиями. Причины такой односторонности классических исследований в настоящее время полностью вскрыты. Оказалось, что нормальный закон распределения действительно играет доминирующую роль как в теоретических вопросах, так и в приложениях. Ниже мы увидим, что если для сходимости функций распределения сумм независимых слагаемых к нормальному закону на слагаемые помимо требования их бесконечной малости (или предельного постоянства) приходится налагать лишь ограничения весьма общего характера, то для сходимости к другим предельным законам от слагаемых требуется наличие некоторых весьма специальных свойств.
Мы увидим, что развитая нами в предыдущих главах общая теория позволяет получать буквально в нескольких словах доказа-
тельства важнейших теорем теории вероятностей. Однако это обстоятельство не должно в глазах читателя умалять ни значения самих этих теорем, ни значения усилий, которые были потрачены математиками на формулировку и доказательство этих предложений.
Мы перейдём теперь к изложению конкретных результатов, и это изложение начнём с доказательства теоремы А. Я. Хинчина [77], выясняющей принципиальное значение нормального закона в теории предельных законов.
Теорема 1. Если распределения сумм
^п = ^1 + ^п2 + • * • + ^пкн
независимых в каждой серии бесконечно малых случайных величин ^пк(\^^^^ сходятся к предельному, то выполнение при любом е > 0 соотношения
f dFnk<x^O (поо)I >e
является необходимым и достаточным условием того, чтобы предельный закон был нормальным законом.
Доказательство. Так как, по предположению, предельный закон существует, то на основании теоремы 4 § 25 мы имеем *
2 FwkW = 2 f dFnk^^M^(х < 0),
fc = lk = l
^n^n 00
2 (^(^-1) = - 2 ( dFttk^-^N(x) (x > 0).
k — 1k = l
Отсюда мы заключаем, что если (1) выполнено, то Л4(х)=0 и ^(x)^0 и, следовательно, предельный закон будет нормальным. Обратно, если известно, что предельный закон является нормальным, то /И (х) = О и N(x") = O и, стало быть, в силу 1) и 2) имеет место соотношение (1). Теорема таким образом доказана.
Мы видели, что если на величины ^пк наложить только требование бесконечной малости, т. е. требование, чтобы при п-»оо
(2)(2)sup P{|UI>s}-^0
(2)
(2)
1 -^ k -^ ^yi
для каждого г > 0, то предельным законом для сумм Сп может служить любой безгранично делимый закон. Условие (1) означает, как мы сейчас докажем, что не только каждое отдельное слагаемое мало, по что они равномерно малы. Иными словами, для каждого е>0 вероятность того, что хотя бы одно из 5^(1 ^ & <^z) превзойдёт е
при п-^оо, стремится к нулю. В виде формулы это можно записать так:
Р{ sup IE„k|>s}->0)(п->оо).(3)
-1 ^ к ^ к^
Очевидно, что
Р{ sup 1;,гк1 > е ! = 1 —Р { sup |ink|<s} =
к,к,(n—> oo)(n—> oo)(4)(4)1<к<кн1<к<кн
к,
к,
(n—> oo)
(n—> oo)
(4)
(4)
= 1-ЦИ|^1<е}=1- k —1
Поэтому условия (3) и
jj(l- f dF^x^Y
k — 1|«?1>S
эквивалентны.
Неравенства kn
1-2 J ^(^)<Д(1- J<1
|ж|>е|^|>8
показывают, что из (1) следует (4), а, значит, и (3) и обратно, из (3) следует (1).
Предыдущая теорема находит себе аналогию в теории случайных процессов с независимыми приращениями. Совокупность случайных
величин Сх, зависящих от вещественного непрерывно изменяющегося параметра X, называется случайным процессом с независимыми приращениями, если приращения случайной величины ^ за неперекры- вающиеся промежутки изменения параметра представляют собой независимые случайные величины.
Мы скажем, что случайный процесс Сх стохастически непрерывен, если при любом s > О
Р{Кх+дх — Сх1>е}->0(ДХ-О).
Скажем далее, что процесс £х стохастически строго непрерывен в промежутке [Хо, Л], если при любых Х0^Хх<Х2< ... < Х„ = Л и произвольном е > О
Р { sup Кх& — ^XZ<-1 1 > е } —> О,
1 < & < п
при max(Xfc— Х^)-> 0.
Теперь теорема 1 может быть на языке случайных процессов сформулирована следующим образом:
Для того чтобы приращения СХ2— СХ1 случайного процесса с независимыми приращениями в интервале Хо ^ Х1 < Х2 <С Л были распределены по нормальному закону, необходимо и достаточно чтобы процесс £х в интервале [Хо, Л] был стохастически строго непрерывен.
С точки зрения развитой теории случайных процессов строгая стохастическая непрерывность Сх обозначает, что с вероятностью единица £х как функция X непрерывна во всех точках X. Мы не можем, однако, входить здесь в обоснование этого утверждения (ср. § 16 и гл. VIII книги [46]).
Теорема 2. Для того чтобы при некотором подборе постоянных Ап распределения сумм
^п^п\ Ч" ^n2 Ч” е е * Ч" ^п!<п п
при п—> оо сходились к нормальному закону
х г
ф/ 6 (5)
и слагаемые ^nit^X^k^k^ были бесконечно малы, необходимо и достаточно при любом е>0 выполнение условий
0 2 J
^i | ж | > е .
Доказательство. Достаточность. Из условия 1) теоремы следует бесконечная малость величин Enfc. В самом деле, для любого е > 0 мы имеем при п -► оо
sup Р {| ^nfc | > в } = sup Г dFnk (х) <
С
k^1 | Ж | >8
Поэтому мы находимся в условиях предыдущего параграфа и можем использовать полученные там общие результаты.
Необходимость условий теоремы получается из теоремы 4 § 25, если положить в ней а=1, ^ (т) = 0 и М ( — u) = N(u) = 0.
В самом деле, в нашем случае первое условие теоремы 4 § 25 может быть записано в форме: при любом х>0
2 J ^(«)=2(1-/7„»(^)+Л.И-^))->
^—1 | и | > асk—1
( —x) + ^(x) = 0..
Ясно, что это условие совпадает с условием 1).
Далее для любого е' (0 < s' < е) мы имеем
j{ / x»dFnk^-^ f xdF^x^^
^^ I Ж I < вI Ж I < s
= ^{ J x^dFnkU) — ^ J ^^(^)2} +
^"1 I Ж I < s'I Ж j < I*
+ 2{/ xMFnk(x)-( J xdF^x^-
^—1 ef С | ж I < вв' < I Ж I < 8
— 2 5( J xdFltk(x^ J xdFnk^y
^=1 I ® I < s'V < | X | < e ■
Ho
И
2 2 | J х<//7м(х)|| J xdFft1t(x^<.
^—1 | х | < а'%* <. | X ; < е
< 28 . е 2 J dFnk (х).
k"1 I X I > г*
Эта последняя сумма в силу доказанного уже первого условия теоремы при я -> со стремится к нулю. Таким образом, для любых 8 > 0 и е' > О
Д^ S { J *2 dF«k ^—^ S х dF^ м)2}=
п -> оо ^^ I Я? I < ®I X | < £
= Йш 2{ J x»dFn1t^—( Г х d.Fn1t<x^Y
т. е. верхний предел не зависит от е. Это же справедливо и по отношению к нижнему пределу. Отсюда в силу условий теоремы 4 § 25 мы заключаем, что при любом е > О существуют не только верхний и нижний пределы выражения
к
S{ J x^dF^ ( S X(iFnk(x)yY
^^ I X | < £I X I < 6
но и обыкновенный предел.
Для дальнейшего нам будет важно записать условия сходимости к нормальному закону в несколько иной форме.
Теорема 3. Для того чтобы при некотором подборе постоянных Ап распределения сумм
^п " ^nl Ч” ^«2 Ч” * • • Ч~ ^кп 1 ^п
8> О1)2) где8> О1)2) гденезависимых бесконечно малых случайных величин сходились к нормальному закону (5), необходимо и достаточно, чтобы при любом
8> О
1)
2) где
8> О
1)
2) где
2 J dFnk(x-V-ank) -*0(м-*оо),
^—1 I X I > Е
2 J x^dF^x-V-a^ -> 1(я->со),
^"^ | X I < s
^пк^^"|*^ ^^пк (-^)>
| а? | < т
а т — любое положительное число.
Мы не даём доказательства этой, теоремы, так как она выводится из условий 1') и 2') § 25 подобно тому, как предыдущая теорема из теоремы 4 § 25.
Мы приведём ещё одну теорему относительно сходимости законов распределения сумм независимых слагаемых к нормальному закону.
Достаточность её условий была указана ещё в 1926 г. С. Н. Бернштейном [5]. Полностью теорема была доказана Феллером [62] в 1935 г.
Теорема 4. Для, того чтобы для данной последовательности независимых случайных величин
Ер $2, • • . ,$п, . . .
можно было подобрать действительные постоянные Ап и Вп > О, обладающие тем свойством, что законы распределения сумм
rn=Дг(6)
сходятся к нормальному закону (5) и слагаемые
& 7\ / ь / ь
бесконечно малы, необходимо и достаточно существование такой последовательности постоянных Сп (Сп-+ сю), что при п -> оо
2 J dF^x^O,
k=v । я I > сп
(7)
^rS{ f( f xdFK^\-^co.
n ^—x I ® i < Cn1 I < cn
Доказательство. Необходимость. В силу предположения о бесконечной малости величин ^)гк=Дк мы можем воспользо- ваться теоремой 2. Так как РпДх^ = Р7.(Впх), то условия 1) и 2) теоремы 2 в нашем случае принимают вид
1) 5 J dFk(x)-^0, ft=1 1 о? 1 > «Вп
71 fcl | я? 1 < еВп1 а? 1 < еВ^
х dFk (^yj-* 1 (я-» оо).
1.
Очевидно, что мы можем подобрать такую последовательность ^->0,
что при п ->■ ОО В„5П -* ОО и
2 У dF^-^
&=1 1 я? I > е В
пМ8)
^S{/ x^dF^^x) — ( j* xdFn(x^-^ 1.
\»\<*nBn^^<‘nBn
Положив здесь enBn = Cn, мы получаем соотношения (7). Достаточность. Пусть теперь условия (7) выполнены. Положим
В» = 2{ / хМРк(х~) — ( J xdFft(*))2} • i-1l®i«?„\®\<<?п
Сравнивая это равенство со вторым условием теоремы, мы заключаем, что
Сп = о (Sn).
Поэтому для любого е > 0 при достаточно больших п
2 У dFu^>^ [ dF^xy
Таким образом, для любого е > 0 в силу первого условия теоремы при п -> оо
_ У dFk^->0.(9)
Далее, имеем
^2{ У x^dF^ — ^ у xdFk<x^<_ »к=1С„<1еК.В№Оп<\=\<*Вта
^s2^ J ^^А;(Х)0, Л->ОО
А=1 I х I ^ С^
И
Л- 21 У ^^мЦ У ^^ft(x)|<
» »—1* \®\<СПсп<\®\<.вта
<—^"2 У dF^-*°-
'п Д—1 I XI > Сп
Отсюда и из определения Ви при любом з > О имеем для /г -> оо
А-2{ J xMF^-^ / xdF^^X. (10) п А=1 I я? I < ВI х I < йВ
Так как из соотношения (9) следует бесконечная малость величин *^-(1^^^^)> то мы находимся в условиях теоремы 2, откуда следует, что условия (9) и (10), а значит, и условия теоремы достаточны для сходимости сумм (6) к нормальному закону.
Теорема 5*), Для того чтобы законы распределения сумм
^п = ^1 + ^«2 + • • • + ^пкп
независимых бесконечно малых случайных величин сходились к закону Пуассона
р^= 2 т (Х>°)’
* о < к < х
^необходимо и достаточно* чтобы при каждом s(0<s< 1) выполнялись условия
s у dF«k (х) 0(/г °°)>
^ J dF^^-yX(л —> со),
&=1 | Х—1 | < е
2 J X dFnlt (х) -» 0(л -* оо),
к=1 | X | < е
^{ / x^dFnk(x) — ( У xdFn1c(x)^-> 0(л-^оо),
ftel | X | < е| х | < е
где через R^ обозначена область, получающаяся из прямой — оо<х<4-°о путём выбрасывания интервалов |х|<е и |Х—1 |<8.
Доказательство. Настоящая теорема так же легко выводится из теоремы 4 § 25, как и теорема 2; для этого достаточно заметить, что в формуле Леви для закона Пуассона нужно положить М (z/)=0, N(u) = — X для 0<^^1, ^(гz)—0 для и > 1, а=.0, ^ (т) = 0 для 0 < т < 1.-
§ 27. Закон больших чисел
В § 22 была получена (формула (10))
Теорема 1. Для того чтобы суммы
'^п ==: ^п! + ’??2 4“ • • • ~h ^?гкп ^п(1)
независимых в каждой серии случайных величин удовлетворяли закону больших чисел, необходимо и достаточно условие
42-
2 / dFnjt (х+0°°^
к=1"
Постоянные 4^ могут быть выбраны по формуле
Л„ = 2 Vnnk + J х dFnk(x-V тпт^ ,
^—^1 аз \ < ~
где т— постоянное число.
В примечании к теореме 1 § 23 было указано, что результаты, относящиеся к закону больших чисел, мы можем получить из общих теорем.
Теперь мы в состоянии это сделать. Именно, теорема 1 легко следует из теоремы 3 § 25, если принять во внимание, что для единичного закона в формуле Леви-Хинчина мы должны положить
7 = 0, G(zz)=O.
Примечание 1. Теореме 1 можно придать несколько иную формулировку: для того чтобы суммы (1) удовлетворяли закону больших чисел, необходимо и достаточно, чтобы при п-> оо
i)S / dF«b ^+^^ °’
^~* I Ж | > 1
Ч Г
2 J *2 dF^ ^ + т"^ °-
^■^ | аз | < 1
При этом можно выбрать
Д„ = 2{/ xdFnk(x-Vmn^4-mnKy
fc—1 [ a? i < 1
Примечание 2. В тех случаях, когда считают, что Ап--0 и, следовательно, ставится вопрос об условиях, при которых для любого 8 > 0
Р { I ^1 + ^п2 + • • * + ^nkn I > 5 } "> 0^П —> ОО),
Закон больших чиселЗакон больших чисел143143§ 27]
Закон больших чисел
Закон больших чисел
143
143
указанных условий уже недостаточно, и следует добавить новое требование, чтобы при каком-нибудь т > О
2\ j xdF^^x^-m^-Vm^^O (n-too).
^^ | а? | < т
Примечание 3. Из теоремы 1 § 25 выводим: для того чтобы суммы
^п = '711 + ^2 + * * * + ^Пки
независимых случайных величин сходились при п-> оо к нулю по вероятности и величины ^н^\ -4 к -4 k^ были бесконечно малы, необходимо и достаточно, чтобы при любом г > 0 и п-> со выполнялись соотношения
1)^/ dFnk(x)^0,
^—1 | х I > e
2) ^ J xdF1lk\x^-*O,
^"^ x 1 < e
3)2{ J xMF^-^ / xdF^p^.O.
^=1 | x | < ei x | < e
В качестве простого частного случая теоремы 1 мы укажем следующую теорему, доказанную в предположении Вп = п А. Н. Колмогоровым [32] и в общем виде В. Феллером [63].
Теорема 2. Для того чтобы последовательность
^1 >$2) • • • >^п^ • • •
независимых случайных величин подчинялась закону больших чисел, т. е. чтобы при данной последовательности постоянных Вп>0 существовали постоянные Ап такие, что при любом е > О
р J I .^52+:..:•+.5» _^J^l-^o(я->оо),
необходимо и достаточно, чтобы
п
2/—^-—- dFk (х 4- тк^0(п-^ оо),
где тк— медианы величин ^к.
Постоянные Ап могут быть выбраны по формуле
^п=== g ^j(^^4"^dFк (х -|~ ^к^ >(2)
П к=1| х | < т5п
где Ti—произвольное положительное число»
В дополнение к уже приведённым теоремам мы докажем теорему устанавливающую необходимые и достаточные условия для применимости закона больших чисел в классической формулировке.
Теорема 3*). Для того чтобы последовательность независимых случайных величин Ер $2,..., Еп,..., имеющих конечные математические ожидания Wi]c — ak^ подчинялась закону больших чисел, т. е. чтобы при любом е > О
(п-> оо),(п-> оо),(3)(3)
(п-> оо),
(п-> оо),
(3)
(3)
необходимо и достаточно, чтобы при п-^ оо
2 т / xdFk(.x-Va^-^O,
k=l la? I <n n
2^ J ^dFk^xA-ak^O.
k=l | a? | <n
Доказательство. Положим для краткости
^k = ^k U"k
и докажем, что если выполнено (3), т. е. если при любом е > О р||1+а±^±1-|>в^о („->«,),(4)
то величины -~ (1^^ п) бесконечно малы.
Имеем при п достаточно больших:
Следовательно,
*) См. [32].*) См. [32].|<а)п (р'^'"'^^^8)} >1~25’
*) См. [32].
*) См. [32].
что равносильно бесконечной малости величин
—, 1 <£ п ’—, 1 <£ п ’и.и.
—, 1 <£ п ’
—, 1 <£ п ’
и.
и.
Мы можем, таким образом, воспользоваться утверждением, сформулированным в примечании 3 к теореме 1. Тогда получаем, что для (4) необходимо и достаточно, чтобы для любого е >.0 при п -> оо
dFk (пх) О,dFk (пх) О,(7)(7)
dFk (пх) О,
dFk (пх) О,
(7)
(7)
В силу существования математических ожиданий при п->оо J х dFk (х) -► Jx йРк (х) = 0.
| а? | < еп
Отсюда мы заключаем, чтоОтсюда мы заключаем, что00(л -> оо)(л -> оо)
Отсюда мы заключаем, что
Отсюда мы заключаем, что
0
0
(л -> оо)
(л -> оо)
и что, следовательно, (9) можно заменить соотношением
^ f х2 dFfcOtx)—> 0 (п -> оо).(10)
&=1 | о; | < е
Теперь эквивалентность первого и третьего условий теоремы и соотношений (7) и (10) очевидна. Остаётся доказать, что
п Г , п Г
2 J х dFk ^пх^—2 "п J х dFk (х) ■* ° ^л °°^
Л==1 | а? [ < ек — 1|ж|<п
Но это равенство вытекает из (7); в самом деле,
WпWп
Wп
Wп
=|2 .f х dF'k ^пх^ I 2 J dFk ^ -* ° ("-*00)-
fc = le<|a?J<lк=1\ос\>*
Ю Зак. 5374. Гнеденко и Колмогоров.
Предыдущие результаты позволяют получить такое интересное следствие."
Следствие 1. Для того чтобы ряд
(11)(11)2
(11)
(11)
k —1•
(П -> ОО).(П -> ОО).из независимых случайных величин сходился с вероятностью единица, необходимо и достаточно, чтобы выполнялся «критерий Kouiu»*. каковы бы ни были т> п для любого г > О,
(П -> ОО).
(П -> ОО).
Р { I ^п + ^п+1 + • • • + ^ I > s) 0
Доказательство. Необходимые и достаточные условия сходимости ряда .(11) с вероятностью единица были найдены А. Я. Хин- чиным и А. Н. Колмогоровым [32] и состоят в следующем: при любом е > 0 должны сходиться ряды
'2 J dFk(x\
2 f xdFk(x), &=11. /
Для сходимости этих рядов необходимо и достаточно, чтобы при любом т> п
2 Г dFk(x)-^0
тт(п —> со),(п —> со),
т
т
(п —> со),
(п —> со),
Эти соотношения в силу примечания 3 к теореме 1 доказывают наше утверждение.
Нашему следствию может быть придана иная формулировка. Для того чтобы суммы
из независимых случайных величин сходились с вероятностью единица, необходимо и достаточно, чтобы они сходились по вероятности.
В качестве другого следствия теоремы 3 мы укажем результат, полученный А. Я. Хинчиным [69].
Следствие 2. Если случайные величины
£i> ^i* • • > 5П,.. .
независимы, одинаково распределены и имеют конечное математическое ожидание М5п = я, то к ним применим закон больших чисел, т. е. при любом е > 0 и п-^ сю
к = 1
Доказательство. Для доказательства нам достаточно проверить, что в рассматриваемом случае выполнены все условия теоремы 3. С этой целью заметим, что, по предположению,
Jx<7F(x4-a) = 0(12)
И
j*| х | (/F (х-f-«) < + оо .(13)
Теперь, так как
п
2 J dFk (х + ak) = ^ J ^-НК J lx|rfF(x + a), k=l |ж|>п|ж|>п|ж|>п
то в силу (13) первое условие теоремы 3 выполнено. Далее
^7 / xdFk<x-Vct^ = J xrfF(x4-a),
k= 1 | x | < n\x \ <n
поэтому в силу (12) выполнено второе требование теоремы 3. Пусть
L > 0 произвольно. Для достаточно больших л имеем
-Ч J x^dFk^x< а^ =— J x2t/f’(x + <z)<
k = l1х[<П(^‘|ж*|<п
<77 J х2 dF <х < a)-Y-/ \x\dFtx-Vay
lx 1 <LL <| ж; <п
Каково бы ни было постоянное L, первое слагаемое стремится к нулю. Второе слагаемое выбором L может быть сделано произвольно малым. Этим теорема Хинчина доказана.
§ 28. Относительная устойчивость
А. Я. Хинчиным [721 было введено понятие относительной устойчивости сумм для.последовательности i^, ^•••>$п>-*- неотрицательных случайных величин. Именно, суммы
неотрицательных случайных величин ^ Е2,. .., ;п,... называются относительно устойчивыми. если можно найти такие постоянные числа Вп > 0, что при любом е > О
р№— 1|>s|^0
11I /
Для схемы последовательности серий мы скажем, что суммы
= ^i + ^па+ • • • + ^пкнО).
неотрицательных случайных величин относительно устойчивы, если при любом s > О
P?|^iT^2+---+UM— 1|>г}-0(п-со).
Понятно, что относительная устойчивость сумм представляет собой наиболее естественную и общую форму закона больших чисел для неотрицательных случайных величин. Отсюда мы заключаем, что если суммы (1) относительно устойчивы, то отдельные слагаемые в этих суммах предельно постоянны *). Это обстоятельство позволяет нам- сформулировать следующую теорему:
Теорема 1). Для того чтобы суммы
^п = ^i + ^п2 + • • • + ^т?^
независимых неотрицательных случайных величин были относительно устойчивы, необходимо и достаточно. чтобы при п-> со
к — 1
2) ^j "I ^пк ”4” J* ^^пк (-^ "4” ^nk) | “^ 1 • Л=1| х|<1
'Доказательство. Теорема является немедленным следствием теоремы 1 § 27.
В дальнейших теоремах, имея целью установить связи, которые. существуют между условиями сходимости к нормальному закону и
‘*) Слагаемые предполагаются независимыми.
условиями относительной устойчивости сумм, мы будем предполагать слагаемые гпк бесконечно малыми.
Теорема 2. Для того чтобы суммы
,^п = ^1 + ’«2 + • • • + ^п^
независимых неотрицательных случайных величин были относительно устойчивы, а величины ^пк были бесконечно малы, необходимо и достаточно, чтобы при любом е > О
’7 -оо '’.
В 2 J dFnk (Х) ~* 0°°)>
й
2 rxdF„6(x)-> 1 (я-too).
Доказательство. Для доказательства теоремы достаточно показать, что третье соотношение примечания 3 к теореме 1 § 27 В наших условиях является следствием двух первых. Это с очевидностью вытекает из неравенств.
Из доказанной теоремы немедленно вытекают два следующих предложения.
Следствие 1. Если независимые в каждой серии неотрицательные случайные величины ^^ имеют математические ожидания и
• 2 м5^=1, то для того, чтобы суммы
А —1
'п ^ Чи 4“ ’П2 + е * ’ Т" ^пк^
были относительно устойчивы и величины £пк бесконечно малы, необходимо и достаточно, чтобы при каждом г > О
2 Г X dFnk (х) -> 0(/г -> оо).
fc=i"
были относительно устойчивы при специальном выборе коэффициентов Вп
Bn=^Mtk
и величины ^ (1 ^ А ^ /z) были бесконечно малы, необходимо и достаточно, чтобы при любом s > О
п со
2J- fxdFk(x)-+Q (п-оо).
п. в
Теорема 3 *). Для того чтобы для последовательности ^, ?2> •‘•Aw ••• неотрицательных независимых случайных величин суммы
были относительно устойчивы и слагаемые W- (1 <;&<>) были бесконечно малы, необходимо и достаточно, чтобы существовала последовательность положительных постоянных Cv С2, ..., Сп,... такая, что
1) 2 / ^(хно6=1 Сп1) 2 / ^(хно6=1 Сп(п -> оо),(п -> оо),xdFk(x) -> ооxdFk(x) -> ооOnOn(п —> со).(п —> со).
1) 2 / ^(хно
6=1 Сп
1) 2 / ^(хно
6=1 Сп
(п -> оо),
(п -> оо),
xdFk(x) -> оо
xdFk(x) -> оо
On
On
(п —> со).
(п —> со).
Доказательство. По теореме 2 для относительной устой
чивости сумм ^п = ^1 + ^2+• • •+'п необходимо, чтобы при любом 8>0
!) 2 J dFk(Bnx) 0 (га -> оо), ^==1 в
2 \xdFk(В„х)1 (я -> оо).
Очевидно, что можно подобрать такую последовательность гп -> О,
что
2 /^л(^п) = 2 J dFfc(x)->0 (га->оо),
епЧъ^п
Пр111р
2 \ xdFk^BHX^^-g-^ | xdFk<x^->\ ^п->оо^.
fc = roА = 1 П О
Для завершения доказательства необходимости условий теоремы остаёмся положить Си = гпВп.
Пусть теперь условия теоремы выполнены. Определим Вп формулой п
Вп=^ Г xdFk (х).
fc-1o
Тогда из второго условия теоремы вытекает, что
Сп = о ^В^.
Следовательно, при любом s > 0 и п достаточно больших
яя
я
я
отсюда согласно первому условию теоремы вытекает, что при п-> оо
(2)(2)f dFk(x)^0.
(2)
(2)
Далее, при п достаточно большом
sB^CflеВп
П 1 ГП 1 ГП 1 Г
yj- X dFk (х) = У ^- xdFk(x)-VV ^ xdFk^ =
New* Dn •/°П° П
k — 1 0к — 1 0к=:1 Сн
еВи
= ‘+2 щ x4F‘VxV
Й = 1 Сп
Но в силу первого условия теоремы при и->оо
2^.1 Х4рк^<-6^ j dFk(x)->0.
к — 1 С,цк — 1С^
Таким образом, для любого г > 0 при rt-> оо
(3)
Из соотношений (2) и (3) согласно предыдущей теореме следует относительная устойчивость сумм ^-f-^4” • • •-Н^- и бесконе1шая малость величин .
Теперь мы покажем тесную связь, существующую между относительной устойчивостью и сходимостью к нормальному закону.
Теорема 4 ). Для того чтобы законы распределения сумм
^п ~ 2 ^nk М *па)>
независимых в каждой серии случайных величину удовлетворяющих условиям
2D$„ft = l, sup Р {|5„& — М $п&| > s J -* 0 к =* 11 ^ к ^ кп
при любом s > 0, сходились к нормальному закону
08 t?
ФИ = -^ f e^Mt,(4)
необходимо и достаточно, чтобы суммы
иХ-ми2
квадратов уклонений этих случайных величин от их математических ожиданий были относительно устойчивы.
Если не предполагать существования моментов, то интересующей нас теореме можно дать следующую формулировку [16]:
Теорема 5. Для того чтобы при некотором подборе постоянных Ап законы распределения сумм
^п ^«1 + ^п2 Н~~ * * * %пкп ^п
независимых бесконечно малых случайных величин сходились к нормальному закону (4), необходимо и достаточно, чтобы суммы
квадратов уклонений ^нк от их «урезанных математических ожиданий» J xdFHk(x) были относительно устойчивы.
1®1 <1
Доказательство. Если закон распределения случайной величины Чпк есть FHk (х), то закон распределения величины
Ч» = Чк — $ х dF^ (*) (для теоремы 4 ^ = Ей& — М 5^) есть
Fnk(x) = Fnk(x-V J «dF^^
(для теоремы 4 F'„k (х) = FHk (*+ М ^\9
Функция распределения случайной величины ^ в точках её непрерывности определяется из равенства
н„к^ = р {^ <7} = р {|^| < /7} = ^(/7)- F'nk (-/7).
Теперь очевидно, что
^п^п
1)2 f <^(^ = 2 Г dVr^ — р'пк( — х)} = fc=I|<B|>e6 — 1 $>е
ки "кп
= 2 f d'F^ty^-F^i-Vy^^ / dHnk(y),к~1у>^к~Ч>&
КпКп= 2 f ydHnk(y),= 2 f ydHnk(y),
Кп
Кп
= 2 f ydHnk(y),
= 2 f ydHnk(y),
2t У xMF;k^^ У NdH^yY
Первые два из этих равенств показывают, что условия теоремы 2 настоящего параграфа и теоремы 3 § 26 либо одновременно выполняются, либо одновременно не выполняются. Последнее равенство показывает то же в отношении первого следствия теоремы 2 и частного случая теоремы 3 § 21. Этим, очевидно, доказательство теорем 4 и 5 завершено.
Понятно, что аналогичные теоремы могут быть сформулированы и доказаны для предельно постоянных величин.
ГЛАВА 6
ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ ДЛЯ НАРАСТАЮЩИХ СУММ
§ 29. Распределения класса L
Как уже указывалось, общая постановка задачи о предельных распределениях для сумм взаимно независимых случайных величин, рассмотренная нами в последних двух главах, принадлежит последнему двадцатилетию. В классических исследованиях рассматривались лишь два частных случая этой задачи, именно, разыскивались условия, которые следует наложить на последовательность случайных величин
для того, чтобы 1) имел место закон больших чисел, 2) имела место центральная предельная теорема. В 1936 г. А. Я. Хинчин для классической схемы последовательности взаимно независимых случайных величин сформулировал общую задачу определения класса распределений, которые могут появиться в качестве предельных для распределений сумм
(2)
при надлежащем подборе действительных постоянных Вн и Ап > 0. Как и в общем случае, при решении этой задачи нужно ввести
разумные ограничения, а именно, мы предположим, что величины
Е £& '•пквDnЕ £& '•пквDn(1 ^ к ^ п; п=1, 2,.. .)(1 ^ к ^ п; п=1, 2,.. .)
Е £& '•пкв
Dn
Е £& '•пкв
Dn
(1 ^ к ^ п; п=1, 2,.. .)
(1 ^ к ^ п; п=1, 2,.. .)
предельно постоянны.
Ясно, что при этом предположении всякое предельное распределение для нормированных сумм (2) обязано быть безгранично делимым. Однако обратное предложение уже не имеет места: существуют безгранично делимые распределения, которые не могут быть предельными для сумм (2) ни при каком подборе постоянных Вн > 0 и Ан и ни при каком выборе последовательности (1). Так, оказывается, что закон Пуассона не принадлежит классу предельных распределений для сумм (2). Это обстоятельство делает прозрачными те при-
чины, по которым в классических исследованиях для получения закона Пуассона как «закона редких событий» приходилось прибегать к схеме последовательности серий, уже рассмотренной нами.
Следуя Хинчину, мы скажем, что функция распределения F (х) принадлежит классу L, если можно найти такую последовательность взаимно независимых случайных величин (1), что при надлежаще подобранных постоянных Вп > 0 и Ап функции распределения сумм (2) сходятся к F (х), а величины £пк = U-(l ^k^n) пре- дельно постоянны.
Заметим, что, не ограничивая общности рассуждений, мы можем в дальнейшем считать величины ^пк = ~- бесконечно малыми. В самом деле, если Лпк предельно постоянны, то, положив
'пк f%k В1Ъ
1п т
(тпк и тк— медианы соответственно ^пк и $ft) и Ап = Дп— V .^, мы убеждаемся, что класс предельных распределений для сумм (2) предельно постоянных слагаемых <пк = -- совпадает с классом пре- дельных распределений для сумм (2) бесконечно малых слагаемых
V ^^.Т^
Вн
Полную характеристику распределений класса L дал П. Леви [46] в ответ на поставленный А. Я. Хинчиным вопрос.
Прежде чем переходить к изложению теорем П. Леви, мы остановимся на доказательстве одной леммы (Хинчин [77]).
Лемма. Если функция распределения, предельная для функций распределения сумм (2) независимых бесконечно малых слагаемых ^пк— ^> является собственной, то при п->оо
В„-*оо/
Доказательство, а) Предположим, что существует такая последовательность индексов пх < л2< ... < пк< .. .; что величины Вп^ остаются ограниченными. Не ограничивая общности, мы можем считать индексы пк выбранными так, что при к -> оо Вп^ сходятся к некоторой величине Вфоо. Пусть t—любое число, тогда величины 1к — ^Вн^ сходятся при & —> оо к tB. По условию величины $П8(1^5^л) бесконечно малы и, значит, при к-^со равномерно
т. е. при любом /
Л(0 = 1(» = 1, 2.-..)•
Отсюда немедленно вытекает, что при любом t
/(О = нт
Л->оо 8=1
Но это равенство означает, что F(x)— несобственная функция распределения. Мы пришли к противоречию с предположением. Первая часть леммы доказана.
Заметим, что в силу бесконечной малости слагаемых ^пк к F(X) сходятся также функции распределения сумм
Если через Fn (х) обозначить функцию распределения суммы (2), то функция распределения суммы (3) равна
Fn(B'rax4-A;), где д; = ^, Л^^Д^.-Л».
Согласно теореме 2 § 10 отсюда следует, что при п—► оо—> 1.
Лемма доказана полностью.
Теорема 1). *Для того чтобы функция распределения F (х) принадлежала классу L, необходимо и достаточно, чтобы для любого а(0 < а < 1) F^ была композицией F ^^ и некоторой другой функции распределения Fa^xy
Достаточность. Согласно условию при любом а (0<а<1) f^=K^fAtY
где /а(0—г некоторая характеристическая функция. Прежде всего заметим, что функция /(/), удовлетворяющая этому условию, нигде не обращается в нуль. В самом деле, если бы, например,/(2а) = 0 и ф^ф-^ ПРИ 0^^<2^, то
1 - 1 - 1Л (2а) М 4 {1 - | A (a) I2}(4)
при любом <х (0 < а < 1). Но так как функция /(0 непрерывна, то при а-> 1
Таким образом, неравенство (4) при а, близких к единице,'приводит нас к противоречию.
Построим независимые случайные величины ;7. с характеристическими функциями .
V /((6 —1)0 * к
Характеристическая функция суммы
равнаравнак = 1к = 1
равна
равна
к = 1
к = 1
Так как функция /(/) непрерывна и нигде не обращается в нуль, то ясно, что равномерно по ^(1^^^я) .
к
Этим доказано, что закон F (х) входит в класс L.
Необходимость. Предположим теперь, что последовательность взаимно независимых случайных величин
^1> ^2> • • • > 'п> • • •
такова, что при некотором подборе постоянных В1г>0 и Ап функции распределения сумм
п
сходятся к предельной функции распределения F^ и величины ^пк = -™ (1 ^к^п) бесконечно малы. Если F (х)— несобственная функция распределения, то условие теоремы проверяется без труда и функция Fa (х) также несобственная. Доказательства требует только случай, когда F ^ — собственная функция распределения.
Выразим наши предположения в терминах характеристических функций. Тогда получим: при л->оо
Л„(') = о-"”‘ЦЛ(^;)=>/Й. (5)
равномерно по /г(1 ^k^n) fk f^-):^ 1, l/(Q|=^l, фГ)фО ни при каком t (как характеристическая функция безгранично делимого закона).
Согласно предыдущей лемме можно для любого а(0<а<1) подобрать такие т = tn (л) (т < п\ что при п -> оо
ВтВтЗапишем Л (0 в следующем виде:Запишем Л (0 в следующем виде:Но в силу (5) при т -> ооНо в силу (5) при т -> оое~1Ат*е~1Ат*(6)пII /-Ш]' «(6)пII /-Ш]' «Пл(/-)=>/(0;к = 1/Пл(/-)=>/(0;к = 1/
Вт
Вт
Запишем Л (0 в следующем виде:
Запишем Л (0 в следующем виде:
Но в силу (5) при т -> оо
Но в силу (5) при т -> оо
е~1Ат*
е~1Ат*
(6)
п
II /-Ш]' «
(6)
п
II /-Ш]' «
Пл(/-)=>/(0;
к = 1/
Пл(/-)=>/(0;
к = 1/
поэтому на основании (6)
т
e-iAmat Дд /(8)
к = 1 х и
Соотношения (5) и (8) вместе с теоремой 2 § 13 позволяют заключить, что второй множитель правой части равенства (7) должен стремиться к некоторой характеристической функции /а(0.
Таким образом, в пределе мы находим, что при любом а (0<а< 1) f^^fWf.QY
Теорема доказана.
Для дальнейшего нам важно заметить, что fa ^ — характеристическая функция безгранично делимого распределения. Действительно, /а (0 есть предел последовательности характеристических функций для сумм взаимно независимых и предельно постоянных случайных величин..
§ 30. Каноническое представление распределений класса L
Каждое распределение класса L является безгранично делимым, и поэтому логарифм его характеристической функции может быть представлен формулой Леви .
о
log/(0 = <Vу-+ / ^itw — l — Y^r^^M(“)4-
+— ^^dNW(1)
6
Возникает естественный вопрос о том, какими особыми свойствами должны обладать функции М (zz) и N (zz), чтобы / (0 была характеристической функцией распределения класса L. На этот во-
§ 30] каноническое представление распределений класса L 159
прос исчерпывающий ответ даёт следующая теорема, найденная П. Леви [46]:
Теорема 1. Для того чтобы функция распределения F(x) принадлежала классу L, необходимо и достаточно, чтобы функции М(и) и N(u) в формуле^ при каждом значении и имели правую и левую производные и чтобы функции
и№ (zz) uN' (zz)и№ (zz) uN' (zz)(я(я0),0),0)0)
и№ (zz) uN' (zz)
и№ (zz) uN' (zz)
(я
(я
0),
0),
0)
0)
были невозрастающими (при этом М' (и) и N' (и) означают любые из производных — правую или левую, в разных точках, быть может, различные).
Доказательство. Пусть / (О — характеристическая функция распределения, принадлежащего классу L, а а — произвольное число между 0 и 1. Из формулы (1) находим, что
log/ («0 = hat - ^ + Г L^t — 1 - ~L I dM (и) +
4-oo
^dN(u) = г^^"4
0 0oo
— oo0
где 0Ч-oo
T1 = aT + a J -^^ "Ж^- dM (u) + a J (1 ^(T^sy M^. —oo0
Теперь о
4* oc
+ J { e«u_ 1 _^'\d(N(u) -N(^-)).(2)
6
безгра- даёт её функциибезгра- даёт её функцииf (A
безгра- даёт её функции
безгра- даёт её функции
В силу результатов предыдущей теоремы ^^ является нично делимой характеристической функцией; формула (2) каноническое представление. Отсюда заключаем, что
М (и)— М^-^-^ и N^u")— Д^^) должны быть неубывающими. Таким образом, каковы бы ни были ut < и^< 0 и 0<'П1<'п2, должно
М («J - /И ^ -М^уn^—n^-) с AZ(^) - n(^
и, значит,
m(^—m(^<M(u^—M(iii1Y 1 n^-n^^n^-n^(3)
Обратно, если функции ЛЦи) и N^u) при любом а(0<а<1) удовлетворяют неравенствам (3), то функции М (и)— ^(^ и N(и) — ^^"^ будут неубывающими и, следовательно, *у^у* будет характеристической функцией безгранично делимого закона. Таким образом, условия (3)' являются необходимыми и достаточными для принадлежности распределения к классу L.
. Мы ограничимся дальше рассмотрением только функции, N ^и\ так как для М(и) теми же рассуждениями можно получить подобные же результаты.
Пусть а < b. h> 0 и а = еа~ъ. В силу (3) имеем
N(e«+h) — N (е») > ^ (~^\ — N (-у) = N(ei> vh) — N(eb).
Если обозначить
N(e^ = S^
то из предыдущего неравенства следует, что неубывающая функция S (-п) удовлетворяет неравенству
S (а + /г) — 5 (а) > S <Ь + К) — 5 (6) <а<Ь\(4)
Таким образом, приращение 5 (г/) на интервале заданной длины h может только уменьшаться, когда этот интервал передвигается слева направо.
Это обстоятельство прежде всего позволяет заключить, что функция S(tO непрерывна в каждой точке ^ = ^0.
Положим теперь b = a-^h. Из (4) находим, что
S {а 4- h) **>S {а 4- h) **>8(a) + S(a + 2h)28(a) + S(a + 2h)2
S {а 4- h) **>
S {а 4- h) **>
8(a) + S(a + 2h)2
8(a) + S(a + 2h)2
т. е. непрерывная функция 5 (и) выпукла. Поэтому она имеет в каждой точке конечные правую и левую производные; значение левой
§ 30] каноническое представление распределений класса L 161 производной не превосходит значения правой и значения обеих производных возрастают вместе с х (см. Харди [90], стр. 114).
Таким образом, S'(ф— невозрастающая функция (S' (я) не должна обязательно оставаться только правой или только левой производной). Но
S (у) = N(e^, S' (у) = evN' (^), поэтому, вернувшись к обозначению и = ev, мы находим, что условия теоремы необходимы.
Пусть теперь известно, что иМ'(и) и uN'(и)— невозрастающие функции. Тогда для любого а (0 < а < 1)
~ М' ^^иМ' (zz)при и < 0,
"а ^ ("а")П^ ^ПРИ ^ > $•
Отсюда, если яг < г'2 < 0, то
1>3v2г>2«2
[ dMf—A = I — AlV-'l dv< I M' (v)dv~ I dMOoV
ViVivtг?!
и если 0 < zz* < и^ то
1Ц?/27‘2«о
/ dN^= J 4 ^ ^Уп < JN' (“)du = .1dN^- 111tliViDl
Эти неравенства, как мы видели раньше, доказывают, что закон распределения F (х) принадлежит классу L.
Простейшим примером распределения, входящего в класс £, является нормальное распределение. Для него функции—иМ'(иф uN' (и) тождественно равны нулю.
Определим теперь, какие условия следует наложить на функцию К (и) в формуле Колмогорова, чтобы распределение с конечной дисперсией принадлежало классу L. Так как функции М (и) и N (и) связаны с К (и) формулами
dM (u) = -^dK(u) при zz < 0,
dN(u) — ~dK(u) при zz >0,
то из теоремы 1 немедленно получается следующий результат [24]: Теорема 2. Для того чтобы закон F (х) с конечной дисперсией принадлежал классу L^ необходимо и достаточно, чтобы функция К(и) в формуле Колмогорова в каждой точке иф^ К' (и) имела правую и левую производные и чтобы функция —-—, где
К' (и) обозначает правую или левую производные и, быть может, в различных точках различные, была невозрастающей при и < О и и >0.
Легко проверить, что распределения с конечной дипсерсией, входящие в класс L, не исчерпываются нормальным и вырожденным распределениями. Например, распределение, для которого в формуле Колмогорова
А'(«) =А'(«) =0 при и < 0, и^ при 0 ^ и < 1, 1 при и> 1,
А'(«) =
А'(«) =
удовлетворяет условиям теоремы 2 и, значит, принадлежит классу L.
§ 3L Условия сходимости
В настоящем параграфе мы выведем условия, которые следует наложить на функции распределения взаимно независимых случайных величин ^, Е2, 6?г»«м чтобы при надлежаще подобранных постоянных Вп > 0 и Ап функции распределения сумм
(1)(1)
(1)
(1)
сходились к какой-либо пре тельной функции распределения и слагаемые ^п]<" (1 ^ k п) были предельно постоянными).
Если постоянные Вп заданы заранее, то решение поставленной задачи содержится уже в теоремах § 25. Существенное отличие поставленной теперь задачи от решённой ранее общей задачи состоит как раз в том, чтобы указать общее правило, по которому следует выбирать постоянные Вн.
В том случае, когда величины ;п имеют конечные дисперсии и спрашивается об условиях сходимости функций распределения и дисперсий сумм (1) к предельной функции распределения и ее дисперсии, вопрос получает наиболее простое решение.
Теорема 1). Для того чтобы при надлежащем подборе постоянных Ап и Вп*>0 законы распределения сумм (1) сходились к предельному, их дисперсии сходились к дисперсии предельного закона, а слагаемые ~ — М ^^ были бесконечно малы, необходимо
и достаточно, чтобы существовала такая неубывающая функция Кх (я) с вариацией единица, что при п~^ оо и всех ифО
Д- 2 Iх2 №^(х + м ^ Ki w <2)
Л=1 -ОО
и чтобы при этом
sup [ ф— dFk (х + м ^ -* о,(3)
где 1г
Постоянные Ап и Вп можно выбирать по формулам
п
в^^ть а^^м^.
Предельное распределение определяется формулой Колмогорова с постоянной 7 = 0 и функцией К (^) = Кфи).
Доказательство. Пусть ^ = -к ■ ^-^ * тогда Ftt1t (х) = ^^(C^+MU и условие
sup f -—^^Fjx^-M^) = sup f -^— dFnlXz) -> о l<J?<,n Cn -f- Xl<Zc<n <v 1 -4-22
в силу (4) § 20 означает не что иное, как требование бесконечной малости величин 5^(1 k ф п).
Предположим, что условия теоремы выполнены. Тогда выбор Сп позволяет утверждать, что при п -> оо
2 Г х2 dFti. (х) ==> Кх (и).
Согласно геореме 2 § 21 функции распределения сумм
сходятся к предельной, для которой в формуле Колмогорова следует положить К (и) = Кг(и). Если в формуле Колмогорова для предельного распределения считать 7 = 0, то Ап нужно выбирать так, как указано в тексте теоремы.
Докажем теперь необходимость условий теоремы. Пусть известно, что при некоторых Ан и Вп>0 функции распределения сумм (1)
и их дисперсии сходятся к предельной функции распределения и её дисперсии и слагаемые бесконечно малы. Согласно тео- реме 2 § 21 в этих условиях существует такая неубывающая функция К(и^ что во всех точках непрерывности К (и), т. е. в силу результатов предыдущего параграфа, при всех и ф 0, а также при и = оо
(4)(4)2 Г х2 dFk (Впх + м У -> № (н ОО). к=з1 —
(4)
(4)
Если V > 0 есть вариация KUY то положим ^ = uVV\
В силу (4) при всех ч)ф^
2 j ^dFk<Bnx-V^^ = ^ j z^Fh^VV-tW^K^
A: — 1 —ook = l —oo
и, в частности, при 'и = фоо nn
■^2 J (x-M^dF^x) -^£d^M + c<>)-1.
Выбирая новые Bn по формуле
vb^ 2 d^,
мы, как это следует из теоремы 2 § 10, не изменим предельного закона для сумм (1). Тем самым теорема доказана.
Мы перейдём теперь к рассмотрению общего случая. Пусть случайные величины ^ и ^ имеют одну и ту же функцию распределения Fk (х) и $' не зависит от 5Г при всех L Функцию распределения разности т]& = ^— $' обозначим через ^(х). Очевидно, что Vk (х)— симметричная функция распределения и её характеристическая функция ^(0 = 1А(0 I2- Предположим теперь, что при надлежаще подобранных постоянных Вп > 0 и А.п функции распределения сумм
=(5)
п
при п ->оо сходятся к предельной функции распределения Е(х). Тогда очевидно, что функции распределения сумм
41 + Ча + • • • + Чнf^i + ^2 + • • • + ^k л
в; - к х
сходятся к функции I/(х) = Е(х) (1—F(—х^-О)), характеристическая функция которой равна ^(У) = |/(/)|2.
Теорема 2*). Для того чтобы при надлежащем подборе постоянных Вп> О и Ап функции распределения сумм (5) сходились к собственной функции распределения F(x) и 'слагаемые -^-(1^^^^) были бесконечно малы, необходимо и достаточно, чтобы существовала неубывающая функция G* ^и) (G*: (—со) = 0) с ограниченной вариацией 1/=О*(4-°°) такая, что, определив Сп>0 из уравнений
и— Ои— Ополучим
и— О
и— О
а) при любом и (—со ^ и ^ -j- со) кроме, быть может,
при п—>оо;при п—>оо;У j "^Г^ dFK ^ + ап^ "* °* (“) /ь —1-00 П *
при п—>оо;
при п—>оо;
гдегде11J xdFk(xy,J xdFk(xy,\®\<с11\®\<с11
где
где
1
1
J xdFk(xy,
J xdFk(xy,
\®\<с11
\®\<с11
Ю supIC^CM JЮ supIC^CM J—7 dFk (х) -> 0 при п ->со.
Ю sup
IC^CM J
Ю sup
IC^CM J
Сп + ^
Доказательство. Условие р) означает не что иное, как бесконечную малость слагаемых 4,- (1 k п).
Так как ^пк = -^- и F11k(x) = Fk(Bnx), то в силу примечания к теореме 1 § 25 необходимым и достаточным условием сходимости распределений сумм (5) к предельному является равенство
Нт У f -^^dF^x-Y^-G^(8)
(— co ^ и ^ oo).
Достаточность условия а) теперь очевидна. В самом деле, оно означает, что (8) выполняется при Вп = Сп.
Предположим теперь, что функции распределения сумм (5) сходятся к F(x) при некотором подборе постоянных Вн. Если мы докажем, что при п -> оо 1, то в силу теоремы 2 § 10 окажется,
что к F (х) будут сходиться и функции распределения сумм
^1 + *2 + • • • ^П А
и значит, в силу (8) будет выполнено а).
Функции распределения сумм (6), как уже было сказано, сходятся к У(х). Для неё функция G^ в формуле Леви-Хинчина равна
G (и) = G* (и) + V— G* (— и).
Медианы случайных величин т^ равны нулю. Поэтому в силу теоремы 3 § 25 для сходимости функций распределения сумм (6) к V (х) необходимо, чтобы при —оофиффоо, кроме, быть может, и — О
У ^ dVk<x^G(u?) при п->со.(9)
Из (7) и (9) (при и — 7 °°) заключаем, что при я—>со
« ( Г r2f v21
^=2 I ^ГТ^Г dV^W — 723-7^^ (х) ->0. (10)
Согласно предположению F (х)— собственный закон, распределения. Это означает, что 0*(фф0 и, следовательно, С(и)ф^. Таким образом, можно найти такое а > О, что
А = G (zz) — G (—-я) > 0.
Из (9) заключаем, что при п > п$
А2 ‘А2 ‘
А
2 ‘
А
2 ‘
Пишем для п > 11$ следующую цепочку очевидных неравенств:
I f<J = |в« - ^ I ^ J (ДЗ+^^З,!.^ d Vk (X) >
В силу (10) отсюда следует, что ^-->1 при п -> со. Теорема
доказана.
§ 32. Одновершинность распределений класса L
В математической статистике функция распределения называется одновершинной, если производная Fz (х) существует и имеет единственный максимум. Следуя А. Я. Хинчипу [78], мы несколько обобщим это понятие.
Определение. Функция распределения F ^ называется одновершинной. если существует по меньшей мере одно значение х — а такое, что при х < а функция F (х) выпукла, а при х > а — вогнута.
Легко проверить, что нормальное • распределение, закон Коши F (х) = -i ^ 4- arc tg х^ . равномерное распределение в конечном интервале и несобственное распределение г (х) одновершинны в только что указанном смысле.
Не ограничивая общности рассуждений, мы в ряде теорем будем считать, что вершина распределения (точка а) находится в точке я = 0. Из приведённого определения следует, что одновершинная функция распределения в каждой точке кроме, быть может, вершины имеет правую и левую производные, причём F' (х) (под ^(х) понимается любая из производных — правая или левая — быть может, даже различные в разных точках) не убывает при х < а и не возрастает при х > а. Этот факт хорошо известен в теории выпуклых функций (см. Харди [90], стр. 114).
Теорема 1 ). Для того чтобы функция распределения F (х) была одновершинной, необходимо и достаточно, чтобы функция
V (х) = F (х) — xF (х) была функцией распределения.
Доказательство. Сделаем сначала несколько элементарных замечаний).,
1°. Если Е(х) —одновершинная функция распределения, то при X —> —]—0, х —> —-0, X—>-|-ОО и х—>— оо
xF' (х) -> 0.(1)
Действительно, при х>0 (F; (х) не возрастает!)
xF' (х) 2 J F\u^ du.
Отсюда
О С xF' (х) / 2 (1 — f(X^ -> 0
при Х—>-ф"О0 и
0 <xF' (х) 4 2 (F (х) — Е( + 0)) -> 0
при х->+0. Точно так же доказывается справедливость (1) при х—>— о и при х—>— со.
2Э. Если V (х)— функция распределения, то При х-> + 0 и при х —> 4~ со
X | mil _> 0.(2а)
ОС
а при х-> — 0 и при х->—оо
х /^г1^0-(2Ь)
—оо
В самом деле, при х -> -[- 0
ооV осоо
.. Г dVW„ f dVW, r CdV^^
X JX J ~ hX J
Vx~
c | rfV^+Zx J dV(u)< VC/x) — V(x) + /x->0. xV x
При x—> 4~ oo
x (i—y^o. x
Точно так же доказывается утверждение (2Ь).
Пусть теперь F(x)—одновершинная функция распределения. Покажем, что
V (х) = F (х) — xFf (х)(3)
является функцией распределения. Действительно, при h > 0 имеем V (х 4- h) — V (х) =- [F (х + h) — F (х) — hFf (х + /г) 1 +
+ х [Fz (х) — Fz (х 4- /г)] = VF(x 4- h) — F (x) — hF' (x)] +
+ (х + //)[^ ^-F<x-Yti)\.
При x > 0 в первом из этих выражений, а при х < х4“ ^ < 0— во втором оба слагаемых правой части неотрицательны. Поэтому V^x-^-h)—^(х)>0 при любом х 4^0. В силу (1) имеем
V( + 0) = f( + 0),v(-0) = F(-0),
V(4-oo)=F(+oo)=l,7(—oo) = F(—со) = 0.
Докажем теперь обратное предложение. Именно, покажем, что если И(х) — произвольная функция распределения и функция F(х)
удовлетворяет уравнению (3), то она одновершинна. Прежде всего легко убедиться, что среди решений уравнения (3) может быть только одна функция распределения. Действительно, если бы их было две — ^(х) и F^x^ то их разность 1Г(х) удовлетворяла бы уравнению W^—xWr (х) = О
и, значит, имело бы место равенство
^1 (х) — ^2 () = сх^
где с — постоянное. Из условий Ft (—оо) = /72(— оо)=0 или же из условий Ft ( + оо) = F^ ( + оо) = 1 мы заключаем, что с = 0. Как нетрудно убедиться посредством элементарных выкладок, функция F(x), определённая посредством равенств
а? и'
F (х) = — j du J <^~ при х < 0, -со оо оо7
F (x) = 1 — j du Iпри x > 0,
удовлетворяет уравнению (3). Кроме того, очевидно, она не убывает при х < 0 и х > О, а в силу свойства (2Ь)
F( + 0) = l— J du + о и ооООоо
= j | - / dV^ = V<-Y0) и4-0+0
и точно так же
^(-0)- И(-0).
Иными словами, F(x)— функция распределения. Путём дифференцирования (4) убеждаемся, что F' (х) не убывает при х < 0 и не возрастает при х> 0. Это доказывает, что функция F(x) одновершинна.
Только что доказанная теорема в терминах характеристических функций формулируется следующим образом:
Теорема 2*). Функция /(f) тогда и только тогда являетсяхарактеристической функцией одновершинного закона распределе-ния^ когда она может быть представлена в видеt
f J ^^ du*
где v (и) — некоторая характеристическая функция.
Доказательство. Имеем в силу (4)
/(/) = J e«®dF^x) =
— 0л?сооо
— / ^( J ^)dx+F(+0)-F(-0H- J ^(J ^dx.
— оо —оо<0 ос
Но
СО(ТОоосп t
+ о x .+ 0+00
cox—0 t
( eitx I 1^ ^) dx = 1 i I f ciuxdu \ dV (xY
— 0—00—co 0
F ( + 0) — F( — 0) = (4 j e*«°da)-(H( + 0)—V( —0)).
6
Таким образом’,
/(/)=!. J { ^ eiU3C du } dV (x) — у ^(^du.
Теорема 3 :i;). Композиция одновершинных функций распределения одновершинна.
Доказательство. Достаточно рассмотреть композицию двух функций распределения. Пусть Fv^ и F^x^ одновершинны, тогда согласно предыдущей теореме функции
V^x^F^-xFVx^ ]
Ио (х) = F^ (х) — xFa (X) J
являются функциями распределения. Так как
F — F^ + F^ — F^ •+ F^,
то
F' (x) = (Fy * F'^ (x) = A J Ft (x - г) dF2 (г) = (F', * F2) (x) =
(F.; * F^ (x) = 1 [ (X * F2) (x) + (F' * FJ (x)].
•) А. И. Лапин [41].
Отсюда и из (5) находим, что
F (х) — xF'^ =
= у{ [X ^F^Fd -xYF'x F.,A-F'a* Fx\ } =
= у ! (^I - x^ * ^ 4- (F2 - xF^ * Fx} =
В правой части последнего равенства находится функция распределения, поэтому теорема 3 есть следствие теоремы 1.
Теорема 4 *). Если последовательность одновершинных функций распределения сходится к функции распределения, то предельная функция также одновершинна.
Доказательство. Согласно предположению при п-> оо Fn(x)=> F^x).
Пусть ап — вершина' Fn (х) и а = lim ап. Выберем подпоследовательность индексов nh такую, что Нт аи — а. Возьмём теперь какие- нибудь точки непрерывности F ф\ хг<а и х2 < а и определим такое N, что при всех k > N имеют место неравенства xt < апр и х2 < аПр. В силу предположения об одновершинности функций Fn (х) имеем при k > N
F,lk (хх) + F(х2) > 2Fч (^Ч .
Это соотношение, очевидно, сохраняется в пределе
Мы считали X) и х2 точками непрерывности F (х), однако очевидно, что мы легко можем освободиться от этого ограничения, используя непрерывность F(х) слева.
Точно так же для любых х3 > а и х^ > а находим, что F(xXF(xJ<JFp±^).
Таким образом, F (х) вогнута при х>а и выпукла при х < а. Это и означает, что F (х) одновершинна.
Заметим, наконец, что аф^"со, так как иначе F ^ была бы выпукла или вогнута при всех значениях аргумента. Для функций с ограниченной вариацией это возможно только в случае F(x) = const.
Теорема 5 ). Все законы класса L одновершинны.
Доказательство. Пусть F (х)— закон класса L, а М (и) и N^u)— функции, определяющие F(x) по формуле П. Леви. Вначале мы рассмотрим случай, когда F (х) не имеет нормальной компоненты, г. е. когда в формуле П. Леви а2 = 0.
при X ^ Хп,при Хп ^ X < О, При О < X ^ Хп, При Х^Хп.при X ^ Хп,при Хп ^ X < О, При О < X ^ Хп, При Х^Хп.Рассмотрим последовательность серий взаимно независимых в каждой серии случайных величин ^п1с (1^&<^л, м=1, 2, 3, ...). Функцию распределения ^(Д ^Ск ^.п) положим равной
при X ^ Хп,
при Хп ^ X < О, При О < X ^ Хп, При Х^Хп.
при X ^ Хп,
при Хп ^ X < О, При О < X ^ Хп, При Х^Хп.
Fnk(x) =Fnk(x) =\М (х«) 4- М- (х«) (х — -к»)]
Fnk(x) =
Fnk(x) =
14" “ [м (хп) 4~ ^+ (*п) (я—-^п)]
1 +I"W
Точки хи и Хп выбираем таким образом, чтобы
(Хп) (х — Х^] <
< 1 4" №») 4- ^+ (х^ (х — х^)],
Пт Хп= ИтХп = 0. п->ооП->со
Легко видеть, что величины ^n1t бесконечно малы. Действительно, каково бы ни было е > 0, при достаточно большом п хп> — е, хп < е и, следовательно,
Р(Ы>е)=4[М (-e)-^(e)].
Эта величина при п -> оо равномерно относительно k (1 ^ к ^ и) стремится к нулю. Предельное распределение для сумм
^п = 'П\ 4" ^2 + • • • 4” ^пп
мы можем определить, стало быть, используя теорему 4 § 25.
При п -> со имеем
и/7^ (х) —> М (х) при х < О, п1Рпк(х)—1]—>^(x) при х>0,
п J х2 dFn1i (х) =
1«I < 6
Но при хп < х < О
ML^CMXxy
а при 0 < х < Хн
N^ ^yCN' (х),
поэтому
О^пожп
У>?М— (хп) dx~y J х‘^4, (xtl) dx <_ Ух2dM (х) + У х2dN^
и, следовательно, ое
п У х2^д.(х)< У x^dM (х) -|- У x^dN^xy
[ ос | <е—еО
Из этого неравенства мы заключаем, что
Um Нт п8-»0 П-> ООUm Нт п8-»0 П-> ООJ x2<ZFnfc(x) —( У xdF^x^^O.
Um Нт п
8-»0 П-> ОО
Um Нт п
8-»0 П-> ОО
1 а? | < е| ас | < е
Таким образом, F (х) является предельным законом для функций распределения сумм Сп. Так как согласно теореме 1 § 30 функция ЛЦи) выпукла, а функция N^u) вогнула), то функции Fn1t^ одновершинны по построению. Одновершинность закона F^x) вытекает отсюда в силу предыдущих теорем.
Если F (х) имеет нормальную компоненту, то мы представляем Е(х) в виде композиции нормального закона и некоторой функции распределения из класса L, уже не содержащей нормальной ком-
поненты. Нормальная компонента одновершинна, вторая компонента тоже одновершинна, поэтому по теореме 3 одновершинна и функция F (х).
Понятно, что мы доказали несколько более общее предложение, чем высказали в теореме: безгранично делимая функция F (х) одновершинна, если функция М(и^ выпукла, a N(и) вогнута.
Из теоремы 5 вытекает такой результат: функции распределения класса L непрерывны на всей оси, за исключением, быть может, одной точки — вершины распределения; в каждой точке непрерывности они имеют правую и левую производные.
Ш. ОДИНАКОВО РАСПРЕДЕЛЁННЫЕ СЛАГАЕМЫЕ
Г Л А В А 7
ОСНОВНЫЕ ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ
§ 33. Постановка задачи, устойчивые законы
Мы перейдём теперь к детальному изучению предельных распределений для нормированных сумм
г ^1 + ^2 + • • • + ^г 1/IX
взаимно независимых одинаково распределённых) случайных величин $р $2, .. .,..
В силу теоремы 4 § 14, если распределения сумм (1) сходятся Lд
к предельному, то величины ^7. = ^ обязаны быть бесконечно
ь опП
малыми. Это обстоятельство позволяет нам заключить, что каждое распределение, предельное для сумм (1), должно принадлежать классу L. Естественно возникает вопрос об определении всех возможных предельных распределений для сумм (1). Ответ на этот вопрос требует введения одного понятия.
Определение. Функция распределения F (х) называется устойчивой, если при любых действительных ах > 0, bv а^ > О, Ь^ имеет место равенство
F (axx-\-bx) ^- F(a^x-^b^) = F (ах -[- Ь),(2)
где а > 0 и b— некоторые постоянные.
Легко проверить, что нормальный и единичный законы распределения являются устойчивыми.
Очевидно, что в пределах одного типа или все законы устойчивы или все неустойчивы. Поэтому можно говорить об устойчивых типах законов ).
Важность класса устойчивых законов для нашей задачи определяется следующей теоремой (см. [43] и [77]):
Теорема. Для того чтобы функция распределения F (х) могла быть предельной для сумм (1) взаимно независимых и одинаково распределённых слагаемых^ необходимо и достаточно, чтобы она была устойчивой.
Доказательство. Предположим сначала, что функции распределения сумм ^ сходятся к некоторой функции распределения Ftycy
Согласно лемме § 29, если функция F^x) является собственной, то при п -> оо 1)Вп -> ОО,
^±L -> 1.
Пусть теперь ах и а^—два любых постоянных числа (0 < ах < < я2 < °°)> тогда для любых е > 0 и п ^ п0 (е) можно подобрать такой номер т = т(п\ что о ^< е.
В^ ах
Пусть, кроме того, Ьх и Ь^—произвольные действительные числа.
Рассмотрим сумму
^м /51 + ^2 + • • • + ^ л к \ I Вт + • • • +
в k впАп-О^вВт —
- Ат - »2) = к+М^+к±» _ А, (3) где'
g — ^ Д — ^Ип + ^т^ш + ЬхВп -|- Мт ах 'В*
Так как, по предположению, функции распределения сумм (1) при п ~> оо сходятся к F^xy то по теореме 2 § 10 функции распределения первого и второго слагаемых левой части равенства (3) сходятся соответственно к F ^ахх-\-Ь^ и F (а^х-У-Ь^У Отсюда следует, что функции распределения сумм, стоящих в правой части (3), должны сходиться к предельной функции распределения; с одной стороны, эта последняя должна быть равна•
-F(axx-y-bx)* F(a2x-\~b2y
а, с другой стороны, должна быть того же типа, что и F(xy
Иначе говоря, мы доказали, что если F^— собственный закон, то он удовлетворяет равенству (2) и, значит, является устойчивым.
Так как всякий несобственный закон устойчив, то теорема в одну сторону доказана. Обратное предложение, что каждый устойчивый закон V (х) является предельным для функций распределения сумм (1) одинаково распределённых слагаемых, немедленно вытекает из определения устойчивости. Действительно, пусть величины Е^ (^ = 1, 2, ...) независимы и распределены по закону F (ху тогда сумма
+ • • . ~Н™ распределена по закону F (анх-^Ьп), а значит, величина 61 + $2 + • • • + Лг к
распределена по закону F(x).
Теорема ’доказана полностью.
Из большого числа результатов настоящей главы мы особенно подчеркнём следующие.
Теорема § 34 даёт явную форму характеристических функций устойчивых распределений. Среди безгранично делимых законов и даже среди законов класса L устойчивые законы по объёму занимают скромное место: множество устойчивых типов зависит от двух действительных параметров а(0<а^2) и р(—l^P'Cl), тогда как множество безгранично делимых типов зависит от выбора монотонной функции. Заметим, что если указанная теорема полностью решает задачу определения устойчивых характеристических функций, то явные выражения для устойчивых функций распределения известны л^шь в небольшом числе случаев.
В § 35 даётся полное решение основной задачи теории предельных распределений для одинаково распределённых слагаемых: указываются необходимые и достаточные условия, которые следует наложить на функцию F(x^ чтобы распределения сумм (1) сходились к предельному.
Наконец, в § 37 доказывается теорема А. Я. Хинчина о том, что если рассматривать сходимость функций распределения сумм (1), заставляя п при стремлении к бесконечности пробегать не все возможные значения, а лишь некоторую их подпоследовательность, то класс возможных предельных распределений при этом существенно расширяется и, оказывается, совпадает с классом безгранично делимых законов.
§ 34. Каноническое представление устойчивых законов
Теорема*)- Ддя того чтобы функция распределения F (х) была устойчивой, необходимо и достаточно, чтобы логарифм её у арактеристической функции был представим формулой
togfW^ht — с|/|’[1+$—-«(/, а)},(1)
где а. ^, 7, с — постоянные (f—любое действительное число -1<3<1, 0<а<2, с>^ и
со (7, а) =со (7, а) =~2~ а> есла а + L %
со (7, а) =
со (7, а) =
-^-log I И> ССДи 1.
*) Р. Levy и А. Я. Хинчин [80].
12 Зак. 5374. Гнеденко и Колмогоров.
Функции /И (а) и N(u) и постоянное о в формуле П. Леви следует положить равными
a
MW
! NW
a
0<a <2 a = 2
Cl |nl« 0
£з_
ua 0
0
>o
Ci > 0, Co > 0, сг + с о > 0
Доказательство. В терминах характеристических функций равенство (2) § 33 переписывается так:
1о^/(т) = lo^GS + X°8f^ + ^’<2)
где ^ = Ь— Ьх — Ь^. Вспомним, что закон F (х) безгранично делим и что, следовательно, о
log/(<) = /т<—+ J { е«» — 1 — ] Уи2- } dM (ы) +
+ [1 — y^^dN^.
• о1
Элементарные подсчёты показывают, что о
+ / {-1 - у^-) dN^ =оо
= hait" S' + I (eitu — 1 ~ 1dM ^1U) +
+ J {^“-1 - ^y^dN^-V
0
4-r.V--S4- f [е^_1_^_ЬуИ(й2М) +
Отсюда в силу единственности представления безгранично делимого закона формулой Леви заключаем, что
° I 2221 О’
\ а^1^2 /
(3)
М (аи) = М (ахи) -|- М (а2и)(а < 0),
(4)
N(au) = N(aAu) -^N^u")(и > 0).
(5)
Предположим теперь, что N(u)^0; тогда в равенстве (5) а не может обратиться в нуль. Действительно, иначе при любом и имело бы место равенство
N^axu^ + N(.a^ = N( + 0),
возможное только тогда, когда либо М(д) = 0, либо N(u) = — оо. Второй случай для функции N(u) невозможен.
Из полученных уравнений мы определим непрерывные неубывающие функции М (w) и N ^и\ удовлетворяющие равенствам М ( — оо) = = N( 4- оо) = 0 и не равные тождественно нулю. Для этого заметим, что достаточно ограничиться определением какой-либо одной из этих функций, скажем N(u). Из (5) по индукции заключаем, что каковы бы ни были натуральное число п и положительные числа av а^ . . .э а1Р имеет место равенство
N(au) = N(axii) + N(а2и) -7 ... + N(anu^ (и > 0),
где а — некоторое положительное число, зависящее от 1яь а^, . ., ап. * Отсюда, в частности, при ах — а2 = . . . = ап = находим, что
1я(”)1я(”)на-на-N(au) = nN(u\ где а = а^пу Из последнего равенства, положив а
1я(”)
1я(”)
на-
на-
ходим, что
~(“Ш“)=4««-
что(6)что(6)Наконец, для произвольной рациональной дроби -~ находим,
что
(6)
что
(6)
-^N^ = pN^a (у) и) = n(o (|) а (р) «) = ^(a (£-)и
Легко видеть, что определённая на множестве рациональных чисел функция ^^""^ является убывающей. Поэтому для любого X > 0 суще* ствуют пределы
а(Х— 0) = Иш а
а (X + 0)
= Иш а(~\
Из (6) нетрудно вывести, что при любом Х>0 а (X—0)=^ (Х-|~0) = = а(Х). Итак, при любом положительном X функция N(u) удовлетворяет уравнению
XN(u)=N^a(k)u),(7)
где а(Х)>0 — убывающая непрерывная функция от X.
Равенство (7) позволяет получить такой важный результат: функция М^и) или всюду отлична от нуля, или тождественно равна нулю.
Действительно, предположив обратное, что при некотором и0 > 0 имеет место равенство ДГ(^о) = О, а при их > 0 N(ux)ф0> мы придём к противоречию. Прежде всего из того, что N(u) не убывает и N(-|-oo) = 0, мы заключаем, что N(u) = 0 при и > #о и> следовательно, их < uQ. Пусть и^ (их < и^ <С иф — верхняя грань тех и, для которых N(u) ф 0. Мы знаем, что функция N^ непрерывна, поэтому N(u^) = 0. Согласно (7)
XN^u^^N (аиху
Пусть Х>1. Так как а(1)=1, то должно быть 0<а(Х)<1. Но из (7) вытекает, что
0 = kN(u2) = N(au^.
Так как аи^ < и^ то должно быть N ^аи^ <^. Мы пришли к противоречию.
Мы будем теперь определять вид функции М(и\ считая, что N(u") ф 0.
В силу теоремы 1 § 30 функция N^u) при каждом и имеет производную (и правую, и левую), поэтому из (7) находим, что
} dN^ _ dN^au)du а d ^аф
Отсюда
dN (аи)N' (и) а d (аи)N(u) N (аи)
Положим в этом равенстве и = 1 и ^^ = — а • В результате мы приходим к следующему уравнению относительно функции М^ифф
dN (а)ф^
N (а) а а
Отсюда
^(a) =—е2я~а,(8)
где с^ — постоянное (с2 > 0).
Так как ^(4-00) = 0, то прежде всего мы заключаем, что а должно быть положительным числом. Далее, так как интеграл
Р u2dN{u) — ca J du6о
должен быть сходящимся, то 0 < а < 2.
Точно так же находим, что
где сх > 0, 0 < at < 2.
ах = а^ = 1(10)ах = а^ = 1(10)Равенства (8) и (9) вместе с (4) и (5) дают нам при
ах = а^ = 1
(10)
ах = а^ = 1
(10)
= о.
Отсюда заключаем, что a = aP Из равенства (3) при ах = а^ = 1 находим, что
а2^ — 2') = 0.
•Если функция М (и) (или ^(^)) отлична от нуля, то в силу (10)
2 и, значит, должно быть о = 0. Если же az£0, то Д = 2
и, значит, должно быть —
Резюмируя полученные результаты, мы видим, что логарифм характеристической функции устойчивого закона либо равен
iog/(f) = /v—^ 0>0),iog/(f) = /v—^ 0>0),(П)(П)
iog/(f) = /v—^ 0>0),
iog/(f) = /v—^ 0>0),
(П)
(П)
что представлает нормальный закон, либо равен о
log/(0 = iV4rci j I }|4^ +
Cn Fkitu _ 1 _I‘ 2 J I1 + M2 j иг+а
0
где ^>0, £9^0, 0<a<2.
Элементарная проверка показывает, что формулы (И) и (12) действительно дают устойчивые законы. Этим вопрос о каноническом представлении устойчивых законов полностью решается. Интегралы формулы (12) могут быть выражены через элементарные функции; к выводам этих выражений мы и переходим. Нам придётся рассмотреть три случая.
0<а<1. Так как в этом случае интегралы
Ооо
(* и duГ и ^и
J Г+Тз ] и]1 + « И J 1 + И«
— ооО
конечны, то формулу (12) можно записать в виде
Ооо
log/(0 = г^ + ч | ^_ Пут^ ~гс2 [ И1' —1)(^-
—ОО6
Предположим'сначала, что t > 0, тогда
log/(0 = ^+^JVu'-l)^ г^ р^-1)^]. (13)Оо
Воспользуемся теоремой Коши об интеграле по замкнутому контуру, выбрав за контур интегрирования отрезок действительной оси от 0 до R, дугу окружности радиуса R с центром в начале и отрезок мнимой оси от 0 до IR. Заставив R стремиться к бесконечности, мы приходим к равенству
озгоо’ сотс
00о’
где
L^= f (e-v — l)4zr <0-
0
Так как первый интеграл формулы (13) представляет собой число, комплексно сопряжённое со вторым интегралом, то
| (6-^—1)-^=^(а). О
Таким образом, при />0
log/(О = Ич' + f L («) I(С1 + с^ COS - a + i (с^ — с^ sin -”- a k
Заметив, что cos—a > 0, и положив
с = — £ (a) (ct + Са) cos у a (c>0),
находим, что
log/ (/) = q't—ct» { 1 + <3 tg -^ al.
При Z < О1'
log/(0 = log/(—^ = — г/ (—^ — С (—if <1 — i^tg J al =
= «/7— c i tV |1 + ip-щ- tg ya|.
Таким образом, при любом t
!og/(О = h't— с 1t1* 11$ ~ tg ^ a].(14)
1 < a < 2. В этом случае, изменив постоянное 7, можно записать (12) в виде
log/(Z) = z7f"+Ci | <е«и_ 1 — ин)
При t > О о оо
О
Применяя к интегралам правой части теорему Коши и беря тот же контур интегрирования, как и в первом случае, получаем оооо ■тс
f (егу — 1 — ^= г-» f.— 1у) —— 5 2 М (а),
6О
где
Л/(а)= [1+>,)^>0.
о Точно так же
J* - 1 го) ^ = е“ г1М (а). о
Подожни в этом случае
с = —/И(а) (Cj + ^^s-^a(с>0)
и придав величине р тот же смысл, как и в первом случае, находим, что для log/(/) снова имеет место формула (14).
а = 1. Так как
Р 1 — COS XР 1 — COS Xz*z*
Р 1 — COS X
Р 1 — COS X
z*
z*
оооо00Г (eitu _ 1 _J1!L00Г (eitu _ 1 _J1!L_ Г cos tu—1- J И50coJ sin tu ,_ Г cos tu—1- J И50coJ sin tu ,оо1122t--1 limt--1 lim' . v ut \du' . v ut \duJ и (1 + U^ JJ и (1 + U^ Jsin *0sin *011
о
о
о
о
00
Г (eitu _ 1 _J1!L
00
Г (eitu _ 1 _J1!L
_ Г cos tu—1
- J И5
0
co
J sin tu ,
_ Г cos tu—1
- J И5
0
co
J sin tu ,
о
о
1
1
2
2
t--1 lim
t--1 lim
' . v ut \du
' . v ut \du
J и (1 + U^ J
J и (1 + U^ J
sin *0
sin *0
1
1
НоНоГ sin v .Г du .,lim•—— d/u = Inn-—„log/,Г sin v .Г du .,lim•—— d/u = Inn-—„log/,поэтомупоэтомуо'о'1 itu \ du7t ..,. z I1-i^№=^Tz”"'los'+‘I’1 itu \ du7t ..,. z I1-i^№=^Tz”"'los'+‘I’гдегде
Но
Но
Г sin v .Г du .,
lim•—— d/u = Inn-—„log/,
Г sin v .Г du .,
lim•—— d/u = Inn-—„log/,
поэтому
поэтому
о'
о'
1 itu \ du7t ..,. z I
1-i^№=^Tz”"'los'+‘I’
1 itu \ du7t ..,. z I
1-i^№=^Tz”"'los'+‘I’
где
где
r= FP-^r= FP-^Так то приТак то приокак первый интеграл (12) комплексно сопряжён со вторым,окак первый интеграл (12) комплексно сопряжён со вторым,ttПри tПри t0log/(0 = h't—(q -1-c^ ^t—i<cx — c2) tlog t.C 00log/(0 = h't—(q -1-c^ ^t—i<cx — c2) tlog t.C 0
r= FP-^
r= FP-^
Так то при
Так то при
о
как первый интеграл (12) комплексно сопряжён со вторым,
о
как первый интеграл (12) комплексно сопряжён со вторым,
t
t
При t
При t
0
log/(0 = h't—(q -1-c^ ^t—i<cx — c2) tlog t.
C 0
0
log/(0 = h't—(q -1-c^ ^t—i<cx — c2) tlog t.
C 0
log/ (0 = log/(— 0= — h' (— 0 — (Cl + c^ у (— 0 + i (ci — c2)’
(— 0 log (— t) = iVt—(cY + c2) у И ~ i<cx — c^ t log 11\. Положив
2 ’2 ’c^ — ctCi * |~ C2 *c^ — ctCi * |~ C2 *
2 ’
2 ’
c^ — ct
Ci * |~ C2 *
c^ — ct
Ci * |~ C2 *
находим, что при всех /
(15)(15)iog/(0=a^
(15)
(15)
Этим завершается доказательство теоремы.
Условимся число а в формуле (1) называть характеристическим показателем устойчивого закона.
В настоящее время явная форма для устойчивых функций распределения известна лишь в немногих случаях. Так, известно давно, что нормальный закон (а = 2) и закон Коши (а=1, р = 0) устойчивы. Недавно Н. В. Смирнов показал, что плотность распределения для устойчивого закона, для которого в формуле (31) <х = -^ , р = 1, т = 0,
с — 1, равна
оор\?> Y’ !> °>р\?> Y’ !> °>при хпри х0.0.при х < 0,
о
о
р\?> Y’ !> °>
р\?> Y’ !> °>
при х
при х
0.
0.
Этот закон принадлежит к семейству кривых Пирсона (к V типу).
§ 35. Области притяжения устойчивых законов
Пусть случайные величины
взаимно независимы и имеют одну и ту же функцию распределения F (xY
Если при надлежащем подборе постоянных Ап и Вп функции распределения сумм п ‘
сходятся при п, стремящемся к бесконечности, к функции распределения V ^х\ то говорят, что F ^ притягивается к V (х). Совокупность всех функций распределения, притягивающихся к V(xY называется областью притяжения закона V (xY Из предыдущего ясно, что все устойчивые законы распределения и только они имеют области притяжения.
Очевидно, что области притяжения двух законов, принадлежащих одному типу, совпадают. Поэтому можно, говорить об областях притяжения типов.
Одной из основных задач теории устойчивых законов должно быть определение их областей притяжения. В настоящем параграфе мы даём законченное её решение. Мы снова на примере предстоящих теорем отметим уже однажды отмеченный факт: если нормальный закон притягивает весьма широкий класс законов распределения, то области притяжения остальных устойчивых законов состоят лишь из тех законов распределения, характер которых напоминает характер притягивающего закона..'
Теорема Р). Функция распределения F(x) принадлежит области притяжения собственного нормального закона тогда и только тогда^ когда при X со
у dF^
\ац>Х
х^ dF\x^
\ac\<X
Доказательство. Заметим прежде всего, что если дисперсия собственного закона F (х) конечна, то F(x), во-первых, удовлетворяет условию (1), а во-вторых, принадлежит области притяжения нормального закона. Действительно, для такого закона при X -► со
'X2 У dF^xX f x^dF<xXQ
\х\>Х^\>Х
и в то же время
f x^dF(x)-> fx^dF(x^>0.
\ос\<Х
Из этих двух соотношений вытекает (1).
Обозначим, далее,
J (.v — a)2 dF (х), В2п = nz,J (.v — a)2 dF (х), В2п = nz,а = J х dF (х) о2 =
J (.v — a)2 dF (х), В2п = nz,
J (.v — a)2 dF (х), В2п = nz,
тогда при любом т > 0 и л —► со
У (.x-aYdF^X^ / Uc-aW^X^.
I Ж I[ X I > 7 J V П
Р1з теоремы 3 § 21 следует, что F (х) принадлежит области притяжения нормального закона.
Мы можем, таким образом, ограничиться рассмотрением законов F (х) с бесконечной дисперсией. Иными словами, мы можем ограничиться рассмотрением законов F ^х), для которых при X —> со
х
J x-dF(xX 00 •(2)
— X
Докажем прежде всего, что если (2) имеет место, то при, X -> со
хх
xdF(x)]a = of yx‘W(x)l.(3)
*) А. Я, Хинчин [70], w. Feller (62], Р. Levy (45].
Действительно, пусть о(х)— такая положительная неограниченно возрастающая при х-> ± со функция, что интеграл
С — $ z^dF^
конечен. Тогда в силу неравенства Буняковскогоконечен. Тогда в силу неравенства Буняковского
конечен. Тогда в силу неравенства Буняковского
конечен. Тогда в силу неравенства Буняковского
X cV^dFWX cV^dFWхх
X cV^dFW
X cV^dFW
| z4 (х) dF (х) | ^xdFW<
-X-X v
Из этого неравенства с очевидностью вытекает (3).
ппСогласно теореме 4 § 26 закон F (х) тогда и только тогда принадлежит области притяжения нормального закона, когда существует такая последовательность постоянных Сп(Сп-> со при п->оо\ что при п —> оо
п
п
(4)
и
x*dF(x) — (|x*dF(x) — (|
x*dF(x) — (|
x*dF(x) — (|
В силу только что доказанного для законов с бесконечной дисперсией второе требование можно заменить более простым, а именно, при п -> со
(5)(5)
(5)
(5)
Докажем сначала, что из (4) и (5) вытекает (1). С этой целью заметим, что так как Си-> со при n->cos то для каждого достаточно большого X найдётся такое п, что
ССпп<х<<х<сиП+ГсиП+Г
С
С
п
п
<х<
<х<
с
иП+Г
с
иП+Г
Введём для краткости обозначения
Х(х) = | dF^xv Н(х) = ^ j* x^dFUY1»]>Х\яЛ<Х
Дегко видеть, что
н (С„) 4- X (С„) > н (л) > щс„ н) - х (С„),
а также
Z(Cn)>xW>x(C„+1).
Из этих неравенств находим, что
«X (СО> X W ^(» + 1)х(С„+1)
^ (л + 1) ьцсп^ - их (С„)77 W?L±J угЩС^ + «х (С„)]
В силу (4) и (5) крайние отношения при п -> со стремятся к нулю и, значит, имеет место (1).
Покажем теперь, что условие (1) достаточно, т. е. что можно определить такую последовательность величин Сп (Сп—>оо при п —> со), для которой одновременно будут выполняться соотношения (4) и (5). С этой целью выберем произвольное 8>0 и обозначим через Сп^ нижнюю грань тех X, для которых
'«zWes.(6)
Так как, по предположению,
J х2 dF (х) = оо,
то ясно, что Сп (8)-> со при и—> со. В силу (1), каково бы ни было е, при п ^ п (о, е)
' nH^Cu^>:V
А так как
", СП <8>
I “’К-—2—
< -Д-| х2 dF (х) = АН (С„ (8)),
п ° I аг | < Сп (8)
то при п ^ п (о, г)
пН(Си<^>^.
Таким образом, при любом 8 > О и п -> со пН(Сп(5))->оо.
Следовательно, можно выбрать такую последовательность 8П, стремящуюся к нулю, что
лН(Сп(О —> сопри п -* оо.
Но в силу (6)’
wz(Cn(8n))<8n-^O при п->оо.
Иными словами, при п —> оо
п J dF^x)->0|ж1>^
и
х2 dF (х) -> оо.х2 dF (х) -> оо.
х2 dF (х) -> оо.
х2 dF (х) -> оо.
Мы доказали, что из (1) следуют (4) и (5); теорема доказана.
Теорема 2*). Для того чтобы закон распределения F (х) принадлежал области протяжения устойчивого закона с характеристическим показателем а (0 < а < 2), необходимо и достаточно, чтобы
F (— х)Cizix
прих-*^.(7)
при каждом постоянном к > О
*1 — F(x) + F(—х)./оч
х ГПри X -> ОО.(8)
1 — к (^х) + F (— кх)7v 7
Доказательство. Согласно теореме 4 § 25 для того, чтобы закон F (х) принадлежал области притяжения устойчивого закона с показателем а (0 < а < 2), необходимо и достаточно, чтобы при некотором подборе постоянных Вп выполнялись условия
nF (Впх) Да (х < 0),(9)
пЦ-РЦ^х) -> &(х>0),(10)
lim Нтs -> 0 П -> ооlim Нтs -> 0 П -> оо(И)(И)J хМР(Впх> — ( J W(BMx))2| = 0.
lim Нт
s -> 0 П -> оо
lim Нт
s -> 0 П -> оо
(И)
(И)
\ х \ <е1 ж I < а
Необходимость условий теоремы из этих соотношений вытекает без труда. В самом деле, пусть у > 0 велико. Подбираем столь большое п, чтобы при данном х > 0
Очевидно, чтоОчевидно, чтоВих ^ уВих ^ уВп ._ хх.Вп ._ хх.F(-Bn.xx)<F(-y)<F(-Bn.xx)<F(-y)<F(-Bnx\F(-Bnx\
Очевидно, что
Очевидно, что
Вих ^ у
Вих ^ у
Вп ._ хх.
Вп ._ хх.
F(-Bn.xx)<F(-y)<
F(-Bn.xx)<F(-y)<
F(-Bnx\
F(-Bnx\
1 F (Вп^х) ^1-F(y)^l-F (Впх), и при к > 0
/г (_ k3HVXx) С F (- ку) <F(— Впкх),
— F (Bnvxkx) <i—F(ky)<l—F ^Впкх).
'^) Б. В. Гнеденко [17], D о е b 1 i п [27].
ОтсюдаОтсюдаF^-B^x) /_РЫк / F(-Bnx)\-F(Bnx) ^ l-F(y)^l-F(Bn+1x)'
Отсюда
Отсюда
а также
\-р(.вп^а-р^-вп^ J^M+j^Iz^L
1 - F (Bnkx) + F (- B„Ax) ^ 1 — F (ky) + F (- ку)
I-F(Bnx) + F(-Bnx)
1 — F <BuV1kx) + F (— Bll+1kx)"
Применение (9) и (10) нам даёт Ci /F(—у) _ с,
Z” <Z” <Hmy->ooHmy->ool-^M + ^C-J') / l — /-'(^v) + F(— ky) ^l-^M + ^C-J') / l — /-'(^v) + F(— ky) ^ka.ka.C2 y^oo I” I" О C2 ’
Z” <
Z” <
Hmy->oo
Hmy->oo
l-^M + ^C-J') / l — /-'(^v) + F(— ky) ^
l-^M + ^C-J') / l — /-'(^v) + F(— ky) ^
ka.
ka.
Достаточность. Условия теоремы имеют смысл только, если при каждом х
1 —F(x) 4-F(—х)>0,
т. е.
Р{|?1>Р{|?1>х} > 0.х} > 0.
Р{|?1>
Р{|?1>
х} > 0.
х} > 0.
Отсюда следует, что нижняя грань х, удовлетворяющих неравенствам
РПМ^К'-Ч^РШ^Ь О2) которую мы обозначим через В1И стремится к бесконечности при п -► со.
Из (9) следует, что при каждом х > 0 nVX-F^xB^-YFk — xB^^
= га(1-^(5„ + 0) + ^(-Вй-0))У^, n(l-F(xBn)-V-F(-xB„)') =
= /г(1-В(В„-0) + В(-Вй + 0))А+^).
Отсюда и из (12) мы заключаем, что при /г->со
л(1-В(хВт) + В(-хви))->^±12.(13)
Из (7) вытекает, что при каждом х > 0
Схп (1 — F (хВп)) = c^nF хВп) (14-0(1)).(14)
Из (13) и (14) следуют (9) и (10). Нам остаётся из (7) и (8) вывести (11).'
(15)(15)Для этого мы прежде всего установим, чтоJ х2 dF (х) г= оо.
(15)
(15)
Пусть х0 настолько велико, что при данных е>0 и &> 1, подо
бранных таким образом, что &2-8(1— е)>1 и &8(1—s)> 1,
Р {151 > ^хи }Р {151 > ^хи }Р { I 5 I > ^+1Х0)Р { I 5 I > ^+1Х0)= (l + eg)-i&a,= (l + eg)-i&a,(16)(16)
Р {151 > ^хи }
Р {151 > ^хи }
Р { I 5 I > ^+1Х0)
Р { I 5 I > ^+1Х0)
= (l + eg)-i&a,
= (l + eg)-i&a,
(16)
(16)
где | е8 | .^ г для s = О, 1, 2, .. .
В силу условия 2 теоремы такое х0 найти можно. Очевидно, что
^x»dF^ = J ^(-tH-S У x4F^> \х\ <жоА:8 ~ ^ < | т I < к8ж0
> Г хй dF(x)-Lxo 2 ^“’’Р { ^XqC U| < &sx0|.
В силу (16)
Р{/г?-^о<^|<^о)=Р{^|>^-^о} — P{i^l>^0}>
8— 18
>Р{|Ч>х0}{£-8(*-1)П (14-еД-А-8»П(1 + е^
Г = 1Г" 1
Таким образом,
j x^dF^x» | x^dF^-V
1жГ<Я?0
+ х^Р{|;|>х0}А; -^^-^^(l-e)»
В силу того, что Р {| $ | > х0 j > 0 при каждом х0 и ряд в правой части неравенства расходится, отсюда следует (15).
Пусть х0 выбрано, как раньше. Выберем столь большое п^ чтобы
У x^dF(x)< У x-dF(x);
I ж | < «о.То < | ж1 < В^г
то возможно в силу (15); очевидно, что
У x»dF(x)<2 у x^dF^xy
! ® I < В^ет0 < | т j < В}%
Пусть целое s > 0 таково, что
k8xQ < В^е < k8^x0.k8xQ < В^е < k8^x0.(17)(17)
k8xQ < В^е < k8^x0.
k8xQ < В^е < k8^x0.
(17)
(17)
Имеем
f х^Р^хХ^хД £2<r+np{^x0<|£[<#•+%} <
\^<вп* г = °
< 2хо 2 Л2 (r+1) Р {| $ | > krx0 } < 2е25» 2 ^(r-s+1) Р { | £ | > г —ог=о
>^х0}.(18)
В силу (16) и (17)
pds^^xoX^a+^Rd^^^x-oX
< [(1 + e)J ^p-'+i Р {|EI > ^!х0| < [(1 + е) И8"' ' Р {|I > ®B„V
Из (18) находим, что при Ла~2<(14“г)"1
J х2 dF (х) <
1ШК‘В»
8
< 2В2$г (1 + е) Аа + 2 Р { | $ | > гВ„ } 2J(1 + е) Ы^ <
< 2S2s2 (1 + г) к^ 2 Р { | | > гВп }.
Отсюда в силу (13)
| I < еВп
и, стало быть,
lira hm -5 x4F(x\ = 0.
8 —^ 0 7? —> СО D »,j
| х I < еВп
Теперь неравенство
^{ f х2^(х)-( J xdFU^<^ J х2^(х) н \(с\<еВп\ае\<еВ)1п -ас\<еВп
доказывает справедливость утверждения теоремы.
Теорема 3 *). Если функция распределения F (х) принадлежит области притяжения устойчивого закона с характеристическим показателем а., то при любом о(О^о<а) существует интеграл
J | ъ dF (х).
Доказательство. Рассмотрим сначала случай а<2. Тогда, каковы бы ни были s>0 и ^> 1, согласно предыдущей теореме
*) Случай а = 2 см., например, А. Я. Хинчин [701, Г. Крамер [40].
Случай а < 2 — Б. В. Г н е д е нк о [23].
можно найти такое х0, что
p<iei>^x0}p<iei>^x0}p<ieip<iei= (1+^)-^,= (1+^)-^,(19)(19)
p<iei>^x0}
p<iei>^x0}
p<iei
p<iei
= (1+^)-^,
= (1+^)-^,
(19)
(19)
1 "8
причём |е8| ^s для s = 0, 1, 2, . .. Мы предположим, что<1.
Очевидно, что
^0ОО
|x|5dF(x) = fIxpoT^x)-}- 2 f |X|5dF(x)<;
8 = 1 o.
“^oks ~| ж 1 < кчх0
ОО
< Г |x|5dF(x)4-Xo2^P !^1>^-Ч}- (20)
J8=1
-^0
Так как в силу (19)
8-1
р {| $| >А»х0} =П(1 + ®г) • к— Р {1$ I > х0 },Г=0
то
2 As8P{|$| > ^“ЧХР {I^^XoJ/e^Cl+s)8^’8^-^
8=lj8=1
и, значит, правая часть (20) конечна в силу выбора гик.
Для доказательства теоремы в случае а = 2 рассмотрим функцию
(г) = J х dF (х) = — г2 J dF (х) + 2 J v dv J dF (x).
I a?|<s| я? | > зО I ж |> v
Нам достаточно, очевидно, ограничиться рассмотрением того случая, когда дисперсия для закона F(x) бесконечна.
В этом случае неубывающая функция 6 (2) безгранично возрастает с ростом 2. В силу теоремы 1
Ф(г)^2 J vdv j dF (х) = о( J ^-^-dv^ .
Оj X | > V1
Пусть 7И (г) обозначает верхнюю грань ч)-^^ в интервале 1^г/^г, где s>0 — заданное число. В таком случае
Отсюда, очевидно, можно заключить, что ^ (г) — о (2е) при любом s > 0. Но так как при 0 <; В < 2 при всех достаточно больших 2 > 0
J |х| zdF(x) < g-(^-^ ^(2г) <22,
тотоi ^ К I ^ / < 2^
то
то
Г |x|MF (х) < г2 1 2 2^2 1)<+оо.
к = 0к = 0.к.кJ0
к = 0
к = 0
.к
.к
z<M<2fe+1z
Этим теорема доказана полностью.
Если нормирующие коэффициенты Вп сумм
г £1 + ^2 + • • • + €72 д
^72О
выбирать не произвольно, а подчинять их рост какому-нибудь закону, то ясно, что области притяжения при данном выборе могуть быть только уже, чем без этого ограничения. Теорема Муавра-Лапласа, например, показывает, что при исследовании области притяжения нормального закона особенно интересным является следующий выбор нормирующих коэффициентов:
Вп = aVn, где а — постоянно.
Если V (х)—какой-нибудь устойчивый закон, то легко видеть, что он принадлежит своей области притяжения. При этом, если а — характеристический показатель закона V (х), то нормирующие коэффициенты определяются формулой •
1
Вн = па .
Мы скажем, что закон F (х) принадлежит области нормального притяжения закона V (х), если при некотором а > 0 и некоторых Ап имеет место равенство
lim72-» ООlim72-» ООПП(21)(21)
lim
72-» ОО
lim
72-» ОО
П
П
(21)
(21)
Здесь а — характеристический показатель закона ^(х), Теорема 4. Для того чтобы закон F (х) принадлежал
области нормального притяжения закона Ф (х) =области нормального притяжения закона Ф (х) =11£2' 2 dz.£2' 2 dz.
области нормального притяжения закона Ф (х) =
области нормального притяжения закона Ф (х) =
1
1
£2
' 2 dz.
£2
' 2 dz.
необходимо и достаточно, чтобы он имел конечную дисперсию. При этом в формуле (21) неизбежно а = ^, а Ап может быть выбрано равным Ап~п ГxdF(xy
Доказательство. Согласно теореме 4 § 26 для притяжения к закону Ф (х) необходимо и достаточно, чтобы для любого е > О при п—> со
(22)(22)п Р dF(x)->0, ^>еВп
(22)
(22)
^[ I x^dF(x}—( Г xdF(x)f\-^ 1.
\® \ <еВпI ж I <еВп
х dF (^У j = °2-х dF (^У j = °2-В случае нормального притяжения второе из этих условий принимает следующий вид:
х dF (^У j = °2-
х dF (^У j = °2-
ИтП-> ООИтП-> ОО[ J xdF(x) — ( Jlasl<eaVnlac l<eal п
Ит
П-> ОО
Ит
П-> ОО
А так как в силу теоремы 3 существует предел
Ит Г х dF (х) = I х dF(x\
П-»СОJ
I ж 1 < ea V п
то существует также
(23)(23)J (х —- J х dF<x^ dF (х) = а2.
(23)
(23)
Обратное заключение, что из конечности интеграла (23) вытекают соотношения (22), очевидно. •
Теорема 5*). Для того чтобы закон F (х) принадлежал области нормального притяжения устойчивого закона V (х) с характеристическим показателем а (0<а <2) ^заданными константами сх и с %, необходимо и достаточно, чтобы
при х < О,при х > О,при х < О,при х > О,(24)(24)Р^=*-\Л (х))р^у
при х < О,
при х > О,
при х < О,
при х > О,
(24)
(24)
F (х) = 1 — (с2а“ + а2 (х)) 1
где а — положительная постоянная, а функции аДх) и а2(х) удовлетворяют условию•
(25)(25)Нт ах (х) = Ит а2 (х) = 0.
(25)
(25)
ОС ->— СООС -> ОО
Константа а в формулах (21) и (24) — одна и та же.
Доказательство. Необходимость. Согласно теореме 4 § 25 необходимые и достаточные условия притяжения закона F (х)
к устойчивому закону, определяемому постоянными q ^> О, f2^^ и а по формуле (12) § 34, состоят в том, что при /г~>оо
nFM ^п^-Р^В^'^nFM ^п^-Р^В^'^при х < О,при х > 0.1при х < О,при х > 0.1(26)(26)
nFM ^
п^-Р^В^'^
nFM ^
п^-Р^В^'^
при х < О,
при х > 0.
1
при х < О,
при х > 0.
1
(26)
(26)
Так как для нормального притяжения Вп = апа , то, положив^-^Впх, можем записать (24) в виде
р О) = (М’ + а, 0')) 7J|T при У < °- '
f(y) = 1 — ^ + а2 О')) ^ ПРИ ^ > °-
где а, (у) и a2(j/)— некоторые функции, удовлетворяющие соотношениям (25). Достаточность условий теоремы очевидна.
§ 36. Свойства устойчивых законов
Предыдущие результаты дают нам возможность отметить ряд существенных свойств устойчивых законов распределения. .
(А. И. Лапин [41].) Все устойчивые законы одновершинны.
(Р. Ldvy [46], стр. 201.) Для каждого устойчивого закона V^x), за исключением нормального и единичного, существуют такие числа а (0 < а < 2) и с > 0, что
Иш ха (1 — V(x) + V( — х)} — г. (1) а?-> + 00
Соотношение (1), очевидно, имеет место для каждого закона, принадлежащего области нормального притяжения устойчивого закона с характеристическим показателем а (0 < а < 2). Так как каждый устойчивый закон принадлежит области нормального притяжения к самому себе, то и для него соотношение (1) выполнено.
(Б. В. Гнеденко [17].) Каждый устойчивый закон с характеристическим показателем а (0 < а < 2) имеет конечные абсолютные моменты всех порядков В(О<о<а).
Это также является следствием того, что каждый устойчивый закон принадлежит своей области нормального притяжения.
Отсюда, в частности, вытекает, что только нормальный закон среди всех устойчивых законов имеет конечную дисперсию. При 1 < а < 2 устойчивые законы имеют математические ожидания, при 0<а^1 устойчивые законы не имеют ни дисперсий, ни математических ожиданий.
(А. Я. Хинчин [77], стр. 101.) Все собственные устойчивые законы непрерывны и в каждой точке имеют производные всех порядков.
Действительно, так как для любого собственного устойчивого закона V(х)
[ тл (/) | ==1 *Г (ОО, 0<а<2),(2)
то формулу обращения в нашем случае можно записать в таком виде:
v (X) - V (х0) = ^ J ^ У (0 dt.
Формально продифференцировав эту формулу п раз, находим, что
(3)(3)W (х) = ^—^”—■■ f Z'*-1 e-it3! -о (0 dt.
(3)
(3)
Интегралы (3) абсолютно сходятся. Этим доказано наше утверждение.
Последняя теорема может быть уточнена.
Теорема (А. И. Лапин [41]). Собственная устойчивая функция распределения с показателем а > 1 аналитична на всей прямой. При а > 1 она является целой функцией. При а = 1 радиус сходимости её ряда Тейлора в окрестности любой точки не меньше с.
ПоэтомуПоэтомуДоказательство. Из (2) и (3) выводим, что при любом действительном х .
Поэтому
Поэтому
Г оо при а > 1,
1ййУУ Ь при а=1. .
§ 37. Области частичного притяжения
В § 33 мы доказали, что устойчивые и только устойчивые распределения могут выступать в качестве предельных для нормированных сумм
г ^1 + ^ + • • • + Ч л ЧПD
взаимно независимых и одинаково распределённых случайных величин, когда число слагаемых п стремится к бесконечности, пробегая все целочисленные значения. Может случиться, что ни при каком подборе постоянных Вп и Ап функции распределения сумм Сп не сходятся к предельной, однако для некоторой подпоследовательности пх < п^ < . .. <пк < . .. эта сходимость имеет, место. Общая теория позволяет нам утверждать только, что этот предельный закон обязан быть безгранично делимым. Как показал А. Я. Хинчин [76], имеет место также и несравненно более ^глубокое обратное предложение: каждое безгранично делимое распределение может выступать в качестве предельного для распределений сумм ^п^.
Мы скажем, что функция F (х) принадлежит области частичного притяжения закона V (xY или, что то же самое, её типа, если существует такая последовательность пх <^п^< ... < п^ < . .., что функции распределения сумм ^ при надлежащем подборе постоянных Вп и Ап сходятся к V (xY В этих терминах мы можем предыдущее предложение высказать следующим образом:
Теорема. Каждый безгранично делимый закон имеет область частичного притяжения.
Доказательство. Рассмотрим безгранично делимый закон V (х\ Для которого
log У (О = Z^+ J {е“" - 1 - i^} Ц^ dG
Так как для нормального закона теорема становится тривиальной, то мы можем считать, что функция G (и) имеет точку роста и0> отличную от нуля. Пусть а > 0 такое, что а-1 < | и01 < а. Рассмотрим области Д^, определённые неравенствами
а~^ < | и | < ak ^k=\, ^ . . »Y и положим
= | ^^dG(u).
Так как с ростом к области Дд расширяются, то 0<Г1<Г2<... <Г,£С...
Положим, далее,
Ак=\Ц^<КЦиу Вк = J (1 + и^ dG (и),
Ск = J м (1 -yu^dGkuA ,
аЗ= G( + 0) —G( —0),
и введём в рассмотрение числа к^ определяемые соотношениями
x^l, Кк =Ц-^АА (А>1).(1)
Пусть теперь последовательность натуральных чисел
b<<h< •• • <q»<-- -
(2)(3)(2)(3)возрастает столь быстро, что
(2)
(3)
(2)
(3)
13 n —1 1 —
ит^„ 2 А» У 9fcXfc |Cfc| = 0.
Положим ещё
% = Mk
и перейдём к определению закона, частично притягивающегося к закону V (х). С этой целью рассмотрим безгранично делимые законы ^(х), для которых
log Oj. (/) ™ (eifu — 1)log Oj. (/) ™ (eifu — 1)—^г* dG(u).—^г* dG(u).
log Oj. (/) ™ (eifu — 1)
log Oj. (/) ™ (eifu — 1)
—^г* dG(u).
—^г* dG(u).
Так как согласно (76) ряд ^ — сходится, то к
ОО!o?/to=2^log^к=*1
есть логарифм некоторой характеристической функции. Положив
к=ть -}-1к=ть -}-19/9/
к=ть -}-1
к=ть -}-1
9/
9/
"РЛ-1 2?2Д Чк"РЛ-1 2?2Д Чк, о /^г 6 оЗ ип-1’ГП, о /^г 6 оЗ ип-1’ГП
"РЛ-1 2?2Д Чк
"РЛ-1 2?2Д Чк
, о /^
г 6 оЗ ип-1’
ГП
, о /^
г 6 оЗ ип-1’
ГП
мы можем, очевидно, написать п—1
(4)(4)МЮ - 5 д»‘ (к')+S'osto +к = 1 К'
(4)
(4)
Но
I91CL
где положено
п—1 v
к^1 Ь
Из (4) мы теперь находим п—1
^; S x-s«+к '"= w+к = 1
__ 3_3 П—11_ £
+ 4 2- Ч 2 2 я1 Ч\съ\Л-°^ lQl<L
Пользуясь соотношениями (1), (2), (3), находим при каждом t
^'^GD=и ^ “(°2+■«) ?+,о§^^+
+ О (У,Л») + О (qn 2 Хц 2 ии-1) =
_ZZ^ri_02^+ f (ei#(,_1)L+£2(ZO(M)+o(l).
Обозначив
„ _qnVn^} f dqoo
находим при каждом t
Яп loS/(^) - lhn = ih — °2 Y +
+ J (^ttu — 1 — r^u2) "u2" d° (“) + 0 (n-
Таким образом,
=> ih + f (ettu —1 - ГПГ2) Ц^2 dQW = 1Qg ® (0-
Это соотношение показывает, что при п ~> оо функции распределения сумм
г ^ + ^2 -Г • • • + ^п
взаимно независимых слагаемых ^ь распределённых по закону F^x^ сходятся к V (х). Мы нашли, таким образом, для каждого безгранично делимого закона V (х) закон F(x), принадлежащий области частичного его притяжения. Теорема доказана. .
Вскоре после того, как А. Я. Хинчин доказал эту теорему, тремя авторами (П. Леви [46]кстр. 212, А. Я. Хинчиным [77], Б. В. Гнеденка
[17]) одновременно были построены примеры законов, не принадлежащих области частичного притяжения ни одного собственного закона ). Идея построения всех этих примеров была одна и та же —рассматривать случайные величины с достаточно большими вероятностями больших значений.
Рассмотрим функцию распределения F(x), для которой
— всо
Iog/(0 = ( (COS/X—+ I (cos/x—l)^f— ь 7 v 7 J v7 \4 log I x I / ‘ v7 \4 log x,
F^ как безгранично делимый закон имеет непустую область частичного притяжения, но, как мы сейчас увидим, сам не притягивается ни одним законом кроме несобственных.
Изучим поведение функции log/(/) вблизи точки / = 0. С этой целью отметим равенство
log/(/) = f sin2^ d ) =ь 7 x 7 J 2 \log x)
в
i•
I *co
= ( sin2 d)
J 2 \logx/ ’ J 2 \logx/
VW
Так как все рассматриваемые нами интегралы отрицательны, то
11
^ТЛхул
Г c-^^V 1 ^‘ ^ V 1
I sin^-s-а , >-т-а ; /
J 2 Mog-r^ J 4 \logx7 вв
С другой стороны, при-достаточно малых t
4п4-з2t ”4п4-з2t ”| sin2 у d i| sin2 у d i. n tX , sin2 у d. n tX , sin2 у dsin2 ~dsin2 ~d11 = 011 = 02t2tп = 0п = 0Так какТак как4п4-32 I t |4п4-32 I t |4п+1 ~4п+1 ~4и ~Г2t4и ~Г2t4u 4-12t4u 4-12t4п + 5 _4п + 5 _4n4-3 2 I £ I4n4-3 2 I £ I
4п4-з
2t ”
4п4-з
2t ”
| sin2 у d i
| sin2 у d i
. n tX , sin2 у d
. n tX , sin2 у d
sin2 ~d
sin2 ~d
11 = 0
11 = 0
2t
2t
п = 0
п = 0
Так как
Так как
4п4-3
2 I t |
4п4-3
2 I t |
4п+1 ~
4п+1 ~
4и ~Г
2t
4и ~Г
2t
4u 4-1
2t
4u 4-1
2t
4п + 5 _
4п + 5 _
4n4-3 2 I £ I
4n4-3 2 I £ I
ТОТО
ТО
ТО
П = 0П = 022a 111a 1111121og —31081Z12 g2|/|1121og —31081Z12 g2|/|
П = 0
П = 0
2
2
a 111
a 111
11
21og —31081Z1
2 g2|/|
11
21og —31081Z1
2 g2|/|
и, следовательно,и, следовательно,
и, следовательно,
и, следовательно,
SIH- —г* d ; < tt;г~т~ •
log x blog] 11
vt
Из полученных оценок мы заключаем, что при /, достаточно близких
к нулю,к нулю,10§7Ю10§7Юл(/)log 11 Гл(/)log 11 Г
к нулю,
к нулю,
10§7Ю
10§7Ю
л(/)
log 11 Г
л(/)
log 11 Г
где А ^) — непрерывная функция, удовлетворяющая неравенствамй < (о < 3.
Мы покажем теперь, что ни при одном выборе постоянных Вп > О (Лп мы можем выбрать равными нулю в силу симметрии закона F (х)) и натуральных чисел пх < п^ < .. . < пк < ... функции
"*los/(y
не могут сходиться к предельной равномерно относительно t в окрестности точки f = Q,'
Рассмотрим все возможные случаи.
Последовательности { Вп} и { пк} таковы, что lim logB^ а <_|_ со 7ь->оо Пк1
В этом случае при любом /, отличном от нуля, отношение —& •
стремится к —-, при / = 0— к нулю. Это означает, что в рассматриваемом случае предельная для n^log/^^-^ функция не может быть логарифмом характеристической функции.
Последовательности { Вп} и { пк} таковы, что
limоо.
7с -> оо
В этом случае в любом конечном интервале t lim\ = 0
и, следовательно, предельной функцией для / & (-—) будет характеристическая функция единичного закона.
Если отношение ^r~L ПРИ & -> со не стремится ни к какому пределу, то мы можем из последовательности пк выбрать подпоследовательность п^ для которой
11т^=а<+„,
и тем самым свести этот последний возможный случай к одному из двух первых.
Этим, очевидно, мы доказали наше утверждение.
Дальнейшим исследованием областей частичного притяжения занимались Дёблин [27], Б. В. Гнеденко [18], А. В. Грошев [25], П. Леви [46]. Мы приведём несколько результатов, не останавливаясь на их доказательствах.
Каждый закон распределения F ^х^ принадлежит области частичного притяжения либо одного, либо несчётного множества типов, либо не принадлежит ни одной области частичного притяжения. (Doeblin [27], Б. В. Гнеденко [18]).
Если закон распределения принадлежит области частичного притяжения только одного типа, то этот последний устойчив (Гнеденко [18]).
Область частичного притяжения устойчивого типа шире, чем область его полного притяжения (Гнеденко [18], Doeblin [27]).
Бслй закон F (х) принадлежит области частичного притяжения закона Е^), а закон Е (л) принадлежит области частичного при-
тяжения закона Ф (х), то F (х) принадлежит области частичного притяжения закона ЧР* (х) (Б. В. Гнеденко [18]).
Отсюда, в частности, вытекает, что каждый закон, принадлежащий области частичного притяжения типа с конечной дисперсией, принадлежит и области частичного притяжения нормального типа; что единственным устойчивым типом с конечной дисперсией является нормальный тип; свойство 3.
Существуют законы F (х\ принадлежащие областям частичного притяжения каждого безгранично делимого типа (универсальные законы по терминологии Doeblin’a [27])..
Для того чтобы закон F(x) не принадлежал ни одной области частичного притяжения, достаточно, чтобы Doeblin [27]).
J dF(z)
lim lim tiA>J2L— ф^еJdF(z) '
|| > X
Для того чтобы закон F (х) принадлежал области частичного притяжения нормального типа, необходимо и достаточно, чтобы (Р. Levy [46], стр. ИЗ)
л-2 ^ dF^
I а? ( ^> X
от jx’-dF(z)
I а | < X
Для того чтобы закон F (х) принадлежал области частичного притяжения закона Пуассона, необходимо и достаточно, чтобы (А. В. Грошев [25]) при каждом е>0
(6)(6)lim 11 > е
(6)
(6)
■*°° J dF(W)
I ж—1| <6
Согласно только что приведённому свойству 5 каждый закон, принадлежащий области частичного притяжения закона Пуассона, принадлежит и области частичного притяжения нормального типа и, следовательно, если выполняется (6), то (5) выполняется также.
ГЛАВА 8
УТОЧНЕНИЕ ТЕОРЕМ О СХОДИМОСТИ К НОРМАЛЬНОМУЗАКОНУ
§ 38. Постановка задачи
Настоящая глава посвящена исключительно сходимости нормированных сумм к нормальному закону. При этом мы ограничиваемся случаем одинаково распределённых слагаемых. От слагаемых мы требуем кроме того существования моментов: во всех случаях второго порядка, а в ряде случаев также и высших порядков.
Некоторые из излагаемых здесь теорем могут быть доказаны и в отличных от сделанных нами предположениях, в частности, для различно распределённых слагаемых.
Основная задача, которая будет нас здесь интересовать, состоит в изучении асимптотического поведения разности между функцией распределения FH (х) нормированной суммы первых п случайных величин последовательности.
и нормальной функцией распределения Ф (х).
Во всей этой главе мы будем считать, что
М^-0.
Это ограничение, конечно, по существу не уменьшает общности наших рассмотрений. Принцип решения поставленной задачи был указан уже Чебышевым в его основной работе 1887 г. [89], где он даёт для разности FH (х) — Ф (х) разложение вида
^(х)-Ф(«)~^^(х)-Ф(«)~^(1)(1)QiW, QjW
^(х)-Ф(«)~^
^(х)-Ф(«)~^
(1)
(1)
п2п2
где Qj(x)—многочлены, коэффициенты которых зависят только от /-]-2 первых моментов случайных величин ^.
В основе разложения (1) лежит более общая идея, тоже принадлежащая Чебышеву, о разложении произвольной функции р (х) в ряд по полиномам Чебышева-Эрмита. Полиномы эти введены Чебышевым в 1859 г. [88] и могут называться полиномами Чебышева-Эрмита
с присоединением имени Эрмита, нашедшего их значительно позже, лишь ради отличия от многочисленных других важных типов полиномов, которые справедливо носят или должны носить имя Чебышева.
Полиномы Чебышева-Эрмита могут быть определены формулой
=(2)
что даёт
Нх (х) = х,
Я2(х) = х3 —1, }(3)
Н%^х) = х^— Зх,
Разложение произвольной функции, предложенное Чебышевым в 1859 г., имеет вид
d^еdxkd^еdxk0С^°°я^r k = Q0С^°°я^r k = Q
d^
е
dxk
d^
е
dxk
0С^°°я^
r k = Q
0С^°°я^
r k = Q
где
^ = (— 1 /' J Hk (x)p (x) dx.(5)
Так как
к
H^^^h^x?(6)
есть многочлен ^-й степени, то коэффициент ск выражается в виде к
ck = <-V^^(7)
через моменты
а^ = Jр^х? dx\ j — 0, 1, 2, . .., к.(8)
В случае плотности вероятностей р^х^ нормированной случайной величины ; с
1№ = 0, D^l(9)
первые моменты имеют значения
а0=1, ах = 0,а2=1,
и поэтому разложение (4) получает упрощённый вид
(10) Обозначим
ф(х)=ук J e"Tdx- <п>
Тогда для функции распределения F^(x) естественно рассмотреть проинтегрированное разложение (10)
^(х)~Ф(х) + -| ф13-(х-) + Й^М+-(12)
где
J e^d^ (х)J e^d^ (х)Последовательным интегрированием по частям нетрудно проверить равенство
J e^d^ (х)
J e^d^ (х)
"y^"J е -dx = ^—it)e -(13)
Поэтому, разложению (12) формально соответствует разложение характеристической функции
Л(0 = * Hi+ivC-^l-(U)
Отсюда мы можем вывести выражения для коэффициентов сг через семиинварианты. Для этого воспользуемся формальным соотношением (см. § 15)
Г=1
В нашем случае нормированной случайной величины $ х^ :—- 0,х^ :— 1,
(15)(15)что даёт
(15)
(15)
Г = 3
Полагая ^ = — it. получаем из (14) и (15)
^з —х3’С4 " Х4>ч= —хб>с» = х6+1°4^з —х3’С4 " Х4>ч= —хб>с» = х6+1°4(16)(16)
^з —х3’
С4 " Х4>
ч= —хб>
с» = х6+1°4
^з —х3’
С4 " Х4>
ч= —хб>
с» = х6+1°4
(16)
(16)
Легко видеть, что коэффициент су зависит только от г первых семиинвариантов.
После этих общих замечаний вернёмся к случаю функций распределения Fn (х) для нормированных сумм
+ • • • 4* — па
а у п
одинаково распределённых слагаемых ^к с
М^ = 0,D^=4<
Положив
можно представить Сп в виде
Г _ ^ + $2 + -.+е;
Обозначая через лу семиинварианты ^ь легко вычислить (см. § 15), что семиинварианты ^ равны
^ = 0, х2=1, Хг = 5 при г>2,(18)
а семиинварианты ^п равны
х(”) = 0,х<">=1,
•^ == -7^- ПРИ г > 2-<19)
л 2 л 2 аг
Разложение (12) приобретает в нашем случае вид
(20)
г=з
где коэффициенты с^ вычисляются из формального равенства
г
г—2
что даёт
Подставив выражения для с^ в (20), естественно сгруппировать вместе члены одинакового порядка относительно п. Это и приведёт нас к разложению Чебышева
а?2
/7,(х) —Ф(х)~^7^/-^Ц^+^2(^(23)
\ / V2k I 2 и 2 I
\ п2п 2/
Легко видеть, что
QiW = -6-(i-^8).
(24)(24)
(24)
(24)
Общий способ вычисления многочленов Qy заключается в следующем. Правую часть (21) разлагают по степеням ул
(fe+2)-vn/ 1 I V п / ч/ 1 \fe тех
е® 1= 1 + 2^( — w)(y^) •(25)
Легко видеть, что Рк(—w) являются по w многочленами степени 36
с коэффициентами, зависящими от А3, А4, ..., Ак+2;
(26)(26)рг (—w) = Х6-( —ту)3,Р2(—to) = 1l w4_|_22- w6,
(26)
(26)
14 Зак. 5374. Гнеденко и Колмогоров.
Сравнивая разложение
ч-Е-тг^-ч-З^—)Ш(27)
Г —31г
с разложением (20), получим 00р
Fn (х) - Ф (х) - V Ръ (_ ф) (1 ) *,(28)
где Рк^—Ф) вычисляется как Р^—w) с заменой wr на Ф(г).
Из (1) и (28) выводим общую формулу для нахождения многочленов Qa.
^<W ^Р^-^.(29)
У 2т:
Разложение типа (12) после Чебышева специально с вероятностной точки зрения изучалось Брунсом [13] и Шарлье [83]. Разложение Чебышева в форме (28) подробно было изучено Эджвортом [28].
; Qk t^ 11 (vV J; Qk t^ 11 (vV JЦентральная задача этой главы состоит в изучении асимптотического поведения при /z—>оо остаточных членов
; Qk t^ 1
1 (vV J
; Qk t^ 1
1 (vV J
Rk' (х) = Fn (х) - Ф (х) - ^12^ + ...
у 2л: L у П
разложения Чебышева. Наиболее окончательный результат в этом направлении, принадлежащий Крамеру, излагается в § 45. В §§ 42—43 подробно изучается случай ^=1, где результаты удаётся получить при более широких, чем в § 45, допущениях. В § 47 даётся теорема, аналогичная теореме § 45, для плотностей вероятностей. § 46 имеет более элементарный характер: в нём разбирается вопрос об условиях сходимости плотностей распределения рн (х) нормированных сумм Сп к нормальной плотности
ж2
независимо от дальнейших уточнений и оценки остаточных членов. §§ 39 и 41 имеют вспомогательный характер, а § 40 содержит результат, более полное освещение которого даёт § 42.
§ 39. Две вспомогательные теоремы
Для дальнейшего нам будут нужны две теоремы Эссеена [29], позволяющие судить по близости характеристических функций двух функций ограниченной вариации о близости самих этих функций.
Террема 1. Пусть А. Т и е>0 — постоянные. F(х)— неубывающая. функция. G(x)— функция ограниченной вариации. Если
/7(—сю) —G(—со), ^(-Н сю) = G(4~ со);
J| F^ — G(x) | dx < co;
G'(x) существует при всех x и | О'(х)|^Д;
Jiua^>|»=.,
—Т
то каждому числу k > 1 соответствует конечное положительное число с^к\ зависящее только от к, такое, что
|F(x)-G(x)|<^ + ^)A.(1)
Доказательство. Прежде всего заметим, что из равенства 7(0—g (О = JeUlcd \f^ — g (х)] путём интегрирования по частям вытекает, что
t^^^ J еМ® [F (х) — ° ^ dx‘ (2)
Заметим далее, что при Доказательстве теоремы достаточно рассмотреть случай А = Т= 1. Действительно, если это не так, то мы можем рассмотреть функции и
Ясно, что
|G1(X)|<1, J I t -,^=^=8,.
Если предположить, что теорема доказана для случая А = Т = 1, то |F1(x)-G1(x)|<6^- + c(A).
Вспомнив определение ^(х), Gx (х) и ер мы получаем соотношение (1).
14^:
Рассмотрим функциих8!П -т- \—
X /
*4 / и
Опри pl^ 1,
4W = <2(1-|(,)S
1—^+6|/|8 при 0<|/]<1.
Легко проверить, что для них выполняются такие соотношения:
л (О = J eif® Н (х) dx,
J [ х | Н(х) dx = b < оа,
$H(x)dx=L
Построим функцию
у (х) = J //(х—У) [FCy)— G(y)I dy.
Согласно (2), а также теореме 3 bis § 11 имеет место равенство
-^^^^ h(f) = J eUac<o (х)dx.
Так как функция, стоящая слева, абсолютно интегрируема, то
у (х) = ^ J е-м® М”^ h (0 dt.
Вспомнив определение функции ^(х) и то, что /?(/) = О при [^|^>1, находим, что
1
J Н^х—у^ YF^-G^\ dy = l J е-^-^£М А(о^_ (3)
Положим теперь
А= шах ^(х) — G(x)|.
ОО < Ж < ОО
Без ограничения общности можно предположить, что
A = |F(0)-G(0)|
и что F(0)>G(0). В этих условиях, приняв во внимание соотношение |G'(x)|^l, находим, что при 0<^х^Д
Д>^(х) — О(х)>Д-|х|.(4)
Из (3) заключаем, что 1
| J ЩХ—00]^|<^ Jl:^^^
^2iJ I T |ДГ—2k1
В силу (4) очевидно, что
^>|J н(х- у) vow—ршЦ> АО
> J (А —|_у|)//(х—y)dy — J Н (х — _у) [^(у) — GO) Idy —
— J H(x—y)\F(y) — G(y)ldy> A
A0
> | (A— y)H(x — y^dy — A[ [ H(x — yW"V 0—co
oo'A
+ j н (x — y) dy^ = j (2Д —y^ H (x — y) dy — A. A0
Ho
P (2Д—y)H(x—^dy = J (2Д — x—z'yHWdz'^ 0—a?
>-(2A—x) J HWdz— j*|z| H(z)dz, поэтому
A—x
— A + (2A-x) J HWdz<^-Vb-
—X
Так как 0 < x < Д, то мы можем найти такое 6 (0 < 0 < 1), что х = Д«6. При этом предыдущее неравенство принимает такой вид:
А (1 — 9)
А {(2 — 6) f HQzW— 4<^ +6-
-9Д
Каково бы ни было А>1, всегда можно выбрать такие 0(А)>0 и а (А) > 0, что
(1-8 (ft)) а (ft)
(2— 9(A)) f H^dz —1=1.(5)
-9 (ft) а (ft)
Рассмотрим два возможных случая:
Д^а(й),2. Д > а (А).
Во втором случае мы выбираем х таким, чтобы 6 = 0(A), При этом ясно, что
(1-9 (ft)) a (ft)Д (1-9)
1 + 1 = (2-9(А)) . /^(^^/(2 — 9) J H^dz.
— a (ft) 9 (ft)—Д9
В этом случае, таким образом,
J+^<^ + (^ + «(A)).
В первом же случае
Д < а (А) < ^-+ (АА + а (А)).
Положив с (А) = kb + а (А), мы завершим доказательство теоремы.
Нам потребуется другая теорема, подобная только что доказанной, но в которой не будет предполагаться, что функция G(x) непрерывна при всех значениях х.
Теорема 2. Пусть А, Г, s — произвольные положительные постоянные, F (х)—неубывающая, чисто разрывная функция и G (х)— функция с ограниченным изменением. Если
F (— oo) = G(— оо) = О, F(+oo)= G(+oo),
I* 1 F(x) — G (x) ] dx < co
функции F (x) и G(x) могут иметь разрывы только в точках х = х.,(х„ < х7И; v = 0, ±1, ±2, . ..), и существует такое Z>0, что min (х^+1— xj^/,
всюду, за исключением x = xv(v = 0, ±1, ±2, ...), |о'И1<л,
f|titi«|<« = «,
то каждому числу А > 1 соответствуют два конечных числа ^ (А) и £2(А), зависящих только от k и таких, что
как только Т • l^c^^Y
Доказательство. Как и в только что доказанной теореме, мы можем положить А = Т — 1 и
Д = sup ^(х) — G(x)[ = |F(0) — 0(0) |.
В окрестности точки х=0 взаимное поведение функций Г(х) и G(x) может быть сведено к нескольким случаям, которые все изучаются совершенно одинаково. Мы ограничимся случаем, когда х^ ф 0 ни при одном значении v, и расстояние до ближайшей точки xv > О не меньше у. Если положить 6 = min (Д,4*) ’ то, как и в предыдущей теореме, находим, что (при х = о0).
(1-~9) 6
д{(2-9) J Я(»^-1) С^ + б-
— 9о
Снова для произвольного & > 1 мы можем выбрать такое малое 6 (&) и столь большое aQ^, что имеет место соотношение (5). Если Д^>а(&) и-^а^), то о^а(^) и, стало быть, .
^<кЬЛкь< А^+(^ + «(^)-
В случае Д<а(&) это неравенство выполняется очевидным образом. Положив q = kb + а (^) и ^2 № — ^а (&)> мы получаем доказательство теоремы.
Оценка остаточного члена в теореме Ляпунова
Прежде чем перейти к существу вопроса, мы введём некоторые обозначения, которых будем придерживаться всюду в дальнейшем. Мы положим
к—0)
Очевидно, что р5 и Xs будут s-м моментом и соответственно s-м семиинвариантом случайной величины -|- . Поэтому согласно (5) и (23) § 15 справедливы неравенства
0<piCpJ<p= С,(2)
l^sKsy-(3)
Ляпунов при доказательстве своей теоремы получил не только предложение о сходимости функций распределения нормированных сумм к нормальному закону, но и оценку быстроты сходимости.
Для случая, когда предполагается существование третьих моментов, имеет место неравенство
I Fn (*) — Ф (х) | < с р3п ,у п
где с—постоянное (Г? Крамер [38] показал, что с = 3).
Цель настоящего параграфа состоит в доказательстве следующего, более законченного результата, вначале полученного Г. Крамером [40] при некоторых дополнительных предположениях и в приводимом здесь виде — Эссееном [29} и А. Берри [10]. (О распространении этого предложения на случай различно распределённых слагаемых см. Крамер [40].)
Теорема 1. Если величины Вр $2, . .., $п,... имеют конечные третьи моменты, то
\Рп{х)-Ф(х)\<с-^,
где с — постоянная (в работе [10] Берри показал, что с может быть взято равным 1,88).
Заметим, что порядок оценки, которую даёт эта теорема, не может быть улучшен в общем случае, даже если предположить у слагаемых существование моментов всех целых порядков. В этом легко убедиться, рассмотрев пример, когда слагаемые одинаково распределены и принимают только два значения: —1 и 4-1, оба с вероятностью-^. В точке х = 0 функция Еи^х\ как это следует из локальной теоремы Муавра-Лапласа, имеет скачок, асимптотически равный- ™-.
V 2кп Это, очевидно, и доказывает сделанное замечание.
Доказательство только что сформулированной теоремы опирается на теорему 1 § 39 и следующее предложение.
Теорема 2. Если случайные величины £р $2, • •-Лп одинаково распределены, имеют конечные третьи моменты, то при
имеет место неравенство
Доказательство. Действительно из того, что
/ Г—) = 1 — — + z -Д- f e<6tex3 dF (х)
\bJ 2п 6^ J
вытекает, что
А так как согласно (5) § 15 а6 = рз^р2, т0
V J К 25
и, следовательно, при |/| ^ Тп / ^^) отлична от нуля. Таким образом, в рассматриваемой области можно записать
°°7007.°°7007.итоито
°°7007.
°°7007.
и
то
и
то
Г ^3 1/ / \ 1
а =О£/ (^). .
[ dz?1j t
Следовательно,
^6о3У nj
Так как•
|£riog/(^)|<:7M),Р_f27 | # I» ?3\к^-е 2|<е 2 • ^Д3Д--е^^ .
6аЗ у л
Наконец, так как'14 IZНаконец, так как'14 IZ4 то4 то4457^. JV П 5*57^. JV П 5*о,о,
Наконец, так как'
14 IZ
Наконец, так как'
14 IZ
4 то
4 то
4
4
57^. J
V П 5*
57^. J
V П 5*
о,
о,
6 а3 у n
Теперь доказательство теоремы 1 получается в нескольких словах. В самом деле, положим в теореме 1 § 39
F^^F^, О(х) = Ф(х),max |Ф'(х)|=-^, Т=Т,г = ^.— оо < х < +°оу ZK.ирз
Согласно только что доказанному предложению
т
-т-т'6 V п'6 V пРзРз
-т
-т
'6 V п
'6 V п
Рз
Рз
Таким образом, по теореме 1 § 39
|Л„(х)-Ф(х)|
3
£М/2л:
5?з ___ с . Рз
§ 41. Вспомогательная теорема
В § 38 мы получили для характеристической функции суммы
г —
^?4
-п
(1)
независимых одинаково распределённых слагаемых формальное разложение
fn^~e
В настоящем параграфе мы выясним некоторые свойства этого разложения.
Так как
_з_
3 2 < ₽ ,
2 Г3
то
^з +3^ + 2^ <6^3
и, следовательно,
|^-og/^)|< 783.
Теорема 1. Если в сумме (1) слагаемые имеют конечные моменты до s-го порядка включительно ^s^ 3), то при |.f | ^ Т8П= V п = имеют место неравенства
^Г8 f28 — 3
| А (0 - А ^(1 + ^ ^ ^ Ш) | <
<^(|/г+|-Г’м)^^№
sn
где c^s) зависит только от s\
f28—2
А'>"<"А + 2Р^(А)‘)1< с^^^ёИн^+кГ*3-'2^-^,(3)
где о (/г) зависит только от п и lim 3 (/г) = 0.
Доказательство теоремы 1, а).
В силу предположений теоремы мы можем написать
7.: = 2
где 11) ] ^ 1. Но при |/|-^rsn> согласно (5) § 15, И Г Т a hlV 1
вп вп ”^VJ ^8?*
Отсюда в силу определения величин ак и ^., а также неравенств (5) §15 вытекает, что
1
Следовательно,
log/(^-)=log(l + ^)=2 (-iy + ^+2»2_^
(5)(5)(|»2|<а).
(5)
(5)
Рассматривая (4) как формальное разложение U в ряд по степеням ^ легко заметить, что этот ряд мажорируется рядом
/ —\ и
V 1 Р»8*" .
\ вн /
А=2 а ряд
V 1
2а к\\ Вп / ’1 С 2 ’
мажорирует разложение по степеням t для Ui.
Поэтому ряд"
2а к\\ Вп I k—s
мажорирует сумму членов в разложении U , содержащих t в степени ^>s. Отсюда с помощью несложных подсчётов получим, что при |/|<Тв„
к = 2
8—1
Отсюда находим, чтоОтсюда находим, что8-18-1
Отсюда находим, что
Отсюда находим, что
8-1
8-1
ОбозначимОбозначимкк
Обозначим
Обозначим
к
к
Разложим ev в ряд по степеням z, считая z действительным переменным, |г(<С1, а / и п фиксированными. Тогда получим (ср. (25) § 38)'
—18-3к
е¥= е = (fn - 1 + 2(т^)
где R (г) = О (^~ 3) при г, стремящемся к нулю.
Ряд для V мажорируется рядом
Р3|,|3 1*1 , у (* + 2)*+2> 4^+21 *1*1
F1 1 v^-^L~^r^z| l/nl -t
^ (р;|'|)й+2
7c =8—1
Заметим, что при 1 < к ^ s — 2
(* + 2)*+2 (А + 2)*-1 .У"1
ии(А+ 2)!(6 — 1)!(6 —1)!
и
и
fc+2
Рб+2 ^ Pgb •
Поэтому рядПоэтому ряд331к$9® 1^1] V п /1к$9® 1^1] V п /(6)(6)
Поэтому ряд
Поэтому ряд
3
3
1к
$9® 1^1] V п /
1к
$9® 1^1] V п /
(6)
(6)
тем более мажорирует ряд для V. Отсюда ясно, что ряд для V3
мажорируется рядоммажорируется рядом37371Ч кж^ и* м . у« I1Ч кж^ и* м . у« I(7)(7)
мажорируется рядом
мажорируется рядом
37
37
1Ч к
ж^ и* м . у« I
1Ч к
ж^ и* м . у« I
(7)
(7)
Оценим теперь остаточный член R (г). Прежде всего имеем
z,7 — V —1-8 уз-2е1И И 8 J <1.
66!4V 41^(»-2)!Г
Тс = О
Далее
S—38—3
8—3|CO|"«кУ^(₽7Р1)«|^|'' 2 i8—3|CO|"«кУ^(₽7Р1)«|^|'' 2 iгде ш (г) содержит степени z, только начиная с s — 2-й. Используя (6) и (7), находим, что
8—3|CO
|"«кУ^(₽7Р1)«|^|'' 2 i
8—3|CO
|"«кУ^(₽7Р1)«|^|'' 2 i
?sps3 I |
j = lk = s— 2-3
Так как j^^l, то при |/|СГ8„
/ s^* \tz\y-2-j | \ Vn ) С '/ s^* \tz\y-2-j | \ Vn ) С 'Таким образом,Таким образом,11з * I о» О) I <-^5 е8з * I о» О) I <-^5 е8/ sVs I ।\ V«/ sVs I ।\ V«Но для любой геометрической прогрессии со знаменателем а > ОНо для любой геометрической прогрессии со знаменателем а > О
/ s^* \tz\y-2-j | \ Vn ) С '
/ s^* \tz\y-2-j | \ Vn ) С '
Таким образом,
Таким образом,
1
1
з * I о» О) I <-^5 е8
з * I о» О) I <-^5 е8
/ sVs I ।
\ V«
/ sVs I ।
\ V«
Но для любой геометрической прогрессии со знаменателем а > О
Но для любой геометрической прогрессии со знаменателем а > О
Оценим ещё ТГу 26?irL Согласно (7) и (8)
Но, как это следует из (6) и (8),
з
Из полученных неравенств выводим, что
Следовательно,
I^K-tS [|/|8 + к|3(8-2) + П18<8-8)еЧ.
А так как
18—®£2
|[А(^)Р5-[1 + £^('0 (уУ']^7 |-|/?А)|Нг,
то при г=1 мы получаем утверждение теоремы.
Теорема 1, б) доказывается аналогично, только при доказательстве следует воспользоваться в окрестности точки / = О не разложением (5), а разложением
Мы не будем приводить этих рассуждений.
§ 42. Уточнение теоремы Ляпуновадля нерешетчатых распределений
Основная цель настоящего параграфа состоит в доказательстве теоремы 2; для этого нам потребуется следующее вспомогательное предложение (Эссеен [29]).
Теорема 1. Если функция F^ не является решетчатой, то. каково бы ни было число со > 0? существует такая функция Х^п\ что lim a(/z)^od и 11-^00
X W
I- f' Y(i>
tn’x
Доказательство. Если функция F (x) такова, что :!:) lim |/(0| < 1, p 1->OO
то доказываемая теорема становится очевидной.
В самом деле, из теоремы 5 § 14 и условия (С) выводим, что любому s>0 соответствует такое c(s)>0, что при 1/1 |/(01<^е)<1.
*) Это требование Г. Крамер называет условием (С); результаты § 45 будут получены нами в предположении, что условие (б?) выполнено.
Поэтому, в частности, найдётся такое с > 0, что при 1t [ ^ о
Положив \^п^ = п^ находим, что
J
p-СПп / 1 \
—~—dt= е~сп log— = о (—т= ).
7ь <»\/л/
Пусть теперь
Нт |/(0| = 1.
[ ^ I ->оо
Так как, по предположению, рассматриваемое нами распределение не является решетчатым, то ни при одном to^O не может быть равенства |/(/0)| = 1 (см. теорему 5 § 14). Поэтому можно определить при /><о функцию а (0 посредством равенства
—тах
Очевидно, что функция а^ непрерывна, не убывает и в силу условия lim ^(^l^l удовлетворяет соотношению
| # 1 —>ОО
Иш а (7) = оо.£->оо
Из определения функции а (/) ясно, что.
xwх(п)Аxwх(п)А1^Ldt1^LdtЕсли а^п^^^ц, т0 мы полагаем,X (л) = я. При этом получаем, чтоЕсли а^п^^^ц, т0 мы полагаем,X (л) = я. При этом получаем, что
xwх(п)А
xwх(п)А
1
^Ldt
1
^Ldt
Если а^п^^^ц, т0 мы полагаем,X (л) = я. При этом получаем, что
Если а^п^^^ц, т0 мы полагаем,X (л) = я. При этом получаем, что
Если же а(п) > Уп, то
Х(п)
1\"< Х(л)a Q^Wk) °g »• "1\"< Х(л)a Q^Wk) °g »• "7< I Vl-L—\ndt=(l —
1\"< Х(л)
a Q^Wk) °g »• "
1\"< Х(л)
a Q^Wk) °g »• "
Ja^ (Я))/\
Пусть / (а) является функцией, обратной для а (7). Ясно, что lim t(a) = со.
__а->со
Положим теперь X (я) = ЦУ"п). Тогда а (X (я)) = а (/(У я)) =]/я.
Далее, так как а(я)>Уя, то /()/н)<я и, следовательно,
к(п)<я. Таким образом, и в этом случае
Теорема доказана полностью.
Формулируемая ниже теорема 2 была доказана Г. Крамером [40] в предположении, что выполнено условие (С), и К, Эссееном [29] в излагаемом нами виде.
Теорема 2. Если независимые случайные величины 5П Е2> • • - Лп одинаково распределены, имеют конечный третий момент и не являются решетчатыми, то равномерно по х
ж2У2пж2У2п4^+44=)V п \уп/4^+44=)V п \уп/(2)(2)
ж2
У2п
ж2
У2п
4^+44=)
V п \уп/
4^+44=)
V п \уп/
(2)
(2)
Здесь Q.^^^i-x^^^l-x0-) (ср. (1) § 38 и (24) § 38).
Доказательство. Положив в теореме 1,6) § 41 5 = 3, находим, что
t9t9t9
/ге(0-е"-^Г^|<^(|/|3 + |/|б)е".(3)
V п I у п
Характеристическая функция для функции
^(_ф) = _^ф(3)(Х) =^(1-^)6 *6а3у 2 л
равна (см. §38)
^(гу)Зе-4 = Р1 Vhe^.
Используем теперь теорему 1 § 39, положив в ней
F^-F^, G (х) = Ф (х) Ц-4= f\(—Ф),у п
А = max 1 G' (х) | < + оо, Т = X (п) Vn
^(п) определяем, как в теореме 1, Причём считаем ш = -—^.
Мы не ограничим общности, если предположим, что Т^ Tw (В самом деле, указанное неравенство выполняется для всех достаточно больших п.)
15 Зак. 5374. Гнеденко и Колмогоров.
Оценим величину Т~ТЗп ^п т
,= |,|Л!И_2£»|й= J + f + f .
Согласно (3)
т
f| (Z2_j_l^5)e”^1\
_J I tГ ‘ Uk/J
1 3n
Далее
TTTf fnW-gmdt< Гьшг^ f^)-^.TTTf fnW-gmdt< Гьшг^ f^)-^.T3nйПT3nйП
TTT
f fnW-gmdt< Гьшг^ f^)-^.
TTT
f fnW-gmdt< Гьшг^ f^)-^.
T3nйП
T3nйП
и’ в силу предыдущей теоремы
Аналогично оценивается интеграл . Таким образом, е = о
Применение теоремы 1 § 39 приводит нас к неравенству
которое и доказывает теорему.
§ 43. Уклонения от предельного законав случае решетчатого распределения
Мы предпошлём строгому изложению последующих результатов краткие наглядные рассуждения, которые должны пояснить причины, в силу которых теорема 2 § 42 нс имеет места для решетчатых распределений. Пусть случайные величины ^к могут принимать только два значения -j- 1 и — 1 каждое с вероятностью -^ . Если п —чётное число, то функция Рзг (х) разрывна со скачками в точках
х„ = (v = О, ±2, ± 4, Vnх„ = (v = О, ±2, ± 4, Vn±п). Согласно локальной теореме±п). Согласно локальной теоремеv функция FH(x) имеет (это утверждение явv функция FH(x) имеет (это утверждение явМуавра-Лапласа в каждой точке разрыва х
х„ = (v = О, ±2, ± 4, Vn
х„ = (v = О, ±2, ± 4, Vn
±п). Согласно локальной теореме
±п). Согласно локальной теореме
v функция FH(x) имеет (это утверждение яв
v функция FH(x) имеет (это утверждение яв
2 скачок, асимптотически равный -^=^е ^
ляется частным случаем теоремы, доказываемой в § 49).
Рассмотрим подробнее взаимное поведение функций Fn (х) и Ф(х) в окрестности какой-нибудь точки разрыва, скажем точки х = 0. На участке (, -7=-^ функция Ф (х) ведёт себя с точ-
\ у п У nJностью до бесконечно малых, как функциях . 1‘ 2 '
Введём в рассмотрение функцию
S (х) = И — х+-2-.
Легко видеть, что с точностью до бесконечно малых порядка более высокого, чем —— , в интервале— , —7= имеет место
V п\ Vn Vn)
равенство
F« (х) — Ф (х)F« (х) — Ф (х)•2/хУп \
F« (х) — Ф (х)
F« (х) — Ф (х)
— У2лп \ 2 / '
Если мы хотим написать аналогичные асимптотические равенства при иных значениях X, то мы должны учесть изменение угловых коэффициентов касательных к кривой у = Ф (х). Таким образом, мы приходим к рассмотрению разности.
F„(x) — Ф(х)-^Чх),гдеу \2)
Рассмотрим теперь общий случай решетчатого распределения. Пусть возможные значения случайной величины ^к будут хч — а-\-^к • (у = 0, ±1, ±2, ...) и шаг распределения к будет максимален. Все решетчатые распределения с максимальным шагом к мы объединим в один, класс и назовём его классом L1v Если
ТО В силу принятого нами условия М ^с = О
Р = 2 ^Р ^-ЧГ •
—ОО.
Возможные значения суммы будут иметь вид
(2)
5 Vn.
Положим
hnpап*
суп Рассмотрим функцию
sj^^A^^i^Wn).(3)
Цель настоящего параграфа состоит в доказательстве следующей теоремы (Эссеен 129]).
Теорема 1. Если 5Р $2, ..., ^п— взаимно независимые, одинаково распределённые случайные величины, имеющие конечный: третий момент и принадлежащие классу LK, то равномерно по х
- Ф (х) =(5^+ %-) + о (-Ц .(4)
•у 2л х у п у п )\ у п /
Доказательство. Прежде всего вычислим характеристиче- а?2
скую функцию ДЛЯ функции Вп (х) = е 2(х\
у ^п
d»(0 = J aitxdDn (х) = — it J eitxDn (x) dx.
С этой целью заметим, что функция S^ периодическая с периодом единица и запишем функцию S^^~ в виде ряда Фурье. Легко подсчитать обычными приёмами, что
S (х) = ^ -^ sin 2it vx
и что, следовательно,
s р±^? а ^ = 2 A sin (то Уп (х + а^,
4 = 1
где
2лh *
Таким образом,
dny) =^=^7 е ' sin(Toy»v(x4-a„))rfx =
У=1
~4-г’ла Уп (оа-уап) Ldx,~4-г’ла Уп (оа-уап) Ldx,
~4-г’ла Уп (оа-уап) Ldx,
~4-г’ла Уп (оа-уап) Ldx,
где суммирование распространяется на все целочисленные значения vz£O. Очевидный подсчёт приводит к равенству
*Vn ап —~(# + т^ Vny
dn^ =1— У £е J
to Vn *A м
Применим теперь теорему 2 § 39, положив в ней
F(x) = F„(x), 0(х) = Ф(х)4-^=Л) + -0ДА у п
1=—^, Д = тах|0/(х)|<4-сю (v = 0, ±1, ±2, ...), а V п х/п^
Т==п> тзп = -^ •
Тогда, каково бы ни было c^h\ при достаточно больших п
Т1=Ц^>С^.
/го (0S^)^/го (0S^)^Оценим теперь интеграл т — т
/го (0S^)^
/го (0S^)^
С этой целью разобьём его на три части:
—Vv™т
е — f g (£ . I I fn (О £ №
, е2—,S3-— аи
—Ттт
- а к п—» Уп2 •2
Мы будем считать, что Тш <Z^^V п (в ином случае оценки только упрощаются). Периодом функции ]/(/)[ является величина т, следовательно, согласно замечанию 2 к теореме 5 § 14 при —<;
.СТ ум
^1Л^“J можно найти такое число q>0 (^не зависящее от п в силу Tlx
условия —-у™ =), что |/(Л1 < е-С1. Тогда в интервале
» у л 24рза/
^3n ^ I d ^ "2*то Vnf(—U2\V<e"Cxn.^ \ a Vn ) I
Очевидно также, что в этом интервале при некотором с^ > О
Таким образом,
®2
А (0 — ^(0
АтсгГп
1^4-4 I ——dt.
В силу определения §•(/) и теоремы 1, б) § 41
Но при | /1 ^ Т3п и достаточно больших п
поэтому окончательно
Перейдём теперь к оценке г3:
и произведём замену переменных, положив t = г-у^. При этом напомним, что
и что, следовательно,
/(г + ^«^ y-iWyn (г) = e~«W V» fn(^
Таким4 =Таким4 =образомобразом— гк-а aVn пе 1Ъ f (*)г— гк-а aVn пе 1Ъ f (*)гWar2 г+^V' 1 ЬгазУп ~~№+”У"— / J —6еWar2 г+^V' 1 ЬгазУп ~~№+”У"— / J —6еz-у кгz-у кгdz.dz.
Таким
4 =
Таким
4 =
образом
образом
— гк-а aVn п
е 1Ъ f (*)г
— гк-а aVn п
е 1Ъ f (*)г
War2 г+^V' 1 ЬгазУп ~~№+”У
"— / J —6е
War2 г+^V' 1 ЬгазУп ~~№+”У
"— / J —6е
z-у кг
z-у кг
dz.
dz.
Но равномерно по ^^ | г | <; yj
П3* /, 7,1.—V5-" кх-т^тсуу A^.Vn с 2П3* /, 7,1.—V5-" кх-т^тсуу A^.Vn с 2Теперь, с одной стороны, в силу теоремы 2 § 40Теперь, с одной стороны, в силу теоремы 2 § 40
П3* /, 7,
1.—V5-" кх-т^тсу
у A^.Vn с 2
П3* /, 7,
1.—V5-" кх-т^тсу
у A^.Vn с 2
Теперь, с одной стороны, в силу теоремы 2 § 40
Теперь, с одной стороны, в силу теоремы 2 § 40
Таким образом,
и, значит, поскольку r — O(Vn^
.к=1
Точно так же
s _op°g»^1\ п л
Таким образом, окончательно
Применение теоремы. 78 приводит нас к неравенству
| F„ (х) - G (х) | < ^-о (-Ь) 4-Сt (а) А = 0 Г 1 у 2л \ у п /п \ у п /
которое, очевидно, доказывает нашу теорему.
§ 44. Экстремальный характер случая Бернулли
Результаты последних двух параграфов дают нам возможность выяснить некоторые экстремальные свойства решетчатых распределений и особую роль распределения Бернулли (Эссеен [29]).
Теорема 1. Если случайные величины ^ U, . .♦, Еп, .. • взаимно независимы, одинаково распределены и имеют конечные третьи моменты, то
= <п (Л),= <п (Л),Нт max V"п | F (х) — ф (х) —^) п->оо — ОО < х <4- ОО I х 7 х 7 у 2л: У П
= <п (Л),
= <п (Л),
где о) (А) равно 0, если F (х)— нерешетчатое распределение, и равно ^~^ > если ^ (^ — решетчатое распределение с максимальным шагом h.
Доказательство. Действительно, для нерешетчатых распределений, как это следует из теоремы 2 § 42,.
/?п(х)=1/«|Лп(х)-Ф(х)-^.^| = 0(1)^ .
IУ 2л у n I
Из теоремы же § 43 мы находим, что для решетчатых распределений в условиях настоящей теоремы
Rv=+ <Иа (1)
? у 2л \&/
(1')(1')Из определения функции S (х) и её периодичности с периодом — суп вытекает, что
(1')
(1')
maX R" = 9 V^"6 3 +°(1)« °<°n< -VT
Э < ж < ОО 2? У 2ла у h
Так как 6п->0 при п->оо, то
lim max Rn = —- n->00 —оо<я?<оо2s У 2л
и теорема доказана.
Таким образом, сходимость функций распределения нормированных сумм к предельному закону для решетчатых распределений является в некотором смысле наихудшей. Следующая теорема несколько дополняет теорему 1 в случае симметричных распределений.
limП-> СОlimП-> СОТеорема 2. Если случайные величины $15 £2, ..., ^ удовлетворяют условиям предыдущей теоремы, симметрично распределены и их функции распределения непрерывны в точке х = 0, то
lim
П-> СО
lim
П-> СО
шахУ»!/7»^) — ФСхХС^.
оо < ж <ооу 2л
Последнее неравенство превращается в равенство тогда и только тогда, когда
0прих<2 ’£ 2приИh2 ’111приX ^h0прих<2 ’£ 2приИh2 ’111приX ^h(схема Бернулли).(схема Бернулли).
0
при
х<
2 ’
£ 2
при
И
h
2 ’
1
1
1
при
X ^
h
0
при
х<
2 ’
£ 2
при
И
h
2 ’
1
1
1
при
X ^
h
(схема Бернулли).
(схема Бернулли).
Доказательство. Как показывает предыдущая теорема, мы можем ограничиться рассмотрением решетчатых распределений. Таким образом, нам нужно найти максимальное значение величины
h
2а /^ *
Могут представиться два случая: 1) величина ^ принимает значения вида vA(v = ±l, zt2, ...) с вероятностями р^ 2) ^к принимает значения видаку — ~^(vt=O, ±1,±2, ...) с вероятностямирj^рч= У В первом случае
а3 = 2 2 Wp3 > 2й3 2 Рч = ^
Во втором случае
З2 =З2 =22v ——оо1=—оо22v ——оо1=—ооР.Р.4 *4 *
З2 =
З2 =
22
v ——оо1=—оо
22
v ——оо1=—оо
Р.
Р.
4 *
4 *
В первом случае равенство недостижимо
Во втором случаеВо втором случае
Во втором случае
Во втором случае
причём равенство достижимо тогда и только тогда, когда все р„ = 0 при фО и 1. Таким образом, всегда
h2j У 2^h2j У 2^_1У^У_1У^У
h
2j У 2^
h
2j У 2^
_1
У^У
_1
У^У
и равенство достижимо только для симметричной схемы Бернулли.
Оба условия теоремы 2— симметричность и непрерывность функции F(x) при х = 0— существенны: отказ хотя бы от одного из этих условий приводит к тому, что выражение
litn max V «I С» О)—ф (*) I
П->ОО—ОО <Ж<.-\-ОО
перестаёт быть ограниченным.
Действительно, предположив, что ^к может с положительной вероятностью принять значение 0, мы на примере симметричной величины, принимающей лишь значения —1, 4-1 и О, с вероятностями, соответственно равными 2" 5 —^2 Убеждаемся, что отношение
(2)(2)h1
(2)
(2)
2з У^” 2р У2к
при достаточно малых р становится сколь угодно большим.
Точно так же, если мы откажемся от предположения симметричности закона Г(х), то мы также легко на простом примере убедимся, что отношение (2) для законов класса LK становится неограниченным. Действительно, пусть ^принимает лишь три значения а — А, а^афк с вероятностями, соответственно равными ръ р0 и р^. Подберём а, pv р.^ и к так, чтобы
/И^ = а + h ( — рх 4- кр^ = О
М^к = а34“Зла24“ А8 (—Pi"V^p^ =0.
Величины рх и р2 могут при этом ещё достаточно свободно изменяться. Выберем рх и р2 столь малыми, чтобы &2р2 было достаточно мало, тогда отношение
к—1_
2а У^ ~ 2 V З^О^^ГЯ^У^Р^^ становится сколь угодно большим.
§ 4S. Уточнения теоремы Ляпуновасо старшими моментами для непрерывного случая
Теперь точно сформулируем и докажем теорему о разложении функции Fn(x) в ряд по многочленам, по поводу которого была речь в § 38. На слагаемые ^к при этом придётся наложить более жёсткие условия, чем те, которые были наложены в теореме 2 § 42.
Теорема. Если независимые случайные величины 5Р Е2, ..., £п одинаково распределены, имеют конечные абсолютные моменты 8g порядка s (s^>3) и для них выполнено условие (С)
'1/(0 I С 1,
[ £ | -> ОО .то равномерно по х
Ж2
еI Qi (х) । Q2 (X 1। Os-2 WX i п I 1 \/1 \
—V^t ~++
\ п3п 2 I \п 3 I
Доказательство. Доказательство этого предложения основано на применении теорем 1 § 39 и 1, б) § 42. Полагаем в теореме 1 § 39
F(x) = Fn(A
ж2
а (х) = ф (х) +[„ОзрУЛ =
\ я2я 2/
8 — 2
-ад+2^1.
л'
А = шах | Q' (х) | < -[- оо, Т=п8.
— оо < ж < оо
Характеристическая функция для функции G(x), как это легко вывести 143 определения Р( — Ф) и формулы (13) § 38, равна
^2S—2
Не ограничивая общности, мы можем считать, что Т> Taw где под Т8П
понимается величина, введённая в формулировке теоремы 1 § 41. Оценим интеграл
т
я J | fn (О— g (О I
где согласно (2)
8^ = е8^ = е
8^ = е
8^ = е
В силу теоремы 1, б) § 41 легко находим Т31ъ f Vn^-g^
— T sn
Далее, из условия (С) в силу теоремы 5 § 14 следует, что распределения величин ^ не являются решетчатыми, а потому существует такое с > 0, что при | /| > —~
8зар8 „ '
1/(01 <е-с.
Тогда при Ю > Т8П
Tsn<\t\<TТ8п<’^<ТTg,t<lt\<T
Теперь согласно теореме 1 § 39
Fn(x) —Ф(х) — 2^у^„2Fn(x) —Ф(х) — 2^у^„2. (3). (3)
Fn(x) —Ф(х) — 2^у^
„2
Fn(x) —Ф(х) — 2^у^
„2
. (3)
. (3)
что и требовалось доказать.
В предыдущем параграфе мы видели, что даже в случае s = 3 для решетчатых распределений имеет место более сложное разложение
функции Fn^xY В случае s>3 последняя теорема не может быть распространена и на значительное количество других случаев. В том случае, когда условие (С) не выполнено, т. е.
№ 1/(01 = 1,(4)
1t |->оо
порядок остаточного члена в разложении Fn (х), оказывается, зависит от арифметической природы множества, возможных значений случайный .величин ^к. Заметим при этом, что равенство (4) для нерешетчатых распределений может выполняться только тогда, когда всё изменение функции F (х) сосредоточено на множестве меры нуль (Крамер [40], теорема 7). Так, например, если £к принимает только значения ±1 и ±УЗ каждое с вероятностью т/4, то распределение не является решетчатым. Его характеристическая функция
/ (/) = -L (cos t-\- cos tV 3)
(как функция почти периодическая) удовлетворяет равенству (4). Несложные вычисления*) показывают, что при чётном п функцияFn (х)
'.2
имеет скачок при х = 0, асимптотически равный — . Это, очевидно, означает, что, хотя все моменты функции F(x) конечны, для нашего примера нельзя написать разложения
ж2 ,ч
У2т: I 1 п\И/
\ Я2/
Мы видим, таким образом, что для случая дискретных слагаемых разложение (1) нужно дополнить разрывными слагаемыми.
♦) Вот набросок этих подсчётов. Ясно, что
1/(0Г = i 2 С2Г (е"+б -+ е-«Уз^-к,
А = 0
Величина скачка Fn (х) при х = 0 равна коэффициенту при е°. Слагаемые, содержащие ^°, появляются только при перемножении средних членов разложений ^еи -V е*~г^8 и + е“г#у 3 )2г—8 при у чётном.
Таким образом, искомый скачок равен
1 V рк рт—к pr V (рку- 2г/ ^0™42Г^С2Г С2?ГС2(Г-&) 42rC2r^VCr) £Г *
к=0. & = 0
Применение формулы Стирлинга приводит нас к асимптотическому равенству 12
Р^ ъг~ тт'
238 уточнение теорем о сходимости к Нормальному закону [Гл. 3
§ 46. Предельная теорема для плотностей
В том случае, когда суммируются непрерывные случайные величины (т. е. величины, имеющие плотности распределения вероятностей), естественно выяснить те условия, при выполнении которых не только функции распределения сумм сходятся к предельной, но и плотности распределения вероятностей сумм сходятся к плотности предельного распределения. Что второе требование не является следствием первого, мы увидим из рассмотрения следующего примера.
Пусть функция распределения F (х) определена посредством равенства
гдегдеО12 | х | log2 1 хО12 | х | log2 1 хF W = j P^)dz,
где
где
О
1
2 | х | log2 1 х
О
1
2 | х | log2 1 х
при Ы > j ,при |х] < у.
Так как случайная величина $ с таким распределением ограничена, то функция F (х) принадлежит области нормального притяжения нормального закона. Иначе говоря, -если ^, £2, ..., £п, . .. взаимно независимые случайные величины, имеющие F (х) своей функцией распределения, и
1
е^ОЕ.-МЕ?,-/-^^,6
то при п —> ОО
р / k+k±J2-L+^- < Д -> — f е" ^dz
I = Vnf /2л J
Мы покажем, что плотности распределения сумм
-^(51 + ^+.-.+U ст у п
не сходятся при п ->оо к плотности нормального распределения. Действительно, плотность распределения суммы ^ + $2 Равна
е
Рй (*) = j Р (г) р (х — г) dz.
— 1
Мы будем рассматривать только те значения аргумента х, которые близки к точке х = 0 ^в частности, будем считать, что |х[<у), и для определённости ограничимся рассмотрением только положительных значений х. При этом условии
х
р, (^)^> J Р (г) р (х — г) dz.
— ОС
Так как минимум функции р (х— г) в области 0<|г|^х достигается в точке г = 0, то
'ос
( кf_1
Р^ W 2х 1 log2 х | J 2 | z | log31 z | 22x1 log3 x |
—oc
Точно так же легко убедиться, что плотность распределения р^ (х) суммы Ei + E.j + ^s в окрестности точки х = 0 удовлетворяет неравенству
р^р^I X I log4 | X I ’I X I log4 | X I ’
р^
р^
I X I log4 | X I ’
I X I log4 | X I ’
где с3 > 0 — постоянное.
Вообще плотность распределения ри^ суммы ^ + £2+---Ч“^ в окрестности точки х = 0 удовлетворяет соотношению
|xlog^+4^l i
Таким образом, при любом п функция рп (х) при х = 0 бесконечна. Это означает, что ни при какой нормировке рн^ не может сходиться к плотности нормального распределения.
Приведённый пример заставляет нас искать достаточно общие условия, при выполнении которых плотности распределения сумм сходятся к плотности предельного распределения.
Теорема 1. Пусть случайные величины последовательности
1> ^2» • * * > ^ш • • •
взаимно независимы, одинаково распределены и имеют плотность распределения р (х) *).
Если при некотором т ^ 1 плотность распределения рт (х) суммы ^ —[- $2 + • • • И- ^т •
интегрируема в степени г(1 <г^Т) (как говорят, принадлежит пространству №'у
для некоторого X (0 < X ^ г) при /г —> О
/ |Рт(^ + А)— рт W)\rdx = О( [ Л |к) и
f х^р (х) dx < -|~ оо,
то равномерно относительно х в интервале (— оэ<х<оо) имеет место соотношение'то равномерно относительно х в интервале (— оэ<х<оо) имеет место соотношение'° Упри (а Уп х)° Упри (а Уп х)гдегде1У2к1У2ка?2 Та?2 Т(п ->оо),(п ->оо),
то равномерно относительно х в интервале (— оэ<х<оо) имеет место соотношение'
то равномерно относительно х в интервале (— оэ<х<оо) имеет место соотношение'
° Упри (а Уп х)
° Упри (а Уп х)
где
где
1
У2к
1
У2к
а?2 Т
а?2 Т
(п ->оо),
(п ->оо),
о2 = ^ х^р (х) dx.
Прежде чем переходить к доказательству, сделаем два простых замечания, которые дадут нам некоторое представление о классе тех распределений, для которых выполняются условия теоремы.
Замечание 1. Если при некотором т ^ 1 плотность рт (х) удовлетворяет условию Липшица порядка р-(0 < р.^ 1), то два первых условия теоремы выполнены. Прежде всего из того, что рт (х) удовлетворяет условию Липшица, вытекает ограниченность функции рт^х) и, следовательно, то, что
J PmW dx <СЮ.
Так как, по предположению,
ip (^+А)—р (•«)!< ciAh то
J \Р (х + ^) —p^x^dx С J \р (х Ц~ ^-\" Р Ml 1^ [^dx = 2с | Л |^.
Требуемое доказано.
Замечание 2. Если плотность распределения р (х) есть функция с ограниченным изменением, то первые два условия теоремы выполнены. Для доказательства мы убедимся, что в этом предположении функция р2 (*) будет удовлетворять условию Липшица. В самом деле, применив к интегралу
р» to=У р to р tx—^dz
формулу интегрирования по частям, находим, что
Р» W = J F У) dp (* — гХ где
^to = $p(z)dz.
— ОО
Точно так же
Pa(x-f-A) — J F(z—ft)dp(x — г).
Таким образом, "
IPa^+A) — ра(,х)\< J* IF (г — A) — F (г) || dp (х —г) |.(1)
Так как функция F (х) имеет ограниченную производную (иначе вариация р<х> была бы бесконечна), то F (х) удовлетворяет условию Липшица первого порядка. Неравенство (1) доказывает, что плотность р2(х) также удовлетворяет условию Липшица первого порядка *). Требуемое доказано.
Доказательство теоремы 1.
Пусть
/(0 = j* e^p^dx, тогда
f1 (0 = У е4'® рп (x)-dx.
Известно, что первые два условия нашей теоремы влекут за собой интегрируемость функции |/(01п ПРИ всех п> удовлетворяющих неравенству
(см., например, Титчмарш (94), теорема 84, стр. 153). Поэтому для всех п, удовлетворяющих этому неравенству, мы можем написать формулу обращения в "виде
^рп (х) = У (/) dt.
Положим Вп = а УН. Легко убедиться в том, что
^ВпРп U^tX) == J* e"izxfn ^~щ^ dz*(2)
Так как
то для доказательства теоремы достаточно обнаружить, что равно* мерно относительно х(—оо<х<оо) при л->оо
*) Напомним, что полное изменение функции р (х) равно У 1<^(Х)|.
16 Зак. 5374. Гнеденко и Колмогоров.
G этой целью представим Rn в виде суммы четырёх интегралов:
/3= J e-^fn^^dz, к = / е-4=® f^^^dz,
А ^ I s I ^ s Вц| г [ х* ®В^
где числа Л > О и г > О будут выбраны позднее.
Так как F^ согласно третьему условию теоремы принадлежит области притяжения нормального закона, то, каково бы ни было постоянное Д, равномерно относительно х ( — со< х < со) при л-> сю
Выбором достаточно большого А интеграл /2 по модулю может быть сделан сколь угодно малым.
В силу третьего условия теоремы функция /(/) имеет непрерывные две первые производные, причём
[^«L.^ М,=.=-А
Таким образом, в окрестности точки /=0
Если е>0 достаточно мало, то пр» |f|O остаточный член но модулю может быть сделан меньшим, чем ~^~. Таким образом, ври
„2,2
Отсюда следует, что _ ^^со
/"(4-)\<1г <2 е ndt=2 е ML А<1 sl< еВ^АА
Таким образом, если А достаточно велико, то |ZS| может быть также с дежи» сколь угодно мелям. Там как при 1фй |s/(^[^:l » ври /-*оо /(Z)-*0 (как харамтеряетдаескл» фумииия абстюйоотю непрерывной функции распределения), то можно найти такое с > 0, что при 111 > s |/(^ t < е-с. Пусть ^ > -^-[—1 — постоянное, тогда
Так как интеграл, стоящий в правой части неравенства, сходится, то при п —> со
Теорема доказана.
Если воспользоваться леммой, которая будет доказана в § 50, то можно обобщить найденную теорему следующим образом:
Теорема 2. Пусть случайные величины
$1» ^2> * • • > £»> • • *
взаимно независимы. одинаково распределены и имеют плотность распределения р (х).
Если при некотором т^Х плотность распределения рт (х) суммы
интегрируема в степени г(1 <г^2),
для некоторого Х(О<Х^г) при h-+Q удовлетворяет соотношению*
f XPuAx-Y^—Pw W\*-ax = o(<\h\x\
X
функция F(x) = J p(^dz принадлежит области притя- — 00
женияустойчивого закона^(х), характеристическаяфункциякоторого определяется формулой (I) § 34 (а < 2), то равномерно относительно х в интервале (—оо < х < се) выполняется соотношение.
В^и(5„х4-Л„)—р(х; а, р, 7, с)-»0 (л->со),где р(х; а, р, 7, с) = Ф'(х) и постоянные Ап и Вп таковы, чтор/A+idL^jjn-A. <х)ад (поо).
Уточнение предельной теоремы для плотностей
Мы сделаем теперь несколько бдльшие предположения, чем в предыдущем параграфе, но зато получим разложение плотности рп(х), аналогичное тому, которое было найдено в § 45 для функций распределения..
Теорема. Пусть случайные величины последовательности
5у бу • • •, бе> . . .
взаимно независимы, одинаково распределены и имеют плотность распределения р^).
16»
Если при некотором т ^ 1 плотность распределения суммы
интегрируема в степени г(1 <г^2), 2) для некоторого Х(0<Ч<^г) при А-> О
У\pkx-\-h^—p^ |’•<Zx = O(|лP) и
при k^S (k — целое число)
J I-kI^P (x)dx < со, то равномерно относительно х(— оо < х < оо) впр« (хвп) = о (х) + ^ -т Рв (— ?)+о (" г), »=irta где
PA-^ = 4p.<-^ и
В^ = п ^ х^р (х) dx.
Доказательство. Мы знаем, что ((2) § 46)
^Впрп(хВ^ = J e'^^-g^dz.
Так как (см. (2) § 45)
Р8 UA е 2 = J eUa?Pa (— ср) dx.
то по формуле обращения
2кР8(- о) = J e"<ta!"^Ps(.it) dt
и, следовательно,
2i:[^+ 2 -V?8 (-?)]= J e-««g^dt, s=i л 2
где для краткости обозначено ,. fc—2
g (0 =J1 + 2 "Т Р» (ЙУ|1.
6*1^2.
§ 47J Уточнение предельной теоремы для плотностей 245
Таким образом,
Я» - 2^ ГВ^ (хВп) - {+ У-L Р» (—?)
L(S = l„2
Пусть T,ifc = -J^_ 86Р/Пусть T,ifc = -J^_ 86Р/= / e-^(^-g(z^dz.
Пусть T,ifc = -J^_ 86Р/
Пусть T,ifc = -J^_ 86Р/
Представим Rtt в виде суммы следующих
трёх интегралов:
/а=e'^g^dz, J3 =е-^г/п^Л-У^^
eVX. 77 /
В силу теоремы 1 b § 41
1ЛК-ЧЦ- J H^ + VM] e~^dt—o П 2 ~~Tnk
Так как при | г' > Тпк
где с > О, то )
С । у \ I ^/^~2\
I 41 <dz = o\n 2
Наконец, очевидно, что
Полученные оценки доказывают теорему.
Частный случай доказанной теоремы в предположении, что плотность р(х) имеет ограниченное изменение, была доказана Г. Крамером [1].
ГЛАВА 9
ЛОКАЛЬНЫЕ ПРЕДЕЛЬНЫЕ ТЕОРЕМЫДЛЯ СЛУЧАЯ РЕШЕТЧАТЫХ РАСПРЕДЕЛЕНИЙ
Постановка задачи
Если каждое слагаемое ;т может принимать лишь значения вида ys = sh-\- а, то сумма
-п=^ + е2+ • • •
принимает лишь значения вида zll8 = ^ + па.
т. е. функция распределения Fu^ суммы ^ постоянна на каждом полуинтервале
Такую функцию распределения нельзя аппроксимировать непрерывной (и тем более аналитической) функцией с точностью, превышающей половину её максимального скачка:
®п (5) = Fu ^гП8 -|- 0) Fn^zn^.
Однако реальный интерес имеет, конечно, только изучение значений функции Fu^ в самих точках z,ns. т. е. сумм
F„ (гпв) = Fn <zn8_ t + 0) = 2 ^„ (г),
Г <8 где
®п ^=Р ^n = 2nrY
Не меньший интерес имеет изучение самих вероятностей ®n^s\ с которыми суммы Сп принимают различные возможные значения гП8. Более того, наиболее естественным представляется считать исследование асимптотического поведения вероятностей ®п (s) первичной задачей. Так поступают, например, в элементарных учебниках теории вероятностей, доказывая сначала локальную теорему Лапласа и выводя из неё в виде следствия интегральную теорему Лапласа. Подобным образом из доказанной далее локальной теоремы 2 § 51 можно
вывести интегральную теорему § 43. Вообще говоря, при таком способе доказательства интегральных теорем на основании локальных может получаться некоторая потеря точности оценок остаточных членов по сравнению с прямыми методами доказательства. Однако для первой ориентировки в вопросе подход со стороны локальных теорем представляется нам предпочтительным. Вся настоящая глава будет посвящена асимптотическим оценкам вероятностей ®n(s) для случая одинаково распределённых независимых решетчатых слагаемых £т.
В § 14 мы доказали, что каждое решетчатое распределение имеет вполне определённый максимальный шаг Ло. Из произвольного шага Л, соответствующего данному распределению, максимальный шаг h0 получается следующим образом. Образуются все возможные разности
s' — s"
номеров s' и s", для которых (при шаге Л) вероятности
8Х (s') = р £т = s'h + а) и §, (s") = Р$т = s"h + а)
положительны, находится общий наибольший делитель этих разностей а) и полагается
h0 = w/z.
В соответствии с этим для того, чтобы сам шаг h был максимальным, необходимр и достаточно условие
((о). Общий наибольший делитель разностей s' — s", для которых обе вероятности ^x{s') и §х {s") положительны, равен единице.
Естественно, что достаточно рассматривать для каждого решетчатого распределения его максимальный шаг, т. е. можно ограничиться рассмотрением случая, когда условие (<о) выполнено.
С другой стороны, при любом заданном шаге h преобразование
h 1h
позволяет свести общий случай к случаю, в котором шаг равен единице, а константа а равна нулю. Соединяя оба последних замечания, мы видим, что по существу достаточно рассматривать случай слагаемых 5W) принимающих лишь целые значения s с вероятностями
§1 G0=p(im=s),
подчинёнными условию (о)).
Локальная теоремадля нормального предельного распределения
В соответствии с § 48 мы предположим, что случайные величины ;п принимают только целочисленные значения. Сумма
также может принимать только целочисленные значения. Мы положим РКП=^}= §nW- Ясно, что при любом п
к— —оо
Допустим ещё, что М ^ = я, D ^с 3 и введём обозначение
„ к — Ан к — ап
G У 11
Цель настоящего параграфа состоит в доказательстве следующего предложения:
Теорема. Пусть независимые, одинаково распределённые случайные величины £х, $2,..., Sn,.,. принимают только целочисленные значения и имеют конечное математическое ожидание а и дисперсию с^фО. Для того чтобы в интервале —оо<^<оо равномерно относительно к имело место соотношение
В^п^—^е2 ^0
необходимо и достаточно, чтобы общий наибольший делитель разностей различных значений 4W принимаемых с положительной вероятностью, был равен единице (условие (<о) § 48).
Частный случай этой теоремы для величин $п, принимающих только два значения 0 и 1 с вероятностями, соответственно равными рфО и ^ = 1—рф^ составляет содержание классической локальной теоремы Муавра-Лапласа.
Доказательство. Характеристическая функция суммы fn равна
/” (0 = Ме<к» = 2 е“к ^П <Ж
А =ОО
Следовательно, ^п (^) можно вычислять по формуле для коэффициентов ряда Фурье:
2к ^n W = J /п (/) е™ик dt.
Так как по (1)
к = znkBn *~j— Ан = zBn ^|" Ап
(в дальнейшем мы будем писать г вместо z^ опуская индексы), то е-ив^-иА^п^м— Г е-«Вп f^^dt.
где положено
/40 = ^/(0-
Сделав, наконец, замену х = 1Вп, находим, что
TtB^
jdx'jdx'^Вп®^ = ^ е~^
jdx'
jdx'
— пВ^
Кроме того, мы знаем, что
11У^Г " 2л11У^Г " 2л^—^— у dx.^—^— у dx.
11
У^Г " 2л
11
У^Г " 2л
^—^— у dx.
^—^— у dx.
Наша задача состоит в доказательстве того, что при п -> оо разность
Кп = ЦвЛп^- 21
в интервале (— со < к < оо) равномерно относительно к стремится к нулю. С этой целью представим Rn в виде суммы четырёх интегралов
^п^Л + 4 + 4+Л,
где
— А— А
— А
— А
| о? | > А
здесь А и s — положительные числа, которые будут выбраны позднее. Так как
ооа;2оо.г2А2
I к I С 2 | е 2 dx <, ^ | хе 2 dx = -^~ е 2,
4а
то, выбрав достаточно большое А, мы можем сделать интеграл /4 сколь угодно малым.
Согласно следствию 2 теоремы 5 § 14 и предположению, что максимальный шаг распределения равен единице, при любом заданном е>0 можно найти такое f >0, что при гВп^ |х| ^тгВп
Таким образом,
| /31 ^ е~псJ dx < 2~£?пе"ис = 2тго Vп е~пс,
и следовательно, при п->оо и постоянном е>0 интеграл /3 равномерно относительно г(— оо < г < оо) стремится к нулю.
Так как функция F (х), как имеющая конечный второй момент, принадлежит области нормального притяжения нормального закона, то
и, следовательно, при п-> оо равномерно относительно г при постоянном А
Для оценки интеграла /2 заметим, что, поскольку F (х) имеет конечный второй момент для функции /* (/) в достаточно малой окрестности точки / = 0, мы можем написать разложение
log FW-t Ц Iog/*«)],_0 + 5 [Й i=g/-(')],_,+ " ОТ =
Таким образом, в окрестности точки / = 0
Отсюда следует, что при достаточно малом s>0 в области |/|^е имеет место неравенство
?233
|/Ч0.
Теперь
Мы видим, что, выбрав s достаточно малым, а А достаточно большим, можно сделать сколь угодно малыми Ц и /4 (их оценки
не содержат л). Интегралы же 1Х и /3 стремятся к нулю при п-+ оо, каковы бы ни были Л и е. Отсюда вытекает, что вся сумма Л + Л4" + 4 +Л становится сколь угодно малой при достаточно большом А, что и доказывает достаточность условий нашей теоремы.
Необходимость условий теоремы очевидна из того, что если общий наибольший делитель <о разностей возможных значений случайной величины ^п отличен от единицы, то возможные значения суммы Сп(«=1, 2, 3, ...) будут содержать систематические пропуски: разность между ближайшими возможными значениями суммы С не может быть меньше чем а).
Локальная предельная теоремадля устойчивых ненормальных предельных распределений
Допустим, что функция распределения Ft(х) одинаково распределённых независимых слагаемых ^т> принимающих только целые значения, принадлежит области притяжения устойчивого закона О(у). Пусть при этом Ап и Вп — те константы, при которых
Fn (Bnv + /Ц = Р
Естественно поставить вопрос об условиях применимости соответствующей локальной предельной формулы
где
g (у) = о' (.у)
— плотность, соответствующая функции распределения G(y).
Теорема § 49 даёт ответ на этот вопрос в случае, когда
= 0 , В» =
е ^е ^К той же теореме, естественно, сводится решение вопроса для случая произвольного нормального закона с константами ^/t = (M*w ^))
е ^
е ^
Случай «ненормального» притяжения к нормальному закону (см; § 35) остаётся изученным не до конца (Б. В. Гнеденко [22]). Полное решение вопроса для случая ненормального закона Q (у) даётся следующей теоремой (Б. В. Гнеденко [92]):
Теорема. Пусть независимые одинаково распределённые слагаемые ^т принимают только целые значения, g(y) есть плотность вероятности некоторого ненормального устойчивого распределения, а Аи и Вп— некоторые константы. Тогда для того, чтобы равномерно относительно к имело место соотношение необходимо и достаточно выполнение совокупности следующих двух условий*.
FH<Bny-VA^^>G^,
условие (<о) § 48.
Для примера приведём два частных случая этой теоремы для определённых распределений и при специальном выборе нормирующих множителей Ви.
(Локальная теорема для закона Коши.) При некотором постоянном а > О соотношение
, 1 И -, —* О(а - со)
выполняется равномерно относительно k( — oo< к <оо) тогда и только тогда, когда
Нт —xF(x) = lim х (1— F (л)) = а *), Ж->ООЖ->оо
выполнено условие (<о).
При некотором постоянном а > О соотношение
(А) — g (^ё) -* 0(я -► оо),
где
I 0при х /О,
^) = | 1-4
It^6" х " при х>0, выполняется равномерно относительно к ( — оо < к < оо) тогда и только тогда, когда
lim /|T|F(x) = lim /х(1 — F (х))=)М х->—оож->оо
выполнено условие (ю).
Доказательство сформулированной теоремы идёт в основных чертах тем же путём, каким была доказана теорема § 49. Прежде всего, положив
находим равенство *) иВп
— тсВп
Далее, по формуле обращения
где log-y(Z) определяется по формуле (1) § 34. Для оценки разности
Rn = ^\Bjn^—g^A
мы представляем RH в виде суммы четырёх интегралов
Rn^ Л+4+4+Л,
/4= — р ^ д^
ia?| > А
Как и в предыдущем параграфе доказывается, что интегралы /п /3 и /4 могут быть сделаны сколь угодно малыми при достаточно больших п и Л, сколь бы мало ни было заранее выбрано г (при оценке /4) надо иметь в виду, что в силу (1) § 3.4*
J I г,(/) | dt< со.
Мы сейчас покажем, что, выбирая s достаточно малым, а А достаточно большим, можно сделать сколь угодно малым и интеграл /2. Для этой цели мы воспользуемся следующей леммой:
Лемма. Если функция распределения F (х) принадлежит области притяжения устойчивого закона с характеристическим показателем а (0 < а < 2), то найдётся такое постоянное с^ > 0, что
^ — ^&^ — ^&Ап ВпАп Вп
^ — ^&
^ — ^&
Ап Вп
Ап Вп
в достаточно малой окрестности точки £ = 0 выполняется неравенство )
1/(0(1)
где
£(х) = 1 —£(х) + ^( —х) и
F^ = F (х) * [1 — F (— х + 0)].
Доказательство. В силу предположений о функции F(х) ясно, что F (х) принадлежит области притяжения устойчивого закона G (х) = G (х) ^ [1 — G(— х)], для которого характеристическая функция равна
г? (/) = 5-2с
При этом нормирующие множители Вп для F (х) и F (х) могут быть выбраны равными. Поэтому согласно теореме 2 § 35 при любом и > 0 и х -> сю
~ (х) и» *
Так как
/(/) = Jcos ^х dF^x\ то
1-/(0 = J (1—cos/x)t/7 (x).
При любых t и x имеет место неравенство 1 — cos/x^-О, поэтому
1—/(0^J (1—cos /х) dF (х).
•с . , Зге
Но в области интегрирования
1 ^ 1 —cos/x<^ 2,
следовательно,
-/« >J^ w=? (^) - г (вд) -
it, Зтс
ГЦ < I 1 217]
Пусть теперь |/|^s и s>0 столь мало, что
и при всех t (| t\ ^ е)
Отсюда следует, что при | /1 е
1 -/и > 2С„; (^) и, значит,
til).
Так как~
/ (О = 1/(012, то полученное неравенство доказывает лемму.
Мы можем теперь перейти к оценке интеграла /2. С этой целью выберем е > 0 такое, чтобы неравенство (1) было выполнено в интервале | ^[ ^ s. Тогда при |/|<;еВп имеем
Но при достаточно больших п (см. § 35, соотношения (10) и (11))
Следовательно, во всяком случае при достаточно больших п,
Таким образом, при |/|^£^п и достаточно больших п
Теперь
—^ 1 ма
е ^ dt.
Последний интеграл посредством выбора А может быть сделан сколь угодно малым. Это завершает доказательство теоремы.
§ 51. Уточнения предельных теоремдля случая сходимости к нормальному распределению
Мы переходим теперь к уточнению результатов § 49. При этом мы должны будем наложить более жёсткие условия на слагаемые. Пусть случайные величины £п могут принимать только значения
ха = a 4- sh (s = 0, ± 1, ± 2, .. .),где h— максимальный шаг распределения). Случайная величинап
П к—1
может принимать только значения
где
Р= ^sPe и Р8 = Р ^к^а-^зЦ.
Из того, что
(s)eityns,
где $n(s) = Р {^,z=^/?g}, находим, как и в предыдущем параграфе, что
i та Уп
®« ^Vs J А(^ 4
'—^-таУп
Как и прежде, здесь т = -^ . Мы докажем теперь следующее предложение (Эссеен [29]):
Теорема 1. Если одинаково распределённые решетчатые случайные величины 6Ь $2,.. ., ^п взаимно независимы, имеют конечные абсолютны^ моменты до порядка k^k^Y^ включительно, то
^n(s) = -4^n(s) = -4к—2к—2'#=1 „ п'#=1 „ п/ 1\ п :/ 1\ п :
^n(s) = -4
^n(s) = -4
к—2
к—2
'#=1 „ п
'#=1 „ п
/ 1
\ п :
/ 1
\ п :
Здесь ср (уП8) = —■— е 2 и Р^ (—ср) определены как функции Р^ (—Ф) У 2л
§41 только с заменой Ф на ср.
Доказательство. Имеем
(здесь и всюду дальше мы пишем у вместо уП8).(здесь и всюду дальше мы пишем у вместо уП8).
(здесь и всюду дальше мы пишем у вместо уП8).
(здесь и всюду дальше мы пишем у вместо уП8).
Мы будем считать, что Ткп <—^—, ибо в противном случае
оценки лишь упрощаются. При этом мы можем записать равенство
гдегдеииТ1Ш |£2U= f \№-е"Т1Ш |£2U= f \№-е"e-W dte-W dtt^^^V’^ 1" = 1 "3t^^^V’^ 1" = 1 "3(2)(2)e-V dt.e-V dt.
где
где
и
и
Т1Ш |£2
U= f \№-е"
Т1Ш |£2
U= f \№-е"
e-W dt
e-W dt
t^^^V’^ 1" = 1 "3
t^^^V’^ 1" = 1 "3
(2)
(2)
e-V dt.
e-V dt.
17 Зак. 5374. Гнеденко и Колмогоров.
Воспользовавшись теоремой 1, б § 41, мы находим, что
(3)
Так как при Тпк < [ Ц <; у та Уп, как это было установлено раньше, существует такая постоянная с > 0, что |/п(/) | < е~сп, то нетрудно подсчитать, что
(1)
\ п 2 /
Но
t2 Г /с—21
J1-L 2^4^" e-«uat = o
поэтому ^2к — 2
4= J l-^^ e-^dt+ol-^X (5) N-1 ZZ2\n 3/
Но так как
J eJ et^2t^2k-^k-^e"^ ate"^ at»2 k — 2■ + 2p^-»2 k — 2■ + 2p^-(6)(6)
J e
J e
t^
2
t^
2
k-^
k-^
e"^ at
e"^ at
»2 k — 2
■ + 2p^-
»2 k — 2
■ + 2p^-
(6)
(6)
то равенства (1) — (6) доказывают теорему.
Как частный случай теоремы 1 при к = 3 получается
Теорема 2. Если одинаково распределённые решетчатые случайные величины $р $2, ..., ^п, ... с максимальным шагом к и М^ = 0 взаимно независимы и имеют конечные третьи моменты, то
hсУпhсУп?^«8){1 4?^«8){1 41“3 ,1 I /1Xут^О,3.,—3^e)} + ° U-1“3 ,1 I /1Xут^О,3.,—3^e)} + ° U-
hсУп
hсУп
?^«8){1 4
?^«8){1 4
1“3 ,1 I /1X
ут^О,3.,—3^e)} + ° U-
1“3 ,1 I /1X
ут^О,3.,—3^e)} + ° U-
Из этой локальной теоремы можно получить интегральную теорему § 43. Как и при выводе интегральной теоремы Муавра-Лапласа
из локальной, при этом в бесконечной сумме
Г <8
оценка по теореме 2 применяется непосредственно лишь к членам ^(г) с номерами г, не слишком далёкими от р, а члены с большой по абсолютной величине разностью г — р оцениваются особо.
Из теоремы 1 при k > 3 можно получить соответствующие оценки для Fn^ с остаточным членом порядка
которые мы здесь не приводим (см. Эссеен [29]).
ЛИТЕРАТУРА
Б а в л и Г. М.
Ueber einige Verallgemeinerungen dec Grenzwertsatze der Wahrscheinlich- keitsrechnung. Матем. сб. 1 (43), 1936, 917—930.
О локальной предельной теореме теории вероятностей. Учёные записки Свердловского университета 2, 1937, 7- 24.
Bernoulli J.
Ars Conjectandi. 1713.
Бернштейн С. Н.
О законе больших чисел. Сообщ. Харьк. матем. о-ва, т. 16, 1918, 82—87.
Распространение предельной теоремы теории вероятностей на суммы зависимых величин. Успехи матем. наук, т. X, 1944, 65—114; Math. Ann. 97, 1926, 1—59.
Несколько замечаний по поводу предельной теоремы Ляпунова. ДАН СССР 24, 1939, 3—7.
О работах П. Л. Чебышева по теории вероятностей. Научное наследие П. Л. Чебышева, т. 1, 1945, 43—68.
Теория вероятностей. 4-е изд., ГТТИ, 1946.
О предельной теореме теории вероятностей. Изв. НИИ мат. и мех. Томского университета, т. 3, вып. 1, 1946, 174—190.
Berry А. С.
The accuracy of the Gaussian approximationen to the sum of independent variates. Trans. Amer. Math. Soc. 49, 1941, 122—136.
Бобров A. A.
[И] Об относительной устойчивости сумм в одном частном случае. Матем. сб. 4 (46), 1938, 99—104.
Об относительной устойчивости сумм положительных случайных величин. Учёные записки Московского университета 15, 1939, 191—202.
Bruns.
Wahrscheinlichkeitsrechnung und Kollektivmasslehre. 1906.
Гнеденко Б. В.
Об одном характеристическом свойстве безгранично делимых законов распределения. Бюлл. Моск, ун-та 1, вып. 5, 1937, 10—-16.
О сходимости законов распределения сумм независимых слагаемых. ДАН СССР 18, 1938, 231—234.
К теории предельных теорем для сумм независимых случайных величин. Изв. Акад, наук СССР, серия матем., 1939, 181—232, 643—647.
К теории областей притяжения устойчивых законов. Учёные записки Московского университета 30, 1939, 61—82.
Несколько теорем о степенях функций распределения. Учёные записки Московского университета 45, 1940, 61—72.
Предельные теоремы для максимального члена вариационного ряда. ДАН СССР 32, 1941, 7-9; Ann. of Math. 44, 1943, 423—453.
Предельные законы для сумм независимых случайных величин. Успехи матем. наук, т. X, 1944, 115—165,
О локальной предельной теореме теории вероятностей. Успехи матем. наук,, т. 3, вып. 3, 1948, 187—194.е
О локальной предельной теореме для случая бесконечной дисперсии. Труды матем. ин-та Акад, наук УССР, т. 12, 1949, 22—30.
О некоторых свойствах предельных распределений для нормированных сумм. Украинский матем. журнал, № 1, 1949, 3—8.
Гнеденко Б. В. и Грошев А. В.
О сходимости законов распределения нормированных сумм независимых случайных величин. Матем. сб. 6 (48), 1939, 521—541.
Грошев А. В.
Область притяжения закона Пуассона. Изв. Акад, наук СССР, серия матем. 5, 1941, 165—172.
Doeblin W.
Sur les somtnes d’un grand nombre de variables aleatoires independantes. Bull. Sc. Math. LXIII. № 1, 2, 1939, 23-32, 35—64.
Sur Tensemble de puissances d’une loi de probabilite. Studia Math., т. IX, 1940, 71—96.
Edge worth.
The law of error. Camb. Phik Soc. Proc. 20, 1905, 36—141.
E s s e e n C. G.
Fourier analysis of distribution functions. A mathematical study of the Lap, lace-Gaussian law. Acta Math. 77, 1945, 1—125.
Журавский A. M.
О предельной теореме исчисления вероятностей. Труды Физ.-матем. ин-та им. Стеклова 4, 1933, 9—36.
Козуляев П. А.
Асимптотический анализ одной основной формулы теории вероятностей. Учёные записки Московского университета. 15, 1939, 179—182.
КолмогоровА. Н.
Ueber die Summen durch den Zufall bestimmter unabhangiger Grossen. Math. Ann. 99, 1928, 309—319; 102, 1929, 484—488.
Sulla forma generale di un processo stocastico omogeneo. Atti Acad. naz. Lincei. 15, 1931, 805—808, 866—869.
Основные понятия теории вероятностей. ОНТИ, 1936.
Eine Verallgemeinerung des Laplace-Liapounoffschen Satzes. Изв. Акад, наук СССР, серия матем., 1931, 956—962.
Ueber die Grenzwertsatze der Wahrscheinlichkeitsrechnung. Изв. Акад, наук СССР, серия физ.-мат., 1933, 363—372.
Об аналитических методах в теории вероятностей. Успехи матем. наук 5, 1938, 5—41; Math. Ann. 104, 1930, 415—458.
Cramer Н.
On the composition of elementary errors. Skand. Aktuarientidiskrift, 1928, 13—74; 141—180.
Ueber eine Eigenschaft der normalen Verteilungsfunctione.' Math. Zeitschr, 41, 1936, 405—414,
величины и распределения вероятностей. М., 1947. Cambridge
Лапин А. И.
О некоторых свойствах устойчивых законов распределения. М., дипломная работа, рукопись, 1947.
L а р 1 а с е Р.
Theorie analitique des probabilites. 1812, 1814, 1820.
L^vy P*
Calcul des probabilites. Paris, 1925.
Sur les integrates dont les elements sont des variables aleatoires iadepen- dentes. Annali R. Sc. Sup. Pfta (2), 3, 1934, 337—366.
Proprietes asymptotiqnes ties sommes de variables aleatoires indSpendentes on enchainees. Journ. Math, pures et appl. (7), 14, 1935, 347—402.
Theorie de l’addition des variables aleatoires. Paris, 1937.
Lindeb erg Y. W.
17] Ei®e иене Herieitutig des Exponentialgesetzes in der Wahrsdaefniichtoeits* . rechnung. Math. Zeitschr. 15, 1922, 211—225.
Линник Ю. В.
18] О точности приближения к гауссову распределению сумм «езав1гишк случайных величин. Изв. Акад, наук СССР, серия матем. 11, 1947, Ш— 138.
Ляпунов А. М.
19] Sur une proposition de la theorie des probabilites. Bull, de Г Acad, des Sc. St. Ptiersbourg (5), 13, №4, 1900, 359—386.
Nouvetle forme du theorems sur la limitc de probabilites. Mem. Ac. St. Petersbourg (8), 12, №5, 1901.
Марков A. A.
[ol] Закон больших чисел и метод наименьших квадратов. Изв. физ.-мат. общества Казанского университета. 8, 1898.
.«Нтр-х^
Sur les ratines de I’equation ^a—3—- = 0. Bull. def Ac. St. Petersbourg, 1898.
[ )3] Исчисление вероятностей. 1900, 1913, 1924.
MarzinkiewiczJ.
Sur les fonctions independentes. Fund. Math. 30, 1938, 354.
Me и 3 л e p Д. Г., П a p ас ю к О. С., Р в а чёва Е. Л.
[ >5] О многомерной локальной предельной теореме теории вероятностей. ДАНССФДХ, № 7,112 7—П28, Украинский матем. жури., № 1,19499—20.
de М о i v г е А.
[•6] Miscellanea Analytics Suppiementum, 1730.
Р oisson.
[.17] Recherches sur la probability des jugements. 1837.
Райков Д. А.
[581 О разложении законов Таусса и Пуассона, Изв. Акад, наук СССР, серия матем., 1938, 91—124.
О связи между центральным предельным законом теории вероятностей и законом больших чисел. Изв. Акад, наук СССР, серия матем., 1938, 323-338..
Романовский В. И.
Snr une езйедМоп du tbM6me de A. Li-apotmoff serf la hrffite de proba- bilite. Изв. Акад, наук СССР, серия матем., 1929, 209—225.
Слуцкий Е. Е.•
Ueber stochastische Asymptoten und Grenzwerte. Melson, 5, 1925, 1—90. Feller W.
Ueber den zentralen Grenzwestsalx to Wahtscteittl&hkci^edrfiu^ Math. Zeitschr. 46», 1935, 521—559; 42, >937, 301--312.
[63J Ueber das Gesetz der grossen Zahlen. Acta litterarum ac scientiarum. 8, fasc. 4, 1937, 191—201.
[641 Generalization of a probability limit theorem of Cramer. Trans. Atto* Mah. Soc. 54, № 3, 1943, 361-372.
de F i n e 11 i Bruno.
Sulla funzione a increment© ateatorio, Rend. R. Accad. LinceL 6, 10, 1929 163—168.
Le funzione caratteristische di legge isfantanea. Rend. R. Accad. Lincef 6, 12,1930, 278—282.
Хинчин A. $L
[671 Основные законы теорий вероятностей, 1926, 1932.
Begriindung der Normalcorrelation nach der Lindebergschen Methode. Изв. ассоц. инет. Моск, ун-та 1—2, 1928, 37—45.
]69J Sut U Loi to grands nombres. €. R, Acad. Sc. Рай» 18ft 1929, 477—4Ж
Sul dominio di attrazione della legge di Gauss,. Giom. К Itab Atluari 6, 1935, 371-393.
Асимптотические законы теории вероятностей. ОНТИ, 1996.
Su una legge dei grand! num eri generalizzata. Giorn. 1st. Itai, Aituori 7, 1936, 365—377.
Ueber Klassenkonvergenz von Verteilungsgesetzen. Изв. НИИ мат.-мех. Томского университета 1, 1937, 261—265.
S
74]Новый вывод формулы П. Леви. Бюлл. Моск, ун-та 1, вып. 1, 1937, 1—5.
Об арифметике законов распределения. Бюлл. Моск, ун-та 1, вып. 1, 1937,6-17.
Zur Theorie der unbeschr^nkt teilbaren Verteilungsgesetze. Матем. сб. 2, 44, 1937, 79—120.
Предельные теоремы для сумм независимых случайных величин. ГОНТИ, 1938.'
Об унимодальных распределениях. Изв. НИИ мат.-мех. Томского университета 2, 2, 1938, 1—7.
Математические основы статистической механики. ГТТИ, 1938.
Хинчин А. Я. и L6vy Р.
Sur les lois stables. C. R. Ac. Sc. Paris. 202, 1936.
Чебышев П. Л.
О средних величинах. Матем. сб* т. 2, 1867, 1—9; сочинения, т. 2, 1947, 431-437.*.
[82} О двух теоремах относительно вероятностей. Приложение к S3 г. Записок Акад, наук, № 6Г 1887, Acta Math. XIV, 1890—1891, 305—315; собр. соч., т. 3, 229—239.
Charlier.'
[83} UBber das Fehlergesetz, 1905. •
Крамер Г.
Основы математической статистики. Гос. изд-во Ин. лит-ры, 1949.
Колмогоров А. Н.
Теория меры и интеграл Лебега.
Гливенко В. И.
Интеграл Стилтьеса.
Курс теории вероятностей. ГОНТИ, 1939.
Sur les valeurs probables de fonclions. Rend. Lincei 8 (1928), 480—483.
Чебышев П. Л.
Sur le developpement des fonctions a une seule variable, Bull, de la Classe phys.-marh. de PAcad. Imp. des Sc.de St. Petersburg 1, стр. 193—200. Собрание сочинений, т. II (1947)."
Харди Г., Литтльвуд Дж., Полна Г.
Неравенства. Гос. изд-во Ин. литературы, 1949.
Cauchy A. L.
Sur les r6sultats moyens d’observations de mfime nature et suries resultats les plus probables. C. R., т 37, 1853, стр. 198.
Гнеденко Б. В.
О локальной теореме для предельных устойчивых распределений. Укр. матем. журн. № 4. 1949, 3—15.
Титчмарш Дж.
Интеграл Фурье. Гостехиздат, 1948.
*) Ясно, что такие же неравенства имеют место и для нижних пределов
*) Относительно условия 1) см. теорему 2 § 35.
Б. В. ГНЕДЕНКО и А. Н. КОЛМОГОРОВ
ПРЕДЕЛЬНЫЕ РАСПРЕДЕЛЕНИЯДЛЯ СУММНЕЗАВИСИМЫХ СЛУЧАЙНЫХВЕЛИЧИН
ГОСУДАРСТВЕННОЕ ИЗДАТЕЛЬСТВОТЕХНИКО-ТЕОРЕТИЧЕСКОЙ ЛИТЕРАТУРЫ
МОСКВА 1949 ЛЕНИНГРАД
11-54
Редактор Ю. В. Прохоров.Техн, редактор С. С. Гаврилов.
Подписано к печати 23/XI 1949 г. 16,5 печ. л. 18,57 уч.-изд. л. 46 000 тип. зн. в печ. л.А-11845. Тираж 3.000 экз. Цена книги 11 р. 15 к. Переплёт 2 руб. Заказ № 5374.
4-я типография им. Евг. Соколовой Главполиграфиздата при Совете Министров СССР.
Ленинград» Измайловский пр., 29.
ОГЛАВЛЕНИЕ
Предисловие